KI-Halluzinationen vor Gericht in Mississippi: Vier Anwälte sanktioniert

Beide Seiten eines Zivilprozesses in Mississippi stützten ihre Argumente auf erfundene KI-Urteile. Die Richterin brach die Verhandlung ab und verhängte Geldstrafen.

Zivilprozess in Mississippi platzt: KI beider Parteien erfindet Gerichtsurteile

Vor dem Bundesgericht im Northern District des US-Bundesstaates Mississippi ist ein Vertragsstreit spektakulär gescheitert. Wie Google News DE — Crime (de) unter Berufung auf das US-Onlinemagazin 404 Media berichtet, hatten die Rechtsbeistände beider Streitparteien generative KI eingesetzt, um ihre juristischen Argumentationen zu untermauern – ohne die Ergebnisse zu prüfen.

Im Kern des Verfahrens stand ein Streit über unbezahlte Honorare: Anwalt Tom Withers verklagte die Stadt Aberdeen. Beide Seiten reichten Schriftsätze ein, die sich auf Präzedenzfälle stützten, die schlichtweg nicht existierten. Die eingesetzten Sprachmodelle hatten die angeführten Gerichtsurteile frei erfunden.

Richterin Sharion Aycock brach die Verhandlung daraufhin umgehend ab und entzog allen vier beteiligten Anwältinnen und Anwälten das Mandat für diesen Fall. Das Gericht verhängte zusätzlich Geldstrafen zwischen 1.000 und 3.500 US-Dollar sowie teilweise zweijährige Auftrittsverbote für den Gerichtsbezirk. Kläger Withers selbst blieb von Sanktionen verschont, da er nicht für das Versagen seines Rechtsbeistands haftbar gemacht wurde.

„In einer Ära der grassierenden, ungeprüften KI-Nutzung in der Rechtsbranche ist dieser Fall ein Paradebeispiel für das Risiko, das damit einhergeht, die Ergebnisse ungesehen durchzuwinken", rügte Aycock das Verhalten der Anwälte. Das systematische Versäumnis bei der inhaltlichen Kontrolle rechtfertige die verhängten Strafen.

Laut den Gerichtsakten ließen beide Parteien faktisch zwei Chatbots gegeneinander antreten, ohne die generierten Ausgaben einer menschlichen Überprüfung zu unterziehen. Der Jurist Rob Freund, der den Sachverhalt als Erster auf der Plattform X veröffentlichte, bezeichnete den Vorgang als eine „Komödie der KI-Fehler" – die Mandanten hätten im Grunde dafür bezahlt, dass ein Sprachmodell gegen sich selbst argumentiert.

Das Phänomen der sogenannten Halluzinationen – bei denen Sprachmodelle plausibel klingende, aber völlig fiktive Fakten erzeugen – ist in US-Gerichten bereits länger ein Problem. Im vergangenen Jahr hatte ein Fall im Bundesstaat New York für Aufsehen gesorgt, weil die Klägerseite bei Recherchen auf ChatGPT vertraut hatte. Der Mississippi-Fall markiert jedoch eine neue Eskalationsstufe: Erstmals verletzten auf beiden Seiten eines Verfahrens gleichzeitig alle Beteiligten grundlegende juristische Sorgfaltspflichten.

Die verhängten Sanktionen bedeuten keinen vollständigen Entzug der Anwaltszulassung, beeinträchtigen jedoch die berufliche Reputation der Betroffenen erheblich. KI-Werkzeuge beschleunigen zwar Arbeitsprozesse, ersetzen aber nicht die fachliche Endkontrolle durch menschliche Experten – ein Grundsatz, den dieser Fall mit juristischen Konsequenzen unterstreicht.

Source: Google News DE — Crime (de)