Der Oberste Gerichtshof von Nebraska suspendiert einen Anwalt, der KI nutzte, um einen Brief voller erfundener Zitate zu verfassen

Die Nachrichten über KI-Halluzinationen entwickelten sich von einer Peinlichkeit im Gerichtssaal zu Konsequenzen für die Karriere, als der Oberste Gerichtshof von Nebraska entschied, den Omaha-Anwalt Greg Lake bis auf Weiteres zu suspendieren, nachdem ein Gerichtsbrief, den er in einer Scheidungsbeschwerde eingereicht hatte, 57 fehlerhafte Zitate von 63 enthielt, darunter 20 vollständig erfundene Fallreferenzen und vier vollständig erfundene Fälle, die in keinem Gerichtsstand existieren.

Die Nachrichten über KI-Halluzinationen haben in den Vereinigten Staaten die bisher härteste berufliche Sanktion nach sich gezogen, als der Oberste Gerichtshof von Nebraska am 15. April eine unbefristete Suspendierung des Anwalts Greg Lake verhängte, nach monatelangen Verfahren, die begannen, als Richter bei einer mündlichen Verhandlung im Februar feststellten, dass der Schriftsatz Fehler enthielt, die sie mit keiner veröffentlichten Rechtsprechung aus Nebraska in Einklang bringen konnten.

Der Antrag war im Rahmen einer Scheidungsklage eingereicht worden, in der das Inkrafttreten des Datums für die Aufteilung des ehelichen Vermögens und des Sorgerechts für die Kinder bestritten wurde. Von den 63 Zitaten, die Lake vorlegte, wiesen 57 irgendeine Form von Mängeln auf. Zwanzig waren das, was Gerichte heute als Halluzinationen bezeichnen: realistisch wirkende, aber völlig erfundene Referenzen, die von einem KI-Modell generiert wurden, das plausibel erriet, was der Benutzer verlangte, und überzeugend aussehende, aber nicht vorhandene Zitate produzierte.

Was geschah bei der mündlichen Auseinandersetzung und danach?

Als ein Richter Lake während der Anhörung im Februar fragte, wie es zu den Fehlern gekommen sei, sagte er, er sei an seinem 10. Hochzeitstag gewesen, sein Computer sei auf Reisen kaputt gegangen und er habe die falsche Version des Schriftsatzes hochgeladen. Die Richter fanden die Erklärung nicht überzeugend. Der Anwalt für Disziplin untersuchte und fand einen anderen Bericht: Lake habe KI verwendet, um den Schriftsatz zu verfassen, und ihn dann dem Gericht verweigert, was einen Verstoß gegen berufliche Verhaltensregeln darstellte, die Offenheit gegenüber dem Tribunal erfordern.

In der einstimmigen Stellungnahme des Obersten Gerichtshofs von Nebraska, mit der er den Schriftsatz im März ablehnte und Lake zur Disziplinarstrafe verwies, hieß es eindeutig: „KI kann, wie andere technologische Werkzeuge auch, für die Rechtsgemeinschaft von Vorteil sein, muss aber mit Vorsicht und Bescheidenheit eingesetzt werden.“ Das Gericht bezeichnete die Fehler als leicht vermeidbar durch eine grundlegende Überprüfung durch Standard-Rechtsrechercheplattformen und stellte fest, dass Lake seiner Offenheitspflicht nicht nachgekommen war.

Die umfassendere Sanktionslandschaft

Nebraska ist kein Einzelfall. Der Forscher Damien Charlotin von der HEC Paris, der eine Datenbank mit KI-Halluzinationsfällen in Gerichtsverfahren verwaltet, verfolgt mittlerweile mehr als 1.200 solcher Fälle weltweit, davon etwa 800 von US-Gerichten. Er beschrieb das Tempo als „zehn Fälle von zehn verschiedenen Gerichten an einem einzigen Tag“.

Oregon verhängt mit 109.700 US-Dollar die höchste Gesamtstrafe, die gegen einen einzelnen Anwalt wegen KI-bezogener Anmeldefehler verhängt wird. Der Sechste Bezirk verhängte gegen zwei Anwälte aus Tennessee eine Geldstrafe von 30.000 US-Dollar, die bisher größte Bundesberufungsstrafe im Zusammenhang mit erfundenen Vorladungen. Die unbefristete Suspendierung von Nebraska wäre, wenn sie in einem Berufungsverfahren aufrechterhalten würde, die erste Disziplinarmaßnahme der Anwaltschaft, die die Praxis wegen KI-bezogener Anmeldefehler in den USA vollständig suspendiert und die Konsequenzen von Geldstrafen bis hin zur Karrieresperre eskalieren würde.

Warum das für den KI-Sektor wichtig ist

Jede hochkarätige rechtliche Sanktion im Zusammenhang mit KI-Modellen sendet ein regulatorisches Signal, das kalibriert, wie KI-Tools im beruflichen Umfeld eingesetzt werden dürfen. Für die Risikobewertung von KI in der gesamten Investitions- und Technologielandschaft ist die Reaktion der Anwaltschaft auf Halluzinationen der Kanarienvogel im Bergwerk: Sie definiert, was „verantwortungsvoller Einsatz“ im ersten regulierten Umfeld mit hohem Risiko und Konsequenzen bedeutet. Die KI-Token- und KI-Infrastrukturmärkte werden mit ähnlichen regulatorischen Rahmenbedingungen konfrontiert sein, da sich dieselbe Logik auf Finanzberatung, medizinische Entscheidungen und staatliche Anwendungen derselben zugrunde liegenden Modelle erstreckt.