Anwälte in einem US-Verfahren über Trump-Entlassungen haben sich für gefälschte Zitate entschuldigt, die durch Anthropics Claude-KI generiert wurden. Der Fall zeigt die wachsenden Risiken von KI-Halluzinationen im Rechtssystem.
Anwalt Jason Greaves gab zu, dass ein Gerichtsantrag in einem Verfahren über Bundesentlassungen gefälschte, von Anthropics Claude Console generierte Zitate enthielt. Greaves erklärte, er habe die KI unter Zeitdruck zur Erstellung eines Entwurfs genutzt und einer Kollegin explizit aufgetragen, die Zitationen überprüfen zu lassen. Trotz dieser Überprüfung gelangten erfundene Quellenangaben ins Dokument.
Greaves übernahm volle Verantwortung für die sogenannten "Phantom-Zitationen" und entschuldigte sich vor dem Gericht sowie allen beteiligten Anwälten. Er räumte ein, dass diese Vorgehensweise ein Fehler war und betonte, dass die Verantwortung für genaue Zitate als unterzeichnender Anwalt bei ihm lag.
Dieser Fall reiht sich in eine wachsende Liste von KI-bedingten Problemen vor Gericht ein. Im April wurden bereits Anwälte der Kanzlei Sullivan & Cromwell sanktioniert, nachdem sie von KI erzeugte gefälschte Rechtszitate eingereicht hatten. Juristen werden zunehmend vor der Nutzung von KI-Tools ohne angemessene menschliche Kontrolle gewarnt.