Anwälte gaben zu, in einem Gerichtsverfahren über Entlassungen fake Zitate verwendet zu haben, die von Anthropics Claude-KI generiert wurden. Der Fall zeigt die wachsenden Risiken von KI-Halluzinationen im Rechtssystem.
In einem Verfahren zum Trump-Verwaltungspersonal gab Anwalt Jason Greaves zu, dass er Anthropics Claude Console unter Zeitdruck für die Erstellung eines Schriftsatzes genutzt hatte. Die eingereichte Dokumentation enthielt später mehrere erfundene Zitate, die von der KI generiert worden waren. Greaves erklärte, er habe seine Kollegin explizit angewiesen, alle Zitate zu überprüfen – diese Überprüfung sei jedoch unzureichend gewesen.
Als verantwortlicher Partner übernahm Greaves die volle Haftung für die fehlerhaften Zitate und entschuldigte sich vor Gericht und gegenüber allen beteiligten Anwälten. Er räumte ein, dass der Einsatz von KI-Tools zur Dokumentenvorbereitung unter Zeitdruck „ein Fehler" war und die Verantwortung für korrekte Zitationen letztendlich bei ihm lag.
Der Fall reiht sich in eine wachsende Serie von KI-bedingten Gerichtsfehlern ein – erst im April wurden Anwälte einer großen Kanzlei sanktioniert, nachdem sie gefälschte Rechtszitate einer KI eingereicht hatten. Experten warnen zunehmend vor den Risiken von KI-Halluzinationen im juristischen Kontext.