KI-Halluzinationsfälle: Der Sanktions-Tracker mit 2.202 Fällen

Die wichtigsten Fakten

• 2.202 Entscheidungen weltweit, die halluziniertes KI-Material betreffen (Charlotin-Datenbank, aktualisiert am 19. Oktober 2026).
• Nach Ländern: Vereinigte Staaten 1.501; Kanada 234; Australien 112; Vereinigtes Königreich 76; Brasilien 41; Indien 16; Italien 15; Frankreich 14; Argentinien 10; Singapur 8 (Länderfilter der Charlotin-Datenbank, 19. Oktober 2026).
• Nach einreichender Partei: Parteien ohne anwaltliche Vertretung 1.267; Anwältinnen und Anwälte 872; Richterinnen und Richter 32; Sachverständige 17 (Parteienfilter der Charlotin-Datenbank, 19. Oktober 2026).
• Wachstum: rund 200 Fälle Mitte 2025, 719 im Januar 2026 (Scientific American, 2026), 1.227 Anfang April 2026 (PlatinumIDS, April 2026), 1.458 am 22. Mai, 1.598 am 9. Juni, 2.046 am 21. September und 2.202 am 19. Oktober 2026 (Prüfungen der Live-Datenbank durch HAQQ).
• Höchste Sanktion in einem einzelnen Verfahren, die wir belegen können: rund 109.700 US-Dollar an Sanktionen und Gebühren in Couvrette v. Wisnovsky, D. Oregon (ABA Journal, 2026).
• US-Gerichte verhängten im ersten Quartal 2026 Sanktionen von über 145.000 US-Dollar wegen KI-gestützter Schriftsätze (ComplexDiscovery, April 2026).
• Withers v. City of Aberdeen, N.D. Mississippi, 8. Juni 2026: gefälschte Zitate auf beiden Seiten, Hauptverhandlung abgesagt, zwei federführende Anwälte für zwei Jahre vom Bezirk suspendiert (Bloomberg Law, Juni 2026).
• Kostenpflichtige juristische Recherchetools halluzinierten bei 17 % (Lexis+ AI) bis 33 % oder mehr (Westlaw AI-Assisted Research) der Benchmark-Anfragen (Stanford RegLab und HAI, Journal of Empirical Legal Studies, 2025).

Wie viele Fälle von KI-Halluzinationen gibt es?

2.202, Stand der Aktualisierung der Datenbank vom 19. Oktober 2026. Die Datenbank wird von Damien Charlotin geführt, Research Fellow an der HEC Paris. Die Aufnahmekriterien sind streng: Eine Entscheidung wird nur aufgenommen, wenn ein Gericht oder Tribunal festgestellt oder klar angedeutet hat, dass sich eine Partei auf halluziniertes Material gestützt hat. Bloße Vorwürfe zählen nicht.

Wir prüfen die Zahl jeden Monat selbst, statt Sekundärberichte zu zitieren. Am 22. Mai 2026 lag der Stand bei 1.458. Am 9. Juni waren es 1.598, ein Tempo von knapp acht neuen Fällen pro Tag. Zwischen dem 9. Juni und dem 21. September sank das Tempo auf rund 4,3 pro Tag (2.046). Zwischen dem 21. September und dem 19. Oktober zog es wieder auf rund 5,6 pro Tag an (2.202).

Zwei Vorbehalte beim Lesen der Zahl. Erstens zählt sie nur, was ein Richter bemerkt und schriftlich festgehalten hat; ein gefälschtes Zitat, das niemand prüft, gelangt nie in die Datenbank, 2.202 ist also eine Untergrenze. Zweitens betreffen die meisten Einträge keine Anwälte. Auf Parteien ohne anwaltliche Vertretung entfallen 1.267 der Entscheidungen, auf Anwältinnen und Anwälte 872. Die Anwaltsfälle sind diejenigen, die zu Sanktionen, Suspendierungen und Meldungen an Aufsichtsbehörden führen, und sie sind es, die diese Seite im Detail verfolgt.

Wie schnell wächst die Zahl?

Scientific American (2026) bezifferte die Datenbank ein Jahr zuvor auf rund 200 Fälle und im Januar 2026 auf 719. PlatinumIDS zählte im April 2026 1.227 Fälle, davon 811 vor US-Gerichten. Unsere vier Prüfungen seit Mai setzen dieselbe Linie fort. Die Tagesrate schwankt von Monat zu Monat, ist aber nie unter vier gefallen.

Welche Anwälte wurden wegen gefälschter KI-Zitate sanktioniert?

Die folgende Tabelle listet die Entscheidungen, die wir als Meilensteine betrachten, geprüft anhand des Urteils oder der Primärberichterstattung. Von oben nach unten gelesen zeigt sie die Entwicklung der Sanktionen: eine Geldbuße 2023, Kostenerstattungen und widerrufene Zulassungen 2025, dann bis 2026 Suspendierungen, eine abgesagte Hauptverhandlung und persönliche Kostentragung durch aufsichtführende Anwälte.

Wie gehen Gerichte in den einzelnen Rechtsordnungen mit KI-Halluzinationen um?

Gerichte in den Vereinigten Staaten, in England und Wales, in Singapur und in Argentinien sind ohne Abstimmung zur selben Regel gelangt: Der Anwalt, der ein Dokument einreicht, muss jede darin zitierte Fundstelle prüfen, und diese Pflicht lässt sich weder an ein Tool noch an einen jüngeren Kollegen oder einen Anbieter delegieren. Unterschiede gibt es bei der Frage, wer zahlt und wie viel.

Vereinigte Staaten: von Geldbußen bis zum Karriereende

Auf US-Gerichte entfällt der größte Teil der Datenbank (1.501 von 2.202 Entscheidungen) und der größte Teil der Geldbeträge. Mata v. Avianca (S.D.N.Y., Juni 2023) setzte den Bezugspunkt: sechs von ChatGPT erfundene Fälle, eine Geldbuße von 5.000 US-Dollar. In Wadsworth v. Walmart (D. Wyoming, Februar 2025) stammten acht von neun Zitaten von der kanzleieigenen Plattform von Morgan & Morgan, MX2.law, und existierten nicht; der verfassende Anwalt verlor seine Pro-hac-vice-Zulassung (LawSites, 2025). Die Bezeichnung eines Tools als Legal AI hat die Prüfpflicht nicht vom Anwalt verlagert.

In Coomer v. Lindell (D. Colorado, Juli 2025) kostete ein Schriftsatz mit fast 30 fehlerhaften Zitaten jeden der beiden Anwälte 3.000 US-Dollar (NPR, 2025). In Couvrette v. Wisnovsky (D. Oregon) führten 15 gefälschte Zitate und acht erfundene Textstellen in drei Schriftsätzen zum Summary Judgment zu insgesamt rund 109.700 US-Dollar an Sanktionen und Gebühren; der Magistrate Judge sprach von "einem notorischen Ausreißer, sowohl nach Ausmaß als auch nach Umfang" (ABA Journal, 2026).

Danach hoben die Berufungsgerichte die Obergrenze an. In Whiting v. City of Athens stellte der Sixth Circuit mehr als 24 gefälschte Zitate fest und verurteilte zwei Anwälte nach Federal Rule of Appellate Procedure 38 zu Strafsanktionen von je 15.000 US-Dollar, zuzüglich der Gebühren der Gegenseite und doppelter Kosten (Sixth Circuit Appellate Blog, 2026). Am 8. Juni 2026 sagte Richterin Sharion Aycock in Withers v. City of Aberdeen eine Hauptverhandlung ab, nachdem beide Seiten nicht existierende Fälle eingereicht hatten, suspendierte die beiden federführenden auswärtigen Anwälte für zwei Jahre vom Northern District of Mississippi, widerrief Pro-hac-vice-Zulassungen und informierte die Anwaltskammern der Bundesstaaten (Bloomberg Law, 2026).

England und Wales: die Regel der maßgeblichen Quelle

In R (Ayinde) v London Borough of Haringey, verhandelt zusammen mit Al-Haroun v Qatar National Bank, verkündete der Divisional Court (die Präsidentin der King's Bench Division und Johnson J) am 6. Juni 2025 die Entscheidung [2025] EWHC 1383 (Admin). Fünf gefälschte Fälle in einer gerichtlichen Überprüfung in einer Obdachlosigkeitssache brachten eine junge Barrister vor das Gericht. Das Gericht stellte fest, dass die Schwelle zur Missachtung des Gerichts erreicht war, verzichtete diesmal auf die Einleitung eines Verfahrens und meldete sie an den Bar Standards Board (Burges Salmon, 2025).

"Frei verfügbare Werkzeuge der generativen künstlichen Intelligenz... sind nicht in der Lage, verlässliche juristische Recherche durchzuführen." (R (Ayinde) v Haringey [2025] EWHC 1383 (Admin))

Das Urteil zählte zudem auf, was als maßgebliche Quelle gilt: die Gesetzesdatenbank der Regierung, die Urteilsdatenbank der National Archives, die amtlichen Law Reports und die Datenbanken seriöser juristischer Verlage. Diese Liste ist eine praktische Anforderung an jedes Recherchetool, auf das sich ein Barrister verlässt.

Das Upper Tribunal (Immigration and Asylum Chamber) ging bei der Aufsicht in UK v Secretary of State for the Home Department [2026] UKUT 81 (IAC), verkündet am 17. November 2025, noch weiter. Im Rahmen seiner Hamid-Zuständigkeit entschied es, dass ein aufsichtführender Anwalt für die Richtigkeit delegierter Arbeit verantwortlich bleibt und sicherstellen muss, dass Mitarbeitende die Risiken nicht spezialisierter KI verstehen. Es meldete einen Solicitor an die Solicitors Regulation Authority; der andere hatte sich bereits selbst gemeldet. Zudem warnte es, dass das Hochladen vertraulicher Dokumente in ein offenes Tool wie ChatGPT die Vertraulichkeit verletzen und auf das Privileg verzichten kann und dem Information Commissioner's Office gemeldet werden sollte.

Singapur: persönliche Kosten für beide Anwälte

In Tan Hai Peng Micheal v Tan Cheong Joo [2026] SGHC 49 (Urteil vom 6. März 2026) befasste sich S Mohan J mit zwei fiktiven Fällen in den Schlussvorträgen der Beklagten. Prozessanwältin Goh Peck San reichte sie ein; Solicitor Amarjit Singh Sidhu, der zur Unterstützung bei der Recherche hinzugezogen worden war, hatte sie geliefert. Das Gericht entschied, dass die Prüfpflicht des Prozessanwalts nicht delegierbar ist, verurteilte beide zu persönlichen Kosten von je 5.000 S$ auf Indemnity-Basis, lehnte es ab, die Sache vertraulich zu behandeln, und untersagte beiden, ihren Mandanten die dafür aufgewendete Zeit in Rechnung zu stellen.

Argentinien: Verwarnungen und Meldungen an die Anwaltskammer in der Berufungsinstanz

Argentinien hat 10 Entscheidungen in der Datenbank. Die Berufungsentscheidungen, die wir prüfen konnten, enden mit Verwarnungen und Meldungen an die örtliche Anwaltskammer; keine verhängte eine Geldbuße. In M.J.L. c/ Peugeot Citroen Argentina stellte die Zivilberufungskammer von General Roca nicht existierende Zitate in den Schriftsätzen beider Seiten fest, verhängte keine Sanktion, sprach eine förmliche Verwarnung aus und verwies die Sache an das Colegio de Abogados de General Roca. In Acevedo c/ Caceres Mareco erklärte die Sala I der Zivil- und Handelsberufungskammer von Morón die Berufung für verwaist, weil ihre Begründung auf Zitaten beruhte, die niemand auffinden konnte, und verwies die Sache ebenfalls an die Anwaltskammer (Marval O'Farrell Mairal, Oktober 2025).

Eine Berufungskammer in Rosario (Sala II, August 2025) verfolgte dieselbe präventive Linie: Sie bewertete das Verhalten des Anwalts als gutgläubig, bezeichnete die ungeprüfte Delegation der Rechtsprechungsrecherche jedoch als leichtfertig, solange die Tools noch halluzinieren (Diario Judicial, 2025). Die prozessuale Folge ist die, die argentinische Anwälte spüren: Eine auf gefälschte Fundstellen gestützte Berufung genügt nicht dem Erfordernis der konkreten Kritik und geht verloren.

Wie haben sich die KI-Sanktionen verschärft?

Das Geld zählt weniger als die übrigen Folgen. Die Entscheidungen von 2025 und 2026 bringen widerrufene Zulassungen, Meldungen an Aufsichtsbehörden, eine Feststellung der Missachtung des Gerichts, eine abgesagte Hauptverhandlung, Suspendierungen im Bezirk und persönliche Kosten für den Anwalt, der ohne Prüfung unterschrieben hat. Eine Geldbuße beendet eine schlechte Woche. Eine zweijährige Suspendierung von einem Bundesbezirk beendet die Praxis dort.

Warum reichen Anwälte immer wieder gefälschte KI-Zitate ein?

Die Basisraten erklären das meiste. Die Studie von Stanford RegLab ergab, dass speziell entwickelte, kostenpflichtige Recherchetools bei 17 % (Lexis+ AI) bis 33 % oder mehr (Westlaw AI-Assisted Research) ihrer Benchmark-Anfragen halluzinierten, und eine frühere Stanford-Studie stellte fest, dass allgemeine Chatbots bei 69 % bis 88 % juristischer Anfragen falsch lagen. Unser eigener Benchmark mit 300 Aufgaben für Frontier-Modelle ergab, dass 24 % der bewerteten Antworten Recht zitierten oder anwandten, das die Aussage nicht stützte (HAQQ hat diesen Benchmark durchgeführt und verkauft ein Legal-AI-Produkt; gewichten Sie unsere Zahlen entsprechend). Ein Tool, das sich in einem von vier Fällen irrt und täglich von vielbeschäftigten Anwälten genutzt wird, füllt diese Datenbank planmäßig.

Der Rest ist Delegation. Wadsworth zeigt eine Kanzleiplattform, die acht von neun Zitaten erfindet. UKUT 81 und SGHC 49 zeigen die unterzeichnende Person, die sich darauf verlässt, dass jemand anderes geprüft hat. Jede der oben genannten Rechtsordnungen kam zur selben Antwort: Die Unterschrift trägt die Pflicht.

Wie können Anwälte Sanktionen wegen KI-Zitaten vermeiden?

• Öffnen Sie vor der Einreichung jede zitierte Fundstelle in einer Primärquelle (amtliche Entscheidungssammlungen, Gerichtsdatenbanken, Gesetzesportale). Ein Zitat, das nur in der KI-Ausgabe existiert, gilt als gefälscht, bis das Gegenteil bewiesen ist.
• Prüfen Sie, ob die Textstelle das aussagt, was der Schriftsatz behauptet. Mehrere sanktionierte Schriftsätze zitierten echte Fälle für Aussagen, die diese nie getroffen hatten.
• Verankern Sie die Prüfung bei der Unterschrift. Aufsichtführende Anwälte im Vereinigten Königreich und in Singapur wurden für Arbeit verantwortlich gemacht, die sie delegiert und nicht geprüft hatten.
• Halten Sie vertrauliche Dokumente von Verbraucher-Chatbots fern; das Upper Tribunal behandelt dies als Problem der Vertraulichkeit und des Privilegs.
• Bevorzugen Sie Tools, die Quellen abrufen und anklickbar zitieren, gegenüber Tools, die aus dem Gedächtnis antworten, und dokumentieren Sie, was geprüft wurde.

So haben wir die juristische Recherche von HAQQ aufgebaut: Justinian ruft die Quelle ab, zitiert sie und weist darauf hin, wenn es keine Stütze findet, und wesentliche Arbeit geht an einen Anwalt, bevor sie die Kanzlei verlässt. Das verkleinert die Lücke und belässt die Prüfpflicht beim Anwalt.

Wie wird dieser Tracker aktuell gehalten?

Einmal im Monat lesen wir die Live-Datenbank und die Primärberichterstattung erneut und prüfen vier Punkte: die Gesamtzahl, die höchste belegte Sanktion, neue Meilensteinentscheidungen (Berufungsinstanz, grenzüberschreitend oder eine neue Art von Sanktion) und die implizite Tagesrate. Eine Zahl, die wir nicht erneut prüfen können, wird von der Seite entfernt.

• 20. Oktober 2026: Zahl von 2.046 auf 2.202 aktualisiert (Datenbankaktualisierung vom 19. Oktober), +156 in 28 Tagen, rund 5,6 pro Tag. Aufschlüsselungen nach Land und einreichender Partei ergänzt. Unseren früheren Bericht zu den Rechtsordnungen integriert: UKUT 81, geprüfte Anordnungen in SGHC 49 (je 5.000 S$) und die argentinischen Berufungsentscheidungen (Verwarnungen und Meldungen an die Anwaltskammer). Aufschlüsselung der Geldbußen in Wadsworth korrigiert.
• 21. September 2026: Zahl von 1.598 auf 2.046 aktualisiert, +448 in 104 Tagen, rund 4,3 pro Tag.
• 11. Juni 2026: als Tracker neu aufgebaut. Zahl von 1.458 auf 1.598 aktualisiert. Couvrette, Whiting, Withers, Wadsworth, Coomer, Ayinde und Tan Hai Peng ergänzt.
• 22. Mai 2026: ursprüngliches Audit mit 1.458 Fällen veröffentlicht.

Allgemeine rechtliche Informationen, keine Rechtsberatung; prüfen Sie die Regeln des Gerichts und der Aufsichtsbehörde, vor denen Sie auftreten.

Quellen und weiterführende Lektüre

• Damien Charlotin: Datenbank AI Hallucination Cases
• R (Ayinde) v Haringey und Al-Haroun v QNB [2025] EWHC 1383 (Admin), Judiciary of England and Wales
• UK v SSHD [2026] UKUT 81 (IAC), National Archives
• Tan Hai Peng Micheal v Tan Cheong Joo [2026] SGHC 49, eLitigation
• Marval O'Farrell Mairal: Argentinische Gerichte warnen vor gefälschten KI-Zitaten
• ABA Journal: Bundesrichter in Oregon verhängt Sanktion von 110.000 US-Dollar wegen KI-Fehlern
• Bloomberg Law: Anwälte beider Seiten in einem Verfahren in Mississippi wegen KI-Fehlern bestraft
• Sixth Circuit Appellate Blog: Sanktionen wegen gefälschter Zitate in Whiting v. City of Athens
• LawSites: Anwälte von Morgan & Morgan in Wadsworth v. Walmart sanktioniert
• NPR: KI-Halluzination im Fall Mike Lindell
• Burges Salmon: Berufsrecht und KI in Ayinde v Haringey
• Scientific American: Warum Anwälte immer wieder von KI erfundene Fälle zitieren
• ComplexDiscovery: Die KI-Sanktionswelle, 145.000 US-Dollar an Sanktionen im ersten Quartal
• PlatinumIDS: Einblick in die KI-Halluzinationskrise an den Gerichten
• Stanford HAI / RegLab: Juristische Modelle halluzinieren bei mindestens einer von sechs Anfragen
• Unser Experiment zur Suche nach gefälschten Zitaten
• Dürfen Anwälte KI nutzen? Berufsregeln Land für Land
• Unser Benchmark mit 300 Aufgaben für Frontier-Modelle (die Zitierlücke von 24 %)
• KI und Mandantenvertraulichkeit für Anwälte