In einem Satz
Das Kammergericht Berlin hat eine Anwältin gerügt, weil ihr Schriftsatz zwei nicht existente Gerichtsentscheidungen zitierte — mutmaßlich das Werk einer „fantasierenden“ KI — und damit klargestellt: KI nutzen ist erlaubt, KI-Zitate ungeprüft übernehmen ist es nicht.
Der Fall: zwei Fundstellen, die es nie gab
In einer Familiensache (Eilverfahren mit Verfahrenskostenhilfe) berief sich ein anwaltlicher Schriftsatz auf einen BGH-Beschluss „vom 14.11.2007 – XII ZB 183/07“ sowie auf eine Entscheidung des OLG Brandenburg. Beide existieren nicht. Das Kammergericht ermahnte die Anwältin mit Beschluss vom 20.11.2025 (Az. 17 WF 144/25); über den Fall berichten unter anderem beck-aktuell und die BRAK. Die Kernaussage des Gerichts ist bemerkenswert unaufgeregt: Anwältinnen und Anwälte dürfen KI einsetzen — sie müssen aber jedes Rechtsprechungszitat prüfen, bevor es das Haus verlässt. Ein Einzelfall ist das längst nicht mehr: International sind rund 1.600 Halluzinations-Fälle in 35 Ländern dokumentiert, US-Gerichte haben bereits Sanktionen verhängt.
Warum Sprachmodelle Urteile erfinden
Ein Sprachmodell ist keine Datenbank, sondern eine Maschine zur Muster-Vervollständigung. Es hat gelernt, wie ein BGH-Aktenzeichen aussieht, welcher Senat für Familiensachen plausibel klingt und wie man eine Fundstelle formuliert. Fehlt die echte Entscheidung, erzeugt es eine, die formal perfekt wirkt — Gericht, Datum, Aktenzeichen, alles stimmig. Genau diese formale Perfektion macht Halluzinationen so tückisch: Sie fallen beim Überfliegen nicht auf, sondern erst beim Nachschlagen. Wer nicht nachschlägt, merkt nichts.
Berufsrecht: Die Verantwortung bleibt beim Menschen
Das Kammergericht formuliert, was berufsrechtlich ohnehin gilt: Wer einen Schriftsatz verantwortet, verantwortet jede Fundstelle darin — unabhängig davon, welches Werkzeug den Entwurf geliefert hat. Das deckt sich mit unserer Produktphilosophie: KI liefert Vorarbeit und Einschätzungen, geprüft und entschieden wird von Menschen. Ein Werkzeug, das blindes Vertrauen einfordert, wäre in diesem Beruf das falsche Werkzeug.
Wie SmartLegalPro das Problem an der Wurzel angeht
Halluzinierte Zitate entstehen dort, wo das Modell frei formuliert, obwohl eigentlich Nachschlagen gefragt wäre. Deshalb setzen wir an drei Stellen an:
- Rechtsbibliothek statt Modellgedächtnis: Unser Wissensgraph hält echte Normen und Entscheidungen mit echten Fundstellen vor. Zitate werden gegen diesen Bestand geprüft, nicht aus dem Modell „erinnert“.
- Quellenergänzung: Wo die KI recherchiert, weist sie ihre Quellen aus — und kennzeichnet ehrlich, was amtliche Quelle ist und was bloße Web-Recherche.
- Fristen-Zweitprüfung: Bei Fristen rechnet eine zweite, unabhängige Prüfung mit — gerade weil Zahlen und Daten zu den teuersten Halluzinationen gehören.
Auch das ersetzt die anwaltliche Prüfung nicht. Es macht sie aber schneller und gibt ihr etwas Belastbares zum Gegenlesen.
Für Verbraucher: „ChatGPT hat gesagt“ ist kein Argument
Was für Anwälte ein Berufsrisiko ist, bleibt für Laien oft unsichtbar: Ein Chatbot, der einen Paragrafen, eine Frist oder ein Urteil erfindet, klingt genauso überzeugend wie einer, der recht hat. Wer auf dieser Basis eine Frist verstreichen lässt oder einen Anspruch aufgibt, hat ein reales Problem. Unsere Ersteinschätzung ist deshalb bewusst als Einschätzung gerahmt — und wenn es ernst wird, führt der Weg direkt zu echten Anwältinnen und Anwälten, die den Fall verantworten können.
Fünf Punkte, bevor ein KI-Zitat in den Schriftsatz wandert
- Jede Fundstelle im Original nachschlagen: Gericht, Datum, Aktenzeichen, Leitsatz.
- Existenz genügt nicht — prüfen, ob die Entscheidung tatsächlich das trägt, wofür sie zitiert wird.
- KI-Recherche nur mit ausgewiesenen Quellen akzeptieren, nie mit bloßen Behauptungen.
- Zahlen, Fristen und Beträge grundsätzlich unabhängig gegenrechnen.
- Im Zweifel weglassen: Ein fehlendes Zitat ist unangenehm, ein erfundenes ist ein Berufsrisiko.
