In één zin
Het Kammergericht in Berlijn heeft een advocate berispt omdat haar processtuk twee rechterlijke uitspraken aanhaalde die niet bestaan — vermoedelijk het werk van een “fantaserende” AI — en heeft daarmee duidelijk gemaakt: AI gebruiken mag, AI-citaten ongecontroleerd overnemen niet.
De zaak: twee vindplaatsen die nooit bestonden
In een familierechtelijke zaak (spoedprocedure met gefinancierde rechtsbijstand) beriep een processtuk van een advocate zich op een beschikking van het Federale Hof van Justitie (BGH) “van 14 november 2007 – XII ZB 183/07” en op een uitspraak van het hogere regionale gerechtshof van Brandenburg. Beide bestaan niet. Het Kammergericht berispte de advocate bij beschikking van 20 november 2025 (kenmerk 17 WF 144/25); over de zaak berichten onder meer beck-aktuell en de Duitse federale orde van advocaten (BRAK). De kernboodschap van het gerecht is opvallend nuchter: advocaten mogen AI inzetten — maar zij moeten elk jurisprudentiecitaat controleren voordat het het kantoor verlaat. Al lang geen incident meer: internationaal zijn ongeveer 1.600 hallucinatiegevallen in 35 landen gedocumenteerd, en Amerikaanse rechtbanken hebben al sancties opgelegd.
Waarom taalmodellen uitspraken verzinnen
Een taalmodel is geen databank, maar een machine die patronen aanvult. Het heeft geleerd hoe een zaaknummer van het BGH eruitziet, welke kamer plausibel klinkt voor familiezaken en hoe je een vindplaats formuleert. Ontbreekt de echte uitspraak, dan produceert het er een die formeel perfect oogt — gerecht, datum, zaaknummer, alles klopt. Juist die formele perfectie maakt hallucinaties zo verraderlijk: ze vallen niet op bij het doorlezen, maar pas bij het naslaan. Wie niet naslaat, merkt niets.
Beroepsrecht: de verantwoordelijkheid blijft bij de mens
Het Kammergericht verwoordt wat beroepsrechtelijk sowieso geldt: wie voor een processtuk instaat, staat in voor elke vindplaats daarin — ongeacht welk hulpmiddel het concept heeft geleverd. Dat strookt met onze productfilosofie: AI levert voorwerk en inschattingen, het controleren en beslissen gebeurt door mensen. Een hulpmiddel dat blind vertrouwen eist, zou in dit beroep het verkeerde hulpmiddel zijn.
Hoe SmartLegalPro het probleem bij de wortel aanpakt
Gehallucineerde citaten ontstaan daar waar het model vrijuit formuleert, terwijl naslaan eigenlijk geboden is. Daarom grijpen wij op drie punten in:
- Rechtsbibliothek in plaats van modelgeheugen: onze kennisgraaf bevat echte normen en uitspraken met echte vindplaatsen. Citaten worden tegen dit bestand gecontroleerd, niet uit het model “herinnerd”.
- Bronvermelding: waar de AI onderzoek doet, vermeldt zij haar bronnen — en geeft eerlijk aan wat een officiële bron is en wat louter webresearch.
- Tweede controle op termijnen: bij termijnen rekent een tweede, onafhankelijke controle mee — juist omdat getallen en data tot de duurste hallucinaties behoren.
Ook dit vervangt de toetsing door de advocaat niet. Maar het maakt die toetsing sneller en geeft haar iets betrouwbaars om tegen te lezen.
Voor consumenten: “ChatGPT zei het” is geen argument
Wat voor advocaten een beroepsrisico is, blijft voor leken vaak onzichtbaar: een chatbot die een wetsartikel, een termijn of een uitspraak verzint, klinkt net zo overtuigend als een die gelijk heeft. Wie op die basis een termijn laat verlopen of een aanspraak opgeeft, heeft een reëel probleem. Onze eerste inschatting is daarom bewust als inschatting gekaderd — en wordt het menens, dan leidt de weg rechtstreeks naar echte advocaten die de zaak kunnen verantwoorden.
Vijf punten voordat een AI-citaat in het processtuk belandt
- Sla elke vindplaats in het origineel na: gerecht, datum, zaaknummer, kernoverweging.
- Bestaan is niet genoeg — controleer of de uitspraak werkelijk draagt waarvoor zij wordt aangehaald.
- Aanvaard AI-onderzoek alleen met vermelde bronnen, nooit op louter beweringen.
- Reken getallen, termijnen en bedragen principieel onafhankelijk na.
- Bij twijfel weglaten: een ontbrekend citaat is vervelend, een verzonnen citaat is een beroepsrisico.
