In una frase
Il Kammergericht di Berlino ha richiamato un'avvocata perché il suo atto citava due decisioni giudiziarie che non esistono — presumibilmente opera di un'IA «fantasiosa» — chiarendo così un punto: usare l'IA è consentito, riprendere senza verifica le citazioni prodotte dall'IA non lo è.
L'atto: due riferimenti che non sono mai esistiti
In una causa di diritto di famiglia (procedimento d'urgenza con gratuito patrocinio), l'atto di un'avvocata si fondava su un'ordinanza della Corte federale di giustizia (BGH) «del 14 novembre 2007 – XII ZB 183/07» e su una decisione della Corte d'appello regionale di Brandeburgo. Nessuna delle due esiste. Il Kammergericht ha ammonito l'avvocata con ordinanza del 20 novembre 2025 (rif. 17 WF 144/25); del caso riferiscono, tra gli altri, beck-aktuell e l'Ordine forense federale tedesco (BRAK). Il messaggio centrale del giudice è notevolmente pacato: gli avvocati possono usare l'IA — ma devono verificare ogni citazione giurisprudenziale prima che esca dallo studio. Non è più da tempo un caso isolato: a livello internazionale sono documentati circa 1.600 casi di allucinazioni in 35 Paesi, e i tribunali statunitensi hanno già comminato sanzioni.
Perché i modelli linguistici inventano sentenze
Un modello linguistico non è una banca dati, ma una macchina per il completamento di schemi. Ha imparato che aspetto ha un numero di ruolo del BGH, quale sezione risulta plausibile per le cause di famiglia e come si formula un riferimento. Quando manca la decisione reale, ne genera una che appare formalmente perfetta — giudice, data, numero di ruolo, tutto coerente. È proprio questa perfezione formale a rendere le allucinazioni così insidiose: non saltano all'occhio scorrendo il testo, ma solo quando si va a controllare. Chi non controlla non si accorge di nulla.
Deontologia: la responsabilità resta all'essere umano
Il Kammergericht formula ciò che vale comunque sul piano deontologico: chi risponde di un atto risponde di ogni riferimento in esso contenuto — a prescindere da quale strumento abbia fornito la bozza. Ciò coincide con la nostra filosofia di prodotto: l'IA fornisce il lavoro preparatorio e le valutazioni, la verifica e la decisione spettano alle persone. Uno strumento che pretendesse una fiducia cieca sarebbe, in questa professione, lo strumento sbagliato.
Come SmartLegalPro affronta il problema alla radice
Le citazioni allucinate nascono là dove il modello formula liberamente, quando invece servirebbe andare a controllare. Per questo interveniamo su tre fronti:
- Rechtsbibliothek al posto della memoria del modello: il nostro grafo della conoscenza conserva norme e decisioni reali con riferimenti reali. Le citazioni vengono verificate rispetto a questo patrimonio, non «ricordate» dal modello.
- Indicazione delle fonti: dove l'IA effettua ricerche, indica le proprie fonti — e segnala onestamente ciò che è fonte ufficiale e ciò che è mera ricerca sul web.
- Doppio controllo delle scadenze: per le scadenze interviene in parallelo un secondo calcolo indipendente — proprio perché numeri e date rientrano tra le allucinazioni più costose.
Anche questo non sostituisce l'esame dell'avvocato. Ma lo rende più rapido e gli offre un riscontro solido su cui rileggere.
Per i consumatori: «lo ha detto ChatGPT» non è un argomento
Ciò che per gli avvocati è un rischio professionale spesso resta invisibile ai profani: un chatbot che inventa una norma, una scadenza o una sentenza suona convincente esattamente quanto uno che ha ragione. Chi, su questa base, lascia decorrere una scadenza o rinuncia a una pretesa ha un problema reale. La nostra valutazione preliminare è perciò deliberatamente presentata come una valutazione — e quando la questione si fa seria, il percorso conduce direttamente a veri avvocati in grado di assumersi la responsabilità del caso.
Cinque punti prima che una citazione dell'IA finisca in un atto
- Verificare ogni riferimento nel testo originale: giudice, data, numero di ruolo, massima.
- L'esistenza non basta — verificare se la decisione sostiene davvero ciò per cui viene citata.
- Accettare la ricerca dell'IA solo con fonti indicate, mai su semplici affermazioni.
- Ricalcolare per principio, in modo indipendente, numeri, scadenze e importi.
- Nel dubbio, ometterla: una citazione mancante è spiacevole, una inventata è un rischio professionale.
