En une phrase
Le Kammergericht de Berlin a sanctionné une avocate parce que son mémoire citait deux décisions de justice qui n'existent pas — vraisemblablement l'œuvre d'une IA « fabulatrice » — et a ainsi établi clairement : utiliser l'IA est permis, reprendre sans vérification les citations produites par l'IA ne l'est pas.
L'affaire : deux références qui n'ont jamais existé
Dans une affaire familiale (procédure d'urgence avec aide juridictionnelle), le mémoire d'une avocate s'appuyait sur une ordonnance de la Cour fédérale de justice (BGH) « du 14 novembre 2007 – XII ZB 183/07 » ainsi que sur une décision de la Cour d'appel régionale de Brandebourg. Ni l'une ni l'autre n'existent. Le Kammergericht a réprimandé l'avocate par ordonnance du 20 novembre 2025 (réf. 17 WF 144/25) ; l'affaire est rapportée notamment par beck-aktuell et par l'Ordre fédéral des avocats allemand (BRAK). Le message central de la juridiction est remarquablement posé : les avocats peuvent recourir à l'IA — mais ils doivent vérifier chaque citation de jurisprudence avant qu'elle ne quitte le cabinet. Ce n'est plus depuis longtemps un cas isolé : à l'échelle internationale, environ 1 600 cas d'hallucinations ont été documentés dans 35 pays, et des tribunaux américains ont déjà prononcé des sanctions.
Pourquoi les modèles de langage inventent des décisions
Un modèle de langage n'est pas une base de données, mais une machine à compléter des motifs. Il a appris à quoi ressemble un numéro de rôle du BGH, quelle chambre paraît plausible pour les affaires familiales et comment se formule une référence. Lorsque la véritable décision fait défaut, il en produit une qui paraît formellement parfaite — juridiction, date, numéro de rôle, tout est cohérent. C'est précisément cette perfection formelle qui rend les hallucinations si insidieuses : elles ne sautent pas aux yeux à la lecture rapide, mais seulement lorsqu'on va vérifier. Qui ne vérifie pas ne s'aperçoit de rien.
Déontologie : la responsabilité reste humaine
Le Kammergericht formule ce qui vaut de toute façon sur le plan déontologique : celui qui répond d'un mémoire répond de chaque référence qu'il contient — quel que soit l'outil ayant fourni le brouillon. Cela rejoint notre philosophie produit : l'IA fournit un travail préparatoire et des appréciations ; la vérification et la décision reviennent aux humains. Un outil qui exigerait une confiance aveugle serait, dans ce métier, le mauvais outil.
Comment SmartLegalPro s'attaque au problème à la racine
Les citations hallucinées apparaissent là où le modèle formule librement alors qu'il faudrait en réalité aller vérifier. C'est pourquoi nous agissons sur trois points :
- Rechtsbibliothek plutôt que mémoire du modèle : notre graphe de connaissances conserve de vraies normes et décisions assorties de vraies références. Les citations sont vérifiées face à ce fonds, et non « remémorées » par le modèle.
- Indication des sources : là où l'IA effectue des recherches, elle indique ses sources — et signale honnêtement ce qui relève d'une source officielle et ce qui n'est qu'une recherche sur le web.
- Double contrôle des délais : pour les délais, un second calcul indépendant est effectué en parallèle — précisément parce que les chiffres et les dates comptent parmi les hallucinations les plus coûteuses.
Cela non plus ne remplace pas l'examen par l'avocat. Mais cela le rend plus rapide et lui donne un point d'appui solide à relire.
Pour les particuliers : « ChatGPT l'a dit » n'est pas un argument
Ce qui constitue un risque professionnel pour les avocats reste souvent invisible pour les profanes : un agent conversationnel qui invente un article, un délai ou un jugement paraît tout aussi convaincant que celui qui a raison. Qui laisse expirer un délai ou abandonne un droit sur cette base a un vrai problème. Notre première évaluation est donc délibérément présentée comme une évaluation — et lorsque les choses deviennent sérieuses, le chemin mène directement à de véritables avocats capables d'assumer le dossier.
Cinq points avant qu'une citation issue de l'IA n'entre dans un mémoire
- Vérifier chaque référence dans le texte original : juridiction, date, numéro de rôle, sommaire.
- L'existence ne suffit pas — vérifier si la décision étaie réellement ce pour quoi elle est citée.
- N'accepter une recherche par IA qu'avec des sources indiquées, jamais sur de simples affirmations.
- Recalculer par principe, de façon indépendante, les chiffres, les délais et les montants.
- Dans le doute, s'abstenir : une citation manquante est gênante, une citation inventée est un risque professionnel.
