En una frase
El Kammergericht de Berlín ha amonestado a una abogada porque su escrito citaba dos resoluciones judiciales que no existen —presumiblemente obra de una IA «fantasiosa»—, dejando así una cosa clara: usar la IA está permitido; asumir sin comprobación las citas generadas por la IA, no.
El caso: dos referencias que nunca existieron
En un asunto de derecho de familia (procedimiento de urgencia con asistencia jurídica gratuita), el escrito de una abogada se apoyaba en un auto del Tribunal Supremo Federal (BGH) «de 14 de noviembre de 2007 – XII ZB 183/07» y en una resolución del Tribunal Superior Regional de Brandeburgo. Ninguno de los dos existe. El Kammergericht amonestó a la abogada mediante auto de 20 de noviembre de 2025 (ref. 17 WF 144/25); del caso informan, entre otros, beck-aktuell y el Colegio Federal de la Abogacía alemán (BRAK). El mensaje central del tribunal es notablemente sereno: los abogados pueden emplear la IA, pero deben comprobar cada cita jurisprudencial antes de que salga del despacho. Hace tiempo que dejó de ser un caso aislado: a escala internacional se han documentado alrededor de 1.600 casos de alucinaciones en 35 países, y los tribunales estadounidenses ya han impuesto sanciones.
Por qué los modelos de lenguaje inventan sentencias
Un modelo de lenguaje no es una base de datos, sino una máquina para completar patrones. Ha aprendido qué aspecto tiene un número de asunto del BGH, qué sala resulta plausible para los asuntos de familia y cómo se formula una referencia. Cuando falta la resolución real, genera una que parece formalmente perfecta: tribunal, fecha, número de asunto, todo coherente. Es precisamente esa perfección formal la que hace tan traicioneras a las alucinaciones: no llaman la atención al leer por encima, sino solo cuando se acude a comprobarlas. Quien no comprueba, no advierte nada.
Deontología: la responsabilidad sigue siendo humana
El Kammergericht expresa lo que rige de todos modos en el plano deontológico: quien responde de un escrito responde de cada referencia que contiene, con independencia de qué herramienta haya proporcionado el borrador. Ello coincide con nuestra filosofía de producto: la IA aporta trabajo previo y valoraciones; la comprobación y la decisión corresponden a las personas. Una herramienta que exigiera una confianza ciega sería, en esta profesión, la herramienta equivocada.
Cómo aborda SmartLegalPro el problema de raíz
Las citas alucinadas surgen allí donde el modelo formula con libertad cuando en realidad lo que procede es comprobar. Por eso actuamos en tres puntos:
- Rechtsbibliothek en lugar de la memoria del modelo: nuestro grafo de conocimiento conserva normas y resoluciones reales con referencias reales. Las citas se comprueban frente a ese fondo, no se «recuerdan» a partir del modelo.
- Indicación de las fuentes: allí donde la IA investiga, indica sus fuentes y señala con honestidad qué es fuente oficial y qué es mera búsqueda en la web.
- Doble comprobación de los plazos: en los plazos interviene en paralelo un segundo cálculo independiente, precisamente porque las cifras y las fechas figuran entre las alucinaciones más costosas.
Tampoco esto sustituye la revisión del abogado. Pero la agiliza y le ofrece algo sólido que contrastar.
Para los consumidores: «lo ha dicho ChatGPT» no es un argumento
Lo que para los abogados es un riesgo profesional a menudo permanece invisible para los legos: un chatbot que inventa un precepto, un plazo o una sentencia suena tan convincente como otro que acierta. Quien, sobre esa base, deja vencer un plazo o renuncia a un derecho tiene un problema real. Por eso nuestra evaluación inicial se plantea deliberadamente como una evaluación y, cuando la cosa se pone seria, el camino conduce directamente a abogados de verdad capaces de asumir la responsabilidad del caso.
Cinco puntos antes de que una cita de la IA llegue a un escrito
- Comprobar cada referencia en el original: tribunal, fecha, número de asunto, sumario.
- La existencia no basta: verificar si la resolución sostiene realmente aquello para lo que se cita.
- Aceptar la investigación de la IA solo con fuentes indicadas, nunca con meras afirmaciones.
- Recalcular por principio, de forma independiente, cifras, plazos e importes.
- En caso de duda, omitirla: una cita que falta resulta incómoda; una inventada es un riesgo profesional.
