En una frase
La IA puede inventar referencias jurídicas que parecen sorprendentemente reales — usted no puede fiarse nunca de la referencia por sí sola, sino únicamente de un procedimiento que verifique cada cita frente a una fuente real antes de que el escrito salga del despacho.
La situación de los hechos en 2026
El uso de la IA en los despachos es la norma desde hace tiempo: según el Future Ready Lawyer 2026 de Wolters Kluwer, el 63,6 % de los despachos alemanes utiliza la IA de forma activa — hace dos años eran menos del 30 %. Con la difusión aumenta el riesgo. Mediante resolución de 20 de noviembre de 2025 (17 WF 144/25), el Kammergericht Berlin (tribunal de apelación de Berlín) amonestó a una abogada porque un escrito contenía referencias inventadas y precisó el deber de verificación del abogado (artículo en beck-aktuell). No es un caso aislado: a escala internacional se han documentado unos 1.600 casos de alucinaciones de la IA en 35 países, y los tribunales — en particular en Estados Unidos — han impuesto sanciones en repetidas ocasiones. Puede leer nuestro análisis del caso berlinés en nuestro artículo de actualidad sobre el Kammergericht Berlin.
Por qué los modelos de lenguaje alucinan
Un modelo de lenguaje no consulta una base de datos — predice la siguiente palabra estadísticamente más plausible. Por eso un número de expediente inventado se parece a uno real: tribunal correcto, formato correcto, fecha plausible. Es precisamente esto lo que hace tan peligrosas las alucinaciones de la IA en las sentencias. El reflejo evidente, pedir mediante una instrucción que «solo se citen sentencias reales», no ayuda de forma fiable: en el momento de la generación, el modelo no dispone de ninguna instancia de verdad y no puede distinguir sus propias invenciones de recuerdos auténticos. Por qué las simples herramientas de chat encuentran aquí sus límites lo desarrollamos en Por qué no ChatGPT.
La protección en tres niveles
La IA solo resulta fiable en un escrito gracias a un procedimiento, no a mejores instrucciones. Para evitar las alucinaciones en el despacho se ha impuesto una protección en tres niveles:
- Obligación de fuente en la herramienta: la herramienta no genera ninguna referencia sin una fuente acreditada — una afirmación sin prueba se señala, no se transmite.
- Verificación automática de las citas: cada norma y cada resolución se contrasta con registros reales y con un fondo real de referencias, en lugar de tomarse de la memoria del modelo.
- Control final humano: antes del envío, una persona lo revisa — la responsabilidad del abogado permanece indivisa.
Las obligaciones de transparencia de la UE (art. 50 del EU AI Act) se aplican desde el 2 de agosto de 2026, pero una etiqueta no hace verdadera una cita: la carga de la verificación sigue recayendo en el despacho.
Cómo SmartLegalPro asegura las referencias
SmartLegalPro no sustituye a las abogadas y los abogados — las herramientas están diseñadas para sostener técnicamente la protección en tres niveles:
- Complemento de fuentes (Verify & Expand): verifica las citas de un borrador frente a fuentes acreditadas y añade las referencias en lugar de inventarlas (más información).
- Rechtsbibliothek con un verdadero grafo de normas y resoluciones: un grafo de conocimiento con el que cada referencia puede contrastarse mediante pruebas reales (a la Rechtsbibliothek).
- Doble comprobación de plazos: una segunda mirada independiente sobre los plazos calculados — las cifras y las fechas son tan propensas a las alucinaciones como las citas (detalles).
A ello se suman el alojamiento en la UE, una facturación por cuota en lugar de en euros en el Anwaltsportal y el principio de que los datos del mandato no se utilizan para el entrenamiento.
Cinco controles antes del envío
- Comprobar cada referencia: verificar el número de expediente y el artículo en una fuente oficial como gesetze-im-internet.de — no limitarse a un examen de plausibilidad.
- Releer la afirmación central: ¿sostiene realmente la resolución citada aquello para lo que usted la invoca?
- Calcular los plazos dos veces: hacer recalcular las fechas de forma independiente y contrastarlas con el calendario de plazos.
- Marcar los pasajes sin fuente: todo lo que carezca de prueba se considera no verificado hasta que se disponga de una fuente.
- Documentar la aprobación: ¿quién verificó y cuándo? Una breve nota sobre el control final del escrito protege el mandato y el despacho.
La IA acelera considerablemente el trabajo del despacho — pero la responsabilidad de cada referencia sigue siendo humana. Un proceso riguroso de obligación de fuente, verificación de citas y control final es la diferencia entre una ganancia de eficiencia y una amonestación.
