El riesgo del “pseudo-derecho”: inteligencia artificial, alucinaciones y deberes éticos en el litigio
El riesgo del “pseudo-derecho”: inteligencia artificial, alucinaciones y deberes éticos en el litigio
Autor/a: María Fernanda Bejarano, Nicolás Camelo y Pablo Güete
La irrupción de herramientas de inteligencia artificial generativa en el ejercicio profesional del derecho dejó de ser una novedad. Hoy, abogados, jueces y funcionarios judiciales utilizan sistemas como ChatGPT, Google Gemini o Claude para resumir documentos, organizar ideas, corregir textos o incluso proponer líneas argumentativas. El fenómeno es global y, en Colombia, ya tiene consecuencias disciplinarias y procesales concretas.
La discusión dejó de ser si la inteligencia artificial puede utilizarse en el litigio. La verdadera pregunta es otra: ¿qué ocurre cuando se usa sin verificación crítica y termina introduciendo normas o precedentes inexistentes dentro del proceso judicial?
La respuesta reciente de la justicia colombiana es contundente.
El primer pronunciamiento colombiano sobre “alucinaciones jurídicas”
En febrero de 2026, la Sala de Casación Civil de la Corte Suprema de Justicia (MP: Martha Patricia Guzmán Álvarez, Rad. 2025-05324) profirió una decisión particularmente relevante sobre el uso indebido de inteligencia artificial por parte de abogados litigantes. Allí se analizó la conducta de un apoderado judicial que presentó un recurso extraordinario sustentado en normas mal citadas y sentencias inexistentes, las cuales posteriormente reconoció haber obtenido mediante un programa de inteligencia artificial.
El caso resulta especialmente grave porque las referencias falsas no eran errores evidentes a primera vista. Las providencias inventadas incluían números de radicación, magistrados ponentes y extractos argumentativos plausibles. Incluso las normas citadas parecían auténticas desde el punto de vista sintáctico y formal.
La Relatoría de la Corte verificó que ninguna de las sentencias existía realmente en los repositorios oficiales por lo que la providencia identificó el núcleo del problema: los sistemas de inteligencia artificial generativa son capaces de producir contenido jurídicamente verosímil pero completamente falso. La Corte denominó este fenómeno “pseudo-derecho”: contenido carente de correlato con el ordenamiento jurídico, pero presentado con apariencia de autoridad normativa.
Las “alucinaciones” no son un error accidental
Uno de los aportes más importantes de la decisión es su explicación técnica del funcionamiento de los modelos de lenguaje de gran tamaño (Large Language Models – LLM). La Corte explica que estos sistemas no “consultan” el derecho como lo haría una base de datos jurídica tradicional. En realidad, generan texto mediante predicción probabilística de palabras y secuencias lingüísticas.
Por ello, cuando el sistema no tiene información suficiente o cuando detecta patrones incompletos, no responde “no sé”. Lo que hace es completar la secuencia textual con el contenido estadísticamente más plausible. Ahí aparecen las llamadas “alucinaciones”: respuestas falsas formuladas con absoluta seguridad y coherencia formal.
La providencia acierta al señalar que este problema es especialmente delicado en el derecho por una razón fundamental: las fuentes jurídicas no solo describen el derecho; constituyen el derecho mismo.
Inventar un precedente o alterar el contenido de una norma no equivale simplemente a citar mal una fuente académica. Significa introducir dentro del proceso un fundamento normativo inexistente.
El estándar de diligencia del abogado cambia
La decisión de la Corte Suprema marca un punto de inflexión importante: el uso de inteligencia artificial no reduce el estándar de diligencia profesional del abogado; por el contrario, lo incrementa.
La providencia sostiene que todo litigante tiene un deber de veracidad en la citación de fuentes jurídicas. Esto implica que el abogado no puede atribuir a la ley o a la jurisprudencia un contenido inexistente ni invocar precedentes apócrifos y debe entender que la responsabilidad nunca se traslada al algoritmo.
La Corte es clara en afirmar que la verificación de la exactitud recae “inexorablemente” en el usuario. En otras palabras, la inteligencia artificial puede asistir al abogado, pero jamás sustituir su juicio profesional ni su deber de comprobación.
El Consejo Superior de la Judicatura ya había advertido el riesgo
A finales de 2024, el Consejo Superior de la Judicatura expidió el Acuerdo PCSJA24-12243, mediante el cual adoptó lineamientos para el uso responsable, seguro y ético de inteligencia artificial en la Rama Judicial.
El Acuerdo reconoce expresamente los riesgos asociados a los modelos generativos: errores, imprecisiones, falsedades, sesgos discriminatorios y “alucinaciones”.
También establece principios particularmente relevantes:
-
La IA no puede sustituir la racionalidad humana ni la motivación judicial.
-
Todo contenido generado debe ser verificado por el usuario humano.
-
Los funcionarios judiciales son responsables de las decisiones adoptadas utilizando herramientas de IA.
-
Debe existir supervisión, control y escrutinio permanente sobre las fuentes y resultados generados.
Comentarios
Artículo sin comentarios