La inteligencia artificial (IA) se ha consolidado como una herramienta con enorme potencial en muchos sectores, y el ámbito jurídico no es la excepción. Sin embargo, su adopción también está dejando al descubierto graves problemas cuando no se emplea con cuidado.
¿Qué son las “alucinaciones” de la IA?
Cuando hablamos de “alucinaciones” en IA nos referimos a la tendencia de estos sistemas a generar información que parece plausible y bien redactada, pero que en realidad es incorrecta o directamente inventada. En derecho, esto puede traducirse en jurisprudencia que nunca existió, citas a sentencias falsas o interpretaciones normativas erróneas.
Los riesgos reales en la práctica jurídica
El problema ha dejado de ser teórico para convertirse en un riesgo tangible dentro de los tribunales. En varios países, abogados y hasta jueces han presentado documentos elaborados con ayuda de IA que contienen referencias falsas o mal fundamentadas, simplemente porque la herramienta generó resultados que no verificaron lo suficiente.
Por ejemplo, en España, un tribunal superior decidió investigar a un abogado que presentó un recurso citando jurisprudencia e informes que, tras analizarse, resultaron ser fruto de un modelo de IA y no existían en la realidad. La investigación está encaminada a determinar si hubo una falta a la buena fe procesal.
Otro caso ocurrió en Navarra, donde un letrado presentó una querella con una referencia incorrecta a un artículo del código penal colombiano creyendo que era del español; el error derivó del uso descuidado de herramientas basadas en IA.
¿Por qué ocurren estos errores?
Las IA generativas funcionan prediciendo texto con base en patrones aprendidos de grandes cantidades de datos; no verifican hechos contra fuentes oficiales. Esa falta de una capacidad intrínseca de comprobación hace que, si no hay supervisión humana, los resultados puedan ser engañosos o directamente falsos.
Además, muchos profesionales aún no tienen suficiente formación digital ni protocolos claros sobre cómo integrar estas herramientas en su trabajo diario.
La supervisión humana sigue siendo indispensable
Abogados, jueces y otros expertos coinciden en que la IA puede ser útil para tareas repetitivas o para procesar grandes volúmenes de información, pero siempre bajo supervisión humana. La responsabilidad última de verificar y validar cada dato sigue recayendo en las personas que firman y presentan los documentos ante los tribunales.
De hecho, organismos como el Consejo General de la Abogacía Española (CGAE) y el Consejo General del Poder Judicial (CGPJ) han subrayado la necesidad de establecer protocolos que aseguren el control consciente y efectivo de los sistemas de IA utilizados en contextos legales.
La inteligencia artificial tiene el potencial de transformar el ejercicio del derecho, haciéndolo más eficiente y accesible. Pero estas ventajas solo se materializan si se reconoce y se afronta su principal limitación: la posibilidad de generar errores convincentes. Por ello, abogados y jueces deben combinar la innovación tecnológica con un riguroso análisis crítico y verificaciones humanas para evitar que las “alucinaciones” de la IA causen más perjuicios que beneficios.
Dejar un comentario
¿Quieres unirte a la conversación?Siéntete libre de contribuir!