Sistemas de inteligencia artificial con capacidad de decisión autónoma están siendo evaluados en contextos judiciales de varios países, incluyendo la detención preventiva de individuos. Este avance tecnológico ha abierto un debate de fondo en el ámbito del Derecho Penal: ¿puede un algoritmo reemplazar el razonamiento de un juez sin comprometer garantías fundamentales del Estado de derecho?

Esta pregunta fue central en el XXI Congreso Internacional de la Asociación Internacional de Derecho Penal (AIDP), celebrado en París en junio de 2024. La posición predominante entre los especialistas presentes fue que delegar decisiones judiciales a sistemas automatizados resulta incompatible con los principios éticos y constitucionales que sostienen los sistemas de justicia modernos. La representación argentina en ese foro argumentó que ningún sistema de IA puede sustituir el proceso deliberativo de un juez, dado que ese proceso implica dimensiones que la programación algorítmica no puede replicar.

Los límites estructurales de la IA en contextos judiciales

Uno de los argumentos más sólidos contra el uso de IA en decisiones penales es la ausencia de capacidad ética en estos sistemas. Cuando se interrogó directamente a Gemini —sistema desarrollado por Google— sobre su aptitud para tomar decisiones morales, el propio sistema reconoció su incapacidad para comprender la moralidad de la misma manera que un ser humano. Esta limitación no es un defecto técnico subsanable: es estructural al modelo de funcionamiento de cualquier sistema de aprendizaje automático.

La teoría de la culpabilidad en el Derecho Penal exige que el juez evalúe las circunstancias individuales que llevaron a una persona a cometer un delito. Ese análisis requiere captar matices emocionales, interpretar lenguaje no verbal y ponderar contextos vitales únicos. Los modelos de IA operan sobre patrones estadísticos extraídos de datos históricos, lo que los hace incapaces de realizar ese tipo de valoración singular.

El riesgo de los sesgos algorítmicos en la justicia

Más allá de la incapacidad ética, existe un riesgo operativo concreto: los sistemas de IA reproducen y pueden amplificar los sesgos presentes en los datos con los que fueron entrenados. En contextos penales, esto se traduce en decisiones que podrían discriminar sistemáticamente a ciertos grupos sociales, étnicos o económicos, sin que exista un mecanismo de rendición de cuentas equivalente al que aplica sobre un juez humano.

Este fenómeno ya ha sido documentado en sistemas de evaluación de riesgo de reincidencia utilizados en Estados Unidos, donde auditorías independientes detectaron disparidades raciales significativas en las predicciones generadas por algoritmos. La opacidad de muchos modelos de IA —el llamado problema de la "caja negra"— dificulta además la posibilidad de apelar o cuestionar una decisión automatizada, lo que erosiona el derecho a la defensa.

Implicaciones para la arquitectura del sistema judicial

El debate no es si la IA puede ser útil en el sistema judicial —lo es, como herramienta de apoyo para análisis de documentos, detección de patrones o gestión de expedientes—, sino si puede o debe tomar decisiones que afectan la libertad, el patrimonio o las relaciones familiares de las personas. Esa distinción es crítica para cualquier organización que opere en sectores regulados o que interactúe con sistemas de cumplimiento normativo.

La integración de IA en procesos de decisión de alto impacto exige marcos de gobernanza robustos: auditorías de sesgo, explicabilidad de los modelos, supervisión humana obligatoria y mecanismos de impugnación claros. Sin esos controles, la automatización judicial no representa una mejora de eficiencia, sino una transferencia de riesgo legal y reputacional hacia las instituciones que la adopten.