¿Es posible una justicia automatizada? Riesgos y dilemas éticos que plantea la utilización de la inteligencia artificial en la administración de justicia

Abstract

El capítulo analiza los riesgos éticos y jurídicos que plantea la incorporación de la inteligencia artificial (IA) en la administración de justicia. Tras repasar el origen del concepto de IA y su evolución desde el test de Turing hasta los sistemas de aprendizaje automático actuales, el autor examina los riesgos generales del uso de la IA en el ámbito socio-jurídico (vigilancia, privacidad, discriminación algorítmica) y los riesgos específicos para la función jurisdiccional: sesgos discriminatorios, opacidad de los algoritmos ("caja negra"), dificultades de rendición de cuentas y el impacto en la formación de los profesionales del derecho. A partir de ahí, propone un marco de principios (respeto a los derechos fundamentales, no discriminación, calidad y seguridad, transparencia, control humano) y de límites (supervisión humana, seguridad, transparencia, rendición de cuentas) para una IA jurídica fiable, apoyándose en los requisitos fijados por el Consejo de Europea. Revisa además ejemplos de implementación real, el algoritmo predictivo de Sheffield/Pensilvania sobre el TEDH, la aplicación china Xiao Fa, el programa mexicano Expertius y valora la viabilidad de automatizar distintas fases del proceso (admisión de demandas, ODR, medidas cautelares, valoración de prueba). Concluye que la automatización plena de la justicia es hoy inviable y que el elemento humano resulta irrenunciable para garantizar decisiones justas y equitativas, defendiendo un modelo de IA complementaria y auditable, sostenido en la colaboración interdisciplinar entre juristas e informáticos.