Los beneficios son claros en la agilización de tareas, como la búsqueda de normativa, el análisis de precedentes y la organización de pruebas, lo mismo que en la reducción de la mora judicial, al permitir emitir fallos en un menor tiempo, y optimizar los recursos al liberar el tiempo ocupado en gestionar las tareas repetitivas. Pero advierten que la responsabilidad final de cualquier decisión judicial debe recaer siempre en el juez humano. “Para fortalecer el estado de derecho, el desarrollo e implementación de estas tecnologías debe adherirse a estrictos principios éticos, como el respeto de la autonomía humana, la transparencia, la responsabilidad y rendición de cuentas, la robustez y seguridad, y la justicia”, explica Rincón.
Sin embargo, hay un gran reto para implementar este proceso en Colombia. “Es una condición técnica, en el país muy poco del derecho está digitalizado así que, su implementación en todo el territorio es aún, una realidad muy lejana”, comenta Rincón. “Solo desde 1991 está digitalizado el derecho nacional, el producido por el gobierno y sus entes, pero no así, el derecho territorial, lo cual todavía reposa en copias impresas, o incluso escritas, en los juzgados territoriales”.
Iniciativas en la justicia
PretorIA no es la única iniciativa para aprovechar las posibilidades de la IA*. Por ejemplo: la Corte tiene también el Buscador de jurisprudencia de la relatoría, una herramienta “que permite de manera rápida con un alto grado de precisión, encontrar las providencias proferidas por la Corte y publicadas por la Relatoría”. La Comisión Nacional de Disciplina Judicial creó en marzo de 2025 “Sentencias para la Gente IA”, para crear videos cortos que resumen las sentencias judiciales.
La Fiscalía general de la Nación también ha hecho pasos en la misma dirección. En enero de 2025 comenzó a utilizar un modelo de IA para la “Asignación automática de casos”, y desde mayo del mismo año, el Proyecto Think se dedica a asistir el “procesamiento y análisis de datos no estructurados, tales como audios, videos e imágenes”.
En 2017 inició la implementación del programa Watson Explorer de IBM, una propuesta promovida por el antiguo fiscal Néstor Humberto Martínez. Renombrado luego como Fiscal Watson, el programa fue instalado para “realizar asociación de casos registrados en el Sistema Penal Oral Acusatorio (SPOA)”, pero no hay información pública disponible sobre las estadísticas de uso y éxito del programa y, en la web de la Fiscalía solo hay menciones de 2018. El Plan 2024-2028 de Direccionamiento Estratégico no menciona a Watson aunque sí la importancia de “adoptar tecnologías de Big Data, inteligencia artificial y aprendizaje automático”. La Fundación Karisma junto con la coordinación de Derechos Digitales elaboró un informe sobre el Fiscal Watson en 2024 y recabó información sobre el programa, entre otras cosas, gracias a un derecho de petición.
La Fiscalía también puso en marcha durante un tiempo, el Sistema Perfil de Riesgo de Recurrencia de la Solicitud de Medidas Penitenciarias (PRISMA), para predecir el riesgo de reincidencia delictiva. Según la Fiscalía, “un error común cometido por fiscales y jueces es que dejan en libertad a muchos individuos de muy alto riesgo y les otorgan medida de aseguramiento a personas de muy bajo nivel de riesgo”. Por el momento, su uso está suspendido, pero el programa pretendía determinar si se debe o no “solicitar medida de aseguramiento intramural, prisión domiciliaria o ninguna medida de aseguramiento”. Y los resultados que esperaban eran ambiciosos. Según datos de la propia Fiscalía, el uso de esta herramienta de predicción del riesgo de reincidencia puede disminuir el número de delitos cometidos por reincidentes en 25 % y el número de medidas de aseguramiento intramural en 36 %.
Combatiendo los riesgos
El uso de modelos comerciales de IA en la toma de decisiones judiciales pone en riesgo, no solo la soberanía nacional en términos de gobernanza, sino los datos personales y privados de millones de colombianos, lo cual afecta la administración de justicia como derecho fundamental. Por eso es clave que haya una vigilancia rigurosa por parte de los mismos entes judiciales, para que se aplique las correcciones necesarias, como en el caso de la Sentencia T-323 de 2024 de la Corte Constitucional.
A la Corte llegó la petición de revisión de un caso de vulneración del derecho a la salud de un menor diagnosticado con un trastorno de espectro autista en el cual la jueza de segunda instancia utilizó la versión 3.5 de ChatGPT para apoyar su decisión a favor del niño. La corte se preguntaba si, había habido alguna vulneración del debido proceso y emitió la Sentencia T-323 de 2024 en donde analiza el uso de la IA generativa por parte de los jueces del país, examinando los riesgos asociados.
Con esta decisión, el Consejo Superior de la Judicatura expidió el Acuerdo PCSJA24-12243 del 16 de diciembre de 2024, por el cual “se adoptan lineamientos para el uso y aprovechamiento respetuoso, responsable, seguro y ético de la inteligencia artificial en la Rama Judicial”, y ordenaba la capacitación de los funcionarios judiciales en el manejo ético y responsable de estas tecnologías. También publicó un Manual de uso de IA para que los jueces, y demás funcionarios entendieran cómo deberían usar las herramientas, una práctica que parece ya ampliamente utilizada.
* Estos sistemas están recopilados por el proyecto interdisciplinario “Sistemas de Algoritmos Públicos” de la Escuela de Gobierno de la Universidad de los Andes, que “busca contribuir al conocimiento sobre los sistemas algorítmicos del sector público de América Latina y el Caribe”. https://algoritmos.uniandes.edu.co/
