Escrito por: Sergio Luis Padilla Oñate, Abogado.*
La expansión del uso de la IA en los despachos judiciales es un hecho, en cuanto ya hay un marco regulatorio que lo permita. Por tanto, los operadores jurídicos se están capacitando cada día más en el uso de esta gran herramienta que ha llegado para quedarse.
Así como en su momento ocurrió con el uso de la máquina de fax, el computador de mesa, los computadores portátiles, el internet y cualquier cantidad de dispositivos electrónicos que han influido en la labor judicial en los últimos 40 años.
No obstante, como toda nueva herramienta, esta supone ciertos riesgos en su uso para los funcionarios y servidores judiciales, sobre los cuales va a versar el presente escrito, donde se van a alistar y desmenuzar las situaciones críticas que puede suponer la utilización de este nuevo instrumento.
En principio, se tiene que el principal riesgo del uso de la IA reside en la generación de alucinaciones, las cuales fueron definidas en la Sentencia T-323 de 2024 como “un fenómeno en el que un modelo de lenguaje LLM (Large Language Model), percibe patrones que son inexistentes o imperceptibles para los observadores humanos, creando resultados inesperados”. De modo tal que, en la cotidianidad de los despachos judiciales, esto se traduciría en la creación de hechos, pruebas, memoriales, leyes, jurisprudencia o cualquier tipo de información relevante para las providencias judiciales.
Esto supone un problema muy grave, pues podrían expedirse providencias judiciales con artículos, sentencias, hechos o leyes que fueron inventadas, manipuladas o tergiversadas. Más aún, la situación no es insalvable, pues tiene varias soluciones consistentes en la consulta y verificación en las bases de datos oficiales, la supervisión humana y la citación únicamente de datos comprobables.
Por otro lado, se tiene que un riesgo relevante e inminente del uso de la IA en las providencias judiciales es la vulneración al debido proceso y de las garantías que conlleva, pues, se tiene que hay una cantidad enorme de sesgos (de tintes algorítmicos, sociales, económicos y raciales) que pueden reproducirse en el uso diario de esta tecnología.
Ello iría en contravía del artículo 29 constitucional, y, conlleva a un desbalance en la proyección de las providencias judiciales que acabaría en la perpetuación de un juicio tendencioso y caprichoso. La solución a dicha situación reside en la revisión constante de las motivaciones que sustentan los documentos expedidos por el despacho judicial para hacer las correcciones o enmiendas necesarias a la información generada u organizada con la IA. De modo que el operador tenga en mente un concepto fundamentado en los hechos y el derecho, y, que pueda armarse de la debida fundamentación en sus providencias.
Por otra parte, se avizora que la protección de los datos personales es un punto neurálgico en el uso de la IA, en cuanto la observancia de la Ley 1581 de 2012 en cuanto al habeas data es obligatoria; pues, se tiene que la IA puede usar la información de las partes con fines espurios, más aún si los datos son de carácter reservado, tales como: historias clínicas, biometría, información de menores de edad, etc. Ante lo cual, se debe realizar una protección férrea sobre la intimidad y privacidad de las partes y terceros convocados al proceso, de modo que se resguarde la información.
Finalmente, encuentro que se puede realizar una especie de decálogo de buenas practicas para el uso de la IA acorde a la Sentencia T-323 de 2024.
- Declarar expresamente el uso de la IA en la providencia judicial.
- Identificar la herramienta en particular que fue usada y cuál fue la versión.
- Precisar el alcance de apoyo recibido.
- No sustituir la producción de la IA con la motivación de una providencia judicial.
- Verificar todas las citas normativas y jurisprudenciales.
- No ingresar datos sensibles en plataformas no autorizadas.
- Conservar la trazabilidad de las consultas realizadas.
- Controles de calidad antes de firmar cualquier providencia judicial.
- La permanente supervisión humana.
*Contacto: chechopadilla01@gmail.com
