Este ha sido el interrogante que ha surgido a partir del difundido caso de un Juez en Colombia que se ayudó del chat GPT 3.5 para proferir una sentencia. Pues bien, como un primer vestigio que centra la mirada en el uso de la inteligencia artificial (IA) en el quehacer judicial la Corte Constitucional, dentro de la Sentencia T 323 del año 2024, abordó el uso de la IA por parte de los jueces de la republica dentro de su actividad de administrar justicia; Además de ordenar al consejo superior de la judicatura emitir lineamientos para el uso de esta tecnología en los juzgados, de hacer un estudio mas o menos detallado de los conceptos afines a la IA, estableció algunos criterios que deberán tenerse en cuenta cuando se haga uso de la misma, tales como;
» (1) Transparencia, entendida como la obligación de evidenciar con claridad y precisión el uso, alcances y ubicación en las actuaciones o decisiones de los resultados obtenidos por la utilización de tales herramientas, que permita a los usuarios e interesados su pleno conocimiento y la posibilidad efectiva de contradicción. (2) Responsabilidad, comprendida como aquella obligación que existe de que el usuario de la herramienta de IA se encuentre capacitado y comprenda los impactos del uso de estas tecnologías, para a su vez dar cuenta del origen, idoneidad y necesidad del uso de la IA y la información suministrada por la misma, la cual debe ser verificada. *(3) privacidad , es aquel deber de custodiar y proteger la reserva de los datos personales y sensibles que se ponen en conocimiento de la administración de justicia para cumplir con los fines propios de la Rama Judicial. (4) No sustitución de la racionalidad humana , como expresión de la imposibilidad ética y jurídica de sustituir la acción y la responsabilidad del individuo de la especie humana en la gestión de las actuaciones y decisiones judiciales. (5) Seriedad y verificación, que implica la obligación de realizar un estricto escrutinio sobre las fuentes, alcances, restricciones, posibilidades, falencias y riesgos que presente la herramienta de cara a la actuación en curso o a la solución del problema jurídico correspondiente. (6) Prevención de riesgos, como mandato en cuanto a aplicar los estándares adecuados de control sobre situaciones que generen riesgo por la aplicación de tales tecnologías , en aspectos como imprecisiones, desactualizaciones, alucinaciones, sesgos, inconsistencias y demás. (7) Igualdad y equidad , en cuanto se erradiquen todas las formas de discriminación relacionadas con la aplicación de sesgos derivada del uso de tales tecnologías y su impacto negativo en la eficacia de los derechos humanos. (8) Control humano , en tanto considerando los anteriores criterios, siempre se permita la realización efectiva de escrutinios sobre las actuaciones y decisiones en que se usen herramientas de IA, mediante el acceso a la debida información y el uso de recursos que deban ser resueltos por autoridades humanas. (9) Regulación ética, que implica el desarrollo de estándares de comportamiento individual que se adecúen a los mandatos superiores y legales y a las pautas razonables para el uso de tales tecnologías por parte de los funcionarios y servidores de la Rama Judicial. (10) Adecuación a buenas prácticas y estándares colectivos, en tanto se apliquen los esquemas razonables que se definan para el funcionamiento de la Rama Judicial, desde su autonomía e independencia, a partir de las definiciones que adopten sus autoridades, tanto en sede de administración como de orientación jurisprudencial. (11) Seguimiento continuo y adaptación, a efecto que el uso de tales tecnologías consulte los avances jurídicos, sociológicos y tecnológicos que se vayan implementando, así como los esquemas de mejora y control que se construyan en forma progresiva. (12) Idoneidad . El uso de las tecnologías de la información y de las comunicaciones en la gestión y trámite de los procesos judiciales y asuntos en curso debe ser adecuado para facilitar y agilizar el acceso a la justicia.»
Por: Giovanni Andrés Bernal Salamanca
___________________________________________
Presidente
¡Nuestro compromiso, proteger tus derechos!