Juez redactó una sentencia con IA y la anularon

La Cámara Penal de Esquel anuló una sentencia dictada en junio de este año por el Juez Penal Carlos Rogelio Richeri por haber utilizado el ChatGPT para redactar la sentencia. La utilización de la Inteligencia Artificial (IA) se pudo constatar porque en una parte del escrito se leía “cortar y pegar". Ante este hecho insólito, ahora investigan a dicho magistrado.

El escándalo se desató en la condena de dos años y seis meses de prisión de cumplimiento efectivo que recibió Raúl Amelio Payalef, quien fue hallado en aquella oportunidad como responsable de un robo simple.

Aun así, tras el conocimiento del dictamen y de los fundamentos de la condena, se descubrió que el juez utilizó IA para redactar la sentencia y el caso pasó a altas esferas de la Justicia provincial.

Este miércoles 15 de octubre, el tribunal tomó la decisión de anular el fallo contra Payalef “al constatar que el juez de primera instancia incluyó accidentalmente una frase que revela el uso de un asistente de Inteligencia Artificial (IA) generativa para redactar la resolución de puntos decisorios”.

A raíz de este grave error, se deberá realizar nuevamente el juicio contra el acusado, pero en esta oportunidad con otro juez, según destaca la publicación del Ministerio Público Fiscal de Chubut.

En la resolución se destaca que la prueba más contundente del uso del ChatGPT fue que en la sentencia se encuentra parte de la conversación que el juez mantuvo con el asistente artificial: "Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar:".

Los jueces de la Cámara advirtieron que esta evidencia ("cortar y pegar") deja una "brecha demasiado amplia" para determinar cuánto texto es atribuible a la IA Generativa (IAGen) y cuánto al juez, lo que tensiona la prohibición de delegar decisiones judiciales a sistemas automáticos.

“El error demostró, a los ojos del tribunal revisor, que el juez no ejerció correctamente la supervisión y el control humano obligatorio, suscribiendo la sentencia con la cita de la IA. La omisión de dejar constancia del uso de la IA, así como de lo requerido al asistente, impide controlar la trazabilidad del razonamiento del juez, haciendo que la decisión se pueda equiparar a una respuesta meramente dogmática o inmotivada”, manifestaron.

Los jueces de la Cámara, Carina Estefanía, Martín Zacchino y Hernán Dal Verme, ordenaron remitir “las presentes actuaciones al Superior Tribunal de Justicia -organismo que ejerce la superintendencia de la actividad jurisdiccional desplegada por el Juez Penal Dr. Carlos Rogelio Richeri- con competencia para investigar y determinar el alcance de las graves consecuencias producidas en este proceso en virtud del uso incorrecto de la IA, que motivó la declaración de nulidad de la sentencia y del juicio que la precede, con todo lo que ello significa para los justiciables, para la ciudadanía toda y para el Estado, responsable de garantizar el acceso a la justicia y la tutela judicial efectiva”.

Con información de  Noticias Argentinas