IA y menores: Fallo pionero en Argentina contra imágenes de desnudez falsas
La Justicia de Paso de los Libres, Corrientes, dictaminó el bloqueo de una aplicación que empleaba inteligencia artificial para generar imágenes íntimas falsas de menores, utilizando sus rostros sin consentimiento. La medida cautelar, emitida por la doctora Marta Rut Legarreta, jueza del Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres, buscó proteger los derechos de adolescentes damnificados cuyas imágenes fueron manipuladas.
El abogado Napoleón Gambetta, habitual columnista en Aries, explicó en detalle el funcionamiento de esta aplicación y el alcance de la decisión judicial. "En una escuela de Paso de los Libres comenzaron a circular fotos de alumnos de secundaria, menores de edad, desnudos", relató Gambetta. La investigación reveló la existencia de una aplicación gratuita y de muy fácil uso que, al cargar una foto de una persona, "devolvía el cuerpo desnudo, una imagen muy bien lograda", que, aunque falsas, parecían muy reales.
Ante la viralización de estas imágenes y la preocupación de los padres, uno de ellos inició una acción judicial. Si bien no se logró identificar al autor original de las imágenes ni a los desarrolladores de la aplicación, el juzgado actuó con premura. "Con muy buen tino, el juzgado de Paso de los Libres bloqueó la aplicación", resaltó Gambetta.
La solicitud de bloqueo se dirigió al ENACOM por dos razones fundamentales: la ausencia de filtros de edad para acceder a la aplicación y la falta de medidas de seguridad que advirtieran que las imágenes eran generadas con inteligencia artificial. "No tenía ningún tipo de medida de seguridad o por lo menos que aclarara que era una imagen diseñada con inteligencia artificial", destacó el abogado.
La jueza Legarreta aplicó la Ley de Protección Integral de las Mujeres para fundamentar su decisión, ya que la principal damnificada era una adolescente mujer. Esta ley permite la supresión de contenidos que constituyan violencia digital. Gambetta resaltó la relevancia del fallo por abordar una problemática actual que surge del uso de la inteligencia artificial, una tecnología aún no regulada en Argentina. "El propio juez lo dice: 'Miren, acá hay una persona que está pidiendo individualizar quién hizo el daño, yo no puedo saber ni quién desarrolló la aplicación ni quién mandó a crear la foto, yo te bloqueo la aplicación como solución'", concluyó Gambetta, subrayó la contundente respuesta judicial.