Nota de opinión por Eduardo Castillo Páez, Abogado, Diplomado en Derecho Penal, Ciencias Forenses y Perfilación Criminal.
En los últimos días nos hemos enterado de varios casos de denuncias por la difusión y venta de imágenes de desnudez generadas mediante la utilización de lo que se conoce como IA o Inteligencia Artificial. Uno de los primeros casos conocidos en el país se dio el año pasado, cuando un estudiante universitario de 23 años en San Juan fue denunciado por comercializar en sitios web para adultos imágenes varias de sus compañeras de facultad editadas con Inteligencia Artificial. Aunque no pudo ser condenado por dicha conducta, dado el vacío legal que existe en la materia, el joven fue condenado a tres años de prisión condicional por tenencia y distribución de material de explotación sexual infantil.
En esta semana, se han difundido dos casos ocurridos en escuelas secundarias de Buenos Aires y Córdoba, el primero sucedió en la localidad bonaerense de San Martín donde un adolescente de 15 años fue denunciado por vender fotos editadas de sus compañeras de colegio, y el segundo, se trata de un joven de 18 años en la ciudad de Córdoba que editó con IA un video de alto contenido erótico con imágenes reales de varias de sus compañeras de escuela. También se informó recientemente lo sucedido en la localidad santafesina de San Jerónimo Sud, donde numerosas mujeres resultaron víctimas de montajes de sus imágenes obtenidas de las redes sociales en distintos videos pornográficos.
Esta práctica de editar imágenes, videos e incluso audios con Inteligencia Artificial se conoce como “deepfake”, palabra que surge de combinar los términos “deep learning” (aprendizaje profundo) y “fake” (falso o falsificación). Según estudios recientes, la visibilidad de estos montajes o manipulaciones cibernéticas se ha multiplicado por más de diez en todo el mundo desde el año 2022.
Aunque no todas las aplicaciones de “deepfake” puedan resultar perjudiciales o ilegales, es importante considerar que al ser herramientas muy accesibles y de fácil utilización, pueden resultar muy peligrosas en materia de engaños y fraudes de todo tipo, difamación, daño moral, violencia digital, y obviamente, lo vinculado con la generación de imágenes y videos pornográficos (“porn deepfake”). De igual manera los riesgos se incrementan cuando entran en juego las redes sociales ya que contribuyen rápidamente con la difusión y viralización del material manipulado.
Tanto en nuestro país como a nivel internacional existe una gran preocupación por regular jurídicamente todo lo relacionado con estas nuevas tecnologías, haciendo hincapié en la necesaria y efectiva protección de las víctimas de dichas manipulaciones. La Unión Europea en su Ley de IA clasifica los sistemas y aplicaciones en virtud del grado de riesgo que significan, implementando mayores requisitos de responsabilidad y supervisión humana en su apertura y uso. Países como Estados Unidos, Corea del Sur y Australia, están sancionando nuevas leyes y políticas públicas para la prevención y concientización sobre sus posibles riesgos, la creación de herramientas para su detección y fundamentalmente, para disminuir la circulación del material a nivel mundial.
Como lo decíamos en nuestro artículo “Suicidio y violencia digital” se han promovido en nuestro país la sanción de leyes y la elaboración de numerosos proyectos legislativos para cubrir estos vacíos legales que existían y aún siguen existiendo en lo que hace al mundo de los entornos digitales. En cuanto a los proyectos de ley que todavía esperan tratamiento y sanción, podemos destacar lo que ya se conoce como “Ley Belén”, proyecto que incluye numerosas modificaciones al Código Penal, con la creación de seis nuevos delitos, entre ellos la obtención y difusión no consentida de material íntimo y/o de desnudez, los montajes digitales realizados con Inteligencia Artificial en imágenes y videos de pornografía (“porn deepfake”) y la extorsión con amenazas de publicación de imágenes intimas (“sextorsión”).
Ante los vacíos legales que existen en nuestro ordenamiento jurídico respecto al avance de las nuevas herramientas tecnológicas, desde la justicia se puede recurrir a otras figuras delictivas que sí contemplan estas conductas o sus consecuencias como por ejemplo las amenazas coactivas, las lesiones, abuso de confianza, etc. En el caso del joven cordobés de 18 años, el fiscal de Violencia Familiar y de Género Pablo Cuenca Tagle, decidió imputarlo por “lesiones graves calificadas por el contexto de género” (pena de 3 a 10 años, art. 92 del Código Penal).
Queda claro que cada vez son más estos casos de deepfakes, por lo que es indispensable un amplio debate jurídico, sociológico, ético y tecnológico que vaya mucho más allá de la legislación y las penas aplicables para quienes crean, compartan e inclusive vean las imágenes falsas. La educación y prevención son fundamentales, especialmente en los adolescentes para que comprendan y entiendan que no se trata de una broma o un juego divertido, sino de una conducta muy peligrosa que puede acarrear graves daños y consecuencias.-