La Suprema Corte de Justicia de la Nación (SCJN) avaló, por primera vez, la penalización del uso de inteligencia artificial para crear y difundir contenidos sexuales.
Por 9 votos contra 1, el Pleno de la Corte declaró constitucional una reforma de febrero de 2024 al Código Penal de Sinaloa, por la cual se agregó al delito de violación a la intimidad sexual la modalidad de crear y manipular imágenes, audios y videos sexuales con herramientas de inteligencia artificial, para compartir o transmitir sin consentimiento de la víctima. El delito es sancionado con pena de 3 a 6 años de cárcel.
La reforma fue impugnada por el Poder Ejecutivo Federal, cuya Consejería Jurídica, en esa época a cargo de la actual candidata a Ministra de la Corte, María Estela Ríos, sostuvo que el artículo 185 Bis C del Código Penal de Sinaloa no es claro al definir la inteligencia artificial, y, por tanto, viola derechos de seguridad jurídica y taxatividad de las normas penales.
SCJN avala penalizar uso de IA para deepfakes sexuales
La pretensión de la demanda del Ejecutivo era eliminar la alusión a la inteligencia artificial, con lo que el delito hubiera seguido aplicando, simplemente, a la manipulación y distribución de imágenes, audios y videos sexuales, pero de manera genérica y sin especificar la forma de generarlas.
La mayoría rechazó la supuesta falta de claridad por la mención de la inteligencia artificial, y el ministro Juan Luis González Alcántara, autor del proyecto, enfatizó que no existe una definición universalmente aceptada de ese concepto.
“Es cierto que la definición no tiene todos los parámetros técnicos, pero no es imprecisa y es comprensible en el contexto del delito de violación a la intimidad sexual”, dijo.
“Se entenderá por inteligencia artificial las aplicaciones, programas o tecnología que analice fotografías, audios o videos y ofrece ajustes automáticos para hacerles alteraciones o modificaciones”, dice la norma de Sinaloa.
Agrega que la conducta sancionada es “crear hechos falsos con apariencia real”, para compartirlos por cualquier medio electrónico sin consentimiento expreso de la persona afectada.
El ministro Alberto Pérez Dayán fue el único disidente, en el punto específico de la alusión a la inteligencia artificial, por considerar que aún si se elimina, de todos modos se puede sancionar la conducta, sin el riesgo de que no quede claro que realmente se utilizó dicha tecnología.
El Código de Sinaloa también sanciona con seis meses a dos años de cárcel a quien tome fotografías, videos o audios de contenido sexual sin permiso de la persona participante.
¿Qué son los deepfakes?
Los deepfakes son videos, imágenes o audios generados por inteligencia artificial que imitan la apariencia y voz de una persona con tal precisión que pueden engañar tanto a las personas como a los algoritmos, para uso de contenido sexual y no sexual con fines de entretenimiento, extorsión o fraude.
Generalmente creados en tiempo real, los deepfakes se utilizan más comúnmente en videos y filtros de realidad aumentada.
LEE TAMBIÉN: ¿Por qué en Yucatán le dicen “china” a la naranja
Aunque muchas aplicaciones para consumidores emplean esta tecnología con fines de entretenimiento —como FaceSwap— la creciente accesibilidad de esta tecnología ha llevado a su uso con fines malintencionados.
Ejemplos de deepfakes
Lo cierto es que aunque la SCJN avaló hoy jueves 20 de febrero penalizar uso de IA para deepfakes sexuales, también se le dan otros usos y aquí te presentamos un famoso ejemplo de deepfakes con Barak Obama.
El video de Obama/Jordan Peele de Buzzfeed
Uno de los ejemplos más famosos de deepfakes que puso esta tecnología en el centro de atención fue un video lanzado en abril de 2018 por Buzzfeed.
En él, aparece un Barack Obama sintético con la voz auténtica de Jordan Peele. Hasta la fecha, ha acumulado más de 19.8 millones de vistas en YouTube.
¿Cómo funcionan los deepfakes?
El término “deepfake” combina el aprendizaje profundo (una rama del aprendizaje automático) y la palabra fake (falso), refiriéndose a contenido generado mediante técnicas de inteligencia artificial.
Los deepfakes se producen utilizando aprendizaje profundo y redes generativas antagónicas (GANs). Las GANs operan a través de dos redes neuronales:
- Generador: Crea imágenes, audios o videos sintéticos.
- Discriminador: Evalúa los resultados del generador e intenta distinguirlos de los datos reales.
¿Por qué son peligrosos los deepfakes?
El uso indebido de deepfakes plantea riesgos graves. Se han empleado en fraudes, desinformación, extorsión y pornografía de venganza.
Un estudio de 2019 reveló que el 96% de los deepfakes detectados eran pornográficos, afectando principalmente a mujeres.
También se han usado para extorsionar víctimas y explotar menores con contenido sintético explícito.
TE SUGERIMOS LEER: Estas drogas usan para someter a víctimas: cómo evitarlas
Es bueno que se tomen medidas para frenar el uso indebido de la inteligencia artificial, especialmente cuando se trata de cosas tan delicadas como los deepfakes sexuales. La tecnología puede ser muy poderosa, pero también puede hacer mucho daño si no se regula. Es un paso necesario para proteger a las personas y evitar abusos.
Es bueno que se tomen medidas para frenar el uso de la inteligencia artificial en cosas tan dañinas como los deepfakes sexuales. La verdad es que este tipo de contenido puede arruinar vidas y es necesario que haya consecuencias para quienes lo hagan. Sin embargo, hay que tener cuidado de no limitar la creatividad o la libertad de expresión de manera injusta. Es un tema complicado, pero al menos se está empezando a hacer algo al respecto.