NUEVA YORK.— Sorprendidas el año pasado por la repentina popularidad de los chatbots, impulsados por inteligencia artificial (IA) como ChatGPT, las escuelas de todo Estados Unidos se apresuraron a contener los robots generadores de texto en un esfuerzo por prevenir las trampas de los estudiantes.
Ahora, un fenómeno más alarmante de generación de imágenes mediante IA está sacudiendo los colegios.
Los adolescentes de varios estados han utilizado aplicaciones de “nudificación” ampliamente disponibles para pervertir fotografías reales e identificables de sus compañeras de clase vestidas, asistiendo a eventos como fiestas de graduación escolares, en imágenes gráficas y de apariencia convincente de las adolescentes con los senos y genitales expuestos generados por IA.
En algunos casos, los niños compartieron las imágenes falsas en el comedor de la escuela, en el autobús escolar o mediante chats grupales en plataformas como Snapchat e Instagram, según informes de la escuela y la policía.
Consecuencias
En un amplio reportaje, “The New York Times” alerta que este tipo de imágenes alteradas digitalmente, conocidas como “deepfakes” o “deepnudes”, tendrían consecuencias devastadoras.
Los expertos en explotación sexual infantil dicen que el uso de imágenes no consensuadas generadas por IA para acosar, humillar e intimidar a mujeres jóvenes puede dañar su salud mental, su reputación y seguridad física, además de crear riesgos para sus planes universitarios y profesionales.
El mes pasado, el FBI es advirtió que es ilegal distribuir material de abuso sexual infantil generado por computadora, incluidas imágenes de aspecto realista generadas por IA de menores identificables que participan en conductas sexualmente explícitas.
Sin embargo, el uso por parte de los estudiantes de aplicaciones explotadoras de IA en las escuelas es tan nuevo que algunos distritos parecen menos preparados para abordarlo que otros.
Eso puede hacer que las salvaguardias sean precarias para los estudiantes.
“Este fenómeno ha aparecido muy repentinamente y puede estar tomando a muchos distritos escolares desprevenidos e inseguros de qué hacer”, dijo Riana Pfefferkorn, investigadora del Observatorio de Internet de Stanford, que escribe sobre cuestiones legales relacionadas con la sexualidad infantil generada por computadora.
Investigación
En la escuela secundaria Issaquah, cerca de Seattle, el otoño pasado, un detective de la policía que investigaba quejas de padres sobre imágenes explícitas generadas por IA de sus hijas de 14 y 15 años preguntó a un subdirector por qué la escuela no había informado del incidente a la policía, según un informe del Departamento de Policía de Issaquah.
Luego, el funcionario escolar preguntó “qué se suponía que debía denunciar”, según el documento policial, lo que llevó al detective a informarle que las escuelas están obligadas por ley a denunciar abusos sexuales, incluido posible material de abuso sexual infantil.
Posteriormente, la escuela informó del incidente a los Servicios de Protección Infantil, según el informe policial.
(“El New York Times” obtuvo el informe policial a través de una solicitud de registros públicos).
En un comunicado, el Distrito Escolar de Issaquah dijo que había hablado con estudiantes, familias y la policía como parte de su investigación sobre los “deepfakes”.
El distrito también “compartió nuestra empatía”, según el comunicado, y brindó apoyo a los estudiantes afectados.
La declaración agregaba que el distrito había reportado las “imágenes falsas generadas por inteligencia artificial a los Servicios de Protección Infantil por precaución”, y que “según nuestro equipo legal, no estamos obligados a reportar imágenes falsas a la policía”.
Expulsión
En la secundaria Beverly Vista, en Beverly Hills, California, los administradores contactaron a la policía en febrero después de enterarse de que cinco adolescentes habían creado y compartido imágenes explícitas de compañeras de clase generadas por IA.
Dos semanas después, la junta escolar aprobó la expulsión de cinco estudiantes, según documentos del distrito.
(El distrito dijo que el código de educación de California le prohibía confirmar si los estudiantes expulsados eran los que habían fabricado las imágenes).
Michael Bregy, superintendente del Distrito Escolar Unificado de Beverly Hills, indicó que él y otros líderes escolares querían sentar un precedente nacional de que las escuelas no deben permitir que los alumnos creen y hagan circular imágenes sexualmente explícitas de sus compañeros.
“Eso es acoso extremo cuando se trata de escuelas”, sostuvo el doctor Bregy. Las imágenes explícitas son “perturbadoras y violatorias” para las niñas y sus familias. “Es algo que aquí no toleraremos en absoluto”.
Las escuelas de las comunidades pequeñas y prósperas de Beverly Hills y Westfield estuvieron entre las primeras en reconocer públicamente los incidentes de “deepfake”.
Los detalles de los casos, descritos en las comunicaciones del distrito con los padres, reuniones de la junta escolar, audiencias legislativas y expedientes judiciales, ilustran la variabilidad de las respuestas de las escuelas.
Imágenes explícitas
Las escuelas públicas de Westfield celebraron una reunión ordinaria de la junta directiva a finales de marzo en la secundaria local, un complejo de ladrillos rojos en Westfield, Nueva Jersey, con un marcador en el exterior dando la bienvenida con orgullo a los visitantes de los equipos deportivos “Hogar de los Diablos Azules”.
Pero para Dorota Mani las cosas no fueron como de costumbre.
En octubre, algunas niñas de décimo grado en Westfield High School, incluida Francesca, la hija de 14 años de Mani, alertaron a los administradores de que los niños de su clase habían utilizado un software de IA para fabricar imágenes sexualmente explícitas de ellas y estaban haciendo circular las imágenes falsas.
Cinco meses después, dicen los Manis y otras familias, el distrito ha hecho poco para abordar públicamente las imágenes manipuladas o actualizar las políticas escolares para frenar el uso explotador de la IA.
“Parece como si la administración de Westfield High School y el distrito estuvieran participando en una clase magistral para hacer que este incidente se desvaneciera en el aire”, amonestó a los miembros de la junta la Sra. Mani, fundadora de una escuela preescolar local, durante la reunión.
Desafío
En un comunicado, el distrito escolar dijo que había abierto una “investigación inmediata” al enterarse del incidente, había notificado y consultado inmediatamente con la policía y había brindado asesoramiento grupal a la clase de segundo año.
“Todos los distritos escolares están lidiando con los desafíos y el impacto de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y en cualquier lugar”, dijo en el comunicado Raymond González, superintendente de las Escuelas Públicas de Westfield.— The New York Times
Esta nota “Deepnudes” en secundarias de Estados Unidos, un fenómeno alarmante apareció primero en Diario de Yucatán.
