Washington:

Con la voz chispeante de ira, una madre estadounidense se preocupa por el futuro de su hija adolescente, solo una de las docenas de niñas objeto de otro escándalo de pornografía habilitada por inteligencia artificial que ha sacudido una escuela estadounidense.

La controversia que plagó el año pasado a la Lancaster Country Day School de Pensilvania pone de relieve una nueva normalidad para los estudiantes y educadores que luchan por mantenerse al día con una avalancha de herramientas de inteligencia artificial baratas y fácilmente disponibles que facilitan los deepfakes hiperrealistas.

Una madre, que habló con la AFP bajo condición de anonimato, contó que su hija de 14 años estaba “llorando histéricamente” después de descubrir que el verano pasado circularon entre sus compañeros fotos de desnudos generadas por IA.

“¿Cuáles son sus efectos a largo plazo?” Dijo la madre, temiendo que las imágenes manipuladas puedan resurgir cuando su hija solicite ingresar a la universidad, comience a tener citas o ingrese al mercado laboral.

“No se puede decir que son falsos”.

El mes pasado se presentaron múltiples cargos, incluidos abuso sexual infantil y posesión de pornografía infantil, contra dos adolescentes que, según las autoridades, hicieron las imágenes.

Los investigadores descubrieron 347 imágenes y vídeos en la aplicación de mensajería Discord que afectaron a un total de 60 víctimas, en su mayoría estudiantes de escuelas privadas.

Todos menos uno eran menores de 18 años.

‘crisis’

El escándalo es el último de una ola de incidentes similares en escuelas de todos los estados de Estados Unidos, desde California hasta Nueva Jersey, que provocaron una advertencia el año pasado del FBI de que ese material de abuso sexual infantil, incluidas imágenes realistas generadas por IA, era ilegal. .

“El auge de la IA generativa choca con un problema de larga data en las escuelas: el intercambio de imágenes íntimas no consensuadas”, dijo Alexandra Reeve Givens, directora ejecutiva del Centro para la Democracia y la Tecnología (CDT), una organización sin fines de lucro.

“En la era digital, los niños necesitan desesperadamente apoyo para afrontar el acoso provocado por la tecnología”.

Una encuesta del CDT de escuelas públicas en septiembre pasado encontró que el 15 por ciento de los estudiantes y el 11 por ciento de los maestros conocen al menos un “deepfake que representa a una persona asociada con su escuela de una manera sexualmente explícita o íntima”.

Estas imágenes no consensuadas pueden dar lugar a acoso, intimidación o chantaje, a veces con consecuencias devastadoras para la salud mental.

La madre que habló con la AFP dijo que conocía a víctimas que faltaban a la escuela, tenían problemas para comer o necesitaban tratamiento y asesoramiento para afrontar la terrible experiencia.

Dijo que ella y otros padres que fueron llevados a la oficina de un detective para verificar los deepfakes se sorprendieron al ver las imágenes impresas a “un pie y medio” de altura.

“Tuve que mirar la foto de mi hija”, dijo.

“Si alguien mira, pensará que es real, por lo que es más dañino”.

‘absorción’

Los presuntos autores, que no han sido identificados, están acusados ​​de tomar fotografías de las redes sociales, alterarlas utilizando aplicaciones de inteligencia artificial y compartirlas en Discord.

La madre dijo a la AFP que las falsificaciones de su hija fueron inicialmente alteradas a partir de fotos públicas en la página de Instagram de la escuela, así como capturas de pantalla de una llamada FaceTime.

Una simple búsqueda en línea arroja docenas de aplicaciones y sitios web que permiten a los usuarios crear “desnudos profundos”, quitarse la ropa digitalmente o superponer rostros seleccionados en imágenes pornográficas.

“Si bien los resultados pueden no ser tan realistas o convincentes como las presentaciones profesionales, estos servicios significan que no se requiere experiencia técnica para crear contenido deepfake”, dijo a la AFP Roberta Duffield, directora de inteligencia de Blackbird.AI.

Solo unos pocos estados de EE. UU. han aprobado leyes para abordar los deepfakes sexualmente explícitos, incluido Pensilvania a fines del año pasado.

Los altos directivos de la escuela de Pensilvania se hicieron a un lado a finales de 2023 después de que los padres de las víctimas presentaran una demanda alegando que no informaron de la actividad a la administración cuando fueron advertidos por primera vez.

Los investigadores dicen que las escuelas no están equipadas para hacer frente a la amenaza de la rápida evolución de la tecnología de inteligencia artificial, ya que las leyes aún se están poniendo al día.

“Las adolescentes están siendo sometidas cada vez más a una profunda y falsa explotación por parte de sus amigos, compañeros y compañeros de escuela”, dijo Duffield.

“Las autoridades educativas necesitan desarrollar urgentemente políticas claras e integrales sobre el uso de la IA y las tecnologías digitales”.

(Esta historia no ha sido editada por el personal de NDTV y se genera automáticamente a partir de un feed sindicado).


Source link