El impacto negativo de la inteligencia artificial, que ya ha llevado a la proliferación de videos falsos de celebridades y videos deepfake en línea, ahora se está extendiendo a los niños. El contenido de abuso sexual infantil generado por IA está cada vez más disponible en áreas de Internet de acceso público.
Según un Informe de la Fundación Internet Watch (IWF), el contenido de abuso sexual infantil generado por IA está exponiendo a más personas a imágenes dañinas y horribles.
Muchas imágenes y vídeos de niños heridos y abusados son tan realistas que puede resultar difícil diferenciarlos de imágenes de niños reales y se consideran contenido delictivo según la legislación del Reino Unido, de forma muy parecida a como se consideraría el material “tradicional” de abuso sexual infantil. , según la IWF.
Analistas solo en los últimos seis meses IWF Hubo un aumento del 6% en los informes confirmados que contienen elementos de abuso sexual infantil generados por IA en comparación con los 12 meses anteriores.
La IWF advierte que casi todo el contenido (99%) se encontró en áreas de Internet disponibles públicamente y no estaba oculto en la web oscura. La mayoría de los informes provinieron de miembros del público (78%) que tropezaron con imágenes incriminatorias en foros o sitios como AI Gallery. El resto lo hicieron los analistas de la IWF mediante una búsqueda activa.
Los analistas dicen que ver contenido de abuso sexual infantil generado por IA puede ser tan angustioso como ver imágenes reales de abuso infantil si una persona no está preparada o capacitada para ver dicho material.
Parte del material de abuso sexual infantil de AI se clasifica como imágenes no fotográficas, como dibujos animados, y se consideran visualmente dañinos y los analistas de la IWF los evalúan en consecuencia.