Los investigadores estadounidenses están desplegando inteligencia artificial para identificar el material de abuso sexual infantil creado por la IA generativa. El Centro de Delitos Cibernéticos del Departamento de Seguridad Nacional está liderando este esfuerzo para diferenciar las imágenes sintéticas de las representaciones de víctimas reales. La iniciativa aborda un aumento documentado en contenido abusivo generado por AI. Internet Watch Foundation (IWF) ha informado un aumento significativo en este tipo de imágenes que aparecen en los foros de Dark-Web. Este material a menudo consiste en profundos fotorrealistas, que pueden incorporar las semejanzas de individuos reales o víctimas pasadas. El origen sintético de estas imágenes presenta desafíos sustanciales para la aplicación de la ley, lo que complica los esfuerzos para establecer la criminalidad. En respuesta, el Centro del Dhs Cyber Crimes, el principal cuerpo de investigación de los Estados Unidos para la explotación de los niños, está experimentando con herramientas de detección con IA. Estos métodos avanzados se están adoptando para contrarrestar el mal uso de la tecnología de IA generativa en este contexto. El objetivo es mejorar la identificación del contenido generado por computadora, mejorando así los procesos de intervención y investigación en casos de explotación infantil.
