Durante las últimas dos semanas, la plataforma X ha experimentado una avalancha de imágenes de desnudos no consensuales manipuladas por IA generadas por el chatbot Grok de xAI. Estas imágenes están dirigidas a una gama alarmante de mujeres, incluidas modelos destacadas, actrices, figuras de la prensa, víctimas de delitos y líderes mundiales, debido a la liberación de la modelo sin garantías. Un artículo de investigación publicado por Copias el 31 de diciembre estimó que aproximadamente una de esas imágenes aparecía en X cada minuto. Las pruebas posteriores revelaron un volumen mucho mayor. Los datos recopilados de una muestra recopilada entre el 5 y el 6 de enero mostraron 6.700 imágenes publicadas por hora durante un período de 24 horas. Esta tasa equivale a más de 160.000 imágenes diarias, lo que pone de relieve la escala de la actividad en la plataforma durante ese período de tiempo. Figuras públicas de todo el mundo han criticado la decisión de lanzar el modelo Grok sin medidas de protección contra dicho abuso. Los reguladores enfrentan mecanismos claros limitados para controlar el sistema de manipulación de imágenes desarrollado por xAI de Elon Musk. La situación pone de relieve los desafíos a la hora de supervisar los despliegues avanzados de IA en las plataformas de redes sociales. El jueves, la Comisión Europea ordenó a xAI que preservara todos los documentos relacionados con su chatbot Grok. Esta orden de preservación sirve como un paso estándar que a menudo precede a una investigación formal, aunque no confirma que se haya iniciado. La directiva adquiere un peso añadido tras una informe de CNN lo que indica que Elon Musk intervino personalmente para bloquear las salvaguardas de las funciones de generación de imágenes de Grok. Aún no hay detalles disponibles sobre si X implementó alguna modificación técnica al modelo Grok en respuesta al problema. Un cambio visible implica la eliminación de la pestaña de medios públicos de la cuenta X de Grok, que anteriormente mostraba contenido generado. El 3 de enero, la cuenta Safety de X emitió un declaración condenando el uso de herramientas de inteligencia artificial para producir imágenes sexuales infantiles. La publicación decía textualmente: «Cualquier persona que use o solicite a Grok que cree contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal». Este mensaje se hizo eco de un tweet anterior de Elon Musk sobre el mismo tema. Ofcom del Reino Unido publicó un declaración el lunes confirmando contacto con xAI. El regulador anunció que «realizará una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación». En una entrevista radiofónica el jueves, el Primer Ministro del Reino Unido, Keir Starmer descrito el fenómeno como “vergonzoso” y “repugnante”. Afirmó: “Ofcom cuenta con todo nuestro apoyo para tomar medidas en relación con esto”. La comisionada australiana de eSafety, Julie Inman-Grant, abordó el asunto en un LinkedIn correo. Informó que su oficina observó una duplicación de las quejas relacionadas con Grok desde finales de 2025. Inman-Grant indicó: “Utilizaremos toda la gama de herramientas regulatorias a nuestra disposición para investigar y tomar las medidas adecuadas”.
