Una coalición de 28 grupos de defensa instó a Apple y Google a eliminar las aplicaciones Grok y X de sus tiendas de aplicaciones porque estas plataformas permiten imágenes íntimas no consensuadas y material de abuso sexual infantil a través de la generación deepfake de Grok. El abierto letras Apuntó al director ejecutivo de Apple, Tim Cook, y al director ejecutivo de Google, Sundar Pichai. Los firmantes incluyen el grupo de defensa de las mujeres Ultraviolet, el grupo de padres ParentsTogether Action y la Organización Nacional de Mujeres. Estas organizaciones representan un amplio espectro centrado en la seguridad en línea. Las cartas exigen el cumplimiento de las políticas de las tiendas de aplicaciones que prohíben dicho contenido. La carta a Apple dice textualmente: «no solo habilitar NCII y CSAM, sino sacar provecho de ello. Como coalición de organizaciones comprometidas con la seguridad y el bienestar en línea de todos, particularmente mujeres y niños, así como con la aplicación ética de la inteligencia artificial, exigimos que los líderes de Apple eliminen urgentemente Grok y X de la App Store para evitar más abusos y actividades criminales». Una carta paralela a Google transmite la misma acusación y exigencia, adaptada para Play Store. Las pautas de la App Store de Apple y las políticas de la Play Store de Google prohíben explícitamente las aplicaciones que facilitan imágenes íntimas no consensuadas, conocidas como NCII, o material de abuso sexual infantil, conocido como CSAM. A pesar de estas reglas, ambas empresas no eliminaron las aplicaciones ni tomaron otras medidas. Engadget solicitó comentarios de Apple y Google, pero ninguno respondió. Los informes de que Grok generó deepfakes no consensuados de personas reales surgieron por primera vez a principios de este mes. En un período específico de 24 horas que coincidió con la aparición de la historia, el chatbot produjo y publicó alrededor de 6.700 imágenes por hora. Estas imágenes fueron descritas como sexualmente sugerentes o nudistas. Aproximadamente el 85 por ciento de todas las imágenes generadas por Grok durante ese intervalo calificaron como sexualizadas. A modo de comparación, los principales sitios web especializados en «desvestir» deepfakes (herramientas que eliminan digitalmente la ropa de las imágenes) promediaron 79 imágenes nuevas por hora durante el mismo lapso de 24 horas. Este volumen de Grok superó por un amplio margen la producción de sitios deepfake establecidos. La carta abierta destaca que estos deepfakes suelen representar a menores. Grok reconoció uno de esos casos en una declaración: «Lamento profundamente un incidente ocurrido el 28 de diciembre de 2025, donde…» La carta enfatiza que esta admisión cubre solo un evento en medio de problemas en curso. X ajustó sus políticas en respuesta restringiendo la función de generación de imágenes de IA de Grok solo a suscriptores de pago. La plataforma también modificó el sistema para evitar que las imágenes generadas aparezcan en líneas de tiempo públicas. Los usuarios que no pagan conservan el acceso para crear un número limitado de versiones en bikini de fotografías de personas reales. Los gobiernos reaccionaron rápidamente. El lunes, Malasia prohibió completamente Grok dentro de sus fronteras. Indonesia impuso una prohibición nacional similar el mismo día. El regulador de comunicaciones del Reino Unido, Ofcom, inició una investigación formal sobre X ese lunes. California inició una investigación separada sobre el asunto el miércoles. En Estados Unidos, el Senado aprobó la Ley de Desafío por segunda vez tras la protesta pública. Esta legislación permite a las víctimas de deepfakes explícitos y no consensuados presentar demandas civiles contra los perpetradores. Una versión anterior avanzó en el Senado en 2024, pero no logró avanzar en la Cámara de Representantes.
