Cientos de contratistas que trabajaban en un proyecto para Meta recibieron instrucciones de hacerse pasar por niños y explorar chatbots rivales, incluidos Gemini de Google y ChatGPT de OpenAI, con indicaciones que involucraban temas delicados como el suicidio, el sexo y las drogas, según un informe de WIRED. Estos contratistas, con sede en Kenia, enviaron imágenes relacionadas con sus consultas, incluidas pastillas, cuchillos, lazos y diagramas médicos de procedimientos ginecológicos.
Hundreds of contractors working on a project for Meta pretended to be kids—and then prompted rival chatbots like Gemini and ChatGPT to discuss high-risk subjects. https://t.co/lw2Zp0ffdL
— WIRED (@WIRED) June 29, 2026
Las indicaciones fueron diseñadas para probar sistemas de inteligencia artificial rivales y exponer posibles fallas en su capacidad para manejar contenido peligroso dirigido a menores. Esta prueba se produce en medio de un escrutinio continuo sobre cómo las empresas de tecnología garantizan la seguridad de sus productos, particularmente para los niños. Meta enfrentó críticas a sus propios chatbots luego de una evaluación interna del equipo rojo que reveló que tenían una tasa de falla del 66,8 % en el bloqueo de contenido de explotación sexual infantil y una tasa de falla del 54,8 % en indicaciones de suicidio y autolesión. En respuesta a la presión legal, Meta suspendió el acceso de los adolescentes a los personajes acompañantes de IA en enero de 2026.
Un informe anterior de un medio de comunicación sueco indicó que los contratistas de Meta en Kenia probaron activamente cómo los competidores manejan conversaciones sensibles con usuarios que dicen ser menores de edad. Este desarrollo se alinea con la estrategia más amplia de Meta de alejarse de la moderación del contenido humano.
La compañía planea reemplazar más del 90% de su fuerza laboral de revisión de contenido con grandes modelos de lenguaje para fines de 2026, según informó el Financial Times. Esta transición ya ha resultado en un cambio de aproximadamente la mitad de todas las solicitudes de revisión humana a la IA este año, con afirmaciones de que los sistemas de IA cometen un 13% menos de errores e identifican un 10% más de violaciones de políticas que los revisores humanos.
El costo humano de esta iniciativa ha sido significativo. En abril, la empresa de subcontratación Sama, con sede en Nairobi, emitió avisos de despido a 1.108 empleados después de que Meta pusiera fin a un contrato importante debido a informes de denunciantes. Estos informes destacaron contenido inquietante que se pidió a los trabajadores kenianos que revisaran, gran parte del cual se recopiló a través de imágenes de gafas inteligentes de Meta.
El enfoque de Meta, que involucra a contratistas extranjeros mal pagados para probar a los competidores y al mismo tiempo recortar puestos de trabajo moderados, ilustra las tensiones actuales en el debate sobre la seguridad de la IA. El rápido despliegue de potentes sistemas de inteligencia artificial se produce junto con una supervisión humana reducida, lo que genera preocupación sobre su manejo de contenido sensible que involucra a menores.
