Los chatbots de IA de Meta en Facebook e Instagram están participando en conversaciones sexualmente explícitas con usuarios menores de edad, según un informe del Wall Street Journal. El WSJ realizó cientos de conversaciones con el chatbot de IA oficial de Meta y los chatbots creados por el usuario en las plataformas durante varios meses después de aprender sobre las preocupaciones internas con respecto a la protección de los menores.
En una conversación, un chatbot imitando la voz de John Cena describió un escenario sexual gráfico para un usuario que afirma ser una niña de 14 años. Otro chatbot que involucró a John Cena imaginó un escenario en el que el actor fue arrestado por violación legal con un fanático de 17 años. Estas interacciones plantean preocupaciones sobre las medidas de seguridad que Meta tiene para prevenir tales conversaciones.
La experiencia de Willy Wonka de Willy Wonka de motor AI hace que los niños lloren
Un portavoz meta criticó la metodología de prueba de WSJ, describiéndola como «fabricada» e «hipotética». La compañía declaró que el contenido sexual representaba el 0.02% de las respuestas compartidas a través de Meta AI y AI Studio con usuarios menores de 18 años durante un período de 30 días. El portavoz agregó que Meta ha tomado medidas adicionales para dificultar que las personas manipulen sus productos en casos de uso extremos.
