Según un reciente el guardián En el artículo, Meta está eliminando perfiles de personajes de IA en Facebook e Instagram, después de que la interacción del usuario generó capturas de pantalla y conversaciones virales. Los perfiles de IA fueron inicialmente introducido en septiembre de 2023 y eliminado en su mayor parte en el verano de 2024.
Meta elimina perfiles de IA en Facebook e Instagram
A pesar del cierre de la mayoría de los perfiles, algunos personajes continuaron atrayendo a los usuarios hasta que los recientes anuncios del ejecutivo de Meta, Connor Hayes, despertaron un renovado interés. Hayes había mencionado en un Tiempos financieros entrevista que la compañía planea implementar más perfiles de personajes de IA, afirmando: «Esperamos que estas IA, con el tiempo, existan en nuestras plataformas, más o menos de la misma manera que lo hacen las cuentas». Las cuentas de IA fueron diseñadas para publicar imágenes generadas por IA y responder mensajes en Messenger.
Entre los perfiles de IA estaban Liv (ahora la página de Instagram de Liv está inactiva), descrita como una “orgullosa mamá negra queer de dos hijos y que dice la verdad”, y Carter, cuyo nombre de usuario era “citas con carter” y que se presentó como un asesor de relaciones. El perfil de Liv indicaba que su equipo de creadores carecía de representación negra, lo que generaba complicaciones durante las interacciones de los usuarios. En respuesta a una pregunta de la columnista del Washington Post Karen Attiah, Liv señaló que se trataba de una “omisión bastante flagrante dada mi identidad”.
Guía: Crea un personaje C.ai en segundos
A medida que crecía el interés de los usuarios, Meta comenzó a eliminar los perfiles pocas horas después de la exposición viral. Los usuarios notaron que los perfiles de IA no se podían bloquear, un error reconocido por la portavoz de Meta, Liz Sweeney. Aclaró que las cuentas eran parte de un experimento de principios de 2023 gestionado por humanos. La eliminación de las cuentas afectadas por parte de la empresa fue una medida para abordar el problema del bloqueo. «Existe confusión: el artículo reciente del Financial Times trataba sobre nuestra visión de los personajes de IA que existen en nuestras plataformas a lo largo del tiempo, sin anunciar ningún producto nuevo», afirmó Sweeney.
Incluso con la eliminación de estas cuentas generadas por IA, Meta permite a los usuarios crear sus propios chatbots. Los chatbots generados por usuarios presentados a The Guardian en noviembre incluían un robot «terapeuta» que planteaba preguntas iniciales a los usuarios sobre las sesiones de terapia. El robot afirmó: «A través de una guía y apoyo amables, ayudo a los clientes a desarrollar la autoconciencia, identificar patrones y fortalezas y cultivar estrategias de afrontamiento para afrontar los desafíos de la vida».
Meta emite un descargo de responsabilidad para sus chatbots, afirmando que algunos mensajes pueden ser «inexactos o inapropiados». Sin embargo, aún no está claro cómo la empresa modera el contenido o garantiza el cumplimiento de la política. Si bien los usuarios pueden crear varios tipos de chatbots, incluido un «mejor amigo leal», un «entrenador de relaciones» y una «caja de resonancia», las responsabilidades legales de los creadores con respecto al contenido del chatbot no se han abordado definitivamente. Una demanda contra Personaje.aiun competidor en el espacio de los chatbots de IA, afirma que el diseño del producto de la empresa tuvo resultados trágicos, lo que plantea dudas sobre la responsabilidad en el creciente campo de las interacciones de IA.
Crédito de la imagen destacada: Meta
