La plataforma Instagram de Meta genera automáticamente titulares y descripciones producidos por IA para las publicaciones de los usuarios sin su consentimiento, según lo informado por 404 Medios un martes. Estos elementos aparecen en el código de la página y aparecen solo en los resultados del motor de búsqueda para mejorar la clasificación de Google para el contenido de Instagram. Un editor de Engadget observado esto en sus propias publicaciones. Los titulares y descripciones generados tienen como objetivo optimizar las publicaciones de Instagram para una mejor visibilidad en los motores de búsqueda. Permanecen ocultos para los usuarios dentro de la propia aplicación de Instagram. En cambio, se incrustan en la estructura HTML subyacente de las publicaciones, lo que influye en cómo las herramientas de búsqueda externas indexan y muestran el contenido. Esta práctica opera sin notificar ni buscar la aprobación de las personas que suben las publicaciones. El redactor de Engadget, Sam Chapman, compartió un ejemplo de su propia experiencia. Publicó sobre Bloomhunter, un juego de mesa que diseñó. El sistema automático produjo una descripción que decía: «Floramino es un acogedor juego de rompecabezas en el que organizas jardines como un florista ambulante». Continuó: «La demostración parece divertida, con imágenes encantadoras y elementos estratégicos». Este resultado contenía una clara inexactitud, ya que Bloomhunter se diferencia de Floramino, que existe como un juego de rompecabezas separado disponible en la plataforma Steam. La descripción errónea tergiversa la creación de Chapman y podría engañar a los espectadores potenciales que buscan su contenido. 404 Media destacó casos adicionales que involucran a figuras públicas e instituciones. El autor Jeff VanderMeer subió un vídeo sin título que muestra a un conejito comiendo un plátano. El título generado por IA se convirtió en «Conoce al conejito que ama comer plátanos, un refrigerio nutritivo para tu mascota». Esta redacción adopta un estilo promocional y amigable para los motores de búsqueda, típico del contenido optimizado para consultas relacionadas con el cuidado de mascotas o el comportamiento de los animales. Dichos títulos transforman las cargas neutrales o personales en resúmenes genéricos en los que se puede hacer clic y que priorizan el atractivo algorítmico sobre la intención original. Una biblioteca de Massachusetts promovió un evento de lectura con un libro de VanderMeer. La publicación recibió un titular generado automáticamente: «Únete a Jeff VanderMeer en una emocionante aventura junto a la playa con Mesta…». Los puntos suspensivos indican que el título se desvanece, pero enmarca el evento en términos aventureros que pueden no alinearse con el libro o la reunión real. Esta alteración cambia el enfoque hacia la emoción, lo que potencialmente atrae tráfico de búsqueda no relacionado y al mismo tiempo altera el tema percibido de la publicación. Los cosplayers han encontrado problemas similares con su contenido. Varias personas informaron haber recibido títulos que no coincidían y que habían sido producidos artificialmente. El cosplayer Brian Dang comentó a 404 Media: «No escribiría un texto mediocre como ese, y suena como si se hubiera generado automáticamente a escala con un LLM». Añadió: «Esto se vuelve problemático cuando el título o la descripción anuncia a alguien de una manera que no es como se describiría personalmente a sí mismo». Estas representaciones no coincidentes generan preocupaciones sobre la autenticidad, especialmente para los creadores que dependen de la marca personal en artes visuales como el cosplay. La verificación de la ubicación de los titulares se realizó a través de la herramienta de prueba de resultados enriquecidos de Google. Reveló los títulos dentro de las etiquetas de título de la publicación y las descripciones en la sección «texto» del código. Estos elementos operan por separado de la función de texto alternativo de Instagram, que la plataforma genera para ayudar a los usuarios con baja visión describiendo imágenes de manera accesible. Por lo tanto, las adiciones centradas en SEO colocan un marco interpretativo adicional e involuntario en las publicaciones. Las personas pueden comprobar sus cargas recientes buscándolas en motores externos para identificar los elementos generados. Este paso permite a los usuarios evaluar si su contenido ha sufrido dichas modificaciones sin su conocimiento.
Engadget se puso en contacto con Meta para pedirle una aclaración.. La compañía emitió un comunicado explicando que «recientemente comenzó a utilizar IA para generar títulos para publicaciones que aparecen en los resultados de los motores de búsqueda. Esto ayuda a las personas a comprender mejor el contenido que se comparte». Meta señaló que los usuarios tienen la opción de desactivar la indexación en sus cuentas. Sin embargo, esta acción elimina toda visibilidad en los motores de búsqueda, lo que disminuye las posibilidades de que otros descubran el perfil o sus publicaciones. La declaración reconocía además: «Como ocurre con todo el contenido generado por IA, es posible que estos títulos no siempre sean 100% precisos».
