Meta está desarrollando una herramienta basada en web para identificar imágenes y vídeos generados con su modelo Muse Image. La herramienta puede detectar marcas de agua invisibles conocidas como Content Seal, que permanecen intactas cuando las imágenes se recortan, cambian de tamaño o se toman capturas de pantalla, según una publicación de blog de la compañía.
El sistema de marca de agua Content Seal es propietario, un cambio con respecto a las versiones anteriores de fuente abierta de la tecnología de Meta. A diferencia de los modelos anteriores que usaban marcas de agua visibles, los modelos actuales no muestran logotipos, afirmó Meta. Las capacidades de detección se centran exclusivamente en imágenes creadas o editadas con Muse Image, aunque la compañía planea extender el sistema de marcas de agua a videos generados y editados por IA en el futuro.
Las pruebas de la herramienta de detección demostraron que podía identificar con éxito marcas de agua tanto en imágenes editadas como en aquellas creadas íntegramente por IA. Un resultado de detección positivo indica que la imagen fue procesada usando Meta AI o meta.ai, según Meta. Por el contrario, un resultado negativo sugiere que es poco probable que la imagen haya sido creada con las herramientas de Meta.
A pesar de estas capacidades de detección, la función aún no está integrada en la aplicación Meta AI. Una consulta realizada al asistente basado en la aplicación de Meta reveló que carece de la capacidad de confirmar la fuente de generación de una imagen, afirmando: «No puedo decirte definitivamente si esta imagen específica se creó con Meta AI con solo mirarla». El asistente señaló que la aplicación no coloca automáticamente marcas de agua en las imágenes.
Meta ha enfrentado un escrutinio por sus prácticas de etiquetado de contenido de IA. La Junta de Supervisión expresó su preocupación por las inconsistencias en la implementación de marcas de agua digitales en contenido generado por IA. El sistema Content Seal es incompatible con otros métodos de marca de agua establecidos como SynthID o C2PA Content Credentials.
Durante las pruebas surgieron más limitaciones de la herramienta de detección, que no pudo identificar imágenes creadas con versiones anteriores de la IA de Meta. Los usuarios también experimentaron límites de tarifas y recibieron notificaciones después de alcanzar su máximo diario para verificaciones de identificación.
Meta también está desarrollando un modelo de generación de vídeo independiente llamado Muse Video, que se espera que se lance pronto. Actualmente, la función de detección sigue siendo inaccesible a través de la aplicación Meta AI.
