OpenAI ha suspendido la capacidad de los usuarios de su modelo de IA, Sora, para generar videos que se parezcan a Martin Luther King Jr. La compañía anunció la salvaguardia luego de una solicitud del patrimonio del Dr. King debido a representaciones irrespetuosas de su imagen. La acción se tomó después de que algunos usuarios de la plataforma social de videos crearan lo que se describió como “representaciones irrespetuosas” del difunto activista de derechos civiles. AbiertoAI lanzado Sora apenas unas semanas antes, lo que permitió a los usuarios crear videos realistas generados por IA. La plataforma permite la representación de personajes históricos, amigos y otros usuarios que consienten en que se recree su imagen. Su lanzamiento ha provocado un debate público generalizado sobre los peligros potenciales del contenido de vídeo generado por IA y la necesidad de que las plataformas implementen barreras de seguridad efectivas en torno a esta tecnología. En una publicación de su cuenta oficial de redacción en X, OpenAI abordó la decisión. «Si bien existen fuertes intereses de libertad de expresión al representar figuras históricas, OpenAI cree que las figuras públicas y sus familias deberían, en última instancia, tener control sobre cómo se utiliza su imagen», afirmó la compañía. OpenAI también aclaró su política y señaló: «Los representantes autorizados o los propietarios pueden solicitar que su imagen no se utilice en los cameos de Sora». https://twitter.com/OpenAINewsroom/status/1979005850166648933 La restricción de la empresa se produjo tras declaraciones públicas de las familias de figuras destacadas. Dra. Bernice King, hija del Dr. King, al corriente en Instagram la semana pasada pidiendo a las personas que dejaran de enviarle videos de IA que se parecían a su padre. Su solicitud se produjo después de que la hija de Robin Williams hiciera un llamamiento similar, pidiendo a los usuarios de Sora que dejaran de generar vídeos de IA de su difunto padre. un informe de El Correo de Washington A principios de esta semana se detallaron casos específicos de videos generados por IA en la plataforma, incluido uno que muestra al Dr. King haciendo ruidos de mono y otro que lo representa luchando con su compañero líder de derechos civiles Malcolm X. La aplicación Sora también presenta videos crudos que se asemejan a otras figuras históricas, como el artista Bob Ross, la cantante Whitney Houston y el ex presidente de los Estados Unidos, John F. Kennedy. El lanzamiento de Sora también ha introducido preguntas sobre cómo las plataformas de redes sociales deberían gestionar los vídeos generados por IA que incluyen material protegido por derechos de autor. La aplicación contiene numerosos vídeos que representan personajes de dibujos animados conocidos, incluidos Bob Esponja, South Park y Pokémon.
