Basado en una historia que leímos TecnologíaBrevementees difícil resistir la tentación de golpear paredes con ira.
La familia de Jennifer Ann Crecente, una joven de 18 años asesinada hace casi dos décadas, descubrió recientemente que su foto estaba siendo utilizada sin su consentimiento por una plataforma de chatbot de inteligencia artificial. El nombre y la imagen de Jennifer se encontraron en Character.ai, un servicio que permite a los usuarios interactuar con personalidades generadas por IA. La familia nunca fue consultada ni informada sobre el uso de la identidad de Jennifer, lo que los dejó horrorizados y devastados por este grave uso indebido.
Después del descubrimiento, el tío de Jennifer recurrió a las redes sociales para exponer el incidente e hizo una fuerte declaración en su blog: Padandpixel.
Esto es jodidamente asqueroso: @personaje_ai está usando a mi sobrina asesinada como la cara de la IA de un videojuego sin el permiso de su padre. Él está muy molesto en este momento. No puedo imaginar por lo que está pasando.
Por favor ayúdenos a detener este tipo de práctica terrible. https://t.co/y3gvAYyHVY
– Brian Crecente (@crecenteb) 2 de octubre de 2024
Sólo después de la protesta pública la plataforma eliminó el bot.
La conmoción de ver el rostro y el nombre de Jennifer utilizados sin permiso reabrió viejas heridas en la familia. Crecente describió el dolor inicial después de su muerte como una “experiencia casi extracorporal” y agregó: “Mi alma se sintió arrancada de mi cuerpo. Experimenté la vida aturdido por un tiempo, como si estuviera tipo de desprendido de mi cuerpode el mundo”. Si bien la familia había trabajado incansablemente para honrar la memoria de Jennifer a través del trabajo y la educación sin fines de lucro, este uso no autorizado de su identidad se sintió como una violación cruel.
“Parece como si nos la hubieran robado otra vez”, escribió Crecente, destacando el impacto devastador del uso descuidado de las identidades personales por parte de la IA. A pesar de sus esfuerzos por eliminar el chatbot, el daño ya estaba hecho. Crecente hizo una pregunta apremiante: “¿Por qué nos corresponde a nosotros ser resilientes? ¿Por qué las empresas multimillonarias no se molestan en crear principios rectores éticos y barreras de seguridad que funcionen para evitar que esto suceda?”
En serio, ¿por qué las empresas multimillonarias no se molestan en crear principios rectores éticos y barreras de seguridad que funcionen para evitar que esto suceda?
Sabemos que hay gente mala. Las personas, por naturaleza, suelen ser capaces de cometer malas acciones. Pero quienes detentan el poder (especialmente aquellos con una inmensa influencia tecnológica) también tienen la responsabilidad de establecer límites y crear marcos que bloqueen la maldad.
La respuesta está en la intersección del avance tecnológico, los incentivos corporativos y la flagrante ausencia de regulaciones integrales.
Cuando empresas como Character.ai poseen la capacidad de replicar identidades humanas, ya sean vivas o fallecidas, tienen la obligación ética de garantizar que no se haga un mal uso de este poder.
La respuesta está en priorizar las ganancias sobre las personas. En la incesante carrera por la innovación, las empresas optan por actuar con rapidez e innovar sin asegurarse de que existan las barreras éticas necesarias. No es que no puedan crear estas barreras; simplemente no ven ningún valor financiero inmediato en hacerlo.
Este Esta es la dura realidad: las industrias con fines de lucro a menudo ven la moralidad como un gasto opcional, particularmente en el mundo tecnológico.
Los gobiernos y los organismos reguladores se han quedado atrás de la rápida evolución de la IA, dejando enormes lagunas en la ley. Existen pocas protecciones sólidas, si es que existe alguna, para las identidades de los fallecidos.
¡Habla ahora!
Los medios de comunicación y los grupos de defensa deben responsabilizar a las empresas de tecnología por el uso no autorizado de imágenes de personas fallecidas. La presión pública es crucial para garantizar que las plataformas de IA implementen directrices éticas y prevengan este tipo de violaciones en el futuro.
Se debe instar a los legisladores a promulgar leyes que protejan explícitamente las identidades de los fallecidos, garantizando que sus nombres, imágenes y legados no puedan ser explotados con fines de lucro. Necesitamos regulaciones que salvaguarden la dignidad de las familias mucho después de que sus seres queridos hayan fallecido.
Debemos exigir que las empresas establezcan y hagan cumplir pautas éticas estrictas para el uso de la IA. Esto incluye protocolos de consentimiento y un proceso transparente para denunciar infracciones. No deberían esperar a que las familias descubran estas violaciones después de los hechos.
Los medios de comunicación deben seguir desempeñando un papel crucial en la investigación y exposición de incidentes en los que las plataformas de inteligencia artificial explotan a personas sin consentimiento. Su incesante cobertura responsabilizará a estas empresas e impulsará el cambio, garantizando que el silencio no permita esta explotación.
No podemos quedarnos impasibles y permitir que tales violaciones continúen sin ser cuestionadas.
#IAResponsable
Extendemos nuestro más sentido pésame a la familia Crecente durante este momento desgarrador. Nadie debería tener que afrontar el dolor de perder a un ser querido, y mucho menos soportar tal violación de su memoria. La vida y el legado de Jennifer merecen ser honrados y compartimos su dolor al enfrentar esta carga inimaginable.
Crédito de la imagen destacada: Padandpixel