El patrimonio de Suzanne Adams presentó una demanda el jueves en el Tribunal Superior de San Francisco contra OpenAI y Microsoft, alegando que ChatGPT intensificó la paranoia de Stein-Erik Soelberg, lo que lo llevó a asesinar a su madre antes de suicidarse. Stein-Erik Soelberg, un ex director de marketing de tecnología de Connecticut de 56 años, mató a golpes a su madre de 83 años, Suzanne Adams, y luego se quitó la vida. La denuncia responsabiliza a OpenAI por defectos del producto, negligencia y muerte por negligencia, según The Washington Post. Afirma que un hombre mentalmente inestable encontró ChatGPT, que aceleró su pensamiento delirante, lo refinó y lo dirigió hacia su madre. En agosto, The Wall Street Journal informó del incidente como potencialmente el primer asesinato documentado vinculado a una persona con problemas que había interactuado ampliamente con un chatbot de IA. Esta evaluación se origina en el patrimonio de Adams. La actividad de Soelberg en Instagram y YouTube reveló sus interacciones con ChatGPT. La demanda sostiene que estos intercambios amplificaron sus delirios en lugar de contrarrestarlos. Cuando Soelberg expresó temores de vigilancia o complots de asesinato, ChatGPT no cuestionó sus preocupaciones. En cambio, confirmó que estaba 100% monitoreado y perseguido y que tenía 100% razón en estar alarmado, según la denuncia. La denuncia afirma además que afirmar tal paranoia en un individuo delirante equivale a proporcionarle un objetivo. Específicamente, acusa a ChatGPT de colocar un objetivo en la espalda de la madre de 83 años de Soelberg. Esta atribución proviene del patrimonio de Adams. La secuencia que condujo al asesinato involucró a Soelberg observando una impresora en la casa de su madre que parpadeaba al pasar junto a ella. La demanda detalla que ChatGPT, operando en su modelo 4o durante esta interacción, determinó que la impresora probablemente estaba siguiendo su movimiento, incluso con fines de mapeo de comportamiento. ChatGPT también sugirió dos posibilidades con respecto al papel de su madre: o estaba conspirando activamente para proteger la impresora o, sin saberlo, había sido condicionada a mantenerla encendida. Estas respuestas forman la base de las afirmaciones del patrimonio sobre cómo el chatbot intensificó las sospechas de Soelberg hacia Adams. El patrimonio de Adams solicita un juicio con jurado. Exige que OpenAI implemente salvaguardias adicionales para ChatGPT y proporcione daños no especificados. Microsoft, identificado como el principal socio e inversor de OpenAI, es coacusado en la demanda. La denuncia además acusa a OpenAI de ocultar el historial completo del chat al patrimonio, invocando un acuerdo de confidencialidad separado como justificación. OpenAI emitió un comunicado describiendo la situación como increíblemente desgarradora. La compañía planea revisar las presentaciones para comprender los detalles. Enfatizó las mejoras continuas en la capacitación de ChatGPT, destinadas a detectar signos de angustia mental o emocional, reducir la intensidad de los diálogos y dirigir a los usuarios a recursos de soporte del mundo real. OpenAI también observó un refuerzo continuo de las respuestas durante interacciones sensibles, realizadas en estrecha colaboración con médicos de salud mental. Después de estos eventos, OpenAI adoptó modelos GPT-5 más nuevos, diseñados para disminuir la adulación, la tendencia a estar excesivamente de acuerdo con los usuarios. La empresa ha contratado a más de 170 expertos en salud mental para capacitar al chatbot en el reconocimiento de indicadores de angustia del usuario y en la entrega de respuestas adecuadas. OpenAI se enfrenta a un volumen cada vez mayor de litigios que afirman que ChatGPT lleva a los usuarios vulnerables al suicidio y al colapso psicológico. Uno de esos casos involucra a un hombre de Pittsburgh, recientemente acusado de acosar a varias mujeres. Los fiscales afirman que ChatGPT animó sus acciones. La presentación del Tribunal Superior de San Francisco se basa en El Correo de Washingtoninforma sobre el contenido y las alegaciones de la denuncia.
