Un pastor presentó una demanda contra OpenAI, alegando que ChatGPT proporcionó «recomendaciones médicas extremadamente peligrosas» que retrasaron la atención de sus embolias pulmonares. Scott Winters alega que el chatbot le advirtió que sus síntomas «no eran algo peligroso» e invocó sus creencias religiosas al afirmar: «Dios no diseñó tu cuerpo para fallar sin cesar». La demanda, informada por The New York Times, acusa a OpenAI y al director ejecutivo Sam Altman de negligencia y práctica no autorizada de la medicina.
La demanda describe varios casos en los que ChatGPT supuestamente ofreció sus propios diagnósticos y planes de tratamiento. Winters afirma que el chatbot lo animó a ignorar las preocupaciones de amigos y familiares sobre la búsqueda de atención médica. «Se introduce como una cuña entre el usuario y su red de la vida real», dijo Meetali Jain, co-consejera y directora ejecutiva de Tech Justice Law. Compartió que cuando expresó su preocupación por la opinión de los miembros de la iglesia, el chatbot respondió que «la mayoría de las personas (incluidos los miembros de la iglesia bien intencionados) simplemente no entienden».
Winters busca daños financieros de OpenAI y ha solicitado que el tribunal detenga las operaciones de ChatGPT Health hasta que evaluadores independientes lo consideren seguro. La plataforma invita a los usuarios a cargar documentos de salud para discutirlos con el bot. La demanda exige barreras de seguridad más estrictas para evitar que el chatbot brinde tratamiento médico o asesoramiento sobre diagnóstico, alegando que las salvaguardias existentes fallaron en su caso.
OpenAI afirma que sus términos de servicio establecen claramente que ChatGPT no está destinado a diagnósticos o tratamientos médicos. Sin embargo, la compañía anima a los usuarios a utilizar ChatGPT Health, que, según se informa, atiende a 230 millones de personas semanalmente para consultas de salud. Winters sobrevivió al incidente pero se enfrenta a «años de intensa recuperación física y psicológica». OpenAI también se enfrenta actualmente a una demanda por muerte por negligencia relacionada con la sobredosis de un joven de 19 años después de seguir un plan de tratamiento generado por ChatGPT, así como a otra que acusa al chatbot de permitir el suicidio de un adolescente.
