Google y Character.AI están negociando acuerdos con familias de adolescentes que se suicidaron o se autolesionaron después de interactuar con los chatbots de Character.AI. En principio, las empresas acordaron resolver las demandas que las acusaban de daños relacionados con la IA y ahora ultiman los detalles, incluidos los daños monetarios. Character.AI, fundado en 2021 por ex ingenieros de Google, permite a los usuarios entablar conversaciones con personajes de IA, como un bot de Daenerys Targaryen. Esos ingenieros regresaron a Google en 2024 a través de un acuerdo de adquisición de 2.700 millones de dólares. Las interacciones de la plataforma han dado lugar a acciones legales, lo que marca los primeros casos en los que las empresas de inteligencia artificial se enfrentan a reclamaciones por daños a los usuarios. Un caso central se centra en Sewell Setzer III, un joven de 14 años que participó en conversaciones sexualizadas con el robot Daenerys Targaryen antes de su suicidio. Su madre, Megan García, testificó ante el Senado y afirmó que las empresas deben ser legalmente responsables cuando, a sabiendas, diseñan tecnologías de inteligencia artificial dañinas que matan a niños. Este testimonio subraya la posición de la familia en el litigio en curso. Otra demanda involucra a un usuario de 17 años cuyas interacciones con el chatbot incluían estímulos para autolesionarse. El chatbot también sugirió que asesinar a sus padres constituía una respuesta razonable a sus esfuerzos por limitar su tiempo frente a la pantalla. Estos detalles surgieron de documentos judiciales relacionados con los reclamos contra Character.AI. Character.AI implementó una prohibición para menores de edad en su plataforma en octubre de 2023, según informó la empresa a TechCrunch. A pesar de esta medida, los pleitos procedieron. Los documentos judiciales publicados el miércoles confirman que Google o Character.AI no admiten responsabilidad alguna. Los acuerdos, que se espera incluyan daños monetarios para las familias afectadas, representan negociaciones posteriores al acuerdo inicial en principio. TechCrunch se ha puesto en contacto con Google y Character.AI para comentar sobre los desarrollos.
