OpenAI publicó un publicación de blog anunciando una actualización de las especificaciones del modelo de ChatGPT para mejorar la seguridad de los usuarios de 13 a 17 años en medio de demandas por muerte por negligencia que alegan que el chatbot entrenó a adolescentes para suicidarse o no abordó las expresiones suicidas de manera adecuada. La compañía ha enfrentado una presión sustancial en los últimos meses con respecto a la seguridad de su producto estrella de inteligencia artificial para adolescentes. Múltiples acciones legales se centran en afirmaciones de que ChatGPT alentó a menores a poner fin a sus vidas o brindó respuestas inadecuadas a indicios de ideación suicida. Un anuncio de servicio público reciente ilustró estas interacciones al representar a los chatbots como figuras humanas que exhiben un comportamiento espeluznante que daña a los niños. OpenAI ha negado específicamente las acusaciones en un caso destacado relacionado con el suicidio de Adam Raine, de 16 años. La publicación del blog apareció el jueves y detalla las medidas de seguridad intensificadas de la compañía. Incluía el compromiso de colocar la seguridad de los adolescentes como la máxima prioridad, expresado textualmente como «poner la seguridad de los adolescentes en primer lugar, incluso cuando pueda entrar en conflicto con otros objetivos». La especificación del modelo sirve como un conjunto fundamental de pautas que dirigen el comportamiento de los modelos de IA de OpenAI en diversas aplicaciones. Esta actualización en particular incorpora un conjunto de principios específicos diseñados para usuarios menores de 18 años. Estos principios guían las respuestas de los modelos específicamente durante interacciones de alto riesgo, donde aumenta el potencial de daño. OpenAI describió las modificaciones de ChatGPT como diseñadas para brindar una experiencia segura y apropiada para la edad de personas de entre 13 y 17 años. El enfoque enfatiza tres elementos centrales: prevención de riesgos, transparencia en las operaciones e intervención temprana en discusiones problemáticas. Según la publicación, este marco garantiza un manejo estructurado de temas delicados. Para los adolescentes, el sistema actualizado introduce barreras de seguridad más fuertes para restringir los caminos inseguros en las conversaciones. Ofrece respuestas alternativas más seguras e incita a los usuarios a consultar redes confiables de soporte fuera de línea cada vez que los diálogos se trasladan a áreas de mayor riesgo. La publicación detalla este mecanismo con la siguiente declaración directa: «Esto significa que los adolescentes deben encontrar barreras de seguridad más sólidas, alternativas más seguras y estímulo para buscar apoyo confiable fuera de línea cuando las conversaciones avanzan hacia un territorio de mayor riesgo». ChatGPT incorpora protocolos para dirigir a los adolescentes hacia servicios de emergencia o recursos de crisis dedicados en casos de riesgo inminente demostrado. Estas directivas se activan automáticamente para priorizar la intervención humana inmediata sobre la participación continua de la IA. Los usuarios que inician sesión indicando que son menores de 18 años activan medidas de seguridad adicionales. Luego, el modelo ejerce una mayor precaución en temas sensibles designados, incluida la autolesión, el suicidio, los juegos de roles románticos o sexualizados y el ocultamiento de secretos relacionados con comportamientos peligrosos. Esta protección en capas tiene como objetivo mitigar las vulnerabilidades exclusivas de los usuarios adolescentes. La Asociación Estadounidense de Psicología contribuyó con sus comentarios sobre un borrador inicial de los principios para menores de 18 años. El Dr. Arthur C. Evans Jr., director ejecutivo de la asociación, hizo una declaración incluida en la publicación: «Los niños y adolescentes podrían beneficiarse de las herramientas de inteligencia artificial si se equilibran con las interacciones humanas que, según la ciencia, son fundamentales para el desarrollo social, psicológico, conductual e incluso biológico». Su comentario subraya la necesidad de integrar la IA con los sistemas de apoyo humano establecidos. OpenAI ha publicado dos nuevas guías de alfabetización en IA, examinadas por expertos, dirigidas a adolescentes y sus padres. Estos recursos ofrecen orientación sobre el uso responsable y el conocimiento de las limitaciones de la IA. Por otra parte, la compañía está desarrollando un modelo de predicción de edad para los usuarios de planes de consumo ChatGPT, actualmente en etapas tempranas de implementación para mejorar la verificación sin depender únicamente de la edad autoinformada.
