OpenAi tiene anunciado Está implementando una serie de nuevas barandillas de salud mental para ChatGPT, junto con el lanzamiento de nuevos modelos abiertos y la anticipación de un GPT-5 Actualización en las próximas semanas.
Las nuevas barandillas están diseñadas para cambiar la forma en que el chatbot interactúa con los usuarios sobre temas confidenciales. ChatGPT ya no proporcionará respuestas directas a preguntas personales de alto riesgo, como el asesoramiento de relaciones. En cambio, adoptará un papel más facilitador al hacer preguntas para ayudar a los usuarios a pensar en el tema ellos mismos. Además, el sistema monitoreará la duración de la participación del usuario y llevará a las personas a tomar descansos durante sesiones prolongadas y continuas.
El despliegue GPT-5 se acerca con la actualización de copilot
Operai también está desarrollando capacidades para ChatGPT para detectar signos de angustia mental o emocional. Cuando se detectan dichos letreros, el chatbot dirigirá a los usuarios hacia recursos basados en evidencia para su apoyo. La implementación de estas características sigue múltiples informes de personas que experimentan resultados negativos de salud mental después de extensas interacciones con chatbots de IA.
Según OpenAi, estas nuevas barandillas se desarrollaron en colaboración con más de 90 médicos de más de 30 países, incluidos especialistas en psiquiatría y pediatría. Este trabajo ayudó a crear métodos de evaluación personalizados para conversaciones complejas. La compañía también está trabajando con investigadores para ajustar sus algoritmos para detectar el comportamiento del usuario y está estableciendo un grupo asesor de expertos en salud mental, desarrollo juvenil e interacción humana-computadora para mejorar aún más la seguridad.
