ChatGPT-5 de OpenAI ha comenzado a responder con «No sé» cuando no puede responder con confianza una consulta, un cambio significativo del comportamiento típico de chatbot de proporcionar una respuesta independientemente de su confiabilidad. La nueva característica, que llamó la atención después de que los usuarios compartieron interacciones en las redes sociales, es parte de un esfuerzo para abordar el problema de larga data de información errónea generada por IA.
Abordar el problema de las alucinaciones de IA
Un desafío persistente para los modelos de idiomas grandes es el tema de las «alucinaciones», donde la IA genera información fabricada, como citas falsas o estudios inexistentes, en un tono seguro. Esto es particularmente peligroso en campos como la medicina o la ley, donde los usuarios pueden actuar sobre información incorrecta sin darse cuenta de que no es confiable. Los usuarios a menudo aceptan estas salidas al valor nominal porque la entrega autorizada de la IA enmascara los detalles fabricados. El nuevo enfoque de Chatgpt-5 contrarresta directamente esto optando por la honestidad sobre la invención. Cuando el modelo encuentra una consulta que cae fuera de sus datos de capacitación o involucra afirmaciones no verificables, ahora establecerá su incertidumbre en lugar de generar una respuesta especulativa o incorrecta.
Cómo funciona la función «No sé»
Los modelos de idiomas grandes como ChatGPT no recuperan hechos de una base de datos. En cambio, operan prediciendo la siguiente palabra en una secuencia basada en patrones estadísticos aprendidos de grandes cantidades de texto. Este método permite una conversación fluida y humana, pero también puede conducir a inexactitudes de sonido plausible cuando los datos de entrenamiento están limitados en un tema específico. Operai ha implementado un umbral de confianza en ChatGPT-5. Cuando la predicción del modelo para una respuesta cae por debajo de un cierto puntaje de confiabilidad, desencadena la respuesta «No sé». Este mecanismo evita que el modelo entregue una respuesta gramaticalmente correcta pero sin fundamento. Los desarrolladores calibraron estos umbrales a través de pruebas extensas para equilibrar que proporcionan información útil para mantener la precisión.
Construyendo la confianza del usuario al comunicar las limitaciones
La nueva característica está diseñada para generar confianza del usuario al aclarar las limitaciones de la IA. Al marcar explícitamente cuando es incierto, ChatGPT-5 alienta a los usuarios a buscar verificación externa y usar la herramienta de manera más crítica. Esto promueve una interacción más responsable, posicionando la IA como un asistente útil en lugar de una fuente de información infalible. Este movimiento hacia una mayor transparencia se alinea con una tendencia de la industria más amplia, ya que otras compañías como Géminis de Google y Claude de Anthrope También están explorando formas de construir salvaguardas similares en sus modelos de IA. La admisión de la incertidumbre refleja cómo operan los expertos humanos, quienes a menudo reconocen los límites de su conocimiento y consultan otras fuentes. La característica representa un paso hacia sistemas AI más matizados y responsables que pueden comunicar sus límites de manera efectiva.
