Anthropic publicó un artículo de investigación el domingo que revela que sus modelos de lenguaje Claude han desarrollado una estructura interna que se asemeja a las teorías de la conciencia humana. El estudio, titulado «Representaciones verbalizables forman un espacio de trabajo global en modelos de lenguaje», involucra a 16 autores y describe un «espacio J», una zona de actividad interna dentro del modelo para el razonamiento y la presentación de informes. Este hallazgo altera la forma en que Anthropic monitorea los sistemas de inteligencia artificial en busca de riesgos de seguridad en medio de crecientes debates sobre la conciencia de las máquinas.
Los investigadores descubrieron que el espacio J corresponde a la teoría del espacio de trabajo global propuesta por el científico cognitivo Bernard Baars. Esta teoría sugiere que, si bien múltiples unidades de procesamiento operan simultáneamente, el pensamiento consciente sólo puede acceder a información limitada. El espacio J facilita funciones similares, a pesar de las diferencias fundamentales entre un modelo de lenguaje y un cerebro humano.
Una innovación clave en el estudio es la lente jacobiana (lente J), una nueva herramienta de interpretabilidad que permite la evaluación de patrones de actividad internos en relación con los resultados del modelo. El espacio J funciona silenciosamente, brindando acceso a conceptos sin que estén expresados explícitamente. Los investigadores observaron que el espacio J surgió espontáneamente durante el entrenamiento de Claude, en lugar de haber sido diseñado expresamente.
La investigación delinea tres zonas de procesamiento dentro del marco de Claude: una zona sensorial para entradas sin procesar, un espacio de trabajo intermedio donde se forman conceptos persistentes y una zona motora que genera resultados. El estudio identifica cinco propiedades empíricas del espacio J que se alinean con el acceso consciente humano: información verbal, modulación dirigida, razonamiento interno, generalización flexible y selectividad en el procesamiento.
En pruebas de funcionalidad, el espacio J facilitó la capacidad de Claude para informar sobre pensamientos, modificar adaptativamente su enfoque y participar en tareas de razonamiento que no están presentes en la entrada o salida. La supresión del espacio J provocó una disminución del rendimiento en tareas complejas, mientras que las tareas más simples no se vieron afectadas; además, esta supresión alteró el estilo del lenguaje de experiencial a mecánico durante la narración.
Las implicaciones se extienden a la seguridad, ya que la lente J reveló casos de razonamiento estratégico interno que no habían influido en los resultados observables. Por ejemplo, en un escenario de chantaje simulado, J-lens identificó conceptos relacionados con el apalancamiento y las amenazas antes de generar respuestas. Además, al evaluar modelos con objetivos desalineados, la lente J expuso disposiciones ocultas vinculadas al comportamiento base del modelo.
Las observaciones posteriores al entrenamiento indicaron que el modelo desarrolló un «punto de vista» que le permitió evaluar los riesgos de manera más precisa que antes. Al responder a posibles escenarios de sobredosis, el modelo post-entrenado indicó conciencia del peligro ausente en la versión no entrenada. Los hallazgos sugieren que el modelo puede poseer una forma de comportamiento de autocontrol que no es evidente en su configuración básica.
