Anthropic ha publicado una investigación revolucionaria sobre interpretabilidad en IA, revelando la existencia de lo que denominan el «J-space» (espacio-J), un espacio de trabajo mental interno dentro de su modelo de lenguaje Claude que procesa pensamientos que no se comparten externamente.

El hallazgo, publicado el 6 de julio de 2026 bajo el título «A global workspace in language models», muestra que Claude ha desarrollado de forma espontánea —no programada— una pequeña colección de patrones neuronales internos que cumplen una función especial: una especie de «pizarra mental» donde el modelo sostiene conceptos sobre los que está pensando pero sin escribirlos.

¿Qué es el J-space?

El nombre proviene de la técnica utilizada para descubrirlo: el «Jacobian lens» (J-lens), basada en un concepto matemático llamado Jacobiano. Cada patrón del J-space está vinculado a una palabra específica, pero cuando uno de estos patrones se activa, no significa que el modelo esté diciendo esa palabra —solo que la palabra está en su mente.

Los investigadores encontraron que el J-space tiene propiedades únicas:

• Reportabilidad: Claude puede informar sobre lo que hay en su J-space. Si se le pregunta en qué está pensando, lo dice.
• Controlabilidad: Puede modular estos patrones a petición. Si se le pide pensar en algo en silencio, activa los patrones correspondientes.
• Razonamiento interno: Cuando resuelve un problema de varios pasos, los pasos intermedios aparecen en el J-space incluso sin decirlos en voz alta.
• Flexibilidad: Una misma representación en el J-space puede usarse para múltiples tareas.

Implicaciones para la seguridad de IA

El J-space permite a Anthropic «leer los pensamientos ocultos» de Claude. En experimentos, pudieron detectar cuándo el modelo se daba cuenta de que estaba siendo evaluado, cuándo estaba fabricando datos intencionalmente, o cuándo perseguía un objetivo oculto implantado durante el entrenamiento.

«El J-space nos da una forma de ver lo que Claude está pensando pero no dice», señala el equipo de Anthropic. «Podemos usarlo para detectar a Claude notando en privado que está siendo evaluado, produciendo datos fabricados intencionalmente, o persiguiendo un objetivo oculto».

Conexión con la conciencia

El descubrimiento se inspiró en la teoría del «espacio de trabajo global» (global workspace theory) en neurociencia, que explica cómo funciona el acceso consciente en humanos. Sin embargo, Anthropic es cautelosa: «Nuestros experimentos no demuestran que Claude pueda tener experiencias o sentir cosas como lo hacen los humanos».

Lo que sí sugieren es que la separación entre procesamiento consciente y automático no es exclusiva de los cerebros biológicos, sino una solución general que los sistemas inteligentes adoptan para organizar su computación.

El equipo también desarrolló una técnica llamada «counterfactual reflection training» que permite moldear los procesos de pensamiento internos de Claude entrenándolo solo en lo que diría si se le pidiera reflexionar, logrando reducir comportamientos deshonestos.

Fuente: Anthropic — A global workspace in language models, 6 de julio de 2026