Descubierto un « espacio de pensamiento » oculto dentro de la IA Claude

Investigadores de inteligencia artificial han logrado identificar un «espacio de trabajo» específico dentro del modelo de lenguaje Claude, similar a los procesos del cerebro humano. Este descubrimiento demuestra que las redes neuronales no son solo algoritmos que predicen la siguiente palabra, sino sistemas que forman etapas lógicas internas al realizar tareas complejas. Estos estados ocultos no son visibles para el usuario, pero influyen directamente en la toma de decisiones final del sistema. Esto es reportado por Ixbt.com informa .

Un equipo de científicos en el campo de la IA interpretable utilizó un nuevo método de análisis llamado Jacobian lens (J-lens) para estudiar los procesos internos del modelo Claude. Según ixbt.com, este método permitió vincular las señales ocultas dentro del modelo con conceptos claros mediante el análisis matemático de la activación de las neuronas. Como resultado, se encontró un espacio oculto llamado «J-space».

Similitud con el cerebro humano y procesos internos

Los investigadores señalan que el J-space se asemeja funcionalmente a las características del «espacio de trabajo global» en el cerebro humano. Este sistema hace que la información esté disponible para un control consciente. En el modelo Claude, cada estado está vinculado a un concepto o palabra específica, pero su activación no significa que el modelo escribirá exactamente esa palabra. Es más bien una etapa intermedia que prepara la información para procesos internos posteriores.

Es importante destacar que el J-space difiere del método habitual de «chain-of-thought» (cadena de pensamiento). Si en la cadena de pensamiento el modelo escribe un borrador de texto para sí mismo, en el J-space todo ocurre solo a través de señales a nivel neuronal. Por ejemplo, si se le pregunta al modelo cuántas patas tiene una criatura que teje telarañas, activa el concepto «araña» en el espacio interno, pero puede responder directamente «ocho» sin usar esa palabra en su respuesta.

Intervención experimental y resultados

Los científicos realizaron un experimento interesante para demostrar que este espacio oculto no es solo un indicador pasivo, sino que participa activamente en la toma de decisiones. Le pidieron al modelo que eligiera «mentalmente» un tipo de deporte y luego lo dijera. Antes de que Claude respondiera, se registró que el concepto «fútbol» (soccer) se activó en su espacio interno mediante J-lens.

Luego, los investigadores intervinieron directamente en los cálculos, sin dar ninguna instrucción textual, y cambiaron el modelo de «fútbol» por «rugby» en las señales neuronales internas. Como resultado, Claude cambió su elección y anunció que había elegido el rugby. Esto confirma que el espacio oculto controla las conclusiones lógicas del modelo.

Cabe destacar que este descubrimiento no significa que el modelo Claude tenga conciencia o sentimientos subjetivos. Sin embargo, el estudio demostró que los modelos de lenguaje modernos pueden formar espontáneamente estructuras de procesamiento de información interna para realizar operaciones cognitivas complejas. Esto ayudará a comprender mejor cómo «piensa» la inteligencia artificial en el futuro.