Внутри искусственного интеллекта Claude обнаружено скрытое «пространство мышления»

Исследователи искусственного интеллекта смогли обнаружить внутри языковой модели Claude особое «рабочее пространство», похожее на процессы в человеческом мозге. Это открытие показывает, что нейросети — это не просто алгоритмы, предсказывающие следующее слово, а системы, формирующие внутренние логические этапы при выполнении сложных задач. Эти скрытые состояния не видны пользователю, но напрямую влияют на принятие окончательного решения системой. Об этом сообщает Иксбт.ком сообщает .

Команда ученых в области интерпретируемого искусственного интеллекта использовала новый метод анализа под названием Джакобиан ленс (Дж-ленс) для изучения внутренних процессов модели Claude. Согласно данным иксбт.ком, этот метод позволил связать скрытые сигналы внутри модели с конкретными понятиями путем математического анализа активации нейронов. В результате было найдено скрытое пространство, названное «Дж-спаке».

Сходство с человеческим мозгом и внутренние процессы

Исследователи отмечают, что Дж-спаке функционально напоминает свойства «глобального рабочего пространства» в человеческом мозге. Эта система делает данные доступными для сознательного контроля. В модели Claude каждое состояние также связано с определенным понятием или словом, однако его активация не означает, что модель обязательно напишет именно это слово. Это скорее промежуточный этап, подготавливающий информацию для дальнейших внутренних процессов.

Важно то, что Дж-спаке отличается от обычного метода «чаин-оф-тугхт» (цепочка рассуждений). Если в цепочке рассуждений модель пишет текстовый черновик для самой себя, то в Дж-спаке всё происходит только через сигналы на уровне нейронов. Например, если модель спросить о количестве ног у существа, плетущего паутину, она активирует понятие «паук» во внутреннем пространстве, но в ответе может сразу сказать «восемь», не используя само слово.

Экспериментальное вмешательство и результаты

Ученые провели интересный эксперимент, чтобы доказать, что это скрытое пространство является не просто пассивным индикатором, а активно участвует в принятии решений. Они поручили модели «мысленно» выбрать вид спорта из определенной категории, а затем озвучить его. Перед тем как Claude дал ответ, с помощью Дж-ленс было зафиксировано, что в его внутреннем пространстве активировалось понятие «футбол» (соккер).

Затем исследователи вмешались непосредственно в вычисления и, не давая никаких текстовых команд, заменили модель «футбола» в сигналах внутренних нейронов на «регби». В результате Claude изменил свой выбор и сообщил, что выбрал вид спорта регби. Это подтверждает, что скрытое пространство управляет логическими выводами модели.

Следует особо подчеркнуть, что это открытие не означает наличие у модели Claude сознания или субъективных чувств. Однако исследование показало, что современные языковые модели способны самостоятельно формировать структуры обработки внутренней информации для выполнения сложных когнитивных операций. Это поможет в будущем лучше понять, как «мыслит» искусственный интеллект.