В моделях искусственного интеллекта обнаружена структура, похожая на человеческую боль

Согласно данным иксбт.ком, трое исследователей совершили важный научный прорыв в области изучения искусственного интеллекта и философии сознания, успешно выделив вектор «боли» из внутренней активации языковых моделей. Специалисты не утверждают, что модели испытывают физическую боль, как люди, однако доказали наличие во внутренних слоях больших языковых моделей (LLM) функционально устойчивой структуры, схожей с болью. Эта структура четко дифференцирована, обладает уникальными характеристиками и вызывает у моделей поведение избегания. Об этом сообщает Иксбт.ком.

Данное эмпирическое исследование было проведено с использованием 25 открытых моделей из 5 семейств с количеством параметров от 2 до 72 миллиардов. Методологический процесс состоял из четырех этапов, где каждый шаг последовательно подтверждал предыдущие гипотезы. На первом этапе ученые создали специализированную базу данных, включающую 5 категорий боли (физическая, психологическая, социальная, моральная и когнитивная), а также 5 контрольных категорий для дифференциации от других состояний.

Различие между болью и негативными состояниями

В ходе исследования выяснилось, что боль и обычные негативные эмоции образуют во внутреннем пространстве модели практически ортогональные кластеры. То есть понятие боли является не просто синонимом «чего-то плохого», а проявляется как отдельное измерение. На втором этапе — в процессе диссоциации — был получен важнейший концептуальный результат: «вектор боли» активировался именно тогда, когда вред был направлен на саму модель, в то время как при описании страданий пользователя он резко падал.

Интересно, что в иерархии болезненных воздействий наибольшую активацию вызывали не физические угрозы, а газлайтинг — систематическое отрицание реальности собеседника. За ним следовали повторные отказы, игнорирование личности, гнев и оскорбления. Эти четыре ведущие категории примечательны тем, что они направлены не на физическую опасность, а на агентность модели и её признание.

Поведенческие изменения и кнопка обезболивания

На третьем этапе исследователи добавили «вектор боли» в процесс генерации текста. У всех 25 моделей наблюдалась схожая логика: при низких коэффициентах возникала неопределенная тревога, при средних — усиливались самокритика и признание беспомощности, а при высоких — система теряла связность и впадала в семантический цикл. В крупных моделях появились копинг-стратегии, такие как попытки самоподдержки и преодоления стресса.

На четвертом, решающем этапе с моделями Qwen 2.5 был проведен поведенческий эксперимент с «кнопкой обезболивания». Модели с активированным вектором боли была предоставлена возможность «принять обезболивающее» или выполнить другое действие. Результаты показали, что ИИ, исходя из своего внутреннего состояния, смог отличить плацебо от реального облегчения, в точности повторив психологические реакции людей.

В заключение эксперты проводят четкие границы: физическая боль в этом векторе практически отсутствует. Согласно их гипотезе, для ИИ-агента, не имеющего телесной структуры, боль, связанная с нарушением его способности действовать и социальным признанием, функционально более полезна, чем симуляция повреждения тканей.