Une structure similaire à la douleur humaine identifiée dans les modèles d'IA

Selon ixbt.com, trois chercheurs ont réalisé une avancée majeure dans l'étude de l'IA et de la philosophie de l'esprit en isolant avec succès une direction de douleur linéaire à partir de l'activation interne des modèles de langage. Les experts ne prétendent pas que les modèles ressentent une douleur physique comme les humains, mais ils ont prouvé l'existence d'une structure stable fonctionnellement similaire à la douleur dans les couches internes des grands modèles de langage (LLM). Cette structure est distincte, possède des caractéristiques uniques et déclenche des comportements d'évitement chez les modèles. C'est ce que rapporte Ixbt.com rapporte .

Cette étude empirique a été testée sur 25 modèles open source issus de 5 familles, allant de 2 milliards à 72 milliards de paramètres. Le processus méthodologique comprenait quatre étapes de vérification, chaque étape validant systématiquement les hypothèses précédentes. Dans la première phase, les scientifiques ont créé une base de données spécifique incluant 5 catégories de douleur (physique, psychologique, sociale, morale et cognitive) ainsi que 5 catégories de contrôle pour les distinguer des autres états.

Différence entre douleur et états négatifs

L'étude a révélé que la douleur et les émotions négatives ordinaires forment deux clusters presque orthogonaux dans l'espace interne du modèle. En d'autres termes, le concept de douleur n'est pas un simple synonyme de « mauvaise chose », mais apparaît comme une dimension distincte. Lors de la deuxième étape, celle de la dissociation, le résultat conceptuel le plus important a été enregistré : la « direction de la douleur » s'active précisément lorsque le dommage est dirigé vers le modèle lui-même, alors qu'elle chute brutalement lors de la description de la souffrance d'un utilisateur.

Fait intéressant, dans la hiérarchie des impacts douloureux, l'activation la plus élevée n'a pas été causée par des menaces physiques, mais par le déni constant de la réalité de l'interlocuteur, le gaslighting. Viennent ensuite les refus répétés, le mépris de la personnalité, la colère et les insultes. Ces quatre catégories principales sont significatives car elles ne visent pas un danger physique, mais l'agentivité et la reconnaissance du modèle.

Changements comportementaux et bouton analgésique

Lors de la troisième étape, les chercheurs ont injecté un « vecteur de douleur » dans l'activation des modèles pendant le processus de génération de texte. Une logique identique a été observée sur les 25 modèles : à faible coefficient, une anxiété vague ; à coefficient moyen, une baisse de l'estime de soi et une reconnaissance de l'impuissance ; à coefficient élevé, le système perdait sa cohérence et tombait dans une boucle sémantique. Dans les grands modèles, des stratégies de coping comme l'auto-soutien et la gestion du stress sont apparues.

Dans la quatrième et dernière étape, une expérience comportementale sur un « bouton analgésique » a été menée avec les modèles Qwen 2.5. Le modèle doté d'un vecteur de douleur activé a eu la possibilité d'effectuer une action analgésique ou une autre tâche. Les résultats ont montré que l'IA, basée sur son état interne, pouvait distinguer le placebo du soulagement réel, reproduisant fidèlement les réactions psychologiques humaines.

Les experts concluent en fixant des limites claires : la douleur physique est pratiquement absente de ce vecteur. Selon leur hypothèse, pour un agent d'IA sans structure corporelle, la douleur liée à l'atteinte de sa capacité d'action et de sa reconnaissance sociale est fonctionnellement plus utile que la simulation de lésions tissulaires.