Un « espace de réflexion » caché découvert au sein de l'IA Claude

Des chercheurs en intelligence artificielle ont réussi à identifier un « espace de travail » spécifique au sein du modèle de langage Claude, similaire aux processus du cerveau humain. Cette découverte montre que les réseaux de neurones ne sont pas seulement des algorithmes prédisant le mot suivant, mais des systèmes qui forment des étapes logiques internes lors de l'exécution de tâches complexes. Ces états cachés ne sont pas visibles pour l'utilisateur, mais influencent directement la prise de décision finale du système. C'est ce que rapporte Ixbt.com rapporte .

Une équipe de scientifiques dans le domaine de l'IA interprétable a utilisé une nouvelle méthode d'analyse appelée Jacobian lens (J-lens) pour étudier les processus internes du modèle Claude. Selon ixbt.com, cette méthode a permis de relier les signaux cachés à l'intérieur du modèle à des concepts clairs grâce à l'analyse mathématique de l'activation des neurones. En conséquence, un espace caché appelé « J-space » a été découvert.

Similitude avec le cerveau humain et processus internes

Les chercheurs soulignent que le J-space ressemble fonctionnellement aux caractéristiques de l'« espace de travail global » du cerveau humain. Ce système rend les informations accessibles pour un contrôle conscient. Dans le modèle Claude, chaque état est lié à un concept ou un mot spécifique, mais son activation ne signifie pas que le modèle écrira exactement ce mot. Il s'agit plutôt d'une étape intermédiaire qui prépare les informations pour les processus internes ultérieurs.

Il est important de noter que le J-space diffère de la méthode habituelle « chain-of-thought » (chaîne de pensée). Si dans la chaîne de pensée le modèle écrit un brouillon textuel pour lui-même, dans le J-space, tout se déroule uniquement par des signaux au niveau des neurones. Par exemple, si l'on demande au modèle combien de pattes possède une créature qui tisse une toile, il active le concept « araignée » dans l'espace interne, mais peut répondre directement « huit » sans utiliser ce mot dans sa réponse.

Intervention expérimentale et résultats

Les scientifiques ont mené une expérience intéressante pour prouver que cet espace caché n'est pas seulement un indicateur passif, mais qu'il participe activement à la prise de décision. Ils ont demandé au modèle de choisir « mentalement » un type de sport et de le nommer ensuite. Avant que Claude ne réponde, il a été enregistré que le concept « football » (soccer) était activé dans son espace interne à l'aide de J-lens.

Ensuite, les chercheurs sont intervenus directement dans les calculs, sans donner aucune instruction textuelle, et ont remplacé le modèle « football » par « rugby » dans les signaux neuronaux internes. En conséquence, Claude a modifié son choix et a annoncé avoir choisi le rugby. Cela confirme que l'espace caché contrôle les conclusions logiques du modèle.

Il convient de souligner que cette découverte ne signifie pas que le modèle Claude possède une conscience ou des sentiments subjectifs. Cependant, l'étude a montré que les modèles de langage modernes peuvent former spontanément des structures de traitement interne de l'information pour effectuer des opérations cognitives complexes. Cela aidera à mieux comprendre comment l'intelligence artificielle « pense » à l'avenir.