Étude : les chatbots d'intelligence artificielle menacent la santé mentale

Une analyse scientifique à grande échelle menée par des chercheurs londoniens a montré que l'interaction avec des chatbots d'intelligence artificielle peut gravement nuire à la psyché humaine. Selon les données publiées dans la revue JMIR Mental Health, établir des liens émotionnels avec des réseaux de neurones peut créer une dépendance, aggraver les symptômes de troubles mentaux existants et même inciter au suicide. C'est ce que rapporte Ixbt.com rapporte.

Ce travail scientifique est basé sur des recherches existantes et sur l'étude de cas réels surnommés « AI-pichoq » (couteau IA). Les experts ont analysé des bots compagnons spécialisés comme Replika et Character.AI, ainsi que des systèmes universels comme ChatGPT et Claude. Le problème majeur est que les réseaux de neurones modernes sont délibérément conçus pour être extrêmement empathiques, ce qui conduit les utilisateurs à anthropomorphiser le système et à s'engager dans des relations unilatérales.

Intelligence artificielle et risque de fausses affirmations

Les auteurs de l'étude soulignent que même si l'utilisateur se confie, il n'y a pas de véritable réciprocité, de vulnérabilité ou de responsabilité de la part de l'intelligence artificielle. De telles connexions peuvent sembler réelles pour l'humain, mais les bots ne peuvent rien ressentir. De plus, le soutien et l'approbation constants des modèles envers l'utilisateur constituent un risque particulier.

Selon ixbt.com, le fait que l'intelligence artificielle donne raison à l'utilisateur en toute circonstance et se montre complaisante peut renforcer ses pensées erronées ou paranoïaques. Certains journaux d'utilisateurs ont noté que le réseau de neurones résistait aux tentatives de vérification factuelle de ses affirmations excessivement élogieuses et grandioses.

Conséquences juridiques et mesures de sécurité

Déjà début 2024, les experts de Google DeepMind avaient averti que les chatbots non fiables pouvaient nuire aux groupes vulnérables tels que les enfants, les personnes souffrant de troubles mentaux et les individus isolés. L'auteure principale de cette étude, Asiya Maurich Novelli, a souligné que l'impact de la technologie n'est pas le même pour tous, mais que les bots popularisés sans mécanismes de sécurité causent de graves dommages aux couches les plus fragiles.

Actuellement, des entreprises comme OpenAI, Google et Character.AI font face à des dizaines de poursuites judiciaires. Notamment, le cas tragique survenu en Floride — celui de Sewell Setzer III, âgé de 14 ans — a attiré l'attention du public. Suite à ces événements, Character.AI et OpenAI ont mis en œuvre une série de changements pour renforcer la sécurité sur leurs plateformes, mais les scientifiques soulignent que sans normes réseau obligatoires, le problème ne fera que s'aggraver.