L'intelligence artificielle induit l'humain en erreur : une étude révèle un risque inattendu

Avec le développement des technologies modernes, les systèmes d'intelligence artificielle (AI) deviennent une partie intégrante de notre quotidien. Cependant, une nouvelle étude menée par des chercheurs de trois universités prestigieuses en France et en Italie a révélé des conclusions inquiétantes. Il s'avère que se fier aux conseils de l'AI dégrade considérablement la capacité d'une personne à évaluer objectivement ses propres connaissances. C'est ce que rapporte Ixbt.com indique le rapport.

Au cours de l'expérience, la corrélation entre la confiance des participants en leurs connaissances et leurs résultats réels a été étudiée. Les résultats ont montré que les personnes utilisant l'aide de l'AI avaient du mal à admettre leurs erreurs et avaient tendance à accepter des réponses erronées comme étant la vérité. Plus surprenant encore, bien que leur confiance en leurs réponses ait fortement augmenté, leur niveau de précision a, au contraire, chuté.

La confiance augmente, la précision diminue

Les chercheurs ont posé des questions complexes aux participants et les ont divisés en deux groupes. Les membres du groupe travaillant sans l'aide de l'AI ont admis ne pas connaître la réponse dans 44 % des cas. Cependant, dans le groupe utilisant les conseils du système, ce chiffre est tombé à seulement 3 %. En d'autres termes, au lieu d'admettre leur ignorance, les gens ont préféré faire confiance aveuglément aux informations incorrectes fournies par l'AI.

Les chiffres sont encore plus frappants : le taux de précision de ceux qui ont répondu avec l'aide de l'AI est passé de 27 % à 9 %, mais leur confiance en leur propre exactitude est passée en moyenne de 30 % à 76 %. Selon ixbt.com, l'expérience a délibérément utilisé des questions sur lesquelles les modèles d'AI modernes peuvent se tromper. Par exemple, des détails visuels tels que la couleur des tenues de sport des personnages du film "Bend It Like Beckham" ont été demandés.

Les incitations financières n'ont pas aidé

Les scientifiques ont utilisé le modèle Step 3.5 Flash dans l'expérience, car il a été constaté que ce modèle se trompe souvent sur ce type de tâches. Les auteurs de l'étude ont également tenté de motiver les participants avec une récompense financière pour une réponse correcte. Même avec un intérêt financier, la situation n'a pas changé de manière significative : la part de ceux qui ont admis leur ignorance est passée de 3 % à 8 % et la précision a augmenté de seulement 16 %. Ces chiffres sont restés bien inférieurs aux résultats du groupe sans AI.

Selon les scientifiques, la capacité d'une personne à dire "je ne sais pas" est cruciale, car elle implique la compréhension des limites de ses propres connaissances. La présence constante de l'intelligence artificielle et sa capacité à répondre instantanément à toute question étouffent le désir de l'humain d'admettre ses propres doutes. Cela conduit à une diminution des compétences en pensée critique.

Cette question peut être particulièrement dangereuse pour les enfants et les jeunes dont la pensée critique n'est pas encore totalement formée. Une confiance excessive dans les systèmes d'AI pourrait, à l'avenir, anéantir totalement la capacité des individus à vérifier les informations et à reconnaître leurs propres erreurs. Les auteurs de l'étude appellent à ne pas perdre sa vigilance lors de l'utilisation de la technologie.