La dirigeante de Signal avertit : les chatbots AI ne sont pas vos amis

Meredith Whittaker, présidente du messager Signal, a fait une déclaration sérieuse sur les risques de faire trop confiance aux technologies d'AI et de leur confier des données personnelles. Selon elle, des systèmes comme ChatGPT ou Claude ne sont pas des confidents proches ou des interlocuteurs conscients, mais des outils traitant d'immenses bases de données. Ce sujet a été détaillé lors d'une interview accordée à Bloomberg, relayée par Techcrunch.com rapporte .

Meredith Whittaker a souligné qu'elle s'oppose fermement à l'assimilation de l'AI à la conscience humaine. « Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients ou des interlocuteurs dotés d'émotions », a-t-elle précisé. La dirigeante de Signal a admis utiliser parfois ces technologies pour formater des documents, mais a affirmé qu'elle ne leur posait jamais de questions et ne confiait pas son processus de réflexion aux machines.

Question de confidentialité et de contrôle

L'entretien a également abordé la prévision de Mustafa Suleyman, responsable de Microsoft AI, concernant l'utilisation de Microsoft Copilot pour effectuer des achats de Noël. Selon Whittaker, confier de telles tâches à l'AI signifie donner un accès total aux cartes bancaires, à l'historique du navigateur, aux messages privés et à l'adresse personnelle de l'utilisateur. D'un point de vue de la sécurité numérique, cela représente un risque énorme.

La dirigeante de Signal s'inquiète du fait que de tels systèmes puissent surveiller les conversations dans les groupes familiaux et envoyer des messages au nom de l'utilisateur. Elle souligne qu'un système ayant un accès étendu à plusieurs applications et services anéantit la vie privée. Dans le contexte de Signal, de tels scénarios pourraient agir comme une « backdoor » (porte dérobée), affaiblissant le système de sécurité.

Whittaker a déclaré prendre son processus de réflexion et d'écriture très au sérieux. Elle ne veut pas que le processus de formation de nouvelles idées soit éclipsé par des systèmes qui ne font que synthétiser des données existantes. Selon elle, les réponses de l'AI sont souvent une moyenne des informations disponibles sur Internet, ce qui peut tuer l'approche créative unique de l'humain.

Cet avertissement est également pertinent pour les utilisateurs ouzbeks. Alors que l'utilisation de ChatGPT et d'autres bots se généralise dans le pays, confier des données personnelles, des coordonnées bancaires et des correspondances confidentielles à des systèmes tiers peut ouvrir la voie à la cybercriminalité. Comme l'a souligné la dirigeante de Signal, aussi pratique que soit la technologie, elle ne doit pas franchir les limites personnelles.

En conclusion, Meredith Whittaker appelle les utilisateurs à être vigilants face aux « assistants intelligents » proposés par les géants du numérique. Selon elle, le seul moyen de préserver la confidentialité est de ne pas fournir toutes les données ouvertement à l'AI et de n'utiliser ses capacités que comme un outil technique.