Des conversations d'utilisateurs de Claude retrouvées dans la recherche Google

La sécurité des services d'IA et la confidentialité des utilisateurs sont une fois de plus au cœur d'un débat houleux. Selon des informations diffusées par la publication 404 Media et des utilisateurs de réseaux sociaux, une partie inconnue des discussions publiques sur le réseau neuronal Claude et des mini-applications Artifacts créées par les utilisateurs s'est retrouvée indexée publiquement sur le moteur de recherche Google. Cette situation a suscité de vives inquiétudes quant à la sécurité des données personnelles, rapporte Techcrunch.com rapporte .

Le problème s'est avéré lié à la fonction « share chat » (partager la discussion) du service. Cette fonctionnalité permet aux utilisateurs de partager leurs projets ou conversations avec d'autres via un lien spécial. Bien que l'interface avertisse que toute personne disposant du lien peut le voir, beaucoup n'imaginaient pas que ces informations resteraient ouvertes à l'ensemble d'Internet et finiraient dans les moteurs de recherche.

Divulgation de données confidentielles

Des observations menées par les publications TechCrunch et Futurism ont montré que parmi les pages indexées par le moteur de recherche figuraient des contenus très sensibles et confidentiels. En particulier, un rapport médical détaillé d'un patient réel, des résultats d'essais cliniques indiquant le nom de patients, ainsi que les noms et numéros de téléphone d'élèves du primaire ont été découverts. Il est également apparu que des documents d'entreprise destinés exclusivement à un usage interne étaient visibles par le public.

De plus, parmi les documents Artifacts exposés, des codes de programmation variés, des notes professionnelles et des textes à caractère érotique générés par l'IA ont été trouvés. Selon le magazine Fortune, l'une de ces discussions montrait que Claude avait généré du contenu explicite en violation de ses propres règles, ce qui va à l'encontre de la politique d'Anthropic.

Réponse des entreprises et résolution du problème

Dans un commentaire accordé à TechCrunch, les représentants d'Anthropic ont déclaré que de tels liens n'apparaissent dans les résultats de recherche que si les utilisateurs les publient eux-mêmes sur des forums ou des réseaux sociaux où les moteurs de recherche peuvent les voir. Selon Ami Roterman, porte-parole de l'entreprise, ils ne partagent pas de catalogues de chats ou de plans de site avec des moteurs de recherche comme Google, mais si un utilisateur partage publiquement des informations, elles peuvent être archivées par des services tiers.

De son côté, Ned Adriance, représentant de Google, a souligné que le moteur de recherche ne contrôle pas la popularité des pages Web et que les moteurs de recherche respectent toujours les directives définies par les propriétaires de sites. Détecté samedi par un utilisateur de Reddit et largement couvert lundi, ce dysfonctionnement a été rapidement résolu. Des recherches de test effectuées à partir de lundi n'ont donné aucun résultat, ce qui indique que le problème a été résolu avec succès.