Des outils d'intelligence artificielle enregistrent massivement les conversations sans avertissement

L'intégration rapide des outils modernes d'intelligence artificielle dans la vie quotidienne permet aux utilisateurs d'enregistrer et d'analyser automatiquement les communications, mais ce processus se fait souvent à l'insu des interlocuteurs. Selon The Wall Street Journal, la fonction d'enregistrement en arrière-plan étant devenue extrêmement simple, ces technologies sont désormais largement utilisées non seulement lors de réunions professionnelles, mais aussi dans le cadre de communications personnelles. C'est ce que rapporte Ixbt.com rapporte .

Notamment, le service Granola, qui a levé 125 millions de dollars d'investissements cette année et est évalué à 1,5 milliard de dollars, enregistre l'audio directement via le microphone de l'appareil. Il ne se connecte pas à l'appel en tant que participant distinct, ce qui signifie qu'aucun bot visible n'apparaît dans la conversation et qu'aucune notification automatique n'est envoyée. Cette approche diffère radicalement des services de visioconférence habituels.

Risques pour la vie privée et la confidentialité

L'utilisation croissante des capacités de ces nouvelles technologies par les utilisateurs en dehors du cadre professionnel suscite des inquiétudes. Emma Chang, fondatrice de la startup Yuzu Labs, a déclaré dans une interview qu'elle enregistrait les réunions initiales avant d'envoyer leurs transcriptions au service Claude pour analyse. De plus, d'autres utilisateurs ont signalé enregistrer des consultations médicales, des séances de thérapie et des réunions entre amis sans en avertir leurs interlocuteurs.

Dans 11 états américains, dont la Californie, la Floride, l'Illinois et la Pennsylvanie, enregistrer une conversation sans le consentement de tous les participants constitue une infraction et peut, dans certains cas, entraîner des poursuites pénales. Ce problème affecte également l'environnement d'entreprise.

Risques juridiques et conséquences cognitives

Les dirigeants d'entreprise et les experts en sécurité des données préviennent que ces « sténographes IA » discrets peuvent engendrer de graves risques juridiques. Par exemple, des cas ont été détectés où des outils d'enregistrement sont restés actifs même après la fin de réunions vidéo officielles, capturant ainsi des conversations informelles entre employés.

Au-delà des questions de confidentialité, les chercheurs étudient d'autres impacts négatifs de l'enregistrement de données par l'intelligence artificielle. Les recherches axées sur la réduction de la charge cognitive montrent qu'une dépendance excessive à l'égard de telles technologies peut entraîner une diminution de la capacité à traiter l'information de manière autonome et à faire preuve d'esprit critique.