OpenAI a lancé une nouvelle fonctionnalité appelée Trusted Contact pour assurer la sécurité des utilisateurs de ChatGPT. Cette nouveauté permet d'envoyer automatiquement des alertes aux proches d'un utilisateur si celui-ci exprime une intention de se faire du mal. Les adultes peuvent désormais associer une personne de confiance à leur compte. C'est ce que rapporte Techcrunch.com rapporte .
Si des situations dangereuses sont détectées lors d'une conversation avec l'IA, ChatGPT encourage l'utilisateur à contacter cette personne. Parallèlement, un message est envoyé au contact choisi par e-mail, SMS ou via l'application. Afin de préserver la confidentialité des utilisateurs, l'entreprise a décidé de ne pas divulguer le contenu détaillé de la conversation dans les alertes.
Cette mesure intervient dans un contexte de critiques et de poursuites judiciaires contre OpenAI. Auparavant, certaines familles avaient affirmé que ChatGPT avait contribué au suicide de leurs proches. Actuellement, l'entreprise surveille ces signaux de danger à l'aide d'un système automatisé et d'une équipe de sécurité humaine.
Selon les représentants de l'entreprise, les notifications de sécurité sont examinées en moins d'une heure. La fonctionnalité Trusted Contact est facultative et constitue une suite logique du système de contrôle parental introduit l'année dernière. OpenAI prévoit de continuer à collaborer avec des médecins et des chercheurs pour améliorer les mesures de réponse des systèmes d'IA dans les situations de crise.
Lisez “Zamin” sur Telegram !
