OpenAI a lancé une nouvelle fonctionnalité « Trusted Contact » qui apporte une assistance lorsque des signes de dépression ou de risques d'automutilation sont détectés lors des interactions avec l'IA. Ce système permet aux utilisateurs de désigner des personnes de confiance qui seront informées en cas d'urgence. C'est ce que rapporte Ixbt.com rapporte .
L'utilisateur peut choisir un proche de plus de 18 ans et lui envoyer une invitation. Si le système détecte des situations dangereuses dans les conversations ChatGPT, l'utilisateur est d'abord averti. Si le risque persiste, les modérateurs d'OpenAI évaluent la situation et, en cas de confirmation, un message est envoyé au contact de confiance par SMS ou e-mail.
L'entreprise garantit une confidentialité stricte : aucun historique ou détail de conversation n'est transmis au contact de confiance. Le message contient uniquement des informations générales sur la nécessité de contacter l'utilisateur. Le processus de vérification par les modérateurs prend moins d'une heure.
Cette fonctionnalité a été développée en collaboration avec des experts en santé mentale. Il est important de noter que Trusted Contact ne remplace pas les médecins ou les services d'urgence. ChatGPT continuera d'orienter les utilisateurs vers des ressources appropriées pour obtenir une aide professionnelle.
Lisez “Zamin” sur Telegram !
