Компания OpenAI запустила новую функцию под названием Trusted Contact для обеспечения безопасности пользователей ChatGPT. Это нововведение позволяет автоматически отправлять уведомления близким людям в случае, если пользователь выражает намерение причинить себе вред. Теперь взрослые могут привязать к своим аккаунтам доверенное лицо. Об этом сообщает Techcrunch.com сообщает .
Если в ходе общения с искусственным интеллектом будут выявлены опасные ситуации, ChatGPT предложит пользователю связаться с этим человеком. Одновременно с этим выбранному близкому лицу будет отправлено сообщение по электронной почте, SMS или через приложение. Компания решила не раскрывать подробное содержание беседы в уведомлениях для сохранения конфиденциальности пользователя.
Этот шаг предпринимается на фоне критики и судебных исков в адрес OpenAI. Ранее некоторые семьи заявляли, что ChatGPT стал причиной самоубийства их близких. В настоящее время компания отслеживает эти опасные сигналы с помощью автоматизированной системы и группы безопасности, состоящей из людей.
По словам представителей компании, уведомления по безопасности рассматриваются менее чем за час. Функция Trusted Contact носит добровольный характер и является логическим продолжением системы родительского контроля, внедренной в прошлом году. В будущем OpenAI планирует продолжить сотрудничество с врачами и исследователями для совершенствования мер реагирования систем ИИ в кризисных ситуациях.
Читайте «Zamin» в Telegram!
