В Калифорнии после смерти 16-летнего подростка его родители подали в суд на разработчика ChatGPT — компанию OpenAI. По их словам, чат-бот подтолкнул их сына к самоубийству.
После происшествия OpenAI объявила о введении новых родительских контролей. Теперь родители смогут подключиться к аккаунту ребёнка, ограничивать некоторые функции и получать уведомления, если система определит, что подросток находится в “тяжёлом эмоциональном состоянии”.
Однако родители погибшего и их адвокат считают эти меры недостаточными. По их мнению, OpenAI пытается сменить тему вместо того, чтобы решить проблему, и чат-бот необходимо временно отключить.
В OpenAI признали, что в отдельных случаях система работала не так, как ожидалось, и заявили, что совместно со специалистами разрабатывают дополнительные механизмы для поддержки психического здоровья подростков.
Читайте «Замин» в Telegram!
