После трагической смерти американского подростка, OpenAI решила значительно усилить меры безопасности в своём чат-боте. По сообщению Bloomberg, теперь родители смогут полностью контролировать общение своих детей через ChatGPT.
16-летний школьник Адам Рейн из Калифорнии покончил с собой в апреле этого года. Его родители связывают эту трагедию с чат-ботом и подали иск против компании OpenAI и её генерального директора Сэма Альтмана. Они считают, что программа на основе искусственного интеллекта могла отдалить их ребёнка от семьи и даже способствовать разработке планов самоубийства подростка.
Родители покойного в судебных документах заявляют:
"Чат-бот стал для Адама самым близким собеседником. Он делился своими страхами и психологическими проблемами именно с ChatGPT. Позднее программа предоставила ему информацию о способах самоубийства и не пыталась его отговорить".
После этой трагической ситуации OpenAI пообещала разработать новую систему контроля, которая позволит родителям полностью отслеживать активность своих детей. В ближайшее время родители смогут просматривать все запросы и переписку своих детей в ChatGPT.
Кроме того, компания планирует создать сеть лицензированных психологов, к которым пользователи смогут обращаться через чат-бот. Это позволит подросткам получать профессиональную помощь и надёжные консультации по вопросам психического здоровья.
Представители отмечают, что эти дополнительные меры безопасности и поддержки значительно снизят риски в онлайн-среде для детей и подростков. Таким образом, сотрудничество родителей и специалистов остаётся важным при использовании чат-ботов.
Читайте «Замин» в Telegram!
