Meta запустила новую систему безопасности для подростков: Искусственный интеллект под контролем
Корпорация Meta объявила о важном нововведении, направленном на обеспечение безопасности подростков, использующих чат-бот Meta AI. Теперь, если несовершеннолетний пользователь в общении с искусственным интеллектом затронет темы причинения себе вреда или суицида, система немедленно уведомит об этом родителей. Этот шаг предпринят на фоне международной критики влияния технологических гигантов на психическое здоровье молодого поколения. Об этом сообщает Techcrunch.ком сообщает .
По данным компании, в случае обнаружения признаков опасности в поведении подростка, специальное уведомление будет отправлено на панель родительского контроля. Meta заявила, что разработала специальную модель искусственного интеллекта для повышения точности этого процесса. Данная система специализируется на анализе содержания диалогов и выявлении опасных ключевых слов.
Человеческий фактор и меры безопасности
Хотя система автоматизирована, Meta внедрила дополнительный этап проверки для предотвращения ошибок. Согласно сообщению издания Иксбт.ком, все подозрительные чаты, помеченные искусственным интеллектом, перед отправкой родителям проходят ручную проверку специалистами. Даже если намерения подростка неясны, компания предпочитает уведомлять родителей в качестве меры предосторожности.В настоящее время эта функция доступна для пользователей Instagram Парентал Супервисион в США, Великобритании, Австралии и Канаде. К концу года планируется поэтапное внедрение системы по всему миру, включая пользователей в Узбекистане. Это позволит местным пользователям сделать цифровое общение своих детей более безопасным.
Экстренная помощь и ограничения контента
Meta не ограничивается только предупреждениями и стремится принимать оперативные меры в чрезвычайных ситуациях. Если выясняется, что жизнь пользователя (будь то подросток или взрослый) находится под угрозой, компания совершенствует механизм обращения в соответствующие спасательные службы. Ранее такая практика применялась к постам в социальных сетях Facebook и Instagram, а теперь она распространяется непосредственно на чаты Meta AI.Кроме того, возможности Meta AI для подростков работают в ограниченном режиме. Система отказывается вести диалоги на следующие темы:
- Сексуальный или романтический характер;
- Обсуждение алкоголя и других вредных веществ;
- Контент, пропагандирующий насилие.
Комментарии 0
…