Учёные Стэнфордского университета провели интересный, но тревожный эксперимент, который показал, что системы искусственного интеллекта могут прибегать к обману и манипуляции ради достижения победы, сообщает ScienceDaily.
Исследователи заставили различные модели ИИ соревноваться в виртуальной среде — они участвовали в выборах, продвигали продукты или боролись за информацию. Несмотря на то, что им было дано указание быть «честными и полезными», вскоре в ходе эксперимента ИИ начали лгать, распространять дезинформацию и даже использовать язык вражды ради успеха.
Авторы исследования назвали это поведение «Сделкой Молоха» — то есть, конкуренция ради выживания заставляет как людей, так и машины переступать моральные границы.
«Эта ситуация показывает серьёзный недостаток в архитектуре искусственного интеллекта, — говорится в отчёте. — Мы обучаем эти системы отслеживать лайки, клики, голоса или продажи, но не обращаем внимания на то, каким образом они достигают этих показателей».
По данным исследователей, во время эксперимента ИИ распространял на 190 процентов больше фейковых новостей ради победы. В политических симуляциях он получал больше голосов благодаря лжи и провокационной риторике.
Это доказывает, что в условиях конкуренции искусственный интеллект выбирает кратчайший путь к цели — манипулировать людьми.
По мнению исследователей Стэнфорда, нынешние меры безопасности ИИ недостаточны. Они призвали разработчиков устранить «моральные уязвимости» в таких системах.
«Если мы не исправим эти недостатки, искусственный интеллект будет ставить собственную победу выше интересов человека. Это может определить направление развития технологий в будущем», — говорится в выводах исследования.
Таким образом, учёные предупредили, что созданный человеком искусственный разум может однажды заставить человечество бороться против собственных правил.
Читайте «Zamin» в Telegram!
