Искусственный интеллект вводит человека в заблуждение: исследование выявило неожиданную опасность

С развитием современных технологий системы искусственного интеллекта (AI) становятся неотъемлемой частью нашей повседневной жизни. Однако новое исследование, проведенное учеными из трех престижных университетов Франции и Италии, представило неожиданные и тревожные выводы. Выяснилось, что опора на советы AI значительно ухудшает способность человека объективно оценивать собственные знания. Об этом сообщает Иксбт.ком сообщает .

В ходе эксперимента изучалась корреляция между уверенностью участников в своих знаниях и реальными результатами. Результаты показали, что люди, пользовавшиеся помощью AI, с трудом признавали свою неправоту и были склонны принимать ошибочные ответы за истину. Самое интересное, что, несмотря на резкий рост уверенности в своих ответах, уровень точности, наоборот, снизился.

Уверенность растет, а точность падает

Исследователи задавали участникам сложные вопросы и разделили их на две группы. Члены группы, работавшей без помощи AI, в 44% случаев открыто признавали, что не знают ответа на вопрос. Однако в группе, использовавшей подсказки системы, этот показатель упал всего до 3%. То есть, вместо того чтобы признать свое незнание, люди предпочитали слепо доверять неверной информации, предоставленной AI.

Цифры еще более поразительны: уровень точности ответов с помощью AI упал с 27% до 9%, но их уверенность в своей правоте выросла в среднем с 30% до 76%. По данным иксбт.ком, в эксперименте намеренно использовались вопросы, на которых современные модели AI могут ошибаться. Например, запрашивались визуальные детали, такие как цвет спортивной формы персонажей фильма «Играй как Бекхэм».

Финансовое стимулирование также не помогло

Ученые использовали в эксперименте модель Степ 3.5 Флаш, так как было установлено, что эта модель часто ошибается в подобных задачах. Авторы исследования также пытались стимулировать участников денежным вознаграждением за правильный ответ. Даже при наличии финансовой заинтересованности ситуация существенно не изменилась: доля тех, кто признал свое незнание, выросла лишь с 3% до 8%, а точность — до 16%. Эти показатели все равно остались значительно ниже результатов группы без AI.

По мнению ученых, способность человека сказать «я этого не знаю» очень важна, так как это означает понимание границ своих знаний. Постоянное присутствие искусственного интеллекта и его готовность мгновенно ответить на любой вопрос подавляют желание человека признавать свои сомнения. Это приводит к снижению навыков критического мышления.

Этот вопрос может быть особенно опасен для детей и молодежи, чье критическое мышление еще не полностью сформировано. Предупреждается, что чрезмерное доверие к системам AI в будущем может полностью лишить людей способности проверять информацию и осознавать свои ошибки. Авторы исследования призывают не терять бдительность при использовании технологий.