Научные журналы сталкиваются с потоком статей, созданных с помощью генеративного искусственного интеллекта. Если раньше такие работы было легко выявить по нелогичным ошибкам или вымышленным цитатам, то современные инструменты способны создавать убедительные тексты, которые почти не отличаются от реальных исследований. Редакции и рецензенты обеспокоены тем, что система peer review захлебывается под этим потоком. Об этом сообщает Ixbt.com сообщает .
Сотрудник Цюрихского университета Петер Деген заметил, что его старая статья неожиданно получила сотни новых цитирований. Выяснилось, что его работа массово используется в фальшивых исследованиях, автоматически генерируемых на основе открытых баз данных, таких как Global Burden of Disease. Такие статьи ищут статистические корреляции и представляют их как научную новизну.
Редактор Scientific Reports Мэтт Спик отмечает, что современные системы искусственного интеллекта стали гораздо совершеннее. Они самостоятельно анализируют данные, предлагают гипотезы и пишут полные статьи, дополненные графиками. Исследователи из Университета Карнеги-Меллона обнаружили, что такие системы иногда выдумывают данные или используют сомнительные методы анализа, но итоговый результат выглядит очень профессионально.
Проблемы в академической системе усугубляют ситуацию. Университеты и грантовые фонды по-прежнему оценивают ученых по количеству публикаций, а издательства получают доход от платы за статьи. Согласно исследованию в журнале Nature, ученые, активно использующие искусственный интеллект, публикуют в среднем в три раза больше статей.
Этот процесс ставит под сомнение способность научного сообщества отделять реальные научные достижения от статистического шума. Нехватка рецензентов и ускорение потока публикаций становятся одними из главных факторов, ведущих академическую систему к серьезному кризису.
Читайте «Zamin» в Telegram!
