Les revues scientifiques sont confrontées à un flux d'articles créés à l'aide de l'IA générative. Alors qu'il était auparavant facile d'identifier de tels travaux par des erreurs illogiques ou des citations inventées, les outils actuels peuvent générer des textes crédibles presque impossibles à distinguer de la recherche réelle. Les rédactions et les relecteurs craignent que le système de peer review ne soit submergé. C'est ce que rapporte Ixbt.com rapporte .
Peter Degen, membre de l'Université de Zurich, a remarqué que son ancien article comptait soudainement des centaines de nouvelles citations. Il s'est avéré que son travail est utilisé massivement dans de fausses études générées automatiquement à partir de bases de données ouvertes comme Global Burden of Disease. Ces articles recherchent des corrélations statistiques et les présentent comme des innovations scientifiques.
Matt Spike, éditeur chez Scientific Reports, souligne que les systèmes d'IA modernes sont devenus beaucoup plus sophistiqués. Ils analysent indépendamment les données, proposent des hypothèses et rédigent des articles complets enrichis de graphiques. Des chercheurs de l'Université Carnegie Mellon ont découvert que ces systèmes inventent parfois des données ou utilisent des méthodes d'analyse douteuses, mais le résultat final semble très professionnel.
Les problèmes du système académique aggravent la situation. Les universités et les fonds de subvention évaluent toujours les scientifiques en fonction du nombre de publications, tandis que les éditeurs tirent profit des frais de publication. Selon une étude publiée dans la revue Nature, les scientifiques qui utilisent activement l'IA publient en moyenne trois fois plus d'articles.
Ce processus remet en question la capacité de la communauté scientifique à distinguer les véritables avancées scientifiques du bruit statistique. La pénurie de relecteurs et l'accélération des flux de publication deviennent l'un des principaux facteurs menant le système académique vers une crise grave.
Lisez “Zamin” sur Telegram !
