Las revistas científicas se enfrentan a un flujo de artículos creados con IA generativa. Si bien antes era fácil identificar tales trabajos mediante errores ilógicos o citas inventadas, las herramientas actuales pueden generar textos creíbles casi indistinguibles de la investigación real. Las redacciones y los revisores temen que el sistema de peer review se vea desbordado. Así lo informa Ixbt.com informa .
Peter Degen, miembro de la Universidad de Zúrich, notó que su antiguo artículo tenía de repente cientos de nuevas citas. Resultó que su trabajo se está utilizando masivamente en estudios falsos generados automáticamente a partir de bases de datos abiertas como Global Burden of Disease. Dichos artículos buscan correlaciones estadísticas y las presentan como innovaciones científicas.
Matt Spike, editor de Scientific Reports, señala que los sistemas de IA modernos se han vuelto mucho más sofisticados. Analizan datos de forma independiente, proponen hipótesis y escriben artículos completos enriquecidos con gráficos. Investigadores de la Universidad Carnegie Mellon han descubierto que estos sistemas a veces inventan datos o utilizan métodos de análisis cuestionables, pero el resultado final parece muy profesional.
Los problemas del sistema académico agravan la situación. Las universidades y los fondos de subvención siguen evaluando a los científicos por el número de publicaciones, mientras que las editoriales se benefician de las tarifas de publicación. Según un estudio en la revista Nature, los científicos que utilizan activamente la IA publican de media tres veces más artículos.
Este proceso pone en duda la capacidad de la comunidad científica para distinguir los logros científicos reales del ruido estadístico. La escasez de revisores y la aceleración de los flujos de publicación se están convirtiendo en uno de los principales factores que llevan al sistema académico a una crisis grave.
¡Lee “Zamin” en Telegram!
