Künstliche Intelligenz überschwemmt wissenschaftliche Fachzeitschriften mit gefälschten Artikeln
Wissenschaftliche Fachzeitschriften sehen sich mit einer Flut von Artikeln konfrontiert, die mithilfe generativer KI erstellt wurden. Während solche Arbeiten früher leicht durch unlogische Fehler oder erfundene Zitate zu identifizieren waren, können aktuelle Tools glaubwürdige Texte generieren, die von echter Forschung kaum zu unterscheiden sind. Redaktionen und Gutachter sind besorgt, dass das Peer-Review-System unter diesem Ansturm zusammenbricht. Dies berichtet Ixbt.com berichtet .
Peter Degen, Mitarbeiter der Universität Zürich, bemerkte, dass sein alter Artikel plötzlich Hunderte neuer Zitate aufwies. Es stellte sich heraus, dass seine Arbeit massenhaft in gefälschten Studien verwendet wird, die automatisch auf der Grundlage offener Datenbanken wie Global Burden of Disease generiert werden. Solche Artikel suchen nach statistischen Zusammenhängen und präsentieren diese als wissenschaftliche Innovationen.
Matt Spike, Redakteur bei Scientific Reports, stellt fest, dass moderne KI-Systeme deutlich ausgereifter geworden sind. Sie analysieren selbstständig Daten, schlagen Hypothesen vor und verfassen vollständige Artikel, die mit Grafiken angereichert sind. Forscher der Carnegie Mellon University haben festgestellt, dass solche Systeme manchmal Daten erfinden oder fragwürdige Analysemethoden verwenden, das Endergebnis jedoch sehr professionell aussieht.
Probleme im akademischen System verschärfen die Situation. Universitäten und Förderstiftungen bewerten Wissenschaftler immer noch nach der Anzahl ihrer Publikationen, während Verlage von Gebühren für Artikel profitieren. Laut einer Studie im Journal Nature veröffentlichen Wissenschaftler, die aktiv KI nutzen, durchschnittlich dreimal mehr Artikel.
Dieser Prozess stellt die Fähigkeit der wissenschaftlichen Gemeinschaft in Frage, echte wissenschaftliche Errungenschaften von statistischem Rauschen zu unterscheiden. Der Mangel an Gutachtern und die Beschleunigung der Publikationsströme werden zu einem der Hauptfaktoren, die das akademische System in eine schwere Krise führen.
Lesen Sie „Zamin“ auf Telegram!
