Existenzielle Gefahr: Flut an KI-generierten Einreichungen bedroht arXiv

Eine massive Flut von KI-generierten Artikeln droht, die Datenbanken der Preprint-Plattform arXiv zu überlasten und komplett unbrauchbar zu machen. Das berichtet das Wissenschaftsmagazin New Scientist unter Berufung auf mehrere Akademiker, die von einem ernsten Problem sprechen. Demnach wurden noch im September 2024 insgesamt 20.569 wissenschaftliche Arbeiten dort eingereicht, bevor sie den üblichen Prozess der Peer-Review durchlaufen haben. Ein Jahr später seien es 26.646 gewesen – ein Anstieg um immerhin schon 29 Prozent. In diesem Jahr waren es demnach aber jetzt 40.363 Artikel, also noch einmal über 51 Prozent mehr. Es könnte sein, dass arXiv die Flut nicht überlebt, meint demnach der Mathematiker Kevin Buzzard vom Imperial College in London.

KI kann nicht gut erklären

Auf arXiv können Forschungsarbeiten veröffentlicht werden, die den formalen Prüfungsprozess noch nicht durchlaufen haben. Das 1991 eingerichtete Portal soll damit den Austausch in der Forschung erleichtern und beschleunigen. Nachdem der Dienst zuletzt lange von der US-amerikanischen Cornell University betrieben wurde, steht dahinter seit dem Sommer eine Non-profit-Organisation. Im Frühjahr hatte die Plattform neue Regeln für KI-generierte Inhalte vorgelegt und härtere Sanktionen für Verstöße festgelegt. Für eine Vielzahl von unwissenschaftlichen Methoden kann seitdem eine sofortige Sperre von einem Jahr verhängt werden. Schon seit 2025 gilt für den Fachbereich Computerwissenschaften beziehungsweise Informatik, dass arXiv nur Artikel annimmt, die bereits unabhängig überprüft wurden.

Inzwischen hat die Flut an KI-generierten Artikeln auch andere Forschungsgebiete erreicht, heißt es in dem Artikel von New Scientist. Weil die verantwortlichen Moderatorinnen und Moderatoren mit ihrer Arbeit nicht mehr hinterherkommen, könnten eingereichte Texte nun für Wochen in der Warteschleife verschwinden, schreibt das Magazin. Kevin Buzzard, der selbst solche Vorabprüfungen durchführt, sei ironischerweise jetzt selbst auf KI-Unterstützung angewiesen, um Artikel zu finden, auf die er sich dabei konzentrieren sollte. In dem Artikel beklagen vor allem Mathematiker, dass Nichtexperten mit KI-Werkzeugen inzwischen schwierige mathematische Probleme lösen und automatisch erklärende Artikel erstellen könnten. Ein Problem sei aber, dass „die Müllpapiere Sachen nicht gut erklären“, beklagt Buzzard.

Um der immensen Flut doch noch Herr zu werden, begrenzt arXiv seit Oktober die Einreichungsraten weiter. Pro Kalendermonat dürfen Forscher und Forscherinnen jetzt nur noch jeweils maximal zwei Artikel einreichen, insgesamt dürfen sie zu keinem Zeitpunkt mehr als drei Einreichungen offen haben. Das hat Kat Boboris von arXiv vorige Woche in einem Blogeintrag angekündigt. Darin hat sie „eine Zunahme von Beiträgen mit geringem Umfang und eng gefasster Thematik“ beklagt und „Paper mit geringem Wert“ kritisiert, die dank KI-Werkzeugen leicht erstellt werden könnten. Ein Diagramm in ihrem Artikel zeigt, dass die Zahl der eingereichten Beiträge allein von August auf September um etwa ein Viertel gestiegen ist.