Seit Jahren wächst die Zahl der veröffentlichten Studien, die teilweise oder komplett gefälscht sind. Künstliche Intelligenz verschärft das Problem.
Studien sind die Bausteine der Wissenschaft, sie bilden zusammen das große Gebäude der Wissenschaft. Werden anstelle von Bausteinen Pappkartons verbaut, dann besteht Einsturzgefahr. In der Wissenschaft sind es nicht Pappkartons, sondern gefälschte Studien, die das große Gebäude der Wissenschaft bedrohen – und KI verstärkt das Problem noch.
Das stellt auch Prof. Dr. Bernhard Sabel fest, der das Problem der gefälschten Studien intensiv kennt. Der Neuropsychologe überprüfte vor einigen Jahren zusammen mit einem Team in einer wissenschaftlichen Studie 17000 biomedizinische Arbeiten. Mit erschreckendem Resultat: »Am Ende kamen wir zu dem Ergebnis, dass 16% der Arbeiten verdächtig waren, und das waren Arbeiten von vor dem Jahr 2022.« Inzwischen sei das Problem noch größer, vermutet Sabel.
Seine Beobachtung deckt sich mit den Ergebnissen anderer Forschenden: Immer wieder werden Studien, die teilweise gefälschte Inhalte enthalten oder komplett erfunden sind, selbst in angesehenen Fachzeitschriften veröffentlicht. ›Paper Mills‹ (Papierfabriken) werden Organisationen genannt, die gefälschte oder manipulierte Arbeiten produzieren und verkaufen. Der Name spielt auf die große Menge an ›paper‹ an, wie Studienveröffentlichungen im Englischen genannt werden.
Verschiedene Gründe ermöglichen Paper Mills: Zum einen ist die Nachfrage sehr groß: Wer sich in der Wissenschaft einen Namen machen will oder finanzielle Unterstützung für seine Forschung benötigt, der muss eine möglichst lange Liste an veröffentlichten Studien vorweisen. Außerdem werden heutzutage jedes Jahr Millionen von Studien produziert. Daraus folgt: Die Herausgeber und ihre Experten, die die Artikel überprüfen sollen, können Studien in der Regel nicht gründlich genug überprüfen, um professionelle Täuschungen zu erkennen. Denn in den paper mills wird so professionell manipuliert und getäuscht, dass dies nur sehr schwer zu erkennen ist. Sabel, der schon einmal mit einem Mitarbeiter einer solchen paper mill gesprochen hat, fasst zusammen: »Die haben hunderte von Mitarbeitern, die nicht viel Ahnung von Wissenschaft haben. Aber sie sind schlau, was die Produktion von solchen Arbeiten betrifft.«
Ein großes Problem für die Wissenschaft
KI macht Manipulation und Täuschung noch einfacher, warnt Sabel: »Fake-Publikationen wurden vorher schon geschrieben und Bildplagiate, Textplagiate und irgendwelche erfundenen Daten konnte man vorher auch ohne KI schon machen. Aber KI potenziert das Problem jetzt, weil es noch einfacher geht.« Gefälschte Studien untergraben die Glaubwürdigkeit wissenschaftlicher Arbeit, und sie können dazu führen, dass Forschungsgebiete finanziell gefördert werden, die eigentlich keiner Förderung wert sind. Um das Problem zu lösen, setzen auch die wissenschaftlichen Verlage auf KI: Mittlerweile nutzen sie Computerprogramme, die mithilfe von KI eingereichte Artikel gezielt auf mögliche Fälschungen hin prüfen. Noch ist nicht klar, ob dies allein das Problem lösen wird. Deswegen formulierte Bernhard Sabel 2025 zusammen mit anderen Wissenschaftlern die ›Stockholm Declaration‹, in der das Problem der gefälschten Studien klar benannt wird. Obwohl die öffentliche Diskussion ein gewisses Risiko birgt. »Ja, das ist ein moralisches Dilemma«, sagt der Neuropsychologe. »Denn einerseits wollen wir jetzt nicht übertreiben und eine unzulässige Generalisierung machen, dass wir kein Vertrauen mehr in die Wissenschaft haben können. Aber wir sollten genauer hingucken und wir, die Wissenschaftler, sollten auch das Problem lösen. Das ist so eine Art Krankheit, die therapiert werden muss.« Hoffentlich bald, denn: Wenn Wissenschaft ihre Glaubwürdigkeit verliert – woran orientieren sich Gesellschaft und Politik dann?
