Die Wissenschaft geriet diese Woche in einen Skandal, nachdem sich herausstellte, dass Forschungsarbeiten in Dutzenden von Fachzeitschriften von KI verfasst worden waren.
Bei einer Untersuchung wurden über 100 Artikel gefunden, die wahrscheinlich zumindest teilweise von ChatGPT verfasst wurden.
Diese Papiere sind aufgrund laxer oder nicht vorhandener Peer-Review-Prozesse bei gewinnorientierten Fachzeitschriften durchgefallen, was weitreichende Befürchtungen schürt, dass der Körper des menschlichen wissenschaftlichen Wissens schnell durch computergenerierten Müll minderer Qualität infiltriert wird.
Viele dieser Arbeiten wurden in obskuren wissenschaftlichen Fachzeitschriften veröffentlicht, aber Nachrichten über diese Art von wissenschaftlichem Betrug schaden dem Vertrauen der Öffentlichkeit in die Wissenschaft, da sind sich viele Wissenschaftler einig. Schon vor KI-generierten Texten in wissenschaftlichen Arbeiten haben sogenannte „Papierfabriken“ jahrelang minderwertige und sogar plagiierte Arbeiten produziert.
Dieser Artikel, der im International Journal of New Media Studies veröffentlicht wurde, trägt das verräterische Zeichen, dass er von KI geschrieben wurde: „Stand meiner letzten Wissensaktualisierung.“
Dieses Kapitel aus einem Buch über Medienwissenschaften behandelt Themen, die für die Jugend in Indien wichtig sind. Es enthält seltsame Sätze wie „Jugend ist die Zeit im Leben, in der man jung ist.“
Der Einfluss von KI auf Forschungsarbeiten wurde durch einen neuen Bericht der Tech-Journalismus-Website 404 Media aufgedeckt.
Es wurde festgestellt, dass es in Google Scholar, Googles Suchtool für wissenschaftliche Arbeiten, 115 Ergebnisse für „Stand meiner letzten Wissensaktualisierung“ gab. Dieser Satz, der am Dienstag 188 Ergebnisse lieferte, wird vom Bot häufig verwendet, um Benutzern mitzuteilen, wie aktuell seine Informationen sind.
404 Medien berichteten, dass die Daten in den Dokumenten, die den Ausdruck enthielten, den Daten tatsächlicher ChatGPT-Datenaktualisierungen entsprachen.
Die Beiträge behandelten Themen wie Wirbelsäulenverletzungen, Batterietechnologien, ländliche Medizin, bakterielle Infektionen, Kryptowährung, das Wohlergehen von Kindern und sogar künstliche Intelligenz.
Viele der Zeitschriften, die diese betrügerischen Artikel veröffentlichen, scheffeln Geld, indem sie den Autoren Bearbeitungsgebühren für die Veröffentlichung ihrer Artikel in Rechnung stellen, die keine neuen Ideen enthalten.
Einige der Suchergebnisse sollen niemanden täuschen, vielmehr geht es um die Fallstricke bei der Verwendung von ChatGPT als Recherchetool.
„Don’t Trust ChatGPT: A Case Study of a Defective Research Tool“ lautet der Titel eines solchen Artikels.
Wenn man alle Ergebnisse mit „ChatGPT“ entfernt, erhält man immer noch unglaubliche 135 Artikel, die den seltsamen Satz enthalten.
Einige dieser Artikel erscheinen legitim, während andere kaum verständlich sind: „Global Education Iducation and International Education Advocacy“ ist ein Beispiel für entstellte Titel.
Der Satz taucht sogar in einem Artikel darüber auf, wie man KI-Systeme transparenter und erklärbarer machen kann.
Bellingcat-Forscherin Kolina Koltai hat einen Screenshot einer wissenschaftlichen Arbeit auf
Neben der Tatsache, dass die Nutzung von ChatGPT einfach ist, ist beruflicher Druck ein Hauptgrund dafür.
ChatGPT wird regelmäßig mit neuem Wissen über die Welt aktualisiert. Wenn es Antworten auf Fragen gibt, stellt es häufig klar, wann sein Wissen zuletzt aktualisiert wurde. Dies ist ein nützlicher Hinweis für ChatGPT-Benutzer, bietet aber auch einen Hinweis darauf, dass eine wissenschaftliche Arbeit von ChatGPT verfasst wurde.
Bellingcat-Forscherin Kolina Koltai hat diesen Screenshot auf X gepostet und zeigt eine wissenschaftliche Arbeit, deren Autoren sich nicht einmal die Mühe gemacht haben, die charakteristische fröhliche Antwort von ChatGPT zu entfernen.
Akademische Forscher stehen unter enormem Druck seitens ihrer Universitäten, Arbeiten zu veröffentlichen, da dies eine der wichtigsten Methoden zur Bewertung von Wissenschaftlern ist, wenn es darum geht, einen neuen Job zu bekommen oder eine Beförderung zu erhalten.
Diese Herausforderung ist so häufig, dass es einen bedrohlichen Ausdruck gibt, um sie zu beschreiben: „Veröffentlichen oder untergehen.“
Und für diejenigen, die den einfachen Ausweg suchen, sind zahlreiche wissenschaftliche Zeitschriften gerne bereit, diesem Wunsch nachzukommen.
Normalerweise ist der Veröffentlichungsprozess für eine seriöse wissenschaftliche Zeitschrift langwierig und erfordert ein Peer-Review durch andere Wissenschaftler, dem oft mehrere Überarbeitungsrunden folgen.
Wissenschaftler müssen möglicherweise sogar zusätzliche Experimente durchführen, um den Anforderungen von Zeitschriftenherausgebern und Gutachtern gerecht zu werden.
Dieser Prozess kann Monate oder sogar Jahre dauern, je nachdem, welche Änderungen erforderlich sind.
Dieses Papier enthielt zwei verschiedene Versionen des verräterischen Satzes. Die Zeitschrift, in der es veröffentlicht wird, erhebt eine Bearbeitungsgebühr von lediglich 4 US-Dollar.
Dieser wissenschaftliche Artikel wurde im Dezember veröffentlicht. Es wurde seitdem kein einziges Mal zitiert, was darauf hindeutet, dass andere Forscher es nicht nützlich fanden
Aber im Allgemeinen ist das Endergebnis eine solide Arbeit, die geprüft, poliert und perfektioniert wurde.
Nicht so bei diesen „Papierfabriken“, die nahezu jede Einreichung annehmen – solange der Autor auch die Veröffentlichungsgebühr zahlt.
Das International Journal of New Media Studies hat beispielsweise zwei verschiedene Artikel veröffentlicht, die den verräterischen Satz „Stand meiner letzten Wissensaktualisierung“ enthalten.
Die Zeitschrift gibt an, Peer-Reviews durchzuführen, und hat sogar eine Seite, die der Beschreibung ihres Prozesses gewidmet ist.
„Mit der Peer-Review-Praxis soll sichergestellt werden, dass nur gute wissenschaftliche Erkenntnisse veröffentlicht werden“, heißt es in der Einleitung der Seite auf der Website der Zeitschrift.
„Es handelt sich um einen objektiven Prozess, der das Herzstück guten wissenschaftlichen Publizierens bildet und von allen renommierten wissenschaftlichen Fachzeitschriften durchgeführt wird.“
Beim Peer-Review wird ein Manuskript an mehrere Experten – in der Regel drei – verschickt, die den Artikel sorgfältig lesen und ihre Kritik äußern. Auch ohne größere Überarbeitungen nimmt dieser Prozess Zeit in Anspruch, da Gutachter berufstätige Wissenschaftler sind, die in ihrem Zeitplan Zeit finden müssen, um die Arbeit zu lesen.
Dieses Papier trägt den Titel „Globale Bildungsbildung und internationale Bildungsvertretung“. Es wurde im Januar dieses Jahres veröffentlicht und enthält nur vier Verweise auf andere Studien
Eine zweite Verwendung des Schlüsselbegriffs in diesem Artikel zeigt, dass er mit ziemlicher Sicherheit von KI geschrieben wurde
Dennoch verspricht die Zeitschrift, dass die Artikel ein bis zwei Tage nach ihrer Einreichung veröffentlicht werden.
DailyMail.com hat die Redakteure der Zeitschrift bezüglich ihrer Richtlinien zu KI-generierten Einreichungen kontaktiert.
Das International Journal of New Media Studies verlangt von Autoren 50 US-Dollar für die Veröffentlichung eines Artikels, weitere 20 US-Dollar für die Vergabe einer DOI-Nummer (die für die Online-Indexierung verwendet wird) und weitere 50 US-Dollar für den Erhalt einer gedruckten Ausgabe der Zeitschrift.
Dieses Tagebuch ist ein eklatantes Beispiel, aber kein Einzelfall.
Die Suche nach „Stand meiner letzten Wissensaktualisierung“ führt zu einer riesigen Liste von Artikeln, die in allen möglichen Fachzeitschriften veröffentlicht wurden und so unterschiedliche Themen wie Materialwissenschaft, Jugendgesundheit und Quantenphysik abdecken.
Es ist kein Geheimnis, dass Papierfabriken gegen eine Gebühr minderwertiges Papier herstellen.
Da KI-Chatbot-Tools jedoch einfacher zu verwenden und allgemeiner verfügbar werden, scheinen diese minderwertigen Artikel immer häufiger zu werden.