Entsetzen und Verachtung gingen am Donnerstag durch die sozialen Netzwerke der Wissenschaftler, als in einem kürzlich in einer renommierten Fachzeitschrift veröffentlichten, von Experten begutachteten Artikel mehrere ungeheuer schlechte, von der KI generierte Zahlen die Runde machten. Diese Zahlen – von denen die Autoren im Text des Artikels anerkennen, dass sie von Midjourney stammen – sind alle nicht interpretierbar. Sie enthalten Kauderwelschtext und, was am auffälligsten ist, eines enthält das Bild einer Ratte mit grotesk großen und bizarren Genitalien sowie die Textbezeichnung „dck“.
Am Donnerstag veröffentlichte der Herausgeber des Rezensionsartikels, Frontiers, eine „Besorgnissbekundung“ und stellte fest, dass man sich der Bedenken hinsichtlich des veröffentlichten Artikels bewusst sei. „Derzeit wird eine Untersuchung durchgeführt und diese Mitteilung wird nach Abschluss der Untersuchung entsprechend aktualisiert“, schrieb der Herausgeber.
Der fragliche Artikel trägt den Titel „Cellular Functions of Spermatogonial Stem Cells in Relation to JAK/STAT Signaling Pathway“ und wurde von drei Forschern in China verfasst, darunter dem korrespondierenden Autor Dingjun Hao vom Xi’an Honghui Hospital. Es wurde am Dienstag online in der Zeitschrift Frontiers in Cell and Developmental Biology veröffentlicht.
Frontiers hat nicht sofort auf die Bitte von Ars um einen Kommentar reagiert, aber wir werden diesen Beitrag mit jeder Antwort aktualisieren.
Die erste Figur in dem Papier, die die Ratte enthielt, erregte sofort Aufmerksamkeit, als Wissenschaftler begannen, sie auf Social-Media-Plattformen, darunter Bluesky und der früher als Twitter bekannten Plattform, weithin zu teilen und zu kommentieren. Aus der Ferne ist das anatomische Bild eindeutig völlig falsch. Bei näherer Betrachtung werden jedoch nur weitere Mängel sichtbar, darunter die Bezeichnungen „dissilced“, „Stammzellen“, „iollotte sserotgomar“ und „dck“. Viele Forscher zeigten sich überrascht und bestürzt darüber, dass ein derart offensichtlich schlechtes, von der KI erzeugtes Bild durch den Peer gelangen konnte -Review-System und jegliche interne Verarbeitung, die in der Zeitschrift vorhanden ist.
Aber das Paket der Ratte ist bei weitem nicht das einzige Problem. Abbildung 2 ist weniger anschaulich, aber ebenso verstümmelt. Obwohl es als Diagramm eines komplexen Signalwegs gedacht ist, handelt es sich stattdessen um ein wirres Durcheinander. Ein Experte für wissenschaftliche Integrität stellte die Frage, ob es eine allzu komplizierte Erklärung dafür gebe, „wie man einen Donut mit bunten Streuseln macht“. Wie das erste Bild ist auch das Diagramm voller unsinniger Texte und verwirrender Bilder. Abbildung 3 ist nicht besser und bietet eine Collage aus kleinen kreisförmigen Bildern, die dicht mit Kauderwelsch beschriftet sind. Das Bild soll visuell darstellen, wie der Signalweg aus Abbildung 2 die biologischen Eigenschaften von Spermatogonialstammzellen reguliert.
Einige Online-Wissenschaftler stellten die Frage, ob der Text auch KI-generiert sei. Ein Benutzer bemerkte, dass eine KI-Erkennungssoftware festgestellt habe, dass es wahrscheinlich KI-generiert sei; Allerdings ist diese Software, wie Ars bereits berichtet hat, unzuverlässig.
Die Bilder sind zwar ungeheuerliche Beispiele, verdeutlichen jedoch ein wachsendes Problem im wissenschaftlichen Publizieren. Der Erfolg eines Wissenschaftlers hängt in hohem Maße von seiner Publikationsbilanz ab: Eine große Menge an Veröffentlichungen, häufige Veröffentlichungen und Artikel in erstklassigen Fachzeitschriften verschaffen den Wissenschaftlern mehr Ansehen. Das System bietet wenig skrupellosen Forschern einen Anreiz, minderwertige Artikel durchzusetzen, die im Zeitalter von KI-Chatbots möglicherweise mithilfe von KI erstellt werden könnten. Forscher befürchten, dass der zunehmende Einsatz von KI veröffentlichte Forschungsergebnisse weniger vertrauenswürdig machen wird. Daher haben Forschungszeitschriften kürzlich neue Autorenrichtlinien für KI-generierte Texte festgelegt, um das Problem anzugehen. Aber im Moment gibt es, wie der Frontiers-Artikel zeigt, eindeutig einige Lücken.