Die Transparenzfalle: Warum ein KI-Hinweis kein Qualitätsnachweis ist

Roohi Ghosh von Scholarly Kitchen über KI, die Fehler findet, die KI vorher selbst gemacht hat

Immer mehr Fachzeitschriften verlangen von Autorinnen und Autoren, dass sie ihre KI-Nutzung offenlegen. Roohi Ghosh, Ambassador for Researcher Success bei Cactus Communications, hält das für richtig und zugleich für gefährlich: Wer die Offenlegung für einen Qualitätsnachweis hält, schaut am Ende weniger genau hin. Ihr Beitrag erschien zuerst in The Scholarly Kitchen, wir veröffentlichen ihn in deutscher Übersetzung.

jumping-arrow-white

Published: 12.11.2026  |  Foto: AI-generated, Magnific

Lassen wir hier den Fuchs den Hühnerstall bewachen? In der Wissenschaft hat sich KI nach und nach in unser Schreiben und in die Publikationsprozesse eingeschlichen. Forschende erzeugen und verfeinern damit Inhalte, Verlage prüfen damit Manuskripte und spüren mögliche Fehler auf. Bringt KI also Fehler hinein? Oder hilft sie, Fehler zu finden? Die Antwort ist nicht so einfach, denn oft findet die KI genau die Fehler, die sie selbst in das Paper eingebracht hat. Das ist, als wollte man einen löchrigen Eimer füllen. Kein Wunder, dass wir uns im Kreis zu drehen scheinen, gerade wenn es um Forschungsintegrität und das Vertrauen in Forschung geht. Dieses KI-Paradox hat uns ratlos gemacht.

Wie können wir KI-gestützten Papers also vertrauen und sicher sein, dass sie frei von KI-verursachten Fehlern sind? Und sollten wir sie automatisch für weniger vertrauenswürdig halten als Papers, die vollständig von Menschen geschrieben wurden? Avi Staiman schreibt dazu in seinem Beitrag „Damned if You Do, Damned if You Don’t: Multilingual Researchers’ Use of AI in Academic Writing“ in The Scholarly Kitchen:

Ist das Englisch holprig, gilt die Autorin oder der Autor womöglich als weniger glaubwürdig (vor allem, weil man es ja mit KI hätte glätten können!). Wirkt das Englisch verdächtig poliert oder typisch ‚nach KI‘, gilt sie oder er womöglich ebenfalls als weniger glaubwürdig.

Dabei kann auch ein von Menschen geschriebenes Paper durchaus erfundene Quellen und unbelegte Behauptungen enthalten. Fragen wir uns ehrlich, auf einer Skala von 1 bis 10: Welches Paper würde mehr Vertrauen wecken? Das von Menschen geschriebene oder das KI-gestützte? Würden wir dem menschlichen Paper mehr vertrauen? Und beruhte dieses Urteil auf der Qualität des Papers oder darauf, wie es entstanden ist?

Anzeige

Newsletter-Banner_Xpublisher_2000x694

Die Grenzen der Offenlegung

Dass keine KI im Spiel war, garantiert noch keine vertrauenswürdige Forschung. Ebenso wenig leistet das eine offengelegte KI-Nutzung. KI-Transparenz ist durchaus nötig, sie ist aber nicht unbedingt ein Indikator für die Qualität der Forschung oder für Forschungsintegrität. KI-Offenlegungen sagen uns nur, ob und wie KI eingesetzt wurde. Sie beweisen nicht, dass die Technik verantwortungsvoll genutzt wurde, dass die Aussagen überprüft wurden und das Paper fehlerfrei ist.

Nehmen wir folgenden Fall: Eine Autorin hält sich vollständig an die KI-Offenlegungsrichtlinie einer Zeitschrift und reicht trotzdem ein Paper mit unbelegten Behauptungen und erfundenen Quellen ein. Wer die Offenlegungsregeln erfüllt, hat damit noch keine Forschungsintegrität bewiesen. Das ist die Transparenzfalle: Wir halten die Offenlegung womöglich für einen Beleg von Integrität und Qualität.

Unbestreitbar bringt KI zusätzliche Risiken mit sich, und unterschiedliche Einsatzarten bergen unterschiedlich hohe Risiken. Wer mit KI die Grammatik verbessert, tut etwas anderes als jemand, der damit Interpretationen erzeugt, Daten analysiert oder große Teile des Papers schreibt. Art und Umfang der KI-Nutzung müssen deshalb in die Bewertung einfließen, denn davon hängt maßgeblich ab, welche Fehler entstehen können und welche Prüfung nötig ist. Die Frage reicht also über das Ob hinaus: Wofür wurde KI eingesetzt, welche Risiken bringt das mit sich, und wie lassen sie sich beherrschen? Bei einem Teil davon kann die Offenlegung helfen.

Dieselbe Sorgfalt sollte auch für von Menschen geschriebene Papers gelten. Auch ohne KI kann ein Paper gravierende Mängel, unbelegte Behauptungen und erfundene Quellen enthalten. Die KI-Offenlegung ist deshalb nur ein kleiner Teil dessen, was Verantwortlichkeit ausmacht. Das Problem liegt im Gewicht, das wir ihr beimessen. Als Ausgangspunkt für Verantwortlichkeit bleibt sie wichtig.

Unterm Strich gilt: Offenlegung und Erkennung allein lösen keine Integritätsprobleme. Sie vermitteln uns nur ein trügerisches Gefühl von Vertrauen. Das JAMA-Netzwerk hat im August 2026 seine Richtlinien aktualisiert und eingeräumt, dass „Offenlegungsrichtlinien möglicherweise nicht ausreichen, um Bedenken wegen KI-generierter Inhalte auszuräumen, die falsch oder sogar erfunden (d. h. halluziniert) sind“.

Was menschliche Prüfung leisten kann

Der Schwerpunkt sollte deshalb auf einem Rahmen für Verantwortung und Validierung liegen. Die Autorin oder der Autor muss die Verantwortung für ein Paper übernehmen, ob es mit KI-Unterstützung entstanden ist oder ohne. Wir brauchen eine echte menschliche Validierungsebene, auf der Menschen etwas beitragen und die Echtheit der Forschung bestätigen. Doch was heißt menschliche Validierung? Sollen Gutachterinnen und Gutachter jede Aussage, jede Quelle, jeden Datensatz und jedes Detail eines Papers unabhängig überprüfen? Das Peer Review war nie dafür gedacht, eine solche Pauschalgarantie zu geben, und von Gutachtenden zu erwarten, dass sie jeden Fehler finden, ist unrealistisch.

Hinzu kommt: KI ist so ausgefeilt geworden, dass auch menschliche Validierung nicht pauschal garantieren kann, dass ein Paper fehlerfrei ist. Menschliche Expertise sollte technische Prüfungen ergänzen. Geeignete Werkzeuge können mögliche Fehler und Widersprüche markieren. Menschliches Urteilsvermögen braucht es, um die vorhandene Evidenz zu bewerten und zu klären, ob die Argumentation Lücken hat, ob sie schwach ist und ob das Paper einen nennenswerten Beitrag zum bestehenden Wissen leistet. Ein kürzlich erschienener Aufsatz mit dem Titel „When disclosure rules are not enough: authorial warrant and judgement in AI-supported scholarship“ fasst es so zusammen:

Entscheidend ist daher neben der Frage, wo ein Modell eingesetzt wurde, vor allem, wo menschliches Urteil und menschliche Abwägung erhalten blieben und ob die Forschenden die Fähigkeiten behielten, die verantwortungsvolle Autorschaft erfordert.

Worauf er am Ende ankommt

Letztlich dürfen weder der Einsatz von KI noch ihr Fehlen zur Grundlage von Voreingenommenheit werden, wenn es um die Bewertung von Forschungsintegrität geht. Leitprinzip sollten die Belastbarkeit der Forschung, die Verantwortung der Autorinnen und Autoren und der Wert der Forschung sein. Am Ende des Tages belegt der Einsatz von KI kein Fehlverhalten, so wie ihr Fehlen keine Integrität belegt.

KI-Hinweis der Autorin: ChatGPT wurde genutzt, um diesen Artikel zu redigieren, zu verfeinern und zu strukturieren. Die Autorin hat die vorgeschlagenen Überarbeitungen geprüft und trägt die volle Verantwortung für Argumente, Interpretationen und den endgültigen Inhalt.

1696852120390

Roohi Ghosh (LinkedIn) ist Ambassador for Researcher Success bei Cactus Communications (CACTUS) und arbeitet seit mehr als 20 Jahren im wissenschaftlichen Publizieren, in der Weiterbildung von Forschenden und in der Content-Strategie. Sie hat mehr als 1.900 Weiterbildungsprogramme für Forschende verantwortet, die zusammen über 620.000 Anmeldungen erreichten. Als eine der „Chefs“, der Stammautorinnen und Stammautoren von The Scholarly Kitchen, und als Mitglied des Scholarly Kitchen Cabinet schreibt sie über KI im Publikationsprozess, Peer Review und Forschungsintegrität. Leitungs- und Gremienaufgaben hatte sie unter anderem bei EASE, ALPSP, SSP und der Peer Review Week.

Dieser Beitrag von Roohi Ghosh erschien zuerst am 2. November 2026 in The Scholarly Kitchen, dem Blog der Society for Scholarly Publishing (zum Original). Wir veröffentlichen ihn mit freundlicher Genehmigung der Autorin und der Redaktion. Die deutsche Übersetzung entstand mit Claude (Anthropic) und wurde redaktionell geprüft.

Der Artikel ist Teil des Channels Digital Publishing Technologien, der sich mit Content-Strategien und Prozessen beschäftigt.  Der Channel wird gesponsert von Fabasoft Xpublisher.

Dieses Magazin verwendet Cookies 🍪

Einige Cookies sind technisch notwendig, damit alles funktioniert. Andere ermöglichen zusätzliche Inhalte, die das Nutzererlebnis verbessern. Du kannst diese optional zulassen oder blockieren. Mehr dazu in unserer und Impressum .