KI erfindet Quellen: ein Fall aus der Medizin

Eine vor einigen Monaten im Fachjournal The Lancet veröffentlichte Studie hat 2,5 Millionen biomedizinische Publikationen aus den Jahren 2023 bis Anfang 2026 systematisch auf ihre Referenzen überprüft. Das Ergebnis: Die Zahl erfundener Zitate, also Referenzen, die zu keiner real existierenden Publikation gehören, hat sich in dieser Zeit mehr als verzwölffacht: von rund 4 pro 10'000 Artikeln im Jahr 2023 auf 57 pro 10'000 Anfang 2026. Während 2023 nur etwa jeder 2828. Artikel mindestens ein erfundenes Zitat enthielt, war es Anfang 2026 bereits jeder 277.

Die Autor:innen der Studie bringen diesen Anstieg mit der zunehmenden Nutzung von KI-Schreibwerkzeugen in Verbindung: Sprachmodelle generieren Referenzen, die plausibel klingen, aber komplett frei erfunden sind, oft mit realen, aktiven Forschenden als Autor:innen und glaubwürdigen Publikationsjahren. Frühere Studien schätzen, dass 30–69% der von KI generierten Referenzen in medizinischen Kontexten fabriziert sind. Solche Fehler bleiben oft unentdeckt, weil sie im klassischen Peer-Review-Verfahren kaum auffallen.

In der Medizin und den Gesundheitswissenschaften ist das kein kleines Problem: Wird ein Artikel mit erfundenen Referenzen seinerseits in einer systematischen Übersichtsarbeit oder einer klinischen Guideline zitiert, ist die Evidenzkette, auf der Behandlungsentscheidungen beruhen, kompromittiert. Laut derselben Studie hatten 98,4% der betroffenen Artikel zum Zeitpunkt der Analyse noch keine Korrektur durch die Verlage erhalten. Das heisst: Diese erfundenen Referenzen bleiben unmarkiert in Artikeln bestehen, die andere Forschende weiterhin zitieren und als Grundlage für klinische Leitlinien nutzen können.

Diese Zahlen zeigen: Verlassen kannst du dich nicht allein auf die KI. Deshalb hier ein paar konkrete Hinweise, wie du selbst auf Nummer sicher gehst:

• Kopiere KI-generierte Literatur nie ungeprüft: Übernimm nie eine KI-Literaturliste in deine Arbeit, ohne jede einzelne Referenz zu überprüfen.
• Prüfe jede Referenz einzeln: Suche Titel, Autor:innen und DOI in PubMed, Crossref oder Google Scholar. Existiert der Artikel wirklich so, wie die KI ihn angibt?
• Öffne DOI-Links direkt: Ein gültiger DOI führt zur echten Publikation. Führt er ins Leere oder zu einem anderen Text, ist Vorsicht geboten.
• Nutze Literaturverwaltungsprogramme: Zotero oder Citavi helfen, Referenzen direkt aus verifizierten Datenbanken zu importieren, statt sie manuell (oder per KI) zu erzeugen.
• Sei misstrauisch bei «zu perfekten» Referenzen: Erfundene Zitate passen oft verdächtig genau zum eigenen Argument. Wenn eine Referenz perfekt passt, du sie aber nicht leicht findest, ist das ein Warnsignal.
• Sei besonders vorsichtig bei Review-Artikeln: Diese haben laut Studie eine 57% höhere Rate an erfundenen Zitaten als andere Publikationstypen, vermutlich, weil sie mit mehr Referenzen arbeiten. Wenn du KI für eine Literaturübersicht nutzt, prüfe besonders gründlich.
• Bei Unsicherheit: Frag die ZHB: Wir helfen dir gerne bei der Verifikation von Referenzen und beim richtigen Umgang mit KI-Tools und Literaturverwaltungsprogramme in der Recherche.