Lancet: KI-halluzinierte Zitate in biomedizinischen Publikationen um Faktor 12 gestiegen
Ein in The Lancet veröffentlichtes Paper berichtet, dass die Rate fabrizierter Zitate in der biomedizinischen Forschungsliteratur seit 2023 um mehr als das 12-Fache gestiegen ist. Der primäre Treiber ist der nicht offengelegte Einsatz älterer KI-Modelle — die Zitate mit hoher Häufigkeit halluzinieren — ohne nachgelagerte Verifikationsschritte. Das Lancet-Paper stellt fest, dass moderne Modelle deutlich weniger Zitate halluzinieren und gut konzipierte agentische Systeme mit Verifikationsschritten das Problem weiter reduzieren können. Die Autoren fordern akademische Normen, die eine Offenlegung des KI-Einsatzes verlangen, um geeignete Verifikationsprotokolle zu ermöglichen.
Einordnung
Ein 12-facher Anstieg fabrizierter Zitate in der biomedizinischen Literatur — einem Bereich, in dem Zitiergenauigkeit unmittelbar klinische und Forschungsentscheidungen beeinflusst — stellt eine systemische Krise der akademischen Integrität dar, die den regulatorischen Druck auf den KI-Einsatz in der wissenschaftlichen Publikation beschleunigen wird.