Das Problem: Von KI verfasste Briefe überschwemmen wissenschaftliche Veröffentlichungen
Weltweit stehen wissenschaftliche Zeitschriften vor einer unerwarteten Flut: Briefe, die nicht von menschlichen Forschern, sondern von Systemen der künstlichen Intelligenz verfasst wurden. Einer bahnbrechenden Studie zufolge verfassen Chatbots Korrespondenz für renommierte medizinische und wissenschaftliche Publikationen, was Bedenken hinsichtlich der Integrität der wissenschaftlichen Kommunikation aufkommen lässt.
Das Phänomen erlangte Aufmerksamkeit, nachdem Forscher herausfanden, dass diese KI-Systeme in der Lage sind, den Schreibstil von Experten in bestimmten Fachgebieten nachzuahmen. Diese Sprachmodelle, die nach Referenzen in Spezialgebieten mit begrenzter Literatur suchen, beziehen manchmal die eigene Arbeit echter Forscher ein, um ihre Argumente zu untermauern.
Ein verräterisches Zeichen taucht auf
Ans Licht kam das Problem durch die Erfahrung von Dr. Carlos Chaccour, einem Spezialist für Tropenkrankheiten an der Universität Navarra in Spanien. Nachdem er im New England Journal of Medicine einen Artikel über Malariabekämpfung veröffentlicht hatte, erhielt er einen scharf formulierten Brief, in dem er seine Forschung in Frage stellte.
Was dies ungewöhnlich machte, waren die spezifischen Hinweise in dem Brief auf Studien, die Dr. Chaccour selbst verfasst hatte. Dr. Chaccour war misstrauisch gegenüber diesem Zufall, untersuchte ihn und kam zu dem Schluss, dass der Brief von einem großen Sprachmodell generiert worden sein musste.
Ein Muster entfaltet sich
Dieser Einzelfall offenbarte einen breiteren Trend. Dr. Chaccour und sein Team analysierten über 730.000 Briefe, die seit 2005 in wissenschaftlichen Fachzeitschriften veröffentlicht wurden, und stellten fest, dass ein dramatischer Anstieg verdächtiger Korrespondenz mit der weit verbreiteten Verfügbarkeit fortschrittlicher KI-Systeme einhergeht.
Die Beweise zeigen, dass Autoren nach 2023 plötzlich eine außergewöhnliche Menge an Briefen verfassten. Ein Forscher veröffentlichte in einem einzigen Jahr 234 Briefe in mehreren Zeitschriften. Ein anderer Autor verzeichnete von null veröffentlichten Briefen im Jahr 2023 auf 84 Briefe im Jahr 2025.
Zeitschriftenredakteure schlagen Alarm
Das Problem geht über Dr. Chaccours Erfahrung hinaus. Dr. Eric Rubin, Chefredakteur des New England Journal of Medicine, erkannte den besorgniserregenden Anreiz für Autoren an, KI zu nutzen, um ihre Publikationszahlen zu verbessern.
„In wissenschaftlichen Zeitschriften veröffentlichte Leserbriefe werden in Datenbanken aufgeführt, in denen auch Zeitschriftenartikel aufgeführt sind, und sie zählen genauso viel wie ein Artikel“, erklärte Dr. Rubin. „Für eine sehr kleine Menge Arbeit kann jemand einen Artikel im New England Journal of Medicine in seinen Lebenslauf aufnehmen. Der Anreiz zum Betrügen ist hoch.“
Das Ausmaß des Problems
Die Studie brachte alarmierende Statistiken zu Tage:
- 6 % der Briefe im Jahr 2023 stammten von produktiven Autoren (solche mit drei oder mehr veröffentlichten Briefen pro Jahr)
- Im Jahr 2024 stieg dieser Wert auf 12 %
- Die aktuellen Zinssätze nähern sich 22 %
Dr. Amy Gelfand, Chefredakteurin der Zeitschrift Headache, hat festgestellt, dass verdächtige Briefe oft kurz nach der Veröffentlichung von Artikeln eingehen, im Gegensatz zu menschlichen Autoren, die normalerweise Wochen brauchen, um zu antworten.
Ein wachsendes Anliegen
Die Verbreitung von KI-generierten Briefen stellt eine erhebliche Bedrohung für den wissenschaftlichen Diskurs dar. Diese automatisierten Kommunikationen tarnen sich oft als legitime Beiträge, es mangelt ihnen jedoch an der Fachkenntnis und dem differenzierten Verständnis menschlicher Forscher.
„Ihre [KI-]Ergebnisse mögen plausibel erscheinen, aber es mangelt ihr an Tiefe, Kontext und kritischem Denken, die einen echten wissenschaftlichen Austausch auszeichnen“, bemerkte Dr. Chaccour.
Wie Dr. Chaccour feststellte, „dringen diese von der KI generierten Briefe in Zeitschriften wie Omicron ein“ und beziehen sich auf die Covid-Variante, die andere Stämme schnell verdrängte.
Die wissenschaftliche Gemeinschaft steht nun vor einer entscheidenden Herausforderung: die Integrität der wissenschaftlichen Kommunikation aufrechtzuerhalten und gleichzeitig die Ära leistungsfähiger Sprachmodelle zu meistern
