Het probleem: door AI geschreven brieven overspoelen wetenschappelijke publicaties
Wetenschappelijke tijdschriften over de hele wereld worden geconfronteerd met een onverwachte stortvloed: brieven geschreven door kunstmatige intelligentiesystemen in plaats van door menselijke onderzoekers. Volgens een baanbrekend onderzoek stellen chatbots correspondentie op voor prestigieuze medische en wetenschappelijke publicaties, wat aanleiding geeft tot bezorgdheid over de integriteit van wetenschappelijke communicatie.
Het fenomeen kreeg aandacht nadat onderzoekers ontdekten dat deze AI-systemen in staat zijn de schrijfstijl van experts op specifieke vakgebieden na te bootsen. Deze taalmodellen, die op zoek zijn naar referenties op gespecialiseerde gebieden met beperkte literatuur, bevatten soms het eigen werk van echte onderzoekers om hun argumenten te versterken.
Er verschijnt een veelbetekenend teken
De kwestie kwam aan het licht door de ervaring van Dr. Carlos Chaccour, specialist in tropische ziekten aan de Universiteit van Navarra in Spanje. Nadat hij een artikel over malariabestrijding had gepubliceerd in The New England Journal of Medicine, ontving hij een krachtig geformuleerde brief waarin zijn onderzoek in twijfel werd getrokken.
Wat dit ongebruikelijk maakte, waren de specifieke verwijzingen in de brief naar onderzoeken die Dr. Chaccour zelf had geschreven. Verdacht van dit toeval deed Dr. Chaccour onderzoek en kwam tot de conclusie dat de brief gegenereerd moest zijn door een groot taalmodel.
Een patroon ontvouwt zich
Dit geïsoleerde incident bracht een bredere trend aan het licht. Dr. Chaccour en zijn team analyseerden ruim 730.000 brieven die sinds 2005 in wetenschappelijke tijdschriften zijn gepubliceerd en ontdekten een dramatische toename van verdachte correspondentie die samenviel met de wijdverbreide beschikbaarheid van geavanceerde AI-systemen.
Uit het bewijsmateriaal blijkt dat auteurs na 2023 plotseling een buitengewone hoeveelheid brieven produceerden. Eén onderzoeker publiceerde in één jaar tijd 234 brieven in meerdere tijdschriften. Een andere auteur ging van nul gepubliceerde brieven in 2023 naar 84 brieven in 2025.
Tijdschriftredacteuren luiden de noodklok
Het probleem reikt verder dan de ervaring van Dr. Chaccour. Dr. Eric Rubin, hoofdredacteur van The New England Journal of Medicine, erkende de zorgwekkende prikkel voor auteurs om AI te gebruiken om hun publicatierecords te verbeteren.
“Brieven aan de redacteur die in wetenschappelijke tijdschriften worden gepubliceerd, worden vermeld in databases die ook tijdschriftartikelen bevatten, en tellen evenveel als een artikel”, legt Dr. Rubin uit. “Voor een heel klein beetje werk kan iemand een artikel in The New England Journal of Medicine op zijn cv krijgen. De prikkel om vals te spelen is groot.”
De omvang van het probleem
Het onderzoek bracht alarmerende statistieken aan het licht:
- 6% van de brieven in 2023 was van productieve auteurs (die met drie of meer gepubliceerde brieven in een jaar)
- Dit is gestegen naar 12% in 2024
- Huidige tarieven naderen 22%
Dr. Amy Gelfand, hoofdredacteur van het tijdschrift Headache, heeft gemerkt dat verdachte brieven vaak kort nadat de artikelen zijn gepubliceerd binnenkomen, in tegenstelling tot menselijke auteurs die doorgaans weken nodig hebben om te reageren.
Een groeiende zorg
De proliferatie van door AI gegenereerde brieven vormt een aanzienlijke bedreiging voor het wetenschappelijke discours. Deze geautomatiseerde communicatie doet zich vaak voor als legitieme bijdragen, maar mist de expertise en het genuanceerde begrip die menselijke onderzoekers met zich meebrengen.
“Hun [AI]-resultaten lijken misschien plausibel, maar het ontbreekt aan de diepgang, context en kritisch denken die kenmerkend zijn voor echte wetenschappelijke uitwisseling”, merkte Dr. Chaccour op.
Zoals Dr. Chaccour opmerkte, ‘vallen deze door AI gegenereerde brieven tijdschriften als Omicron binnen’, verwijzend naar de Covid-variant die snel andere soorten verdrong.
De wetenschappelijke gemeenschap staat nu voor een cruciale uitdaging: het handhaven van de integriteit van wetenschappelijke communicatie en tegelijkertijd navigeren door het tijdperk van krachtige taalmodellen
