Problém: Dopisy napsané umělou inteligencí zaplavují vědecké publikace
Vědecké časopisy po celém světě čelí nečekanému přílivu dopisů napsaných spíše umělými inteligencemi než lidskými výzkumníky. Chatboti sestavují korespondenci pro prestižní lékařské a vědecké publikace, což podle průlomové studie vyvolává obavy o integritu vědecké komunikace.
Fenomén získal pozornost poté, co výzkumníci zjistili, že tyto systémy umělé inteligence jsou schopny napodobit styl psaní odborníků v určitých oblastech. Tyto jazykové modely, hledající odkazy ve specializovaných oblastech s omezenou literaturou, někdy zahrnují vlastní práci výzkumníků, aby posílily jejich argumenty.
Objeví se jasné znamení
Problém vyšel najevo díky zkušenostem Dr. Carlose Chacora, specialisty na tropické choroby z University of Navarra ve Španělsku. Po zveřejnění článku o kontrole malárie v The New England Journal of Medicine obdržel dopis ostře kritizující jeho výzkum.
Neobvyklé bylo, že dopis obsahoval konkrétní odkazy na studie, které sám Dr. Chakor napsal. Dr. Chakor, podezřelý z této náhody, prozkoumal a dospěl k závěru, že dopis byl vytvořen velkým jazykovým modelem.
Je odhalen vzor
Tento izolovaný incident upozornil na širší trend. Dr Chakor a jeho tým analyzovali více než 730 000 e-mailů publikovaných ve vědeckých časopisech od roku 2005 a zjistili prudký nárůst podezřelé korespondence, který se shoduje s rozšířenou dostupností pokročilých systémů umělé inteligence.
Zjistilo se, že autoři po roce 2023 náhle produkují neobvykle vysoký objem e-mailů. Jeden výzkumník publikoval 234 dopisů za rok v několika časopisech. Jiný autor zvýšil počet publikovaných dopisů z 0 v roce 2023 na 84 v roce 2025.
Redaktoři bijí na poplach
Problém přesahuje zkušenosti doktora Chakora. Dr. Eric Rubin, šéfredaktor The New England Journal of Medicine, uznal vysokou motivaci autorů používat AI ke zlepšení jejich publikační míry.
„Dopisy editorovi publikované ve vědeckých časopisech jsou uvedeny v databázích, které obsahují také články v časopisech, a počítají se stejně jako články,“ vysvětlil Dr. Rubin. “Za velmi málo práce může člověk získat článek v The New England Journal of Medicine do svého životopisu. Motivace podvádět je vysoká.”
Rozsah problému
Studie odhalila alarmující statistiky:
- 6 % dopisů v roce 2023 bylo od plodných autorů (ti, kteří publikovali tři nebo více dopisů ročně)
- To se v roce 2024 zvýšilo na 12 %.
- Aktuální čísla se blíží 22 %
Dr. Emmy Gelfand, šéfredaktorka časopisu Headache, poznamenala, že podezřelé e-maily často přicházejí brzy po zveřejnění článků, na rozdíl od lidských autorů, kteří obvykle odpovídají během několika týdnů.
Rostoucí obavy
Šíření dopisů generovaných AI představuje vážnou hrozbu pro vědecký dialog. Tyto automatizované komunikace se často maskují jako legitimní příspěvky, ale postrádají odborné znalosti a jemné vhledy, které přinášejí výzkumníci.
„Jejich [AI] výstup se může zdát věrohodný, ale postrádá hloubku, kontext a kritické myšlení, které charakterizují skutečnou vědeckou výměnu,“ poznamenal Dr. Chakor.
Jak poznamenal Dr. Chakor, tato písmena vygenerovaná umělou inteligencí jsou „napadající časopisy jako Omicron“, odkaz na variantu Covid, která rychle vytlačila jiné kmeny.
