Il problema: le lettere scritte dall’intelligenza artificiale inondano le pubblicazioni scientifiche
Le riviste scientifiche di tutto il mondo si trovano ad affrontare un diluvio inaspettato: lettere scritte da sistemi di intelligenza artificiale piuttosto che da ricercatori umani. Secondo uno studio innovativo, i chatbot stanno redigendo la corrispondenza per prestigiose pubblicazioni mediche e scientifiche, sollevando preoccupazioni sull’integrità della comunicazione accademica.
Il fenomeno ha attirato l’attenzione dopo che i ricercatori hanno scoperto che questi sistemi di intelligenza artificiale sono in grado di imitare lo stile di scrittura di esperti in campi specifici. Questi modelli linguistici, alla ricerca di riferimenti in aree specializzate con letteratura limitata, a volte incorporano il lavoro di veri ricercatori per sostenere le loro argomentazioni.
Emerge un segno rivelatore
La questione è venuta alla luce grazie all’esperienza del dottor Carlos Chaccour, specialista in malattie tropicali dell’Università di Navarra in Spagna. Dopo aver pubblicato un articolo sul controllo della malaria sul New England Journal of Medicine, ha ricevuto una lettera dai toni forti che metteva in dubbio la sua ricerca.
Ciò che rendeva tutto ciò insolito erano i riferimenti specifici contenuti nella lettera agli studi scritti dallo stesso dottor Caccour. Insospettito da questa coincidenza, il dottor Chaccour investigò e concluse che la lettera doveva essere stata generata da un grande modello linguistico.
Si sviluppa uno schema
Questo incidente isolato ha rivelato una tendenza più ampia. Il dottor Chaccour e il suo team hanno analizzato oltre 730.000 lettere pubblicate su riviste scientifiche dal 2005 e hanno riscontrato un drammatico aumento della corrispondenza sospetta in coincidenza con la diffusa disponibilità di sistemi avanzati di intelligenza artificiale.
Le prove mostrano che gli autori hanno improvvisamente prodotto un volume straordinario di lettere dopo il 2023. Un ricercatore ha pubblicato 234 lettere in un solo anno su più riviste. Un altro autore è passato da zero lettere pubblicate nel 2023 a 84 lettere entro il 2025.
I redattori del giornale lanciano l’allarme
Il problema va oltre l’esperienza del dottor Caccour. Il dottor Eric Rubin, redattore capo del New England Journal of Medicine, ha riconosciuto il preoccupante incentivo per gli autori a utilizzare l’intelligenza artificiale per aumentare i propri record di pubblicazioni.
“Le lettere all’editore pubblicate su riviste scientifiche sono elencate in database che elencano anche articoli di riviste e contano quanto un articolo”, ha spiegato il dottor Rubin. “Per aver svolto una quantità di lavoro molto piccola, qualcuno può ottenere un articolo sul New England Journal of Medicine nel proprio CV. L’incentivo a imbrogliare è alto.”
La portata del problema
Lo studio ha rivelato statistiche allarmanti:
- Il 6% delle lettere nel 2023 proveniva da autori prolifici (quelli con tre o più lettere pubblicate in un anno)
- Questa percentuale è aumentata al 12% nel 2024
- I tassi attuali si avvicinano al 22%
La dottoressa Amy Gelfand, caporedattrice della rivista Headache, ha notato che le lettere sospette spesso arrivano poco dopo la pubblicazione degli articoli, a differenza degli autori umani che in genere impiegano settimane per rispondere.
Una preoccupazione crescente
La proliferazione di lettere generate dall’intelligenza artificiale rappresenta una minaccia significativa per il discorso scientifico. Queste comunicazioni automatizzate spesso si mascherano da contributi legittimi, ma mancano della competenza e della comprensione sfumata che i ricercatori umani apportano.
“I loro risultati [dell’intelligenza artificiale] possono sembrare plausibili, ma mancano della profondità, del contesto e del pensiero critico che caratterizzano un autentico scambio accademico”, ha osservato il dottor Chaccour.
Come ha osservato il dottor Chaccour, queste lettere generate dall’intelligenza artificiale “stanno invadendo riviste come Omicron”, riferendosi alla variante Covid che ha rapidamente sostituito altri ceppi.
La comunità scientifica si trova ora ad affrontare una sfida cruciale: mantenere l’integrità della comunicazione accademica mentre si muove nell’era dei potenti modelli linguistici
