I ricercatori stanno lanciando l’allarme sull’imminente ondata di “sciami” avanzati di intelligenza artificiale (AI) pronti a infiltrarsi nelle piattaforme di social media, manipolare l’opinione pubblica e potenzialmente minare i processi democratici. Questi sciami funzioneranno imitando il comportamento umano su larga scala, rendendoli difficili da individuare e diffondendo false narrazioni e molestando le voci dissenzienti.
L’invasione imminente: oltre i semplici robot
Gli attuali robot automatizzati sono in gran parte poco sofisticati: ripetono messaggi preprogrammati e sono facilmente identificabili. La prossima generazione, tuttavia, sarà guidata da modelli linguistici di grandi dimensioni (LLM), la stessa intelligenza artificiale alla base dei popolari chatbot. Ciò consente agli sciami di adattarsi alle comunità online, creando molteplici personaggi persistenti che conservano la memoria e apprendono nel tempo.
Secondo Jonas Kunst, professore di comunicazione presso la BI Norwegian Business School, gli esseri umani sono naturalmente inclini a conformarsi. “Tendiamo a credere che ciò che fa la maggior parte delle persone abbia valore”, ha affermato, rendendo questa una vulnerabilità che gli sciami di intelligenza artificiale possono sfruttare. Spostando artificialmente il consenso percepito, questi sciami possono dirottare i dibattiti e forzare le opinioni verso un risultato predeterminato.
Come funzioneranno gli sciami di intelligenza artificiale
I ricercatori descrivono gli sciami di intelligenza artificiale come organismi autosufficienti in grado di coordinarsi, apprendere e specializzarsi nello sfruttamento delle debolezze umane. La portata di questi sciami è limitata solo dalla potenza di calcolo e dalle limitazioni della piattaforma, ma anche piccole implementazioni possono essere efficaci, in particolare in gruppi locali mirati.
Gli sciami possono anche utilizzare come arma la persistenza. Mentre gli utenti umani discutono in tempi limitati, gli agenti IA possono operare 24 ore su 24, 7 giorni su 7, finché la loro narrativa non guadagna terreno. Questa pressione incessante può spingere gli individui con opinioni dissenzienti fuori dalle piattaforme attraverso molestie coordinate, mettendo di fatto a tacere l’opposizione.
Prove del mondo reale e minacce emergenti
La minaccia non è teorica. L’anno scorso, Reddit ha minacciato azioni legali contro i ricercatori che utilizzavano chatbot basati sull’intelligenza artificiale per manipolare le opinioni sul forum r/changemyview. I risultati preliminari hanno mostrato che le risposte dell’IA erano da tre a sei volte più persuasive di quelle umane.
Inoltre, l’erosione del discorso razionale e la crescente polarizzazione online creano già un terreno fertile per la manipolazione. Oltre la metà di tutto il traffico web proviene ora da bot automatizzati, suggerendo che l’influenza degli attori non umani è già sostanziale. Alcuni ipotizzano che Internet sia già dominato dai bot, una teoria che sta guadagnando terreno poiché l’interazione online sembra sempre più artificiale.
Difesa dagli sciami di IA: sfide e soluzioni
Le società di social media probabilmente risponderanno con un’autenticazione degli account più rigorosa, costringendo gli utenti a dimostrare la propria umanità. Tuttavia, questo approccio solleva preoccupazioni sulla repressione del dissenso politico nei paesi in cui l’anonimato è fondamentale per parlare contro i regimi oppressivi.
I ricercatori propongono inoltre la scansione di modelli statisticamente anomali nel traffico in tempo reale per rilevare l’attività degli sciami e istituire un “Osservatorio sull’influenza dell’intelligenza artificiale” per studiare, monitorare e contrastare la minaccia. Il messaggio fondamentale è chiaro: una preparazione proattiva è essenziale.
«Dobbiamo agire in modo proattivo invece di aspettare che i primi grandi eventi vengano influenzati negativamente dagli sciami di IA», avverte Kunst.
L’emergere di sciami di IA rappresenta una significativa escalation nella guerra dell’informazione, che richiede attenzione immediata e solide contromisure per salvaguardare i processi democratici e mantenere l’integrità del discorso online.
