Onderzoekers luiden de noodklok over de komende golf van geavanceerde kunstmatige intelligentie (AI) ‘zwermen’ die op het punt staan om sociale-mediaplatforms te infiltreren, de publieke opinie te manipuleren en mogelijk democratische processen te ondermijnen. Deze zwermen zullen opereren door menselijk gedrag op grote schaal na te bootsen, waardoor ze moeilijk te detecteren zijn, terwijl ze valse verhalen verspreiden en afwijkende stemmen lastigvallen.
De komende invasie: meer dan eenvoudige bots
De huidige geautomatiseerde bots zijn grotendeels ongecompliceerd: ze herhalen voorgeprogrammeerde berichten en zijn gemakkelijk herkenbaar. De volgende generatie zal echter worden aangestuurd door grote taalmodellen (LLM’s), dezelfde AI achter populaire chatbots. Hierdoor kunnen zwermen zich aanpassen aan online communities, waardoor meerdere persistente persona’s ontstaan die herinneringen vasthouden en in de loop van de tijd leren.
Volgens Jonas Kunst, hoogleraar communicatie aan de BI Norwegian Business School, zijn mensen van nature geneigd zich te conformeren. “We zijn geneigd te geloven dat wat de meeste mensen doen waarde heeft”, zei hij, waardoor dit een kwetsbaarheid is die AI-zwermen kunnen uitbuiten. Door de waargenomen consensus kunstmatig te verschuiven, kunnen deze zwermen debatten kapen en meningen in de richting van een vooraf bepaalde uitkomst dwingen.
Hoe AI-zwermen zullen werken
De onderzoekers beschrijven AI-zwermen als zelfvoorzienende organismen die in staat zijn zichzelf te coördineren, te leren en zich te specialiseren in het uitbuiten van menselijke zwakheden. De omvang van deze zwermen wordt alleen beperkt door rekenkracht en platformbeperkingen, maar zelfs kleine implementaties kunnen effectief zijn, vooral bij gerichte lokale groepen.
De zwermen kunnen ook doorzettingsvermogen bewapenen. Terwijl menselijke gebruikers binnen een beperkt tijdsbestek debatteren, kunnen AI-agenten 24/7 opereren totdat hun verhaal aan kracht wint. Deze meedogenloze druk kan personen met een afwijkende mening van platforms verdrijven door middel van gecoördineerde intimidatie, waardoor de oppositie effectief het zwijgen wordt opgelegd.
Bewijs uit de praktijk en opkomende bedreigingen
De dreiging is niet theoretisch. Vorig jaar dreigde Reddit met juridische stappen tegen onderzoekers die AI-chatbots gebruikten om meningen op het r/changemyview-forum te manipuleren. Voorlopige bevindingen toonden aan dat AI-reacties drie tot zes keer overtuigender waren dan menselijke reacties.
Bovendien creëren de erosie van het rationele discours en de toenemende polarisatie online al een vruchtbare voedingsbodem voor manipulatie. Meer dan de helft van al het webverkeer komt nu van geautomatiseerde bots, wat erop wijst dat de invloed van niet-menselijke actoren al substantieel is. Sommigen speculeren dat het internet al wordt gedomineerd door bots, een theorie die steeds meer terrein wint nu online interactie steeds kunstmatiger aanvoelt.
Verdedigen tegen AI-zwermen: uitdagingen en oplossingen
Socialemediabedrijven zullen waarschijnlijk reageren met strengere accountauthenticatie, waardoor gebruikers gedwongen worden hun menselijkheid te bewijzen. Deze aanpak roept echter zorgen op over het onderdrukken van politieke afwijkende meningen in landen waar anonimiteit cruciaal is om zich uit te spreken tegen onderdrukkende regimes.
Onderzoekers stellen ook voor om te scannen op statistisch afwijkende patronen in live verkeer om zwermactiviteit te detecteren en een ‘AI Influence Observatory’ op te richten om de dreiging te bestuderen, monitoren en tegen te gaan. De kernboodschap is duidelijk: proactieve voorbereiding is essentieel.
“We moeten proactief zijn in plaats van te wachten tot de eerste grote gebeurtenissen negatief worden beïnvloed door AI-zwermen”, waarschuwt Kunst.
De opkomst van AI-zwermen vertegenwoordigt een aanzienlijke escalatie van de informatieoorlog, die onmiddellijke aandacht en robuuste tegenmaatregelen vereist om democratische processen te beschermen en de integriteit van het online discours te behouden.
