Výzkumníci bijí na poplach před hrozící vlnou pokročilé umělé inteligence (AI) v podobě „rojů“, které jsou připraveny infiltrovat sociální média, manipulovat veřejné mínění a potenciálně podkopávat demokratické procesy. Tyto roje budou fungovat tak, že budou napodobovat lidské chování ve velkém měřítku, takže je bude obtížné odhalit, a zároveň budou šířit falešné příběhy a obtěžovat odpůrce.
Přicházející invaze: Více než jen boti
Moderní automatizované roboty jsou většinou primitivní: opakují naprogramované zprávy a jsou snadno identifikovatelné. Příští generace však bude poháněna Large Language Models (LLM), stejnou AI, která pohání populární chatboty. To umožní rojům přizpůsobit se online komunitám a vytvořit několik stabilních osobností, které si uchovávají vzpomínky a časem se učí.
Podle Jonase Kunsta, profesora komunikace na BI Norwegian Business School, jsou lidé od přírody konformní. “Máme sklon věřit, že to, co dělá většina lidí, má hodnotu,” řekl, čímž se z toho stala zranitelnost, kterou by mohly zneužít roje umělé inteligence. Umělým posunem vnímaného konsenzu mohou tyto roje unést debatu a dotlačit názory k předem určenému výsledku.
Jak budou fungovat AI Swarms
Výzkumníci popisují roje AI jako soběstačné organismy schopné koordinace, učení a specializace na využívání lidských slabostí. Rozsah těchto rojů je omezen pouze výpočetním výkonem a omezeními platformy, ale i malé nasazení může být efektivní, zejména v cílených místních skupinách.
Roje mohou také používat vytrvalost jako zbraň. Zatímco se lidé hádají v omezených časových rámcích, agenti AI mohou pracovat nepřetržitě, dokud jejich vyprávění nezíská na síle. Tento neúnavný tlak může vypudit jednotlivce s opačnými názory mimo platformy prostřednictvím koordinované šikany a účinně umlčet opozici.
Faktické důkazy a vznikající hrozby
Hrozba není teoretická. Minulý rok Reddit pohrozil právními kroky proti výzkumníkům, kteří používali AI chatboty k manipulaci s názory na fóru r/changemyview. Předběžné výsledky ukázaly, že reakce AI byly třikrát až šestkrát přesvědčivější než reakce lidí.
Navíc eroze racionálního diskurzu a rostoucí polarizace na internetu již poskytují úrodnou půdu pro manipulaci. Více než polovina veškerého webového provozu nyní pochází z automatických botů, což naznačuje, že vliv mimolidských aktérů je již významný. Někteří naznačují, že internetu již dominují roboti, což je teorie, která získává na síle, protože online interakce se stávají stále umělejšími.
Obrana proti AI Swarms: Problémy a řešení
Sociální sítě pravděpodobně zareagují zpřísněním ověřování účtů a donutí uživatele prokázat svou lidskost. Tento přístup však vyvolává obavy z potlačování politické opozice v zemích, kde je anonymita zásadní pro vystupování proti represivním režimům.
Výzkumníci také navrhují skenování statisticky anomálních vzorců v dopředném provozu, aby detekovali aktivitu roje a vytvoření „AI Impact Observatory“ pro studium, sledování a boj proti hrozbě. Zpráva je jasná: proaktivní příprava je nezbytná.
„Musíme být proaktivní a nečekat, až budou první velké události negativně ovlivněny rojemi umělé inteligence,“ varuje Kunst.
Vznik rojů AI představuje významnou eskalaci informační války, která vyžaduje okamžitou pozornost a robustní protiopatření k ochraně demokratických procesů a zachování integrity online diskursu.
