Naukowcy alarmują w związku z nadchodzącą falą zaawansowanej sztucznej inteligencji (AI) w postaci „rojów”, gotowych infiltrować media społecznościowe, manipulować opinią publiczną i potencjalnie podważać procesy demokratyczne. Roje te będą działać poprzez naśladowanie ludzkich zachowań na dużą skalę, przez co będą trudne do wykrycia, a jednocześnie szerzą fałszywe narracje i nękają dysydentów.
Nadchodząca inwazja: więcej niż tylko boty
Współczesne zautomatyzowane boty są w większości prymitywne: powtarzają zaprogramowane wiadomości i można je łatwo zidentyfikować. Jednak następna generacja będzie oparta na modelach dużego języka (LLM), tej samej sztucznej inteligencji, która napędza popularne chatboty. Umożliwi to rojom przystosowanie się do społeczności internetowych, tworząc wiele stabilnych osobowości, które zachowują wspomnienia i uczą się z biegiem czasu.
Według Jonasa Kunsta, profesora komunikacji w BI Norweskiej Szkole Biznesu, ludzie są z natury konformistami. „Mamy skłonność wierzyć, że to, co robi większość ludzi, ma wartość” – stwierdził, czyniąc z tego lukę, którą mogą wykorzystać roje sztucznej inteligencji. Sztucznie zmieniając postrzegany konsensus, roje te mogą przejąć kontrolę nad debatą i popchnąć opinie w kierunku z góry określonego wyniku.
Jak będą działać roje AI
Naukowcy opisują roje sztucznej inteligencji jako samowystarczalne organizmy zdolne do koordynacji, uczenia się i specjalizacji w wykorzystywaniu ludzkich słabości. Skala tych rojów jest ograniczona jedynie mocą obliczeniową i ograniczeniami platformy, ale nawet niewielkie wdrożenia mogą być skuteczne, szczególnie w docelowych grupach lokalnych.
Roje mogą również używać wytrwałości jako broni. Podczas gdy ludzie kłócą się w ograniczonych ramach czasowych, agenci sztucznej inteligencji mogą pracować przez całą dobę, dopóki ich narracja nie nabierze tempa. Ta nieustanna presja może wypchnąć osoby o odmiennych poglądach z platform poprzez skoordynowane zastraszanie, skutecznie uciszając opozycję.
Dowody oparte na faktach i pojawiające się zagrożenia
Zagrożenie nie jest teoretyczne. W zeszłym roku Reddit zagroził podjęciem kroków prawnych badaczom, którzy wykorzystywali chatboty AI do manipulowania opiniami na forum r/changemyview. Wstępne wyniki wykazały, że reakcje sztucznej inteligencji były od trzech do sześciu razy bardziej przekonujące niż reakcje człowieka.
Co więcej, erozja racjonalnego dyskursu i rosnąca polaryzacja w Internecie już stanowią podatny grunt dla manipulacji. Ponad połowa całego ruchu w sieci pochodzi obecnie z automatycznych botów, co sugeruje, że wpływ podmiotów innych niż ludzie jest już znaczący. Niektórzy sugerują, że Internet jest już zdominowany przez boty, a teoria ta zyskuje na popularności w miarę, jak interakcje online stają się coraz bardziej sztuczne.
Obrona przed rojami AI: problemy i rozwiązania
Sieci społecznościowe prawdopodobnie zareagują, zaostrzając uwierzytelnianie kont, zmuszając użytkowników do udowodnienia swojego człowieczeństwa. Takie podejście budzi jednak obawy dotyczące tłumienia opozycji politycznej w krajach, w których anonimowość ma kluczowe znaczenie dla wypowiadania się przeciwko represyjnym reżimom.
Badacze proponują także skanowanie statystycznie anomalnych wzorców w ruchu przesyłanym w celu wykrycia aktywności roju i utworzenie „Obserwatorium wpływu sztucznej inteligencji” do badania, monitorowania i przeciwdziałania zagrożeniom. Przesłanie jest jasne: niezbędne jest aktywne przygotowanie.
„Musimy działać proaktywnie i nie czekać, aż roje sztucznej inteligencji będą miały negatywny wpływ na pierwsze ważne wydarzenia” – ostrzega Kunst.
Pojawienie się rojów sztucznej inteligencji oznacza znaczną eskalację wojny informacyjnej, wymagającą natychmiastowej uwagi i zdecydowanych środków zaradczych w celu ochrony procesów demokratycznych i utrzymania integralności dyskursu internetowego.
