Forscher warnen vor der kommenden Welle von „Schwärmen“ fortschrittlicher künstlicher Intelligenz (KI), die bereit sind, Social-Media-Plattformen zu infiltrieren, die öffentliche Meinung zu manipulieren und möglicherweise demokratische Prozesse zu untergraben. Diese Schwärme werden durch die Nachahmung menschlichen Verhaltens in großem Maßstab funktionieren, wodurch sie schwer zu erkennen sind, während sie gleichzeitig falsche Narrative verbreiten und abweichende Stimmen belästigen.
Die kommende Invasion: Jenseits einfacher Bots
Aktuelle automatisierte Bots sind weitgehend unkompliziert – sie wiederholen vorprogrammierte Nachrichten und sind leicht zu identifizieren. Die nächste Generation wird jedoch von großen Sprachmodellen (LLMs) angetrieben, der gleichen KI wie die beliebten Chatbots. Dadurch können sich Schwärme an Online-Communities anpassen und mehrere persistente Personas erstellen, die sich im Gedächtnis behalten und im Laufe der Zeit lernen.
Laut Jonas Kunst, Professor für Kommunikation an der BI Norwegian Business School, neigen Menschen von Natur aus dazu, sich anzupassen. „Wir neigen dazu zu glauben, dass das, was die meisten Menschen tun, einen Wert hat“, erklärte er und machte dies zu einer Schwachstelle, die KI-Schwärme ausnutzen können. Durch die künstliche Verschiebung des wahrgenommenen Konsenses können diese Schwärme Debatten kapern und Meinungen zu einem vorher festgelegten Ergebnis zwingen.
Wie KI-Schwärme funktionieren
Die Forscher beschreiben KI-Schwärme als autarke Organismen, die in der Lage sind, sich selbst zu koordinieren, zu lernen und sich auf die Ausnutzung menschlicher Schwächen zu spezialisieren. Die Größe dieser Schwärme wird nur durch Einschränkungen der Rechenleistung und der Plattform begrenzt, aber auch kleine Einsätze können effektiv sein, insbesondere in gezielten lokalen Gruppen.
Die Schwärme können auch die Beharrlichkeit zu einer Waffe machen. Während menschliche Benutzer in begrenzten Zeiträumen debattieren, können KI-Agenten rund um die Uhr agieren, bis ihre Erzählung an Bedeutung gewinnt. Dieser unerbittliche Druck kann Personen mit abweichenden Ansichten durch koordinierte Belästigungen von Plattformen vertreiben und so die Opposition wirksam zum Schweigen bringen.
Beweise aus der Praxis und neue Bedrohungen
Die Bedrohung ist nicht theoretisch. Letztes Jahr drohte Reddit mit rechtlichen Schritten gegen Forscher, die KI-Chatbots nutzten, um Meinungen im r/changemyview-Forum zu manipulieren. Vorläufige Ergebnisse zeigten, dass KI-Reaktionen drei- bis sechsmal überzeugender waren als menschliche.
Darüber hinaus schaffen die Erosion des rationalen Diskurses und die zunehmende Polarisierung im Internet bereits einen fruchtbaren Boden für Manipulationen. Mittlerweile stammt mehr als die Hälfte des gesamten Webverkehrs von automatisierten Bots, was darauf hindeutet, dass der Einfluss nichtmenschlicher Akteure bereits erheblich ist. Einige spekulieren, dass das Internet bereits von Bots dominiert wird, eine Theorie, die immer mehr an Bedeutung gewinnt, da sich Online-Interaktionen zunehmend künstlich anfühlen.
Verteidigung gegen KI-Schwärme: Herausforderungen und Lösungen
Social-Media-Unternehmen werden wahrscheinlich mit einer strengeren Kontoauthentifizierung reagieren und Benutzer dazu zwingen, ihre Menschlichkeit zu beweisen. Dieser Ansatz wirft jedoch Bedenken hinsichtlich der Unterdrückung politischer Meinungsverschiedenheiten in Ländern auf, in denen Anonymität von entscheidender Bedeutung ist, um sich gegen repressive Regime auszusprechen.
Forscher schlagen außerdem vor, den Live-Verkehr nach statistisch anomalen Mustern zu scannen, um Schwarmaktivitäten zu erkennen, und ein „KI-Einfluss-Observatorium“ einzurichten, um die Bedrohung zu untersuchen, zu überwachen und abzuwehren. Die Kernbotschaft ist klar: Eine proaktive Vorbereitung ist unerlässlich.
„Wir müssen proaktiv sein, anstatt darauf zu warten, dass die ersten Großereignisse durch KI-Schwärme negativ beeinflusst werden“, warnt Kunst.
Das Aufkommen von KI-Schwärmen stellt eine erhebliche Eskalation des Informationskriegs dar und erfordert sofortige Aufmerksamkeit und wirksame Gegenmaßnahmen, um demokratische Prozesse zu schützen und die Integrität des Online-Diskurses zu wahren.
