Los investigadores están haciendo sonar la alarma sobre la próxima ola de “enjambres” de inteligencia artificial (IA) avanzada dispuestos a infiltrarse en las plataformas de redes sociales, manipular la opinión pública y potencialmente socavar los procesos democráticos. Estos enjambres operarán imitando el comportamiento humano a escala, lo que los hará difíciles de detectar mientras siembran narrativas falsas y acosan a las voces disidentes.
La próxima invasión: más allá de los simples bots
Los robots automatizados actuales son en gran medida poco sofisticados: repiten mensajes preprogramados y son fácilmente identificables. La próxima generación, sin embargo, estará impulsada por grandes modelos de lenguaje (LLM), la misma IA detrás de los populares chatbots. Esto permite que los enjambres se adapten a las comunidades en línea, creando múltiples personas persistentes que retienen la memoria y aprenden con el tiempo.
Según Jonas Kunst, profesor de comunicación en la BI Norwegian Business School, los seres humanos tenemos una tendencia natural a conformarnos. “Tendemos a creer que lo que hace la mayoría de la gente tiene valor”, afirmó, haciendo de esta una vulnerabilidad que los enjambres de IA pueden explotar. Al cambiar artificialmente el consenso percibido, estos enjambres pueden secuestrar debates y forzar opiniones hacia un resultado predeterminado.
Cómo operarán los enjambres de IA
Los investigadores describen los enjambres de IA como organismos autosuficientes capaces de coordinarse, aprender y especializarse en explotar las debilidades humanas. La escala de estos enjambres está limitada únicamente por la potencia informática y las restricciones de la plataforma, pero incluso las implementaciones pequeñas pueden ser efectivas, particularmente en grupos locales específicos.
Los enjambres también pueden convertir la persistencia en un arma. Mientras los usuarios humanos debaten en períodos de tiempo limitados, los agentes de IA pueden operar las 24 horas del día, los 7 días de la semana hasta que su narrativa gane fuerza. Esta presión implacable puede expulsar a las personas con opiniones disidentes de las plataformas mediante un acoso coordinado, silenciando efectivamente a la oposición.
Evidencia del mundo real y amenazas emergentes
La amenaza no es teórica. El año pasado, Reddit amenazó con emprender acciones legales contra los investigadores que utilizaron chatbots de IA para manipular opiniones en el foro r/changemyview. Los hallazgos preliminares mostraron que las respuestas de la IA eran de tres a seis veces más persuasivas que las humanas.
Además, la erosión del discurso racional y la creciente polarización en línea ya crean un terreno fértil para la manipulación. Más de la mitad de todo el tráfico web proviene ahora de robots automatizados, lo que sugiere que la influencia de actores no humanos ya es sustancial. Algunos especulan que Internet ya está dominada por los bots, una teoría que está ganando terreno a medida que la interacción en línea se siente cada vez más artificial.
Defensa contra enjambres de IA: desafíos y soluciones
Es probable que las empresas de redes sociales respondan con una autenticación de cuentas más estricta, lo que obligará a los usuarios a demostrar su humanidad. Sin embargo, este enfoque genera preocupación sobre la supresión de la disidencia política en países donde el anonimato es crucial para hablar en contra de regímenes opresivos.
Los investigadores también proponen escanear patrones estadísticamente anómalos en el tráfico en vivo para detectar actividad de enjambre y establecer un “Observatorio de influencia de la IA” para estudiar, monitorear y contrarrestar la amenaza. El mensaje central es claro: la preparación proactiva es esencial.
“Tenemos que ser proactivos en lugar de esperar a que los primeros acontecimientos importantes se vean influenciados negativamente por enjambres de IA”, advierte Kunst.
El surgimiento de enjambres de IA representa una escalada significativa en la guerra de información, que exige atención inmediata y contramedidas sólidas para salvaguardar los procesos democráticos y mantener la integridad del discurso en línea.
