Исследователи бьют тревогу по поводу надвигающейся волны продвинутых искусственных интеллектов (ИИ) в виде «роев», готовых проникнуть в социальные сети, манипулировать общественным мнением и потенциально подрывать демократические процессы. Эти рои будут действовать, имитируя поведение человека в масштабе, что затруднит их обнаружение, одновременно распространяя ложные нарративы и травя несогласных.
Грядущее Вторжение: Больше, Чем Просто Боты
Современные автоматизированные боты в основном примитивны: они повторяют запрограммированные сообщения и легко идентифицируются. Следующее поколение, однако, будет управляться большими языковыми моделями (LLM), тем же ИИ, что лежит в основе популярных чат-ботов. Это позволит роям адаптироваться к онлайн-сообществам, создавая множество устойчивых личностей, которые сохраняют память и учатся со временем.
По словам Йонаса Кунста, профессора коммуникаций в BI Norwegian Business School, люди по своей природе склонны к конформизму. «Мы склонны верить, что то, что делают большинство людей, имеет ценность», — заявил он, что делает это уязвимостью, которую могут использовать рои ИИ. Искусственно смещая воспринимаемый консенсус, эти рои могут захватывать дебаты и подталкивать мнения к заранее определенному результату.
Как Будут Действовать Рои ИИ
Исследователи описывают рои ИИ как самодостаточные организмы, способные координировать себя, учиться и специализироваться на эксплуатации человеческих слабостей. Масштаб этих роев ограничен только вычислительной мощностью и ограничениями платформы, но даже небольшие развертывания могут быть эффективными, особенно в целевых локальных группах.
Рои также могут использовать настойчивость в качестве оружия. В то время как люди спорят в ограниченные сроки, агенты ИИ могут работать круглосуточно, пока их нарратив не наберет силу. Это неустанное давление может вытеснить отдельных лиц, придерживающихся противоположных взглядов, с платформ посредством скоординированных издевательств, эффективно подавляя оппозицию.
Фактические Доказательства и Возникающие Угрозы
Угроза не является теоретической. В прошлом году Reddit пригрозил судебными исками исследователям, которые использовали чат-боты с ИИ для манипулирования мнением на форуме r/changemyview. Предварительные результаты показали, что ответы ИИ были в три-шесть раз убедительнее, чем человеческие.
Более того, эрозия рационального дискурса и растущая поляризация в Интернете уже создают плодородную почву для манипуляций. Более половины всего веб-трафика теперь приходится на автоматизированных ботов, что говорит о том, что влияние нечеловеческих субъектов уже значительно. Некоторые предполагают, что Интернет уже доминирует ботами, теория, набирающая обороты, поскольку онлайн-взаимодействие становится все более искусственным.
Защита от Роев ИИ: Проблемы и Решения
Социальные сети, вероятно, отреагируют ужесточением аутентификации учетных записей, заставляя пользователей доказывать свою человечность. Однако этот подход вызывает опасения по поводу подавления политической оппозиции в странах, где анонимность имеет решающее значение для высказываний против репрессивных режимов.
Исследователи также предлагают сканировать статистически аномальные закономерности в прямом трафике для обнаружения активности роев и создать «Обсерваторию Влияния ИИ» для изучения, мониторинга и противодействия угрозе. Основной посыл ясен: проактивная подготовка необходима.
«Мы должны быть проактивными, а не ждать первых крупных событий, на которые негативно повлияют рои ИИ», — предупреждает Кунст.
Появление роев ИИ представляет собой значительную эскалацию информационной войны, требующую немедленного внимания и надежных мер противодействия для защиты демократических процессов и поддержания честности онлайн-дискурса.
