Реальная история цифровой дезинформации

Глобализация и еще более стремительная цифровизация вновь дали импульс для пересмотра основополагающих понятий в международной системе. В информационном пространстве оказался размыт принцип суверенитета. Развитие медиатехнологий, экспоненциальный рост потребления и производства аудиовизуального и текстового контента, подкрепленные анализом поведенческих и потребительских предпочтений с использованием технологий искусственного интеллекта, разделили мир на виртуальный и реальный, где понятия об одной сущности могут противопоставляться друг другу. На повестке дня оказался вопрос конструирования реальности через манипулирование общественным сознанием.

Сейчас для манипуляции общественным сознанием и формирования нужного образа государства уже нет необходимости в прямом воздействии. Общество само начинает двигаться в указанном направлении, получив подсказки, скрытые в информационном потоке, который лавиной обрушивается на пользователей каждый день. Цифровой профиль человека сейчас может рассказать о нем больше, чем кто-либо другой. Алгоритмы, обрабатывая большие массивы данных, сами адаптируются под нужные принципы подачи информации, создавая иллюзию контроля над восприятием реальности и помещая пользователя в искусственно созданную виртуальную среду.

Наиболее современным инструментом формирования общественного мнения и восприятия политической реальности стали технологии искусственного интеллекта и нейросети. Компании обещают персонализацию и упрощение процедуры поиска за счет глубокого анализа индивидуальный предпочтений, что создает новые возможности для совершенствования государственной политики, формирования более полной информации о своих противниках и союзниках и позволяет молниеносно реагировать на новые вызовы и угрозы.

Возможности нейросетей, доступные обычному пользователю, уже позволяют генерировать правдоподобный текст, на первый взгляд неотличимый от написанного человеком. Технология deepfake позволяет создавать фейковые новости о политиках, генерируя изображения, видео и записи голосов. Подобные изощренные технологии стали эффективным дополнением для многочисленных армий ботов, которые выполняют различные задачи в социальных сетях. Они играют роли тех, кому мы обычно доверяем больше всего, — обычных людей, формируя иллюзию «истинного» общественного мнения. Это мощное оружие используется для информационных и психологических войн, которые стали новой реальностью современности.

Глобализация и еще более стремительная цифровизация вновь дали импульс для пересмотра основополагающих понятий в международной системе. В информационном пространстве оказался размыт принцип суверенитета. Развитие медиатехнологий, экспоненциальный рост потребления и производства аудиовизуального и текстового контента, подкрепленные анализом поведенческих и потребительских предпочтений с использованием технологий искусственного интеллекта, разделили мир на виртуальный и реальный, где понятия об одной сущности могут противопоставляться друг другу. На повестке дня оказался вопрос конструирования реальности через манипулирование общественным сознанием. Государства стали восприниматься как «бренды», обладающие географическими и политическими характеристиками, а не конкретными точками на карте [1]. Это подтверждают многочисленные социальные опросы, в которых люди могут выразить свою позицию относительно той или иной страны, но совершенно не представляют, где она находится на карте.

Космос на экране и в реальности

Константин Суховерхов, Яна Горшкова:
TikTok и мемы как инструмент политического влияния в США

Во времена «холодной войны» космическая гонка была одним из ключевых элементов строительства международного образа СССР и США. Первый спутник, первый человек в космосе, первый человек на Луне. Передовицы газет, прайм-тайм на телевидении и радио были посвящены научным достижениям человечества, а каждая публикация влияла на образ государства, совершившего прорыв. Это работало и в обратную сторону: споры относительно реальности высадки человека на Луну идут до сих пор, а интерес к теме космоса не утихает. Если следующая высадка человека на спутнике Земли не будет сопровождаться прямым вещанием в реальном времени, в нее уже не поверят. 23 августа 2023 г. прямая трансляция посадки индийского лунохода побила рекорд просмотров с 8 млн пользователей, которые одновременно следили за судьбой космического аппарата. С таким громким успехом Индия стала четвертой страной, которая смогла успешно выполнить эту задачу. Это стало живой рекламой индийского национального космического агентства.

Традиционные и новые инструменты конструирования реальности

Данный пример соответствует традиционным инструментам конструирования национального образа, которые получили новое дыхание в цифровую эпоху. Достижения и ресурсы реального мира, пройдя через призму виртуального домена, способствовали продвижению «национального бренда». Если посмотреть на ситуацию с другого ракурса, вспоминается сетесозидающая власть М. Кастельса, где информационное пространство становится площадкой для конструирования реальности, преобразовывая виртуальное в материальное [2]. В такой системе важными акторами стали технологические компании, социальные медиа и производители аудиовизуального контента. Но уже к началу 2020-х гг. на смену «империи» Голливуда и традиционных медиа пришли империя Netflix и многочисленные экосистемы социальных сетей. Поток контента увеличился в разы, что вместе с современными алгоритмами анализа поведения пользователей позволило создать один из самых эффективных инструментов воздействия на человеческое сознание.

В 2010-х гг. социальные сети поднимали на протесты участников событий «арабской весны» на Ближнем Востоке и «цветных революций» на постсоветском пространстве. Образы, проецируемые в сети группами активистов, становились реальностью для стран, которые не смогли удержать контроль над информационным пространством.

Аккаунт в Twitter Дональда Трампа стал одним из основных инструментов публичной дипломатии США, с помощью которого распространялись резкие комментарии президента страны. Зачастую нужный социальный эффект достигался через публикацию фейковых новостей и манипулированием информацией. Фейковые публикации Д. Трампа даже после публикации опровержения оказывали необходимый эффект, так как обсуждения в СМИ делали их еще более популярными.

Несмотря на раскол среди политических элит США, публикации главы государства в социальных сетях воспринимались в мире как позиция страны. Это способствовало формированию агрессивного образа государства в глазах представителей других стран, особенно тех, кого чаще всего упоминал Д. Трамп. После начала пандемии коронавируса под ударом оказался Китай, который на протяжении десятилетий боролся с образом «китайской угрозы», транслируемым западными медиа. В социальных сетях и Интернет-медиа распространялись материалы, выставляющие политику Китая не в лучшем свете. Основной целью было разрушить образ КНР как привлекательного экономического и политического партнера.

А что Китай?

Китайские политические элиты быстро адаптировались к новым правилам игры. Были направлены большие ресурсы на продвижение дипломатии «волков-воинов» и «правильный рассказ истории Китая» (Tell China’s stories well). В 2010-х гг. многие китайские дипломатические службы и дипломаты регистрировались в социальных сетях, а аккаунт в Twitter Чжао Лицзяня, который до своего назначения на пост официального представителя МИД КНР работал в посольстве Китая в Пакистане, стал одним из наиболее узнаваемых символов китайской публичной дипломатии. На первых порах китайские дипломаты в большей степени продвигали позитивный образ экономического и социального взаимодействия КНР со странами мира, иногда делясь фрагментами из жизни людей в Китае и элементами традиционной культуры [3].

Торговая война и активная политика сдерживания со стороны США ускорили процесс трансформации китайской публичной дипломатии в социальных сетях. Теперь аккаунты китайских представителей запестрили мемами про США и их глобальных союзников, поддерживающих международный порядок, основанный на правилах. Им в свою очередь противопоставлялся образ Китая — основного защитника развивающихся стран и локомотива процесса построения реальной многосторонности. Процесс социального конструирования был направлен на то, чтобы «обличить» истинную натуру соперника и показать свои благие намерения.

Юрий Линдре, Александр Капитанов:
Дипфейк: невинная технология для развлечения или угроза современному обществу?

Такой же образ транслировался по традиционным каналам информации, особенно большой скачок за последние годы сделал китайский кинематограф. Сам термин «дипломатия волков-воинов» был заимствован из названия кинофильма «Война волков» (Wolf Warrior) 2015 г. Примечательно, что второй части фильма, действие которого происходит в Африке, посвятили главу в Энциклопедии по глобальным исследованиям безопасности, изданной Palgrave Macmillan в 2023 г. Авторы провели исследование символов и художественных элементов, с помощью которых фильм демонстрирует образ США как слабеющей державы, а КНР как нового лидера, несущего процветание [4].

Обвиняя Китай, США также не стесняются использовать преимущество в контроле над ключевыми интернет-компаниями для достижения своих политических целях. Подход США в последнее время характеризуется нетерпимостью к трансляции альтернативного мнения в информационном пространстве. Это проявляется как на международном уровне, так и во внутренней среде. Технологические гиганты, владеющие крупнейшими поисковыми сервисами и социальными сетями, охотно идут навстречу американскому правительству и блокируют неугодный контент, демонстрирующий реальную картину мира, которая не совпадает с образом, который транслируется в медиа для конструирования социальной реальности. Это и является причиной, по которой США так защищают мультистейкхолдеризм — подход, при котором в процесс управления включены все заинтересованные стороны, включая негосударственных акторов. Этот подход ставит под угрозу возможность защиты интересов развивающихся стран, которые в основном зависимы от технологий развитых стран. В глобальной системе управления киберпространством такой подход противопоставляется принципу цифрового суверенитета и многостороннего управления, где определяющую роль играют государственные акторы [5].

Подтверждением того, что ни о какой «открытости» Интернета и свободе слова речь не идет, стала блокировка аккаунтов Д. Трампа в социальных сетях в период, когда он еще оставался действующим президентом США. Его исключили из информационного пространства, лишив основного инструмента влияния.

Кто контролирует восприятие реальности?

Сейчас технологии шагнули еще дальше, для манипуляции общественным сознанием и формирования нужного образа государства уже нет необходимости в прямом воздействии. Общество само начинает двигаться в указанном направлении, получив подсказки, скрытые в информационном потоке, который лавиной обрушивается на пользователей каждый день. Цифровой профиль человека сейчас может рассказать о нем больше, чем кто-либо другой. Алгоритмы, обрабатывая большие массивы данных, сами адаптируются под нужные принципы подачи информации, создавая иллюзию контроля над восприятием реальности и помещая пользователя в искусственно созданную виртуальную среду.

В XXI в. основным источником информации стали поисковые системы, это касается и вопросов воспитания детей, и попыток узнать актуальную международную ситуацию. Большинство людей не заходят дальше первой страницы результатов поискового запроса, а то и дальше первых трех ссылок. По данным статистики, на первую ссылку приходится до 25% кликов, на вторую и третью — 15% и 11% соответственно. Это позволяет манипулировать восприятием информации изменяя приоритизацию поисковой выдачи.

В 2022 г. Брукингский институт провел исследование активности КНР в поисковых запросах касательно СУАР и пандемии COVID-19. Результаты оказались впечатляющими: в поисковых запросах относительно СУАР в Google и Bing в 88% случаев в первой десятке результатов оказывался материал как минимум одного китайского новостного агентства, на Youtube этот показатель достигал 98%.

Если даже в случае с продвижением коммерческих товаров можно использовать инструменты поисковых сервисов для повышения приоритета публикации, то для реализации государственных интересов возможности могут быть в разы больше.

Поисковики могут выдавать среди результатов по запросам, связанным с актуальными темами международной повестки, публикации, отражающие позицию того или иного государства, что, в свою очередь, будет влиять на международное восприятие в зависимости от числа активных пользователей сервиса.

Никита Соловьев:
Роль генеративных моделей ИИ в войне против истины

Очевидно, что приоритизация результатов в Google не окажет влияния на восприятие международной обстановки в Китае, где сервисы компании недоступны и монополистом на рынке поисковых сервисов выступает Baidu, но она способна изменить внешнее восприятие деятельности страны.

Нейросети, фейки и манипуляции

Наиболее современным инструментом формирования общественного мнения и восприятия политической реальности стали технологии искусственного интеллекта и нейросети. Последовательно все крупные поисковые сервисы объявили об интеграции с ИИ — это Bard от Google, Copilot от Microsoft, YandexGPT от Яндекс и др. Компании обещают персонализацию и упрощение процедуры поиска за счет глубокого анализа индивидуальный предпочтений, что создает новые возможности для совершенствования государственной политики, формирования более полной информации о своих противниках и союзниках и позволяет молниеносно реагировать на новые вызовы и угрозы. Для информационного пространства это означает, что, с одной стороны, жизнь обычного пользователя становится проще, но с другой, ИИ позволяет найти более эффективные инструменты внушения для формирования у пользователя необходимого образа восприятия реальности.

Уже сейчас научные журналы столкнулись с проблемой использования ИИ для написания научных статей. Некоторые исследователи используют нейросети для генерации наборов данных для подтверждения результатов своих исследований, в других случаях они используют нейросеть, чтобы узнать информацию о событии или человеке, и сталкиваются с фейком. В конечном итоге ценность научного исследования падает, и оно вместо просвещения масс становится инструментом продвижения дезинформации.

Возможности нейросетей, доступные обычному пользователю, уже позволяют генерировать правдоподобный текст, на первый взгляд неотличимый от написанного человеком. Технология deepfake позволила создавать фейковые новости о политиках, генерируя изображения, видео и записи голосов. С такой проблемой уже столкнулись в Великобритании, Словакии и США, где сгенерированные аудиозаписи стали причиной общественного резонанса.

Популярное выражение гласит, что «Ложь, повторенная тысячу раз, становится правдой», поэтому главная опасность фейков заключается в том, что они могут распространяться подобно вирусу и достигать большого числа людей до того, как появится возможность что-то предпринять [16].

Подобные изощренные технологии стали эффективным дополнением для многочисленных армий ботов, которые выполняют различные задачи в социальных сетях. Они играют роли тех, кому мы обычно доверяем больше всего, — обычных людей, формируя иллюзию «истинного» общественного мнения. Это мощное оружие используется для информационных и психологических войн, которые стали новой реальностью современности.

1. Ham P. The Rise of the Brand State: The Postmodern Politics of Image and Reputation // Foreign Affairs. 2001. Vol. 80. No. 5. Pp. 2–6.

2. Castells M. Communication Power. Oxford university press. 2013. 624 p.

3. Huang, Z.A., Rui, W. ‘Building a Network to “Tell China Stories Well”: Chinese Diplomatic Communication Strategies on Twitter’ // International Journal of Communication. 2019. No. 13. Pp. 2984–3007.

4. Clifford, S., Romaniuk, S.N. Wolf Warrior II (战狼2) and the Manipulation of Chinese Nationalism. In: Romaniuk, S., Marton, P. (eds) The Palgrave Encyclopedia of Global Security Studies. Palgrave Macmillan, Cham. 2021. Pp. 1553–1557.

5. Дегтерев Д.А., Рамич М.С., Пискунов Д.А. (2021). Подходы США и КНР к глобальному управлению киберпространством: «новая биполярность» в «сетевом обществе» // Вестник международных организаций. Т. 16. №3. С. 7–33.

6. Архангельская И.Б., Архангельская А.С. Фейк-ньюс в доцифровую и цифровую эпохи. Знак: проблемное поле медиаобразования. 2020. № 3 (37). С. 95–104.