Искусственный интеллект и международные отношения: социальные аспекты и влияние на международную безопасность

Я пришел к убеждению, что искусственный интеллект и связанные с ним дисциплины изменят человеческое сознание, как это произошло в эпоху Просвещения

Генри Киссинджер

Современное состояние международной обстановки характеризуется повышенной турбулентностью, обуславливающей увеличение неопределенности в процессе передела геополитических сфер влияния, а также перераспределения политического влияния на уровне крупнейших движущих сил и центров принятия стратегических решений на региональном и глобальном уровне.

Источник: Unsplash

На сегодняшний день оружие массового уничтожения более не может быть элементом превосходства в международной сфере, поскольку эффект гарантированного уничтожения не позволит закрепить победные условия для одной из сторон. Поэтому ключевые центры силы неизбежно будут искать новые способы достижения геополитического превосходства.

Так, сегодня все более заметную роль исследователи отводят искусственному интеллекту. И как средству кинетического противостояния, и как средству противостояния когнитивного, то есть воздействия на умы потенциального противника.

Генезис понятия

Конечно, мы все привыкли слышать об умных машинах, которые в результате самостоятельно принимаемых решений захватывают Землю и порабощают человечество. Этот страх, именуемый робофобией, — один из главных сюжетов научной и социальной фантастики. Вместе с тем страх перед искусственным интеллектом показывает еще и наш страх неопределенности перед неизвестным будущим, который только усиливается во время геополитических кризисов и социальной нестабильности.

Искусственный интеллект зародился в ХХ в., и сейчас использование технологий ИИ все больше совершенствуется и набирает обороты. По прогнозу исследовательской компании Gartner, в 2022 г. объемы мирового рынка программного обеспечения, использующего алгоритмы ИИ, должны были составить 62,5 млрд. долл., что на 21,3% больше, чем в 2021 г. Прогноз оправдался, и объем мирового рынка программного обеспечения с технологиями ИИ по итогу 2022 г. составил 64 млрд долл. ИИ — это общий термин, который относится к любому типу компьютерного программного обеспечения, участвующего в человеческой деятельности, включая обучение, планирование и поиск различных вариантов решений. По сути, искусственный интеллект позволяет машинам учиться на опыте, приспосабливаться к новым данным и выполнять задачи вместо человека. Большинство технологий ИИ в значительной степени полагаются на такие критерии, как: глубокое обучение и обработка природного языка, используя которые компьютеры можно научить выполнять конкретные задачи, обрабатывая большие объемы данных и распознавая их закономерности.

В общем смысле исследователи делят ИИ на две категории. Слабый ИИ (системы, способные выполнять определенные задачи лучше и быстрее, чем человек, но не обладающие самосознанием) и сильный ИИ (гипотетические системы, которые моделируют творческую личность, способную к самосознанию и самостоятельному принятию решений).

С учетом тенденций трансформации мирового порядка в условиях цифровизации социально-политической среды, направление эволюции искусственного интеллекта в целях достижения конкретных выгод для человечества должно начинаться с его понимания непосредственно в контексте международных отношений. Быстрый прогресс в машинном обучении, компьютерной обработке и «больших данных» вызвал всплеск глобального интереса и инвестиций в технологии ИИ. Привлекательность ИИ проистекает из убеждений, что он радикально изменит традиционные устои мировой кооперации и его развитие будет иметь последствия для широкого спектра секторов: от здравоохранения, образования и транспорта до обороны, разработки оружия и кибербезопасности.

В этом контексте более глубокая интеграция ИИ в общественную жизнь поднимает вопросы этики, управления и влияния на глобальную стабильность. Генеральный секретарь ООН А. Гутерриш в своей приветственной речи на глобальном саммите «ИИ во благо» 2023 г. отметил: «искусственный интеллект ежедневно попадает в заголовки газет, и эти заголовки не всегда позитивны … технологические лидеры и эксперты предупреждают о потенциальных опасностях ИИ, начиная от разработки и использования автономного летального оружия и заканчивая усилением дезинформации, подрывающей и без того хрупкое положение международного порядка». Технологии искусственного интеллекта все больше проникают в политическую, социальную, экономическую, сферу безопасности, превращаясь в новый фактор уязвимости международной системы: от влияния на общественное мнение и результаты выборов через фейковые новости и манипулятивные публикации в социальных сетях до вмешательства в работу критической инфраструктуры других стран.

Замечания А. Гутерриша указывают на опасения в отношении растущей конвергенции ИИ, которая будет иметь далеко идущие последствия для международного баланса сил, формирования экономической конкуренции, технологического лидерства, военного потенциала, геополитического влияния и этического регулирования. Поскольку ИИ продолжает развиваться, его влияние на эти области может оказаться настолько преобразующим, что потребует тщательного рассмотрения и ответственного управления для использования его преимуществ, а также снижения потенциальных рисков.

Искусственный интеллект и трансформация миропорядка

В то время как наметилась тенденция замедления экономической и политической глобализации, цифровая глобализация только усиливается, следовательно, усиливается соперничество за контроль над цифровыми ресурсами. В результате нарастающего противостояния за достижение технологического лидерства уже наблюдается размывание сдерживающих механизмов применения силы при увеличении вероятности использования нетрадиционных методов, что приводит к дисбалансу основных структур мировой системы и ослаблению ее устойчивости. Бывший государственный секретарь США Г. Киссинджер, посвятивший свою академическую карьеру изучению и концептуализации исторических эпох, отмечал, что современная технологическая революция существенным образом трансформирует восприятие человека о мире, сравнимое по масштабу с переходом от «средневекового религиозного мировоззрения к разумному мировоззрению эпохи просвещения».

Суть текущей смены эпох заключается в развитии технологий, представляющих возможность симбиоза человеческого разума и искусственного интеллекта. Социальные аспекты кроются, прежде всего, в том, что быстрота и высокая эффективность процессов ИИ вызывают серьезные опасения относительно утраты способности человека к самостоятельному мышлению, формированию собственного восприятия мира и взаимоотношений с другими людьми, а также возможности добровольного отказа от этой способности. В этом контексте одним из важных отличий текущего перехода по аналогии с точкой зрения Киссинджера является отсутствие единой «мирообразующей» философии, с которой сталкивался мир ранее, что создает риск неуправляемого распространения технологий ИИ, способных кардинально изменить ход и структуру мирового порядка.

На первый взгляд искусственный интеллект обладает значительным потенциалом для стимулирования экономического роста. По некоторым оценкам, при нынешних темпах индустрия ИИ может внести в мировую экономику до 15,7 трлн долл. к 2030 г. Помимо экономического потенциала, искусственный интеллект также может способствовать достижению некоторых целей устойчивого развития: приложения ИИ уже разрабатываются и применяются для решения проблем в таких областях, охватываемых ЦУР, как изменение климата и здравоохранение.

Во внешней политике ИИ может выполнять роль помощника в дипломатических делах, когда лица, принимающие решения, особенно внутри внешнеполитических институтов, могут перейти непосредственно к стадии суждения и принятия решений в своих дипломатических взаимодействиях и переговорах, делегируя трудоемкие вычислительные задачи ИИ. Например, израильская корпорация Startup Nation Central разработала универсальный языковой перевод в режиме реального времени с помощью генеративной видеопрограммы ИИ, которая позволяет главе цифрового отдела Министерства иностранных дел говорить на восьми языках без необходимости использования посредника-переводчика.

Тем не менее одним из важных рисков ИИ в сфере международных отношений является новая форма дисбаланса, называемая «глобальным цифровым разрывом», при которой одни страны извлекают выгоду из преимуществ ИИ, а другие существенно отстают. Восприятие ИИ как ценного инструмента экономической и военной мощи стимулировало конкуренцию за эту технологию, по всей видимости подтверждая убеждения приверженцев реализма о том, что государства заинтересованы в достижении наибольших выгод от любых изменений технологического уклада.

По прогнозам Международного валютного фонда, ИИ способен будет «поглотить» почти 40% рабочих мест по всему миру, заменяя человеческие ресурсы и дополняя их, так как одна из ключевых особенностей ИИ — его способность влиять на высококвалифицированные рабочие места. В результате страны с развитой экономикой столкнутся с большими возможностями использовать его преимущества по сравнению со странами с формирующимся рынком и развивающимися странами, усугубляя и без того высокий дисбаланс в мировом развитии. В таких условиях ИИ, скорее всего, усугубит общее неравенство — и без того тревожную тенденцию, способную привести к разжиганию социальной напряженности с помощью технологий.

Наиболее актуальные вызовы новой реальности с ИИ сосредоточены в плоскости международной безопасности и перспектив военного планирования. На передний план выходят риски военного применения ИИ, которое потенциально может изменить как стратегическую, так и тактическую сферы, обеспечивая автономные системы вооружения, кибероружие, ядерное командование и контроль, а также сбор разведывательной информации. Многие политики и специалисты по оборонному планированию склоняются к тому, что победитель так называемой «гонки ИИ» обеспечит себе глобальное доминирование в новом мировом порядке. Как отмечал в своем выступлении на конференции посвященной развитию ИИ в ноябре 2022 г. президент РФ В.В. Путин: «Прорывы в области искусственного интеллекта колоссальны, а между государствами ведется ожесточенное соперничество, и от того, каких результатов мы достигнем, зависит место России в мире, наш суверенитет, безопасность и благосостояние нашей страны». Владение передовыми технологиями ИИ может предоставить значительное преимущество для России, способное оказать существенное воздействие на текущие геополитические процессы.

Тем не менее опасения кроются в том, что последствия такой гонки потенциально гораздо более масштабны, чем вопрос о том, кто выиграет глобальную гегемонию. Восприятие «гонки ИИ» может ускорить и без того рискованное развитие систем искусственного интеллекта, а необходимость опережать геополитических оппонентов путем быстрого расширения границ технологии, которая до конца неизвестна и неконтролируема (без соразмерных усилий по обеспечению безопасности ИИ для всех акторов), вполне может представлять собой экзистенциальный риск для дальнейшего существования человечества.

В частности, современная борьба между государствами за первенство в развитии технологий ИИ напоминает гонку за освоение космоса ХХ в. Самые мощные в этом плане акторы — США и Китай, конкурируя в развитии ИИ, обуславливают вызовы для других стран в вопросе собственного статуса и роли в цифровом измерении мирового порядка. Во многом именно в свете значительных достижений Китая в области передовых технологий бывший президент США Д. Трамп инициировал обширную торгово-экономическую конфронтацию с Пекином, включая введение таможенных пошлин, применение мер экспортного контроля, репрессивные меры в отношении китайских ученых и также наложение санкций на высокотехнологичные компании КНР.

На данный момент Китай лидирует в сфере военных инноваций в области искусственного интеллекта, но отстает от США в сфере создания общего искусственного интеллекта. Уровень языковых моделей LMM китайских компаний отстает от американских коллег примерно на 1–3 года, в то время как американский OpenAI задает темп развития генеративных моделей. Более того, введенный в 2022 г. администрацией Дж. Байдена контроль над экспортом передовых компьютерных чипов лишил Китай доступа к ключевому аппаратному обеспечению для создания передового искусственного интеллекта.

ИИ также формирует значительные риски для международной безопасности и мира, в особенности с учетом его милитаризации, когда он может использоваться в военных целях. В этом контексте ИИ может стать новым элементом третьей технической революции в военном деле, когда автономное оружие затмит предыдущие достижения в области вооружений. В контексте военных конфликтов в различных регионах мира в 2020-е гг. ИИ становится одной из ключевых технологий, применяемых для усиления потенциала вооруженных сил. В частности, в июне 2023 г. западный альянс AUKUS успешно провел испытания автономных систем вооружения в рамках своего проекта Pillar II, направленных на усиление конкуренции с Китаем в военной и технологической сферах. В ходе конфликтов в Ливии, Йемене, на Украине фактически на практике уже происходило использование оружия с искусственным интеллектом. Армия обороны Израиля использовала системы искусственного интеллекта для выбора целей при проведении ударов по объектам, принадлежащим ХАМАС в секторе Газа, в ходе военных действий в декабре 2023 г.

***

Приведенные примеры являются ярким подтверждением вполне обоснованной опасности внедрения и использования искусственного интеллекта при принятии стратегических военных решений. В настоящее время ИИ активно разрабатывается и внедряется во всех сферах военной деятельности, а в перспективе формы и методы применения вооруженных сил будут все больше зависеть от их научно-технической оснащенности и прогрессивных систем управления войсками и вооружением. Технологии ИИ могут привести к усугублению проблем стратегической стабильности и вызвать угрозы международной безопасности уже в ближайшие годы.

Дополнительной угрозой международной безопасности, вызванной искусственным интеллектом, является проблема сосредоточения больших объемов данных, на которых основывается разработка ИИ. За последние несколько лет крупные корпорации приобрели более 250 стартапов, специализирующихся на ИИ в различных отраслях. Такая тенденция может привести к концентрации ИИ в руках нескольких крупных международных корпораций, контроль над которыми будут стремиться осуществлять непосредственно государства.

Таким образом, восприятие современной развернувшейся «гонки ИИ» вполне может подтолкнуть мировые правительства к ускоренным разработкам с отказом от дополнительных исследований по урегулированию безопасности технологий ИИ, развертывая передовые системы до того, как они станут полностью контролируемыми и безопасными. В то время как для искусственного интеллекта как технологии, безопасность которой зависит от медленного, устойчивого, регулируемого и совместного развития, такая гонка может стать катастрофически опасной. Аналогичным образом, восприятие международной «гонки ИИ» может препятствовать развитию глобальной системы управления искусственным интеллектом, препятствуя тем самым заключению соответствующих международных соглашений.

Исторический опыт демонстрирует, что международные соглашения о нераспространении ядерного оружия, а также многосторонние запреты на биологическое оружие стали значительными достижениями периода «холодной войны», которые хотя бы временно, но смогли урегулировать сферу гонки вооружений и поддерживать международную безопасность. Аналогичные соглашения относительно деятельности, связанной с искусственным интеллектом, могли бы оказаться эффективными в предотвращении быстрого внедрения ИИ в потенциально рискованные области с целью увеличения национальной мощи тех или иных акторов. В условиях беспрецедентной международной напряженности расширение международного сотрудничества по вопросам развития ИИ способно было бы снизить вероятность несогласованного внедрения ИИ в военно-технологические сферы, тем самым сокращая риск создания технологических катастроф для человечества, способствуя более осторожному и устойчивому развитию данной технологии. Корни робофобии не в самих умных машинах, а в человеческих страстях, и разрядка этой новой технологической гонки (какой бы маловероятной она ни казалась в условиях сегодняшних реалий) может иметь решающее значение для долгосрочного процветания мирового сообщества.