Информационный тоталитаризм

Развитие технологий искусственного интеллекта впервые в истории сделает технически возможным построение полноценного тоталитаризма. Режимы первой половины ХХ в., которые мы по традиции называем «тоталитарными», возможно, были только «историческими черновиками». Создать полноценный тоталитаризм в прошлом веке было невозможно даже при очень большом желании элит: для этого у них не было необходимой материально-технической базы. Развитие ИИ-технологий эту базу предоставляет, что сделает переход к полноценному тоталитаризму серьезным политическим соблазном.

В наш либеральный век представить себе будущие тоталитарные режимы трудно. Но не менее трудно было представить людям либерального XIX в. будущие тоталитарные эксперименты. В то время самым диктаторским считался режим французских якобинцев, а самым страшным испытанием человечества — Наполеоновские войны. Сегодня безграничная вера людей позапрошлого века в прогресс кажется нам наивной. Но, возможно, будущие поколения будут упрекать в наивности и наше время со слепой верой о том, что либеральные идеи — это новая норма на все времена, а тоталитарные эксперименты стали достоянием истории.

Победа будущего тоталитаризма не обязательно будет приходом к власти внесистемных сил. Напротив, она вполне может произойти через ползучую трансформацию либеральной демократии. В настоящее время политические элиты все сильнее отрываются от населения, используя целый набор технологий управления политическим процессом. ИИ-технологии делают возможным усиление контроля не только над элитой, но и над всем обществом, в целом. Трансформация демократической Веймарской Германии в Третий Рейх, осуществленная в рекордно короткий исторический срок, демонстрирует, как легко может произойти это перерождение. Специфика ИИ возможно позволит это сделать даже без ярких событий вроде поджога Рейхстага и «ночи длинных ножей».

Дискуссия о влиянии искусственного интеллекта (ИИ) на будущий мир, развернувшаяся на сайте РСМД, побудила меня изложить свой взгляд на проблему. Посыл статьи заключается в том, что создание ИИ впервые в истории сделает технически возможным построение полноценного тоталитаризма. Режимы первой половины ХХ в., которые мы по традиции называем «тоталитарными», возможно, были только «историческими черновиками». Создать полноценный тоталитаризм в прошлом веке было невозможно даже при очень большом желании элит: для этого у них не было необходимой материально-технической базы. Развитие ИИ-технологий эту базу предоставляет, что сделает переход к полноценному тоталитаризму серьезным политическим соблазном.

Knowhistory.ru
Факельное шествие, Берлин, 1933

В наш либеральный век представить себе будущие тоталитарные режимы трудно. Но не менее трудно было представить людям либерального XIX в. будущие тоталитарные эксперименты. В то время самым диктаторским считался режим французских якобинцев, а самым страшным испытанием человечества — Наполеоновские войны. Сегодня безграничная вера людей позапрошлого века в прогресс кажется нам наивной. Но, возможно, будущие поколения будут упрекать в наивности и наше время со слепой верой о том, что либеральные идеи — это новая норма на все времена, а тоталитарные эксперименты стали достоянием истории.

Прошлое или будущее?

Термином «тоталитаризм» в политической науке принято обозначать политический режим, подразумевающий всеобъемлющий (тотальный) контроль государства над всеми аспектами общественной и частной жизни. Один из теоретиков итальянского фашизма Джованни Джентиле использовал этот термин в положительном ключе, видя в нем общество, в котором государственная идеология играет решающую роль во влиянии на граждан. Впоследствии анархисты Армандо Борги и Всеволод Волин [1] развернули термин «тоталитаризм» против СССР, утверждая, что между коммунизмом и фашизмом есть ряд общих черт. Наконец, классики теории тоталитаризма Карл Фридрих и Збигнев Бжезинский в 1956 г. выделили девять его основных характеристик:

• наличие единой всеобъемлющей идеологии, на которой построена политическая система (при этом данная идеология рассматривает существующее общество как высший этап развития человечества);
• существование единственной массовой партии, руководимой диктатором, которая сливается с государственным аппаратом и тайной полицией;
• проникновение государства практически во все сферы жизни общества;
• наличие государственной монополии на информацию;
• организация всеохватывающего полицейского контроля;
• создание механизмов массовых репрессий и террора;
• введение административного контроля над правосудием;
• подчинение государству судебной власти;
• создание системы управления всей экономикой государства.

К тоталитарным режимам в англосаксонской политической науке относят нацистскую Германию, фашистскую Италию, сталинский СССР и Китай Мао Цзэдуна. Такое уравнивание коммунизма и фашизма вызвало волну критики, доказывавшей, что «тоталитаризм» — пропагандистский штамп. Сразу отмечу: автор не разделяет попытки отождествления коммунизма и фашизма, видя в них две принципиально различные идеологии. Если говорить о тоталитаризме в СССР, то это, скорее, троцкизм 1920-х гг. с его потугами на мировую революцию и создание всеобъемлющего милитаризированного государства.

Но на теорию тоталитаризма можно посмотреть в ином ракурсе. В середине ХХ в. ни одно государство, причисляемое к тоталитарным, не достигло приписываемой ему степени тотального контроля. Об этом говорит такой исследователь тоталитаризма как Клаудио Ингерфлом: «В реально существовавших “тоталитарных режимах” принципы “тоталитаризма” не были осуществлены полностью. Некоторые сферы общественной жизни — семья, религия, искусство, наука и культурная традиция в целом — оказались в конечном счете несломленными “очагами сопротивления”. И когда “тоталитарный режим” рушится или отступает, общество способно воспрять и обновиться». Причину краха тоталитарного режима К. Ингерфлом видит «в его ограниченных возможностях саморазвития, в его плохой приспособляемости к быстро меняющемуся миру». Возможно, ответ гораздо проще – «тоталитаризму» ХХ в. не хватило технологий для реализации своих программ. Такие технологии могут, однако, появиться в будущем. Что если К. Фридрих и З. Бжезинский описали не тоталитаризм прошлого, а тоталитаризм будущего, к которому наша цивилизация только приближается?

Штаб-квартира Национальной фашистской партии Муссолини, Рим,1934

«Тоталитаризм» ХХ в. был порождением индустриального общества. Он опирался на систему крупных индустриальных предприятий и связанных с ними крупных городских центров, а в сфере транспорта — на систему железных дорог. Для обеспечения контроля он мог опираться на унаследованные от XIX в. телеграф, телефон, радио и периодическую прессу. В политической сфере «тоталитаризм» был тесно связан с системой тотальных войн на основе всеобщей мобилизации. Фактически, это был проект тотальной мобилизации обществ для достижения победы в войне. (Не случайно, что расцвет «тоталитарных режимов» приходится на Версальско-Вашингтонский порядок — период между мировыми войнами.)

Однако тоталитарные системы не могли выйти за пределы крупных городов. Когда мы говорим, например, о нацистской Германии, то сразу представляем массовые факельные шествия, партийные съезды, парады милитаристских отрядов СА и СС, выступления вождей перед массами... Но все это образы ключевых индустриальных центров Германии вроде Берлина, Нюрнберга, Мюнхена или Лейпцига. Немецкая глубинка (деревня и маленькие города) продолжала жить своим вековым укладом, довольствуясь внешним выражением лояльности. Аналогично, фашизм в Италии — это, прежде всего, Рим, Неаполь, Венеция, в то время как, например, Сицилия продолжала жить традиционными крестьянскими и рыбацкими хозяйствами под руководством земельной аристократии. Контролировать каждую деревню, каждого крестьянина или рыбака, замок каждого аристократа тайная полиция не могла — приходилось доверять их лояльности. Масса скрыто недовольных вполне могла «отсидеться» на периферии.

«Тоталитаризм» ХХ в. довольствовался в основном контролем над элитой. Деятельность тайной полиции, репрессии, психологический контроль, идеологические запреты — все это касалось, прежде всего, руководства страны и связанных с ним слоев. Простой человек вполне мог за всю жизнь ни разу не соприкоснуться ни с идеологическим, ни с репрессивным аппаратом. Аналогично человек из околоэлитных кругов теоретически мог, уехав из столицы или крупного города, уйти от угрозы ареста, перейдя в другой социальный слой. Тоталитарные системы жили как бы в двух разных измерениях: контролируемая элита и остальная страна, где часто преобладал доиндустриальный уклад. Впрочем, «заговор генералов» против Гитлера летом 1944 г. доказал, что контроль над элитой тоже носит условный характер. Карательная машина нацизма, чудовищно эффективная в истреблении других народов, не смогла проконтролировать свой генералитет, который оказался носителем прозападных настроений.

Другой проблемой «тоталитарных режимов» была неспособность подчинить себе частную сферу жизни. Ранние большевики могли административно запретить религию и взорвать церкви. Но запретить каждой бабушке в деревне ставить икону на похоронах или приготовить кулич на Пасху они не могли. Это порождало то самое «двоемыслие», которое вело к подрыву идеологии: масса людей официально объявляли себя атеистами, продолжая скрыто верить. В Италии Муссолини не решился тронуть Католическую церковь: всегда существовал институт, проповедующий иные ценности. (Ватикан мог сотрудничать с фашизмом, но никогда ему не подчинялся). В Третьем Рейхе сохранялась система дворянских титулов и не слишком лояльных власти «аристократических салонов», последствием чего стали заговоры генералов-антифашистов. Даже в Китае «культурная революция» 1960-х гг. оказалась не в силах искоренить конфуцианство.

Еще меньше «тоталитаризм» XX в. мог подчинить себе систему неформальных отношений. Партийные чиновники на местах вступали в местные социальное связи, которые подрывали власть (всегда можно было «договориться» или «откупиться») или просто становились частью местной социальной структуры (например, в деревнях «партийный идеолог» часто оказывался за хлебосольным крестьянским столом, где мог обсуждать скользкие темы). Еще сильнее подрывала власть чадолюбие элиты и средних слоев: большинство хотело пристроить своих детей и внуков на престижные и безопасные места. Подобная система сама по себе делала невозможным существование тоталитаризма. Во-первых, возникала сфера отношений, не подконтрольная ни партии, ни тайной полиции. Во-вторых, неформальная система развивала цинизм: к власти приходили не самые фанатичные, а те, за кем стояли «сильные мира сего». Соответственно, те, за кого просили, могли позволить себе определенную фронду, ибо знали, что в случае возникновения трудностей за них заступятся покровители наверху.

Отсюда вытекала и главная слабость тоталитаризма ХХ в.: он не смог создать декларируемого им «нового человека». У власти стояли или выходцы из элиты старого общества, или выходцы из рабочих, мелких буржуа, а, главное, крестьян, получившие высокие посты. Менталитет идеологических фанатиков был им чужд в силу социальной специфики: к партийным лозунгам эти люди относились со скрытой (а часто и не очень скрытой) иронией. Русский философ Георгий Федотов справедливо отмечал, что менталитет насмешливого крестьянина сам по себе противоречит тоталитарной иерархии. «Ни один герой не выдержал бы мужицкой усмешки», — писал он. Тоталитарный режим мог громить идеологическую оппозицию. Но он был бессилен против десятков тысяч собственных чиновников, балагурящих на дачах, рассказывающих анекдоты про начальство, посмеивающихся над фанатиками и «умниками», а также обсуждающими, где достать импортный товар. Такой правящий слой был объективно заинтересован в ослаблении «тоталитарного режима».

East News
Иллюстрация к роману «Мы» Е. Замятина

В раннем СССР преобладание крестьянства способствовало изменению радикально-революционной системы. «Старые большевики» стали по выражению Сталина «новым дворянством», которое вступило в конфликт с собственным партийным аппаратом. Последний гораздо больше привлекала идея «построения социализма в одной стране», чем гибели в бесконечных конфликтах ради абстрактных идей «Мировой революции». Российский политолог Сергей Кара-Мурза, указал, что революционные праздники очень быстро приобрели традиционное крестьянское наполнение: «В СССР для сплочения народа вокруг государства не нужно было факельных шествий — pитуалов фанатичной спайки. Советские массовые пpаздники были гуляньями, дети ехали на отцовских шеях с флажком и мороженым в pуке, пpи остановках колонны появлялась гаpмошка, под котоpую плясали стаpики». Традиционное общество наполняло революционную форму новым содержанием, убирая и нивелируя ее тоталитарный заряд.

Во всех «тоталитарных режимах» ХХ в. образование строилось на основе классической школы. В его основе лежали идеи гармоничного развития личности, фундаментальная подготовка и формирование критического мышления. Поколение, получившее такое образование, обладало способностью к логическому мышлению, могло критически осмысливать происходящее, проходило опыт положительной социализации (школьная дружба и система неформальных отношений со сверстниками) и получало набор нравственных ценностей — хотя бы на основе классической литературы и музыки с ее идеалами гуманизма. Нетронутым оставалась и унаследованная от Вильгельма Гумбольдта система высшего образования через систему лекций и семинаров. Но классическое образование было нацелено на формирование личности, обладающей знаниями и нравственными идеалами. Не удивительно, что среди интеллигенции продолжала существовать скрытая оппозиция тоталитарным экспериментам.

Отсюда отмеченное еще немецким философом Теодором Адорно [2] несоответствие идеологии тоталитаризма с жителями тоталитарных государств. На идеологическом уровне тоталитаризм провозглашал культ сверхчеловека, лишенного слабостей и готового в любую минуту умереть за идею. В реальности и элита, и массы «тоталитарных государств» были обычными людьми с человеческими слабостями, достоинствами и пороками. (Например, генералы Вермахта были, скорее, типичными прусскими аристократами XIX в., а неполуфантастическими «новые арийцами» нацистской пропаганды). Традиция была еще слишком сильна, даже будучи просыпанной идеологическим шлаком. Технологии массового создания «нового человека» у тоталитарных режимов того времени не было.

Явление, которое мы называем «тоталитарными режимами» ХХ века, не дотягивало до полноценного тоталитаризма. Примечательно, что классики антиутопий (Евгений Замятин, Олдос Хаксли, Джордж Оруэлл, Рэй Бредбери) придумывали для своих тоталитарных государств принципиально новые технологии: уровня технического развития середины и даже второй половины ХХ в. им было явно недостаточно. У тоталитарных идеологий прошлого века не оказалось технических возможностей для воплощения в жизнь провозглашенных ими проектов.

На пути в антиутопию

Появление ИИ кардинально меняет ситуацию. Уже современный слабый уровень их развития делает гипотетический тоталитаризм более похожим на тоталитарные антиутопии, чем тоталитарные режимы прошлого века.

Информационное общество создает важное условие для перехода к тоталитаризму — оно лишает личность интимного пространства. Современный человек может только мечтать о той степени личной свободы, какая была у людей 1970-х гг. У современного человека нет понятия «выходные» в его прежнем понимании: начальник может позвонить на мобильный телефон в любой момент и попросить срочно выполнить работу или проконсультировать по какому-то вопросу. Современный человек не имеет «отпуска» в его традиционном понимании: чаще всего он берет с собой ноутбук или планшет для выполнения определенной работы. Современный человек не может долго не ответить на электронное письмо: начальник, коллеги или друзья начинают его немедленный поиск. Если мы опаздываем на несколько минут, наш мобильный телефон разрывается от звонков и смс. Сидя с друзьями или родственниками в кафе, мы вынуждены реагировать на звонки и сообщения по работе. Рабочий день жителя современного мегаполиса начинается рано утром и продолжается до десяти–одиннадцати часов вечера: все это время человек находится в социальной сфере. «В принципе у члена партии нет свободного времени, и наедине с собой он бывает только в постели», — писал Дж. Оруэлл. Только вступив в информационное общество, мы начинаем понимать, что это означает на практике.

Грань между работой и домом (то есть общественным и личным) быстро стирается, хотя пока этот процесс еще далек от завершения. Самое главное: стирание этой грани происходит не только в мегаполисах, но и в глубинке, превращая все страны в более или менее однородное пространство. Скайп сделал доступным для просмотра посторонними людьми наше жилье, то есть интимное пространство. В тоталитарном государстве Дж. Оруэлла у всех членов партии в квартире висел телеэкран, позволявший тайной полиции наблюдать за жильем человека. В 1949 г. это казалось фантастикой; теперь, имея скайп, мы не можем отмахнуться от этой антиутопии.

ul-people.ru
Празднование 1 мая в Ульяновске, 1980-е гг.

На этом фоне происходит изменение системы социальных коммуникаций. Благодаря системе социальных сетей она становится все более безличной. Мы можем ехать в поезде, не говоря ни слова попутчикам в купе, но общаясь с нашими друзьями в Вконтакте или Фейсбуке. Мы можем покупать товар в интернет-магазине, не видя продавца. Мы можем выполнять работу по интернет-заказу, не зная имен ни заказчика, ни покупателя. Мы можем годами дружить с человеком в Интернете, ни разу не увидев его вживую. (Хотя наш близкий друг в Интернете вполне может оказаться «фейком» с вымышленными именем, биографией, полом и возрастом). Вновь вспоминается антиутопия Дж. Оруэлла: подданные Океании не знают, существует ли реально Большой Брат или он является информационным фейком.

В тоталитарном государстве Е. Замятина есть интересный момент: герои записываются друг к другу на «сексуальные часы». (В частности, главный герой Д-503 предпочитает проводить их с О-90, а затем к нему записывается I-330). В 1920 г. это казалось злой сатирой на коммунизм. Однако с появлением системы интернет-знакомств на эту антиутопию можно посмотреть иначе. Социологи бьют тревогу: у современного жителя мегаполисов, проводящего большую часть времени на работе, нет времени и возможности для реальных знакомств с противоположным полом. На помощь приходят знакомства по Интернету, где люди могут обозначать себя любыми «никами». С появлением Интернета фантазии Замятина оказались не такими уж и фантастическими, особенно если посмотреть на перспективу. Пока это возникает стихийно, но кто сказал, что однажды государства не пожелают взять эту систему под свой контроль?

В пользу будущего тоталитаризма играет постепенный отказ от наличного расчета. Система банковских карт делает человека предельно зависимым от функционирования и самого существования банка. Банковская карта позволяет приобрести практически любой товар, но она делает нас невероятно уязвимыми. В будущем тоталитарном обществе оппозиционера не надо будет сразу репрессировать — достаточно блокировать его банковскую карту, чтобы он не смог купить продукты для поддержания жизнедеятельности. Дезертира из армии не надо будет объявлять во всеобщий розыск: покупка им товаров по банковской карте позволит отследить маршрут его передвижений. Система банковских карт позволит со временем ввести по-настоящему эффективную систему нормированной выдачи продуктов. Талоны или продуктовые карточки можно было обменивать или обходить, покупая товары на «черном рынке». Банковская карта позволяет автоматически отслеживать, сколько и каких товаров купил человек за определенный промежуток времени — с угрозой блокировки нарушителей.

Поделюсь личным наблюдением. Однажды в Вашингтоне я захотел купить новый IPad. В магазине с меня потребовали оплатить покупку частично наличными, а частично по банковской карте. Наличных у меня не было, и я пошел к банкомату снять денег. Тот сразу указал мне, какой лимит наличности я имею право снять сегодня — в противном случае моя банковская карта будет автоматически заблокирована на сутки. Благо необходимой суммы хватило для оплаты покупки. Если нет, мне пришлось бы ждать до завтра. Но будущие банковские карты вполне могут также автоматически блокироваться в случае превышения определенного лимита покупки.

В антиутопии Евгения Замятина «Мы» государство обращается к своим подданным: «Уважаемые нумера!» В 1920 г. такой тоталитаризм казался утопией. Сегодня каждый из нас уже имеет свой индивидуальный налоговый номер (ИНН), номер паспорта и СНИЛС, потеря которых создает проблемы при устройстве на работу, прописке, получении банковских услуг. В Интернете в свою очередь возникло понятие «Цифровой идентификатор объекта» (от англ. Digital Object Identifier — DOI) — стандарт обозначения представленной в сети информации об объекте. Информация, содержащаяся в DOI электронного документа, содержит указатель его местонахождения (например, URL), его имя (название), прочие идентификаторы объекта (например, ISBN для электронного образа книги) и ассоциированный с объектом набор описывающих его данных (метаданных) в структурированном и расширяемом виде. Перспективным направлением может стать объединение реальных документов и DOI. В этом случае люди получат единый информационный паспорт, в котором будет храниться вся информация о гражданине. Представим на мгновение, что будет означать блокировка такого «цифрового паспорта» для каждого человека.

Процесс идет к созданию единой информационной базы данных граждан. Но в этом случае вполне может возникнуть система, способная блокировать работу цифровых идентификаторов в случае каких-то нарушений или выносить по ним какие-то иные решения. Это резко снижает протестный потенциал будущего тоталитарного общества. Можно было восстать против Гестапо, бежать из концлагеря, организовать покушение на гауляйтера. Но как восстать против информационной системы, которая, блокируя твой аккаунт в госуслугах, делает невозможным трудоустройство? Такую систему можно было обойти в обществе, где был наличный расчет, но в обществе с безналичным расчетом возможности для подпольной жизни будут резко сокращены. Если некто пожелает спрятать у себя подпольщика, то его банковская карта сразу установит, что он превысил лимит покупки товаров на одного человека.

Антон Колонин:
Коллективный интеллект — будущее человечества или гибель личности?

Еще более важным шагом становится появление систем автоматизированного контроля. Тоталитарному режиму будущего наверное не нужны ни масштабная тайная полиция, ни институт доносов: эти функции возьмут на себя автоматизированные системы. Сегодня камеры и датчики уже позволяют фиксировать наши передвижения, определить, свершали ли мы мелкие правонарушения вроде курения или нарушения правил дорожного движения. Следующим шагом становится создание информационной системы, которая сама выбирает нарушителя, уведомляет его о нарушении правила и необходимости заплатить штраф. Развитие ИИ-технологий позволит фиксировать передвижение граждан по «правильным» маршрутам. У Дж. Оруэлла членам партии разрешалось ходить домой только определенным маршрутом. Автоматизация систем контроля может в перспективе сделать реальной еще недавно нереалистическую антиутопию. (Впрочем, уже сейчас в некоторые жилые комплексы можно войти только при наличии специальной карты).

Развитием этой тенденции станет появление индивидуальных электронных чипов. Современные ИИ-технологии уже способны определять личность по отпечаткам пальцев и радужной оболочке глаз. Более совершенные их виды смогут следить за тем, не совершает ли человек правонарушения, какие места он посещает и какую он получает информацию. В государстве Оруэлла машины выдавали ответ: «Преступмысль!», а сотрудники Министерства любви вносили в них информацию вроде: «Брат Тиллотсон не прав, не прав!» Что помешает представить нам будущие чипы, которые предупредительно загораются при неверном действии человека?

Только в информационном обществе мы можем по-настоящему понять этот диалог героев Дж. Оруэлла:

«— Существует ли Большой Брат?

— Конечно, существует! Партия существует. Большой Брат — ее воплощение.

— Нет, существует ли он в том смысле, как существую я?

— Ты не существуешь, — сказал О’Брайен».

В самом деле: человек-фейк может жить в информационном пространстве, будучи реальнее существующих людей. И, наоборот, мы только начинаем догадываться о том, какой будет жизнь для человека, лишившегося «цифрового паспорта». Мы постепенно начинаем понимать, что такое «стереть человека» для социума — то, что делало государство с восставшими против него героями антиутопий.

Появление электронных систем слежения сопровождается растущей способностью малых групп к обработке информации. Прежде любой тоталитаризм упирался в неодолимое препятствие: чтобы следить за человеком, надо посадить специального сотрудника, который будет за ним наблюдать. Но наблюдать за всеми подданными невозможно — для этого необходимо такое же количество специальных сотрудников. Сегодня большую часть функций наблюдения и принятия решений постепенно берут на себя автоматизированные системы. Они приобретают способность самостоятельно вычислять нарушителей и передавать соответствующую информацию. «Малым группам» останется просто принять решение о дальнейшей судьбе неугодного подданного.

Современные электронные системы уже способны высчитывать индивидуальные рейтинги людей. Но кто помешает им в будущем высчитывать рейтинги лояльности ученых — например, за счёт математического расчета количества цитирований идеологически правильных авторов? Соответственно, возможность идеологической оппозиции будет сокращена до минимума. Типичная для либеральной интеллигенции «фига в кармане» была возможной при взаимодействии с не очень умным начальником-бюрократом. Но при взаимодействии с «умной машиной» такая позиция станет невозможной: она сама рассчитает степень лояльности и рекомендует принять меры против оппозиционера. На смену принципу «обмануть начальника» придет принцип «не прогневать машину», с которой диалог не возможен по определению.

Сергей Карелов:
Главный риск ИИ — «переформатирование мира»

В романе Анатолия Рыбакова «Дети Арбата» есть интересная сцена суда парторганизации Транспортного института над главным героем Александром Панкратовым. Его обвиняют в том, что он не написал в стенгазете передовицу о Революции и Сталине и сочинил эпиграммы на ударников труда. Собрание делится на две группы. Главный герой пытается защищаться, но решение принято не в его пользу. Не станем спорить об историчности данной сцены в условиях 1933 г. Задумаемся над тем, что будет, если на столе у председателя парторганизации товарища Баулина стоял бы портативный компьютер, который выдал бы в процентах показатель лояльности главного героя. Кому и что тот будет доказывать, когда на экране компьютера появится что-то вроде «коэффициент лояльности товарища Панкратова — 35,3%»?

Мобилизационный потенциал такого общества будет намного выше, чем у режимов середины ХХ в. В то время скорость проведения мобилизации зависла от скорости передачи информации по телеграфу, доставки повесток призывникам и скорости их явки на призванные пункты. В будущем обществе мобилизация будет осуществлена, например, через одновременное загорание индивидуальных чипов с одновременной мягкой угрозой отключения банковских карт уклонистов. «Солдатские пайки» могут быть быстро заказаны через Интернет. Мобилизация может быть проведена фактически в режиме реального времени. В 1905 г. начальник германского генштаба А. фон Шлиффен полагал, что немецкая армия мобилизуется за 17 дней, а русская за 40. В информационном обществе счет может идти уже на часы.

От постмодерна к новоязу

Великий русский писатель Ф.М. Достоевский, предвидевший многое в тоталитаризме, полагал, что его утверждение произойдет по следующей схеме:

• распространение нигилизма, то есть ликвидация традиционной морали;
• утверждение принципа «все позволено»;
• переход к принципу «все позволено, но некоторым больше других»;
• становление повиновения тем, кто завоевал право стать вышестоящим.

Примером Достоевский считал нигилизм XIX в., характерный для народнической молодежи. Однако развитие ИИ делает прежний нигилизм лишь бледной тенью нигилизма будущего. Нигилизм Базарова лишь требовал искать всему материалистическое обоснование. Современный нигилизм требует ликвидации самих основ традиционной морали и системы образования.

Первый шаг в этом направлении уже сделала популярная философия постмодернизма [3]. Она уничтожила саму идею нравственного компонента образования. Постмодерн отрицает понятия «хорошо» и «плохо», «морально» и «аморально», «правильно» и «неправильно». Естественный вопрос постмодерниста: «А с чьей это точки зрения оно правильно или неправильно?» или «Почему я должен принимать эту версию?» В философии постмодерна нет места правилам типа «2 x 2= 4». Последовательный постмодернист скажет: «Пифагор полагал, что 2 x 2 = 4, но это лишь точка зрения Пифагора». В антиутопии Оруэлла была описана пытка в Министерстве любви, где от главного героя требовали увидеть не четыре, а пять пальцев, хотя их показывали четыре. В мире классической культуры это казалось гротеском; в мире постмодерна, помноженном на технологии 3D, — отнюдь нет. (Достаточно вспомнить популярную философию Имре Лакатоса и Пола Фейерабендта, в которой наука и магия почти одно и тоже, а, значит, и 2 x 2 теоретически может быть равно 5).

Культура постмодерна построена на двух идеях. Первая — провозглашенная французским философом Мишелем Фуко идея разрушения «режима истины» (понятие, которое он позаимствовал у Фидриха Ницще). Вторая — идея «деконструкции текстов», выдвинутая французским лингвистом Жаком Дерридой. Деконструкция раскрывает первичные установки философии (и культуры в целом), на которых базируются все остальные постулаты и границы. В основе культуры лежат бинарные оппозиции типа «добро — зло», которые надо преодолеть. Результатом становится тотальная деконструкция смыслов и прежде всего их нравственной нагрузки. Постмодернизм ввел идею «игры» — восприятия мира как набора несерьезных состояний, не ведущих ни к каким последствиями. Но ведь это очень напоминает тот момент «тоталитарной культуры», о котором писал Оруэлл: «Особенность тоталитарного государства та, что, контролируя мысль, оно не фиксирует ее на чем-то одном. Выдвигаются догмы, не подлежащие обсуждению, однако изменяемые со дня на день... Объявив себя непогрешимым, тоталитарное государство вместе с тем отбрасывает само понятие объективной истины».

independent.co.uk
Сжигание книг в Берлине, 1933

Либеральная интеллигенция на Западе и в России, упоенная «свободой постмодернизма», словно не замечает, как легко развернуть эту философию против ее либеральных идей. В самом деле, для последовательного постмодернизма либеральная демократия — это только одна из версий политического режима и не более того. Кто сказал, что все люди должны быть равны перед законом? Почему не считать справедливостью неравенство, когда более талантливые или успешные имеют больше прав, чем «масса»? Или почему бы не вернуть расизм, осужденный после Второй мировой войны? Ведь осудили его победители, что субъективно. Можно «поиграть в расизм», реконструировать его смыслы… Для будущих «тоталитарных» движений в философии постмодернизма заложен настоящий клад. (Как в пьесе французского драматурга Эжена Ионеско «Носороги» — герои не заметили, что, играя в носорогов, неожиданно сами стали носорогами)

Нечто подобное для краха античной цивилизации сделала скептическая философия эпохи эллинизма, абсолютизировавшая учение греческого философа Эвбулида (IV в. до н.э.). Последний изобрел принцип деструкции базовых посылок оппонента: не спорь с ним логически, а требуй обосновать базовые посылки. По легенде Эвбулид даже изрек: «А кто это сказал, что истина дороже всего на свете?» Возможно, это легенда. Но из максимы Эвбулида, предтечи современного постмодерна, вытекали и другие вопросы: «А кто сказал, что рабство — плохо?» Или: «А кто сказал, что уничтожать научные свитки нельзя?» Нынешние постмодернисты иногда говорят: "Вся современная наука - это плагиат Платона или Конфуция!". Но в мире, где плагиаторы все, не плагиатор никто. Можно, впрочем, пойти и дальше. Кто, собственно, сказал, что проблему терроризма нельзя решить геноцидом обществ, рождающих терроризм? И вообще, что такое геноцид? Возмущение Д.С. Лихачева о «дегуманизации культуры» будет выглядеть в «системе Эвбулида» странным, ибо кто сказал, что культура и гуманизм — это ценности?

Культура постмодерна снимает табу с древней жестокости и антигуманизма. Если все игра, то ничто не надо воспринимать всерьез. Можно написать красивый рассказ об издевательствах над рабами в Древнем Риме или триумфе беспощадного победителя в Древней Греции, о сожжении еретиков или о жестокостях в нацистском концлагере — это «будет всего лишь» эстетическая игра. Можно подать это как эксперимент с текстами — интересное лингвистическое упражнение. Это, разумеется, было и прежде. Но развитие ИИ-технологий позволило перенести эти упражнения в массы в виде гуляющих по Интернету рассказов об экзекуциях или компьютерных игр в войны с тотальной жестокостью по отношению к побежденным. На этом фундаменте уже можно будет попробовать сформировать «нового человека», лишенного способности к нравственной оценке происходящего. (Напомню, что даже нацисты старались прятать от мира свои преступления, а не выставлять их напоказ).

Постмодернизм совершил и другую революцию — он поставил под сомнение лингвистические и грамматические правила. Каждый пишет так, как нравится ему, выдавая это за творческое самовыражение личности. Несколько раз мне доводилось слышать такие слова: «А разве после Пелевина и Сорокина в русском языке есть правила?» Мобильные телефоны и гаджеты довершают эту лингвистическую революцию. Можно ежедневно писать сотни смс и мейлов с кучей грамматических и пунктуационных ошибок, ссылаясь на «отсутствие времени». А можно и не ссылаться — «творческая личность» и пишет так, как нравится ей, а правила — это показатель «одноименного мышления». В результате возникает тот шаблонный и кривой язык, который Дж. Оруэлл назвал «новоязом». Пример новояза — фраза, которую писал герой Оруэлла в Министерстве правды: «таймс 3.12.83 минусминус изложен наказ с. б. упомянуты нелица переписать сквозь наверх до подшивки». Но разве это не язык многих наших смс или мейлов?

Посмотрим для интереса на интернет-форумы, где преобладают два типа аргументов — «ИМХО» и «ЕМНИП». Первое — дословный перевод с английского «in my humble opinion», второе — «если мне не изменяет память». Эти аббревиатуры апеллируют к иррациональному и ставят использующего их в позицию пророка, ибо его мнение уже считается достаточным доказательством. Но главное — они съедают реальные слова, заменяя их новыми смыслами. Добавим к этому устойчивую практику присылать смайлы и символы вместо слов, предложения без подлежащих и сказуемых (вроде «Так уже вчера», «И?»), подчеркнуто неправильно написанные слова («щас!»), и мы можем по-новому оценить еще недавно фантастический диалог героев Оруэлла о новоязе:

Шумерская табличка с древом жизни

«Сайм откусил еще от черного ломтя, наскоро прожевал и заговорил снова.

— Неужели вам непонятно, что задача новояза — сузить горизонты мысли? В конце концов мы сделаем мыслепреступление попросту невозможным — для него не останется слов. Каждое необходимое понятие будет выражаться одним-единственным словом, значение слова будет строго определено, а побочные значения упразднены и забыты... С каждым годом все меньше и меньше слов, все yже и yже границы мысли».

Социологи давно обратили внимание на тенденцию современности: отказ от классической письменности в пользу печатного набора символов. Но именно письменность на основе буквенного алфавита сформировала логическое мышление как способность к рациональному познанию мира. Отказ от письма рукой будет означать отказ от развития у ребенка логики как последовательности рациональных действий. Набор печатных символов не развивает левое полушарие головного мозга — он формирует дискретное мышление, способное только фиксировать определенные знаки. Это — мышление эмоционального правого полушария мозга. Соответственно, будет умирать и способность к критическому осознанию мира как результат логического рационализма, ибо будет преобладать эмоциональное и дискретное видение мира.

Немецкий историк Фриц Хейхельхем [4] предположил, что подобный переворот сделает мышление людей будущего близким Древнему Востоку III тыс. до н.э. Современная цивилизация рационализма зародилась, по его мнению, примерно в VIII в. до н.э. в связи с переходом к обработке железа и алфавитному письму. «Дискретная» письменность иероглифами, характерная для Древнего Египта и Шумера, рождала принципиально иное мышление. Для него была характерна подчеркнутые мифологизм и неисторичность — восприятие мира как незыблемого «золотого века» или «темного века», в котором отсутствует движение и развитие, а, следовательно, прошлое и будущее. Каждый фараон, энси или лугаль утверждал, что его правление и есть соответствующий воле богов «золотой век», в котором не может быть противоречий. Все это очень похоже на современные концепции «конца истории», постулирующие, что либеральная демократия создала «золотой век» едва ли не на все времена.

Любопытен и еще один момент. Искусствовед Александр Генис как-то заметил, что от будущих писателей не останется черновиков — человек сочиняет сразу в машину. Такой способ записи информации был характерен для шумеров III тыс. до н.э. Глиняные таблички с информацией через какое-то время переплавлялись в новые. (То, что находят археологи — это чаще всего таблички, которые в силу каких-то причин не попали под переплавку). Шумеры не понимали историю как прогресс или просто движение к будущему: ценным были только «золотой век» (времена богов до потопа), менее ценным — век полумифического лугаля Гильгамеша, а дальше шли неудачные попытки вернуть «золотой век». Современное поколение «компьютерных игр» уже зачастую путает реальную историю с фантастикой и полуфантастикой. Не окажется ли прав профессор Хейхельхейм в том, что информационные технологии вернут нас на новом витке к мировоззрению Древнего Востока, где многие философы видят прообразы тоталитарных государств?

«Лимоны и мандарины»

В тоталитарном государстве Рэя Брэдбери сжигались книги. В тоталитарном государстве Дж. Оруэлла книги постоянно переписывались в угоду партийной линии. Нацистский режим попытался осуществить нечто похожее за счёт сжигания неугодных книг на кострах. Но для осуществления такой программы у нацистов 1930-х гг. не хватило технических средств — все книги и газеты по всей стране сжечь было невозможно. Тем более, их было невозможно постоянно переписывать и менять.

Зато цифровые технологии изменят ситуацию. Тенденция современного мира — переход от печатной книги к электронной. Все большее количество людей предпочитает читать книгу в Интернете. Но электронные книги, размещенные в Интернете, можно спокойно менять чуть ли не ежедневно. Любой современный «фикрайтер», пишущий рассказы в Интернете, знает, что через личный кабинет можно постоянно редактировать тексты. Вчера была одна глава; сегодня в нее можно кое-что добавить, даже не предупредив читателей. (Помнят ли они дословно текст?) А послезавтра можно будет поменять в старом тексте и что-то еще. Текст в Интернете можно менять постоянно, а, значит, переход на электронные книги даст возможность «менять прошлое».

Сергей Карелов:
Впереди ИИ-национализм и ИИ-национализация

Герои Оруэлла вспоминали стишок: «Лимоны и мандарины, лимоны и мандарины, поют колокола Святого Клементина…». Этот стишок — то немногое, что осталось от старого общества. В век печатной книги такая ситуация казалось невозможной. Но если допустить вытеснение печатной книги электронной, то такая ситуация вполне может стать реальностью. Ведь для смены электронных книг не надо менять все книги — достаточно изменить один текст в интернете.

Более того, переход на электронные носители информации позволит убирать ненужные факты прошлого. Мы снова подходим к ситуации, о которой предупреждали авторы антиутопий прошлого века — вычеркивание людей и событий из истории без возможности их восстановления. Снова можно процитировать часть из Оруэлла:

«Это была фотография — и не приходилось сомневаться, какая именно. Та самая. Джонс, Аронсон и Резерфорд на партийных торжествах в Нью-Йорке — тот снимок, который он случайно получил одиннадцать лет назад и сразу уничтожил. Одно мгновение он был перед глазами Уинстона, а потом его не стало. Но он видел снимок, несомненно, видел! Отчаянным, мучительным усилием Уинстон попытался оторвать спину от койки. Но не мог сдвинуться ни на сантиметр, ни в какую сторону. На миг он даже забыл о шкале. Сейчас он хотел одного: снова подержать фотографию в руке, хотя бы разглядеть ее.

— Она существует! — крикнул он.

— Нет, — сказал О'Брайен.»

При переходе на электронные носители такое безвозвратное уничтожение информации становится реальностью. Другая проблема электронных носителей — уничтожение принципа ответственности. В век печатных книг можно было вспомнить, что говорил человек несколько лет назад и оценить его прогнозы. Сегодня достаточно уничтожить сайт или просто адрес текста в Интернете, чтобы неугодные слова были забыты. Такая девальвация информации сделает возможным развитие манипулятивных систем. Теоретически ИИ-технологии смогут сами осуществлять поиск ненужной власти информации и осуществлять ее удаление. Возможность «сиюминутной» манипуляции массовым сознанием выйдет на новый уровень.

Воспитание нового человека

Тоталитарные режимы прошлого мечтали построить иерархическое общество — что-то вроде системы сословий Средних веков или каст Древней Индии. На базе классической школы и университета построить такое общество было практически невозможно. Но «цифровизация образования» открывает потенциал для реализации иерархического проекта.

Предпосылкой к этому станет переход на систему онлайн-курсов, которая полностью уничтожит возможность личного контакта учителя и ученика. Система аудиторного образования по Гумбольдту окажется уничтоженной. С одной стороны, это станет идеальной системой контроля над преподавателем: в онлайн-курсе не скажешь ни одного лишнего слова. С другой стороны, учащийся сможет получить только те знания, которые заложены в онлайн-курсе. Добавим к этому контроль над пересылаемыми файлами в электронной почте, и мы получаем возможность предоставления человеку строго дозированной информации. В век печатной продукции можно было заняться самообразованием. Но в мире электронных носителей возможность самообразования будет прямо пропорциональна доступу человека к определенным ресурсам. Уже сейчас в мировой системе образования можно выделить ряд магистральных тенденций.

Первая тенденция — растущая труднодоступность элитарного образования. Социологи фиксируют, что уже в наше время в США и Британии карьера политика начинается едва ли не c трех-четырёх лет: надо родиться в «правильной» семье, получить образование в элитном колледже, закончить элитный университет, попасть на необходимую стартовую должность... Цифровизация стандартных курсов только усугубит неравенство между элитным и неэлитным образованием. Образование на основе печатных книг было демократичным: купить книжную продукцию мог практически любой человек, имеющий даже небольшие деньги. Цифровое образование позволит гораздо легче сохранять монополию на элитарные цифровые курсы. Другой вариант — введение практики, что для занимания государственных должностей необходимо иметь только дипломы определенных вузов.

Идеальным решением проблемы может стать возрождение системы социальных языков: состояния, когда народ и элита исползают разные языки. В Средние века католическая церковь перекрывала путь к демократизации знаний посредством латинского языка. (Чтобы получить образование, простолюдину надо было сначала обучиться латыни, что малореалистично — язык усваивается через коммуникацию). Английская знать в Средневековье и русское дворянство в XIX в. говорили на французском языке, что отделяло их от основной массы населения. Сегодня для поступления в престижный вуз от абитуриента требуется прекрасное знание английского языка, которое можно получить только в определённой школе. Историю, географию и даже физику можно освоить самому; язык — только в коллективе или с дорогостоящим репетитором и в течение длительного временного периода.

Иван Тимофеев:
От авторитаризма к демократии? Будущее политических режимов

Вторая тенденция — переход на тестовую систему образования. Именно это может сформировать идеальную касту исполнителей для новой элиты. Во-первых, ученик, выучившийся по тестовой системе, четко знает, что на каждый вопрос может быть только один правильный ответ. (Ситуация, когда верно и то, и другое, или частично верно и то, и другое, будет недоступна его пониманию). Во-вторых, тестовая система не предполагает поиска закономерностей и структуры явления: достаточно знать необходимый набор фактов или примеров. В-третьих, тесты не предполагают наличия у учащегося собственного мнения. Можно объяснить преподавателю на коллоквиуме, как ты понимаешь то или иное событие или теорему, как идет дискуссия по данной проблеме; объяснить что-то компьютеру невозможно: на любой вопрос есть только один правильный ответ. Поэтому на выходе мы имеем явление, что глубина выводов менее важна, чем «нормативная структура».

Российские исследователи-международники А.А. Байков и И.А. Истомин показали первые результаты данного процесса. Авторы пишут о правилах публикаций научных статей США: «В фокусе внимания рецензентов порой оказываются не глубина выводов и проницательность наблюдений, а методология анализа, адекватность собранных в ходе полевых исследований эмпирических данных, а также соответствие устоявшейся в англо-американской традиции “нормативной” структуре научной статьи». Не важно, к каким результатам пришел исследователь, какие проблемы затронул — главное, что он процитировал идеологически правильных авторов. «Правильными», как следует из статьи, считаются К.Р. Поппер и И. Лакатос. (Хотя почему точка зрения философа К. Поппера должна быть истиной в последней инстанции — сказать трудно). В свое время советские студенты смеялись над способностью классиков марксизма-ленинизма высказываться по любому поводу — от вопросов оптики до проблем языкознания. А вот американские бакалавры едва ли иронизируют над «вечно правым» Поппером. Минус в системе индивидуального рейтинга, рассчитываемого компьютером, может иметь не самые лучше последствия для веселого бакалавра.

Цифровое образование убьет традиционные представления о студенчестве как «вольной братии». Неверный рейтинг, рассчитанный машиной, может иметь тяжелые последствия для студента. Система электронных экзаменов сделает невозможным и установление неформальных связей между чиновниками будущего общества. (По логике: просить бессмысленно). Такая система позволит сформировать тип чиновника, абсолютно независимого от каких-либо личных связей и четко усвоившего определенный стандарт знаний. В принципе, эта та самая «железная когорта», о гибели которой в начале 1930-х годов так грустили герои А. Рыбакова.

Третья тенденция — растущая популяризация в Интернете самых мракобесных верований вроде обсуждения теорий плоской Земли, неправильности всей исторической хронологии до XVII в., ядерной войны в конце XVIII в., шумеров как предков украинцев или греков-ахейцев как предков русских... Количество сайтов с подобной информацией уже приобретает критическую массу, оттесняя для пользователей академическую науку. В 1964 г. французские публицисты Жак Бержье и Луи Повель опубликовали интересную работу «Утро магов» о том, как в Третьем Рейхе насаждались мистика и оккультизм — вплоть до теории «полой Земли». Сегодня интернет-технологии, похоже, позволяют внедрять подобные верования в массы на потоке. Во всяком случае, к услугам будущих «магов» будет целая индустрия «живых журналов», «ютюбов», постов в социальных сетях. Понизить уровень образованности основной массы населения станет делом техники.

В свое время Дж. Оруэлл писал, что на тоталитарном новоязе невозможно мыслить оппозиционно. Современные ИИ-технологии еще не дают такой возможности. Но тотальная победа цифровых технологий может сделать серьезный шаг к реализации такой антиутопии.

***

Победа будущего тоталитаризма не обязательно будет приходом к власти внесистемных сил. Напротив, она вполне может произойти через ползучую трансформацию либеральной демократии. В настоящее время политические элиты все сильнее отрываются от населения, используя целый набор технологий управления политическим процессом. ИИ-технологии делают возможным усиление контроля не только над элитой, но и над всем обществом, в целом. Трансформация демократической Веймарской Германии в Третий Рейх, осуществленная в рекордно короткий исторический срок, демонстрирует, как легко может произойти это перерождение. Специфика ИИ возможно позволит это сделать даже без ярких событий вроде поджога Рейхстага и «ночи длинных ножей».

1. Дамье В. В. Леворадикальная критика тоталитаризма // Изучение диктатур. Опыт России и Германии / Отв. ред. М. Б. Корчагина. — М.: Памятники исторической мысли, 2007.

2. Хоркхаймер М., Адорно Т. Диалектика Просвещения: Филос. фрагменты. — М.: Медиум, 1997.

3. Дианова В. М. Постмодернизм как феномен культуры // Введение в культурологию. Курс лекций / Под ред. Ю. Н. Солонина, Е. Г. Соколова. СПб.:СПбГУ, 2003.

4. Heichelcheim F. An Ancient economic history. Vol. 7.1. Leiden, 1958.