Битва за данные: ни конфиденциальности, ни безопасности?

Мы являемся не только свидетелями, но и творцами очередной «величайшей революции» в истории человечества, на этот раз в области цифровых технологий, создающих цифровой мир. Он состоит из невероятно разнообразного набора повседневных и за несколько лет ставших привычными технологий («умные» посудомоечные машины и холодильники, видеорегистраторы, медицинские приборы, спутники, смартфоны и планшеты и проч.), а также включает в себя все более продвинутые алгоритмические и аналитические технологии, применяемые для поддержания необходимого уровня безопасности: промышленные и технологические системы управления, поддерживающие работу электростанций и общенациональных электрических сетей, иных объектов инфраструктуры, производств; системы аварийного реагирования; банковские и финансовые системы; транспортные системы; передовые системы в области обороны… Оборудование для обеспечения работы вышеперечисленных систем становится быстрее, производительнее, компактнее. Происходит увеличение вычислительных мощностей, внедряются новые способы интеллектуального анализа данных (Intelligent Data Analysis, IDA ), открывшие новый этап развития технологий, которые принято называть искусственным интеллектом (ИИ).

Признавая масштабы проникновения цифровых технологий, алгоритмов и компьютеризации в разные сферы жизни современного общества, международные организации инициируют программы «цифровой трансформации» (например, Всемирный экономический форум запустил «Digital Transformation Initiative»). Государства разрабатывают и принимают национальные стратегии и программы в сфере цифровизации и искусственного интеллекта.

Человечество создало невероятно сложную инфраструктуру цифровых технологий, состоящую из триллионов строк кода, аппаратных платформ с интегральными микросхемами, миллионов приложений для всех типов вычислительных платформ — от носимых «умных» устройств до автоматизированных систем поддержки принятия решений. В основе всех этих цифровых «чудес» — наши данные, которые регулярно собираются, обрабатываются, хранятся и передаются через глобальные сети.

Инновации в цифровых технологиях (в том числе в сфере Интернета вещей) будут и впредь делать нас более продуктивными, помогать нам решать сложные проблемы, развлекать нас, позволять мгновенно общаться практически с любым человеком в любой точке мира, а также предоставлять все виды дополнительных услуг и прочие невообразимые выгоды. Эти новые технологии не только восхищают, но и вызывают зависимость, подвергают рискам.

Мы являемся не только свидетелями, но и творцами очередной «величайшей революции» в истории человечества, на этот раз в области цифровых технологий [1], создающих цифровой мир. Он состоит из невероятно разнообразного набора повседневных и за несколько лет ставших привычными технологий («умные» посудомоечные машины и холодильники, видеорегистраторы, медицинские приборы, спутники, смартфоны и планшеты и проч.), а также включает в себя все более продвинутые алгоритмические и аналитические технологии, применяемые для поддержания необходимого уровня безопасности: промышленные и технологические системы управления, поддерживающие работу электростанций и общенациональных электрических сетей, иных объектов инфраструктуры, производств; системы аварийного реагирования; банковские и финансовые системы; транспортные системы; передовые системы в области обороны… Оборудование для обеспечения работы вышеперечисленных систем становится быстрее, производительнее, компактнее. Происходит увеличение вычислительных мощностей, внедряются новые способы интеллектуального анализа данных (Intelligent Data Analysis, IDA [2]), открывшие новый этап развития технологий, которые принято называть искусственным интеллектом (ИИ) [3].

Признавая масштабы проникновения цифровых технологий, алгоритмов и компьютеризации в разные сферы жизни современного общества, международные организации инициируют программы «цифровой трансформации» (например, Всемирный экономический форум запустил «Digital Transformation Initiative»). Государства разрабатывают и принимают национальные стратегии и программы в сфере цифровизации и искусственного интеллекта.

Человечество создало невероятно сложную инфраструктуру цифровых технологий, состоящую из триллионов строк кода, аппаратных платформ с интегральными микросхемами, миллионов приложений для всех типов вычислительных платформ — от носимых «умных» устройств до автоматизированных систем поддержки принятия решений. В основе всех этих цифровых «чудес» — наши данные, которые регулярно собираются, обрабатываются, хранятся и передаются через глобальные сети.

Инновации в цифровых технологиях (в том числе в сфере Интернета вещей) будут и впредь делать нас более продуктивными, помогать нам решать сложные проблемы, развлекать нас, позволять мгновенно общаться практически с любым человеком в любой точке мира, а также предоставлять все виды дополнительных услуг и прочие невообразимые выгоды. Эти новые технологии не только восхищают, но и вызывают зависимость, подвергают рискам.

Мария Гурова:
Социальные сети и большие данные — золотой теленок XXI века

Алгоритмы — сердце цифрового прогресса, данные — кровь цифровой кровеносной системы

Пожалуй, вся интернет-жизнь является двусторонней игрой, в которой пользователи стремятся к «зрелищам» (новому контенту, ярким инфоповодам, будоражащим шоу), а компании — к «хлебу», то есть к сбору как можно большего количества данных о пользователях. Пользовательский аппетит к бесплатному контенту активно конвертируется компаниями в доходы: поисковые системы, электронная почта, некоторые облачные сервисы — все это предоставляется бесплатно в обмен на потоки данных, что замечательно выражается во фразе «If you are not paying for it, you're not the customer; you're the product being sold».

Данные, собранные и обработанные алгоритмами, являются новым ресурсом, причем возобновляемым. Во-первых, компании всегда рады получить прибыль, продавая данные другим сторонам. Таким образом, они не рассматривают их как «наши данные», а считают их «своими данными», которыми они могут распоряжаться по своему усмотрению. Во-вторых, они собирают эти данные и объединяют их с другими для использования в системах принятия решений в маркетинге, сфере рекламы и предоставления услуг. Наши данные после обработки говорят о том, какие мы люди, какие у нас уровни достатка, кто наши друзья и многое-многое другое. Когда приходит понимание, что компании начинают определять (профилировать) уровень доступа к продукту или условия, на основании которых мы получаем такой доступ, становится не по себе. Цели технологических компаний прагматичны: они хотят «смоделировать» нас, построив персональный профиль на основе наших данных, и скорректировать наше поведение, чтобы мы сделали покупку или заказали услуги. Другим ярким примером использования данных является влияние на электоральные процессы через использование «fake news», целевой посев информации и т.п. В ближайшем будущем алгоритмы будут настолько адаптивными и мощными, что компании найдут способы еще эффективнее и элегантнее манипулировать нашими действиями и убеждениями.

Если вы спросите, чего люди хотят от технологий, то они скажут, что хотят, чтобы жизнь была проще и лучше. Но при этом ищущие простоты и комфорта хотят еще и контролировать ситуацию. В конечном итоге в «дивном новом мире» мы не получаем ни того, ни другого.

Развитие цифровых технологий касается не только Интернета, социальных сетей, привычных образов отдыха, хобби. Цифровые технологии активно внедряются в трудовую среду. Пример — внедрение реального «Большого брата» для обеспечения безопасности в форме системы Everbridge — программного обеспечения, которое анализирует тысячи источников, таких как социальные сети, последние новости, погодные изменения, данные о землетрясениях и т.д. для экстренного управления безопасностью в организациях. При этом алгоритмы анализируют дополнительные второстепенные данные, соотнося их с потенциальной угрозой. Вся информация о сотрудниках и организации в целом анализируются онлайн, после чего происходит интеграция с физическими датчиками и камерами. И при возникновении внештатных ситуаций все сотрудники могут получать оперативную информацию с помощью SMS, голосовых сообщений, оповещений через мобильные приложения в течение 60 секунд после возникновении такой ситуации. Интересно, что сотрудники с удовольствием передают свои данные (в том числе информацию о геолокации) в случае, если понимают что это необходимо для обеспечения их физической безопасности. В данном случае вопрос баланса приватности и безопасности можно выразить еще одной фразой: «Отдайте нам все, за это мы обеспечим вам безопасность на рабочем месте».

Павел Шариков:
Защита конфиденциальных данных: опыт России и США

Государства также не стоят на месте: возможности правительств настолько возросли, что они могут контролировать целые нации так, как не снилось самым амбициозным автократам прошлого. Пример — технологии прогнозирования и предотвращения преступности на основании данных о гражданах. Эффективность и действенность правоохранительных органов усиливается при помощи автоматического анализа текстовых отчетов и своевременного предоставления информации лицам, принимающим решения. Примерами таких алгоритмов являются:

— система поддержки принятия решений в сфере национальной безопасности (DSS) [Ku, Leroy 2014];

— алгоритм PredPol, являющийся одним из крупнейших поставщиков интеллектуальных систем полицейской службы в США[Lum, Isaac 2016];

— CrimeScan programme в Питтсбурге, определяющий места, где может произойти преступление;

— новая стратегия интеллектуальной полицейской деятельности Auto Vehicle Locator (AVL) [Wang & Zhao 2016] (используется с целью выявления криминальных мотивов);

— алгоритм с использованием данных социальной сети Twitter для объяснения преступной деятельности в городских районах [Bendler, Brandt, Wagner & Neumann 2014], а также использование Twitter для прогнозирования преступлений [Gerber 2014]; и множество других.

Правительства могут использовать достижения цифровых технологий, а также алгоритмы для идентификации потенциальных преступников через латентное управление микрофоном или камерой устройства, будь то телефон или ноутбук, получая возможность отслеживать все, что происходит вокруг. И потому краеугольным камнем, будь то компания или государство, является дуализм работы с данными: баланс конфиденциальности и приватности данных, с одной стороны, и обеспечение безопасности данных, с другой. То есть данные могут нести как небывалую пользу, так и являться источником угроз.

Пожалуй, основной проблемой становится не то, что государство обладает данными, а то, что государства во всем мире имеют доступ к нашим данным, которые хранятся в компаниях, сервисах и т.д. Правительство может получать наши данные от третьих лиц по запросу и без (ярким примером является кейс Mail.Ru Group с доступом правоохранительным органам ко всем данным из социальной сети ВКонтакте), и данная ситуация требует пересмотра и гармонизации действующего законодательства, а также предоставления компаниям и организациям контрольной функции за данными в том смысле, что компании должны иметь возможность защищать наши данные от любых третьих лиц, в том числе и от правительств, если для их раскрытия нет весомых оснований. И это должны быть не просто правила, относящиеся к обеспечению конституционных прав и свобод, но также правила, регулирующие действия правительства в рамках обеспечения национальной безопасности, которые, на самом деле, могут нести (и часто несут) риски для безопасности этих самых граждан, о которых так пекутся правительственные чиновники во всех без исключения странах мира (но, конечно, по-разному и с разной степенью эффективности/неэффективности).

Алексей Балашов:
GDPR меняет правила

Вместо заключения

Дилемма «свобода или безопасность» (свобода в расширительном понимании, включая конфиденциальность) совсем не новая. Образец ее «решения» в эру до Интернета можно найти во Всеобщей декларации прав и свобод человека. Теперь мы снова стоим перед необходимостью поиска консенсуса между безопасностью и конфиденциальностью данных вместе с цифровыми технологиями.

Сейчас реальность больше похожа на «противостояние» лебедя, рака и щуки из басни классика, где каждый (правительства, компании и общество) тянет «повозку с данными» на себя, конечно же руководствуясь лучшими намерениями, включая заботу об электорате, заботу об акционерах и т.п.

И тем не менее уже понятно, что именно необходимо для того, чтобы «повозка с данными» как минимум не пострадала, а как максимум двинулась в искомом направлении.

Для разрешения данной ситуации необходимо единое паритетное диалоговое пространство, в котором правительства отойдут от популизма и заработка политических бонусов за счет словесной эквилибристики и проявят политическую волю: прислушаются к профессиональному сообществу, привлекут широкий круг экспертов и специалистов.

У компаний же более сложная миссия: с одной стороны, взять на себя ответственность за использование данных, разработку и применение алгоритмов, с другой — сформировать корпоративные нормы защиты данных и информации от посягательств третьих лиц. Принцип довольно простой: практически любой алгоритм имеет влияние, и если вы зарабатываете на данных людей, вы обязаны нести ответственность за то, что и как делаете. Это означает, что разработка этических кодексов и правил должна стать неотъемлемой частью индустрии данных и алгоритмов. Более того, компании должны отстаивать права и интересы своих пользователей (хорошим примером может служить дело Apple против ФБР), понимая, что это их репутационный статус, а также достойное и уважительное отношение к собственным пользователям, которые и являются основным источником доходов.

Обществу же придется «прыгнуть выше головы». Прикрываться надеждами об анонимности данных больше не получится — современные алгоритмы способны персонализировать информацию из больших массивов анонимных данных. То есть большие объемы конфиденциальных, анонимных данных при использовании определенных алгоритмов позволяют установить личность собственника тех самых анонимных данных. При этом не следует впадать в истерию, подкрепляемую недобросовестными СМИ. Только свободное проявление аргументированных гражданских инициатив, основанных на доказательствах, могут помочь как компаниям, так и правительствам стать более чувствительными к интересам граждан.

Мостом для интеграции мнений всех обозначенных участников и создания диалогового публичного пространства могут служить публичные же университеты и экспертные площадки. Понятно, что любые социально значимые проблемы решаются небыстро, если вообще решаются. Понятно и то, что требовать от всех граждан стать просвещенными и ответственными, от компаний — быть ответственными и стратегически мыслящими, а от правительств — уважать права и свободы (включая конфиденциальность) граждан, подобно обращению к аллигатору или белой акуле стать добродетельными вегетарианцами. Тем не менее, проблема сама по себе уже не исчезнет. Цена ее игнорирования — издержки для всех, а также окончательный выход технологий из-под контроля.

Признание того, что битва за данные началась и в долгосрочной перспективе могут проиграть все (уже сейчас нет конфиденциальности, а безопасность совсем не гарантирована) — это первый необходимый шаг в решении проблемы, ставшей глобальной.

Список источников литературы

1. Bendler, J., Brandt, T., Wagner, S., Neumann, D. (2014). Investigating Crime-To-Twitter Relationships in Urban Environments - Facilitating a Virtual Neighborhood Watch. Ecis, 1–16.

2. Chih-Hao Ku, Gondy Leroy (2014) A decision support system: Automated crime report analysis and classification for e-government. Government Information Quarterly

3. Gerber, M. S. (2014). Predicting crime using Twitter and kernel density estimation. Decision Support Systems, 61(1), 115–125. https://doi.org/10.1016/j.dss.2014.02.003

4. Gus Hosein and Maria Altshuller (2017) Private and Security in a Digital Age: An Interview with Dr. Gus Hosein, Harvard International Review , Vol. 38, No. 3, pp. 67-71

5. Kevin Steinmetz and Jurg Gerber (2015). “It Doesn't Have to Be This Way": Hacker Perspectives on Privacy, Social Justice, Vol. 41, No. 3 (137), pp. 29-51

Wang, L., & Zhao, J. S. (2016). Contemporary police strategies of crime control in U.S. and China: a comparative study. Crime, Law and Social Change, 66(5), 525–537. https://doi.org/10.1007/s10611-016-9641-7

1. Цифровые технологии в данном случае представлены тремя уровнями: 1) инфраструктура и платформа; 2) алгоритмы, программное обеспечение; 3) взаимодействие информационно-технологических средств с людьми

2. Процесс получения знаний/информации — сочетание извлечения, анализа, преобразования, классификации, организации данных, их интерпретации и т.д. при помощи современных алгоритмов науки о данных (Data Science).

3. Автор не разделяет столь громкое определение, как искусственный интеллект, т.к. данный термин характеризует математические модели, выраженные в виде алгоритмов, которые не являются интеллектом, какое бы определение интеллекта ни использовалось.