Дигитально-политическая дивергенция: авторитарные страны пытаются конструировать цифровой тоталитаризм, а европейские — бороться с ним

На прошлой неделе независимые российские медиа выпустили серию расследований по итогам масштабной утечки данных Роскомнадзора (РКН). Из обнародованных материалов ведомства стало известно, что Кремль планирует искать и контролировать запрещенный контент в Рунете при помощи нейросетей и использовать искусственный интеллект, чтобы предсказывать, где и когда могут начаться протесты.

The Bell в специальном обзоре собрал основные выводы этих расследований. Во-первых, благодаря утечке стало известно, что после 24 февраля РКН начал приоритетно отслеживать в интернете антивоенные публикации — к ним относятся сообщения об убийствах мирного населения в Украине, уничтожении объектов социальной инфраструктуры, потерях российской армии и отказе российских граждан от участия в боевых действиях. Во-вторых, оказалось, что в РКН существует большой отдел мониторинга соцсетей, который занимается поиском и анализом критических высказываний в адрес лично Владимира Путина, — собранные данные используются для прогнозирования общественной реакции на те или иные его высказывания. (Отдельно мониторятся любые упоминания о здоровье президента.) В-третьих, мы узнали, что с 24 февраля по 10 ноября РКН выявил в интернете 169 тыс. публикаций с фейками и 40 тыс. публикаций с призывами к протестам. Были удалены соответственно 102 и 27 тыс. сообщений, заблокированы — 15 600 и 3200. В-четвертых, стало ясно, что справки об иноагентах для Минюста готовит Главный радиочастотный центр — фактически исполнительный орган РКН.

Пока поиск проблемного контента происходит полуавтоматически с помощью простых фильтров по ключевым словам, а сортировка результатов — уже вручную. В то же время полным ходом идет работа по автоматизации этого процесса за счет создания нейросетей, которые должны стать инструментом автоматической слежки не только за оппозиционерами, но и за всеми пользователями Рунета. В настоящий момент ведется разработка сразу трех систем автоматизированного мониторинга на основе искусственного интеллекта. Система «Вепрь» должна будет искать «точки информационного напряжения» и строить прогнозы, где и когда могут произойти протесты. «МИР» будет отвечать за полностью автоматизированный поиск запрещенной информации. «Окулус» призвана искать призывы к митингам на фото и видео и распознавать лица оппозиционеров. Впрочем, как следует из тех же «утекших» материалов РКН, ни одна из этих систем до сих пор не готова. Их создание осложняется санкциями и нехваткой высококвалифицированных специалистов, которые были бы готовы работать на российское правительство.

Еще в январе 2021 года российские власти стали активно использовать «умные» камеры для идентификации участников московских протестных акций. Тогда фигурантами административных дел стали не только митингующие, задержанные на месте, но и те, кого задним числом вычислили с помощью камер видеонаблюдения, имеющих функцию распознавания лиц. 

Кампанию против этой технологии ведет общественная организация «Роскомсвобода», которая собирает истории людей, пострадавших от технологии распознавания. Правозащитники отмечают, что ее использование прежде всего незаконно (у любого человека должны брать согласие на обработку биометрических данных), а кроме того, доля ошибок в системе достаточно высока и многие становятся жертвами ее несовершенства. 

Наконец, еще один элемент «цифрового авторитаризма» — система политического профайлинга, то есть систематический сбор информации о потенциально неблагонадежных лицах с помощью цифровых инструментов. В недавнем докладе «Технологии сетевого профайлинга» проекта «Сетевые свободы» рассказывалось об успехах властей на этом направлении. Так, важным этапом легализации системы слежки за гражданами стали системы мониторинга соблюдения карантинных ограничений во время пандемии. Впрочем, как отмечается в докладе, планы МВД создать систему, которая будет интегрировать разрозненные региональные и ведомственные банки данных в единую базу, пока провалились.

В построении дигитального авторитаризма Россия следует по стопам Китая, мирового лидера в области тотальной слежки и автоматизированного политического контроля. Подробное описание того, как Китай выстраивает экосистему наблюдения за населением и информационным пространством, в частности, представил в недавнем докладе американский Atlantic Council. В основе этой экосистемы, утверждают эксперты, лежат проект «Золотой щит», он же «Великий китайский файервол», и национальная, замкнутая сеть телевидения (CCTV), которая используется для уличного видеонаблюдения. Пекин придерживается концепции киберсуверенитета, полностью контролирует киберпространство во всем Китае и без проблем осуществляет цифровую слежку, используя искусственный интеллект, большие данные и собранную правительством биометрику. 

Эксперты Atlantic Council отмечают, что этих успехов Китай добивается за счет частно-государственного партнерства с крупными технологическими компаниями (этот тренд наблюдается и в России). При этом Пекин не только стал флагманом развития цифрового авторитаризма, но и активно экспортирует технологии цифровой слежки в страны глобального Юга. Успех Китая вдохновляет авторитарные правительства всего мира в попытках создания «несокрушимой» диктатуры, опирающейся на искусственный интеллект.

Впрочем, правительства демократических стран также обладают технологиями цифровой слежки и стремятся использовать их более активно и широко. В докладе организации Европейские цифровые права (EDRI), опубликованном в 2021 году, описывается, как неуклонно растет в ЕС использование технологий массовой слежки за гражданами на основе биометрики (EURODAC). Сначала европейские правительства взяли их на вооружение, чтобы контролировать соблюдение карантинных ограничений, однако теперь ЕС все более активно использует современные технологии, искусственный интеллект и биометрические данные для контроля границы и пресечения нелегальной миграции. Согласно последней редакции общеевропейского законопроекта о регулировании использования искусственного интеллекта, соответствующие технологии можно привлекать для выявления нелегальных мигрантов и беженцев. 

Европейские НКО и правозащитники считают применение искусственного интеллекта в сфере миграции аморальным и противоречащим духу концепции прав человека, так как он должен определять тех, кто потенциально нежелателен для ЕС, на основании заданных критериев и присваивать каждому въезжающему определенный рейтинг. Гражданские организации, правозащитники и евродепутаты выступают против использования таких технологий. В Германии уже приняты законы, которые достаточно жестко регулируют, в каких случаях можно использовать «умные» камеры, а в каких нет. Это разрешено только в исключительных случаях, при наличии добровольного согласия пострадавшего, опасности совершения преступления или постановления суда. 

В декабре 2022 года представители гражданского общества Европы (195 организаций) опубликовали открытое письмо с предложениями поправок в закон об искусственном интеллекте, чтобы ограничить возможности массовой слежки за уязвимыми группами людей. По сведениям издания Politico, три крупнейшие фракции Европарламента выступают с инициативой полного запрета на использование систем распознавания лиц и прочие инструменты искусственного интеллекта в общественных местах в Европе. Они предложили принять общеевропейский закон об искусственном интеллекте, в котором будет прописано, где можно размещать камеры слежения, а где нельзя. Депутат Европарламента Драгош Тудораче, представитель фракции «Обновляя Европу» (Renew Europe), публично заявил, что Европа должна «избежать любых рисков массовой слежки».

Бурные дискуссии и взаимные обвинения авторитарных и демократических правительств в использовании данных для нарушения прав человека привели к тому, что крупные компании, например IBM, Amazon и Microsoft, приостановили продажу технологий распознавания лиц государственным ведомствам. Однако эксперты Politico считают, что попытки запрета подобных технологий на уровне ЕС столкнутся с жестким противодействием со стороны национальных правительств, которые находятся под давлением «секьюрити популизма», то есть стремления граждан к более высокому уровню безопасности. Массовая цифровая слежка позволяет снизить уровень преступности, считают сторонники внедрения технологий. Поэтому министры внутренних дел стран ЕС лоббируют для правоохранительных органов ряд исключений в отношении использования технологий массовой слежки в таких случаях, как поиск пропавших без вести детей, предотвращение террористических атак или поиск вооруженных преступников.