Risks and Threats of Total Digitalization: Opportunity and Manageability Level

Full Text

Риски и угрозы тотальной цифровизации: возможности и потенциал управляемости.¹

Пандемия, охватившая весь мир в 2020 г., дала мощный импульс развитию цифровых технологий и максимальной цифровизации всех сфер общественной жизни. Трудовая деятельность человека была по возможности переведена в цифровой формат, равно как и образовательный процесс по всему миру. Это продолжило тенденцию роста популярности онлайн-образования, оказания онлайн-услуг, онлайн-общения, включая проведение форумов, саммитов, конференций, совещаний, мозговых штурмов, заседаний в цифровом онлайн-формате.

Некоторые исследователи полагают, что именно мировая пандемия стала катализатором нового зарождающего явления — цифровой глобализации². И.Г. Шестакова называет этот феномен инфо-коммуникационной глобализацией, которая представляет собой всемирную экономическую, политическую и культурную интеграцию и унификацию [1, с. 23]. Цифровая сфера не имеет государственных границ, территориальной принадлежности, не всегда охватывается национальной юрисдикцией государств. Мир становится свидетелем прихода новой культуры — электронной. Человек как трудовая единица начинает терять свою ценность, ее приобретают знания, умения, компетенции.

Многие навыки можно заменить искусственным интеллектом. Этот процесс развивался долгие годы, но пандемия 2020–2022 гг. усилила тенденцию перевода в онлайн-формат различных процессов, явлений, процедур. В Гражданском кодексе РФ появляются «цифровые права» человека, в сентябре 2021 г. проведено онлайн-голосование при выборах депутатов Государственной Думы РФ, а также на региональных выборах. Образование было одной из первых сфер, опробовавших на себе всероссийский цифровой формат. В целом, можно констатировать, что все, что возможно было, максимально переведено в электронный и «удаленный» формат (трудовая деятельность, обучение, научные и образовательные массовые мероприятия, экскурсии и культурные мероприятия, защиты диссертационных исследований, проведение совещаний, собраний, в том числе и в государственном аппарате).

В опыте тотальной цифровизации Китай пошел еще дальше, и с 01.01.2021 в КНР вступил в силу первый в истории страны Гражданский кодекс, официально закрепивший систему социального кредита, поддерживаемого при помощи цифровых технологий, для всех граждан страны и юридических лиц. Для каждого гражданина действителен стартовый рейтинг в 1000 баллов, который меняется как в плюс, так и в минус в зависимости от поступков и образа жизни человека. Единый информационный центр анализирует каждого по 160 тысячам различных параметров из 142 учреждений³. Более 1050 баллов дают большой кредитный рейтинг А+, а в случае обратной ситуации, если менее 599 баллов, устроиться на работу, приобрести проездные документы на самолет и поезда ВСМ будет практически невозможно. Отслеживает все действия граждан и юридических лиц единая система социального рейтинга, основанная на самой масштабной в мире системе видеонаблюдения, позволяющей в режиме онлайн наблюдать за жизнью любого человека и предприятия в стране. Приложения, установленные в мобильных устройствах и гаджетах, также отслеживают и фиксируют активность владельцев. С введением системы социального кредита в КНР произошел качественный скачок от пассивного контроля за гражданами и бизнесом к активному [2, с. 250–252].

Активная цифровизация общественной жизни проводится не только в Китае, но и во многих государствах в различных отраслях экономики, сферах жизнедеятельности общества, основной целью ставится при этом прозрачность, доступность и упрощение различных процедур. На практике цифровая прозрачность означает, что количество и качество информации, которую оставляют о себе пользователи сети Интернет, все более возрастает [3, с. 216], что приводит как к новым возможностям, так и к новым угрозам. В Китае информация о пользователях аккумулируется и собирается официально, в других государствах цифровой след позволяет в кратчайшие сроки собрать максимум информации о человеке, его контактах, его жизни, увлечениях, онлайн-расходах и т.д. Цифровизация действительно приобретает тотальный или даже тоталитарный характер.

Тотальная цифровизация затрагивает все сферы общественной жизни: социальную, политическую, экономическую, культурную. Некоторые исследователи видят риск постепенного вытеснения государства искусственным интеллектом, переводом государственных функций в цифровой формат. В политике риск цифровизации — абсолютизация сетевых связей, когда уже не люди управляют своими сетями, а «умные» сети начинают управлять людьми [4, с. 47–48]. А государство как актор становится лишним в этих взаимоотношениях. На сегодняшний день во многих странах государство берет на себя роль регулирующего и контролирующего актора: формирует государственную политику доступности и всеобщности сети Интернет, обеспечивает прозрачность и безопасность транзакций, оказывает большую часть государственных услуг, решает задачи цифрового неравенства.

Одной из проблем цифровизации в России, как и в большинстве территорий глобального мира, является проблема ярко выраженного «цифрового неравенства» территорий. В России данный вид неравенства выражается в различном положении городов федерального значения, региональных центров и их агломераций и остальных регионов. Более того, отдельные регионы РФ до сих пор не имеют широкополосного доступа к информационно-коммуникационной сети Интернет [5, c. 732–734]. Эти особенности создают базу и для разных возможностей регионов в развитии IT, технологий, а следовательно, и в уровне цифровизации. Процессы современного экономического развития способны привести к усугублению этой проблемы, в комплексе с социальными рисками цифрового неравенства, в виде исчезновения сегментов занятости в отдельных отраслях.

Исследования кризисных явлений в экономике страны 2020–2021 гг. [6] выявили некоторые закономерности динамики развития российских компаний в кризис. В пандемию уверенный рост показали отрасли химической промышленности (+6,2 %), IT-сектора (+3,4 %), беспрецедентный рост продемонстрировала фармацевтическая отрасль (за 2020 г. — +22,2 %) [6], другие отрасли экономики, особенно транспортная (авиационные, морские, железнодорожные и автомобильные перевозки пассажиров, а также грузовые авиаперевозки), туристическая, гостиничная, общественного питания, услуг и досуга и т.д. сократились в среднем почти на 40 % от докризисных показателей⁴.

В силу коронавирусных ограничений в секторе предприятий розничной торговли наметились тенденции к увеличению размеров сектора крупных компаний розничной торговли за счет поглощения среднего бизнеса. Малый бизнес также пострадал в меньшей степени, так как пользовался мерами государственной поддержки. В итоге этот эффект можно описать как поглощение крупными игроками компаний среднего размера в результате кризисных явлений и масштабного разворачивания процессов цифровизации в розничной торговле. Эта тенденция вполне может быть справедлива и для государственной политики и государственного управления. Риск вымывания среднего звена между крупными политическими игроками и атомизированными группами интересов может стать реальностью. Закономерным результатом этого эффекта может быть вырождение партийных структур среднего размера ввиду потери интересов избирателей вследствие прогресса цифровизации, а также постепенное снижение численности среднего управленческого звена в государственном управлении с замещением его функций различными программами цифровизации государственных услуг.

В правовой сфере ученые предупреждают о серьезном риске вытеснения права искусственным интеллектом, замены права как регулятора искусственными алгоритмами [7, с. 56–58], а также об угрозах существенных цифровых ограничений прав человека. С начала пандемии в 2020 г. и до настоящего момента цифровые формы ограничений затронули такие базовые права человека, как право на свободное передвижение, право на достоверную информацию и равный доступ к ней, право на защиту персональных данных (в том числе данных о состоянии здоровья), право на защиту частной жизни и некоторые другие права человека и гражданина, защищаемые и регулируемые как на международном уровне, так и в рамках национального законодательства государств мира.

На международном уровне «Сиракузские принципы о положениях, касающихся ограничения и умаления прав, в международном пакте о гражданских и политических правах»⁵ устанавливают, что ограничительные меры:

1) должны быть предусмотрены законом и осуществляться в соответствии с законом;

2) должны преследовать законную цель, отвечающую насущной общественной необходимости;

3) должны быть строго необходимыми в демократическом обществе для достижения такой цели;

4) должны обеспечивать достижение такой цели при минимальных ущемлениях и ограничениях;

5) должны основываться на научных фактах, а применение ограничительных мер не должно носить произвольного или дискриминационного характера;

6) должны быть ограничены по времени, обеспечивать уважение человеческого достоинства и подлежать проверке.

В современном мире права человека уже давно стали предметом государственной политики, как локальной, в рамках национальных государств, так и глобальной, на уровне мирового сообщества. В разных странах различное отношение к правам человека, что выражается законодательно, а также на уровне государственной политики и управления, принятия политических решений. Часто государства четко разделяют права и свободы собственных граждан и права и свободы остальных людей — граждан иных государств, защищая всеми доступными способами права своих граждан и демонстрируя пренебрежение к правам граждан других государств.

Относительно новое поколение прав человека — цифровые (или электронные) права — становятся предметом дискуссий как в научном сообществе, так и на уровне формирования государственной политики. Мы наблюдаем своего рода перенос прав человека в цифровое пространство [8].

Понятие «цифровые права» утвердилось в широком значении, охватывающем права человека, связанные с использованием современных цифровых технологий и функционированием в цифровой среде [9, с. 145]. Н.В. Варламова констатирует существование цифровых прав человека, которые можно рассматривать с точки зрения нового поколения прав, в правовой действительности, что можно наблюдать в судебной практике различных государств. В то время как Совет по правам человека (далее — СПЧ) в своем Докладе исходит из необходимости изменения существующего законодательства и создания новой правовой базы для регулирования нового вида прав человека в цифровой среде.

На примере Доклада СПЧ можно увидеть некоторое непонимание со стороны государственных управляющих структур особенностей современных правоотношений в цифровом пространстве. Цифровизацию прав человека и появление нового поколения прав государство отчасти рассматривает как угрозу традиционным («аналоговым») правам человека. В Докладе СПЧ обращает внимание на то, что от необдуманной и хаотичной цифровизации страдают любые права человека: и традиционные, и цифровые. Цифровые технологии в Докладе признаются благом, которое может позволить вывести экономику, общественную жизнь, государственное управление на совершенно новый технологический уровень. Но вместе с тем СПЧ призывает быть осторожнее с методами и механизмами тотального внедрения цифровых технологий и искусственного интеллекта.

Авторы Доклада видят основной недостаток поспешной цифровизации, как на уровне государства, так и в частном секторе, в том, что она проводится без прогнозирования возможных рисков и моделирования социальных последствий для будущего людей [8]. Один из самых главных рисков — постепенное вытеснение человека из многих сфер экономической и общественной жизни искусственным интеллектом.

В итоге многоаспектного анализа рисков и угроз явления цифровизации и тотальной цифровизации необходимо констатировать в том числе преобладающий риск — недостаточный уровень оценки возможных угроз со стороны системы государственного управления, и как следствие — недостаточную динамику их отражения в текущей повестке государственной политики. При этом многие государственные управленцы, аналитики и исследователи не учитывают дифференциации уровней проникновения цифровизации в различные отрасли экономики и общественной жизни. Яркий пример этого — прогресс цифровизации в США, который, вопреки глубокому проникновению цифровых сетей информационного обмена в различные сферы жизни общества, на уровне отраслевого среза крайне неравномерен. Примечательно, что наряду с отраслями, имеющими высокий уровень цифровизации (информационно-коммуникационные технологии, СМИ, профессиональные услуги, финансы, торговля), существуют отрасли, имеющие гораздо более низкий уровень проникновения цифровых технологий (процессы, связанные с непосредственным взаимодействием людей на уровне компаний, особенно в секторе занятости людей). Лидируют в низком уровне цифровизации здравоохранение, гостиничный бизнес, строительство и сельское хозяйство [10].

Особняком в этих процессах стоят процессы оказания государственных услуг, вопреки многолетним усилиям и многочисленным программам в области их цифровизации многие исследователи США отмечают отсутствие заметного прогресса в этой области. Это объясняется сознательным замедлением процессов цифровизации в сфере государственной политики и управления в силу значительного количества проблем, требующих отдельного анализа.

В рамках данной работы необходимо констатировать, что не все сферы в жизни современных государств и обществ требуют тотальной цифровизации и установление пределов внедрения цифровых технологий на основе реальных потребностей отраслей — реальность, поскольку существуют отрасли экономики, где человеческий фактор, который может быть замещен в результате внедрения цифровизации, не столь однозначен. Рассмотрим пример сферы, имеющей тенденцию к ограниченному пониманию рисков и угроз тотальной цифровизации. Речь идет о сфере обеспечения транспортной безопасности, в которой человеческий фактор, с одной стороны, — основной источник риска (речь идет об актах незаконного вмешательства в деятельность транспортного комплекса), а с другой стороны, именно человеческий фактор может помочь определить террориста (путем проведения профайлинга⁶), принять решение провести повторный досмотр, задержать правонарушителя.

Минтрансом России осуществляется реализация мероприятий ведомственной целевой программы «Цифровая платформа транспортного комплекса»⁷. Минтранс в сфере цифровизации транспортной безопасности ставит своей основной задачей повышение информационной безопасности транспортного комплекса, что должно обеспечить безопасность данных, предотвращение утечки данных⁸. Для этого необходимо внедрить систему предотвращения утечек конфиденциальной информации и создать единый мониторинг защищенности объектов транспортной инфраструктуры.

В 2021 г. должны быть реализованы пилотные проекты по переводу в цифровой формат процедур категорирования объектов транспортной инфраструктуры и оценки их уязвимости, а также обеспечено подключение к государственной системе обнаружения, предупреждения и ликвидации последствий компьютерных атак⁹.

В 2024–2030 гг. планируется сократить количество актов незаконного вмешательства в деятельность транспортного комплекса за счет создания систем мониторинга, единой закрытой защищенной цифровой среды обеспечения транспортной безопасности, национальной системы предварительного информирования о пассажирах.

Есть однозначные преимущества цифровизации сферы транспортной безопасности. Прежде всего, это внедрение интеллектуальных систем безопасности (интеллектуальные системы видеонаблюдения, использование беспилотных транспортных средств для наблюдения за труднодоступными объектами транспортной инфраструктуры, внедрение системы распознавания лиц (включая лица в индивидуальных средствах защиты), технологии «умный вокзал», «умный аэропорт», позволяющие в автоматическом режиме круглосуточно контролировать работу всех органов жизнедеятельности объекта транспортной инфраструктуры), а также использование современных цифровых сервисов для создания планов оценки уязвимости объектов транспортной инфраструктуры.

Некоторые эксперты полагают, что цифровизация в сфере транспортной безопасности позволит сократить затраты на обеспечение транспортной безопасности, но при этом сохранить эффективность. Здесь речь идет о сокращении присутствия сотрудников, о частичной замене работников транспортного комплекса искусственным интеллектом. Что касается эффективности, то сохранение ее на прежнем уровне не дает ничего нового, кроме сокращения расходов на оплату труда сотрудников. Можно было бы говорить о преимуществе искусственного интеллекта, если бы эффективность обеспечения транспортной безопасности на объектах транспортной инфраструктуры постепенно и динамично увеличивалась.

Основной риск тотального перевода процессов и услуг в сфере обеспечения транспортной безопасности в цифровой формат — непроработанность и неготовность технологий обработки, передачи и защиты информации. Поскольку многие процессы полностью становятся электронными, то формируются базы данных, зачастую содержащие в себе сугубо конфиденциальную информацию¹⁰, а для ее хранения используются облачные решения, которые без надежной и эффективной защиты становятся доступными для актов незаконного информационного вмешательства.

Самый главный риск и основная угроза от введения тотальной цифровизации во все сферы жизнедеятельности общества — это обезличивание этих сфер: политической, экономической, социальной, духовно-культурной. Человек, который ранее считал себя «венцом творения», оказывается ненужным, его с легкостью можно заменить искусственным интеллектом. Происходит не просто смена эпох, налицо кризис современной цивилизации, когда человек должен найти ту сферу, где будет нужен он как индивид, личность, творческая единица. А с внедрением и совершенствованием цифровых технологий таких областей становится все меньше. Мир тотально алгоритмизируется, человеческий труд становится невыгоден, в некоторых сферах непродуктивным и ненужным. Компьютер справляется лучше и быстрее. Живое общение сводится к минимуму, личное присутствие на рабочем месте во многом уже необязательно.

Опыт Китая показал те крайности и риски, которые делают возможным «цифровой тоталитаризм», когда каждый человек, каждое юридическое лицо и предприятие в государстве круглосуточно находятся под тотальным наблюдением и гиперконтролем.

С точки зрения глобальной безопасности тотальная цифровизация одновременно и благо и риск. Благо, поскольку с помощью цифровых технологий можно значительно упростить мониторинг, создание и ведение больших баз данных, а риск — поскольку искусственный интеллект пока не может заменить аналитическую, прогностическую и логическую работу человеческого мозга, когда постоянно нужно предвидеть и просчитывать вероятность новых угроз и вызовов с возможностью превентивного и оперативного реагирования.

Тотальная цифровизация не создает возможности для развития и совершенствования демократических процедур и расширения прав граждан, а, напротив, во многом ограничивает базовые права человека и гражданина. В дополнение можно указать на использование цифровых прав граждан и их ограничение в качестве инструмента давления как в политических, так и экономических противостояниях национальных государств на глобальной арене. Привлекательность этого инструмента состоит в том, что большинство граждан, цифровые права которых будут защищаться, будут оказывать поддержку правящим элитам вне зависимости от их политических предпочтений.

Меры реагирования на пандемию продемонстрировали существенные сложности с разработкой и внедрением новых цифровых технологий в области взаимодействия гражданина и государства, а также в области защиты прав граждан. Можно констатировать, что, по сути, в области взаимодействия информационных технологий и государства не было предложено новых решений. Все, что было использовано (введение цифровых кодов, дистанционное образование, торговля в онлайн-формате), — это развитие уже существовавших и имеющихся технологий, а внедрение качественно новых информационных технологий испытывает сложности¹¹.

Эти сложности связаны с отсутствием динамики политических и управленческих связей в области понимания и обеспечения прав человека и гражданина в современных обществах.

В самой цифровизации не нужно искать каких-то особенных форм ограничения прав граждан. Цифровизация — это лишь метод, механизм, оформляющий в рамки цифрового пространства те ограничения, которые в связи с пандемией разрабатывают и применяют политические и государственные институты. Именно поэтому в дилемме «общественное благо / права гражданина» в большинстве случаев последние проигрывают. Проигрывать они будут до тех пор, пока внедрение цифровых технологий не внесет позитивные структурные изменения в политические и правовые процессы современного общества.

¹ Исследование выполнено при поддержке РФФИ в рамках научного проекта № 18-29-16151.

² Schwab K., Malleret Th. COVID-19: The Great Reset. FORUM PUBLISHING, 2020. URL: http:// (дата обращения: 07.12.2021).

³ Как работает социальный рейтинг в Китае. URL: https://www.advokatorium.com/index.php/ru/news/sotsialnyy-reyting-v-kitae---skoro-rossiya (дата обращения: 15.12.2021).

⁴ Постановление Правительства РФ от 3 апреля 2020 г. № 434 «Об утверждении перечня отраслей российской экономики, в наибольшей степени пострадавших в условиях ухудшения ситуации в результате распространения новой коронавирусной инфекции». URL: http://gov.garant.ru/SESSION/PILOT/main.htm (дата обращения: 16.12.2021).

⁵ Сиракузские принципы о положениях, касающихся ограничения и умаления прав в международном пакте о гражданских и политических правах E/CN.4/1985/4. URL: https://www.refworld.org/cgi-bin/texis/vtx/rwmain/opendocpdf.pdf?reldoc=y&docid=4933d0b22 (дата обращения: 07.12.2021)

⁶ Психологический метод, представляющий собой собеседование с вызывающим подозрение человеком, направленный на предотвращение актов незаконного вмешательства и террористических угроз.

⁷ Паспорт Стратегии цифровой трансформации транспортной отрасли Российской Федерации. URL: mintrans.gov.ru›file/467810 (дата обращения: 21.07.2021).

⁸ Квитко Ю. Прогресс набирает ход // Российская газета. Спецвыпуск. № 109(8460).

⁹ Инициативы Минтранса для региональных стратегий цифровой трансформации. URL: https://d-russia.ru/iniciativy-mintransa-dlja-regionalnyh-strategij-cifrovoj-transformacii.html (дата обращения: 12.12.2021).

¹⁰ Золотова Т. Цифровая трансформация и риски безопасности. URL: https://telesputnik.ru/materials/tech/article/tsifrovaya-transformatsiya-i-riski-bezopasnosti/ (дата обращения: 21.12.2021).

¹¹ Пандемия COVID-19: конец привычного мира? / А.В. Абрамов, В.Э. Багдасарян, С.О. Бышок и др. // Вестник Московского государственного областного университета (электронный журнал). 2020. № 2. URL: www.evestnik-mgou.ru DOI: 10.18384/2224-0209-2020-2-1001 (дата обращения: 16.12.2021).

About the authors

Anastasia V. Timchenko

Author for correspondence.
Email: avtimchenko@centero.ru

Laboratory for Legal-Policy Studies Researcher, Political Science Department

References

Supplementary files