Technological Singularity as a Point of No Return: Back to the Future? (Philosophical Legal View)

Full Text

Сегодня цифровое общество является правовой реальностью практически во всех странах мира, и Россия не является исключением. Насущной необходимостью становятся поиски новых подходов к правовому регулированию технологического порядка существования социума. Прежде, чем мы приступим к анализу уже появившихся законопроектов в данной области, следует определить главенствующий признак субъекта права. Человек - это биосоциальное существо, обладающее сознанием, которое и является основанием для определения его правоспособности и дееспособности. Возвращаясь к вопросу, поставленному авторами настоящей статьи в одной из своих прошлых работ, о том, что же на самом деле является субъектом права - сознание человека или его тело, отметим еще раз, что до сих пор так и нет окончательного ответа на вопрос, может ли любая другая форма бытия обладать сознанием? Является ли искусственный интеллект аналогом человеческого? И следует ли увеличивать круг субъектов права на этом основании? Понятие «искусственный интеллект» появляется в 1950-е гг. и сразу же признается предметом самостоятельной отрасли научного знания. С самого начала признания возможности его создания искусственный интеллект стал развиваться по двум основным направлениям - нейрокибернетики (целью является создание технического объекта по образу человеческого мозга, состоящего из нейронов, поэтому концентрация на аппаратном моделировании структуры человеческого мозга и его деятельности представляет первоочередную задачу) и кибернетики «черного ящика» (ориентирована на поиск алгоритмов решения интеллектуальных задач с использованием существующих компьютеров независимо от их аппаратной базы). Развитие нейросетей началось с разработок В. Мак-Каллока, В. Питтсона и Ф. Розенблатта в США в конце 1950-х годов, моделировавших глаз человека с целью распознавания букв. Именно это направление на сегодняшний день - одно из самых перспективных и быстро развивающихся разделов науки об искусственном интеллекте. Примером может служить нейрокомпьютер - созданный сегодня японскими учеными компьютер шестого поколения, который обладает обширной базой информации, способен моделировать структуру мозга и имитировать мыслительную деятельность. Абсолютной аксиомой до сегодняшнего дня считалось, что сознание, продуцируемое головным мозгом, представляет собой мыслительную деятельность в виде движения нейронов. Процесс продуцирования мысли основывается на восприятии человеком цвета, звука, запаха, осязания и т.д., т.е. на эмоциях, порождаемых всеми этими чувствами. Таким образом, физические ощущения являются «спусковым крючком» для начала сознательной деятельности. Как отмечается всеми исследователями в области изучения интеллектуальной деятельности, одним из признаков сознания «является способность к запоминанию и воспроизведению последовательности событий», которое по А. Бергсону получило наименование «память души». Вторая особенность человеческого сознания состоит в том, что оно соотносится с вниманием: индивид может осознать только те факты или информацию, на которые он обращает внимание. Сознание формируется в течение всей жизни человека и зависит от его индивидуальных особенностей и тех социальных связей, в которые он вступает в течение всей жизни. Третьей отличительной чертой является то, что человеческое сознание оперирует нравственными категориями, создает сложные ассоциации, а также способно к самообучению и творчеству. Однако, несмотря на исследования в данной области, тайна мыслительной деятельности человека пока так и не раскрыта, также как и остается тайной то, каким образом человеческий мозг связан с сознанием. Поэтому пока алгоритмы мышления андроидов и гуманоидов только в отдельных моментах приближаются к человеческому. Вопрос, который стоит сегодня на повестке дня - возможно ли создать искусственный интеллект полностью идентичный, а то и превосходящий человеческое сознание по аналогии со строением человеческого мозга и процессом мыслительной деятельности? Уже сегодня искусственный интеллект (интеллектуальные системы) обладает значительными признаками созидательной деятельности - известны музыкальные произведения, созданные киберфизическими системами, художественные полотна и др. Современные компьютерные программы, состоящие из различных комбинаций модульных компонентов или правил поведения, не использующиеся только в единственно заданном режиме, могут само-изменяться и самокомбинироваться в зависимости от содержания конкретной задачи, предложенной им для решения. Нейронные сети, андроиды, гиноиды и гуманоиды имеют способности к самообучению, поиску и анализу необходимой информации для адекватного и оптимального решения с «просчитыванием» всех возможных рисков. Интеллектуальные системы как часть искусственного интеллекта должны, по мнению Д.А. Поспелова, обладать тремя базовыми функциями: представления и обработки знаний (способностью к накоплению знаний, их классификации и оценке, исходя из постулатов прагматики и непротиворечивости, самообучаемости как процессу получения новых знаний и их соотнесению с уже хранящимися в базе знаниями); рассуждения как логического умозаключения, в ходе которого образуется новое знание как обобщенное, на основе которого возможно логически планировать деятельность; общения с человеком на естественном языке, способностью получать информацию об окружающем мире, основываясь прежде всего на восприятии через звук и зрение, что, в конечном счете, должно привести к формированию «для себя» или по просьбе человека объяснения собственной деятельности, оказывать человеку помощь за счет знаний, которые хранятся в ее памяти, и логических средств рассуждения». Развитие искусственного интеллекта в XXI в. идет по семи направлениям: накопление и воспроизведение знаний на основе различных источников, баз данных и др.; оперирование знаниями, для чего необходимо: создание систем пополнения знаний, процедуры обобщения знаний и формирования на их основе абстрактных понятий, методы достоверного и правдоподобного вывода на основе имеющихся знаний, модели рассуждений; общение, в систему которого включается понимание связных текстов, речи и синтез речи на основе вопросно-ответных систем, построения диалога; восприятие, базирующееся на анализе трехмерных зрительных образов и возможности их описания в текстовом формате, а также обратный процесс; обучение и самообучение, состоящее в переходе от уже известного искусственному интеллекту решения частных задач к решению общей задачи (индукция) или «расщеплении» исходной общей задачи на более мелкие (дедукция) на основе теории подражательного поведения; поведенческие алгоритмы, позволяющие взаимодействовать с окружающей средой, другими интеллектуальными системами и людьми, а именно: модели целесообразного поведения, нормативного поведения, ситуативного поведения, специальные методы многоуровневого планирования и коррекции планов в динамических ситуациях, модели принятия решений искусственным интеллектом в этих ситуациях; интеллектуальное программирование, включающее языки для интеллектуального программирования (логического программирования, объектно-ориентированные языки, языки представления знаний и семантической разметки), автоматический синтез программ (дедуктивные и индуктивные методы), инструментальные средства, интеллектуальные интерфейсы, мульти-агентные технологии. Отдельной, пока не разрешенной проблемой являются морально-этические компоненты использования искусственного интеллекта. Особое значение приобретают вопросы: во-первых, как новейшие инновационные технологии (в том числе, искусственный интеллект) будут влиять на психофизическое состояние человека; во-вторых, какие этические нормы должны стать нормами поведения роботов; в-третьих, как сделать так, чтобы разработки искусственного интеллекта были дружественными к своим создателям. Ведь широкое использование искусственного интеллекта приводит к созданию нейрокомпьютерного интерфейса, основанного на непосредственном контакте человеческого и компьютерного сознания, результатом чего могут стать нейронные изменения в способностях человека осуществлять мозговую деятельность на морально-нравственной оценке человеком происходящих событий, что, в свою очередь, может сказаться на дальнейшем развитии политических и правовых систем общества. Это может привести к изменению трактовок таких основополагающих дефиниций, как демократия, содержание прав и свобод человека, равенство, справедливость, религиозные воззрения и др. Второй проблемой является нравственная характеристика процесса использования искусственного интеллекта индивидом при принятии важных решений, которые могут касаться интересов и, главное, безопасности людей. Дж. Вейценбаум акцентирует внимание даже на простой возможности принятия решения человеком только на основании предложенной искусственным интеллектом (интеллектуальной системой) концепции. Ведь часто то или иное решение человек принимает на основе таких качеств, как рассудительность, чувство эмпатии и т.п. Эта проблема была в центре внимания и на Валдайском форуме в 2016 г., когда в качестве доказательства сложности ее разрешения приводился пример, когда на крейсере Vincennes в 1988 г. установленная боевая интеллектуальная система на основе информации о габаритах, скорости полета и иных характеристик приняла иранский пассажирский самолёт за боевой, и капитан корабля, основываясь на данных системы, принял решение о ракетном ударе, в результате которого погибло 290 авиапассажиров. На наш взгляд, человеческий интеллект отличается именно его нравственными составляющими. Мы солидарны с И. Кантом, который определял человеческое сознание как процесс, состоящий из чувственного и разумного этапов. Чувственная составляющая мыслительного процесса каждый раз предшествует осознанию и принятию решения в определенной ситуации. Как отмечает С.Л. Катречко, «познание по Канту имеет двухступенчатый характер и представляет собой рассудочное оформление чувственной материи. В общем виде оно задается формулой: «знание (опыт) = чувственная материя + рассудочная форма», в которой чувственность составляет первую (низшую), а рассудок - вторую (высшую) ступени познания». А.Е. Никольский, анализируя кантовский механизм мыслеобразования, пишет: «Смысл синтезирующей деятельности познания И. Кант видел в последовательности следующих операций воображения: “апрегензии” (схватывания) - представления и сведения данных в единый образ; “репрезумции” - воспроизведения представлений в памяти; “апперцепции” - установления тождества виртуальных представлений с реальными явлениями и предметами». Таким образом, перед программистами на современном этапе развития цифрового общества стоит поистине неразрешимая задача - создать искусственный интеллект, способный «осознавать» моральные предписания и прежде всего такие догмы, как: достоинство, честь, трактовку прав и свобод личности в зависимости от особенностей ментальности разных народов, религиозные, морально-нравственные нормы, культурный код и др. В случае достижения такой задачи искусственный интеллект в полной мере станет субъектом, сопоставимым с физическим лицом. Э. Юдковский, развивая этот тезис, вводит понятие «дружественный искусственный интеллект», в соответствии с которым тот не должен совершать действия, способные навредить человеку, т.е. главной задачей становится обучение его чувствам сопереживания и личностной эмпатии. Как мы видим, главная проблема современного этапа развития искусственного интеллекта состоит в создании «чувственного», дружественного отношения к человеку, для чего необходимо решить «вечные» мировоззренческие кантианские вопросы: «Что я могу знать? Что я должен делать? На что я могу надеяться? Что такое человек?» Исходя из постановки проблемы, в современной научной литературе обсуждаются три категории искусственного интеллекта: узконаправленный (слабый) искусственный интеллект (УИИ), используемый только в конкретной области; общий (сильный) искусственный интеллект, нейронный компьютер, способный выполнять любое интеллектуальное действие, присущее человеку; искусственный сверхинтеллект (ИСИ), обладающий «способностями к научному творчеству, мудрости и навыками к общению». Такой искусственный интеллект, способный к перепрограммированию и созданию своей индивидуальной программы для увеличения скорости «усвоения знаний, решения задач и принятия решений», при одновременном совершенствовании кода, поиска и исправления ошибок, измерении собственного коэффициента интеллекта (IQ) с помощью тестов, может создавать суперсовременные компьютеры, работающие со скоростью 36,8 петафлоп в секунду, т.е. примерно вдвое быстрее человеческого мозга. Во втором десятилетии XXI в. роботы, основанные на программах искусственного интеллекта, стали использоваться во многих видах человеческой деятельности. В настоящее время разработаны некоторые модели искусственного интеллекта в различных сферах жизнедеятельности человека: автономное планирование и составление расписаний; ведение игр; автономное управление; медицинские диагностические программы, основанные на вероятностном анализе; обеспечение автоматизированного планирования поставок и составления графиков перевозок; робототехника; распознавание естественного языка и решение задач; управление собственностью, страховая деятельность и др. Как мы видим, искусственный интеллект стал реальностью, нуждающейся в правовом обеспечении. Ведь если мы опоздаем с определением его правового положения, то не произойдет ли, в конечном счете, вытеснение человека из новых техно-правовых отношений? В этом контексте большое значение приобретают предпринимаемые в различных странах попытки правового регулирования общественных отношений с технологическим элементом в части признания за роботами определенного правового статуса. На сегодняшний день уже известны роботы, получившие удостоверения личности. Так, в 2015 г. в г. Хассель (Бельгия) робот-гуманоид был официально усыновлен, получив в соответствии с официальным свидетельством о рождении имя Фрэн Пеппер. На основании этого документа гуманоид получил право обучения в средней школе и вузе. В 2017 г. робот-гиноид София, разработанный Д. Хансоном, учредителем гонконгской компании Hanston Robotics, и наделеный искусственным интеллектом, получила подданство королевства Саудовская Аравия, а, следовательно, все права и свободы, гарантированные подданным этой страны. Бытует мнение, что человек может быть уподоблен компьютеру, и в этом случае искусственный интеллект, обладающий мыслительными способностями, также может фигурировать в виде субъекта права. 16 февраля 2017 г. Европарламент принял Резолюцию Civil Law Rules on Robotics 2015/2103(INL) (Нормы гражданского права о робототехнике и Хартия робототехники, 2017.06) (далее - Резолюция), в которой указывается на необходимость принятия правовых стандартов в данной области. Предлагается определять промышленных роботов как «электронных личностей», труд которых используется работодателями в различных областях жизнедеятельности общества, способных помогать человеку на его пути к созданию общества всеобщего благоденствия. Поэтому их можно рассматривать как участников трудовых и налоговых правоотношений; ставится вопрос о необходимости их налогообложения наряду с физическими лицами. При этом авторы Резолюции уделяют особое внимание необходимости создания норм права, определяющих ответственность третьих лиц (производителей, операторов и др.) за действия или бездействия роботов (пп. А и В), так как роботы, обладающие искусственным интеллектом, действуют автономно. Пункты 10-14 посвящены необходимости учета этических принципов в процессе создания, программирования и дальнейшего взаимодействия людей и роботов в различных сферах деятельности. Такое широкое использование андроидов и гуманоидов в работе целого ряда современных кампаний свидетельствует о вступлении человеческого общества в новую эру - эру трансгуманизма. Само понятие «трансгуманизма» подразумевает возможность совершенствования человеческой природы посредством новых технологий, включая генную и биоинженерию, а также кибернетику, различные сферы нанотехнологии. Основоположниками этого движения являются М. Мински, Г. Моравек, Р. Курцвейл, Н. Востром, Р. Эттингер, М. Мур и др. Сторонников трансгуманистических целей, состоящих в скорейшем приближении постчеловеческого будущего, называют транслюдьми, подчеркивая переходный характер современной человеческой сущности. Последние достижения в области генной инженерии, в исследовании искусственного интеллекта, робототехники и т.д. свидетельствуют о поступающем развитии науки и техники, что порождает многообразие идеологических концепций и версий относительно нравственных и религиозных аспектов трансгуманизма как философского направления. Сущность этого течения наиболее полно сформулирована в работах Реймонда Курцвейла, который возглавляет Университет сингулярности в Калифорнии, финансируемый NASA и Google. Р. Курцвейл обосновал понятие технологической сингулярности, которая наступит в 2045 г. в результате развития искусственного интеллекта и активной киборгизации людей, т.е. замены частей человеческого тела на искусственные, но более эффективные аналоги. С этого момента научно-технический прогресс станет настолько быстрым, что его дальнейшее развитие будет просто невозможно предвидеть. На современном этапе развития технологий Р. Курцвейл предсказывает, что через несколько лет компьютер сможет доказать наличие у себя разума в человеческом понимании этого слова. Дальнейшее развитие биотехнологий в плоскости виртуальной реальности приведет к «полному погружению», для достижения которого не нужно будет дополнительного оборудования. А потом человеческое тело сможет принимать любую форму, образуемую нано-роботами. Внутренние органы человека будут заменены кибернетическими устройствами, работающими без срока давности. Таким образом, достигнув точки технологической сингулярности, современный человек превратится в технологически совершенное существо - постчеловека (биоробота, некоего киборга). Важнейшей характеристикой точки сингулярности будет то, что из нее уже нельзя будет вернуться в прошлое, т.е. в современное естественное состояние человека. Таким образом, главное, на наш взгляд, состоит в том, что, к каким бы формам не привела эволюция человека к постчеловеку, уже сейчас абсолютно ясно, что этот процесс, во-первых, необратим, а, во-вторых, неизбежны социальные конфликты разных форм и содержания: от временного дискомфорта при появлении нового вида человека до тотальной войны, которая сможет опустошить планету. Итак, опасность видна уже сейчас: технологическая сингулярность есть кризисная точка для человечества, которая потенциально может привести его к самоликвидации. Таким образом, постчеловеческое будущее как главный вектор развития трансгуманизма корректнее назвать без-человеческим будущим. Человеку как представителю Homo Sapiens в таком будущем нет места. Вместе с ним уйдет общественная коммуникация, обеспечивавшая ему существование. Культура, экономика, наука, право, государство - все сферы подвергнутся видоизменениям или исчезновению. Научно-технический прогресс, по существу, ведет человечество в нравственно-мировоззренческий тупик. Ф. Фукуяма считает, что впереди - дегуманизированное будущее. Он предупреждает, что появление первых постлюдей автоматически разделит человечество по беспрецедентному ранее принципу и создаст огромный конфликтогенный потенциал в социальной, экономической и политической сферах. Этот процесс появления разных видов постчеловека возможно будет осложняться финансовым аспектом, ибо технологии «постгуманизации», описанные выше, включая ключ к приобретению бессмертия, могут оказаться очень дорогими для обычных людей. Неразбериха в правовой сфере, ибо понятия «субъект» и «объект» права смешаются, масштабный рост безработицы в результате широкого использования биороботов и искусственного интеллекта во всех сферах производства - это лишь малая часть новых вызовов трансгуманистического будущего. Именно поэтому стремление современных транслюдей улучшить человека и природу встречает стойкое неприятие не только со стороны научных экспертов, но и со стороны сторонников религиозной картины мира, которые настаивают на установлении нравственных пределов применения новых технологий к человеку и к природе. Думается, что зреющий мировоззренческий спор религиозного и светского понимания бытия лишь будет усиливаться по мере появления новых репродуктивных и продляющих жизнь технологий. При всем разнообразии критики трансгуманизма со стороны сторонников религиозного мировоззрения можно отметить, что у них есть одно объединяющее их здравое зерно - главной задачей для современного человека является не содействие развитию нанотехнологий, а взращивание духа, работа по самосовершенствованию. Так им видится назначение человека на Земле. В этом смысле постчеловек для них - это человек, обретший Бога внутри себя, приблизившийся к нему своими делами, поступками, мыслями. Можно утверждать, что победа трансгуманизма приведет к разрушению существующей системы либеральной демократии с ее концепцией естественного права. Принцип презумпции природного равенства людей входит в непримиримое противоречие с трансгуманистической социоиерархией разных видов постчеловека. В ней кто-то будет бессмертен, кто-то обладать сверхспособностями, кто-то биороботом или киборгом, а кто-то станет искусственным разумом. Таким образом, принцип неравенства восторжествует в постчеловеческом мире, хотя бы просто исходя из технологических характеристик. Видимо, таким сложноподчиненным обществом можно будет управлять совершенно особыми методами, институтами и механизмами, контуры создания и использования которых мы можем наблюдать уже сейчас. И эти контуры, без сомнения, могут быть только силовые, авторитарные и дегуманизированные. Речь идет об установлении режима диктатуры, которая, скорее всего, будет носить межнациональный и глобальный характер. Сверхзадачей этого режима можно назвать установление контроля над сознанием человека как вида Homo Sapiens с целью подавить сопротивление транс-гуманистическим трансформациям и каким-то образом минимизировать глубокие социальные конфликты, о которых говорилось выше. Итак, перед нами развертывается небывалая по своему масштабу и содержанию трансформация человечества. По всем признакам обратного пути не будет, и человечеству придется сосуществовать с новыми субъектами, которые можно определить общим новым родовым понятием «постчеловек». Это понятие объединит в себе киборгов, биороботов, искусственный интеллект, аватаров, бессмертных людей, а также многих субъектов, о которых мы еще даже и не подозреваем. Однако уже сейчас ясно, что будущее будет чрезвычайно конфликтогенным. В этом контексте нам представляется, что назрела важная глобальная задача - урегулирование нового типа общественных отношений, в которых будет участвовать технологический элемент в виде разных видов «постчеловека». Возможно ли это урегулирование в формате национального права? Думается, что ответ будет отрицательным. Такое урегулирование возможно только совместными усилиями международного сообщества, в связи с чем значительно возрастает значение и роль коллективных начал, общих интересов и социального (как особого всеобщего) блага. Расцвет дифференциации частных интересов как ведущий вектор правопонимания, который мы наблюдаем сейчас, не сможет противостоять всем тем вызовам, о которых говорилось выше. Лишь на пути согласования, гармонизации общественных коллективных интересов на международном уровне можно начать вырабатывать нормы правового регулирования общественных отношений с технологическим элементом.

About the authors

A V Popova

Business Finance University under Russian Federation Government; State and Law of the Institute of Law of the Bashkir State University

Email: anna0710@yandex.ru

M G Abramova

Lomonosov Moscow State University

Email: abramova-m@mail.ru

References

Supplementary files