The Legal Regulation of Artificial Intelligence Systems in Private International Law

Full Text

ВВЕДЕНИЕ

Проблема взаимодействия искусственного интеллекта и права с каждым десятилетием благодаря развитию новых технологий становится всё более актуальной. Искусственный интеллект по прогнозам многих исследователей в ближайшем будущем станет неотъемлемой частью нашей повседневной жизни.

В российском законодательстве отсутствует решение вопроса о правовом признании действий систем искусственного интеллекта. Вместе с тем применение норм международного частного права требует объективного правового регулирования; поскольку субъекты международного частного права далеко не всегда исполняют свои обязанности, что влечёт за собой неблагоприятные последствия. В связи с этим крайне важным становится развитие теоретических вопросов регулирования соответствующих технологий искусственного интеллекта, являющегося перспективным способом минимизации разногласий при применении норм международного частного права.

Понятие систем искусственного интеллекта и предпосылки их возникновения

Предпосылки возникновения систем искусственного интеллекта возникли в далёком прошлом. В древнегреческих мифах можно встретить упоминание искусственно созданной женщины Пандоры, в легендах евреев – упоминание големов, а частью японского эпоса являются куклы каракури. На теоретическом уровне предпосылки появления систем искусственного интеллекта были сформулированы мыслителями Р. Декартом, Г. Лейбницем и Б. Спинозой. В 1832 г. С.Н. Корсаков высказал новый принцип разработки и устройств – «умные машины», а спустя столетие А. Тьюринг в 1936 г. вводит понятие «А-машина», ставшая позже известной как «Машина Тьюринга». В середине XX века К. Стрейчи представил первую систему искусственного интеллекта, играющую с человеком в шашки.

С точки зрения теоретической классификации возможны три вида систем искусственного интеллекта. Во-первых, выделяют слабый искусственный интеллект (Weak или NarrowAI), который создан человеком и заточен под решение конкретной задачи. Например, шахматная система Deep Blue не способна к самообучению. Такие системы используются в банковской и медицинской сферах, а также в бизнесе и логистике. Во-вторых, исследователи пишут о «сильном» искусственном интеллекте (GeneralAI). К критериям «сильного» искусственного интеллекта максимально приближены такие системы, как виртуальные ассистенты и чат-боты. Тем не менее «Алиса» и Siri не способны самостоятельно думать и принимать на основании аналитической деятельности решения, которые охватывают незапрограммированные ситуации. На данный момент критерием «сильного» искусственного интеллекта не удалось достичь ни одной из систем. В-третьих, теоретики выделяют суперинтеллект (superintelligence) как систему, превосходящую человека по уровню интеллекта.

Наиболее распространённой рабочей моделью является «слабый» искусственный интеллект, который основан на обработке больших данных, то есть результаты работы таких систем выводятся из определённых данных и рассчитываются с использованием статистики. Слабый искусственный интеллект обычно ориентирован на узкие задачи. Например, системы Siri (Apple) и Alexa (Amazon) относятся к слабому искусственному интеллекту, который не может выйти за рамки того, что было запрограммировано для поиска новых стратегий или решений для достижения цели, поэтому в рассматриваемом случае симуляция человеческого мозга ставится под сомнение.

Особенности регулирования систем искусственного интеллекта в международном частном праве

Общественные отношения в сфере технологий искусственного интеллекта как и другие общественные отношения являются отношениями между субъектами права или по поводу объектов права, в связи с чем в зарубежной литературе было высказано мнение наделить системы искусственного интеллекта правосубъектностью юридических лиц. Тем не менее оппоненты настаивают, что исходя из приближения систем искусственного интеллекта к уровню результата разумной деятельности человека правовой режим искусственного интеллекта должен также приближаться именно к статусу лица физического [Крысанова, 2021: 24]. С другой стороны, система искусственного интеллекта не может считаться человеком, поскольку такая система не имеет «человеческой ценности» в силу того, что системы искусственного интеллекта служат тем целям, которые были заданы их создателем.

Вместе с теми следует обратить внимание на сложившийся подход к правовому регулированию систем искусственного интеллекта в Евросоюзе. Так, в проекте Регламента по искусственному интеллекту система искусственного интеллекта определяется как программное обеспечение, которое разрабатывается при помощи методов из Приложения I Регламента. В основе проекта Регламента лежит подход, который базируется на оценке рисков. В свою очередь, указанный подход основан на «пирамиде критичности». В соответствии с этим принципом более «лёгкий» правовой режим должен быть установлен для систем искусственного интеллекта с незначительным риском, в то же время для систем искусственного интеллекта с повышенным риском следует устанавливать более «жёсткий» правовой режим [Шахназаров, 2022: 65]. Иными словами, системы искусственного интеллекта будут разделены на системы с неприемлемым, высоким, ограниченным и низким категориями риска.

На доктринальном уровне часто высказываются различные предложения по регулированию технологий искусственного интеллекта. В частности, учёные В.В. Архипов и В.Б. Наумов высказывали предложение о добавлении в подраздел 2 «Лица», который находится в первой части Гражданского кодекса Российской Федерации главу 5 «Роботы-агенты». В рамках данной главы учёные предлагают закрепить систему искусственного интеллекта в качестве объекта частноправовых отношений – системами искусственного интеллекта (как и имуществом) можно владеть, пользоваться и распоряжаться.

К.О. Беляков и Е.Н. Ирискина высказывали предложение ввести в качестве доктринального понятия «квазисубъекта-робота», который представляет собой некую абстракцию, обладающую отдельными признаками субъекта правоотношений, однако при этом без наличия воли или правоспособности. По мнению указанных авторов, введение квазисубъекта необходимо по причине необходимости установления особого правового режима. Иное мнения было высказано А.И. Тиуновой, которая, приводя в пример ситуацию с наделением системы искусственного интеллекта правосубъектностью в 2017 году в Саудовской Аравии, когда роботу (хотя, скорее всего, из соображений пиара) было предоставлено гражданство, и считает данный опыт положительным. Свою позицию о возможности систем искусственного интеллекта независимо выступать в качестве участника правоотношений она основывает на том, что технологии искусственного интеллекта дают возможность системам функционировать автономно и самосовершенствоваться, что позволяет им принимать юридически значимые решения без какого-либо участия человека. Другим достойным внимания предложением следует считать мнение Л.Ю. Василевской, согласно которому в качестве первого шага систему искусственного интеллекта в структуре правоотношений необходимо признать в качестве нематериального объекта права [Василевская, 2021: 52].

Технологии искусственного интеллекта находятся на таком уровне, что результаты его работы, если бы они были созданы человеком, были бы его интеллектуальной собственностью. Тем не менее если признать автором систему искусственного интеллекта чисто теоретически ещё возможно, то вряд ли возможно признание системы искусственного интеллекта в качестве правообладателя, поскольку речь может идти о расщеплении как в случае со служебными произведениями или передачей объектов интеллектуальной собственности юридических лиц. Мы можем предположить, что действующий правовой режим способен отнести право авторства и другие интеллектуальные права на объекты интеллектуальной собственности к лицу, которое играло наибольшую роль в творческом процессе создания объекта интеллектуальной собственности.

Всё больше объектов интеллектуальной собственности, созданных системами искусственного интеллекта, создаются с минимальным участием человека. На наш взгляд, в целях решения настоящей проблемы необходимо использовать гибкий подход, в соответствии с которым объём ответственности, первоначально возложенный на создателей той или иной системы искусственного интеллекта, должен постепенно смещаться с создателей систем искусственного интеллекта на сами системы вместе с трансформацией систем искусственного интеллекта из объекта права в субъект.

Исследователи высказывают множество точек зрения на вопрос, кто должен нести ответственность за действие системы искусственного интеллекта – владелец системы, получившее несанкционированный доступ к системе лицо, пользователь системы или её разработчик. В случаях несовершенства алгоритмов из-за недоработок разработчиков надлежит привлекать к ответственности. Вместе с тем с правовой точки зрения может быть использован механизм ответственности через институт источника повышенной опасности, поскольку настоящий институт позволяет обеспечить ответственность без наличия вины. С другой стороны, введение подобной меры приведёт к уменьшению уровня автономности и увеличению шаблонности в работе систем искусственного интеллекта. В качестве альтернативного решения другая группа исследователей видит применение института возмещения вреда из-за недостатков товара, где также за причинённый вред отвечают создатели систем искусственного интеллекта.

Принципиально иной по сути представляется позиция третьей группы исследователей. В соответствии с данным подходом необходимо введение механизма страхования ответственности систем искусственного интеллекта за их действия. В рамках упомянутого подхода происходит возмещение вреда из специально страхового фонда из отчислений от использования искусственного интеллекта. В таком случае разработчик может быть привлечён к субсидиарной ответственности. Вместе с тем все группы исследователей сходятся на том, что необходимо предусмотреть возможность привлечения к ответственности хакеров, если они заложили в систему искусственного интеллекта противоправные установки.

Попытки на международном уровне закрепить юридическую ответственность за деяния искусственного интеллекта уже предпринимались. Например, Положения Резолюции Европарламента от 16.02.2017 «О правилах гражданского права в области робототехники» закрепляют основы привлечения к ответственности за действия систем искусственного интеллекта. Так, установление ответственности основывается на концепции признания «интеллектуальных устройств» объектами прав, а привлечение к ответственности осуществляется как в случае с наличием дефектов у товара.

В настоящее активно звучат предложения об установлении правового статуса искусственного интеллекта. Так, в Европарламенте обсуждался проект о наделении искусственного интеллекта статусом цифровой личности, где предлагалось законодательно установить ограничения для систем искусственного интеллекта, предусмотреть механизм возложения на искусственный интеллект ответственности за его деяния. Законотворческая деятельность в настоящее время не обладает целостностью и ещё не выработала единого подхода. В основе международных правовых актов наблюдаются тенденции закрепления принципов постепенного перехода ответственности от создателей систем искусственного интеллекта к самим системам, приоритета прав человека и риск-ориентированного подхода.

Применение систем искусственного интеллекта в международном частном праве

Учёными были высказаны различные идеи относительно того, какой путь избрать законодателю, чтобы решить проблему правосубъектности искусственного интеллекта – от вида имущества по аналогии с животными до электронному лицу как некому аналогу лица юридического. Многие учёные, не признавая за системами искусственного интеллекта возможности выступать субъектами правоотношений, предлагают признавать системы искусственного интеллекта в качестве «имущества особого рода». В частности, А. Иванов и С.А. Соменков уверены, что говорить о правосубъектности систем искусственного интеллекта преждевременно, однако, в то же время, например, В.А. Лаптев считает, что достаточно скоро системы искусственного интеллекта станут субъектами правоотношений, в то время как ответственность владельца такой системы будет субсидиарной. В.В. Архипов и В.Б. Наумов, как и А. Иванов с С.А. Соменковым скептически настроены к перспективам признания систем искусственного интеллекта субъектами, однако считают дискуссию интересной с теоретической точки зрения.

В связи с повышением уровня автономности искусственного интеллекта в перспективе мы можем слышать всё больше предложений о признании систем искусственного интеллекта субъектами правоотношений [Филипова, 2020: 22], хотя большинство исследователей к данной инициативе относятся всё ещё довольно критично. Большинство сторонников признания систем искусственного интеллекта в качестве субъекта правоотношений представляют зарубежные специалисты. Так, по мнению Х. Айденмюллера, систем искусственного интеллекта следует предоставить правосубъектность, чтобы они могли приобретать имущество, а также владеть им и заключать договоры по его распоряжению.

Вместе с тем актуальна проблема охраноспособности созданной системами искусственного интеллекта интеллектуальной собственности. В качестве решения самым простым вариантом является признание результатов работы систем искусственного интеллекта без участия человека неохраноспособными. При этом при реализации концепции «нулевого авторства» происходит переход созданных системой искусственного интеллекта объектов интеллектуальной собственности в общественное достояние, что приводит к торможению развития инноваций, утрате экономического стимула и, как следствие, утрате заинтересованности. В качестве второго решения можно привести вариант признания в качестве правообладателя создателя системы искусственного интеллекта, её пользователя либо самой системы.

Вариацией вышеуказанного решения можно считать гибридный вариант – соавторство создателя и пользователя системы искусственного интеллекта. Признание в качестве автора создателя системы искусственного интеллекта нелогично в том смысле, что создатель системы не охватывал своим замыслом конечный результат работы системы. Совместное авторство создателя системы и пользователя также представляется не совсем логичным, поскольку фактически отсутствовала совместная интеллектуальная работа, в чём и заключается суть соавторства. При признании автором самой системы искусственного интеллекта мы возвращаемся к проблеме правосубъектности.

Выходом могла бы послужить реализации концепции служебного произведения, в рамках которой система искусственного интеллекта предстаёт в качестве наёмного работника, создающего интеллектуальную собственность по указанию работодателя. Варианты, предусматривающие некий субъектный статус для систем искусственного интеллекта, необходимы для защиты прав традиционных изобретателей в виде человека.

В соответствии с позицией Ф.В. Ужова в качестве «электронного лица» следует понимать конкретный носитель искусственного интеллекта в виде робота, программы или машины, которые обладают аналогичному человеческому «разумом», то есть которые могут автономно принимать решения, вследствие чего наделены некими правами и обязанностями. Кроме того, А.А. Карцхия добавляет, что в условиях самостоятельности системе искусственного интеллекта в виде «электронного лица» следует осуществлять свою деятельность под контролем принципала в виде человека. Э. Гаррет Лиси отмечает, что обученные модели не похожи на людей, но тем не менее при этом их функционирование обладает общими чертами с корпорациями. К. Музика так же замечает в системах искусственного интеллекта схожие с юридическими лицами.

Для определения статуса искусственного интеллекта следует сконцентрироваться на современных и наиболее распространённых подходах к его определению. В настоящее время таковым представляется формально-юридический подход, согласно которому искусственный является объектом правоотношений, и технологический подход, согласно которому искусственный интеллект представляет собой субъект [Хисамова, 2020: 97]. В вопросе охраноспособности объектов, созданных искусственным интеллектом, наиболее важным является показатель, насколько автономно и независимо от человека функционирует та или иная система искусственного интеллекта. При установлении правового режима таких объектов, прежде всего, необходимо исходить из баланса общественных интересов и интересов правообладателей.

Технологии искусственного интеллекта могут быть чрезвычайно эффективны для целей гармонизации и унификации норм международного частного права, поскольку искусственный интеллект способен эффективно обрабатывать большие объёмы данных. Особо важным в настоящее время представляется сотрудничество рамках Евразийского экономического союза, где сохраняет свою актуальность и вопрос заключения всесоюзного договора об обороте данных [Выходец, 2022: 107].

Вместе с тем особенно важным представляется соотношение систем искусственного интеллекта и «электронного арбитража», где технологии искусственного интеллекта выступают инструментом. Уже в конце января 2023 года система искусственного интеллекта ChatGPT в процессе составления судебного решения для суда г. Картахена (Колумбия) по «делу Падильи» сформулировала само решение удовлетворить иск и мотивировочную часть о компенсации страховых выплат. При этом мотивировочная часть решения содержала позиции Верховного суда и ссылки на иную судебную практику.

В Российской Федерации отсутствует правовая основа для использования систем искусственного интеллекта в суде и арбитраже, однако создание датасетов для обучения систем искусственного интеллекта будет способствовать совершенствованию процесса разрешения споров.

Кроме того, технологии искусственного интеллекта можно взять на вооружение для обеспечения соблюдения этических принципов в международном коммерческом и международном инвестиционных арбитражах, поскольку арбитражному трибуналу тяжело одновременно отлеживать соблюдение этических принципов. В то же время зачастую арбитру трудно понять различные и часто противоречащие друг другу этические и культурные нормы, стандарты и дисциплинарные правила, которые могут применяться к представителям в международном арбитраже.

ВЫВОД

Применение концепции «коллективного субъекта» к «электронному лицу» представляет собой соотнесение правосубъектности систем искусственного интеллекта с правосубъектностью юридического лица и является наиболее конкретным и простым в реализации. В данном случае юридическое лицо является оптимальной моделью, которая не приведёт к выходу за рамки правовых традиций, являясь при этом компромиссным вариантом и интегральным сочетанием объекта и субъекта правоотношений. Кроме того, по нашему мнению, системы искусственного интеллекта представляется возможным признавать только лишь в качестве так называемого «фактического автора» (author-in-fact), в то время как автором полученного с помощью технологий искусственного интеллекта объекта «с точки зрения права» (author-in-law) должен являться человек.

Сейчас на международном уровне регулирование систем искусственного интеллекта производится при помощи норм «мягкого права». Позиция доктрины и судебной практики демонстрирует, что успешное развитие технологий искусственного интеллекта и достижение цели работы систем искусственного интеллекта возможны только при реализации системного подхода к указанному вопросу. В рамках реализации системного подхода формирующееся правовое регулирование вслед за технологиями искусственного интеллекта должно отвечать задачам предотвращения возможных злоупотреблений с помощью искусственного интеллекта.

ЗАКЛЮЧЕНИЕ

Для разрешения проблемы отсутствия правового режима в сфере общественных отношений, связанных с реализацией права на созданные искусственным интеллектом объекты, необходимо осуществить анализ лучших практик в сфере данных отношений. В первую очередь, следует обратить внимание на опыт англосаксонской системы и Евросоюза. В настоящее время правовое регулирование Евросоюза в вопросе правосубъектности систем искусственного интеллекта и юридической ответственности таких систем представляется наиболее гибким. Резолюция Европарламента представляется удачной в том отношении, что там нашло отражение сочетание разнообразных подходов в связи с различным уровнем автономности систем искусственного интеллекта.

Между тем другие попытки регулирования ответственности систем искусственного интеллекта в своей основе содержали более «жёсткий» и категоричный подход. Так, пункт 35 проекта рекомендации ЮНЭСКО об этических аспектах искусственного интеллекта позволяет возлагать правовую ответственность только на какое-либо физическое или юридическое лицо, а в пункте 36 устанавливается запрет на определение системы искусственного интеллекта в качестве субъекта ответственности. Вместе с тем проект Рекомендации ЮНЭСКО об этических аспектах искусственного интеллекта является в настоящий момент наиболее полным нормативным правовым актом, сочетающим в себе глобальность и универсальность.

About the authors

Pavel Konstantinovich Pakshin

Higher School of Economics; Ministry of Digital Development, Communications and Mass Media of the Russian Federation

Author for correspondence.
Email: ppk-center@mail.ru
SPIN-code: 6333-2450
Scopus Author ID: 1137475

expert of the Directorate for Scientific Projects, Moscow chief specialist-expert of the Department of the Development of Artificial Intelligence Technologies of the Department for the Development of Artificial Intelligence and Big Data

Russian Federation, Moscow; Moscow

References

Supplementary files