Artificial intelligence in medicine: expectations and challenges (philosophical and sociocultural aspects)

Full Text

Введение

XXI век – «век цифровых технологий». Активное развитие компьютерных технологий и наращивание вычислительных мощностей обеспечивает дальнейшее интенсивное развитие информационных технологий, которые проникают повсюду, в том числе, и в медицину. На стыке медицины и информационных технологий оказались такие области наук, как медицинская информатика и искусственный интеллект.

Медицинская информатика – это научная дисциплина, занимающаяся исследованием процессов получения, обработки, хранения, передачи и представления данных в медицине и здравоохранении с использованием информационной техники и технологии, а также объективной оценкой медицинских данных на основе теории принятия решений и доказательной медицины [6].

Развитие медицинской информатики было детерминировано вызовом, с которым столкнулась современная медицина – возникшей проблемой не только сбора и хранения, но и обработки большого массива данных. К этой проблеме привело постепенное развитие клинической медицины и необходимость решать все более сложные, комплексные задачи. Несмотря на большие успехи, достигнутые в области алгоритмизации и статистике, сложность обработки различных данных постоянно повышается. В медицине это особо значимо, поскольку анализ медицинских данных в отдельности не информативен, часто медицинские данные пациента должны быть проанализированы в совокупной целостности. Благодаря увеличению вычислительных мощностей стало возможно использовать более технически совершенные методы сбора, обработки и хранения медицинских данных, что открыло человечеству доступ к использованию и внедрению искусственного интеллекта (ИИ) в область здравоохранения.

Существует множество определений термина «искусственный интеллект»  [19],  [21]. В данной статье рассматривается следующее, наиболее, на наш взгляд, философское определение: искусственный интеллект – это «свойство интеллектуальных систем выполнять творческие функции , которые традиционно считаются прерогативой человека» [1].

Важной тенденцией развития ИИ становится его возрастающая социальность: «Агенты, изначально ориентированные на решение инструментальных задач, становятся средой и участниками человеческих взаимодействий» [10].

Попытки внедрения ИИ в медицинскую науку применялись и раньше, но лишь сравнительно недавно эта тенденция получила широкое распространение. Наиболее показательным примером является применение искусственного интеллекта для анализа данных КТ снимков пациентов при пандемии COVID-19 для определения степени пораженности легких и диагностирования заболевания. Исследователи сообщают, что достигнутая точность диагностики COVID-19 сравнима с точностью врача-радиолога [17]. В настоящее время ИИ активно внедряется в медицинскую практику для помощи врачам в различных областях: кардиологии [16], анестезиологии [14], радиологии [15]. Эти примеры иллюстрируют возрастающую значимость и востребованность ИИ в медицинской сфере, позволяющего взять на себя часть когнитивных функций человека. Однако до сих пор остается множество актуальных вопросов философского характера: каков статус ИИ (этико-правовой, социально-философский)? Способен ли ИИ поставить верный диагноз? Назначить лечение? Кто будет нести ответственность за неверно поставленный диагноз или лечение? Будет ли ИИ только помощником врача, или наоборот – врач останется хотя бы вспомогательным помощником-оператором систем ИИ? Может ли врач стать «лишним звеном»? Все эти вопросы касаются не просто конкуренции между врачом и ИИ, а ставят перед современным обществом и медицинским сообществом задачу осмысления сложнейших проблем трансформации медицины, понимания роли врача в новых обстоятельсвах технологизированной медицины, оснащенной ИИ и Big Data.

Материал и методы

Для исследования научных и документальных текстов по проблеме ИИ, отраженных в отечественной и зарубежной периодике за последние 10 лет, использованы приемы философской рефлексии (критико-аналитический подход, сравнение) и метод интерпретации.

Результаты

Из анализа научных текстов и регламентирующих ИИ документов следует, что сегодня ИИ еще не способен выступить в качестве полноценной фигуры врача и может использоваться лишь как его консультант, помощник, эксперт. Но в перспективе ИИ претендует на роль полноценного автономного субъекта медицинской практики, что можно рассматривать как вызов, брошенный медицине. Кроме того, обсуждается идея такого переосмысления понятия «личность» для того, чтобы определить сильный ИИ. К социальным аспектам этих трендов следует отнести не только недоверие человека к системам с ИИ, социальную напряженность в сфере труда, риск возрастающей безработицы. Уже сегодня роботизированные помощники вытесняют вспомогательный медицинский персонал по соображениям экономической выгоды. Поскольку труд – один из важнейших феноменов человеческого бытия, постольку затрагивается и экзистенциальный аспект этих изменений. Активное присутствие в социокультурной реальности ИИ трансформирует ее и создает новую социальность, которую исследователи называют искусственной. Возникает комплиментарное отношение в обществе: ИИ соответствует «искусственная социальность», затрагивающая систему взаимоотношений врача и пациента.

ИИ напрямую связан с реализацией модели 4П-медицины: персонализированной, предиктивной, превентивной, партиципационной медицины. Несмотря на синергию ИИ с первыми тремя «П», прогнозируется этический конфликт в четвертом - партиципационном, связанным с биоэтикой, личностными выборами пациента. Именно проблемы биоэтики и аксиологические вопросы   ограничивают автономию ИИ в медицине. 

В настоящее время системы с ИИ в медицине ориентированы на решение прикладных, узкоспециализированных задач, оцениваемых преимущественно как благо. Большие ожидания возложены на использование Big Data. Однако выявляются границы позитивного аспекта внедрения ИИ в медицину, его стремительное развитие часто оценивается как вызов, связанный с:

1. социальным и экзистенциальным аспектами бытия человека;
2. тенденцией к автономии ИИ, реализующейся через отчуждение личностной автономии от человека: придание ИИ статуса субъекта, размывание роли врача как субъекта;
3. идеей расширения понятия «личность» для включения в него систем ИИ;
4. проблематичностью реализации партиципации в 4П-медицине.

Обсуждение

ИИ в работе врача

Во взаимодействии «естественного врача» и искусственного интеллекта можно увидеть сильные и слабые стороны.

Деятельность врача ассоциирована с большим стрессом и высоким психоэмоциональным напряжением, которые очень часто приводят к стресс-индуцированным заболеваниям и синдрому эмоционального выгорания. К основным факторам стресса относят: большое количество трудовых обязанностей, высокую эмоциональную нагрузку, низкий уровень заработной платы, разнообразие и сложность задач, неблагоприятные условия труда, высокую интенсивность трудовых нагрузок и некоторые другие. Особенно подвержены стрессу начинающие врачи, поскольку трудности и противоречия, возникающие в процессе адаптации к профессии, являются сильными стрессогенными факторами.

Для начинающих врачей очень важна система наставничества. С точки зрения философской концепции М. Полани [7], наставник передает свой личный профессиональный опыт не только в явном виде, но и неявно. «Неявное» – это то, что не передается просто через знания, информацию, алгоритмы. Оно связано с иррациональным аспектом бытия человека: если вам кто-то нравится, вы к нему склонны прислушиваться, больше доверять, разделять его точку зрения. Идет как бы неявная передача смысловых импульсов, каких-то важных навыков коммуникации. От естественного человеческого интеллекта это «неявное», «личностное» знание можно получить, а у ИИ его просто нет по определению, это наставник другого типа. Это слабая сторона взаимодействия ИИ и врача.

Но есть и сильная сторона. Длительное воздействие стрессогенных факторов приводит врача к неудовлетворенности, хронической усталости, что обусловливает необходимость разработки и внедрения мер, обеспечивающих повышение качества труда, снижение уровня стресса среди медицинских работников и повышение их качества жизни. Одной из таких мер помощи молодому специалисту может выступить ИИ.

Благодаря непрерывному обучению и постоянному накоплению новых данных ИИ может предоставлять экспертное мнение со стороны: при разрешении доступа к информации о результатах исследования пациента, проанализировав статистику и предыдущие исследования, ИИ может обеспечить врача информацией для сравнения, советами в тактике ведения пациента и предоставить список рекомендуемых для назначения лекарственных средств. Такое участие ИИ в работе врача позволит добиться значительного перераспределения нагрузки, снижения высокого уровня восприятия, требуемого для анализа результатов исследования и упрощения диагностических задач. Использование ИИ в работе клиницистов значительно улучшит качество и скорость диагностики различных заболеваний, позволит назначать лечение более рационально за счет быстрого подбора лекарств исходя из индивидуальных характеристик пациента.

Современное состояние цифровой медицины и ИИ указывает на динамичное развитие различных технологий и быстрый переход от теоретических концепций к реализованным проектам. Примером служит проект «InnerEye», который помогает онкологам-радиологам повышать эффективность лечения различных типов рака, ускоряя работу со снимками внутренних органов и тканей пациентов [18]. Однако широкое применение ИИ в медицине требует прояснения его правового статуса.

Правовой аспект ИИ в медицине

Особый аспект интеграции ИИ в область медицинской деятельности лежит в правовом поле. В связи с расширением возможностей и полномочий ИИ мы наблюдаем как появляется и увеличивается автономность ИИ, который из технологического средства превращается едва ли не в полноценного субъекта медицинской практики.

Автономность принятия того или иного решения часто поднимает вопрос об ответственности, который особенно остро стоит в медицине. Кто будет нести ответственность за неправильный диагноз, поставленный ИИ? Как будут выглядеть санкции в этом случае?

Область законодательства, затрагивающая ИИ в медицинском поле, находится на этапе обсуждения и формирования. Определение статуса ИИ является важной проблемой, обусловливающей сложность юридической разработки законодательства. В философском контексте обсуждение этой проблемы связано с вопросами сущностного понимания ИИ: речь идет не просто о машине или алгоритме, подчиненном некоему своду правил, созданном человеком, речь идет о возможности самостоятельного интеллекта, способного к самосознанию и рефлексии, то есть о сильном ИИ.

В 2016 г. Парламент Евросоюза (ЕС) предложил рассмотреть вопрос наделения ИИ статусом «электронного лица». Такая мера призвана способствовать более эффективному регулированию налогообложения и ответственности при использовании ИИ. В США была проведена общественная консультация о правовых и этических аспектах применения ИИ, результаты которой могут быть приняты во внимание при разработке правового регулирования в этой сфере [12]. В начале 2020 года Европейская комиссия опубликовала документ под названием  «Белая книга об искусственном интеллекте — европейский подход к совершенству и доверию»(«On Artificial Intelligence - A European approach to excellence and trust»)[22], в котором обсуждается бурное развитие ИИ и предлагаются различные законодательные акты, способствующие интеграции ИИ, но снижающие риски ожидаемых и непредвиденных обстоятельств. В этом документе Европейская комиссия предлагает инициировать программы внедрения ИИ в общественно значимые области экономики, отдавая приоритет медицине, сельскому администрированию и операторам общественных услуг, соблюдая при этом открытость и прозрачность в принимаемых решениях.

В нашей стране эта сфера регулируется Указом Президента от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». ИИ в определен как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений», а к приоритетным направлениям развития и использованиям технологий искусственного интеллекта: «повышения качества услуг в сфере здравоохранения (включая профилактические обследования, диагностику, основанную на анализе изображений, прогнозирование возникновения и развития заболеваний, подбор оптимальных дозировок лекарственных препаратов, сокращение угроз пандемий, автоматизацию и точность хирургических вмешательств)» [11].

«Концепции регулирования искусственного интеллекта и робототехники до 2024 года», определяющая основные подходы к правовому регулированию ИИ, утверждена распоряжением Правительства Российской Федерации №2129-р от 19.08.2020 [9].

Указанные выше документы, появившиеся за последние годы, свидетельствуют о динамике развития ИИ и серьезных запросах общества на регламентацию этого процесса. Остается множество нерешенных проблем, когда существование правового явления фактически признано, однако отсутствуют механизмы правового регулирования и разрешения ситуаций, связанных с ИИ. Отдельно стоит проблематика осведомленности законодательных органов о системах ИИ. Высказано предположение, что эффективное законодательство в области ИИ будет являться наиболее оптимальным при условии соблюдения следующих правил [8]:

1. обеспечение сертификации систем ИИ и запрет на производство и применение несертифицированных систем;
2. применение механизмов солидарной ответственности за использование несертифицированных систем ИИ;
3. государственное финансирование исследований в области безопасности систем ИИ с одновременным установлением санкций в отношении разработчиков, игнорирующих результаты таких исследований;
4. установление необходимости утверждения систем ИИ соответствующим профильным органом публичной власти, процесс которого будет включать в себя несколько этапов тщательного тестирования на предмет безопасности.

Автономия ИИ

При рассмотрении автономности ИИ или же возможности обрести автономию следует обратиться к ставшему в научной литературе уже традиционным  разделению ИИ по типу «сильный-слабый».

Сильный ИИ – это гипотетическая машина, которая способна мыслить и осознавать себя, а не решать исключительно узкоспециализированную задачу.

Слабый ИИ – это уже существующие программные решения (нейросети) для решения определенных задач. К таким задачам в медицине относят анализ КТ или МРТ снимков, назначение комбинированной терапии и множество других.

Разработанные и интегрированные в медицину модели ИИ представляют собой слабый ИИ, осуществляющий помощь врачу при выполнении профилактических, диагностических или лечебных задач, ориентированный при этом на решение определенной, узкоспециализированной задачи. Увеличение вычислительных возможностей вкупе с методикой глубокого обучения позволяет использовать ИИ для решения все более сложных и объемных задач. Одной из перспективных задач на данный момент является интеграция различных моделей нейронных сетей для выполнения комплексных задач, то есть формирование сильного ИИ.

Реализация этой задачи несет новый вызов: человечество может столкнуться с явлением возникновения конкуренции между врачом и ИИ. Это новый социально-философский феномен: при разработке новых технологий, таких как УЗИ и МРТ, проблема конкуренции не возникала. Эти новации рассматривались инструментально - как расширение возможностей врача. Врач «не конкурировал с УЗИ». В медицинской практике зачастую опытный врач использовал УЗИ сначала только как «проверку» того, что обнаруживал сам при осмотре пациента, как дополнительный технический аргумент при постановке предполагаемого диагноза. В прошлом врач не имел такой технической возможности и полагался только на себя, свой профессионализм и опыт. Но со временем под вполне благовидными предлогами эта важная профессиональная функция начинает отчуждаться в пользу многочисленного технического инструментария, который в свою очередь совершенствуется и, наконец, сегодня ИИ может «перехватить повестку» и выступить с запросом на собственную автономию. В поле медицинской этики могут возникать различные конфликты и недопонимания между пациентом и ИИ.

К примеру, аксиологическая проблема в данном случае подразумевает конфликт человеческих ценностей с рациональным решением ИИ: несмотря на низкую эффективность консервативной терапии она может оказаться предпочтительнее для пациента, осуществляющего личностный выбор, чем назначение радикальной хирургической операции с высокой эффективностью, которую предлагает ИИ.

Именно проблемы медицинской этики и проблемы аксиологического характера ограничивают автономию ИИ в контексте медицины. Такое стечение обстоятельств не лишает ИИ возможности появления в образе врача, однако требует формирования сложной системы этико-социального взаимодействия и разработки особой машинной этики в контексте медицинской этики. Биоэтические принципы очень трудно, если вообще возможно, формализовать для ИИ.

Перспективы развития ИИ

Сегодня мы можем констатировать, что ИИ в медицине «умеет многое»: он уже научился собирать анамнез, предлагать диагноз, проектировать лекарственные препараты, а также эффективно подбирать терапию. Мы видим, что ИИ пытается отыскать свое место едва ли не во всех моделях «моральной медицины» Р. Витча [4]. Обращаясь к идее К. Дернера разделить врача как сверх требовательную к себе фигуру этики, охватывающую в своей открытости все мыслимые несчастья человеческого бытия, и медика как технического исполнителя [5], мы можем заметить, что ИИ способен выполнить все необходимые задачи медика с большей эффективностью, чем человек. Значит, что с точки зрения инженерной модели, ничего не мешает ИИ занять место врача и дальнейшие перспективы развития ИИ будут направлены лишь на то, чтобы расширять и интегрировать все эти функции в одну модель. Это то, к чему сегодня стремятся разработчики сильного ИИ.

Однако все не так просто. Несмотря на то, что инженерная модель «моральной медицины» может оцениваться как исторически уходящая, она по-прежнему еще процветает сегодня. Ее историческая ограниченность связана, в частности, с тем, что понятие блага, то есть представление о ценностях, не фиксируется в объективных показателях, которыми руководствуется ИИ. Если люди не станут роботами, то сохранится значение сакральной модели общения пациента и врача, где нет места для ИИ.

Безусловно, ИИ в образе врача будет обладать самой актуальной медицинской информацией, будет способен предоставить ее наиболее объективно и быстро, однако в ближайшее время такие преимущества будут ограничены экспериментальным уровнем допуска, а также социальной напряженностью. Казалось бы, коллегиальная модель взаимоотношений врача и пациента обладает большими преимуществами для пациента. Однако врач и пациент не могут оказаться в равных коллегиальных отношениях уже только потому, что у болезни – два плана: биологический и биографический. Биологический план выражен в объективных показателях, которые врач, в том числе с помощью технологических инструментов, может «снять» с больного организма пациента, изучить и проанализировать их как профессионал, обладающий специальными научными знаниями. Но биографический план, выраженный в разных аспектах, включая иррациональные, это план, связанный с тем, что болезнь – это часть биографии пациента, связанная с множеством других важных для него вопросов в контексте его жизни и ценностных представлений. Этот план недоступен в коллегиальной модели врачу, тем более – ИИ. Фигура «другого» здесь принципиальна уже сама по себе из-за несовпадения субъектов: «другой» (врач) не может также испытывать боль, видеть те же смыслы в страдании или болезни, иметь те же ценности и в той же иерархичности, что и пациент. Фигура «другого» чрезвычайно значима уже в различных человеческих отношениях, но в отношениях с ИИ эта проблема приобретает характер фундаментального разрыва: ИИ – это технологическое инобытие естественного интеллекта человека. Поэтому можно предположить, что пока еще для ИИ вместо категории «другого» более уместна категория «чужого», в философском плане задающая оппозицию «мы (естественные люди) и они (искусственные механизмы, ИИ)». Возможно, в ближайшем будущем эта оппозиция ослабнет, в пределе - снимется, достигнув  технологической сингулярности. Пока этого не произошло, мы можем зафиксировать, что преодоление указанного разрыва имеет важное значение в контексте сосуществования искусственного и естественного интеллекта.

Этический и социальный аспекты интеграции ИИ в медицину и общество

Этические нормы и правила широко вариативны. Однако немало исследователей полагает, что при более глобальном взгляде в этой вариативности обнаруживается некий этический инвариант: человечество признает основополагающими принципами этики честность, правдивость, прозрачность отношений, доброжелательность, признание и уважение прав человека. Использование ИИ в рамках этих норм и правил затруднено или вовсе невозможно. Возникает проблема «изобретения» новых «этических правил» наподобие трех законов робототехники А. Азимова, которыми должны будут руководствоваться разработчики систем с ИИ, а также развитие новой этики искусственного интеллекта, в которой возможно применять понятие «личность» к ИИ.

В случае появления сильного ИИ ожидается, что он может иметь, приобретать или даже наследовать черты характера и определенные социальные качества, изначально считающимися присущими исключительно человеку. Одним из важнейших свойств в системах ИИ может стать предсказуемость, поскольку этические и юридические нормы преследуют цель создания благоприятной, эффективной среды для процветания общества.

Важным аспектом является информационная безопасность ИИ. Этот аспект должен быть детально проработан перед интеграцией ИИ в общество и здравоохранение, поскольку конфиденциальность персональных данных, защита от перепрограммирования обеспечивают надежное и предсказуемое поведение ИИ, в случае же перепрограммирования ИИ или несанкционированного доступа к базам данных следует ожидать непредсказуемых рисков и последствий. Исследователями предложены следующие критерии для создания и менеджмента систем с ИИ:

• прозрачность (операции видны пользователю);
• возможность аудита системы;
• надежность (системы работают так, как задумано);
• управляемость (возможность перехвата управления на ручное, если требуется) [20].

Таким образом, предложена минимизация рисков непредвиденных обстоятельств, несмотря на сложность реализации систем ИИ с прозрачным поведением и возможностью аудита.

К аспектам социальной интеграции следует отнести недоверие человека к системам с ИИ и общую социальную напряженность, связанную с растущей мощью интеллектуальных технических систем. Существует большое разнообразие предрассудков по отношению к ИИ, которые могут перерасти в его дискриминацию. Наиболее распространенной проблемой является социальное напряжение, возникающее при использовании систем с ИИ в трудовой области. Эффективность и широкий спектр выполняемых задач, отсутствие необходимости получать заработную плату и неприхотливость к условиям делает роботизированного работника более коммерчески выгодным, что может привести к росту безработицы в различных странах даже в сфере очень специфического медицинского труда. Уже сегодня мы видим, что прикладные инструменты и роботизированные помощники вытесняют вспомогательный средний медицинский персонал по соображениям экономической выгоды, завтра это может коснуться труда врача. Следует отметить, труд – это не только важный социокультурный феномен, но и один из важнейших феноменов человеческого бытия, затрагивающий его экзистенциальный аспект. В профессии врача этот аспект чрезвычайно значим.

Трансформация медицины

Общемировым трендом, затрагивающим трансформацию современного здравоохранения, является модель 4П-медицины (P4 medicine), предложенная американским биотехнологом и генетиком Л.Худом [13] – модель персонализированной, предиктивной, превентивной, партиципационной медицины.

В такой модели важное место занимает разработка и интеграция ИИ в медицину, поскольку это позволит обеспечить персонализированный подход к диагностике заболеваний и назначению терапии, грамотно оценить риски развития того или иного заболевания для обеспечения своевременной профилактики. Помимо того, что в этой модели ИИ является ключевым фактором изменения и перехода здравоохранения к 4П медицине, следует учитывать и то, как «помещение» ИИ изменит отношение вида «врач-пациент». На это уже обращено внимание исследователей [3].

Разработка все более технологичных решений во всех областях деятельности человека быстро приводит общество к цифровизации, а человека к кибернетизации, что, опять же, создает новые вызовы для человека.

Заключение

На данный момент системы с ИИ представляют собой слабый ИИ, разработанный и ориентированный на решение прикладных, узкоспециализированных задач. В настоящее время ИИ используется в медицине для решения различных задач: анализа ЭКГ и ЭЭГ, расшифровки КТ и МРТ снимков, описания рентгенограмм, а также для разработки и назначения лекарственных средств. Однако этого все еще недостаточно, чтобы представить ИИ в полноценном образе врача для человека, но уже возможно использовать ИИ как помощника или консультанта для поддержания собственного здоровья.

Большие успехи, сделанные в понимании разработки, обучения и интеграции нейросетей в медицинскую отрасль, позволяют прогнозировать рост  интереса к этой области и дальнейших попыток разработать сильный ИИ. Большие ожидания возложены на использование Big Data.

Мы можем зафиксировать, что результатом множества исследований, посвященных ИИ, становится вектор, связанный с переосмыслением понятия «личность», с попытками изменить это понятие так, чтобы в его рамках мог быть определен сильный ИИ. Это затрагивает важнейшие социальные и экзистенциальные аспекты бытия человека, рядом с которым появляется новый агент социальных взаимодействий, пока еще «чужой, но претендующий на роль «другого». Тенденция к автономии ИИ, приобретению им статуса субъекта деятельности диктуют необходимость дальнейших исследований в области этики, социума и права.

Разработка и интеграция ИИ в общество современного человека – серьезный вызов, отвечая на который, мы несомненно сможем обрести новое понимание вечных философских вопросов, новые достижения, как в науке, медицине, так и в социуме.

About the authors

I. Yu. Kutsin

Federal State Budgetary Educational Institution of Higher Education "Omsk State Medical University", Ministry of Health of the Russian Federation

Email: belenok_01@mail.ru
Russian Federation, Omsk

K. S. Belenok

Federal State Budgetary Educational Institution of Higher Education "Omsk State Medical University", Ministry of Health of the Russian Federation

Author for correspondence.
Email: belenok_01@mail.ru

студентка 2 курса лечебного факультета

Russian Federation, Omsk

D. D. Glushchuk

Federal State Budgetary Educational Institution of Higher Education "Omsk State Medical University", Ministry of Health of the Russian Federation

Email: belenok_01@mail.ru
Russian Federation, Omsk

References

Supplementary files