Challenges of machine learning and mathematical modeling

Толық мәтін

Задачи опережающего научно-технологического развития в приоритетных областях в наступившую эпоху экзафлопсных суперкомпьютеров неизбежно должны опираться на массовую цифровизацию всех сфер жизнедеятельности человеческого общества при условии активного использования искусственного интеллекта, огромных объёмов данных, нейросетей и методологий машинного обучения. Особая роль принадлежит средствам получения новых фундаментальных и прикладных знаний, базирующимся на наукоёмком математическом моделировании сложнейших процессов и явлений. Эти исследования, как правило, включают решение междисциплинарных прямых и обратных задач и обусловливают вовлечение экстремальных объёмов вычислительных ресурсов с масштабируемым распараллеливанием алгоритмов на многопроцессорных вычислительных системах (МВС). Принципиально, что в условиях непрерывно развивающихся наук проблемы моделирования неизбежно связаны с динамичными разработками, сопровождением и внедрением математического и программного обеспечения (МПО), высокая стоимость которого требует экономичного отношения к профессиональной его эксплуатации. С другой стороны, пользователи МПО должны владеть суперкомпьютерными технологиями получения знаний и принимать решения на основе их анализа.

Важный элемент такого подхода – построение цифровых двойников, или виртуальных реальностей, изучение и оптимизация характеристик которых позволяют повышать эффективность труда; фактически речь идёт о новой производительной силе, которая обеспечивает рост валового внутреннего продукта. Не менее значимо проникновение интеллектуальных вычислительно-информационных новаций в социальную и гуманитарную сферы, не говоря уже о национальной безопасности. Образно говоря, компьютерные науки и инструментарий играют роль кровеносной системы, обеспечивающей жизнедеятельность человеческого сообщества как единого организма. Такая ситуация требует по-новому взглянуть на взаимосвязь высокопроизводительных вычислений с искусственным интеллектом и преобразованиями больших данных – взаимосвязь трёх китов 4-й индустриальной революции.

По всем этим направлениям за последние десятилетия достигнуты выдающиеся успехи, требующие философско-методологического осмысления, имея в виду гармоничное развитие совокупности наук о получении знаний [1–7]. Надо иметь в виду, что, например, появившиеся возможности достижения положительных практических результатов на основе когнитивного анализа больших данных с помощью их простой статистической обработки иногда имеют своим следствием вывод о возникновении некоей “постнауки”, вроде Data Science, которая якобы не требует традиционных глубоких исследований. Чтобы не ввести в заблуждение подобными сомнительными утверждениями, необходимо показать, что для создания искусственного интеллекта и нейросетей необходимо вложить огромный труд профессионалов с высоким уровнем естественного интеллекта. За последние десятилетия наукоёмкое математическое моделирование сформировалось в многоликий творческий процесс, а бурные успехи в области искусственного интеллекта активно влияют на технологические стадии машинного эксперимента, что сулит значительные синергические эффекты.

Настоящая работа посвящена системному анализу указанной проблематики с точки зрения математика, программиста и пользователя-специалиста в конкретной прикладной области. Будут рассмотрены: основные характеристики и тенденции математического моделирования как научной дисциплины и как технологии решения практических задач; функциональное и системное наполнение программного обеспечения; методологические принципы основанного на вычислительном эксперименте машинного обучения.

Математическое моделирование: супервычисления, интеллектуализация, большие данные

Философское изречение “бытие определяет сознание” имеет прямое отношение к нашей теме в том смысле, что достижимый уровень искусственного интеллекта определяется мощностью ресурсов ЭВМ, включая быстродействие и объём памяти. Речь пойдёт только о традиционных архитектурах кластерного типа, включая вычислительные узлы с распределённой памятью и многоядерными процессорами (CPU с несколькими десятками ядер над общей памятью и, возможно, графическими ускорителями GPGPU).

Хотя и в нашей стране, и за рубежом активно ведутся разработки новых поколений компьютеров, в том числе квантовых и реконфигурируемых, в ближайшие 5–10 лет они, по-видимому, ещё не станут массовыми и конкурентоспособными. А значит, в течение указанного времени можно рассматривать конфигурации с суммарным быстродействием около петафлопса и оперативной памятью в несколько десятков или сотен терабайт. История эволюции ЭВМ показывает, что параметры их быстродействия и объёмов памяти растут примерно пропорционально. При этом достаточно “большими задачами” (в терминологии Н.Н. Яненко [8, 9], то есть теми, которые решают достаточно долго – в течение часов или десятков часов, суток или нескольких суток) сейчас можно считать такие, постановка которых предполагает решение междисциплинарных многомерных прямых и обратных задач с числом неизвестных функций около десятка и которые требуют применения неструктурированных адаптивных сеток с числом пространственных узлов порядка 1000³, а также выполнения шагов по времени до 10³–10⁵ и более. Для таких расчётных параметров вычислительный процесс даже на суперкомпьютере – это крупномасштабный эксперимент с экстремальными объёмами данных и арифметических действий.

Согласно сложившейся методологии математического моделирования [8–13] её технологическая цепочка, при всём многообразии, включает относительно небольшое количество стадий, качественное содержание которых, однако, существенно меняется с развитием суперкомпьютерных поколений, вычислительных алгоритмов и инструментов. Мы будем рассматривать некую универсальную ЭВМ, или сеть машин, с программным обеспечением, интегрированным в том смысле, что оно позволяет решать самый широкий круг задач.

Изучение любого объекта начинается с формирования его модели, которая может быть представлена совокупностью дифференциальных и/или интегральных, а также дискретных уравнений и соотношений, с дополнительными ограничениями и условиями на оптимизацию, с большими объёмами реально измеряемых данных. Последние могут быть приближёнными и даже противоречивыми, никак не подпадающими под строгие математические понятия существования, единственности и корректности решения. Такие сложные системы приходится анализировать гидрометеорологическим службам при прогнозировании погоды, изменений климата или предупреждении природных катастроф, при использовании данных всемирной сети наземных и космических наблюдений. Другая иллюстрация – многофазные процессы в нефтегазовой отрасли с применением химических, электрофизических и других современных технологий добычи. Одна из экстремальных проблем – последствия термоядерного взрыва, где происходит наложение процессов гидрогазодинамики, физики твёрдого тела, плазмы и т.д.

Естественно, что стратегия и тактика моделирования должны обеспечивать максимум эффекта при минимизации вычислительных ресурсов, отнюдь не дешёвых. Все науки быстро развиваются, а с ними растут, количественно и качественно, всевозможные модели, возникают их иерархии – от простых и экономичных до более сложных и точных. Взаимодействие человека с ЭВМ требует комфортных интерфейсов со входными языками, определяющими уровень общения с пользователями самых разных специальностей. Данная стадия предназначена для формулирования задания для ЭВМ той модели (или их последовательностей из возможного набора), которая необходима в соответствии с поставленной задачей. Очевидно, что такой уровень функциональности программной подсистемы и её пользователя может быть достигнут только в результате машинного обучения путём накопления опыта эксплуатации и анализа получаемых результатов. Отметим, что “умные” реализации данной стадии могут включать качественный анализ математических свойств моделей, что, несомненно, повышает ценность такого продукта.

После конкретизации математической задачи на непрерывном уровне требуется её дискретизация, то есть построение сетки. Данный этап весьма важен с точки зрения эффективности моделирования и представляет собой трудоёмкую алгоритмическую проблему в многомерных задачах с реальными данными, включающими сложные геометрические конфигурации расчётных областей с кусочно-гладкими неодносвязанными разномасштабными границами (в том числе движущимися) и контрастными материальными свойствами сред. В подобных случаях зачастую приходится учитывать сингулярности решений и строить адаптивные неструктурированные сетки, вопрос об оптимизации которых пока остаётся открытым.

Необходимо отметить, что наиболее эффективные численные методы решения больших задач связаны с декомпозицией областей, являющейся основным орудием распараллеливания алгоритмов, а также с применением многосеточных подходов, обеспечивающих асимптотическую оптимальность по порядку решений (при характерных шагах сетки ℎ → 0 общее число арифметических действий пропорционально числу неизвестных [14]). Это ставит перед “сеточными генераторами” новые интересные задачи, связанные с построением сложных структур данных и с интеллектуальными операциями на графах [15].

Существует достаточно много подходов к построению сеточных аппроксимаций различного порядка точности: методы конечных разностей, конечных объёмов, конечных элементов, разрывных алгоритмов Галёркина и т.д. Создание многофункционального программного обеспечения с этой целью для различных типов сеток и видов операторов – актуальная и востребованная задача (проект соответствующей подсистемы CHEBYSHEV описан в [16]). Отметим, что, хотя проблема автоматизации построения алгоритмов для сеточных аппроксимаций достаточно стара [17], широкого распространения этот подход пока не получил.

Большинство практических задач – нелинейные и нестационарные, но после применения к ним квазилинеаризации и неявных по времени аппроксимаций неизбежно приходится решать системы линейных алгебраических уравнений (СЛАУ), как правило, с большими разреженными матрицами, симметричными и несимметричными. Основной подход здесь – итерационные предобусловленные методы в пространствах Крылова [18] (соответствующая подсистема называется библиотека KRYLOV).

Ключевую роль в машинном обучении играют оптимизационные методы решения обратных задач, поскольку именно на их основе можно отыскать и исследовать наилучшие сценарии процессов и явлений [19]. Типичная методология состоит в планировании серии вычислительных экспериментов, в которых на основе предыдущего опыта описывается минимизируемый целевой функционал, а после анализа полученных результатов формируется следующий сеанс машинного обучения. Такое взаимодействие человека и ЭВМ представляется безальтернативным во многих многокритериальных практических поисковых задачах, когда детерминированный алгоритм их решения формализовать в принципе невозможно. Отметим важный момент: варьируемые при этом параметры могут относиться не только к изучаемой модели, но и к самому́ вычислительному процессу, поскольку в патовых ситуациях он может или совсем не сходиться, или длиться неприемлемо долго.

Таким образом, в итерационный цикл вовлекаются все рассмотренные стадии моделирования. К ним следует добавить методы и технологии постобработки, визуализации и анализа расчётных результатов, на основе которых функционируют средства принятия решений [20].

Математическое и программное обеспечение как экосистема

Прикладное программное обеспечение, как и системное, уже более полувека бурно развивается одновременно с вычислительной техникой, для которой всем на удивление до сих пор почти выполняется закон Мура (увеличение быстродействия в 1000 раз за 11 лет). Однако надо признать, что за последние десятилетия темпы роста производительности труда программиста стали существенно отставать от темпов производительности компьютеров, то есть в определённом смысле можно говорить о кризисе программирования. Чтобы исправить этот перекос, начинает активно использоваться искусственный интеллект.

К настоящему времени в мире накоплено огромное количество общедоступного (Open Source) и коммерческого “софта” в виде библиотек, специальных инструментов и проблемно-ориентированных пакетов прикладных программ (ППП) [10], которые представляют высокую интеллектуальную ценность. Здесь можно назвать такие высокопрофессиональные разработки, как библиотеки PETSc, HYPRE, PARDISO, пакеты программ FENIX, DEAL II, специализированные системы PARVIEW, MAPLE и многие другие. Отдельный мировой рынок составляют системы автоматизации проектирования (САПР) [21], причём в последние годы наметилась конвергенция этих систем с классическими ППП. В то же время наметился переход от специализированных к интегрированным программным окружениям. Примерами крупных проектов в данной области являются DUNE, OPEN FOAM, INMOST, а также Базовая система моделирования (БСМ) [12, 22–24]; все они в первую очередь методоориентированные.

Функциональное наполнение БСМ – это набор автономных подсистем, каждая из которых отвечает за соответствующую технологическую стадию моделирования и связана с другими посредством согласованных структур данных. Благодаря подсистеме формирования моделей создаются функциональная и геометрическая структуры данных (ФСД и ГСД) – исходные для этапа генерации сетки. На основе получаемой сеточной структуры данных (ССД) в результате выполнения этапа аппроксимации строятся алгебраические информационные массивы в общепринятых мировых форматах (АСД), обеспечивающих высокопроизводительное решение широкого класса систем линейных алгебраических уравнений.

Такая архитектура позволяет независимым группам профессиональных разработчиков реализовывать и развивать различные подсистемы. При этом легко достигается гибкая расширяемость состава модулей и алгоритмов для каждого вычислительного этапа, в том числе с эффективным переиспользованием внешних программных продуктов и с адаптацией на новых компьютерных платформах. Итоговое интегрированное вычислительное окружение (ИВО) представляет собой самоподдерживающуюся экосистему с длительным жизненным циклом, ориентированную на успешную эксплуатацию широким кругом пользователей. Предусмотренный переизбыточный набор моделей и алгоритмов призван поддерживать методологии машинного обучения как самой экосистемы, так и её пользователей.

Обеспечение богатой функциональности и эффективного использования интегрированного вычислительного окружения требует создания разнообразного системного наполнения. С математической точки зрения это означает в первую очередь разработку средств автоматизации построения алгоритмов, включая инструменты многоверсионных конфигураций вычислительных модулей. Что касается языков программирования, отметим популярность сочетания стилей объектно-ориентированных подходов C++ и богатых изобразительных возможностей языка интерпретирующего типа Python, который включает такие важные интеллектуальные компоненты, как компьютеризация сложных аналитических выкладок. Это открывает путь к активному использованию аппроксимационных методов повышенной точности, которые перспективны в теоретическом плане в силу значительного сокращения требуемой памяти и энергозатратных коммуникационных расходов, но имеют пока недостаточно широкое распространение из-за трудоёмкого программирования.

В мире также ведутся разработки специализированных естественных языков для математиков-вычислителей (существует даже лозунг “программирование без программирования”). Хотя в публикациях в Интернете упоминаются такие заманчивые проекты по “фабрикам языков”, как SIDL (Scientific Interface Definition Language) и DSL (Domain Specific Languages) [25], где насущная проблема трактуется как переход от “палеоинформатики к неоинформатике”, в ближайшее время прорывные перспективы здесь не просматриваются, технологии формирования алгоритмических библиотек остаются неизменными уже несколько десятилетий. В целом языковой контент является одним из ключевых для уровня машинного обучения, а текущую ситуацию можно оценить как мягкий выход из кризиса программирования.

Несомненно, одно из главных качеств прикладной программы – её производительность, определяемая в первую очередь качеством распараллеливания алгоритмов. Здесь огромные возможности предоставляют ПЛИС (программируемые логические интегральные схемы), которые позволяют спроектировать и собрать специализированный компьютер максимального быстродействия для заданного алгоритма. Однако у таких компьютеров есть один недостаток – коммерческая неконкурентоспособность в сравнении с типовыми суперкомпьютерами кластерного типа, вычислительные узлы которых соединены шинами и обмениваются между собой данными с помощью очень простой библиотеки MPI, а расчёты на каждом из них осуществляют многоядерные процессоры с иерархической общей памятью (её различные уровни имеют разные объёмы и скорости обменов) под управлением программной системы типа OpenMP. Существуют и быстрые графические ускорители (GPGPU), но их связь с общей памятью медленная, что существенно снижает их эффективность.

Ситуацию с распараллеливанием вычислений можно считать парадоксальной ввиду отсутствия соответствующей массовой, или штатной, системы автоматизации программирования, за исключением нескольких малораспространённых языков или подсистем (например, SHAPEL и DVM – Distributed Virtual Machine [26]). Фактически распараллеливание алгоритмов на многопроцессорных вычислительных системах – это сугубо ручная работа с экспериментально подбираемыми способами ускорения вычислений, которые измеряются двумя простыми параметрами:

$S_p=T_1/T_p,E_p=S_p/p$

– коэффициентами ускорения и эффективности, где T_p есть время решения задачи на p процессорах. В качестве перспективных можно назвать исследования по оптимизации распараллеливания на основе концепции D-детерминанта [27]. С точки зрения машинного обучения можно сформулировать проблему о поиске самим суперкомпьютером наилучшего способа распараллеливания на основе серии расчётов для конкретного класса задач.

Очень важное значение для повышения производительности труда программиста имеет скорость прохождения таких неизбежных рутинных процедур, как отладка, тестирование, верификация и валидация реализуемого кода. Возникающие здесь проблемы неизбежно усугубляются при создании больших программных комплексов, которые как раз и подразумеваются в концепции интегрированного вычислительного окружения; это обусловлено в первую очередь драматическим усложнением информационных связей, а также внутренних межмодульных и пользовательских интерфейсов. В больших профессиональных командах разработчиков операционных систем и компиляторов эти проблемы давно решены с помощью известных компонентных технологий COM/DCOM и CCA (Common Component Architecture) [28], но в прикладном программировании они пока находятся в ожидании перехода на индустриальное мышление.

Один из главных компонентов ИВО – репозиторий (хранилище), обеспечивающий целостность разработки и её связи с внешним миром, поддерживающий свойства многоязыковости и кроссплатформенности, а также взаимодействия с разработчиками и пользователями. Широкое распространение в компьютерном сообществе получила система такого типа GITHUB с большим разнообразием сервисов.

О некоторых принципах машинного обучения и принятия решений

Всякое обучение заключается в приобретении знаний и навыков для какой-то сферы деятельности, в том числе для принятия решений на основе анализа содержательной информации. В отношении математического моделирования мы можем выделить три категории участников: неодушевлённый объект – компьютер, состоящий из технического оборудования и программного обеспечения, и два типа субъектов – разработчики инструментов моделирования и конечные пользователи – специалисты в конкретных предметных областях, осуществляющие суперкомпьютерные инновации. Понятно, что персонал может быть представлен людьми разной квалификации, между которыми возникают отношения учитель–ученик.

Знания являются активными, если они приводят к каким-то действиям и результатам [29]. Их накопление и систематизация для определённой предметной области предполагают разработку соответствующей базы активных знаний (БАЗ), содержащей всевозможную информацию об объектах, их спецификациях, взаимосвязях и о возможных действиях над ними. С расширением и углублением добываемой информации появление БАЗ неизбежно, поскольку объём информации становится непосильным для усвоения человеком. Структура БАЗ окончательно ещё не сложилась, пример проекта такой разработки для задач вычислительной алгебры приведён в работе [30]. Прототипом такой разработки можно считать систему ALGOWIKI [31], созданную под руководством Дж. Донгарры и В.В. Воеводина.

Базы знаний должны содержать всю необходимую информацию по соответствующей теме. Если мы говорим о математическом моделировании для определённого класса проблем, то сюда входят описания моделей, вычислительных методов и технологий, примеры задач и результаты их решения (для чего должны создаваться специальные архивы), рекомендации по всевозможным применениям, а также литературные источники и доступные программные материалы с документацией. Другими словами, должна быть разработана онтология, позволяющая проводить разбор текстов, статистический анализ данных и другие интеллектуальные действия. База знаний предполагает систему сбора и усвоения огромных объёмов информации, например космической, метеорологической и т.д., которую необходимо интегрировать с оперативными расчётами.

Наиболее содержательными здесь являются проблемы, связанные с оптимизационными методами решения обратных задач, позволяющие достичь наибольшего практического эффекта, например, при идентификации параметров модели по результатам натурных измерений (иллюстрация – нефтегазовое месторождение) или оптимизации эксплуатационных режимов технической установки (самолёт, корабль, заводской цех и т.п.) [19]. При этом постановка проблемы формулируется как поиск минимума некоторого целевого функционала

${\Phi }_0\left(\overrightarrow{u}\left(\overrightarrow{x},t,{\overrightarrow{p}}_{opt}\right)\right)=\underset{\overrightarrow{p}}{min}{\Phi }_0\left(\overrightarrow{u}\left(\overrightarrow{x},t,\overrightarrow{p}\right)\right)$

$\overrightarrow{p}$

для решения какой-то прямой начально-краевой задачи, который подчиняется дополнительным линейным и/или нелинейным ограничениями:

$p_k^{min}\le p_k\le p_k^{max},k=\mathrm{1,...,}{m}_1,$

${\Phi }_l\left(\overrightarrow{u}\left(\overrightarrow{x},t,\overrightarrow{p}\right)\right)q\le {\delta }_l,l=\mathrm{1,...,}{m}_2,$

$\overrightarrow{p}=\left\{p_k\right\}\in {\mathcal{R}}^m,m=m_1+m_2.$

Здесь $\overline{p}$ – m-мерный вектор оптимизируемых параметров, а t, $\overline{x}$ суть временная и пространственная координаты. Исходную прямую задачу, или уравнение состояния оптимизируемой сложной системы, формально можно представить в следующем виде:

$L\overrightarrow{u}=\overrightarrow{f}\left(\overrightarrow{x},t\right),\overrightarrow{x}\in \overline{\Omega }=\Omega \cup \Gamma , 0<t\le T<\infty$

$l\overrightarrow{u}=\overrightarrow{g}\left(\overrightarrow{x},t\right),\overrightarrow{x}\in \Gamma ,\overrightarrow{u}\left(\overrightarrow{x}\mathrm{,0}\right)={\overrightarrow{u}}^0\left(\overrightarrow{x}\right),$

$\overline{\Omega }=\cup {\overline{\Omega }}_j,\Gamma ={\Gamma }^e\cup {\Gamma }^i,$

${\Gamma }^i=\cup {\Gamma }_{j,k}^i=\cup \left({\overline{\Omega }}_j\cap {\overline{\Omega }}_k\right),$

где L есть в общем случае матричного типа оператор (в дифференциальной и/или интегральной форме), l – оператор граничных условий, а $\overline{\Omega }$ × [0, T] – расчётная область, которая зачастую состоит из подобластей $\overline{\Omega }$_k с различными контрастными материальными свойствами, а также с внутренними и внешними границами Γ^e, Γⁱ, в том числе имеющими разномасштабные детали и кусочно-гладкие многосвязные поверхностные сегменты. В общем случае речь идёт о междисциплинарных неклассических формулировках, когда даже вопросы существования, единственности и корректности остаются открытыми. Что касается проблемы условной минимизации функционала, то она может быть локального типа или глобального. В последнем случае требуется найти все имеющиеся минимумы.

Приведу следующий характерный пример машинного обучения. Пусть нам требуется в течение длительного времени (год или более) проводить оперативное оптимальное управление некоторой сложной системой, зависящей от 10 параметров, путём решения обратных и прямых задач, причём каждая из них требует длительных расчётов (часы или десятки часов). Отметим, что если по каждому параметру перебирать 10 его возможных значений, то общее количество вариантов составит 10¹⁰ (проклятие размерности)! В этом случае машинное обучение компьютера можно осуществить следующим образом. Сначала в течение нескольких, скажем, недель с помощью классических методов оптимизации решают сотни задач, результаты которых запоминают и как-то статистически обрабатывают (например, с помощью популярного вида обобщённой линейной регрессии – кригинга), формируя соответствующие аппроксимации в сеточном пространстве параметров. Затем на основе накопленных данных начинается оперативная работа машинно-программного комплекса, который быстро находит приближение к искомому состоянию системы, а далее с участием человека последовательно происходит необходимое уточнение параметров.

В работах по искусственному интеллекту сложилось понятие “базовые модели” (Foundation Models, или LxM – Large x Model), определяемые как средства глубокого обучения путём “тренинга” на огромном количестве тестовых примеров и задач [32] и обширной литературе, главным образом ещё неопубликованной, размещаемой на общедоступных интернет-ресурсах arXiv. Кроме того, в обиход вошёл термин “суррогатная оптимизация”, который подразумевает, что поиск наилучшего решения производится не для реального объекта или процесса, а для его модели, возможно, грубой. В целом решение сложных обратных задач с многоовражным поведением минимизируемых функционалов требует применения иерархии моделей, выбор которых требует высокого искусства. Фактически в таких случаях работают метаалгоритмы взаимодействия компьютера с пользователем, имеющим большой опыт решения конкретного класса задач.

Развитие машинного обучения в вычислительной математике связано в первую очередь с выбором оптимального или “хорошего” алгоритма для каждой стадии технологической цепочки моделирования: генерация сетки, аппроксимация и дискретизация исходной задачи, решение получаемых систем линейных и нелинейных уравнений и т.д. В результате поиск наилучшего общего вычислительного процесса сводится к разноуровневым повторяющимся циклам с многократными численными экспериментами, анализом промежуточных результатов и выработкой итоговой стратегии практических расчётов. Зачастую здесь необходимо идти на компромисс типа “лучшее – враг хорошего”, поскольку сама по себе оптимизация может оказаться дороже, чем уже известный достаточно эффективный подход. Проникновение машинного обучения в вычислительную математику происходит достаточно активно, и здесь можно отметить работы по методам конечных элементов и по итерационным алгоритмам [33, 34] и цитируемую в них литературу. Относительно решения различных прикладных задач сложилась специальная нейрометодология PINN (Phisics Informed Neural Networks), ориентированная на решение дифференциальных уравнений, описывающих законы сохранения, в том числе на непрерывном уровне, без перехода к сеточным дискретизациям [35].

Нейросетевые подходы очень быстро эволюционируют. В 2017 г. в работе [36] была предложена архитектура нейросети под названием трансформер, базирующаяся на механизме внимания. Её суть в определении глобальных зависимостей между входными и выходными данными путём предварительного обучения на примерах. Построенные на этих принципах программные реализации уже значительно усилили инструментарий для обработки изображений, анализа текстов, машинного перевода и др. В качестве убедительного примера эффективного использования машинного обучения для решения действительно очень сложной физико-математической проблемы рассмотрим задачу определения межатомных потенциалов, которые аппроксимируют модели квантово-механических взаимодействий, описываемых изначально экстремально ресурсоёмкой теорией Кана–Шема. Достаточно общий подход к решению данной задачи основан на нейросетевых потенциалах, современная версия которых представлена с помощью eMTP – потенциала тензора электронного момента, лежащего в основе класса машинно-обучаемых моделей межатомных взаимодействий с требуемой высокой точностью [37].

Другое направление исследований – это нейрооператоры (NO) [38], являющиеся развитием “физически-информированных” нейронных сетей типа PINN. В отличие от последних, NO ориентированы на аппроксимации обратных операторов, характеризующих связи между функциональными пространствами, что позволяет переходить на решение целых классов задач. Следует заметить, что новые нейросетевые и нейрооператоорные технологии – это в определённом смысле хорошо забытые старые подходы классических методов математической физики середины прошлого века, которые основаны на непрерывных базисных функциях, эффективно применяемых для небольших порядков, но резко усложняющихся в случае повышения точности расчётов.

Аналогичные методологии применимы и в других науках (химия, биология и т.д.) или на производствах: модель, компьютерный эксперимент, анализ результатов, новые знания, принятие решений. Однако это не самоцель, далее должны следовать какие-то решения по оптимизации человеческой деятельности и инновациям – повышению производительности труда, количеству и качеству выпускаемой продукции, достижению социального и/или гуманитарного эффекта и т.д. Фактически речь идёт о кардинальном изменении способов деятельности и о появлении новых массовых профессий. Несомненно, машинное обучение должно значительно изменить педагогические подходы и саму систему образования – от дошкольного до высшего, и эти актуальные вопросы требуют своих исследований.

***

В современных условиях машинное обучение стало неотъемлемым атрибутом получения новых знаний. Одна из проблем в области использования искусственного интеллекта – принятие человеком решений исходя из анализа получаемых данных. Оптимизация этого вида деятельности – актуальная, но отнюдь не новая проблема. В качестве иллюстрации можно привести многолетние работы Г.С. Альтшуллера и его последователей [39] по созданию ТРИЗ – теории решения изобретательских задач. Современные подходы в рамках этого направления основаны на построении онтологий тех или иных предметных областей, которые позволяют создавать когнитивный инструментарий для принятия решений [40].

Яркий пример такого рода современного проекта содержит отчёт [41] Центра исследований базовых моделей (CRFM, Стенфордский университет), в котором описана концепция экосистемы, ориентированной на эффективные интеллектуальные инновации в самых широких прикладных сферах: здравоохранении и биомедицине, юриспруденции и образовании, экономике и окружающей среде и т.д. В определённом смысле этот подход коррелирует с методологией интегрированного вычислительного окружения с базовой системой моделирования, которое представляет собой наукоёмкое функциональное наполнение для высокопроизводительного решения междисциплинарных прямых и обратных задач математического моделирования, различные аспекты которых изложены в работах [12, 13, 18–20, 42].

Универсальный характер машинного обучения и оптимизация на его основе планирования человеческой деятельности обусловливают его глобальную экспансию, что в совокупности с роботизацией неизбежно побуждает к философскому осмыслению особенностей и вызовов цифровой трансформации общества. Неслучайно появляются публикации о моральных аспектах внедрения искусственного интеллекта [43]. Очевидно, что инновации непосредственно влияют и на обеспечение научно-технологического суверенитета, и на производственные задачи государственного масштаба, и на обеспечение национальной безопасности, и на устойчивое развитие цивилизации.

Источник финансирования

Работа выполнена при финансовой поддержке Минобрнауки России (код проекта FSUN-2024-0003).

Авторлар туралы

V. Ilyin

Institute of Computational Mathematics and Mathematical Geophysics SB RAS; Novosibirsk State Technological University

Хат алмасуға жауапты Автор.
Email: ilin@sscc.ru

доктор физико-математических наук, главный научный сотрудник лаборатории вычислительной физики

Ресей, Novosibirsk; Novosibirsk

Әдебиет тізімі

Қосымша файлдар