ANALYSIS OF MATHEMATICAL MODELS IN THE DESIGN OF NEURAL NETWORK FOR ESTIMATING THE UNIT PERFORMANCE

Full Text

Диагностика функционирования технических объектов позволяет предупредить возникновение аварийных ситуаций. Для решения задач контроля технического состояния, поиска места и причин неисправности, а также прогнозирования состояния объекта широко используются статистические и интеллектуальные методы [1-5]. Технология вибромониторинга предназначена для анализа состояния технического объекта в условиях его эксплуатации. При этом контролируемые во время эксплуатации параметры часто не позволяют дать однозначное заключение о состоянии объекта мониторинга. Между тем принятие решения о работоспособности или неработоспособности объекта связано с риском ложной тревоги (когда исправный объект признается неисправным) или пропуском неисправности (наоборот, когда неисправный объект признается исправным). Машинное обучение, в частности, нейронных сетей, активно используется при решении задач диагностики. Например, нейросетевые методы применены для решения задач контроля технического состояния авиационного газотурбинного двигателя. Для решения поставленной задачи авторы разработали архитектуру нейросетевой экспертной системы «Эксперт Нейро» [6, 7]. Для предупреждения возможных нарушений проводится вибромониторинг агрегатов, при этом получаемые в реальном времени данные по вибрациям рабочих узлов влияют на корректировку нагрузки и режима работы. Необходимость оперативного вмешательства и выработки профилактических мероприятий определяется по множеству показателей, характеризующих качество функционирования агрегата. Это показания датчиков относительной и абсолютной вибрации различных узлов агрегата, боя валов, датчиков измерения скорости вращения и других. Решение задачи диагностики агрегата по результатам вибромониторинга возможно с применением различных подходов. Для анализа стабильности функционирования используются методы статистического управления процессами, для оценки исправности агрегата - методы машинного обучения, в частности, агрегированные классификаторы. В настоящей статье исследуется эффективность применения для вибродиагностики агрегата нейросетевых методов. В процессе вибромониторинга агрегата контролируются десять показателей вибраций. Необходимо распознать состояние агрегата - работоспособен он или неработоспособен. Это задача бинарной классификации [8-10]. Исходными данными являются известные результаты оценки состояния системы: при заданных значениях контролируемых показателей вибраций Хj (j = 1, ..., 10) агрегат работоспособен (Y = 1) или неработоспособен (Y = 0). В настоящем исследовании исходная выборка составила 2000 наблюдений, при этом доля неработоспособных состояний составила 14,75 %. Полученная выборка разбивается на три части: обучающую, контрольную и тестовую. Обучающая часть предназначена для построения модели нейронной сети - зависимости между показателями функционирования агрегата и его состояниями. Контрольная выборка используется для текущей оценки качества обучения и дает возможность предотвратить переобучение нейронной сети, что позволяет сохранить эффективность распознавания состояния агрегата на примерах, не участвовавших в обучении. Метод ранней остановки позволяет не допускать переобучения, останавливая процесс обучения нейронной сети, если за заданное количество эпох значение функции потерь, вычисленной на контрольной выборке, не уменьшается. По причине малого объема исходной выборки параметр «заданное количество эпох» равен 6. По тестовой выборке оценивается качество классификации. При использовании кросс-валидации исходная выборка разбивается на несколько частей [11-13]. Например, при заданном объеме тестовой выборки 10 % исходная выборка разбивается на десять частей. Девять из них используются для обучения и контроля, а десятая для тестирования. Последовательно перебираются все десять вариантов, причем наблюдения в частях, используемых для обучающей и контрольной выборок, случайным образом перемешиваются и разделяются на две выборки в пропорции 8:1. Таким образом, итоговое соотношение выборок для обучения, контроля и тестирования, используемых в каждом варианте сочетаний частей исходной выборки, равно 8:1:1. Среднее по тестовым выборкам значение критерия качества диагностики характеризует точность алгоритма. Стоит отметить, что не все функции обучения используют в своих алгоритмах контрольную выборку. Поэтому для алгоритма байесовской регуляризации, которая не применяет выборку для контроля, использовались только обучающая и тестовая выборки, соответственно, итоговое соотношение этих выборок составляло 9:1. Для оценки эффективности диагностики использовались три разных критерия качества: средняя ошибка на тестовой выборке, AUC (area under ROC curve) - площадь под ROC-кривой (кривой ошибок) и F-мера [14, 15]. Кривая ошибок показывает зависимость количества верно классифицированных исправных объектов от количества неверно классифицированных неисправных объектов, поэтому площадь под кривой отражает долю объектов, верно распознанных нейросетью. Этот критерий эффективности является одним из наиболее популярных в задачах бинарной классификации. F-мера вычисляется на основе двух метрик: точности и полноты. Точность (Precision) -процент верно определенных объектов одного класса среди всех объектов, отнесенных системой к этому классу; полнота (Recall) - процент верно определенных объектов одного класса среди всех объектов этого класса в тестовой выборке: где TP (true-positive) - количество истинно-положительных решений (количество объектов 1-го класса, отнесенных к 1-му классу); FP (false-positive) - ложноположительное решение (количество объектов 2-го класса, отнесенных к 1-му классу); FN (false-negative) - ложноотрицательное решение (количество объектов 1-го класса, отнесенных ко 2-му классу). В общем случае F-мера определяется по формуле где β - коэффициент, задающий приоритет точности (при 0 < β < 1) или полноты (при β > 1). При β = 1 она сводится к гармоническому среднему между точностью и полнотой и называется F1-мерой, или сбалансированной F-мерой. Именно такая мера является наиболее информативным показателем качества при несбалансированных классах (когда работоспособных состояний агрегата значительно больше, чем неработоспособных): чем ближе значение F к единице, тем качество классификации выше. Практическая реализация поставленной задачи проводилась в среде Neural Network Toolbox пакета MATLAB, а также в этом же пакете на базе библиотеки инструментов Statistics and Machine Learning Toolbox. При этом в связи с недостаточным объемом выборки не использовался активно развиваемый в последние годы подход глубокого обучения. Цель исследования - повышение качества диагностики агрегата за счет разработки конфигурации нейронной сети и анализа методов ее обучения. Вначале с помощью библиотеки машинного обучения Statistics and Machine Learning Toolbox была автоматически построена нейронная сеть. Она состоит из одного скрытого слоя с 10 нейронами, использует в качестве функции активации tansig (гиперболический тангенс) и обучается с помощью функции обучения trainlm. Функция обучения trainlm реализует простой и эффективный алгоритм, использующий идею доверительной области и являющийся частным случаем метода градиентного спуска. Алгоритм Левенберга-Марквардта с функцией обратного распространения ошибки предназначен для оптимизации параметров нелинейных регрессионных моделей путем итеративного аппроксимирования поверхностью второго порядка и решения системы линейных уравнений для обновления оценки. Как и квазиньютоновские методы оптимизации, алгоритм Левенберга-Марквардта был разработан для достижения высокой скорости обучения без вычисления матрицы Гессе - симметрической квадратичной формы n-го порядка, элементами которой являются частные производные целевой функции второго порядка. Для этого представим функцию ошибки следующим образом где o - полученный выход нейросети, d - ожидаемый (учебный) выход сети, m - количество выходов сети, p - количество наблюдений в обучающей выборке. Чтобы избежать вычисления гессиана, алгоритм подразумевает его аппроксимирование с помощью якобиана, который может быть вычислен с помощью обычного метода обратного распространения ошибки, который гораздо более прост в вычислении, чем сам гессиан. где J - матрица Якоби, которая содержит отношения первых производных ошибок сети к весам и смещениям, μ - параметр, отвечающий за точность и скорость схождения, а - диагональная матрица из элементов главной диагонали , поэлементно умноженная на E. Градиент может быть представлен следующим образом где e - вектор ошибок нейронной сети. Для получения изменения весов сети используется следующий квазиньютоновский способ аппроксимирования матрицы Гесса: Особенность алгоритма Левенберга-Марквардта заключается в том, что алгоритм превращается в метод Ньютона, аппроксимирующий гессиан, когда μ = 0, но чем больше становится μ, тем больше алгоритм становится похожим на метод градиентного спуска с маленьким шагом. Идея заключается в том, чтобы как можно быстрее переключиться на метод Ньютона, так как метод Ньютона быстрее и более точен вблизи минимума ошибки. По этой причине μ уменьшается после каждого шага, который привел к уменьшению функции качества обучения, и увеличивается только тогда, когда пробный шаг увеличивает функцию качества обучения. Таким образом, функция качества обучения всегда будет уменьшаться с каждой итерацией trainlm. Критерии качества построенной с помощью Statistics and Machine Learning Toolbox сети: процент ошибок - 5,95, AUC равна 0,848, а F-мера - 0,775. При разработке сети в среде Neural Network Toolbox учитывалось, что количество скрытых слоев в нейронной сети и нейронов в каждом слое определяет количество связей между нейронами соседних слоев, что, в свою очередь, определяет обобщающую способность нейросети. Если обобщающая способность будет мала, средняя ошибка прогноза будет велика. Вместе с этим, если обучающая способность будет больше требуемой, избыточные способности могут привести к переобучению, что обусловит высокую среднюю ошибку прогноза. По этой причине количество скрытых слоев и нейронов в них было выбрано с некоторым запасом. Стояла задача определения наилучшего количества скрытых слоев и нейронов в каждом из слоев путем перебора различных сочетаний. Для перебора были заданы ограничения на количество слоев в нейросети (от 1 до 4) и на количество нейронов (от 5 до 20). Таким образом, количество возможных сочетаний параметров с учетом четырех функций обучения (trainlm - алгоритм Левенберга-Марквардта, trainbr - алгоритм байесовской регуляризации, trainrp - алгоритм эластичного обратного распространения ошибки и trainscg - алгоритм масштабируемых сопряженных градиентов) составляло 256. Программа работала по следующему принципу: вначале исходная выборка разбивалась на 10 кросс-валидационных подвыборок, после чего для каждого сочетания этих подвыборок обучалась нейронная сеть, конфигурация которой была сформирована в соответствии с тремя циклами перебора параметров сети - количества нейронов в слое, количества скрытых слоев и функции обучения. Нейронная сеть обучалась на 9 подвыборках. После этого производился тест на оставшейся подвыборке, а критерии качества усреднялись. На выходе программы получалась таблица данных с конфигурациями нейронных сетей и соответствующими значениями критериев качества. В таблице приведены полученные результаты для десяти вариантов сетей с сортировкой по возрастанию значений средней ошибки. Наилучшей подобранной конфигурацией является нейронная сеть из 3 слоев с 18 нейронами в каждом слое (рис. 1). В качестве функции обучения в ней используется trainbr - алгоритм байесовской регуляризации. Эта функция использует алгоритм оптимизации Левенберга-Марквардта для обновления сдвигов и весов нейронов, но за счет того, что функция качества обучения сети минимизирует не только линейную комбинацию ошибок, но и линейную комбинацию весов и смещений, обученная нейросеть хорошо справляется с задачей обобщения. Такой алгоритм называется алгоритмом байесовской регуляризации и подразумевает оптимизацию модифицированной функции качества обучения для обеспечения свойства генерализации. Обычно функцией качества обучения для нейронных сетей прямого распространения выбирают среднюю сумму квадратов ошибок: Для улучшения выраженности свойства генерализации можно модифицировать функцию качества обучения, добавив часть, содержащую среднюю сумму квадратов весов и смещений сети: где msereg - модифицированная функция качества нейронной сети с учетом регуляризации, γ - коэффициент качества, mse - средняя сумма квадратов ошибок, msw - средняя сумма квадратов весов сети: Использование такой функции качества обучения нейронной сети позволяет уменьшить значения параметров (весов и смещений) сети, что снижает вероятность ее переобучения. В использовании такой модифицированной функции качества и заключается метод байесовской регуляризации. Процент средней ошибки распознавания состояния агрегата с помощью подобранной нейронной сети равен 4,85, AUC равна 0,885, а F-мера - 0,827. На рис. 2 показана отображаемая для каждой нейросети информация на примере сети, показавшей наилучшее значение по F-мере: Data Division: Random - случайный способ деления данных на выборки для обучения, контроля и теста (поскольку алгоритм байесовской регуляризации не использует метод ранней остановки, а из-за применения метода кросс-валидации проверка на тестовой выборке производится отдельно, все 9 частей исходной выборки используются в обучающей выборке); Training: Bayesian Regularization - в качестве функции обучения выбран алгоритм байесовской регуляризации; Performance: Mean Squared Error - из-за особенностей регуляризации в качестве функции потерь используется среднеквадратическая ошибка; Calculations: MEX - выбранная вычислительная модель, позволяющая эффективно подключать написанные на C++ программы и использовать их с экономией памяти. На рис. 2 также отражена информация о процессе обучения нейросети: Epoch - количество эпох; Time - время, затраченное на обучение; Performance - значение функции потерь (среднеквадратической ошибки); Gradient - значение градиента; Mu - значение параметра,использующегося в формуле обновления весов нейронов и препятствующего застреванию нейросети в локальных минимумах; Effective #Param - количество эффективно настроенных параметров нейросети; Sum Squared Param - остаточная сумма квадратов. Из окна с информацией можно открыть график функции потерь (рис. 3), из которого видно уменьшение ошибки во время процесса обучения на каждой эпохе. На графике кружком отмечена точка минимума, соответствующая эпохе, в которой ошибка была меньше всего. Разработанная методика диагностики работоспособности агрегата с использованием нейронных сетей обеспечивает повышение на 6,7% значения F-меры (являющейся наиболее информативным показателем качества бинарной классификации при несбалансированных классах) в рассматриваемой выборке.

About the authors

A. A. Santalov

Ulyanovsk State Technical University

Email: anton.santalov1995@gmail.com
Ulyanovsk, Russia

References

Supplementary files