Безытеративный расчет параметров линейного классификатора с пороговой функцией активации

Актуальность систем искусственного интеллекта (ИИ) растет каждый год. ИИ внедряется в различные сферы деятельности. Одной из основных технологий, используемых в ИИ, являются искусственные нейронные сети (далее НС). С помощью нейронных сетей решается огромный класс задач, такие как задачи классификации, восстановления регрессии, авторегрессии, кластеризации, шумоподавления, создания векторного представления объектов и прочие. В данной работе мы рассматриваем простейший случай работы одного нейрона с активационной функцией Хэвисайда, также рассматриваем быстрые способы его обучения, сводим задачу обучения к задаче отыскания вектора нормали к разделяющей гиперплоскости и веса смещения. Одним из перспективных направлений обучения НС является безытеративное обучение, особенно в контексте обработки и анализа данных с высокой размерностью. В этой статье рассмотрен метод безытеративного обучения, который позволяет значительно (на 1–2 порядка) ускорить обучение одного нейрона. Особенность подхода заключается в определении гиперплоскости, разделяющей два класса объектов в пространстве признаков, без необходимости многократного пересчета весов, что характерно для традиционных итеративных методов. В рамках исследования особое внимание уделяется случаям, когда основные оси эллипсоидов, описывающие классы, параллельны. Определяется функция p_ln для расчета расстояний между объектами и центрами их классов, исходя из чего производится вычисление ненормированного вектора нормали к гиперплоскости и веса смещения. Кроме того, мы приводим сравнение нашего метода с методом опорных векторов и логистической регрессией.