Research of Software Solutions to Determine the Optimal Solution for the Specified Parameters

Full Text

ВВЕДЕНИЕ

В настоящей работе рассматривается исследование методов, способных обеспечить предсказание наиболее подходящего размера одежды по введенным пользователем характеристикам (метод k-ближайших соседей, использование многослойной полносвязной нейронной сети, использование нейронной сети со смешными входами данных). Актуальность исследования для российского рынка подтверждает возрастающий спрос на интернет-торговлю и увеличение числа пользователей, использующих интернет-ресурсы для заказов [2; 17]. По данным Ассоциации компаний интернет-торговли (АКИТ) общий объем рынка интернет-торговли за 2023 г. составил 6,359 трлн рублей, сохранив прирост в 30% относительно предыдущего года (аналогично приросту в 2022 г.). При этом, доля локального рынка составила 97% (6,162 трлн рублей относительно объема за 2023 г.), а доля трансграничной торговли 3% (0,197 трлн рублей соответственно). На площадках интернет-коммерции категория «Одежда и обувь» четвертый год сохраняет третье место по распределению товарных категорий на локальном рынке, несмотря на некоторые рокировки в отдельные месяцы. За 2022 г. доля рассматриваемой категории в денежном выражении составила 14,5%, за 2023 г. 15,5% соответственно [17]. Первые места в распределении удерживают категории «Цифровая и бытовая техника», «Мебель и товары для дома».

Рассматривая только продажи одежды в России аналитической компанией BusinesStat, специализирующейся на обзорах рынков, представлен анализ рынка одежды за 2019–2023 г. и сформирован прогноз на 2024–2028 г. на основе данных Росстата (внут-реннее производство) и Федеральной таможенной службы (экспорт и импорт), с помощью экспертных оценок и исследований розничной и оптовой торговли рассчитывает складские запасы, теневое производство и прочие факторы рынка, влияющие на продажи [16]. Так, за 2021 г. продажи одежды составили 1952,6 млн изделий, показав прирост в 24,4% относительно предыдущего года, 1674,6 млн изделий за 2022 г. с уменьшением доли продаж на 14,2% и 1801,4 млн изделий за 2023 г. с увеличением доли на 7,6%. Показатели за 2023 г. обосновываются ростом реальных доходов россиян, ростом спроса и предложения на товары.

Также немаловажным является возможность оптимизации производства и логистики для производителей. Стоит отметить, что в данной работе будут рассмотрены решения проблем сферы легкой промышленности и интернет-маркетинга посредствам нейросетевого моделирования и машинного обучения [4–6].

Целью работы является проведение исследования и сравнения трех методов машинного обучения относительно вопроса предсказания размера комплекта одежды, оптимизации принятия решения на выбор подходящего размера пользователем. Задачами работы являются: анализ существующих решений для предсказания размера или схожих решений для предсказания, предварительная обработка исходных данных (обучающего набора данных), анализ и определение оптимального алгоритма машинного обучения или архитектуры при проектировании нейронной сети, разработка, обучение и тестирование решений с использованием независимой выборки данных.

МЕТОДЫ РЕШЕНИЯ РАССМАТРИВАЕМОЙ ЗАДАЧИ

При рассмотрении существующих решений стоит отметить работу [9], где предлагается решение проблемы о соответствии продукта (одежды) методом ближайших соседей с большим запасом (LMNN): в статье проведен анализ решений с использованием модифицированных алгоритмов k-ближайших соседей и анализ их эффективности для решения поставленной задачи. Авторы связывают существующую проблему соответствия мерок пользователей с использованием различных размерных сеток производителями.

Схожие решения при проектировании нейронной сети со смешанными входами данных описаны в работах [3; 12], однако, данная архитектура рассматривается в отношении задачи о предсказании стоимости дома по числовым и категориальным данным (количество спален, количество ванных комнат, почтовый индекс и площадь), а также по изображениям: четырем фотографиям дома. Предлагаемый в статье [3] метод сравнивается автором с применением сверточной нейронной сети (CNN) для предсказания цены дома только по изображениям, и использованием многослойного перцептрона (MPL) для аналогичного предсказания только по числовым и категориальным данным, к которым относит количество комнат каждого типа, площадь постройки и почтовый индекс.

Модель объединения нескольких входов также рассматривается в работе [13], где описание объединение подсетей в рамках единой базовой сети. В статье описывается обобщенная платформа MixMo для изучения глубоких подсетей с использованием смешанных наборов данных, выборок, что делает сети более мощными в решении поставленных задач.

ИСПОЛЬЗУЕМЫЕ ДАННЫЕ И ИХ ОБРАБОТКА

Для работы был использован открытый набор данных [1], содержащий сведения по двум торговым площадкам о девушках-клиентах, их мерках и купленных ими предметов одежды. Основными полями набора являлись: номер заказа, уникальный идентификатор клиента (ID), мерки груди, талии, бедер клиента, размер и ширина (полнота) обуви, размер бюстгальтера, стандартизированный размер одежды, оценка, поставленная пользователем, сведения о соответствии заданному размеру и длине, краткий и полный комментарии клиента о товаре. Стоит отметить, что данные соответствуют американской системе измерения длины (мерки указаны в футах и дюймах), а также используется американская размерная сетка, где женские размеры обозначаются четными числами от 0 до 22, размеры для девушек-подростков нечетными числами.

Используемый набор данных был предварительно обработан. Для исследований оставлены только записи, содержащие информацию о женских размерах, обхвате груди, обхвате талии, обхвате бедер, соответствии заказанного товара размеру и комментарий пользователя о заказе.

Автор набора данных указывает на то, что большинство клиентов сделали единичный заказ. Ввиду этого не были использованы записи о пользователях, содержащих информацию о купленной обуви, аксессуарах или головных уборах.

В ходе исследования было рассмотрено три подхода для предсказания размера по введенным характеристикам:

1) метод k-ближайших соседей, или алгоритм kNN (K-Nearlest Neighbors);

2) использование полносвязной нейронной сети;

3) использование нейронной сети со смешанными входами данных.

МЕТОД k-БЛИЖАЙШИХ СОСЕДЕЙ

Метод k-ближайших соседей (kNN) – это алгоритм машинного обучения [10], используемый для классификации и регрессии. Он основан на принципе близости объектов в пространстве признаков: объекты с похожими признаками имеют большую вероятность принадлежности к одному и тому же классу или имеют похожие значения целевой переменной.

В алгоритме kNN для классификации нового объекта используется голосование его ближайших соседей: объект относится к тому классу, который наиболее часто встречается среди k ближайших соседей. Данный метод широко применяется в различных областях, включая распознавание образов, анализ текста и рекомендательные системы. Его преимущества включают простоту реализации и последующей интерпретации результатов. Однако, он может быть вычислительно затратным при работе с большим объемом данных и неэффективным в пространствах большой размерности.

Задача определения наиболее подходящего размера относится к рекомендательным задачам. Рассматривая алгоритм k-ближайших соседей для ее решения, возможно использование подхода, основанного на анализе схожих с задающимися мерок и прогнозирования оптимального размера.

Разработка проведена в среде Google Collab, используемый язык программирования – Python. Google Collab предоставляет интерактивную среду разработки, позволяющую выполнять код по частям и своевременно видеть результаты, поддерживает библиотека для визуализации данных, позволяющие создавать интерактивные графики и диаграммы. Так, для представления исходных данных и последующего применение алгоритма использовалась библиотека Matplotlib, посредствам которой было построено трехмерное пространство для визуализации исходных данных. На рис. 1 приведено отображение метрик первых 100 пользователей. Для большей наглядности трехмерного графика и последующих выводов решения исходные данные: обхваты груди, талии и бедер были переведены из американской системы измерения длины (из дюймов в сантиметры), также были преобразованы размеры одежды.

 

Рис. 1. Визуализация мерок и заказанных размеров для первых 100 пользователей (сантиметры, российская размерная сетка)

Fig. 1. Visualization of measurements and ordered sizes for the first 100 users (centimeters, Russian size chart)

 

Для реализации данного алгоритма использовались два массива. Первый из которых имел вид:

[[ОГ₁, ОТ₁, ОБ₁],

[ОГ₂, ОТ₂, ОБ₂],  (1)

…

[ОГ_n, ОТ_n, ОБ_n]],

где ОГ_n – обхват груди n-го покупателя в списке;

ОТ_n – обхват талии;

ОБ_n – его обхват бедер.

Второй массив содержал значения о заказанных этими покупателями размерах. Стоит отметить, что исходные размеры были преобразованы: числовое значение исходного американского размера было уменьшено в 2 раза. Данное преобразование было необходимо для использования во всех рассматриваемых алгоритмах решения о предсказании комплекта одежды.

Расстояние между точками определялось с помощью Евклидовой метрики для трехмерного пространства. Данная метрика позволяет найти расстояние между двумя точками в пространстве. Так, для введенных пользователем M своих мерок ОГ_m, ОТ_m, ОБ_m, расчет проводился по следующей формуле:

$d_{mn}=\sqrt{{(O_m^{"}-O_n^{"})}^2+{(O{T}_m-O{T}_n)}^2+{(O{T}_m-O{T}_n)}^2}$. (2)

За количество ближайших соседей было принято значение равное 5. Для их поиска использовался модуль sklearn.neighbors [11]. Ввиду того, что рассматриваемая задача является задачей классификации, было необходимо возвращать наиболее часто встречающееся значение второго массива (размера) из 5 ближайших соседей. Однако, доля проведенных тестирований показала, что при учете исключительно мерок клиента и выбранного размера (без коррекции вывода по отзыву и оценке о соответствии товара) предсказание наиболее подходящего размера может быть затруднено. Пример такого вывода представлен на рис. 2.

 

Рис. 2. Параметры ближайших соседей для одного из выводов

Fig. 2. Nearest neighbor parameters for one of the pins

 

Данный вывод представляет все 5 ближайших соседей. Оптимальный размер, согласно используемому алгоритму машинного обучения, представлен на первой строке. Однако, следующий ближайший сосед гораздо больше по значению размера (для американской размерной сетки вывод ближайших соседей имеет вид: 2, 12, 6, 4, 8; для российской: 40, 50, 44, 42, 46). Такой вывод может быть обоснован недостаточным количеством данных, используемых для обучения, другими, не учитывающимися при реализации данного алгоритма, параметрами: рост, тип фигуры, размерная сетка (в используемом наборе данных приведены данные только двух американских торговых площадок).

Для улучшения показателей точности предсказания и достоверности возможно использование метода k-ближайших соседей с подкреплением, предложенного в статье [9], а также увеличение числа исходных мерок для последующих решений. Так, например, при индивидуальном пошиве одежды на заказ в ателье мастера используют большее число параметров, например, обхват груди, обхват талии, обхват бедер, длина переда до талии, длина изделия, длина спины до талии, ширина спины, ширина плеч, длина плеча, длина рукава, обхват руки, обхват шеи, глубина проймы и другие.

ИСПОЛЬЗОВАНИЕ ПОЛНОСВЯЗНОЙ НЕЙРОННОЙ СЕТИ

Полносвязные нейронные сети представляют собой основной тип искусственных нейронных сетей, в котором каждый нейрон в одном слое соединен с каждым нейроном в следующем слое [7; 8].

Многослойная полносвязная нейронная сеть используется для многих задач: классификация изображений, распознавание рукописного текста, обработка естественного языка (анализ тональности текста, машинный перевод и генерация текста), прогнозирование и финансовый анализ, обработка звука, включая распознавание речи, медицинская диагностика и автоматическое управление (автопилоты и робототехника). Так, в статье [15] рассматривается применение такой многослойной сети для решения задачи о выявлении заболеваний у томатов на ранней стадии на основе обучающего набора данных с фотографиями листьев.

В данной работе будет рассмотрено использование архитектуры для одной из наиболее популярных рассматриваемых задач: распознавания рукописных цифр. Архитектура такой сети представлена на рис. 3.

В нейронной сети для распознавания рукописных цифр на входном слое обычно представлены пиксели изображения (например, 28 × 28 пикселей для изображений размером 28 × 28). Затем через несколько скрытых слоев с применением активационных функций данные проходят к выходному слою, который обычно имеет 10 нейронов, по одному на каждую возможную цифру от 0 до 9.

На выходе нейронной сети используется функция активации Softmax, которая преобразует выходные значения в вероятности. Каждый выходной нейрон представляет собой вероятность того, что на входе изображена соответствующая цифра. Для задачи о распознавании рукописных цифр выходы сети для исходного изображения отражают вероятности того, что за цифра была введена, например, запись: [0.1, 0.8, 0.05, 0.02, 0.01, 0.03, 0.02, 0.05, 0.05, 0.02], означала бы, что сеть считает, что на изображении изображена цифра «1» с вероятностью 80%. Схожий пример представлен на рис. 3, где предсказание нейронной сети с вероятностью 0,9, или 90% указало на соответствие цифре «2».

Данная архитектура была рассмотрена для исследования гипотезы о возможности применения многослойной полносвязной сети относительно предсказания размера комплекта одежды аналогично рассмотренному решению о распознавании рукописных цифр.

 

Рис. 3. Архитектура нейронной сети для распознавания рукописных цифр

Fig. 3. Neural network architecture for handwritten digit recognition

 

Разработка проведена в облачной среде Google Collab на языке программирования Python. Для решения задачи определения оптимального размера был использован фреймворк для глубокого обучения и исследований в области искусственного интеллекта PyTorch. Он предоставляет простую в использовании, гибкую и эффективную платформу для создания и обучения нейронных сетей, а также для выполнения других операций машинного обучения. Основными преимуществами используемого фреймворка можно выделить: автоматическое дифференцирование градиентов для всех операций, проводимых с тензорами, что обеспечивает простой и эффективный процесс обратного распространения ошибки, гибкость в определении сложных моделей и обучении их на данных; предоставление различных типов слоев и оптимизаторов для обновления весов нейронной сети, такие как SGD, Adam, RMSprop и другие; возможность создания собственных пользовательских слоев и функций потерь; возможность выполнения вычислений на графических процессорах (GPU), что значительно ускоряет обучение нейронных сетей и работу с большими объемами данных.

Выходы сети отражали вероятность соответствия размера и, аналогично решению о распознавании цифр, имели вид:

[P₂, P₄, P₆, P₈, P₁₀, P₁₂, P₁₄, P₁₆, P₁₈, P₂₀], (3)

где P₂ – вероятность соответствия введенных данных размеру 2 по американской размерной сетке для женщин.

Архитектура такой сети представлена на рис. 4.

 

Рис. 4. Архитектура полносвязной нейронной сети для предсказания размера комплекта одежды по трем меркам

Fig. 4. Architecture of a fully connected neural network for predicting the size of a set of clothes by three measures

 

По результатам обучения сети удалось добиться потерь, составляющих 1,67, однако, предсказание оптимального размера по трем параметрам для полного комплекта одежды данным методом может быть затруднено ввиду того, что максимальные вероятности из-за разных типов фигуры пользователя могут находиться не на соседних выходах. Например, для типа фигуры «груша», или «треугольник», при котором обхват бедер значительно больше обхвата груди, при входных данных вида: [86, 62, 102], вывод может иметь следующий вид: [0.15, 0.76, 0.05, 0.02, 0.81, 0.03, 0.02, 0.05, 0.01, 0.02], что будет означать наибольшее соответствие размерам 4 и 10 по американской размерной сетке, 42 и 48 по российской размерной сетке.

Дальнейшая модификация данного решения возможна относительно учета типов фигур. В данный момент рассмотренная модель наиболее эффективно справляется с предсказанием размеров для «типовых фигур». Обращаясь к нормативным документам, стоит отметить, что проектирование одежды в России и большинстве стран СНГ (Содружества Независимы Государств) регламентировано следующими Государственными стандартами: ГОСТ 31396–2009 «Классификация типовых фигур женщин по ростам, размерам и полнотным группам для проектирования одежды»¹ и ГОСТ 31399–2009 «Классификация типовых фигур мужчин по ростам, размерам и полнотным группам для проектирования одежды»². Данные документы определяют типовые фигуры, полнотные группы и подгруппы размеров на основе соответствующих размерных признаков. Так, для женщины размерными признаками являются: рост с интервалом 6,0 ± 3,0 см, горизонтальный обхват груди с интервалом 4,0 ± 2,0 см, и обхват бедер с учетом выступа живота с интервалом 4,0 ± 2,0 см. В стандарте установлено 356 типовых фигур, разделенных на 6 полнотных групп. При этом, фигуры для женщин установлены по росту от 152 до 182 см, по обхвату груди от 80 до 132 см, по обхвату бедер от 82 до 142 см³.

ИСПОЛЬЗОВАНИЕ НЕЙРОННОЙ СЕТИ СО СМЕШЕННЫМИ ВХОДАМИ ДАННЫХ

Под нейронной сетью со смешанными входами данных понимается тип нейронной сети, который принимает на вход различные типы данных или признаки и комбинирует их для выполнения задачи. В отличие от классических нейронных сетей, которые обрабатывают только один тип входных данных, нейронные сети со смешанными входами способны работать с разнородными данными, такими как числовые, категориальные, текстовые или изображения.

Архитектура одной из таких сетей представлена на рис. 5. Она использовалась для решения задачи о предсказании стоимости дома по числовым и категориальным данным (количество спален, количество ванных комнат, почтовый индекс и площадь), а также по изображениям: четырем фотографиям дома [3].

Для обработки разных типов входных данных нейронная сеть со смешанными входами может использовать различные типы слоев и функций активации, а также методы объединения информации. Например, для текстовых данных могут применяться рекуррентные или сверточные слои, а для числовых данных – полносвязные слои. Так, в статье [12], для прогнозирования стоимости дома использовались MiniVGGnet для изображений и многослойный перцептрон для категориальных данных. Операция объединения данных проводилась функцией concatenate.

 

Рис. 5. Архитектура нейронной сети со смешанными входами данных, используемая для предсказания стоимости дома

Fig. 5. Neural network architecture with mixed data inputs used to predict the value of a house

 

Для решения задачи о предсказании размера одежды использовались числовые значения (обхват груди, обхват талии и обхват бедер) и комментарии пользователя о соответствии или несоответствии размера. Комментарии подавались на отдельный вход и обрабатывались с помощью быстрого кодирования (One-Hot Encoding). One-Hot Encoding является одним из наиболее распространенных методов представления категориальных данных в машинном обучении. Он преобразует переменные в бинарные векторы, где каждая из определенных переменных представлена вектором формата [0, 0, 1] с одним активным битом. При разработке нейронной сети со смешанными входами данных использовались dense-слои, основной отличительной функцией которых является изменение размерности входных данных для дальнейшей передачи на следующий слой. Применение dense-слоев позволяет эффективно моделировать разнообразные задачи и адаптироваться к различным типам данных и их размерностям. Они находят применение в задачах анализа текста и классификации, к которым относится и рассматриваемая задача предсказания оптимального комплекта одежды.

Архитектура разработанной нейронной сети со смешанными входами данных для предсказания оптимального размера представлена на рис. 6.

Разработка данной нейронной сети выполнена на языке программирования JavaScript с использованием TensorFlow.JS в кросс-платформенном редакторе кода Visual Studio Code для обеспечения возможности последующей интеграции в прототип веб-приложения.

После обучения сети потери составили 1,62. В ходе тестирования на тестовой выборке данных разработанная нейронная сеть показала наибольшую достоверность среди рассмотренных решений. Дополнительный вход обеспечивает корректировку предсказанного размера, что обеспечивает большую точность вывода по сравнению с рассмотренными выше решениями.

 

Рис. 6. Архитектура нейронной сети со смешанными входами данных для предсказания размера комплекта одежды

Fig. 6. Neural network architecture with mixed data inputs for predicting the size of a set of clothes

 

ИСПОЛЬЗОВАНИЕ ОБУЧЕННОЙ МОДЕЛИ В ВЕБ-СРЕДЕ

Применение TensorFlow.JS при разработке нейронной сети со смешанными входами данных было обусловлено возможностью создания, обучения и дальнейшего развертывания модели в браузере. При работе с TensorFlow.JS предусмотрены: возможность создания и обучения нейронной сети, использование предварительно обученных моделей с последующей модификацией, а также использование готовых решений. В настоящее время на официальном сайте представлено 14 моделей для свободного использования в веб-приложениях, включая модели для анализа изображения и видео, распознавания лиц и поз, обработки естественного языка (NLP) и обнаружения токсичности текста, распознавание речевых команд, а также общая утилита для создания классификатора посредствам использования алгоритма k-ближайших соседей [18].

Обученная модель была сохранена и интегрировала в веб-приложение, обеспечивающее для пользователя возможность ввода своих параметров: обхват груди, обхват талии и обхват бедер. Приложение способно вывести предсказанный для пользователя размер. Ввиду того, что обучающие данные, в частности, массив с информацией о заказанных размерах, был преобразован, вывод веб-приложения также преобразует предсказанный размер в формат, предусмотренной российской размерной сеткой.

Веб-приложение успешно прошло тестирование на контрольной группе пользователей. Все респонденты успешно справились с поставленной задачей и отметили достоверность предсказанных размеров для комплекта одежды.

Отдельно стоит отметить возможность преобразования и дополнения вывода предсказания путем визуализации табличных значений рассматриваемой размерной сетки с выделением ячеек, соответствующих меркам пользователя, что также послужит оптимизации принятия решения.

ОБСУЖДЕНИЕ И ВЫВОДЫ

В данной работе были рассмотрены программные решения относительно вопроса о предсказании наиболее подходящего размера одежды по введенным пользователем характеристикам: метод k-ближайших соседей, использование многослойной полносвязной нейронной сети, использование нейронной сети со смешными входами данных. Наибольшую эффективность в прогнозировании оптимального решения имеет нейронная сеть со смешанными входами данных, что обусловлено использованием дополнительного входа сети (комментарий пользователя о соответствии размера).

Результатом проведенного исследования является реализация трех программных решений для решения задачи о предсказании оптимального размера комплекта одежды.

Дальнейшее развитие предложенных решений предусматривает обучение для распознавания мужских и детских размеров, увеличения числа исходных параметров для прогнозирования (рост, длина изделия, тип фигуры и другие), корректировка вывода размеров для разнообразных размерных сеток, что обеспечит повышение достоверности прогноза. Разделение предсказаний для комплектов одежды, «верха» (кофты, рубашки, футболки и другие) и «низа» (брюки, джинсы, юбки и другие).

Последующее использование нейронной сети со смешанными входами данных возможно в качестве самостоятельного веб-приложения или для интеграции модуля на веб-площадки с соответствующей тематикой.

¹ Gostrf. URL: https://gostrf.com/normadata/1/4293808/4293808596.pdf (дата обращения: 11.03.2024).

² Gostrf. URL: https://gostrf.com/normadata/1/4293808/4293808592.pdf (дата обращения: 11.03.2024).

³ ГОСТ 31396–2009 «Классификация типовых фигур женщин по ростам, размерам и полнотным группам для проектирования одежды» // Gostrf. URL: https://gostrf.com/normadata/1/4293808/4293808596.pdf (дата обращения: 11.03.2024).

About the authors

Darya B. Pugacheva

MIREA – Russian Technological University

Author for correspondence.
Email: pugacheva@mirea.ru
ORCID iD: 0009-0008-5792-3240

Department of Computer Design, Institute of Advanced Technologies and Industrial Programming

Russian Federation, Moscow

Maya V. Yudina

MIREA – Russian Technological University

Email: yudina_m@mirea.ru

Cand. Sci. (Eng.); associate professor, Department of Computer Design, Institute of Advanced Technologies and Industrial Programming

Russian Federation, Moscow

References

Supplementary files