Analysis and evaluation of algorithms for personalization of interaction with the user for the development of a social network

Full Text

ВВЕДЕНИЕ

На сегодняшний день популярность социальных сетей растет быстрыми темпами, и они стали занимать неотъемлемую часть повседневной жизни миллионов людей во всем мире. Их развитие позволило создать интернет-платформу, предназначенную для коммуникации, обмена информацией и контентом, а также прочих социальных взаимодействий между пользователями [1].

Социальная сеть позволяет пользователям создавать и просматривать профили, публиковать и взаимодействовать с контентом других пользователей (просматривать ленту, ставить лайк, делать репост или комментировать его). Каждая подобная система содержит в себе большое количество информации, и не вся она может заинтересовать конкретного пользователя. В связи с этим возникает проблема в необходимости персонализации всего этого огромного количества информации.

На помощь в решении данной проблемы приходят технологии искусственного интеллекта (ИИ), развитие которых так же не стоит на месте. Использование ИИ является ключевым и перспективным решением, направленным на повышение функциональности и улучшение пользовательского опыта. При разработке социальных сетей ИИ-технологии могут использоваться для различных целей, например, для персонализации и рекомендации контента, его дальнейшей модерации и анализа [2].

В рамках данной работы будет произведен анализ и оценка существующих ИИ-технологий в области персонализации и управления контентом в социальных сетях.

Целью исследования является проведение анализа и оценка точности алгоритмов ИИ с помощью сравнительного тестирования. Для достижения данной цели необходимо решить ряд задач:

1. провести анализ предметной области;
2. изучить рынок ИИ-технологий, применяемых в целях персонализации;
3. провести сравнительный анализ выбранных алгоритмов и выбрать лучший.

МАТЕРИАЛЫ И МЕТОДЫ ИССЛЕДОВАНИЯ

ИИ представляет собой область компьютерной науки, направленную на создание систем, способных решать задачи, обычно требующие уровня интеллекта, если бы они были решены человеком. В контексте социальных сетей, применение технологий искусственного интеллекта может значительно улучшить функциональность и эффективность платформы.

Для реализации алгоритмов персонализации существует несколько подходов, например, коллаборативная фильтрация, фильтрация, основанная на контенте или гибридные системы [3].

Коллаборативная фильтрация – этот алгоритм используется для рекомендации контента на основе истории взаимодействия пользователя и других пользователей с аналогичными интересами (рис. 1).

 

Рис. 1. Пример коллаборативной фильтрации

Fig. 1. Example of collaborative filtering

 

Фильтрация, основанная на контенте – алгоритм рекомендует контент на основе анализа самого контента и предпочтений пользователя (рис. 2).

 

Рис. 2. Пример фильтрации, основанной на контенте

Fig. 2. Example of content-based filtering

 

Гибридные системы – объединяют в себе все виды рекомендательных алгоритмов, описанных ранее, и позволяют использовать их вместе и подключать в разных последовательностях [4].

В рамках данной работы в качестве ключевого алгоритма персонализации была выбрана коллаборативная фильтрация [5; 6], для реализации которой было решено использовать Python-библиотеку Surprise, а именно модели Singular Value Decomposition, Slope One, K-Nearest Neighbors. Далее рассмотрим каждый из этих алгоритмов отдельно.

Принцип работы алгоритма Singular Value Decom-position (SVD) заключается в разложении исходной матрицы рейтингов пользователей на три матрицы меньшего ранга.

Допустим R – это матрица рейтингов пользователей по объектам размерности m на n, где m – количество пользователей, а n – количество объектов. Тогда матрица R может быть представлена в следующем виде:

R = USV^T,

где U – матрица, содержащая латентные факторы пользователей;

S – матрица, описывающая силу каждого латентного фактора;

V – матрица, содержащая латентные факторы объектов.

Предсказание рейтинга пользователя u для объекта i строится по следующей формуле:

r̂_ui = μ + b_u + b_i + X_i^TY_u,

где μ – средний рейтинг всех объектов;

b_i – средний рейтинг объекта i минус μ;

b_u – средний рейтинг, данный пользователем u минус μ;

X_i^T – вектор, описывающий объект;

Y_u – вектор, описывающий пользователя.

Алгоритм Slope One предсказывает рейтинг, исходя из средней разницы между оценками объектов, которые были оценены одним и тем же пользователем. Предсказание рейтинга производится по формуле

_{${\hat{r}}_{ui}={\mu }_u+\frac{1}{\left|R_i\left(u\right)\right|}\sum _{j\in R_i\left(u\right)}\mathrm{dev}\left(i, j\right)$}

где μ_u – среднее значение всех оценок, данных пользователем u;

R_i(u) – это набор соответствующих объектов j, т.е. набор элементов j с рейтингом от u, у которых также есть хотя бы один общий пользователь с i;

dev(i, j) – средняя разница между рейтингами объектов i и j.

Средняя разница между рейтингами объектов i и j рассчитывается по формуле

$\text{dev}\left(i, j\right)=\frac{1}{\left|U_{ij}\right|}\sum _{u\in U_{ij}}{r}_{ui}-r_{uj}$

где U_ij – набор всех пользователей, которые оценили оба элемента i и j.

Алгоритм K-Nearest Neighbors (KNN) использует сходство между пользователями или элементами для прогнозирования, а именно расстояние между векторами, описывающими каждого пользователя [7; 8].

С помощью этого алгоритма можно делать предсказания, основанные как на сходстве пользователей, так и на сходстве объектов, которые описаны формулами

_{${\hat{r}}_{ui}=\frac{{\displaystyle \sum _{v\in N_i^k\left(u\right)}}\mathrm{sim}\left(u, v\right)r_{vi}}{{\displaystyle \sum _{v\in N_i^k\left(u\right)}}\mathrm{sim}\left(u, v\right)},$}

где N_i^k(u) – множество, состоящее из k ближайших соседей пользователя, которые оценили элемент i и

_{i${\hat{r}}_{ui}=\frac{{\displaystyle \sum _{j\in N_u^k\left(i\right)}\mathrm{sim}\left(i, j\right)r_{ui}}}{{\displaystyle \sum _{j\in N_u^k\left(i\right)}\mathrm{sim}\left(i, j\right)}},$}

где N_i^k(i) – множество, состоящее из k ближайших соседей элемента i, которым присвоен рейтинг пользователем u.

Перед тем как провести сравнительный анализ этих алгоритмов, сначала рассмотрим входные данные (рис. 3), в качестве которых был использован набор данных, состоящий из информации о взаимодействии пользователей с публикациями, содержащий в себе 70511 записей.

 

Рис. 3. Входные данные взаимодействий пользователей

Fig. 3. Input data of user interactions

 

По рис. 3 можно заметить, что тип взаимодействия пользователя с публикацией храниться в виде: VIEW, LIKE или REPOST. Поэтому перед тем, как производить анализ, необходимо перевести эти данные в числовой формат рейтинга. Для этого сначала переведем все данные в числовой формат по следующем принципу: VIEW будет равен 1, а LIKE и REPOST – 2 и 3 соответственно.

Так как пользователь может взаимодействовать с публикациями тремя способами, необходимо произвести группировку входного набора данных по столбцам userId и postId, а затем использовать агрегирующую функцию sum(). Результаты данной группировки записать в таблицу, после чего для удобства переименовать столбец type на rating (рис. 4).

 

Рис. 4. Результат группировки

Fig. 4. Grouping result

 

Таким образом, получен новый набор данных, содержащий рейтинги пользователей для публикаций. В данном случае рейтинг будет лежать в диапазоне от 1 до 6.

РЕЗУЛЬТАТЫ ИССЛЕДОВАНИЯ И ИХ ОБСУЖДЕНИЕ

После того как все данные преобразованы, можно приступить к сравнительному анализу выбранных моделей. Для оценки точности алгоритмов будет использована метрика Root Mean Squared Error (RMSE) – представляется из себя корень из среднеквадратичной разницы между фактическими и прогнозируемыми значениями и рассчитывается по следующей формуле

$\mathrm{RMSE}=\sqrt{\sum _{i=1}^n\frac{{\left(r_i-{\hat{r}}_i\right)}^2}{n}},$

где r_i – фактический рейтинг;

r̂_i – предсказанный рейтинг;

n – количество элементов.

Метрика Mean Absolute Error (MAE) – средняя ошибка по модулю, которая рассчитывается по формуле

$\mathrm{MAE}=\sum _{i=1}^n\frac{\left|r_i-{\hat{r}}_i\right|}{n}$

где r_i – фактический рейтинг;

r̂_i – предсказанный рейтинг;

n – количество элементов.

После этого к каждой модели была применена k-блочная перекрестная проверка – процедура, разбивающая исходный набор данных на k частей и рассчитывающая метрики RMSE и MAE. Для сравнительного тестирования было принято решение использовать k = 5, то есть разбивать набор данных на 5 равных частей. Результаты всех тестов были отсортированы в порядке возрастания значений RMSE и MAE и отображены в табл. 1.

 

Таблица 1

Результаты тестов [Test results]

Название алгоритма [Algorithm name]	RMSE	MAE	Время обучения [Training time]	Время тестирования [Testing time]
KNN	0,771761	0,651748	0,031180	0,814592
SVD	0,825288	0,688629	1,069131	0,293483
Slope One	0,853301	0,706906	0,693469	1,457769

 

Проанализировав полученную таблицу, можно заметить, что алгоритм KNN показал лучшие результаты, поэтому он был выбран для реализации алгоритма коллаборативной фильтрации. После этого к выбранной модели была применена k-блочная перекрестная проверка – процедура, разбивающая исходный набор данных на k частей и рассчитывающая метрики RMSE и MAE. Результаты данной проверки отображены в табл. 2. На рис. 5 показаны ошибки модели, измеренные с помощью метрик RMSE и MAE, на пяти итерациях кросс-валидации (CV).

 

Таблица 2

Результаты проверки [Verification results]

Метрика [Metric]	Группа 1 [Group 1]	Группа 2 [Group 2]	Группа 3 [Group 3]	Группа 4 [Group 4]	Группа 5 [Group 5]	Среднее [Average]
RMSE	0,7997	0,7974	0,7993	0,7993	0,7964	0,7984
MAE	0,6705	0,6696	0,6715	0,6717	0,6681	0,6703

 

Рис. 5. Результаты k-блочной перекрестной проверки

Fig. 5. Results of k-block cross-validation

 

Результаты тестирования показали следующие значения: RMSE – 0,7984, MAE – 0,6703. Таким образом, была получена модель, которая может быть улучшена и в дальнейшем использована в реальном продукте.

ЗАКЛЮЧЕНИЕ

В ходе выполнения данной работы было проведено исследование рынка социальных сетей и алгоритмов искусственного интеллекта для персонализации взаимодействия с пользователем. Исследования позволило выявить слабые и сильные стороны уже имеющихся технологий, также было проведено сравнительное тестирование и оценка точности нескольких моделей ИИ. Представленные результаты могут быть полезны разработчикам социальных сетей при выборе оптимальных алгоритмов для улучшения пользовательского опыта, а также для дальнейших исследований в области персонализации и рекомендательных систем [9; 10].

About the authors

Ruslan R. Mingaleev

Kazan National Research Technological University

Author for correspondence.
Email: neoch56@mail.ru

postgraduate student, Department of Intelligent Systems and Information Resource Management

Russian Federation, Kazan, Republic of Tatarstan

Alina R. Mangusheva

Kazan National Research Technological University

Email: alinamr@mail.ru
Scopus Author ID: 57442238900

associate professor, Department of Intelligent Systems and Information Resource Management

Russian Federation, Kazan, Republic of Tatarstan

References

Supplementary files