Informacionnye TehnologiiInformacionnye TehnologiiИнформационные технологии1684-6400New Technologies Publishing House70245410.17587/it.30.632-640Intelligent systems and technologiesИнтеллектуальные системы и технологииResearch ArticleMethodology for identification the author of destructive textual dataМетодика идентификации автора текстовых материалов деструктивной направленностиRomanovA. S.РомановА. С.
Russian Federation

PhD in Engineering Science, Associate Professor, Senior Researcher, Technological Initiative "Trusted Interaction Technologies" (CT NTI "Trusted Interaction Technologies")

канд. техн. наук, доц., ст. науч. сотр., Центр компетенций национальной технологической инициативы "Технологии доверенного взаимодействия"

alexx.romanov@gmail.comFedotovaA. M.ФедотоваА. М.
Russian Federation

Postgraduate Student, Junior Researcher, Competence Center of the National Technological Initiative "Trusted Interaction Technologies" (CT NTI "Trusted Interaction Technologies")

аспирант, мл. науч. сотр., Центр компетенций национальной технологической инициативы "Технологии доверенного взаимодействия"

afedotowaaa@gmail.comKurtukovaA. V.КуртуковаА. В.
Russian Federation

Postgraduate Student, Junior Researcher,Competence Center of the National Technological Initiative "Trusted Interaction Technologies" (CT NTI "Trusted Interaction Technologies")

аспирант, мл. науч. сотр., Центр компетенций национальной технологической инициативы "Технологии доверенного взаимодействия"

av.kurtukova@gmail.comShelupanovA. A.ШелупановА. А.
Russian Federation

Professor, Head of the Department, Competence Center of the National Technological Initiative "Trusted Interaction Technologies" (CT NTI "Trusted Interaction Technologies")

д-р техн. наук, проф., директор, Центр компетенций национальной технологической инициативы "Технологии доверенного взаимодействия"

saa@tusur.ruTomsk State University of Control Systems and RadioelectronicsТомский государственный университет систем управления и радиоэлектроники1512202430126326401002202610022026Copyright ©; 2024, Informacionnye TehnologiiCopyright ©; 2024, Информационные технологии2024Informacionnye TehnologiiИнформационные технологииhttps://journals.eco-vector.com/1684-6400/article/view/702454

The article is devoted to determining the authorship of short comments of social network users, including communities associated with destructive content. The study includes classification with a fixed and open set of authors. In the latter case, several experiments were conducted, including detection of destructive content by introducing authors of the such content. The results show, that the proposed methodology achieves a high accuracy of 85 %.

Рассматривается задача определения авторства коротких комментариев пользователей социальных сетей, включая сообщества, связанные с деструктивной направленностью. Исследование включает классификацию с фиксированным и открытым набором авторов. В последнем случае были проведены несколько экспериментов, в том числе детектирование деструктивного контента путем внедрения авторов-создателей таких текстов при тестировании модели. Результаты показывают, что предложенная методика позволяет достичь высокой точности 85 %.

sattributionneural networkstransfer learningextremismforeign agentstext processingmachine learningclassificationопределение авторстванейронные сетитрансферное обучениеэкстремизминостранные агентыобработка текстамашинное обучениеклассификацияМинистерство образования и науки Российской ФедерацииMinistry of Education and Science of the Russian FederationFEWM-2023-0015This research was funded by the Ministry of Science and Higher Education of Russia, Government Order for 2023—2025, project no. FEWM-2023-0015 (TUSUR).Данная работа выполнена при финансовой поддержке Министерства науки и высшего образования РФ в рамках базовой части государственного задания ТУСУр на 2023-2025 гг. (проект № FEWM-2023-0015).Uvarov A. A. Information security of Russian citizens: current state, Lex russica, 2024, vol. 77, no. 1. pp. 133—143 (in Russian).Уваров А. А. Информационная безопасность граждан России: современное состояние // Lex russica. 2024. Т. 77, № 1. С. 133—143.Devyatov A. V., Slinko A. A. Legal principles of countering terrorism and extremism in the Russian Federation, Aspirantskie tetradi, 2023, pp. 55—59, available at: https://www.elibrary.ru/ item.asp?id = 50475183 (date of access: 01.03.24) (in Russian).Девятов А. В., Слинько А. А. Правовые основы противодействия терроризму и экстремизму в Российской Федерации // Аспирантские тетради. 2023. С. 55—59. URL: https://www. elibrary.ru/item.asp?id = 50475183 (дата обращения: 01.03.24).Kiselev S. A. The mechanism of political influence of foreign agents in Russian society and ways of neutralizing it, Social'no-e'konomicheskie processy sovremennogo obshhestva, 2023, pp. 119—124, available at: https://phsreda.com/e-articles/10532/ Action10532-107841.pdf (date of access: 01.03.24) (in Russian).Киселев С. А. Механизм политического влияния иностранных агентов в российском обществе и способы его нейтрализации // Социально-экономические процессы современного общества. 2023. С. 119—124. URL: https://phsreda. com/e-articles/10532/Action10532-107841.pdf (дата обращения: 01.03.24).Maksimov A. A., Bykova A. V., Pasenchuk V. A. Extremism as the main threat to information security, Mezhdunarodny'j zhurnal gumanitarny'x i estestvenny'x nauk, 2021, no. 2-2, pp. 163—169 (in Russian).Максимов А. А., Быкова А. В., Пасенчук В. А. Экстремизм как основная угроза информационной безопасности // Международный журнал гуманитарных и естественных наук. 2021. № 2-2. С. 163—169.Batozhok P. I. Extremism as a threat to the information security of students in social networks, Vozmozhnosti primeneniya rezul'tatov e'mpiricheskix issledovanij dlya izucheniya aktual'ny'x problem sovremennosti, 2022, pp. 29—33, available at: https://www. elibrary.ru/item.asp?id=49481015 (date of access: 01.03.24) (in Russian).Батожок П. И. Экстремизм как угроза информационной безопасности студенческой молодежи в социальных сетях // Возможности применения результатов эмпирических исследований для изучения актуальных проблем современности. 2022. С. 29—33. URL: https://www.elibrary.ru/ item.asp?id=49481015 (дата обращения: 01.03.24).Shepelev V. V., Balakin K. A., Sukhorukova N. A. Countering the interference of foreign agents in Russia’s youth policy as the basis for the security of the fatherland, 75-letie Velikoj Pobedy': istoricheskij opy't i sovremenny'e problemy voennoj bezopasnosti Ros- sii, 2020, vol. 1, pp. 463—470 (in Russian).Шепелев В. В., Балакин К. А., Сухорукова Н. А. Противодействие вмешательству иностранных агентов в молодежную политику России как основа безопасности отечества // 75-летие Великой Победы: исторический опыт и современные проблемы военной безопасности России. 2020. Т. 1. С. 463—470.Semenov V. V. Method for the formation of informative features in tasks of quantitative analysis of objects, Informacionnye tekhnologii, 2023, vol. 29, no. 9, pp. 467—472 (in Russian).Семенов В. В. Метод формирования информативных признаков в задачах количественного анализа объектов // Информационные технологии. 2023. Т. 29, № 9. С. 467—472.Fedotova A., Romanov A., Kurtukova A., Shelupanov A. Digital Authorship Attribution in Russian-Language Fanfiction and Classical Literature, Algorithms, 2022, vol. 16, no. 1, available at: https://www.mdpi.com/1999-4893/16/1/13 (date of access: 01.03.24).Fedotova A., Romanov A., Kurtukova A., Shelupanov A. Digital Authorship Attribution in Russian-Language Fanfiction and Classical Literature // Algorithms. 2022. Vol. 16, N. 1. URL: https:// www.mdpi.com/1999-4893/16/1/13 (дата обращения: 01.03.24).Romanov A. S. Feature selection methods for authorship attribution in cybersecurity context, Modeling, Optimization and Information Technology, 2024, vol. 12, no. 1, available at: https:// moitvivt.ru/ru/journal/pdf?id=1489 (date of access: 01.03.24) (in Russian).Романов А. С. Методы отбора признаков в задаче определения авторства в контексте кибербезопасности // Моделирование, оптимизация и информационные технологии. 2024. Т. 12, № 1. URL: https://moitvivt.ru/ru/journal/ pdf?id=1489 (дата обращения: 01.03.24).Fedotova A., Romanov A., Kurtukova A., Shelupanov A. Authorship Attribution of Social Media and Literary Russian- Language Texts Using Machine Learning Methods and Feature Selection, Future Internet, 2022, vol. 14, no. 4, available at: https:// doi.org/10.3390/fi14010004 (date of access: 01.03.24).Fedotova A., Romanov A., Kurtukova A., Shelupanov A. Authorship Attribution of Social Media and Literary Russian- Language Texts Using Machine Learning Methods and Feature Selection // Future Internet. 2022; Vol. 14, N. 4. URL: https:// doi.org/10.3390/fi14010004 (дата обращения:01.03.24).Romanov A. S. Text authorship identification for open set of candidates in cybersecurity context, Modeling, Optimization and Information Technology, 2024, vol. 12, no. 1, available at: https:// moitvivt.ru/ru/journal/pdf?id = 1510 (date of access: 01.03.24) (in Russian).Романов А. С. Идентификация автора текста для открытого множества кандидатов в контексте кибербезопасности // Моделирование, оптимизация и информационные технологии. 2024. Т. 12, № 1. URL: https://moitvivt.ru/ru/ journal/pdf?id = 1510 (дата обращения: 01.03.24).Ranaldi L., Ranaldi F., Fallucchi F., Zanzotto F. M. Shedding Light on the Dark Web: Authorship Attribution in Radical Forums, Information, 2022, vol. 13, no. 9, available at: https:// www.mdpi.com/2078-2489/13/9/435 (date of access: 01.03.24).Ranaldi L., Ranaldi F., Fallucchi F., Zanzotto F. M. Shedding Light on the Dark Web: Authorship Attribution in Radical Forums // Information. 2022. Vol. 13, N. 9. URL: https:// www.mdpi.com/2078-2489/13/9/435 (дата обращения: 01.03.24).Transformers, available at: https://huggingface.co/docs/ transformers/index (date of access: 01.03.24).Transformers. URL: https://huggingface.co/docs/trans- formers/index (дата обращения: 01.03.24).Abbasi A., Chen H. Applying authorship analysis to extremist-group web forum messages, IEEE Intelligent Systems, 2005, vol. 20, pp. 67—75.Abbasi A., Chen H. Applying authorship analysis to extremist-group web forum messages // IEEE Intelligent Systems. 2005. Vol. 20. P. 67—75.Litvinova T., Litvinova O., Panicheva P. Authorship attribution of Russian forum posts with different types of n-gram features, Proceedings of the 2019 3rd International Conference on Natural Language Processing and Information Retrieval, 2019, pp. 9—14, available at: https://dl.acm.org/doi/abs/10.1145/3342827.3342834 (date of access: 01.03.24).Litvinova T., Litvinova O., Panicheva P. Authorship attribution of Russian forum posts with different types of n-gram features // Proceedings of the 2019 3rd International Conference on Natural Language Processing and Information Retrieval. 2019. P. 9—14. URL: https://dl.acm.org/doi/abs/10.1145/3342827.3342834 (дата обращения: 01.03.24).KavkazChat dataset, available at: https://www.azsecure- data.org/dark-web-forums.html (date of access: 01.03.24).KavkazChat dataset. URL: https://www.azsecure-data. org/dark-web-forums.html (дата обращения: 01.03.24).List of terrorists and extremists, available at: https:// fedsfm.ru/documents/terrorists-catalog-portal-act (date of access: 01.03.24) (in Russian).Перечень террористов и экстремистов. URL: https:// fedsfm.ru/documents/terrorists-catalog-portal-act (дата обращения: 01.03.2024).Clustering algorithms, available at: https://maartengr. github.io/BERTopic/getting_started/clustering/clustering.html#k- means (date of access: 01.03.24).Clustering algorithms. URL: https://maartengr.github. io/BERTopic/getting_started/clustering/clustering.html#k-means (дата обращения: 01.03.24).Evaluation metrics, available at: https://www.kaggle.com/ code/nikhilkhetan/setting-up-evaluation-metrics (date of access: 01.03.24).Evaluation metrics. URL: https://www.kaggle.com/code/ nikhilkhetan/setting-up-evaluation-metrics (дата обращения: 01.03.24).How ISIS Uses Twitter, available at: https://towardsdata- science.com/how-isis-uses-twitter-10065790354a (date of access: 01.03.24).How ISIS Uses Twitter. URL: https://towardsdatasci- ence.com/how-isis-uses-twitter-10065790354a (дата обращения: 01.03.24).Drachev G. A. Development of an algorithm for extracting and encoding data from log messages of a computer system for anomaly detection systems, Informacionnye tekhnologii, 2023, vol. 29, no. 7, pp. 351—359 (in Russian).Драчев Г. А. Разработка алгоритма выделения и кодирования данных из журнальных сообщений вычислительной системы для систем обнаружения аномалий // Информационные технологии. 2023. Т. 29, № 7. С. 351—359.Burkhardt H. A., Ding X., Kerbrat A., Comtois K. A., Cohen T. From benchmark to bedside: transfer learning from social media to patient-provider text messages for suicide risk prediction, Journal of the American Medical Informatics Association, 2023, vol. 30, no. 6, pp. 1068—1078.Burkhardt H. A., Ding X., Kerbrat A., Comtois K. A., Cohen T. From benchmark to bedside: transfer learning from social media to patient-provider text messages for suicide risk prediction // Journal of the American Medical Informatics Association. 2023. Vol. 30, N. 6. P. 1068—1078.Yafooz W. M. S., Al-Dhaqm A., Alsaeedi A. Detecting Kids Cyberbullying Using Transfer Learning Approach: Transformer Fine-Tuning Models, Kids Cybersecurity Using Computational Intelligence Techniques. Cham: Springer International Publishing, 2023, vol. 1080, pp. 255—267.Yafooz W. M. S., Al-Dhaqm A., Alsaeedi A. Detecting Kids Cyberbullying Using Transfer Learning Approach: Transformer Fine-Tuning Models // Kids Cybersecurity Using Computational Intelligence Techniques. Cham: Springer International Publishing, 2023. Т. 1080. С. 255—267.Neyshabur B., Sedghi H., Zhang C. What is being transferred in transfer learning?, Advances in neural information processing systems, 2020, vol. 33, pp. 512—523.Neyshabur B., Sedghi H., Zhang C. What is being transferred in transfer learning? // Advances in neural information processing systems. 2020. Vol. 33. P. 512—523.Russian toxicity classifier, available at: https://hugging- face.co/s-nlp/russian_toxicity_classifier (date of access: 01.03.24).Russian toxicity classifier. URL: https://huggingface.co/s- nlp/russian_toxicity_classifier (дата обращения: 01.03.24).Emotion detection, available at: https://huggingface.co/ cointegrated/rubert-tiny2-cedr-emotion-detection (date of access: 01.03.24).Emotion detection. URL: https://huggingface.co/cointe- grated/rubert-tiny2-cedr-emotion-detection (дата обращения: 01.03.24).Russian sensitive topics, available at: https://huggingface. co/aanc/russian-sensitive-topics (date of access: 01.03.24).Russian sensitive topics. URL: https://huggingface.co/ aanc/russian-sensitive-topics (дата обращения: 01.03.24).Kotelnikova A., Paschenko D., Razova E. Lexicon-based methods and BERT model for sentiment analysis of Russian text corpora, CEUR Workshop Proceedings, 2021, vol. 2922, pp. 73—81.Kotelnikova A., Paschenko D., Razova E. Lexicon-based methods and BERT model for sentiment analysis of Russian text corpora // CEUR Workshop Proceedings. 2021. Vol. 2922. P. 73—81.Burtsev M., Seliverstov A., Airapetyan R., Arkhipov M., Baymurzina D., Bushkov N. et. al. Deeppavlov: Open-source library for dialogue systems, Proceedings of ACL 2018, System Demonstration, 2018, pp. 122—127.Burtsev M., Seliverstov A., Airapetyan R., Arkhipov M., Baymurzina D., Bushkov N. et. al. Deeppavlov: Open-source library for dialogue systems // Proceedings of ACL 2018, System Demonstrations. 2018. P. 122—127.Venckauskas A., Karpavicius A., Damasevicius R., Mar- cinkevicius R., Kapociûte-Dzikiené J., Napoli C. Open class authorship attribution of lithuanian internet comments using one- class classifier, 2017 Federated Conference on Computer Science and Information Systems (FedCSIS). IEEE, 2017, pp. 373—382.Venckauskas A., Karpavicius A., Damasevicius R., Marcinkevicius R., Kapociûte-Dzikiené J., Napoli C. Open class authorship attribution of lithuanian internet comments using one- class classifier // 2017 Federated Conference on Computer Science and Information Systems (FedCSIS). IEEE, 2017. P. 373—382.Bartusiak E. R., Delp E. J. Transformer-Based Speech Synthesizer Attribution in an Open Set Scenario, 2022 21st IEEE International Conference on Machine Learning and Applications (ICMLA), IEEE, 2022, pp. 329—336.Bartusiak E. R., Delp E. J. Transformer-Based Speech Synthesizer Attribution in an Open Set Scenario // 2022 21st IEEE International Conference on Machine Learning and Applications (ICMLA). IEEE, 2022. P. 329—336.