Infokommunikacionnye tehnologiiInfokommunikacionnye tehnologiiИнфокоммуникационные технологии2073-3909Povolzhskiy State University of Telecommunications and Informatics55910ArticlesСтатьиResearch ArticlePREDICTION OF THE ENTROPY VALUES OF LONG CODE SEQUENCES GENERATED BY NATURAL AND ARTIFICIAL LANGUAGESПрогнозирование значений энтропии длинных кодовых последовательностей, порождаемых естественными и искусственными языкамиMalyginaE. AМалыгинаЕлена Александровна

аспирант Кафедры информационной безопасности систем и технологий

mal890@yandex.ruIvanovA. IИвановАлександр Иванович

д.т.н., доцент, начальник Лаборатории биометрических и нейросетевых технологий (ЛБНТ)

ivan@pniei.penza.ruYazovY. KЯзовЮрий Константинович

д.т.н., профессор, начальник отдела

gniii@fstec.ruNadeevD. NНадеевДамир Наилевич

к.т.н., младший научный сотрудник ЛБНТ ПНИЭИ

ivan@pniei.penza.ruПензенский государственный университетПензенский научно-исследовательский электротехнический институтФАУ «Государственный научно-исследовательский, испытательный институт проблем технической защиты информации Федеральной службы по техническому и экспортному контролю»15062014122VOL 12, NO2 (2014)ТОМ 12, №2 (2014)121520122020Copyright ©; 2014, Malygina E.A., Ivanov A.I., Yazov Y.K., Nadeev D.N.Copyright ©; 2014, Малыгина Е.А., Иванов А.И., Язов Ю.К., Надеев Д.Н.2014Malygina E.A., Ivanov A.I., Yazov Y.K., Nadeev D.N.Малыгина Е.А., Иванов А.И., Язов Ю.К., Надеев Д.Н.https://creativecommons.org/licenses/by-nc-nd/4.0https://journals.eco-vector.com/2073-3909/article/view/55910

Calculation of entropy encoding letters long meaningful Russian by Shannon technically not possible with existing restrictions on computing resources. For example, biometric data is that the entropy of low dimension dependent code is related to the entropy of high dimensions exponentially. As a result, the entropy of long code sequences generated by natural and artifi-cial languages, described by a superposition of the exponent and the linear component. The latter allows you to easily assess the ultimate redundancy of natural and artificial languages.

Расчет энтропии длинных кодировок букв осмысленного русского языка по Шеннону технически невозможен при существующих ограничениях на вычислительные ресурсы. На примере биометрических данных доказывается, что энтропия низкой размерности зависимых кодов связана с энтропией высоких размерностей экспоненциально. Как следствие, энтропия длинных кодовых последовательностей, порождаемых естественными и искусственными языками, описывается суперпозицией экспоненты и линейной составляющей. Последнее позволяет легко оценивать предельную избыточность естественных и искусственных языков.

forecastinglong dependent entropy codingindependent codes white noiseпрогнозированиеэнтропия длинных зависимых кодовнезависимые коды«белый» шумИванов А.И., Фунтиков В.А., Майоров А.В., Надеев Д.Н. Моделирование кодовых последовательностей с энтропией естественных и искусственных биометрических языков // ИКТ. Т.8, №4, 2010. - С. 75-79.Окончательная редакция проекта ГОСТ Р 52633.7-20 «Защита информации. Техника защиты информации. Высоконадежная мульти-биометрическая аутентификация».Dodis Y., Reyzin L., Smith A. Fuzzy Extractors: How to Generate Strong Keys from Biometrics and Other Noisy // In EUROCRYPT, Data April 13, Pages523-540, 2004.Язов Ю.К., Волчихин В И., Иванов А.И., Фунтиков В. А., Назаров И.Г. Нейросетевая защита персональных биометрических данных. М.: Радиотехника, 2012. - 157 с.Волчихин В.И., Иванов А.И., Фунтиков В.А., Малыгина Е.А. Перспективы использования искусственных нейронных сетей с многоуровневыми квантователями в технологии биоме-трико-нейросетевой аутентификации // Известия ВУЗов. Поволжский регион. Технические науки. №4(28), 2013. - С. 88-99.