The usage of a neural networks for forecasting population a region

Full Text

Введение

В настоящее время достаточно популярны методы прогнозирования временных рядов. Это объясняется потребностью людей «заглядывать в будущее» для эффективного управления процессами, ресурсами и т. п. Одним из примеров временного ряда является численность населения (страны, региона, города и т. д.).

Существуют различные методы прогнозирования временных рядов. Среди них выделяют методы регрессионного анализа, к которым относят метод наименьших квадратов [1], цель  которого $–$ поиск ближайшей к наблюдаемым точкам прямой, и метод максимального правдоподобия [2]. Сюда же относят и авторегрессионные модели, в которые заложено предположение о зависимости значения процесса от некоторого количества предыдущих значений [3]. Отдельно выделяются нейросетевые методы прогнозирования временных рядов [4].

Основным преимуществом нейросетевых методов прогнозирования временных рядов по сравнению с методами регрессионного анализа является их нелинейность [5], т. е. способность выявлять нелинейные зависимости между текущими и прогнозируемыми значениями процессов. Именно поэтому было принято решение рассмотреть в данной работе именно нейронные сети для решения задачи прогнозирования численности населения региона.

Прогнозирование численности населения позволит сделать определенные выводы по дальнейшему развитию инфраструктуры и экономики федерального округа, региона, города, что важно как для городов и регионов, так и для федеральных округов и страны в целом. Согласно полученным выводам главы городов, регионов смогут принимать оптимальные стратегии развития, что при их реализации повысит уровень жизни населения.

В данной статье описано прогнозирование численности населения региона на примере ХМАО-Югры. Для этого использовался многослойный перцептрон и метод скользящего окна. Для обучения перцептрона использовались данные о численности населения ХМАО-Югры за период 1989$–$2018 гг. На их основании сделан прогноз численности населения на 2019$–$2029 гг.

Полносвязный перцептрон

Полносвязный перцептрон $–$ один из простых видов нейронных сетей. Тем не менее, при обучении он может научиться решать задачи, которые трудно поддаются формализации или не поддаются ей вообще. При этом все зависит от настроек сети.

Простейший перцептрон состоит из входного и выходного слоев нейронов. Нейроны соседних слоев связаны друг с другом по принципу «каждый с каждым». Архитектура простейшего перцептрона показана ниже.

Рисунок 1 – Архитектура простейшего перцептрона

Каждая связь между двумя нейронами имеет собственный весовой коэффициент, а каждый нейрон имеет собственный порог (или смещение). Все весовые коэффициенты и пороги являются настраиваемыми в ходе обучения сети параметрами.

Количество слоев нейронов в перцептроне может быть любым. Тогда перцептрон будет иметь, помимо входного и выходного, скрытые слои нейронов.

Рассмотрим функционирование перцептрона. Пусть первый слой нейронов состоит из m нейронов, а второй $–$ из n нейронов (см. рис. 1). Тогда вычисление значений нейронов второго слоя производится по следующим формулам [6]:

                                                              $l_{2j}=F\left(S_{2j}\right),j=\overline{\mathrm{1..}n},$                                                 (1)

                                                           $S_{2j}=(\sum _{i=1}^m{l}_{1i}*{\omega }_{ij})-T_{2j},$                                               (2)

где F $–$ значение функции активации от взвешенной суммы $S_{2j}$;

     $l_{1i}$ и $l_{2j}$$–$ значения i-го нейрона первого слоя нейронов и j-го нейрона второго слоя соответственно;

     ${\omega }_{ij}$$–$ значение связи между i-м нейроном первого слоя нейронов и j-м нейроном второго слоя соответственно;

     $T_{2j}$ $–$ значение порога (смещения) j-го нейрона второго слоя.

Для обучения многослойного перцептрона используется алгоритм обратного распространения ошибки (АОРО), который относится к методам обучения с учителем.

Рассмотрим обучение многослойного перцептрона. Ошибка формируется на последнем слое нейронов перцептрона и определяется как разность между выходной реакцией сети (значениями нейронов последнего слоя нейронов) y и эталоном t [6, c. 63]:

                                                                     ${\gamma }_j=y_j-t_j.$                                                        (3)

Далее происходит изменение значений весов и порогов по следующим формулам [6, c. 63]:

                                                    ${\omega }_{ij}(t+1)={\omega }_{ij}(t)-\alpha {\gamma }_j{F}^{\prime }(S_j)y_i,$                                        (4)

                                                       $T_j(t+1)=T_j(t)+\alpha {\gamma }_j{F}^{\prime }(S_j),$                                          (5)

где $\alpha$ $–$ скорость обучения сети;

       t и t+1 $–$ моменты времени до и после изменения весов и порогов соответственно;

       индексы i и j обозначают нейроны первого и второго слоя нейронов соответственно.

Слои перцептрона обучаются по процедуре обучения Розенблатта, согласно которой значение скорости обучения постоянно в процессе всего времени обучения и принимает значения в промежутке $(0;1]$ [7, с. 43].

Обработка данных

Как уже было сказано ранее, для прогнозирования были взяты значения численности населения ХМАО-Югры за 1989 $–$ 2018 годы. Они приведены в таблице 1.

Таблица 1 - Численность населения ХМАО за 1989$–$2018 годы [8]

Все значения численности населения были подвергнуты нормализации $–$ они приведены в промежуток [0, 1] путем деления.

Для прогнозирования данного временного ряда используется метод скользящего окна. Он характеризуется длиной окна p, равной числу элементов ряда, одновременно подаваемых на нейронную сеть [7, с. 56].

Обучающую выборку X и прогнозируемые значения Y в таком случае можно представить в следующем виде (длина временного ряда равна m):

$X=\left[\begin{array}{cccc}x(1)& x(2)& \mathrm{...}& x(p)\\ x(2)& x(3)& \mathrm{...}& x(p+1)\\ \mathrm{...}& \mathrm{...}& \mathrm{...}& \mathrm{...}\\ x(m-p)& x(m-p+1)& \mathrm{...}& x(m-1)\end{array}\right]$, $Y=\left[\begin{array}{c}x(p+1)\\ x(p+2)\\ \mathrm{...}\\ x\left(m\right)\end{array}\right]$

что эквивалентно перемещению окна по ряду x(t) с шагом, равным 1 [7, c. 56].

Применение нейронной сети для прогнозирования

Для проектирования нейронной сети была определена длина скользящего окна исходя из длины прогнозируемого периода (2019$–$2029 гг.). Для данного периода требуется предсказать 11 значений численности населения (2029$–$2019+1). Следовательно, размер входа нейронной сети должен быть равным 11.

Затем был спроектирован многослойный перцептрон с одним скрытым слоем. Его архитектура описана в таблице 2.

Таблица 2 - Архитектура нейронной сети

После проектирования сеть была обучена на обучающей выборке. Количество эпох составило 2000, коэффициент скорости обучения $–$ 0,25. Результаты обучения представлены ниже.

Рисунок 2 – Результаты обучения

Замечание. Синим цветом обозначен график динамики численности населения за 2000$–$2018 гг., а желто-оранжевым $–$ график предсказанных нейронной сетью значений населения ХМАО за данные годы.

Как видно из рисунка 2, наблюдается постепенная сходимость реакции сети к динамике численности населения ХМАО, что свидетельствует об успешном процессе обучения сети.

Затем обучение нейронной сети было продолжено $–$ количество эпох составило 2000 (с 2001-ю по 4000-ю), коэффициент скорости обучения был увеличен до 0,55. Результаты продолженного обучения представлены ниже.

Рисунок 3 – Результаты продолженного обучения

Прогресса в обучении не наблюдается, следовательно, нейронную сеть можно считать обученной. При этом она не очень корректно подстраивается к резким перепадам численности населения.

Результаты прогнозирования

На вход обученную нейронную сеть были поданы значения численности населения ХМАО за 2008$–$2018 годы, и таким образом получено спрогнозированное значение численности населения ХМАО за 2019 г. Данные действия были повторены для всех годов с 2020 по 2029. График предсказанных значений представлен ниже.

Рисунок 4 – Результаты прогнозирования численности населения ХМАО

Полученные с помощью прогнозирования значения численности населения ХМАО были сведены в таблицу 3.

Таблица 3 - Спрогнозированные значения численности населения ХМАО

Замечание. Спрогнозированные значения численности населения ХМАО-Югры в будущем будут близки к реальным при сохранении текущих тенденций развития округа.

Исходя из данных таблицы 3, население ХМАО-Югры будет продолжать расти. Однако темпы роста со временем будут снижаться. При сохранении текущих тенденций развития округа через несколько десятков лет население ХМАО-Югры может пойти на убыль, что может негативно сказаться на экономическом состоянии региона.

Одну из причин возможного в будущем падения темпов роста населения ХМАО-Югры автор статьи видит в слабо развитой инфраструктуре региона, а именно $–$ большие расстояния между городами (порядка 200$–$300 км; исключение $–$ города Нефтеюганск и Сургут, расстояние между которыми составляет около 60 км).

Для решения данной проблемы автор предлагает развитие инфраструктуры ХМАО-Югры с помощью усиленного развития городов с населением менее 100 тыс. человек и поселков.

Заключение

В результате выполнения данной работы была спроектирована и обучена нейронная сеть, которая была применена для прогнозирования численности населения Ханты-Мансийского автономного округа $–$ Югры. Сеть обучилась достаточно успешно, так что полученные с ее помощью данные о численности населения ХМАО-Югры на 2019$–$2029 годы можно считать в той или иной степени корректными. Из этого следует, что многослойный перцептрон вместе с применением метода скользящего окна вполне пригоден для прогнозирования временных рядов.

Что же касается анализа результатов прогнозирования, то согласно им в 2019$–$2029 гг. возможно падение темпов роста численности населения ХМАО-Югры и, следовательно, некоторое ухудшение экономики региона. Причиной вполне может быть слабо развитая инфраструктура региона, которая может быть решена путем усиленного развития малых городов и поселков ХМАО-Югры.

About the authors

Arsenty I. Bredikhin

Author for correspondence.
Email: bredihin.igorr@yandex.ru

Graduate student, Institute of Digital Economics

References

Supplementary files