Интеллектуальные информационные технологии для прогнозирования успешности учебной деятельности абитуриентов

Полный текст

Введение. Подготовка квалифицированных спе- поступления и сдачи, к примеру, первых экзаменов циалистов - одна из главных задач любого образова- (первой экзаменационной сессии), является прогнозительного учреждения. Подходом, позволяющим хотя бы рование успешности учебной деятельности студента приблизительно предсказать возможность успешного по информации, доступной на момент его поступления 16 Математика, механика, информатика в вуз. Данная информация сосредоточена в документах приемной комиссии и представляет собой набор разнообразных сведений, выраженных в различных шкалах, чаще всего номинальных (пол, номер школы, город и т. п.) и порядковых (выбранные приоритеты), реже - в дискретных (возраст, результаты сдачи ЕГЭ) и совсем редко - в абсолютных. Результаты обучения студентов, в свою очередь, сосредоточены в документах деканатов и представляют собой сведения в дискретных или порядковых шкалах (оценки, результаты аттестации), а иногда - в номинальных (благодарности, выговоры и т. п.). В данной работе были использованы лишь сведения о поступлении абитуриентов и факте продолжения обучения студента в следующем семестре или его отчислении по результатам сдачи экзаменов. На успеваемость студента могут влиять многие факторы. Можно выделить следующую группу характеристик для оценивания «перспективности» абитуриента: пол абитуриента, его возраст, адрес проживания, номер школы, выпустившей абитуриента, результаты сдачи ЕГЭ, олимпиад, вступительных экзаменов в вузе (если нет соответствующих результатов по ЕГЭ), выбранные приоритеты при поступлении в вуз. Иными словами, учитывая всю информацию, предоставляемую студентом при поступлении, возможно спрогнозировать, какой в дальнейшем будет его успеваемость, удастся или нет ему пройти хотя бы часть обучения. Составить единую формальную модель влияния перечисленных факторов на успеваемость будущих студентов непросто: нужно рассматривать как количественные показатели, так и качественные, поэтому можно сказать, что исходные данные являются сложно формализуемыми. Необходимо собрать сведения для формирования базы данных, которая бы использовалась для генерирования интеллектуальной информационной технологии прогнозирования. Таким образом, необходимо построить модель, описывающую связь между группой характеристик абитуриента и его дальнейшей успеваемостью в вузе в случае его поступления, основываясь на сформированной и обновляемой базе данных. Для этой цели наиболее подходящими инструментами являются искусственные нейронные сети (Artificial Neural Networks, ANN) [1], метод опорных векторов (Support Vector Machine, SVM) [2], а также нечеткие системы [3]. В данной работе предлагается генерирование интеллектуальных информационных технологий прогнозирования и классификации на основе перечисленных методов, настроенных коллективным бионическим алгоритмом стайного интеллекта (Co-Operation of Biology Related Algorithms, COBRA) [4] или генетическим алгоритмом [5]. Главная идея метода COBRA заключается в параллельной работе пяти известных алгоритмов, а именно, метода опорных векторов (Particle Swarm Optimization, PSO) [6], алгоритма поиска стаей волков (Wolf Pack Search, WPS) [7], алгоритма летучих мышей (Firefly Algorithm, FFA) [8], алгоритма поиска кукушек (Cuckoo Search Algorithm, CSA) [9] и алгоритма летучих мышей (Bat Algorithm, BA) [10]. Итак, упомянутый алгоритм COBRA был предложен для автоматизации проектирования SVM-«машин», так как по сравнению с обычно применяемыми роевыми алгоритмами он обладает более высокой эффективностью при решении оптимизационных задач с вещественными переменными [11]. Генетический же алгоритм был предложен для автоматизации проектирования нейросетей и нечетких систем. Помимо прочего, также был автоматизирован процесс поиска наиболее информативных данных (входов) при решении подобного рода задач. Подобные алгоритмы генерирования интеллектуальных информационных технологий были рассмотрены ранее в работах [12; 13]. Таким образом, сначала необходимо собрать сведения для формирования базы данных о поступавших абитуриентах. В этой базе данных должны быть их характеристики, а также сведения об их успеваемости во время обучения в вузе (было ли отчисление или нет). Кроме того, после сбора данных должны быть решены две задачи классификации: - характеристики абитуриента - входные данные, а сведения о том, поступил он или нет - выходные (т. е. всего 2 класса); - характеристики абитуриента - входные данные, показатели успеваемости - выходные параметры для будущей модели, т. е. определены 3 класса: поступивший абитуриент и сдавший первую экзаменационную сессию, поступивший абитуриент и отчисленный после первой сессии, непоступивший абитуриент. Собранные данные должны быть предварительно обработаны таким образом, чтобы было возможно их дальнейшее использование при решении описанных задач предлагаемыми методами, а именно, приведены к численному виду и нормированы. Метод опорных векторов. Метод опорных векторов [2] - алгоритм типа «обучение с учителем», изначально разработанный для решения задач бинарной категоризации. Идея алгоритма заключается в том, что каждый объект из набора данных представляется в виде вектора в пространстве, далее полученные векторы необходимо разделить некоторой гиперплоскостью таким образом, чтобы объекты разных классов были как можно дальше друг от друга. То есть сначала алгоритм обучается на некотором наборе данных, а затем категории новых объектов определяются проверкой, по какую сторону построенной гиперплоскости оказались соответствующие этим объектам векторы в пространстве. Пусть дан набор данных: Xі = {(*, y1), ...,(х , y{ )}, хг є Rm, yi є{-1;1>, где l - это количество объектов в обучающей выборке с m вещественными атрибутами (таким образом, каждый объект в выборке можно представить как вектор размерности m); yi - класс i-го объекта из выборки. 17 Вестник СибГАУ. 2014. № 3(55) Как уже отмечалось, в самом общем виде метод опорных векторов заключается в том, что необходимо построить гиперплоскость < w, х > + b = 0, где w є Rm, b є R, < _,_ > - скалярное произведение, которая разделяла бы объекты класса -1 от объектов класса 1 в пространстве. Тогда классификация нового объекта осуществляется по следующему правилу: 1,(< w, х > + b) > 1, -1, (< w, х > + b) < -1. Помимо прочего, в методе опорных векторов предполагается, что расстояние между построенной гиперплоскостью и ближайшими к ней классифицируемыми объектами должно быть максимально возможным. Гиперплоскость с упомянутым выше свойством может быть получена при решении следующей задачи условной оптимизации: ||2 w ^ min, yi (< w, xi > + b) > 1, i = 1, l. Таким образом, для решения задачи классификации методом опорных векторов необходимо определить вектор w и параметр смещения b, иначе говоря, решить задачу условной оптимизации для построения разделяющей гиперплоскости. Но как было уже упомянуто, также определялись наиболее информативные входы для решаемой задачи. С этой целью для каждого вектора входных параметров генерировалась бинарная строка, количество бит в строке было равным количеству входов, так что некоторый бит в строке был равен единице, если соответствующий ему параметр стоило учитывать (он был «информативен»), и нулю - в противном случае. Следовательно, помимо построения оптимальной гиперплоскости нужно было решить задачу безусловной оптимизации с бинарными переменными. В итоге генерировалась популяция бинарных строк (различные способы учета входных данных), для каждой строки решалась задача условной оптимизации и строилась гиперплоскость, далее выбиралась строка с лучшим показателем эффективности. После описанного этапа уже выполнялась работа бинарного алгоритма. В данной работе для настройки поиска информативных входов была применена модификация коллективного бионического алгоритма для решения задач с бинарными переменными, описанная в [14] (COBRA-b), а его модификация для решения задач условной оптимизации (COBRA-c) применялась для нахождения вектора w и параметра смещения b [15]. Итак, COBRA-b использовалась для определения информативных входов: каждый индивид описывал набор параметров. Далее для каждого такого индивида с помощью модификации алгоритма COBRA для решения задач условной оптимизации осуществлялся поиск вектора w и параметра смещения b. В конце выбирался индивид с наилучшим показателем эффективности классификации (т. е. с минимальной ошибкой классификации). Нейронные сети и системы на нечеткой логике. Для данной работы были реализованы нейронные сети с настраиваемыми структурой и весовыми коэффициентами, а также выбором наиболее информативных входов. Настройка осуществлялась генетическими алгоритмами (ГА). Изначально ГА был использован для настройки весовых коэффициентов полно -связных нейронных сетей прямой проводимости (GA-ANNW) с произвольным числом скрытых слоев и нейронов на них. В качестве активационной функции для нейронов на выходном и скрытых слоях применялась сигмоида. Весовые коэффициенты записывались в хромосому последовательно в виде двоичного кода. Количество используемых бит зависело от точности настройки и разброса возможных значений весов. Далее решалась задача выбора структуры нейронной сети, а именно, необходимо было определить число слоёв и количество нейронов на них, а также установить вид активационной функции каждого нейрона. Оптимальную структуру могут определить эксперты, но это потребует больших временных затрат и материальных ресурсов, поэтому предлагается вновь использовать генетический алгоритм для автоматического проектирования структуры нейросети (GA-ANNS). Таким образом, скрытые слои кодировались последовательно. Каждый нейрон был закодирован в четырех битах. Для каждого нейрона сначала случайным образом, с определённой вероятностью, равной 1/3, решалось, будет ли он использоваться в данной сети. Если нейрона в сети не было, то на его место в хромосому записывались нули. В противном случае для него случайным образом выбиралась одна из пятнадцати функций активации [16], номер которой записывался в двоичном коде. Далее для каждой выбранной структуры нейронной сети запускался генетический алгоритм GA-ANNW для выбора весовых коэффициентов. Так как эффективность применения генетического алгоритма для ИНС зависела от размерности задачи, было целесообразно не учитывать малоинформативные признаки. Особенность генетического алгоритма с выбором наиболее информативных признаков при автоматической настройке нейронной сети (GA-ANNinput) заключается в использовании ГА бинарной хромосомы, в которую нейронная сеть кодируется последовательно: сначала записываются все входные переменные (по одному биту на признак), а затем нейроны со скрытых слоев, кодируемые аналогично GA-ANNS. При инициализации признак считался неинформативным с вероятностью 0,5. Генетический алгоритм, настраивающий нейронные сети, решает задачу на приемлемом уровне, однако является «черным ящиком». Поэтому предлагается также использовать системы на нечёткой логике. При 18 Математика, механика, информатика работе с системами на нечеткой логике возникают две проблемы: определение способа кодирования лингвистических переменных и выбор оптимальной базы правил. Лучший способ решения этих проблем - работа с экспертом. Однако это требует материальных и временных затрат, а иногда и вообще не представляется возможным. Поэтому предлагается использовать генетический алгоритм для автоматической настройки систем, основанных на нечёткой логике (GA-FL). Для кодирования лингвистических переменных генерировалась бинарная строка, к которой далее применялись операторы генетического алгоритма. Все нечеткие переменные описываются набором (N, X, A), где N - это название переменной, X - универсальное множество (область рассуждений), A - нечеткое множество на X. В данной работе одновременно использовались три вида функции принадлежности: треугольная, трапецеидальная и гауссова. Для формирования базы правил также использовалась бинарная хромосома. Количество битов на одно правило зависело от размерности задачи. Было установлено, что тонность GA-FL заметно падает при росте размерности. Чтобы оставить точность на приемлемом уровне, используя меньше ресурсов, предлагается производить выбор наиболее информативных признаков. Генетический алгоритм для автоматической настройки систем на нечёткой логике с выбором наиболее информативных признаков (GA-FLinput) основан на том же принципе выбора информативных признаков, что и GA-ANNinput. Прогнозирование успешности учебной деятельности абитуриентов. Описанные ранее алгоритмы были применены для решения двух задач классификации. Первая задача заключалась в определении, поступит или нет абитуриент, соответственно, задача с двумя классами - поступившие и непоступившие абитуриенты. Вторая задача состояла в прогнозировании возможности отчисления или прохождения первой экзаменационной сессии поступившими абитуриентами. Всего для второй задачи были определены три класса: поступившие выпускники школ, отчисленные после первой экзаменационной сессии; поступившие выпускники школ, сдавшие первую сессию; непоступившие абитуриенты. Для обеих задач использовался один и тот же набор данных, состоявший из сведений об 742 абитуриентах. Каждый поступающий описывался следующими характеристиками: возраст, адрес, пол, баллы за ЕГЭ, сдавали ли экзамен в университете и т. д. Итак, входных параметров было 11, причем первый параметр был идентификатором класса. Все данные были изначально нормированы. И для первой, и для второй задачи алгоритмы запускались по 20 раз. В таблице приведены полученные результаты, усредненные по количеству запусков, причем в таблице для каждого алгоритма указана доля правильно классифицированных объектов, т. е. абитуриентов. Результаты работы алгоритмов Задача GA-ANNinput GA-FLinput SVM+COBRA 2 класса 0,973 0,962 0,991 3 класса 0,931 0,915 0,969 По полученным результатам можно сделать вывод, что на данных задачах метод опорных векторов в среднем работает лучше нейронных сетей и систем на нечеткой логике, причем нейронные сети оказались эффективней метода GA-FLinput. Также стоит отметить, что все время работы всех алгоритмов (время, необходимое для выполнения одного прогона) было примерно одинаковым (около 3-5 минут). Одной из целей данной работы было определение наиболее информативных входов для этих задач, т. е. определение самых значимых факторов для поступления и сдачи первой экзаменационной сессии. Так, например, наилучший результат (98,7 % правильно классифицированных данных) для задачи с тремя классами был достигнут методом SVM+COBRA при учете следующих входных параметров: вид образовательного учреждения, оконченного абитуриентом, возраст абитуриента, баллы за ЕГЭ по информатике. Для первой же задачи наилучший результат достигался при учете тех же входных параметров, только вместо баллов за ЕГЭ по информатике включались баллы за ЕГЭ по математике. Обращает на себя внимание тот факт, что существенным фактором оказался возраст, хотя, казалось бы, у абитуриентов он практически одинаков. Объяснением этого может быть тот факт, что более старшие абитуриенты, окончившие школу не в текущем году, а ранее, менее успешны при поступлении и дальнейшем обучении. Очевидно, что среди таких поступающих значительная доля не поступивших в прошлые годы или поступивших и отчисленных после первых сессий, т. е. менее пригодных для обучения в вузе. Заключение. Таким образом, были решены две задачи классификации успешности поступления и учебной деятельности абитуриентов тремя различными способами: методом опорных векторов, нейронными сетями и системами на нечеткой логике, настроенными бионическими, а также генетическими алгоритмами. В итоге было установлено, что для решения обеих задач необходимо учитывать следующие факторы: вид образовательного учреждения, оконченного абитуриентом, и его возраст. Кроме того, в зависимости от решаемой задачи следует также использовать сведения о баллах за ЕГЭ либо по математике (для задачи с 2 классами), либо по информатике (соответственно, для второй задачи с 3 классами).

Об авторах

Шахназ Агасувар кызы Ахмедова

Сибирский государственный аэрокосмический университет имени академика М.Ф. Решетнева

Email: shahnaz@inbox.ru
магистр техники и технологий, младший научный сотрудник

Софья Романовна Вишневская

Сибирский государственный аэрокосмический университет имени академика М.Ф. Решетнева

Email: vishni@ngs.ru
кандидат технических наук, доцент, заведующая кафедрой высшей математики

Александра Андреевна Коромыслова

Сибирский государственный аэрокосмический университет имени академика М.Ф. Решетнева

Email: akoromyslova@mail.ru
магистрант

Список литературы

Дополнительные файлы