On maximum likelihood estimation of characteristics of stationary stochastic process with exponential correlation function

Abstract

We discuss a simple algorithm for evaluating the characteristics of a stationary stochastic process with exponential correlation function which does not require solving a system of nonlinear equations.

Full Text

Как известно, оценки максимального правдоподобия при выполнении определенных условий обладают важными свойствами в теории оценивания. Они являются состоятельными, асимптотически нормальными и асимптотически эффективными. При заданном наборе выборочных данных, представляющих собой случайные величины, функция правдоподобия - это плотность совместного распределения этих величин, рассматриваемая как функция интересующих нас параметров. Известно, что если случайные величины независимы, то совместная плотность распределения равна произведению плотностей распределения. Пусть - стационарный случайный процесс с математическим ожиданием , дисперсией и нормированной корреляционной функцией . Закон распределения процесса - нормальный. Имеется выборка значений этого процесса . Выборочные данные имеют следующие характеристики: , , , , где - шаг дискретизации; - математическое ожидание; - дисперсия. Осуществляя процедуру «отбеливания», сформируем независимые случайные величины. Сформируем из исходных выборочных данных выборку величин: Эти величины имеют следующие характеристики: Данные величины некоррелированы и имеют нормальный закон распределения. Получим функцию правдоподобия - совместный закон распределения этих величин: где Будем искать оценки параметров , и исходя из обеспечения максимума функции правдоподобия. Для этого необходимо выполнить необходимые условия экстремума функции: С учетом выражения Ошибка: источник перёкрестной ссылки не найден эти условия сведутся к следующим: , , . Условие с учетом выражения примет следующий вид: . Обеспечим выполнение условия Ошибка: источник перёкрестной ссылки не найден путем подстановки выражения Ошибка: источник перёкрестной ссылки не найден в соотношение Ошибка: источник перёкрестной ссылки не найден: . Преобразовав полученное выражение, получим, что условие Ошибка: источник перёкрестной ссылки не найден будет выполнено при . Введем обозначения: Перепишем соотношение Ошибка: источник перёкрестной ссылки не найден в более простом виде: . Теперь обеспечим условие Ошибка: источник перёкрестной ссылки не найден, которое с учетом выражения Ошибка: источник перёкрестной ссылки не найден примет вид . С учетом выражений Ошибка: источник перёкрестной ссылки не найден и Ошибка: источник перёкрестной ссылки не найден будем иметь: . Отсюда находим оценку значения параметра : . Обратимся к соотношению Ошибка: источник перёкрестной ссылки не найден, которое на основании выражений Ошибка: источник перёкрестной ссылки не найден и Ошибка: источник перёкрестной ссылки не найден приведем к виду . Тогда с учетом выражения Ошибка: источник перёкрестной ссылки не найден имеем следующую оценку дисперсии: . Таким образом, оценивание параметров процесса осуществляется по соотношениям Ошибка: источник перёкрестной ссылки не найден, Ошибка: источник перёкрестной ссылки не найден, Ошибка: источник перёкрестной ссылки не найден и Ошибка: источник перёкрестной ссылки не найден. Для определения статистических погрешностей необходимо вычислить среднеквадратическое отклонение полученных оценок. Так как полученные оценки максимального правдоподобия получаются путем усреднения, данный алгоритм оценивания является традиционным. Оценки, полученные такими методами, обладают общими свойствами и соответствуют основным свойствам метода правдоподобного оценивания. Преимущества метода максимального правдоподобия общеизвестны, но его широкое использование сдерживается сложностью вычислений. Данный подход позволяет существенно сократить вычислительную сложность и сделать метод максимального правдоподобия приемлимым для широкого использования в вопросах оценивания. Преимущество разработанного алгоритма заключается в уменьшении количества вычислительных процедур, а также в исключении погрешностей, которые неизбежно возникают при решении системы уравнений численными методами.