5.4.2. Выборочные оценки среднего правдоподобия для параметров авторегрессии

Так как функция правдоподобия (5.4.2) является с точностью до множителя многомерной нормальной плотностью, то с первого взгляда могло бы показаться, что ее можно адекватно описать с помощью средних значений и ковариаций, как указано в разд. 4.4.1. Однако если выборочные оценки максимального правдоподобия лежат близко к границам области стационарности, то функция правдоподобия обрезается и требуется другой подход.

Выборочные оценки среднего правдоподобия для процесса авторегрессии первого порядка. Для иллюстрации рассмотрим процесс авторегрессии первого порядка с нулевым средним значением

Функцию правдоподобия (5.4.2) можно в этом случае записать в виде

где

является выборочной оценкой максимального правдоподобия для Отсюда видно, что при условии, если известна, функция правдоподобия является с точностью до постоянного множителя нормальной со средним значением и дисперсией

Описание функции правдоподобия (5.4.14) с помощью ее среднего значения и дисперсии было бы адекватным при условии, что область изменения была бы от до Однако в силу того, что модель является стационарной лишь для при описании с помощью нормальной плотности возникают трудности, когда функция правдоподобия имеет максимум вблизи . В таком случае функция правдоподобия резко отсекалась бы в одной из

точек так что аппроксимация с помощью нормального распределения была бы несправедливой.

Методы преобразования правдоподобий, обсуждавшиеся в разд. 4.4.5, также неприменимы, так как не существует преобразования, дающего нормальное распределение, если функция правдоподобия заканчивается ненулевым значением. В этом случае наилучший снособ состоит в вычислении выборочной оценки среднего правдоподобия в интервале определяемой равенством

Подставляя сюда из (5.4.14), получаем

где и -нормальная плотность вероятности и нормальная функция распределения соответственно, — выборочная оценка максимального правдоподобия и

Если неизвестна, то маргинальное правдоподобие для можно получить, интегрируя (5.4.4) с дифференциалом как указывалось в разд. 4.4.6. Можно проверить, что после такого интегрирования получается следующее маргинальное правдоподобие для

Случайная величина, соответствующая (5.4.17), имеет с точностью до постоянного множителя -распределение с степенями свободы. Величина в (5.4.17) является обычной выборочной оценкой полученной по остаточной сумме квадратов, а именно

Можно проверить, что и теперь выборочная оценка среднего правдоподобия задается формулой (5.4.16), но при этом

заменяется на относятся к -распределению с степенями свободы.

Предположим, например, что из временного ряда длины мы получили значения Тогда маргинальная функция правдоподобия для представляет собой усеченное -распределение, как показано на рис. 5.16.

Рис. 5.16. (см. скан) Маргинальная функция правдоподобия для процесса авторегрессии первого порядка.

Используя (5.4.16), где относятся к -распределению с 18 степенями свободы, получаем, что выборочная оценка среднего правдоподобия Заметим, что операция усреднения правдоподобия отодвинула выборочную оценку максимального правдоподобия от границы стационарности.

Для простоты среднее значение временного ряда было положено равным нулю в предыдущих рассуждениях. Можно допустить и ненулевое среднее значение, подставляя вместо Интегрирование по а также по дает маргинальное правдоподобие для которое совпадает с (5.4.17), за исключением того, что

в (5.4.17) заменяется на отклонение от среднего , т. е.

Выборочные оценки среднего правдоподобия для процесса авторегрессии второго порядка. Рассмотрим процесс второго порядка:

Функция правдоподобия равна

Интегрируя по получаем с точностью до малых «концевых» по правок

Следующее интегрирование с дифференциалом дает совместное правдоподобие для ось

В случае когда -ная доверительная область лежит полностью в области стационарности, как, например, на рис. 5.15, функция правдоподобия адекватно описывается своими средними значениями и ковариациями. Если же выборочные оценки максимального правдоподобия лежат близко к границе стационарности, то единственный надежный метод заключается в нанесении линий уровня

правдоподобия. Вместо оценок максимального правдоподобия в этом случае лучше вычислить выборочные оценки среднего правдоподобия. Впрочем, сначала удобно сделать преобразование

С помощью (5.4.20) можно проверить, что в окрестности максимума правдоподобия

и, следовательно, параметры ортогональны.

Преобразование (5.4.21) переводит треугольную область стационарности в квадратную область Теперь можно получить численным методом выборочные оценки среднего правдоподобия, например

где

Выборочные оценки среднего правдоподобия для можно затем получить из с помощью обратного преобразования