12.3. Авторегрессия произвольного порядка
В полной аналогии с (12.6) для авторегрессии
порядка можно записать, что
(12.12)
где
начальные условия,
(12.13)
где
Вектор X при нормальных и независимых «возмущениях» (см. комментарии к (12.5)) распределен по нормальному закону со средним X, удовлетворяющим уравнению
(12.14)
где
и с ковариационной матрицей
(12.15)
Решение уравнения (12.14) (точнее, его k-ю компоненту) можно представить в виде
где
— корень уравнения
(12.17)
— кратность этого корня,
— количество различных корней, константы
определяются из начальных условий. Уравнение (12.17) является характеристическим для разностного уравнения
которое, впрочем, эквивалентно матричному уравнению
При
решение (12.16), конечно же, совпадает с уже упоминавшимся в предыдущем параграфе решением
Из (12.12), (12.14), (12.15) следует, что плотность распределения для вектора X может быть представлена в виде
(12.18)
Так же как и при
полезно иметь в виду, что
.
С учетом (12.18) оценки максимального правдоподобия
имеют вид (ср. с (12.10) и (12.11)):
(12.19)
где компоненты матрицы
и вектора
определяются соотношениями:
(12.20)
Формулы (12.19) и (12.20) полностью аналогичны (12.10), (12.11), так что для отыскания
и могут быть использованы стандартные программы метода наименьших квадратов.
Следует, однако, иметь в виду, что матрица М в задачах авторегрессии, как правило, оказывается плохо обусловленной (см. гл. 8).
Асимптотическое поведение компонент
векторной оценки
определяется значениями корней уравнения (12.17). Наиболее хорошо изучен случай, когда все корни по модулю меньше единицы:
(см., например, [21, гл. 5]). При этом предположение о нормальности распределения «возмущений» оказывается несущественным.
Если все корни характеристического уравнения (12.17) по модулю меньше единицы, а случайные «возмущения»
независимы,
и имеют одинаковые распределения, то оценки (12.19) и (12.20) состоятельные. Более того [21], случайная величина
имеет в пределе нормальное распределение с нулевым средним и ковариационной матрицей
где
Так же как и в предыдущем параграфе, асимптотическая дисперсия оценок не зависит от дисперсии «возмущений»
целиком определяется истинными значениями параметров
.
В практических задачах полезно иметь в виду, что матрица
(см. (12.19)) является состоятельной оценкой матрицы А.
В неустойчивом случае (по крайней мере один из корней характеристического уравнения по модулю больше единицы) оценки (12.19) и (12.20) по-прежнему состоятельны, однако предельное распределение оценок (12.19) уже не является нормальным (см., например, [21, §5.5]).
Если все корни характеристического уравнения по модулю -больше единицы, то матрица
имеет предельное распределение, которое определяется распределением случайных «возмущений»
(см. [155]). В этом утверждении
получается из В заменой истинных значений параметров
их оценками