5.6.3. Проверка гипотез о порядке процесса авторегрессии

Порядок стохастического разностного уравнения определяется входящим в него (с ненулевым коэффициентом) переменным, имеющим наибольшее запаздывание. При той форме записи уравнения, которуюмы используем, порядок равен просто Если не считать влияния «независимых переменных» то непосредственно на значение влияет самое большее запаздывающих переменных, именно Поэтому для прогнозирования следует использовать только такие переменные»

В связи с этим представляет интерес определение порядка модели авторегрессии. Мы исследуем эту задачу для разностного уравнения

Уравнения для оценок параметров имеют в этом случае вид

где

задается соотношением (17) из § 6.4. [Уравнения (13) соответствуют (18) из § 5.4.]

Рассмотрим сначала задачу выбора между решениями о том, что порядок уравнения равен или соответственно. Иными словами, требуется решить, будет ли Мы поставим эту задачу как задачу проверки нулевой гипотезы против альтернативы Критерий отношения правдоподобия будет здесь аналогичен двустороннему -критерию, использовавшемуся при исследовании регрессии. Мы отвергнем нулевую гипотезу, если

где двусторонняя -процентная точка стандартного нормального распределения. При достаточно больших значениях уровень значимости этого критерия будет близок к

Пусть нулевая гипотеза неверна. В общем случае мы имеем

где F выражается соотношением (37) § Статистика критерия, стоящая в левой части (16), ведет себя примерно как Это утверждение можно сделать строгим и использовать его для доказательства состоятельности указанного критерия. Иными словами, можно доказать, что для заданной альтернативы вероятность отвергнуть нулевую гипотезу с ростом приближается к единице.

Больший интерес может представлять изучение мощности указанного критерия для последовательности конкурирующих гипотез такой, что

(при этом предполагаются фиксированными, а например, нормально распределенными). Тогда имеет в пределе нормальное распределение с единичной дисперсией и средним, равным Для того чтобы сделать это утверждение (а вместе с ним и ряд последующих) строгим, надо было бы доказать, что имеет в пределе нормальное распределение с матрицей средних и ковариационной матрицей, соответствующей В, если для надлежащим образом выбранной матрицы В. (Здесь относятся к векторному марковскому случаю.)

Лемма 5.6.1. Если то

Доказательство. Прежде всего мы имеем (см. упр. 8 гл. 2)

В стационарном случае величины

при соответствуют вполне определенному разностному уравнению порядка и они должны удовлетворять следующему соотношению [см. (48) из § 5.21:

Соотношение (20) принимает при этом вид [см. (47) из § 5,2]

Это и доказывает лемму.

В свою очередь доказанная лемма приводит к следующей теореме.

Теорема 5.6.1. Если то в условиях теоремы 5.5.7 статистика имеет в пределе при нормальное распределение с нулевым средним и единичной дисперсией.

Рассмотрим теперь задачу проверки нулевой гипотезы о том, что порядок стохастического разностного уравнения равен против конкурирующей гипотезы, состоящей в том, что порядок этого уравнения равен Пусть матрица разбита на блоки с выделением тир — строк и столбцов и пусть соответствующим образом разбивается вектор так что

Тогда статистика критерия отношения правдоподобия для проверки гипотезы о том, что будет монотонной функцией статистики

имеющей в случае истинности нулевой гипотезы предельное -рас-пределение с степенями свободы. Имеющаяся здесь аналогия с обычными регрессионными методами позволяет предположить, что мощность этого критерия зависит главным образом от некоторой функции параметров, измеряющей увеличение среднеквадратичной ошибки прогнозирования из-за использования составляющих вместо [См. § 2.5. Это было отмечено А. Уолкером (1952).]

Другой подход к проверке гипотезы о том, что был предложен Кенуем (1947) и развит затем Бартлеттом и Дианандой (1950), а также другими авторами. Для простоты изложения положим и используем в связи с этим матрицу А вместо А. Если является стационарным процессом авторегрессии произвольного порядка, например с коэффициентами то величины

имеют нулевые средние и матрица их ковариаций (порядка ) равна Из теоремы 5.5.5 вытекает, что имеют в пределе совместное нормальное распределение. Если нормально распределены, то предельное совместное распределение любого набора случайных иеличин совпадает с распределением аналогичного набора случайных величин При этом совместное распределение случайных величин

является в пределе нормальным. При любом оно имеет нулевое среднее. Ковариации его вычисляются с использованием соотношения

полученного с помощью (47) и (48) § 5.2, и равны

Таким образом, при нулевой гипотезе совместное распределение случайных величин имеет нулевое среднее и единичную матрицу ковариаций. В пределе при это распределение является стандартным нормальным.

Исходя из указанных результатов, статистики можно было бы использовать для проверки гипотезы при известных значениях поскольку статистика

имеет -распределение с степенями свободы. Для большей эффективности этой процедуры А. Уолкер (1952) предложил добавлять еще одну статистику с тем, чтобы предельное распределение критерия было -распределением с степенями свободы.

Для проверки гипотезы при неизвестных значениях остальных параметров было предложено использовать статистику (30) в несколько измененном виде с заменой неизвестных

параметров в (30) их оценками. Положим

где оценки максимального правдоподобия, указанные в § 5.4 (с заменой Рассмотрим критерий и убедимся в том, что при нулевой гипотезе он асимптотачески эквивалентен критерию (30). Действительно, поскольку является состоятельной оценкой для и то

Поэтому

Поскольку к тому же (построенная в предположении, что порядок стохастического разностного уравнения равен является состоятельной оценкой для при нулевой гипотезе, то из этих двух фактов и следует упомянутая асимптотическая эквивалентность.

Теорема 5.6.2. Если все корни характеристического уравнения, соответствующего стохастическому разностному уравнению,

порядка лежат в единичном круге, то статистика

имеет в пределе -распределение с степенями свободы. Здесь определяется соотношением (31), является оценкой для соответствующей указанному разностному уравнению.

Свяжем теперь оба описанных подхода к задаче проверки гипотезы о порядке стохастического разностного уравнения.

Лемма 5.6.2. Если то

где оценка для в предположении, что процесс имеет порядок оценка для указанная ниже, в (45).

Доказательство. Пусть матрица сумм квадратов и перекрестных произведений с элементами

разбита на блоки следующим образом:

Тогда оценкой вектора в предположении, что разностное уравнение имеет порядок будет

Если выразить через указанные блоки матрицы А, то получим

Уравнения для оценок величин использующих разностное уравнение порядка, имеют вид

т. е.

[Отметим, что последние соответствуют уравнениям (29) и (30) из § 5.4.1 Если умножить (42) на и вычесть результат из (43), то получим соотношение

правая часть которого равна Коэффициент при в левой части в раз больше величины

асимптотически эквивалентной от (основанной на уравнении порядка Соответствующие суммы в матрицах, определяющих отличаются только крайними членами. Это и доказывает лемму.

Лемма 5.6.3. Если то

Доказательство. Из доказательства леммы 5.6.2 видно, что является отношением правой части нормального уравнения к

коэффициенту при если предварительно из системы нормальных уравнений исключить первые неизвестных Таким образом, мы имеем ситуацию, подобную соотношению (20) § 2.3, где

В данном случае коэффициент при равен определяется соотношением (45) при . Поэтому, как показано в § 2.3, числитель уменьшаемого в (46) равен

Для завершения доказательства остается только заметить, что

Теорема 5.6.3. Если то разности между (25), (30), (35) и

стремятся по вероятности к нулю при

Доказательство. Это вытекает из лемм 5.6.2, 5.6.3 и из соотношений (48) и

Если справедлива нулевая гипотеза, то каждый из этих критериев при имеет в пределе -распределение с степенями свободы. Если то матрица А заменяется на А.

В критерии 2 можно брать также величины определенные следующим образом:

Эти статистики имеют нулевые средние и дисперсии Они не коррелированы, а их предельное совместное распределение является нормальным. Однако если в таком определении параметры заменить их оценками, то соответствующее предельное распределение изменится.

А. Уолкер (1952) рассмотрел предельную мощность перечисленных критериев против альтернатив, сближающихся с нулевой гипотезой.

Указанная асимптотическая теория не изменяется при изменении крайних членов сумм. В частности, при матрицу можно заменить матрицей

где определяются соотношениями (24) § 5.4 при наблюдениях . В свою очередь могут быть заменены отношениями Отметим, что уравнение (44) настоящего параграфа соответствует уравнению (31) § 5.4 (с переставленными индексами

Пусть матрица С разбита на блоки,

Тогда частная корреляция между при фиксированных равна

Нормальные уравнения для оценки использующие в качестве оценок для а статистики имеют вид

Решением (54) относительно является (53). Таким образом, с точностью до эффекта, вносимого крайними членами, оценка параметра в предположении, что порядок равен совпадает с коэффициентом частной корреляции между при фиксированных значениях

Теперь следует рассмотреть вопрос о выборе надлежащей степени стохастического разностного уравнения. Аналогия с обычной регрессией (§ 3.2) наводит на мысль о том, что если исследователь

в состоянии установить наибольший и наименьший возможные порядки уравнения, то он может последовательно проверять гипотезы Мы изучим этот вопрос в гл. 6 с помощью видоизмененной модели, позволяющей использовать точную теорию, подобную теории § 3.2.

При больших можно использовать ту же теорию, что и в предположении нормальности. Максимальный порядок может быть выбран достаточно большим, скажем или 774, если значения берутся достаточно малыми, такими, как Ряды изучаются, как правило, по той причине, что наблюдения оказываются зависимыми. Поэтому минимальный порядок следует выбирать положительным, но малым, например равным 2. Для проверки гипотезы при больших выборках нужна только оценка Фактически для выполнения процедуры со многими решениями здесь нужны только оценки для и для тех меньших значений при которых гипотеза еще принимается, вплоть до значения при котором она впервые отвергается. Вычисление этих оценок исходя из рассматривается в § 5.4. Необходимые статистики можно также получить при прямом решении уравнения