5.7. МОДЕЛЬ СКОЛЬЗЯЩЕГО СРЕДНЕГО

5.7.1. Модель

Пусть

где последовательность независимых случайных величин со средними и дисперсиями Тогда и

Такой вид моментов первого и второго порядков определяется по существу только некоррелированностью величин Соотношение (1) можно записать также в виде

где оператор запаздывания

и — линейный оператор, полученный заменой на в выражении

Для произвольного стационарного процесса выражение назовем производящей функцией ковариаций. Ковариация а является коэффициентом при в этом разложении. Для процесса скользящего среднего (1), имеющего ковариации (2), производящая функция ковариаций принимает вид

[Отметим, что это уравнение, а вместе с ним и соотношение (2) могут быть получены из леммы 3.4.1.] Если коэффициенты заданы, то для вычисления ковариаций можно образовать произведение, стоящее в правой части (5), и найти коэффициенты при соответствующих степенях переменной Поскольку действительны, то корни уравнения

либо действительны, либо образуют пары комплексно сопряженных корней. Если [и отсюда ], то корнями уравнения

будут величины

Пусть нам дан произвольный набор значений ковариаций стационарного процесса, причем Если является корнем уравнения (7), то, ввиду того что корнем (7) будет также и Если корень по абсолютной величине меньше 1, то кратности этого корня и корня, обратного ему, совпадают (по той причине, что в этом случае при обращении в нуль производной некоторого порядка в точке та же производная будет обращаться в нуль и в точке Таким образом, корни, отличные по абсолютной величине от единицы, можно объединить в пары Более того, любой корень, лежащий на единичной окружности, должен иметь четную кратность. Дело в том, что если например то является при этом спектральной плотностью, и поэтому

она будет действительной и неотрицательной (§ 7.3). (См. упр. 35.) Корни уравнения (7) можно перенумеровать и разбить на два таких множества что если то а если то Поскольку коэффициенты в (7) действительны, то эти корни действительны или попарно сопряжены. Поэтому

имеет действительные коэффициенты и (5) остается в силе, если заменить на Таким образом, последовательность ковариаций у которой а может быть порождена с помощью процесса конечного скользящего среднего (1), имеющего коэффициенты

Если заданы ковариации или дисперсия а (0) и корреляции то коэффициенты соответствующей процесса скользящего среднего можно получить, исходя из изложенного, следующим образом. Решая уравнение (7), получаем значения Затем образуем сумму и находим коэффициенты при степенях z.

Если все корни уравнения (6) лежат в единичном круге, то ряд

сходится при Мы можем записать

Если все корни (6) лежат в единичном круге, то (10) будет сходиться в среднеквадратичном. Здесь можно использовать доводы, аналогичные применявшимся в § 5.2 для доказательства сходимости в среднем ряда (28). [См. также (34) — (36) из § 7.5.] Фактически если все корни различны, то где константы выбраны надлежащим образом. [См. (39) — (41) § 5.2.] Отметим, что последнему условию не удовлетворяют такие простые модели, как среднее и разность

5.7.2. Оценивание параметров

Если случайные величины распределены нормально, то наблюдения будут нормально распределенными с нулевыми средними и ковариациями (2). Мы займемся сейчас оцениванием

параметров рассматриваемой модели по наблюдениям: . К сожалению, хотя ковариационная матрица имеет простой вид, этого нельзя сказать об обратной к ней матрице. Действительно, минимальное достаточное множество статистик состоит здесь из компонент, а уравнения максимального правдоподобия весьма сложны и не могут быть решены непосредственно. [См. упр. 4 и 5 гл. 6.] Подход, которому следовал А. Уолкер (1961), состоит в применении метода максимального правдоподобия, когда распределение некоторых выборочных корреляций близко к нормальному. Как будет показано в теореме 5.7.1, вектор имеет в пределе нормальное распределение с нулевым средним и ковариациями являющимися функциями от корреляций Соответствующие выборочные корреляции равны где

Здесь фиксировано. По сути дела, тот факт, что максимизируется распределение выборочных корреляций, близкое к нормальному, служит здесь лишь мотивировкой для получения соответствующих уравнений относительно оценок. Свойства же процедур оценивания не зависят от этого приближения.

Положим Логарифм функции, приближающей функцию правдоподобия относительно выражается формулой

где

разбиты на блоки с строками и столбцами. Вектор частных производных равен

Приравняем этот вектор нулевому. Поскольку имеют в пределе нормальное распределение, нормируем полученное уравнение делением обеих частей на . Первые два члена в результирующем уравнении будут иметь порядок и сходиться по вероятности к нулю. Учитывая это, приходим к следующему соотношению для оценки вектора

(См. упр. 8 гл. 2.) Процедура оценивания состоит в том, что используется в качестве состоятельной оценки для затем вычисляется оценивается по формуле

Статистика вычисленная согласно (16), будет иметь то же самое предельное распределение, что и статистика вычисленная в соответствии с (15), а именно нормальное распределение с нулевым средним и ковариационной матрицей

Указанную процедуру можно выполнять с помощью итерационного процесса. Пусть начальная состоятельная оценка. Тогда последовательные итерации имеют вид

Уолкер приводит соответствующий пример для ряда из 100 наблюдений, полученного Дурбином (1959) с помощью модели, в которой Первые пять выборочных корреляций равны 0.35005, —0.06174, —0.08007, —0.14116 и —0.15629. Матрица полученная из матрицы ковариаций первых пяти корреляций, равна

где Для формула (15) принимает вид

В качестве нулевого приближения берем Тогда

Оценка стандартного отклонения асимптотического распределения равна

Следует заметить, что (17) — монотонная функция от в том смысле, что для каждого х квадратичная форма не убывает с ростом Точнее говоря, выражение является дисперсией предельного нормального распределения статистики при использовании Эта асимптотическая дисперсия не убывает по для каждого х. При этом предполагается, что выбирается достаточно большим берется достаточно большим для того, чтобы соответствующие распределения хорошо аппроксимировались нормальным).

Оценки величин и можно использовать для вычисления оценок параметров Тогда вектор будет иметь предельное нормальное распределение.

Иной подход был использован Дурбином (1959). Он предложил бесконечную сумму (10) аппроксимировать конечной суммой

где достаточно велико. (Заметим, что Последовательность образует процесс конечного скользящего среднего. (Представление (22) фактически соответствует из § 5.2 с надлежащими изменениями в обозначениях. Так, заменяются на затем на а получающаяся в результате линейная комбинация переменных переносится в левую часть.) Статистика состоит из и линейной комбинации статистик Коэффициенты последней будут малы, если велико. Они являются линейными комбинациями величин определяемых соотношениями (9) или (10). Последние представляют собой линейные комбинации степеней по корней уравнения о которых предполагается, что все они лежат в

едиличном круге. [См. (14) или (22) и (26) § 5.2.] Отсюда следует, что при больших случайные величины будут близки к некоррелированным, а (22), грубо говоря, будет стохастическим разностным уравнением. Это наводит на мысль о том, что вектор следует оценивать исходя из уравнения

Последнее можно записать в эквивалентной форме с помощью корреляций Теорема 5.7.1 утверждает, что вектор имеет в пределе нормальное распределение и Поэтому нормальное распределение имеет в пределе и вектор где и

Величины определены в (2). Вектор является аппроксимирующим для у (компоненты последнего определены в (9)). Отметим, что Сходство соотношения (22) со стохастическим разностным уравнением приводит к предположению о том, что указанное предельное распределение имеет ковариационную матрицу, близкую к матрице, получающейся умножением матрицы, обратной к 2, на Но тогда аппроксимирующая плотность должна иметь в показателе экспоненты квадратичную форму, равную умноженной на форме

где Если 2 и а соответствуют процессу авторегрессии порядка , то а (0) будет дисперсией этого процесса. [В § 5.2 соотношение (47) можно записать в виде в виде где индекс а указывает на процесс авторегрессии, изучаемый в настоящем разделе, и замену на Заменим в (25) на . Тогда квадратичная форма в показателе экспоненты аппроксимирующей плотности будет равна умноженной на форме

(см. скан)

если Приравнивая нулю производные последней по получаем.

Эти уравнения совпадают с теми, которые можно было бы получить для коэффициентов стохастического разностного уравнения, если бы наблюдениями были соответственно Решение этих уравнений является состоятельной оценкой вектора а, который в свою очередь является решением уравнения (27), если в последнем заменить у на Вектор а приближенно равен вектору

При и фиксированном вектор имеет в пределе нормальное распределение.

Значения к которым сходятся по вероятности могут отличаться от но, по-видимому, это отличие будет незначительным, если велико.