5.2. ПРОЦЕССЫ АВТОРЕГРЕССИИ

5.2.1. Представление временного ряда с помощью бесконечного скользящего среднего

Во введении к этой главе было показано, каким образом по совместному распределению некоторых последовательных величин и по распределению (независимо и одинаково

распределенных) в совокупности с соотношением

можно определить совместное распределение последующих случайных величин Покажем теперь, что каждую случайную величину можно выразить в виде линейной комбинации предшествующих ей случайных величин При выполнении формулируемых ниже условий каждую случайную величину можно представить в виде бесконечной линейной комбинации случайной величины и ей предшествующих случайных величин

Наиболее простым случаем является уравнение первого порядка

Если вместо в это уравнение подставить его выражение (получаемое из заменой на то (2) примет вид

Действуя далее подобным же образом, можно прийти к соотношению

так что

Если бесконечный в обе стороны по стационарный процесс, то эта разность при с ростом становится малой. В частности (если существуют вторые моменты),

не зависит от и с ростом стремится к нулю. В связи с этим здесь записывают в виде

и говорят, что ряд в правой части сходится к в среднем (или в среднеквадратичном). (Сходимость в среднем обсуждается в разд. 7.6.1.)

Вернемся теперь к общему случаю. Запишем соотношение (1) для моментов в виде

Подстановка (9) в (8) дает

Повторяя подобную процедуру раз, получим для выражение

(При каждой подстановке справа остается ровно последовательных Подстановка в (11)

приводит к равенству

Входящие сюда коэффициенты определяются рекуррентными соотношениями

Дальнейшее применение указанной процедуры приводит к представлению

в котором Условия, при которых ряд (15) сходится в переднем, мы выясним ниже. Во всяком случае, соотношения с (11) по (14) справедливы для любого . А это и показывает, что совместное распределение некоторых последовательных и следующих за

ними величин определяет совместное распределение последующих

Указанную процедуру можно изложить и формальным образом. Пусть оператор запаздывания, т. е.

С использованием этого оператора разностное уравнение (1) может быть записано в виде

Тогда формально

где

То есть являются коэффициентами при в разложении

и могут быть определены формальным делением. Убедимся теперь в том, что Имеем

Следует отметить, что коэффициент при в числителе правой части (21) совпадает с коэффициентом при Продолжая этот процесс, получаем

Таким образом, коэффициенты и удовлетворяют тем же рекуррентным соотношениям, что и коэффициенты Поскольку совпадают и начальные условия, отсюда следует, что Уравнение

называется алгебраическим уравнением, присоединенным к Оно имеет корней, которые мы обозначим Если то при корни уравнения

равны Для всех таких, что ряд

сходится (абсолютно). Отсюда и из (22) следует, что

сходится к нулю для (в частности, для ). В силу этого при для каждого Таким образом, величина

сходится к нулю при . А это и означает, что

в смысле сходимости в среднем.

Теорема 5.2.1. Если все корни характеристического уравнения (23), соответствующего стохастическому разностному уравнению (1), по абсолютной величине меньше 1, то представимо бесконечной линейной комбинацией случайных величин

Следствие 5.2.1. Если все корни характеристического уравнения по абсолютной величине меньше то не зависит от

Доказательство. Случайная величина является линейной комбинацией случайных величин а они не зависят от

Рассмотрим кратко случай, когда некоторые корни характеристического уравнения по абсолютной величине превосходят 1. Предположим, что Запишем исследуемое стохастическое разностное уравнение в виде

Обращая (29), получаем

поскольку Каждый член в последнем выражении можно разложить по степеням Члены разложим по степеням Если то весь оператор в правой части (30) будет степенным рядом по так что при этом будут включены образующие бесконечный в обе стороны ряд Если (все корни по абсолютной величине больше 1), то этот оператор будет степенным рядом только по и соответственно будут включены только случайные величины Приведенное рассуждение является чисто формальным. Однако его можно обосновать таким же образом, как это было сделано в случае, когда все корни по абсолютной величине предполагались меньшими единицы. Мы увидим в гл. 7 (упр. 22), что если линейную форму заменить линейной формой (при любых

то остатки также будут некоррелированными (но уже не обязательно независимыми).

Рассмотрим теперь случай, когда имеется только один корень, равный 1,

Предположим, что Тогда

и

Если процесс стационарный, то при этом получаем

Последнее может выполняться для всех только при и поэтому вероятностью 1. Интуитивно ясно, что дисперсия должна возрастать с ростом если только дисперсия не равна нулю, а это противоречит стационарности. Более общим является случай

где Если , то с вероятностью 1. Таким образом,

вероятностью 1 (переменная здесь может быть случайной величиной).

Теорема 5.2.2. Если стационарный случайный процесс удовлетворяет стохастическому разностному уравнению, характеристическое уравнение которого имеет хотя бы один корень, равный единице, то с вероятностью 1 все значения этого процесса совпадают.

Начиная с настоящего момента, мы будем ограничиваться рассмотрением случая, когда все корни характеристического уравнения (23) по абсолютной величине меньше единицы. При этом случайная величина не будет зависеть от и ее можно представить в виде Обратимся теперь к

коэффициентам Из (25) вытекает, что

Здесь мы заменили на Поскольку последнее соотношение является тождеством относительно сходимость рядов равномерна), то коэффициент при в его правой части равен 1, а коэффициенты при положительных степенях равны 0. Запишем это в развернутой форме:

Уравнение (40) является однородным разностным уравнением, соответствующим неоднородному разностному уравнению (1). Если все корни характеристического уравнения (23) различны, то общее решение однородного разностного уравнения (40) имеет вид

При этом если действительно, то действителен и коэффициент Если комплексно сопряжены, то также комплексно сопряжены, а сумма действительна, . В случае наличия кратных корней общее решение можно построить, используя упр. 9 и 10.

Уравнения (39) задают граничных условий. Решая их последовательно, определим Совокупность соотношений (41) для представляет собой систему линейно независимых линейных уравнений с неизвестными Эта система имеет единственное решение. (См. также упр. 4.)

Если то является показательной функцией от Если различны, то

Если действительны, то будет линейной комбинацией двух показательных функций переменного . В противном случае запишем в виде При этом

и коэффициенты

образуют затухающую функцию синусоидального типа, что аналогично (42) для комплексно сопряженных корней.