Глава 5. ЛИНЕЙНЫЕ ВЕРОЯТНОСТНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

5.1. ВВЕДЕНИЕ

Обратимся теперь к моделям образования временных рядов, в которых характеристические и наиболее существенные свойства временной последовательности не сводятся к детерминированной функции среднего значения, а заключены в самой вероятностной структуре. В этом случае, например, уже не будет регулярных периодических циклов, а будут более или менее нерегулярные случайные изменения с теми или иными статистическими свойствами вариабельности. Такие модели обычно называют случайными процессами. Процессы, вероятностная структура которых не изменяется со временем, называются стационарными. (Более полно стационарные случайные процессы рассматриваются в гл. 7). В этой книге мы в основном изучаем процессы, которые или стационарны (близки к стационарным), или же таковы, что по крайней мере их случайная составляющая может приближенно считаться стационарной (в отличие от детерминированным образом меняющейся функции среднего значения).

Одной из наиболее простых и, по-видимому, наиболее часто используемой моделью такого рода является процесс авторегрессии, или стохастическое разностное уравнение. О последовательности случайных величин говорят, что она удовлетворяет стохастическому разностному уравнению, если существует такая линейная комбинация

что последовательность является последовательностью независимых и одинаково распределенных случайных величин. (При этом мы часто будем предполагать Это определение удобно распространить на бесконечные в обе стороны

последовательности связанные с бесконечной в обе стороны последовательностью Такие процессы также называются процессами авторегрессии.

Используя оператор (действующий по правилу соотношение (1) можно представить в виде

Поскольку то оператор, применяемый в (2) к можно записать иначе как полином степени от А, так что левая часть (1) будет линейной комбинацией величин Поэтому при соотношение (1) называется стохастическим разностным уравнением порядка соответствующем процессе говорят как о процессе авторегрессии порядка Разностный оператор А обсуждался ранее в § 3.4.

Стохастическое разностное уравнение (1) можно представлять и иначе. Если случайная величина не зависит от то условное распределение случайной величины при заданных значениях совпадает с распределением величины Поэтому совместное распределение случайных величин можно получить, зная распределение и совместное распределение величин

Если задать распределение случайной величины (одинаковое для всех и совместное распределение любых последовательных величин то последовательным применением указанной процедуры можно получить совместное распределение для любого числа последующих . В следующем параграфе мы получим условия, при которых процесс, определяемый таким способом, будет стационарным (и при которых не будет зависеть от

Приведенная модель полезна тем, что с ее помощью можно получить весьма обширный класс процессов. Влияние тренда легко учесть, добавляя в левую часть соотношения (1) слагаемое в котором известные величины (функции времени). Мы изучим некоторые свойства подобных моделей в § 5.2.

Многие задачи статистического вывода связаны с конечным числом параметров и дисперсией случайной величины . Они могут состоять, например, в оценке указанных параметров и проверке гипотез относительно значений последних. При большой длине наблюдаемого ряда эти задачи могут быть рассмотрены в асимптотическом плане в соответствии с теорией наименьших квадратов, обзор которой был сделан в гл. 2. Теория сериальной корреляции для малых выборок рассматривается в гл. 6.

Другой простой моделью стационарного процесса является скользящее среднее

Здесь независимые одинаково распределенные случайные величины. Эту модель можно объединить с моделью, рассматривавшейся ранее, приравнивая левую часть соотношения (1) правой части соотношения (3). Иными словами, возмущающий фактор в уравнении (1) будет при этом скользящим средним, определяемым правой частью (3). Каждую из описанных моделей можно модифицировать. Для этого предположим, например, что наблюдаемый процесс складывается из процесса, порождаемого одной из этих моделей, и независимой случайной «ошибки». Тогда члены наблюдаемой последовательности имеют вид где последовательность независимых одинаково распределенных случайных величин. Статистические выводы во всех получаемых таким образом моделях сложнее (даже в асимптотическом плане), чем в случае процесса авторегрессии.

Если все совместные распределения нормальны, то совместное нормальное распределение случайных величин полностью определяется заданием их средних, дисперсий и ковариаций. Если процесс к тому же стационарный, то эти распределения будут полностью определяться заданием среднего и дисперсии случайной величины и коэффициентами в случае (1), среднего и дисперсии случайной величины и коэффициентами в случае (3), среднего и дисперсии случайной величины и коэффициентами в комбинированной модели. Если введенным выше определениям удовлетворяют лишь первые и вторые моменты, то иногда говорят, что эти определения выполняются в широком смысле. Например, говорят, что последовательность удовлетворяет стохастическому разностному уравнению в широком смысле, если величины определяемые соотношением (1), таковы, что Подобным же образом можно говорить о моделях скользящего среднего и о комбинированных моделях, определенных в широком смысле с помощью величин .

Юл (1927) предложил использовать процесс авторегрессии для анализа временных рядов и применил его к данным о числе солнечных пятен. Уолкер (1931) построил соответствующую теорию и применил ее к анализу атмосферных явлений,