3.4.1. Авторегрессионные модели случайных последовательностей

Пусть последовательность СВ удовлетворяет стохастическому уравнению

,                                (3.16)

с начальным условием , где  и  – некоторые функции;  – заданная последовательность независимых СВ, называемая порождающей или возмущающей последовательностью. Уравнение (3.16) представляет собой простейшую авторегрессионную модель СП   [20].

Рис. 3.6. Процессы авторегрессии первого порядка

В качестве возмущающей последовательности чаще всего используется последовательность стандартных независимых гауссовских СВ. В случае линейности функции  процесс  также будет гауссовским, а при соответствующем выборе нелинейных функций и негауссовских возмущений можно получить широкий класс негауссовских процессов [4, 28].

Примером марковской СП может быть процесс авторегрессии 1-го порядка, полученный с помощью линейного преобразования последовательности  независимых гауссовских СВ  по следующему правилу:

                                           (3.17)

где . Каждое очередное значение  содержит часть предыдущего  и добавку в виде независимой СВ  [2, 5].

На рис. 3.6 представлены типичные графики реализаций такого процесса при различных значениях параметра , входящего в модель (3.17). Во всех случаях параметр , влияющий только на масштаб по оси ординат, выбран равным единице. Из этих рисунков видно, что при , близких к единице, процесс становится более гладким; при малых  , напротив, значения процесса слабо зависимы между собой; при отрицательных  корреляция между соседними значениями процесса отрицательна, поэтому он часто меняет знак.

При выборе начального значения , обеспечивающего стационарность и постоянство дисперсии , параметр  равен коэффициенту корреляции между любыми двумя соседними значениями СП. Действительно, умножая левую и правую часть (3.17) на  и находя математическое ожидание, получим  или .

Повторяя аналогичные операции после подстановки в уравнение (3.17)  можно записать следующую формулу для КФ:

,

где .

Таким образом, СП (3.1) имеет экспоненциальную КФ. В то же время СП (3.17) является марковской, поскольку любые вероятностные характеристики значения  полностью определяются только предшествующим значением СП . При заданном  формула (3.17) позволяет найти все характеристики  без учета предыстории, т. е. значений  СП. Так, условная ПРВ

                                                                                      (3.18)

может быть получена из ПРВ  с учетом связи  и правил нахождения ПРВ функций СВ. Легко записать выражение и для совместного распределения произвольного числа  членов рассмотренной марковской СП:

.   (3.19)

Поскольку вид всех ПРВ перехода (3.18) не зависит от номера члена СП, то уравнение (3.17) представляет однородную марковскую СП. Для стационарности необходимо выбрать СВ  таким образом, чтобы все безусловные ПРВ  были одинаковыми. Проведенный анализ (3.17) показывает, что в стационарном случае все члены  последовательности имеют нулевое среднее и дисперсию . Кроме того, CП  гауссовская, так как получена в результате линейного преобразования (1.42) гауссовских СВ . Таким образом, ПРВ всех значений стационарной последовательности (3.17) будут иметь следующий вид: . При этом начальное значение  формируется как нормальная СВ с нулевым средним и дисперсией , а последующие члены последовательности образуются в соответствии с рекуррентным соотношением (3.17).

Уравнения  вида (3.17), которые часто называются уравнениями авторегрессии или стохастическими разностными уравнениями, представляют весьма узкий класс гауссовских марковских СП с экспоненциальной КФ. Вместе с тем имеются различные возможности для существенного расширения этого класса [2, 5, 20]. Одной из них является описание СП с помощью авторегрессионных (АР) уравнений более высокого порядка:

,                           (3.20)

где порядок авторегрессии. С помощью подбора коэффициентов  можно получить гауссовские СП , с разнообразными корреляционными свойствами [2]. Действительно, умножая (3.19) на  и находя математические ожидания, получим после деления на , следующее соотношение для значений КФ:

                       (3.21)

Общее решение этого разностного уравнения в стационарном случае представляется суммой экспонент [33]:

,

где ; , - корни характеристического уравнения . Требование стационарности СП (3.20) выполняется, если , т.е. когда все корни  характеристического уравнения лежат внутри единичного круга на комплексной плоскости.

Подставляя в (3.21) значения  получим известную систему уравнений Юла-Уокера [2, 5]:

Решение этой системы позволяет найти коэффициенты  уравнения авторегрессии (3.20) по заданным или оцененным на основе эксперимента значениям  КФ СП.

В качестве примера рассмотрим процесс авторегрессии второго порядка: . Для стационарности процесса необходимо, чтобы корни характеристического уравнения  лежали внутри единичного круга, т. е. чтобы параметры  и  находились в треугольной области, показанной на рис. 3.7 [2, 5].

Рис. 3.7. Область значений коэффициентов  и  стационарного СП

Значения КФ стационарной СП связаны между собой рекуррентным соотношением , с начальными условиями  и . Из этого соотношения следует, что

,

где , ;  и  - корни  характеристического уравнения; ; . Дисперсия СП находится по формуле: . Система двух уравнений Юла-Уокера  позволяет определить коэффициенты  и  уравнения авторегрессии по заданным или измеренным значениям  и  КФ.

Вид КФ определяется областью треугольника допустимых значений коэффициентов  и , (рис. 3.7). Если , корни характеристического уравнения действительны и КФ представляет сумму двух затухающих экспонент. При  (область I на рис. 3.7) корни имеют разные знаки: . Отрицательному корню соответствует осциллирующее слагаемое . Однако в области I коэффициент  и КФ  не изменяет знака. Во второй области, показанной на рис. 3.7, оба корня положительны и КФ монотонно убывает. На одной границе области II  авторегрессия имеет первый порядок и .

На другой границе, где  характеристическое уравнение имеет кратный корень . В этом случае выражение для КФ запишется в таком виде: , где . В третьей области рис. 3.7 корни характеристического уравнения комплексные и КФ определяется по следующей формуле: , где , . При этом графики КФ имеют вид синусоиды с экспоненциальным уменьшением амплитуды.

Рис. 3.8. Корреляционные функции при

Рис. 3.9. Корреляционные функции при

Для иллюстрации рассмотренных ситуаций на рис. 3.8 и рис. 3.9 представлены зависимости КФ  при различных значениях параметров  и  АР уравнения. При построении зависимостей КФ на рис. 3.8 коэффициенты  подбирались из различных областей треугольнике допустимых значений (рис. 3.7), но с учетом дополнительного условия . Для всех КФ, представленных на рис. 3.9, таким дополнительным условием является один и тот же интервал корреляции  на уровне , т.е.  [5].