Глава XII. НАИЛУЧШЕЕ (В СМЫСЛЕ МЕТОДА НАИМЕНЬШИХ КВАДРАТОВ) ЛИНЕЙНОЕ ПРОГНОЗИРОВАНИЕ СТАЦИОНАРНЫХ В ШИРОКОМ СМЫСЛЕ ПРОЦЕССОВ

§ 1. Общие принципы (случай дискретного параметра)

Пусть стационарный в широком смысле процесс со спектральной функцией . В дальнейшем меру множеств мы будем кратко называть «мерой Это есть мера Лебега-Стильтьеса на оси соответствующие измеримые множества и измеримые функции мы будем называть множествами и функциями, измеримыми относительно (они, очевидно, включают все борелевские множества и все беровские функции). Нам будет удобно ввести специальные обозначения для некоторых замкнутых линейных многообразий случайных величин (см. §§ 1 и 2 гл. IV) и соответствующих многообразий функций, измеримых отвосительно . В последнем случае мы всегда будем пользоваться весовой функцией т. е. замыкание наших совокупностей функций будет всегда пониматься относительно среднего квадратичного расстояния, получаемого при интегрировании по мере . В приводимом ниже списке многообразий обозначает замкнутое линейное многообразие, порожденное элементами или множествами элементов, указанными в скобках.

Ясно, что функции из совпадают с функциями помноженными на Многообразие состоит из всех функций измеримых относительно и таких, что Действительно, удовлетворяющие этим условиям функции очевидно, определяют замкнутое линейное многообразие причем поскольку при любом и. Обратно, элементарные рассуждения с рядами Фурье показывают, что содержит любую функцию, принимающую конечное число значений (каждое из них - на некотором интервале); поскольку эти функции всюду плотны в то из свойства замкнутости вытекает, что Рассмотрим задачу об аппроксимация величины такой линейной комбинацией при котором средний квадрат ошибки

будет минимальным. Мы уже доказали в § 3 гл. IV, что при любом фиксированном такэя минимизирующая линейная комбинация всегда существует. Эта комбинация, которую мы обозначили через

является проекцией величины на линейное многообразие, порожденное случайными величинами Если не ограничивать значения то нашу задачу можно будет сформулировать следующим образом: требуется найти такое для которого принимает наименьшее значение. И в этом случае всегда существует решение являющееся проекцией величины на многообразие В обоих случаях решение единственно с точностью до значений на множестве вероятности (см. § 3 гл. IV).

В частном случае, когда процесс действительный и гауссовский и при всех искомыми решениями являются условные математические ожидания величины относительно семейств случайных величин и соответственно, Напоминаем, что проекции мы называли также условными математическими ожиданиями в широком смысле.

Случайные величины называются наилучшим линейным прогнозом величины по значениям соответственно, по значениям всего прошлого процесса до момента

Мы не будем здесь детально рассматривать задачу об отыскании наилучшего (в смысле метода наименьших квадратов) нелинейного прогноза величины и ограничимся лишь замечанием об определении такого прогноза и о его существовании. Задача о ваилучшем нелинейном прогноза заключается в приближении величины функцией при которой средний квадрат ошибки приближения

оказывается наименьшим. Функция является здесь случайной величиной, измеримой относительно семейства величин при этом предполагается, что Допустимые случайные величпны (при фиксированных и составляют замкнутое линейное многообразие, и всегда имеется единственное решение для которого достигается минимум ошибки приближения, а именно проекция величины на это лпнейное многообразие. Это решение полностью характеризуется тем, что оно принадлежит указанному выше многообразию и что разность ортогональна к этому многообразию. Но эти два свойства характеризуют функцию Следовательно, есть обычное условное математическое ожидание. Таким образом, случайные величины

являются, соответственно, наилучшим линейным и просто наилучшим (не обязательно линейным) прогнозом величины Распространение всего сказанного на прогноз по всем прошлым момента значениям процесса совершенно очевидно. В частности, еслн рассматриваемый процесс действительный и гауссовский с при всех то наилучший линейный и нелинейный прогнозы совпадают между собой. На языке § 3 гл. II линейный прогноз можно назвать общим прогнозом в широком смысле.

Заметим, что, согласно теореме 7.4 гл. ее аналогу в узком смысле — теореме 4.3 гл. VII, пмеют место равенства:

(во втором случае предел является пределом с версятнсстью 1). Эти предельные равенства оправдывают использование прогноза, опирающегося

на конечный отрезок прошлого процесса, для аппроксимации прогноза по всему прошлому.

В остальной части настоящей главы мы будем рассматривать почти исключительно прогноз, опирающийся на знание всего прошлого процесса. Наилучший линейный прогноз величины по прошлому до момента мы будем обозначать через