§ 7. Многомерное прогнозирование

В настоящем параграфа мы будем иметь дело с -мерными случайными величинами. Поэтому мы условимся считать, что все случайные величины являются векторными случайными величинами (если только специально не оговорено обратное), а все постоянные являются -мерными матрицами. Случайные величиаы при этом удобнее представлять себе, как матрицы из одного столбца. Если матрица, то через будет обозначаться транспонированная и комплексно сопряженная матрица, через матрица и черэз сумма элементов матрицы расположенных по главной диагонали, т. е. иначе сумма квадратов модулей всех элементов Если матрица из скалярных случайных величин, то через будет обозначаться матрица из соответствующих математических ожиданий.

В силу нащях соглащзнпй для случайных величин х и у произведение не имеет смысла (за исключением случая но всегда определены. Если то расстояние между х и у

мы Определим, как мы будем говорить, что х ортогонально к у, если Если равно единичной матрице), то величина х будет называться нормированной. Таким образом, имеет смысл говорить об ортонормированной последовательности случайных величин; очевидно, последовательность величин является ортонормированной тогда и только тогда, когда последовательность всех скалярных компонент этих величин является обычной ортонормированной последовательностью. Заметим, что если ортонормированная последовательность, то

Мы можем теперь определить понятия линейного многообразия и замкнутого линейного многообразия точно так же, как в § 2 гл. IV (заметим, что коэффициентами линейных комбинаций здесь служат -мерные матрицы). При ортогонализации последовательности случайных величин мы столкнемся теперь с тем непривычным обстоятельством, что может быть нулевым вектором, хотя с не есть нулевая матрица, не есть нулевой вектор. Последовательность случайных величин можно ортогонализовать в том смысле, что всегда можно найти линейные комбинации величин такие, что каждое является линейной комбинацией величин и наоборот, и что или -бесконечная ортонормированная последовательность, или же имеется всего конечное число величин скажем, причем взаимно ортогональны, нормированы, а есть матрица, все элементы которой равны О, за исключением некоторых равных единице элементов, расположенных на главной диагонали. Для доказательства этого достаточно просто ортогонализовать все скалярные компоненты величин как это описано в § 2 гл. IV. При этом получится ортонормированная последовательность скалярных случайных величин; если она содержит всего конечное число элементов, то следует добавить к ней еще несколько нулей (если это требуется) и получить последовательность, число членов которой делится на Затем наша последовательность разбивается на группы из алементон и каждая из этих групп принимается за одно из

Если я — случайная величина с и если ортонормированная последовательность, то ряд называется рядом Фурье величины х относительно последовательности соответствующими коэффициентами Фурье. Как и в § 3 гл. IV, доказывается, что ряд сходится (в смысле определенного выше расстояния), что и что

В рассматриваемом нами случае это означает, что ряд сходится (т. е. что соответствующая матричная сумма сходится поэлементно) и что эрмитова матрица является неотрицательно определенной.

Равенство в (7.1) равносильно соотношению

которое имеет место тогда и только тогда, когда х принадлежит замкнутому линейному многообразию, порожденному величинами

Как и в § 3 гл. IV, наиболее близкой к х величиной из замкнутого линейного многообразия является проекция величины х

на это многообразие. Каждая скалярная компонента является (скалярной) проекцией соответствующей скалярной компоненты величины х на замкнутое линейное многообразие, порожденное компонентами всех случайных величин из Проекция характеризуется тем, что и разность ортогональна к

Процесс с ортогональными приращенинми определяется здесь точно так же, как и в случае Можно доказать, что если случайные величины образуют такой процесс, то существует матричная функция для которой разность при всегда является эрмитовой неотрицательно определенной матрицей и для которой

Отсюда вытекает, что диагональные элементы матрицы являются монотонно неубывающими функциями; все вообще элементы этой матрицы являются функциями ограниченной вариации. В дальнейшем сумму диагональных элементов эрмитовой неотрицательно определенной матрицы мы будем обозначать через Если есть -мерная матричная функция, все элементы которой измеримы относительно причем

то точно так же, как в § 2 гл. IX, можно определить стохастический интеграл

этот интеграл удовлетворяет соотношению

где подинтегральная функция, соответствующая Получаемое таким образом множество случайных величин в точности совпадает с замкнутым линейным многообразием, порожденным приращениями процесса Если с вероятностью 1, то соответствующая матричная функция удовлетворяет условию

Любым двум функциям различающимся на функцию удовлетворяющую последнему равенству, соответствует один и тот же стохастический интеграл.

Процесс называется стационарным в широком смысле, если и если корреляционная (матричная) функция

не зависит от скалярных процессов, являющихся компонентами нашего процесса, в этом случае также стационарны в широком смысле. Спектральное представление здесь имеет вид

где процесс с ортогональными приращениями, единичная матрица. Функция нормированная обычными условиями называется спектральной функцией процесса; она определяет с помощью равенства

Начиная с этого места, мы будем использовать обозначения § 4 для аналогичных многомерных понятий. Так, например, будет обозначать средний квадрат ошибки прогноза на один шаг вперед,

Матрица является эрмитовой и неотрицательно определенной. Мы предположим, что эта матрица не вырождена, и выведем разложение Волда для т. е. разложение, даваемое в одномерном случае теоремой 4.2. Сделанное предположение относительно исключает возможность того, что некоторые линейные комбинации компонент могут быть точно восстановлены с помощью линейных операций над компонентами х. в прошлом. При этом матрица является положительно определенной, и, следовательно, существует единственный квадратный корень также являющийся эрмитовой и положительной определенной матрицей. Определим величины с помощью равенства

Тогда

и образуют ортонормированную последовательность случайных величин, подобно тому, как это было в § 4. Для имеет место ортогональное разложение

ясно, что при этом остаются в силе все соотношения ортогональности и включения, указанные в § 4. Спектральная функция является абсолютно непрерывной функцией с производной

и

Пусть функция от X, соответствующая Так же, как и в § 4, мы получаем, что для почти всех X

и что

Согласно первому из этих двух соотношений, ряд, фигурирующий в его левой части, является невырожденной матрицей при почти всех X, так что

Если теперь во втором соотношении взять только абсолютно непрерывную часть, то мы получим

где матрица эрмитова и неотрицательно определенная. Так как подинтегральаая функция является эрмитовой и неотрицательно определенной матрицей, то для почти всех X должно выполняться равенство поскольку, кроме того, матрица почти всюду не вырождена, то, значит, для почти всех Таким образом, как и в § 4, является сингулярной компонентой функции Прогнозирующая функция и сам прогноз процесса даются теми же формулами, что и в § 4. Поскольку аналитические условия, определяющие постоянные здесь неизвестны, мы не станем далее углубляться в вопрос о многомерном прогнозировании.