Глава 6. ПРОБЛЕМА РЕГРЕССИИ ДЛЯ СЛУЧАЙНЫХ ПРОЦЕССОВ

6.1. Регрессия в функциональном пространстве.

Помимо проблем о проверке гипотез и о построении оценок, мы рассмотрим вкратце еще два других типа статистических задач и покажем, что они могут быть сведены к теории регрессии, являющейся с давних пор хорошо изученной частью математической статистики. При обсуждении этих задач нам весьма часто придется иметь дело с условными распределениями вероятностей; мы всегда при этом будем предполагать (как мы это уже делали несколько раз), что эти условные распределения могут быть с вероятностью 1 определены так, чтобы они обладали всеми свойствами распределений вероятностей.

Пусть нам известны данные наблюдений за процессом на временнбм интервале и по этим данным мы хотим сделать некоторое заключение о значении случайной величины у, статистически связанной с распределение вероятностей совокупности описывающее эту статистическую связь, мы предполагаем заранее известным. Обозначая через а) наблюденную реализацию процесса мы можем составить условное распределение вероятностей величины у. В таком случае за вероятное значение у при известной реализации о) естественно принять некоторое значение, определяющее центр распределения . В частности, если у имеет конечное математическое ожидание, то наиболее целесообразным представляется выбор в качестве оценки у условного математического ожидания этой величины:

Для того чтобы иметь возможность продвинуться несколько дальше, мы должны конкретизировать рассматриваемые распределения вероятностей. Пусть нам известно, что

процесс и величина у имеют нормальные распределения вероятностей (включая и совместные распределения) с нулевым средним значением, причем процесс непрерывен в среднем. Обозначим, как обычно, через гильбертово пространство, порожденное величинами и через оператор проектирования на это пространство. Пусть

и

Тогда силу нормальности распределений вероятностей для всех рассматриваемых случайных величин величины (при любом будут взаимнонезависимыми. Поэтому почти наверное

Заметим еще, что можно также определить как точку из обращающую в минимум выражение Поэтому, если даже относительно распределений вероятностей ничего не известно, все равно выбор в качестве оценки у является вполне оправданным. Совпадение величины минимизирующей с условным математическим ожиданием разумеется, является не чем иным, как простым обобщением известного результата, состоящего в том, что для многомерного нормального распределения регрессия всегда является линейной.