5. Условные распределения вероятностей

Мы исследуем теперь вопрос о существовании условного распределения вероятностей при условии, выполняющемся в большинстве статистических приложений, а именно, что

борелевское множество в евклидовом пространстве. Для краткости мы будем говорить, что — евклидово и будем предполагать, если явно не оговорено противное, что класс борелевских подмножеств .

Теорема 4. Если — евклидово, то существует вариант выбора такой, что при каждом будет вероятностной мерой на

Доказательство. Полагая вероятность любого борелевского множества, лежащего вне , равной нулю, мы можем распространить данную меру на класс всех борелевских множеств и можем, следовательно, не ограничивая общности, предположить, что совпадает со всем пространством. Для простоты мы рассмотрим только одномерный случай. Выберем некоторый вариант вероятностной функции и при каждом х положим Пусть рациональные числа, занумерованные в каком-либо порядке. Тогда неравенство влечет неравенство для всех кроме входящих в некоторое нулевое множество Следовательно, при каждом не входящем в нулевое множество возрастает на множестве рациональных значений х. Аналогично, из леммы 5 вытекает, что для всех не принадлежащих некоторому нулевому множеству при справедливы равенства: Поэтому для всех не входящих в нулевое множество рассматриваемая как функциях рационально), надлежаще нормирована на бесконечности, монотонна и непрерывна справа. Обозначим для не входящих в единственную непрерывную справа по х функцию, которая совпадает с для всех рациональных х. Тогда будет функцией распределения и потому определяет некоторую вероятностную меру на Мы покажем теперь, что является условной вероятностью А при данном для чего установим, что при каждом фиксированном А эта функция -измерима по и удовлетворяет (23). Последние утверждения мы получим из равенства

при любом фиксированном По определению это равенство верно, если А имеет вид где рационально. Оно выполняется и для интервалов концы которых рациональны, так как мера, а для верна лемма 5 (II). Следовательно, доказываемое равенство выполняется для всех элементов поля образованного конечными суммами интервалов с рациональными концами. Класс множеств, для которых наше равенство выполняется,

оказывается монотонным (см. задачу 1) и поэтому содержит -поле, порожденное т. е. Мера на как она введена выше, определена для не входящих в Но поскольку ни измеримость функции, ни величина ее интеграла не зависят от значений на множестве меры нуль, то для мы можем выбрать произвольные вероятностные меры на и тем завершим построение.

Пусть X — случайный вектор с распределением и статистика, заданная на Пусть обозначает любой из вариантов семейства условных распределений на существование которых утверждается теоремой 4. Связь с понятием условного математического ожидания указывается следующей теоремой.

Теорема 5. Если X — случайный вектор и то -почти всюду

Доказательство. Соотношение (24) выполняется, если индикатор любого множества Из леммы 3 следует, что оно верно для любой простой функции и потому для любой интегрируемой функции.

Вариант условного математического ожидания представляемый правой частью (24), обладает для каждого обычными свойствами математических ожиданий и (IV) в лемме 3). Ранее мы должны были исключать множества нулевой меры, зависящие от рассматривавшихся функций При условиях теоремы 4 аналогичное усиление допускает утверждение леммы 3. Теперь мы в состоянии показать, что оно выполняется, за исключением, быть может, нулевого множества не зависящего от А. Для наших целей достаточно провести доказательство для случая, когда пространство значений статистики также евклидово.

Теорема 6. Если статистика, у которой область определения и пространство значений евклидовы, то найдется вариант Рхусловных вероятностных распределений и нулевое множество такие, что условное математическое ожидание, вычисленное по формуле

для всех удовлетворяет соотношению

Доказательство. Для простоты допустим, что действительная функция (это по существу не ограничивает общности). Для каждого обозначим распределение вероятностей на существование которого гарантируется теоремой 4. Для индикатор -измерим и

Таким образом, в силу (20),

Обозначим интервалы в с рациональными концами. Тогда существует -нулевое множество такое, что для

при всех При фиксированном две функции множества, являются распределениями вероятностей на второе из них приписывает множеству вероятность 1 или 0 в зависимости от того, содержит ли это множество точку или нет. Так как значения этих функций совпадают на рациональных интервалах то они совпадают при всех . В частности, для множество, состоящее из единственной точки входит в и если обозначить

то при

Таким образом, для

что и требовалось доказать.

Как следствие теоремы 6 получаем, что для в частности, равна 1 или 0 при или

Условные распределения отличаются от введенных в элементарном случае (раздел 9 главы 1) тем, что определены на а не на и -поле его борелевских подмножеств. Однако (26) влечет при всех

Вычисления с условными вероятностями и математическими ожиданиями можно производит следовательно, заменив для на распределение которое определено на и приписывает каждому подмножеству ту же вероятность, что и

Теорема 6 устанавливает при существование условных распределений вероятностей определенных на для которых по лемме 4

при любой интегрируемой функции Обратно, рассмотрим любое семейство распределений, удовлетворяющих (27), и эксперимент, в котором сначала наблюдается а при случайная величина с распределением Результатом этой двухстепенной процедуры будет случайная точка в распределенная по тому же закону, что и Таким образом, удовлетворяет этому «функциональному» определению условной вероятности.

Если является произведением то будет произведением на множество, состоящее из одной точки Для условное распределение индуцирует распределение на которое по аналогии с элементарным случаем будет обозначаться В этом случае определение можно распространить на все принимая, например, что при приписывает вероятность 1 некоторой выбранной нами точке При таком определении из (27) выводим

В качестве приложения мы докажем следующую лемму, которая затем будет использована в разделе 7.

Лемма 6. Пусть — евклидовы пространства, и пусть некоторое распределение на произведении Предположим, что другое распределение на таково, что

с при всех у. Тогда при частное распределение и вариант условных распределений при данном даются формулами:

и

Доказательство. Первое утверждение леммы следует из равенств

Чтобы проверить второе утверждение, достаточно показать, что для любой интегрируемой математическое ожидание удовлетворяет (28). Но это получается сразу. Заметим, что знаменатель положителен, так как при всех у.