4. Условное математическое ожидание и условная вероятность
Если две статистики индуцируют одно и то же подполе то они эквивалентны в том смысле, что они приводят к эквивалентным классам измеримых событий. Эта эквивалентность существенна в рассуждениях, касающихся условной вероятности.
Так, если X распределено нормально с нулевым средним значением, то статистики
доставляют нам одну и ту же информацию. Из равенств
следует, что
и любое разумное определение условной вероятности должно приписать каждому из этих значений вероятность 1/2. В данное ниже общее определение условной вероятности существенным образом входит именно
а не пространство
значений статистики
Однако если рассматривать только
то понятие проигрывает в наглядности, и разрыв между элементарным и общим определениями без всякой необходимости увеличивается. По этой причине часто оказывается более удобным иметь дело с конкретными представлениями статистик, включающими определенный выбор пространства значений
Пусть
распределение вероятностей на (
статистика с пространством значений
и
порожденное ею подполе. Рассмотрим неотрицательную функцию которая
интегрируема, т. е.
-измерима и
-интегрируема. Тогда
определен для всех и тем более для всех
Из теоремы Радона — Никодима (теорема 2) вытекает, что существует функция
интегрируемая
для которой
и что
единственна. По лемме
зависит от х только через
. В примере со случайной величиной X, распределенной нормально с нулевым средним, и
функция
определяется тем, что (19) должно выполняться для всех множеств
симметричных относительно начала координат, так что
Функция
участвующая в (19), определяется двумя свойствами:
(I) Ее среднее значение по мере
на любом множестве
то же, что и
(II) Она зависит от х только через
стало быть, постоянна на множествах
на которых постоянна
Интуиция подсказывает способ построения такой функции:
следует определить, как условное
-среднее на множестве
Мы заменили бы тогда однократный процесс усреднения, т. е. интегрирования
представляемый левой частью, двукратным процессом усреднения (повторным интегрированием). Эта конструкция может быть осуществлена, когда X — дискретная
величина, или в регулярном случае, рассмотренном в разделе 9 главы 1. В этих случаях
оказывается условным математическим ожиданием
при данном
. В общем случае неясно, как можно определить условное математическое ожидание непосредственно. Так как оно, однако, должно обладать свойствами (I) и
и так как
определяется
однозначно (через (19)), то мы принимаем в качестве общего определения условного математического ожидания
функцию
из равенства (19). Если
то можно записать
т. е.
является
-измеримой функцией, определенной с точностью до
-эквивалентности. Если в указанном в лемме 2 соотношении между интегралами принять
то
и мы видим, что функция
может быть выражена непосредственно через
с помощью соотношения
эквивалентного (19).
До сих пор функция
предполагалась неотрицательной. В общем случае условное математическое ожидание
определяется как разность:
Пример 7. Пусть
независимы и имеют одну и ту же непрерывную функцию распределения. Положим
где
обозначают
расположенные в порядке возрастания. Не ограничивая общности, мы можем рассматривать только точки, где
так как вероятность совпадения каких-либо координат равна нулю. Тогда
будет множеством точек с попарно различными координатами,
множеством точек со строго возрастающими координатами,
классами борелевских подмножеств
При обратном отображении
множество, состоящее из одной точки
переходит во множество из
точек
получающихся из а всевозможными перестановками координат. Отсюда следует, что является классом всех множеств, симметричных в том смысле, что если
содержит
то оно содержит и все точки
Для любой интегрируемой функции
положим
где суммирование производится по всем
перестановкам
Тогда
будет
-измеримой, так как она симметрична относительно
своих
аргументов. Итак,
так что
удовлетворяет (19), откуда следует, что
представляет собой условное математическое ожидание
при данном
Условное математическое ожидание
при заданной статистике
может быть вычислено и без предположения, что
независимы и одинаково распеределены. Предположим, что X имеет плотность
по отношению к мере
(такой, как мера Лебега), которая симметрична, т. е. которая при любом
и любой перестановке
приписывает всем множествам
одну и ту же меру. Пусть
причем суммирование в этой формуле (так же, как и в дальнейших) распространяется на все
перестановок
Функция
симметрична по
своим аргументам и, следовательно,
-измерима. Каково бы ни было симметричное множество
интеграл
имеет одно и то же значение при любой перестановке
и потому
Отсюда мы видим, что
Статистике
(координаты которой называются порядковыми статистиками) эквивалентна статистика
Это немедленно вытекает из того факта, что равенства
влекут равенство
где
обозначают множества, содержащие по одной точке
или
и где
— множество точек
получаемых из
всевозможными перестановками координат. Очевидно, что
Чтобы установить аналогичное соотношение для
введем
так что компоненты
являются элементарными симметрическими
функциями
от
аргументов
Тогда
Следовательно
из
вытекает, что
в этом случае
как это видно из соотношений (так называемых тождеств Ньютона)
Как легко вывести из данного выше определения, условное математическое ожидание обладает большинством обычных свойств математических ожиданий. Из неединственности этого определения следует, что эти свойства выполняются только
-почти всюду. Формулировки даны в следующей лемме.
Лемма 3. Если
некоторая статистика и функции
-интегрируемы, то
-почти всюду (I)
Другой полезный результат получается из (20) в случае, когда В равно всему пространству
Лемма 4. Если
то
т. е. математическое ожидание может быть вычислено, как среднее значение условного математического ожидания.
Так как
где
индикатор множества
то условную вероятность А при данном
естественно определить равенством
Принимая во внимание (20), мы можем записать уравнение, определяющее
в виде
Из леммы 3 немедленно вытекает, что с соответствующими оговорками, касающимися множеств нулевой меры, для
имеют место обычные для вероятностей соотношения. Результаты сформулированы в следующей лемме.
Лемма 5. Если
некоторая статистика с пространством значений
множества, принадлежащие
то
-почти всюду:
(II) если множества
попарно не пересекаются,
В соответствии с определением (22), условная вероятность
должна рассматриваться при каждом фиксированном А как
-измеримая функция Мы видим контраст между этим и элементарным определением; в последнем
считают фиксированным и рассматривают
при меняющемся А как функцию множеств на Лемма 5 может привести к мысли, что интерпретация
при фиксированном как распределения вероятностей на сохранится и в общем случае. Однако равенство
например, может нарушаться на множестве нулевой меры, а это множество может меняться в зависимости от
Объединение всех исключительных нулевых множеств не обязано иметь меру нуль.
Для важного класса случаев эту трудность можно преодолеть за счет неединственности выбора значений функции
которая при каждом фиксированном
определяется с точностью до множеств нулевой меры по Так как различные варианты выбора эквивалентны, то достаточно найти такой специальный вариант для каждого А, чтобы при фиксированном
получить распределение вероятностей на
Эта возможность иллюстрируется примером 7, в котором можно принять, что условное распределение при данном
приписывает вероятность каждой из
точек, для которых
. В более общей обстановке вопрос о существовании подобных условных распределений будет изучен в следующем разделе.