2.1. ВЕРОЯТНОСТЬ
Рассмотрим, например, такой
эксперимент, как бросание игральной кости с рядом возможных исходов. Выборочное
пространство
эксперимента
состоит из набора всех возможных его исходов. В случае игральной кости
, (2.1.1)
где целые числа 1...6 представляют
числа, указанные на шести сторонах игральной кости. Эти шесть возможных исходов
– выборочные (характерные) точки эксперимента. Событием является некоторая
часть от
, которая может
состоять из любого числа характерных точек. Например, событие
определённое как
, (2.1.2)
состоит из результатов 2 и 4.
Дополнение к событию
, обозначаемое
, состоит из всех характерных
точек в
,
которых нет в
,
следовательно,
. (2.1.3)
Два события считают
взаимоисключающими (несовместными), если они не имеют никаких общих характерных
точек – т.е. если появление одного результата исключает появление другого.
Например, если
определенно
как в (2.1.2), а событие
определим как
, (2.1.4)
тогда
и
- несовместные события. Точно так же
и
- несовместны.
Объединение (сумма) двух событий –
это событие, которое состоит из всех характерных точек двух событий. Например,
если
определенно,
как в (2.1.4), а событие
- как
, (2.1.5)
тогда объединение событий
и
, обозначаемое
, является событием
. (2.1.6)
Точно так же
, где
- всё выборочное
пространство, определяющее достоверное событие.
Пересечение двух событий – событие,
которое состоит их характерных точек, общих для обоих событий. Таким образом,
если
представляет
пересечение событий
и
, определяемых (2.1.4) и (2.1.5)
соответственно, то
.
Если события несовместны, их
пересечение – событие с нулевой вероятностью, обозначаемое как
. Например,
и
.
Определения для объединения и
пересечения событий можно непосредственно расширить на более чем два события.
Каждому событию
из
пространства
приписывается
его вероятность
.
При назначении вероятностной меры для событий мы принимаем аксиоматическую
точку зрения. Это означает, что мы полагаем, что вероятность событий
удовлетворяет
условию
.
Мы также полагаем, что вероятность всего выборочного пространства
(достоверного
события)
.
Третья аксиома касается вероятности взаимоисключающих (несовместных) событий.
Предположим, что
,
, являются
рядом (возможно, бесконечным) несовместных событий в выборочном пространстве
так что
,
Тогда вероятность объединения
(суммы) этих несовместных событий удовлетворяет условию
.
Например, в случае бросания
игральной кости каждый возможный исход (событие) имеет вероятность 1/6.
Событие, определённое (2.1.2), состоит из двух несовместных подсобытий или
исходов, следовательно,
. Аналогично вероятность события
, где
и
- несовместные
события, определённые соответственно (2.1.2) и (2.1.4), равна
.
Совместные события и совместные
вероятности. Предположим, что мы
имеем дело не с одним, а с двумя экспериментами и рассматриваем их исходы. В
качестве примера двух экспериментов можно рассматривать два отдельных бросания
одной игральной кости или одно бросание двух игральных костей. В любом случае
выборочное пространство
состоит из 36 дублетов
, где
. Если бросание
производится чисто, то каждой точке выборочного пространства назначаем
вероятность 1/36. Мы теперь можем рассматривать, например, объединённые события
вида
и
определять соответствующие вероятности таких событий, зная вероятности всех
возможных характерных точек.
Вообще, если один эксперимент имеет
возможные исходы
,
, а второй
эксперимент -
,
, тогда
объединённый эксперимент имеет возможные совместные исходы
,
,
. Каждому объединённому
исходу
присваивается
вероятность
,
которая удовлетворяет условиям
.
В предложении, что исходы
,
, являются
несовместными, получаем
. (2.1.8)
Точно так же, если исходы
,
,
являются несовместными, то
. (2.1.9)
Далее, если все результаты из двух
экспериментов несовместны, то
. (2.1.10)
Обобщение вышеупомянутого положения
на более чем два эксперимента очевидно.
Условные вероятности. Рассмотрим комбинированный эксперимент, в котором
исход встречается с вероятностью
. Предположим, что событие
произошло, и мы
желаем определить вероятность того, что при этом произошло событие
. Эта вероятность
называется условной вероятностью события
при условии, что событие
имеет место, и
определяется как
(2.1.11)
в предложении, что
. Подобным же
образом вероятность события
при условии, что событие
имело место,
определяется как
(2.1.12)
в предложении, что
. Формулы (2.1.11) и
(2.1.12) могут быть переписаны в виде
. (2.1.13)
Соотношения в (2.1.11)-(2.1.13)
применимы также к единственному эксперименту, в котором
и
являются двумя событиями,
определёнными на выборочном пространстве
, а
интерпретируется как вероятность
. Т.е.
определяет
одновременного наступления (пересечения) событий
и
. Например, рассмотрим события
и
, определённые
(2.1.4) и (2.1.5) соответственно, для единственного бросания кости. Совместное
событие состоит из выборочных точек
. Условная вероятность события
при условии, что
произошло, равна
.
В единственном эксперименте мы
наблюдаем, что, когда два события
и
несовместны,
и, следовательно,
. Так же, если
входит в
, тогда
и, следовательно,
.
С другой стороны, если
входит в
, мы имеем
и, следовательно,
.
Чрезвычайно полезные соотношения
для условных вероятностей выражаются теоремой Байеса, которая гласит, что если
,
, являются
несовместными событиями, так что
и
- произвольное событие с отличной от
нуля вероятностью, тогда
. (2.1.14)
Мы используем эту формулу в гл. 5
для нахождения структура оптимального приемника для системы цифровой связи, в
которой события
,
,
представляют в нашем случае возможные передаваемые сообщения на данном
временном интервале, а
представляют их априорные
вероятности,
- принятый сигнал, подверженный
действию шума, которой содержит передаваемое сообщение (одно из
), а
является апостериорной
вероятностью
при условии, что наблюдается принятый
сигнал
.
Статистическая зависимость. Статистическая независимость двух или большего числа
событий – другое важное понятие теории вероятности. Она обычно возникает, когда
мы рассматриваем два или больше экспериментов или результатов повторений одного
эксперимента. Чтобы пояснить это понятие, мы рассматриваем события
и
и их условную
вероятность
,
которая является вероятностью события
при условии, что событие
произошло.
Предположим, что появление события
не зависит от появления события
. Это значит, что
. (2.1.15)
Подставив (2.1.15) в (2.1.13),
получим результат
. (2.1.16)
Это означает, что совместная
вероятность событий
и
определяется произведением
элементарных или собственных вероятностей событий
и
. Когда события
и
удовлетворяют соотношению (2.1.16),
их называют статистически независимыми.
Например, рассмотрим два
последовательных эксперимента бросания кости. Пусть
представляет выборочные
точки с четными номерами
в первом бросании, а
представляет чётно
нумерованную выборку
во втором бросании. В случае
правильной кости мы считаем что вероятность
и
. Теперь вероятность совместного исхода
– чётно нумерованный результат при первом бросании и чётно нумерованный
результат при втором бросании – является вероятностью результата для девяти
возможных пар
,
,
, которая равна
. Но мы имеем также
.
Таким образом, результаты
и
статистически
независимы. Точно так же мы можем говорить, что исходы двух экспериментов
статистически независимы.
Понятие статистической
независимости может быть расширено на три и более число событий. Три
статистически независимых события
,
и
должны удовлетворять следующим
условиям:
;
;
;
. (2.1.17)
В общем случае события
,
, являются статистически
независимыми при условии, что вероятность совместного наступления
событий в любой
комбинации определяются произведением вероятностей индивидуальных событий.