8. Дискретная вероятность

ЭЛЕМЕНТ СЛУЧАЙНОСТИ привлекается практически всегда, когда мы пытаемся объяснить окружающий нас мир. Математическая теория вероятностей позволяет вычислять вероятности сложных событий, если мы предположим, что эти события подчиняются определенным аксиомам. Эта теория имеет важные приложения во всех областях науки, и к тому же она тесно связана с методами, изученными нами в предыдущих главах.

Прилагательное „дискретная" означает, что вероятности всех событий можно вычислить при помощи суммирования, а не интегрирования. Мы уже хорошо знакомы с суммами, поэтому нет ничего удивительного в том, что наши знания можно применить к вычислению ряда интересных вероятностей и средних значений.

8.1 ОПРЕДЕЛЕНИЯ

Теория вероятностей начинается с идеи вероятностного пространства, которое представляет собой множество О всего, что может случиться в рассматриваемой задаче, в совокупности с правилом, приписывающим каждому элементарному событию си его вероятность . В любом дискретном вероятностном пространстве вероятность должна быть неотрицательным целым числом и, кроме того, должно выполняться условие

Таким образом, все значения должны быть заключены в диапазоне Мы называем распределением вероятностей, поскольку функция распределяет суммарную вероятность 1 между событиями си.

Вот пример. Если мы бросаем пару игральных кубиков, то множество О. элементарных событий представляет собой

— множество всех шести возможностей падения одного определенного кубика. Два таких исхода, как и считаются различными; следовательно, это вероятностное пространство содержит всего элементов.

Обычно мы предполагаем, что кубики „правильные" т. е. все шесть вариантов для одного кубика имеют вероятности и все 36 возможных исходов в имеют вероятность Но можно рассмотреть также и кубики, содержащие в некоторых местах какую-либо „начинку" из-за чего центр тяжести кубика перемещается и распределение вероятностей меняется. Положим, например,

Тогда так что является распределением вероятностей на множестве и мы можем приписать вероятности элементам при помощи правила

Например, Это правильное распределение, поскольку

Можно рассмотреть также случай, когда один кубик правильный, а другой — с начинкой,

в этом случае Разумеется, у реальных „физических" кубиков грани выпадают не в точности одинаково часто, поскольку любой кубик не вполне симметричен; однако значение обычно весьма близко к истинной вероятности.

Подмножество множества О называется событием. В игре в кости, например, множество

есть событие — „выпадение дублета" Индивидуальные элементы си множества называются элементарными событиями, поскольку их нельзя разложить на меньшие подмножества. Один элемент си можно рассматривать как одноэлементное событие

Вероятность события А определяется формулой

и, в общем случае, если — любое утверждение относительно си, то будем писать для обозначения суммы всех тех для которых истинно. Так, например, вероятность дублета с правильными кубиками равна если оба кубика несимметричны и имеют распределение вероятностей то вероятность дублета будет Смещение центра тяжести кубиков делает событие „выпадение дублета" более вероятным.

(Здесь мы использовали обозначение в более общем смысле, чем было определено в гл. 2: суммы в (8.1) и (8.4) распространяются на все элементы си произвольного множества, а не только на целые числа. Однако это расширение в действительности не вызывает никаких проблем; мы можем условиться использовать под знаком специальное обозначение, когда подразумеваются не целые числа, и никаких коллизий с нашими обычными соглашениями не будет. Остальные определения из гл. 2 сохраняются в силе; в частности, определение бесконечной суммы в гл. 2 дает подходящую интерпретацию для наших сумм в случае бесконечного множества Все вероятности неотрицательны, а сумма их всех ограничена, поэтому вероятность события А в (8.4) корректно определена для всех подмножеств

Функция, определенная на элементарных событиях си из вероятностного пространства, называется случайной величиной. Если, например, то можно определить как сумму очков на выпавших гранях для события так что Вероятность того, что сумма очков составит 7, есть вероятность события а именно,

Для правильных кубиков это событие происходит с вероятностью в случае смещения центра масс вероятность будет - та же, что мы ранее нашли для дублета.

В рассуждениях о случайных величинах принято опускать обозначение поскольку обычно в каждой конкретной задаче имеется только одно вероятностное пространство. Так, мы будем говорить просто для обозначения того, что выпало 7 очков, или для обозначения события Случайную величину можно охарактеризовать распределением вероятностей ее значений. Так, например, принимает 11 возможных значений и мы можем выписать вероятность

события для всех из этого множества:

Если мы решаем задачу, включающую только случайную величину но не другие характеристики кубиков, то мы можем получить ответ, основываясь только на этих вероятностях, не вникая в детальное строение множества Фактически мы могли бы определить вероятностное пространство как меньшее множество с желаемым распределением вероятностей Тогда будет элементарным событием. Таким образом, мы часто можем игнорировать вероятностное пространство П и работать непосредственно со случайными величинами и их распределениями.

Если на одном вероятностном пространстве определены две случайные величины X и Y, то, чтобы охарактеризовать их поведение, не зная ничего об П, нам требуется знать их „совместное распределение"

для всех х в диапазоне изменения X и всех у в диапазоне изменения У. Мы будем говорит, что X и Y — независимые случайные величины, если

для всех х и у. Интуитивно это означает, что значение X не оказывает влияния на значение У.

Так, если О есть множество бросаний кубиков то мы можем определить как число очков на первом кубике и — как число очков на втором. Тогда случайные величины будут независимыми по отношению к каждому из рассмотренных ранее распределений вероятностей Ргоо, и Ргоь поскольку мы определяли вероятность каждого элементарного события как произведение вероятностей событий Мы могли бы определить вероятности иначе, так, чтобы, скажем,

но мы так не сделали, поскольку обычно кубики не влияют друг на друга. В наших обозначениях оба эти отношения равны

Мы определили как сумму двух чисел очков, Рассмотрим другую случайную величину Р: произведение Являются ли и Р независимыми? Рассуждая неформально, нет; если нам сказали, что то мы знаем, что Р должно равняться 1. Если действовать формально, снова нет, поскольку мы можем эффектно опровергнуть условие независимости (8.5) (по крайней

мере для правильных кубиков): для всех допустимых значений имеем что не может равняться значению которое кратно

Желая выяснить типичное поведение какой-либо случайной величины, мы часто интересуемся ее „средним" значением. Однако понятие „среднего" неоднозначно; обычно, говоря о последовательности чисел, подразумевают три разновидности средних:

• среднее арифметическое (это сумма всех значений, деленная на их количество);

• медиана (это средний элемент последовательности, если упорядочить значения);

• мода (значение, встречающееся чаще других).

Например, среднее арифметическое значение последовательности (3,7,4,1,5) равно ее медиана равна 3, а мода 1.

Однако объектами, с которыми имеет дело теория вероятностей, являются случайные величины, а не последовательности чисел, так что нужно определить понятие „среднего" и для случайных величин. Предположим, что мы многократно повторяем эксперимент, производя независимые испытания таким образом, чтобы каждое значение X появлялось с частотой, приблизительно пропорциональной его вероятности. (Например, мы могли бы много раз бросать пару кубиков, наблюдая за значениями или Р.) Мы бы хотели так определить среднее значение случайной величины, чтобы последовательность чисел, полученная в результате таких экспериментов, имела бы, как правило, приблизительно те же значения среднего арифметического, медианы и моды, что и соответствующие значения для случайной величины X, как мы их определим.

Вот как можно этого достичь. Среднее случайной величины X с вещественными значениями на вероятностном пространстве есть, по определению,

если эта, потенциально бесконечная, сумма существует. (Здесь обозначает множество всех значений, которые может принимать X.) Медиана X определяется как множество всех х, для которых

Наконец, мода X определяется как множество всех таких х, что

В нашем примере с парой кубиков среднее значение величины оказывается равным для распределения Ргоо; для распределения оно также равняется 7. Медианой и модой в обоих распределениях также оказывается

Таким образом, имеет одно и то же среднее значение по всем трем определениям. С другой стороны, случайная величина Р при распределении имеет среднее арифметическое ее медианой является а модой При переходе к кубикам с распределением среднее арифметическое Р не изменяется, однако медиана уменьшается до а модой становится единственный элемент

В теории вероятностей используется специальное название и обозначение для среднего арифметического случайной величины; среднее арифметическое называют математическим ожиданием и пишут

В нашем примере эта сумма содержит 36 слагаемых (по одному для каждого элемента П), тогда как (8.6) есть сумма всего одиннадцати чисел. Однако обе суммы имеют одинаковое значение, поскольку обе они равны

В приложениях среднее арифметическое случайной величины оказывается более полезным, чем другие виды средних, поэтому мы впредь практически забудем о медианах и модах и до конца главы будем употреблять термины „ожидаемое значение" „математическое ожидание" и „среднее" как равнозначные.

Если X и Y — две произвольные случайные величины, определенные на одном и том же вероятностном пространстве, то также является случайной величиной на этом пространстве. По формуле (8.9) среднее суммы случайных величин есть сумма их средних:

Аналогично, если а — любая константа, то имеет место простое правило

Однако для умножения случайных величин соответствующее правило в общем случае будет более сложным; математическое ожидание определяется как сумма по элементарным событиям, а сумма произведений обычно не имеет простого выражения. Несмотря на эту трудность, имеется прекрасная формула для математического ожидания произведения в специальном случае независимых случайных величин:

Мы можем доказать это равенство при помощи дистрибутивного закона для произведений:

Например, мы знаем, что где — числа очков на первом и втором кубике. Мы знаем также, что следовательно, кроме того, независимы и поэтому как и утверждалось выше. Имеем также Однако и Р не являются независимыми, так что мы не можем утверждать, что Фактически, ожидаемое значение оказывается равным в распределении (ровно) - в распределении