§ 5. Стационарный случай

В настоящем параграфе мы будем предполагать, что случайные величины взаимно независимы и одинаково распределены. Первая теорема, которую мы сейчас докажем, представляет собой вариант усиленного закона больших чисел, соответствующий этому случаю.

Теорема 5.1. Если - взаимно независимые случайные величины, имеющие одинаковую функцию распределения, причем то с вероятностью 1

Прежде чем доказывать эту теорему, заметим, что при наша теорема является частным случаем теоремы 3.4 с Для доказательства теоремы в общем случае определим величины равенствами

Мы докажем сперва, что с вероятностью при всех достаточно больших Действительно, согласно лемме Бореля — Кантелли, это следует из того, что

Следовательно, с вероятностью 1 -

Рассмотрим поэтому сначала средние арифметические величин Мы имеем

Из теоремы 3.4 теперь следует, что с вероятностью 1

так что с вероятностью 1

Так как

Сопоставляя это соотношение с предыдущим, получаем желаемый результат.

Последовательность независимых одинаково распределенных случайных величин соответствует физической картине многократно повторяемого эксперимента (прячем рассматриваются какие-то численные результаты этого эксперимента). Теория вероятностей создавалась первоначально для изучения возникающих при этом явлений, и при обсуждении вопросов обоснования теории вероятностей обычно рассматривают именно схему повторных независимых испытаний, осуществляемых в одинаковых условиях. Есть два факта,

поражающих каждого, кто производит фактически повторные эксперименты. Любой математический анализ схемы повторных испытаний должен содержать теоремы, соответствующие этим двум фактам.

А) Из опыта хорошо известно, что при большом выборочное среднее испытывает лишь малые колебания. Математически этот факт выражает теорема 5.1.

Существование предела (5.1) не может быть, конечно, проверено на опыте, так как для этого нужно было бы произвести бесконечное число испытаний. В действительности, наблюдения экспериментатора a priori не могут быть настолько точными, чтобы они позволили ему требовать от теоретика существования в теоретической модели последнего предела (5.1) с (математической) вероятностью 1. Конечно, очень приятно, что этот предел существует в таком сильном смысле, однако не было бы ничего страшного, еслибы он существовал лишь в каком-нибудь более слабом смысле, скажем, в смысле сходимости по вероятности.

Б) Из опыта известно также, что если не учитывать вовсе результаты некоторых испытаний, то выборочные средние все равно будут приближаться к тому же самому значению. Например, если экспериментатор уйдет пообедать, оставив свою аппаратуру действующей, и при этом нет никакой системы автоматической записи результатов наблюдений, то значения соответствующие обеденным часам, окажутся безвозвратно потерянными; однако если просто игнорировать эти значения и учитывать лишь значения полученные в присутствии экспериментатора, то от этого значение, около которого лежат выборочные средние, не изменится. И, вообще, это вначение не изменится, если экспериментатор будет игнорировать некоторые испытания не только из-за внезапных приступов голода, или скуки, или любви, или из-за каких-либо других не относящихся к делу причин (ничем не связанных с этими испытаниями), но будет иногда игнорировать некоторые испытания, учитывая предыдущие результаты, например из-за отвращения, вызванного этими результатами. Другими словами, можно допустить, что критерий, согласно которому учитывается пли отбрасывается некотороз испытание, зависит от результатов предыдущих испытаний. Математически это можно выразить следующим образом. Пусть — полная последовательность (первоначальных) выборочных значений, и пусть те из которые оказались в действительности учтенными. Тем самым предполагается существование последовательности целых чисел такой, что числа могут быть случайными величинами. При этом экспериментатор может выбирать учитываемые испытания, т. е. числа основываясь на отсутствии аппетита, на предчувствии того, что эксперимент пройдет удачно, на результатах предыдущих испытаний и на любых других соображениях. Мы не разрешаем ему, однако, предвидеть будущее. Это значит, что после того, как выяснилось, что выбор следующего учитываемого значения основывается только на ранее произошедших событиях, т. е. условие является условием только на величины В принятой в настоящей книге терминологии являются случайными величинами, целозначными случайными величинами, и -множество отличается более, чем на -множество вероятности 0, от некоторого -множества вида где -мерное борелевскоэ множество. Вопрос сводится, таким образом, к соотношению между старыми случайными величинами и новыми величинами где Мы предположим, что таким способом определена новых случайных величин и предположим также ради некоторого упрощения рассуждений, что каждое или определено с вероятностью 1, или не определено вовсе.

На освященном веками языке игр величины можно рассматривать как числа, появившиеся в результате какой-нибудь игры, причем игрок применяет некоторую «систему игры» для выбора туров, в которых он участвует. Например, если может принимать два значения и 1, соответствующих выпадению красного и черного в рулетке, то может быть результатом следующего тура после появления первой единицы, результатом следующего тура после появления двух единиц подряд и, вообще, — результатом следующего тура после появления серии из единиц. Рядовой игрок будет считать, что при такой системе игры имеет больше шансов равняться 0, чем Эта система на самом деле имеет лишь одно, правда, существенноэ преимущество перед обычной игрой во всех турах подряд: игрок будет вынужден при этом все дольше и дольше ожидать между двумя соседними турами, в которых он принимает участие, и поэтому он будет иметь все больше и больше времени, чтобы поразмыслить и изучить теорию вероятностей, прежде чем он потеряет свои деньги. Недостатком точнее, отсутствием достоицств этой системы — является то, что она так же, как и все другие системы игры, оставляет шансы игрока совершенно неизменными. Это утверждение и является предметом следующей теоремы. Отметим снова, что в этой теореме специально исключается возможность предвидения. Действительно, каждый пророк может, конечно, зарабатывать деньги игрою в казино. Тот факт, что до сих пор неизвестны случаи, когда пророки поступали бы таким образом, показывает, что их высокие моральные принципы аннулируют сверхъестественные преимущества перед простыми смертными, ограниченными математическими фактами (теоремой 5.2).

Теорема 5.2. Случайные величины имеют те же самые вероятностные свойства, что и величины т. е. являются независимыми случайными величинами с одинаковой функцией распределения, совпадающей с функцией распределения величины Кроме того, при любом две совокупности случайных величин (где считается, что при взаимно независимы.

Отметим, что применяя теорему 5.1 к величинам мы получаем, как следствие из теоремы 5.2, что с вероятностью 1

При исследованиях по основаниям теории вероятностей обычно используется не сама общая теорема 5.2, а именно это следствие, показывающее, что предел среднего не меняется при применении определенной «системы игры». Оно является конечно, математическим выражением приведенного выше утверждения

Чтобы доказать теорему 5.2, заметим, что для любых интервалов

так как условия, наложенные на являются

условиями, наложенными лишь на при и поэтому можно выделить множитель

Так как, по предположению, с вероятностью 1 конечно, то, суммируя по получаем

Повторяя эту процедуру раз, мы видим, что рассматриваемая сумма равна

так что имеют те же самые распределения, что и Те же самые соображения показывают, что вероятность

равна

откуда следует последнее утверждение теоремы.

Теорема 5.2 часто неявно используется в вероятностных рассуждениях. Например, пусть взаимно нэзависимые случайные величины с

Пусть - число величин принявших значение 0, прежде чем примет впервые значение 1, так что

Рассмотрим теперь последовательные промежутки времени между сериями из единиц; точнее определим следующим образом: равно минимальному для которого ; далее, равно минимальному такому, что далее, равно минимальному такому, что Обычно принимают без доказательства, что случайные величины взаимнонезависимы и имеют одинаковое распределение. Этот факт действительно верен и интуитивно очевиден. Его строгое доказательство может быть следующим образом получено из теоремы 5.2. В силу этой теоремы величины взаимно независимы и имеют те же распределения, что и величина Число нулей перед первой единицей в этой последовательности равно — 1. Следовательно, имеет то же распределение, что и Далее, в соответствии с этой же теоремой совокупность случайных величин не зависит от совокупности величин Следовательно, и не зависит от второй из этих совокупностей, а значит, и от случайных величин