§ 3. ЗАКОН БОЛЬШИХ ЧИСЕЛ И ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ

Вполне естественна потребность количественно уточнить утверждение о том, что в «больших» сериях испытаний частоты появления

события «близки» к его вероятности. Следует ясно представить себе известную деликатность этой задачи. В наиболее типичных для теории вероятностей случаях дело обстоит так, что в сколь угодно длинных сериях испытаний остаются теоретически возможными оба крайних значения частоты

Поэтому, каково бы ни было число испытаний нельзя утверждать с полной достоверностью, что будет выполнено, скажем, неравенство

Например, если событие А заключается в выпадении при бросании игральной кости шестерки, то при бросаниях с вероятностью мы все время будем получать одни шестерки, т. е. с вероятностью получим частоту появления шестерок, равную единице, а с вероятностью шестерка не выпадает ни одного раза, т. е. частота появления шестерок окажется равной нулю.

Во всех подобных задачах любая нетривиальная оценка близости между частотой и вероятностью действует не с полной достоверностью, а лишь с некоторой меньшей единицы вероятностью. Можно, например, доказать, что в случае независимых испытаний с постоянной вероятностью появления события неравенство

для частоты будет выполняться при (и любом ) с вероятностью

Здесь мы прежде всего хотим подчеркнуть, что в приведенной формулировке количественная оценка близости частоты к вероятности связана с введением новой вероятности Р.

Реальный смысл оценки (8) таков: если произвести серий по испытаний и сосчитать число М серий, в которых выполняется неравенство (7), то при достаточно большом приближенно будет

Но если мы захотим уточнить соотношение (9) как в отношении степени близости к Р, так и в отношении надежности, с которой

можно утверждать, что такая близость будет иметь место, то придется обратиться к рассмотрениям, аналогичным тем, которые мы уже провели в применении к близости и . При желании такое рассуждение можно повторять неограниченное число раз, но вполне понятно, что это не позволит нам совсем освободиться от необходимости на последнем этапе обратиться к вероятностям в примитивном грубом понимании этого термина.

Не следует думать, что подобного рода затруднения являются какой-то особенностью теории вероятностей. При математическом изучении реальных явлений мы всегда их схематизируем. Отклонения хода действительных явлений от теоретической схемы можно, в свою очередь, подвергнуть математическому изучению. Но для этого сами эти отклонения надо уложить в некоторую схему и этой последней пользоваться уже без формального математического анализа отклонений от нее.

Заметим, впрочем, что при реальном применении оценки

к единичной серии из испытаний мы опираемся и на некоторые соображения симметрии: неравенство (10) указывает, что при очень большом числе серий соотношение (7) будет выполняться не менее чем в случаев; естественно с большой уверенностью ожидать, что, в частности, неравенство (7) осуществится в интересующей нас определенной серии из испытаний, если мы имеем основания считать, что эта серия в ряду других серий занимает рядовое, ничем особенным не отмеченное положение.

Вероятности, которыми принято пренебрегать в различных практических положениях, различны. Выше уже отмечалось, что при ориентировочных расчетах расхода снарядов, гарантирующего выполнение поставленной задачи, удовлетворяются нормой расхода снарядов, при которой поставленная задача решается с вероятностью 0,95, т. е. пренебрегают вероятностями, не превышающими 0,05. Это объясняется тем, что переход на расчеты, исходящие из пренебрежения, скажем, лишь вероятностями, меньшими 0,01, приводил бы к большому увеличению норм расхода снарядов, т. е. практически во многих случаях к выводу о невозможности выполнить поставленную задачу за тот короткий промежуток времени, который для этого имеется, или с фактически могущим быть использованным запасом снарядов.

Иногда и в научных исследованиях ограничиваются статистическими приемами, рассчитанными исходя из пренебрежения вероятностями в 0,05. Но это следует делать лишь в случаях, когда собирание более

обширного материала очень затруднительно. Рассмотрим в виде примера таких приемов следующую задачу. Допустим, что в определенных условиях употребительный препарат для лечения какого-либо заболевания дает положительный результат в т. е. с вероятностью 0,5. Предлагается новый препарат и для проверки его преимуществ над старым планируется применить его в десяти случаях, выбранных беспристрастно из числа больных, находящихся в том же положении, что и те, для которых установлена эффективность старого препарата в При этом устанавливается, что преимущество нового препарата будет считаться доказанным, если он даст положительный результат не менее чем в восьми случаях из десяти. Легко подсчитать, что такое решение связано с пренебрежением вероятностью получить ошибочный вывод (т. е. вывод о доказанности преимущества нового препарата, в то время как он равноценен или даже хуже старого) как раз порядка 0,05. В самом деле, если в каждом из десяти испытаний вероятность положительного исхода равна р, то вероятности получить при десяти испытаниях 10, 9 или 8 положительных исходов, равны соответственно

В сумме для случая получаем

Таким образом, в предположении, что на самом деле новый препарат точно равноценен старому, мы рискуем сделать ошибочный вывод о том, что новый препарат превосходит старый, с вероятностью порядка 0,05. Чтобы свести эту вероятность приблизительно к 0,01, не увеличивая числа испытаний пришлось бы установить, что преимущество нового препарата будет считаться доказанным лишь тогда, когда его применение даст положительный результат не менее чем в девяти случаях из десяти. Если это требование покажется сторонникам нового препарата слишком суровым, то придется назначить число испытаний и значительно большим, чем 10. Если, например, при установить, что преимущества нового препарата будут считаться доказанными при то вероятность ошибки будет лишь .

Если норма в 0,05 для серьезных научных исследований явно недостаточна, то вероятностью ошибки в 0,001 или в 0,003 по большей части принято пренебрегать даже в столь академических и обстоятельных исследованиях, как обработка астрономических наблюдений. Впрочем, иногда научные выводы, основанные на применении вероятностных закономерностей, обладают и значительно большей достоверностью (т. е. построены на пренебрежении значительно меньшими вероятностями). Об этом еще будет сказано далее.

В рассмотренных примерах мы уже неоднократно применяли частные случаи биномиальной формулы (6)

для вероятности получить ровно положительных исходов при независимых испытаниях, в каждом из которых положительный исход имеет вероятность . Рассмотрим при помощи этой формулы вопрос, поставленный в начале этого параграфа, о вероятности

где — фактическое число положительных исходов. Очевидно, эта вероятность может быть записана в виде суммы тех для которых удовлетворяет неравенству

где — наименьшее из значений удовлетворяющих неравенству (12), а — наибольшее из таких т.

Формула (13) при сколько-нибудь больших мало пригодна для непосредственных вычислений. Поэтому имело очень большое значение

открытие Муавром для случая и Лапласом при любом асимптотической формулы, которая позволяет очень просто находить и изучать поведение вероятностей при больших Формула эта имеет вид

Если не слишком близко к нулю или единице, то она достаточно точна уже порядка 100. Если положить

то формула (14) приобретет вид

Из (13) и (16) можно вывести приближенное представление вероятности (11)

где

Разность между левой и правой частями в (17) при постоянном и отличном от нуля и единицы стремится при равномерно относительно к нулю. Для функции составлены подробные таблицы. Вот краткая выдержка из них

При значение функции стремится к единице.

Произведем при помощи формулы (17) оценку вероятности

при

Так как функция монотонно возрастает с возрастанием Т, то для не зависящей от оценки Р снизу надо взять наименьшее возможное (при различных ) значение Т. Такое наименьшее значение получится при и оно будет рдвно 4. Поэтому приближенно

В неравенстве (19) не учтена ошибка, происходящая из-за приближенного характера формулы (17). Производя оценку связанной с этим обстоятельством погрешности, можно во всяком случае установить, что

В связи с рассмотренным примером применения формулы (17) следует отметить, что оценки остаточного члена формулы (17), дававшиеся в теоретических сочинениях по теории вероятностей, долго оставались мало удовлетворительными. Поэтому применения формулы (17) и ей подобных к расчетам при не очень больших или при вероятностях , очень близких к 0 или к 1 (а такие вероятности во многих случаях и имеют особенно большое значение) часто основывались лишь на опыте проверок такого рода результатов для ограниченного числа примеров, а не на достоверно установленных оценках возможной

ошибки. Более подробное исследование, кроме того, показало, что во многих практически важных случаях приведенные выше асимптотические формулы нуждаются не только в оценке остаточного члена, но и в уточнении (так как без такого уточнения остаточный член слишком велик). В обоих направлениях наиболее полные результаты принадлежат С. Н. Бернштейну.

Соотношения (11), (17) и (18) можно переписать в виде

Для достаточно больших t правая часть формулы (20), не содержащая сколь угодно близка к единице, т. е. к значению вероятности, которое соответствует полной достоверности. Мы видим, таким образом, что, как правило, отклонения частоты — от вероятности имеют порядок Такая пропорциональность точности действия вероятностных закономерностей квадратному корню из числа наблюдений типична и для многих других вопросов. Иногда говорят даже в порядке несколько упрощенной популяризации о «законе квадратного корня из я» как основном законе теории вероятностей. Полную отчетливость эта мысль получила благодаря введению великим русским математиком П. Л. Чебышевым в систематическое употребление метода сведения различных вероятностных задач к подсчетам «математических ожиданий» и «дисперсий» для сумм и средних арифметических «случайных величин».

Случайной величиной называется величина, которая в данных условиях может принимать различные значения с определенными вероятностями. Для нас достаточно рассмотреть случайные величины, могущие принимать лишь конечное число различных значений. Чтобы указать, как говорят, распределение вероятностей такого рода случайной величины X, достаточно указать возможные ее значения и вероятности

В сумме эти вероятности по всем различным возможным значениям величины всегда равны единице:

Примером случайной величины может служить изучавшееся выше число положительных исходов при испытаниях.

Математическим ожиданием величины называется выражение

а дисперсией величины называют математическое ожидание квадрата отклонения (?), т. е. выражение

Корень квадратный из дисперсии

называется средним квадратическим отклонением (величины от ее математического ожидания

В основе простейших применений дисперсий и средних квадратических отклонений лежит знаменитое неравенство Чебышева

Оно показывает, что отклонения от М (?), значительно превышающие встречаются редко.

При образовании сумм случайных величин

для их математических ожиданий всегда имеет место равенство

Аналогичное равенство для дисперсий

верна только при некоторых ограничениях. Для справедливости равенства (23) достаточно, например, чтобы величины и с различными номерами не были, как говорят, «коррелированы» между собой, т. е. чтобы при выполнялось равенство

В частности, равенство (24) соблюдается, если величины независимы между собой. Таким образом, для взаимно независимых слагаемых всегда действует равенство (23). Для средних арифметических

из (23) вытекает

Предположим теперь, что для всех слагаемых дисперсии не превосходят некоторой постоянной

Тогда по (25)

и в силу неравенства Чебышева при любом t

Неравенство (26) содержит в себе так называемый закон больших Чисел в форме, установленной Чебышевым: величины взаимно независимы и имеют ограниченные дисперсии, то при возрастании и их средние арифметические все реже заметно отклоняются от своих математических ожиданий

Более точно говорят, что последовательность величин

подчиняется закону больших чисел, если для соответствующих средних арифметических и при любом постоянном

при

Чтобы получить из неравенства (26) предельное соотношение (27), достаточно положить

Большой ряд исследований А. А. Маркова, С. Н. Бернштейна, А. Я. Хинчина и других посвящен вопросу возможно большего расширения условий применимости предельного соотношения (27), т. е. условий применимости закона больших чисел. Эти исследования имеют принципиальное значение. Однако еще более важным является точное исследование распределения вероятностей отклонений

Великой заслугой русской классической школы в теории вероятностей является установление того факта, что при очень широких условиях асимптотически (т. е. со все большей точностью при неограниченно растущих ) справедливо равенство

Чебышев дал почти полное доказательство этой формулы для случая независимых и ограниченных слагаемых. Марков восполнил недостающее звено в рассуждениях Чебышева и расширил условия применимости формулы (28). Еще более общие условия были даны Ляпуновым. Вопрос о распространении формулы (28) на суммы зависимых слагаемых с особенной полнотой был изучен С. Н. Бернштейном.

Формула (28) охватила столь большое число частных задач, что долгое время ее называли центральной предельной теоремой теории вероятностей. Хотя при новейшем развитии теории вероятностей она оказалась включенной в ряд более общих закономерностей, ее значение трудно переоценить и в настоящее время.

Если слагаемые независимы и их дисперсии одинаковы и равны:

то формуле (28) удобно, учитывая соотношение (25), придать вид

Покажем, что соотношение (29) содержит в себе решение задачи об отклонениях частоты — от вероятности , которой мы занимались ранее.

Для этого введем случайные величины определяя их следующим условием:

Легко проверить, что тогда

и формула (29) дает

что при снова приводит к формуле (20).