ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА

В связи с графиками, приведенными на фиг. 2.7, отмечалось, что плотность биномиального распределения вероятностей (т. е. плотность распределения выборочного среднего значения

в случае, когда статистически независимые двоичные случайные величины со средним и дисперсией каждая) имеет огибающую, которая при возрастании М все время сужается и становится все более колоколообразной. Сужение огибающей определяется нормирующим множителем в равенстве (2.167): с ростом М среднее значение остается постоянным а дисперсия убывает. Здесь мы займемся изучением второго свойства огибающей: ее тенденции становиться колоколообразной. Для итого вместо рассмотрим связанную с случайную величину определяемую равенством

При такой нормировке так что и среднее, и дисперсия величины остаются постоянными, когда возрастает. Поведение огибающей плотности распределения при иллюстрируется фиг. 2.45.

Тенденция биномиального распределения вероятностей к колоколообразности, иллюстрируемая фиг. 2.45, является примером проявления значительно более общего факта, который описывается целой группой теорем, носящих общее название центральной предельной теоремы. Один из возможных вариантов центральной предельной теоремы:

Пусть совокупность статистически независимых случайных величин с нулевым средним, с одной и той же плотностью распределения вероятностей и с конечной дисперсией а. Положим

Тогда для любого а

Следствием этого утверждения является результат, состоящий в том. что для любых чисел а и

или, если

(кликните для просмотра скана)

Поскольку значение интеграла, стоящего в правой части равенства (2.170а), не зависит от того, принадлежат ли точки интервалу, по которому производится интегрирование, эти точки можно произвольным образом присоединять или не присоединять к этому иптервалу.

Обсуждение. В формулировке центральной предельной теоремы не содержится утверждения о том, что плотпость стремится к плотности гауссовского распределения вероятностей; утверждается лишь, что интеграл от при фиксированных пределах интегрирования стремится к значению интеграла от плотности гауссовского распределения. Различие становится очевидным, если рассмотреть плотность биномиального распределения при любом сколь угодно большом плотность есть сумма импульсов и, следовательно, ее нельзя приблизить к (гладкой) плотности гауссовского распределения вероятностей.

Центральная предельная теорема особенно полезна при оценке таких вероятностей, как

где конечное, но очень большое число, а относительно малая постоянная величина (не зависящая от Количественное выражение требований «очень большое число» и «относительно малая величина» определяется конкретными свойствами исходной плотности распределения если плотность является гауссовской, то центральная предельная теорема справедлива при любых Столь же тривиальным примером распределения, для которого теорема не применима, является биномиальный случай, когда каждая из величин принимает только два значения: — любое число, большее Здесь

При оценке вероятностей

где увеличивается с ростом полезность приближения

вообще говоря, сомнительна, как бы ни было велико Рассмотрим, например, совокупность из двоичных случайных величин каждая из которых принимает с равными вероятностями два значения: 0 и 1. При из формулы (2.171б) вытекает соотношение

Ранее было отмечено соотношения (2.121)], что экспоненциальная асимптотика функции такова, что

Следовательно, соотношения (2.172) означают, что

тогда как точное вычисление приводит к следующему результату:

Практическое значение различия между результатами (2.1726) и (2.173) может быть очень существенным; действительно, относительная ошибка

увеличивается с ростом и становится очень большой, если велико. С другой стороны, легко проверить, что граница Чернова согласуется с соотношением (2.173), что соответствует сделанному нами ранее утверждению о том, что граница Чернова экспоненциально точна. Таким образом, в случаях, подобных рассматриваемому, когда нижний предел интегрирования в соотношении (2.170б) возрастает с ростом вместо центральной предельной теоремы следует пользоваться границей Чернова.

Обоснования. Приведем некоторые соображения, достаточно убедительные для того, чтобы быть уверенным в справедливости центральной предельной теоремы.

Обозначим через характеристическую функцию случайной величины выбранной из совокупности одинаково распределенных случайных величин с нулевым средним. Пусть характеристическая функция нормированной суммы этих величин. Тогда связаны соотношениями

Здесь использовался тот факт, что среднее значение произведения статистически независимых случайных величин равно произведению средних значений этих величин.

Допустим, что плотность такова, что все моменты конечны. Тогда [см. равенство (2.144б)] функцию можно разложить в степенной ряд

Поскольку и то

где непрерывная функция, стремящаяся к постоянной величине при

Из соотношений (2.174) и (2.175б) вытекает, что

Логарифмическую функцию можно разложить в степенной ряд

который сходится для любого комплексного удовлетворяющего условию Так как нас интересует только предельное поведение функций при то можно выбрать столь большим, чтобы для любого фиксированного v

Разлагая правую часть равенства (2.176) в соответствии с формулой (2.177), получим

Таким образом, для любого конечного

Б силу непрерывности экспоненциальной функции отсюда следует, что

Итак, предел характеристической функции равен характеристической функции гауссовской случайной величины со средним 0 и дисперсией .

Мы должны еще раз предостеречь от соблазна считать, что плотность распределения, равная

является гауссовской. Как мы уже видели на примере биномиального распределения, такое утверждение ошибочно! Порядок выполнения операций перехода к пределу интегрирования в правой части равенства (2.179), вообще говоря, поменять нельзя.

Хотя плотность распределения вероятностей величины должна стремиться к плотности гауссовского распределения, если достаточно гладкая функция, справедливость общего утверждения центральной предельной теоремы о том, что функция распределения сходится к гауссовской функции распределения, и значительной степени определяется дополнительным сглаживанием, которое осуществляется путем интегрирования плотности в результате чего и появляется функция распределения