§ 7. Центральная предельная теорема

В этом параграфе мы рассмотрим вопрос о применимости центральной предельной теоремы к марковским процессам. Мы сделаем следующие предположения

а) Выполнена гипотеза

б) существует только один эргодический класс, и этот класс не содержит циклических подклассов.

Как мы показали в § 5, при гипотезе существуют положительные постоянные и (однозначно определенное) стационарное абсолютное распределение вероятностей такие, что

Если распределение принять за начальное распределение вероятностей, то вместе с заданными вероятностями перехода оно определит стационарный марковский процесс; в этом параграфе будет в дальнейшем всегда подразумеваться (если только не будет явно оговорено противное), что все рассматриваемые вероятности и математические ожидания относятся именно к этому стационарному процессу. Таким образом, здесь

Определим равенством

и равенством

Тогда при фиксированном функция представляет собой вариацию из слагаемых суммы на множестве первый член справа представляет собой положительную вариацию, второй — отрицательную вариацию. Существует множество такое, что на всех его подмножествах

а на всех подмножествах его дополнения

так что соотношение, определяющее можно заменить соотношением

Вариация является при фиксированном вполне аддитивной функцией от А, причем

Перейдем к рассмотрению ряда лемм, нужных для доказательства центральной предельной теоремы. Во всех этих леммах предполагается, что выполнена гипотеза и все они выражают разными способами тот факт, что в этом случае при больших величины и почти независимы.

Лемма 7.1. Пусть выполнена гипотеза Если — случайная величина, измеримая относительно семейства величин случайная величина, измеримая относительно семейства величин и если некоторых таких, что

то

В частности, если — функции от измеримые относительно если удовлетворяют тем же условиям, что и выше, и

то

Действительно, применяя несколько раз неравенство Гельдера, получаем

откуда и следует (7.3). В частном случае, когда таковы, как это предположено во второй часты леммы, мы можем применить к предыдущую серию неравенств с Из третьей и последней строк этих неравенств находим, что

Так как

интеграл в правой части (7.4) мажорируется абсолютно сходящимся рядом

и поэтому сам является абсолютно сходящимся. Абсолютная сходимость ряда, стоящего в левой части (7.4), следует из неравенства (7.3). Из соотношения

вытекает поэтому при искомое равенство (7.4).

В соответствии с леммой 7.1 корреляция между и функциями от с большими к стремится к экспоненциально быстро при к Если функция ограничена, то истинная причина факта вскрывается следующей простой леммой.

Лемма 7.2. Если выполнена гипотеза и если ограниченная случайная величина, измеримая относительно семейства случайных величин то

Если при в остальных случаях, то это неравенство принимает вид

и в силу (7.1) оно верно даже без множителя 2. В общем случае

Лемма 7.3. Пусть выполнена гипотеза и пусть функция от измеримая относительно и такая, что

Тогда

и, более того.

Если то величина в правок части не могут ооновременно обращаться в нуль.

В частном случае, когда величины взаимно независимы, выражение, стоящее в (7.6) под знаком предела, обращается в нуль, Лемма оказывается в этом случае тривиальной. В общем случае это выражение равно

Как показывает лемма 7.1 с отсюда следует при искомое соотношение (7.6). Если и если нулю равна также правая часть соотношения (7.6), то из (7.6) следует, что

Но тогда и и так как то это возможно лишь, если т. е. если с вероятностью 1.

Лемма 7.4. Пусть выполнена гипотеза и пусть функция от измеримая относительно х и такая, что

при некотором Тогда существует константа а, для которой

Лемма 7.3 показывает, что (7.7) верно при Следовательно, достаточно, предположив, что (7.7) верно при I, равном целому числу доказать, что оно верно где Предположим поэтому, что и что для лемма верна.

Пусть А — положительное целое число, которое будет определено точнее в дальнейшем-. Определим как

Мы хотим доказать, что при подходящем выборе константы а

Для того чтобы доказать это, мы покажем сперва, что если то при соответствующем выборе чисел а, и А

Действительно, вспоминая, что имеют одинаковые распределения, находим, что

Применив теперь лемму 7.1 с

будем иметь

Мы будем подставлять неравенство (7.10) в неравенство (7.9), давая соответствующие значения. Во всех случаях мы имеем Следовательно, используя неравенство Гельдера, находим, что последний член в (7.10) не превосходит

Предположим теперь, что (7.7) выполнено при (и некотором а). Тогда предыдущее произведение не превосходит постоянной, умноженной на Соединяя эти результаты, находим, что

при некоторых постоянных , не зависящих от k. Чтобы доказать (7.8), нам осталось только, увеличив, если необходимо, к, сделать второе слагаемое в скобках меньше Докажем теперь, что для любого существуют постоянная и целое число к такие, что

Действительно, применяя неравенство Минковского и (7.8), находим, что при достаточно большом

Тогда при достаточно большом

Если настолько мало, что то должна существовать константа при которой верно (7.11). В силу (7.11), если настолько мало, что то

Тогда если выбрано так, как указано выше, то

где

Наконец, любое целое положительное число можно записать в виде

где

и каждое из равно или 1. Следовательно, можно представить в виде суммы групп слагаемых, содержащих соответственно по членов, и, используя неравенство Минковского, неравенство (7.12) и тот факт, что процесс стационарен, мы находим, что при некоторой постоянной а

что и требовалось доказать.

Мы теперь в состоянии приступить к самой центральной предельной теореме. Пусть некоторая вероятностная мера на множествах поля Рассмотрим марковский процесс, индуцируемый этим начальным распределением и некоторой функцией вероятностей перехода, удовлетворяющей условию Для того чтобы отличать соответствующие математические ожидания и вероятности от тех, которые получаются при мы будем придавать им индекс так что

и т. д. Мы хотим показать, что, каково бы ни было начальное распределение для широкого класса функций сумма — распределена при большом приблизительно нормально. Наиболее важными случаями является случай и случай, когда распределение сосредоточено в одной точке В этом последнем случае вероятности становятся условными вероятностями при условии

Теорема 7.5. Предположим, что выполнена гипотеза и что действительная функция от с измеримая относительно и такая, что при некотором

Тогда существует предел

если то при любом начальном распределении (величины )

равномерно по

Предельное соотношение (7.13) уже было доказано раньше (лемма 7.3) и вновь приводится здесь только для полноты. Не ограничивая общности, мы можем предположить, что

Пусть положительные целые числа, и пусть наибольшее целое число, кратное а и не превосходящее Определим формулами

Идея доказательства теоремы состоит в том, что 3 выбирается настолько большим, чтобы величины были почти взаимно независимы и к ним почти можно было бы применить центральную предельную теорему для независимых слагаемых, и настолько малым, чтобы при можно было пренебречь привносом величин в соотношении (7.14). Мы рассмотрим сначала случай, когда В ходе наших рассуждений мы будем предполагать, что меняются вместе с стремясь к при таким образом, чтобы удовлетворялись соотношения (7.15) и (7.18). Докажем сперва, что если

то

Действительно, используя (7.6) и неравенство Минковского, получаем

Еслп выполнено (7.15), то правая часть этого неравенства стремится к при и из этого следует (7.16). Таким образом, если выполнено (7.15). то можно пренебречь при привносом величин в (7.14). Во-вторых, докажем, что если определить равенством

то при каждом и.

Действительно, левая часть соотношения (7.17) равна (мы используем здесь лемму 7.2)

Повторяя это рассуждение, мы находим, что левую часть соотношения (7.17) можно представить в виде

откуда и следует (7.17). Таким образом, если мы сможем выбрать числа так, чтобы они удовлетворяли соотношению (7.15) и чтобы при этом

то для того, чтобы доказать асимптотическую нормальность со средним О и дисперсией а; изучаемого распределения, окажется достаточным доказать асимптотическую нормальность с теми же параметрами распределения, соответствующего характеристической функции Но это последнее распределение совпадает с распределением суммы где величины взаимно независимы и имеют каждая то же самое распределение, что и величина Таким образом, достаточно доказать асимптотическую нормадьность с указанными параметрами последовательности величин

Мы имеем используя лемму 7.3, получаем, что если верно (7.15) и поэтому то

и По лемме 7.4

Следовательно, при больших

Последнее отношение, будучи эквивалентно стремится к при по теореме 4.4 гл. III отсюда следует искомая асимптотическая нормальность (для случая Заметим теперь, что условия (7.15) и (7.18) не противоречат друг другу; например, мы можем выбрать в качестве наибольшее целое число, четвертая степень которого не превосходит положить и тогда приблизительно так что заведомо выполняются условия (7.15) и (7.18).

Чтобы доказать асимптотическую нормальность при произвольном начальном распределении заметим, что в силу леммы 7.2 для любого

Следовательно, при

Последнее слагаемое справа можно сделать сколь угодно малым, выбрав те достаточно большим. После того как выбрано два первых слагаемых также можно сделать сколь угодно малыми равномерно по всем значениям I в любом конечном интервале, выбрав для этого достаточно большое Таким образом, характеристические функции случайных величин соответствующие двум рассматриваемым заданиям вероятностной меры, одному с начальным распределением вероятностей а другому — с асимптотически совпадают при Отсюда следует, что распределение случайной величины асимптотически нормально со средним и дисперсией а] при любом начальном распределении вероятностей. Этим заканчивается доказательство теоремы.

В заключение мы рассмотрим одно обобщение доказанной сейчас теоремы, полезное для статистических приложений. Предположим, что рассматриваемые в теореме функции зависят больше чем от одного Пусть функция от измеримая относительно Рассмотрим суммы

Мы хотим доказать асимптотическую нормальность этих сумм при Теорема 7.1 соответствует частному случаю и мы теперь покажем, как общий случай можно свести к этому частному случаю. Чтобы сделать это, заменим пространство X пространством X, состоящим из точек , поле произведением полей и пространство точек пространством точек Пусть новая координатная функция, так что Определим -вероятностн последовательностей так, чтобы они совпадали с -вероятностями соответствующих последовательностей где совокупность величин Тогда процесс будет марковским процессом, удовлетворяющим гипотезе ерли ей удовлетворяет процесс Функция от определяет функцию от причем зависящие от точек случайные величины

имеют те же самые совместные распределения, что и зависящие от точек со случайные величины Таким образом, мы свели задачу об изучении к соответствующей задаче об изучении а для этой новой задачи Применяя к этой новой задаче теорему 7.5, получаем следующий результат.

Теорема 7.5. Предположим, что выполнена гипотеза что действительная функция от измеримая относительно и такая, что для некоторого

Тогда, если то существует предел

если то при любом начальном распределении (величины равной мерно по X

В качестве примера приложения теорем 7.5 и 7.5 допустим, что взаимно независимые случайные величины с одинаковой функцией распределения. Тогда заведомо выполняется условие Можно применить теорему 7.5, однако она сводится здесь к теореме 4.3 гл. III (в которой предполагается более слабое условие Теорема 7.5 дает кое-что новое для этого случая. Предельная дисперсия а в (7.13) равна в соответствии с леммой 7.3

[это можно также установить без труда прямо из формулы (7.13)]. Предположим, в частности, что принимают действительные значения и

и что Тогда

и мы находим, что суммы

асимптотически нормальны со средним и [дисперсией если при некотором Гипотеза была использована нами лишь для того, чтобы упростить некоторые формальные рассмотрения. Если предположить только, что выполнена гипотеза и что имеется лишь один эргодический класс, быть может, содержащий циклические подклассы, то нетрудно обобщить на этот случай теоремы 7.5 и 7.5. Однако если имеется больше одного эргодического класса, то предельное распределение может оказаться взвешенные средним из различных нормальных распределений.