§ 6. Закон больших чисел

В этом параграфе мы получим один из вариантов закона больших чисел, применимый к процессам, изучавшимся в § 5. Сначала мы предположим лишь, что является функцией вероятностей перехода (это понятие определялось в § 5), и что случайные величины (не обязательно принимающие численные значения), образующие марковский процесс, для которого является вероятностью перехода (от к

Теорема 6.1. Если величина имеет стационарное абсолютное распределение вероятностей и если функция от измеримая

относительно и такая, что

то предел

существует с вероятностью 1. В частности, если выполнена гипотеза и если имеется только один эргодический класс, вероятностью 1

Первое утверждение теоремы является просто приложением к рассматриваемому случаю усиленного закона больших чисел для стационарных в узком смысле процессов (эргодической теоремы), который будет доказан в гл. X (гл. X, теорема 2.1). В § 1 гл. X показано, что если выполнены условия второй половины теоремы 6.1, то рассматриваемый процесс метрически транзптивен, а в этом случае усиленный закон больших чисел приводит к (6.1).

В качестве простого приложения сформулированной теоремы предположим, что изучаемый процесс является цепью Маркова с конечным числом состояний (такие цепи рассматривались в § 2) и что эта цепь имеет только один эргодический класс без циклических подклассов. В силу результатов этом предположении существует ровно одно стационарное абсолютное распределение вероятностей; предположим, что с помощью этого распределения определен стационарный процесс. Тогда, если число попаданий системы в состояние за первые шагов, то с вероятностью 1

Действительно, если положить равным 1 при и в остальных случаях, то

и искомое утверждение следует из теоремы 6.1. Обобщение этого результата на случай произвольного пространства состояний является очевидным, Если выполнена гипотеза и если имеется больше одного эргодического класса, то наиболее общее стационарное абсолютное распределение вероятностей имеет вид (мы используем здесь и в дальнейшем обозначения § 5). Ясно, что в этом случае предел в (6.1) равен с вероятностью 1 следующему выражению:

Отметпм, что

Таким образом, если имеется больше чем один эргодический класс, то предел будет зависеть от

В теореме 6.1 и в только что рассмотренном ее уточнении мы предполагали, что соответствующие вероятности определяются заданной функцией

вероятностей перехода и стационарным начальным распределенпем величины Теперь мы допустим, что задано произвольное начальное распределение величины Для того чтобы подчеркнуть зависимость от начального распределения мы будем обозначать соответствующие математические ожидания и вероятности через Наиболее важными начальными распределениями являются стационарные распределения и распределения, сконцентрированные в одной точке. В последнем случае, если этой точкой является точка то математические ожидания и вероятности превращаются в условные математические ожидания вероятности

Теорема 6.2. Пусть функция от, измеримая относительно х и такая, что

Тогда если выполнена гипотеза то для любого начального распределения вероятностей существует с вероятностью 1 предел

и этот предел с вероятностью 1 равен при

В силу теоремы 6.1, а также сделанных после ее доказательства уточнений, сформулированная только что теорема справедлива, еслп начальное распределение является стационарным абсолютным распределением вероятностей. Еслп положить где число эргодпческпх классов, то отсюда следует, что если не принадлежит некоторому исключительному множеству для которого то предел (6.2) будет существовать с вероятностью 1, еслп начальное распределение сконцентрировано в единственной точке если то этот предел будет иметь указанное в теореме значение. Мы видим теперь, что предел (6.2) будет существовать с вероятностью 1 и иметь нужное значение при любом начальном распределении если только - Для того чтобы закончить доказательство, достаточно показать, что является пустым множеством. В соответствии с результатами § 5, еслп где любое состояние, то при достаточно большом состояние системы окажется принадлежащим одному из эргодических классов, и система останется навсегда в том из эргодических классов, в который она впервые попала. Более того, окажется через некоторое время в множестве состояний

так как из того, что при всех а и из (5.11) следует, что

Рассмотрим выборочную последовательность Пусть первое из лежащее в Тогда для выборочных последовательностей с фиксированным предел в (6.2) будет совпадать с пределом средних

(если только этот предел существует). Но эти средние ведут себя точно так же, как средние

при начальном распределении величины сосредоточенном на Следовательно, при эти средние стремятся с вероятностью 1 к

Поэтому предел (6.2) существует с вероятностью 1 для начального распределения сосредоточенного в точке частности, если то этот предел равен указанному в формулировке теоремы значению. Таким образом, пусто, что и требовалось доказать.