§ 19. Теорема Маркова
Задачу, упомянутую в конце предыдущего параграфа, можно было бы пытаться решить, найдя выражения переходных вероятностей
для специального интересующего нас процесса
и стремясь затем анализом этих выражений установить существование нужных
пределов и одновременно найти эти пределы. Однако мы предпочтем другой путь, при котором трудная задача отыскания функций
может быть обойдена. В настоящем параграфе мы, не пытаясь найти переходные вероятности
и их пределы, установим только самый факт существования этих пределов; такой путь становится возможным потому, что эта теорема существования представляет собой свойство очень широкого класса процессов Маркова, отнюдь не являясь характеристикой нашего специального процесса
После того как это будет сделано, мы в следующем параграфе, опираясь на доказанное уже существование пределов, сможем найти эти пределы для специально интересующего
процесса, снова мииуя явные выражения функций
Условимся называть процесс Маркова, характеризуемый переходными вероятностями
транзитивным, если существует такое
что
Таким образом, для транзитивного процесса существует такой промежуток времени, в течение которого возможен переход системы из любого состояния в любое другое. Непосредственно ясно, что
интересующий нас процесс
транзитивен, причем в качестве
может быть выбрано любое положительное число.
Теорема Маркова. Для любого транзитивного процесса Маркова
предел
существует и не зависит от
Доказательство. Во всем дальнейшем
будет означать произвольное закрепленное число ряда
Положим
В силу (18.1) для любого
и любых
а следовательно,
т. е. есть невозрастающая функция от
Подобным же образом легко убедиться, что
есть неубывающая функция от
Отсюда следует, что
при
стремятся к определенным пределам. Теорема, очевидно, будет доказана, если мы покажем, что эти пределы совпадают между собой, а для этого необходимо и достаточно иметь
В дальнейшем все суммы по всем индексам будут распространяться на значения
этих индексов, вследствие чего мы можем не указывать области суммирования. Пусть
(такое
найдется в силу транзитивности процесса). Положим,
и будем в дальнейшем обозначать через
(соответственно
) суммы, распространенные лишь на область положительных (соответственно неположительных)
Тогда в силу
мы имеем
или
при
Это неравенство имеет место для любых
вследствие чего и
Пусть теперь — любое натуральное число. Тогда при
в силу (18.1)
Так как это неравенство имеет место для любых
то можно принять
тогда мы получаем
рекуррентное же применение этого неравенства дает
В силу моииотоиности функции
отсюда очевидно следует, что
Этим теорема Маркова доказана.