§ 2. СВЯЗЬ МЕЖДУ СОБСТВЕННЫМИ ЗНАЧЕНИЯМИ И КЛАССАМИ ВОЗВРАТНЫХ СОСТОЯНИЙ
Предыдущие результаты имеют непосредственные приложения в теории марковских цепей с конечным числом состояний.
Пусть
матрица переходных вероятностей. Очевидно,
Пусть
произвольный вектор, удовлетворяющий условию Тогда
Далее,
Мы утверждаем, что неравенство
не может выполняться для вектора
при любом
(откуда следует, что
. В самом деле, суммируя компоненты в обеих частях соотношения
и учитывая (2.1), получаем
Так как
то отсюда следует, что
.
С другой стороны, вектор
как легко видеть, является собственным вектором матрицы
принадлежащим собственному значению 1. Таким образом,
То, что
- собственное значение любой конечной марковской матрицы и ему соответствует положительный левый собственный вектор, можно также вывести из теоремы 1.3 гл. 3. Действительно, мы знаем, что в конечной марковской цепи по крайней мере одно состояние (а следовательно, по крайней мере один класс) является возвратным положительным. Перенумеровав состояния, если это необходимо, мы можем считать, что состояния
составляют возвратный положительный класс.
Следовательно,
для всякой пары состояний
такой, что
Таким образом,
имеет вид
где
марковская матрица порядка
. В силу основной предельной теоремы для марковских цепей (см. теорему 1.3 гл. 3) существуют положительные числа
такие, что
и
Пусть
; опираясь на специальную структуру (2.2) матрицы
легко проверить, что
Несколько более подробный анализ показывает, что справедлива следующая
Теорема 2.1. Если
матрица переходных вероятностей марковской цепи с конечным числом состояний, то кратность собственного значения 1 равняется числу возвратных классов в цепи.
Доказательство. Мы видели, что если
возвратный класс состояний, то существует левый собственный вектор
отвечающий собственному значению 1, такой, что при
Точно так же для каждого возвратного класса
существует положительный собственный вектор
отвечающий собственному значению 1, такой, что
при
Так как различные классы не пересекаются, то векторы
линейно независимы. Отсюда следует, что кратность собственного значения 1 не меньше, чем число различных возвратных классов. Покажем теперь, что она и не больше этого числа. Пусть
тогда
при
т. е.
Но если
невозвратное состояние, то, как мы знаем,
для всех
Отсюда следует, что
для каждого невозвратного состояния
так что мы можем написать
где
возвратные классы. Так как
если
принадлежат разным возвратным классам, то
Если
для некоторого
то по теореме 1.3 гл. 3 существует константа
такая, что
Таким образом,
откуда заключаем, что векторы
образуют базис в подпространстве левых собственных векторов, соответствующих собственному значению 1.
Вероятностная интерпретация собственных значений и собственных векторов
Рассмотрим подпространство правых собственных векторов матрицы
отвечающих собственному значению 1. Оказывается, в этом подпространстве существует базис, имеющий очень простую вероятностную интерпретацию.
Пусть
возвратные классы марковской цепи с матрицей переходных вероятностей
Определим
как вероятность рано или поздно попасть в класс
из состояния
, т. е.
Ясно, что
так как возвратный класс покинуть невозможно. Пусть
тогда из (2.3) следует, что векторы
линейно независимы. Кроме того, вероятности
удовлетворяют уравнениям
(см. уравнения (3.1) гл. 3), из которых следует, что
являются правыми собственными векторами матрицы
соответствующими собственному значению 1. Так как этих векторов
и они линейно независимы, то в правом собственном подпространстве,
стве, отвечающем собственному значению 1, векторы
образуют базис. Непосредственной проверкой нетрудно убедиться в том, что
где
— левые собственные векторы, отвечающие собственному значению 1 (см. доказательство предыдущей теоремы).
Предположим теперь, что матрица
обладает спектральным представлением и что собственные значения
занумерованы так, что
Мы можем положить
(см. приложение). Из представления
получаем
Предположим, что матрица
не имеет собственных значений, отличных от 1, модуль которых был бы равен 1. Тогда
и при
причем скорость сходимости имеет порядок самое меньшее
Скоро будет показано, что
тогда и только тогда, когда
не имеет периодических возвратных классов (см. теорему 3.1 следующего параграфа). Предполагая, что
не имеет таких классов, и вспоминая, что
отлично от нуля тогда и только тогда, когда
мы видим, что
Таким образом, если состояние
невозвратно, то
и эта величина стремится к нулю со скоростью
при
Если же
то среди первых
слагаемых в выражении для
отлично от нуля только
(вспомним, что
Мы видим, что вообще для всех состояний
разность
стремится к нулю при
со скоростью самое меньшее
Теперь предположим, что, кроме
имеет место еще и неравенство
Пусть, как обычно,
обозначает множество всех невозвратных состояний,
мы хотим найти следующий предел:
т. е. предельное значение (при
вероятности того, что, исходя из
процесс будет находиться в невозвратном состоянии
в момент
Имеем
Как мы видели, для невозвратного состояния
вероятность
Так как
то
при условии, что знаменатель не равен нулю. Если же знаменатель равен нулю, то нам придется исследовать члены в сумме
содержащие
и другие собственные значения, модуль которых равен
и т. д. (См. § 8 гл. 13, где эти идеи развиваются далее.)