МАРКОВСКИЙ ПРОЦЕСС
—
случайный процесс, обладающий тем свойством, что его поведение после момента t зависит только от его значения в этот момент и не зависит от поведения процесса до момента t. Понятие М. п. как обобщение понятия динамической системы ввел сов. математик А. Н. Колмогоров (р. 1903). Говорят, что в некотором фазовом пространстве X динамическая система определена, если задана ф-ция

для

, со значением в X, определяющая положение системы (последнее определяется точкой
фазового пространства) в момент s, если в момент

ее положение было

Эта ф-ция удовлетворяет эволюционному соотношению

, если только

и. Это соотношение означает, что, находясь в момент t в точке

и попадая в определенный момент в состояние

, система попутно в момент s попадет в состояние

. В некотором
фазовом пространстве X задан М. п., если определена ф-ция

—
вероятность того, что система, находясь в момент t в состоянии

в момент

попадет в одно из состояний мн-ва Е. При этом требуется, чтобы: 1) функция

была определена для всех

принадлежащих некоторому мн-ву моментов Т (последнее наз. областью определения процесса),

принадлежит некоторой а - алгебре X
подмножеств из X; 2) функция

была мерой по Е (так должно быть, поскольку

есть
вероятность); 3) при

выполнялось соотношение
Чтобы это соотношение имело смысл, требуется также, чтобы
для всех
и
было измеримо по
. Ур-ние
уравнением Чепмена—Колмогорова и является аналогом эволюционного соотношения: при переходе из
за время от
до и система попутно с вероятностью
попадет в окрестность точки у, а затем с вероятностью
переходит из у в Е. При этом, поскольку у может быть любым, то по у нужно произвести интегрирование (просуммировать все возможности). Область определения Т М. п. может быть либо некоторой последовательностью моментов времени, тогда М.- п. наз. процессом с дискретным временем (в качестве Т в этом случае берется гл. о. последовательность натуральных чисел), либо Т является конечным или бесконечным интервалом. Различают М. п. и в зависимости от фазового пространства. Наиболее распространенные следующие случаи: а) X — конечное мн-во, тогда М. п. наз. процессом с конечным мн-вом состояний; б) X — счетное мн-во, тогда М. п. является процессом со счетным мн-вом состояний; в) X — конечномерное эвклидово пространство, тогда М. п. наз. процессом с непрерывным мн-вом состояний. М. п. с дискретным временем и конечным или счетным мн-вом состояний наз. Маркова цепями.
Функция
, с помощью которой определяется М. п., наз. переходной вероятностью, или переходной вероятностной
ф-цией М. п. Определение возможных переходных вероятностей является одной из осн. задач теории М. п. Это определение сводится в основном к тому, что для вероятности перехода нелинейное уравнение (1) заменяется линейными уравнениями, которые наз. уравнениями Колмогорова. Последние имеют различный вид для разных классов М. п. Наиболее простой случай — если X — конечное или счетное фазовое пространство, а время непрерывно; тогда переходная вероятность определяется ф-циями
равными условной вероятности того, что система находится в
состоянии в момент s, если в момент t она находилась в
состоянии. Функции
удовлетворяют двум системам уравнений:
которые в этом случае и являются уравнениями Колмогорова. Эти уравнения существенно упрощаются в случае, если М. п. однородны. М. п. наз. однородным, если
М. п. наз. чисто разрывным, если существуют пределы
для всех E, не содержащих x, и 1
где
мн-во, состоящее из одной точки
Следует отметить, что с помощью чисто разрывных процессов описывается большинство систем, которые меняют свое состояние под влиянием случайных возмущений, возникающих в случайные моменты времени (к таким случайным возмущениям относятся, напр., поступление нового вызова на телефонную станцию, разладка одного из приборов автомат, системы и пр.).
Очень важный класс М. п. с непрерывным мн-вом состояний составляют диффузионные процессы. Их можно интерпретировать как вероятностное описание явления диффузии. Кроме указанных М. п., рассматриваются также М. п. смешанного типа, в которых на непрерывное (диффузионное) движение накладываются скачки. Тогда ур-ния Колмогорова имеют вид интегро-дифференциальных ур-ний.
Кроме определения переходной вероятности М. п., важной задачей является определение распределения различных функционалов от М. п. При этом М. п. рассматривается как случайный процесс (или точнее, как некоторая совокупность марковских случайных процессов с одной и той же вероятностью перехода). Теория М. п. изучает также поведение вероятности перехода
при
особенно в случае, если процесс однороден. Эта задача является основной для процессов с дискретным временем и отвечает одной из форм эргодического принципа (см. Эргодическая теория).
Лит.: Сарымсаков Т. А. Основы теории процессов Маркова. М.,. 1954 [библиогр. с. 202—205]; Дынкин Е.Б. Основания теории марковских процессов. М., 1959 [библиогр. с. 219—2201; Дынкин Е.Б. Марковские процессы. М., 1963 [библио-лиогр. с. 840—850]; Гихман И. И., Скороход А. В. Стохастические дифференциальные уравнения. К., 1968 [библиогр. с. 353—354]; Гихман И. И., Скороход А. В. Теория случайных процессов, т. 1—2. М., 1971—73 [библиогр. т. 1, с. 656— 661; т. 2, с. 632—636]; Чжун К. Однородные цепи Маркова. Пер. с англ. М., 1964 [библиогр. с. 406— 415]; И то К., Маккин Г. Диффузионные процессы и их траектории. Пер. с англ. М., 1968 [библиогр. с. 371—379]. А. В. Скороход.