4. МАРКОВСКИЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ
Определение марковского процесса. Случайный процесс называют марковским или процессом без последействия, если для любых моментов времени
выполняется условие
Условная плотность вероятности
Марковский процесс полностью определяется начальным распределением
и переходной вероятностью
равной условной плотности вероятности перехода из состояния
в состояние
Интегральное и дифференциальные уравнения для переходной вероятности. Переходная вероятность
удовлетворяет интегральному уравнению Смолу ховского
и дифференциальному уравнению параболического типа
где
- интенсивности марковского процесса, вводимые при помощи соотношений
Решение уравнения (32) должно удовлетворять начальному условию
Для непрерывного марковского процесса все
при
Уравнение (32) принимает вид
его называют уравнением Фоккера — Планка — Колмогорова. Интенсивности
соответственно коэффициенты сноса и диффузии. Переходная вероятность как функция переменных
удовлетворяет также уравнению
которое является сопряженным по отношению к (34).
Многомерный марковский процесс. Векторный случайный процесс
называют n-мерным марковским процессом, если его исчерпывающей характеристикой является переходная вероятность
удовлетворяющая уравнению Колмогорова
с начальным условием
Интенсивности равны
где
значение случайного векторного процесса
в момент времени
Обратное уравнение Колмогорова имеет вид
где
компоненты вектора