5.5. Расширения марковского процесса

Ранее (см. разд. 4.2) было определено расширение источника. Например, восьмеричный код является трехкратным расширением двоичного кода. В некотором смысле расширение — это просто объединение нескольких символов источника. Нам нужно исследовать расширение марковского процесса.

Определение. Пусть марковский информационный источник порядка с алфавитом и переходными вероятностями

Тогда -кратное расширение этого источника обозначается оно имеет символов Каждый символ вто последовательность символов алфавита Система является марковским процессом порядка, где наименьшее целое число, большее или равное Поскольку каждый символ соответствует некоторой последовательности из символов переходные вероятности источника

можно получить из первоначальных переходных вероятностей источника предсказывая по очереди каждый символ исходя из предыдущих символов. Переписывая и несколько разприменяя (5.5.1), получаем (при

Здесь предполагается, что в противном случае последний член должен иметь вид

Полученный результат еще потребуется в этой главе.