3. Обобщения алгоритма кодирования

В гл. 4 мы описали метод последовательного кодирования последовательностей двоичных информационных символов в последовательности двоичных символов на входе канала. Этот метод непосредственным образом обобщается на случай m-арных последовательностей простое число и сложение и умножение проводится по модулю Далее, если последовательность -арных символов сгруппирована в группы по символов в каждой и последовательность -арных символов сгруппирована в группы по символов в каждой то процедура кодирования может рассматриваться как алгоритм для кодирования -арных последовательностей в -арные. Например, предположим, что мы имеем двоичный источник информации и канал, символы на входе которого могут принимать четыре значения. Тогда при последовательность двоичных символов можно последовательно кодировать в последовательность четверичных символов, используя результат

операции свертки — последовательность двоичных символов — и затем превратив пары соседних двоичных символов в соответствующие четверичные символы. Например, 1000 1001 11—20213.

В случае несимметричного канала обычно оказывается желательным выбирать вероятности символов на входе канала так, чтобы они не обязательно были равными Этого можно достичь при помощи простого видоизменения алгоритма кодирования [10].