Глава 2. Дискретный канал и основы теории кодирования

2.1. Дискретные каналы и их классификация

Во многих задачах теории связи структура модулятора и демодулятора задана. В этих случаях каналом является та часть линии связи, которая на рис. 1.3 обведена пунктиром. На вход такого канала подаются дискретные кодовые символы , а с выхода снимаются символом , вообще говоря не совпадающие с  (рис. 2.1).

Такой канал называют дискретным. При изучении передачи сообщений по дискретному каналу основной задачей является отыскание методов кодирования и декодирования, позволяющих в том или ином смысле наилучшим образом передать сообщения дискретного источника.

Заметим, что почти во всех реальных линиях связи дискретный канал содержит внутри себя непрерывный канал, на вход которого подаются сигналы , а с выхода снимаются искаженные помехами сигналы . Свойства этого непрерывного канала наряду с характеристиками модулятора и демодулятора однозначно определяют все параметры дискретного канала. Поэтому иногда дискретный канал называют дискретным отображением непрерывного канала. Однако при математическом исследовании дискретного канала обычно отвлекаются от непрерывного канала и действующих в нем помех и определяют дискретный канал, задавая алфавит кодовых символов  поступающих на его вход, алфавит кодовых символов  снимаемых с его выхода, количество  кодовых символов, пропускаемых в единицу времени, и значения вероятностей переходов , т. е. вероятностей того, что на выходе появится символ ,если на вход подан символ . Эти вероятности, зависят от того, какие символы передавались и принимались ранее. Алфавиты кода на входе и выходе канала могут не совпадать; в частности, возможно, что . Величину  иногда называют технической скоростью передачи.

Рис. 2.1. Система связи с дискретным каналом.

Если вероятности перехода для каждой пары  остаются постоянными и не зависят от того, какие символы передавались и принимались ранее, то дискретный канал называется постоянным или однородным. Иногда применяют также другие названия: канал без памяти или канал с независимыми ошибками. Если же вероятности перехода зависят от времени или от имевших место ранее переходов, то канал называют неоднородным или каналом с памятью.

В канале с памятью вероятностные связи, по крайней мере в первом приближении, распространяются только на некоторый конечный отрезок. Это значит, что вероятности перехода  зависят от того, какие переходы имели место при передаче предыдущих  символов, и не зависят от более ранних переходов. Такой канал можно рассматривать, как имеющий ряд дискретных состояний , определяемых предыдущими переходами, причем . Для каждого состояния  определены условные вероятности переходов . В то же время лишь последние  переданных и принятых символов определяют состояние канала .

Средние безусловные вероятности переходов определяются путем усреднения условных вероятностей по всем состояниям канала:

                                   (2.1)

где  — вероятность состояния .

В реальных каналах при поэлементном приеме вероятности переходов  не являются заданными, а определяются, с одной стороны, помехами и искажениями сигналов в канале, с другой стороны, скоростью подачи кодовых символов  и первой решающей схемой. Выбирая на основании того или иного критерия оптимальную решающую схему, можно изменять в желательном направлении вероятности перехода. Таким образом, для того чтобы рассматривать канал как дискретный, нужно выбрать первую решающую схему и, учитывая действующие в канале помехи и искажения, вычислить вероятности переходов. Очевидно, что в тех случаях, когда параметры реального канала постоянны и действующие в канале помехи представляют стационарный случайный процесс, его дискретным отображением является постоянный канал. Если же эти условия не выполнены, то дискретным отображением, как правило, оказывается канал с памятью.

Если в канале алфавиты на входе и выходе одинаковы и для любой пары  вероятности , то такой канал называется симметричным. Переменный канал будем также называть симметричным, если в каждом состоянии  для любой пары  выполняется условие

                 (2.2)

Очевидно, что из (2.2) следует также

                                 (2.3)

однако обратное утверждение было бы неверным. Каналы с памятью, в которых выполняется (2.3), но (2.2) не выполняется или выполняется не для всех , будем называть симметричными в среднем. Вероятности переходов в симметричном канале схематически показаны на рис. 2.2.

Среди каналов, в которых алфавиты на входе и выходе неодинаковы, интерес представляет так называемый стирающий канал, в котором . Это название дано ему потому, что наряду с символами , общими для входного и выходного алфавитов, выходной алфавит содержит дополнительный символ  обозначающий «стирание». Появление  на выходе означает, что переданный символ искажен помехами и не может быть опознан. Таким образом, часть принятой кодовой последовательности оказывается стертой.

Как будет показано в дальнейшем, введение такого стирающего символа не нарушает возможности правильного декодирования принятой кодовой последовательности, а, наоборот, облегчает ее при рациональном выборе метода кодирования и решающих схем.

Рис. 2.2. Вероятности переходов в симметричном двоичном канале.

Рис. 2.3. Вероятности переходов в симметричном канале со стиранием.

Заметим, что алфавит кода на выходе определяется выбором первой решающей схемы и поэтому считается заданным лишь потому, что мы рассматриваем дискретное отображение канала. Выбор первой решающей схемы также в значительной степени определяет свойства симметрии канала. Вероятности переходов в симметричном стирающем канале показаны на рис. 2.3.