6.4.2. Ухудшающиеся широковещательные каналы (УШК).
Переходные вероятности
будем представлять в виде матриц
соответственно. Каждая строка таких матриц соответствует входному сигналу канала, а каждый столбец — выходному. Если два дискретных канала без памяти с матрицами переходных вероятностей
соединяются последовательно, т. е. выходные сигналы первого канала являются входными сигналами второго/причем множество выходных сигналов первого совпадает со множеством входных сигналов второго, то результирующийканал является каналом без памяти с матрицей переходных вероятностей
Определение 6.4.6. Дискретный канал без памяти с матрицей переходных вероятностей
называется ухудшенным вариантом дискретного канала без памяти с матрицей переходных вероятностей
если существует такая стохастическая матрица
для всех
что
или, что то же самое,
Для всех
Широковещательный канал без памяти называется ухудшающимся, если одна из его составляющих является ухудшенным вариантом другой.
Из этого определения следует, что в случае УШК худшая составляющая ШК может интерпретироваться как последовательное соединение лучшей составляющей с некоторым другим каналом без памяти. На рис. 6.4.4 показан случай передачи по УШК, в котором первая составляющая, канал
является лучшей, а вторая составляющая, канал
является ухудшенным вариантом первой, причем ухудшение достигается за счет дополнительного канала
Основное свойство
пары каналов, один из которых является ухудшенным вариантом другого, дается в следующей лемме.
Лемма 6.4.1. Пусть дискретный канал без памяти с матрицей переходных вероятностей
является ухудшенным вариантом дискретного канала без памяти с матрицей переходных вероятностей
Тогда для любого распределения вероятностей
на входных сигналах
Доказательство. Пусть
некоторая стохастическая матрица и
Рис. 6.4.4. Ухудшающийся ШК
Тогда распределение вероятностей для рассматриваемого ансамбля
можно представить следующим образом:
(см. рис. 6.4.4). Из представления (6.4.4) видно, что ансамбли
при фиксированном
статистически независимы. Рассмотрим среднюю взаимную информацию
. С одной стороны,
где последнее равенство следует из независимости, указанной выше. С другой стороны,
Сопоставляя последние два соотношения, получим неравенство (6.4.4). Лемма доказана.
Из определения УШК вытекает следующее интуитивно понятное его свойство: если передаваемые по УШК сообщения могут быть восстановлены с произвольно малой вероятностью ошибки на выходе худшей составляющей ШК, то они также могут быть восстановлены с произвольно малой вероятностью ошибки и на выходе лучшей составляющей. Строгое доказательство этого свойства будет приведено ниже при доказательстве теорем кодирования для УШК.
Далее всегда будет предполагаться, что в УШК вторая составляющая является ухудшенным вариантом первой. Тогда из