Пред.
След.
Макеты страниц
Распознанный текст, спецсимволы и формулы могут содержать ошибки, поэтому с корректным вариантом рекомендуем ознакомиться на отсканированных изображениях учебника выше Также, советуем воспользоваться поиском по сайту, мы уверены, что вы сможете найти больше информации по нужной Вам тематике § 3.11. Декодирование для кодов с заданным множеством кодовых словРассмотрим некоторый код для канала Пусть
где
— безусловное распределение вероятностей на выходе канала. Обозначим через
Для всех у из
Тогда соотношение (3.11.3) дает
Таким образом, при данном наборе кодовых слов средняя вероятность ошибки минимальна, если
Всякое разбиение множества выходных последовательностей канала на решающие области задает некоторое правило декодирования. Правило декодирования, определяемое разбиением (3.11.6), выбирает при каждом МАВ-декодирование зависит от априорного распределения вероятностей
Когда все кодовые слова равновероятны, т. е. Пример 3.11.1. Рассмотрим МП-декодирование в двоичном симметричном канале (ДСК). Предположим, что в этом канале вероятность ошибки
где Количество позиций, в которых последовательность х отличается от последовательности у, называется расстоянием Хемминга между х и у. Поэтому МП-декодирование в ДСК отображает выходную последовательность канала в такое кодовое слово, которое находится на наименьшем расстоянии Хемминга от него. В этом случае принято говорить, что декодирование производится по минимуму расстояния Хемминга. Пример 3.11.2. Рассмотрим МП-декодирование в двоичном стирающем канале (ДСтК). Предположим теперь, что в рассматриваемом канале вероятность ошибки равна
где Согласно определению, взаимная информация между входной х и выходной у последовательностями канала
Поэтому МП-декодирование эквивалентно выбору такого кодового слова, которое при данной выходной последовательности у максимизирует величину взаимной информации между ним и у. При выводе неравенства Файнстейна строился код, решающие области которого образовывались, исходя из другого принципа. Последовательность у относилась в решающую область
а не обязательно максимальной. При этом потребовалась некоторая коррекция решающих областей для того, чтобы сделать их непересекающимися, поскольку могли найтись два кодовых слова а, и Для такого выбора решающих областей удалось достаточно простыми средствами доказать существование кода, максимальная вероятность ошибки которого могла быть сделана сколь угодно малой при условии, что скорость кода меньше пропускной способности. В предыдущих параграфах нас не интересовала скорость сходимости вероятности ошибки декодирования к нулю с ростом длины кода. Вместе с тем, с точки зрения практических приложений представляет существенный интерес исследование зависимости величины вероятности ошибки от длины кода. Очевидно, что вероятность ошибки декодирования зависит как от кодовых слов, так и вида решающих областей. Выше мы показали, что в случае равновероятных сообщений наилучший выбор решающих областей соответствует декодированию по максимуму правдоподобия. В следующих разделах будет выведена верхняя и нижняя оценка для вероятности ошибки МП-декодирования в канале без памяти, показывающая ее экспоненциальное убывание с ростом длины кода при всех скоростях, меньших пропускной способности канала.
|
1 |
Оглавление
|