Пред.
След.
Макеты страниц
Распознанный текст, спецсимволы и формулы могут содержать ошибки, поэтому с корректным вариантом рекомендуем ознакомиться на отсканированных изображениях учебника выше Также, советуем воспользоваться поиском по сайту, мы уверены, что вы сможете найти больше информации по нужной Вам тематике § 3.6. Симметричные дискретные каналы без памятиРассмотрим дискретный канал с множеством входных сигналов Одномерные условные вероятности иногда удобно записывать в виде
Заметим, что сумма элементов любой строки равна единице. Определение 3.6.1. Дискретный канал называется симметричным по входу, если все строки матрицы переходных вероятностей образованы перестановками элементов первой строки. Определение 3.6.2. Дискретный канал называется симметричным по выходу, если все столбцы матрицы переходных вероятностей образованы перестановками элементов первого столбца. Определение 3.6.3. Дискретный канал называется симметричным, если он симметричен и по входу, и по выходу. Другими словами, и строки, и столбцы матрицы переходных вероятностей симметричного канала образованы перестановками одного и того же набора чисел. Имеют место следующие два свойства рассматриваемых каналов. Свойство 1. Если канал симметричен по входу, то условная энтропия
где Для доказательства заметим, что
Свойство 2. Если канал симметричен по выходу и распределение вероятностей на его входных сигналах равномерное, то равномерным является распределение вероятностей на его выходных сигналах. Действительно, пусть
где Найдем информационную емкость С симметричного дискретного канала без памяти. Как показано в предыдущем параграфе,
где максимум разыскивается по всем возможным распределениям вероятностен Согласно свойству 1 условная энтропия
Рис. 3.6.1. Информационная емкость ДСК как функция от вероятности ошибки. Если канал симметричен по входу, но не симметричен по выходу, может не существовать распределения на входе, при котором выходные сигналы равновероятны. В этом случае
Пример 3.6.1. Найдем информационную емкость L-ичного симметричного канала, переходные вероятности которого
где число
где При
На рис. 2.5.2 приведен граф переходов в таком канале. На рис. 3.6.1 показана зависимость информационной емкости ДСК от вероятности ошибки Пример 3.6.2. Найдем информационную емкость двоичного стирающего канала. Предположим, что множество X состоит из двух сигналов, которые мы условно обозначим, через
где обозначено
Такой канал называется двоичным симметричным стирающим каналом (ДСтК). Он может быть получен, например, когда приемник может отказаться от принятия решения 0 или 1 и выдать в этом случае стирание «0». Очевидно,
и
В частном случае, когда в
|
1 |
Оглавление
|