6.5. Цифровые системы с кодированием

В § 6.3 и 6.4 были рассмотрены некоторые простые цифровые системы. Мы установили, что их помехоустойчивость определяется отношением сигнал/шум в полосе сообщения и шириной полосы канала. Точно так же, как в случае угловой модуляции, помехоустойчивость цифровой системы без кодирования не менее чем на 6 дБ ниже границы по заданной мере искажений, которая была определена в § 5.4 (см. рис. 5.23).

Теория кодирования при заданном критерии точности утверждает, что существует связанная с источником некоторая функция функция скорости создания им информации при заданном искажении.

Рис. 6.11. Система с использованием энтропийного кодирования.

Если имеется канал, пропускная способность которого не меньше С, то можно передать сообщение со среднеквадратической ошибкой Трудность здесь заключается в том, что мы не знаем, как найти систему, достигающую такой помехоустойчивости. Глубокое изучение этой проблемы потребовало бы исходных сведений из теории информации, которые в нашем курсе не излагались. Превосходным пособием для самостоятельной работы по этому вопросу является книга Галлагера [5].

В этом параграфемы кратко обсудим несколько более простую задачу, называемую задачей кодирования источника.

Интересующая нас модель показана на рис. 6.11. Аналоговое сообщение дискретизуется и квантуется. Каждые секунд квантователь выдает значение дискретной случайной величины х (напомним рис. 6.2). В ранее рассмотренных моделях систем связи предполагалось, что эти значения непосредственно отображаются в сигналы для передачи по каналу.

Теперь мы введем в систему на выходе квантователя дополнительное устройство, которое будем называть кодером источника. Оно предназначается для представления случайной величины х посредством минимального числа двоичных символов (разрядов, цифр, элементов). Можно показать (например, [5]), что энтропия дискретной случайной величины х определяется формулой

Энтропия случайной величины — это минимальное число бит, необходимых для представления случайной величины. Существуют конструктивные методы (например [6 и 7]) кодирования

последовательмости значений величины х в последовательность двоичных символов при помощи только бит на отсчет (выборку). Далее предполагается, что используется именно такой кодер.

Выходом кодера является последовательность двоичных символов, которые необходимо отобразить в сигналы для передачи по каналу связи. Шенноновская теорема кодирования утверждает, что по каналу с пропускной способностью С можно передавать информацию со скоростью и при сколь угодно малой вероятности ошибки. Будем полагать, что такая идеальная система у нас имеется (подробнее с соответствующими методами кодирования можно ознакомиться по книге [5]).

Рис. 6.12. Ошибки при различных методах квантования и кодирования.

С учетом этих предположений мы теперь имеем модель, в которой полная среднеквадратическая ошибка восстановления исходного сообщения будет обусловлена лишь процессом квантования. Преимущество этой модели заключается в том, что она позволяет исследовать систему с дискретизацией и квантованием и характеризовать ее посредством среднеквадратической ошибки и энтропии, не вдаваясь в рассмотрение проблемы кодирования. Ее недостаток состоит в том, что она не указывает нам путей построения той части системы, которая связана с передачей и детектированием сигнала.

Первым представляющим интерес методом квантования является квантователь с минимальной среднеквадратической ошибкой, синтезированный в § 6.2. Вычисление энтропии на выходе квантователя при различных значениях не вызывает затруднений [4]. Результаты такого расчета наряду со значениями ошибки квантования сведены в табл. 6.6. Видим, что энтропия лишь немного меньше, чем Это означает, что можно было бы исключить кодирование источника, лишь незначительно потеряв в помехоустойчивости. Для сравнения различных методов квантования и кодирования источника на рис. 6.12 графически представлены следующие зависимости:

1. - величина, обратная среднему квадрату ошибки при достижении границы, установленной методом эквивалентной скорости при заданном искажении.

2. - величина, обратная среднему квадрату ошибки при использовании оптимального (по критерию минимальной среднеквадратической ошибки) квантователя и кодировании. Подстрочный индекс означает: при квантовании кодировании с минимальной энтропией.

Таблица 6.6 (см. скан)

3. - величина, обратная среднему квадрату ошибки при использовании оптимального (по критерию минимальной среднеквадратической ошибки) квантователя, вслед за которым включен двоичный преобразователь, работающий в соответствии с табл. 6.2. (Она существует только при целых значениях k.)

Во всех случаях по горизонтальной оси откладывается количество бит на отсчет. По графику видно, что различие между границей и двумя указанными системами составляет около 0,4 бит/отсчет и 0,6 бит/отсчет соответственно. Все эти зависимости можно построить и в функции от если учесть, что всего имеется и пропускная способность канала с бесконечно широкой полосой пропускания и гауссовым белым шумом равна

Следовательно,

Этот горизонтальный масштаб также показан на рис. 6.12.

Если допускается кодирование источника, то квантователь, работающий по критерию минимальной среднеквадратической ошибки, не обязательно является оптимальным. Гоблик и Холзингер рассмотрели другой подход к задаче квантования [8]. Они потребовали, чтобы квантователь принадлежал к классу равномерных и синтезировали равномерный квантователь, минимизирующий среднеквадратическую ошибку при фиксированной энтропии. Полученный ими результат также представлен на рис. 6.12. Найденный ими минимальный средний квадрат ошибки обозначен на графике через Сравнивая результат [8] с нижней границей, видим, что предлагаемый метод требует на

0,25 бит/отсчет больше. Из этого следует, что при ограниченном по ширине спектре, по-видимому, необязательно прибегать к более сложным методам дискретизации и квантования.

В этом параграфе мы кратко обсудили идею кодирования источника. В следующем параграфе подведем основные итоги по шестой главе.