2.8. Поэлементное квантование

Вторым этапом получения цифрового сигнала из непрерывного после дискретизации является квантование коэффициентов разложения сигнала по конечно-мерному ортогональному базису (поэлементное квантование). Оно состоит в том, что в области значений коэффициентов выбирается отрезок конечной длины, который разбивается на конечное число интервалов — ступенек квантования, и значения, попадающие в каждый интервал, обозначаются одним числом (номером интервала). При восстановлении сигнала оно заменяется значением, являющимся представителем данного интервала. Способ разбиения на интервалы и значения-представители интервалов выбираются гак, чтобы удовлетворялись требования по точности представления непрерывного сигнала цифровым. Ввиду того, что преобразование непрерывных сигналов в цифровые разбивается на два этапа—дискретизацию и поэлементное квантование, — требования к точности цифрового представления приходится формулировать также отдельно для каждого этапа.

Пусть — к-й коэффициент дискретного представления сигнала, — значение-представитель интервала квантования области значений Ошибка квантования может характеризоваться величиной

Требования к точности квантования обычно формулируют путем ограничений, налагаемых на Наиболее общий подход в формулировке этих ограничений состоит в том, что величину а значив, и считают случайной и вводят метрику — некоторую меру отличия от его квантованного представления При таком подходе точность представления характеризуют средним

по распределению вероятностей значением расстояния

где — границы интервала квантования; М — число интервалов, или уровней, квантования.

Оптимальным считается такой выбор интервалов квантования и их представителей, при котором минимально и не превышает заданного граничного значения. В такой постановке задача оптимального поэлементного квантования сформулирована в [14, 108].

Во многих случаях целесообразно различать два рода ошибок квантования: ошибки ограничения, возникающие из-за ограничения области значений квантуемой величины; и ошибки квантования внутри выбранного ограниченного интервала значений. Действительно, если плотность распределения имеет длинные «хвосты», ошибки ограничения могут быть по абсолютной величине довольно значительными, тогда как ошибки квантования внутри выбранного интервала существенно ограничены. Функции распределения этих ошибок также сильно различны. Поэтому требования к точности представления непрерывной величины квантованной целесообразно формулировать отдельно для ошибок ограничения

и ошибок квантования внутри ограниченного отрезка

где меры отличия для ошибок ограничения и ошибок квантования на ограниченном отрезке.

При такой постановке оптимальным является квантование, обеспечивающее минимум каждого из и и удовлетворяющее условиям

где — предельные значения ошибок ограничения и квантования.

Оптимальные значения границ отрезка, внутри которого производится квантование, границ интервалов квантования , а также значений-представителей определяются, очевидно, следующими системами уравнений, полученными из (2.44) и (2.45) дифференцированием по искомым величинам и приравниванием производных нулю:

Из (2.49 а) вытекает правило: если является четной функцией, то граница интервалов квантования должна выбираться посередине между соответствующими значениями-представителями:

Решение системы уравнений (2.49 а — в) для нахождения оптимальных и минимального М может быть выполнено итеративным путем в вычислительной машине. В [108] приведены некоторые результаты таких расчетов для квадратичной функции потерь и гауссова распределения . Если квантуемые величины получены в результате расчетов в то такой подход к выбору оптимального квантования вполне оправдан. При выборе же оптимального квантования непрерывного сигнала для ввода в цифровой процессор удобнее несколько упростить задачу, чтобы получить ее аналитическое решение, которое можно было бы воплотить в устройстве преобразования аналогового сигнала в цифровой.

Рассмотрим интеграл

Плотность распределения и метрику обычно можно считать гладкими функциями, а число уровней квантования достаточно большим, так что ширина интервалов (ступенек) квантования мала, и на интервале функции можно представить в виде

где — середина интервала квантования;

Подставляя (2.53) в (2.51) и учитывая (2.496), получаем

Этот результат по существу означает, что оптимальное значение представителя интервала квантования мало отличается от величины в центре интервала. Подставляя теперь (2.52) в (2.55), получаем

Во всех практических задачах можно считать четной функцией. Тогда второй интеграл в (2.56) равен нулю и

где — полуширина интервала;

Обозначим

Тогда, подставив (2.59) и (2.57) в (2.45), получим

Тем самым задача оптимального квантования в ограниченном диапазоне сводится к минимизации суммы (2.60) посредством разбиения отрезка на интервалы оптимальной ширины.

Существующие устройства квантования обычно осуществляют так называемое равномерное квантование сигналов, т. е. квантование с равными интервалами квантования. Используя такие устройства, оптимальное неравномерное квантование можно осуществить, если перед равномерным квантованием сигнал подвергнуть нелинейному преобразованию (предыскажению), вид которого подбирается из условия минимума (2.60).

Пусть -функция, описывающая такое преобразование. Это обычно гладкая монотонная функция, так что можно приближенно считать

где — полуширина интервала равномерного квантования;

Тогда (2.60) можно переписать в виде

По-прежнему основываясь на гладкости функций минимум (2.63) можно искать как минимум интеграла

по функции Тем самым задача оптимального квантования свелась к стандартной вариационной задаче. Функция обеспечивающая минимум (2.64), определяется известным уравнением Эйлера—Лагранжа, которое в данном случае записывается как

Таким образом, вид оптимального предыскажения зависит от плотности распределения значений квантуемой величины и модифицированной в соответствии с (2.59) мерой ошибки квантования.

При восстановлении непрерывного сигнала из квантованного также обычно используют цифроаналоговые преобразователи с равномерно квантованным выходным сигналом. Чтобы получить значения-представителей интервалов квантования, соответствующие оптимальному квантованию, равномерно квантованный сигнал подвергают нелинейному преобразованию (коррекции). Нетрудно показать, что функция, описывающая вид коррекции, близка к функции, обратной функции нелинейного предыскажения при квантовании. Действительно, пусть — функция коррекции, — представитель интервала равномерного квантования величины а. Тогда, поскольку величина представителя интервала должна находиться внутри этого интервала,

откуда и следует, что при малом функция коррекции .

При практическом применении приведенных результатов главным вопросом является выбор меры ошибок квантования — критерия точности квантования. Он определяется характером решаемой после квантования задачи и смыслом квантуемых величин. Хотя в указанной выше постановке критерий точности квантования является поэлементным, при его выборе необходимо учитывать свойства ошибки квантования как двумерного процесса, вообще говоря, коррелированного с квантуемым сигналом. Так, если квантованию подвергается яркость изображения, шумовой узор квантования оказывается визуально изображениеподобным и потому может мешать визуальному восприятию даже при незначительном искажении яркости элементов изображения.

Дело в том, что для многих изображений характерны большие области с плавно меняющейся яркостью, отделяемые друг от друга границами, где яркость меняется намного резче. При квантовании может оказаться, что одна область проквантована на два соседних уровня. В результате при восстановлении квантованного изображения между этими двумя участками одной области

возникает протяженная граница, легко заметная на глаз, так как зрение обладает низким порогом обнаружения контраста, если имеются большие площади для сравнения. В этом состоит проблема так называемых ложных контуров, с которой приходится сталкиваться при квантовании изображений [34, 69].