6.3. ОБРАБОТКА КВАНТОВАННЫХ ВЕЛИЧИН

Числа, описывающие изображения (например, представляющие яркость или координаты цвета), обычно вводятся в цифровую вычислительную машину в виде целочисленных кодовых комбинаций, соответствующих уровням квантования отсчетов. Так, яркость одноцветного изображения обычно измеряют с помощью линейной целочисленной шкалы, ограниченной числами 0 (уровень черного) и 255 (уровень белого). Эти целочисленные кодовые комбинации, однако, не следует рассматривать как арифметические величины. Перед обработкой в машине кодовые комбинации следует преобразовать в действительные десятичные числа, соответствующие уровня квантования. Если этого не сделать, то можно получить совершенно неверные результаты. Так, если кодовые комбинации — номера уровней — изменяются вдоль шкалы яркостей немонотонно, то их вообще нельзя использовать для обработки. Рассмотрим теперь, что произойдет, если эти комбинации изменяются монотонно и обрабатываются в ЦВМ без преобразования в десятичные числа — значения уровней квантования.

Существуют две основные формы представления чисел в цифровых вычислительных машинах: как целое число и как действительное число. Целые числа изменяются от 0 до некоторого максимального значения. Так, в 16-разрядной мини-ЭВМ наибольшее положительное целое число равно 32 768 (). Если результат арифметической операции определен как целое число, а в результате получается дробное число, то дробная часть просто отбрасывается. Отношение 8/3, например, будет представлено как целое число 2 без десятичной точки и знаков после нее. Если обрабатываемые величины определены как действительные числа, то дробная часть итога операции будет сохраняться и содержать столько знаков, сколько позволяет получить разрядность машины. Отношение действительных чисел 8./3. будет иметь вид 2.66...66.

Рис. 6.3.1. Методы преобразования квантованных сигналов: а – поэлементное преобразование непрерывных сигналов; б – преобразование квантованных сигналов, представленных действительными числами; в – преобразование квантованных сигналов при замене кодовых комбинаций действительными числами.

На рис. 6.3.1 для сравнения представлены три способа обработки сигналов. На рис. 6.3.1, а непрерывная скалярная величина , изменяющаяся в интервале , подвергается преобразованию , в результате которого получается непрерывная величина

.                             (6.3.1)

На рис. 6.3.1, б показана схема обработки, в которой скалярная величина  перед обработкой подвергается равномерному квантованию и кодированию. Целочисленные значения кодовых комбинаций определяются по формуле

,        (6.3.2)

где символ , обозначает округление аргумента до ближайшего целого числа. Код , определенный как целое число, преобразуется в действительное число  согласно соотношению

,                        (6.3.3а)

или, что то же самое,

.  (6.3.3б)

Далее с квантованным отсчетом  выполняется необходимая операция и получается квантованный выходной сигнал

,                                    (6.3.4)

отличающийся от непрерывного выходного сигнала , фигурирующего в равенстве (6.3.1), только из-за ошибки квантования исходной величины.

К сожалению, часто обработку квантованных сигналов производят неправильно — по схеме, приведенной на рис. 6.3.1, в. Кодовая комбинация , рассматриваемая как целое число, преобразуется в действительное число  принимающее значения . После этого по формуле

                            (6.3.5)

вычисляются значения выходного сигнала , определяемые как действительные числа. В общем случае  имеет и целую, и дробную части. Если, например , то после преобразования, состоящего в извлечении квадратного корня с точностью до пятого знака, получается выходной сигнал . Ясно, конечно, что ошибки квантования входного отсчета  проявятся и в выходном отсчете . Однако существуют более серьезные трудности, если считать, что  может служить сравнительно хорошей аппроксимацией непрерывного выходного сигнала . Предположим, что число уровней квантования достаточно велико и поэтому

.     (6.3.6)

Тогда выходной сигнал будет равен

,                             (6.3.7)

где постоянные

,                      (6.3.8а)

.             (6.3.8б)

Если преобразование  линейно, то

                              (6.3.9)

и

.                       (6.3.10)

Таким образом, выходной сигнал рассматриваемой системы (рис. 6.3.1, в) будет хорошей аппроксимацией непрерывного выходного сигнала системы с аналоговой обработкой (рис. 6.3:1, а), если преобразование, выполняемое в системе, является линейным. С другой стороны, если это преобразование нелинейно, то аппроксимация одного сигнала другим обычно оказывается очень плохой. Так, например, обычно логарифм квантованной переменной  существенно отличается от логарифма действительного числа  сформированного из кодовой комбинации, которая задает номер уровня квантования для .