2.10. Квантование при наличии шума. Квантование и представление чисел в цифровых процессорах

При определении требований к способу квантования непрерывных сигналов необходимо учитывать, что реальные датчики (фотопленка, фотоумножители, передающие телевизионные трубки, кристаллические светотепло- и рентгеночувствительные датчики и т. п.) непрерывного видеосигнала и устройства воспроизведения изображений (люминофор электронно-лучевых трубок, модулируемые источники света, фоточувствительные материалы) обладают собственными шумами, в результате чего отсутствует абсолютно точное соответствие между сигналом и объектом Изучения. При расчете оптимального нелинейного предыскажения при квантовании можно считать, что эти шумы, пересчитанные на вход равномерно квантующего устройства, аддитивно складываются с шумом квантования. Таким образом можно учесть возможную зависимость интенсивности шума датчиков и синтезаторов от уровня сигнала (так, дисперсия шума ФЭУ пропорциональна величине сигнала). Критерий

точности квантования при этом должен быть переформулирован с учетом совместного действия шума датчика (синтезатора) и шума квантования.

Важной особенностью взаимодействия этих двух видов искажений является рандомизация шума квантования, разрушение его корреляционных связей с квантуемым сигналом. В результате требования к допустимой величине шума квантования могут быть несколько снижены. Так, например, случайный шум датчика видеосигнала разрушает ложные контуры при грубом квантовании яркости изображения, уменьшая тем самым их заметность. На этом даже основан один из способов сокращенного описания изображений, заключающийся в том, что к видеосигналу перед грубым квантованием добавляется псевдослучайный шум с независимыми отсчетами, а при восстановлении изображения этот шум вычитается из квантованного видеосигнала [119].

Аналогичный способ может использоваться и при повышении контраста изображений при цифровой обработке (см. § 6.2). Конечно, благотворное действие случайного шума датчика сигнала и синтезатора на шумы квантования сказывается только до определенной степени. Существует некоторое оптимальное соотношение между этими видами шумов, зависящее от свойств квантуемого сигнала и содержания решаемой задачи. В большинстве случаев случайный шум датчика и синтезатора должен иметь примерно ту же интенсивность (дисперсию), что и шум квантования. Так, в работе [83]. на основании расчетов по трем разным критериям рекомендуется, чтобы среднеквадратическое значение случайного шума было примерно в три раза меньше ширины интервала квантования (т. е. отношение дисперсий равно , если считать шум квантования равномерно распределенным в интервале квантования).

К процедурам квантования приходится прибегать не только для преобразования непрерывных сигналов в цифровые, но и при преобразованиях цифровых сигналов в цифровых процессорах, например при необходимости запомнить результаты вычислений в цифровых запоминающих устройствах ограниченной емкости. Высказанные выше соображения об оптимальном выборе шкалы квантования в основном справедливы и здесь.

С этих позиций любопытно оценить различные способы представления чисел в цифровых процессорах. Как

известно, основными используемыми формами представления чисел являются представления с фиксированной или плавающей запятой. Нетрудно понять, что при представлении с фиксированной запятой осуществляется равномерное квантование чисел с шагом квантования, равным минимальному числу разрядной сетки. Представление с плавающей запятой соответствует двухступенчатому квантованию: с логарифмическим расположением уровней квантования и нумерацией уровней, передаваемой кодом порядка числа, и равномерным квантованием внутри логарифмически расположенных уровней. Номер этих последних уровней квантования определяется мантиссой числа. При таком смешанном квантовании нетривиальным является вопрос о том, как распределить заданное конечное число разрядов разрядной сетки между кодами мантиссы и порядка. Решая его, можно иметь в виду, что логарифмическое квантование оптимально для порогового критерия относительной ошибки, равномерное квантование — для порогового критерия абсолютной ошибки. Кроме того, решение этого вопроса может зависеть не только от условия экономии количества разрядов, необходимых для представления чисел, но и от быстродействия и простоты организации арифметических операций над числами.

В заключение следует отметить, что на разных стадиях обработки могут оказаться целесообразными разные способы представления чисел. В частности, может использоваться разный формат представления чисел с плавающей запятой в вычислительном устройстве процессоров и в его запоминающем устройстве.

Так, например, в работе [29] описан сокращенный формат представления чисел с плавающей запятой (7 разрядов на мантиссу, 4 разряда на порядок, 2 разряда на знак мантиссы и знак порядка), использовавшийся для хранения результатов обработки на магнитной ленте в работах по цифровой голографии и интерферометрии на ЦВМ «Минск-22».