3.5. КВАНТОВАНИЕ ЧИСЕЛ В ЦИФРОВЫХ ФИЛЬТРАХ, ИСПОЛЬЗУЮЩИХ АРИФМЕТИКУ С ФИКСИРОВАННОЙ ЗАПЯТОЙ
3.5.1. Общие сведения
Квантование числа есть представление последнего с помощью конечного количества 
числовых разрядов. Операция квантования является нелинейной и вносит в представление числа х ошибку
где х — число до квантования; 
— число после квантования (после выполнения нелинейной операции 
Шагом квантования 
называется весовой коэффициент младшего числового разряда, равный 
При квантовании используются два способа: округление а усечение.
3.5.2. Округление
При округлении числа до 
разрядов исходное 
-разрядное число 
заменяется на ближайшее Ь-разрядиое (округление соответствует выбору ближайшего уровня квантования).
Ошибка округления 
удовлетворяет неравенству
для всех трех способов кодирования чисел (прямого, обратного и дополнительного кодов). В (3.12) считается, что 
Характеристика нелинейности, соответствующая операции округления, показана на рис. 3.1, а.
Рис. 3.1
Рис. 3.2
Плотность вероятности ошибки округления 
показана на рис. 3.2, а. При анализе эффектов квантования в ЦФ, как правило, предполагается, что все значения ошибки квантования равновероятны, т. е. ошибки распределены равномерно.
3.5.3. Усечение
При усечении 
-разрядного числа до 
разрядов 
младшие 
разрядов исходного числа отбрасываются.
Ошибка усечения 
удовлетворяет неравенствам:
а) для положительных чисел при любом способе кодирования и отрицательных чисел в дополнительном коде
б) для отрицательных чисел в прямом и обратном кодах
В (3.13) считается, что 
Характеристика нелинейности, соответствующая операции усечения для дополнительного кода, показана на рис. 
а для прямого и обратного кодов — на рис. 3.1, в.
Плотности вероятности ошибки усечения 
показаны на рис. 
для дополнительного кода и на рис. 3.2, в для прямого и обратного кодов.
