6.8. Квантование коэффициентов
При аппаратурной реализации цифрового фильтра весовые коэффициенты не могут принимать произвольные значения, так как они представляются ограниченным числом двоичных цифр. Поэтому значения коэффициентов, определяемые при расчете фильтра, обычно округляются до ближайшего числа, которым они могут быть представлены. В результате полученный фильтр будет в некоторой степени отличаться от первоначально задуманного.
Пусть 
является 
коэффициентом импульсной характеристики нерекурсивного фильтра. Если квантованные коэффициенты
Таблица 6.1 (см. скан)
могут принимать лишь значения 
, где 
— константа, то 
квантованный коэффициент может быть записан
где член 
представляет величину ошибки, лежащую в пределах
Подстановка выражения для квантованных коэффициентов в уравнение (6.2) дает
В частотной области
Последовательность отсчетов ошибки квантования в формуле (6.7) можно рассматривать как импульсную характеристику дополнительного фильтра, подключенного параллельно с идеальным. Из формулы (6.7) видно, что идеальная частотная характеристика 
будет искажена наложением 
Степень искажения идеальной характеристики на произвольной частоте может быть точно определена в каждом конкретном случае путем расчета 
из последовательности отсчетов ошибки в формуле (6.6). Полезная оценка среднеквадратической ошибки 
может быть легко получена при статистическом анализе эффекта квантования [1]. Заметим, что
где означает комплексную сопряженность. Заменив 
с учетом формулы (6.4), получим
Если сделать обычно принимаемое предположение о некоррелированности последовательных отсчетов ошибки, то среднее значение перекрестных членов будет равно нулю, и среднеквадратическая ошибка может быть аппроксимирована математическим ожиданием
Если, кроме того, предположить, что ошибка имеет равномерное распределение в пределах — 
то
и, следовательно,
Таким образом, результирующая частотная характеристика будет аппроксимировать идеальную со среднеквадратическим отклонением 
Следует подчеркнуть, что это отклонение имеет вероятностный смысл, и поэтому иногда действительное отклонение на некоторых частотах будеч больше. Тем не менее это весьма полезная, легко рассчитываемая величина, дающая оценку
максимально достижимого затухания в полосе, непропускания фильтра, т. е. там, где идеальная частотная характеристика достигает нулевых значений.
