Из формулы (5.113) видно, что функцию ошибки
можно рассматривать как частотную характеристику фильтра с линейной фазовой характеристикой, у которого первая половина импульсной характеристики образована последовательностью
, а вторая имеет вид
. Как было показано выше, фильтр с квантованными коэффициентами эквивалентен двум параллельно соединенным фильтрам, один из которых является исходным фильтром с неквантованными коэффициентами, а второй имеет частотную характеристику
.
Учитывая, что
легко найти границу для
. Из равенства (5.113) следует, что
(5.114)
или
(5.115)
Эта граница является слишком грубой и на практике почти не используется. Если предположить, что ошибки, возникающие при квантовании отдельных коэффициентов, статистически независимы, то можно найти более приемлемую статистическую границу. Хотя для каждого конкретного фильтра коэффициенты квантуются один раз, после чего характеристика фильтра становится фиксированной, нижеприведенная граница дает возможность проектировщику оценить точность представления коффициентов, необходимую для получения заданной характеристики фильтра, даже не зная заранее значений самих коэффициентов.
Исходя из формулы (5.113), выражение для
можно записать в виде
(5.116)
При равномерном распределении
, поэтому
(5.117)
Введем следующую весовую функцию:
(5.118)
(см. скан)
Фиг. 5.40. Влияние квантования коэффициентов на частотную характеристику фильтра.
Тогда стандартное отклонение ошибки будет равно
(5.119)
Ясно, что
и при всех
. Поэтому
Нетрудно показать, что
(5.121)
Из фиг. 5.40, где изображены весовые функции
для
, видно, насколько
близко к границе, задаваемой формулой (5.120); при любых
величина
отличается от этой границы не более чем в два раза.
Поскольку при любых
ошибка
равна сумме независимых случайных величин, плотность распределения вероятностей которых равна нулю вне некоторого конечного интервала, то
при больших N является гауссовой случайной величиной. Таким образом, среднее значение и дисперсия ошибки
полностью определяют ее статистические свойства.
Чан и Рабинер экспериментально подтвердили справедливость вышеприведенной модели квантования коэффициентов для случая оптимальных фильтров нижних частот. Опираясь на эту модель и теоретические соотношения между параметрами фильтра с неквантованными коэффициентами, Чан и Рабинер сформулировали правило нахождения числа разрядов при расчете фильтра с заданными граничными частотами и уровнем пульсаций в полосах пропускания и непропускания.