13.2. Эффекты конечной арифметики

Мы рассматривали действия, которые выполняются фильтром так, как будто арифметические вычисления

выполняются точно, без жесткого округления. Однако на практике бывают случаи, когда использование чисел с конечной длиной слова вызывает нежелательные последствия.

Читатель, вероятно, понимает, что хотя округление и влияет на арифметические вычисления, но при достаточно многочисленных данных ему будут помогать центральные предельные теоремы теории вероятностей и только очень сильные отклонения будут наносить ущерб. Однако он может упустить тот факт, что когда округляется коэффициент фильтра, то это округление сказывается каждый раз при использовании этого коэффициента! По этой причине, помимо прочего, рекомендуется при окончательном расчете фильтра вычислять и вычерчивать его передаточную функцию для того, чтобы вовремя заметить, если произойдет что-либо особенное; из-за округления в коэффициентах действительный фильтр на практике может существенно отличаться от предполагаемого.

Для иллюстрации странных вещей, которые могут произойти, рассмотрим очень простой рекурсивный фильтр

с для всех . Предположим, что мы начали с Получим таблицу [1, с. 76], из которой видно, что мы «застряли» на

Конечно, математическое решение для стремящегося к бесконечности, есть

Если вычисления начать с то получим таблицу

из которой видно, что мы опять «застряли», но уже на 112. Следовательно, в этом рекурсивном фильтре имеется «мертвая зона» шириной 24 единицы.

Другой эффект, на который читатель, вероятно, не обратил внимание, заключается в предельных циклах.. Установившийся входной сигнал может вызывать на выходе рекурсивного фильтра циклическое изменение значений. Переполнение также представляет проблему. Так что же на самом деле произойдет, если используется конечная арифметика?

Все такие вопросы приобретают особенно важное значение, когда фильтр строится из законченных узлов, обычно из чипов интегральных схем, и имеет широкое применение (вместо машинных программ на универсальных ЭВМ). К сожалению, чип должен иметь наиболее короткую длину слова (чтобы уменьшить стоимость и, возможно, время, необходимое для обработки чисел). В этой ситуации возможен большой разрыв между моделированием на машине и действительной областью обработки аналогичных данных. Для более активного изучения этого вопроса читатель отсылается к специальным книгам, источнику [7] и текущей литературе.