Главная > Разное > Теория и применение цифровой обработки сигналов
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

5.9. Усечение

При усечении числа отбрасываются все младшие разряды, стоящие после наименьшего сохраняемого разряда. Таким образом, ошибка, получающаяся при усечении положительного числа, представленного в дополнительном коде, удовлетворяет неравенству

где b — число сохраняемых разрядов, стоящих после двоичной запятой, — усеченное значение причем предполагается, что . Для чисел, представленных в прямом или обратном коде, ошибка усечения удовлетворяет неравенству (5.9) только при . Если же , то справедливо другое неравенство:

При использовании чисел с плавающей запятой усечение касается только мантиссы. Так, рассмотрим число , в котором m — мантисса, — порядок. Усечем мантиссу до b разрядов и запишем ошибку усечения как величину, пропорциональную , т. е.

Тогда при записи мантиссы в дополнительном коде ошибка усечения удовлетворяет неравенству

При справедливо неравенство

Из неравенства (5.12) следует, что при положительном ошибка их отрицательна, т. е. должно быть отрицательным. Поэтому, умножая (5.13) на и меняя при этом знаки неравенств, получим

Из неравенств (5.12) и (5.14) следует, что

Если же , то для можно получить следующее неравенство:

Аналогичным образом можно найти границы для при представлении мантиссы в прямом или обратном коде. В этих случаях искомое неравенство имеет вид

Наиболее важный вывод из вышеизложенного состоит в том, что ошибка усечения всегда заключена между нулем и числом, пропорциональным .

<< Предыдущий параграф Следующий параграф >>
Оглавление