5.9. Усечение
При усечении числа отбрасываются все младшие разряды, стоящие после наименьшего сохраняемого разряда. Таким образом, ошибка, получающаяся при усечении положительного числа, представленного в дополнительном коде, удовлетворяет неравенству
где b — число сохраняемых разрядов, стоящих после двоичной запятой,
— усеченное значение
причем предполагается, что
. Для чисел, представленных в прямом или обратном коде, ошибка усечения удовлетворяет неравенству (5.9) только при
. Если же
, то справедливо другое неравенство:
При использовании чисел с плавающей запятой усечение касается только мантиссы. Так, рассмотрим число
, в котором m — мантисса,
— порядок. Усечем мантиссу до b разрядов и запишем ошибку усечения
как величину, пропорциональную
, т. е.
Тогда при записи мантиссы в дополнительном коде ошибка усечения удовлетворяет неравенству
При
справедливо неравенство
Из неравенства (5.12) следует, что при положительном
ошибка их отрицательна, т. е.
должно быть отрицательным. Поэтому, умножая (5.13) на
и меняя при этом знаки неравенств, получим
Из неравенств (5.12) и (5.14) следует, что
Если же
, то для
можно получить следующее неравенство:
Аналогичным образом можно найти границы для
при представлении мантиссы в прямом или обратном коде. В этих случаях искомое неравенство имеет вид
Наиболее важный вывод из вышеизложенного состоит в том, что ошибка усечения всегда заключена между нулем и числом, пропорциональным
.