5.10. Округление

При округлении числа до разрядов исходное неокругленное число заменяется на ближайшее -разрядное число. Если же округляемое число располагается посередине между двумя соседними -разрядными числами, то округленное значение следует выбирать случайным образом. Так, число 0,01010, округленное до двух разрядов после запятой, будет равно 0,01, но при округлении до трех разрядов это будет либо 0,011, либо 0,010, причем выбор должен быть случайным. В большинстве случаев, когда приходится выбирать, в какую сторону округлять, случайный характер округления сказывается на точности вычислений очень слабо.

Для систем с фиксированной запятой ошибка при округлении числа до разрядов после запятой удовлетворяет неравенству

для всех трех методов представления чисел (в дополнительном, обратном и прямом кодах).

Ошибка округления чисел с плавающей запятой удовлетворяет неравенству

Если ее снова записать в виде величины, пропорциональной , т. е. как , то для при любом из трех способов представления мантиссы будет справедливо следующее неравенство:

Все неравенства (5.9) — (5.20), относящиеся к ошибкам округления и усечения, удобно представить с помощью плотностей вероятности ошибки. Хотя предельные значения ошибок известны, распределение ошибок в этих пределах не известно. Вполне естественно предположить, что все возможные значения ошибки равновероятны, т. е. ошибки распределены равномерно. На фиг. 5.11 приведены графики плотности вероятности ошибок округления и усечения, построенные при этих предположениях для систем с фиксированной и плавающей запятой. При фиксированной запятой рассматривается абсолютная ошибка типа , а при плавающей — относительная ошибка типа .

Фиг. 5.11. Плотности вероятности шума квантования.