Приложение 10Б. Дисперсия ошибок округления
Выше были сделаны следующие предположения относительно ошибок округления при выполнении арифметических операций:
1) ошибка 
равномерно распределена в диапазоне от 
до 
где 
— шаг квантования;
2) среднее значение в равно нулю;
3) все ошибки взаимно независимы и некоррелированы от выборки к выборке.
Фиг. 10.21. Плотность вероятности ошибок округления.
Плотность распределения вероятностей ошибок 
при этих предположениях графически представлена на фиг. 10.21. Здесь
Дисперсия ошибок по определению [23] равна
где 
— среднее значение, в нашем случае равное нулю, а 
при 
При этих условиях выражение (10.64) можно переписать следующим образом: 
После интегрирования
