Дисперсия характеризует случайную ошибку оценки, т. е. ту часть общей ошибки, которая не является систематической и может иметь разные знаки и разные абсолютные значения от измерения к измерению.
Суммарная ошибка оценивания характеризуется средним квадратом ошибки, который определяется как математическое ожидание квадрата разности между оценкой и ее истинным значением. Средний квадрат ошибки оценки равен
Легко проверить, что
Иначе говоря, средний квадрат ошибки равен сумме дисперсии и квадрата смещения. Если смещение равно нулю или пренебрежимо мало, то средний квадрат ошибки и дисперсия совпадают.
Рис. 1.18 иллюстрирует смысл смещения (систематической ошибки) и дисперсии (случайной ошибки) на примере пристрелки двух винтовок. Рис. 1.18, а показывает, что винтовка А обладает большим смещением и малой случайной ошибкой. Рис. 1.18, б показывает, что винтовка имеет малое смещение, но большую случайную ошибку. Очевидно, из винтовки А никогда нельзя попасть в цель, в то время как из винтовки можно случайно поразить ее. Однако большинство стрелков предпочтет винтовку А, поскольку систематическую ошибку можно исключить (если известно, что она есть) путем регулировки прицела винтовки, а случайную ошибку устранить нельзя. Следовательно, винтовка А потенциально имеет меньший средний квадрат ошибки.
Рис. 1.18. Случайные и систематические ошибки при стрельбе из винтовки по мишени: а — винтовка А, большая систематическая ошибка и малая случайная ошибка; б - винтовка Б, малая систематическая ошибка и большая случайная ошибка.
Наконец, важной величиной является нормированная среднеквадратичная ошибка оценки, обозначаемая Эта безразмерная ошибка равна квадратному корню из среднего квадрата ошибки, деленному на истинное значение параметра (разумеется, в предположении, что оно не равно нулю). Формально
На практике стараются уменьшить нормированную среднеквадратичную ошибку в максимально возможной степени. В этом случае появляется уверенность в том, что произвольная оценка близка к истинному значению