§ 111. Определение математических ожиданий и дисперсий случайных величин

Рассмотрим теперь задачу определения математического ожидания случайной величины X по результатам независимых опытов, произведенных в одинаковых условиях. Обозначим через случайное значение случайной величины X, которое она принимает в результате опыта, а через конкретное значение случайной величины X, полученное в результате опыта. Вследствие независимости опытов случайные величины независимы. Кроме того, вследствие постоянства условий опытов математические ожидания и дисперсии всех случайных величин одинаковы и равны соответственно математическому ожиданию и дисперсии случайной величины Поэтому все условия теоремы Чебышева, доказанной в § 37, соблюдены и в качестве оценки математического ожидания случайной величины X можно принять среднее арифметическое полученных в результате опытов ее значений:

Так как случайные величины независимы, то математическое ожидание и дисперсия их среднего арифметического

согласно (19.13) и (20.18), выразятся формулами

Первая формула (111.3) показывает, что среднее арифметическое результатов опытов является несмещенной оценкой математического ожидания. Вторая формула (111.3) может служить для оценки точности определения математического ожидания по формуле (111.1).

Так как дисперсия случайной величины X представляет собой математическое ожидание случайной величины то оценкой дисперсии случайной величины X может служить среднее арифметическое полученных в результате опытов значений случайной величины

Если математическое ожидание случайной величины X известно, то формула (111.4) дает несмещенную оценку дисперсии случайной величины X, так как она является по существу применением формулы (111.1) к случайной величине

Практически при определении дисперсии случайной величины ее математическое ожидание никогда не бывает известным, вследствие чего формула (111.4) оказывается неприменимой. Заменяя в формуле (111.4) неизвестное математическое ожидание случайной величины X средним арифметическим полученных в результате опытов ее значений, получим для дисперсии случайной величины оценку

Эта формула дает смещенную оценку дисперсии случайной величины Для того чтобы убедиться в этом, вычислим математическое ожидание случайной величины

Так как случайные величины согласно (111.3), имеют

одинаковое математическое ожидание, то математическое ожидание случайной величины равно нулю и

Но

где индекс сверху знака суммы указывает, что слагаемое с индексом в сумме не содержится. Таким образов, случайная величина представляет собой линейную функцию независимых случайных величин Следовательно, для вычисления ее дисперсии можно применить формулу (20.18). Тогда получим:

после чего найдем математическое ожидание оценки (111.6):

Для того чтобы получить несмещенную оценку дисперсии случайной величины можно в правую часть формулы (111.5) внести поправочный множитель В результате получим для дисперсии случайной величины X следующую оценку:

Для оценки точности определения дисперсии случайной величины X по формуле (111.11) найдем дисперсию случайной величины

На основании формулы (10.9) можем написать:

Далее, формула (111.12) дает:

Таким образом, для оценки точности формулы (111.11) необходимо знать моменты четвертого порядка случайных величин Если случайная величина X распределена нормально, то все случайные величины как линейные функции случайных величин также распределены нормально и для определения моментов четвертого порядка случайных величин можно применить формулу (29.8). Тогда получим:

Так как математические ожидания случайных величин равны нулю, то величина представляет собой корреляционный момент двух линейных функций случайных величин определяемых формулой (111.8). Применяя для вычисления этого корреляционного момента формулу (20.24), будем иметь:

Подставляя выражения (111.9) и (111.16) в формулы (111.15), получим:

Пользуясь формулами (111.17) и принимая во внимание, что сумма в (111.14) содержит слагаемых первого вида и слагаемых второго вида, получим:

Подставляя это выражение в (111.13), найдем дисперсию оценки (111.12):

Эта формула может служить для оценки точности определения дисперсии случайной величины X по формуле (111.11).

Очевидно, что дисперсия смещенной оценки (111.6) отличается от дисперсии несмещенной оценки (111.12) множителем

который всегда меньше единицы. Следовательно, дисперсия смещенной оценки в данном случае меньше дисперсии несмещенной оценки. Однако точность смещенной оценки правильнее характеризовать не ее дисперсией, а квадратом средней квадратической ошибки, т. е. математическим ожиданием квадрата разности между оценкой и той вероятностной характеристикой, которая определяется этой оценкой. Для несмещенной оценки эта величина совпадает с дисперсией оценки. Так как математическое ожидание случайной величины где определяется формулой (111.6), согласно (111.10), равно на основании формулы (10.9) можем написать:

Эта формула может служить для оценки точности определения дисперсии случайной величины X по формуле (111.5). Так как

то в данном случае смещенная оценка дисперсии случайной величины оказывается более точной, чем несмещенная оценка. Зато смещенная оценка дисперсии (111.5) дает систематическую ошибку в сторону уменьшения неизвестной дисперсии случайной величины. Пользуясь несмещенной оценкой (111.11), мы избегаем систематической ошибки в определении дисперсии случайной величины и расплачиваемся за это некоторым уменьшением точности приближения к неизвестной дисперсии. Очевидно, что при увеличении числа опытов различия между смещенной и несмещенной оценками дисперсии случайной величины сглаживаются, и при числе опытов, измеряемом десятками, практически безразлично, какой из формул (111.5) или (111.11), пользоваться для определения дисперсии случайной величины

В математической статистике часто приходится встречаться с тем, что смещенные оценки оказываются точнее несмещенных и иногда весьма значительно, если точность оценки характеризовать математическим ожиданием квадрата разности между оценкой и определяемой этой оценкой вероятностной характеристикой.