СТАТИСТИЧЕСКИЕ ОЦЕНКИ

— приближения к неизвестным характеристикам (параметрам) распределения генеральной совокупности, получаемые с помощью выборочных значений. Задача построения оценок параметров распределения является основной проблемой математической статистики. Пусть случайная величина с ф-цией распределения определенного матем. вида, зависящая от одного (или нескольких) неизвестных параметров Возникает задача получения оценок параметра по выборке, состоящей из наблюдений случайной величины Оценка параметра должна быть некоторой ф-цией от выборочных значений но не параметра Всякая такая ф-ция статистикой. Статистика является случайной величиной, ф-ция распределения вероятностей которой определяется совместной ф-цией распределения выборки

В большинстве случаев ф-ция распределения статистики зависит от параметра Идеальной оценкой параметра была бы статистика которая для любых наблюденных значений давала бы значение Таких статистик, однако, почти никогда не бывает. Поэтому среди статистик обычно отыскивают те, значения которых наиболее тесно концентрируются вокруг неизвестного значения 0, или те, которые обладают таким свойством хотя бы при больших объемах выборок.

Наиболее важными свойствами оценок являются несмещенность, эффективность, состоятельность и некоторые обобщения этих свойств. Оценка несмещенной оценкой параметра по выборке если значение равно значению неизвестного параметра . В том случае, когда оценка смещенной, а

величина смещением оценки . Несмещенность оценки является желаемым свойством; однако, если существует несмещенная оценка параметра, то обычно имеется много несмещенных оценок по выборке фиксированного объема . Естественно поэтому выделить из множества всех несмещенных оценок параметра те оценки, значения которых более тесно группируются вокруг параметра Наиболее простой мерой рассеяния значений случайной величины около значения является дисперсия. Вместо дисперсии несмещенной оценки 0 часто используют среднее квадратическое отклонение, равное значению квадратного корня из дисперсии. Нижнюю границу для дисперсии несмещенной оценки параметра по выборке из независимых наблюдений случайной величины с плотностью распределения вероятностей дает неравенство Фрепге—Крамера

(при условиях регулярности, налагаемых на ф-цию Несмещенная оценка эффективной оценкой параметра по выборке объема если для в неравенстве (1) достигается равенство. Эффективные оценки существуют при очень ограничительных условиях. Чаще рассматривают асимптотически несмещенные и асимптотически эффективные оценки. Оценка асимптотически несмещенной, если при . Оценка асимптотически эффективной, если отношение дисперсии оценки и правой части неравенства (1) стремится к 1 при При некоторых общих условиях регулярности существуют состоятельные оценки параметров. Оценка состоятельной, если сходится по вероятности к неизвестному значению , т. е. если для любого при Для более точных суждений о вероятностях отклонений оценки от желательно знать распределение . Однако, распределение статистик в удобной для практических приложений форме при фиксированном числе наблюдений может быть получено только в редких случаях. Чаще пользуются тем имеющим местом при общих условиях фактом, что распределение приближается к нормальному распределению при оценки, обладающие этим свойством, наз. асимптотически нормальными.

Важными свойствами оценок являются симметричность и достаточность. Оценка симметричной, если она не изменяется при любой перестановке значений По данной статистике с конечной дисперсией можно построить симметричную оценку, дисперсия которой не превосходит дисперсии исходной статистики. Кроме того, симметричность оценки часто является естественным физ. требованием задачи (напр., оценка не должна зависеть от порядка получения наблюдений Статистики наз. достаточными для распределения вероятностей если условное распределение выборки при фиксированных значениях статистик не зависит от параметра Достаточная статистика содержит в себе всю информацию о параметре содержащуюся в данных наблюдениях.

Если для параметра существует оценка с конечной дисперсией и достаточная статистика то можно построить оценку которая является ф-цией достаточной статистики, имеет то же математическое ожидание, что и оценка , и дисперсию, меньшую или не большую, чем дисперсия исходной оценки . Поэтому, если достаточные статистики существуют, то в качестве оценок обычно используются ф-ции от достаточных статистик.

Понятия состоятельности, эффективности и достаточности оценки ввел в 1922 англ. статистик Фишер. Они аналогичным образом определяются в том случае, когда распределение случайной величины зависит от нескольких неизвестных параметров. Неизвестными параметрами распределения вероятностей обычно являются моменты распределения, вероятности попадания случайной величины в заданный интервал и т. п.

Для случайной величины имеющей биномиальное распределение с неизвестным параметром (т. е. , где — фиксированное целое число), статистика построенная по выборке независимых наблюдений, является несмещенной, достаточной и эффективной оценкой параметра . Статистика имеет биномиальное распределение с параметром . Для случайной величины имеющей Пуассона распределение с параметром

статистика — для выборки независимых наблюдений величины является несмещенной, достаточной и эффективной оценкой параметpa X. Статистика имеет распределение Пуассона с параметром Вели случайная величина имеет показательное распределение с плотностью распределения

где — неизвестное распределения то статистика выборке независимых наблюдений является несмещенной, достаточной и эффективной оценкой параметра . Для случайной величины, имеющей нормальное распределение с неизвестным значением и дисперсией статистики выборке независимых наблюдений) являются несмещенными, совместно-достаточными и совместно-эффективными оценками параметров соответственно. Статистики тип независимы, причем распределена нормально со дисперсиеи, - имеет распределение с степенями свободы.

Наиболее важными общими методами нахождения оценок для параметров распределения являются метод моментов, предложенный в 1894—1902 англ. статистиком К. Пирсоном, и метод максимума правдоподобия, предложенный в 1912 англ. статистиком Фишером.

Метод моментов состоит в приравнивании определенного числа выборочных моментов (см. Эмпирическая функция распределения) к соответствующим моментам распределения, являющимся ф-циями от неизвестных параметров. Оценки получают, рассматривая число моментов, равное числу неизвестных параметров, и решая полученные ур-ния относительно параметров. Метод моментов широко используется из-за простоты вычислений. Он основан на том, что выборочный момент порядка построенный по независимым наблюдениям является состоятельной и асимптотически нормальной оценкой момента порядка распределения Если распределение зависит от к неизвестных параметров то оценки метода моментов могут быть получены из ур-ний

При весьма общих условиях оценки, полученные по методу моментов, являются асимптотически несмещенными и асимптотически нормальными. Однако за исключением некоторых случаев (напр., нормального распределения) оценки, найденные с помощью метода моментов, не являются асимптотически эффективными, т. е. даже при выборках большого объема не имеют наименьшей возможной дисперсии.

Для получения оценок для неизвестных параметров с помощью независимых наблюдений случайной величины с плотностью распределения вероятностей по методу максимума правдоподобия составляют ф-цию правдоподобия . В качестве оценок независимых параметров рассматриваются те значения величин которые максимизируют ф-цию правдоподобия для данной выборки При практическом отыскании оценок по методу максимума правдоподобия удобнее рассматривать вместо ф-ции ее логарифм имеющий максимум при тех же значениях что и ф-ция При некоторых простых условиях оценки, полученные по методу максимума правдоподобия, являются решениями системы ур-ний (ур-ний правдоподобия)

Если существует эффективная оценка параметра то ур-ние правдоподобия имеет единственное решение Оценки, полученные по методу максимума правдоподобия, при весьма широких условиях являются состоятельными (и потому асимптотически несмещенными), асимптотически нормальными и асимптотически эффективными оценками. Если существуют достаточные статистики, то оценки.

полученные по методу макс. правдоподобия, являются ф-циями достаточных статистик.

В тех случаях, когда о распределении выборки нет определенных предположений, применяется также метод минимума (см. Статистическая проверка гипотез), для некоторых задач — метод наименьших квадратов (см. Регрессия).

Лит.. см. к ст. Математическая статистика.

А. Я. Дорогоецев.