2.2. Некоторые желательные свойства оценок.

Рассмотрим теперь семейство гипотез каждая из которых (при фиксированном а) полностью характеризуется

отвечающим этой гипотезе распределением вероятностей Пусть а — вещественный параметр, принимающий значения из некоторого интервала А. Требуется построить функцию (зависящую от всей выборки которую можно было бы принять за оценку параметра а. При этом существует несколько разных подходов к вопросу о желательных свойствах функции а.

Пусть прежде всего объем выборки стремится к бесконечности. При этом возрастает и имеющаяся в нашем распоряжении информация о генеральной совокупности. Если в этом случае последовательность а сходится к значению по вероятности при любом то мы будем говорить, что наша оценка (или, точнее говоря, наша последовательность оценок) является состоятельной.

Безотносительно к этому асимптотическому поведению мы можем характеризовать доброкачественность оценки при любом фиксированном значениями ее, первых двух моментов. Если при каждом выполняется равенство

то мы будем говорить, что а является несмещенной оценкой параметра а. Ясно, что несмещенность также является желательным свойством.

Случайные колебания оценки а относительно истинного значения параметра могут быть охарактеризованы величиной Пусть

где так называемое смещение оценки . В таком случае можно показать, что при некоторых условиях регулярности дбязательно будет выполняться неравенство

(см. Крамер [4]). Если несмещенная оценка, то ее эффективность мы определим как

где D означает дисперсию. Очевидно, что

Если то оценку а мы будем называть эффективной. Можно без труда показать, что если оценки а и являются эффективными, то почти наверное

При рассмотрении последовательности оценок может случиться, что эта последовательность обладает хорошими свойствами, хотя сами соответствующие оценки и не имеют двух первых моментов. Следующее определение (принадлежащее Вальду [1]) учитывает эту возможность. Оценка называется асимптотически эффективной, если существует последовательность случайных величин с

Такая, что

(сходимость по вероятности относительно для каждого

Важнейшим методом построения оценок является метод максимума правдоподобия. Если независимые случайные величины, каждая из которых имеет плотность вероятности то их совместной плотностью будет

Метод максимума правдоподобия в этом случае состоит в том, что в качестве оценки а принимается отличное от тождественной постоянной решение уравнения

При некоторых условиях регулярности можно показать, что это уравнение имеет решение, которое при сходится по вероятности (относительно ) к а при любом Получаемая таким образом оценка является также асимптотически нормальной и асимптотически эффективной. Аналогичный результат справедлив и для распределений дискретного типа.