3. Достаточные и эффективные оценки
В большинстве случаев оказывается невозможным установить априорное распределение параметра
. Этот параметр даже может не быть случайной величиной. Кроме того, часто трудно определить функцию цены, и если ее и задают, то совершенно произвольно. Поэтому важно искать другие способы характеризовать точность оценок. Полезным средством здесь является одно неравенство, данное Фишером [1] и проанализированное Крамером [2]. Если мы рассматриваем оценку только одного параметра, можно показать, что дисперсия
любой оценки а удовлетворяет неравенству
в котором усреднение производится с учетом совместного распределенияр
результатов х измерений. Величина
есть математическое ожидание значения оценки параметра а при истинном значении параметра а:
Числитель в неравенстве (7.19) написан "для случая несмещенной оценки. Среднее значение знаменателя равно
Неравенство (7.19) превращается в равенство при одновременном выполнении двух условий:
1) функция
является достаточной статистикой для оценки параметра а и 2) выполняется равенство
в котором
не зависит от а. Если выполняется только первое условие, то говорят, что функция
является достаточной оценкой параметра а. Как и в формуле (7.18), соответствующее распределение вероятностей в этом случае может быть записано в виде
где множитель
не зависит от параметра а. Если выполняются оба условия, неравенство (7.18) превращается в равенство. Если при этом оценка
несмещенная, функция
называется эффективной оценкой. Крамер [2] распространил этот результат на одновременную оценку нескольких параметров.
Продолжая рассмотрение оценки среднего значения гауссова распределения, начатое в предыдущем разделе, находим
из равенства (7.10), что
и
Используя формулу (7.19), получим
так как случайные величины
статистически независимы и имеют дисперсию 82. Для оценки (7.13) получаем из равенства (7.14)
Поэтому правая часть наравенства (7.19) примет вид
Левая часть неравенства — просто риск
вычислен,
в (7.15). Левая часть неравенства больше правой части - подсчитанной выше, за исключением случая, когда истинное среднее принимает значение
Однако обе части неравенства становятся равными при
. Это говорит в пользу того, чтобы использовать в качестве оценки соответствующее предельное значение, даваемое формулой (7.13), а именно само выборочное среднее
Эта оценка является несмещенной, так как
и обе части неравенства (7.19) стремятся к значению
Поэтому оценка (7.22) является эффективной. Читатель может легко убедиться, что оба упомянутых выше условия для этой оценки выполняются. К сожалению, это одна из немногих задач теории оценок, когда оценка, имеющая желаемые
свойства эффективности и равномерно минимальной дисперсии, может быть найдена.
Так как отыскание несмещенных и эффективных оценок представляет большие трудности, статистики часто должны довольствоваться асимптотически-эффективными и несмещенными оценками, т. е. такими, которые становятся несмещенными и эффективными, когда число
независимых измерений безгранично возрастает. При
конечном, но большом, наблюдатель надеется, что его оценка не слишком отличается от эффективной и несмещенной.