3.4.3. ДОСТАТОЧНОСТЬ И НЕСМЕЩЕННАЯ МИНИМАЛЬНО ДИСПЕРСНАЯ ОЦЕНКА

а) Теорема Рао—Блеквелла. Различные критерии, фигурировавшие выше, дают возможность найти достаточную статистику , когда она существует. Но, как выяснилось в примере 3.4.3, остается открытой проблемой выбор подходящей функции от , которая была бы разумной оценкой .

Почти тривиальный пример дает биномиальное распределение . Если X имеет такое распределение, то наблюдаемое значение х переменной X достаточно для [см. пример 3.4.6 а]; как оценка эта статистика неприемлема: значение должно заключаться между 0 и 1, между тем, если то х может быть равным, скажем, 19.

Очевидное решение состоит в том, чтобы взять в качестве оценки не х, а (несмещенную для ).

Подобные свойства проявляет и отрицательное биномиальное распределение. Если имеет такое распределение, как в примере 3.4.6б, то наблюдаемое значение переменной достаточно для , но как оценка неприемлемо по соображениям размерности, как указывает соотношение Преобразование, которому следует подвергнуть для получения приемлемой, т. е. несмещенной, оценки , не столь очевидно, как в предыдущем случае. Но небольшое вычисление все-таки приводит к оценке которая является несмещенной для [ср. с примером 3.3.0].

Нельзя, однако, надеяться на то, что всякий раз удастся найти подходящие решения, как было в этой задаче. Следующая теорема предлагает регулярный метод.

Теорема 3.4.2 (теорема Рао—Блеквелла). Предположим, что — достаточная, но смещенная оценка , основанная на выборке наблюдений случайной величины X, а — несмещенная, но недостаточная оценка в. Пусть где — статистические копии X. Тогда условное математическое ожидание [см. II, раздел 8.9]

является несмещенной достаточной оценкой и

В качестве тривиальной иллюстрации действия теоремы рассмотрим выборку наблюдений бернуллиевски распределенной переменной X. Статистика достаточна для , но смещенная.

Статистика несмещенная, но недостаточная. Статистика Рао—Блеквелла равна:

Эта оценка — несмещенная и достаточная. Следующий пример более содержателен.

Пример 3.4.7. Применение теоремы Рао—Бреквелла. Пусть — случайная выборка наблюдений случайной переменной X с п.р.в. . (Отметим, что Из формы п.р.в. выборки следует (с учетом теоремы 3.4.1), что достаточна для . Поскольку выборочное математическое ожидание этой статистики равно она неудовлетворительна по соображениям размерности. С другой стороны, оценка

несмещенная для (К так как ее математическое ожидание равно: Согласно теореме 3.4.2 оценка несмещенная и достаточная для . Отметим, что условное распределение при данном должно быть свободно от параметра , по определению, достаточной статистики, и, таким образом, — статистика. Чтобы вычислить ее, мы должны знать условное распределение при заданном Заметим, что — специальный случай гамма-распределения. Из свойства аддитивности гамма-функций [см. II, раздел 11.3.2] следует, что плотность вероятностного распределения в точке равна:

Для того чтобы найти условное распределение при данном нужно знать совместную скажем, пары Очевидно, что это то же самое, что и совместная п.р.в. Х и в точке Поскольку же и независимы,

Условная п.р.в. X в точке x при данном равна:

Окончательно: искомой несмещенной функцией будет

где — выборочное среднее. Очевидно, что это достаточная статистика, поскольку она является функцией достаточной статистики Несмещенность можно проверить и прямым вычислением:

б) Несмещенные оценки с минимальной дисперсией и достаточность. Теорема Рао—Блеквелла позволяет нам для построить несмещенную достаточную оценку по достаточной оценке и произвольной несмещенной оценке

с дисперсией, не большей, чем По соображениям концентрации [см. раздел 3.3.1, а], , очевидно, лучше, чем Предположим, что кто-то работает с другой несмещенной оценкой Получит ли он иную и, возможно, лучшую несмещенную достаточную оценку ? Ответ на этот вопрос отрицателен. При некоторых не слишком ограничительных условиях оценка Рао—Блеквелла единственна и тем самым является НОМД для . Это следует из известного результата если существует полная достаточная статистика, то любая функция ее — несмещенная оценка ожидаемого значения с минимальной дисперсией. (Достаточная статистика называется полной, если ее любая функция, не равная нулю, с вероятностью 1 имеет ненулевое математическое ожидание.)

Пример 3.4.8. НОМД для биномиального и отрицательного биномиального параметров. Как мы убедились в разделе 3.4.5, а), если — число успехов в испытаниях Бернулли с параметром то — несмещенная достаточная оценка . Можно показать, что х — полная в смысле предыдущего определения. Из чего следует, что является НОМД для . Аналогично если — число испытаний до достижения фиксированного числа х успехов, то для .