§ 9. Достаточные статистики
Построение наилучшей несмещенной оценки оказывается возможным в терминах так называемых достаточных статистик. До сих пор при исследовании оценок мы исходили из того, что оценка плотности имеет вид т. е. оценка есть функция от вектора, а именно: вектора векторных переменных Фиксируя последние переменных, мы получали конкретный вид восстанавливаемой плотности.
Однако такой способ залания оценки плотности является не совсем удобным. Так, очевидно, что не должна зависеть от порядка следования векторов выборки Кроме того, для другого объема выборки, например приходится задавать свою функцию (размерности .
Поэтому хотелось бы найти такие характеристик выборки
чтобы, во-первых, вся информация о плотности, находящаяся в выборке содержалась и в этих числах, а во-вторых, количество необходимых характеристик зависело бы не от объема выборки, а от особенности класса восстанавливаемых плотностей. В терминах этих характеристик выборки и хотелось бы получить несмещенную оценку Такими характеристиками выборки и являются достаточные статистики (см. [58]).
Определение. Говорят, что функции являются достаточными статистиками для плотности если совместная плотность выборки может быть представлена в виде
Иначе говоря, совместная плотность распадается на произведение двух сомножителей, один из которых не зависит от параметра а плотности распределения вероятностей а другой сомножитель, содержащий а, зависит лишь от значений (а не от самой выборки
Легко проверить, что для -мерного нормального закона достаточными статистиками будут следующие величины:
В самом деле, для -мерного нормального закона справедливо
При выводе использовалось равенство
Итак, будем искать оценку плотности как функцию достаточных статистик.
Замечательная особенность несмещенных оценок заключается в том, что они, во всяком
случае, «не хуже» оценок И вот в каком смысле [35, 58].
Теорема. Для всякой оценки найдется такая оценка что для любой плотности из математическое ожидание оценок совпадает:
а дисперсия оценки не больше дисперсии оценки т. е.
Из этой теоремы следует, что несмещенные оценки, выраженные через достаточные статистики, содержат наилучшую.