§ 8. Несмещенные оценки

В предыдущих параграфах были получены байесовы оценки плотности распределения вероятностей для специальных априорных законов распределения параметров.

Однако при решении практических задач априорный закон распределения параметров, как правило, неизвестен. Минимаксная же схема восстановления плотности может привести к слишком грубым результатам. Поэтому хотелось бы найти достаточно хороший метод восстановления плотности распределения вероятностей, который не был бы связан с решением байесовой задачи. Как это можно сделать?

Предположим, что существует такой метод восстановления плотности, который является лучшим не только в среднем (что соответствует байесовому критерию), но и при восстановлении каждой конкретной плотности. Если бы такой равномерно лучший метод восстановления плотности существовал, то он не зависел бы от априорного закона задания плотностей.

К сожалению, равномерно лучшего метода оценивания в классе всех возможных методов оценивания нет. Действительно, существует тривиальный алгоритм восстановления плотности, который независимо от особенностей выборки восстанавливает плотность с одними и теми же фиксированными значениями параметров. Такой алгоритм восстанавливает идеально одну-единственную плотность и плохо — другие. Он и будет лучшим для своей плотности.

Но если нет равномерно наилучшего метода в классе всех возможных методов оценивания, то может быть существует такой метод в более узком классе методов? Поэтому возникает идея ограничить класс возможных методов восстановления плотности и попытаться найти в нем равномерно лучший. Оказывается, что если ограничить класс оценок так называемыми несмещенными оценками плотности распределения вероятностей, то задача отыскания равномерно лучшей в этом классе оценки имеет решение.

Определение. Говорят, что функция является несмещенной оценкой плотности а из класса построенной по выборке длины I, полученной согласно а, если математическое ожидание оценки равно плотности а, т. е. если для любого а из справедливо

Заметим, что само по себе свойство несмещенности оценки не имеет никакой самостоятельной ценности и вводится исключительно для того, чтобы сузить класс возможных оценок. И если в статистике широко используется класс несмещенных оценок, то только потому, что он доступен для анализа.

В чем же заключается эта доступность? Выпишем еще раз определение несмещенной оценки:

Выражение (3.41) не только определяет несмещенные оценки плотности, но и указывает способ их построения: множество несмещенных оценок есть множество решений уравнения Фредгольма I рода. Однако нахождение решения уравнения (3.41) является, вообще говоря, трудной задачей. В главе I было показано, что даже в том случае, когда решение уравнения Фредгольма единственно, численное его решение является некорректно поставленной задачей. Поэтому получение несмещенных оценок плотности возможно лишь тогда, когда удается решить уравнение (3.41) аналитически.

В § 10 мы найдем наилучшую несмещенную оценку плотности многомерного нормального закона. Но прежде чем приступить к построению такой оценки, заметим, что в гл. II более общая задача — восстановление плотности в классе непрерывных функций была также сведена к решению уравнения Фредгольма I рода. Здесь же к решению уравнения Фредгольма сводится частная постановка задачи — получение несмещенной оценки плотности, известной с точностью до параметров.

Существенная разница, однако, состоит в том, что в общем случае, рассмотренном в главе II, правая часть уравнения Фредгольма I рода была известна с точностью до помех, здесь же она задана точно.