5.2. ПОЛНОЕ НЕЗНАНИЕ АПРИОРНОГО РАСПРЕДЕЛЕНИЯ

Рассмотрим минимаксное правило решения для случая, когда какие-либо сведения о статистических свойствах X отсутствуют вообще. При этом о — множество любых неотрицательных функций, подчиненных условию нормировки на множестве возможных значений

Для нахождения минимаксного правила в этом случае полной априорной неопределенности относительно X можно воспользоваться теоремой А. Вальда [9], согласно которой минимаксное правило решения является байесовым относительно некоторого наименее предпочтительного распределения вероятности с плотностью и обладает тем свойством, что величина условного риска для этого решения одинакова при всех значениях X, для которых отлична от нуля.

Рассмотрим в качестве примера достаточно общий случай, когда множество возможных значений X непрерывно и представляет собой все пространство некоторой произвольной размерности (если -мерный вектор, то это множество — -мерное евклидово пространство). Множество решений также непрерывно и имеет ту же структуру, т. е. решение является оценкой

Пусть функция потерь имеет вид

т. е. является симметричной функцией разности и пусть существует такая достаточная статистика для которой плотность распределения вероятности выражается как

где симметричная функция своего аргумента. Апостериорный риск для какого-либо произвольного распределения вероятности X с плотностью (X,) вычисляется по формуле

Предположим теперь, что априорное распределение вероятности к равномерно на всем множестве значений Тогда с учетом свойств функций и апостериорный риск

Минимум апостериорного риска достигается при в чем легко убедиться, например, дифференцированием (5.2.4) по компонентам вектора и. Таким образом, при данном априорном распределении оптимальное правило решения имеет вид

Найдем условный риск для этого правила. Поскольку и зависит от х только через то

или с учетом

откуда следует, что условный риск не зависит от X, равномерное распределение X наименее предпочтительно, а правило решения (5.2.5) является минимаксным.

С другой стороны, из (5.2.2) следует, что

достигается при т. е. достаточная статистика является оценкой максимального правдоподобия параметра X, которая может быть найдена мсимизацщ исходной функции правдоподобия т. е. из уравнения

которое с точностью до обозначений совпадает с уравнением (2.2.2), приведенным в гл. 2 в качестве уравнения, определяющего приближенное байесово решение задачи оценки при произвольном невырожденном распределении параметра X и высокой информативности данных наблюдения х относительно X в указанном в гл. 2 смысле. Теперь же мы убедились, что оценка максимального правдоподобия является также минимаксной оценкой для произвольной симметричной функции потерь. Конечно, строго говоря, это имеет место, когда плотность распределения вероятности оценки максимального правдоподобия имеет вид (5.2.2) (заметим, что это условие слабее, чем предположение о существовании эффективной оценки параметра X, и выполняется в большинстве случаев), однако в действительности оценки максимального правдоподобия обладают минимаксными свойствами в более широких условиях.