4.15. Мода апостериорного распределения

Естественное распространение метода максимума правдоподобия на задачи байесовского оценивания состоит в нахождении моды апостериорного распределения. Это значит, что в качестве точечной оценки мы принимаем значение для которого максимальна. Этот метод, который мы назовем методом максимума апостериорного распределения (МАР), имеет следующие преимущества.

1. Оценка, найденная по этому методу, совпадает с оценкой максимума правдоподобия, если априорное распределение равномерно,

так как в этом случае пропорциональна Оценки совпадают даже в случае, когда равномерна лишь в ограниченной области и равна нулю во всем остальном пространстве, если только максимум лежит внутри этой области. Естественно, что практик, который пользуется оценками максимального правдоподобия при отсутствии априорной информации, желает, чтобы его оценки незначительно изменились, если стало доступным некоторое малое количество априорной информации. Оценки МАР удовлетворяют этому требованию.

2. Мы знаем из теоремы фон Мизеса (145), что если непрерывна и не равна нулю в точке максимума то оценки МАР сходятся к оценкам ОМП при неограниченном росте числа экспериментов. Оценки МАР обладают свойствами состоятельности и асимптотической эффективности, как и оценки ОМП.

3- Оценку МАР можно получить независимо от того, является распределение собственным или нет.

4. Обычно значительно проще вычислить оценку МАР, чем другие байесовские оценки.

При расчете оценок МАР мы различаем два случая.

(а) Априорное распределение отлично от нуля всюду. В этом случае мы максимизируем

Здесь можно использовать тот же аппарат, что и для вычисления ОМП. В частности, если функция правдоподобия для случаев нормального распределения, описанных в разделах 4.8 или 4.9, а не зависит от элементов матрицы V, то последние можно исключить, как это делалось выше, а затем заменить функцию правдоподобия в уравнении на сосредоточенную функцию правдоподобия. Следует, однако, сохранить все константы, на которые умножается сосредоточенная функция правдоподобия. Например, если выражается в виде можно с помощью заменить на функцию

которая подлежит минимизации. Числовые примеры даны в разделах 5.22 и 8.7. Заметим, что если присутствует член то множитель не может быть опущен. В однооткликовом случае метода наименьших квадратов с неизвестным значением о член принимает вид

Априорное распределение равно нулю за пределами области, определяемой набором ограничений:

В этом случае мы имеем типичную задачу нелинейного программирования; она состоит в нахождении максимума функции выполнении всех необходимых ограничений. Методы решения такой задачи описаны в главе VI.