5.22. Учет априорной информации
Предположим, что до получения данных, приведенных в табл. 5.2, имелась некоторая информация о значениях параметров. Пусть эти априорные знания выражаются в следующем виде:
Величина 200 представляет собой стандартное отклонение величин
Пусть 0 имеет нормальное априорное распределение, так что без аддитивной константы имеем
Полагая, что ошибки наблюдения у также нормальны с неизвестной дисперсией
получим
функции правдоподобия:
плотности апостериорного распределения есть сумма этих двух логарифмов. Как было показано в разделе 4.8, можно удалить
и образовать сосредоточенную функцию
плотности апостериорного распределения, которая с обратным знаком сводится к следующей целевой функции, подлежащей минимизации:
где
Далее, имеем
При таком априорном распределении естественно начать с начального приближения
Начиная с
процедура Марквардта сходится за три итерации к
Если положить, что стандартные отклонения
равны 100, а не 200, оценки окажутся такими:
Решение, приведенное в разделе 5.21, можно рассматривать как решение при априорном распределении с бесконечными стандартными отклонениями. Напомним, что результат был следующим:
Заметим, что решение постепенно приближается к моде априорного распределения
по мере того, как дисперсия (т. е. неопределенность) априорной информации уменьшается.