7.12. Апостериорное распределение

Если мы согласимся принять апостериорное распределение в качестве распределения вероятности для наших параметров, то мы будем в состоянии определять доверительные области непосредственно. Пусть это плотность апостериорного распределения. Тогда для любой измеримой области в пространстве параметров интеграл есть вероятность того, что истинное значение параметра лежит в области Следовагелыю, любая область такая, что является -ной доверительной областью для 0 (в байесовском смысле). Если распределение приближенно нормальное с ковариационной матрицей то. для построения таких доверительных областей можно применить методы раздела 7.10. В большинстве других случаев эта задача представляет собой немалые трудности.

Допустим, что наша оценка 0 возникла за счет максимизации логарифма апостериорного распределения. Тогда вблизи точки 0 мы приближенно имеем

где это матрица Гессе от функции . Отсюда следует, что

и это равенство указывает, что вблизи точки 0 апостериорное распределение выглядит подобно нормальному распределению со средним в и ковариационной матрицей Если мы в качестве априорной плотности выбрали константу, то апостериорная плотность пропорциональна функции правдоподобия. Если к тому же уравнения модели линейны по параметрам то равенство становится точным. В этом случае апостериорное распределение для 0 и выборочное

распределение оценки максимального правдоподобия совпадают, а выводы, основанные на них, идентичны.

Если уравнения модели линеины и априорное распределение, нормально с ковариационной матрицей то равенство все еще выполняется точно, но ковариационная матрица апостериорного распределения уже не будет совпадать с ковариационной матрицей выборочного распределения. С точностью до постоянного множителя логарифм апостериорного распределения равен:

Эта плотность достигает своего максимума в точке

а матрица, обратная матрице Гессе и взятая со знаком минус, для этого распределения равна:

Можно показать, что выборочное распределение оценки 0 (равенство ( обладает средним:

где есть истинное значение. Эта оценка не смещена только тогда, когда Более того, ковариационная матрица выборочного распределения равна

и не совпадает с матрицей