2.18. Информативные и неинформативные априорные распределения

В случае (в), описанном выше, выбор априорного распределения очевиден. То же справедливо для случая (б), если известно. Но как выбрать априорное распределение в других случаях? Мы различаем три случая.

(а) Неинформативный случай имеет место, когда мы не можем отдать предпочтения некоторым перед другими, по крайней мере в соответствующей области -пространства. Простейшим решением, весьма удовлетворительным на практике, является следующее: предположить, что априорное распределение отсутствует, и использовать метод оценивания параметров, не требующий наличия этого распределения. Этот путь, однако, закрыт для практиков, которые твердо стоят на позициях теории решений и байесовской статистики. Они вынуждены выбрать некоторое априорное распределение и, вероятно, выберут равномерную априорную плотность. Это логически неоправданно, ибо если имеет равномерное априорное распределение, любая нетривиальная функция (скажем, ) будет иметь уже неравномерное распределение. Если бы мы могли записать нашу модель как вместо мы бы оказались в ситуации, когда способ параметризации влияет на результат оценивания.

Пригодны некоторые иные подходы. Райфа и Шлейфер [163] ввели понятие производного распределения. Это распределение, имеющее ту же математическую форму, что и функция правдоподобия для некоторой гипотетической выборки. Иногда соответствующее неинформативное априорное распределение можно получить, построив функцию, к которой стремится произвольное распределение по мере того, как объем выборки (предполагаемый теперь непрерывной переменной) стремится к нулю. Другая идея, принадлежащая Джеффрису [114], заключается в использовании в качестве неинформативной априорной плотности для неотрицательных переменных. Это оправдано тем, что указанное распределение не меняется при замене на

Информативный случай имеет место, когда мы можем отдать предпочтение некоторым значениям перед другими в соответствующей области. Обычно не нужно знать точную формулу для плотности априорного распределения, если его вид выбран правильно. Здесь можно применить и метод производных распределений; ученый постулирует кажущийся ему реальным набор данных и использует в качестве априорной плотности функцию правдоподобия, соответствующую этому набору. Преимуществом этого метода является то, что априорная плотность, функция правдоподобия и апостериорная плотность имеют одну и ту же математическую форму; это иногда упрощает формульные выкладки. В случае нелинейных моделей, однако, все эти функции становятся сложными. Вывод формул заменяется численными приемами, и этот метод не дает уже каких-либо преимуществ. Вероятно, проще предположить, что априорная плотность нормальна или имеет другой простой вид с выбранными соответствующим образом средними и дисперсиями.

Другой подход заключается в попытке графического построения соответствующей функции ПРВ. Винклер [191] провел эксперимент, в котором студенты должны были построить априорные плотности,

отражающие их мнения о значениях определенных параметров, с использованием некоторых упомянутых выше методов. Возможность построения таких функций удалось продемонстрировать, однако вопрос, имеют ли они практическое значение для процедур оценивания, остается открытым.

На практике априорная информация о параметре часто представляется в виде интервала Число а может быть стандартным отклонением, тогда мы имеем априорную плотность в виде или может представлять собой абсолютные границы отклонения от тогда мы принимаем априорное распределение равномерным на интервале

В обоих случаях выбранное распределение будет наименее информативным среди всех распределений, удовлетворяющих заданным условиям.

(в) Возможно, что —действительно случайная переменная с (как и в случае (б), раздел 2.17), а функция неизвестна. Эмпирический байесовский метод Роббинса ([165], [166], см. также [150]) позволяет оценить на основе имеющихся данных.