10.1. АПОСТЕРИОРНЫЕ ВЕРОЯТНОСТИ, СВЯЗАННЫЕ С ГИПОТЕЗАМИ

Вернемся к проблеме применения данных для пересмотра априорных вероятностей, связанных с гипотезами. Как и в первом примере, рассмотрим две взаимно исключающие гипотезы, образующие систему

Первоначально мы предположим, что в случае гипотезы наблюдаемый вектор у имеет ФПВ а в случае ФПВ для у есть где являются частными значениями параметров векторов соответственно. Далее, пусть w является дихотомической случайной переменной, такой, что

Априорные вероятности, связанные с гипотезами, имеют вид причем

Рассмотрим совместную ФПВ для у и w:

из которой получим

где является дискретной апостериорной ФПВ для параметра w при заданной информации выборки; дискретной априорной ФПВ для параметра условной ФПВ для у при заданном w и маргинальной ФПВ для у (по предположению Тогда из (10.3) получим апостериорную вероятность, связанную с

и аналогичную вероятность, связанную с

Выражения в (10.4) и (10.5) могут применяться для расчета апостериорных вероятностей при условии, что мы имеем априорные вероятности и явную функциональную форму для . Кроме того, апостериорные шансы в пользу обозначенные через задаются в следующем виде:

Из (10.6) видно, что апостериорные шансы являются произведением априорных шансов и отношения правдоподобия

В качестве примера, иллюстрирующего применение этих Понятий и операций, рассмотрим серию из трех независимых испытаний, заключающихся в честном подбрасывании правильной монеты. Предположим, что мы наблюдаем два выпадения решетки и одно выпадение орла. В качестве гипотезы мы допустим, что вероятность выпадения решетки равна 1/2. В качестве гипотезы примем, что вероятность выпадения решетки равна 1/4. Если априорные вероятности равны то экспериментальные данные — две решетки в трех испытаниях — дают из (10.6) следующие апостериорные шансы:

Таким образом, выборочные данные изменили наши априорные шансы 1/1 на 8/3 в пользу гипотезы , а именно, что вероятность выпадения орла равна 1/2. Эквивалентно выборочные данные изменят наши априорные вероятности от 1/2 до 8/11 и 3/11 для соответственно. Чтобы показать, как априорные шансы 1/1 могут быть модифицированы с помощью других исходов, мы приведем в табл. 10.1 апостериорные шансы, связанные с различными исходами эксперимента.

Таблица 10.1 Апостериорные шансы Но относительно

Мы видим, что в случае только двух испытаний апостериорные шансы равны 4/3 для при условии, что в результате эксперимента выпала одна решетка. В случае появления двух решеток в двух испытаниях монеты апостериорные шансы равны 4/1 в пользу Заметим, однако, как увеличение объема выборки влияет на апостериорные шансы при различных заданных исходах. Например, в случае появления двух решеток в четырех метаниях апостериорные шансы равны 16/9, они больше, чем в случае появления одной решетки в двух испытаниях, а именно

На основании сказанного может сложиться мнение, что определение апостериорных шансов и вероятностей исчерпывает все, что мы хотели бы получить. Однако имеются случаи, когда мы хотели бы

действовать, т. е. принять или отвергнуть Мы приходим к задаче выбора с двумя альтернативами действий. Далее, мы исходим из того, что по допущению возможны два состояния нашего объекта — либо гипотеза истинна, либо истинна гипотеза . Таким образом, наша задача является задачей «с двумя состояниями и двумя альтернативами действий». Пусть последствия наших действий задаются следующей структурой потерь:

Состояние объекта

Эта конкретная структура потерь определяется так, что мы получаем нулевые потери, если наши действия согласовываются с состояниями объекта. Однако если мы примем в случае, когда истинно, то получим положительную потерю , где первый аргументе относится к состоянию, а второй — к нашему действию; таким образом, является кратким обозначением принятия

Учитывая введенную структуру потерь, можно оценить последствия наших действий при условии, что мы имеем апостериорные вероятности для гипотез , т. е. ожидаемые потери, связанные с решением принятия есть

поскольку мы допустили, что . Аналогично

поскольку мы допустили, что

Рассчитав ожидаемые потери в (10.7) и (10.8), мы можем их сравнить и выбрать соответствующее действие:

Это обеспечивает базу для действий в соответствии с выводами из принятой нами теории, а именно, что лицо, принимающее решение (ЛПР), должно максимизировать ожидаемую полезность (или, эквивалентно, минимизировать ожидаемые потери) для того, чтобы поведение его было рациональным.

Чтобы показать, как выглядит принятие решений на базе сравнения ожидаемых потерь в терминах выборочной информации, мы заметим из (10.7) и (10.8), что будет меньше, чем , тогда и только тогда, когда

Затем, подставляя из (10.4) и (10.5), получим

Таким образом, мы имеем, что (10.12) логически следует из условия и может рассматриваться в качестве альтернативного способа определения критерия ожидаемых потерь, если выбранное действие заключается в принятии гипотезы есть отношение правдоподобия которое сравнивается с отношением априорных ожидаемых потерь. Чем больше априорные ожидаемые потери связанные с принятием гипотезы в сравнении с потерями связанными с принятием гипотезы тем больше свидетельствуют данные выборки в пользу как это видно из отношения правдоподобия в левой части (10.12). Этот подход представляется вполне разумной процедурой определения «критического значения» при помощи критерия отношения правдоподобия, иными словами, применение критерия отношения правдоподобия предполагает принятие если где X является величиной, определяемой выбором уровня значимости для проверки.

Часто уровень значимости и связанное значение X выбираются с неявным учетом относительных цен или потерь, связанных с ошибками первого и второго рода. В байесовском подходе в явном виде учитывается структура потерь. То, что это ведет к процедуре употребления критерия отношения правдоподобия, является в самом деле важным аргументом в пользу проведения этой процедуры с целью проверки гипотез. Далее, представляется весьма ценным то, что явное рассмотрение структуры потерь обеспечивает естественный выбор критического значения X.

Очень важной проблемой является исследование последствий использования различных структур потерь. Рассмотрим некоторую простую,

так называемую «симметрическую», структуру потерь;

Для этой структуры потерь ошибки первого и второго рода связаны с равными потерями. В случае, когда удобно использовать такую структуру потерь, из (10.12) можно увидеть, что критическая точка критерия отношения правдоподобия в точности соответствует априорным шансам относительно Если отношение правдоподобия больше, чем априорные шансы для Ни мы принимаем т. е. принимаем решение в соответствии с ожидаемой гипотезой полезности при известной симметрической функции потерь в (10.13). Аналогично мы можем делать сравнение ожидаемых потерь в (10.5) и (10.6) в условиях симметрической структуры потерь. Отсюда видно, что тогда и только тогда, когда

Таким образом, в условиях симметрической структуры потерь сравнение апостериорных вероятностей будет обеспечивать базу для выбора между Очевидно, что в условиях других структур потерь конкретное предписание выбора действия будет отличным, но принципы анализа останутся теми же самыми.

Для выявления некоторых важных особенностей рассматриваемой проблемы мы изучим альтернативные гипотезы, которые приписывают конкретные значения всем параметрам ФПВ для наблюдений , как, например, в случае эксперимента с подбрасыванием монеты. Это сравнение простых гипотез иногда встречается на практике. Но более часто мы встречаем так называемые комбинированные гипотезы; например, гипотеза о том, что вероятность выпадения решетки не равна 1/2, причем этой вероятности не приписывается определенного значения. Более того, все возможные значения, отличные от 1/2, совместимы с гипотезой. Вычисление апостериорных вероятностей для этих гипотез связано с некоторым расширением приведенного выше анализа.

Рассмотрим снова две взаимно исключающие и составляющие полную систему гипотезы с априорными вероятностями где w является случайной переменной, определенной в (10.1). Пусть обозначает вектор параметров, связанных с гипотезой при котором ФПВ для вектора наблюдений у есть и пусть есть, аналогично, вектор параметров, связанных с гипотезой Ни при котором ФПВ для вектора у есть Для совместной ФПВ мы имеем

или

где является априорной ФПВ для является условной априорной ФПВ для при заданной

Мы располагаем , т. е. априорными ФПВ для соответственно. Теперь апостериорная вероятность, связанная с может быть получена из (10.16) путем подстановки и интегрирования по 0. Иными словами,

и, аналогично,

Эти выражения могут применяться для расчета апостериорных вероятностей, связанных с гипотезами при условии, что соответствующие интегралы сходятся. Таким образом, апостериорные шансы в пользу равны:

где являются априорными вероятностями, связанными с соответственно.

Из (10.19) видно, что апостериорные шансы равны априорным шансам умноженным на отношения взвешенных правдоподобий с априорными ФПВ в качестве взвешивающих функций. Этот подход отличается от обычной процедуры, пользующейся критерием отношения правдоподобия, которая предполагает применение отношения максимумов функций правдоподобия в условиях гипотез — процедура, которая сводится к употреблению оценок МНП в качестве истинных значений неизвестных параметров при формировании отношений правдоподобия, соответствующего двум простым гипотезам.