15.2. ТЕОРЕМА БАЙЕСА: ДИСКРЕТНЫЙ СЛУЧАЙ

15.2.1. ЗНАНИЯ, ИЗВЛЕКАЕМЫЕ ИЗ ЕДИНСТВЕННОГО МНОЖЕСТВА ДАННЫХ

Предположим, что статистик рассматривает конечный список моделей

чтобы составить исчерпывающее множество возможных взаимоисключающих вероятностных моделей, пригодных для описания конкретной изучаемой ситуации.

Далее допустим, что до того, как были получены данные, статистик присваивает этим моделям значения априорных вероятностей [см. раздел 15.1]:

где

Каждая вероятностная модель определяет распределение вероятностей множества возможных данных, которые можно было бы получить. В частности, если обозначить данные, полученные в действительности, как то вероятности данных, определяемых каждой из альтернативных моделей, будут задаваться с помощью условных вероятностей [см. II, раздел 3.9.1]

Эти величины часто называют правдоподобиями при заданных [см. разделы 3.5.4 и 4.13.1], когда их рассматривают в терминах при заданных

Рассматривая исчерпывающее множество взаимоисключающих вероятностных моделей и полученные данные статистик специфицирует множество априорных вероятностей совместно с множеством правдоподобий. Это позволяет ему пересмотреть свои априорные вероятности в свете информации, содержащейся в данных. В математическом выражении это означает, что он пересчитывает вероятности

для альтернативных моделей, условно зависящие теперь от данных наблюдений Математическим результатом, с помощью которого выражаются эти апостериорные вероятности [см. раздел 15.1] в терминах априорных вероятностей и правдоподобий, является теорема Байеса [см. II, раздел 16.4], которую можно сформулировать в следующем виде для рассматриваемой ситуации.

Теорема 15.2.1. Теорема Байеса (дискретный вид). Если — исчерпывающее множество взаимоисключающих вероятностных моделей и априорные вероятности и правдоподобия определены так, что то апостериорные вероятности задаются как

где

Доказательство. По определению условной вероятности [см. II, раздел 3.9.2]

откуда непосредственно следует искомый результат.

Выражение для определяется просто формулой полной вероятности [см. II, раздел 16.2].

Пример 15.2.1. В некотором «царстве животных» генотипам и соответствуют животные с черной окраской, генотипам — с коричневой, а при всех спариваниях неизменно получают помет из семи детенышей. Черное животное, о котором известно, что оно получилось в результате спаривания само спаривается с коричневым животным, и оказывается, что все семь детенышей — черные.

Каковы вероятности того, что черный родитель имеет генотип или соответственно?

Если обозначить модель, в которой предполагается тип , а — модель, по которой предполагается тип и если допустить, что обозначает наблюденные данные (семь черных детенышей), то требуется определить Так как в этом случае — исчерпывающее множество взаимоисключающих моделей, можно применить теорему Байеса при условии, что мы можем специфицировать

Начнем с рассмотрения именно этих последних величин.

Когда задана модель спаривания а именно все потомство обязательно будет относиться к типу (от каждого из родителей получено по одному гену), и поэтому Если задано спаривание , т. е. то законы Менделя устанавливают, что у каждого отпрыска имеется независимо от остальных вероятность унаследовать тип Отсюда следует, что Теперь рассмотрим априорные вероятности Согласно законам Менделя спаривание родителей черного животного приводит к появлению потомства типов и с вероятностями и соответственно. Величины обозначают вероятности типов и когда задано, что получается один из них (напомним, что мы рассматриваем черного родителя). Отсюда следует, что так как

Применяя теорему Байеса, получаем

Так как , то

Конечно, этот последний результат можно было бы получить, непосредственно применяя теорему.

Пример 15.2.2. Давайте рассмотрим такую же задачу, как и в примере 15.2.1, за исключением того, что теперь известно, что черный родитель появился в результате спаривания типов

Используя те же обозначения, мы по-прежнему имеем при рассмотрении только конечного черно-коричневого спаривания.

Однако величины теперь меняются. Согласно законам Менделя при спаривании которое приводит к появлению черного родителя, тип будет появляться с вероятностью а тип — также с вероятностью у. Таким образом, получим, что

Оба эти примера хорошо иллюстрируют особенности ситуации, когда априорные вероятности, основанные на частотах, имеются в распоряжении (законы Менделя получили исчерпывающее экспериментальное подтверждение). Они также показывают, как изменение априорных вероятностей модифицирует апостериорные вероятности, даже если данные (и, следовательно, правдоподобия) остаются теми же.

Пример 15.2.3. Давайте на этот раз предположим, что нам неизвестно, какое из спариваний или — привело к появлению черного родителя (хотя мы знаем, что именно одно из них).

Можем ли мы теперь присвоить значения Если обозначить через спаривание а через — спаривание то может показаться, что нужно воспользоваться теоремой полной вероятности [см. II, раздел 16.2], чтобы записать

Из примера 15.2.1 имеем

а из примера 15.2.2 —

Поэтому проблема сводится к присваиванию значений и именно в этом месте начинаются противоречия.

В разделе 15.1 говорилось о различиях в мнениях относительно правильного использования понятия вероятности: в частности, было обращено внимание на частотную интерпретацию и интерпретацию, основанную на степени доверия. В контексте данного примера статистики, приверженные к той или другой из этих интерпретаций, могли бы привести следующие доводы.

Частотная интерпретация. Без каких-либо знаний относительно механизма, в соответствии с которым происходит неизвестное спаривание или невозможно осуществить основанное на частотных представлениях присваивание вероятностей Из-за этого невозможно провести основанное на знании частот присваивание значений Таким образом, теорема Байеса оказывается неприменимой, когда дело касается подобной проблемы статистического вывода.

Интерпретация, основанная на степени доверия. Все вероятности являются в своей основе представлениями степени доверия. Поэтому можно присвоить значения, чтобы отразить суждения об относительной возможности обоих типов спаривания. Например, если нет никакой информации, за исключением того, что произошло либо либо то спецификация

могла бы представлять интерес для статистика в качестве представления «неведения» и привела бы к

Подставляя эти величины в теорему Байеса, получим:

при

При сравнении этого примера с двумя предыдущими видно, насколько ограниченной становится возможность применения теоремы Байеса, когда законными считаются только вероятности, основанные на частотной интерпретации. Это служит подтверждением утверждения из раздела 15.1, что для систематического применения теоремы Байеса в качестве инструмента статистического анализа необходима готовность выразить все виды априорных суждений в виде вероятностей независимо от того, существует ли частотная интерпретация этих вероятностей.

Еще один важный вывод, вытекающий из сравнения примеров 15.2.1 и 15.2.2 с примером 15.2.3, состоит в следующем. В первых двух примерах априорные вероятности могут сравниваться как «объективные», поскольку между учеными существует согласие относительно приемлемости установленных значений. В примере же 15.2.3 мы неизбежно оказываемся вовлеченными в «субъективное» оценивание как правило, в нашем распоряжении нет данных, и эти оценки неизбежно становятся предметом индивидуального суждения. Для иллюстрации были использованы значения Очевидно, что такой выбор обладает некоторой привлекательностью и означает «установку на неведение» относительно предпочтений однако если у кого-либо возникает индивидуальное «предчувствие» в пользу, например, то этим величинам можно было бы предпочесть другие.

В общем, суть дела в том, что если допускается использование вероятности в качестве представления индивидуальных предположений (суждений), то после этого нельзя говорить о «корректном выборе» априорных вероятностей. Сделанный выбор зависит от индивида и от информации, которой он располагает к этому времени. В тех случаях, когда индивиды располагают большим количеством общей информации, их представления о значениях «априорных» вероятностей часто совпадают или близки, и тогда возможна «объективная» согласованность. Если строго определенной информации мало, то субъективное оценивание может различаться, и тогда становится невозможным «объективное» единодушие.