Лекция 16. Проверка гипотез - байесовское решение

Продолжим рассмотрение задачи (15.2).

Дополнительно к предыдущему предположим, что известны:

1) Априорные вероятности истинности гипотез - априорная вероятность - априорная вероятность .

2) Потери, связанные с ошибочным решением - принятием , когда на самом деле справедлива и наоборот - принятым вместо .

В общем случае предположим, что также потери связаны и с принятием верных решений. Тогда будем считать, что потери заданы матрицей П

где

- потери, вызванные принятием гипотезы вместо

Предположим, что при потерях а при выигрышах

3) Выбор той или иной гипотезы в результате решения задачи определения параметра по выборке при будем называть решением и обозначать :

- принятие гипотезы

- принятие гипотезы

Итак, рассматриваем задачу [13]:

Дано:

1. Выборка

2. Распределение

- априорные вероятности, соответственно,

5. Таблица потерь

Таблица 16.1. Потери

По этим данным необходимо принять одно из решений

Введем понятие среднего значения потерь или среднего риска

где

Подставляя (16.3), (16.4) в (16.2), после алгебраических преобразований, получим

В качестве правила принятия решения выберем такое, которое минимизирует средний риск

Для этого выразим через критическую область сок

где

- совместная плотность вероятности выборки (функция правдоподобия) при гипотезе или

В правой части (16.6) величины - постоянные. Следовательно, минимум будет достигнут в том случае, если мы выберем критическую область таким образом, чтобы в нее вошли все выборки измерений дающие положительное значение подинтегрального выражения в (16.6):

Отсюда, критическая область - это множество всех возможных выборок для которых

Другими словами, если справедливо (16.8), то принимается решение

По виду полученное определение (16.8) критической области совпадает с критической областью по правилу Неймана-Пирсона, но правая часть неравенства (16.8) отличается от определения критической области по Нейману-Пирсону.

Из (16.8) вытекают два более простых критерия, минимизирующие средний риск в более простых случаях.

А. Если потери не заданы, то их условно можно считать равными Тогда, при

принимается гипотеза Правило (16.9) называется критерием максимума апостериорной вероятности.

Смысл названия критерия - максимум апостериорной вероятности - в следующем.

Выборка может быть получена либо при либо Вероятность реализации равна равна

Полная плотность вероятности получения выборки равна

После получения конкретной выборки вычислим по (2.2) апостериорные вероятности

Отсюда, естественно считать, что при целесообразно выбрать и наоборот.

Но означает или, поскольку

Б. Если априорные вероятности неизвестны и не заданы потери, то полагая получим критерий максимального правдоподобия

Пример 16.1. Дано: выборка распределение матрица потерь П.

Необходимо найти или, по другому, принять либо решение либо решение

Как по критерию (16.8), так и по (15.11) для принятия решения необходимо вычислить порог С

где С либо дается правой частью (16.8), либо вычисляется по заданной величине ошибки а для критерия Неймана-Пирсона.

Повторяя преобразования, проведенные в примере предыдущей лекции, мы приходим к проверке неравенства

где

Напомним, что при постановке задачи выбираем

Если неравенство выполнено, то принимаем решение . В противном случае

Поскольку при задании порога мы не использовали (как это было в критерии Неймана-Пирсона) значения ошибок а или необходимо для критерия (16.12) рассчитать ошибки первого и второго рода.

Учитывая (16.12) имеем

Замечание.

Правило максимума апостериорной вероятности позволяет иметь разумную методологию решения задач и в том случае, когда

Действительно, пусть априорные вероятности различных значений 0 равны, соответственно, при (суммирование от 1 до ). Получена конкретная выборка Функция правдоподобия выборки - совместная плотность вероятности компонент вектора Полная плотность вероятности выборки (суммирование также от 1 до )

Отсюда апостериорная вероятность каждого значения дается формулой Байеса

Исходя из (16.16), за истинное значение выбирается то, для которого