§ 8.9. Построение байесовских решающих функций

Пусть при заданной о. в. параметра надо найти решающую функцию минимизирующую значение риска задаваемого формулой (1) из § 8.8. Мы будем предполагать, что в этом соотношении можно изменить порядок интегрирования. В частности, эта перестановка законна при всех о. в. п. и всех решающих функциях если функция потерь неотрицательна или ограничена.

После указанного изменения порядка интегрирования риск принимает вид

Поэтому решающую функцию минимизирующую этот рискг можно определить из условия минимизации, при каждом значении внутреннего интеграла в (1). Другими словами, байесовскую решающую функцию при о. в. можно получить следующим образом: для каждого значения полагаем где решение из минимизирующее интеграл

Этот результат допускает следующую интересную интерпретацию. Для всех положим

Так как является маргинальной о. в. п. для X, то может равняться нулю лишь на множестве точек имеющем нулевую вероятность. Вместо того чтобы искать решение доставляющее минимум интегралу (2), статистик может, что то же самое, определить значение минимизирующее интеграл

Поскольку дробь в квадратных скобках в интеграле (4) является условной о. в. п. случайной величины при то видно, что значение интеграла равно условному математическому ожиданию Следовательно, всякое решение минимизирующее интеграл (2), есть попросту то, которому отвечает наименьший средний ущерб при условном распределении когда наблюденным значением X оказалось х. Другими словами, байесовское решение при условном распределении когда

В статистических задачах решения маргинальное распределение называется априорным распределением так как оно задает распределение до проведения наблюдения над Условное распределение при известном значении X называется апостериорным распределением так как оно задает распределение при наблюденном значении

Полезно представлять себе байесовскую решающую функцию следующим образом. Если решение принимается без предварительных наблюдений, то оптимально байесовское решение при априорном распределении Если же перед принятием решения наблюдается значение X, то при наблюденном значении X задача решения для статистика по существу та же самая, что и в первом случае, разница только в том, что априорное распределение заменилось на апостериорное. Следовательно, теперь оптимально байесовское решение при апостериорном распределении

Из этих рассуждений ясно, что решение задаваемое байесовской решающей функцией 6 для определенного значения которое было наблюдено, можно найти без того, чтобы вычислять решения для всевозможных значений х. Далее, байесовскую решающую функцию при о. в. можно определить без расчета байесовского риска

ПРИМЕР 1. В качестве иллюстрации полученных результатов рассмотрим задачу, в которой а функция потерь задается таблицей 8.2.

Таблица 8.2 (см. скан)

Предположим, что статистик может наблюдать случайную величину X со следующими условными распределениями:

Требуется построить байесовскую решающую функцию при условии, что априорное распределение параметра таково:

здесь заданное число,

Для пусть обозначает апостериорную вероятность события если наблюденным значением X было

Из равенств (5), (6) и теоремы Байеса следует, что

После наблюдения значения х величины X надо выбрать одно из решений или Из таблицы 8.2 видно, что риск от принятия решения равен а риск от принятия равен Следовательно, является байесовским решением, если является байесовским решением, если , а в случае так и байесовские решения. Отсюда и из вида апостериорных вероятностей (8) вытекают следующие результаты.

Если наблюдается значение то для байесовской решающей функции имеем: при условии, что или, что то же самое, при условии, что при наконец, при оба решения являются байесовскими.

Если же наблюдено значение то при т. е. при Далее, при наконец, при оба решения и являются байесовскими.

Вычислим теперь значение байесовского риска для произвольной априорной вероятности Из предыдущих замечаний видно, что если то решение будет байесовским независимо от того, какое значение X наблюдается. Следовательно, согласно таблице 8.2, для таких имеем

Если то поэтому из равенств (5) и таблицы 8.2 видно, что

Если , то решение будет байесовским для любого значения X. Согласно табл. 8.2, в этом случае График байесовского риска приведен на рис. 8.6.

Рис. 8.6. Байесовский риск в примере 1.

Дальнейшие замечания и ссылки на литературу. Указанный здесь метод построения байесовской решающей функции Райффа и Шляйфер ((1961), гл. 1) назвали экстенсивным видом анализа. Метод построения байесовской решающей функции при априорном распределении заключающийся в вычислении риска для каждой решающей функции и определении затем решающей функции, минимизирующей этот риск, называется, согласно Райффе и Шляйферу, нормальным видом анализа. В статистических задачах решения экстенсивный вид анализа более полезен.