§ 8.7. Задачи решения с конечными ...

Рассмотрим теперь специальную задачу решения, в которой параметрическое пространство состоит из к точек (к 2), а пространство решений из точек т. е. Всякое смешанное решение задается вероятностями выбора различных решений из Эти. вероятйости удовлетворяют естественным условиям: при Ущерб от принятия такого смешанного решения равен

Пусть, как и раньше, обозначает пространство всех смешанных решений. Для всякого решения обозначим соответствующий -мерный вектор ущерба через

Пуст множество в состоящее из всех таких векторов Из (1) видно, что множество является выпуклой оболочкой точек отвечающих чистым решениям из

Решение называется допустимым, если не существует другого решения такого, что при по крайней мере для одного значения Другими словами, решение допустимо тогда и только тогда, когда вектор принадлежит допустимой границе множества

Пусть теперь некоторое вероятностное распределение параметра Для всякого решения риск определяется равенством

Таким образом, решение является байесовским при в том и только в том случае, когда оно дает наименьшее значение по сравнению со всеми другими решениями Следующая теорема показывает, что для каждого байесовского решения вектор принадлежит байесовской границе множества

Теорема 1. Пусть некоторое решение из Тогда вектор принадлежит байесовской границе множества в том и только в том случае, когда существует распределение параметра при котором является байесовским решением.

Доказательство. Предположим сначала, что байесовское решение при некотором распределении Пусть и для всех других решений пусть Тогда Поскольку при по крайней мере для одного значения I, неравенство для невозможно. Следовательно, по определению лежит на байесовской границе

Пусть теперь точка байесовской границы множества Тогда в точке существует опорная гиперплоскость , такая, что все компоненты вектора неотрицательны. Так как то, поделив все компоненты вектора а и постоянную с на можно считать, что уравнение опорной гиперплоскости к в точке имеет вид

где компоненты вектора а неотрицательны и в сумме равны 1. Другими словами, вектор а можно рассматривать как вероятностное распределение параметра

По определению опорной гиперплоскости с при всех Из этих соотношений видно, что дает наименьшее значение среди всех векторов Следовательно, — байесовское решение при распределении а.

Так как допустимая граница множества является подмножеством его байесовской границы, то всякое допустимое решение из является байесовским при некотором распределении параметра (Это уже неверно, если содержит бесконечное множество точек (см. упр. 9).) С другой стороны, для некоторых распределений байесовские решения могут не быть допустимыми. В этом случае хотя бы одна из компонент вектора должна быть равна нулю. Если то всякое байесовское решение при допустимо.

Этим результатам можно дать следующую геометрическую интерпретацию. Предположим, что нам надо найти байесовское решение, отвечающее заданному распределению Для любого «фиксированного значения с точки удовлетворяющие соотношению лежат на одной гиперплоскости, и различным значениям с отвечает семейство параллельных гиперплоскостей. Пусть с — наименьшее значение с, для которого гиперплоскость касается выпуклого множества Всякая точка касания является вектором ущерба (2) байесовского решения при Далее, значение байесовского риска равно с.

Следует отметить, что гиперплоскость и множество имеют единственную общую точку, если только ни один из плоских участков байесовской границы не ориентирован так же, как эта гиперплоскость. В любом случае хотя бы одна из общих точек является крайней точкой для Таким образом мы нашли геометрическое истолкование того факта, что всегда найдется чистое решение, являющееся байесовским при В случае когда точка пересечения не единственна, существуют по крайней мере два чистых байесовских решения при

ПРИМЕР. Разобранные свойства могут быть проиллюстрированы на следующем простом примере, в котором параметр принимает только два различных значения. Рассмотрим задачу решения, в которой и функция потерь задана таблицей 8.1. На рис. 8.5 изображены точки и их выпуклая оболочка Допустимая граница состоит из (прямолинейного) отрезка прямой, соединяющего точки и отрезка, соединяющего Поэтому допустимыми решениями в являются только

Байесовекая граница состоит из допустимой границы и отрезка прямой между Таким образом, хотя решение и недопустимо, оно является байесовским для специального распределения, при котором

Таблица 8.1 (см. скан)

Предположим теперь, что надо найти байесовское решение для распределения, у которого Для этого построим прямую , т. е. прямую с наклоном — у, которая бьща бы опорной в некоторой точке байесовской границы множества

Рис. 8.5. Вид байесовских решений. 1

Ее график также приведен на рис. 8.5. Поскольку является единственной точкой пересечения этой прямой с множеством решение является

единственным байесовским решением при указанном распределении параметра Далее, так как этой прямой байесовский риск при этом распределении равен

Рассмотрим теперь произвольное распределение Пусть для него Из предыдущих замечаний следует, что существуют в точности три распределение с неединственными байесовскими решениями. Для каждого этих распределений наклон опорной прямой совпадает с наклоном одного из трех прямолинейных отрезков байесовской границы Например, если опорная прямая пересекается с множеством по отрезку между Следовательно, являются байесовскими решениями при этом распределении и всякое смешанное решение, при котором выбирается или будет также байесовским решением.

Другие методы выбора решения. Мы завершим этот параграф кратким рассмотрением других методов выбора решения из множества Большинство предлагаемых здесь методов основывается на следующем соображении. Выбор решения из равнозначен выбору вектора ущерба из выпуклого множества Если убыток от каждого вектора ущерба может быть охарактеризован одним числом, то статистику следует выбирать вектор, минимизирующий этот убыток. Например, байесовское решение при некотором распределении может быть найдено из условия минимизации

Наиболее известным из методов, не требующих задания распределения является метод, при котором выбирается минимаксное решение, т. е. решение минимизирующее значение

Во многих задачах, однако, единственным минимаксным решением является смешанное, а не чистое решение. Например, в задаче, изображенной на рис. 8.5, двумерный вектор ущерба единственного минимаксного решения равен (3,3). Этот вектор лежит на прямолинейном отрезке, соединяющем точки и может быть представлен в виде выпуклой комбинации -Отсюда следует, что единственное минимаксное решение является смешанным. Оно принимает решение с вероятностью и решение с вероятностью

Теория минимаксных решений была предложена и детально разработана фон Нейманом и Моргенштерном 11]. Мы не будем ее рассматривать в этой книге.