6.2. Бейесовские процедуры решения
В гл. 4 была введена бейесовская процедура решения. Бейесовский подход оказывается практически полезным при изучении последовательной классификации и распознавания образов.
Допустим, мы обнаружили, что частичное описание выбранного случайным образом объекта есть
Нам нужно правило для определения класса, к которому следует отнести этот объект. Совместная вероятность того, что частичное описание удовлетворит последовательности, а также того, что объект принадлежит классу
равна
Однако эта формула не годится, поскольку мы хотим знать вероятность
при условии, что задана последовательность наблюдений. Другой вариант — формула
из которой следует специальный случай бейесовского правила
Знаменатель правой части в (5) есть сумма всех возможностей появления рассматриваемой последовательности, т. е. сумма
вероятностей наблюдения последовательности в каждом классе, взвешенных с вероятностью появления каждого класса. Таким образом,
Подставляя (6) в (5), получаем формулу Бейеса для случая последовательной классификации образов
Ожидаемые потери, связанные с решением отнести объект, удовлетворяющий последовательности
к классу С, равны
Оптимальное бейесовское правило классификации выбирает значение
минимизирующее (8).
Эти рассуждения применимы в случае, когда уже установлена последовательность нэблюдений и выбраны оценки вероятностей, которые будут использованы, так что минимизация функции (8) есть правило классификации образов. Цель процедур распознавания образов — найти наилучшие последовательности и соответствующие правила классификации. Предположим, что для произвольно выбранной последовательности наблюдений ожидаемые потери недопустимо велики. Тогда один из возможных способов состоит в выборе - некоторого измерения
не принадлежащего
и в определении затем той последовательности наблюдений классифицируемого объекта, которой он удовлетворяет в расширении
Возможно, удастся получить приемлемую величину потерь классификации для последовательностей из этого множества. Однако в этом способе участвует фиксированная стоимость проведения
измерения. Когда предпочесть рассмотренный способ и как выбирать
Это темы следующих двух разделов.