Глава 6. ОБУЧАЕМЫЕ КЛАССИФИКАТОРЫ ОБРАЗОВ. СТАТИСТИЧЕСКИЙ ПОДХОД
6.1. ВВЕДЕНИЕ
Алгоритмы классификации образов, развитые в гл. 5, характеризуют детерминистский подход, поскольку статистические свойства классов образов не играют никакой роли ни при определении, ни при построении этих алгоритмов. Все алгоритмы настоящей главы, напротив, являются результатом статистического анализа.
Так как байесовское правило классификации устанавливает стандарт оптимальной классификации, вполне логично основывать на нем статистическое определение алгоритмов классификации образов. В гл. 4 было показано, что байесовские решающие функции
минимизируют среднюю стоимость неправильной классификации и вероятность ошибки.
При использовании соотношения 
выражение (6.1.1) принимает вид 
Поскольку, однако, член 
не зависит от 
его можно опустить, что дает эквивалентное выражение для байесовских решающих функций:
Для двух классов разделяющая граница определяется уравнением 
. В таком случае можно получить соответствующее эквивалентное выражение для разделяющей границы
При использовании последней формулировки образы классифицируются согласно следующему правилу: 
если 
если 
. Это правило с учетом (6.1.3) можно сформулировать так:
Глава 4 была посвящена рассмотрению решающих функций (6.1.1). Здесь же наше внимание будет сосредоточено на решающих функциях (6.1.2). Прежде, однако, чем приступать к обсуждению их свойств, необходимо получить четкое пред-, ставление о различии между этими двумя подходами.
Ключевой проблемой при реализации функций вида (6.1.1) является оценка плотности распределения для каждого класса 
. Как было отмечено в гл. 4, при оценке плотности распределения 
рассматриваются только образы, принадлежащие классу 
Поэтому никакого обучения в смысле гл. 5 не происходит, так как образы, принадлежащие другим классам, на процесс получения оценки плотности распределения для данного класса не влияют.
Как будет показано ниже, оценку плотностей распределений 
в связи с реализацией решающих функций (6.1.2) можно сформулировать как задачу обучения, решаемую в диалоговом режиме. В результате принятия такой постановки будут построены алгоритмы обучения, с формальной точки зрения очень похожие на алгоритмы, рассмотренные в гл. 5.
