6.4. МЕТОД ПОТЕНЦИАЛЬНЫХ ФУНКЦИЙ

Подход, основанный на использовании потенциальных функций, был введен в § 5.6. При этом предполагалось, что образы, принадлежащие разным классам, образуют в обучающей выборке непересекающиеся множества. Результаты наблюдений могут относиться к любому из классов со, и но не к обоим классам одновременно. Исходя из этого допущения, можно построить границы, разделяющие отдельные классы. Основная проблема, возникающая при классификации образов, заключается в построении разделяющих границ на основе информации о выборочных образах, принадлежащих определенному классу.

Во многих практических случаях указанное допущение оказывается неправомерным. Соответствующие примеры имеются в избытке. В системе радиолокационного обнаружения образ, наблюдаемый на экране индикатора радиолокационной станции, может соответствовать как наличию, так и отсутствию объекта поиска. В медицине при постановке диагноза имеющиеся клинические данные обычно не позволяют однозначно распознать заболевание. В связи с наличием шума и неполнотой информации, содержащейся в полученных при помощи измерений векторах образов, результаты наблюдений, сделанные в одни моменты времени, могут быть отнесены к классу , а в другие — к классу , где — обозначает совокупность образов, не принадлежащих классу . Другими словами, выборочные образы, относящиеся к различным классам, не образуют непересекающихся множеств. Следовательно, нельзя построить границы, гарантирующие полное разделение классов. Для каждого наблюдаемого образа можно определить лишь вероятность

зачисления его в класс или . Это те вероятности, с которыми образы порождаются классами и . Задача вероятностной классификации образов заключается в обучении машины правильно определять вероятность того, что новые образы принадлежат некоторому классу, на основе отдельных наблюдений, выполненных в процессе обучения, причем связь выборочных образов с соответствующими классами задается априори.

В вероятностном случае классификация новых образов проводится с помощью набора условных вероятностей , исполняющих, в сущности, роль распознающих функций. Если для всех выполняется условие то новый образ зачисляется в класс . Оценить распознающую функцию можно итеративно, применив метод потенциальных функций к обучающей выборке. Пусть распознающая функция аппроксимируется функцией Эта функция, значения которой лежат в диапазоне между нулем и единицей, определяется следующим образом:

где функцию можно представить в виде

Функции входящие в это разложение, заданы, — неизвестные коэффициенты. Напомним выражение (5.6.24), определяющее потенциальную функцию для точки, представляющей произвольный образ

Рекуррентный алгоритм, предназначенный для определения аппроксимирующей функции можно сформулировать следующим образом. В качестве начального значения аппроксимирующей функции принимается затем системе предъявляется выборочный образ причем потенциальная функция для образа равна . Здесь могут возникнуть три ситуации.

1. Если либо либо , то . Другими словами, если система классифицирует образ правильно, то аппроксимирующая функция не изменяется.

2. Если то . Другими словами, если система неправильно классифицирует образ принадлежащий, как известно, классу , то аппроксимирующая функция равна функции увеличенной на

3. Если то . Другими словами, если система неправильно классифицирует образ который, как известно, не принадлежит классу то аппроксимирующая функция равна уменьшенной на величину

Множитель представляет собой корректирующий коэффициент; его свойства будут рассмотрены ниже.

Когда предъявляется второй выборочный образ , соответствующая потенциальная функция равна . Если либо либо , то . Если , то Если то .

После предъявления системе выборочного образа потенциальная функция для образа равна Если либо либо , то

Если

Если

Коэффициенты последовательность положительных чисел, удовлетворяющую условиям

и

Гармонический ряд удовлетворяет этим условиям и может быть использован для задания значений коэффициентов .

Поскольку построение аппроксимирующей функции связано с использованием образов обучающей выборки которые

появляются случайным образом и, следовательно, принадлежность предъявляемого образа классу со или любому другому из рассматриваемых классов — также случайная величина, значит аппроксимирующая функция является случайной функцией. Аппроксимирующая функция в диапазоне от нуля до единицы при увеличении k сходится к распознающей функции Можно показать, что описанный алгоритм обеспечивает сходимость аппроксимирующей функции определенной соотношением (6.4.1), к распознающей функции в среднем, т. е.

Рассмотренный вариант алгоритма предполагает запоминание значений функции во всей области К. Это затруднение можно обойти, воспользовавшись кумулятивным потенциалом. Из (6.4.5) и (6.4.6) с помощью итеративной процедуры получаем

где наблюдаемые выборочные образы принадлежат обучающей последовательности, корректирующей ошибки. Следовательно, в памяти системы достаточно хранить всего лишь две последовательности чисел. Ими являются обучающая последовательность корректирующих ошибки образов и последовательность соответствующих коэффициентов . При предъявлении нового образа система вычисляет функцию по формуле (6.4.11), что позволяет получить оденку распознающей функции Распознающие функции для других классов можно определить аналогично.

Другой вариант алгоритма можно построить, воспользовавшись (6.4.2) и (6.4.3). Из соотношений (6.4.5), (6.4.6) и (6.4.3) следует, что

Подстановка выражения (6.4.2) в уравнение (6.4.12) дает

Следовательно, при правильной классификации системой выборочного образа

Если система неправильно классифицирует выборочный образ то при имеем

При реализации этого алгоритма нет необходимости запоминать образы входящие в обучающую выборку. На шаге итерации система запоминает последовательность . На шаге итерации система определяет коэффициенты с помощью приведенного выше алгоритма . После этого значения коэффициентов занимают в памяти место коэффициентов По окончании этапа обучения по формулам (6.4.1) и (6.4.2) определяются оценки распознающих функций для всех классов.