5.6.3. Геометрическая интерпретация коррекции весов

В этом разделе дается геометрическая интерпретация метода потенциальных функций и построения решающих функций при помощи коррекции вектора весов. Положив

и

где а переменная у представляет выборочные образы, предъявляемые в процессе обучения, получим потенциальную функцию (5.6.24) в виде

Векторы , входящие в (5.6.30), суть -мерные векторы

и

В таком случае решающая функция определенная на шаге k, представляется выражением

где

— вектор весов, компоненты которого суть

Переход от области X к области осуществляемый в соответствии с (5.6.28), приводит к линеаризации решающей функции. Разделяющая граница принимает в области вид гиперплоскости

с нормальным вектором проходящей через начало координат, как показано на рис. 5.8. В таком случае при хенц выполняется условие а при — условие

Пусть известно, что две группы образов, входящих в обучающую выборку, лежат с противоположных сторон разделяющей гиперплоскости, как это показано на рис. 5.8. Задача в данном случае сводится к построению алгоритма, позволяющего в процессе последовательного осмотра

образов обучающей выборки найти такой весовой вектор что для всех образов, принадлежащих обучающему множеству выполняется условие

и для всех образов, принадлежащих обучающему множеству , выполняется условие

Образовав множество при помощи симметричного относительно начала координат отражения обучающего множества можно сформулировать условие разделимости множеств гиперплоскостью с нормальным вектором просто как

Рис. 5.8. Непересекающиеся классы.

Другими словами, обучающие множества разделяются этой гиперплоскостью, если все точки, представляющие входящие в обучающую выборку образы, лежат по одну сторону этой гиперплоскости, как показано на рис. 5.9.

Пусть задано обучающее множество — последовательность образов, корректирующих ошибку. Кумулятивный потенциал в области определяется на шаге как

В начале этана обучения кумулятивный потенциал принимается равным нулю и начальная разделяющая граница имеет вид

При предъявлении первого образа обучающей выборки значение кумулятивного потенциала равно

Соответствующая разделяющая граница определяется как

Вектор весов определен таким образом, что вектор выборочного образа перпендикулярен гиперплоскости, заданной

Рис. 5.9. Классы, отраженные относительно начала координат, уравнением (5.6.43). Следовательно,

Отметим, что на разделяющей границе значение потенциала падает до нуля. Это условие также приводит к (5.6.44).

Если при предъявлении второго образа обучающей выборки выполняется условие то кумулятивный потенциал равен

если же то значение кумулятивного потенциала увеличивается:

Разделяющая граница при этом задается уравнением

Вектор весов определен таким образом, что результирующая векторов выборочных образов перпендикулярна гиперплоскости (5.6.47). Имеем

Если при предъявлении третьего образа обучающей выборки выполняется условие то кумулятивный потенциал равен

если же то значение кумулятивного потенциала увеличивается:

В таком случае вектор весов определяется выражением

Построение последовательных вариантов разделяющих границ проиллюстрировано на рис. 5.10. Если вектор выборочного образа расположен в положительной зоне гиперплоскости то разделяющая граница не изменяется и вектор определяется как Если вектор образа расположен в отрицательной зоне гиперплоскости , то разделяющей границей становится гиперплоскость .

Обозначим через значение кумулятивного потенциала, полученное после предъявления образов обучающей выборки . Если при этом то кумулятивный потенциал после предъявления выборочного образа принимает значение

а при выполнении условия его значение увеличивается до

Вектор весов определяется в виде

где . Воспользовавшись формулой (5.6.28), получим рекуррентное соотношение для определения весов

Уравнения (5.6.54) и (5.6.55) представляют алгоритмы обучения системы распознавания образов посредством итеративной коррекции весов при предъявлении выборочных образов, корректирующих ошибку. Читателю следует обратить внимание на сходство алгоритма (5.6.55) и алгоритма перцептрона.

Рис. 5.10. Порождение разделяющих границ.