§ 4.12. Частные случаи

Частные случаи алгоритма обучения (4.41) приведены в табл. 4.2, а конкретные виды функций , входящих в алгоритмы, изображены на рис. 4.6

Таблица 4.2.

В тех случаях, когда помимо совладения знаков требуется еще и близость исходной и аппроксимирующей функций,  отлична от нуля и для положительных  (алгоритм 3, рис. 4.6, в). Отметим, что алгоритмы 1а и 1б (табл. 4.2), по существу, совпадают, в чем нетрудно убедиться простой проверкой. Особенность алгоритма 1б состоит в том, что в нем  является функцией не только , но и вектора , что дает возможность улучшить сходимость.

Рис. 4.6.

В алгоритмах 1—4 предполагается, что . Сходимость этих алгоритмов может быть значительно улучшена, если  не считать постоянной величиной, а определять в соответствии с выражением (4.39). Именно это обстоятельство использовано в алгоритме 5. Верхняя строка алгоритма в общем случае имеет вид

                    (4.42)

где  — некоторая матрица.

Когда , алгоритм (4.41) совпадает с алгоритмом 3 табл. 4.2. Если же , то  и  — искомые решения.

Если множества образов каждого класса конечны , т. е. имеется возможность показа всех образов, задача разделения становится детерминированной.

Образуем последовательность показов

, где  при каждом                    (4.43)

Используя (4.43) в алгоритме (4.41), получим, что  при , где  — решение конечной системы неравенств

                                                                 (4.44)

Отметим, что во всех рассмотренных выше алгоритмах на каждой итерации происходит только один показ. Если число показов конечно, то на каждой итерации можно использовать все показы. Тогда получим алгоритм

   (4.45)

При   стремится к вектору , который является решением системы (4.44) и доставляет минимум критерию оптимальности

.                    (4.46)

Впрочем, об этом мы уже говорили в § 3.21.