§ 4.13. Обсуждение

В общем случае все алгоритмы обучения определяют оптимальный вектор  и разделяющую функцию с вероятностью единица теоретически лишь по истечении бесконечного числа шагов. Практически же мы всегда используем конечное число шагов, и это число определяется той точностью, с которой нам нужно определить  и . Здесь имеется полная аналогия между временем обучения и временем окончания переходного процесса в автоматических системах. В § 4.5 мы уже указывали такие условия, при которых число шагов, а значит и время обучения, конечно. Эти условия состоят в том, что помехи отсутствуют, а классы  и  таковы, что разделяющая функция  может быть точно выражена с помощью аппроксимирующей функции  в этом случае

                                  (4.47)

при любом . При отсутствии помех -мерный оптимальный вектор в принципе полностью определяется после  первых показов.

Табл. 4.1 и 4.2 могут служить путеводителями но казавшемуся ранее разветвленному и запутанному лабиринту алгоритмов. Из внимательного рассмотрения этих таблиц можно сделать заключение, что все тропинки лабиринта подходят к одной и той же дороге, ведущей к минимизации соответствующих функционалов.

Не лишен любопытства и такой факт. Почти все алгоритмы, найденные путем догадок, не выходят за пределы алгоритмов, минимизирующих квадратичные или простейшие кусочно-линейные функционалы. В чем причина этого: в ограниченности ли фантазии, в вычислительной простоте или в наличии какого-либо действительного преимущества этих алгоритмов?