§ 4.10. Замечания

Все алгоритмы обучении, о которых выше шла речь, связаны с аппроксимацией указаний «учителя», выраженных в форме  или , т. е. разрывной функции  при помощи непрерывной функции . Такое желание не всегда может показаться естественным. Очевидно, что в задачах опознавания часто разумнее определять  так, чтобы только знак ее совпадал со знаком . Возможно, эти соображения и руководили авторами, предложившими алгоритм 1 (табл. 4.1), в котором поправка вносится лишь в том случае, когда знаки  и  различны. Такой алгоритм в принятых здесь обозначениях записывается в виде

,      (4.31)

где  может быть и постоянной.

По градиенту реализации

                                                (4.32)

легко восстановить критерий оптимальности:

.               (4.33)

Этот критерий и был выписан в табл. 4.1. Критерий оптимальности, как мы уже упоминали в § 4.7, не совсем удачен, поскольку функция, стоящая под знаком математического ожидания, невыпукла. Помимо оптимального значения вектора , функционал имеет тривиальное решение . Существование этого решения (после установления этого факта) очевидно и из самого алгоритма (4.31). Это обстоятельство делает алгоритм (4.31) непригодным в тех случаях, когда классы  и  разделяются нечетко.