5.3.2. Алгоритм перцептрона

Алгоритм перцептрона был введен в в виде итеративной схемы, действующей по принципу подкрепления и наказания. Здесь будет показано, что этот алгоритм можно получить из уравнения (5.3.3) при соответствующем выборе функции . Пусть эта функция критерия имеет вид

Частная производная функции по определяется как

где, по определению,

Отмстим, что в (5.3.6) условия объединены. Это, естественно, отражает то обстоятельство, что, согласно формулировке алгоритма перцептрона (5.2.5), вектор весов корректируется во всех тех случаях, когда

Подстановка выражения для частной производной (5.3.5) в уравнение (5.3.3) приводит к

где представляет образ из обучающей выборки, предъявляемый на шаге итерации.

Подстановка выражения (5.3.6) в (5.3.7) дает формулу для алгоритма:

где значения — произвольные. Очевидно, что данный алгоритм удовлетворяет формулировке алгоритма перцептрона (5.2.5).

Модификации алгоритма перцептрона легко выводятся из общей схемы алгоритма (5.3.3). Рассмотрим, в частности, следующую функцию критерия:

Частная производная функции по вектору определяется как

где определяется формулой (5.3.6). Нетрудно показать, что последнее выражение можно представить в эквивалентной форме

Подстановка (5.3.10) в общее определение алгоритма (5.3.3) приводит к алгоритму

где корректирующее приращение с, входящее в уравнение (5.3.3), временно обозначено через X с тем, чтобы избежать путаницы при сравнении, которое будет проводиться ниже.

Используя выражения (5.3.6), получаем следующее:

Сопоставив уравнения (5.3.12) и (5.2.28), убеждаемся, что получен алгоритм дробной коррекции. В следующем разделе мы снова воспользуемся этими основными приемами для получения алгоритма, обладающего очень важными свойствами.