3.2. Многослойный персептрон

3.2.1. Структура персептронной сети

Многослойная сеть состоит из нейронов, расположенных на разных уровнях, причем, помимо входного и выходного слоев, имеется еще, как минимум, один внутренний, т.е. скрытый, слой. Как уже отмечалось в литературе, посвященной проблематике нейронных сетей, такая нейронная система называется многослойным персептроном

Рис. 3.5. Обобщенная структура двухслойной сигмоидальной нейронной сети (с одним скрытым слоем)

На рис. 3.5 представлена сеть с одним скрытым слоем. Все последующие рассуждения относятся к сетям именно такого типа. Обозначения сигналов и весов также будут соответствовать этому рисунку. Веса нейронов скрытого слоя пометим верхним индексом (1), а выходного слоя - верхним индексом (2). Выходные сигналы нейронов скрытого слоя обозначим , а выходного слоя - ). Примем, что функция активации нейронов задана в сигмоидальной униполярной или биполярной форме. Для упрощения описания будем использовать расширенное обозначение входного вектора сети в виде где соответствует единичному сигналу поляризации. С вектором х связаны два входных вектора сети: вектор

фактических выходных сигналов и вектор ожидаемых выходных сигналов

Цель обучения состоит в подборе таких значений весов и для всех слоев сети, чтобы при заданном входном векторе х получить на выходе значения сигналов которые с требуемой точностью будут совпадать с ожидаемыми значениями для . Если рассматривать единичный поляризационный сигнал как один из компонентов входного вектора х, то веса поляризации можно добавить в векторы весов соответствующих нейронов обоих слоев. При таком подходе выходной сигнал нейрона скрытого слоя удается описать функцией

в которой индекс 0 соответствует сигналу и весам поляризации, причем . В выходном слое нейрон вырабатывает выходной сигнал, определяемый как

Из формулы (3.3) следует, что на значение выходного сигнала влияют веса обоих слоев, тогда как сигналы, вырабатываемые в скрытом слое, не зависят от весов выходного слоя.