8.3. Рекуррентная сеть Эльмана

8.3.1. Структура сети

Рекуррентная сеть Эльмана характеризуется частичной рекуррентностью в форме обратной связи между скрытым и входным слоем [46, 114], реализуемой с помощью единичных элементов запаздывания Обобщенная структура этой сети представлена на рис. 8.9. Каждый скрытый нейрон имеет свой аналог в контекстном слое, образующем совместно с внешними входами сети входной слой. Выходной слой состоит из нейронов, однонаправленно связанных только с нейронами скрытого слоя, подобно сета Обозначим внутренний вектор возбуждения сети х (в его состав входит также единичный сигнал поляризации), состояния скрытых нейронов а выходные сигналы сети При таких обозначениях входной вектор сети в момент имеет форму

Веса синаптических связей первого (скрытого) слоя сети обозначим а второго (выходного) слоя Если взвешенную сумму нейрона скрытого

Рис. 8.9. Структура сети Эльмана

слоя обозначить а его выходной сигнал то

Веса образуют матрицу синаптических связей скрытого слоя, а — функция активации нейрона этого слоя. Аналогично можно обозначить взвешенную сумму нейрона выходного слоя а соответствующий ему выходной сигнал сети . Эти сигналы описываются формулами

В свою очередь, веса образуют матрицу описывающую синаптические связи нейронов выходного слоя, функция активации нейрона выходного слоя.