2.4. Инстар и оутстар Гроссберга

Нейроны типа инстар и оутстар - это взаимодополняющие элементы. Инстар адаптирует веса сигналов, поступающих на сумматор нейрона, к своим входным сигналам, а оутстар согласовывает веса выходящих из нейрона связей с узлами, в которых формируются значения выходных сигналов. Нейрон типа инстар был определен С. Гроссбергом. На рис. 2.7 представлена структурная схема инстара.

Рис. 2.7. Структурная схема инстара

Сигналы подаваемые с весовыми коэффициентами на вход инстара, суммируются в соответствии с выражением

В соответствии с функцией активации на выходе нейрона вырабатывается выходной сигнал Часто в инстаре применяется линейная форма функции активации, и тогда Обучение инстара (подбор весов ) производится по правилу Гроссберга, в соответствии с которым

где это коэффициент обучения, значение которого, как правило, выбирается из интервала (0,1). Входные данные, представляемые в виде вектора х, выражены чаще всего в нормализованной форме, в которой Нормализация компонентов вектора х выполняется по формуле

Результаты обучения по методу Гроссберга в значительной степени зависят от коэффициента обучения При выборе веса становятся равными значениям уже после первой итерации. Ввод очередного входного вектора х вызовет адаптацию весов к новому вектору и абсолютное “забывание” предыдущих значений. Выбор приводит к тому, что в результате обучения весовые коэффициенты принимают усредненные значения обучающих векторов х.

Допустим, что инстар был обучен на некотором нормализованном относительно своих компонентов входном векторе . В этом случае на векторе весов инстара выполняется отношение: . В режиме классификации при вводе очередного входного вектора инстар вырабатывает сигнал и, вида

Вследствие нормализации амплитуд входных векторов получаем:

При выполнении условия реакция инстара будет равна . В случае, когда входные векторы отличаются друг от друга, реакция инстара будет пропорциональна косинусу угла между этими векторами. Для ортогональных векторов

В итоге натренированный инстар функционирует как векторный классификатор, сопоставляющий очередной поданный на его вход вектор с вектором, сформированным в процессе обучения. В случае максимального совпадения этих векторов реакция инстара будет максимальной (наиболее близкой к единице). Если инстар обучался на группе достаточно похожих векторов с коэффициентом обучения то его весовые коэффициенты примут значения, усредненные по этим векторам, и в режиме классификации он будет лучше всего реагировать на входные векторы, параметры которых наиболее близки к средним значениям векторов, входивших в обучающую группу.

Необходимо подчеркнуть, что инстар может обучаться как с учителем, так и без него. Во втором случае в правиле Гроссберга в качестве значения принимается фактическое значение выходного сигнала инстара. При обучении с учителем значение заменяется ожидаемым значением т. е.

Для примера рассмотрим обучение четырехвходового инстара с одноступенчатой функцией активации. Инстар тренируется с учителем, а обучающие векторы х и значения имеют вид:

Значение весового коэффициента поляризации принято равным . Это означает, что выходной сигнал нейрона будет равен 1 при т.е. при значении достаточно близком к единице. При нулевых начальных значениях весов и коэффициенте обучения при обучении с учителем стабилизация значений весов была достигнута уже после десяти циклов обучения. Численные результаты обучения имеют вид

достаточно близкий к реализации первого входного вектора При выборе коэффициента обучения нейрон оказался натренированным уже после четырех циклов обучения. Второй вектор в процессе обучения с учителем не оказывал никакого влияния на результаты обучения вследствие того, что

В процессе функционирования при подаче на вход вектора вырабатывается значение при котором нейрон формирует выходной сигнал, равный 1. При подаче на вход вектора вырабатывается значение при котором нейрон формирует нулевой выходной сигнал.

Рис. 2.8. Структурная схема оутстара

Нейрон типа оутстар Гроссберга представляет собой комплементарное дополнение инстара. Если инстар обучается с целью распознавать вектор, подаваемый на его вход, то оутстар должен генерировать вектор, необходимый связанным с ним нейронам. Структурная схема оутстара представлена на рис. нейрон-источник высылает свой выходной сигнал - взаимодействующим с ним нейронам, выходные сигналы которых обозначены ). Оутстар, как правило, является линейным нейроном. Обучение состоит в таком подборе его весов чтобы выходные сигналы оутстара были равны ожидаемым значениям взаимодействующих с ним нейронов. Обучение оутстара согласно правилу Гроссберга проводится в соответствии с выражением

в котором - это коэффициент обучения, а у, - выходной сигнал нейрона, выступающего в роли источника. Зависимость (2.27) для оутстара аналогична выражению (2.23), по которому обучается инстар. В режиме распознавания в момент активизации нейрона-источника оутстар будет генерировать сигналы, соответствующие ожидаемым значениям

Нейроны типа инстар и оутстар существенным образом отличаются от нейронов трех типов, определенных ранее в этом разделе. Основу обучения персептрона, сигмоидального нейрона и адалайна составляет пара обучающих векторов Они могут обучаться только с учителем. При обучении инстара и оутстара весовые коэффициенты подстраиваются под входные или выходные векторы. Обучение может проводиться как с учителем, так и без него.