10.3.5. Обобщенный алгоритм обучения рекуррентной сети

На практике метод Херольта-Джуттена оказывается эффективным при небольшом разбросе амплитуд отдельных сигналов обычно меньшем, чем 1:100.

При сильных отличиях сигналов значительно более эффективным считается модифицированный алгоритм А.Чихотского [12], в котором вводятся собственные обратные связи нейронов с весами . Эти обратные связи вызывают самонормализацию выходных сигналов, что приводит их к одинаковому численному уровню и облегчает тем самым процесс сепарации.

В соответствии с модификацией Чихотского [12] адаптивные механизмы уточнения весов (при условии, что не содержат постоянных составляющих) описываются формулами

для

для Обе формулы можно представить в обобщенной матричной форме

в которой используются те же обозначения, что и в формуле (10.42). Вектор рассчитывается в каждый момент времени согласно (10.38), для текущих значений матрицы весов и вектора смешанных сигналов

Главный источник повышенной эффективности алгоритма - самонормализация до единичных значений выходных сигналов Поскольку в стабилизированном состоянии следовательно, и независимо от уровня сигналов происходит масштабирование всех сигналов в сети до единичного уровня. Имитационные исследования сети с модифицированным алгоритмом продемонстрировали возможность разделения сигналов с амплитудами, различающимися даже в отношении Сеть с модифицированным правилом обучения также менее чувствительна к коэффициенту обусловленности смешивающей матрицы А.

На рис. 10.7 представлен процесс сепарации четырех сигналов со значительно отличающимися амплитудами:

смешанными посредством матрицы

(кликните для просмотра скана)

На рис. 10.7 а изображены исходные сигналы на рис. 10.7 б - смешанные сигналы , а на рис. 10.7 в - сигналы, выделенные нейронной сетью в процессе сепарации (это независимые сигналы, являющиеся реакцией на исходные сигналы). В качестве входных используются смешанные Сигналы (три средних графика на рис. 10.7). Из-за огромного различия в амплитудах исходных сигналов на графиках подаваемых на ввод сети смешанных сигналов видны только наибольшие сигналы шума, тогда как сигналы с малой амплитудой практически незаметны. Процесс сепарации осуществлялся с помощью программы с применением нелинейных функций , а также коэффициента обучения адаптивно уменьшающегося от начального значения, равного 2000. Это позволило разделить все сигналы независимо от их амплитуд (три нижних графика на рис. 10.7). Выделенные сетью сигналы характеризовались одинаковым уровнем амплитуды, достигнутым благодаря собственным обратным связям нейронов.