9.2.2. Алгоритм нейронного газа

Значительно лучшую самоорганизацию сети и ускорение сходимости алгоритма WTM можно получить применением метода, предложенного М. Мартинесом, С. Берковичем и К. Шультеном в работе [94] и названного авторами алгоритмом нейронного газа из-за подобия его динамики движению молекул газа.

В этом алгоритме на каждой итерации все нейроны сортируются в зависимости от их расстояния до вектора После сортировки нейроны размечаются в последовательности, соответствующей увеличению удаленности

где обозначает удаленность нейрона, занимающего в результате сортировки позицию в последовательности, возглавляемой нейроном-победителем, которому сопоставлена удаленность Значение функции соседства для нейрона определяется по формуле

в которой обозначает очередность, полученную в результате сортировки параметр, аналогичный уровню соседства в алгоритме Кохонена, уменьшающийся с течением времени. При адаптации подвергается только нейрон-победитель, и алгоритм превращается в обычный алгоритм WTA, но при уточнению подлежат веса многих нейронов, причем уровень уточнения зависит от величины Алгоритм нейронного газа напоминает стратегию нечетких множеств, в соответствии с которой каждому нейрону приписывается значение функции принадлежности к окрестности, определенной соотношением (9.20).

Для достижения хороших результатов самоорганизации процесс обучения должен начинаться с большого значения , однако с течением времени его величина уменьшается до нуля. Изменение может быть линейным или показательным. В работе [134] предложено изменять значение в соответствии с выражением

где обозначает значение итерации, и - принятые минимальное и максимальное значения Я соответственно. Коэффициент определяет максимальное заданное количество итераций.

Коэффициент обучения нейрона тоже может изменяться как линейно, так и показательно, причем его степенная изменчивость определяете формулой

в которой обозначает начальное значение коэффициента обучения, - априорно заданное минимальное значение, соответствующее На практике наилучшие результаты самоорганизации достигаются при линейном изменении и именно эта стратегия реализована в режиме программы Kohon.

Для сокращения объема вычислений, необходимых для реализации алгоритма нейронного газа, можно применить определенное упрощение, состоящее в учете при сортировке только нейронов с наиболее значимой величиной функции При этом используется зависимость (9.20), в соответствии с которой если то значение Например, если принять , то при сортировке нейронов, а в последующем - и при их адаптации можно ограничиться только первыми К элементами.

Алгоритм нейронного газа наряду с алгоритмом WTA, учитывающим активность нейронов (в режиме CWTA), считается одним из наиболее эффективных средств самоорганизации нейронов в сети Кохонена. При соответствующем подборе параметров управления процессом можно добиться очень хорошей организации сети при скорости функционирования, превышающей достижимую в классическом алгоритме Кохонена.