9.4. Восстановление Сэммона

При обработке многомерных данных возникает задача такой графической визуализации расположения нейронов, которая была бы четкой и понятной для пользователя. Это предполагает проекцию распределения данных из многомерного пространства в двух- или в крайнем случае трехмерное пространство при сохранении основных характеристик распределения в многомерном пространстве.

Пусть имеется и -мерных векторов . В соответствии с ними определяются и векторов в М-мерном пространстве обозначаемых Расстояния между векторами в -мерном пространстве будем обозначать а в М-мерном пространстве Для определения расстояния между векторами можно использовать любую метрику, в частности эвклидову. Задача нелинейного восстановления Сэммона состоит в таком подборе векторов у, чтобы минимизировать функцию

погрешности Е, определяемую по формуле

где

а обозначает компонент вектора

Для минимизации функции погрешности Е Сэммон применил метол минимизации Ньютона, упрощенный до вида

где

представляет частное от деления соответствующего компонента градиента на диагональный элемент гессиана, определенный на итерации. Коэффициент аналогичен константе обучения, выбираемой из интервала [0,3, 0,4]. При определении функции погрешности в виде (9.23) соответствующие компоненты градиента и гессиана описываются выражениями: