2.7. Стохастическая модель нейрона

В отличие от всех детерминированных моделей, определенных ранее в этом разделе, в стохастической модели [51] выходное состояние нейрона зависит не только от взвешенной суммы входных сигналов, но и от некоторой случайной переменной, значения которой выбираются при каждой реализации из интервала (0,1).

В стохастической модели нейрона выходной сигнал принимает значения ±1 с вероятностью где обозначена взвешенная сумма входных сигналов нейрона, а — это положительная константа, чаще всего равная 1. Процесс обучения нейрона в стохастической модели состоит из следующих этапов:

• Расчет взвешенной суммы Для каждого нейрона сети.

• Расчет вероятности того, что у, принимает значение в соответствии с формулой

• Генерация значения случайной переменной и формирование выходного сигнала если или в противном случае.

• Определенный таким образом процесс осуществляется на случайно выбранной группе нейронов, вследствие чего их состояние модифицируется в соответствии с предложенным правилом.

• После фиксации состояния отобранных нейронов их весовые коэффициенты модифицируются по применяемому правилу уточнения весов. Например, при обучении с учителем по правилу Видроу-Хоффа адаптация весов проводится по формуле

Доказано [51], что такой способ подбора весов приводит в результате к минимизации целевой функции, определенной как среднеквадратичная погрешность

рассчитываемая по всем нейронам и обучающим выборкам.