Влияние шума на поиск оптимального вектора весовых коэффициентов

После того, как выведены формулы дисперсии оценки градиента, рассмотрим, какое влияние оказывает в процессе адаптации шум, возникающий при оценке градиента, на вектор весовых коэффициентов. Далее будет показано, что процесс адаптации, основанный на искаженных шумом оценках градиента, приводит к возникновению шума при поиске оптимального вектора весовых коэффициентов и к некоторым потерям. Характер такого влияния шума изменяется в зависимости от метода адаптации. В этом разделе описывается процесс возникновения шума в векторе весовых коэффициентов для методов Ньютона и наискорейшего спуска в такой мере, чтобы в последующих разделах можно было вычислить среднее и относительное среднее значения СКО. Для дальнейшего анализа введем для итерации, т. е. при шумовой вектор оценки градиента (-вектор размерностью и его не следует путать со скалярной величиной N, использованной ранее для обозначения числа наблюдений сигнала ошибки 8). Тогда оценка градиента на итерации равна истинному градиенту при плюс шум оценки градиента:

Рассмотрим влияние этой искаженной шумом оценки градиента на вектор весовых коэффициентов сначала для метода Ньютона, а затем для метода наискорейшего спуска.

В методе Ньютона разностное уравнение для случая без шума определяется выражением (4.32) и имеет вид

При оценивании градиента и, следовательно, возникновении шума (5.34) это выражение принимает вид

Кроме того, в соответствии с (2.32) можно переписать это выражение для вектора весовых коэффициентов в обозначениях вектора отклонений V:

Теперь на основании (2.35) можно подставить градиент и получить разностное уравнение для V:

Таким образам, получаем систему разностных уравнений, решением которой при заданном векторе шума N является вектор отклонений весовых коэффициентов V. Так же, как в (4.38), в этой системе компоненты вектора взаимосвязаны, поскольку вектор N умножается на . Аналогично тому, как это сделано для (4.38), эту систему можно преобразовать и привести к системе координат, образованной главными осями. Для этого подставим в (5.38) вектор , а также матрицу

или

В этом выражении сомножитель в круглых скобках — вектор шума, спроецированный в систему координат главных осей. Обозначив , запишем

Уравнение (5.40) представляет собой систему разностных уравнений относительно вектора компоненты которого не взаимосвязаны, поскольку матрица является диагональной. Методом индукции по аналогии с равенством (4.35) можно найти решение для . На основании первых трех итераций уравнения (5.40) методом индукции можно доказать, что

Итак, для метода Ньютона получено решение разностного уравнения, аналогичное (4.35), за исключением того, что это решение записано в системе координат главных осей и на каждом шаге имеется вектор шума . В (4.35) при увеличении k до бесконечности приходим к оптимальному решению или , но из-за наличия шума в градиенте существует остаточная ошибка.

Если в (5.41) , а параметр находится в пределах области устойчивости от 0 до 1/2, то множитель становится пренебрежимо малым и получаем следующее установившееся решение:

Это решение определяет установившуюся ошибку для метода Ньютона, выраженную через собственные значения входного сигнала в виде матрицы и шум градиента в виде последовательности значений . Отметим, что — диагональная матрица с элементами

Перейдем к анализу влияния шума градиента при использовании метода наискорейшего спуска. Без учета шума этот метод описан в гл. 4. Разностное уравнение (4.36) для этого метода имеет вид

Как и в предыдущих рассуждениях, подставим сюда вектор и вектор градиента с шумом

Полученный результат аналогичен уравнению (5.38) для метода Ньютона, и, так же, как выше, можно найти значения установившейся ошибки. Для этого, подставив сначала перейдем к системе координат главных осей:

Откуда

Вектор определяет вектор шума, спроецированный в систему координат главных осей. Это выражение аналогично (5.40) и решение его так же, как и (5.41), можно найти методом индукции. В этом случае

Снова полагая, что параметр находится в пределах области устойчивости, определяемой неравенством (4.45), приходим к тому, что для больших значений k первое слагаемое в (5.46) становится пренебрежимо малым и установившееся решение

Полученный результат следует сравнить с выражением (5.42) для метода Ньютона.

Итак, выражения (5.42) и (5.47) показывают, что наличие шума градиента приводит к установившимся ошибкам при поиске оптимального вектора весовых коэффициентов. Если теперь шум градиента задан в виде ковариационной матрицы (5.33), то можно найти также ковариационную матрицу вектора весовых коэффициентов. При вычислении математического ожидания по номеру итерации k она задается выражением

Для метода Ньютона произведение можно найти из (5.39) :

Здесь — диагональная матрица, поэтому она равна своей транспонированной матрице. Полагаем, что векторы весовых коэффициентов и шума являются статистически независимыми и имеют нулевое среднее значение, тогда из (5.49)

Проводя аналогичные преобразования для метода наискорейшего спуска, из (5.45) получаем

(5.51)

Отметим, что матрица является диагональной и математическое ожидание произведения векторов стремится к нулю. Поэтому в данном случае вычисление математического ожидания обеих частей равенства (5.51) приводит к выражению

Таким образом, формулы (5.50) и (5.52) выражают ковариацию вектора через ковариацию вектора шума. Чтобы связать эти результаты с предыдущими, сначала отметим, что из (5.33) и (5.34)

Здесь скалярная величина N также обозначает число наблюдений градиента, а вектор N — шум градиента.

Из (5.50), (5.52) и (5.53) находим, что ковариационная матрица является диагональной и имеет вид для метода Ньютона

Теперь для записи этих результатов в смещенной системе координат прежде всего отметим, что из (3.38)

Используя это соотношение, а также (5.54) и (5.55), можно получить окончательные выражения для ковариационной матрицы (Подробный вывод рассматривается в упражнении 18.)

Ковариационная матрица вектора весовых коэффициентов для метода Ньютона

Ковариационная матрица вектора весовых коэффициентов для метода наискорейшего спуска

(5.58)

где — константа адаптивного коэффициента передачи; — минимальное значение СКО; R — корреляционная матрица входного сигнала; N — число независимых измерений сигнала ошибки для каждого значения весовых коэффициентов с приращением; 6 — отклонение весовых коэффициентов, вводимое для измерения градиента.

Итак, основным результатом этого раздела являются соотношения для ковариационных матриц векторов весовых коэффициентов, которые выражены через переменные величины, определяемые при измерении сигнала ошибки. В следующем разделе рассматривается среднее значение СКО, выраженное в этих же переменных.