Другое представление градиента

Поскольку СКО является квадратичной функцией W, достигающей своего минимального значения при можно записать

Покажем, что это выражение справедливо. Отметим, что в общем случае раскроем скобки в (2.28) и найдем

(2.29)

Каждый член в (2.29) является скалярной величиной и поэтому равен своему транспонированному значению. Следовательно, последние два члена равны друг другу. В результате подставив вместо выражение (2.19), запишем

Подставляя вместо W выражение (2.17) и имея в виду, что R — симметрическая матрица, получаем

Этот результат соответствует (2.13) и тем самым доказывает справедливость выражения (2.28).

Квадратичную форму в (2.28) можно привести к более удобному виду, если ввести вектор отклонения весовых коэффициентов

Соответственно выражение (2.28) принимает вид

Вектор V — отклонение вектора весовых коэффициентов от винеровского оптимального вектора весовых коэффициентов. Любое отклонение W от W* вызывает в соответствии с квадратичной формой увеличение СКО.

Чтобы при всех возможных V? было неотрицательным, необходимо выполнение для всех V условия . Если для всех , то говорят, что матрица R — положительно определенная [7]. Если всех или некоторого конечного множества векторов V, то говорят, что матрица R — положительно полуопределенная. В практических случаях R почти всегда является положительно определенной, но иногда может быть и положительно полуопределенной. Условия положительной определенности и положительной полуопределенности обычно рассматриваются в теории матриц.

Градиент СКО относительно V получаем дифференцированием функции (2.33):

Этот градиент такой же, как и в формуле (2.15), так как W и V отличаются только на константу. Таким образом,

Выражение (2.35) будет использовано при синтезе и анализе различных адаптивных алгоритмов.