Часть II. ТЕОРИЯ АДАПТАЦИИ ДЛЯ СТАЦИОНАРНЫХ СИГНАЛОВ
Теперь читатель имеет общее представление о рабочей функции, или функции ошибки, и о том, как эта функция отражает адаптивные параметры. При адаптивной обработке сигналов поверхность, образованная рабочей функцией, обладает следующим важным свойством: если сигналы являются стационарными и имеют инвариантные в статистическом смысле свойства, то эта поверхность фиксирована и остается неподвижной в своей системе координат. В этом случае процесс адаптации заключается в движении, начиная с некоторой начальной точки, вниз по этой поверхности до окрестности точки минимума, и в удержании среднеквадратического значения сигнала ошибки около этой точки.
Кроме того, если сигналы нестационарны и их статистические свойства медленно меняются, то можно считать, что эта поверхность является «размытой» или изменяет свою форму или местоположение относительно системы координат. В этом случае процесс адаптации состоит не только в движении к точке минимума, но и в слежении за точкой минимума, поскольку она меняет свое положение.
Наиболее простому для анализа случаю стационарных сигналов, когда поверхность, образованная графиком рабочей функции, неподвижна относительно системы координат, посвящены гл. 3—5. В гл. 3 приводятся некоторые математические свойства рабочей функции, которые будут полезны при сравнении в последующих главах функционирования различных адаптивных систем.
В гл. 4 излагаются два основных метода поиска рабочей функции — метод Ньютона и метод нанскорейшего спуска — и дан их сравнительный анализ. В гл. 5 изучается влияние на эффективность методов шума оценки градиента, которой необходимо пользоваться в практических условиях.
Все эти главы являются теоретической основой для ч. III, в которой начинается обсуждение практических адаптивных алгоритмов. Поэтому при чтении можно опустить некоторые разделы ч. II или сразу перейти к ч. III, а затем вернуться к ч. II.
Глава 3. СВОЙСТВА КВАДРАТИЧНОЙ РАБОЧЕЙ ФУНКЦИИ
После определения рабочей функции для класса адаптивных систем можно перейти к обсуждению алгоритмов для коррекции весовых коэффициентов и спуска по поверхности, образованной графиком рабочей функции, к минимальному значению среднеквадратической ошибки. Этому посвящены следующие три главы-Прежде всего необходимо описать некоторые важные свойства квадратичной рабочей функции. Читатели, которых интересует только описание алгоритмов поиска рабочей функции, могут перейти к гл. 6, однако для понимания существа процесса поиска материал предшествующих глав необходим.
Свойства рабочей функции, рассматриваемые в этой главе, определяются в свою очередь свойствами корреляционной матрицы входного сигнала R. В предыдущей главе показано, что если входные сигналы адаптивного линейного сумматора являются стационарными, то СКО можно выразить через корреляционную матрицу входного сигнала R соотношением (2.33)
Отметим, что поскольку здесь L+1 весовых коэффициентов (компонентов вектора W), матрица R имеет L+1 столбцов и L+1 строк.
Из (2.33) следует, что рабочая функция СКО является функцией R. Представляя R в нормальной форме через собственные значения и собственные векторы, можно исследовать многие свойства рабочей функции. Такое представление матриц можно найти в любой книге по линейной алгебре, в частности полезной является книга [5]. Краткий обзор основных положений такого представления содержится в последующих двух разделах.
