Пример анализа сходимости
Чтобы пояснить смысл сходимости среднего вектора весовых коэффициентов при использовании метода наименьших квадратов для конкретного случая, снова рассмотрим простой сумматор с двумя весовыми коэффициентами, приведенный в качестве примера на рис. 6.2.
Рис. 6.2. Схема адаптивного линейного сумматора, входной сигнал которого суммируется со случайным сигналом
Для введения случайных флуктуаций в адаптивный процесс изменяем входной сигнал, суммируя его, как показано на рис. 6.2, со случайным сигналом. При введении случайного сигнала необходимо видоизменить корреляционную матрицу входного сигнала R, определяемую из (2.22). Пусть средняя мощность случайного сигнала
и отсчеты случайного сигнала независимы. Тогда
Таким образом, преобразованная матрица
Аналогичное преобразование соотношения (2.24) дает для рассматриваемого примера следующую рабочую функцию.
Решив, как описано в гл. 2, уравнение , где Р определяется (по 2.23), можно найти оптимальный вектор весовых коэффициентов
Рис. 6.3. Проекции сечений рабочей функции и кривые изменений значений весовых коэффициентов при использовании метода наименьших квадратов для системы на рис. 6.2 с параметрами
Процесс адаптации по методу наименьших квадратов поясняется на рис. 6.3. где N равно 16 отсчетам за период сигнала, а . Здесь приведены проекции сечений рабочей функция (6.14), а значения оптимальных весовых коэффициентов найдены из (6.15).
Наряду с рабочей функцией на рис. 6.3 приведены две кривые, соответствующие траектории изменения весовых коэффицитов. Обе кривые построены для следующих характеристик:
То, что обе кривые, аналогично тому, как показано на рис. 4.7, в той или иной степени ортогональны кривым рабочей функции отражает суть метода наискорейшего спуска.
Из рис. 6.3 видно, что из-за возникновения на каждой итерации шума при оценке градиента изменения весовых коэффициентов носят блуждающий характер и не всегда имеют направления истинного градиента. При большем значении параметра эти изменения менее устойчивы, так как на каждой итерации вносится более глубокая коррекция весовых коэффициентов. Однако уже после половины всех итераций значение рабочей функции отличается от минимального на столько же, на сколько оно отличается для случая с меньшим параметром
Рис. 6.4. Зависимость сигнала ошибки от числа итераций для верхней кривой на рис. 6.3
Если продолжить эти кривые на рис. 6.3, то в обоих случаях изменения весовых коэффициентов будут колебаться в окрестности минимума рабочей функции что, как обсуждалось выше, будет соответствовать некоторому шумовому вектору весовых коэффициентов и относительной средней СКО.
Процесс сходимости метода наименьших квадратов можно описать еще одним способом, если построить зависимость ошибки 8 от числа итераций. Пример такой зависимости приведен на рис. 6.4, при этом ошибка такая же, как для верхней кривой на рис. 6.3. Сначала зависимость ошибки носит синусоидальный характер, но по мере того, как адаптивный фильтр обучается и подавляет синусоидальную составляющую, ошибка становится все более случайной.
Отметим, наконец, что в примерах на рис. 6.3 значения параметра (0,05 и 0,1) намного ниже верхней границы (6.10). Для из (6.9) и (6.13) имеем след матрицы R:
Следовательно, соотношение (6.10) дает
Применяя метод наименьших квадратов, обычно берут значения параметра на порядок меньше верхней границы (6.10).