4. Основное выражение для среднеквадратичной ошибки

Предположим, что в качестве предсказывающе сглаживающего фильтра на рис. 1 применен фильтр с частотной характеристикой Какова среднеквадратичная ошибка предсказания? Так как различные частоты некогерентны, можно вычислить среднюю мощность ошибки

суммированием составляющих различных частот. Рассмотрим компоненты сигнала и шума на определенной частоте Предполагается, что сигнал и шум некогерентны при всех частотах. Тогда на частоте составляющая ошибки, обусловленная шумом, равна где — средняя мощность шума на частоте

Существует также составляющая ошибки благодаря ослаблению компонент сигнала после прохождения его через фильтр. Для составляющей частоты амплитуды на входе и на выходе должны быть равны, а фаза на выходе должна иметь опережение на Тогда ошибка в мощности будет

где — мощность сигнала на частоте

Общая среднеквадратичная ошибка на частоте является суммой этих двух ошибок, или

и общая среднеквадратичная ошибка для всех частот равна

Задача заключается в минимизации Е надлежащим выбором с учетом того, что система с частотной характеристикой должна быть физически осуществима.

Некоторые важные выводы можно сделать сразу же из рассмотрения выражения (12). Сигнал и шум входят в уравнение только

через посредство их спектров мощности. Следовательно, единственные статистические параметры сигнала и шума, необходимые для решения проблемы, это их спектры. Два различных сигнала с одним и тем же спектром мощности ведут к одному и тому же оптимальному предсказывающему фильтру и к той же самой среднеквадратичной ошибке. Например, если в качестве сигнала используется речь, она может быть предсказана тем же фильтром, который используется для предсказания белого теплового шума, предварительно пропущенного через фильтр, дающий на выходе такой же спектр, как спектр речи.

Говоря более вольно, линейный фильтр может использовать статистику, относящуюся только к амплитудам различных частотных составляющих, статистика фазовых углов этих составляющих не может быть использована. Только нелинейное предсказание может использовать этот статистический эффект для улучшения предсказания.

Ясно, что в проблеме линейной аппроксимации по методу наименьших квадратов можно при желании заменить сигнал и шум любыми временными последовательностями, которые имеют те же спектры мощности. Это никоим образом не изменит оптимального фильтра и среднеквадратичной ошибки.