5.6. Среднеквадратичная ошибка и уравнение Винера — Хопфа
В § 5.1 было упомянут что часто применяется в качестве устройства для получения оценок байесово устройство с квадратичной функцией стоимости. Другими словами, устройство для получения оценки выбирается таким образом, чтобы обеспечить минимальное значение математического
ожидания квадрата ошибки при заданном виде принимаемых сигналов. Для стационарных процессов эта ошибка имеет вид
и обычно называется среднеквадратичной ошибкой. Для фильтрации, когда
и когда процесс, который нужно оценить, и шум нормальные, можно показать (см. приложение С), что получаемое при этом критерии устройство оценки совпадает с устройством, получаемым при других критериях, включая критерий максимума апостериорной плотности вероятности. Оценка является линейным функционалом процесса
(5.62), где
решение уравнения Винера — Хопфа (5.63).
Даже тогда, когда процессы
не являются нормальными, если ограничить рассмотрение классом устройств оценки, представляющих линейные функционалы процесса
, оператор
минимизирующий среднеквадратичную ошибку, должен удовлетворять уравнению Винера — Хопфа. Это легко доказать путем подстановки (5.62) в (5.81). Тогда
так как
вследствие независимости процессов
и
. Предположим теперь, что
произвольный линейный функционал,
решение уравнения Винера-Хопфа
Полагая
из (5.82), (5.83) и (5.84) получим
Выражение (5.85) можно представить в виде
где
так как функции
— четные. Выражение (5.87) представляет среднеквадратичную ошибку, если линейный оператор
является решением уравнения Винера — Хопфа (5.83). Второе слагаемое в (5.86) всегда неотрицательно, так как корреляционная функция
должна повсюду быть неотрицательно определенной. Следовательно,
Таким образом, доказано, что решение уравнения Винера — Хопфа является тем элементом совокупности линейных операторов, который минимизирует среднеквадратичную ошибку. Получаемая при этом минимальная ошибка выражается формулой (5.87).
Среднеквадратичная ошибка используется не только как критерий оптимальности, но и как мера качества. Когда оптимальное устройство для получения оценки или фильтр определено, можно по формуле (5.87) оценить минимальную ошибку и получить таким образом меру качества
ства системы. Наоборот, критерий максимума апостериорной плотности вероятности нельзя использовать как меру качества при оценке непрерывных параметров или аналоговых сигналов. Однако в гл. 7 будет показано, что при дискретных параметрах, когда получение оценки сводится к выбору одного из конечной совокупности значений, максимальная апостериорная вероятность представляет наиболее значимую меру качества.