4d.4. Нижние границы ошибок оценивания (граница Крамера—Рао).

В этом пункте мы исследуем условия, при которых квазимаксимально правдоподобная оценка, введенная ранее, дает наименьшее значение среднего квадрата ошибки в классе несмещенных оценок. Для этого используем нижнюю границу Крамера — Рао для ошибки произвольной оценки. Эта граница зависит от распределения вероятностей возмущений.

Пусть задано пар наблюдений за процессом, описываемым разностным уравнением (4а. 1.1). Через обозначим вектор неизвестных коэффициентов уравнения, через неизвестную дисперсию. Пусть любая асимптотически несмещенная оценка для построенная по Тогда ковариационная матрица оценки удовлетворяет следующему неравенству Крамера — Рао (А В означает, что неотрицательно определенная матрица):

где обозначает совместную плотность вероятности наблюдений, перечисленных в качестве аргументов в Заметим, что не следует интерпретировать как совместную плотность Введение имеет целью лишь указать на функциональную зависимость распределения от неизвестных параметров. Упростим выражение

где

Из уравнений следует

Функцию можно выразить через возмущение которое задано рекуррентно соотношением Предполагая, что распределено нормально, получим для следующее выражение:

Подставляя и выполняя вычисления, получаем

Подробности вычислений приведены в приложении 4.2.

Таким образом, ковариационная матрица квазимаксимально правдоподобной оценки 0 совпадает с правой частью Это означает, что в классе асимптотически несмещенных оценок квазимаксимально правдоподобная оценка имеет наименьшую дисперсию при условии, что распределение гауссово.

Следует заметить, что если допускаются и смещенные оценки, то в гауссовом случае получится оценка, имеющая меньшее значение среднего квадрата ошибки, чем квазимаксимально правдоподобная оценка. Последняя имеет наименьшее значение среднего квадрата ошибки только в классе несмещенных оценок.