6.3. Анализ качества оценки

Анализ качества оценки аналогичен анализу качества оценки в задачах нелинейной оценки в гл. 2 и 4 первого тома. Ошибки подразделяются на локальные и глобальные. Дисперсию локальных ошибок можно получить методом разложения в степенной ряд или на основе обобщенной границы Крамера — Рао. Глобальное поведение оценки можно исследовать путем развития анализа, проведенного на с. 323 — 327 первого тома. В этом параграфе мы выведем выражение для обобщенной границы Крамера — Рао и обсудим методы ее вычисления.

6.3.1. Нижняя граница дисперсии

Предположим, что А является неслучайной величиной, которую необходимо оценить. Желательно получить нижнюю границу дисперсии любой несмещенной оценки параметра А.

Вывод, выполненный на с. 76 — 78 первого тома, можно легко распространить и на этот случай. В результате установим, что для любой несмещенной оценки неслучайной величины А дисперсия удовлетворяет неравенству

со знаком равенства, если и только если

Для вычисления границы продифференцируем (40). В результате получим

Когда возьмем математическое ожидание от (43), увидим, что первый и последний члены взаимно уничтожаются. Итак, любая несмещенная оценка величины А будет иметь дисперсию, удовлетворяющую границе

Для удобства записи при дальнейшем изложении обозначим первый член в фигурных скобках через второй — через а сумму — через

Здесь целесообразно сделать несколько замечаний.

1. Члены, входящие в граничное выражение, зависят от А. Следовательно, как было показано ранее, дисперсия зависит от фактического значения неслучайного параметра.

2. Установленная граница выведена в предположении, что оценка является несмещенной. Если оценка смещена, необходимо использовать другую границу (см. задачу 6.3.1).

3. Первый член граничного выражения известен нам из контекста обнаружения известных сигналов в небелом шуме. В частности, он точно равен в задаче простого бинарного обнаружения, когда передается величина и аддитивный небелый шум имеет ковариационную функцию Поэтому здесь применимы методы, разработанные для вычисления

Рассмотрим теперь эффективные процедуры для оценки

6.3.2. Вычисление ...

Член появляется вследствие того, что ковариационная функция процесса зависит от Ранее этот член нам не встречался, поэтому изложим две удобные процедуры для его оценки. При первой его связывают с расстоянием Баттачария (см. рассуждения на с. 92), а при второй — его выражают через собственные функции и собственные значения.

Методы, изложенные в этом параграфе, применимы к произвольным интервалам наблюдения и к процессам, которые не обязательно стационарны. В § 7.1 будет рассмотрен случай стационарного процесса при большом времени наблюдения и выведено простое выражение для

Связь с расстоянием Баттачария. В этом подпараграфе мы свяжем с расстоянием Баттачария. Сначала будем оперировать с и вектором а затем в окончательном результате положим

Введем в рассмотрение функцию определяемую как

Это известное нам значение для общей бинарной задачи обнаружения, в которой

Расстояние Баттачария равно

С учетом (50) запишем (47) в виде

Нас интересует случай, когда

мало и обе части (51) можно разложить в ряды. Разложение левой части в ряд Тейлора по в окрестности точки дает

На основании (47) легко установить, что

(см. задачу 6.3.2). Следовательно, (53) сводится к выражению

Для разложения правой части (51) используем ряд Тейлора для первого сомножителя в подынтегральном выражении и затем произведем почленное интегрирование. В результате получим

Интеграл правой части (56) можно записать как

Выражение в правой части (57) есть не что иное, как взятая с отрицательным знаком функция Подставив (55) и (56) в (51) и приравняв коэффициенты при получим

Заметим, что выражение (58) учитывает Для вычисления предположим, что рассматриваемый процесс имеет нулевое среднее, и используем формулу (3.60) для

Последнее слагаемое в фигурных скобках соответствует составному процессу, аналогичному рассмотренному в гл. 3 (см. (3.63)). Напомним, что и статистически независимые компоненты составного процесса. В результате двукратного дифференцирования и подстановки в (58) получим для

Следует отметить, что во многих случаях член будет легче вычислить, используя определитель Фредгольма (см., например, п. 2.2.3).

Метод собственных значений. В этом подпараграфе выведем выражение для через собственные значения и собственные функции ковариационной функции Из (20) очевидно, что можно записать в виде

Это выражение требует отыскания импульсной переходной функции оптимального нереализуемого фильтра для всех на интервале Чтобы выразить через собственные значения и собственные функции, представим сначала в виде ряда

Дифференцируя и используя результаты в (62), получаем

где

Выражение (63) в большинстве случаев не является полезным. Однако в частном случае, когда собственные функции не зависят от А, его следует использовать. Распространенным примером этого случая является ситуация, когда А соответствует амплитуде ковариационной функции. Тогда последние два слагаемых в (63) равны нулю и

Вычисление по формуле (66) оказывается достаточно простым во многих задачах.

Проиллюстрируем применение (66) простым примером.

Пример. Принимаемое колебание записывается в виде

Сигнал моделируется выборочной функцией винеровского процесса. Он является гауссовым процессом, у которого

Этот процесс был впервые введен в рассмотрение на с. 232 первого тома. Аддитивный шум моделируется выборочной функцией статистически независимого белого гауссова процесса, имеющего спектральную плотность Необходимо оценить неслучайный параметр А.

В задаче 7.2.1 мы синтезируем оптимальный приемник для этого случая. В данном примере мы просто произведем вычисление по. формуле (66). Согласно (I — 3.119) собственные значения равны

а собственные функции не зависят от А. Дифференцирование (71) дает

С учетом (71) и (72) в (66) получим

Граница нормированной дисперсии любой несмещенной оценки записывается в виде

Указанную сумму можно выразить через гамма-функции, значения которых табулированы (например, [4]). В гл. 7 будет показано, что при больших значениях оценка максимального правдоподобия является практически несмещенной и ее дисперсия приближается к этой границе. При малых значениях важное значение приобретает смещение оценки. Проблема смещения будет подробно рассмотрена в § 7.1.

Последним интересующим нас вопросом является качество оценки случайной величины. В следующем подпараграфе мы выведем выражение для нижней границы наименьшей средней квадратичной ошибки.

6.3.3. Нижняя граница среднего квадрата ошибки

Чтобы вывести выражение для нижней границы среднего квадрата ошибки, необходимо выполнить процедуру, аналогичную выводу выражения для верхней границы (см., например, с. 83 первого тома).

Поскольку этот вывод несложен, оставим в Качестве упражнения и запишем сразу окончательный результат:

Выражения для представлены формулами (45) и (46). Эта граница соблюдается при слабых условиях, аналогичных рассмотренным на с. 83 первого тома. Сделаем два полезных замечания.

1. Поскольку а является случайной величиной, вопроса о смещении не возникает. Граница относится к среднему квадрату ошибки, а не к дисперсии.

2. Каждое слагаемое правой части (75) представляет собой математическое ожидание, взятое по Следовательно, граница не является функцией фактического значения параметра Часто выполнить указанное интегрирование по бывает затруднительно.

В большинстве примеров, рассматриваемых по ходу изложения, фигурируют неслучайные величины. Нетрудно перейти от любого конкретного примера к случаю случайной величины.

6.3.4. Уточненные границы

При рассмотрении точности оценок наше внимание было сосредоточено на обобщениях границ Крамера-Рао. Можно показать, что во многих задачах, когда процессы являются стационарными, дисперсия оценки максимального правдоподобия стремится к границе при увеличении интервала наблюдения (см., например, [5]). С другой стороны, как было показано ранее, существуют задачи, в которых граница не дает представления о действительной точности оценки.

Одна из процедур получения более точной оценки подсказывается структурной схемой, изображенной на рис. 6.1. Мы рассматриваем данную задачу как многоальтернативную (-ичную) задачу обнаружения, находим вероятность ошибки и преобразуем ее в ошибку глобальной оценки. Этот метод был введен в рассмотрение в связи с задачей оценки параметров детерминированного сигнала Вудвордом [6] и Котельниковым [7]. Впоследствии он был модифицирован и развит в работах [8 — 13]. Мы его обсудили на с. 321—327 первого тома. Развитие этого метода применительно к случаю случайного параметра сигнала по своей идее довольно просто, но обычно трудно выполнимо. В задаче 7.1.23 эта процедура иллюстрируется на конкретном примере оценки.

Вторая процедура для оценки точности основана на использовании границы Баранкина [14]. Этот метод применялся к решению

задачи оценки детерминированного параметра сигнала [15— 17]. Некоторый прогресс достигнут в решении задачи оценки случайного сигнала Баггерером [18]. И в этом случае основные идеи решения несложны, но фактические вычисления затруднительны.

В гл. 7 рассмотрены некоторые конкретные задачи оценки. Здесь мы вновь обращаемся к вопросу точности оценки и рассматриваем его более подробно. Теперь же мы можем подвести итоги гл. 6.