§ 4.3. КРИТЕРИИ ОЦЕНКИ НЕСЛУЧАЙНЫХ ПАРАМЕТРОВ СИГНАЛОВ. ГРАНИЦА КРАМЕРА—РАО

Как следует из § 4.2, основным в байесовской теории оценок является допущение о том, что оцениваемые параметры — случайные величины и их априорная ПВ известна. В априорной ПВ содержится информация, источником которой служат наблюдения, предшествующие данному измерению.

Так, в рассмотренном примере, иллюстрированном рис. 4.1, наблюдатель, полагающий априорное распределение равномерным, поступает так потому, что предварительно полученные им данные не выявили различия вероятностей значений на отрезке .

Реальные обстоятельства, однако, нередко складываются так, что наблюдатель не обладает надежной априорной информацией о . Такая картина характерна, например, для оценки каких-либо физических величин, не измерявшихся ранее вообще или измерявшихся в иных условиях. Например, обширная статистика метеообразований в экваториальной области Земли не может рассматриваться как достоверная априорная информация для метеолокатора, работающего в приполярных широтах; сведения, полученные с помощью радиотелескопа, просматривающего один сектор небесной сферы, нельзя использовать как априорные при переходе к другому сектору и т. п.

Незнание априорной ПВ исключает возможность нахождения байесовских оценок, так как воспользоваться равенством (4.14) для построения апостериорного распределения при этом не удается. Можно, конечно, в этом случае применить так называемые минимаксные оценки, гарантирующие непревышение средним риском при любых определенного значения , являющегося значением П для некоторой наименее благоприятной априорной ПВ. Отметим, однако, что отыскание таких оценок не просто и, кроме того, сами минимаксные оценки нередко излишне осторожны, минимизируя средний риск для «плохих» ценой существенного завышения П для остальных.

Радикальным способом преодоления трудностей, обусловленных отсутствием априорных данных, является полный отказ от интерпретации измеряемых параметров как случайных величин и переход к небайесовским критериям качества, не требующим предписываемого формулами (4.5), (4.6) усреднения риска по значениям измеряемой величины . Один из таких критериев, весьма продуктивный и в наибольшей мере адекватный общепринятому взгляду на качество физических измерений, базируется на требованиях несмещенности и минимума условной дисперсии оценки. Сформулируем эти требования в сопровождении краткого комментария, начав со случая оценки скалярного параметра

При измерении физической величины экспериментатор, как правило старается придерживаться такой методики при которой результат измерения не содержит систематически

погрешности. Это стремление формально можно выразить условием несмещенности оценки

(4.15)

для любых возможных истинных значений оцениваемого параметра . Усреднение в левых частях (4.15) проводится по всем колебаниям [по всем реализациям помехи в правой части (4.1)] для фиксированного значения . Таким образом, требование (4.15) означает, что, каким бы ни было действительное значение параметра , его оценка в среднем не должна отличаться от .

Рис.4.4.

Не любую несмещенную [удовлетворяющую (4.15)] оценку следует считать хорошей. Среди несмещенных могут быть оценки с различным разбросом относительно истинных значений измеряемой величины. Наглядный пример этому дает рис. 4.4, где цифрами 1 и 2 отмечены ПВ полученные по некоторым правилам 1 и 2 при фиксированном значении измеряемого параметра . Обе оценки несмещенные, ибо их средние равны , однако разброс оценки 2 относительно значительно меньше и потому экспериментатор вправе считать эти измерения более точными.

Естественно стремиться к наименьшему разбросу несмещенной оценки относительно истинного значения , т. е. к тому, чтобы ее условная (вычисленная при фиксированном истинном значении ) дисперсия была минимально возможной для любых значений :

(4.16)

Как и ранее, усреднение в условии (4.16) выполняют по всем реализациям при .

Введенные условия в совокупности можно трактовать как единый критерий качества, предписывающий считать оптимальной ту оценку, для которой одновременно выполнены условия (4.15), (4.16). Такая оценка будет иметь потенциальную, т. е. наивысшую возможную, точность. Подобный критерий в общем случае не ведет столь же явно, как байесовский, к конкретным правилам оценки.

В то же время для ряда важнейших практических задач вытекающие из него решения оказываются достаточно простыми. Основу их составляет соотношение, называемое неравенством (границей) Крамера—Рао и устанавливающее нижний предел условной дисперсии несмещенной оценки параметра . Для его вывода положим, что ФП дифференцируема по . С учетом смысла усреднения в равенствах (4.15), (4.16) перепишем их в виде

Продифференцировав обе части (4.17) по , получим

Заметив, что

представим (4.19) в виде

Из неравенства Буняковского—Шварца следует

На основании равенства (4.21) правая часть (4.22) равна единице. В то же время первый и второй сомножители левой части есть соответственно [см. (4.18)] и , Продифференцируем дважды условие нормировки

по , воспользовавшись (4.20). Тогда

с учетом чего неравенство (4.22) примет вид

Это выражение и определяет границу Крамера — Рао. Несмещенную оценку, для которой неравенство (4.24) превращается в равенство, называют эффективной. Необходимым и достаточным условием эффективности оценки служит обращение в равенство неравенства Буняковского—Шварца (4.22), возможное тогда и только тогда, когда

где - некоторая функция [но не ]. Величину (4.23) называют информацией Фишера. Таким образом, никакая несмещенная оценка не может обладать условной дисперсией, меньшей величины, обратной информации Фишера.

Для многомерного случая будем считать оценку векторного параметра несмещенной, если несмещенными окажутся оценки всех индивидуальных параметров вектора при любом значении .

Для условных дисперсий несмещенных оценок , вычисленных путем усреднения по при фиксированном значении , справедлива многомерная граница Крамера — Рао, являющаяся системой неравенств:

где - диагональный элемент матрицы обратной информационной матрице Фишера, т. е. -матрице с элементами

усреднение в которых производят по реализациям при . При соотношения (4.26) и (4.24), так же как (4.27) и (4.23), совпадают.

Формальный вывод границы (4.26) можно найти в специальных руководствах. Оценки, для которых все неравенства системы (4.26) одновременно обращаются в равенства, называют совместно эффективными (иногда просто эффективными).

Отметим, что эффективные оценки существуют далеко не всегда и при их отсутствии можно построить границы, более точные, чем (4.24) и (4.26). Однако значение подобных границ в теории оценок не столь существенно, как границы Крамера — Рао. В определенной мерс это связано с асимптотическими свойствами оценок, обсуждаемыми в следующем параграфе.