Глава 3. ОЦЕНКИ МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ ПАРАМЕТРОВ ИЗВЕСТНОГО СИГНАЛА

3.1. СТАТИСТИЧЕСКИЕ ХАРАКТЕРИСТИКИ ОЦЕНКИ ПРОИЗВОЛЬНОГО ПАРАМЕТРА

При приеме на фоне нормальной помехи известного сигнала содержащего оцениваемый неизвестный произвольный параметр логарифм функционала отношения правдоподобия определяется выражением (2.4.9)

где выходной сигнал оптимального приемника (рис. 2.3.1), Оценка максимального правдоподобия неизвестного параметра сигнала находится как положение абсолютного максимума логарифма функционала отношения правдоподобия. Следовательно, структуру всего оптимального устройства для оценки произвольного параметра известного сигнала можно представить в виде, показанном на рис. 3.1.1. Здесь блок оптимальный приемник выходной сигнал которого поступает на сумматор; на второй вход сумматора подается вырабатываемый генератором детерминированный сигнал — Выходные эффекты сумматора при различных значениях параметра I сравниваются между собой в решающем устройстве указывающем значение параметра при котором выходной эффект достигает абсолютного максимума. При оценке неэнергетического параметра и структурная схема оптимального устройства несколько упрощается, так как отпадает необходимость в использовании сумматора и генератора Действительно, для неэнергетического параметра выходной сигнал оптимального приемника совпадает с логарифмом функционала отношения правдоподобия с точностью до постоянного слагаемого.

Рис. 3.1.1. Структурная схема оптимальной оценки произвольного параметра.

Из определения оценки максимального правдоподобия следует, что в случае, когда оценка является внутренней точкой априорного интервала, может быть найдена как решение уравнения

которое носит название уравнения правдоподобия. При этом из всех возможных решений уравнения следует выбрать значение соответствующее наибольшему максимуму (максимуму максиморуму) логарифма функционала отношения правдоподобия Уравнение (3.1.2) для рассматриваемого произвольного параметра является нелинейным и в общем случае не разрешается относительно точки Однако при некоторых ограничивающих предположениях оказывается возможным отыскание приближенного решения этого уравнения.

Прежде всего будем полагать, что оценка параметра I производится при малом уровне помех, т. е. при больших значениях отношения сигнал/помеха, так что максимум максиморум логарифма функционала отношения правдоподобия с вероятностью, близкой к единице, лежит в окрестности истинного значения оцениваемого параметра Иначе говоря, будем искать приближенное решение уравнения (3.1.2) при отсутствии аномальных ошибок. Кроме того, будем считать, что как оценка так и истинное значение параметра 10 есть внутренние точки априорного интервала, т. е. пренебрегаем возможностью появления абсолютного максимума в граничных точках интервала допустимых значений оцениваемого параметра. Также предположим, что логарифм функционала отношения правдоподобия в окрестности оценки является аналитической функцией оцениваемого параметра, т.е. в окрестности оценки функция дифференцируема требуемое число раз. Это предположение оправдано тем, что реальные сигналы формируются физически реализуемыми системами с конечной полосой пропускания по частоте.

Введем в рассмотрение нормированные сигнальную и помеховую составляющие логарифма функционала отношения правдоподобия;

Здесь отношение сигнал/помеха по напряжению на выходе оптимального приемника в точке а функции определены в (2.4.10) и (2.4.2). Учитывая выражения (2.4.12) и (2.4.5), имеем

Остальные свойства введенных нормированных функций с точностью до множителя, обратного отношению сигнал/помеха, совпадают с ранее рассмотренными свойствами ненормированных сигнальной и помеховой функций (§ 2.4). Подставляя (3.1.3) в (3.1.1), приходим к выражению

Из этого уравнения следует, что при очень большом отношении сигнал/помеха для принятого сигнала в окрестности максимума функции можно пренебречь помеховым членом по сравнению с первым слагаемым При этом абсолютный максимум функции а следовательно, и функции соответствует истинному значению оцениваемого параметра, т. е. Чем меньше уровень помехи, т. е. чем больше отношение сигнал/помеха, тем справедливее высказанное положение.

При конечном отношении сигнал/помеха ошибки в определении истинного значения параметра будут отличны от нуля. Влияние помехи (при нормальных ошибках) сказывается на смещении максимума

максиморума логарифма функционала отношения правдоподобия от истинного значения оцениваемого параметра.

Для рассматриваемого случая нормальных ошибок отклонение оценки от истинного значения можно искать в виде соответствующих приближений.

Все известные до сих пор приближенные способы решения нелинейного уравнения правдоподобия (3.1.2) основаны на разложении логарифма функционала отношения правдоподобия в ряд Тейлора. Приэтом наиболее продуктивное решение получается при использовании метода малого параметра [1, 83], в качестве которого удобно принять величину, обратную отношению сигнал/помеха по напряжению для принятого сигнала;

Подставляя (3.1.5) в (3.1.2) и используя введенную величину уравнение правдоподобия запишем в виде

Из этого выражения и приведенного выше обсуждения свойств логарифма функционала отношения правдоподобия следует, что при решение уравнения совпадает с истинным значением параметра

Для рассматриваемого случая «отсутствия» аномальных ошибок величина мала и абсолютный максимум расположен вблизи истинного значения параметра так что решение уравнения правдоподобия можно нскать в виде ряда по степеням

Чтобы определить приближения разложим функцию в квадратных скобках в левой части уравнения в ряд Тейлора по I в окрестности точки Подставим в Это разложение значение из (3.1.8) и ограничимся первыми тремя приближениями Тогда уравнение правдоподобия запишется в виде

Введем обозначения

где функции аналогично функции определяются из выражений (2.4.4) и (2.4.5) как

Сгруппируем члены в левой части (3.1.9), содержащие малый параметр в одинаковых степенях:

Поскольку система функций является линейно независимой, то равенство (3.1.12) выполняется при любых только тогда, когда все коэффициенты при степенях равны нулю. Так как достигает абсолютного максимума при то всегда

и нулевое приближение совпадает с истинным значением параметра Приравнивая нулю коэффициенты при получаем уравнения для определения Запишем решения этих уравнений

С учетом первых трех приближений выражения для условных смещения и дисперсни оценки максимального правдоподобия имеют вид

причем здесь усреднение выполняется но всевозможным реализациям помехи при фиксированном значении оцениваемого параметра Относительная погрешность выражений для смещения и дисперсии оценки, которую определим как отношение порядка малости первого отброшенного члена к первому слагаемому, будет иметь величину порядка Если допустима относительная погрешность порядка малости то выражения для смещения и дисперсии оценки максимального правдоподобия упрощаются:

Соответственно при использовании лишь первого приближения (относительная погрешность порядка ) нмеем

Вычислим необходимые моменты случайных величин входящих в выражения для смещения и дисперсии оценки. Для этого применительно к нормальному случайному процессу с нулевым средним

значением используем известные из теории случайных процессов соотношения [27]

которые потребуются в дальнейшем.

С учетом последних соотношении искомые моменты равны

Используя полученные формулы для моментов, выражения для смещения (3.1.14) и дисперсии оценки (3.1.15) перепишем в виде

При использовании менее точных выражений (3.1.16) и смещение оценки совпадает с (3.1.28), а дисперсия оценки равна

Наконец, в первом приближении (3.1.18) и (3.1.19) формула для дисперсии оценки совпадает с (3.1.30), а смещение оценки равно иулю.

Моменты ломеховой функции, входящие в выражения для смещения и дисперсии оценки, легко выражаются через производные от нормированной сигнальной функции определяемой соотношением (3.1.11), причем из (2.4.4) и (3.1.3) следует, что

Учитывая последнее и (2.4.6), можем записать

Вычислим производные от функций входящих в выражения для смещения и дисперсии оценки. Согласно (3.1.3) и (2.4.10)

Рассмотрим вначале вторую производную

Чтобы вычислить вторую производную от отношения сигнал/помеха используем соотношения, следующие из (2.4.5) и (2.4.6):

Следовательно,

Функцию 0 можно рассматривать как сложную функцию. Напомним соответствующее правило дифференцирования

Разложим функцию в двумерный ряд Тейлора в окрестности точки :

Полагая в последнем выражении подставляя его в и вычисляя предел, получаем

Применяя правило дифференцирования (3.1.39) дважды и учитывая (3.1.35), находим

Подстановка этого соотношения в (3.1.34) приводит к выражению

Совершенно аналогично, последовательно применяя формулу (3.1.39), находим

Подставляя в формулы (3.1.28) и (3.1.29) значения моментов производных помеховой функции и производных функции

выраженные через производные сигнальной функции получаем

Как следует из и (3.1.15), абсолютная погрешность формулы для смещения оценки параметра сигнала имеет порядок малости а формулы для дисперсии оценки параметра сигнала, — порядок малости

Для получения безусловных смещения и дисперсии оценки выражения для характеристик оценки надо усреднить по всевозможным значениям параметра в соответствии с (1.2.5) и

Условные смещение и дисперсию оценки можно выразить через производные ненормированной сигнальной функции

Если ограничиться рассмотрением первого приближения, то оценка оказывается условно несмещенной, а дисперсия ее совпадает с дисперсией эффективной оценки и определяется выражением

Действительно, вычисляя среднее значение второй производной логарифма функционала отношения правдоподобия (3.1.5) в точке и подставляя ее значение в (1.3.21), убеждаемся в справедливости формулы (3.1.46). Поскольку погрешность этой формулы уменьшается с ростом отношения сигнал/помеха, можно сделать вывод, что оценка максимального правдоподобия произвольного параметра известного сигнала асимптотически несмещенная и эффективная.

Полученные выше формулы для дисперсии оценки параметра сигнала позволяют достаточно строго обосновать возможность использования в качестве характеристики оценки максимального правдоподобия дисперсии эффективной оценки, хотя условия существования эффективной оценки не выполняются.

В принципе рассмотренным способом можно было бы получить и следующие приближения для смещения и дисперсии оценки, причем, естественно, при уменьшении отношения сигнал/помеха требуется использовать приближения более высоких порядков. Однако определение следующих приближений требует весьма громоздких расчетов, которые не всегда целесообразно выполнять, так как с уменьшением отношения сигнал/помеха не только растет погрешность полученных выражений за счет отброшенных членов разложения но и увеличивается вероятность аномальных ошибок.

С другой стороны, уже из анализа выражения (3.1.45) видно, что при не слишком больших отношениях сигнал/помеха второй и третий члены в фигурных скобках могут быть сравнимы с единицей. В этих случаях использование только первого приближения для вычисления дисперсии оценки максимального правдоподобия может привести к заниженным значениям дисперсии при анализе ошибок оценок параметра сигнала на фоне помех.

Полученные выражения для смещения и дисперсии оценки максимального правдоподобия произвольного параметра применительно к оценке неэнергетического параметра можно существенно упростить, если учесть свойство четности сигнальной функции неэнергетического параметра (2.4.14).

Введя новую переменную смешанные производные от сигнальной функции по параметрам и в точке можно представить как

В силу четного характера сигнальной функции относительно точки все нечетные производные в этой точке равны нулю.

В результате получаем, что оценка неэнергетического параметра известного сигнала несмещенная, а дисперсия оценки определяется формулой

В силу четности сигнальной функции при оценке неэнергетического параметра производные от сигнальной функции не зависят от истинного значения параметра следовательно, смещение и дисперсия оценки являются безусловными.

Из формулы (3.1.8), определяющей приближенное значение оценки произвольного параметра, следует, что в общем случае оценка максимального правдоподобия имеет распределение, отличное от нормального, так как в величины входят нормальные случайные величины в степенях выше первой. Поэтому смещение и дисперсия оценки не дают полного описания свойств оценки. Однако если ограничиться рассмотрением только первого приближения, т. е. если положить

то условное (при фиксированном распределение оценки (или ошибки оценивания будет нормальным в силу нормального распределения случайной величины Так как точность первого приближения увеличивается с ростом отношения сигнал/помеха, то оценка максимального правдоподобия произвольного параметра известного сигнала является не только -смптотичееки несмещенной и эффективной, по и асимптотически нормальной. При учете приближений более высокого порядка, чем первое, распределение оценки не является нормальным, хотя и приближается к нему с ростом отношения сигнал /помеха, т. е. при достаточно больших отношениях сигнал/помеха оно мало отличается от нормального. Поэтому, вычислив четыре первые момента оценки, при использовании приближения (3.1.8) можем

аппроксимировать распределение оценки с достаточной точностью тремя членами ряда Эджворта, который запишем в виде [27]

где производные интеграла вероятности

— среднее значение случайной величины дисперсия; коэффициент асимметрии; у — коэффициент эксцесса; кумулянты (семиинварианты).

Будем искать условное (при фиксированном распределение ошибки оценивания в виде (3.1.50), где параметры определяются соответственно из (3.1.44) и (3.1.45), а кумулянты и равны [27]

Подставляя в последние выражения значения (отбрасывая члены более высокого порядка малости), получаем

В результате параметры плотности вероятности случайной ошибки измерения определяются

где

Поскольку оценка максимального правдоподобия условную плотность вероятности оценки получим, подставив вместо величину Остальные параметры распределения оценки будут такими же, как и для распределения