5.6 Эффективность оценок.

В этом и следующих параграфах мы будем рассматривать метод максимума правдоподобия, Хотя, вообще говоря, перенесение этого метода на

случайные процессы, зависящие от непрерывно меняющегося параметра, является возможным, при этом возникают некоторые весьма любопытные осложнения. Первые попытки преодоления этих осложнений и будут сделаны в § 5.7-5.9.

Предположим, что для параметра а (принимающего значения из интервала А) имеет место регулярный случай и что функция правдоподобия почти наверно дифференцируема, причем

где случайная величина с ограниченной дисперсией (относительно вероятностной меры кроме того,

Рассмотрим оценки параметра имеющие конечную дисперсию; в таком случае, воспользовавшись теоремой 15.1 из книги Сакса [1], можно получить выражение для минимума этой дисперсии, аналогичное тому, которое имеется в конечномерном случае (см. Крамер [4]).

Пусть наша оценка является смещенной и ее смещение; тогда

и

(в последнем равенстве подинтегральное выражение правой части не превосходит по абсолютной величине а это последнее выражение интегрируемо относительно меры в силу неравенства Шварца). Аналогичным образом получаются равенства

и

Следовательно,

откуда вытекает, что

Заметим попутно, что, применяя этот результат к точечному процессу с присоединенными случайными величинами (задаваемому координатами, описанными в § 3.1), мы придем к утверждению, формально аналогичному теореме Вольфовица [1] о наименьшей дисперсии, достижимой в случае последовательных оценок.

Легко видеть, что равенство в последнем соотношении будет иметь место тогда и только тогда, когда

Как и в классическом случае, отсюда вытекает, что если только существует эффективная оценка, то она может быть получена как единственное, отличное от тождественной постоянной решение уравнения максимума правдоподобия.

Рассмотрим в качестве примера задачу теории оценок, изучавшуюся в § 5.2, и предположим, что мы имеем дело с нормальным процессом и регулярным случаем. Мы получим функцию

которая удовлетворяет всем условиям регулярности. Если несмещенная оценка имеющая конечную дисперсию, то в силу полученного выше результата

Но так как здесь

то мы будем иметь эффективную оценку

последний результат нетрудно проверить и при помощи непосредственного вычисления.

Особый интерес представляет случай нормального стационарного процесса Маркова. Здесь

и предшествующие рассуждения приводят к несмещенной оценке наименьшей дисперсии следующего вида:

Таким образом, эта оценка является наилучшей среди всех оценок конечной дисперсии.