7а.2. Оценки максимального правдоподобия на основе полной информации и оценки условного максимального правдоподобия.

Пусть к моменту времени имеется совокупность наблюдений где

Пусть — вектор всех неизвестных параметров в уравнении Обозначим через последовательность неизвестных возмущений в приведших к данным наблюдениям Пусть обозначает плотность вероятности совокупности наблюдений, имеющихся к моменту времени Оценкой максимального правдоподобия на основе полной информации для является значение максимизирующее функцию по параметру

По предположению второй член в этом выражении

статистически не зависит от Следовательно, искомая оценка получается максимизацией функции

Вычисление затруднительно по причинам, аналогичным тем, что обсуждались в гл. VI. Легче вычислить значение

Оценка, получаемая максимизацией функции относительно называется оценкой условного максимального правдоподобия. В асимптотике эта оценка совпадает с оценкой максимального правдоподобия на основе полной информации по тем же причинам, что были обсуждены в гл. VI. Обозначая через логарифм функции правдоподобия деленный на и используя предположение о нормальности, можно записать

где рекуррентно получаемые оценки неизвестного возмущения в (7а. 1.2), которые вычисляются с использованием наблюдений и фиксированного вектора параметров

Оценки условного максимального правдоподобия для обозначаемые соответственно через равны

Для того чтобы найти нужно продифференцировать по Это сложная процедура. Легче продифференцировать не по а по как показано ниже:

Приравнивая эту матрицу нулевой и разрешая полученное уравнение относительно получим

При проверке оценка должна совпасть с матрицей которая обращает матрицу производных в нулевую. Сконцентрированную функцию правдоподобия, приводимую ниже, получаем, заменяя в матрицу на матрицу определяемую равенством

Можно показать, что при надлежащих предположениях функция выпукла в некоторой области, содержащей точку (Кашьяп, Поэтому функция имеет единственный максимум, скажем, в точке которая дает оценку условного максимального правдоподобия для при заданной Оценка 0 может вычисляться только итерационными методами, которые обсуждаются несколько позже. Соответствующая оценка условного максимального правдоподобия для получается из заменой 0 на 0. Обозначим

Элементарным следствием из является то, что оценка для 0, получаемая максимизацией т. е. суммы квадратов остатков, не равна оценке максимального правдоподобия.