7.2. СОСТОЯТЕЛЬНОСТЬ ОЦЕНОК МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ

Вопрос о состоятельности оценок максимального правдоподобия, т. е. о их сходимости к истинным значениям оцениваемых параметров, при увеличении объема данных наблюдения — размерности вектора достаточно хорошо освещен в многочисленной литературе по математической статистике, например [16, 36]. В достаточно широких условиях оценки максимального правдоподобия оказываются состоятельными, причем практически без ограничения общности можно считать, что если для параметра в принципе существует состоятельная оценка, то оценка максимального правдоподобия этого параметра также является состоятельной.

Наиболее распространенной причиной несостоятельности оценки максимального правдоподобия является неоднозначное связанная с тем, что максимум функции правдоподобия достигается для нескольких значений одновременно. Если это обстоятельство имеет место при каком угодно увеличении объема данных наблюдения т. е. при то очевидно, что оценка максимального правдоподобия несостоятельна, точная оценка параметра вообще принципиально невозможна и для получения состоятельной оценки необходимо привлечение дополнительных данных наблюдения какой-то иной природы, позволяющих устранить неоднозначность.

Можно привести простое необходимое условие состоятельности оценки максимального правдоподобия, выполнение которого обеспечивает отсутствие неоднозначности. Это условие использует свойства математического ожидания логарифма отношения правдоподобия. Введем случайную функцию параметра

где — произвольное, а неизвестное истинное значение параметра Очевидно, что при любом максимум функции достигается в точке которая является решением уравнения (7.1.2), т. е. оценкой максимального правдоподобия.

Математическое ожидание величины

равно нулю при и неположительно при всех значениях . Действительно, ввиду неравенства имеем

Необходимым условием состоятельности оценки максимального правдоподобия является достижение в (7.2.3) строгого неравенства при

Если это условие выполняется, то даже при и сходимости последовательности случайных функций к своему математическому ожиданию уравнение правдоподобия не имеет единственного решения и, следовательно, оценка максимального правдоподобия несостоятельна.

Отметим, что в силу очевидного равенства

функцию можно представить в виде суммы

где при

— величина логарифма отношения правдоподобия для значения параметра против истинного значения при наблюдении значения и при условии, что предыдущие значения известны.

В частном случае независимых одинаково распределенных величин когда

функция равна

При этом величины также независимы и на основании усиленного закона больших чисел для сумм независимых случайных величин последовательность случайных функций с вероятностью единица сходится к своему математическому ожиданию (7 2.8). Если эта сходимость равномерна по и выполняется необходимое условие (7.2.4), то оценка максимального правдоподобия также с вероятностью единица сходится к значению Для сходимости по вероятности в случае независимых значений условие (7 2.4) является также и достаточным.

В случае зависимых случайных величин помимо существования предела (7.2.9), удовлетворяющего условию (7.2.4), для состоятельности оценки максимального правдоподобия требуется

выполнение некоторых дополнительных условий. Общим (но, возможно, избыточно жестким) условием является требование равномерной относительно в сходимости последовательности случайных функций к своему математическому ожиданию

Это требование может быть записано в следующем виде:

равномерно относительно .