добия (7.1.2), подчеркнув в нем явно наличие ограничений на допустимое множество значений в:
Если множество
имеет ненулевую меру (т. е. в является параметром с некоторой непрерывной областью значений), то решение этого уравнения — оценка максимального правдоподобия
— либо совпадает с регулярной оценкой
найденной без учета ограничений, либо лежит на границе множества
. В первом случае
принадлежит
во втором во не принадлежит
Эти соображения, несмотря на свой совершенно очевидный характер, являются тем не менее средством, которое позволяет сравнительно просто найти оценку в в том практически важном случае, когда найденная без учета ограничений оценка
близка к эффективной.
В этом последнем случае функция правдоподобия
где
информационная матрица Фишера, и уравнение максимального правдоподобия (7.4.27) эквивалентно уравнению
из которого, как и в общем случае, следует, что
Будем считать, что размер множества
не мал по сравнению со среднеквадратичным разбросом регулярной оценки
задаваемым матрицей
Для нахождения оценки 0 для случая, когда
воспользуемся малостью отклонения
которая позволяет заменить в окрестности минимизирующего значения
границу множества
гиперплоскостью (когда эта граница сама по себе представляет гиперплоскость, что соответствует наиболее распространенному типу ограничений, последующие приближения являются точными).
Пусть в окрестности точки
граница множества
задается уравнением гиперповерхности
Заменим ее гиперплоскостью
где
и найдем минимум в (7.4.29) с учетом ограничения (7.4.32) на допустимые значения 0 Используя метод Лагранжа, получаем
Это решение при нелинейной функции
является, конечно, только первой итерацией, однако его точность достаточно велика. При необходимости можно вычислить следующее приближение, аппроксимировав
гиперповерхность
гиперплоскостью вида (7.4.32) с заменой на
, т. е. фактически вычислить уточненное значение оценки
помощью выражения
где
определяется формулой (7.4.34), а
и продолжить итерационный процесс далее.
Из-за ограничения множества допустимых значении
оценка максимального правдоподобия
получается смещенной. Величина смещения тем больше, чем ближе истинное значение
к границе множества
и достигает максимальных величин для значений
, лежащих на границе этого множества. Однако полный средний квадрат ошибки оценивания не больше, чем при отсутствии ограничений. Для значений
и лежащих достаточно далеко от границы, корреляции
матрица ошибок оценивания практически совпадает с корреляционной матрицей ошибок при отсутствии ограничений, а для значении
, близких к границе множества
меньше ее. Для значений
, лежащих на границе, величина среднего квадрата ошибки оценивания одной из компонент параметра
или линейной комбинации компонент вида
где а — вектор, совпадающий по направлению с нормалью к границе множества
в точке, соответствующей истинному значению
может быть в два раза меньше величины среднего квадрагг ошибки для регулярной эффективной оценки.
В целом оценки максимального правдоподобия при наличии ограничений на допустимое множество значений
асимптотически лучше эффективных оценок при отсутствии ограничений, однако для непрерывного множества
их «суперэффективность» невелика и проявляется только для значений
, близких к границе допустимого множества
Рассмотрим теперь случай, когда множество
имеет
меру и состоит из отдельных изолированных точек
Тогда оценка максимального правдоподобия
имеет особенно прочую структуру:
т. е. совпадает с тем дискретным значением
, для которого функция правдоподобия максимальна.
Фактически этот случай может быть проинтерпретирован как задача проверки многоальтернативной гипотезы о том, какому из дискретных значений
, соответствует совокупность наблюдаемых данных х, по сейчас нам удобнее говорить именно о задаче оценки параметра
с ограниченным набором дискретных точек множеством допустимых значений.
В условиях существования (при отсутствии ограничений) регулярной асимптотически эффективной оценки максимального правдоподобия
правило (7.4.37) нахождения может бить преобразовано к эквивалентному виду