Несмещенность оценки это равенство среднего по совокупности выборок размера значения оценки истинному значению оцениваемого параметра при любом значении
Следовательно, смещение оценки
Если лишь при неограниченном увеличении то такая оценка называется асимптотически несмещенной, т.е.
Оценки, которые можно получить из выборок размером называются достаточными оценками (или достаточными статистиками). Используя достаточные статистики, в число которых входит и отношение правдоподобия можно упростить процедуры оценки параметров или сократить процесс накопления входной информации для получения оценок.
Эффективность оценки обеспечивается, если среднее значение квадрата отклонения оценки от истинного значения оцениваемого параметра не больше, чем для любой другой оценки:
Рассмотрим неравенство Крамера - Рао. Пусть несмещенная оценка параметра т.е.
или
Дифференцируя это выражение по 0, получаем
Так как
В соответствии с соотношением можно представить следовательно,
Применительно к последнему выражению, используя неравенство Буняковского - Коши - Шварца:
получаем
после чего переходим к неравенству
Таким образом, дисперсия несмещенной оценки
Нижний предел дисперсии, получаемый при условии
называется дисперсией наиболее эффективной оценки (НЭО). Если существует НЭО, то она совпадает с ОМП.
Оценка максимального правдоподобия асимптотически оптимальна, так как она состоятельна, асимптотически не смещена и асимптотически наиболее эффективна.
Асимптотическая наибольшая эффективность - это стремление в пределе (при дисперсии оценки к нижнему пределу неравенства Крамера - Рао: