11.1.7. ФУНКЦИЯ ПРАВДОПОДОБИЯ ДЛЯ ЭКСПОНЕНЦИАЛЬНОГО СЕМЕЙСТВА

Метод максимального правдоподобия обеспечивает статистиков весьма общей и адекватной теорией статистического вывода. В частности, на его основе может быть построена методология для оценивания параметров (подгонка модели) [см. гл. 6] и проверки гипотез (выбор модели) [см. гл. 5]. Этот подход основан на анализе

правдоподобия (или логарифма правдоподобия [см. раздел 6.2.1]), связанного с одним наблюдением. Когда мы имеем дело только с оценкой параметра в, а не в случае экспоненциального семейства (11.1.3) функция правдоподобия в рассматривается как функция только одного параметра:

хотя ее значение обычно зависит также и от Проблемы оценивания, связанные с наличием параметра будут обсуждаться отдельно.

Основной интерес для статистики заключается в том, чтобы знать, в какой степени действуют объясняющие переменные посредством функции на зависимую переменную Поведение функции правдоподобия в зависимости от изменения линейного предиктора может быть сформулировано в виде следующего важного результата:

и

Аналитические выражения для производной и кривизны функции правдоподобия имеют простой вид в терминах величин и производной Функция правдоподобия для полной выборки с помощью этих выражений обычно обладает свойством единственности решения уравнений правдоподобия [см. пример 6.2.6], а так как кривизна всегда отрицательна, то это решение будет максимумом [см. раздел 6.2.2]. Поскольку приведенные результаты верны для всех плотностей из экспоненциального семейства, это позволяет применять один и тот же вычислительный алгоритм для решения соответствующих уравнений правдоподобия.

Докажем эти результаты в предположении, что выполняются два классических свойства функции правдоподобия:

[см. (6.2.10)

Дифференцирование лог-линейной функции (11.1.4) дает

Используя первое свойство, получаем Второе свойство дает , следовательно,

Правило дифференцирования сложных функций позволяет получить равенства

Подставляя сюда выражения для получаем результат (11.1.5), т. е. выражение для Результат (11.1.6) может быть получен из равенства или с помощью повторного применения правила дифференцирования сложной функции: