11.1.7. ФУНКЦИЯ ПРАВДОПОДОБИЯ ДЛЯ ЭКСПОНЕНЦИАЛЬНОГО СЕМЕЙСТВА
Метод максимального правдоподобия обеспечивает статистиков весьма общей и адекватной теорией статистического вывода. В частности, на его основе может быть построена методология для оценивания параметров (подгонка модели) [см. гл. 6] и проверки гипотез (выбор модели) [см. гл. 5]. Этот подход основан на анализе
правдоподобия (или логарифма правдоподобия [см. раздел 6.2.1]), связанного с одним наблюдением. Когда мы имеем дело только с оценкой параметра в, а не
в случае экспоненциального семейства (11.1.3) функция правдоподобия в рассматривается как функция только одного параметра:
хотя ее значение обычно зависит также и от
Проблемы оценивания, связанные с наличием параметра
будут обсуждаться отдельно.
Основной интерес для статистики заключается в том, чтобы знать, в какой степени действуют объясняющие переменные посредством функции
на зависимую переменную
Поведение функции правдоподобия в зависимости от изменения линейного предиктора может быть сформулировано в виде следующего важного результата:
и
Аналитические выражения для производной и кривизны функции правдоподобия имеют простой вид в терминах величин
и производной
Функция правдоподобия для полной выборки с помощью этих выражений обычно обладает свойством единственности решения уравнений правдоподобия [см. пример 6.2.6], а так как кривизна всегда отрицательна, то это решение будет максимумом [см. раздел 6.2.2]. Поскольку приведенные результаты верны для всех плотностей из экспоненциального семейства, это позволяет применять один и тот же вычислительный алгоритм для решения соответствующих уравнений правдоподобия.
Докажем эти результаты в предположении, что выполняются два классических свойства функции правдоподобия:
[см. (6.2.10)
Дифференцирование лог-линейной функции (11.1.4) дает
Используя первое свойство, получаем
Второе свойство дает
, следовательно,
Правило дифференцирования сложных функций позволяет получить равенства
Подставляя сюда выражения для
получаем результат (11.1.5), т. е. выражение для
Результат (11.1.6) может быть получен из равенства
или с помощью повторного применения правила дифференцирования сложной функции: