11.2.2. ФУНКЦИЯ ПРАВДОПОДОБИЯ И ЕЕ МАКСИМУМ
Два простейших предположения относительно получения данных состоят в том, что, во-первых, каждый объект получается случайным выбором из некоторой генеральной совокупности и, во-вторых, при наблюдаемых значениях объясняющих переменных наблюдений зависимой переменной статистически независимы. Выборка, удовлетворяющая этим условиям, является репрезентативной для совокупности. Из соображений симметрии все объекты рассматриваются в процедуре вывода с одинаковыми весами. Эти два предположения о случайности выбора и независимости наблюдений обусловливают аддитивность функции логарифмического правдоподобия
где — лог-правдоподобие одного наблюдения из экспоненциального семейства, определенного в (11.1.4).
Дифференцируя по получаем
Определим вектор V X и диагональную матрицу Н следующим образом:
Поскольку
первую и вторую производные от можно записать в виде
и
где — обычное скалярное произведение. Эти уравнения следует отметить за их простоту и общность одновременно.
Значение доставляющее максимальное значение, является решением уравнения
для которого матрица размера с элементами отрицательно определена. Для решения этого уравнения может быть использован итеративный алгоритм взвешенного метода наименьших квадратов. Он обсуждается в разделе 12.3.5. Так как Н диагональна, решение будет точкой максимума, если все элементы Н отрицательны. Это обычная ситуация для линейных моделей с плотностями из экспоненциального семейства.
При наличии решений уравнений правдоподобия 0 вектор подогнанных значений может быть получен как
где
Пример. Биномиально-логистическая модель. Имеются данные о числе смертей в шести группах из пяти мышей. Мышам из одной группы была введена одинаковая доза препарата Массив данных:
Модель:
линейный предиктор:
функция связи:
так что
лог-правдоподобие:
уравнения правдоподобия:
Решение: (проверяется подстановкой). Подогнанные значения получаются из формулы
что дает .
В данном случае нет необходимости в рассмотрении гессиана полностью, чтобы проверить, является ли данное решение максимумом. Легко видеть, что
и, таким образом, элементы матрицы Н всегда отрицательны.