Глава 6. МЕТОД МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ
6.1. ВВЕДЕНИЕ
Как было подчеркнуто в предыдущих главах [см., например, гл. 1 и 3], основная идея статистического анализа состоит в том, чтобы рассматривать имеющиеся данные как реализации случайных переменных. Существуют методы, для которых нет необходимости делать какие-либо предположения относительно исходных распределений случайных переменных [см. гл. 14]. Однако большинство статистических методов не является «свободным от распределения» и, как правило, основано на использовании определенных параметрических семейств распределений. В простейших ситуациях семейство распределений может быть указано на основе самой процедуры выборки; в общем же случае его приходится выбирать в определенной степени произвольно среди существующих параметрических семейств распределений, которые кажутся совместимыми с имеющимися данными.
Примером «простейшей ситуации» служит выборочное обследование, где выборка фиксированного объема извлекается из конечной совокупности объектов с некоторым неизвестным параметром в, скажем, долей «бракованных» объектов. С определенной осторожностью в процессе выбора можно утверждать, что распределение вероятностей числа бракованных объектов в выборке будет принадлежать семейству гипергеометрических распределений [см. II, раздел 5.3]. При этом функция распределения вероятностей (ф.р.) зависит от неизвестного параметра в. Наша задача заключается в том, чтобы по имеющейся выборке построить удовлетворительное приближение для истинного значения в (соответствующее приближенное значение называется оценкой в), а также определить степень точности этого приближения.
Пример другого рода — задача измерения ежегодного потока воды в реке, проходящего через некоторую измерительную станцию. Эта величина неотрицательна и, как правило, положительно скошена [см. II, раздел 9.10] с неопределенной верхней границей. В качестве одного из возможных распределений измеряемого потока воды можно взять двухпараметрическое семейство гамма-распределений [см. II, раздел 11.3] или семейство логнормальных распределений. И в том и в другом
случае есть два параметра, значения которых неизвестны и их следует оценить на основании выборки (серии ежегодных наблюдений за ряд лет). Для подобных задач необходима процедура, с помощью которой можно было бы проверить, адекватно ли выбранное семейство распределений с оцененными параметрами имеющейся выборке [см. гл. 7].
Задачу нахождения удовлетворительной статистики для неизвестного параметра иногда называют точечным оцениванием, а задачу описания точности такого оценивания — доверительным оцениванием. Эти названия нельзя считать в достаточной мере удовлетворительными. Они, скорее, несут на себе печать статистического жаргона. В данной главе рассматривается один из наиболее известных методов точечного оценивания — метод максимального правдоподобия. На его основе не только определяется оценка неизвестных параметров, но и вычисляется соответствующая степень точности этой оценки.
В разделе 6.2.1 вводится понятие функции правдоподобия, в разделе 6.2.2 объясняется суть метода максимального правдоподобия, основанного на максимизации функции правдоподобия, а в разделе 6.2.3 приводятся соображения в пользу этого метода. Свойства оценки максимального правдоподобия и соответствующие процедуры описаны в разделе 6.2.5. В разделах 6.3 и 6.4 рассматриваются некоторые примеры. В конце этой главы проводится анализ двух нетривиальных проблем: раздел 6.5 посвящен линейной регрессии, а раздел 6.6 — определению кривой «доза — эффект».
