Пред.
След.
Макеты страниц
Распознанный текст, спецсимволы и формулы могут содержать ошибки, поэтому с корректным вариантом рекомендуем ознакомиться на отсканированных изображениях учебника выше Также, советуем воспользоваться поиском по сайту, мы уверены, что вы сможете найти больше информации по нужной Вам тематике 8.6. Методы статистического оценивания неизвестных параметровВ предыдущем параграфе рассмотрены различные варианты использования функций от исходных наблюдений описанные выше доверительные интервалы и области для неизвестных значений параметров? Описанию основных приемов, позволяющих получать ответы на данные вопросы, и посвящен настоящий параграф. 8.6.1. Метод максимального (наибольшего) правдоподобия.В соответствии с этим методом оценка
где L — функция правдоподобия, определенная соотношением (8.5). Таким образом, в формальной записи оценка максимального правдоподобия
Естественность подобного подхода к определению статистических оценок вытекает из смысла функции правдоподобия. Действительно, по определению (см. § 8.2), функция платы
Рис. 8.2. Графики нормальной функции плотности при двух значениях параметра а На рис. 8.2 изображены графики функции плотности Отмеченная естественность подхода, исходящего из максимальной правдоподобности имеющихся наблюдений, подкрепляется хорошими свойствами оценок, получаемых с его помощью. Можно показать, в частности, что при достаточно широких условиях регулярности, накладываемых на изучаемый закон распределения
Однако из этого не следует, что оценки максимального правдоподобия будут наилучшими во всех сйтуациях. Во-первых, их хорошие свойства проявляются часто лишь при очень больших объемах выборок (т. е. являются асимптотическими, см. § 8.4), так что при малых Попытаемся ответить на вопрос, как конкретно находятся оценки максимального правдоподобия, т. е. как проводится решение оптимизационной задачи типа (8.19). Если функция во внутренней точке области допустимых значений неизвестного параметра
в силу монотонного характера этой зависимости: последняя удобнее для вычислений. Значит, в данном случае оценка максимального правдоподобия
и может определяться в качестве решения этой системы уравнений. Однако могут быть ситуации (случай нерегулярных по 0 законов распределения), когда система (8.21) не определена или не имеет решений, в то время как решение (8.19) существует. В подобных ситуациях оценку Пример 8.3. Исследуемая случайная величина
с неизвестным средним значением В соответствии с (8.5) функция правдоподобия в этом случае будет
Соответствующая логарифмическая функция правдоподобия
Дифференцируя
Решение этой системы относительно а и
Выше (см. § 8.3) установлено, что оценка Пример 8.4. Исследуемая случайная величина
с неизвестным значением параметра К. В соответствии с (8.20) логарифмическая функция правдоподобия, построенная по выборке
Отсюда после дифференцирования по X получаем уравнение метода максимального правдоподобия
откуда
Легко видеть, что эта оценка несмещенная, так как
Вычислим эффективность оценки
Дисперсию оценки
Сравнивая Пример 8.5. Исследуемая случайная величина
где параметры а и b неизвестны (подлежат оцениванию). Легко проверить, что это — случай нерегулярный (в первую очередь потому, что область возможных значений исследуемого признака, в которой плотность положительна, зависит от оцениваемых по выборке параметров а и b). Поэтому обычная техника, использующая уравнения (8.21) метода максимального правдоподобия, здесь неприменима. Однако в этом случае экстремальная задача (8.19) может быть решена непосредственно. Действительно,
причем область допустимых значений параметров a и b, где производится поиск тех значений
где
дается соотношениями:
Опираясь на результаты п. 5.6.4 (см. также п. 8.6.4), можно подсчитать:
Использовать неравенство информации для вычисления нижней границы дисперсии этих оценок мы не можем, так как случай нерегулярный. Из (8.22) видно, что величины
от истинных значений параметров а и b. Пример 8.6. Снова рассмотрим задачу оценивания параметра сдвига
Как и в предыдущем примере, имеем дело с нерегулярным случаем. Поэтому приходится непосредственно решать экстремальную задачу вида
Легко видеть, что
и, следовательно,
Опираясь на результаты п. 5.6.4 (см. также п. 8.6.4), можно подсчитать:
Однако оценка
Пример 8.7 (заимствован из [22, с. 187]). Рассмотрим ситуацию, когда метод максимального правдоподобия не приводит к состоятельной оценке. С целью оценки
Неизвестными параметрами являются
Решая теперь уравнение максимального правдоподобия (8.21), в которое вместо
Нетрудно подсчитать, что
8.6.2. Метод моментов. Пусть, как и прежде, Метод моментов заключается в приравнивании определенного количества выборочных моментов к соответствующим теоретическим (т. е. вычисленным с использованием функции
(очевидно, если анализируемая случайная величина Число уравнений в системе (8.25) должно быть равным числу k оцениваемых параметров. Вопрос о том, какие именно моменты включать в систему (8.25) (начальные, центральные или их некоторые модификации типа коэффициентов асимметрии или эксцесса), следует решать, руководствуясь конкретными целями исследования и сравнительной простотой формы зависимости альтернативных теоретических характеристик от оцениваемых параметров В статистической практике дело редко доходит даже до моментов четвертого порядка (исключение составляет, пожалуй, практика эксплуатации так называемой «системы кривых Пирсона», см., например, [16, с. 101], однако этот чисто формальный аппарат подгонки эмпирического распределения под одну из теоретических кривых практически не в состоянии, с нашей точки зрения, решать сколь-нибудь интересные задачи содержательного статистического анализа данных). К достоинствам метода моментов следует отнести его сравнительно простую вычислительную реализацию, а также то, что оценки, полученные в качестве решений системы (8.25), являются функциями от выборочных моментов. Это упрощает исследование статистических свойств оценок метода моментов: можно показать (см. [48, гл. 27 и В то же время, как показал Р. Фишер (см. [48]), асимптотическая эффективность оценок, полученных методом моментов, оказывается, как правило, меньше единицы, и в этом отношении они уступают оценкам, полученным методом максимального правдоподобия. Тем не менее метод моментов часто очень удобен на практике. Иногда оценки, получаемые с помощью метода моментов, принимаются в качестве первого приближения, по которому можно определять другими методами оценки более высокой эффективности. Вернемся к нашим примерам. В примере 8.3 в качестве системы (8.25) имеем:
что дает уже знакомые нам по методу максимального правдоподобия оценки для параметров:
Нормальное распределение, так же как и распределение Пуассона (в чем легко убедиться, обратившись к примеру 8.4), относится к тем редким случаям, когда оценки по методу моментов совпадают с оценками по методу максимального правдоподобия. Построение системы (8.25) в примере 8.5 дает:
Откуда легко получаем оценки:
Можно сравнить асимптотическую эффективность оценок, полученных методом максимального правдоподобия и методом моментов: учитывая, что дисперсия оценок (8.26) как дисперсия функций выборочных моментов тех же параметров имеют порядок Реализация метода моментов в примере 8.6 дает
Следовательно, Для подсчета среднего значения и дисперсии оценки
Учитывая выражение (8.24) для среднего квадрата ошибки «подправленной» оценки по методу максимального правдоподобия
т. е. и в этом случае асимптотическая эффективность оценки по методу моментов стремится к нулю.
|
1 |
Оглавление
|