4.5. РЕЗЮМЕ

В этой главе обсуждено три аспекта теории статистических выводов, причем особое внимание уделялось задачам оценивания параметров. Эти три аспекта являются следующими: метод выборочных распределений, метод наименьших квадратов и метод правдоподобия. Четвертый метод — Байесовский подход был опущен, но он очень похож по виду на метод правдоподобия.

Эти три вида статистических выводов не являются разрозненными, а представляют собой результат постепенного исторического развития. Кроме того, ответы на практические задачи, полученные при использовании различных методов, не будут существенно отличаться, а во многих случаях вообще не будут отличаться. Например, метод выборочных распределений в качестве выборочного распределения среднего значения дает -распределение с степенью свободы, а метод правдоподобия дает то же самое распределение для маргинального правдоподобия. В методе выборочных распределений -распределение с степенью свободы представляет распределение возможных значений х около в повторных выборках, в то время как в методе правдоподобия оно представляет распределение вероятных значений около х.

Естественно, что исторически первым должен был появиться метод выборочных распределений, так как он требовал лишь непосредственного применения существовавшей теории вероятностей к задачам статистических выводов. Например, выборочное

распределение некоторой оценки является распределением вероятностей, дающим относительную частоту появления значений оценки в повторных выборках объема По плотности вероятности этой оценки можно сосчитать область, покрывающую истинные значения параметров с вероятностью . Заменяя оценки на выборочные оценки, полученные по данной выборке, мы получим доверительную область для параметров.

Теория наименьших квадратов также развивалась в рамках метода выборочных распределений. Так, оценки наименьших квадратов обладают тем свойством, что они минимизируют среднеквадратичную ошибку, или, что эквивалентно, минимизируют ожидаемый объем доверительной области для параметров.

Метод правдоподобия, хотя он часто и дает ответы, аналогичные тем, которые получаются из метода выборочных распределений, имеет совершенно иную отправную точку. В то время как выборочное распределение описывает все возможные значения наблюдений при данных значениях параметров, функция правдоподобия описывает все возможные значения параметров при данных значениях наблюдений.

Метод правдоподобия дает возможность по-новому интерпретировать теорию наименьших квадратов. Например, функция правдоподобия является по существу поверхностью суммы квадратов если ошибки нормальны и независимы. Так как эта сумма является квадратичной формой от 0,, то функцию правдоподобия можно просто описать с помощью выборочных оценок наименьших квадратов и вторых производных Эти производные можно интерпретировать как ковариации оценок в методе выборочных распределений или как меры рассеяния функции правдоподобия в методе правдоподобия. Наиболее важной стороной метода правдоподобия является построение функции правдоподобия в таких переменных, для которых имеется примерно одинаковая информация относительно всех параметров. Тогда информация, заключенная в функции правдоподобия, по существу содержится в ее выборочной оценке среднего правдоподобия и в вероятной области.

Существуют как различия, так и общие стороны у этих методов. Метод правдоподобия совершенно справедливо фокусирует внимание на множестве доступных наблюдений, а не на других множествах наблюдений, которые могли бы получиться. В некоторых случаях метод правдоподобия приводит к более разумным ответам, чем метод выборочных распределений. В разд. 4.4.5 приводился пример, где было показано, что сведения о распределении ошибок в независимых переменных не дают никакой информации для оценивания параметров в моделях наименьших квадратов. Другие примеры, когда метод выборочных распределений является

неудачным, получаются, если оценки, выбранные из-за того, что они хороши в среднем, явно абсурдны в применении к данной выборке. В таких случаях построение функции правдоподобия покажет, что данная конкретная выборка содержит мало информации. Как правило, функция правдоподобия никогда не обманывает.

ЛИТЕРАТУРА

(см. скан)