13. «хи квадрат»-критерии и критерии отношения правдоподобия

Сила и слабость -критерия предыдущего раздела связаны с тем, что его асимптотическая мощность зависит только от взвешенной суммы квадратов отклонений (72), а не от знаков этих отклонений или их распределения между различными значениями Этим создается преимущество, если ничего не известно об альтернативах. Тогда критерий одинаково надежен при всех альтернативах, равно удаленных от гипотезы в смысле метрики (72). Однако часто бывают известны ожидаемые типы отклонений. В этих случаях критерий можно видоизменить так, чтобы его асимптотическая мощность при интересующих нас альтернативах возросла.

Для вывода видоизмененного критерия допустим, что задан ограниченный класс альтернатив к

где поверхность имеет параметрическое представление

Пусть

Будем считать, что действительны, частные производные существуют и непрерывны в точке и что якобиан матрицы имеет в точке ранг Если любая последовательность, для которой

то предельное распределение случайных величин введенных в предыдущем параграфе, является нормальным со средними значениями

и матрицей ковариаций (69). Это устанавливается разложением в ряд в окрестности точки и применением (70). Проблема проверки гипотезы при всех последовательностях альтернатив из удовлетворяющих (73), оказывается асимптотически эквивалентной задаче проверки гипотезы

в семействе (70) при альтернативах где линейное пространство, образованное совокупностью всех точек с координатами

Заметим для последующих целей, что при любом фиксированном совокупность точек

с удовлетворяющими (75), образует плоскость касательную к в точке . Эта плоскость будет обозначаться

Пусть значения, минимизирующие при условиях

Тогда, в силу (63), асимптотически РНМ инвариантный критерий отклоняет (т. е. действует в пользу К) при

т. е. при

где минимизируют при условии Константа С определяется из (64) с Критерий, асимптотически эквивалентный этому (вычисление его, как правило, более трудно), получается, если определять из условия минимальности при (а не прире). Асимптотическое выражение для мощности критерия получается из (65). При этом находится с помощью замены на (отметим, что рассматриваются как функции от

Пример 13. Допустим, что в примере 12, где проверяется гипотеза равномерности, альтернативой выдвигается циклическое изменение, которое, по крайней мере приближенно, представляется «синусоидальной волной»:

Здесь амплитуды и фаза циклического возмущения. Полагая мы получаем

где

Уравнение для определяет в этом случае плоскость которая, следовательно, совпадает с

Величины минимизирующие условии равны

Пусть Используя тот факт, что и что

мы, после некоторых упрощений, можем придать критерию форму

где число степеней свободы левой части равно Параметр нецентральности, через который приближенно выражается мощность, равен

Обсуждавшиеся до сих пор варианты критерия предназначались для простых гипотез. Рассмотрим теперь более общую проблему проверки гипотезы при альтернативах где а , где имеют параметрические представления

Базисом для анализа проблемы при больших объемах выборки служиттот факт, что при больших можно указать сферу радиуса которая при достаточно больших накрывает истинное значение с вероятностью, сколь угодно близкой к единице. Поэтому можно ограничиться последовательностями точек которые стремятся к некоторой фиксированной точке со скоростью Более точно, пусть и пусть последовательность, удовлетворяющая (73). Тогда случайные величины имеют нормальное предельное распределение с матрицей ковариаций (69) и с вектором средних (74). Пусть имеет тот же смысл, что и раньше, а пусть обозначает линейное пространство

Рассмотрим задачу проверки гипотезы о том, что последовательность из , для которой удовлетворяют (73), причем альтернативами являются все последовательности из удовлетворяющие этому же условию. Эта задача асимптотически эквивалентна задаче, обсуждавшейся в начале раздела 12, а именно задаче проверки гипотезы в семействе (70), если дано, что В силу (63) соответствующая критическая область имеет вид

где минимизируют при условиях, что и что лежит в или в соответственно. В терминах первоначальных величин критическая область имеет вид

Здесь минимизируют

при условии, что лежит в касательных плоскостях к поверхностям и соответственно, проведенных через . Константа С определяется из (64).

Это решение задачи зависит от точки , которая нам неизвестна. Критерий, асимптотически эквивалентный (77) и не зависящий от , получается, если заменить значениями минимизирующими (78) при условии, что лежит на или на а не на их касательных плоскостях, и, кроме того, заменить в (77) и (78) подходящими оценками, например Это приводит к критической области

где минимизируют

при условиях соответственно и где С, как и раньше, определяется формулой (64). Приближенное выражение для мощности критерия при фиксированных и альтернативе дается формулой (65) с определяемым по (79) с заменой на (и где рассматриваются как функции от

Для случая больших выборок более общий подход, не связанный в отличие от метода с полиномиальным распределением, опирается на метод наибольшего правдоподобия. Укажем кратко на основные положения этой теории. Перечисляя основные факты, мы опустим сложно формулируемые условия регулярности, при которых они справедливы.

Пусть некоторое семейство одномерных плотностей вероятности. Рассмотрим на основе большой выборки задачу проверки простой гипотезы Пусть - оценка максимального правдоподобия для , т. е. значение параметрического вектора, максимизирующее Тогда асимптотически, при можно ограничиться оценками так как они являются «асимптотически достаточными». Мощность критериев, о которых пойдет речь, стремится к единице при любой фиксированной альтернативе. Здесь, как и в случае -критерия, интерес представляют альтернативы для которых

Если то предельное распределение величин является многомерным нормальным распределением (62) с

и при гипотезе при альтернативах, удовлетворяющих (81).

В силу (63) РНМ инвариантный критерий в асимптотической модели отклоняет гипотезу, когда

При гипотезе левая часть имеет в пределе -распределение с степенями свободы. При альтернативах (81) предельным распределением является нецентральное -распределение с параметром нецентральности

Приближенное выражение для мощности при какой-либо специальной альтернативе дается, следовательно, формулой (65), где находится по (84), с заменой на .

Критерий (83) асимптотически эквивалентен критерию отношения правдоподобия, который отклоняет гипотезу при

Эту эквивалентность можно установить, разлагая в ряд около и используя тот факт, что при частные производные равны нулю. Применение закона больших чисел показывает, что величина отличается от левой части (83) членом, стремящимся к нулю по вероятности при Отсюда, в частности, следует, что обе статистики имеют одно и то же предельное распределение.

Распространение этого метода на сложные гипотезы аналогично распространению на этот же случай -критерия. Пусть при Если ограничиться последовательностями удовлетворяющими (81) при и произвольными то проблема асимптотически превращается в задачу проверки гипотезы при неограниченной альтернативе причем распределения определяются формулой из (82). Тогда при всех в то время как для для Поэтому РНМ инвариантный критерий имеет вид (83). Коэффициенты зависят от но, заменяя на приходим к асимптотически эквивалентному критерию. И снова статистика асимптотически эквивалентна взятому со знаком минус удвоенному логарифму отношения правдоподобия, т. е. критерий асимптотически эквивалентен критерию отношения правдоподобия.

14. Задачи

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

15. Литературные ссылки

Настоящая глава служит кратким введением в каждую из трех тем, которые в совокупности охватывают подавляющую часть современных статистических методов: дисперсионный анализ, многомерный анализ, теорию -критериев.

Разработка дисперсионного анализа была начата главным образом Р. А. Фишером, значительная часть результатов приведена в его книгах (1925, 1935). Исчерпывающим образом дисперсионный анализ изложен в книгах Кемпторна (1952) и Шеффе (1959). Обзор некоторых аспектов метода имеется в статьях Шеффе (1956) и Кокрена (1957).

(см. скан)

(см. скан)

(см. скан)

(см. скан)