6. Регрессия

Как уже отмечалось в примере 2, гипотезы о специальных значениях коэффициентов регрессии когда независимые нормально распределенные величины с общей дисперсией и средними

являются частными случаями общей линейной гипотезы. Гипотезы обсуждались в разделе 6 главы 5, где было показано, что для них существуют РНМ несмещенные критерии. Мы рассмотрим теперь гипотезы и гипотезу с новой точки зрения. В соответствии с общей теорией раздела 1, соответствующие критерии будут РНМ инвариантными относительно надлежащих групп линейных преобразований. Для первых двух гипотез, для которых на этом пути получается, если учесть рассуждения раздела 6 главы 6, новое доказательство того, что рассматриваемые критерии — РНМ несмещенные.

Пространство - одно и то же для всех трех гипотез. Оно натянуто на векторы и потому имеет размерность за исключением случая, когда все равны друг другу. Этот случай мы не будем рассматривать. Оценки для по методу наименьших квадратов при получаются минимизацией При любом фиксированном минимум достигается при таком а сумма квадратов сводится к Минимизируя последнее выражение относительно мы находим

кроме того, сумма квадратов в знаменателе для всех трех гипотез равна

Числитель статистики, по которой строится критерий, равен при проверке гипотез равен при проверке гипотезы

При гипотезе как показано в примере 3, статистика равна

Так как при этом

то гипотеза эквивалентна гипотезе

Для которой критическая область (17) имеет вид или

Как было показано ранее, при гипотезе равно

Так как при этом то гипотеза эквивалентна гипотезе

следовательно, критическая область определяется неравенством

В примере 3 было указано, что при гипотезе

так что числитель в формуле (7) равен

Более общая гипотеза эквивалентна гипотезе где Поэтому критическая область может быть представлена в виде

Соответствующие доверительные множества для получаются обращением этих неравенств и заменой на Получающиеся множества имеют вид эллипсов с центром в .

Простую модель регрессии (32) можно обобщать во многих направлениях; например, средние могут быть полиномами от степени выше первой (см. задачу 18) или более сложными функциями, скажем, тригонометрическими многочленами, или функциями нескольких переменных, например Некоторые дальнейшие обобщения будут теперь проиллюстрированы несколькими примерами.

Пример 6. Несколько проблем возникает при наличии более чем одной линии регрессии. Допустим, что случайные величины независимы и распределены нормально с общей дисперсией и средними

Гипотеза о том, что эти линии регрессии имеют один и тот же наклон

может встретиться, например, при проверке равенства нескольких скоростей роста. Пространство параметров Па имеет размерность если предположить, что ни одна из сумм не обращается в нуль. Число ограничений, налагаемых гипотезой, равно Минимальное значение в получается минимизацией при каждом сумм

При гипотезе следует минимизировать сумму что при любом фиксированном приводит к значению и сумму квадратов превращает в Минимизируя последнее выражение по находим

Так как

и

то критическая область (15) равна

где левая часть при гипотезе имеет -распределение с степенями свободы. Так как

то параметр нецентральности указанного распределения при альтернативных значениях равен где . В частном случае, когда не зависят от принимает вид

Пример 7. Модель регрессии (37) возникает при сравнении нескольких способов обработки при условии, что экспериментальные единицы считаются постоянными, а соответствующие эффекты (определенные в разделе 10 главы 5) — пропорциональными известным константам Здесь может измерять степень плодородия и участка почвы или вес животного До эксперимента. В этой обстановке часто можно принять, что множитель пропорциональности не зависит от способа обработки. Тогда (37) сводится к

а гипотеза об отсутствии эффекта обработки принимает вид

Пространство совпадает с пространством предыдущего примера, так что и

Минимизация суммы Дает

где Сумма квадратов в числителе (см. (15)) равна

Следовательно, гипотеза отвергается при

где при гипотезе левая часть имеет -распределение с степенями свободы.

Гипотеза может быть проверена и без того, чтобы значения считать известными. В этом случае она становится гипотезой об отсутствии эффекта в одинарной классификации, рассмотренной в разделе 3, и соответствующий критерий дается формулой (18). Действительно, поскольку в этом случае индивидуальные эффекты предполагаются постоянными (но неизвестными), то способы обработки приписываются экспериментальным единицам или совершенно случайно, или случайно внутри подгрупп. Соответствующий критерий является рандомизированным; критерий (18) служит приближением к нему.

Пример 7 иллюстрирует важный класс ситуаций, в которых дисперсионный анализ (в нашем случае касающийся одинарной классификации) комбинируется с проблемой регрессии (в нашем случае — линейная регрессия на единственную «сопутствующую переменную» Обе части проблемы могут, конечно, оказаться более сложными, чем это было в примере. В общем случае такой комбинированной проблемы можно проверить гипотезы о величине эффектов, подобно тому как это сделано выше. Аналогичный анализ можно провести для коэффициентов регрессии. Разбиение полной изменчивости на компоненты, соответствующие различным способам обработки и различным коэффициентам регрессии, является предметом так называемого анализа ковариаций.