12.2.3. ОДНА ОБЪЯСНЯЮЩАЯ ПЕРЕМЕННАЯ

Модель:

независимы, каждое имеет нормальное распределение.

Среднее и дисперсия оценки

Доказательство: как следует из раздела 12.1.1,

Как следует из раздела 12.2.1,

Теорема Гаусса—Маркова. Оценка метода наименьших квадратов имеет минимальную дисперсию в классе всех линейных несмещенных оценок параметра [ср. с разделом 8.2].

Доказательство. Пусть — какая-либо оценка параметра у. Она линейна по у, причем

В силу ее несмещенности отсюда следует, что Далее,

что является следствием неравенства Коши—Шварца [см. IV, раздел 21.2.4]. Замечаем, что неравенство превращается в равенство при , т. е. в случае оценки наименьших квадратов.

Нормальность . Поскольку оценка линейна по у, она имеет нормальное распределение с математическим ожиданием и дисперсией, представленными выше (это свойство оценки используется при построении доверительного интервала для параметра

Пример. Пусть

Поскольку 95%-ным доверительным интервалом для будет [см. пример 4.2.1]. Подогнанные значения у. Имеем следующие результаты:

Доказательство. По определению поэтому Для доказательства теперь достаточно воспользоваться результатами, приведенными выше.

Пример. Для того чтобы найти дисперсию расчетного значения при положим Тогда

Отклонения. Имеем Доказательство. Как следует из приведенных выше формул,

Отсюда разность между левой и правой частями равна:

Поэтому

Для окончательного доказательства необходимо воспользоваться приведенными формулами для ковариаций скалярных произведений. Пример. Дисперсия отклонения при равна:

Нормальность подогнанных значений и отклонений. Поскольку являются линейными функциями вектора у, координаты которого нормально распределены, расчетные значения и отклонения также имеют нормальное распределение. Более того, поскольку последние не коррелируют, расчетные значения и отклонения независимы.

Пример. Для того чтобы проверить, что значение слишком велико для рассматриваемой линейной модели, вычислим и проверим, принадлежит ли это значение интервалу .

Дисперсионный анализ. Каждое слагаемое в разложении суммы квадратов имеет нецентральное распределение со скалярным множителем

Поскольку независимы при любых также независимы (доказательство опускаем).

Математическое ожидание нецентральной переменной равно числу степеней свободы плюс удвоенный параметр нецентральности, [см. раздел 2.8.1], поэтому Отсюда несмещенной

оценкой для будет

Пример. Допустим

Тогда

Таблица дисперсионного анализа будет иметь вид:

Поскольку 5%-ной точкой распределения является можно утверждать, что уменьшение суммы квадратов, обусловленное х, значимо.