Приложение 2Б. МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ ДОПОЛНИТЕЛЬНОЙ СУММЫ КВАДРАТОВ
Запишем уравнения для модели 1 и для модели 2:
где
Заметим, что столбцы
-матрицы
которая является матрицей остатков при построении регрессии
от
ортогональны к столбцам
Если мы обозначим произведение матриц
что представляет собой матрицу смещения, то мы можем выразить матрицу
в виде
Используя этот результат, можно записать модель 1 так:
где мы просто добавили и вычли вектор
и произвели
перегруппировку членов. Полагая
можно переписать модель 1:
где обе части модели «взаимно ортогональны», поскольку
Пусть
есть МНК-оценки параметров
модели 1. Тогда сумма квадратов, обусловленная регрессией, для модели 1, соответствующая величине
равна:
В силу ортогональности столбцов матриц
внедиагональные члены в матрице, подлежащей обращению, равны нулевым матрицам. Поэтому достаточно обратить лишь диагональные матрицы порознь и можно получить
где
, очевидно, есть сумма квадратов, обусловленная регрессией, для модели 2, а матрица
непосредственно вытекает из приведенных выкладок. Мы можем, таким образом, записать «дополнительную сумму квадратов для
при наличии
Для того чтобы получить математическое ожидание этой суммы, применим общую формулу
где
. В нашем случае
так что
Вспомним, что
Запишем далее:
След произведения матриц можно преобразовать, используя известную формулу
Обозначив
и
получим
В итоге имеем
Отсюда следует, что при соблюдении нуль-гипотезы,