Глава II. МЕТОДЫ ВЫЧИСЛЕНИЙ, ИСПОЛЬЗУЕМЫЕ В РЕГРЕССИОННОМ АНАЛИЗЕ
11.1. Введение
Пусть задана модель регрессии
в которой матрица X имеет размер
Мы рассмотрим сейчас алгоритмы для выполнения следующих этапов процесса подбора:
(1) Решение нормальных уравнений
(2) Вычисление
(3) Вычисление остатка
(4) Вычисление остаточной суммы квадратов
При этом будут даны алгоритмы и для случая неполного ранга матрицы
Затем мы рассмотрим следующие процедуры:
(5) Обновление матрицы данных (т. е. добавление или отбрасывание строки матрицы X).
(6) Добавление или отбрасывание регрессора (т. е. добавление или отбрасывание столбца матрицы X).
(7) Вычисление
-статистики для общей линейной гипотезы. В следующем параграфе рассмотрены только первые четыре этапа. Для сокращения записи положим
(последнее обозначение мы вводим для того, чтобы избежать использования обозначения
для первого элемента вектора
. Тогда нормальные уравнения записываются в виде
Если матрица X имеет ранг
то матрица В не вырождена (и в действительности положительно определена), и уравнение (11.1) имеет единственное решение
т.е.
Ниже описано несколько более общих алгоритмов отыскания этого решения. Все они заключаются в приведении системы нормальных уравнений к треугольному виду, при котором система может быть решена с большой точностью [Wilkinson (1965, 1967)]. Эти алгоритмы сравниваются между собой в § 11.4,