8.6.2. Оценки величин возмущений для решений центрированной и соответствующей ей нормальной системы уравнений.

Пусть некоторая система линейных уравнений, матрица А которой имеет размерность q х k (k не обязательно равно q), — вектор размерности k, правая часть С — вектор размерности

Как показано в [39], решение такой системы, получаемое на ЭВМ, на самом деле совпадает с решением некоторой возмущенной системы уравнений

Введем относительную величину возмущения решения :

Величина возмущения как функция возмущений зависит от двух характеристик системы уравнений:

1) числа обусловленности матрицы системы [39]

где — соответственно наибольшее и наименьшее (ненулевое) сингулярные числа матрицы А. Если матрица А имеет ранг , то у нее имеется ненулевых сингулярных чисел и ргаах Для сингулярных чисел матрицы соответствующей нормальной системы уравнений имеют место равенства [39]

поэтому

2) величины относительной несогласованности системы

Для согласованной системы уравнений . Рассмотрим теперь для определенности центрированную систему уравнений . Тогда верно следующее утверждение.

Утверждение. Квадрат величины относительной несогласованности для центрированной системы уравнений

Соответствующая нормальная система уравнений всегда согласована, поэтому .

Используя результаты [39, п. 37; 257], запишем теперь следующие оценки сверху для относительных погрешностей решений центрированной системы (8.60") и нормальной системы (8.60"):

где — машинная ошибка округления [136, п. 2.2].

Когда система плохо обусловлена, величина к велика, и основную часть погрешности определяют слагаемые с множителем .

Из приведенных неравенств можно видеть, что с точки зрения влияния квадрата числа обусловленности на верхнюю границу погрешности решения решать систему (8.60) выгоднее, если система неопределенная а в случае переопределенной системы полного ранга (), только если выполняется неравенство , т. е. если коэффициент множественной корреляции между у и X достаточно велик. Для нецентрированной системы получается аналогичный результат.

Сравнивая два способа решения систем (8.60) (непосредственно с матрицей X и с переходом к системе нормальных уравнений), можно сделать вывод, что несогласованные системы (8.60), как правило, лучше решать, используя переход к нормальной системе уравнений. В статистической практике несогласованные системы возникают, когда матрица данных X переопределена, т. е. число объектов (столбцов) в ней больше числа переменных (строк), и при этом линейные уравнения, входящие в систему (8.60), не могут выполняться точно. Но превышение числа объектов над числом переменных — типичная ситуация в регрессионном анализе. Второе условие несогласованности также часто выполняется, так как обычно системы линейных уравнений используются для оценки параметров линейных моделей типа (8.1), являющихся лишь приближением действительных соотношений между переменными (мерой этого приближения как раз и является дисперсия случайной компоненты . Для обоснования перехода к нормальной системе уравнений существенно и то, что матрица ХХ тесно связана с ковариационной матрицей, которая является исходным объектом для различных видов многомерного анализа (главных компонент, факторного анализа и т. д.).