3.9.2. Метод ортогональных проекций

Выражение (3.59) можно получить конструктивным образом, используя теорию, приведенную в Для того чтобы сделать это, мы сначала "удалим" с.

Пусть произвольное решение уравнения Тогда

или Таким образом, имеем модель в которой поскольку матрица X имеет полный ранг, выполняется равенство Тогда, полагая и из получаем где

есть -матрица ранга (см. упр. 5 ниже). Поэтому в силу

Отсюда вытекает, что

так как Опуская в обеих частях (3.67) составляющие и умножая оба получающихся при этом выражения на приходим к выражению (3.59) для Это значение очевидным образом дает минимум, поскольку

Преимущество указанного подхода состоит в том, что его легко приспособить к случаю, когда матрица X имеет ранг Поскольку мы в состоянии оценивать только оцениваемые функции, то предположим, что оцениваемая функция где есть строка матрицы А, т. е. что (разд. 3.8.2) и где матрица имеет размер Поскольку А — матрица размера ранга должно выполняться соотношение и так как то Рассуждая, как и в (3.66), опять приводим модель к виду где и Поэтому

где — матрица размера ранга упр. 4 ниже). И опять, используя получаем

Наконец, используя те же доводы, которые привели к (3.67), приходим к уравнению

так что любое решение имеет вид

где

Упражнения 3k

(см. скан)