11.8. Обновление регрессии

Если данные поступают последовательно, то может оказаться нежелательным или даже невозможным откладывать проведение регрессионного анализа до поступления всех данных. Для таких случаев нам нужен алгоритм, с помощью которого можно было бы непосредственно добавлять дополнительные строк, скажем к матрице уже после того, как она приведена

посредством ортогонального преобразования использующего преобразования Хаусхольдера или Гивенса. Записывая соотношение

мы можем, применяя преобразований Хаусхольдера порядка к первым строкам правой части (11.52), получить [Golub, Styan (1973)]

где

есть ортогональная матрица, произведение этих преобра зований. Новдя оценка для обновленной модели является решением уравнения а новый остаток (ср. с (11.20)

в разд: 11.2.4) равен

где — матрица, образованная последними столбцами матрицы Новая остаточная сумма квадратов равна

так что "старую" остаточную сумму квадратов обновить довольно легко.

Если для обновления используются преобразования Гивенса, то в этом случае надо рассмотреть соотношение

Каждую из строк матрицы путем ее преобразования в парах с первой, второй, строками матрицы можно обратить в нулевую. Иначе говоря, найдется такая ортогональная -матрица для которой

Матрица здесь та же самая, что и при применении преобразований Хаусхольдера, поскольку разложение Холецкого определено однозначно. И опять мы имеем

и

Однако заметим, что, хотя (ср. с (11.53) и (11.54)), отсюда вовсе не следует, Программу добавления одной строки на языке АЛГОЛ приводит Chambers (1971).

Если вектор приведен к виду ( — см. разд. 11.2.4 с), то дополнительные вращения вектора, образованного этим и тем, что осталось от каждого элемента вектора обращают последний в нуль и приводят к новому корню из остаточной суммы квадратов: Последние строк данных теперь обращены в нуль, и их можно отбросить.

Если ранг матрицы X меньше для добавления дополнительных строк можно приспособить метод Хаусхольдера из разд. 11.5.3. При этом надо просто пройти тем же путем, которым мы только что прошли. Если ввести, как и в разд. 11.5.4, идентифицирующие ограничения, то можно использовать метод Гивенса.

Обновляющие процедуры имеются и для метода разложения по сингулярным значениям из разд. 11.5.5. По этому вопросу читатель может обратиться к Biisinger (1970). Влияние обновления на остатки изучали Beckman, Trussell (1974).

Иногда возникает потребность в удалении некоторой строки данных из матрицы Например, могут появиться более точные наблюдения или какое-нибудь из наблюдений представляется сомнительным. Тогда мы можем просто обратить преобразования Гивенса, которые использовались бы при добавлении строки. Chambers (1971) приводит соответствующую программу на АЛГОЛе. Того же эффекта можно достичь путем добавления некоторой строки, умноженной на . В действительности никаких операций с комплексными числами при этом не производится, поскольку такое добавление сводится просто к использованию веса —1 [Golub (1969, с. 378—380), Gentleman (1974а)]. Другие методы, предложенные Голабом, упомянуты в работе Chambers (1971, с. 746) и, в частности, в Golub, Styan (1973, с. 264). Однако надо отметить, что любой метод удаления строки является потенциально неустойчивым и поэтому должен использоваться с осторожностью [Gentleman (1973)].