§ 3. Оценка «скользящий контроль» в задаче восстановления регрессии

Покажем, что для восстановления регрессии в классе линейных по параметру функций

оценка «скользящий контроль» допускает следующее эквивалентное представление:

где обозначено

строка матрицы -мерный вектор-столбец значений у

Выражение в числителе (8.14) есть оценка вектора параметров а, полученная методом наименьших квадратов по всей обучающей последовательности. Числитель в (8.14) определяет квадрат уклонения в точке а знаменатель определяет ту мультипликативную поправку, которая возникает, если оценку параметров а получать не по всей обучающей выборке, а по выборке, из которой исключена пара

Представление (8.14) замечательно тем, что в нем используется лишь одно обращение матрицы, а не как в общей процедуре, описанной в предыдущем параграфе. Это обстоятельство делает процедуру «скользящий контроль» в вычислительном отношении не более сложной, чем вычисление невязки в методе наименьших квадратов.

Ниже при построении алгоритмов восстановления зависимостей мы будем искать решение, доставляющее не только безусловный минимум (8.11), но и условный минимум при ограничении на решение

Отыскание такого условного минимума — задача, эквивалентная поиску минимума функционала

где у — положительная константа, зависящая от с (множитель Лагранжа).

Оценку качества решения минимизирующего функционал (8.15), будем проводить также с помощью процедуры «скользящий контроль».

Найдем решения минимизирующие функционал (8.15), заданный на паре (пара исключена, у фиксировано), и образуем величину

Величина и будет оценкой качества функции минимизирующей функционал (8.15).

Эквивалентное представление (8.16) мы получим с помощью матрицы

А именно,

При выражение (8.18) совпадает с (8.14).

Получим представление оценки «скользящий контроль» (8.16) в виде (8.18). Обозначим

матрица, все строки которой, кроме равны нулю. В строке матрицы записан вектор

Тогда минимум (8.15) на обучающей последовательности без достигается на векторе

Выразим матрицу В через Для этого перепишем (8.19) в виде

В свою очередь из равенства (8.21) получим

Умножим левую и правую части равенства (8.22) на

Из (8.23) получаем

Подставим выражение в (8.22):

Вычислим теперь Согласно (8.24) имеем

Вычислим квадрат уклонения, используя равенство

Получим

Таким образом, окончательно получаем