§ 4. Алгоритмы восстановления функции в классе сплайнов
Рассмотрим теперь алгоритм 12-2 упорядоченной минимизации риска в классе сплайнов. Для этого зададим следующую структуру на множестве кусочно-полиномиальных зависимостей. К классу отнесем константы, к все полиномы степени единица, к полиномы степени два, к четвертому классу отнесем полиномы степени три (назовем их кубическими сплайнами с нулем сопряжений).
Начиная с пятого класса, рассматриваются кусочнополиномиальные функции. В пятый класс попадают сплайны с одним сопряжением, в с двумя и т. д.
Емкость множества функций, образованного сплайнами с сопряжениями, равна
Таким образом, проблема состоит в том, чтобы выбрать элемент структуры для которого достигается минимум по функционала
Особенность задачи восстановления регрессии в классе кусочно-полиномиальных зависимостей заключается в том, что каждый раз при переходе к классу сплайнов с большим числом сопряжений используется своя фундаментальная система (а не добавляется еще одна функция, как это было при восстановлении регрессии в классе полиномов).
Строго говоря, это приводит к тому, что элемент структуры не содержит Однако последнее обстоятельство не является здесь принципиальным.
При восстановлении нехарактеристической функциональной зависимости целесообразно провести селекцию обучающей последовательности, т. е. исключить такое количество векторов чтобы функционал
достиг наиболее глубокого минимума. Функция, на которой (12.16) достигает минимума, принимается за решение задачи минимизации среднего риска означает, что суммируется лишь членов).
Отыскание точного минимума функционала (12.16) требует большого перебора вариантов. Поэтому рационально здесь применить метод последовательного уменьшения функционала. Сначала найти вектор, исключение которого из обучающей последовательности минимизирует функционал для Если эта величина окажется меньше минимальной величины функционала (12.16) при (для всей обучающей выборки), то соответствующий вектор исключается и делается попытка аналогично исключить еще один вектор, т. е. минимизировать (12.16) при
Если же никакое исключение одного вектора не приводит к уменьшению функционала, то исключение векторов прекращается