§ 8. Алгоритмы восстановления регрессии в классе кусочно-линейных функций

Алгоритмы восстановления кусочно-линейных функций, рассматриваемые в этом параграфе, построены по той же схеме, по которой реализованы алгоритмы построения кусочно-линейных решающих правил (см. § 8 гл. XI).

Определяется таксонная структура обучающей последовательности элемент которой задает разделение обучающей выборки на подмножеств. В соответствии с полученным разбиением выборки на таксоны исходное пространство X делится на подпространств по правилу: вектор х относится к области

если из чисел

число наименьшее. Величина есть расстояние от точки х до множества

Для каждой области строится своя линейная функция, минимизирующая эмпирический риск. Таким образом, в соответствии элементу таксонной структуры ставится кусочно-линейная функция.

С помощью алгоритма 12-7 определяется такая кусочнолинейная функция (т. е. такой элемент таксонной структуры множества обучающей последовательности), для которой достигает минимума функционал

Реализуется алгоритм 12-7 по схеме:

1. С помощью алгоритма таксономии, описанного в § 8 гл. XI, задается таксонная структура множества X обучающей последовательности.

2. Перебором по элементам таксонной структуры строятся кусочно-линейные функции, состоящие из одного, двух, трех и т. д. кусков плоскостей.

3. Выбирается такая кусочно-линейная функция, для которой оценка (12.35) минимальная.

Алгоритм 12-7 может быть усилен за счет селекции векторов обучающей последовательности. В этом случае минимизируется функционал