11.3.2. Ограничения

11.3.2.1. Ограничения на дисперсию и меры близости

Пусть объект представлен вектором компонентами которого являются соответствующих наблюдений. Рассмотрим многочлен и вектор составленный из его значений на носителе

Введение метрики в пространстве для которой расстояние между элементами из равно:

и определение коэффициентов С, минимизирующих это расстояние эквивалентны требованию, чтобы объект удовлетворял условиям:

Заметим, что меры близости (1), (2) и (4) могут быть интерпретированы следующим образом:

где

Замечание 1. Ограничения на дисперсию были наложены для того, чтобы выполнялись соотношения

Замечание 2. Многочлен, минимизирующий (7), является регрессией.

Замечание 3. Если то в

11.3.2.2. Центр тяжести класса

Определение. Центр тяжести класса обозначаемый определяется как -мерный вектор с компонентами

Обозначим через суммарную массу элементов класса которых измерен параметр, т. е.

Тогда

Положим

Замечание. является центром тяжести в обычном смысле, если рассматривать класс как сгущение точек с весами

Поскольку если пропущенное наблюдение, то определение согласуется с предположением

11.3.2.3. Базис интерполяционных многочленов

Выбор базиса. Конечно, в качестве базиса в пространстве многочленов степени не выше можно взять одночлены но мы будем руководствоваться желанием упростить вычисления,

особенно операцию обращения матрицы, и поэтому изберем базис, состоящий из ортогональных многочленов. Заметим, что для каждого класса возникает своя проблема обращения следовательно, необходимо строить свой базис интерполяционных многочленов ортогональных в метрике что делается относительно несложно одновременно с вычислением вектора оценок

Каждому базису из многочленов можно поставить в соответствие матрицу размером содержащую значения этих многочленов на носителе Пусть матрица размером вводит метрику

Для простоты будем далее опускать индекс не забывая о том, что речь идет о некотором фиксированном классе. Элементы матрицы имеют вид

поскольку Это можно записать в виде откуда, в силу ортогональности базисных многочленов в метрике видно, что матрица диагональная. Кроме того, и поскольку диагональна, то при т. е. коэффициенты некоррелированы.

Построение базиса из ортогональных многочленов на носителе (см. [3]).

Напоминание. На множестве многочленов, которые можно рассматривать как элементы пространства вводится скалярное умножение

индуцированное евклидовой метрикой, ассоциированной с классом Или если многочлены представить в виде векторов соответствующих значений на носителе то эти векторы будут элементами и можно записать:

В векторном пространстве многочленов степени не выше будем искать базис такой, что многочлен

степени Очевидно, что Положим

Мы можем доказать следующее предложение.

Предложение 1.

1) многочлен который может быть выражен через соотношением

ортогонален всем многочленам где если

2) - базис пространства многочленов степени не выше .

3) В этом базисе оценки коэффициентов регрессионного многочлена имеют вид:

Многочленом степени минимизирующим дисперсию, будет

Замечание. Если требуется построить многочлен степени то не надо заново строить базис и коэффициенты достаточно положить

Это равенство используется, когда проверка показывает, что степень регрессионного многочлена неудовлетворительна. Оно позволяет повысить степень, не повторяя всех вычислений.