7.4. ФУНКЦИЯ ПРЕДСТАВИТЕЛЬСТВА

Найдем функцию определенную на со значениями в такую, что для всякого разбиения

Для каждого подпространства и каждого подмножества из известно, что (теорема Гюйгенса для объясненных инерций 181)

где - центр тяжести множества А. Отсюда выводим, что для каждого подпространства V

где центр тяжести класса

Как уже отмечалось, величина в правой части равенства есть внутриклассовая инерция разбиения объясняемая Таким образом,

Предложение 1. Сгущение центров тяжести классов снабженных весами (где число элементов в классе и сгущение объектов, снабженных равными весами имеют один и тот же центр тяжести.

Доказательство. Пусть центр тяжести сгущения :

Имеем

откуда

Предложение 2. Для каждого подпространства сумма внутриклассовой и межклассовой инерции (linertie interclasse) разбиения объясняемых равна инерции сгущения объясняемой

Доказательство. По определению:

Согласно имеет вид

где

Следовательно,

Поскольку последнее слагаемое равно нулю. Предложение доказано.

Предложение 3. Для каждого подпространства размерности инерция постоянна и равна

Доказательство. Пусть -ортонормированный базис в Имеем с учетом (2):

Из соотношения (3) и предложений 2 и 3 получим:

7.4.1. Поиск ...

Речь идет о задаче анализа главных компонент [21. Разыскивается подпространство размерности которое доставляет максимум инерции сгущения объясняемой этим подпространством. Подпространство, порожденное векторами определенными ниже,

является решением этой задачи оптимизации. Пусть собственные векторы, соответствующие наибольшим собственным значениям матрицы где матрица межклассовой инерции разбиения т. е. матрица инерции сгущения определенная следующим образом:

Точнее, пусть наибольших собственных значений матрицы Собственное значение к кратности рассматривается как набор собственных чисел

Если простое собственное значение, то определяется как

где обозначает вектор канонического базиса в и где наименьший индекс такой, что не -ортогонален к собственному подпространству соответствующему

Если —кратное собственное значение кратности где , то определяются следующим образом.

Пусть наименьший индекс такой, что не -ортогонален к собственному подпространству соответствующему k.

Обозначим через -ортогональную проекцию вектора на подпространство и возьмем в качестве вектор Далее, для определим векторы по индукции. Пусть подпространство, порожденное векторами -ортогональное дополнение подпространства Пусть наименьший индекс такой, что не -ортогонален к Тогда обозначим через -ортогональную проекцию вектора на подпространство и возьмем в качестве вектор

7.4.2. Вывод: функция представительства

Пусть Положим где центр тяжести класса определены в 7.4.6. Имеем

Замечание 1. В программе информатики приходится диагонализовать симметричную матрицу порядка вообще говоря, всегда меньше порядка матрицы

Замечание 2. первых дискриминантных факторов разбиения Они реализуют:

последовательные минимумы (при условии -ортогональности) отношений внутриклассовой дисперсии к полной дисперсии фактора

последовательные максимумы (при условии -ортогональности) отношений межклассовой дисперсии к полной дисперсии фактора