16.5.2. КАНОНИЧЕСКИЕ КОРРЕЛЯЦИИ СОВОКУПНОСТИ

Рассмотрим линейную комбинацию компонент X и комбинацию компонент задаваемые как

и

Тогда и имеют нулевое математическое ожидание, дисперсии и ковариации

Коэффициент корреляции между и следовательно, есть

Это приводит к задаче максимизации (минимизации) безразмерной величины [см. II, раздел 9.8.2]. Так как значение инвариантно к выбору шкал для измерения и без ограничения общности можно считать, что выбраны так, чтобы дисперсии и были единичны.

Задача теперь сводится к нахождению стационарного значения

при ограничениях на

С помощью множителей Лагранжа мы должны найти безусловное стационарное значение для

Это ведет к решению уравнений

Умножая с обеих сторон (16.5.1) на а, а (16.5.2) на после преобразования получаем

и

Ограничивая на

где влекут равенство Эта величина есть стационарное значение .

Из (16.5.1) с учетом несингулярности имеем

Подставляя это выражение для а в (16.5.2), получим

Итак,

Ненулевое решение для (16.5.4) существует, если и только если матрица слева сингулярна [см. I, раздел 5.9], т. е. если

или, что эквивалентно, если — собственное число матрицы Наибольшее из ее собственных чисел есть максимальное значение ассоциированный с этим числом собственный вектор. Соответствующий вектор а получается из (16.5.3).

Альтернативный метод решения этой проблемы состоит в подстановке выражения для и решении получающегося для определения вектора а аналога уравнения (16.5.4).

В работе [Anderson (1958), с. 292—295] показано, что нет ничего удивительного в том, что второй метод дает решение, идентичное первому. Заметим, что в обоих случаях получаемые матрицы имеют ранг (равный рангу для ) и, следовательно, имеют ненулевых собственных значений.

Канонические переменные, полученные выше, называются первыми каноническими переменными Их коэффициент корреляции равен (по абсолютному значению). Соответствующими коэффициентами являются .

Вторая пара канонических переменных

выбирается из условия максимума абсолютного значения их коэффициента корреляции с учетом условия единичности дисперсий и условия ортогональности

т. е.

Векторы соответствующие стационарному значению получают при нахождении стационарного значения для

где — множители Лагранжа. С учетом условий ортогональности после взятия производных от С по можно показать, что . А учет ограничения на дисперсию влечет Второе наибольшее значение есть второе по величине собственное число матрицы есть ассоциированный собственный вектор. Вектор может быть тогда получен из уравнения, аналогичного (16.5.3).

Такая процедура может быть продолжена, чтобы найти остальные канонических переменных и ассоциированных с ними квадратов корреляций [см. Anderson (1958), с. 291]. Собственные числа должны быть строго различны, чтобы получилось пар канонических переменных.

Зависимость между X и будет в результате суммаризована с помощью корреляций между парами канонических величин вместо ковариаций в (и, строго говоря, ковариаций в и ).

Как и в предыдущем разделе, процедуру можно проводить с помощью корреляционных матриц [см. определение 16.1.1] и кросс-корреляционной матрицы [см. определение 16.1.2]. Это приведет к тем же каноническим корреляциям, что и раньше, но коэффициенты канонических переменных будут отличаться.