4.3. СВЯЗЬ МЕЖДУ КОЭФФИЦИЕНТАМИ КОРРЕЛЯЦИИ, РЕГРЕССИИ И ДЕТЕРМИНАЦИИ

Далее мы покажем, какими соотношениями связаны между собой коэффициенты корреляции, регрессии и детерминации при простой линейной регрессии. При этом ограничимся важнейшими из них. С помощью этих соотношений по известным уже коэффициентам можно определить другие, не обращаясь снова к исходным данным.

В разделах 3.2 и 2.4 были выведены формулы

Подстав в (3.8), получим

Извлечем корень квадратный из (4.11) и с учетом (4.3) получим

Таким образом, коэффициент корреляции равен корню квадратному из коэффициента детерминации. Отсюда

Коэффициент регрессии уравнения регрессии х на у по аналогии с формулой (2.27) можно выразить следующим образом:

Тогда формулу (4.11) можно записать в виде

Учитывая (4.13), получим

Итак, коэффициент корреляции равен корню квадратному из произведения двух сопряженных коэффициентов регрессии. Отсюда снова очевидно, что т. е. коэффициент корреляции является симметричной функцией относительно

Умножим числитель и знаменатель правой части формулы (2.27) на

Учитывая (4.12), получим

Аналогично если мы умножим числитель и знаменатель правой части формулы (4.14) на то получим равенство

Таким образом, если коэффициент корреляции уже вычислен, то с помощью стандартных отклонений можно легко определить требуемый коэффициент регрессии.

Из (4.18) и (4.19) легко вывести следующие соотношения:

или

В соответствии с этим если известен один из коэффициентов регрессии, то можно по нему определить коэффициент корреляции и наоборот.

Теперь перейдем к графической иллюстрации коэффициента корреляции который можно рассматривать как меру угла наклона линии регрессии. Для этой цели воспользуемся уравнением (2.25), переписав его в таком виде:

Подставив в (4.21) вместо его выражение (4.17), получим

Разделим это равенство на

Введем стандартизованные переменные х и у, которые являются результатами преобразования переменных х и у (см. (2.65) из раздела

2.7). Это позволит записать формулу (4.23) следующим образом:

Соответственно при регрессии х на у получим

и

Итак, формулы (4.24) и (4.25) представляют собой аналитические выражения двух сопряженных регрессионных прямых для стандартизованных переменных. Коэффициент парной корреляции определяет наклон этих прямых к осям координат, а именно линии регрессии у на х, к оси а линии регрессии х на у к оси у. Отсюда следует, что парный коэффициент корреляции равен коэффициенту регрессии при стандартизованных переменных.

Рис. 18. Стандартизованные регрессионные прямые

Как показано на рис. 18, стандартизация переменных графически означает перенос начала координат в точку с координатами х, у. Вследствие этого получаем систему координат с осями х и у. Обозначим через угол, образованный обеими линиями регрессии. Углы наклона регрессионных прямых гухх и гуху соответственно к осям обозначим через а. Учитывая, что получим

Если или то т. е. обе прямые регрессии сливаются в одну. В данном случае мы располагаем линейной функциональной связью. При и угол т. е. две прямые оказываются взаимно перпендикулярными. Это означает отсутствие линейной связи. Во всех остальных случаях сопряженные прямые регрессии образуют угол между 0° и 90°. Чем меньше этот угол, тем сильнее линейная связь.

Теперь покажем, какие соотношения существуют между коэффициентом коэффициентом частной регрессии и коэффициентом парной корреляции. Этими соотношениями нам придется воспользоваться

в следующих разделах. Обсудим эти соотношения для трех переменных

В качестве исходных возьмем равенства (2.53) и (2.54) из раздела 2.7. Разделим обе части их на Учитывая определения дисперсии и ковариации, получим

Подставим в (4.27) соответствующие выражения ковариаций и дисперсий из (4.3):

Как упоминалось выше, Кроме того, всегда поскольку в этом случае речь идет о корреляции переменной самой с собой. Из системы равенств (4.28) получаем

Учитывая (2.67) из раздела 2.7, можем записать выражения для следующих коэффициентов

Сопоставляя формулы получим

После деления обеих частей уравнения регрессии (2.43) на запишем с помощью (4.33) и (4.34) следующее выражение:

Исходя из можно рассматривать как коэффициенты уравнения регрессии для переменных, пронормированных по стандартным отклонениям. Коэффициенты как уже упоминалось, сами по себе являются стандартизованными коэффициентами регрессии. Если мы введем выражения коэффициентов из (4.33) и (4.34) в равенства (4.28), то после деления обеих частей этих равенств на и соответствующих сокращений получим:

В зависимости от того, какие из величин нам известны, мы можем, решая систему этих уравнений, найти либо коэффициенты либо коэффициенты корреляции.

Из равенств (4.31), (4.32) и (4.36) можно увидеть, что если Итак, при отсутствии взаимозависимости между переменными коэффициенты V равны соответствующим коэффициентам корреляции.

Соотношения (4.36) для трех переменных можно легко обобщить на большее число переменных, используя матричную форму записи. Введем следующие векторы и матрицу:

— вектор стандартизованных коэффициентов регрессии; — матрица коэффициентов корреляции между объясняющими переменными, причем — вектор коэффициентов корреляции между зависимой и объясняющими переменными. С помощью (4.37) теперь можно обобщить (4,36):

откуда