ПРИЛОЖЕНИЕ 6А. КАНОНИЧЕСКАЯ ФОРМА ГРЕБНЕВОЙ РЕГРЕССИИ

<< Предыдущий параграф

Следующий параграф >>

<< Предыдущий параграф

Следующий параграф >>

Пред.

След.

Вернуться к книге

Макеты страниц

Распознанный текст, спецсимволы и формулы могут содержать ошибки, поэтому с корректным вариантом рекомендуем ознакомиться на отсканированных изображениях учебника выше

Также, советуем воспользоваться поиском по сайту, мы уверены, что вы сможете найти больше информации по нужной Вам тематике

ПРИЛОЖЕНИЕ 6А. КАНОНИЧЕСКАЯ ФОРМА ГРЕБНЕВОЙ РЕГРЕССИИ

Для получения канонической формы гребневой регрессии надо произвести поворот -осей и совместить их с новыми осями, которые параллельны главным осям контуров поверхности суммы квадратов отклонений (см. рис. к упражнению 6.1). Пусть есть собственные числа матрицы и пусть

представляет собой -матрицу, -столбцы которой есть собственные векторы матрицы Это означает, что числа , и векторы удовлетворяют соотношениям

Чтобы получить эти векторы, решим полиномиальное уравнение

Значения являются его корнями. (В реальных практических задачах все корни, как правило, различны. Если они не таковы, что иногда бывает при планировании эксперимента, а также и в других случаях, то это означает, что определенные сечения поверхности суммы квадратов получились круговыми или сферическими, и не надо никак поворачивать соответствующие оси, поскольку они уже имеют нужное направление. Теперь подставим Я? снова в уравнения и выберем соответствующие решения чтобы они были

нормализованными так: При этом выполняются следующие соотношения:

где есть диагональная матрица, содержащая числа на главной диагонали, тогда как остальные ее элементы равны нулю. Введем и следующим образом:

так что

Тогда

и, поскольку в силу имеем

Гребневый оцениватель выражается, таким образом, формулой

Рис. 6А.1. Контуры поверхности суммы квадратов отклонений для (Заметим, что центр системы координатных осей смещен в точку соответствующую МНК-оценкам параметров.) Исходные оси изображены пунктиром, а новые — сплошными линиями

Умножая левую и правую части на и учитывая, что найдем

Если мы представим теперь компонент вектора в виде

и обратим диагональную матрицу то получим выражение для элементов вектора , т. е.

Это соотношение представляет собой каноническую форму гребневой регрессии. Однако на графиках гребневого следа обычно

изображается зависимость или На основании можно записать

и далее

Каноническая форма гребневой регрессии часто встречается в работах, посвященных этому типу регрессий. Она удобна в вычислительном отношении, когда отыскивается гребневый след.

Остаточная сумма квадратов

Она может быть записана в виде

где

есть минимальное значение, достигаемое МНК-оценивателем при Возможный способ выбора значения для основан на том, что разность приравнивается к некоторому априори выбранному числу или выражению. Можно, например, приравнять эту разность к величине . Это оправдано, поскольку есть математическое ожидание разности где используется истинная величина у вместо . Это означает, что 0 выбирается таким образом, чтобы квадрат расстояния, выражаемый величиной имел значение, которое мы «ожидаем». (Таким образом мы пытаемся «удержать» оценку примерно на том самом доверительном контуре, на который в среднем попадает истинная величина. Направление на котором будет лежать точка, соответствующая оценке, однако, может отличаться от направления, на котором лежит точка, соответствующая истинной величине.) Следуя изложенному способу, получим уравнение

которое, вероятно, можно решить относительно с помощью итераций, по аналогии с тем, как была реализована процедура (6.7.10), при условии, что достигается сходимость в соответствии с неравенством типа (6.7.11). Подстановка в правую часть уравнения, дает значение 0 в результате первой итерации, которое может оказаться при некоторых обстоятельствах достаточно хорошим.