8.5.1. Оптимальное взвешивание вклада главных компонент.

Найдем теперь значения вкладов минимизирующие функционал (8.50). Для этого учтем, что функционал (8.50) представляет собой сумму квадратичных по слагаемых, каждое из которых является функцией только одного параметра а и не зависит от весовых коэффициентов в функционале качества.

Значения минимизирующие функцию потерь, будут определяться простыми выражениями

и не зависят от весовой матрицы W.

Минимальное значение величины ), соответствующее точке минимума будет равно:

в то время как для мнк-оценки

Оценка соответствующая оптимальному значению , обладает следующими свойствами:

1) средний квадрат отклонения любого коэффициента при z-й главной компоненте от истинного значения меньше, чем для мнк-оценки Действительно, в силу (8.49) каждый член суммы в (8.55) представляет собой средний квадрат отклонения коэффициента от истинного значения что меньше соответствующеи величины для мнк-оценки;

2) среднеквадратическое отклонение любого из параметров оценки (8.48) для переменных от истинного значения 0 меньше, чем у мнк-оценок для соответствующих параметров [192];

3) для применения выражения (8.54) важным является то, что в точке первая производная нормированной суммы квадратов отклонений по равна 0 (см. формулу (8.51)), и, следовательно, величина в окрестности точки меняется медленно. В то же время первая производная в окрестности точки положительна. Это позволяет надеяться, что можно подобрать такие значения что значение личины возрастет ненамного, а значение функционала при этом уменьшится достаточно заметно.

В заключение заметим, что многопараметрическая гребневая регрессия (8.53), основанная на определении значений параметров гребня , которые минимизируют функционал (8.49), полностью эквивалентна регрессии с оптимальными весами вкладов главных компонент.