Перепараметризация

Ситуации, в которых модель содержит больше параметров, чем это необходимо для представления данных, вообще говоря, проявляются в структуре корреляционной матрицы оцениваемых коэффициентов, составленной на основе линеаризованной модели. Эта матрица получается из матрицы если поделить каждый ее элемент, содержащийся в строке и столбце, на

В результате такой нормализации на главной диагонали окажутся единицы, а недиагональные элементы будут равны коэффициентам корреляции оценок параметров. Если некоторые из этих коэффициентов близки по абсолютному значению к единице, то это указывает на то, что модель содержит слишком много параметров или, более точно, что в этом случае репараметризованная модель, содержащая меньшее число параметров, может работать столь же хорошо, как и исходная. При этом не обязательно исходная модель будет неподходящей для исследуемой физической ситуации. Просто получено указание на то, что имеющиеся в наличии экспериментальные данные могут быть неадекватны задаче оценивания всех параметров, содержащихся в модели. (Так, например, если для линейной модели установлено, что некоторый параметр не кажется отличным от нуля, то отсюда еще не следует неэффективность соответствующей предикторной переменной такой эффект может быть связан с тем, что в данном конкретном наборе данных эта предикторная переменная изменялась недостаточно, чтобы ее эффект был различимым. Подобная, но более сложная картина может возникать и в нелинейном случае.)

В случае перепараметризованных моделей контуры суммы квадратов зачастую сильно вытянуты в некоторых направлениях параметрического пространства, и в подобных ситуациях исследование размерности контуров суммы квадратов или их сечений может быть очень полезным.