10.1.2. ОЦЕНИВАНИЕ. ФУНКЦИИ, ДОПУСКАЮЩИЕ ОЦЕНКУ

Если для вырожденной модели при мы попытаемся, как в разделах 8.1 и 8.2, минимизироватьформу то снова обнаружим, что МНК-оценке в для в удовлетворяют нормальные уравнения (8.2.2), а именно

Однако их решение теперь не удается представить в форме поскольку матрица не имеет обратной. Фактически эти уравнения вообще не имеют единственного решения, а дают бесконечное множество их.

На первый взгляд этот результат кажется обескураживающим. Метод, который дает множество различных оценок одного и того же, вряд ли может оказаться полезным. Однако правильная интерпретация покажет, что определенные компоненты вектора нецелесообразно оценивать количественно. Это можно легко заметить на примере однофакторного плана. Ожидаемый отклик для группы равен , как отмечалось ранее, он не изменится, если мы заменим а на на для произвольной константы а. Отсюда и возникает основа для неопределенности в модели (которая ведет и к соответствующей неопределенности в оценках параметров), обусловленная тем фактом, что в структуре модели больше параметров чем это абсолютно необходимо Вырожденность матрицы оказывается просто алгебраическим следствием этой особенности модели.

Тем не менее существуют вещи, которые можно оценивать, а именно некоторые линейные функции от Они известны как функции, допускающие оценку, и обладают следующими свойствами:

а) каждый элемент допускает оценку;

б) если задана) — функция, допускающая оценкут. е. единственная оценка метода наименьших квадратов, а именно которая не зависит от того, какое из решений системы нормальных уравнений использовать. Более того, эта оценка доставляет минимум дисперсии для несмещенного линейного оценивателя

в) максимальное число линейно независимых функций, допускающих оценку, равно следовательно, любые другие такие функции можно получить в виде линейных комбинаций исходных. Любые 5 линейно независимых функций, допускающих оценку, могут служить в качестве новых параметров в репараметризации модели, обладающей полным рангом.

Односторонняя классификация иллюстрирует эти моменты: это независимые функции, допускающие оценку, а их линейные комбинации есть ЛНОМД. Мы можем увидеть это уже в невырожденной формулировке задачи, когда .

Кроме того, из полученных выше результатов следует, что какое бы решение нормальных уравнений мы не использовали, все равно получатся одни и те же остатки , а значит, и одна и та же остаточная сумма квадратов (ОСК), т. е. г=ее. Более того, как и в случае полного ранга, мы можем получить

поскольку для получения этого результата достаточно воспользоваться нормальными уравнениями, а не непосредственно формулой Значит, мы получим еще и ту же самую сумму квадратов, обусловленную моделью (СКМ), т. е. какая бы оценка в ни использовалась, причем ее тоже можно выразить в виде как и в том случае, когда На самом деле эти значения и СКМ в точности такие же, как если бы мы репараметризовали модель в модель полного ранга вида , где , а [см. раздел 8.3.4].

Выходит, мы можем выбрать любое частное решение системы нормальных уравнений, а затем наложить ограничения, которым будет удовлетворять только одно из этих решений. В частности, будем требовать, чтобы 9 удовлетворяло независимым линейным ограничениям, или дополнительным условиям. Число таких условий должно быть равно числу избыточных параметров в нашей модели, т. е. Точнее, мы имеем:

где коэффициенты известны и выбраны так, чтобы матрица имела ранг, равный . Для матрицы эти условия соответствуют просто равенству Совершенно ясно, что такие ограничения приведут к неопределенности в модели, поскольку эти уравнения придется применить для элиминирования параметров из модели (при решении их относительно остальных), что и приводит при другом выборе параметров к модели полного ранга.

Теперь можно оценить , выбирая в так, чтобы минимизировать

При этом оказывается, что вектор в должен удовлетворять не только нормальным уравнениям, но и естественным требованиям, чтобы т. е. должен удовлетворять тем же условиям, что и вектор, выбранный для оценки.

В итоге мы оцениваем в по единственному решению В системы нормальных уравнений

которое удовлетворяет условию

Можно показать, что — это ЛНОМД для всех , удовлетворяющих условиям

Мы уже отмечали, что остаточную сумму квадратов можно вычислить из выражения

При обычных предположениях о распределении ошибок соответствующая случайная величина будет распределена как [см. раздел 2.5.4, а)], поскольку мы можем с помощью репараметризации получить модель которая будет невырожденной, с рангом и теми же остатками. Отсюда

и

Пример 10.1.1. Модель односторонней классификации в форме с «избыточными параметрами». Проиллюстрируем сказанное на примере односторонней классификации. В модели полного ранга (10.1.1) есть параметров, а в вырожденном варианте (10.1.2) используется параметров. В последнем случае получается, что а это значит, что одного линейного соотношения между параметрами достаточно для устранения избыточности. Вот условие, которое обычно выбирается в таком случае:

Его предпочитают отчасти из-за алгебраических удобств, а отчасти потому, что оно допускает простую интерпретацию в том контексте, в котором используется модель. Допустим, например, что сравниваются I антикоррозионных обработок, которым подвергаются изделий в группе, а у и обозначает наблюдение над изделием в группе, Тогда из (10.1.4) следует, что

гак что в модели параметр а можно интерпретировать как общее среднее для всех обработанных изделий, в то время как 6, будет средней вариацией относительно этого значения, обусловленной обработкой с номером Здесь параметр рассматривается как «эффект -й обработки». Более точно, это (средний) эффект обработки относительно остальных рассматриваемых обработок. «Фактический» эффект обработки по предположению относится к разности между ожидаемым откликом, когда используется обработка, и ожидаемым откликом, когда не используются никакие обработки. Если мы хотим оценить такой эффект, то нам надо иметь контрольную группу, не подвергаемую никаким обработкам. Положим, что это могла бы быть группа с номером 1. Тогда естественным дополнительным условием было бы так что оценка а стала бы ожидаемым откликом для случая, когда обработки не применялись. Модель при имеет полный ранг с независимыми параметрами, где представляет «фактический» эффект обработки .

Возвращаясь к модели с дополнительным условием замечаем, что это дополнительное условие можно было бы использовать для получения иных репараметризаций, чем

Например, записывая и применяя это соотношение для исключения из исходной модели, мы могли бы иметь:

(см. скан)

В этом случае матрица А имеет ранг I, и мы могли бы обратиться к теории из гл. 8, но тогда утратилась бы симметрия, и у нас не было бы простого параметра, представляющего эффект 7-й обработки. Поэтому мы работаем с моделью

Для этой модели матрица плана А приведена в (10.1.3), откуда

Теперь можно найти вектор МНК-оценок в решая уравнения

Более подробно: нормальные уравнения имеют вид

Используя ограничения, получим

Соответствующие оценки — это ЛНОМД для причем их дисперсии равны . К тому же они еще и некоррелированные Из этих результатов следует, что ЛНОМД для будет с дисперсией которую мы получили бы из модели полного ранга, параметризованной для Более того, остаточная сумма квадратов, равная:

снова та же, что и раньше. Используя соотношение , получим альтернативное выражение

соответствующая случайная величина распределена как , где а дисперсия ошибки оценивается из

Делая обычные предположения об ошибках, можно непосредственно получить доверительные интервалы для групповых средних. Так поскольку распределено как Стьюдента [см. раздел 2.5.5] с степенями свободы, центральный -ный доверительный интервал [см. раздел 4.5] равен