§ 9. Использование априорной информации

Итак, согласно теореме 5.6, знание априорной информации:

1) интервала которому принадлежит оцениваемый параметр

2) интервала которому принадлежит дисперсия помехи а, позволяют строить наилучшие линейные оценки. Согласно же теореме 5.7 функционал, определяющий качество наилучшей линейной оценки, раз меньше функционала для оценки, полученной методом наименьших квадратов.

Обычно получение априорной информации при решении практических задач в схеме Гаусса-Маркова не вызывает серьезных трудностей. Как правило, заранее известны интервалы, в которых лежат измеряемые значения у:

Сведения об этих интервалах отражают либо длительный опыт, либо знание законов природы. Например, при построении регрессии для прогноза температуры в заданном пункте Земли в 166-й день года заранее известно, что прогнозируемая величина лежит в заданных пределах Знание оценок (5.81) позволяет найти

интервалы оцениваемых параметров. Из равенства следует

Здесь в первую сумму включены положительные координаты вектора во вторую сумму отрицательные координаты. Аналогично находятся оценки

Для оценки интервала дисперсии также могут быть привлечены опыт и знание законов образования помех. Однако если полученный интервал дисперсии окажется слишком широким, может быть применен вероятностный подход, который заключается в том, чтобы выбирать интервал, который с большой вероятностью содержит истинное значение дисперсии.

Известно, что величина

является несмещенной оценкой дисперсии помехи. Воспользуемся неравенством Чебышева

откуда следует, что с вероятностью

Оценка (5.82) может быть уточнена, если известен характер распределения помехи.

По интервалу дисперсии и интервалу принадлежности параметра находятся параметры с помощью которых строятся оптимальные линейные оценки.

Заметим, что чем более неопределенна априорная информация (шире интервал принадлежности оценок), тем меньше величина и тем ближе наилучшая линейная оценка к оценке метода наименьших квадратов. Можно показать, что при тривиальной априорной информации наилучшая линейная оценка совпадает с оценкой метода наименьших квадратов.

Для завершения теории наилучшего линейного оценивания нам остается выяснить, насколько чувствительны к точности априорной информации методы линейного оценивания. Ответ на этот вопрос дает теорема 5.8.

Теорема 5.8 (Кощеев). Пусть наилучшая линейная оценка, вычисленная по приближенным значениям параметров в то время как истинные значения параметров равны Тогда качество полученной оценки будет равно

где

Заметим, что теорема 5.7 является частным случаем теоремы 5.8 при

Из равенства (5.83) следует, что если значение параметра связано с соотношением

то полученная с помощью оценка будет лучше оценки метода наименьших квадратов. Следовательно, вы бирать приходится, исходя из двух противоречивых соображений. Для того чтобы получить оценку не хуже оценки метода наименьших квадратов, необходимо занижать (чтобы выполнилось (5.85)). Однако при этом падает выигрыш, приближенно равный

Доказательство теоремы 5.8. Прежде всего вычислим значение критерия (5.55) на оценке

Оба соотношения теоремы подтверждаются элементарными выкладками

откуда следует

Вычислим

С другой стороны,

откуда следует

Теорема доказана

Итак, мы рассмотрели теорию оценивания параметров регрессии. В основе теории лежит факт экстремальности метода наименьших квадратов в некотором узком классе методов (в классе несмещенных методов оценивания в теории нормальной регрессии и в классе линейных несмещенных методов в общей теории регрессии).

Затем оказалось, что в классе смещенных методов оценивания можно строить оценки лучшие, чем те, которые следуют из метода наименьших квадратов.

Такие нелинейные смещенные методы оценивания были найдены для оценивания параметров нормальной регрессии и линейные смещенные методы в общей схеме восстановления регрессии.

Приведенные методы оценивания удается использовать для восстановления регрессии, если известна плотность а регрессия действительно является линейной по параметрам функцией.