§ 6. Наилучшие линейные оценки
Итак, среди линейных несмещенных оценок оценки метода наименьших квадратов лучшие независимо от того, каков закон распределения помехи.
В следующих параграфах мы рассмотрим более широкий класс оценок — линейные оценки, и найдем в них наилучшие. Эти оценки будут отличаться от оценок метода наименьших квадратов при наличии нетривиальной априорной информации об оцениваемых параметрах. В тех же случаях, когда нетривиальной априорной информации нет, наилучшей линейной оценкой остается оценка метода наименьших квадратов.
Пусть в схеме Гаусса — Маркова оцениваются параметры регрессии
по эмпирическим данным 
Пусть 
дважды ортогональный базис
Рассмотрим класс линейных оценок:
где
Введем систему ортогональных векторов:
у которой первые 
векторов есть
Представим теперь вектор 
в разложении по (5.51):
Тогда равенство (5.50) перепишется в виде
Выразим величину уклонения 
через параметры 
Для этого воспользуемся тождеством
Первое слагаемое правой части равно
Второе слагаемое равно
Таким образом,
Наилучшей линейной оценкой является такая оценка, которая минимизирует (5.55).
