6.4. Значения регрессоров, измеренные с ошибкой

6.4.1. Случайные ошибки

Пусть истинная модель регрессии имеет вид

т. е.

где Предположим, однако, что значения и измерены с несмещенными ошибками так что в действительности мы наблюдаем вместо значений и, значения т.е. где Мы будем предполагать, что ошибки некоррелированы и имеют одну и ту же дисперсионную матрицу, т. е.

Поскольку первые элементы каждого из векторов , равны единице, то первый элемент вектора , равен нулю, так что первая строка и первый столбец матрицы состоят из нулей. Мы будем также предполагать, что А не зависит от .

Обычная оценка наименьших квадратов вектора будет иметь теперь вид

а не так что она уже не будет несмещенной. Свойства оценки детально рассмотрели Hodges, Moore (1972) для обычного частного случая Используя более точную аппроксимацию, Davies, Hutton (1975) распространили эти результаты на случай произвольной матрицы обозначениях и

(а) Смещение

Поскольку не зависит от (и от то

где мы обозначили Если велико, то, как показали Davies, Hutton (1975, теорема 4.1),

(В действительности, если то является состоятельной оценкой для Поскольку

то, очевидно, оценкой для смещения будет

где - грубая оценка для получаемая, как мы полагаем, из каких-то других экспериментов. Если то аппроксимация Hodges, Moore (1972) приводит к аналогичной оценке для вместо ).

Davies, Hutton (1975) показывают, что величина смещения зависит от того, насколько матрица близка к вырожденной. Если ошибки таковы, что матрица может оказаться близкой к вырожденной, то смещение может стать весьма большим. Используя центральную предельную теорему, они показывают также, что случайная величина асимптотически нормальна.

(b) Стандартные отклонения

Davies, Hutton (1975, соотношение (4.2)) показывают, что, когда матрица близка к нулевой, то

Обычной оценкой этой дисперсионной матрицы является где

Будет ли V несмещенной оценкой для 3)

Поскольку А не зависит от то

Далее, для любой матрицы С

так что из (6.31) получаем

Поэтому, если велико, а матрица близка к нулевой, то оценка V является приблизительно несмещенной,