Приложение 8.1. Среднеквадратическая ошибка предсказания избыточной модели

Приведем пример, когда среднеквадратическая ошибка предсказания переопределенной модели может быть больше, чем «экономной» модели.

Пример. Пусть процесс удовлетворяет уравнениям

где является последовательностью независимых одинаково распределенных по закону величин и не зависит от для всех Пусть избыточная модель описывается уравнениями

Пусть оценки наименьших квадратов параметров по наблюдениям Оценки будут использованы для построения алгоритма прогноза другой реализации процесса статистически независимой от наблюдений которые были использованы при вычислении Пусть алгоритмы прогноза на 1 шаг вперед по уравнениям (1) и (2) соответственно:

Пусть среднеквадратические ошибки предсказания, связанные с алгоритмами прогноза

Как утверждалось выше, оценка 0 не зависит от следовательно,

покольку второй член равен нулю. Далее, оценка 0 обладает следующими свойствами, так как она была вычислена по методу наименьших квадратов:

Подставляя (4) в (3), получим

Аналогично,

Следовательно,

Задачи

(см. скан)

(см. скан)