11.3.2. Нелинейное оценивание

Для получения выборочных уценок наименьших квадратов и их приближенных стандартных ошибок может быть применен нелинейный алгоритм наименьших квадратов, аналогичный использованному для подгонки стохастической модели в разд. 7.2.4. Алгоритм будет работать успешно, если сумма квадратов является хотя бы весьма приближенно квадратичной функцией. Однако иногда эта процедура может сталкиваться с серьезными трудностями: например, когда параметры очень сильно коррелированы (например, если модель становится почти вырожденной из-за появления очень близких множителей в разных операторах), или в других случаях, когда оценки оказываются вблизи границы области допустимых значений параметров. В трудных случаях вопросы, возникающие при оценивании, можно выяснить с помощью графиков изолиний суммы квадратов для некоторых выбранных двумерных разрезов в пространстве параметров.

Алгоритм можно описать следующим образом. На любом этапе итераций и для любого заданного значения параметра запаздывания  обозначим лучшие предположительные значения остающихся параметров как

.

Пусть  — значение, вычисленное исходя из модели (согласно разд. 11.3.1) для предположительных значений параметра ; обозначим производные  по параметрам, взятые с обратными знаками, как

                 (11.3.11)

Тогда разложение  в ряд Тейлора вблизи значений параметров  можно представить в виде

.  (11.3.12)

Мы действуем далее, как в разд. 7.2, для получения корректировок  и т. д., подгоняя это линеаризованное уравнение стандартным методом наименьших квадратов. Прибавляя корректировки к первым предположительным значениям , получаем следующий набор предположительных значений и т. д. до достижения сходимости.

Как и для стохастических моделей (см. гл. 7 и в особенности разд. 7.2.3), производные можно вычислять рекуррентно. Однако гораздо проще пользоваться стандартной программой нелинейных наименьших квадратов, в которой производные находятся численно и имеется возможность «итераций с ограничениями», позволяющих избежать неустойчивости (гл. 7). Необходимо только запрограммировать вычисление самих .

Ковариационная матрица оценок может быть получена в виде обращенной матрицы  (см. разд. 7.2.2), вычисленной после достижения сходимости. Если необходимо оценить целое число , то итерации нужно продолжить до сходимости для нескольких значений  и выбрать значение , дающее минимальную сумму квадратов.