7.2.2. Численный метод нахождения производных

Как будет показано позднее, производные  могут быть получены непосредственно. Однако для машинных расчетов оказался весьма эффективным общий нелинейный метод наименьших квадратов, в котором производные оцениваются численно. Это делается поочередным возмущением одного из параметров. Затем для данной модели вычисляются рекуррентным образом значения  для ; при этом используется необходимое число значений «прогнозов назад». Затем вычисления повторяются для , затем для  и т. д. Величина, обратная по знаку требуемой производной, находится затем достаточно точно по формуле

.                  (7.2.2)

Описанный численный метод получения производных универсален и требует только наличия программы для вычисления . Общие стандартные программы нахождения нелинейных оценок, нуждающиеся только в дополнительной подпрограмме для вычисления , сейчас уже широко распространены [62]. В некоторых вариантах программы  необходимо указать заранее; в других программа сама выполняет необходимые итерации для выбора подходящего . Некоторые программы включают специальные логические схемы, позволяющие избежать проскоков области минимума и ускорить сходимость [63].

При условии, что решение наименьших квадратов не лежит вблизи границы или на границе области, значения  из последней итерации можно использовать для вычисления приближенных дисперсий, ковариаций и доверительных интервалов. Конкретнее,  аппроксимирует матрицу ковариаций , а  оценивается по .

Применение к процессу (0, 1, 1). В качестве элементарного примера рассмотрим подгонку к ряду  процесса

с . Начало вычислений для пробного значения  показано в табл. 7.9. Значения прогноза назад для  были получены приравниванием  и применением возвратной рекуррентной формулы . Большая точность могла бы быть достигнута применением этой рекуррентной формулы к более далеким значениям ряда. Значения , найденные последовательно из уравнения для  и , приведены в четвертом и пятом столбцах вместе со значениями отрицательных производных  найденных по формуле (7.2.2). Для получения первой поправки для  вычислим

.

В этом примере, используя весь ряд длиной в 197 наблюдений, мы получили сходящийся результат после четырех итераций. Расчет шел следующим образом:

Таблица 7.9. Пример расчета производных по данным ряда

В общем значения  и , минимизирующие , могут быть найдены этим методом с любой необходимой степенью точности. Этот метод особенно удобен потому, что нам не нужно специально программировать расчет производных; не требуется никаких дополнительных процедур, кроме как для вычисления .

Программа 3, описанная в сборнике машинных программ в конце этой книги, позволяет численно оценивать производные и включает возможность прогнозирования назад. Она позволяет найти оценки наименьших квадратов для параметров любого  процесса.

Теперь мы покажем также, что производные можно получить и непосредственно, но для этого нужны дополнительные рекуррентные расчеты.