3.5. НЕЛИНЕЙНЫЕ ТРЕНДЫ

Иногда во временных рядах проявляются тренды, которые лучше всего описываются функциями, нелинейными по параметрам, подлежащим оценке. Например, при изучении популяций часто обнаруживается характерный тренд, связанный с ростом популяций, который можно достаточно хорошо описать так называемой «логистической» кривой роста. [См. Дэвис (1941, стр. 247-271).] Логистическая кривая как функция времени выражается формулой

При построении модели ошибок предполагают, что наблюдаемые значения размера популяции отличаются от тренда некоррелированными случайными величинами, так что для оценивания параметров можно привлечь критерий наименьших квадратов, так как это было сделано в линейном случае. В связи с этим потребуем, чтобы выражение

принимало минимально возможное значение по параметрам Минимизирующие значения будут при этом оценками наименьших квадратов параметров соответственно. Задачу вычисления этих оценок часто можно решить итерационным методом с использованием первых членов тейлоровского разложения в окрестности некоторых подходящих значений

где — остаточный член. При выбранных начальных оценках можно воспользоваться линейной техникой наименьших квадратов применительно к соотношению (3) и получить новые оценки Линейные уравнения относительно получаемые при отбрасывании остаточного члена имеют вид

где есть вектор-столбец с элементами вектор, элементами которого являются частные производные по вычисленные при выбранных начальных значениях этих параметров. Чтобы получить более точные решения, указанную процедуру можно повторить, используя вместо соответственно значения Получаемая таким образом последовательность решений во многих случаях сходится к значениям, минимизирующим (2).

Можно поступать и иначе. Именно, формулу (2) использовать в точном виде, продифференцировать ее по и приравнять нулю соответствующие частные производные. При этом получаются соотношения

Если теперь разложить исходную функцию и ее частные производные в ряды Тейлора в окрестности точки и опустить члены второго порядка малости относительно то в результате получатся уравнения

в которых

Если предполагается, что случайные составляющие — независимые нормально распределенные случайные величины с одинаковыми дисперсиями, то методы наименьших квадратов и максимального правдоподобия совпадают и данный итерационный метод эквивалентен методу Ньютона — Рафсона отыскания максимума. Если в (6) вместо (7) используется его математическое ожидание, то соответствующая процедура известна как метод меток. [См. С. Рао (1952, разд. 4с.2).]

Для минимизации выражения (2) можно воспользоваться и иными способами. В начальной точке функция убывает наиболее быстро в направлении Изменение вектора а в этом направлении приводит к уменьшению Для оценки перемещения, приводящего к наибольшему убыванию, применяются методы наискорейшего спуска. На практике частные производные могут быть приближенно заменены конечными разностями. Отправляясь от начального приближения вычисляют 5 для при возрастающих значениях X до тех пор, пока 5 не перестанет убывать. При этом получают вторую точку и повторяют процедуру. Дрейпер и Смит (1966, разд. 10.3) обсуждают метод («компромисс Маркардта»), базирующийся одновременно на линеаризации функции и на методе наискорейшего спуска. (Нелинейная регрессия рассматривалась также Уильямсом (1959).)

Мы указали на некоторые общие подходы к отысканию приближенных решений задачи наименьших квадратов итерационным путем. При этом формулы выписывались только для случая трех параметров лишь из соображений удобства. В этой области сделано

довольно многое, но в настоящей книге не представляется целесообразным давать обзор сделанного.

Много результатов получено также в области выравнивания наблюдаемых данных с помощью специальных функций, таких, как логистическая. [См., например, Дэвис (1941, стр. 250-254).] Мы не будем пытаться обрисовать эту деятельность даже в общих чертах. Некоторые из методов используют порядок наблюдений во времени. Например, можно минимизировать

При этом допускается, что функция, подлежащая оценке, определяется другим способом. Такие методы могут основываться не только на модели с некоррелированными случайными ошибками, но и на других моделях, оказывающихся во многих случаях более подходящими.