Глава 10. ВВЕДЕНИЕ В НЕЛИНЕЙНОЕ ОЦЕНИВАНИЕ

10.0. ВВЕДЕНИЕ

Эта глава представляет собой краткое введение в проблемы нелинейного оценивания. Поскольку представления о геометрии метода наименьших квадратов позволяют глубже понять проблемы нелинейного оценивания, в § 10.5 и 10.6, кратко обсуждается эта геометрия. В конце книги приведена библиография, которая содержит список многих важных публикаций по нелинейному оцениванию.

В предыдущих главах метод наименьших квадратов применялся для построения моделей, которые были линейными относительно параметров и имели вид

где - некоторые функции от основных предикторных переменных Хотя уравнение (10.0.1) может описывать весьма широкий класс разнообразных задач (см. гл. 5), существует много ситуаций, в которых модель такого вида непригодна; например при наличии определенной информации о форме связи отклика с предикторными переменными. Такая информация может включать непосредственные знания о действительной форме истинной модели или может быть выражена в виде системы дифференциальных уравнений, которым должна удовлетворять модель. Иногда информация приводит к нескольким альтернативным моделям; в подобных случаях представляют интерес методы дискриминации моделей. Если мы приходим к заключению, что модель имеет нелинейную форму, то мы должны воспользоваться для описания именно такой моделью, а не более простой, но, возможно, менее реалистической линейной моделью.

В отличие от линейных моделей вида уравнения (10.0.1) в нелинейных моделях зависимость отклика от коэффициентов при предикторах оказывается нелинейной, такие модели называют также нелинейными по параметрам. Вот два примера таких моделей:

В этих примерах параметры, подлежащие оцениванию, обозначаются буквой 0, а не Р, которая использовалась прежде; единственная предикторная переменная, случайная ошибка, удовлетворяющая обычным предположениям: (Мы можем

также записать эти модели без и заменить на . Тогда модели будут отражать истинную зависимость величины отклика от Здесь мы хотим, однако, обратить внимание на то, каким образом входит ошибка в каждую конкретную модель.)

Обе модели (10.0.2) и (10.0.3) нелинейны в том смысле, что параметры входят в них нелинейно, но существенно отличаются одна от другой. Уравнение (10.0.2) может быть приведено путем логарифмирования по основанию к форме

которая имеет вид (10.0.1) и линейна относительно параметров. Мы можем, таким образом, сказать, что модель (10.0.2) внутренне линейна, так как она может быть преобразована к линейному виду. (Некоторые авторы в отличие от нас называют такие модели внешне нелинейными.)

Однако уравнение (10.0.3) невозможно преобразовать к форме, линейной по параметрам. Такую модель называют внутренне нелинейной. Между тем иногда может оказаться полезным преобразовать модель этого типа таким образом, чтобы получить модель более удобную для подгонки, хотя она и будет сохранять нелинейную форму. Если это не будет оговариваться специально, все модели, упоминаемые в данной главе, будут внутренне нелинейными.

(Примечание. Среди моделей с аддитивными ошибками внутренне линейной моделью называют такую, которая может быть приведена к линейному виду путем преобразования параметров. К такому типу относится, например, модель поскольку, используя подстановку можно записать эту модель в виде Некоторые авторы используют термин внутренне линейная только для моделей такого типа.)