Глава VI. ОЦЕНИВАНИЕ ПАРАМЕТРОВ ПРОЦЕССОВ АВТОРЕГРЕССИИ

Введение

В предыдущих главах мы обсудили структуру многомерных и одномерных систем и условия, при которых параметры могут быть восстановлены по совокупности всех наблюдений до настоящего момента времени.

В этой главе мы рассмотрим задачу оценивания коэффициентов разностного уравнения, описывающего данный процесс, на основе одних наблюдений этого и связанных с ним процессов. Хотя вектор коэффициентов неизвестен, задано, что он принадлежит определенному множеству. В частности, вектор коэффициентов может быть постоянным или описываться известным случайным процессом с неизвестными параметрами. Данный процесс у может полностью описываться одним уравнением или системой уравнений. Ограничение, накладываемое на разностное уравнение, заключается в том, что в уравнение не должны входить члены скользящего среднего. Это ограничение будет ослаблено в последующих главах. Далее, разностное уравнение всегда будет линейным относительно неизвестных параметров, но оно может быть нелинейным относительно других переменных.

Мы рассмотрим также задачи предсказания значения процесса на один шаг вперед путем использования всех наличных наблюдений до настоящего момента времени. Решение задачи прогноза, данное в гл. II, было основано на знании коэффициентов разностного уравнения, которому удовлетворяет процесс. Здесь будут разработаны методы прогноза, не требующие знания параметров разностного уравнения.

Существуют три основных подхода к задаче оценивания параметров, а именно метод максимального правдоподобия, байесов подход и метод ограниченной информации. В методе максимального правдоподобия и в байесовом подходе должно быть известно совместное распределение вероятностей входного сигнала и возмущения Из этих двух методов байесов подход выделяется тем, что в нем имеется возможность учитывать любую имеющуюся априорную информацию о параметрах. При оценивании методом ограниченной информации должна быть известна только плотность вероятности возмущения Кроме того, в случае систем со многими выходами оценки методом ограниченной

информации, в отличие от байесова подхода и метода максимального правдоподобия, могут определяться для неизвестных в каждом уравнении раздельно. Эта особенность имеет существенное значение с вычислительной точки зрения.

Существуют три типа вычислительных методов получение оценок. Оценка условного максимального правдоподобия для вектора коэффициентов многомерной системы, в которой неизвестна ковариационная матрица вектора возмущений, может вычисляться только путем итерационной процедуры. Эта итерационная процедура обычно неосуществима в реальном масштабе времени. Другими словами, если обозначает оценку неизвестного параметра, основанную на наблюдениях до момента времени то не может быть пересчитана в оценку за единицу времени никакой конечной вычислительной машиной, если неограниченно возрастает. Однако оценки условного максимального правдоподобия для параметров системы с одним выходом или оценки на основе ограниченной информации для многомерных систем могут пересчитываться в реальном масштабе времени. Затем мы рассмотрим задачу подстройки нескольких различных авторегрессионных моделей различных порядков к одним и тем же эмпирическим данным.

Наконец, будет рассмотрена задача прогноза для системы, описываемой дифференциальным уравнением с неизвестными параметрами. Будет исследован вопрос, можно ли решение этой задачи разбить на два этапа, а именно оценивание неизвестных параметров и прогноз процесса с помощью замены неизвестных параметров их оценками.