7d. Численные эксперименты с методами оценивания

Численное сравнение различных методов оценивания параметров одномерных и многомерных систем рассматривалось в работах Густавссона (1972), Волина (1971) и Кашьяпа, Нэсбурга (1974). Здесь будет произведено численное сравнение оценок условного максимального правдоподобия с оценками на основе ограниченной информации, а также будут сравниваться различные канонические формы в отношении их способности отражать эмпирические данные.

7d.1. Сравнение методов оценивания параметров систем со многими выходами.

Рассмотрим двумерный процесс описываемый уравнением

Подлинные числовые значения элементов матриц и ковариационной матрицы приведены в табл. 7d.1.1. Для того чтобы продемонстрировать мощь метода оценок на основе ограниченной информации, будем использовать матрицу такую, что коэффициент корреляции между шумами равен 0,994. Если оценки на основе ограниченной информации в этом примере окажутся близкими к истинным значениям, то и для систем с другими матрицами оценки на основе ограниченной информации также будут удовлетворительными. Соответствующие оценки условного максимального правдоподобия для матриц основанные на наблюдениях, приведены в табл. 7d.1.1. В этой таблице указаны также значения логарифмической функции правдоподобия равные где определена равенством (7а.2.1). Следует отметить, что оценки условного максимального правдоподобия очень близки к истинным значениям даже при такой сравнительно небольшой

совокупности наблюдений. Так как уравнение записано в канонической форме II, входящие в него неизвестные параметры можно оценивать методом ограниченной информации, т. е. мы оцениваем порознь каждый набор из пяти коэффициентов в двух уравнениях в вместо того чтобы оценивать совместно все коэффициенты сразу. В табл. приведены результаты, а также время, потребовавшееся для вычислений (на ЭВМ CDC 6500), которое составило одну шестую часть от соответствующего времени для вычисления оценок условного максимального правдоподобия. Последние оказались близкими к оценкам на основе ограниченной информации.

Таблица 7(1.1.1. (см. скан) Оценки условного максимального правдоподобия и оценки на основе ограниченной информации в случае канонической формы II

Для иллюстрации оценивания методом максимального правдоподобия на основе ограниченной информации при использовании канонической формы III вначале преобразуем уравнение динамической системы к канонической форме III, приводимой ниже:

где диагональные матрицы, а случайный вектор имеет диагональную ковариационную матрицу. Числовые значения элементов матриц и соответствующие оцеики максимального правдоподобия на основе ограниченной информации при использовании только 200 наблюдений приведены в табл. 7d.1.2 наряду с оценками условного максимального правдоподобия. Последние пересчитаны из соответствующих оценок табл. 7d.1.1, поскольку функция от оценки условного максимального правдоподобия есть также оценка условного максимального правдоподобия для функции от параметра.

На основе относительных значений показателя качества т. е. взятой со знаком минус логарифмической

функции правдоподобия, можно сравнивать три совокупности оценок. Значения показателя качества для оценок условного максимального правдоподобия, оценок на основе ограниченной информации в случае формы II и оценок на основе ограниченной информации в случае формы III равны 670,4; 757,6 и 679,10 соответственно. Относительная близость значений для оценок условного максимального правдоподобия и оценок максимального правдоподобия на основе полной информации, вычисленных при использовании канонической формы III, свидетельствует о более высокой точности оценок на основе ограниченной информации, получаемых при использовании формы III, по сравнению с оценками на основе ограниченной информации, вычисляемыми при использовании формы II, о чем упоминалось раньше.

Таблица 7d.1.2. (см. скан) Оценки условного максимального правдоподобия и оценки максимального правдоподобия на основе ограниченной информации в случае канонической формы III

Относительно большое расхождение значений для оценок условного максимального правдоподобия и для оценок на основе ограниченной информации, использующих форму II, может быть объяснено сильной корреляцией между которая делает матрицу близкой к особенной. Если бы коэффициент корреляции имел более приемлемое значение, например 0,5 или меньше, то расхождение между значениями для оценок условного максимального правдоподобия и для оценок на основе ограниченной информации, использующих форму II, не было бы таким значительным.

(см. скан)

7d.2. Подбор динамических моделей для приближения данных.

Авторегрессионные модели или обобщенные AR-модели широко используются для приближения данных благодаря их простоте с вычислительной точки зрения. Хотя и выдвигались различные гипотезы, касающиеся относительной роли ARMA-моделей (авторегрессии со скользящим средним) и чистых AR-моделей в задачах приближения данных, вычислительные трудности, связанные с оцениванием параметров ARMA-моделей, препятствовали анализу этих предположений.

Мы предлагаем вместо использования одних лишь AR-моделей рассматривать в задачах приближения данных также модели вида в канонической форме II или III. Сложности вычислений в случае моделей в канонической форме II или III не являются чрезмерными, если используются методы ограниченной информации. Кроме того, проблема избыточности параметров в канонических формах II и III, упомянутая в гл. V, может оказаться несущественной в задачах приближения данных. В случае обнаружения какой-либо избыточности в подобранной модели мы можем улучшить модель, уменьшая ее порядок. Поясним эту мысль на примере.

Рассмотрим ARMA-процесс описанный уравнением в канонической форме И. Если преобразовать уравнение к канонической форме III, то получится ARMA-процесс Будем пытаться подбирать различные модели к данным, генерируемым процессом вида Некоторыми из этих моделей будут модели причем все в форме III. Значения оценок для коэффициентов и приведены в табл. наряду с вычислительным временем, потребовавшимся для подстройки модели. При оценке качества различных моделей с точки зрения критерия модель оказывается лучше, чем модель хотя ни одна из них не дает хорошего приближения к наблюдаемому процессу, если рассмотреть разности между значениями полученными для моделей Подобранная модель может быть удовлетворительна с точки зрения показателя качества однако неизвестно, насколько хорошо найденная модель отражает различные статистические характеристики исходного процесса, такие как спектр и коррелограмма.

7е. Заключение

Мы обсудили два основных метода оценивания параметров многомерных систем, содержащих члены авторегрессии и скользящего среднего, а именно метод максимального правдоподобия

и методы ограниченной информации. С вычислительной точки зрения метод максимального правдоподобия более труден, чем метод наименьших квадратов или методы ограниченной информации. Но методы максимального правдоподобия приводят к оценкам с наибольшей достижимой точностью. Методы ограниченной информации представляют собой удачный компромисс с точки зрения точности оценок и сложности вычислений.

Задачи

(см. скан)