9.7. Заключение
В этой главе было показано, что оценки параметров, полученные с помощью метода ошибки предсказания или на основе корреляционного подхода, имеют асимптотически нормальное распределение при неограниченном возрастании числа наблюдаемых данных. Это установлено теоремами 9.1 и 9.2. Были получены различные точные выражения асимптотической матрицы ковариаций. Наиболее типичным результатом является (9.17):
— справедливый для оценки по методу ошибки предсказания с квадратичным критерием в предположении, что § Он показывает, что матрица ковариаций оценки определяется обратной матрицей ковариаций градиентов предсказателя умноженной на отношение дисперсии обновлений к числу наблюдаемых данных Это выражение является также пределом нижней границы Крамера — Рао в том случае, когда обновления распределены нормально. Тогда это означает, что оценка асимптотически эффективна.
Соответствующее выражение (9.79) для корреляционного подхода:
Получены также результаты для асимптотического распределения оценок передаточной функции при параметризации типа черный ящик. Они утверждают, что
асимптотически как по порядку модели и, так и по числу данных
Распределение случайного вектора в подчеркивает тот факт, что результатом фазы параметрической идентификации является не модель; скорее это множество моделей. Основываясь на данных наблюдения, мы сужаем исходное множество моделей до, надеемся, меньшего множества возможных описаний вокруг Выражения (9.97) и (9.98) представляют собой знак качества, с которым модель вручается пользователю.
9.8. Комментарии к библиографии
Асимптотическое распределение оценок параметров в основе своей представляет, как было видно, результат применения соответствующей центральной предельной теоремы (ЦПТ). Литература по теории вероятностей предлагает широкий спектр ЦПТ при различных условиях (см., например, [67, 78, 107, 185, 439]). В этих результатах ключевое предположение состоит в том, что зависимость между выборочными данными, далеко отстоящими друг от друга, должна убывать по крайней мере с определенной скоростью. Для описания этого предположения обычно используются условия перемешивания. Здесь эту роль играет предположение устойчивости (8.5).
Асимптотическая нормальность оценок максимального правдоподобия в случае независимых наблюдений обсуждается, например, в книге Кендалла и Стьюарта [212]. Этот результат был распространен на ARMAX-модели Остремом и Бохлином [27].
В литературе по статистике асимптотическая нормальность оценок параметров ARMA-моделей временных рядов рассматривалась во многих статьях. Упомянем, в частности, работы Хеннана [163, 166, 168], Дансмира и Хеннана [104] и Андерсона [15].
Ситуация, в которой исследовалась Кабайла и Гудвином [196] и Льюнгом и Кейнсом [258]. Кабайла в [195] изучал результат (9.42) для метода ошибки на выходе.
Выражения ковариационной матрицы в частотной области, подобные (9.54), использовались, нанример, Хэннаном [163] и Кабайла и Гудвином [196]. Выражение для параметризации типа черный ящик (9.64) было получено Льюнгом в [252]. Результаты, в которых порядок является функцией числа данных и возрастает до бесконечности, представлены для моделей системы с конечной памятью в [263] и для ARX-моделей (4.7) в [254]. Близкие результаты для AR-моделей спектров были получены Берком [44].
Асимптотическая нормальность оценок метода инструментальных переменных была ноказана Кейнсом [73], а всестороннее рассмотрение содержится в [374]. Для методов псевдолинейной регрессии результаты представлены в [401].
Обсуждение вопросов использования доверительных интервалов носит стандартный характер и содержится во многих учебниках (см., например, [101]).
9.9. Задачи
(см. скан)