7.7. Заключение

Существуют различные способы подгонки моделей из заданного множества под наблюдаемые данные. В этой главе было уделено внимание двум основным процедурам. Обе они формируют ошибки предсказания вычисляемые в соответствии с используемыми моделями и с учетом наблюдений, а целью обеих процедур является стремление сделать эти последовательности малыми.

Подход к идентификации, основанный на ошибке предсказания, или метод ошибки предсказания, определяется соотношениями (7.10) - (7.12):

Он охватывает такие хорошо известные процедуры, как метод наименьших квадратов (МНК) и метод максимального правдоподобия (ММП) и, в то же время, близок к байесовскому методу максимума апостериорной вероятности и к подходу, основанному на информационном критерии Акаике.

Корреляционный подход определяется соотношениями (7.96):

Он включает в себя метод инструментальных переменных, а также различные методы, ориентированные на модели с рациональными передаточными функциями.

Идентификация систем часто описывалась как область казалось бы несвязанных друг с другом эвристических методов и приемов. Без сомнения, список названий известных и предлагаемых методов очень велик. Наша цель — показать в этой главе, а также в главах 8—11, что основополагающих идей в действительности очень мало и что можно без труда ориентироваться в вопросах идентификации систем, опираясь на эти основные идеи как на отправные точки.

7.8. Комментарии к библиографии

Все методы параметрического оценивания, описанные в этой главе, восходят к основным методам статистики. По темам общего характера отсылаем читателя к монографиям Крамера [87], Рао [335] и Линдгрена [237].

Раздел 1.2. Термин метод ошибки предсказания возможно впервые употреблялся Льюнгом [239], но давно было понято, что общие методы идентификации систем нацелены на то, чтобы сделать ошибку предсказания малой. С вычислительной точки зрения критерий (7.120) может рассматриваться как метод нелинейной регрессии; см., например, [194] и [165]. Обсуждались различные нормы (см. раздел 15.2). В работах Миланезе и Темпо [291] (ср. также с задачей 7G.7) и Фогеля и Хуанга [119] обсуждалась -норма (относящаяся к неизвестным, но ограниченным возмущениям); кроме того, см. [356]. Выражения критерия ошибки предсказания в частотной области восходит к работе Уиттла [430], в которой рассматривался случай автономной системы. Среди многих ссылок можно упомянуть [163, гл. VI] для детального изучения (также случая систем без входа). Соответствующие формулы представлены и в работах Соло [380], Льюнга и Главера [259], Вальберга и Льюнга [417].

Раздел 7.3. Статистические истоки метода наименьших квадратов рассматриваются в Приложении II. Применение к временным рядам впервые было изложено Юлом [452] и Уолкером [421], а первый асимптотический анализ был проведен в статье Мэнна и Вальда [276]. Приложение к динамическим системам со входом было осуществлено независимо несколькими авторами, первое всестороннее описание и анализ изложены Остремом [19], а несколько более подробное исследование - Остремом и Эйкхоффом [28]. Хороший обзор различных вариантов МНК представлен в монографии Хсиа [183].

Раздел 7.4. Впервые методы максимального правдоподобия для AR и ARMA-моделей с использованием частотных терминов применил Уиттл [430]. Затем принцип максимального правдоподобия применялся для динамических систем Остремом и Бохпином [27] (структуры ARMAX-моделей) и Боксом и Дженкинсом [62] (структура модели (4.31)). Затем этот подход изучался во многих статьях. Их обзор представлен в статье Острема [24].

Частотные и аппроксимационные варианты представления функции правдоподобия широко использовались Уиттлом [430], Хэннаном [163] и др. Байесовский подход максимума апостериорной вероятности разносторонне изложен в работах Петерки [321], [322]. Вычисления, приводящие к (7.84), впервые были представлены Итоном [109] и Акаике [5]. Энтропийный и информационный критерии широко обсуждались Акаике и Риссаненом; можно рекомендовать работы [6], [8] и [340], [431]. Основной ссылкой по вопросам энтропии и статистики является монография Кульбака [219]. Использование взаимной энтропии для оценивания обсуждается в [359] и всесторонне рассматривается в [302].

Разделы 7.5-7.6. Здесь представлен новый способ описания корреляционного подхода, хотя различные методы хорошо известны. Метод инструментальных переменных был введен в статистике и эконометрике Рейерсьюлом [336] и применялся для решения большого числа задач параметрического оценивания (см., например, книгу Кендалла и Стюарта [212]). Применение в области управления динамическими системами впервые было осуществлено в работах Вонга и Полака [441], Янга [444] и Мейна [279]. По вопросам применения к ARMA-моделям см. [398]. Предыстория вопроса изложена в статье Янга [446]. Среди последних обобщающих работ см. книги Седерстрема и Стойки [374] и Янга [448].

7.9. Задачи

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)