Глава 8. СХОДИМОСТЬ И СОСТОЯТЕЛЬНОСТЬ

8.1. Введение

В гл. 7 был описан ряд методов определения моделей по данным. Чтобы использовать эти методы на практике, необходимо изучить их свойства: насколько хорошо идентифицированная модель описывает реальную систему? Являются ли какие-либо методы идентификации лучше других? Как следует выбирать переменные, связанные с определенным методом?

С формальной точки зрения такие вопросы относятся к отображению (7.7) множества данных на множество оценок параметров

Ответы на вопросы относительно свойств этого отображения в основном могут быть получены двумя способами:

1. Генерируем данные с известными характеристиками. Применяем отображение (8.1) (соответствующее конкретному методу идентификации) и оцениваем свойства Этот способ известен как моделирование.

2. Предполагаем определенные свойства данных и пытаемся установить, какие свойства унаследует оценка Этот способ известен как анализ.

В этой главе мы проанализируем свойства сходимости Поскольку невозможно наблюдать бесконечно много данных, такой анализ имеет характер мысленного эксперимента, при этом следует сделать некоторые предположения о соответствующей бесконечной последовательности данных Существу различные возможности таких предположений (см. задачу 8Т.1). Здесь, как и в гл. 2, будут рассматриваться наблюдения стохастической природы. Таким образом, данные будут считаться реализациями случайного процесса с детерминированными компонентами. Было бы интересно понять, в чем в действительности состоит анализ при таких предположениях. Вероятностный подход имеет отношение к следующим вопросам. Что должно происходить при повторении эксперимента? Следует ли ожидать совершенно другой результат? Будет ли предел зависеть от определенной реализации случайных величин? Даже если эксперимент никогда не повторится, очевидно, что такие вопросы уместны для уверенности, необходимой при получении оценки, а это придает смысл анализу. Другое дело, что предположение вероятностной структуры, которое делается для ответа на эти вопросы, может существовать только в воображении анализирующего и не может быть жестко связано с реальным экспериментом.

Следует заметить, что условленное стохастическое описание возмущений не свободно от проблем. Например, предположим, что измеряется расстояние с помощью грубой измерительной линейки, а ошибка измерения описывается как случайная величина с нулевым средним, которая не зависит от ошибки, получаемой при повторении эксперимента. Это предположение означает, что по закону больших чисел расстояние может быть определено с произвольной точностью, если только измерения повторяются достаточно много раз. Ясно, что такой вывод может быть подвергнут критике с практической точки зрения. Таким образом, интерпретация результатов теоретического анализа при его применении к практической ситуации должна быть осторожной.

Очевидно, вопрос о поведении при возрастании имеет отношение к вопросу о том, как ведут себя существующие критериальные функции При стохастической трактовке они представляют собой суммы случайных величин,

а их свойства сходимости будут следовать из закона больших чисел. Нашим основным техническим средством в этой главе будет, таким образом, теорема Для того чтобы основные идеи не утонули в технических трудностях, мы рассмотрим полные доказательства только для линейных стационарных моделей (тех же, что и в главе 4) и при квадратичном критерии. Способы доказательства и результаты переносятся, однако, на более общие случаи.

Организация главы следующая. Предположения о бесконечной последовательности данных содержатся в разделе 8.2. Сходимость оценок метода ошибки предсказания изучается в разделе 8.3. Вопросы состоятельности (т.е., удается ли определить в пределе истинную систему) обсуждаются в разделе 8.4. Частотная характеризация предельной оценки дается в разделе 8.5. Наконец, в разделе 8.6 представлены соответствующие результаты для корреляционного подхода.

Предварительное замечание. В данной главе выводится общий и естественный результат: оценка полученная но методу ошибки предсказания (7.120), будет сходиться к величине, минимизирующей средний критерий . Здесь может эвристически рассматриваться как усреднение по времени или по ансамблю (возможных реализаций), или и то и другое. В главе представлены формальные условия для установления этого "очевидного” результата, а также дается различная характеризация предельного значения Критически настроенному по отношению к теории читателю следует сконцентрировать свое внимание на понимании основного результата - уравнения (8.29) - и на частотной характеризации предельной модели в разделе 8.5.