8.3. Подход ошибки предсказания

Основной результат. Оценка но ошибке предсказания определяется соотношением (7.12)

Определение предела, к которому сходится при стремлении к бесконечности, очевидно, связано с предельными свойствами функции Для

квадратичного критерия и линейной равномерно устойчивой структуры модели имеем

и, используя (7.2),

При выполнении предположения можно заменить и в предыдущем выражении на (8.2), что дает

Далее, фильтры в (8.18) равномерно устойчивы, так как равномерно устойчива. В предположении (8.5) фильтры в (8.2) равномерно (по ) устойчивы. Следовательно, образующиеся в (8.19) фильтры также равномерно (как по так и по ) устойчивы (см. задачу Другими словами

Наконец, при выполнении предположения (8.6) теорема 2.2 обеспечивает квазистационарность

Таким образом, все условия теоремы выполняются, и ее применение к (8.17), (8.19) приводит к следующему результату.

Лемма 8.2. Рассмотрим равномерно устойчивую линейную структуру модели (см. определения 4.3 и 8.3). Допустим, последовательность данных удовлетворяет условию Тогдадля функции определяемой (8.17),

где

Итак, критериальная функция сходится равномерно но к предельной функции Это обеспечивает также сходимость точки минимума функции к точке в минимума Заметим, что для этого действитель но нужна сходимость, равномерная по и это существенно (см. задачу 8D.1) Может случиться, что имеет не единственный глобальный минимум. В этом случае определяем множество минимизирующих значений, т.е.

Таким образом, сформулируем следствие из леммы 8.2 как наш основной результат по сходимости.

Теорема задается соотношениями (8.16) и определяется в силу равномерно устойчивой структуры модели Допустим, что последовательность данных удовлетворяет условию Тогда

где задается соотношениями (8.22) и (8.23).

Замечание. Сходимость в множество типа (8.24) должна пониматься в смысле

Функция будет зависеть, вообще говоря, как от истинной системы, так и от свойств входных сигналов. При квадратичном критерии и линейной структуре модели, как следует из теоремы 2.2, она зависит от данных только через спектральную матрицу (Подробные выражения будут даны в Это имеет важное следствие, состоящее в том, что сходимость оценок обеспечивается только свойствами данных второго порядка.

Средние по времени и по ансамблю. Исходными сигналами для являются как следует из (8.19). Напомним, что в случае работы в режиме разомкнутой цепи. Символ обозначает, как определено усреднение по ансамблю реализаций (статистическое математическое ожидание) случайного процесса и усреднение по времени детерминированного сигнала Функция представляет собой, таким образом, среднее значение от в этих двух отношениях.

Причиной временного усреднения по как несколько раз отмечалось, является то, что не всегда может оказаться удобным описание этого сигнала как случайного процесса. Однако когда в действительности выбирается как реализация стационарного случайного процесса (не зависящего от теорема 2.3 показывает, что при слабых ограничениях временное усреднение по будет с вероятностью 1 совпадать с усреднением по ансамблю:

Здесь обозначает статистическое математическое ожидание по отношению к процессу

Это означает, что усреднение по -ансамблю и временное усреднение посредством будет с вероятностью 1 эквивалентно взятию статистического математического ожидания как по во, так и по

т. е.

Для ручного вычислеиия зачастую легче применять это полное математическое ожидание: см. примеры 8.1, 8.2.

(Наоборот, можно было бы заменить усреднение по -ансамблю временным усреднением, чтобы полностью исключить вероятностное описание: см. задачу

Общий случай. Результаты леммы 8.2 и теоремы 8.2 ценой несколько больших технических усилий могут также быть установлены для общих норм ; в этом случае предел определяется как

Результат может быть также распространен на нелинейные нестационарные модели и на менее ограничительные предположения о последовательности данных, чем Таким образом, окончательно имеем

Этот результат о сходимости является совершенно общим и интуитивно привлекательным. Он утверждает, что оценка будет сходиться к наилучшему возможному приближению системы, существующему в множестве моделей. Качество аппроксимации измеряется при этом величиной критерия В следующих двух разделах мы подробно остановимся на вопросе о том, что в действительности означает наилучшее возможное приближение в более практических терминах. Сначала рассмотрим два примера.

Пример 8.1.

Предположим, что система задана уравнением

где независимые белые шумы с единичными дисперсиями. Пусть структура модели определяется уравнением

Среднеквадратичная ошибка предсказания равна

где

(см. задачу 2Н.7). Легко убедиться, что зиачеиия а и минимизирующие (8.32), т. е. ту равны -

Эти значения дают среднеквадратичную ошибку предсказания

которая меньше, чем для истинных значений в (8.32):

При применении метода ошибки предсказания к (8.30) и оценки будут в соответствии с теоремой 8.2 сходиться к значениям, задаваемым Тот факт, что обычно выражается как смещение оценки. Однако из (8.34) и (8.35) ясно, что смещение полезно для качества предсказания моделью При предсказатель строго лучше, чем для

Пример 8.1 подчеркивает, что алгоритм действительно дает наилучший возможный предсказатель, который реализуется при соответствующих значенияхпараметров. Однако важно помнить, что наилучшее апнроксимационное описание системы само, вообще говоря, зависит от используемой входной последовательности. Проиллюстрируем это следующим простым примером.

Пример 8.2.

Рассмотрим систему

где

а — независимые бслошумные последовательности с единичными дисперсиями. Пусть структура модели задается уравнением

Среднеквадратичная ошибка предсказания, соответствующая (8.38), равна

Следо вательно,

поскольку это приводит к наилучшей среднеквадратичной ошибке предсказания. Далее, предсказатель

достаточно разумный для системы (8.36) при входной последовательности (8.37). Он дает среднеквадратичную ошибку предсказания по сравнению с оптимальной величиной 1 для правильной модели, и дисперсию выходной переменной

Заметим, однако, что идентифицированная модель сильно зависит от входного сигнала, использованного в процессе идентификации. Для белошумного входного сигнала модель (8.39) бесполезна: она даст среднеквадратичную ошибку предсказания превышающую дисперсию выхода