7.2. Минимизация ошибок предсказания

Последовательность ошибок предсказания (7.8) может рассматриваться как вектор в Размер вектора может оцениваться какой-либо нормой в квадратичной или неквадратичной. Это предоставляет существенную свободу выбора. Мы отчасти ограничим ее рассмотрением только следующего способа оценивания того, как велика последовательность ошибок предсказания. Пусть последовательность ошибок предсказания преобразуется линейным устойчивым фильтром

Тогда используем норму

где скалярно-значная (обычно положительная) функция.

Функция для данного является корректно определенной скалярнозначной функцией вектора параметров Она представляет собой естественную меру правильности модели Тогда оценка определяется минимизацией (7.11):

Здесь означает аргумент, минимизирующий функцию. Если минимум не единственный, обозначает множество минимизирующих аргументов. Таким образом, отображение (7.7) определяется посредством (7.12) неявно.

Этот способ оценивания 0 содержит много хорошо известных и часто используемых процедур. Для семейства подходов, соответствующих (7.12), будем использовать общий термин методы идентификации по ошибке предсказания. Конкретные методы со своими специальными именами получаются из (7.12) как частные случаи в зависимости от выбора предварительного фильтра структуры модели и, в некоторых случаях, от выбора метода минимизации. В следующих двух разделах будет уделено внимание двум особенно хорошо известным представителям семейства (7.12). Сначала, однако, обсудим некоторые вопросы выбора в (7.10) и (7.11). См. также раздел 15.2.

Выбор L. Действие фильтра состоит в придании дополнительной возможности учета свойств ошибок предсказания, относящихся к разным моментам времени. Ясно, что в случае линейного стационарного фильтра и скалярных у и и результат фильтрации будет таким же, если сначала подвергнуть фильтрации данные входных и выходных величин, а затем применить предсказатель.

Действие легче всего понять интерпретацией (7.12) в частотной области; полное обсуждение этого будет отложено до гл. 13. Ясно, однако, что за счет использования могут быть устранены несущественные при моделировании эффекты высокочастотных возмущений или медленного дрейфа и т.п. Также представляется разумным, что с помощью соответствующего выбора некоторые свойства моделей могут быть усилены или подавлены. Фильтр действует, таким образом, как частотное взвешивание.

Важно отметить следующий аспект фильтрации (7.10). При использовании модели (7.3) пропущенная через фильтр ошибка имеет вид

Таким образом, эффект предварительной фильтрации идентичен изменению модели шума с на

При описании и анализе методов, которые используют общую модель шума в линейных системах, будем, как правило, ограничиваться поскольку свобода выбора предварительного фильтра учитывается при выборе Обсуждение практического использования и действия будет дано в гл. 13.

Выбор Первым кандидатом при выборе должна быть квадратичная норма, т.е.

и это, действительно, стандартный выбор, который удобен как для вычислений, так и для анализа. Вопросы робастности относительно плохих данных могут, однако, служить оправданием использования других норм, некоторые детали которого будут обсуждаться в разделе 15.2. Можно также представить себе ситуации, когда норма не известна заранее, поэтому разумно параметризовать саму норму:

Часто параметризация нормы не зависит от параметризации модели:

Исключение из этого случая сформулировано в задаче

Нестационарные нормы. Может оказаться, что измерения, рассматриваемые в различные моменты времени, обладают различной достоверностью. Причина может быть в том, что степень искажения шумом изменяется или что некоторые измерения являются менее представительными в отношении свойств системы. В таких случаях есть основания рассматривать норму зависящую от времени:

Таким способом можно менее достоверным измерениям придать меньший вес в критерии.

Мы будем часто работать с критерием, в котором взвешивание производится полностью за счет весовой функции

Для фиксированного зависимость от является, конечно же, несущественной. Однако когда производится сравнение оценок для различных как, например, в рекуррентной идентификации (см. гл. 11), представляет интерес обсуждение того, как изменяется с ростом Этот вопрос будет рассматриваться в разделе 11.2.

Частотная интерпретация квадратичного критерия ошибки предсказания для линейных стационарных моделей. Рассмотрим квадратичный критерий ошибки (7.12) и (7.15) для стандартной линейной модели (7.3)

Пусть дискретное преобразование Фурье ошибки

Тогда по равенству Парсеваля (2.44)

Пусть теперь

Тогда дискретное преобразование Фурье от в соответствии с теоремой 2.1 равно

где

Отсюда дискретное преобразование Фурье от равно

Наконец,

имеет дискретное преобразование Фурье в соответствии с той же теоремой 2.1

где

Подставляя эти соотношения в (7.21), получаем

где или, используя определение эмпирической оценки передаточной функции

где

Заметим сначала, что, кроме остаточного члена выражение (7.22) совпадает с критерием взвешенных наименьших квадратов для модели

Сравните с (11.96) и (11.97). По лемме 6.1 дисперсия асимптотически равна откуда весовой коэффициент является обратной величиной дисперсии, т. е. в соответствии с (11.65) оптимален для линейных регрессий. В (7.23) неизвестный спектр шума заменен спектром шума модели Следовательно, методы ошибки предсказания могут рассматриваться как методы подгонки эмпирической оценки передаточной функции к передаточной функции модели по взвешенной норме, соответствующей модельному отношению сигнал/шум на рассматриваемой частоте. Для удобства обозначений поучительно переписать (7.22) приближенно через интеграл:

Сдвиг интервала интегрирования с возможен в силу периодичности подынтегральной функции.

Эта интерпретация описывает оценку в терминах ошибки предсказания как альтернативный способ сглаживания эмпирической оценки передаточной функции,

показывающий тесную концептуальную связь с методами спектрального анализа из раздела 6.4. См. задачу о прямой связи этих методов.

Если ограничиться случаем временных рядов (нет входа и критерий (7.25) принимает вид

Такие параметрические оценки спектров известны как оцениватели Уиттла [430].

Многомерные системы Для систем с многомерным входом квадратичный критерий принимает вид

для некоторой симметрической положительно полуопределенной -матрицы А, которая устанавливает веса относительной важности компонент

Можно было бы обсудить, какой выбор нормирующей матрицы А является наилучшим. В некоторых деталях это будет сделано в разделе 15.2. Здесь же заметим только, что, как в (7.16), вектор параметров в можно расширить, включив в него компоненты матрицы А, и функция тогда будет соответствующей функцией от 0.

Как вариант критерия (7.11), где скаляр формируется для каждого можно прежде всего образовать матрицу

и ввести критерий скалярно-значной функции этой матрицы:

Тогда критерий (7.27) получается при