6.4. НЕВЯЗКИ, ШУМЫ И ПОРЯДОК МОДЕЛИ

В предыдущих разделах выведены формулы для оценок параметров и их ковариационных матриц. Однако на практике в процессе исследования могут появиться вопросы, например, о свойствах помехи (возмущений) или о требуемом числе параметров модели.

Эту информацию мояото получить по невязкам

Невязки содержат информацию как о параметрах и состояниях, так и об аддитивной помехе.

Если заранее не ясно, сколько параметров являются существенными, то важно, чтобы процедура оценивания была рекуррентной по числу параметров. Это означает, что, начиная с оценки вектора параметров не нужно снова повторять все вычисления, оценивая вектор параметров

Используя обозначение находим

что ведет к следующей системе нормальных уравнений:

и

Здесь являются соответственно старой и новой оценками, вектора и после увеличения числа параметров с до рпри одном, и том же числе, наблюдений. Эти уравнения можно переписать в виде

Решая их относительно находим

где

Член соответствует невязкам исходной модели с параметрами Отметим, что становится известной на предыдущем шаге и что обращаемая матрица имеет порядок только Таким образом, довольно легко могут быть вычислены. На очередной итерации нужно обратить расширенную матрицу Можно показать, что эта матрица имеет следующую структуру:

она состоит из матриц, которые уже определены.

Таким образом можно вычислять оценки для моделей с различным числом параметров. Однако до сих пор не получен ответ на вопрос, сколько параметров в действительности необходимо (каким должен быть порядок модели). Вообще говоря, увеличение числа параметров модели ведет к уменьшению функции ошибок, или функции потерь, Действительно может обратиться в нуль, когда число параметров совпадает с числом к выборочных

значений входного и выходного сигналов. В этом случае помеха полностью входит в коэффициенты модели, что, конечно, нежелательно. Следовательно, нужно воспользоваться статистическим критерием для проверки того, является ли значащим уменьшение при увеличении числа параметров.

Идея рассматривать выбор порядка модели как задачу теории принятия решений обсуждалась в работах [3, 42] и является стандартным приемом регрессионного анализа. Приводимое описание такой проверки порядка модели заимствовано у Острема [6]. Допустим, что объект описывается уравнением

где у — состоит из к выборочных значений, вектор параметров (например, вектор независимых гауссовских величин с параметрами Оценка получаемая по модели порядка имеет вид

Невязки выражаются формулой

Здесь симметричная идемпотентная матрица, т. е.

то же можно сказать о матрице (см. приложение В). Следовательно,

Теперь, если рассмотреть две модели с числом параметров то легко получить следующее тривиальпое тождество:

В левой части этого тождества содержатся неотрицательно определенные квадратичные формы по Учитывая, что соответствующие матрицы:

а) симметричпы, неотрицательно определены;

б) ортогональным преобразованием могут быть приведены к диагональному виду с диагональю из нулей и единиц;

в) имеют ранг, равный следу (инварианту) (см. приложение В), замечаем, что

По теореме Кохрана (см. [22], т. 2, стр. 360), имеют распределение и взаимно независимы. Таким образом, если то - независимые случайные величины, имеющие распределение с степенями свободы соответственно. Теперь проверка гипотезы о том, существенно ли уменьшение функции ошибок при увеличении числа параметров от до может быть сведепа к вычислению

Эта величина имеет распределение для которого составлены многочисленные таблицы (см., например, [14]). Из этих таблиц для -ного уровня значимости имеем

т. е.

Таким образом, для рассматриваемого случая при необходима модель более высокого порядка. В технических задачах обычно интересен случай следовательно, важно иомнить, что при статистика

асимптотически нормальна, т. е.

Таким образом, можно пользоваться и таблицами

При идеальном подборе мбдейи для объекта имело бы место равенство Априорные предположения о распределении помехи можно проверить по невязкам. Если предполагается, что белый шум, т. е. выборочные значения статистически независимы, то это можпо проверить, примепив корреляционпые методы анализа к если считается гауссовским, то для проверки можно использовать критерии

Дисперсию шума которая заранее неизвестна, можпо оценить по формуле

где k — размер выборки, число определяемых параметров. Покажем это (см. [6, 34]). Из формулы (6.86) следует, что

Таким образом, несмещенная оценка а определяется формулой (6.88), т. е. получается возведением невязок в квадрат и делением на число степепей свободы.

Отметим, что в литературе по математической статистике также можно найти формулы для доверительных интервалов параметров и критерии проверки гипотез

Другие вопросы. В работе [18] описывается метод, в котором выборочные измерения заменяются результатами интегрирования по очень коротким промежуткам времени. Это удобпо, когда на выходе объекта действует аддитивная помеха, частота которой значительно превышает частоту выборочных измерений,

Если можно управлять входом и, то возникает интересный вопрос, как выбрать так, чтобы, насколько это возможно, уменьшить ожидаемые ошибки. Эта задача коротко рассмотрена в работе [24].