6.5. РАСПРОСТРАНЕНИЕ НА ОБОБЩЕННЫЕ МОДЕЛИ И ОБЪЕКТЫ С ОБРАТНОЙ СВЯЗЬЮ

Из-за полезпых свойств и удобства реализации оценок метода наименьших квадратов или марковских оценок имеет смысл попробовать распространить их на обобщенную модель, которая введепа в гл. изображена на фиг. 6.10. В этом случае

или

Поскольку число параметров в векторах не имеет значения, в дальнейшем предполагается, что Все формулы можно легко приспособить для случая

Фиг. 6.10.

Для большей наглядности параметр отброшен. Так же и раньше при минимизации оценка запишется в виде

Ниже будет показано, что у этойсоценки имеется серьезный недостаток — смещение, вызванное аддитивным шумом. Поэтому имеет смысл исследовать этот случайнесколько подробнее, так как он охватывает одно из наиболее важных представлений линейного стационарного дискретного по времени одномерного объекта. Положим Тогда объект будет описываться уравнениями

а уравнение модели примет вид

Введя оператор сдвига

можно, как и раньше, записать уравнение объекта в виде

или

Для модели получаются аналогичные выражения с операторами и зависящими от параметров Используя эти обозначения, обобщенную ошибку

можно записывать разными способами:

1) обобщенная модель:

которая схематично изображена на фиг. 6.11;

2) прогнозирующая модель:

где

Эта модель тоже линейная по параметрам. Ее выход можно интерпретировать как основанный на предыдущих наблюдениях прогноз записанный в виде (фиг. 6.12). Таким образом, обобщенную ошибку можно рассматривать как разность между фактическим выходным сигналом и его прогнозом в соответствии с формулой (6.95). Отметим, что такое описание подходит и для случая, когда нет входных сигналов, например, при параметрическом анализе временных рядов для построения модели авторегрессии (см. [40, 43]). Приложения к ЭЭГ-анализу можно найти в [15];

3) обычная модель (и фильтрация сигнала ошибки) (фиг. 6.13):

где

Фиг. 6.11.

(кликните для просмотра скана)

Заметим, что, как показано на фиг. 6.14, объект (модель) можно представить в виде двух частей — оператора прямого канала и оператора канала обратной связи Отметим также, что помеха может действовать по-разному, например как или как Тогда объект описывается следующими уравнениями:

(см. скан)

В зависимости от типа модели и приложений можно выбрать тот или иной способ описания. В новой интерпретации оценка

состоит из нескольких частей:

В формуле (6.98)

Эти формулы можно запрограммировать на ЦВМ. На основе наблюдений по этой программе находятся числовые значения 0, а возможно, и ковариационной матрицы. Как уже отмечалось, рассматриваемый метод

является явным или «однократным», если обработка всех наблюдений производится лишь один раз. Этот метод тесно связан с хорошо известными корреляционными методами определения точек весовой функции. Для коэффициентов корреляции получаются следующие (приближенные) выражения:

Сравнивая с методом наименьших квадратов, находим, что матрицы состоят в основном из коэффициентов взаимной корреляции и автокорреляции, если пренебречь пачалом и концом серии наблюдений.

Отметим, что методы этого раздела можно без изменения применить для идентификации нелинейных объектов, являющихся линейными по параметрам, например

Смещение оценок

Как уже упоминалось, использование метода наименьших квадратов в случае обобщенной модели приводит к смещенным оценкам. Это объясняется тем, что матрица составленная из наблюдений у, искажена шумами:

Фиг. 6.15.

или в матричной форме

Наличие этих помех противоречит предположениям, при которых можно применять метод наименьших квадратов. Для того чтобы убедиться в том, что, за исключением весьма частных случаев, оценки оказываются смещенными, рассмотрим простой пример (фиг. 6.15).

Пример. Уравнения объекта:

Уравнение модели:

Оценка по настраиваемой модели (концептуальной) получается в результате минимизации следующей функции потерь:

Необходимые условия

можно записать в виде

Эти уравнения обращаются в тождества на несмещенных оценках если

что можно аппроксимировать соответствующими точками автокорреляционной функции

т. е. имеется помеха, которая, пройдя часть обобщенной модели, преобразуется в белый гаум невязок. Во всех остальных случаях имеет место смещение. Для того чтобы попять механизм этого смещения, рассмотрим простой пример. Цусть уравнение объекта имеет вид

Здесь последовательность независимых гауссовских случайных величин, однако для идентификации объекта используется метод наименьших квадратов в предположении, что невязки некоррелированы. Ниже приводится типичпый результат, полученный по 500 наблюдениям входа и выхода:

(см. скан)

Таким образом, имеет место очень неприятная ситуация: оценка а неверна и к тому же вероятность того, что эта оценка ошибочна, близка к единице (истинное значение отличается от оценки на

Теперь рассмотрим более подробно свойства оценки. Подстановка соотношений

и

где — вектор параметров объекта, в выражение для оценки (6.98) дает

Запишем математическое ожидание

Второе слагаемое в правой части представляет собой смещение оценки. Теперь исследуем асимптотические свойства этой оценки при увеличении числа наблюдений Рассмотрим

Здесь величина смещения умножена и поделена на k. Если стационарные случайные процессы, то средние по выборке являются состоятельными оценками

авто- и взаимной корреляции. Используя обозначение предел по вероятности — и теорему Слуцкого, из формулы (6.102) получим

где

(см. скан)

Считая ковариационную матрицу положительно определенной, находим

Если выражение, заключенное в квадратные скобки, не равно нулю, то имеется асимптотическое смещение. Асимптотическое смещение отсутствует, если

т. е. если порождается белым шумом

Это можно показать, умножая на и переходя к математическим ожиданиям:

Здесь правые части равны нулю, так как может зависеть только от предыдущих значений Следовательно, эти соотношения совпадают с (6.106). Это условие несмещенности оценки соответствует условию «белого шума невязок», поскольку в обозначениях уравнения (6.93) для истинных значений параметров

и

Используя скользящее средпее

можно представить помеху в виде белого шума (фиг. 6.16)

Условие «белого шума невязок» можно интерпретировать иначе. Рассмотрим описание объекта и внешней среды, представленное на фиг. 6.17:

Следовательно,

Если порождается белым шумом

то, подставляя (6.108) в (6.107), находим

где

Вводя обозначения

можно переписать уравнение (6.107) в виде

(кликните для просмотра скана)

в результате, используя обобщенную модель, связывающую и приходим к невязкам типа белого шума и несмещенным оценкам.

Фиг. 6.18.

Объекты с обратной связью

Близкая задача возникает, если идентифицируемый объект охвачен обратной связью (фиг. 6.18). Заметим, что помеха действует внутри контура обратной связи. Интересно определить характеристики объекта . В качестве входных сигналов можно рассматривать или . В первом случае при оценивании используются переменные и определяются характеристики всей системы, охваченной обратной связью. Определение по этим характеристикам параметров объекта не является тривиальной задачей, в частности, переход от замкнутого контура к разомкнутому может привести к накапливанию ошибок оценивания.

Во втором случае, когда при оценивании используются переменные и возникает другая задача. Из-за обратной связи входной сигнал и утрачивает статистическую независимость от помехи которая, как мы выяснили, является необходимым условием получения несмещенных оценок.

Пример. Рассмотрим задачу определения весовой функции импульсной системы для дискретного случая (выборки). Объект описывается уравнением

или

Поскольку

можно записать явное выражение для выходного сигнала

где Условие «белого шума невязок» можно рассматривать, как и раньше.

Для сохранения свойства линейности по параметрам обобщенной модели и устранения вредных эффектов, связанных с аддитивной помехой, было разработано несколько методов [7]:

а) многократный метод наименьших квадратов;

б) метод вспомогательных переменных;

в) принцип копирования;

г) обобщенный метод наименьших квадратов и связанные с ним алгоритмы;

д) метод максимального правдоподобия;

е) метод Левина.

Многократный метод наименьших квадратов. Метод состоит в последовательном увеличении порядка модели:

Степень соответствия модели объекту оценивается по величине невязок. Если увеличение порядка модели не приводит к существенному уменьшению невязок, то процедура оценивания прекращается. Острей [5] на примере простой системы первого порядка показал, что деление на приводит к хорошей модели, а остатком при делении можно пренебречь. По-видимому, строгого обоснования этого метода до сих пор не существует.

Метод вспомогательных переменных. Можно предложить простое решение задачи о величине смещения оценок вследствие действия аддитивных помех. Умнояшв уравнение объекта

на матрицу получим

Тогда если статистически независимы, то система нормальных уравнений принимает вид

Фиг. 6.19.

Допустим теперь, что имеется матрица У, которая корродирована с и, но не коррелирована с

положительно определена;

тогда

так как не измеряется, или

что гарантирует асимптотическую несмещенность оценки. Матрица V состоит из так называемых вспомогательных переменных (фиг. 6.19). Одним из частных применений этого метода является случай, когда исследуемый объект охвачен обратной связью (см. фиг. 6.18). Так как сигнал не коррелирован с то можно использовать в качестве вспомогательной переменной. Конечно, произвольный выбор V не обеспечивает оптимальности оценок, но можно найти такие вспомогательные переменные, которые придают оценке оптимальные свойства. По всем этим вопросам см. [2, 19, 21, 22, 32, 35, 41]. Схемы, предложенные в работах [19, 30], близки к методу вспомогательных переменных. В работе [381 в качестве вспомогательных переменных используются функции псевдочувствительности.

Принцип копирования. Как показано в работе [31], в этом случае оценивание начинается с канонического представления вида

где

и последовательность некоррелированных случайных величин. Отсюда следует, что

Для любой оценки неизвестных параметров находится последовательность Теперь для последовательности к наблюдений имеем

Эти выражения должны как можно лучше в смысле минимума среднеквадратической ошибки копировать (дублировать) соответствующие математические ожидания.

Обобщенный метод наименьших квадратов рассматривается в гл. 7.

Метод максимального правдоподобия рассматривается в гл. 11.

Метод Левина. Частный метод оценки смещения, вызванного корреляцией невязок, был предложен в работах Левина [25—27] для случая детерминированной системы с независимыми ошибками наблюдений. Результаты Левина основаны на методе Кунмана и описывают смещение через собственные числа и векторы матрицы . Строгое изложение метода Левина, включающее доказательство сходимости и оценку ошибок, дано в работе [4]. Этот метод также использован в работе [36].

ЛИТЕРАТУРА

(см. скан)

(см. скан)

(см. скан)

ДОПОЛНИТЕЛЬНАЯ ЛИТЕРАТУРА

(см. скан)

(см. скан)

(см. скан)