§ 3.4. Одномерные абсолютно оптимальные и оптимальные алгоритмы и их свойства

Простейшей задачей идентификации является задача оценки постоянной величины, наблюдаемой на фоне помех

где независимая помеха с плотностью распределения Уравнение оптимальной настраиваемой модели имеет вид

где с — скалярная оценка. Это — наиболее простой, вырожденный вид статической модели.

Оптимальные средние потери в такой задаче имеют вид

где

— невязка, оптимальная функция потерь, а плотность распределения помех. Кроме того,

Рис. 3.8

Тогда из (3.2.1), (3.2.2) или (3.1.15), (3.1.16) получаем абсолютно оптимальный алгоритм оценки постоянной величины в условиях помех:

Блок-схема этого абсолютно оптимального алгоритма изображена на Рис. 3.8. Она содержит нелинейный преобразователь

Для помех с гауссовой плотностью распределения имеем

В этом случае из (3.4.6) следует, что абсолютно оптимальный алгоритм представляет собой линейный алгоритм

Схема, реализующая этот алгоритм, изображена на рис. 3.9. В ней нелинейный преобразователь отсутствует.

Рис. 3.9

Оценка порождаемая абсолютно оптимальным линейным алгоритмом (3.4.8), как нетрудно убедиться, равна

Отметим ряд особенностей алгоритма (3.4.8). Он не требует знания дисперсии помехи а значения порождаемых им оценок не зависят от выбора начального значения Действительно, при любом со из алгоритма (3.4.8) при получаем

Отсюда видно, что оценка а значит, и последующие оценки не зависят от , а будут определяться только наблюдениями

Для помех с плотностью распределения Лапласа имеем

В этом случае из (3.4.6) следует, что абсолютно оптимальный алгоритм является релейным алгоритмом:

Блок-схема этого алгоритма изображена на рис. 3.10. Она содержит релейный преобразователь. Оценка, порождаемая абсолютно оптимальным релейным алгоритмом, соответствует оценке медианы.

Рис. 3.10.

Для помех с плотностью распределения Коши , имеем

В этом случае из (3.4.6) получаем абсолютно оптимальный нелинейный алгоритм:

Блок-схема этого алгоритма изображена на рис. 3.11.

В отличие от линейного алгоритма (3.4.8), релейный (3.4.12) и нелинейный (3.4.14) абсолютно оптимальные алгоритмы порождают оценки, зависящие как от параметра масштаба так и от начального значения

Рис. 3.11

Для приведенных выше абсолютно оптимальных алгоритмов асимптотическая матрица ковариаций ошибок АМКО вырождается в скалярную величину — асимптотическую дисперсию ошибки которую мы будем обозначать -Принимая во внимание (3.4.5), получаем из (2.5.3) выражение

Подставляя в (3.4.15) значения фишеровских информации, соответствующих различным плотностям распределения помех, из табл. 2.1 найдем АДО для соответствующих абсолютно оптимальных алгоритмов:

для линейного алгоритма (3.4.8),

для релейного алгоритма (3 4.12) и

для нелинейного алгоритма (3.4.14).

Таким образом, для линейного алгоритма (3.4.8) АДО равна дисперсии гауссовых помех. Для релейного алгоритма (3.4.12) АДО равна квадрату параметра масштаба лапласовой плотности распределения, или половине дисперсии лапласовых помех. Что же касается нелинейного алгоритма (3.4.14), то для него АДО равна удвоенному квадрату параметра масштаба плотности распределения Кощи. Заметим, что дисперсия в этом случае равна бесконечности.

Выясним теперь свойства одномерных оптимальных алгоритмов. Для произвольной симметричной функции потерь средние потери равны

и оптимальный алгоритм из при учете (3.4.5) запишется в виде

АДО этого оптимального алгоритма находится из (2.2.18):

При этом всегда

т. е. АДО абсолютно оптимального алгоритма всегда меньше АДО оптимального алгоритма при произвольной функции потерь.

Для квадратичной функции потерь

и, значит,

Поэтому из (3.4.20) получим оптимальный алгоритм

а из (3.4.21) находим его АДО

Отсюда следует, что для квадратичной функции потерь (3.4.22) оптимальный алгоритм линеен и совпадает с линейным абсолютно оптимальным алгоритмом (3.4.8). АДО линейного оптимального алгоритма равна дисперсии помех. При этом плотность распределения может быть любой симметричной функцией, дисперсия которой равна Иначе говоря, оптимальный линейный алгоритм инвариантен относительно всех плотностей распределения помех, обладающих конечной одинаковой дисперсией. Это очень важное и интересное свойство оптимального линейного алгоритма. Чем больше дисперсия помех, тем больше АДО, а значит, тем меньше скорость сходимости этого алгоритма. Если плотность распределения помех имеет бесконечную дисперсию, что соответствует, например, плотности распределения Коши, то

Это значит, что скорость сходимости линейного алгоритма равна нулю, т. е. линейный алгоритм в этих условиях не работоспособен. Оценка, порождаемая им, не сходится не только к оптимальному решению с, но и ни к какой иной постоянной. В этом случае попросту не выполняется одно из условий сходимости линейного алгоритма, состоящее в ограниченности дисперсии помехи.

Для модульной функции потерь

где дельта-функция. Следовательно,

Оптимальный алгоритм, получаемый из (3.4.20), принимает вид

а его АДО (3.4.21) будет равна

Отсюда следует, что для модульной функции потерь (3.4.27) оптимальный алгоритм является релейным. Он отличается от абсолютно оптимального релейного алгоритма (3.4.12), если плотность распределения помех отлична от лапласовой с фиксированным параметром масштаба Чем больше максимальное значение плотности распределения тем меньше АДО, а значит, тем больше скорость сходимости релейного алгоритма.

Для лапласовой плотности распределения помех и

т. е. АДО равна квадрату параметра масштаба, или половине дисперсии лапласовой плотности помех. Для гауссовой плотности распределения помех

АДО в раз больше дисперсии помех. Наконец, для плотности распределения типа Коши

В отличие от теперь конечная величина, что свидетельствует о работоспособности оптимального релейного алгоритма при наличии помех с плотностью распределения типа Коши. Из сопоставления при и (3.4.31) видно, что

т. е. АДО для линейного алгоритма в два раза больше АДО для релейного алгоритма. Иными словами, при лапласовой помехе скорость

сходимости оптимального линейного алгоритма в два раза меньше скорости сходимости оптимального релейного алгоритма.

Если параметр масштаба неизвестен, то следует воспользоваться алгоритмами идентификации с настройкой параметра масштаба. В рассматриваемом случае оценивания постоянной величины, учитывая (3.4.5), запишем алгоритмы (3.3.14), (3.3.16), (3.3.24) в виде:

— основной алгоритм

— вспомогательный алгоритм

Блок-схема абсолютно оптимальных алгоритмов с настройкой параметра масштаба изображена на рис. 3.12.

Рис. 3.12

Рассмотрим частные случаи этих алгоритмов. Предположим, что помехи имеют плотность распределения Гаусса Тогда, как видно из табл. 2.2 и 3.1,

и из и (3.4.36) мы получаем линейный и квадратичный алгоритмы с настройкой параметра масштаба:

— основной алгоритм

— вспомогательный алгоритм

Блок-схема абсолютно оптимальных линейного и квадратичного алгоритмов с настройкой параметра масштаба (3.4.38), (3.4.39) изображена на рис. 3.13. Она состоит из двух схем.

Рис. 3.13

Выходная величина первой из этих схем формирует оценку а выходная величина второй схемы — оценку т. е. среднеквадратичные отклонения Как видно из блок-схемы, формирование оценки не требует использования оценки Этот факт вытекает из независимости основного алгоритма от дисперсии или параметра масштаба

Для помехи с плотностью распределения Лапласа как видно из табл. 2.2 и 3.1.

и из (3-4.35), (3.4.36) мы получим релейный и модульный алгоритмы с настройкой параметра масштаба:

— основной алгоритм

— вспомогательный алгоритм

Поскольку то в алгоритме мы заменили на Блок-схеме релейного и модульного алгоритмов с настройкой параметра масштаба изображена на рис. 3.14. Здесь уже возникает необходимость в подстройке параметра масштаба в основном алгоритме.

Рис. 3.14

Наконец, для помехи с плотностью распределения Коши (см, табл. 2.2 и 3.1) имеем

и из (3.4.35), (3 4.36) получим нелинейные алгоритмы с настройкой параметра масштаба:

— основной алгоритм

— вспомогательный алгоритм

Блок-схема нелинейных алгоритмов с настройкой параметра масштаба изображена на рис. 3.15. Она также содержит две взаимно связанные схемы оценивания

Рис. 3.15

Асимптотические свойства алгоритмов оценивания с настройкой параметра масштаба сохраняются теми же, что и для алгоритмов, в которых параметр масштаба предполагается известным.

Приведем числовые примеры. Изменение ошибок порождаемых линейным алгоритмом (3.4.8), изображено на рис. 3.16 для гауссовых помех (кривая а), для лапласовых помех (кривая б) и для помех Коши (кривая в). Параметры соответствующих распределений выбраны так, что фишеровские информации рассматриваемых распределений одинаковы и равны единице. Наиболее быстрая сходимость оценок получается для абсолютно оптимального алгоритма (кривая о). Меньшая скорость сходимости получается для оптимального алгоритма при лапласовой помехе (кривая б), и, наконец, при помехе Коши оптимальный линейный алгоритм

расходится. В табл. 3.2 приведены величины полученные путем усреднения по ста реализациям для оценок порождаемых линейным алгоритмом, при В последней графе указана АДО, вычисляемая по формуле (3.4.21). Отход от оптимальной функции потерь приводит к увеличению АДО, при помехах типа Коши линейный алгоритм становится неработоспособным.

Рис. 3.16

Изменение ошибок порождаемых релейным алгоритмом (3.4.12), изображено на рис. 3.17: для лапласовых помех кривая а, для гауссовых кривая и для помех Коши кривая Наиболее быстрой сходимостью оценок обладает абсолютно оптимальный алгоритм (кривая а), меньшая скорость сходимости оптимального релейного алгоритма получается для гауссовой помехи (кривая б). Наконец, в отличие от линейного алгоритма, релейный алгоритм остается работоспособным при помехе Коши (кривая а). В табл. 3.3 приведены величины полученные путем усреднения по ста реализациям для оценок порожденных релейным алгоритмом при

Таблица 3.2 (см. скан) Линейный алгоритм. Зависимость от для различных помех

Таблица 3.3 (см. скан) Релейный алгоритм. Зависимость от для различных помех

. В последней графе приведено значение асимптотической дисперсии, вычисленной по формуле (3.4.21). Оптимальный релейный алгоритм остается работоспособным при помехах с бесконечной дисперсией.

Рассмотрим в заключение задачу идентификации простейшего динамического объекта

Рис. 3.17

Уравнение оптимальной настраиваемой модели имеет вид

Для помех, плотность распределения которых нормальна, абсолютно оптимальный алгоритм — линейный:

Для помех, плотность распределения которых лапласова, абсолютно оптимальный алгоритм — релейный:

(кликните для просмотра скана)

Заметим, что алгоритмы (3.4.48), и (3.4.49) получены из общего абсолютно оптимального алгоритма (3.2.10) заменой на его явное выражение, которое соответствует рекуррентной процедуре (3.2.11) с бесконечным начальным условием

Схемы абсолютно оптимальных линейного и релейного алгоритмов идентификации АР-объекта приведены на рис. 3.18 и рис. 3.19 соответственно. Изменение ошибок порождаемых линейным алгоритмом (3.4.48), изображено на рис. 3.20: для нормальных помех кривая о, для лапласовых помех кривая Изменение же ошибок порождаемых реальным алгоритмом (3.4.49), изображено на рис. 3.21: для лапласовых помех

— кривая а, для нормальных помех кривая

Как и следовало ожидать, наиболее быстрая сходимость достигается для абсолютно оптимальных алгоритмов.