11.8. Заключение

Рекуррентные алгоритмы идентификации являются основой построения большинства адаптивных систем. Используя идею осуществления одной итерации численной процедуры поиска в тот же момент времени, в который приходит новое включаемое в критерий наблюдение, можно получить рекуррентный алгоритм из его

нерекуррентного аналога. В некоторых частных случаях (например, для рекуррентных алгоритмов наименьших квадратов и инструментальных переменных) это приводит к алгоритмам, которые по накопленным данным вычисляют оценку рекуррентным способом. Хотя, в общем случае, рекуррентность означает немаксимальное использование информации, содержащейся в наблюдаемых данных.

Основываясь на описанной идее, можно выделить три основных общих класса рекуррентных методов:

1. Рекуррентные методы ошибки предсказания; см. (11.44).

2. Рекуррентные методы псевдолинейной регрессии; см. (11.57).

3. Рекуррентные методы инструментальных переменных; см (11.32).

Для неизменяющихся систем асимптотические свойства рекуррентного метода ошибки предсказания, использующего направление движения Гаусса - Ньютона, и его нерекуррентного аналога, совпадают. Этот результат очень важен, поскольку он означает, что обсуждение и результаты гл. 8 и 9, а также вытекающие из них практические рекомендации пользователю по выбору алгоритма, изложенные в части III, справедливы также в отношении рекуррентных методов ошибки предсказания. Сходимость методов псевдолинейной регрессии установлена при условии положительности действительной части некоторой передаточной функции, связанной с истинной системой.

Проблема идентификации включает в себя выбор пользователем разнообразных переменных и параметров. Большинство из них имеет отношение как к оцениванию в реальном масштабе времени, так и по накопленным данным. Рекуррентные алгоритмы включают, кроме того, две важные величины, которые могут оказывать значительное влияние на качество оценок: вектор движения и коэффициент усиления. Очевидно, для неизменяющихся систем направление Гаусса - Ньютона является очень хорошим выбором, даже несмотря на возможность большего объема вычислений по сравнению с другими направлениями. В качестве рекомендации по выбору коэффициента усиления можно сказать, что он должен отражать относительное содержание информации в текущих измерениях.

Принципы рекуррентной идентификации, описанные в этой главе, можно с одинаковым успехом применять к стохастическим и детерминированным системам. Различие, которое отчасти является семантическим, указывает на две возможности: (1) когда, формируя модель предсказания, можно применять некоторый вероятностный механизм или попросту угадывать, и (2) когда, выбирая коэффициент усиления, относительное содержание информации может формально интерпретироваться как отношение сигнал/шум или более интуитивным образом.

11.9. Комментарии к библиографии

Всеобъемлющее изложение рекуррентной идентификации в рамках данной главы имеется в книге Льюнга и Седерстрема [262]. Монография Янга [448] содержит подробное исследование методов рекуррентного оценивания с акцентом на методы инструментальных переменных. Уидроу и Стернс [432] основное внимание уделили адаптивным методам обработки сигналов. Адаптивному управлению посвящены, например, работы Острема [25], Ландау [227] и Гудвина и Сипа [142].

Раздел 11.2. Вывод рекуррентного алгоритма наименьших квадратов восходит к работе Гаусса [128], как отмечается в Приложении 2 монографии Янга [448]. Более ранней из современных ссылок является работа Плаккета [323]. Связь между рекуррентным алгоритмом наименьших квадратов и фильтром Калмана обсуждалась Хо [177], Бохлином [54] и Остремом и Витенмарком [31].

Раздел 11.3. Рекуррентный метод инструментальных переменных подробно обсуждается в работах Янга [445] и [448].

Раздел 11.4. Общий рекуррентный метод ошибки предсказания, представленный здесь, был получен Льюнгом [249]. Рекуррентный метод максимального правдоподобия (11.44) был получен Седерстремом [364] на основе идеи Острема [22]. Аналогичный алгоритм независимо был предложен Фухртом [126]. Мур и Вайс [296] предложили общий рекуррентный метод ошибки предсказания, основанный на несколько других предпосылках. Подробная библиография разветвлений этого метода представлена в книге Льюнга и Седерстрема [262]. Асимптотическое распределение для рекуррентного алгоритма максимального правдоподобия обсуждалось также Хэннаном [169] и Соло [382].

Раздел 11.5. По-видимому, первым рекуррентным алгоритмом псевдолинейной регрессии была схема оценивания но методу расширенных наименьших квадратов, разработанная Панюшкой [315] и Янгом [445]. Термин ”псевдолинейная регрессия” заимствован у Соло [380]. Анализ сходимости таких схем был выполнен Льюнгом [243], Муром и Лсдвичем [295] и Соло [381]. Классификация, представленная в табл. 11.1, восходит к работе Льюнга [248].

Раздел 11.6. Этот раздел основан на гл. 5 книги Льюнга и Седерстрема [262]. Улучшение свойств адаптации и выбор размера шага обсуждалось также в работах Бохлина [56], Бенвенисте и Руже [42] и Вайса и Митры [424].

Раздел 11.7. Глава 6 книги Льюнга и Седерстрема [262] содержит более детальное описание реализаций алгоритмов. Численные свойства схем изучались С. Льюнгом и Л. Льюнгом [267], Гроп, Джейн и Салахи [146], Мюллером [300] и Самсоном и Рэдди [352]. Алгоритмы быстрого вычисления вектора L(t) в (11.69) получены Льюнгом, Морфом и Фальконе [264] и обсуждались Караянисом, Манолакисом и Калоуптсидисом [76], Чьоффи и Кайлатом [80] и Лином [236]. Литература но решетчатым алгоритмам обширна. См., например, работы Ли, Морфа и Фридландера [229], Фридландера [123], Самсона [351] и монографию Хонига и Мессермидта [181].

Приложение 11 А. Кроме ссылок, указанных в тексте, подход к анализу сходимости рекуррентных алгоритмов, основанный на исследовании соответствующего обыкновенного дифференциального уравнения, обсуждался также в работах Льюнга [246] и [250], Кушнера и Кларка [222] и Метивье и Приоре [290]. Связь между простыми рекуррентными алгоритмами и соответствующими обыкновенными дифференциальными уравнениями была установлена Хасьминским [213] для алгоритмов с неубывающим коэффициентом усиления. Соответствующая техника исследования асимптотического распределения описана Кушнером и Хуангом [223] и Бенвенисте и Руже [42].

Для рекуррентных алгоритмов псевдолинейной регрессии успешно применялась мартингальная техника (см. [295] и [381]) исследования сходимости. Многочисленные применения этой техники к алгоритмам адаптивного управления изложены в книге Гудвина и Сина [142].

11.10. Задачи

(см. скан)

(см. скан)