Фиг. 11.6. (см. скан)
— уровень шума,
На эти соотношения представлены блок-схемой. Многочлены предполагаются взаимно простыми; некоторые их коэффициенты могут быть равны нулю; все корни лежат внутри единичной окружности.
Модель описывается соотношением
которое представляется блок-схемами фиг. 11.6, б, в или В блоках легко узнать фильтры, преобразующие случайный процесс в белый шум. Следует заметить, что уравнения (11.44) и (11.45) можно записать в векторной форме
Эта схема охватывает ряд проблем, рассмотренных в работах Острема, например:
регрессия,
авто регрессия,
— оценивание параметров методом скользящего среднего,
оценивание дробно-рациональной спектральной плотности,
оценивание по методу наименьших квадратов
марковский подход,
идентификация свободного от шумов объекта при наличии ошибок измерений.
Благодаря гауссовскому распределению шума функция правдоподобия для имеет вид
или иначе
Оценка максимального правдоподобия К получается из уравнения
в виде
Для дальнейшего удобно обозначить
где вектор подлежащих оцениванию параметров. Из и фиг. 11.6 видно, что липейно зависит от и что нелинейно зависит от у. Следовательно, поиск максимума или путем приравнивания производной к нулю не обязательно является простой процедурой. Острей использовал метод Ныогона — Рафсона
Подробности читатоль может найти в цитированной работе. Использование метода максимального правдоподобия для оценивания параметров рассмотрено также в [3-5, 17, 36, 38].
Метод максимального правдоподобия может также рассматриваться как процедура определения коэффициентов модели предсказания
из условия минимума критерия
Отметим, что формулу (11.44) можно также переписать в виде
Это означает, что метод максимального правдоподобия можно также рассматривать как обобщенный метод наименьших квадратов, когда характеристика фильтра определяется из модели (11.40) [6, 8]. Метод
максимального правдоподобия широко применялся в промышленных измерениях (см., например, [3, 7, 17]). В последней из упомянутых работ проведено сравнение его с другими методами, такими, как корреляционные методы и обобщенный метод наименьших квадратов. Метод максимума правдоподобия применялся и при анализе временных рядов (если положить Оценка максимального правдоподобия — существенно нелинейная функция параметров. Поскольку при анализе временных рядов преимущественно рассматриваются квадратичные функции, такие, как ковариации и спектральные плотности, можно ожидать, что оценки будут выражаться как нелинейные функции ковариаций выборки. Оценки такого рода, асимптотически эквивалентные оценкам максимального правдоподобия, для случая анализа параметрических временных рядов приводятся в [39]. Обобщения метода максимума правдоподобия на многомерный случай сделаны в [11] и [38].