Рекуррентный алгоритм метода наименьших квадратов (последовательный регрессионный метод).

Представим себе реальный физический процесс, описываемый авторегрессионной моделью (9.2.11) с неизвестными параметрами Пусть требуется идентифицировать эти параметры в темпе реального процесса. Это означает, что оценка неизвестных параметров должна осуществляться сразу после очередного измерения выхода объекта. Используя метод наименьших квадратов, можно поступать так: после измерения вычислить в соответствии с (9.2.22) значение и затем найти оценку по формуле (9.2.23), после измерения, используя (9.2.22), (9.2.23), снова найти оценку и т. д.

Таким образом, после каждого измерения необходимо заново осуществлять обращение матрицы по формуле (9.2.22) и вычисление оценки по (9.2.23). В связи с этим возникает вопрос: нельзя ли найти в явной форме связь между оценкой после измерения, с одной стороны, и оценкой после измерения и результатами измерения — с другой. Такое рекуррентное соотношение существует и его использование называется оцениваванием параметров в замкнутом контуре или последовательным регрессионным методом.

Утверждение 9.2.1. Рекуррентный (последовательный) алгоритм метода наименьших квадратов для последовательной оценки параметров авторегрессионной модели (9.2.11) имеет вид:

(9.2.37)

где — оценка вектора параметров а после измерения выходной переменной у.

В качестве начальных условий для алгоритма можно принять

(9.2.39)

где а — достаточно большое положительное число. Доказательство утверждения несложно. Действительно, на основе (9.2.21), (9.2.22) запишем

(9.2.40)

Заменяя его оценкой , получим выражение

которое после умножения его слева на совпадает с (9.2.36).

Переходя к выводу соотношения (9.2.38), запишем (9.2.22) в

Умножая это равенство слева на и справа на получим

Отсюда следует, что

или

Умножая это выражение справа на и учитывая (9.2.42), получим (9.2.38), а подставляя его в первое из соотношений (9.2.37), получим второе.

Таким образом, утверждение доказано. Отметим, что одним из достоинств рекуррентного алгоритма является то обстоятельство, что он не содержит операции обращения матриц, так как входящее в (9.2.38) выражение является скаляром. Рекуррентный, или последовательный, алгоритм приводит к оценкам, обладающим следующими свойствами.

1. Если представляет собой последовательность независимых одинаково распределенных случайных величин, то оценка а является несмещенной и состоятельной.

2. Если последовательность гауссовская, то оценка эффективна.

Пример 9.2.2. Применим алгоритм для оценки параметра модели (9.2.31) из примера 9 2.1. Итак, пусть в результате измерений получено . Найдем вначале значение по формуле (9.2.38). Принимая во внимание, что в рассматриваемом случае — скаляры, запишем (9.2.38) в виде

(9.2.43)

Кроме того, в соответствии с (9 2 39) примем

(9.2.44)

тогда из (9.2.43) при получим

На основе (9 2.36) заключаем

(9.2.45)

Пусть после третьего измерения получено . Тогда оценку (9.2.45) можно уточнить. Для этого вычислим

(9.2.46)

и

Затем после четвертого измерения получим . Вновь уточняя оценку (9.2.46), найдем

(9.2.47)

Эта оценка приближается к оценке (9.2.33), полученной при использовании нерекуррентного алгоритма наименьших квадратов.