Метод наименьших квадратов [9.1].
Пусть в модели 
точно измеряются и требуется определить параметры 
уравнения (9.2.11), которое принимает вид
(9.2.13)
Записывая это уравнение для 
, получим систему алгебраических уравнений
решая которую найдем искомые числа 
.
Допустим теперь, что 
измеряется с погрешностями. Тогда для каждой пары уравнений вида (9.2.14), записанной для различных k (следующая пара порождается 
, затем 
и т. д.), получим различные значения искомых параметров 
. Возникает мысль определить 
так, чтобы разность (невязка) между правой и левой частями уравнения (9.2.13) при 
была наименьшей. Для этого сформируем сумму квадратов невязок
(9.2.15)
Необходимое и достаточное условие минимума составляет систему из двух алгебраических уравнений
(9.2.16)
решая которую найдем искомые числа 
.
Рассмотрим теперь определение параметров модели (9.2.11), когда 
- неизмеряемая неизвестная функция.
Запишем авторегрессионную модель (9.2.11) в векторной форме
(9.2.18)
где
(9.2.19)
В (9.2.18) в отличие от (9.2.11) принято начальное значение 
. Это связано с тем, что при 
вектор 
содержит только результаты измерений, тогда как в противном случае он содержал бы неизвестные начальные условия 
и т. д.
Поскольку функция 
неизвестна, то будем искать такую оценку 
вектора 
, чтобы сумма квадратов «невязок»
(9.2.20)
была минимальной. Дифференцируя (9.2.20) по компонентам вектора а и приравнивая нулю производные, получим
(9.2.21)
Вводя обозначение
найдем из (9.2.21) искомый вектор
(9.2.23)
Выведем еще одну эквивалентную (9.2.23) формулу для оценки вектора а на основе метода наименьших квадратов. В связи с этим введем в рассмотрение 
-мерные векторы 
также матрицу 
:
(9.2.24)
При этих обозначениях уравнения (9.2.18) для 
и минимизируемая функция 
примут вид
(9.2.25)
Дифференцируя (9.2.26) по компонентам вектора а и приравнивая производную нулю, получим 
, отсюда
(9.2.27)
Пример 9.2.1. Пусть имеется асимптотически устойчивый объект управления, описываемый уравнением
(9.2.28)
в котором параметр 
и воздействие 
неизвестны. Пусть в результате измерений выхода объекта в известные моменты времени 
получены
(9.2.29)
Требуется определить параметр 
.
Переходя к решению этой задачи, аппроксимируем (9.2.28) разностным уравнением вида
и представим это уравнение как авторегрессионную модель (9.2.11):
(9.2.31)
Вычислим по формуле (9.2.22) значение 
. В рассматриваемом случае в соответствии с 
и, таким образом,
На основе (9.2.23) заключаем, что
(9.2.33)
и, следовательно, оценка искомого значения
(9.2.34)
Если использовать для определения параметра 
формулу (9.2.27), то следует ввести вектор 
и матрицу 
:
тогда получим вновь
(9.2.35)
