6.8. Некоторый особые случаи
Рассмотрим целевую функцию в форме, обычной для метода на. именыних квадратов со взвешиванием измерений:
Следовательно,
Равенство
служит примером другой интересной целевой функции, возникающей, когда для подмножества переменных
(в количестве, не превосходящем числа
ковариации неизвестны, в то время как остальные (если есть) переменные
имеют известную ковариационную матрицу
Тогда (предполагая нулевыми корреляции между
мы имеем
Вектор
образуется из элементов
Матрица Гессе
имеет сложный вид, но мы можем пользоваться гауссовскими аппроксимациями, при которых, там где потребуется, матрица
заменяет ковариационную матрицу для вектора
Тогда мы получаем:
Впоследствии мы будем предполагать, что равенства
применяются всегда, причем (в случае частично неизвестных ковариаций)
Заметим, что подматрицы
сохраняются неизменными, а подматрицы
меняются от итерации к итерации. Если подматрицы неизвестных когзарнаций из матрицы V предполагаются диагональным то мы выбираем из подматрицы
только соответствующие диагональные элементы и подставляем нули на место недиагональных элементов.
Рассмотрим теперь алгоритм в деталях. Полагая по определению
заметим, что
(см. скан)
так что
Вычисления, которые мы оставляем в качестве упражнения, приводят к результатам: х
Псевдоиелевая функция из раздела 6.7 принимает вид
Дальнейшие упрощения возникают в случае, когда система сводится к одному уравнению. Тогда есть просто единственное число
в то время как
и В есть векторы
соответственно:
Следовательно,
Алгоритм исходит всегда из некоторого начального приближения
и равенства
Некоторые трудности возникают тогда, когда ковариационные матрицы V, по меньшей мере частично, неизвестны. В таком случае, согласно равенству
определенные строки и столбцы матрицы берутся из матрицы
но в первой итерации
чем обусловливается вырожденность матрицы
Более того, беглый взгляд на равенство
обнаруживает, что все координаты вектора
соответствующие переменным у. будут нулями.
Эта трудность легко преодолевается за счет произвольного назначения для неизвестных элементов матрицы V и для первой итерации, только некоторых разумных начальных приближений. Этот метод иллюстрируется в разделах 6.13 и 6.14.