4.9. Неизвестная общая ковариационная матрица
Результаты для случая недиагональной неизвестной ковариационной матрицы (см. (4.7-6)) подобны тем, что получены в предыдущем разделе, но требуют выполнения некоторых дополнительных матричных выкладок. Пусть есть некоторая скалярная функция от элементов невырожденной матрицы V и пусть обозначает матрицу частных производных по элементам матрицы V, т. е.
Тогда справедливы следующие формулы (см. приложение А.2):
Применяя эти формулы к и учитывая, то V симметрична, т.е. получим
Уравнение можно переписать так:
Умножая обе части на V справа и слева, получим
Теперь мы имеем
откуда, подставляя получим после упрощения
Максимизация эквивалентна минимизации
Максимизация проводится в два этапа:
1. Ищется 0. максимизирующее (0) или минимизирующее ;
2. Оценивается по Здесь оценка также является смещенной. В разделе 7.13 изложены способы возможного устранения смещения.
Если пренебречь недиагональными элементами матрицы мы имеем, что В этом случае сводится к
Случаи, описанные нами в этом и предыдущих разделах, можно рассматривать как задачи, решаемые методом наименьших квадратов со взвешиванием, когда веса неизвестны. Формулы дают оценки максимума правдоподобия в случае нормального распределения ошибки. Привлекательно, однако, рекомендовать их применение, даже если неизвестен вид закона распределения, при условии, что предположения (а) и (б) раздела 4.7 справедливы (см. раздел 4.18). Использование проиллюстрировано на практических задачах в разделах 5.23 и 9.7.