4.9. Неизвестная общая ковариационная матрица
Результаты для случая недиагональной неизвестной ковариационной матрицы (см. (4.7-6)) подобны тем, что получены в предыдущем разделе, но требуют выполнения некоторых дополнительных матричных выкладок. Пусть
есть некоторая скалярная функция от элементов невырожденной матрицы V и пусть
обозначает матрицу частных производных
по элементам матрицы V, т. е.
Тогда справедливы следующие формулы (см. приложение А.2):
Применяя эти формулы к
и учитывая,
то V симметрична, т.е.
получим
Уравнение
можно переписать так:
Умножая обе части
на V справа и слева, получим
Теперь мы имеем
откуда, подставляя
получим после упрощения
Максимизация
эквивалентна минимизации
Максимизация проводится в два этапа:
1. Ищется 0. максимизирующее (0) или минимизирующее
;
2. Оценивается
по
Здесь оценка также является смещенной. В разделе 7.13 изложены способы возможного устранения смещения.
Если пренебречь недиагональными элементами матрицы
мы имеем, что
В этом случае
сводится к
Случаи, описанные нами в этом и предыдущих разделах, можно рассматривать как задачи, решаемые методом наименьших квадратов со взвешиванием, когда веса неизвестны. Формулы
дают оценки максимума правдоподобия в случае нормального распределения ошибки. Привлекательно, однако, рекомендовать их применение, даже если неизвестен вид закона распределения, при условии, что предположения (а) и (б) раздела 4.7 справедливы (см. раздел 4.18). Использование
проиллюстрировано на практических задачах в разделах 5.23 и 9.7.