4.9.2. ЭЛЛИПТИЧЕСКИЕ ДОВЕРИТЕЛЬНЫЕ ОБЛАСТИ ДЛЯ ВЕКТОРА МАТЕМАТИЧЕСКОГО ОЖИДАНИЯ ДВУМЕРНОГО НОРМАЛЬНОГО РАСПРЕДЕЛЕНИЯ. ПРИБЛИЖЕННЫЕ ДОВЕРИТЕЛЬНЫЕ ОБЛАСТИ ДЛЯ ОЦЕНОК НАИБОЛЬШЕГО ПРАВДОПОДОБИЯ

Согласно теории оценка наибольшего правдоподобия в параметра в часто оказывается распределенной приближенно нормально где — выборочная дисперсия. Если действовать не очень аккуратно, можно считать, что распределение величины — стандартное нормальное и с вероятностью 0,95 ее значение попадает в интервал Отсюда

приблизительный 95%-ный доверительный интервал для в. В случае двух параметров, скажем,

соответствующее приближенное распределение для оценки наибольшего правдоподобия — двумерное нормальное с вектором

математического ожидания 0 и ковариационной матрицей V, которую можно оценить по выборке [см. раздел 6.2.5, п. 3]. Желательно получить 95%-ную доверительную область хотя бы в грубом приближении. Можно рассуждать следующим образом: если

то выборочная дисперсия равна равна Можно, разумеется, построить отдельные 95%-ные доверительные интервалы

для и Этого недостаточно, поскольку (как отмечено в разделе 4.9.1) отсюда не следует, что с вероятностью точка будет лежать в прямоугольнике (4.9.4). «Доверительное» утверждение для совокупности можно установить следующим образом. Оговорка «приближенно» означает, что — оценки наибольшего правдоподобия и их распределение не является в точности двумерным нормальным. Если бы это распределение было нормальным в точности, оговорку следовало бы снять. Для любого вектора случайный вектор

распределен нормально с ожиданием

и дисперсией

Поэтому 95%-ный доверительный интервал для

есть

При другом подходе, позволяющем построить двумерную доверительную область для 6, используется двумерный аналог центрального вероятностного интервала уровня 0,95 для одномерного нормального распределения, т. е. внутренность эллипса С, построенного так, чтобы плотность вероятности на его границе всюду была одинаковой и

где — плотность двумерного распределения. Тогда с вероятностью 0,95,

так что 95%-ная доверительная область для есть эллипс [результат переноса С на вектор ).

Эллипс С можно построить следующим образом. Плотность двумерного распределения [см. II, раздел 13.4.6] равна

Кривая С удовлетворяет уравнению

где должно быть определено. Напишем и так что имеет двумерное распределение [см. II, пример 13.4.8]. Под действием этого преобразования эллипс С переходит в круг

где

Остается найти из уравнения

Интеграл можно взять с помощью перехода к полярным координатам [см. IV, пример 6.2.3]. Уравнение при этом сводится к

откуда

Итак, 95%-ной доверительной областью для служит внутренность эллипса

где

(То же и для -ного доверительного интервала. В этом случае получаем уравнение , откуда ) Итак, если

то [см. I, раздел 6.4]

и уравнение имеет вид

Эта область является точной (но не единственной) 95%-ной доверительной областью для в, когда параметры известны точно. Если они определены приближенно, то и доверительная область, разумеется, будет приближенной.

Для линейной регрессии с независимыми нормально распределенными ошибками существует прямой способ построения точных доверительных областей — эллипсоидов для совокупности параметров (или их подмножества). Метод описан в разделе 8.3.2.