§ 10.11. Аппроксимации в случае векторных параметров

Рассмотрим теперь вкратце задачу, в которой векторный параметр со значениями в подмножестве пространства Используем следующие обозначения:

Для каждого определим как -матрицу, элемент которой равен

Матрица называется информационной матрицей Фишера.

Если обобщить предположение таким образом, чтобы частные производные первого и второго порядков относительно компонент можно было вычислять, дифференцируя под знаком интеграла от о. в. п. , то элемент информационной матрицы Фишера можно будет также записать в виде

Подходящее обобщение предположения выглядит следующим образом: матрица положительно определена для всех и ее элементы являются непрерывными функциями от

В доказательстве теоремы 1 § 10.7, устанавливающей существование состоятельной последовательности решений уравнения правдоподобия, существенным образом использовалось то обстоятельство, что параметр веществен; обобщение этого доказательства на случай -мерного вектора довольно сложно. Эти обобщения рассматривались Чандой (1954) и Доссом (1962, 1963). Из их результатов и из общих результатов Вальда (1949) можно вывести соответствующие теоремы для многомерного случая. В рассматриваемой ситуации система к уравнений правдоподобия имеет вид

Предположим, что наблюдения образуют повторную выборку с о. в. Тогда при определенных условиях, которые здесь не обсуждаются, существуют решения системы уравнений правдоподобия, такие, что с вероятностью 1.

Далее, теорема 1 § 10.9 допускает непосредственное обобщение на векторный случай. Пусть при любом обозначает невырожденную к -матрицу с непрерывными элементами, для которой Для всякого фиксированного вектора положим

При условии, что выполнены соответствующие обобщения предположений выводим, что с вероятностью

Соотношения (5) и (6) можно интерпретировать следующим образом. Пусть априорная п. р. в. параметра положительна и нецрерывна в окрестности точки и объем выборки достаточно велик. Тогда апостериорная после наблюдений которым отвечает значение приближенно пропорциональна правой части (6). Из (5) видно тогда, что апостериорная п. р. в. приближенно пропорциональна функции

Другими словами, апостериорное распределение является приближенно многомерным нормальным распределением с вектором средних и матрицей точности

Рассмотрим в качестве примера выборку из совокупности, содержащей элементы к различных типов. Если есть вероятность получить элемент типа то каждое наблюдение можно трактовать как имеющее мультиномиальное распределение с параметрами

Так как то информационная матрица Фишера будет положительно определенной лишь в случае, если исключить одну из компонент вектора скажем т. е. если Тогда при всех

где Дифференцируя, получаем следующие формулы, верные при :

Из (3) видно, что элементы -матрицы имеют такой вид:

Предположим теперь, что произведено наблюдений и при к пусть обозначает число наблюдений типа Тогда состоятельная последовательность решений системы уравнений правдоподобия (4) задается вектором

Следовательно, при больших апостериорное распределение является приближенно -мерным нормальным распределением с вектором средних и матрицей точности

Предыдущие рассуждения дают следующий интересный результат. Апостериорная многомерная нормальная имеет вид (7). Производя/элементарные алгебраические преобразования, приходим к равенству

Пусть обозначает случайную величину из правой части равенства (12). Из результата упр. 12 к гл. 5 следует, что при любых заданных значениях распределение является приближенно -распределением с степенями свободы. Случайная величина это один из вариантов стандартной статистики, применяемой в критерии Здесь в знаменатель входят сами наблюденные значения в то время как обычно принято записывать в знаменателе их средние значения Известно (см. ) Нейман (1949), Джеффрис (1961), гл. 4), что для каждого фиксированного значения и для больших распределение хорошо аппроксимируется -распределением с степенями свободы. Таким образом, в нашем примере выводы о основанные на апостериорном распределении случайной величины согласуются с выводами о значении доставляемыми обычным критерием согласия. Конечно, с точки зрения, развитой в этом параграфе, статистик может предпочесть работать со всем -мерным апостериорным распределением а не с апостериорным распределением одной случайной величины

Наш пример на самом деле носит не частный характер, а является хорошо известным и важным фактом асимптотической теории оценивания по методу максимального правдоподобия [см. работы, указанные в конце § 10.7, а также статью Согласно этой теории, при определенных условиях для любого заданного значения и для больших распределение случайного вектора является приближенно нормальным распределением с вектором средних 0 и единичной матрицей точности. Матрица уже была определена в этом параграфе. Соответствующие условия типа регулярности гарантируют, что

случайный вектор имеет приближенно то же многомерное нормальное распределение при всех Но, как мы уже показали в настоящем параграфе, этот многомерный нормальный закон является также приближенным апостериорным распределением для при любых значениях наблюдений.

Дальнейшие замечания и ссылки на литературу. Приведенный в этом параграфе пример с мультиномиальным распределением изучался фон Мизесом еще в 1919 г. (см. фон Мизес (1964)), Ю. Нейманом (1929), Линдли (1965), гл. 7, и Уотсоном (1966). Линдли (1964) и Блох и Уотсон (1967) рассматривали мультиномиальное распределение в более общих задачах с таблицами сопряженности признаков.

Чернов (1952, 1956) исследовал асимптотическое поведение байесовского риска при в некоторых задачах решения.