9.3. КОНЦЕПЦИЯ ИДЕНТИФИЦИРУЕМОСТИ В БАЙЕСОВСКОМ АНАЛИЗЕ

В этом параграфе мы перейдем к рассмотрению проблемы идентифицируемости. Вначале точно так же, как и в теории выборочных исследований, важно подчеркнуть, что проблема идентифицируемости возникает не только для моделей, содержащих системы одновременных уравнений, но и при рассмотрении всех статистических моделей. Иными словами, в терминах теории выборочных исследований делается допущение о том, что наблюдения у генерируются ФПВ где 0 есть вектор параметров. При этом можно задаться вопросом: не существует ли другой вектор параметров, скажем вектор такой что Если это имеет место, то ясно, что вне зависимости от информации, содержащейся в произвольной выборке, все-таки сохраняется проблема выбора: решить, генерируются ли наблюдения моделью или моделью т. е. возникает задача идентификации модели, генерирующей наблюдения, В этой ситуации говорят, что модель не является идентифицируемой. Соответственно имеет место проблема идентификации параметров; в рассматриваемом случае параметры не являются идентифицируемыми. Обычно в теории выборочных исследований на параметры модели накладываются точные ограничения для достижения идентифицируемости; например, определенные элементы могут быть по предположению равными нулю. Если мы обозначим ограниченный вектор параметров через . Для всех векторов нетождественных то модель является идентифицируемой или, что эквивалентно, вектор параметров является идентифицируемым.

Так как априорная информация в байесовском подходе не обязательно имеет форму точных ограничений, но и может быть гибко задана с помощью априорных ФПВ, существует необходимость расширения концепции идентифицируемости, чтобы обеспечить возможность использования в байесовском подходе более общих видов априорной информации. Приступим к рассмотрению этой проблемы.

Предположим, что мы имеем две модели, скажем, модель с вектором параметров и априорной ФПВ и модель со своим вектором параметров и априорной ФПВ Если обе модели наряду с их априорной информацией ведут в точности к той же самой маргинальной ФПВ для некоторого массива наблюдений то мы будем говорить, по определению, что модель вместе с ее априорной информацией и вместе с ее априорной информацией являются эмпирически эквивалентными, и мы не в состоянии применить данные для их различения. Другими словами, можно сказать, что с ее априорной информацией неидентифицируема относительно с ее априорной информацией. Мы имеем

где у является вектором наблюдений; совместной ФПВ у и при заданной модели есть ФПВ вектора у при заданном векторе и модели является априорной ФПВ для вектора параметров связанного с моделью Тогда маргинальная ФПВ вектора у имеет вид

Аналогично, для модели с ее связанным вектором параметров имеем

Тогда вместе с соответствующей им априорной информацией определяются как эмпирически эквивалентные в том и только в том случае, если

При выполнении условия (9.23) мы не в состоянии решить вопрос о том, какая же информация «объясняет» выборочные данные — модель и информация, содержащаяся в или модель и информация, содержащаяся в . Оба случая предполагают одинаковую природу распределения наблюдений.

Рассмотрим частный случай, когда модели представляются в виде систем одновременных уравнений, и пусть имеет вид

с ковариационной матрицей возмущений вид

где А есть произвольная невырожденная матрица, или

с ковариационной матрицей возмущений причем . В этих условиях, которые не накладывают ограничений на элементы ковариационной матрицы, мы имеем, как известно,

где

Считая справедливым тождество (9.27), посмотрим, что получится при использовании «неинформативных» априорных ФПВ для параметров. Пусть наши неинформативные или расплывчатые априорные

ФПВ инвариантны относительно рассмотренного выше класса преобразований, а именно: . В этом случае априорная ФПВ для будет иметь ту же самую форму, что априорная ФПВ для . Тогда

и

будут тождественными в смысле соотношения (9.27) и предположений относительно способов получения неинформативных или расплывчатых априорных ФПВ.

Конечно, при использовании информативных априорных ФПВ общего вида, ФПВ (9.28) и (9.29), разумеется, не будут тождественны, вследствие чего можно утверждать, что и соответствующая ей априорная информация не являются эмпирически эквивалентной и соответствующей ей априорной информации. Таким образом, в связи с общей моделью, содержащей систему линейных одновременных уравнений, можно утверждать, что для ее идентифицируемости должна быть использована априорная информация. Для определения меры строгости, с которой априорная информация идентифицирует относительно мы предложим использование J, или «дивергенцию», величину, используемую в теории информации в качестве возможной меры идентифицируемости, т. е. рассмотрим

Этот подход к проблеме идентифицируемости легко может быть распространен на случай апостериорных ФПВ для параметров. Например,

если допущения, обеспечивающие равенства в (9.28) и (9.29), справедливы, то можно увидеть, что апостериорные ФПВ для и не различимы.. Мы имеем для апостериорных ФПВ следующие выражения:

и

Из (9.27), равенств (9.28) и (9.29) и в условиях, заданных инвариантных априорных ФПВ Джеффриса, следует, что (9.31) и (9.32) точно совпадают в смысле формы и параметров распределения. Таким образом, нет оснований для суждения о том, относится ли апостериорная ФПВ к или к . Но это и означает наличие проблемы идентифицируемости.

Мы обсудили проблему идентифицируемости в достаточно общих терминах, применимых к широкому кругу статистических моделей, включающему, как частный случай, модели, содержащие системы одновременных уравнений. Так как проблема идентифицируемости для систем одновременных уравнений часто обсуждается в терминах соотношений между параметрами модели, записанной в структурной и приведенной формах, то мы рассмотрим этот подход в терминах байесовского анализа, используя работу Дреза [36]. Приведенная форма системы одновременных уравнений, имеет вид

где Обозначим ковариационную матрицу возмущений приведенной формы через и сначала сделаем допущение, что матрица и известна. Тогда, рассматривая П и Г как матрицы неизвестных параметров, мы в качестве совместной апостериорной ФПВ для них будем иметь

где является априорной ФПВ и функцией правдоподобия. Из (9.34) сразу следует, что

Таким образом, условная апостериорная ФПВ матрицы Г при заданной матрице П пропорциональна априорной условной ФПВ для Г при заданной П. Этот результат, полученный Дрезом [36], показывает, что поскольку условная априорная ФПВ не зависит от наблюдений, то на апостериорную условную ФПВ влияет только априорная информация. В то же время именно априорная ФПВ матрицы модифицируется в результате использования информации

выборки и естественно, что выборочная информация улучшает наше знание матрицы П.

В традиционном подходе для достижения идентифицируемости вводятся точные ограничения на элементы матриц . Ограничиваясь рассмотрением случая точных ограничений на элементы матриц Г и В, мы можем различить три ситуации, а именно: а) ограничений слишком мало для того, чтобы получить единственный набор элементов матриц Г и В при известных значениях элементов матрицы П — так называемый случай «недоидентифицируемости»; б) ограничений достаточно для получения единственного множества значений элементов матриц Г и В при известных значениях элементов матрицы П — так называемый случай «точной идентифицируемости»; в) ограничений слишком много для того, чтобы получить единственный набор элементов матриц Г и В при известных значениях элементов П — так называемый случай «сверхидентифицируемости». В терминах байесовского анализа, следуя изложению Дреза [36], с нестохастическими априорными ограничениями в случае точной идентифицируемости и априорной ФПВ для матрицы П, имеющей вид вся масса сосредоточена в единственной точке 2. Если одно (или, в более общем случае, из этих ограничений опущено, то мы имеем случай (а) — случай недоидентифицируемости. В этом случае масса не будет сосредоточена в одной точке, а будет равномерно распределена вдоль линии или, в более общем случае, — вдоль -мерной гиперплоскости. Следовательно, имеет место одномерная или -мерная равномерные апостериорные ФПВ или Наконец, если мы добавим одно (или ) дополнительных априорных ограничений, то априорная ФПВ (П) не будет равномерно распреде-. ленной, так как не все значения П являются свободными при заданных точных априорных ограничениях. Ниже будут рассмотрены примеры, иллюстрирующие некоторые аспекты этих упомянутых выше ситуаций.