3. Распределения с монотонным отношением правдоподобия

Случай, когда и проверяемая гипотеза, и класс альтернатив являются простыми, представляет главным образом теоретический интерес, так как в прикладных задачах встречаются, как правило, параметрические семейства распределений, зависящие от одного или нескольких непрерывных параметров. В простейшей из подобных ситуаций распределения зависят от одного действительного параметра и проверяемая гипотеза является односторонней, скажем . Наиболее мощный критерий проверки при альтернативе зависит, вообще говоря, от и потому не будет Однако при некоторых дополнительных требованиях РНМ критерий существует. Говорят, что зависящее от действительного параметра семейство плотностей имеет монотонное отношение правдоподобия, если для любых распределения различны и существует функция такая, что отношение является неубывающей функцией от

Теорема 2. Пусть — действительный параметр и случайная величина X имеет плотность вероятности с монотонным относительно отношением правдоподобия. Тогда

(I) Для проверки при конкурирующей гипотезе существует РНМ критерий

где выбираются так, чтобы выполнялось равенство

(II) Функция мощности

этого критерия строго возрастает во всех точках, где

(III) Для всех критерий, определенный равенствами (9) и является РНМ для проверки при конкурирующей при уровне

(IV) Для любого наш критерий минимизирует (вероятность ошибки первого рода) в классе всех критериев, удовлетворяющих (10).

Доказательство. (I) и Рассмотрим сначала гипотезу и некоторую простую альтернативу Применяя фундаментальную лемму, мы находим, что наиболее мощный критерий отклоняет гипотезу, когда

или, эквивалентным образом, когда

Из теоремы 1 (I) следует, что существуют такие постоянные С и у, что равенства (9) и (10) выполняются. Если то по теореме соответствующий критерий является наиболее мощным для проверки при конкурирующей и при уровне Утверждение (II) теоремы вытекает теперь из следствия 1. Так как не убывает, то критерий удовлетворяет неравенствам

Класс критериев, для которых верно содержится в классе критериев с Так как данный критерий максимизирует в этом более широком классе, он тем более максимизирует при условии Так как он не зависит от специального выбора альтернативы то он является РНМ при альтернативе

(III) доказывается аналогичными рассуждениями.

(IV) следует из того факта, что критерий, минимизирующий мощность в задаче проверки простой гипотезы при простой альтернативе, получается из фундаментальной леммы (теорема 1) если в ней все неравенства заменить на обратные.

Очевидными изменениями проведенных рассуждений мы получим решение двойственной проблемы

Ниже будут даны некоторые примеры семейств с монотонным отношением правдоподобия и соответствующих РНМ критериев. Однако главные применения теорема 2 получит позже, когда в качестве подобных семейств будут выступать или множества условных распределений, взятых по отношению к некоторой достаточной статистике (главы 4 и 5), или распределения максимального инварианта (главы 6 и 7).

Пример 1. Из партии, содержащей деталей, наудачу берут деталей и каждую из них проверяют. Если полное число дефектных изделий в партии равно то число X дефектных изделий в выборке имеет гипергеометрическое распределение

Интерпретируя как плотность по отношению к мере которая для каждого множества на прямой равна числу содержащихся в нем точек с целыми неотрицательными координатами, и замечая, что

мы заключаем, что рассматриваемые распределения имеют монотонное отношение правдоподобия с Следовательно, существует РНМ критерий проверки гипотезы при альтернативе Этот критерий отвергает когда X чрезмерно велико. Аналогичный критерий можно построить для проверки

Важный класс семейств распределений, для которых выполняются предпосылки теоремы 2, образует однопараметрические экспоненциальные семейства.

Следствие 2. Пусть — действительный параметр и пусть X имеет распределение с плотностью (по отношению к некоторой мере

где строго монотонная функция. Тогда существует РНМ критерий для проверки при альтернативе Если возрастает, то

где определяются равенством Если убывает, то эти неравенства заменяются противоположными.

Если X имеет дискретное распределение, то правая часть (12) будет обозначаться Как и в примере может рассматриваться как плотность по отношению к мере которая

для любого множества на прямой равна числу возможных значений входящих в него.

Пример 2. Биномиальное распределение с

удовлетворяет (12) с Проблема проверки гипотезы возникает, например, в обстановке примера 1, если предположить, что процесс производства подвергается статистическому контролю и при этом результаты обследования выбранных изделий независимы с вероятностью встречи дефектного изделия, равной Число X дефектных изделий в выборке объема является в этом случае достаточной статистикой для совместного распределения случайных величин где обозначает число дефектных изделий при обследовании (т.е. 0 или 1). Очевидно, X имеет биномиальное распределение Следовательно, существует РНМ критерий проверки , который отвергает эту гипотезу, если X слишком мало.

Другой план выбора, который иногда применяется в «биномиальной» ситуации, — это обратный биномиальный выбор. Здесь испытания заканчиваются только по достижении определенного числа успехов (например, выздоровлений при использовании нового способа лечения). Пусть обозначает число испытаний между успехами. Тогда вероятность того, что равна Поэтому совместное распределение величин равно

Это семейство оказывается экспоненциальным с Так как убывающая функция то РНМ критерий проверки гипотезы отвергает ее, когда слишком мало. Этот вывод совпадает с тем, чего естественно было бы ожидать, поскольку наступление успехов при числе испытаний, лишь немногим превосходящем указывает на большое значение Статистика равная разности между числом испытаний до успеха включительно и числом имеет отрицательно-биномиальное распределение (глава 1, задача 1 (I)):

Пример 3. Если независимы и распределены по закону Пуассона с то их совместное распределение равно

Мы снова получаем экспоненциальное семейство с Односторонние гипотезы о значении могут возникать, например, если обозначает плотность бактерий, количество бактерий в пробах; или если обозначают число -частиц, выделяемых в равные и непересекающиеся промежутки времени радиоактивным источником, и т. д. РНМ критерий для гипотезы А, отвергает ее, если чрезмерно велика. Здесь статистика на которой основан критерий, сама имеет распределение Пуассона с параметром

Вместо того чтобы наблюдать радиоактивное вещество заданное время или подсчитывать число бактерий на определенном участке стеклянной пластинки. можно использовать также метод «обратной выборки». В этом

случае эксперимент продолжается (или интервал наблюдения расширяется) до появления из интересующих нас объектов. Результатом наблюдения является система чисел равных соответственно времени до первого появления, времени от первого появления до второго и т. д. Если наблюдаемый процесс — процесс Пуассона и число появлений во временном или пространственном промежутке длины имеет распределение

то величины независимы и каждая имеет показательное распределение с плотностью для (см. задачу 1 (II) в главе 1). Совместные плотности

образуют экспоненциальное семейство с критерий проверки отвергает ее, когда слишком мало. Так как имеет плотность при , т. е. такую же, как -распределение с двумя степенями свободы, то имеет -распределение с степенями свободы. Поэтому границу критической области можно определить по таблицам -распределения.

В формулировке проблемы проверки гипотез, данной в начале этой главы, потери, возникающие от принятия неправильного решения, выражались в терминах ошибок первого и второго рода. Чтобы прийти к более детальному описанию задачи проверки при альтернативе можно поставить ее как проблему с решениями (принятие ) и (отклонение ) и функцией потерь Обычно при и строго возрастает при при и строго убывает при Разность удовлетворяет неравенству

Теорема 3. (I) В предположениях теоремы 2 семейство критериев, определяемых формулами (9) и (10) с является существенно полным, если допустить, что функции потерь удовлетворяют (13).

(II) Это семейство является минимальным существенно полным, если множество точек х, для которых не зависит от .

Доказательство. (I) Для любого критерия функция риска равна

и, следовательно, разность двух функций риска равна

Это выражение для всех , если

Для заданного критерия положим Из теоремы 2 (I) следует, что существует удовлетворяющий (9) и критерий уровня а для проверки гипотезы при альтернативе По теореме также минимизирует мощность при Поэтому при всех , что и требовалось доказать.

(II) Пусть имеют размеры соответственно и, кроме того, являются РНМ для проверки гипотезы при альтернативе Тогда при всех исключая случай Рассматривая задачу проверки той же гипотезы при альтернативе заключаем, что это неравенство выполняется и при всех исключая случай Так как, в силу наших предположений, исключительные случаи невозможны, то при . Следовательно, каждая из двух функций риска лучше другой для подходящих значений .

Теперь мы видим, что полученный ранее класс РНМ критериев, соответствующих различным величинам уровня значимости, является существенно полным классом в значительно более общей проблеме решения, в которой функции потерь должны удовлетворять некоторым широким качественным условиям. С этой точки зрения фиксирование уровня значимости можно рассматривать как простой способ выбора какой-либо отдельной процедуры из существенно полного класса.

Свойство монотонности отношения правдоподобия порождает весьма сильное упорядочение семейства распределений. В дальнейшем мы будем использовать также следующее несколько более слабое определение. Семейство одномерных функций распределения будет называться стохастически возрастающим (этот же термин будет применяться и к случайным величинам с такими функциями распределения), если эти распределения различны и из вытекает для всех х. Тогда, если имеют распределения соответственно, то при всех так что X имеет тенденцию принимать большие значения, чем . В этом случае мы скажем, что случайная величина стохастически больше Это отношение

между величинами поясняется следующей леммой, характеризующей стохастическое упорядочение двух распределений.

Лемма 1. Пусть две функции распределения на прямой. Неравенство выполняется при всех х в том и только том случае, когда существуют две неубывающие функции и случайная величина V такие, что при всех распределения и совпадают с соответственно.

Доказательство. Допустим сначала, что требуемые и V существуют. Тогда

при всех х. Обратно, пусть при всех х и пусть Эти функции не убывают и для них выполняются неравенства (мы для краткости опускаем индекс

Поэтому влечет обратно, влечет так что неравенства эквивалентны. Пусть V распределено равномерно на Тогда Из того, что при всех вытекает, что при всех чем доказательство завершается.

Одним из простейших примеров стохастически упорядоченного семейства является семейство с параметром сдвига, т. е. семейство, для которого

Покажем, что это семейство стохастически возрастает. Пусть X — случайная величина с функцией распределения Тогда из вытекает

что и требовалось доказать.

Другим примером могут служить семейства с монотонным отношением правдоподобия. Это видно из приводимой ниже леммы, в которой указываются некоторые существенные черты таких семейств.

Лемма 2. Пусть семейство одномерных плотностей с отношением правдоподобия, монотонным относительно х.

(I) Если неубывающая функция х, то - неубывающая функция ; если независимы и имеют одну и ту же плотность функция от неубывающая по каждому аргументу в отдельности, то является неубывающей функцией .

(II) Для любых функции распределения X, соответствующие значениям параметра, удовлетворяют неравенству

(III) Пусть функция, меняющая знак ровно один раз. Более точно, существует значение такое, что Тогда существует для которого при при этом исключается случай, когда положительно (или отрицательно) при всех .

Доказательство. (I) Пусть Обозначим множества, на которых соответственно Если то и

что доказывает первое утверждение. Для применяется индукция.

(II) Положим при в других случаях. Тогда утверждение (II) следует из (I).

(III) Мы покажем сначала, что при любых из вытекает Если при следовательно, Допустим поэтому, что Тогда на множестве и

Выбирая мы приходим к нужному результату.

Часть леммы показывает, что каждое семейство распределений с монотонным по х отношением правдоподобия является стохастически возрастающим. Обратное утверждение неверно.

Так, для распределений Коши

отношение правдоподобия не будет монотонным, хотя семейство стохастически возрастает (так как параметр сдвига). Условия, при выполнении которых семейство с параметром сдвига обладает монотонным отношением правдоподобия, даны в главе 8 (пример 1).