14.2. Проверка статистических гипотез

Настоящий и два последующих параграфа посвящены некоторым основным статистическим принципам и процедурам; при этом лишь бегло упоминаются их применения в радиосвязи и радиолокации.

Эти принципы и процедуры, конечно, не могут здесь быть рассмотрены детально. Начнем с рассмотрения задачи проверки двух альтернативных статистических гипотез, что представляет собой простейший случай проверки гипотез.

Итак, будем рассматривать следующую ситуацию. Наблюдается событие, которое может быть порождено одной из двух взаимно исключающих друг друга причин или которое сопутствует одному из двух взаимно исключающих друг друга явлений природы. Гипотеза о том, что событие обусловлено первой из двух причин, обозначается через а гипотеза о том, что событие обусловлено второй причиной, — через . Требуется установить подходящее правило для выбора между гипотезами или , т. е. для решения вопроса о том, которая из двух причин наблюдаемого события в каком-то смысле более правдоподобна. Правило, по которому отыскивается решение, должно быть установлено до наблюдения события. Очевидно, что для формулировки такого правила необходимо иметь некоторые сведения о причинах событий и связях причин с событиями, которые могут происходить. В теории статистических решений эти сведения задаются в форме указания распределений вероятностей.

Чтобы быть более точными, определим пространство Y всех возможных значений наблюдаемой величины (или величин), зависящей от двух взаимно исключающих друг друга причин одна из которых должна иметь место в действительности. Мы предполагаем, что если имеет место то на Y задан известный вероятностный закон определяющий вероятность того, что наблюдаемая величина принимает любое значение из фиксированного множества. Аналогично, мы предполагаем, что причине соответствует другой известный вероятностный закон заданный на . Пусть, далее, эти распределения вероятностей обладают плотностями распределения соответственно где у — точки пространства Мы будем также иногда предполагать, что известны вероятности , где появления причин Задача состоит в установлении разумного правила для решения вопроса о выборе между . Это означает, что пространство Y надо разделить на две части так, чтобы для всякого результата наблюдения у можно было бы сказать, какую из причин, или мы считаем действительно имеющей место.

Байесовское решение — апостериорная вероятность.

Рассмотрим сформулированную выше задачу при известных вероятностях для . Эти вероятности обычно называются априорными вероятностями. Если М — некоторое множество значений у, то, согласно закону Байеса, условные вероятности при заданном М равны

Взяв в качестве М совокупность значений и используя введенные выше обозначения, получаем, что отношение условных. вероятностей равно

Вероятности иногда называются апостериорными вероятностями событий Очень разумным правилом для принятия решения во многих примерах является следующее правило: после того как сделано наблюдение у, следует выбрать гипотезу если условная вероятность превышает следует выбрать Ну, если превышает и следует выбрать любую из них, скажем если условные вероятности равны. Иными словами,

Если нет различия в важности между обоими родами ошибок, т. е. между выбором когда на самом деле имеет место и выбором когда на самом деле имеет место то, придерживаясь этого правила, наблюдатель, обрабатывающий длинную последовательность повторных независимых наблюдений, может быть уверен в том, что вред, причиняемый неверными заключениями, окажется минимальным.

Если ошибки обоих родов неодинаковы по важности, то представляется целесообразным ввести критерий, связанный с предпочтением ошибок одного из родов, и для этого умножнть пороговое значение на некоторую постоянную, отличную от единицы. О том, как это сделать точно, мы скажем более ясно при рассмотрении той же задачи с несколько иной точки зрения в следующем параграфе.

После того как решение принято, возможна одна из следующих четырех ситуаций: 1) правильной является гипотеза и решение принято, что верна правильной является а решение принято, что верна правильной является а решение принято, что верна правильной является и принято решение, что верна Каждая из этих ситуаций соответствует получению наблюдателем дополнительно к имевшимся у него знаниям некоторого количества истинной или ложной информации. Предположим, что мы можем связать с каждой из указанных ситуаций некоторую численную величину выигрыша или потери. Мы можем также говорить только о потерях, подразумевая, что отрицательная потеря — это выигрыш. Итак, свяжем с каждой из четырех перечисленных выше ситуаций значение потери, обозначив их соответственно через Общие ожидаемые потери для наблюдателя будут тогда равны среднему от этих четырех величин, взвешенных в соответствии с вероятностью появления каждой из них. Иными словами,

Фигурирующие здесь вероятности зависят от принятого решающего правила. Обозначим через совокупность точек у из такую, что если результат наблюдения есть у, то мы выбираем и через остальную часть в которой мы выбираем Тогда равенство (14.7) принимает вид

где вероятность того, что у попадает в область если гипотеза , является истинной. Требуется выбрать (и, значит, ) так, чтобы потери были наименьшими. Для решения этой задачи наложим на значения потерь одно совершенно естественное ограничение: предположим, что, какая бы гипотеза ни была правильной, ложное решение приводит к большим потерям, чем правильное. Тогда

Используя тот факт, что

и

получаем из (14.8), что

Первые два слагаемых в (14.10) постоянны и потому не зависят от выбора поэтому для обеспечения минимума область должна выбираться так, чтобы интеграл в (14.10) был минимален. Сделать это нетрудно, ибо первое слагаемое в подинтегральном выражении всегда а второе слагаемое всегда поэтому достаточно выбрать за совокупность тех точек, в которых первое слагаемое подинтегральной функции по абсолютной величине больше, чем второе. Таким образом, состоит из тех точек у, в которых

относится остальная часть У, включая и те точки у, в которых При принятое правило сводится к тому, которое задается неравенством (14.6). Если то решение, задаваемое неравенством (14.11), определяет обеспечивающее наименьшую общую вероятность ошибки. Итак, минимизируя вероятность ошибки, мы приходим к правилу решения, которое идентично следующему правилу: следует выбрать ту из гипотез которая обладает большей апостериорной вероятностью.

Решение задачи проверки двух гипотез, даваемое неравенством (14.11), мы будем называть байесовским решением. Оно представляется удовлетворительным в тех случаях, когда оно может быть применено. Однако на практике нередко возникают трудности в задании величин потерь; кроме того, на семантические и практические трудности наталкивается и определение априорных вероятностей. В байесовское решение входят только разности это позволяет, не ограничивая свободы выбора, всегда полагать Таким образом, необходимо задать значения отражающие относительную величину потерь, связанных с ошибками обоих родов. Нетрудно представить себе обстоятельства, при которых это сделать нелегко, ибо все последствия ложных решений того и иного вида могут быть неизвестны. Пусть, например, задача состоит в том, чтобы решить, означает ли эхо-сигнал радиолокатора наличие на море некоторого объекта или нет; при этом значительно более серьезной ошибкой явится решение, что объекта нет, когда на самом деле он есть, чем решение о наличии объекта, когда на самом деле его нет. Но редко можно утверждать с уверенностью, что ошибка первого рода в тысячу раз серьезней ошибки второго рода.

Деликатным является и вопрос о смысле априорных вероятностей. Если приписать вероятность гипотезе в том смысле, в котором мы использовали термин вероятность, то нужно будет рассматривать как событие, т. е. как подмножество выборочного пространства. Решение вопроса о том, окажется ли правильной или нет, зависит от исхода случайного опыта. Однако на практике истинность или ложность часто определяется не случайностью, а известными естественными законами или, может быть, волей какого-то индивидуума; и единственной причиной для введения статистических критериев является то, что наблюдатель не знает истинного положения вещей. При таких обстоятельствах нельзя представить себе случайный эксперимент, имеющий возможным исходом гипотезу Тот, кто вводит априорную вероятность, вводит и кажущуюся случайность, являющуюся расплатой за его неведение. Так, в примере приема сообщений быстродействующей телеграфной радиосвязи передача посылки или паузы есть результат преднамеренного разумного выбора, сделанного тем, кто посылает информацию. В этом случае введение определенных априорных вероятностей разных символов можно оправдать лишь тем, что факт передачи в некоторый момент времени некоторого частного сообщения является результатом того, что можно рассматривать как случайное стечение обстоятельств.

Эти краткие замечания показывают, что понятие априорной вероятности не всегда совпадает с обычным определением вероятности при помощи приписывания весов подмножествам выборочного пространства. С другой стороны, можно утверждать, что субъективные вероятности, характеризующие степень уверенности в наступлении событий, можно совершенно законно использовать в качестве априорных вероятностей 1).

Однако если даже кто-либо допускает, что имеет смысл постулировать априорные вероятности для гипотез, то он будет, вероятно, вынужден согласиться, что при некоторых обстоятельствах затруднительно указать правильные значения . В упомянутом выше примере быстродействующей телеграфной радиосвязи практических трудностей не возникает; если есть гипотеза о том, что переданным сигналом была пауза, то вполне естественно принять в качестве относительную частоту появления пауз в кодированном английском тексте. Иначе, однако, обстоит дело в задаче о радиолокационном обнаружении объекта; пусть, например, гипотеза о том, что корабль находится, скажем, на участке площадью на предельной для данного

радиолокатора дистанции, а какие-либо дополнительные сведения о движении корабля отсутствуют; при этом определить сколько-нибудь достоверную величину очевидно, затруднительно.

Итак, подводя итоги, можем сказать, что байесовское решение, определяемое неравенством (14.11), гарантирует минимум ожидаемых потерь для наблюдателя. Нередко возникают трудности с применением этого решения, во-первых, из-за трудности в задании проигрышей и, во-вторых, из-за трудности в задании априорных вероятностей. Если потери, связанные с ошибками обоих родов, одинаковы, то процедура сводится к более простому байесовскому критерию (14.6), который минимизирует общую вероятность ошибки или максимизирует апостериорную вероятность правильной гипотезы. Остановимся на этом последнем положении. Естественным поведением наблюдателя является стремление обеспечить минимум ожидаемых потерь, т. е. использовать процедуру, определяемую неравенством (14.11), если имеется достаточно информации для того, чтобы это было возможно. Если информации недостаточно и невозможно задать частные значения потерь, то естественно (и так обычно и поступают на практике) обеспечить наименьшую вероятность ошибки, т. е. использовать критерий, определяемый неравенством (14.6). Но это означает, что используемое решающее правило совпадает с правилом, основанным на уравнивании значений отдельных видов потерь, даже если наблюдатель вводит критерий, вовсе не использующий понятие потери.