§ 12.16. Аппроксимации для среднего числа наблюдений

Рассмотрим теперь задачу о приближениях для среднего числа наблюдений требуемых последовательным критерием отношения вероятностей. Следующая теорема впервые была доказана Вальдом (1947). Мы приводим, здесь доказательство, близкое к доказательству, данному Джонсоном (1959).

Теорема 1. Пусть последовательность независимых одинаково распределенных случайных величин, для которых Для всякой последовательной процедуры со свойством имеет место следующее равенство:

Доказательство. Пусть обозначает общую ф. р. случайных величин Тогда

Последнее равенство в (2) справедливо, так как Предпоследнее равенство следует из того, что событие зависит лишь от случайных величин Перемена порядка суммирования, использованная для получения третьего от конца равенства, законна, если

Но справедливость этого соотношения вытекает из остальных равенств цепочки (2) с замененными на

Пусть случайная величина с тем же распределением, что и у всех величин Из теоремы 1 § 12.15 и только что полученного результата следует, что для последовательного критерия отношения вероятностей (8) § 12.15 при выполняется соотношение

Если пренебречь разницей между значением последней суммы и соответствующим граничным значением а или то независимо от того, или мы можем

аппроксимировать условные математические ожидания в последнем из равенств (4) следующим образом:

Приближения же для вероятностей могут быть получены с помощью соотношения (6) § 12.15. Так как то из соотношений (4) и (5) находим

Неравенство Йенсена и определение (7) § 12.15 случайной величины дают

Аналогично

Соотношения (6) § 12.15 и (6) настоящего параграфа на самом деле являются равенствами, если последняя сумма всегда в точности равна а или Последнее условие выполнен, например, в случае, когда случайные величины могут принимать только три значения причем обе границы кратны В качестве иллюстрации рассмотрим пример 1 § 12.6. Если в этом примере считать, что наблюдения X при для X при то

Из соотношения (7) § 12.15 следует, что может принимать только два значения: Таким образом, для примера 1 § 12.16 в формулах (6) § 12.15 и (6) настоящего параграфа имеет место знак точного равенства, если а — отрицательное число, кратное положительное число, также кратное

В задаче решения с функцией потерь, задаваемой таблицей 12.3, риск любой последовательной процедуры равен

Для произвольных фиксированных границ можно получить аппроксимацию риска последовательного критерия отношения вероятностей, определенного соотношением (8) § 12.15, подставив в соотношение (9) выражения (6) § 12.15 и (6) этого параграфа. Оптимальный последовательный критерий отношения вероятностей находится тогда путем определения значений доставляющих риску (9) минимум. Сравнение этого минимального риска с являющимся риском от немедленного принятия решения, покажет, надо ли принимать решение без всяких наблюдений или же следует применить последовательный критерий отношения вероятностей, основанный на найденных значениях

Нахождение значений минимизирующих риск (9), вообще говоря, весьма сложно. Однако при малой цене с можно воспользоваться следующими приближенными формулами [Чернов (1959)]. При небольшой цене наблюдения оптимальная процедура обычно предписывает проведение большого числа наблюдений. В этом случае границы отстоят друг от друга достаточно далеко, т. е. большие числа. Из соотношений (6) § 12.15 и (6) настоящего параграфа получаем тогда следующие приближенные соотношения:

Подставляя эти приближенные значения в (9) и полагая видим, что доставляющие минимум риску, имеют вид

Величины и называются информационными числами. Их роль в статистике обсуждается в книге Кульбака (1959).

Если считать, что цена с весьма мала, то для приближенных значений задаваемых формулами (11), можно указать более простые формулы

Из (9), (10) и (12) видно, что байесовский риск оптимального

последовательного критерия отношения правдоподобия имеет вид

Из (11) и (12) следует, что границы оптимальной процедуры зависят главным образом от цены с и мало чувствительны к ущербам и априорной вероятности и виду распределения наблюдений. Далее, из (13) видно, что при оптимальной процедуре риск от принятия неправильного решения, имеющий порядок с, относительно мал по сравнению со средней стоимостью наблюдений, имеющей порядок

Дальнейшие замечания и ссылки на литературу. Оптимальные свойства последовательного критерия отношения вероятностей были изучены первоначально Вальдом и Вольфовицем (1948) и Эрроу, Блекуэллом и Гиршиком (1949); дальнейшие обобщения и модификации исследовались в работах Дворецкого, Кифера и Вольфовица (1953), Блесболга (1957), Сэвиджа (1957), Гиршика (1958), Андерсона и Фридмана (1960), Дж. Гхоша (1961), Беркхолдера и Вийсмана (1963) и Маттеса (1963). Эти свойства описаны также в книге Лемана (1959), § 3.12. Другщ варианты рассмотренного критерия и некоторые их применения были указаны Де Гроотом и Нэдлером (1958) и Андерсоном (1960, 1964b).

УПРАЖНЕНИЯ

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)

(см. скан)