§ 12.10. Приближение оптимальной прцоедуры ограниченными процедурами

Установив существование оптимальной процедуры последовательного решения в классе А, перейдём теперь к задаче действительного построения этой оптимальной процедуры или ее аппроксимации. Поскольку для построения ограниченной процедуры последовательного решения, оптимальной в классе всех

процедур, при которых проводится не более наблюдений, имеется удобный метод индукции назад, естественно поставить вопрос о возможности аппроксимации оптимальной процедуры такими оптимальными ограниченными процедурами.

Для заданных процедуры последовательного решения и натурального числа пусть будет ограниченная процедура, определяемая следующим образом. Для первых наблюдений совпадает с процедурой Однако, согласно выбор всегда заканчивается после -го наблюдения, если только он не закончился раньше, независимо от того, предписывает процедура 6 проводить дальнейшие наблюдения или нет. Говорят, что получается усечением процедуры после наблюдений. Конечно, если сама процедура всегда требует не более наблюдений, то процедуры совпадают.

Следующая теорема и ее следствия дают условия, при которых риск процедуры, получающейся усечением оптимальной процедуры после наблюдений, будет близок к байесовскому риску

Теорема 1. Пусть для

а обозначает процедуру, получающуюся усечением оптимальной процедуры после наблюдателей. Если то

Доказательство. Для каждых процедуры и натурального числа пусть определено формулой

Если согласно процедуре наблюдения вообще проводить не стоит, то теорема тривиальна. Поэтому мы можем считать, что требует проведения по крайней мере одного наблюдения. Тогда

Рассмотрим теперь процедуру где фиксированное натуральное число. Риск этой процедуры равен

Сумма в (5) состоит лишь из слагаемых, так как процедура должна закончиться самое большее после наблюдений. Далее, из определения видно, что должны выполняться следующие соотношения:

Следовательно для и

где определено формулой (1), а

Из равенства (5) и из предыдущих рассуждений вытекает, что

Риск оптимальной процедуры включающий в себя среднюю стоимость выбора, конечен. Следовательно, значит, при Так как по предположению то (2) является следствием (4) и (9).

Следствие 1. Пусть процедуры таковы же, что и в теореме 1. Тогда соотношение (2) справедливо, если выполнено хотя бы одно из следующих двух условий:

1. Существует число К, такое, что для всех

Доказательство. Предположим, что выполнено условие 1. Тогда из определения (1) величины выводим

(в этом соотношении последний предел равен 0 в силу того, что , а тогда (2) имеет место согласно теореме 1.

Подинтегральная функция в (1) неотрицательна. Поэтому, заменяя область интегрирования в этом соотношению на все выборочное пространство приходим к неравенству

Если выполнено условие 2, то опять-таки все получается с помощью теоремы 1 и неравенства (12).

Для конкретных задач решения проверка условия 2 следствия 1, как правило, не представляет труда. Условие 1 также часто можно проверить, даже несмотря на то, что оптимальная процедура и множество неизвестны. Дело в том, что во многих задачах соотношение (10) справедливо для всех значений из выборочного пространства Оба эти условия не требуют ограниченности функции потерь Как в примере 3 § 12.6, касающемся оценивания с квадратической функцией потерь, так и в примере 4 того же параграфа, относящемся к теории проверки гипотез с линейной функцией потерь, функция неограничена, по выполнены условия 1 и 2 следствия 1.

Приводимое ниже следствие показывает, что при этих условиях процедуру можно аппроксимировать ограниченными процедурами, оптимальными в классе всех процедур, требующих не более наблюдений. Так же как и в § 12.5, обозначим через общий риск оптимальной ограниченной процедуры и через общий риск оптимальной процедуры Таким образом, это байесовский риск при априорном распределении

Следствие 2. Если выполнено хотя бы одно из условий 1, 2 «следствия 1, то

Доказательство. Пусть, как и раньше, процедура, получающаяся усечением процедуры после наблюдений. Так как заканчивается самое большее после наблюдений, то из оптимальности следует, что при

Остается применить следствие 1.

Из следствия 2 видно, что для достаточно больших значений риск оптимальной процедуры можно при определенных условиях аппроксимировать риском оптимальной ограниченной процедуры. Конечно, оптимальная процедура может быть сама ограничена. Предположим, например, что существует значение такое, что с при всех т. е. после -го наблюдения риск от принятия решения из не превосходит цены очередного наблюдения. Тогда, согласно байесовской процедуре, не надо проводить более наблюдений.

Дальнейшие замечания и ссылки на литературу. Вот некоторые из работ, в которых рассматриваются последовательные критерии гипотез и связанные с ними вопросы: Собел и Вальд (1949), Собел (1953), Михалевич (1956), Кифер и Вейсс (1957),

Уэзерилл (1961), Моригути и Роббинс (1962), Лечнер (1962), Чжен Пин (1963), Энскомб (1963), Рэй (1963), Дж. Гхош (1964), Уиттл (1964), Чернов и Рэй (1965). Другие работы по этой тематике указаны в конце § 12.6. Асимптотическим исследованием байесовских процедур занимались Дж. Шварц (1962), Кифер и Сэкс (1963), Бикел и Яхав (1967) и Лорден (1967).