Глава 2. МЕТОД РОББИНСА—МОНРО

1. Введение

В этой главе рассматриваются математические аспекты метода Роббинса — Монро. Вначале приводится анализ наличия или отсутствия реакции на внешнее воздействие, проливающий некоторый свет на математические тонкости этого метода. Далее доказывается принадлежащий Дворецкому общий результат, имеющий много модификаций, которые открывают различные пути к упрощению итерационных процедур.

Если процесс является регулярным, то можно ослабить условия на итерационные коэффициенты.

Этот вопрос обсуждается в § 2.4. На практике обычно имеют дело с теорией малых выборок; представляется интересным проанализировать ее связь с теорией больших выборок. Этот вопрос обсуждается в § 2.5.

2. Анализ наличия реакции

В этом параграфе рассматривается простой вариант метода Роббинса — Монро. Он иллюстрирует математическую технику, используемую при доказательстве общего результата, и подготавливает читателя к изучению того, с чем он может встретиться в этой главе.

При решении многих задач, связанных с биологическими испытаниями и прикладной статистикой, данные о наличии или отсутствии реакции мы получаем непосредственно из эксперимента. Так, например, при испытании инсектицидов можно наблюдать, реагирует ли насекомое на некоторую дозу этого вещества. Таким образом, задача состоит в опреде. лении критической дозы для реакции данной

интенсивности. Математически задача может быть сформулирована следующим образом.

Пусть — случайная, величина с функцией распределения Если действительное число, а случайная величина, такая, что

то

Теперь является наблюдаемой реакцией на дозу х. Задача состоит в определении значения х для реакции данной интенсивности а. Ее можно решать так, как это описано в следующей теореме.

Теорема 1. Пусть функция распределения, действительное число, такое, что существует. действительное число 0, удовлетворяющее условию допустим, что дифференцируема в Пусть действительное число, положительное целое число. Положим

где случайная величина, такая, что

Тогда последовательность случайных величин сходится к 0 в среднеквадратичном и, следовательно, по вероятности.

Доказательство. Пусть Покажем, что Из соотношения (1) имеем

(кликните для просмотра скана)

таким образом, сумма ограничена и не убывает, и потому ряд сходится. Следовательно,

существует. Покажем, что

Предположим, что существует последовательность действительных чисел такая, что

тогда, Чтобы убедиться в этом, заметим, что из условий (1) и (2) вытекает следующее:

Предположим теперь, что Так как то существует натуральное число такое, что если то Таким образом, из неравенств

следует, что конечна, а это противоречит условию (3). Поэтому Остается показать, что существует последовательность действительных чисел удовлетворяющая условиям (1), (2) и (3).

(кликните для просмотра скана)

Пусть такое положительное целое число, что неравенство влечет за собой Рассмотрим Если то

где Поэтому

и

по крайней мере для где достаточно велико. Из этого следует, что

ибо

а для достаточно больших

Тем самым условие (3) доказано и завершено доказательство теоремы. Таким образом, можно получить решение задачи о наличии реакции с помощью метода стохастической аппроксимации.