4. Многомерный метод Кифера — Вольфовица

Мы рассмотрим в этом параграфе метод стохастической аппроксимации (составляющий содержание

теоремы 3), с помощью которого можно определять максимум функции регрессии нескольких переменных.

Теорема 3 (Блюм). В обозначениях теоремы 1 пусть переменная точка в Предположим, что каждому х отвечает случайная величина с соответствующей функцией регрессии Допустим без ограничения общности, что имеет единственный максимум при Пусть две последовательности положительных чисел, удовлетворяющие следующей совокупности условий:

Пусть с — положительное число и орт -нормальный базис в Построим случайный вектор используя независимых наблюдений случайных переменных и определяя

Продолжим построение рекуррентной последовательности случайных векторов, выбирая произвольно и определяя

где имеет распределение причем наблюдаемое значение х совпадает с Вектор является вектором направления максимального наклона гиперплоскости, определяемой векторами

Допустим, что

(i) является непрерывной функцией с непрерывными первыми и вторыми производными, обозначим вектор первых частных производных и матрицу вторых частных производных функции через соответственно;

(ii) вторые частные производные ограничены для

Обозначим, через вектор, координаты которого суть диагональные элементы матрицы а через вектор .

(iii) Обозначим через дисперсию Пусть положим без ограничения общности так что для всех

Допустим также, что

(iv) для любого положительного числа существует положительное число такое, что из следует

Тогда последовательность определенная равенством (1), с вероятностью единица сходится к нулю.

Доказательство. Разлагая получим для

Возьмем условное математическое ожидание для данного Получим

Так как ограниченная матрица и ограничена, то

где являются надлежащим образом подобранными константами. В силу наших предположений получаем

где это компонента вектора и для Отсюда

По предположению ограничена, например Тогда

После некоторых выкладок находим, что

где выбрано столь большим, чтобы и были одновременно неотрицательными.

Пусть последовательность случайных величин, определенная соотношениями

Заметим, что для достаточно большого

Отсюда для таких получаем

Это неравенство сохраняется, если мы возьмем условное математическое ожидание относительно от обеих частей. Заметим тецерь, что

сходится п. н. и что сходятся оба ряда

Это следует из условий, наложенных на и из определения Поэтому можно применить результат решения задач [приложение 2, § 5], чтобы получить сходимость п. н. к случайной величине. Теперь заметим, что ряд расходится к и что Поэтому ряд

сходится. Это вместе с (2) обеспечивает существование подпоследовательности для которой

Отсюда сходится п. н. к нулю. Так как непрерывна и имеем

откуда следует требуемый результат. Применение этого метода к задаче о случайных цепях можно найти у Грея [1].

5. Задачи

(см. скан)

(см. скан)

(см. скан)

(см. скан)