6. Применения
В § 2 мы видели, что имеется ряд прикладных задач, в которых может быть использован метод стохастической аппроксимации. Однако эти задачи могут быть решены и другими статистическими методами, например, в некоторых случаях можно применить метод наименьших квадратов.
Кушнер [2], сравнив эффективность обоих методов, пришел к заключению, что метод наименьших
квадратов дает лучшие результаты, чем метод стохастической аппроксимации. Однако важным преимуществом метода стохастической аппроксимации является то, что он не требует знания входа системы, необходимо лишь знать ее выход, а с такой ситуацией мы чаще сталкиваемся на практике. Кроме того, не обязательно знать вид функции регрессии или оценивать неизвестные параметры. Таким образом, стохастическая аппроксимация является непараметрическйм методом, довольно часто порождающим немарковский случайный процесс.
Существуют три основные задачи, связанные с процедурой стохастической аппроксимации. Во-первых, интересен вопрос о сходимости и видах сходимости последовательности, порожденной методом, к искомому решению уравнения. Во-вторых, полезно иметь информацию об асимптотическом распределении последовательности. И наконец, в-третьих, поскольку стохастическая аппроксимация является последовательной процедурой, важно знать правило оптимальной остановки для данной ситуации. Первая задача рассматривается в гл. 2, 3, 5 и 7, вторая — в гл. 6. Представляется, что для этих двух задач получен достаточно удовлетворительный ответ; задача же о последовательном правиле оптимальной остановки с трудом поддается решению. Этому вопросу посвящена статья Фаррела [1].
