Метод наискорейшего спуска.

Метод наискорейшего спуска является модификацией метода градиентного поиска. Здесь также определяют градиент в исходной точке, но затем движение происходит по выбранному направлению до тех пор, пока функция качества продолжает уменьшаться (рис. 11.8). Затем вновь определяется направление градиента и организуется прямолинейное движение в этом направлении до уменьшения функции качества и получения минимального значения ее по данному направлению. Метод наискорейшего спуска значительно сокращает процедуру поиска экстремума по сравнению с методом градиента, поскольку в нем уменьшается количество точек, в которых осуществляется определение величины и направления градиента.

Пример Пусть функция качества имеет следующий вид

Найдем минимум методом наискорейшего спуска из точки . В исходной точке частные производные

Двигаясь в направлении, обратном полученному градиенту, найдем координаты следующей точки т. е.

где а — пока неизвестный шаг перехода из точки в точку

Шаг определяем, подставляя (11.26) в (11.24), т. е.

или, учитывая (11.26),

Преобразуя (11.28), получим

Находим условия

или

откуда Подставив в (11.26), находим координаты точки :

Поступая аналогичным образом на второй итерации, получим следующие значения координат:

Итак, практически за две итерации поиска система оказалась достаточно близкой к минимуму