теорем гл. 4. Таким, образом, доказательства этой главы почти сводятся к установлению замкнутости
Алгоритмы, изучаемые в этой главе, — это метод скорейшего спуска Коши, модифицированный метод Ньютона, метод циклического координатного спуска и метод второго порядка. В дополнение к этому в приложении рассматривается задача одномерного поиска, основанного на отображении
и приводятся процедуры золотого сечения и деления пополам.
5.1. ЗАВИСИМОСТЬ ПОДХОДЯЩЕЙ ТОЧКИ ОТ АЛГОРИТМА
Все методы встречают определенные трудности в зависимости от их возможностей. Большинство, хотя и не все, алгоритмов для решения задачи (5.1) могут гарантировать лишь определение такой точки х, для которой
Для таких случаев множество подходящих точек
определяется как
До тех нор пока мы не предполагаем вогнутость или некоторое другое родственное свойство, из условия
не следует, что х — оптимальная точка. Если алгоритм не может обеспечивать достижение оптимальной точки, то нет смысла определять
как множество оптимальных точек.
Метод второго порядка более мощный, чем другие методы, так как он определяет точку х, в которой не только
, но имеют место также некоторые условия второго порядка. При этом множество
также определяется соответственно. Тем не менее и в этом случае
не будет определено как множество оптимальных точек.
Вообще мы определяем множество Й так, чтобы быть уверенным в следующем: алгоритм сходится к точке, находящейся в нем. Таким образом, множество подходящих точек
зависит от самого алгоритма.