2. Существование минимума у сильно выпуклой функции и единственность минимума у строго выпуклой функции.

Пусть функция определена на выпуклом множестве

Будем говорить, что эта функция имеет в точке множества локальный минимум, если существует такая -окрестность этой точки что значение не больше значений этой функции во всех точках пересечения -окрестности и множества При таком определении понятие локального минимума включает в себя и точки краевого минимума функции на границе множества

Таким образом, при данном нами определении можно подразделить точки минимума на точки внутреннего локального минимума (для случая, когда эти точки являются внутренними точками и точки краевого локального минимума (для случая, когда эти точки являются граничными точками

Для изучения вопроса о существовании и единственности точки локального минимума нам понадобится следующая вспомогательная лемма.

Лемма 3. Пусть на выпуклом множестве Q задана дифференцируемая выпуклая функция Для того чтобы эта функция имела локальный минимум в точке множества Q, необходимо и достаточно, чтобы для любого вектора для которого точка принадлежит множеству Q, было справедливо неравенство

Доказательство. Необходимость. В силу утверждения, доказанного в п. 8 § 4 гл. 12, левая часть (12.1.15) равна произведению производной функции в точке по направлению вектора на длину этого вектора:

где — единичный вектор в направлении

Так как является точкой локального минимума функции , то производная по любому направлению неотрицательна (точнее, равна нулю в случае, если — точка внутреннего локального экстремума, и неотрицательна в случае, если — точка краевого локального экстремума).

Итак, правая часть (12.1.16) (а потому и левая часть неотрицательна. Необходимость доказана.

Достаточность. Пусть для любого вектора для которого точка принадлежит Q, справедливо неравенство (12.1.15). Докажем, что точка является точкой локального минимума функции

Так как функция по условию является выпуклой на множестве Q, то для любых двух точек этого множества и любого числа t из сегмента справедливо неравенство (12.1.5). Полагая в этом неравенстве мы можем переписать это неравенство в виде

Считая фиксированными, перейдем в неравенстве (12.1.17) к пределу при . По определению производной по направлению (см. п. 8 § 4 гл. 12) предел при правой части (12.1.17) в точности равен произведению, стоящему в правой части (12.1.16). Поэтому в силу соотношений (12.1.15) и (12.1.16) этот предел неотрицателен. Учитывая, что левая часть (12.1.17) не зависит от t, мы получим в пределе при из неравенства (12.1.17), что

Последнее неравенство, справедливое для любого вектора для которого точка принадлежит Q, доказывает, что функция имеет в точке локальный минимум. Достаточность доказана.

Лемма 3 полностью доказана.

Замечание 1. Из приведенного нами доказательства очевидно, что для случая, когда точка является внутренней точкой множества Q, т. е. когда речь идет о внутреннем локальном минимуме, в формулировке леммы 3 знак неравенстве (12.1.15) можно заменить на знак

Замечание 2. При доказательстве необходимости леммы 3 мы не использовали требования выпуклости функции Поэтому доказательство необходимости проходит без требования выпуклости функции Иными словами, справедливо следующее

Утверждение. Если функция дифференцируема на выпуклом множестве Q и имеет локальный минимум во внутренней [в граничной] точке этого множества, то для любого вектора для которого точка принадлежит Q, справедливо неравенство

Перейдем к вопросу об единственности и о существовании точки локального минимума.

Теорема (об единственности локального минимума у строго выпуклой функции). Если функция дифференцируема и строго выпукла на выпуклом множестве Q, то она может иметь локальный минимум только в одной точке этого множества.

Доказательство.. Предположим, что функция имеет локальный минимум в двух различных точка множества Тогда условие выпуклости (12.1.5) для точек можно записать в виде

(здесь t — любое число из интервала ).

Меняя в соотношении (12.1.8) точки ролями, мы получим неравенство

В пределе при правая часть (12.1.18) [соответственно правая часть (12.1.19)] дает производную функции по направлению вектора [соответственно вектора взятую в точке [соответственно в точке умноженную на Так как обе точки являются точками локального минимума, то обе указанные производные по направлению неотрицательны, т. е. пределы правых частей (12.1.18) и (12.1.19) при оба неотрицательны.

Таким образом, из неравенств (12.1.18) и (12.1.19) в пределе при мы получим

Сопоставление двух последних неравенств приводит к заключению о том,

Используя равенство мы получим из условия строгой выпуклости (12.1.6), что

для всех t из интервала

Неравенство (12.1.20) противоречит тому, что функция имеет локальный минимум в точке (в точке как угодно близкой при малом t к точке функция имеет значение, меньшее значения

Полученное противоречие доказывает, что наше предположение о том, что функция имеет локальный минимум в двух различных точках множества Q, является ошибочным. Теорема доказана.

Существование локального минимума докажем при более сильных ограничениях, чем единственность.

Теорема (о существовании локального минимума у сильно выпуклой функции). Если функция сильно выпукла на замкнутом выпуклом множестве Q, то

у этой функции существует на множестве Q точка локального минимума.

Доказательство. Сначала отметим, что теорема заведомо справедлива для случая, когда выпуклое замкнутое множество Q является, кроме того, ограниченным. В этом случае по второй теореме Вейерштрасса (см. теорему 12.7) функция будучи во всяком случае непрерывной на множестве Q, достигает в некоторой точке этого множества своего минимального на Q значения. Указанная точка и является точкой локального минимума.

Остается доказать теорему в случае, когда выпуклое замкнутое множество Q не является ограниченным. В этом случае мы фиксируем некоторую внутреннюю точку множества Q и разложим функцию по формуле Тейлора с центром в точке 1, взяв остаточный член в форме Лагранжа (см. п. 3 § 5 гл. 12). Указанное разложение будет иметь вид

где — число из интервала так что точка принадлежит отрезку, соединяющему точки

Если обозначить через вектор то для будет справедливо равенство

Из этого равенства вытекает, что

Далее, используя левое неравенство в определении сильной выпуклости (12.1.14), мы придем к неравенству

Из соотношений (12.1.21) — (12.1.23) заключаем, что

так что

Учитывая, что точка фиксирована и величина представляет собой некоторое фиксированное число, мы заведомо можем выбрать положительное число настолько большим, чтобы при выражение в квадратных скобках в (12.1.24) было положительным.

Это означает, что при справедливо неравенство т. е. всюду вне замкнутого шара радиуса с центром в точке значения превосходят значение (в центре указанного шара).

Обозначим через пересечение множества Q с указанным шаром Так как оба множества Q и являются выпуклыми и замкнутыми, - то и их пересечение также является выпуклым и замкнутым. Так как, кроме того, множество является: ограниченным, то по доказанному выше функция имеет на множестве единственную точку локального минимума.

Поскольку мы доказали, что во всех точках Q, лежащих за пределами значения превосходят то эти значения тем более превосходят т. е. точка является точкой локального минимума и на всем множестве

Теорема полностью доказана.