§ 3.13. Применение метода градиентного спуска для решения нелинейной краевой задачи общего вида

Пусть дана нелинейная система

и краевые двухточечные условия

общего вида, где и Ф — некоторые нелинейные вектор-функции. Предполагается, что условия существования решения такой краевой задачи выполнены. Существование решения может вытекать и из самого физического (механического) смысла задачи.

Одним из эффективных методов решения задачи является метод градиентного спуска например, [20]). Ставится задача отыскания начального вектора минимизирующего величину

которая рассматривается как функция и при этом отыскивается с помощью последовательных приближений приближающихся к по направлению градиента функции — решение исходной системы (7.3.59) при начальном условии так что зависит от как явно, так и неявно посредством

Нулевое приближение может быть выбрано, вообще говоря, произвольно, но, разумеется, целесообразно, чтобы было более или менее близким к точному искомому вектору

Переход от любого осуществляется по формуле

где — вектор с компонентами

причем — малая положительная постоянная, выбираемая произвольно, единичный вектор по оси компоненты вектора некоторая постоянная, выбираемая специальным образом.

Смысл вектора заключается в том, что если рассматривается как функция то есть дискретный эквивалент градиента функции в точке Отсюда название метод градиентного спуска.

Для определения вектора и при заданных и А требуется выполнить следующее.

1. Построить решений (где — размерность вектора исходной системы (7.3.59), соответствующих вариантам начальных условий:

и обозначаемых через соответственно, так что

2. Построить векторы для этих решений на правом конце отрезка

3. Найти векторы ), соответствующие краевым условиям (7.3.60).

4. Найти значения функций

После всего этого компоненты вектора вычисляем согласно (7.3.63). Если оказывается, что то в следующем приближении нет необходимости.

Постоянная в (7.3.62) выбирается достаточно малой по абсолютной величине и так, чтобы значение оказалось наименьшим по сравнению со всеми значениями для определяемого по формуле

где фиксированы. Для этого можно задать некоторую последовательность малых по абсолютной величине

значений и построить решения исходной системы (7.3.59) при начальных условиях

далее найти векторы значения , наконец, интерполяции или дальнейшего варьирования значений а можно найти требуемое значение при котором разность наибольшая.

Можно также применить более сложный, но и более экономный метод нахождения как стационарной точки функции с помощью итерационного процесса типа Ньютона.

Нулевое приближение (для простоты записи индекс во всех формулах опускаем). Первое приближение находим следующим образом.

1. Строим два решения исходной системы (7.3.59) — при начальных условиях ), — при начальных условиях , где — произвольно выбранное малое число, и находим

2. Вычисляем согласно определению (7.3.61) величину

3. Строим два решения исходной системы (7.3.59) — при начальных условиях , — при начальных условиях и находим

4. Вычисляем величину

Тогда

Таким же путем заменяется во всех формулах на можно найти Можно не добиваться нахождения с большой точностью, если значение еще существенно отличается от нуля.

В результате описанного процесса найдем вектор такой, что с заданной точностью Решение же задачи Коши для исходной системы (7.3.59) при начальных условиях представит непосредственно искомое решение поставленной краевой задачи.