2. Метод Ньютона.
Рассмотрим систему уравнений с неизвестными
Относительно функций предположим, что в некоторой выпуклой области О, содержащей решение системы (24), они имеют непрерывные производные первого порядка и в некоторой окрестности решения а матрица
не вырождена. При этих условиях решение а системы (24) можно найти следующим образом. Пусть
— матрица, обратная к Рассмотрим систему уравнений
или коротко в векторной форме
Решение системы (24) является и решением системы (27), которая имеет специальный вид, рассмотренный в п. 1. Покажем, что а можно найти методом итераций, описанным в п. 1, примененным к системе (27), т. е. покажем, что последовательность
сходится к а, если только начальное приближение взято достаточно близко к а. Для. этого воспользуемся очевидным равенством
Введем обозначения: 1
Очевидно, что при
Так как
то
ибо
Используя (32), можно записать (34) в виде
где единичная матрица. Матрица является непрерывной функцией своих аргументов, и при Если достаточно близко к а, то и а матрица достаточно близка к единичной матрице близка к нулевой матрице. Как бы мы ни определили норму вектора х и соответственно норму матрицы, имеет место неравенство
Так как нулевая матрица имеет норму, равную нулю, а
близка к нулевой, то существует такое что если то
Если , то
Следовательно, и
Предположим, что мы уже доказали, что
Тогда
Таким образом, неравенства (38) справедливы при всех Последовательно применяя их, получим неравенство
Так как
что и доказывает сходимость процесса итераций к решению системы (24). На начальное приближение накладывается условие, что оно должно принадлежать окрестности в которой имеет место неравенство (37).
При более жестких ограничениях на функции можно доказать более сильную теорему, доказательство которой можно найти в статье Канторовича «Функциональный анализ и прикладная математика» ):
Теорема. Если в области О функции имеют вторые производные, не превосходящие по абсолютной величине числа в точке матрица не вырождена и выполнено условие
где
то система (24) имеет решение которое находится в области
и может быть получено как предел последовательности
и быстрота сходимости оценивается неравенством
Векторное равенство (28) эквивалентно системе линейных алгебраических уравнений
Вычисление последовательных приближений с помощью равенства (28) или путем решения системы (45) связано с большой вычислительной работой, так как на каждом шаге нужно решать систему со своей матрицей или на каждом шаге находить матрицу В связи с этим вместо рассмотренного метода решения системы (24), который носит название метода Ньютона, иногда применяют следующий более простой метод.
Вместо системы (27) рассматривают систему
или в векторной записи
где достаточно близок к решению а системы (24), а следовательно и (46), которую также решают методом итераций, описанным в п. 1.
От функций будем требовать выполнения тех же условий, которые накладывались в начале этого пункта. Используя (32), можно записать:
Если . близки к то матрица близка к матрице близка к нулевой матрице, т. е. для некоторого можно найти такое что при будет иметь место неравенство
а из (47)
т. е. будет иметь место условие Липшица с константой Далее, из (46)
и выбирая достаточно близким к можно добиться выполнения неравенства
а выполнение неравенств (49) и (51), как это было показано в п. 1, гарантирует, что в окрестности существует единственное решение системы (46), которое может быть получено как предел последовательности
где за начальное приближение можно взять любую точку указанной окрестности. Но этим решением и будет т. е.
и сходимость метода доказана.
В цитированной выше статье Л. В. Канторовича показано, что в условиях теоремы, которую мы приводили выше, быстрота сходимости последовательности к а определяется неравенством
Этот процесс, который можно рассматривать как видоизменение метода Ньютона, хотя сходится и медленней, чем процесс Ньютона,
имеет то преимущество, что последовательные приближения по находятся значительно проще, так как достаточно один раз найти матрицу
Хотя мы и обосновали теоретически сходимость метода Ньютона и его видоизменения, при их фактическом применении неизбежные в процессе счета ошибки округления все же могут привести к тому, что решение с заданной наперед точностью не удастся. Вопросы влияния ошибок округления на точность результата в общем случае еще не изучены.
Пример. Уточнить по методу Ньютона приближенные значения решения системы
Для этого будем последовательно решать системы:
где
Таким образом, мы получили точное решение.