Анализ ошибок с плавающей запятой

29. Процесс с фиксированной запятой, описанный в § 28, в некотором отношении более похож на процесс с плавающей запятой, хотя мы и отмечали, что на практике деление строк должно осуществляться редко. Анализ ошибок вычислений с настоящей плавающей запятой во многом следует той же самой линии. Здесь имеем

где можем пользоваться абсолютной оценкой для так как выбор

главного элемента обеспечивает условие Если мы предположим, что

то при тех же обозначениях, что и в анализе с фиксированной запятой, имеем

а для всех других и к простые вычисления показывают, что

Эти оценки показывают, что вычисленные и таковы, что

где

Оценки (29.7) могут быть несколько уточнены, но это несущественно. Эти оценки показывают, что если а для всех соответствующих то

Из уравнений (29.7) следует, что когда постепенно уменьшаются с ростом к, то оценка для плавающей запятой может быть много лучше, чем для фиксированной. Если, например,

так что на каждом шаге теряется приблизительно один двоичный знак, то

Постепенная потеря значащих цифр — довольно общее явление для плохо обусловенных уравнений, и наш результат показывает, что вычисление с плавающей запятой может быть лучше; это подтверждалось на практике. (Аналогичный эффект может быть получен и с фиксированной запятой, если после каждого преобразования будем умножать каждую строку на наибольшую степень 2, для которой все элементы остаются в пределах ±1.)

Мы можем получить сравнимые результаты для ошибок округления, сделанных в правой части системы.