Итерационный процесс в вычислении с фиксированной запятой

69. Предположим, что элементы А заданы с одинарной точностью в арифметике с фиксированной запятой, вычислены при треугольном разложении с перестановками с использованием накопления скалярных произведений. Предположим далее, что ни один из элементов не превосходит по модулю единицу. Элементы правой части также являются числами с фиксированной запятой, но могут быть заданы как с одинарной, так и с двойной точностью.

Мы представим вычисленное приближение в виде где нормированный блочно-плавающий вектор. В общем случае

будет постоянным для всех итераций. (Это верно, по крайней мере, если А не очень плохо обусловлена; однако если есть очень близкие округления в наибольшей компоненте, то может изменяться на от итерации к итерации.) Теперь общий шаг определяется следующим образом:

(i) Вычисляем точную невязку

получая сначала этот вектор как ненормализованный блочно-плавающий вектор с двойной точностью. Ясно, что на этом этапе мы можем использовать вектор с двойной точностью, не требуя каких-либо умножений с двойной точностью.

(ii) Нормализуем невязку и затем округляем ее для получения блочно-плавающего вектора с одинарной точностью, который обозначим через

(iii) Решаем уравнение получая решение в виде блочно-плавающего вектора с одинарной точностью. Подбираем нормализующий множитель, чтобы получить вычисленное решение системы

(iv) Вычисляем следующее приближение:

получая как блочно-плавающий вектор с одинарной точностью.