Анализ ошибок в арифметике с фиксированной запятой
27. Общий анализ в арифметике с фиксированной запятой из гл. 3, §§ 29—35 также непосредственно применяется к преобразованию Гивенса, но теперь очень легко учесть нули, которые постепенно получаются в процессе преобразования. В течение
основного шага имеем дело с матрицей порядка
а не
Следовательно, в оценке (35.17) из главы 3 мы должны заменить
на
. С учетом этого изменения имеем
при условии, что А о нормирована так, что
Аналогично можем показать, что
при условии, что А о нормирована так, что
Множители, связанные с членами
в (27.1) и (27.3), велики и, возможно, при более тщательном анализе могут быть существенно уменьшены, но для достаточно больших
оценка в любом случае определяется членом