Анализ ошибок разложения Холецкого в арифметике с фиксированной запятой
44. Теперь мы ограничимся случаем положительно определенной матрицы и покажем, что если
то вычисленное разложение Холецкого в арифметике с фиксированной запятой с накоплением скалярных произведений дает
то у есть
элемент точного треугольного разложения
и поэтому лежит в пределах от
до 1. Следовательно,
где мы предполагаем, что программа вычисления квадратного корня всегда дает значение, не большее единицы. Следовательно,
или
откуда
Итак, результат полностью установлен.
Аналогичный результат может быть установлен и в том случае, если используется
Пренебрегая членами порядка
можно получить такие оценки: