Численный пример
41. Чрезвычайная важность правильного выбора знака может быть проиллюстрирована следующим простым численным примером. Предположим, что задан вектор
Используя операцию
соответствующую
-разрядной десятичной арифметике, имеем
и при устойчивом выборе знака
«Правильные» значения с этим выбором знака таковы:
Можно проверить, что значения с чертой удовлетворяют неравенствам § 39, где мы заменяем
на
соответственно точности четырехзначных десятичных вычислений.
Используя неустойчивый выбор знака, имеем
«Правильные» значения с таким выбором знака будут
Легко может быть проверено, что
в этом случае даже приближенно неортогональна и поэтому не близка к
Вычисленное значение
имеет очень большую относительную ошибку.