Численный пример
34. Эти соображения иллюстрируем примером из табл. 5, который был вычислен с использованием формул § 33. Все элементы матрицы
определяющие первое преобразование, очень малы. Поскольку нормировка не используется, вычисленное значение
имеет большую относительную ошибку. В действительности вычисленное значение есть 0,00005, тогда как верное значение равно
Если бы мы должны были связать
Таблица 5 (см. скан)