Накопление скалярных произведений в арифметике с плавающей запятой
8. На некоторых вычислительных машинах, которые сейчас строятся, предусмотрены специальные устройства для сложения и вычитания чисел, имеющих мантиссу с 21 двоичными разрядами. На таких машинах сумма большого числа слагаемых может быть накоплена
с -разрядной мантиссой, так же как и скалярное произведение . В последнем предполагается, что стандартные числа с - разрядной мантиссой. Аналогично делимое может допускаться с -разрядной мантиссой и оно может быть разделено на стандартное число - разрядной мантиссой. На одной из вычислительных машин в Национальной физической лаборатории, существуют подпрограммы, которые выполняют эти операции почти за то же время, что и соответствующие стандартные операции с плавающей запятой. Мы используем обозначение чтобы указать на аналогию этих операций с использованными нами
Заметим, однако, что вообще говоря, не дает точной суммы.
Ошибки округления в основных операциях были исследованы Уилкинсоном (1963b, стр. 23—25), и мы не будем здесь повторять анализ, но приведем наиболее полезные результаты. Прямое вычисление оценок ошибок для основных арифметических операций приводит к границам вида
а они несколько неудобны. Мы будем всегда предполагать, что
и с этим ограничением (8.1) означает, что
Соответственно определению в § 5 мы определим так, что
Полученное лишь немного отличается от и (8.1) теперь означает, что
Если в одном и том же вычислении используется как так и предположение (5.2) делает (8.2) излишним.