Операции с фиксированной запятой

2. При вычислениях с фиксированной запятой мы предположим, что в случае необходимости введен скалярный множитель, так что каждое число х находится в стандартном интервале

и не будем беспокоиться об исключении одной из граничных точек, так как это часто усложняет анализ ошибок в несущественной части. Предположим, что после запятой в двоичном числе имеется разрядов, и будем говорить, что вычислительная машина имеет -разрядное слово», если даже для его представления может потребоваться разряд.

Равенство вида

будет означать, что стандартные числа с фиксированной запятой и что z получено из х и у выполнением соответствующей операции с фиксированной запятой. В случае сложения, вычитания и деления предположим, что вычисленное z не лежит вне дозволенного интервала.

Ошибки округления не вызываются ни сложением, ни вычитанием, так что имеем

где последний член в (2.3) представляет точную сумму или разность. Мы используем символ эквивалентности, чтобы подчеркнуть, что ошибки округления были приняты в расчет. Это помогает отличить вычислительное равенство от математического, которое может быть использовано для описания алгорифма. Умножение и деление в общем случае вызывают ошибки округления. Мы предполагаем, что процесс округления таков, что

где

Подчеркиваем, что в правой части (2.4) член представляет точное произведение или частное, так что символы и имеют свой обычный арифметический смысл.