3. Правила округления чисел.

Прежде чем переходить к изучению этих правил, условимся относительно некоторой терминологии.

Будем всегда считать, что числа, с которыми нам придется иметь дело, могут быть записаны с помощью конечного числа разрядов в той или иной системе счисления. Таким образом, если за основание системы счисления взято натуральное число и если мы допускаем числа, имеющие не более разрядов, то их можно записать единственным способом в виде

где — целые положительные числа, Интересно отметить, что уже здесь мы сталкиваемся с тем приемом, о котором говорилось во Введении. Вместо всего множества действительных чисел некоторого отрезка используется его конечное дискретное подмножество. В процессе вычислений иногда приходится и удается выходить за пределы этого подмножества, но во всех случаях количество разрядов остается ограниченным и мы опять будем иметь дело с конечным множеством чисел.

Может оказаться, что результаты вычислений будут иметь бесчисленное или очень большое количество разрядов, так что их невозможно поместить в машину или они оказываются слишком громоздкими при вычислениях на бумаге. Тогда приходится заменять результат некоторым числом из нашего основного подмножества. Естественно брать ближайшее число этого подмножества. Практически это сводится к следующему. Пусть мы получили в результате вычислений число

Тогда, если

то мы заменяем результат на

Если

то заменяем результат на

Остается сомнительным случай

Здесь безразлично, каким из двух данных выше чисел заменить результат. Тогда применяют различные соглашения, исходя или из простоты выполнения этой операции, или из удобства последующей работы над результатом. Так, в некоторых машинах, например в ЭВ, округление осуществляется путем прибавления к результату числа и последующего отбрасывания всех младших разрядов, начиная с разряда, содержащего Это означает, что в сомнительном случае мы заменяем результат на

При вычислениях на бумаге в обычной десятичной системе счисления рекомендуется пользоваться в сомнительном случае следующим правилом. Если четное число, то заменяем результат на

если же -нечетное число, то заменяем результат на

Описанный нами процесс называют округлением. Если следовать последнему из описанных правил, то процесс последовательного округления числа 2,804953 будет выглядеть следующим образом: