§ 2. Запись чисел в ЭВМ

Современные ЭВМ оперируют с числами, записанными в одной из приведенных ниже форм.

Первая форма записи — с фиксированной запятой: все числа в ЭВМ имеют модуль, меньший 1; число знаков после запятой фиксировано. Таким образом, машина оперирует с числами

здесь q — целое — основание системы счисления, — целые в пределах .

При операциях над числами с могут появляться числа с , и тогда произойдет остановка работы ЭВМ («машинный останов» или «АВОСТ»). Чтобы избежать этого, производится масштабирование задачи — введение новых масштабов. Иногда заранее нельзя указать нужные масштабы; в других случаях введение очень больших масштабов с самого начала приведет к тому, что в исходных данных большое количество первых из обратится в нуль и произойдет существенная потеря информации. Поэтому часто предусматривают изменение масштабов уже в процессе решения задачи.

Вторая форма записи, наиболее распространенная в ЭВМ, предназначенных для научных расчетов, — с плавающей запятой: машина оперирует с числами

порядок числа удовлетворяет неравенству .

Наиболее распространен случай двоичной системы счисления, когда .

При работе в режиме с плавающей запятой пользователь получает дополнительные удобства, так как не надо заботиться о масштабах; однако при этом происходит некоторое замедление работы ЭВМ.