Практический процесс с выбором главного элемента по столбцу

28. Рекомендуемый процесс с выбором главного элемента по столбцу в арифметике с фиксированной запятой состоит в следующем. Сначала нормируем матрицу так, чтобы все элементы лежали в пределах от —1/2 до Поэтому мы можем выполнить первый шаг без опасения, что элементы превзойдут единицу. После того как выполнен этот шаг, проверяем каждый вычисленный элемент, чтобы посмотреть, не превзошел ли его модуль 1/2. Если какой-либо элемент стал по модулю больше 1/2, то вся соответствующая строка делится на 2. Итак, начинаем следующий шаг с матрицы, элементы которой снова лежат в пределах от —1/2 до

Соответствующий анализ ошибок требует лишь небольшого изменения. При делении строки на 2 в каждый элемент дополнительно вносится ошибка округления, ограниченная величиной Последующие ошибки округления, внесенные в эту строку, эквивалентны возмущениям в исходной матрице, ограниченным величиной а не при этом сами ошибки все еще аддитивны. Аналогичное замечание относится и к тому случаю, когда строка делится более одного раза.