Здесь для краткости введены следующие обозначения:
Таким образом, если то удается исключить из всех уравнений системы, начиная со второго. Если же то возможны различные случаи, в зависимости от того, какой вид имеет первое уравнение системы. Эти случаи таковы:
а) Все коэффициенты и свободный член первого уравнения равны нулю: . В этом случае первое уравнение системы имеет вид:
В силу теоремы мы можем его отбросить, не меняя множества решений системы (1).
б) Все коэффициенты равны нулю, отлично от нуля: . Тогда первое уравнение нашей системы имеет вид:
и по теореме система несовместна.
но среди коэффициентов есть отличные от нуля, скажем . Тогда надо поменять номера у неизвестных и у, то есть ввести новые неизвестные и у, такие, что . Разумеется, при этом мы уже получим систему, неравносильную заданной (например, системы
и
неравносильны). Но переход от одной системы уравнений к другой сводится к перестановке неизвестных. После изменения номеров у неизвестных место коэффициента займет коэффициент отличный от нуля, и мы сможем исключить из всех уравнений, начиная со второго, неизвестное есть . Таким образом, если то либо система несовместна, либо первое уравнение можно отбросить, либо, наконец, можно переставить неизвестные и исключить вместо другое неизвестное
Вернемся теперь к системе уравнений (2). Если то мы можем повторить описанный процесс и исключить из третьего, четвертого, уравнений. Потом мы исключим неизвестное из четвертого и дальнейших уравнений и т. д. На каждом шагу мы будем получать системы уравнений, равносильные заданной. При этом возможны следующие случаи:
а) В ходе решения мы получаем уравнение вида
где Тогда система не имеет решений, она несовместна.
б) При решении системы уравнений вида (3) не получается. Тогда через конечное число шагов (не более чем через шаг) мы получим систему вида:
где диагональные коэффициенты отличны от нуля (напомним, что мы отбрасывали уравнения вида и в случае необходимости меняли номера неизвестных).
Систему уравнений (4) мы будем называть обобщенно-треугольной системой уравнений. Таким образом, метод Гаусса позволяет либо установить, что данная система линейных уравнений несовместна, либо заменить ее равносильной обобщенно-треугольной системой.
Назовем число уравнений в системе (4) рангом заданной системы уравнений. На первый взгляд может показаться, что ранг заданной системы зависит не только от этой системы, но и от того, каким путем ее приводили к обобщенно-треугольной форме (в каком порядке записывали уравнения, как нумеровали неиззестные и т. д.). Оказывается, это не так: при любом способе приведения заданной системы линейных уравнений к равносильной ей обобщенно-треугольной системе уравнений получается система, состоящая
из одного и того же числа уравнений. Доказательство этого утверждения довольно сложно, и мы его опускаем. Отметим, что ранг системы не больше числа уравнений этой системы.