Совокупность $\mathfrak{g}$ элементов $a,b,c,\dots$ какого-либо типа (например, чисел, преобразований) называется группой, если она удовлетворяет следующим четырем условиям.
1) Каждой паре элементов $a,b$ соответствует «произведение» $a\cdot b$ (или $ab$ ), которое тоже относится к $\mathfrak{g}$.
2) Ассоциативный закон: $ab\cdot c=a\cdot bc$.
3) Существует «единичный элемент» $e$ или 1 со свойствами $ae=$ $=ea=a$.
4) Для каждого элемента $a$ из $\mathfrak{g}$ существует в $\mathfrak{g}$ обратный элемент $a^{-1}$ так, что $a\cdot a^{-1}=a^{-1}\cdot a=1$.
Если $ab=ba$, группа называется абелевой.
Если элементами группы являются преобразования (например, линейные) или перестановки (перестановки предметов), а произведение $ab$ — преобразование или перестановка, возникающая, когда применяют сначала $b$, а потом $a$ (как в §7), то ассоциативный закон 2 выполняется автоматически. Единица $е$ обозначает «тождественное преобразование», оставляющее все объекты неизменными, и $a^{-1}$ обратное преобразование, уничтожающее преобразование а. Следовательно, множество (неособенное) преобразований является группой, если оно для каждой пары, преобразований содержит также их произведение и для каждого преобразования содержат также обратное ему. То же самое имеет место для групп перестановок.

Например, вещественные вращения трехмерного пространства вокруг неподвижной точки образуют неабелеву группу, группу вращения ${\mathfrak{b}}_3$. Более общую группу получим, применив еще и отражение. Вращения вокруг неподвижной оси образуют абелеву группу. Преобразования Лоренца, т. е. вещественные несингулярные преобразования
четырехмерного пространства, оставляющие инвариантной квадратичную форму $x^2+y^2+z^2-c^2{t}^2$ и не меняющие направление течения времени, образуют группу Лоренца. Линейные преобразования в $n$-мерном векторном пространстве с детерминантом, равным единице, образуют особую линейную группу ${\mathfrak{c}}_n$. Унитарные преобразования с детерминантом, равным единице, образуют особую унитарную группу ${\mathfrak{u}}_n$. Перестановки $n$ предметов образуют симметричную группу ${\mathfrak{S}}_n$.

Перестановки симметричной группы могут быть определены следующим образом. Пусть, например, $P$ перестановка цифр $1,2,3,4,5$, переводящая 1 в 5,5 в 4,4 в 1 и далее 2 в 3 и 3 в 2 . Тогда пишут $P=(154)$ (2 3). Способ записи показывает, что $P$ является произведением двух «циклических перестановок» (1 54 ) и (2 3). Точно так же (1 234 ) обозначает циклическую перестановку, которая переводит 1 в 2,2 в 3 , 3 в 4 и 4 в 1 .

Вышеуказанный «циклический способ записи» особенно удобен, когда речь идет о том, чтобы определить перестановку $QP{Q}^{-1}$, «сопряженную с перестановкой $P$. Для этой цели запишем $P$ как произведение циклических перестановок и применим перестановку $Q$ к символам, входящим в эти циклы. Пусть, например,
$$P=\left(\begin{array}{lll}1& 2& 345\end{array}\right),Q=\left(\begin{array}{ll}2& 3\end{array}\right),$$

тогда
$$QP{Q}^{-1}=\left(\begin{array}{ll}1& 3245\end{array}\right).$$

В любой группе $\mathfrak{g}$ элементы $ts{t}^{-1}$, сопряженные с элементом $s$, образуют класс сопряженных друг с другом элементов группы.

Каждая перестановка может быть записана как произведение транспозиций типа ( $ik$ ), переставляющих только эти две цифры. Например,
$$(12345)=(12)(23)(34)(45).$$

Четные перестановки, т. е. произведения четного числа транспозиций сами по себе образуют группу, так называемую знакопеременную груп$ny{\mathfrak{A}}_n$.

Во многих абелевых группах элементы, составленные из $a$ и $b$, обозначаются не через $a\cdot b$, как ранее, а через $a+b$. В этом случае пишут 0 вместо 1 (так как $a+0=a$ ) и $-a$ вместо $a^{-1}$ (так как $-a+a=0$ ). К этим аддитивным группам относятся, например, все векторные пространства, которые удовлетворяют соотношениям $2-4$ [при аддитивном способе записи, например, $(a+b)+c=a+(b+c)]$.

Векторное пространство имеет еще одну особенность: его элементы (векторы) можно не только сочетать сложением друг с другом, но и
сочетать путем умножения на (комплексные) числа; умноженный на $\theta$ вектор тоже дает вектор и мы имеем
$$\theta (u+v)=\theta u+\theta v.$$

Вообще, когда к элементам аддитивной группы применяются определенные «операторы» или «множители» $\theta$ со свойствами (8.1), то говорят o группе с операторами. Например, каждую систему линейных преобразований векторного пространства вместе со всеми числами $\theta$ можно рассматривать как операторную область для этого векторного пространства.

Часть элементов группы, образующая группу с тем же законом сочетания $a\cdot b$, называется подгруппой. Чтобы это имело место, она должна содержать вместе с $a$ и $b$ также и $a\cdot b$, вместе с $a$ также и $a^{-1}$. Например, знакопеременная группа ${\mathfrak{A}}_n$ является подгруппой симметричной группы ${\mathfrak{S}}_n$.

В случае аддитивной группы подгруппа должна соответственно содержать элементы $a+b$ и $-a$. Для группы с оператором требуется, помимо того, чтобы подгруппа вместе с $a$ содержала и $\theta$ (допустимая подгруппа). Например, подпространство векторного пространства является допустимой подгруппой; совокупность векторов, представляющих собой целые кратные одного вектора, образует недопустимую подгруппу.

Наиболее общим примером подгруппы неабелевой группы $G$ является центр $\mathfrak{G}$, состоящий из таких элементов $z$, которые коммутируют со всеми элементами $\mathfrak{G}$.

Из подгруппы $\mathfrak{g}$ группы $\mathfrak{G}$ путем умножения всех элементов $\mathfrak{g}$ слева на любой фиксированный элемент $a$ группы $\mathfrak{G}$ получается «сопряженная система» или «смежный класс». Два элемента $a,b$ относятся к одной и той же сопряженной системе, если $b^{-1}a$ принадлежит к g. Две различные сопряженные системы не имеют между собой общих элементов, и все эти системы, вместе взятые, образуют группу $\mathfrak{G}$. Например, сопряженными системами ${\mathfrak{A}}_n$ в ${\mathfrak{S}}_n$ являются четные и нечетные перестановки.

Если умножить элементы сопряженной системы ( $a\mathfrak{g})$ на элементы другой сопряженной системы $(b\mathfrak{g})$, то не всегда получается сопряженная система по отношению к $\mathfrak{g}$. Это имеет место, однако, в том случае, когда подгруппа $\mathfrak{g}$ идентична со всеми «сопряженными» с ней подгруппами $a\mathfrak{g}{a}^{-1}$. Такая подгруппа называется нормальным делителем. Например, ${\mathfrak{A}}_n$ является нормальным делителем ${\mathfrak{S}}_n$. Точно так же центр любой группы всегда является ее нормальным делителем, тогда как ${\mathfrak{S}}_n$ не является нормальным делителем ${\mathfrak{S}}_{n+1}$. Если помножить сопряженные системы $a\mathfrak{g}$ и $b\mathfrak{g}$ нормального делителя $\mathfrak{g}$ указанным
образом друг на друга и если трактовать полученную сопряженную систему $ab\mathfrak{g}$ как произведение обеих исходных, то эти системы, рассматриваемые как элементы, тоже образуют группу, так называемую, дополнительную группу $\mathfrak{G}/\mathfrak{g}$. В абелевой группе (например, в векторном пространстве) все подгруппы являются нормальными делителями. Таким образом, в этом случае можно всегда построить дополнительную группу. Для построения дополнительной группы векторного пространства $\mathfrak{R}=(e_1,\dots ,e_n)$ для подпространства $\mathfrak{r}=(v_1,\dots ,v_n)$ объединяют в одну сопряженную систему все векторы, получающиеся из какого-либо вектора, путем прибавления всех векторов рассматриваемого подпространства и трактуют эти системы как элементы новой аддитивной группы. При умножении на число $\theta$ подпространство переходит в самое себя (т. е. оно является допустимой подгруппой) и поэтому каждая сопряженная система переходит в сопряженную систему. Поэтому можно применять умножение на число $\theta$ и для сопряженных систем, так что группа, элементы которой являются сопряженными системами, снова является также группой с операторами. Если дополнить базис подпространства $(v_1,\dots ,v_m$ ) до базиса всего пространства прибавлением дальнейших линейно-независимых векторов $v_{m+1},\dots ,v_n$, то получается сопряженная система из всех векторов $c_1{v}_1+\cdots +c_{m+1}{v}_{m+1}+\cdots +c_n{v}_n$ с фиксированными коэффициентами $c_{m+1},\dots ,c_n$. Следовательно, разные сопряженные системы могут быть однозначно представлены векторами $c_{m+1}{v}_{m+1}+\cdots +c_n{v}_n$. Отсюда следует, что дополнительная группа $\mathfrak{R}/\mathfrak{r}$ является $(n-m)$-мерным векторным пространством.

Вообще, в каждой аддитивной группе с оператором $\theta$ все сопряженные системы подгруппы $\mathfrak{g}$ можно умножить на оператор $\theta$ (предполагая, что подгруппа является допустимой), т. е. дополнительная группа $\mathfrak{R}/\mathfrak{r}$ является группой с той же областью операторов.

Если каждому элементу $a$ группы $\mathfrak{g}$ соответствует элемент $\overline{a}$ группы $\bar{\mathfrak{g}}$ так, что произведению $ab$ соответствует произведение $\overline{a}\overline{b}$ (и поэтому единичному элементу — единичный элемент, а обратному обратный) и если при этом каждый элемент $\mathfrak{g}$ по крайней мере раз встречается, как соответствующий элементу $\overline{a}$, то говорят, что группа $\mathfrak{g}$ является гомоморфным изображением $\bar{\mathfrak{g}}$. (Например, пусть $\mathfrak{g}$ симметричная группа ${\mathfrak{S}}_n$. Приведем в соответствие каждой четной перестановке число +1 и каждой нечетной — число — 1 . Тогда $\bar{\mathfrak{g}}$ будет группа, элементами которой являются числа +1 и -1.)

Если различным элементам $a,b$ соответствуют различные отображения $\overline{a},\overline{b}$ (что в предыдущем примере имеет место только при $n=2$ ), то отображение называется изоморфным, а группы — изоморфными; они
различаются только обозначениями элементов, структура же их совершенно одинакова. Тогда пишут
$$\mathfrak{g}\cong \bar{\mathfrak{g}}$$

В случае аддитивных групп с операторами для гомо- и изоморфизма требуется, помимо соответствия суммы $a+b$ сумме $\overline{a}+\overline{b}$, еще соответствие между $\theta a$ и $\theta \overline{a}$ (поэтому обе группы должны обладать общей областью операторов). В этом случае говорят об операторном гомоили изоморфизме. Например, два векторных пространства операторноизоморфны, когда они обладают одинаковым числом измерений, так как тогда каждому базисному вектору одного пространства соответствует базисный вектор другого и каждой линейной комбинации первых — такая же линейная комбинация вторых. Каждое линейное преобразование векторного пространства является операторным гомоморфизмом, поскольку операторами служат обыкновенные числа.

Если группа $\mathfrak{g}$ гомоморфно, но не изоморфно отображается группой $\bar{\mathfrak{g}}$, то элементы $\mathfrak{g}$, соответствующие единичному элементу $\bar{\mathfrak{g}}$, образуют, как легко видеть, нормальный делитель $\mathfrak{h}$ в $\mathfrak{g}$ и элементы $\mathfrak{g}$, отвечающие произвольному фиксированному элементу в $\bar{\mathfrak{g}}$, всегда образуют сопряженную систему этого нормального делителя. Таким образом, каждой сопряженной системе $\mathfrak{h}$ соответствует однозначно элемент в $\bar{\mathfrak{g}}$, причем это соотношение является изоморфизмом. Таким образом, мы получаем следующий закон гомоморфизма.

Если $\mathfrak{g}$ гомоморфно отображается в $\bar{\mathfrak{g}}$, то $\bar{\mathfrak{g}}$ изоморфно с дополнительной группой $\mathfrak{g}/\mathfrak{h}$, где $\mathfrak{h}$ состоит из элементов $\mathfrak{g}$, соответствующих единичным элементам в $\bar{\mathfrak{g}}$. Обратно, $\mathfrak{g}$ также гомоморфно отображается в каждой дополнительной группе $\mathfrak{g}/\mathfrak{h}$, если каждому элементу соответствует та сопряженная система, к которой он принадлежит. (В вышеприведенном примере, где группа $\bar{\mathfrak{g}}$ состояла из чисел $+1,-1,\mathfrak{h}$ является знакопеременной группой.)

Закон гомоморфизма остается в силе и для групп с операторами; при этом вместо гомо- и изоморфизма нужно соответственно говорить об операторном гомо- или изоморфизме.

Особенно важным является тот частный случай понятия о гомоморфизме, когда отображающая группа $\bar{\mathfrak{g}}$ состоит из линейных преобразований векторного пространства $\mathfrak{R}$. При этом каждому элементу группы $\mathfrak{g}$ соответствует несингулярное линейное преобразование $A$ пространства $\mathfrak{R}$ такого рода, что произведению $a\cdot b$ всегда соответствует произведение $AB$. В этом случае говорят о представлении группы $\mathfrak{g}$ линейными преобразованиями (или матрицами). Число измерений $n$ пространства представлений называется степенью представления. Если сопоставление является взаимнооднозначным, т. е. изоморфным, то представление называют точным. Если представление не точно, то оно, по закону гомоморфизма, является точным представлением дополнительной группы $\mathfrak{g}/\mathfrak{h}$.

Для более подробного изучения основ теории групп можно воспользоваться книгами A. Speiser, Theorie der Grupen von endlicher Ordnung или B. L. van der Waerden, Modern Algebra I. ${}^1$

Применение представлений групп в квантовой механике основывается на следующем.

Уравнение Шредингера для системы частиц при определенных преобразованиях переменных, входящих в волновую функцию, переходит в самого себя, например:
a) при перестановках координат различных электронов (или иногда ядер), играющих одинаковую роль в уравнении;
б) при трансляциях, вращениях и отражениях пространства, не меняющих имеющегося силового поля. Если ядро в атоме рассматривается как неподвижный центр сил, то речь идет о вращений вокруг этой точки и об отражении (симметрии) относительно нее. Для атома в однородном магнитном или электрическом поле группа вращений заменяется подгруппой вращений вокруг неподвижной оси. Если в двухатомной молекуле (в первом приближении) оба ядра считаются неподвижными центрами сил, то рассматривается вращение вокруг линии, соединяющей ядра, и отражение от проходящих через нее плоскостей. Для двух ядер с одинаковыми зарядами к этому еще добавляется отражение от средней плоскости, перпендикулярной к линии, соединяющей ядра, и т. д.

Рассмотренные преобразования шредингеровской задачи собственных значений в каждом случае образуют группу, а именно в случае а) симметричную перестановочную группу ${\mathfrak{S}}_f$, когда в системе имеется $f$ электронов, и в случае б) группу вращений и отражений. Преобразования, соответствующие этим группам, дают вместе с тем преобразования волновых функций $\psi$, если предположить, что пространственное преобразование $T$ (вращение или отражение), переводящее систему точек $q_1,q_2,\dots ,q_f$ в $q_1^{\prime },\dots ,q_f^{\prime }$, преобразует волновую функцию $\psi$ в ${\psi }^{\prime }$, где
$${\psi }^{\prime }(q_1^{\prime },\dots ,q_f^{\prime })=\psi (q_1,\dots ,q_f)$$

или, что то же самое,
$${\psi }^{\prime }(q_1,\dots ,q_f)=\psi (T^{-1}{q}_1,\dots ,T^{-1}{q}_f).$$
${}^1$ Русский перевод, Б. Л. Ван-дер-Варден. Современная алгебра. Т. І. ОНТИ, 1935.
Таким образом, функция $\psi$ должна преобразовываться линейно, а это значит, что если $S$ и $T$ два преобразования, то
$$(ST)\psi =S(T\psi ).$$

Так как при этих преобразованиях дифференциальное уравнение Шредингера не меняется, то его собственные функции должны переходить в собственные функции, соответствующие тому же собственному значению. Следовательно, собственные функции каждого уровня энергии преобразуются линейно и эти преобразования образуют представления рассматриваемой группы.

Если удается установить и классифицировать различные возможные представления рассматриваемых групп, то этим одновременно дается классификация собственных значений и собственных функций атома и молекулы. На этом основывается групповая систематика термов.