Как мы знаем, следы $\sum_{\lambda} a_{\lambda \lambda}$ матриц ( $\alpha_{\lambda \mu}$ ) какого-либо представления инварианты. Мы будем обозначать через $S(b)$ или $S_{\mathfrak{D}}(b)$ след матрицы, соответствующей элементу $b$ группы в представлении $\mathfrak{D}$. Следы матриц неприводимых представлений называются характерами.
Сопряженные элементы группы: $a$ и $b^{-1} a b$ имеют тот же самый след, так как
\[
S\left(B^{-1} A B\right)=S(A) .
\]
Следы и характеры являются функциями сопряженных систем или «классов». Для каждой системы сопряженных элементов группы они имеют одно и то же значение.
Следы и характеры являются часто употребляемым вспомогательным средством для разложения заданного представления на неприводимые представления. Это разложение производится с помощью «соотношений ортогональности», которые мы сейчас выведем.
Пусть
\[
s \rightarrow A(s), \quad s \rightarrow B(s)
\]
– два неприводимых представления конечной группы $\mathfrak{G}$. Если $C$ любая матрица, отображающая пространство второго представления в пространство первого, то сумма
\[
P=\sum_{t} A(t) C B\left(t^{-1}\right)
\]
(суммирование производится по всем элементам группы) является также изображением второго пространства в первом, коммутирующим со всеми элементами $s$ группы
\[
A(s) P=A(s) \sum_{t} A(t) C B\left(t^{-1}\right)=\sum_{t} A(s t) C B\left(t^{-1} s^{-1}\right) B(s)=P B(s) .
\]
По лемме Шура (§13) отсюда следует:
$P=0$, когда представления $A(t)$ и $B(t)$ неэквивалентны, $P=\beta E$, когда представления одинаковы.
Выписывая это подробно, получаем
\[
\sum_{\lambda, \mu} \sum_{t} a_{\varkappa \lambda}(t) c_{\lambda \mu} b_{\mu
u}\left(t^{-1}\right)=\left\{\begin{array}{ll}
0, & \text { когда } A(s) \text { и } B(s) \text { неэквивалентны, } \\
\beta \delta_{\varkappa
u}, & \text { когда } A(s)=B(s),
\end{array}\right.
\]
или, так как $c_{\lambda \mu}$ совершенно произвольны,
\[
\sum_{t} a_{\varkappa \lambda}(t) b_{\mu
u}\left(t^{-1}\right)=\left\{\begin{array}{ll}
0, & \text { когда } A(s) \text { и } B(s) \text { неэквивалентны, } \\
\beta_{\lambda \mu} \delta_{\varkappa
u}, & \text { при } A(s)=B(s),
\end{array}\right.
\]
Чтобы определить $\beta_{\lambda \mu}$ в случае $A=B$, положим $x=
u$ и просуммируем по $
u$. Вследствие того, что $B\left(s^{-1}\right) A(s)=A\left(s^{-1}\right) A(s)=1$, слева каждый раз входят $\delta_{\lambda \mu}$ и мы получаем
\[
\sum_{t} \delta_{\lambda \mu}=\beta_{\lambda \mu} \sum_{
u} \delta_{
u
u}
\]
Если $h$ число элементов группы и $n$ степень представления, то мы имеем
\[
h \delta_{\lambda \mu}=n \beta_{\lambda \mu} .
\]
Следовательно, (15.1) имеет вид
\[
\sum_{t} a_{\varkappa \lambda}(t) b_{\mu
u}\left(t^{-1}\right)=\left\{\begin{array}{ll}
0, & \text { когда } A, B \text { неэквивалентны, } \\
\frac{h}{n} \delta_{\lambda \mu} \delta_{\varkappa \mu}, & \text { при } A=B .
\end{array}\right.
\]
Если представление $B(s)$ унитарно, то $B\left(t^{-1}\right)=\widetilde{B}(t)$, следовательно, $b_{\mu
u}\left(t^{-1}\right)=\bar{b}_{
u \mu}(t)$ и поэтому
\[
\sum_{t} a_{\varkappa \lambda}(t) \bar{b}_{
u \mu}(t)=\left\{\begin{array}{ll}
0, & \text { когда } A, B \text { неэквивалентны, } \\
\frac{h}{n} \delta_{\varkappa
u} \delta_{\lambda \mu}, & \text { при } A=B .
\end{array}\right.
\]
Это и есть соотношение ортогональности для матричных элементов. Положим $\varkappa=\lambda ;
u=\mu$ и просуммируем по $\lambda$ и $\mu$, тогда мы получаем соотношение ортогональности для характеров
\[
\sum_{t} \chi^{(1)}(t) \overline{\chi^{(2)}(t)}=\left\{\begin{array}{l}
0 \\
h .
\end{array}\right.
\]
Нуль имеет место для характеров неэквивалентных представлений, $h$ для характеров эквивалентных представлений.
Пусть $\chi^{(1)}, \ldots, \chi^{(r)}$ характеры различных неэквивалентных представлений и
\[
S(t)=\sum_{t} c_{\lambda} \chi^{(\lambda)}(t)
\]
– след произвольного представления, содержащего $c_{\lambda}$ раз представление с номером $\lambda$, тогда из (15.3) следует
\[
\sum_{t} S(t) \bar{\chi}^{(\lambda)}(t)=c_{\lambda} h .
\]
Это уравнение позволяет вычислить числа $\mathrm{c}_{\lambda}$ из следа заданного представления и характеров неприводимых представлений. Одновременно мы видим, что след $S(t)$ определяет представление однозначно с точностью до эквивалентности.
В особенности удобно уравнение (15.4), когда речь идет о том, чтобы разложить на неприводимые произведение представлений $\mathfrak{D}_{\lambda} \times \mathfrak{D}_{\mu}$. След матрицы произведения $A \times B$
\[
\sum_{\lambda} \sum_{\mu} a_{\lambda \lambda} b_{\mu \mu}=\left(\sum_{\lambda} a_{\lambda \lambda}\right)\left(\sum_{\mu} b_{\mu \mu}\right)=S(A) S(B),
\]
следовательно, след представления произведения $\mathfrak{D}_{\lambda} \times \mathfrak{D}_{\mu}$ является произведением следов умножаемых представлений.
Обозначим, например, три представления $\mathfrak{S}_{3}$ через $\mathfrak{J}$ (идентичное), $\mathfrak{A}$ (антисимметричное) и $\mathfrak{U}$ (представление второй степени), тогда по этому методу получаем
\[
\begin{array}{lll}
\mathfrak{J} \times \mathfrak{J}=\mathfrak{J} & \mathfrak{A} \times \mathfrak{U}=\mathfrak{J} & \mathfrak{U} \times \mathfrak{U}=\mathfrak{J}+\mathfrak{A}+\mathfrak{U} \\
\mathfrak{J} \times \mathfrak{A}=\mathfrak{A} & \mathfrak{A} \times \mathfrak{U}=\mathfrak{U} \\
\mathfrak{J} \times \mathfrak{U}=\mathfrak{U} . &
\end{array}
\]