Представлением группы вращений \( G \) в гильбертовом пространстве \( \mathscr{E} \) называется отображение \( W \), которое каждому элементу \( g \) группы \( G \) ставит в соответствие ограниченный линейный
и непрерывно зависящий от \( g \) оператор \( W(g) \) в пространстве \( \mathscr{E} \) так, что выполняются условия
1) \( W(I)=I \)
2) \( W\left(g_{1} g_{2}\right)=W\left(g_{1}\right) W\left(g_{2}\right) \).
В условии 1) слева \( I \) означает единичное вращение, а справа единичный оператор в \( \mathscr{E} \). Из условий 1) и 2) сразу следует, что
\[
W\left(g^{-1}\right)=W^{-1}(g) .
\]
Представление называется унитарным, если унитарны операторы \( W(g) \), т. е. \( W^{*}(g)=W^{-i}(g) \).
В теории групп доказывается, что любое представление группы вращений эквивалентно некоторому унитарному представлению, поэтому можно ограничиться изучением унитарных представлений.
Напомним два эквивалентных определения неприводимого представления:
1) представление называется неприводимым, если не существует оператора, отличного от \( C I \), который коммутировал бы со всеми операторами \( W(g) \);
2) представление называется неприводимым, если в пространстве \( \mathscr{E} \) не существует подпространства \( \mathscr{E}_{0} \), инвариантного относительно действия операторов \( W\left(g^{g}\right) \).
Легко построить представление группы вращений в пространстве состояний частицы \( \mathscr{H}=L^{2}\left(\mathbf{R}^{3}\right) \). Для этого определим операторы \( W(g) \) формулой
\[
W(g) \psi(\mathbf{x})=\psi\left(g^{-1} \mathbf{x}\right) .
\]
Условие 1) определения представления очевидно, условие 2) проверяется следующим образом:
\( W\left(g_{1} g_{2}\right) \psi(\mathbf{x})=\psi\left(g_{2}^{-1} g_{1}^{-1} \mathbf{x}\right)=W\left(g_{1}\right) \psi\left(g_{2}^{-1} \mathbf{x}\right)=W\left(g_{1}\right) W\left(g_{2}\right) \psi(\mathbf{x}) \).
Операторы \( W(g) \) отображают \( \mathscr{C} \) на \( \mathscr{C} \) взаимно однозначно, поэтому для проверки унитарности достаточно убедиться, что они сохраняют норму вектора \( \psi \) :
\[
\|W(g) \psi\|^{2}=\int_{\mathbf{R}^{3}}\left|\psi\left(g^{-1} \mathbf{x}\right)\right|^{2} d \mathbf{x}=\int_{\mathbf{R}^{3}}|\psi(\mathbf{x})|^{2} d \mathbf{x}=\|\psi\|^{2},
\]
где использовано равенство \( \operatorname{det} g=1 \). Покажем, что справедлива формула
\[
W(\mathrm{a})=\exp \left[-i\left(L_{1} a_{1}+L_{2} a_{2}+L_{3} a_{3}\right)\right] .
\]
Здесь мы обозначили \( W(g(a)) \) через \( W(\mathrm{a}), L_{1}, L_{2}, L_{3} \) – проекции момента импульса. Для доказательства формулы (2) рассмотрим сначала вращение вокруг третьей оси и покажем, что
\[
W_{3}(\alpha)=e^{-i L, \alpha}
\]
или, что эквивалентно,
\[
\psi\left(g_{3}^{-1}(\alpha) \mathbf{x}\right)=e^{-i L_{3} \alpha} \Psi(\mathbf{x})
\]
при произвольной \( \psi(\mathbf{x}) \in \mathscr{C} \). Мы проверим справедливость последнего равенства, если убедимся, что функции в левой и правой частях его удовлетворяют одному и тому же уравнению с одинаковыми начальными условиями.
Функция
\[
\psi(\mathbf{x}, \alpha)=e^{-i L_{3} \alpha} \psi(\mathbf{x})
\]
очевидно, удовлетворяет уравне:нию
\[
\frac{\partial \psi(\mathbf{x}, \alpha)}{\partial \alpha}=-i L_{3} \psi(\mathbf{x}, \alpha)
\]
или подробнее
\[
\frac{\partial \psi(\mathbf{x}, \alpha)}{\partial \alpha}=\left(x_{2} \frac{\partial}{\partial x_{1}}-x_{1} \frac{\partial}{\partial x_{2}}\right) \psi(\mathbf{x}, \boldsymbol{\alpha}) .
\]
Функция, стоящая в левой части (3), которую мы обозначим через \( \psi_{1}(\mathbf{x}, \alpha) \), имеет вид
\[
\psi_{1}(\mathbf{x}, \alpha)=\psi\left(x_{1} \cos \alpha+x_{2} \sin \alpha,-x_{1} \sin \alpha+x_{2} \cos \alpha, x_{3}\right) .
\]
Проверим, что эта функция удовлетворяет уравнению (4):
\[
\begin{array}{c}
\frac{\partial \psi_{1}}{\partial \alpha}=\frac{\partial \psi}{\partial x_{1}}\left(-x_{1} \sin \alpha+x_{2} \cos \alpha\right)+\frac{\partial \psi}{\partial x_{2}}\left(-x_{1} \cos \alpha-x_{2} \sin \alpha\right), \\
x_{2} \frac{\partial \psi_{1}}{\partial x_{1}}=x_{2} \frac{\partial \psi}{\partial x_{1}} \cos \alpha-x_{2} \frac{\partial \psi}{\partial x_{2}} \sin \alpha, \\
x_{1} \frac{\partial \psi_{1}}{\partial x_{2}}=x_{1} \frac{\partial \psi}{\partial x_{1}} \sin \alpha+x_{1} \frac{\partial \psi}{\partial x_{2}} \cos \alpha,
\end{array}
\]
откуда следует справедливость (4) для функции \( \psi_{1}(\mathbf{x}, \boldsymbol{\alpha}) \). Наконец, обе функции удовлетворяют одинаковому начальному условию
\[
\psi(\mathbf{x}, 0)=\psi_{1}(\mathbf{x}, 0)=\psi(\mathbf{x}) .
\]
Таким образом, операторы вращений вокруг осей координат имеют вид
\[
W_{j}(\alpha)=e^{-i L_{j} \alpha}, \quad j=1,2,3 .
\]
Инфинитезимальные операторы представления сразу находятся из формулы (5)
\[
\left.\frac{\partial W(\mathrm{a})}{\partial a_{j}}\right|_{\mathrm{a}=0}=\left.\frac{\partial W_{j}(\alpha)}{\bar{\partial} \alpha}\right|_{\alpha=0}=-i L_{j} .
\]
Далее, буквально повторяя рассуждения, которые привели нас к формуле (24.2), мы получим (2). Обратим внимание на то, что операторы – \( i L_{j} \) имеют те же перестановочные соотношения, что и матрицы \( A_{j}, j=1,2,3 \). Действительно, из
следует, что
\[
\begin{array}{c}
{\left[L_{1}, L_{2}\right]=i L_{3}} \\
{\left[-i L_{1},-i L_{2}\right]=-i L_{3} .}
\end{array}
\]
В теории групп доказывается, что перестановочные соотношения между инфинитезимальными операторами представления не зависят от выбора представления. Более того, если какие либо операторы в некотором пространстве \( \mathscr{E} \) удовлетворяют тем же перестановочным соотношениям, что и инфинитезимальные образуюцие группы, то они являются инфинитезимальными операторами некоторого представления, действующего в \( \mathscr{E} \).
Применительно к группе вращений это означает, что если мы найдем операторы \( M_{1}, M_{2}, M_{3} \), удовлетворяющие соотношениям: \( \left[M_{1}, M_{2}\right]=M_{3}, \quad\left[M_{2}, M_{3}\right]=M_{1}, \quad\left[M_{3}, M_{1}\right]=M_{2} \), то можем построить представление \( W \) по формуле
\[
W(\mathbf{a})=\exp \left(a_{1} M_{1}+a_{2} M_{2}+a_{3} M_{3}\right) .
\]