Теория представлений некомпактной группы $S U(1,1)$ была создана в 1947 f. Баргманом [13]. С тех пор она почти не фигурировала в физической литературе. Поэтому мы изложим
эту теорию более подробно, чем теорию представлений группы $S U(2)$. В целом изложение следует книге Гельфанда, Граева и Виленкина [14], в которой можно найти также доказательства некоторых математических положений.

Пусть $\mathscr{F}$-линейное пространство функций, заданных на границе единичного круга $\{\omega \in \mathbf{C}:|\omega|=1\}$ и бесконечно дифференцируемых с топологией, определяемой точечной сходимостью. Известно, что любая функция $f \in \mathscr{F}$ может быть разложена по базису
\[
\left\{e_{v}: e_{v}(\omega)=\omega^{v}, \quad v=0, \pm 1, \pm 2, \ldots\right\}
\]

в сходящийся всюду ряд Фурье
\[
f=\sum_{-\infty}^{+\infty} f_{v} e_{v}, \quad f_{v} \equiv \frac{1}{2 \pi i} \oint \frac{d \omega}{\omega} e_{v}(\omega)^{*} f(\omega) .
\]

С помощью фурье-компонент мы определяем подпространства линейного пространства $\mathscr{F}$ :
\[
\begin{array}{lll}
\mathscr{F}_{+}^{x, n} \equiv\left\{f \in \mathscr{F}: f_{v}=0\right. & \text { при } & v<n+x+1\}, \\
\mathscr{F}^{x, n} \equiv\left\{f \in \mathscr{F}: f_{v}=0\right. & \text { при } & v>-n-1\} .
\end{array}
\]

Из $\mathscr{F}_{ \pm}^{x, n}$ получаются подпространства
\[
\mathscr{F}_{\cap}^{x, n} \equiv \mathscr{F}_{+}^{x, n} \cap \mathscr{F}_{-}^{x, n}, \quad \mathscr{F}_{\cup}^{x, n} \equiv\left\langle\mathscr{F}_{+}^{x, n} \cup \mathscr{F}_{-}^{x, n}\right\rangle .
\]

Здесь $\langle\mathfrak{M}\rangle$-линейная оболочка пространства $\mathfrak{M}$. Очевидно, $\mathscr{F}_{U}^{\chi, n}=\{0\}$ при $n+x+1>0, \quad \mathscr{F}_{U}^{x, n}=\mathscr{F} \quad$ при $n<0$. (1.3.5)

Пространство $\mathscr{F}$ или его подпространства указанного вида содержатся в гильбертовых пространствах всех неприводимых унитарных представлений, которые будут построены в дальнейшем, как плотные подпространства.

Операция преобразования из группы $S U(1,1)$ на границе единичного круга определена следующим образом:
\[
S U(1,1)
i \mathrm{A}: \omega \rightarrow \omega \vec{A} \equiv \frac{\omega A_{11}+A_{21}}{\omega A_{12}+A_{22}} .
\]

Квазиинвариантная мера на границе едиңичного круга равна $d \omega / \omega$; производная Радона – Никодима равна
\[
\frac{d \omega \bar{A}}{\omega \bar{A}}=\left|\omega A_{12}+A_{22}\right|^{-2} \frac{d \omega}{\omega} .
\]

Непрерывное линейное представление группы $S U(1,1)$ в пространстве $\mathscr{F}$ для $x \in\{0,1\}$ и $l \in \mathbf{C}$ определяется следующим образом:
\[
\begin{array}{c}
S U(1,1)
i A \rightarrow V^{\chi, l}(A): \\
\left(V^{\chi, l}(A) f\right)(\omega)=\left|\omega A_{12}+A_{22}\right|^{-2 l-\chi-2}\left(\frac{\omega A_{12}+A_{22}}{\left|\omega A_{12}+A_{22}\right|}\right)^{\chi} f(\omega \bar{A}) .
\end{array}
\]

Согласно Гельфанду и др. [14] (гл. VII, § 2), для нецелых $l$ это представление является неприводимым в том смысле, что не существует нетривиального подпространства $\mathscr{F}$, инвариантного относительно представления $V^{x, l}$. Для целых $l$ подпространства $\mathscr{F}_{ \pm}^{x, l}, \mathscr{F}_{U}^{x, l}$ и $\mathscr{F}_{n}^{x, l}$-инварианты относительно $V^{\chi, l}$. При $l+x+1>0$ сужения
\[
V_{ \pm}^{x, l} \equiv V^{x, l} \mid \mathscr{F}_{ \pm}^{x, l} \quad(l+x+1>0, \text { целое })
\]

оказываются неприводимыми подпредставлениями. Так как при этом $\mathscr{F}_{U}^{x, l}$ (кроме случая $x=1, l=-1$ ) является собственным инвариантным подпространством, представление $V^{x, l}$ естественным образом индуцирует представление в фактор-пространстве $\mathscr{F} / \mathscr{F}_{\cup}^{\chi, l}$, которое, как можно доказать, является неприводимым. В силу изоморфизма
\[
\mathscr{F} / \mathscr{F}_{U}^{\chi, l} \approx \mathscr{F}_{\hat{n}}^{x_{1}-l-x-1}(l+x+1>0, \text { цеंлое })
\]

мы можем рассматривать это представление также на элементах пространства $\mathscr{F}_{\cap}^{\chi,-l-x-1}$. Таким образом, кроме $V_{ \pm}^{x, t}$, мы приходим еще и к третьему неприводимому представлению, заданному определением
\[
\begin{array}{c}
V_{\cap}^{x, l} \equiv P_{\cap}^{x,-l-x-1} V^{x, l} P_{\cap}^{x,-l-x-1} \mid \mathscr{F}_{\cap}^{x,-l-x-1} \\
(l+x+1>0, \text { целое }),
\end{array}
\]
т. е. к сужению на пространство $\mathscr{F}_{n}^{x,-l-x-1}$ представления $V^{x, l}$, которое осуществляется с помощью проекционных операторов $P_{\cap}^{x,-l-x-1}$. При $l<0$ мы имеем два варианта. Пространство $\mathscr{F}_{\mathrm{f}}^{x, l}$ (кроме случая $x=1, l=-1$ ) оказывается инвариантным подпространством пространства $\mathscr{F}$, и сужение
\[
V_{\hat{\cap}}^{x, l} \equiv V^{x, l} \mid \mathscr{F}_{\cap}^{\chi, l} \quad(l<0, \text { целое })
\]

является неприводимым представлением группы $S U(1,1)$. Так как в этом случае пространства $\mathscr{F}_{ \pm}^{-x, l}$ включают $\mathscr{F}_{\cap}^{-, i}$ в качестве нетривиального подпространства, то сужения представления $V^{x, l}$ на $\mathscr{F}_{ \pm}^{x, t}$ не являются неприводимыми. Однако можно доказать, что представления, естественным образом индуци руемые представлением $V^{x, l}$ в фактор-пространствах $\mathscr{F}_{ \pm}^{\chi, l} / \mathscr{F}_{n}^{\chi . l}$, являются неприводимыми. В силу изоморфизмов
\[
\mathscr{F}_{ \pm}^{x, l} / \mathscr{F}_{\cap}^{x, l} \approx \mathscr{F}_{ \pm}^{x,-l-x-1} \approx \mathscr{F} / \mathscr{F}_{\mp}^{x, l}(l<0, \text { целое) }(1.3 .13)
\]

мы можем рассматривать эти представления на элементах из пространств $\mathscr{F}_{ \pm}^{x,-l-x-1}$. Так что, помимо $V_{n}^{\chi, l}$, имеются неприводимые представления
\[
V_{ \pm}^{x, l} \equiv P_{ \pm}^{x,-l-x-1} V^{x, l} P_{ \pm}^{x_{1}-l-x-1} \mid \mathscr{F}_{ \pm}^{\chi,-l-x-1} \quad(l<0 \text {, целое }),(1.3 .14)
\]
т. е. сужения на пространстве $\mathscr{F}_{ \pm}^{x,-l-x-1}$ представления $V^{x, l}$, осуществляемые с помощью операторов $P_{ \pm}^{x,-l-x-1}$.

Таким образом, для целых $l$ мы имеем разложение пространства $\mathscr{F}$ в прямую сумму трех подпространств, на каждом из которых задано неприводимое представление группы $S U(1,1)$ :
\[
\mathscr{F}=\left\{\begin{array}{ll}
\mathscr{F}_{+}^{x, l} \oplus \mathscr{F}_{-}^{x, l} \oplus \mathscr{F}_{\cap}^{-x,-l-x-1} & (l+x+1>0, \text { целое }), \\
\mathscr{F}_{+}^{x,-l-x-1} \oplus \mathscr{F}_{-}^{x,-l-x-1} \oplus \mathscr{F}_{\cap}^{x, l} & (l<0, \text { целое }) .
\end{array}\right.
\]

Здесь па́ра представлений, отвечающая $l$ и $-l-x-1$, определена на одном и том же подпространстве. Однако следует отметить, что представление $V^{\chi, l}$ неразложимо и потому никаким способом не может быть представлено в виде прямой суммы подпредставлений $V_{ \pm}^{\chi, l}, V_{\cap}^{\chi, l}$. В случае $x=1, l=-1$, когда области $l+x+1>0$ и $l<0$ перекрываются, следует еще уточнить сформулированные выше утверждения. Здесь $\mathscr{F}^{1,-1}=\{0\}$ и пространство $\mathscr{F}$ распадается на прямую сумму $\mathscr{F}_{+}^{1,-1} \oplus \mathscr{F}^{1,-1}$. При этом мы имеем только два неприводимых представления $V_{ \pm}^{1,-1}$, причем $V^{1,1}=V_{+}^{1,-1} \oplus V_{-}^{1,-1}$.

Следующее утверждение относительно существования билинейных функционалов, инвариантных относительно пары представлений, которое доказано в книге Гельфанда и др. [14] (гл. VII, §3) для группы $S L(2, \mathrm{R})$, изоморфной группы $S U(1,1)$, можңо считать основной теоремой теории представлений группы $S U(1,1)$.
Билинейный функционал в пространстве $\mathscr{F}$ вида
\[
\langle f \mid B g\rangle \equiv(2 \pi i)^{-2} \oint \oint \frac{d \omega^{\prime}}{\omega^{\prime}} \frac{d \omega}{\omega} f\left(\omega^{\prime}\right) B\left(\omega^{\prime}, \omega\right) g(\omega)
\]

с обобщенным интегральным ядром $B\left(\omega^{\prime}, \omega\right)$, которое инвариантно относительңо па́ры представлений $V^{x, l}$ и $V^{x^{\prime}, l^{\prime}}$, т. е.

удовлетворяет требованию
\[
\left\langle V^{x^{\prime}, l^{\prime}}(A) f \mid B V^{x, l}(A) g\right\rangle=\langle f \mid B g\rangle, A \in S U(1,1),
\]

существует лишь при условии, что $x^{\prime}=x$ и $l^{\prime}=-l^{*}-x-1$ или $l^{\prime}=l^{*}$. В случае $l^{\prime}=-l^{*}-x-1$ ядро такого функционала равно (или пропорционально)
\[
B\left(\omega^{\prime}, \omega\right)=2 \pi \delta\left(-i \ln \frac{\omega^{\prime}}{\omega}\right) .
\]
(Исключение представляет случай $x=1, l=-1$.) Если $l^{\prime}=l^{*}$, $l$ – нецелое, то такой функционал (также единственный с точностью до множителя) определяется ядром
\[
B\left(\omega^{\prime}, \omega\right)=T^{x, l}\left(\frac{\omega^{\prime}}{\omega}\right),
\]

где
\[
T^{\chi, l}(\omega) \equiv \frac{\pi|1-\omega|^{2 t}(1-\omega)^{x}}{\Gamma(2 l+x+1) \sin \pi(l+x+1)} .
\]

В случае $l^{\prime}=l, l$-целое, в пространстве $\mathscr{F}$ существуют ровно два (с точңостью до множителя) инвариантных функционала:
\[
B=T_{+}^{\varkappa, l} \quad \text { и } \quad B=T_{-}^{\varkappa, l},
\]

где операторы $T_{ \pm}^{\varkappa, l}$ определяются „спектральным представлением“:
\[
\begin{array}{c}
T_{+}^{x, l} e_{v}=\left\{\begin{array}{cc}
\frac{(v-l-x-1) !}{(v+l) !} e_{v} & \text { при } v \geqslant-l, \\
0 & \text { при } v<-l,
\end{array}\right. \\
T_{\sim}^{x, l} e_{v}=\left\{\begin{array}{ll}
(-1)^{x} \frac{(-v-l-1) !}{(-v+l+x) !} e_{v} & \text { при } v \leqslant l+x, \\
0 & \text { при } v>l+x .
\end{array}\right.
\end{array}
\]

Поэтому оператор $T_{ \pm}^{x, l}$ вырожден в пространстве $\mathscr{F}_{\mp}^{\chi, l}$; оба функционала вырождены в пространстве $\mathscr{F}_{\text {ก, }}^{x, l}$. В этом подпространстве, нетривиальном при $l+x+1 \leqslant 0$, существует (единственный с точностью до множителя) инвариантный функционал. определяемый „спектральным представлением“
\[
\begin{array}{l}
\hat{T}_{\cap}^{x, l} e_{v}=(-1)^{v+l+1}(v-l-x-1) !(v-l-1) ! e_{v}, \\
l+x+1 \leqslant v \leqslant-l-1, \quad l+x+1 \leqslant 0, \text { целое. }
\end{array}
\]

В случае $l^{\prime}=l>0, l$-целое, существует (единственный с точностью до множителя) инвариантный функционал
\[
B=T_{\cap}^{\chi, l},
\]
его определение:
\[
T_{n}^{x, l} e_{v}=\left\{\begin{array}{c}
(-1)^{v-l-x}[(l+x-v) !(l+v) !]^{-1} e_{v}, \quad-l \leqslant v \leqslant l+x, \\
0 \quad \text { при других } v \quad(l \geqslant 0, \text { целое }) .
\end{array}\right.
\]

Оператор $T_{\cap}^{\chi, l}$ вырожден в подпространствах $\mathscr{F}_{+}^{\varkappa, l}$ и $\mathscr{F}_{-}^{\chi, l}$. В каждом из них инвариантный функционал задается следующим образом:
\[
\widehat{T}_{+}^{x, l} e_{v}=\frac{(v-l-x-1) !}{(v+l) !} e_{v}, \quad v \geqslant l+x+1,
\]
$\widehat{T}_{-}^{x, l} e_{v}=(-1)^{x} \frac{(-v-l-1) !}{(-v+l+x) !} e_{v}, v \leqslant-l-1(l \geqslant 0$, целое $)$.
Прежде чем использовать эту теорему для теории представлений группы $S U(1,1)$, обсудим некоторые свойства функционала $T^{\chi, l}$. Для нецелых $l$ функционал $T^{\chi, l}$, определяемый формулой (1.3.20), также диагонален в базисе $\left\{e_{v}\right\}$ :
\[
T^{x, l} e_{v}=\frac{\Gamma(v-l-x)}{\Gamma(v+l+1)} e_{v}=(-1)^{x} \frac{\Gamma(-v-l)}{\Gamma(-v+l+x+1)} e_{v} .
\]

Отсюда сразу же следует, что оператор $T^{x,-l-x-1}$ является обратным для $T^{x, l}:$
\[
T^{x, l} T^{x,-l-x-1}=\mathbf{I}_{\mathscr{F}}=T^{x,-l-x-1} T^{x, l} .
\]

Используем символ $\wedge$, чтобы обозначить сужение оператора на подпространство:
\[
\begin{array}{ll}
\widehat{T}_{ \pm}^{\chi, l} \equiv T_{ \pm}^{\alpha, l} \mid \mathscr{F}_{ \pm}^{\chi,-l-x-1} & (l<0, \text { целое }), \\
\widehat{T}_{\cap}^{\varkappa, l} \equiv T_{\cap}^{\chi, l} \mid \mathscr{F}_{\cap}^{\chi,-l-x-1} & (l \geqslant 0, \text { целое }) .
\end{array}
\]

Легко видеть, что операторы $\widehat{T}_{ \pm}^{x, l}$ и $\widehat{T}_{\cap}^{x, l}$ можно интерпретировать как „предельные значения“ оператора $T^{x, z}$ с комплексным $z$ :
\[
\begin{array}{l}
\hat{T}_{ \pm}^{x, l}=\left\{\begin{array}{ll}
\lim _{z \rightarrow l} T^{x, z} \mid \mathscr{F}_{ \pm}^{x, l-x-1} & (l<0), \\
\lim _{z \rightarrow l} T^{x, z} \mid \mathscr{F}_{ \pm}^{x, l} & (l \geqslant 0),
\end{array}\right. \\
\widehat{T}_{\hat{n}, t}=\left\{\begin{array}{ll}
\left.\lim _{z \rightarrow l} \frac{d}{d z} T^{x, z} \right\rvert\, \mathscr{F}_{\cap}^{\chi, l} & (l<0), \\
-\operatorname{Res}_{z=l}^{x, z} \mid \mathscr{F}_{\cap}^{x,-l-x-1} & (l \geqslant 0) .
\end{array}\right.
\end{array}
\]
Сужения операторов, отвечающие $l$ и $-l-x-1$, также взаимно обратны:
\[
\widehat{T}_{ \pm}^{x, l} \widehat{T}_{ \pm}^{x,-l-x-1}=\widehat{T}_{ \pm}^{x,-l-x-1} \hat{T}_{ \pm}^{x, l}=\left\{\begin{array}{ll}
I_{\mathscr{F}^{x},-l-x-1} & (l<0, \text { целое }), \\
I_{\mathscr{F}_{ \pm}^{x, l}} & (l>0, \text { целое }),
\end{array}\right.
\]
$\widehat{T}_{\cap}^{x, l} \widehat{T}_{\cap}^{x,-l-x-1}=\widehat{T}_{\cap}^{x,-l-x-1} \widehat{T}_{\cap}^{x, l}=\left\{\begin{array}{ll}I_{\mathscr{F}^{x, l}} & (l<0, \text { целое }), \\ I_{\mathscr{F}^{\chi,-l-x-1}} & (l \geqslant 0, \text { целое }) .\end{array}\right.$
В качестве первого следствия сформулированной выше теоремы покажем, что представления, отвечающие $l$ и – $l-x-1$, эквивалентны. В силу соотношения
\[
\left\langle V^{\varkappa, l}(A) f \mid B g\right\rangle=\left\langle f \mid V^{\varkappa,-l^{*}-\varkappa-1}\left(A^{-1}\right) B g\right\rangle,
\]

справедливого для любого $B$ в формуле (1.3.16), инвариантные функционалы, существующие в случае $l^{\prime}=l^{*}$, определяют операторы, дающие связь между соответствующими представлениями. При $l^{\prime}=-l^{*}-x-1$ оператор $B$ пропорционален единице. Поэтому для нецелых $l$ имеем
\[
T^{x, l} V^{x, l}=V^{x,-l-x-1} T^{x, l},
\]

а для подпредставлений с целыми $l$ получаем
\[
\begin{array}{l}
\hat{T}_{ \pm}^{x, l} V_{ \pm}^{x, l}=V^{x,-l-x-1} \widehat{T}_{ \pm}^{x, l}, \\
T_{\cap}^{x, l} V_{\cap}^{x, l}=V_{\cap}^{x,-l-x-1} \widehat{T}_{\cap}^{x, l} .
\end{array}
\]

Вторым следствием основной теоремы является неприводимость в смысле Шура всех представлений $V^{\chi, l}$. Так как в случае $l^{\prime}=-l^{*}-x-1 \delta$-функционал (1.3.18) является единственным инвариантным функционалом, то в силу соотношения (1.3.32) единственным оператором, коммутирующим с представлением $V^{\chi, t}$, является единица. Исключение составляет случай $x=1$, $l=-1$, когда операторы $\pm T_{ \pm}^{1,-1}$ осуществляют проекцию на подпространства $\mathscr{F}_{ \pm}^{1,-1}$ и коммутируют с представлением $V^{1,-1}$ в силу соотношений (1.3.34). Это отвечает отмеченному выше разложению представления $V^{1,-1}$ в прямую сумму $V_{+}^{1,-1} \oplus V_{-}^{1,-1}$.

Наконец, основную теорему можно использовать для определения условий, при которых построенные выше представления
в пространстве $\mathscr{F}$ и его подпространствах могут быть обобщены до унитарных представлений в гильбертовом пространстве. Для полученных таким образом унитарных представлений мы позднее кратко дадим доказательства их неприводимости.

Скалярное произведение в гильбертовом пространстве, для которого $\mathscr{F}$ является плотным подпространством и в котором представление $U_{S U(1,1)}^{\chi, l}$ при сужении на $\mathscr{F}$ дает $V^{x, l}$, определяется как специальный билинейный функционал того вида, какой был описан в нашей теореме для случая $x^{\prime}=x, l^{\prime}=l$. Он симметричен и положительно определен:
\[
\langle f \mid B g\rangle=\langle g \mid B f\rangle^{*},\langle f \mid B f\rangle>0 \text { при } f
eq 0 .
\]

Согласно теореме, этот функционал существует только при условии, что $\operatorname{Re} l=-1 / 2(1+x)$ или $\operatorname{Im} l=0$. В первом случае $B$ является $\delta$-функционалом, который, очевидно, симметричен и положительно определен. Во втором случае при нецелых $l$ функционал $T^{x, t}$ симметричен, так как, согласно формуле (1.3.27), он имеет вещественные собственные значения. Однако он является положительно определенным только при $x=0$, $-1<l<0$, так как только в этом случае отношение собственных значений для векторов $e_{v+1}$ и $e_{v},(v-l-x) /(v+l+1)$, положительно при всех $v$, а при $x=0, l=-1 / 2$ оператор $T^{x, l}$ равен единице. Для целых $l$ рассмотрим функционалы $\hat{T}^{\chi, l}$ и $\widehat{T}_{\cap}^{x, l}$, заданные на своих подпространствах. Эти функционалы симметричны, так как их собственные значения вещественны. В пространствах $\mathscr{F}_{\cap}^{\chi, t}$ (при $l<0$ ) и $\mathscr{F}^{x,-l-x-1}$ (при $l+x+1>0$ ) положительно определенные функционалы существуют только при $x=0, l=-1$ и $x=0, l=0$ соответственно, так как собственные значения имеют чередующиеся знаки. С другой стороны, в пространствах $\mathscr{F}_{ \pm}^{x, l}\left(\right.$ при $l+x+1>0$ ) и $\mathscr{F}_{ \pm}^{x, l-x-1}$ (при $l<0$ ) операторы $( \pm 1)^{x} \widehat{T}_{ \pm}^{x, l}$ являются положительно определенными при целых $l$ и $x \in\{0,1\}$. В указанных выше случаях инвариантные, симметричные и положительно определенные функционалы в пространстве $\mathscr{F}$ или его подпространствах могут быть введены как скалярные произведения. Эти линейные пространства, снабженные соответствующими скалярными произведениями, являются гильбертовыми пространствами $\mathfrak{F}_{S U}^{x, l}(1,1)$, в которых представления $V^{x, l}$ расширяются до унитарных представлений $U_{S U(1,1)}^{\chi, l}$. Таким образом, существуют следующие серии унитарных представлений группы $S U(1,1)$ :
1. Основная серия состоит из представлений вида
\[
\begin{array}{l}
\left(U_{S U(1,1)}^{\chi, l}(A) f\right)(\omega)= \\
=\sqrt{\frac{d \omega \bar{A} / \omega \bar{A}}{d \omega / \omega}}\left|\omega A_{12}+A_{22}\right|^{-2 l-x-1}\left(\frac{\omega A_{12}+A_{22}}{\left|\omega A_{12}+A_{22}\right|}\right)^{x} f(\omega \bar{A}), \\
\quad x=0,1 ; \quad l=-\frac{1}{2}(1+x)+i \xi, \quad-\infty<\xi<\infty,
\end{array}
\]

в гильбертовом пространстве $\mathfrak{S}_{S U}^{\chi, 1}(1,1) \equiv \mathfrak{g}$ квадратично интегрируемых функций на границе единичного круга; скалярное произведение определено следующим образом:
\[
\langle f \mid g\rangle_{S U(1,1)}^{\alpha, l} \equiv \frac{1}{2 \pi i} \oint \frac{d \omega}{\omega} f(\omega)^{*} g(\omega) .
\]
2. Дополнительная серия состоит из представлений вида
\[
\left(U_{S U(1,1)}^{0, l}(A) f\right)(\omega)=\frac{d \omega \bar{A} / \omega \bar{A}}{d \omega / \omega}\left|\omega A_{12}+A_{22}\right|^{-2 l} f(\omega \bar{A}),
\]

в гильбертовых пространствах $\mathfrak{S}_{S U}^{0, l}(1,1)$ со скалярными произведениями
\[
\langle f \mid g\rangle_{S U(1,1)}^{0, l} \equiv\left\langle f \mid T^{0, l} g\right\rangle=\sum_{v=-\infty}^{+\infty} \frac{\Gamma(v-l)}{\Gamma(v+l+1)} f_{v}^{*} g_{v} .
\]
3. Дискретная серия состоит из представлений вида
\[
\begin{array}{r}
\left(U_{S U(1,1)}^{\chi, l, \pm}(A) f\right)(\omega)=\frac{1}{2 \pi i} \oint \frac{d \omega^{\prime}}{\omega^{\prime}} P_{ \pm}^{x, l_{0}}\left(\frac{\omega}{\omega^{\prime}}\right)\left|\omega^{\prime} A_{12}+A_{22}\right|^{-2 l-x-1} \times \\
\\
\times\left(\frac{\omega^{\prime} A_{12}+A_{22}}{\left|\omega^{\prime} A_{12}+A_{22}\right|}\right)^{x} f\left(\omega^{\prime} \bar{A}\right) \\
x=0,1, \quad l=0, \pm 1, \pm 2, \ldots, \quad l_{0} \equiv \max (l,-l-x-1),
\end{array}
\]

где $P_{ \pm}^{x_{1}, l_{0}}\left(\omega / \omega^{\prime}\right)$ – ядро, отвечающее оператору проекции на подпространство $\mathscr{F}_{ \pm}^{x_{2}, l_{0}}, l_{0} \equiv \max (l,-l-x-1)$. Представлеңия действуют в гильбертовых пространствах $\mathscr{S}_{S U}^{\chi, l}(1,1)$, которые получаются путем введения в упомянутые пространства скалярных произведений вида
\[
\begin{array}{l}
\langle f \mid g\rangle_{S U(1,1)}^{x, l, \pm} \equiv\left\langle f \mid( \pm 1)^{x} \hat{T}_{ \pm}^{x, l} g\right\rangle= \\
=\sum_{v=\max }^{\infty} \frac{(v-l-l, l+x+1)}{(v+l) !} f_{ \pm(v+x / 2)+x / 2} g_{ \pm(v+x / 2)+x / 2} .
\end{array}
\]

При $l+x+1>0$ проекционный оператор в формуле (1.3.40) можно опустить.
4. Единичные представления. Это представления вида
\[
\begin{array}{l}
\left(U_{S U(1,1)}^{0, l, \cap}(A) f\right)(\omega)= \\
=\frac{1}{2 \pi i} \oint \frac{d \omega^{\prime}}{\omega^{\prime}} P_{\cap}^{0,0}\left(\frac{\omega}{\omega^{\prime}}\right)\left|\omega^{\prime} A_{12}+A_{22}\right|^{2 l-2} f\left(\omega^{\prime} \bar{A}\right), \\
x=0, \quad l=0,-1,
\end{array}
\]

в одномерном гильбертовом простраңстве $\mathfrak{F}_{S U(1,1)}^{0, l, n} \equiv \mathscr{F}_{n}^{0,0} \equiv \mathbf{C}$. Проекционный оператор $P_{\hat{0}}^{0,0}$ можно опустить при $l=-1$.

Основна́я и дополнительная серии пересекаются в точке $x=0, l=-\frac{1}{2}$, причем соответствующие представления в обеих сериях совпадают. Основная и дискретная серии пересекаются в точке $x=1, l=-1$. Представление $U_{S U(1,1)}^{1,-1}$ основной серии разлагается в прямую сумму представлений $U_{S U(1,1)}^{1,-1}$ и $U_{S U}^{1,-1,-1}$, принадлежащих дискретной серии. Соотношения эквивалентности (1.3.33) и (1.3.34) для унитарных серий могут быть распространены до соотношений унитарной эквивалентности. Следовательно, представления с $l$ и – $l-x-1$ унитарно эквивалентны. Классы эквивалентности неприводимых унитарных представлений группы $S U(1,1)$ могут быть определены поэтому уже на половине указанных серий. Для параметра $\rho$, введенного в разд. 1.1 для характеристики классов эквивалентности неприводимых унитарных представлений малых групп, можно выбрать следующие обозначения:

Здесь мы ввели $\eta=0$ для единообразного обозначения гильбертовых пространств $\mathfrak{F}_{S U(1,1)}^{x, l, \eta}$ и действующих в них представлений $U_{S U(1,1)}^{*, l, \eta}$. В дальнейшем мы будем обсуждать только представления с параметрами, указанными в формуле (1.3.43). Для таких представлений можно опустить проекционные операторы в формулах (1.3.40) и (1.3.42). Единичное представление в дальнейшем рассматриваться не будет.
Все представления указанных серий неприводимы, за исключением особого случая $x=1, l=-1$ из основной серии. Доказательство этого утверждения основано на применении леммы Шура к унитарным представлениям в гильбертовых пространствах. Согласно этой лемме, представление неприводимо тогда и только тогда, когда любой ограниченный оператор, с ним коммутирующий, кратен единице. Пусть $C$ – ограниченный оператор, коммутирующий с представлением $U_{S U(1,1)}^{x, l, \eta}$. Так как оператор $C$ коммутирует с сужением этого представления на диагональную подгруппу $H_{1} \equiv\left\{A \in S U(1,1): A_{12}=A_{21}^{*}=0\right\}$, то оператор $C$ также диагонален в базисе $\left\{e_{v}\right\}$. Для его собственных значений $c_{v}$ получаем соотношение
\[
\left(c_{v^{\prime}}-c_{v}\right)\left\langle e_{v^{\prime}} \mid U_{S U(1,1)}^{\chi, I, \eta}(A) e_{v}\right\rangle_{S U(1,1)}^{\chi, l, \eta}=0
\]

для любого $A \in S U(1,1)$. Матричные элементы будут явно вычислены в разд. 2.3. Забегая вперед, отметим, что они, вообще говоря, отличны от нуля для любых $v$ и $v^{\prime}$. Следовательно, оператор $C$ кратен единичному.

Представления с параметрами, указанными в формуле (1.3.43), являются представителями всех классов эквивалентности неприводимых унитарных представлений группы $S U(1,1)$; иными словами, любое неприводимое унитарное представление группы $S U(1,1)$ эквивалентно одному из них. Подробное доказательство этого утверждения можно найти, например, в работе Такахаси [16].

Для дальнейшего удобно рассмотреть еще одну реализацию представлений дискретной серии. С этой целью совершим аналитическое продолжение элементов подмножества $\mathscr{F}_{+}^{-2, l}$ внутрь единичного круга $\{z \in \mathbf{C}:|z|<1\}$, сопоставляя элементу $f=$ $=\sum_{l+x+1}^{\infty} f_{v} e_{v}, \quad f \in \mathscr{F}_{+}^{x, l}$, функцию $f^{\prime}=\sum_{l+x+1}^{\infty} f_{v} e_{v}^{\prime}$, где $e_{v}^{\prime}(z) \equiv z^{v}$. Вводя в полученное пространство скалярное произведение
\[
\begin{array}{c}
\left\langle f^{\prime} \mid g^{\prime}\right\rangle_{S U(1,1)}^{\prime, l,+} \equiv \int_{|z|<1} d \mu^{x, l}(z) f^{\prime}(z)^{*} g^{\prime}(z), \\
\left\langle e_{v^{\prime}}^{\prime} \mid e_{v}^{\prime}\right\rangle_{S U(1,1)}^{\prime, l,+}=\delta_{v^{\prime} v} \frac{(v-l-x-1) !}{(v+l) !}\left\langle e_{v^{1}} \mid e_{v}\right\rangle_{S U(1,1)}^{x, l,+}, \\
d \mu^{x, l}(z) \equiv \frac{d x d y\left(1-|z|^{2}\right)^{2 i+x}}{\pi(2 l+x) !|z|^{2 l+2 x+2}}, \quad z=x+i y,
\end{array}
\]

мы приходим к гильбертову пространству $\mathfrak{Y}_{S}^{\prime \prime,},(1,1)$, содержащему функции, голоморфные внутри единичного круга и имеющие нуль порядка $l+x+1$ или более высокого в начале координат. Изоморфизм гильбертовых пространств $\mathfrak{y}_{S U}^{x, l,+, 1)}$ и
\[
\begin{array}{c}
\mathfrak{J}_{S U(1,1)}^{x, l,+}
i f=\sum_{l+x+1}^{\infty} f_{v} e_{v} \rightarrow f^{\prime}=\sum_{l+x+1}^{\infty} f_{v} e_{v}^{\prime} \in \mathfrak{Y}_{S U(1,1)}^{\prime x, l,+}, \\
\mathfrak{J}_{S U(1,1)}^{\prime x, l,+} \equiv f^{\prime} \rightarrow f: f(\omega)=\lim _{z \rightarrow \omega} f^{\prime}(z) \in \mathcal{S}_{S U(1,1)^{*}}^{x, l,+}
\end{array}
\]

Преобразование $z \rightarrow z \bar{A}=\left(z A_{11}+A_{21}\right) /\left(z A_{12}+A_{22}\right)$, приңадлежащее группе $S U(1,1)$, внутри единичного круга можно рассматривать теперь как аналитическое продолжение соответствующей операции $\omega \rightarrow \omega \bar{A}$ на границе круга. Поскольку $l$-целое число, представление (1.3.40) можно записать в виде
\[
\left(U_{S U(1,1)}^{x, l,+}(A) f\right)(\omega)=\left(\omega A_{12}+A_{22}\right)^{-l-1}\left(\omega^{-1} A_{21}+A_{11}\right)^{-l-x-1} f(\omega \bar{A}),
\]

так что его можно аналитически продолжить внутрь единичного круга и получить представление
$\left(U_{S U(1,1)}^{\prime \prime, l,+}(A) f^{\prime}\right)(z)=$
\[
=\left(z A_{12}+A_{22}\right)^{-l-1}\left(z^{-1} A_{21}+A_{11}\right)^{-l-x-1} f^{\prime}(z \bar{A})
\]

в пространстве $\mathfrak{F}_{S U(1,1)}^{\prime x, 1,}$. В силу формул (1.3.45) и (1.3.44) это представление унитарно эквивалентно представлению $U_{S U}^{x, l,+1)}$. Аналогичным образом можно реализовать $U_{S U(1,1)}^{\chi, l,-1}$ путем аналитического продолжеңия вовне единичного круга. Мы, однако, воспользуемся другим способом, преобразовав прежде представление $U_{S U}^{x, l, 1,1)}$ с помощью унитарного отображения
\[
L_{x}: \mathcal{F}_{S U}^{x, l,-, 1)} \rightarrow \mathcal{F}_{S U(1,1)}^{x, l,+}, \quad\left(L_{x} f\right)(\omega) \equiv \omega^{x} f\left(\omega^{-1}\right)
\]

на представление
\[
L_{\chi} U_{S U(1,1)}^{\chi, l,-} L_{\chi}^{-1}=U_{S U(1,1)}^{\chi, l,+^{*}}, \quad U_{S U(1,1)}^{\chi, l_{1}^{*},+^{*}}(A) \equiv U_{S U(1,1)}^{\chi, l,+}\left(A^{*}\right) .
\]

Теперь это представление можно продолжить внутрь единичного круга, и мы получим

Отметим также антиунитарную эквивалентность представлений $U_{S U}^{\prime \prime, l, 1,1)}$ и $U_{S U}^{\prime \prime, l,-1,1)}$. Используя антиунитарный оператор
\[
K_{x}^{\prime}: \mathfrak{F}_{S U(1,1)}^{\prime x, l,+} \rightarrow \mathfrak{F}_{S U(1,1)}^{\prime x, l,+},\left(K_{x}^{\prime} f\right)(z) \equiv f\left(z^{*}\right)^{*}, K_{\varkappa}^{\prime 2}=\mathbf{I}_{\mathfrak{F}_{S U(1,1)}^{\prime, l,},}
\]

мы получим

Заметим в заключение, что ядро, отвечающее единичному оператору в пространстве $\mathfrak{F}_{S U(1,1)}^{\prime 2, l,+}$, имеет вид
\[
\begin{aligned}
K^{x, l,+}\left(z^{\prime}, z\right) & \equiv \sum_{t+x+1} \frac{(v+l) !}{(v-l-x-1) !} e_{v}^{\prime}\left(z^{\prime}\right) e_{v}^{\prime}(z)^{*}= \\
& =\frac{(2 l+x+1) !\left(z^{\prime} z^{*}\right)^{l+x+1}}{\left(1-z^{\prime} z^{*}\right)^{2 l+x+2}} .
\end{aligned}
\]