Чтобы подойти к проблеме редукции для сужения неприводимых унитарных представлений группы $S U(1,1)$ на ее некомпактную подгруппу $H_{2}=S U(1,1) \cap S L(2, R)$, начнем с чисто формальной проекционной техники. Оператор
\[
P_{\lambda}^{\chi, l, \eta} \equiv \frac{1}{2} \sum_{\varepsilon= \pm} \int_{-\infty}^{+\infty} \frac{d \xi}{2 \pi} \chi^{\chi, \lambda}(\varepsilon, \xi) U_{S U(1,1)}^{\chi, l, \eta}(D(\varepsilon, \xi))
\]

обладает свойствами проекционного оператора
\[
\left[\dot{P}_{\lambda}^{\alpha, l, \eta}\right]^{+}=P_{\lambda}^{\alpha, l, \eta}, P_{\lambda^{\prime}}^{\alpha, l, \eta} P_{\lambda}^{\alpha, l, \eta}=\delta\left(\lambda^{\prime}-\lambda\right) P_{\lambda}^{\alpha, l, \eta} .
\]

Так как
\[
U_{S U:(1,1)}^{\alpha, l, \eta}(D(\varepsilon, \xi)) P_{\lambda}^{\alpha, l, \eta}=\chi^{\chi, \lambda}(\varepsilon, \xi) P_{\lambda}^{\alpha, l, \eta},
\]
мы можем интерпретировать $P_{\lambda}^{\varkappa, l, \eta}$ как оператор, выделяющий из сужения $U_{S U(1, t)}^{\chi, l, \eta} \mid H_{2}$ неприводимое унитарное представление $\chi^{x, \lambda}$.
Из определения (2.5.1) имеем

Подстановка
\[
\xi \rightarrow \omega^{\prime}=\omega \overline{D(\varepsilon, \xi)},
\]

использованная в формулах (2.5.4), указывает на следующее разбиение границы $\partial K$ единичного круга на орбиты по отношению к подгруппе $H_{2}$ :
\[
\begin{aligned}
\partial K & \equiv\{\omega \in \mathbf{C}:|\omega|=1\}=\partial K_{+} \cup \partial K_{-} U\{1\} \cup\{-1\}, \\
\partial K_{\tau} & \equiv\{\omega \in \partial K: \operatorname{sign} \operatorname{Im} \omega=\tau\}, \quad \tau= \pm .
\end{aligned}
\]

Из этого разбиения видно, что любое подпространство пространства $\mathfrak{S}_{S U}^{x, l, \eta}(1,1)$, состоящее из функций, сосредоточенных на одной из орбит, инвариантно относительно сужения $\left.U_{S U}^{\chi, l, \eta} \mid 1,1\right) \mid H_{2}$. Орбитами $\{1\}$ и $\{-1\}$, имеющими меру нуль в множестве $\partial K$, в дальнейшем будем пренебрегать.

Точное решение проблемы редукции будет дано сначала для основной серии. Прежде всего совершим унитарное отображение пространства представлений $\mathfrak{S}_{S U(1,1)}^{\chi, l, 0}$ на гильбертово пространство $\mathfrak{y}_{S U(1,1)}^{\prime x, l, 0}$, состоящее из пар функций $f^{\prime}=\left(f_{+}^{\prime}, f_{-}^{\prime}\right)$ :
\[
\begin{array}{c}
f_{\tau}^{\prime}(q) \equiv(\operatorname{ch} q)^{-l-x / 2-1}\left(\frac{1+i \tau e^{-q}}{1-i \tau e^{-q}}\right)^{-x / 2} f\left(\frac{1+i \tau e^{-q}}{1-i \tau e^{-q}}\right) \\
\frac{1+i \tau e^{-q}}{1-i \tau e^{-q}} \in \partial K, \quad q \in \mathbf{R},
\end{array}
\]
заданных на вещественной оси со скалярным произведением
\[
\left\langle f^{\prime} \mid g^{\prime}\right\rangle_{S U(1,1)}^{\prime x, l, 0}=\sum_{\tau= \pm} \int_{-\infty}^{+\infty} \frac{d q}{2 \pi} f_{\tau}^{\prime}(q)^{*} g_{\tau}^{\prime}(q)=\langle f \mid g\rangle_{S U(1,1)}^{x, l, 0} .
\]

Преобразование Фурье
\[
f_{\tau}^{\prime \prime}(\lambda)=\int_{-\infty}^{+\infty} \frac{d q}{2 \pi} e^{-i \lambda q} f_{\tau}^{\prime}(q), \quad f_{\tau}^{\prime}(q)=\int_{-\infty}^{+\infty} d \lambda e^{i \lambda q} f_{\tau}^{\prime \prime}(\lambda)
\]

дает еще одно унитарное преобразование пространства $\mathfrak{S}_{S U(1,1)}^{\prime, l, 0}$ на гильбертово пространство $\mathfrak{I}_{S U(1,1)}^{\prime \prime}$, состоящее из пар функций $f^{\prime \prime}=\left(f_{+}^{\prime \prime}, f_{-}^{\prime \prime}\right)$, заданных на вещественной оси со скалярным произведением
\[
\left\langle f^{\prime \prime} \mid g^{\prime \prime}\right\rangle_{S U(1,1)}^{\prime \prime} \equiv \sum_{\lambda= \pm} \int_{-\infty}^{+\infty} d \lambda f_{\tau}^{\prime \prime}(\lambda)^{*} g_{\tau}^{\prime \prime}(\lambda)=\langle f \mid g\rangle_{S U(1,1)}^{\kappa, l, 0} .
\]

Мы можем придать пространству $\mathfrak{y}_{S U(1,1)}^{\prime \prime, l, 0}$ структуру прямого интеграла двумерных комплексных гильбертовых пространств:
\[
\mathfrak{S}_{S U(1,1)}^{\prime \prime}=\oplus \int_{-\infty}^{+\infty} \sqrt{d \lambda} \mathbf{C}^{2} .
\]

Рассматривая преобразования, принадлежащие сужению $U_{S U(1,1)}^{x, l, 0} \mid H_{2}$ в пространстве $\mathfrak{F}_{S U(1,1), \text { получаем }}^{x, l, 0}$
\[
\left(U_{S U(1,1)}^{\prime \prime, t, 0}(D(\varepsilon, \xi)) f_{\tau}^{\prime \prime}\right)(\lambda)=\chi^{\kappa, \lambda}(\varepsilon, \xi) f_{\tau}^{\prime \prime}(\lambda) .
\]

Это полностью решает проблему редукции для сужения $U_{S U(1,1)}^{x_{1} l, 0} \mid H_{2}$, так как сужение $U_{S U(1,1)}^{\prime \prime} \mid H_{2}$ имеет вид прямого интеграла от неприводимых унитарных представлений $\chi^{x^{\prime}, \lambda}$ группы $\mathrm{H}_{2}$ :
\[
U_{S U(1,1)}^{\prime \prime, l, 0} \mid H_{2}=\oplus \int_{-\infty}^{+\infty} d \lambda\left(\chi^{\varkappa, \lambda} \oplus \chi^{\varkappa, \lambda}\right)
\]

причем каждое из представлений входит ровно два раза при условии, что $x^{\prime}=x$. Этот результат согласуется с утверждением Баргмана [13] относительно спектра генератора, принадлежащего подгруппе $H_{2}$. Переход к пространству $\mathfrak{y}_{S U}^{\prime \prime}(1,1)$, который решает проблему редукции, был произведен в соответствии с эвристическим рассмотрением в начале этого раздела. Как легко видеть, фурье-образ $f_{\tau}^{\prime \prime}$ в формуле (2.5.9) совпадает с функцией $f_{\tau}^{\prime \prime}$ в формуле (2.5.4), которая, согласно (2.5.3), формально удовлетворяет соотношению (2.5.12). Функции $\varphi_{\tau \lambda}^{\varkappa, l}$, определенные в формуле (2.5.4), играют роль ядер интегральных операторов для отображения пространства представлений в пространство $\mathfrak{F}_{S U(1,1)}^{\prime \prime}$. У, нитарность этого отображения выражается формулами
\[
\begin{array}{c}
\left\langle\varphi_{\tau^{\prime} \lambda^{\prime}}^{\chi, l} \mid \varphi_{\tau \lambda^{\prime}}^{\chi, l}\right\rangle_{S U(1,2)}^{x, l, 0}=\delta_{\tau^{\prime} \tau} \delta\left(\lambda^{\prime}-\lambda\right) \\
\sum_{\tau^{\prime}, \tau= \pm} \int_{-\infty}^{+\infty} d \lambda \varphi_{\tau \lambda^{\prime}}^{x, l}\left(\omega^{\prime}\right) \varphi_{\tau \lambda}^{x, l}(\omega)^{*}=2 \pi \delta\left(-\frac{i \ln \omega^{\prime}}{\omega}\right) .
\end{array}
\]

Для дополнительңой серии рассмотрим преобразование
\[
\begin{aligned}
f_{\tau}^{\prime \prime}(\lambda) & =\frac{1}{2 \pi i} \oint \frac{d \omega}{\omega} \varphi_{\tau \lambda}^{0,-l-1}(\omega)^{*} f(\omega), \\
f(\omega) & =\sum_{\tau= \pm} \int_{-\infty}^{+\infty} d \lambda \varphi_{\tau \lambda}^{0, l}(\omega) f_{\tau}^{\prime \prime}(\lambda),
\end{aligned}
\]

содержащее комбинацию преобразований, аналогичных формулам (2.5.7) и (2.5.9). На мысль о возможности такого преобразования наводит формула (2.5.4). Таким образом, мы имеем унитарное отображение пространства $\mathfrak{5}_{S U(1,1)}^{0, l, 0}$ на гильбертово пространство $\mathscr{y}_{S U(1,1)}^{\prime 0, l, 0}$ пар функций $f^{\prime \prime}=\left(f_{+}^{\prime \prime}, f_{-}^{\prime \prime}\right)$ на вещественной оси со скалярным произведением
\[
\begin{array}{c}
\left\langle f^{\prime \prime} \mid g^{\prime \prime}\right\rangle_{S U(1,1)}^{\prime \prime} \equiv \int_{-\infty}^{+\infty} d \lambda \sum_{\tau^{\prime}, l, 0} f_{\tau^{\prime}}^{\prime \prime}(\lambda)^{*} T_{\tau^{\prime} \tau}^{\prime 0^{0, l}}(\lambda) g_{\tau}^{\prime \prime}(\lambda)= \\
=\langle f \mid g\rangle_{S U(1,1)}^{0, l, 0}, \\
T_{\tau^{\prime}, \tau}^{\prime \prime}(\lambda) \equiv \frac{|\Gamma(-l+i \lambda)|^{2}}{\pi}\left(\delta_{\tau^{\prime} \tau} \operatorname{ch} \pi \lambda+\delta_{\left.\tau^{\prime},-\tau \cos \pi l\right) .}\right.
\end{array}
\]
Форма скалярного произведения в этом пространстве $\mathfrak{S}_{S U}^{\prime \prime}, l, 0$ следует из интегральной формулы
\[
\begin{array}{l}
\frac{1}{2 \pi i} \oint \frac{d \omega^{\prime}}{\omega^{\prime}} T^{x, l}\left(\omega / \omega^{\prime}\right) \varphi_{\tau \lambda}^{x, l}\left(\omega^{\prime}\right)=\sum_{\tau^{\prime}= \pm} \varphi_{\tau^{\prime} \lambda}^{x^{\prime}-l-x-1}(\omega) T_{\tau^{\prime} \tau}^{\prime x^{\prime, l}}(\lambda), \\
T^{\prime \prime, l}(\lambda) \equiv \frac{\Gamma(-l-x / 2-i \lambda) \Gamma(-l-x / 2+i \lambda)}{\pi} \times \\
\times i^{x}\left(\begin{array}{cc}
\cos \pi(i \lambda-x / 2) & (-1)^{x} \cos \pi l \\
\cos \pi l & \cos \pi(i \lambda+x / 2)
\end{array}\right), \\
\end{array}
\]

которая справедлива для всех $l$ в полосе $\{z \in \mathbf{C}:-1<$ $<\operatorname{Re}(z+x / 2)<0\}$. Очевидно, что это пространство можно представить в виде прямого интеграла
\[
\mathfrak{y}_{S U(1,1)}^{\prime \prime}=\oplus \int_{-\infty}^{+\infty} \sqrt{\overline{d \lambda}} \mathrm{C}_{l}^{2}(\lambda),
\]

где $\mathbf{C}_{l}^{2}(\lambda)$ – двумерное комплексное гильбертово пространство с метрикой, определяемой матрицей $T^{\prime \prime 0, t}(\lambda)$. Сужение представления $U_{S U(1,1)}^{0, l, 0} \mid H_{2}$, реализуемое в пространстве $\mathfrak{g}_{S U(1,1)}^{\prime 0, l, 0}$, снова приобретает вид формул (2.5.12) и (2.5.13), так что проблема редукции для дополнительной серии имеет то же решение, что и для основной серии. Соотношения унитарности, соответствующие формулам (2.5.14), принимают вид
\[
\begin{array}{c}
\left\langle\varphi_{\tau^{\prime} \lambda^{\prime}}^{0, l} \mid \varphi_{\tau \lambda}^{0, l}\right\rangle_{S U(1,1)}^{0, l, 0}=T_{\tau^{\prime} \tau}^{\prime r^{0, l}}(\lambda) \delta\left(\lambda^{\prime}-\lambda\right), \\
\sum_{\tau^{\prime}, \tau= \pm} \int_{-\infty}^{+\infty} d \lambda \varphi_{\tau^{\prime} \lambda}^{0, l}\left(\omega^{\prime}\right) T_{\tau^{\prime} \tau}^{\prime \prime,-l-1}(\lambda) \varphi_{\tau \lambda^{0} l}^{0, l}(\omega)^{*}=T^{0,-l-1}\left(\frac{\omega^{\prime}}{\omega}\right) .
\end{array}
\]

Переходя к дискретной серии, мы вначале модифицируем эвристическое рассуждение, приводящее к формуле (2.5.4). Из построения реализации этой серии, данной в формуле (1.3.46), следует, что элементы пространства $\mathfrak{F}_{S U(1,1),}^{x, l, \eta}, \eta= \pm$, можно рассматривать как предельные значения функций, аналитических внутри или вне единичного круга. Если функция $f$ в формуле (2.5.4) обладает такими предельными свойствами, то неудобно использовать интегральные ядра $\varphi_{\tau \lambda}^{x_{1} l}(\omega)$, сосредоточенные только на половине границы единичного круга. Поэтому мы построим линейные комбинации величин $\varphi_{\tau \lambda}^{x, l}(\omega)$, которые заведомо отражают поведение функции $f$. Определим две функции, однозначные и аналитические соответственно внутри и вне единичного круга:
\[
\begin{array}{c}
w_{+, \lambda}^{x, l}(z)=\frac{\Gamma(1+l+\chi / 2+i \lambda)}{\sqrt{2 \pi}}\left(\frac{1-z}{\sqrt{2}}\right)^{-1-l-\chi / 2-i \lambda}\left(\frac{1+z}{\sqrt{2}}\right)^{-1-l-\chi / 2+i \lambda}, \\
w_{-, \lambda}^{\chi, l}(z) \equiv z^{\chi} w_{+, \lambda}^{\chi, l}\left(\frac{1}{z}\right), \\
\left.z^{-l-\chi-1} w_{+, \lambda}^{x, l}(z)\right|_{z=0}=2^{1+l+\chi / 2} \frac{\Gamma(1+l+\chi / 2+i \lambda)}{\sqrt{2 \pi}} .
\end{array}
\]

На множестве $\partial K_{+} U \partial K_{-}$они принимают значение
\[
\begin{array}{l}
w_{\tau \lambda}^{x, l}(\omega) \equiv \lim _{z \rightarrow \omega} w_{\tau \lambda}^{x, l}(z)= \\
=\frac{\Gamma(1+l+x / 2+i \lambda)}{\sqrt{2 \pi}} \sum_{\tau^{\prime}= \pm} e^{i \tau^{\prime} \tau(1+l+x / 2+i \lambda) \pi / 2} \varphi_{\tau^{\prime} \lambda}^{\lambda^{\prime} l}(\omega) . \\
\end{array}
\]

Легко видеть, что $w_{+, \lambda}^{x, l}$ – однозначная аналитическая функция в комплексной плоскости $z$ с разрезами на вещественной оси от $-\infty$ до -1 и от 1 до $+\infty$. Если использовать в формуле (2.5.4) вместо функций $\varphi_{\tau \lambda}^{\text {к, }}(\omega)$ их линейные комбинации $w_{\tau \lambda}^{x, l}(\omega)$, то мы получим
\[
\begin{array}{c}
\left(P_{\lambda}^{\chi, l, \eta} f\right)(\omega)=\sum_{\tau= \pm} w_{\tau \lambda}^{\chi, l}(\omega) \tilde{f}_{\tau}(\lambda), \\
\tilde{f}_{\tau}(\lambda)=\frac{1}{2 \pi} \oint \frac{d \omega}{\omega} w_{\tau \lambda}^{\chi,-l-\lambda-1}(w)^{*} f(\omega) .
\end{array}
\]

Требование, чтобы функция $f$ была предельным значением функции, аналитической внутри ( $\eta=+$ ) или вне ( $\eta=-$ ) единичного круга, можно выразить в виде двух эквивалентных условий:
\[
\left(P_{\lambda}^{\chi, l, \eta} f\right)(\omega)=w_{\eta \lambda}^{\chi, t}(\omega) \tilde{f}_{\eta}(\lambda), \quad \tilde{f}_{-\eta}(\lambda) \equiv 0 .
\]

Теперь несколько модифицируем интеграл в формуле (2.5.22), определяющей функцию $\tilde{f}_{\eta}(\lambda)$. Прежде всего совершим аналитическое продолжение соотношения (2.5.17) во всю комплексную плоскость $l$ за вычетом точек $\pm i \lambda-1 / 2 x+n, n=0,1$, $2, \ldots$, где $\Gamma$-функция в ядре $T^{\prime \chi, l}(\lambda)$ имеет полюсы, а также точек $\pm i \lambda-1 / 8 x-1-n$, в которых матрица $T^{\prime \prime x, t}(\lambda)$ вырождается. При всех остальных комплексных $l$ справедливо равенство
\[
\begin{array}{l}
\sum_{\tau^{\prime \prime}= \pm} T_{\tau^{\prime} \tau^{\prime \prime}}^{\prime x^{\prime},}(\lambda) e^{i \tau^{\prime \prime \tau}(1+l+\chi / 2+i \lambda) \pi / 2}= \\
=\frac{\tau^{x} \Gamma(-l-x / 2+i \lambda)}{\Gamma(1+l+x / 2+i \lambda)} e^{i \tau^{\prime} \tau(-l-x / 2+i \lambda) \pi / 2}, \\
l
eq \pm i \lambda-x / 2+n, \quad n=0, \pm 1, \pm 2, \ldots . \\
\end{array}
\]

Используя формулу (2.5.21) для целых $l \geqslant 0$, мы получаем выражение для оператора $\widehat{T}_{\eta}^{\kappa, l}$, который, согласно формулам (1.3.30), ограничен пространством $\mathscr{F}_{\eta}^{\chi}{ }_{\eta}$ :

Здесь $P_{\eta}^{\chi, l}$ – оператор проекции на пространство $\mathscr{F}_{\eta}^{\chi, l}$. Таким образом, можно представить функцию $\tilde{f}_{\eta}(\lambda)$ через скалярное произведение в пространстве $\mathfrak{F}_{S U(1,1)}^{\chi, l, \eta}$, определенное в формуле (1.3.41):
\[
\tilde{f}_{\eta}(\lambda)=\left\langle w_{\eta \lambda}^{x_{i} t} \mid f\right\rangle_{S U i 1,1)}^{x, i} .
\]

Точное решение проблемы редукции для дискретной серии будет дано только в случае $\eta=+$. Другая часть этой серии, согласно формуле (1.3.49), может быть реализована как $\left(U_{S U(1,1)}^{\prime, l,+}\right)^{*}$. Мы воспользуемся результатами приложения А. Там показано, что функции
$K_{\mu}^{*, l}(\lambda) \equiv$
\[
\begin{array}{c}
\equiv \frac{\Gamma(1+l+x / 2-i \lambda)}{\sqrt{2 \pi}} 2^{1+l+x / 2}\left[\frac{(\mu+l+x) !}{(\mu-l-1) !}\right]^{1 / 2} \frac{1}{\Gamma(2 l+x+2)} \times \\
\times F(1+l-\mu, 1+l+x / 2+i \lambda ; 2 l+x+2 ; 2), \\
\mu=l+1, l+2, \ldots,
\end{array}
\]

образуют ортонормированный базис в гильбертовом пространстве $\widetilde{\mathfrak{F}}_{+}=\mathscr{L}^{2}(\tilde{\mathbf{R}})$. Согласно формуле (А.5), разложение функции $w_{+, \lambda}^{x, l}(z)$ имеет вид
\[
w_{+, \lambda}^{x, l}(z)=\sum_{\mu=l+1} \psi_{\mu}^{\prime x, l,+}(z) K_{\mu}^{x, l}(\lambda)^{*},
\]

где $\left\{\psi_{\mu}^{\prime x, l,+}\right\}$ – ортонормированный базис в пространстве представлений $\mathfrak{g}_{S U(1, l)}^{\prime,}$, . Поэтому функция $w_{+, \lambda}^{x, l}(z)$ является интегральным ядром унитарного отображения пространства $\mathfrak{S}_{S U}^{\prime}, \boldsymbol{l}, \ldots$ на $\tilde{\mathscr{J}}_{+}$:
\[
\begin{array}{l}
\tilde{f}_{+}(\lambda)=\int_{|z|<1} d \mu^{x, l}(z) w_{+, \lambda}^{x, l}(z)^{*} f^{\prime}(z), \\
f^{\prime}(z)=\int_{-\infty}^{+\infty} d \lambda w_{+, \lambda}^{x, l}(z) \tilde{f}_{+}(\lambda) .
\end{array}
\]

Эти формулы соответствуют формулам (2.5.26) и (2.5.23). Представления из дискретной серии действуют в пространстве $\tilde{\mathfrak{J}}_{+}$ следующим образом:
\[
\left(\tilde{U}_{S U(1,1)}^{\chi, l,+_{1}}(D(\varepsilon, \xi)) \tilde{f}_{+}\right)(\lambda)=\chi^{\chi, \lambda}(\varepsilon, \xi) \tilde{f}_{+}(\lambda),
\]

так что для сужения $\tilde{U}_{S U(1,1)}^{u, l,+} \mid H_{2}$ мы имеем разложение
\[
\tilde{\mathfrak{J}}_{+}=\oplus \int_{-\infty}^{+\infty} \sqrt{d \lambda} \mathrm{C}, \quad \tilde{U}_{S U(1,1)}^{x, l,+} \mid H_{2}=\oplus \int_{-\infty}^{+\infty} d \tau \chi^{x, \lambda} .
\]

Таким образом, неприводимое унитарное представление $\chi^{x^{\prime}, \lambda}$ группы $H_{2}$ содержится в сужении $U_{S U(1,1)}^{\prime, \ell} \mid H_{2}$ один раз, только если $x^{\prime}=x$. Унитарность преобразования, осуществляемого ядрами $w_{+, \lambda}^{x, i}(z)$, выражается в виде соотношений [см. также формулу (А.8)]
\[
\begin{array}{l}
\int_{|z|<1} d \mu^{x, l}(z) w_{+, \lambda^{\prime}}^{\alpha, l}(z)^{*} w_{+, \lambda}^{x_{,}, l}(z)=\delta\left(\lambda^{\prime}-\lambda\right), \\
\int_{-\infty}^{+\infty} d \lambda w_{+, \lambda}^{\mu, l}\left(z^{\prime}\right) w_{+, \lambda, \lambda}^{\varkappa, l}(z)^{*}=K^{\chi, l,+}\left(z^{\prime}, z\right), \\
\end{array}
\]

где $K^{x, l_{1}+}$ – воспроизводящее ядро в пространстве $\mathfrak{F}_{S U(1,1)}^{\prime,}$, определенное в формуле (1.3.52). Для преобразования между пространствами $\mathfrak{y}_{S U(1,1)}^{x, l_{1}, \eta}$ и $\widetilde{\mathfrak{J}}_{\eta}=\mathscr{L}^{2}(\mathrm{R})$, осуществляемого предельными значениями (2.5.21), получаем отсюда следующие соотношения унитарности:
\[
\begin{array}{l}
\frac{1}{2 \pi i} \oint \frac{d \omega}{\omega} w_{\eta \lambda^{\prime}}^{x_{1} l}(\omega)^{*}\left(\eta^{x} \widehat{T}_{\eta}^{\chi, l} w_{\eta \lambda}^{x_{\lambda} l}\right)(\omega)=\delta\left(\lambda^{\prime}-\lambda\right), \\
\int_{-\infty}^{+\infty} d \lambda w_{\eta \lambda}^{x_{1} l}\left(\omega^{\prime}\right) w_{\eta \lambda}^{\alpha_{1} l}(\omega)^{*}=\eta^{\alpha} \widehat{T}_{\eta}^{\chi,-l-\chi-1}\left(\frac{\omega^{\prime}}{\omega}\right) \text {. } \\
\end{array}
\]
Единая формулировка решения проблемы редукции для сужения $U_{S U(1,1)}^{x, l_{1} \eta} \mid H_{2}$ получается путем надлежащего унитарного отображения гильбертовых пространств $\mathscr{g}_{S U(1,1)}^{\prime \prime, l, 0}$ и $\widetilde{\mathfrak{F}}_{+} \oplus \widetilde{\mathfrak{F}}_{-}$на гильбертово пространство
\[
\tilde{\mathfrak{J}}=\oplus \int_{-\infty}^{+\infty} \sqrt{d \lambda} \mathbf{C}^{2}, \quad\langle\tilde{f} \mid \tilde{g}\rangle^{\sim} \equiv \sum_{\tau= \pm} \int_{-\infty}^{+\infty} d \lambda \tilde{f}_{\tau}(\lambda)^{*} \tilde{g}_{\tau}(\lambda), \quad \tilde{f}, \tilde{g} \in \tilde{\mathfrak{F}}
\]

Матрица второго порядка
\[
\begin{aligned}
N^{\chi, l}(\lambda) & \equiv \frac{\Gamma(1+l+x / 2+i \lambda)}{\sqrt{2 \pi}} \times \\
& \times\left(\begin{array}{cc}
e^{i\left(1+l+\frac{x}{2}+i \lambda\right) \frac{\pi}{2}} & e^{-i\left(1+l+\frac{x}{2}+i \lambda\right) \frac{\pi}{2}} \\
e^{-i\left(1+l+\frac{x}{2}+i \lambda\right) \frac{\pi}{2}} & e^{i\left(1+l+\frac{x}{2}+i \lambda\right) \frac{\pi}{2}}
\end{array}\right)
\end{aligned}
\]

несингулярна при любом комплексном $l$, за исключением точек $-i \lambda-1 / 2 x+n, \quad n=0, \pm 1, \pm 2, \ldots$, так как
\[
\operatorname{det} N^{\varkappa, t}(\lambda)=\frac{i \Gamma(1+l+\varkappa / 2+i \lambda)}{\Gamma(-l-\varkappa / 2-i \lambda)} .
\]

Следовательно, согласно формуле (2.5.24), имеем
\[
\begin{array}{l}
T^{\prime \prime, l}(\lambda) N^{x, l}(\lambda)=N^{x,-l-x-1}(\lambda)\left(\sigma_{3}\right)^{x}, \\
l
eq \pm i \lambda-\frac{x}{2}+n, \quad n=0, \pm 1, \ldots
\end{array}
\]

Для значений $l$, отвечающих основной серии, матрица $N^{\chi, l}(\lambda)$ унитарна:
\[
\left[N^{\chi, l}(\lambda)^{-1}\right]^{\dagger}=N^{x, l}(\lambda), \quad l \in-\frac{1+x}{2}+i \mathbf{R} .
\]

Для значений $l$, отвечающих дополнительной серии, из формулы (2.5.37) получаем
\[
\left[N^{0, l}(\lambda)^{-1}\right]^{+}=N^{0,-l-1}(\lambda)=T^{\prime \prime 0, l}(\lambda) N^{0, t}(\lambda), \quad l \in(-1,0) .
\]

Поэтому соотношение
\[
f^{\prime \prime}(\lambda)=N^{\alpha, 1}(\lambda) \tilde{f}(\lambda)
\]
задает унитарное отображение пространств представлений основной и дополнительной серий $\mathfrak{S}_{S U(1,1)}^{\prime \prime, l, 0}$ со скалярными произведениями (2.5.10) и (2.5.16) на гильбертово пространство $\mathfrak{5}$ вида (2.5.34). В дальнейшем для простоты мы используем матричные бозначения: функции $f^{\prime \prime}$ и $\tilde{f}$ будут изображаться двухкомпонентными векторами-столбцами. Унитарное преобразование между пространствами представлений $\mathfrak{5}_{S U,(1,1)}^{x, l, 0}$ и $\mathfrak{5}$ в итоге имеет вид
\[
\tilde{f}_{\tau}(\lambda)=\left\langle w_{\tau \lambda}^{\chi, l} \mid f\right\rangle_{S U(1,1)}^{x, l, 0}, f(\omega)=\sum_{\tau= \pm} \int_{-\infty}^{+\infty} d \lambda w_{\tau \lambda}^{x, l}(\omega) \hat{f}_{\tau}(\lambda),
\]

где новое интегральное ядро равно
\[
w_{\tau \lambda}^{\chi, l}(\omega) \equiv \sum_{\tau^{\prime}= \pm} \varphi_{\tau^{\prime} \lambda}^{x, l}(\omega) N_{\tau^{\prime} \tau}^{\chi, i}(\lambda) .
\]

Вместо формул (2.5.14) и (2.5.19) условия унитарности принимают вид
\[
\left\langle w_{\tau^{\prime} \lambda^{\prime}}^{\chi,} \mid w_{\tau \lambda}^{\chi, l}\right\rangle_{S U(1,1)}^{\chi, l, 0}=\delta_{\tau^{\prime} \tau} \delta\left(\lambda^{\prime}-\lambda\right),
\]
\[
\begin{array}{l}
\sum_{\tau= \pm} \int_{-\infty}^{+\infty} d \lambda w_{\tau \lambda}^{\alpha,}\left(\omega^{\prime}\right) w_{\tau \lambda}^{\alpha, l}(\omega)^{*}= \\
=\left\{\begin{array}{ll}
2 \pi \delta\left(-i \ln \frac{\omega^{\prime}}{\omega}\right), & l \in-\left(1+\frac{\varkappa}{2}\right)+i \mathbf{R}, \\
T^{0,-l-1}\left(\frac{\omega^{\prime}}{\omega}\right), & l \in(-1,0) .
\end{array}\right. \\
\end{array}
\]

В силу (2.5.37) интегральная формула (2.5.17) заменяется на
\[
\left(T^{\chi, l} w_{\tau \lambda}^{\chi, l}\right)(\omega)=\tau^{\varkappa} w_{\tau \lambda}^{\chi-l-\chi-1}(\omega) .
\]

Для целых $l$ (дискретная серия) выражения (2.5.42) очевидно совпадают с предельными значениями (2.5.21) аналитических функций, определяемых формулой (2.5.20). Как показано выше, эти функции осуществляют унитарное отображение простраңств $\mathfrak{J}_{S U}^{\prime \prime,}(1,1)$ на гильбертовы пространства $\mathfrak{F}_{\eta} \equiv \mathscr{L}^{2}(\mathbf{R})$. Эти отображения можно объединить с унитарным отображением между пространствами $\mathfrak{S}^{\prime}$ и $\widetilde{\mathfrak{g}}$, где
\[
\tilde{\mathfrak{y}}=\tilde{\mathfrak{y}}_{+} \oplus \tilde{\mathfrak{J}}_{-}=\left\{\left(\tilde{f}_{+}, \tilde{f}_{-}\right): \tilde{f}_{\eta} \in \tilde{\mathfrak{S}}_{\eta}\right\}
\]
Поэтому для дискретной серии пространство 5 оказывается пространством, в котором реализуется унитарно преобразованное представление $U_{S U(1,1)}^{\chi, l_{1}} \oplus U_{S U(1,1)}^{\chi, l,}$. Следовательно, в случае дискретной серии формулу (2.5.41) можно дополнить следующей:
\[
\begin{array}{r}
\tilde{f}_{\eta}(\lambda)=\left\langle w_{\eta \lambda}^{\chi,} \mid f\right\rangle_{S U(1,1)}^{\chi, l,}, \quad \tilde{f}_{-\eta}(\lambda) \equiv 0, \quad f \in \mathscr{F}_{S U(1,1)}^{\chi, l, \eta}, \\
f(\omega)=\sum_{\tau= \pm} \int_{-\infty}^{+\infty} d \lambda w_{\tau \lambda}^{\chi, t}(\omega) \tilde{f}_{\tau}(\lambda)=\int_{-\infty}^{+\infty} d \lambda w_{\eta \lambda}^{x_{i}, t}(\omega) \tilde{f}_{\eta}(\lambda),
\end{array}
\]

с условиями унитарности в виде (2.5.33).
Представление $U_{S U(1,1)}^{x, l, \eta}$, перенесенное в гильбертово пространство $\widetilde{\mathfrak{Y}}$, согласно формулам (2.5.41) и (2.5.46), может быть записано в виде
\[
\left(U_{S U(1,1)}^{x, l, \eta_{1}}(A) f\right)_{\tau^{\prime}}^{\sim}\left(\lambda^{\prime}\right)=\sum_{\tau= \pm} \int_{-\infty}^{+\infty} d \lambda U_{S U(1,1)}^{\chi, l, \eta}(A)_{\tau^{\prime} \lambda^{\prime}, \tau \lambda} \tilde{f}_{\tau}
\]

с обобщенными интегральными ядрами
\[
U_{S U(1,1)}^{\chi, l, \eta^{\prime}}(A)_{\tau^{\prime} \lambda^{\prime}, \tau \lambda} \equiv\left\langle w_{\tau^{\prime} \lambda^{\prime}}^{\chi, l} \mid U_{S U(1,1)}^{\chi, l, \eta}(A) w_{\tau \lambda}^{\chi, l}\right\rangle_{S U(1,1)}^{\chi, l, \eta} .
\]

Поскольку
\[
U_{S U(1,1)}^{\chi, l, \eta}(D(\varepsilon, \xi))_{\tau^{\prime} \lambda^{\prime}, \tau \lambda}=\chi^{\chi, \lambda}(\varepsilon, \xi) \delta_{\tau^{\prime} \tau} \delta\left(\lambda^{\prime}-\lambda\right),
\]

то мы обозначим эти ядра как матричные элементы представления группы $S U(1,1)$ в базисе, связанном с подгруппой $H_{2}$. Очевидно, условия унитарности (2.5.43) и (2.5.33) играют роль обобщенных соотношений унитарности и полноты для этого „базиса“ $\left\{w_{\tau \lambda}^{\text {, }} t: \tau= \pm,-\infty<\lambda<\infty\right\}$.

Вначале вычислим обобщенные матричные элементы (2.5.48) только для основной и дополнительной серий. Используя формулы (2.5.42), (2.5.44), (2.5.38) и (2.5.39), получаем
\[
\begin{array}{c}
U_{S U(1,1)}^{\chi, l,{ }_{1}}(A)_{\lambda^{\prime} \lambda}=N^{\chi, l}\left(\lambda^{\prime}\right)^{-1} V_{\lambda^{\prime} \lambda^{\prime}}^{\chi, l}(A) N^{\chi, l}(\lambda), \\
V_{\tau^{\prime} \lambda^{\prime}, \tau \lambda}^{\chi, l}(A)=\frac{1}{2 \pi i} \oint \frac{d \omega}{\omega} \omega^{-\chi} \varphi_{\tau^{\prime},-\lambda^{\prime}}^{\chi,-l-1}(\omega)\left|\omega A_{12}+A_{22}\right|^{-2 l-2 \chi-2} \times \\
\times\left(\omega A_{12}+A_{22}\right)^{\chi} \varphi_{\tau \lambda}^{\chi, l}(\omega \bar{A}) .
\end{array}
\]

Для вычисления интегралов введем точки $\omega_{ \pm}(A)$, лежащие на границе единичного круга:
\[
\omega_{ \pm}(A) \vec{A}= \pm 1, \quad \text { т. e. } \quad \omega_{ \pm}(A)=\frac{ \pm A_{22}-A_{21}}{\mp A_{12}+A_{11}} .
\]
С помощью соотношения
\[
z \bar{A}-z^{\prime} \bar{A}=\frac{z-z^{\prime}}{\left(z A_{1:}+A_{22}\right)\left(z^{\prime} A_{1 \bar{q}}+A_{22}\right)} .
\]

справедливого для любых значений $\left(z, z^{\prime}\right) \in \overline{\mathbf{C}} \times \overline{\mathbf{C}}, A \in S L(2, \mathbf{C})$, можно записать следующее интегральное представление матричного элемента:
\[
\begin{array}{l}
V_{\tau^{\lambda} \lambda^{\prime} \tau \lambda}^{\lambda_{2}{ }^{l}}(A)=\left|A_{11}-A_{12}\right|^{-1-i-x / 2-i \lambda}\left|A_{11}+A_{12}\right|^{-1-l-x / 2+i \lambda} \times \\
\times \frac{1}{2 \pi i} \int_{\partial \kappa_{\tau^{\prime} \tau(A)}} \frac{d \omega}{\omega} \varepsilon(\omega, A)^{\star}|\omega-1|^{l+\alpha / 2+i \lambda^{\prime}}|\omega+1|^{l+\alpha / 2-i \lambda^{\prime}} \times \\
\times\left|\omega-\omega_{+} \Gamma^{-1-i-x / 2-i \lambda}\right| \omega-\omega_{-} \Gamma^{-1-i-x / 2+i \lambda}, \\
\omega_{ \pm} \equiv \omega_{ \pm}(A), \quad \varepsilon(\omega, A) \equiv \omega^{-1 / 2} \frac{\omega A_{12}+A_{22}}{\left|\omega A_{12}+A_{22}\right|}(\omega \bar{A})^{1 / 5} . \\
\end{array}
\]

Так как функции $\varphi_{\tau \lambda}^{\text {г }}$, , по определению (2.5.4), отличны от нуля только на половине границы единичного круга, то контур интегрирования $\partial K_{\tau^{\prime} \tau}(A)$ имеет положительное направление и принадлежит двум дугам, соединяющим точки $\tau^{\prime} c-\tau^{\prime}$ и $\omega_{\tau}$ с $\omega_{-\tau}$. Обозначим для дальнейшего дугу, соединяющую в положительном направлении точки $\omega_{1}$ и $\omega_{2}$ и лежащую на границе единичного круга, через $\overline{\omega_{1}, \omega_{2}}$. Тогда
\[
\partial K_{\tau^{\prime} \tau}(A)=\overline{\tau^{\prime},-\tau^{\prime}} \cap \overline{\omega_{\tau}, \omega_{-\tau}} .
\]

Довольно утомительное обсуждение знакового множителя $\varepsilon(\omega, A)$ вынесено в приложение Б. В результате имеем
\[
\varepsilon(\omega, A)=\left\{\begin{array}{rll}
\operatorname{sign} \operatorname{Im}\left(A_{11}+A_{12}\right) & \text { при } & \omega \in-\overline{1, \omega_{-}}, \\
-\operatorname{sign} \operatorname{Im}\left(A_{11}+A_{12}\right) & \text { при } & \omega \in \overline{\omega_{-},-1} .
\end{array}\right.
\]

Интеграл в формуле (2.5.53) сходится при $\omega_{+}
eq \pm 1, \omega_{-}
eq \pm 1$ и $-1<\operatorname{Re}(1+1 / 2 x)<0$. Последнее условие выполняется для основной и дополнительной серий. В силу двух первых условий интересующие нас матричные элементы в базисе $H_{2}$ существуют как функции в обычном смысле только на подмножестве $S U(1,1)-S$, где
\[
S \equiv \bigcup_{\tau^{\prime},} S_{\tau= \pm}, S_{\tau^{\prime} \tau} \equiv\left\{A \in S U(1,1): \omega_{\tau^{\prime}}(A)=\tau\right\} .
\]

Для точной характеристики множества особых точек $S \subset S U(1,1)$ используем разложение группы $S U(1,1)$, указанное Ивасава
(ср. с книгой Хельгасона [25]):
\[
\begin{array}{c}
S U(1,1)=H_{1} N H_{2}^{\prime} \\
H_{2}^{\prime}=\left\{\left(\begin{array}{cc}
\operatorname{ch} \xi / 2 & \operatorname{sh} \xi / 2 \\
\operatorname{sh} \xi / 2 & \operatorname{ch} \xi / 2
\end{array}\right):-\infty<\xi<\infty\right\} \approx H_{2} /\left\{I_{2},-I_{2}\right\} \\
N=\left\{\left(\begin{array}{cc}
1+i \frac{x}{2} & i \frac{x}{2} \\
-i \frac{x}{2} & 1-i \frac{x}{2}
\end{array}\right):-\infty<x<\infty\right\} \\
H_{1}=\left\{\left(\begin{array}{cc}
e^{i \varphi / 2} & 0 \\
0 & e^{-i \varphi / 2}
\end{array}\right): 0 \leqslant \varphi<4 \pi\right\}
\end{array}
\]

Легко найти подгруппу стабильности, отвечающую $\omega=1$ :
\[
\left\{A \in S U(1,1): \overline{A^{-1}}=1\right\}=N H_{2}=S_{++} .
\]

Используя элемент
\[
\Gamma \equiv i \sigma_{3}=\left(\begin{array}{rr}
i & 0 \\
0 & -i
\end{array}\right) \in S U(1,1),
\]

мы получаем
\[
S_{++}=\mathrm{NH}_{2}, \quad S_{+-}=\Gamma \mathrm{NH}_{2}, \quad S_{-+}=\mathrm{NH}_{2} \Gamma^{-1}, \quad S_{–}=\mathrm{NH}_{2} \Gamma^{-1} .
\]

Так как множество $S$ обладает более низкой размерностью, чем вся группа $S U(1,1)$, то матричные элементы в базисе, связанном с подгруппой $H_{2}$, являются обыкновенными функциями почти для всех $A \Subset S U(1,1)$ с точки зрения меры Хаара. Для более общего определения матричных элементов следует прибегнуть к теории обобщенных функций. Так, например, для $A \in H_{2}=S_{++} \cap S_{–}$матричный элемент определяется формулой (2.5.49). Множество особых точек $S$ разделяет группу $S U(1,1)$ на шесть отдельных связных частей, которые задаются следующими условиями:
\[
\begin{array}{l}
I \equiv\left\{A \in S U(1,1): \operatorname{Im} \omega_{+}>0, \quad \operatorname{Im} \omega_{-}<0\right\}, \\
I^{\prime} \equiv\left\{A \in S U(1,1): \operatorname{Im} \omega_{+}<0, \quad \operatorname{Im} \omega_{-}>0\right\} \text {. } \\
I \equiv \equiv\left\{A \in S U(1,1): \operatorname{Im} \omega_{+}>0, \operatorname{Im} \omega_{-}>0, \quad \operatorname{Re} \omega_{+}>\operatorname{Re} \omega_{-}\right\}, \\
I I^{\prime} \equiv\left\{A \in S U(1,1): \operatorname{Im} \omega_{+}<0, \quad \operatorname{Im} \omega_{-}<0, \quad \operatorname{Re} \omega_{+}>\operatorname{Re} \omega_{-}\right\} \text {, } \\
I I I \equiv\left\{A \in S U(1,1): \operatorname{Im} \omega_{+}>0, \quad \operatorname{Im} \omega_{-}>0, \quad \operatorname{Re} \omega_{+}<\operatorname{Re} \omega_{-}\right\}, \\
I I I^{\prime} \equiv\left\{A \in S U(1,1): \operatorname{Im} \omega_{+}<0, \quad \operatorname{Im} \omega_{-}<0, \quad \operatorname{Re} \omega_{+}<\operatorname{Re} \omega_{-}\right\} \text {. } \\
\end{array}
\]
Соотношения (Б.13) и (Б.18) из приложения Б позволяют определить эти части также другими условиями:
\[
\begin{array}{l}
I \equiv\left\{A \in S U(1,1): 0<\operatorname{Im}_{+} \operatorname{Im}_{-}<1, \operatorname{Re}_{+} \operatorname{Im}_{+}<0, \mathrm{Re}_{-} \operatorname{Im}_{-}<0\right\}, \\
I^{\prime} \equiv\left\{A \in S U(1,1): 0<\mathrm{Im}_{+} \mathrm{Im}_{-}<1, \mathrm{Re}_{+} \mathrm{Im}_{+}>0, \mathrm{Re}_{-} \mathrm{Im}_{-}>0\right\}, \\
I I \equiv\left\{A \in S U(1,1): \mathrm{Im}_{+} \mathrm{Im}_{-}<0, \mathrm{Re}_{+} \mathrm{Im}_{+}>0, \text { Re- } \mathrm{Im}_{-}<0\right\} \\
I^{\prime} \equiv\left\{A \in S U(1,1): \mathrm{Im}_{+} \mathrm{Im}_{-}<0, \mathrm{Re}_{+} \mathrm{Im}_{+}<0, \mathrm{Re}_{-} \mathrm{Im}_{-}>0\right\} \\
\left.I I \equiv \equiv A \in S U(1,1): \mathrm{Im}_{+} \mathrm{Im}_{-}>1, \mathrm{Re}_{+} \mathrm{Im}_{+}>0, \mathrm{Re}_{-} \mathrm{Im}_{-}<0\right\} \\
I I I^{\prime} \equiv\left\{A \in S U(1,1): \operatorname{Im}_{+} \operatorname{Im}_{-}>1, \operatorname{Re}_{+} \operatorname{Im}_{+}<0, \operatorname{Re}_{-} \operatorname{Im}_{-}>0\right\} \\
\operatorname{Im}_{ \pm} \equiv \operatorname{Im}_{ \pm}(A) \equiv \operatorname{Im}\left(A_{11} \pm A_{12}\right), \quad \operatorname{Re}_{ \pm} \equiv \operatorname{Re}_{ \pm}(A) \equiv \operatorname{Re}\left(A_{11} \pm A_{12}\right) \\
\end{array}
\]

Нет необходимости вычислять по отдельности интегралы для каждой из шести частей, так как все интегралы могут быть получены путем использования условий симметрии из интегралов, записанных для частей I и $I$. С помощью элемента $\Gamma \in S U(1,1)$, определяемого формулой (2.5.59), получим
\[
\omega_{ \pm}(\Gamma A)=-\omega_{ \pm} A, \quad \omega_{ \pm}\left(A \Gamma^{-1}\right)=\omega_{\mp}(A) .
\]

Операция $A \rightarrow \Gamma A$ связывает области $I$ и $I^{\prime}, I I$ и $I I I^{\prime}, I I^{\prime}$ и $I I I$; операция $A \rightarrow A \Gamma^{-1}$ связывает области $I$ и $I^{\prime}, I$ и $I I I, I I^{\prime}$ и $I I I^{\prime}$; операция $A \rightarrow \Gamma A \Gamma^{-1}$ связывает $I I$ и $I I^{\prime}$, III и $I I I^{\prime}$, оставляя инвариантными области $I$ и $I^{\prime}$. Таким образом, путем применения одной из этих операций можно перенести любой элемент $A \in S U(1,1)-S$ в одну из частей I или II. Так как, согласно формулам (Б.15) и (Б.16), знаковый множитель $\varepsilon(\omega, A)$ удовлетворяет условию симметрии
\[
\tau^{\prime} \varepsilon(-\omega, \Gamma A)=\varepsilon(\omega, A)=\tau \varepsilon\left(\omega, A \Gamma^{-1}\right) \text { при } \omega \in \partial K_{\tau^{\prime} \tau}(A),
\]

а при подстановке $\omega \rightarrow-\omega$ контур интегрирования $\partial K_{\tau^{\prime} \tau}$ переводится в $\partial K_{-\tau^{\prime}, \tau}(A)$ и контур $\partial K_{\tau^{\prime} \tau}\left(A \Gamma^{-1}\right)$ совпадает с $\partial K_{\tau^{\prime},-\tau}(A)$, то из формулы (2.5.63) мы получаем следующие условия симметрии для матричного элемента \” $V_{\tau^{\prime} \lambda^{\prime}, \tau \lambda}^{\chi, \lambda^{\prime}}(A)$ :
\[
\begin{aligned}
V_{\tau^{\prime} \lambda^{\prime}, \tau \lambda}^{\chi, l}(A) & =\tau^{\prime \prime^{\prime}} V_{-\tau^{\prime},-\lambda^{\prime}, \tau \lambda}^{\alpha, l}(\Gamma A)=\tau^{\chi} V_{\tau^{\prime} \lambda^{\prime},-\tau,-\lambda}^{\chi,}\left(A \Gamma^{-1}\right)= \\
& =\left(\tau^{\prime} \tau\right)^{\chi} V_{-\tau^{\prime},-\lambda^{\prime},-\tau,-\lambda}^{\alpha, l}\left(A^{-1 \dagger}\right) .
\end{aligned}
\]
Согласно формуле (2.5.50), это приводит к следующим соотношениям для матричных элементов представления $U_{S U}^{x, l, \eta}(1,1)$ :
\[
\begin{array}{l}
U_{S U(1,1)}^{\chi, l, \eta}(A)_{\lambda^{\prime} \lambda}=\Gamma^{\chi_{,} l}\left(\lambda^{\prime}\right)^{-1} U_{S U(1,1)}^{\chi, l, \eta}(\Gamma A)_{-\lambda, \lambda}= \\
=U_{S U}^{x, l, \eta, 1)}\left(A \Gamma^{-1}\right)_{\lambda,-\lambda} \Gamma^{\alpha, l}(\lambda)= \\
=\Gamma^{\alpha, l}(\lambda)^{-1} U_{S U}^{x, l, \eta, 1)}\left(A^{-1+}\right)_{-\lambda^{\prime},-\lambda} \Gamma^{\alpha, l}(\lambda), \\
\Gamma^{\chi, l}(\lambda) \equiv N^{\chi, l}(-\lambda)^{-1} \sigma_{l}\left(\sigma_{3}\right)_{x} N^{\chi, l}(\lambda)= \\
=-\frac{\Gamma(-l-x / 2+i \lambda) \Gamma(1+l+x / 2+l \lambda)}{\pi} \times \\
\times i^{*}\left(\begin{array}{cc}
\sin \pi\left(i \lambda-\frac{x}{2}\right) & (-1)^{x} \sin \pi l \\
\sin \pi l & \sin \pi\left(i \lambda+\frac{x}{2}\right)
\end{array}\right) . \\
\end{array}
\]

Легко видеть, что
\[
U_{S U(1,1)}^{x, l, \eta}(\Gamma)_{\lambda, \lambda}=\Gamma^{x, l}(\lambda) \delta\left(\lambda^{\prime}+\lambda\right) .
\]

Эти соотношения позволяют вычислить матричные элементы для каждой из шести частей группы $S U(1,1)$, если они известны в областях I и $I I$. Добавим также к формуле (2.5.66) несколько более удобное соотношеңие симметрии. Так как
\[
\omega_{ \pm}\left(A^{*}\right)=\frac{1}{\omega_{ \pm}(A)},
\]

то операция $A \rightarrow A^{*}=\sigma_{1} A \sigma_{1}$ переставляет области $I$ и $I^{\prime}, I I$ и $I I^{\prime}$, $I I I$ и $I I I^{\prime}$. Согласно формуле (Б.21), имеем
\[
\varepsilon\left(\omega, A^{*}\right)=\varepsilon\left(\omega^{-1}, A\right) .
\]

Так как подстановкой $\omega \rightarrow \omega^{-1}$ контур $\partial K_{\tau^{\prime} \tau}\left(A^{*}\right)$ переводится в $\partial K_{-\tau^{\prime},-\tau}(A)$, то из формул (2.5.53) и (2.5.69) получаем соотношение
\[
V_{\tau^{\prime} \lambda^{\prime}, \tau \lambda}^{\chi, l}\left(A^{*}\right)=V_{-\tau^{\prime}, \lambda^{\prime},-\tau \lambda}^{\chi,}(A) .
\]

Используя для множителя $N^{\chi, l}(\lambda)$ в формуле (2.5.35) равенство
\[
\sigma_{1} N^{x, l}(\lambda) \sigma_{1}=N^{x, l}(\lambda),
\]

аолучаем из формулы (2.5.50) соотношение
\[
U_{S U^{\prime}(1,1)}^{\chi_{1}^{\prime}, \eta}(A)_{\lambda^{\prime} \lambda}=\sigma_{1} U_{S U(1,1)}^{\chi, l, \eta}\left(A^{*}\right)_{\lambda^{\prime} \lambda} \sigma_{1} .
\]

В этом случае нельзя получить аналогов второго соотношения в формуле (2.5.66), так как операция $A \rightarrow A^{*}=\sigma_{1} A \sigma_{1}$ в отличие от операции $A \rightarrow A^{-1+}=\Gamma A \Gamma^{-1}$ не может быть представлена как внутренний автоморфизм в группе $S U(1,1)$.
С помощью интегральной формулы
\[
\begin{array}{c}
\frac{1}{2 \pi i} \int_{\omega_{1}}^{\omega_{2}} \frac{d \omega}{\omega}\left|\omega-\omega_{1}\right|^{a_{1}}\left|\omega-\omega_{2}\right|^{a_{2}}\left|\omega-\omega_{3}\right|^{a_{3}}\left|\omega-\omega_{4}\right|^{a_{4}}= \\
=\frac{\Gamma\left(a_{1}+1\right) \Gamma\left(a_{2}+1\right)}{2 \pi \Gamma\left(a_{1}+a_{2}+2\right)}\left|\omega_{2}-\omega_{1}\right|^{a_{1}+a_{2}+1}\left|\omega_{3}-\omega_{1}\right|^{a_{1}+a_{3}+1}\left|\omega_{3}-\omega_{2}\right|^{-a_{1}-1} \times \\
\times\left|\omega_{4}-\omega_{1}\right|^{a_{4}} F\left(-a_{4}, a_{1}+1 ; a_{1}+a_{2}+2 ; \frac{\left(\omega_{4}-\omega_{3}\right)\left(\omega_{2}-\omega_{1}\right)}{\left(\omega_{4}-\omega_{1}\right)\left(\omega_{2}-\omega_{3}\right)}\right), \quad(2.5 .73) \\
a_{1}+a_{2}+a_{3}+a_{4}+2=0,
\end{array}
\]

матричные элементы $V_{\tau^{\prime} \lambda^{\prime}, \tau \lambda}^{l^{\prime}}(A)$ можно выразить через гипергеометрическую функцию $F={ }_{2} F_{1}$. Используя функциональные соотношения для гипергеометрических и Г-функций, можно суммировать результаты для элементов $A$, принадлежащих областям $I$ или $I I$, в виде
\[
\begin{array}{l}
U_{S U(1,1)}^{\chi, l, \eta}(A)_{\tau^{\prime} \lambda^{\prime}, \tau \lambda}=\left(-\varepsilon \operatorname{sign} \operatorname{Im}_{+}\right)^{x}\left\{\frac{\delta_{\tau^{\prime} \tau}}{2 \sin \pi i\left(\lambda^{\prime}-\lambda\right)} \times\right. \\
\quad \times\left[a_{\lambda^{\prime} \lambda}^{\chi, l} e^{\varepsilon \tau \pi\left(\lambda^{\prime}-\lambda\right) / 2} F_{\lambda^{\prime} \lambda}^{\chi, l}(A)-e^{-\tau \pi\left(\lambda^{\prime}-\lambda\right) / 2} F_{-\lambda^{\prime},-\lambda}^{\alpha, l}\left(A^{-1+}\right)\right]+ \\
+\varepsilon(-1)^{x} \frac{\sin \pi l}{2 \pi^{2}} b_{\lambda^{\prime} \lambda}^{\chi, l} F_{\lambda^{\prime} \lambda}^{\chi, l}(A) \times \\
\left.\quad \times\left[i \tau \delta_{\tau^{\prime} \tau} \sin \pi l e^{\varepsilon \tau \pi\left(\lambda^{\prime}-\lambda\right) / 2}-\varepsilon(i \varepsilon \tau)^{\mu} \delta_{\tau^{\prime},-\tau} e^{-\varepsilon \tau \pi\left(\lambda^{\prime}+\lambda\right) / 2}\right]\right\}
\end{array}
\]
\[
\begin{array}{c}
\varepsilon=+1 \text { при } \quad A \in I, \quad \varepsilon=-1 \text { при } \quad A \in I I, \\
2 a_{\lambda^{\prime} \lambda}^{x} \equiv \frac{\Gamma\left(1+l+x / 2-i \lambda^{\prime}\right) \Gamma(1+l+x / 2+i \lambda)}{\Gamma\left(1+l+x / 2+i \lambda^{\prime}\right) \Gamma(1+l+x / 2-i \lambda)}+ \\
\quad+\frac{\Gamma\left(-l-x / 2-i \lambda^{\prime}\right) \Gamma(-l-x / 2+i \lambda)}{\Gamma\left(-l-x / 2+i \lambda^{\prime}\right) \Gamma(-l-x / 2-i \lambda)},
\end{array}
\]
\[
b_{\lambda^{\prime} \lambda}^{x, l} \equiv \Gamma\left(1+l+x / 2-i \lambda^{\prime}\right) \Gamma(1+l+x / 2+i \lambda) \times
\]
\[
\times \Gamma\left(-l-x / 2-i \lambda^{\prime}\right) \Gamma(-l-x / 2+i \lambda),
\]
\[
\begin{array}{l}
\left.F_{\lambda^{\prime} \lambda}^{x, l}(A) \Longrightarrow\left|\mathrm{Re}_{-} \mathrm{Im}_{+}\right|^{-i \lambda^{\prime}}\left|\mathrm{Re}_{-}\right| \operatorname{Im}_{+}\right|^{-i \lambda} \frac{1}{\Gamma\left(1-i\left(\lambda^{\prime}-\lambda\right)\right)} \times \\
\quad \times F\left(-l-x / 2-i \lambda^{\prime}, 1+l+x / 2-i \lambda^{\prime} ; 1-i\left(\lambda^{\prime}-\lambda\right) ; \mathrm{Im}_{+} \mathrm{Im}_{-}\right) \\
\quad \operatorname{Im}_{ \pm} \equiv \operatorname{Im}\left(A_{11} \pm A_{12}\right), \quad \operatorname{Re}_{ \pm} \equiv \operatorname{Re}\left(A_{11} \pm A_{12}\right) .
\end{array}
\]

Для дискретной серии матричные элементы получаются следующим образом. Совершается аналитическое продолжение интегралов (2.5.53) по $l$ из полосы $-1<\operatorname{Re}(l+1 / 2 x)<0$ в целые неотрицательные точки $l \geqslant 0$. С помощью формулы (2.5.50) можно показать, что при этом получаются матричные элементы дискретной серии. Так как точные формулы (2.5.74) имеют вид, аналитический по $l$, то их можно непосредственно применить для дискретной серии, считая число $l$ целым и неотрицательным. Из-за множителя $\sin \pi l$ вторая скобка, содержащая недиагональные по $\tau, \tau^{\prime}$ члены, исчезает; при этом разложение представлений в пространстве $\tilde{\mathfrak{F}_{\text {в }} \text { в прямую сумму частей, отвечающих }}$ $\eta=+$ и $\eta=-$, явно демонстрируется еще раз. Отметим, кроме того, что матрица $\Gamma^{\chi, l}(\lambda)$ в формуле (2.5.66) также становится диагональной для дискретной серии, так что условия симметрии (2.5.66) можно сформулировать для обеих частей порознь. Что касается формулы (2.5.72), то она выражает антиунитарную эквивалентность представлений $U_{S U(1,1)}^{\chi, l,+}$ и $U_{S U(1,1) \text {, которая }}^{\chi, l,-,}$ следует из формулы (1.3.51).

В разд. 2.2-2.4 мы дали решение проблемы редукции для сужения представления $U_{G}^{\rho}$ на компактную подгруппу $H_{l}$, oпределив ортонормированный базис в пространстве $\mathfrak{y}_{a}^{0}$, в котором сужение $U_{G}^{0} \mid H_{1}$ распадается на прямую сумму. Теперь можно интерпретировать эти базисные элементы как ядра унитарного отображения пространства $\mathfrak{S}_{G}^{\rho}$ на гильбертово пространство $\tilde{\mathfrak{Y}}_{G, H_{1}}^{\rho}$ комплексных последовательностей, определенных на множестве базисных элементов с конечной суммой квадратов модулей, на которых сужение $U_{G}^{\rho} \mid H_{1}$ распадается в прямую сумму. Это замечание позволяет единым образом сформулировать наши результаты для компактной группы $H_{1}$ и для некомпактной группы $H_{2}$. Пусть $\hat{H}$ – множество всех классов эквивалентности неприводимых унитарных представлений группы $H, H \in\left\{H_{1}, H_{2}\right\}$, $\sigma \in \hat{H} ; \hat{H}_{\rho}$ – множество всех элементов $\sigma \in \hat{H}$, представленных в разложении сужения $U_{a}^{\rho} \mid H ; \chi^{\sigma}$ – неприводимое унитарное представление группы $H ; n(\rho, \sigma) \equiv n(\rho)$ – кратңость представления $\chi_{\hat{\sigma}}^{\sigma}$ в сужении $U_{G}^{\rho} \mid H ; \hat{v}$ – мера Планшереля на множестве $\hat{H}$. Было построено преобразование эквивалентности $\ddot{A}$, унитарно отображающее пространство $\mathfrak{S}_{G}^{\rho}$ на гильбертово пространство
\[
\ddot{A} \mathfrak{I}_{a}^{\rho}=\mathscr{F}^{\rho}{ }_{Q, H}=\oplus \int_{\hat{\mathscr{\Phi}}_{\rho}} \sqrt{d \hat{v}(\sigma)} \mathrm{C}^{n(\rho)} .
\]

Пространство $\tilde{\mathfrak{g}}_{G, H}^{0}$ состоит из комплексных функций $\tilde{f}=\ddot{A} f$, $f \in H_{Q}^{\rho}$ на множестве $\{1,2, \ldots, n(\rho)\} \times \hat{H}_{\rho}$ со скалярным произведением
\[
\langle\tilde{f} \mid \tilde{g}\rangle_{G, H}^{\sim \rho} \equiv \int_{\hat{H}_{\rho}} d \hat{v}(\sigma) \sum_{\tau=1}^{n(\rho)} \tilde{f}_{\tau}(\sigma)^{*} \tilde{g}_{\tau}(\sigma)=\langle f \mid g\rangle_{G}^{\rho} .
\]

Для \”представления $\tilde{U}_{G}^{\rho}=\ddot{A} U_{G}^{\rho} \ddot{A}^{-1}$ в пространстве $\tilde{\mathscr{y}}_{G, H}^{\rho}$ имеем
\[
\begin{array}{c}
\tilde{U}_{G}^{\rho}(Q) \tilde{f}_{\tau}(\sigma)=\chi^{\sigma}(Q) \tilde{f}_{\tau}(\sigma), \quad Q \in H, \\
\tilde{U}_{a}^{\rho} \mid H=\oplus \int_{\hat{H}_{\rho}} d \hat{v}(\sigma)\left[\oplus \sum_{1}^{n(\rho)} \chi^{\sigma}\right] .
\end{array}
\]