Рассмотрим комплекснозначные функции комплексных переменных $l$ и $z$ :
\[
\begin{aligned}
u_{\mu^{\prime} \mu}^{\chi, l}(z) & \equiv N_{\mu^{\prime} \mu}^{\chi, l}(-z)^{\left(\mu^{\prime}-\mu\right) / 2}(1-z)^{\left(\mu^{\prime}+\mu+x\right) / 2} \times \\
& \times \frac{F\left(\mu^{\prime}-l, \mu^{\prime}+l+x+1 ; \mu^{\prime}-\mu+1 ; z\right)}{\Gamma\left(\mu^{\prime}-\mu+1\right)}, \\
N_{\mu^{\prime} \mu}^{\chi, l} & \equiv(-1)^{\mu^{\prime}-\mu} \frac{N_{\mu}^{\chi, l} \Gamma\left(\mu^{\prime}+l+x+1\right)}{N_{\mu^{\prime}}^{\chi,} \Gamma(\mu+l+x+1)}= \\
& =(-1)^{\mu^{\prime}-\mu}\left[\frac{\Gamma\left(\mu^{\prime}+l+x+1\right) \Gamma\left(\mu^{\prime}-l\right)}{\Gamma(\mu+l+\chi+1) \Gamma(\mu-l)}\right]^{1 / 2},
\end{aligned}
\]

где $\mu^{\prime}, \mu$-целые, $x \in\{0,1\}$, фактор $N_{\mu}^{x, t}$ определен в формуле (2.3.4). Гипергеометрическая функция $F \equiv{ }_{2} F_{1}$ является целой функцией в плоскости $l$ и однозначной аналитической функцией в плоскости $z$, с разрезом от 1 до $+\infty$. При $z=0$ функция $F$ равна 1. Учитывая наличие множителя $(-z)^{1 / 2\left(\mu^{\prime}-\mu\right)} \times$ $X(1-z)^{1 / 2\left(\mu^{\prime}+\mu+\chi\right)}$ следует добавить также разрезы от 0 до $+\infty$ и от 1 до $+\infty$. Множитель $N_{\mu \prime \mu}^{\chi, l}$ есть однозначная аналитическая функция в плоскости $l$ с бесконечным числом разрезов, концы которых находятся в целых точках на вещественной оси; при этом
\[
\begin{array}{c}
N_{\mu^{\prime} \mu}^{x^{\prime}, t i 0}=e^{ \pm i \pi \frac{\mu^{\prime}-\mu}{2}} \sqrt{\frac{\Gamma\left(\mu^{\prime}+l+x+1\right) \Gamma(-\mu+l+1)}{\Gamma(\mu+l+x+1) \Gamma\left(-\mu^{\prime}+l+1\right)}} \\
\text { при } l \geqslant \max \left(\mu^{\prime}, \mu,-\mu^{\prime}-x,-\mu-x\right) .
\end{array}
\]
Эта формула выводится из поведения функции $N_{\mu}^{\chi, t}$ в комплексной плоскости $l$ в соответствии с соображениями, приведенными после формулы (2.3.4). Из условий симметрии (2.3.6) для этой функции имеем
\[
N_{\mu^{\prime} \mu}^{\chi, l}=\frac{1}{N_{\mu \mu^{\prime}}^{\chi, l}}=N_{-\mu-x,-\mu^{\prime}-\chi}^{x, l}=N_{\mu^{\prime} \mu}^{\chi,-l-x-1},
\]

и потому, используя функциональные соотношения для гипергеометрических функций (см. Бейтмен и др. [23], стр. 110), получаем
\[
\begin{array}{c}
(-1)^{\mu^{\prime}-\mu} u_{-\mu^{\prime}-x,-\mu-x}^{\chi, l}(z)=u_{\mu^{\prime} \mu}^{\chi, l}(z)=u_{-\mu-\chi,-\mu^{\prime}-x}^{\chi, l}(z), \\
u_{\mu^{\prime} \mu}^{\chi,-x-1}(z)=u_{\mu^{\prime} \mu}^{\chi, l}(z) .
\end{array}
\]

Таким образом, в дальнейшем можно считать, что
\[
-\mu^{\prime}-x \leqslant \mu \leqslant \mu^{\prime}, \quad \mu^{\prime} \geqslant 0 .
\]

На отрицательной вещественной полуоси в плоскости $z$ и при значеңиях $l$, отвечающих неприводимым унитарным представлениям группы $S U(1,1)$, согласно формуле (2.3.15),
\[
u_{\mu^{\prime} \mu}^{x, l}(x)=\hat{u}_{\mu^{\prime} \mu}^{x^{\prime} l}(x), \quad x \leqslant 0 .
\]

Функции $\tilde{u}_{\mu^{\prime} \mu}^{\chi, l}$ и $\tilde{u}_{\mu^{\prime} \mu}^{\prime \alpha, l}$, определяемые условиями
\[
\begin{array}{l}
u_{\mu^{\prime} \mu}^{\chi, l}(z) \equiv e^{i \pi \operatorname{sign}(\operatorname{In} l)\left(\mu^{\prime}-\mu\right) / 2} \tilde{u}_{\mu^{\prime} \mu}^{\chi, l}(z) \equiv \\
\equiv e^{i \pi(\operatorname{sign}(\operatorname{Im} i)-\operatorname{sign}(\operatorname{Im} z))\left(\mu^{\prime}-\mu\right) / 2} \tilde{u}_{\mu^{\prime} \mu}^{\prime, l}(z), \\
\end{array}
\]

в соответствии с формулой (2.6.2) при целых $l$, отвечающих неприводимым унитарным представлениям группы $S U(2)$, совпадают с функциями, определяемыми формулами (2.2.6) и (2.2.7). Поэтому функция
\[
U^{\chi, l}(A)_{\mu^{\prime} \mu} \equiv\left(\frac{A_{11}}{A_{12}}\right)^{\left(\mu^{\prime}+\mu+\chi\right) / 2}\left(\frac{A_{12}}{A_{21}}\right)^{\left(\mu^{\prime}-\mu\right) / 2} u_{\mu^{\prime} \mu}^{\chi, l}\left(-A_{12} A_{21}\right)
\]

на группе $S L(2, C)$ дает аналитическую интерполяцию матричных элементов представлений подгрупп $S U(2)$ и $S U(1,1)$. Действительно, при сужении на подгруппу $S U(2)$ из формул (2.6.7) и (2.2.5) получаем при целых $l \geqslant \mu^{\prime}$
\[
U^{\chi, l_{ \pm} i 0}(A)_{\mu^{\prime} \mu}=e^{ \pm i \pi\left(\mu^{\prime}-\mu\right) / 2} U_{S U(2)}^{\chi, l}(A)_{\mu^{\prime} \mu}, \quad A \in S U(2),
\]

а при сужении на $S U(1,1)$ из формул (2.6.6) и (2.3.15) получаем для значений $l$, отвечающих неприводимым унитарным представлениям группы $S U(1,1)$,
\[
U^{\chi, l}(A)_{\mu^{\prime} \mu}=U_{S U^{\prime}(1,1)}^{\chi, \eta^{\prime},}(A)_{\mu^{\prime} \mu}, \quad A \in S U(1,1) .
\]
Параметризация с помощью углов Эйлера дает специальную форму этой аналитической интерполяции. Полагая
\[
\begin{aligned}
A=A(\alpha, \zeta, \gamma) \equiv & \\
& \equiv\left(\begin{array}{ll}
e^{-i \alpha / 2} & 0 \\
0 & e^{-i \alpha / 2}
\end{array}\right)\left(\begin{array}{ll}
\operatorname{ch} \zeta / 2 & \operatorname{sh} \zeta / 2 \\
\operatorname{sh} \zeta / 2 & \mathrm{ch} \zeta / 2
\end{array}\right)\left(\begin{array}{ll}
e^{i \gamma / 2} & 0 \\
0 & e^{-i \gamma / 2}
\end{array}\right), \\
& \quad 0 \leqslant \alpha<2 \pi, \quad 0 \leqslant \gamma<4 \pi
\end{aligned}
\]
$\zeta \in S_{\sim \pi, \pi} \equiv$
\[
\equiv\{\xi=\xi+i \beta: 0<\xi<\infty,-\pi<\beta \leqslant \pi\} \cup\{\xi=i \beta: 0 \leqslant \beta \leqslant \pi\},
\]

мы получаем параметризацию группы $S U(2)$ при $\xi \equiv \operatorname{Re} \xi=0$ и параметризацию группы $S U(1,1)$ при $\beta \equiv \operatorname{Im} \zeta=0$. Согласно формуле (2.6.8), имеем
\[
U^{\alpha, l}(A(\alpha, \zeta, \gamma))_{\mu^{\prime} \mu}=e^{i \alpha\left(\mu^{\prime}+\alpha / 2\right)} u_{\mu^{\prime} \mu}^{{ }^{\prime}}{ }^{l}\left(-\operatorname{sh}^{2} \zeta / 2\right) e^{-i \gamma(\mu+x / 2)} .
\]

Аналитическое продолжение, соединяющее подгруппы $S U$ (2) и $S U(1,1)$, в этом случае происходит внутри полосы $S_{-\pi, \pi}$, которая функцией
\[
z=-\operatorname{sh}^{2} \frac{1}{2} \zeta
\]

отображается на комплексную плоскость $z$. При этом прямые $\xi=$ const и полупрямые $\beta=$ const отображаются соответственно на эллипсы с фокусами в 0 и 1 и на половины ветвей гипербол, ортогональных этим эллипсам и исходящих из интервала $(0,1)$. Здесь $z=x-i 0, x \geqslant 1-$ образ прямой $\beta=\pi-0$. Отрезку $[0,1]$ и отрицательной вещественной полуоси в $z$-плоскости отвечают соответственно отрезки прямых $\xi=0$ и $\beta=0$ из полосы $S_{-\pi, \pi}$. мощью функцип Якоби $P_{n}^{(a, \beta)}$ (см., например, Бейтмен и др. [26], стр. 172) следующим образом:
\[
u_{\mu^{\prime} \mu}^{\alpha, l}(z)=\frac{N_{\mu^{\prime}}^{x, l}}{N_{\mu}^{\alpha, l}}(-z)^{\left(\mu^{\prime}-\mu\right) / 2}(1-z)^{\left(\mu^{\prime}+\mu+x\right) / 2} P_{l-\mu^{\prime}}^{\left(\mu^{\prime}-\mu, \mu^{\prime}+\mu+x\right)}(1-2 z) .
\]

Мы используем эту формулу, чтобы, вводя функции Якоби второго рода, определить следующие функции:
\[
\begin{array}{l}
v_{\mu^{\prime} \mu}^{\alpha_{1}^{\prime} l}(z) \equiv \frac{N_{\mu^{\prime}}^{\alpha_{1} l}}{N_{\mu}^{\alpha, l}}(-z)^{\left(\mu^{\prime}-\mu\right) / 2}(1-z)^{\left(\mu^{\prime}+\mu+x\right) / 2} Q_{l-\mu^{\prime}}^{\left(\mu^{\prime}-\mu, \mu^{\prime}+\mu+x\right)}(1-2 z)= \\
=\frac{1}{2} \Gamma\left(1+l-\mu^{\prime}\right) \Gamma(1+l+\mu+x) N_{\mu^{\prime} \mu}^{x, l}(-z)^{\left(\mu^{\prime}-\mu\right) / 2}(1-z)^{\left(\mu^{\prime}+\mu+x\right) / 2} \times \\
\times(-z)^{-\mu^{\prime}-l-x-1} \frac{F\left(\mu^{\prime}+l+x+1, \mu+l+x+1 ; 2 l+x+2 ; 1 / z\right)}{\Gamma(2 l+x+2)} . \\
\end{array}
\]
Функция $v_{\mu^{\prime} \mu}^{\text {, }}$ в комплексной плоскости $z$ имеет разрез на вещественной оси от 0 до 1 , связанный с функцией $F$, логарифмический разрез вдоль положительной вещественной полуоси из-за функции $(-z)^{-\mu^{\prime}-l-x-1}$ при нецелых $l$, а также корневые разрезы от 0 до $+\infty$ и от 1 до $+\infty$, связанные с множителем $(-z)^{1 / 2\left(\mu^{\prime}-\mu\right)}(1-z)^{1 / 2\left(\mu^{\prime}+\mu+x\right)}$ при нецелых показателях степени. В плоскости $l$ функция $v_{\mu^{\prime} \mu}^{x, l}$, кроме разрезов, связанных с множителем $N_{\mu^{\prime} \mu}^{x, l}$, имеет также полюсы, связанные с наличием в числителе Г-функций. Других особенностей в конечной части плоскости $l$ нет. При $\mu^{\prime}=\mu=x=0$ имеем
\[
u_{00}^{0, l}(z)=P_{l}(1-2 z), \quad v_{00}^{0, l}(z)=Q_{l}(1-2 z),
\]

где $P_{l}$ и $Q_{l}$ – функции Лежандра I и II рода. Найдем теперь для функций $u_{\mu^{\prime} \mu}^{x, l}$ и $v_{\mu^{\prime} \mu}^{x, l}$ аналог формулы Гейне (Бейтмен и др. [23], стр. 169):
\[
2 \sum_{n=0}^{\infty}(2 n+1) P_{n}(1-2 z) Q_{n}\left(1-2 z^{\prime}\right)=\frac{1}{z-z^{\prime}},
\]

которая справедлива, если $z$ лежит внутри некоторого эллигіса с фокусами 0 и 1 , а $z^{\prime}$ – вне этого эллипса. С этой целью обсудим прежде всего некоторые свойства функций $u_{\mu^{\prime} \mu}^{\chi, l}$ и $v_{\mu^{\prime} \mu}^{\chi, l}$.

Из формулы аналитического продолжения для гипергеометрических рядов (Бейтмен и др. [23], стр. 113) следует
\[
\begin{array}{l}
(-1)^{\mu^{\prime}-\mu} \frac{2 \sin \pi l}{\pi} v_{\mu^{\prime} \mu}^{\alpha_{1} l}(z)=e^{i \pi l \operatorname{sig} \dot{(}(\operatorname{Im} z)} u_{\mu^{\prime} \mu}^{\alpha, l}(z)- \\
\quad-e^{i \pi(\mu+\chi / 2) \operatorname{sign}(\operatorname{Im} l)} e^{-i \pi x \operatorname{sign}(\operatorname{Im} z) / 2} u_{\mu^{\prime},-\mu-\chi}^{x^{\prime},}(1-z) .
\end{array}
\]

Из этой формулы и из соотношения симметрии (2.6.4) для функции $u_{\mu^{\prime} \mu}^{\alpha, l}$ получаем
\[
(-1)^{\mu^{\prime}-\mu} v_{-\mu^{\prime}-x,-\mu-x}^{x, l}(z)=v_{\mu^{\prime} \mu}^{x_{1} l}(z)=v_{-\mu-x,-\mu^{\prime}-x}^{x, l}(z),
\]

так что можно рассматривать только область (2.6.5). Из рекуррентных соотношений Гаусса (Бейтмен и др. [23], стр. 111) выводится рекуррентная формула
\[
\begin{array}{l}
\frac{1}{2}\left[1-2 z-\frac{\left(2 \mu^{\prime}+x\right)(2 \mu+x)}{(2 l+x)(2 l+x+2)}\right] u_{\mu^{\prime} \mu}^{x, l}(z)= \\
\quad=\frac{\left[\left(l-\mu^{\prime}\right)\left(l+\mu^{\prime}+x\right)(l-\mu)(l+\mu+x)\right]^{1 / 2}}{(2 l+x)(2 l+x+1)} u_{\mu^{\prime} \mu}^{\chi, l-1}(z)+ \\
\quad+\frac{\left[\left(1+l-\mu^{\prime}\right)\left(1+l+\mu^{\prime}+x\right)(1+l-\mu)(1+l+\mu+x)\right]^{1 / 2}}{(2 l+x+1)(2 l+x+2)} u_{\mu^{\prime} \mu}^{x^{\prime} l+1}(z) .
\end{array}
\]
Здесь при $l>\mu^{\prime}$ понимаются положительные значения корней. Согласно формуле (2.6.18), такая же формула справедлива для функций $v_{\mu^{\prime} \mu}^{x_{\mu} l}$ :
\[
\begin{array}{l}
\frac{1}{2}\left[1-2 z-\frac{\left(2 \mu^{\prime}+x\right)(2 \mu+x)}{(2 l+x)(2 l+x+2)}\right] v_{\mu^{\prime} \mu}^{x_{1} l}(z)= \\
\quad=\frac{\left[\left(l-\mu^{\prime}\right)\left(l+\mu^{\prime}+x\right)(l-\mu)(l+\mu+x)\right]^{1 / 2}}{(2 l+x)(2 l+x+1)} v_{\mu^{\prime} \mu}^{x_{1} l-1}(z)+ \\
\quad+\frac{\left[\left(1+l-\mu^{\prime}\right)\left(1+l+\mu^{\prime}+x\right)(1+l-\mu)(1+l+\mu+x)\right]^{1 / 2}}{(2 l+x+1)(2 l+x+2)} v_{\mu^{\prime} \mu}^{x, l+1}(z) .
\end{array}
\]

Применяя обе рекуррентные формулы, получаем
\[
\begin{array}{l}
2(2 l+x+1)\left(z-z^{\prime}\right) u_{\mu^{\prime} \mu}^{\chi, l}(z) v_{\mu^{\prime} \mu}^{x, l}\left(z^{\prime}\right)= \\
=K_{\mu^{\prime} \mu}^{\chi, l}\left(z, z^{\prime}\right)-K_{\mu^{\prime} \mu}^{\chi, l}\left(z, z^{\prime}\right), \\
K_{\mu^{\prime} \mu}^{\chi, l-1}\left(z, z^{\prime}\right) \equiv \frac{\left[\left(l-\mu^{\prime}\right)\left(l+\mu^{\prime}+x\right)(l-\mu)(l+\mu+x)\right]^{1 / 2}}{l+x / 2} \times \\
\times\left[u_{\mu^{\prime} \mu}^{\chi_{\mu} l}(z) v_{\mu^{\prime} \mu}^{\chi_{\mu} l-1}\left(z^{\prime}\right)-u_{\mu^{\prime} \mu}^{\chi, l-1}(z) v_{\mu^{\prime} \mu}^{\chi_{1} l}\left(z^{\prime}\right)\right] . \\
\end{array}
\]

Суммирование по точкам $l=l_{0}, l_{0}+1, \ldots, l_{0}+N$ дает
\[
\begin{aligned}
2\left(z-z^{\prime}\right) \sum_{l=l_{0}}^{l_{0}+N}(2 l+x+1) & u_{\mu^{\prime} \mu}^{\chi, l}(z) v_{\mu^{\prime} \mu}^{\chi, l}\left(z^{\prime}\right)= \\
& =K_{\mu^{\prime} \mu}^{\chi, l_{0}-1}\left(z, z^{\prime}\right)-K_{\mu^{\prime} \mu^{\prime}+N}^{\chi, l_{0}+N}\left(z, z^{\prime}\right)
\end{aligned}
\]

Из равенства $F(a, b ; a ; z)=(1-z)^{-b}$ следует
\[
\begin{array}{l}
\lim _{l \rightarrow \mu^{\prime} \pm i 0} \frac{\left[\left(l-\mu^{\prime}\right)\left(l+\mu^{\prime}+x\right)(l-\mu)(l+\mu+x)\right]^{1 / 2}}{l+x / 2} v_{\mu^{\prime} \mu}^{x^{\prime} l-1}(z)= \\
=\frac{1}{u_{\mu^{\prime} \mu}^{\chi, \mu^{\prime} \mp i 0}(z)}, \quad(2.6 .24) \\
u_{\mu^{\prime} \mu}^{\chi, \mu^{\prime} \mp i 0}(z)= \\
=e^{\mp i \pi \frac{\mu^{\prime}-\mu}{2}}+\sqrt{\frac{\left(2 \mu^{\prime}+x\right) !}{\left(\mu^{\prime}-\mu\right) !\left(\mu^{\prime}+\mu+x\right) !}}(-z)^{\left(\mu^{\prime}-\mu\right) / 2}(1-z)^{\left(\mu^{\prime}+\mu+x\right) / 2} .
\end{array}
\]

Так как
\[
\lim _{l \rightarrow \mu^{\prime}-1 \pm i 0} u_{\mu^{\prime} \mu}^{\chi, 1}(z)=0,
\]

то
\[
\begin{array}{c}
\lim _{l \rightarrow \mu^{\prime} \pm i 0} K_{\mu^{\prime} \mu}^{\chi, l-1}\left(z, z^{\prime}\right)=(-1)^{\mu^{\prime}-\mu} \omega_{\mu^{\prime} \mu}^{\chi}(z) / \omega_{\mu^{\prime} \mu}^{\chi}\left(z^{\prime}\right) \\
\omega_{\mu^{\prime} \mu}^{\chi}(z) \equiv(-z)^{\left(\mu^{\prime}-\mu\right) / 2}(1-z)^{\left(\mu^{\prime}+\mu+\chi\right) / 2} .
\end{array}
\]
M. IUAA $\Phi$
Из асимптотического разложения Ватсона для гипергеометрической функции (Бейтмен и др. [23], стр. 88) при $|l| \rightarrow \infty$, $|\arg l|<\pi$ следует
\[
\begin{array}{l}
u_{\mu^{\prime} \mu}^{\varkappa, l}\left(-\operatorname{sh}^{2} \zeta / 2\right)=\frac{e^{i \pi \operatorname{sign}(\operatorname{Im} l)\left(\mu^{\prime}-\mu\right) / 2}}{(2 \pi l \operatorname{sh} \zeta)^{1 / 2}}\left[e^{\zeta(l+l / 2+\chi / 2)}+\right. \\
\left.+e^{i \pi \operatorname{sign}(\operatorname{Im} \zeta)\left(\mu^{\prime}-\mu+1 / 2\right)} e^{-\zeta(l+1 / 2+x / 2)}\right] \text {, } \\
v_{\mu^{\prime} \mu}^{\chi, l}\left(-\operatorname{sh}^{2} \zeta / 2\right)= \\
=\frac{e^{i \pi \operatorname{sign}(\operatorname{Im} l)\left(\mu^{\prime}-\mu\right) / 2}}{(2 \pi l \operatorname{sh} \zeta)^{1 / 2}} e^{-\zeta(l+1 / 2+\chi / 2)}, \quad|\arg l|<\pi . \\
\end{array}
\]

Отсюда и из свойства симметрии (2.6.4) получаем
\[
\begin{array}{l}
\lim _{\operatorname{Re} l \rightarrow+\infty} K_{\mu^{\prime} \mu}^{\alpha, l}\left(-\operatorname{sh}^{2} \zeta / 2,-\operatorname{sh}^{2} \zeta^{\prime} / 2\right)= \\
=\frac{(-1)^{\mu^{\prime}-\mu}\left(e^{\zeta^{\prime}}-e^{\zeta}\right)}{2\left(\operatorname{sh} \zeta^{\prime} \operatorname{sh} \zeta\right)^{1 / 2}} \lim _{\operatorname{Re} l \rightarrow+\infty} e^{-\left(\zeta^{\prime}-\xi\right)(l+1 / 2+\kappa / 2)}=0 \text { при } \xi^{\prime}>\xi,
\end{array}
\]
т. е. $K_{\mu^{\prime} \mu}^{x, l}\left(z^{\prime}, z\right)$ исчезает при $\operatorname{Re} l \rightarrow+\infty$, если точка $z$ лежит внутри эллипса, проходящего через точку $z^{\prime}$ и имеющего фокусы в точках 0 и $1, z \in E\left(z^{\prime}\right)$. Учитывая, что произведение $u \cdot v$ не имеет разрезов в плоскости $l$, из формул (2.6.23), (2.6.25) и (2.6.27) получаем
\[
\sum_{l=\mu^{\prime}}^{\infty}(2 l+x+1) u_{\mu^{\prime} \mu}^{\chi, t}(z) v_{\mu^{\prime} \mu}^{\chi, l}\left(z^{\prime}\right)=\frac{\omega_{\mu^{\prime} \mu}^{\chi}(z)}{2 \omega_{\mu^{\prime} \mu}^{x}\left(z^{\prime}\right)} \frac{(-1)^{\mu^{\prime}-\mu}}{z-z^{\prime}}, \quad z \in E\left(z^{\prime}\right) .
\]

Здесь ряд сходится для всех $z \in E\left(z^{\prime}\right)$ и является в этой области разложением функции, стояцей в правой части. Очевидно, что формула (2.6.28) представляет собой обобщение формулы Гейне (2.6.17) и совпадает с ней при $\mu^{\prime}=\mu=x=0$. Формула (2.6.28) удобна для представлений группы $S U(2)$. Для группы $S U(1,1)$ необходима модификация этой формулы, которую мы получим с помощью преобразования типа Зоммерфельда – Ватсона (см. книгу Зоммерфельда [27]). Прежде всего представим ряд (2.6.28) в виде интеграла по контуру $C_{1}$, изображенному на фиг. 2.1:
\[
-\frac{i}{2} \int_{C_{1}} \frac{d l}{\sin \pi l}(2 l+x+1) u_{\mu^{\prime} \mu}^{x, l}(z) e^{-i \pi l \operatorname{sign}\left(\operatorname{Im} z^{\prime}\right)} v_{\mu^{\prime} \mu}^{x, l}\left(z^{\prime}\right) .
\]

Так как, согласно формуле (2.6.2), функция $u_{\mu^{\prime} \mu}^{x_{1} l}(z) v_{\mu^{\prime} \mu}^{x, l}(z)$ не имеет особенностей или разрезов при $\operatorname{Re} l>\mu^{\prime}-1$, то в силу теоремы о вычетах интеграл (2.6.29) равен сумме ряда в формуле (2.6.28). Здесь множитель $(-1)^{l}$ переходит в $\exp [-i \pi l \times$ $\left.X \operatorname{sign}\left(\operatorname{Im} z^{\prime}\right)\right]$ для нецелых $l$. При таком аналитическом продолжении удается оценить подынтегральное выражение на $C_{2}$,
$\Phi$ иг. 2.2 .

изображенном на фиг. 2.2. Контур $C_{1}$ может быть деформирован в контур $C_{2}$, так как подыңтегральное выражение может иметь полюсы лищь на вещественной оси. С помощью асимптотической формулы (2.6.26) при больших $|l|$ подынтегральное выражение можно представить в виде суммы двух экспонент с модулями
\[
e^{-\left(\xi^{\prime}-\xi\right) X} e^{-\left(\beta-\beta^{\prime}+\pi \operatorname{sign} \beta^{\prime}\right) Y-\pi|Y|}, \quad e^{-\left(\xi^{\prime}+\xi\right) X} e^{-\left(-\beta-\beta^{\prime}+\pi \operatorname{sign} \beta^{\prime}\right) Y-\pi|Y|},
\]
\[
z=-\operatorname{sh}^{2} \zeta / 2, z^{\prime}=-\operatorname{sh}^{2} \zeta^{\prime} / 2, l+(1+x) / 2=X+i Y, \zeta, \zeta^{\prime} \in S_{-\pi, \pi} .
\]

Таким образом, при $X \rightarrow+\infty$ и $\xi^{\prime}>\xi$, т. е. $z \in E\left(z^{\prime}\right)$, подынтегральное выражение экспоненциально падает. Чтобы получить такое поведөние при $Y \rightarrow \pm \infty$, необходимо выполнение условия
\[
|\beta|<\left|\beta^{\prime}\right| \text {. }
\]

На плоскости $z$ это условие можно представить следующим образом: среди гипербол с фокусами в точках 0 и 1 существует гипербола, проходящая между точками $z$ и $z^{\prime}$, причем $z$ лежит по одну сторону от вещественной отрицательной полуоси, а $z^{\prime}$ – по другую. Иными словами, точка $z$ принадлежит области $H\left(z^{\prime}\right)$, открытой части плоскости, содержащей вещественную отрицательную полуось и ограниченную гиперболой с фокусами в точках 0 и 1, проходящей через точку $z^{\prime}$. Поэтому
Фиг. 2.3.

для $z \in E\left(z^{\prime}\right) \cap H\left(z^{\prime}\right)$ можно деформацией перевести контур $C_{2}$ в контур $-C_{3}-C_{4}$, показанный на фиг. 2.3, и вместо ряда (2.6.28) получим
\[
\begin{array}{l}
\frac{i}{2} \int_{C_{3}+C_{4}} \frac{d l}{\sin \pi l}(2 l+x+1) u_{\mu^{\prime} \mu}^{\chi, l}(z) e^{-i \pi l \operatorname{sign}\left(\operatorname{Im} z^{\prime}\right)} v_{\mu^{\prime} \mu}^{\chi, l}\left(z^{\prime}\right)= \\
=(-1)^{\mu^{\prime}-\mu} \frac{1}{2} \frac{\omega_{\mu^{\prime} \mu}^{x}(z)}{\omega_{\mu^{\prime} \mu}^{x}\left(z^{\prime}\right)} \frac{1}{z-z^{\prime}}, \quad z \in H\left(z^{\prime}\right) .
\end{array}
\]

Мы вывели эту формулу, предполагая, что $z \in H\left(z^{\prime}\right) \cap E\left(z^{\prime}\right)$. Однако интеграл существует для всех $z \in H\left(z^{\prime}\right)$ и является в этой области голбщорфной функцией, поэтому равенство справедливо во всей области $H\left(z^{\prime}\right)$. Назовем равенство (2.6.32) обобщенной формулой Мелера. Действительно, с помощью соотношения
\[
\begin{array}{l}
e^{-i \pi l \operatorname{sign}(\operatorname{Im} z)} v_{\mu^{\prime} \mu}^{\chi, l}(z)+e^{i \pi l \operatorname{sign}(\operatorname{Im} z)} v_{\mu^{\prime} \mu}^{\chi,-l-x-1}(z)= \\
=-(-1)^{\mu^{\prime}-\mu} \pi c \operatorname{ctg} \pi l e^{i \pi\left(\mu+\frac{x}{2}\right) \operatorname{sign}(\operatorname{Im} l)-i \pi x \operatorname{sign}(\operatorname{Im} z) / 2} u_{\mu^{\prime},-\mu-\chi}^{x, l}(1-z),
\end{array}
\]
которое следует из формул (2.6.18) и (2.6.4), формула (2.6.32) при $\mu^{\prime}=\mu=x=0$ приводится к хорошо известной формуле Мелера (Бейтмен и др. [23], стр. 176):
\[
-\pi \int_{-\infty}^{+\infty} d p \frac{p \text { th } \pi p}{\operatorname{ch} \pi p} P_{-1 / 2+i p}(1-2 z) P_{-1 / 2+l p}\left(-\left(1-2 z^{\prime}\right)\right)=\frac{1}{z-z^{\prime}}
\]

для конических функций $P_{-1 / 2+i p}$.
Мы используем обобщенные формулы Гейне и Мелера для вывода теорем разложения для некоторых голоморфных функций. Пусть $f$-функция вида
\[
\begin{array}{c}
f(z)=\omega_{\mu^{\prime} \mu}^{\prime x}(z) F(z), \\
\omega_{\mu^{\prime} \mu}^{\prime \mu}(z) \equiv e^{i \pi \operatorname{sign}(\operatorname{Im} z)\left(\mu^{\prime}-\mu\right) / 2} \omega_{\mu^{\prime} \mu}^{x}(z)= \\
=z^{\left(\mu^{\prime}-\mu\right) / 2}(1-z)^{\left(\mu^{\prime}+\mu+\chi\right) / 2},
\end{array}
\]

где функция $F$ голоморфна в области, содержащей $E\left(x_{0}\right)$, внутренность эллипса, проходящего через точку $x_{0}<0$, с фокусами в точках 0 и 1 , а также его границу $\partial E\left(x_{0}\right)$. С помощью интегральной теоремы Коши и определения (2.6.7) получаем из ряда (2.6.28):
\[
\begin{array}{c}
f(z)=\sum_{l=\mu^{\prime}}^{\infty}(2 l+x+1) \tilde{u}_{\mu^{\prime} \mu}^{\prime, l}(z) \hat{f}(l), \\
\hat{f}(l) \equiv \frac{-1}{i \pi} \oint_{\partial E(x-)} d z f(z) e^{-i \pi(\operatorname{sign}(\operatorname{Im} l)+\operatorname{sign}(\operatorname{Im} z)) \frac{\mu^{\prime}-\mu}{2}} v_{\mu^{\prime} \mu}^{x, l}(z) .
\end{array}
\]

При стремлении точки $z$ к отрезку $x \in[0,1]$ мы можем стянуть контур интегрирования $\partial E\left(x_{0}\right)$ вокруг разреза подынтегральной функции между точками 0 и 1. Тогда с помощью соотношения $e^{-i \pi \operatorname{sign}(\operatorname{Im} l)\left(\mu^{\prime}-\mu\right) / 2}\left[e^{i \pi\left(\mu^{\prime}-\mu\right) / 2} v_{\mu^{\prime} \mu}^{x, l}(x-i 0)-\right.$
\[
\left.-e^{-i \pi\left(\mu^{\prime}-\mu\right) / 2} v_{\mu^{\prime} \mu}^{\chi, l}(x+i 0)\right]=-i \pi \tilde{u}_{\mu^{\prime} \mu}^{\prime x, l}(x), \quad 0 \leqslant x \leqslant 1,
\]

которое следует из формул (2.6.18) и (2.6.7), вместо формулы (2.6.36) получаем
\[
\begin{array}{c}
f(x)=\sum_{l=M}^{\infty}(2 l+x+1) \tilde{u}_{\mu^{\prime} \mu}^{\prime, l}(x) \hat{f}(l), \quad 0 \leqslant x \leqslant 1, \\
\hat{f}(l) \equiv \int_{0}^{1} d x f(x) \tilde{u}_{\mu^{\prime} \mu}^{\prime x, l}(x), \quad M \equiv \max \left(\mu^{\prime}, \mu,-\mu^{\prime}-x,-\mu-x\right), \\
\int_{0}^{1} d x|f(x)|^{2}=\sum_{l=M}^{\infty}(2 l+x+1)|\hat{f}(l)|^{2} .
\end{array}
\]
Чтобы записать эту формулу в виде, пригодном для всех значений $\mu^{\prime}$ и $\mu$, мы использовали здесь условия симметрии (2.6.4).
Пусть $g$ – функция вида
\[
g(z)=\omega_{\mu^{\prime} \mu}^{*}(z) G(z)
\]

где функция $G$ голоморфна в области, содержащей гиперболу $\partial H\left(x_{0}\right)$, проходящую через точку $x_{0} \in(0,1)$ и имеющую фокусы в точках 0 и 1, вместе с открытой областью плоскости, которая ограничена этой гиперболой и содержит вещественную отрицательную полуось. Пусть также функция $G$ убывает при $\operatorname{Re} z \rightarrow-\infty$ быстрее люоой степени $z$. Тогда из (2.6.32) с помощью интегральной формулы Коши получаем
\[
\begin{array}{l}
g(z)=-\frac{i}{2} \int_{C_{s}+C_{4}} d l(2 l+x+1) \operatorname{ctg} \pi l \hat{u}_{\mu^{\prime} \mu}^{\chi, l}(z) \hat{g}^{\prime}(l), \\
\hat{g}^{\prime}(l) \equiv \frac{(-1)^{\mu^{\prime}-\mu}}{i \pi \cos \pi l} \int_{\partial H\left(x_{0}\right)} d z g(z) e^{-i \pi l \operatorname{sign}(\operatorname{Im} z)} v_{\mu^{\prime} \mu}^{\chi, l}(z) .
\end{array}
\]

Здесь перемена порядка интегрирования допустима благодаря заданному нами асимптотическому поведению функции $G$. Заметим, что интеграл по контуру $\partial H\left(x_{0}\right)$ не переходит в интеграл по замкнутому коңтуру из-за разреза, связанного с функцией $v_{\mu \prime \mu}^{x, t}$, на интервале $(0,1)$. Если точка $z$ стремится к некоторой точке $x \in(-\infty, 0]$, то контур $\partial H\left(x_{0}\right)$ можно протянуть вокруг вещественной отрицательной полуоси. Так как функция $v_{\mu^{\prime} \mu}^{\chi, l}$ в этой области непрерывна, то из формулы $(2.6 .40)$ получим
\[
\begin{array}{c}
g(x)=-\frac{i}{2} \int_{C_{3}+C_{4}} d l(2 l+x+1) \operatorname{ctg} \pi l \hat{u}_{\mu^{\prime} \mu}^{x, l}(x) \hat{g}^{\prime}(l), \\
-\infty<x \leqslant 0, \\
\hat{g}^{\prime}(l)=\frac{2}{\pi}(-1)^{\mu^{\prime}-\mu} \operatorname{tg} \pi l \int_{-\infty}^{0} d x g(x) v_{\mu^{\prime} \mu}^{x, l}(x) .
\end{array}
\]

Наличие нуля, связанного с множителем $(2 l+x+1)$, позволяет нам выбрать прямую линию, проходящую через точку $l=$ $=-1 / 2(1+x)$, в качестве контура $C_{3}$ на фиг. 2.3 также и при $x=1$. Поэтому в любом случае подстановка $l \rightarrow-l-x-1$ переводит $C_{3}$ в $-C_{3}$. Благодаря симметрии функции $u_{\mu^{\prime} \mu}^{\chi, l}$ относительно этой подстановки [см. формулу (2.6.4)] только симметричная часть функции $g^{\prime}$
\[
\hat{g}(l) \equiv \frac{\hat{g}^{\prime}(l)-\hat{\mathrm{g}}^{\prime}(-l-x-1)}{2}
\]  дает вклад в интеграл по контуру $C_{3}$ в формуле (2.6.41). Соотношение
\[
v_{\mu^{\prime} \mu}^{x_{1}^{\prime} l}(z)-v_{\mu^{\prime} \mu}^{x_{1},-l-x-1}(z)=(-1)^{\mu^{\prime}-\mu} \pi \operatorname{ctg} \pi l \mu_{\mu^{\prime} \mu}^{x^{\prime} l}(z),
\]

которое следует из формулы (2.6.18), дает
\[
\hat{g}(l)=\int_{-\infty}^{0} d x g(x) \hat{a}_{\mu^{\prime} \mu}^{x, l}(x) .
\]

Точки $l=0,1, \ldots, \mu^{\prime}-1$ окружены контуром $C_{4}$. Функция $u_{\mu^{\prime} \mu}^{\chi, l}(z) v_{\mu^{\prime} \mu}^{\chi, l}\left(z^{\prime}\right)$, согласно формулам (2.6.1) и (2.6.15), имеет полюсы при $l=0,1, \ldots, \mu-1$ и $\mu \geqslant 1$ и регулярна во всех остальных случаях. Из формулы (2.6.18) сразу следует
\[
\operatorname{Res}_{l \in\{0,1 \ldots, \mu-1\}} v_{\mu^{\prime} \mu}^{x, l}(z)=\frac{(-1)^{\mu^{\prime}-\mu}}{2} u_{\mu^{\prime} \mu}^{x, l}(z), \quad \mu \geqslant 1,
\]

так как функция $u_{\mu^{\prime},-\mu-x}^{x_{2}}(1-z)$ имеет нули в этих точках. Итак, для $l \in\left\{0,1, \ldots, \mu^{\prime}-1\right\}$ имеем
\[
\hat{g}^{\prime}(l)=\hat{g}(l)=\left\{\begin{array}{cc}
\int_{-\infty}^{0} d x g(x) \hat{u}_{\mu^{\prime} \mu}^{\alpha, l}(x) \text { при } l=0,1, \ldots, \mu-1 ; \mu \geqslant 1, \\
0 & \text { в других случаях. }
\end{array}\right.
\]

Таким образом, суммируя все сказанное, напишем вместо формулы $(2.6 .41)$
\[
\begin{aligned}
g(x) & =\frac{1}{2 \pi i} \int_{-(1+x) / 2-i \infty}^{-(1+x) / 2+i \infty} d l(2 l+x+1) \pi \operatorname{ctg} \pi l \hat{u}_{\mu^{\prime} \mu}^{\chi, l}(x) \hat{g}(l)+ \\
& +\sum_{l=0}^{N}(2 l+x+1) \hat{u}_{\mu^{\prime} \mu}^{x, l}(x) \hat{g}(l), \quad-\infty<x \leqslant 0 \\
\hat{g}(l) & \equiv \int_{-\infty}^{0} d x g(x) \hat{u}_{\mu^{\prime} \mu}^{x, l}(x), \\
\int_{-\infty}^{0} d x \mid & \left.g(x)\right|^{2}=\frac{1}{2 \pi i} \int_{-(1+x) / 2-i \infty}^{-(1+x) / 2+i \infty} d l(2 l+x+1) \pi \operatorname{ctg} \pi l|\hat{g}(l)|^{2}+ \\
& +\sum_{l=0}^{N}(2 l+x+1) \mid \hat{g}(l) P^{2}, \\
N & \equiv M-\left|\mu^{\prime}-\mu\right|-1 ; \quad M \equiv \max \left(\mu^{\prime}, \mu,-\mu^{\prime}-x,-\mu-x\right) .
\end{aligned}
\]
Здесь снова были использованы свойства симметрии (2.6.4), чтобы записать результат в виде, пригодном при всех значениях $\mu^{\prime}, \mu$. Подразумевается, что при $N<0$ сумма равна нулю.

Можно вывести соотношения, дуальные к формулам разложения (2.6.38) и (2.6.47), которые, по существу, содержат условия ортогональности для функций $u_{\mu^{\prime} \mu}^{x, l}$. Прежде всего воспользуемся дифференциальными уравнениями
\[
\begin{array}{c}
{\left[\Delta_{\mu^{\prime} \mu}^{x, l}+(l+x / 2)(l+x / 2+1)\right] u_{\mu^{\prime} \mu}^{\chi, l}(z)=0,} \\
{\left[\Delta_{\mu^{\prime} \mu}^{\chi, l}+(l+x / 2)(l+x / 2+1)\right] v_{\mu^{\prime} \mu}^{, l}(z)=0,} \\
\Delta_{\mu^{\prime} \mu}^{x, l} \equiv z(1-z) \frac{d^{2}}{d z^{2}}+(1-2 z) \frac{d}{d z}- \\
-\frac{\left(\mu^{\prime}-\mu\right)^{2}+\left(2 \mu^{\prime}+x\right)(2 \mu+x) z}{4 z(1-z)},
\end{array}
\]

которые эквивалентны гипергеометрическим, чтобы найти соотношения, дуальные к обобщенным формулам Гейне и Мелера. Известные формулы дифференцирования гипергеометрических функций отвечают следующим соотношениям:
\[
\begin{array}{l}
=\frac{\Lambda_{\mu^{\prime}+1, \mu^{\prime}}^{\chi,{ }_{\mu^{\prime}+1, \mu}^{\chi, l}}(z)}{N_{\mu^{\prime}+1, \mu}^{\chi, l}}, \\
\Lambda_{\mu^{\prime} \mu}^{x, l, \pm} \equiv \pm \sqrt{-z(1-z)} \frac{d}{d z}+\frac{\left(\mu^{\prime}-\mu\right)(1-z)-\left(\mu^{\prime}+\mu+x\right) z}{2 \sqrt{-z(1-z)}}, \\
w_{\mu^{\prime} \mu}^{\chi, l}=\left\{\begin{array}{l}
u_{\mu^{\prime} \mu}^{\chi, l} \\
v_{\mu^{\prime} \mu}^{\alpha, l}
\end{array}\right. \\
\end{array}
\]

Используя эти соотношения и дифференциальное уравнение (2.6.48), можно доказать справедливость следующей формулы:
\[
\begin{array}{c}
u_{\mu^{\prime} \mu}^{\chi, l}(z) v_{\mu^{\prime} \mu}^{\chi, l^{\prime}}(z) e^{-i \pi l^{\prime} \operatorname{sign}(\operatorname{Im} z)}=\frac{-e^{-i \pi l^{\prime} \operatorname{sign}(\operatorname{Im} z)}}{\left(l+l^{\prime}+\chi+1\right)\left(l-l^{\prime}\right)} \times \\
\times \frac{d}{d z}\left\{V \overline { – z ( 1 – z ) } \left[\frac{N_{\mu^{\prime}, \mu}^{\chi_{1},}}{N_{\mu^{\prime}-1, \mu}^{\chi, l}} v_{\mu^{\prime} \mu^{\prime}}^{\chi, l^{\prime}}(z) u_{\mu^{\prime}-1, \mu}^{\chi, l}(z)+\right.\right. \\
\left.\left.+\frac{N_{\mu^{\prime}, \mu}^{\chi, l^{\prime}}}{N_{\mu^{\prime}-1, \mu}^{\chi, l^{\prime}}} v_{\mu^{\prime}-1, \mu}^{\chi, l^{\prime}}(z) u_{\mu^{\prime} \mu}^{\chi, l}(z)\right]\right\} .
\end{array}
\]
С точки зрения теории групп операторы

являются дифференциальными операторами, связанными соответственно с элементами алгебры Ли и с оператором Қазимира для группы $S U(2)$ или $S U(1,1)$. Функция в левой части формулы (2.6.50) аналитична и однозначна в комплексной плоскости $z$ с разрезом вдоль вещественной оси. Проинтегрируем теперь равенство (2.6.50) по открытым полудугам положительно ориентированного эллипса $\partial E\left(x_{0}\right), x_{0}<0$, лежащим в верхней и нижней полуплоскостях [ср. с формулой (2.6.36)]. Используя соотношение
\[
\begin{array}{l}
e^{i \pi\left(\left(\mu^{\prime}-\mu\right) / 2+l\right)} v_{\mu^{\prime} \mu}^{\chi, l}(x-i 0)-e^{-i \pi\left(\left(\mu^{\prime}-\mu\right) / 2+l\right)} v_{\mu^{\prime} \mu}^{\chi, l}(x+i 0)= \\
\quad=i \pi(-1)^{\mu+\chi+1} e^{-i \pi \operatorname{sign}(\operatorname{lm} l)\left(\mu^{\prime}-\mu\right) / 2} \tilde{u}_{\mu^{\prime},-\mu-x}^{\prime, l}(1-x), \quad 0<x<1,
\end{array}
\]

которое следует из формулы (2.6.18), и формулу (2.6.7) в пределе $x_{0} \rightarrow-0$, представим левую часть в виде интеграла
\[
i \pi(-1)^{\mu+\chi+1} e^{i \pi\left(\operatorname{sign}(\operatorname{Im} l)-\operatorname{sign}\left(\operatorname{Im} l^{\prime}\right) \frac{\mu^{\prime}-\mu}{2}\right.} \int_{0}^{1} d x \tilde{u}_{\mu^{\prime} \mu}^{\prime, l}(x) \tilde{u}_{\mu^{\prime},-\mu-\chi}^{\prime, l}(1-x) .
\]

Правая часть вычисляется подстановкой выражения в фигурных скобках в крайних точках контура интегрирования: $x_{0}$ – $i 0$, $1-x_{0}+i 0,1-x_{0}-i 0, x_{0}+i 0$. В пределе $x_{0} \rightarrow-0$ получаем
\[
\begin{array}{l}
\frac{-i(-1)^{\mu^{\prime}–^{\prime}}}{\left(l+l^{\prime}+x+1\right)\left(l-l^{\prime}\right)} \frac{N_{\mu^{\prime} \mu}^{\alpha, l}}{N_{\mu^{\prime} l^{\prime}}^{\chi, l^{\prime}}} \frac{\Gamma\left(1+l^{\prime}-\mu\right)}{\Gamma\left(1+l^{\prime}+\mu+x\right)} \times \\
\quad \times\left[\frac{\Gamma(1+l+\mu+x)}{\Gamma(1+l-\mu)} \sin \pi l-\frac{\Gamma\left(1+l^{\prime}+\mu+x\right)}{\Gamma\left(1+l^{\prime}-\mu\right)} \sin \pi l^{\prime}\right] .
\end{array}
\]

Поэтому последние две формулы приводят к соотношению
\[
\begin{array}{l}
\left(l^{\prime}+l+x+1\right) \int_{0}^{1} d x \tilde{u}_{\mu^{\prime} \mu}^{\prime^{\prime,} l}(x)(-1)^{\mu^{\prime}+x} \tilde{u}_{\mu^{\prime},-\mu-x}^{\prime, l^{\prime}}(1-x)= \\
=e^{-i \pi\left(\operatorname{sign}(\operatorname{Im} l)-\operatorname{sign}\left(\operatorname{Im} l^{\prime}\right)\right)\left(\mu^{\prime}-\mu\right) / 2} \frac{N_{\mu^{\prime} \mu}^{\alpha, l}}{N_{\mu^{\prime} \mu}^{\alpha, l^{\prime}}} \frac{1}{\pi\left(l-l^{\prime}\right)} \times \\
\times \frac{\Gamma\left(1+l^{\prime}-\mu\right)}{\Gamma\left(1+l^{\prime}+\mu+x\right)}\left[\frac{\Gamma(1+l+\mu+x)}{\Gamma(1+l-\mu)} \sin \pi l-\frac{\Gamma\left(1+l^{\prime}+\mu+x\right)}{\Gamma\left(1+l^{\prime}-\mu\right)} \sin \pi l^{\prime}\right],
\end{array}
\]
которое можно интерпретировать как формулу, дуальную обобщенной формуле Гейне (2.6.28). Из (2.6.18) для целых $l \geqslant \mu^{\prime}$, $-\mu^{\prime}-x, \mu,-\mu-x$ следует
\[
(-1)^{\mu^{\prime}+x_{\tilde{u}_{\mu^{\prime},-\mu-x}^{\prime}}^{\prime x, l}}(1-x)=(-1)^{l} \tilde{u}_{\mu^{\prime} \mu}^{\prime x, l}(x) .
\]

Отсюда и из формулы (2.6.2) сразу же выводится соотношение ортогональности
\[
\int_{0}^{1} d x \tilde{u}_{\mu^{\prime} \mu}^{\prime x, l^{\prime}}(x) \tilde{u}_{\mu^{\prime} \mu}^{\prime x, t}(x)=\frac{\delta_{l l^{\prime}}}{2 l+x+1},
\]
$l, l^{\prime} \geqslant M$, целое, $M \equiv \max \left(\mu^{\prime}, \mu,-\mu^{\prime}-x,-\mu-x\right)$.
Для любой комплексной функции $\hat{f}$ на точечном множестве $\{M, M+1, M+2, \ldots\}$ с компактным носителем, таким образом, имеем
\[
\begin{array}{c}
\hat{f}(l)=\int_{0}^{1} d x \tilde{u}_{\mu^{\prime} \mu}^{x^{\prime}, t}(x) f(x), \quad l \in\{M, M+1, M+2, \ldots\}, \\
f(x)=\sum_{l=M}^{\infty}(2 l+x+1) \tilde{u}_{\mu^{\prime} \mu}^{\prime x, t}(x) \hat{f}(l), \quad x \in[0,1] \\
\int_{0}^{1} d x|f(x)|^{2}=\sum_{l=M}^{\infty}(2 l+x+1)|\hat{f}(l)|^{2} .
\end{array}
\]

Если интегрировать формулу (2.6.50) по полудугам положительно ориентированной гиперболы $\partial H\left(x_{0}\right), \quad x_{0} \in(0,1)$, лежащим соответственно в нижней и верхней полуплоскостях, то интеграл сходится только при $\operatorname{Re}\left[l^{\prime}+1 / 2(1+x)\right]>\mid \operatorname{Re}[l+$ $+1 / 2(1+x)]$ |. В этом случае левая часть в пределе $x_{0} \rightarrow+0$ сводится к интегралу
\[
2 i \sin \pi l^{\prime} \int_{\infty}^{0} d x u_{\mu^{\prime} \mu}^{\chi, l}(x) v_{\mu^{\prime} \mu}^{\chi, l^{\prime}}(x) .
\]

Правая часть (2.6.50) равна разности значений функции в фигурных скобках в граничных точках контура интегрирования и при $x_{0} \rightarrow+0$ приводится к виду
\[
i \sin \pi l^{\prime}(-1)^{\mu^{\prime}-\mu} N_{\mu^{\prime} \mu}^{\alpha, l} / N_{\mu^{\prime} \mu^{\prime}}^{\chi, l^{\prime}} \frac{1}{\left(l+l^{\prime}+x+1\right)\left(l^{\prime}-l\right)} .
\]
Окончательный результат,
\[
\begin{array}{c}
\int_{-\infty}^{0} d x u_{\mu^{\prime} \mu}^{\chi, l^{\prime}}(x) v_{\mu^{\prime} \mu}^{\chi, l^{\prime}}(x)=\frac{1}{2}(-1)^{\mu^{\prime}-\mu} N_{\mu^{\prime} \mu}^{\chi, l} / N_{\mu^{\prime} \mu}^{\chi, l^{\prime}} \frac{1}{\left(l^{\prime}+l+x+1\right)\left(l^{\prime}-l\right)}, \\
\operatorname{Re}\left(l^{\prime}+\frac{1+x}{2}\right)>\left|\operatorname{Re}\left(l+\frac{1+x}{2}\right)\right|,
\end{array}
\]

можно рассматривать как формулу, дуальную обобщенной формуле Мелера (2.6.32). Теперь пусть $\mu \geqslant 1$ и $l \in\{0,1, \ldots$ $\ldots, \mu-1\}$. Если значение $l^{\prime}$ стремится к целому числу $\geqslant l$ из множества $\{0,1, \ldots, \mu-1\}$, то из формул (2.6.60) и (2.6.45) немедленно следуют соотношения ортогональности
\[
\begin{array}{l}
\int_{-\infty}^{0} d x \hat{u}_{\mu^{\prime} \mu}^{\chi, l}(x) \hat{u}_{\mu^{\prime} \mu}^{x, \prime^{\prime}}(x)=\frac{\delta_{t l^{\prime}}}{2 l+x+1}, \quad l, l^{\prime} \in\{0,1, \ldots, N\}, \\
N \equiv M-\left|\mu^{\prime}-\mu\right|-1, \quad N \geqslant 0, \\
M \equiv \max \left(\mu^{\prime}, \mu,-\mu^{\prime}-x,-\mu-x\right) .
\end{array}
\]

Здесь ограничение $l^{\prime} \geqslant l$ может быть опущено, так как формула симметрична; ее справедливость при всех $\mu^{\prime}, \mu$, таких, что $N \geqslant 0$, следует из условий симметрии (2.6.4). Пусть функция $\hat{g}$ имеет вид $\hat{g}(l)=N_{\mu^{\prime}, \mu}^{\chi, l} G(l)$, где $\hat{G}(l)$ – целая функция, стремящаяся к нулю при $\operatorname{Im} l \rightarrow \pm \infty$ быстрее, чем любая степенна́я функция, и симметричная относительно подстановки $l \rightarrow-l-x-1$. Пусть также $l$ лежит на прямой $-1 / 2(1+x)+$ $+i \mathbf{R}=C_{3}$. Проинтегрируем соотношение (2.6.60), умноженное на функцию $\left(2 l^{\prime}+x+1\right) \hat{g}\left(l^{\prime}\right)$ по контуру $C_{3}+\varepsilon$ снизу вверх и по контуру $C_{3}-\varepsilon$ сверху вниз ( $0<\varepsilon<1 \frac{1}{2}$ ), причем во втором интеграле функцию $v_{\mu^{\prime} \mu}^{\text {x, } l^{\prime}}$ вследствие указанного ограничения на $\operatorname{Re} l^{\prime}$ следует заменить функцией $v_{\mu^{\prime} \mu}^{x^{\prime}-l^{\prime}-x-1}$. В правой части сумма вычетов дает
\[
i \pi(-1)^{\mu^{\prime}-\mu}[\hat{g}(l)+\hat{g}(-l-x-1)]=2 \pi i(-1)^{\mu^{\prime}-\mu} \hat{g}(l),
\]

а левая часть приводится к интегралу
\[
\begin{array}{l}
\int_{-\infty}^{0} d x u_{\mu^{\prime} \mu}^{x, l}(x) \int_{-(l+x) / 2-l \infty}^{-(l+\chi) / 2+l \infty} d l^{\prime}\left[\left(2 l^{\prime}+x+1+2 \varepsilon\right) v_{\mu^{\prime} \mu}^{\chi, l^{\prime}+\varepsilon}(x) \hat{g}\left(l^{\prime}+\varepsilon\right)-\right. \\
\left.-\left(2 l^{\prime}+x+1-2 \varepsilon\right) v_{\mu^{\prime} \mu}^{x,-l^{\prime}-x-1+\varepsilon}(x) \hat{g}\left(l^{\prime}-\varepsilon\right)\right] . \\
\end{array}
\]
Можно изменить порядок интегрирования благодаря заданному асимптотическому поведению наших функций. Так как правая часть не зависит от $\varepsilon$, то из непрерывности в пределе $\varepsilon \rightarrow 0$ с помощью формулы (2.6.43) получаются обобщенные условия ортогональности:
\[
\begin{array}{r}
\hat{g}(l)=\int_{-\infty}^{0} d x \hat{u}_{\mu^{\prime} \mu}^{x, l}(x) g(x), \quad l \in C_{3}=-\frac{1+x}{2}+i \mathbf{R}, \\
g(x) \equiv \frac{1}{2 \pi i} \int_{C_{3}} d l(2 l+x+1) \pi \operatorname{ctg} \pi l \hat{u}_{\mu^{\prime} \mu}^{x, l}(x) \hat{g}(l), \quad x \leqslant 0, \\
\int_{-\infty}^{0} d x|g(x)|^{2}=\frac{1}{2 \pi i} \int_{C} d l(2 l+x+1) \pi \operatorname{ctg} \pi l|\hat{g}(l)|^{2} .
\end{array}
\]

Наконец, из формул (2.6.60) и (2.6.45) при $N \geqslant 0$ следует также
\[
\int_{-\infty}^{0} d x \hat{a}_{\mu^{\prime} \mu}^{\alpha, l}(x) \hat{u}_{\mu^{\prime} \mu}^{\alpha, l^{\prime}}(x)=0, \quad l \in C_{3}, \quad l^{\prime} \in\{0,1, \ldots, N\} .
\]

Легко видеть, что формулы (2.6.61) – (2.6.64) можно объединить:
\[
\begin{array}{c}
\hat{g}(l)=\int_{-\infty}^{0} d x \hat{a}_{\mu^{\prime} \mu}^{x, l}(x) g(x), \quad l \in C_{3} \cup\{0,1, \ldots, N\}, \\
g(x) \equiv \frac{1}{2 \pi i} \int_{C_{3}} d l(2 l+x+1) \pi \operatorname{ctg} \pi l \hat{a}_{\mu^{\prime} \mu}^{x, l}(x) \hat{g}(l)+ \\
+\sum_{l=0}^{N}(2 l+x+1) \hat{a}_{\mu^{\prime} \mu}^{x, l}(x) \hat{g}(l)
\end{array}
\]
\[
\begin{aligned}
\int_{-\infty}^{0} d x|g(x)|^{2}=\frac{1}{2 \pi i} \int_{C_{3}} d l(2 l+x & +1) \pi \operatorname{ctg} \pi l|\hat{g}(l)|^{2}+ \\
& +\sum_{l=0}^{N}(2 l+x+1)|\hat{g}(l)|^{2} .
\end{aligned}
\]

Можно показать, что разложения (2.6.38) и (2.6.47), а также дуальные разложения (2.6.57) и (2.6.65), могут быть дополнены до унитарного отображения гильбертовых пространств $\mathscr{L}^{2}(0,1)$ и $\mathscr{\mathscr { L }}^{2}(-\infty, 0)$ соответственно на гильбертовы пространства $l_{\mu^{\prime} \mu}^{2, x}$

со скалярным произведением
\[
\left\langle\hat{f}^{\prime} \mid \hat{f}\right\rangle_{\mu^{\prime} \mu}^{\hat{\prime}} \equiv \sum_{l=M}^{\infty}(2 l+x+1) \hat{f}^{\prime}(l)^{*} \hat{f}(l)
\]

и $\mathscr{H}_{\mu^{\prime} \mu}^{\alpha}$ со скалярным произведением
\[
\begin{aligned}
\left\langle\hat{g}^{\prime} \mid \hat{g}\right\rangle_{\mu^{\prime} \mu}^{\hat{x}^{\prime}} \equiv \frac{1}{2 \pi i} \int_{C_{3}} d l(2 l+x & +1) \pi \operatorname{ctg} \pi l \hat{g}^{\prime}(l)^{*} \hat{g}(l)+ \\
& +\sum_{l=0}^{N}(2 l+x+1) \hat{g}^{\prime}(l)^{*} \hat{g}(l) .
\end{aligned}
\]

В первом случае наше утверждение следует из того факта, что системы функций и
\[
\left\{f_{l}: l=M, M+1, \ldots ; f_{l}(x)=\sqrt{2 l+x+1} \tilde{u}_{\mu \mu}^{\prime, l}(x)\right\}
\]
\[
\left\{\hat{f}_{t}: l=M, M+1, \ldots ; \hat{f}_{l}\left(l^{\prime}\right)=\frac{\delta_{t l^{\prime}}}{\sqrt{2 l+x+1}}\right\}
\]

удовлетворяют требованиям, при которых были выведены разложения (2.6.38) и (2.6.57) соответственно. Здесь $\hat{f}_{t}$ является образом $f_{l}$, и наоборот. Қак следует из теоремы Вейерштрасса, система функций $\left\{f_{l}\right\}$ образует полный ортонормированный базис в пространстве $\mathscr{L}^{2}(0,1)$, а система $\{\hat{f} t\}$ представляет такой базис в пространстве $l_{\mu^{\prime} \mu}^{2, x}$. Для второго случая мы не имеем простого аналитического доказательства. В дальнейшем пары формул $(2.6 .38),(2.6 .57)$ и $(2.6 .47),(2.6 .65)$ рассматриваются как унитарные преобразования и являются основой анализа Фурье в гильбертовых пространствах $\mathscr{L}^{2}(S U(2))$ и $\mathscr{L}^{2}(S U(1,1)$ ), квадратично интегрируемых функций на группах $S U(2)$ и $S U(1,1)$ соответственно.

Инвариантная мера Хаара на обеих группах в параметризации (2.6.11) и (2.6.13) равна
\[
\int d A \equiv \int \frac{d \alpha}{2 \pi} d z \frac{d \gamma}{4 \pi} .
\]

Здесь $z \in[0,1]$ при $A \in S U(2)$ и $z \in(-\infty, 0]$ при $A \in S U(1,1)$. Нормировка выбрана таким образом, что $\int_{S U(2)} d A=1$ для компактной группы $S U(2)$. Любой элемент $f \stackrel{S U}{\oplus} \mathscr{L}^{2}(G), G \in\{S U(2)$, $S U(1,1)\}$ можно записать в виде функции параметров $\alpha, z, \gamma$. Если периодически продолжить функцию $f$ по параметрам $\alpha$ и $\gamma$ :
\[
f(A)=f(\alpha, z, \gamma)=f(\alpha, z, \gamma+4 \pi)=f(\alpha+2 \pi, z, \gamma+2 \pi),
\]
то, разлагая в ряд Фурье по параметру $\gamma$, получим
\[
\begin{array}{c}
f(\alpha, z, \gamma)=\sum_{x=0,1} \sum_{\mu=-\infty}^{+\infty} f_{\mu+x / 2}(\alpha, z) e^{-i(\mu+\kappa / 2) \gamma}, \\
f_{\mu+\varkappa / 2}(\alpha, z)=\int_{0}^{4 \pi} \frac{d \gamma}{4 \pi} e^{i(\mu+x / 2)} \gamma f(\alpha, z, \gamma),
\end{array}
\]

где в силу условия периодичности (2.6.69)
\[
f_{\mu+x / 2}(\alpha+2 \pi, z)=(-1)^{x} f_{\mu+x / 2}(\alpha, z) .
\]

При этом для функции $f_{\mu+x / 2}$ можно записать ряд Фурье по параметру $\alpha$ :
\[
\begin{array}{l}
f_{\mu+\varkappa / 2}(\alpha, z)=\sum_{\mu^{\prime}=-\infty}^{+\infty} f_{\mu^{\prime} \mu}^{\chi}(z) e^{-i\left(\mu^{\prime}+x / 2\right) \alpha}, \\
f_{\mu^{\prime} \mu}^{\chi}(z)=\int_{0}^{2 \pi} \frac{d \alpha}{2 \pi} e^{t\left(\mu^{\prime}+x / 2\right) \alpha} f_{\mu+\varkappa / 2}(\alpha, z) .
\end{array}
\]

Наконец, если для функции $f_{\mu^{\prime} \mu}^{\text {( }}(z)$ использовать разложения (2.6.38) и (2.6.47), то мы получаем
\[
\begin{array}{l}
f(\alpha, x, \gamma)=\sum_{x=0,1} \sum_{\mu^{\prime},}^{+\infty} \sum_{l=-\infty}^{\infty}(2 l+x+1) \hat{f}_{\mu^{\prime} \mu}^{x, l} \times \\
\times e^{-i\left(\mu^{\prime}+x / 2\right)} \tilde{u}_{\mu^{\prime} \mu}^{\prime, l}(x) e^{-i(\mu+x / 2) \gamma}, \\
\hat{f}_{\mu^{\prime} \mu}^{x, l}=\int_{0}^{2 \pi} \frac{d \alpha}{2 \pi} \int_{0}^{1} d x \int_{0}^{4 \pi} \frac{d \gamma}{4 \pi} e^{l\left(\mu^{\prime}+x / 2\right)} \tilde{u}_{\mu^{\prime} \mu}^{\prime, l}(x) \times \\
X e^{i(\mu+x / 2)} \vee f(\alpha, x, \gamma), \\
0 \leqslant x \leqslant 1, \quad l \in\{M, M+1, \ldots\}, \\
M \equiv \max \left(\mu^{\prime}, \mu,-\mu^{\prime}-x,-\mu-x\right) \text {; } \\
f(\alpha, x, \gamma)=\sum_{x=0,1} \sum_{\mu^{\prime},}^{+\infty}\left\{\frac{1}{i \pi} \int_{-(1+x) / 2}^{-(1+x) / 2+i \infty} d l(2 l+x+1) \pi \operatorname{ctg} \pi l \hat{\hat{H}}_{\mu^{\prime} \mu}^{x, l} \times\right. \\
\times e^{-i\left(\mu^{\prime}+x / 2\right) \alpha} \hat{u}_{\mu^{\prime} \mu}^{x, l}(x) e^{-i(\mu+x / 2) \gamma}+ \\
\left.+\sum_{l=0}^{N}(2 l+x+1) \hat{f}_{\mu^{\prime} \mu}^{x_{1}, l} e^{-i\left(\mu^{\prime}+x / 2\right) \alpha} \hat{u}_{\mu^{\prime} \mu}^{x, l}(x) e^{-i(\mu+x / 2) \gamma}\right\}, \\
\end{array}
\]
\[
\begin{array}{c}
f_{\mu^{\prime} \mu}^{x, l}=\int_{0}^{2 \pi} \frac{d \alpha}{2 \pi} \int_{-\infty}^{0} d x \int_{0}^{4 \pi} \frac{d \gamma}{4 \pi} e^{i\left(\mu^{\prime}+x / 2\right) \alpha} a_{\mu^{\prime} \mu}^{x, l}(x) e^{i(\mu+x / 2) \gamma} f(\alpha, x, \gamma), \\
-\infty<x \leqslant 0, \quad l \in\{(1+x) / 2+i[0,+\infty)\} \cup\{0,1, \ldots, N\}, \\
N=M-\left|\mu^{\prime}-\mu\right|-1 .
\end{array}
\]

Здесь сумму по $l \leqslant N$ следует опустить при $N<0$. Заметим, что функции $\tilde{u}_{\mu^{\prime} \mu}^{, \lambda, l}$ и $\hat{u}_{\mu^{\prime} \mu}^{\chi, l}$ вещественны, так что, меняя пбрядок суммирования и используя формулы (2.2.4) и (2.3.15), выражение (2.6.73) можно переписать в следующем виде:
\[
\begin{array}{l}
f_{\mu^{\prime} \mu}^{\alpha, l, \eta}=\int_{S U(1,1)} d A U_{S U(1,1)}^{\alpha, l, \eta}(A)_{\mu^{\prime} \mu} f(A), \\
\end{array}
\]
\[
A \in S U(1,1), \quad l \in\{-(1+x) / 2+i[0,+\infty)\} \cup\{0,1, \ldots\}
\]

Используя условия ортогональности и полноты для рядов Фурье (2.6.70) и (2.6.72) и для разложений (2.6.38) и (2.6.47), можно записать формулы Планшереля для групп $S U(2)$ и
$S U(1,1):$

Эти формулы следует интерпретировать как условия унитарности для заданных формулами (2.6.74) преобразований между гильбертовыми пространствами $\mathscr{L}^{2}(G)$ и пространствами $\mathscr{L}^{2}(\widehat{G})$, скалярное произведение в которых задано правой частью формул (2.6.75). Подчеркнем в этой связи, что разложения (2.6.74) не обладают точечной сходимостью, а сходятся в среднем относительно ңорм, заданных в соответствующих гильбертовых пространствах. Однако в пространствах $\mathscr{L}^{2}(G)$ и $\mathscr{L}^{2}(\widehat{G})$ существуют плотные подпространства, сходимость в которых является точечной. Формулы (2.6.74) и (2.6.75) можно представить также в следующем виде:
\[
\begin{array}{l}
f(A)= \sum_{x=0,1} \sum_{l=0}^{\infty}(2 l+x+1) \operatorname{Sp}\left(\hat{f}^{x, l} U_{S U(2)}^{\chi, l}(A)^{\dagger}\right), \quad A \in S U(2), \\
\hat{f}^{x, l}=\int_{S U(2)} d A U_{S U(2)}^{\chi, l}(A) f(A), \quad l \in\{0,1, \ldots\}, \\
\int_{S U(2)} d A|f(A)|^{2}=\sum_{x=0,1} \sum_{l=0}^{\infty}(2 l+x+1) \operatorname{sp}\left(\hat{f}^{x, l^{\dagger}} \hat{f}^{\chi, l}\right) ; \\
f(A)= \sum_{x=0,1}\left\{\frac{1}{i \pi} \int_{-(1+x) / 2}^{-(1+x) / 2+i \infty} d l(2 l+x+1) \pi \operatorname{ctg} \pi l \times\right. \\
+\left.\sum_{l=0}^{\infty}(2 l+x+1) \sum_{\eta= \pm}^{x, l, 0} U_{S U(1,1)}^{x, l, 0}(A)^{\dagger}\right)+
\end{array}
\]
\[
\begin{array}{c}
\hat{f}^{x, l, \eta}=\int_{S U(1,1)} d A U_{S U(1,1)}^{x, l, \eta}(A) f(A), \\
l \in\left\{-\frac{1+x}{2}+i[0,+\infty)\right\} \cup\{0,1, \ldots\}, \\
\int_{S U(1, l !} d A|f(A)|^{2}= \\
=\sum_{x=0,1}\left\{\frac{1}{i \pi} \int_{-(1+x) / 2}^{-(1+x) / 2+i \infty} d l(2 l+x+1) \pi \operatorname{ctg} \pi l \operatorname{Sp}\left(\left[\hat{f}^{x, l, 0}\right]^{\dagger} \hat{f}^{x, l, 0}\right)+\right. \\
\left.+\sum_{l=0}^{\infty}(2 l+x+1) \sum_{\eta= \pm} \operatorname{Sp}\left(\left[\hat{f}^{x, l, \eta}\right]^{+} \hat{f}^{x, l, \eta}\right)\right\} .
\end{array}
\]

Наконец, абстрактная формулировка этих соотношений имеет вид
\[
\begin{array}{cc}
f(A)=\int_{\widehat{G}} d \hat{\mu}(\rho) \operatorname{Sp}\left(\hat{f}^{\rho} U_{a}^{\rho}(A)^{\dagger}\right), & A \in G, \\
\hat{f}^{\rho}=\int_{\widehat{G}} d A U_{G}^{\rho}(A) f(A), & \rho \in \widehat{G}, \\
\int_{G} d A|f(A)|^{2}=\int_{\widehat{G}} d \hat{\mu}(\rho) \operatorname{Sp}\left(\hat{f}^{\rho^{\dagger}} \hat{f}^{\rho}\right), &
\end{array}
\]

где $\hat{G}$-множество классов эквивалентности неприводимых унитарных представлений группы $G, \rho \in \widehat{G}$, а $\hat{\mu}$ – мера Планшереля на множестве $\widehat{G}$, конкретный вид которой задан формулами (2.6.76). Легко видеть, что пространство $\mathscr{L}^{2}(\widehat{G})$ имеет следующую структуру:
\[
\mathscr{L}^{2}(\widehat{G})=\oplus \int_{\widehat{G}} \sqrt{d \hat{\mu}(\rho)} \mathscr{L}^{2}\left(\mathscr{F}_{a}^{\rho}\right),
\]

где $\mathscr{L}^{2}\left(\mathfrak{y}_{F}^{\rho}\right)$ – гильбертово пространство всех операторов Гильберта-Шмидта в пространстве представления $\mathfrak{g}_{G}^{9}$, т. е. пространство всех ограниченных линейных операторов в пространстве $\mathfrak{5}_{a}^{\rho}$ с конечной нормой относительно скалярного произведения
\[
\left\langle\hat{f}^{\rho} \mid \hat{f}^{\rho}\right\rangle_{O}^{\rho} \equiv \mathrm{Sp}\left(\hat{f}^{\prime^{\dagger}} \hat{f}^{\rho}\right) ; \quad \hat{f}^{\rho}, \hat{f}^{\rho} \in \mathscr{L}^{2}\left(\mathfrak{F}_{O}^{\rho}\right) .
\]

Это допускает следующую интерпретацию обобщенного преобразования Фурье (2.6.77). Каждой функции $f \in \mathscr{L}^{2}(G)$ соответствует операторное поле $\hat{f}: \hat{G} \rightarrow \mathscr{L}^{2}(\hat{G})$, где почти для всех $\rho$ (по мере $\hat{\mu}$ ) $\hat{f}^{\rho}$ – оператор Гильберта – Шмидта в пространстве $\mathscr{F}_{G}^{\varrho}$, и интеграл
\[
\int_{\widehat{\sigma}} d \hat{\mu}(\rho) \mathrm{Sp}\left(\hat{f}^{\dagger} \hat{f}^{\rho}\right)
\]

сходится. И наоборот: каждому такому полю операторов соответствует элемент пространства $\mathscr{L}^{2}(G)$. Это взаимное отображение пространств $\mathscr{L}^{2}(G)$ и $\mathscr{L}^{2}(\widehat{G})$ унитарно.

В заключение отметим одну особенность, отличающую анализ Фурье на компактных топологических группах от анализа Фурье на некомпактных группах. В то время как для анализа Фурье квадратично интегрируемых функций на компактных группах необходимы, вообще говоря, все классы эквивалентности неприводимых унитарных представлений, для некомпактных групп это не так. В частности, для группы $S U(1,1)$ Баргман [13] указал, что представления дополнительной серии не необходимы для разложения элементов пространства $\mathscr{L}^{2}(S U(1,1))$. Это, однако, вовсе не исключает ту важную роль, которую играют такие представления для функционального анализа в более общих пространствах функций на группе $S U(1,1)$, например в пространствах $\mathscr{L}^{p}(S U(1,1)), 1 \leqslant p \leqslant \infty$ (ср. с работой Кунце и Штейна [28]), а также в связи с некоторыми физическими проблемами (Хаджеоанну [4]). Тем не менее в гл. 3 мы будем пользоваться только анализом Фурье в пространствах $\mathscr{L}^{2}(G)$.

Приведем также основные результаты, относящиеся к обобщенному анализу Фурье в пространстве $\mathscr{L}^{2}(E(2))$ квадратично интегрируемых функций на группе $E(2)$. Определение меры Хаaра на группе $E(2)$ имеет вид
\[
\int d A=\int \frac{d \arg z}{2 \pi}|z| d|z| \frac{d \varphi}{4 \pi}, \quad A=\left(\begin{array}{cc}
e^{i \varphi / 2} & z e^{-i \varphi / 2} \\
0 & e^{-i \varphi / 2}
\end{array}\right) .
\]

Выполняется следующее обобщенное разложение Фурье:
\[
\begin{array}{ll}
f(A)=\sum_{x=0,1} \int_{0}^{\infty} d \rho \rho \mathrm{Sp}\left(\hat{f}^{0, x} U_{E(2)}^{0, x}(A)^{\dagger}\right), & A \\
\hat{f}^{\rho, x}=\int_{E(2)} d A U_{E(2)}^{\rho, x}(A) f(A), & \rho \in \\
\int_{E(2)} d A|f(A)|^{2}=\sum_{x=0,10} \int_{0}^{\infty} d \rho \rho \mathrm{Sp}\left(\hat{f}^{\rho, x^{\dagger}} \hat{f}^{\rho, x}\right) .
\end{array}
\]

Сюда существенно входит преобразование Ханкеля для функций из пространства $\mathscr{L}^{2}(0, \infty)$ (см. книгу Титчмарша [29]):
\[
\begin{aligned}
f(|z|) & =\int_{0}^{\infty} d \rho \rho \hat{f}(\rho) J_{\mu^{\prime}-\mu}(\rho|z|), \\
\hat{f}(\rho) & =\int_{0}^{\infty} d|z \| z| J_{\mu^{\prime}-\mu}(\rho|z|) f(|z|) .
\end{aligned}
\]