Параметризация (2.6.11) групп $S U(2)$ и $S U(1,1)$ с помощью углов Эйлера, параметризация (1.41) группы $E(2)$ и разложение Ивасава (2.5.57) для группы $S U(1,1)$ позволяют выбрать в качестве представителей классов смежности этих групп относительно их подгруппы $H_{1}$ [а также подгруппы $H_{2}$ для группы $S U(1,1)$ ] следующие элементы:
\[
\begin{array}{l}
A(i \beta, \varphi): S U(2) / H_{1}=\left\{A(i \beta, \varphi) H_{1}: 0 \leqslant \varphi<2 \pi, 0 \leqslant \beta \leqslant \pi\right\}, \\
A(\xi, \varphi): S U(1,1) / H_{1}=\left\{A(\xi, \varphi) H_{1}: 0 \leqslant \varphi<2 \pi, 0 \leqslant \xi<\infty\right\}, \\
A^{\prime}(x, \varphi): S U(1,1) / H_{2}= \\
\quad=\left\{A^{\prime}(x, \varphi) H_{2}: 0 \leqslant \varphi<2 \pi,-\infty<x<\infty\right\}, \\
A(z): E(2) / H_{1}=\left\{A(z) H_{1}: z \in \mathbf{C}\right\} ; \\
A(\zeta, \varphi) \equiv\left(\begin{array}{cc}
\operatorname{ch} \zeta / 2 & e^{i \varphi} \operatorname{sh} \zeta / 2 \\
e^{-i \varphi} \operatorname{sh} \zeta / 2 & \operatorname{ch} \zeta / 2
\end{array}\right), \\
A^{\prime}(x, \varphi) \equiv\left(\begin{array}{ll}
e^{i \varphi / 2}(1-i x / 2) & -e^{i \varphi / 2} i x / 2 \\
e^{-i \varphi / 2} i x / 2 & e^{-i \varphi / 2}(1+i x / 2)
\end{array}\right), \\
A(z) \equiv\left(\begin{array}{cc}
1 & z \\
0 & 1
\end{array}\right) .
\end{array}
\]

Поэтому любой элемент $A \in G, G \in\{S U(2), S U(1,1), E(2)\}$ имеет однозначное разложение вида $A=R(q) Q$, где $Q \in H$, $H \in\left\{H_{1} H_{2}\right\}, R(q)$ – представитель класса смежности из множества $G / H$, имеющий вид, указанный в формуле (2.7.1). Здесь $q$ – параметр, характеризующий классы сопряженных элементов. Конкретный вид параметра $q$ будет дан в формуле (3.1.18). Меры Хаара на группах $S U(2)$ и $S U(1,1)$, заданные формуйол (2.6.68), и на группе $E$ (2) [формула (2.6.80)] в параметризации
(2.7.1) имеют вид
\[
\begin{array}{l}
\int d A=\int d R(q) \int d Q= \\
=\left\{\begin{array}{lll}
\int \frac{d \varphi}{2 \pi} d\left(-\frac{\operatorname{sh}^{2} \xi}{2}\right) \int \frac{d \alpha}{4 \pi} & \text { при } & A=A(\xi, \varphi) C(\alpha), \\
\int \frac{d \varphi}{2 \pi} \frac{d x}{2} \frac{1}{2} \sum_{\varepsilon} \int \frac{d \xi}{2 \pi} & \text { при } & A=A^{\prime}(x, \varphi) D(\varepsilon, \xi), \\
\int \frac{d \arg z}{2}|z| d|z| \int \frac{d \alpha}{4 \pi} & \text { при } & A=A(z) C(\alpha) .
\end{array}\right.
\end{array}
\]

Таким образом определяется разбиение меры Хаара на группе $G$ на произведение квазиинвариантной (здесь даже инвариантной) меры на множестве $G / H$ и меры Хаара на группе $H$. Выведем разложение Фурье, описанное в разд. 2.6, в том виде, который понадобится в гл. 3. В случае компактной подгруппы $H \fallingdotseq H_{1}$ отсюда получается полный ортонормированный базис в пространстве $\mathscr{L}^{2}\left(G / H_{1}\right)$.

Пусть $\sigma$-параметр, пробегающий множество $\widehat{H}$ всех ‘классов эквивалентности неприводимых унитарных представлений группы $H ; \hat{v}$ – мера Планшереля на множестве $\hat{H}$, определенная формулами (2.1.4) и (2.1.9). Пусть также $\tau$-индекс базиса в гильбертовом пространстве $\mathfrak{F}_{G}^{\rho, \sigma}$, входящем в пространство $\ddot{A}_{\alpha} \mathfrak{\gamma}_{Q}^{\rho}$, на котором действует представление $\ddot{A} U_{G}^{\rho} \mid \ddot{A}^{-1}$, умножаемое на неприводимое унитарное представление $\chi^{\sigma}$ группы $H$; $\widehat{H}_{\rho}$ – множество параметров $\sigma \in H$, для которых представление $\chi^{\sigma}$ присутствует в редукции сужения $U_{Q}^{\rho} \mid H$. Используя обобщенные матричные элементы $U_{G}^{0}(A)_{\tau^{\prime} \sigma^{\prime}, \tau \sigma}$ в базисе, связанном с подгруппой $H$, запишем формулы разложения (2.6.77) для элементов пространства $\mathscr{L}^{2}(G)$ в виде
\[
\begin{array}{c}
f(A)=\int_{\widehat{\sigma}} d \hat{\mu}(\rho) \sum_{\tau^{\prime}, \tau} \int_{\hat{H}_{\rho} \times \hat{H}_{\rho}} d \hat{v}\left(\sigma^{\prime}\right) d \hat{v}(\sigma) \hat{f}_{\tau^{\prime} \sigma^{\prime}, \tau \sigma}^{\rho} U_{G}^{\rho}(A)_{\tau^{\prime} \sigma^{\prime}, \tau \sigma^{\prime}}^{*} \\
\hat{f}_{\tau^{\prime} \sigma^{\prime}, \tau \sigma}^{\rho}=\int_{G} d A U_{G}^{\rho}(A)_{\tau^{\prime} \sigma^{\prime}, \tau \sigma} f(A) .
\end{array}
\]

Здесь мы учли тот факт, что для меры $\tilde{v}_{\rho}$ на множестве $\hat{H}$, которая определена разбиением сужения $U_{a}^{\rho} \mid H$, упомянутым во введении к этой главе, всегда справедливо равенство
\[
\int_{\widehat{H}} d \tilde{v}_{\rho}(\sigma)=\int_{\widehat{H}_{\rho}} d \hat{v}(\sigma) .
\]
Это следует из разд. $2.2-2.5$. Так как $f \in \mathscr{L}^{2}(G)$, то функция на подгруппе $H$, определяемая тождеством $f(A)=f(R(q) Q)$, почти для всех $R(q)$ лежит в пространстве $\mathscr{L}^{2}(H)$. Поэтому почти для всех $R(q)$ из анализа Фурье в пространстве $\mathscr{L}^{2}(H)$, заданного формулами (2.1.3), (2.1.4), (2.1.8) и (2.1.9), следует разложение
\[
\begin{array}{c}
f(R(q) Q)=\int_{\widehat{H}} d \hat{v}(\sigma) f_{\sigma}(R(q)) \chi^{\sigma}(Q)^{*}, \\
f_{\sigma}(R(q))=\int_{H} d Q \chi^{\sigma}(Q) f(R(q) Q), \\
\int_{H} d Q \mid f\left(\left.R(q) Q\right|^{2}=\int_{\widehat{H}} d \hat{v}(\sigma)\left|f_{\sigma}(R(q))\right|^{2} .\right.
\end{array}
\]

С помощью этих формул и соотношения
\[
U_{G}^{\rho}(R(q) Q)_{\tau^{\prime} \sigma^{\prime}, \tau \sigma}=U_{G}^{\rho}(R(q))_{\tau^{\prime} \sigma^{\prime}, \tau \sigma} \chi^{\sigma}(Q),
\]

которое выполняется для обобщенных матричных элементов, мы получаем из формулы (2.7.3) разложение
\[
\begin{aligned}
f_{\sigma}(R(q)) & =\int_{\widehat{\sigma}_{\sigma}} d \hat{\mu}(\rho) \int_{\widehat{H}_{\rho}} d \hat{v}\left(\sigma^{\prime}\right) \sum_{\tau^{\prime}, \tau} \hat{f}_{\tau^{\prime} \sigma^{\prime}, \tau \sigma}^{\rho} U_{G}^{\rho}(R(q))_{\tau^{\prime} \sigma^{\prime}, \tau \sigma}^{*}, \\
\hat{f}_{\tau^{\prime} \sigma^{\prime}, \tau \sigma}^{\rho} & =\int_{G / H} d R(q) U_{G}^{\rho}(R(q))_{\tau^{\prime} \sigma^{\prime}, \tau \sigma} f_{\sigma}(R(q)) .
\end{aligned}
\]

Здесь $\widehat{G}_{\sigma}$ – множество всех параметров $\rho \in \hat{G}$, для которых сужение $U_{G}^{0} \mid H$ содержит представление $\chi^{\sigma}$. Условие унитарности (2.6.77), записанное аналогично формуле (2.7.3), принимает вид
\[
\int_{G} d A|f(A)|^{2}=\int_{\widehat{\sigma}} d \hat{\mu}(\rho) \int_{\widehat{H}_{\rho}} d \hat{v}\left(\sigma^{\prime}\right) \int_{\widehat{H}_{\Omega}} d \hat{v}(\sigma) \sum_{\tau^{\prime}, \tau}\left|\hat{f}_{\tau^{\prime} \sigma^{\prime}, \tau \sigma}^{\rho}\right|^{2} .
\]

Используя (2.7.5), получаем
\[
\begin{aligned}
\int_{\hat{H}} d \hat{v}(\sigma) \int_{\sigma / H} d R(q)\left|f_{\sigma}(R(q))\right|^{2}=\sigma \\
\quad=\int_{\hat{H}} d \hat{v}(\sigma) \int_{\widehat{\sigma}_{\sigma}} d \hat{\mu}(\rho) \int_{\widehat{H}_{0}} d \hat{v}\left(\sigma^{\prime}\right) \sum_{\tau^{\prime}, \tau}\left|\hat{\tilde{f}}_{\tau^{\prime} \sigma^{\prime}, \tau \sigma}\right|^{2} .
\end{aligned}
\]
Таким образом, разложение Фурье (2.7.7) можно рассматривать как унитарное отображение, связывающее гильбертовы пространства
\[
\mathscr{L}^{2}(\hat{H}) \oplus \mathscr{L}^{2}(G / H)=\oplus \int_{\widehat{H}} \sqrt{d \hat{v}(\sigma)} \mathscr{L}^{2}\left(\frac{G}{H}\right) \quad \text { и } \quad \mathscr{L}^{2}(\widehat{G})
\]

со структурой
\[
\begin{aligned}
\mathscr{L}^{2}(\widehat{G}) & =\oplus \int_{\hat{H}} \sqrt{d \hat{v}(\sigma)} \mathscr{L}^{2}(\widehat{G})^{\sigma} \\
\mathscr{L}^{2}(G)^{\sigma} & \equiv \oplus \int_{\widehat{\sigma}_{\sigma}} \sqrt{d \hat{\mu}(\rho)}\left[\oplus \int_{\hat{H}_{\rho}} \sqrt{d \hat{v}\left(\sigma^{\prime}\right)}\left(\oplus \sum_{\tau^{\prime}, \tau} \mathbf{C}\right)\right] .
\end{aligned}
\]

В случае компактной подгруппы $H=H_{1}$ из формул (2:7.7) можно получить некоторые дополнительные результаты. Здесь $\widehat{H}=\hat{H}_{1}$ – дискретное множество всех пар чисел $\sigma=(x, \mu)$, $x \in\{0,1\}, \mu \in\{0, \pm 1, \pm 2, \ldots\}$, а $\int d \hat{v}(\sigma)$ – сумма по $x$ и $\mu$; индексы $\tau^{\prime}, \tau$ отсутствуют. С помощью анализа Фурье на группе $H_{l}$ пространство $\mathscr{L}^{2}(G)$ разлагается в прямую сумму:
\[
\begin{array}{c}
\mathscr{L}^{2}(G)=\bigoplus \sum_{x=0,1} \oplus \sum_{\mu=-\infty}^{+\infty} \mathscr{L}^{2}(G)^{\chi, \mu}, \\
\mathscr{L}^{2}(G)^{x, \mu} \equiv\left\{f \in \mathscr{L}^{2}(G): f(R(q) Q)=f(R(q)) \chi^{\chi, \mu}(Q)^{*}, Q \in H\right\} .
\end{array}
\]

Выберем функцию $f \in \mathscr{L}^{2}(G)^{x, \mu}$. Тогда в силу формул (2.7.5)
\[
f_{\mathcal{\varkappa}^{\prime}, \mu^{\prime}}(R(q))=\delta_{\varkappa^{\prime} \mathcal{x}^{\prime}{ }^{\prime} \mu} f(R(q)),
\]

а в силу формул (2.7.7)
\[
\hat{f}_{\mathcal{X}^{\prime \prime} \mu^{\prime \prime}, \mathcal{X}^{\prime} \mu^{\prime}}^{\rho}=\delta_{\mathcal{X}^{\prime} \mathcal{x}^{\prime} \mu} \delta_{G / H} d R(q) U_{G}^{\rho}(R(q))_{\mathcal{X}^{\prime \prime} \mu^{\prime \prime}, \varkappa \mu} f(R(q)) .
\]

Если представить разложение (2.7.10) пространства $\mathscr{L}^{2}(\widehat{G})$ в виде
\[
\begin{aligned}
\mathscr{L}^{2}(\widehat{G}) & =\oplus \sum_{x=0,1} \oplus \sum_{\mu=-\infty}^{+\infty} \mathscr{L}^{2}(\widehat{G})^{x, \mu}, \\
\mathscr{L}^{2}(\widehat{G})^{x, \mu} & \equiv \bigoplus \int_{\widehat{a}_{x, \mu}} \sqrt{d \hat{\mu}(\rho)} \oplus \sum_{\left(x, \mu^{\prime}\right) \in \widehat{H}_{1, \rho}} \mathbf{C},
\end{aligned}
\]

то легко убедиться, что при унитарном преобразовании (2.7.7), связывающем пространства $\mathscr{L}^{2}(G)$ и $\mathscr{L}^{2}(\widehat{G})$, подпространства $\mathscr{L}^{2}(G)^{\boldsymbol{x}, \mu}$ и $\mathscr{L}^{2}(\widehat{G})^{\boldsymbol{x}, \mu}$ унитарно отображаются друг в друга. Так как при любых $(\chi, \mu)$ пространство $\mathscr{L}^{2}(G)^{\chi, \mu}$, естественно, изоморфно пространству $\mathscr{L}^{2}\left(G / H_{1}\right)$, то вместо формул (2.7.7) и (2.7.9) можно написать
\[
\begin{array}{c}
f(q)=\int_{\widehat{G}_{\alpha, \mu}} d \hat{\mu}(\rho) \sum_{\left(\chi, \mu^{\prime}\right) \in \widehat{H}_{1, \rho}} \hat{f}_{\mu^{\prime} \mu}^{\rho} U_{G}^{\rho}(R(q))_{\mu^{\prime} \mu^{\prime}}^{*} \\
\hat{f}_{\mu \mu^{\prime}}^{o}=\int_{a / H} d R(q) U_{G}^{\rho}(R(q))_{\mu^{\prime} \mu} f(q), \\
\int_{G / H} d R(q)|f(q)|^{2}=\int_{\widehat{G}_{\chi, \mu}} d \hat{\mu}(\rho) \sum_{\left(\chi, \mu^{\prime}\right) \in \hat{H}_{1, \rho}}\left|\hat{f}_{\mu^{\prime} \mu}^{\rho}\right|^{2} .
\end{array}
\]

Здесь элементы $\hat{f}_{\mu^{\prime} \mu}^{\rho}$ и $U_{Q}^{\rho}(R(q))_{\mu^{\prime} \mu}$ определены следующим образом:

Очевидно, что функции $U_{G}^{0}(A)_{\mu, \mu}$ – матричные элементы в базисе, связанном с подгруппой $H_{1}$, которые были вычислены в разд. 2.2-2.4. Каждой паре чисел $(x, \mu)$ соответствует полный ортонормированный базис в пространстве $\mathscr{L}^{2}\left(G / H_{1}\right)$ :
\[
\left\{\mu Y_{\mu^{\prime}}^{\rho}: \rho \in \widehat{G}_{\chi, \mu},\left(\chi, \mu^{\prime}\right)^{\prime} \in \hat{H}_{1, \rho},{ }_{\mu} Y_{\mu^{\prime}}^{\rho}(q)=U_{G}^{\rho}(R(q))_{\mu^{\prime} \mu}\right\} .
\]

Множества $\hat{G}_{\chi, \mu}$ и $\hat{H}_{1, \rho}$ в различных случаях имеют вид
\[
\begin{array}{c}
\underline{G=S U(2):} \\
\widehat{G}_{x, \mu}=\left\{\left(x^{\prime}, l\right): x^{\prime}=x, l \geqslant|\mu+x / 2|-x / 2\right\}, \\
\widehat{H}_{1,(x, l)}=\left\{\left(x^{\prime}, \mu^{\prime}\right): x^{\prime}=x,-l-x \leqslant \mu^{\prime} \leqslant l\right\} ; \quad(2.7 .18) \\
\underline{G=S U(1,1):} \\
\hat{G}_{x, \mu}=\left\{\left(x^{\prime}, l, 0\right): x^{\prime}=x, l=-(1+x) / 2+i \xi, \xi \geqslant 0\right\} U \\
U\left\{\left(x^{\prime}, l, \eta\right): x^{\prime}=x, 0 \leqslant l \leqslant \mu+x / 2 \mid-x / 2-1, \eta=\operatorname{sign}(\mu+x / 2)\right\}, \\
\hat{H}_{1,(x, l, 0)}=\left\{\left(x^{\prime}, \mu^{\prime}\right): x^{\prime}=x,-\infty<\mu^{\prime}<\infty\right\}, \\
\hat{H}_{1,(x, l, \pm)}=\left\{\left(x^{\prime}, \mu^{\prime}\right): x^{\prime}=x, \operatorname{sign}\left(\mu^{\prime}+x / 2\right)= \pm,\right. \\
\left.\underline{G=E(2)}: \quad \mu^{\prime}+x / 2 \mid-x / 2 \geqslant l+1\right\} ; \\
\hat{G}_{x, \mu}=\left\{\left(\rho, x^{\prime}\right): x^{\prime}=x, \rho>0\right\}, \\
\hat{H}_{1,(\rho, x)}=\left\{\left(x^{\prime}, \mu^{\prime}\right): x^{\prime}=x,-\infty<\mu^{\prime}<\infty\right\} .
\end{array}
\]
Так как пространство $S U(2) / H_{1}$, согласно формуле (2.7.1), гомеоморфно двумерной сфере, то формула (2.7.17) определяет обобщенную систему сферических гармоник при любых значениях $x$ и $\mu$. В частности, при $x=\mu=0$ мы имеем функции, с точностью до нормировочного множителя совпадающие с обыкновенными сферическими гармониками $\left\{e^{i \mu^{\prime} \varphi} P_{l}^{\mu^{\prime}}(\cos \beta): 0 \leqslant l\right.$, $\left.-l \leqslant \mu^{\prime} \leqslant l\right\}$. Согласно формулам $(2.7 .1)$, пространство $S U(1,1) / H_{1}$ гомеоморфно одной из полостей двуполостного гиперболоида в пространстве $\mathbf{R}^{3}$. Соответствующие функции в формуле (2.7.17) ${ }_{\mu} Y_{\mu^{\prime}}^{\chi, l, \eta}$ можно в этом случае интерпретировать как интегральные ядра преобразования Фурье на этой поверхности. Из математической литературы нам известен случай $\chi=\mu=0$, который приводит к коническим функциям Мелера $\left\{e^{i \mu^{\prime} \varphi} P_{-1 / 2+i p}^{\mu^{\prime}}\right.$ (ch $\xi$ ): $: p \geqslant 0,-\infty<\mu^{\prime}<\infty$. Что касается пространства $E(2) / H_{1}$, то здесь мы приходим к системе функций
\[
\left\{_{\mu} Y_{\mu^{\prime}}^{\rho, x}(z)=e^{i\left(\mu^{\prime}-\mu\right) \arg z} J_{\mu^{\prime}-\mu}(\rho|z|): \rho>0,-\infty<\mu^{\prime}<\infty\right\},
\]

где функции Бесселя $J_{\mu^{\prime}-\mu}$ появляются при разложении Фурье на эвклидовой плоскости в полярных координатах.

В случае некомпактной подгруппы $H=H_{2}$ мы имеем множество
\[
\hat{H}=\{(x, \lambda): x=0,1 ;-\infty<\lambda<\infty\} \text { и } \int d \hat{v}(\sigma)=\sum_{x} \int d \lambda ;
\]

индексы $\tau^{\prime}, \tau$ принимают значения $\pm$. Здесь нельзя сформулировать анализ Фурье, аналогичный разложению в пространстве $\mathscr{L}^{2}\left(G / H_{1}\right)$. Унитарное преобразование $(2.7 .7)$, связывающее пространства
\[
\bigoplus_{\widehat{H}} \int \sqrt{d \hat{v}(\sigma)} \mathscr{L}^{2}(G / H) \quad \text { и } \quad \bigoplus_{\hat{H}} \int \sqrt{d \hat{v}(\sigma)} \mathscr{L}^{2}(\widehat{G})^{\sigma},
\]

осуществляется обобщенными интегральными ядрами $\left\{_{\lambda} Y_{\lambda^{\prime} \tau^{\prime} \tau}^{0}: \rho \in \widehat{G}_{\varkappa, \lambda},\left(\chi, \lambda^{\prime}\right) \in \hat{H}_{2, \rho} ; \tau^{\prime}, \tau= \pm\right.$,
\[
\left.\lambda Y_{\lambda^{\prime} \tau^{\prime} \tau}^{\rho}(q)=U_{S U(1,1)}^{\rho}(R(q))_{\tau^{\prime} \lambda^{\prime}, \tau \lambda}\right\}
\]

Здесь мы имеем
\[
\begin{array}{l}
\widehat{G}_{x, \lambda}=\left\{\left(x^{\prime}, l, 0\right): x^{\prime}=x, l=-(1+x) / 2+i \xi, \xi \geqslant 0\right\} \cup \\
\cup\left\{\left(x^{\prime}, l,+\right): x^{\prime}=x, l=0,1, \ldots\right\} \cup\left\{\left(x^{\prime}, l,-\right): x^{\prime}=x, l=0,1, \ldots\right\}, \\
\widehat{H}_{2,(x, l, \eta)}=\left\{\left(x^{\prime}, \lambda^{\prime}\right): x^{\prime}=x,-\infty<\lambda^{\prime}<\infty\right\} .
\end{array}
\]

Напомним, что, согласно формуле (2.5.74), для дискретной серии функция $\lambda Y_{\lambda^{\prime}, \tau^{\prime}, \tau}^{\chi, l, \eta}$ отлична от нуля только при $\tau^{\prime}=\tau=\eta$.