Параметризация (2.6.11) групп $SU(2)$ и $SU(1,1)$ с помощью углов Эйлера, параметризация (1.41) группы $E(2)$ и разложение Ивасава (2.5.57) для группы $SU(1,1)$ позволяют выбрать в качестве представителей классов смежности этих групп относительно их подгруппы $H_1$ [а также подгруппы $H_2$ для группы $SU(1,1)$ ] следующие элементы:

Поэтому любой элемент $A\in G,G\in \{SU(2),SU(1,1),E(2)\}$ имеет однозначное разложение вида $A=R(q)Q$, где $Q\in H$, $H\in \left\{H_1{H}_2\right\},R(q)$ — представитель класса смежности из множества $G/H$, имеющий вид, указанный в формуле (2.7.1). Здесь $q$ — параметр, характеризующий классы сопряженных элементов. Конкретный вид параметра $q$ будет дан в формуле (3.1.18). Меры Хаара на группах $SU(2)$ и $SU(1,1)$, заданные формуйол (2.6.68), и на группе $E$ (2) [формула (2.6.80)] в параметризации
(2.7.1) имеют вид
$$\begin{array}{l}\int dA=\int dR(q)\int dQ=\\ =\{\begin{array}{lll}\int \frac{d\phi }{2\pi }d(-\frac{{\mathrm{sh}}^2\xi }{2})\int \frac{d\alpha }{4\pi }& \text{ при }& A=A(\xi ,\phi )C(\alpha ),\\ \int \frac{d\phi }{2\pi }\frac{dx}{2}\frac{1}{2}\sum _{\epsilon }\int \frac{d\xi }{2\pi }& \text{ при }& A=A^{\prime }(x,\phi )D(\epsilon ,\xi ),\\ \int \frac{d\arg z}{2}|z|d|z|\int \frac{d\alpha }{4\pi }& \text{ при }& A=A(z)C(\alpha ).\end{array}\end{array}$$

Таким образом определяется разбиение меры Хаара на группе $G$ на произведение квазиинвариантной (здесь даже инвариантной) меры на множестве $G/H$ и меры Хаара на группе $H$. Выведем разложение Фурье, описанное в разд. 2.6, в том виде, который понадобится в гл. 3. В случае компактной подгруппы $H\fallingdotseq H_1$ отсюда получается полный ортонормированный базис в пространстве ${\mathcal{L}}^2\left(G/H_1\right)$.

Пусть $\sigma$-параметр, пробегающий множество $\hat{H}$ всех ‘классов эквивалентности неприводимых унитарных представлений группы $H;\hat{v}$ — мера Планшереля на множестве $\hat{H}$, определенная формулами (2.1.4) и (2.1.9). Пусть также $\tau$-индекс базиса в гильбертовом пространстве ${\mathfrak{F}}_G^{\rho ,\sigma }$, входящем в пространство ${\ddot{A}}_{\alpha }{\gamma }_Q^{\rho }$, на котором действует представление $\ddot{A}{U}_G^{\rho }\mid {\ddot{A}}^{-1}$, умножаемое на неприводимое унитарное представление ${\chi }^{\sigma }$ группы $H$; ${\hat{H}}_{\rho }$ — множество параметров $\sigma \in H$, для которых представление ${\chi }^{\sigma }$ присутствует в редукции сужения $U_Q^{\rho }\mid H$. Используя обобщенные матричные элементы $U_G^0(A{)}_{{\tau }^{\prime }{\sigma }^{\prime },\tau \sigma }$ в базисе, связанном с подгруппой $H$, запишем формулы разложения (2.6.77) для элементов пространства ${\mathcal{L}}^2(G)$ в виде
$$\begin{array}{c}f(A)={\int }_{\hat{\sigma }}d\hat{\mu }(\rho )\sum _{{\tau }^{\prime },\tau }{\int }_{{\hat{H}}_{\rho }\times {\hat{H}}_{\rho }}d\hat{v}\left({\sigma }^{\prime }\right)d\hat{v}(\sigma ){\hat{f}}_{{\tau }^{\prime }{\sigma }^{\prime },\tau \sigma }^{\rho }{U}_G^{\rho }(A{)}_{{\tau }^{\prime }{\sigma }^{\prime },\tau {\sigma }^{\prime }}^{\ast }\\ {\hat{f}}_{{\tau }^{\prime }{\sigma }^{\prime },\tau \sigma }^{\rho }={\int }_{G}dA{U}_G^{\rho }(A{)}_{{\tau }^{\prime }{\sigma }^{\prime },\tau \sigma }f(A).\end{array}$$

Здесь мы учли тот факт, что для меры ${\tilde{v}}_{\rho }$ на множестве $\hat{H}$, которая определена разбиением сужения $U_a^{\rho }\mid H$, упомянутым во введении к этой главе, всегда справедливо равенство
$${\int }_{\hat{H}}d{\tilde{v}}_{\rho }(\sigma )={\int }_{{\hat{H}}_{\rho }}d\hat{v}(\sigma ).$$
Это следует из разд. $2.2-2.5$. Так как $f\in {\mathcal{L}}^2(G)$, то функция на подгруппе $H$, определяемая тождеством $f(A)=f(R(q)Q)$, почти для всех $R(q)$ лежит в пространстве ${\mathcal{L}}^2(H)$. Поэтому почти для всех $R(q)$ из анализа Фурье в пространстве ${\mathcal{L}}^2(H)$, заданного формулами (2.1.3), (2.1.4), (2.1.8) и (2.1.9), следует разложение
$$\begin{array}{c}f(R(q)Q)={\int }_{\hat{H}}d\hat{v}(\sigma )f_{\sigma }(R(q)){\chi }^{\sigma }(Q{)}^{\ast },\\ f_{\sigma }(R(q))={\int }_{H}dQ{\chi }^{\sigma }(Q)f(R(q)Q),\\ {\int }_{H}dQ\mid f({R(q)Q|}^2={\int }_{\hat{H}}d\hat{v}(\sigma ){|f_{\sigma }(R(q))|}^2.\end{array}$$

С помощью этих формул и соотношения
$$U_G^{\rho }(R(q)Q{)}_{{\tau }^{\prime }{\sigma }^{\prime },\tau \sigma }=U_G^{\rho }(R(q){)}_{{\tau }^{\prime }{\sigma }^{\prime },\tau \sigma }{\chi }^{\sigma }(Q),$$

которое выполняется для обобщенных матричных элементов, мы получаем из формулы (2.7.3) разложение
$$\begin{array}{rl}{f}_{\sigma }(R(q))& ={\int }_{{\hat{\sigma }}_{\sigma }}d\hat{\mu }(\rho ){\int }_{{\hat{H}}_{\rho }}d\hat{v}\left({\sigma }^{\prime }\right)\sum _{{\tau }^{\prime },\tau }{\hat{f}}_{{\tau }^{\prime }{\sigma }^{\prime },\tau \sigma }^{\rho }{U}_G^{\rho }(R(q){)}_{{\tau }^{\prime }{\sigma }^{\prime },\tau \sigma }^{\ast },\\ {\hat{f}}_{{\tau }^{\prime }{\sigma }^{\prime },\tau \sigma }^{\rho }& ={\int }_{G/H}dR(q)U_G^{\rho }(R(q){)}_{{\tau }^{\prime }{\sigma }^{\prime },\tau \sigma }{f}_{\sigma }(R(q)).\end{array}$$

Здесь ${\hat{G}}_{\sigma }$ — множество всех параметров $\rho \in \hat{G}$, для которых сужение $U_G^0\mid H$ содержит представление ${\chi }^{\sigma }$. Условие унитарности (2.6.77), записанное аналогично формуле (2.7.3), принимает вид
$${\int }_{G}dA|f(A){|}^2={\int }_{\hat{\sigma }}d\hat{\mu }(\rho ){\int }_{{\hat{H}}_{\rho }}d\hat{v}\left({\sigma }^{\prime }\right){\int }_{{\hat{H}}_{\mathrm{\Omega }}}d\hat{v}(\sigma )\sum _{{\tau }^{\prime },\tau }{\left|{\hat{f}}_{{\tau }^{\prime }{\sigma }^{\prime },\tau \sigma }^{\rho }\right|}^2.$$

Используя (2.7.5), получаем
$$\begin{array}{r}{\int }_{\hat{H}}d\hat{v}(\sigma ){\int }_{\sigma /H}dR(q){|f_{\sigma }(R(q))|}^2=\sigma \\ ={\int }_{\hat{H}}d\hat{v}(\sigma ){\int }_{{\hat{\sigma }}_{\sigma }}d\hat{\mu }(\rho ){\int }_{{\hat{H}}_0}d\hat{v}\left({\sigma }^{\prime }\right)\sum _{{\tau }^{\prime },\tau }{\left|{\hat{\tilde{f}}}_{{\tau }^{\prime }{\sigma }^{\prime },\tau \sigma }\right|}^2.\end{array}$$
Таким образом, разложение Фурье (2.7.7) можно рассматривать как унитарное отображение, связывающее гильбертовы пространства
$${\mathcal{L}}^2(\hat{H})\oplus {\mathcal{L}}^2(G/H)=\oplus {\int }_{\hat{H}}\sqrt{d\hat{v}(\sigma )}{\mathcal{L}}^2\left(\frac{G}{H}\right)\text{ и }{\mathcal{L}}^2(\hat{G})$$

со структурой
$$\begin{array}{rl}{\mathcal{L}}^2(\hat{G})& =\oplus {\int }_{\hat{H}}\sqrt{d\hat{v}(\sigma )}{\mathcal{L}}^2(\hat{G}{)}^{\sigma }\\ {\mathcal{L}}^2(G{)}^{\sigma }& \equiv \oplus {\int }_{{\hat{\sigma }}_{\sigma }}\sqrt{d\hat{\mu }(\rho )}[\oplus {\int }_{{\hat{H}}_{\rho }}\sqrt{d\hat{v}\left({\sigma }^{\prime }\right)}(\oplus \sum _{{\tau }^{\prime },\tau }\mathbf{C})].\end{array}$$

В случае компактной подгруппы $H=H_1$ из формул (2:7.7) можно получить некоторые дополнительные результаты. Здесь $\hat{H}={\hat{H}}_1$ — дискретное множество всех пар чисел $\sigma =(x,\mu )$, $x\in \{0,1\},\mu \in \{0,\pm 1,\pm 2,\dots \}$, а $\int d\hat{v}(\sigma )$ — сумма по $x$ и $\mu$; индексы ${\tau }^{\prime },\tau$ отсутствуют. С помощью анализа Фурье на группе $H_l$ пространство ${\mathcal{L}}^2(G)$ разлагается в прямую сумму:
$$\begin{array}{c}{\mathcal{L}}^2(G)=⨁\sum _{x=0,1}\oplus \sum _{\mu =-\mathrm{\infty }}^{+\mathrm{\infty }}{\mathcal{L}}^2(G{)}^{\chi ,\mu },\\ {\mathcal{L}}^2(G{)}^{x,\mu }\equiv \{f\in {\mathcal{L}}^2(G):f(R(q)Q)=f(R(q)){\chi }^{\chi ,\mu }(Q{)}^{\ast },Q\in H\}.\end{array}$$

Выберем функцию $f\in {\mathcal{L}}^2(G{)}^{x,\mu }$. Тогда в силу формул (2.7.5)
$$f_{{\varkappa }^{\prime },{\mu }^{\prime }}(R(q))={\delta }_{{\varkappa }^{\prime }{\mathcal{x}}^{\prime }{}^{\prime }\mu }f(R(q)),$$

а в силу формул (2.7.7)
$${\hat{f}}_{{\mathcal{X}}^{\prime \prime }{\mu }^{\prime \prime },{\mathcal{X}}^{\prime }{\mu }^{\prime }}^{\rho }={\delta }_{{\mathcal{X}}^{\prime }{\mathcal{x}}^{\prime }\mu }{\delta }_{G/H}dR(q)U_G^{\rho }(R(q){)}_{{\mathcal{X}}^{\prime \prime }{\mu }^{\prime \prime },\varkappa \mu }f(R(q)).$$

Если представить разложение (2.7.10) пространства ${\mathcal{L}}^2(\hat{G})$ в виде
$$\begin{array}{rl}{\mathcal{L}}^2(\hat{G})& =\oplus \sum _{x=0,1}\oplus \sum _{\mu =-\mathrm{\infty }}^{+\mathrm{\infty }}{\mathcal{L}}^2(\hat{G}{)}^{x,\mu },\\ {\mathcal{L}}^2(\hat{G}{)}^{x,\mu }& \equiv ⨁{\int }_{{\hat{a}}_{x,\mu }}\sqrt{d\hat{\mu }(\rho )}\oplus \sum _{(x,{\mu }^{\prime })\in {\hat{H}}_{1,\rho }}\mathbf{C},\end{array}$$

то легко убедиться, что при унитарном преобразовании (2.7.7), связывающем пространства ${\mathcal{L}}^2(G)$ и ${\mathcal{L}}^2(\hat{G})$, подпространства ${\mathcal{L}}^2(G{)}^{\mathit{x},\mu }$ и ${\mathcal{L}}^2(\hat{G}{)}^{\mathit{x},\mu }$ унитарно отображаются друг в друга. Так как при любых $(\chi ,\mu )$ пространство ${\mathcal{L}}^2(G{)}^{\chi ,\mu }$, естественно, изоморфно пространству ${\mathcal{L}}^2\left(G/H_1\right)$, то вместо формул (2.7.7) и (2.7.9) можно написать
$$\begin{array}{c}f(q)={\int }_{{\hat{G}}_{\alpha ,\mu }}d\hat{\mu }(\rho )\sum _{(\chi ,{\mu }^{\prime })\in {\hat{H}}_{1,\rho }}{\hat{f}}_{{\mu }^{\prime }\mu }^{\rho }{U}_G^{\rho }(R(q){)}_{{\mu }^{\prime }{\mu }^{\prime }}^{\ast }\\ {\hat{f}}_{\mu {\mu }^{\prime }}^o={\int }_{a/H}dR(q)U_G^{\rho }(R(q){)}_{{\mu }^{\prime }\mu }f(q),\\ {\int }_{G/H}dR(q)|f(q){|}^2={\int }_{{\hat{G}}_{\chi ,\mu }}d\hat{\mu }(\rho )\sum _{(\chi ,{\mu }^{\prime })\in {\hat{H}}_{1,\rho }}{\left|{\hat{f}}_{{\mu }^{\prime }\mu }^{\rho }\right|}^2.\end{array}$$

Здесь элементы ${\hat{f}}_{{\mu }^{\prime }\mu }^{\rho }$ и $U_Q^{\rho }(R(q){)}_{{\mu }^{\prime }\mu }$ определены следующим образом:

Очевидно, что функции $U_G^0(A{)}_{\mu ,\mu }$ — матричные элементы в базисе, связанном с подгруппой $H_1$, которые были вычислены в разд. 2.2-2.4. Каждой паре чисел $(x,\mu )$ соответствует полный ортонормированный базис в пространстве ${\mathcal{L}}^2\left(G/H_1\right)$ :
$$\{\mu Y_{{\mu }^{\prime }}^{\rho }:\rho \in {\hat{G}}_{\chi ,\mu },{(\chi ,{\mu }^{\prime })}^{\prime }\in {\hat{H}}_{1,\rho },{}_{\mu }{Y}_{{\mu }^{\prime }}^{\rho }(q)=U_G^{\rho }(R(q){)}_{{\mu }^{\prime }\mu }\}.$$

Множества ${\hat{G}}_{\chi ,\mu }$ и ${\hat{H}}_{1,\rho }$ в различных случаях имеют вид

Так как пространство $SU(2)/H_1$, согласно формуле (2.7.1), гомеоморфно двумерной сфере, то формула (2.7.17) определяет обобщенную систему сферических гармоник при любых значениях $x$ и $\mu$. В частности, при $x=\mu =0$ мы имеем функции, с точностью до нормировочного множителя совпадающие с обыкновенными сферическими гармониками $\{e^{i{\mu }^{\prime }\phi }{P}_l^{{\mu }^{\prime }}(\cos \beta ):0⩽l$, $-l⩽{\mu }^{\prime }⩽l\}$. Согласно формулам $(2.7.1)$, пространство $SU(1,1)/H_1$ гомеоморфно одной из полостей двуполостного гиперболоида в пространстве ${\mathbf{R}}^3$. Соответствующие функции в формуле (2.7.17) ${}_{\mu }{Y}_{{\mu }^{\prime }}^{\chi ,l,\eta }$ можно в этом случае интерпретировать как интегральные ядра преобразования Фурье на этой поверхности. Из математической литературы нам известен случай $\chi =\mu =0$, который приводит к коническим функциям Мелера $\{e^{i{\mu }^{\prime }\phi }{P}_{-1/2+ip}^{{\mu }^{\prime }}$ (ch $\xi$ ): . Что касается пространства $E(2)/H_1$, то здесь мы приходим к системе функций

где функции Бесселя $J_{{\mu }^{\prime }-\mu }$ появляются при разложении Фурье на эвклидовой плоскости в полярных координатах.

В случае некомпактной подгруппы $H=H_2$ мы имеем множество

индексы ${\tau }^{\prime },\tau$ принимают значения $\pm$. Здесь нельзя сформулировать анализ Фурье, аналогичный разложению в пространстве ${\mathcal{L}}^2\left(G/H_1\right)$. Унитарное преобразование $(2.7.7)$, связывающее пространства
$$\underset{\hat{H}}{⨁}\int \sqrt{d\hat{v}(\sigma )}{\mathcal{L}}^2(G/H)\text{ и }\underset{\hat{H}}{⨁}\int \sqrt{d\hat{v}(\sigma )}{\mathcal{L}}^2(\hat{G}{)}^{\sigma },$$

осуществляется обобщенными интегральными ядрами $\{{}_{\lambda }{Y}_{{\lambda }^{\prime }{\tau }^{\prime }\tau }^0:\rho \in {\hat{G}}_{\varkappa ,\lambda },(\chi ,{\lambda }^{\prime })\in {\hat{H}}_{2,\rho };{\tau }^{\prime },\tau =\pm$,
$$\lambda Y_{{\lambda }^{\prime }{\tau }^{\prime }\tau }^{\rho }(q)=U_{SU(1,1)}^{\rho }(R(q){)}_{{\tau }^{\prime }{\lambda }^{\prime },\tau \lambda }\}$$

Здесь мы имеем

Напомним, что, согласно формуле (2.5.74), для дискретной серии функция $\lambda Y_{{\lambda }^{\prime },{\tau }^{\prime },\tau }^{\chi ,l,\eta }$ отлична от нуля только при ${\tau }^{\prime }=\tau =\eta$.