Если группа $G$ действует на многообразии $M$, то множество всех точек $M$, малые группы которых сопряжены друг другу, называется стратом. Таким образом, страт представляет собой объединеңие всех орбит одного и того же типа. Возникает частичное упорядочение всех подгрупп данной группы по модулю сопряжения. Это в свою очередь соответствует упорядочению (обратному) в стратах. Множество неподвижных точек образует минимальный страт (максимальная группа изотропии $G$ ). Если при действии $G$ на $M$ неподвижные точки отсутствуют, то может иметься несколько минимальных стратов.

Например, в разд. 5.2 мы уже видели, что при действии $S U(3)$ на единичной сфере $S^{7}$ октетного пространства существует открытый плотный общий страт, а именно $|(x \vee x, x)|<$ $<1 / \sqrt{3}$. Он содержит однопараметрическое семейство шестимерных орбит [малая группа $U(1) \times U(1)]$, а минимальный страт состоит из двух четырехмерных орбит $(x \vee x, x)= \pm 1 / \sqrt{3}$. В данном разделе мы предполагаем рассмотреть следующее:
a) гладкое ${ }^{2}$ ) действие компактной группы Ли $G$ на гладком многообразии $M$. Это действие дается гладким отображением
\[
G \times M \xrightarrow{\phi} M, \quad \text { где } \quad \phi\left(g_{1}, \phi\left(g_{2}, m\right)\right)=\phi\left(g_{1} g_{2}, m\right) ;
\]
1) В этой части лекций излагается совместная с Радикати работа, частично опубликованная в трудах конференции в Корал-Гейблс в 1968 г. [84], а частично размноженная в виде препринта.
2) Термин \”гладкий“ используется вместо термина \”бесконечно диф. ференцируемый“.
б) вещественную гладкую функцию $M \xrightarrow{f} R$, которая $G$-инвариаңтна, т. е. эта функция постоянна на каждой $G$-орбите многообразия $M$ :
\[
g \in G, \quad m \in M, \quad f(\phi(g, m))=f(m) .
\]

Дифференциал в точке $m_{1} \in M_{1}$ гладкого отображения $M_{1} \xrightarrow{\Psi} M_{2}$ обозначается $d \Psi_{m_{1}}$. Это линейное отображение [с $m_{2}=$ $\left.=\psi\left(m_{1}\right)\right]$
\[
T_{m_{1}}\left(M_{1}\right) \xrightarrow{d \psi_{m_{1}}} T_{m_{2}}\left(M_{2}\right),
\]

где $T_{m_{i}}\left(M_{i}\right)$ является касательной плоскостью к $M_{i}$ в точке $m_{i}$. Таким образом, $d f_{p} \in T_{p}^{\prime}(m)$ – дуальное векторное простраңство к $T_{p}(m)$. Назовем критической такую точку $p \in M$, для которой $d f_{p}=0$.

Стабилизатор $G_{m}$ (малая группа, группа изотропии) в точке $m \in M$ является замкнутой и, следовательно, компактной подгруппой компактной группы $G$. Как известно ${ }^{1}$ ), можно выбрать такие локальные координаты в окрестности $V_{p}$ точки $p$, что действие $G_{p}$ будет линейным. Пусть $\mathscr{E}_{p}(M)$ – векторное пространство, соответствующее этому лиңейному представлению $G_{p}$, тогда $V_{p} \subset \mathscr{E}_{p}(M)$. Поскольку группа $G_{p}$ компактна, а многообразие $M$ вещественно, то это действие можно сделать ортогональным. Таким образом, $\mathscr{E}_{p}(M)$ есть эвклидово пространство. Мы можем в дальнейшем отождествить $d f_{p}$ с вектором пространства $\mathscr{E}_{p}(M)$, который будем называть $(\operatorname{grad} f)_{p}$. $G$-орбита точки $p-G(p)$ есть образ $g \xrightarrow{\phi(p)} \phi(g, p)$; она является подмногообразием $M$. Касательная плоскость к $G$-орбите в точке $p$, обозначаемая $T_{p}(G(p))$, есть образ $d \phi_{e}^{(p)}$, где $e$-единичный элемент группы $G$. Группа изотропии $G_{p}$ преобразует орбиту $G(p)$ саму в себя. Аналогично $T_{p}(G(p))$ есть инвариантное подпространство пространства $\mathscr{E}_{p}(M)$. Ортогональное подпространство $N_{p}(G(p))=T_{p}(G(p))^{\perp} \subset \mathscr{E}_{p}(M)$ также иңвариантно и называется \”слоем“ в точке $p$. Отметим, что $(\mathrm{grad} f)_{p} \in N_{p}$. В самом деле, по определению для $x \in T_{p}(M)$ справедливо $\left((\operatorname{grad} f)_{p}, x\right)=$ $=\lim _{\alpha \rightarrow 0}[f(p+\alpha x)-f(p)] \alpha^{-1}$. Скобка равна нулю в том случае,
1) Рассмотрим риманову метрику на многообразии $M$. При действии группы $G_{p}$ она преобразуется. Усредняя ее с помощью $G$-инвариантной меры, получаем $G_{p}$-инвариантную риманову метрику, причем группа $G_{p}$ переводит друг в друга геодезические линии, выходящие из точки $p$. В окрестности $V_{p}$ точки $p$ следует выбрать геодезические координаты.
когда $p+\alpha x \in G(p)$ (т. е. орбите точки $p$ ), так что она остается равной нулю и в пределе, если $x \in T_{p}(G(p))$.

Отметим также, что $(\mathrm{grad} f)_{p}$ является инвариантом относительно группы $G_{p} \cdot$ Пусть $g \in G_{p}$, тогда $\left(g \cdot(\operatorname{grad} f)_{p}, x\right)=$ $=\left((\operatorname{grad} f)_{p}, \xi^{-1} \cdot x\right)=\lim ^{-1}\left(f\left(p+\alpha g^{-1} \cdot x\right)-f(x)\right)$ и, поскольку $g^{-1} \cdot p=p, \quad f\left(p+\alpha g^{-1} \cdot x\right)=f\left(g^{-1} \cdot(p+\alpha x)\right)=f(p+\alpha x), \quad$ то $\forall x \in \mathscr{E}_{p}(m)\left(g \cdot\left(\operatorname{grad} f_{p}\right), x\right)=\left((\operatorname{grad} f)_{p} ; x\right)$. Если слой $N_{p}(G(p))$ не имеет векторов, инвариантных относительно $G_{p}$, то $(\operatorname{grad} f)_{p}=0$. Мы можем коротко суммировать это:

Теорема $1^{1}$ ). Пусть $G$ есть компактная группа Ли, действующая гладко на гладком вещественном многообразии $M$. Если для $p \in M$ каноническое линейное представление $G_{p}$ в слое $N_{p}$ не содержит тривиального представления $G_{p}$, то $G(p)$ является критической орбитой для любой вещественнозначной $G$-инвариантной гладкой функции на $M$ [здесь мы опять обозначаем одним и тем же символом, например символом $S U(2)$, векторное пространство подалгебры Ли и саму группу!].

Пример 1. Мы уже рассмотрели действие $S U(3)$ на сфере $S_{7} \subset \mathscr{E}_{8}$. Пусть $q$ есть единичный $q$-вектор, $G_{q}=U_{2}(q), T_{q}(M)=$ $=\{q\}^{\perp} \subset \mathscr{E}_{8}, T_{q}(G(q))=U_{2}(q)^{\perp}, N_{q}(G(q))=S U_{2}(q)$ и $U_{2}(q)$ действует на $T_{q}$ линейно, без неподвижных точек.

Пример 2. Пусть $p$ есть изолированная неподвижная точка в $M$. Тогда в окрестности $V_{p}$ точки $p$ нет других неподвижных точек и в $N_{p}=\mathscr{E}_{p}(M)$ не существует вектора, инвариантного относительно $G=G_{p}$.

Это доказывает, что $p$-критическая точка для каждой $G$-инвариантной функции на $M$.
1) Радикати и я включили теорему 1 в более полную теорему:
Теорема 1′. Пусть $G$ – компактная группа Ли, действующая гладко на вещественном многообразии $M$ и $p \in M$. Тогда следующие три предложения эквивалентны:
a) орбита точки $p$ является критической (для всякой $G$-инвариантной гладкой вещественнозначной функции $f$ на $M, d f_{p}=0$ );
б) орбита точки $p$ изолирована в своем страте, т. е. $\exists$ окрестность $V_{p}$ точки $p$, такая, что если $x \in V_{p}$ и $x
otin G_{p}$, то $G_{x}$ не сопряжена $G_{p}$;
в) каноническое линейное представление $G_{p}$ в слое $N_{p}$ не содержит тривиального представления.

Теорема 1 есть просто выражение эквивалентности утверждений „в“ и ,а“.
Предположим теперь, кроме того, что многообразие $M$ компактно. Тогда существует один страт (называемый порождающим стратом), который является открытым плотным подмножеством в $M$. Минимальные страты замкнуты и компактны. Пусть $C$ – связная компонента минимального страта, и пусть для $p € C F_{p} \subset \mathscr{E}_{p}$ есть линейное подпространство неподвижных точек относительно группы $G_{p}$. Поскольку группа $G_{p}$ максимальна, то для точек пространства $V_{p} \cap F_{p}$ она является стабилизатором, так как эти точки принадлежат $C$. Для данной $G$-инвариантной вещественнозначной гладкой фуңкции $f$ обозначим $n=(\operatorname{grad} f)_{p}$. Как мы уже видели, $n \in F_{p}$, так что для достаточно малых $|\varepsilon|, p+\varepsilon n \in C$ можно записать
\[
(n, n)=\lim _{\varepsilon \rightarrow 0} \varepsilon^{-1}(f(p+\varepsilon n)-f(p)),
\]

так что если функция $f$ постоянна на $C$, то каждая $p \in C$ является критической точкой функции. Если $f$ не постоянна на $C$, то имеется по крайней мере одна орбита, где она максимальна, и одна орбита, где она минимальна. Пусть $p$-точка такой орбиты, а $n=(\operatorname{grad} f)_{p}$. Тогда в уравнении $(5.41)$
\[
f(p+\varepsilon n)-f(p)\} \begin{array}{ll}
\geqslant 0, & \text { если } f \text { минимальна в } p, \\
\leqslant 0, & \text { если } f \text { максимальна в } p .
\end{array}
\]

Это означает, что величина $(n, n)$ либо должна иметь знак ( $\pm 8$ ) $[(+)$ в минимуме, (-) в максимуме], что невозможно, либо должна быть равна нулю.

Теорема $2^{I}$ ). Пусть $G$ – компактная группа Ли, действующая гладко на вещественном компактном многообразии $M$, и пусть $f \rightarrow$ вещественнозначная гладкая $G$-инвариантная функция на $M$. Тогда $f$ имеет по крайней мере одну критическую точку для каждой связной компоненты $C$ каждого минимального страта.

Нас интересуют теперь функции на сфере частного вида: пусть $G$ – компактная группа Ли, $\mathscr{E}$ – вещественное векторное пространство, в котором действует линейное вещественно-неприводимое представление $g \rightarrow R(g)$. Таким образом, $R$ (с точностью до эквивалентности) является ортогональным представлением и контраградиентно самому себе. Обозначим через (x, y) инвариантное эвклидово скалярное произведение в $\mathscr{E}$. Предположим, что $\operatorname{dim}(\operatorname{Hom} \mathscr{E} \vee \mathscr{E}, \mathscr{E})^{a}=1$ (символ $\vee$ обозначает симметрическое
1) При доказательстве этой теоремы, сформулированной мной и Радикати, нам очень помогли А. Борель, Қ. Мур и Р. Том.
тензорное произведение). Как мы уже видели в разд. 1.5, существует единственная (с точностью до постоянного множителя) симметрическая алгебра:
\[
x \otimes y \xrightarrow{\varphi} x_{T} y, \quad \text { где } \quad \psi \in \operatorname{Hom}(\mathscr{E} \vee \mathscr{E}, \mathscr{E})^{a},
\]

причем $x_{T} y=y_{T} x$.
Так как представление контраградиентно самому себе, а тензорное произведение ассоциативно, то
\[
\left(x_{T} y, z\right)=\left(x, y_{T} z\right)=\{x, y, z\} .
\]

Следовательно, иңвариант $\{x, y, z\}$ является полностью симметричной $G$-инвариантной трилинейной формой на $\mathscr{E}$. Пусть $f(\{x, y, z\})$ – функция на единичной сфере $S=\{x \in \mathscr{E},(x, x)=1\}$. Используя $\lambda$ в качестве множителя Лагранжа, получаем для критических точек $f$ уравнение
\[
\operatorname{grad}\left[f(\{x, x, x\})+\lambda(1+(x, x)]=3 f^{\prime} x_{T} x-2 \lambda x=0,\right.
\]

где $f^{\prime}$ – производная функции $f$, зависящей от одной переменной (например, если $f=\{x, x, x\}$, то $f^{\prime}=1$ ). Иными словами, критические точки функции $f$ определяются решениями уравнеңия $x_{T} x=\lambda x$, т. е. идемпотентами (или нильпотентами для $\lambda=0$ ) симметрической алгебры.