2.1. Инвариантные множества стационарных движений. В этом параграфе мы будем рассматривать консервативные механические системы с $n$ степенями свободы, допускающие $k$-параметрическую группу симметрий ( $k<n$ ). Пусть $\mathbf{v} \in \mathbf{R}^{n}$ и $\mathbf{r} \in \mathbf{M} \subseteq \mathbf{R}^{m}$ – квазискорости (в частности, импульсы или обобщенные скорости) и существенные координаты системы соответственно, М – конфигурационное пространство существенных координат; $\operatorname{dim} \mathbf{M} \leqslant n$. Данная механическая система допускает интеграл энергии
\[
2 U_{0}(\mathbf{v} ; \mathbf{r})=(\mathbf{A}(\mathbf{r}) \mathbf{v} \cdot \mathbf{v})+2 V(\mathbf{r})=2 \mathbf{c}_{0}
\]

и $k$ нётеровых интегралов

соответствующих группе симметрий.
Здесь $\mathbf{A}(\mathbf{r}) \in \mathcal{C}^{2}$ – положительно определенная $n \times n$-матрица кинетической энергии, $V(\mathbf{r}) \in \mathcal{C}^{2}: \mathbf{M} \rightarrow \mathbf{R}$ – потенциальная энергия системы, $\mathbf{B}(\mathbf{r})-n \times k$-матрица интегралов Нётер $\left(\mathbf{B}(\mathbf{r}) \in \mathcal{C}^{2} ; \operatorname{rank} \mathbf{B}=\right.$ $=k$ ).

Согласно результатам, изложенным в предыдущем параграфе, критическим точкам интеграла энергии при фиксированных значениях постоянных других интегралов отвечают стационарные движения рассматриваемой системы. Учитывая структуру интегралов (2.1) и (2.2), задачу отыскания стационарных движений можно решать в два этапа. Сначала можно найти минимум квадратичной по $\mathbf{v}$ функции (2.1) на линейном по $\mathbf{v}$ многообразии (2.2), рассматривая $\mathbf{r}$ как параметры. Очевидно, этот минимум зависит от $\mathbf{r}$ и с; обозначим его $W_{c}(\mathbf{r})$. После определения функции $W_{c}(\mathbf{r})$, которая называется эффективным потенциалом, задача поиска стационарных движений сводится к определению критических точек этой функции на конфигурационном многообразии $\mathbf{M}$.
В явном виде выражение $W_{c}(\mathbf{r})$ записывается следующим образом
\[
W_{c}(\mathbf{r})=V+\frac{1}{2}\left(\left(\mathbf{B}^{T} \mathbf{A}^{-1} \mathbf{B}\right)^{-1} \mathbf{c} \cdot \mathbf{c}\right) .
\]

При этом
\[
\mathbf{v}=\mathbf{A}^{-1} \mathbf{B}\left(\mathbf{B}^{T} \mathbf{A}^{-1} \mathbf{B}\right)^{-1} \mathbf{c}=\mathbf{v}_{c}(\mathbf{r}) .
\]

ЗАМЕЧАНИЕ 2.1. Если в некоторой точке $\mathbf{r}=\mathbf{r}^{0}$ имеем $\operatorname{rank} \mathbf{B}\left(\mathbf{r}^{0}\right)<k$, то исследование стационарных движений в окрестности точки $\mathbf{r}^{0}$ конфигурационного пространства требует отдельного обсуждения (см. последний пункт этого параграфа).

С помощью теоремы 1.1. легко доказывается

ТЕОРЕМА 2.1. [14,18] Если эффективный потенциал принимает невырожденное стационарное значение на некотором множестве $\mathbf{M}_{0} \subset \mathbf{M}$, то $\mathbf{M}_{0}$ – инвариантное множество в пространстве конфигураций $\mathbf{M}$, а множество
\[
\mathbf{N}_{0}=\mathbf{M}_{0} \times\left\{\mathbf{v} \in \mathbf{R}^{n}: \mathbf{v}=\mathbf{v}_{c}(\mathbf{r}), \mathbf{r} \in \mathbf{M}_{0}\right\} \subset \mathbf{M} \times \mathbf{R}^{n}
\]
– инвариантное множество в фазовом пространстве $\mathbf{M} \times \mathbf{R}^{n}$.

Замечание 2.2. Множество $\mathbf{M}_{0} \subset \mathbf{M}$ и соответствующее ему множество $\mathbf{N}_{0} \subset \mathbf{M} \times \mathbf{R}^{n}$ зависят от параметров $\mathbf{c}$. Эффективный потенциал может принимать стационарные значения при фиксированных значениях с не только на множестве $\mathbf{M}_{0}$, но также и на некоторых других множествах $\mathbf{M}_{1}, \mathbf{M}_{2}, \ldots$ Эти множества и соответствующие им множества $\mathbf{N}_{1}, \mathbf{N}_{2}, \ldots$ также зависят от параметров $\mathbf{c}$. Движения системы $\mathbf{r}=\mathbf{r}(t)$, $\mathbf{v}=\mathbf{v}(t)$, лежащие на множестве $\mathbf{N}$, можно назвать стационарными, поскольку они доставляют стационарные значения интегралу энергии на фиксированных уровнях других первых интегралов.

ЗАМЕЧАНИЕ 2.3. Если $\mathbf{M}=\mathbf{R}^{m}$, то для того, чтобы найти инвариантные множества, нужно решить систему $\partial W_{c} / \partial \mathbf{r}=\mathbf{0}$. Если же $\mathbf{M}=$ $=\left\{\mathbf{r} \in \mathbf{R}^{m}: \boldsymbol{\psi}(\mathbf{r})=\mathbf{0}\right\}$, где $\boldsymbol{\psi}(\mathbf{r}) \in \mathcal{C}^{1}: \mathbf{R}^{m} \rightarrow \mathbf{R}^{m-\mu}(\mu=\operatorname{dim} \mathbf{M})$, то нужно решить систему $\partial \tilde{W}_{c} / \partial \mathbf{r}=\mathbf{0}, \boldsymbol{\psi}(\mathbf{r})=\mathbf{0}$, где $\tilde{W}_{c}(\mathbf{r})=W_{c}+(\boldsymbol{
u} \cdot \boldsymbol{\psi})$ и $\boldsymbol{
u}-\mu$-вектор неопределенных множителей Лагранжа.

2.2. Устойчивость инвариантных множеств стационарных движений.

ТЕОРЕМА 2.2. $[14,18]$ Если эффективный потенциал принимает локально строгий минимум при фиксированных значениях $\mathbf{c}^{0}$ параметров с на некотором компактном множестве $\mathbf{M}_{0}\left(\mathbf{c}^{0}\right) \subset \mathbf{M}$, то $\mathbf{M}_{0}\left(\mathbf{c}^{0}\right)$ – устойчивое инвариантное в пространстве конфигураций множество, а $\mathbf{N}_{0}\left(\mathbf{c}^{0}\right)$ – устойчивое инвариантное в фазовом пространстве множество системы.
Данная теорема является простым следствием теоремы 1.2.
Рассмотрим случай, когда $\operatorname{dim} \mathbf{M}_{0}=0$, т.е. $\mathbf{M}_{0}(\mathbf{c})=\left\{\mathbf{r}^{0}(\mathbf{c})\right\}$. Тогда (см. (2.5)) dim $\mathbf{N}_{0}=0$, т.е. $\mathbf{N}_{0}(\mathbf{c})=\left\{\mathbf{r}^{0}(\mathbf{c}) ; \mathbf{v}^{0}(\mathbf{c})\right\}$, где $\mathbf{v}^{0}(\mathbf{c})=\mathbf{v}_{c}^{0}\left(\mathbf{r}^{0}(\mathbf{c})\right)$ (см. (2.4)). Это означает, что система допускает стационарные движения $\mathbf{r}=\mathbf{r}^{0} ; \mathbf{v}=\mathbf{v}^{0}$.

Уравнения движения системы, описываемой фазовыми переменными $\mathbf{r}$ и $\mathbf{v}$, могут быть представлены в виде
\[
\dot{\mathbf{r}}=\mathbf{F}(\mathbf{r}) \mathbf{v} ; \quad \dot{\mathbf{v}}=\mathbf{f}(\mathbf{r} ; \mathbf{v}) .
\]

Здесь $\mathbf{F}(\mathbf{r}) \in \mathcal{C}^{1}-m \times n$-матрица и $\mathbf{f}(\mathbf{r} ; \mathbf{v}) \in \mathcal{C}^{1}: \mathbf{M} \times \mathbf{R}^{n} \rightarrow \mathbf{R}^{n}$, причем $\mathbf{F}\left(\mathbf{r}^{0}\right) \mathbf{v}^{0}=0$ и $\mathbf{f}\left(\mathbf{r}^{0} ; \mathbf{v}^{0}\right)=0$, поскольку $\left\{\mathbf{r}^{0} ; \mathbf{v}^{0}\right\}$ – стационарное движение системы (2.6).

Пусть $\mathbf{x}=\mathbf{r}-\mathbf{r}^{0}, \mathbf{y}=\mathbf{v}-\mathbf{v}^{0}$, тогда линеаризованная система уравнений возмущенного движения имеет вид
\[
\left(\begin{array}{l}
\dot{\mathbf{x}} \\
\dot{\mathbf{y}}
\end{array}\right)=\mathrm{S}_{0}\left(\begin{array}{l}
\mathrm{x} \\
\mathrm{y}
\end{array}\right),
\]

где $\mathbf{S}_{0}-(m+n) \times(m+n)$-матрица вида
\[
\mathbf{S}_{0}=\left(\begin{array}{cc}
\frac{\partial \mathbf{F} \mathbf{v}}{\partial \mathbf{r}} & \mathbf{F} \\
\frac{\partial \mathbf{f}}{\partial \mathbf{r}} & \frac{\partial \mathbf{f}}{\partial \mathbf{v}}
\end{array}\right)_{0}
\]

Из теоремы 1.3 следует
ТЕорема 2.3. [14, 18] Если степень неустойчивости Пуанкаре стационарного движения нечетна и $\operatorname{rank} \mathbf{S}_{0}=n-k+\mu$, то оно неустойчиво.
Отметим, что если $\mathbf{M}=\mathbf{R}^{m}$, то $\mu=m$ (см. замечание 2.3).
Замечание 2.4. Инвариантные множества $\mathbf{N}_{i}\left(\mathbf{c}^{0}\right)$ и $\mathbf{N}_{j}\left(\mathbf{c}^{0}\right)(i
eq j)$ изолированы одно от другого, если и только если множества $\mathbf{M}_{i}\left(\mathbf{c}^{0}\right)$ и $\mathbf{M}_{j}\left(\mathbf{c}^{0}\right)$ изолированы одно от другого (см. (2.5)).

ЗАМЕЧАНИЕ 2.5. Индекс второй вариации интеграла энергии на линейном многообразии $\delta \mathbf{U}=\mathbf{0}$ равен индексу второй вариации эффективного потенциала. Поэтому степень неустойчивости Пуанкаре инвариантного множества $\mathbf{N}_{0}\left(\mathbf{c}^{0}\right)$ равна ind $\delta^{2} W_{c}^{0}\left(\mathbf{M}_{0}\left(\mathbf{c}^{0}\right)\right.$ ), где $(\mathbf{r} \in \mathbf{M})$.

Замечание 2.6. Инвариантные множества $\mathbf{N}_{0}(\mathbf{c}), \mathbf{N}_{1}(\mathbf{c}), \mathbf{N}_{2}(\mathbf{c}), \ldots$ могут быть представлены в пространстве $\mathbf{R}^{n} \times \mathbf{M} \times \mathbf{R}^{k}\left(\mathbf{v} \in \mathbf{R}^{n}, \mathbf{r} \in\right.$ $\mathbf{M}, \mathbf{c} \in \mathbf{R}^{k}$ ) как некоторые поверхности. Инвариантные (в пространстве конфигураций) множества $\mathbf{M}_{0}(\mathbf{c}), \mathbf{M}_{1}(\mathbf{c}), \mathbf{M}_{2}(\mathbf{c}), \ldots$ аналогично могут быть представлены в пространстве $\mathbf{M} \times \mathbf{R}^{k}\left(\mathbf{r} \in \mathbf{M}, \mathbf{c} \in \mathbf{R}^{k}\right)$. Согласно замечаниям 2.4 и 2.5, последние можно рассматривать как диаграммы Пуанкаре.

ЗАМЕЧАНИЕ 2.7. Согласно определению эффективного потенциала $W_{c}(\mathbf{r}) \leqslant U_{0}(\mathbf{v} ; \mathbf{r})=\mathrm{c}_{0}$, где $\mathrm{c}_{0}-$ постоянная интеграла энергии. Поэтому неравенство $W_{c}(\mathbf{r}) \leqslant$ с $_{0}$ определяет в пространстве конфигураций области возможности движения при данных значениях с постоянных первых интегралов и данного значения $c_{0}$ интеграла энергии. Топологический тип этих областей изменяется на поверхностях $\left(\mathbf{c} ; \mathrm{c}_{0}\right) \in \Sigma$, где $\Sigma=\Sigma_{0} \cup \Sigma_{1} \cup \Sigma_{2} \ldots$
\[
\Sigma_{s}=\left\{(\mathbf{c} ; h) \in \mathbf{R}^{k} \times \mathbf{R}: h=h_{s}(\mathbf{c})=V_{c}\left(\mathbf{M}_{s}(\mathbf{c})\right)\right\} \quad(s=0,1,2, \ldots)
\]

Для консервативных систем с симметрией $[12,13]$ все точки пространства $\left(\mathbf{c} ; \mathbf{c}_{0}\right)$ инвариантны. Поверхность $\Sigma$ в пространстве ( $\left.; \mathbf{c}_{0}\right)$ представляет собой диаграмму Смейла [12].

2.3. О построении эффективного потенциала в сингулярных случаях. Очевидно, что эффективный потенциал (2.3) определен только для таких точек конфигурационного пространства, в которых $\operatorname{rank} \mathbf{B}(\mathbf{r})=k$. Если в некоторой точке $\mathbf{r}=\mathbf{r}^{0}$ имеем $\operatorname{rank} \mathbf{B}\left(\mathbf{r}^{0}\right)<k$, то матрица $\mathbf{B}^{T} \mathbf{A}^{-1} \mathbf{B}$ не является обратимой в точке $\mathbf{r}^{0}$, поскольку
\[
\operatorname{det}\left(\mathbf{B}^{T}\left(\mathbf{r}^{0}\right) \mathbf{A}^{-1}\left(\mathbf{r}^{0}\right) \mathbf{B}\left(\mathbf{r}^{0}\right)\right)=0 .
\]

Тем не менее, в некоторых случаях удается определить эффективный потенциал и в этих точках, так как в этих точках константы с нётеровых интегралов (2.2) могут быть не произвольны [22].

Предположим, что имеется точка конфигурационного пространства, в которой $\operatorname{rank} \mathbf{B}=k-1$. Без ограничения общности предположим, что
\[
\operatorname{rank} \mathbf{B}(\mathbf{0})=k-1, \quad \operatorname{rank} \mathbf{B}(\mathbf{r})=k, \forall \mathbf{r}: 0<\|\mathbf{r}\|<\rho,
\]

где $\rho-$ некоторое положительное число.
Более того, не ограничивая общности, мы можем рассмотреть случай, когда $k=2$, т.е. $\mathbf{B}=\left(\mathbf{b}_{1}, \mathbf{b}_{2}\right)$, где $\mathbf{b}_{1}$ и $\mathbf{b}_{2}-n$-мерные векторы, зависящие от $\mathbf{r}$, и считать, что
\[
\begin{array}{c}
\mathbf{b}_{1}=\mathbf{b}(\mathbf{r})+\beta_{1}(\mathbf{r}), \quad \mathbf{b}_{2}=\mathbf{b}(\mathbf{r})+\beta_{2}(\mathbf{r}), \\
\beta_{1}(\mathbf{0})=\beta_{2}(\mathbf{0}), \quad \mathbf{b}_{1}(\mathbf{r})
eq \lambda \mathbf{b}_{2}(\mathbf{r}), \forall \mathbf{r}: 0<\|\mathbf{r}\|<\rho .
\end{array}
\]

В этом случае линейные интегралы (2.2) будут иметь вид
\[
\left(\mathbf{b}_{1}(\mathbf{r}) \cdot \mathbf{v}\right)=k_{1}, \quad\left(\mathbf{b}_{2}(\mathbf{r}) \cdot \mathbf{v}\right)=k_{2},
\]

где $k_{1}$ и $k_{2}$ – произвольные константы $\forall \mathbf{r}: 0<\|\mathbf{r}\|<\rho$ и $k_{1}=k_{2}=k$ при $\mathbf{r}=0$.

Для построения эффективного потенциала $W_{k_{1}, k_{2}}$ при $k_{1}
eq k_{2}$ нам нужно найти минимум функции (2.1) по переменным $\mathbf{v}$ на фиксированных уровнях интегралов (2.7). Для этого мы должны решить систему уравнений
\[
\mathbf{A v}-\lambda_{1} \mathbf{b}_{1}-\lambda_{2} \mathbf{b}_{2}=0
\]

относительно переменных v. Здесь $\lambda_{1}$ и $\lambda_{2}$ – множители Лагранжа. Разрешая систему (2.8) относительно $\mathbf{v}$
\[
\mathbf{v}=\lambda_{1} \mathbf{A}^{-1} \mathbf{b}_{1}+\lambda_{2} \mathbf{A}^{-1} \mathbf{b}_{2}
\]

и подставляя полученное выражение в интегралы (2.7), находим, что
\[
c_{11} \lambda_{1}+c_{12} \lambda_{2}=k_{1}, \quad c_{21} \lambda_{1}+c_{22} \lambda_{2}=k_{2},
\]

где $c_{i j}=c_{i j}(\mathbf{r})=\left(\mathbf{A}^{-1} \mathbf{b}_{i} \cdot \mathbf{b}_{j}\right)=c_{j i}(\mathbf{r})$.
Разрешая систему (2.10) относительно $\lambda_{1}$ и $\lambda_{2}$, получим для них следующие выражения
\[
\lambda_{1}=\frac{c_{22} k_{1}-c_{12} k_{2}}{c_{11} c_{22}-c_{12}^{2}}, \quad \lambda_{2}=\frac{c_{11} k_{2}-c_{12} k_{1}}{c_{11} c_{22}-c_{12}^{2}} .
\]

Таким образом, учитывая (2.9) и (2.11), получаем, что
\[
\begin{array}{c}
W_{k_{1}, k_{2}}=\frac{c_{22} k_{1}^{2}-2 c_{12} k_{1} k_{2}+c_{11} k_{2}^{2}}{2\left(c_{11} c_{22}-c_{12}^{2}\right)}+V . \\
\mathbf{v}_{k_{1}, k_{2}}=\frac{c_{22} k_{1}-c_{12} k_{2}}{c_{11} c_{22}-c_{12}^{2}} \mathbf{A}^{-1} \mathbf{b}_{1}+\frac{c_{11} k_{2}-c_{12} k_{1}}{c_{11} c_{22}-c_{12}^{2}} \mathbf{A}^{-1} \mathbf{b}_{2},
\end{array}
\]

Очевидно, что соотношения (2.12) и (2.13) эквивалентны соответствующим соотношениям (2.3) и (2.4). Более того, если $k_{1}
eq k_{2}$, то $\mathbf{r}
eq 0$ и $c_{11} c_{22}-c_{12}^{2}>0$ (по крайней мере, в области $0<\|\mathbf{r}\|<\rho$ ).

Рассмотрим теперь случай $k_{1}=k_{2}=k$, который соответствует значению $\mathbf{r}=0$. Тогда
\[
W_{k, k}=k^{2} \frac{\left(c_{22}-2 c_{12}+c_{11}\right)}{2\left(c_{11} c_{22}-c_{12}^{2}\right)}+V .
\]

Заметим, что $c_{i j}(\mathbf{r})=c(\mathbf{r})+\delta_{i j}(\mathbf{r})$, где $\delta_{i j}(\mathbf{0})=0$, т.е. (см. (2.14))
\[
W_{k, k}=\frac{k^{2}}{2 c(1+\delta)}+V ; \quad \delta=\delta(\mathbf{r})=\frac{\delta_{11} \delta_{22}-\delta_{12}^{2}}{c\left(\delta_{11}+\delta_{22}-2 \delta_{12}\right)} .
\]

Если найдется функция $d(\mathbf{r})$ такая, что существует значение $d(\mathbf{0})$ и существует предел $\lim _{\mathbf{r}=0}(\delta(\mathbf{r}) / d(\mathbf{r}))=1$, то положим
\[
W_{k, k}=\frac{k^{2}}{2 c(1+d)}+V
\]

Таким образом, эффективный потенциал имеет вид (2.12) для всех $k_{1}
eq k_{2}$ и вид (2.15) при $k_{1}=k_{2}=k$ в замкнутой области $\|\mathbf{r}\|<\rho$ конфигурационного пространства (при условии, что существует функция $d(\mathbf{r})$, обладающая указанными выше свойствами).