Приведем теперь пример ${ }^{24}$ гамильтоновых систем, удовлетворяющих условиям теорем (21.7) и (21.11), но топологически неустойчивых: величина $|I(t)-J(t)|$ неограничена при $-\infty<t<\infty$. По теоремам 21.7 и 21.11 такая система устойчива при большей части начальных условий (соответствующие движения квазипериодичны). Вековой уход истинного решения $I(t)$ есть величина порядка $\exp (-1 / \sqrt{\varepsilon})$, следовательно, неустойчивость не появляется ни в каком порядке теории возмущений.
Прежде всего введем несколько определений.

А) Усатые торы 23.1

Пусть $\mathbb{T}$ – инвариантный тор в фазовом пространстве динамической системы. Предложим, что движение системы квазипериодично на $\mathbb{T}$ и траектории всюду плотны на $\mathbb{T}$. Мы говорим, что $\mathbb{T}$ – усатый

тор, если он представляет собой связную компоненту пересечения двух усов $\mathbb{T}=M^{+} \cap M^{-}$— инвариантных открытых многообразий таких, что
\[
\begin{array}{l}
\lim _{t \rightarrow-\infty}|x(t)-\mathbb{T}|=0 \quad \text { при } x(0) \in M^{+} \quad \text { (исходящий ус), } \\
\lim _{t \rightarrow+\infty}|x(t)-\mathbb{T}|=0 \quad \text { при } x(0) \in M^{-} \quad \text { (входящий ус). } \\
\end{array}
\]

Например, тор $\mathbb{T}^{k}: x=y=z=0$ в системе
\[
\dot{x}=\lambda x, \quad \dot{y}=-\mu y, \quad \dot{z}=0, \quad \dot{\varphi}=\omega
\]
$\left(\lambda, \mu>0, \varphi(\bmod 2 \pi) \in \mathbb{T}^{k}\right.$, частоты $\omega$ несоизмеримы) определяет в пространстве $\mathbb{R}^{l+} \times \mathbb{R}^{l-} \times \mathbb{R}^{l_{0}} \times \mathbb{T}^{k}$ ус $M^{+}$размерности $l_{+}+k(y=z=0)$ и ус $M^{-}$размерности $l_{-}+k(x=z=0)$.

В) Переходные торы 23.3

Пусть $M$ – гладкое подмногообразие пространства $X, \Omega \subset X-$ подмножество пространства $X$. Говорят, что $\Omega$ загораживает $M$ в некоторой точке $x \in M$, если каждое многообразие $N$, трансверсальное к $M$ в точке $x$, пересекает $\Omega$.

Например ${ }^{25}$, спираль $\Omega$ загораживает свой предельный цикл $M$ во всех точках $M$ (см. рис. 16.4 , гл. 3).

Усатый тор $\mathbb{T}$ называется переходным тором, если объединение всех образов $\Omega$ произвольной окрестности $U$ каждой точки $\xi$ входящего уса $M^{-}$загораживает исходящий ус $M^{+}$в каждой точке $\eta \in M^{+}$ (см. рис. 23.4).
Лемма 23.5. Тор $x=y=z=0$ в (23.2) есть переходный тор.
Доказательство.
Пусть $\xi=\left(0, y_{0}, 0, \varphi_{0}\right), \eta=\left(x_{1}, 0,0, \varphi_{1}\right)$. Так как частоты $\omega$ несоизмеримы, существует последовательность $t_{i}, t_{i} \rightarrow+\infty$ такая, что расстояние между $\varphi_{0}+\omega t_{i}$ и $\varphi_{1}$ стремится к нулю. Рассмотрим часть $V$ окрестности $U$, задаваемую соотношением $y=y_{0}$. Через $\Omega=\bigcup_{t>0} U(t)$ мы обозначаем множество всех точек траекторий, исходящих из $U$. $\Omega$ содержит множество образов $g_{t_{i}} V$, где $g_{t}$ – группа преобразований,

определяемая уравнениями (23.2). При достаточно больших $t_{i}$ эти образы $g_{t_{i}} V$ пересекают окрестность точки $\eta$ (так как $\lambda>0$ ). Точки пересечения задаются уравнениями
\[
y=y_{i}, \quad y_{i}=e^{-\mu t_{i}} y_{0} \rightarrow 0 .
\]

Следовательно, $\Omega$ содержит множество всех поверхностей $g_{t_{i}} V$, параллельных усу $M^{+}$и имеющих $M^{+}$своим пределом; эти поверхности уже загораживают $M^{+}$в точке $\eta$, что и доказывает лемму.

С) Переходные цепочки 23.6

Последовательность переходных торов $\mathbb{T}_{1}, \mathbb{T}_{2}, \ldots, \mathbb{T}_{s}$ называется переходной цепочкой, если их усы пересекаются трансверсально следующим образом (см. рис. 23.7):
\[
M_{1}^{+} \cap M_{1}^{-}
eq \varnothing, \quad M_{2}^{+} \cap M_{3}^{-}
eq \varnothing, \ldots, M_{s-1}^{+} \cap M_{s}^{-}
eq \varnothing .
\]

Лемма 23.8. Пусть $\mathbb{T}_{1}, \mathbb{T}_{2}, \ldots, \mathbb{T}_{s}$ – переходная цепочка. Тогда для любой окрестности $U$ произвольной точки $\xi \in M_{1}^{-}$и любой окрестности $V$ произвольной точки $\eta \in M_{s}^{+}$существует траектория $\xi(t)$ такая, чmo
\[
\xi(0) \in U, \quad \xi(t) \in V .
\]

Доказательство.

Рассмотрим будущее $\Omega=\bigcup_{t>0} U(t)$ окрестности $U$. Поскольку $\mathbb{T}_{1}$ переходный тор, то $\Omega$ загораживает ус $M_{1}^{+}$в точке пересечения $\xi_{1}$ усов $M_{1}^{+}$и $M_{2}^{-}$. Следовательно, многообразие $M_{2}^{-}$пересекает открытое множество $\Omega$. Пусть $\xi_{1}^{\prime} \in M_{2}^{-} \cap \Omega$, тогда вся окрестность $U_{1}$ точки $\xi_{1}^{\prime}$ принадлежит $\Omega$. Будущее окрестности $U_{1}$ принадлежит $\Omega$. Достаточно повторить те же рассуждения $s$ раз, чтобы убедиться в том, что $\Omega$ загораживает $M_{s}^{+}$в точке $\eta$.

D) Пример неустойчивой системы 23.9
Пусть $\Omega=\mathbb{R}^{2} \times \mathbb{T}^{3}$ – пятимерное пространство
\[
I_{1}, I_{2}, \varphi_{1}, \varphi_{2}, t \quad\left(\varphi_{1}, \varphi_{2}, t \quad(\bmod 2 \pi)\right) .{ }^{26}
\]

Рассмотрим систему, функция Гамильтона которой имеет вид
\[
\begin{array}{c}
H=\frac{1}{2}\left(I_{1}^{2}+I_{2}^{2}\right)+\varepsilon(1+\mu B) \cos \left(\varphi_{1}-1\right), \\
B=\sin \varphi_{2}+\cos t,
\end{array}
\]
т.е. систему дифференциальных уравнений
\[
\begin{array}{c}
\dot{\varphi}_{1}=I_{1}, \quad \dot{\varphi}_{2}=I_{2}, \quad \dot{I}_{1}=\varepsilon \sin \varphi_{1}(1+\mu B), \\
\dot{I}_{2}=\varepsilon\left(1-\cos \varphi_{1}\right) \mu \cos \varphi_{2},
\end{array}
\]

где $\mu \ll \varepsilon \ll 1$ – два параметра.

Теорема 23.11. Пусть $0<A<B$. При любом $\varepsilon>0$ существует $\mu_{0}=\mu_{0}(A, B, \varepsilon)>0$ такое, что для $0<\mu<\mu_{0}$ система (23.10) имеет решение, удовлетворяющее при некотором $t$ неравенствам $I_{2}(0)<A$, $I_{2}(t)>B$.

В силу леммы (23.8) для доказательства теоремы достаточно найти переходную цепочку $\mathbb{T}_{1}, \ldots, \mathbb{T}_{s}$ такую, что $I_{2}<A$ на $\mathbb{T}_{1}$ и $I_{2}>B$ на $\mathbb{T}_{s}$. Лемма 23.12. Для системы (23.10) любой двумерный тор $\mathbb{T}_{\omega}$, заданный соотношениями $I_{1}=\varphi_{1}=I_{2}-\omega=0$, где $\omega$ – иррациональное число, есть усатый тор.

Действительно,
1) ясно, что $\mathbb{T}_{\omega}-$ инвариантный тор системы (23.10);
2) при $\mu=0$ трехмерные усы определяются уравнениями
\[
I_{1}= \pm 2 \sqrt{\varepsilon} \sin \frac{\varphi_{1}}{2}, \quad I_{2}=\omega ;
\]
3) при $\mu<\mu_{0}(\varepsilon)$ усы еще существуют и могут быть найдены методом Адамара (см. $\S 15$, гл. 3). Рассуждение леммы (23.5) доказывает, что торы $\mathbb{T}_{\omega}$ также являются переходными торами. Наконец, используя вариационные формулы для усов при «малом» $\mu$, мы доказываем следующую лемму.

Лемма 23.13. Пусть $A<\omega<B$. Тогда исходящий ус $M_{\omega}^{+}$тора $\mathbb{T}_{\omega}$ трансверсально пересекает входящие усы $M_{\omega}^{-}$близких торов $\mathbb{T}_{\omega^{\prime}}$ (поскольку $\left|\omega-\omega^{\prime}\right| \leqslant \alpha$, где $\left.\alpha=\alpha(\varepsilon, \mu, A, B)>0\right)$.

Для доказательства этой леммы необходим анализ, который приведен в работе В.И.Арнольда [13]. Этот анализ также показывает, что $\alpha \sim \mu \cdot e^{\frac{-1}{\sqrt{\varepsilon}}} \cdot$ Из лемм (23.12) и (23.13) следует, что усатые торы $\mathbb{T}_{\omega_{1}}, \ldots, \mathbb{T}_{\omega_{s}}\left(\omega_{i}\right.$ иррациональны, $\left.\left|\omega_{i}-\omega_{i+1}\right| \leqslant \alpha, \omega_{1}<A, \omega_{s}>B\right)$ образуют цепочку. Теорема (23.11) следует из леммы (23.8), примененной к этой цепочке.