Приведем теперь пример ${}^{24}$ гамильтоновых систем, удовлетворяющих условиям теорем (21.7) и (21.11), но топологически неустойчивых: величина $|I(t)-J(t)|$ неограничена при $-\mathrm{\infty }<t<\mathrm{\infty }$. По теоремам 21.7 и 21.11 такая система устойчива при большей части начальных условий (соответствующие движения квазипериодичны). Вековой уход истинного решения $I(t)$ есть величина порядка $\exp (-1/\sqrt{\epsilon })$, следовательно, неустойчивость не появляется ни в каком порядке теории возмущений.
Прежде всего введем несколько определений.

А) Усатые торы 23.1

Пусть $\mathbb{T}$ — инвариантный тор в фазовом пространстве динамической системы. Предложим, что движение системы квазипериодично на $\mathbb{T}$ и траектории всюду плотны на $\mathbb{T}$. Мы говорим, что $\mathbb{T}$ — усатый

тор, если он представляет собой связную компоненту пересечения двух усов $\mathbb{T}=M^{+}\cap M^{-}$— инвариантных открытых многообразий таких, что
$$\begin{array}{l}\underset{t\to -\mathrm{\infty }}{lim}|x(t)-\mathbb{T}|=0\text{ при }x(0)\in M^{+}\text{ (исходящий ус), }\\ \underset{t\to +\mathrm{\infty }}{lim}|x(t)-\mathbb{T}|=0\text{ при }x(0)\in M^{-}\text{ (входящий ус). }\end{array}$$

Например, тор ${\mathbb{T}}^k:x=y=z=0$ в системе
$$\dot{x}=\lambda x,\dot{y}=-\mu y,\dot{z}=0,\dot{\phi }=\omega$$
$(\lambda ,\mu >0,\phi (mod2\pi )\in {\mathbb{T}}^k$, частоты $\omega$ несоизмеримы) определяет в пространстве ${\mathbb{R}}^{l+}\times {\mathbb{R}}^{l-}\times {\mathbb{R}}^{l_0}\times {\mathbb{T}}^k$ ус $M^{+}$размерности $l_{+}+k(y=z=0)$ и ус $M^{-}$размерности $l_{-}+k(x=z=0)$.

В) Переходные торы 23.3

Пусть $M$ — гладкое подмногообразие пространства $X,\mathrm{\Omega }\subset X-$ подмножество пространства $X$. Говорят, что $\mathrm{\Omega }$ загораживает $M$ в некоторой точке $x\in M$, если каждое многообразие $N$, трансверсальное к $M$ в точке $x$, пересекает $\mathrm{\Omega }$.

Например ${}^{25}$, спираль $\mathrm{\Omega }$ загораживает свой предельный цикл $M$ во всех точках $M$ (см. рис. 16.4 , гл. 3).

Усатый тор $\mathbb{T}$ называется переходным тором, если объединение всех образов $\mathrm{\Omega }$ произвольной окрестности $U$ каждой точки $\xi$ входящего уса $M^{-}$загораживает исходящий ус $M^{+}$в каждой точке $\eta \in M^{+}$ (см. рис. 23.4).
Лемма 23.5. Тор $x=y=z=0$ в (23.2) есть переходный тор.
Доказательство.
Пусть $\xi =(0,y_0,0,{\phi }_0),\eta =(x_1,0,0,{\phi }_1)$. Так как частоты $\omega$ несоизмеримы, существует последовательность $t_i,t_i\to +\mathrm{\infty }$ такая, что расстояние между ${\phi }_0+\omega t_i$ и ${\phi }_1$ стремится к нулю. Рассмотрим часть $V$ окрестности $U$, задаваемую соотношением $y=y_0$. Через $\mathrm{\Omega }=\bigcup _{t>0}U(t)$ мы обозначаем множество всех точек траекторий, исходящих из $U$. $\mathrm{\Omega }$ содержит множество образов $g_{t_i}V$, где $g_t$ — группа преобразований,

определяемая уравнениями (23.2). При достаточно больших $t_i$ эти образы $g_{t_i}V$ пересекают окрестность точки $\eta$ (так как $\lambda >0$ ). Точки пересечения задаются уравнениями
$$y=y_i,y_i=e^{-\mu t_i}{y}_0\to 0.$$

Следовательно, $\mathrm{\Omega }$ содержит множество всех поверхностей $g_{t_i}V$, параллельных усу $M^{+}$и имеющих $M^{+}$своим пределом; эти поверхности уже загораживают $M^{+}$в точке $\eta$, что и доказывает лемму.

С) Переходные цепочки 23.6

Последовательность переходных торов ${\mathbb{T}}_1,{\mathbb{T}}_2,\dots ,{\mathbb{T}}_s$ называется переходной цепочкой, если их усы пересекаются трансверсально следующим образом (см. рис. 23.7):
$$M_1^{+}\cap M_1^{-}eq\varnothing ,M_2^{+}\cap M_3^{-}eq\varnothing ,\dots ,M_{s-1}^{+}\cap M_s^{-}eq\varnothing .$$

Лемма 23.8. Пусть ${\mathbb{T}}_1,{\mathbb{T}}_2,\dots ,{\mathbb{T}}_s$ — переходная цепочка. Тогда для любой окрестности $U$ произвольной точки $\xi \in M_1^{-}$и любой окрестности $V$ произвольной точки $\eta \in M_s^{+}$существует траектория $\xi (t)$ такая, чmo
$$\xi (0)\in U,\xi (t)\in V.$$

Доказательство.

Рассмотрим будущее $\mathrm{\Omega }=\bigcup _{t>0}U(t)$ окрестности $U$. Поскольку ${\mathbb{T}}_1$ переходный тор, то $\mathrm{\Omega }$ загораживает ус $M_1^{+}$в точке пересечения ${\xi }_1$ усов $M_1^{+}$и $M_2^{-}$. Следовательно, многообразие $M_2^{-}$пересекает открытое множество $\mathrm{\Omega }$. Пусть ${\xi }_1^{\prime }\in M_2^{-}\cap \mathrm{\Omega }$, тогда вся окрестность $U_1$ точки ${\xi }_1^{\prime }$ принадлежит $\mathrm{\Omega }$. Будущее окрестности $U_1$ принадлежит $\mathrm{\Omega }$. Достаточно повторить те же рассуждения $s$ раз, чтобы убедиться в том, что $\mathrm{\Omega }$ загораживает $M_s^{+}$в точке $\eta$.

D) Пример неустойчивой системы 23.9
Пусть $\mathrm{\Omega }={\mathbb{R}}^2\times {\mathbb{T}}^3$ — пятимерное пространство
$$I_1,I_2,{\phi }_1,{\phi }_2,t({\phi }_1,{\phi }_2,t(mod2\pi )).{}^{26}$$

Рассмотрим систему, функция Гамильтона которой имеет вид
$$\begin{array}{c}H=\frac{1}{2}(I_1^2+I_2^2)+\epsilon (1+\mu B)\cos ({\phi }_1-1),\\ B=\sin {\phi }_2+\cos t,\end{array}$$
т.е. систему дифференциальных уравнений
$$\begin{array}{c}{\dot{\phi }}_1=I_1,{\dot{\phi }}_2=I_2,{\dot{I}}_1=\epsilon \sin {\phi }_1(1+\mu B),\\ {\dot{I}}_2=\epsilon (1-\cos {\phi }_1)\mu \cos {\phi }_2,\end{array}$$

где $\mu \ll \epsilon \ll 1$ — два параметра.

Теорема 23.11. Пусть $0<A<B$. При любом $\epsilon >0$ существует ${\mu }_0={\mu }_0(A,B,\epsilon )>0$ такое, что для $0<\mu <{\mu }_0$ система (23.10) имеет решение, удовлетворяющее при некотором $t$ неравенствам $I_2(0)<A$, $I_2(t)>B$.

В силу леммы (23.8) для доказательства теоремы достаточно найти переходную цепочку ${\mathbb{T}}_1,\dots ,{\mathbb{T}}_s$ такую, что $I_2<A$ на ${\mathbb{T}}_1$ и $I_2>B$ на ${\mathbb{T}}_s$. Лемма 23.12. Для системы (23.10) любой двумерный тор ${\mathbb{T}}_{\omega }$, заданный соотношениями $I_1={\phi }_1=I_2-\omega =0$, где $\omega$ — иррациональное число, есть усатый тор.

Действительно,
1) ясно, что ${\mathbb{T}}_{\omega }-$ инвариантный тор системы (23.10);
2) при $\mu =0$ трехмерные усы определяются уравнениями
$$I_1=\pm 2\sqrt{\epsilon }\sin \frac{{\phi }_1}{2},I_2=\omega ;$$
3) при $\mu <{\mu }_0(\epsilon )$ усы еще существуют и могут быть найдены методом Адамара (см. $\mathrm{\S }15$, гл. 3). Рассуждение леммы (23.5) доказывает, что торы ${\mathbb{T}}_{\omega }$ также являются переходными торами. Наконец, используя вариационные формулы для усов при «малом» $\mu$, мы доказываем следующую лемму.

Лемма 23.13. Пусть $A<\omega <B$. Тогда исходящий ус $M_{\omega }^{+}$тора ${\mathbb{T}}_{\omega }$ трансверсально пересекает входящие усы $M_{\omega }^{-}$близких торов ${\mathbb{T}}_{{\omega }^{\prime }}$ (поскольку $|\omega -{\omega }^{\prime }|⩽\alpha$, где $\alpha =\alpha (\epsilon ,\mu ,A,B)>0)$.

Для доказательства этой леммы необходим анализ, который приведен в работе В.И.Арнольда [13]. Этот анализ также показывает, что $\alpha \sim \mu \cdot e^{\frac{-1}{\sqrt{\epsilon }}}\cdot$ Из лемм (23.12) и (23.13) следует, что усатые торы ${\mathbb{T}}_{{\omega }_1},\dots ,{\mathbb{T}}_{{\omega }_s}({\omega }_i$ иррациональны, $|{\omega }_i-{\omega }_{i+1}|⩽\alpha ,{\omega }_1<A,{\omega }_s>B)$ образуют цепочку. Теорема (23.11) следует из леммы (23.8), примененной к этой цепочке.