Теорема 2.1.
a) Любую невырожденную интегрируемую гамильтонову систему $v=\mathrm{sgrad}H$ малым возмущением в слабой метрике можно сделать интегрируемой вырожденной на заданном уровне энергии $\{H=h\}$.
б) У любой невырожденной интегрируемой гамильтоновой системы малым возмущением в слабой метрике можно разрушить топологическую структуру, добавив сколь угодно много критических невырожденных окружностей на заданном уровне гамильтониана, сохранив интегрируемость и невырожденность новой системы.

Доказательство.
Пусть $T_1$ — регулярный тор системы $v=\mathrm{sgrad}H$. В его окрестности существуют канонические координаты действие-угол $I_1,I_2,{\varphi }_1,{\varphi }_2$, такие, что $H=H(I_1,I_2)$, а траектории системы $v=\mathrm{sgrad}H-$ прямолинейные обмотки торов. Если необходимо, то, возмутив функцию $H(I_1,I_2)$, можно считать, что вблизи $T_1$ существует регулярный тор $T$, на котором указанная обмотка — замкнутая.
Рис. 1

Тогда можно выбрать новые координаты действие-угол (мы их будем далее обозначать точно так же) так, что на торе $T$ векторные поля $v=\mathrm{sgrad}H$ и $\mathrm{sgrad}{I}_1$ линейно зависимы. Для построения таких координат надо взять в качестве первой образующей интегральные замкнутые траектории векторного поля $\mathrm{sgrad}H$ на торе $T$.

Рассмотрим $I_1$ в качестве дополнительного интеграла в окрестности $T$. Можно считать, что $I_i(T)=0$ и $\frac{{\partial }^{2}H}{\partial I_2^2}eq0$. Пусть
$$\mathcal{H}=\{H\mid \{H,I_1\}=0\text{ в малой окрестности }{T}_1\}$$
— множество интегралов потока векторного поля $\mathrm{sgrad}{I}_1$. Это в точности те функции, которые не зависят от ${\varphi }_1$. Будем возмущать $H$ в классе $\mathcal{H}$. Пусть $h={H|}_{{\varphi }_1=0}$. Заметим, что $h$ — регулярная функция от $I_1,I_2,{\varphi }_2$. Ясно, что любая функция $Y\in \mathcal{H}$ имеет вид $Y=Y(I_1,I_2,{\varphi }_2)$. Поэтому мы сделаем следующим образом. ${I_1|}_{h=\alpha }$ имеет неморсовские особенности (окружность). Возмутим $h:\tilde{h}=h+\epsilon g(I_1,I_2)\sin \left(k{\varphi }_2\right)$, где $g$ — такая гладкая функция, которая в достаточно малой окрестности нуля не равна нулю, а вне несколько большей окрестности равна нулю. Нетрудно проверить, что ${I_1|}_{\tilde{h}=\alpha }$ будет иметь только морсовские особенности — $k$ седловых и столько же минимальных или максимальных точек. На рис. 1 показана перестройка линий уровня функции ${I_1|}_{h=\alpha }$ в линии уровня функции ${I_1|}_{\tilde{h}=\alpha }$ при указанном возмущении для $k=4$. Затем, получив $\tilde{h}$, мы построим функцию $\tilde{H}$.

Ясно, что новая система будет опять интегрируемой, совпадать вне некоторой окрестности тора $T$ с исходной системой, а около $T$ она будет иметь $k$ седловых окружностей и $k$ минимальных или максимальных окружностей, в зависимости от знака возмущающего параметра $\epsilon$. Мы доказали пункт б) теоремы. Теперь докажем пункт а).

Чтобы получилась неботтовская система, достаточно вместо синуса при возмущении взять функцию $w$, например такую, что
1) $w(t)$ — периодическая с периодом $2\pi$;
2) для малого $\delta >0$, на отрезке $[\delta ,\pi -\delta ],w(t)=\sin (2t)$;
3) вне $[0,\pi ]w(t)=0$.

Ясно, что в таком случае получившаяся система не будет боттовской, поскольку у нее будет критический слой, гомеоморфный цилиндру. Пункт а) доказан. Теорема доказана.

В доказательстве теоремы было использовано свойство интеграла $I_1$, что все интегральные траектории векторного поля $\mathrm{sgrad}{I}_1$ замкнуты. Это приводит к следующему определению.
Определение 2.4. Назовем интеграл $F$ системы sgrad $H$ периодическим в некоторой области, если в этой области у $F$ нет критических точек, и все траектории системы $\mathrm{sgrad}F$ в этой области замкнуты. Естественно, предполагается, что указанная область инвариантна относительно потока векторного поля $\mathrm{sgrad}F$.
Лемма 2.1. Пусть $O$ — боттовская относительно периодического интеграла $F$ седловая окружность системы $\mathrm{sgrad}H$. Пусть $\tilde{H}$ — малое возмущение в слабой метрике гамильтониана $H$. Тогда вблизи $О$ останется критическая окружность новой системы.
Доказательство леммы.
Пусть $\mathrm{\Pi }-3$-трансверсаль к $O$, и ${\mathrm{\Pi }}_{\alpha }=\mathrm{\Pi }\cap Q_{\alpha }$. Рассмотрим проекцию поля $\mathrm{sgrad}H$ на П вдоль траекторий поля $\mathrm{sgrad}F$. Положим $\xi =d\pi (\mathrm{sgrad}H)-$ векторное поле на ${\mathrm{\Pi }}_{\alpha }$. Пусть $x=\mathrm{\Pi }\cap O$. Покажем, что $\xi$ имеет невырожденную линейную часть в точке $x$. Рассмотрим в окрестности $O$ канонические координаты $q_1=F,q_2,p_1,p_2$. Нам достаточно рассмотреть только линейную и квадратичную части $H$. Тогда с точностью до членов более высоких порядков
$$H=a{q}_1+b{q}_1^2+c{q}_2^2+d{p}_1^2+e{p}_2^2+f{q}_1{q}_2+g{q}_2{p}_2+h{q}_2{p}_1+k{q}_1{p}_2+m{p}_1{p}_2.$$

Легко вычислить, что
$$d\xi =\left(\begin{array}{cc}g& 2e\\ -2c& -g\end{array}\right).$$

Поскольку $O$ — окружность седловая, то $4ce-g^2<0$. Собственные числа равны $\pm \sqrt{g^2-4ce}$. Предположим, что сепаратрисные диаграммы ориентируемы. Пусть $\tau (y)$ — время, за которое траектория системы $\mathrm{sgrad}H$, выпущенная из точки $y\in {\mathrm{\Pi }}_{\alpha }$, вернется в ${\mathrm{\Pi }}_{\alpha }$. Ясно, что $\tau (y)$ определено вблизи $x$. Пусть ${\mathrm{\Phi }}_t(\xi )$ — диффеоморфизм сдвига вдоль векторного поля $\xi$ на время $t$. Тогда $\sigma (x)={\mathrm{\Phi }}_{\tau (x)}(\xi )(x)$ — отображение последования на ${\mathrm{\Pi }}_{\alpha }$ и $d\sigma =e^{d\xi }$. Его собственные числа не равны 1 . Следовательно, при возмущении останется неподвижная точка, и собственные числа линейной части не будут равны 1. Заметим, что если замкнутая траектория лежит на регулярном торе, то соответствующие собственные числа равны 1. Следовательно, вблизи $O$ останется критическая замкнутая траектория.

Если $O$ имеет неориентируемую сепаратрисную диаграмму, то ясно, что собственные числа $d\sigma$ в точке $x$ отрицательны и заведомо не равны 1. Лемма доказана.

В указанной формулировке леммы 2.1 седловые окружности нельзя, вообще говоря, заменить на любые боттовские окружности. Однако, очевидно, утверждение теоремы останется верным, если сразу потребовать, чтобы собственные

Об устойчивости топологической структуры боттовских интегрируемых систем 421
числа производной отображения последования были отличны от 1. Боттовские окружности с таким свойством будем называть сильно боттовскими.

Обозначим через $B_n\subset \mathbf{H}$ множество интегрируемых невырожденных систем, имеющих на заданном уровне гамильтониана ровно $n$ седловых окружностей. Так как множество критических окружностей конечно в компактном случае, то $B=\cup B_n$ является множеством всех систем, невырожденных на заданном уровне гамильтониана.

При доказательстве теоремы 2.1 мы получили новые седловые окружности, невырожденные относительно периодического интеграла $I_1$. Комбинируя утверждение теоремы 2.1 и леммы 2.1, получаем следствие.
Следствие 1. Подмножество $B_n$ нигде не плотно в $\mathbf{H}$ и нигде не плотно в $B$.
Следствие 2. Метрическое пространство $B$ — пространство первой бэровской категории.

Результаты этого параграфа можно подытожить следующим образом. При возмущениях в слабой метрике топологическая структура интегрируемой гамильтоновой системы неустойчива. Более того, нет областей устойчивости, так как топологическую структуру любой интегрируемой системы можно разрушить. При возмущении невырожденной системы в слабой метрике у возмущенной системы (как правило) наследуются старые критические окружности. Однако при этом могут возникнуть новые критические множества. Боттовские системы с ограниченной сложностью (т.е. с ограниченным числом седловых окружностей) образуют подмножество, нигде не плотное в пространстве всех интегрируемых систем.

Заметим, что сохранение старых невырожденных окружностей понимается в том смысле, что эти критические окружности «выживут», оставшись критическими, но могут при этом слегка продеформироваться. Это не означает, что они будут оставаться невырожденными. Действительно, для примера можно рассмотреть минимальную сильно боттовскую окружность $O$. Последовательно применяя теорему 2.1 ко все более близким к $O$ торам, мы получим в пределе, что окружность $O$ не будет боттовской, так как не будет изолированной на $Q^3$.