Определение 3.3. Интегрируемая гамильтонова система называется топологически устойчивой на изоэнергетической поверхности $Q_{h_{0}}^{3}=\left\{H=h_{0}\right\}$, если при достаточно малых изменениях уровня энергии структура лиувиллева слоения системы не меняется. Другими словами, системы $\left(v, Q_{h_{0}}^{3}\right)$ и $\left(v, Q_{h_{0}+\varepsilon}^{3}\right)$ при достаточно малых $\varepsilon$ лиувиллево эквивалентны.
Рис. 3.15
Что на самом деле означает топологическая устойчивость системы? Легко видеть, что множество классов лиувиллевой эквивалентности интегрируемых гамильтоновых систем (с боттовскими интегралами) в естественном смысле дискретно. Поэтому можно ожидать, что для конкретной системы имеется лишь конечное число бифуркационных значений энергии, при которых топология лиувиллева слоения скачком меняется. Такие значения энергии могут быть легко распознаны с помощью бифуркационной диаграммы отображения момента $(H, f): M^{4} \rightarrow \mathbb{R}^{2}$. Если прямая $\left\{H=h_{0}\right\}$ на плоскости $\mathbb{R}^{2}$ пересекает бифуркационную диаграмму трансверсально (рис. 3.15) и не проходит через ее особые точки, то система топологически устойчива на $Q^{3}=\left\{H=h_{0}\right\}$. В противном случае, как правило, значения $h_{0}$ являются бифуркационными.

В предыдущем параграфе мы показали, что окрестность особого слоя лиувиллева слоения имеет структуру ориентируемого расслоения Зейферта. Можно ли задать ориентацию на слоях этого расслоения некоторым каноническим образом? Один из возможных способов сделать это таков. Критические окружности интеграла $f$ являются одновременно слоями расслоения Зейферта и замкнутыми траекториями рассматриваемой гамильтоновой системы. Поэтому на каждой из этих окружностей уже имеется каноническая ориентация, задаваемая потоком. Эту ориентацию и можно было бы взять в качестве канонической ориентации слоев расслоения Зейферта. Однако, предварительно необходимо убедиться в том, что ориентации всех этих критических окружностей согласованы друг с другом, т.е. попросту совпадают (мы можем сравнивать между собой их ориентации, поскольку все они являются слоями одного и того же связного ориентируемого расслоения Зейферта). Оказывается, что достаточным условием согласованности ориентаций является топологическая устойчивость системы.

Пусть $Q^{3}=Q_{h_{0}}^{3}=\left\{H=h_{0}\right\}$ – изоэнергетическая поверхность интегрируемой гамильтоновой системы $v=\operatorname{sgrad} H$ на симплектическом 4-многообразии $M^{4}$. Пусть $f: Q^{3} \rightarrow \mathbb{R}$ – боттовский интеграл системы $v$, и $L$ – особый слой слоения Лиувилля на $Q$, задаваемого функцией $f$. Пусть далее $S_{1}, \ldots, S_{k}$ – критические окружности интеграла $f$, лежащие на особом слое $L$ и ориентированные потоком $v$.

Предложение 3.8. Если система $v$ является топологически устойчивой на $Q^{3}$, то все окружности $S_{1}, \ldots, S_{k}$ имеют одинаковую ориентацию.
Доказательство.
Рассмотрим сначала каждую из критических окружностей $S_{1}, \ldots, S_{k}$ по отдельности. Поскольку окружность $S_{i}$ невырождена, то с точки зрения объемлющего многообразия $M^{4}$ она содержится в однопараметрическом семействе $S_{i}(\varepsilon)$ невырожденных замкнутых одномерных орбит пуассонова действия группы $\mathbb{R}^{2}$ (порожденной полями sgrad $H$ и sgrad $f$ ). Рассмотрим образ этого семейства при отображении момента $\mathcal{F}: M^{4} \rightarrow \mathbb{R}^{2}$. Это будет некоторая гладкая кривая $\delta_{i}-$ часть бифуркационной диаграммы (см. предложение 1.18, глава 1 ).

Выясним, что происходит с особым слоем $L$ слоения Лиувилля при малом изменении значения $h$ гамильтониана $H$. В силу топологической устойчивости системы $v$ структура особого слоя $L$ не меняется. В частности, критические окружности $S_{1}(\varepsilon), \ldots, S_{k}(\varepsilon)$ остаются на одном особом слое $L(\varepsilon) \subset Q_{h_{0}+\varepsilon}^{3}$ при любом достаточно малом $\varepsilon$ (т.е. не расползаются на разные особые слои). Отсюда следует, что все кривые $\delta_{1}, \ldots, \delta_{k}$ совпадают. Обозначим их просто через $\delta$. В силу предложения 1.18 главы 1 на критических окружностях $S_{1}, \ldots, S_{k}$ выполнено соотношение:
\[
b \operatorname{sgrad} H-a \operatorname{sgrad} f=0,
\]

где $a$ и $b$ – координаты касательного вектора к кривой $\delta$.
Здесь важным является тот факт, что в случае топологически устойчивой системы коэффициенты $a$ и $b$ линейной зависимости векторных полей $\operatorname{sgrad} H$ и $\operatorname{sgrad} f$ – одни и те же для всех критических окружностей $S_{1}, \ldots, S_{k}$, лежащих на одном связном особом слое слоения Лиувилля.

Для того, чтобы доказать согласованность ориентаций всех окружностей $S_{1}, \ldots, S_{k}$, достаточно сравнить направления векторных полей $\operatorname{sgrad} H$ и $\operatorname{sgrad} F$, где $F$ – периодический интеграл, существующий согласно теореме 3.2 и задающий структуру ориентированного расслоения Зейферта на 3 -многообразии $U(L)$. Согласно теореме 3.2 , существуют такие постоянные $\lambda$ и $\mu$, что на всем особом слое $L$ имеет место соотношение:
\[
\operatorname{sgrad} F=\lambda \operatorname{sgrad} H+\mu \operatorname{sgrad} f .
\]

А поскольку выполнено также равенство
\[
b \operatorname{sgrad} H-a \operatorname{sgrad} f=0,
\]

то на всех критических окружностях $S_{1}, \ldots, S_{k}$ мы получаем одно и то же соотношение:
\[
\operatorname{sgrad} F=\left(\lambda+\mu \frac{b}{a}\right) \operatorname{sgrad} H .
\]

Отсюда видно, что векторы $\operatorname{sgrad} F$ и $\operatorname{sgrad} H$ либо одинаково ориентированы, либо направлены в противоположные стороны одновременно на всех критических окружностях. В любом случае ориентации на $S_{1}, \ldots, S_{k}$, задаваемые векторным полем sgrad $H$, совпадают между собой. Предложение доказано.
Рис. 3.16
Следствие. Если интегрируемая система топологически устойчива, то слои расслоения Зейферта на $U(L)$ могут быть канонически ориентированы так, чтобы на критических окружностях $S_{1}, \ldots, S_{k}$ эта ориентация совпадала с направлением гамильтонова потока $v=\operatorname{sgrad} H$.
Как ведут себя интегральные траектории поля $\operatorname{sgrad} H$ на особом слое $L$ ?
Рассмотрим особый слой $L$. Выбросим из него все критические окружности $S_{1}, \ldots, S_{k}$ интеграла $f$ (т.е. все критические периодические решения). Слой $L$ распадется в несвязное объединение некоторого числа колец. Эти кольца могут быть нескольких типов.
Предложение 3.9. Возможны (с точностью до диффеоморфизма) только следующие три случая (рис. 3.16):
а) Все интегральные траектории поля $v$ замкнуты на кольце. Этот случай назовем резонансным.
б) Все интегральные траектории незамкнуты, причем граничные окружности кольца являются для каждой из них предельными циклами, имеющими одинаковые ориентации.
в) Все интегральные траектории незамкнуты, причем граничные окружности кольца являются для каждой из них предельными ииклами, имеющими противоположные ориентации.

Доказательство.
Рассмотрим произвольное кольцо, векторное поле $v=\operatorname{sgrad} H$ на нем и периодический интеграл $F$. Тогда на внутренности этого кольца имеем: $u=\operatorname{sgrad} F=$ $=\lambda \operatorname{sgrad} H+\mu \operatorname{sgrad} f$, где $\lambda$ и $\mu$ – вещественные числа. Поскольку все интегральные траектории поля $u$ замкнуты с периодом $2 \pi$, то мы можем ввести естественные координаты $(t, \varphi)$ на кольце, где $t \in[0,1], \varphi \in \mathbb{R} \bmod 2 \pi$, такие, что $u=\frac{\partial}{\partial \varphi}$. Возможны два случая: $\mu=0$ и $\mu
eq 0$. В первом случае все траектории поля $v=\operatorname{sgrad} H$ замкнуты и мы получаем ситуацию, изображенную на рис. 3.16(a). Во втором случае мы имеем:
\[
v=\operatorname{sgrad} H=a(t) \frac{\partial}{\partial t}+b(t) \frac{\partial}{\partial \varphi},
\]

где $a(t)$ и $b(t)$ – некоторые гладкие функции на отрезке $[0,1]$. Эти функции не зависят от $\varphi$, поскольку $v$ и $u=\frac{\partial}{\partial \varphi}$ коммутируют. Отметим, что в этом случае $a(t)$ не обращается в ноль на интервале $(0,1)$ в силу линейной независимости $\operatorname{sgrad} H$ и $\operatorname{sgrad} F=\frac{\partial}{\partial \varphi}$. Траектории векторного поля $v=\operatorname{sgrad} H$ могут быть теперь представлены явной формулой:
\[
\varphi(t)=\int_{t_{0}}^{t} \frac{b(t)}{a(t)} d t+\text { const. }
\]

Проанализируем ее. Функция $a(t)$ обращается в ноль на концах отрезка $[0,1]$, т.е. на граничных окружностях кольца, поскольку эти окружности являются траекториями поля $\operatorname{sgrad} H$, т.е. $\operatorname{sgrad} H$ пропорционально $\frac{\partial}{\partial \varphi}$ на границе. Отсюда же следует, что $b(t)$ принимает на концах отрезка $[0,1]$ конечные ненулевые значения. Таким образом, функция $\varphi(t)$, задающая интегральные траектории $v=\operatorname{sgrad} H$, определена на всем интервале $(0,1)$ и стремится к бесконечности при $t \rightarrow 0$ и при $t \rightarrow 1$. Если знаки этих бесконечностей совпадают, мы имеем случай (б) (рис. 3.16(b)), если различны – случай (в) (рис. 3.16(c)). Предложение 3.9 доказано.

Предложение 3.10. Если интегрируемая система топологически устойчива, то особый слой $L$ не имеет колец типа (в).
Доказательство.
Граничные окружности кольца, очевидно, являются замкнутыми интегральными траекториями поля $v=\operatorname{sgrad} H$. Ясно, что в случае (в) ориентации граничных окружностей, заданные направлением поля $v$, различны (рис. 3.16-с). Однако, в силу предложения 3.8 ориентации всех критических окружностей, лежащих на данном связном слое $L$, должны совпадать для топологически устойчивых систем. Полученное противоречие доказывает предложение.

Комментарий. Пусть $L$ – особый слой интегрируемой топологически устойчивой системы. Утверждается, что тогда все кольца этого особого слоя либо одновременно имеют тип (а), либо одновременно имеют тип (б).
В самом деле, достаточно воспользоваться соотношением
\[
u=\operatorname{sgrad} F=\lambda \operatorname{sgrad} H+\mu \operatorname{sgrad} f,
\]

которое выполнено одновременно на всех кольцах особого слоя $L$. Если $\mu=0$, то траектории векторного поля $\operatorname{sgrad} H$ совпадают в траекториями векторного поля $\operatorname{sgrad} F$ и потому замкнуты на всех кольцах особого слоя. Напротив, если $\mu
eq 0$, то траектории поля sgrad $H$ на всех кольцах (одновременно) незамкнуты.