Здесь мы приведем пример неустойчивой интегрируемой гамильтоновой системы, у которой действительно есть кольцо особого слоя типа (в), см. рис. 3.16-с.
Рис. 3.17
Рассмотрим двумерную поверхность $P$ в $\mathbb{R}^{3}(x, y, z)$, изображенную на рис. 3.17. Функция высоты $f=z$ на этой поверхности имеет единственное критическое значение $z=0$ и две критические точки $A$ и $B$, лежащие на этом уровне. Пусть $H(x, y, z)$ – гладкая функция, для которой $P$ является неособой поверхностью уровня, т.е. $P=\{H=0\}$ и $\left.d H\right|_{P}
eq 0$.

Рассмотрим теперь в качестве симплектического многообразия прямое произведение $\mathbb{R}^{3} \times S^{1}$ с симплектической структурой $\omega=d x \wedge d y+d z \wedge d \varphi$. Легко видеть, что функции $H$ и $f$ коммутируют, и поэтому гамильтонова система $v=\operatorname{sgrad} H$ является интегрируемой.

Рассмотрим особый слой $L$ слоения Лиувилля, задаваемый двумя уравнениями $H=0$ и $f=0$. Слой $L$ содержит две критические окружности $\{A\} \times S^{1}$ и $\{B\} \times S^{1}$. Сравним ориентации этих окружностей, задаваемые потоком $v=\operatorname{sgrad} H$. Заметим для этого, что траектории потока $\operatorname{sgrad} f$ замкнуты и задают в окрестности $U(L)$ структуру ориентированного расслоения Зейферта (другими словами, $f$ является периодическим интегралом системы). Поэтому

для сравнения ориентаций на окружностях нам следует сравнить между собой направления потоков $\operatorname{sgrad} f$ и $\operatorname{sgrad} H$. Предположим для определенности, что градиент функции $H$ в точке $A \in P \subset \mathbb{R}^{3}$ направлен вертикально вверх, т.е. в ту же сторону, что и градиент функции $f=z$. Тогда, как нетрудно увидеть из рис. 3.17, в точке $B$ градиент функции $H$ будет направлен вертикально вниз так, что направления $\operatorname{grad} H(B)$ и $\operatorname{grad} f(B)$ будут противоположны. Таким образом, на окружности $\{A\} \times S^{1}$ потоки $\operatorname{sgrad} H$ и $\operatorname{sgrad} f$ направлены в одну сторону, а на $\{B\} \times S^{\mathbf{1}}$ – в разные. Следовательно, ориентации, задаваемые на критических окружностях $\{A\} \times S^{1}$ и $\{B\} \times S^{1}$ гамильтоновым потоком $v=\operatorname{sgrad} H$, различны.

Особый слой $L$ помимо двух критических окружностей содержит четыре двумерные орбиты, каждая из которых гомеоморфна кольцу. Посмотрим, как ведут себя траектории поля $v$ на этих кольцах. Среди этих четырех колец имеются два, примыкающие одновременно к критическим окружностям $\{A\} \times S^{1}$ и $\{B\} \times S^{1}$. Поскольку поток $v$ бежит по этим окружностям в разные стороны, то поведение траекторий на этих кольцах будет таким, как показано на рис. 3.16-с. На двух оставшихся кольцах поведение траекторий будет соответствовать рис. 3.16-b. Действительно, на граничных окружностях каждого из этих колец поток задает одинаковое направление просто потому, что эти окружности совпадают между собой.

Наконец, отметим, что построенная гамильтонова система не является топологически устойчивой на изоэнергетической поверхности $\{H=0\}$. Действительно, особые точки функции высоты $f=z$ на поверхности $\{H=\varepsilon\} \subset \mathbb{R}^{3}$ при $\varepsilon
eq 0$ оказываются на разных уровнях. С точки зрения гамильтоновой системы это означает, что при малом изменении уровня энергии критические окружности оказываются на разных особых слоях лиувиллева слоения. В результате особый слой $L$ распадается на два более простых, меняя структуру слоения.