Рассмотрим гамильтонову систему $v=\operatorname{sgrad} H$ на четырехмерном симплектическом многообразии $M^{4}$.

Определение 1.19. Изоэнергетической поверхностью называется множество точек, задаваемое уравнением $H(x)=$ const.

Если $H(x)=h$, то соответствующую изоэнергетическую поверхность обозначим через $Q_{h}$. Она всегда является инвариантной поверхностью относительно поля $v$.

Рассмотрим трехмерную изоэнергетическую поверхность $Q^{3}$. Мы будем в дальнейшем предполагать ее гладким компактным подмногообразием в $M^{4}$. В частности, мы будем рассматривать лишь такие 3 -поверхности, на которых $d H
eq 0$.

В случае двух степеней свободы для интегрируемости системы $v$ достаточно иметь лишь один дополнительный интеграл $f$, функционально независимый с интегралом энергии $H$. Этот интеграл $f$, ограниченный на $Q^{3}$, является гладкой функцией, у которой всегда есть какие-то критические точки (ввиду компактности $Q$ ). Ясно, что критические точки функции $f$ на $Q$ совпадают с критическими точками отображения момента $\mathcal{F}=(H, f)$, попавшими в $Q$. Поэтому особенности отображения момента естественно изучать в терминах ограничения функции $f$ на $Q$. Это ограничение будем по-прежнему обозначать той же буквой $f$.

Лемма 1.7. Интеграл $f$ не может иметь изолированных критических точек на $Q$.

Доказательство.
Согласно нашему предположению $\left.d H\right|_{Q}
eq 0$. Отсюда вытекает, что векторное поле $v=\operatorname{sgrad} H$ отлично от нуля в каждой точке $Q$. Рассмотрим интегральную траекторию $\gamma$ векторного поля $v$, проходящую через критическую точку $x$ интеграла $f$. Гамильтонов поток $v$ сохраняет функцию $f$ и, в частности, переводит критические точки в критические. Поэтому траектория $\gamma$ целиком состоит из критических точек. Лемма доказана.

Итак, интеграл $f$ никогда не может быть функцией Морса на неособой изоэнергетической 3 -поверхности. К какому же классу он в действительности принадлежит? Оказывается, в реальных задачах физики и механики типична ситуация, описанная в следующем определении.

Определение 1.20. Функция $f$ называется функцией Ботта на многообразии $Q$, если все ее критические точки организованы в невырожденные критические подмногообразия.

Это означает, что множество критических точек является несвязным объединением некоторых гладких подмногообразий, причем каждое из них невырождено в следующем смысле. Второй дифференциал $d^{2} f$ невырожден на подпространстве, трансверсальном к подмногообразию (в каждой его точке).

Другими словами, ограничение функции $f$ на трансверсаль к подмногообразию является функцией Морса.

Появление таких функций в теории интегрируемых систем очень естественно. Грубо говоря, они играют здесь такую же роль, как функции Морса в обычной теории функций на многообразиях, то есть являются максимально невырожденными с точки зрения пуассоновых действий.

Ниже, в нашей книге, мы еще вернемся к вопросу о том, в каком смысле устойчивы и типичны функции Ботта в классе гладких интегралов гамильтоновых систем. См. приложение 2 и [72], [73], [138].

Рассмотрим интегрируемую систему $v$, и пусть ее интеграл $f$ является функцией Ботта на какой-то изоэнергетической регулярной компактной 3 -поверхности $Q$.

Предложение 1.15. Связные критические подмногообразия интеграла $f$ на $Q$ диффеоморфны либо окружности, либо тору, либо бутылке Клейна.

Доказательство.
Поскольку $Q$ трехмерно, то критические подмногообразия функции $f$ могут быть либо одномерны, либо двумерны. В одномерном случае каждая связная компонента такого подмногообразия является окружностью в силу компактности. В двумерном случае на нем есть гладкое векторное поле $v=\operatorname{sgrad} H$, не обращающееся в ноль (т.к. мы предположили, что $d H
eq 0$ на $Q$ ). На двумерных многообразиях такое поле может существовать лишь на торе и на бутылке Клейна (только у них эйлерова характеристика равна нулю). Предложение доказано.

Таким образом, критические подмногообразия устроены довольно просто. В нашей книге (в случае двух степеней свободы) мы будем рассматривать, главным образом, такие интегрируемые системы, у которых на интересующей нас 3 -поверхности $Q$ нет критических торов и бутылок Клейна. Другими словами, обычно мы будем изучать системы, критическими подмногообразиями которых будут только окружности.
Такой подход мотивируется двумя причинами.

Причина 1. В реальных задачах физики и механики чаще всего встречаются именно такие системы.

Причина 2. Можно доказать (см. [72], [73]), что малым шевелением интегрируемой системы с интегралом Ботта можно всегда превратить ее в интегрируемую систему указанного типа, т. е. превратить критические торы и бутылки Клейна в набор невырожденных критических окружностей. Более того, такое возмущение можно сделать внутри класса интегрируемых систем с интегралами типа Ботта.

Ниже нам понадобится аналог леммы Морса для случая функций Ботта. Мы сформулируем и докажем эту лемму Морса-Ботта для случая произвольной размерности.

Пусть $M$ – ориентируемое гладкое многообразие и $f$ – гладкая функция на нем. Пусть $N^{n-k}$ – связное гладкое компактное подмногообразие в $M^{n}$ с тривиальным нормальным расслоением. Предположим, что $N$ – невырожденное критическое подмногообразие для функции $f$, то есть $d f(x)=0$ для любой точки $x \in N$, и в каждой такой точке 2 -форма $d^{2} f$ является невырожденной на трансверсальном подпространстве к $N$. Пусть индекс формы $d^{2} f$ равен $\lambda$. Легко видеть, что в этих предположениях $\lambda$ не зависит от выбора точки $x$ на $N$.

Рассмотрим далее в нормальном расслоении $E(N)$ к $N$ два подрасслоения $E_{-}$и $E_{+}$, ортогональные относительно формы $d^{2} f$ функции $f$ и такие, что гессиан $d^{2} f$ отрицательно определен на подрасслоении $E_{-}$и положительно определен на $E_{+}$. Эти подрасслоения могут быть построены следующим образом. Пусть в окрестности подмногообразия $N$ задана какая-либо риманова метрика. В каждой

точке $x \in N$ форму $d^{2} f$ можно теперь привести к диагональному виду в некотором ортонормированном базисе. Хотя этот базис определен, вообще говоря, неоднозначно, однако однозначно определены две плоскости (в плоскости, нормальной к подмногообразию) $E_{+}(x)$ и $E_{-}(x)$, натянутые на векторы ортонормированного базиса, отвечающие положительным и отрицательным собственным значениям гессиана $d^{2} f$. Ясно, что топологический тип подрасслоений $E_{+}$и $E_{-}$ не зависит от выбора римановой метрики в окрестности $N$. Отметим, что размерность $E_{-}(x)$ равна $\lambda$.

Предложение 1.16 (Обобщенная лемма Морса-Ботта). Предположим, что оба подрасслоения $E_{+}$и $E_{-}$тривиальны. Тогда в некоторой окрестности $U(N)$ подмногообразия $N$ всегда существуют такие гладкие независимые всюду на $U(N)$ функции $x_{1}, \ldots, x_{k}$ такие, что $\left.x_{i}\right|_{N}=0$ при всех $i=1,2, \ldots, k u$
\[
f=c-x_{1}^{2}-\ldots-x_{\lambda}^{2}+x_{\lambda+1}^{2}+\ldots+x_{k}^{2},
\]

где $c=\left.f\right|_{N}$.
Доказательство.
Рассмотрим в слоях $E_{+}(x)$ и $E_{-}(x)$ расслоений $E_{+}$и $E_{-}$ортонормированные (относительно формы $d^{2} f$ ) базисы $e_{1}(x), \ldots, e_{\lambda}(x)$ и $e_{\lambda+1}(x), \ldots, e_{k}(x)$, гладко зависящие от точки $x$ из $N$. Такие базисы существуют, поскольку оба расслоения $E_{+}$и $E_{-}$тривиальны. Ясно, что координаты $y_{1}, \ldots, y_{\lambda}, y_{\lambda+1}, \ldots, y_{k}$ (относительно выбранного нами ортонормированного базиса) в нормальном расслоении можно рассмотреть как гладкие независимые функции в некоторой окрестности подмногообразия $N$. Локально эту окрестность можно отождествить с окрестностью нулевого сечения нормального расслоения. Эту систему функций (координат) $y_{1}, \ldots, y_{\lambda}, y_{\lambda+1}, \ldots, y_{k}$ можно дополнить функциями $y_{k+1}, \ldots, y_{n}$ до локальной системы координат, определенной в окрестности данной точки из $N$. При этом функции $y_{1}, \ldots, y_{\lambda}, y_{\lambda+1}, \ldots, y_{k}$ определены сразу на всей окрестности $U(N)$, а функции $y_{k+1}, \ldots, y_{n}$ – лишь в некоторой окрестности данной точки на подмногообразии $N$. Без ограничения общности можно считать, что функции $y_{k+1}, \ldots, y_{n}$ являются локальными координатами на $N$ и постоянны на слоях расслоения $E(N)$. Для дальнейшего удобно задать положение точки $y$ следующим набором: $\left(y_{1}, \ldots, y_{k}, \alpha\right)$, где $\alpha$ обозначает точку на подмногообразии $N$, являющемся базой нормального расслоения $E(N)$. Тогда квадратичная форма $d^{2} f$ в точках подмногообразия $N$ принимает следующий вид:
\[
d^{2} f=-d y_{1}^{2}-\ldots-d y_{\lambda}^{2}+d y_{\lambda+1}^{2}+\ldots+d y_{k}^{2} .
\]

После этого мы можем фактически дословно повторить доказательство обычной (классической) леммы Морса применительно к функции $f\left(y_{1}, \ldots, y_{k}, \alpha\right)$, рассматривая при этом $\alpha$ как некоторый многомерный параметр. Следуя стандартному доказательству леммы Морса [129], представим функцию $f(y)$ в виде
\[
f\left(y_{1}, \ldots, y_{k}, \alpha\right)=\sum_{1 \leqslant i, j \leqslant k} y_{i} y_{j} h_{i j}\left(y_{1}, \ldots, y_{k}, \alpha+c\right) .
\]

Здесь
\[
h_{i j}\left(y_{1}, \ldots, y_{k}, \alpha\right)=\int_{0}^{1} \int_{0}^{1} t \frac{\partial^{2} f}{\partial y_{i} \partial y_{j}}\left(t u y_{1}, \ldots, t u y_{k}, \alpha\right) d t d u
\]

При этом
\[
h_{i j}(0)=\frac{\partial^{2} f}{\partial y_{i} \partial y_{j}}(0) .
\]

Рассмотрим далее выражение $\sum_{1 \leqslant i, j \leqslant k} y_{i} y_{j} h_{i j}\left(y_{1}, \ldots, y_{k}, \alpha\right)$ как квадратичную форму с коэффициентами $h_{i j}\left(y_{1}, \ldots, y_{k}, \alpha\right)$ и стандартными заменами координат приведем ее к нормальной форме.

Важно, что эта процедура может быть выполнена одновременно при всех $\alpha$. В результате квадратичная форма $\sum_{1 \leqslant i, j \leqslant k} y_{i} y_{j} h_{i j}\left(y_{1}, \ldots, y_{k}, \alpha\right)$ приведется к диагональному виду $-x_{1}^{2}-\ldots-x_{\lambda}^{2}+x_{\lambda+1}^{2}+\ldots+x_{k}^{2}$, где новые функции $x_{1}, \ldots, x_{k}$ связаны с предыдущими переменными $y_{1}, \ldots, y_{k}, \alpha$ следующими «линейными формулами»:
\[
x_{i}=\sum_{1 \leqslant j \leqslant k} a_{i j}(y, \alpha) y_{j} .
\]

При этом матрица ( $a_{i j}(y, \alpha)$ ) является верхнетреугольной с положительными элементами на диагонали. Она существует, определена однозначно и гладко зависит от $y, \alpha$. Фактически доказательство закончено. Однако, в заключение поясним, где же была использована тривиальность расслоений $E_{-}(N)$ и $E_{+}(N)$. Отметим, что не любая квадратичная форма от $y$ с коэффициентами, зависящими от параметра $\alpha$, может быть приведена к диагональному виду одновременно при всех значениях $\alpha$ при помощи преобразования, гладко зависящего от $\alpha$. Но в нашем случае при $y=0$ для любого $\alpha$ требуемая замена существует, поскольку при $y=0$ форма $\sum h_{i j} y_{i} y_{j}$ уже имеет канонический вид. Другими словами, $a_{i j}(0, \alpha)=\delta_{i j}$. Но в таком случае в малой окрестности нуля (по переменным $y_{1}, \ldots, y_{k}$ ) искомая матрица ( $a_{i j}(y, \alpha)$ ) также существует, а потому однозначно определена и гладко зависит от $y, \alpha$. Предложение доказано.