Предположим, что прямое произведение двумерного тора $\mathbf{T}^{2}\left\{\varphi_{1}, \varphi_{2} \bmod 2 \pi\right\}$ на связную ограниченную область $D$ плоскости $\mathbf{R}^{2}\left\{I_{1}, I_{2}\right\}$ снабжено естественной канонической структурой – невырожденной 2 -формой $d I_{1} \wedge d \varphi_{1}+d I_{2} \wedge d \varphi_{2}$. Пусть на множестве $D \times \mathbf{T}^{2} \times(-\varepsilon, \varepsilon)$ задана аналитическая функция
\[
\begin{array}{c}
\mathscr{H}(I, \varphi, \mu)=\mathscr{H}_{0}(I)+\mu \mathscr{H}_{1}(I, \varphi)+\ldots, \\
I=\left(I_{1}, I_{2}\right), \quad \varphi=\left(\varphi_{1}, \varphi_{2}\right) .
\end{array}
\]

Функции $\mathscr{H}_{k}(I, \varphi)(k=0,1,2 \ldots)$ аналитичны в $D \times \mathbf{T}^{2}$.
Согласно А. Пуанкаре $[1$, п. 13], исследование канонических уравнений
\[
\dot{I}=-\frac{\partial \mathscr{H}}{\partial \varphi}, \quad \dot{\varphi}=\frac{\partial \mathscr{H}}{\partial I}
\]

с гамильтонианом вида (1.1) является «основной проблемой динамики».

Система канонических уравнений с функцией Гамильтона
\[
\mathscr{H}_{0}(I)=\mathscr{H}(I, \varphi, 0)
\]

называется невозмущенной. Она немедленно интегрируется:
\[
I=I^{0}, \varphi=\omega(I) t+\varphi^{0}, \omega=\left(\omega_{1}, \omega_{2}\right), \omega_{k}=\frac{\partial \mathscr{H}_{0}}{\partial I_{k}} \quad(k=1,2) .
\]

Четырехмерное фазовое пространство $D \times \mathbf{T}^{2}$ невозмущенной системы расслаивается на двумерные инвариантные торы
\[
\left\{(I, \varphi): I=I^{0}, \varphi \in \mathbf{T}^{2}\right\} .
\]

Угловыми координатами на этих торах являются $\varphi_{1}$ и $\varphi_{2}$. Переменные $I$ «нумеруют» инвариантные торы (1.2). Канонические координаты $I, \varphi$ называются переменными действие-угол интегрируемой системы с гамильтонианом $\mathscr{H}_{0}$.
Формулы
\[
\varphi_{1}=\omega_{1} t+\varphi_{1}^{0}, \quad \varphi_{2}=\omega_{2} t+\varphi_{2}^{0}
\]

задают на торах (1.2) квазипериодические движения с двумя частотами $\omega_{1}$ и $\omega_{2}$. Если на инвариантном торе $I=I^{0}$ частоты соизмеримы (несоизмеримы), то такой тор называется резонансным (нерезонансным).

Функция $\mathscr{H}_{1}(I, \varphi)$ называется возмущающей (пертурбационной). Разложим ее в сходящийся двойной ряд Фурье:
\[
\mathscr{H}_{1}(I, \varphi)=\sum_{-\infty}^{\infty} H_{m_{1} m_{2}}(I) e^{i\left(m_{1} \varphi_{1}+m_{2} \varphi_{2}\right)} .
\]

Определение 1. Вековым множеством $\mathscr{B}$ системы с гамильтонианом (1.1) называется множество всех пар $\left(I_{1}, I_{2}\right) \in D$, удовлетворяющих следующим условиям:
1) $m_{1} \omega_{1}(I)+m_{2} \omega_{2}(I)=0, m_{1}, m_{2} \in \mathbf{Z}$
2) $\left|m_{1}\right|+\left|m_{2}\right|
eq 0$
3) $H_{m_{1} m_{2}}(I)
eq 0$.
Под вековым множеством мы будем понимать также множество всех резонансных торов в фазовом пространстве невозмущенной задачи, отвечающих переменным действие $I \in \mathscr{B}$. Из текста всегда будет ясно, о каком множестве идет речь.

Обозначим через $A(M)$ класс функций, аналитических в области $M \subset \mathbf{R}^{n}$.

Определение 2. Множество $N \subset M$ называется ключевым множеством для класса $A(M)$, если для любой функции $f$ из $A(M)$, равной нулю на $N$, справедливо равенство $f \equiv 0$ во всей области $M$.

Пусть область $G$ плоскости $\mathbf{R}^{2}\left\{I_{1}, I_{2}\right\}$ является подобластью $D$ и $\bar{G} \subset D$.

Теорема 1. Предположим, что для системы с гамильтонианом (1.1) выполнены следующие условия:
1) гессиан $\partial^{2} \mathscr{H}_{0} / \partial I^{2}
eq 0$ в области $D$;
2) множество $\mathscr{B} \cap G$ является ключевым для класса $A(G)$;
3) функция $\mathscr{H}_{0}$ не имеет критических точек в области $D$. Тогда у системы с функцией Гамильтона (1.1) нет независимого от функции $\mathscr{H}$ первого интеграла, аналитического в $D \times$ $\times \mathbf{T}^{2} \times(-\varepsilon, \varepsilon)$.

Теорема 1 является обобщением известного результата A. Пуанкаре о несуществовании аналитических интегралов канонических систем $[1$, гл. V; 2 , гл. XIV] в случае, когда вековое множество задачи не всюду плотно в области $D$. Распространение этой теоремы на системы с большим числом степеней свободы не представляет затруднений.

Доказательство теоремы 1 опирается на ряд вспомогательных утверждений.

Лемма 1 (А. Пуанкаре). Пусть невозмущенная система невырождена, т.е. $\partial^{2} \mathscr{H}_{0} / \partial I^{2}
ot \equiv 0$. Iредположим, что система с функций Гамильтона (1.1) обладает первым интегралом $\mathscr{F}(I, \varphi, \mu)$, аналитическим в $D \times \mathbf{T}^{2} \times(-\varepsilon, \varepsilon)$. Тогда
1) функиия $\mathscr{F}_{0}(I, \varphi)=\mathscr{F}(I, \varphi, 0)$ не зависит от $\varphi$;
2) якобиан $\frac{\partial\left(\mathscr{H}_{0}, \mathscr{F}_{0}\right)}{\partial\left(I_{1}, I_{2}\right)}$ на $\mathscr{B}$.
ДоКаЗаТЕЛЬСТВо (СР. С $[1$, ГЛ. V]).
1. Функция $\mathscr{F}_{0}$ – первый интеграл невозмущенной системы. Пусть тор $I=I^{0}$ нерезонансный. Тогда $\mathscr{F}_{0}\left(I^{0}, \varphi\right)$ не зависит от $\varphi$, так как любая траектория заполняет нерезонансный тор всюду плотно [4] и функция $\mathscr{F}_{0}$ постоянна на решениях невозмущенной задачи. Для завершения доказательства остается использовать непрерывность функции $\mathscr{F}_{0}$ и всюду плотность множества нерезонансных торов невырожденной интегрируемой системы [4].
2. Пусть
\[
\begin{array}{c}
\mathscr{F}(I, \varphi, \mu)=\mathscr{F}_{0}(I)+\mu \mathscr{F}_{1}(I, \varphi)+\ldots, \\
\mathscr{F}(I, \varphi)=\sum_{-\infty}^{\infty} F_{m_{1} m_{2}}(I) e^{i\left(m_{1} \varphi_{1}+m_{2} \varphi_{2}\right)} .
\end{array}
\]

Так как
\[
\left.\dot{\mathscr{F}}=(\mathscr{H}, \mathscr{F})=\left(\mathscr{H}_{0}, \mathscr{F}_{0}\right)+\mu^{\prime}\left(\mathscr{H}_{0}, \mathscr{F}_{1}\right)+\left(\mathscr{H}_{1}, \mathscr{F}_{0}\right)\right]+\ldots \equiv 0,
\]

то
\[
\left(\mathscr{H}_{0}, \mathscr{F}_{1}\right) \equiv\left(\mathscr{F}_{0}, \mathscr{H}_{1}\right) .
\]

Здесь символ ( $\left.\mathscr{F}^{\prime}, \mathscr{F}^{\prime \prime}\right)$ обозначает скобку Пуассона функций $\mathscr{F}^{\prime}$ и $\mathscr{F}^{\prime \prime}$. Поскольку функции $\mathscr{H}_{0}$ и $\mathscr{F}_{0}$ не зависят от $\varphi$, то из равенства (1.3) следует, что
\[
\left(m_{1} \omega_{1}+m_{2} \omega_{2}\right) F_{m_{1} m_{2}}=\left(m_{1} \frac{\partial \mathscr{F}_{0}}{\partial I_{1}}+m_{2} \frac{\partial \mathscr{F}_{0}}{\partial I_{2}}\right) H_{m_{1} m_{2}}
\]

для всех $m_{1}, m_{2} \in \mathbf{Z}$. Пусть $I \in \mathscr{B}$. Тогда
\[
m_{1} \frac{\partial \mathscr{H}_{0}}{\partial I_{1}}+m_{2} \frac{\partial \mathscr{H}_{0}}{\partial I_{2}}=0,
\]

и, так как $H_{m_{1} m_{2}}(I)
eq 0$,
\[
m_{1} \frac{\partial \mathscr{F}_{0}}{\partial I_{1}}+m_{2} \frac{\partial \mathscr{F}_{0}}{\partial I_{2}}=0 .
\]

Поскольку $\left|m_{1}\right|+\left|m_{2}\right|
eq 0$, то из равенств (1.4) и (1.5) следует заключение п. 2.
Если
\[
\frac{\partial^{2} \mathscr{H}_{0}}{\partial I^{2}}=\frac{\partial\left(\omega_{1}, \omega_{2}\right)}{\partial\left(I_{1}, I_{2}\right)}
eq 0
\]

в области $D$, то уравнение
\[
l_{m_{1} m_{2}}: m_{1} \omega_{1}(I)+m_{2} \omega_{2}(I)=0
\]
$\left(\left|m_{1}\right|+\left|m_{2}\right|
eq 0\right)$ определяет в $D$ регулярную аналитическую кривую без особых точек. Следовательно, в предположениях теоремы 1 и леммы 1
1) функции $\mathscr{H}_{0}$ и $\mathscr{F}_{0}$ зависимы на множестве $\mathscr{B}^{\prime} \supset \mathscr{B}$, состоящем из аналитических кривых (1.6), на которых соответствующие коэффициенты $H_{m_{1} m_{2}}(I)$ не обращаются в тождественный нуль;
2) $\mathscr{B} \cap G$ является ключевым множеством для класса $A(G)$ тогда и тольюо тогда, гогда плючевым пвллетел множество $\mathscr{B}^{\prime} \cap G$.

Лемма 2. В предположениях теоремы 1
1) множество $\mathscr{B}^{\prime} \cap G$ состоит из бесконечного числа аналитических кривых, лежащих в области $G$;
2) для любого $\delta<\delta_{0}(\delta>0)$ существует круг $K_{\delta}$ радиуса $\delta$, целиком лежаций в $D$, такой, что $\mathscr{B}^{\prime} \cap K_{\delta}$ – ключевое множество для класса $A(E)$, где $E \subset D$ – любая окрестность множества $K_{\delta}$.

Доказательство.
1. Предположим противное, т. е. множество $\mathscr{B}^{\prime} \cap G$ состоит из конечного числа аналитических кривых
\[
l_{m_{1}^{(k)} m_{2}^{(k)}}: m_{1}^{(k)} \omega_{1}+m_{2}^{(k)} \omega_{2}=0 ; \quad k=1, \ldots, n .
\]

Рассмотрим аналитическую функцию
\[
\mathscr{P}(I)=\prod_{k=1}^{n}\left[m_{1}^{(k)} \omega_{1}(I)+m_{2}^{(k)} \omega_{2}(I)\right] .
\]

Очевидно, что $\mathscr{P}(I)=0$, когда $I \in \mathscr{B}^{\prime} \cap G$ и $\mathscr{P}
ot \equiv 0$ в области $G$. Но это противоречит условию 2) теоремы 1.
2. Пусть $\delta$ – малое положительное число. Так как область $D$ ограничена и $\bar{G} \cap D$, то существует $\delta_{0}>0$ такое, что при всех $\delta<\delta_{0}$ круги радиуса $\delta$ с центрами в точках множества $G$ лежат в $D$. Рассмотрим покрытие области $G$ кругами $K_{\delta}$ радиуса $\delta<\delta_{0}$ с центрами во всех ее точках. Из этого бесконечного покрытия можно выбрать конечное подпокрытие. Действительно, заменяя круги $K_{\delta}$ их внутренностями $\operatorname{Int} K_{\delta}$, получим открытое покрытие множества $\bar{G}$. Так как $\bar{G}$ компактно, то по теореме Гейне-Бореля из этого открытого покрытия можно выбрать конечное подпокрытие $\operatorname{Int} K_{\delta}^{(1)}, \ldots, \operatorname{Int} K_{\delta}^{(n)}$. Очевидно, что круги $K_{\delta}^{(1)}, \ldots, K_{\delta}^{(n)}$ целиком покрывают область $G$.

При некотором $i(1 \leqslant i \leqslant n)$ пересечение $\mathscr{B}^{\prime} \cap K_{\delta}^{(i)}$ состоит из бесконечного числа регулярных аналитических кривых вида (1.6). Докажем, что множество $\mathscr{B}^{\prime} \cap K_{\delta}\left(K_{\delta}=K_{\delta}^{(i)}\right)$ является ключевым для класса аналитических функций $A(E)$, где $E \subset D$ – любая окрестность круга $K_{\delta}$. Так как якобиан
\[
\frac{\partial\left(\omega_{1}, \omega_{2}\right)}{\partial\left(I_{1}, I_{2}\right)}
eq 0
\]

Рис. 1

в области $D$, то при малых значениях $\delta>0$ в некоторой окрестности круга $K_{\delta}$ аналитической обратимой заменой переменных можно ввести новые координаты $I_{1}^{\prime}, I_{2}^{\prime}$ по формулам
\[
I_{1}^{\prime}=\omega_{1}\left(I_{1}, I_{2}\right), \quad I_{2}^{\prime}=\omega_{2}\left(I_{1}, I_{2}\right) .
\]

В плоскости переменных $I_{1}^{\prime}, I_{2}^{\prime}$ круг $K_{\delta}$ является некоторым выпуклым множеством $K_{\delta}^{\prime}$, а кривые (1.6) суть прямые линии
\[
l_{m_{1} m_{2}}^{\prime}: m_{1} I_{1}^{\prime}+m_{2} I_{2}^{\prime}=0 .
\]

Заметим, что свойство множества быть ключевым не зависит от выбора системы координат. Так как $\left|\omega_{1}(I)\right|+\left|\omega_{2}(I)\right|
eq 0$ в круге $K_{\delta}$, то множество $K_{\phi}^{\prime}$ не содержит точку $I_{1}^{\prime}=I_{2}^{\prime}=0$. Следовательно, прямые (1.7) либо совпадают, либо не имеют точек пересечения в $K_{\delta}^{\prime}$. Бесконечное множество различных прямых $l_{m_{1} m_{2}}^{\prime}$ имеет некоторую предельную прямую линию $l^{\prime}$. На рис. 1 изображены возможные случаи расположения прямых $l^{\prime}$ и $l_{m_{1} m_{2}}^{\prime}$.

Пусть $f\left(I^{\prime}\right)$ – функция, аналитическая в некоторой окрестности $K_{\delta}^{\prime}$ и обращающаяся в нуль на прямых $l_{m_{1} m_{2}}^{\prime}$. Обозначим через $\left.f\right|_{L}$ сужение функции $f$ на прямую $L$ (см. рис. 1). Так как нули аналитической функции $\left.f\right|_{L}$ имеют предельную точку, лежащую внутри ее области аналитичности, то $\left.f\right|_{L} \equiv 0$ и, следовательно, $f \equiv 0$ в любой окрестности множества $K_{\delta}^{\prime}$.

Лемма 3. Пусть выполнены условия теоремы 1 и предположения леммы 1. Тогда существуют достаточно малое $\delta>0$ и выпуклая область $E \subset D, \bar{E} \subset D, K_{\delta} \subset E$, такие, что

1) в области $E$ справедливо равенство $\mathscr{F}_{0}=\mathscr{R}\left(\mathscr{H}_{0}\right)$, где $\mathscr{R}(x)$ – функция, аналитическая в интервале $\left(\delta^{\prime}, \delta^{\prime \prime}\right), \delta^{\prime}=$ $=\min _{E} \mathscr{H}_{0}, \delta^{\prime \prime}=\max _{E} \mathscr{H}_{0}\left(\delta^{\prime}<\delta^{\prime \prime}\right)$
2) существуют $\varepsilon^{\prime}>\varepsilon$ и выпуклая область $E^{\prime} \subset E, \bar{E}^{\prime} \subset E$, $K_{\delta} \subset E^{\prime}$, такие, что функция
\[
(\mathscr{F}-\mathscr{R}(\mathscr{H})) / \mu
\]

является первым интегралом канонической системы уравнений с гамильтонианом (1.1), аналитическим в прямом произведении $E^{\prime} \times \mathbf{T}^{2} \times\left(-\varepsilon^{\prime}, \varepsilon^{\prime}\right)$.
ДоКаЗаТЕЛЬСТВО.
1. Так как в области $D$ нет критических точек функции $\mathscr{H}_{0}(I)$, то при малых $\delta>0$ в некоторой выпуклой окрестности $E$ круга $K_{\delta}$ отлична от нуля одна из производных $\partial \mathscr{H}_{0} / \partial I_{1}, \partial \mathscr{H}_{0} / \partial I_{2}$. Пусть, например, $\partial \mathscr{H}_{0} / \partial I_{1}
eq 0$. Множество $E$ выпукло, следовательно, равенство
\[
\mathscr{H}_{0}=\mathscr{H}_{0}\left(I_{1}, I_{2}\right)
\]

можно разрешить относительно $I_{1}$ :
\[
I_{1}=I_{1}\left(\mathscr{H}_{0}, I_{2}\right) .
\]

Рассмотрим аналитическую функцию
\[
\mathscr{F}_{0}\left(\mathscr{H}_{0}, I_{2}\right)=\mathscr{F}_{0}\left(I_{1}\left(\mathscr{H}_{0}, I_{2}\right), I_{2}\right) .
\]

Так как $\mathscr{H}_{0}$ и $\mathscr{F}_{0}$ зависимы, то нетрудно доказать, что $\mathscr{F}_{0}$ не зависит от $I_{2}$ (ср. с $\left[1\right.$, гл. V]). Итак, $\mathscr{F}_{0}=\mathscr{R}\left(\mathscr{H}_{0}\right)$, где $\mathscr{R}(x)-$ аналитическая функция, определенная в интервале $\left(h^{\prime}, h^{\prime \prime}\right)$,
\[
h^{\prime}=\min _{I \in E} \mathscr{H}_{0}(I), \quad h^{\prime \prime}=\max _{I \in E} \mathscr{H}_{0}(I) \quad\left(h^{\prime}<h^{\prime \prime}\right) .
\]
2. При малых значениях параметра $\mu$ функция $\mathscr{R}(\mathscr{H})$ аналитична по переменным $I, \varphi$ в области $E^{\prime} \times \mathrm{T}^{2}$, где $E^{\prime}-$ выпуклая подобласть $E, \bar{E}^{\prime} \subset E, K_{\delta} \subset E^{\prime}$. Так как $\mathscr{F}-$ первый интеграл канонической системы уравнений с гамильтонианом (1.1), то такова же и разность
\[
\mathscr{F}-\mathscr{R}(\mathscr{H}) .
\]

Функция (1.8) аналитична в области $E^{\prime} \times \mathbf{T}^{2} \times\left(-\varepsilon^{\prime}, \varepsilon^{\prime}\right)$, где $\varepsilon^{\prime}<\varepsilon$ – достаточно малое положительное число. Разложение этой функции в ряд по степеням $\mu$ не содержит свободного члена, так как $\mathscr{F}_{0}-\mathscr{R}\left(\mathscr{H}_{0}\right)=0$. Полагая поэтому
\[
\mathscr{F}-\mathscr{R}(\mathscr{H})=\mu \mathscr{F}^{\prime},
\]

находим, что $\mathscr{F}^{\prime}(I, \varphi, \mu)$ – первый интеграл рассматриваемой системы, аналитический в области $E^{\prime} \times \mathbf{T}^{2} \times\left(-\varepsilon^{\prime}, \varepsilon^{\prime}\right)$.

ДОКАЗаТЕЛЬСТВО ТЕОРЕМЫ 1.
Пусть
\[
\mathscr{F}(I, \varphi, \mu)=\mathscr{F}_{0}(I, \varphi)+\mu \mathscr{F}_{1}(I, \varphi)+\ldots
\]
– аналитический интеграл системы с гамильтонианом (1.1). Если функции $\mathscr{H}$ и $\mathscr{F}$ независимы, то ранг матрицы Якоби
\[
\frac{\partial(\mathscr{H}, \mathscr{F})}{\partial(I, \varphi)}
\]

равен двум. Обозначим через $J(I, \varphi, \mu)$ один из миноров второго порядка матрицы (1.9), не равный тождественно нулю. Разложим аналитическую функцию $J$ в сходящийся степенной ряд:
\[
J=J_{0}+\mu J_{1}+\ldots
\]

Согласно лемме Пуанкаре и условию 2) $J_{0} \equiv 0$. Предположим, что в разложении (1.10) коэффициент при $\mu^{p}(p \geqslant 1)$ не равен тождественно нулю. По лемме 3 функцию $\mathscr{F}$ можно представить в виде
\[
\mathscr{F}=\mathscr{R}(\mathscr{H})+\mu \mathscr{F}^{\prime},
\]

где $\mathscr{F}^{\prime}(I, \varphi, \mu)$ – первый интеграл, аналитический в области $E^{\prime} \times \mathbf{T}^{2} \times\left(-\varepsilon^{\prime}, \varepsilon^{\prime}\right)$. Разложим функцию $\mathscr{F}^{\prime}$ в сходящийся степенной ряд:
\[
\mathscr{F}^{\prime}=\mathscr{F}_{0}^{\prime}(I, \varphi)+\mu \mathscr{F}^{\prime}{ }_{1}(I, \varphi)+\ldots
\]

По лемме Пуанкаре $\mathscr{F}_{0}^{\prime}$ не зависит от $\varphi$ и функции $\mathscr{F}_{0}^{\prime}$ и $\mathscr{H}_{0}$ зависимы в точках множества $\mathscr{B}^{\prime} \cap E^{\prime}$. Так как $\mathscr{B}^{\prime} \cap K_{\delta} \subset$ $\subset \mathscr{B}^{\prime} \cap E^{\prime}$ является ключевым множеством для класса $A\left(E^{\prime}\right)$ (лемма 2), то функции $\mathscr{F}_{0}^{\prime}$ и $\mathscr{H}_{0}$ зависимы во всей области $E^{\prime}$. Следовательно, согласно (1.11) $J_{1} \equiv 0$ и $p \geqslant 2$. Повторяя эту операцию $p$ раз, мы придем к заключению, что разложение (1.10) начинается с членов порядка $\mu^{p+1}$, а не $\mu^{p}$, как предполагалось выше. Полученное противоречие завершает доказательство.