Приведем пример механической системы с двумя степенями свободы, удовлетворяющей условиям теоремы 1 , но для которой замыкание $\overline{\mathscr{B}}$ не совпадает с областью $D$.

Рассмотрим на плоскости непересекающиеся эллипс и окружность; пусть (для упрощения вычислений) центр окружности совпадает с одним из фокусов эллипса. По этим кривым
Рис. 2 могут свободно перемещаться две точки с массами $m_{1}$ и $m_{2}$, которые связаны между собой упругой пружиной с коэффициентом упругости $k$.
При $k=0$ имеем интегрируемый случай: независимое движение точек по инерции.
Параметры эллипса обозначим через $p$ и $e(e
eq 0)$, радиус окружности – через $R$. Положение масс на окружности и эллипсе будем задавать угловыми координатами $\vartheta_{1}, \vartheta_{2}$ (в полярной системе координат с началом в центре окружности).

В канонических переменных $\vartheta_{1}, \vartheta_{2}, \Theta_{1}, \Theta_{2}$ гамильтониан $\mathscr{H}_{0}$ невозмущенной задачи (при $k=0$ ) тождественен живой силе движения точек и имеет вид
\[
\mathscr{H}_{0}=\frac{\Theta_{1}^{2}}{2 m_{1} R^{2}}+\frac{\Theta_{2}^{2}\left(1+e \cos \vartheta_{2}\right)^{4}}{2 m_{2} p^{2}\left(1+2 e \cos \vartheta_{2}+e^{2}\right)} .
\]

Функция Гамильтона возмущенной задачи есть
\[
\mathscr{H}=\mathscr{H}_{0}+\mu \mathscr{H}_{1}, \quad \mu=k,
\]

где
\[
\mathscr{H}_{1}=R^{2}+\frac{p^{2}}{\left(1+e \cos \vartheta_{2}\right)^{2}}-\frac{2 R p}{1+e \cos \vartheta_{2}} \cos \left(\vartheta_{2}-\vartheta_{1}\right) .
\]

Переменные действие-угол $I_{1}, I_{2}, \varphi_{1}, \varphi_{2}$ в невозмущенной задаче суть следующие:
\[
\begin{array}{l}
I_{1}=\Theta_{1}, \quad \varphi_{1}=\vartheta_{1}, \\
I_{2}=\frac{p}{2 \pi} \sqrt{2 m_{2}\left(\mathscr{H}_{0}-\frac{I_{1}^{2}}{2 m_{1} R^{2}}\right)} \int_{0}^{2 \pi} \frac{\sqrt{1+2 e \cos x+e^{2}}}{(1+e \cos x)^{2}} d x, \\
\varphi_{2}=\frac{p}{\Lambda} \int_{0}^{\vartheta_{2}} \frac{\sqrt{1+2 e \cos x+e^{2}}}{(1+e \cos x)^{2}} d x . \\
\end{array}
\]

Здесь
\[
2 \pi \Lambda=p \int_{0}^{2 \pi} \frac{\sqrt{1+2 e \cos x+e^{2}}}{(1+e \cos x)^{2}} d x
\]
– периметр эллипса. Отметим, что переменная $\varphi_{2}$ является натуральным параметром (длиной дуги) на эллипсе.

Интеграл (2.2) можно упростить. Для этого перейдем от $\vartheta_{2}$ к эксцентрической аномали $E$ по формуле
\[
\frac{1}{1+e \cos \vartheta_{2}}=\frac{1-e \cos E}{\left(1-e^{2}\right)^{2}} .
\]

Тогда интеграл (2.2) запишется так:
\[
\varphi_{2}=\frac{p}{\left(1-e^{2}\right) \Lambda} \int_{0}^{E} \sqrt{1-e^{2} \cos ^{2} E} d E .
\]

В канонических переменных действие-угол
\[
\mathscr{H}_{0}=\frac{I_{1}^{2}}{2 m_{1} R^{2}}+\frac{I_{2}^{2}}{2 m_{2} \Lambda^{2}} .
\]

Возмущение в новых переменных примет вид
\[
\begin{aligned}
\mathscr{H}_{1}=R^{2}+ & \sum_{-\infty}^{\infty} H_{m, 0} e^{i m \varphi_{2}}+ \\
& +\sum_{-\infty}^{\infty} H_{m, 1} e^{i\left(m \varphi_{2}+\varphi_{1}\right)}+\sum_{-\infty}^{\infty} H_{m,-1} e^{i\left(m \varphi_{2}-\varphi_{1}\right)},
\end{aligned}
\]

коэффициенты $H_{m, 0}, H_{m, 1}, H_{m,-1}$ зависят только от $p, e, R$, но не от $I$.

Докажем, что среди коэффициентов $H_{m, 1}, H_{m,-1}$ содержится бесконечно много отличных от нуля. Для этого, очевидно, достаточно показать, что разложение функции
\[
\frac{\cos \vartheta_{2}}{1+e \cos \vartheta_{2}}
\]

в ряд Фурье по переменной $\varphi_{2}$ имеет бесконечно много членов. Предположим противное, т.е. функция (2.4) – тригонометрический полином. Из равенства (2.3) вытекает тогда, что $\cos E$ равен отношению двух полиномов. Следовательно, функция $\cos E$, рассматриваемая как функция комплексного переменного $\varphi_{2}$, является однозначной мероморфной функцией. Положим $w\left(\varphi_{2}\right)=\cos E$, тогда
\[
\left(w^{\prime}\right)^{2}=\frac{1-w^{2}}{c^{2}\left(1-e^{2} w^{2}\right)}, \quad c=\frac{p}{\left(1-e^{2}\right) \Lambda} .
\]

Из одной теоремы Фукса [3, гл. II] следует, что все решения этого дифференциального уравнения имеют критические подвижные особые точки и, следовательно, неоднозначны на комплексной плоскости. Полученное противоречие доказывает высказанное выше утверждение.

Уравнения $\omega_{1}+m \omega_{2}=0(m \in \mathbf{Z})$, где $\omega_{i}(i=1,2)-$ частоты невозмущенной задачи, определяют на плоскости $\mathbf{R}^{2}\left\{I_{1}, I_{2}\right\}$ прямые линии, проходящие через начало координат. Соответствующие коэффициенты в разложении возмущающей функции не зависят от переменных действие, и среди них есть бесконечно много, не равных нулю. Поэтому вековое

множество $\mathscr{B}$ задачи с функцией Гамильтона (2.1) состоит из бесконечного числа прямых, проходящих через начало координат и имеющих единственную предельную прямую $I_{2}=0$. Гессиан
\[
\left|\frac{\partial^{2} \mathscr{H}_{0}}{\partial I_{1} \partial I_{2}}\right|=\frac{1}{m_{1} m_{2} R^{2} \Lambda^{2}}
eq 0 .
\]

Очевидно, что $I_{1}=I_{2}=0$ – единственная критическая точка $\mathscr{H}_{0}$.

Пусть область $D$ плоскости $\mathbf{R}^{2}\left\{I_{1}, I_{2}\right\}$ имеет с прямой $I_{2}=0$ непустое пересечение. Тогда $\mathscr{B} \cap D$ является множеством, ключевым для класса $A(D)$. Действительно, пусть аналитическая функция $f\left(I_{1}, I_{2}\right)$ равна нулю на $\mathscr{B} \cap D$. Фиксируя $I_{1}=I_{1}^{0}$, получаем аналитическую функцию одного переменного, нули которой имеют предельную точку $I_{2}=0$, лежащую внутри ее области аналитичности. Значит, $f$ равна нулю на любой прямой $I_{1}=I_{1}^{0}$ и, следовательно, во всей области $D$. Таким образом, на множестве $D\left\{I_{1}, I_{2}\right\} \times \mathbf{T}^{2}\left\{\varphi_{1}, \varphi_{2}\right.$ $\bmod 2 \pi\} \times(-\varepsilon, \varepsilon)$ для системы с гамильтонианом (2.1) выполнены все условия теоремы 1 , но множество $\mathscr{B} \cap D$ не всюду плотно в $D$.