В качестве другого применения результата $\S 1$ мы рассмотрим проблему устойчивости положения равновесия гамильтоновой системы с двумя степенями свободы. Мы будем предполагать, что соответствующая линеаризованная система устойчива, и даже более того, что ее собственные значения $\pm \lambda_{1}, \pm \lambda_{2}$ чисто мнимы и различны. С помощью подходящего линейного преобразования функция Гамильтона при этих предположениях может быть преобразована к виду $H=H_{2}+H_{3}+\ldots$, где
\[
H_{2}=\lambda_{1} x_{1} y_{1}-\lambda_{2} x_{2} y_{2},
\]

и условия вещественности из $\S 15$ принимают форму $y_{k}=i \bar{x}_{k}$ ( $k=$ $=1,2$ ). Здесь следует различать два существенно разных случая. Первый случай: квадратичная форма $H_{2}$ положительно или отрицательно определена, и тогда устойчивость следует непосредственно из теоремы Дирихле. Второй случай: форма $H_{2}$ неопределена, другими словами, 0 лежит между $\lambda_{1}$ и $\lambda_{2}$ на мнимой оси, и вопрос об устойчивости нельзя разрешить только с помощью линейных членов дифференциальных уравнений. Это тот случай, к которому мы теперь возвращаемся.
${ }^{1}$ Приблизительно равный отношению масс Юпитера и Солнца, т. е. что-то около $\frac{1}{1000} \cdot-$ Прим. ред.
${ }^{2}$ А. Д. Брюно в своей статье «Неустойчивость в системе Гамильтона и распределение астероидов», Матем. сб., 83 (1970), №2, 273-312, объясняет появление «люка» с отношением $\frac{
u_{1}}{
u_{3}}=\frac{3}{7}$ тем, что соответствующая орбита обладает лишь изоэнергетической устойчивостью. Если рассматривать полную окрестность периодической орбиты, то значительная часть проходящих через нее траекторий остается в ней лишь конечное время. В той же статье подробно рассмотрен вопрос о нормальной форме гамильтоновых уравнений в окрестности периодического решения. – Прим. ред.

Предполагая, что $\lambda_{1} / \lambda_{2}
eq-p / q(p, q=1,2,3,4)$, мы можем найти координаты (по-прежнему обозначаемые через $x_{k}, y_{k}$ ), в которых гамильтониан принимает вид
\[
H=\lambda_{1} w_{1}+\lambda_{2} w_{2}+\frac{1}{2}\left\{\mu_{11} w_{1}^{2}+2 \mu_{12} w_{1} w_{2}+\mu_{22} w_{2}^{2}\right\}+H_{5}+\ldots,
\]

где $w_{k}=x_{k} y_{k}$ и $\mu_{k l}$ действительны, и условия вещественности задаются в виде $y_{k}=i \bar{x}_{k}$. Покажем теперь, что при дополнительном предположении
\[
D=\mu_{11} \lambda_{2}^{2}-2 \mu_{12} \lambda_{1} \lambda_{2}+\mu_{22} \lambda_{1}^{2}
eq 0,
\]

которое эквивалентно требованию, чтобы полином
\[
H_{4}=\frac{1}{2}\left\{\mu_{11} w_{1}^{2}+2 \mu_{12} w_{1} w_{2}+\mu_{22} w_{2}^{2}\right\}
\]

не делился на $H_{2}=\lambda_{1} w_{1}+\lambda_{2} w_{2}$, положение равновесия является устойчивым решением соответствующей гамильтоновой системы. Этот результат принадлежит Арнольду [1].

При доказательстве мы можем предположить, что $\left|\lambda_{1}\right|>\left|\lambda_{2}\right|$ и $\operatorname{Im} \lambda_{2}>0>\operatorname{Im} \lambda_{1}$. Чтобы установить устойчивость, достаточно доказать, что любое решение описанной выше системы с начальными данными из области $\left|x_{1}\right|^{2}+\left|x_{2}\right|^{2}<\varepsilon^{2}$ останется в любой момент времени в области $\left|x_{1}\right|^{2}+\left|x_{2}\right|^{2}<c^{2} \varepsilon^{2}$, где $c=3 \sqrt{-\lambda_{1} / \lambda_{2}}$ и $\varepsilon$ – достаточно малое положительное число. Здесь мы допускаем только решения, которые удовлетворяют условиям вещественности $y_{k}=i \bar{x}_{k}(k=1,2)$, так что $w_{k}=i\left|x_{k}\right|^{2}$ и $H_{2}=\left|\lambda_{1}\right|\left|x_{1}\right|^{2}-\left|\lambda_{2}\right|\left|x_{2}\right|^{2}$.

Доказательство будет проведено методом от противного. А именно предположим, что приведенное выше утверждение неверно. Тогда можно найти решение, для которого величина $r(t)=\sqrt{\left|x_{1}(t)\right|^{2}+\left|x_{2}(t)\right|^{2}}$ такова, что $r(0)<\varepsilon$ и $r(\tau)=c \varepsilon$ для некоторого вещественного $\tau$. Удобно увеличить масштаб, заменив $x_{k}, y_{k}$ переменными $\varepsilon^{-1} x_{k}, \varepsilon^{-1} y_{k}(k=$ $=1,2$ ), в которых система дифференциальных уравнений остается канонической, а новый гамильтониан приводится к виду
\[
H(x, y, \varepsilon)=H_{2}(x, y)+\varepsilon^{2} H_{4}(x, y)+\varepsilon^{3} H_{5}(x, y)+\ldots,
\]

где $H_{
u}(x, y)$ – те же самые однородные полиномы степени $
u$, которые входили в гамильтониан (1). Наше предположение тогда заключается в том, что существует решение новой системы, удовлетворяющее
условию $r(0)<1$, в то время как для некоторого действительного $\tau$ $r(\tau)=c$. При этом утверждается, что при достаточно малом значении $\varepsilon$ это предположение приводит к противоречию.

Имея это в виду, произведем редукцию рассматриваемой проблемы, заменив систему дифференциальных уравнений отображением, к которому применима теорема из $\S 1$. Заметим сначала, что функция $H(x, y, \varepsilon)$ постоянна вдоль рассматриваемого нами решения. Ее значение мы обозначим через $h$. Чтобы оценить эту величину, полагаем $t=0$ и, учтя неравенства $\left|\lambda_{1}\right|>\left|\lambda_{2}\right|$ и $r(0)<1$, находим, что
\[
\left.|h|<\left.|| \lambda_{1}|| x_{1}\right|^{2}-\left|\lambda_{2}\right|\left|x_{2}\right|^{2}\left|+c_{1} \varepsilon^{2}<\right| \lambda_{1}\left|+c_{1} \varepsilon^{2}<\frac{3}{2}\right| \lambda_{1} \right\rvert\,
\]

при достаточно малом $\varepsilon$. Здесь $c_{1}$ и позднее $c_{2}, c_{3}, c_{4}, c_{5}$ обозначают положительные константы, которые не зависят от $\varepsilon$ и фиксированного нами частного решения. С другой стороны, полагая $t=\tau$, мы имеем
\[
\left|\lambda_{1}\right|\left|x_{1}\right|^{2}-\left|\lambda_{2}\right|\left|x_{2}\right|^{2} \geqslant-|h|-c_{2} \varepsilon^{2}>-2\left|\lambda_{1}\right|,
\]

если $\varepsilon$ достаточно мало. Вспоминая, что при $t=\tau$
\[
\left|x_{1}\right|^{2}+\left|x_{2}\right|^{2}=c^{2}=\frac{9\left|\lambda_{1}\right|}{\left|\lambda_{2}\right|}
\]

исключим $\left|x_{2}\right|^{2}$ из последних двух соотношений. Это дает нам неравенство
\[
\left(\left|\lambda_{1}\right|+\left|\lambda_{2}\right|\right)\left|x_{1}\right|^{2} \geqslant\left|\lambda_{2}\right| c^{2}-2\left|\lambda_{1}\right|=7\left|\lambda_{1}\right| \quad(t=\tau) .
\]

Теперь из неравенства $\left|\lambda_{1}\right|+\left|\lambda_{2}\right| \leqslant 2\left|\lambda_{1}\right|$ мы, наконец, получаем
\[
\left|x_{1}\right|^{2} \geqslant \frac{7}{2}>3 \quad(t=\tau)
\]

Отсюда следует, что для решения, о котором идет речь, функция $\left|x_{1}(t)\right|^{2}$ принимает все значения $\rho$ в интервале $1 \leqslant \rho \leqslant 3$, а значит и в интервале $2 \leqslant \rho \leqslant 3$.

Далее, на поверхности постоянной энергии $H=h$ при $|h|<\frac{3}{2}\left|\lambda_{1}\right|$ рассмотрим множество $\Omega$, определенное неравенством $2 \leqslant\left|x_{1}\right|^{2} \leqslant 3$ и условиями вещественности $y_{k}=i \bar{x}_{k}(k=1,2)$. Поскольку $|H|<\frac{3}{2}\left|\lambda_{1}\right|$, мы имеем на этом трехмерном множестве оценку
\[
\left|\lambda_{2}\right|\left|x_{2}\right|^{2} \geqslant\left|\lambda_{1}\right|\left|x_{1}\right|^{2}-\frac{3}{2}\left|\lambda_{1}\right|-c_{3} \varepsilon^{2} \geqslant \frac{1}{2}\left|\lambda_{1}\right|-c_{3} \varepsilon^{2} \geqslant \frac{1}{4}\left|\lambda_{1}\right|,
\]

из которой следует, что $\left|x_{2}\right| \geqslant \frac{1}{2}$.

Аналогично показывается, что величина $x_{2}$ также ограничена в $\Omega$ и сверху. Следовательно, в $\Omega$ можно определить аргумент $\theta=\operatorname{Im} \log x_{2}$ с точностью до целого кратного $2 \pi$, и мы обозначаем через $\Sigma$ двумерную поверхность в $\Omega$, определенную сравнением $\theta \equiv 0(\bmod 2 \pi)$. Точки в $\Sigma$ параметризованы действительными и мнимыми частями $x_{1}$, а вторая координата $x_{2}=\left|x_{2}\right|$ определяется как неявная функция из соотношения $H=h$. На основании оценки
\[
\dot{\theta}=\operatorname{Im} \frac{\dot{x}_{2}}{x_{2}}=\operatorname{Im} \frac{H_{y_{2}}}{x_{2}} \geqslant \operatorname{Im} \lambda_{2}-c_{4} \varepsilon^{2} \geqslant \frac{2}{3}\left|\lambda_{2}\right|,
\]

которая выполняется при достаточно малом $\varepsilon>0$, мы видим, что любое решение нашей системы, расположенное в $\Omega$, в течение промежутка времени $\geqslant 3 \pi /\left|\lambda_{2}\right|$ по крайней мере один раз трансверсально пересекает $\Sigma$.

Определим теперь отображение $S$, которое переводит точку на $\Sigma$ в ближайшую по времени точку пересечения вещественного решения, начинающегося в этой точке, с поверхностью $\Sigma$, всякий раз когда такое пересечение существует. Если $t_{0}<t_{1}$ – два последовательных момента времени, при которых такое решение пересекает $\Sigma$, то $0<t_{1}-t_{0} \leqslant 3 \pi\left|\lambda_{2}\right|$. Далее,
\[
\frac{d}{d t}\left|x_{1}\right|^{2}=2 \operatorname{Re}\left(\bar{x}_{1} H_{y_{1}}\right) \leqslant c_{5} \varepsilon^{2} .
\]

Из этого неравенства мы заключаем, что при $0<\delta<\frac{1}{3}$ для любого $\delta$ существует $\varepsilon_{\delta}>0$, такое, что для $0<\varepsilon<\varepsilon_{\delta}$ отображение $S$ корректно определено при $2+\delta \leqslant\left|x_{1}\right|^{2} \leqslant 3-\delta$ и что
\[
-\delta<\left|x_{1}\left(t_{1}\right)\right|^{2}-\left|x_{2}\left(t_{1}\right)\right|^{2}<\delta \text {. }
\]

Вспомним теперь, что для решения, существование которого предполагалось, значения $\left|x_{1}(t)\right|^{2}$ покрывают интервал $2 \leqslant \rho \leqslant 3$, и поэтому всякое кольцо $a<\left|x_{1}\right|^{2}<b$ в $\Sigma$, у которого $b-a \geqslant \delta$, содержит по крайней мере одно пересечение этого решения с $\Sigma$. Это приводит к тому, что такое пересечение решения с $\Sigma$ в области $2 \leqslant\left|x_{1}\right|^{2} \leqslant 2+\delta$ отображается некоторой итерацией $S$ или $S^{-1}$ в точку области $3-\delta \leqslant\left|x_{1}\right|^{2} \leqslant 3$, что, очевидно, невозможно, если существуют замкнутые кривые, инвариантные относительно $S$ в кольце $2+\delta<\left|x_{1}\right|^{2}<3-\delta$. Таким образом, наше доказательство будет сразу же завершено, как только мы покажем существование такой инвариантной кривой.

Сведя утверждение об устойчивости к существованию инвариантной кривой для описанного выше отображения $S$ в кольце $2+$ $+\delta \leqslant\left|x_{1}\right|^{2} \leqslant 3-\delta$, проверим теперь предположения, необходимые для применения теоремы существования из §1. Прежде всего из результатов $\S 22$ мы видим, что $S$ сохраняет интеграл площади
\[
\frac{1}{2 i} \oint \bar{x}_{1} d x_{1},
\]

взятый вдоль замкнутой кривой, и поэтому удовлетворяется требуемое свойство пересечения. Таким образом, остается только проверить, что $S$ хорошо аппроксимируется закручивающим отображением, и так как оценки нужно проводить в комплексной окрестности кольца, то мы начинаем с продолжения вещественного многообразия $\Sigma$ в комплексную область. Это многообразие было определено в $\Omega$ условиями $H=h$ и $\theta \equiv 0(\bmod 2 \pi)$, причем последнее можно заменить условием $y_{2}=i x_{2}$, которое в сочетании с условием вещественности $y_{2}=i \bar{x}_{2}$ приводит к тому, что $x_{2}$ – вещественное. Из закона сохранения энергии
\[
H=\lambda_{1} x_{1} y_{1}+\lambda_{2} x_{2} y_{2}+\varepsilon^{2} H_{4}+\ldots=h
\]

и равенства $y_{2}=i x_{2}$ получаем
\[
i \lambda_{2} x_{2}^{2}=-\lambda_{1} x_{1} y_{1}+h+O\left(\varepsilon^{2}\right)
\]

рассматривая $x_{1} y_{1}$ в комплексной области
\[
2<\left|x_{1}\right|^{2}<3, \quad 2<\left|y_{1}\right|^{2}<3, \quad\left|y_{1}-i \bar{x}_{1}\right|<\left|x_{1}\right|
\]

мы можем из уравнения (3) выразить $x_{2}$ как аналитическую функцию других переменных: $x_{2}=\varphi\left(x_{1}, y_{1}, h, \varepsilon\right)$. В самом деле, так как
\[
\left|\lambda_{1} x_{1} y_{1}-h\right| \geqslant 2\left|\lambda_{1}\right|-|h|>\left|\lambda_{1}\right| / 2,
\]

то при малом $\varepsilon$ правая часть (3) отделена от 0 , а так как последнее соотношение в (4) имеет следствием неравенство $\operatorname{Im} x_{1} y_{1}>0$, то существует однозначная ветвь квадратного корня из $-\lambda_{1} x_{1} y_{1}+h$, определенная во всей области (4). Таким образом, при малых значениях $\varepsilon$ функция $\varphi$ определена в области (4), и в соответствии с определением $\Sigma$ мы выбираем такую ветвь, которая положительна, когда $y_{1}=i \overline{x_{1}}, h=\bar{h}$. Комплексное продолжение $\Sigma_{c}$ области $\Sigma$ определяем теперь с помощью аналитических уравнений $y_{2}=i x_{2}, x_{2}=\varphi\left(x_{1}, y_{1}, h, \varepsilon\right)$ с комплексными переменными $x_{1}, y_{1}$, меняющимися в пределах области (4).

Комплексное продолжение отображения $S$ получается при помощи сдвига вдоль траектории комплексного решения нашей системы, выходящей из точки на $\Sigma_{c}$ до следующей точки ее пересечения с $\Sigma_{c}$. Чтобы аппроксимировать это отображение, мы заменим $H(x, y, \varepsilon)$ функцией $H^{*}=H_{2}+\varepsilon^{2} H_{4}$, которая зависит только от $w_{k}=x_{k} y_{k}(k=1,2)$, обозначив поверхность, соответствующую $\Sigma$, через $\Sigma^{*}$, а соответствующее отображение, определенное на $\Sigma^{*}$, через $S^{*}$. Для построения отображения $S^{*}$ нужно решить систему дифференциальных уравнений
\[
\dot{x}_{k}=H_{y_{k}}^{*}=H_{w_{k}}^{*} x_{k}, \quad \dot{y}_{k}=-H_{x_{k}}^{*}=-H_{w_{k}}^{*} y_{k} \quad(k=1,2) .
\]

Ее решения имеют вид
\[
x_{k}(t)=x_{k}(0) e^{t H_{w_{k}}^{*}}, \quad y_{k}(t)=y_{k}(0) e^{-t H_{w_{k}}^{*}},
\]

где в качестве аргументов в $H_{w_{k}}^{*}$ берутся $w_{1}(0), w_{2}(0)$. Выбирая начальные значения так, чтобы выполнялось условие $y_{2}=i x_{2}$, определим $T$ как функцию этих начальных значений, такую, что $T$ близко к $2 \pi /\left|\lambda_{2}\right|$ и $y_{2}=i x_{2}$ при $t=T$. Ясно, что для этого необходимо, чтобы
\[
H_{w_{2}}^{*} T=2 \pi i .
\]

Искомое отображение, таким образом, задается формулами
\[
x_{1}(T)=x_{1}(0) e^{i Q}, \quad y_{1}(T)=y_{1}(0) e^{-i Q},
\]

где
\[
Q=2 \pi \frac{H_{w_{1}}^{*}}{H_{w_{2}}^{*}}=2 \pi \frac{\lambda_{1}+\varepsilon^{2}\left(\mu_{11} w_{1}+\mu_{12} w_{2}\right)}{\lambda_{2}+\varepsilon^{2}\left(\mu_{12} w_{1}+\mu_{22} w_{2}\right)} ;
\]

последнее выражение после исключения $w_{2}$ с помощью интеграла энергии $H^{*}=h$ приобретает вид
\[
Q=2 \pi\left\{\frac{\lambda_{1}}{\lambda_{2}}+\frac{\varepsilon^{2}}{\lambda_{2}^{3}}\left(D w_{1}+\left(\mu_{12} \lambda_{2}-\mu_{22} \lambda_{1}\right) h\right)\right\}+O\left(\varepsilon^{3}\right),
\]

где $D$ – величина, определенная в (2). Следовательно, комплексное продолжение $S^{*}$ задается равенствами
\[
\left\{\begin{array}{l}
x_{1}(T)=x_{1}(0) e^{i \alpha+\beta x_{:}(0) y_{1}(0)}+O\left(\varepsilon^{3}\right), \\
y_{1}(T)=y_{1}(0) e^{-i \alpha-\beta x_{1}(0) y_{1}(0)}+O\left(\varepsilon^{3}\right),
\end{array}\right.
\]

где
\[
\alpha=2 \pi\left(\frac{\lambda_{1}}{\lambda_{2}}+\frac{\varepsilon^{2}}{\lambda_{2}^{3}}\left(\mu_{12} \lambda_{2}-\mu_{22} \lambda_{1}\right) h\right), \quad \beta=\frac{2 \pi i D}{\lambda_{2}^{3}} \varepsilon^{3}
eq 0 .
\]

Наконец мы в состоянии применить теорему существования из $\S 1$. Так как $H(x, y, \varepsilon)$ и $H^{*}$ отличаются только членами третьего порядка, то легко проверить, что $S$ также имеет форму (5) и при $y_{1}(0)=i \bar{x}_{1}(0)$, $2 \leqslant\left|x_{1}(0)\right|^{2} \leqslant 3$ удовлетворяет необходимым предположениям теоремы. Таким образом, мы заключаем, что кольцо $2+\delta \leqslant\left|x_{1}\right|^{2} \leqslant 3-\delta$ содержит замкнутые кривые, инвариантные относительно $S$. Этим и завершается доказательство устойчивости положения равновесия, удовлетворяющего условию (2).

Можно было бы надеяться получить аналогичный результат об устойчивости при условии, что квадратичная форма $\mu_{11} w_{1}^{2}+2 \mu_{12} w_{1} w_{2}+$ $+\mu_{22} w_{2}^{2}$ невырождена, т. е. $\mu_{11} \mu_{22}-\mu_{12}^{2}
eq 0$. Эта надежда, однако, не оправдывается, как показывает следующий пример. Возвращаясь к общему случаю $n$ степеней свободы, возьмем вектор $g=\left(g_{1}, g_{2}, \ldots, g_{n}\right)$ с неотрицательными целыми координатами, удовлетворяющий условию $|g|=\sum_{k=1}^{n} g_{k} \geqslant 3$, и многочлен
\[
H^{*}(w)=\sum_{k=1}^{n} \lambda_{k} w_{k}+\sum_{k, l=1}^{n} \mu_{k l} w_{k} w_{l},
\]

где $\lambda_{k}$ чисто мнимы, $\mu_{k l}$ действительны и
\[
\sum_{k=1}^{n} \lambda_{k} g_{k}=0, \quad \sum_{k, l=1}^{n} \mu_{k l} g_{k} g_{l}=0 .
\]

Обозначая произведение
\[
\prod_{k=1}^{n} x_{k}^{g_{i}}
\]

через $x^{g}$, мы покажем, что для системы с гамильтонианом
\[
H=H^{*}(w)+x^{g}+c y^{g}, \quad w_{k}=x_{k} y_{k}, \quad c=i^{-|g|},
\]

подчиненной условиям вещественности $y_{k}=i \bar{x}_{k}(k=1, \ldots, n)$, положение равновесия неустойчиво.
Чтобы это сделать, заметим, что
\[
\left\{\begin{array}{l}
\frac{d w_{k}}{d t}=-g_{k}\left(x^{g}-c y^{g}\right), \\
\frac{d}{d t}\left(x^{g}+c y^{g}\right)=\left(x^{g}-c y^{g}\right) \sum_{k=1}^{n} H_{w_{k}}^{*} g_{k},
\end{array}\right.
\]

и будем искать решения, которые удовлетворяют соотношениям
\[
w_{k}=i g_{k} \rho^{2} \quad(k=1, \ldots, n), \quad x^{g}=-c y^{g}
\]

для некоторой положительной скалярной функции $\rho=\rho(t)$. Учитывая (6) и (7), заключаем, что если эти соотношения выполняются в начальный момент времени, то они будут выполняться и при всех $t$, для которых решение существует, если только $\rho$ удовлетворяет дифференциальному уравнению
\[
\dot{\rho}=a \rho^{|g|-1}, \quad a= \pm \sqrt{g^{g}} .
\]

Здесь знак $a$ зависит от начальных условий и может быть обращен, если заменить $x_{k}, y_{k}$ на $\tau x_{k}, \tau y_{k}$, где $\tau^{|g|}=-1$. В любом случае эти решения стремятся к положению равновесия как при $t \rightarrow+\infty$, так и при $t \rightarrow-\infty$, и положение равновесия, таким образом, не устойчиво по отношению к прошлому и будущему.

Ясно, что в этом примере отсутствие устойчивости связано с рациональной зависимостью собственных значений $\lambda_{1}, \ldots, \lambda_{n}$. Здесь интересно заметить, что члены четвертого порядка $\sum_{k, l} \mu_{k l} w_{k} w_{l}$ не влияют на ситуацию, как это было в случае потока с двумя степенями свободы в окрестности периодического решения. Легко видеть, что условия (6) совместимы с предположением, что матрица $\left(\mu_{k l}\right.$ ) невырождена. Для примера, если $n=2$ и
\[
H^{*}=\left(\lambda_{1} w_{1}+\lambda_{2} w_{2}\right)\left(1+k_{1} w_{1}+k_{2} w_{2}\right),
\]

то второе условие в (6) удовлетворяется одновременно с первым, в то время как $\mu_{11} \mu_{22}-\mu_{12}^{2}
eq 0$, если $k_{1} \lambda_{2}
eq k_{2} \lambda_{1}$. Здесь, конечно, нарушается условие (2),

Критерий устойчивости можно легко обобщить на случай, когда члены четвертого порядка не удовлетворяют условию (2), но аналогичное условие невырожденности выполнено для членов шестого или более высокого порядка. Важно только, чтобы функция $H_{w_{1}}^{*} / H_{w_{2}}^{*}$ не была бы постоянна на поверхности $H^{*}=0$, где $H^{*}$ – функция переменных $w_{1}$, $w_{2}$, полученная отбрасыванием членов достаточно высокого порядка у гамильтониана, после того как он приведен к нормальной форме. Если отношение $\lambda_{2} \lambda_{1}^{-1}$ иррационально, то это условие невырожденности может быть сформулировано очень просто. В самом деле, с помощью результатов §30 мы можем тогда ввести формальным каноническим преобразованием новые переменные $\xi_{1}, \eta_{1}, \xi_{2}, \eta_{2}$ так, чтобы гамильтониан $H(x, y)$ превратился в степенной ряд $K=K\left(\omega_{1}, \omega_{2}\right)$ от произведений $\omega_{1}=\xi_{1} \eta_{1}, \omega_{2}=\xi_{2} \eta_{2}$. В терминах этой нормальной формы условие невырожденности требует, чтобы $K\left(\omega_{1}, \omega_{2}\right)$ не делилось на $\lambda_{1} \omega_{1}+\lambda_{2} \omega_{2}$, или другими словами, чтобы функция $K\left(-\lambda_{2} \omega_{1}, \lambda_{1} \omega_{1}\right)$ не была тождественным нулем. При этом условии проверяется, что $K_{\omega_{1}} / K_{\omega_{2}}$ не постоянно на множестве, определяемом уравнением $\lambda_{1} \omega_{1}+\lambda_{2} \omega_{2}=0$, и на основании предыдущих рассуждений мы имеем устойчивое положение равновесия.

Закончим этот параграф применением наших результатов к лагранжевым решениям ограниченной задачи трех тел. Эти решения, которые мы изучали применительно к общей задаче трех тел, сохраняют свое значение также и для ограниченного случая. Мы предполагаем, что $P_{1}, P_{2}$ – частицы масс $\mu, 1-\mu$ соответственно, и рассматриваем движение точки $P_{3}$ нулевой массы во вращающейся системе координат, в которой $P_{1}, P_{2}$ неподвижны. При этих условиях уравнения для координат $\left(x_{1}, x_{2}\right)$ точки $P_{3}$ имеют гамильтонов вид
\[
\dot{x}_{k}=H_{y_{k}}, \quad \dot{y}_{k}=-H_{x_{k}} \quad(k=1,2),
\]

где
\[
\begin{array}{l}
H=\frac{1}{2}\left(y_{1}^{2}+y_{2}^{2}\right)+x_{2} y_{1}-x_{1} y_{2}-F\left(x_{1}, x_{2}\right) \\
F=\frac{1-\mu}{\sqrt{\left(x_{1}+\mu\right)^{2}+x_{2}^{2}}}+\frac{\mu}{\sqrt{\left(x_{1}+\mu-1\right)^{2}+x_{2}^{2}}}
\end{array}
\]

Эта система имеет положения равновесия в точках
\[
x_{1}=\frac{1}{2}-\mu, \quad x_{2}= \pm \frac{\sqrt{3}}{2} \text {, }
\]

которые образуют равносторонние треугольники с точками $(-\mu, 0)$ и $(1-\mu, 0)$, задающими положения тел $P_{2}, P_{1}$ соответственно. Собственные значения $\lambda$ линеаризованной системы являются корнями уравнения четвертого порядка
\[
\lambda^{4}+\lambda^{2}+\frac{27}{4} \mu(1-\mu)=0
\]

которое получается из $(18 ; 4)$ при $m_{1}=\mu, m_{2}=1-\mu, m_{3}=0$ и имеет две пары чисто мнимых корней, если
\[
\mu(1-\mu)<\frac{1}{27} .
\]

Несложный подсчет показывает, сднако, что квадратичная часть $H_{2}$ гамильтониана знакопеременна, и поэтому, чтобы решить вопрос об устойчивости, приходится принимать в расчет члены более высокого порядка.

Если исключить те значения $\mu$, для которых $\lambda_{1} q-\lambda_{2} p=0$ при $|p|+|q| \leqslant 4$, то гамильтониан можно привести к виду (1), причем величина $D$ в (2) равна
\[
-\frac{1}{8} \frac{36-541 \lambda_{1}^{2} \lambda_{2}^{2}+644 \lambda_{1}^{4} \lambda_{2}^{4}}{\left(1-4 \lambda_{1}^{2} \lambda_{2}^{2}\right)\left(4-25 \lambda_{1}^{2} \lambda_{2}^{2}\right)}
\]

и обращается в нуль только для исключительных значений $\mu_{0}$ в интересующем нас интервале $0<\mu<\mu_{1}$, где $\mu_{1}=\frac{1}{2}\left(1-\frac{1}{9} \sqrt{69}\right)$ – наименьший из корней уравнения $27 \mu(1-\mu)=1$. Значения $\mu$, для которых $\lambda_{1} q-\lambda_{2} p=0$ при $|p|+|q| \leqslant 4$, легко определяются. Если мы выберем $\left|\lambda_{1}\right|>\left|\lambda_{2}\right|, q>0$, то $1 \leqslant q<p$ и ограничение $|p|+|q| \leqslant 4$ приводит к двум случаям $(p, q)=(2,1),(3,1)$. Вследствие равенства $\lambda_{1}^{2}+\lambda_{2}^{2}=-1$ это соответствует условию $\lambda_{2}^{2}=-\frac{1}{5},-\frac{1}{10}$, которое имеет место при
\[
\mu=\mu_{2}=\frac{1}{2}\left(1-\frac{1}{45} \sqrt{1833}\right), \quad \mu_{3}=\frac{1}{2}\left(1-\frac{1}{15} \sqrt{213}\right) .
\]

Таким образом, если исключить эти три значения $\mu_{0}, \mu_{2}, \mu_{3}$ из интервала $0<\mu<\mu_{1}$, то мы имеем устойчивость. $\mathrm{K}$ исследованию лагранжевых решений теорему Арнольда применил А. М. Леонтович [2], который, впрочем, проверил только, что $D$ не обращается в нуль тождественно по $\mu$. В явном виде $D$ и исключительные значения $\mu$ вычислили Депри [3].