Нашей первой задачей будет доказательство следующего утверждения.

Для неинтегрируемых гамильтоновых систем общего типа $(m=2)$ совокупность периодических движений общего устойчивого типа в $M$ плотна в себе.

Отметим, что эта теорема представляет собой некоторое уточнение результата, полученного в § 1-3 главы VI, согласно которому в любой окрестности такого периодического движения устойчивого типа лежат другие периодические движения устойчивого или неустойчивого типа.

Начнем с того, что напомним утверждения, сформулированные в лемме $\S 1$ главы VI. Мы показали там, что если нам дана сколь угодно малая окрестность начала координат $r \leqslant \rho(r, \vartheta$ — полярные координаты), то мы можем найти такое целое число $n$, что, во-первых, все точки области $r \leqslant \rho$ остаются в области $r \leqslant 2 \rho$ при преобразованиях $T, T^{2}, \ldots, T^{n}$ и, во-вторых, $\partial \vartheta_{n} / \partial r_{0}$ положительно при $r \leqslant \rho$, причем значение $\vartheta_{n}$ при $r=\rho$ по крайней мере на $2 \pi$ больше, чем при $r=0$. Легко доказать подобными же рассуждениями, что и $\partial r_{n} / \partial r_{0}$ и $\partial \vartheta_{n} / \partial \vartheta_{0}$ положительны при тех же условиях.
Таким образом, кривая
\[
\vartheta_{n}-\vartheta_{0}-2 k \pi=0,
\]

где $k$ выбрано так, что при $r=0$ левая часть этого уравнения отрицательна, но не меньше, чем $-2 \pi$, будет на каждом радиусе иметь одну и только одну точку $(r, \vartheta)$, для которой $r \leqslant \rho$. Значит, написанное выше уравнение определяет аналитическую кривую $C$, окружающую начало координат и встречающую каждый радиус в одной точке. Но по определению кривой $C$ всякая точка $P$, принадлежащая кривой $C$, переходит при преобразовании $T$ в точку $P_{n}$, лежащую на том же радиусе; таким образом, кривая $C_{n}$ тоже встречает каждый радиус только в одной точке. Кроме того, вследствие свойства преобразования $T_{n}$ сохранять площади, $C_{n}$ и $C$ будут пересекаться по крайней мере в двух точках; эти точки будут инвариантными точками при преобразовании $T^{n}$. В рассматриваемом случае кривые $C_{n}$ и $C$ не могут совпадать, потому что $C$ соответствовала бы тогда аналитическому семейству кратных периодических движений.

Исследуем вопрос об индексах вышеупомянутых инвариантных точек. Для этого можно рассматривать $r$ и $\vartheta$ как прямоугольные координаты точки на плоскости (рис. 5). Здесь $I$ обозначает инвариантную точку, в которой кривая $C_{n}$ пересекает $C$, переходя из внутренней области, образуемой кривой $C$, во внешнюю, если мы будем двигаться по $C_{n}$ в направлении возрастающего $\vartheta$.
Если какая-нибудь точка $P$ описывает в положительном направлении цикл вокруг $I$, например, вдоль квадрата $K L M N$, то из сказанного выше следует, что вектор $P P^{n}$ будет иметь горизонтальную составляющую, направленную вправо, когда точка $P$ находится над кривой $C$, и влево, когда точка $P$ находится под кривой $C$. В точках $Q$ и $R$ вектор $P P_{n}$ будет направлен соответственно вверх и вниз. Отсюда очевидно, что когда $P$ описывает этот цикл, вектор $P P_{n}$ поворачиРис. 5 вается на угол $-2 \pi$, так что индекс точки $I$ будет -1 ; в то же время инвариантная точка $J$, в которой кривая $C_{n}$ пересекает $C$ в противоположном направлении, имеет индекс +1 .

Но согласно нашим предположениям периодические движения, соответствующие точкам $I$ и $J$, не кратные. Если они принадлежат к устойчивому типу, то число $\sigma$ не будет для них соизмеримо с $2 \pi$. Соответствующие нормальные формы будут либо типа (3), где $\mu$ положительно или отрицательно, но не равно $\pm 1$, либо типа (2).

При помощи формул (2) и (3) легко определить соответствующие индексы. В первом и втором случае $\left(^{5}\right)$ угловой коэффициент вектоpa $P P_{n}$ будет равен
\[
\frac{v_{n}-v}{u_{n}-u}=-\frac{1}{\mu} \frac{v+\ldots}{u+\ldots}
\]

где в числителе и знаменателе выписаны члены не выше первого порядка. Отсюда следует, что если $\mu$ отрицательно, то вращение вектора $P P_{n}$ будет такое же, как вектора, проведенного от инвариантной точки $I$, принимаемой за начало координат, к точке $(u, v)$, т. е. $2 \pi$. Следовательно, индекс равен +1 , если $\mu$ отрицательно. Подобным же образом очевидно, что индекс равен -1 , если $\mu$ положительно. Переходя к третьему случаю, когда движение будет устойчивого типа, причем по предположению число $\sigma$ в формулах (2) несоизмеримо с $2 \pi$, мы видим, что $T^{n}$ представляет собой вблизи начала координат вращение на угол, несоизмеримый с $2 \pi$, так что вектор $P P_{n}$ вращается на $2 \pi$, когда $P$ обходит цикл вокруг $I$. Следовательно, для движения устойчивого типа индекс равен +1 .

Отсюда мы заключаем, что точка $I$ соответствует периодическому движению неустойчивого типа, но относительно точки $J$ пока еще неясно, какого она типа.

На самом же деле при указанных условиях движение, соответствующее $J$, должно быть устойчивого типа. Числа $\mu$ являются корнями характеристического уравнения, которое принимает вид:
\[
\left|\begin{array}{ll}
\frac{\partial r_{n}}{\partial r_{0}}-\mu & \frac{\partial r_{n}}{\partial \vartheta_{0}} \\
\frac{\partial v_{n}}{\partial r_{0}} & \frac{\partial v_{n}}{\partial v_{0}}-\mu
\end{array}\right|=0,
\]

если мы выразим его через переменные $r, \vartheta$. Так как корни этого уравнения — взаимно-обратные числа, то уравнение приводится к виду
\[
\mu^{2}-\left(\frac{\partial r_{n}}{\partial r_{0}}+\frac{\partial \vartheta_{n}}{\partial \vartheta_{0}}\right) \mu+1=0
\]

где коэффициент при $\mu$ представляет собой отрицательное число. Следовательно, $\mu$ положительно, и $J$ соответствует периодическому движению устойчивого типа.

Этот вывод завершает доказательство для общего случая, когда не имеется кратных периодических движений и $l
eq 0$.

Если первоначальное периодическое движение принадлежит к устойчивому типу, но не к тому совершенно исключительному формальному виду, когда отсутствуют переменные периоды, то, как мне кажется, можно ожидать, что будут существовать близкие периодические движения устойчивого типа.

Этот исключительный случай заслуживает особого внимания; возможно, что он может появиться только в интегрируемой проблеме.