Нашей первой задачей будет доказательство следующего утверждения.

Для неинтегрируемых гамильтоновых систем общего типа $(m=2)$ совокупность периодических движений общего устойчивого типа в $M$ плотна в себе.

Отметим, что эта теорема представляет собой некоторое уточнение результата, полученного в § 1-3 главы VI, согласно которому в любой окрестности такого периодического движения устойчивого типа лежат другие периодические движения устойчивого или неустойчивого типа.

Начнем с того, что напомним утверждения, сформулированные в лемме $\mathrm{\S }1$ главы VI. Мы показали там, что если нам дана сколь угодно малая окрестность начала координат $r⩽\rho (r,\vartheta$ — полярные координаты), то мы можем найти такое целое число $n$, что, во-первых, все точки области $r⩽\rho$ остаются в области $r⩽2\rho$ при преобразованиях $T,T^2,\dots ,T^n$ и, во-вторых, $\partial {\vartheta }_n/\partial r_0$ положительно при $r⩽\rho$, причем значение ${\vartheta }_n$ при $r=\rho$ по крайней мере на $2\pi$ больше, чем при $r=0$. Легко доказать подобными же рассуждениями, что и $\partial r_n/\partial r_0$ и $\partial {\vartheta }_n/\partial {\vartheta }_0$ положительны при тех же условиях.
Таким образом, кривая
$${\vartheta }_n-{\vartheta }_0-2k\pi =0,$$

где $k$ выбрано так, что при $r=0$ левая часть этого уравнения отрицательна, но не меньше, чем $-2\pi$, будет на каждом радиусе иметь одну и только одну точку $(r,\vartheta )$, для которой $r⩽\rho$. Значит, написанное выше уравнение определяет аналитическую кривую $C$, окружающую начало координат и встречающую каждый радиус в одной точке. Но по определению кривой $C$ всякая точка $P$, принадлежащая кривой $C$, переходит при преобразовании $T$ в точку $P_n$, лежащую на том же радиусе; таким образом, кривая $C_n$ тоже встречает каждый радиус только в одной точке. Кроме того, вследствие свойства преобразования $T_n$ сохранять площади, $C_n$ и $C$ будут пересекаться по крайней мере в двух точках; эти точки будут инвариантными точками при преобразовании $T^n$. В рассматриваемом случае кривые $C_n$ и $C$ не могут совпадать, потому что $C$ соответствовала бы тогда аналитическому семейству кратных периодических движений.

Исследуем вопрос об индексах вышеупомянутых инвариантных точек. Для этого можно рассматривать $r$ и $\vartheta$ как прямоугольные координаты точки на плоскости (рис. 5). Здесь $I$ обозначает инвариантную точку, в которой кривая $C_n$ пересекает $C$, переходя из внутренней области, образуемой кривой $C$, во внешнюю, если мы будем двигаться по $C_n$ в направлении возрастающего $\vartheta$.
Если какая-нибудь точка $P$ описывает в положительном направлении цикл вокруг $I$, например, вдоль квадрата $KLMN$, то из сказанного выше следует, что вектор $P{P}^n$ будет иметь горизонтальную составляющую, направленную вправо, когда точка $P$ находится над кривой $C$, и влево, когда точка $P$ находится под кривой $C$. В точках $Q$ и $R$ вектор $P{P}_n$ будет направлен соответственно вверх и вниз. Отсюда очевидно, что когда $P$ описывает этот цикл, вектор $P{P}_n$ поворачиРис. 5 вается на угол $-2\pi$, так что индекс точки $I$ будет -1 ; в то же время инвариантная точка $J$, в которой кривая $C_n$ пересекает $C$ в противоположном направлении, имеет индекс +1 .

Но согласно нашим предположениям периодические движения, соответствующие точкам $I$ и $J$, не кратные. Если они принадлежат к устойчивому типу, то число $\sigma$ не будет для них соизмеримо с $2\pi$. Соответствующие нормальные формы будут либо типа (3), где $\mu$ положительно или отрицательно, но не равно $\pm 1$, либо типа (2).

При помощи формул (2) и (3) легко определить соответствующие индексы. В первом и втором случае $\left({}^5\right)$ угловой коэффициент вектоpa $P{P}_n$ будет равен
$$\frac{v_n-v}{u_n-u}=-\frac{1}{\mu }\frac{v+\dots }{u+\dots }$$

где в числителе и знаменателе выписаны члены не выше первого порядка. Отсюда следует, что если $\mu$ отрицательно, то вращение вектора $P{P}_n$ будет такое же, как вектора, проведенного от инвариантной точки $I$, принимаемой за начало координат, к точке $(u,v)$, т. е. $2\pi$. Следовательно, индекс равен +1 , если $\mu$ отрицательно. Подобным же образом очевидно, что индекс равен -1 , если $\mu$ положительно. Переходя к третьему случаю, когда движение будет устойчивого типа, причем по предположению число $\sigma$ в формулах (2) несоизмеримо с $2\pi$, мы видим, что $T^n$ представляет собой вблизи начала координат вращение на угол, несоизмеримый с $2\pi$, так что вектор $P{P}_n$ вращается на $2\pi$, когда $P$ обходит

цикл вокруг $I$. Следовательно, для движения устойчивого типа индекс равен +1 .

Отсюда мы заключаем, что точка $I$ соответствует периодическому движению неустойчивого типа, но относительно точки $J$ пока еще неясно, какого она типа.

На самом же деле при указанных условиях движение, соответствующее $J$, должно быть устойчивого типа. Числа $\mu$ являются корнями характеристического уравнения, которое принимает вид:
$$\left|\begin{array}{ll}\frac{\partial r_n}{\partial r_0}-\mu & \frac{\partial r_n}{\partial {\vartheta }_0}\\ \frac{\partial v_n}{\partial r_0}& \frac{\partial v_n}{\partial v_0}-\mu \end{array}\right|=0,$$

если мы выразим его через переменные $r,\vartheta$. Так как корни этого уравнения — взаимно-обратные числа, то уравнение приводится к виду
$${\mu }^2-(\frac{\partial r_n}{\partial r_0}+\frac{\partial {\vartheta }_n}{\partial {\vartheta }_0})\mu +1=0$$

где коэффициент при $\mu$ представляет собой отрицательное число. Следовательно, $\mu$ положительно, и $J$ соответствует периодическому движению устойчивого типа.

Этот вывод завершает доказательство для общего случая, когда не имеется кратных периодических движений и $leq0$.

Если первоначальное периодическое движение принадлежит к устойчивому типу, но не к тому совершенно исключительному формальному виду, когда отсутствуют переменные периоды, то, как мне кажется, можно ожидать, что будут существовать близкие периодические движения устойчивого типа.

Этот исключительный случай заслуживает особого внимания; возможно, что он может появиться только в интегрируемой проблеме.