§1. Пусть нам дана динамическая система с двумя степенями свободы. Будем рассматривать движения, соответствующие какомунибудь определенному значению полной энергии. В этом случае дифференциальные уравнения движения можно написать в следующем виде:
\[
\frac{d p}{d t}=-\frac{\partial H(p, q, t)}{\partial q}, \quad \frac{d q}{d t}=\frac{\partial H(p, q, t)}{\partial p} .
\]

В частности, в непосредственной окрестности периодического движения можно рассматривать независимую переменную $t$ как и периодическую (угловую) координату периода $2 \pi$, а $H$ – как периодическую функцию этой переменной, причем само периодическое движение будет соответствовать траектории $p=q=0$ в пространстве $(p, q, t)$.
§ 2. Следуя методу, примененному в работах Пуанкаре ${ }^{1}$, Леви-Чивита $^{2}$ и моих ${ }^{3}$, изучение движений, соседних с периодическим движением, приводится к изучению некоторого точечного преобразования $T$ плоскости в себя. Обозначим через
\[
p\left(p_{0}, q_{0}, t\right) \text { и } q\left(p_{0}, q_{0}, t\right)
\]

координаты $p, q$ в момент $t$ того движения, для которого при $t=0 p$ и $q$ обращаются соответственно в $p_{0}$ и $q_{0}$. Если $H$ представляет собою аналитическую функцию своих аргументов, то обе эти функции $p$ и $q$ будут также аналитическими относительно $p_{0}, q_{0}, t$.

По прошествии промежутка времени, равного $2 \pi$, движущаяся точка окажется снова в плоскости $t=0^{4}$ с значениями координат $p$ и $q$, равными
\[
\begin{aligned}
p_{1} & =p\left(p_{0}, q_{0}, 2 \pi\right) \equiv \varphi\left(p_{0}, q_{0}\right), \\
q_{1}=q\left(p_{0}, q_{0}, 2 \pi\right) & \equiv \psi\left(p_{0}, q_{0}\right) .
\end{aligned}
\]
${ }^{1} \mathrm{Cm}$. ero «Méthodes nouvelles de la mécanique céleste», I, III.
${ }^{2}$ Cм., например, Levi-Civita, «Sopra alcuni criteri di instabilita», Annali di Mathematice, Ser. III, т. V. 1901.
${ }^{3}$ Surface Transformations and Their Dynamical Applications», Acta Mathematica, т. XLIII, 1922.

Отметим здесь, что почти все рассуждения, содержащиеся в этом мемуаре, остаются справедливыми в случае, когда $T$ выражается непрерывными функциями, имеющими непрерывные производные любого порядка.
${ }^{4}$ Мы рассматриваем все точки $(p, q, t+2 k \pi)(k=0, \pm 1, \pm 2, \ldots)$ как одну точку.

Таким образом, преобразование $T$, переводящее каждую точку $p, q$ в точку $p_{1}, q_{1}$, определяется формулами
\[
p_{1}=\varphi(p, q), \quad q_{1}=\psi(p, q) .
\]

Легко показать, что это преобразование $T$ будет прямым, однооднозначным и аналитическим в окрестности инвариантной точки $p=0, q=0$, которая соответствует данному периодическому движению, и что кроме того это преобразование сохраняет площади:
\[
\frac{\partial p_{1}}{\partial p} \frac{\partial q_{1}}{\partial q}-\frac{\partial p_{1}}{\partial q} \frac{\partial q_{1}}{\partial p} \equiv 1 .
\]
§ 3. С другой стороны, если нам дано преобразование $T$, обладающее вышеупомянутыми свойствами, то всегда существуют соответствующие этому преобразованию динамические системы вида (1), для которых $H$ будет функцией класса $C_{\infty},{ }^{1}$ если не аналитической $\left.{ }^{1}\right)$.
§4. Предположим теперь, что периодическое движение $p=q=0$ будет общего устойчивого типа. В этом случае характеристическое уравнение
\[
\lambda^{2}-\left(\frac{\partial \varphi(0,0)}{\partial p}+\frac{\partial \psi(0,0)}{\partial q}\right) \lambda+1=0
\]

будет иметь два комплексных сопряженных корня
\[
\lambda^{\prime}=e^{\sigma \sqrt{-1}}, \quad \lambda^{\prime \prime}=e^{-\sigma \sqrt{-1}},
\]

где $\sigma$ – такое число, что отношение $\frac{\sigma}{2 \pi}$ иррационально. Ряды, формально выражающие координаты $p$ и $q$ в функции от $t$, будут в этом случае тригонометрического типа.

При помощи преобразования $T$ мы можем поставить основную проблему устойчивости в следующей форме: будем повторять бесконечно преобразование $T$ (или $T^{-1}$ ) и рассмотрим последовательные образы некоторой точки $P$, находящейся от инвариантной точки $(0,0)$ на расстоянии, меньшем $\delta$. Всегда ли можно выбрать $\delta$ настолько малым, чтобы все эти образы лежали на расстоянии, меньшем $\varepsilon>0$ от этой точки, где $\varepsilon$ – произвольно заданное, сколь угодно малое число? Если это так, то движение будет устойчивым в строгом смысле этого слова. До сих пор эта весьма трудная проблема еще не разрешена во всей своей общности.
${ }^{1}$ То есть функция $H$ и все ее частные производные (любого порядка) непрерывны.

Как отметил еще Пуанкаре ${ }^{1}$, для того, чтобы в каком-нибудь данном случае имелась устойчивость в указанном выше смысле, необходимо и достаточно, чтобы вокруг инвариантной точки существовали инвариантные кривые ${ }^{2}$ сколь угодно малого диаметра. В этом случае мы можем, очевидно, найти бесконечную последовательность $f_{1}, f_{2}, \ldots$ инвариантных кривых, сходящуюся к этой точке.
§5. Я показал (см. цитированную уже статью в «Acta Mathematica», что применением формальных рядов можно всегда привести преобразование $T$ к нормальному виду:
\[
\left.\begin{array}{l}
\overline{p_{1}}=\bar{p} \cos \left[\sigma+c\left(\bar{p}^{2}+\bar{q}^{2}\right)^{m}\right]-\bar{q} \sin \left[\sigma+c\left(\bar{p}^{2}+\bar{q}^{2}\right)^{m}\right], \\
\overline{p_{1}}=\bar{p} \sin \left[\sigma+c\left(\bar{p}^{2}+\bar{q}^{2}\right)^{m}\right]+\bar{q} \cos \left[\sigma+c\left(\bar{p}^{2}+\bar{q}^{2}\right)^{m}\right],
\end{array}\right\}
\]

где, вообще говоря, $m=1, c
eq 0$.
В интегрируемом случае ряды $\bar{p}, \bar{q}$ будут сходящимися и мы будем иметь аналитическое семейство инвариантных кривых $f$, а именно кривых $\bar{p}^{2}+\bar{q}^{2}=$ const. Это, следовательно, будет простым примером случая, когда имеется устойчивость в строгом смысле слова.
§6. Мною был изучен также вид инвариантных кривых в общем неинтегрируемом случае при единственном предположении, что $c
eq 0$. При подходящем выборе координат $p, q$ будет существовать круг с центром в начале координат, такой, что внутри этого круга преобразование $T$ вращает каждое радиальное направление влево или вправо, в зависимости от того, будет ли $c>0$ или $c<0$, тогда как обратное преобразование $T^{-1}$ поворачивает эти векторы в противоположном направлении. Рассматривая только внутренность такого круга, я доказал, между прочим, следующие факты:
1. Всякая инвариантная кривая $f$ выражается уравнением вида $r=f(\vartheta)>0(r, \vartheta$ – полярные координаты), где $f(\vartheta)$ есть непрерывная периодическая функция от $\vartheta$ периода $2 \pi$, и при этом такая, что отношение
\[
\frac{f\left(\vartheta_{1}\right)-f\left(\vartheta_{2}\right)}{\vartheta_{1}-\vartheta_{2}}
\]

ограничено для всех $\vartheta_{1}, \vartheta_{2}$.
2. Всякой инвариантной кривой соответствует некоторый коэффициент вращения $\tau$, дающий в известном смысле среднее приращение, которое получает угловая координата $\vartheta$ точек $(r, \vartheta)$ этой кривой при
${ }^{1}$ Méthodes nouvelles de la mécanique céleste, т. III, стр. 149-151.
${ }^{2}$ Кривыми мы называем границы односвязного открытого множества.

преобразовании $T .{ }^{1}$ Если $c>0^{2}$, то инвариантная кривая $f_{1}$, будет содержать внутри себя инвариантную кривую $f_{2}$ при $\tau_{1}>\tau_{2}$, и, наоборот, если $f_{2}$ находится внутри кривой $f_{1}$, то будем иметь $\tau_{1}>\tau_{2}$.
3. Один и тот же коэффициент $\tau$ не может принадлежать двум различным кривым $f_{1}$ и $f_{2}$, за исключением того случая, когда $\tau=\frac{2 m \pi}{n}$, где $m$ и $n$ – целые числа. В этом случае кривые, соответствующие этому значению $\tau$, будут обязательно иметь одну или несколько общих точек; эти общие точки будут инвариантными относительно преобразования $T^{n}$, и приращение $\vartheta$ для них при этом преобразовании будет равно $2 m \pi$.
$4 .^{3}$ Всякая кривая, принадлежащая значению $\frac{2 m \pi}{n}$ коэффициента вращения, будет или сама аналитической, или состоять из конечного числа дуг, аналитических во всех точках, за исключением, может быть, своих концов, где они, однако, остаются класса $C_{\infty}$. Эти концы аналитических дуг представляют собою инвариантные точки неустойчивого типа относительно преобразования $T^{n}$; точки аналитической дуги при итерации преобразования $T^{n}$ стремятся асимптотически к одному из этих концов (а при итерации $T^{-n}$ к другому).
5. Совокупность инвариантных кривых $f$ и совокупность их коэффициентов вращения $\tau$ замкнуты и содержат всегда соответственно инвариантную кривую $r=0$ и ее коэффициент вращения $\tau=\sigma$.
$\S 7$. Как мы видим, могут представиться разные случаи: а) не существует инвариантных кривых $f$, кроме кривой $r=0 ;$ ) такие кривые существуют, и соответствующие значения коэффициентов $\tau$ заполняют некоторый интервал ( $\sigma, \mu$ ); и, наконец, с) такие кривые существуют, но их коэффициенты вращения не заполняют интервала.

В первом случае мы имеем область неустойчивости около инвариантной точки, которая будет неустойчивой, согласно критерию Пуанкаре. В третьем случае мы будем иметь кольцеобразные зоны неустойчивости между каждыми двумя последовательными инвариантными кривыми $f_{1}$ и $f_{2}$, т. е. такими, что не существует никакого значения $\tau$ между $\tau_{1}$ и $\tau_{2}$; напомним, что совокупность значений $\tau$ замкнута. Эти кольцеобразные зоны неустойчивости обладают некоторыми замечательными свойствами, напоминающими в значительной мере свойства зоны неустойчивости для первого случая. В частности, можно найти
${ }^{1}$ Точнее, после $n$ последовательных повторений преобразования $T$ это приращение (по исследованиям Пуанкаре) будет всегда лежать между пределами $n \tau-2 \pi$ и $n \tau+2 \pi$.
${ }^{2}$ Это предположение не ограничивает общности, потому что величины $c$ для $T$ и для $T^{-1}$ будут всегда противоположных знаков.
${ }^{3}$ В случае, если преобразование $T$ принадлежит классу $C_{\infty}$, но не является аналитическим, формулировка свойства (4) должна быть надлежащим образом изменена.

точки в любой окрестности какой-нибудь точки одной границы кольцеобразной зоны неустойчивости, которые после нескольких итераций преобразования $T$ или $T^{-1}$ окажутся в окрестности другой границы этой области.

До сих пор ни разу не было доказано существование таких кольцеобразных зон неустойчивости. Главной целью этой статьи будет доказательство их существования, при условии, что преобразование $T$ – аналитическое и что функция $H$ принадлежит к классу $C_{\infty}$, хотя, быть может, и не является аналитической.

Если бы можно было пойти далее и доказать существование такой зоны вокруг начала (т.е. для случая, когда одна из кривых $f_{1}, f_{2}$ обращается в кривую $r=0$ ), то проблема устойчивости была бы разрешена в отрицательном смысле.
§8. Для того, чтобы доказать только что высказанное утверждение, рассмотрим в первую очередь сложное преобразование вида $T_{k}=$ $=T_{0} R_{k}$. Здесь $T_{0}$ обозначает преобразование (5) с $m=1,0<c<\pi$; $R_{k}$ есть преобразование, зависящее от параметра $k$, которое при $k=0$ обращается в тождественное преобразование и при всех $k$ сохраняет площади и имеет в качестве инвариантных точек начало координат и все точки окружности $r=1$. Мы определим сейчас преобразование $R_{k}$ совершенно точно.

Применяя видоизмененные полярные координаты $\rho=r^{2}, \vartheta$, мы можем написать преобразование $T_{0}$ в виде:
\[
\rho_{1}=\rho, \quad \vartheta_{1}=\vartheta+\sigma+c \rho .
\]

Условие для того, чтобы какое-нибудь преобразование, выраженное посредством этих координат, сохраняло площади, заключается в том, чтобы соответственный функциональный определитель был равен единице $\left(^{2}\right)$.

Выберем постоянную $\sigma$ таким образом, чтобы она была отрицательной, но большей, чем $-c(-c<\sigma<0$ ). В этом случае преобразование $T_{0}$ оставляет инвариантным не только начало, но и все точки окружности $\rho=-\frac{\sigma}{c}<1$ в круговой области $\rho \leqslant 1$.
Определим теперь преобразование $R_{k}$ уравнениями ${ }^{1}$ :
\[
p_{1}=p+k \frac{\partial u}{\partial q_{1}}\left(p, q_{1}\right), \quad q=q_{1}+k \frac{\partial u}{\partial p}\left(p, q_{1}\right),
\]
${ }^{1}$ Относительно применения уравнений этого типа см. статью E. Goursat «Sur les transformations ponctuelles qui conservent les volumes», Bulletin des Sciences Mathématiques, sér. 3, t. V, 1901.

где
\[
u\left(p, q_{1}\right) \equiv-\left(p^{2}+q_{1}^{2}-1\right)^{2}\left(p^{2}+q_{1}^{2}\right)^{2} p .
\]

Для $k$ достаточно малых мы видим, что это преобразование является прямым, одно-однозначным и аналитическим, и что оно приводится к тождественному преобразованию для $k=0$. Кроме того, начало координат и точки окружности $\rho=1$ остаются инвариантными, и площади сохраняются при преобразовании $R_{k}$ для всех значений $k$, что можно показать непосредственным вычислением функционального определителя.

Следовательно, преобразования $R_{k}$ действительно обладают всеми указанными выше свойствами.

Если мы выразим переменные $p_{1}, q_{1}$ в функции от $p, q$, то мы получим следующие ряды:
\[
p_{1}=p+k \frac{\partial u}{\partial q}(p, q)+\ldots, q_{1}=q-\frac{\partial u}{\partial p}(p, q)+\ldots
\]

Выраженные через координаты $\rho, \vartheta$, эти ряды принимают следующий вид:
\[
\rho_{1}=\rho+2 k \frac{\partial u}{\partial \vartheta}+\ldots, \vartheta_{1}=\vartheta-2 k \frac{\partial u}{\partial \rho}+\ldots
\]

Мы не будем применять эти последние уравнения в непосредственной окрестности начала координат.
§9. Рассмотрим теперь сложное преобразование $T_{k}=T_{0} R_{k}$. Очевидно, что при $k$ достаточно малых это преобразование удовлетворяет следующим условиям:
a) $T_{k}$ – прямое, одно-однозначное, аналитическое преобразование относительно переменных $p, q$; оно изменяется аналитически с изменением параметра $k$;
b) оно сохраняет площади;
c) оно имеет начало координат в качестве простой инвариантной точки; при этом разложение по степеням $p, q$ совпадает с таковым для $T_{0}$ до членов третьего порядка включительно;
d) окружность $\rho=1$ является для преобразования $T_{k}$ инвариантной кривой; при преобразовании $T_{k}$ все точки этой окружности передвигаются вдоль нее на угол, равный $\sigma+c<2 \pi$;
е) при $k=0, T_{k}$ приводится к преобразованию $T_{0}$, инвариантными точками которого являются начало координат и все точки окружности $\rho=-\frac{\sigma}{c}<1$.

§ 10. Докажем теперь два других свойства вспомогательного преобразования $T_{k}$, а именно:
f) $T_{k}$ поворачивает радиальные направления налево от этих направлений по крайней мере при очень маленьких $k$;
g) в круге $\rho \leqslant 1$ преобразование $T_{k}(k
eq 0)$ имеет еще только две инвариантные точки, кроме начала координат. Эти инвариантные точки простые и изменяются аналитически с изменением $k$. При $k=0$ они приводятся к точкам $\left(-\frac{\sigma}{c}, 0\right),\left(-\frac{\sigma}{c}, \pi\right)$ (в полярных координатах); первая из этих точек устойчивого, а вторая – неустойчивого типа.

Для того, чтобы доказать утверждение $f$, заметим, что при малых $k$ радиальные направления поворачиваются указанным образом по крайней мере для точек, близких к началу координат, потому что разложения $p_{1}, q_{1}$ в ряды по степеням $p, q$ имеют члены не выше четвертой степени, не зависящие от $k$, и изменяются как аналитические функции от $k$. С другой стороны, угол, на который поворачивается радиальное направление влево, будет аналитической функцией от $p, q$, исключая начало координат; эта функция положительна при $k=0$ (за исключением начала координат) и, следовательно, будет положительной вне некоторого круга $\rho=\delta>0$ при достаточно малых $k$.

Для доказательства утверждения (g) нужно рассмотреть инвариантные точки преобразования $T_{k}$. Очевидно, что такие точки при малых $k$ могут существовать только в окрестности точки $\rho=0$ или окружности $\rho=-\frac{\sigma}{c}$, дающих инвариантные точки преобразования $T_{0}$. Точка $\rho=0$ является «простой» инвариантной точкой преобразования $T_{0}$. Следовательно, при малых $k$ всякая инвариантная точка преобразования $T_{k}$, лежащая в окрестности точки $\rho=0$, получается посредством аналитической вариации из начала координат. Но так как начало координат само есть инвариантная точка преобразования $T_{k}$ при всяком $k$, то отсюда следует, что $T_{k}$ не имеет никаких других инвариантных точек в окрестности начала координат, кроме самого начала.

Для того, чтобы рассмотреть другие инвариантные точки, мы применим видоизмененные полярные координаты $\rho, \vartheta$. Преобразование $T_{k}$ может быть записано в этих координатах в виде:
\[
\left.\begin{array}{l}
\rho_{1}=\rho+2 k \frac{\partial u^{*}}{\partial \vartheta}(\rho, \vartheta+\sigma+c \rho)+\ldots, \\
\vartheta_{1}=\vartheta+\sigma+c \rho-2 k \frac{\partial u^{*}}{\partial \rho}(\rho, \vartheta+\sigma+c \rho)+\ldots
\end{array}\right\}
\]

где
\[
u^{*}(\rho, \vartheta) \equiv u(p, q) .
\]

В инвариантной точке имеем $\rho_{1}=\rho, \vartheta_{1}=\vartheta$, т. е.
\[
\left.\begin{array}{r}
\frac{\partial u^{*}}{\partial \vartheta}(\rho, \vartheta+\sigma+c \rho)+k A_{1}+\ldots=0, \\
\sigma+c \rho-2 k \frac{\partial u^{*}}{\partial \rho}(\rho, \vartheta+\sigma+c \rho)+k^{2} B_{1}+\ldots=0,
\end{array}\right\}
\]

где $A_{1}, A_{2}, \ldots, B_{1}, B_{2}, \ldots$ суть аналитические функции от $\rho$ и $\vartheta$, периодические периода $2 \pi$ относительно $\vartheta$; кроме того эти ряды сходятся равномерно для тех значений $\rho$ и $\vartheta$, которые мы здесь рассматриваем (т. е. $0 \leqslant \delta \leqslant \rho \leqslant 1, \vartheta$ произвольно).
Но при нашем выборе функции $u$ имеем:
\[
u^{*}(\rho, \vartheta) \equiv-(1-\rho)^{2} \rho^{5 / 2} \cos \vartheta .
\]

Следовательно, первое из уравнений (11) показывает нам, что для всякого значения $\rho$, близкого к $-\frac{\sigma}{c}$, существуют два соответствующих значения $\vartheta$, удовлетворяющих этому уравнению, одно из которых близко к нулю, а другое – к $\pi$ :
\[
\vartheta^{\prime}=-\sigma-c \rho+k f_{1}(\rho)+\ldots, \vartheta^{\prime \prime}=\pi-\sigma-c \rho+k g_{1}(\rho)+\ldots
\]

Здесь $f_{1}, f_{2}, \ldots, g_{1}, g_{2}, \ldots$ суть аналитические функции $\rho$.
Подставляя эти значения $\vartheta$ во второе уравнение (11), мы получим два уравнения, имеющих следующий вид:
\[
\left.\begin{array}{r}
\sigma+c \rho+k C_{1}(\rho)+\ldots=0 \\
\sigma+c \rho+k D_{1}(\rho)+\ldots=0,
\end{array}\right\}
\]

где $C_{1}, C_{2}, \ldots, D_{1}, D_{2}, \ldots$ – аналитические функция от $\rho$.
Из этих уравнений получаем соответственные значения $\rho^{\prime}$ и $\rho^{\prime \prime}$ координаты $\rho$ :
\[
\left.\begin{array}{l}
\rho^{\prime}=-\frac{\sigma}{c}+k E_{1}+\ldots, \\
\rho^{\prime \prime}=-\frac{\sigma}{c}+k F_{1}+\ldots
\end{array}\right\}
\]

Здесь коэффициенты $E_{1}, E_{2}, \ldots, F_{1}, F_{2}, \ldots$ – постоянные числа.
Следовательно, для $k
eq 0$ и малых $\rho$ существуют как раз две инвариантные точки, отличные от начала координат, которые изменяются аналитически с изменением $k$ и приводятся при $k=0$ к $\left(-\frac{\sigma}{c}, 0\right)$ и $\left(-\frac{\sigma}{c}, \pi\right)$ соответственно.

Остается рассмотреть характеристические уравнения этих двух инвариантных точек. Если мы положим $k>0$, то первое уравнение, которое можно написать в виде
\[
\lambda^{2}-2\left[1+k c\left(1+\frac{\sigma}{c}\right)^{2}\left(-\frac{\sigma}{c}\right)^{5 / 2}+\ldots\right] \lambda+1=0\left({ }^{4}\right),
\]

будет иметь два вещественных корня $\lambda_{1}^{\prime}<1$ и $\lambda_{1}^{\prime \prime}>1$. Соответственная инвариантная точка будет, следовательно, простой и формально неустойчивой. Второе уравнение будет иметь следующий вид:
\[
\lambda^{2}-2\left[1-k c\left(1+\frac{\sigma}{c}\right)^{2}\left(-\frac{\sigma}{c}\right)^{5 / 2}+\ldots\right] \lambda+1=0 .
\]

Это уравнение имеет два комплексных сопряженных корня. Соответственная инвариантная точка будет также простой, но устойчивой с формальной точки зрения, во всяком случае, если мы выберем $k$ таким образом, что эти корни не будут корнями $n$-й степени из единицы.

Следовательно, определенное таким образом преобразование $T_{k}$ будет обладать всеми указанными свойствами.
$\S$ 11. Но при малых $k T_{k}$ имеет по крайней мере две инвариантные кривые, а именно, $\rho=0$ и $\rho=1$, с коэффициентами вращения $\sigma$ и $\sigma+c$ соответственно. Следовательно, или существует система промежуточных инвариантных кривых, соответствующих всем числам интервала $\sigma \leqslant \tau \leqslant \sigma+c$, или же существуют кольцеобразные зоны неустойчивости, что нам требуется доказать. Нам остается, следовательно, рассмотреть только первую возможность. В этом случае должна существовать по крайней мере одна инвариантная кривая $f_{0}$, соответствующая промежуточному значению $\tau=0$; эта кривая будет обязательно содержать простую инвариантную точку неустойчивого типа.

Я утверждаю, что не может существовать только одна кривая этого рода.

В противном случае эта кривая содержала бы две из асимптотических ветвей, исходящих из неустойчивой точки, и мы имели бы одну из двух возможностей, показанных на рис. 15.
$I_{1}$ и $I_{2}$ обозначают соответственно неустойчивую и устойчивую инвариантную точку; асимптотическая кривая $f_{0}$ встречает всякий луч, исходящий из начала координат, в одной точке, и направление движения точек этой кривой показано на рисунке стрелками; в самом деле, около точки $I_{1}$ всякое радиальное направление поворачивается налево. Но в рассматриваемом случае инвариантные кривые $f$ при стремлении коэффициента $\tau$ к нулю должны приближаться равномерно к $f_{0}$, что невозможно, потому что такая инвариантная кривая не может пересекать две свободные асимптотические ветви, исходящие на точки $I$.

Рис. 15
Рис. 16

В этих условиях, очевидно, остается только одна возможность, а, именно, мы будем иметь две инвариантные асимптотические кривые $f_{1}$ и $f_{2}$, образуемые четырьмя асимптотическими ветвями, исходящими из $I_{1}$ и совпадающими попарно. Этот случай изображен на рис. 16.

Можно было бы надеяться доказать непосредственным вычислением невозможность этого предположения. В самом деле, представляется почти невероятным, чтобы эти ветви совпали указанным выше образом. Однако такое вычисление, по-видимому, было бы сложным, и я предпочитаю обойти трудности этого вычисления способом, изложенным в следующем параграфе.
§ 12. Мы предположим сперва, что $T_{k}$ имеет две инвариантные кривые, подобные тем, которые изображены на рис. 16.
Рассмотрим теперь сложное
Рис. 17 преобразование $T_{k}^{*}=T_{k} S$, где $S$ определяется как тождественное преобразование вне малой окружности $\gamma$ около некоторой точки $p$ на внешней асимптотической ветви (рис. 17). Внутри $\gamma S$ есть вращение вокруг $p$ на переменный, но малый угол, обращающийся в нуль в центре и на окружности круга $\gamma$. Очевидно, можно выбрать преобразование $S$ класса $C_{\infty}$ таким образом, что $S$ будет вращать радиальные направления налево на сколь угодно малый угол. Кроме того $S$ будет сохранять площади. Сложное преобразование $T_{k}^{*}$ будет обладать подобными же свойствами.
Но такое преобразование $T^{*}$ класса $C_{\infty}$ будет обладать всегда асимптотическими ветвями класса $C_{\infty}$, как в случае аналитического преобразования, с той только очевидной разницей, что эти ветви будут класса $C_{\infty}$, но не обязательно аналитическими ${ }^{1}$. В рассматриваемом случае мы можем даже найти эти ветви непосредственно. В самом деле, эти ветви будут одинаковыми для $T^{*}$ и для $T$ в окрестности инвариантной точки $I_{1}$. При последовательных итерациях преобразования $T^{*}$ верхняя часть внешней ветви продолжается тем же способом, что и для $T$, во всяком случае до точки $A$, где эта ветвь встречает окружность $\gamma$. Но если мы повторим преобразование $T^{*}$ еще один раз, то мы должны произвести сначала преобразование $T$, которое продолжит нашу ветвь до $A_{1}$, и затем $S$, которое преобразует дугу $A B$ внутри круга, превратив ее в новую, которая пересечет $A B$ только один раз.

С другой стороны, последовательными итерациями преобразования $T^{*-1}=S^{-1} T_{k}^{-1}$ можно продолжить таким же образом нижнюю часть внешней ветви до точки $B$, где эта ветвь встречает $\gamma$. Если мы теперь повторим еще раз $T^{*-1}$, то мы должны начать с преобразования $S^{-1}$, которое не изменит уже имеющуюся часть кривой, и произвести затем преобразование $T^{-1}$, которое распространит ее до точки $B_{-1}=T^{-1}(B)$ вдоль той же асимптотической кривой, что и $T$.

Следовательно, обе внешние асимптотические ветви преобразования $T^{*}$ пересекаются в точке $P$.
$\S$ 13. Это преобразование $T^{*}$ обладает всеми упомянутыми свойствами преобразования $T$, с единственным исключением, что нужно заменить условия аналитичности условием принадлежности к классу $C_{\infty}$. Однако для этого преобразования асимптотические ветви не совпадают попарно.

Следовательно, для таких преобразований класса $C_{\infty}$ существуют кольцеобразные зоны неустойчивости.
§ 14. Мы покажем теперь, что то же заключение остается справедливым и для аналитических преобразований.

Заметим, что мы можем построить преобразования $T_{0, t}, R_{k, t}, S_{t}$, обладающие следующими свойствами:
a) при $t=0$ эти преобразования обращаются в тождественные, а при $t=2 \pi$ в $T_{0}, R_{k}, S$ соответственно;
b) эти преобразования прямые, однозначные, класса $C_{\infty}$ относительно $p, q, t$ и при этом аналитические относительно $t$, и сохраняют площади при всех $k$;
c) они оставляют инвариантными начало координат $\rho=0$ и окружность $\rho=1$ при любом $k$.
${ }^{1}$ Я говорю здесь только о простой инвариантной точке неустойчивого типа. См. мою уже цитированную статью в $\S 33-41$.

В самом деле, мы можем определить преобразование $T_{0, t}$ следующими формулами:
\[
\rho_{1}=\rho, \quad \vartheta_{1}=\vartheta+(\sigma+c \rho) \frac{t}{2 \pi} .
\]

Это преобразование, очевидно, будет обладать всеми тремя указанными свойствами. Подобным же образом мы можем определить $R_{k, t}$ слегка видоизмененными уравнениями (1):
\[
p_{1}=p+\frac{k t}{2 \pi} \frac{\partial u\left(p, q_{1}\right)}{\partial q_{1}}, \quad q=q_{1}+\frac{k t}{2 \pi} \frac{\partial u\left(p, q_{1}\right)}{\partial p},
\]

с той же функцией $u(p, q)$. Что касается $S_{t}$, то мы определим его так же, как $S$, но уменьшив вращение в круге $\gamma$ в отношении $t: 2 \pi$.

Сложное преобразование $T_{t}^{*}=T_{0, t} R_{k, t} S_{t}$ будет тогда также обладать свойствами (a), (b), (c) (причем, разумеется, $T_{2 \pi}^{*}=T^{*}$ ).

Применим теперь геометрическую интерпретацию, а, именно, будем рассматривать переменные $p, q, t$ как прямоугольные координаты точки в пространстве.

При изменении $t$ от 0 до $2 \pi$ всякая точка ( $p, q, 0$ ) на плоскости $t=0$ переходит в точку ( $p_{1}, q_{1}, t_{1}$ ) на плоскости $t=t_{1}$, где ( $p_{1}, q_{1}$ ) есть образ точки $(p, q)$ при преобразовании $T_{t_{1}}^{*}$. Мы видим, следовательно, что всякая точка описывает траекторию, которая начинается в точке $(p, q, 0)$ и кончается в точке $\left(p_{1}, q_{1}, 2 \pi\right)$, где ( $\left.p_{1}, q_{1}\right)$ получается из $(p, q)$ посредством преобразования $T^{*}$. Совокупность всех этих траекторий заполняет цилиндрическую область $\rho \leqslant 1$ между двумя плоскостями $t=0$ и $t=2 \pi$, и направление единственной траектории, проходящей через любую точку ( $p, q, t)$, определяется дифференциальными уравнениями:
\[
\frac{d p}{d t}=\varphi(p, q, t), \quad \frac{d q}{d t}=\psi(p, q, t),
\]

где $\varphi$ и $\psi$ будут класса $C_{\infty}$ относительно $p, q$ и $t$, но не будут обязательно периодическими периода $2 \pi$ относительно $t$. Очевидно, что ось $t$ будет сама такой траекторией, и что, следовательно,
\[
\varphi(0,0, t)=\psi(0,0, t)=0 .
\]

Так как преобразование $T^{*}$ сохраняет площади при всех значениях $t$, очевидно, что состоящая из траекторий трубчатая область с площадью одного из оснований $d \sigma$ будет в пересечении со всякой плоскостью $t=$ const давать площадку той же величины $d \sigma$. Следовательно, объем элементарного цилиндра с площадью основания $d \sigma$ и высотою $d t$ будет всегда $d \sigma d t$. Отсюда следует, что поток жидкости, определенный дифференциальными уравнениями (15), т.е. уравнениями
\[
\frac{d p}{d t}=\varphi(p, q, \tau), \quad \frac{d q}{d t}=\psi(p, q, \tau), \quad \frac{d \tau}{d t}=1,
\]

сохраняет объем.
По обычному правилу мы имеем, следовательно,
\[
\frac{\partial \varphi}{\partial p}(p, q, t)+\frac{\partial \psi}{\partial q}(p, q, t)=0 .
\]

Но уравнение (16) показывает, что существует функция $H(p, q, t)$ класса $C_{\infty}$ относительно $p, q, t$ такая, что
\[
\varphi(p, q, t)=-\frac{\partial H(p, q, t)}{\partial q}, \quad \psi(p, q, t)=\frac{\partial H(p, q, t)}{\partial p} .
\]

Эта функция становится полностью определенной, если прибавить условие $H(0,0, t)=0$.
Следовательно, уравнения (15) имеют гамильтонову форму
\[
\frac{d p}{d t}=-\frac{\partial H}{\partial q}(p, q, t), \quad \frac{d q}{d t}=\frac{\partial H}{\partial p}(p, q, t),
\]

где функция $H$ вообще не будет периодической относительно $t$.
Мы постараемся теперь найти другую функцию $\bar{H}(p, q, t)$, аналитическую относительно $p, q, t$, которая была бы приблизительно равна $H(p, q, t)$, и при этом такую, что соответствующее аналитическое преобразование $\bar{T}$ обладало бы также и другими свойствами преобразования $T^{*}$, важными нам для той цели, которую мы имеем в виду.
§15. Эти свойства суть в существенном следующие:
a) окружность $\rho=1$ является инвариантной кривой преобразования $\bar{T}$;
b) точка $\rho=0$ является устойчивой инвариантной точкой для $\bar{T}$; в разложениях $p_{1}, q_{1}$ в ряды по $p, q$ в окрестности этой точки для обоих преобразований совпадают члены до четвертого порядка включительно.

В самом деле, такое преобразование $\bar{T}$ будет иметь две простые инвариантные точки, близкие к таким же точкам преобразования $T^{*}$, с почти теми же асимптотическими ветвями, которые, следовательно, пересекутся. С другой стороны, преобразование $\bar{T}$ будет вращать налево радиальные направления как в окрестности инвариантной точки [вследствие свойства (b)], так и на достаточно большом расстоянии от нее (благодаря тому, что $\bar{T}$ мало отличается от $T^{*}$.

Для того, чтобы найти такую функцию $\bar{H}$, заметим, что на цилиндре $\rho=1$
\[
p \frac{\partial H}{\partial q}-q \frac{\partial H}{\partial p}=0 .
\]

В самом деле, из равенства $p^{2}+q^{2}=1$ в какой-нибудь момент следует то же равенство при всех $t$. Следовательно,
\[
\frac{d}{d t}\left(p^{2}+q^{2}-1\right)=2\left(-p \frac{\partial H}{\partial q}+q \frac{\partial H}{\partial p}\right)=0 .
\]

Но это равенство требует, чтобы $H$ приводилось на поверхности цилиндра к функции одного только $t$, так что мы можем написать:
\[
H(p, q, t) \equiv H(1,0, t)+\left(p^{2}+q^{2}-1\right) J(p, q, t),
\]

где $J(p, q, t)$ принадлежит к классу $C_{\infty}$. Кроме того разложение $J(p, q, t)$ в степенной ряд до членов четвертого порядка определяет такое же разложение $H(p, q, t)$; заметим, что $J$, как и $H$, является аналитической функцией всюду, за исключением окружности $\gamma$. Кроме того, так как линия $p=q=0$ является траекторией, частные производные первого порядка функции $H$ по $p$ и $q$ тождественно обращаются в нуль в этой точке и тем же свойством обладает функция $J$.

Выберем теперь (если возможно) функцию $\bar{J}$, мало отличающуюся от $J$, аналитическую по $p, q, t$ и имеющую то же разложение, что и $J$, до членов третьего порядка включительно. Рассмотрим соответственную функцию $\bar{H}$ :
\[
\bar{H}=H(1,0, t)+\left(p^{2}+q^{2}-1\right) \bar{J}(p, q, t)
\]

и определяемые ею гамильтоновы уравнения. Мы тотчас же видим, что соответствующее преобразование $\bar{T}$ будет обладать всеми требуемыми свойствами, в частности, свойствами (a) и (b).

Допуская временно без доказательства почти очевидный факт существования такой функции $\bar{J}$ мы видим, что существуют кольцеобразные зоны неустойчивости для аналитических преобразований.

Для того, чтобы обойти трудности, возникающие при этом способе рассуждения, мы допустим, что все частные производные $\bar{J}$ до четвертого порядка включительно, весьма мало отличаются от соответственных производных $J$; мы докажем существование такой функции $\bar{J}$ позднее ( $§ 17$ ). Очевидно, что при этих условиях всякое радиальное направление будет вращаться налево при преобразовании $\bar{T}$, так же как и при $T$.
§ 16. В гамильтоновых уравнениях, соответствующих этой функции $\bar{H}$ при $0 \leqslant t \leqslant 2 \pi$, мы можем определить $\bar{H}$ и вне этих пределов так, чтобы $\bar{H}$ была периодической функцией от $t$. Разумеется, эта функция $\bar{H}$ не будет ни обязательно аналитической, ни даже непрерывной при $t=0, \pm 2 \pi, \ldots$ Предположим теперь, что мы произвели в направлении оси $t$ деформацию, выражающуюся уравнением:
\[
\bar{t}=\chi(t) .
\]

Обратную функцию $\chi^{-1}(\bar{t})$ мы будем считать класса $C_{\infty}$ и возрастающей от 0 до $2 \pi$ вместе с $t$, так что $\frac{d t}{d \bar{t}}$ положительно всюду, кроме точек $t=0$ и $t=2 \pi$, где все производные обращаются одновременно в нуль. После этого преобразования новые траектории будут иметь направления, параллельные оси $\bar{t}$ на обеих крайних плоскостях $\bar{t}=0$ и $\bar{t}=2 \pi$, и мы видим, что эти траектории будут всюду класса $C_{\infty}$. С этой новой независимой переменной дифференциальные уравнения сохраняют свою гамильтонову форму с новой главной функцией
\[
\overline{\bar{H}}=\bar{H} \frac{d t}{d \bar{t}},
\]

которая будет, очевидно, класса $C_{\infty}$ относительно $p, q, t$, периодической по $t$ периода $2 \pi$ и аналитической всюду, за исключением точек $t=0, \pm 2 \pi, \ldots$, если мы выберем за функцию $\chi^{-1}(\bar{t})$ функцию, аналитическую всюду в промежутке $(0,2 \pi)$, кроме точек $t=0$ и $t=2 \pi$. Это изменение независимой переменной не влияет на преобразование $T$, связанное с первоначальными дифференциальными уравнениями.

Следовательно, кольцеобразные зоны неустойчивости существуют для динамических систем (1) с функией $H$ класса $C_{\infty}$ всюду и аналитической всюду, кроме, может быть, точек $t=0, \pm 2 \pi, \ldots$, и с функцией Т аналитической.

С первого взгляда можно было бы подумать, что небольшая дополнительная модификация позволила бы нам найти функцию $H$ всюду аналитическую, но тут имеется затруднение, возникающее благодаря тому, что разложение функции $\bar{H}$ по степеням переменных $p, q$ содержит неаналитические коэффициенты, которые должны быть модифицированы. Тем не менее, я думаю, что этот метод можно действительно применить и, следовательно, можно найти функцию $H$, которая была бы всюду аналитической. Однако я этого еще не доказал.

Во всяком случае, с точки зрения приложений представляется интересным как раз случай функции $H$ класса $C_{\infty}$.
§ 17. Чтобы закончить доказательство, нам осталось доказать еще следующую простую лемму.
Пусть мы имеем функцию
\[
f\left(x_{1}, \ldots, x_{n}, t\right)
\]

класса $C_{\infty}$, определенную при
\[
a \leqslant x_{i} \leqslant b \quad(i=1, \ldots, n), \quad-\delta \leqslant t \leqslant 2 \pi+\delta
\]

и обращающуюся в нуль вместе со всеми своими частными производными до ( $k-1$ )-го порядка включительно при $x_{1}=x_{2}=\ldots=x_{n}=0$. Можно тогда найти функцию $g\left(x_{1}, \ldots, x_{n}, t\right)$, аналитическую относительно $x_{1}, \ldots, x_{n}, t$, обладающую теми же свойствами, и при этом такую, что функция $f-g$ и все ее частные производные до ( $k-1$ )-го порядка включительно будут сколь угодно малы в этой области.

В самом деле, если мы вычтем из $J$ полином $P$, дающий разложение $J$ по степеням $p, q$ до членов четвертого порядка включительно, мы получим функцию $J^{*}$, к которой можно будет применить только что высказанную лемму. Полученное таким образом аналитическое приближение $K$ к $J^{*}$ (с $n=3, k=5$ ) дает нам искомое аналитическое приближение $K+P$ к функции $J$.
Остается только доказать лемму.
Заметим, что эта лемма справедлива при $n=0$, потому что можно найти аналитическую функцию, отличающуюся сколь угодно мало от данной функции $f(t)$ класса $C_{\infty}$, лемма справедлива также при $k=0$.

Следовательно, если лемма не будет справедлива вообще (при любых $n$ и $k$ ), то найдется наименьшее $n>0$ и затем наименьшее $k>0$, при которых лемма не будет справедлива (для некоторой функции $f$ ). Но такую функцию $f$ мы можем написать в виде:
\[
f\left(x_{1}, \ldots, x_{n}, t\right)=f\left(x_{1}, \ldots, x_{n-1}, 0, t\right)+x_{n} f_{1}\left(x_{1}, \ldots, x_{n}, t\right),
\]

где первый член является функцией от $n-1$ переменной $x_{i}$, тогда как второй содержит функцию $f_{1}\left(x_{1}, \ldots, x_{n}, t\right)$ класса $C_{\infty}$, обращающуюся при $x_{1}=\ldots=x_{n}=0$ в нуль вместе со своими частными производными по $x_{1}, \ldots, x_{n}$ до $(k-2)$-го порядка включительно. Следовательно, применяя последовательно два раза доказываемую лемму к этим двум функциям, мы найдем аналитическое приближение $\bar{g}\left(x_{1}, \ldots, x_{n-1}, t\right)$ $\kappa ~ f\left(x_{1}, \ldots, x_{n-1}, 0, t\right)$ и аналитическое приближение $g_{1}\left(x_{1}, \ldots, x_{n}, t\right)$ к $f_{1}$; но тогда
\[
g\left(x_{1}, \ldots, x_{n}, t\right)=\bar{g}\left(x_{1}, \ldots, x_{n-1}, t\right)+x_{n} g_{1}\left(x_{1}, \ldots, x_{n}, t\right),
\]

дает нам искомое аналитическое приближение к $f\left(x_{1}, \ldots, x_{n}, t\right)$.