Как мы указывали уже в §1, тєорема о существовании инвариантных кривых может быть применена к проблеме устойчивости эллиптической неподвижной точки, к которой мы теперь возвращаемся. Рассмотрим сохраняющее площадь отображение окрестности неподвижной точки общего эллиптического типа, которое в подходящих координатах может быть выражено в виде
\[
\left\{\begin{array}{l}
u_{1}=u \cos w-v \sin w+O_{2 l+2}, \\
v_{1}=u \sin w+v \cos w+O_{2 l+2},
\end{array}\right.
\]

где
\[
w=\gamma_{0}+\gamma_{l}\left(u^{2}+v^{2}\right)^{l}, \quad \gamma_{l}>0 \quad(l>0)
\]

и $O_{2 l+2}$ — степенные ряды по $u, v$, содержащие только члены порядка $\geqslant 2 l+2$. Мы покажем, что для любого достаточно малого в $\varepsilon>0$ проколотый диск
\[
0<u^{2}+v^{2}<\varepsilon^{2}
\]

содержит инвариантную кривую, окружающую неподвижную точку $u=v=0$. Для этой цели введем полярные координаты $x, y$ с помощью равенств
\[
u=\varepsilon y^{1 /(2 l)} \cos x, \quad v=\varepsilon y^{1 /(2 l)} \sin x .
\]

Легко проверить, что отображение в этих координатах принимает формy
\[
x_{1}=x+\gamma_{0}+\gamma_{l} \varepsilon^{2 l} y+O\left(\varepsilon^{2 l+1}\right), \quad y_{1}=y+O\left(\varepsilon^{2 l+1}\right) .
\]

Остаточные члены являются здесь вещественно-аналитическими функциями от $x, y$ при $0<y<1$, имеющими период $2 \pi$ по $x$. Ограничивая $y$
${ }^{1}$ Необходимое число производных постепенно понижалось от 333 (как у Мозера в [1]) до 5 (H. Rüssmann, Über invariante Kurven differenziertbaren Abbildungen eines Kreisringes (Kleine Nenner I), Nachr. Akad. Wiss., Göttingen, Math.-Phys, Kl., IIa (1970), №5, 67-105). — Прим. ред.

на замкнутый интервал, принадлежащий отрезку $[0,1]$, мы можем теперь применить теорему $\S 1$, полагая $\gamma=\gamma_{l} \varepsilon^{2 l}$ и заменяя $y$ на $y+\gamma_{0} \gamma^{-1}$.

Соответствующие остаточные члены оцениваются следующим образом:
\[
\frac{|f|+|g|}{\gamma}=\frac{O\left(\varepsilon^{2 l+1}\right)}{\gamma_{l} \varepsilon^{2 l}}=O(\varepsilon),
\]

и могут быть сделаны сколь угодно малыми за счет выбора $\varepsilon$ даже в том случае, когда они рассматриваются в подходящей комплексной области, содержащей указанное вещєственное кольцо. Наконец, свойство пересечения следует из сохранения площади рассматриваемым отображением; действительно, если бы замкнутая кривая $y=\psi(x)$ при вещественных $x, y$ не пересекала бы кривую, являющуюся ее образом, то две области, ограниченные этими кривыми, имели бы разные площади. Таким образом, из теоремы существования мы заключаем, что для каждого достаточно малого $\varepsilon>0$ проколотый диск $0<u^{2}+v^{2}<\varepsilon^{2}$ содержит инвариантную кривую $\Gamma$, окружающую неподвижную точку $u=v=0$, и это в свою очередь доказывает устойчивость отображения (1) в этой точке.

Приведенные выше аргументы доказывают существование последовательности инвариантных кривых, сходящихся к неподвижной точке. Нетрудно показать, что в окрестности неподвижной точки существует несчетное множество таких кривых. В самом деле, изложенная в предыдущих двух параграфах конструкция позволяет получить инвариантную кривую для каждого $\omega$, удовлетворяющего неравенствам $(2 ; 10)$. В то же время по каждой такой кривой число $\omega$ однозначно определяется равенством
\[
\lim _{k \rightarrow \infty} \frac{x_{k}}{k}=\lim _{k \rightarrow \infty} \frac{\xi+k \omega+u(\xi+k \omega)}{k}=\omega .
\]

Здесь $x_{k}$ — угловая координата $k$-й итерации $M^{k} P$ произвольной точки $P$ на кривой, а $u(\xi)$ — та же функция, что и в $(1 ; 5)$. Кроме того, никакие две из этих кривых не могут пересекаться, так как в противном случае итерации $M^{k} P$ точки $P$, принадлежащей их пересечению, должны были бы лежать всюду плотно на обеих кривых, а потому кривые должны были бы совпасть. Таким образом, кривые, соответствующие различным значениям $\omega$, различны, и так как множество допустимых значений для $\omega$ есть канторово множество положительной меры, то множество инвариантных кривых, конечно, несчетно. В действительности можно показать, что на плоскости эти кривые образуют множество положительной меры, дополнение которого в круге $u^{2}+$ $+v^{2}<r^{2}$ имеет меру $o\left(\pi r^{2}\right)$. Следовательно, мы можем сказать, что большинство точек вблизи неподвижной точки принадлежит множеству инвариантных кривых.

Для того чтобы отчетливо представить ситуацию геометрически, рассмотрим отображение (1) без добавочного члена $O_{2 l+2}$. Оно оставляет инвариантной каждую из концентрических окружностей $u^{2}+v^{2}=$ $=$ const, и если мы оставим только те окружности, для которых $w=$ $=\gamma_{0}+\gamma_{l}\left(u^{2}+v^{2}\right)^{l}$ удовлетворяет условиям
\[
\left|\frac{w}{2 \pi} q-p\right| \geqslant \gamma_{l}\left(u^{2}+v^{2}\right)^{l} c_{0} q^{-\mu}
\]

при всех целых $p, q$ с $q \geqslant 1$, то получим канторово множество $\mathfrak{B}$ кривых, которые находятся во взаимно однозначном соответствии с нашим множеством инвариантных кривых полного отображения (1). Другими словами, если мы умножим добавочные члены в (1) на малый параметр $\tau$, то кривые, принадлежащие канторову множеству $\mathfrak{B}$, сохраняются, по крайней мере при малых $\tau$, оставаясь инвариантными кривыми с тем же самым числом вращения. В областях, дополнительных к нашему канторову множеству инвариантных кривых, поведение, однако, совсем другое, и инвариантные кривые здесь разрушаются при малых возмущениях системы, соответствующей $\tau=0$. В самом деле, мы увидим далее, что при возмущении системы эти области не могут, вообще говоря, быть заполненными однопараметрическими семействами инвариантных кривых.

Чтобы понять, что происходит в этом дополнительном множестве, рассмотрим кривые, для которых $w / 2 \pi$ рационально, например равно $p / q$. При $\tau=0$ эти кривые состоят из неподвижных точек $q$-й итерации нашего отображения. При малом возмущении, однако, от этой кривой из неподвижных точек, вообе говоря, сохраняется лишь конечное множество неподвижных точек, и мы можем сказать, что эти кривые разрушаются при возмущении. Ниже мы проиллюстрируем эту ситуацию примером. Некоторые из этих неподвижных точек, существование которых следует из теоремы Биркгофа, будут общего эллиптического типа; в этом случае они в свою очередь обладают окрестностями, значительная часть которых покрыта инвариантными кривыми, которые
окружают различные неподвижные точки. Это приводит к иерархии неподвижных точек и инвариантных кривых. Таким образом, геометрия расположения инвариантных кривых вблизи эллиптической неподвижной точки имеет запутанный характер.

Области, дополнительные к канторову множеству, вообе говоря, содержат также гиперболические неподвижные точки, которые еще больше усложняют глобальную картину. Возможно, что эти так называемые области неустойчивости содержат открытые множества, в которых итерации отдельной точки плотны. Впрочем, о поведении отображения в этих областях мало что известно.

Может показаться удивительным, что инвариантные кривые могут быть получены с помощью сходящегося итерационного процесса, в то время как преобразование к нормальной форме, вообще говоря, расходится, особенно если учесть, что конструкция инвариантных кривых также основана на технике преобразований. Ответ на этот кажущийся парадокс прост и состоит в том, что при изучении нормальной формы мы строили разложения в ряды около фиксированной неподвижной точки и интересовались сходимостью в некоторой окрестности этой точки, в то время как построение инвариантной кривой связано с разложением вблизи соответствующей невозмущенной кривой.

Мы теперь дадим простой пример, который иллюстрирует некоторые из предыдущих выводов и в котором преобразование к нормальной форме действительно расходится, в то время как инвариантные кривые существуют. В качестве $M$ возьмем простое полиномиальное отображение
\[
\begin{array}{l}
x_{1}=\left(x+y^{3}\right) \cos \alpha-y \sin \alpha, \\
y_{1}=\left(x+y^{3}\right) \sin \alpha+y \cos \alpha,
\end{array}
\]

которое, как легко видеть, при $\sin 2 \alpha
eq 0$ преобразуется к виду (1) с $l=1, \gamma_{0}=\alpha, \gamma_{1}=-\frac{3}{8}$. Таким образом, согласно нашему предыдущему результату существует бесконечно много инвариантных кривых, окружающих начало координат, которое является поэтому устойчивой неподвижной точкой отображения. С другой стороны, как будет сейчас показано, при $\alpha$, несоизмеримом с $2 \pi$, преобразование к нормальной форме расходится. Если предположить, что это преобразование сходится, то существует окрестность начала координат, покрытая однопараметрическим семейством инвариантных кривых, которые являются образами концентрических окружностей $\xi^{2}+\eta^{2}=$ const. Далее, если $P_{k}$ — неподвижная точка итерации $M^{k}$ при некотором $k \geqslant 1$, то, как ясно из природы нормальной формы, вся кривая, проходящая через $P_{k}$, состоит из неподвижных точек преобразования $M^{k}$, и так как угол вращения $\gamma_{0}+\gamma_{1}\left(\xi^{2}+\eta^{2}\right)+\ldots$ не постоянен, то такие неподвижные точки существуют в любой окрестности начала. Таким образом, если бы преобразование к нормальной форме сходилось, то существовало бы бесконечно много $k$, для которых $M^{k}$ имеет континуум неподвижных точек, и можно было бы выбрать такое $k$ четным. Мы покажем, однако, что число неподвижных точек $M^{k}$ конечно, в действительности не больше $3^{k}$, и это противоречие докажет наше утверждение.

Заметим, что обратное отображение $M^{-1}$ снова полиномиально факт, который верен для любого сохраняющего площадь отображения. При любом целом $k$ обозначим через $\left(x_{k}, y_{k}\right.$ ) образ точки $(x, y)$ при отображении $M^{k}$, так что неподвижная точка преобразования $M^{k}$ удовлетворяет уравнениям $x_{k}=x, y_{k}=y$. Если $k=2 q \geqslant 2$ четно, то мы можем заменить эти два уравнения эквивалентными
\[
x_{q}-x_{-q}=0, \quad y_{q}-y_{-q}=0 .
\]

Применим теперь теорему Безу, которая утверждает, что если два полинома от $x, y$ не имеют общего множителя, то они имеют только конечное число общих корней, не превышающее произведения их степеней. Легко проверить, что в нашем примере полиномы $x_{q}-x_{-q}, y_{q}-y_{-q}$ имеют степень $3^{q}$, и их старшие члены будут соответственно
\[
a_{q}\left\{\cos \alpha y^{3^{q}}-(x \sin \alpha-y \cos \alpha)^{3^{q}}\right\}, \quad a_{q} \sin \alpha y^{3^{q}},
\]

где
\[
a_{q}=(\sin \alpha)^{\beta}
eq 0, \quad \beta=3+3^{2}+\ldots+3^{q-1} .
\]

Таким образом, они не имеют общего множителя, и мы заключаем, что отображение $M^{2 q}$ имеет самое большее $3^{2 q}=3^{k}$ неподвижных точек.

Этот пример показывает, что ответ на вопрос о сходимости зависит не от теоретико-числовых свойств собственных значений, а скорее от природы нелинейных членов. Это сильно отличается от того, что было нами получено для конформного отображения в § 25 , где устойчивость, так же, как и сходимость преобразования к нормальной форме, полностью определялись линейной частью отображения.

Теорема, изложенная в предыдущих двух параграфах, имеет многочисленные применения к гамильтоновым системам с двумя степенями свободы — в особенности к вопросу об устойчивости периодических решений. Как мы видели, задача об изоэнергетической устойчивости такой периодической орбиты может быть сведена к вопросу об устойчивости неподвижной точки некоторого двумерного отображения, сохраняющего площадь. В качестве применения мы еще раз вернемся к много раз обсуждавшейся ограниченной задаче трех тел.

В $\S 21$ мы построили при малых значениях массы $\mu$ семейство решений ограниченной задачи трех тел, которые при $\mu=0$ представляют собой круговые орбиты:
\[
x_{1}=r \cos (\omega t), \quad x_{2}=r \sin (\omega t), \quad r^{3}(\omega+1)^{2}=1 .
\]

Это семейство замкнутых орбит параметризовано частотой $\omega$, которая соответствует энергии. Легко проверить, что на любой поверхности постоянной энергии существуют ровно две орбиты подобного типа, одна с $\omega+1>0$ и другая с $\omega+1<0$. Исследуем сначала изоэнергетическую устойчивость этих решений при малых значениях $\mu$. Для этого нам придется рассмотреть связанное с ними сохраняющее площадь отображение, которое мы уже изучали в конце $\S 24$ в связи с применением теоремы Биркгофа о неподвижной точке к этой проблеме. Решающую роль здесь играет то, что условия устойчивости выражаются в терминах конечного числа неравенств
\[
\lambda^{k}
eq 1 \quad(k=1, \ldots, 2 l+2), \quad \gamma_{l}
eq 0
\]

при некотором $l \geqslant 1$. Так как $\lambda, \gamma_{1}, \gamma_{2}, \ldots$ — непрерывные (на самом деле даже аналитические) функции $\mu$, при условии что $\lambda^{2}
eq 1$, то достаточно проверить эти условия при $\mu=0$. В этом случае в предположениях $\omega=3 g^{-1}, 4 g^{-1}, 0(g= \pm 1, \pm 2, \ldots)$ мы получили, что
\[
l=1, \quad \gamma_{0}=\frac{2 \pi}{\omega}, \quad \gamma_{1}=-\frac{3 \pi}{r^{2} \omega^{3}},
\]

и поэтому, если выполнено условие
\[
\omega
eq \frac{3}{g}, \frac{4}{g}, 0 \quad(g= \pm 1, \pm 2, \ldots),
\]

то рассматриваемые решения являются изоэнергетически устойчивыми при $|\mu| \leqslant \mu_{0}(\omega)$. На самом деле при тех же самьх условиях имеет место даже полная устойчивость, что теперь и будет доказано.

Если мы проведем конструкцию сохраняющего площадь отображения вблизи периодической орбиты, сохранив энергию как независимое переменное, обозначаемое через $w$, то придем к уравнениям вида
\[
u_{1}=F(u, v, w, \mu), \quad v_{1}=G(u, v, w, \mu), \quad w_{1}=w,
\]

последнее из которых попросту выражает закон сохранения энергии. Линия $u=v=0$ состоит из неподвижных точек, устойчивость которых при этом отображении приводит к орбитальной устойчивости соответствующих им периодических решений. Чтобы доказать устойчивость неподвижной точки $p_{0}=\left(0,0, w_{0}\right)$, мы построим в любой заданной окрестности $\mathfrak{U}$ точки $p_{0}$ инвариантную ее окрестность $\mathfrak{B}$ при помощи следующего рассуждения. В $\mathfrak{U}$ можно найти инвариантную кривую, которую мы записываем в виде
\[
u^{2}+v^{2}=R(\theta), \quad w=w_{0},
\]

где $\theta=\operatorname{arctg} v / u$. Так как наше отображение зависит аналитически, а следовательно, и непрерывно от параметра $w$, то в действительности можно найти семейство таких кривых
\[
u^{2}+v^{2}=R(\theta, w),
\]

которые зависят непрерывно от $w$ и поэтому остаются в $\mathfrak{U}$, если $\mid w-$ $-w_{0} \mid<\delta$ при достаточно малом положительном $\delta$. Но тогда неравенства
\[
u^{2}+v^{2}<R(\theta, w), \quad\left|w-w_{0}\right|<\delta
\]

определяют инвариантную окрестность $\mathfrak{B}$ точки $p_{0}$, содержащуюся в $\mathfrak{U}$, и таким образом $p_{0}-$ устойчивая неподвижная точка. Это показывает, что при условиях (2) наши периодические решения ограниченной задачи трех тел устойчивы при достаточно малом значении параметра $\mu$.

Как мы упоминали в $\S 31$, при $\omega=3 / g$, где $g$ — целое число, не делящееся на 3 , Леви-Чивита доказал, что соответствующие орбиты на самом деле неустойчивы. Таким образом, лишь случай $\omega=4 / g$ остается нерассмотренным. Впрочем, если $\omega=4 / g$ и $g$ нечетно — случай, к которому непосредственно наш результат не применим, то можно в действительности доказать устойчивость при достаточно малом $\mu$.

Выразим в других терминах найденные условия устойчивости. Пусть $
u_{1}$ — частота обращения тел $P_{1}, P_{2}$ по их орбитам, которую мы более не предполагаем равной единице. При $\mu=0$ точка $P_{3}$ нулевой массы движется по круговой орбите с частотой $
u_{3}$ относительно неподвижной системы координат. Частота $\omega$, введенная выше, дается тогда формулой
\[
\omega=\frac{
u_{3}}{
u_{1}}-1=\frac{
u_{3}-
u_{1}}{
u_{1}},
\]

и наше условие (2) эквивалентно условию
\[
\frac{
u_{1}}{
u_{3}}
eq \frac{p}{q}, \quad|p-q| \leqslant 4,
\]

где $p, q$ — взаимно простые целые числа. Изображая однопараметрическое семейство периодических орбит в виде семейства замкнутых кривых, которые покрывают плоскость подобно семейству концентрических круговых орбит при $\mu=0$, мы получаем устойчивые орбиты, выделяя из этого семейства те решения, которые соответствуют (3).

Закончим это обсуждение интересным применением к движению астероидов. Астероидами называются малые планеты, которые в большом числе движутся преимущественно между Марсом и Юпитером и образуют приблизительно кольцо вокруг Солнца. Если пренебречь влиянием всех планет, кроме Юпитера, то движение астероидов может быть рассмотрено на основе ограниченной задачи трех тел, где в качестве $P_{1}$ берется Юпитер, в качестве $P_{2}$ — Солнце и в качестве $P_{3}-$ астероид, массой которого мы полностью пренебрегаем. Предполагая, что большинство астероидов движется вблизи круговых периодических орбит в той же самой плоскости, что Солнце и Юпитер, мы можем попытаться применить описанный выше критерий. Для большинства из наблюдаемых астероидов отношение частоты $
u_{3}$ их обращения по орбите к частоте Юпитера $
u_{1}$ лежит в интервале
\[
\frac{1}{4} \leqslant \frac{
u_{1}}{
u_{3}} \leqslant \frac{1}{2} .
\]

В этом интервале значения $\frac{
u_{1}}{
u_{3}}=\frac{1}{4}, \frac{2}{5}, \frac{1}{3}, \frac{1}{2}$ не удовлетворяют нашему критерию, и около них и в самом деле астероиды встречаются особенно редко. Что же касается $\frac{
u_{1}}{
u_{3}}=\frac{3}{7}$, то в распределении астероидов здесь можно указать менее резко выраженный «люк», хотя соответствующая периодическая орбита устойчива. Эти «люки» в распределении астероидов, которые были замечены еще в 1866 году Киркву-дом, видимо обусловлены, таким образом, неустойчивостью, вызываемой Юпитером, если не принимать во внимание исключительное значение $\frac{3}{7}$. Конечно, эта интерпретация имеет только качественный характер и не позволяет дать какое-нибудь предсказание о ширине этих промежутков. Кроме того, мы не проверили также, будет ли параметр $\mu$ достаточно мал ${ }^{1}$. Тем не менее критерий дает нам правильное отношение частот для большинства названных промежутков ${ }^{2}$.