Асимптотические семейства. Обратимся к аналогичному рассмотрению неустойчивых периодических движений общего устойчивого типа, содержащих переменные периоды в своих формальных рядах. В этом случае не будет существовать инвариантных семейств кривых типа, встречающегося в устойчивом случае, по крайней мере, если мы ограничимся достаточно малой окрестностью данного периодического движения. В соответствии с этим на поверхности $S$ не будет существовать инвариантных кривых, окружающих нашу инвариантную точку.

Во всякой такой области неустойчивости вокруг неустойчивого периодического движения устойчивою типа имеются два связных семейства движений, достигающих границы области, которые остаются все время внупри ее, если $\ell$ союнвепспвенно безгранично возраспиет или убывает.

Для того, чтобы доказать это утверждение, рассмотрим, как обычно, преобразование $T$ поверхности $S$ в соответствующей окрестности инвариантной точки. Пусть $\sigma$ будет очень маленькая область около инвариантной точки, граница которой пересекается каждым радиусом только однажды. Образы $\sigma_{n}(n=1,2, \ldots)$ области $\sigma$ при преобразованиях $T^{n}$ должны все содержать внутри себя инвариантную точку, и для некоторого значения $n \sigma_{n}$ должна достичь границы $S$; в противном случае сумма всех этих областей представляла бы собой инвариантную область $\bar{\sigma}$, граница которой была бы инвариантной кривой исключенного типа согласно рассуждению $\S 4$. Точки области $\sigma_{n}$ остаются в $S$ по крайней мере при $n$ повторениях операции $T^{-1}$.

Будем теперь все более и более уменьшать диаметр области $\sigma$. Предельное замкнутое множество $\left({ }^{7}\right)$, полученное таким образом, связно содержит инвариантную точку и точки границы $S$ и будет оставаться в $S$ после любого числа повторений преобразования $T^{-1}$. Если мы повторим это же рассуждение, но заменив $T$ на $T^{-1}$, то получим второе подобное же множество, остающееся внутри $S$ при всех последовательных повторениях преобразования $T$. Очевидно, что эти два связных множества соответствуют двум связным семействам движений, обладающих указанными свойствами.

Сделаем теперь дополнительное предположение, что наше периодическое движение принадлежит к общему устойчивому типу, имеющему переменные периоды в формальных рядах. В этом случае мы уже видели, что преобразование $T$ изменяет направления касательных к какой-либо кривой против часовой стрелки по отношению к направлению радиуса-вектора, за исключением касательных направлений, почти перпендикулярных к направлению радиуса-вектора.

Имея в виду это свойство, рассмотрим множество $\Sigma_{\alpha}$ всех точек, остающихся в $S$ при бесконечном повторении преобразования $T^{-1}$ и связанных с инвариантной точкой множеством точек того же рода. Согласно с только что доказанным, множество $\Sigma_{\alpha}$ доходит до границы $S$. Представим себе какую-нибудь регулярную кривую $A B$, проведенную из точки $A$ на границе $S$, имеющую вначале (точка $A$ ) направление внутрь области по радиусу и нигде не поворачивающую вправо от радиального направления $\left.{ }^{8}\right)$. Все точки, лежащие вне $\Sigma_{\alpha}$, доРис. 7 стижимы от границы $S$ при помощи таких кривых $A B$, не имеющих общих точек с $\Sigma_{\alpha}$ (рис. 7). Для доказательства этой «левосторонней достижимости» множества $\Sigma_{\alpha}$ с границы $S$ предположим противное, т.е. что имеется одна или несколько областей недостижимых точек (см. область $\sigma^{*}$ на рисунке); эти области будут, очевидно, ограничены отчасти отрезками радиуса, от которых они будут лежать вправо (если смотреть по направлению внутрь по радиусу). Преобразование $T^{-1}$, очевидно, переводит эти недостижимые области в их собственные части, так как оно вращает радиальные направления по часовой стрелке по отношению к радиальному направлению. Но это невозможно вследствие существования инвариантного поверхностного интеграла.
Iусть нам дано неустойчивое движение общего устойчивого типа, с переменными периодами в формальных рлдах, и предположим для определенности, что вращение возрастает влесте с удалением от этого периодического движения. Тогда замкнутые связные семейства движений $\Sigma_{\alpha}$ и $\Sigma_{\omega}$, остающиеся в области неустойчивости соответственно при убывании и возрастании $t$ и достигающие границы этой области, являются соответственно достижимыми от этой границы (с левой и с правой стороны).

Возвращаемся к виду $\Sigma_{\alpha}$ на $S$. Множество $\Sigma_{\alpha}$ должно бесконечно завиваться вправо вокруг неподвижной точки, начиная от точки его пересечения с границей $S$. Чтобы установить этот факт, целесообразно рассматривать полярные координаты $\vartheta$ и $r$ как прямоугольные координаты, причем ось $\vartheta$ направлена налево, а ось $r$ вверх. Тогда поверхность $S$ представится в виде бесконечной полосы, и область этой полосы, расположенная вправо и выше связного множества $\Sigma_{\alpha}$, не может простираться налево от той точки $\Sigma_{\alpha}$, которая лежит на границе $S$; иначе, очевидно, имелись бы недостижимые области исключенного типа.

Если бы далее $\Sigma_{\alpha}$ не простиралось неограниченно вправо, то оно при этом представлении было бы целиком заключено между двумя вертикальными прямыми. Но результаты $§ 2$ гл. VI показывают, что две точки, из которых одна лежит на оси $r=0$, а другая вблизи нее, движутся в направлении оси $\vartheta$ со скоростями столь различными, что могут разойтись на сколь угодно большое расстояние. Поэтому при достаточном повторении преобразования $T^{-1}$ кривая $\Sigma_{\alpha}$ (все образы которой при преобразовании $T^{-1}$ лежат внутри $S$ ) распространится на полосу, сколь угодно широкую в направлении $\vartheta$, и, таким образом, пересечет $\Sigma_{\alpha}$. Итак, $\Sigma_{\alpha}$ и ее образ ограничат область, которая останется внутри $S$ при всех повторениях преобразования $T^{-1}$. Но это приведет нас так же, как прежде, к инвариантной области $\bar{\sigma}$. Следовательно, $\Sigma_{\alpha}$, распространяется бесконечно далеко в направлениях отрицательных $\vartheta$. Отсюда следует, что $\Sigma_{\alpha}$ оборачивается бесконечное множество раз вокруг инвариантной точки в направлении часовой стрелки, в то время как $\Sigma_{\omega}$ оборачивается бесконечное число раз в противоположном направлении. Отсюда очевидно, что множества $\Sigma_{\alpha}$ и $\Sigma_{\omega}$ должны пересекаться бесконечное множество раз.

Докажем теперь, что множества $\Sigma_{\alpha}, T^{-1}\left(\Sigma_{\alpha}\right), T^{-2}\left(\Sigma_{\alpha}\right)$ асимптотически стремятся к точке $O$ равномерным образом. Иначе существовали бы значения $n_{1}, n_{2}, \ldots$, такие, что $\lim n_{i}=\infty$ и что $T^{-n_{i}}\left(\Sigma_{\alpha}\right)$ простирались бы за пределы круга фиксированного радиуса $r=r_{0}$. Следовательно, существовали бы подмножества множеств $T^{-n_{i}}\left(\Sigma_{\alpha}\right)$, замкнутые, связанные с точкой $O$ и имеющие по крайней мере одну точку на окружности $r=r_{0}$. Такое подмножество $\Sigma_{\alpha}^{i}$ и его образы $T^{k}\left(\Sigma_{\alpha}^{i}\right)$ целиком расположены внутри области $S$. Устремляя $n_{i}$ к бесконечности, мы получаем, таким образом, множество $\Sigma_{\alpha \omega}$, замкнутое и связанное с $O$, простирающееся от $O$ до некоторой точки на $r=r_{0}$ и такое, что все его образы (при преобразованиях $T$ и $T^{-1}$ ) находятся внутри $S$. Кроме того, каждая точка, не принадлежащая множеству $\Sigma_{\alpha \omega}$, должна быть достижима извне как справа, так и слева от радиального направления. Отсюда заключаем, что $\Sigma_{\alpha \omega}$ должно состоять из радиальных отрезков. Но это невозможно. В самом деле, $T\left(\Sigma_{\alpha \omega}\right)$ не имело бы этого свойства, так как $T$ вращает всякое радиальное направление влево; между тем то же рассуждение показывает, что $T\left(\Sigma_{\alpha \omega}\right)$ должно обладать этим свойством $\left({ }^{9}\right)$.
Мы можем резюмировать эти заключения следующим образом. Семейства $\Sigma_{\alpha}$ и $\Sigma_{\omega}$ движений оборачиваются бесконечно много раз по или против часовой стрелки соответственно вокруг периодического движения, в зависимости от того, достижимы ли они слева или справа и, таким образом, пересекаются в бесконечном множестве общих движений. Движения, принадлежащие $\Sigma_{\alpha} u \Sigma_{\omega}$, являются соответственно отрицательно и положительно асимптотическими к данному периодическому движению, тогда как бесконечно многие общие движения являются асимптотическими в обоих направлениях к данному периодическому движению.

Соображения, совершенно аналогичные приведенным выше, можно применить к любой зоне неустойчивости. Будут существовать положительно и отрицательно асимптотические связные множества, начинающиеся на одной из границ и достигающие любой окрестности другой границы зоны. Оба множества пересекаются бесконечное множество раз. Кроме того, рассуждениями, аналогичными тем, которые применяются в следующем параграфе, можно доказать, что множество, положительно асимптотическое к одной границе, пересекает множество, отрицательно асимптотическое к другой. Поэтому должно существовать бесконечное множество движений, положительно и отрицательно асимптотических к двум границам в любой из четырех возможных комбинаций.