Одним из наиболее загадочных и, возможно, сложных явлений в современной динамике является одновременное существование регулярных и хаотических движений в гамильтоновых динамических системах[18]. Если

*A. Giorgilli, V. F. Lazutkin, C. Simó Visualization of a hyperbolic structure in area preserving maps. Reg.\& Chaot. Dyn., 1997, v. 2, №3/4, p. 47-61. Исправления оригинала см. в Reg.\& Chaot. Dyn., 1998, v. 3, №2, p. 115. Перевод Арзамасцева А.Г.

число степеней свободы превышает 1 , оба типа движения возникают в фазовом пространстве большинства известных примеров, таких как стандартное отображение, двойной маятник, задача трех тел и т. д. Знаменитая КАМ теория позволяет получить много информации о регулярных движениях, и то же время почти ничего не известно о структуре хаотических движений. В случае отображений, сохраняющих площадь, регулярная часть представлена инвариантными окружностями или периодическими цепочками инвариантных окружностей. Структуры последнего вида часто называются островами. Также существуют промежутки между окружностями и движение в них демонстрирует хаос некоторого типа. Видимые области, заполненные хаотическими траекториями, называются стохастическими слоями. Насколько нам известно, впервые такие области обнаружил Хенон (см. исторические замечания в [8], а также в [7]). Разумеется Пуанкаре также знал о чрезвычайно запутанном характере движения [15]. Чтобы проиллюстрировать описанное выше одновременное существование различных видов движения, мы предлагаем здесь изображение фазового портрета отображения
$$\left(\begin{array}{l}x\\ y\end{array}\right)\mapsto \left(\begin{array}{c}0.2\cos 2\pi x-y\\ x\end{array}\right),$$

оиределенного на 2 -горе ${\mathbb{T}}^2={\mathbb{R}}^2/{\mathbb{Z}}^2$. Изображена лишь четверть тора, а именно область $|x|⩽1/4,|y|⩽1/4$. Недостающую часть можно восстановить исходя из соображений симметрии (см. [9]).

Хорошо видна большая хаотическая зона, ограниченная инвариантными окружностями разных типов. Хаотическая зона также содержит острова (см. [16], [17]), а регулярная часть содержит много других узких хаотических зон в резонансных промежутках между КАМ кривыми. Их не видно при масштабах, взятых на рис. 1 , но по общему мнению, подтверждаемому численными экспериментами [1], они существуют. В этом контексте также см. [19].

Как мы уже упоминали, до сих пор почти ничего не известно о структуре хаотической зоны. Естественно предположить, что хаотичекая зона является инвариантным подмноженством положительной меры Лебега таким, что ограничение отображения на это подмножество изоморфно (в смысле теории меры) произведению конечной перестановки и сдвига Бернулли.

Для того чтобы доказать это предположение, можно применить теорию Песина [13], [14]. Отправным пунктом теории Песина является наличие гиперболической структуры. Приведем определение гиперболической струк-

Рис. 1. Несколько траекторий, представляющих характеристические свойства отображения (1), изображены на одной четверти тора, определенной неравенствами $-0.25⩽x⩽0.25,-0.25⩽y⩽0.25$

туры в простейшем случае, т. е. для отображений, сохраняющих площадь. Пусть $F:S\to S$ гладкое отображение, сохраняющее площадь, поверхности $S$ на саму себя. Предположим, что на $S$ существует риманова метрика. Будем говорить, что инвариантное множество $\mathrm{\Omega }\subset S$ является гиперболическим, если в каждой точке $p\in \mathrm{\Omega }$ существует два независимых касательных вектора ${\overrightarrow{e}}_p^s,{\overrightarrow{e}}_p^u$ таких, что поля $p\mapsto {\overrightarrow{e}}_p^z,u$ инвариантны, т. е.
$$\begin{array}{l}{F}^{\prime }(p){\overrightarrow{e}}_p^s=C_s^p{\overrightarrow{e}}_F(p{)}^s,\\ F^{\prime }(p){\overrightarrow{e}}_p^u=C_u^p{\overrightarrow{e}}_F(p{)}^u,\end{array}$$

и
$$\begin{array}{l}\underset{n\to \pm \mathrm{\infty }}{lim}\frac{1}{n}\log \Vert {\left(F^n\right)}^{\prime }(p){\overrightarrow{e}}_p^s\Vert =-\chi (p)<0,\\ \underset{n\to \pm \mathrm{\infty }}{lim}\frac{1}{n}\log \Vert {\left(F^n\right)}^{\prime }(p){\overrightarrow{e}}_p^u\Vert =-\chi (p)<0.\end{array}$$

Здесь $F^{\prime }(p):T_{p}S\to T_{p}S$ — касательное отображение к $F$ в точке $p$, $C_p^u$ и $C_p^s$ — некоторые ненулевые константы и обозначение $F^n$ используется для $n$-ой итерации $F$, т. е. $F^n=\underset{n\text{ раз }}{\underbrace{F\circ F\circ \cdots \circ F}}$ для положительных целых $n$ и $F^n=\underset{-\text{праз }}{\underbrace{F^{-1}\circ F^{-1}\circ \cdots \circ F^{-1}}}$ для отрицательных целых $n$.
Величина $\chi (p)$ называется показателем Ляпунова в точке $p$.
Векторные поля $\{{\overrightarrow{e}}_p^u,p\in \mathrm{\Omega }\}$ и $\{{\overrightarrow{e}}_p^s,p\in \mathrm{\Omega }\}$ образуют гиперболическую структуру на $\mathrm{\Omega }$. Направления ${\overrightarrow{e}}_p^s$ и ${\overrightarrow{e}}_p^u$ называются соответственно устойчивым и неустойчивым направлениями в точке $p$.

Заметим, что эквивалентные метрики в (2) приводят к одному и тому же значению показателя Ляпунова. Поскольку в случае компактной поверхности $S$ все римановы метрики эквивалентны, показатели Ляпунова не зависят от выбора метрики и, разумеется, зависят в случае некомпактной $S$. Существование всюду пределов в (2) доказано Оселедцем [12].

Наше предположение будет следовать из теории Песина, если мы докажем, что хаотическая область имеет положительную меру Лебега и обладает гиперболической структурой. По крайней мере, именно это Песин утверждает в [14].

Поэтому основной вопрос можно сформулировать следующим образом: как обнаружить гиперболическую структуру? В [10] второй автор предпринял попытку доказать существование гиперболической структуры для стандартного отображения, по крайней мере при больших значениях параметра отображения. Работа еще не закончена, но в качестве побочного результата после проведения большого количества численных экспериментов мы получили неожиданный метод, который позволяет наблюдателю увидеть эту гиперболическую структуру на фазовом пространстве системы, используя компьютер в качестве микроскопа. Метод основан на некоторых свойствах систем с одновременным существованием регулярного и хаотического поведения и не имеет аналога в случае так называемых систем Аносова, т. е. систем с чисто хаотическим характером движения. Грубо говоря, визуализирующий метод базируется на том факте, что траектории регулярных движений отмечают границы (псевдо-) параллелограммов марковского псевдоразбиения внутренней гиперболической структуры.