Одним из наиболее загадочных и, возможно, сложных явлений в современной динамике является одновременное существование регулярных и хаотических движений в гамильтоновых динамических системах[18]. Если

*A. Giorgilli, V. F. Lazutkin, C. Simó Visualization of a hyperbolic structure in area preserving maps. Reg.\& Chaot. Dyn., 1997, v. 2, №3/4, p. 47-61. Исправления оригинала см. в Reg.\& Chaot. Dyn., 1998, v. 3, №2, p. 115. Перевод Арзамасцева А.Г.

число степеней свободы превышает 1 , оба типа движения возникают в фазовом пространстве большинства известных примеров, таких как стандартное отображение, двойной маятник, задача трех тел и т. д. Знаменитая КАМ теория позволяет получить много информации о регулярных движениях, и то же время почти ничего не известно о структуре хаотических движений. В случае отображений, сохраняющих площадь, регулярная часть представлена инвариантными окружностями или периодическими цепочками инвариантных окружностей. Структуры последнего вида часто называются островами. Также существуют промежутки между окружностями и движение в них демонстрирует хаос некоторого типа. Видимые области, заполненные хаотическими траекториями, называются стохастическими слоями. Насколько нам известно, впервые такие области обнаружил Хенон (см. исторические замечания в [8], а также в [7]). Разумеется Пуанкаре также знал о чрезвычайно запутанном характере движения [15]. Чтобы проиллюстрировать описанное выше одновременное существование различных видов движения, мы предлагаем здесь изображение фазового портрета отображения
\[
\left(\begin{array}{l}
x \\
y
\end{array}\right) \mapsto\left(\begin{array}{c}
0.2 \cos 2 \pi x-y \\
x
\end{array}\right),
\]

оиределенного на 2 -горе $\mathbb{T}^{2}=\mathbb{R}^{2} / \mathbb{Z}^{2}$. Изображена лишь четверть тора, а именно область $|x| \leqslant 1 / 4,|y| \leqslant 1 / 4$. Недостающую часть можно восстановить исходя из соображений симметрии (см. [9]).

Хорошо видна большая хаотическая зона, ограниченная инвариантными окружностями разных типов. Хаотическая зона также содержит острова (см. [16], [17]), а регулярная часть содержит много других узких хаотических зон в резонансных промежутках между КАМ кривыми. Их не видно при масштабах, взятых на рис. 1 , но по общему мнению, подтверждаемому численными экспериментами [1], они существуют. В этом контексте также см. [19].

Как мы уже упоминали, до сих пор почти ничего не известно о структуре хаотической зоны. Естественно предположить, что хаотичекая зона является инвариантным подмноженством положительной меры Лебега таким, что ограничение отображения на это подмножество изоморфно (в смысле теории меры) произведению конечной перестановки и сдвига Бернулли.

Для того чтобы доказать это предположение, можно применить теорию Песина [13], [14]. Отправным пунктом теории Песина является наличие гиперболической структуры. Приведем определение гиперболической струк-

Рис. 1. Несколько траекторий, представляющих характеристические свойства отображения (1), изображены на одной четверти тора, определенной неравенствами $-0.25 \leqslant x \leqslant 0.25,-0.25 \leqslant y \leqslant 0.25$

туры в простейшем случае, т. е. для отображений, сохраняющих площадь. Пусть $F: S \rightarrow S$ гладкое отображение, сохраняющее площадь, поверхности $S$ на саму себя. Предположим, что на $S$ существует риманова метрика. Будем говорить, что инвариантное множество $\Omega \subset S$ является гиперболическим, если в каждой точке $p \in \Omega$ существует два независимых касательных вектора $\vec{e}_{p}^{s}, \vec{e}_{p}^{u}$ таких, что поля $p \mapsto \vec{e}_{p}^{z}, u$ инвариантны, т. е.
\[
\begin{array}{l}
F^{\prime}(p) \vec{e}_{p}^{s}=C_{s}^{p} \vec{e}_{F}(p)^{s}, \\
F^{\prime}(p) \vec{e}_{p}^{u}=C_{u}^{p} \vec{e}_{F}(p)^{u},
\end{array}
\]

и
\[
\begin{array}{l}
\lim _{n \rightarrow \pm \infty} \frac{1}{n} \log \left\|\left(F^{n}\right)^{\prime}(p) \vec{e}_{p}^{s}\right\|=-\chi(p)<0, \\
\lim _{n \rightarrow \pm \infty} \frac{1}{n} \log \left\|\left(F^{n}\right)^{\prime}(p) \vec{e}_{p}^{u}\right\|=-\chi(p)<0 .
\end{array}
\]

Здесь $F^{\prime}(p): T_{p} S \rightarrow T_{p} S$ – касательное отображение к $F$ в точке $p$, $C_{p}^{u}$ и $C_{p}^{s}$ – некоторые ненулевые константы и обозначение $F^{n}$ используется для $n$-ой итерации $F$, т. е. $F^{n}=\underbrace{F \circ F \circ \cdots \circ F}_{n \text { раз }}$ для положительных целых $n$ и $F^{n}=\underbrace{F^{-1} \circ F^{-1} \circ \cdots \circ F^{-1}}_{- \text {праз }}$ для отрицательных целых $n$.
Величина $\chi(p)$ называется показателем Ляпунова в точке $p$.
Векторные поля $\left\{\vec{e}_{p}^{u}, p \in \Omega\right\}$ и $\left\{\vec{e}_{p}^{s}, p \in \Omega\right\}$ образуют гиперболическую структуру на $\Omega$. Направления $\vec{e}_{p}^{s}$ и $\vec{e}_{p}^{u}$ называются соответственно устойчивым и неустойчивым направлениями в точке $p$.

Заметим, что эквивалентные метрики в (2) приводят к одному и тому же значению показателя Ляпунова. Поскольку в случае компактной поверхности $S$ все римановы метрики эквивалентны, показатели Ляпунова не зависят от выбора метрики и, разумеется, зависят в случае некомпактной $S$. Существование всюду пределов в (2) доказано Оселедцем [12].

Наше предположение будет следовать из теории Песина, если мы докажем, что хаотическая область имеет положительную меру Лебега и обладает гиперболической структурой. По крайней мере, именно это Песин утверждает в [14].

Поэтому основной вопрос можно сформулировать следующим образом: как обнаружить гиперболическую структуру? В [10] второй автор предпринял попытку доказать существование гиперболической структуры для стандартного отображения, по крайней мере при больших значениях параметра отображения. Работа еще не закончена, но в качестве побочного результата после проведения большого количества численных экспериментов мы получили неожиданный метод, который позволяет наблюдателю увидеть эту гиперболическую структуру на фазовом пространстве системы, используя компьютер в качестве микроскопа. Метод основан на некоторых свойствах систем с одновременным существованием регулярного и хаотического поведения и не имеет аналога в случае так называемых систем Аносова, т. е. систем с чисто хаотическим характером движения. Грубо говоря, визуализирующий метод базируется на том факте, что траектории регулярных движений отмечают границы (псевдо-) параллелограммов марковского псевдоразбиения внутренней гиперболической структуры.