a) В дальнейшем будем предполагать, что $\alpha$ не является рациональным вектором, и изучим действие группы $\mathbb{Z}^{n+1}$ на $\mathfrak{M}_{\alpha}$, заданное как
\[
u \rightarrow \tau_{\bar{j}} u \quad \text { для } \quad \bar{j} \in \mathbb{Z}^{n+1} .
\]

Если $u \in \mathfrak{M}$, то там же лежит вся орбита, а также ее замыкание в $\mathfrak{M}_{\alpha}$, обозначенное $\mathfrak{M}(u)$. Таким образом, $\mathfrak{M}(u) \subset \mathfrak{M}_{\alpha}$ является замкнутым инвариантным множеством относительно действия группы. Кроме того, по предложению $4.4, \mathfrak{M}(u)$ вполне упорядочено, т. е. для $v, w \in \mathfrak{M}(u)$ либо $v<w$, либо $v>w$, либо $v \equiv w$, и этот порядок сохраняется при действии группы. Таким образом можно получить картину ситуации, рассмотрев замкнутое множество
\[
S_{0}=\{v(0) \mid v \in \mathfrak{M}(u)\}
\]

на вещественной оси $\mathbb{R}$ или на окружности $\mathbb{R} / \mathbb{Z}$. Это замкнутое множество инвариантно относительно коммутирующих отображений $f^{k}$, определенных в §3. Для таких отображений существует единственное минимальное множество, где «минимальный» должно пониматься в смысле динамических систем: непустое замкнутое инвариантное множество, не имеющее собственного подмножества с этими свойствами. Это минимальное множество состоит из множества предельных точек $S_{0}$, т.е. таких точек, которые являются предельными точками убывающей

или возрастающей последовательности $S_{0}$. Это минимальное множество, если оно не совпадает с $\mathbb{R}$, является канторовым множеством на $\mathbb{R}$, которое часто называют множеством Данжуа.

Подобным образом замыкание орбиты $\mathfrak{M}(u)$ от $u \in \mathfrak{M}_{\alpha}$ содержит единственное минимальное множество, состоящее из функций $v \in \mathfrak{M}(u)$, которые являются пределами (скажем, в $C^{0}$-топологии) подпоследовательностей переносов $\tau_{\bar{j}} v$ с $(\bar{j}, \bar{\alpha})
eq 0$. В теории динамических систем такие орбиты называются рекуррентными. Таким образом, обозначим это множество через $\mathfrak{M}^{\text {rec }}(u)$. Его можно охарактеризовать следующим образом: $\mathfrak{M}^{\text {rec }}(u)$ состоит из всех $v \in \mathfrak{M}(u)$, которые являются пределами подпоследовательностей орбиты $\left\{\tau_{\bar{j}} v\right\},(\bar{j}, \bar{\alpha})
eq 0$, или, эквивалентно, $\mathfrak{M}^{\text {rec }}(u)$ является единственным минимальным замкнутым инвариантным подмножеством $\mathfrak{M}(u)$ (см. Бангерт [3]). Таким образом
\[
S_{0}^{\text {rec }}=\left\{v(0) \mid v \in \mathfrak{M}^{\text {rec }}(u)\right\}
\]

либо совпадает со всей вещественной осью, либо является канторовым множеством, полученным из $S_{0}$ удалением изолированных точек.
б) Недавно Бангерт [3] доказал фундаментальный факт, что множество $\mathfrak{M}^{\text {rec }}(u)$ не зависит от выбора $u \in \mathfrak{M}_{\alpha}$. Этот факт, разумеется, являлся фундаментальным для этой теории, потому что он с каждым $\alpha \in \mathbb{R}^{n} \backslash \mathbb{Q}^{n}$ связывает выделенное множество минималей, которое тем самым имеет геометрический смысл. Оно является аналогом множества Обри-Мезера для монотонных закручивающих отображений.
Теорема 5.1 (В. Бангерт). Если $\alpha \in \mathbb{R}^{n} / \mathbb{Q}^{n} u u, v \in \mathfrak{M}_{\alpha}$, то
\[
\mathfrak{M}^{\mathrm{rec}}(u)=\mathfrak{M}^{\mathrm{rec}}(v) .
\]

Интересное доказательство этой теоремы находится в [3].
Исходя из вышеизложенного, обозначим это множество через $\mathfrak{M}_{\alpha}^{\text {rec }}$. Так как оно является минимальным, замкнутым, инвариантным относительно действия группы подмножеством в $\mathfrak{M}(u)$, то $\mathfrak{M}_{\alpha}^{\text {reс }}$ можно охарактеризовать так же, как минимальное замкнутое инвариантное подмножество $\mathfrak{M}_{\alpha}$. Отсюда вытекает

Следствие 5.2. При $\alpha \in \mathbb{R}^{n} \backslash \mathbb{Q}^{n}$ у множества $\mathfrak{M}_{\alpha}$ существует единственное минимальное замкнутое инвариантное подмножество $\mathfrak{M}_{\alpha}^{\text {rec. }}$.

Для рациональных $\alpha$ логично и непротиворечиво определить
\[
\mathfrak{M}_{\alpha}^{\text {rec }}=\mathfrak{M}_{\alpha}^{\text {per }} \quad \text { для } \quad \alpha \in \mathbb{Q}^{n}
\]
(см. (4.9)). Для случая $n=1 \mathfrak{M}_{\alpha}^{\text {per }}$ состоит из множества периодических орбит минимального периода.

Заметим, что в общем случае, когда $\alpha_{1}, \alpha_{2}, \ldots, \alpha_{n},-1$ рационально независимы, из теоремы 5.1 следует, что для данного $a \in \mathbb{R}$ существует не более одного $u \in \mathfrak{M}_{\alpha}$ с $u(0)=a$ (см. [3]). Таким образом, возникает необычная ситуация, когда минималь однозначно определяется асимптотическим поведением, заданным через $\alpha$, и значением в единственной точке, заданным через а. Это напоминает теорему Лиувилля для гармонических функций.

Очевидно, что элементы $\mathfrak{M}_{\alpha}^{\text {rec }}$ могут быть аппроксимированы в $C^{0}$-топологии периодическими минималями. В самом деле, если $\alpha$ иррациональное, то некоторые $u \in \mathfrak{M}_{\alpha}$ могут быть так аппроксимированы. Это основа доказательства теоремы 4.7. Таким образом, каждый перенос элемента $\tau_{\bar{j}} u$ может быть аппроксимирован таким же способом, а следовательно и каждый элемент замыкания орбиты $\mathfrak{M}(u)$, которая содержит $\mathfrak{M}_{\alpha}^{\text {rec }}$. Следовательно,
\[
\text { замыкание }\left(\bigcup_{\rho \in \mathbb{Q}^{n}} \mathfrak{M}_{\rho}^{\text {per }}\right) \supset \bigcup_{\alpha} \mathfrak{M}_{\alpha}^{\text {rec }}:=\mathfrak{M}^{\text {rec }} .
\]

Можно предположить, что обе части равны, т.е. множество возвратных минималей является замыканием периодических минималей, но это не было доказано.

Это утверждение соответствует аналогичному утверждению для монотонных закручивающих отображений о том, что инвариантные кривые или множества Мезера лежат в замыкании множества минимальных периодических орбит.
в) Аналитическое описание $\mathfrak{M}(u)$. Предположим, что $\alpha$ не является рациональным вектором, и пусть $u \in \mathfrak{M}_{\alpha}$. Тогда орбита $\left\{\tau_{\bar{j}} u\right\}$ вполне упорядочена. Фактически из (4.3) мы приходим к заключению, что
\[
\tau_{\bar{j}} u_{0}>u_{0} \Rightarrow \tau_{\bar{j}} u>u,
\]

где $u_{0}=(\alpha, x)$. (Однако $\tau_{\bar{j}} u_{0}=u_{0}$ не всегда влечет $\tau_{\bar{j}} u=u$ !) Чтобы упростить обсуждение, предположим, что $\alpha_{1}, \alpha_{2}, \ldots, \alpha_{n},-1$ рационально независимы, так что $\tau_{\bar{j}} u_{0}=u_{0}$ имеет место только при $\bar{j}=0$.

В этом случае ранее упомянутое отношение показывает, что соотношение $(\bar{j}, \bar{\alpha})=(j, \alpha)-j_{n+1} \rightarrow u(x+j)-j_{n+1}$ монотонно. Определим монотонную функцию $U(x, \theta)$ условием
\[
U(x, \theta)=u(x+j)-j_{n+1}, \quad \text { если } \quad \theta=(\alpha, x)+(\bar{j}, \bar{\alpha})
\]

или
\[
U\left(x, \tau_{\bar{j}} u_{0}\right)=\tau_{\bar{j}} u .
\]

Для каждого $x \in \mathbb{R}^{n}$ функция $U$ определена на плотном множестве и строго монотонна по $\theta$. Кроме того, мы имеем
\[
\left\{\begin{array}{l}
U\left(x+e_{
u}, \theta\right)=U(x, \theta), \quad(
u=1, \ldots, n), \\
U(x, \theta+1)=U(x, \theta)+1 .
\end{array}\right.
\]

Можно расширить область определения $U$ на всё $\mathbb{R}^{n+1}$, используя монотонность:
\[
\left\{\begin{array}{l}
U^{+}(x, \theta)=\lim _{\theta_{s} \downarrow \theta} U\left(x, \theta_{s}\right), \\
U^{-}(x, \theta)=\lim _{\theta_{s} \uparrow \theta} U\left(x, \theta_{s}\right),
\end{array}\right.
\]

где $\theta_{s}$ соответствует значениям, где $U$ определено. Тогда для каждого $x \in \mathbb{R}^{n} U^{+}=U^{-}$для всех, кроме счетного числа $\theta$, в которых $U^{+}$ и $U^{-}$терпят разрыв. В любом случае $U^{-} \leqslant U \leqslant U^{+}$и $U^{+}=U^{-}$почти везде. Существует два случая.
A) $U^{+}=U^{-}$для всех $x, \theta$, т. е. они определяют непрерывную функцию $U=U(x, \theta)$, и отображение
\[
(x, \theta) \rightarrow(x, U(x, \theta))
\]

определяет гомеоморфизм тора $T^{n+1}$, переводящий слоение
\[
\theta=(\alpha, x)+\beta
\]

в искомое минимальное слоение
\[
x_{n+1}=U(x, \alpha x+\beta) \text {. }
\]

В этом случае каждый лист плотен на торе и $\mathfrak{M}_{\alpha}^{\text {rec }}=\mathfrak{M}_{\alpha}$.

В) $U^{+}
ot \equiv U^{-}$, т.е. для фиксированного $x$ множество $\theta$, для которых $U^{-}(x, \theta)<U^{+}(x, \theta)$ непустое; это счетное множество. Например, для $x=0$ это множество является объединением открытых интервалов
\[
\left.\bigcup_{m}\left(U^{-}\left(0, \theta_{m}\right)\right), U^{+}\left(0, \theta_{m}\right)\right),
\]

где $\theta_{m}$ – все точки разрыва $U^{+}, U^{-}$. Это дополнение канторова множества. Минимали, проходящие через это канторово множество, задаются выражением
\[
u(x)=U^{ \pm}(x,(\alpha, x)+\theta), \quad \theta \in \mathbb{R} .
\]

И снова все эти минимали являются очевидно рекуррентными и, в соответствии с теоремой 5.1 Бангерта, все элементы $\mathfrak{M}_{\alpha}^{\text {rec }}$ заданы выражением (5.7) и дополнением к (5.6) является множество $S_{0}^{\text {rec }}$, определенное (5.1).

В случае А) все графики минималей $u, u \in \mathfrak{M}_{\alpha}=\mathfrak{M}_{\alpha}^{\text {rec }}$ плотны на торе и определяют слоение. В случае В) график $u$ не является плотным на торе для любого $u \in \mathfrak{M}_{\alpha}^{\text {rec }}$;ни формируют листы ламинации, которую можно представить как семейство листов, покрывающее только часть тора, а именно дополнение множества дыр
\[
\bigcup_{m}\left\{\bar{x} \in \mathbb{R}^{n+1}, U^{-}\left(x,(\alpha, x)+\theta_{m}\right)<x_{n+1}<U^{+}\left(x,(\alpha, x)+\theta_{m}\right)\right\} .
\]

Заметим, что ширина такой дыры
\[
d_{m}(x)=u_{m}^{+}(x)-u_{m}^{-}(x) ; \quad u_{m}^{ \pm}(x)=U^{ \pm}\left(x,(\alpha, x)+\theta_{m}\right)
\]

равномерна во всей компактной области, т.е.
\[
c^{-1} d_{m}(y) \leqslant d_{m}(x) \leqslant c d_{m}(y) \quad \text { для } \quad x, y \in B_{R},
\]

где $c \geqslant 1$ зависит от $R$, а не от $m$. Это следствие неравенства Харнака для функций из класса де Джорджи, что было получено ди Бенедетто и Трудингером [4].

Все эти утверждения, описанные для рационально независимых $\alpha_{1}, \ldots, \alpha_{n},-1$ верны при $\alpha \in \mathbb{R}^{n} \backslash \mathbb{Q}^{n}$, т.е. не рациональных векторов $\alpha$. Случай рациональных $\alpha$, который всегда содержит компактные листы, не будет рассматриваться в этой работе.

г) В случае А) слоение описывается с помощью непрерывной функции $U=U(x, \theta)$, удовлетворяющей условиям периодичности (5.3), которая строго монотонна по $\theta$. Кроме того, т. к.
\[
u(x)=U(x,(\alpha, x)+\text { const })
\]

являются минималями, $U(x, \theta)$ удовлетворяет дифференциальному уравнению
\[
\begin{array}{c}
\sum_{
u=1} D_{
u} F_{p_{
u}}(x, U, D U)=F_{u}(x, U, D U), \\
D_{
u}=\frac{\partial}{\partial x_{
u}}+\alpha_{
u} \frac{\partial}{\partial \theta} .
\end{array}
\]

И обратно, любое решение этого диффференциального уравнения, удовлетворяющее ранее упомянутыми условиям периодичности и монотонности, приводит к минимальному слоению, соответствующему $\alpha \in \mathbb{R}^{n}$.

В случае В) две функции $U^{+}, U^{-}$, которые различаются только на множестве нулевой меры, удовлетворяют этому же условию, но они не являются непрерывными по $\theta$. Если нам потребуется, для определенности, полунепрерывность сверху по $\theta$, то выберем функцию $U^{+}$.

Теорема 5.3. Для заданного $\alpha \in \mathbb{R}^{n} \backslash \mathbb{Q}^{n}$ существует функиия $U=U(x, \theta)$ в $\mathbb{R}^{n+1}$, которая строго монотонна, полунепрерывна сверх по $\theta$ для фиксированного $x$, такая, что $U(x,(\alpha, x)+$ const) является дважды непрерывно дифференцируемой, удовлетворяет (5.9) и условию периодичности (5.3); причем все $и \in \mathfrak{M}_{\alpha}^{\mathrm{rec}}$, кроме счетного множества, представлены в виде
\[
u(x)=U(x,(\alpha, x)+\text { const }) .
\]

Из нашего построения и теоремы 5.1 становится ясно, что $U$ однозначно определена. Случай А) соответствует непрерывной $U$, а случай В) – разрывной $U$. В этом случае отображение (5.5) не является гомеоморфизмом $\mathbb{R}^{n+1}$ на себя, но является гомеоморфизмом $\mathbb{R}^{n+1}$ на дополнение к множеству (5.8).

Теорема 5.1 показывает, что наша задача определения $\mathfrak{M}_{\alpha}^{\text {rec }}$ сводится к нахождению слабого решения $U$ ранее упомянутого дифференциального уравнения в частных производных (5.9) с условием периодичности и монотонности. Альтернативный способ нахождения этого решения $U$, а следовательно, и $\mathfrak{M}_{\alpha}^{\text {rec }}$ будет описан в главе 4.

д) Описание слоения в терминах 1-формы. В случае А) непрерывная функция $U=U(x, \theta)=x_{n+1}$ имеет обратную $\theta=Z(\bar{x})$, монотонную по $x_{n+1}$, такую, что $Z(\bar{x})-x_{n+1}$ имеет период 1 по всем переменным. Таким образом, рассматриваемое слоение задано как множества уровня функции
\[
z(\bar{x})=(\alpha, x)-Z(\bar{x})
\]

или в терминах замкнутой 1-формы (в смысле распределений)
\[
\omega=d z=\sum_{
u=1}^{n} \alpha_{
u} d x_{
u}-d Z .
\]

Ее периоды на окружностях $\gamma_{
u}=\left\{\bar{x}=t e_{
u}, 0 \leqslant t \leqslant 1\right\}$ на $T^{n+1}$ заданы соотношением
\[
\int_{\gamma_{
u}} \omega=z\left(\bar{x}+e_{
u}\right)-z(\bar{x})=\alpha_{
u} \quad(
u=1, \ldots, n+1)
\]

где $\alpha_{n+1}=-1$. Более того, функция $z$ строго монотонна по $x_{n+1}$. Это описывает слоение в более привычном виде в терминах 1-формы и пролвллет сго голопомио. В случас В) фупцил $z(\bar{x})$ будст попстаптой па множестве (5.8).