a) В дальнейшем будем предполагать, что $\alpha$ не является рациональным вектором, и изучим действие группы ${\mathbb{Z}}^{n+1}$ на ${\mathfrak{M}}_{\alpha }$, заданное как
$$u\to {\tau }_{\overline{j}}u\text{ для }\overline{j}\in {\mathbb{Z}}^{n+1}.$$

Если $u\in \mathfrak{M}$, то там же лежит вся орбита, а также ее замыкание в ${\mathfrak{M}}_{\alpha }$, обозначенное $\mathfrak{M}(u)$. Таким образом, $\mathfrak{M}(u)\subset {\mathfrak{M}}_{\alpha }$ является замкнутым инвариантным множеством относительно действия группы. Кроме того, по предложению $4.4,\mathfrak{M}(u)$ вполне упорядочено, т. е. для $v,w\in \mathfrak{M}(u)$ либо $v<w$, либо $v>w$, либо $v\equiv w$, и этот порядок сохраняется при действии группы. Таким образом можно получить картину ситуации, рассмотрев замкнутое множество
$$S_0=\{v(0)\mid v\in \mathfrak{M}(u)\}$$

на вещественной оси $\mathbb{R}$ или на окружности $\mathbb{R}/\mathbb{Z}$. Это замкнутое множество инвариантно относительно коммутирующих отображений $f^k$, определенных в §3. Для таких отображений существует единственное минимальное множество, где «минимальный» должно пониматься в смысле динамических систем: непустое замкнутое инвариантное множество, не имеющее собственного подмножества с этими свойствами. Это минимальное множество состоит из множества предельных точек $S_0$, т.е. таких точек, которые являются предельными точками убывающей

или возрастающей последовательности $S_0$. Это минимальное множество, если оно не совпадает с $\mathbb{R}$, является канторовым множеством на $\mathbb{R}$, которое часто называют множеством Данжуа.

Подобным образом замыкание орбиты $\mathfrak{M}(u)$ от $u\in {\mathfrak{M}}_{\alpha }$ содержит единственное минимальное множество, состоящее из функций $v\in \mathfrak{M}(u)$, которые являются пределами (скажем, в $C^0$-топологии) подпоследовательностей переносов ${\tau }_{\overline{j}}v$ с $(\overline{j},\overline{\alpha })eq0$. В теории динамических систем такие орбиты называются рекуррентными. Таким образом, обозначим это множество через ${\mathfrak{M}}^{\text{rec }}(u)$. Его можно охарактеризовать следующим образом: ${\mathfrak{M}}^{\text{rec }}(u)$ состоит из всех $v\in \mathfrak{M}(u)$, которые являются пределами подпоследовательностей орбиты $\left\{{\tau }_{\overline{j}}v\right\},(\overline{j},\overline{\alpha })eq0$, или, эквивалентно, ${\mathfrak{M}}^{\text{rec }}(u)$ является единственным минимальным замкнутым инвариантным подмножеством $\mathfrak{M}(u)$ (см. Бангерт [3]). Таким образом
$$S_0^{\text{rec }}=\{v(0)\mid v\in {\mathfrak{M}}^{\text{rec }}(u)\}$$

либо совпадает со всей вещественной осью, либо является канторовым множеством, полученным из $S_0$ удалением изолированных точек.
б) Недавно Бангерт [3] доказал фундаментальный факт, что множество ${\mathfrak{M}}^{\text{rec }}(u)$ не зависит от выбора $u\in {\mathfrak{M}}_{\alpha }$. Этот факт, разумеется, являлся фундаментальным для этой теории, потому что он с каждым $\alpha \in {\mathbb{R}}^n\mathrm{\setminus }{\mathbb{Q}}^n$ связывает выделенное множество минималей, которое тем самым имеет геометрический смысл. Оно является аналогом множества Обри-Мезера для монотонных закручивающих отображений.
Теорема 5.1 (В. Бангерт). Если $\alpha \in {\mathbb{R}}^n/{\mathbb{Q}}^{n}uu,v\in {\mathfrak{M}}_{\alpha }$, то
$${\mathfrak{M}}^{\mathrm{rec}}(u)={\mathfrak{M}}^{\mathrm{rec}}(v).$$

Интересное доказательство этой теоремы находится в [3].
Исходя из вышеизложенного, обозначим это множество через ${\mathfrak{M}}_{\alpha }^{\text{rec }}$. Так как оно является минимальным, замкнутым, инвариантным относительно действия группы подмножеством в $\mathfrak{M}(u)$, то ${\mathfrak{M}}_{\alpha }^{\text{reс }}$ можно охарактеризовать так же, как минимальное замкнутое инвариантное подмножество ${\mathfrak{M}}_{\alpha }$. Отсюда вытекает

Следствие 5.2. При $\alpha \in {\mathbb{R}}^n\mathrm{\setminus }{\mathbb{Q}}^n$ у множества ${\mathfrak{M}}_{\alpha }$ существует единственное минимальное замкнутое инвариантное подмножество ${\mathfrak{M}}_{\alpha }^{\text{rec. }}$.

Для рациональных $\alpha$ логично и непротиворечиво определить
$${\mathfrak{M}}_{\alpha }^{\text{rec }}={\mathfrak{M}}_{\alpha }^{\text{per }}\text{ для }\alpha \in {\mathbb{Q}}^n$$
(см. (4.9)). Для случая $n=1{\mathfrak{M}}_{\alpha }^{\text{per }}$ состоит из множества периодических орбит минимального периода.

Заметим, что в общем случае, когда ${\alpha }_1,{\alpha }_2,\dots ,{\alpha }_n,-1$ рационально независимы, из теоремы 5.1 следует, что для данного $a\in \mathbb{R}$ существует не более одного $u\in {\mathfrak{M}}_{\alpha }$ с $u(0)=a$ (см. [3]). Таким образом, возникает необычная ситуация, когда минималь однозначно определяется асимптотическим поведением, заданным через $\alpha$, и значением в единственной точке, заданным через а. Это напоминает теорему Лиувилля для гармонических функций.

Очевидно, что элементы ${\mathfrak{M}}_{\alpha }^{\text{rec }}$ могут быть аппроксимированы в $C^0$-топологии периодическими минималями. В самом деле, если $\alpha$ иррациональное, то некоторые $u\in {\mathfrak{M}}_{\alpha }$ могут быть так аппроксимированы. Это основа доказательства теоремы 4.7. Таким образом, каждый перенос элемента ${\tau }_{\overline{j}}u$ может быть аппроксимирован таким же способом, а следовательно и каждый элемент замыкания орбиты $\mathfrak{M}(u)$, которая содержит ${\mathfrak{M}}_{\alpha }^{\text{rec }}$. Следовательно,
$$\text{ замыкание }\left(\bigcup _{\rho \in {\mathbb{Q}}^n}{\mathfrak{M}}_{\rho }^{\text{per }}\right)\supset \bigcup _{\alpha }{\mathfrak{M}}_{\alpha }^{\text{rec }}:={\mathfrak{M}}^{\text{rec }}.$$

Можно предположить, что обе части равны, т.е. множество возвратных минималей является замыканием периодических минималей, но это не было доказано.

Это утверждение соответствует аналогичному утверждению для монотонных закручивающих отображений о том, что инвариантные кривые или множества Мезера лежат в замыкании множества минимальных периодических орбит.
в) Аналитическое описание $\mathfrak{M}(u)$. Предположим, что $\alpha$ не является рациональным вектором, и пусть $u\in {\mathfrak{M}}_{\alpha }$. Тогда орбита $\left\{{\tau }_{\overline{j}}u\right\}$ вполне упорядочена. Фактически из (4.3) мы приходим к заключению, что
$${\tau }_{\overline{j}}{u}_0>u_0\Rightarrow {\tau }_{\overline{j}}u>u,$$

где $u_0=(\alpha ,x)$. (Однако ${\tau }_{\overline{j}}{u}_0=u_0$ не всегда влечет ${\tau }_{\overline{j}}u=u$ !) Чтобы упростить обсуждение, предположим, что ${\alpha }_1,{\alpha }_2,\dots ,{\alpha }_n,-1$ рационально независимы, так что ${\tau }_{\overline{j}}{u}_0=u_0$ имеет место только при $\overline{j}=0$.

В этом случае ранее упомянутое отношение показывает, что соотношение $(\overline{j},\overline{\alpha })=(j,\alpha )-j_{n+1}\to u(x+j)-j_{n+1}$ монотонно. Определим монотонную функцию $U(x,\theta )$ условием
$$U(x,\theta )=u(x+j)-j_{n+1},\text{ если }\theta =(\alpha ,x)+(\overline{j},\overline{\alpha })$$

или
$$U(x,{\tau }_{\overline{j}}{u}_0)={\tau }_{\overline{j}}u.$$

Для каждого $x\in {\mathbb{R}}^n$ функция $U$ определена на плотном множестве и строго монотонна по $\theta$. Кроме того, мы имеем
$$\{\begin{array}{l}U(x+e_u,\theta )=U(x,\theta ),(u=1,\dots ,n),\\ U(x,\theta +1)=U(x,\theta )+1.\end{array}$$

Можно расширить область определения $U$ на всё ${\mathbb{R}}^{n+1}$, используя монотонность:
$$\{\begin{array}{l}{U}^{+}(x,\theta )=\underset{{\theta }_s\downarrow \theta }{lim}U(x,{\theta }_s),\\ U^{-}(x,\theta )=\underset{{\theta }_s\uparrow \theta }{lim}U(x,{\theta }_s),\end{array}$$

где ${\theta }_s$ соответствует значениям, где $U$ определено. Тогда для каждого $x\in {\mathbb{R}}^n{U}^{+}=U^{-}$для всех, кроме счетного числа $\theta$, в которых $U^{+}$ и $U^{-}$терпят разрыв. В любом случае $U^{-}⩽U⩽U^{+}$и $U^{+}=U^{-}$почти везде. Существует два случая.
A) $U^{+}=U^{-}$для всех $x,\theta$, т. е. они определяют непрерывную функцию $U=U(x,\theta )$, и отображение
$$(x,\theta )\to (x,U(x,\theta ))$$

определяет гомеоморфизм тора $T^{n+1}$, переводящий слоение
$$\theta =(\alpha ,x)+\beta$$

в искомое минимальное слоение
$$x_{n+1}=U(x,\alpha x+\beta )\text{. }$$

В этом случае каждый лист плотен на торе и ${\mathfrak{M}}_{\alpha }^{\text{rec }}={\mathfrak{M}}_{\alpha }$.

В) $U^{+}ot\equiv U^{-}$, т.е. для фиксированного $x$ множество $\theta$, для которых $U^{-}(x,\theta )<U^{+}(x,\theta )$ непустое; это счетное множество. Например, для $x=0$ это множество является объединением открытых интервалов
$$\bigcup _m\left(U^{-}(0,{\theta }_m)\right),U^{+}(0,{\theta }_m)),$$

где ${\theta }_m$ — все точки разрыва $U^{+},U^{-}$. Это дополнение канторова множества. Минимали, проходящие через это канторово множество, задаются выражением
$$u(x)=U^{\pm }(x,(\alpha ,x)+\theta ),\theta \in \mathbb{R}.$$

И снова все эти минимали являются очевидно рекуррентными и, в соответствии с теоремой 5.1 Бангерта, все элементы ${\mathfrak{M}}_{\alpha }^{\text{rec }}$ заданы выражением (5.7) и дополнением к (5.6) является множество $S_0^{\text{rec }}$, определенное (5.1).

В случае А) все графики минималей $u,u\in {\mathfrak{M}}_{\alpha }={\mathfrak{M}}_{\alpha }^{\text{rec }}$ плотны на торе и определяют слоение. В случае В) график $u$ не является плотным на торе для любого $u\in {\mathfrak{M}}_{\alpha }^{\text{rec }}$;ни формируют листы ламинации, которую можно представить как семейство листов, покрывающее только часть тора, а именно дополнение множества дыр
$$\bigcup _m\{\overline{x}\in {\mathbb{R}}^{n+1},U^{-}(x,(\alpha ,x)+{\theta }_m)<x_{n+1}<U^{+}(x,(\alpha ,x)+{\theta }_m)\}.$$

Заметим, что ширина такой дыры
$$d_m(x)=u_m^{+}(x)-u_m^{-}(x);u_m^{\pm }(x)=U^{\pm }(x,(\alpha ,x)+{\theta }_m)$$

равномерна во всей компактной области, т.е.
$$c^{-1}{d}_m(y)⩽d_m(x)⩽c{d}_m(y)\text{ для }x,y\in B_R,$$

где $c⩾1$ зависит от $R$, а не от $m$. Это следствие неравенства Харнака для функций из класса де Джорджи, что было получено ди Бенедетто и Трудингером [4].

Все эти утверждения, описанные для рационально независимых ${\alpha }_1,\dots ,{\alpha }_n,-1$ верны при $\alpha \in {\mathbb{R}}^n\mathrm{\setminus }{\mathbb{Q}}^n$, т.е. не рациональных векторов $\alpha$. Случай рациональных $\alpha$, который всегда содержит компактные листы, не будет рассматриваться в этой работе.

г) В случае А) слоение описывается с помощью непрерывной функции $U=U(x,\theta )$, удовлетворяющей условиям периодичности (5.3), которая строго монотонна по $\theta$. Кроме того, т. к.
$$u(x)=U(x,(\alpha ,x)+\text{ const })$$

являются минималями, $U(x,\theta )$ удовлетворяет дифференциальному уравнению
$$\begin{array}{c}\sum _{u=1}{D}_u{F}_{p_u}(x,U,DU)=F_u(x,U,DU),\\ D_u=\frac{\partial }{\partial x_u}+{\alpha }_u\frac{\partial }{\partial \theta }.\end{array}$$

И обратно, любое решение этого диффференциального уравнения, удовлетворяющее ранее упомянутыми условиям периодичности и монотонности, приводит к минимальному слоению, соответствующему $\alpha \in {\mathbb{R}}^n$.

В случае В) две функции $U^{+},U^{-}$, которые различаются только на множестве нулевой меры, удовлетворяют этому же условию, но они не являются непрерывными по $\theta$. Если нам потребуется, для определенности, полунепрерывность сверху по $\theta$, то выберем функцию $U^{+}$.

Теорема 5.3. Для заданного $\alpha \in {\mathbb{R}}^n\mathrm{\setminus }{\mathbb{Q}}^n$ существует функиия $U=U(x,\theta )$ в ${\mathbb{R}}^{n+1}$, которая строго монотонна, полунепрерывна сверх по $\theta$ для фиксированного $x$, такая, что $U(x,(\alpha ,x)+$ const) является дважды непрерывно дифференцируемой, удовлетворяет (5.9) и условию периодичности (5.3); причем все $и\in {\mathfrak{M}}_{\alpha }^{\mathrm{rec}}$, кроме счетного множества, представлены в виде
$$u(x)=U(x,(\alpha ,x)+\text{ const }).$$

Из нашего построения и теоремы 5.1 становится ясно, что $U$ однозначно определена. Случай А) соответствует непрерывной $U$, а случай В) — разрывной $U$. В этом случае отображение (5.5) не является гомеоморфизмом ${\mathbb{R}}^{n+1}$ на себя, но является гомеоморфизмом ${\mathbb{R}}^{n+1}$ на дополнение к множеству (5.8).

Теорема 5.1 показывает, что наша задача определения ${\mathfrak{M}}_{\alpha }^{\text{rec }}$ сводится к нахождению слабого решения $U$ ранее упомянутого дифференциального уравнения в частных производных (5.9) с условием периодичности и монотонности. Альтернативный способ нахождения этого решения $U$, а следовательно, и ${\mathfrak{M}}_{\alpha }^{\text{rec }}$ будет описан в главе 4.

д) Описание слоения в терминах 1-формы. В случае А) непрерывная функция $U=U(x,\theta )=x_{n+1}$ имеет обратную $\theta =Z(\overline{x})$, монотонную по $x_{n+1}$, такую, что $Z(\overline{x})-x_{n+1}$ имеет период 1 по всем переменным. Таким образом, рассматриваемое слоение задано как множества уровня функции
$$z(\overline{x})=(\alpha ,x)-Z(\overline{x})$$

или в терминах замкнутой 1-формы (в смысле распределений)
$$\omega =dz=\sum _{u=1}^n{\alpha }_{u}d{x}_u-dZ.$$

Ее периоды на окружностях ${\gamma }_u=\{\overline{x}=t{e}_u,0⩽t⩽1\}$ на $T^{n+1}$ заданы соотношением
$${\int }_{{\gamma }_u}\omega =z(\overline{x}+e_u)-z(\overline{x})={\alpha }_u(u=1,\dots ,n+1)$$

где ${\alpha }_{n+1}=-1$. Более того, функция $z$ строго монотонна по $x_{n+1}$. Это описывает слоение в более привычном виде в терминах 1-формы и пролвллет сго голопомио. В случас В) фупцил $z(\overline{x})$ будст попстаптой па множестве (5.8).