a) Нас интересует следующий вопрос: какой из двух случаев А) или В) возникает в данной ситуации. В частности, если вариационная задача зависит от параметра, как, например, в (2.3), что может быть сказано о существовании гладкого слоения в зависимости от такого параметра. Для этого частного примера, данного в § 2, (2.3) Бангертом было доказано [2], что для любого положительного числа $A$ существует грань $\lambda^{*}(A)$ такая, что для $\lambda>\lambda^{*}(A)$ не существует непрерывного слоения при $|\alpha| \leqslant A$. Другими словами, для всех $\alpha \in \mathbb{R}^{n},|\alpha| \leqslant A$, множества $\mathfrak{M}_{\alpha}^{\text {reс }}$ являются канторовыми множествами, а функции, построенные в $\S 5$, имеют разрывы. С другой стороны, при достаточно

малых $|\lambda|$ существуют гладкие минимальные слоения для этого примера (2.3), что гарантирует следующая теорема. При этом для любого фиксированного $\lambda$ можно построить гладкое минимальное слоение при определенных $\alpha$ с достаточно большим $|\alpha|$. Таким образом, ситуация очень сложная и общего ответа не следует ожидать. Однако можно получить простые геометрические критерии, которые являются достаточными условиями для несуществования непрерывных слоений. Но сначала мы обсудим прямо противоположный случай с гладкими слоениями.
б) Начнем с теоремы о возмущении, подобной теореме 1.1. Чтобы сформулировать результат, предположим, что подынтегральное выражение $F=F(\bar{x}, p)$ удовлетворяет условию периодичности (I) и условию Лежандра (II) и (1.8). Однако никакого условия роста (такого как (1.8) (III)) не нужно. Вместо него потребуем
\[
F \in C^{\infty}(\Omega),
\]

где $\Omega-$ открытая область в $\left(T^{n+1} \times \mathbb{R}^{n}\right)$ с $\pi_{1} \Omega=T^{n+1}$, где $\pi_{1}(\bar{x}, p)=$ $=\bar{x}$. Предполагается, что проекция $\Omega$ на $p$-направление ограничена. Кроме того, предположим, что $\Omega$ инвариантно относительно переносов $(\bar{x}, p)>(\bar{x} \mid \bar{j}, p)$ для вссх $\bar{j} \subset \mathbb{Z}^{n+1}$.

Предположим, что $F=F^{\lambda} \in C^{\infty}(\Omega)$ непрерывно зависит от вещественного параметра $\lambda \in(-\delta,+\delta)$, например,
\[
F^{\lambda}=F^{0}+\lambda G .
\]

Таким образом, если условие Лежандра выполняется при $\lambda=0$, то оно выполняется и при достаточно малых $|\lambda|$.

Поставим условие, что для $F=F^{0}$ и данного вектора $\alpha$ существует гладкое слоение, заданное гладкой функцией $U=U^{0}(x, \theta)$, такое, что
\[
\left(x, U^{0}(x, \theta), D U^{0}\right) \in \Omega \quad \text { для всех }(x, \theta) \in T^{n+1},
\]

и такое, что $U^{0}$ удовлетворяет условиям (5.3), (5.9), в которых $F$ заменено на $F^{0}$, и условию строгой монотонности
\[
\frac{\partial U^{0}}{\partial \theta}>0 .
\]

Нам требуется гладкое $F^{\lambda}$-минимальное слоение с тем же вектором вращения $\alpha$, если $|\lambda|$ достаточно мал. Как объяснялось в $§ 1$, для этого потребуются диофантовы условия на $\alpha$, которые мы запишем в следующем виде.

Должны существовать положительные числа $\gamma, \tau$ такие, что для всех $\bar{j}=\left(j, j_{n+1}\right) \in \mathbb{Z}^{n+1} \backslash(0)$ выполняется неравенство
\[
\sum_{
u=1}^{n}\left(\alpha_{
u} j_{n+1}+j_{
u}\right)^{2} \geqslant \gamma^{-1}\left(1+j_{n+1}^{2}\right)^{-\tau} .
\]
(Соотношение между (6.3) и (1.5) будет объяснено ниже.)
Теорема 6.1. При выполнении сформулированных выше предположений и при достаточно малых $|\lambda|$ существует гладкое решение $U=$ $=U^{\lambda}(x, \theta)$ дифференцильного уравнения в частных производных с $F$, замененной на $F^{\lambda}$, удовлетворяющее условию периодичности (5.3). Кроме того, $U^{\lambda}$ непрерывно зависит от $\lambda$ в $C^{\infty}\left(T^{n+1}\right)$-топологии и $U^{\lambda}=$ $=U^{0}$ при $\lambda=0 ;$ в частности, из (6.2) следует, что
\[
\frac{\partial U^{\lambda}}{\partial \theta}>0 .
\]

Доказательство этой теоремы использует быстро сходящийся итерационный метод, аналогичный применяемому в так называемой КАМ-теории. На самом деле эта теорема является обобщением теоремы существования инвариантных торов для гамильтоновых систем с двумя степенями свободы на дифференциальные уравнения в частных производных. В то время, как традиционное доказательство существования инвариантных торов использует теорию канонических преобразований, это не возможно при доказательстве теоремы для дифференциальных уравнений в частных производных, т. к. аналоги канонических преобразований тривиальны. Поэтому мы должны действовать в «конфигурационном пространстве» и применить теорему о неявной функции непосредственно к (5.3). Этот подход приводит к упрощенному доказательству существования инвариантных торов для $n$ степеней свободы, что было не так давно показано Саламоном и Цендером [19].
в) Согласно теореме 6.1 значения $\lambda$, для которых гладкие минимальные слоения существуют при фиксированном векторе вращения $\alpha$, удовлетворяющем (6.3), образуют открытое множество. Эти слоения, которые мы обозначим $\mathcal{F}^{\lambda}=\mathcal{F}_{\alpha}^{\lambda}$, сопряжены с $\mathcal{F}^{0}$. В самом деле, если $\mathcal{F}^{\lambda}$ задано в виде
\[
x_{n+1}=U^{\lambda}(x, \theta) ; \quad \theta=(\alpha, x)+\text { const },
\]

то отображение
\[
\varphi^{\lambda}:(x, \theta) \rightarrow\left(x, U^{\lambda}(x, \theta)\right)
\]

определяет диффеоморфизм тора $T^{n+1}$ на себя и
\[
\psi^{\lambda}=\varphi^{\lambda} \circ\left(\varphi^{0}\right)^{-1}
\]

переводит $\mathcal{F}^{0}$ в $\mathcal{F}^{\lambda}$.
Теорему 6.1 можно представить в более сильной форме: вместо того, чтобы рассматривать однопараметрические семейства подынтегральных выражений, можно рассмотреть $C^{\infty}\left(T^{n+1} \times \Omega\right)$-окрестность $F^{0}=F^{0}(\bar{x}, p)$. Другими словами, можно доказать следующую теоремy.

Теорема 6.2. При предположениях теоремы 6.1 существует такая $C^{\infty}\left(T^{n+1} \times \Omega\right)$-окрестность $\mathfrak{N}=\mathfrak{N}_{\alpha}\left(F^{0}\right)$, что для каждого $F \in \mathfrak{N}$ существует решение $U=U(x, \theta)$ уравнений (5.9) $и$ (5.3), непрерывно зависяще от $F$.

Слоения $\mathcal{F}_{U}: x_{n+1}=U(x, \theta)$ снова эквивалентны $\mathcal{F}^{0}: x_{n+1}=U(x, \theta)$ при диффеоморфизме
\[
\psi=\varphi_{U} \circ\left(\varphi^{0}\right)^{-1},
\]

где
\[
\varphi_{U}:(x, \theta) \mapsto(x, U(x, \theta)) .
\]

Следовательно, такие слоения «устойчивы», если определить, что гладкое слоение $\mathcal{F}^{0}$, минимальное относительно $F^{0}$, является устойчивым, если для всех $F$ в $C^{\infty}$-окрестности $\mathfrak{N}$ этого $F^{0}$ существует гладкое $F$-минимальное слоение $\mathcal{F}$, сопряженное $\mathcal{F}^{0}$. Таким образом, получим:

Следствие 6.3. При предположениях теоремы 6.1 слоение $\mathcal{F}^{0}$ устойчиво.
г) Применим эти результаты к минимальному слоению, обсуждавшемуся в $\S 1$ б). Теорема 1.1 следует из теоремы 6.2 , несмотря на то, что понятие устойчивости в $§ 1$ отличается от используемого здесь понятия, т.к. оно относится к более узкому классу подынтегральных выражений вида
\[
F(\bar{x}, p)=D(\bar{x}) \sqrt{\sum_{
u, \mu=1}^{n+1} g^{
u \mu}(\bar{x}) p_{
u} p_{\mu}},
\]

где $p_{n+1}=-1, D=\sqrt{\operatorname{det}\left(g_{
u \mu}\right)}$. В частности (в примере из $\S 1$, б)),
\[
F^{0}=\sqrt{1+|p|^{2}} .
\]

Отметим, что эти подынтегральные выражения нарушают условие квадратичного роста (1.8) (III), но в теореме 6.2 требуется только, чтобы $F$ было определено в открытой области $\Omega$, содержащей слоение $\mathcal{F}^{0}$. Можно выбрать
\[
\Omega=\left\{(\bar{x}, p) \in T^{n+1} \times \mathbb{R}^{n},|p-\alpha|<\delta\right\},
\]

и условие роста является несущественным.
Заметим, что диофантово условие (6.3) фактически эквивалентно (1.5) для вектора $\bar{\alpha}$ с $\alpha_{n+1}=-1$. Более точно, условие (1.5) вместе с некоторой константой $c_{0} \geqslant 1$ влечет
\[
\delta(\bar{j}):=\sum_{
u=1}^{n}\left(\alpha_{
u} j_{n+1}-j_{
u}\right)^{2} \geqslant \gamma^{-1}\left(1+j_{n+1}^{2}\right)^{-\tau}
\]

для всех $\bar{j} \in \mathbb{Z}^{n+1} \backslash(0)$, если $\gamma=\left(2|\bar{\alpha}|^{2}\right)^{\tau} c_{0}$. Обратно, из этого последнего условия при $\gamma=\left(2^{\tau}|\alpha|\right)^{-1} c_{0}$ вытекает (1.5).
Доказательство следует из неравенства
\[
\delta(\bar{x}) \leqslant \sum_{1 \leqslant
u<\mu \leqslant n+1}\left(\alpha_{
u} x_{\mu}-\alpha_{\mu} x_{
u}\right)^{2}=|\bar{\alpha}|^{2}|\bar{x}|^{2}-(\bar{\alpha}, \bar{x})^{2} \leqslant|\bar{\alpha}|^{2} \delta(\bar{x})
\]

для всех $\bar{x} \in \mathbb{R}^{n+1}$, которое легко проверить. Таким образом, (6.6) влечет (1.5), если заметить, что
\[
|\bar{j}|^{2}=|j|^{2}+j_{n+1}^{2} \geqslant \frac{1}{2}\left(1+j_{n+1}^{2}\right) .
\]

С другой стороны, из (1.5) следует, что
\[
\delta(\bar{j}) \geqslant c_{0}^{-1}|\bar{j}|^{-2 \tau} .
\]

Сейчас заметим, что по неравенству треугольника
\[
\delta(\bar{j}) \geqslant \frac{1}{2}|j|^{2}-|\alpha|^{2} j_{n+1}^{2},
\]

следовательно, $\delta(\bar{j}) \geqslant \frac{1}{2}$, если $|j|^{2} \geqslant 2|\alpha|^{2} j_{n+1}^{2}+1$, так что в этом случае неравенство доказано при $\gamma \geqslant 2$. Но в оставшемся случае $|j|^{2} \leqslant$ $\leqslant 2|\alpha|^{2} j_{n+1}^{2}+1$ получим
\[
|\bar{j}|^{2} \leqslant\left(2|\alpha|^{2}+1\right) j_{n+1}^{2}+1 \leqslant 2|\bar{\alpha}|^{2}\left(j_{n+1}^{2}+1\right),
\]

следовательно
\[
\delta(\bar{j}) \geqslant c_{0}^{-1}\left(2|\bar{\alpha}|^{2}\left(1+j_{n+1}^{2}\right)\right)^{-\tau},
\]

что и требовалось доказать.
д) В основе теоремы 6.1 лежат очень ограничивающие предположения: $\alpha$ ) диофантово условие (6.3), $\beta$ ) условие малости $|\lambda|$. Покажем, что оба эти условия необходимы.

Мезер в [14] получил результат для монотонных закручивающих отображений, который может быть переформулирован в следующее утверждение для минимальных слоений на $T^{2}$, т.е. для $n=1$. В этом случае в условиях требуются константы $\gamma, \tau$ такие, что
\[
|q \alpha-p| \geqslant \gamma^{-1} q^{-\tau}
\]

для всех рациональных чисел $p / q$. Число $\alpha$, для которого таких констант не существует называется числом Лиувилля. Они характеризуются следующим свойством: для любых больших чисел $\gamma, \tau$ существует рациональное число $p / q$ такое, что
\[
0<|q \alpha-p|<\gamma^{-1} q^{-\tau} .
\]

Примером числа Лиувилля является
\[
\alpha=\sum_{
u=1}^{\infty} 2^{-
u !}
\]

Числа Лиувилля образуют множество нулевой меры.
Результат Мезера имеет следующий вид: если $F^{0} \in C^{\infty}(\Omega)$ удовлетворяет ранее упомянутым гипотезам и обладает гладким слоением $\mathcal{F}^{0}$ (удовлетворяющим также (6.3)) с числом вращения $\alpha$, которое является числом Лиувилля, тогда любая $C^{\infty}$-окрестность $\mathfrak{N}=\mathfrak{N}\left(F^{0}\right)$ содержит $F \subset \mathfrak{N}$, не допускающее гладкого слоения при этом $\alpha$.

Другими словами, диофантово условие является необходимым для теоремы 6.2. Что касается условия малости $|\lambda|$, то в $\S 2$ уже упоминался пример (2.3), для которого Бенгерт доказал, что не существует минимальных гладких слоений при $|\lambda|>\lambda^{*}(A)$ с вектором вращения $\alpha,|\alpha| \leqslant A$.

Таким образом, в этом примере имеем минимальное слоение $\mathcal{F}^{\lambda}(\alpha)$ для достаточно малого $|\lambda|$, всегда предполагая выполненным (6.3), но

для некоторого критического значения $\lambda$ слоение разрушается, переходя в «ламинацию», и дыры плотно располагаются на торе. Аналитически это значит, что решение $U=U^{\lambda}(x, \theta)$, описывающее $\mathcal{F}^{\lambda}(\alpha)$, является гладким для малых значений $|\lambda|$, но становится разрывным после некоторого критического значения.
е) Более тривиальной причиной существования гладких слоений могут быть симметрии вариационной задачи. Если, например, $\frac{\partial}{\partial x_{n+1}} F(\bar{x}, p) \equiv 0$, то вариационная задача инвариантна при переноcax $x_{n+1} \rightarrow x_{n+1}+$ const, и если $u(x)$ — какая-нибудь минималь, тогда $u(x)+$ const тоже является минималью. Тогда слоение определяется функцией
\[
U(x, \theta)=\theta+u(x),
\]

которая, очевидно, непрерывна.
Аналогично, если $\frac{\partial}{\partial x_{1}} F \equiv 0$, то при минимальной $u(x), u\left(x+s e_{1}\right)$ тоже минимальна. Чтобы доказать, что $x_{n+1}=u\left(x+s e_{1}\right)$ определяет слоение, достаточно доказать следующее
Предложение 6.4. Если $u \in \mathfrak{M}_{\alpha} u$
\[
\frac{\partial F}{\partial x_{1}} \equiv 0, \quad \alpha_{1}
eq 0,
\]
mo
\[
\alpha_{1} \frac{\partial u}{\partial x_{1}}>0 .
\]

ДоказатЕльСТво. Можно предположить, что $\alpha_{1}>0$. Если
\[
\min \frac{\partial u}{\partial x_{1}}<0
\]

то можно заключить из
\[
\frac{u\left(x+s e_{1}\right)-u(x)}{s}\left\{\begin{array}{l}
\rightarrow \alpha_{1} \quad \text { для } s \rightarrow \infty, \\
\rightarrow \frac{\partial u}{\partial x_{1}} \text { для } s \rightarrow 0,
\end{array}\right.
\]

существование такого $s^{*}$, что
\[
f(s)=\min _{x}\left(u\left(x+s e_{1}\right)-u(x)\right)=0 \quad \text { для } \quad s=s^{*} .
\]

Принцип максимума (предложение 4.4) влечет, что $u\left(x+s^{*} e_{1}\right) \equiv u(x)$, что противоречит (6.7). Следовательно, $u_{x_{1}} \geqslant 0$, и снова, исходя из принципа максимума, получим, что $u_{x_{1}}>0$.
Эти утверждения можно обобщить.
Теорема 6.5. Если $\bar{\gamma} \in \mathbb{R}^{n+1} u$
\[
F(\bar{x}+s \bar{\gamma}, p) \equiv F(\bar{x}, p) \quad \text { для всех } \quad s \in \mathbb{R}
\]
$u$
\[
(\bar{\alpha}, \bar{\gamma})
eq 0, \quad \bar{\alpha}=(\alpha,-1),
\]

то любое и $\in \mathfrak{M}_{\alpha}$ порождает минимальное слоение, заданное функиией
\[
x_{n+1}=u(x+s \gamma)-s \gamma_{n+1}, \quad s \in \mathbb{R} .
\]

В этой теореме предполагается, что $\bar{\gamma}$ является рациональным вектором, т.к., в противном случае, $F$ должно быть независимо от $\bar{x}$, т. е. $F=F(p)$. В этом случае единственные минимальные слоения задаются параллельными гиперплоскостями.