a) Вариационная задача
В этой работе рассматривается особый класс экстремалей, так называемые минимальные решения вариационной задачи на торе. Мы рассматриваем тор ${\mathrm{T}}^{n+1}$ как фактор-пространство универсального накрывающего многообразия ${\mathbb{R}}^{n+1}$ по действию группы ${\mathbb{Z}}^{n+1}$. Обозначим точки в ${\mathbb{R}}^{n+1}$ как $\overline{x}=(x_1,x_2,\dots ,x_{n+1})$ и положим $x=(x_1,x_2,\dots ,x_n)$. Рассмотрим $n$-мерную гиперповерхность в ${\mathbb{R}}^{n+1}$, которая может быть представлена в виде графика функции $u(x)$ на ${\mathbb{R}}^n$ :
$$x_{n+1}=u(x),x\in {\mathbb{R}}^n.$$

Для функции $u(x)$ периодичность не требуется.
Такую функцию будем называть экстремалью вариационной задачи
$$\int F(x,u,u_x)dx$$

если она является решением уравнения Эйлера
$$\sum _{u=1}^n\frac{\partial }{\partial x_u}{F}_{u_{x_u}}(x,u,u_x)=F_u(x,u,u_x).$$

Здесь подынтегральное выражение $F=F(x,x_{n+1},p)$ имеет период 1 по переменным $x_1,x_2,\dots ,x_{n+1}$, поэтому дифференциальное уравнение (1.3) является инвариантным при переносах $\overline{x}\to \overline{x}+\overline{j},\overline{j}\in {\mathbb{Z}}^{n+1}$ и может рассматриваться как дифференциальное уравнение на тоpe ${\mathrm{T}}^{n+1}={\mathbb{R}}^{n+1}/{\mathbb{Z}}^{n+1}$. Кроме того, будем предполагать, что
$$F\in C^{l,\epsilon }({\mathrm{T}}^{n+1}\times {\mathbb{R}}^n),l⩾2,0<\epsilon <1,$$
т. е. $F$ дифференцируемо вплоть до порядка $l$, и его производные непрерывны по Гельдеру с показателем Гельдера $\epsilon$. Кроме того, $F$ удовлетворяет условию Лежандра
$$\delta |\xi {|}^2⩽F_{p_u{p}_{\mu }}(x,x_{n+1},p){\xi }_u{\xi }_{\mu }⩽{\delta }^{-1}|\xi {|}^2$$

с константой $\delta \in (0,1)$ для всех $(\overline{x},p)\in {\mathbb{R}}^{2n+1}$. Функция $F$ должна расти примерно, как $|p{|}^2$ при большом $|p|$; точные условия даны в третьем параграфе, (3.1). Стандартный пример:
$$F(x,x_{n+1},p)=\sum a_{u\mu }(\overline{x})p_u{p}_{\mu }+2\sum b_u(\overline{x})p_u+c(\overline{x})$$

где $a_{u\mu },b_u,c$ принадлежат $C^{l,\epsilon }\left({\mathrm{T}}^{n+1}\right)$ и $a_{u\mu }$ положительно определена.

b) Минимальные решения
Как правило, вариационная задача типа (1.2) рассматривается на компактной области. Так как мы рассматриваем некомпактные гиперповерхности (1.1), а областью определения $u$ является ${\mathbb{R}}^n$, возникает вопрос: в каком смысле следует понимать вариационный принцип? Здесь мы будем следовать работе Джиаквинта (Giacuinta) и Джиусти (Giusti) [8] при определении минимальных решений вариационной задачи. Мы потребуем, чтобы $u\in W_{\text{loc }}^{1,2}\left({\mathbb{R}}^n\right)$, пространству функций $u$, у которых первые производные принадлежат $L_{\text{loc }}^2\left({\mathbb{R}}^n\right)$.

Определение 1.1. Элемент $u\in W_{\text{loc }}^{1,2}\left({\mathbb{R}}^n\right)$ называется минимальным решением вариационной задачи (1.2), если
$$\begin{array}{l}{\int }_{{\mathbb{R}}^n}(F(x,u+\phi ,u_x+{\phi }_x)-F(x,u,u_x))dx⩾0\\ \text{ при любых }\phi \in W_{\text{comp }}^{1,2}\left({\mathbb{R}}^n\right).\end{array}$$

Другими словами, при фиксировании $u$ на границе любой области $\mathrm{\Omega }\subset {\mathbb{R}}^n$ интеграл
$$I_{\mathrm{\Omega }}(u)={\int }_{\mathrm{\Omega }}F(x,u,u_x)dx$$

принимает минимальное значение. Следовательно, каждое минимальное решение является экстремалью, но не каждая экстремаль является минимальным решением. В целом, экстремали минимальны только по отношению к достаточно малым областям и не очевидно, что существуют минимальные решения.

Так как вариационная задача инвариантна относительно группы переносов ${\mathbb{Z}}^{n+1}$, например при $\overline{x}\to \overline{x}+\overline{j}$, любое минимальное решение $x_{n+1}=u(x)$ переходит в другое минимальное решение
$$x_{n+1}=u(x+j)-j_{n+1}={\tau }_{\overline{j}}u,\overline{j}\in {\mathbb{Z}}^{n+1}.$$

Конечно, это приводит к той же поверхности на ${\mathrm{T}}^{n+1}$. Мы потребуем, чтобы эта поверхность на ${\mathrm{T}}^{n+1}$ не имела самопересечений, что равносильно следующему:

Определение 1.2. Поверхность $x_{n+1}=u(x)$ не имеет самопересечений на ${\mathrm{T}}^{n+1}$, если при любом $\overline{j}\in {\mathbb{Z}}^{n+1}$
$${\tau }_{\overline{j}}u(x)-u(x)$$

имеет фиксированный знак, т.е. при всех $x$ либо положительно, либо отрицательно, либо тождественно равно нулю.

Впоследствии будет видно, что представление о минимальных решениях без самопересечений естественно возникает в связи со слоениями, состоящими из экстремалей. Нашей первоочередной целью будет изучение множества $\mathcal{M}$ минимальных решений без самопересечений, доказательство их существования и получение для них априорных оценок.

c) Некоторые свойства минимальных решений без самопересечений
В случае интеграла Дирихле (Dirichlet), когда $F=|p{|}^2$, уравнение Эйлера становится уравнением Лапласа $\mathrm{\Delta }u=0$ и, в этом случае, легко

проверить, что любая гармоническая функция является минимальным решением. Однако единственными минимальными решениями без самопересечений являются линейные функции
$$u_0(x)=\alpha \cdot x+\beta ,\alpha \in {\mathbb{R}}^n,\beta \in \mathbb{R}.$$

То же самое верно для любой подынтегральной функции $F=F(p)$, которая не зависит от $x,u$ (см. второй параграф).

Первый из основных результатов можно рассматривать как утверждение о сравнении минимальных решений без самопересечений для общей вариационной задачи с решениями задачи, инвариантной при переносах, например $F=|p{|}^2$.

Теорема. Для любого минимального решения и без самопересечений существует такой вектор $\alpha \in {\mathbb{R}}^n$, что расстояние в пространстве ${\mathbb{R}}^{n+1}$ между поверхностями
$$x_{n+1}=u(x)u{x}_{n+1}=\alpha \cdot x+u(0)$$

меньше чем константа $c$, зависящая только от $F$, но не зависящая от выбора $u\in \mathcal{M}$ (см. второй параграф).

Таким образом, с любым $u\in \mathcal{M}$ можно связать вектор $\alpha \in {\mathbb{R}}^n$, где $(\alpha ,-1)$ является нормальным вектором к гиперплоскости $x_{n+1}=\alpha \cdot x+$ $+u(0)$. И обратно, для любого $\alpha \in {\mathbb{R}}^n$ существует $u\in \mathcal{M}$ (см. пятый и шестой параграфы). Обозначим через $\mathcal{M}(\alpha )$ множество $u\in \mathcal{M}$, соответствующих $\alpha \in {\mathbb{R}}^n$. Более того, $u$ можно выбрать таким образом, чтобы множества периодов $u(x)$ и $u_9(x)=\alpha \cdot x+\beta$ были согласованы, т. е.
$$u(x+j)-j_{n+1}=u(x)\overline{j}\in {\mathbb{Z}}^{n+1}$$

выполняется тогда и только тогда, когда
$$u_0(x+j)-j_{n+1}=u_0(x)\overline{j}\in {\mathbb{Z}}^{n+1},$$
т. е. когда $\alpha \cdot j-j_{n+1}=0$.

Связь между $u$ и $u_0$ на этом не заканчивается. Если $u$ обладает вышеназванным свойством, то отношение
$$u_0(x+j)-j_{n+1}\to u(x+j)-j_{n+1}$$

монотонно, т.е. упорядочение этих переносов не зависит от выбора подынтегрального выражения (см. шестой параграф).

d) Слоения минималей (минимальных решений)

В общем случае, гиперповерхность $x_{n+1}=u(x),u\in \mathcal{M}(\alpha )$ рассматриваемая на ${\mathrm{T}}^{n+1}$ не является компактной. Необходимым условием компактности является рациональность вектора $\alpha$, т. е. всех его компонент. С другой стороны, если $\alpha$ не рационально, то переносы любой гиперплоскости $x_{n+1}=\alpha \cdot x+{\beta }_0$ плотны в ${\mathbb{R}}^{n+1}$ и рассматривая их пределы, получаем все параллельные гиперплоскости $x_{n+1}=\alpha \cdot x+\beta$, где $\alpha$ постоянная, а $\beta$ изменяется на $\mathbb{R}$. Эти гиперплоскости образуют слоение, заданное уравнением $u_{x_u}={\alpha }_u$. Листы этого слоения являются экстремалями задачи $F=|p{|}^2$. В более общем смысле, возникает вопрос, действительно ли для произвольной вариационной задачи переносы $u(x+j)-j_{n+1},u\in \mathcal{M}(\alpha )$ порождают слоение из минималей. Слоение на ${\mathrm{T}}^{n+1}$ коразмерности 1 задается однопараметрическим семейством поверхностей
$${}^{x_{n+1}}=u(x,\beta ),\beta \in \mathbb{R}$$

с $u(x,\beta )<u(x,{\beta }^{\prime })$, если $\beta <{\beta }^{\prime }$, которое является инвариантным при переносах $\overline{x}\to \overline{x}+\overline{j}$; в частности, положим $u(x,\beta +1)=u(x,\beta )+1$. Если $u(x,\beta )$ — экстремаль для любого $\beta$, назовем его экстремальным слоением; если $u(x,\beta )$ — минималь для любого $\beta$, назовем его минимальным слоением. Очевидно, что листы $x_{n+1}=u(x,\beta )$ не имеют самопересечений, и это одна из причин, для изучения решений без самопересечений. Также стандартным результатом теории вариационного исчисления является то, что любое экстремальное слоение является минимальным. Это можно доказать с помощью инвариантного интеграла Гильберта, заметив, что $x_{n+1}=u(x,\beta )$ является полем экстремалей.

Для $u\in \mathcal{M}(\alpha )$, удовлетворяющей (1.6), рассмотрим предельное множество $\mathcal{L}\subset {\mathrm{T}}^{n+1}$ переносов $(x,u(x+j)-j_{n+1})$ относительно фундаментальной группы ${\mathbb{Z}}^{n+1}$ в подходнщей топологии; $\mathcal{L}$ иногда называется оболочкой $u$. Существуют два случая:
А) Если $x_{n+1}=u(x)$ плотная на торе, т.е. если $\mathcal{L}={\mathrm{T}}^{n+1}$, то переносы ${\tau }_{\overline{j}}u$ порождают минимальное слоение $u_{x_u}={\psi }_u(x,u){\psi }_u$ непрерывное по Липшицу на ${\mathrm{T}}^{n+1}$. Кроме того, с помощью гомеоморфизма
$$(x,\theta )\to (x,x_{n+1}=U(x,\theta ))$$

с $U(x,\theta )-\theta \in C\left({\mathrm{T}}^{n+1}\right)$ это слоение может быть отображено в тривиальное слоение $\theta =\alpha \cdot x+\beta$. Другими словами, листы этого слоения задаются выражением
$${}_{x_{n+1}}=U(x,\alpha \cdot x+\beta ),\beta \in \mathbb{R}.$$

В) Если $\alpha$ не рациональное, но $x_{n+1}=u(x)$ не плотная на ${\mathrm{T}}^{n+1}$, тогда предельное множество является множеством Кантора, инвариантным относительно ${\mathbb{Z}}^{n+1}$, которое расслаивается минимальными решениями
$$x_{n+1}=u(x,\beta )=U(x,\alpha \cdot x+\beta ),$$

где, однако, функция $U(x,\theta )$, строго возрастающая по $\theta$, не является непрерывной. Встречаются оба случая, но В следует рассматривать как «общую» ситуацию.

е) Квазипериодические решения

Непрерывная функция $g(x),x\in {\mathbb{R}}^n$, которую можно записать в виде
$$g(x)=G(x,\theta )\text{ с }\theta =\alpha \cdot x=\sum _{u=1}^n{\alpha }_u{x}_u,$$

где $G\in C\left({\mathrm{T}}^{n+1}\right)$ называется квазипериодической с частотами ${\alpha }_1$, ${\alpha }_2,\dots ,{\alpha }_n$. Таким образом, с учетом (1.7) в случае А) функции $\exp (2\pi iu)$ являются квазипериодическими; в этом случае для удобства саму $u$ будем называть квазипериодической. Полученные результаты можно рассматривать как построение обобщенных квазипериодических решений уравнений Эйлера. В то время как в случае А) решения (1.7) действительно квазипериодические; в случае В) они такими не являются, т. к. $U(x,\theta )$ оказывается разрывной. В частности, такие решения можно найти для любого $\alpha \in {\mathbb{R}}^n$ для нелинейного дифференциального уравнения
$$\mathrm{\Delta }u=V_u(x,u);V\in C^{l,\epsilon }\left({\mathrm{T}}^{n+1}\right)$$

с периодической правой частью, например
$$\mathrm{\Delta }u=\lambda \sin (2\pi u)\prod _{u=1}^n\sin \left(2\pi x_u\right).$$

f) Альтернативный вариационный принцип

Можно попытаться построить функцию $U(x,\theta )$ для данного $\alpha$ прямым построением, отбрасывая предыдущие шаги. В седьмом параграфе

приводится набросок такого подхода, который основан на регуляризованных вариационных принципах
$$\{\begin{array}{l}{\iint }_{{\mathrm{T}}^{n+1}}\frac{\epsilon }{2}{\left(\frac{\partial U}{\partial \theta }\right)}^2+F(x,U,DU)dxd\theta ,\\ D_u=\frac{\partial }{\partial x_u}+{\alpha }_u\frac{\partial }{\partial \theta }.\end{array}$$

Минимизируя этот функционал по всем $U=U(x,\theta ),U-\theta \in$ $\in W^{1,2}\left({\mathrm{T}}^{n+1}\right)$, при $\epsilon >0$ получим гладкую функцию $U^{(\epsilon )}(x,\theta )$, монотонную по $\theta$. Искомую функцию можно получить, вычислив предел подпоследовательности $U^{\left({\epsilon }_s\right)},{\epsilon }_s\to 0$. Однако этот раздел является фрагментарным, и мы ограничимся доказательством строгой монотонности $U^{(\epsilon )}$ при $\epsilon >0$.

g) Связь с теорией Обри и Мезера

Эти результаты, а также их доказательства получены благодаря работам Обри (Aubry) [2] и Мезера (Mather) [16], и настоящая статья может считаться обобщением их идей. В их работах изучались закручивающие отображения $\phi$ плоского кругового кольца или цилиндра, сохраняющие площадь. Одним из важнейших их достижений является построение замкнутого инвариантного множества для заданного числа вращения $\alpha$, так называемого множества Мезера, которое является либо замкнутой липшицевой кривой, либо инвариантным канторовым множеством, лежащим на такой кривой. Оба автора разработали различные методы построения этих множеств. Конструкция Обри основана на вариационной задаче для одномерных последовательностей $u_i,i\in \mathbb{Z}$ и на его так называемых энергетических орбитах. Определение этих минимальных энергетических орбит и их построение обобщаются нашим понятием минимальных решений. Мы опустили термин «энергия», т.к. вариационное выражение может представлять «действие» в механике либо какую-нибудь другую физическую величину. Тем не менее, существует фундаментальное различие. В теории Обри любая минимальная энергетическая орбита является монотонной, что соответствует отсутствию самопересечений в нашем случае. Это происходит по причине того, что теория Обри относится к одномерным дискретным

орбитам, соответствующим $n=1$ в нашем случае, тогда как при $n>1$ необходимо потребовать отсутствие самопересечений. Ранее $[20]$ уже было показано, что вариационную задачу, лежащую в основе теории Обри [2] для дискретных орбит, можно заменить вариационной задачей (1.2) для $n=1$, где свойство монотонного закручивания переходит в условие Лежандра.

Также происходит преобразование других понятий: инвариантная кривая $\phi$ соответствует минимальному слоению для (1.2). Множество Мезера, не являющееся инвариантной кривой, соответствует минимальному слоению на канторовом множестве $\mathcal{L}$. Число вращения $\alpha$ соответствует вектору вращения $\alpha \in {\mathbb{R}}^n$.

Конструкция инвариантных множеств Мезера основана на вариационной задаче, изучавшейся ранее Персивалем (Percival) для численных приложений. Она переходит в вырожденную вариационную задачу, представленную в регуляризованном виде выражением (1.9).

Таким образом, эта работа может рассматриваться в качестве обобщения $[2],[16]$ на размерности более высокого порядка. Важно, что одномерные орбиты заменяются на поверхности коразмерности 1 . Это имеет решающее значение не только для упорядочения орбит, но и для принципа максимума длн скалнрных эллиптических уравнений в частных производных. Мы не будем рассматривать примеры, показывающие, что оба случая А и В возможны (примеры такого рода для $n=1$ см. в [21]).

h) Методы исследования из вариационного исчисления

Для вариационных задач (1.2) была разработана обширная теория. Известно, что все минимали, лежащие в шаре $B$, принадлежат $C^{l,\epsilon }(B)$ и удовлетворяют уравнениям Эйлера. Это следствие теории регулярности для таких задач. В наиболее подходящем для нас виде эта сложная теория представлена в книге Ладыженской и Уральцевой [15]. Она основана на фундаментальной работе Де Джорджи (De Giorgi) [4], который разработал первый подход к получению поточечных оценок слабых решений эллиптических дифференциальных уравнений в частных производных. Эти оценки используются для доказательства непрерывности по Гельдеру решений. Этот метод получил развитие в работах

многих математиков, таких как Морри (Morrey) [17], Гильбарг-Трудингер (Gilbarg-Trudinger) [12], Джиаквинта, Джиусти, Ди Бенедетто-Трудингер (Di Benedetto-Trudinger), которые доказали неравенство Харнака (Harnack) в очень общем елучае. Не будем вновь доказывать качественные утверждения о регулярности минималей, а воспользуемся поточечными оценками, в частности неравенством Харнака, для получения количественной информации. Чтобы получить ограничения на минимали (см. утверждение теоремы 2.1), можно воспользоваться прекрасными работами Джиаквинта и Джиусти [7], [9]. Они установили, что квазиминимумы (обобщение концепции минималей) принадлежат к так называемому классу Де Джорджи, для которого Ди Бенедетто и Трудингер [5] доказали свое неравенство Харнака, используя более ранние идеи Крылова и Сафонова. Благодаря этим глубоким результатам, получающиеся доказательства довольно просты и естественны. Можно сказать, что эта работа является комбинацией изучения действия фундаментальной группы на множестве минималей с поточечными оценками и сильного принципа максимума для эллиптических дифференциальных уравнений в частных производных.

i) Нерешенные задачи
Было бы желательно разработать подобную теорию для минимальных поверхностей на ${\mathrm{T}}^{n+1}$ относительно римановой метрики. Соответствующее подынтегральное выражение $F$ в (1.2), однако, возрастает лишь как $|p|$, и теория разрушается. В таком случае нужно рассматривать минимальные поверхности, не являющиеся графиками функций. Для подобной теории потребуется истинное обобщение. Это было бы интересно, поскольку такие исследования могут привести к теории минимальных поверхностей коразмерности 1 на других многомерных многообразиях, и также с некоммутативной фундаментальной группой. Фактически, для $n=1$ такая теория была разработана Дж. Хедлундом [13] (G. Hedlund), который изучал минимальные геодезические (геодезические класса A) на торе. Результаты были обобщены Г.Бизманом (H. Buseman) на финслеровы метрики и $G$-пространства. Современное изложение этих идей можно найти у Бангерта [3] (Bangert), где есть ссылки на другие публикации. Также его теория имеет общие аспекты с теорией Обри, но его орбиты не обязаны быть графиками функций. В этом отношении его работа является более общей, чем работа Обри.

Для компактных поверхностей более высокого рода такая теория уже была разработана М. Морсом [18] (M. Morse) в 1924 году.

Отметим, что нами получены то.ько первые фундаментальные части такой теории минимальных решений на торе. Не было доказано, к примеру, то, что канторово множество $\mathcal{L}$ не зависит от порождающего минимального решения $u\in \mathcal{M}(\alpha )$. Для $n=1$ это верно, однако доказательство этого факта не переносится прямо для больших значений $n$. Недавно В. Бангерт ${}^1$ с успехом доказал такое утверждение для $n⩾2$; точнее, он показал, что минимальное множество ${\mathcal{L}}_0$ переносов $u(x+j)-j_{n+1},\overline{j}\in {\mathbb{Z}}^{n+1}$ рекуррентной минимали $u\in \mathcal{M}(\alpha )$ не зависит от выбора $u$. Таким образом, множество ${\mathcal{L}}_0={\mathcal{L}}_0(\alpha )$, являющееся канторовым множеством на торе или всем тором ${\mathrm{T}}^{n+1}$, связано с вариационной задачей и вектором вращения $\alpha$, а не с каким-либо определенным решением $u$.

Существует другое возможное обобщение теории Обри и Мезера, в котором изучаются инвариантные множества Мезера для гамильтоновых систем с числом степеней свободы больше двух. В данном направлении существует только теория возмущений, так называемая KAM-теория, а общей теории нет ${}^2$. Наша работа этого вопроса не касается, ‘т. к. нас интересует многомерное обобщение, г де решения являются гиперповерхностями коразмерности 1 , а не одномерными кривыми. Между прочим, в нашей ситуации также можно построить теорию возмущений, обобщающую возмущение инвариантных торов. Она будет сформулирована в восьмом параграфе.