Согласно принципу наименьшего действия в форме Якоби движения натуральной механической системы внутри области $D$ являются геодезическими линиями метрики $d{p}^2=(h+$ $+\mathcal{V})d{s}^2$.

Когда $h>\underset{M}{max}(-\mathcal{V})$, то $D$ совпадает с $M$ и $(D,dp)$ риманово многообразие. В противном случае граница $\partial D$ области $D$ не пуста, и метрика Якоби $dp$ имеет на $\partial D$ особенность (длина кривых, лежащих на границе, равна нулю).

Пусть $q=(q_1,\dots ,q_n)$ — некоторые локальные координаты на $M$.

Лемма 1. Если $q_1(t)$ и $q_2(t)$ — два решения уравнений движения с начальными данными $q_1(0)=q_2(0)=q_0,{\dot{q}}_1(0)=$ $=-{\dot{q}}_2(0)=v_0$, mo $q_1(\pm t)=q_2(\mp t)$.

Следствие 1. Если $q(t)$ — решение уравнений движения с начальными данными $q(0)=q_0,\dot{q}(0)=0$, то $q(t)=q(-t)$.

ДоКАЗаТЕЛЬСТВо ЛЕММЫ 1.
Если $q(t)$ — решение уравнений Лагранжа с лагранжианом $\mathcal{L}=\mathcal{T}+\mathcal{V}$ и с начальными условиями (при $t=0$ ) $q(0)=$ $=q_0,\dot{q}(0)=v_0$, то $q(-t)$ есть решение тех же уравнений с начальными условиями $q(0)=q_0,\dot{q}(0)=-v_0$. Для завершения доказательства остается использовать теорему единственности решений уравнений Јагранжа с положительно определенной квадратичной формой $\mathcal{T}$.

Таким образом, если в некоторый момент времени точка $m(t),m\in D$, достигла границы $\partial D$, то скорость точки обращается в нуль и в последующие моменты $m$ движется в обратную сторону по той же траектории с той же по величине скоростью. Поэтому в случае, когда $\partial D$ не пуста, естественно отождествить геодезические метрики Якоби (определенные внутри области $D$ ) с траекториями движения натуральных механических систем.

Всюду ниже область $D$ считается компактной и связной, а также предполагается, что на границе нет критических точек потенциала $\mathcal{V}$. Другими словами, исключаются из рассмотрения те значения $h$, при которых уравнения движения имеют положения равновесия. Множество исключительных значений полной энергии имеет нулевую меру.

Геометрия геодезических в области $D$, имеющей края, не похожа на привычную геометрию римановых пространств. Например, если риманово пространство компактно, то любые две его точки можно соединить хотя бы одной геодезической $[45$, гл. II].

Для компактных областей возможных движений с краем это уже не так. Вот простой пример:
$$\begin{array}{c}M={\mathbf{R}}^2\{x,y\},2\mathcal{T}={\dot{x}}^2+{\dot{y}}^2,2^{\mathcal{V}}={\alpha }^2{x}^2+{\beta }^2{y}^2,\\ \alpha /\beta \in \mathbf{R}\mathrm{\setminus }\mathbf{Q}.\end{array}$$

Пусть точки $a,b\in D$. Обозначим через ${\mathrm{\Omega }}_{ab}$ множество всех кусочно-гладких путей $\gamma :[0,1]\to D$ с началом $a$ и концом $b$. Определим функции $d:D\times D\to \mathbf{R}$ по формуле
$$d(a,b)=inf\{L(\gamma ):\gamma \in {\mathrm{\Omega }}_{ab}\},$$

где $L(\gamma )$ — длина пути $\gamma$ в метрике $dp$. Неотрицательная функция $d$ задает отклонение на множестве $D[46$, гл. IX], так как
1) $d(a,a)=0$ для всех $a\in D$,
2) $d(a,b)=d(b,a)$ для всех $a,b\in D$,
3) $d(a,b)+d(b,c)⩾d(a,c)$ для всех $a,b,c\in D$.
Отметим, что отклонение $d$ не является расстоянием на $D$, так как $d(a,b)=0$ для любых точек $a,b$ из одной связной компоненты границы $\partial D$. Однако если $aotin\partial D$, то из равенства $d(a,b)=0$ следует $a=b$. Значит, $d$ есть расстояние внутри области $D$.
Положим
$$\partial (m)=\underset{a\in \partial D}{inf}d(m,a).$$

Это число назовем расстоянием между точкой $m\in D$ и границей $\partial D$. Если $\partial (m)=0$, то $m\in \partial D$. Заметим, что когда $\partial D$ связна, то $d(m,a)=\partial (m)$ для всех $a\in \partial D$.
Справедливы следующие утверждения:
1. Функции $d(a,b)$ и $\partial (c)$ непрерывны соответственно на $D\times D$ и $D$.
2. Если граница $\partial D$ связна, то для всех $a,b\in D$
$$d(a,b)⩽\partial (a)+\partial (b).$$
3. Если $d(a,b)<\partial (a)+\partial (b)$, то точки $a$ и $b$ можно соединить геодезической длины $d(a,b)$, целиком лежащей внутри $D$. Доказательство этих утверждений просто и здесь не приводится.

Теорема 1. Любую точку $a\in D$ можно соединить $c$ некоторой точкой границы $\partial D$ геодезическо длины $\partial (a)$.

Обозначим через $m(t,a)$ движение натуральной системы, начинающееся с нулевой скоростью в точке $a\in \partial D$ (т.е. $m(0,a)=a$ ). Так как уравнения движения обратимы (лемма 1), то справедливо

Следствие 2.
$$\bigcup _{t\in \mathbf{R}}\bigcup _{a\in \partial D}m(t,a)=D$$

Для доказательства теоремы нам потребуется
Лемма 2. Существует ${\epsilon }_0>0$ такое, что при всех $0<\epsilon ⩽{\epsilon }_0$ точка $m(t)$ не может находиться в области $V_{{\epsilon }_0}=$ $=\{h+\mathcal{V}⩽\epsilon \}$ бесконечно долго.

Следствие 3. Точка $m(t)$ не может асимптотически стремиться к $ә$ при $t\to \mathrm{\infty }$.

Замечание. По терминологии Адамара $[2$, § 183$]$ область $V_{\epsilon }$ при малых $\epsilon$ является областью отталкивания.

ДоКазатЕЛЬСтво ЛЕМмЫ 2.
Выберем ${\epsilon }_1$ столь малым, что в $V_{{\epsilon }_1}$ потенциал $\mathcal{V}$ не имеет критических точек. Так как $V_{{\epsilon }_1}$ компактно, то существует конечное покрытие множества $V_{{\epsilon }_1}$ малыми областями $W_s\subset M$ $(s=1,\dots ,N)$, в которых можно ввести глобально декартовы координаты.

Оценим сначала $\dot{\mathcal{V}}$ на $V_{{\epsilon }_1}$. Для фиксированного $s$ обозначим через $q_1,\dots ,q_n$ локальные координаты на $W_s$. По неравенству Коши-Буняковского
$$|\dot{\mathcal{V}}|=\left|\sum _{i=1}^n\frac{\partial U}{\partial q_i}\right|⩽|\mathrm{grad}\mathcal{V}|\sqrt{v},$$

где $v$ — величина скорости точки $m$. Так как $\mathcal{T}$ — положительно определенная квадратичная форма, то в области $W_s$ справедливы неравенства $c_{1,s}{v}^2⩽\mathcal{T}⩽c_{2,c}{v}^2(c_{1,c},c_{2,c}>0)$. Из выражения для интеграла энергии $\mathcal{T}=h+\mathcal{V}$ следует, что в $V_{{\epsilon }_1}$ кинетическая энергия $\mathcal{T}⩽{\epsilon }_1$. Следовательно, в области $V_{{\epsilon }_1}\cap W_s$ выполняется неравенство $|\dot{\mathcal{V}}|⩽c_{3,c}$.

Положим $C_3=\underset{8}{max}{c}_{3,s}$. Тогда на всем множестве $V_{{\epsilon }_1}$ справедливо неравенство $|\mathcal{V}|⩽C_3$. Пусть при некотором $\epsilon >0,\epsilon <{\epsilon }_1$ пересечение $V_{\epsilon }\cap W_s$ не пусто. Оценим в этой области
$$\ddot{\mathcal{V}}=\sum _{i=1}^n\frac{{\partial }^{\mathcal{V}}}{\partial q_i}{\ddot{q}}_1-\sum _{i,j=1}^n\frac{{\partial }^2\mathcal{V}}{\partial q_i\partial q_j}{\dot{q}}_1{\dot{q}}_j.$$

Воспользуемся преобразованием Лежандра и каноническими уравнениями
$$p_i=\frac{\partial \mathcal{T}}{\partial {\dot{q}}_i},{\dot{q}}_i=\frac{\partial \mathcal{T}}{\partial p_i},{\dot{p}}_i=-\frac{\partial \mathcal{T}}{\partial q_1}+\frac{\partial \mathcal{V}}{\partial q_i}.$$

Тогда
$$\begin{array}{rl}\ddot{\mathcal{V}}& =\sum _{i,j=1}^n\frac{\partial \mathcal{V}}{\partial q_i}\frac{{\partial }^2\mathcal{T}}{\partial p_i\partial p_j}(-\frac{\partial \mathcal{T}}{\partial q_j}+\frac{{\partial }^{\mathcal{V}}}{\partial q_j})+\\ & +\sum _{i,j=1}^n\frac{{\partial }^2\mathcal{V}}{\partial q_i\partial q_j}{\dot{q}}_i{\dot{q}}_j=\sum _{i,j=1}^n\frac{{\partial }^{\mathcal{V}}}{\partial q_i}\frac{{\partial }^2\mathcal{T}}{\partial p_i\partial p_j}\frac{{\partial }^{\mathcal{V}}}{\partial q_j}+{\mathrm{\Phi }}_2,\end{array}$$

где ${\mathrm{\Phi }}_2$ — квадратичная форма по ${\dot{q}}_i$ с ограниченными на $V_{{\epsilon }_1}\cap W_s$ коэффициентами. Значит, в области $V_{\epsilon }\cap W_s$ имеет место неравенство
$$|\mathrm{\Phi }|⩽c_{4,s}\epsilon (c_{4,s}>0).$$

Выражение
$$\frac{1}{2}\sum _{i,j=1}^n\frac{\partial \mathcal{V}}{\partial q_i}\frac{{\partial }^2\mathcal{T}}{\partial p_i\partial p_j}\frac{{\partial }^{\mathcal{V}}}{\partial q_j}$$

есть скалярный квадрат вектора $\mathrm{grad}\mathcal{V}$ в метрике $\mathcal{T}$.
Так каю форма $\mathcal{T}$ положительно определена и функция $\mathcal{V}$ не имеет в области $V_{{\epsilon }_1}$ критических точек, то существует $c_{5,s}>0$ такое, что на $V_{{\epsilon }_1}\cap W_s$ сумма (1.1) не меньше $c_{5,s}/2$. Следовательно, в области $V_{\epsilon }\cap W_s$ справедливо неравенство $\ddot{\mathcal{V}}⩾c_{5,s}-c_{4,s}\epsilon$. Положим,
$$C_4=\underset{s}{max}{S}_{4,s},C_5=\underset{s}{min}{C}_{5,s}(C_4,C_8>0).$$

Тогда во всей области $V_{\epsilon }$ имеет место оценка $\ddot{\mathcal{V}}⩾C_5-C_4\epsilon$. Так как $C_3,C_4$ и $C_5$ не зависят от $\epsilon$, то существует $\epsilon >0$, $\epsilon ⩽{\epsilon }_1$, такое, что на $V_{{\epsilon }_0}$ одновременно
$$|\dot{\mathcal{V}}|⩽C_3,|\ddot{\mathcal{V}}|⩾C_6(C_3,C_6>0).$$

Пусть при $t=0$ точка $m$ находится в области $V_{{\epsilon }_0}$. Тогда $h+\mathcal{V}⩾C_6{t}^2/2-C_{3}t$. Следовательно, время, через которое $m$ покинет множество $\{h+\mathfrak{V}⩽{\epsilon }_0\}$, не превосходит положительного корня следующего уравнения:
$$C_6{x}^2/2-C_{3}x={\epsilon }_0.$$

ДоКАЗаТЕЛЬСТВо ТЕОРЕМЫ 1.
Если $a\in \partial D$, то заключение теоремы очевидно. Пусть $a\in \mathrm{Int}D$. Обозначим через $S$ сферу малого радиуса $\delta$ с центром в точке $a$. Так как $S$ компактна, а функция $\partial (x),x\in S$ непрерывна, то на $S$ существует точка $b$ такая, что
$$\partial (b)=\underset{x\in S}{min}\partial (x).$$

Обозначим через $\gamma$ единственную геодезическую, проходящую через точки $a$ и $b$. Пусть $s$ — натуральный параметр на $\gamma (s)$, причем $\gamma (0)=a$. Очевидно, что $\gamma (\delta )=b$. Покажем, что для всех $\delta ⩽s<\partial (a)$ справедливо тождество
$$\partial (\gamma (s))=\partial (a)-s$$
(ср. с доказательством теоремы Хопфа-Ринова, [45, гл. II, $\mathrm{\S }0]$ ). Так как каждый путь из $a$ в некоторую точку на $\partial D$ пересекает $S$, то
$$\partial (a)\underset{x\in s}{min}(d(a,x)+\partial (x))=\delta +\partial (b).$$

Следовательно, равенство (1.2) справедливо для $s=\delta$.
Пусть $S_0\in (\delta ,\partial (a))$ — верхняя грань значений $s$, для которых верно тождество (1.2). По непрерывности равенство (1.2) справедливо и для $s=s_0$. Пусть $S^{\prime }$ — сфера малого радиуса ${\delta }^{\prime }$ вокруг точки $\gamma \left(s_0\right)\in \mathrm{Int}D$ и $a^{\prime }-$ точка на $S^{\prime }$, наименее удаленная от $\partial D$ (рис. 15). Тогда
$$\partial \left(\gamma \left(s_0\right)\right)=\underset{x\in S^{\prime }}{min}(d(\gamma \left(s_0\right),x)+\partial (x))={\delta }^{\prime }+\partial \left(a^{\prime }\right).$$

Следовательно,
$$\partial \left(a^{\prime }\right)=\partial (a)-(s_0+{\delta }^{\prime }).$$

Утверждается, что $a^{\prime }$ есть $\gamma (s_0+{\delta }^{\prime })$. Действительно, с учетом неравенства треугольника,
$$d(a,a^{\prime })⩾\partial (a)-\partial \left(a^{\prime }\right)=s_0+{\delta }^{\prime }.$$

Но путь длины $s_0+{\delta }^{\prime }$ получится, если идти по $\gamma$ от $a$ до $\gamma \left(s_0\right)$, а затем по кратчайшей геодезической из $\gamma \left(s_0\right)$ в $a^{\prime }$. Так как этот путь лежит внутри области $D$ и имеет наименьшую возможную длину, то он является геодезической, а поэтому совпадает с $\gamma$. Итак,
$$\gamma (s_0+{\delta }^{\prime })=a^{\prime },\partial \left(\gamma (s_0+{\delta }^{\prime })\right)=\partial (a)-(s_0+{\delta }^{\prime }).$$

Противоречие с определением $s_0$ завершает доказательство тождества (1.2).
Рис. 15
Рассмотрим теперь движение $m(t)$ со следующими начальными данными: $m(0)=a$, скорость $m$ направлена вдоль $\gamma$, а величина определяется по зафиксированному выше значению постоянной $h$ интеграла энергии. Покажем, что когда параметр $s$ стремится к $\partial (a)$, то время $t$ стремится к некоторому конечному пределу $t^{\prime }$. Предположим противное, т.е. $t^{\prime }\to \mathrm{\infty }$. При этом предположении точка $m(t)$ неограниченно приближается к $\partial D$, оставаясь внутри области $D$ (сходимость здесь и ниже рассматривается относительно метрики $ds$ ).

Обозначим через $U_{\epsilon }\epsilon$-окрестность в метрике $\partial s$ множества $\partial D$. Если $m$ не стремится к $\partial D$, то существует $\epsilon >0$ такое, что при произвольно больших $t$ точка $m$ находится вне $U_{{\epsilon }_0}$. С другой стороны, при $0<t<\mathrm{\infty }$ точка $m$ побывает в точках $m_k\in D$, сколь угодно близких к $\partial D$. Начиная с некоторого номера $k$, эти точки будут лежать в $U_{{\epsilon }_0/2}$. Расстояние в метрике $ds$ между точками множеств $S\mathrm{\setminus }{U}_{{\epsilon }_0}$ и $D\cap U_{{\epsilon }_0/2}$ ограничены снизу некоторым положительным числом. Так как $m(t)$ бесконечно много раз пересечет «полосу» $U_{{\epsilon }_0}\mathrm{\setminus }{U}_{{\epsilon }_0/2}$, то длина $\gamma (s),0⩽s<\partial (a)$, бесконечна. Однако это не так.

Следовательно, при $t\to \mathrm{\infty }$ точка $m(t)$ асимптотически стремится к $\partial D$. Однако согласно лемме 2 такого быть не может. Полученное противоречие показывает, что $t^{\prime }<\mathrm{\infty }$.

Так как функция $m(t)$ непрерывна по $t$ и
$$\underset{t\to t^{\prime }}{lim}\partial (m(t))=0,$$

то $m\left(t^{\prime }\right)\in \partial D$. Переходя в равенстве (1.2) к пределу при $t\to t^{\prime }$, заключаем, что длина кривой $m(t),0⩽t⩽t^{\prime }$ равна $\partial (a)$.