Согласно принципу наименьшего действия в форме Якоби движения натуральной механической системы внутри области $D$ являются геодезическими линиями метрики $d p^{2}=(h+$ $+\mathscr{V}) d s^{2}$.

Когда $h>\max _{M}(-\mathscr{V})$, то $D$ совпадает с $M$ и $(D, d p)$ риманово многообразие. В противном случае граница $\partial D$ области $D$ не пуста, и метрика Якоби $d p$ имеет на $\partial D$ особенность (длина кривых, лежащих на границе, равна нулю).

Пусть $q=\left(q_{1}, \ldots, q_{n}\right)$ – некоторые локальные координаты на $M$.

Лемма 1. Если $q_{1}(t)$ и $q_{2}(t)$ – два решения уравнений движения с начальными данными $q_{1}(0)=q_{2}(0)=q_{0}, \dot{q}_{1}(0)=$ $=-\dot{q}_{2}(0)=v_{0}$, mo $q_{1}( \pm t)=q_{2}(\mp t)$.

Следствие 1. Если $q(t)$ – решение уравнений движения с начальными данными $q(0)=q_{0}, \dot{q}(0)=0$, то $q(t)=q(-t)$.

ДоКАЗаТЕЛЬСТВо ЛЕММЫ 1.
Если $q(t)$ – решение уравнений Лагранжа с лагранжианом $\mathscr{L}=\mathscr{T}+\mathscr{V}$ и с начальными условиями (при $t=0$ ) $q(0)=$ $=q_{0}, \dot{q}(0)=v_{0}$, то $q(-t)$ есть решение тех же уравнений с начальными условиями $q(0)=q_{0}, \dot{q}(0)=-v_{0}$. Для завершения доказательства остается использовать теорему единственности решений уравнений Јагранжа с положительно определенной квадратичной формой $\mathscr{T}$.

Таким образом, если в некоторый момент времени точка $m(t), m \in D$, достигла границы $\partial D$, то скорость точки обращается в нуль и в последующие моменты $m$ движется в обратную сторону по той же траектории с той же по величине скоростью. Поэтому в случае, когда $\partial D$ не пуста, естественно отождествить геодезические метрики Якоби (определенные внутри области $D$ ) с траекториями движения натуральных механических систем.

Всюду ниже область $D$ считается компактной и связной, а также предполагается, что на границе нет критических точек потенциала $\mathscr{V}$. Другими словами, исключаются из рассмотрения те значения $h$, при которых уравнения движения имеют положения равновесия. Множество исключительных значений полной энергии имеет нулевую меру.

Геометрия геодезических в области $D$, имеющей края, не похожа на привычную геометрию римановых пространств. Например, если риманово пространство компактно, то любые две его точки можно соединить хотя бы одной геодезической $[45$, гл. II].

Для компактных областей возможных движений с краем это уже не так. Вот простой пример:
\[
\begin{array}{c}
M=\mathbf{R}^{2}\{x, y\}, \quad 2 \mathscr{T}=\dot{x}^{2}+\dot{y}^{2}, \quad 2^{\mathscr{V}}=\alpha^{2} x^{2}+\beta^{2} y^{2}, \\
\alpha / \beta \in \mathbf{R} \backslash \mathbf{Q} .
\end{array}
\]

Пусть точки $a, b \in D$. Обозначим через $\Omega_{a b}$ множество всех кусочно-гладких путей $\gamma:[0,1] \rightarrow D$ с началом $a$ и концом $b$. Определим функции $d: D \times D \rightarrow \mathbf{R}$ по формуле
\[
d(a, b)=\inf \left\{L(\gamma): \gamma \in \Omega_{a b}\right\},
\]

где $L(\gamma)$ – длина пути $\gamma$ в метрике $d p$. Неотрицательная функция $d$ задает отклонение на множестве $D[46$, гл. IX], так как
1) $d(a, a)=0$ для всех $a \in D$,
2) $d(a, b)=d(b, a)$ для всех $a, b \in D$,
3) $d(a, b)+d(b, c) \geqslant d(a, c)$ для всех $a, b, c \in D$.
Отметим, что отклонение $d$ не является расстоянием на $D$, так как $d(a, b)=0$ для любых точек $a, b$ из одной связной компоненты границы $\partial D$. Однако если $a
otin \partial D$, то из равенства $d(a, b)=0$ следует $a=b$. Значит, $d$ есть расстояние внутри области $D$.
Положим
\[
\partial(m)=\inf _{a \in \partial D} d(m, a) .
\]

Это число назовем расстоянием между точкой $m \in D$ и границей $\partial D$. Если $\partial(m)=0$, то $m \in \partial D$. Заметим, что когда $\partial D$ связна, то $d(m, a)=\partial(m)$ для всех $a \in \partial D$.
Справедливы следующие утверждения:
1. Функции $d(a, b)$ и $\partial(c)$ непрерывны соответственно на $D \times D$ и $D$.
2. Если граница $\partial D$ связна, то для всех $a, b \in D$
\[
d(a, b) \leqslant \partial(a)+\partial(b) .
\]
3. Если $d(a, b)<\partial(a)+\partial(b)$, то точки $a$ и $b$ можно соединить геодезической длины $d(a, b)$, целиком лежащей внутри $D$. Доказательство этих утверждений просто и здесь не приводится.

Теорема 1. Любую точку $a \in D$ можно соединить $c$ некоторой точкой границы $\partial D$ геодезическо длины $\partial(a)$.

Обозначим через $m(t, a)$ движение натуральной системы, начинающееся с нулевой скоростью в точке $a \in \partial D$ (т.е. $m(0, a)=a$ ). Так как уравнения движения обратимы (лемма 1), то справедливо

Следствие 2.
\[
\bigcup_{t \in \mathbf{R}} \bigcup_{a \in \partial D} m(t, a)=D
\]

Для доказательства теоремы нам потребуется
Лемма 2. Существует $\varepsilon_{0}>0$ такое, что при всех $0<\varepsilon \leqslant \varepsilon_{0}$ точка $m(t)$ не может находиться в области $V_{\varepsilon_{0}}=$ $=\{h+\mathscr{V} \leqslant \varepsilon\}$ бесконечно долго.

Следствие 3. Точка $m(t)$ не может асимптотически стремиться к $ә$ при $t \rightarrow \infty$.

Замечание. По терминологии Адамара $[2$, § 183$]$ область $V_{\varepsilon}$ при малых $\varepsilon$ является областью отталкивания.

ДоКазатЕЛЬСтво ЛЕМмЫ 2.
Выберем $\varepsilon_{1}$ столь малым, что в $V_{\varepsilon_{1}}$ потенциал $\mathscr{V}$ не имеет критических точек. Так как $V_{\varepsilon_{1}}$ компактно, то существует конечное покрытие множества $V_{\varepsilon_{1}}$ малыми областями $W_{s} \subset M$ $(s=1, \ldots, N)$, в которых можно ввести глобально декартовы координаты.

Оценим сначала $\dot{\mathscr{V}}$ на $V_{\varepsilon_{1}}$. Для фиксированного $s$ обозначим через $q_{1}, \ldots, q_{n}$ локальные координаты на $W_{s}$. По неравенству Коши-Буняковского
\[
|\dot{\mathscr{V}}|=\left|\sum_{i=1}^{n} \frac{\partial U}{\partial q_{i}}\right| \leqslant|\operatorname{grad} \mathscr{V}| \sqrt{v},
\]

где $v$ – величина скорости точки $m$. Так как $\mathscr{T}$ – положительно определенная квадратичная форма, то в области $W_{s}$ справедливы неравенства $c_{1, s} v^{2} \leqslant \mathscr{T} \leqslant c_{2, c} v^{2}\left(c_{1, c}, c_{2, c}>0\right)$. Из выражения для интеграла энергии $\mathscr{T}=h+\mathscr{V}$ следует, что в $V_{\varepsilon_{1}}$ кинетическая энергия $\mathscr{T} \leqslant \varepsilon_{1}$. Следовательно, в области $V_{\varepsilon_{1}} \cap W_{s}$ выполняется неравенство $|\dot{\mathscr{V}}| \leqslant c_{3, c}$.

Положим $C_{3}=\max _{8} c_{3, s}$. Тогда на всем множестве $V_{\varepsilon_{1}}$ справедливо неравенство $|\mathscr{V}| \leqslant C_{3}$. Пусть при некотором $\varepsilon>0, \varepsilon<\varepsilon_{1}$ пересечение $V_{\varepsilon} \cap W_{s}$ не пусто. Оценим в этой области
\[
\ddot{\mathscr{V}}=\sum_{i=1}^{n} \frac{\partial^{\mathscr{V}}}{\partial q_{i}} \ddot{q}_{1}-\sum_{i, j=1}^{n} \frac{\partial^{2} \mathscr{V}}{\partial q_{i} \partial q_{j}} \dot{q}_{1} \dot{q}_{j} .
\]

Воспользуемся преобразованием Лежандра и каноническими уравнениями
\[
p_{i}=\frac{\partial \mathscr{T}}{\partial \dot{q}_{i}}, \quad \dot{q}_{i}=\frac{\partial \mathscr{T}}{\partial p_{i}}, \quad \dot{p}_{i}=-\frac{\partial \mathscr{T}}{\partial q_{1}}+\frac{\partial \mathscr{V}}{\partial q_{i}} .
\]

Тогда
\[
\begin{aligned}
\ddot{\mathscr{V}} & =\sum_{i, j=1}^{n} \frac{\partial \mathscr{V}}{\partial q_{i}} \frac{\partial^{2} \mathscr{T}}{\partial p_{i} \partial p_{j}}\left(-\frac{\partial \mathscr{T}}{\partial q_{j}}+\frac{\partial^{\mathscr{V}}}{\partial q_{j}}\right)+ \\
& +\sum_{i, j=1}^{n} \frac{\partial^{2} \mathscr{V}}{\partial q_{i} \partial q_{j}} \dot{q}_{i} \dot{q}_{j}=\sum_{i, j=1}^{n} \frac{\partial^{\mathscr{V}}}{\partial q_{i}} \frac{\partial^{2} \mathscr{T}}{\partial p_{i} \partial p_{j}} \frac{\partial^{\mathscr{V}}}{\partial q_{j}}+\Phi_{2},
\end{aligned}
\]

где $\Phi_{2}$ – квадратичная форма по $\dot{q}_{i}$ с ограниченными на $V_{\varepsilon_{1}} \cap W_{s}$ коэффициентами. Значит, в области $V_{\varepsilon} \cap W_{s}$ имеет место неравенство
\[
|\Phi| \leqslant c_{4, s} \varepsilon \quad\left(c_{4, s}>0\right) .
\]

Выражение
\[
\frac{1}{2} \sum_{i, j=1}^{n} \frac{\partial \mathcal{V}}{\partial q_{i}} \frac{\partial^{2} \mathscr{T}}{\partial p_{i} \partial p_{j}} \frac{\partial^{\mathcal{V}}}{\partial q_{j}}
\]

есть скалярный квадрат вектора $\operatorname{grad} \mathscr{V}$ в метрике $\mathscr{T}$.
Так каю форма $\mathscr{T}$ положительно определена и функция $\mathscr{V}$ не имеет в области $V_{\varepsilon_{1}}$ критических точек, то существует $c_{5, s}>0$ такое, что на $V_{\varepsilon_{1}} \cap W_{s}$ сумма (1.1) не меньше $c_{5, s} / 2$. Следовательно, в области $V_{\varepsilon} \cap W_{s}$ справедливо неравенство $\ddot{\mathscr{V}} \geqslant c_{5, s}-c_{4, s} \varepsilon$. Положим,
\[
C_{4}=\max _{s} S_{4, s}, \quad C_{5}=\min _{s} C_{5, s} \quad\left(C_{4}, C_{8}>0\right) .
\]

Тогда во всей области $V_{\varepsilon}$ имеет место оценка $\ddot{\mathscr{V}} \geqslant C_{5}-C_{4} \varepsilon$. Так как $C_{3}, C_{4}$ и $C_{5}$ не зависят от $\varepsilon$, то существует $\varepsilon>0$, $\varepsilon \leqslant \varepsilon_{1}$, такое, что на $V_{\varepsilon_{0}}$ одновременно
\[
|\dot{\mathscr{V}}| \leqslant C_{3}, \quad|\ddot{\mathscr{V}}| \geqslant C_{6} \quad\left(C_{3}, C_{6}>0\right) .
\]

Пусть при $t=0$ точка $m$ находится в области $V_{\varepsilon_{0}}$. Тогда $h+\mathscr{V} \geqslant C_{6} t^{2} / 2-C_{3} t$. Следовательно, время, через которое $m$ покинет множество $\left\{h+\mathfrak{V} \leqslant \varepsilon_{0}\right\}$, не превосходит положительного корня следующего уравнения:
\[
C_{6} x^{2} / 2-C_{3} x=\varepsilon_{0} .
\]

ДоКАЗаТЕЛЬСТВо ТЕОРЕМЫ 1.
Если $a \in \partial D$, то заключение теоремы очевидно. Пусть $a \in \operatorname{Int} D$. Обозначим через $S$ сферу малого радиуса $\delta$ с центром в точке $a$. Так как $S$ компактна, а функция $\partial(x), x \in S$ непрерывна, то на $S$ существует точка $b$ такая, что
\[
\partial(b)=\min _{x \in S} \partial(x) .
\]

Обозначим через $\gamma$ единственную геодезическую, проходящую через точки $a$ и $b$. Пусть $s$ – натуральный параметр на $\gamma(s)$, причем $\gamma(0)=a$. Очевидно, что $\gamma(\delta)=b$. Покажем, что для всех $\delta \leqslant s<\partial(a)$ справедливо тождество
\[
\partial(\gamma(s))=\partial(a)-s
\]
(ср. с доказательством теоремы Хопфа-Ринова, [45, гл. II, $\S 0]$ ). Так как каждый путь из $a$ в некоторую точку на $\partial D$ пересекает $S$, то
\[
\partial(a) \min _{x \in s}(d(a, x)+\partial(x))=\delta+\partial(b) .
\]

Следовательно, равенство (1.2) справедливо для $s=\delta$.
Пусть $S_{0} \in(\delta, \partial(a))$ – верхняя грань значений $s$, для которых верно тождество (1.2). По непрерывности равенство (1.2) справедливо и для $s=s_{0}$. Пусть $S^{\prime}$ – сфера малого радиуса $\delta^{\prime}$ вокруг точки $\gamma\left(s_{0}\right) \in \operatorname{Int} D$ и $a^{\prime}-$ точка на $S^{\prime}$, наименее удаленная от $\partial D$ (рис. 15). Тогда
\[
\partial\left(\gamma\left(s_{0}\right)\right)=\min _{x \in S^{\prime}}\left(d\left(\gamma\left(s_{0}\right), x\right)+\partial(x)\right)=\delta^{\prime}+\partial\left(a^{\prime}\right) .
\]

Следовательно,
\[
\partial\left(a^{\prime}\right)=\partial(a)-\left(s_{0}+\delta^{\prime}\right) .
\]

Утверждается, что $a^{\prime}$ есть $\gamma\left(s_{0}+\delta^{\prime}\right)$. Действительно, с учетом неравенства треугольника,
\[
d\left(a, a^{\prime}\right) \geqslant \partial(a)-\partial\left(a^{\prime}\right)=s_{0}+\delta^{\prime} .
\]

Но путь длины $s_{0}+\delta^{\prime}$ получится, если идти по $\gamma$ от $a$ до $\gamma\left(s_{0}\right)$, а затем по кратчайшей геодезической из $\gamma\left(s_{0}\right)$ в $a^{\prime}$. Так как этот путь лежит внутри области $D$ и имеет наименьшую возможную длину, то он является геодезической, а поэтому совпадает с $\gamma$. Итак,
\[
\gamma\left(s_{0}+\delta^{\prime}\right)=a^{\prime}, \quad \partial\left(\gamma\left(s_{0}+\delta^{\prime}\right)\right)=\partial(a)-\left(s_{0}+\delta^{\prime}\right) .
\]

Противоречие с определением $s_{0}$ завершает доказательство тождества (1.2).
Рис. 15
Рассмотрим теперь движение $m(t)$ со следующими начальными данными: $m(0)=a$, скорость $m$ направлена вдоль $\gamma$, а величина определяется по зафиксированному выше значению постоянной $h$ интеграла энергии. Покажем, что когда параметр $s$ стремится к $\partial(a)$, то время $t$ стремится к некоторому конечному пределу $t^{\prime}$. Предположим противное, т.е. $t^{\prime} \rightarrow \infty$. При этом предположении точка $m(t)$ неограниченно приближается к $\partial D$, оставаясь внутри области $D$ (сходимость здесь и ниже рассматривается относительно метрики $d s$ ).

Обозначим через $U_{\varepsilon} \varepsilon$-окрестность в метрике $\partial s$ множества $\partial D$. Если $m$ не стремится к $\partial D$, то существует $\varepsilon>0$ такое, что при произвольно больших $t$ точка $m$ находится вне $U_{\varepsilon_{0}}$. С другой стороны, при $0<t<\infty$ точка $m$ побывает в точках $m_{k} \in D$, сколь угодно близких к $\partial D$. Начиная с некоторого номера $k$, эти точки будут лежать в $U_{\varepsilon_{0} / 2}$. Расстояние в метрике $d s$ между точками множеств $S \backslash U_{\varepsilon_{0}}$ и $D \cap U_{\varepsilon_{0} / 2}$ ограничены снизу некоторым положительным числом. Так как $m(t)$ бесконечно много раз пересечет «полосу» $U_{\varepsilon_{0}} \backslash U_{\varepsilon_{0} / 2}$, то длина $\gamma(s), 0 \leqslant s<\partial(a)$, бесконечна. Однако это не так.

Следовательно, при $t \rightarrow \infty$ точка $m(t)$ асимптотически стремится к $\partial D$. Однако согласно лемме 2 такого быть не может. Полученное противоречие показывает, что $t^{\prime}<\infty$.

Так как функция $m(t)$ непрерывна по $t$ и
\[
\lim _{t \rightarrow t^{\prime}} \partial(m(t))=0,
\]

то $m\left(t^{\prime}\right) \in \partial D$. Переходя в равенстве (1.2) к пределу при $t \rightarrow t^{\prime}$, заключаем, что длина кривой $m(t), 0 \leqslant t \leqslant t^{\prime}$ равна $\partial(a)$.