Переходим теперь к изложению третьей основной теоремы Ляпунова, дающей критерий неустойчивости.
Теорема III. Если существует допускающая бесконечно малый высший предел бункция $V\left(t, x_{1}, \ldots, x_{n}\right)$, производная которой по времени, составленная в силу уравнений возмущенного движения, есть функция знакоопределенная, а сама функция $V$ при значениях $x_{s}$, сколь угодно малых, и при значениях $t$, сколь угодно больших, может принимать значения того же знака, что и производная, то невозмущенное движение неустойчиво. Доказательство. Примем для определенности, что производная $\frac{d V}{d t}$ положительна. Следовательно, в области
\[
t \geqslant t_{0}>0, \quad\left|x_{s}\right| \leqslant h
\]
выполняется неравенство
\[
\frac{d V}{d t} \geqslant W\left(x_{1}, \ldots, x_{n}\right),
\]
1) См. примечание в конце книги (стр. 522).
где $W\left(x_{1}, \ldots, x_{n}\right)$ – не зависящая от $t$ определенно-положительная функция.
Пусть $\eta$ – произвольное сколь угодно малое положительное число. Рассмотрим решение $x_{s}=x_{s}(t)$ уравнений возмущенного движения, для которого начальные значения $x_{s}^{0}=x_{s}\left(t_{0}\right)$ выбраны согласно условиям
\[
\left|x_{s}^{0}\right| \leqslant \eta, \quad V\left(t_{0}, x_{1}^{0}, \ldots, x_{n}^{0}\right)>0 .
\]
Согласно условиям теоремы такой выбор величин $x_{s}^{0}$ возможен, как бы мало ни было число $\eta$. Покажем, что рассматриваемое решение обязательно выйдет в некоторый момент времени из области (47.1).
В самом деле, допустим, что это решение все время остается в области (47.1). Тогда на основании (47.2) производная от функции $V\left(t, x_{1}(t), \ldots, x_{n}(t)\right)$ будет во всяком случае положительной, и мы, следовательно, имеем:
\[
V\left(t, x_{1}(t), \ldots, x_{n}(t)\right)>V\left(t_{0}, x_{1}^{9}, \ldots, x_{n}^{0}\right) .
\]
Так как $V$ допускает бесконечно малый высший предел, то из (47.3) следует:
\[
x(t)=\max \left\{\left|x_{1}(t)\right|, \ldots,\left|x_{n}(t)\right|\right\} \geqslant \lambda,
\]
где $\lambda$-достаточно малое положительное число. Но тогда из (47.2) вытекает, что
\[
\frac{d V\left(t, x_{1}(t), \ldots, x_{n}(t)\right)}{d t} \geqslant l
\]
где отличное от нуля положительное число $l$ есть точный нижний предел функции $W\left(x_{1}(t), \ldots, x_{n}(t)\right)$ при условии (47.4).
Неравенство (47.5) дает:
\[
\begin{array}{l}
V\left(t, x_{1}(t), \ldots, x_{n}(t)\right)=V\left(t_{0}, x_{1}^{0}, \ldots, x_{n}^{0}\right)+\int_{t_{0}}^{t} \frac{d V}{d t} d t \geqslant \\
\geqslant V\left(t_{0}, x_{1}^{0}, \ldots, x_{n}^{0}\right)+l\left(t-t_{0}\right),
\end{array}
\]
что невозможно, так как функция $V$, допуская бесконечно малый высший предел, будет во всяком случае ограниченной.
Из полученного противоречия вытекает, что решение $x_{s}=x_{s}(t)$ в некоторый момент времени обязательно покинет не зависящую от начальных значений $x_{s}^{0}$ область (47.1), и так как эти начальные значения сколь угодно малы, то невозмущенное движение неустойчиво. Таким образом, теорема доказана.
Функции, удовлетворяющие теоремам I, II или II, мы будем, так же как и в случае установившихся движений, называть функциями Ляпунова.
