Теорема 3 (третья теорема Ляпунова). Пусть для приведенной системь (4.3.1) существует функция $V(t, x) \in C_{t x}^{(1,1)}\left(Z_{0}\right)$, допускающая бесконечно мальй высший предел при $\boldsymbol{x} \rightarrow \mathbf{0} \quad u$ обладающая знакоопределенной производной $\dot{V}(t, x)$ по $t$ в силу системь. Если при некоторои $t_{0}>a$ в любой окрестности $\|\boldsymbol{x}\|<\Delta(\Delta \leqslant h<H)$ найдется точка $\left(t_{0}, \boldsymbol{x}_{0}\right)$, для которой знак функции $V$ одинаков со знаком производной $\dot{V}$, m. е. такая, что
\[
V\left(t_{0}, \boldsymbol{x}_{0}\right) \dot{V}\left(t_{0}, \boldsymbol{x}_{0}\right)>0,
\]

то тривиальное решение $\xi=0$ системь (4.3.1) неустойчиво в смысле Ляпунова при $t \rightarrow \infty$.

Доказательство. Пусть для определенности $\dot{V}(t, \boldsymbol{x})$-положительно определенная функция, т. е.
\[
\dot{V}(t, \boldsymbol{x}) \geqslant W_{1}(\boldsymbol{x})>0
\]

при $t_{0} \leqslant t<\infty$ и $0<\|\boldsymbol{x}\|<h$, где $W_{1}(\boldsymbol{x})$ — непрерывная знакоположительная функция. Так как в силу условия теоремы функция $V(t, \boldsymbol{x})$ допускает бесконєчно малый высший предел при $\boldsymbol{x} \rightarrow \mathbf{0}$, то $V(t, \boldsymbol{x})$ ограничена в достаточно узком цилиндре, т. е.
\[
|V(t, x)| \leqslant M,
\]

при $t_{0} \leqslant t<\infty,\|\boldsymbol{x}\| \leqslant \Delta_{0}<h$, где $M$ и $\Delta_{0}$ — некоторые положительные числа.

Пусть $\delta>0$ ( $\left.\delta<\Delta_{0}\right)$ произвольно мало. В силу условия теоремы существует точка $\left(t_{0}, \boldsymbol{x}_{0}\right)$, где $0<\left\|\boldsymbol{x}_{0}\right\|<\delta$, такая, что
\[
V\left(t_{0}, x_{0}\right)=\gamma>0 .
\]

Положим
\[
v(t)=V(t, x(t)),
\]

где $\boldsymbol{x}(t)
ot \mathbf{0}$— решение, определяемое начальным условием: $\boldsymbol{x}\left(t_{0}\right)=\boldsymbol{x}_{0}$, причем
\[
0<\left\|\boldsymbol{x}_{0}\left(t_{0}\right)\right\|<8 .
\]

В силу неравенства (4.5.2) функция $v(t)$ монотонно возрастает вместе с $t$, и, следовательно, при $t \geqslant t_{0}$ имеем
\[
V(t, \boldsymbol{x}(t)) \geqslant V\left(t, \boldsymbol{x}\left(t_{0}\right)\right)=\alpha>0 .
\]

Покажем, что при некотором значении $t=t_{1}\left(t_{1}>t_{0}\right)$ будет выполнено неравенство
\[
\left\|\boldsymbol{x}\left(t_{1}\right)\right\|>\Delta_{0} .
\]

Действительно, пусть $\|\boldsymbol{x}(t)\| \leqslant \Delta_{0}$ при $t \geqslant t_{0}$; тогда решение $\boldsymbol{x}(t)$ бесконечно продолжаемо вправо. Так как функция $V(t, \boldsymbol{x})$ имеет бесконечно малый высший предел при $\boldsymbol{x} \rightarrow \mathbf{0}$, то из неравенства (4.5.5) на основании рассуждений, приведенных при доказательстве второй теоремы Пяпунова, следует, что
\[
0<\beta \leqslant\|\boldsymbol{x}(t)\| \leqslant \Delta_{0} \text { при } t_{0} \leqslant t<\infty,
\]

где $\beta$ — некоторое положительное число. Пусть
\[
\gamma=\inf _{\left\{\leqslant\left|x_{i}\right| \leqslant \Delta_{0}\right.} W_{1}(x)>0 ;
\]

тогда, учитывая неравенство $\|\boldsymbol{x}(t)\| \leqslant \Delta_{0}$, получаем
\[
\dot{V}(t, \boldsymbol{x}(t)) \geqslant \gamma \text { при } t_{0} \leqslant t<\infty .
\]

Следовательно, при $t_{0} \leqslant t<\infty$ имеем
\[
V(t, \boldsymbol{x}(t))=V\left(t_{0}, \boldsymbol{x}\left(t_{0}\right)\right)+\int_{t_{0}}^{t} \dot{V}(\tau, x(\tau)) d \tau \geqslant V\left(t_{0}, x_{0}\right)+\gamma\left(t-t_{0}\right),
\]

что противоречит ограниченности функции $V(t, x)$ в области $t_{0} \leqslant t<\infty,\|\boldsymbol{x}\| \leqslant \Delta_{0}$.

Так как $\delta>0$ любее и $\Delta_{0}>0$ фиксировано, то на основании неравенств (4.5.4) и (4.5.6) заключаем, что тривиальное решение $\xi=0$ неустойчиво по Ляпунову при $t \rightarrow \infty$ (см. Гл. II, $\S 1$, определение 3).
Теорема доказана.
3амечание 1. В третьей теореме функция $V(t, \boldsymbol{x})$ не обязательно является знакоопределенной.

Замечание 2. Функции $V(t, \boldsymbol{x})$, удовлетворяющие условиям первой, второй и третьей теорем Ляпунова, будем называть соответственно функциями Ляпунова 1-го, 2-го и 3-го рода.

Следствие. Если для призеденной системы дифференциальных уравнений существует функция Ляпунова 1-го или 2-го, или 3-го рода, то тривиальное решение этой системы, соответственно, устойчиво, асимптотически устойчиво, неустойчиво по Ляпунову при $t \rightarrow+\infty$.