При формулировке третьей теоремы Ляпунова о неустойчивости (§5) предполагается, что производная $\dot{V}(t, \boldsymbol{x})$ в силу системы знакоположительна в некоторой полной окрестности начала координат $O$. Однако для доказательства неустойчивости тривиального решения системы достаточно обнаружить существование хотя бы одной траектории, исходящей из каждой, сколь угодно малой, окрестности точки $O$ и выходящей за пределы фиксированной окрестности. А для этого нет необходимости рассматривать полную окрестность начала координат и, следовательно, условия третьей теоремы Ляпунова можно значительно ослабить. Соответствующее обобщение было произведено Н. Г. Четаевым (см. [15]).

Теорема Четаева. Пусть для приведенной системы (4.3.1) в области $Z=\left\{t_{0} \leqslant t<+\infty,\|\boldsymbol{x}\| \leqslant h<H\right\}$ существует непрерывно дифференцируемая функция $V(t, \boldsymbol{x})$, область положительности которой $\Pi=\{V(t, \boldsymbol{x})>0,(t, \boldsymbol{x}) \in \bar{Z}\}$ имеет ненулевое открытое сечение $D_{t}$, примыкающее к началу координат $O$, для каждого $t \in\left[t_{0}, \infty\right)$, причем на части границы области $\Pi$, лежацей внутри цилиндра $Z$, включая ось Ot, выполнено равенство
\[
\left.V(t, x)=0^{1}\right) .
\]

Тогда, если: 1) функция $V(t, \boldsymbol{x})$ ограничена в области II, 2) имеет в этой области положительную производную $\dot{V}(t, x)$ в силу системь (4.3.1), 3) в каждой подобласти $\{V(t, \boldsymbol{x}) \geqslant \alpha>0\}$ справедливо неравенство $\dot{V}(t, \boldsymbol{x}) \geqslant \beta>0$, где $\beta=\beta(x)$ — некоторое положительное число, зависящее от положительного числа $\alpha$, то тривиальное решение системы (4.3.1) неустойчиво в смысле Ляпунова при $t \rightarrow \infty$.

Доказательство. Пусть $\delta>0$ произвольно мало. Так как точка $O$ является граничной для открытого сечения $D_{t_{0}}=D$, то в гиперплоскости $t=t_{0}$ существует внутренняя точка $\boldsymbol{x}_{0} \in D$ такая, что $0<\left\|\boldsymbol{x}_{0}\right\|<\delta<h$, причем $V\left(t_{0}, \boldsymbol{x}_{0}\right)=x>0$ (рис. 33).
1) В случас положительно определснной функции $V(t, x)$ эта часть рраницы для каждого $t \in\left[t_{0}, \infty\right)$ сводится к единственной точке $O$.

Докажем, что решение $\boldsymbol{x}(t)$, определяемое начальным условием: $\boldsymbol{x}\left(t_{0}\right)=\boldsymbol{x}_{0}$, при возрастающем $t$ выйдет за пределы шара $\|\boldsymbol{x}\|<h$. Действительно, пусть $\|\boldsymbol{x}(t)\|<h$ при $t \geqslant t_{0}$. В силу условия 2) теоремы
\[
\dot{V}(t, \boldsymbol{x}(t))>0 \text { при } V(t, \boldsymbol{x}(t))>0 ;
\]

отсюда при $t \geqslant t_{0}$ получаем
\[
V(t, \boldsymbol{x}(t)) \geqslant V\left(t_{0}, \boldsymbol{x}\left(t_{0}\right)\right)=\alpha,
\]

если только $V(t, \boldsymbol{x}(t))>0$. Так как решение $\boldsymbol{x}(t)$ может покинуть область $\Pi=\{V(t, x)>0\}$, лишь проходя при некотором $t_{1}>t_{0}$ внутренню часть границы, где $V\left(t_{1}, \boldsymbol{x}\left(t_{1}\right)\right)=0$, причем
\[
V(t, \boldsymbol{x}(t)) \geqslant \alpha>0 \text { при } t_{0} \leqslant t<t_{1},
\]

то, переходя в этом неравенстве к пределу при $t \rightarrow t_{1}-0$, будем иметь
\[
V\left(t_{1}, \boldsymbol{x}\left(t_{1}\right)\right) \geqslant \alpha>0,
\]

что невозможно. Следовательно, решение $\boldsymbol{x}(t)$ при $t \geqslant t_{0}$ целиком лежит в подобласти $\{V(t, \boldsymbol{x}) \geqslant \alpha>0\}$ области П. Отсюда, на основании условия 3) теоремы, получим
\[
\dot{V}(t, x(t)) \geqslant \beta>0 .
\]

Рис. 33.

Интегрируя почленно неравенство (4.6.2), при $t \geqslant t_{0}$ будем иметь
\[
V(t, \dot{x}(t)) \geqslant V\left(t_{(}, x\left(t_{0}\right)\right)+\beta\left(t-t_{0}\right) .
\]

Последнее неравенство невозможно, так как в силу условия 1) теоремы функция $V(t, \boldsymbol{x})$ ограничена в области II.

Итак, в любой $\delta$-окрестности точки $O$ при $t=t_{0}$ найдется некоторое решение $\boldsymbol{x}(t)$, покидающее при $t \rightarrow+\infty$ внутренность шара $\|\boldsymbol{x}\|<h$. Таким образом, тривиальное решение $\boldsymbol{\xi}=\mathbf{0}$ неустойчиво по Ляпунову (гл. II, §1).
Теорема доказана.
Замечание. Легко проверить, что для случая Ляпунова (§5) при $V(t, \boldsymbol{x})>0$ ввиду наличия бесконечно малого высшего предела функции $V(t, \boldsymbol{x})$ множество $\mathrm{I}=\{t, \boldsymbol{x}: V(t, \boldsymbol{x})>0\}$ обладает всеми указанными выше свойствами.