Рассмотрим систему
\[
\frac{d x}{d t}=X(x)
\]

при условии $X(0)=0$.
Определение 12.1. Нулевое решение системы (12.1) называется устойчивым в целом (или устойчивым при любых начальных возмущениях), если оно устойчиво в смысле Ляпунова и если всякое другое решение $x(t)$ системы обладает свойством $\|x(t)\| \rightarrow 0$ при $t \rightarrow \infty$.

Функцию Ляпунова $v$ назовем бесконечно большой, если для любого положительного числа $A$ существует положительное число $R$ такое, что вне сферы $\sum_{i=1}^{n} \dot{x}_{i}^{2}=R$ имеет место неравенство $v>A$.

Так, например, определенно положительная квадратичная форма будет бесконечно большой, так как будем в силу (10.3) иметь $\lambda_{1} r^{2} \leqslant v \leqslant \lambda_{n} r^{2}$, где $\lambda_{1}>0$, а $r$ – радиус-вектор точки.

Функция $v=\frac{x^{2}}{1+x^{2}}+y^{2}$ определенно положительная, но не является бесконечно большой, так как при $y=0$ и $x \rightarrow \infty$ функция $v$ не стремится к бесконечности.

Поверхности уровня бесконечно большой функции являются ограниченными.

B самом деле, рассмотрим какую-либо поверхность уровня $v=c$. Для данного $c$ можно указать шар радиуса $R$, вне которого будем иметь $v>c$ и, следовательно, поверхность $v=c$ будет лежать внутри этого шара.

Теорема 12.1 (об асимптотической устоичивости в целом). Если существует определенно положительная бесконечно большая функция $v$, имеющая определенно отрцательную производную во всем пространстве, то нулевое решение системы асимптотически устойчиво при любых начальных возмущениях.

Эта теорема допускает обращение и является частным случаем следующей более общей теоремы [6].

Теорема 12.2. Пусть существует бесконечно большая определенно положительная функция $v$ такая, что $\frac{d v}{d t}<0$ вне $M u \frac{d v}{d t} \leqslant 0$ на $M$, где множество $M$ не содержит целых траекторий (кроме нулевого положения равновесия). Нулевое решение системы (12.1) будет устойчиво в целом.

Докажем теорему. Пусть $p$ – произвольная точка фазового пространства. Из точки $p$ выпустим полутраекторию $f(p, t)$ $(t>0)$. Так как $\frac{d v}{d t} \leqslant 0$ по условию теоремы, то имеем $v(f(p, t)) \leqslant v_{0}$. Так как множество $v(p) \leqslant v_{0}$ является ограниченным, то полутраектория $f(p, t)$ лежит в ограниченной области и, следовательно, имеет $\omega$-предельные точки. Из леммы 5.1 следует, что все $\omega$-предельное множество лежит на одной поверхности уровня $v=v_{\omega}$.

Рассмотрим два случая. Если $v_{\omega}=0$, то поверхность уровня $v=0$ является началом координат. Следовательно, все ( – -предельное множество траектории $f(p, t)$ совпадает с началом координат и мы имеем $\lim _{t \rightarrow \infty} x(t)=0$. Так как из неравенства $\frac{d v}{d t} \leqslant 0$ следует обычная устойивость в смысле Ляпунова (см. теорему 4.1), то и получаем асимптотическую устойчивость в целом.

Предположим теперь, что $v_{\omega}
eq 0$. На поверхности $v=v_{\omega}$ лежит $\omega$-предельное множество $\boldsymbol{\Omega}$ точки $p$, состоящее из целых траекторий. Вдоль этих траекторий, очевидно, будем иметь $\dot{v}=0$, поэтому множество $\mathbf{Q}$ лежит в $M$. Но по условию теоремы $M$ не содержит целых траекторий, следовательно, предположение, что $v_{\omega}
eq 0$, приводит к противоречию.
Теорема доказана.

Заметим теперь, что если бы множество $M$ содержало целые траектории, то из доказательства теоремы следует, что все траектории системы (12.1) притягиваются некоторым множеством, лежащим в $M$. Это множество является инвариантным, т. е. состоит из целых траекторий.
Последнее утверждение принадлежит Ж. Ла-Саллю [11]. Теорема 12.3 (об устойивостив целомнулевого решения линейной системы). Если нулевое решение линейной системы асимптотически устойчиво в смысле Ляпунова, то оно устойчиво в целом.

В самом деле, нулевое решение будет асимптотически устойчивым в смысле Ляпунова только тогда, когда все корни характеристического уравнения системы имеют отрицательные вещественные части. По теореме 9.1 для любой определенно отрицательной квадратичной формы можно указать определенно положительную форму $v$ такую, что имеет место $\dot{\boldsymbol{v}}=\boldsymbol{z}$. Так как форма $v$ является бесконечно большой, то мы находимся в условиях применения теоремы 12.1.