Рассмотрим нормальную систему обыкновенных дифференциальных уравнений
\[
\frac{d y_{j}}{d t}=f_{j}\left(t, y_{1}, \ldots, y_{n}\right) \quad(j=1, \ldots, n),
\]

где $t$ – независимое переменное (время); $y_{1}, \ldots, y_{n}$-искомые функции; $f_{j}$ – функции (в обцем случае комплекснозначные), определенные в некотором полуцилиндре:
\[
\left.Z=I_{t}^{+} \times D_{y}, \quad I_{t}^{+}=\{\underline{t}<t<+\infty\}^{1}\right),
\]
ласть действительного $\mathscr{R}_{y}^{n}$ или комплексного $\mathfrak{\Re}_{y}^{n} n$-мерного векторного пространства. В дальнейшем для краткости систему (2.1.1) будем называть дифференциальной.
Переходя к матрично-векторным обозначениям
\[
\begin{aligned}
y & =\left[\begin{array}{c}
y_{1} \\
\vdots \\
y_{n}
\end{array}\right] \equiv \operatorname{colon}\left(y_{1}, \ldots, y_{n}\right), \\
\boldsymbol{f}(t, y) & =\operatorname{colon}\left(f_{1}(t, y), \ldots, f_{n}(t, y)\right]
\end{aligned}
\]

и учитывая, что
\[
\frac{d y}{d t}=\operatorname{colon}\left(\dot{y}_{1}, \ldots, \dot{y}_{n}\right),
\]

систему (2.1.1) можно записать в виде матрично-векторного уравнения
\[
\frac{d y}{d t}=f(t, y) \text {. }
\]

Действительную или комплекснозначную вектор-функцию $y=$ $=y(t) \subset C^{1}$, определенную в некотором интервале $(a, b) \subset I$ :
у) В тех случаях, когда это не вызывает неясностей, мы вместо симвода – -с будем писать символ $\infty$.

и удовлетворяющую при $a<t<b$ уравнению (2.1.2), будем называть его решением.
В дальнейшем будем обычно предполагать, что
\[
f(t, y) \in C_{t}^{(0,1)}(Z),
\]
т. е. вектор-функция $f(t, y)$ в области $Z$ непрерывна по независимой переменной $t$ и имеет непрерывные частные производные первого порядка по зависимым переменным $y_{1}, \ldots, y_{n}$. Если система (2.1.1) рассматривается в действительном пространстве $\mathscr{R}_{y}^{n}$, то производные правой части ее трактуются в обычном смысле. В том случае, когда $y$ может принимать комплексные значения, функцию $f(t, y)$ будем предпотагать аналитической относительно совокупности комплексных переменных $y_{1}, \ldots, y_{n}$ (в простейшем варианте – многочленом от этих переменных). При этом под производными $f_{j y_{k}}^{\prime}\left(t, y_{1}, \ldots, y_{n}\right)(j, k=1, \ldots, n)$ понимаются производные с точки зрения теории аналитических функций (см., например, Гурса, Курс математического анализа, Гостехиздат, 1933, т. II, ч. 1, гл. XVII).

При этих условнях справедлива теорема Коши (см. [9], [10], [11]): для каждой системы значений $\left(t_{0}, y_{0}\right) \in Z$ существует единственное решение системы (2.1.2):
\[
\begin{array}{r}
y=y(t) \quad\left(t_{0} \cdots A<t<t_{t}+B ;\right. \\
A>0, B>0),
\end{array}
\]

определенное в некотором интервале $\left(t_{0}-A, t_{0}-B\right) \subset(t, \infty)$ и удовлетворяющее начальному условию: $\boldsymbol{y}\left(t_{0}\right)=\boldsymbol{y}_{0}$, т. е. однозначно разрешима соответствующая задача Коши. Иначе говоря, в области $Z \subset I_{t}^{+} \times \Re_{y}^{n}$ существует единственная интегральная кривая $y=y(t)$ системы $(2.1 .2)$, проходящая через точку

Рис. 2. $M_{0}\left(t_{0}, y_{i}\right)$.

Заметим, что если для любого $i \in\left[t_{0}, t_{0}-B\right)$ точка $y(t) \in K \subset D_{y}$, причем расстояние $d$ ограниченного замкнутого множества (компакта) $K$ до границы области $D$, положительно (рис. 2), то можно принять $B=\infty$, т. е. решение $y(t)$ имеет смысл при $t_{0} \leqslant t<\infty$ (бесконечно продолжаемо вправо). Аналогично при $t=-\infty$ формулируются условия бесконечной продолжаемости влево ( $A=-\infty$ ).

В дальнейшем мы ограничимся рассмотрением дифференциальных систем вида (2.1.2), обладающих свойством единственности, т. е. таких, для которых задача Коши при начальных данных $\left(t_{0}, y_{0}\right) \in Z$ имеет единственное решение. Иными словами, если
\[
\boldsymbol{y}(t) \quad(a<t<b)
\]

есть решение системы (2.1.2), то оно тождественно при $a<t<b$ с решением этой системы $\tilde{\boldsymbol{y}}(t)$, определяемым начальными условиями: $\tilde{y}\left(t_{0}\right)=y\left(t_{0}\right)$, где $t_{0}$-любая точка интервала $(a, b)$.

Решение $\boldsymbol{y}=\boldsymbol{y}(t)$ можно рассматривать как траекторию фазового пространства $\Re_{y}^{n}$, где $t$ играет роль параметра.

Для дифференциальных систем с непрерывной правой частыо и свойством единственности имеет место интегральная непрерывность решений (см. [9] – [12]), а именно: если $y(t)(a<t<b)$ есть
Рис. 3.

решение системы (2.1.2), то для любых $\varepsilon>0$ и $[\alpha, \beta] \subset(a, b)$ существует $\delta>0$ такое, что решение $\boldsymbol{z}(t)$, определяемое начальным условием $\boldsymbol{z}(\gamma)=\boldsymbol{z}_{0}$, где $\gamma \in[\alpha, \beta]$ и $\|\boldsymbol{z}(\gamma)-\boldsymbol{y}(\gamma)\|<\delta$, будет иметь смысл при $\alpha \leqslant t \leqslant \beta$, причем $\|\boldsymbol{z}(t)-\boldsymbol{y}(t)\|<\varepsilon$ для $t \in[\alpha, \beta]$ (см. рис. 3).

Определение 1. Решение $\boldsymbol{\eta}=\boldsymbol{\eta}(t)(a<t<\infty)$ системы (2.1.2) называется устойчивым по Ляпунову (см. [13]) при $t \rightarrow+\infty$ (или, короче, устойчивым), если для любых $\varepsilon>0$ и $t_{0} \in(a, \infty)$ существует $\delta=\delta\left(\varepsilon, t_{0}\right)>0$ такое, что
1) все решения $y=y(t)$ системы (2.1.2) (включая решение $\eta(t)$ ), удовлетворяющие условию
\[
\left\|\boldsymbol{y}\left(t_{0}\right)-\boldsymbol{\eta}\left(t_{0}\right)\right\|<\delta,
\]

определены в промежутке $t_{0}<t<\infty$, т. е.
\[
v(t) \in D_{y} \quad \text { при } \quad t \in\left[t_{0}, \infty\right) ;
\]

2) для этих решений справедливо неравенство
\[
\|\boldsymbol{y}(t)-\boldsymbol{\eta}(t)\|<\varepsilon \text { при } t_{0} \leqslant t<\infty .
\]

Иными словами, решение $\eta(t)$ устойчиво, если достаточно близкие к нему в любой начальный момент $t_{0}$ решения $y(t)$ целиком погружаются в сколь угодно узкую є-трубку, построенную вокрур решения $\boldsymbol{\eta}(t)$ (рис. 4 ).
Рис. 4.
Из неравенств (2.1.3) и (2.1.4) по смыслу вытекает, что всегда можно выбирать $\delta \leqslant \varepsilon$.

В частности, при $f(t, 0) \equiv 0$ тривиальное решение (положение равновесия) $\boldsymbol{\eta}(t) \equiv \mathbf{0}(a<t<\infty)$ устойчиво, если для любых $\varepsilon>0$ и $t_{0} \in(a, \infty)$ существует $\delta=\delta\left(\varepsilon, t_{0}\right)>0$ такое, что из неравенства
\[
\left\|y\left(t_{0}\right)\right\|<\delta
\]

следует неравенство
\[
\|\boldsymbol{y}(t)\|<\varepsilon \text { при } t_{0} \leqslant t<\infty .
\]

Заметим, что из устойчивости нетривиального решения $\eta(t)$ не вытекает его ограниченность; обратно, из ограниченности решения, вообще говоря, не следует его устойчивость (см. §7).

Определение 2. Если число $\delta>0$ можно выбрать не зависящим от начального момента $t_{0} \in T$, т. е. $\delta=\delta(\varepsilon)$, то устойчивость называется равномерной в области $T$.

Определение 3. Решение $\boldsymbol{\eta}=\boldsymbol{\eta}(t)(a<t<\infty)$ будем называть неустойчивым по Ляпунву, если для некоторых $\varepsilon>0$, $t_{0} \in(a, \infty)$ и любого $\delta>0$ существует решение $y_{\delta}(t)$ (хотя бы одно) и момент $t_{1}=t_{1}(\hat{\delta})>t_{0}$ такие, что
\[
\left\|\boldsymbol{y}_{\delta}\left(t_{\theta}\right)-\boldsymbol{\eta}\left(t_{0}\right)\right\|<\delta \quad \text { и } \quad\left\|\boldsymbol{y}_{\delta}\left(t_{1}\right)-\boldsymbol{\eta}\left(t_{1}\right)\right\| \geqslant \varepsilon .
\]

Из отрицания определения 1 вытекает, что следует считать также неустойчивым решение $\boldsymbol{\eta}(t)$, непродолжаемое при $t \rightarrow \infty$ или такое, для которого в любой окрестности точки $\eta\left(t_{0}\right)$
найдется точка $\boldsymbol{y}_{0}$, порождающая в момент времени $t_{0}$ решение $\boldsymbol{y}(t)$, непродолжаемое при $t_{0} \leqslant t<\infty$.

Аналогично, тривиальное решение (положение равновесия) $\eta \equiv 0$ неустойчиво (рис. 5), если для некоторых $\varepsilon>0, t_{0} \in(a, \infty)$ и любого $\delta>0$ существуют решение $\boldsymbol{y}_{i}(t)$ и момент $t_{1}>t_{0}$ такие, что
\[
\left\|\boldsymbol{y}_{\delta}\left(t_{0}\right)\right\|<\delta,\left\|\boldsymbol{y}_{\delta}\left(t_{1}\right)\right\| \geqslant \varepsilon .
\]

Определение 4. Решение $\boldsymbol{\eta}=\boldsymbol{\eta}(t)(a<t<\infty)$ называется асимптотически ус. тойчивым при $t \rightarrow+\infty$, если: 1) это решение устойчиво по Ляпунову и 2) для любого $t_{0} \in(a, \infty)$ существует $\Delta=$ $=\Delta\left(t_{0}\right)>0$ такое, что все решения $y=y(t)\left(t_{0} \leqslant t<\infty\right)$, удовлетворяющие условию $\left\|\boldsymbol{y}\left(t_{0}\right)-\eta\left(t_{0}\right)\right\|<\Delta$, обладают свойством
\[
\lim _{t \rightarrow \infty}\|\boldsymbol{y}(t)-\boldsymbol{\eta}(t)\|=0 .
\]

Таким образом, асимптотическая устойчивость есть «устойчивость с нагрузкой», т. е. устойчивость при наличии дополнительных условий. В частности, тривиальное решение $\boldsymbol{\eta}(t) \equiv 0$ асимптотически устойчиво, если оно устойчиво и
\[
\lim _{t \rightarrow \infty} y(t)=0 \quad \text { при } \quad\left\|y\left(t_{0}\right)\right\|<\Delta .
\]

IШар $\|\boldsymbol{y}\|<\Delta\left(t_{0}\right)$ при фиксированном $t_{0}$ является областью притяжения положения равновесия $O$.

Определение 5. Пусть система (2.1.2) определена в полупространстве $Q=\{\underline{t}<t<\infty\} \times\{\|\boldsymbol{x}\|<\infty\}$.

Если решение $\eta=\eta(t)(a<t<\infty)$ асимптотически устойчиво при $t \rightarrow \infty$ и все решения $y=y(t)\left(t_{0} \leqslant t<\infty, \quad t_{0}>a\right)$ обладают свойством (2.1.5), т. е. $\Delta=\infty$, то решение $\eta(t)$ называется acuмnтотически устойчивым в целом.

Иными словами, в случае асимптотической устойчивости в целом решения $\eta(t)$ его областью притяжения в любой начальный момент $t=t_{0}$ является все пространство $\mathfrak{R}_{y}^{n}(\Delta=\infty)$.
Пусть наряду с системой (2.1.2) имеется возмущенная система
\[
\frac{d z}{d t}=f(t, z)+\varphi(t, z),
\]

где
\[
\boldsymbol{z}=\operatorname{colon}\left(z_{1}, \ldots, z_{n}\right) \text { и } \quad \boldsymbol{\varphi}(t, z) \in C_{i z}^{\mathrm{in}}(Z) \text {. }
\]

Определение 6. Решение $\boldsymbol{\eta}=\boldsymbol{\eta}(t)(a<t<\infty)$ системы (2.1.2) называется устойчивым при постоянно дейтвующих возмущениях $\varphi\left(t, \boldsymbol{z}\right.$ ) (см. [14]), если для любых $\varepsilon>0$ и $t_{0} \in(a, \infty)$ существует $\delta=\delta\left(\hat{\varepsilon}, t_{0}\right)>0$ такое, что при $\|\boldsymbol{\varphi}(t, z)\|<\delta$ все решения $\boldsymbol{z}=\boldsymbol{z}(t)$ системы (2.1.6), удовлетворяющие условию $\left\|\boldsymbol{z}\left(t_{0}\right)\right\|<\delta$, определены на промежутке $\left[t_{0}, \infty\right)$, причем
\[
\|\boldsymbol{z}(t)-\boldsymbol{\eta}(t)\|<\varepsilon \quad \text { при } \quad t_{0} \leqslant t<\infty .
\]

Замечание. Если решение $\boldsymbol{\eta}=\boldsymbol{\eta}(t)(a<t<\infty)$ системы (2.1.1) с непрерывной правой частью устойчиво для какого-нибудь фиксированного момента $t_{0} \in(a, \infty)$, то оно будет устойчиво для любого другого момента $t_{0}^{\prime} \in(a, \infty)$, т. е. является устойчивым в смысле определения 1.
Действительно, пусть при
\[
\left\|\boldsymbol{y}\left(t_{0}\right)-\boldsymbol{\eta}\left(t_{0}\right)\right\|<\delta\left(\varepsilon, t_{0}\right)<\varepsilon
\]

имеем
\[
\|\boldsymbol{y}(t)-\boldsymbol{\eta}(t)\|<\varepsilon \quad \text { для } \quad t_{0} \leqslant t<\infty .
\]

В силу свойства интегральной непрерывности существует $8^{\prime}=$ $=\delta\left(\varepsilon, t_{0}^{\prime}\right)>0$ такое, что если
\[
\left\|\boldsymbol{y}\left(t_{0}^{\prime}\right)-\boldsymbol{\eta}\left(t_{0}^{\prime}\right)\right\|<\delta^{\prime},
\]

то
\[
\|\boldsymbol{y}(t)-\boldsymbol{\eta}(t)\|<\delta\left(\varepsilon, t_{0}\right)=\delta \quad \text { при } t \in\left[t_{0}^{\prime}, t_{0}\right] .
\]

Поэтому на основании формул (2.1.7) и (2.1.8) из неравенства (2.1.9) вытекает неравенство
\[
\|\boldsymbol{y}(t)-\boldsymbol{\eta}(t)\|<\varepsilon \quad \text { при } \quad t_{0}^{\prime} \leqslant t<\infty .
\]

Таким образом, можно ограничиваться проверкой устойчивости решения, а также его асимптогической устойчивости, лиць для некоторого заданного начального момента $t_{0}$.

Отсюда также получаем, что если решение $\boldsymbol{\eta}(t)(a<t<\infty)$ неустойчиво при $t=t_{0}$, то оно является неустойчивым для любого другого момента $t_{0}^{\prime} \in(a, \infty)$.

В дальнейшем для теорем устойчивости мы, как правило, начальный момент $t_{0}$ будем считать фиксированным (см. [14], [15], [16]).