Рассмотрим действительную автономную систему
\[
\frac{d y}{d t}=f(y),
\]

где $\boldsymbol{f}(\boldsymbol{y}) \in C^{1} \quad(\|\boldsymbol{y}\|<H)$.
Определение 1. Если $\boldsymbol{y}=\boldsymbol{y}(t) \quad(a<t<b)$ есть решение системы (4.19.1), то совокупность точек $L=\{\boldsymbol{y}(t): t \in(a, b)\}$ фазового пространства $\mathscr{R}_{y}^{n}$ называется траекторией решения.

Траектория $L$ представляет собой проекцию интегральной кривой $\boldsymbol{y}=\boldsymbol{y}(t)$ пространства $I_{t} \times \mathscr{R}_{y}^{n}$ в пространство $\mathscr{R}_{\boldsymbol{y}}^{\boldsymbol{n}}$, где время $t$ играет роль параметра.

Так как система (4.19.1) автономна, то наряду с решением $\boldsymbol{y}=\boldsymbol{y}(t)$ она допускает семейство решений $\boldsymbol{y}_{c}=\boldsymbol{y}(t+c)$ $(-\infty<c<+\infty)$, которые, очевидно, обладают одной и той же траекторией.

Под $p(z, L)$, как обычно, будем понимать расстояние точки $z \in \mathscr{R}_{y}^{n}$ до множества $L \subset \mathscr{R}_{y}^{n}$, т. е.
\[
\rho(\boldsymbol{z}, L)=\inf _{\boldsymbol{y} \in L}\|\boldsymbol{z}-\boldsymbol{y}\| .
\]

В дальнейшем для решения $y=y_{d}(t)$ ( $t_{0} \leqslant t<\infty$ ) иногда придется рассматривать множество точек $L^{+}=\left\{y(t): t_{0} \leqslant t<\infty\right\}$, которые будем называть положительной полутраекторией. Аналогично определяется отрицательная полутраектория $L^{-}=$ $=\left\{y(t): t_{0} \geqslant t>-\infty\right\}$.

Определение 2. Решение $\boldsymbol{\eta}=\boldsymbol{\eta}(t) \quad\left(t_{0} \leqslant t<\infty\right)$ системы (4.19.1) называется (см. [52]) орбитально устойчивым при $t \rightarrow \infty$, если положительные траектории $L^{+}$всех решений $y=y(t)$ $\left(t_{0} \leqslant t<\infty\right)$, достаточно близких в начальный момент $t_{0}$ к решению $\boldsymbol{\eta}(t)$, в дальнейшем целиком содержатся в в-окрестности положительной полутраектории $L_{0}^{+}$данного решения $\boldsymbol{\eta}=\boldsymbol{\eta}(t)$,
Рис. 47.

где $\varepsilon>0$ произвольно мало (рис. 47), т. е. для любого $\varepsilon>0$ существует $\delta=\delta\left(\varepsilon, t_{0}\right)>0$ такое, что если
\[
\left\|\boldsymbol{y}\left(t_{0}\right)-\boldsymbol{\eta}\left(t_{0}\right)\right\|<\delta,
\]

то
\[
\rho\left(\boldsymbol{y}(t), L_{0}^{+}\right)<\varepsilon \text { при } t \geqslant t_{0} .
\]

Замечание. В силу свойства интегральной непрерывности наличие орбитальной устойчивости решения $\boldsymbol{\eta}(t) \quad(a<t<\infty)$ не зависит от выбора начального момента $t_{0} \in(a, \infty)$, поэтому она эквивалентна орбитальной устойчивости траектории.

Более того, если решение $\eta(t)$ орбитально устойчиво и для решения $y(t)$ при $t=t_{1} \in(a, \infty)$ выполнено неравенство
\[
\left\|\boldsymbol{y}\left(t_{1}\right)-\boldsymbol{\eta}\left(t_{0}\right)\right\|<\delta,
\]

где $\delta$ – число, определяемое неравенством (4.19.2), то при $t \geqslant t_{1}$ имеет место неравенство (4.19.3).
Действительно, полагая
\[
\hat{\boldsymbol{y}}(t)=\boldsymbol{y}\left(t-t_{0}+t_{1}\right)
\]

и учитывая, что $\hat{y}(t)$ – также решение автономной системы (4.19.1), будем иметь
\[
\left\|\hat{\boldsymbol{y}}\left(t_{0}\right)-\boldsymbol{\eta}\left(t_{0}\right)\right\|=\left\|\boldsymbol{y}\left(t_{1}\right)-\boldsymbol{\eta}\left(t_{0}\right)\right\| \leqslant \delta ;
\]

отсюда
\[
p\left(\hat{y}(t), L_{0}^{+}\right)=p\left(y\left(t-t_{0}+t_{1}\right), L_{0}^{+}\right)<\varepsilon \quad \text { при } t \geqslant t_{0},
\]
r. e.
\[
p\left(\boldsymbol{y}(t), L_{0}^{+}\right)<\varepsilon \text { при } t \gg t_{1} .
\]

Определение 3. Орбитально устойчивое решение $\eta(t)$ называется асимптотически орбитально устойчивым, если существует $\Delta_{0}>0$ такое, что для всех решений $y(t)$, удовлетворяющих неравенству
\[
\left\|\boldsymbol{y}\left(t_{0}\right)-\boldsymbol{\eta}\left(t_{0}\right)\right\|<\Delta_{0},
\]

выполнено предельное соотношение
\[
p\left(y(t), L_{0}^{1}\right) \rightarrow 0 \text { при } t \rightarrow \infty .
\]

Таким образом, если $L_{0}^{+}$- замкнутая орбитально устойчивая траектория, то достаточно близкие к ней при $t=t_{0}$ траектории $L^{+}$ навив а тся на нее при $t \rightarrow \infty$.

Замечание. Из устойчивости решения, очевидно, следует его орбитальная устойчивость. Но из орбитальной устойчивости решения, вообще говоря, не вытекает устойчивость его по Ляпунову, а тем более асимптотическая устойчивость.
Пример 1. Рассмотрим скалярную систему
\[
\frac{d x}{d t}=x, \quad \frac{d y}{d t}=0 .
\]

Полагая $x_{0}=x(0), y_{0}=y(0)$, будем иметь
\[
x=x_{0} e^{t}, \quad y=y_{0} \quad(-\infty<t<+\infty) .
\]

Траекториями на плоскости $O x y$ здесь являются:
а) правые полупрямые $y=y_{0}, x>0$ при $x_{0}>0$;
б) левые полупрямые $y=y_{0}, x<0$ при $x_{0}<0$;
в) точки $x=0, y=y_{0}$ при $x_{0}=0$.
Очевидно, любое решение $x=x(t), y=y(t)$ данной системы неустойчиво по Ляпунову при’ $t \rightarrow \infty$. Однако траектории типов а) и б) орбитально устойчивы.

П р и м р 2. Пусть $\eta(t)$ – периодическое решение с периодом $\omega(\omega>0)$ автономной системы (4.19.1), не сводащейся к постоянной ( $\dot{\eta}(t)
eq 0$ ). Тогда такое решение не может быть асимптотически устойчивым.

Действительно, полагая, что
\[
\boldsymbol{y}_{\delta}(t)=\boldsymbol{\eta}(t+\delta),
\]

так как $\eta^{\prime}\left(t_{0}\right)
eq 0$, то при любом достаточно малом $\delta>0$ будем иметь
\[
\left\|\boldsymbol{y}_{\hat{\delta}}\left(t_{0}\right)-\boldsymbol{\eta}\left(t_{0}\right)\right\|=h>0 .
\]

Отсюда, учитывая $\omega$ периодичность решения $\eta(t)$ при произвольном $T>0$, получаем
\[
\sup _{t>T}\left\|\boldsymbol{y}_{\delta}(t)-\boldsymbol{\eta}(t)\right\|=h>0
\]

и, следовательно, $\boldsymbol{y}_{\delta}(t)-\boldsymbol{\eta}(t)
rightarrow 0$ при $t \rightarrow \infty$. Однако орбитальная устойчивость периодического решения $\eta(t)$ и даже асимптотическая орбитальная устойчивость могут иметь место.

Лемма 1. Если автономная система (4.19.1) имеет нетривиальное ю-периодическое решение $\boldsymbol{\eta}(t)$, то для соответствуюиих уравнений в вариациях
\[
\frac{d x}{d t}=f_{x}^{\prime}(\eta(t)) \cdot x
\]

представляющих собой линейную периодическую систему, по меньией мере один из ее мультипликаторов $p==1, m$. е. по крайней мере один из характеристических показателей системы (4.19.5) является нулевым.

Доказательство. Согласно лемме из $\S 18$ система (4.19.5) допускает $\omega$-периодическое решение
\[
\boldsymbol{x}=\dot{\boldsymbol{\eta}}(t)
eq 0 \text {. }
\]

Поэтому периодическая система (4.19.5) имеет по крайней мере один мультипликатор
\[
p=1
\]
(гл. II, § 15). Отсюда, беря главное значение логарифма, получаем, что соответствующий характеристический показатель $\lambda$ будет нулевым:
\[
\lambda=\frac{1}{\omega} \ln 1=0 .
\]

Определение 4. Будем говорить, что решение $\boldsymbol{\eta}(t)$ имеет свойство асимптотической фазы (см. [52], [28]), если для каждого решения $y(t)$, удовлетворяющего начальному неравенству (4.19.4), где $\Delta_{0}>0$ достаточно мало, существует число $c=c[y]$ (асимптотическая фаза) такое, что ${ }^{1}$ )
\[
\|\boldsymbol{y}(t+c)-\boldsymbol{\eta}(t)\| \rightarrow 0 \text { при } t \rightarrow \infty .
\]
1) Для удобства записи некоторых дальнейних формул знак фазы изменен на обратный по сравнению с [52].

Лемма 2. Орбитально устойчивое решение $\boldsymbol{\eta}(t)$ с асимптотической фазой асимптотически орбитально устойчиво.
Доказательство. Действительно, при $t \geqslant t_{0}+|c|$ имеем
\[
\rho\left(\boldsymbol{y}(t), L_{0}^{+}\right)=\inf _{t_{0} \leqslant t_{1}<\infty}\left\|\boldsymbol{y}(t)-\boldsymbol{\eta}\left(t_{1}\right)\right\| \leqslant\|\boldsymbol{y}(t)-\boldsymbol{\eta}(t-c)\| .
\]

Отсюда на основании условия (4.19.6) получаем
\[
\lim _{t \rightarrow \infty} p\left(y(t), L_{0}^{+}\right)=0,
\]

что и требовалось доказать.