Рассмотрим действительную автономную систему
$$\frac{dy}{dt}=f(y),$$

где $\mathit{f}(\mathit{y})\in C^1(\Vert \mathit{y}\Vert <H)$.
Определение 1. Если $\mathit{y}=\mathit{y}(t)(a<t<b)$ есть решение системы (4.19.1), то совокупность точек $L=\{\mathit{y}(t):t\in (a,b)\}$ фазового пространства ${\mathcal{R}}_y^n$ называется траекторией решения.

Траектория $L$ представляет собой проекцию интегральной кривой $\mathit{y}=\mathit{y}(t)$ пространства $I_t\times {\mathcal{R}}_y^n$ в пространство ${\mathcal{R}}_{\mathit{y}}^{\mathit{n}}$, где время $t$ играет роль параметра.

Так как система (4.19.1) автономна, то наряду с решением $\mathit{y}=\mathit{y}(t)$ она допускает семейство решений ${\mathit{y}}_c=\mathit{y}(t+c)$ $(-\mathrm{\infty }<c<+\mathrm{\infty })$, которые, очевидно, обладают одной и той же траекторией.

Под $p(z,L)$, как обычно, будем понимать расстояние точки $z\in {\mathcal{R}}_y^n$ до множества $L\subset {\mathcal{R}}_y^n$, т. е.
$$\rho (\mathit{z},L)=\underset{\mathit{y}\in L}{inf}\Vert \mathit{z}-\mathit{y}\Vert .$$

В дальнейшем для решения $y=y_d(t)$ ( $t_0⩽t<\mathrm{\infty }$ ) иногда придется рассматривать множество точек $L^{+}=\{y(t):t_0⩽t<\mathrm{\infty }\}$, которые будем называть положительной полутраекторией. Аналогично определяется отрицательная полутраектория $L^{-}=$ $=\{y(t):t_0⩾t>-\mathrm{\infty }\}$.

Определение 2. Решение $\mathit{\eta }=\mathit{\eta }(t)(t_0⩽t<\mathrm{\infty })$ системы (4.19.1) называется (см. [52]) орбитально устойчивым при $t\to \mathrm{\infty }$, если положительные траектории $L^{+}$всех решений $y=y(t)$ $(t_0⩽t<\mathrm{\infty })$, достаточно близких в начальный момент $t_0$ к решению $\mathit{\eta }(t)$, в дальнейшем целиком содержатся в в-окрестности положительной полутраектории $L_0^{+}$данного решения $\mathit{\eta }=\mathit{\eta }(t)$,
Рис. 47.

где $\epsilon >0$ произвольно мало (рис. 47), т. е. для любого $\epsilon >0$ существует $\delta =\delta (\epsilon ,t_0)>0$ такое, что если
$$\Vert \mathit{y}\left(t_0\right)-\mathit{\eta }\left(t_0\right)\Vert <\delta ,$$

то
$$\rho (\mathit{y}(t),L_0^{+})<\epsilon \text{ при }t⩾t_0.$$

Замечание. В силу свойства интегральной непрерывности наличие орбитальной устойчивости решения $\mathit{\eta }(t)(a<t<\mathrm{\infty })$ не зависит от выбора начального момента $t_0\in (a,\mathrm{\infty })$, поэтому она эквивалентна орбитальной устойчивости траектории.

Более того, если решение $\eta (t)$ орбитально устойчиво и для решения $y(t)$ при $t=t_1\in (a,\mathrm{\infty })$ выполнено неравенство
$$\Vert \mathit{y}\left(t_1\right)-\mathit{\eta }\left(t_0\right)\Vert <\delta ,$$

где $\delta$ — число, определяемое неравенством (4.19.2), то при $t⩾t_1$ имеет место неравенство (4.19.3).
Действительно, полагая
$$\hat{\mathit{y}}(t)=\mathit{y}(t-t_0+t_1)$$

и учитывая, что $\hat{y}(t)$ — также решение автономной системы (4.19.1), будем иметь
$$\Vert \hat{\mathit{y}}\left(t_0\right)-\mathit{\eta }\left(t_0\right)\Vert =\Vert \mathit{y}\left(t_1\right)-\mathit{\eta }\left(t_0\right)\Vert ⩽\delta ;$$

отсюда
$$p(\hat{y}(t),L_0^{+})=p(y(t-t_0+t_1),L_0^{+})<\epsilon \text{ при }t⩾t_0,$$
r. e.
$$p(\mathit{y}(t),L_0^{+})<\epsilon \text{ при }t\gg t_1.$$

Определение 3. Орбитально устойчивое решение $\eta (t)$ называется асимптотически орбитально устойчивым, если существует ${\mathrm{\Delta }}_0>0$ такое, что для всех решений $y(t)$, удовлетворяющих неравенству
$$\Vert \mathit{y}\left(t_0\right)-\mathit{\eta }\left(t_0\right)\Vert <{\mathrm{\Delta }}_0,$$

выполнено предельное соотношение
$$p(y(t),L_0^1)\to 0\text{ при }t\to \mathrm{\infty }.$$

Таким образом, если $L_0^{+}$- замкнутая орбитально устойчивая траектория, то достаточно близкие к ней при $t=t_0$ траектории $L^{+}$ навив а тся на нее при $t\to \mathrm{\infty }$.

Замечание. Из устойчивости решения, очевидно, следует его орбитальная устойчивость. Но из орбитальной устойчивости решения, вообще говоря, не вытекает устойчивость его по Ляпунову, а тем более асимптотическая устойчивость.
Пример 1. Рассмотрим скалярную систему
$$\frac{dx}{dt}=x,\frac{dy}{dt}=0.$$

Полагая $x_0=x(0),y_0=y(0)$, будем иметь
$$x=x_0{e}^t,y=y_0(-\mathrm{\infty }<t<+\mathrm{\infty }).$$

Траекториями на плоскости $Oxy$ здесь являются:
а) правые полупрямые $y=y_0,x>0$ при $x_0>0$;
б) левые полупрямые $y=y_0,x<0$ при $x_0<0$;
в) точки $x=0,y=y_0$ при $x_0=0$.
Очевидно, любое решение $x=x(t),y=y(t)$ данной системы неустойчиво по Ляпунову при’ $t\to \mathrm{\infty }$. Однако траектории типов а) и б) орбитально устойчивы.

П р и м р 2. Пусть $\eta (t)$ — периодическое решение с периодом $\omega (\omega >0)$ автономной системы (4.19.1), не сводащейся к постоянной ( $\dot{\eta }(t)eq0$ ). Тогда такое решение не может быть асимптотически устойчивым.

Действительно, полагая, что
$${\mathit{y}}_{\delta }(t)=\mathit{\eta }(t+\delta ),$$

так как ${\eta }^{\prime }\left(t_0\right)eq0$, то при любом достаточно малом $\delta >0$ будем иметь
$$\Vert {\mathit{y}}_{\hat{\delta }}\left(t_0\right)-\mathit{\eta }\left(t_0\right)\Vert =h>0.$$

Отсюда, учитывая $\omega$ периодичность решения $\eta (t)$ при произвольном $T>0$, получаем
$$\underset{t>T}{sup}\Vert {\mathit{y}}_{\delta }(t)-\mathit{\eta }(t)\Vert =h>0$$

и, следовательно, ${\mathit{y}}_{\delta }(t)-\mathit{\eta }(t)rightarrow0$ при $t\to \mathrm{\infty }$. Однако орбитальная устойчивость периодического решения $\eta (t)$ и даже асимптотическая орбитальная устойчивость могут иметь место.

Лемма 1. Если автономная система (4.19.1) имеет нетривиальное ю-периодическое решение $\mathit{\eta }(t)$, то для соответствуюиих уравнений в вариациях
$$\frac{dx}{dt}=f_x^{\prime }(\eta (t))\cdot x$$

представляющих собой линейную периодическую систему, по меньией мере один из ее мультипликаторов $p==1,m$. е. по крайней мере один из характеристических показателей системы (4.19.5) является нулевым.

Доказательство. Согласно лемме из $\mathrm{\S }18$ система (4.19.5) допускает $\omega$-периодическое решение
$$\mathit{x}=\dot{\mathit{\eta }}(t)eq0\text{. }$$

Поэтому периодическая система (4.19.5) имеет по крайней мере один мультипликатор
$$p=1$$
(гл. II, § 15). Отсюда, беря главное значение логарифма, получаем, что соответствующий характеристический показатель $\lambda$ будет нулевым:
$$\lambda =\frac{1}{\omega }\ln 1=0.$$

Определение 4. Будем говорить, что решение $\mathit{\eta }(t)$ имеет свойство асимптотической фазы (см. [52], [28]), если для каждого решения $y(t)$, удовлетворяющего начальному неравенству (4.19.4), где ${\mathrm{\Delta }}_0>0$ достаточно мало, существует число $c=c[y]$ (асимптотическая фаза) такое, что ${}^1$ )
$$\Vert \mathit{y}(t+c)-\mathit{\eta }(t)\Vert \to 0\text{ при }t\to \mathrm{\infty }.$$
1) Для удобства записи некоторых дальнейних формул знак фазы изменен на обратный по сравнению с [52].

Лемма 2. Орбитально устойчивое решение $\mathit{\eta }(t)$ с асимптотической фазой асимптотически орбитально устойчиво.
Доказательство. Действительно, при $t⩾t_0+|c|$ имеем
$$\rho (\mathit{y}(t),L_0^{+})=\underset{t_0⩽t_1<\mathrm{\infty }}{inf}\Vert \mathit{y}(t)-\mathit{\eta }\left(t_1\right)\Vert ⩽\Vert \mathit{y}(t)-\mathit{\eta }(t-c)\Vert .$$

Отсюда на основании условия (4.19.6) получаем
$$\underset{t\to \mathrm{\infty }}{lim}p(y(t),L_0^{+})=0,$$

что и требовалось доказать.