Рассмотрим действительную пинейную однородную систему
\[
\frac{d x}{d t}=A(t) x,
\]

пе $A(t) \in C\left[t_{n}, \infty\right), \sup _{t}\|A(t)\|<\infty$, и пусть $\alpha_{1}, \ldots, \alpha_{n}$ – ее характеристические показатели.
Определение. Число
\[
x=\sum_{k=1}^{n} \alpha_{k}-\lim _{t \rightarrow \infty} \int_{t}^{t} \operatorname{sp} A\left(t_{1}\right) d t_{1}
\]

называется мерой неправильностит системы (4.13.1) (см. [15]).
В силу неравенства Ляпунова (гл. III, §7)
\[
\sum_{k} x_{k} \geqslant \varlimsup_{t \rightarrow \infty} \frac{1}{t} \int_{t_{0}}^{t} \mathrm{Sp} A\left(t_{1}\right) d t_{1}
\]

из формулы (4.13.2) получаем
\[
x_{2} \geqslant \varlimsup_{t \rightarrow \infty} \frac{1}{t} \int_{t_{0}}^{t} \operatorname{Sp} A\left(t_{1}\right) d t_{1}-\lim _{t \rightarrow \infty} \frac{1}{t} \int_{t_{1}}^{t} \operatorname{Sp} A\left(t_{1}\right) d t_{1}>0 .
\]

Очевидно, что сйтема (4.13.1) правильная тогда и только тогда, когда $\%=0$.

Обобщением критерия Ляпунова для неправильных систем занимался Н.Г. Четаев. Мы приведем результат Массера (см. [44]), обобщающий теорему Ляпунова (§ 12) и Четаева (см. [15]).
Теорема Массера. Пусть дана нелинейная система
\[
\frac{d y}{d t}=A(t) y+f(t, y) \text {, }
\]

где $A(t) \in C[t, \infty), \sup _{t}\|A(t)\|<\infty$ и $\boldsymbol{f}(t, \boldsymbol{y}) \in C_{i y}{ }^{\prime}$ \” $\left(t_{0} \leq t<\infty\right.$, $y \|<h)$, причем $\boldsymbol{f}(t, 0) \equiv \mathbf{0}$.
Echu
1) $\|\boldsymbol{f}(t, \boldsymbol{y})\| \leqslant \psi(t)\|\boldsymbol{y}\|^{m} \quad(m>1)$,

где $(t)$ – полонительная функция такая, что $\%[\omega(t)]=0$,
2) для характеристичеких показателей $\alpha_{1}, \ldots$, g $_{n}$ линейного приближения (4.13.1) выполт:ено неравенство
\[
\max _{k} x_{k}<-\frac{x}{m-1} \leqslant 0,
\]

где $x$–мера неправильности соответствующей линейной системан (4.13.1), по тривиальное ренение $\boldsymbol{y} \equiv 0$ нелинейной системы (4.13.3) асимптотически устойчиво по Ляпунову при $t \rightarrow \infty$.
Доказательство. Пусть

где (рис. 41 )
\[
\begin{array}{l}
D=\operatorname{diag}\left(\alpha_{1}+\gamma, \ldots, \alpha_{n}+\gamma\right), \\
\frac{\alpha}{m-1}<\gamma<-\alpha, \alpha=\max _{k} \gamma_{k} .
\end{array}
\]

Положим
\[
\boldsymbol{y}=X(t) e^{-D t} \boldsymbol{z},
\]

где $X(t)=\left[x_{i k}(t)\right]$ – нормированная фундаментальная матрица
Рис. 41 .

линейной системы (4:13.1) $\left(X\left(t_{0}\right)=E\right)$. В силу (4.13.3) имеем
\[
\begin{array}{rl}
\frac{d y}{d t} \equiv X(t) e^{-D t} \frac{d \boldsymbol{z}}{d t}+\dot{X}(t) e^{-D t} & \boldsymbol{z}-X(t) e^{-D t} D \boldsymbol{z}= \\
& =A(t) X(t) e^{-D t} \boldsymbol{z}+f\left(t, X(t) e^{-D t} \boldsymbol{z}\right) .
\end{array}
\]

Отсюда, учнтывая, что
\[
\dot{X}(t)=A(t) X(t),
\]

получим
\[
\frac{d z}{d t}=D z+\frac{1}{i}(t, z),
\]

где
\[
\boldsymbol{g}(t, \boldsymbol{z})=e^{D t} X^{-1}(t) \boldsymbol{f}\left(t, X(i) e^{-D t} \boldsymbol{z}\right) .
\]

Kак пзвестно,
\[
X^{-1}(t)=\frac{1}{\Delta(t)}\left[\Delta_{k j}(t)\right]
\]
rде
\[
\Delta(t)=\operatorname{det} X(t)
\]

и $\Delta_{j k}(t)$ – соответствующие алгебраические дополнения определителя $\Delta(t)$. На основании формулы Остроградского-Лиувилля, учитывая, чю $\Delta\left(t_{0}\right)=1$, находим
\[
\Delta(t)=e^{t_{0}^{t} \mathrm{Sp}_{0} A\left(t_{1}\right) d t_{1}}
\]

Следовательно,
\[
X^{-1}(t)=\left[\Delta_{k j}(t) e^{-\int_{t_{0}}^{t} \operatorname{Sp} A\left(t_{1}\right) d t_{1}}\right] .
\]

Отсюда
\[
\begin{array}{l}
\chi\left[e^{D t} X^{-1}(t)\right]=\chi\left[e^{\left(\alpha_{i}+\gamma\right) t} \Delta_{k j}(t) e^{-\int_{t_{0}}^{t} \operatorname{sp} A\left(t_{1}\right) d t_{1}} 1 \leqslant\right. \\
\leqslant \max _{i, k}\left[\alpha_{j}+\gamma+\sum_{k} \alpha_{k}-\alpha_{j}-\lim _{t \rightarrow \infty} \frac{1}{t} \int_{t_{0}}^{t} \operatorname{Sp} A\left(t_{1}\right) d t_{1}\right]=x+\gamma
\end{array}
\]

и
\[
\begin{aligned}
\left.\chi \mid X(t) e^{-D t}\right]=\chi\left\{\left[x_{j k}(t) e^{-i x_{k}+\gamma i t}\right]\right\} \leqslant & \\
& \leqslant \max _{j, k}\left[x_{k}-\left(x_{k}+\gamma\right)\right]=-\gamma .
\end{aligned}
\]

Так как
\[
\chi\left[X(t) e^{-D t}\right]<0,
\]

то
\[
X(t) e^{-D t} \rightarrow 0 \text { при } t \rightarrow+\infty \text {. }
\]

Следовательно,
\[
\left\|X(t) e^{-D t}\right\| \leqslant M<\infty \text { при } t_{0} \leqslant t<\infty .
\]

Положим
\[
\text { |! } \boldsymbol{z}: \frac{h}{M} .
\]

Тогда на основании формулы (4.13.5) получим
\[
\|\boldsymbol{y}\| \leqslant\left\|X(t) e^{-D t}\right\| \boldsymbol{z} \| \leqslant M_{M}^{h}=h .
\]

Оценим нелинейный член в правой части уравнения (4.13.6) при $\boldsymbol{z} \|<\frac{h}{M}$. Используя условие 1), имеем
\[
\begin{array}{l}
\|\boldsymbol{g}(t, \boldsymbol{z})\| \leqslant\left\|e^{D t} X^{-1}(t)\right\|\left\|\boldsymbol{f}\left(t, X(t) e^{-D t} \boldsymbol{z}\right)\right\| \leqslant \\
\quad \leqslant\left\|e^{D t} X^{-1}(t)\right\|\|\psi(t)\|\left\|X(t) e^{-D t}\right\|^{m}\|\boldsymbol{z}\|^{m}=\varphi(t)\|\boldsymbol{z}\|^{m},
\end{array}
\]

где в силу неравенств (4.13.8) и (4.13.9) и свойств характеристических показателей справедлива оценка:
\[
\begin{array}{l}
\chi[\stackrel{\varphi}{*}(t)]=\chi\left[\left\|e^{D t} X^{-1}(t)\right\|\|\psi(t)\|\left\|X(t) e^{-D t}\right\|^{m}\right] \leqslant \\
\leqslant x-\gamma+0-m \gamma=x-(m-1) \gamma .
\end{array}
\]

Огсюда на основании неравенства (4.13.4) получаем
Следовательно,
\[
\chi[\stackrel{*}{i})]<0 .
\]
$\|\boldsymbol{g}(t, \boldsymbol{z})\| \leqslant c\|\boldsymbol{z}\|^{m}(m>1) \quad$ при $t_{0} \leqslant t<-\infty \quad$ и $\quad\|\boldsymbol{z}\|<\frac{h}{M^{-}}$.
(4.13.12)
Таким образом, нелинейная система (4.13.6) удовлетворяет условиям теоремы Ляпунова об устойчивости квазилинейных систем (§10) и, следовательно, тривиальное решение ее $\boldsymbol{z} \equiv \mathbf{0}$ асимптотически устойчиво при $t \rightarrow+\infty$. В силу формулы (4.13.5) и неравенства (4.13.9) это будег верно также дия тривиального решения $\boldsymbol{0} \equiv \mathbf{0}$ исходной нелинейной системы (4.13.3).

Следствие. Для характеристических показателей решений $\boldsymbol{y}(t)$, где $\boldsymbol{y}\left(t_{0}\right)$ достаточно мала, справедлива оценка:
\[
\chi[y(t)] \leqslant \max _{k} x_{k} .
\]

Действительно, из формулы (4.13.5), учитывая неравенство (4.13.9) и ограниченность функции $\boldsymbol{z}(t)$, получаем
\[
\chi[y(t)] \leqslant-\gamma .
\]

А так как число – $\gamma$ можно брать сколь угодно близким к $\max _{k} x_{k}$, то справедливо неравенство (4.13.13).