Рассмотрим один случай линейной системы с переменной матрицей, для которого нетрудно провести исследование устойчивости. Положим
\[
\frac{d x}{d t}=P(t) x,
\]

где $P(t) \in C\left[t_{0}, \infty\right)$.
Пусть ма́трица $P(t)$ перестановочна со своим интегралом, т. е.
\[
P(t) \int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1}=\int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1} \cdot P(t)
\]

при $t \geqslant t_{0}$ (условие Лаппо-Данилевского). Тогда
\[
\boldsymbol{Q}(t)=e^{t_{0}} P\left(t_{1}\right) d t_{1}
\]

представляет собой матрицант системы (2.13.1) (см. [20]). Действительно, учитывая, что
\[
\frac{d}{d t} \int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1}=P(t)
\]

на основании условия (2.13.2) имеем (гл. I, § 14)
\[
\dot{Q}(t)=e^{\int_{0}^{t} P\left(t_{1}\right) d t_{1}} P(t)=P(t) e^{\int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1}}=P(t) \Omega(t) .
\]

Кроме того,
\[
\boldsymbol{Q}\left(t_{0}\right)=E .
\]

Таким образом, общее решение системы (2.13.1) есть
\[
\boldsymbol{x}(t)=\exp \int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1} \cdot \boldsymbol{x}\left(t_{0}\right)
\]

Пр име р. Если ( $2 \times 2$ )-матрица имеет вид (см. [20])
\[
P(t)=\left[\begin{array}{ll}
p(t) & q(t) \\
q(t) & p(t)
\end{array}\right],
\]

то условие (2.13.2), очевидно, выполнено.

Теорема. Пусть для любой пары $\left(t_{0}, t\right) \in(a, \infty)$ выполнено условие (2.13.2) и существует предел
\[
A=\lim _{t \rightarrow \infty} \frac{1}{t} \int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1} .
\]

Тогда, если все собственные значения $\lambda_{j}=\lambda_{j}(A) \quad(j=1, \ldots, n)$ предельной матрицы $A$ расположены в левой полуплоскости, т. е.
\[
\operatorname{Re} \lambda_{j}(A)<0 \quad(j=1, \ldots, n),
\]

то линейная система (2.13.1) асимптотически устойчива при $t \rightarrow \infty$.

Доказательство. 1) Из условия (2.13.2) при $(t, s) \in$ $\in(a, \infty)$ имеем
\[
P(t) \int_{s}^{t} P\left(t_{1}\right) d t_{1}=\int_{s}^{t} P\left(t_{1}\right) d t_{1} \cdot P(t) .
\]

Дифференцируя равенство (2.13.7) по переменной $s$, получим
\[
P(t)[-P(s)]=[-P(s)] \cdot P(t),
\]
T. e.
\[
P(t) P(s)=P(s) P(t) .
\]

Отсюда находим
\[
\begin{array}{c}
\int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1} \cdot \frac{1}{s} \int_{t_{0}}^{s} P\left(t_{2}\right) d t_{2}=\frac{1}{s} \int_{t_{0}}^{t} d t_{1} \int_{t_{0}}^{s} P\left(t_{1}\right) P\left(t_{2}\right) d t_{2}= \\
=\frac{1}{s} \int_{t_{0}}^{t} d t_{1} \int_{t_{0}}^{s} P\left(t_{\mathrm{z}}\right) P\left(t_{1}\right) d t_{2}=\frac{1}{s} \int_{t_{0}}^{s} P\left(t_{2}\right) d t_{2} \int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1} .
\end{array}
\]

Переходя в последнем равенстве к пределу при $s \rightarrow \infty$, будем иметь
\[
\int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1} \cdot A=A \cdot \int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1} ;
\]

таким образом, предельная матрица $A$ перестановочна с интегралом $\int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1}$.
2) Положим
\[
\frac{1}{t} \int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1}=A+B(t),
\]

где $\dot{B}(t) \rightarrow 0$ при $t \rightarrow \infty$.

Докажем, что матрицы $A$ и $B(t)$ перестановочны. Действительно, учитывая соотношение (2.13.8), имеем
\[
\begin{aligned}
A \cdot B(t) & =A \cdot\left[\frac{1}{t} \int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1}-A\right]= \\
& =\frac{1}{t} \int_{t_{0}}^{t} P\left(t_{1}\right) d t A-A^{2}=B(t) A .
\end{aligned}
\]

На основании формулы (2.13,4) выводим, что любое решение $x(t)$ системы (2.13.1) имеет вид
\[
\boldsymbol{x}(t)=e^{\int_{t_{0}}^{t} P\left(t_{1}\right) d t_{1}} \cdot \boldsymbol{x}\left(t_{0}\right)=e^{t A+t B(t)} \cdot \boldsymbol{x}\left(t_{0}\right) .
\]

Отсюда в силу перестановочности матриц $A$ и $B(t)$ получаем
\[
\boldsymbol{x}(t)=e^{t A} \cdot e^{t B(t)} \cdot \boldsymbol{x}\left(t_{0}\right) .
\]

Пусть
\[
\min _{j} \operatorname{Re} \lambda_{j}(A)=\alpha<0
\]

и $\varepsilon>0$ таково, что
\[
a+2 \varepsilon<0 .
\]

Выберем $T$ столь большим, чтобы выполнялось неравенство
\[
\|B(t)\|<\varepsilon \quad \text { при } t \geqslant T>0 .
\]

Из формулы (2.13.10), учитывая оценку (1.13.6) и используя первую норму, находим
\[
\begin{array}{l}
\|\boldsymbol{x}(t)\| \leqslant\left\|e^{t A}\right\| \cdot\left\|e^{t B(t)}\right\|\left\|\boldsymbol{x}\left(t_{0}\right)\right\| \leqslant c \cdot e^{(\alpha+\varepsilon) t} \cdot e^{t\|B(t)\|}\left\|\boldsymbol{x}\left(t_{0}\right)\right\| \leqslant \\
\leqslant c\left\|x\left(t_{0}\right)\right\| e^{i \alpha+2 \epsilon) t} \quad \text { при } t \geqslant T . \\
\end{array}
\]

Следовательно,
\[
\lim _{t \rightarrow \infty} \boldsymbol{x}(t)=\mathbf{0}
\]

и, значит, линейная система (2.13.1) асимптотически устойчива при $t \rightarrow \infty$.