В этом параграфе будет исследована дифференциальная система с ограниченной треугольной матрицей. Не уменьшая общности, можно ограничиться рассмотрением системы с нижней треугольной матрицей.
\[
\left.\begin{array}{l}
\frac{d x_{1}}{d t}=a_{11}(t) x_{1}, \\
\frac{d x_{9}}{d t}=a_{91}(t) x_{1}+a_{22}(t) x_{2}, \\
\cdot \cdot \cdot \cdot \cdot \cdot \cdot \cdot \cdot \cdot \cdot \cdot \cdot \cdot \cdot \cdot \cdot \cdot \cdot \\
\frac{d x_{n}}{d t}=a_{n 1}(t) x_{1}+a_{n 2}(t) x_{2}+\ldots+a_{n n}(t) x_{n},
\end{array}\right\}
\]

Положим $A(t)=\left[a_{j k}(t)\right] \in C\left[t_{0}, \infty\right)$, где $a_{j k}(t) \equiv 0$ при $k>j$.
Теорема Ляпунова. Действительная треугольная однородная линейная система с ограниченными коэффициентами является правильной тогда и только тогда, когда ее диагональные коэффициенты $a_{k k}(t)(k=1, \ldots, n)$ имеют конечные средние значения
\[
\mu_{k}=\lim _{t \rightarrow \infty} \frac{1}{t} \int_{t_{9}}^{t} a_{k k}\left(t_{1}\right) d t_{1} .
\]

Доказательство. 1) Докажем сначала необходимость условий теоремы. Пусть система (3.13.1) правильная. Положим
\[
\overline{\mu_{k}}=\varlimsup_{t \rightarrow \infty} \frac{1}{t} \int_{i_{0}}^{t} a_{k k}\left(t_{1}\right) d t_{1}
\]

и
\[
\underline{\mu}_{k}=\lim _{i \rightarrow \infty} \frac{1}{t} \int_{t_{0}}^{t} a_{k k}\left(t_{1}\right) d t_{1} \quad(k=1, \ldots, n),
\]

и пусть
\[
S=\lim _{t \rightarrow \infty} \frac{1}{t} \int_{t_{9}}^{t} \operatorname{Sp} A\left(t_{1}\right) d t_{1}=\lim _{t \rightarrow \infty} \frac{1}{t} \int_{t_{0}}^{t} \sum_{k=1}^{n} a_{k k}\left(t_{1}\right) d t_{1} .
\]

Введем сокращенные обозначения
\[
A_{k}(t)=\exp \int_{t_{n}}^{t} a_{k k}\left(t_{1}\right) d t_{1} \quad(k=1, \ldots, n) .
\]

Последовательно интегрируя уравнения системы (3.13.1), убеждаемся, что эта система имеет нормированную фундаментальную систему $\tilde{X}(t)=\left[\tilde{x}_{j k}(t)\right]$ вида
\[
\left.\begin{array}{rl}
\tilde{x}_{j k}(t) & =0 \quad(j<k), \\
\tilde{x}_{k k}(t) & =A_{k}(t), \\
\tilde{x}_{j k}(t) & =A_{j}(t) \int_{t_{0}}^{t} A_{j}^{-1}\left(t_{1}\right) \sum_{s=k}^{i-1} a_{j s}\left(t_{1}\right) \tilde{x}_{s k}\left(t_{1}\right) d t_{1} \quad(j>k), \\
j, k=1, \ldots, n,
\end{array}\right\}
\]

где $\tilde{X}\left(t_{0}\right)=E$. Умножая справа матрицу $\tilde{X}(t)$ на подходящую постоянную матрицу

можно получить нормальную фундаментальную матрицу (см. §4)
\[
X(t)=\tilde{X}(t) C \quad\left(X(t)=\left[x_{j k}(t)\right]\right),
\]

причем, очевидно,
\[
x_{k k}(t)=A_{k}(t) \quad(k=1, \ldots, n) .
\]

Транспонированная обратная матрица
\[
Y(t)=\left[X^{-1}(t)\right]^{T} \equiv\left[y_{j k}(t)\right]
\]

является нормальной фундаментальной матрицей для сопряженной системы
\[
\frac{d y}{d t}=-A^{T}(t) y .
\]

Нетрудно видеть, что
\[
y_{k k}(l)=A_{k}{ }^{\prime}(t) .
\]

Пусть
\[
\gamma\left[x^{(k)}\right]=\max \chi\left[x_{j k}(t)\right]=\gamma_{k}
\]
u
\[
\chi\left[y^{(k)}\right]=\max \%\left[y_{j k}(t)\right]=\beta_{k}
\]
$(k=1, \ldots, n)$, где в силу теоремы Перрона ( $\$ 12$ )
\[
x_{k}+\beta_{k}=0 \quad(k=1, \ldots, n) \text {. }
\]

Так как в состав решения $\boldsymbol{x}^{(k)}$ входит координата $x_{k k}(t)=A_{k}(t)$, то
\[
x_{k} \geqslant \eta\left[A_{k}(t)\right]=\bar{x}_{k} \quad(k=1, \ldots, n) .
\]

Аналогично в силу формулы (3.13.4) имеем
\[
\left.\beta_{k} \geqslant \chi_{k}^{-1}(t)\right]=-\mu_{k} \quad(k=1, \ldots, n) .
\]

Складывая равенства (3.12.6) и (3.12.7) и учитывая формулу (3.12.5), получим
\[
0=x_{k}+\beta_{k} \geqslant \bar{\mu}_{k}-\varepsilon_{k} \quad(k=1, \ldots, n),
\]
T. e.
\[
\bar{\mu}_{k}=\mu_{k}=\mu_{k} \quad(k=1, \ldots, n),
\]

где
\[
\mu_{k}=\lim _{t \rightarrow \infty} \frac{1}{t} \int_{t_{i}}^{t} a_{k k}\left(t_{1}\right) d t_{1},
\]

что и требовалось доказать.
2) Докажем теперь достаточность условий теоремы. Предположим, что условия (3.12.2) выполнены.
Пусть $Z(t)=\left[z_{j k}(t)\right]$ – система функций таких, что
\[
\left.\begin{array}{rl}
z_{i k}(t) & =0 \quad(j<k), \\
z_{k k}(t) & =A_{k}(t), \\
z_{j k}(t) & =A_{j}(t) \int_{\tau_{i k}}^{t} A_{i}^{-1}\left(t_{1}\right) \sum_{s=k}^{i-1} a_{j s}\left(t_{1}\right) z_{s k}\left(t_{1}\right) d t_{1} \quad(j>k), \\
j, k=1, \ldots, n,
\end{array}\right\}
\]

где
\[
\tau_{i k}=t_{0}, \text { если } \mu_{j} \leqslant \mu_{k},
\]

и
\[
\tau_{j k}=+\infty \text {, если } \mu_{j}>\mu_{k} \text {. }
\]

Очевидно,
\[
\operatorname{det} Z\left(t_{0}\right)=1 \text {. }
\]

Tak как
\[
\int_{\infty}^{t} f\left(t_{1}\right) d t_{1}=\int_{t_{11}}^{t} f\left(t_{1}\right) d t_{1}-\int_{t_{n}}^{\infty} f\left(t_{1}\right) d t_{1}
\]

то система функций $Z(t)$ отличается от фундаментальной системы $\tilde{X}(t)$ тем, что к входящим в нее интегралам прибавлены некоторые постоянные. Поэтому $Z(t)$ является также фундаментальной матрицей нашей дифференциальной системы (3.12.1). Отсюда следует, что
\[
Z(t)=\tilde{X}(t) B,
\]

где
– постоянная матрица. Имеем
\[
\chi\left[z_{k k}(t)\right]=\chi\left[A_{k}(t)\right]=\mu_{k} \quad(k=1, \ldots, n) .
\]

Далее, по индукции выводим, если
\[
\chi\left[z_{s k}(t)\right] \leqslant \mu_{k} \quad(s=k, \ldots, j-1 ; j>k),
\]

то из формул (3.13.8), используя теорему о характеристическом показателе интеграла и ее следствие ( $\$ 1$ ), получаем
\[
\begin{array}{r}
\chi\left[z_{j k}(t)\right] \leqslant \chi\left[A_{j}(t)\right]+\chi\left[A_{j}^{-1}(t)\right]+\max _{s}\left\{\chi\left[\alpha_{i s}(t)\right]+\chi\left[z_{s k}(t)\right]\right\} \leqslant \\
\leqslant \mu_{j}+\left(-\mu_{j}\right)+\mu_{k}=\mu_{k} .
\end{array}
\]

Следовательно,
\[
x_{k}=\chi\left[z^{(k)}\right]=\max \chi_{1}\left[z_{j k}(t)\right] \leqslant \mu_{k} \quad(k=1, \ldots, n) .
\]

Отсюда, полагая
\[
S=\lim _{t \rightarrow \infty} \frac{1}{t} \int_{t_{0}}^{t} \sum_{k=1}^{n} a_{k k}\left(t_{1}\right) d t_{1}=\sum_{k=1}^{n} \mu_{k},
\]

в силу неравенства Ляпунова получим
\[
S=\sum_{k} \mu_{k} \geqslant \sum_{k} \alpha_{k} \geqslant S,
\]
т. е. $\alpha_{k}=\mu_{k}(k=1, \ldots, n)$ и
\[
\sum_{k} x_{k}=S
\]

Гаким образом, построенная фундаментальная система $Z(t)$ нормальная, а значит, система (3.13.1) правильная.

Следствие. Если система (3.13.1) с действительной ограниченной треугольной матрицей правильная, то средние значения ее диагональных коэффициентов $a_{k k}(t)$ дают спектр $\left\{x_{1}, \ldots, x_{n}\right\}$ этой системь, m. $e$.
\[
\alpha_{k}=\lim _{t \rightarrow \infty} \frac{1}{t} \int_{t_{0}}^{t} a_{k k}\left(t_{1}\right) d t_{1} \quad(k=1, \ldots, n) .
\]