Рассмотрим систему дифференциальных уравнений
\[
\frac{d y}{d t}=f(t, y),
\]

где $\boldsymbol{f}(t, \boldsymbol{y}) \in C_{t y}^{(0,1)}(Z)$ и $Z=\left\{t_{0} \leqslant t<\infty,\|\boldsymbol{y}\|<H\right\}$.
Пусть $\boldsymbol{\eta}=\boldsymbol{\eta}(t) \quad\left(t_{0} \leqslant t<\infty\right)$ – решение системы (4.18.1), удовлетворяющее условию: $\|\boldsymbol{\eta}(t)\| \leqslant h<H$. Положим
\[
\tilde{\boldsymbol{x}}=\boldsymbol{y}-\boldsymbol{\eta}(t) \text {. }
\]

Тогда будем иметь
\[
\frac{d \tilde{x}}{d t}=\boldsymbol{f}(t, \boldsymbol{\eta}(t)+\tilde{x})-\boldsymbol{f}(t, \boldsymbol{\eta}(t)) .
\]

Отсюда, применяя теорему о среднем, получим
\[
\frac{d \tilde{x}}{d t}=\boldsymbol{f}_{y}^{\prime}(t, \boldsymbol{\eta}(t)) \tilde{x}+\boldsymbol{r}(t, \tilde{\boldsymbol{x}}),
\]

где $\boldsymbol{r}(t, \tilde{x})=o(\tilde{\boldsymbol{x}})$ при $\tilde{\boldsymbol{x}} \rightarrow \mathbf{0}$ равномерно по $t$ на каждом конечном отрезке $\left[t_{0}, t_{0}+T\right](T>0)$. Линейная система
\[
\frac{d x}{d t}=f_{y}^{\prime}(t, \eta(t)) x
\]

представляющая линеаризированную систему (4.18.3), называется уравненияли в вариациях (см. [35], [28]) для системы (4.18.1) относительно ее решения $\boldsymbol{\eta}(t)$ (система первого приближения).
Заметим, что если данная система линейная
\[
\frac{d y}{d t}=A(t) y+f(t),
\]

то ее уравнения в вариациях совпадают с соответствующей однородной системой
\[
\frac{d x}{d t}=A(t) x .
\]

Лемма. Если система (4.18.1) автономная
\[
\frac{d y}{d t}=f(y)
\]

и $\eta=\eta(t)$ есть ее решение, то
\[
\boldsymbol{x}=\dot{\boldsymbol{\eta}}(t)
\]

является решением ее уравнений в вариациях.
Доказательство. Дифференцируя по $t$ тождество
\[
\dot{\boldsymbol{\eta}}(t) \equiv \boldsymbol{f}(\boldsymbol{\eta}(t)) \text {, }
\]

будем иметь
\[
\frac{d}{d t}[\dot{\eta}(t)]=f_{y}^{\prime}(\eta(t)) \dot{\eta}(t)
\]

что и доказывает утверждение леммы.
Предположим теперь, что $f(t, \boldsymbol{y})$ ю-периодична по $t$ и исследуемое решение $\boldsymbol{\eta}(t)$ также периодично и имеет период $\omega$. Тогда уравнения в вариациях (4.18.4) представляют собой линейную систему с периодическими коэффициентами.

Теорема Ляпунова. Если все характеристические показатели $\lambda_{j}$ уравнения в вариациях для данного периодического решения $\boldsymbol{\eta}(t)$ имеют отрицательные вещественные части, то это периодическое решение асимптотически устойчиво при $t \rightarrow \infty$.

Доказательство (см. [28]). Согласно теории Флоке (гл. III, $\S 15$ ) система (4.18.4) имеет нормированную фундаментальную матрицу вида
\[
X(t)=\Phi(t) e^{\Delta t},
\]

где $\Phi(t)$ – $\omega$-периодическая матрица и $\Lambda$ – постоянная матрица, причем характеристические показатели $\lambda_{1}, \ldots, \lambda_{n}$ являются собственными значениями матрицы $\Lambda$.
В нелинейной системе (4.18.3) сделаем замену переменной
\[
\tilde{\boldsymbol{x}} \equiv \boldsymbol{y}-\boldsymbol{\eta}(t)=\Phi(t) \boldsymbol{z} .
\]

Тогда, учитывая, что
\[
\begin{array}{l}
\dot{\Phi}(t)=\frac{d}{d t}\left[X(t) e^{-\Delta t}\right]=\dot{X}(t) e^{-\Delta t}-X(t) e^{-\Lambda t} \Lambda= \\
\quad=f_{y}^{\prime}(t, \eta(t)) X(t) e^{-\Delta t}-X(t) e^{-\Lambda t} \Lambda=f_{y}^{\prime}(t, \eta(t)) \Phi(t)-\Phi(t) \Lambda,
\end{array}
\]

будем иметь
\[
\begin{array}{l}
\Phi(t) \frac{d \boldsymbol{z}}{d t}+\left[f_{y}^{\prime}(t, \eta(t)) \Phi(t)-\Phi(t) \Lambda\right] \boldsymbol{z}= \\
=f_{\mathbf{y}}^{\prime}(t, \boldsymbol{\eta}(t)) \Phi(t) \boldsymbol{z}+\boldsymbol{r}(t, \Phi(t) \boldsymbol{z})
\end{array}
\]

или
\[
\frac{d z}{d t}=\Lambda \boldsymbol{z}+\Phi^{-1}(t) \boldsymbol{r}(t, \Phi(t) \boldsymbol{z}),
\]

где

Отсюда на основании теоремы Ляпунова для квазилинейных систем ( $§ 10$ ) заключаем, что тривиальное решение $\boldsymbol{z}=\mathbf{0}$ системы (4.18.7) асимптотически устойчиво, что в силу формулы (4.18.6) эквивалентно асимптотической устойчивости периодического решения $\boldsymbol{\eta}=\boldsymbol{\eta}(t)$.