Наряду с системой
\[
\frac{d x_{i}}{d t}=\sum_{k=1}^{n} a_{i k} x_{k}+X_{i}\left(x_{1}, \ldots, x_{n}\right), \quad i=1,2, \ldots, n,
\]

рассмотрим систему
\[
\frac{d x_{i}}{d t}=\sum_{k=1}^{n} a_{i k} x_{k}, \quad i=1,2, \ldots, n .
\]

Предположим, что $X_{i}(0, \ldots, 0)=0$ и
\[
\sum_{i=1}^{n} X_{i}^{2}\left(x_{1}, \ldots, x_{n}\right) \leqslant A^{2}\left(\sum_{i=1}^{n} x_{i}^{\mathrm{i}}\right)^{1+\alpha},
\]

где $\alpha>0, A$ – положительная постоянная. Систему (11.2) будем называть системой первого приближения.

Поставим задачу выяснения условић, при выполнении которых из устойчивости или неустофчивости системы первого приближения вытекает соответственно устойчивость или неустойчивость нулевого решения системы (11.1).

Лемма 11.1. Пусть w-знакоопределенная квадратичная борма, v-произвольная квадратичная борма. Функция $w+\sum_{i=1}^{n} \frac{\partial v}{\partial x_{i}} X_{i}$ будет знакоопределенной, совпадающей по знаку с в в некоторой окрестности начала координат.
Согласно (10.3) имеем
\[
\rho_{1} r^{2} \leqslant w \leqslant \rho_{n} r^{2},
\]

где $p_{1}$ – наименьшее, $p_{n}$ – наибольшее собственные числа формы $w, r=\left(\sum_{i=1}^{n} x_{i}^{q}\right)^{1 / 2}$. Так как $\sum_{i=1}^{n}\left(\frac{\partial v}{\partial x_{i}}\right)^{2}$ – тоже квадратичная форма, то имеем
\[
\Delta_{1}^{2} r^{2} \leqslant \sum_{i=1}^{n}\left(\frac{\partial v}{\partial x_{i}}\right)^{2} \leqslant \Delta_{n}^{2} r^{2}
\]

где $\Delta_{1}^{2}, \Delta_{n}^{2}$ – собственные числа указанной формы. Из неравенства Буняковского-Шварца и (11.3) следует
\[
\left|\sum_{i=1}^{n} \frac{\partial v}{\partial x_{i}} X_{i}\right| \leqslant\left(\sum_{i=1}^{n}\left(\frac{\partial v}{\partial x_{i}}\right)^{2}\right)^{1 / 2}\left(\sum_{i=1}^{n} X_{i}^{2}\right)^{1 / 8} \leqslant A \Delta_{n} r^{\alpha+2} .
\]

Предположим, что $w$-определенно отрицательная форма. Имеем
\[
w+\sum_{i=1}^{n} \frac{\partial v}{\partial x_{i}} X_{i} \leqslant\left(\rho_{n}+A \Delta_{n} r^{\alpha}\right) r^{2}
\]

Если выбрать такую окрестность, в которой
\[
A \Delta_{n} r^{\alpha}<\left|\rho_{n}\right|,
\]

то получим требуемое неравенство
\[
w+\sum_{i=1}^{n} \frac{\partial v}{\partial x_{i}} X_{i}<0 \quad \text { при } \quad r
eq 0 .
\]

Если $ш>0$, то получим
\[
w+\sum_{i=1}^{n} \frac{\partial v}{\partial x_{i}} X_{i}>\left(\rho_{1}-A \Delta_{n} r^{\alpha}\right) r^{2}>0 \quad \text { при } \quad r
eq 0,
\]

если только $A \Delta_{n} r^{\alpha}<p_{1}$.
Теорема 11.1 (теорема об устоичивости по первому приближению). Если корни характеристического уравнения системы первого приближения имеют отрицательные вещественные части, то нулевое решение системы (11.1) асимптотически устойчиво.

В самом деле, согласно теореме 9.1 существует определенно положительная квадратичная форма $v$, производная которой в силу системы (11.2) равна – $r^{2}$. Производная функции $v$ в силу системы (11.1) имеет вид $\frac{d v}{d t}=-r^{2}+$ $+\sum_{i=1}^{n} \frac{\partial v}{\partial x_{i}} X_{i}$ и согласно лемме 11.1 будет также определенно отрицательной. Асимптотическая устойчивость теперь следует из теоремы 4.2 .

Теорема 11.2 (теорема онеустоичивости по первому приближению). Если среди корней характеристического уравнения системы первого приближения имеется хотя бы один с положительной вещественной частью, то нулевое решение системы (11.1) неустойчиво.

По теореме 9.3 существует квадратичная форма $v$, принимающая положительные значения и удовлетворяющая coorношению
\[
\frac{d v}{d \tau}=r^{2}+a v, \quad \alpha>0,
\]

где $\frac{d v}{d \tau}$ означает производную функции $v$, взятую в силу системы (і1.2). Беря производную функции $v$, в силу системы (11.1) получим
\[
\frac{d v}{d t}=r^{2}+\alpha v+\sum_{i=1}^{n} \frac{\partial v}{\partial x_{i}} X_{i}
\]

но из леммы 11.1 следует, что $r^{2}+\sum_{i=1}^{n} \frac{\partial v}{\partial x_{i}} X_{i}$ будет определенно положительной функцией. Неустойчивость теперь вытекает из теоремы 6.2 .
Рассмотрим несколько примеров.
1. Рассмотрим уравнение колебаний маятника
\[
\ddot{x}+a \dot{x}+b \sin x=0 .
\]

Ему соответствует система
\[
\dot{x}=y, \quad \dot{y}=-b \sin x-a y .
\]

Особые точки этой системы имеют координаты $x=k \pi$ ( $k$ – любое целое число), $y=0$. Используя разложение
\[
\sin x=x-\frac{x^{8}}{3 !}+\ldots \text {, }
\]

запишем систему первого приближения
\[
\dot{x}=y, \quad \dot{y}=-b x-a y,
\]

характеристическое уравнение которой имеет вид
\[
\lambda^{2}+a \lambda+b=0 .
\]

Если $a>0, b>0$, то корни имеют отрицательные вещественные части, и нулевое положение равновесия будет устойчивым по первому приближению.

Исследуем теперь на устойчивость точку ( $\pi, 0$ ). Используя разложение
\[
\sin x=-(x-\pi)+\frac{(x-\pi)^{3}}{3 !}-\ldots,
\]

запищем систему первого приближения:
\[
\dot{x}=y, \quad \dot{y}=b(x-\pi)-a y .
\]

Перенося начало координат в точку $x=\pi, y=0$, получим систему
\[
\dot{x}=y, \quad \hat{y}=b x-a y .
\]

Характеристическое уравнение имеет в данном случае вид
\[
\lambda^{2}+a \lambda-b=0 .
\]

При $a>0, b>0$ корни этого уравнения будут вещественными различных знаков, следовательно, точка $(\pi, 0)$ является неустойчивой точкой.
2. Рассмотрим теперь уравнение маятника, к которому приложен вращающий момент (см. § 7):
\[
\ddot{x}+a \dot{x}+b \sin x=L .
\]

Рассмотрим случай, когда $|L|<b$. В этом случае можно положить $L=b \sin x_{0}$, и уравнение (11.6) примет вид системы
\[
\dot{x}=y, \quad \dot{y}=-b\left(\sin x-\sin x_{0}\right)-a y .
\]

Особые точки определятся уравнениями $y=0, \sin x=\sin x_{0}$, следовательно, координаты $X_{0}, \quad Y_{0}$ особых точек будут иметь вид
\[
X_{0}=(-1)^{k} x_{0}+k \pi, \quad Y_{0}=0, \quad k=0,1,2, \ldots
\]

Используя разложение $\sin x$ в ряд Тейлора в окрестности точки $X_{0}$, запишем систему первого приближения:
\[
\dot{x}=y, \quad \dot{y}=-b \cos X_{0}\left(x-X_{0}\right)-a y .
\]

После переноса начала координат в точку $x=X_{0}, y=0$ получим систему
\[
\dot{X}=Y, \quad \dot{Y}=-b \cos X_{0} X-a Y .
\]

Характеристическое уравнение $\lambda^{2}+a \lambda+b \cos X_{0}=0$ этой системы имеет корни с отрицательными вещественными частями, если $a>0, b \cos X_{0}>0$. Если обусловлено, что $a>0$ и $b>0$, то условие устончивости будет иметь вид $\cos X_{0}>0$.
3. Рассмотрим систему
\[
\dot{x}=y-x y^{2}, \quad \dot{y}=-x^{3} .
\]

Система первого приближения имеет вид $\dot{x}=y, \dot{y}=0$, откуда следует $y=y_{0}, x=y_{0} t+x_{0}$. Таким образом, нулевое решение системы первого приближения неустойчиво. Однако так как оба корня характеристического уравнения равны нулю,
то мы не можем на основании теоремы 11.2 сделать вывод о неустойчивости нулевого решения системы (11.9). Более того, нулевое решение полной системы будет даже асимптотически устойчивым. В самом деле, производная функции Ляпунова $v=\frac{1}{4} x^{2}+\frac{1}{2} y^{2}$ в силу системы (11.9) имеет вид $\dot{v}=-x^{4} y^{2}$ и, следовательно, будет знакоотрицательной. Легко убедиться, что координатные оси $x=0, y=0$, на которых функция $\dot{v}$ обращается в нуль, не содержат целых траекторий, за исключением нулевого положения равновесия. Таким образом, здесь можно применить теорему 5.2 , из которой следует асимптотическая устойчивость.