Рассмотрим систему ( $n+2$ )-го порядка с постоянными коэффициентами, для которой харақтеристическое уравнение первого приближения имеет $n$ корней с отрицательными вещественными частями и два корня, равных нулю. Подходящим выбором переменных система может быть приведена к виду
\[
\left.\begin{array}{rl}
\frac{d x}{d t} & =q_{11} x+q_{12} y+X\left(x, y, x_{1}, \ldots, x_{n}\right), \\
\frac{d y}{d t} & =q_{21} x+q_{22} y+Y\left(x, y, x_{1}, \ldots, x_{n}\right), \\
\frac{d x_{s}}{d t}=p_{s 1} x_{1}+\ldots+p_{s n} x_{n}+p_{s} x+q_{s} y+X_{s}\left(x, y, x_{1}, \ldots, x_{n}\right) \\
\quad(s=1,2, \ldots, n),
\end{array}\right\}
\]

где коэффициенты $p_{s j}$ таковы, что характеристическое уравнение имеет корни только с отрицательными вещественными частями, а оба корня характеристического уравнения
\[
\left|\begin{array}{ll}
q_{11}-\lambda & q_{12} \\
q_{21} & q_{22}-\lambda
\end{array}\right|=0
\]

рав̈ны нулю. $X, Y$ и $X_{s}$ – сходящиеся в некоторой окрестности начала координат ряды, расположенные по степеням переменных $x, y$, $x_{1}, \ldots, x_{n}$, начинающиеся членами не ниже второго порядка.
Наряду с системой (94.1) рассмотрим систему второго порядка
\[
\begin{array}{l}
\frac{d x}{d t}=q_{11} x+q_{12} y+X\left(x, y, u_{1}, \ldots, u_{n}\right), \\
\frac{d y}{d t}=q_{21} x+q_{22} y+Y\left(x, y, u_{1}, \ldots, u_{n}\right),
\end{array}
\]

где $u_{s}(x, y)$ – формальные решения уравнений с частными производными (93.17). Обозначим соответственно через $X^{(m)}(x, y)$ и $Y^{(m)}(x, y)$ совокупности членов $m$-го порядка в правых частях уравнений (94.4) и заменим эти уравнения следующими:
\[
\left.\begin{array}{c}
\frac{d x}{d t}=q_{11} x+q_{12} y+X^{(2)}(x, y)+\cdots \\
\cdots+X^{(N)}(x, y)+\varphi(t, x, y), \\
\frac{d y}{d t}=q_{21} x+q_{22} y+Y^{(2)}(x, y)+\cdots \\
\cdots+Y^{(N)}(x, y)+\psi(t, x, y) .
\end{array}\right\}
\]

Здесь $N$-достаточно большое целое число, а $\varphi(t, x, y)$ и $\psi(t, x, y)$ – аналитические функции переменных $x$ и $y$, которые при всех $t \geqslant 0$ удовлетворяют неравенствам
\[
\left.\begin{array}{l}
|\varphi(t, x, y)|<A\{|x|+|y|\}^{N+1}, \\
|\psi(t, x, y)|<A\{|x|+|y|\}^{N+1},
\end{array}\right\}
\]

где $A$ – положительная постоянная. Тогда на основании теоремы 3 предыдущего параграфа, если невозмущенное движение $x=y=0$ для системы (94.5) устойчиво или асимптотически устойчиво, или неустоичиво при любом выборе функций $\varphi$ и $\psi$, удовлетворяющих условиям (94.6), то это же самое будет справедливо и для невозмущенного движения $x=y=x_{1}=\ldots=x_{n}=0$ полной системы (94.1). Таким образом, задача сводится к исследованию системы (94.5).

Мы будем предполагать, что переменные $x$ и у выбраны таким образом, что линейная часть уравнений (94.5) имеет каноническую форму. Здесь приходится рассматривать два случая. В первом случае двойной нулевой корень не обращает в нуль хотя бы один из миноров $(n+1)$-го порядка характеристического определителя исходной системы уравнений возмущенного движения, или, что то же самое, этому корню отвечает одна група решений первого приближения этой системы. В этом случае, если линейная часть уравнений (94.5) имеет каноническую форму, то будем иметь $q_{11}=q_{12}=q_{22}=0$, $q_{21}=1$ и, следовательно, эта линеинная часть имеет вид
\[
\frac{d x}{d t}=0, \quad \frac{d y}{d t}=x .
\]

Вторым случаем будет тот, когда двойному нулевому корню отвечают две группы решений уравнений первого приближения. В этом случае все коэффициенты $q_{11}, q_{12}, q_{21}, q_{22}$ равны нулю и уравнения (94.5) имеют вид
\[
\left.\begin{array}{l}
\frac{d x}{d t}=X^{(m)}(x, y)+\cdots+X^{(N)}(x, y)+\varphi(t, x, y), \\
\frac{d y}{d t}=Y^{(m)}(x, y)+\cdots+Y^{(N)}(x, y)+\psi(t, x, y),
\end{array}\right\}
\]

где $m \geqslant 2$.
Первый из указанных случаев для системы второго порядка подробно рассмотрен А. М. Ляпуновым ${ }^{1}$ ). Для систем произвольного порядка этот случай исследован $\Gamma$. В. Каменковым ${ }^{2}$ ). Второй случай как для систем второго порядка так и для систем произвольного порядка рассмотрен автором ${ }^{3}$ ) и другим методом – Г. В. Каменковым. Мы ограничимся здесь рассмотрением второго случая. Этот случай является особенно важным, так как к нему приводятся наиболее интересные для практики другие критические случаи, когда характеристическое уравнение имеет чисто мнимые корни. В этом мы убедимся в двух следующих параграфах.

Итак, мы будем рассматривать задачу устойчивости-для системы (94.7). Рассмотрим две формы ( $m-1$ )-го порядка $P(x, y)$ и $G(x, y)$, определяемые равенствами
\[
\left.\begin{array}{l}
P(x, y)=x X^{(m)}(x, y)+y Y^{(m)}(x, y), \\
G(x, y)=x Y^{(m)}(x, y)-y X^{(m)}(x, y) .
\end{array}\right\}
\]

Эти формы будут играть важную роль в дальнейшем исследовании. Если форма $G(x, y)$ не является знакоопределенной, то
1) Ляпунов А. М., Исследование одного из особенных случаев задачи об устойчивости движения. Матем. с6., т. XVII, вып. 2, 1893. Работа переиздана во втором и третьем ( 1950 г.) изданиях книги: Ля пунов А. М., Общая задача об устойчивости движения.
${ }_{2}^{2}$ ) Каменков Г. В., Об устойчивости движения. Сб. трудов Казанского авиац. ин-та, № 9, 1939.
з) Малкин И. Г., Некоторые вопросы теории устойчивости движения в смысле Ляпунова. Сб. трудов Казанского авиац. ин-та, № 7, 1937.

уравнение
\[
G(x, y)=0
\]

определяет одну или несколько прямых, проходящих через начало координат.

Угловой коэффициент $k$ каждой такой прямой определяется, очевидно, уравнением
\[
Y^{(m)}(1, k)-k X^{(m)}(1, k)=0 .
\]

Число этих прямых не превосходит $m+1$.
Мы будем различать четыре с.уучая.
$1^{\circ}$. Форма $G$ не является знакоопределенной, и на всех прямых (94.9) форма $P$ может принимать только отрицательные значения (за исключением, конечно, начала координат).
$2^{\circ}$. Форма $G$ не является знакоопределенной, и хотя бы на одной прямой (94.9) форма $P$ может принимать положительные значения.
$3^{\circ}$. Форма $G$ знакоопределенна, и величина
\[
\lambda=\frac{1}{2 \pi} \int_{0}^{2 \pi} \frac{P(\cos \vartheta, \sin \vartheta)}{G(\cos \vartheta, \sin \vartheta)} d \vartheta
\]

отлична от нуля.
$4^{\circ}$. Форма $G$ знакоопределенна, и величина (94.11) равна нулю.
Мы исследуем каждый из этих случаев по отдельности.
Случай $1^{\circ}$. Рассмотрим систему однородных уравнений
\[
\frac{d x}{d t}=X^{(m)}(x, y), \quad \frac{d y}{d t}=Y^{(m)}(x, y) .
\]

В рассматриваемом случае уравнение (94.9) имеет вещественные решения. Каждая определяемая этим решением прямая является интегральной кривой уравнений (94.12). Действительно, согласко определению формы $G$ на каждой такой прямой имеем тождественно
\[
x \frac{d y}{d t}-y \frac{d x}{d t}=0 .
\]

Тождество (94.13) показывает также, что каждая проходящая через начало координат интегральная кривая необходимо касается одной из прямых (94.9).

По условию, на каждой прямой (94.9) форма $P$, представляющая собой, очевидно, для уравнений (94.12) производную по времени от выражения $\frac{1}{2}\left(x^{2}+y^{2}\right)$, принимает только отрицательные значения. Следовательно, движение по этим прямым, являющимся, как уже указывалось, интегральными кривыми уравнений (94.12), направлено к началу координат. Отсюда в силу непрерывности поля скоростей для уравнений (94.12) и того обстоятельства, что каждая интегральная кривая этих уравнений, праходящая через начало координат, касается одной из прямых (94.9), непосредственно вытекает, что все интегральные кривые уравнений (94.12) проходят через начало координат и движение по ним направлено к этой точке. Следовательно, невозмущенное движение для уравнений (94.12) асимптотически устойчиво. Но тогда на основании общей теоремы § 85 невозмущенное движение для уравнений (94.7) будет также асимптотически устойчиво при любом выборе функций $\varphi(t, x, y)$ и $\psi(t, x, y)$, удовлетворяющих условиям (94.6).

Итак, в случае $1^{\circ}$ невозмущенное движение асимптотически устойчиво.

Случай $2^{\circ}$. Допустим теперь, что уравнение (94.9) имеет попрежнему вещественные решения, но хотя бы на одной из прямых, определяемых этим уравнением, форма $P$ может принимать положительные значения. Не нарушая общности рассуждений, мы можем считать, что этой прямой является ось $x$. Действительно, этого всегда можно добиться простым поворотом осей координат. Но если уравнение (94.9) имеет решение $y=0$, то форма $Y^{(m)}$ должна обращаться в нуль при $y=0$. Мы можем, следовательно, писать:
\[
Y^{(m)}=B y x^{m-1}+B_{2} y^{2} x^{m-2}+\ldots+B_{m-1} y^{m-1} x+B_{m} y^{m} .
\]

Для формы $X^{(m)}$ имеем:
\[
X^{(m)}=A x^{m}+A_{1} y x^{m-1}+\ldots+A_{m-1} y^{m-1} x+A_{m} y^{m},
\]

причем коэффициент $A$ необходимо отличен от нуля, так как при $y=0$ форма $P$ может принимать положительные значения. Кроме того, при $m$ нечетном он должен быть положительным, а при $m$ четном он может быть как положительным, так и отрицательным. Но в последнем случае замена в дифференциальных уравнениях $x$ на – $x$ изменяет знак коэффициента $A$ на обратный. Поэтому, не нарушая общности рассуждений, мы можем предполагать, что коэффициент $A>0$ положителен.

Имея в виду доказать неустойчивость невозмущенного движения, мы постараемся в рассматриваемом случае построить для уравнений (94.7) функцию, удовлетворяющую условиям теоремы о неустойчивости Н. Г. Четаева (§ 48).
Рассмотрим с этой целью функцию
\[
2 V=\alpha^{2} x^{2}-y^{2},
\]

где $\alpha^{2}$ – некоторая положительная постоянная, и составим полную производную от этой функции по времени в силу уравнений (94.7). Будем иметь:
\[
\frac{d V}{d t}=\alpha^{2} x X^{(m)}-y Y^{(m)}+\ldots
\]

где ненаписанные члены имеют порядок, не меньший $m+2$.

Функция $V$ принимает положительные значения при $y=0$. То же самое будет иметь место и по отношению к функции $\frac{d V}{d t}$, если численные значения $x$ предполагать достаточно малыми и в случае четиого $m x>0$. Это непосредственно следует из того, что $X^{(m)}$ имеет вид (94.15), и коэффициент $A$ положителен. Следовательно, вблизи начала координат существует область, содержащая внутри себя ось $x$, где одновременно $V>0$ и $\frac{d V}{d t}>0$.

Установив это, допустим сначала, что $A>B$. Покажем, что в этом случае постоянную $\alpha$ можно выбрать настолько малой, чтобы область $V>0$ была заключена внутри области $\frac{d V}{d t}>0$.

В самом деле, функция $V$ может принимать положительные значения только при условии $y=\beta \alpha x$, где $\beta$ – произвольная величина, лежащая на отрезке $[-1,+1]$. Но, заменяя в выражении $\frac{d V}{d t}$ величину у через $\beta \alpha x$ и принимая во внимание (94.14) и (94.15), будем иметь:
\[
\left[\frac{d V}{d t}\right]_{y=\beta \alpha x}=(C+f) x^{m+1},
\]

где
\[
\begin{aligned}
C==\left(A-B \beta^{2}\right) \alpha^{2}+ & \left(A_{1} \beta-B_{2} \beta^{3}\right) \alpha^{3}+\cdots \\
& \cdots+\left(A_{m-1} \beta^{m-1}-B_{m} \beta^{m+1}\right) \alpha^{m+1}+A_{m} \beta^{m} \alpha^{m+2},
\end{aligned}
\]

а $f$-аналитическая функция $x$, обращающаяся в нуль при $x=0$. Отсюда следует, что при достаточно малом $x$ знак величины $(C+f) x^{m+1}$ совпадает со знаком величины $C$ (по крайней мере, при $x>0$ ). Что же касается знака величины $C$, то постоянную $\alpha$ можно выбрать настолько малой по абсолютному значению, чтобы знак $C$ совпадал со знаком величины $A-B \beta^{2}$. Но так как $A>B$ и $A>0$, то величина $A-B \beta^{2}$ будет положительной при всех значениях величины $\beta$ на отрезке $[-1,+1]$.

Таким образом, в достаточно малой окрестности начала координат существует область $V>0$, заключенная внутри области $\frac{d V}{d t}>0$. Следовательно, функция $V$ удовлетворяет всем условиям теоремы о неустойчивости Н. Г. Четаева и невозмущенное движение неустойчиво.

Допустим теперь, что $A<B$. В этом случае на границе области $V>0$ производная $\frac{d V}{d t}$ будет отрицательной, и, следовательно, функция $V$ не будет удовлетворять условиям теоремы Н. Г. Четаева. Тем не менее, невозмущенное движение будет также неустоичиво. что может быть доказано следующим образом,

Рассмотрим снова функцию (94.16), где $\alpha$, так же как и в предыдущем случае, выбрана настолько малой, что знак $(C+f) x^{m+1}$ при достаточно малых значениях $x$ совпадает со знаком величины $A-B \beta^{2}$. Пусть это будет при $0<x \leqslant h$. Так как сейчас $A<B$, то величина $A-B \beta^{2}$ не будет положительна при любом $\beta$ на отрезке $[-1,+1]$, но она во всяком случае будет положительна при $|\boldsymbol{\beta}| \leqslant \bar{\beta}$, где $\bar{\beta}$ – достаточно малое положительное число. Следовательно, в области $0<x \leqslant h, V_{1}>0$, где
\[
2 V_{1}=\bar{\beta}^{2} a^{2} x^{2}-y^{2},
\]

производная $\frac{d V}{d t}$ будет во всяком случае положительна. Что же касается производной $\frac{d V_{1}}{d t}$, то на границе $V_{1}=0$ рассматриваемои области она будет отрицательна, так как функция $V_{1}$ обладает, очевидно, такими же свойствами, как и $V$.

Пусть $A O B$ (рис. 21) – границы области $V>0$, а $A_{1} O B_{1} A_{1}-$ границы области $0 \leqslant x \leqslant h$, $V_{1}>0$. Внутри этой последней рассмотрим область $N M Q P$ (эта область на чертеже заштрихована), ограниченную отрезком $N P$ гиперболы $V=C$ и отрезком $M Q$ гиперболы $V=c$. ІІри этом $C$ какое-нибудь фиксированное число, а $c$ предполагается сколь угодно малым, так что дуга $M Q$ расположена сколь угодно близко от начала координат. Внутри области $N M Q P$ производная $\frac{d V}{d t}$ положительна, и для нее сущестРис. 21. вует отличный от нуля положительный нижний предел. Обозначим этот предел через $l$ и пусть $T=\frac{C}{l}$. Рассмотрим интегральную кривую уравнений (94.7), выходящую в момент времени $t=T$ из какой-нибудь точки $F$ дуги $N P$. Пусть $x=x(t)$ и $y=y(t)$ – уравнение этой интегральной кривой. Будем следовать вдоль этой интегральной кривой в сторону убывания $t$ вплоть до момента времени $t=0$. При этом интегральная кривая будет приближаться к началу координат, по крайней мере, до тех пор, пока она не покинет области $A_{1} O B_{1} A_{1}$, так как в этой области $\frac{d V}{d t}>0$. Но если бы указанная интегральная кривая в какойнибудь момент времени $0 \leqslant \tau<T$ покинула область $A_{1} O B_{1} A_{1}$, что она могла бы сделать лишь только через границы $O N$ или $O P$, то в зтот момент времени одновременно выполнялись бы условия $V_{1}=0$, $\frac{d V_{1}}{d t} \geqslant 0$, что невозможно, так как на отрезках $O A_{1}$ и $O B_{1}$ производная $\frac{d V_{1}}{d t}$ отрицательна.

Таким образом, на всем отрезке времени от $T$ до 0 рассматриваемая интегральная кривая будет оставаться внутри области $N O P N$. Допустим, что при $t=0$ она будет проходить через точку $E$. Покажем, что точка $E$ непременно находится внутри области $O M Q O$. Для этого, очевидно, достаточно показать, что при убывании $t$ от $T$ до 0 рассматриваемая интегральная кривая пересекает в какой-нибудь момент времени дугу $M Q$. Допустим противное, что интеградьная кривая при всех $0 \leqslant t \leqslant T$ находится внутри области $M Q N P$. Тогда будем иметь:
\[
\begin{aligned}
V[x(0), y(0)]=V[x(T), y(T)] & -\int_{0}^{T} \frac{d V}{d t} d t< \\
& <V[x(T), y(T)]-l T=C-C=0,
\end{aligned}
\]

что невозможно, так как по предположению точка $x(0), y(0)$ находится в области $M Q N P$ и, следовательно, $V[x(0), y(0)]>c>0$.

Таким образом, точка $E$ находится внутри области $O M Q$. Рассмотрим теперь интегральную кривую, выходящую в момент времени $t=0$ из точки $E$. Это, очевидно, будет та же самая интегральная кривая $x(t), y(t)$. К моменту времени $t=T$ эта кривая достигнет точки $F$, находященся на определенном расстоянии от начала координат. Но так как при этом точка $E$ находится сколь угодно близко от начала координат, то невозмущенное движение неустойчиво ${ }^{1}$ ).
Допустим, наконец, что $A=B$. Рассмотрим функцию

и область
\[
\begin{array}{c}
2 V=x^{4}-y^{2} \\
0<x \leqslant h, \quad V>0 .
\end{array}
\]

Все значения переменных, лежащих в этой области, удовлетворяют соотношению $y=\beta x^{2}$, где $\beta$ – произвольная величина, лежащая на отрезке $[-1,+1]$. Составим производную от $V$ по времени в силу уравнений (94.7) и заменим в ней величину у через $\beta x^{2}$. Тогда, $\qquad$
1) Построенные нами функции $V_{1}$ и $V_{2}$ удовлетворяют другой теореме Н. Г. Четаева о неустойчивости.

принимая во внимание (94.14) и (94.15), получим:
\[
\left[\frac{d V}{d t}\right]_{y=\beta x^{2}}=x^{m+3}\left(2 A-B \beta^{2}-p+f\right),
\]

где $p$ – коэффициент при $x^{m+1}$ в форме $X^{(m+1)}$, а $f$-аналитическая функция переменной $x$, обращающаяся в нуль при $x=0$.

Коэффициент $p$ можно предполагать сколь угодно малым. В самом деле, если в уравнениях (94.7) переменную у заменить переменной $\eta$ при помощи подстановки $\eta=\sigma y$, где $\sigma$-постоянная, то в формах $X^{(m)}$ и $Y^{(m)}$ коэффициенты $A$ и $B$ не изменятся, а в форме $X^{(m+1)}$ коэффициент при $x^{m+1}$ умножится на $\sigma$. Следовательно, выбрав $\sigma$ достаточно малой, можно всегда добиться, чтобы этот коэффициент был численно сколь угодно малым.

Так как $A>0, B=A$ и $p$ численно мало, то вблизи начала координат величина $\left[\frac{d V}{d t}\right]_{y=\beta x^{2}}$ будет принимать положительные значения (при $x>0$, если $m$-четное) при всех значениях $\beta$, лежащих на отрезке $[-1,+1]$. Следовательно, при $h$, достаточно малом, во всей области (94.17) производная $\frac{d V}{d t}$ принимает положительные значения и функция $V$ удовлетворяет всем условиям теоремы Н. Г. Четаева. Отсюда вытекает, что невозмущенное движение неустойчиво.

Итак, в случае $2^{\circ}$ невозмущенное движение неустойчиво. При этом очевидно, что это будет справедливо при любом выборе функций $\varphi(t, x, y)$ и $\psi(t, x, y)$, удовлетворяющих условиям (94.6).

Случай $3^{\circ}$. Допустим теперь, что $G$ есть форма знакоопределенная и величина $\lambda$, определяемая равенством (94.11), отлична от нуля. Вводя полярные координаты
\[
x=r \cos \vartheta, y=r \sin \vartheta,
\]

преобразуем систему (94.7) к следующему виду:
\[
\left.\begin{array}{rl}
\frac{d r}{d t}= & r^{m} P(\cos \vartheta, \sin \vartheta)+ \\
& \quad+r^{m+1} P_{m+1}(\vartheta)+\ldots+r^{N} P_{N}(\vartheta)+R(t, \vartheta, r), \\
\frac{d \vartheta}{d t}= & r^{m-1} G(\cos \vartheta, \sin \vartheta)+ \\
& \quad+r^{m} G_{m}(\vartheta)+\ldots+r^{N-1} G_{N-1}(\vartheta)+\theta(t, \vartheta, r),
\end{array}\right\}
\]

где $P_{k}$ и $G_{k}-$ периодические функции $\vartheta$, периода $2 \pi$ (формы относительно $\cos \vartheta$ и $\sin \vartheta)$, а $R(t, \vartheta, r)$ и $\theta(t, \vartheta, r)$ при всех значениях $t \geqslant 0$ и $\vartheta$ удовлетворяют условиям
\[
|R(t, \vartheta, r)|<B r^{N+1},|\theta(t, \vartheta, r)|<B r^{N},
\]

где $B$ – некоторая постоянная.

Из (94.11) следует, что функция $\psi(\vartheta)$, определяемая равенством
\[
\int_{0}^{\theta} \frac{P(\cos \vartheta, \sin \vartheta)}{G(\cos \vartheta, \sin \vartheta)} d \vartheta=\lambda \vartheta+\psi(\vartheta),
\]

являющаяся вследствие знакоопределенности $G$ непрерывной, будет периодической периода $2 \pi$. Такой же, следовательно, будет и функция
\[
\varphi(\vartheta)=e^{\psi(\vartheta)},
\]

которая к тому же никогда не обращается в нуль. Вследствие этого функция $[\varphi(\vartheta)]^{-1}$ будет также непрерывной. Из (94.20) находим:
\[
\frac{d \varphi}{d \vartheta}=\left(\frac{P(\cos \vartheta, \sin \vartheta)}{G(\cos \vartheta, \sin \vartheta)}-\lambda\right) \varphi
\]

Введем теперь вместо переменной $r$ переменную $\rho$ при помощи подстановки
\[
r=\rho \varphi(\vartheta) .
\]

Из отмеченных свойств функции $\varphi(\vartheta)$ вытекает, что задача устойчивости по отношению к переменной $r$ равносильна той же задаче по отношению к переменной $\rho$. Уравнения (94.18) на основании (94.22) примут вид
\[
\left.\begin{array}{rl}
\frac{d \rho}{d t}= & \lambda G(\cos \vartheta, \sin \vartheta) \varphi^{m-1}(\vartheta) \rho^{m}+ \\
& +P_{m+1}^{*}(\vartheta) \rho^{m+1}+\ldots+P_{N}^{*}(\vartheta) \rho^{N}+R^{*}(t, \vartheta, \rho), \\
\frac{d \vartheta}{d t}= & G(\cos \vartheta, \sin \vartheta) \varphi^{m-1}(\vartheta) \rho^{m-1}+ \\
& +Q_{m}(\vartheta) \rho^{m}+\ldots+Q_{N-1}(\vartheta) \rho^{N-1}+\theta^{*}(t, \vartheta, \rho),
\end{array}\right\}
\]

где $P_{k}^{*}(\vartheta)$ и $Q_{k}(\vartheta)$ – периодические функции $\vartheta$, периода $2 \pi$, а функции $R^{*}$ и $\theta^{*}$ при всех значениях $t \geqslant 0$ и $\vartheta$ удовлетворяют неравенствам
\[
\left|R^{*}(t, \vartheta, \rho)\right|<C \rho^{N+1}, \quad\left|\theta^{*}(t, \vartheta, \rho)\right|<C \rho^{N},
\]

где $C$ – некоторая постоянная.
Так как $G(\cos \vartheta, \sin \vartheta)$ никогда не обращается в нуль, то из первого уравнения (94.24) сразу вытекает, что невозмущенное движение при $\lambda G<0$ асимптотически устойчиво, а при $\lambda G>0$ неустойчиво, и это будет иметь место при любом выборе функций $R^{*}$ и $\theta^{*}$, удовлетворяющих условиям (94.25) и, следовательно, при любом выборе функший $\varphi(t, x, y)$ и $\psi(t, x, y)$, удовлетворяющих условиям (94.6).

Итак, в случае $3^{\circ}$ невозмущенное движение будет асимптотически устойчиво при $\lambda G<0$ и неустойчиво при $\lambda G>0$.

Случаи 4. Допустим, наконец, что $G$ есть форма знакоопределенная и величина $\lambda$, определяемая формулой (94.11), равна нулю. Поступая, как и в предыдущем случае, т. е. вводя полярные координаты и затем переменную $\rho$ при помощи подстановки (94.23), мы получим уравнения (94.24), которые сейчас примут вид
\[
\left.\begin{array}{r}
\frac{d \rho}{d t}=P_{m+1}^{*}(\vartheta) \rho^{m+1}+\ldots+P_{N}^{*}(\vartheta) \rho^{N}+R^{*}(t, \vartheta, \rho), \\
\frac{d \vartheta}{d t}=G(\cos \vartheta, \sin \vartheta) \varphi^{m-1}(\vartheta) \rho^{m-1}+Q_{m}(\vartheta) \rho^{m}+\ldots \\
\ldots+Q_{N-1}(\vartheta) \rho^{N-1}+\theta^{*}(t, \vartheta, \rho) .
\end{array}\right\}
\]

Отсюда, исключая $d t$, находим:
\[
\frac{d \rho}{d \vartheta}=R_{2}(\vartheta) \rho^{2}+\ldots+R_{N+1-\eta}(\vartheta) \rho^{N+1-m}+\Phi(t, \vartheta, \rho),
\]

где $R_{k}(\vartheta)$ – периодические функции $\vartheta$ с периодом $2 \pi$, а Ф имеет порядок малости не ниже $N+2-m$ и является функцией такого же типа, как и $R^{*}$ и $\theta^{*}$.

Если в уравнении (94.27) отбросить член $\Phi$, то оно будет отличаться от уравнения (66.1), подробно изученного в § 66, только тем, что независимой переменной является не время, а полярный угол $\vartheta$. Мы можем поэтому применить к уравнению (94.27) все рассуждения § 66. Поступая по указанному в этом параграфе второму способу решения задачи, попытаемся удовлетворить уравнению (94.27) решением вида
\[
\rho=c+\varphi_{2}(\vartheta) c^{2}+\varphi_{3}(\vartheta) c^{3}+\ldots,
\]

где $c$-произвольная постоянная, а $\varphi_{k}$ – некоторые периодические функции $\vartheta$, периода $2 \pi$. Подставляя (94.28) в (94.27) и приравнивая коэффициенты при одинаковых степенях $c$, мы получим для определения $\varphi_{k}$ уравнения вида
\[
\frac{d \varphi_{k}}{d t}=F_{k}(\vartheta) \quad(k=2,3, \ldots),
\]

где $F_{k}(\vartheta)$ – некоторые полиномы с периодическими коэффициентами (если ${ }^{k}<N+1-m$ ) от $\varphi_{2}, \ldots, \varphi_{k-1}$. Уравнения (94.29) дают возможность последовательно определять коэффициенты $\varphi_{k}$ при помощи квадратур. Однако кроме особо исключительных случаев, которые мы здесь не будем рассматривать, коэффициенты $\varphi_{k}$ не будут получаться периодическими при любом $k$. Пусть $\varphi_{i}$ – первый непериодический коэффициент в ряду $\varphi_{2}, \varphi_{3}, \ldots$ Этот коэффициент будет иметь вид
\[
\varphi_{i}=g \vartheta+\psi_{i}(\vartheta),
\]

где $g$ – некоторая постоянная, а $\psi_{i}(\vartheta)$ – периодическая функция. Введем теперь в уравнение (94.27) вместо переменной $\rho$ переменную $z$ при помощи подстановки
\[
\rho=z+\varphi_{2}(\vartheta) z^{2}+\ldots+\varphi_{i-1}(\vartheta) z^{i-1}+\psi_{i}(\vartheta) z^{i} .
\]

Тогда, считая, что $N>i+m-1$, мы получим, как это было показано в $\S 66$, следующее уравнение:
\[
\frac{d z}{d \vartheta}=g z^{i}+\ldots
\]

где ненаписанные члены имеют порядок, не меньший $i+1$. При этом очевидно, что задача устойчивости по отношению к переменной $z$ эквивалентна той же задаче по отнощению к переменной $\rho$.
Для производной $\frac{d z}{d t}$ на оснсвании (94.26) имеем:
\[
\frac{d z}{d t}=\frac{d z}{d \theta} \frac{d \vartheta}{d t}=g G(\cos \vartheta, \sin \vartheta) \varphi^{m-1} \rho^{m+i-1}+\ldots
\]

Отсюда непосредственно вытекает, что при $g G>0$ невозмущенное движение неустойчиво, а при $g G<0$ оно устойчиво асимптотически, причем этот результат будет справедлив при любом выборе функций $\varphi(t, x, y), \psi(t, x, y)$, удовлетворяющих условиям (94.6). Это и дает решение задачи устончивости в случае $4^{\circ}$.
Полученные результаты могут быть сведены в следующую теорему. теорема. Допустим, что предложена система $(n+2)$-го по рядка дифференцальных уравнений возмущенного движения, для которых характеристическое уравнение первого приближения имеет $n$ корней с отрицательными вещественными частями и двойной нулевой корень, которому соответствуют две г руппы решений уравнений первого приближения. Подходящим выбором переменных эту систему можно представить в следующем виде:
\[
\left.\begin{array}{c}
\frac{d x}{d t}=X, \quad \frac{d y}{d t}=Y, \\
\frac{d x_{s}}{d t}=p_{s 1} x_{1}+\ldots+p_{s n} x_{n}+p_{s} x+q_{s} y+X_{s},
\end{array}\right\}
\]

где $X, Y, X_{s}$-аналитические функиии переменных $x, y$, $x_{1}, \ldots, x_{n}$, разложения которых начинаются членами не ниже второго порядка, а коэффициенты $p_{s j}$ таковы, что уравнение (94.2) имеет корни только с отрицательными вещественными частями.
Составляя састему уравнений с частными производными
\[
\begin{array}{l}
\frac{\partial u_{s}}{\partial x} X\left(x, y, u_{1}, \ldots, u_{n}\right)+\frac{\partial u_{s}}{\partial y} Y\left(x, y, u_{1}, \ldots, u_{n}\right)= \\
\quad=p_{s 1} u_{1}+\ldots+p_{s n} u_{n}+p_{s} x+q_{s} y+X_{s}\left(x, y, u_{1}, \ldots, u_{n}\right),
\end{array}
\]

попыт аемся удовлетво рить ей бормально вы ражениями $u_{s}(x, y)$, являющимися рядами по степеням $х$ и, не имеющими свободных членов. Такие ряды всегда найдутся и будут единственными. Этими рядами заменяем величины $x_{s}$ в первых двух уравнениях (94.31), после чего они примут вид
\[
\left.\begin{array}{l}
\frac{d x}{d t}=X^{(m)}(x, y)+X^{(m+1)}(x, y)+\ldots \\
\frac{d y}{d t}=Y^{(m)}(x, y)+Y^{(m+1)}(x, y)+\ldots .
\end{array}\right\}
\]
составляем бормы $P(x, y)$ и $G(x, y)$ по формулам (94.8). Тогда:
1) Если форма Gне является знакоопределенной и форма $P$ на всех прямых, определяемых уравнением (94.9), может пинимать только отрицательние значения. то невозмущенное движение асимптотически устойчиво.
2) Если форма $G$ не является знакоопределенной и хотя бы на одной из прямых, определяемых уравнением (94.9), форма $P$ может прнимать положительные значения, то невозмущенное движение неустойчиво.
3) Если форма $G$ является знакоопределенной и величина $\lambda$, определяемая бормулой (94.11), отлична от нуля, то невозмущенное движение асамптотически устойчиво $n р и \quad \lambda G<0$ и неустойчиво при $\lambda G>0$.
4) Если форма $G$ является знакоопределенной и $\lambda=0$, то для решения задачи устойчивости поступаем следующим об разом.

Вводим в уравнения (94.32) вместо переменных $x$ у переменные $\rho$ и пра помощи подстановки $x=\rho \varphi(\vartheta) \cos \vartheta, y=$ $=\rho \varphi(\vartheta) \sin \vartheta$, где $\varphi-$ периодическая с периодом $2 \pi$ функция $\vartheta$, определяемая бормулой (94.21), в которой $\psi(\vartheta)$ определяется обормулой $(94,20)$. Уравнения (94.32) примут вид
\[
\left.\begin{array}{l}
\frac{d \rho}{d t}=P_{m+1}(\vartheta) \rho^{(m+1)}+P_{m+2}(\vartheta) \rho^{m+2}+\ldots \\
\frac{d \vartheta}{d t}=G(\cos \vartheta, \sin \vartheta) \varphi^{m-1}(\vartheta) \rho^{m-1}+Q_{m}(\vartheta) \rho^{m}+\ldots
\end{array}\right\}
\]

где $P_{k}$ и $Q_{k}$ – периодические функции $\vartheta$, периода $2 \pi$.
Из (94.33), исключая $t$, находим уравнение
\[
\frac{d \rho}{d \vartheta}=R_{2}(\vartheta) \rho^{2}+R_{3}(\vartheta) \rho^{3}+\ldots
\]

где $R_{k}$ – периодические бункции периода $2 \pi$. Этому уравнению пытаемся удовлетворить решеншем вида (94.28), в которои с-произвольная постоянная, а $\varphi_{k}$-периодические функиии периода 2л. Для определения $\varphi_{k}$ получаем уравнения (94.29), из которых эти функции последовательно определяются при помой квадратур. Функции $\varphi_{k}$ лишь только в особо исключительных случаях будут все получаться периодическими. Оставляя в стороне этот слуиай, допустим, что $\varphi_{i}$ является первой непериодической функцией в ряду $\varphi_{2}, \varphi_{3}, \ldots$ Эта функция будет необходимо иметь вид (94.30). Тогда, если $g G>0$, то невозмущенное движение неустойчиво, а при $g G<0$ оно устойчиво асимптотически.

Доказанная теорема охватывает все случаи, кроме тех, при которых форма $G$ не является знакоопределенной, а форма $P$ обращается в нуль на некоторых прямых, определяемых уравнением (94.9), но ни на одной из этих прямых она не может принимать положительных значений. В этих случаях, так же как и в случае $4^{\circ}$, задача не решается формами $X^{(m)}$ и $Y^{(m)}$ в уравнениях (94.32), а требует рассмотрения членов более высоких порядков. На этих случаях мы здесь не останавливаемся ${ }^{1}$ ).