Рассмотрим систему ( $n+4$ )-го порядка с постоянными коэффициентами, для которой характеристическое уравнение первого приближения имеет две пары чисто мнимых корней $\pm \lambda_{1} l$ и $\pm \lambda_{2} l$ и $n$ корней с отрицательными вещественными частями. Мы будем предполагать, что отношение $\frac{\lambda_{1}}{\lambda_{2}}$ иррационально. Подходящим выбором переменных эту систему можно представить в виде
\[
\left.\begin{array}{c}
\frac{d x_{j}}{d t}=\lambda_{j} i x_{j}+X_{j}\left(x_{1}, y_{1}, x_{2}, y_{2}, z_{1}, \ldots, z_{n}\right), \\
\frac{d y_{j}}{d t}=-\lambda_{j} i y_{j}+Y_{j}\left(x_{1}, y_{1}, x_{2}, y_{2}, z_{1}, \ldots, z_{n}\right), \\
\frac{d z_{s}}{d t}=p_{s 1} z_{1}+\ldots+p_{s n} z_{n}+\alpha_{s} x_{1}+\beta_{s} y_{1}+\gamma_{s} x_{2}+\delta_{s} y_{2}+ \\
\quad+Z_{s}\left(x_{1}, y_{1}, x_{2}, y_{2}, z_{1}, \ldots, z_{n}\right) \\
(j=1,2 ; s=1,2, \ldots, n),
\end{array}\right\}
\]

где коэффициенты $p_{s i}$ таковы, что уравнение
\[
\left|p_{s i}-\delta_{s i} \rho\right|=0
\]
1) См. примечание в конце книги (стр. 530).
2) Малкин И. Г., Решение некоторых критических случаев задачи устойчивости движения. Прикл. матем. и мех., т. ХV. вып. 5, 1951.

имеет корни только с отрицательными вещественными частями. Функции $X_{j}, Y_{j}, Z_{s}$, как обычно, предполагаются аналитическими с разложениями, начинающимися членаии не ниже второго порядка.
Наряду с системой (95.1) рассмотрим «укороченную» систему
\[
\left.\begin{array}{c}
\frac{d x_{j}}{d t}=\lambda_{j} i x_{j}+X_{j}\left(x_{1}, y_{1}, x_{2}, y_{2}, u_{1}, \ldots, u_{n}\right), \\
\frac{d y_{j}}{d t}=-\lambda_{j} i y_{j}+Y_{j}\left(x_{1}, y_{1}, x_{2}, y_{2}, u_{1}, \ldots, u_{n}\right) \\
(j=1,2),
\end{array}\right\}
\]

где $u_{s}\left(x_{1}, y_{1}, x_{2}, y_{2}\right)$ – ряды по степеням переменных $x_{1}, y_{1}, x_{2}, y_{2}$, не имеющие свободных членов и представляюцие формальные решения уравнений с частными производными:
\[
\begin{array}{c}
\sum_{j=1}^{2}\left[\frac{\partial u_{s}}{\partial x_{j}} \lambda_{j} i x_{j}+X_{j}\left(x_{1}, y_{1}, x_{2}, y_{2}, u_{1}, \ldots, u_{n}\right)+\right. \\
\left.+\frac{\partial u_{s}}{\partial y_{j}}-\lambda_{j} i y_{j}+Y_{i}\left(x_{1}, y_{1}, x_{2}, y_{2}, u_{1}, \ldots, u_{n}\right)\right]= \\
=p_{s 1} u_{1}+\ldots+p_{s n} u_{n}+\alpha_{s} x_{1}+\beta_{s} y_{1}+\gamma_{s} x_{2}+\delta_{s} y_{2}+ \\
\quad+Z_{s}\left(x_{1}, y_{1}, x_{2}, y_{2}, u_{1}, \ldots, u_{n}\right) \\
(s=1,2, \ldots, n) .
\end{array}
\]

Пусть $X_{j}^{(m)}, Y_{j}^{(m)}$ – формы $m$-го порядка переменных $x_{1}, y_{1}$, $x_{2}, y_{2}$, представляющие, соответственно, члены $m$-го порядка в правых частях уравнений ((95.2). Рассмотрим систему
\[
\left.\begin{array}{c}
\frac{d x_{j}}{d t}=\lambda_{j} i x_{j}+X_{j}^{(2)}+\ldots+X_{j}^{(N)}+\varphi_{j}\left(t, x_{1}, y_{1}, x_{2}, y_{2}\right), \\
\frac{d y_{j}}{d t}=-\lambda_{j} i y_{j}+Y_{j}^{(2)}+\ldots+Y_{j}^{(N)}+\psi_{j}\left(t, x_{1}, y_{1}, x_{2}, y_{2}\right) \\
(j=1,2),
\end{array}\right\}
\]

где $N$ – сколь угодно большое целое число, а $\varphi_{j}$ и $\psi_{j}$-зависящие от $t$ аналитические функции перєменных $x_{1}, y_{1}, x_{2}, y_{2}$, удовлетворяющие при всех $t \geqslant 0$ в некоторои окрестности начала координат условиям
\[
\left.\begin{array}{l}
\left|\varphi_{j}\left(t, x_{1}, y_{1}, x_{2}, y_{2}\right)\right|<A\left\{\left|x_{1}\right|+\left|y_{1}\right|+\left|x_{2}\right|+\left|y_{2}\right|\right\}^{N+1}, \\
\left|\psi_{j}\left(t, x_{1}, y_{1}, x_{2}, y_{2}\right)\right|<A\left\{\left|x_{1}\right|+\left|y_{1}\right|+\left|x_{2}\right|+\left|y_{2}\right|\right\}^{N+1},
\end{array}\right\}
\]

где $A$ – некоторая постоянная. Если невозмущенное движение $x_{1}=$ $=y_{1}=x_{2}=y_{2}=0$ для системы (95.3) будет устойчиво или асимптотически устойчиво, или неустойчиво при любом выборе функций $\varphi_{j}$ и $\psi_{j}$, то согласно $\S 93$ невозмущенное движение $x_{1}=y_{1}=x_{2}=$ $=y_{2}=z_{1}=\ldots=z_{n}=0$ для системы (95.1) будет также соответственно, устойчиво или асимптотически устойчиво, или неустойчиво. Таким ббразом, задача сводится к исследованию системы (95.3).

Заметим прежде всего, что переменные $x_{j}$ и $y_{j}$ являются комплексно сопряженными. Поэтому вторая группа уравнений (95.3) может быть получена из первой заменой $i$ на $-i, x_{j}$ на $y_{j}, y_{j}$ на $x_{j}$. Этим обстоятельством мы неоднократно будем пользоваться в дальнейшем.

Введем теперь в уравнения (95.3) вместо переменных $x_{1}, y_{1}$, $x_{2}, y_{2}$ переменные $u_{1}, v_{1}, u_{2}, v_{2}$ при помощи подстановки
\[
\begin{array}{l}
x_{j}=u_{j}+u_{j}^{(2)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)+\ldots+u_{j}^{(N)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right) \text {, } \\
\left.\begin{array}{c}
y_{j}=v_{j}+v_{j}^{(2)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)+\ldots+v_{j}^{(N)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right) \\
(j=1,2)
\end{array}\right\} \\
\end{array}
\]

где $u_{j}^{(m)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)$ и $v_{j}^{(m)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)$ – некоторые подлежащие определению формы $m$-го прядка переменных $u_{1}, v_{1}, u_{2}, v_{2}$. Эти формы мы постараемся подобрать таиим образом, чтобы преобразованные уравнения приняли вид
\[
\left.\begin{array}{c}
\frac{d u_{j}}{d t}=\lambda_{j} i u_{j}+\sum_{k=1}^{\frac{1}{2}(N-1)} U_{j}^{(2 k+1)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)+\Phi_{j}\left(t, u_{1}, v_{1}, u_{2}, v_{2}\right), \\
\frac{d v_{j}}{d t}=-\lambda_{j} i v_{j}+\sum_{k=1}^{\frac{1}{2}(N-1)} \bar{U}_{j}^{(2 k+1)}\left(v_{1}, u_{1}, v_{2}, u_{2}\right)+\Psi_{j}\left(t, u_{1}, v_{1}, u_{2}, v_{2}\right) \\
(j=1,2) .
\end{array}\right\}
\]

Здесь функции $\Phi_{j}$ и $\Psi_{j}$ начинаются членами не ниже $(N+1)$-го порядка (число $N$ предполагаем нечетным), $U_{j}^{(m)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)$ и $\bar{U}_{j}^{(m)}\left(v_{1}, u_{1}, v_{2}, u_{2}\right)$ – формы $m$-го порядка переменных $u_{1}, v_{1}, u_{2}, v_{2}$. Черта над буквой обозначает комплексную сопряженность, так что формы $\bar{U}_{j}^{(m)}\left(v_{1}, u_{1}, v_{2}, u_{2}\right)$ получаются из $U_{j}^{(m)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)$ заменой $i$ на $-i, u_{j}$ на $v_{j}$ и $v_{j}$ на $u_{j}$, т. е. если
\[
\begin{array}{c}
U_{j}^{(m)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)=\sum A_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)} u_{1}^{m_{1}} v_{1}^{m_{2}} u_{2}^{n_{1}} v_{2}^{n_{2}} \\
\left(j=1,2 ; m_{1}+m_{2}+n_{1}+n_{2}=m\right),
\end{array}
\]
ro
\[
\begin{array}{c}
\bar{U}_{j}^{(m)}\left(v_{1}, u_{1}, v_{2}, u_{2}\right)=\sum \bar{A}_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)} v_{1}^{m_{1}} u_{1}^{m_{2}} v_{2}^{n_{1}} u_{2}^{n_{2}} \\
\left(j=1,2 ; m_{1}+m_{2}+n_{1}+n_{2}=m\right) .
\end{array}
\]

Формы $U_{j}^{(m)}$, кроме того, таковы, что
\[
\begin{array}{l}
A_{1}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}=0, \text { если }\left(n_{1}-n_{2}\right)^{2}+\left(m_{1}-m_{2}-1\right)^{2}
eq 0 ; \\
A_{2}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}=0, \text { если }\left(m_{1}-m_{2}\right)^{2}+\left(n_{1}-n_{2}-1\right)^{2}
eq 0,
\end{array}
\]

так что из всех коэффициентов $A_{1}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$ отличными от нуля являются лишь те, для. которых одновременно $n_{1}=n_{2}$ и $m_{1}-m_{2}=1$, а из коэффициентов $A_{2}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$ отличными от нуля будут лишь те, для которых одновременно $m_{1}=m_{2}, n_{1}-n_{2}-1=0$.

Мы сейчас покажем, что эти условия могут быть удовлетворены и что они определяют как формы $u_{j}^{(m)}, v_{j}^{(m)}$, так и коэффициенты $A_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$, причем все эти величины определяются крайне простыми вычислениями, так как дія каждого коэффициента форм $u_{j}^{(m)}, v_{j}^{(m)}$ и для каждого коэффициента $A_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$ получится линейное алгебраическое уравнение с одной неизвестной

Заметим прежде всего, что, как показывают уравнения (95.6), вторая группа этих уравнений должна получиться (по крайней мере, с точностью до членов $N$-го порядка) из первой группы заменой $i$ на $-i, u_{j}$ на $v_{j}, v_{j}$ на $u_{j}$, т. е. переменные $u_{j}$ и $v_{j}$ должны получиться комплексно сопряженными. Так как такими же свойствами обладают и исходные уравнения (95.3), то должно быть $v_{j}^{(m)}\left(u_{1}, v_{1}\right.$, $\left.u_{9}, v_{2}\right)=\bar{u}_{j}^{(m)}\left(v_{1}, u_{1}, v_{2}, u_{2}\right)$, т. е. если
\[
\begin{array}{l}
u_{j}^{(m)}=\sum B_{j}^{\left(m_{1}, m_{2}, n_{\mathrm{t}}, n_{2}\right)} u_{1}^{m_{1}} v_{1}^{m_{2}} u_{2}^{n_{1}} v_{2}^{n_{2}} \\
\left(j=1,2 ; m_{1}+m_{2}+n_{1}+n_{2}=m\right),
\end{array}
\]

To
\[
\begin{array}{l}
v_{j}^{(m)}=\sum \bar{B}_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)} v_{1}^{m_{1}} u_{1}^{m_{2}} v_{2}^{n_{1}} u_{2}^{n_{2}} \\
\left(j=1,2 ; m_{1}+m_{2}+n_{1}+n_{2}=m\right) .
\end{array}
\]

Если при выполнении этих условий удастся подобрать преобразование (95.5) так, чтобы первая группа уравнений (95.6) имела требуемый вид, то требуемый вид будет иметь также и вторая группа этих уравнений.

Заменяя в первой группе уравнений (95.3) $x_{j}$ и $y_{j}$ их выражениями (95.5) и принимая во внимание (95.6), получим:
\[
\begin{aligned}
\lambda_{j} i u_{j} & +U_{j}^{(3)}+\ldots+\sum_{\beta=2}^{N} \sum_{\alpha=1}^{2}\left\{\frac{\partial u_{j}^{(\beta)}}{\partial u_{\alpha}}\left(\lambda_{\alpha} i u_{\alpha}+U_{a}^{(3)}+\ldots\right)+\right. \\
& \left.+\frac{\partial u_{j}^{(\beta)}}{\partial v_{\alpha}}\left(-\lambda_{\alpha} i v_{\alpha}+\bar{U}_{\alpha}^{(3)}+\ldots\right)\right\}=\lambda_{j} l\left(u_{j}+u_{j}^{(2)}+\ldots\right)+ \\
& +X_{j}^{(2)}\left(u_{1}+\ldots, \ldots, v_{2}+\ldots\right)+\ldots \quad(j=1,2) .
\end{aligned}
\]

Задавшись произвольным числом $m<N$, приравняем в обеих $m_{1}+m_{2}+n_{1}+n_{2}=m$. Тогда, принимая во внимание (95.7), (95.8), (95.10) и (95.11), мы получим для определения коэффициентов $B_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$ следующие уравнения:
\[
\begin{array}{l}
{\left[\left(m_{1}-m_{2}\right) \lambda_{1}+\left(n_{1}-n_{2}\right) \lambda_{2}-\lambda_{j}\right] B_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}+} \\
+\alpha A_{j}^{\left(m_{1}, n_{2}, n_{1}, n_{2}\right)}=C_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}, \\
\end{array}
\]

где $\alpha=0$ при $m$ четном и $\alpha=1$ при $m$ нечетном.
Здесь $C_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$ – целые рациональные функции от тех коэффициентов $A_{s}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$ и $B_{s}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$ (и комплексно сопряженньх с ними величин), для которых $m_{1}+m_{2}+n_{1}+n_{2}<m$. Допустим, что все эти коэффициенты уже определены и, следовательно, веливым из них будет тот, когда при $j=1$ одновременно выполняются условия $m_{1}=m_{2}+1, n_{1}=n_{2}$, а при $=2$ – условия $m_{1}=m_{2}$, $n_{1}=n_{2}+1$. Этот случай возможен лишь при $m$ нечетном. В первом случае коэффициент при $B_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$ в уравнении (95.13) обращается
\[
A_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}=C_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right) .}
\]

Коэффициент $B_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$ остается произвольным, и мы его можем положить равным нулю.

Во втором случае вышеуказанные условия относительно индексов не выполняются. В этом случае коэффициент при $B_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$ в уравнении (95.13) не обращается в нуль, так как, по условию, отношение $\lambda_{1} / \lambda_{2}$ является числом иррациональным. Мы можем тогда положить
\[
A_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}=0, B_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}=\frac{C_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}}{\left(m_{1}-m_{2}\right) \lambda_{1}+\left(n_{1}-n_{2}\right) \lambda_{2}-\lambda_{j}} .
\]

Если теперь учесть, что при $m=1$ коэффициенты $C_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$ являются известными величинами, то из вышесказанного вытекает, что мы можем действительно определить преобразование (95.5), приводящее систему (95.3) к виду (95.6), причем для коэффициентов форм $U_{(j)}^{m}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)$ будут выполняться условия (95.9). Само определение преобразования, как мы сейчас видели, чрезвычайно просто и сводится к составлению уравнений (95.13), что требует лишь развертывания левых и правых частей уравнений (95.12).

Рассмотрим подробнее преобразованные уравнения. Очевидно, прежде всего, что функции $\Phi_{j}$ и $\Psi_{j}$ удовлетворяют при всех $t \geqslant 0$ и при значениях $u_{j}$ и $v_{j}$, достаточно малых, неравенствам
\[
\begin{array}{l}
\left.\Phi_{j}\left(t, u_{1}, v_{1}, u_{2}, v_{2}\right)<B\left\{\left|u_{1}\right|+\left|v_{1}\right|+\left|u_{2}\right|+\left|v_{2}\right|\right\}^{N+1},\right\} \\
\left.\Psi_{j}\left(t, u_{1}, v_{1}, u_{2}, v_{2}\right)<B\left\{\left|u_{1}\right|+\left|v_{1}\right|+\left|u_{2}\right|+\left|v_{2}\right|\right\}^{N+1},\right\} \\
\end{array}
\]

где $B$ – некоторое положительное число.
Положим теперь
\[
\begin{array}{c}
u_{j}=\rho_{j}\left(\cos \vartheta_{j}+i \sin \vartheta_{j}\right), \quad v_{j}=\rho_{j}\left(\cos \vartheta_{j}-i \sin \vartheta_{j}\right) \\
(j=1,2),
\end{array}
\]

где $\rho_{1}, \rho_{2}, \vartheta_{1}$ и $\vartheta_{2}$ – новые переменные. Тогда, принимая во внимание (95.7), (95.8) и (95.9), легко найдем, что уравнения (95.6) примут вид
\[
\begin{array}{l}
+e^{i \vartheta j} j \Psi_{j}\left(t, \rho_{1} e^{i \vartheta_{1}}, \ldots, \rho_{2} e^{-i \theta_{2}}\right) \\
\left(j=1,2 ; m_{1}+m_{2}+n_{1}+n_{2}=3,5, \ldots, N\right) . \\
\end{array}
\]

Полагая

и выделяя вещественные и мнимые части, получим две группы уравнений
\[
\begin{array}{l}
\left(j=1,2 ; m_{1}+m_{2}+n_{1}+n_{2}=3,5, \ldots, N\right) \\
\end{array}
\]

и

Здесь функции $R_{j}, \theta_{j}$, очевидно, таковы, что при всех $t \geqslant 0$, при всех значениях $\vartheta_{1}, \vartheta_{2}$ и при достаточно малых значениях $\rho_{1}$ и $\rho_{2}$ выполняются неравенства
\[
\begin{array}{l}
\left|R_{j}\left(t, \vartheta_{1}, \vartheta_{2}, \rho_{1}, \rho_{2}\right)\right|<C\left\{\left|\rho_{1}\right|+\left|\rho_{2}\right|^{N+1},\right\} \\
\left|\theta_{j}\left(t, \vartheta_{1}, \vartheta_{2}, \rho_{1}, \rho_{2}\right)\right|<C\left\{\left|\rho_{1}\right|+\left|\rho_{2}\right|^{N+1},\right\} \\
\end{array}
\]

где $C$ – положительная постоянная.

Если невозмущенное движение $\rho_{1}=\rho_{2}=0$ для уравнений (95.16), в которых $\vartheta_{1}$ и $\vartheta_{2}$ рассматриваются как произвольные функции времени, устойчиво, асимптотически устоичиво или неустойчиво при любом выборе функций $R_{j}$, удовлетворяющих условиям (95.17), то по характеру преобразования (95.15) то же самое будет иметь место и для невозмущенного движения $x_{1}=y_{1}=x_{2}=y_{2}=0$ уравнений (95.3) при любом выборе функций $\varphi_{j}$ и $\psi_{j}$, удовлетворяющих условиям (95.4). Справедливо, очевидно, и обратное соотношение между системами (95.3) и (95.16). Поэтому задача сводится к исследованию на устойчивость системы второго порядка (95.16).

Обращаясь к последней, замечаем, что она представляет некоторый частный случай задачи, рассмотренной в предыдущем параграфе, и для решения ее мы можем воспользоваться полученными в этом параграфе результатами. Запишем с этой целью уравнения (95.16) в виде
\[
\begin{array}{l}
\frac{d \rho_{j}}{d t}=R_{j}^{(m)}\left(\rho_{1}, \rho_{2}\right)+R_{j}^{(m+2)}\left(\rho_{1}, \rho_{2}\right)+\ldots+R_{j}^{(N)}\left(\rho_{1}, \rho_{2}\right)+ \\
+R_{j}\left(t, \vartheta_{1}, \vartheta_{2}, \rho_{1}, \rho_{2}\right) \\
(j=1,2),
\end{array}
\]

где $m \geqslant 3$ ( $m$ – нечетное), а $R_{j}^{(k)}$ – формы $k$-го порядка переменных $\rho_{1}$ и $\rho_{2}$. При этом, принимая во внимание (95.9), мы можем писать:
\[
\begin{array}{l}
R_{1}^{(m)}=A_{m} \rho_{1}^{m}+A_{m-2} \rho_{1}^{m-2} \rho_{2}^{2}+\ldots+A_{1} \rho_{1} \rho_{2}^{m-1}, \\
R_{2}^{(m)}=B_{m} \rho_{2}^{m}+B_{m-2} \rho_{2}^{m-2} \rho_{1}^{2}+\ldots+B_{1} \rho_{2} \rho_{1}^{m-1},
\end{array}
\]

где $A_{s}$ и $B_{s}$ – некоторые постоянные.
Составляя далее формы $P\left(\rho_{1}, \rho_{2}\right)$ и $G\left(\rho_{1}, \rho_{2}\right)$ (§94), будем иметь:
\[
\begin{array}{l}
P\left(\rho_{1}, \rho_{2}\right)=\rho_{1} R_{1}^{(m)}+\rho_{2} R_{2}^{(m)}= \\
\quad=A_{m} \rho_{1}^{m+1}+\left(A_{m-2}+B_{1}\right) \rho_{1}^{m-1} \rho_{2}^{2}+\ldots+B_{m}{ }_{2}^{m+1}, \\
G\left(\rho_{1}, \rho_{2}\right)=\rho_{1} R_{2}^{(m)}-\rho_{2} R_{1}^{(m)}= \\
=\rho_{1} \rho_{2}\left[\left(B_{1}-A_{m}\right) \rho_{1}^{m-1}+\left(B_{3}-A_{m-2}\right) \rho_{1}^{m-3} \rho_{2}^{2}+\ldots+\left(B_{m}-A_{1}\right) \rho_{2}^{m-1}\right] .
\end{array}
\]

В рассматриваемом случае $G$ никогда не будет знакоопределенной При этом уравнение $G=0$ выполняется для осей координат $\rho_{1}=\rho_{2}=0$ и прямых, определяемых уравнением
\[
\begin{array}{l}
G^{*}\left(\rho_{1}, \rho_{2}\right)=\left(B_{1}-A_{m}\right) \rho_{1}^{m-1}+\left(B_{3}-A_{m-2}\right) \rho_{1}^{m-3} \rho_{2}^{2}+\cdots+ \\
+\left(B_{m}-A_{1}\right) \rho_{2}^{m-1}=0 .
\end{array}
\]

На осях координат $\rho_{1}=0$ и $\rho_{2}=0$ форма $P$ принимает соответственно значения $B_{m} \rho_{2}^{m+1}$ и $A_{m} \rho_{1}^{m+1}$. Поэтому на основании теоремы предыдущего параграфа невозмущенное движение будет неустойчиво, если хотя бы одна из величин $A_{m}, B_{m}$ положительна. Если $A_{m} \leqslant 0$ и $B_{m} \leqslant 0$, то невозмущенное движение будет неустойчиво, если хотя бы на одной из вещественных прямых, определяемых уравнением (95.19), форма $P$ может принимать положительные значения. Напротив, если на каждой такой вещественной прямой форма $P$ может принимать только отрицательные значения и если при этом $A_{m}<0, \quad B_{m}<0$, то невозмущенное движение устойчиво асимптотически. Если форма $P$ обращается в нуль либо при $\rho_{1}=0$ (т. е. $B_{m}=0$ ), либо при $\rho_{2}=0$ (т. е. $A_{m}=0$ ), либо на одной из прямых (95.19) и если при этом ни на одной из прямых (95.19) или осях координат она не может принимать положительных значений, то решение задачи требует рассмотрения в уравнениях (95.18) членов порядков более высоких, чем $m$. На этих исключительных случаях мы здесь не останавливаемся.

В тех случаях, которые мы сеичас рассмотрели, задача решается членами наинизшего порядка в уравнениях (95.18). Следовательно, коэффициенты $A_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}$ нужно вычислять до тех пор, пока мы не придем к некоторому порядку $m$, для которого не все величины $\operatorname{Re}\left(A_{1}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}\right)$ равны нулю при $m_{1}+m_{2}+n_{1}+n_{2}=m$. Может случиться, что все величины $\operatorname{Re}\left(A_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)}\right)$ обращаются в нуль, как бы велико ни было число $m_{1}+m_{2}+n_{1}+n_{2}$. Этот исключительный случай, при котором задача устойчивости вообще не решается конечным числом членов, как и все другие аналогичные случаи, здесь не рассматривается.

Таким образом, мы получили решение задачи устоичивости для рассматриваемого критического случая, когда характеристическое уравнение первого приближения имеет две пары чисто мнимых корней ${ }^{1}$ ).
Пример. Пусть предложена система четвертого порядка
\[
\begin{array}{l}
\frac{d^{2} x}{d t^{2}}+\lambda^{2} x=f\left[x, y,\left(\frac{d x}{d t}\right)^{2},\left(\frac{d y}{d t}\right)^{2}\right]+a\left(\frac{d x}{d t}\right)^{3}, \\
\frac{d^{2} y}{d t^{2}}+\omega^{2} x=F\left[x, y,\left(\frac{d x}{d t}\right)^{2},\left(\frac{d y}{d t}\right)^{2}\right]+b\left(\frac{d y}{d t}\right)^{3},
\end{array}
\]

где $a$ и $b$-постоянные, а $f$ и $F$-аналитические функции своих аргументов, разложения которых по степеням $x, y, \frac{d x}{d t}, \frac{d y}{d t}$
1) Этот критический случай рассмотрен впервые в работе Г. В. Каменкова, цитированной на стр. 411, который также приводит задачу к случаю двух нулевых корней. Однако предложенный $\Gamma$. В. Каменковым метод решения задачи требует проведения большого числа предварительных преобразований, каждое из которых приводит к очень громоздким вычислениям.

начинаются членами не ниже третьего порядка. Полагая
\[
\begin{array}{ll}
x_{1}=x-\frac{i}{\lambda} \frac{d x}{d t}, \quad y_{1}=x+\frac{i}{\lambda} \frac{d x}{d t}, \\
x_{2}=y-\frac{i}{\omega} \frac{d y}{d t}, \quad y_{2}=y+\frac{1}{\omega} \frac{d y}{d t},
\end{array}
\]

приведем данную систему к виду
\[
\begin{array}{l}
\frac{d x_{1}}{d t}=i \lambda x_{1}+i \varphi_{1}\left(x_{1}, \quad y_{1}, \quad x_{2}, \quad y_{2}\right)+\frac{a \lambda^{3}}{8 \omega}\left(y_{1}-x_{1}\right)^{3}, \\
\frac{d x_{2}}{d t}=i \omega x_{2}+i \varphi_{2}\left(x_{1}, \quad y_{1}, \quad x_{2}, \quad y_{2}\right)+\frac{b \omega^{3}}{8 \lambda}\left(y_{2}-x_{2}\right)^{3}, \\
\frac{d y_{1}}{d t}=-i \lambda y_{1}-i \varphi_{1}\left(y_{1}, \quad x_{1}, \quad y_{2}, \quad x_{2}\right)+\frac{a \lambda^{3}}{8 \omega}\left(x_{1}-y_{1}\right)^{3}, \\
\frac{d y_{2}}{d t}=-i \omega y_{2}-i \varphi_{2}\left(y_{1}, \quad x_{1}, \quad y_{2}, \quad x_{2}\right)+\frac{b \omega^{3}}{8 \lambda}\left(x_{2}-y_{2}\right)^{3}, \\
\end{array}
\]

где $\varphi_{1}$ и $\varphi_{2}$ – вещественные аналитические функции своих аргументов, разложения которых начинаются членами не ниже третьего порядка. Делаем далее подстановку (95.5), в которой можно положить $u_{j}^{(2)}=v_{j}^{(2)}=0$, так как правые части уравнений (95.20) не содержат членов второго порядка. Таким образом, полагаем:
\[
\left.\begin{array}{c}
x_{j}=u_{j}+u_{j}^{(3)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)+\ldots, \\
y_{j}=v_{j}+v_{j}^{(3)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)+\ldots \\
(j=1,2), \\
u_{j}^{(3)}=\sum B_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)} u_{1}^{m_{1}} v_{1}^{m_{2}} u_{2}^{n_{1}} v_{2}^{n_{2}}, \\
v_{j}^{(3)}=\sum \bar{B}_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)} v_{1}^{m_{1}} u_{1}^{m_{2}} v_{2}^{n_{1}} u_{2}^{n_{2}} \\
\left(j=1,2 ; m_{1}+m_{2}+n_{1}+n_{2}=3\right) .
\end{array}\right\}
\]

где
\[
\left.\begin{array}{c}
u_{j}^{(3)}=\sum B_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)} u_{1}^{m_{1}} v_{1}^{m_{2}} u_{2}^{n_{1}} v_{2}^{n_{2}}, \\
v_{j}^{(3)}=\sum \bar{B}_{j}^{\left(m_{1}, m_{2}, n_{1}, n_{2}\right)} v_{1}^{m_{1}} u_{1}^{m_{2}} v_{2}^{n_{1}} u_{2}^{n_{2}} \\
\left(j=1,2 ; m_{1}+m_{2}+n_{1}+n_{2}=3\right) .
\end{array}\right\}
\]

Подстановку (95.21) подбираєм таким образом, чтобы уравнения приняли вид (95.6) с соблюдением условий (95.9), так что можно положить:
\[
\left.\begin{array}{l}
\frac{d u_{1}}{d t}=i \lambda u_{1}+\alpha_{1} u_{1}^{2} v_{1}+\beta_{1} u_{1} u_{2} v_{2}+\ldots, \\
\frac{d u_{2}}{d t}=i \omega u_{2}+\alpha_{2} u_{2}^{2} v_{2}+\beta_{2} u_{1} u_{2} v_{1}+\ldots \\
\frac{d v_{1}}{d t}=-i \lambda v_{1}+\bar{\alpha}_{1} v_{1}^{2} u_{1}+\bar{\beta}_{1} v_{1} v_{2} u_{2}+\ldots \\
\frac{d v_{2}}{d t}=-i \omega v_{2}+\bar{\alpha}_{2} v_{2}^{2} u_{2}+\bar{\beta}_{2} v_{1} v_{2} u_{1}+\ldots
\end{array}\right\}
\]

где $\alpha_{1}, \alpha_{2}, \beta_{1}, \beta_{2}$ – подлежащие определению постоянные и ненаписанные члены имеют порядок не ниже четвертого.

Подставляя в первое уравнение (95.20) вместо $x_{1}, y_{1}, x_{2}, y_{2}$ их значения из (95.21), заменяя при этом производные $\frac{d u_{j}}{d t}, \frac{d v_{j}}{d t}$ их выражениями (95.23) и приравнивая члены третьего порядка, получим:
\[
\begin{aligned}
\alpha_{1} u_{1}^{2} v_{1}+\beta_{1} u_{1} u_{2} v_{2}+i \lambda u_{1} \frac{\partial u_{1}^{(3)}}{\partial u_{1}}-i \lambda v_{1} \frac{\partial u_{1}^{(3)}}{\partial v_{1}}+i \omega u_{2} \frac{\partial u_{1}^{(3)}}{\partial u_{2}}-i \omega v_{2} \frac{\partial u_{1}^{(3)}}{\partial v_{2}}= \\
=i \lambda u_{1}^{(3)}+i \varphi_{1}^{(3)}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)+\frac{a \lambda^{3}}{8 \omega}\left(v_{1}-u_{1}\right)^{3},
\end{aligned}
\]

где $\varphi_{1}^{(3)}$ – совокупность членов третьего порядка в функции $\varphi_{1}$. Приравнивая в обеих частях (95.24) коэффициенты при $u_{1}^{2} v_{1}$ и $u_{1} u_{2} v_{2}$, учитывая при этом (95.22), найдем:
\[
\begin{aligned}
\alpha_{1}+(2 i \lambda-i \lambda) B_{1}^{(2,1,0,0} & =i \lambda B_{1}^{(2,1,0,0)}+i a_{1}+\frac{3 a \lambda^{3}}{8 \omega}, \\
\beta_{1}+(i \lambda+i \omega-i \omega) B_{1}^{(1,0,1,1)} & =i \lambda B_{1}^{(1,0,1,1)}+i b_{1},
\end{aligned}
\]

или
\[
\alpha_{1}=\frac{3 a \lambda^{3}}{8 \omega}+l a_{1}, \quad \beta_{1}=i b_{1} .
\]

Здесь $a_{1}$ и $b_{1}$ – вещественные числа, представляющие собой коэффициенты при $u_{1}^{2} v_{1}$ и $u_{1} u_{2} v_{2}$ в функции $\varphi_{1}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)$. Аналогичным образом находим:
\[
\alpha_{2}=\frac{3 b \omega^{3}}{8 \lambda}+i a_{2}, \quad \beta_{2}=i b_{2},
\]

где $a_{2}$ и $b_{2}$-коэффициенты при $u_{2}^{2} v_{\Sigma_{2}}$ и $u_{1} u_{2} v_{1}$ в функции $\varphi_{2}\left(u_{1}, v_{1}, u_{2}, v_{2}\right)$.
Делая теперь подстановку (95.15), окончательно найдем:
\[
\frac{d \rho_{\mathrm{t}}}{d t}=\frac{3 a \lambda^{3}}{8 \omega} \rho_{1}^{3}+\ldots, \quad \frac{d \rho_{2}}{d t}=\frac{3 b \omega^{3}}{8 \lambda} \rho_{2}^{3}+\ldots,
\]

где ненаписанные члены имеют порядок не ниже четвертого. Отсюда сразу следует, что если хотя бы один из коэффициентов $a$ или $b$ положителен, то невозмущенное движение неустойчиво. Если же оба коэффициента отрицательны, то невозмущенное движение устойчиво и притом асимптотически.