Рассмотрим теперь систему ( $n+3$ )-го порядка с постоянными коэффициентами, для которой характеристическое уравнение первого
1) См. Малкин И. Г., Решение некоторых критических случаев задачи устойчивости движения. ПМММ, т. XV, вып. 5, 1951.

Эта задача также впервые рассматривалась Г. В. Каменковым. Предлагаемый ниже метод отличается от метода $\Gamma$. В. Қаменкова и приводит к значительно более простым вычислениям.

приближения имеет один нулевой корень, два чисто мнимых корня $\pm i \lambda$ и $n$ корней с отрицательными вещественными частями.

Подходящим выбором переменных рассматриваемые уравнения могут быть представлены в следуощем виде:
\[
\begin{array}{l}
\frac{d x}{d t}=X\left(x, x_{1}, y_{1}, z_{1}, \ldots, z_{n}\right), \\
\frac{d x_{1}}{d t}=i \lambda x_{1}+X_{1}\left(x, x_{1}, y_{1}, z_{1}, \ldots, z_{n}\right), \\
\frac{d y_{1}}{d t}=-i \lambda y_{1}+Y_{1}\left(x, x_{1}, y_{1}, z_{1}, \ldots, z_{n}\right), \\
\frac{d z_{s}}{d t}=p_{s 1} z_{1}+\ldots+p_{s n} z_{n}+p_{s} x+q_{s} x_{1}+r_{s} y_{1}+ \\
+Z_{s}\left(x, x_{1}, y_{1}, z_{1}, \ldots, z_{n}\right) \\
(s=1,2, \ldots, n),
\end{array}
\]

где разложения функций $X, X_{1}, Y_{1}, Z_{s}$ начинаются членами не ниже второго порядка, а коэффициенты $p_{s j}$ таковы, что уравнение
\[
\left|p_{s j}-\delta_{s j} \rho\right|=0
\]

имеет корни только с отрицательными вещественными частями.
Пользуясь методом § 93, мы можем привести задачу к исследованию системы третьего порядка вида
\[
\left.\begin{array}{r}
\frac{d x}{d t}=X^{(2)}\left(x, x_{1}, y_{1}\right)+\ldots+X^{(N)}\left(x, x_{1}, y_{1}\right)+\varphi\left(t, x, x_{1}, y_{1}\right), \\
\frac{d x_{1}}{d t}=i \lambda x_{1}+X_{1}^{(2)}\left(x, x_{1}, y_{1}\right)+\ldots+X_{1}^{(N)}\left(x, x_{1}, y_{1}\right)+ \\
+\varphi_{1}\left(t, x, x_{1}, y_{1}\right), \\
\frac{d y_{1}}{d t}=-i \lambda y_{1}+Y_{1}^{(2)}\left(x, x_{1}, y_{1}\right)+\ldots+Y_{1}^{(N)}\left(x, x_{1}, y_{1}\right)+ \\
+\psi_{1}\left(t, x, x_{1}, y_{1}\right),
\end{array}\right\}
\]

где $X^{(k)}, X_{1}^{(k)}$ и $Y_{1}^{(k)}$ – формы $k$-го порядка переменных $x, x_{1}, y_{1}$ а $\varphi, \varphi_{1}$ и $\psi_{1}$ – зависящие от $t$ аналитические функции переменных $x$. $x_{1}, y_{1}$. удовлетворяющие при всех $t \geqslant 0$ в окрестности начала координат неравенствам
\[
\left.\begin{array}{c}
\left|\varphi\left(t, x, x_{1}, y_{1}\right)\right|<A\left\{|x|+\left|x_{1}\right|+\left|y_{1}\right|\right\}^{N+1}, \\
\left|\varphi_{1}\left(t, x, x_{1}, y_{1}\right)\right|<A\left\{|x|+\left|x_{1}\right|+\left|y_{1}\right|\right\}^{N+1}, \\
\left|\psi_{1}\left(t, x, x_{1}, y_{1}\right)\right|<A\left\{|x|+\left|x_{1}\right|+\left|y_{1}\right|\right\}^{N+1} .
\end{array}\right\}
\]

При этом переменные $x_{1}$ и $y_{1}$ являются комплексно сопряженными, так что третье уравнение (96.1) может быть получено из второго заменой $i$ на $-i, x_{1}$ на $y_{1}$ и $y_{1}$ на $x_{1}$. Первое уравнение (96.1) при такой замене не изменяется.
Преобразуем теперь уравнения (96.1) при помощи подстановки
\[
\left.\begin{array}{rl}
x & =u+u^{(2)}\left(u, u_{1}, v_{1}\right)+\ldots+u^{(N)}\left(u, u_{1}, v_{1}\right), \\
x_{1} & =u_{1}+u_{1}^{(2)}\left(u, u_{1}, v_{1}\right)+\ldots+u_{1}^{(N)}\left(u, u_{1}, v_{1}\right) \\
y_{1} & =v_{1}+v_{1}^{(2)}\left(u, u_{1}, v_{1}\right)+\ldots+v_{1}^{(N)}\left(u, u_{1}, v_{1}\right),
\end{array}\right\}
\]

где $u^{(k)}, u_{1}^{(k)}, v_{1}^{(k)}$ – подлежащие определению формы $k$-го порядка новых переменных $u, u_{1}, v_{1}$. Эти формы мы постараемся подобрать таким образом, чтобы преобразованные уравнения приняли вид
\[
\left.\begin{array}{r}
\frac{d u}{d t}=U^{(2)}\left(u, u_{1}, v_{1}\right)+\ldots+U^{(N)}\left(u, u_{1}, v_{1}\right)+U\left(t, u, u_{1}, v_{1}\right) \\
\frac{d u_{1}}{d t}=i \lambda u_{1}+U_{1}^{(2)}\left(u, u_{1}, v_{1}\right)+\ldots+U_{1}^{(N)}\left(u, u_{1}, v_{1}\right)+ \\
+U_{1}\left(t, u, u_{1}, v_{1}\right) \\
\frac{d v_{1}}{d t}=-i \lambda v_{1}+\bar{U}_{1}^{(2)}\left(u, v_{1}, u_{1}\right)+\ldots+\bar{U}_{1}^{(N)}\left(u, v_{1}, u_{1}\right)+ \\
+V_{1}\left(t, u, u_{1}, v_{1}\right)
\end{array}\right\}
\]

Здесь $U^{(k)}, U_{1}^{(k)}, \bar{U}_{1}^{(k)}$ – формы $k$-го порядка переменных $u, u_{1}, v_{1}$, причем формы $\bar{U}_{1}^{(k)}$ получаются кз $U_{1}^{(k)}$ заменой $i$ на $-i$, $u_{1}$ на $v_{1}$ и $v_{1}$ на $u_{1}$. Кроме того, формы $U^{(k)}$ и $U_{1}^{(k)}$ таковы, что если ввести обозначения
\[
\left.\begin{array}{c}
U^{(k)}=\sum A^{\left(n, m_{1}, m_{2}\right)} u^{n} u_{1}^{m_{1}} v_{1}^{m_{2}}, \\
U_{1}^{(k)}=\sum A_{1}^{\left(n, m_{1}, m_{2}\right)} u^{n} u_{1}^{m_{1}} v_{1}^{m_{2}} \\
\left(n+m_{1}+m_{2}=k\right),
\end{array}\right\}
\]

то для коэффициентов $A^{\left(n, m_{1}, m_{2}\right)}$ и $A_{1}^{\left(n, m_{2}, m_{2}\right)}$ должны выполняться соотношения
\[
\left.\begin{array}{lll}
A^{\left(n, m_{1}, m_{2}\right)}=0 & \text { при } & m_{1}
eq m_{2}, \\
A_{1}^{\left(n, m_{1}, m_{2}\right)}=0 & \text { при } & m_{1}
eq m_{2}+1 .
\end{array}\right\}
\]

Покажем, что формы $u^{(k)}, u_{1}^{(k)}$ и $v_{1}^{(k)}$ в преобразовании (96.3) можно действительно выбрать так, чтобы для уравнений (96.4) выполнялись указанные условия. Положим с этой целью
\[
\left.\begin{array}{c}
u^{(k)}=\sum B^{\left(n, m_{1}, m_{2}\right)} u^{n} u_{1}^{m_{1}} v_{1}^{m_{2}}, \\
u_{1}^{(k)}=\sum B_{1}^{\left(n, m, m_{2}\right)} u^{n} u_{1}^{m_{1}} v_{1}^{m_{2}} \\
\left(n+m_{1}+m_{2}=k\right) .
\end{array}\right\}
\]

Так как второе уравнение (9Б.4) должно перейти в третье (ғо крайней мере, с точностью до величин $N$-го порядка) при замене $i$ на $-l$, $u_{1}$ на $v_{1}$ и $v_{1}$ на $u_{1}$, то должно быть:
\[
v_{1}^{(k)}=\sum \bar{B}_{1}^{\left(n, m_{1}, m_{2}\right)} u^{n} v_{1}^{m_{1}} u_{1}^{m_{2}} \quad\left(n+m_{1}+m_{2}=k\right) .
\]

При таком выборе форм $v_{1}^{(k)}$ третье уравнение (96.4) будет нужного вида, если только этим свойством будут обладать и первые два уравнения. Остается, таким образом, определить формы $u^{(k)}$ и $u_{1}^{(k)}$. Подставим с этой целью в первые два уравнения (96.1) вместо $x, x_{1}, y_{1}$ их выражения (96.3). Тогда, принимая во внимание (96.4), получим:
\[
\left.\begin{array}{c}
\left(1+\sum_{\alpha=2}^{N} \frac{\partial u^{(\alpha)}}{\partial u}\right)\left(U^{(2)}+\ldots\right)+\sum_{\alpha=2}^{N} \frac{\partial u^{(\alpha)}}{\partial u_{1}}\left(i \lambda u_{1}+U_{1}^{(2)}+\ldots\right)+ \\
-\sum_{\alpha=2}^{N} \frac{\partial u^{(\alpha)}}{\partial v_{1}}\left(-i \lambda v_{1}+\widetilde{U}_{1}^{(2)}+\ldots\right)= \\
=X^{(2)}\left(u+\ldots, u_{1}+\ldots, v_{1}+\ldots\right)+\ldots \\
\left(1+\sum_{\alpha=2}^{N} \frac{\partial u_{1}^{(\alpha)}}{\partial u_{1}}\right)\left(i \lambda u_{1}+U_{1}^{(2)}+\ldots\right)+ \\
+\sum_{\alpha=2}^{N} \frac{\partial u_{1}^{(\alpha)}}{\partial v_{1}}\left(-i \lambda v_{1}+\bar{U}_{1}^{(2)}+\ldots\right)+\sum_{\alpha=2}^{N} \frac{\partial u_{1}^{(\alpha)}}{\partial u}\left(U^{(2)}+\ldots\right)= \\
\quad=i \lambda\left(u_{1}+U_{1}^{(2)}+\ldots\right)+ \\
+X_{1}^{(2)}\left(u+\ldots, u_{1}+\ldots, v_{1}+\ldots\right)+\ldots
\end{array}\right\}
\]

Задавшись каким-нибудь числом $k<N$, приравняем в обеих частях полученных уравнений коэффициенты при $u^{n} u_{1}^{m_{1}} v_{1}^{m_{2}}$, где $n+m_{1}+m_{2}=k$. Будем на основании (96.6) и (96.7) иметь:
\[
\begin{aligned}
A^{\left(n, m_{1}, m_{2}\right)}+\left(m_{1}-m_{2}\right) l \lambda B^{\left(n, m_{1}, m_{2}\right)} & =C^{\left(n, m_{1}, m_{2}\right)}, \\
A_{1}^{\left(n, m_{1}, m_{2}\right)}+\left(m_{1}-m_{2}-1\right) l \lambda B_{1}^{\left(n, m_{1}, m_{2}\right)} & =C_{1}^{\left(n, m_{1}, m_{2}\right)} .
\end{aligned}
\]

Здесь $C^{\left(n, m_{1}, m_{2}\right)}, C_{1}^{\left(n, m_{1}, m_{2}\right)}$ – целые рациональные функции от тех $A^{\left(p, q_{1}, q_{2}\right)}, A_{1}^{\left(p, q_{1}, q_{2}\right)}, B^{\left(p, q_{1}, q_{2}\right)}, B_{1}^{\left(p, q_{1}, q_{2}\right)}$ и комплексно сопряженных с ними величин, для которых $p+q_{1}+q_{2}<k$. Допустим, что все указанные величины уже вычислены и, следовательно, величины $C^{\left(n, m_{1}, m_{2}\right)}, \quad C_{1}^{\left(n, m_{1}, m_{2}\right)}$ известны. Тогда при $m_{1}
eq m_{2}$ мы можем положить:
\[
A^{\left(n, m_{1}, m_{2}\right)}=0, \quad B^{\left(n, m_{1}, m_{1}\right)}=\frac{1}{\left(m_{1}-m_{2}\right) i \lambda} C^{\left(n, m_{1}, m_{2}\right)},
\]

а при $m_{1}=m_{2}$ получим, что
\[
A^{\left(n, m_{1}, m_{2}\right)}=C^{\left(n, m_{1}, m_{2}\right)},
\]

а коэффициент $B^{\left(n, m_{1}, m_{2}\right)}$ остается произвольным. Мы можем положить его равным нулю или любой другой величине. Далее, при $m_{1}
eq m_{2}+1$ мы можем положить:
\[
A_{1}^{\left(n, m_{1}, m_{2}\right)}=0, \quad B_{1}^{\left(n, m_{1}, m_{2}\right)}=\frac{C_{1}^{\left(n, m_{1}, m_{2}\right)}}{\left(m_{1}-m_{2}-1\right) i \lambda} .
\]

Если $m_{1}=m_{2}+1$, то
\[
A_{1}^{\left(n, m_{1}, m_{2}\right)}=C_{1}^{\left(n, m_{1}, m_{2}\right)},
\]

а коэффициент $B_{1}^{\left(n, m_{1}, m_{2}\right)}$ может быть выбран совершенно произвольно.
Так как при $n+m_{1}+m_{2}=2$ величины $C^{\left(n, m_{1}, m_{2}\right)}$ и $C_{1}^{\left(n, m_{1}, m_{2}\right)}$ известны, то отсюда следует, что действительно существует преобразование (96.3), обладающее всеми указанными для него своћствами. При этом легко видеть, что все коэффициенты $A^{\left(n, m_{1}, m_{2}\right)}$ будут вещественными. Действительно, первое уравнение (96.1) не изменяется при замене $i$ на $-i, x_{1}$ на $y_{1}$ и $y_{1}$ на $x_{1}$. Так как для преобразования (96.3) выполняется (96.8), то первое уравнение (96.4) не изменится при замене $i$ на $-i, u_{1}$ на $v_{1}$ и $v_{1}$ на $u_{1}$. Но так как $A^{\left(n, m_{1}, m_{2}\right)}=0$ при $m_{1}
eq m_{2}$, то первое уравнение (96.4) не меняется при замене $u_{1}$ на $v_{1}$ и $v_{1}$ на $u_{1}$. Следовательно, это уравнение не меняется при замене $i$ па – $i$, откуда и вытекает вещественность :оэффициентов $A^{\left(n, m_{1}, m_{2}\right)}$. Определение преобразования (96.3) приодится, как мы видим, к весьма простым вычислениям, сводящимся развертыванию правых и левых частей уравнений (96.9).
Допустим, что указанное пресбразование выполнено. Тогда функяя $U\left(t, u, u_{1}, v_{1}\right)$ в уравнениях (96.4) будет, очевидно, удовлетвотть неравенству
\[
\left|U\left(t, u, u_{1}, v_{1}\right)\right|<B\left\{|u|+\left|u_{1}\right|+\left|v_{1}\right|\right\}^{N+1},
\]

з $B$ – положительная постоянная. Таким же точно неравенствам дут удовлетворять и функции $U_{1}$ и $V_{1}$. Положим теперь:
\[
u_{1}=\rho(\cos \vartheta+i \sin \vartheta), \quad v_{1}=\rho(\cos \vartheta-i \sin \vartheta) .
\]

Тогда получим:
\[
\begin{array}{c}
\frac{d u}{d t}=\sum_{n+2 m=2}^{N} A^{(n, m, m)} u^{n} \rho^{2 m}+U\left(t, u, \rho e^{i \vartheta}, \rho e^{-i \vartheta}\right), \\
\frac{a}{d} \quad L \rho i \frac{d \vartheta}{d t}=i \lambda \rho+\sum_{n+2 m=1}^{N-1} A_{1}^{(n, m+1, m)} u^{n} \rho^{2 m+1}+U_{1}\left(t, u, \rho e^{i \vartheta}, \rho e^{-i \vartheta}\right), \\
\frac{d f}{d t} \quad-\rho l \frac{d \vartheta}{d t}=-i \lambda \rho+\sum_{n+2 m=1}^{N-1} \bar{A}_{1}^{(n, m+1, m)} u^{n} \rho^{2 m+1}+U_{1}\left(t, u, \rho e^{i \vartheta}, \rho e^{-i \vartheta}\right),
\end{array}
\]

или, выделяя вещественные и мнимые части и учитывая, что коэффициенты $A^{(n, m, m)}$ вещественны, получим два уравненұя:
\[
\left.\begin{array}{l}
\frac{d u}{d t}=\sum_{n+2 m=2}^{N} A^{(n, m, m)} u^{n} \rho^{2 m}+U_{*}(t, \vartheta, \rho, u), \\
\frac{d \rho}{d t}=\sum_{n+2 m=1}^{N-1} a^{(n, m+1, m)} u^{n} \rho^{2 m+1}+R(t, \vartheta, \rho, u)
\end{array}\right\}
\]

и уравнение
\[
\frac{d \vartheta}{d t}=\lambda+\sum_{n+2 m=1}^{N-1} b^{(n, m+1, m)} u^{n} \rho^{2 m}+\theta(t, \vartheta, \rho, u) .
\]

Здесь
\[
\begin{aligned}
a^{(n, m+1, m)} & =\operatorname{Re}\left(A_{1}^{(n, m+1, m)}\right), \\
b^{(n, m+1, m)} & =\operatorname{lm}\left(A_{1}^{(n, m+1, m)}\right),
\end{aligned}
\]

и функции $R, U_{*}$ при достаточно малых $\rho$ и $\boldsymbol{u}$ и при всех значениях $\vartheta$ и $t \geqslant 0$ удовлетворяют условиям
\[
\left.\begin{array}{c}
\left|U_{*}(t, \vartheta, \rho, u)\right|<C\{|\rho|+|u|\}^{N+1}, \\
|R(t, \vartheta, \rho, u)|<C\{|\rho|+|u|\}^{N+1}
\end{array}\right\}
\]

где $C$ – положительная постоянная.
Аналогичному условию удовлетворяет и функция $\theta(t, \vartheta, \rho)$.
Если невозмущенное движение $u=\rho=0$ для уравнений (96.12), в которых $\vartheta$ рассматривается как произвольная функция времени, будет устоичиво или асимптотически устойчиво, или неустойчиво при любом выборе функций $U_{*}, R$, удовлетворяющих условиям (96.13), то невозмущенное движение $x=x_{1}=y_{1}=0$ для системы (96.1) будет, соответственно, устойчиво или асимптотически устойчиво, или неустойчиво при любом выборе функций $\varphi\left(t, x, x_{1}, y_{1}\right), \varphi_{1}\left(t, x, x_{1}, y_{1}\right)$, $\psi_{1}\left(t, x, x_{1}, y_{1}\right)$, удовлетворяющих условиям (96.2). Но тогда такие же обстоятельства будут иметь место и для невозмущенного движения $x=x_{1}=y_{1}=z_{1}=\ldots=z_{n}=0$ исходной системы.

Таким образом, задача сводится к исследованию на устойчивость системы (96.12). Последняя задача является частным случаем задачи, рассмотренной в $\S 94$, и для єе решения мы запишем уравнения $(96: 12)$ в виде
\[
\left.\begin{array}{l}
\frac{d u}{d t}=U_{*}^{(k)}(u, \rho)+\ldots+U_{*}^{(N)}(u, \rho)+U_{*}(t, \vartheta, u, \rho), \\
\frac{d \rho}{d t}=R^{(k)}(u, \rho)+\ldots+R^{(N)}(u, \rho)+R(t, \vartheta, u, \rho),
\end{array}\right\}
\]

где $k \geqslant 2$ и $U_{*}^{(l)}, R^{(l)}$ – формы $l$-го порядка переменных $u$ и $\rho$. При этом в силу (96.12) формы $U_{*}^{(l)}$ содержат только четные степени $\rho$, а формы $R^{(l)}$ – только нечетные степени $\rho$. Так что мы можем, в частности, писать:
\[
R^{(k)}(u, 0)=0 .
\]

Отсюда следует, что
\[
G(u, \rho)=u R^{(k)}-\rho U_{*}^{(k)}=\rho G^{\prime}(u, \rho),
\]

где $G^{\prime}(u, \rho)$-форма $k$-го порядка переменных $\boldsymbol{u}$ и $\rho$. Следовательно, форма $G$ не является знакоопределенной. Невозмущенное движение будет неустойиво, если существует хотя бы одна вещественная прямая $G(u, \rho)=0$, на которой $P(u, \rho)$ может принимать положительные значения, и асимптотически устойчиво, если на всех вещественных прямых $G=0$ форма $P$ может принимать только отрицательные значения. Все это будет справедливо при любом выборе функций $U_{*}$ и $R$, и число $N$ можно будет положить равным $k$.

Случаи, когда ни на одной из вещественных прямых, определяемых уравнением $G=0$, форма $P$ не может принимать положительных значений, но на некоторых из них может обращаться в нуль, мы здесь не рассматриваем. Мы не рассматриваем также и тех исключительных случаев, когда все формы $U_{*}^{(k)}, R^{(k)}$, как бы велико ни было число $k$, обращаются тождественно в нуль, что будет иметь место тогда, когда все величины $A^{(n, m, m)}$ и $a^{(n, m+1, m)}$ равны нулю. В этих случаях задача устойчивости не решается, очевидно, конечным числом членов в уравнениях возмущенного движения.