В предыдущем разделе установлен ряд теорем, дающих достаточные условия устойчивости по первому приближению. Эти условия, являясь достаточными, не являются необходимыми, и поэтому при невыполнении их еще не следует делать заключения, что для решения задачи устойчивости необходимо исследовать члены более высоких порядков в уравнениях возмущенного движения. Однако можно указать такие уравнения, для которых исследование членов более высоких порядков является безусловно необходимым. Такими будут, очевидно, уравнения следующего вида:
\[
\left.\begin{array}{c}
\frac{d y_{i}}{d t}=q_{i 1} y_{1}+\ldots+q_{i k} y_{k}+Y_{i}\left(t, y_{1}, \ldots, y_{k}, x_{1}, \ldots, x_{n}\right), \\
\frac{d x_{s}}{d t}=p_{s 1} x_{1}+\ldots+p_{s n} x_{n}+r_{s 1} y_{1}+\ldots+r_{s k} y_{k}+ \\
+X_{s}\left(t, y_{1}, \ldots, y_{k}, x_{1}, \ldots, x_{n}\right) \\
(i=1,2, \ldots, k ; s=1,2, \ldots, n) .
\end{array}\right\} \text { (90.1) }
\]

Здесь $Y_{i}$ и $X_{s}$ – аналитические функции переменных $y_{1}, \ldots, y_{k}$, $x_{1}, \ldots, x_{n}$, разложения которых начинаются членами не ниже второго порядка. Коэффициенты этих разложений, а также коэффициенты $q_{i j}, r_{s j}$ и $p_{s j}$ являются непрерывными и ограниченными функциями времени. При этом коэффициенты $p_{s j}$ таковы, что для линейной системы
\[
\frac{d x_{s}}{d t}=p_{s 1} x_{1}+\cdots+p_{s n} x_{n}
\]

выполняется какой-нибудь критерий устойчивости по первому приближению, так что для̀ нелинейной системы, которая получится из (90.2) путем прибавления нелинеиных членов, зависящих только от $x_{1}, \ldots, x_{n}$, будет иметь место асимптотическая устойчивость. В дальнейшем мы будем предполагать, что для системы (90.2) выполняются критерии § 88. Это будет необходимо для справедливости излагаемых ниже результатов.

Коэффициенты $q_{i i}$, напротив, таковы, что задача устойчивости для уравнений вида
\[
\frac{d y_{i}}{d t}=q_{i 1} y_{1}+\ldots+q_{i k} y_{k}+\varphi_{i}\left(t, y_{1}, \ldots, y_{k}\right),
\]

где $\varphi_{i}$ – нелинейные добавки, зависящие только от $y_{1}, \ldots, y_{k}$, не решается первым приближением. Таким будет, например, случай, когда коэффициенты $q_{i j}$ постоянны, а характеристическое уравнение системы (90.3) имеет корни с вещественными частями, равными нулю, и не имеет корней с положительными вещественными частями.

Все случаи, для которых задача устойчивости не решается членами первого порядка, мы будем называть критическими. В настоящем разделе мы устанавливаем несколько основных предложений общего характера о решении задачи устойчивости для критических случаев и применяем затем эти предложения к некоторым критис ческим случаям для установившихся и периодических движений.

Отбросим в системе ( $n+k$ )-го порядка (90.1) последние $n$ уравнений, а в первых $k$ уравнениях отбросим все члены, зависящие от $x_{1}, \ldots, x_{n}$, и рассмотрим полученную таким образом систему $k$-го порядка
\[
\begin{array}{c}
\frac{d y_{i}}{d t}=q_{i 1} y_{1}+\ldots+q_{i k} y_{k}+Y_{i}\left(t, y_{1}, \ldots, y_{k}, 0, \ldots, 0\right) \\
(i=1,2, \ldots, k) .
\end{array}
\]

Эту систему мы будем в дальнейшем называть «укороченнои».
Допустим, что задачу устойчивости для «укороченнои» системы удалось разрешить. Возникает вопрос: при каких условиях этим самым решается задача устойчивости и для полной системы (90.1) ? В главе IV, где были рассмотрены два простейших критических случая для установившихся движении, было показано, что в этих простых случаях ответ на задачу устойчивости для полной системы совпадает с ответом на задачу устойчивости для «укороченңои» системы, если последняя решается конечным числом членов и если выполняются следующие условия: 1) все коэффициенты $r_{s j}$ равны нулю; 2) разложения функций $X_{s}\left(t, y_{1}, \ldots, y_{k}, 0, \ldots, 0\right)$ начинаются членами достаточно высокого порядка.

Это дало возможность свести решение задачи устоичивости полной системы к решению задачи д.я «укороченнои» системы (состоящей в рассмотренных случаях из одного или двух уравнений) путем преобразования полной системы к такому виду, для которого условия 1) и 2) выполняются. Эти результаты удалось, однако, получить путем деиствительного решения задачи устоичивости для «укороченной системы и притом вполне определенным методом-построением функций Ляпунова, причем это удалось сделать лишь тольку потому, что для «укороченноф» системы удалось построить функции Ляпунова очень простого вида, а именно – целые рациональные. Использованные методы дали возможность надеяться, что аналогичные результаты удастся получить и в других критических случаях, если для «укороченнои» системы удастся построить такие же простые функции Ляпунова. Таким путем действительно удалось исследовать ${ }^{1}$ ) некоторые критические случаи, не рассмотренные Ляпуновым. Однако такой метод является очень неудобным и сложным, так как построение функций Ляпунова представляет иногда непреодолимые трудности, даже в тех случаях, когда заранее известно решение задачи устойчивости для «укороченной» системы. Более того, нет вообще уверенности, что такие простые функции Ляпунова денствительно существуют. Поэтому, естественно, возникает вопрос: всегда ли вообще задача устоћчивости для полной системы при выполнении условий 1) и 2) решается «укороченной» системой? Можно показать ${ }^{2}$ ), что ответ на поставленный вопрос получается всегда утвердительный, если задача устоћчивости для «укороченной» системы решается конечным числом членов. Это предложение доказывается в следующем параграфе. В § 92 показывается, что полная система может быть всегда преобразована к такому виду, для которого условия 1) и 2) выполняются. Результатами этих двух параграфов задача устоичивости для системы $(n+k)$-го порядка с $k$ критическими переменными всегда приводится к исследованию системы $k$-го порядка, если задача решается конечным числом членов.

Последнее понятие требует уточнения. Рассмотрим произвольную систему какого-нибудь $r$-го порядка
\[
\begin{array}{c}
\frac{d z_{i}}{d t}=Z_{i}^{(m)}\left(t, z_{1}, \ldots, z_{r}\right)+\ldots+Z_{i}^{(N)}\left(t, z_{1}, \ldots, z_{r}\right)+ \\
+\varphi_{i}\left(t, z_{1}, \ldots, z_{r}\right) \\
(i=1,2, \ldots, r),
\end{array}
\]

определенную в области
\[
t \geqslant 0, \quad\left|z_{i}\right| \leqslant H .
\]

Здесь $Z_{i}^{(l)}$ – формы $l$-го порядка переменных $z_{1}, \ldots, z_{r}$, коэффициенты которых являются непрерывными и ограниченными функциями времени, а $\varphi_{i}$ обозначают совокупность всех членов порядка выше $N$.
Мы примем следующие определения.
1) Малкин И. Г., Некоторые вопросы теории устойчивости движения в смысле Ляпунова. Сб. трудов Казанск. авиац. ин-та, № 7, 1937; Каме иков Г. В., Об устойчивости движения. Сб. трудов Казанск. авиац. ин-та, № 9,1939 .
2) Малкин И. Г., Некоторые осиовные теоремы теории устойчивости движения в критических случаях. IIMM, т. VI, вып. 6, 1942.

Определение 1. Невозмущенное движение $z_{1}=z_{2}=\ldots=$ $=z_{r}=0$ называется устойчивым вне зависимости от вида членов порядка выше, чем $N$, если для всякого положительного $\varepsilon$, как бы мало оно ни было, существует такое положительное число $\eta(\varepsilon, A)$, зависящее только от $\varepsilon$ и $A$, что для всех решений уравнений (90.5), начальные значения $z_{i}^{0}$ которых в начальный момент времени $t=0$ выбраны согласно условиям
\[
\left|z_{i}^{0}\right|<\eta(\varepsilon, A),
\]

выполняются при всех $t>0$ неравенства
\[
\left|z_{i}\right|<\varepsilon
\]

при всяком выборе функиий $\varphi_{i}\left(t, z_{1}, \ldots, z_{r}\right)$, удовлетворяющих в области (90.6) условиям
\[
\left|\varphi_{i}\left(t, z_{1}, \ldots, z_{r}\right)\right|<A\left\{\left|z_{1}\right|+\ldots+\left|z_{t}\right|\right\}^{N+1},
\]

где $N$ – некоторая постоянная.
Определение 2. Невозмущенноедвижение $z_{1}=\ldots=z_{r}=0$ называется неустойчивым вне зависимости от членов порядка выше, чем $N$, если при тех же уіловиях относительно функций $\varphi_{i}$ существует положительное число $\varepsilon(A)$, зависящее тольқо от $A$; что внут ри любой сколь угодно малой $\eta$-окрестности точки $z_{1}=\ldots=z_{r}=0$ существует, по крайней мере, одна система величин $\alpha_{1}(A, \eta), \ldots, \alpha_{r}(A, \eta)$, зависящих только от $A$ и $\eta$, что хотя бы одна из величин $\left|z_{i}\right|$ для решения уравнений (90.5), определенного начальными условиями
\[
z_{i}^{0}=\alpha_{i},
\]

достигает в некоторый момент времени значения $\varepsilon$.