В предыдущем параграфе была рассмотрена устойчивость равновесного решения системы $(25 ; 1)$ только для случая $m=2$ и чисто мнимых, не равных нулю собственных значений. Перейдем теперь к исследованию общего случая. Пусть собственными значениями матрицы $\mathfrak{F}$ линейных частей функций $f_{1}(x), \ldots, f_{m}(x)$ будут $\lambda_{1}, \ldots, \lambda_{m}$. Теорема Ляпунова [1] гласит:

Если действительные части всех $\lambda_{1}, \ldots, \lambda_{m}$ отличны от нуля, то равновесное решение неустойчиво. Если это решение устойчиво, то все действительные части $\lambda_{1}, \ldots, \lambda_{m}$ будут равны нулю.

Доказательство этой теоремы будет нами дано при условии, что все $\lambda_{1}, \ldots, \lambda_{m}$ различны и при других предположениях, которые будут нами делаться в соответствующих местах. Для не рассматриваемого здесь случая кратных корней наше доказательство потребует дополнения, которое делает формулы более сложными, но и в этом случае нет ничего непреодолимого. Как известно, соответствующей линейной подстановкой систему можно привести к виду
\[
\dot{x}_{k}=f_{k}(x)=\lambda_{k} x_{k}=\chi_{k}(x) \quad(k=1, \ldots, m),
\]

которую и возьмем за основу, причем степенные ряды $\chi_{k}$ начинаются здесь с членов второго порядка. Пусть $\bar{\lambda}_{k}=\lambda_{l}$ при $l=l_{k}(k=1, \ldots, m)$, тогда положим $\underline{x}_{k}=x_{l}$, и тогда можно предположить выполненными условия вещественности
\[
f_{k}(x)=\bar{f}_{l}(\underline{x}) \quad\left(l=l_{k} ; k=1, \ldots, m\right) .
\]

Пусть действительная часть $\lambda_{k}$ равна $\rho_{k}$. Можно считать, что $\rho_{1} \leqslant$ $\leqslant \rho_{2} \leqslant \ldots \leqslant \rho_{m}$; пусть $\rho_{p}<0$, но $\rho_{p+1} \geqslant 0$, причем, очевидно, что допускается возможность $p=0$ и $p=m$. Пусть вначале $p>0$. Введем подстановки специального вида
\[
u_{k}=x_{k}-\varphi_{k}\left(x_{1}, \ldots, x_{p}\right) \quad(k=1, \ldots, m),
\]

где $\varphi_{k}$ будут формальными степенными рядами первых $p$ переменных $x_{1}, \ldots, x_{p}$, которые начинаются с членов второго порядка. Легко видеть, что эти подстановки образуют группу. Если положить
\[
g_{k}(u)=g_{k}\left(u_{1}, \ldots, u_{m}\right)=\chi_{k}+\lambda_{k} \varphi_{k}-\sum_{l=1}^{p} \varphi_{k x_{l}} f_{l},
\]

причем справа $x$ выражен через $u$ с помощью обратной к (3) подстановки, то система (1) перейдет в
\[
\dot{u}_{k}=\lambda_{k} u_{k}+g_{k}(u) \quad(k=1, \ldots, m) .
\]

Степенные ряды $g_{k}$ начинаются опять с членов второго порядка. Теперь нужно определить коэффициенты в $\varphi_{i}$ таким образом, чтобы ни в один из $m$ рядов $g_{1}, \ldots, g_{m}$ не входило произведение степеней $u_{1}, \ldots, u_{p}$. Следовательно, должны выполняться уравнения
\[
g_{k}\left(u_{1}, \ldots, u_{p}, 0, \ldots, 0\right)=0 \quad(k=1, \ldots, m) .
\]

В соответствии с преобразованием (3) $x_{1}, \ldots, x_{p}$ являются обратимыми степенными рядами относительно $p$ неизвестных $u_{1}, \ldots, u_{p}$ и при $u_{p+1}=0, \ldots, u_{m}=0$ кроме того,
\[
x_{k}=\varphi_{k}\left(x_{1}, \ldots, x_{p}\right) \quad(k=p+1, \ldots, m) .
\]

Поэтому уравнения (5) переходят в условия
\[
-\lambda_{k} \varphi_{k}+\sum_{l=1}^{p} \varphi_{k x_{l}} \lambda_{l} x_{l}=\chi_{k}-\sum_{l=1}^{p} \varphi_{k x_{l}} \chi_{l} \quad(k=1, \ldots, m),
\]

тождественные относительно $x_{1}, \ldots, x_{p}$, причем $x_{p+1}, \ldots, x_{m}$ выражены посредством равенств (6). Наоборот, из уравнений (3), (6) и (7) опять следуют уравнения (5). Произведем теперь в уравнениях (7) сравнение коэффициентов. Если $\sigma x_{1}^{g_{1}}, \ldots, x_{p}^{g_{p}}$ будет членом $\varphi_{k}$ и если $g_{1}+\ldots+g_{p}=h>1$, то сравнение дает
\[
\left(-\lambda_{k}+\sum_{l=1}^{p} g_{l} \lambda_{l}\right) \sigma=\gamma
\]

где $\gamma$ есть многочлен относительно коэффициентов членов менее чем $h$-й степени относительно $\varphi_{1}, \ldots, \varphi_{m}$. Здесь нужно сделать следующее ограничивающее предположение: для всех систем неотрицательных целых чисел $g_{1}, \ldots, g_{p}$ при $g_{1}+\ldots+g_{p}>1$ всегда
\[
\sum_{l=1}^{p} g_{l} \lambda_{l}
eq \lambda_{k} \quad(k=1, \ldots, p) .
\]

Это в действительности будет только конечным числом условий; требование (8), очевидно, выполняется также при $k=p+1, \ldots, m$. Тогда индукцией можно показать, что система (5) имеет единственное решение в виде степенных рядов $\varphi_{1}, \ldots, \varphi_{m}$. Кроме того, в силу условий (2)
\[
\varphi_{k}(x)=\bar{\varphi}_{l}(\underline{x}) \quad\left(l=l_{k} ; k=1, \ldots, m\right) \text {. }
\]

Доказательство сходимости проводится обычным способом. Пусть
\[
x_{1}+\ldots+x_{m}=X, \quad \chi_{k} \prec \frac{c_{1} X^{2}}{1-c_{1} X} \quad(k=1, \ldots, m) .
\]

Так как действительные части всех собственных значений $\lambda_{1}, \ldots, \lambda_{p}$ отрицательны и так как требование (8) выполнено, то
\[
g_{1}+\ldots+g_{p}<c_{2}\left|-\lambda_{k}+\sum_{l=1}^{p} g_{l} \lambda_{l}\right| \quad(k=1, \ldots, m) .
\]

Следовательно, для однозначно определяемого решения $\psi_{1}, \ldots, \psi_{m}$ уравнений
\[
\left.\begin{array}{rl}
\sum_{l=1}^{p} \psi_{k x_{l}} x_{l} & =c_{2}\left(1+\sum_{l=1}^{p} \psi_{k x_{l}}\right) \frac{c_{1} X^{2}}{1-c_{1} X} \quad(k=1, \ldots, m) \\
x_{k} & =\psi_{k}\left(x_{1}, \ldots, x_{p}\right) \quad(k=p+1, \ldots, m)
\end{array}\right\}
\]

получим условие $\varphi_{k} \prec \psi_{k}(k=1, \ldots, m)$. Но из уравнений (9) $\psi_{1}=\ldots=\psi_{m}$. Если положить также $x_{1}=\ldots=x_{p}=x$, то, очевидно, достаточно доказать сходимость ряда для решения $\psi(x)$ уравнения
\[
x \psi_{x}=\left(1+\psi_{x}\right) \frac{c_{3}(x+\psi)^{2}}{1-c_{4}(x+\psi)} .
\]

Получающиеся отсюда рекуррентные формулы для коэффициентов степенного ряда $\psi$ показывают, что для $x^{-1} \psi$ мажорирующей функцией $\Psi$ будет решение кубического уравнения
\[
\Psi=\frac{c_{3} x(1+\Psi)^{3}}{1-c_{4} x(1+\Psi)} .
\]

Наше доказательство сходимости закончено.
В соответствии с уравнениями (4) и (5) для нашего уравнения можно получить частное решение
\[
u_{k}=\left\{\begin{array}{ll}
c_{k} e^{\lambda_{k} t} & (k=1, \ldots, p) \\
0 & (k=p+1, \ldots, m) .
\end{array}\right.
\]

Так как вещественные части величин $\lambda_{1}, \ldots, \lambda_{p}$ отрицательны, то при $t \rightarrow-\infty$ уже не будет устойчивого разновесия, если $p>0$. При замене $t$ на $-t$ собственные значения $\lambda_{k}$ заменяются на $-\lambda_{k}$. Мы доказали, что устойчивость равновесного решения может иметь место только тогда, когда действительные части всех $m$ собственных значений равны нулю, а это и есть второе утверждение теоремы Лянунова.

Пусть теперь все вещественные части $\rho_{1}, \ldots, \rho_{m}$ отличны от нуля, следовательно, $\rho_{1} \leqslant \rho_{2} \leqslant \ldots \leqslant \rho_{p}<0<\rho_{p+1} \leqslant \ldots \leqslant \rho_{m}$. Пусть $\varepsilon$ есть положительная постоянная, выбранная достаточно малой, и пусть определены все действительные решения нашей системы, которые для всех $t \geqslant 0$ удовлетворяют условию
\[
\sum_{k=1}^{m}\left|u_{k}\right|^{2}<\varepsilon
\]

Для выражения
\[
\sum_{k=p+1}^{m}\left|u_{k}\right|^{2}=w
\]

в силу уравнений (4) справедливо дифференциальное уравнение
\[
\dot{w}=2 \sum_{k=p+1}^{m} \rho_{k}\left|u_{k}\right|^{2}+\sum_{k=p+1}^{m}\left[u_{k} \bar{g}_{k}(\bar{u})+\bar{u}_{k} g_{k}(u)\right] \text {, }
\]

где в правой части в соответствии с уравнениями (5) каждый член второго слагаемого может делиться на произведение двух из переменных $u_{k}, \bar{u}_{k}(k=p+1, \ldots, m)$. Так как это слагаемое начинается с членов третьего порядка, то его абсолютное значение в соответствии с соотношениями (11) и (12) для достаточно малого $\varepsilon$ не меньше $\rho_{p+1} w$, и потому
\[
\dot{w} \geqslant 2 \sum_{k=p+1}^{m} \rho_{k}\left|u_{k}\right|^{2}-\rho_{p+1} w \geqslant \rho_{p+1} w, \quad \frac{d\left(w e^{-\rho_{p+1} t}\right)}{d t} \geqslant 0,
\]
т. е. выражение $w e^{-\rho_{p+1} t}$ монотонно растет для всех $t \geqslant 0$. С другой стороны, оно стремится к нулю при $t \rightarrow \infty$, потому что $\rho_{p+1}>0$ и $w<\varepsilon$. Следовательно, для найденного решения имеем $w=0, u_{k}=0$ $(k=p+1, \ldots, m)$, и из уравнений (4) и (5) следует (10). Наоборот, из решения (10) следует опять условие (11), если выбрать
\[
\sum_{k=1}^{p}\left|c_{k}\right|^{2}<\varepsilon
\]

Мы нашли все решения, которые остаются при $t \rightarrow \infty$ вблизи равновесного решения. Но из их поведения при $t \rightarrow-\infty$ следует, что условие (11) выполняется только для самого равновесного решения; следовательно, имеет место неустойчивость, т.е. доказана первая половина теоремы Ляпунова. Затем мы видим, что для устойчивости в будущем необходимо, чтобы собственные значения не имели положительных вещественных частей, и достаточно, чтобы они имели только отрицательные вещественные части. Кроме сделанного с самого начала предположения о том, что собственные значения являются простыми, в ходе исследования предполагалось также выполненным условие, выраженное неравенством (8). Если эти ограничения не принимать во внимание, то можно соответственно обобщить наш подход к нормальной форме, которая задается уравнениями (4) и (5). Но мы не будем этого делать, так как никаких новых точек зрения здесь не возникает.

В частном случае, когда все собственные значения имеют отрицательные действительные части, имеем $p=m$, и если выполнены условия (8), система уравнений (4) становится линейной:
\[
\dot{u}_{k}=\lambda_{k} u_{k} \quad(k=1, \ldots, m) .
\]

Случай, когда все вещественные части положительны, можно получить, заменив знак у $t$. Однако условие для знаков вещественных частей собственных значений нельзя использовать для рекуррентного определения степенных рядов $\varphi_{1}, \ldots, \varphi_{m}$ и можно использовать только для доказательства сходимости этих рядов. Спрашивается, всегда ли можно получить линейную нормальную форму (13) с помощью аналитического преобразования, если все собственные значения различны и условия (8) удовлетворены с $m$ вместо $p$. Для исследования этого вопроса нужно привлечь те же идеи, что и в первых двух параграфах этой главы, посвященных теоретико-функциональной проблеме центра. Вместо делителей $\lambda^{n}-\lambda(n=2,3, \ldots)$ теперь войдут выражения
\[
-\lambda_{k}+\sum_{l=1}^{m} g_{l} \lambda_{l}=A_{k}\left(g_{1}, \ldots, g_{m}\right)=A_{k} \quad(k=1, \ldots, m)
\]

с неотрицательными целыми $g_{1}, \ldots, g_{m}$ и $g_{1}+\ldots+g_{m}=h>1$. С одной стороны, можно дать пример, в котором подпоследовательность $A_{k}\left(g_{1}, \ldots, g_{m}\right)$, как и последовательность $(23 ; 11)$, очень быстро стремится к нулю, откуда тотчас же следует расходимость при соответствующих рядах $\varphi_{1}, \ldots, \varphi_{m}$; с другой стороны, можно провести доказательство в предположении $\left|A_{k}\right|>\varepsilon h^{-\mu}(k=1, \ldots, m)$, аналогичном условию $(23 ; 22)$ [2]. Тогда отсюда легко получается, что для преобразования заданной системы (1) в линейную нормальную форму (13) случай расходимости будет в подобных случаях исключением, как и для рядов Шрёдера.