В качестве следующего примера вернемся снова к вопросу об устоћчивости равновесия, когда силовая функция в положении равновесия не обращается в максимум. В предыдущей главе была доказана неустойчивость равновесия для двух случаев отсутствия максимума:

для случая, когда силовая функция в положении равновесия имеет минимум, который определяется членами наинизшего порядка в разложении силовой функции, и для случая, когда силовая функция не имеет ни максимума, ни минимума и является формой.

Мы рассмотрим сейчас случай когда силовая функция в положении равновесия не имеет ни максимума, ни минимума, и это определяется членами наинизшего порядка в разложении силовой функции, которое мы будем предполагать начинающимся членами второго порядка. Этот случай изучен Ляпуновым, доказавшим при этом неустойчивость равновесия.

Пусть $q_{1}=q_{2}=\ldots=q_{n}=0$ – значения обобщенных координат в положении равновесия,
\[
2 T=\sum_{\alpha, \beta=1}^{n}\left(a_{\alpha \beta}+A_{\alpha \beta}\right) \dot{q}_{\alpha} \dot{q}_{\beta}, 2 U=\sum_{\alpha, \beta=1}^{n}\left(c_{\alpha \beta}+C_{\alpha \beta}\right) q_{\alpha} q_{\beta}
\]
– кинетическая энергия и силовая функция, причем функции $A_{\alpha \beta}\left(q_{1}, \ldots, q_{n}\right)$ и $C_{\alpha \beta}\left(q_{1}, \ldots, q_{n}\right)$ обращаются в нуль при $q_{1}=\ldots=$ $=q_{n}=0$, а $a_{\alpha \beta}$ и $c_{\alpha \beta}$ – постоянные. По предположению квадратичная форма
\[
2 U_{2}=\sum_{\alpha, \beta=1}^{n} c_{\alpha \beta} q_{\alpha} q_{\beta}
\]

не обращается тождественно в нуль.
Дифференциальные уравнения возмущенного движения возьмем в форме Лагранжа:
\[
\frac{d}{d t}\left(\frac{\partial T}{\partial \dot{q}_{i}}\right)-\frac{\partial T}{\partial q_{i}}=\frac{\partial U}{\partial q_{i}} \quad(i=1,2, \ldots, n) .
\]

Отбрасывая члены высших порядков, получим обычную систему уравнений малых колебаний:
\[
\begin{array}{c}
a_{i 1} \ddot{q}_{1}+a_{i 2} \ddot{q}_{2}+\ldots+a_{i,} \ddot{q}_{n}=c_{i 1} q_{1}+\ldots+c_{i n} q_{n} \\
(i=1,2, \ldots, n) .
\end{array}
\]

Характеристическое уравненче этой системы первого приближения имеет вид

По предположению силовая функция в положении равновесия $q_{1}=\ldots=q_{n}=0$ не имеет ни максимума, ни минимума. Это значит, что функция $U\left(q_{1}, \ldots, q_{n}\right)$ является знакопеременной. С другой стороны, мы предположили, что эта знакопеременность определяется членами наинизшего порядка в разложении силовой функции, что означает, что знакопеременной является уже форма $U_{2}$. В теории малых колебаний доказывается, что уравнение (24.1), рассматриваемое как уравнение относительно $\lambda^{2}$, имеет только вещественные корни. В этой же теории доказывается, что если форма $U_{2}$ является знакопеременной, то среди этих корней имеются обязательно положительные. Но тогда уравнение (24.1), рассматриваемое как уравнение $2 n$-го порядка относительно $\lambda$, гакже имеет положительные корни, что и доказывает неустойчивость равновесия.

Для того чтобы равновесие было устойчиво, необходимо, чтобы все корни $\lambda_{j}^{2}$ уравнения (24.1) были отрицательны. Это будет тогда и только тогда, когда форма $U_{2}$ является определенно-отрицательной. Тогда все корни $\lambda_{j}$ будут чисто мнимыми. Мы будем, следовательно, иметь дело с критическим случаем. Но равновесие при этом будет устойчивым на основании теоремы Лагранжа.

Чтобы рассмотреть пример более общего характера, допустим, что предложена система $2 n$-го порядка, которая имеет каноническую форму
\[
\frac{d x_{i}}{d t}=\frac{\partial H}{\partial y_{i}}, \quad \frac{d y_{i}}{d t}=-\frac{\partial H}{\partial x_{i}}(i=1,2, \ldots, n),
\]

где $H$ – произвольная квадратичная форма $2 n$ переменных $x_{1}, \ldots, x_{n}$, $y_{1}, \ldots, y_{n}$.
Уравнения (24.2) можно переписать в виде
\[
\begin{array}{l}
\frac{d x_{i}}{d t}=C_{i 1} x_{1}+C_{i 2} x_{2}+\ldots+C_{i n} x_{n}+B_{i 1} y_{1}+B_{i 2} y_{2}+\ldots+B_{i n} y_{n}, \\
\frac{d y_{i}}{d t}=-A_{i 1} x_{1}-A_{i 2} x_{2}-\ldots-A_{i n} x_{n}-C_{1 i} y_{1}-C_{2 i} y_{2}-\ldots-C_{n i} y_{n},
\end{array}
\]

где
\[
A_{i j}=\frac{\partial^{2} H}{\partial x_{i} \partial x_{j}}, \quad B_{i j}=\frac{\partial^{2} H}{\partial y_{i} \partial y_{j}}, \quad C_{i j}=\frac{\partial^{2} H}{\partial y_{i} \partial x_{j}} .
\]

Следовательно, характеристическое уравнение имеет вид

Определитель $D(\lambda)$ можно преобразовать следующим образом:
(сначала делаем строки столбцами, затем меняем местами первые и последние $n$ строк, после чего меняем местами первые и последние $n$ колонок). Но так как
\[
A_{i j}=A_{j i}, \quad B_{i j}=B_{j i},
\]

то из (24.4) следует, что уравнение (24.3) не меняется при замене $\lambda$ на – $\lambda$. Следовательно, уравнение (24.3) содержит только четные степени $\lambda$. Поэтому, если оно имеет корни с вещественными частями отрицательными, то оно будет иметь корни и с положительными вещественными частями и невозмущенное движение будет неустойчиво. Следовательно, для того чтобы движение было устойчиво, необходимо, чтобы все корни уравнения (24.3) были чисто мнимыми. Будет ли при этом действительно иметь место устоичивость, зависит от членов более высоких порядков в дифференциальных уравнениях возмущенного движения.

Если форма $H$ является знакоопределенной, то, учитывая, что $H=$ const. является интегралом уравнений (24.2), мы должны будем заключить на основании теоремы A, что невозмущенное движение в первом приближении устойчиво. Следовательно, в этом случае все корни уравнения (24.3) будет обязательно чисто мнимыми. Но уравнение (24.3) может иметь только чисто мнимые корни и тогда, когда $H$ не является знакоопределенной.