Согласно теореме Лагранжа положение равновесия системы устойчиво, если в этом положении силэвая функция имеет максимум. Наоборот, согласно теореме Ляпунова положение равновесия будег неустойчиво, если в этом положении силовая функция имеет минимум, и этот минимум определяется совокупностью членов наинизшего измерения в разложении силовой функции.

Исследуем теперь вопрос об устойчивости равновесия, когда силовая функция в положении равновесия не имеет ни максимума, ни минимума. Ограничимся при этом рассмотрением того частного случая, когда силовая функция $U$ является формой какого-нибудь порядка $m$, так что
\[
U=U_{m}\left(q_{1}, \ldots, q_{n}\right) .
\]

Дифференциальные уравнения возмущенного движения примем, как и в $\S 14$, в форме (14.1). Рассмотрим функцию
\[
V=-H \sum_{i=1}^{n} p_{i} q_{i} \text {. }
\]

Так как по условию форма $U_{n}$ при $q_{1}=\ldots=q_{n}=0$ не имеет максимума, то эта форма необходимо может принимать положительные значения. Отсюда следует, что в окрестности начала координат пространства $2 n$ переменных $q_{i}, p_{i}$ необходимо существует область, где
\[
-H=-T+U_{m}>0,
\]

причем в этой области $U_{m}>0$, так как $-T \leqslant 0$. Назовем областью $C$ ту часть области (17.2), в которой выполняется условие
\[
\sum_{i=1}^{n} p_{i} q_{i}>0
\]

На основании (17.1) в области $C$ выполняется неравенство $V>0$, а на границе ее, где, очевидно, либо $\sum p_{i} q_{i}=0$, либо $H=0$, функция $V$ обращается в нуль.

Составим выражение производғой $\frac{d V}{d t}$. Повторяя выкладки $\S 14$ и принимая во внимание, что $\frac{d H}{d t}=0$, найдем:
\[
\frac{d V}{d t}=-H\left\{\sum_{\alpha, \beta=1}^{n} a_{\alpha \beta} p_{\alpha} p_{\beta}+\sum_{\alpha, \beta=1}^{n}\left(A_{\alpha \beta}-\sum_{s=1}^{n} q_{s} \frac{\partial A_{\alpha \beta}}{\partial q_{s}}\right) p_{\alpha} p_{\beta}\right\}-m H U_{m} .
\]

Выражение, стоящее в фигурных скобках, как было показано в $\$ 14$, может принимать только положительные или равные нулю значения. Величина $U_{m}$, как указывалось выше, может принимать в области $C$ только положительные значения. Отсюда следует, что в области $C$ выполняется условие $\frac{d V}{d t}>0$. Таким образом, функция $V$ удовлетворяет всем условиям теоремы Н. Г. Четаева, откуда вытекает неустойчивость исследуемого положения равновесия. Следовательно, имеет место следующая теорема, установленная Н.Г.Четаевым ${ }^{1}$ ).

Если в положении равновесия силовая функция не имеет максимума и эта функция является формой, то равновесие неустойчиво.