Понятие об устойчивости движения является непосредственным обобщением понятия устойчивости равновесия, которое, как известно, заключается в следующем.

Рассмотрим произвольную динамическую систему с $k$ степенями свободы, определяемую обобщенными координатами $q_{1}, q_{2}, \ldots, q_{k}$. Допустим, что рассматриваемая система имеет положение равновесия, определяемое значениями $\alpha_{i}$ обобщенных координат, так что уравнения движения допускают частное решение $q_{i}=\alpha_{i}$. Выведем систему из положения равновесия, отклонив ее координаты на величины $\varepsilon_{i}$, и сообщим ей начальные скорости $\varepsilon_{i}^{\prime}$, т. е. рассмотрим движение системы, определяемое начальными условиями:
\[
q_{i}\left(t_{0}\right)=\alpha_{i}+\varepsilon_{i}, \quad \dot{q}_{i}\left(t_{0}\right)=\varepsilon_{i}^{\prime} \quad(i=1,2, \ldots, k) .
\]
1) Ляпунов А. М., Общая задача об устойчивости движения, Харьков, 1892. З-е изд., Гостехиздат, 1950. В дальнейшем при изложении тех или иных результатов А. М. Ляпунова всегда имеется в виду, если противное не оговорено, эта работа.

Если для всех такого рода движений отклонения координат $q_{i}-\alpha_{i}$ и скорости будут все время оставаться численно меньшими сколь угодно малого положительного числа $\varepsilon$ при условии, что начальные отклонения $\varepsilon_{i}$ и начальные скорости $\varepsilon_{i}^{\prime}$ численно меньше достаточно малого положительного числа $\eta$. то равновесие называется устойчивым. В противном случае равновесие неустойчиво.

Простейшими известными примерами устойчивого и неустойчивого равновесия являются, соответственно, нижнее и верхнее вертикальные положения маятника, когда его центр тяжести не лежит на оси подвеса.

Отметим два основных момента, вытекающих из определения устойчивости:
1) Об устоичивости или неустойчивости равновесия судят по характеру тех движений, которые имеют место вблизи положения равновесия.
2) Для устоичивости равновесия необходимо, чтобы подходящим выбором начальных отклонений системы от ее положения равновесия и начальных скоростей можно было добиться, чтобы эти отклонения и скорости оставались меньше любого наперед заданного числа. Так что, например, верхнее вертикальное положение маятника, показанного на рис. 1 , будет Рис. 1. неустойчивым, как бы мал ни был угол $\alpha$, так как отклонение маятника от положения равновесия не может быть сделано меньше $\alpha$, как бы ни были выбраны начальные условия движения.

Совершенно аналогично устойчивости равновесия определяется по Ляпунову устоичивость движения.

Рассмотрим произвольную динамическую систему и допустим, что ее движение может быть описано системой дифференциальных уравнений, которая может быть приведена к нормальному виду:
\[
\frac{d y_{s}}{d t}=Y_{s}\left(t, y_{1}, \ldots, y_{n}\right) \quad(s=1,2, \ldots, n) .
\]

Здесь $y_{s}$ – некоторые параметры, связанные с движением, как, например, координаты, скорости или вообще некоторые функции этих величин.

Рассмотрим какое-нибудь частное движение нашей системы, которому соответствует некоторое частное решение $y_{s}=f_{s}(t)$ уравнений (2.1). Мы будем это движение называть невозмущенным в отличие от других движенић нашей системы, которые мы будем называть возмущенными. Разности значений величин $y_{s}$ в каком-нибудь возмущенном и в невозмущенном движениях будем называть возмущениями.

Определение. Невозмущенное движение называется устойчивым по отношению к величинам у $_{s}$, если для всякого положительного числа в, как бы мало оно ни было, найдется другое положительное число $\eta(\varepsilon)$, такое, что для всех возмущенных движений $y_{s}=y_{s}(t)$, для которых в начальный момент $t=t_{0}$ выполняются неравенства
\[
\left|y_{s}\left(t_{0}\right)-f_{s}\left(t_{0}\right)\right| \leqslant \eta,
\]

будут при всех $t>t_{0}$ выполняться неравенства
\[
\left|y_{s}(t)-f_{s}(t)\right|<\varepsilon .
\]

Невозмущенное движение называется неустойчивым, если оно не является устойчивым. Таким образом, для неустоичивости движения достаточно, чтобы существовало какое-нибудь фикси рованное число $\varepsilon$ и при любом сколь угодно малом $\eta$ хотя бы одно возмущенное движение, для которого выполняются неравенства (2.2) и для которого в некоторый момент времени хотя бы одно из неравенств (2.3) переходит в равенство.

В качестве примера рассмотрим снова обыкновенный маятник, но исследуем устойчивость не равновесия этого маятника, а какогонибудь его движения, определяемого начальными условиями $\varphi\left(t_{0}\right)=\alpha$, $\dot{\varphi}\left(t_{0}\right)=0$, где $\varphi$ – угол отклоненяя от вертикали, $\alpha>0$. Покажем, что это движение неустойчиво по отношению к $\varphi$ и $\dot{\varphi}$. Рассмотрим с этой целью какое-нибудь возмущенное движение, определяемое начальными условиями $\varphi\left(t_{0}\right)=\alpha+\delta, \dot{\varphi}\left(t_{0}\right)=0$, где $\delta$ – сколь угодно малая положительная величина. Как известно, период колебаний маятника зависит от начальных условий и при начальной скорости, равной нулю, будет тем больше, чем больше начальная амплитуда. Поэтому период $T^{\prime}$ колебаний возмущенного движения будет больше периода $T$ колебаний невозмущенного движения. Следовательно, разность углов ч в обоих движениях, будучи в начальный момент равной $\delta$, по истечении промежутка времени $T^{\prime}$ несколько увеличится. Это увеличение будет тем меньше, чем меньше $\delta$. Но, как бы мало ни было $\delta$, по истечении достаточно большого промежутка времени разность значений $\varphi$, постепенно накапливаясь, станет больше, чем, например, $\alpha$. Следовательно, невозмущенное движение неустойчиво.

Примером устоичивого движения может служить колебание циклоидального маятника. Устойчивость движения в рассматриваемом случае обусловливается тем, что период колебаний циклоидального маятника не зависит, как известно, от начальных условий.

Может случиться, что невозмущенное движение не только устойчиво, но и что все возмущенные движения, для которых начальные возмущения достаточно малы, при неограниченно возрастающем $t$ стремятся асимптотически к невозмущенному. В этом случае мы будем говорить, что невозмущенное движение устойчиво асимптотически.