В противоположность метафизическому подходу в основе математического подхода к анализу устойчивости лежит описание системы с помощью дифференциальных уравнений, причем цель анализа состоит в том, чтобы определить, будет ли данное положение равновесия системы устойчивым по отношению к возмущениям начальных условий. Различные проблемы, связанные с классической механикой и устойчивостью планетных орбит (знаменитая «задача трех тел»), поставили ряд задач, которые были в окончательном виде сформулированы на рубеже нашего столетия в работах Ляпунова, Пуанкаре и других исследователей. Основной вопрос теории устойчивости по Ляпунову состоит в том, чтобы выяснить, вернется ли система в данное положение равновесия спустя произвольно продолжительное время после возникновения начального возмущения. Мы представим ниже два наиболее важных результата, касающихся этого вопроса.

Рассмотрим сначала линейный случай, когда внутренняя модель системы описывается системой дифференциальных уравнений
$$\dot{x}=Fx,x(0)=x_0(eq0).$$

Здесь $F$ — постоянная матрица размером $n\times n$, при этом предполагается, что характеристический многочлен матрицы $F$ известен и имеет вид
$${\psi }_F(z)=a_0{z}^n+a_1{z}^{n-1}+\dots +a_{n-1}z+a_n.$$

Исследуем асимптотическую устойчивость точки равновесия $x=0$. Решение уравнения (5.6) имеет вид
$$x(t)=e^{Ft}{x}_0,$$

поэтому очевидно, что в результате произвольного ненулевого начального возмущения $x_0$ система вернется при $t\to \mathrm{\infty }$ в положение равновесия в том и только в том случае, если все корни характеристического уравнения матрицы $F$ имеют отрицательные действительные части. Поскольку корни последнего совпадают с корнями многочлена ${\psi }_F(z)$, задача сводится к тому, чтобы с учетом известных свойств коэффициентов этого многочлена установить критерий, с помощью которого можно было бы определять, лежат ли корни многочлена в левой полуплоскости. Соответствующий критерий был получен в конце прошлого века английскими математиками Раусом и Гурвицем и был сформулирован в виде следующей теоремы.

${У}_{\text{стойчивость, китастрофы и адаптируемость больших систем }}$
Теорема Рауса — Гурвица
Все корни многочлена ${\psi }_F(z)$ имеют отрицательные действительные части в том и только в том случае, если
1) все $a_i>0,i=0,1,\dots ,n$,
2) матрица размером $n\times n$
$$\mathit{A}=\left[\begin{array}{ccccccc}{a}_1& a_0& 0& 0& \dots & 0& 0\\ a_3& a_2& a_1& a_0& \dots & 0& 0\\ a_5& a_4& a_3& a_2& \dots & 0& 0\\ ⋮& & & & & \cdot & \cdot \\ \cdot & & & & & ⋮& \cdot \\ \cdot & & & & & \cdot & \cdot \\ 0& 0& 0& 0& \dots & a_{n-1}& a_{n-2}\\ 0& 0& 0& 0& \dots & 0& a_n\end{array}\right]$$

имеет только положительные главные миноры.
При помощи теоремы Рауса — Гурвица сравнительно простые алгебраические выкладки дают возможность проверить устойчивость равновесия в начале координат для линейной системы, если известен характеристический многочлен матрицы $F$. Например, для гармонического осциллятора, описываемого системой второго порядка
$$\begin{array}{l}\ddot{x}+b\dot{x}+cx=0,\\ x(0)=c_1,\dot{x}(0)=c_2,\end{array}$$

матрица, фигурирующая в условии устойчивости, имеет вид
$$A=\left[\begin{array}{ll}b& 1\\ 0& c\end{array}\right].$$

Таким образом, применяя критерий Рауса — Гурвица, видим, что начальное возмущение будет «затухающим» в том и только в том случае, если
1) $b>0,c>0$
2) $bc>0$,
т. е. только тогда, когда коэффициент «демпфирования» $b$ дает эффект положительного затухания.

K сожалению, требование, согласно которому многочлен ${\psi }_F(z)$ должен быть известен, существенно ограничивает практическое применение критерия Рауса — Гурвица, особенно для систем высокой размерности. В подобных случаях было бы желательно иметь в распоряжении такой критерий устойчивости, который мог бы применяться непосредственно к элементам матрицы $F$. Подобный критерий был разработан Ляпуновым на основании следующего простого физического представления о положении равновесия: равновесное состояние системы асимптотически устойчиво, если все траектории процесса, начинающиеся достаточно близко от точки равновесия, идут таким образом, что приводят к минимуму подходящим образом определенную «энергетическую» функцию, причем положение локального минимума энергии соответствует самой точке равновесия.

Рассмотрим сначала использование этого критерия применительно к общему нелинейному уравнению
$$\dot{x}=f(x),x(0)=x_0,$$

а затем применительно к линейному уравнению, когда $f(x)=$ $=Fx$.

Предположим, что $f(0)=0$ и что функция $f$ непрерывна в окрестности начала координат.

Математическое описание энергетической функции содержится в следующем определении.

Определение 5.1
Функция $V(x)$ называется функцией Ляпунова (энергетической функцией) системы (5.7), если
1) $V(0)=0$
2) $V(x)>0$ для всех $xeq0$ в окрестности начала координат,
3) $dV(x)/dt<0$ вдоль траекторий системы (5.7).
Основной результат, полученный Ляпуновым, был им сформулирован в виде теоремы об устойчивости.
Теорема Ляпунова об устойчивости
Положение равновесия $x=0$ системы (5.7) асимптотически устойчиво в том и только в том случае, если существует функция Ляпунова $V(x)$ системы.

С целью применить эту теорему к линейной системе (5.6) выберем в качестве кандидата на функцию Ляпунова следующую функцию:
$$\dot{V}(x)=(x,Px),$$

где $P$ — пока неизвестная симметрическая матрица. Для того чтобы $V(x)$ была функцией Ляпунова системы, мы должны иметь
$$\begin{array}{rl}\frac{dV}{dt}& =(\dot{x},Px)+(x,P\dot{x})=\\ & =(x,(F^{\prime }P+PF)x)<0.\end{array}$$

Здесь подразумевается, что уравнение
$$F^{\prime }P+PF=-C$$

разрешимо при любой матрице $C>0$.
Далее; из условий 1 и 2 следует, что матрица $P$ должна быть положительно определенной. Следовательно, в результате мы получаем, что положение равновесия системы (5.6) в начале координат асимптотически устойчиво в том и только в том случае, если уравнение $F^{\prime }P+PF=-C$ имеет решение $P>0$ при любой матрице $C>0$.

Следует, однако, иметь в виду, что выбранная для представления $V(x)$ квадратичная форма не является единственным кандидатом на функцию Ляпунова линейной системы (5.6). В качестве примера рассмотрим задачу из области экономики, связанную с моделированием $n$ взаимосвязанных рынков сбыта $n$ товаров (или услуг), поступающих из одной или нескольких связанных между собой отраслей промышленности (или систем обслуживания). Обозначив через $x(t)$ вектор цен товаров в момент времени $t$, получим классическую модель этой ситуации
$$\dot{x}(t)=Ax(t),$$

где $A=\left[a_{ij}\right]$ — постоянная матрица размером $n\times n$. Если все товары взаимозаменяемы, то $A$ — матрица Метцлера, т. е. $a_{ij}$ удовлетворяют условиям
$$\begin{array}{ll}{a}_{ij}<0,& i=j,\\ a_{ij}⩾0,& ieqj.\end{array}$$

Вопрос об устойчивости цен в такой ситуации был рассмотрен в 1945 г. Метцлером, получившим следующий классический результат:

Система Метцлера $\dot{x}=Aх$ устойчива в том и только в том случае, если главные миноры матрицы $A$ удовлетворяют условию
$$(-1{)}^k\det \left[\begin{array}{cccc}{a}_{11}& a_{12}& \dots & a_{1k}\\ a_{12}& a_{22}& \dots & a_{2k}\\ \cdot & & & \\ \cdot & & & \\ a_{k1}& a_{k2}& \dots & a_{kk}\end{array}\right]>0$$

для всех $k=1,2,\dots ,n$.

Доказательство этого утверждения основано на выборе функции Ляпунова
$$V(x)=\sum _{i=1}^n{d}_i\left|x_i\right|$$

где $d_i>0$ — подлежащие определению постоянные. Соответствующий выбор $d_i$ и использование свойств матрицы $A$ по Метцлеру дают возможность показать, что $V(x)$ действительно является функцией Ляпунова системы. Таким образом; на основании теоремы Ляпунова об устойчивости заключаем, что начало координат является точкой равновесия системы.

Теорему Ляпунова об устойчивости особенно легко применять для одного класса нелинейных задач, в которых нелинейные члены можно считать «малыми» возмущениями главной, линейной части. Например, естественно полагать, что если динамика системы описывается уравнением
$$\dot{x}=Fx+h(x),x(0)=x_0,$$

где $F$ — устойчивая матрица (т. е. матрица, собственные значения которой лежат в левой полуплоскости), то положение равновесия $x=0$ будет асимптотически устойчивым, если начальное возмущение $x_0$ и нелинейное возмущение $h(x)$ не слишком велики. Математическая формулировка этого очевидного результата может быть представлена в виде следующей теоремы.

Теорема Пуанкаре — Ляпунова
Пусть система (5.8) удовлетворяет следующим условиям:
1) $F$ — устойчивая матрица,
2) $h(\cdot )$ — непрерывная функция переменной х, такая, что $h(0)=0$ и $\Vert h(x)\Vert /\Vert x\Vert \to 0$ при $\Vert x\Vert \to 0$,
3) $\Vert x_0\Vert \ll 1$.
Тогда положение равновесия $x=0$ асимптотически устойчиво.

Одна из трудностей, возникающих при использовании этой теоремы, связана с условием 3 , которое по существу является требованием, чтобы начальное возмущениє было «достаточно малым». Действительная степень малости определяется, вообще говоря, сравнительной величиной нелинейной части $h$ и величиной действительной части корня характеристического уравнения $F$, ближайшего к мнимой оси.

Для того чтобы попытаться исключить условие 3 и получить достаточное условие глобальной устойчивости, необходимо наложить более строгие ограничения на динамику
системы. Соответствующий результат был получен советским математиком Н. Н. Красовским.
Теорема Н. Н. Красовского
Решение $x=0$, соответствующее положению равновесия нелинейной системы $\dot{x}=f(x)$, асимптотически устойчиво в большом, если существует постоянная $\epsilon >0$, такая, что матрица $J(x)+J^{\prime }(x)$ имеет собственные значения, меньшие, чем -в, для всех $x$, где $J(x)$ — матрица Якоби функции $f$, т. .
$$[J(x){]}_{lj}=\frac{{\partial }_i^{\mathrm{i}}}{\partial x_i}.$$

Теорема Красовского является следствием теоремы Ляпунова об устойчивости, если использовать функцию $V(x)=$ $=(x,(J(x)+J^{\prime }(x))x)$.

В качестве примера применения теоремы Ляпунова об устойчивости рассмотрим электрический колебательный контур с параметрическим возбуждением. Динамика такого процесса описывается уравнением
$$\ddot{x}+a\dot{x}+b(t)x=0,$$

где $a>0,b(t)=b_0(1+f(t)),b_0⩾0$ и $f(t)$ — ограниченная функция. Здесь $x$ — напряжение на контуре, $a$ — сопротивление, $b(t)$ — емкость, изменяющаяся с течением времени. Приведенное выше уравнение эквивалентно системе
$$\begin{array}{l}{\dot{x}}_1=x_2,\\ {\dot{x}}_2=-b(t)x_1-a{x}_2.\end{array}$$

Исследуем устойчивость положения равновесия $x_1=x_2=$ $=0$. Для этого рассмотрим энергетическую функцию
$$V(x_1,x_2)=\frac{1}{2}{(x_2+\frac{a{x}_1}{2})}^2+(\frac{a^2}{4}+b_0)\frac{x_1^2}{2}.$$

Легко показать, что
1) $V(x_1,x_2)⩾0$
2) $V(x_1,x_2)=0$ в том и только в том случае, если $x_1=$ $=x_2=0$,
3) $dV/dt=(-a/2)x_2^2-(b-b_0)x_1{x}_2-(ab/2)x_1^2$.
Следовательно, положение равновесия системы в начале координат будет асимптотически устойчивым, если $dV/dt<0$ в некоторой окрестности начала координат. Это действительно будет иметь место, если для некоторых $\alpha >0$
$${\epsilon }^2{b}_0[f(t){]}^2-a^2(1+\epsilon f(t))⩽-\alpha <0.$$

Последнее неравенство выполняется, если $\epsilon$ достаточно мало.

Итак, для достаточно малых $\epsilon$ положение равновесия системы в начале координат асимптотически устойчиво. Этот результат можно интерпретировать следующим образом. В системе действуют две противоположные силы: параметрическое возбуждение, пропорциональное $\epsilon$, и нагрузка, демпфирующая сила $a\dot{x}$. Для того чтобы удовлетворить приведенному выше неравенству, необходимо выбрать сопротивление достаточно большим, с тем чтобы нагрузка поглотила всю энергию, выделенную за счет возбуждения. В этом случае положение равновесия в начале координат устойчиво. Если же нагрузка недостаточно велика, можно ожидать увеличения энергии, и равновесие в начале координат становится неустойчивым.

Для более подробного ознакомления с рядом интересных аспектов проблемы устойчивости рекомендуем читателю обратиться к литературе, указанной в конце данной главы. Перейдем теперь к обсуждению некоторых современных представлений об устойчивости, которые оказываются особенно полезными при изучении систем.