a) Изложенные рассуждения могут быть использованы и для изучения устойчивости нестационарных задач.

Рассмотрим снова систему (6.2), и пусть $x^{\ast }$ — некоторое частное решение этой системы. Поставим вопрос об устойчивости
этого решения. Подобные вопросы возникают во многих прикладных задачах, например при исследовании переходных режимов в колебательных системах.

Замена (6.5) нас снова приводит к уравнению (6.6), но только теперь элементы матрицы $A$ будут уже не постоянными числами, а некоторыми известными функциями времени.

Повторяя рассуждения данного раздела, мы опять можем составить уравнение (6.10). Функция ${\rho }^2$ играет роль функции Ляпунова для уравнения с переменными коэффициентами
$$\delta \dot{x}=A(t)\delta x.$$

Согласно теореме Ляпунова для асимптотической устойчивости тривиального решения уравнения (6.6′) достаточно существования такой определенно положительной функции $W(\delta x)$, не зависящей от времени, что для любого $\delta x$ и любого момента времени $t$ имеет место неравенство
$$-(R\delta x\cdot \delta x)⩾W(\delta x).$$

В качестве функции $\mathbb{W}$ мы можем принять функцию
$$W=\mu (\delta x\cdot \delta x),$$

где $\mu$-любое положительное число. Тогда для устойчивости нам достаточно потребовать, чтобы квадратичная форма
$$-(R\delta x\cdot \delta x)-\mu (\delta x\cdot \delta x)$$

была определенно положительной. Отсюда в силу неравенства Сильвестра, мы получаем следующие достаточные условия устойчивости:
б) Условия (6.12) определяют требования, которым должны удовлетворять коэффициенты системы (6.6) для того, чтобы обеспечить устойчивость решения. Изложенный способ исследования устойчивости является вариантом прямого метода Ляпунова, а функция ${\rho }^2$, как указывалось, является функцией Ляпунова.

В прикладных задачах широко используются и другие методы исследования устойчивости. Например, если матрица $A$ постоянная, то можно разыскивать решение уравнения (6.6) в виде
$$\delta x=y{e}^{\lambda t}.$$

Подставляя (6.14) в (6.6), мы получаем уравнение для $\lambda$
$$|A-\lambda E|=0\text{. }$$

Характеристический определитель $|A-\lambda E|$ представляет собой некоторый полином от $\lambda$. Для асимптотической устойчивости решения $\delta x=0$ необходимо и достаточно, чтобы корни этого полинома имели отрицательные действительные части. Условия, которым должны удовлетворять коэффициенты этого полинома, необходимые и достаточные для того, чтобы его корни имели отрицательные действительные части, даются теоремой Гурвица *). Метод, использующий теорему Гурвица, совершенно эквивалентен изложенному с точки зрения окончательного результата.
в) Мы составили условия асимптотической устойчивости тривиального решения уравнения (6.6). По теории Ляпунова из этого факта следует и более сильный результат. Если условия (6.13) имеют место, то мы можем утверждать, что решение $x^{\ast }$ нелинейной системы (6.2) устойчиво в смысле Ляпунова (но не асимптотически устойчиво).