С рождением из состояния равновесия типа фокус (или стягиванием к нему) предельного цикла связан важный для приложений вопрос о поведении динамической системы при значениях параметров, близких к границе области устойчивости состояния равновесия (или периодического движения) и о различном характере границ области устойчивости («опасные» и «безопасные» границы). Қак известно, при исследовании конкретных динамических систем и выборе значений параметров приходится считаться не только с требованием устойчивости режимов работы но и с рядом других требований. Так, например, может оказаться, что оптимальные условия работы устройства наилучшим образом достигаются выбором (в пространстве параметров) точек, лежащих вблизи границы области, дозволенной условием устойчивости. Другой важный случай связан с тем, что некоторые параметры системы могут вести себя «квазистационарно» (эволюционировать) и притом так, что система выходит на границу области устойчивости. Естественно возникает вопрос, как при этом будет вести себя система на границе области устойчивости.

Рассмотрим сначала один из возможных случаев, имеющий большое практическое значение. Пусть начало координат есть состояние равновесия динамической системы, определяемой $n$ уравнениями первого порядка, и характеристическое уравнение соответствующей системы первого приближения имеет вид
\[
x^{n}+p_{1} x^{n-1}+\ldots+p_{n}=0 .
\]

Границей области устойчивости состояния равновесия в пространстве коэффициентов $p_{i}$, на которой характеристическое уравнение имеет по крайней мере одну пару чисто мнимых корней, будет поверхность
\[
R \equiv D_{n-1}=0,
\]

где $D_{n-1}$ – предпоследний определитель в условиях Рауса Гурвица. Будем считать коэффициенты $p_{i}$ зависящими от некоторого параметра $\lambda$ и предположим, что при $\lambda=\lambda_{0}$ выполнено $R\left(\lambda_{0}\right)=0$. Ляпунов показал, что для ответа на вопрос о поведении на границе области устойчивости недостаточно уравнений линейного приближения и необходим учет влияния нелинейных членов. Именно Ляпуновым были развиты специальные методы исследования, сводившие задачу исследования устойчивости состояния равновесия на границе области устойчивости к определению знаков или к необращению в нуль некоторых постоянных величин, для вычисления которых Ляпунов дал определенные рецепты и которые получили название ляпуновских величин.

С задачей о поведении динамической системы у границы области устойчивости равновесия типа фокус тесно связаны исследования Ляпунова по устойчивости двӥжения, относящиеся к случаю, когда среди корней характеристического уравнения есть корни, лежащие на мнимой оси [17]. Оказалось, что поведение динамической системы вблизи границы области устойчивости определяется ее поведением на самой границе. Следующие утверждения, рассматриваемые в предположении, что $R\left(\lambda_{0}\right)=0$, первая ляпуновская величина $L_{1}\left(\lambda_{0}\right)$ отлична от нуля, а $\lambda$ изменяется на некотором достаточно малом интервале $\lambda_{0}-\eta \leqslant \lambda \leqslant \lambda_{0}+\eta$, характеризуют возможные типы границ области устойчивости $[8,11]$.

Теорема 1. Пусть $L_{1}\left(\lambda_{0}\right)<0,(d R / d \lambda)_{\lambda=\lambda_{0}}<0$, и пусть $\lambda^{*}-$ фиксированное значение параметра $\lambda_{0}-\eta \leqslant \lambda^{*} \leqslant \lambda_{0}+\eta$, тогда можно указать такое $\varepsilon_{0}$ (не зависящее от $\lambda^{*}$ ), что для всякого сколь угодно малого положительного $\varepsilon_{1}<\varepsilon_{0}$ можно найти такое положительное $\eta_{0}<\eta$, что для любой траектории $x_{s}(t)$, начальные значения которой удовлетворяют неравенству $\left|x_{s}(t)\right|<\varepsilon_{0}$, для всех $t$, начиная с некоторого $t>t_{0}$, будет выполняться неравенство $\left|x_{s}(t)\right|<\varepsilon_{1}$, если только $\left|\lambda^{*}-\lambda\right|<\eta_{0}$.

Таким образом, при возрастании параметра состояние равновесия из устойчивого становится неустойчивым, однако изображающая точка остается в малой $\varepsilon_{1}$-окрестности состояния равновесия. При обратном изменении параметра, когда состояние равновесия опять становится устойчивым, изображающая точка снова возвращается к состоянию равновесия. Система ведет себя обратимо.

Теорема 2. Пусть $L_{1}\left(\lambda_{0}\right)>0,(d R / d \lambda)_{\lambda_{=\lambda_{1}}}<0$, и пусть $\lambda^{*}-$ фиксированное значение параметра $\lambda_{0}-\eta \leqslant \lambda^{*} \leqslant \eta_{0}+\eta$, тогда можно указать такое $\varepsilon_{0}$ (не зависящее от $\lambda^{*}$ ), что для всякого сколь угодно малого положительного $\varepsilon_{1}<\varepsilon_{0}$ можно найти такое положительное $\eta_{0}<\eta$, такие $t_{0}$ t $\left.t_{1}>t_{0}\right) u$ такие траектории $x_{s}(t, \lambda)$, что из неравенства $\left|\lambda^{*}-\lambda\right|<\eta_{0}$

для каждой из этих траекторий будут следовать неравенства $\left|x_{s}\left(t_{0}, \lambda^{*}\right)\right|<\varepsilon_{1},\left|x_{s}\left(t_{1}, \lambda^{*}\right)\right|>\varepsilon_{0}\left(t_{0}\right.$ и $t_{1}$ могут быть различны для различных траекторий).

Таким образом, при возрастании параметра состояние равновесия при $\lambda=\lambda_{0}$ из устойчивого становится неустойчивым. Изображающая точка срывается с состояния равновесия и отбрасывается на достаточно далекое расстояние. При обратном изменении параметра изображающая точка не возвращается в состояние равновесия, когда оно опять становится устойчивым. Система ведет себя необратимо.

Следовательно, природа границ области устойчивости может быть двоякой.
«Безопасные» границы – это такие границы, достаточно малое нарушение которых влечет за собой лишь малые (сколь угодно малые при достаточно малых нарушениях) изменения состояния системы. Можно показать, что в этом случае координаты системы будут претерпевать лишь весьма малые периодические изменения, накладывающиеся на равновесное (теперь неустойчивое) положение системы.
«Опасные» границы – это такие границы, сколь угодно малое нарушение которых влечет за собой переход системы в новое состояние, которое не может быть приближено к исходному выбором нарушений границы достаточно малыми.

Описанные ситуации имеют простой физический смысл и соответствуют, например (в частном случае), мягкому и жесткому возникновению автоколебанй. Эти ситуации для системы двух уравнений впервые были описаны А. А. Андроновым в 1931 г. в докладе «Математические проблемы теории автоколебаний» на I Всесоюзной конференции по колебаниям [1].

Выяснение особенностей поведения динамической системы вблизи границ области устойчивости в связи с возникновением или исчезновением периодических решений, классификация основных типов границ и типов поведения, а также разыскание соответствующих критериев представляют и более общий интерес с точки зрения теории бифуркаций. Мы приведем здесь некоторые факты, относящиеся к этой проблеме.
1. Опасные и безопасные границы. Поведение траекторин. Алгоритмические критерии
Рассмотрим систему

где
\[
\dot{x}=a x+b y+P(x, y), \quad \dot{y}=c x+d y+Q(x, y),
\]
\[
P(x, y)=\sum_{i+j \geqslant 2} Q_{i j} x^{i} y^{j}, \quad Q(x, y)=\sum_{i+j \geqslant 2} b_{i j} x^{i} y^{j}
\]