Возможность существования периодического асимптотически устойчивого движения, которое изображается изолированной замкнутой траекторией в фазовом пространстве системы, к которой со временем притягиваются траектории из некоторой окрестности независимо от начальных условий, обеспечивается только в нелинейных диссипативных системах. Этот тип динамических систем настолько важен при изучении колебательных процессов, что для его выделения А.А. Андронов предложил специальный термин — автоколебательные системы [6]. Математическим образом автоколебаний служит предельный цикл Пуанкаре — замкнутая изолированная траектория в фазовом пространстве, отвечающая периодическому движению.

В качестве примера динамической системы с предельным циклом Пуанкаре рассмотрим классический нелинейный осциллятор Ван дер Поля, уравнение колебаний которого
\[
\ddot{x}-a\left(1-b x^{2}\right) \dot{x}+x=0 .
\]

Параметр $a$, характеризующий подкачку энергии в систему от внешнего источника, является существенным параметром осциллятора и называется параметром возбуждения. Из сравнения уравнений (1.26) и (1.23) следует, что осциллятор Ван дер Поля описывает более сложный колебательный контур, характер и значение диссипации в котором зависят от переменной $x$. В фазовых координатах уравнение колебаний осциллятора (1.26) представляется как
\[
\dot{x}_{1}=x_{2}, \quad \dot{x}_{2}=a\left(1-b x_{1}^{2}\right) x_{2}-x_{1},
\]

причем
\[
a\left(1-b x_{1}^{2}\right)
ot \equiv 0 .
\]

Аналитически уравнения (1.27) не решаются и исследования проводятся с использованием численных методов. В практически важном случае $(a>0, b>0)$ уравнения (1.27) имеют единственное устойчивое решение в виде предельного цикла $\Gamma$, изображенного на рис. 1.5, a.

Рис. 1.5. Предельный цикл системы (1.26); расчет для значений параметров $a=1, b=0.3(a)$. Проекция двумерного тора на плоскость переменных $x_{1}, x_{2}$; численное интегрирование уравнений (1.29) для значений параметров $a=1, \quad b=0.3, B=1.0, \varphi_{0}=0$ (б).

Положение равновесия в начале координат, в котором вблизи нуля можно пренебречь нелинейностью, при $a>0$ является неустойчивым фокусом. Траектории из окрестности состояния равновесия асимптотически стремятся к предельному циклу. Как показывает анализ, предельный цикл является устойчивой изолированной структурой, притягивающей к себе траектории из любой точки на фазовой плоскости.

Таким образом, в динамических системах с нелинейной зависимостью диссипации энергии от переменной, совершающей колебания, впервые появляется принципиально новый тип устойчивого предельного множества фазовых траекторий: предельный цикл. Расчеты свидетельствуют, что на предельном цикле за время периода колебаний доли рассеиваемой и вносимой энергии строго компенсируются.

Наконец, рассмотрим еще один случай типичной структуры в фазовом пространстве динамической системы, возникающей, например, при периодическом возмущении системы с устойчивым предельным циклом. Добавим в уравнение (1.26) источник гармонического воздействия сравнительно малой амплитуды $B$ и частоты $p$, которую будем считать рационально не связанной с частотой периодических колебаний автономного осциллятора:
\[
\ddot{x}-a\left(1-b x^{2}\right) \dot{x}+x=B \sin \left(p \tau+\varphi_{0}\right) .
\]

Периодическая модуляция предельного цикла автономной системы приводит к тому, что фазовая траектория с заданной частотой $p$ вращается вокруг предельного цикла и лежит на двумерной поверхности, представляющей собой поверхность тора. Аналогично случаю предельного цикла эта поверхность будет устойчивым предельным множеством, к которому стягиваются со временем все траектории из некоторой окрестности тора (как изнутри него, так и снаружи!). Нетрудно представить себе, что минимальная размерность фазового пространства, в которое можно вложить двумерный тор, равна трем. На рис. $1.5,6$ показана проекция на плоскость переменных $x_{1}, x_{2}$ фазовой траектории на двумерном торе, полученная численным интегрированием системы (1.29).