Метод Вандер-Поля позволяет не только отыскать стационарные режимы, но и изучить характер колебаний системы в окрестности этих режимов.

Пусть $x^{*}$ – некоторый стационарный режим, и пусть в момент $t=0$ значение амплитуды не совпадает с $x^{*}$; тогда возникает задача об исследовании поведения амплитуды, если отклонение амплитуды $\delta x=x-x^{*}$ от стационарного значения невелико.

Составим уравнение в вариациях для укороченных уравнений (1.8)
\[
\delta \dot{x}=-\frac{\varepsilon}{\omega} \frac{d \stackrel{\varphi}{\varphi}_{1}(x)}{d x} \delta x .
\]

Отсюда сразу следует, что характер изменения величины $\delta x$ определяется только знаком производной $\frac{d \bar{\varphi}_{1}(x)}{d x}$, вычисленной для стационарного значения амплитуды $x^{*}$. Если $\frac{d \bar{\varphi}_{1}(x)}{d x}>0$, то амплитуда $x$ убывает и стремится к своему стационарному значению, в противном случае $x(t)$ растет.

Проведенные рассуждения очень часто называют исследованием устойчивости. Однако укороченные уравнения Ван-дерПоля являются приближенными, и мы исследуем устойчивость не исходного процесса, а некоторого решения уравнений Вандер-Поля. Тем не менее это рассуждение может быть очень полезным для изучения тенденции изменения $x$ на некотором конечном (и, вообще говоря, достаточно большом) интервале времени.

Следует заметить, что предлагаемая процедура «исследования устойчивости» очень проста. Для решения вопроса об устойчивости нам достаточно вычислить производную в точке $x=x^{*}$.

Рассмотрим, например, уравнение (1.26). Функция $\bar{\varphi}_{1}(x)$ определяется формулой
\[
\varphi_{1}(x)=\frac{x}{2}\left(\frac{b x^{2}}{4}-1\right) .
\]

Вычислим
\[
\frac{d \bar{\varphi}_{1}}{d x}=\frac{3}{8} b x^{2}-\frac{1}{2} .
\]

Мы знаем, что движение, которое описывается уравнением (1.26), имеет две стационарные точки $x=0$ и $x=2 \sqrt{1 / b}$. Так как
\[
\left(\frac{d \bar{\varphi}_{1}}{d x}\right)_{x=0}=-\frac{1}{2}<0
\]

то положение равновесия $x=0$ неустойчиво. Вычислим далее
\[
\left(\frac{d \stackrel{\varphi}{\varphi}_{1}(x)}{d x}\right)_{x=2} \sqrt{\frac{1}{b}}=1>0 .
\]

Таким образом, предельный цикл оказывается устойчивым. Уравнение (1.39) легко интегрируется
\[
\delta x=\delta x_{0} \exp \left\{-\frac{\varepsilon}{\omega} \frac{d \bar{\varphi}_{1}(x)}{d x} t\right\} .
\]

Формула (1.41) нам дает закон изменения амплитуды в случае малых отклонений от стационарного режима. Столь же просто можно определить изменение частоты со временем. Линеаризуя второе из уравнений (1.8), мы определим
\[
\dot{y}=\Omega\left(x^{*}+\delta x\right)=\Omega\left(x^{*}\right)+\frac{\varepsilon \delta x_{0}}{\omega x^{*}}\left\{\frac{\bar{\varphi}_{2}\left(x^{*}\right)}{x^{*}}-\frac{d \bar{\varphi}_{2}(x)}{d x}\right\} \exp \left\{-\frac{\varepsilon}{\omega} \frac{d \bar{\varphi}_{1}(x)}{d x} t\right\},
\]

где
\[
\Omega(x)=\omega-\frac{\varepsilon}{\omega x} \varphi_{2}(x) .
\]

Формулы (1.41) и (1.42) описывают переходный процесс при малых начальных отклонениях. Для изучения произвольного переходного процесса мы должны найти численное решение первого из уравнений (1.8), что нам даст закон изменения амплитуды. Второе из этих уравнений позволит тогда в явном виде вычислить скорость изменения фазы $\dot{y}=\Omega(t)$.