Рассмотрим дифференциальное уравнение в $\mathbb{R}^{2}$
\[
\frac{d x}{d t}=P(x, y), \quad \frac{d x}{d t}=Q(x, y),
\]
где P и $Q-$ многочлены. Существует ли оценка (верхняя граница) $K$ для числа предельных циклов вида $K \leqslant d^{q}$, где $d$-максимум степеней $P$ и $Q$, а $q$ – универсальная постоянная?
Это современный вариант второй половины шестнадцатой проблемы Гильберта. За исключением гипотезы Римана, она, по-видимому, является самой трудноразрешимой из проблем Гильберта.
Действительно, с момента появления статьи Петровского и Ландис [40], претендующей на то, чтобы дать по.ожительное решение проблемы, движение в данном вопросе, по-видимому, идет в обратном направлении. $\mathrm{Pa}$ нее Дюлак в [15] утверждал, что система (3) всегда имеет конечное число предельных циклов. После обнаружения пробела в доказательстве работы Петровского-Ландис (см. [41]) Ильяшенко [25] нашел ошибку в статье Дюлака. Более того, Ши Сонглинг в [52] нашел контрпример к определенным Петровским и Ландис оценкам в случае $d=2$. Впоследствии появились две независимые большие работы, содержащие доказательства утверждения Дюлака ([16] и [26]). Эти две статьи математическое сообщество еще тщательно не проверило.
Таким образом, известна ограниченность числа предельных циклов, однако сама оценка не известна. Мы рассмотрим специальный класс, где ограниченность очевидна, а вопрос об оценке остается открытым.
Рассмотрим уравнение Льенара (см., например, [24])
\[
\frac{d x}{d t}=y-f(x), \quad \frac{d y}{d t}=-x,
\]
где $f(x)$ – вещественный многочлен со старшим членом $x^{2 k+1}$ и удовлетворяющий условию $f(0)=0$.
Если $f(x)=x^{3}-x$, тогда (4) становится уравнением Ван-дер-Поля с одним предельным циклом. В более общем случае легко доказать, что все решения (4) движутся по окружности вокруг единственного положения равновесия в точке $(0,0)$ по часовой стрелке. Следуя вдоль этих кривых, мы определим «сечение Пуанкаре» $T: \mathbb{R}^{+} \rightarrow \mathbb{R}^{+}$, где $\mathbb{R}^{+}$- положительная ось $y$. Предельные циклы (4) являются в точности неподвижными точками отображения $T$. В различных беседах я поднимал вопрос об оценке количества этих неподвижных точек (посредством некоторой новой теоремы о неподвижной точке). В ответ Линц, ди Мело и Пью [32] нашли примеры с $k$ различными предельными циклами и предложили это число $k$ в качестве верхней границы. Верхняя граница вида $(\operatorname{deg} f)^{q}$ до сих пор не найдена. Поскольку отображение $T$ – аналитическое, то отсюда следует, что система (4) имеет конечное число предельных циклов для каждого $f$.
Рассмотрим теперь «задачу Пью», о которой я узнал от Чарльза Пью. Пусть задано дифференциальное уравнение с одной переменной
\[
\frac{d x}{d t}=x^{d}+h_{1}(t) x^{d-1}+h_{2}(t) x^{d-2}+\ldots, \quad 0 \leqslant t \leqslant 1,
\]
где $h_{i}-$ функции класса $C^{\infty}$. Выполняется ли $K(d) \leqslant d$, где $K(d)-$ количество решений, удовлетворяющих на границах условию $x(0)=x(1)$ ?
В ответ Луи Ниренберг написал мне (20 сентября 1976 года) о своем $C^{\infty}$ примере, доказывающем неравенство $K(4) \geqslant 6$. Однако верхние границы для случая, когда функции $h_{i} \in C^{\infty}$ или даже являются многочленами, неизвестны.
Дополнительные сведения по указанным проблемам можно найти в [8], [27], [34] и [65].
