Рассмотрим теперь случай резонансных колебаний в системе (8.1), т. е. будем считать, что $\lambda$ близко к целому числу $p: \lambda=p+\mu k$. Система (8.1) тогда может быть приведена к виду
\[
\left.\begin{array}{l}
\dot{x}=-p y+X(x, y)+\mu \Phi_{1}(x, y, t), \\
\dot{y}=p x+Y(x, y)+\mu \Phi_{2}(x, y, t),
\end{array}\right\}
\]

где
\[
\Phi_{1}=F_{1}-k y, \quad \Phi_{2}=F_{2}+k x .
\]

Мы условились рассматривать резонансный случай. Это значит, что хотя бы одно из соотношений (8.8) не выполняется. Таким образом, будем считать, что один из функционалов $I_{1}\left(\Phi_{1}, \Phi_{2}\right)$ или $I_{2}\left(\Phi_{1}, \Phi_{2}\right)$ отличен от нуля.
Сделаем несколько предварительных замечаний:
a) При $\mu=0$ порождающая система (8.2) допускает периодические решения, период которых $T$ является четной аналитической функцией «постоянной энергии» $H$
\[
x^{2}+y^{2}+W(x, y)=H .
\]

Напомним, что $W(x, y)$ – аналитическая функция своих переменных, разложение которой начинается с членов третьего порядка. Итак,
\[
T=\frac{2 \pi}{}\left(1+h_{2} H^{2 k}+\ldots\right) \text {, }
\]

причем, как мы это видели в п. 4, постоянная $h_{2}$ в разложении (8.17) та же, что и в разложении (8.3).
б) Задача определения возможных периодических решений системы (8.16) состоит в определении постоянных $a$ и $b$ – начальных значений переменных $x$ и $y$
\[
x(0)=a, \quad y(0)=b,
\]

которые удовлетворяют следующим условиям:
\[
x(2 \pi, a, b, \mu)=a, \quad y=(2 \pi, a, b, \mu)=b,
\]

поскольку условия (8.19) необходимы и достаточны для существования периодических решений исходной системы.

При $\mu=0$ любая пара чисел $a$ и $b$, достаточно малых по абсолютной величине, будет определять некоторое периодическое решение. Период этого решения будет $T$ (см. (8.17)). Следовательно,
\[
x(T, a, b, 0)=a, \quad y(T, a, b, 0)=b .
\]

Очевидно, что эти соотношения сохраняют силу, если заменить $T$ на $q T$, где $q$ – любое целое число
\[
x(q T, a, b, 0)=a, \quad y(q T, a, b, 0)=b .
\]

Используя обозначения (8.18) и принимая во внимание, что разложение функции $W(a, b)$ начинается с членов третьего порядка малости, выражение для $T$ можно переписать в следующем виде:
\[
T=\frac{2 \pi}{p}\left(1+h_{2}\left(a^{2}+b^{2}\right)^{k}+\ldots\right),
\]

где невыписанные члены имеют порядок малости более высокий, чем $O\left(a^{2 k}\right)$ и $O\left(b^{2 k}\right)$.
в) Функции $x$ и $y$-аналитические функции $a, b$ и $\mu$, т. е. они могут быть представлены в форме рядов следующего вида:
\[
\left.\begin{array}{l}
x(t, a, b, \mu)=A_{1} a+B_{1} b+C_{1} \mu+\ldots, \\
y(t, a, b, \mu)=A_{2} a+B_{2} b+C_{2} \mu+\ldots
\end{array}\right\}
\]

Ряды (8.22) можно записать еще и так:
\[
\left.\begin{array}{l}
x(t, a, b, \mu)=x(t, a, b, 0)+\mu\left(C_{1}+\Psi_{1}\right) \\
y(t, a, b, \mu)=y(t, a, b, 0)+\mu\left(C_{2}+\Psi_{2}\right)
\end{array}\right\}
\]

где $\Psi_{1}$ и $\Psi_{2}$ – аналитические функции переменных $a, b$ и $\mu$, обращающихся в нуль при $a=b=\mu=0 ; A_{1}, A_{2}, B_{1} \ldots$ – функции времени. Для их определения надо ряды (8.23) подставить в систему уравнений (8.16) и приравнять коэффициенты при одинаковых степенях неизвестных $a, b$ и $\mu$. Например, для $C_{1}$ и $C_{2}$ мы получим следующую систему уравнений:
\[
\left.\begin{array}{rl}
\frac{d C_{1}}{d t} & =-p C_{2}+\Phi_{1}(0,0, t), \\
\frac{d C_{2}}{d t} & =p C_{1}+\Phi_{2}(0,0, t) .
\end{array}\right\}
\]

Так как $x(0)=a$ и $y(0)=b$, то функции $C_{1}$ и $C_{2}$ должны удовлетворять нулевым начальным условиям
\[
C_{1}(0)=0, \quad C_{2}(0)=0 .
\]

Определим $C_{1}$ и $C_{2}$ методом вариации произвольных постоянных, положив
\[
C_{1}=\alpha \cos p t+\beta \sin p t, \quad C_{2}=\alpha \sin p t-\beta \cos p t .
\]

Считая $\alpha$ и $\beta$ новыми неизвестными, определим их из уравнений (8.24). Используя начальные условия (8.25), получим окончательно следующие выражения для искомых функций $C_{1}$ и $C_{2}$ :
\[
\begin{array}{l}
C_{1}=\cos p t\left\{\int_{0}^{t} \Phi_{1} \cos p t d t+\int_{0}^{t} \Phi_{2} \sin p t d t\right\}+ \\
+\sin p t\left\{\int_{0}^{t} \Phi_{1} \sin p t d t-\int_{0}^{t} \Phi_{2} \cos p t d t\right\}, \\
C_{2}=\sin p t\left\{\int_{0}^{t} \Phi_{1} \cos p t d t+\int_{0}^{t} \Phi_{2} \sin p t d t\right\}+ \\
+\cos p t\left\{\int_{0}^{t} \Phi_{2} \cos p t d t-\int_{0}^{t} \Phi_{1} \sin p t d t\right\} .
\end{array}
\]

Вычислим еще значения $C_{1}(2 \pi)$ и $C_{2}(2 \pi)$. Легко видеть, что
\[
C_{1}(2 \pi)=I_{1}\left(\Phi_{1}, \Phi_{2}\right), \quad C_{2}(2 \pi)=I_{2}\left(\Phi_{1}, \Phi_{2}\right) .
\]

Мы условились, что хотя бы одно из чисел $I_{1}$ или $I_{2}$ не равно нулю. Поэтому либо $C_{1}(2 \pi)$, либо $C_{2}(2 \pi)$ не равно нулю.

После этих предварительных рассмотрений перейдем к доказательству существования резонансных решений $x^{(0)}$ и $y^{(0)}$ и нахождению их структуры. Для этого рассмотрим снова систему уравнений (8.19). Перепишем эти уравнения, используя представления (8.23):
\[
\left.\begin{array}{l}
x(2 \pi, a, b, 0)+\mu\left[C_{1}(2 \pi)+\Psi_{1}\right]=a, \\
y(2 \pi, a, b, 0)+\mu\left[C_{2}(2 \pi)+\Psi_{2}\right]=b .
\end{array}\right\}
\]

Равенство (8.21) может быть пӗреписано в следующей форме:
\[
2 \pi=p \Gamma\left(1-h_{2}\left(a^{2}+b^{2}\right)^{h}+\ldots\right) .
\]

Сделаем тождественное преобразование
\[
2 \pi=p T-p T h_{2}\left(a^{2}+b^{2}\right)^{k}+\ldots=p T-2 \pi h_{2}\left(a^{2}+b^{2}\right)^{k}+\ldots
\]

Таким образом, величину $x(2 \pi, a, b, 0)$ мы можем представить в форме следующего ряда:
\[
\begin{aligned}
x(2 \pi, a, b, 0)= & x\left(p T-2 \pi h_{2}\left(a^{2}+b^{2}\right)^{k}+\ldots, a, b, 0\right)= \\
& =x(p T, a, b, 0)-2 \pi h_{2}\left(a^{2}+b^{2}\right)^{k} \frac{\partial x}{\partial t}+\Phi_{1}^{*},
\end{aligned}
\]

где $\Phi_{1}^{*}$ – сумма членов более высокого порядка. Воспользуемся теперь равенствами (8.20) и тем обстоятельством, что
\[
\left(\frac{\partial x}{\partial t}\right)_{\mu=0}=-p y+X(x, y)
\]

и, следовательно,
\[
\left(\frac{\partial x}{\partial t}\right)_{\substack{\mu=0 \\ t=p T}}=-p b+X(a, b) .
\]

Это позволяет разложение (8.28) представить в форме
\[
x(2 \pi, a, b, 0)=a+2 \pi h_{2} p b\left(a^{2}+b^{2}\right)^{k}+\Phi_{1}^{* *},
\]

где $\Phi_{1}^{* *}$ – сумма членов более высокого порядка по отношению $a$ и $b$. Подобное разложение можно написать и для функции $y(2 \pi, a, b, 0)$ :
\[
y(2 \pi, a, b, 0)=b-2 \pi h_{2} p a\left(a^{2}+b^{2}\right)^{k}+\Phi_{2}^{* *} .
\]

Эти равенства позволяют теперь систему (8.27) записать в форме
\[
\left.\begin{array}{r}
2 \pi h_{2} p b\left(a^{2}+b^{2}\right)^{k}+\Phi_{1}^{* *}+\mu\left[C_{1}(2 \pi)+\Psi_{1}\right]=0 \\
-2 \pi h_{2} p a\left(a^{2}+b^{2}\right)^{k}+\Phi_{2}^{* *}+\mu\left[C_{2}(2 \pi)+\Psi_{2}\right]=0
\end{array}\right\}
\]

Итак, систему уравнений, которая позволяет определить начальные значения переменных $x$ и $y$, порождающие периодические решения системы (8.1), мы привели к виду (8.29), где выделены низшие степени относительно искомых чисел $a$ и $b$. Соотношения (8.29) показывают, что для периодических решений эти числа должны зависеть от $\mu$ и по условию обращаться в нуль при $\mu=0$, поскольку мы ищем решение, которое при $\mu \rightarrow 0$ превращается в тривиальное.

Так как наименьшая степень чисел $a$ и $b$ равна $2 k+1$, то ряды, которые определяют $a$ и $b$ через $\mu$ должны быть расположены по степеням параметра $v=\mu^{\frac{1}{2 k+1}}$. Поэтому сделаем еще одну замену переменных
\[
a=\alpha v, \quad b=\beta v .
\]

Тогда система (8.29) примет следующий вид:
\[
\left.\begin{array}{r}
2 \pi h_{2} p \beta\left(\alpha^{2}+\beta^{2}\right)^{k}+C_{1}(2 \pi)+\frac{1}{\mu} \Phi_{1}^{* *}+\Psi_{1}=0, \\
-2 \pi h_{2} p \alpha\left(\alpha^{2}+\beta^{2}\right)^{k}+C_{2}(2 \pi)+\frac{1}{\mu} \Phi_{2}^{* *}+\Psi_{2}=0
\end{array}\right\}
\]

Напомним, что через $\Phi_{1}^{* *}, \Phi_{2}^{* *}$ и $\Psi_{1}, \Psi_{2}$ обозначены совокупности членов, порядок которых более высокий стносительно $a b$ и $\mu$. Следовательно, мы можем утверждать, что они обращаются в нуль при $v=0$. Из аналитичности этих функций следует, что разложения этих функций начинаются с членов первого порядка малости по $v$
\[
\frac{1}{\mu} \Phi_{i}^{* *}+\Psi_{i}=v x_{i}+\ldots \quad(i=1,2) .
\]

Левые части уравнений (8.31) – аналитические функции своих переменных. Поэтому решения этой системы будут аналитическими функциями параметра $v$
\[
\left.\begin{array}{l}
\alpha=\alpha_{0}+v \alpha_{1}+v^{2} \alpha_{2}+\ldots, \\
\beta=\beta_{0}+v \beta_{1}+v^{2} \beta_{2}+\ldots
\end{array}\right\}
\]

Уравнения (8.31) будут иметь только одно действительное решение, причем $\alpha_{0}$ и $\beta_{0}$ в этом случае удовлетворяют системе алгебраических уравнений
\[
\left.\begin{array}{l}
2 \pi h_{2} \beta_{0}\left(\alpha_{0}^{2}+\beta_{0}^{2}\right)^{k}=-C_{1}(2 \pi), \\
2 \pi h_{2} \alpha_{0}\left(\alpha_{0}^{2}+\beta_{0}^{2}\right)^{k}=C_{2}(2 \pi) .
\end{array}\right\}
\]

Разделив первое из уравнений (8.33) на второе, найдем
\[
\alpha_{0}=\frac{C_{2}}{C_{1}} \beta_{0} .
\]

Подставив затем это выражение во второе, из уравнений системы (8.33) найдем величину $\beta_{0}$ :
\[
\beta_{0}=-\frac{C_{1}(2 \pi)}{\sqrt[2 k+1]{2 \pi h_{2} p\left[C_{1}^{2}+C_{2}^{2}\right]^{k}}} .
\]

Аналогичным образом мы найдем и величину $\alpha_{0}$.
\[
\alpha_{0}=\frac{C_{2}(2 \pi)}{\sqrt[2 k+1]{2 \pi h_{2} p\left[C_{1}^{2}+C_{2}^{2}\right]^{k}}} .
\]

В равенствах (8.34) и (8.35) берется арифметическое значение корня. Среди чисел $\alpha_{0}$ и $\beta_{0}$ по крайней мере одно отлично от нуля, так как мы уже установили, что одна из констант $C_{1}(2 \pi)$ или $C_{2}(2 \pi)$ необходимо отлична от нуля. Уравнения для определения последующих членов разложений (8.32) будут линейными и всегда разрешимыми. Итак, мы пришли к следующему фундаментальному результату.

Теорема (И. Г. Малкин). Пусть число $2 k$ – младшая степень величины с в разложении периода
\[
T=\frac{2 \pi}{p}\left(1+h_{2} c^{2 k}+\ldots\right)
\]

порождающего решения. Тогда при главном рєзонансе существует одно и только одно периодическое решение системы (8.1), которое обращается в нуль при $\mu=0$. Это решение является аналитической функцией параметра $v=\mu^{\frac{1}{2 k+1}}$.

Эта теорема является фундаментальной теоремой теории резонанскых решений. Она не только устанавливает факт существования резонансных решений, но и указывает путь их построения. Эти решения, как явствует из теоремы, следует искать в виде рядов, расположенных по степеням параметра
\[
v=\mu^{\frac{1}{2 k+1}} .
\]