Для исследования устойчивости $4 T$-периодических решений вблизи $\varepsilon=0$ рассмотрим спектральную задачу (IX.54) и определим коэффициенты разложений ${ }^{1}$ )
\[
\gamma(\varepsilon)=\gamma_{1} \varepsilon+\frac{1}{2} \gamma_{2} \varepsilon^{2}+o\left(\varepsilon^{2}\right)
\]

и
\[
\mathbf{y}(t, \varepsilon)=\mathbf{y}_{0}(t)+\mathbf{y}_{1}(t) \varepsilon+\frac{1}{2} \mathbf{y}_{2}(t) \varepsilon^{2}+o\left(\varepsilon^{2}\right) \in \mathbb{P}_{4 T}
\]

для каждого из двух независимых бифуркационных решений. Мы нашли, что $\gamma_{1}=0$, так что устойчивость определяется знаком $\gamma_{2}$.

Используя обычный прием, подставим (IX.89) в (IX.54) и в обеих частях получаемого уравнения приравняем члены при одинаковых степенях $\varepsilon$; тогда найдем, что
\[
\begin{array}{c}
\int \mathrm{y}_{0}=0, \quad \mathrm{y}_{0} \in \mathbb{P}_{4 T} \\
\gamma_{1} \mathbf{y}_{0}=\sqrt{ } \mathbf{y}_{1}+\mathrm{f}_{n u}\left(t\left|\mathbf{u}_{1}\right| \mathbf{y}_{0}\right), \quad \mathrm{y}_{1} \in \mathbb{P}_{4} T
\end{array}
\]

и
\[
\begin{aligned}
2 \gamma_{1} \mathbf{y}_{1}+\gamma_{2} \mathbf{y}_{0} & =\int \mathbf{y}_{2}+2 \mathbf{f}_{u i l}\left(t\left|\mathbf{u}_{1}\right| \mathbf{y}_{1}\right)+ \\
& +\left\{\mu_{2} \mathbf{f}_{u \mu}\left(t \mid \mathbf{y}_{0}\right)+\mathbf{f}_{u u}\left(t\left|\mathbf{u}_{\mathbf{2}}\right| \mathbf{y}_{0}\right)+\right. \\
& \left.+\mathbf{f}_{u u t}\left(t\left|\mathbf{u}_{\mathbf{1}}\right| \mathbf{u}_{\mathbf{1}} \mid \mathbf{y}_{0}\right)\right\}, \quad \mathbf{y}_{\mathbf{2}}(\cdot) \in \mathbb{P}_{\mathbf{4} T} .
\end{aligned}
\]

С другой стороны, можно разложить
\[
\mathbf{y}(t, \varepsilon)=A(\varepsilon) \mathbf{Z}+B(\varepsilon) \overline{\mathbf{Z}}+\varepsilon \Psi(t, \varepsilon),
\]

где $A, B$ и $\Psi$ имеют комплексные значения и
\[
\left[\Psi, \mathbf{Z}^{*}\right]_{4 T}=\left[\psi, \overline{\mathbf{Z}}^{*}\right]_{4 T}=0 .
\]

Из (IX.90) и (IX.93) следует, что
\[
\mathbf{y}_{0}=A_{0} \mathbf{Z}+B_{0} \overline{\mathbf{Z}}, \quad\left|A_{0}\right|^{2}+\left|B_{0}\right|^{2}
eq 0
\]

и
\[
\mathbf{y}_{1}=A_{1} \mathbf{Z}+B_{1} \overline{\mathbf{Z}}+\boldsymbol{\psi}_{0}(t) .
\]

Далее, имеет место следующее тождество:
\[
\left[\mathrm{f}_{u a}\left(t\left|\mathbf{u}_{1}\right| \mathbf{y}_{0}\right), \mathbf{Z}^{*}\right]_{4 T}=0,
\]

потому что $\left[\mathrm{f}_{u u}\left(t\left|\mathbf{Z}_{l}\right| \mathbf{Z}_{j}\right), \mathbf{Z}_{k}^{*}\right]_{4 T}=0$, где $l, j, k=1$ или 2 и $\mathbf{Z}_{\mathbf{a}}=\overline{\mathbf{Z}}_{\mathbf{1}}=\mathbf{Z}$, $\mathbf{Z}_{2}^{*}=\overline{\mathbf{Z}}_{1}^{*}=\mathbf{Z}^{*}$. Использование альтернативы Фредгольма для (IX.91) приводит к равенствам:
\[
\gamma_{1} A_{0}=\gamma_{1} B_{0}=0 \text { и } \gamma_{1}=0 .
\]
1) Мы установили, что и $\gamma(\varepsilon)$ имеет порядок $\varepsilon^{2}$.

Обращаясь теперь к (IX.91) с $\gamma_{1}=0$ и (IX.95), находим, что
\[
\begin{aligned}
\sqrt{ } \boldsymbol{\psi}_{0}+A_{0} e^{i \varphi_{0} \mathbf{f}_{u a}}(t|\mathbf{Z}| \mathbf{Z})+ & B_{0} e^{-i \varphi_{0} \mathbf{f}_{u t}}(t|\mathbf{Z}| \overline{\mathbf{Z}})+ \\
& +\left(B_{0} e^{i \varphi_{0}}+\Lambda_{0} e^{i \varphi_{0}}\right) \mathbf{f}_{u a}(t|\mathbf{Z}| \overline{\mathbf{Z}})=0 .
\end{aligned}
\]

Сравнивая (IX.97) и (IX.78), находим, что
\[
\begin{array}{l}
\psi_{0}(t)=A_{0} e^{i \varphi_{0}} e^{i \pi m t / T} \mathbf{w}_{01}(t)+B_{0} e^{-i \varphi_{0}} e^{-i \pi m t / T} \overline{\mathbf{w}}_{01}(t)+ \\
+\frac{1}{2}\left(A_{0} e^{-i \varphi_{0}}+B_{0} e^{i \varphi_{0}}\right) \mathbf{w}_{02}(t), \\
\end{array}
\]

где $m=1,3$, а функции $\mathbf{w}_{0 l} \in \mathbb{P}_{\boldsymbol{T}}$ определяется по формуле (IX.79).
Обращаясь теперь к условиям $\left[\int_{\mathbf{y}_{2}}, \mathbf{Z}_{l}^{*}\right]_{4}=0$ разрешимости уравнения (IX.92), где $l=1,2$ и $\mathbf{Z}_{2}^{*}=\overline{\mathbf{Z}}_{1}^{*}=\mathbf{Z}^{*}$, найдем, используя (IX.95), (IX.96) и (IX.98), что
\[
\begin{array}{l}
{\left[\mathbf{f}_{u u}\left(t\left|\mathbf{u}_{1}\right| \mathbf{y}_{1}\right), \mathbf{Z}^{*}\right]_{t T}=\left[\mathbf{f}_{u a}\left(t\left|\mathbf{u}_{1}\right| \boldsymbol{\Psi}_{0}\right), \mathbf{Z}^{*}\right]_{4 T}=} \\
=\frac{1}{2}\left(A_{0}+B_{0} e^{2 i \varphi_{0}}\right)\left[\mathbf{f}_{u u}\left(t|\zeta| \mathbf{w}_{02}\right), \zeta^{*}\right]_{T}+A_{0}\left[\mathbf{f}_{u u}\left(t|\bar{\zeta}| \mathbf{w}_{01}\right), \zeta^{*}\right]_{T}+ \\
+B_{0} e^{-2 i \varphi_{0}}\left[e^{-2 \pi i m t / T} \mathbf{f}_{u a}\left(t|\bar{\zeta}| \overline{\mathbf{w}}_{01}\right), \zeta^{*}\right]_{T} .
\end{array}
\]

Точно такое же выражение, как и (IX.99), имеет место, если $\left(\mathbf{Z}^{*}, A_{0}, B_{0}\right)$ заменить на $\left(\overline{\mathbf{Z}}^{*}, B_{0}, A_{0}\right)$, а все другие величины заменить их комплексно-сопряженными:
\[
\begin{array}{l}
{\left[\mathbf{f}_{u a}\left(t\left|\mathbf{u}_{1}\right| \mathbf{y}_{1}\right), \overline{\mathbf{Z}}^{*}\right]_{4 T}=\frac{1}{2}\left(B_{0}+A_{0} e^{-2 i \varphi_{0}}\right)\left[\mathbf{f}_{u_{u}}\left(t|\bar{\zeta}| \mathbf{w}_{02}\right), \bar{\zeta}^{*}\right]_{T}+} \\
\quad+B_{0}\left[\mathbf{f}_{u u}\left(t|\bar{\zeta}| \overline{\mathbf{w}}_{01}\right), \bar{\zeta}^{*}\right]_{T}+A_{0} e^{2 i \varphi_{0}}\left[e^{2 \pi i m t / T} \mathbf{f}_{u u}\left(t|\zeta| \mathbf{w}_{01}\right), \bar{\zeta}^{*}\right]_{T} .
\end{array}
\]

Аналогично, используя (IX.69), (IX.79) и (IX.94), находим, что
\[
\begin{array}{l}
{\left[\mathbf{f}_{u u}\left(t\left|\mathbf{u}_{2}\right| \mathbf{y}_{0}\right), \mathbf{Z}^{*}\right]_{4 T}=\left[\mathbf{f}_{u u}\left(t\left|2 \mathbf{w}_{0}\right| \mathbf{y}_{0}\right), \mathbf{Z}^{*}\right]_{4 T}=} \\
=A_{0}\left[\mathbf{f}_{u t}\left(t\left|\mathbf{w}_{02}\right| \zeta\right), \zeta^{*}\right]_{T}+B_{0} e^{2 i \varphi_{0}}\left[\mathbf{f}_{u u}\left(t\left|\mathbf{w}_{01}\right| \bar{\zeta}\right), \zeta^{*}\right]_{T}+ \\
+B_{0} e^{-2 i \varphi_{0}}\left[e^{-2 \pi i m t / 7} \mathbf{f}_{u u}\left(t\left|\overline{\mathbf{w}}_{01}\right| \bar{\zeta}\right), \zeta^{*}\right]_{T} \\
\end{array}
\]

и
\[
\begin{array}{l}
{\left[\mathbf{f}_{u u}\left(t\left|\mathbf{u}_{2}\right| \mathbf{y}_{0}\right), \overline{\mathbf{Z}}^{*}\right]_{4 T}=B_{0}\left[\mathbf{f}_{u a}\left(t\left|\overline{\mathbf{w}}_{02}\right| \bar{\zeta}\right), \bar{\zeta}^{*}\right]_{T}+} \\
\quad+A_{0} e^{-2 i \varphi_{0}}\left[\mathbf{f}_{u a}\left(t\left|\overline{\mathbf{w}}_{01}\right| \zeta\right), \bar{\zeta}^{*}\right]_{T}+A_{0} e^{z i \varphi_{0}}\left[e^{2 \pi i m t / T} \mathbf{f}_{u a}\left(t\left|\mathbf{w}_{01}\right| \zeta\right), \bar{\zeta}^{*}\right]_{T} .
\end{array}
\]

Точно так же находим, что
\[
\begin{aligned}
{\left[\mathbf{f}_{u u u}\left(t\left|\mathbf{u}_{1}\right| \mathbf{u}_{1} \mid \mathbf{y}_{0}\right), \mathbf{Z}^{*}\right]_{4 T} } & =2 A_{0}\left[\mathbf{f}_{u a u}(t|\zeta| \bar{\zeta} \mid \zeta), \zeta^{*}\right]_{T}+ \\
& +B_{0} e^{2 i \varphi_{u}}\left[\mathbf{f}_{a u u}(t|\zeta| \zeta \mid \bar{\zeta}), \zeta^{*}\right]_{T}+ \\
& +B_{0} e^{-2 i \varphi_{0}}\left[e^{-2 \pi i m t / T} \mathbf{f}_{\text {uua }}(t|\bar{\zeta}| \bar{\zeta} \mid \bar{\zeta}), \zeta^{*}\right]_{T}
\end{aligned}
\]

и
\[
\begin{aligned}
{\left[\mathbf{f}_{n a u}\left(t\left|\mathbf{u}_{1}\right| \mathbf{u}_{1} \mid \mathbf{y}_{0}\right), \overline{\mathbf{Z}}^{*}\right]_{4 T} } & =2 B_{0}\left[\mathbf{f}_{u_{u a}}(t|\bar{\zeta}| \zeta \mid \bar{\zeta}), \bar{\zeta}^{*}\right]_{T}+ \\
& +A_{0} e^{-2 i \varphi_{0}}\left[\mathrm{f}_{u t u}(t|\bar{\zeta}| \bar{\zeta} \mid \zeta),\left.\bar{\zeta}^{*}\right|_{T}+\right. \\
& +A_{0} e^{2 i \varphi_{0}}\left[e^{2 \pi i m t / T} \mathbf{f}_{a u a}(t|\zeta| \zeta \mid \zeta), \bar{\zeta}^{*}\right]_{T}
\end{aligned}
\]

Наконец, с учетом (IX.38) получаем
\[
\left[\mathrm{f}_{u \mu}\left(t \mid \mathrm{y}_{0}\right), \mathrm{Z}^{*}\right]_{4 T}=\sigma_{\mu} A_{0}
\]

и
\[
\left[\mathrm{f}_{u_{\mu}}\left(t \mid \mathrm{y}_{0}\right), \overline{\mathbf{Z}}^{*}\right]_{4 T}=\bar{\sigma}_{\mu} B_{0} .
\]

Собирая все эти результаты вместе, находим, что два условия разрешимости уравнения (IX.92) имеют вид
\[
\gamma_{2} A_{0}=\left(\sigma_{\mu} \mu_{2}+2 \Lambda_{2}\right) A_{0}+B_{0}\left(\Lambda_{2} e^{2 i \varphi_{0}}+3 \Lambda_{3} e^{-2 i \varphi_{0}}\right)
\]

и
\[
\gamma_{2} B_{0}=\left(\bar{\sigma}_{\mu} \mu_{2}+2 \bar{\Lambda}_{2}\right) B_{0}+A_{0}\left(\bar{\Lambda}_{2} e^{-2 i \varphi_{0}}+3 \bar{\Lambda}_{3} e^{2 i \varphi_{0}}\right) .
\]

Поэтому $\gamma_{2}$ являются собственными значениями матрицы
\[
S=\left[\begin{array}{ll}
\mu_{2} \sigma_{\mu}+2 \Lambda_{2} & \Lambda_{2} e^{2 i \varphi_{0}}+3 \Lambda_{3} e^{-2 i \varphi_{0}} \\
\bar{\Lambda}_{2} e^{-2 i \varphi_{0}}+3 \bar{\Lambda}_{3} e^{2 i \varphi_{0}} & \mu_{2} \bar{\sigma}_{\mu}+2 \bar{\Lambda}_{2}
\end{array}\right],
\]

где $\mu_{2} \sigma_{\mu}+\Lambda_{2}+\Lambda_{3} e^{-\Delta i \varphi_{0}}=0$. Собственные значения $\gamma_{2}^{(1)}$ и $\gamma_{2}^{(2)}$ матрицы (IX. 100) удовлетворяют соотношениям
\[
\left(\gamma_{2}^{(1)}+\gamma_{2}^{(2)}\right)=\operatorname{tr} S=2\left(\mu_{2} \xi_{\mu}+2 \operatorname{Re} \Lambda_{2}\right)
\]

и
\[
\begin{aligned}
\gamma_{2}^{(1)} \gamma_{2}^{(2)} & =\operatorname{det} S=\left|\mu_{2} \sigma_{\mu}+2 \Lambda_{2}\right|^{2}-\left|\Lambda_{2}+3 \Lambda_{3} e^{-4 i \varphi_{0}}\right|^{2}= \\
& =\left|\sigma_{\mu}\right|^{2}\left\{\left|\mu_{2}+\frac{2 \Lambda_{2}}{\sigma_{\mu}}\right|^{2}-\left|3 \mu_{2}+\frac{2 \Lambda_{2}}{\sigma_{\mu}}\right|^{2}\right\}= \\
& =-8 \mu_{2}\left|\sigma_{\mu}\right|^{2}\left\{\mu_{2}+\operatorname{Re} \frac{\Lambda_{2}}{\sigma_{\mu}}\right\} .
\end{aligned}
\]

Если $\left|\Lambda_{2}\right|<\left|\Lambda_{3}\right|$, то на основе теоремы § IX. 15 заключаем, что $\mu_{2}^{(1)} \mu_{2}^{(2)}<0$ и для $\mu_{2}^{(1)}<0<\mu_{2}^{(2)}$ имеем
\[
\mu_{2}^{(1)}+\operatorname{Re} \frac{\Lambda_{2}}{\sigma_{\mu}}=-\mu_{2}^{(2)}-\operatorname{Re} \frac{\Lambda_{2}}{\sigma_{\mu}}<0 .
\]

Поэтому для каждого из двух бифуркационных решений $\gamma_{2}^{(1)} \gamma_{2}^{(2)}<0$. Это означает, что оба $4 T$-периодических бифуркационных решения неустойчивы. С другой стороны, если $\left|\Lambda_{2}\right|>\left|\Lambda_{3}\right|$ и $\left|\operatorname{Im}\left(\Lambda_{2} / \sigma_{\mu}\right)\right|<$ $<\left|\Lambda_{3} / \sigma_{\mu}\right|$, то $\mu_{2}^{(1)} \mu_{2}^{(2)}>0$ и $\gamma_{2}^{(1)} \gamma_{2}^{(2)}$ отрицательно для одного из двух бифуркационных решений. Для другого решения $\gamma_{2}^{(1)} \gamma_{2}^{(2)}>0$ и устойчивость определяется знаком выражения $\mu_{2} \xi_{\mu}+2 \operatorname{Re} \Lambda_{2}$ (имеет место устойчивость, если указанное выражение $<0$, и неустойчивость, если оно $>0$ ) (см. рис. IX.3).

Рис. IX.3. $4 T$-периодические бифуркационные решения малой амплитуды. $4 T$-периодические решения ответвляются, если $\left|\operatorname{Im}\left(\Lambda_{2} / \sigma_{\mu}\right)\right|<\left|\Lambda_{3} / \sigma_{\mu}\right|$. (a) Случай $\left|\Lambda_{2}\right|<\left|\Lambda_{3}\right|$. Ответвляются два $4 T$-пернодических решения, и оба неустойчивы. (б) Случай $\left|\Lambda_{2}\right|>\left|\Lambda_{3}\right|, \operatorname{Re}\left(\Lambda_{2} / \sigma_{\mu}\right)<0$. Ответвляются два решения: одно неустойчиво, а устойчивость другого зависит от параметров задачи. Если $\operatorname{Re}\left(\Lambda_{2} / \sigma_{\mu}\right)>0$, то эти два решения ответвляются в сторону, где $\mu<0$, и одно из них неустойчиво.