Уравнение на собственные функци
\[
\mathrm{L} \psi=\lambda \psi, \quad \psi=\left(\begin{array}{l}
\psi_{1} \\
\psi_{2}
\end{array}\right)
\]
для оператора (5.1) эквивалентно системе двух уравнений
\[
i p_{1} \psi_{1 x}+v \psi_{2}=\lambda \psi_{1}, \quad i p_{2} \psi_{2_{x}}+v \psi_{1}=\lambda \psi_{2} .
\]
Система (7.2) после замены
\[
\begin{array}{l}
\psi_{1}=\sqrt{p_{2}} \exp \left(-i \lambda x / p_{1} p_{2}\right) v_{2} \\
\psi_{2}=\sqrt{p_{1}} \exp \left(-i \lambda x / p_{1} p_{2}\right) v_{1}
\end{array}
\]
принимает вид
\[
\begin{array}{l}
v_{1_{x}}+i \lambda \frac{p_{1}-1}{p_{1} p_{2}} v_{1}=\frac{i v}{\sqrt{p_{1} p_{2}}} v_{2}, \\
v_{2 x}+i \lambda \frac{p_{2}-1}{p_{1} p_{2}} v_{2}=\frac{i v}{\sqrt{p_{1} p_{2}}} v_{1} .
\end{array}
\]
Далее предположим, что выполнены соотношения
\[
p_{1}+p_{2}=2, p_{1} p_{2}>0 .
\]
В этом случае в уравнении (5.7) параметр $\beta>0$, и уравнение вещественно не эквивалентно уравнению (1.1).
Система (7.4) после введения обозначений
\[
\zeta=\lambda \frac{p_{1}-1}{p_{1} p_{2}}=-\lambda \frac{p_{2}-1}{p_{1} p_{2}}, \quad q=\frac{i v}{\sqrt{p_{1} p_{2}}}, \quad \bar{q}=-q
\]
переходит в систему
\[
v_{1_{x}}+i \zeta v_{1}=q v_{2}, \quad v_{2_{x}}-i \zeta v_{2}=q v_{1},
\]
которая подробно изучалась в работе [67] в связи с нелинейным уравнением Шрёдингера.
В дальнейшем рассматриваются решения $v(t, x, y)$ уравнения (5.7), имеющие следующие асимптотики:
\[
\begin{array}{c}
x \rightarrow-\infty: \quad \partial_{x}^{-1}\left(v^{2}\right)_{y}(t, x, y) \rightarrow g(t, y), \quad v(t, x, y) \rightarrow 0, \\
x \rightarrow+\infty: \quad \partial_{x}^{-1}\left(v^{2}\right)_{y}(t, x, y) \rightarrow h(t, y), \quad v(t, x, y) \rightarrow 0 .
\end{array}
\]
При этом потенциал $q=i v / \sqrt{p_{1} p_{2}} \rightarrow 0$ при $|x| \rightarrow \infty$.
Согласно работе [67] преобразование
\[
\tau\left(\begin{array}{l}
v_{1} \\
v_{2}
\end{array}\right)=\left(\begin{array}{l}
\bar{v}_{2} \\
\bar{v}_{1}
\end{array}\right), \quad \tau^{2}=1
\]
переводит решение системы (7.7) при вещественном $\zeta$ снова в решение. Функции Йоста $\varphi, \psi$ при вещественном $\zeta$ определены как решения системы (7.7), имеющие асимптотики
\[
\varphi_{1} \rightarrow\left(\begin{array}{l}
1 \\
0
\end{array}\right) e^{-i \xi x} \text { при } x \rightarrow-\infty ; \quad \varphi_{2} \rightarrow\left(\begin{array}{l}
0 \\
1
\end{array}\right)^{i \xi x} \text { при } x \rightarrow+\infty .
\]
Функция $\tau(\psi)$ при $x \rightarrow+\infty$ имеет асимптотику
\[
\tau\left(\varphi_{2}\right) \rightarrow\left(\begin{array}{l}
1 \\
0
\end{array}\right) e^{-i \zeta x} .
\]
Фувкции $\varphi_{2}$ и $\tau\left(\varphi_{2}\right)$ образуют базис в двумерном пространстве решений системы (7.7). Поэтому справедливо равенство
\[
\varphi_{1}=a(\xi, t, y) \tau\left(\varphi_{2}\right)+b(\zeta, t, y) \varphi_{2} .
\]
Для снектральной функции $\psi(\lambda, t, x, y)$ (7.1) $(\lambda=$ = const) в силу уравнения Лакса $\mathrm{L}=[\mathrm{L}, \mathrm{A}]$ справедливо уравнение
\[
\mathrm{L}\left(\psi_{t}+\mathrm{A} \psi\right)=\lambda\left(\psi_{t}+\mathrm{A} \psi\right),
\]
r. e. функция $\psi_{t}+\mathrm{A} \psi$ является линейной комбинацией двух функций Йста (7.10), (7.11).
В силу формул (5.2), (5.6) и асимптотик (7.8) при $x \rightarrow-\infty$ получаем
\[
\begin{array}{l}
\left(\psi_{t}+\mathrm{A} \psi\right)_{1}=\psi_{1_{t}}+2 \alpha p_{1}^{2} \psi_{1_{x x y}}-\frac{2 \alpha p_{1}}{p_{1}-p_{2}} g \psi_{1 x} \\
\left(\psi_{t}+\mathrm{A} \psi\right)_{2}=\psi_{2 t}+2 \alpha p_{2}^{2} \psi_{2 x x y}+\frac{2 \alpha p_{2}}{p_{1}-p_{2}} g \psi_{2 x} .
\end{array}
\]
При $x \rightarrow+\infty$ в формулах (7.14) необходимо заменить функцию $g(t, y)$ на $h(t, y)$.
Обозначим через $\mathrm{T}$ преобразование (7.3): $\mathrm{T}\left(v_{1}, v_{2}\right)=$ $=\left(\psi_{1}, \psi_{2}\right)$ и через $\mathrm{B}-$ преобразование
\[
\mathrm{B}=\mathrm{T}^{-\mathbf{1}}\left(\frac{\partial}{\partial t}+\mathrm{A}\right) \mathrm{T} .
\]
Если функции $\left(v_{1}, v_{2}\right.$ ) удовлетворяют системе (7.7), то в силу (7.13) функции $\mathrm{B}\left(v_{1}, v_{2}\right)$ также удовлетворяют системе (7.7).
При $x \rightarrow-\infty$ в силу формул (7.14), (7.15) и (7.3). получаем $\mathrm{B}\left(v_{1}, v_{2}\right)=\left(\mathrm{B} v_{1}, \mathrm{~B} v_{2}\right)$, где
\[
\begin{aligned}
\mathrm{B} v_{1}=v_{1_{t}}+2 \alpha p_{2}^{2}\left(v_{1_{x x y}}\right. & \left.-\frac{2 i \zeta}{p_{1}-1} v_{1_{x y}}-\left(\frac{\zeta}{p_{1}-1}\right)^{2} v_{1_{y}}\right)+ \\
& +\frac{2 \alpha p_{2}}{p_{1}-p_{2}} g\left(v_{1_{x}}-\frac{i \zeta}{p_{1}-1} v_{1}\right) \\
\mathrm{B} v_{2}=v_{2 t}+2 \alpha p_{1}^{2}\left(v_{2 x x y}-\right. & \left.\frac{2 i \zeta}{p_{1}-1} v_{2 x y}-\left(\frac{\zeta}{p_{1}-1}\right)^{2} v_{2 y}\right)- \\
& -\frac{2 \alpha p_{1}}{p_{1}-p_{2}} g\left(v_{2_{x}}-\frac{i \zeta}{p_{1}-1} v_{2}\right) \cdot
\end{aligned}
\]
Применяя формулы (7.16) к функции Йоста $\varphi_{1}$ (7.10). при $x \rightarrow-\infty$, получаем точное равенство
\[
\mathrm{B}_{-}\left(\varphi_{1}\right)=-\frac{2 i \alpha p_{1} p_{2} g}{\left(p_{1}-p_{2}\right)\left(p_{1}-1\right)} \varphi_{1} .
\]
Представим функцию $\varphi_{1}$ в виде (7.12) п применим аналог формул (7.16) при $x \rightarrow+\infty$, при этом функция $g(t, y)$. заменяется на $h(t, y)$. Используя асимптотики (7.10), (7.11) при $x \rightarrow+\infty$, находим
\[
\begin{aligned}
\mathrm{B}\left(\varphi_{1}\right) & =\mathrm{B}\left(a(\zeta, t, y) \tau\left(\varphi_{2}\right)+b(\zeta, t, y) \varphi_{2}\right)= \\
= & \left(a_{t}-\frac{2 \alpha p_{1}^{2} p_{2}^{2} \zeta^{2}}{\left(p_{1}-1\right)^{2}} a_{y}-\frac{2 i \alpha p_{1} p_{2} \zeta}{\left(p_{1}-p_{2}\right)\left(p_{1}-1\right)} h a\right) \tau\left(\varphi_{2}\right)+ \\
& +\left(b_{t}-\frac{2 \alpha p_{1}^{2} p_{2}^{2} \zeta^{2}}{\left(p_{1}-1\right)^{2}} b_{y}+\frac{2 i \alpha p_{1} p_{2} \zeta}{\left(p_{1}-p_{2}\right)\left(p_{1}-1\right)} h b\right) \varphi_{2 *}
\end{aligned}
\]
Подставляя в равенство (7.17). выражение $\varphi_{1}=a \tau\left(\varphi_{2}\right)+$ $+b \varphi_{2}$ и используя формулу (7.18), получаем уравнения для функций $a(\zeta, t, y)$ и $b(\zeta, t, y)$ :
\[
\begin{array}{l}
a_{t}-m \zeta^{2} a_{y}=i l \zeta(g-h) a, \\
b_{t}-m \zeta^{2} b_{v}=i l \zeta(g+h) b, \\
m=\frac{2 \alpha p_{1}^{2} p_{2}^{2}}{\left(p_{1}-1\right)^{2}}, \quad l=\frac{2 \alpha p_{1} p_{2}}{\left(p_{1}-p_{2}\right)\left(1-p_{1}\right)} .
\end{array}
\]
Параметр $\alpha$ в формулах (5.2), (5.6) является произвольным. Исходя из вида уравнения (5.7) выберем $\alpha=$ $=-\left(p_{1}-p_{2}\right)^{2} / 2 p_{1}^{2} p_{2}^{2}$; тогда $\alpha_{1}=1$ и коэффициенты $m$ п $l$ в силу $p_{1}+p_{2}=2$ принимают вид $m=-4, l=\beta=2 / p_{1} p_{2}$.