Уравнение на собственные функци
$$\mathrm{L}\psi =\lambda \psi ,\psi =\left(\begin{array}{l}{\psi }_1\\ {\psi }_2\end{array}\right)$$

для оператора (5.1) эквивалентно системе двух уравнений
$$i{p}_1{\psi }_{1x}+v{\psi }_2=\lambda {\psi }_1,i{p}_2{\psi }_{2_x}+v{\psi }_1=\lambda {\psi }_2.$$

Система (7.2) после замены
$$\begin{array}{l}{\psi }_1=\sqrt{p_2}\exp (-i\lambda x/p_1{p}_2)v_2\\ {\psi }_2=\sqrt{p_1}\exp (-i\lambda x/p_1{p}_2)v_1\end{array}$$

принимает вид
$$\begin{array}{l}{v}_{1_x}+i\lambda \frac{p_1-1}{p_1{p}_2}{v}_1=\frac{iv}{\sqrt{p_1{p}_2}}{v}_2,\\ v_{2x}+i\lambda \frac{p_2-1}{p_1{p}_2}{v}_2=\frac{iv}{\sqrt{p_1{p}_2}}{v}_1.\end{array}$$

Далее предположим, что выполнены соотношения
$$p_1+p_2=2,p_1{p}_2>0.$$

В этом случае в уравнении (5.7) параметр $\beta >0$, и уравнение вещественно не эквивалентно уравнению (1.1).
Система (7.4) после введения обозначений
$$\zeta =\lambda \frac{p_1-1}{p_1{p}_2}=-\lambda \frac{p_2-1}{p_1{p}_2},q=\frac{iv}{\sqrt{p_1{p}_2}},\overline{q}=-q$$

переходит в систему
$$v_{1_x}+i\zeta v_1=q{v}_2,v_{2_x}-i\zeta v_2=q{v}_1,$$

которая подробно изучалась в работе [67] в связи с нелинейным уравнением Шрёдингера.

В дальнейшем рассматриваются решения $v(t,x,y)$ уравнения (5.7), имеющие следующие асимптотики:
$$\begin{array}{c}x\to -\mathrm{\infty }:{\partial }_x^{-1}{\left(v^2\right)}_y(t,x,y)\to g(t,y),v(t,x,y)\to 0,\\ x\to +\mathrm{\infty }:{\partial }_x^{-1}{\left(v^2\right)}_y(t,x,y)\to h(t,y),v(t,x,y)\to 0.\end{array}$$

При этом потенциал $q=iv/\sqrt{p_1{p}_2}\to 0$ при $|x|\to \mathrm{\infty }$.
Согласно работе [67] преобразование
$$\tau \left(\begin{array}{l}{v}_1\\ v_2\end{array}\right)=\left(\begin{array}{l}{\overline{v}}_2\\ {\overline{v}}_1\end{array}\right),{\tau }^2=1$$

переводит решение системы (7.7) при вещественном $\zeta$ снова в решение. Функции Йоста $\phi ,\psi$ при вещественном $\zeta$ определены как решения системы (7.7), имеющие асимптотики
$${\phi }_1\to \left(\begin{array}{l}1\\ 0\end{array}\right)e^{-i\xi x}\text{ при }x\to -\mathrm{\infty };{\phi }_2\to {\left(\begin{array}{l}0\\ 1\end{array}\right)}^{i\xi x}\text{ при }x\to +\mathrm{\infty }.$$

Функция $\tau (\psi )$ при $x\to +\mathrm{\infty }$ имеет асимптотику
$$\tau \left({\phi }_2\right)\to \left(\begin{array}{l}1\\ 0\end{array}\right)e^{-i\zeta x}.$$

Фувкции ${\phi }_2$ и $\tau \left({\phi }_2\right)$ образуют базис в двумерном пространстве решений системы (7.7). Поэтому справедливо равенство
$${\phi }_1=a(\xi ,t,y)\tau \left({\phi }_2\right)+b(\zeta ,t,y){\phi }_2.$$

Для снектральной функции $\psi (\lambda ,t,x,y)$ (7.1) $(\lambda =$ = const) в силу уравнения Лакса $\mathrm{L}=[\mathrm{L},\mathrm{A}]$ справедливо уравнение
$$\mathrm{L}({\psi }_t+\mathrm{A}\psi )=\lambda ({\psi }_t+\mathrm{A}\psi ),$$
r. e. функция ${\psi }_t+\mathrm{A}\psi$ является линейной комбинацией двух функций Йста (7.10), (7.11).

В силу формул (5.2), (5.6) и асимптотик (7.8) при $x\to -\mathrm{\infty }$ получаем
$$\begin{array}{l}{({\psi }_t+\mathrm{A}\psi )}_1={\psi }_{1_t}+2\alpha p_1^2{\psi }_{1_{xxy}}-\frac{2\alpha p_1}{p_1-p_2}g{\psi }_{1x}\\ {({\psi }_t+\mathrm{A}\psi )}_2={\psi }_{2t}+2\alpha p_2^2{\psi }_{2xxy}+\frac{2\alpha p_2}{p_1-p_2}g{\psi }_{2x}.\end{array}$$

При $x\to +\mathrm{\infty }$ в формулах (7.14) необходимо заменить функцию $g(t,y)$ на $h(t,y)$.

Обозначим через $\mathrm{T}$ преобразование (7.3): $\mathrm{T}(v_1,v_2)=$ $=({\psi }_1,{\psi }_2)$ и через $\mathrm{B}-$ преобразование
$$\mathrm{B}={\mathrm{T}}^{-\mathbf{1}}(\frac{\partial }{\partial t}+\mathrm{A})\mathrm{T}.$$

Если функции $(v_1,v_2$ ) удовлетворяют системе (7.7), то в силу (7.13) функции $\mathrm{B}(v_1,v_2)$ также удовлетворяют системе (7.7).

При $x\to -\mathrm{\infty }$ в силу формул (7.14), (7.15) и (7.3). получаем $\mathrm{B}(v_1,v_2)=(\mathrm{B}{v}_1,\mathrm{B}{v}_2)$, где
$$\begin{array}{rl}\mathrm{B}{v}_1=v_{1_t}+2\alpha p_2^2(v_{1_{xxy}}& -\frac{2i\zeta }{p_1-1}{v}_{1_{xy}}-{\left(\frac{\zeta }{p_1-1}\right)}^2{v}_{1_y})+\\ & +\frac{2\alpha p_2}{p_1-p_2}g(v_{1_x}-\frac{i\zeta }{p_1-1}{v}_1)\\ \mathrm{B}{v}_2=v_{2t}+2\alpha p_1^2(v_{2xxy}-& \frac{2i\zeta }{p_1-1}{v}_{2xy}-{\left(\frac{\zeta }{p_1-1}\right)}^2{v}_{2y})-\\ & -\frac{2\alpha p_1}{p_1-p_2}g(v_{2_x}-\frac{i\zeta }{p_1-1}{v}_2)\cdot \end{array}$$

Применяя формулы (7.16) к функции Йоста ${\phi }_1$ (7.10). при $x\to -\mathrm{\infty }$, получаем точное равенство
$${\mathrm{B}}_{-}\left({\phi }_1\right)=-\frac{2i\alpha p_1{p}_{2}g}{(p_1-p_2)(p_1-1)}{\phi }_1.$$

Представим функцию ${\phi }_1$ в виде (7.12) п применим аналог формул (7.16) при $x\to +\mathrm{\infty }$, при этом функция $g(t,y)$. заменяется на $h(t,y)$. Используя асимптотики (7.10), (7.11) при $x\to +\mathrm{\infty }$, находим
$$\begin{array}{rl}\mathrm{B}\left({\phi }_1\right)& =\mathrm{B}(a(\zeta ,t,y)\tau \left({\phi }_2\right)+b(\zeta ,t,y){\phi }_2)=\\ =& (a_t-\frac{2\alpha p_1^2{p}_2^2{\zeta }^2}{{(p_1-1)}^2}{a}_y-\frac{2i\alpha p_1{p}_2\zeta }{(p_1-p_2)(p_1-1)}ha)\tau \left({\phi }_2\right)+\\ & +(b_t-\frac{2\alpha p_1^2{p}_2^2{\zeta }^2}{{(p_1-1)}^2}{b}_y+\frac{2i\alpha p_1{p}_2\zeta }{(p_1-p_2)(p_1-1)}hb){\phi }_{2\ast }\end{array}$$

Подставляя в равенство (7.17). выражение ${\phi }_1=a\tau \left({\phi }_2\right)+$ $+b{\phi }_2$ и используя формулу (7.18), получаем уравнения для функций $a(\zeta ,t,y)$ и $b(\zeta ,t,y)$ :
$$\begin{array}{l}{a}_t-m{\zeta }^2{a}_y=il\zeta (g-h)a,\\ b_t-m{\zeta }^2{b}_v=il\zeta (g+h)b,\\ m=\frac{2\alpha p_1^2{p}_2^2}{{(p_1-1)}^2},l=\frac{2\alpha p_1{p}_2}{(p_1-p_2)(1-p_1)}.\end{array}$$

Параметр $\alpha$ в формулах (5.2), (5.6) является произвольным. Исходя из вида уравнения (5.7) выберем $\alpha =$ $=-{(p_1-p_2)}^2/2p_1^2{p}_2^2$; тогда ${\alpha }_1=1$ и коэффициенты $m$ п $l$ в силу $p_1+p_2=2$ принимают вид $m=-4,l=\beta =2/p_1{p}_2$.