Задача Римана, отвечающая быстро- убывающему случаю, выглядит следующим образом. Рассмотрим на вещественной оси $-\infty<\lambda<\infty$ матрицу-функцию $G(\lambda)$. Задача состоит в представлении ее в факторизованном виде
\[
G(\lambda)=G_{+}(\lambda) G_{-}(\lambda),
\]

где матрицы $G_{+}(\lambda)$ и $G_{. .}(\lambda)$ допускают аналитическое продолжение в верхнюю и нижнюю полуплоскости переменной $\lambda$ соответственно. Разрешимость этой задачи в широком классе условий на матрицы $G(\lambda), G_{ \pm}(\lambda)$ подробно исследована в математи-

ческой литературе. Выясним, как соотношение (1.1) возникает в рамках вспомогательной линейной задачи
\[
\frac{d F}{d x}=U(x, \lambda) F
\]

и какими свойствами обладают матрицы-функции $G(\lambda)$ и $G_{ \pm}(\lambda)$.
Исходным пунктом является связь матричных решений Иоста $T_{+}(x, \lambda)$ и $T_{-}(x, \lambda)$, в которой участвует приведенная матрица монодромии $T(\lambda)$ :
\[
T_{-}(x, \lambda)=T_{+}(x, \lambda) T(\lambda) .
\]

Эта формула еще не является примером соотношения (1.1), так как столбцы матриц $T_{ \pm}(x, \lambda)$ аналитичны в разных полуплоскостях. Действительно, как мы знаем из $\S 1.5$, матрицы $T_{ \pm}(x, \lambda)$ имеют структуру
\[
T_{ \pm}(x, \lambda)=\left(T_{ \pm}^{(1)}(x, \lambda), T_{ \pm}^{(2)}(x, \lambda)\right),
\]

где столбцы $T_{-}^{(1)}(x, \lambda)$ и $T_{+}^{(2)}(x, \lambda)$ аналитически продолжаются в верхнюю полуплоскость, а столбцы $T_{+}^{(1)}(x, \lambda)$ и $T_{-}^{(2)}(x, \lambda)-$ в нижнюю полуплоскость переменной $\lambda$. Однако соотношение (1.3) легко преобразуется к виду (1.1). Для этого введем матрицы
\[
S_{+}(x, \lambda)=\left(T_{-}^{(1)}(x, \lambda), T_{+}^{(*)}(x, \lambda)\right)
\]

и
\[
S_{-}(x, \lambda)=\left(T_{+}^{(1)}(x, \lambda), T_{-}^{(2)}(x, \lambda)\right),
\]

которые являются решениями линейной задачи (1.2) и аналитически продолжаются, в верхнюю и нижнюю полуплоскости соответственно. При $|\lambda| \rightarrow \infty$ в соответствующих полуплоскостях они имеют асимптотики
\[
S_{ \pm}(x, \lambda) E^{-1}(x, \lambda)=I+o(1),
\]

вытекающие из формул (I.5.26) — (I.5.29).
С помощью связи (1.3) матрицы $S_{ \pm}(x, \lambda)$ записываются следующим образом:

и
\[
S_{+}(x, \lambda)=T_{+}(x, \lambda) M_{++}(\lambda)=T_{-}(x, \lambda) M_{-+}(\lambda)
\]
\[
S_{-}(x, \lambda)=T_{+}(x, \lambda) M_{+-}(\lambda)=T_{-}(x, \lambda) M_{—}(\lambda),
\]

где матрицы $M_{ \pm, \pm}(\lambda)$ даются формулами
\[
\begin{array}{cc}
M_{++}(\lambda)=\left(\begin{array}{ll}
a(\lambda) & 0 \\
b(\lambda) & 1
\end{array}\right), & M_{-+}(\lambda)=\left(\begin{array}{cc}
1 & -\varepsilon \bar{b}(\lambda) \\
0 & a(\lambda)
\end{array}\right), \\
M_{+-}(\lambda)=\left(\begin{array}{ll}
1 & \varepsilon \bar{b}(\lambda) \\
0 & \bar{a}(\lambda)
\end{array}\right), \quad M_{—}(\lambda)=\left(\begin{array}{cc}
\bar{a}(\lambda) & 0 \\
-b(\lambda) & 1
\end{array}\right),
\end{array}
\]

a $\varepsilon=\operatorname{sign} x$. Здесь $a(\lambda)$ и $b(\lambda)$ — коэффициенты перехода, участвующие в матрице $T(\lambda)$ (см. представление (I.5.45)). Совместность формул (1.8) и (1.9) с (1.3) означает, что имеют место факторизации приведенной матрицы монодромии
\[
T(\lambda)=M_{+-}(\lambda) M_{-}^{-1}(\lambda)=M_{++}(\lambda) M_{-+}^{-1}(\lambda) .
\]

Специальный треугольный вид матриц $M_{ \pm, \pm}(\lambda)$ позволяет их однозначно восстановить по заданной унимодулярной матрице $T(\lambda)$ вида (I.5.45).

В терминах матриц $S_{ \pm}(x, \lambda)$ соотношение (1.3) принимает вид
\[
S_{-}(x, \lambda)=S_{+}(x, \lambda) S(\lambda),
\]

где
\[
S(\lambda)=M_{++}^{-1}(\lambda) M_{+-}(\lambda)=M_{-+}^{-1}(\lambda) M_{—}(\lambda)=\left(\begin{array}{rr}
\frac{1}{a(\lambda)} & \frac{\varepsilon \vec{b}(\lambda)}{a(\lambda)} \\
-\frac{b(\lambda)}{a(\lambda)} & \frac{1}{a(\lambda)}
\end{array}\right) .
\]

Для вспомогательной линейной задачи матрица $S(\lambda)$ играет роль матрицы рассеяния. Коэффициенты $\frac{1}{a(\lambda)}$ и $\frac{b(\lambda)}{a(\lambda)}$ в теории рассеяния принято называть коэффициентами прохождения и отражения соответственно. В отличие от матрицы $T(\lambda)$, матрица рассеяния не унимодулярна:
\[
\operatorname{det} S(\lambda)=\frac{\vec{a}(\lambda)}{a(\lambda)} .
\]

Она удовлетворяет инволюциям

и
\[
\sigma \bar{S}(\lambda) \sigma=S^{-1}(\lambda)
\]
\[
\tilde{\sigma} S^{*}(\lambda) \tilde{\sigma}=S^{-1}(\lambda),
\]

где $\sigma=\sigma_{1}$ при $\varepsilon=1, \sigma=\sigma_{2}$ при $\varepsilon=-1$ (см. § I.2), $\tilde{\sigma}=I$ при $\varepsilon=1$, $\tilde{\sigma}=\sigma_{3}$ при $\varepsilon=-1$, а — означает эрмитово сопряжение. Формулу (1.16) можно интерпретировать как $\tilde{\sigma}$-унитарность матрицы рассеяния $S(\lambda)$. Соотношения (1.15) и (1.16) однозначно определяют ее вид.

Соотношение (1.12) уже почти имеет вид (1.1), и казалось бы, достаточно положить $G_{+}(x, \lambda)=S_{+}^{-8}(x, \lambda)$ и $G_{-}(x, \lambda)=$ $=S_{-}(x, \lambda)$. Однако в силу (1.8) имеем
\[
\operatorname{det} S_{+}(x, \lambda)=a(\lambda)
\]

и при наличии нулей у функции $a(\lambda)$ матрица $S_{+}^{-1}(x, \lambda)$ имеет сингулярности в верхней полуплоскости. Поэтому введем

матрицы
\[
G_{-}(x, \lambda)=S_{-}(x, \lambda) E^{-1}(x, \lambda)
\]

и
\[
G_{+}(x, \lambda)=a(\lambda) E(x, \lambda) S_{+}^{-1}(x, \lambda),
\]

где мы одновременно сократили матрицы $S_{ \pm}(x, \lambda)$ на их асимптотики при $|\lambda| \rightarrow \infty$.
Матрицы $G_{ \pm}(x, \lambda)$ дают решение задачи Римана
$2 \partial e$
\[
G_{+}(x, \lambda) G_{-}(x, \lambda)=G(x, \lambda),
\]
\[
G(x, \lambda)=E(x, \lambda) G(\lambda) E^{-1}(x, \lambda)=\left(\begin{array}{cc}
1 & \varepsilon \vec{b}(\lambda) e^{-i \lambda x} \\
-b(\lambda) e^{i \lambda x} & 1
\end{array}\right)
\]
$u$
\[
G(\lambda)=\left(\begin{array}{cc}
1 & \varepsilon \bar{b}(\lambda) \\
-b(\lambda) & 1
\end{array}\right)
\]

со стандартной нормировкой при $|\lambda| \rightarrow \infty$
\[
G_{ \pm}(x, \lambda)=I+o(1), \quad G(x, \lambda)=I+o(1) .
\]

Переменная $x$ входит в задачу Римана как параметр, участвующий только в явном виде $G(x, \lambda)$.

Перечислим свойства матриц $G(x, \lambda)$ и $G_{ \pm}(x, \lambda)$, которые соответствуют вспомогательной линейной задаче для функций $\psi(x), \bar{\psi}(x)$ из $L_{1}(-\infty, \infty)$. В случае $x<0$ мы также будем предполагать выполненным условие (A) из § I. 6 о структуре нулей коэффициента $a(\lambda)$. Начнем с матрицы $G(\lambda)$ и связанной с ней матрицы $G(x, \lambda)$.
1) Свойство инволючии
\[
\tau G^{*}(x, \lambda) \tau=G(x, \lambda),
\]

где $\tau=\sigma_{3}$ при $\varepsilon=1$ и $\tau=I$ при $\varepsilon=-1$.
2) Свойство невырожденности
\[
\operatorname{det} G(x, \lambda)=\operatorname{det} G(\lambda)=1+\varepsilon|b(\lambda)|^{2},
\]

так что в силу условия (A) при всех $\lambda$
\[
\operatorname{det} G(x, \lambda)>0 \text {. }
\]
3) Интегральные представления.

Из формулы (I.6.16) следует, что $G(\lambda)$ допускает представление
\[
G(\lambda)=I+\int_{-\infty}^{\infty} \Phi(s) e^{i \lambda s} d s
\]

где матрица $\Phi(s)$ имеет специальный вид
\[
\Phi(s)=\left(\begin{array}{cc}
0 & \varepsilon \bar{\beta}(-s) \\
-\beta(s) & 0
\end{array}\right)
\]
а функция $\beta(s)$ выглядит следующим образом:
\[
\beta(s)=\frac{1}{2 \pi} \int_{-\infty}^{\infty} b(\lambda) e^{-i \lambda s} d \lambda
\]

и принадлежит пространству $L_{1}(-\infty, \infty)$. Матрица $G(x, \lambda)$ представляется в аналогичном виде, где вместо $\Phi(s)$ участвует матрица $\Phi(x, s)$
\[
\Phi(x, s)=\left(\begin{array}{cc}
0 & \varepsilon \bar{\beta}(-s-x) \\
-\beta(s-x) & 0
\end{array}\right) .
\]

Другими словами, матрицы $G(\lambda)$ и $G(x, \lambda)$ являются элементами специального вида нормированного кольца $\mathfrak{\Re}^{(2 \times 2)}$, состоящего из матриц вида
\[
F(\lambda)=c I+\int_{-\infty}^{\infty} \Omega(s) e^{i \cdot \cdot s} d s,
\]

где $\Omega(s)$ принадлежит $L_{1}^{(2 \times 2)}(-\infty, \infty), c$ — из $\mathbb{C}^{1}$, а норма вводится обычным образом:
\[
\|F\|=|c|+\int_{-\infty}^{\infty}\|\Omega(s)\| d s
\]
(сравни с § I.6). Для дальнейшего также введем подкольца: $\Re_{ \pm}^{(2 \times 2)}$ кольца $\mathfrak{\Re}^{(2 \times 2)}$, состоящие из всех матриц вида
\[
F_{ \pm}(\lambda)=c_{ \pm} I+\int_{0}^{\infty} \Omega_{ \pm}(s) e^{ \pm i \lambda s} d s
\]

соответственно, где матрицы $\Omega_{ \pm}(s)$ принадлежат $L_{1}^{(2 \times 2)}(0, \infty)$. Элементы колец $\mathfrak{R}_{+}^{(2 \times 2)}$ и $\mathfrak{R}_{-}^{(2 \times 2)}$ являются аналитическими матрицами-функциями в верхней и нижней полуплоскостях переменной $\lambda$ соответственно и при $|\lambda| \rightarrow \infty$ превращаются в $c_{ \pm} I$ в силу леммы Римана — Лебега.
Перейдем теперь к свойствам матриц $G_{ \pm}(x, \lambda)$.
1) Свойство инволюции
\[
\tau G_{+}^{*}(x, \lambda) \tau=G_{-}(x, \bar{\lambda}),
\]

которое следует из формул (I.5.30) и (I.5.31) и из (1.5), (1.6), (1.17). В частности, при $x<0$ имеем
\[
G_{+}^{*}(x, \lambda)=G_{-}(x, \bar{\lambda}) .
\]
2) Интегральные представления
\[
G_{ \pm}(x, \lambda)=I+\int_{0}^{\infty} \Phi_{ \pm}(x, s) e^{ \pm i \lambda s} d s,
\]

которые получаются из формул (I.5.10), (I.5.16) и (I.6.10) после тривиальных преобразований. При этом матрицы-функции $\Phi_{ \pm}(x, s)$ принадлежат $L_{1}^{(2 \times 2)}(0, \infty)$, так что $G_{ \pm}(x, \lambda)$ принадлежат кольцам $\mathfrak{R}_{ \pm}^{(2 \times 2)}$.
3) Формула связи
\[
U_{0}(x)=\left.\frac{1}{2}\left[\sigma_{\circ} \Phi_{\star}(x, s)\right]\right|_{s=0},
\]

где
\[
U_{0}(x)=U(x, \lambda)-\frac{\lambda}{2 i} \sigma_{3}=\sqrt{x}\left(\begin{array}{ll}
0 & \bar{\psi}(x) \\
\psi(x) & 0
\end{array}\right)
\]
(см. § I.2), которая немедленно вытекает из (I.5.32) и (I.5.33).
4) Асимптотики при $|x| \rightarrow \infty$ и вещественных $\lambda$
\[
\begin{array}{l}
G_{+}^{-1}(x, \lambda)=\left(\begin{array}{cc}
1 & 0 \\
\frac{b(\lambda)}{a(\lambda)} e^{i \lambda x} & \frac{1}{a(\lambda)}
\end{array}\right)+o(1), \\
G_{-}(x, \lambda)=\left(\begin{array}{cc}
1 & \varepsilon \bar{b}(\lambda) e^{-i \lambda \cdot x} \\
0 & \bar{a}(\lambda)
\end{array}\right)+o(1), \\
\end{array}
\]

где $x \rightarrow+\infty$ и
\[
\begin{array}{l}
G_{-}(x, \lambda)=\left(\begin{array}{cc}
\bar{a}(\lambda) & 0 \\
-b(\lambda) e^{i \lambda \cdot x} & 1
\end{array}\right)+o(1), \\
\end{array}
\]

где $x \rightarrow-\infty$, которые следуют из формул (1.8), (1.9) и (1.18), (1.19).
5) Свойства вырождения при комплексных $\lambda$.
Из формул (1.8), (1.9) и (1.18), (1.19) получаем, что $\operatorname{det} G_{+}(x, \lambda)=a(\lambda)$, det $G_{-}(x, \lambda)=a^{*}(\lambda)$, где $a^{*}(\lambda)$ — аналитическое продолжение функции $\bar{a}(\lambda)$ в нижнюю полуплоскость (см. $\$$ I.6). Отсюда следует, что при $x>0$ матрицы $G_{ \pm}(x, \lambda)$ невырожденны в своих областях аналитичности. При $x<0$ и выполнении условия (А) получаем, что матрицы $G_{+}(x, \lambda)$ и $G_{-}(x, \lambda)$ вырождаются при $\lambda=\lambda_{j}$ и $\lambda=\bar{\lambda}_{j}$ соответственно, где $\lambda_{j}, j=1, \ldots$ $\ldots, n$,- нули коэффициента $a(\lambda)$. Более точно, они имеют прөт.тые нули, т. е. матрицы $G_{+}\left(x, \lambda_{j}\right)$ и $G_{-}\left(x, \bar{\lambda}_{j}\right)$ суть матрицы ранта 1 . Из сравнения формул (1.5), (1.19) с (I.6.20) следует, что матрица $G_{+}\left(x, \lambda_{j}\right)$ может быть представлена в виде
\[
G_{+}\left(x, \lambda_{j}\right)=e^{-\frac{i \lambda_{j} x}{2}}\left(\begin{array}{c}
1 \\
-\gamma_{j}(x)
\end{array}\right) T_{+}^{(2)^{\tau}}\left(x, \lambda_{j}\right) \cdot \frac{1}{i} \sigma_{2},
\]

где
\[
\gamma_{j}(x)=e^{i \lambda_{j} x} \gamma_{j}, \quad j=1, \ldots, n,
\]

и матрица-столбец $\left(\begin{array}{c}1 \\ -\gamma_{j}(x)\end{array}\right)$ умножается на матрицу-строку $-i T_{+}^{(2)^{\tau}}\left(x, \lambda_{j}\right) \sigma_{2}$. В силу инволюций (1.35) и (I.5.30) для матрицы $G_{-}\left(x, \bar{\lambda}_{j}\right)$ имеем представление
\[
G_{-}\left(x, \bar{\lambda}_{j}\right)=e^{\frac{i \bar{\lambda}_{j} x}{2}} T_{+}^{(1)}\left(x, \bar{\lambda}_{j}\right)\left(1,-\bar{\gamma}_{j}(x)\right),
\]

где матрица-столбец $T_{+}^{(1)}\left(x, \bar{\lambda}_{j}\right)$ умножается на матрицу-строку $\left(1, \bar{\gamma}_{j}(x)\right)$.

Для геометрической интерпретации этих представлений введем одномерное подпространство $N_{j}^{(+)}(x)$ в $\mathbb{C}^{2}$, натянутое на вектор $\left(\begin{array}{c}1 \\ -\gamma_{j}(x)\end{array}\right)$, и ортогональное к нему подпространство $N_{j}^{(-)}(x)$, натянутое на вектор $\left(\begin{array}{c}\bar{\gamma}_{j}(x) \\ 1\end{array}\right)$. Тогда условия (1.43) и (1.45) означают, что
\[
N_{j}^{(+)}(x)=\operatorname{Im} G_{+}\left(x, \dot{\lambda}_{j}\right), N_{j}^{(-)}(x)=\operatorname{Ker} G_{-}\left(x, \bar{\lambda}_{j}\right), \quad j=1, \ldots, n .
\]

Зависимость подпространств $N_{j}^{( \pm)}(x)$ от $x$ имеет вид
\[
N_{j}^{(+)}(x)=E\left(x, \lambda_{j}\right) N_{j}^{+)}, \quad N_{i}^{(-)}(x)=E\left(x, \bar{\lambda}_{j}\right) N_{j}^{-)},
\]

где подпространства $N_{j}^{(+)}$и $N_{j}^{(-)}$натянуты на векторы $\left(\begin{array}{c}1 \\ -\gamma_{j}\end{array}\right)$ и $\left(\begin{array}{c}\bar{\gamma}_{j} \\ 1\end{array}\right)$ соответственно.

Перечисленные свойства матриц $G(\lambda), G(x, \lambda)$ и $G_{ \pm}(x, \lambda)$ следуют из исследования вспомогательной линейной задачи $(1.2)$ для функций $\psi(x), \bar{\psi}(x)$ из пространства $L_{1}(-\infty, \infty)$, проведенного в гл. I. Теперь мы положим их в основу формулировки задачи Римана — задачи о восстановлении матриц $G_{ \pm}(x, \lambda)$ (а вместе с ними и функций $\psi(x), \bar{\psi}(x)$; см. (1.37)) по заданной матрице $G(\lambda)$.
Точнее, пусть заданы:
1) Матрица $G(\lambda)$ из кольца $\Re^{(2 \times 2)}$, удовлетворяющая условиям 1) -3).
2) В случае $x<0$ набор несовпадающих чисел $\lambda_{j}, \bar{\lambda}_{j}, \operatorname{Im} \lambda_{j}>0$, $j=1, \ldots, n$, и набор ненулевых чисел $\gamma_{j}, \bar{\gamma}_{j}, j=1, \ldots, n$.

Построим по ним матрицу $G(x, \lambda)$ по формуле (1.21) и при $x<0$ набор подпространств $N_{j}^{( \pm)}(x)$ по формулам (1.47).

Задача Римана состоит в определении при каждом х матриц $G_{ \pm}{ }^{\prime}(x, \lambda)$ из колец $\mathfrak{N}_{ \pm}^{(2 \times 2)}$ с $c_{ \pm}=1$, удовлетворяющих уравнению
\[
G(x, \lambda)=G_{+}(x, \lambda) G_{-}(x, \lambda) .
\]

При $x>0$ матрицы $G_{ \pm}(x, \lambda)$ предполагаются невырожденными в своих областях аналитичности. При $x<0$ они предполагаются невырожденными всюду, кроме точек $\lambda_{j} u \bar{\lambda}_{j}$ соответственно, где $\operatorname{Im} G_{+}\left(x, \lambda_{j}\right)=N_{i}^{(+)}(x), \operatorname{Ker} G_{-}\left(x, \bar{\lambda}_{j}\right)=N_{j}^{(-)}(x), j=1, \ldots, n$.

В следующем параграфе мы докажем однозначную разрешимость этой задачи и исследуем свойства решений $G_{ \pm}(x, \lambda)$. При этом мы покажем, что матрицы $G_{ \pm}(x, \lambda)$ обладают свойствами 1) -5), так что в рассматриваемом нами классе эти свойства являются характеристическими.