Изложению теории операторов в гильбертовом пространстве, в значительной мере стимулированной проблемами квантовой механики, посвящено много прекрасных книг (см., в частности, [2], [30]). Ниже мы лишь напоминаем некоторые факты и фиксируем обозначения.

Далее \( \mathscr{H} \) обозначает сепарабельное комплексное гильбертово пространство. Для скалярного произведения в \( \mathscr{H} \) используется дираковское обозначение \( \langle\varphi \mid \psi\rangle \), причем считается, что форма \( \langle\varphi \mid \psi\rangle \) линейна по \( \psi \) и антилинейна по \( \varphi \). Символ \( |\psi\rangle\langle\varphi| \)
\( 2^{*} \) обозначает оператор, действующий на вектор \( \chi \in \mathscr{H} \) по формуле

\[
|\psi\rangle\langle\varphi| \chi=\psi\langle\varphi \mid \chi\rangle .
\]

В частности, если \( \langle\psi \mid \psi\rangle=1 \), то \( |\psi\rangle\langle\psi| \) есть проектор на вектор \( \psi \in \mathscr{H} \). Линейная оболочка множества операторов вида \( |\psi\rangle\langle\varphi| \) совпадает с множеством операторов конечного ранга в \( \mathscr{H} \).

Если \( X \) – ограниченный оператор в \( \mathscr{C} \), то \( X^{*} \) обозначает сопряженный оператор, определяемый соотношением
\[
\left\langle\varphi \mid X^{*} \psi\right\rangle=\left\langle X_{\varphi} \mid \psi\right\rangle ; \quad \varphi, \psi \in \mathscr{H} .
\]

Множество \( \mathfrak{B}(\mathscr{G}) \) всех ограниченных операторов в \( \mathscr{H} \) является банаховой алгеброй с инволюцией *. Оператор \( X \in \mathcal{B}(\mathscr{H}) \) эрмитов, если \( X=X^{*} \). Унитарным оператором называется оператор \( U \), такой что \( U^{*} U=U U^{*}=\mathrm{I} \), где I – единичный оператор. Проектором называется эрмитов оператор \( E \), такой что \( E^{2}=E \). Эрмитов оператор \( X \) положителен \( (X \geqslant 0) \), если \( \langle\psi \mid X \psi\rangle \geqslant 0 \) для всех \( \psi \in \mathscr{H} \). Для положительного оператора однозначно определен положительный квадратный корень.

Для всякого ограниченного положительного оператора \( T \) однозначно определен след
\[
\operatorname{Tr} T=\sum_{i=1}^{\infty}\left\langle e_{i} \mid T e_{i}\right\rangle \leqslant+\infty,
\]

где \( \left\{e_{i}\right\} \) произвольный ортонормированный базис. Оператор \( T \) называется ядерным (оператором со следом), если он является линейной комбинацией положительных операторов с конечным следом. Для такого оператора след определяется однозначно, как сумма абсолютно сходящегося ряда вида (1.1). Множество ядерных операторов \( \mathfrak{I}(\mathscr{H}) \) является банаховым пространством относительно нормы \( \|T\|_{1}=\operatorname{Tr} \sqrt{T^{*}} T \), причем множество операторов конечного ранга плотно в \( \mathfrak{I}(\mathscr{C}) \).

Множество \( \mathfrak{E}(\mathscr{C}) \) образует двусторонний идеал в алгебре \( \mathfrak{g}(\mathscr{H}) \). Сопряженное к банахову пространству \( \mathfrak{I}(\mathscr{H}) \) изоморфно \( \mathfrak{V}(\mathscr{H}) \), причем двойственность определяется билинейной формой
\[
\langle T, X\rangle=\operatorname{Tr} T X ; \quad T \in \mathfrak{T}(\mathscr{H}), \quad X \in \mathfrak{Y}(\mathscr{H}) .
\]

Нижний индекс \( h \) в обозначении множества операторов означает, что рассматривается соответствующее подмножество эрмитовых операторов, например, \( \mathfrak{B}_{h}(\mathscr{H}) \) есть вещественное банахово пространство ограниченных эрмитовых операторов в \( \mathscr{H} \). Отметим, что \( \mathfrak{T}_{h}(\mathscr{C}) *=\mathfrak{B}_{h}(\mathscr{H}) \), причем двойственность по-прежнему задается формой (1.2).

Кроме сходимости по операторной норме в \( \mathfrak{g}(\mathscr{H}) \), часто используются более слабые понятия сходимости. Последовательность \( \left\{X_{n}\right\} \) сходится к \( X \) сильно, если \( \lim _{n \rightarrow \infty}\left\|X_{n} \psi-X \psi\right\|=0 \) для всех \( \psi \oplus \mathscr{H} \), слабо, если \( \lim _{n \rightarrow \infty}\left\langle\varphi \mid X_{n} \psi\right\rangle=\left\langle\varphi \mid X^{n \rightarrow \infty} \psi\right\rangle \) для всех \( \varphi, \psi \in \mathscr{H} \), и \( w^{*}- \) слабо (ультраслабо), если \( \lim _{n \rightarrow \infty} \operatorname{Tr} T X_{n}=\operatorname{Tr} T X \) для всех

\( T \in \mathfrak{T}(\mathscr{C}) \). Если \( \left\{X_{n}\right\} \) ограниченная по норме последовательность операторов, такая что \( X_{n} \leqslant X_{n+1} \), то \( X_{n} \) сходится сильно, слабо и \( w^{*} \) – слабо к ограниченному оператору \( X \) (обозначается \( X_{n} \uparrow X \) ).