Изложению теории операторов в гильбертовом пространстве, в значительной мере стимулированной проблемами квантовой механики, посвящено много прекрасных книг (см., в частности, [2], [30]). Ниже мы лишь напоминаем некоторые факты и фиксируем обозначения.

Далее $\mathcal{H}$ обозначает сепарабельное комплексное гильбертово пространство. Для скалярного произведения в $\mathcal{H}$ используется дираковское обозначение $⟨\phi \mid \psi ⟩$, причем считается, что форма $⟨\phi \mid \psi ⟩$ линейна по $\psi$ и антилинейна по $\phi$. Символ $|\psi ⟩⟨\phi |$
$2^{\ast }$ обозначает оператор, действующий на вектор $\chi \in \mathcal{H}$ по формуле

$$|\psi ⟩⟨\phi |\chi =\psi ⟨\phi \mid \chi ⟩.$$

В частности, если $⟨\psi \mid \psi ⟩=1$, то $|\psi ⟩⟨\psi |$ есть проектор на вектор $\psi \in \mathcal{H}$. Линейная оболочка множества операторов вида $|\psi ⟩⟨\phi |$ совпадает с множеством операторов конечного ранга в $\mathcal{H}$.

Если $X$ — ограниченный оператор в $\mathcal{C}$, то $X^{\ast }$ обозначает сопряженный оператор, определяемый соотношением
$$⟨\phi \mid X^{\ast }\psi ⟩=⟨X_{\phi }\mid \psi ⟩;\phi ,\psi \in \mathcal{H}.$$

Множество $\mathfrak{B}(\mathcal{G})$ всех ограниченных операторов в $\mathcal{H}$ является банаховой алгеброй с инволюцией *. Оператор $X\in \mathcal{B}(\mathcal{H})$ эрмитов, если $X=X^{\ast }$. Унитарным оператором называется оператор $U$, такой что $U^{\ast }U=U{U}^{\ast }=\mathrm{I}$, где I — единичный оператор. Проектором называется эрмитов оператор $E$, такой что $E^2=E$. Эрмитов оператор $X$ положителен $(X⩾0)$, если $⟨\psi \mid X\psi ⟩⩾0$ для всех $\psi \in \mathcal{H}$. Для положительного оператора однозначно определен положительный квадратный корень.

Для всякого ограниченного положительного оператора $T$ однозначно определен след
$$\mathrm{Tr}T=\sum _{i=1}^{\mathrm{\infty }}⟨e_i\mid T{e}_i⟩⩽+\mathrm{\infty },$$

где $\left\{e_i\right\}$ произвольный ортонормированный базис. Оператор $T$ называется ядерным (оператором со следом), если он является линейной комбинацией положительных операторов с конечным следом. Для такого оператора след определяется однозначно, как сумма абсолютно сходящегося ряда вида (1.1). Множество ядерных операторов $\mathfrak{I}(\mathcal{H})$ является банаховым пространством относительно нормы $\Vert T{\Vert }_1=\mathrm{Tr}\sqrt{T^{\ast }}T$, причем множество операторов конечного ранга плотно в $\mathfrak{I}(\mathcal{C})$.

Множество $\mathfrak{E}(\mathcal{C})$ образует двусторонний идеал в алгебре $\mathfrak{g}(\mathcal{H})$. Сопряженное к банахову пространству $\mathfrak{I}(\mathcal{H})$ изоморфно $\mathfrak{V}(\mathcal{H})$, причем двойственность определяется билинейной формой
$$⟨T,X⟩=\mathrm{Tr}TX;T\in \mathfrak{T}(\mathcal{H}),X\in \mathfrak{Y}(\mathcal{H}).$$

Нижний индекс $h$ в обозначении множества операторов означает, что рассматривается соответствующее подмножество эрмитовых операторов, например, ${\mathfrak{B}}_h(\mathcal{H})$ есть вещественное банахово пространство ограниченных эрмитовых операторов в $\mathcal{H}$. Отметим, что ${\mathfrak{T}}_h(\mathcal{C})\ast ={\mathfrak{B}}_h(\mathcal{H})$, причем двойственность по-прежнему задается формой (1.2).

Кроме сходимости по операторной норме в $\mathfrak{g}(\mathcal{H})$, часто используются более слабые понятия сходимости. Последовательность $\left\{X_n\right\}$ сходится к $X$ сильно, если $\underset{n\to \mathrm{\infty }}{lim}\Vert X_n\psi -X\psi \Vert =0$ для всех $\psi \oplus \mathcal{H}$, слабо, если $\underset{n\to \mathrm{\infty }}{lim}⟨\phi \mid X_n\psi ⟩=⟨\phi \mid X^{n\to \mathrm{\infty }}\psi ⟩$ для всех $\phi ,\psi \in \mathcal{H}$, и $w^{\ast }-$ слабо (ультраслабо), если $\underset{n\to \mathrm{\infty }}{lim}\mathrm{Tr}T{X}_n=\mathrm{Tr}TX$ для всех

$T\in \mathfrak{T}(\mathcal{C})$. Если $\left\{X_n\right\}$ ограниченная по норме последовательность операторов, такая что $X_n⩽X_{n+1}$, то $X_n$ сходится сильно, слабо и $w^{\ast }$ — слабо к ограниченному оператору $X$ (обозначается $X_n\uparrow X$ ).