Пусть $(M, \mu, \varphi)$ – абстрактная динамическая система. Обозначим через $L_{2}(M, \mu)$ гильбертово пространство определенных на $M$ комплекснозначных функций, квадрат модуля которых $\mu$-суммируем. Если $f, g^{\prime} \in L_{2}(M, \mu)$, то положим
\[
\langle f \mid g\rangle=\int_{M} f \bar{g} d \mu,
\]

где $\bar{z}$ – величина, комплексно сопряженная с величиной $z$,
\[
\|f\|=\sqrt{\langle f \mid f\rangle} .
\]

Определение 9.1. Пусть $f \in L_{2}(M, \mu)$. Положим
\[
U f(x)=f(\varphi(x)) .
\]

Тогда отображение $U$ называется оператором, индуцированным $\varphi$.

Теорема 9.3 (Купман [1]). $U$ – унитарный оператор на $L_{2}(M, \mu)$. Доказательство.
a) $U$ линеен: если $a, b \in \mathbb{C}, f, g \in L_{2}(M, \mu)$, то
\[
U(a f+b g)=(a f+b g) \circ \varphi=a(f \circ \varphi)+b(g \circ \varphi)=a \cdot U f+b \cdot U g .
\]
b) $U$ есть биективное отображение, так как $\varphi$ обратим п. в.
c) $U$ есть изометрия, поскольку $\varphi$ сохраняет меру; действительно, если положить $\varphi(y)=x$, то
\[
\begin{array}{c}
\|U f\|^{2}=\int_{M}|f(\varphi(y))|^{2} d \mu(y)=\int_{M}|f(\varphi(y))|^{2} d \mu(\varphi(y))= \\
=\int_{M}|f(x)|^{2} d \mu(x)=\|f\|^{2} .
\end{array}
\]

Замечание 9.4. В непрерывном случае ( $M, \mu, \varphi_{t}$ ) мы получим непрерывную однопараметрическую группу $U_{t}$ унитарных операторов.

Определение 9.5. Ясно, что если две динамические системы $(M, \mu, \varphi)$ и ( $M^{\prime}, \mu^{\prime}, \varphi^{\prime}$ ) изоморфны (см. определение 4.1), то они определяют эквивалентные унитарные операторы $U$ и $U^{\prime}$, т. е. существует изоморфизм $F: L_{2}(M, \mu) \rightarrow L_{2}\left(M^{\prime}, \mu^{\prime}\right)$ что $U^{\prime}=F U F^{-1}$ в соответствии с диаграммой на рис. 9.6 (где $U^{\prime}=F \cdot U \cdot F_{-1}$ ).

Следовательно, инварианты оператора $U$ являются некоторыми инвариантами динамической системы $(M, \mu, \varphi)$. Такие инварианты называются спектральными. Интерес к ним вызван, в частности, тем, что можно найти полную систему спектральных инвариантов оператоpa $U$ : меры и спектральные кратности (относительно этих понятий см. Халмош [3]). Например, спектр оператора $U$ есть спектральный инвариант ${ }^{4}$.

Наоборот, операторы $U$ и $U^{\prime}$ двух динамических систем могут быть эквивалентны (о таких системах говорят, что они одного и того же спектрального типа) без того, чтобы эти системы были изоморфными (см. гл. 2, §12. Энтропия. См. также о «косых произведениях» Анзаи [1] в приложении 15$)$.

Ниже мы приводим несколько примеров эргодических свойств, которые допускают точный перевод на спектральный язык.

Теорема 9.7 (Эргодичность). Система ( $M, \mu, \varphi$ ) эргодична в том и только том случае, если 1 – простое собственное число индуцированного оператора $U$.

Доказательство.

Если $f$ принадлежит $L_{2}(M, \mu)$, то $f$ инвариантна тогда и только тогда, когда $U f=f$. Но $\varphi$ эргодично тогда и только тогда, когда все инвариантные функции постоянны п. в. Поскольку постоянные п. в. функции отличаются друг от друга с точностью до умножения на константу, $\varphi$ эргодично тогда и только тогда, когда подпространство решений уравнения $U f=f$ имеет размерность 1 .

В непрерывном случае эргодичность $\varphi_{t}$ эквивалентна тому, что собственное число $\lambda=0$ имеет кратность 1 в спектре $U_{t}$.

Теорема 9.8 (Перемешивание). Динамическая система $(M, \mu, \varphi)$ обладает свойством перемешивания в том и только том случае, если при любых $f, g \in L_{2}(M, \mu)$
\[
\lim _{T \rightarrow \infty}\left\langle U_{t} f \mid g\right\rangle=\langle f \mid 1\rangle \cdot\langle 1 \mid g\rangle .
\]

Доказательство.

Если $f$ и $g$ – характеристические функции подмножества многообразия $M$, то (9.9) сводится к определению перемешивания (8.2). В общем случае функции $f$ и $g$ могут быть аппроксимированы линейными комбинациями характеристических функций, и мы снова возвращаемся к предыдущему случаю.

В спектральных терминах ясно, что система $\left(M, \mu, \varphi_{t}\right.$ ) обладает перемешиванием, если она эргодична и спектр $U_{t}$ (за исключением $\lambda=0$ ) абсолютно непрерывен относительно меры Лебега. Обратное утверждение неверно. Мы говорим, что эргодическая динамическая система имеет собственно непрерывный спектр, если константы являются единственными собственными функциями операторов $U_{t}$. Можно доказать, что для того, чтобы эргодическая динамическая система имела собственно непрерывный спектр, необходимо и достаточно, чтобы она была слабым перемешиванием (см. примечание 8.9).
Рассмотрим теперь случай, когда спектр операторов $U_{t}$ дискретен.

Пример 9.10. Пусть $M=\{z|z \in \mathbb{C}| z \mid,=1\}$ – окружность, снабженная обычной мерой $\mu$,
\[
\varphi=\theta \cdot z, \quad \theta=e^{2 \pi i \omega}, \quad \omega \in \mathbb{R}
\]
– сдвиг на $M$.
По определению оператора $U$,
\[
U z^{p}=(U z)^{p}=\theta^{p} \cdot z^{p}, \quad \text { где } p \in \mathbb{Z} .
\]

Таким образом, $z^{p}$ – собственные функции оператора $U$ с соответствующими собственными значениями $\theta^{p}$. Множество $\left\{z^{p} \mid p \in \mathbb{Z}\right\}$, называемое дискретным спектром оператора $U$, образует полную ортонормированную систему в $L_{2}(M, \mu)$. Тем самым мы приходим к следующему определению.

Определение 9.11. Динамическая система $(M, \mu, \varphi)$ есть система с чисто точечным спектром, если собственные функции индуцированного оператора $U$ образуют базис в $L_{2}(M, \mu)$.

Вернемся к примеру 9.10. По теореме 9.7 эта система эргодична в том и только в том случае, если 1 – простое собственное значение. Таким образом, необходимое и достаточное условие эргодичности заключается в том, что
\[
p \omega
otin \mathbb{Z} \quad \text { при } \quad p
eq 0,
\]
т.е. число $\omega$ должно быть иррациональным. Иначе говоря, наша система $(M, \mu, \varphi)$ эргодична в том и только том случае, если траектории плотны на $M$ (см. пример 7.8 и приложение 1). В этом последнем случае все собственные значения $\theta^{p}$ различны и просты. Наша система не перемешивающая, так как, полагая в (9.9) $f=g=z^{p}$, мы получаем
\[
\left\langle U^{n} z^{p} \mid z^{p}\right\rangle=\theta^{p n}
eq\langle f \mid 1\rangle\langle 1 \mid f\rangle .
\]

Если $p
eq 0$, то $\lim _{n=\infty} \theta^{p n}$ не существует и условие (9.9) не выполняется. Этот результат допускает непосредственное обобщение на $n$-мерный тор.
Приведенный пример наводит на мысль о следующей теореме.

Теорема 9.12. Пусть $(M, \mu, \varphi)$ – эргодическая динамическая система, $U$ – оператор, индуцированный диффеоморфизмом $\varphi$. Тогда:

а) абсолютная величина любой собственной функиии оператора $U$ есть константа п.в.;
b) каждое собственное значение просто;
c) множество всех собственных значений оператора $U$ образует подгруппу окружности $\{z|z \in \mathbb{C}| z \mid,=1\}$;
d) если система $(M, \mu, \varphi)$ перемешивающая, то единственное собственное значение равно 1.

Доказательство.
Пусть $f$ – собственная функция, отвечающая собственному значению $\lambda$ :
\[
U f=\lambda f .
\]

Так как $U$ – унитарный оператор, $|\lambda|=1$; следовательно, $U|f|=|f|$. Отсюда мы заключаем, что величина $|f|$ инвариантна; поскольку система эргодична, это означает (см. следствие 7.6), что
\[
|f|=\text { const } \quad \text { п. в. }
\]

В частности, $f
eq 0$ п. в. и $|f|^{2} \in L_{2}(M, \mu)$.
Пусть $h$ – другая собственная функция, отвечающая тому же собственному значению $\lambda$, что и $f$. Поскольку $f
eq 0$ п. в., то можно составить отношение $\frac{h}{f} \in L_{2}(M, \mu)$ и убедиться, что
\[
U\left(\frac{h}{f}\right)=\frac{U h}{U f}=\frac{\lambda h}{\lambda f}=\frac{h}{f} .
\]

Следовательно, $\frac{h}{f}$ – инвариант. Поскольку система эргодична, делаем вывод, что
\[
h=\text { const } \cdot f \quad \text { п. в. }
\]

Таким образом, собственные значения простые, что доказывает (b).
Из того, что $U f=\lambda f$, мы заключаем, что $U \bar{f}=\overline{\lambda f}$; следовательно, $\bar{\lambda}=\lambda^{-1}$ – собственное значение. Пусть $\mu$ – некоторое собственное значение, $g$ – соответствующая ему собственная функция. Тогда
\[
U(f \cdot g)=U f \cdot U g=(\lambda \mu)(f \cdot g) .
\]

Следовательно, $\lambda \mu$ – собственное значение. Это доказывает (c).

Наконец, если система $(M, \mu, \varphi)$ – перемешивающая, то, выбирая в качестве $f$ и $g$ в (9.9) собственную функцию, отвечающую собственному значению $\lambda$, получаем:
\[
\lim _{n \rightarrow \infty}\left\langle U^{n} f \mid f\right\rangle=\langle f \mid 1\rangle \cdot\langle 1 \mid f\rangle,
\]
T. e.
\[
\lim _{n \rightarrow \infty} \lambda^{n}=\text { const. }
\]

Таким образом, $\lambda=1$. Это доказывает пункт (d).
Перечисленные выше свойства дискретного спектра имеют аналогии среди свойств непрерывного спектра (Синай [2], [3]). Ясно, что группа собственных значений есть инвариант динамической системы. Если спектр чисто точечный, то эта группа образует полную систему инвариантов. Точнее, справедлива следующая теорема.

Теорема о дискретном спектре 9.13 (фон Нейман, Халмош).

a) Две эргодические динамические системы с чисто точечными спектрами изоморфны в том и только том случае, если они обладают одним и тем же спектром.
b) Любая счетная подгруппа окружности $\{z|z \in \mathbb{C}| z \mid,=1\}$ есть спектр некоторой эргодической системы с чисто точечным спектром.

Доказательство см. у Халмоша [1]. Оно сводится к доказательству того, что эргодическая система с чисто точечным спектром изоморфна компактной абелевой группе, на которой действует вращение.

Эта теорема показывает, что в случае дискретного спектра проблема классификации полностью решена. С другой стороны, неизвестно, например, существуют ли классические системы, реализующие данный дискретный спектр (или лебеговский конечной кратности ${ }^{5}$ ). Некоторые результаты на эту тему приведены в приложении 16.