§ 6. Разложение унитарных представлений на неприводимые

До сих пор мы рассматривали лишь отдельные типы групп и, главным образом, их неприводимые представления. Остановимся теперь на некоторых общих результатах в предположении, что произвольная локально компактная группа со счетной базой

окрестностей единицы. (Этому условию удовлетворяет, в частности, всякая группа Ли.)

Пусть унитарное представление группы G в сепарабельном гильбертовом пространстве Заметим, что в классе таких представлений для сильной непрерывности операторной функции достаточна ее слабая непрерывность ([37], стр. 443). Мы уже отмечали в основном тексте, что для унитарных представлений имеет место принцип полной приводимости. Последовательное применение этого принципа позволяет заключить о разложимости представления на неприводимые. Однако число неприводимых компонент может быть несчетно, и потому для строгого описания полученной ситуации приходится использовать специальное понятие прямого интеграла.

Пусть компактное пространство с мерой Предположим, что почти каждой точке поставлено в соответствие гильбертово пространство размерности Предположим, что функция измерима по мере Так как функция принимает лишь счетное число значений, то пространство разбивается в счетную теоретико-множественную сумму непересекающихся подпространств на каждом из которых Следовательно, при все пространства можно отождествить с некоторым фиксированным пространством Ни. Вектор-функцию мы называем измеримой, если числовые функции измеримы при каждом Вектор-функцию назовем измеримой, если она измерима на всех подпространствах Определим пространство как множество всех измеримых функций для которых

Соответствующим образом вводится скалярное произведение двух функций Функции для которых отождествляются с нулем. В результате пространство становится гильбертовым пространством. Это пространство называется прямым интегралом пространств и обозначается символом

Заметим, что вообще говоря, не является подпространством в пространстве (исключение составляет тот случай, когда мера точки X конечна). Если почти в каждом пространстве задан оператор то оператор называется прямым интегралом операторов

Вернемся к рассмотрению унитарного представления группы G. Основной результат формулируется следующим образом: представление есть прямой интеграл неприводимых унитарных представлений по некоторой мере

Существенно, что полученное разложение, вообще говоря, не является однозначным. Более того, существуют такие группы, для которых неоднозначным является также спектр, т. е. «список» неприводимых представлений, входящих в разложение ([37]). Положение упрощается, если вместо неприводимых представлений рассматривать представления, «кратные неприводимым», точнее, так называемые «фактор-представления».

Представление есть прямой интеграл взаимно неэквивалентных фактор-представлений ([37]). Такое разложение определяется однозначно. Известны условия, при которых всякий ограниченный оператор в перестановочный с есть прямой интеграл скалярных операторов где 1% — единичный оператор на и —число (континуальный аналог леммы Шура ([37],

В частности, всякий ограниченный оператор, перестановочный со всеми операторами неприводимого унитарного представления, кратен единичному (однако этот результат, конечно, доказывается независимо и значительно проще).

Если регулярное (правое или левое) представление группы то указанное выше разложение приводит к так называемой «абстрактной формуле Планшереля» (И. Сигал [129]). Однако для каждого конкретного класса групп проблема состоит в описании явного вида меры, входящей в разложение (так называемой меры Планшереля).

К значительно большим сложностям приводит рассмотрение неунитарных представлений. Ввиду отсутствия принципа полной приводимости здесь не существует даже корректной постановки задачи о разложении. Неприводимые представления сравнительно подробно изучены только в случае полупростой комплексной группы Ли.