§ 5. Нильпотентные группы Ли

Пусть теперь нильпотентная связная группа Ли. В этом параграфе мы докажем следующую теорему А. А. Кириллова: всякое неприводимое унитарное представление группы G мономиально.

Доказательство будем вести индукцией по размерности группы т. е. по размерности соответствующей алгебры Ли, которую обозначим А. Этот метод позволяет считать, не ограничивая общности, что представление алгебры А является точным. (Действительно, в противном случае мы имеем дело с представлением некоторой фактор-алгебры, имеющей меньшую размерность.) Далее, пусть центр алгебры А. Ввиду неприводимости операторы центра являются скалярами. Ввиду предположения о точности мы можем отсюда заключить, что (Действительно, всякая нильпотентная алгебра содержит нетривиальный центр (§ 85); следовательно, в то же время поле скаляров имеет размерность 1.)

Следовательно, можем считать, что алгебра имеет одномерный центр.

Если то в этом случае алгебра А коммутативна (упражнение 1 на стр. 389) и теорема верна (всякое неприводимое представление одномерно, а потому мономиально). Если то, исключая коммутативный случай, имеем лишь единственную алгебру Ли — алгебру Ли группы (упражнение 2 на стр. 389). В этом случае утверждение теоремы следует из результатов § 2 этого добавления. Итак, при теорема доказана. В дальнейшем мы предполагаем, что Остальное доказательство разобьем на несколько шагов.

1. Согласно структурной теории нильпотентных алгебр Ли мы можем расширить Z до двумерной подалгебры такой, что Пусть базис в причем Тогда имеем

для всех (ввиду одномерности Здесь -линейный функционал над алгеброй А, отличный от тождественного нуля, поскольку элемент у нецентрален. Следовательно, существует элемент для которого Отсюда имеем

Мы показали, что в алгебре А существует трехмерная подалгебра С, изоморфная алгебре Ли группы причем ее центр совпадает с центром всей алгебры А.

2. Введем обозначение для гиперплоскости в А, выделяемой условием Покажем, что является идеалом в Действительно, состоит из всех элементов а для которых где положено В частности,

согласно и центральности элемента Следовательно, всякий коммутатор содержится в В частности, т. е. является идеалом. Очевидно, Поскольку идеал, то отсюда в свою очередь получаем разложение для группы:

(полупрямое произведение), где положено Теперь можно было бы воспользоваться результатами предыдущего параграфа, однако мы предпочтем видоизмененное построение, которое покажет, что представление группы G индуцируется представлением подгруппы

3. Итак, пусть неприводимое унитарное представление группы G в гильбертовом пространстве Согласно теореме Стоуна — фон Неймана мы можем реализовать пространство в виде пространства вектор-функций интегрируемых с квадратом по мере Лебега, так, чтобы образы элементов задавались формулами

При этом поскольку представление является точным. Далее, пусть Согласно определению оператор перестановочен с . Следовательно, этот оператор при каждом сводится к умножению на некоторую функцию от переменной

В то же время Отсюда следует, что прямая является однородным пространством для G. Согласно разложению формулы для и вполне определяют представление Мы видим, что это представление индуцировано представлением

подгруппы (здесь произвольно фиксированная точка в

4. Остается воспользоваться следующим «правилом транзитивности» из теории индуцированных представлений пусть цепочка вложенных подгрупп; если представление группы G индуцировано представлением подгруппы которое в свою очередь индуцировано представлением подгруппы то представление индуцировано также представлением Это открывает возможность для индукции. Постепенно понижая размерность, приходим к случаю рассмотренному выше. Теорема доказана.

В статье А. Кириллова [102] дается дальнейшее уточнение изложенной конструкции. Мономиальное представление задается, очевидно, некоторым линейным функционалом над алгеброй А (алгеброй Ли группы Оказывается, что представления, индуцированные функционалами эквивалентны тогда и только тогда, когда имеет место равенство

где представление группы сопряженное присоединенному представлению этой группы в алгебре А. Таким образом, возникает взаимно однозначное соответствие между орбитами и неприводимыми унитарными представлениями группы G. Различные операции тензорной алгебры (тензорное произведение, сужение с группы на подгруппу) также получают замечательную интерпретацию в терминах орбит. Заслуживает особого внимания то обстоятельство, что «язык орбит» не зависит от структурной теории (которая для пильпотентных групп фактически не развита). Можно надеяться, что этот язык в известной степени окажется универсальным также в классе произвольных групп Ли (при описании всех неприводимых унитарных представлений).