§ 5. Действие группы на множестве

Пусть S — множество и -моноид. Под действием G на S (слева) мы понимаем отображение такое, что если обозначить через образ пары при этом отображении то для всех и будет

Мы говорим в таком случае, что G действует на множестве S (слева), а также что S есть -множество.

Рассмотрим -множество -S. Всякое индуцирует отображение множества S в себя, задаваемое формулой

для всех Кроме того, по определению имеем

Если G — группа, то у отображения существует обратное, а именно и, следовательно, каждое есть перестановка множества S. Отображение является, очевидно, гомоморфизмом группы G в группу перестановок множества S, и мы говорим, что G представлена в виде группы перестановок (или что нам дано представление группы G в группу перестановок).

В остальной части этого параграфа мы будем предполагать, что G — группа. Наиболее важными двумя примерами представлений G в виде группы перестановок являются следующие:

(i) Сопряжение. Для всякого из G определим отображение формулой Отображение

определяет действие G на себе, называемое сопряжением (а также трансформированием). (Выполнение условий, которым должно удовлетворять действие, проверяется тривиально.) В действительности каждое является автоморфизмом G, т. е. для всех имеем

обладает обратным, а именно . Мы видим, таким образом, что отображение

есть гомоморфизм группы G в ее группу автоморфизмов. Ядро этого гомоморфизма — нормальная подгруппа в G, состоящая из всех таких что для каждого , т. е. из всех , которые коммутируют с каждым элементом из G. Иными словами, это ядро совпадает с центром группы

Чтобы избежать путаницы, мы не употребляем записи для Иногда пишут

т. е. используют экспоненциальное обозначение, так что выполняются правила

для всех

Отметим, что посредством сопряжений G действует также на множестве своих подмножеств. Действительно, пусть S — множество всех подмножеств в G и пусть - одно из них. Тогда есть также подмножество в G, которое можно обозначить символом и легко проверяется, что отображение

произведения в S определяет действие G на S. Отметим, кроме того, что если А — подгруппа в G, то тоже подгруппа, так что G действует посредством сопряжений и на множестве всех подгрупп.

Пусть А, В — два подмножества в G. Мы говорим, что они сопряжены, если существует такой элемент что

Сдвиг. Для каждого определим сдвиг , положив Тогда отображение

определяет действие группы G на себе Предостережение: не является групповым гомоморфизмом! Это только перестановка

Аналогично G действует посредством сдвигов на множестве своих подмножеств, поскольку — подмножество в G вместе с А. Если Н — подгруппа в G, то не будет, конечно, подгруппой, но будет левым смежным классом по Н и, следовательно, G действует посредством сдвигов на множестве левых смежных классов по Н. Мы обозначим это множество через Таким образом, есть -множество, даже если подгруппа Н и не является нормальной. Множество правых смежных классов обычно обозначают символом

Указанные два представления группы G в виде группы перестановок будут часто использоваться в дальнейшем В частности, представление посредством сопряжений будет использовано в следующем параграфе при доказательстве теорем Силова.

Пусть S, S — два -множества Мы скажем, что отображение есть морфизм -множеств или G-отображение, если

для всех (мы вскоре определим категории и увидим, что G-множества образуют категорию).

Возвратимся теперь к общей ситуации и рассмотрим группу, действующую на некотором множестве S. Пусть . Множество элементов , для которых есть, очевидно, подгруппа в G;

она называется группой изотропии элемента S в G и обозначается символом

Когда G действует на себе посредством сопряжений, группа изотропии элемента есгь не что иное, как нормализатор этого элемента. Точно так же, когда G действует посредством сопряжений на множестве своих подгрупп, группа изотропии подгруппы — это снова ее нормализатор.

Пусть G действует на множестве — элементы S и у — такой элемент из G, что Тогда

Действительно, сразу видно, что оставляет s неподвижным и что оставляет неподвижным s, откуда и вытекает указанное равенство. Другими словами, группы изотропии элементов s и s сопряжены.

Пусть G действует на множестве S, s — фиксированный элемент из S. Подмножество в S, состоящее из всех элементов вида обозначается через и называется орбитой элемента s относительно группы G. Если и у лежат в одном и том же смежном классе по то и обратно (очевидно). Таким образом, получаем отображение

задаваемое формулой ясно, что это отображение есть морфизм -множеств. В действительности, как сразу видно, оно индуцирует биекцию множества левых смежных классов на орбиту . Следовательно, если G — группа, действующая на множестве S и то порядок (или длина) орбиты совпадает с индексом

В частности, если G действует посредством сопряжений на множестве своих подгрупп и Н — одна из них, то число сопряженных с Н подгрупп равно индексу нормализатора NH в

Пример. Пусть G — группа и Н — ее подгруппа индекса 2. Тогда Н нормальна в G. Доказательство. Заметим, что Н содержится в своем нормализаторе Поэтому индекс NH в G равен 1 или 2. Если он равен 1, то все доказано. Предположим, что он равен 2. Пусть G действует посредством сопряжения на множестве своих подгрупп. Тогда орбита подгруппы Н содержит 2 элемента и группа G действует на этой орбите. Таким образом, мы получаем гомоморфизм группы G в группу перестановок двух элементов.

Так как имеется одна сопряженная с Н подгруппа, не равная Н, то ядро этого гомоморфизма есть (нормальная) подгруппа индекса 2 и, следовательно, совпадает с Н, т. е. Н нормальна вопреки предположению. Это завершает доказательство.

Пусть G действует на множестве S. Тогда две орбиты группы G либо не пересекаются, либо совпадают. Действительно, если — две орбиты с общим элементом s, то для некоторого и, следовательно, Аналогично -Таким образом, S — объединение попарно не пересекающихся различных орбит, и мы можем записать попарно не пересекаются),

где — некоторое множество индексов и — элементы различных орбит. Если S конечно, это дает разложение порядка множества S в сумму порядков орбит, которое мы назовем формулой разложения на орбиты, а именно

Пусть х, у — элементы группы (или моноида) G. Они называются коммутирующими, если Если G — группа, то множество всех элементов , коммутирующих со всеми элементами G, есть подгруппа в G, которую мы назвали центром группы G. Пусть G действует на себе посредством сопряжения. Тогда элемент лежит в центре в том и только в том случае, если орбита этого элемента совпадает с ним самим и, таким образом, состоит из одного элемента. Вообще, порядок орбиты элемента равен индексу его нормализатора. Следовательно, в том случае, когда G — конечная группа, предыдущая формула принимает вид

где С — множество представителей различных классов сопряженных элементов. Эта формула называется также формулой классов.