11. Метод доказательства, основанный на бэровской категории множеств

Теорема, устанавливающая, что полное метрическое пространство не есть множество первой категории (сумма счетного числа нигде не плотных множеств), использовалась в современной математике преимущественно для получения доказательств существования, особенно в теории функций действительного переменного и в топологии. Так, например, чтобы показать существование непрерывных функций, не имеющих производной ни в одной точке, можно показать, что множество таких функций образует дополнение к множеству первой категории в пространстве всех непрерывных функций. Далее, чтобы показать существование метрически транзитивных преобразований, сохраняющих меру, доказывают, что множество всех таких преобразований есть дополнение к множеству первой категории в пространстве всех сохраняющих меру преобразований. Чтобы доказать существование гомеоморфного образа произвольного -мерного комплекса вложенного в -мерное евклидово пространство достаточно (и это весьма просто) показать, что в пространстве всех непрерывных (возможно, многооднозначных) отображений взаимно однозначные преобразования образуют дополнение к множеству первой категории.

Можно указать много других примеров.

Существует возможность использовать другую теорему об этих множествах (или, более общо, о множествах второй категории), чтобы вместо теорем существования доказывать теоремы, содержащие дополнительный квантор, т. е. теоремы, содержащие выражение «для любого».

Так, хорошо известная теорема утверждает, что если есть связная топологическая группа и ее подгруппа, которая не есть множество первой категории по отношению к то совпадает с

Аналогично, если такая же группа с конечной мерой Хаара, определенной для ее подмножеств, и есть подгруппа с положительной мерой, то

Чтобы проиллюстрировать эту возможность, рассмотрим в качестве примера хорошо известную теорему Ван-дер-Вардена, утверждающую, что каждое разбиение множества положительных целых чисел на два подмножества имеет свойство : по меньшей мере одно из множеств содержит конечные арифметические прогрессии сколь угодно большой длины.

Предположим, что мы ставим каждому разбиению в соответствие действительное число х (рассматриваемое как точка на окружности длины единица):

где если если Непосредственно очевидно, что множество всех х, для которых соответствующее разбиение имеет свойство есть множество меры 1 в непрерывной группе всех х (относительно сложения по модулю 1).

Так как теорема Ван-дер-Вардена верна, то из нее следует, что Было бы интересно показать сравнительно простыми рассуждениями, что наше множество есть группа, и таким образом,

Имеется целый ряд комбинаторных теорем и нерешенных задач, в которых можно попробовать такого рода подход.