21. Голоморфная выпуклость.

Выпуклую оболочку множества можно, очевидно, описать как совокупность всех точек таких, что для любой действительной линейной функции

имеет место неравенство

(см. рис. 98, где при изображены линии уровня линейных функций).

Предоставляем читателю убедиться в том, что при описании выпуклой оболочки в действительные линейные функции можно заменить комплексными:

Рис. 98.

Иными словами, выпуклую оболочку множества можно определить как множество

где неравенство справедливо для всех линейных функций

Мы хотим обобщить понятие выпуклой оболочки, распространив его на произвольное семейство F функций (действительных или комплексных), определенных в области

Определение 1. F-выпуклой оболочкой множества называется совокупность точек

где неравенство справедливо для всех функций

Определение 2. Область называется F-выпуклой, если для любого множества К, компактно принадлежащего его F-выпуклая оболочка также компактно принадлежит

Рис. 99.

Форма, в которой принято определение 2, позволяет устанавливать F-выпуклость области, не выходя за ее пределы.

Это существенно, когда F состоит из функций, определенных лишь в области

Ясно, что в случае, когда F состоит из линейных функций, F-выпуклость совпадает с обычной (геометрической) выпуклостью (см. рис. 99, где показано, как невыпуклость области влечет за собой нарушение условия

В теории функций особо важную роль играет голоморфная выпуклость, когда а также полиномиальная выпуклость, когда F представляет собой совокупность всех полиномов Полиномиально выпуклую оболочку множества

мы будем обозначать через а голоморфно выпуклую — через М. Рассматривается и понятие выпуклости, связанное с другими классами например совокупностью всех рациональных функций или всех мономов (т. е. кратных степеней

Очевидно, чем шире класс тем для большего множества функций требуется выполнение неравенства (2) и поэтому тем уже -выпуклая оболочка множества и, следовательно, тем шире класс -выпуклых областей. В частноти, всегда и все выпуклые области лзляются полиномиально выпуклыми, все полиномиально выпуклые — голоморфно выпуклыми.

Примеры.

1. Проиллюстрируем описанное включение в плоском случае. Любая область является голоморфно выпуклой, а полиномиально выпуклыми будут лишь области со связным дополнением в (докажите!). Класс геометрически выпуклых областей уже класса полиномиально выпуклых. Образно говоря, переход к полиномиальной оболочке плоской области сводится к заклеиванию в ней «дыр», а к (геометрически) выпуклой оболочке — еще и к заклеиванию «выемок» вблизи границы.

2. Любой аналитический полиэдр

(см. п. 18), где функции является выпуклым относительно класса . В самом деле, если то для любого имеем По определению Я-выпуклой оболочки

а отсюда следует, что и

Условие выпуклости относительно любого семейства функций оказывается достаточным для того, чтобы была областью голоморфности.

Теорема 1 (Картан и Туллен). Если область выпукла относительно какого-либо класса то она является областью голоморфности.

Доказывается вполне аналогично теореме о барьере из предыдущего пункта. Выбираем счетное всюду плотное на

множество точек и последовательность граничных точек так, чтобы каждая точка встречалась в ней бесконечно часто. Далее, исходя из какого-либо компактного исчерпывания области строим последовательность множеств точек и функций так, чтобы для любого было: 1) 2) (для простоты письма мы опускаем индекс F в обозначении -выпуклой оболочки). Построение делаем по индукции. Для берем пользуясь -выпуклостью, по которой находим точку такую, что из определения оболочки следует существование функции такой, что и мы полагаем Затем мы выбираем так, чтобы принадлежала а значит, и подавно Далее предполагаем, что построение сделано для всех натуральных чисел до включительно. Тогда берем точку так, чтобы было находим функцию для которой полагаем и выбираем так, чтобы Построение закончено.

Остается так же, как в теореме о барьере, выбрать натуральные числа так, чтобы при всех выполнялись неравенства

и рассмотреть ряд

Так как ряд сходится равномерно на любом то а так как то является областью голоморфности этой функции

Самое сильное утверждение мы получим, если выберем в этой теореме

Следствие. Всякая голоморфно выпуклая область является областью голоморфности.

Ясно, что для получения необходимых условий для области голоморфности на класс F надо наложить дополнительные

условия (например, если совокупность всех линейных функций, то -выпуклость сводится к обычной выпуклости, а она, как мы видели, не является необходимой). Мы предположим, что класс F является устойчивым по отношению к дифференцированию, короче, -устойчивым, т. е. вместе с любой функцией содержит и любую производную

Для оболочки относительно таких классов справедлива следующая важная теорема об одновременном продолжении:

Теорема 2 (Картан и Туллен). Пусть расстояние в -метрике от К до границы Какова бы ни была точка принадлежащая выпуклой оболочке множества К относительно -устойчивого класса любая функция голоморфно продолжается в поликриг

Рис. 100.

Существенно, что может выходить за пределы области (см. схематический рис. ); радиус этого поликруга не зависит от индивидуальной функции и определяется лишь расстоянием множества К до

Так как то любая функция в окрестности представляется рядом Тейлора

где Но так как и класс -устойчив, то

т. e. оценка производных в точке сводится к их оценке на К.

Выберем число и обозначим через замыкание -раздутия множества К (т. е. объединения всех поликругов ). Так как то ограничена на нем, мы обозначим

Если то и для оценки производных в правой части (5) мы можем воспользоваться неравенствами Коши

Теперь выберем любое для произвольной точки имеем

откуда видно, что ряд (4) сходится в поликруге Так как числа можно выбрать сколь угодно близкими к то (4) сходится всюду в Этот ряд и дает нужное голоморфное продолжение функции

Доказанная теорема сразу приводит к необходимости -выпуклости для областей голоморфности в следующей форме: Теорема 3 (Бенке-Штейн). Если является областью голоморфности некоторой функции из -устойчивого класса то она F-выпукла.

Возьмем произвольное множество и обозначим По теореме 2 функция продолжается в -раздутие множества а так как по условию не продолжаема за пределы то это раздутие принадлежит значит,

В частности, выбирая (этот класс, очевидно, -устойчив), получим, что любая область голоморфности является голоморфно выпуклой. Объединив этот факт с отмеченным выше следствием теоремы 1, получим окончательный результат:

Теорема 4. Условие голоморфной выпуклости области необходимо и достаточно для того, чтобы она была областью голоморфности.

К сожалению, это условие не является столь наглядным и эффективно проверяемым, как условие геометрической выпуклости. В следующем параграфе мы дадим другую его трактовку, основанную на теории субгармонических функций. Эта трактовка, пожалуй, более геометрична и, кроме того, она приведет к некоторым эффективным критериям для областей голоморфности.

Сейчас мы приведем еще одну формулировку условия -вы-пуклости, наложив на рассматриваемые классы дополнительное ограничение. Именно, мы будем считать, что класс устойчив по отношению к возведению в степень, короче, -устойчив,

вместе с каждой функцией содержит и любую ее натуральную степень

Для таких классов теорему об одновременном продолжении можно несколько усилить:

Теорема 5 (Картан и Туллен). Пусть произвольный класс, одновременно и -устойчивый. Тогда для любой функции и любой точки

где — произвольное число — раздутие множества К.

Пусть и точка тогда ряд Тейлора (4) функции с центром в точке сходится в точке и для каждого его члена справедлива оценка (7):

Суммируя эти неравенства, найдем

где через обозначено число членов ряда Тейлора функции переменных с данной Но сумма в правой части, очевидно, равна следовательно,

Применяя это неравенство к функциям принадлежащим классу F в силу его -устойчивости, получим

Теперь извлечем корень степени и устремим будем иметь Но здесь 2 можно считать произвольной точкой из согласно (6) совпадает с правой частью

Следствие. В условиях и обозначениях предыдущей теоремы

Любая точка принадлежащая левой части (10), принадлежит и поликругу с центром поэтому согласно (8) для любой имеем это и означает, что принадлежит F-выпуклой оболочке множества Критерий -выпуклости в сделанных предположениях о классе можно сформулировать так:

Теорема 6. Для того чтобы область была выпуклой относительно некоторого класса одновременно и -устойчивого, необходимо и достаточно, чтобы для любого множества

Достаточность условия (11) очевидна. Для доказательства необходимости обозначим левую часть (11) через а правую через Очевидно, если бы было то мы имели бы . В силу замкнутости множества оно содержит точку для которой Поэтому поликруг касается границы и не может компактно принадлежать

Рис. 101.

Но согласно теореме 5 содержится в Таким образом, оболочка некомпактна в а это противоречит -выпуклости области

Мы получили новую характеристику областей, выпуклых относительно одновременно и -устойчивых классов (в частности, голоморфно выпуклых). Это такие области, в которых переход от компактных подмножеств к их -выпуклым оболочкам происходит без уменьшения расстояний до границы. Образно говоря, такой переход состоит в заклеивании «дырок» и «впадин», имеющихся в подмножествах (рис. 101).