24. Выпуклость в смысле Леви.

Принцип непрерывности гарантирует возможность голоморфного продолжения функции из области в окрестность множества которое можно приблизить поверхностями Так как можно считать расположенным в окрестности какой-либо граничной точки то этот принцип имеет локальный характер.

Естественно ввести на область условие локальной непродолжаемости некоторых голоморфных функций как условие несуществования последовательности поверхностей, к которым был бы применим принцип непрерывности. Сформулируем это в следующем виде:

Определение. Область называется выпуклой в смысле Леви (короче, -выпуклой) в граничной точке , если, какова бы ни была поверхность содержащая и такая, что то для любой последовательности компактных аналитических поверхностей

найдется номер начиная с которого все содержат точки, не принадлежащие Область называется -выпуклой, если он -выпукла в каждой своей граничной точке.

Из принципа непрерывности непосредственно вытекает Теорема 1. Каждая область голоморфности является -выпуклой.

Если не является -выпуклой в какой-либо точке то найдется поверхность такая, что и последовательность компактных аналитических поверхностей тогда любая голоморфно продолжается в точку и не может быть областью голоморфности

Этот результат можно сформулировать и локально. Назовем область не расширяемой голоморфно в граничной точке , если существует окрестность этой точки и функция голоморфная на открытом множестве и не продолжаемая голоморфно в точку ?.

Теорема 1, очевидно, допускает такой локальный вариант: Теорема Если область не расширяема голоморфно в точке то она является -выпуклой в этой точке.

Ясно, что любая область голоморфности не расширяема голоморфно ни в одной точке Еще в 1911 г. Э. Леви поставил обратную задачу:

Проблема Леви. Является ли область не расширяемая голоморфно ни в одной точке границы, областью голоморфности?

Главная трудность в этой проблеме состоит в переходе от локального свойства к глобальному. Если не расширяема голоморфно в точке то существует локальный барьер — функция голоморфная в и не продолжаемая голоморфно в точку . Но как из таких локальных барьеров построить глобальный барьер, т. е. функцию, голоморфную всей области и не продолжаемую в Эта трудность была преодолена лишь в 1954 г. К. Ока, который доказал, что проблема Леви решается положительно для любой области

При помощи теоремы Ока в будет доказано, что условие -выпуклости области является и достаточным для голоморфной нерасширяемости, так что эти условия эквивалентны.

Выпуклость в смысле Леви, в отличие от голоморфной выпуклости, является локальным свойством границы области, и поэтому естественно ожидать, что она легче проверяется. Мы приведем здесь несколько критериев. Начнем с простого достаточного условия.

Рис. 106.

Теорема 2. Если области в некоторой граничной точке можно коснуться извне аналитическим множеством где функция, голоморфная в точке , то является -выпуклой в точке , (рис. 106).

Условие теоремы означает, что существует функция голоморфная в окрестности точки , равная нулю в этой точке и отличная от нуля в Но тогда функция голоморфна в и не продолжается голоморфно в точку . Таким образом, не расширяема голоморфно в точке и по теореме является -выпуклой в этой точке

Отметим, что этот признак обобщает известный признак обычной (геометрической) выпуклости области. Если вместо аналитического множества мы будем рассматривать опорную гиперплоскость получим

(необходимый и достаточный) признак выпуклости области в граничной точке .

Следующий критерий применим к областям с достаточно гладкой границей. Предположим, что в окрестности некоторой граничной точки область задается условием

где действительная функция. Предположим еще, что в точке

отличен от нуля.

Тейлоровское разложение в точке имеет вид

где

(все производные берутся в точке , свободный член обозначает малую выше второго порядка при

Для получения (4) достаточно написать обычное тейлоровское разложение по переменным и заметить, что так как функция действительна, то поэтому группы членов разложения по переменным комплексно сопряжены соответствующим группам по и в сумме дают удвоенные действительные части (это замечание относится к первому и второму слагаемым формулы).

Заметим еще, что уравнение

определяет аналитическую касательную плоскость к поверхности в точке (она не вырождена в силу условия Форма

является эрмитовои, ибо для всех в силу того, что действительная функция.

Теорема 3 (Леви — Кшоска). Пусть область в окрестности точки задается условием (2), где Если является -выпуклой в точке , то сужение эрмитовой формы (6) на касательную аналитическую плоскость неотрицательно-.

Обратно, если это сужение положительно:

для всех , то является -выпуклой в точке .

Для упрощения формальных выкладок ограничимся случаем и положим Совершим невырожденное аффинное преобразование переменных

которое переводит касательную аналитическую плоскость в плоскость После этого разложение Тейлора (4) примет вид

где

(для простоты письма мы полагаем

Сужение формы Н на касательную аналитическую плоскость теперь записывается совсем просто:

а) Достаточное условие. Из (8) следует, что Возьмем функцию и рассмотрим аналитическую поверхность На ней ведя

подсчет с точностью до малых второго порядка, мы найдем, что сужение

Отсюда видно, что в некоторой окрестности точки т. е. что в пределах этой окрестности лежит вне По теореме 2 отсюда следует, что является -выпуклой в точке

б) Необходимое условие. Пусть, от противного, является -выпуклой в точке Из (12) видно, что аналитическая поверхность при достаточно малых вся, кроме точки лежит в области Из соображений непрерывности ясно, что компактные аналитические поверхности

при всех достаточно малых принадлежат и что при Но это противоречит -выпуклости в точке

Для случая существует еще более эффективный критерий. Назовем определителем Леви

тогда имеет место

Теорема 4. Пусть область в окрестности точки задается условием (2), где Если является -выпуклой в точке , то в этой точке Если в точке , то область -выпукла в этой точке.

Заметим, что в частном случае к которому общий приводится невырожденным аффинным преобразованием

(как в предыдущей теореме), имеем

и теорема сводится к предыдущей. Для доказательства в общем случае достаточно заметить, что при биголоморфном отображении определитель Леви преобразуется по следующему закону:

где (тождество (14) проверяется прямой выкладкой)

Примеры.

1. Пусть основание В трубчатой области из ограничено кривой Заменяя сляем определитель Леви:

Отсюда видно, что -выпуклость таких областей сводится к обычной выпуклости.

2. Для областей Рейнхарта из с границей

(мы положили . -выпуклость таких областей сводится, следовательно, к логарифмической выпуклости, так как

3. Для областей Хартогса из с границей

где — оператор Лапласа. Условие -выпуклости сводится к субгармоничности функции (см. задачу к гл. V ч. I).