Теорема 2.1 (В. В. Козлов [83], [84]). Пусть двумерное компактное аналитическое многообразие с отрицательной эйлеровой характеристикой снабжено аналитической римановой метрикой. Тогда геодезический поток этой метрики неинтегрируем в классе аналитических интегралов.
КоммЕНТАРиЙ 1. Напомним, что любое двумерное компактное многообразие можно представить как сферу с ручками (в ориентируемом случае), либо как сферу с некоторым числом пленок Мебиуса (в неориентируемом случае). При этом эйлерова характеристика многообразия вычисляется по формуле $\chi =2-2g$, где $g$ — число ручек, либо $\chi =2-m$, где $m$ — число пленок Мебиуса. Условие неотрицательности эйлеровой характеристики означает, что в ориентируемом случае число ручек не превышает единицы (тогда это либо сфера, либо тор), а в неориентируемом случае число пленок Мебиуса не превышает двух (такое многообразие является либо проективной плоскостью, либо бутылкой Клейна). Следовательно, аналитические римановы метрики с интегрируемыми (в классе аналитических интегралов) геодезическими потоками не могут существовать ни на каких 2-многообразиях, кроме сферы, тора, проективной плоскости и бутылки Клейна. Ниже мы покажем, что на этих многообразиях они действительно существуют.
КоммЕНТАРиЙ 2. Мы дадим доказательство теоремы 2.1, отличное от первоначального доказательства В.В.Козлова и основанное на некоторых общих свойствах лиувиллевых слоений интегрируемых систем. По нашему мнению, такой новый подход существенно проясняет топологическую природу того типа препятствий к интегрируемости, который был открыт В. В. Козловым. Условие аналитичности нужно здесь лишь для того, чтобы особенности лиувиллевых слоений не были патологически плохими. Грубо говоря, особенностей должно быть не слишком много. Например, вместо условия аналитичности можно потребовать, чтобы интеграл был ручным (см. определение в статье [126]) или геометрически простым (И. А. Тайманов [188]).
КомментариЙ 3. Отметим, что в теореме В.В.Козлова на самом деле достаточно требовать аналитичности лишь изоэнергетической поверхности и аналитичности интеграла только на ней. Если же потребовать, чтобы интеграл был аналитичен во всем фазовом пространстве, то задача сводится к изучению потоков, обладающих полиномиальными (по импульсам) интегралами. Для этого достаточно разложить интеграл в сходящийся ряд по импульсам и взять в качестве новых интегралов его однородные полиномиальные компоненты. В этом случае эта теорема может быть доказана при помощи метода, предложенного В.Н.Колокольцовым [92]. При этом аналитичность уже не важна. Требуется лишь полиномиальность интеграла по импульсам, а коэффициенты этого полинома могут быть любыми гладкими функциями.
КоммЕНТАРиЙ 4. Фактически та же теорема В. В. Козлова остается справедливой и для многообразий с финслеровой метрикой [22]. Это обстоятельство показывает, что на самом деле главной причиной, препятствующей интегрируемости системы, является именно топология многообразия. Другими словами, квадратичный характер гамильтониана (метрики) здесь несущественен.
Доказательство теоремы 2.1.
Пусть $M$ — двумерное компактное гладкое многообразие с интегрируемым геодезическим потоком. Сначала мы предположим для простоты, что геодезический поток обладает боттовским интегралом. Потом мы поясним, как от ситуации с невырожденными (т. е. боттовскими) особенностями слоения Лиувилля можно перейти к ситуации с аналитическими особенностями.

Рассмотрим неособую изоэнергетическую 3 -поверхность $Q$. Она является расслоением со слоем окружность над $M^2$ (т.е. пространством единичных (ко)касательных векторов к поверхности $M$ ). Как мы знаем из общей теории, структура слоения Лиувилля на $Q$ описывается меченой молекулой $W^{\ast }$. В силу боттовости системы, молекула $W^{\ast }$ состоит из конечного числа атомов и конечного числа ребер. Другими словами, многообразие $Q^3$ может быть разбито на конечное число однопараметрических семейств торов Лиувилля и конечное число особых слоев.

Рассмотрим естественную проекцию $p$ многообразия $Q^3$ на базу $M^2$ и индуцированное отображение $p_{\ast }:H_1(Q^3,\mathbb{Z})\to H_1(M^2,\mathbb{Z})$ одномерных групп гомологий с целочисленными коэффициентами. Из свойства 5 (см. выше) геодезических следует, что каждый элемент $\alpha$ из группы $H_1(M^2,\mathbb{Z})$ может быть реализован замкнутой геодезической $\gamma$ на $M^2$. Эта геодезическая $\gamma$, в свою очередь, является проекцией замкнутой траектории ${\gamma }^{\prime }$ геодезического потока на $Q^3$. Поскольку геодезический поток интегрируем, то ${\gamma }^{\prime }$ лежит на каком-то слое слоения Лиувилля (особом или неособом).

Случай 1. Пусть ${\gamma }^{\prime }$ лежит на торе Лиувилля $T^2$ (случай регулярного слоя). Тогда $\alpha$ содержится в образе группы $H_1(T^2,\mathbb{Z})\approx \mathbb{Z}\oplus \mathbb{Z}$. Отметим, что все торы Лиувилля, принадлежащие тому же однопараметрическому семейству, что и тор $T^2$, изотопны между собой, и поэтому их одномерные группы гомологий отображаются в ту же самую группу $p_{\ast }{H}_1(T^2,\mathbb{Z})$.

Случай 2. Пусть ${\gamma }^{\prime }$ лежит на каком-то особом слое слоения Лиувилля. Как мы знаем, этот слой состоит из конечного числа одномерных орбит пуассонова действия группы ${\mathbb{R}}^2$ (порожденной коммутирующими функциями $H$ и $f$ ) и конечного числа двумерных орбит, гомеоморфных кольцу $S^1\times D^1$. В каждом из этих случаев одномерная группа гомологий орбиты изоморфна $\mathbb{Z}$. А поскольку ${\gamma }^{\prime }$ лежит в какой-то орбите $O_i$, то элемент $\alpha$ содержится в образе группы $H_1(O_i,\mathbb{Z})\approx \mathbb{Z}$.

Таким образом, учитывая, что лиувиллево слоение на $Q^3$ имеет конечное число однопараметрических семейств торов Лиувилля и конечное число особых орбит $O_i$, не являющихся торами, мы видим, что вся группа $H_1(M^2,\mathbb{Z})$, как множество, представима в виде объединения конечного числа своих подгрупп, каждая из которых имеет не более двух образующих. Поскольку $H_1(M^2,\mathbb{Z})$ изоморфна либо ${\mathbb{Z}}^{2g}$ (в ориентируемом случае), либо ${\mathbb{Z}}^k\oplus {\mathbb{Z}}_2$ (в неориентируемом случае), то отсюда сразу вытекает, что группа одномерных гомологий многообразия $M^2$ является одной из следующих четырех групп: $\{e\},\mathbb{Z}\oplus {\mathbb{Z}}_2,{\mathbb{Z}}_2,\mathbb{Z}\oplus \mathbb{Z}$. Все остальные группы слишком велики.

Следовательно, $M^2$ диффеоморфно либо сфере, либо проективной плоскости, либо тору, либо бутылке Клейна. Тем самым, теорема 2.1 доказана для случая, когда геодезический поток допускает боттовский интеграл.

Из нашего доказательства видно, что условие боттовости является здесь слишком сильным. Буквально то же рассуждение проходит и для случая, когда интеграл не является боттовским, но слоение многообразия $Q$ на орбиты пуассонова действия содержит конечное число особых орбит и конечное число однопараметрических семейств регулярных торов Лиувилля. Или же для случая так называемых ручных интегралов, изученных в работе [126].

Для завершения доказательства теоремы 2.1 остается заметить, что аналитические интегралы являются ручными.
Из доказательства теоремы 2.1 сразу получаем такое следствие.

Следствие. Для любого интегрируемого геодезического потока на двумерной компактной поверхности, обладающего нетривиальным ручным первым интегралом, всегда найдется такой тор Лиувилля $T^2$, что при естественной проекции этого тора на $M^2$ группа одномерных рациональных гомологий тора целиком накрывает группу одномерных рациональных гомологий поверхности $M$.
Аналогичное утверждение верно и в многомерном случае.

Теорема 2.2 (И. А. Тайманов [188], [189]). Пусть аналитический геодезический поток на аналитическом $n$-мерном многообразии $М$ интегрируем по Лиувиллю в классе аналитических интегралов. Тогда одномерное число Бетти $b_1(M)$ не превышает $n$.
Доказательство.
Схема доказательства по существу та же, что и в двумерном случае. Каю и раньше, каждый элемент $\alpha$ группы гомологий $H_1(M^n,\mathbb{Z})$ можно реализовать замкнутой траекторией ${\gamma }^{\prime }$ геодезического потока на $Q^{2n-1}$, лежащей либо на регулярном торе Лиувилля, либо на особом слое лиувиллева слоения. Если она лежит на особом слое, то всегда существует малая изотопия этой траектории, возможно, взятой с некоторой кратностью, которая смещает, выдавливает траекторию на близкий к особому слою тор Лиувилля $T^n$.

Чтобы показать это, рассмотрим в произвольной точке $x\in {\gamma }^{\prime }$ трансверсальную площадку $P^{2n-2}$ и определенное на ней отображение Пуанкаре $\sigma$.

Пусть $f_1,\dots ,f_{n-1}$ — независимые первые интегралы геодезического потока, ограниченного на изоэнергетическую поверхность $Q^{2n-1}=\{H=1\}$. Здесь мы считаем, что гамильтониан $H$ — это интеграл $f_n$. Рассмотрим далее регулярный тор Лиувилля $T^n$, проходящий вблизи точки $x$. Можно считать, что этот тор задается как совместная поверхность уровня интегралов $f_1=c_1,\dots ,f_{n-1}=c_{n-1}$. Рассмотрим пересечение тора $T^n$ с трансверсалью $P^{2n-2}$. В аналитическом случае без ограничения общности можно считать, что пересечение $T^n\cap P^{2n-2}$ состоит из конечного числа связных компонент, причем это число ограничено сверху для всех торов Лиувилля одной и той же константой. Этот факт легко следует из общих свойств вещественно аналитических функций.
Пусть $y$ — точка на одной из таких компонент связности, достаточно близкая к $x$. Отображение Пуанкаре $\sigma$ переводит множество $T^n\cap P^{2n-2}$ в себя, переставляя при этом каким-то образом его связные компоненты (рис.2.1). Поскольку компонент связности — конечное число, то найдется такое число $q$, что отображение ${\sigma }^q$ переводит каждую компоненту связности множества $T^n\cap P^{2n-2}$ в себя.
Точки $y$ и ${\sigma }^q(y)$ лежат теперь в одной и той же связной компоненте и поэтому могут быть соединены внутри этой компоненты некоторой дугой $\beta$ (рис. 2.1). Рассмотрим замкнутую кривую ${\gamma }^{\ast }$, составленную из куска траектории геодезического Рис. 2.1 потока, соединяющего точки $y$ и ${\sigma }^q(y)$, и дуги $\beta$.

По построению эта кривая целиком лежит на торе Лиувилля и, кроме того, очевидно, изотопна траектории $\gamma$, взятой с кратностью $q$.

Итак, мы доказали, что любая замкнутая интегральная траектория геодезического потока, взятая, возможно, с некоторой кратностью, может быть изотопно продеформирована на какой-то регулярный тор Лиувилля. Отсюда сразу следует, что для любого элемента $\alpha \in H_1(M,\mathbb{Q})$ существует тор Лиувилля $T^n$ и одномерный класс гомологий ${\alpha }^{\prime }\in H_1(T^n,\mathbb{Q})$ такие, что $\alpha =p_{\ast }\left({\alpha }^{\prime }\right)$, где $p_{\ast }:H_1(T^n,\mathbb{Q})\to H_1(M,\mathbb{Q})$ — гомоморфизм, индуцированный естественной проекцией $p:T^n\to M$.

Таким образом, вся группа рациональных гомологий $H_1(M,\mathbb{Q})$ является теоретико-множественным объединением (как подмножеств) образов одномерных групп гомологий ${\mathbb{Q}}^n=H_1(T^n,\mathbb{Q})$ торов Лиувилля $T^n$. Отметим, что однопараметрических семейств торов Лиувилля — конечное число. Это снова следует в аналитическом случае из теорем Тарского и Лоясевича. Следовательно, группа $H_1(M,\mathbb{Q})$ является объединением конечного числа своих подгрупп вида $p_{\ast }{H}_1(T^n,\mathbb{Q})$, и поэтому совпадает с одной из них. Это утверждение в точности повторяет следствие к теореме 2.1. Отсюда
$$b_1(M)=\dim H_1(M,\mathbb{Q})=\dim p_{\ast }{H}_1(T^n,\mathbb{Q})⩽\dim H_1(T^n,\mathbb{Q})=n,$$

что и требовалось доказать.

Существуют другие многомерные версии теорем 2.1 и 2.2. Вот, например, еще несколько утверждений, доказанных И. А. Таймановым [189].
Теорема 2.3. Если аналитический геодезический поток на $M^n$ аналитически интегрируем (по Лиувиллю), то:
а) фундаментальная группа ${\pi }_1\left(M^n\right)$ почти коммутативна, т.е. содержит коммутативную подгруппу конечного индекса.
б) Если $\dim H_1(M^n,\mathbb{Q})=d$, то кольцо когомологий $H^{\ast }(M^n,\mathbb{Q})$ содержит подкольцо, изоморфное кольцу рациональных гомологий $d$-мерного тора $T^d$.
в) Если же $\dim H_1(M^n,\mathbb{Q})=n$, то кольца рациональных когомологий многообразия $M^n$ и п-мерного тора $T^n$ изоморфны.
г) Всегда существует п-мерный тор Лиувилля $T^n$ в кокасательном расслоении $T^{\ast }{M}^n$, при естественной проекции которого вдоль слоев этого расслоения образ его фундаментальной группы имеет в фундаментальной группе ${\pi }_1\left(M^n\right)$ конечный индекс.

ЗАмЕчАниЕ. Как мы уже отмечали выше, аналитичность в этих утверждениях нужна лишь для того, чтобы структура особенностей отображения момента была не слишком сложной. В частности, теоремы 2.2 и 2.3 справедливы в более слабом предположении геометрической простоты интегрируемого геодезического потока [189].

Имеется еще ряд результатов И.А.Тайманова [190], Г.Патернайна [353], Е.И.Динабурга [65] и других, в которых обсуждается связь интегрируемости по Лиувиллю с топологической энтропией геодезического потока и топологией многообразия.

Препятствия к интегрируемости совсем другого характера были обнаружены, в частности, С.В.Болотиным [22], [245], [246]. Наряду с работами по исследованию топологических препнтствий к интегрируемости, имеется большое направление, связанное с построением явных примеров интегрируемых геодезических потоков на различных римановых многообразиях. Сюда относятся, в частности, работы А.С.Мищенко, А.Т.Фоменко [133], А.В.Браилова [47], А. С. Мищенко [131], [132], A. Thimm [377], G.P.Paternain, R. J. Spatzier [352].