В настоящем приложении описывается один из возможных способов классификации потоков Морса-Смейла на замкнутых двумерных многообразиях с точностью до гомеоморфизма, сохраняющего траектории потока.

Вопросы, связанные с качественным исследованием динамических систем на двумерных многообразиях (в частности, классификация таких систем), обсуждались многими авторами. Первые важные результаты в этом направлении были получены в работах А. А. Андронова, Л. С. Понтрягина, Е. А. Леонтович, А. Г. Майера (см. [1], [5], [6], [7], а также [2], [3], [11] об истории вопроса). В этих работах исследовались векторные поля достаточно общего вида. В дальнейшем Смейл (S.Smale) $[9,10]$ выделил класс потоков (названных впоследствии потоками Морса-Смейла), которые на двумерном многообразии, с одной стороны, являются типичными, а с другой стороны, имеют простое качественное описание. В настоящем приложении рассматриваются только замкнутые (т.е. компактные, без границы) многообразия, поэтому в дальнейшем «двумерное многообразие» или «поверхность» означает «замкнутое двумерное многообразие».

В работе [19] Пейксото (M. Peixoto) ввел понятие «различающего графа», сопоставляемого произвольному потоку Морса-Смейла, и сформулировал теорему о том, что этот граф является полным топологическим инвариантом, классифицирующим потоки Морса-Смейла на двумерных многообразиях с точностью до траекторной топологической эквивалентности (точные определения см. в §1). В работе [19] доказана теорема реализации для таких графов и тем самым, как утверждает Пейксото, «задача классификации потоков Морса-Смейла на двумерных многообразиях сводится к задаче классификации различающих графов».

Однако инвариант, предъявленный Пейксото, имеет сложное описание. Поэтому трудно реализовать алгоритм сравнения двух таких графов или, например, алгоритм их перечисления для малого количества вершин. Более того, описанный Пейксото «различающий граф» является полным траекторным топологическим инвариантом на самом деле лишь для потоков Морса-Смейла без предельных циклов (иногда такие потоки называют потоками Морса). Утверждение о том, что классы эквивалентности потоков Морса-Смейла находятся во взаимнооднозначном соответствии с различающими графами, в самой работе [19] не доказывается, но приводится ссылка на работу [21], где, как говорит Пейксото, «с точностью до обозначений доказана содержательная часть этого утверждения». Однако все рассуждения в работе [21] проводятся для достаточно близких потоков, и некоторые из них становятся неверными, если отбросить это условие. Для потоков Морса-Смейла с предельными циклами различающий граф Пейксото является инвариантом, но не полным, т.е. существуют траекторно топологически не эквивалентные потоки с одинаковым различающим графом (см. пример 6 и предшествующее ему обсуждение).

Позже появились другие описания инварианта Пейксото или похожих инвариантов. Так, например, Флейтас (G.Fleitas) в работе [17] описал некоторый инвариант для потоков Морса на двумерных многообразиях. Подход Флейтаса отличается от подхода Пейксото, а предъявленный в работе [17] инвариант существенно проще, чем инвариант Пейксото (см. §2).

В работе Вонга (X.Wang) [23] также предъявляется более простой, чем у Пейксото, инвариант для потоков Морса-Смейла на ориентируемых двумерных многообразиях. Но поскольку Вонг строит свой инвариант на основе работы Пейксото, этот новый инвариант также является полным инвариантом лишь для потоков Морса. Теорема 4.14 работы [23], утверждающая, что этот инвариант классифицирует потоки Морса-Смейла общего вида на двумерных многообразиях, неверна (в работе [23] она не доказывается).
Итак, коротко сформулируем сказанное выше:
1) инвариант Пейксото, построенный для произвольных потоков Морса-Смейла на произвольных поверхностях, является полным траекторным топологическим инвариантом на множестве потоков Морса;
2) инвариант Флейтаса является полным траекторным топологическим инвариантом для потоков Морса на произвольных поверхностях;
3) инвариант Вонга, построенный для произвольных потоков Морса-Смейла на ориентируемых поверхностях, является полным траекторным топологическим инвариантом для потоков Морса на ориентируемых поверхностях.
Одна из целей настоящего приложения – дать аккуратное описание полного траекторного топологического инварианта, классифицирующего произвольные потоки Морса-Смейла на произвольных двумерных многообразиях.

Другая цель заключается в следующем. В работах А. Т. Фоменко $[13,14]$ была получена классификация особенностей боттовских интегралов на изоэнергетических поверхностях гамильтоновой системы с двумя степенями свободы. Позже достаточно удобное и формальное описание этой классификации было дано в работе [4], где были введены понятия атомов и молекул. Разработанный подход, терминология, система обозначений оказались удобными для классификации не только интегрируемых гамильтоновых систем, но и других естественных геометрических объектов. Так, например, в работе [8] на языке атомов описана топологическая классификация функций Морса на двумерных поверхностях. В настоящей работе классификация потоков Морса-Смейла также проводится в терминах атомов и молекул. Сначала классифицируются каким-то образом достаточно простые объекты (атомы), затем описываются правила «склейки» более сложных объектов (молекул) из этих атомов и, наконец, классифицируются молекулы. Для траекторной классификации потоков Морса достаточно пользоваться атомами, а для классификации потоков Морса-Смейла уже потребуются молекулы. Тем самым язык атомов и молекул оказывается чрезвычайно полезным не только в симплектической геометрии и гамильтоновой механике, но и в данной задаче.

Таким образом, вторая цель настоящего приложения – продемонстрировать, как указанный подход может быть применен к решению задачи траекторной топологической классификации потоков Морса-Смейла на двумерных поверхностях. Отметим, что некоторые идеи, используемые в настоящем приложении, были реализованы также в работе [16], но в другой форме.

В $\S 1$ строится инвариант для потоков Морса (трехцветный граф) и доказывается, что этот инвариант классифицирует потоки Морса на двумерных поверхностях с точностью до траекторной топологической эквивалентности (теорема 1.1). Этот инвариант основан на понятии атома, введенном в работе [4] для классификации интегрируемых гамильтоновых систем. Далее доказывается теорема реализации (теорема 1.2) и, в частности, описываются инварианты, классифицирующие потоки Морса на двумерной поверхности данного топологического типа (теорема 1.3). В § 2 дано описание других траекторных топологических инвариантов и, в частности, их выражение через трехцветный граф. Кроме того, здесь описана связь между классификацией потоков Морса и классификацией функций Морса на двумерных поверхностях (теорема 1.4). В § 3 строится инвариант ( $v$-молекула), классифицирующий потоки Морса-Смейла с точностью до траекторной топологической эквивалентности (теоремы $1.5,1.6,1.7$ ).