a) Применим полученные выше результаты к задаче о возмущении инвариантного многообразия системы обыкновенных дифференциальных уравнений.

Пусть $\dot{z}=\varphi(z)$ – векторное поле. Назовем замкнутое многообразие инвариантным, если векторное поле в каждой точке многообразия $\sigma$ направлено по касательной к $\sigma$. Например, периодическое решение это одномерное инвариантное многообразие. Нас, однако, будут интересовать инвариантные многообразия больших размерностей.

Понятие инвариантного многообразия естественно возникает при изучении слабо связанных осцилляторов, т.е. системы уравнений вида
\[
\ddot{x}_{
u}=f_{
u}\left(x_{
u}, \dot{x}_{
u}\right)+\mu g_{
u}(x, \dot{x}) \quad(
u=1, \ldots, n) .
\]

При $\mu=0$ эта система распадается на $n$ независимых уравнений второго порядка. Предположим, что каждое из этих уравнений имеет по периодическому решению, которое можно записать в виде
\[
x_{
u}=p_{
u}\left(s_{
u}\right), \quad \dot{x}_{
u}=q_{
u}\left(s_{
u}\right),
\]

где $\ddot{s}_{
u}=1$.
Ясно, что совокупность переменных $s_{
u}$ содержит $n$ произвольных начальных значений, так называемых фаз. В $2 n$-мерном фазовом пространстве уравнения (4.2) определяют $n$-мерный тор, который является инвариантным многообразием системы (4.1) при $\mu=0$.

Возникает вопрос, сохранится ли инвариантный тор у возмущенной системы (4.1), если $\mu$ достаточно мало. Эта задача о сохранении инвариантной поверхности при возмущении рассматривалась Дилиберто $[17]$, Н.Н.Боголюбовым и Ю. А. Митропольским, Кайнером [18], Хейлом [19] и другими. Мы покажем, как можно применять к этой ситуации наши результаты о положительных симметричных системах и получить новые результаты в предположении достаточно высокой гладкости системы.
b) Начнем с рассмотрения заданного $n$-мерного инвариантного тора $\sigma_{\rho}$ у невозмущенной системы дифференциальных уравнений.

Введем в окрестности тора $\sigma_{0}$ координаты $x_{1}, \ldots, x_{n}(\bmod 2 \pi)$, $y_{1}, \ldots, y_{n}$ так, что тор $\sigma_{0}$ записывается уравнениями $y_{
u}=0$ $(
u=1, \ldots, n) ; x_{1}, \ldots, x_{n}(\bmod 2 \pi)$ – циклические координаты, а $y_{1}, \ldots, y_{n}$ – координаты в нормальном к тору $\sigma_{0}$ направлении. В этих координатах невозмущенные дифференциальные уравнения запишутся в виде
\[
\dot{x}=a_{0}(x, y), \quad \dot{y}=-b_{0}(x, y) y,
\]

где мы вынесли $y$ за скобки, так как $y=0$ – инвариантная поверхность. Малое возмущение превращает эту систему дифференциальных уравнений в систему
\[
\dot{x}=a(x, y), \quad \dot{y}=-b(x, y) y+c(x),
\]

где вектор-функции $a-a_{0}, b-b_{0}$ и $c$ малы. Будем искать инвариантный тор $\sigma$ системы (4.3) в виде $y=u(x)$, где $u$ – вектор-функция периода $2 \pi$ по каждому из переменных $x$. Так как векторное поле должно быть касательным к этому тору, получаем $\dot{y}=u_{x} a=-b(x, u) u+c$ или
\[
\sum_{
u=1}^{n} a^{(
u)} \frac{\partial u}{\partial x_{
u}}+b(x, u) u=c(x) .
\]

Сравним эту систему с теми системами, которые рассматривались в предыдущих параграфах. Нетрудно заметить, что в двух отношениях система (4.4) проще: во-первых, при фиксированных $x$ и $y a^{(
u)}-$ скалярные кратные единичной матрицы и, следовательно, они очевидным образом симметричны. Это отражает тот факт, что характеристические направления в каждой точке однозначно определяются из формул (4.3). Во-вторых, уравнения (4.4) квазилинейны. Оба эти обстоятельства позволяют упростить доказательство существования решения и ослабить предположения на гладкость коэффициентов.

Существование тора $\sigma$ зависит от свойств положительности матрицы $b$.

Если $(\eta, b \eta)>2 \gamma|\eta|^{2}$, то у траекторий невозмущенного уравнения составляющая, направленная по $y$, экспоненциально убывает со временем примерно как $c^{-2 \gamma t}$. Число $\gamma$ характеризует, насколько быстро подходит траектория к инвариантной поверхности (если мерить расстояние по нормали). В такой ситуации мы будем говорить, что многообразие $\sigma$ асимптотически устойчиво.

С другой стороны, функции $a_{0}^{(
u)}(x, 0)$ описывают векторное поле на самом торе $\sigma_{0}$. Наши условия требуют, чтобы
\[
\left\langle\left(r \sum \frac{\partial a^{(
u)}}{\partial x_{\mu}} \xi_{
u} \xi_{\mu}+B|\xi|^{2}\right) \eta, \eta\right\rangle>2 \gamma|\xi|^{2}|\eta|^{2},
\]

где
\[
B=b-\frac{1}{2} \sum \frac{\partial a^{(
u)}}{\partial x_{
u}} .
\]

Для того чтобы эти условия выполнялись при всех $r$, необходимо, чтобы $\frac{\partial a^{(
u)}}{\partial x_{\mu}}=0$, т.е. чтобы функции $a^{(
u)}$ были константами. Этим случаем и занимались в основном предыдущие авторы, за исключением У. Т. Кайнера [24].

Мы видим, что число производных с интегрируемым квадратом, которые можно оценить, зависит от максимального собственного значения $\alpha$ матрицы
\[
\frac{1}{2}\left(\frac{\partial a^{(
u)}}{\partial x_{\mu}}+\frac{\partial a^{(\mu)}}{\partial x_{
u}}\right)
\]

и от минимального собственного значения $\beta$ матрицы $\frac{1}{2}\left(B+B^{T}\right)$, где $B=b-\frac{1}{2} \sum_{
u=1}^{n} \frac{\partial a^{(
u)}}{\partial x_{\mu}}$. Если $\beta$ удовлетворяет неравенству
\[
r<\frac{\beta_{0}}{\alpha},
\]

то можно установить априорные оценки для $(L u, u)_{r}$. Для применимости нашей теоремы нужно еще, чтобы
\[
r>r_{1}=\frac{3 n}{2}+20 \text {. }
\]

Условие (4.6) означает, что если $\beta$ достаточно велико по сравнению с $\alpha$, то существует дважды непрерывно дифференцируемое инвариантное многообразие ${ }^{1}$.

Интерпретируем величину $\alpha$. При $y=0$ поток задается уравнением $\dot{x}=a(x)$ и для элемента длины $(d s)^{2}=\sum_{
u} d x_{
u}^{2}$ находим
\[
\frac{d}{d t}(d s)^{2}=\left(d x\left(\frac{\partial a^{(
u)}}{\partial x_{\mu}}+\frac{\partial a^{(\mu)}}{\partial x_{
u}}\right) d x\right) \geqslant-\alpha(d s)^{2},
\]
т.е. $\alpha$ характеризует, насколько быстро траектории сближаются друг с другом ${ }^{2}$.
c) Рассмотрим теперь несколько частных ситуаций, которые проиллюстрируют также наши результаты, относящиеся к аналитическому случаю.

Предположим, что рассматриваемые дифференциальные уравнения вещественно-аналитические и что инвариантное многообразие асимптотически устойчивый двумерный тор. Поток на невозмущенном торе, задаваемый уравнениями
\[
\dot{x}_{1}=a^{(1)}\left(x_{1}, x_{2}\right), \quad \dot{x}_{2}=a^{(2)}\left(x_{1}, x_{2}\right),
\]

характеризуется числом вращения, введенным Пуанкаре $\lim _{t \rightarrow \infty} \frac{x_{1}(t)}{x_{2}(t)}=$ $=\omega\left(\right.$ если $\left.a^{(1)}>0\right)$ (см. Коддингтон и Левинсон «Теория обыкновенных

Рис. 1

Рис. 2

дифференциальных уравнений»). Если число $\omega$ иррационально, каждая траектория всюду плотна на торе. В случае рационального числа вращения $\omega=\frac{p}{q}$ существуют замкнутые траектории, на которых при воз-

Рис. 3

растании $x_{1}$ на $2 \pi q x_{2}$ возрастает на $2 \pi p$. Рассмотрим случай, когда $\omega=\frac{2}{3}$ и когда тор содержит одну асимптотически устойчивую и одну неустойчивую замкнутую траекторию (рис. 2). Ясно, что в окрестности неустойчивого цикла траектории расходятся и что матрица $\frac{\partial a^{(
u)}}{\partial x_{\mu}}+$ $+\frac{\partial a^{(\mu)}}{\partial x_{
u}}$ положительно определена в этой окрестности. Рассматривая окрестность, в которой собственные числа остаются положительными, мы приходим к выводу, что при малом возмущении инвариантный тор остается аналитическим в окрестности неустойчивых периодических траекторий. Осуществляя продолжение вдоль траекторий, видим, что возмущенный инвариантный тор аналитичен всюду, за исключением устойчивых циклов. На рис. 3 изображены сечения невозмущенного и возмущенного торов при $x_{1}=0$. Мы видим, что сечение возмущенного тора состоит из нескольких аналитических кусков, а разрывы производной возникают только в точках асимптотически устойчивых циклов. Это явление аналогично явлениям, происходящим при образовании ударных волн, когда семейство характеристик имеет огибающую, с той лишь разницей, что в нашем случае мы имеем дело с разрывами у производных, а не у самой функции $u$. Таким образом, наши методы дают возможность определить возможные местонахождения разрывов

производных у решения. Эти разрывы, как правило, сосредоточены на асимптотически устойчивых инвариантных подмногообразиях инвариантного многообразия. Если вспомнить, что при изменении параметра число вращения меняется и может становиться как рациональным, так и иррациональным, то будет понятной сложность рассматриваемого явления. Однако если интересоваться только существованием инвариантного многообразия, а не его гладкостью, то видно, что это многообразие существует и непрерывно зависит от параметра, до тех пор пока $\beta$ достаточно велико по сравнению с $\alpha$, т.е. пока скорость, с которой траектория приближается к тору по нормали, достаточно велика по сравнению со скоростью, с которой могут сближаться траектории на торе.

Другим интересным случаем является инвариантная сфера, на которой траектории выходят из северного полюса и входят в южный (рис. 1). При малом возмущении в южном полюсе может появиться разрыв первой или высших производных. Это явление отражает тот факт, что рассматриваемые задачи в некотором смысле некорректно поставлены ${ }^{1}$.

Заметим, что начальные значения траекторий не заданы, но требуется, чтобы они оставались на многобразии. Этим требованием траектории, выходящие из северного полюса вполне определены (are well determined). Вовсе не очевидно, что эти траектории при продолжении гладко замкнутся в южном полюсе, и действительно, высшие производные в точке пересечения не обязательно совпадут.
d) В заключение отметим, что можно построить теорию возмущений для произвольных инвариантных многообразий, если только собственные значения матрицы $\frac{1}{2}\left(b+b^{T}\right)$ остаются в области $|\operatorname{Re} \lambda|>\beta$ при достаточно большом $\beta$. Эти результаты сообщил автору Купка.

Наметим, как можно получить результаты такого рода, пользуясь изложенными выше методами. Пусть существует матрица $I(x)$ такая, что $(\eta, I(x) b \eta)>\beta(\eta, \eta)$.

Мы предполагаем при этом, что $I(x)$ – гладкая матричная функция на многообразии. Тогда можно получить априорные оценки для $(v, I L v)_{0}$ и $(v, I L v)_{s}$. Например, из неравенства $\|v\|_{0} \leqslant c(v, I L v)_{0}$ следует
\[
\|v\|_{0} \leqslant c\|I L v\|_{0} \leqslant c_{1}\|L v\|_{0} .
\]

Эти оценки позволяют доказывать существование инвариантных многообразий так же, как и в предыдущем случае. То же самое замечание справедливо для симметричных систем, если существует матрица $I$ такая, что матрица $I b+b^{T} I^{T}$ положительно определена.