Настоящая работа возникла на основе четырех лекций по теории гамильтоновых систем, прочитанных автором в университете Джона Пэрдью (Лафайет, штат Индиана). Я попытался осветить в них круг проблем, связанных, с одной стороны, с устойчивостью, а с другой – с существованием интегралов и квазипериодических решений. Эти проблемы служили объектом пристального внимания в течение долгого времени, но прогресс здесь был достигнут только в последние десять лет благодаря работам А. Н. Колмогорова, В. И. Арнольда и других авторов. Проблемы, о которых идет речь, носят весьма глубокий характер и понвляются в теории гамильтоновых систем в самых различных формах. Мы будем заниматься преимущественно изучением гамильтоновых систем вблизи положения равновесия, поскольку в этой ситуации интересующие нас моменты проявляются наиболее просто и отчетливо.

В качестве исходного примера рассмотрим проблему устойчивости лагранжевых решений задачи трех тел. Пусть $x_{k}, y_{k}$ – координаты материальной точки массы $m_{k}(k=1,2,3)$ на плоскости. Принимая гравитационную постоянную равной единице, мы можем записать уравнения движения в виде
\[
m_{k} \ddot{x}_{k}=-\frac{\partial U}{\partial x_{k}}, \quad m_{k} \ddot{y}_{k}=-\frac{\partial U}{\partial y_{k}},
\]

где
\[
U=-\sum_{1 \leqslant k<l \leqslant 3} \frac{m_{k} m_{l}}{\sqrt{\left(x_{k}-x_{l}\right)^{2}+\left(y_{k}-y_{l}\right)^{2}}} .
\]

Как хорошо известно, при любом соотношении масс, мы получим частное решение задачи трех тел, если поместим эти материальные

точки в вершинах правильного треугольника, равномерно вращающегося вокруг центра масс с некоторой угловой скоростью $\alpha$. Значение $\alpha$ при этом находится из уравнения
\[
\alpha^{2} r^{3}=m_{1}+m_{2}+m_{3},
\]

где $r$ – длина стороны правильного треугольника. Это решение было найдено Лагранжем. Естественно поставить вопрос о его устойчивости, тем более что реально существуют системы, например Солнце, Юпитер и любая из малых планет троянской группы, образующие приблизительно такую же конфигурацию. Эту проблему, разумеется, необходимо тщательно сформулировать, поскольку ясно, что сколь угодно близко к начальным условиям данного лагранжева решения найдутся начальные условия другого лагранжева решения с другой угловой скоростью. Эти два решения удаляются друг от друга на конечное расстояние, и потому нет устойчивости в обычном смысле. Указанную трудность можно, конечно, обойти, рассматривая лишь решения с фиксированной угловой скоростью, но и в такой формулировке проблема не решена полностью.

Однако ее упрощенный вариант, относящийся к ограниченной задаче трех тел, удалось решить; далее он будет рассмотрен во всех деталях. Чтобы сформулировать ограниченную задачу, мы начнем с общей задачи трех тел и примем, что одна из масс, скажем $m_{3}$, стремится к нулю. Если в дифференциальных уравнениях движения перейти к пределу при $m_{3} \rightarrow 0$, то уравнения, относящиеся к первым двум материальным точкам (планетам), не будут содержать координат третьей. Движение этих планет будет таким же, как в задаче двух тел, и мы предположим, что эти материальные точки движутся по окружностям. Задача заключается в том, чтобы описать движение третьего тела (планетоида). Дифференциальные уравнения для него получаются делением соответствующих уравнений общей задачи трех тел на $m_{3}$ и предельным переходом при $m_{3} \rightarrow 0$. Считая единицы измерения выбранными так, что $m_{1}+m_{2}=1$ и угловая скорость планет равна 1 , мы можем записать уравнения движения для $m_{3}$ во вращающейся системе координат, в которой планеты покоятся, в виде
\[
\begin{array}{l}
\ddot{x}-2 \dot{y}=V_{x}, \\
\ddot{y}+2 \dot{x}=V_{y},
\end{array}
\]

где
\[
V=\frac{x^{2}+y^{2}}{2}+\frac{1-\mu}{\rho^{2}}+\frac{\mu}{\rho_{1}} .
\]

Здесь $\mu=m_{1}$ и $\rho_{k}$ – расстояние между точкой нулевой массы и точкой массы $m_{k}$.

Мы имеем, таким образом, систему дифференциальных уравнений в четырехмерном фазовом пространстве. Эта система имеет пять хорошо известных положений равновесия, обычно обозначаемых через $L_{1}, L_{2}, \ldots, L_{5}$. Каждая из двух точек $L_{4}$ и $L_{5}$ образует с планетами $m_{1}$ и $m_{2}$ правильный треугольник. Остальные три точки, коллинеарные с $m_{1}, m_{2}$, мы рассматривать не будем, поскольку соответствующие решения неустойчивы. Но для $L_{4}, L_{5}$ уже давно известно, что если $\mu$ достаточно мало, а именно $\mu(1-\mu)<\frac{1}{27}$, то линеаризованные уравнения имеют только ограниченные решения. Это указывает на возможность устойчивого равновесия. Остается, однако, сомнение, не могут ли разрушить устойчивость нелинейные эффекты? Мы покажем, что фактически устойчивость нелинейной системы гарантирована для всех значений $\mu$, удовлетворяющих указанному выше условию, за исключением, быть может, трех. Подобные же результаты были получены В. И. Арнольдом [1] и А. М. Леонтовичем [16], только у них исключается счетное число значений $\mu$. Три исключительных значения были определены м-ром и м-сс Депри [8] ${ }^{1}$.

В первой лекции мы рассмотрим поведение гамильтоновых систем около положения равновесия с формальной точки зрения. Большинство относящихся сюда результатов восходит к Дж. Биркгофу [5]. Этими вопросами заинтересовались вновь благодаря работам Контопулоса [6] и [7], который искал и нашел «третий интеграл» в системе, описывающей модель галактики ${ }^{2}$.

Соответствующий численный расчет, проведенный Хеноном и Хейлесом [15], подтвердил существование такого интеграла. Как показал в недавней работе [13] Густавсон, эти вопросы тесно связаны с построением нормальных форм; его результаты будут изложены.

Во второй лекции изучается вопрос о сходимости возникающих рядов. К сожалению, эти ряды, вообще говоря, расходятся, на что указал Зигель [29], [30]. Мы приводим конкретный пример, где расходимость

рядов, о которых идет речь, может быть доказана. Сюда же включены результаты из недавних работ Рюссмана [26-28].

В третьей лекции исследуется устойчивость равновесных решений для случая двух степеней свободы; полученные результаты применяются затем к ограниченной задаче трех тел. Приводимые здесь рассуждения основаны на теореме автора, устанавливающей существование инвариантных кривых у отображений, сохраняющих площадь [22].

Наконец, в четвертой лекции дано новое приложение только что упомянутой теоремы к физической проблеме магнитного удержания. Задача состоит в том, чтобы построить магнитное поле без вихрей и источников с тороидальными магнитными поверхностями, причем требуется, чтобы эти поверхности не разрушались при малых возмущениях поля. Мы обобщаем здесь некоторые результаты Фолкнера [9]. Кроме того интереса, который эта задача представляет для физики плазмы, на наш выбор повлияло еще и желание показать на типичном и важном примере, как применяется метод усреднения.