Примем теперь, что движение всех трех тел происходит не в трехмерном пространстве, а в некоторой плоскости. Это, очевидно, всегда будет иметь место, если начальные скорости всех тел лежат в плоскости этих тел.
Этот частный случай называется плоской задачей трех тел. Приведем в этом случае уравнения движения к системе с возможно более низким порядком.
Пусть $q_{1}, q_{2}$ означают координаты $m_{1} ; q_{3}, q_{4}$ – координаты $m_{2}$; а $q_{5}, q_{6}$ – координаты $m_{3}$ относительно любой неподвижной системы осей $O x y$, лежащих в плоскости движения. Пусть, далее, $p_{r}=m_{k} \dot{q}_{r}$, где $k$ означает наибольшее целое число $\leqslant \frac{1}{2}(r+1)$. Уравнения движения, так же как и в $\S 155$, имеют вид:
\[
\frac{d q_{r}}{d t}=\frac{\partial H}{\partial p_{r}}, \quad \frac{d p_{r}}{d t}=-\frac{\partial H}{\partial q_{r}} \quad(r=1,2, \ldots, 6) .
\]
где
\[
\begin{aligned}
H & =\frac{1}{2 m_{1}}\left(p_{1}^{2}+p_{2}^{2}\right)+\frac{1}{2 m_{2}}\left(p_{3}^{2}+p_{4}^{2}\right)+\frac{1}{2 m_{3}}\left(p_{5}^{2}+p_{6}^{2}\right)- \\
& -m_{2} m_{3}\left\{\left(q_{3}-q_{5}\right)^{2}+\left(q_{4}-q_{6}\right)^{2}\right\}^{-\frac{1}{2}}- \\
& -m_{1} m_{3}\left\{\left(q_{5}-q_{1}\right)^{2}+\left(q_{6}-q_{2}\right)^{2}\right\}^{-\frac{1}{2}}- \\
& -m_{1} m_{2}\left\{\left(q_{1}-q_{3}\right)^{2}+\left(q_{2}-q_{4}\right)^{2}\right\}^{-\frac{1}{2}} .
\end{aligned}
\]
Эти уравнения могут быть приведены при помощи четырех интегралов движения центра тяжести к системе восьмого порядка. Для этой цели преобразуем переменные при помощи контактного преобразования, определяемого уравнениями:
\[
q_{r}=\frac{\partial W}{\partial p_{r}}, \quad p_{r}^{\prime}=\frac{\partial W}{\partial q_{r}^{\prime}} \quad(r=1,2, \ldots, 6),
\]
где
\[
W=p_{1} q_{1}^{\prime}+p_{2} q_{2}^{\prime}+p_{3} q_{3}^{\prime}+p_{4} q_{4}^{\prime}+\left(p_{1}+p_{3}+p_{5}\right) q_{5}^{\prime}+\left(p_{2}+p_{4}+p_{6}\right) q_{6}^{\prime} .
\]
Легко видеть, что $q_{1}^{\prime}, q_{2}^{\prime}$ суть координаты относительно неподвижных осей, параллельных старым осям и проходящих через $m_{3} ; q_{3}^{\prime}, q_{4}^{\prime}$ координаты $m_{2}$ относительно этих же осей, $q_{5}^{\prime}, q_{6}^{\prime}$ – координаты $m_{3}$ относительно первоначальных осей, $p_{1}^{\prime}, p_{2}^{\prime}$ – компоненты количества движения $m_{1}, p_{3}^{\prime}, p_{4}^{\prime}$ – компоненты количества движения $m_{2}, p_{5}^{\prime}, p_{6}^{\prime}$ компоненты количества движения всей системы.
Так же как и в $\S 157$, из системы уравнений движения выпадают уравнения для $q_{5}^{\prime}, q_{6}^{\prime}, p_{5}^{\prime}, p_{6}^{\prime}$; если отбросить штрихи в новых переменных, то уравнение движения приводится к системе восьмого порядка
\[
\frac{d q_{r}}{d t}=\frac{\partial H}{\partial p_{r}}, \quad \frac{d p_{r}}{d t}=-\frac{\partial H}{\partial q_{r}} \quad(r=1,2,3,4),
\]
где
\[
\begin{aligned}
H & =\left(\frac{1}{1 m_{1}}+\frac{1}{2 m_{3}}\right)\left(p_{1}^{2}+p_{2}^{2}\right)+\left(\frac{1}{2 m_{2}}+\frac{1}{2 m_{3}}\right)\left(p_{3}^{2}+p_{4}^{2}\right)+ \\
& +\frac{1}{m_{3}}\left(p_{1} p_{3}+p_{2} p_{4}\right)-m_{2} m_{3}\left(q_{3}^{2}+q_{4}^{2}\right)^{-\frac{1}{2}}-m_{3} m_{1}\left(q_{1}^{2}+q_{2}^{2}\right)^{-\frac{1}{2}}+ \\
& +m_{1} m_{2}\left\{\left(q_{1}-q_{3}\right)^{2}+\left(q_{2}-q_{4}\right)^{2}\right\}^{-\frac{1}{2}} .
\end{aligned}
\]
Эта система, как мы это сейчас покажем, обладает циклической координатой, которая дает нам возможность понизить порядок системы еще на две единицы.
Преобразуем систему при помощи контактного преобразования:
\[
q_{r}=\frac{\partial W}{\partial p_{r}}, \quad p_{r}^{\prime}=\frac{\partial W}{\partial q_{r}^{\prime}} \quad(r=1,2,3,4),
\]
где
\[
W=p_{1} q_{1}^{\prime} \cos q_{4}^{\prime}+p_{2} q_{1}^{\prime} \sin q_{4}^{\prime}+p_{3}\left(q_{2}^{\prime} \cos q_{4}^{\prime}-q_{3}^{\prime} \sin q_{4}^{\prime}\right)+p_{4}\left(q_{2}^{\prime} \sin q_{4}^{\prime}+q_{3}^{\prime} \cos q_{4}^{\prime}\right) .
\]
Это преобразование имеет следующее физическое значение: $q_{1}^{\prime}$ есть расстояние $m_{1} m_{3} ; q_{2}^{\prime}$ и $q_{3}^{\prime}$ суть проекции отрезка $m_{2} m_{3}$ на отрезок $m_{1} m_{3}$ и на перпендикуляр к нему; $q_{4}^{\prime}$ есть угол между $m_{3} m_{1}$ и осью $x ; p_{1}^{\prime}-$ компонент количества движения $m_{1}$ на направление $m_{3} m_{1} ; p_{2}^{\prime}$ и $p_{3}^{\prime}$ суть компоненты количества движения $m_{2}$ параллельный и перпендикулярный к $m_{3} m_{1} ; p_{4}^{\prime}$ есть момент количества движения системы.
Дифференциальные уравнения движения в новых переменных принимают вид:
\[
\frac{d q_{r}^{\prime}}{d t}=\frac{\partial H}{\partial p_{r}^{\prime}}, \quad \frac{d p_{r}^{\prime}}{d t}=-\frac{\partial H}{\partial q_{r}^{\prime}} \quad(r=1,2,3,4),
\]
где
\[
\begin{aligned}
H & =\left(\frac{1}{2 m_{1}}+\frac{1}{2 m_{3}}\right)\left\{p_{1}^{\prime 2}+\frac{1}{{q^{\prime}}_{1}^{2}}\left(p_{3}^{\prime} q_{2}^{\prime}-p_{2}^{\prime} q_{3}^{\prime}-p_{4}^{\prime}\right)^{2}\right\}+ \\
& +\left(\frac{1}{2 m_{2}}+\frac{1}{2 m_{3}}\right)\left({p^{\prime}}_{2}^{2}+{p^{\prime}}_{3}^{2}\right)+ \\
& +\frac{1}{m_{3}}\left\{p_{1}^{\prime} p_{2}^{\prime}-\frac{p_{3}^{\prime}}{q_{1}^{\prime}}\left(p_{3}^{\prime} q_{2}^{\prime}-{p_{2}^{\prime}}_{2}^{\prime} q_{3}^{\prime} p_{4}^{\prime}\right)\right\}-m_{2} m_{3}\left({q^{\prime 2}}_{2}^{2}+{q^{\prime}}_{3}^{2}\right)^{\frac{1}{2}}- \\
& -m_{3} m_{1} q_{1}^{\prime-1}-m_{1} m_{2}\left\{\left(q_{1}^{\prime}-q_{2}^{\prime}\right)^{2}+{q^{\prime}}_{2}^{2}\right\}^{-\frac{1}{2}} .
\end{aligned}
\]
Так как координата $q_{4}^{\prime}$ не содержится явно в $H$, то она является циклической. Ей соответствует интеграл $p_{4}^{\prime}=k$, где $k$ – постоянная. Это есть не что иное, как интеграл момента количества движения системы. Уравнение $\dot{q}_{4}^{\prime}=\frac{\partial H}{\partial p_{4}^{\prime}}$ может быть разрешено простой квадратурой, если выполнено интегрирование всех остальных уравнений. Следовательно, из системы уравнений движения выпадают уравнения для $p_{4}^{\prime}$ и $q_{4}^{\prime}$.
Если мы теперь опять новые переменные будем писать без штрихов, то уравнения движения принимают вид:
\[
\frac{d q_{r}}{d t}=\frac{\partial H}{\partial p_{r}}, \quad \frac{d p_{r}}{d t}=-\frac{\partial H}{\partial q_{r}} \quad(r=1,2,3),
\]
где
\[
\begin{aligned}
H & =\left(\frac{1}{2 m_{1}}+\frac{1}{2 m_{3}}\right)\left\{p_{1}^{2}+\frac{1}{q_{1}^{2}}\left(p_{3} q_{2}-p_{2} q_{3}-k\right)^{2}\right\}+ \\
& +\left(\frac{1}{2 m_{2}}+\frac{1}{2 m_{3}}\right)\left(p_{2}^{2}+p_{3}^{2}\right)+\frac{1}{m_{3}}\left\{p_{1} p_{2}-\frac{p_{3}}{q_{1}}\left(p_{3} q_{2}-p_{2} q_{3}-k\right)\right\}- \\
& -m_{2} m_{3}\left(q_{2}^{2}+q_{3}^{2}\right)^{\frac{1}{2}}-m_{3} m_{1} q_{1}^{-1}-m_{1} m_{2}\left\{\left(q_{1}-q_{2}\right)^{2}+q_{3}^{2}\right\}^{-\frac{1}{2}} .
\end{aligned}
\]
Полученная таким образом система будет шестого порядка и при помощи интеграла энергии и исключения времени может быть приведена ( $\S 141$ ) к системе четвертого порядка.