I. Рассмотрим в алгебре конечномерных линейных операторов $\operatorname{gl}(n, \mathbb{C})$ дифференциальное уравнение вида
\[
\mathrm{L}=P(\mathrm{~L})+[\mathrm{L}, \mathrm{A}],
\]

где $P(x)$ – некоторая аналитическая функция с постоянными коэффициентами. Уравнение (1.1) при $P(\mathrm{~L})=0$ переходит в уравнение Лакса. Покажем, что при $P(\mathrm{~L})
eq$ $
eq 0$ уравнение (1.1), так же как и уравнение Лакса, имеет набор первых интегралов, однако поведение его траекторий существенно отличается от поведения траекторий уравнения Лакса вследствие наличия аттракторов и неустойчивых инвариантных подмногообразий в прострапстве матричных компонент оператора L.
Представим оператор L в виде
\[
\mathrm{L}=\mathrm{Q} \Lambda \mathrm{Q}^{-1} \text {, }
\]

где оператор $\mathrm{Q}$ определяется из уравнения
\[
\mathrm{Q}=-\mathrm{AQ} \text {. }
\]

Вследствие формул (1.2), (1.3) получаем
\[
\begin{array}{l}
\dot{\mathrm{L}}=\dot{\mathrm{Q}} \Lambda \mathrm{Q}^{-1}+\mathrm{Q} \dot{\Lambda} \mathrm{Q}^{-1}-\mathrm{Q} \Lambda \mathrm{Q}^{-1} \dot{\mathrm{Q}} \mathrm{Q}^{-1}= \\
\quad=-\mathrm{AQ} \Lambda \mathrm{Q}^{-1}+\mathrm{Q} \dot{\Lambda} \mathrm{Q}^{-1} \mathrm{~A}+\mathrm{Q} \dot{\Lambda} \mathrm{Q}^{-1}=\mathrm{Q} \dot{\Lambda} \mathrm{Q}^{-1}+[\mathrm{L}, \mathrm{A}] .
\end{array}
\]

Отсюда в силу (1.1) паходим
\[
\mathrm{Q} \dot{\Lambda} \mathrm{Q}^{-1}=\mathrm{Q} P(\Lambda) \mathrm{Q}^{-1}, \quad \dot{\Lambda}=P(\Lambda) .
\]

Предположим, что оператор $\Lambda$ в начальный момент времени выбран диагональным. Это свойство сохраняется в силу системы (1.4), которая в этом случае распадается на независимые уравнения для собственных чисел $\lambda_{k}$ оператора L:
\[
\dot{\lambda}_{k}=P\left(\lambda_{k}\right), \quad \int_{c_{k}}^{\lambda_{k}} \frac{d \lambda}{P(\lambda)}=t-t_{0} .
\]

В общем случае комплексных собственных чисел $\lambda_{k}$ первыми интегралами динамической системы (1.4) – (1.5) являются многозначные функции
\[
\int_{\lambda_{k}}^{\lambda_{j}} \frac{d \lambda}{P(\lambda)}=F\left(\lambda_{k}, \lambda_{j}\right),
\]

где интеграл берется по произвольному пути $\gamma$ на комплексной плоскости, не содержащему корней уравнения $P(\lambda)=0$. В дальнейшем предполагается, что оператор $\mathrm{L}$ симметрический, А кососимметрический, $P(x)$ – вещественная аналитическая функция. Тогда уравнения (1.5) определены на вещественной оси $\mathbb{R}^{1}(-\infty<\lambda<+\infty)$ и корни уравнения $P(\lambda)=0$ делят ось $\mathbb{R}^{1}$ на инвариантные интервалы. Пусть каждая точка $c_{k}$ находится в том же интервале, что и собственное значение $\lambda_{k}$. Следующие функции собственных чисел $\lambda_{i}, \lambda_{k}$ матрицы $L$ являются однозначными первыми интегралами уравнения (1.1):
\[
F\left(\lambda_{i}, \lambda_{k}\right)=\int_{c_{i}}^{\lambda_{i}} \frac{d \lambda}{P(\lambda)}-\int_{c_{k}}^{\lambda_{k}} \frac{d \lambda}{P(\lambda)} .
\]

Уравнение (1.1) имеет набор инвариантных подмногообразий $V_{\pi}$, на каждом из которых все собственные числа матрицы $\mathrm{L}$ являются корнями уравнения $P(\lambda)=0$. Каждое многообразие $V_{\text {л }}$ является орбитой вида $\mathrm{Q} \Lambda_{\pi} \mathrm{Q}^{-1}$, где $\Lambda_{i j}=\lambda_{i}^{\pi} \delta_{i j}, P\left(\lambda_{i}^{\pi}\right)=0$. Орбита $V_{\pi}$ является устойчивым инвариантным подмногообразием- аттрактором уравнения (1.1) – если во всех точках $\lambda_{i}^{\pi}$ имеем $P^{\prime}\left(\lambda_{i}^{\jmath \tau}\right)<0$. Многообразие $V_{\text {л }}$ является неустойчивым, если хотя бы в одной точке $\lambda_{k}^{\pi}$ имеем $P^{\prime}\left(\lambda_{k}^{\pi}\right)>0$.

Таким образом, конечномерная динамическая система, определенная уравнением (1.1), является системой типа Смейла: имеется набор устойчивых и неустойчивых инвариантных подмногообразий – орбит $V_{\pi}: \mathrm{L}=\mathrm{S} \Lambda_{\pi} \mathrm{S}^{-1}$, на которых $P(\mathrm{~L})=P\left(\Lambda_{\pi}\right)=0$. Вне орбит $V_{\pi}$ динамика траекторий системы (1.1) допускает полное качественное исследование, так как изменение собственных чисел $\lambda_{i}$ матрицы $\mathrm{L}$ определяется уравнением $\dot{\lambda}_{i}=P\left(\lambda_{i}\right)$.
II. Покажем, что уравнение (1.1) является условием совместности следующих уравнений:
\[
\mathrm{L} \psi=k \psi, \dot{\psi}+\mathrm{A} \psi=\mu \psi, \dot{k}=P(k),
\]

где $\mu(t)$ – произвольная функция. Действительно, дифференцируя первое уравнение (1.7) по времени, получаем
\[
\dot{\mathrm{L}} \psi=k \dot{\psi}+(k-\mathrm{L}) \dot{\psi} .
\]

Подставляя в это уравнение выражения $\dot{k}$ и $\dot{\psi}$ из уравнений (1.7), находим
\[
\dot{\mathrm{L}} \psi=P(k) \psi+\mathrm{LA} \psi-\mathrm{AL} \psi,
\]

что и приводит к уравнению (1.1).
Рассмотрим спектральную задачу, связанную с уравнением (1.1). Пусть $\psi\left(t, k_{0}\right)$-спектральная функция оператора $\mathrm{L}$, удовлетворяющая уравнению $\mathrm{L} \psi\left(t, k_{0}\right)=$ $=k(t) \psi\left(t, k_{0}\right)$, где спектральное значение $k(t)$ изменяется в силу уравнения $\dot{k}(t)=P(k, t), k(0)=k_{0}$. Дифференцируя спектральное уравнение по времени, в силу уравнения (1.1) получаем
\[
P(\mathrm{~L}) \psi+(\mathrm{LA}-\mathrm{AL}) \psi+\mathrm{L} \dot{\psi}=P(k) \psi+k \psi .
\]

Отсюда, используя определение спектральной функции $\psi\left(t, k_{0}\right)$, находим $\mathrm{L}(\dot{\psi}+\mathrm{A} \psi)=k(t)(\dot{\psi}+\mathrm{A} \psi)$. Таким образом, функция $\dot{\psi}+\mathrm{A} \psi$ также является спектральной функцией оператора L и отвечает тому же собственному числу $k(t)$. Это обстоятельство делает возможным применение метода обратной задачи рассеяния к уравнениям вида (1.1) (см. ниже § 3).

Отметим следующее естественное обобщение уравнения (1.1):
\[
\dot{\mathrm{L}}=\mathrm{B} P(\mathrm{~L})+[\mathrm{L}, \mathrm{A}],
\]

где $\mathrm{B}$ – некоторый оператор. Пусть $k_{0}$ – произвольный корень уравнения $P(k)=0$ и $\psi\left(t, k_{0}\right)$ – соответствующая спектральная функция: $\mathrm{L} \psi\left(t, k_{0}\right)=k_{0} \psi\left(t, k_{0}\right)$. Дифференцируя это равенство, в силу указанного уравнения получаем $\mathrm{B} P(\mathrm{~L}) \psi+(\mathrm{LA}-\mathrm{AL}) \psi+\mathrm{L} \dot{\psi}=k_{0} \dot{\psi}$. Отсюда очевидно следует уравнение $\mathrm{L}(\dot{\psi}+\mathrm{A} \psi)=k_{0}(\dot{\psi}+\mathrm{A} \psi)$, показывающее, что функция $\dot{\psi}+\mathrm{A} \psi$ также является спектральной функцией, отвечающей спектральному значению $k_{0}$. В силу этото метод обратной задачи может быть применен к уравнению $\mathrm{L}=\mathrm{B} P(\mathrm{~L})+[\mathrm{L}, \mathrm{A}]$ на нескольких спектральных уровнях оператора $\mathrm{L}$, являющихся корнями уравнения $P(k)=0$ (а не на одном уровне, как в работах [27-29]).
III. Важный случай уравнений вида (1.1) возникает, если уравнение $\mathrm{L}=[\mathrm{L}, \mathrm{A}]$ на орбитах $V_{\pi}$ является интегрируемым по Лиувиллю. В этом случае орбиты $V_{\pi}$ расслоены на инвариантные торы, динамика траекторий по которым является квазипериодической. Такие уравнения (1.1) могут моделировать, например, возникновение квазипериодического движения жидкости (типа течения Куэтта) из ламинарного движения при росте числа Рейнольдса.

Укажем класс уравнений (1.1), которые на всех инвариантных подмногообразиях $V_{\text {л }}$ являются интегрируемыми. Пусть $P(x), Q(x), R(x)$ – целые аналитические функции, $\mathrm{K}$ – постоянная матрица, $\mathrm{A}(t)$ – произвольная матрица. Рассмотрим динамическую систему вида
\[
\dot{\mathrm{L}}=P(\mathrm{~L})+[Q(\mathrm{~L}), \mathrm{K}]+[R(P(\mathrm{~L})), \mathrm{A}(t)] .
\]

Утверждение 1. Уравнение (1.9) принадлежит классу (1.1) и на каждой орбите $V_{\pi}\left(P\left(V_{\pi}\right)=0\right.$ ) допускает представление Лакса со спектральным параметром.
Действительно, справедливо тождество
\[
\left[a_{n} \mathrm{~L}^{n}, \mathrm{~K}\right]=\left[\mathrm{L}, a_{n}\left(\mathrm{~L}^{n-1} \mathrm{~K}+\mathrm{L}^{n-2} \mathrm{KL}+\ldots+\mathrm{KL}^{n-1}\right)\right],
\]

из которого в силу аналитичности функций $P(x), Q(x)$, $R(x)$ следует представимость уравнения (1.9) в виде (1.1). На орбитах $V_{\pi}\left(P\left(V_{\pi}\right)=0\right.$ ) уравнение (1.9) принимает вид $\mathrm{L}=[Q(\mathrm{~L}), \mathrm{K}]$ и имеет следующее эквивалентное представление Лакса со спектральным параметром $E$ :
\[
(\mathrm{L}+\mathrm{K} E)^{\bullet}=\left[\mathrm{L}+\mathrm{K} E,-Q(\mathrm{~L}) E^{-1}\right] .
\]

Отсюда следует наличие дополнительных первых интегралов, являющихся коэффициентами при степенях $E^{k}$ в разложении многочлена $\operatorname{Tr}(\mathrm{L}+\mathrm{K} E)^{m}$.

Утверждение 1 справедливо также и для более пирокого класса уравнений вида
\[
\dot{\mathrm{L}}=P(\mathrm{~L})+[Q(\mathrm{~L}), \mathrm{K}]+\sum_{i=1}^{N}\left[R_{i}(P(\mathrm{~L})), \mathrm{A}_{i}(t)\right]+\left[\mathrm{L}, \mathrm{K}_{1}(t)\right]
\]

при условии $\left[\mathrm{K}, \mathrm{K}_{1}(t)\right]=0$. Действительно, на орбитах $V_{\pi}(P(\mathrm{~L})=0$ ) уравнения (1.11) допускают представление Лакса со спектральным параметром:
\[
(\mathrm{L}+\mathrm{K} E)^{\cdot}=\left[\mathrm{L}+\mathrm{K} E, \mathrm{~K}_{1}(t)-Q(\mathrm{~L}) E^{-1}\right] .
\]
3амечание 1. Произвольная динамическая система вида
\[
\mathrm{L}=\left[Q(\mathrm{~L}), \mathrm{K}_{1}\right]+\left[R(\mathrm{~L}), \mathrm{K}_{2}\right]
\]

в целом не является интегрируемой, однако на отдельных орбитах, определенных условиями $Q\left(V_{\pi}\right)=0$ или $R\left(V_{\pi}^{\prime}\right)=$ $=0$, имеет представление Лакса со спектральным параметром (1.10) и поэтому является интегрируемой.
IV. Более сложная, чем в уравнениях (1.5), динамика собственных чисел матрицы $\mathrm{L}$ реализуется в уравнениях вида
\[
\mathrm{L}=R(\mathrm{~L})+[\mathrm{L}, \mathrm{A}],
\]

где $R(L)$ – аналитическая или мероморфная функция матрицы $L$, коэффциенты которой зависят от инвариантов матрицы L, т. е. от функций $I_{k}=\operatorname{Tr} \mathrm{L}^{k}$. Подстановка (1.2) приводит к уравнению
\[
\dot{\Lambda}=R(\Lambda),
\]

которое, вообще говоря, не распадается в систему одномерных уравнений и описывает динамику собственных чисел матрицы L. Устойчивым особым точкам или инвариантным подмногообразиям $\Lambda_{\pi}$ системы (1.13) соответствуют устойчивые инвариантные подмногообразия уравнения (1.12) – аттракторы $V_{\pi}=\mathrm{Q} \Lambda_{\pi} \mathrm{Q}^{-1}$.
Например, определим функцию $R(L)$ формулой
\[
R(\mathrm{~L})=\mathrm{L}^{k-1} \operatorname{Tr} \mathrm{L}^{m}-\mathrm{L}^{m-1} \operatorname{Tr} \mathrm{L}^{k} .
\]

Тогда уравнение (1.13) принимает вид системы
\[
\dot{\lambda}_{i}=\lambda_{i}^{k-1} \sum_{j=1}^{n} \lambda_{i}^{m}-\lambda_{i}^{m-1} \sum_{j=1}^{n} \lambda_{j}^{k}
\]

и не распадается в отдельные одномерные уравнения. Уравнения (1.15) имеют первый интеграл $I_{2}=\operatorname{Tr} \mathrm{L}^{2}$.