Литература: В. И. Арнольд, Особенности гладких отображений, УМН, 23 (1968), 3-44.
S. Lang, Analysis 1, Addison-Wesley, 1968.
I. R. Porteous, Simple singularities of maps, jectures, Columbia 1962, Liverpool Singularities — Symposium I, Lecture notes 192, Springer, 1971, pp. 286-307. R. Thom, La stabilité topologique des applications poly nomlales, l’Enseignement Math., 8 (1962), 24-33.

В случае отображений поверхности в поверхность устойчйвые дифференцируемые отображения образуют открытое и плотное множество в пространстве всех отображений. Для многообразий достаточно высоких размерностей соответствующий результат не имеет места. Множество отображений, устойчивых относиельно дифференцируемой эквивалентности, не плотно.

Чтобы доказать это, мы определим инварианты, которые помогут нам различать неэквивалентные ростки.

Грубо говоря, эти инварианты (введенные Портеусом) определяются квадратичной частью разложения Тейлора там, где его линейная часть обращается в нуль.

Эта квадратичная часть ряда Тейлора ростка определяет некоторые линейные семейства квадратичных форм. Алгебраическими средствами эти формы разбиваются на классы эквівалентности. Отсюда мы получаем инварианты линейных семейств, а тем самым — инварианты ростков.

Начнем с определения квадратичного дифференциала.

Пусть $f:({\mathbf{R}}^n,0)\to ({\mathbf{R}}^m,0)$ — дифференцируемый росток. Дифференциалом $f$ называется линейнсе отображение $Df(0):{\mathbf{R}}^n\to {\mathbf{R}}^m$, где ${\mathbf{R}}^n$ и ${\mathbf{R}}^m$ канонически отождествляются со своими касательными пространствами в начале координат.
10.1. Квадратичным дифференциалом называется квадратичное отображение
$$d^2{f}_0:\mathrm{Ker}(Df(0))\to \mathrm{Coker}(Df(0)),$$

определенное формулой
$$d^2{f}_0(v)=\underset{t\to 0}{lim}\frac{f(t\cdot v)}{t^2}modDf(0)\left({\mathbf{R}}^n\right)$$

для люо́ого $v\in \mathrm{Ker}(Df(0))$.
Мы должны показать, что этот предел существует и что отображение $d^2{f}_0$ является корректно определенным квадратичным отображением
$$\mathrm{Ker}(Df(0))\to \text{ Coker }Df(0)),$$

где эти векторные пространства рассматриваются как подпространства касательных пространств соответственно к ${\mathbf{R}}^n$ и ${\mathbf{R}}^m$ в начале координат. Для этого нужно показать, что отображение $d^2{f}_0$ не зависит от выбора дифференцируемой системы координат.
Рассмотрим разложение Тейлора
(1) $f(tv)=tDf(0)\cdot v+\frac{1}{2}{t}^2\sum _{i,k}\frac{{\partial }^{2}f}{\partial v_j\partial v_k}\cdot v_l{v}_k+o(3)$.

Пусть $v\in \mathrm{Ker}(Df(0))$. Первый член обращается в нуль, и поэтому требуемый предел существует и равен
$$\frac{1}{2}\sum _{f,k}\frac{{\partial }^{2}f}{\partial v_j\partial v_k}\cdot v_l{v}_k.$$

Если $\phi :({\mathbf{R}}^m,0)\to ({\mathbf{R}}^m,0)$ — диффеоморфизм, то, используя разложение Тейлора (1), получаем
$$d^2(\phi \circ f{)}_0(v)=D\phi (0)\cdot \frac{1}{2}\sum _{f,k}\frac{{\partial }^{2}f}{\partial v_j\partial v_k}\cdot v_j{v}_k.$$

Следовательно, отображение $d^2{f}_0$ преобразуется матрицей Якоби точно так же, как касательное пространство к ${\mathbf{R}}^m$ в начале координат. Значит, это
отображение не зависит от выбора системы координат на ${\mathbf{R}}^m$.

Рассмотрим теперь замену координат $\psi :(R^n,0)\to$ $\to ({\mathbf{R}}^n,0)$, удовлетворяющую условню $D\psi (0)=\mathrm{id}$. Тогда $\psi (tv)=tv+t^{2}w(t)$ и
$$f(\psi (tv))=t^{2}Df(0)\cdot w(t)+\frac{1}{2}{t}^2\sum _{l,k}\frac{{\partial }^{2}f}{\partial v_l\partial v_k}{v}_l{v}_k+o(3),$$

откуда
$$\underset{t\to 0}{lim}\frac{f\cdot \psi (tv)}{t^2}=\underset{t\to 0}{lim}\frac{f(tv)}{t^2}+Df(0)\cdot w(0).$$

Последний член принадлежит $Df(\mathcal{U})\left({\mathbf{R}}^n\right)$.
Мы показали, что отображение $d^2{f}_0$ однозначно определяется уравнением (2), если только выбран базис в подпространстве $\mathrm{Ker}Df(0)$ касательного пространства к ${\mathbf{R}}^n$ в начале координат.
10.2. Пример. Отображение $f:R^4\to R^4$
$$(x_1,x_2,x_3,x_4)\mapsto (x_1,x_2,x_3^2-x_4^2+x_1{x}_3+x_2{x}_4,x_3{x}_4)$$

имеет квадратичным диффєренциалом отображение
$$(x_3,x_4)\mapsto (x_3^2-x_4^2,x_3{x}_4).$$

В частности, ясно, что любое квадратичное отображение служит квадратичным дифференциалом подходящего полиномиального отображения $f$ для подходящих значений $m,n$ и $\dim (\mathrm{Ker}Df(0))$.

Квадратичному дифференциалу можно сопоставить инвариантным образом пучок квадратичных форм. Пусть
$F$ — векторное пространство квадратичных форм на $\mathrm{Ker}Df(0)$,
$C$ — сопряженное пространство к Coker $Df(0)$,
$L_f:C\to F,L_f(a)=\alpha \circ d^2{f}_0$.
10.3. Определенив. Отображение $L_f:C\to F$ называется пучком квадратичных форм отображення $d^2{f}_0$.
10.4. Пример. Предположим, что Кег $Df(0)$ и Coker $Df(0)$ имеют размерность 2 . Тогда размерность $F$ равна 3, и базисом в этом пространстве служит $\{x^2,2xy,y^2\}$, где $x,y$ — координаты в $\mathrm{Ker}Df(0)$. Форма $a{x}^2+2bxy+c{y}^2$ соответствует точке $(a,b,c)\in F$ и как отображение пространства $\mathrm{Ker}Df(0)$ в сопряженное пространство имеет матрицу
$$A=\left(\begin{array}{ll}a& b\\ b& c\end{array}\right).$$

Матрица $A=0$ соответствует нулевой квадратичной форме. Если $Aeq0$, то матрица $A$, для которой $ac-b^2=0$, соответствует форме ранга 1. Такие квадратичные формы имеют нормальный вид $\pm x^2$. Если $\det Aeq0$, то формы имеют нормальный вид $x^2\pm y^2$ и $-(x^2+y^2)$.
Множество $\{$ det $A=0\}$ — конус в $F$. Вершина конуса — это нулевая форма. Точки, лежащие на поверхности конуса, — параболические формы. Области, помеченные знаками,++- , — эллиптические формы. Область, помеченная знаком $\pm$, — гиперболические формы.
Тип квадратичной формы с точностью до изоморфизма определяется ее положением по отношению к этому конусу.
Если $L_f:C\to F$ — пучок квадратичных форм, то для размерности пространства $L_f(C)$ и его положения в $F$ имеется семь различных возможностей:
1) плоскость вне конуса;
2) плоскость, пересекающая конус;
3) плоскость, касающаяся конуса;
4) прямая внутри конуса;
5) прямая вне конуса;
6) прямая, касающаяся конуса;
7) вершина конуса.

Предположим, что два дифференцируемых ростка имеют пучки квадратичных форм, для которых положения пространства $L_f(C)$ различны в смысле проведенной классификации. Тогда такие ростки не могут быть эквивалентными, поскольку преобразования координат в прообразе и образе приводят к замене координат для пучка $L_f$, а такая замена не может изменить положение $L_f(C)$ относительно конуса $\{\det A=0\}$. Именно таким образом пучок квадратичных форм порождает алгебраический инвариант ростка (относительно дифференцируемой эквивалентности).
10.5. Рассмотрим более общуи ситуацию. Пусть $F(k)$-векторное пространство квадратичных форм на ${\mathbf{R}}^k$ н $H(c,k)=LA({\mathbf{R}}^c,F(k))$ — векторное пространство c-мерных пучков квадратичных форм на ${\mathbf{R}}^k$.

Для того чтобы найти инварнанты элементов $H(c,k)$, мы должны исследовать действие общих линейных групп (линейных замен координат в ${\mathbf{R}}^c$. и ${\mathbf{R}}^k$ ) на такие пучки квадратичных форм. Группа $GL(c,\mathbf{R})\times GL(k,\mathbf{R})$ координатных преобразований в ${\mathbf{R}}^c$ и ${\mathbf{R}}^k$ действует на $H(c,k)$ по формуле
$$g_c\times g_k\left(L_c\left(v_c\right)\left(v_k\right)\right)=L\left(g_c^{-1}{v}_c\right)\left(g_k^{-1}{v}_k\right).$$

Например, мы только что убедились в том, что $H(2,2)$ имеет размерность 6 (поскольку $\dim F(2)=3$ ) и разбивается на 7 орбит относительно действия группы $GL(2,\mathbf{R})\times GL(2,\mathbf{R})$. Орбита — это класс эквивалентности относительно действия группь. Ясно, кроме Toro, что $\dim (GL(2,\mathrm{R})\times GL(2,\mathrm{R}))=8$.

B определении 10.3 мы сопоставили каждому ростку f: $(M^m,x)\to (N^n,y)$ пучок квадратичных форм $L\in$ $\in LA(\dot{C},F)$, используя квадратичный дифферекциал $d^2{f}_0$. Выбрав координаты на $C$ и $F$, мы получим однозначно определенный элемент пространства $H(c,k)$. Если мы выберем на $C$ и $F$ повые коордннаты, то придем к новому элементу пространства $H(c,k)$, который получается из исходного действием некоторого элемента группы $GL(c,\mathbf{R})\times GL(k,\mathbf{R})$. Следовательно, орбита пучка $L$ в $H(c,k)$ — это корректно определенный инвариант ростка $f$ (относительно дифференцируемой эквивалентности). Эти рассмотрения приводят к следующему результату.
10.6. Teоpema (P. Том). Множество устойчивых дифференцируемых отображений $M^{n^2}\to N^{n^2}$ не плотно в множестве всех дифференцируемых отображений при $n⩾3$.

Доказательство. Размерность группы $GL(n,\mathbf{R})\times$ $\times GL(n,\mathbf{R})$ равна $2n^2$. Размерность $F(n)$ совпадает с размерностью пространства симметрических $(n\times n)$ матриц, т. е. равна $\frac{1}{2}n(n+1)$. Следовательно, $\dim (H(n,n))=\frac{1}{2}{n}^2(n+1)$. При $n⩾3$ имеем $\frac{1}{2}(n+1)⩾$ $⩾2$, следовательно,
$$\dim (GL(n,\mathrm{R})\times \hat{ȷ}L(n,\mathrm{R}))⩽\dim (H(n,n)).$$

Равенство достигается только в случае $n=3$, однако в этом случае существует однопараметрическая группа пар $(\alpha ,{\alpha }^{-1})$ скалярных матриц; которая действует на пучки тождественно. Отсюда выводим, что при $n⩾3$ размерность любой орбиты действия группы $GL(n,\mathrm{R})\times GL(n,\mathrm{R})$ на $H(n,n)$ меньше размерности $H(n,n)$, т. е. коразмерность любой орбиты $⩾1$.

Теперь рассмогрим отображение $f:M^{n^2}\to N^{n^2}$, имеющее особенность типа ${\mathrm{\Sigma }}^n$ в точке $0\in M$ (это означает, что $0\in {\mathrm{\Sigma }}^n(f)$ ). Предположим также, что после введения локальных евклидовых координат дифференциал $f$ определяет отображение, трансверсальное к $LA(n^2,n^2;n^2-n)$ в некоторой окрестности точки 0 . Эти два условия, наложенные на $f$, относятся к первым и вторым производным. Поэтому можно найти удовлетворяющие им многочлены второго порядка. Как и в доказательстве теоремы Тома в гл. 9, мы знаем, что локально, после выбора системы координат, выполняется равенство ${\mathrm{\Sigma }}^n(f)=D{f}^{-1}(LA(n^2,n^2$; $n^2-n)$ ). По лемме 9.3, codim $LA(n^2,n^2;n^2-n)=n^2$, и, следовательно, из трансверсальности $f$ вытехмет, что $\dim {\mathrm{\Sigma }}^n(f)=0$.

Выберем координаты $(y_1,\dots ,y_n)$ вокруг $Df(0)$ на многообразии $LA(n^2,n^2)$ так, чтобы подмногообразие $LA(n^2,n^2;n^2-n)$ задавалось уравнениями $y_1=\dots$ $\dots =y_{n^2}=0$. Пусть $U-$ координатная окрестность точки 0. Из трансверсальности вытекает, что производная в. нуле следующей композиции отображений является изоморфизмом:
$$U\stackrel{Df}{\to }\left\{(y_1,\dots ,y_n)\right\}\stackrel{\text{ prol }}{\to }\left\{(y_1,\dots ,y_{n^2})\right\}.$$

Следовательно, если окрестность $U$ достаточно мала, то эта композиция — диффеоморфизм и $0={\mathrm{\Sigma }}^n(f)\cap U=$ $=(\mathrm{proj}\circ Df{)}^{-1}(0)\cap U$.

Если мы слегка деформируем $f$, композиция останется диффеоморфизмом в некоторой меньшей окрестности $U^{\prime }\subset U$ точки 0 . (Воспользуйтесь леммой из $\mathrm{\$}3$ гл. XIII книги Ленга и убедитесь в том, что окрестность $U^{\prime }$ не зависит от аппроксимации $f$, если только рассматривается достаточно хорошая аппроксимация.) Если $h$-аппроксимация $f$, которая отличается от $f$ на однородный многочлен степени 2 , то $\text{Math input error}$. В любом случае пересечение ${\mathrm{\Sigma }}^n(h)$ с $U^{\prime }$ состоит из единственной точки, которая близка к точке 0 . Следовательно, если бы устойчивые отображения были плотны, то мы нашли бы устойчивое отображение, которое обладало 5 и голько что описанными свойствами. Далее, так как 0 — изолированная точка множества ${\mathrm{\Sigma }}^n(f)$, то путем изменения членов второго порядка мы можем получить сколь угодно близкое к $f$ отображение $h$, обладающее тем свойством, что $d^2{h}_0$ и $d^2{f}_0$ лежат в различных орбитах действия группы $GL(n,\mathbf{R})\times GL(n,\mathrm{R})$ на $H(n,i)$, ибо коразмерность любой орбиты $⩾1$. Следовательно, отображение $f\mid U$ не устойчиво.

Чтобы провести те же рассуждения глобально, найдем скачала дифференцир, емое отображение $f$, дифференциал которого всюду трансверсален $LA(n^2$, $n^2;n^2-n)$ и которое локально, в окрестности некоторой точки $0\in M$, подобно рассмотренному выше отображению $f\mid U$. Построим аппроксимацию $h$ отображения $f$ так, чтобы $h$ и $f$ отличались только на $U$ и чтобы орбита точки $d^2{h}_0$ отличалась от всех орбит квадратичных дифференциалов $f$ во всех точках множества ${\mathrm{\Sigma }}^n(f)$. Поскольку ${\mathrm{\Sigma }}^n(f)$ — многообразие размерности 0 , таких орбит конечное или счетное число.

На первый взгляд кажется, что этот результат разрушает все надежды, которые возлагались на понятие устойчивости. Однако Том открыл (или, быть может, высказал гипотезу), что топологически устойчивые отображения всегда образуют плотное подмножество $C^{\mathrm{\infty }}(M,N)$ при условии, что $M$ компактно. Мезер не то дал, не то анонсировал доказательство этого и соответствующего локального результата. Есть надежда, что эти результаты появятся в какой-нибудь работе о «топологической устойчивости» — быть может, в Іпрингеровской серии Ergebnisse der Mathematik.

Теория топологической устойчивости опирается на теорию стратифнцированных множеств (стратификация — разложение множества в объединение дифференцируемых многообразий). Мы не будем здесь углубляться в эту теорию, и, к сожалению, по этой тематике нет литературы, доступной студентам. Однако несколько появившихся работ показывают, что эта область будет интересна и аналитикам, и топологам.