Рассмотрим одномерные комплексные рациональные отображения вида:
\[
z_{k+1}=\frac{P_{n}\left(z_{k}\right)}{Q_{m}\left(z_{k}\right)}=R\left(z_{k}\right), \quad k=0,1,2, \ldots
\]

где $P_{n}=a_{n} z^{n}+a_{n-1} z^{n-1}+\ldots+a_{0}, Q_{m}=b_{m} z^{m}+b_{m-1} z^{m-1}+\ldots+b_{0}, m \leq n$. Если положить $z=x+i y$ и разделить реальную и мнимые части, то мы придем к двумерному вещественному отображению. Заметим, что коэффициенты полиномов также могут быть комплексными числами. Отображения $R$ вида (6.3) являются, вообще говоря, необратимыми отображениями. Например, у таких отображений обратное отображение может быть неоднозначным. Подобные отображения называются эндоморфизмами. Отметим, что полиномиальные отображения, рассмотренные в п. 6.1, являются частным случаем (6.3) при $\mathrm{m}=0$.

Исследованию эндоморфизмов вида (6.3) посвящены объемные труды французских математиков Жюлиа [8] и Фату [9, 10]. Неслучайно, что многие из экспериментов Мандельброта [1] сделаны на основе работы Гастона Жюлиа (1893 -1978). Хотя Мандельброт родился в Польше (1924), он получил образование во Франции и имел возможность ознакомиться с работами Жюлиа и Фату.

В 1918 г. Жюлиа опубликовал работу [8], в которой он, по сути, заложил основы фрактальной теории для конформных преобразований, т.е. отображений, которые \”оствляют углы неизменными\”. Примером такого отображения является аналитическое преобразование
\[
z_{n+1}=z_{n}^{2}+c, \quad c=\text { const },
\]

которое является частным случаем отображения (6.3).
В последние годы интерес к таким отображениям возрос, благодаря, в частности, красивым компьютерным представлениям их нерегулярных репеллеров (множеств Жюлиа), которые являются фракталами. В дополнение к п. 6.1 приведем краткую информацию по таким отображениям, следуя, например, обзорной статье Якобсона [13].

Если положить $z=x+i y, i=\sqrt{-1}$ и разделить в (6.3) действительную и мнимую части, то придем к двумерному вещественному отображению плоскости $(x, y)$. Итерации отображения (6.3) – это последовательность точек $z_{j}=\left(x_{j}, y_{j}\right)$. Эту последовательность точек называют траекторией или орбитой отображения (6.3). Отображение (6.3), как мы отметили в п. 6.1.1, может иметь циклические траектории. А именно, точка $M$ называется периодической (циклической) периода $p$ точкой отображения $R$, если $R^{p} M=M$, и для любого $1 \leq j<p$ имеем $R^{j} M
eq M^{j}$. Наличие периодической точки означает существование $p$ точек $M_{1}, M_{2}, \ldots, M_{p}$, которые последовательно под действием отображения $R$ переходят одна в другую, и последняя точка совпадает с первой $\left(M_{1} \xrightarrow{R} M_{2} \xrightarrow{R} M_{3} \xrightarrow{R} \cdots \xrightarrow{R} M_{p}=M_{1}\right)$. Итак, точки $M_{j}$, $j \in \overline{1, p}$, образуют циклическую последовательность или, иначе говоря, цикл периода $p$.

Подобно одномерному вешественному отображению, рассмотренному в 5-й главе, итерации отображения (6.3) могут быть как асимптотически устойчивыми, так и иметь нерегулярное поведение.

Для описания возможных типов динамики в последнее время используется следующая классификация периодических траекторий (иначе, циклов) эндоморфизма (6.3) [13]. Обозначим циклическую последовательность (траекторию) $z_{j}$ периода $p$ через $\alpha\left(\alpha_{0}, \alpha_{1}, \ldots, \alpha_{p-1}\right)$, то есть $R \alpha_{0}=\alpha_{1}, R \alpha_{1}=\alpha_{2}, \ldots, R \alpha_{p-1}=\alpha_{0}$.

Определение 6.1. Цикл $\alpha$ называется притягивающим (устойчивым), если $\mu=\left|\left(R^{p}(\alpha)\right)^{\prime}\right|=\left|\prod_{j=0}^{p-1} R^{\prime}\left(\alpha_{j}\right)\right|<1$; нейтральным рациональным, если $\mu=\exp (2 \pi i r), r \in Q$ ( $r$ – рациональное число);
нейтральным иррациональным, если $\mu=\exp (2 \pi i \theta), \theta$ – иррациональное; отталкиваюшим, если $\mu>1$.

Точки с нерегулярным поведением содержатся в так называемом множестве Жюлиа $J(R)$, которое совпадает с замыканием множества отталкивающих траекторий отображения (6.3).

Множество $J(R)$ непустое, совершенное и инвариантное относительно $R$ и $R^{-1}$. Если $J(R)$ содержит внутреннюю точку (то есть точки из ее окрестности также принадлежат $J(R)$ ), то все точки плоскости $(x, y)$ принадлежат $J(R)$. Такая ситуация реализуется, например, для $R=\frac{\left(z^{2}+1\right)^{2}}{4 z\left(z^{2}-1\right)}$. Однако в смысле категории такие эндоморфизмы являются исключением. Обозначим через $\boldsymbol{C}$ комплексную плоскость $(x, y)$, $z=x+i y$.

Если $\Delta(R)=C \backslash J(R)
eq \varnothing$. то всякая компонента связности $D \subset \Delta(R)$ состоит из точек с одинаковым асимптотическим поведением. Поведение точек $z \in \Delta(R)$ изучалось Жюлиа [8] и Фату [9, 10]. Окончательный результат был получен Сулливаном [12].

Теорема 6.2. Пусть $D$ – компонента связности $\Delta(R)$. Тогда существует такое $k_{0}$, что область $R^{k}{ }^{0} D=D_{1}$ – периодическая, то есть $D_{1}=R^{m}\left(D_{1}\right), R^{k} D_{1} \cap R^{l} D_{1}=\varnothing$ при $|k-l|<m$ и некотором $m$;
число периодических компонент конечно;
динамика на любой периодической компоненте D относится к одному из следующих типов:
a) для всякого $z \in D$ траектория $\left\{R^{m}(z)\right\}$ сходится к точкам некоторого притягивающего цикла $\alpha=\left(\alpha_{0}, \alpha_{1}, \ldots, \alpha_{m-1}\right)$, где $\alpha_{j} \in R^{j} D$;
b) для всякого $z \in D$ траектория $\left\{R^{m}(z)\right\}$ сходится к точкам некоторого рационального притягивающего цикла $\alpha=\left(\alpha_{0}, \alpha_{1}, \ldots, \alpha_{m-1}\right)$, где $\alpha_{j}$ принадлежит границе $R^{j} D$;
c) $D$ содержит точку некоторого иррационального нейтрального цикла $\alpha=\left(\alpha_{0}, \alpha_{1}, \ldots, \alpha_{m-1}\right)$ и $R^{m} \mid D$ топологически сопряжено с поворотом на иррациональный угол в единичном круге;

d) $R^{m} \mid D$ топологически сопряжено с поворотом кольца на некоторый иррациональный угол.
На рис. 6.2, полученном с помощью программы «Fractals», показана структура множества $J(R)$ и компонент связности множества $\Delta(R)$ для отображения:
\[
z^{\prime}=\left(5 z-2 z^{3}\right) / 3
\]

Рис. 6.2. Структура множества Жюлиа для отображения (6.5)
Множество $\Delta(R)$ состоит из инвариантной относительно $R$ области притяжения к бесконечности $D_{\infty}$ и областей притяжения $D_{1}, D_{-1}$ к неподвижным точкам $z=1, z=-1$, а так же объединения всех преобразований $\bigcup_{n=1}^{\infty} R^{-n}\left(D_{ \pm 1}\right)$. Множество Жюлиа $J(R)$ совпадает с границей множества $D_{\infty}$. Далее мы рассмотрим более детально отображение Жюлиа $z^{\prime}=z^{2}+c$.

Наиболее изучены рациональные эндоморфизмы, удовлетворяющие следующему условию гиперболичности.

Существуют такие $c>1$ и $k_{\mathrm{ij}} \in N$, что для всякого $z \in J(R)$ справедливо неравенство $\left|\left(R^{k_{0}}(z)\right)^{\prime}\right|>c$.

Для гиперболических эндоморфизмов любая компонента множества $J(R)$ переходит в компоненту типа $a$ ).

Необходимое и достаточное условие гиперболичности состоит в следующем:

итерации любой критической точки отображения $z^{\prime}=R(z)$ сходятся к некоторому притягивающему циклу (критической называется точка $z=z_{\text {кр }}$, для которой $R^{\prime}\left(z_{\text {кр. }}\right)=0$ ).

Рациональные отображения с гиперболическим множеством Жюлиа «структурно устойчивы», то есть не меняют структуры при малом изменении параметров (коэффициентов полиномов $P_{n}, Q_{m}$ ).

Хотя в настоящее время неизвестно, плотны ли гиперболические отображения, имеет место следующая теорема о структурной устойчивости на множестве Жюлиа (так называемая $J$-устойчивость), доказанная Любичем [14].

Теорема 6.3. Для всякого семейства рациональных эндоморфизмов, голоморфно зависящих от параметров $\mu \in U \subset C^{k}$, $k=\max (n, m)$, множество $S=\left\{\mu: F_{\mu}(z)\right.$ есть J-устойчивый эндоморфизм \} открыто и всюду плотно в $U$.

Естественно возникает вопрос об эргодических свойствах множества Жюлиа, то есть вопрос об инвариантных мерах, сосредоточенных на этом множестве. В частности, возникает вопрос о вычислении фрактальной размерности множества Жюлиа.