论文摘要
有理函数Julia集的拓扑是复解析动力系统研究的重要问题之一，多项式Julia集的连通性由于Branner-Hubbard猜想的证明[47]已得到较为完整的刻画．对于有理函数动力系统，二次有理函数的连通性也有较为完整的结论：由Shishikura关于周期稳定域个数的上界估计[50]，二次有理函数没有Herman环，进一步，尹永成老师证明，二次有理函数的Julia集或者是连通的，或者是一个Cantor集（[60]，或者见[40]）．Shishikura还证明由多项式的Newton迭代得到有理函数其Julia集总是连通的[51]．但一般说来，有理函数Julia集的拓扑要比多项式情形复杂得多，例如，Milnor和TanLei（见[40]）首次证明了存在下面形式的二次有理函数其Julia集是一条Sierpinski曲线（或称Sierpinski地毯）；McMullen[38]研究了单项式zn的有理扰动的Julia集，证明当1／n+1／d<1且|a|充分小时，Fa（z）的Julia集是一个Cantor环，即同胚于Cantor三分集和单位圆周的乘积集．上述Julia集的拓扑结构在多项式情形都是不可能出现的．对于二次有理函数族fλ,b（z）的动力系统，Goldberg和Keen[33]（对|λ|>1情形）以及尹永成[61]（对λ=1情形）已经有了较为深入的研究．最近几年，McMullen所研究的函数族Fa（z）（现被称为McMullen族）引起了人们的极大兴趣，Blanchard，Devaney et．al．，Roesch，Steinmetz等（见[11，12，19-21，23-26，49，53，54]）对这个单参数有理函数族Fa（z）的动力系统做了大量的研究，发现其Julia集有丰富的拓扑结构，它可以有Cantor集、Cantor环和Sierpinski曲线等拓扑结构．同时，他们对参数空间中的双曲分支和不稳定集的拓扑也进行了深入研究．McMullen函数族Fa（z）以∞和0为其两个临界点，其中∞是超吸引不动点，而0是唯一的极点，他们有非常简单的轨道．除此之外，Fa（z）还有n+d个单临界点，称为自由临界点，它们对称地位于临界圆周{|z|=（|a|d/z）1/（n+d）}上，并且其迭代像或者对称的分布在以原点为圆心的圆周上，或者是重合的，因此，它们的轨道同时趋于无穷远或同时有界，本质上Fa（z）可以看作只有一个自由临界点（或自由临界值）．对于自由临界轨道趋于无穷远的情形，Devaney等[25]给出了一个关于Fa（z）的Julia集的拓扑的分类定理．设B是包含∞的Fatou分支，T是包含0的Fatou分支，则有定理1．（Devaney et．al．）设McMullen函数族Fa（z）的自由临界轨道趋向无穷远，那么（1）如果有一个自由临界值位于B中，则Julia集是一个Cantor集，函数Fa（z）限制在Julia集上共轭于n+d个符号所组成的符号空间上的移位映射．（2）如果有一个自由临界值位于T中，则Julia集是一个由拟圆周组成的Cantor环．（3）如果有一个自由临界值位于T的某个迭代逆像中，则Julia集是一条Sierpinski曲线．已有的文献并没有讨论自由临界轨道有界时，Fa（z）的Julia集的拓扑，也没有讨论Julia集的连通性．本文的第一部分主要研究单峰多项式Pb（z）=zn+b的有理扰动所得到的双参数有理函数族的Julia集的拓扑．单峰多项式Pb（z）的动力系统是人们十分感兴趣的研究对象，有许多关于此的重要研究工作，例如[5，22,35,36]等，对其有理扰动得到的函数族Fa,b（z）的动力系统的研究也是人们感兴趣的，例如，Blanchaxd等[13]对n=2且参数b为某些特殊值时Fa,b（z）的动力系统进行了初步研究．我们将Fa,b（z）称为广义McMullen函数族．本文将对Fa,b（z）的Julia集的拓扑性质，特别是其连通性做一个比较完整的刻画．与McMullen函数族类似，对广义McMullen函数族Fa,b（z），无穷远点∞是一个超吸引的不动点，并且是一个n-1阶的临界点；原点0是唯一的极点，并且还是n-1阶的临界点．我们同样记包含无穷远点的Fatou分支为B，包含原点的Fatou分支为T．Fa,b（z）还有2n个单临界点a1／2n，称为自由临界点，它们均位于临界圆周{|z|=|a|1／2n}上．这些单临界点的像有两个，记为v，v+，称为自由临界值．与McMullen函数族不同的是，这两个自由临界值随着参数a，b的变化其轨道有完全不同的行为．因此，其动力学性质比McMullen族要复杂，研究其Julia集的拓扑要比McMullen族困难许多．为讨论广义McMullen函数族Fa,b（z）的Julia集的连通性，我们首先讨论其Fatou分支中Herman环的存在性．已知二次有理函数没有Herman环[50]，Bamon和Boben-rieth[6]证明有理函数gλ（z）=1+1／λzd，ω∈C＼{0}，也没有Herman环．本文证明了定理2．广义McMullen函数族Fa,b（z）的Fatou分支中没有Herman环．进一步，我们按照自由临界值的轨道的行为，分三种情况研究Fa,b（z）的Julia集的拓扑：1．逃逸情形，即两个自由临界值的轨道均趋于无穷远点；2．半逃逸情形，即一个自由临界值的轨道趋于无穷远点，另一个自由临界值的轨道有界；3．非逃逸情形，即两个自由临界值的轨道均有界．记Fa,b（z）的Julia集为Ja,b，我们得到1．逃逸情形．定理3．假设Fa,b（z）的两个自由临界值的轨道都趋于无穷远点，那么（1）如果B=T，则两个自由临界值都位于B中，此时Fa,b（z）的Julia集Ja,b是一个Cantor集．（2）如果B≠T，则（2．1）当两个自由临界值位于不同的Fatou分支时，Fa,b（z）的Julia集Ja,b是连通的．特别地，如果有一个自由临界值位于T中，此时Ja,b是一条Sierpinski曲线．（2．2）当两个自由临界值位于同一个Fatou分支时，Fa,b（z）的Julia集Ja,b是不连通的，有无穷多个连通分支，每一个Fatou分支或者是单连通的，或者是二连通的．特别地，如果两个自由临界值都位于T中，此时Ja,b是由拟圆构成的Cantor环．2．半逃逸情形．记Ka,b={z∈C：Fa,bn（z）（?）∞)表示函数Fa,b（z）的填充Julia集，这里，Fa,bn（z）表示Fa,b（z）的第n次迭代．Ja,b=（?）Ka,b的包含Fa,b（z）的自由临界点的连通分支称为Ka,b的临界分支．定理4．假设自由临界值v的轨道趋于无穷，而自由临界值v+的轨道有界，那么（1）如果自由临界值v不在B中，则Fa,b（z）的Julia集Ja,b是连通的．（2）如果自由临界值v位于B中，则B=T，Fa,b（z）的Julia集Ja,b不连通．此时，（2．1）如果填充Julia集Ka,b每个临界分支都是是非周期的，则Ja,b是一个Cantor集．（2．2）如果Ka,b的某个临界分支是周期的，则该临界分支同胚于某个二次多项式的填充Julia集．3．非逃逸情形．定理5．假设Fa,b（z）的两个自由临界值的轨道都是有界的，那么（1）如果每一个Fatou分支至多包含一个自由临界值，则Fa,b（z）的Julia集Ja,b是连通的．（2）如果有一个Fatou分支D1包含两个自由临界值，则Fa,b（z）的Julia集Ja,b不连通．此时，Fatou分支D1必定是周期的，并且只有一个逆像D0．（2．1）如果D0的周期是1，那么它是完全不变的．此时Julia集Ja,b=（?）D0，它由无穷多个互不相交、或不嵌套的拓扑圆周和不可数个单点的并组成．（2．2）如果D0的周期大于1，那么D0的边界由无穷多个互不相交的拓扑圆周和不可数个单点的并组成．我们还给出了一些例子来说明上面定理中的各种情形是可能出现的．本文的第二部分研究了多项式Julia集上的Chebyshev多项式．紧集上的Cheby-shev多项式在逼近论[7]、数值计算[45]、位势理论[3]等方面有重要应用．一般说来，求出给定紧集上的Chebyshev多项式是一件非常困难的事[32]．1983年，Barnsleyet．al．[7]得到了二次多项式Tλ（z）=（z-λ）2，λ∈C，的Julia集上的2n-阶Chebyshev多项式．本文利用复动力系统的基本理论，我们得到了任意首一d次多项式的Julia集上的dn-阶Chebyshev多项式．设K是复平面C中紧集，称包含K的最小圆的圆心为K的几何中心．定理6．设P是一个度为d≥2的首一多项式，则其Julia集JP上的dn-阶Chebyshev多项式为Pn（z）-cP，其中cP为Julia集JP的几何中心。对给定平面紧集K，研究C＼K的无界分支上关于∞为奇点的Green函数所得到的等势线上的Chebyshev多项式也是人们感兴趣的问题．一个基本的问题是紧集K上的Chebyshev多项式和K的等势线上的Chebyshev多项式是否总是相等的?对于单位圆周、区间、甚或实轴上两个区间的并等紧集，回答是肯定的（见[4,28,46]）．1996年，Stawiska[52]研究了二次多项式Tλ（z）=（z-λ）2的Julia集的等势线上的2n-阶Cheby-shev多项式，证明当λ∈[0，4]时，它和Julia集JT上的2n-阶Chebyshev多项式也是相等的．为此，我们研究了一般多项式的Julia集的等势线上的Chebyshev多项式，我们得到定理7．设P是一个度为d≥2的首一多项式，JP是其Julia集，ΓP（R）是其势为R>0的等势线，则ΓP（R）上的dn-阶Chebyshev多项式为Pn（z）-cR,n，其中CR,n是势为Rdn>0的等势线ΓP(Rdn)（=Pn（ΓP（R）））的几何中心．由此我们看出如果cR,n≠cP，则Julia集JP和其等势线ΓP（R）上的Chebyshev多项式就不相等．我们给出了两者不相等的例子，同时，我们还给出了两者相等的一个充分条件．最后，作为一个应用，我们利用Julia集上的Chebyshev多项式，对Brolin[17]关于Julia集的容量的估计给出了一个新证明．