Предисловие к русскому изданию
Предисловие
Хронологическая таблица
Римановы поверхности
§ 2. Универсальные накрытия и метрика Пуанкаре
§ 3. Нормальные семейства: теорема Монтеля
Итерированные голоморфные отображения
§ 5. Динамика на гиперболических поверхностях
§ 6. Динамика на евклидовых поверхностях
§ 7. Гладкие множества Жюлиа
Локальная теория неподвижных точек
§ 9. Теорема Бетхера и полиномиальная динамика
§ 10. Параболические неподвижные точки. Цветок Ло-Фату
§ 11. Точки Кремера и диски Зигеля
Периодические точки: глобальная теория
§ 13. Большинство периодических орбит отталкивающие
§ 14. Отталкивающие циклы плотны в J
Структура множества Фату
§ 16. Классификация Сулливана компонент связности множества Фату
Применение множества Фату к изучению множества Жюлиа
§ 18. Полиномиальная динамика, внешние лучи
§ 19. Гиперболические и субгиперболические отображения
Приложение A. Теоремы классического анализа
Приложение B. Неравенства длин площадей модулей
Приложение C. Вращения окружности, цепные дроби и рациональная аппроксимация
Приложение D. Замечания о случае двух комплексных переменных
Приложение E. Разветвленные накрытия и орбифолды
Приложение F. Отсутствие блуждающих компонент связности множества Фату
Приложение G. Пространство параметров
Приложение H. Замечания о компьютерной графике
Литература
Предметный указатель

Author: Милнор Дж.  

Tags: анализ   математика  

ISBN: 5-93972-006-4

Year: 2000

Text
                    R&C


John Milnor Dynamics in One Complex Variable Introductory Lectures vieweg
Дж. Милнор ГОЛОМОРФНАЯ ДИНАМИКА Вводные лекции Перевод с английского В .П.Голубятникова, И.В .Голубятникова Научно-издательский центр "Регулярная и хаотическая динамика" Удмуртский государственный университет 2000
УДК 517 Милнор Дж. Голоморфная динамика. — Ижевск: НИЦ «Регулярная и хаотическая динамика», 2000, 320 стр. Книга представляет собой вводный курс лекций по голоморфной динамике — одной из интенсивно развивающихся областей современной математики. В них рассмотрена теория римановых поверхностей, теоремы о неподвижной точке. Обсуждаются современные результаты по структуре множеств Жюлиа. Имеется ряд приложений. Предназначена для студентов, аспирантов и полезна для научных сотрудников и преподавателей. All rights reserved © Friedr. Vieweg & Sohn Verlagsgesellschaft mbH, Braunschweig/Wiesbaden, 1999 © НИЦ «Регулярная и хаотическая динамика», 2000 ISBN 5-93972-006-4 (рус.) ISBN 3-528-03130-1 (англ.)
Содержание Предисловие к русскому изданию 7 Предисловие 9 Хронологическая таблица 10 Римановы поверхности 11 § 1. Односвязные поверхности 11 § 2. Универсальные накрытия и метрика Пуанкаре 25 § 3. Нормальные семейства: теорема Монтеля 44 Итерированные голоморфные отображения 55 § 4. Фату и Жюлиа: динамика на римановой сфере 55 § 5. Динамика на гиперболических поверхностях 74 § 6. Динамика на евклидовых поверхностях 85 § 7. Гладкие множества Жюлиа 89 Локальная теория неподвижных точек 98 § 8. Геометрически притягивающие и отталкивающие неподвижные точки 98 §9. Теорема Бётхера и полиномиальная динамика 114 §10. Параболические неподвижные точки. Цветок Ло-Фату . 129 § 11. Точки Кремера и диски Зигеля 151 Периодические точки: глобальная теория 171 § 12. Голоморфная формула для числа неподвижных точек рациональных отображений 171 § 13. Большинство периодических орбит отталкивающие . . . 180 § 14. Отталкивающие циклы плотны в J 184
6 Содержание Структура множества Фату 191 § 15. Кольца Эрмана 191 § 16. Классификация Сулливана компонент связности множества Фату 196 Применение множества Фату к изучению множества Жю- лиа 206 § 17. Простые концы и локальная связность 206 § 18. Полиномиальная динамика, внешние лучи 222 § 19. Гиперболические и субгиперболические отображения . . 242 Приложение А. Теоремы классического анализа 258 Приложение В. Неравенства длин-площадей-модулей 264 Приложение С. Вращения окружности, цепные дроби и рациональная аппроксимация 274 Приложение D. Замечания о случае двух комплексных переменных285 Приложение Е. Разветвленные накрытия и орбифолды 288 Приложение F. Отсутствие блуждающих компонент связности множества Фату 294 Приложение G. Пространство параметров 302 Приложение Н. Замечания о компьютерной графике 305 Литература 309 Предметный указатель 321
Предисловие к русскому изданию Имя Джона Милнора хорошо известно нескольким поколениям математиков, имеющих отношение к геометрии и топологии. Его перу принадлежат несколько монографий, по которым вот уже три десятилетия в университетах всего мира изучаются теория Морса, характеристические классы, /i-кобордизмы, особые точки комплексных гиперповерхностей и другие разделы современной математики. В последнее время в сфере интересов Джона Милнора оказались проблемы голоморфной динамики, и в течение восьми лет он работал над созданием очередной монографии, с помощью которой начиающий читатель мог бы получить представление о математических основах ставшей популярной в конце 20-го века теории фрактальных объектов. Большая часть публикаций по комплексной динамике на русском языке содержится в журнальных статьях (см., например, обзоры М.Ю.Любича и А.Э.Еременко). Приятным исключением является хорошо иллюстрированная монография Пейтгена и Рихтера «Красота фракталов», которая представляет из себя популярное введение в предмет для нематематиков. Широко распространенные среди пользователей ЭВМ программные продукты, такие, как «Fractal Explorer», позволяют рисовать разнообразные фракталы и содержат в себе некоторую информацию о природе этих объектов. Однако, наглядность получаемых изображений ни в коей мере не заменит красоту и строгость соответствующей им математической теории, имеющей свою богатую и драматическую историю. В предлагаемом переводе монографии Джона Милнора наряду с математическими утверждениями и их подробными доказательствами содержится и исторический обзор развития голоморфной динамики, и связанных с ней численных экспериментов, породивших хорошо известное множество Мандельброта и другие подобные ему объекты. Голоморфная динамика уходит своими историческими корнями в начало двадцатого века, к работам Пуанкаре, Ритта и Фату. Ее естественными истоками являются теория Клейновых групп, классификация перестановочных при суперпозициях мероморфных функций и граничное поведение аналитических функций.
8 Предисловие к русскому изданию В настоящее время список приложений этого раздела математики значительно расширился. Прежде всего здесь следует отметить теорию Терстона униформизации трехмерных многообразий и орбифолдов, теорию приближений, геометрическую теорию групп, гиперболических по Громову, и теорию автоматов. Мы надеемся, что читателям будет полезно познакомиться с новой монографии Джона Милнора на русском языке. В. П. Голубятников, А. Д. Медных
Предисловие В этих заметках мы изучаем динамику итерированных голоморфных отображений римановой поверхности в себя. Главным образом, нас будет интересовать классический случай рациональных отображений римановой сферы. Заметки основаны на вводных лекциях, прочитанных в Стоуни Брук во время осеннего семестра 1989-90 гг., а также в последующие годы. Я благодарен своим слушателям за конструктивную критику, а также Браннеру, Дуади, Хаббарду и Сисикуре за то, что они обучили меня почти всему, что я знаю в этой области. Также хотелось бы поблагодарить А.Пуарье, С.Закери и Р.Переса за че- резвычайно полезные критические замечания к различным черновым вариантам этой книги. Существует много очень полезных обзоров многолетних исследований по голоморфной динамике (см. Бланшар, Бролин, Дивэйни, Дуади, Еременко и Любич, Кин, Любич), а также учебники Бердона, Карлесона и Гамелена, Штейнметца. Все они настоятельно рекомендуются читателю. См. библиографический список в конце; исторические справки содержатся в монографии Д. С. Александера. Рассматриваемая область исследований достаточно обширна и быстро развивается. Эти лекции предназначены для того, чтобы познакомить читателей с некоторыми ключевыми идеями в этом разделе математики и сформировать основу для дальнейшего его изучения. Предполагается, что читатель уже знаком с элементами теории функций комплексного переменного и с дифференциальной геометрией двумерных поверхностей, а также с некоторыми начальными сведениями из топологии. Необходимые сведения можно найти в монографиях Альфор- са 1966, Хокинга и Юнга, Манкреса, Уиллмора. Однако же, мы приведем без доказательств две важные теоремы, используемые нами, именно, теорему об униформизации — в § 1 и теорему о существовании решения уравнения Бельтрами с измеримым коэффициентом — в приложении F. (См. литературные ссылки в этих параграфах.) Июнь 1999 Джон Милнор, Стоуни Брук
Хронологическая таблица Список некоторых основателей комплексной динамики. Эрнст Шредер 1842-1902 Герман Амандус Шварц 1843-1921 Анри Пуанкаре 1854-1912 Габриэль Кёнигс 1858-1931 Леопольд Ло 1868-1940 (?) Люциан Эмиль Бётхер 1872- ? Самуэль Латте 1873-1918 Константин Каратеодори 1873-1950 Поль Монтель 1876-1975 Пьер Фату 1878-1929 Пауль Кёбе 1882-1945 Арно Данжуа 1884-1974 Гастон Жюлиа 1893-1978 Карл Людвиг Зигель 1896-1981 Губерт Кремер 1897-1983 Герберт Грётш 1902-1993 Чарльз Морри 1907-1984 Ларе Альфорс 1907-1996 Липман Берс 1914-1993 Среди многочисленных современных исследователей в этой области математики я позволю себе упомянуть немногих, чьи работы используются в этих заметках: И. Ноель Бейкер (1932), Адриен Дуади (1935), Деннис П. Сулливан (1941), Михаэль Р. Эрман (1942), Бодил Браннер (1943), Джон Хамал Хаббард (1945), Уильям П.Тёрстон (1946), Мэри Риз (1953), Жан-Кристоф Йоккоз (1955), Куртис Мак-Муллен (1958), Михаил Юрьевич Любич (1959) и Митсухиро Сисикура (1960).
Римановы поверхности § 1. Односвязные поверхности Первые три параграфа будут посвящены обзору подготовительного материала. Если У С С открытое множество в комплексной плоскости, то функция /: V —>• С называется голоморфной или «комплексно аналитической», если ее первая производная z^f(z)=lim(f(z + h)-f(z))/h /i->-0 определена и непрерывна, как функция из У в С, или, что эквивалентно, если в окрестности любой точки zo Е V функция / разлагается в ряд по степеням z — zo, который сходится к f(z) в некоторой окрестности zq. Такая функция называется конформной, если ее производная f'{z) нигде не обращается в нуль, и однолистной, если она конформна и взаимно однозначна. В частности, рассматриваемые нами конформные отображения сохраняют ориентацию. Римановой поверхностью S мы будем называть связное комплексное аналитическое многообразие комплексной размерности один. Таким образом, S является связным хаусдорфовым пространством. Более того, в некоторой окрестности U произвольной точки поверхности S можно выбрать локальный униформизирующий параметр (или «координатную карту»), который гомеоморфно отображает U на некоторое открытое подмножество комплексной плоскости С, причем в пересечении U П U' двух таких окрестностей каждый из соответствующих локальных униформизирующих параметров выражается через другой посредством голоморфной функции. По определению, две таких поверхности S и S' называются конформно изоморфными или биголоморфными тогда и только тогда, когда существует гомеоморфизм S на 5', который голоморфен относительно соответствующего локального униформизирующего параметра. Легко проверить, что обратное отображение S' —>■ S также голоморфно.
12 Римановы поверхности В частном случае S = S' такой конформный изоморфизм S —>• S называется конформным автоморфизмом поверхности S. Хотя существует несчетное множество конформно различных ри- мановых поверхностей, в односвязном случае их классификация описывается очень просто. По определению, поверхность S односвязна, если каждое отображение окружности в S может быть непрерывно про- деформировано в постоянное отображение, ср. § 2. Согласно Пуанкаре и Кёбе, с точностью до изоморфизма существуют только три односвяз- ных римановых поверхности. 1.1. Теорема об униформизации. Любая односвязная риманова поверхность конформно изоморфна (a) либо плоскости С, состоящей из всех комплексных чисел z = х + ъу, (b) либо открытому единичному диску ОсС, состоящему из всех z таких, что \z\2 = х2 + у2 < 1, (c) либо римановой сфере С, состоящей из С, пополненной бесконечной точкой. Эта теорема обобщает классическую теорему Римана об отображении. Мы будем называть эти случаи (а), (Ь) и (с) евклидовым, гиперболическим и сферическим, соответственно, ср. § 2. Я не буду приводить здесь доказательство теоремы 1.1, оно довольно сложно, его можно найти у Шпрингера, или у Фаркаша и Кра, или у Альфорса (1973), или у Неванлинны, или у Бердона (1984). См. также Фишер, Хаббард и Уиттиер. Приняв этот результат без доказательства, мы сможем быстро добраться до интересных идей голоморфной динамики.
§1. Односвязные поверхности 13 Открытый диск D В оставшейся части этого параграфа мы будем изучать эти три поверхности более детально. Начнем с изучения единичного диска Ш). 1.2. Лемма Шварца. Если f: Ш) —у Ш) — голоморфное отображение такое, что /(0) = 0, то его производная в начале координат удовлетворяет неравенству |/'(0)| ^ 1. Если |/'(0)| = I, то f является вращением вокруг начала координат, то есть f(z) = cz для некоторой постоянной с = f'(0), модуль которой равен единице. С другой стороны, если |/'(0)| < 1, то \f(z)\ < \z\ для всех z ф 0. Впервые в данной общности лемма Шварца была доказана Каратео- дори. Замечание 1. * Если |/'(0)| = 1, то f является конформным автоморфизмом единичного диска, но если |/'(0)| < I, то f не может быть конформным автоморфизмом диска Ш, т.к. его композиция с произвольным g: (Ш), 0) —У (Ш), 0) имеет производную <gy(0)/,(0) ф 1. Пример f(z) = z2 показывает, что f может отображать Ш) на себя, даже если \f(z)\ < \z\ при всех z ф 0 в Ш). Доказательство леммы 1.2. Воспользуемся принципом максимума модуля, который гласит, что максимум модуля непостоянной голоморфной функции не может достигаться нигде внутри области определения этой функции. Прежде всего, отметим, что отношение q(z) = = f(z)/z корректно определено и голоморфно на всем диске Ш), что видно из делимости на z разложения в ряд функции / в окрестности нуля. Поскольку при \z\ = г < 1 выполняется неравенство \q(z)\ < 1/г, то, согласно принципу максимума модуля, это неравенство выполняется для всех z в диске \z\ ^ г. Рассматривая предел г —у 1, мы видим, что \q(z)\ ^ 1 для всех z £ Ш. Также из принципа максимума модуля следует, что для z, принадлежащего единичному открытому диску, равенство \q(z)\ = 1 выполняется только тогда, когда функция q(z) постоянна. Для непостоянной функции q(z) неравенство \q(z)\ — \f(z)/z\ < 1 выполняется при всех z ф 0 и поэтому |(/(0)| = |/'(0)| < 1. ■ Полезным вариантом доказанного утверждения является 1.2'. Оценка Коши для производной. Если f отображает диск радиуса г с центром в точке zq в некоторый диск радиуса s, то 1/'ЫЮ/г.
14 Римановы поверхности Доказательство легко вытекает из интегральной формулы Коши, см., например, Альфорс. Положим g(z) = f(z + zq) + const так, чтобы g отображало диск Шг с центром в нуле в диск Ш8 с центром в нуле. Тогда \z\=rx для всех 7*1 < г, откуда и следует утверждение. ■ Другое доказательство, основанное на лемме Шварца, описано ниже в задаче 1-а. При дополнительном множителе 2 в правой части это неравенство немедленно вытекает из леммы 1.2 с помощью простой замены переменных, так как исходный диск радиуса s содержится в диске радиуса 2s с центром в f(zo). Простым следствием из вышеизложенного является 1.3. Теорема Лиувилля. Ограниченная функция f, определенная и голоморфная всюду на С, является постоянной. Для доказательства фиксируем s и выберем г произвольно большим, тогда /' должна быть тождественно равной нулю. ■ В качестве другого следствия мы видим, что наши три модельные поверхности С, С и Ш) попарно различны. Существуют естественные вложения Ш) —у С —У С, и из принципа максимума модуля следует, что всякое голоморфное отображение С —У С должно быть постоянным, а из теоремы Лиувилля следует, что постоянным является и всякое голоморфное отображение С —У Ш). Другое близкое утверждение состоит в следующем. Пусть U — открытое подмножество в С. 1.4. Теорема Вейерштрасса о равномерной сходимости. Если последовательность голоморфных функций fn : U —У С сходится равномерно к предельной функции f', то f сама является голоморфной функцией. Более того, последовательность производных fn тоже сходится равномерно к производной f на любом компактном подмножестве в U. Отсюда следует равномерная сходимость на компактных подмножествах вторых производных f% к /" и т. д.
§1. Односвязные поверхности 15 Доказательство теоремы 1.4. Сначала заметим, что последовательность первых производных f'n при ограничении на любое компактное подмножество К CU сходится равномерно. Например, если \fn(z) — — fm(z)\ < £ Для га, n > TV, и если r-окрестность любой точки из К содержится в С/, то из 1.2' следует, что |/^(г) — f'm{z)\ < е/r при т, п > N и при всех z £ К. Этим доказана равномерная сходимость {Д}, ограниченных на К, к некоторой предельной функции g, которая является непрерывной, поскольку непрерывные функции равномерно сходятся к непрерывной функции. Отсюда следует, что интегралы произодных f'n вдоль любого пути в U сходятся к интегралам функции g вдоль этого пути. Следовательно, / = lim/n является неопределенным интегралом функции g, и поэтому g совпадает с производной функции /. Таким образом, / имеет непрерывную комплексную первую производную и потому голоморфна. ■ Группы конформных автоморфизмов Для любой римановой поверхности S обозначим через ^(S) группу, состоящую из всех конформных автоморфизмов этой поверхности. Тождественное отображение будет обозначаться как / = Is Е ^(S). Рассмотрим для начала случай римановой сферы С и покажем, что ^(С) изоморфна хорошо известной комплексной группе Ли. Таким образом, ^(С) является не только группой, но и комплексным многообразием, а умножение и обращение элементов в этой группе являются голоморфными отображениями. 1.5. Преобразования Мёбиуса. Группа ^(С) всех конформных автоморфизмов римановой сферы изоморфна группе дробно-линейных преобразований, называемых также преобразованиями Мёбиуса g(z) = (az + b)/(cz + d), где все коэффициенты являются комплексными числами, и определитель ad — be не равен нулю. Здесь при домножении числителя и знаменателя на один и тот же множитель можно всегда добиться нормировки ad — be = 1. Полученные таким образом коэффициенты определены однозначно с точностью до одновременной смены знаков. Таким образом, группу ^(С) конформных автоморфизмов можно отождествить с комплексной трехмерной
16 Римановы поверхности группой Ли PSL(2, С), состоящей из всех комплексных матриц 2x2 с определителем +1, профакторизованной по подгруппе {±/}. Поскольку комплексная размерность равна 3, вещественная размерность группы PSL(2, С) равна 6. Доказательство леммы 1.5. Легко проверить, что ^(С) содержит эту группу дробно-линейных преобразований в качестве своей подгруппы. Рассмотрим композицию данного g Е ^(С) с подходящим элементом этой подгруппы. Можно считать, что g(0) = 0 и ^(ос) = оо. Но тогда частное g(z)/z является ограниченной голоморфной функцией из С \ {0} в себя. (В действительности g(z)/z стремится к ненулевому конечному значению gf(0) при z —>• 0. Полагая £ = 1/z и G(() = l/g(l/£), мы видим, что g(z)/z = C/G(C) стремится к ненулевому конечному значению 1/6?'(0) при z —>• оо.) Поэтому при z = ew композиция w н-» g(ew)/ew является ограниченной голоморфной функцией на С. Согласно теореме Лиувилля, она принимает постоянное значение с, и поэтому g(z) — cz — линейная функция, и, следовательно, g является элементом группы PSL(2, С). ■ Далее мы покажем, что обе группы ^(С) и ^(Ш)) могут быть рассмотрены, как подгруппы в ^(С). 1.6. Следствие. Аффинная группа. Группа ^(С) всех конформных автоморфизмов комплексной плоскости состоит из всех аффинных преобразований f(z) =\z + c с комплексными коэффициентами А ф О и с. Доказательство. Заметим сначала, что каждый конформный автоморфизм / плоскости С единственным образом продолжается до конформного автоморфизма С. В самом деле, lim f(z) = оо, и поэтому особенность 1//(1/£) z—>-оо при С = 0 устранима, (Ср. Альфорс, 1966, стр. 124). Значит, ^(С) может быть отождествлена с подгруппой ^(С), состоящей из преобразований Мёбиуса с неподвижной точкой оо. Очевидно, что это в точности комплексная двумерная подгруппа, состоящая из комплексных аффинных преобразований С. ■
§1. Односвязные поверхности 17 1.7. Теорема. Автоморфизмы Ш). Группа <&(Щ всех конформных автоморфизмов единичного диска изоморфна подгруппе группы У (С), состоящей из преобразований f(z)=eie^^, (1:1) где а принимает значения в открытом диске Ш)? а егв — на единичной окружности дИ). Эта группа уже не является комплексной группой Ли, однако, она является вещественной трехмерной группой Ли, гомеоморфной «полно- торию» Ш) х дШ. Доказательство теоремы 1.7. Очевидно, что определяемая уравнением (1:1) функция переводит риманову сферу С в себя. Несложные вычисления показывают, что \f(z)\ < 1 <=^> (z-a)(z-a) < (l-az)(l-az) <=^> (l-zz)(l-aa) > 0. Отсюда следует, что при всех a Е Ш \f(z)\ < 1 <(=> \z\ < 1. Следова- тельно, / отображает Ш) на себя. Далее, если g: Ш) —>• Ш) — произвольный конформный автоморфизм, и a Е Ш является единственным решением уравнения g(a) = 0, рассмотрим отображение f(z) = (z — а)/(1 — az), которое также переводит а в нуль. Композиция go /_1 является автоморфизмом с неподвижной точкой в нуле, и, согласно лемме Шварца, имеет вид go f~1(z) = eie(z), значит g(z) = егв'f(z), что и требовалось. ■ Часто по соображениям удобства все рассмотрения проводятся в верхней полуплоскости Н, состоящей из всех комплексных чисел w = u + iv таких, что v > 0. 1.8. Лемма. Ш) = Н. Полуплоскость Ш конформно изоморфна диску Ш) при голоморфном отображении w \-> (i — w)/(i + w), обратном к z\->i(l-z)/(l + z), где z е Ш) и w е И.
18 Римановы поверхности Доказательство. Если z и w = u + iv — комплексные числа, связанные этими формулами, то \z\2 < 1 тогда и только тогда, когда \г — w\2 = и2 + (1 — 2v + v2) меньше, чем \г + w\2 = и2 + (1 + 2v + v2). Другими словами, тогда и только тогда, когда v > 0. ■ 1.9. Следствие. Автоморфизмы Н. Группа ^(И), состоящая из всех конформных автоморфизмов верхней полуплоскости Ш, изоморфна группе всех дробно-линейных преобразований w н-» ——- с вещественными коэффициентами и положительным определителем ad — be > 0. Совершив нормировку ad — be = 1, мы определяем эти коэффициенты однозначно с точностью до одновременной смены знака. Таким образом, У (И) изоморфна группе PSL(2, Ж), состоящей из всех вещественных матриц 2 х 2 с определителем +1, профакторизованной по подгруппе {±/}. Доказательство следствия 1.9. Если f(w) = (aw + b)/(cw + d) с вещественными коэффициентами и ненулевым определителем, то легко проверить, что / отображает Ж U оо гомеоморфно на себя. Заметим, что значение /(i) = (at + Ъ)(-ег + d)/(c2 + d2) принадлежит верхней полуплоскости Ш тогда и только тогда, когда ad— — be > 0. Отсюда легко следует, что эта группа PSL(2, Ж) положительных вещественных дробно-линейных преобразований действует как группа конформных автоморфизмов Н, и действие это транзитив- но. Действительно, подгруппа состоящая из всех w н-» aw + b таких, что а > 0, уже действует транзитивно, поскольку такие преобразования переводят точку г в произвольную точку аг + b G Н. Более того, PSL(2, Ж) содержит группу вращений g(w) = (w cos в + sin 6)/(—w sin в + cos в) (1 : 2) вокруг неподвижной точки g(i) = г, при этом gf(i) = е2гв. Согласно леммам 1.2 и 1.8, других автоморфизмов с неподвижной точкой г быть не может, и отсюда легко следует, что PSL(2, Ж) = ^(Н). ■
§1. Односвязные поверхности 19 В завершение параграфа мы попытаемся изучить структуру этих трех групп более подробно. Для любого отображения /: X —>• X обозначим через Fix(J) С X множество его неподвижных точек х = f(x). Заметим, что если fug — коммутирующие отображения X в себя, f °g = g° f, то /(Fix(g-)) С Fix(g-), (1 : 3) поскольку, если х Е Fix(g), то f(x) = / о g{x) = g о /(ж), и поэтому f(x) £ Fix(g). Применим для начала эти соображения к группе ^(С) всех аффинных преобразований С. 1.10. Лемма. Коммутирующие элементы в ^(С). Два нетождественных аффинных преобразования С коммутируют тогда и только тогда, когда имеют одинаковые множества неподвижных точек. Легко устанавливается, что любой элемент g ф I в группе ^(С) содержится в единственной максимальной абелевой подгруппе, состоящей из всех таких /, что Fix(/) = Fix(g), вместе с единичным элементом. Доказательство леммы 1.10. Очевидно, что аффинное преобразование с двумя неподвижными точками тождественно. Если g имеет всего одну неподвижную точку zo, то из (1:3) следует, что всякое /, которое коммутирует с g, оставляет неподвижной ту же точку. Множество всех таких / образует коммутативную группу, состоящую из всех f(z) = zo + X(z — zo), где А ф 0. Аналогично, если Fix(g) пусто, то g является параллельным переносом z \-> z + с, и / о g = go f тогда и только тогда, когда / тоже является параллельным переносом. ■ Теперь мы рассмотрим группу ^(С) автоморфизмов римановой сферы. По определению автоморфизм g называется инволюцией, ес- ли g о g = J, но g ф I. 1.11. Теорема. Коммутирующие элементы в ^(С). Для каждого f ф I в ^(С) множество Fix(/) С С содержит либо одну точку, либо две точки. Вообще, два нетождественных элемента f,g£ ^(C) коммутируют тогда и только тогда, когда Fix(/) = = = Fix(g), если только они не являются парой коммутирующих инволюций, переставляющих неподвижные точки друг у друга. (Ср. задачу 1-е. Например, инволюция f(z) = —z, у которой
20 Римановы поверхности Fix(J) = {0, ос}, коммутирует с инволюцией g(z) = 1/z, у которой Fix(g-) = {±1}.) Доказательство теоремы 1.11. Неподвижные точки дробно-линейного преобразования могут быть найдены из квадратного уравнения, которое, как легко проверить, имеет не меньше одного и не больше двух разных решений в расширенной плоскости С. (Если автоморфизм С имеет три разных неподвижных точки, то он должен быть тождественным отображением.) Если / коммутирует с g, которое имеет в точности две неподвижные точки, то, поскольку /(Fix(g)) = Fix(g) (см. (1:3)), / также должно либо иметь те же самые две неподвижные точки, либо должно переставлять неподвижные точки отображения g. В первом случае, выбирая в качестве неподвижных точек нуль и ос, мы видим, что оба отображения fug принадлежат коммутативной группе, состоящей из всех линейных отображений z н->- Xz при А Е С \ {0}. Во втором случае, если / переставляет нуль и ос, то оно необходимо имеет вид f(z) = rj/z при / о f(z) = z. Полагая g(z) = Xz, мы сводим уравнение go f = f о g к Л2 = 1, следовательно, g также должно быть инволюцией. И, наконец, предположим, что g имеет всего одну неподвижную точку. Мы можем предполагать, что она лежит в бесконечности. Тогда по (1:3) любое /, коммутирующее с g, должно также иметь неподвижную точку в бесконечности. Следовательно, мы находимся в условиях леммы 1.10, и оба преобразования / и g должны быть параллельными переносами z и-» z + c. (Такие автоморфизмы с единственной неподвижной точкой, в которой первая производная с необходимостью равна +1, называются параболическими автоморфизмами.) Это завершает доказательство. ■ Теперь мы хотели бы получить соответствующее утверждение для открытого диска Ш), однако, здесь удобнее рассматривать замкнутый диск Ш) с тем, чтобы получить более богатое множество неподвижных точек. Используя теорему 1.7, мы можем легко убедиться в том, что каждый автоморфизм открытого диска единственным образом продолжается до автоморфизма замкнутого диска. 1.12. Теорема. Коммутирующие элементы в ^(Ш)). Для любого f ф I в У(Щ множество Fix(J) С Ш состоит либо из единственной точки открытого диска Ш, либо из единственной точки граничной окружности дШ, либо из двух точек дШ. Два нетождественных автоморфизма f,g€ ^(Щ коммутируют тогда и только
§1. Односвязные поверхности 21 тогда, когда они имеют одно и то же множество неподвижных точек в Ш). Замечание 1.13. (Ср. Задачу 1-d.) Автоморфизм диска Ш) часто называют «эллиптическим», «параболическим» или «гиперболическим», согласно тому, имеет ли он одну внутреннюю неподвижную точку, одну граничную неподвижную точку, либо две граничных неподвижных точки. Эти преобразования геометрически описываются следующим образом. В эллиптическом случае после сопряжения относительно преобразования, которое переводит неподвижную точку в нуль, можно предполагать, что О = g(0), и тогда из леммы Шварца следует, что g является вращением вокруг нуля. В параболическом случае удобно заменить Ш) на верхнюю полуплоскость, выбрав такой изоморфизм Ш) = Ш, что неподвижная точка соответствует бесконечной точке. Используя следствие 1.9, мы видим, что g должно соответствовать линейному преобразованию w н-» aw + Ь с вещественными Ь и а > О. Из того, что не существует неподвижных точек etc дШ, следует, что а — \, таким образом, это преобразование является параллельным переносом. Аналогичным образом, в гиперболическом случае, выбирая в качестве фиксированных точек О, ос Е дШ, мы видим, что g должно соответствовать линейному отображению вида w ^ aw при а > 0. Продолжение преобразований на границу замыкания с целью получения различия между параболическим и гиперболическим случаями выглядит несколъ- но неуклюже. Более глубокая интерпретация этой дихотомии описана в задачах 1-f и 2-е нилсе. Доказательство теоремы 1.12. Фактически каждый автоморфизм дисков Ш) и Ш) является преобразованием Мёбиуса, и поэтому единственным образом продолжается до автоморфизма F всей римановой сферы. Это продолжение коммутирует с преобразованием инверсии a(z) = \j~z. Действительно, композиция а о F о а голоморфна и совпадает с F на единичной окружности, и, следовательно, совпадает с F всюду. Значит, F имеет неподвижную точку в открытом диске Ш) тогда и только тогда, когда оно имеет соответствующую неподвижную точку a(z) в дополнении С\Ш). Из теоремы 1.11 следует, что два элемета из У(Щ коммутируют тогда и только тогда, когда множества их неподвижных точек в Ш) совпадают, если исключить случай коммутирующих инволюций. Если F G ^(С) — инволюция, то ее производная F'{z) в каждой из
22 Римановы поверхности двух неподвижных точек равна — 1. Поэтому, если F отображает Ш) на себя, то ни одна из этих неподвижных точек не лежит на граничной окружности, следовательно, одна из этих неподвижных точек должна лежать в Л), а другая в С \ Ш). Другая коммутирующая с F инволюция должна переставлять эти две точки и поэтому не может отображать Ш) в себя. Это завершает доказательство. ■ Мы завершаем этот параграф набором задач, адресованных читателю. Задача 1-а. Другое доказательство леммы 1.2'. Докажите, что произвольный конформный автоморфизм g(z) = eie- — (1 - az) единичного диска удовлетворяет условию 1^(0)1 = |1 — аа\ ^ 1, поскольку любое голоморфное отображение /: Ш) —>• Ш) может быть представлено в виде композиции goh, где g — автоморфизм, отображающий 0 в f(0), и h — голоморфное отображение с неподвижной точкой в нуле. Используя лемму 1.2, проверьте, что |/'(0)| ^ I, даже если f(0)^0.B более общем случае, пусть f отображает диск радиуса г с центром в z в некоторый диск радиуса s; покажите, что \f'(z)\ ^ s/r. Задача 1-Ь. Кратная транзитивность. Покажите, что действие группы ^(С) на С является точным и трижды транзитивным. Это означает, что существует один и только один автоморфизм, переводящий три заданные точки из С в другие три заданные точки. Покажите также, что действие ^(С) на С точно и дважды транзитивно. (Соответствующее утверждение для диска Ш) описано в задаче 2-d.) Задача 1-е. Двойное отношение. Покажите, что группа ^(С) порождена подгруппой аффинных преобразований z и-» az + Ъ вместе с преобразованием обращения z \-ь 1/z. Пусть даны четыре различных
§1. Односвязные поверхности 23 точки Zj в С Покажите, что двойное отношение четырех точек1 xUb ^2, z3, z4) = - -, г eC\{0, 1} \Z2 - Z1){Z4 - Z3) инвариантно относительно дробно-линейных преобразований. (Если одна из точек Zj находится на бесконечности, это определение продолжается по непрерывности.) Покажите, что \ вещественно тогда и только тогда, когда эти четыре точки лежат на прямой или на окружности. Для данных двух точек z\ ф z2 покажите, что существует одна и только одна инволюция f, для которой Fix(/) = {zi, z2}? покажите, что другая инволюция g такая, что Fix(g) = {z[, zf2} коммутирует с f, тогда и только тогда, когда x(zi? z2, z[, z'2) = 1/2. Задача 1-d. Классы сопряженности в ^(Н). По определению, конформный автоморфизм Ш) или Ш является эллиптическим, если он имеет неподвижную точку, и, в противном случае, параболическим или гиперболическим, согласно тому, имеет ли его продолжение на край одну или две неподвижные точки. Классифицируйте классы сопряженности в группах ^(Ш) = PSL(2, Ж) следующим образом. Покажите, что всякий автоморфизм Ш без неподвижной точки является сопряженным к единственному преобразованию вида w н-» w +1, или w —у w — 1, или w \-> Xw при А > 1, и что класс сопряженности автоморфизма g с неподвижной точкой wo Е IH однозначно определен своей производной А = gf(wo), здесь |Л| = 1. Покажите также, что каждый нетождественный элемент PSL(M) принадлежит одной и только одной «однопараметрической подгруппе», и что каждая однопараметрическая подгруппа является сопряженной к одной из следующих: *н> 'It' [ 0 1 \ , либо ' е* [ и 0 е 1 либо cost sint -sint cost в соответствии с тем, являются ли ее элементы параболическими, гиперболическими или эллиптическими. Здесь t пробегает аддитивную группу вещественных чисел. Задача 1-е. Евклидов случай. Покажите, что класс сопряженности нетождественного автоморфизма g(z) = Xz + с в группе ^(С) 1 Предупреждение: Существует несколько вариантов определения двойного отношения. Используемая нами версия характеризуется свойством х(0, 1, z, оо) = z, которое особенно полезно для наших целей. Ср. задачу 2-е; заметим, что х(°ч &? с, d) > 1 при вещественных а, 6, с, d таких, что а < Ъ < с < d.
24 Римановы поверхности однозначно определяется своим образом при гомоморфизме дифференцирования g\-^g' = х е С\{0}. Задача 1-f. Антиголоморфная инволюция. Антиголоморфным отображением одной римановой поверхности в другую мы будем называть преобразование, которое в терминах локальных координат z и w имеет вид z \-> w = rfffl, где г\ голоморфно. Антиголоморфной инволюцией поверхности S мы будем называть антиголоморфное отображение a: S —>■ S такое, что а о а — тождественное отображение. Для прямой линии L С С покажите, что существует одна и только одна антиголоморфная инволюция в С, для которой L является множеством неподвижных точек, и что никаких других множеств неподвижных точек здесь быть не может. Покажите, что группа автоморфизмов ^(С) действует транзитивно на множестве прямых линий в С. Аналогично, пусть L — прямая линия либо окружность в С. Покажите, что существует одна и только одна антиголоморфная инволюция С, для которой L является множеством неподвижных точек, и что не существует других непустых(!) множеств неподвижных точек. Покажите, что группа автоморфизмов ^(С) действует транзитивно на множестве прямых и окружностей в С И, наконец, покажите, что для любой антиголоморфной инволюции в Ш) множество неподвижных точек является либо диаметром диска, либо дугой окружности, ортогонально пересекающей границу дИ), и покажите, что ^(Щ действует транзитивно на множестве таких диаметров и дугах окружностей. Покажите, что автоморфизм диска Ш) без неподвижных точек внутри Ш) гиперболичен тогда и только тогда, когда он коммутирует с некоторой антиголоморфной инволюцией, или тогда и только тогда, когда он переводит некоторый диаметр или некоторую такую дугу в себя. Задача 1-g. Неподвижные точки преобразований Мёбиуса. Покажите, что для нетождественного автоморфизма g Е ^(С) его производные gf(z) в двух неподвижных точках являются обратными величинами, скажем, А и Л_1? и что среднее арифметическое а = (Л + + А-1)/2 является полным инвариантом класса сопряженности, которое может принимать любое значение в С (В частном случае неподвижной точкой на бесконечности производная вычисляется в локальных координатах £ = l/z.) Покажите, что а = 1 тогда и только тогда, когда эти две неподвижные точки совпадают, и что — 1 ^ а = cos# < 1 тогда и только тогда, когда g сопряжено вращению на угол в.
§2. Универсальные накрытия и метрика Пуанкаре 25 Задача 1-h. Сходимость к нулю. Докажите, что если голоморфное отображение /: Ш) —>• Ш) переводит начало координат в себя и не является вращением, то последовательность итераций fon(z) стремится к нулю при всех z в открытом диске Л), и эта сходимость равномерна на компактных подмножествах Ш). (Здесь fon обозначает п-кратную итерацию f о ... о /. Пример f(z) = z2 показывает, что сходимость не обязана быть равномерной всюду в диске Ш.) § 2. Универсальные накрытия и метрика Пуанкаре Прежде всего напомним некоторые стандартные топологические конструкции. (Ср. Манкрес, Спанъер*, а также Приложение Е.) Отображение р: М —>• N связных многообразий называется накрывающим, а многообразие М — накрытием многообразия N, если каждая точка из N имеет открытую связную окрестность U в N, которая накрыта просто, см. Спанъер*, что означает, что каждая компонента связности р_1(С/) отображается на U гомеоморфно. Многообразие N являетя односвязным, если оно не имеет нетривиальных накрытий, то есть каждое такое накрытие М —>• N является гомеоморфизмом. (N одно- связно тогда и только тогда, когда каждое отображение окружности в N может быть непрерывно продеформировано в точку.) Для любого связного многообразия N существует накрытие N —>• N такое, что N односвязно, оно называется универсальным накрытием многообразия N. Можно проверить, что все универсальные накрытия одного многообразия гомеоморфны между собой. Будем называть накрывающим преобразованием, ассоциированным с накрытием р: М —>• N, непрерывное отображение j: М —>• М, удовлетворяющее тождеству р = р о j. Таким образом, диаграмма М 7 > М Р\ /V N коммутативна. Нам будет удобно определить фундаментальную группу 7Ti(N) как группу Г, состоящую из всех накрывающих преобразований универсального накрытия N —>• N. Отметим, что такое универсальное накрытие всегда^вляется нормальным, то есть для любых двух точек ж, х' G М = N таких, что р(х) = р(х'), существует одно и только одно накрывающее преобразование, переводящее х в х'. Отсюда следует,
26 Римановы поверхности что N можно отождествить с фактор-пространством N/Т многообразия N по этому действию группы Г. Заданная группа гомеоморфизмов Г связного многообразия М порождает нормальное накрытие М —>• М/Y тогда и только тогда, когда (1) Г действует собственно разрывно, то есть каждое компактное множество К С М пересекается только с конечным набором сдвигов у (К) относительно действия группы Г, и (2) Г действует свободно, то есть каждый неединичный элемент группы действует на М без неподвижных точек. Пусть теперь S — риманова поверхность. Тогда универсальное накрывающее многообразие S наследует структуру римановой поверхности, и каждое накрывающее преобразование является конформным изоморфизмом S. Согласно теореме об униформизации 1.1, поскольку эта универсально накрывающая поверхность S односвязна, она должна быть конформно изоморфной одной из трех модельных поверхностей. Таким образом, мы получаем следующую теорему. 2.1. Теорема об униформизации для произвольной римановой поверхности. Каждая риманова поверхность S конформно изоморфна фактор-пространству вида S/Т, где S — односвязная риманова поверхность, изоморфная либо диску Ш, либо С, либо С, и Г = 7Ti(S) — группа конформных автоморфизмов, действующая на S свободно и собственно разрывно. Группа y(S), состоящая из всех конформных авоморфизмов, изучалась в § 1. Она является группой Ли и имеет естественную топологию. Поскольку действие группы Г на S собственно разрывно, нетрудно проверить, что Г должна быть дискретной подгруппой в ^(S), то есть существует окрестность единичного элемента в ^(S), которая пересекается с Г только по единичному элементу. (Ср. задачу 2-а.) В качестве любопытного следствия мы получаем замечательное свойство комплексного одномерного многообразия, которое впервые было доказано Радо (ср. Алъфорс и Сарио.) По определению топологическое пространство называется а -компактным, если оно представимо в виде счетного объединения компактных подмножеств. 2.2. Следствие, а-компактность. Каждая риманова поверхность представима в виде счетного объединения компактных подмножеств.
§2. Универсальные накрытия и метрика Пуанкаре 27 (Можно показать, что связное многообразие является а-компактным тогда и только тогда, когда оно паракомпактно, или метризуе- мо, или имеет счетную базу открытых подмножеств. Однако, в общем случае произвольное многообразие может не обладать ни одним из этих свойств.) Доказательство следствия 2.2 следует из теоремы 2.1, так как соответствующее свойство очевидным образом выполняется для каждой из трех односвязных поверхностей. ■ Мы теперь можем построить очень грубую классификацию всех возможных римановых поверхностей, которая будет состоять из двух простых случаев и одного сложного. Сферический случай. Согласно 1.12, каждый конформный автоморфизм римановой сферы С имеет по крайней мере одну неподвижную точку. Поэтому если S = С/Г является римановой поверхностью с универсальной накрывающей S = С, то группа Г С ^(С) должна быть тривиальной, следовательно, поверхность S сама должна быть конформно изоморфной сфере С. Евклидов случай. Согласно 1.6, группа ^(С) конформных автоморфизмов комплексной плоскости состоит из всех аффинных преобразований z н-» Xz + с при X ф 0. Каждое такое преобразование имеет неподвижную точку, если X ф 1. Следовательно, если S = С/Г, с универсальной накрывающей S = С, то Г является дискретной группой параллельных переносов z \-> z + c комплексной плоскости С. Здесь можно выделить три подслучая: Если Г тривиальна, то S сама изоморфна плоскости С. Если Г имеет всего одну образующую, то S изоморфна бесконечному цилиндру C/Z, где Z С С — аддитивная подгруппа целых чисел. Отметим, что этот цилиндр изоморфен плоскости с выколотой точкой С \ {0} при изоморфизме z ^ exp(2mz) G С \ {0}. Если Г имеет две образующие, то она может быть описана как двумерная решетка Л С С, то есть является аддитивной группой, порожденной двумя комплексными числами, которые линейно независимы над Ж. (Два таких образующих, как 1 и л/2, линейно зависимы над Ж и не порождают дискретную группу.) Фактор-пространство Т = С/Л называется тором.
28 Римановы поверхности Во всех трех подслучаях поверхность S наследует локально евклидову геометрию из евклидовой метрики \dz\ на ее универсальной накрывающей. Например, состоящая из точек exp(2niz) = w, плоскость с выколотой точкой С \ {0} имеет полную локально евклидову метрику 27r\dz\ = \dw/w\. (Такая метрика корректно определена с точностью до умножения на положительную постоянную, поскольку мы можем с тем же успехом использовать на универсальном накрытии и координату вида zf = Xz + с, в этом случае \dzf\ = |Adz|. Ср. следствие 1.6.) Будет удобно использовать термин евклидова поверхность для римановых поверхностей, допускающих полную локально евклидову метрику. Термин «параболическая поверхность» также широко используется в литературе. Гиперболический случай. Во всех остальных случаях универсальное накрытие S должно быть конформно изоморфно единичному диску. Такие римановы поверхности называются гиперболическими. Из предыдущих рассуждений следует, что любая риманова поверхность, не являющаяся тором и неизоморфная поверхностям С, С или C/Z, должна быть гиперболической. Например, любая риманова поверхность рода больше двух или любая риманова поверхность с неабелевой фундаментальной группой гиперболична. (Ср. задачу 2-g.) Замечание 2. * Здесь слово «гиперболический» упомянуто в связи с гиперболической геометрией или геометрией Лобачевского и Бой- яи. (Ср. следствие 2.10 ниже.) К сожалению, термин «гиперболический» имеет в голоморфной динамике как минимум три существенно различных широко распространенных значения. Мы можем говорить о гиперболической периодической орбите (с множителем, не лежащим на единичной окружности), или о гиперболическом отображении (§19), или о гиперболической поверхности, как здесь. Чтобы избежать путаницы, используя это слово в данном геометрическом смысле, я буду писать более точно — конформно гиперболично, сохранив термин динамически гиперболично для остальных двух случаев. 2.3. Примеры: Кольцо и диск с выколотой точкой. Мы уже видели, что евклидовы римановы поверхности имеют абелеву фундаментальную группу, либо тривиальную, либо изоморфную Ъ или Ъ®Ъ. Диск с выколотой точкой Ш) \ {0} является примером конформно гиперболической поверхности, у которой фундаментальная группа изоморфна Ъ. Его универсальная накрывающая может быть отождествлена с левой
§2. Универсальные накрытия и метрика Пуанкаре 29 полуплоскостью, которая отображается наШ\ {0} посредством экспоненциального отображения. Аналогичным образом, кольцо £rfr = {ze£', К \z\ < г} является гиперболической поверхностью, так как она допускает голоморфное отображение в единичный диск. (Ср. лемму 2.5 ниже.) Фундаментальная группа 7Ti(srfr) тоже свободная циклическая. В самом деле, кольца и диск с выколотой точкой являются единственными, кроме самого диска Ш, гиперболическими поверхностями с абелевой фундаментальной группой. С этим тесно связано другое свойство: каждая из этих поверхностей имеет нетривиальную группу Ли автоморфизмов. (Ср. задачу 2-g.) 2.4. Пример: сфера с тремя выколотыми точками. Если удалить одну либо две точки из римановой сферы С, то мы получим евклидову поверхность, а именно, комплексную плоскость С либо С\{0} = C/Z. Однако, если удалить из сферы три различных точки, то мы получим поверхность S = С \ {0, 1}, которая должна быть гиперболической в частности по той причине, что ее фундаментальная группа неабелева. (Для более элементарного доказательства того, что S не входит в наш список негиперболических поверхностей, заметим, что для любого достаточно большого компактного множества К С S его дополнение S\K имеет по крайней мере три компоненты связности. Мы будем говорить, что сфера с тремя выколотыми точками имеет три «конца», в то время как любая негиперболическая поверхность имеет не более двух концов. Явная формула для универсального накрытия Ш —>• С \ {0, 1} задается «эллиптической модулярной функцией». Ср. задачу 7-g.) Близко с этим связано утверждение о том, что любая риманова поверхность может быть сделана гиперболической удалением не более трех точек. (В случае тора достаточно удалить всего одну точку, так как это соответствует удалению бесконечного числа точек из универсального накрытия тора.) Включения Ш) —>• С —>• С являются примерами непостоянных голоморфных отображений гиперболической поверхности Ш) в евклидову поверхность С и затем в риманову сферу С. Однако, ни одного голоморфного отображения в противоположном направлении не существует.
30 Римановы поверхности 2.5. Лемма. Отображения между поверхностями различных типов. Каждое голоморфное отображение из евклидовой ри- мановой поверхности в гиперболическую поверхность постоянно. Аналогичным образом, каждое голоморфное отображение из рима- новой сферы в евклидову или в гиперболическую поверхность постоянно. Каждое голоморфное отображение fj S —У S' может быть поднято до голоморфного отображения f:S^-Sf их универсальных накрытий, ср. задачу 2-Ь ниже. Однако, как было отмечено в § 1, любое голоморфное отображение С —У С или С —У Ш) должно быть постоянным, согласно принципу максимума модуля и теоремы Лиувилля. Ш 2.6. Теорема Пикара. Каждое голоморфное отображение f: С —У С, не принимающее двух различных значений, постоянно. Утверждение немедленно вытекает из примера 2.4 и леммы 2.5, поскольку, если f не принимает двух значений а, Ъ, то его можно рассматривать как отображение евклидовой поверхности С в гиперболическое пространство С \ {а, Ь}. Ш Метрика Пуанкаре Каждая гиперболическая поверхность имеет выделенную римано- ву метрику, определяемую следующим образом. Для начала рассмотрим односвязный случай. 2.7. Лемма. Метрика Пуанкаре на Ш). Существует одна и, с точностью до положительного множителя, только одна римано- ва метрика на диске Ш, которая инвариантна относительно любого конформного автоморфизма Ш). Как немедленное следствие мы получим в точности такое же утверждение для верхней полуплоскости Ш и для любой другой поверхности, конформно изоморфной диску Ш). Доказательство леммы 2.7. Для начала мы излагаем следующее геометрическое доказательство этого утверждения: чтобы определить риманову метрику на гладком многообразии М мы должны задать длину \\v\\ для каждого касательного
§2. Универсальные накрытия и метрика Пуанкаре 31 вектора v в каждой точке многообразия. Рассмотрим касательный вектор v в некторой точке zo £~Ю) и выберем автоморфизм g Е Ц!(Щ, переводящий zo в начало координат. Тогда первая производная g в точке zo задает линейное отображение DgZo из касательной плоскости к Л) в этой точке на касательную плоскость в начале координат. Мы определим ||г;|| как удвоенную евклидову длину образа DgZo(v). (Множитель два вводится для удобства, ср. формулу (2:3) ниже.) Так как g единственно с точностью до композиции с поворотом диска, эта длина \\v\\ корректно определена и, очевидным образом, инвариантна относительно всех автоморфизмов Ш). И наконец, поскольку соответствие v н-» ||v||2 для касательных векторов в заданной точке диска является однородной квадратичной функцией, эта конструкция действительно определяет риманову метрику. Иначе, используя классические обозначения, мы можем доказать лемму 2.7 более подробным образом. Риманова метрика на открытом подмножестве в С описывается выражением вида ds2 = gii dx2 + 2gi2 dx dy + g22 dy2, где [gjk] — положительно определенная матрица, гладко зависящая от точки z = х + гу. Такая метрика называется конформной, если g\\ — — g22 и gi2 = 0, то есть, если матрица [gjk]? вычисленная в любой точке z, получается из единичной матрицы умножением на положительную скалярную функцию. Иными словами, конформная метрика может быть записана как ds2 = j(x+ iy)2(dx2 + dy2) или, более коротко, как ds = j(z)\dz\, где функция j(z) является гладкой и строго положительной. По определению, такая метрика инвариантна относительно конформного автоморфизма w = f(z) тогда и только тогда, когда она удовлетворяет тождеству j(w)\dw\ =7(^)|^|? или, другими словами, 7(/(*))=7(*)/|/'(*)1- (2 = 1) Эквивалентным образом, будем говорить, что f является изометрией относительно этой метрики. Для примера предположим, что конформная метрика j(w)\dw\ на верхней полуплоскости инвариантна относительно всякого линейного автоморфизма f(w) = aw + b, где а > 0. Так как /(г) = аг + Ъ, уравнение (2:1) принимает вид j(ai + b) = j(i)/a. Умножив метрику на положительную постоянную, можно считать, что j(i) = 1. Тогда мы
32 Римановы поверхности получаем j(u + iv) = 1/v или, другими словами, ds = \dw\/v для w = и + iv Е Н. (2:2) Фактически, определяемая этой формулой метрика инвариантна относительно каждого конформного автоморфизма g полуплоскости Ш. Так, если выбрать некоторую произвольную точку w\ Е IH и положить g(wi) = W2, то g можно представить как композицию линейного автоморфизма вида gi(w) = aw + b, который отображает w\ в w2? и автоморфизма g2, который сохраняет w2 неподвижной. Для метрики, определяемой уравнением (2:2), автоморфизм g\ является изомет- рией; из 1.2 и 1.8 следует, что 1^(^)1 — 1? значит, и g2 является изометрией в точке W2- Таким образом, наша метрика инвариантна в произвольной точке относительно произвольного автоморфизма. Для завершения доказательства леммы 2.7 необходимо показать, что метрика, инвариантная относительно всех автоморфизмов Ш) или Ш, обязательно является конформной. С этой целью для любой точки wo Е IH выберем тот единственный автоморфизм f, который оставляет неподвижной точку wo и имеет производную f'(wo) = л/^Т. Несложные вычисления показывают, что индуцированное отображение римановой метрики преобразует выражение gu du2 + 2gi2 du dv + g22 dv2 в точке wo в g22 du2 — 2gi2 dudv + gu dv2 в этой же точке. Из этой инвариантности следует, что в произвольной точке wo выполняются соотношения gu = g22 и gi2 = 0, что и требовалось. ■ Определение 1. * Эта метрика ds = \dw\/v называется метрикой Пуанкаре на верхней полуплоскости Ш. Соответствующая метрика на диске Ш) описывается соотношением ds = 2\dz\/(l - \z\2) для zGB, (2:3) что можно проверить, используя лемму 1.8 и (2:1). Замечание 3. * Одним из основным инвариантов римановой метрики на поверхности S является гауссова кривизна К: S —У Ж. Так как существует изометрия, переводящая любую точку в любую другую точку, то метрика Пуанкаре имеет постоянную гауссову кривизну. Эта определенная выше метрика на Ш) имеет гауссову кривизну К = — 1. (Ср. задачу 2-h.) Предупреждение. Некоторые авторы называют метрикой Пуанкаре наЛ) метрику \dz\/(l — \z\2), a \dw\/2v, соответственно, метрикой
§2. Универсальные накрытия и метрика Пуанкаре 33 Пуанкаре на Ш. Эти модифицированные метрики имеют постоянную гауссову кривизну, равную —4. Таким образом, существуют выделенные римановы метрики ds на Ш) и на Ш. Или более общо, если S — произвольная гиперболическая поверхность, то ее универсальная накрывающая S конформно изоморфна Л), и, следовательно, имеет выделенную метрику, инвариантную относительно всех конформных автоморфизмов S. В частности, эта метрика инвариантна относительно накрывающего преобразования. Отсюда следует, что существует одна и только одна риманова метрика на S такая, что проекция S —>• S является локальной изомет- рией, изометрично отображающей каждое достаточное малое открытое подмножество в S на его образ в S. По определению, построенная таким образом метрика называется метрикой Пуанкаре на гиперболической поверхности S. 2.8. Пример. Диск с выколотой точкой. Универсальное накрытие над диском с выколотой точкой Ш) \ {0} может быть отождествлено с левой полуплоскостью {w = u + iv; и < 0} посредством экспоненциального отображения w н-» z = ew G Ш)\{0}, для которого выполняется соотношение dz/z = dw. Очевидным образом, метрика Пуанкаре \dw/u\ на левой полуплоскости соответствует метрике \dz/rlnr\ на диске с выколотой точкой, здесь г = \z\ и и = In г. Поэтому окружность \z\ = г имеет длину 27г/|1пг|, что стремится к нулю при г —у 0, хотя эта окружность удалена в метрике Пуанкаре на бесконечное расстояние от граничной точки z = 0. Пересеченная с Ш)\{0} окрестность нуля может быть изометрична вложена в М3 как поверхность вращения, образующая этой поверхности известна под названием «трактриса». Определение 2. * Пусть S — гиперболическая поверхность с метрикой Пуанкаре ds. Интеграл J ds вдоль произвольного кусочно- р гладкого пути Р: [0, 1] —>• S называется длиной этого пути в метрике Пуанкаре. Для любых двух точек z\ и Z2 поверхности S определим расстоянием в метрике Пуанкаре dist(zi, z^) — dists^i, z^) как точную
34 Римановы поверхности нижнюю грань длин в метрике Пуанкаре Jp ds no всем кусочно-гладким путям Р, соединяющим z\ и z*z- Мы увидим, что путь, имеющий минимальную длину, всегда существует. 2.9. Лемма о полноте. Каждая гиперболическая поверхность S с метрикой Пуанкаре является полной. Это означает что: (a) всякая фундаментальная относительно метрики dists последовательность сходится, или, что эквивалентно, (b) всякая замкнутая окрестность Nr(z0, dists) = {z e S | dists(z, z0) ^ r} является компактным подмножеством в S. Более того, (c) любые две точки поверхности S соединяются по крайней мере одной минимальной геодезической. В односвязном случае существует в точности одна геодезическая, соединяющая две заданные точки. Доказательство леммы 2.9. Рассмотрим сначала частный случай S = Ш). Для любых двух данных точек в Ш) можно выбрать конформный автоморфизм, который переводит первую точку в начало координат, а вторую — в некоторую точку г на положительной вещественной оси. Для любого пути Р, соединяющего Our внутри Ш, имеем С f 2\dz\ ^ f 2\dx\ ^ f 2dx , 1 + г P P P 0 где равенство выполняется тогда и только тогда, когда Р является отрезком [О, г] вещественной прямой. Отсюда следует, что для любого z G В расстояние в метрике Пуанкаре от нуля до z равно 5 = distD(0,^) = lniiM. l-\z\ Ср. задачу 2-е. Эквивалентным образом, мы можем записать \z\ = th(^). Более того, отрезок прямой от О до z является единственной минимальной геодезической в метрике Пуанкаре. Этим доказывается (Ь) и (с) для односвязных поверхностей. Общий случай вытекает отсюда немедленно, и утверждение (а) легко отсюда следует. (Ср. Уиллмор.) Ш
§2. Универсальные накрытия и метрика Пуанкаре 35 2.10. Следствие. Метрики постоянной кривизны. Каждая риманова поверхность допускает полную конформную метрику постоянной кривизны, которая либо положительна, либо отрицательна, либо равна нулю, соглсно тому, является ли эта поверхность сферической, гиперболической или евклидовой, соответственно. Действительно, в гиперболическом случае существует одна и только одна полная конформная метрика, для которой гауссова кривизна постоянна и равна —1, ср. задачу 2-г. В евклидовом случае соответствующая метрика единственна с точностью до постоянного положительного множителя. В сферическом случае, отождествляя с помощью стереографической проекции риманову сферу С с единичной сферой в Ж3, мы получаем стандартную сферическую метрику ds = 2\dz\/(l + \z\2) (2:4) с постоянной гауссовой кривизной +1. (Задача 2-h.) Эта сферическая метрика является гладкой даже в окрестности бесконечности. В самом деле, отображение z \-> 1/z является изометрией. Однако сферическая метрика далеко не единственна, так как она не сохраняется большинством преобразований Мёбиуса. Группа SO(3) сохраняющих ориентацию изометрий этой метрики намного меньше, чем полная группа ^(С) всех конформных автоморфизмов. ■ Замечание 4- * Для вычислений более удобна метрика на С, определяемая формулой длин хорд: dist'^i, z2) = \*1-Ъ\ = 2sin(s/2), (2 : 5) V(i + N2)(i + k2|2) где s = dist^i, z2) — обычное расстояние в сферической метрике. Например, согласно (2:5), расстояние между точкой z и ее антиподальной точкой —\j~z всегда равно +2. Эти негиперболические метрики неотрицательной кривизны представляют определенный интерес. Однако в гиперболическом случае метрика Пуанкаре с постоянной кривизной — 1 черезвычайно важна ввиду ее замечательного свойства никогда не возрастать при голоморфных перобразованиях.
36 Римановы поверхности 2.11. Теорема Пика. Если f:S—>Sf — голоморфное отображение гиперболических поверхностей, то справедливо в точности одно из следующих утверждений: • / является конформным изоморфизмом из S на S' и изометрич- но отображает поверхность S с ее метрикой Пуанкаре на S' с ее метрикой Пуанкаре. • / является накрытием, но не взаимно однозначно. В этом случае оно является локальной, но не глобальной изометрией в метрике Пуанкаре. Каждый гладкий путь Р: [О, 1] —У S длины £ в S отображается в гладкий путь f о Р той же самой длины £ в Sf, отсюда следует, что для всех р, q Е S выполняется неравенство dist5'(/(p), f(q)) ^ dist5(p, q). Здесь равенство выполняется, если р достаточно близко к q, a строгое неравенство выполняется, например, и в случае f(p) = f(q) при р ф q. • В остальных случаях все ненулевые расстояния при отображении f строго уменьшаются. В действительности, для каждого компактного множества К С S существует постоянная ск < 1 такая, что dist5'(/(p), f(q)) ^ c^dist5(p, q) для всех р, q £ К; таким образом каждый гладкий путь в К, имеющий в метрике Пуанкаре поверхности S длину £, отображается в путь, имеющий в метрике Пуанкаре поверхности Sf длину ^ ск£. В качестве примера, иллюстрирующего эту теорему, рассмотрим отображение f(z) = z2 на диске Л), которое, конечно же, не является накрытием или конформным автоморфизмом. Следовательно, оно уменьшает расстояния метрики Пуанкаре наЛ). С другой стороны, мы можем также рассматривать это отображение f, как отображение диска с выколотой точкой В\{0} в себя. В этом случае f является двулистным накрытием, следовательно, в метрике Пуанкаре f является локальной изометрией на Ш)\{0}. Действительно, универсальное накрытие над Ш) \ {0} может быть отождествлено с левой полуплоскостью, отображающейся наШ\ {0} посредством экспоненциального отображения, (ср. 2.8.), и тогда f поднимается до автоморфизма F: w \-^ 2w этой полуплоскости, который, очевидным образом, сохраняет метрику Пуанкаре.
§2. Универсальные накрытия и метрика Пуанкаре 37 Доказательство теоремы 2.11. Пусть TSP — касательное пространство к S в точке р. Это одномерное комплексное векторное пространство. Мы будем рассматривать метрику Пуанкаре на S, обозначая через ||г;|| норму вектора v Е TSP, здесь \\v\\ > О при v ф 0. Дифференциал голоморфного отображения f:S —У Sf является линейным отображением касательных пространств Dfp: TSP —У TSL, у Сравним нормы вектора v Е TSP и его образа в TS1., ^ относительно соответствующих метрик Пуанкаре. Очевидным образом, отношение \\Dfp{v)\\l\\v\\ не зависит от выбора ненулевого вектора v и может быть интерпретировано как норма \\Dfp\\ первой производной в точке р. В частном случае неподвижной точки z — f(z) отображения, заданного на гиперболическом открытом подмножестве С заметим, что \\Dfz\\ равна модулю первой производной f'{z) = df/dz в классическом смысле. Поэтому для голоморфного отображения f: Ш) —у Ш) такого, что /(0) = 0, из леммы Шварца следует, что \\Dfo\\ ^ 1? и равенство здесь достигается тогда и только тогда, когда f является конформным автоморфизмом. Более общо, если f:S—ySf — голоморфное отображение односвязных гиперболических поверхностей и р Е S, то отсюда немедленно следует, что \\Dfp\\ ^ 1, и равенство соблюдается только если f является конформным изоморфизмом. Рассмотрим теперь случай, когда S u^S' необязательно односвязны. Выберем некоторое поднятие F: S —У S' — отображение универсальных накрывающих и некоторую точку р над р. Из коммутативной диаграммы TSP у TSF^ 4- 4- ? TSP у TS'f{p) в которой вертикальные стрелки сохраняют норму метрики Пуанкаре, и обе поверхности S и S' конформно изоморфны диску Л), мы видим, что \\Dfp\\ ^ 1, причем равенство здесь выполнятся тогда и только тогда, когда F является конформным изоморфизмом из S на S', иными словами, тогда и только тогда, когда /: S —У Sf является накрытием, ср. задачу 2-Ь. В частности, если f не является накрытием, то F не может быть конформным автоморфизмом, и следовательно, \\Dfp\\ < 1 для
38 Римановы поверхности всехр Е S. Если К — компактное подмножество в S, то \\Dfp\\ достигает некоторого максимального значения с < 1 при р Е К, поскольку f непрерывна. Теперь для любого гладкого пути Р: [О, 1] —>• S дифференциал DPt переводит единичный касательный вектор в точке t Е [О, 1] в вектор изТБр,^, называемый вектором скорости P'{t) пути Р в точке P(i). По определению длина пути Р в метрике Пуанкаре равна интегралу lengths(P) = j\\P'(t)\\dt. Аналогично 1 " dt, lengthst(f о Р) = J JDfP{t)(P\t)) и поэтому, если \\Dfp\\ ^ с во всех точках р Е К, то lengths (/ о Р) <С с length5 (P) для каждого гладкого пути внутри К. Чтобы сравнить расстояния внутри К необходимо выбрать некоторое большее компактное множество К' С S так, чтобы любые две точки р и q в К соединялись бы в К' геодезической длины dists(p, q). Если ск < 1 — максимальное значение \\Dfp\\ на компакте К'', то dist5'(/(p), f(q)) ^ c^dist5(p, q), что и требовалось. ■ Замечание 5. * В случае сжимающего отображения может случиться так, что существует одна постоянная с < 1 такая, что dist5'(/(p), f(q)) ^ cdist5(p, q) для всех р и q в S. В частном случае отображения поверхности S в себя стандартные рассуждения показывают, что f имеет единственную неподвижную точку. (См. задачу 2-j.) Однако пример отображения f(w) = = w + i верхней полуплоскости в себя показывает, что сжимающее отображение не обязано иметь неподвижную точку. Даже если f имеет неподвижную точку, отсюда не следует существование такой постоянной с < 1. Например, для f(z) = z2, отображающего единичный диск
§2. Универсальные накрытия и метрика Пуанкаре 39 на себя, простые вычисления показывают, что \\Dfz\\ = 2|z|/(l + \z\2) принимает значения сколь угодно близкие к +1. Очень важный пример приложения теоремы 2.11 представляет вложение i: S —>• Sf, где Sf — гиперболическая риманова поверхность и S — связное открытое подмножество. Если S ф S'', то из теоремы 2.11 следует, что dist5'(p, q) < dists(p, q) (2 : 6) для любых p ф q в S. Таким образом, расстояния, измеренные на большей римановой поверхности, всегда меньше. Более точные формы этого неравенства см. в теореме 3.4 и в следствии А.8 в приложении. Задачи Задача 2-а. Собственно разрывные группы. Пусть S — од- носвязная риманова поверхность, а Г С ^(S) — дискретная подгруппа автоморфизмов. То есть предположим, что единичный элемент является изолированной точкой Г в группе Ли ^(S). Покажите, что если всякий нетождественный элемент Г действует на S без неподвижных точек, то действие Г является собственно разрывным. Это означает, что для каждого компакта К С S только конечное множество элементов j Е Г удовлетворяет неравенству К ilj(K) ф 0. Покажите, что каждая точка z Е S имеет окрестность U, для которой образы j(U) попарно не пересекаются. Выведите отсюда, что S/Г — корректно определенная риманова поверхность, у которой S является универсальным накрытием. Более общо, аналогичные утверждения справедливы для любой дискретной группы изометрий риманова многообразия. С другой стороны, покажите, что свободная циклическая группа, состоящая из всех преобразований z \-^ 2nz плоскости С при z Е Ъ образует дискретную подгруппу в У (С), которая действует не собственно разрывно. Задача 2-Ь. Поднятие в универсальное накрытие. Пусть S = В/Г и Sf = В/Г' — гиперболические поверхности. Покажите, что всякое голоморфное отображение f: S —>• Sf поднимается до голоморфного отображения f: Ш) —у Ш) единственным образом с точностью до
40 Римановы поверхности композиции с элементом группы Г'. Покажите, что f индуцирует групповой гомоморфизм 7 •->• Y из Г в Г' удовлетворяющий тождеству /°7 = 7'°/ для каждого j Е Г. Покажите, что f является накрывающим отображением тогда и только тогда, когда f — конформный автоморфизм. Задача 2-е. Геодезические метрики Пуанкаре. Покажите, что каждая геодезическая метрики Пуанкаре в верхней полуплоскости является прямой линией либо полуокружностью, пересекающей вещественную ось под прямым углом. (Ср. задачу 1-f. Соответствующее утверждение для произвольной римановой поверхности состоит в том, что кривая, состоящая из неподвижных точек изометрической инволюции, является геодезической.) Покажите, что расстояние Пуанкаре между w\, W2 G IH равняется логарифму сложного отношения четырех точек х(а, wi, W2, /3), определенного в задаче 1-е, если геодезическая этой метрики, проходящая через wi и W2, пересекает дШ = EUoo е точках а и /3. Покажите, что каждая окрестность метрики Пуанкаре Nr(wo, diste) в верхней полуплоскости ограничена евклидовой окружностью, но wo не является ее евклидовым центром. Докажите соответствующее утверждение для единичного диска. Задача 2-d. Действие группы ^(Ш)). Покажите, что при действии У(Щ две заданные точки из Ш) отображаются в другую пару заданных точек в Ш) тогда и только тогда, когда расстояние Пуанкаре в этих парах одинаково. Покажите, что действие У(Щ на граничной окружности дИ) переводит три заданные точки в другие три заданные
§2. Универсальные накрытия и метрика Пуанкаре 41 точки тогда и только тогда, когда обе эти тройки точек имеют одинаковый циклический порядок. Задача 2-е. Классификация автоморфизмов Ш). Покажите, что автоморфизм Ш или Ш) гиперболичен (см. задачу 1-d) тогда и только тогда, когда он переводит некоторую геодезическую метрики Пуанкаре в себя без неподвижных точек. Задача 2-f. Бесконечная полоса, цилиндр и кольцо. Определим бесконечную полосу В С С ширины -к как множество всех z = x + iy таких, что \у\ < п/2. Покажите, что экспоненциальное отображение изоморфно переводит В на правую полуплоскость. Покажите, что метрика Пуанкаре на В имеет вид ds = |dz|/cos2/. (2 : 7) Покажите, что вещественная ось является геодезической, на которой длина дуги в метрике Пуанкаре совпадает с ее обычной евклидовой длиной; и что каждый вещественный параллельный перенос z ^ z + с является гиперболическим автоморфизмом В, имеющим своей единственной инвариантной геодезической вещественную ось. Для любого с > О построим цилиндр Sc = B/(cL), факторизуя В с помощью склейки z « z + с. По определению, модулем mod(S'c) полученного цилиндра называется отношение п/с высоты к длине окружности. Покажите, что цилиндр с его метрикой Пуанкаре имеет единственную простую замкнутую геодезическую такую, что length = с = 7г/ mod(S'c). Покажите, что Sc конформно изоморфно кольцу ^ = {^GC; 1 < \z\ < r}, где In r = 2п2/с. Выведите отсюда, что mod(*/P) = ^ является конформным инвариантом. Задача 2-g. Абелевы фундаментальные группы. Покажите, что каждая гиперболическая поверхность с абелевой фундаментальной
42 Римановы поверхности группой конформно изоморфна либо диску Ш), либо диску с выколотой точкой Ш)\ {0}, либо кольцу dr для некоторого однозначно определенного г > 1. (Ср. теорему 1.12 и задачи 1-е, 2-f.) Покажите, что это кольцо имеет единственную простую замкнутую геодезическую, длина которой равна 27Г2/ In г. С другой стороны, покажите, что диск с выколотой точкой В\{0} не имеет замкнутых геодезических. (И диск с выколотой точкой, и плоскость с выколотой точкой могут рассматриваться как предельные случаи кольца, модуль которого стремится к бесконечности.) Покажите, что группа конформных автоморфизмов ^(Ш)\{0}) диска с выколотой точкой изоморфна группе вращений SO(2), в то время как группа конформных автоморфизмов кольца изоморфна неабелевой группе О(2). Вычислите группу конформных автоморфизмов для С\{0}. Используя теоремы 1.10, 1.12 и задачу 2-Ь, покажите, что риманова поверхность допускает однопараметрическую группу конформных автоморфизмов тогда и только тогда, когда ее фундаментальная группа абелева. Задача 2-h. Гауссова кривизна. Гауссова кривизна конформной метрики ds = j(w)\dw\ при w = и + iv определяется формулой „ Гч+%- 7(7 11 — 4 ' 7 где нижние индексы обозначают частные производные. (Ср. Уиллмор, стр. 79.) Проверьте, что метрики Пуанкаре (2:2), (2:3) и (2:7) имеют кривизну К = —1, и что сферическая метрика (2:4) имеет кривизну К = +1. Задача 2-i. Метрики постоянной кривизны. Теорема Хайнца Хопфа утверждает, что для любого вещественного числа К с точностью до изометрии существует одна и только одна полная односвязная поверхность постоянной кривизны К. (Ср. Уиллмор, стр. 162.) Используя этот результат, покажите, что всякая несферическая риманова поверхность имеет одну и, с точностью до постоянного множителя, только одну полную конформную риманову метрику постоянной гауссовой кривизны. С другой стороны, покажите, что риманова сфера С имеет трехмерное семейство различных конформных римановых метрик кривизны +1.
§2. Универсальные накрытия и метрика Пуанкаре 43 Задача 2-j. Неподвижные точки и сжимающие отображения. Для гиперболической поверхности S покажите, что голоморфное отображение f:S^S может иметь не более одной неподвижной точки, если только некоторая итерация fok не является тождественным отображением. (Случай накрывающего отображения S в себя требует особых предосторожностей.) С другой стороны, покажите, что любая негиперболическая поверхность допускает нетождественное голоморфное отображение, имеющее более одной неподвижной точки. Мы будем говорить, что отображение f: X —у X метрического пространства в себя является строго сжимающим, если существует постоянная О < с < 1 такая, что dist(f(x),f(y))^cdist(x,y) (2:8) для любых точек х, у Е X. Для полного метрического пространства X покажите, что все орбиты строго сжимающего отображения сходятся к единственной неподвижной точке. В частности, это утверждение применимо к отображению в себя гиперболической поверхности, всякий раз когда неравенство (2:8) выполняется. Однако, пример z —у z2 на единичном диске показывает, что такое отображение с единственной неподвижной точкой может и не удовлетворять неравенству (2:8), а пример отображения w \-> w + i верхней полуплоскости показывает, что сжимающее относительно метрики Пуанкаре отображение может и не иметь неподвижных точек. Задача 2-к. Отсутствие нетривиальных голоморфных аттракторов. В динамике вещественной переменной часто наблюдаются очень сложные аттракторы, то есть такие компактные множества К, что f(K) — К и для всякой орбиты хо —у х\ —у ... в некоторой окрестности К последовательности dist(#n, К) равномерно сходятся к нулю. Покажите, что для голоморфного отображения f: S —У S такая картина не наблюдается. Покажите, что если К С S компактное множество, для которого f(K) = К, и f отображает некоторую связную гиперболическую окрестность U компакта К в ее собственное подмножество, то f является строго сжимающим на К относительно метрики distc/? и, следовательно, К состоит из единственной точки. Задача 2-1. Теорема Пикара в окрестности бесконечной точки. Используя метрику Пуанкаре, показать, что для любого голо-
44 Римановы поверхности морфного отображения /: Ш) \ {0} —>• Ш) образ достаточно малого кольца Е\ ^ |^гг | ^ 82 ограничен двумя малыми петлями и, следовательно тоже мал. Выведите отсюда, что f продолжается непрерывно, а следовательно, и голоморфно, (см. например, Алъфорс (1966), стр. 124) до отображения Ш) —у Ш). Аналогичным образом, покажите, что любое голоморфное отображение изШ\ {0} в сферу с тремя выколотыми точками С \ {а, о, с} продолжается до голоморфного отображения Ш) —у С. Используя этот результат, докажите сильную теорему Пикара: Утверждение. Если /: С —>■ С голоморфно, но не полиномиально, то для каждой окрестности бесконечной точки С \ Ш)г образ /(С \ Ш)г) принимает в С все значения, кроме, быть может, одного. Фактически f принимает все эти значения в С, кроме, быть может, одного, бесконечно много раз. § 3. Нормальные семейства: теорема Монтеля Пусть S и Т — римановы поверхности. В этом параграфе будет изучаться компактность на функциональном пространстве Но1(5, Т), состоящем из всех голоморфных отображений из S в Т. Вначале определим топологию на этом пространстве и на более широком пространстве Мар(5,Т), состоящем из всех непрерывных отображений из S вТ. Эта топология известна в комплексном анализе как топология равномерной сходимости на компактных подмножествах или, более кратко, как топология локально-равномерной сходимости. Она известна топологам как компактно-открытая топология (задача 3-а) или как С®-топология. Определение 3. * Пусть X — локально-компактное пространство и Y — метрическое пространство. Для любого f из пространства Мар(Х, Y) непрерывных отображений из X в Y мы определим семейство NK £(f) как базу окрестностей отображения f следующим образом: для любого компактного подмножества К С X и любого е > 0 обозначим через NK £(f) множество всех g Е Мар(Х, Y), удовлетворяющих условию: dist(/(^), g(x)) < е для всех х Е К. Подмножество °Ы С Мар(Х, Y) называется открытым тогда и только тогда, когда для любого f Е °U существуют Кие, как и выше, такие, что окрестность NK £(f) из базы окрестностей содержится в °Ы.
§3. Нормальные семейства: теорема Монтеля 45 3.1. Лемма. Топология локально-равномерной сходимости. В указанных выше обозначениях Мар(Х, Y) является корректно определенным хаусдорфовым пространством. Последовательность функций fi Е Мар(Х, Y) сходится к предельной функции g в этой топологии тогда и только тогда, когда: (1) для любого компакта К С X последовательность функций п : К —>• У равномерно сходится к g\ к к или, что эквивалентно, тогда и только тогда, когда (2) каждая точка из X имеет окрестность N такую, что последовательность {/А } равномерно сходится к g\ . \N \N Эта топология на Мар(Х, Y) зависит только от топологий на X uY и не зависит от конкретного выбора метрики на Y. Более того, если X является а-компактом, то Мар(Х, Y) само является метризуемым топологическим пространством. Доказательство. Первые два утверждения немедленно следуют из определений. Для доказательства независимости топологии от метрики на Y опишем несколько иную форму определения, зависящую только от топологии на Y. Пусть U — произвольная окрестность диагонали в прямом произведении Y xY. Для любого компакта К С X и любого f Е Map(X, Y) положим NK,uU) = tee Map(X, Y); (/(*), g{x)) G U Vx G K}. Для данных К и U нетрудно построить е > 0 такое, что каждая пара (/(ж), у) при х G К и dist(/(^), у) < е принадлежит этому множеству U, и отсюда следует, что NK £(f) С NK v(f). С другой стороны, если U(e) — множество всех пар (у, у') таких, что dist(2/, у') < е, то NK £(f) = NK jj(£)(f)- Следовательно, если мы возьмем в качестве «базы окрестностей» {NK u(f)}, то мы получим ту же топологию без использования какого-либо выбора метрики. Теперь предположим, что X является а-компактом, т. е. представим в виде счетного объединения своих компактных подмножеств. Поскольку X также предполагается и локально-компактным, мы можем выбрать компактные множества К\ С К2 С ... так, что X — объединение Кп, и что каждое Кп содержится во внутренности Кп+\. По соображениям удобства заменим данную метрику dist(2/, у') на огра-
46 Римановы поверхности ничейную метрику /х(1/, у') = Min(dist(i/, у'), 1) ^ 1, которая, очевидно, индуцирует ту же топологию. Определим «локально- равномерное расстояние» между двумя отображениями из X вУ по формуле: а*'(/, g) = E h' Max{M/(*)' Ф)у, * g кп}. п Мы должны показать, что эта метрика порождает требуемую топологию на Мар(Х, Y). Пусть N'£(f) — е-окрестность f в этой метрике р!. Для данного е мы можем выбрать п так, что 1/2п < е/2, и положить К = Кп. Отсюда легко проверить, что NK £/2(f) С N£(f). Обратно, для данных Кие мы можем выбрать п так, чтобы К С Кп, и проверить, что N'£,2n(f) С NK £(f). Следовательно, эти две топологии совпадают. ■ Теперь мы будем рассматривать отображения римановых поверхностей S и Т. Так как, согласно следствиям 2.2 и 2.10, каждая ри- манова поверхность является метризуемым а-компактом, мы получаем корректно определенное метризуемое топологическое пространство Мар(5, Т). Из теоремы Вейерштрасса 1.4 легко следует, что пространство Но1(5, Т) голоморфных отображений является замкнутым подмножеством в Мар(5, Т). 3.2. Теорема. Гиперболическая компактность. Если S и Т — гиперболические римановы поверхности, то пространство Но1(5, Т) голоморфных отображений локально-компактно и а-компактно. Более того, если К С S и К' С Т — непустые компактные подмножества, то множество всех голоморфных отображений f:S—>T, удовлетворяющих f(K) С К', является компактным подмножеством в Но1(5, Т). В частности, если Т само является компактом, то и все пространство Но1(5, Т) компактно. Более общо, если ко Е S — произвольная точка, то отображение Но1(5, Т) -► Т, определяемое соотношением f и-» f(ko), является собственным, то есть прообраз любого компактного множества К' С Т является компактным подмножеством в Но1(5, Т).
§3. Нормальные семейства: теорема Монтеля 47 Заметим, что эти утверждения очевидным образом несправедливы в негиперболическом случае. Например, если S = Т либо риманова сфера С, либо комплексная плоскость С, либо фактор-пространство C/Z, либо С/Л, то последовательность отображений z н->- nz в Hol(5, S) переводит компактное множество К = К' = {0} в себя и, несмотря на это, не имеет сходящейся последовательности, т. к. последовательность из первых производных в нуле расходится. В самом деле, пространство Но1(С, С) всех рациональных отображений локально- компактно, но не компактно, тогда как пространство Но1(С, С) не является даже локально-компактным. (Задача 3-е.) Доказательство теоремы 3.2 основано на теореме Больцано- Вейерштрасса, в которой утверждается, что метрическое пространство компактно в том и только том случае, когда каждая бесконечная последовательность точек пространства содержит сходящуюся подпоследовательность. (Задача З-d.) Следовательно, достаточно показать, что любая последовательность голоморфных отображений fn: S —>■ Т таких, что fn(K) С К', содержит сходящуюся подпоследовательность. Из 2.2 легко следует, что риманова поверхность S содержит счетное плотное подмножество {sj}, и мы можем считать, что si Е К. Так как К' — компакт, то последовательность образов точки fn(si) Е К', конечно же, содержит сходящуюся подпоследовательность. Значит, мы можем вначале выбрать бесконечную подпоследовательность {fn(p)} последовательности fn так, чтобы последовательность образов fn(p)(si) сходилась к t\ Е Т. Отсюда, согласно 2.9 и 2.11, следует, что последовательность образов fn(p){s2) точки s2 лежит внутри некоторого компактного подмножества Т. Значит, мы можем выбрать подподпоследовательность {fn(p(q))} такую, что fn(p(q))(s2) сходится к некоторому пределу ^2- Далее продолжаем по индукции. С помощью процедуры диагонализации, беря первый элемент первой подпоследовательности, второй элемент второй подпоследовательности и так далее, мы построим новую бесконечную последовательность отображений gm = fnm так, что предел lim gm(sj) = tj € Т существует 171 га—>-оо для любого фиксированного j. Мы утверждаем, что эта новая последовательность {gm} сходится равномерно на любом компактном подмножестве S к голоморфному отображению g: S —>• Т. Для любого заданного компактного подмножества L С S и любого е > 0 мы можем покрыть L конечным набором шаров радиуса е с центрами в Sj. Другими словами, мы можем выбрать из подмножест-
48 Римановы поверхности ва {sj} конечное множество точек так, что для любого z Е L найдется такое Sj, что dists(£, Sj) < е, здесь dists — метрика Пуанкаре. Далее мы можем выбрать щ так, что distr(gm(sj), gn(sj)) < £ для каждого из конечного множества Sj, как только т, п > щ. Для любого z Е L, используя теорему 2.11 и неравенство треугольника, имеем distT(gm(z), gn(z)) < Зг, если т, п > щ. Следовательно, gm(z) — последовательность Ко- ши. Значит, последовательность функций {gm\L} равномерно сходится к пределу. В силу произвольности L отсюда следует, что {gm} локально-равномерно сходится к предельной функции, которая должна принадлежать Но1(5, Т). Следовательно, по теореме Больцано -Вейерштрас- са множество всех f Е Но1(5, Т) таких, что f(K) С К', компактно. В частности, отсюда следует, что отображение f и-» /(&о) из Но1(5, Т) вТ является собственным. Так как Т локально-компактно и а-компактно, то Но1(5, Т) также является локально-компактным и а -компактным. ■ Нормальные семейства. Введем предварительное определение. Семейство 3 голоморфных отображений римановой поверхности S в компактную риманову поверхность Т называется нормальным семейством, если его замыкание 3* С Но1(5, Т) — компактное множество или, что эквивалентно, если любая бесконечная последовательность функций fn Е 3 содержит локально-равномерно сходящуюся к некоторой предельной функции g: S —>• Т подпоследовательность. Мы будем рассматривать также и случай некомпактной поверхности Т. Для этих целей нам потребуется следующее определение. Последовательность точек tn некомпактной поверхности Т стремится к бесконечности в Т, если для любого компактного множества К С Т для достаточно больших п tn fi К. (Здесь ограничение «в Т» существенно! Например, последовательность точек i/n стремится к бесконечности в верхней полуплоскости Ш, но стремится к 0 в С) Аналогично, мы будем говорить, что последовательность функций fn: S —>■ Т локально-равномерно стремится к бесконечности в Т, если для любых компактных множеств К С S и К' С Т для достаточно больших п fn(K) f]Kf = 0. (Конечно, это невозможно, если Т компактно.) Определение 4- * Семейство 3 отображений римановой поверхности S в (возможно некомпактную) риманову поверхность Т будет называться нормальным, если любая бесконечная последовательность
§3. Нормальные семейства: теорема Монтеля 49 отображений из & содержит либо локально-равномерно сходящуюся подпоследовательность, либо локально-равномерно стремящуюся к бесконечности в Т подпоследовательность. Теперь мы можем переформулировать 3.2 следующим образом. 3.3. Следствие. Если S иТ гиперболичны, то каждое семейство & голоморфных отображений из S в Т нормально. Доказательство. Зафиксируем s0 £ S и to Е Т. Если множество образов {f(so); f G ^} лежит в некотором компактном подмножестве К' С Т, то из теоремы 3.2 немедленно следует, что 3* компактно. В противном случае можно выбрать бесконечную последовательность отображений fn Е 3* так, чтобы расстояние Пуанкаре distrl^o? fn(so)) стремилось к бесконечности. Тогда из теоремы Пика 2.11 легко следует, что эта последовательность отображений fn локально-равномерно стремится к бесконечности в Т. ■ В качестве приложения этого результата мы можем сравнивать метрики Пуанкаре на паре римановых поверхностей S С S'. (Ср. (2:6.)) Мы будем использовать обозначение Nr(p) С S для открытой окрестности, имеющей в метрике Пуанкаре радиус г, т. е. состоящей из всех таких q Е S, что dists(p, q) < г. 3.4' Теорема. Метрика Пуанкаре вблизи границы. Пусть S С S' — римановы поверхности, причем S является гиперболической, и пусть pi, р2, ... — последовательность точек из S, которая сходится (в топологии Sf) к граничной точке р Е 8S С S'. Тогда для любого наперед заданного г все семейство Nr(pj) равномерно сходится к р при j —у ос. Если замыкание S компактно в Sf, то, выбрав некоторую метрику на Sf, согласованную с ее топологией, можно сформулировать следующее более сильное утверждение: диаметр окрестности Nr(pj) в этой выбранной на Sf метрике равномерно стремится к нулю при стремлении pj к 8S. (Более точную количественную оценку в случае открытого одно- связного S С С см. в приложении А.8.) Доказательство теоремы 3.4. Вначале сформулируем следующий предварительный результат. Если К — любое компактное подмножество в S и если {pj} сходится к 8S, то Nr(pj) f]K = 0 для достаточно больших j. Чтобы убедиться в этом, фиксируем точку ко в К. Пусть гК — диаметр К. Тогда
50 Римановы поверхности из леммы 2.9 следует, что Nr+r (ко) — компакт. Для достаточно больших j точки pj лежат вне этого компактного множества, и, следовательно, Nr(pj) не пересекается с К. Пусть N® С Ш — диск радиуса г в метрике Пуанкаре с центром в какой-либо точке единичного диска. Если S — универсальное накрытие S^ то после композиции подходящего изоморфизма Ш) = S с проекцией S —>■ S можно построить накрывающее отображение fj: Ш) —у S такое, что fj(0) = Pj- Очевидно, что Nr(pj) может рассматриваться как образ fj(N®) этого стандартного диска. Заметим, что для любого достаточно большого компактного множества К С S каждая компонента Sf\K является гиперболической ри- мановой поверхностью. Для достаточно больших j отображения fj\N0 принимают значения в Sf\K и, следовательно, образуют нормальное семейство. Если все pj лежат в некотором компактном подмножестве S' (например, если последовательность {pj} сходится к некоторой точке S'), то можно выбрать подпоследовательность такую, что fj I 0 локально-равномерно сходится к предельному голоморфному отображению f: N® —>• S'\K. (В самом деле, поскольку мы можем применить те же рассуждения для диска радиуса г + 1, то эта подпоследовательность равномерно сходится в замкнутом диске Nr). Мы утверждаем, что f должно отображать весь диск N® в единственную точку границы из dS С Sf. Если это предельное отображение непостоянно, то образ f(N®) будет открытым подмножеством в Sf\K. Следовательно, этот образ пересекает S. Но это невозможно, поскольку S может быть исчерпано последовательностью компактных подмножеств К\ С К2 С ..., и вышеприведенные рассуждения показывают, что f(Ny) не пересекается с каждым Кп. Здесь мы рассматривали только некоторую подпоследовательность из Nr(pj). Теперь мы вернемся к изучению всей последователь-
§3. Нормальные семейства: теорема Монтеля 51 ности. Выберем метрику dist'(p, q) на пространстве Sf, и пусть d'- — диаметр множества Nr(pj) С S С S' в метрике dist'. Мы покажем, что последовательность d'j равномерно стремится к нулю. В противном случае можно выбрать подпоследовательность такую, что d'- ^ е > О, и затем выбрать подпоследовательность этой подпоследовательности так, чтобы fj |-=о равномерно сходилось к постоянному отображению, что очевидно невозможно. ■ 3.5. Лемма. Пусть даны римановы поверхности S и U С Т, и пусть fji S —> U — последовательность отображений, стремящаяся к бесконечности в U, но не в Т, тогда существует подпоследовательность, которая локально-равномерно сходится к постоянному отображению из S в граничную точку из dU С Т. Доказательство. Так как {fj} не сходится к бесконечности в Т, то можно выбрать компактные множества К С S и L С Т так, что fj(K)f]L ф 0 для счетного набора j. Перейдем к подпоследовательности и выберем точки kji G К так, чтобы образы /^(fcjj сходились к пределу £ G L. Вначале предположим, что S и U гиперболичны. Так как диаметр К конечен относительно метрики Пуанкаре в S, то из 3.4 и теоремы Пика следует, что образ fj{(K) целиком стремится к £. Снова применив 3.4, легко заключаем, что последовательность отображений fjt'.S^UcT локально-равномерно сходится к постоянному отображению К \-^ £ G 8U С Т, что и требовалось. Если S и U негиперболичны, то можно выбрать гиперболическую окрестность So компакта К С S с компактным замыканием и гиперболическое множество Uo вида Uo = U \ компакт. Вышеприведенные рассуждения показывают, что подпоследовательность последовательности fj, ограниченная на So, локально-равномерно сходится к постоянному отображению. Теперь утверждение теоремы следует из произвольности выбора So- Ш 3.6. Следствие. Пусть даны римановы поверхности S и U С Т. Семейство отображений из S eU нормально тогда и только тогда, когда оно нормально как семейство отображений из S в большее пространство Т. Доказательство тривиально. Объединяя следствия 3.6 и 3.3 и тот факт, что сфера с тремя выколотыми точками гиперболична (см. 2.4), мы получим следующее важное утверждение.
52 Римановы поверхности 3.7. Теорема (Монтель). Пусть S — риманова поверхность и пусть 3 — семейство голоморфных отображений f:S —У С, не принимающих трех различных значений. То есть предположим, что существуют три различные точки а, 6, с Е С такие, что f(S) С С С \ {а, 6, с} для любого f Е 3. Тогда 3 — нормальное семейство; то есть замыкание 3 С Но1(5, С) — компактное множество. Задачи Задача 3-а. Компактно-открытая топология. Пусть X и Y локально компактные пространства. Компактно-открытая топология на пространстве Мар(Х, Y) всех отображений определяется как слабейшая топология, то есть как топология с наименьшим запасом открытых множеств, в которой для любого компакта К С X и любого открытого U С Y множество отображений /: X —» Y таких, что f(K) С U, образует открытое подмножество в Мар(Х, У). Покажите, что для метризуемого У такая топология совпадает с топологией локально-равномерной сходимости, описанной в начале этого параграфа. Покажите, что операция композиции Л g^ g° f является непрерывным отображением из Мар(Х, У) х Map (У, Z) в Мар(Х, Z). Для открытого подмножества U С У покажите, что Мар(Х, U) вкладывается гомеоморфно как подмножество в Мар(Х, Y), однако не обязано при этом быть ни замкнутым, ни открытым. Пусть S и Т — римановы поверхности и U — связное открытое подмножество в Т. Покажите, что топологическая граница Но1(5, U) в Но1(5, Т) состоит в точности из постоянных отображений из S edU. Задача 3-Ь. Равномерная сходимость или расходимость? Рассмотрим семейство отображений fn(z) = z + n из С или С в себя. Покажите, что эта последовательность стремится к бесконечности равномерно в С. Покажите, что тем не менее в С эта последовательность не является локально равномерно сходящейся ни к конечной, ни к
§3. Нормальные семейства: теорема Монтеля 53 бесконечной точке, хотя она поточечно сходится к постоянной функции, которая отображает С в точку ос Е С. Покажите, что последовательность рациональных функций степени один gn(z) = l/(n2z — п) сходится поточечно к постоянной функции g(z) — 0, но эта сходимость не является локально-равномерной. Задача 3-е. Локальная компактность? Покажите, что пространство Но1(С, С) не является локально компактным, поскольку каждая окрестность нулевого отображения содержит последовательность полиномиальных отображений вида fn(z) = г(1 + ez + s2z2 + ... + snzn), которая не имеет предельных точек в Но1(С, С). Покажите также, что Но1(С, С) не является локально-компактным. Докажите, что если S и Т компактны, то Но1(С, С) локально-компактно.1 Задача З-d. Теорема Больцано-Вейерштрасса. Пусть X — метрическое пространство, в котором каждая бесконечная последовательность имеет точку накопления или, что эквивалентно, содержит сходящуюся подпоследовательность. Покажите, что для каждого е > О пространство X можно покрыть конечным множеством шаров радиуса е. Если X является объединением открытых подмножеств Ua, покажите, что из этого покрытия можно выбрать конечное подпокрытие, иными словами, покажите, что X компактно. Задача 3-е. Локальная нормальность. Покажите, что нормальность является локальным свойством. Более точно, пусть S и Т — произвольные римановы поверхности и {fa} — семейство голоморфных отображений из S в Т. Используя диагональный метод, как в доказательстве теоремы 3.2, покажите, что если каждая точка в S имеет окрестность U такую, что семейство {fa\jj} является нормальным в Hol(C/, T), то семейство {fa} само является нормальным. 1 Пространство Но1(5, С) мероморфных функций на S представляет особенный интерес. Например, для каждого d ^> 1 пространство Но1^(С, С) рациональных отображений степени d образует некомпактное комплексное (2с?+1)-мерное многообразие. (См., например, Сегал (1979) или Милнор (1993).) С другой стороны, существует поверхность S рода 5 такая, что пространство Но1(5, С) имеет особенности. (Частное сообщение Дж.Харриса.) Если пространство Т — тор, то каждая компонента связности Но1(5, Т) сама является тором, а если род поверхности Т больше или равен двум, то Hol(5, T) — конечное множество.
54 Римановы поверхности Задача З-f. Нормальность и производные. Пусть f: S —>• Т голоморфно. Для римановых метрик на римановых поверхностях S иТ определим норму производной функции f в точке s Е S как такое вещественное число ||/'(s)|| ^ О, что индуцированное линейное отображение из касательного пространства к S в точке s в касательное пространство к Т в точке f(s) переводит вектор длины 1 в вектор длины ||/'(s)||. Покажите, что если Т компактно, то семейство 3 отображений f:S^T нормально тогда и только тогда, когда множество их норм ||/'(s)|| равномерно ограничено при всех f Е 3* и s Е К для любого компактного подмножества К С S. Задача З-g. Одноточечная компактификация. Пусть X — локально-компактное пространство и X U оо — топологическое пространство, полученное добавлением одной бесконечной точки к X так, что база окрестностей ос определяется дополнениями к компактным подмножествам в X. Покажите, что XUoo является компактным ха- усдорфовым пространством, и что если X метризуемо и а-компактно, то X U оо также метризуемо. Пусть теперь S и Т некомпактные римановы поверхности. Покажите, что замыкание Но1(5, Т) в большем пространстве Мар(5, Т U оо) состоит мзНо1(5, Т), пополненном постоянным отображением [оо], которое переводит всю поверхность S в точку оо. Для гиперболических поверхностей S и Т покажите, что это замыкание Hol(5, T) U [оо] С Map(S, T U оо) компактно и может быть отождествлено с одноточечной компакти- фикацией Hol(5, T).
Итерированные голоморфные отображения § 4. Фату и Жюлиа: динамика на римановой сфере Исследования локального поведения итерированных голоморфных отображений в окрестности неподвижной точки были хорошо развиты в конце XIX-го века. (См. §§ 8-10 и монографию Александера.) Тем не менее, за исключением очень простого случая, изученного Шредером и Кэли (см. задачу 7-а), о глобальном поведении итерированных голоморфных отображений не было известно ничего вплоть до 1906 г., когда Пьер Фату описал следующий поразительный пример. Он показал, что для отображения z и-» z2 /(z2 + 2) почти все орбиты при итерациях стремятся к нулю, несмотря на то, что существует канторово множество исключительных точек, для которых орбиты остаются отграниченными от нуля. (Задачи J^-e,j.) Это привлекло огромный интерес специалистов. После вызванного первой мировой войной перерыва эти результаты были углублены Фату, а также Гастоном Жюлиа и другими, в числе которых были С. Латтэ и Дж. Ф. Рит. Наиболее весомый и внушительный вклад сделал сам Фату, однако Жюлиа составлял ему сильную конкуренцию и имел некоторые преимущества, связанные с его статусом раненого героя войны. В 1918 г. Жюлиа получил «Гран-При Математических Наук» Парижской Академии наук за свою работу. Определение 5. * Пусть S — компактная риманова поверхность, f:S^S — непостоянное голоморфное отображение, a fon : S —>• S — его п-кратная итерация. Область нормальности семейства итераций {/оп} называется областью Фату Fatou(/)/ а его дополнение S \ Fatou(/) называется множеством Жюлиа J = Julia(f). Таким образом, для любой точки р0 £ S мы имеем следующую дихотомию. Если существует окрестность U точки р0 такая, что последовательность 1 Выбор того, какое именно из этих двух множеств называть множеством Фату, а какое — множеством Жюлиа, достаточно произволен, но термин «множество Жюлиа» к настоящему времени уже устоялся. Заметим, однако, что такая форма определения J фактически принадлежит Фату. Определение Жюлиа приводится в § 14. Множество Фату S \ J иногда называется и по-другому: «стабильным» или «нормальным» множеством.
56 Итерированные голоморфные отображения итераций {fon}, ограниченых на U, образует нормальное семейство отображений из U в S, то мы будем говорить, что р0 принадлежит множеству Фату f'. В противном случае, если такой окрестности не существует, мы будем говорить, что ро принадлежит множеству Жюлиа. Таким образом, из самого определения следует, что множество Жюлиа J является замкнутым подмножеством S, в то время как множество Фату S \J является дополнительным к нему открытым подмножеством. Мы увидим, что точка р0 принадлежит множеству Жюлиа тогда и только тогда, когда динамика в окрестности этой точки демонстрирует «чувствительную зависимость от изменений начальных данных», то есть близкие начальные данные порождают совсем другой характер поведения траектории после большого (а иногда и не очень большого) числа итераций. (Ср. задачи 4~h, а также следствие Ц.2.) Классическим примером, на котором мы остановимся подробнее, является случай ^имановой сферы S = С = С U ос. Любое голоморфное отображение f:C—>C римановой сферы можно задать с помощью рациональной функции, то есть как отношение f(z) = p(z)jq(z) двух многочленов. Здесь естественно предполагать, что p(z) и q(z) не имеют общих корней. Тогда степенью d функции f = p/q назовем максимальную из степеней таких многочленов р и q. При любом выборе постоянной с £ С (за исключением конечного числа возможностей) эта степень может быть описана как число различных решений уравнения f(z) = = с. Обычно мы будем предполагать, что d ^ 2, заведомо подразумевая, что d ^ 1, то есть в дальнейшем f всегда будет непостоянным отображением С в себя. В качестве простого примера рассмотрим отображение возведения в квадрат s: z н-» z2 на С. Весь открытый диск Ш) целиком содержится во множестве Фату этого отображения s, т. к. последовательные итерации s на любом компактном подмножестве равномерно сходятся к нулю. Аналогично, дополнение С\Ш) содержится во множестве Фату, т. к. итерации s сходятся к постоянной функции z н-» ос вне Ш). С другой стороны, если zo принадлежит единичной окружности, то в любой окрестности zo любой предел итераций son должен обязятелъно иметь разрыв первого рода при пересечении единичной окружности. Это показывает, что множество Жюлиа J(s) является в точности единичной окружностью.
§4. Фату и Жюлиа: динамика на римановой сфере 57 Рис. 1а. Простая замкнутая кривая, множество Жюлиа для отображения z\-+ z2 + (0.99 + 0.14г)£ Рис. lb. Вполне несвязное множество Жюлиа для отображения z^z2 + (-0.765 + 0.12г) Такие гладкие множества Жюлиа являются редкостью. (Ср. § 7.). На рисунке 1 показаны несколько типичных примеров множеств Жю-
58 Итерированные голоморфные отображения лиа (окрашенных черным) для квадратичных полиномиальных отображений. Рисунок 1а показывает достаточно дикую кривую Жордана, рисунок lb — достаточно массивное канторово множество, рисунок 1с — «дендрит», а на рисунке Id изображено множество Жюлиа, которое разбивает плоскость на бесконечное количество «компонент Фату». (На последнем из этих рисунков стрелки схематически показывают, какие части этого множества куда отображаются.) Для каждого из этих примеров ввиду четности функции f(x) множества Жюлиа центрально симметричны. Три примера неполиномиальных множеств Жюлиа, показанные на рисунке 2, описаны в Мак-Муллен (1988), Милнор (1993) и, соответственно, в Блехер и Любич. Рис. 1с. «Дендрит», множество Жюлиа для отображения z \-ь z2 + i Мы перечислим несколько основных свойств множеств Жюлиа. 4-1. Лемма об инвариантности. Множество Жюлиа J=Julia(/) голоморфного отображения f:S^S вполне инвариантно относительно отображения f. Это означает, что z Е J тогда и только
§4. Фату и Жюлиа: динамика на римановой сфере 59 Рис. Id. Множество Жюлиа для отображения z \-> z2 — 1,75488 ..., «аэроплан» тогда, когда f(z) Е J. Полностью эквивалентное утверждение состоит в том, что множество Фату вполне инвариантно. Действительно, для любого открытого множества U С S некоторая последовательность итераций fonJ равномерно сходится на компактных подмножествах в U тогда и только тогда, когда соответствующая последовательность итераций f071^1 равномерно сходится на компактных подмножествах в открытом множестве /_1(£У). Оставшиеся детали предоставляюся читателю. ■ Отсюда следует, что множество Жюлиа имеет высокую степень самоподобия: Если для точек z\ и z2 — f(zi) во множестве J(f) выполняется неравенство f'(zi) ф 0, то существует индуцированный конформный изоморфизм из некоторой окрестности N± точки z\ в окрестность N2 точки Z2, переводящий N± П J(f) в точности на N2 П J(/). (Ср. задачу 4~d.) 4.2. Лемма об итерации. Для любого к > О множество Жюлиа J(fok) к-кратной итерации отображения f совпадает со множеством Жюлиа J(f). Схема доказательства. Как и выше, мы можем эквивалентным образом рассматривать вместо J его дополнение Fatou(/) = S\J. Например, предположим, что z Е Fatou(/o/). Это означает, что для некоторой окрестности U точки z последовательность всех четных итераций fo2n\ содержится в компактном подмножестве К С Hol(C/, S).
60 Итерированные голоморфные отображения Значит, каждая итерация отображения f', ограниченная на U, принадлежит компактному множеству K\j(f о К) С Hol(C/, S), следовательно, z принадлежит множеству Фату отображения f. Остальные детали также предоставляются читателю. ■ Определение 6. * Пусть S — произвольная риманова поверхность, не обязательно компактная, и f: S —>■ S — голоморфное отображение. Рассмотрим периодическую орбиту или «цикл» /: z0 H> Zi Н> ... н> zm-x \-> zm = z0. Если все точки z\, ... , zm попарно различны, то число т ^ 1 называется периодом. Первая производная т-кратной итерации fom в любой точке орбиты корректно определена и называется мультипликатором орбиты. Если риманова поверхность S является открытым подмножеством в С, то имеет место формула умножения X = (rmy(zi) = f'(z1)-f(z2)---f'(zm). В частности, Л = 0 тогда и только тогда, когда некоторая точка Zj орбиты является критической для f, то есть когда первая производная f обращается в нуль в этой точке. Более общо, для отображения римановой поверхности в себя, используя локальный униформизирующий параметр, то есть локальную систему координат в окрестности каждой точки орбиты, можно получить соответствующую формулу умно- жения. Произведение Л не зависит от выбора униформизирующих параметров. По определению периодическая орбита является либо притягивающей, либо отталкивающей, либо нейтральной, согласно тому, какому соотношению |Л| < 1, или |Л| > 1, или |Л| = 1 удовлетворяет мультипликатор Л. Ср. § 8. Орбита будет называться суперпритягива- ющей, если Л = 0 и геометрически притягивающей, если 0 < |А| < 1. Например, отображение, показанное на рисунке Id, имеет суперпритя- гивающую орбиту порядка три. Предостережение. В специальном случае, когда бесконечная точка является периодической относительно рационального отображения, fom(oo) = oo? это определение может быть некорректным. Мультипликатор Л не равен пределу при z —>• ос производных итерации fom(z), но оказывается равным обратной величине этого предела (задача 4~с.) Например, если f(z) = 2z, то ос является притягивающей неподвижной точкой с мультипликатором Л = 1/2, в то время как для полино-
§4. Фату и Жюлиа: динамика на римановой сфере 61 z н> z2 - O.OOOOl/^3 z^-0.138(z + l/z) -0.303 z .-> (2z/(l + z2)) 2\\2 Рис. 2. Множества Жюлиа для трех рациональных отображений миалъного отображения f степени d ^ 2 бесконечная точка является суперпритягивающей неподвижной точкой и А = 0. Определение 7. * Пусть 6 — притягивающая орбита периода га;
62 Итерированные голоморфные отображения определим область притяжения, как открытое множество «^cS, состоящее из всех точек z Е S, для которых последовательные итерации fom(z), fo2m(z), ... сходятся к некоторой точке из 6. В предположении, что S компактно, мы получаем следующее утверждение. 4.3. Лемма. Области притяжения и отталкивающие точки. Каждая притягивающая периодическая орбита содержится во множестве Фату отображения f. В действительности, для притягивающей периодической орбиты во множестве Фату содержится вся область притяжения d. Однако каждая отталкивающая периодическая орбита содержится во множестве Жюлиа. Доказательство леммы 4.3. Сначала рассмотрим неподвижную точку zo = f(zo) с мультипликатором А. Если |Л| > 1, то никакая последовательность итераций отображения f не может сходиться равномерно в окрестности zo, поскольку первая производная итерации fon в точке zo равна Хп, что стремится к бесконечности при п —>• ос. (Ср. теорему Вейерштрасса 1.4 о равномерной сходимости.) С другой стороны, если |Л| < 1, то, выбирая |Л| < с < 1, из разложения в ряд Тейлора следует, что \f(z) — — %о\ ^ ^ c\z — zo\ при z достаточно близких к zq. Значит, последовательные итерации f, ограниченные на малую окрестность, равномерно сходятся к постоянному отображению z и-» zq. (Cm. подробности в лемме 8.1.) Соответствующее утверждение для произвольного компактного подмножества области d легко отсюда следует. Эти утверждения о неподвижных точках с помощью леммы 4-2 обобщаются немедленно и на периодические точки, поскольку периодические точки — это неподвижные точки некоторых итераций fom. щ Случай нейтральной неподвижной точки намного сложнее. (Ср. §§ 10,11.) Здесь особенно важен следующий случай. Определение 8. * Периодическая точка zo = fon(zo) называется параболической, если ее мультипликатор А в точке zo равен +1, а само отображение fon тождественным не является, или, более общо, если А является корнем из единицы, никакая итерация f не является тождественным отображениям. Например, обе неподвижные точки рационального отображения f(z) = z/(z — 1) имеют мультипликаторы, равные — 1. Однако, эти точки не являются параболическими, поскольку f о f(z) тождественно равно z.
§4. Фату и Жюлиа: динамика на римановой сфере 63 Мы исключаем такие случаи с тем, чтобы следующее утверждение было справедливым. 4-4- Лемма. Параболические точки. Каждая параболическая точка принадлежит множеству Жюлиа. Доказательство. Пусть w — локальный униформизующий параметр, такой, что его значение w = О соответствует периодической точке. Тогда некоторая итерация fom соответствует локальному отображению окрестности плоскости w, описываемому разложением в ряд вида w \-у w + aqwq+ +aq+iwqJtl + ..., где q ^ 2, aq ф 0. Отсюда следует, что fomk соответствует степеному ряду w \-У w + kaqwq + Значит производная порядка q функции fomk при z — 0 равна q\kaq, что стремится к бесконечности при к —У оо. Из теоремы 1.4 следует, что никакая подпоследовательность {/omfej} не может сходиться равномерно при kj —у оо. ■ В оставшейся части § 4 мы будем рассматривать рациональные отображения /: С —У С степени d ^ 2. 4.5. Лемма. Множество J непусто. Если рациональное отображение f имеет степень два и выше, то множество Жюлиа J(f) непусто. Доказательство. Если бы J(f) было бы пустым, то некоторая последовательность итераций fonj сходилась бы равномерно на всей сфере С к голоморфному пределу g: С —У С. Здесь мы используем тот факт, что нормальность является локальным свойством (задача 3-е). Далее, стандартные топологические рассуждения показывают, что степень отображения fonj равна степени g при больших j. Действительно, если два отображения fj и g близки настолько, что сферическое расстояние a(fj(z), g(z)) равномерно меньше -к, т. е. меньше расстояния между антиподальными точками, то всякое отображение fj(z) можно продеформироватъ в g(z) вдоль единственной кратчайшей геодезической. Поэтому эти два отображения гомотопны и, следовательно, имеют одинаковую степень. Но при больших п степень fon не может равняться степени g, поскольку степень fon равна dn, что стремится к бесконечности при п —У оо. ■ Другое, более конструктивное доказательство этой леммы будет дано в 12.5. Также нам понадобится следующее понятие.
64 Итерированные голоморфные отображения Определение 9. * Большой орбитой точки z относительно отображения f:S^S мы будем называть множество go(z, f), состоящее из всех точек z' Е S, чьи орбиты пересекают орбиту точки z. Следовательно, z и такие z' имеют одинаковую большую орбиту тогда и только тогда, когда fom(z) = fon(zf) при некоторых т ^ 0 и п ^ О. Будем говорить, что точка z Е S имеет конечную большую орбиту или, используя классическую терминологию, будем называть эту точку исключительной относительно f, если ее большая орбита go(z, /) С S является конечным множеством. Следующее утверждение доказывается с помощью теоремы Монтеля. 4.6. Лемма. Конечные большие орбиты. Если /: С —>• С — рациональное отображение степени d ^ 2, то множество 8{f) точек с конечными большими орбитами имеет не больше двух элементов. Если такие точки существуют, то они всегда являются суперпритягивающими периодическими точками для отображения f и, следовательно, принадлежат множеству Фату. Доказательство. (Ср. задачу J^-h.) Поскольку f отображает С на себя, то оно также должно отображать любую большую орбиту на себя. Следовательно, если эта орбита конечна, то она должна отображаться на себя биективно и поэтому образует простую периодическую орбиту ао \-> ai \-> .. .ат = а$. Заметим теперь, что любая точка z Е С имеет при отображении f в точности d прообразов, учитывая их кратность. Здесь кратность точки Zj Е f~1(z) прообраза больше единицы тогда и только тогда, когда Zj является критической точкой отобра- жения f. Положив f(z) = p(z)/q(z) и предполагая, что ос, /(ос) ф 'z, все это можно вывести из подсчета корней полиномиального уравнения p(z) — z^q(z) = 0 степени d, поскольку производная функции f обращается в нуль в каждом кратном корне. Отсюда следует, что каждая точка dj такой конечной периодической орбиты должна быть критической точкой отображения f. Это доказывает, что любая конечная большая орбита является суперпритягивающей и, следовательно, содержится во множестве Фату. (Предостережение: В этих рассуждениях существенно используется то, что любое непостоянное отображение С в себя является сюръ- ективным. Целая функция, определенная на всей плоскости С, например z и-» 2zez, может иметь отталкивающие точки, у которых большие орбиты конечны. См. задачу 6-с.)
§4. Фату и Жюлиа: динамика на римановой сфере 65 Если бы у отображения f имелись три различных точки с конечными большими орбитами, то дополнение U в С объединения больших орбит этих точек являлось бы гиперболической поверхностью такой, что f(U) = U. Тогда множество итераций отображения f', ограниченных на U, было бы нормальным, согласно теореме Монтеля. Значит, как U, так и ее дополнение содержатся во множестве Фату, что противоречит лемме 4-5. Ш 4.7. Теорема о транзитивности. Пусть z\ — произвольная точка множества Жюлиа J(f) С С и N — произвольная окрестность этой точки. Тогда объединение U образов fon(N) содержит все множество Жюлиа и содержит все за исключением, быть может, двух точек из С. Более точно, если N достаточно мало, то U является дополнением C\8(f) множества точек с конечными большими орбитами. (В § Ц мы докажем более сильное утверждение о том, что для достаточно большого п всего один образ fon(N) целиком содержит множество Жюлиа или всю риманову сферу в специальном случае, когда не существует точек с конечными большими орбитами.) Доказательство леммы 4.7. ^ Сначала заметим, что дополнение C\U содержит не более двух точек. В противном случае, поскольку f(U) С U, из теоремы Монтеля следовало бы, что U должно содержаться во множестве Фату, что невозможно ввиду того, что z\ Е UilJ. Используя соотношение f(U) С U еще раз, мы видим, что любой прообраз точки z G С \ U также должен принадлежать конечному множеству C\U. Простые вычисления показывают, что прообраз точки z при некоторой итерации является периодическим, и поэтому точка z сама периодическая, а ее большая орбита конечна. Поскольку множество 8(f) точек с конечными большими орбитами не пересекается с J, отсюда следует, что J С U. И, наконец, если N настолько мало, что N С C\8(f), то отсюда легко выводится, что U = С \ 8(f). Ш 4.8. Следствие. Множество Жюлиа с внутренностью. Если множество Жюлиа содержит внутреннюю точку, то оно должно совпадать со всей римановой сферой. Действительно, пусть J = J(f) имеет внутреннюю точку z\. Выберем окрестность N С J точки z\, тогда объединение U С J обра-
66 Итерированные голоморфные отображения зов N при итерациях всюду плотно, U = С. Поскольку J замкнуто, отсюда следует, что J = С. (См., например, § 7.) Ш 4.9. Следствие. Граница области притяжения = множество Жюлиа. Если d С С — область притяжения для некоторой притягивающей периодической орбиты, то топологическая граница dd = d \ d совпадает со множеством Жюлиа. Каждая компонента связности множества Фату С \ J либо совпадает с некоторой компонентой связности области d, либо не пересекается с d. Доказательство. Если N — любая окрестность какой-либо точки, принадлежащей множеству Жюлиа, то, согласно теореме J^.7, некоторая итерация fon(N) пересекает d, а значит, и сама окрестность N пересекается с d. Отсюда следует, что J С d. Однако J не пересекается с d, следовательно, J С 3d. С другой стороны, если N является окрестностью точки из dd, то любой предел итераций /оп|л. должен иметь разрыв первого рода между d и dd, следовательно, dd С J. Наконец, заметим, что каждая пересекающая d связная компонента Фату не может пересекаться с границей dd, значит, она должна совпадать с некоторой компонентой d. Ш Предостережение, dd не совпадает с объединением границ компонент связности области d, которое зачастую намного меньше. (Ср. рисунки Id и 2. Очень поучительно привести здесь пример канторо- ва множества на единичном отрезке. Оно несчетно, хотя объединение границ интервалов, которые образуют его дополнение, счетно.) 4'10. Следствие. Итерированные прообразы плотны. Пусть zo — любая точка множества Жюлиа J(f), тогда множество всех итерированных прообразов {z G С; fon(z) = zo для некоторого п ^ 0} всюду плотно в J(f). Для zo ^ 8(f) из теоремы 4-7следует, что каждая точка z\ G J(f) может быть сколь угодно близко приближена точками z, чья орбита содержит zo- Ш Замечание 6. *[о компьютерной графике] (Ср. приложение G.) В этом следствии предлагается алгоритм расчета чертежей множеств
§4. Фату и Жюлиа: динамика на римановой сфере 67 Жюлиа. Начиная рассмотрения с произвольного zo Е J(f), вычислим все z\, для которых f[z\) — zo, далее для каждого z\ вычислим все Z2 такие, что /(^г) — z\ и т. д., что, в конце концов, сколь угодно близко подходит к любой точке из J(f). Этот метод очень часто используется в квадратичном случае, поскольку квадратные уравнения решаются очень легко, и к тому же количество dn п-кратно итерированных прообразов минимально, при d = 2. Этот метод очень нечувствителен к ошибкам округления, поскольку f на своем множестве Жюлиа при итерациях стремится к расширяющему отображению, значит, /_1 стремится к сжимающему отображению. (Ср. задачи 4~е, 4~j, а также § 19.) Однако, это не является препятствием: число dn быстро растет с ростом п, правда, может потребоваться слишком много итераций для того, чтобы подойти близко к какой-либо точке из J. 4-11. Следствие. Отсутствие изолированных точек. Если степень f не меньше двух, то множество J(f) не имеет изолированных точек. Доказательство. Прежде всего заметим, что J(f) должно быть бесконечным, в противном случае оно должно состоять из точек с конечными большими орбитами, что противоречит лемме 4.6. Следовательно, J(f) содержит, по крайней мере, одну предельную точку; итерированные прообразы этой точки образуют плотное множество неизолированных точек в «/(/)• ■ 4.12. Следствие. Компоненты Жюлиа. Для любого рационального отображения степени два или больше множество Жюлиа либо связно, либо имеет несчетное множество компонент связности. Доказательство. Предположим, что J = J(f) представимо в виде объединения JoUJi двух непересекающихся непустых компактных подмножеств. Отметим, что оба из этих подмножеств должны быть бесконечны, поскольку J не имеет изолированных точек. Сначала докажем, что ни одно из этих подмножеств не является связным. Выберем открытое множество U, которое пересекает J0? но не пересекает J\. Утверждается, что некоторый образ fon(U) должен пересекать оба подмножества Jq и J\.
68 Итерированные голоморфные отображения Рис. 3. Семья кроликов: множество Жюли кубического полинома f(z) = z3 - 0,48* + (0, 706260 + 0, 502896г), которое имеет бесконечное количество нетривиальных компонент связности В противном случае из любой бесконечной последовательности итераций fon можно выбрать бесконечную подпоследовательность итераций fonJ, которая отображает U во множество, которое не содержит одно из Ja, и поэтому не содержит в своем образе три различных точки из С и, следовательно, содержит подпоследовательность, которая локально равномерно сходится повсюду на U. Это противоречило бы предположению о том, что U пересекается со множеством Жюлиа. Выбирая п так, чтобы fon(U) пересекало бы оба множества J0 и J\, мы видим, что, согласно лемме J±A, этот образ fon(Jo) также пересекает оба эти множества. Поэтому Jo может быть представлено в виде несвязного объединения непустых компактных подмножеств Jqo = = Jo П ГпШ и Joi = Jo П ГП(Л). Аналогично индукцией по к можно показать, что для любой последовательности ai... аи нулей и единиц можно построить компактные непустые множества Jai.. .ак так, что Jai CKfc_1 является объединением непересекающихся подмножеств Jai.. . afco u Jon .. .aki- Соответ-
§4. Фату и Жюлиа: динамика на римановой сфере 69 ствующие бесконечные пересечения ^ага2аз . . . = | | J а\ . . . ак к не пересекаются между собой, непусты и каждая их них содержит, по крайней мере, одну компоненту связности множества J. Ш Замечание 7. * В полиномиальном случае кажется возможным, что все компоненты связности, кроме счетного количества, должны быть одноточечными. (Ср. Браннер и Хаббард 1992.) Однако это, очевидно, неверно для произвольных рациональных отображений. (См. пример МакМюллена, рис. 2а.) Для формулировки заключительного следствия нам потребуются несколько определений. Топологическое пространство X называется пространством Бэра, если каждое счетное пересечение плотных подмножеств X плотно в X. Мы применим теорему Бэра, в которой утверждается, что каждое полное метрическое пространство, а также каждое локально-компактное пространство являются пространствами Бэра (Ср. задачу 4~j)- Из соображений удобства будем говорить, что свойство точек пространства Бэра справедливо для точек общего положения х Е X, если это справедливо для всех точек в некотором счетном пересечении плотных открытых подмножеств X. Мы будем использовать это понятие при изучении топологического пространства 4' 13. Следствие. Топологическая транзитивность. Для точек общего положения z Е J = J(f) орбита {z,f(z),r2(z),...} всюду плотна в J. Доказательство. (Ср. задачу 4~j)- Для каждого целого т > О можно покрыть множество Жюлиа J = J(f) конечным набором открытых множеств Nmj диаметра не более 1/т в сферической метрике. Для каждого такого Nmj пусть Umj — объединение итерированных прообразов fon(Nmj). Тогда из 4-Ю следует, что замыкание Umjf]J совпадает со всем множеством Жюлиа J. Другими словами, Umj f]J — плотное открытое подмножество множества Жюлиа. Теперь, если z принадлежит пересечению
70 Итерированные голоморфные отображения этих открытых плотных множеств, то орбита точки z пересекает каждое из Nmj и, следовательно, всюду плотна в J. ■ Задачи Задача 4-а. Отображение степени один. Покажите, что если /: С —>• С — рациональное отображение степени d = 1, то множество Жюлиа J(f) либо пусто, либо состоит из единственной отталкивающей или параболической неподвижной точки. Задача 4-Ь. Отображения, имеющие точки с конечными большими орбитами. Предположим, что f — рациональное отображение степени d ^ 2. Покажите, что f полиномиально в том и только том случае, когда /_1(ос) = {ос}? то есть бесконечно удаленная точка является неподвижной точкой с конечной большой орбитой отображения f'. Покажите, что f имеет нуль и ос в качестве точек с конечными большими орбитами тогда и только тогда, когда f(z) = = а • zn, где п = ±d и а ф 0. Выведите отсюда, что f имеет точки с конечными большими орбитами тогда и только тогда, когда при некоторой дробно-линейной замене координат f сопряжено либо полиному, либо отображению z и-» l/zd. Задача 4-с. Неподвижные точки на бесконечности. Покажите, что если f — рациональное отображение с неподвижной точкой на бесконечности, то мультипликатор А на бесконечности равен lim 1/ f'(z). В частности, эта неподвижная точка является сверхпри- z—too тягивающей тогда и только тогда, когда f'(z) —>• ос при z —>• ос. (Возьмите £ = 1/z и используйте разложение в ряд 1//(1/£) = Л( + с^С2 + + аз С3 + • • • в некоторой окрестности £ = 0). Задача 4-d. Самоподобие. За редкими исключениями, формы любого геометрического образа в окрестности какой-либо точки множества Жюлиа можно наблюдать бесконечное число раз на всем этом множестве. Более точно, для двух точек z и zf из J = J(f) будем говорить, что (J, z) локально-конформно изоморфно (J, z'), если существует конформный изоморфизм из окрестности N точки z на окрестность N' точки z', переводящий z в zf, a Jf]N на Jf]Nf. Применяя J^.10, покажите, что множество точек z, для которых (J, z) локально-конформно
§4. Фату и Жюлиа: динамика на римановой сфере 71 Рис. 4. Множество Жюлиа для отображения f(z) = z3 + — z + tttf^ Zo \-Zo изоморфно (J, zq), всюду плотно в J', если только невыполнено следующее условие: для каждой заканчивающейся в zo, «обратной» орбиты . . . Z2 I-» Z\ Ь^ Zo функции f, некоторая точка Zj, j > О, является критической точкой функции f'. В качестве примера покажите, что для отображения f(z) = z2 — 2, изученного в § 7, это условие выполнено для конечных точек zo = ±2. Аналогично покажите, что оно выполнено для точки zo = = 0,8г на рис. 4- Покажите, что для любого f может существовать только конечное число таких исключительных точек zq. Задача 4-е. Канторово множество Жюлиа. По определению топологическое пространство называется канторовым множеством, если оно гомеоморфно стандартному канторовому множеству К на от- оо резке [О, 1], состоящем из всех бесконечных сумм ^2am/3m с коэф- 1 фициентами ат Е {0, 1}. (Если X — компактное метрическое пространство, то стандартная теорема утверждает, что X — канторово множество тогда и только тогда, когда оно вполне разрывно (т. е.
72 Итерированные голоморфные отображения не имеет связных подмножеств, кроме одноточечных) и не имеет изолированных точек. Ср. Хокинг и Янг.) Покажите, что для f(z) = z2 — 6 множество J(f) является кан- торовым множеством, содержащемся в объединении отрезков [—3, — -л/3] U [л/3, 3]. Более точно, покажите, что любая точка из J(f) с орбитой zo \-> zi \-> ... однозначно определяется последовательностью знаков £j = Zj/\zj\ = ±1. В самом деле, zo = во- у 6 + £iy 6 + г2\/бТ777 (Используйте J^.10 и то, что ветвь z \-^ д/6 + z отображения /_1 является строго сжимающим отображением, переводящим [—3, 3] на [л/3, 3]. Ср. задачу 2-j.) Покажите, используя лемму ]±.3, что каждая орбита вне этого канторова множества должна стремится к бесконечности. Задача 4-f. Пример Фату. Аналогично покажите, для f(z) = = z2 + с, где с > 1/4 — вещественная постоянная, что J — канторово множество, непересекающее вещественную ось, и что каждая орбита zo и-» z\ \-^ ... однозначно определяется последовательностью знаков еп = sign(lm(zn)). В самом деле, zo = lim eog(s1g(s2 ... en-xg{enz)...)), где g(z) — \Jz — с — ветвь /_1, отображающая плоскость с разрезом U = С \ [с, +ос) на верхнюю полуплоскость, u^z — некоторая выделенная точка в J, например, выделенная точка в верхней полуплоскости. (Используйте тот факт, что g, ограниченная на компактное множество J С U, — строго сжимающее отображение в метрике Пуанкаре pjj). Покажите, что каждая орбита вне J стремится к бесконечности. Используя замену w = с/z, докажите соответствующие утверждения для примера Фату (1906): w2 w н> -. c + wz Задача 4-g. Метод Ньютона.1 (См. также задачу 7-а.) 1Еще с 19-го века, начиная с работы Кэли и Шредера, проблема осмысления
§4. Фату и Жюлиа: динамика на римановой сфере 73 Пусть U — открытое подмножество С и F: U —>• С — голоморфное отображение с производной F'. Метод Ньютона поиска решения уравнения F(z) = О может быть описан следующим образом. Рассмотрим вспомогательную функцию N: U —У С, где N(z) = z-F(z)/Ff(z). Например, если F — полином степени d, то N — рациональная функция степени ^ d. Начиная с любого нулевого приближения zo, можно образовать последующие образы Zk+i = N(zk). Эта последовательность будет стремиться к z~ — к искомому решению уравнения F(z) = 0. По определению, z является корнем F кратности т, если разложение Тейлора функции F в окрестности z имеет вид F(z) = a(z — z)m + старшие члены са/0 и т ^ 1. Покажите, что неподвижные точки N в конечной части плоскости это в точности корни F, и в самом деле, что каждый корень F — притягивающая неподвижная точка для N с мультипликатором Л = 1 — 1/т, где т — кратность. Следовательно, каждый простой корень F с т = 1 является сверхпритягивающей неподвижной точкой N, в то время как каждый корень большей кратности является геометрически притягивающей точкой. С другой стороны, покажите, что если F — полином степени d > 1, то ос — единственная отталкивающая неподвижная точка N с мультипликатором d/(d — 1). Покажите, что N(z) = ос для z G С только если F'{z) = 0 и F(z) ф 0. Покажите, что N имеет производную _ F(z)F»(z) ()~ F'(z)* ' Задача 4-h. Устойчивость по Ляпунову. Точка ^GC называется точкой устойчивости по Ляпунову рационального отображения f, если орбита любой достаточно близкой к zo точки остается равномерно близкой к орбите точки zo при всех итерациях. Более точно, для каждого е > 0 существует д > 0 такое, что если сферическое метода Ньютона являлась источником вдохновения для изучения итерированых рациональных отображений. См. свежие публикации, например, Тан-Лей (1997), Реш (1998) и ср. Кин (1989).)
74 Итерированные голоморфные отображения расстояние a(zo, z) < д, то a(fonzo, fonz) < е для всех п. Покажите, что точка является точкой устойчивости по Ляпунову тогда и только тогда, когда эта точка принадлежит множеству Фату. Задача 4-i. Компоненты Фату. Покажите, что если ft — компонента связности множества Фату функции f, то /(П) — также компонента связности множества Fatou(/). Задача 4-j. Теорема Бэра и транзитивность. Для любого локально-компактного пространства X докажите теорему Бэра о том, что любое счетное пересечение U\ f] U2 f] U3 ... плотных открытых подмножеств пространства X плотно в X. (Внутри любого непустого открытого множества V С X выберем вложенную последовательность ... С К3 С К2 С Кх компактных множеств Kj С Uj с непустой внутренностью и возьмем пересечение). Отображение /: X —>• X называется топологически транзитивным, если для любой пары непустых открытых подмножеств U, V существует целое п ^ 0 такое, что fon(U) f]V непусто. (Ср. J^.l.) Покажите, что если это условие выполнено, и существует счетная база открытых подмножеств локально-компактного пространства X, то орбита общего положения отображения f плотна (ср. J^.IS). § 5. Динамика на гиперболических поверхностях В этом параграфе мы начнем рассмотрение динамики на римано- вых поверхностях, отличных от римановой сферы. Оказывается, что возможности динамики на гиперболических поверхностях очень ограничены. Прежде всего, напомним определение, подчеркнув, что гиперболическая риманова поверхность S может быть и некомпактной. Для голоморфного отображения f: S —>■ S произвольной римановой поверхности множество Фату Fatou(/) — это объединение всех открытых множеств U С S таких, что каждая последовательность итераций fonj | либо (1) содержит локально-равномерно сходящуюся подпоследовательность, либо (2) содержит подпоследовательность, которая стремится к бесконечности локально-равномерно на S так, что образы компактного под-
§5. Динамика на гиперболических поверхностях 75 множества в U с ростом номеров итераций перестают пересекаться с любым компактным подмножеством в S. (Если S компактно, то в ней никакая последовательность к бесконечности не стремится, и тогда случай (2) не реализуется.) Как обычно, дополнение к множеству Фату будет называться множеством Жюлиа. Замечание 8. * В специальном случае, когда поверхность S является открытым подмножеством с компактным замыканием в большей римановои поверхности Т, это условие эквивалентным образом может быть переформулировано так: точка z Е S принадлежит множеству Фату отображения f тогда и только тогда, когда для некоторой окрестности U точки z любая последовательность итераций fon\u, рассматриваемая как семейство отображений U —>• Т, содержит подпоследовательность, которая локально-равномерно сходится к отображению U —>■ Т. (Ср. 3.6. Если предельное отображение не принимает значений в S, то оно постоянно.) 5.1. Лемма. Пустота множеств Жюлиа. Для любого отображения f: S —>■ S гиперболической поверхности в себя множество Жюлиа J(f) пусто. В частности, f не может иметь отталкивающих точек, параболических точек, и граница ее области притяжения пуста. Доказательство немедленно следует из следствия 3.3 и доказательств лемм 4-3, 4-4 и 4-9- ■ На самом деле, мы можем сформулировать здесь более точное утверждение, принадлежащее в основном Фату (Ср. § 16.) 5.2. Классификационная теорема Для любого голоморфного отображения f: S —>■ S гиперболической римановои поверхности выполняется в точности одна из нижеперечисленных возможностей: • Притягивающий случай. Если f имеет притягивающую неподвижную точку, то из леммы 5.1 (или из задачи 1-h) следует, что все орбиты отображения f сходятся к неподвижной точке. Эта сходимость равномерна на компактных подмножествах S. • Разбегание. Если некоторая орбита отображения f не имеет точек накопления в S, то ни одна из орбит не имеет точек накопления. В действительности, для любого компактного множест-
76 Итерированные голоморфные отображения ва К С S существует целое число пк такое, что КГ\/оп(К) = 0 при п ^ пк. • Конечный порядок. Если f имеет две различные периодические точки, то некоторая итерация fon является тождественным отображением, и каждая точка в S является периодической. • Иррациональное вращение. Во всех остальных случаях (5, /) является областью вращения. Это значит, что S изоморфно либо диску Ш, либо диску с выколотой точкой Ш) \ {0}, либо кольцу Ar = {z | 1 < \z\ < r}, a f соответствует иррациональному вращению z \-^ e27riaz, где а £ Q. Позже, в § 16 мы применим эту теорему в случае, когда S — открытое подмножество римановой сферы, и f является рациональным отображением, переводящим это множество в себя, а пока приведем один важный пример. 5.3. Следствие. Диски Зигеля. Пусть f —рациональное отображение степени d ^ 2. Если связная компонента U множества Фату, Fatou(/) = С \ J, содержит нейтральную неподвижную точку /Ы = *0, |/'WI = i, то U конформно изоморфно единичному диску Ш) так, что /| соответствует иррациональному вращению диска. Доказательство немедленно следует из теоремы 5.2, поскольку U, очевидно, гиперболична и отображается при f на себя. (Ни одна из итераций fon не является тождественным отображением, поскольку f имеет степень d^2.) Существование нелинейного рационального отображения, которое имеет такую область вращения U, в высшей степени нетривиально и будет обсуждаться в § 11. В специальном случае, когда S является открытым единичным диском Л), имеет место следующее более точное утверждение, доказанное Данжуа в 1926 году и улучшающее более ранний результат Вольфа. 5.4> Теорема Данжуа-Вольфа. Пусть /: Ш) —>• Ш) — произвольное голоморфное отображение. Тогда либо
§5. Динамика на гиперболических поверхностях 77 (1) / является «вращением» (относительно метрики Пуанкаре) вокруг некоторой неподвижной точки zo Е Ш, либо, в противном случае, (2) последовательные итерации fon равномерно сходятся на компактных подмножествах Ш) к постоянной функции z н-» со, где со может принадлежать либо открытому диску Ш, либо его граничной окружности дШ. (Этот результат точнее, чем теорема 5.2 только в случае раз- бегания: если некоторая орбита не имеет точек накопления в Л), то каждая орбита должна сходиться к единственной граничной точке Ш.) Согласно лемме 1.8, существует автоморфизм С, переводящий Ш) в верхнюю полуплоскость Ш, следовательно, утверждение, аналогичное 5.3, справедливо также и для Ш. Вот три типичных примера: Если /: Ш —>• Н является либо параболическим автоморфизмом z и-» z + 1, либо гиперболическим автоморфизмом z н-» 2z, либо вложением z н-» z + + г, то все орбиты в Ш сходятся внутри С к единственной граничной точке оо. На самом деле, теорема 5.4 не будет особенно полезной для наших целей, поскольку она окажется несправедливой, если заменить Ш) или Ш на любое гиперболическое открытое подмножество в С. (См. задачу 5-а.) Однако здесь можно сформулировать следующее полезное утверждение. 5.5. Лемма. Сходимость к граничной неподвижной точке. Предположим, что U является гиперболическим открытым подмножеством компактной римановой поверхности, и что отображение f: U —» U непрерывно продолжается на границу 8U с не более, чем конечным множеством неподвижных точек на 8U. Если некоторая орбита отображения f в U не имеет точек накопления в U, то все орбиты в U должны сходиться внутри замыкания U к единственной граничной неподвижной точке z = f(z)edu. Эта сходимость равномерна на компактных подмножествах в U. Доказательство следует ниже. Доказательство теоремы 5.2. Выберем некоторую точку ро £ S и рассмотрим ее орбиту р0 ^ \-> Pi \-> P2 *-> ... относительно отображения f. Может случиться
78 Итерированные голоморфные отображения так, что эта орбита стремится к бесконечности, и расстояние в метрике Пункаре удовлетворяет условию lim dist(pn, po) = сю. п—>-оо В этом случае для каждой точки q0, отстоящей от р0 не более, чем на г, соответствующая орбита qo \-> q\ н-» ... удовлетворяет условию dist((/n, pn) ^ г, и поэтому dist(g„, р0) ^ dist(p„, р0) - г -> ос. Таким образом, все орбиты стремятся к бесконечности в S, и эта расходимость равномерна на компактных подмножествах в S. В противном случае, если dist(pn, ро) не стремится к бесконечности, можно найти бесконечно много точек рп внутри некоторой ограниченной окрестности точки ро- Они должны иметь точку накопления р Е S. Выберем последовательность целых чисел п(1) < п(2) < ... так, чтобы последовательность {pn(j)} сходилась к р, и рассмотрим последовательность отображений gj = /°(n0+1)_n0)). Тогда gj отображает точку Pn(j) в Pn(j+i) • Если rj — расстояние Пуанкаре между р и pn{j), то dist(g,-(p), Pn(j+i)) ^ rj9 значит dist(gj(p), р) ^ г, + г,+ь (5 : 1) согласно неравенству треугольника. Пусть г — максимальное из rj. (Оно существует, поскольку последовательность {rj} стремится к нулю.) Значит, все точки gj(p) лежат внутри некоторого компактного шара В2г С S. Следовательно, согласно теореме о гиперболической компактности 3.7, все отображения gj лежат внутри компактного подмножества пространства Но1(5, S). Значит, можно выбрать точку накопления g точек {gj} внутри Но1(5, S). Более того, поскольку rj + + rJ+i —у О при j —у оо ? из (5:1) следует, что g(p) = р. Случай уменьшения расстояний. Если f уменьшает расстояния в метрике Пуанкаре, то каждая его итерация должна удовлетворять неравенствам dist(/°», ПШ ^ dist(/(p), f(q)) < dist(p, q) при р Ф q, значит, и предельное отображение должно уменьшать расстояние в метрике Пуанкаре. Отображения fug коммутируют, поскольку g является пределом итераций отображения f. Значит f отображает неподвижную точку р = g(p) в неподвижную точку f(p) =
§5. Динамика на гиперболических поверхностях 79 — f(g(p)) = g(fip)) отображения g. Но g не может иметь двух различных неподвижных точек, поскольку оно уменьшает расстояния в метрике Пуанкаре. Отсюда следует, что р = f(p) также является неподвижной точкой для f. Очевидно, что это притягивающая неподвижная точка, значит, все орбиты отображения f должны сходиться к р. Случай сохранения расстояний. Теперь предположим, что f является локальной изометрией для метрики Пуанкаре. Докажем, что некоторая последовательность итераций отображения f локально- равномерно сходится к тождественному отображению S. Как и выше, некоторая последовательность таких итераций {gj} сходится к отображению g, которое имеет неподвижную точку р. Мультипликатор в этой неподвижной точке по абсолютной величине равен единице, обозначим его через gf(p) = е27гга. Независимо от того, является ли угол а рациональным или нет, мы можем выбрать его кратное та сколь угодно близко к целому числу, и поэтому мультипликатор отображения gom может быть сколь угодно близким к единице в точке р. С другой стороны, согласно теореме 3.7, эти итерации отображения g принадлежат нормальному семейству, значит мы можем выбрать подпоследовательность {gom^}, которая локально-равномерно сходится всюду на S так, что последовательность мультипликаторов в точке р сходится к +1. Предельная функция имеет мультипликатор также равный +1. Поднимая все отображения в универсальное накрытие и применяя лемму Шварца, мы видим, что эта предельная функция в действительности является тождественным отображением S. Этот двойной предел итераций отображения f нетрудно редуцировать к однократному. Для завершения доказательства теоремы 5.2 нам надо установить следующее утверждение. 5.6. Лемма. Итерации в окрестности тождественного отображения. Если f:S^S является отображением гиперболической поверхности в себя, и некоторая последовательность итераций Jom(*) локально-равномерно сходится к тождественному отображению, то либо f имеет конечный порядок, либо S изоморфно дискам Ш) или Ш) \ {0} или кольцу Ar, a f соответствует иррациональному вращению. (Аналогичное утверждение справедливо и для негиперболических поверхностей, ср. задачу 6-d.)
80 Итерированные голоморфные отображения Доказательство леммы 5.6. Прежде всего заметим, что f должно быть взаимно-однозначным. Действительно, если f(p) = f(q) при р ф q, то любой предел итераций f также будет отображать точки р и q в одну точку, значит такой предел не может быть тождественным отображением. Аналогично, f должно быть сюръективным. Предположим противное, пусть f(S) — собственное подмножество в S, и р (£ f(S). Если В — замкнутая круговая окрестность точки р, то любое отображение g достаточно близкое к тождественному отображению S отображает В во множество g(B), содержащее р, и поэтому такое отображение не может быть итерацией отображения f. Из этих двух утверждений следует, что f должно быть конформным автоморфизмом поверхности S. В односвязном случае автоморфизмы S = Ш были описаны в теореме 1.11. (См. также задачи 1-е и 2-е.) Очевидно, что «гиперболические» и «параболические» автоморфизмы, у которых нет внутренних неподвижных точек, ведут себя так же, как и в случае разбегания, и ни одна из их итераций не может быть близкой к тождественному отображению. Поэтому только удовлетворяющие условиям леммы 5.6 автоморфизмы являются вращениями вокруг своей неподвижной точки. В неодносвязном случае рассуждения оказываются чуть сложнее. Предположим, что последовательность {/от0')} отображений равномерно сходится на компактных множествах к тождественному отображению S. Поднимая эти отображения в универсальную накрывающую поверхность, мы получаем последовательность автоморфизмов Fom^ : S —>■ S, которая сходится к тождественному по модулю действия группы Г накрывающих преобразований. Иными словами, для данного компактного множества К С S при достаточно больших j можно подобрать такое накрывающее преобразование jj, что композиция Fj = jjoFom^ равномерно близка к тождественному отображению на всем компакте К. Теперь заметим, что каждое Fj порождает автоморфизм 7 ^ т' группы Г, удовлетворяющий тождеству Fjoj = jf °Fj- (См. задачу 2-Ь. Поскольку оба отображения Fjoj и Fj накрывают одно и то же отображение поверхности S в себя, то существует некоторое накрывающее преобразование jf, переводящее Fj о j(jj) в Fj(p), и легко проверить, что jf не зависит от выбора р G S.) Следовательно, 7f = Fj07oF7\
§5. Динамика на гиперболических поверхностях 81 Если Fj очень близко к тождественному отображению, то jf очень близко к 7 всюду на некотором большом компактном множестве. Но поскольку Г является дискретной группой, 7 = т' или? иными словами, Fj о 7 = 7 ° Fj при достаточно больших j. Если некоторое Fj уже является тождественным, то некоторая итерация f также является тождественным отображением поверхности S. Мы будем рассматривать противоположный случай, в котором ни одно из Fj не является тождественным. Напомним, что в теореме 1.11 было установлено, что каждый неединичный элемент g группы автоморфизмов ^(S) = ^(Щ принадлежит единственной максимальной коммутативной подгруппе, которую мы будем обозначать как ^(g). Таким образом, два неединичных элемента g\ и g2 в ^(S) коммутируют тогда и только тогда, когда ^(gi) = = c^{g2)- В частности, любой неединичный элемент j Е Г С ^(S) определяет такую группу ^(j), и любое Fj, достаточно близкое к тождественному отображению, должно удовлетворять условию ^(Fj) = ^(7)- Но то же справедливо и для любого другого неединичного элемента в Г. Поэтому коммутативная группа ^(7) С ^(S) не зависит от выбора конкретного элемента j, и мы для краткости будем обозначать ее как ^(Г). Отсюда, в частности, следует коммутативность группы Г. Поскольку мы предположили неодносвязность поверхности S, то S должна быть либо кольцом, либо диском с выколотой точкой. (См. задачу 2-g.) Более того, если j достаточно велико, то Fj = 7?' ° Fom^ принадлежит ^(Т), значит, Fom^ тоже принадлежит этой подгруппе. Но F коммутирует с Fom^\ поэтому F также принадлежит ^(Г). В случае, когда однопараметрическая группа ^(Г) С ^(S) состоит из параболических преобразований, удобно будет использовать в качестве универсального накрытия модель верхней полуплоскости S = Ш, отождествляя ^(Г) с группой вещественных параллельных переносов w \-> w + с. С другой стороны, если ^(Г) состоит из гиперболических преобразований, то удобной будет модель бесконечной полосы, как в задаче 2-f. В этом случае мы также можем отождествить ^(Г) с той же группой вещественных параллельных переносов w \-> w + с. В обоих случаях нетривиальная дискретная группа Г должна быть циклической, образующей которой является некоторый перенос w и-» w + со, и тогда F должно соответствовать некоторому w н->- w + с'. Пола-
82 Итерированные голоморфные отображения гая z = е27ггад/с°? мы видим, что F соответствует вращению кольца или диска с выколотой точкой, что и требовалось. Это завершает доказательство леммы 5.6 и теоремы 5.2. Ш Доказательство теоремы 5.4 Данжуа-Вольфа. Пусть f: Ш) —у Ш) — произвольное голоморфное отображение. Следующее рассуждение почерпнуто из лекций Бердона и было сообщено мне Сисикурой. Для любого е > О рассмотрим приближение f отображением f£(z) = (1 — e)f(z) диска Ш) в его собственное подмножество. Каждое отображение f£ имеет единственную неподвижную точку z£, (Ср. задачу 2-j, заметим также, что существование такой неподвижной точки вытекает из теоремы Брауэра о неподвижной точке (см., например, Борисович и др.) примененной к диску (1 — г)Ш). Единственность неподвижной точки очевидна, поскольку f£ сокращает расстояния в метрике Пуанкаре.) Ввиду компактности замкнутого диска Ш) можно выбрать такую сходящуюся к нулю последовательность {ет}, что соответствующие неподвижные точки z£m сходятся к некоторой предельной точке z~ Е дИ). Если \z\ < 1, то z~ является неподвижной точкой отображения f, и справедливость утверждения теоремы 5.4 легко следует из теоремы 5.2. Пусть теперь z Е дШ. Выберем некоторую произвольную точку zo Е Ш, и пусть гт — расстояние в метрике Пуанкаре между zo и z£m. Пусть Вт — замкнутая окрестность радиуса гт в метрике Пуанкаре с центром в точке z£m такая, что точка zo лежит на ее границе. Поскольку отображение f£m уменьшает расстояния в метрике Пуанкаре, то оно должно переводить Вт в себя. Эти окрестности Вт в действительности также являются круговыми окрестностями и в евклидовой метрике. (Однако евклидов центр в общем случае не совпадает с центром в метрике Пуанкаре. Ср. задачу 2-е.) При т —у оо круги Вт должны стремиться к пределу В^, которым может быть только круг, касающийся единичной окружности в точке z и содержащий точку zo на своей граничной окружности. (По опредению, такой диск, касающийся единичной окружности на бесконечности в Ш) называется «ородиском» в Л)). По непрерывности f отображает Ш) f] B^ в себя. Отсюда, в частности, следует, что вся орбита точки zo при действии f должна содержаться в В^. С другой стороны, из теоремы 5.2 следует, что орбита точки zo стремится к границе Ш). Но последовательность точек из В^, стремящаяся к границе Л), может стремится только к точке касания z~. Отсюда легко
§5. Динамика на гиперболических поверхностях 83 следует, что все орбиты в Ш) стремятся к той же предельной точке z, что и требуется. Ш Доказательство леммы 5.5. Пусть U — гиперболическое открытое подмножество на римано- вой поверхности S. Предположим, что f:U^U непрерывно на компактном множестве U и голоморфно отображает U в себя, предположим также, что некоторая орбита р0 ^ Pi ^ P2 ^ • • • в U не имеет точек накопления в U. Значит, расстояние Пуанкаре distjj(po, Pn) стремится к бесконечности при п —> ос. Выберем некоторый непрерывный путь р: [О, 1] —> U из точки ро = р(0) в f(po) = p(l) и продолжим этот путь индуктивно для всех t ^ 0, полагая p(t + 1) = f(p(t)). Пусть д диаметр образа р[0, 1] в метрике Пуанкаре на U. Тогда диаметр каждого последующего образа р[щ га + 1] также ^ д. Следовательно, distc/(po? p(t)) также стремится к бесконечности, при t —>• ос. Пусть р — любая точка накопления {p(t)} в 8U, при t —>• ос. Тогда из теоремы 3.4 следует, что для любой окрестности V точки р найдется меньшая окрестность W такая, что любое множество диаметра 8 в метрике Пуанаре, пересекающее U f]W, должно содержатся в V. Поэтому для любого такого V найдутся образы р[щ п + 1], содержащиеся в V. Поскольку f отображает р(п) в р(п + 1), то по непрерывности f(p) = р. Значит любая точка накопления пути р: [О, ос) —>• U в 8U должна быть неподвижной для отображения f. С другой стороны, нетрудно показать, что множество всех точек накопления пути p(t) при t —>• ос является связным множеством. (Задача 5-Ь.) Теперь предположим, что f имеет только конечное множество неподвижных точек в 8U. Поскольку конечное связное множество состоит из единственной точки, то p(t) стремится к единственной точке р Е 8U, при t —>• ос. В частности, орбита ро *-> р± *-> ... сходится к р. Теперь рассмотрим произвольную орбиту qo \-> q\ н-» ... отображения f; если distc/(po? (Zo) = т, то distc/(pn, qn) ^ г. Применяя теорему 3.4, заключаем, что последовательность {qn} также сходится к р, и легко проверить, что эта сходимость равномерна на компактных подмножествах U. Ш
84 Итерированные голоморфные отображения Задачи Задача 5-а. Патологический пример. Пусть для данной сходящейся к нулю последовательности чисел 1 > а\ > «2 > •••, и U С С получено из открытого единичного квадрата (О, 1) х (0, 1) удалением линий [ата, 1] х {ап}, для каждого нечетного п и [О, 1 — ап] х {ап}, для каждого четного п, как показано на рисунке. Для данной точки zo из открытого множества U и данной граничной точки z Е dU, не лежащей на нижнем ребре [О, 1] х {0}, можно показать, что существует, по крайней мере, один геодезический лучр: [О, ос) —у U в метрике Пуанкаре, параметризованный длиной дуги и такой, что zo = р(0) и z~ = lim p(t). (Ср. лемму 17.9 t—*oo ниже.) Выведите из этого утверждения существование другого геодезического луча, начинающегося в zo и такого, что множество его точек накопления p(t) при t —>• ос совпадает с этим нижним ребром [0, 1] х {0} квадрата. Согласно задаче 2-е, существует конформный автоморфизм f: U —» U такой, что f(p(t)) = p(t + 1). Покажите, что множество точек накопления орбиты zq \-> z\ \-> ... и есть то самое нижнее ребро. Задача 5-Ь. Точки накопления пути. Покажите, что в любом хаусдорфовом пространстве X замыкание связного множества связно, и
§6. Динамика на евклидовых поверхностях 85 что пересечение любой последовательности К\ D K2 D ... вложенных компактных связных множеств тоже связно. Теперь рассмотрим бесконечный путь р: [О, ос) —>• X в компактном хаусдорфовом пространстве. Покажите, что множество всех точек накопления p(t), при t —у ос? совпадает с пересечением замыканий f]p[t, ос), t и, следовательно, является непустым компактным связным множеством. § 6. Динамика на евклидовых поверхностях В этом параграфе будут изучаться такие поверхности S, у которых универсальные накрытия S конформно-изоморфны комплексной плоскости С. Следовательно, рассматриваемые поверхности S могут быть либо комплексной плоскостью С, либо проколотой плоскостью С \ {0} = C/Z, либо тором Т = С/Л. (Ср. § 2). Оказывается, что случай тора интересен и при этом достаточно прост для изучения в то время, как оставшиеся два случая предельно сложны. В случае тора Т = С/Л, где Л — решетка в С, мы докажем следующее утверждение. 6.1. Теорема. Каждое голоморфное отображение /: Т —>• Т является аффинным, f(z) = az + с (mod Л); его степень равна d = \ol\2. Соответствующее множество Жюлиа J(f) либо пусто, если d ^ 1, либо является тором, если d > 1. Заметим, что если а ф 1, то f имеет неподвижную точку zo = = —-— и, следовательно, сопряжено линейному отображению z ь->- f(z + zo) — zo = az. Описание возможных значений коэффициентов а см. в задаче 6-а. Доказательство теоремы 6.1. Предположим для определенности, что Т = С/Л; здесь Л С С — решетка, натянутая на два числа 1 и г, где т £ Ж. Любое голоморфное отображение f: Т —у Т поднимается до голоморфного отображения
86 Итерированные голоморфные отображения F: С —>• С на универсальном накрывающем пространстве. Заметим вначале, что существует элемент решетки a Е Л такой, что F(z + 1) = F(z) + а для всех z е С. Конечно, мы получим F(z + 1) = F(z) (modA)? значит, функция разности F(z + 1) — F(z) G Л должна быть постоянной ввиду того, что С связно, а область значений Л дискретна. Аналогично, существует /3 такое, что F(z + т) = F(z) + /3 для всех z. Теперь положим g(z) = = F(z) — az так, что g(z + 1) = g(z). Тогда g(z + г) = F(z + т) - а(я + г) = g(z) + (/3 - ат). Утверждается, что g должна быть постоянной, скажем g(z) — с для всех z. В самом деле, g индуцирует отображение из Т в фактор- пространство С/(/3 — ат)Ъ, которое в зависимости от того, равно ли нулю (/3 — ат) или нет, является либо плоскостью С, либо бесконечным цилиндром. В любом случае это фактор-пространство является некомпактной римановой поверхностью, в то время как Т — компакт. Согласно принципу максимума модуля, это отображение g должно быть постоянным, значит F(z) = g(z) + az = az + c, что и требовалось. Поскольку при этом отображении площади умножаются на \а\2, отсюда легко следует, что степень отображения f равна \а\2. Остальные свойства f зависят от коэффициента а. Если \а\ ^ 1, то производные \dfon(z)/dz\ = \an\ равномерно ограничены, таким образом весь тор Т является областью нормальности семейства {fon}. Другими словами, множество Фату отображения f совпадает с тором Т. С другой стороны, если \а\ > 1, то \dfon(z)/dz\ = \ап\ —>• ос при п —у оо? и, следовательно, область Жюлиа отображения f — это весь тор. ш Другую информацию см. ниже в задачах 6-а, Ь. Некомпактные евклидовы поверхности. Напомним, что есть только две некомпактные поверхности, для которых накрывающей яв-
§6. Динамика на евклидовых поверхностях 87 А i Рис. 5. Функция z \-> sin(z) может рассматриваться как голоморфное отображение цилиндра C/27rZ в себя. В этом случае множество Жюлиа, показанное черным на рисунке, имеет бесконечную площадь (МакМюллен). Множество Фату (C/27rZ) \ J плотно, но предположительно имеет конечную площадь. (Изображенная область — [ — 0,5, 7г + 0,5] х [ — 1, 4].) ляется плоскость С. Вначале предположим, что S — комплексная плоскость. Можно различать два различных класса голоморфных отображений С —>• С. Полиномиальное отображение С однозначно продолжается на риманову сферу С. Следовательно, теория полиномиальных отображений может быть рассмотрена как частный случай теории рациональных отображений С. (Ср. § 9 и § 18). С другой стороны, трансцендентные отображения из С в себя образуют существенно другой и более трудный объект для изучения. Такие отображения изучались многими авторами в течение более шестидесяти лет, начиная с Фату. (См. в частности Бэйкер [Бэ1, Бэ2]). Даже итерирование экспоненциального отображения ехр: С —У С приводит к многочисленным чрезвычайно сложным проблемам. Например, согласно Любичу (1987) и Рису (1986), для почти всех, в смысле меры Лебега, начальных точек z Е С множество точек накопления для орбиты точки z совпадает с
88 Итерированные голоморфные отображения орбитой {О, 1, е, е2, ...} нуля. (Это утверждение — прекрасный объект для компьютерных экспериментов. Случайные эмпирические орбиты кажутся стремящимися точно к нулю после относительно малого числа итераций, пока не случается ошибка переполнения.) Однако, согласно Мизуревичу (1981), множество Жюлиа экспоненциального отображения — это вся комплексная плоскость, и, следовательно, орбита общего положения всюду плотна на комплексной плоскости. (Ср. следствие 4-13. Доказательство того, что J(exp) = С содержится в Ди- вейни (1989). Отображение отрезка с аналогичным свойством, что орбита общего положения всюду плотна, но почти все орбиты таковыми не являются, описано в Брюин, Келлер, Новицкий и ван-Стриен.) Дальнейшая информация об итерированных трансцендентных отображениях могут быть найдены, например, в Дивейни (1986), Голдберг и Кин, Еременко и Любич (1990), (1992). Изучение итерированных отображений из цилиндра C/Z = С \ {0} в себя близко связано с вышерас- смотренными проблемами и также является трудным и интересным объектом изучения. См., например, Кин (1988). Заметим, что любая периодическая функция из С в себя может также рассматриваться как отображение из цилиндра в себя. (Ср. рис. 5). Замечание 9. * Хотя, конечно, изучение итерированных меро- морфных функций С —У С представляет большой интерес, оно не подходит к описанным нами конструкциям, так как композиции таких отображений не всюду определены. Ср. Бергвейлер (1993). Задачи Задача 6-а. Производная отображения тора. Рассмотрим тор Т = С/Л; можно считать, что Л = Z 0 тЪ, где т (£ Ж. Покажите, что для данного a Е С существует голоморфное отображение f(z) = az + + с тора в себя с производной, равной а, тогда и только тогда, когда аА С Л или, другими словами, тогда и только тогда, когда оба числа а и ат принадлежат Л. Покажите, что произвольное целое a G Ъ удовлетворяет этому условию. С другой стороны, покажите, что существует такое отображение с производной равной а (£ Ъ тогда и только тогда, когда а удовлетворяет квадратному уравнению а2 + pa + d = 0,
§ 7. Гладкие множества Жюлиа 89 где d — |е*|2 — степень, ар — такое целое число, что р2 < Ы. (Говорят, что такой тор допускает «комплексное умножение»). Покажите, что для отображения степени d — |е*|2 = 1 число а должно быть корнем степени т из единицы только при т = 1, 2, 3, 4 или 6. Выведите отсюда, что если т ф 1, то fom — тождественное отображение. Покажите, что случаи т = 3, 4, 6 возможны при подходящих выборах решеток, и что случаи т = 1, 2 возможны при любом выборе решетки. Покажите, что в специальном случае а = 1 замыкание любой орбиты отображения f — это либо конечное множество, либо объединение параллельных окружностей, либо весь тор Т. Задача 6-Ь. Периодические точки отображений тора. Покажите, что если а ф 0, то любое уравнение вида f(z) = zo имеет ровно d — |е*|2 решений z G Т. Покажите, что если а ф 1, то f имеет ровно \а — 1|2 неподвижных точек. (В частности, как \а\2, так и \а — 1|2 обязаны быть целыми.) Более общо, покажите, что если \а\ > 1, то уравнение fon(z) = z имеет ровно \ап —1|2 решений в Т, причем все они отталкивающие с мультипликатором ап. Покажите, что множество периодических точек отображения f всюду плотно в Т, если а/0, 1. Задача 6-с. Точки с конечными большими орбитами. Покажите, что голоморфное отображение /: С —>• С имеет не более одной точки с конечной большой орбитой. Покажите на примерах f(z) = Xzez и f(z) = z2ez, что эта неподвижная точка не обязана быть притягивающей и, на самом деле, может иметь произвольный мультипликатор. Задача б-d. Негиперболические области вращения. Докажите следующий аналог леммы 5.6. Пусть f:S^S — отображение негиперболической поверхности S в себя такое, что некоторая последовательность итераций отображения f локально-равномерно сходится к тождественному отображению, но ни одна из итераций не является тождественным отображением. Покажите, что с точностью до конформного изоморфизма, f является либо вращением С, С или С \ {0}, либо переносом на торе. § 7. Гладкие множества Жюлиа Большинство множеств Жюлиа оказываются сложными фрактальными подмножествами в С. Однако, имеется три исключения. Согласно теореме Гамильтона (1995), каждое множество Жюлиа, являющееся
90 Итерированные голоморфные отображения одномерным топологическим многообразием, с точностью до преобразования Мёбиуса должно быть либо окружностью, либо замкнутым сегментом, в противном случае его хаусдорфова размерность строго больше единицы. Если рассматривать всю риманову сферу как третий гладкий пример, то здесь с точностью до автоморфизма имеются только три возможных типа гладких множеств Жюлиа рациональной функции степени d ^ 2. Однако, каждый из этих примеров может оказаться множеством Жюлиа для многих различных рациональных функций: это свойство само по себе является исключительным. В этом параграфе мы рассмотрим эти примеры. Пример 1. Окружность. Единичная окружность является множеством Жюлиа для отображения z н-» z±n при любых п ^ 2. (Ср. рассуждения об отображении возведения в квадрат в § 4-) Другие рациональные отображения с тем же самым множеством Жюлиа описаны в задаче 7-Ь. Аналогичным образом, расширенная вещественная ось MUoo? как образ единичной окружности при конформном автоморфизме, может оказаться множеством Жюлиа. (Задача 7-а.) Пример 2. Отрезок. Следуя Уламу и фон Нейману, рассмотрим отображение f(z) = z2 — 2, которое переводит замкнутый отрезок I = = [—2, 2] на себя. Это отображение и его обобщения на старшие степени известны под названием многочлены Чебышева. (Задача 1-е. Другие примеры см. в 7-d.) 7.1. Лемма. Множество Жюлиа J для f(z) = z2 — 2 является отрезком I — [—2, 2], и каждая точка вне I принадлежит области притяжения £/(ос) бесконечной точки. Первое доказательство. Для zo Е / легко проверить, что оба решения уравнения f(z) = zo принадлежат отрезку I. Поскольку I содержит отталкивающую неподвижную точку z — 2, из теоремы 4-Ю вытекает, что I содержит все множество Жюлиа J(f). С другой стороны, область притяжения £/(ос) является окрестностью бесконечности, и ее граница 9^(оо) содержится в J(f) С I, согласно теореме 4-9. Значит, все точки вне J(f) должны принадлежать этой области или, иными словами, должны иметь орбиты, убегающие на бесконечность. Поскольку все точки из I имеют ограниченные орбиты, отсюда следует, что J(f) — I. Ш Другое доказательство. Мы используем подстановку g(w) = = = w + w~x, которая переводит единичную окружность на I — [—
§ 7. Гладкие множества Жюлиа 91 —2, 2] так, что у каждой внутренней точки I имеется два прообраза. Для zo fi I уравнение g(w) = zo имеет два решения, одно из которых лежит внутри единичного круга, а другое — снаружи. Значит, g отображает внешность замкнутого единичного диска изоморфно на дополнение С\ I. Поскольку операция возведения в квадрат в плоскости w связана с f тождеством g(w2) = g(w)2 - 2 = f(g(w)), то отсюда легко следует, что орбита точки z относительно f либо остается ограниченной, либо стремится к бесконечности, согласно тому, принадлежит z этому отрезку или нет. Используя 4-9 еще раз, мы заключаем, что J(f) — I. Ш Пример 3. Сфера С. В оставшейся части этого параграфа мы опишем семейство примеров, построенных С. Латтэ незадолго до его смерти от брюшного тифа в 1918 г. Для данной решетки Л С С построим фактор-пространство — тор Т = С/Л, как в § 2 или § 6. Поэтому Т является и компактной римановой поверхностью, и аддитивной группой Ли. Заметим, что автоморфизм z и-» —z этой поверхности имеет в точности четыре неподвижные точки. Например, если Л = Z + тЪ является решеткой с базисом, состоящим из 1 иг, где г (£ Ж, то эти четыре неподвижные точки таковы: О, 1/2, г/2 и (1 + т)/2 (modЛ). Теперь построим другую риманову поверхность S, отождествляя на торе Т точки z Е Т и — z. Очевидно, S наследует структуру римановой поверхности (но теряет при этом групповую структуру). Здесь в окрестности каждой неподвижной точки Zj в S в качестве локального униформизующего параметра для S можно использовать (z — Zj)2. Поэтому естественное отображение Т —у S является двулистным накрытием за исключением четырех точек ветвления. Для вычисления рода поверхности S будет полезно следующее утверждение. 7.2. Формула Римана-Гурвица. Пусть Si —>• S2 — разветвленное d-листное накрытие одной компактной римановой поверхности на другую. Тогда количество точек ветвления, подсчитанных с их кратностью, равно х{$2)о1 — x(Si), где х — эйлерова характеристика. Схема доказательства. Выберем некоторую триангуляцию поверхности 52? для которой критические значения (все точки ветвления) являются вершинами, и обозначим через an(S2) количество п-мер-
92 Итерированные голоморфные отображения ных симплексов, т.е. х(5г) = «2(^2) — «l^) + «0(^2)- Как правило, каждый симплекс поверхности 52 имеет d различных прообразов в S±. Однако, если v — критическое значение, то у него прообразов меньше. Количество таких недостающих прообразов в точности равно количеству точек ветвления над v, каждая при этом учитывается со своей кратностью, откуда утверждение и следует. ■ Замечание 10. * Это доказательство проходит и в случае рима- новых поверхностей с гладкими границами. Приведенная формула остается справедливой и для собственных отображений некомпактных ри- мановых поверхностей, что может быть проверено, например, с помощью рассуждений о прямых пределах. В нашем примере, поскольку поверхность Si является тором Т и х(Т) = 0, из того, что точек ветвления в точности четыре, а их кратности равны единицам, следует, что 2\(S2) — х(Т) = 4 или х($2) = 2. Используя стандартную формулу ^ = 2 — 2g, мы заключаем, что 52 является поверхностью рода ноль, т. е. изоморфна ри- мановой сфере. (Замечание. Отображение проектирования Т в сферу С, нормализованное подходящим образом, известно под названием р-функ- ция Вейерштрасса.) Рассмотрим теперь отображение удвоения z \-t 2z на торе Т, которое, как легко проверить, имеет степень четыре. Оно коммутирует с умножением на — 1 и, следовательно, индуцирует отображение f:S2^S2- Отсюда следует, что f является рациональным отображением степени четыре. (Более общо, вместо отображения удвоения можно было бы использовать любое линейное отображение, переводящее решетку Л в себя, как в задаче 6-а.) 7.3. Теорема Латтэ. Множеством Жюлиа для такого рационального отображения f является вся сфера S^- Доказательство. Очевидно, что у отображения удвоения на торе Т периодические точки всюду плотны. Например, если г и s — произвольные рациональные числа с нечетным знаменателем, то точка г + st является периодической. Такие периодические орбиты являются отталкивающими, поскольку мультипликатор является степенью двойки. Очевидно, что f наследует то же свойство, и потому указанное утверждение следует из леммы 4-3. (Иначе, для данного маленького открытого множества U С $2 нетрудно показать, что fon(U) совпадает со всей сферой,
§ 7. Гладкие множества Жюлиа 93 если п достаточно велико. Значит никакая последовательность итераций отображения f не может иметь предела ни на каком открытом множестве.) ■ Для того чтобы уточнить, какое именно рациональное отображение f имеет эти свойства, нам следует перенумеровать особые точки поверхности 52- Четыре точки ветвления на Т отображаются в четыре точки «разветвления» на S2, которые будут играть особую роль. Выберем конформный изоморфизм S2 на С, отображающий первые три из этих точек в точки ос? 0 и 1, соответственно. Четвертая точка разветвления должна отображаться при этом в некоторую точку a Е С\{0, 1}. Это позволяет построить отображение проектирования р: Т —>• С степени два, которое удовлетворяет соотношению р(— —z) — p[z) и имеет критические значения р(О) = оо, р(1/2) = 0, р(т/2) = 1, р((1 + т)/2) = а. (Отметим, что определенная таким образом функция р линейно выражается через обычную р-функцию Вейерштрасса.) Здесь а может быть любым числом, отличным от О, 1 и ос. На самом деле, для данного a Е С \ {0, 1} нетрудно показать, что существует одно и только одно разветвленное накрытие Т' —> С степени два, у которого точки разветвления — это в точности {ос, О, 1, а}. (Ср. приложение Е.) Формула Римана - Гурвица показывает, что эта разветвленная накрывающая поверхность Т; является тором, изоморфным C/(Z + rZ) при некотором г £ Ж. Единственное накрывающее преобразование, переставляющее два прообраза любой точки, сохраняет линейную структуру, и поэтому является умножением на —1. Отображение удвоения на торе Т соответствует при проектировании р конкретному рациональному отображению fa: С —>• С, где fa(p(z)) = p(2z). Из теоремы 7.3 следует, что J(fa) = С. Точный вид этого отображения fa описан в задаче 7-g нилсе. Замечание 11. * Мэри Рис (1984, 1986а) доказала существование многих других рациональных отображений, для которых множества Жюлиа совпадают со всей римановой сферой. См. также Эрман (1984)- Для любой степени d ^ 2 обозначим через Rat (б?) комплексное многообразие, состоящее из всех рациональных отображений степени d.
94 Итерированные голоморфные отображения Рис показала, что в Rat (б?) существует подмножество положительной меры, состоящее из отображений f, являющихся «эргодическими». По определению это означает, что любое измеримое подмножество в С, инвариантное относительно f, должно иметь либо полную меру, либо меру нуль. Можно показать, что для любого эргодического отображения f выполняется равенство J(f) = С. Некоторые из таких отображений с гладкими множествами Жю- лиа будут изучаться позднее в теореме 19.9. Задачи Задача 7-а. Пример на метод Ньютона (Шредер 1871, Кэли 1879). Пусть f(z) = z2 + 1. Покажите, что если решать методом Ньютона уравнение f(z) = 0 (задача J±-g), то мы получим рациональное отображение N{z) = z-f{z)lf{z) = \{z-l/z) из С = С U оо в себя. Покажите, что каждая орбита отображения N в верхней полуплоскости стремится к +i, и что в нижней полуплоскости каждая орбита стремится к —г. Выведите отсюда равенство J(N) = = MU оо. (Это можно установить и другим способом, заметив, что N сопряжено отображению z н-» z2 при голоморфной замене координат.) Более общо, покажите, что для любого квадратного уравнения с неравными корнями J(N) является прямой линией вместе со своей бесконечной точкой. Что произойдет в случае квадратного уравнения с кратным корнем? Задача 7-Ь. Произведение Бляшке. Для любого a G Ш) отобра- лсение Фа(г) = (z -a)/(l -az) переводит единичный диск Ш) изоморфно на себя. (Ср. теорему 1.7.) Конечное произведение вида f(z) = eiect>ai(z)<j>aAz)---<t>an(z)
§ 7. Гладкие множества Жюлиа 95 при ctj E Ш) называется произведением Бляшке степени п. Покажите, что каждое такое f является рациональным отображением, которое переводит Ш) на Ш и С\Ш на С\Ш. Выведите отсюда соотношение J(f) С Ш). Пусть g(z) — l/f(z) — отображение, переставляющее внутренность и внешность единичной окружности. Покажите, что J(g) также содержится в единичной окружности. Пусть п ^ 2, и один из множителей имеет вид фо(г) = z; покажите, что f имеет притягивающие неподвижные точки в нуле и в бесконечности, a J(f) совпадает с единичной окружностью. Задача 7-с. Многочлены Чебышева. Определим нормированные многочлены P!(z)=z, P2(z) = z2-2, P3(z) = z3-Sz, ... индуктивно по формуле Pn+i + Pn-i = zPn(z). Покажите, что Pn(w + w~x) =wn + w~n, или, что эквивалентно, Pn(2cos6) = 2cos(n#); покажите также, что Рт о Рп = Ртп. Покажите, что при п ^ 2 множество Жюлиа отображения ±РП является отрезком [—2, 2]. Покажите, что при п ^ 3 многочлен Рп имеет п — 1 различных критических точек, но только два критических значения, которые равны ±2. Задача 7-d. Другие примеры множеств Жюлиа, являющиеся прямолинейными отрезками. Предположим теперь, что f является произведением Бляшке с вещественными коэффициентами и с притягивающей неподвижной точкой в нуле. (Ср. задачу 7-Ь.) Покажите, что существует одно и только одно рациональное отображение F той же степени такое, что следующая диаграмма коммутативна. С —^—► С z+l/z z+1/z с —F-^ с Покажите, что J(F) = [—2, 2]. Покажите, что в частном случае f(z) = zn эта конструкция определяет многочлены Чебышева. Задача 7-е. Периодические орбиты. Покажите, что множества Жюлиа, изученные в примерах 1, 2, 3 имеют следующее необычное свойство. Для всех периодических орбит, кроме, быть может, одной или двух, ^о 4 ^ 4 ... и-» zn = zq мультипликатор А = f'(zi)... f'(zn)
96 Итерированные голоморфные отображения удовлетворяет соотношению |Л| = dn, когда J имеет размерность один, либо |Л| = &п12', когда J = С, где d — степень отображения. (Ср. задачу 19-d.) Задача 7-f. Квадратичное отображение Латтэ. Пусть Т — тор C/Z[i], где Щг\ = Z ф iZ — решетка гауссовых целых чисел, и L: Т —у Т — линейное отображение L(z) = (l + i)z степени |1 + г|2 = = 2. (Ср. теорему 6.1 и задачу 6-а.) Пусть р: Т —у С ассоциированное отображение Вейерштрасса такое, что p(—z) = p(z), и F = poLop-1 ассоциировано с квадратичным рациональным отображением. Покажите, что F имеет критические орбиты р((1 + 0/4) -► p(i/2) ^ р((1 ± 0/2) ^ р(0) Zi р((1 - 0/4) ^ р(1/2) ^ р((1 ± 0/2) ^ р(0). Покажите, что мультипликатор в неподвижной точке р(0) равен (1 + %)2 = 2г. Рассмотрев отображение, сопряженное к F относительно некоторого преобразования Мёбиуса, можно считать, что критические точки расположены в ±1, и что возможная неподвижная точка находится в бесконечности. Покажите, что квадратичные отображения общего вида с критическими точками ±1 и неподвижной точкой в бесконечности имеют вид f(z) = a(z + z~x) + Ь. Покажите, что требуемое соотношение для критической орбиты выполняется тогда и только тогда, когда а2 = —1/2 и b = 0. Более точно, вычислите мультипликатор и покажите, что а = 1/2г. (Ср. Милнор 1999.) Задача 7-g. Семейство отображений Латтэ степени четыре. Покажите, что инволюция z ^ z + 1/2 на торе Т = C/(Z + rZ) из примера 3 соответствует при проекции р инволюции вида w \-у a/w на С с неподвижными точками w = ±y/a. Покажите, что рациональное отображение f = fa имеет полюса в точках ос, 0, 1, а и двукратные нули в ±у/а. Покажите, что f имеет неподвижную точку с мультипликатором А = 4 в бесконечности и выведите отсюда, что Aw(w — l)(w — a) В частности, если а = —1, то (^2 + 1)2 4w(wz - 1)
§ 7. Гладкие множества Жюлиа 97 Покажите, что соответствие т \-> а = а(т) Е С\{0, 1} удовлетворяет уравнениям а(т + 1) = 1/а(т), а(-1/т) = 1 - а(т), и что а(—т) = а(т). Покажите, что а(г) = 1/2 w что а((1 + я)/2) = — — 1. (Это соответствие г \-ь а(т) является примером «эллиптической модулярной функции» и задает явное представление верхней полуплоскости Ш как универсального накрытия над сферой с тремя выколотыми точками С \ {О, 1}. Ср. Алъфорс (1966), стр. 269-274.) Задача 7-h. Посткритическая конечность. Для каждой из шести критических точек w отображения f из задачи 7-g покажите, что f(f(w)) является отталкивающей неподвижной точкой на бесконечности. (Согласно 16.5, из того, что каждая критическая орбита оканчивается на отталкивающем цикле, вытекает, что J(f) = С. Заметим, что отображения Латтэ являются очень частным случаем рациональных отображений, удовлетворяющих этому условию.)
Локальная теория неподвижных точек § 8. Геометрически притягивающие и отталкивающие неподвижные точки Ближайшие четыре параграфа будут посвящены исследованию динамики голоморфного отображения в некоторой малой окрестности неподвижной точки. Эта локальная теория является основным средством для изучения динамики в глобальном аспекте. Она исследовалась уже более ста лет такими математиками как Шредер, Кёнигс, Ло, Бётхер, Фату, Кремер, Зигель, Экаль, Воронин, Черри, Эрман, Брюно, Йоккоз и Перес-Марко. В большей своей части эта теория к настоящему времени хорошо осмыслена, но в некоторых ее разделах до сих пор попадаются чрезвычайно сложные проблемы. Мы начнем с представления рассматриваемого отображения в терминах локального униформизующего параметра z, который может быть выбран так, чтобы неподвижная точка соответствовала значению z = 0. Тогда это отображение можно описать степенным рядом вида f(z) = Xz + a2z2 + a3z3 + ... , который сходится при достаточно малых \z\. Напомним, что первый его коэффициент А = /'(0) называется мультипликатором неподвижной точки и имеет такое специальное название, поскольку играет очень важную роль в наших рассуждениях. Притягивающие точки Определение 10. * Неподвижная точка р отображения f называется топологически притягивающей, если она имеет такую окрестность U, что все последовательные итерации fon определены всюду на U, и последовательность {fon\jj} равномерно сходится к постоянному отображению U —>■ р.
§ 8. Притягивающие и отталкивающие точки 99 8.1. Лемма. Топологическая характеризация притягивающих точек. Неподвижная точка голоморфного отображения является топологически притягивающей тогда и только тогда, когда ее мультипликатор удовлетворяет неравенству \Х\ < 1. Доказательство. В одну сторону утверждение леммы следует из элементарных вычислений. Как и выше, можно предполагать, что неподвижная точка находится в нуле: О = /(0) Е С, и что разложение в ряд Тейлора в ее окрестности имеет вид f(z) = Xz + 0(z2) при z —>• 0. Иными словами, существуют постоянные го > 0 и С такие, что \f(z)-Xz\^C\z2\ dAn\z\<r0. (8:1) Выберем с так, чтобы \Х\ < с < 1, и подберем 0 < г ^ г о так, чтобы \Х\ + Сг < с. Для всех \z\ < г имеем \f(z)\^\\z\+C\z\2^c\z\, и поэтому \fon(z)\ ^cn\z\ <cnr. При п —у оо эта последовательность равномерно сходится к нулю, что и требовалось. Обратно, если точка является топологически притягивающей, то для любого достаточно малого диска Ш£ с центром в нуле существует итерация fon, которая отображает Ш£ на его собственное подмножество. Согласно лемме Шварца 1.2, отсюда следует, что мультипликатор отображения fon удовлетворяет неравенству \Хп\ < 1, следовательно, \Х\ < 1, что и требовалось. ■ Определение 11. * Притягивающая неподвижная точка будет называться суперпритягивающей или, соответственно, геометрически притягивающей, если ее мультипликатор равен нулю, соответственно, удовлетворяет условию 0 < |А| < 1. Для обоих случаев мы покажем, что с помощью подходящей замены переменных отображение f может быть приведено к простой нормальной форме. В этом параграфе рассмотрен только случай геометрически притягивающей точки А / 0. Другими словами, здесь мы будем пред-
100 Локальная теория неподвижных точек полагать, что нуль не является критической точкой отображения f'. Следующий результат был получен Г. Кёнигсом1 в 1884 году. 8.2. Теорема. Линеаризация Кёнигса. Если мультипликатор А удовлетворяет условию |Л| ф 0, 1, то существует локальная голоморфная замена координат w = ф(г) такая, что ф(0) = 0, и композиция фо/оф-1 является линейным отображением w и-» Xw для всех w из некоторой окрестности нуля. Более того, ф определяется единственным образом с точностью до умножения на ненулевую постоянную. Иными словами, следующая диаграмма коммутативна и —L^ f(U) где ф однозначна в некоторой окрестности нуля U. Важность функционального уравнения фо f оф~1{уо) = Xw (8:2) на несколько лет раньше была отмечена Э. Шредером (ср. Александер). Однако, Шредер смог отыскать его решения только в очень частных случаях. Доказательство единственности. Если бы существовали два таких отображения ф и ф, то композиция ф о </>_1(w) = b\w + b2W2 + b^w3 ... коммутировала бы с отображением w н-» Aw. Сравнивая коэффициенты двух получившихся рядов, мы видим, что ХЬп = Ъп\п для всех п. Поскольку А не равно ни нулю, ни корню из единицы, отсюда следует, что &2 = &з = • • • =0. Значит, фоф-1^) = b\w или, другими словами, ф(г) = Ьгф{г). 1 Много позже Кёнигс стал первым Генеральным Секретарем Международного Математического Союза, где, по свидетельству Лехто (1998), он «принес большой ущерб . .. упорно проводя анти-германскую политику ...»
§ 8. Притягивающие и отталкивающие точки 101 Доказательство существования при |Л| < 1. Выберем постоянную с < 1 такую, что с2 < \Х\ < с. Как и в доказательстве леммы 8.1, можно подобрать такую окрестность нуля Ш)г? что \f{z)\ ^ c\z\ при z Е Ш)г. Значит, для любой начальной точки zo Е Ш)г орбита zo \-> z± \-> ..., порождаемая отображением f, сходится геометрически к нулю и \zn\ ^ гсп. Из разложения в ряд Тейлора (8:1) следует, что \f(z) — Xz\ ^ C\z\2 при z G Шг, поэтому \zn+1-Xzn\^C\zn\2^Cr2c2n. Полагая к = Сг2/\Х\, мы видим, что последовательность чисел wn = = -^ удовлетворяет неравенству Л \wn+1-wn\^k(c2/\\\)n. Эти разности сходятся равномерно и геометрически к нулю. Поэтому голоморфная функция zo н-» wn(zo) сходится равномерно всюду на Ш)г к голоморфному пределу ф^о) = lim zn/Xn (ср. 1.4). Требуемое равен- п—юо ство ф(/^)) = Хф^) вытекает отсюда немедленно. Более того, поскольку каждое отображение zo н-» wn = zn/Xn дифференцируемо в нуле, то и предельная функция ф имеет производную ф'(0) = 1 и поэтому является локальным конформным изоморфизмом. Доказательство при |Л| > 1. В этом случае утверждение получается немедленно применением предыдущих рассуждений к отображению f~x, которое определяется в некоторой окрестности нуля, как однозначная голоморфная функция, имеющая мультипликатор, удовлетворяющий условиям 0 < |А_1| < 1. ■ 8.3. Замечание. Более общо, рассмотрим семейство отображений fa вида fa(z) = X(a)z + b2(a)z2 + ..., которые голоморфно зависят от одного (или более) комплексных параметров а и имеют мультипликатор, удовлетворяющий условию \Х(а)\ ф 0, 1. Тогда аналогичные рассуждения показывают, что функция Кёнигса ф^) = фа^) голоморфно зависит от а. (Это сыграет важную роль в 11.15.) Для доказательства этого утверждения зафиксируем некоторое 0 < с < 1 и предположим, что \Х(а)\ изменяется в некотором компактном подмножестве интервала (с2, с). Тогда
102 Локальная теория неподвижных точек сходимость, установленная в доказательстве теоремы 8.2, будет равномерной по а. Общий случай легко отсюда следует. ■ Рассмотрим на момент притягивающий случай 0 < |А| < 1. Мы можем переформулировать теорему 8.2 в более общем виде следующим образом. Предположим, что f:S^S — голоморфное отображение ри- мановой поверхности в себя с притягивающей неподвижной точкой р = = f(p), мультипликатор которой не равен нулю. Напомним, что в §^ мы определили область притяжения d — d(p) С S как множество, состоящее из таких р Е S, для которых lim fon(p) существует и pari—юо вен р. Определим область непосредственного притяжения do как содержащую р компоненту связности области d. (Эквивалентным образом do определяется как компонента связности множества Фату S\J, которая содержит точку р. Ср. лемму 4-3.) 8.4> Следствие. Глобальная линеаризация. Пусть p = f(p), как и выше, тогда существует голоморфное отображение ф из d в С, которое биголоморфно переводит окрестность точки р на окрестность нуля так, что ф(р) = 0, единственно с точностью до умножения на постоянную, и для которого диаграмма d —-—> d ф[ [ф (8: 3) С —^-> С коммутативна. На самом деле, для нахождения ф(ро) в произвольной точке ро £ d надо перебирать последовательные точки ее орбиты до тех пор, пока мы не попадем в некоторую точку рь, которая достаточно близка к р. Далее надо вычислить координату Кёнигса ф{рк) и умножить ее на Х~к. Или же в терминах локальной униформизующей координаты z такой, что z(p) = 0, мы можем просто положить ф(ро) = Hm z(fon(po))/Xn. п—юо ш Теперь рассмотрим частный случай римановой сферы. Пусть f: С —> С — рациональная функция степени d ^ 2, и z~ G С — геометрически притягивающая неподвижная точка с областью притяжения d С С. Заметим, что в некоторой малой окрестности Ш£ точки 0 G С отображение ф: d —>• С из предыдущего следствия имеет корректно определенное обратное голоморфное отображение ф£: Ш£ —>• do такое, что ф£(0) = ?.
§ 8. Притягивающие и отталкивающие точки 103 8.5. Лемма. Нахождение критической точки. Это локально- обратное отображение ф£: Ш£ —>• £/0 аналитически продолжается на некоторый максимальный открытый диск Шг с центром в нуле из С, что порождает единственное голоморфное отображение ф: Ш)г —у d§, для которого ф(0) = z~ и ф(ф(гп)) = w. Более того, ф гомеоморфно продолжается через граничную окружность дШг, и образ ф(дШг) С srfo содержит критические точки отображения f. Например, рисунок 6 иллюстрирует отображение f(z) = z2 + 0,7iz. Здесь множество Жюлиа J — внешняя жорданова кривая, ограничивающая область притяжения d притягивающей неподвижной точки 'z = = 0. Критическая точка с = — 0,35г является центром симметрии, а неподвижная точка £ = 0 лежит в пересечении семейства «вложенных друг в друга окружностей», расположенных над с, в то время как прообраз —0,7г неподвижной точки расположен в точности под ней. Также здесь изображены кривые |0(z)| = const = \ф(с)/Хп\. Таким образом, область ф{рг) из формулировки леммы 8.5 ограничена верхней половиной «восьмерки», проходящей через критическую точку. Заметим, что ф имеет нули во всех итерированных прообразах точки z и критические точки (точки пересечений на рисунке 6) — во всех итерированных прообразах критической точки с. Функция z \-t (\>(z) неограничена и сильно осциллирует при z стремящемся к J — dd. Доказательство леммы. Попытаемся аналитически продолжить ф£ вдоль радиальных линий, выходящих из нуля. Однако, это невозможно сделать неограниченно в любом направлении, иначе мы смогли бы построить голоморфное отображение ф всей комплексной плоскости на открытое множество ф(С) С «с/о С С такое, что ф(ф(гю)) = w. Это было бы возможно только в том случае, когда дополнение С \ ф(С) состояло бы из единственной точки. Но отображение f\^(c) взаимно однозначно, и отсюда следовала бы и «глобальная» взаимная однозначность f, а это противоречит предположению о том, что f имеет степень d ^ 2. Поэтому существует некоторый наибольший радиус г такой, что ф£ аналитически продолжается на весь открытый диск Шг. Пусть U — образ ф(Вг) С d§. Тогда мы получаем коммутативную
104 Локальная теория неподвижных точек Рис. 6. Множество Жюлиа для z н-»- z2 + 0,7iz с кривыми \ф\ = const диаграмму конформных изоморфизмов f U Ф х- ф][ф -> ХШ)Г Заметим, что замыкание U С С должно содержаться в области притяжения d. Действительно, поскольку образ диска Шг при умножении на мультипликатор А содержится в компактном подмножестве ХШ)Г С Ш)г? то образ f(U) содержится в соответствующем компактном подмножестве К С U. Из непрерывности следует, что f(U) С К С U С d, и поэтому U С d. В частности, отсюда вытекает корректность определения ф и ее голоморфность всюду в окрестности замыкания U. Дальше мы покажем, что топологическая граница 8U содержит критическую точку отображения f. В противном случае мы смогли бы продолжить отображение ф: Ш)г —> d аналитически на строго больший
§ 8. Притягивающие и отталкивающие точки 105 диск с помощью следующих рассуждений. Для любой граничной точки wo Е дШг выберем некоторую точку накопления zo Е 8U для кривой t и-» i/;(two) при стремлении t —>• 1. Если zo не является критической точкой отображения f', то в некоторой окрестности f(zo) можно выбрать голоморфную ветвь g отображения /_1 так, что g(f(zo)) = zo, и затем голоморфно продолжить ф на всю окрестность точки wo no формуле w н-» g(ip(\w)). Если не существует критических точек на всем dU, то, очевидно, эти локальные продолжения, объединенные вместе, дают голоморфное продолжение ф на весь диск, строго больший, чем Ш)г. И, наконец, мы покажем, что ф гомеоморфно отображает компактное множество U на замкнутый диск Шг. Достаточно доказать, что две различные точки z ф z' на границе dU должны иметь различные образы (\>(z) ф 4>(zf) в дИ)г. Предположим противное, т.е. что (\>(z) — 4>{z') = = w G dU)r. Выберем последовательность точек Zj Е U, сходящуюся к z, и последовательность точек z'- Е U, сходящуюся к zf. Тогда последовательности {4>(zj)} и {ф{^)} сходятся к одной и той же предельной точке в дШг. Пусть Lj — прямолинейный отрезок, соединяющий в Ш)г точки (/>(zj) и ф{^-), и X С dU — множество точек накопления кривых i/)(Lj) при j —у ос. Тогда нетрудно показать, что X является компактным связным множеством, содержащим обе точки z и z', и что f(X) состоит из единственной точки, лежащей в U. Очевидно, это невозможно. ■ Более общо, если О = {z\, ... , zm} — притягивающая периодическая орбита периода т такая, что каждая ее точка Zj является притягивающей неподвижной точкой для т-кратной итерации fom, то область непосредственного притяжения do — si{6, f) определяется как объединение областей непосредственного притяжения do(zj) m неподвижных точек Zj = fom(zj) отображения fom. Следующий фундаментальный результат принадлежит Фату и Жюлиа. 8.6. Теорема. Нахождение периодических аттракторов. Если f — рациональное отображение степени d ^ 2, то область непосредственного притяжения любой притягивающей орбиты содержит по крайней мере одну критическую точку. Поэтому количество притягивающих периодических орбит конечно и не превосходит количества критических точек.
106 Локальная теория неподвижных точек Доказательство. В случае геометрически притягивающей неподвижной точки первая часть теоремы немедленно вытекает из леммы 8.5, в то время как суперпритягивающая неподвижная точка, по определению, сама является критической точкой в области своего притяжения, что и требовалось. Рассмотрим теперь притягивающую орбиту {zj} периода т такую, что f(zj) = Zj+\, где индексы j берутся по модулю т. Очевидно, что f(srfo(zj)) С srfo(zj+i). Если ни одна из областей s^q(zj) не содержит критических точек, то, согласно цепному правилу, т-кратная композиция отображения f, переводящая каждое s^o(zj) в себя, также не будет иметь критических точек, что невозможно. Теперь утверждение теоремы следует из того, что области притяжения различных периодических аттракторов, очевидно, попарно не пересекаются, и из того, что непостоянное рациональное отображение может иметь только конечное число критических точек. Ш (Другое доказательство см. в задаче 8-g.) Например, у полиномиального отображения степени d ^ 2 имеется не более d — 1 конечных критических точек, и, следовательно, не более d—1 периодического аттрактора (не считая неподвижной точки в бесконечности). Для рационального отображения f(z) = p(z)/q(z) той же степени имеется 2d — 2 критических точек с учетом их кратнос- тей. Это вытекает из формулы Римана - Гурвица 5.1 или из рассмотрения полиномиального уравнения p'q — q'p = 0 при надлежащем учете возможности существования критической точки на бесконечности. Итак, при d ^ 2 у рационального отображения имеется не более 2d —2 периодических аттракторов. (Ср. 10.12 и лемму 13.2.) В отличие от рассматриваемого нами одномерного случая, Ньюхауз показал, что полиномиальный автоморфизм пространства С2 (или Ж2) может на самом деле иметь бесконечно много периодических аттракторов. В этом случае критических точек, очевидно, нет. Заметим, что эта теорема дает конструктивный алгоритм локализации притягивающей периодической точки, если таковые существуют, для любого нелинейного рационального отображения. Начиная с каждой критической точки и итерируя отображение много раз, будем проверять орбиту на (приближенную) периодичность. (Конечно, если получаемый период окажется слишком большим, то эта конструкция окажется непрактичной. В качестве простого примера легко проверить, что квадратичное отображение f(z) = z2 — 1,5, см. рисунок 11,
§ 8. Притягивающие и отталкивающие точки 107 не имеет притягивающих орбит, имеющих разумный период. Однако, мне неизвестен способ проверки того, что то или иное отображение имеет притягивающую орбиту с очень большим периодом.) 8.7. Теорема. Топология области d§. Пусть d§ — область непосредственного притяжения притягивающей неподвижной точки (либо геометрически притягивающей, либо суперпритягиваю- щеи). Тогда его дополнение С\^о либо связно, либо имеет несчетное множество компонент связности. (Ср. ^.12.) Отсюда следует, что d§ само либо односвязно, либо бесконечносвязно. Бесконечно связный пример изображен на рисунке lb. Заметим, что аналогичное утверждение для притягивающей периодической точки периода р доказывается применением теоремы 8.7 к итерации fop. Доказательство теоремы 8.7. Выберем маленький открытый диск Nq с центром в притягивающей точке z~ такой, что f(No) С Nq, и что граница 8Nq является простой замкнутой кривой, несодержащей образов критических точек при итерациях отображения f. Пусть 7V& — компонента связности f~k(No), содержащая Nq. Следовательно, объединение множеств Nq С Ni С N2 С ... совпадает с srf0. Действительно, любую точку из do можно соединить с £ путем Р С 4- Выбирая к так, чтобы fok(P) С Nq, можно показать по индукции, что /°(fe_^)(P) с Nj, и, следовательно, Р С iV&. Очевидно, что каждый N^ ограничен некоторым конечным числом простых замкнутых кривых. Случай 1. Если каждый N^ ограничен одной простой замкнутой кривой, moC\Nk связно, иС\^о, будучи пересечением последовательности вложенных множеств, само является связным. Случай 2. Предположим, что некоторый диск 7V& ограничен простыми замкнутыми кривыми Гх, ... , Гт, т ^ 2. Тогда каждая связная компонента разности N2k \ N^ является разветвленным накрытием над Nk \ Nq. Поскольку N^ \ Nq имеет т + 1 граничную кривую, то каждая такая компонента имеет, по меньшей мере, т + 1 граничную кривую, из которых в точности одна совпадает с одной из кривых Tj. Поэтому каждая из т компонент связности области С \ 7V& содержит, по меньшей мере, т компонент связности области С \ N2k, а каждая из них аналогичным образом содержит, по меньшей мере, т компонент
108 Локальная теория неподвижных точек связности С\Щк и так далее. Рассуждая как и в доказательстве следствия 4-12? мы видим, что С\^о имеет несчетное множество компонент связности. ш Отталкивающие точки Для наших целей можно было бы определить «отталкивающую» неподвижную точку просто, как точку, в которой мультипликатор удовлетворяет условию |Л| > 1. Однако, здесь удобее иметь топологически инвариантную харакеризацию. Определение 12. * Неподвижная точка р = f(p) непрерывного отображения называется топологически отталкивающей, если существует окрестность U точки р такая, что для каждой точки р ф — р в U найдется такое п ^ 1, что образ fon(p) лежит вне области U. Иными словами, единственной бесконечной орбитой р0 ^ Pi ^ P2 ^ ..., которая целиком содержится в U, должна быть орбита неподвижной точки. Такое множество U называется изолирующей окрестностью точки р. 8.8. Лемма. Характеризация топологически отталкивающих точек. Неподвижная точка голоморфного отображения является топологически отталкивающей тогда и только тогда, когда ее мультипликатор удовлетворяет условию |Л| > 1. Доказательство. Если |Л| > 1, то из теоремы 8.2 (или из намного более простых элементарных вычислений) следует, что точка является топологически отталкивающей. Я благодарен С. Закери за следующее доказательство обратного утверждения. Если р — топологически отталкивающая точка отображения f, то заметим сначала, что |Л| ф 0 (и на самом деле |Л| ^ 1), поскольку р, очевидным образом, не может быть одновременно и притягивающей, и отталкивающей. Поэтому мы можем выбрать компактную изолирующую окрестность N, которая настолько мала, что f отображает N гомеоморфно на некоторую компактную окрестность f(N) точки р. Пусть ^=^Vn/-1(7V)n ... nf~k(N) компактная окрестность, состоящая из точек, для которых образы первых к итераций принадлежат N. Тогда последовательность N =
§ 8. Притягивающие и отталкивающие точки 109 = Nq Э D Ni D N2 D ... пересекается в единственной точке р, поскольку N является изолирующей окрестностью. Из компактности N вытекает, что диаметр множеств 7V& стремится к нулю при к —>• ос. Но из построения немедленно следует, что f(Nk) = Щ-г П f(N), где N^-1 С f(N) при больших к, поскольку диаметры стремятся к нулю. Поэтому f(Nk) = Nk-i при больших к; фактически f отображает Nk гомеоморфно на Nk-i- Пусть теперь Uu — компонента связности внутренности Nk, которая содержит р. Значит, /_1 биголоморфно отображает Uk-i па множество JJ^, которое строго меньше, чем Uk-i- Согласно лемме Шварца, его мультипликатор удовлетворяет неравенству |А_1| < 1, поэтому |Л| > 1, что и требовалось. ■ Замечание 12. * Леммы 8.1 и 8.8 имеют место только для комплексных чисел. Для вещественных чисел такие примеры, как f(x) = = х±х3 показывают, что неподвижная точка с мультипликатором А = = 1 может быть как топологически притягивающей, так и топологически отталкивающей. Теорема Кёнигса о линеаризации 8.2 в отталкивающем случае помогает нам понять, почему множество Жюлиа J(f) так часто оказывается сложным «фрактальным» множеством. 8.9. Следствие. Предположим, что рациональная функция f имеет отталкивающую периодическую точку *z, для которой мультипликатор А не является вещественным числом, тогда J(f) либо совпадает со всей сферой С, либо не является гладким многообразием. Чтобы убедиться в этом, выберем любую точку zo Е J(f), достаточно близкую kz~, и положим wo = (f)(zo). Тогда J(f) также должно содержать бесконечную последовательность точек zo «— z\ «— Z2 ±- ..., у которых координаты Кёнигса имеют вид ф(гп) = wo/Xn, то есть расположены вдоль витков логарифмической спирали и сходятся к нулю. Очевидно, что такое множество не может лежать ни в каком одномерном подмногообразии С. ■ Действительно, если мы вспомним, что итерированные прообразы нашей периодической точки всюду плотны на J(f), то мы увидим,
по Локальная теория неподвижных точек Рис. 7. Фрагмент множества Жюлиа для отображения z \-> z2 — 0,744336+ +0,121198г что такие последовательности, лежащие на логарифмических спиралях, в высшей степени типичны. Ср. рисунки 7 и 8, на которых показаны типичные примеры таких спиральных структур, ассоциированных с отталкивающими точками периодов 2 и 1 соответственно. Глобальная форма теоремы о локализации в отталкивающем случае очень отличается от утверждения теоремы 8.4 в геометрически притягивающем случае. В частности, не существует понятия «отталкивающей области» и аналогичных расширений S D d —>• С. Однако отображение ф~х можно распространить до отображения С —>• S. 8.10. Следствие. Глобальное продолжение отображения ф~г Если р — отталкивающая неподвижная точка голоморфного отображения f:S —>• S, то существует голоморфное отображение ф: С —>• S, которое отображает биголоморфно окрестность нуля на окрестность точки р так, что ф(0) — р, и для которого
§8. Притягивающие и отталкивающие точки 111 Рис. 8. Фрагмент множества Жюлиа для z *-+ z2 + 0,424513 + 0,207530г диаграмма / Ф S С- ->с, коммутативна. Здесь ф определено однозначно с точностью до замены w н-» ф(сги) при любой постоянной с ф 0. Для достаточно малого е пусть ф£: Ш)£ —у S — та ветвь отображения ф~г, которая отображает нуль в р. Теперь для того, чтобы вычислить ф(гю) при произвольном w Е С, выберем достаточно большое п такое, что w/Xn Е Ш£, и после этого положим ф(гю) = fon(ij)£(w/\п)). Детали предоставляются читателю. Задачи Задача 8-а. Тор, ассоциированный с неподвижной точкой. Предположим, что f имеет геометрически притягивающую или отталкивающую неподвижную точку р с мультипликатором А.
112 Локальная теория неподвижных точек Пусть U — произвольная окрестность точки р настолько малая, что f биголоморфно отображает U так, что f(U) С U в притягивающем случае, и f(U) D U в отталкивающем случае. Построим фактор-пространство Т = (U\ {p})/f, отождествляя р с f(p) в тех случаях, когда обе эти точки принадлежат U. Покажите, что Т является римановой поверхностью, независящей от выбора U и гомеоморфной тору. Покажите, что Т конформно изоморфна фактору С/Л, где Л является решеткой 2niZ 0 (lnA)Z. Задача 8-b. Глобальная линеаризация. Предположим, что f: S —>■ S — голоморфное отображение римановой поверхности S на себя. (Например, пусть S = С, и f — рациональное отображение.) Покажите, что линеаризующее отображение ф из 8.4 отображает область притяжения si на С Покажите, что ро £ si является критической точкой для ф тогда и только тогда, когда орбита f: р0 ^ Pi ^ P2 ^ ... содержит некоторую критическую точку отображения f. Задача 8-с. Асимптотические значения. Для того, чтобы распространить теорему 8.6 на некомпактные римановы поверхности такие, как С или С\{0}? нам понадобятся некоторые определения. Пусть f: S —>■ Sf — голоморфное отображение римановых поверхностей. Точка v G S' называется критическим значением, если она является образом критической точки, то есть точки, в которой первая производная функции f обращается в нуль. Точка называется асимптотическим значением, если существует непрерывный путь [0, 1) —>• S, который «расходится к бесконечности» в S, или, другими словами, не содержится ни в одном компактном подмножестве S, но образы которого при отображении f сходятся к точке v. Напомним два определения из § 2: открытое множество U С S' называется просто накрытым, если каждая компонента прообраза /_1(С7) отображается гомеоморфно на U, и отображение f называется накрывающим отображением, если каждая точка из Sf имеет окрестность, которая просто накрывается при /. Покажите, что односвязное открытое подмножество Sf просто накрыто отображением f тогда и только тогда, когда оно не содержит критических или асимптотических значений. (Ср. Голдберг и Кин.) В частности, f является накрывающим отображением тогда и только тогда, когда Sf не содержит критических и асимптотических значений. Для голоморфного отображения f: S —>■ S поверхности S в себя
§8. Притягивающие и отталкивающие точки 113 покажите, что область непосредственного притяжения любой притягивающей периодической орбиты должна содержать или критическое значение, или асимптотическое значение, или и то и другое кроме специального случая линейного отображения С или С в себя. Например, для любого с ф О покажите, что трансцендентное отображение f(z) = cez из С в себя не имеет критических точек и имеет всего одно асимптотическое значение, а именно, z — О. Выведите отсюда, что оно имеет не более одного периодического аттрактора. Если \с\ < 1/е, покажите, что f отображает единичный диск в себя, и что f имеет притягивающую неподвижную точку в этом диске. Отображение f называется собственным, если прообраз /_1(К) каждого компактного множества К С Sf является компактным подмножеством в S. (Если S компактно, то каждое отображение S является собственным.) Покажите, что собственное отображение не имеет асимптотических значений. Задача 8-d. Топологическое притяжение и отталкивание. Пусть X — локально-компактное топологическое пространство, и f гомеоморфно отображает некоторую компактную окрестность N точки х на компактную окрестность Nf так, что f(x) = x. Покажите, что х является топологически отталкивающей точкой для f тогда и только тогда, когда она является топологически притягивающей для /-1. (Здесь условие локальной взаимной однозначности f существенно. Например, для отображения f(z) = z2 нуль является притягивающей точкой, а для негладкого отображения g(z) — 2z2/\z\ нуль является точкой отталкивающей, при этом ни одно из этих отображений не является локально-обратимым в нуле.) Задача 8-е. Образ ^(С) С S. Пусть р — отталкивающая точка голоморфного отображения f: S —>■ S. Покажите, что образ отображения ф: С —>• S из 8.10 всюду плотен, и фактически дополнение S\ij)(U) состоит из точек с конечными большими орбитами. (Ср. теорему 4-7. Существует не более двух таких точек, если S = С, не более одной, если S = С, и ни одной для других негиперболических поверхностей.) Задача 8-f. Подсчет компонент области притяжения. Пусть d — область притяжения периодической точки, которая может быть как суперпритягивающей, так и геометрически притягивающей. Пусть некоторая компонента связности d не является периодической; покажите, что d имеет бесконечное число компонент связности.
114 Локальная теория неподвижных точек Предположим, что d имеет только конечное число компонент связности, образующих периодический цикл, и эти компоненты одно- связны. Используя формулу Римана - Гурвица 7.2, покажите, что этот период не больше двух. (Пример: f(z) = 1/z2.) Если они имеют бесконечную связность, покажите, что этот период равен единице. Задача 8-g. Критические точки в области притяжения. Дайте другое доказательство теоремы 8.6, используя следующий план. Предположим, что существует притягивающая периодическая орбита 6, у которой область непосредственного притяжения не содержит ни одной критической точки. Пусть U — маленькая окрестность какой-либо точки р Е в; покажите, что для каждого k ^ 1 нашлась бы единственная ветвь gk'.U^-C отображения f~k\ , которая отображала бы р в 6. Покажите, что в этом случае семейство {gk} было бы нормальным, что невозможно, поскольку первые производные функций gk в точке р должны быть неограниченными. § 9. Теорема Бётхера и полиномиальная динамика В этом параграфе мы изучим суперпритягивающий случай, в котором мультипликатор А обращается в нуль. Как обычно, здесь можно выбрать такой локальный униформизующий параметр z, что неподвижная точка соответствует его значению z = 0. Таким образом, рассматриваемое отображение имеет вид f(z)=anzn + an+1zn+1+ ..., (9:1) при п ^ 2 и ап ф 0. 9.1. Теорема Бётхера. 1 Если функция f определяется формулой (9 : 1), то существует такая локальная голоморфная замена координат w = <j)(z), что ф(0) = 0, и относительно этой замены f сопряжена отображению w н-» wn всюду в некоторой окрестности нуля. Более того, ф единственна с точностью до умножения на некоторый корень степени (п — 1) из единицы. 1Доказана в 1904 г. Л.Э.Бётхер родился в Варшаве в 1878. Получил степень доктора наук в Лейпциге в 1898 г., работая в области теории итераций, затем переехал во Львов, где ушел на пенсию в 1935 г. Публиковался на польском и русском языках.
§9. Теорема Бётхера и полиномиальная динамика 115 Значит, в окрестности неподвижной критической точки f сопряжено отображению вида ф о f о ф~г: w \-> wn, при п ^ 2. Эта теорема часто применяется в случае, когда неподвижная точка находится в бесконечности. Например, полиномиальное отображение степени п ^ 2 имеет суперпритягивающую неподвижную точку в бесконечности. (Ср. теорему 9.5 ниже.) Доказательство существования очень похоже на доказательство теоремы 8.2. Пусть f имеет вид (9:1), выберем некоторое решение с уравнения cn_1 = an. Тогда у отображения cf(z/c), сопряженного с f относительно линейной замены переменных, начальный коэффициент разложения в степенной ряд будет равен +1, и мы можем без ограничения общности считать, что f(z) = zn(\ + h\z + b2Z2 + b^z3 + ...), или, более коротко, f(z)=zn(l + r1(z)), где ф) = hxz + b2z2 + .... (9:2) Выберем достаточно малый радиус О < г < 1/2 так, чтобы \rj(z)\ < 1/2 на диске Шг радиуса г. Очевидно, что f отображает этот диск в се- о бя так, что \f(z)\ ^ j\z\ и f(z) ф О при z Е Ш)г \ {0}. к-кратная итерация fok также отображает Шг в себя, и с помощью индукции можно проверить, что оно имеет вид fok(z) = zn (1 + nk~xh\z + + высшие члены). Для доказательства положим <t>k(z) = n\Jf°k{z) = z(l + nk-4lZ + ... J1/"* = z(l + \z + ...), выбирая такой корень степени nk, у которого производная в начале координат равна +1. Очевидно, что фь(/^)) = (</>&+!(z))n. Мы докажем, что функции фь равномерно сходятся к предельной функции ф: Ш)г —у Л), удовлетворяющей уравнению 0(/(z)) = (ф^))п. Для доказательства сходимости сделаем подстановку z = ez, где Z пробегает левую полуплоскость Re(Z) < In г. Тогда отображение f в диске Ш)г соответствует отображению F(Z) = \nf(ez) этой левой полуплоскости. Более точно это отображение может быть описано следующим образом: F(Z) = ln(enZ(l + г])) = nZ + ln(l + rj) = nZ + (rj - rf/2 + rf/?> - + ...),
116 Локальная теория неподвижных точек где к) — rj(ez) Е Ш1/2 • (Здесь мы совершили выбор нужной ветви логарифмической функции.) Очевидно, что в силу этого уравнения, F корректно определена, голоморфна и отображает полуплоскость Re(Z) < lnr в себя. Поскольку \rj\ < 1/2, то \F(Z) -nZ\ = \ ln(l + rj)\ < In2 < 1 (9:3) для всех Z из этой полуплоскости. Аналогично, отображение фк{%) = (/^(z))1/71 в плоскости z соответствует отображению bk{Z)=\*<t>k{eZ)=F°k{Z)ln\ которое определено и голоморфно всюду на полуплоскости Re(Z) < lnr. В силу (9:3) имеем |<h+1(Z) - <h(Z)| = \Fok+1(Z) - nFok(Z)\lnk+1 < l/n*+1. (Отсюда следует, что функции Ф& равномерно сходятся к предельной функции Ф такой, что $(F(Z)) = n$(Z).) Поскольку экспоненциальное отображение левой полуплоскости на Ш) сокращает расстояния, то \<t>k+i(z)-<f>k(z)\<l/nk+1 для \z\ < г. Поэтому при к —у ос последовательность голоморфных функций z \-> 4>k(z) на диске \z\ < г равномерно сходится к голоморфному пределу (f)(z). Ясно, что ф удовлетворяет требуемому тождест- еуФШ) = Ш)п- Доказательство единственности. Достаточно рассмотреть специальный случай f(z) = zn. Если относительно отображения вида 0(z) = c\z + cuzk + (высшие члены) функция z \-> zn оказывается сопряженной сама себе, то ряд ф(гп) = clZn + ckznk + ... должен совпадать с (ф(г))п = cnxzn + nc^cuz71^-1 + ..., где пк > п + к — 1. Сравнивая коэффициенты, мы видим, что с™-1 = 1, а все высшие коэффициенты равны нулю. ■
§9. Теорема Бётхера и полиномиальная динамика 117 Замечание 13. * Для всюду заданного голоморфного отображения f:S—>Sc суперпритягивающей точкой р можно выбрать такой локальный униформизующий параметр z = z(p), что z(p) = О, и построить координату Бётхера w = <j)(z(p)), как выше. В дальнейшем, чтобы упростить обозначения, мы будем опускать этот промежуточный параметр z и будем писать w = ф(р). По аналогии с 8.4 можно надеяться, что локальное отображение р *-> ф(р) может быть продолжено до голоморфного отображения d —>• Ш) на всю область притяжения точки р. Однако, это не всегда возможно. Такое продолжение использовало бы выражения вида что не всегда допустимо, так как корень степени п не всегда может быть определен однозначным образом. Например, это было бы затруднительно, если бы некоторая другая точка из области притяжения отображалась на суперпритягивающую точку или для неодносвязной области притяжения. Однако, абсолютную величину функции ф можно определять без проблем. 9.2. Следствие. Продолжение \ф\. Если f: S —>• S имеет суперпритягивающую неподвижную точку р с областью притяжения d, то функция р н-» |</>(р)| из теоремы 9.1 продолжается однозначно до непрерывного отображения \ф\\ d —>• [О, 1), удовлетворяющего равенству \ф(/(р))\ = \Ф(р)\п. Доказательство. Положим \ф(р)\ = \Ф(/ок(р))\1/п при большом к. Ш Как и в лемме 8.5, мы можем начать с локального отображения ф£, обратного к ф, определеного на диске радиуса е и удовлетворяющего равенству ф£(0) — р, и затем продолжить его аналитически насколько это возможно. Действуя таким образом, мы можем установить следующее утверждение. 9.3. Теорема. Критические точки в области притяжения. Пусть f: С —>• С — рациональная функция с суперпритягивающей неподвижной точкой р, и do — область непосредственного притяжения точки р. Тогда имеются две возможности: Случай 1. Отображение Бётхера продолжается до конформного изоморфизма из do на открытый единичный диск Ш, относительно которого /I . сопряжено отображению возведения в п-ю степень
118 Локальная теория неподвижных точек Рис. 9. Множество Жюлиа для f(z) = z2 — 1. Отображение / о / имеет степень 4 и две суперпритягивающие точки z = 0 и z = —1. Других критичеких точек область непосредственного притяжения не содержит. Большая орбита представляющей кривой \ф\ = const изображена на обеих притягивающих областях. Заметим, что каждая кривая в области непосредственного притяжения srfo отображается в следующую меньшую кривую из srfo посредством двулистного накрытия w н-» wn на Ш). В этом случае f', очевидно, не имеет в d§ критических точек, отличных от р. Случай 2. В противном случае, существует максимальное число О < г < 1 такое, что локальное обращение ф£: Ш£ —>• £/0 продолжается до конформного изоморфизма ф открытого диска радиуса г на открытое подмножество U = ф(Вг) С £^о. В этом случае замыкание U является компактным подмножеством в d§, и граница 8U С srfo содержит, по крайней мере, одну критическую точку функции f'. Ср. рисунок 9, который иллюстрирует случай 1 и рисунок 10, который иллюстрирует случай 2. Доказательство теоремы 9.3. Как и в доказательстве леммы 8.5, мы можем аналитически продолжить ф£ либо на единичный диск Ш, либо на некоторый максимальный диск Шг радиуса г < 1. Заметим сначала, что полученное отображение ф = фг: Шг —>• U С srfo не имеет критических точек. Действительно, если бы такая критическая точка w Е Ш)г? ф'(w) = О
§9. Теорема Бётхера и полиномиальная динамика 119 Рис. 10. Множество Жюлиа для отображения f(z) = z3 + £2, которое имеет критическую точку при zq = —2/3 в области непосредственного притяжения суперпритягивающей точки z = 0. Нарисована проходящая через точку zq большая орбита кривой \ф\ = const существовала, то, очевидно, что w ф 0, и поэтому из уравнения ф(п,п) = /Ми;)) (9 : 4) следовало бы, что wn также была бы критической точкой. Из этого следовало бы, что последовательность критических точек w, wn, 2 wn , ... сходилась бы к нулю, что невозможно. Поэтому ф локально является взаимно однозначным, и множество всех пар w\ ф W2 таких, что ip(wi) = ij)(w2) является замкнутым подмножеством eif хВг. Покажем, что на самом деле ф является взаимно однозначным всюду на Шг. Если ij)(w\) = ij)(w2), то из 9.2 следует, что \w\\ = \4>(ij)(wi))\ равно \w2\- Если бы нашлась такая пара точек w\ ф W2, то ее можно было бы выбрать так, чтобы \wi\ = |гУг| было минимальным. Но ф является открытым отображением, поэтому для любой точки w[ достаточно близкой к w\ можно было бы выбрать w'2, близкое к W2 такое, что ф(ио'1) = ф(и12). В частности, можно было бы выбрать w'- так, чтобы \w'-\ < \wj\, что противоречит выбору \wj\. Предположим, что г = 1. Тогда функцияр \-^ \Ф(р)\ из 9.2, очевидно, имеет предел +1 при р стремящемся к границе области U, но прини-
120 Локальная теория неподвижных точек мает значения строго меньшие единицы всюду в d. Отсюда следует, что каждая граничная точка U лежит вне d, и поэтому U = si^. Теперь предположим, что г < 1. В этом случае доказательство того, что 8U С d{), и того, что в 8U существует критическая точка, полностью аналогичны соответствующим рассуждениям из 8.5. Детали оставляются читателю. ■ Предостережение. Из рассмотрения рисунков 9 и 10 по аналогии с леммой 8.5 можно ожидать, что ф всегда продолжается до гомеоморфизма замыкания U и замкнутого диска Л)г, однако это не так. Ср. рисунки 11 и 12 ниже. Приложения к полиномиальной динамике Пусть f(z) = anzn + an-\zn~x + ... + a±z + a$ — многочлен степени n ^ 2. (Мы можем всегда предполагать, что его начальный коэффициент ап отличен от нуля.) В этом случае мы увидим, что f имеет суперпритягивающую неподвижную точку в бесконечности, для которой можно применить теорему Бётхера. Но сначала мы приведем одну более элементарную конструкцию. Определим заполненное множество Жюлиа K(f) как множество всех таких z Е С, у которых орбиты относительно f ограничены. 9.4> Лемма. Заполненное множество Жюлиа. Для любого полиномиального отображения f степени d ^ 2 это множество К = K(f) С С компактно и имеет связное дополнение. Оно может быть описано как объединение множества Жюлиа J = J(f) со всеми ограниченными компонентами его дополнения С\ J. С другой стороны, J может быть описано как граница дК. (Компактное подмножество в С называется полным, если его дополнение связно. Каждое компактное подмножество в С может быть «заполнено» добавлением всех ограниченных компонент связности его дополнения.) Доказательство леммы 9.4. Достаточно рассмотреть случай нормированного многочлена, то есть многочлена, у которого начальный коэффициент ап равен +1. Действительно, если у многочлена g(z) начальный коэффициент ап ф 1, то, подобрав некоторое решение уравнения cn_1 = an, мы видим, что
§9. Теорема Бётхера и полиномиальная динамика 121 линейной заменой переменных можно получить нормированный многочлен f(z) = cg(z/c). Далее нетрудно найти такую постоянную Ъ, что \f(z)\ > \z\ при \z\ > b. Например, предполагая нормированностъ f, можно положить Ь = Зтах|а^| ^ 3. Если \z\ > Ь, то 1/(*)/*п1 = х ^ Z ^ ^ zn ^i 3 9 " 2' О так что \f(z)\ ^ \zn\/2 ^ %\z\. Значит все z, такие, что \z\ > Ь, принадлежат области притяжения d — si (об) бесконечной точки. Очевидно, К совпадает с дополнением С \ si. Следовательно, К является компактным множеством таким, что дК = 3d совпадает со множеством Жюлиа, согласно 4-9. Для доказательства связности d рассмотрим ограниченную компоненту связности U в С\ J. Покажем, что |/оп(;г:)| ^ Ъ при всех z Е U и п ^ 0. В противном случае, согласно принципу максимума модуля, нашлось бы такое z Е dU С J, что |/оп(;г:)| > Ь. Но отсюда следовало бы, что z Е d', а это невозможно. Поэтому каждая ограниченная компонента связности С\ J содержится в заполненном множестве Жюлиа К, и единственная неограниченная компонента связности может быть отождествлена с С \ К = С П d(oo). ■ Для лучшего понимания природы заполненного множества Жюлиа рассмотрим дихотомию теоремы 9.3 для дополнительной области d(oc) = С \ К. Отсюда вытекает следующая 9.5. Теорема. Связность К равносильна ограниченности критических орбит. Пусть f — многочлен степени d ^ 2. Если заполненное множество Жюлиа К = K(f) содержит все конечные критические точки f, то и К и J — дК связны, а дополнение к К конформно изоморфно внешности замкнутого единичного диска Ш) при изоморфизме Ф:С\К-^С\В, относительно которого f сопряжен наС\К возведению в п-ю степень w \-^ wn. С другой стороны, если, по крайней мере, одна критическая точка многочлена f принадлежит С\К, то оба множества К и J имеют несчетное количество компонент связности.
122 Локальная теория неподвижных точек Рис. 11. Множество Жюлиа для f(z) = z2 — 3/2. Эквипотенциальные кривые G = In |0| = const нарисованы вместе со своими образами и прообразами при итерациях. (Ср. 9.6.) Каждая такая кривая отображается на следующую большую кривую посредством двулистного накрытия Ср. рисунок 11, который иллюстрирует первую возможность, и рисунок 12, иллюстрирующий вторую. Доказательство теоремы 9.5 основано на следующей идее. Для изучения поведения f в окрестности бесконечности совершим обычную замену переменных ( = 1/ z и рассмотрим рациональную функцию F(C) = —-—. {Ч /(I/O И снова можно предполагать нормированность многочлена f. Из асимптотического соотношения f(z) ~ zn при z —>• ос следует, что F(() ~ £п при £—>■(). Поэтому F имеет суперпритягивающую неподвижную точку при С = 0- (Более явным образом это выводится из степенного разложения вида F(0 =С- ап-гС+1 + (<£_! - а„_2)С"+2 + ... при малых \(\.) С этой конструкцией ассоциирована функция Бётхера ф(() = lim Fok(C)1/nk el &—>-оо
§9. Теорема Бётхера и полиномиальная динамика 123 Рис. 12. Множество Жюлиа для f(z) = z2 + {l+i/2) вполне несвязно (канторо- во множество). Окрестность бесконечности U = Ф(С\Ог) является дополнением области, ограниченной эквипотенциальной «восьмеркой» Е, проходящей через критическую точку z = 0. Заметим, что обе компоненты f~1(E) также являются восьмерками, как и четыре компоненты f~2(E) и т.д. Однако же образы кривой Е при итерациях / гомеоморфны окружностям определенная и биголоморфная при достаточно малых |£|. Кроме того, ф'(0) = 1? поскольку f нормирован. На практике более удобно использовать обратную величину *<*) = мТТ^ = blim f°k(z)1/nk e C\D. Поэтому Ф биголоморфно отображает некоторую окрестность бесконечности на окрестность бесконечности так, что $(z) ~ z при \z\ —>■ оо? и относительно этого преобразования многочлен f', имеющий степень п, сопряжен возведению в степень п, то есть Ф{№) = (Ф(*))». (9:5)
124 Локальная теория неподвижных точек Доказательство теоремы 9.5. (Ср. задачу 9-с.) Предположим сначала, что кроме бесконечной точки других критических точек в области притяжения d — si (об) не существует. Тогда, согласно теореме 9.3, функция Бётхера продол- жается до конформного изоморфизма d —>Ъ. Поэтому функция Ф про- должается до конформного изоморфизма С\К —У С \ Ш). Далее, каждое кольцо Ai+S = {z е С; К \z\ < 1 + г} отображается при Ф = Ф-1 в связное множество \P(Ai+e) С С\К. Замыкание Ф(А1+£) является компактным связным множеством и, очевидно, содержит множество Жюлиа J = dd. Отсюда следует, что пересечение J= П Ф(А1+е) £>0 также связно, и тогда из леммы 9.4 легко следует, что К связно. Предположим теперь, что в С \ К существует по крайней мере одна критическая точка. Тогда утверждение теоремы 9.3 можно переформулировать следующим образом: Существует такое наименьшее число г > 1, что в окрестности бесконечности обратное отображение к Ф продолжается до конформного изоморфизма Ъ:С\ШГ ^>U СС\К. Более того, граница 8U этого открытого множества U = Ф(С\Ш)Г) является компактным подмножеством в С \ К, содержащим, по крайней мере, одну критическую точку f. Мы покажем, что замыкание U разделяет плоскость на два или более ограниченных открытых множества, каждое из которых содержит несчетное количество точек множества Жюлиа. Пусть с Е 8U — критическая точка. Тогда соответствующее критическое значение v = = f(c), очевидно, принадлежит U и \Ф(у)\ = гп > г. Рассмотрим бесконечный луч R С С \ И)г, состоящий из точек вида t • Ф(у) при t ^ 1. Образ R' = ^(R) С U называется внешним лучом точки v, ассоциированным с компактным множеством К С С Рассмотрим теперь полный прообраз f~x(R') С U. Ясно, что пересечение U П f~x(R') состоит из п различных внешних лучей, соответствующих п различным компонентам множества \[R С С \ Ш)г.
§9. Теорема Бётхера и полиномиальная динамика 125 Рис. 13. Схема доказательства теоремы 9.5 для степени п = 3; слева изображена ^-плоскость, а справа — w = Ф(^)-плоскость. Открытое множество U = Ф(С \ Dr) — это внешность области, ограниченной «восьмеркой», проходящей через критическую точку Каждый из этих п внешних лучей R'- заканчивается в некоторой точке z, являющейся решением уравнения f(z) = v. Но это уравнение для критической точки с имеет, по крайней мере, один кратный корень, и поэтому, по меньшей мере, два таких внешних луча, скажем, R[ и R'2 будут заканчиваться в с. Очевидно, что объединение R[U R'2 С U разделяет плоскость на два связных открытых множества, которые мы назовем Vb uV±. Далее заметим, что каждый из образов f(Vo) и f(V\) содержит все точки комплексной плоскости, за исключением, быть может, точек, лежащих в R'. Действительно, каждый образ f(Vk) является открытым множеством. Если ?G С лежит на границе f(Vk), то существует последовательность точек Zj Е V& таких, что их образы f(zj) сходятся к z~. Эта последовательность {zj} должна быть ограниченной, значит из нее можно выбрать подпоследовательность, сходящуюся к некоторой точке zf Е С. Имеем zf (£ Vk, поскольку f(zf) = 'z — граничная точка, a f — открытое отображение, значит, zf Е dVu = R[ Ui^? и поэтому z G R'. Так как C\Rf связно, отсюда следует, что f(Vk)DC\R'DK.
126 Локальная теория неподвижных точек Теперь положим J0 = J П Vo и J\ — J П V\. Тогда f(Jo) = f(Ji) = J. Заметим, что J0 и J\ — непересекающиеся компактные множества, и J0 U Ji — J. Аналогичным образом можно разбить каждое из Jk на два непересекающихся компактных подмножества Jko = Jk П /_1(Jo) и Jfel = Jk n /_1(Ji) такие, что f(Jki) = «/^. Продолжая этот процесс no индукции, мы разобьем J на 2P+1 попарно непересекающихся компактных множества Jko...kp = Jko пrHJkr) n ... п/""(Л,) таких, что f(Jk0.. .kp) = Jkx.. .kp- Аналогично, для каждой бесконечной последовательности &0? &ъ &25 • • • нулей и единиц определим Jk0k!k2 как пересечение последовательности вложенных множеств Jko -) Jkok\ -) Jkok\k2 -) • • • Каждое из этих пересечений компактно и непусто. Таким образом, мы получаем несчетное множество попарно непересекающихся непустых подмножеств, объединение которых равно J. Каждая связная компонента J должна содержаться в точности в одном из этих пожмножеств, и поэтому J имеет несчетное множество компонент связности. Доказательство того, что и у заполненного множества К множество компонент связности несчетно, полностью аналогично. ■ Функция Грина Как и в 9.2, функция z \-> |Ф(^)| непрерывно продолжается на всю область притяжения С \ К и принимает значения |Ф(г)| > 1. (Эта функция имеет конечные значения, поскольку на конечной части плоскости полиномы не имеют полюсов.) На практике обычно удобнее работать с логарифмом этой функции. 9.6. Определение. Будем называть функцией Грина или каноническим потенциалом, ассоциированным с компактом К, функцию G: С —У [О, оо)? которая тождественно равна нулю на К и вне К, определяется следующим образом G(z) = Ы\Ф(г)\=Ит \ Ч/°*(*)1 > 0.
§9. Теорема Бётхера и полиномиальная динамика 127 Нетрудно проверить, что функция G всюду непрерывна и гармонична ^хх ~г ^* уу — " вне множества Жюлиа. (Задача 9-Ь. Здесь нижние индексы обозначают соответствующие частные производные по х и у, где z = х + гу.) Кривые G = const > 0 в С \ К называют также эквипотенциальными. Отметим, что уравнение G(f(z)) = nG(z) означает, что f отображает каждую эквипотенциальную кривую в эквипотенциальную кривую. Задачи Задача 9-а. Замыкания больших орбит. Пусть f — рациональная функция, и d — область притяжения некоторой ее супер- притягивающей неподвижной точки. Покажите, что для любой точки zo Е d замыкание большой орбиты zo является объединением трех множеств: множества всех точек z таких, что \<j)(z)\ = |0(zo)|, множества всех их итерированных образов и прообразов и (если это множество не состоит из единствнной точки) множества Жюлиа J(f). Покажите, что в отличие от суперпритягивающего случая, в области геометрического притяжения замыкание большой орбиты состоит из объединения множеств изолированных точек d, большой орбиты притягивающей точки и множества Жюлиа J(f). Задача 9-Ь. Гармонические функции. Покажите, что гладкая функция G: U —> Ж гармонична в односвязном открытом множестве U комплексных чисел z = х + гу, Gxx + Gyy = 0 тогда и только тогда, когда существует сопряженная гармоническая функция Н: U —>• Ж, однозначно определенная с точностью до аддитивной постоянной, удовлетворяющая условиям Г±х — ^*у1 Ну — ^Ж? и такая, что G + Ш голоморфна. Для произвольной римановой поверхности S покажите, что существует соответствующее понятие гармонической функции S —>• Ж, не зависящее от выбора локальных унифор- мизующих параметров. Покажите, что непостоянная гармоническая
128 Локальная теория неподвижных точек функция не может иметь локального максимума или минимума. Покажите, что любая ограниченная гармоническая функция на диске Ш\{0} с выколотой точкой продолжается до гармонической функции на всем диске Ш). Теперь рассмотрим полином f степени п ^ 2. Покажите, что функция Грина G(z) = 1п|Ф(г)| является гармонической на С\К, стремится к нулю при z —>• К и удовлетворяет соотношению G(z) = In \z\ + 0(1) при \z\ -+ оо. (Другими словами, G(z) — \n\z\ ограничена при больших \z\. Более точной является оценка G(z) = ln|z| + 1п|ата|/(п — 1) + о(1) при \z\ —>• оо? где ап — старший коэффициент многочлена.) Покажите, что функция G однозначно определяется этими свойствами, то есть она полностью определена компактным множеством К = K(f), хотя построение этой функции G явным образом зависит от многочлена f. Задача 9-с. Клеточные множества и формула Римана-Гур- вица. Изложим другой план доказательства теоремы 9.5. Пусть, как и раньше, f — многочлен степени п ^ 2. Для каждого числа g > О обозначим через Vg ограниченное открытое множество, состоящее из всех комплексных чисел z таких, что G(z) < g. Используя принцип максимума модуля, покажите, что каждая компонента связности Vg односвязна. Следовательно, эйлерова характеристика xtyg) совпадает с количеством компонент связности Vg. Покажите, что каждая компонента связности Vg пересекает заполненное множество Жюлиа. Из формулы Римана - Гурвица (7.2) для отображения f:Vg^ Vng следует, что nx(Vng)— xtyg) равно числу критических точек функции f на Vg, подсчитанных с их кратностями. Поскольку Vg, очевидно, связно для достаточно больших g, выведите, что Vg связно тогда и только тогда, когда оно содержит все п — 1 критические точки функции f. Компактное подмножество n-мерного евклидова пространства называется клеточным1, если является пересечением последовательности вложенных друг в друга замкнутых топологических n-мерных клеток, каждая из которых содержится во внутренности предыдущей. 1Ср. Браун, где показано, что подмножество К n-мерной сферы Sn клеточно тогда и только тогда, когда его дополнение Sn \ К является открытой п-мерной клеткой. Это понятие более интересно в высших размерностях. В действительности, нетрудно увидеть, что компактное подмножество в С клеточно тогда и только тогда, когда оно связно и имеет связное дополнение.
§10. Параболические неподвижные точки. Цветок Ло-Фату 129 Покажите, что заполненное множество Жюлиа К = C\Vg клеточно (и, следовательно, связно) тогда и только тогда, когда оно содержит все п — 1 конечные критические точки отображения f'. (В самом деле, если хоть одна из этих критических точек не содержится в К и, следовательно, лежит вне некоторого Vg, то Vg и, следовательно, К несвязны.) Задача 9-d. Квадратичные многочлены. Предположим, что критическая орбита многочлена f(z) = z2 + с убегает на бесконечность. Пусть V = Vg(c) — открытое множество, состоящее из всех таких z Е С, для которых |Ф(г)| < |Ф(с)|. Покажите, что V конформно изоморфно Л), и что /-1(V) имеет две компоненты связности. Выведите отсюда, что /-1|v имеет две голоморфные ветви go и g\, отображающие У в непересекающиеся открытые подмножества, каждое из которых имеет компактное замыкание в V. Покажите, что каждое gj является строго сжимающим в метрике Пуанкаре на V. Рассуждая как в задаче 4~е, покажите, что J является канторовым множеством и канонически гомеоморфно пространству всех бесконечных последовательностей (jo, 2\-> h-, • • •) нулей и единиц. § 10. Параболические неподвижные точки. Цветок Ло-Фату Мы продолжаем рассматривать функции f(z) = Xz + a2Z2 + + +CL3Z3 + ..., определенные и голоморфные в некоторой окрестности нуля, но в этом параграфе мы будем предполагать, что мультипликатор X в неподвижной точке является корнем из единицы, Xq = 1. Такая неподвижная точка называется параболической; при этом предполагается, что foq не является тождественным отображением. (Ср. лемму 4-4-) Рассмотрим для начала специальный случай X = 1, когда функция f имеет вид f(z) = z(l + azn + (высшие члены)) = +, (10:1) = z + az + (высшие члены) при п ^ 1 и а ф 0. Целый показатель п + 1 называется кратностью неподвижной точки. Здесь мы будем изучать неподвижные точки кратности п + 1 ^ 2. (По определению, неподвижная точка имеет кратность 1 и называется простой тогда и только тогда, когда ее мулъ-
130 Локальная теория неподвижных точек типликатор отличен от единицы, и, следовательно, график функции f пересекает диагональ в С х С трансверсально.) Под «единичным вектором» в нуле мы будем понимать комплексное число v, по модулю равное единице, отождествляя его с касательным вектором к гладкой кривой t \-y tv при t = 0. Определение 13. * Будем говорить, что единичный вектор v в нуле имеет отталкивающее направление, если avn вещественно и положительно, то есть если вектор, выпущенный из v в v(l + avn), указывает направление выходящее из нуля. Аналогичным образом, будем говорить, что единичный вектор v в нуле имеет притягивающее направление, если avn вещественно и отрицательно. Таким образом, в рассматриваемой нами ситуации на единичной окружности имеется п равномерно расположенных отталкивающих направлений, разделенных п равномерно расположенными притягивающими направлениями. Отметим, что отталкивающие направления для f являются притягивающими для обратного отображения /_1, которое также корректно определено и голоморфно в окрестности нуля. Дадим предварительное описание локальной динамики. Рассмотрим некоторую орбиту ^ ^ ^i ^ • • • отображения f, заданного уравнением (10:1). Будем говорить, что эта орбита нетривиально сходится к нулю, если Zk —У 0 при к —у оо? но ни один элемент орбиты не обращается в нуль. 10.1. Лемма. Если орбита f \ zq \-+ z\ \-+ ... нетривиально сходится к нулю, то отношение Zk/\zk\ при к —у ос сходится к некоторому притягивающему единичному вектору. В этом случае в качестве предела может оказаться любой из п единичных притягивающих векторов. В действительности, для любого е > 0 найдется такое д > 0, что если угол между zo/\zo\ и каждым из п отталкивающих векторов больше, чем е, и если \zq\ < 8, то орбита zo \-У zi \-У ... нетривиально сходится к нулю, и ассоциированные с ней отношения Zk/\zk\ сходятся к ближайшему к zo/\zo\ притягивающему единичному вектору. Например, если три выделенные на рисунке Ц сектора имеют достаточно малые радиусы, то из леммы 10.1 следует, что любая орбита, начинающаяся в одном из этих секторов, будет сходиться к нулю внутри этого сектора, и Zk/\zk\ будут сходиться к соответствующему притягивающему единичному вектору.
§10. Параболические неподвижные точки. Цветок Ло-Фату 131 Рис. 14. Схематическая картина окрестности параболической точки кратности п + 1 = 4. (Здесь а = — 1.) Каждая стрелка показывает приблизительно направление, в котором / передвигает точки. Три притягивающих направления обозначены стрелками, направленными к началу координат, а три отталкивающих направления обозначены стрелками, выходящими из начала координат Определение Ц. * Если орбита zo н-» z\ н-» ... отображения f сходится к нулю, и Zk/\zk\ сходятся к единичному притягивающему вектору v, будем говорить, что эта орбита {zk} сходится к нулю в направлении V. Более общо, для любого голоморфного отображения f:S^S pu- мановой поверхности S, и для любой его неподвижной точки £ кратности п + 1 ^ 2 легко обобщить эти конструкции так, чтобы было справедливо следующее утверждение: Существует в точности п различных «притягивающих направлений» в касательной плоскости к S в точке 1z, и любая орбита, нетривиально сходящаяся к *z, должна приближаться к этому пределу в одном из этих п направлений. 10.2. Определение. Для данного притягивающего направления Vj в касательной плоскости к S в кратной неподвижной точке £ множество, состоящее из таких точек zo Е S, для каждой из которых орбита zo \-> z± \-> ... отображения f сходится к z в направлении Vj, назовем параболической областью притяжения sij = si(z, Vj). Очевидно, что эти области d\, ... , dn открыты, вполне инвариантны, попарно не пересекаются и обладают следующим свойством: орби-
132 Локальная теория неподвижных точек та zo и-» z\ \-^ ... отображения f сходится к z нетривиально тогда и только тогда, когда она содержится в одной из этих областей sij. Областью непосредственного притяжения d^ назовем ту единственную компоненту связности параболической области притяжения &4j, которая отображается в себя при отображении f'. Рис. 15. Множество Жюлиа отображения f(z) = z5 + (0,8 + 0,8г)^4 + z. Это отображение имеет в точке z = 0 параболическую неподвижную точку с нулевым числом вращения и тремя лепестками (а также притягивающую неподвижную точку при z = —0,8 — 0,8г). Области непосредственного притяжения для трех притягивающих направлений напоминают воздушные шары, соединенные вместе в параболической точке и разделенные отталкивающими направлениями Эквивалентным образом можно определить область &4j как компоненту связности множества Фату S\J, которая содержит Zk при больших к, если последовательность {zk} сходится к z~ в направлении Vj. Доказательство леммы 10.1. Мы используем подстановку w = <j)(z) = c/zn при с = — 1/(па). Предположим для определенности, что z пробегает открытый сектор Aj радиуса е с углом 27г/п, состоящий из всех reieVj, где 0 < г < е и \в\ < л/и, a Vj — один из единичных притягивающих векторов. Тогда w пробегает соответствующую область \w\ > \c\/en в плоскости
§10. Параболические неподвижные точки. Цветок Ло-Фату 133 Рис. 16. Сектор Aj для п = 3 и содержащийся в нем лепесток g?j с разрезом С \ (—оо, 0]. Значит, f принимает вид f(z)=z(l + azn + o(zn)), где o(zn) обозначает зависящий от z остаточный член, который стремится к нулю быстрее, чем zn, т.е. так, что o(zn)/zn —у 0 при z —у 0. Соответствующее преобразование в w-плоскости имеет вид w \-у F(w) = = ф о f о ф~1(гп), где ф~1(гп) = y/c/w, и у корня п-й степени выбирается та ветвь, которая принимает значения в секторе Aj. Поэтому F — корректно определенная на дополнении большого диска в разрезанной плоскости голоморфная функция, принимающая значения в С. Заметим, что /о,/>-»= ^;(1 + а£ + 0(1)), значит, Поскольку пас = — 1, последнее выражение можно переписать в виде F(w) = w+ l + o(l), где остаточный член о(1) стремится к нулю при \w\ —>• оо. Иными словами, для любого г\ > 0 существует такое rv, что \F(w) - w - 1| < г] при \w\ > rv. (10 : 2) (В дальнейшем нам понадобится несколько более точное утверждение: F(w) = w + l + 0(l/?/w) при \w\^ ос. (10:3)
134 Локальная теория неподвижных точек F{w) ^ Рис. 17. Диаграмма на плоскости w, показывающая две окружности — радиуса 7] с центром в w + 1 и радиуса гц с центром в нуле, и касательные лучи с угловыми коэффициентами ±г//д/1 — г/2 То есть существуют такие постоянные г и С, что \F(w) — w — 1| ^ ^ С/ \/РЙ? как только \w\ ^ г. Это доказывается точно такими же рассуждениями.) В частности, из (10:2) следует, что Ke(F(w)) > Ke(w) + 1 — r\, при \w\ > rv. Предположим, например, что г\ — 1/2? и выберем wo в полуплоскости Re(wo) > r*i/2- Ясно, что тогда орбита wo \-> w\ и-» ... отображения F остается в этой полуплоскости и удовлетворяет неравенству Re(wk) >r1/2+k/2, (10:4) что стремится к бесконечности при к —у ос. Тогда из (10:2) следует, что разность Wj — Wj-i стремится к +1 при j —>• оо. Поэтому отношение к jfe =k^Wj~Wj~l) 1 также стремится к +1 при к —>• оо. Поскольку wo/k стремится к нулю, этим доказано, что последовательность комплексных чисел Wk при к —у оо асимптотически растет как +fc. В частности, отсюда следует, что i i Wh л _ Zh \Wk\ —>• оо, - —>• 1, значит zu —>• 0, -—- —>• г>7- \т\ \zk\
§10. Параболические неподвижные точки. Цветок Ло-Фату 135 при к —>• оо. (Несколько больших усилий требует доказательство более точной оценки zu ~ Vj y/\c\/k при к —>• oo.J Бее эти рассуждения проходят при предположениях о том, что wo лежит в некоторой полуплоскости Ke(wo) > rv, где О < г\ < 1. Однако тот же результат можно получить и при более слабых предположениях. А именно, нарисуем два касательных к окружности радиуса rv с центром в нуле луча с угловыми коэффициентами ±77/лА ~~ V2> как показано на рисунке 17. Пусть U — область, ограниченная этими двумя лучами и правой дугой окружности и расположенная справа от этой линии. Тогда \F(w) — w — 1| < г\ при всех w Е U, и из простых геометрических рассуждений следует, что F отображает область U в себя. Следовательно, каждая орбита, которая начинается в U, в конце концов попадает в полуплоскость Re(w) > rv, и мы видим, как и выше, что Wk ~ к при к —у ос. Поскольку г\ может быть сколь угодно мало, в этом доказательстве учитываются и все достаточно далекие от нуля значения wo, а также отграниченностъ wo/\wo\ от —1. Или, более точно, каждое wo, для которого \wo/\wo\ + l| > e и \wo\ больше некоторой, зависящей от е, постоянной, должно принадлежать области U = Uv при подходящем выборе г\. Это завершает доказательство леммы 10.1. ■ Более общо, если £ является периодической точкой отображения f: S —>■ S с периодом к и мультипликатором А = е2пгр/д, то 'z является неподвижной точкой для итерации fokq с мультипликатором +1. По определению, параболическая область притяжения для fokq в точке z также называется параболической областью для отображения f. 10.3. Следствие. Для голоморфного отображения f:S^S каждая параболическая область притяжения sij содержится в области Фату S\J(f), но граница ddj каждой области притяжения содержится во множестве Жюлиа J(f). Доказательство. Мы уже знаем из леммы 4-4? что неподвижная точка z сама принадлежит множеству Жюлиа. Если орбита zo н-» z\ н-» ... в конце концов попадает в z~ или, иными словами, «тривиально» сходится к точке *z, то zo принадлежит множеству Жюлиа. Рассмотрим теперь точку zo Е ddj, у которой орбита не сходится к z тривиально. Поскольку zo не принадлежит ни одной параболической области притяжения dj, то орбита zq *-> z\ н->- ... также не может нетриви-
136 Локальная теория неподвижных точек алъно сходиться к z. Следовательно, мы можем выбрать подпоследовательность {zk(m)}, отграниченную от z. Поскольку последовательность итераций {fok} сходится к z всюду на открытом множестве sij, то она не может быть нормальной ни в какой окрестности граничной точки zq. Далее доказательство очевидно. ■ Рис. 18. Множество Жюлиа для отображения z \-> z2 + e2nltz при t = 3/7 Предположим теперь, что мультипликатор X в неподвижной точке является корнем степени q из единицы, скажем, А = exp(27rip/q), где p/q — несократимая рациональная дробь. 10.4> Лемма. Если в неподвижной точке z = f(z) мультипликатор X является первообразным корнем степени q из единицы, то число п притягивающих направлений в точке z должно быть кратным q. Иными словами, кратность п + 1 точки z~, как непо-
§10. Параболические неподвижные точки. Цветок Ло-Фату 137 движной точки итерации foq, должна быть сравнимой с единицей по модулю q. Например, на рисунке 18 показана часть множества Жюлиа квадратичного отображения f', имеющего в нуле (рядом с центром рисунка) неподвижную точку с мультипликатором А = е27Г*(3/7). В этом случае семикратная итерация f°7 имеет степень 128 и неподвижную точку кратности 7 + 1 = 8 в нуле. На рисунке хорошо видны семь областей непосредственного притяжения. Доказательство леммы 10.4. Пусть v — любое притягивающее направление отображения foq в точке 'z, тогда можно выбрать орбиту zo н-» zq \-t Z2q... этого отображения так, чтобы она сходилась к £ в направлении v. Очевидно, что образ орбиты z\ \-^ zq+\ и-» z>2q+\ • • • при отображении f будет орбитой, сходящейся к z в направлении Xv. Поэтому умножение на А = е27ггр/д переставляет п притягивающих направлений, откуда лемма и вытекает. Ш Замечание Ц. * Если заменить f = f0 на близкое отображение ft с тем, чтобы немного изменить X, то (п + 1) -кратная неподвижная точка z итерации foq распадется на п + 1 простую неподвижную точку отображения f^q. Поскольку 'z является простой неподвижной точкой для fok при к < q, то только одна из этих п + 1 точек будет неподвижной для ft или для f£k. Оставшиеся п точек разобьются на n/q орбит, каждая из которых будет иметь период в точности равный q. Вернемся к рассмотрению случая X = 1. Часто бывает удобно иметь локальный аналог глобального понятия «область притяжения». Пусть z — неподвижная точка кратности п + 1 ^ 2. Выберем у нее достаточно малую окрестность N так, чтобы она диффеоморфно отображалась при f на некоторую окрестность N' этой же точки. Таким образом, обратное отображение f~1:Nf^N единственным образом определено и голоморфно. Пусть v — некоторое притягивающее направление в z. Определение 15. * Односвязное открытое множество 0Р С N П Nf такое, что f(3?) С £Р, будет называться притягивающим лепестком для f в направлении v в точке *z, если: (1) ограниченная на £Р последовательность итераций fok равномерно сходится к постоянной функции z н->- z~, и
138 Локальная теория неподвижных точек (2) орбита zo и-» z\ \-^ ... отображения f поглощается этим множеством £Р тогда и только тогда, когда она сходится к z в направлении V. Аналогичным образом, односвязное открытое множество 2?' С N П N' будет называться отталкивающим лепестком в направлении v', если 2?' является притягивающим лепестком для отображения /_1 в этом направлении. Рис. 19. Цветок Ло-Фату с тремя притягивающими и тремя отталкивающими лепестками. Каждая стрелка показывает направление от z к f(z) 10.5. Теорема. Цветок Ло-Фату. Если z — неподвижная точка кратности п + 1 ^ 2, то в этой точке существуют притягивающие лепестки £Р\, ... , 3^п для п притягивающих направлений в £, и отталкивающие лепестки 0Р[, ... , 0Р'п для п отталкивающих направлений^ объединение всех этих 2п лепестков с самой точкой z образует окрестность 7V0 точки z. Более того, эти 2п лепестков расположены циклически, как показано на рисунке 19? так, что два лепестка пересекаются тогда и только тогда, когда угол между их центральными направлениями равен 7г/п.
§10. Параболические неподвижные точки. Цветок Ло-Фату 139 Таким образом, если п > 1, то каждый притягивающий лепесток пересекает в точности два отталкивающих лепестка. (В частном случае п = 1 существует всего один притягивающий лепесток и один отталкивающий, и их пересечение 0Р Г\ 0Pf имеет две различные компоненты связности.) Доказательство теоремы 10.5 немедленно вытекает из предыдущих рассуждений. Открытое множество U в плоскости w при замене координат w = c/zn соответствует любому из требуемых притягивающих лепестков. Дальнейшие рассуждения предоставляются читателю. ■ Если f:S^S — всюду определенная голоморфная функция, u^z — ее неподвижная точка кратности п + 1 ^ 2, тогда каждый притягивающий лепесток 0Pj в точке 'z определяет соответствующую параболическую область притяжения dj, состоящую из таких zo, для которых орбиты zo и-» z\ \-^ ... попадают в 2?j и, следовательно, сходятся к неподвижной точке в направлении Vj, определяющем sij. (Ср. 10.2.) Далее можно описать геометрию в окрестности параболической неподвижной точки следующим образом. Как и в (10:1), рассмотрим локальное аналитическое отображение с неподвижной точкой, имеющей мультипликатор Л = 1. Пусть £? либо один из п притягивающих, либо один из п отталкивающих лепестков, как в теореме 10.5. Построим фактор-пространство 2?/f, отождествляя z с f(z), если оба z и f(z) принадлежат £Р. (Это означает, что z отождествляется с f(z) для каждого z Е 0P в случае притягивающего лепестка и для каждого z Е 0P П f~1(3P) в случае отталкивающего лепестка.) 10.6. Теорема о цилиндре. Для каждого отталкивающего или притягивающего лепестка £Р фактор-многообразие 2?/f конформно изоморфно бесконечному цилиндру C/Z. По определению, введенному А. Дуади, фактор 2?/f называется цилиндром Экаля для £Р. Эта конструкция появилась в работах Экаля о голоморфных отображениях, касательных к тождественному. Поведение цилиндров Экаля при возмущениях отображения f — очень важный объект изучения в голоморфной динамике. (Ср. Лаворс, Сисикура.) Мы получим теорему 10.6 как немедленное следствие следующего фундаментального результата, принадлежащего Ло и Фату. Однако можно доказывать эти теоремы и в обратном порядке, ср. задачу 10-с. 10.7. Теорема о параболической линеаризации. Существует
140 Локальная теория неподвижных точек единственное, с точностью до параллельного переноса, конформное вложение а лепестка £Р в универсальное накрывающее пространство С цилиндра, которое удовлетворяет функциональному уравнению Абеля a{f(z)) = l + a{z) для всех z Е 0РГ\/~1(0Р). При подходящем выборе 0P образ а(0Р) содержит некоторую правую полуплоскость {w | Re(w) > с}, в случае притягивающего лепестка, или некоторую левую полуплоскость в случае отталкивающего лепестка. Линеаризирующую координату a(z) часто называют координатой Фату в 9>. Доказательство теорем 10.7 и 10.6. Приводимое нами рассуждение, вольным образом следующее Штейн- метцу, вполне конструктивно и может быть использовано при практическом вычислении координат Фату, хотя сходимость здесь весьма медленна. Достаточно рассмотреть случай притягивающего лепестка. Как и в доказательстве леммы 10.1, мы будем использовать координату w = c/zn и функцию F: U —>• U, которая голоморфно сопряжена функции /: £Р —>• &. Согласно оценке (10:3), имеем F(w) = w + 1 + 0(l/\w\£) при \w\ -^ оо, (10 : 3') где е = 1/п > 0. Отсюда следует оценка первой производной функции F Ff(w) = 1 + 0 f —^ J при \w\ -> оо. Или, более явно, выберем постоянные R и С такие, что \F(w) — w — l\ < < C/\w\£ при \w\ > R/2. Тогда \F'(w) - 1| < C|2/w|1+s при \w\ > R. Это следует из того, что отображение w н-» F(w) — w — 1, ограниченное на диск радиуса \wo/2\ с центром в wo, отображается в диск радиуса C/\wo/2\£ при \wo\ > R. Согласно лемме 1.2!, ее производная в точке wo ограничена отношением этих постоянных. Предположим теперь, что w и w — любые точки правой полуплоскости Ke(w) ^ R. Усредняя выражение F'(w) — 1 по прямолинейному
§10. Параболические неподвижные точки. Цветок Ло-Фату 141 отрезку, соединяющему эти две точки, мы получаем \f(w) -F(w) w — w < C(2/0 l+e где £ ^ R — минимальное из двух чисел Ke(w) и Ke(w). В частности, для двух орбит wo и-» w\ и-» ... и wo и-» w\ и-» ... в этой полуплоскости из (10:4) следует, что Re(wk) и Re(wk) линейно возрастают с ростом к, и поэтому wk -wk m-i ~ m-i С < —г-—, значит к1+£ wk -wk m-i - m-i ^1 + С к1^ (10 : 5) при подходящем выборе постоянной С. Заметим, что бесконечное произведение конечно. Из правой части неравенства (10:5) для подходящего конечного произведения следует, что \wk-i - Wk-i\ ^ ко - w0\P для каждого к. Умножая это неравенство на левую часть (10:5), имеем \{wk - wk) - (wk-i - Wk-i)\ ^ PC'\w0 - w0|/fc1+s. Суммируя по всем к и пользуясь тем, что ^ 1/к1+£ < оо? мы убеждаемся в существовании предела lim (wk - wk) = (w0 - wo) + y2((wk - wk) - (wk-i - wk-i))- (10 : 6) fe—>-oo k>l Пусть теперь (3(wo) — величина этого предела (10:6), или, иными словами, положим 0(w) = lim (Fok(w) - Fok(w0)), fe—>-oo где wo — некоторая неподвижная точка в этой полуплоскости. Из доказательства видно, что эта сходимость равномерна на компактных
142 Локальная теория неподвижных точек множествах, и поэтому предельная функция w и-» /3(w) голоморфна. Заметим далее, что 0(F(w)) = Нт(гул+1 - wk) = Иш(гул+1 - iJJfc+i) + lim(ivk+1 - wk), где оба предела в правой части равны /3(w) и +1, соответственно. Из этого следует, что /3 удовлетворяет уравнению Абеля /3(F(w))=/3(w)+l для всех w из полуплоскости Re(w) > R. Значит, композиция a(z) = = /3(c/zn) определена и удовлетворяет требуемому уравнению Абеля a(f(z)) = a(z) + 1 для всех z из соответствующего притягивающего лепестка £Pr. Мы можем продолжить его на произвольный притягивающий лепесток £?, полагая a(z) = a(fok(z)) — к при таких больших к, что fok(z) Е 0Pr. Если разделить соотношение (10:6) на wo — wo, то из предыдущих рассуждений следует, что сходимость Wb — Wk P(wo) 7 — ^r- -> ———ir при к -> оо w0 -wo w0 - w0 равномерна при изменении wo всюду на правой полуплоскости. Предположим, что к и wq фиксированы, и что \wo\ стремится к бесконечности. Тогда разность Wk — wo сходится к к и потому остается ограниченной. Значит, отношение в левой части последней формулы стремится к +1. Отсюда мы получаем асимптотическое соотношение /3(w) ~ w — wo, и поэтому 0(w) ~w (10 : 7) при \w\, стремящемся к бесконечности, и Ke(w) ^ R. Из теоремы Руше следует, что образ правой полуплоскости при отображении /3 (и, значит, образ соответствующего лепестка £Pr при а) целиком содержит некоторую правую полуплоскость. Чтобы доказать, что функция /3 инъективна, используем следующее неравенство Wk-wk Wk-l ~ Wk-! к1+£ которое вытекает из левой половины неравенства (10:5). Посколь- оо ку П(1 — С/к1+£) > 0 при достаточно больших N, то /3(wo) ф /3(wo), N
§10. Параболические неподвижные точки. Цветок Ло-Фату 143 если wo ф wo. (Здесь мы пользуемся тем, что и само отображение F однозначно, то есть wN ф wN.) Поскольку выбор исходной точки wo произволен, это доказывает, что /3 инъективна, и поэтому производная /3f(w) нигде не обращается в нуль. Значит, /3 однозначна, и поэтому а также однозначна. Теперь конформный изоморфизм &j j —у C/Z из теоремы 10.6 может быть получен отображением класса эквивалентности {zo, z\, ... } в класс вычетов a(zo) no модулю Ъ. Чтобы убедиться в том, что а единственна с точностью до параллельного переноса, удобно использовать конформную эквивалентность C/Z = С \ {0}. Но любая конформная эквивалентность С \ {0} —У С \ {0} единственным образом продолжается до конформной эквивалентности римановой сферы в себя, и эта продолженная эквивалентность должна иметь вид z \-> cz или z \-у с/z при некоторой постоянной с ф 0. Первый случай соответствует трансляции в C/Z, и легко проверить, что второй случай не реализуется. Это завершает доказательство теорем 10.7 и 10.6. Ш 10.8. Замечание. Отметим, что эта описанная выше система координат Фату определена только в одном из 2п притягивающих или отталкивающих лепестков. Чтобы описать полную окрестность параболической неподвижной точки, нам надо описать, как эти 2п координатных систем Фату объединяются в пары с помощью однозначных отображений, удовлетворяющих функциональным уравнениям ф(а + + 1) = = ф{а) + 1 при а, принадлежащих пересечениям соседних лепестков. В действительности, каждое из 2п требуемых склеивающих отображений может быть продолжено до отображения, которое определено либо в некоторой верхней полуплоскости lm(a) > const, либо в некоторой нижней полуплоскости Im(a) < const. Такое отображение обязательно имеет вид ф(а) = а + Ъ(е±2™а), где Ф может быть продолжено до отображения, определенного и голоморфного в некоторой окрестности нуля, и знак ± мнимой части 1т(а) выбран так, что \е±27гга\ < 1. Эти отображения определены не вполне однозначно, поскольку координаты Фату определены только с точностью до некоторой аддитивной постоянной. Однако, каждый из степенных рядов Ф зависит от бесконечного числа параметров. Таким образом, можно убедиться в том, что для общего голоморфного отображения f в окрестности параболической неподвижной точки не существует нормальной формы, зависящей только от конечного числа параметров. (Ср. Малъ- гранж и Воронин.)
144 Локальная теория неподвижных точек С другой стороны, при заменах координат с помощью формальных степенных рядов для функции f существует нормальная форма z \-^ z + + zn+1 + j3z2n+1, зависящая всего от одного комплексного параметра (задача Ю-d), в то время как для топологических замен координат Ка- мачо показал, что такая нормальная форма имеет вид z \-t z + £n+1. Хотя координата а определена только с точностью до аддитивной постоянной, ее дифференциал da определен однозначно. Поэтому теорема 10.7 может быть сформулирована и по-другому: В каждом притягивающем или отталкивающем лепестке существует единственная f-инвариантная голоморфная 1-форма da = /« = (dajdz)dz такая, что f da = +1. z Или, что эквивалентно, в каждом лепестке существует единственным образом определенное голоморфное векторное поле dz д da dz' обладающее следующим свойством. Соответствующее значению параметра t = 1 отображение сдвига вдоль этого поля или, что эквивалентно, значение решения дифференциального уравнения dz(t) _ i dt da(z)/dz' при t = 1 — это в точности данное отображение f. В частности, в каждом лепестке отображение f можно представить в виде итерации f = g о g, где g — значение решения предыдущего уравнения при t = 1/2. Однако, как и в предыдущем абзаце, нет никаких оснований ожидать, что эти дифференциальные формы, или векторные поля, или функции g = /о1/2 будут совпадать на пересечениях прилегающих друг к другу лепестков. Если рассматривать f просто как формальный ряд z + azn+1 + ..., то уравнение f = go g будет иметь единственное решение g(z) — z + (a/2)zn+1 + ... в виде формального ряда. Однако нет никаких причин надеяться на то, что этот ряд сходится. Предположим теперь, что f:S^S — всюду определенное голоморфное отображение. Хотя притягивающие лепестки «в малом» ведут себя также, как и отталкивающие, «в целом» их поведение значительно отличается.
§10. Параболические неподвижные точки. Цветок Ло-Фату 145 10.9. Следствие. Если & С S — притягивающий лепесток отображения f, то отображение Фату а: 2? ^С единственным образом продолжается до отображения d —>• С, которое определено и голоморфно всюду на области притяжения лепестка 0Р и также удовлетворяет уравнению Абеля a(f(z)) = = l + a(z). Для отталкивающих лепестков аналогичное утверждение звучит следующим образом. 10.10. Следствие. Если 0Pf С S — отталкивающий лепесток отображения f: S —>■ S, то обратное отображение единственным образом продолжается до всюду определенного отображения 7- С —У S, которое удовлетворяет соответствующему уравнению f(j(w)) = 7(1 + w)- Доказательства полностью аналогичны соответствующим доказательствам 8.4 и 8.10. ш В случае нелинейного рационального отображения /: С —>• С продолженное отображение из следствия 10.9 сюръективно. Однако, оно не является однозначным; оно имеет критические точки, если некоторая итерация f о ... о / имеет критическую точку. Отметим следующий основной результат. 10.11. Следствие. Если z~ — параболическая неподвижная точка рационального отображения f с мультипликатором А = 1, то в каждой области непосредственного притяжения этой точки содержится по меньшей мере одна критическая точка f. Более того, каждая область притяжения содержит в точности один лепесток 0Р*, который однозначно отображается при а на некоторую правую полуплоскость и максимален в этом смысле. Этот лепесток £Р* всегда имеет, по меньшей мере, одну критическую точку на своей границе. Доказательство полностью аналогично доказательству леммы 8.5. Нетрудно показать, что а-1 может быть определено всюду в некоторой правой полуплоскости. Если попытаться продолжить его аналитически влево, то мы натолкнемся на препятствие, которое может
146 Локальная теория неподвижных точек быть только критической точкой отображения f'. (Другое доказательство того, что каждая параболическая область притяжения содержит критическую точку, см. Милнор и Тёрстон, стр. 512-515.) Ш Рис. 20. Множество Жюлиа для отображения z \-> z2 + z с нарисованными кривыми ~Re(a(z)) Е Z Например, рисунок 20 иллюстрирует отображение f(z) = z2 + z, у которого имеется параболическая неподвижная точка z = 0 с мультипликатором Л = 1, которая является точкой возврата, изображенной справа от центра рисунка. Здесь множество Жюлиа — это внешняя жорданова кривая («цветная капуста»), ограничивающая область при-
§10. Параболические неподвижные точки. Цветок Ло-Фату 147 тяжения d. Критическая точка и = — 1/2 расположена в точности в центре симметрии рисунка. Все орбиты этой области d сходятся к нулю справа. Нарисованы кривые Re(a(z)) = const G Ъ, нормированные так, что a(w) = 0. Поэтому описанный в следствии 10.11 лепесток 0Р* с критической точкой на своей границе ограничен правой половиной центральной фигуры — кривой, имеющей форму символа ос. Заметим, что функция z \-^ Re(a(z)) имеет седловую критическую точку в каждом итерированном прообразе точки со. Эта функция Re(a(z)) сильно осциллирует при z —>■ J' = dd. Из 10.11 немедленно вытекает 10.12. Следствие. Рациональное отображение не может иметь бесконечного количества параболических периодических точек. В действительности, для отображения степени d ^ 2 суммарное количество параболических и притягивающих циклов не превосходит 2d-2. Более точно, количество циклов компонент Фату, являющихся либо непосредственными параболическими областями, либо областями непосредственного притяжения не превосходит количества различных критических точек. Доказательство по существу повторяет доказательство теоремы 8.6. Эти притягивающие и параболические области попарно не пересекаются, и каждый цикл областей должен содержать, по меньшей мере, одну критическую точку. ■ (Более точные результаты см. в Сисикура (1987) и в А.Эпштейн.) Задачи Задача 10-а. Отталкивающие лепестки и множество Жю- лиа. Покажите, что, если f — нелинейная рациональная функция, то каждый отталкивающий лепесток пересекается со множеством Жю- лиа функции f. Задача 10-Ь. Отсутствие малых циклов. В обозначениях теоремы 10.5 покажите, что никакая орбита zo и-» z\ \-^ ... отображения f не может содержаться в объединении 2?[ U ... U 2?fn отталкивающих лепестков. Выведите отсюда, что единственной периодической
148 Локальная теория неподвижных точек орбитой, целиком содержащейся в окрестности N0 = {?} U 0>i U ... U @>п U 9»\ U ... U 5^, является сама неподвижная точка 'z. С другой стороны, покажите, что любая нелинейная рациональная функция имеет орбиту, которая возвращается в каждый отталкивающий лепесток бесконечное число раз. (Ср. 4-12. Используя результаты § Ц, можно также установить, что в каждом лепестке &*1, существуют периодические точки, сколь угодно близкие к z~.) Задача 10-с. Другое доказательство теоремы 10.6. Предположим, что g отображает некоторую правую полуплоскость в себя так, что \g(w) — w — 1| < 1/2. Используя теорему 1.3, покажите, что при ограничении на меньшую правую полуплоскость Нс = {w | Re(w) ^ с} функция g оказывается однозначной и выполняется неравенство \gf(w) — 1| < 1/3. Поскольку фактор-пространство S = Нс/g имеет циклическую фундаментальную группу, оно должно быть конформно-изоморфно либо кольцу, либо диску с выколотой точкой, либо цилиндру. (Задача 2-g.) Если бы поверхность S была изоморфна кольцу Ar = {z | 1 < \z\ < г}, то она имела бы плоскую метрику \dz/z\ и конечную площадь относительно этой метрики, и каждая петля \z\ = const в этом кольце имела бы фиксированную длину 2п. Соответствующим образом полуплоскость Нс имела бы конформную метрику j(w)\dw\ и конечную площадь, и геодезическое расстояние в этой метрике между точками w и g(w) было бы также постоянным, равным 27Г. Следовательно, интеграл J j\dz\ вдоль прямолинейного отрезка от w до g(w) был бы не меньше 2п. С помощью неравенства Шварца (J 1 -jdt)2 ^ (Jldt) • (Jj2dt), используя неголоморфную систему координат (£, rj) н-» w = (1 - t)(c + irj) + t • g(c + irj), покажите, что площадь oo 1 Jf,4udv= J J^^dtdr, -oo 0 фундаментальной области 0 ^ t ^ 1 для g G Hc должна быть бесконечной, что приводит к противоречию. Аналогично, покажите, что S
§10. Параболические неподвижные точки. Цветок Ло-Фату 149 не может быть диском с выколотой точкой, поскольку каждая из половинок фундаментальной области {г) ^ 0} и {г) ^ 0} также имеет бесконечную площадь. Задача 10-d. Формальная нормальная форма. Предположим, что f задана степенным рядом вида f(z) = z + zm + (слагаемые высших степеней), (10 : 8) где т ^ 2, и пусть g — локальный диффеоморфизм вида g(z) = z + czk, где к ^ 2. Докажите следующие два эквивалентные равенства f(g(z)) — g(f(z)) = (т — k)czm~^k~1 + (слагаемые высших степеней), g~x о f о g(z) = f(z) + (т — k)czm~^k~1 + (слагаемые высших степеней). Выведите отсюда по индукции, что в степенном ряду функции f с помощью сопряжения можно избавиться от слагаемых любых степеней, кроме 1, т и 2т — 1. Значит, f локально сопряжено отображению вида g(z) = z + azm + bz2m,~x + (слагаемые степени > N), относительно некоторого голоморфного преобразования; здесь N может быть сколь угодно велико. Выведите отсюда, что любую функцию f, имеющую вид (10:8), можно привести к виду z^z + zm + bz2™-1 формальным сопряжением с помощью возможно расходящегося степенного ряда il>(z) = z + C2Z2 + С32:3 + Замечание 15. * Этот коэффициент b является инвариантом класса сопряженности, и поэтому дальнейшие упрощения здесь невозможны. (Ср. задачу 12-Ъ.) Степенной ряд ф, конечно, вообще говоря, расходится. В действительности, как отмечено в 10.8, для того, чтобы определить функцию f с точностью до локальной голоморфной сопряженности, потребовалось бы бесконечное количество комплексных параметров. (Ср. Малъгранж и Воронин.) Задача 10-е. Параболическая область непосредственного притяжения. Рассуждая как и в теореме 8.7, покажите, что дополнение параболической области непосредственного притяжения либо связно, либо имеет бесконечное количество компонент связности. (Ср., однако, задачу 10-f(4)-)
150 Локальная теория неподвижных точек Рис. 21. Множество Жюлиа для отображения z \-> z + 1/(1 + z2). (Задача 10-f(4).) Задача 10-f. Примеры параболических точек на бесконечности. (Ср. Милнор (1993), § 8.) (1) Покажите, что для f(z) = z — 1/z существует параболическая точка на бесконечности с двумя притягивающими направлениями. Покажите, что из того, что верхняя и нижняя полуплоскости отображаются в себя, следует, что J = lU {ос}. (Аналогичный непараболический пример см. в задаче 7-а.) (2) Покажите, что для f(z) = z — l/z + l множество Жюлиа J — это канторово множество, содержащееся elujoo}. (3) Покажите, что для f(z) = z + 1/z — 2 множество Жюлиа J совпадает с отрезком [0, +оо]. (4) Покажите, что для f(z) = z + 1/(1 + z2) в бесконечной точке имеется три притягивающих направления. Покажите, что одна из трех параболических областей непосредственного притяжения целиком содержит прямую Ж, и поэтому почти разделяет риманову сферу на компоненты связности.
§11. Точки Кремера и диски Зигеля 151 § 11. Точки Кремера и диски Зигеля Мы снова рассматриваем отображения вида f(z) = Xz + a2z2 + a3z3 + ... , которые определены и голоморфны в некоторой окрестности нуля и имеют в нуле неподвижную точку с мультипликатором X. В § 8 и § 9 предполагалось, что |Л| ф 1, в то время как в \10 в качестве Л был взят корень из единицы. В этом параграфе рассматриваются оставшиеся случаи, когда \Х\ = 1, но Л не является корнем из единицы. Следовательно, предполагается, что мультипликатор Л может быть представлен в виде Л = е27гг^, где £ — вещественное иррациональное. Кратко мы будем говорить, что нуль является нейтральной иррациональной неподвижной точкой. Число £ Е R/Z называется числом вращения в касательном пространстве неподвижной точки. (Замечание. В теореме Найшуля утверждается, что это число вращения — локальный топологический инвариант.) Основной изучаемый здесь вопрос состоит в том, существует ли локальная замена координат z = h(w), сопрягающая f с иррациональным вращением w и-» Xw так, что f(h(w)) = h(Xw) вблизи нуля. (Ср. 8.2.) В специальном случае всюду определенной рациональной функции следующий результат немедленно вытекает из теоремы 5.2. 11.1. Лемма. Пусть f — рациональная функция степени d ^ 2 с нейтральной неподвижной точкой zo, \f'(zo)\ = 1. Тогда следующие утверждения эквивалентны между собой: • / локально линеаризуемо в окрестности zo, • zo принадлежит множеству Фату С \ J(f), • Компонента связности U множества Фату, содержащая zo, конформно изоморфна единичному диску при изоморфизме, сопрягающем f на U с умножением на X на диске. Доказательство. Если f локально линеаризуемо в окрестности zo, то итерации f в подходящей окрестности zq соответствуют итерациям вращения
152 Локальная теория неподвижных точек малого диска и, следовательно, образуют нормальное семейство. Значит zo принадлежит множеству Фату. Обратно, если zo принадлежит множеству Фату, то по теореме 5.2 целая компонента связности U множества Фату, в которой содержится точка zo, должна быть конформно изоморфна единичному диску, и тогда /| сопряжено умножению на А наШ. Ш Определение 16. * Будем говорить, что нейтральная иррациональная неподвижная точка является либо точкой Зигеля, либо точкой Кремера в зависимости от того, возможна или нет в этой точке локальная линеаризация отображения f. Компонента связности множества Фату, на которой f конформно сопряжено вращению единичного диска, называется диском Зигеля или диском вращения с центром в точке zo. (В классической литературе точки Зигеля назывались «центрами», а вопрос об их существовании назывался «проблемой центра».) В этом параграфе мы сначала сделаем обзор известных фактов о задаче локальной линеаризации и докажем некоторые из простейших результатов. В заключение будет описана связь между точками Кремера или дисками Зигеля и критическими точками рационального отображения. На международном конгрессе 1912 года Е. Каснер высказал предположение о том, что такая линеаризация всегда возможна. Пятью годами позже Г. А. Пфайфер опроверг эту гипотезу, дав довольно сложное описание конкретных голоморфных функций, для которых такая локальная линеаризация невозможна. В 1919 году Жюлиа объявил о полном разрешении этого вопроса для рациональных отображений степени два и выше, показав, что такая линеаризация никогда невозможна, однако его доказательство было ошибочным. В 1927 году X. Кремер очертил для этой ситуации гораздо более ясную перспективу результатом, который можно сформулировать следующим образом: 11.2. Теорема Кремера о нелинеаризуемости. Для данного X на единичной окружности и данного d ^ 2, если корень степени dq из l/\\q — 1| неограничен при q ^ ос, то ни одна рациональная функция степени d не может быть локально линеаризована в своей неподвижной точке, у которой мультипликатор равен А. Это будет доказано нилсе. Будем говорить для простоты, что то или иное свойство угла £ Е M/Z справедливо для общего значения £, если
§11. Точки Кремера и диски Зигеля 153 множество всех £, для которых оно справедливо, содержит счетное пересечение плотных открытых подмножеств множества Ж/Ъ. Согласно Бэру, такое счетное пересечение плотных открытых множеств необходимо плотно и несчетно. (См. задачу 4~j-) 11.3. Следствие. Для общего значения числа вращения £ Е R/Z произвольная всюду определенная рациональная функция f степени d ^ 2 не может быть локально линеаризована в окрестности своей неподвижной точки zo с мультипликатором е2пг^. (Ср. задачу 11-Ь). Вопрос о том, действительно ли это утверждение справедливо для всех £, оставался открытым до 1942 года, когда Зигель доказал следующую теорему. Пусть А = е27гг^ с £ Е Ж \ Q, как и выше. Рис. 22а. Множество Жюлиа для отображения f(z) = z2 + e2nl^z при £ = yl/4 = 0,62996 .... Большая область в нижнем левом углу — диск Зигеля 11.4. Теорема Зигеля о линеаризации. Если l/\\q — 1| меньше некоторой полиномиальной функции аргумента q, то каждый росток голоморфного отображения в неподвижной точке с мультипликатором А локально линеаризуем. 11.5. Следствие. Для почти каждого в смысле меры Лебега числа £ каждый голоморфный росток в неподвижной точке с мультипликатором е2пг^ локально линеаризуем.
154 Локальная теория неподвижных точек Иными словами, если угол £ Е R/Z «выбран случайно» в смысле меры Лебега, то с вероятностью единица каждая рациональная функция, у которой неподвижная точка имеет мультипликатор, равный е2пг^, будет иметь соответствующий диск Зигеля. См., например, рисунок 22Ь. Эти два результата не будут доказаны в этих лекциях. (Однако один частный случай 11.5 будет доказан ниже в 11.Ц). Доказательство теоремы 1Ц, см. в [Зигель], или [Зигелъ-Мозер], или [Карлесон- Гамелен], или [Цендер], а доказательство импликации 11.4 => И-5 см- в лемме 11.7 ниже. Рис. 22Ь. Соответствующее множество Жюлиа для случайно выбранного угла С = 0,7870595 ... Замечание 16. * Сравнивая 11.3 и 11.5, мы видим, что существует сильное отличие между поведением динамики для общих значений £ и ее поведением для почти всех £. Это отличие поразительно, но вполне обычно для динамики. (Ср. обсуждение об итерированном экспоненциальном отображении в § 6). В прикладной динамике обычно принято, что поведение для множества значений параметра меры нуль не существенно и может быть проигнорировано. Однако даже в прикладной динамике поведение для общих значений параметров остается чрезвычайно полезным средством исследования.
§11. Точки Кремера и диски Зигеля 155 Для того, чтобы осмыслить эти утверждения и усилить результаты, полученные ранее, удобно ввести несколько различных классов иррациональных чисел, связанных друг с другом, как схематично показано на рисунке 23. Брюно Йоккоз Рис. 23. Схематическая диаграмма для классов иррациональных чисел Пусть к — положительное вещественное число. По определению, иррациональное число £ называется диофантовым порядка к, если существует е > О такое, что Г > для любого рационального числа p/q. (11:1) Класс всех таких чисел будет обозначаться @(fc). Полагая, как и выше, Л = е27гг^, заметим, что если р — ближайшее к q^ целое такое, что \q€ ~ P\ ^ 1/2? то порядок численной оценки |А9-1| = 2 8ш(*г(д£-р))х27г|д£-р|. (Точнее, нетрудно видеть, что 4\q^—p\ ^ \\q —1| ^ 2/K\q£)—p\.) Значит, (11:1) эквивалентно требованию |А« - 1| > s'/q k-1 l/|A«-l|<ar ,k-l
156 Локальная теория неподвижных точек для некоторого е' > О с тем же значением к и с = 1/е'. Следовательно, теорема Зигеля 11.4 может быть переформулирована следующим образом: Если угол £ Е M/Z диофантов любого порядка, то любой голоморфный росток с мультипликатором А = е27гг^ локально линеаризуем. Заметим, что @(fc) С ®(гу)? как только к < г\. Оказывается, что @(fc) = 0 для к < 2. (Ср. с задачей 11-а.) Диофантовы числа порядка 2 называются числами ограниченного типа. (Ср. 11.9 ниже.) Примером таких чисел являются квадратичные иррациональности. Более общо, получаем следующее классическое утверждение. 11.6. Теорема Лиувилля. Если иррациональное число £ удовлетворяет полиномиальному уравнению степени d вида /(£) = О с целыми коэффициентами, то £ — диофантово число порядка d. Доказательство. Можно считать, что f(p/q) Ф 0. Приводя уравнение к общему знаменателю, получаем \f(p/q)\ ^ l/qd. С другой стороны, если М — верхняя граница для \f'(x)\ на единичном интервале с центром в £, то \f(p/q)\^M\t-p/q\. Выбирая е < 1/М, получаем |£ — p/q\ > e/qd:, что и требовалось. Ш Следовательно, каждое алгебраическое число является диофан- товым. Значит, любая иррациональная нейтральная неподвижная точка с алгебраическим числом вращения локально линеаризуема. (Ср. рис. 22а). Замечание 11. * Недиофантовые иррациональные числа часто называются числами Лиувилля. В приложении С мы увидим, что хаус- дорфова размерность множества лиувиллевых чисел равна нулю. Гораздо более сильный вариант теоремы 11.6 был доказан Клаусом Ротом в 1952 году. Он показал, что: Каждое алгебраическое число принадлежит классу ®(2+)= f] S>(k), k>2 состоящему из диофантовых чисел порядка к для всех к > 2. Нам потребуется следующее, гораздо более элементарное, свойство.
§11. Точки Кремера и диски Зигеля 157 11.7. Лемма. Множество @(2+) имеет полную меру на окружности Очевидно, что 11.5 следует из теоремы 11.4 и леммы 11.7. Доказательство леммы 11.7. Пусть U(k, е) — открытое множество, состоящее из всех £ Е [0; 1] таких, что |£ — p/q\ < e/qk для некоторого p/q. Мера этого множества не превосходит оо Х>2еАЛ q=l поскольку для каждого q существует только q возможностей выбора p/q по модулю один. Если к > 2, то этот ряд сходится, и, следовательно сумма ряда стремится к нулю при е \ 0. Значит, мера пересечения Г| U(k, e) равна нулю, и его дополнение @(fc) имеет полную меру. Взяв пересечение этих дополнений @(fc) при k \ 2, мы видим, что множество @(2+) также имеет полную меру. ■ С другой стороны, как видно из приложения С, мера подмножества @(2) равна нулю. Для более точного анализа приближения дробями иррационального числа £ Е (0; 1) рассмотрим разложение в цепную дробь 1 £ = а\ + а2 + а3 + ... где сц — однозначно определенные строго положительные целые числа. Рациональное число Рп = 1 а\ + а2 + +А- называется подходящей цепной дробью порядка п — 1 для £. См. [Хин- чин]. Знаменатели qn будут играть особенно важную роль. Ниже приводятся результаты, которые будут доказаны в приложении. (Ср. Харди и Райт).
158 Локальная теория неподвижных точек 11.8. Теорема о цепной дроби. Каждое рациональное число Pn/Qn является наилучшим приближением из возможных приближений £ дробями с знаменателями, не превосходящими qn. Фактически, имеется более точное утверждение о том, что \Xh - 1| > \Xqn - 1| для О < Л < qn+1, h ф qn. Порядок величины отклонения \Xqn — 1| равен l/(/n+i; в действительности Знаменатели qn могут быть вычислены индуктивно по формуле qn+1 = anqn + qn-X ^ 2#n_i при q0 = О, q± = 1, q2 = аг. Доказательства см. в приложении С. 11.9. Следствие. Иррациональное число £ является диофанто- вым в том и только том случае, когда qn+i не превосходит некоторой полиномиальной функции от qn. Точнее, £ Е @(fc) тогда и только тогда, когда qn+i меньше, чем q1^1, умноженное на некоторую постоянную. В частности, £ Е @(2) тогда и только тогда, когда отношения qn+\jqn ограничены или, что равносильно, тогда и только тогда, когда коэффициенты разложения в цепную дробь ап = (tfn+i - qn-i)/qn ограничены. По этой причине элементы @(2) также называются числами ограниченного типа (или иногда «числами постоянного типа»). Доказательство 11.9 очевидно и оставляется читателю. ■ Теперь сформулируем три результата, дающие довольно точную картину локальной задачи. В 1972 Брюно доказал гораздо более сильный вариант теоремы 1Ц. 11.10. Теорема Брюно. Если ^ ln(gn+i) 2^—дй—<00' (П:2) п то любой голоморфный росток в неподвижной точке с мультипликатором А локально линеаризуем. Йоккоз в 1987 году показал, полностью разобрав квадратичный полиномиальный случай, что это наилучший возможный результат.
§11. Точки Кремера и диски Зигеля 159 11.11. Теорема Йоккоза. Обратно, если сумма (11 : 2) расходится, то квадратичное отображение f(z) = z2 + Xz имеет локально нелинеаризуемую неподвижную точку в начале координат. Более того, эта неподвижная точка обладает «свойством малых циклов»: Каждая окрестность начала координат содержит бесконечно много периодических орбит. Не пытаясь приводить доказательства этих теорем, мы дадим лишь интуитивную идею того, что подразумевается под квадратичным случаем. Как только слагаемое (lnqn+i)/qn становится большим, число вращения будет сильно приближаться к pn/qn так, что f будет очень близко к параболическому отображению с циклом периода qn в отталкивающих направлениях. Значит, область притяжения бесконечной точки для функции f будет содержать цикл «глубоких фьордов» периода qn, близко подходящих к началу координат, отчего размер возможного диска Зигеля уменьшается. Например, как видно из рисунка 24, слагаемые | In 31 = 1,144... и ^j- In 6200003 = 0,504... соответствуют фьордам периодов 3 и 31 соответственно. Если сумма (11:2) бесконечна, то диск Зигеля не существует. Историческая справка. Одним из ранних исследователей подобного рода явлений был Т. М. Черри, но только часть его работ была опубликована при его жизни (он умер в 1966). Согласно Лову, «Подробности этой работы, возможно, были записаны в его черновиках; вероятно, он глубоко изучал этот предмет в течение многих лет.» Можно надеятся, что когда-нибудь эти записи будут опубликованы. Теорема Йоккоза порождает вопрос о том, каждая ли точка Кремера имеет малые циклы? Ответ на это вопрос был дан Пересом-Марко в 1990 году. Предположим, что ^(ln(/n+i)/(/n = oo? то есть может существовать точка Кремера. 11.12. Теорема Переса-Марко. Если lnln(gn+i) Е < оо, (11 : 3) то каждый росток голоморфной функции, имеющий в начале координат точку Кремера, обладает свойством малых циклов. Но
160 Локальная теория неподвижных точек Рис. 24. Квадратичный диск Зигеля с числом вращения 1/(3 + 1/(10+ +1/(200000 + 1/...))). Выделена граница диска Зигеля. На рисунке видны фьорды периодов q\ = 3 и #2 = 31, которые сжимают этот диск в случае общего положения, для которого ряд (11 : 3) расходится, существует росток с мультипликатором А такой, что каждая орбита, содержащаяся в некоторой окрестности нуля, имеет точку накопления в нуле. Очевидно, что такой росток не обладает свойством малых циклов, но и не может быть линеаризован. Мы не будем пытаться сказать что-либо большее об этих трех больших теоремах. В оставшейся части этого параграфа будут даны доказательства некоторых более простых результатов. Вначале покажем, что точки Кремера действительно существуют, затем докажем теорему Кремера (1927) и, наконец, покажем, что диски Зигеля действительно существуют. Для начала упомянем хорошо известную теорему. Пусть {Д} — семейство голоморфных нелинейных рациональных отображений с параметром A Е С, где f\(0) = 0, /д(0) = Л так, что f\(z) = \z-\- + {старшие члены).
§11. Точки Кремера и диски Зигеля 161 11.13. Теорема о малых циклах. Для общих значений А на единичной окружности существует бесконечно много периодических орбит в любой окрестности нуля, и, следовательно, нуль является точкой Кремера. Доказательство. Пусть Ш)£ — диск радиуса е в нуле. Для А из некоторого плотного подмножества U£ единичной окружности покажем, что Ш)£ содержит ненулевую периодическую орбиту. Для А из счетного пересечения [) Uijn отображение Д имеет бесконечно много сходящихся к нулю периодических орбит, что и требуется. Начнем с некоторого корня из единицы Ао = е27ггр/д ф 1 и выберем некоторое положительное е' ^ е так, чтобы Д0 не имело периодических точек z ф О периода ^ q в замкнутом диске Ш)е/. Тогда алгебраическое число неподвижных точек отображения f^k в Ш)е/ равно единице для 1 ^ к < q (ср. задачу 10-Ъ), но строго больше единицы для к — q. При изменении А в окрестности Ао эта кратная неподвижная точка отображения f^q в нуле распадается на набор неподвижных точек для f^q. Пусть U(p/q) — достаточно малая окрестность Ао такая, что ни одна из периодических точек периода ^ q не может пересекать границу Ш£'. Тогда для любого A Е U(p/q), А ф Ао некоторая периодическая орбита отображения f\, имеющая период q, целиком содержится внутри окрестности Ш)е/ С Ш£. Объединение U£ этих открытых множеств U(p/q) для О < p/q < 1, очевидно, является плотным открытым подмножеством окружности с требуемым свойством. ■ Доказательство теоремы Кремера 11.2. Вначале рассмотрим нормированный полином f(z)=zd + ... + \z степени d ^ 2 с неподвижной точкой в нуле с мультипликатором А. Тогда foq(z) = z*q + ... + \qz, и значит, неподвижные точки отображения foq являются корнями уравнения zdQ + ... + (\q -l)z = 0. Поэтому произведение dq — 1 ненулевых неподвижных точек отображения foq равно ±(Xq — 1). Выбрав q так, что \Xq — 1| < 1, мы видим, что по крайней мере одна из этих неподвижных точек z удовлетворяет неравенствам о< \z\d9 < Izf-1 <с \\q-i\.
162 Локальная теория неподвижных точек Следовательно, если величина liminf \Xq — l]1^9 равна нулю, то существуют неподвижные точки z/Об любой окрестности нуля. Для того, чтобы перенести это рассуждение на случай рациональной функции f степени d ^ 2, Кремер сначала заметил, что f должно отображать по меньшей мере одну точку z\ ф О в неподвижную точку z = 0. После сопряжения f преобразованием Мёбиуса, переводящим z\ в бесконечность, можно считать, что /(оо) = /(0) = 0. Положим f(z) = P(z)/Q(z), где Р — полином степени строго меньшей d. Изменив в случае необходимости масштаб, можно считать, что P(z) и Q(z) имеют вид: P(z) = *zd~x + ... + *z2 + Az; Q(z) = zd + ... + 1, где * обозначает возможный ненулевой коэффициент. Несложные вычисления показывают, что foq(z) = Pq(z)/Qq(z), где Pq(z) и Qq(z) имеют вид Pq(Z) = ^d*-1 + . . . + **2 + XQZ. Qq(z) =Zd9+uuu + lu Следовательно, уравнение для нахождения неподвижных точек отображения foq имеет вид 0 = zQq(z) - Pq(z) = z(zd9 + ... + (1 - А*)). Теперь, если liminf \Xq — l]1/6^ = 0, то как и в полиномиальном случае, видно, что f имеет бесконечное количество периодических точек в каждой окрестности нуля, и, следовательно, О Е J(f), что и доказывает теорему 11.2 Ш Доказательство того, что из 11.2 следует 11.3, см. в задаче 11-Ь. Замечание 18. * Насколько мне известно, Кремер никогда не изучал свойство малых циклов. В его рассуждениях показано наличие периодических точек в каждой окрестности нуля, но не показано, что вся периодическая орбита содержится в малой окрестности нуля. Однако, ср. задачу 11-d. В заключение покажем, что диски Зигеля действительно существуют. Опишем доказательство, данное Йоккозом, в следующем частном случае теоремы Зигеля. (Ср. [Эрман, 1986] или [Дуади, 1987]). Пусть f\(z) = z2 + \z.
§11. Точки Кремера и диски Зигеля 163 11.Ц. Теорема. Для почти всех, в смысле меры Лебега, углов £ Е R/Z квадратичное отображение f\(z) имеет диск Зигеля в начале координат, где, как обычно, А = е27гг^. Доказательство будет зависеть от приближения мультипликаторов Л на единичной окружности мультипликаторами |Л| < 1. Определение 11. * Для любого Л из замкнутого единичного диска Ш) определим размер а(Х) как максимальное из чисел а таких, что существует однозначное отображение ф\: Ша —>• С \ J(f\) из открытого диска радиуса а во множество Фату отображения f\, удовлетворяющее уравнению Шредера в следующей форме: /л(^лН) = ^л(А^) для ecexw е Ша при фх(0) = 0, ф'х(0) = Ъ (n : 4) полагая сг(\) = О, если такое отображение не существует при любом положительном радиусе. Очевидно, что а(Х) > О, если Д имеет диск Зигеля в нуле, и это число действительно измеряет размер диска в некотором инвариантом смысле. Аналогично, а(Х) > О для О < |А| < 1. Однако, сг(Х) = О, если f\ имеет в начале координат параболическую точку или точку Кремера, а также когда X = 0. Заметим, что если f\ имеет диск Зигеля, то эта функция размера сг(Х) не может быть непрерывной, поскольку параболические или кремеровские значения X всюду плотны на единичной окружности. Напомним, что вещественнозначная функция а на топологическом пространстве называется полунепрерывной сверху, если lim sup о~(х) ^ о~(хо) ж—>-жо хфхо для каждой точки хо из пространства, или, что эквивалентно, если множество х, для которых а(х) ^ ао, замкнуто для любого бт0 G М. 11.15. Лемма. Функция размера а: Ш) —у Ж ограничена и полунепрерывна сверху. Более того, для \Х\ < 1 имеет место представление сг(Х) = |^(А)|? где функция X \-> 77(A) голоморфна на всем открытом единичном диске. Доказательство. Вначале заметим, что а(Х) ^ 2 для всех X Е Ш. В самом деле, если \z\ > 2 и \Х\ ^ 1, то \f\(z)\ = \z(z + A)| > \z\, и отсюда легко следует, что z лежит в области притяжения бесконечной точки для
164 Локальная теория неподвижных точек отображения f\. Следовательно, любое отображение И)а —у С, удовлетворяющее (11:4), должно принимать значения еВ2 и, значит, согласно лемме Шварца, должно удовлетворять неравенству а ^ 2. Чтобы убедиться в том, что а полунепрерывна сверху, заметим, что a(z) ^ сто тогда и только тогда, когда существует однозначное отображение Л)ао —у Ш^? удовлетворяющее (11:4). Н° набор всех голоморфных отображений Шао —у Ш2 образует нормальное семейство. Следовательно, любая последовательность таких отображений содержит локально равномерно сходящуюся на Л)ао подпоследовательность. В частности, из данной последовательности однозначных отображений ф\к, удовлетворяющей (11:4), можно выбрать сходящуюся подпоследовательность и нетрудно проверить, что предельная функция однозначна и удовлетворяет (11:4)- Следовательно, множество мультипликаторов A Е Ш, для которых а(Х) ^ оо замкнуто, что и требовалось. Теперь обратимся к случаю 0 < |А| < 1. Можно вычислить размер а(Х) для всех таких значений Л следующим образом. Пусть d\ область притяжения неподвижной точки z — О при действии Д. Тогда, также как и в 8.2 и 8.4, отображение Кёнигса ф\: d\ —у С можно определить по формуле фх(г) = lim /Г(*)/А». (И : 5) п—юо Так как эта последовательность /дп(^)/Ап сходится локально равномерно, то (/>\(z) голоморфно зависит от обеих переменных. (Ср. 8.3.) В частности, ее значение г,{\) = -Ы-А/2) в критической точке функции f\ голоморфно зависит от X. Из леммы 8.5 легко следует, что модуль \г](Х)\ в точности равен размеру а(Х), как определено выше для всех X Е Ш \ {О}. Более того, поскольку а(0) = = О, то из полунепрерывности сверху следует, что 77(A) —у О при X —у О, то есть г\ имеет устранимую особенность в нуле. Это завершает доказательство леммы 11.15. Ш Замечание 19. * Эту функцию в действительности можно вычислить внутри открытого диска, заметив, что 77(A) может быть описана как предел при j —У ос последовательности »fe = /A0'(-A/2)/A',
§11. Точки Кремера и диски Зигеля 165 что может быть рекуррентно определено по формуле щ = -Л/2, %+i = rjj + Л-7"1^2- Эта процедура может быть также использована для вычисления коэффициентов разложения в степенной ряд в нуле функции г](Х): „(х) — _А _l ^_ I ^_ I ^_ I 9А | ^\ | 7А _ ЗА , д ; 4 ^ 16 16 32 ^ 256 256 256 512 ^"" Детали оставляются читателю. 11.16. Следствие. Для |Ло| = 1 отображение Д0 имеет в нуле либо точку Кремера, либо параболическую точку тогда и только тогда, когда предел lim 77(A) Л->Л0,|Л|<1 существует и равен нулю. Доказательство тривиально. Теперь для завершения доказательства теоремы П.Ц нужно только упомянуть следующий классический результат. Пусть со — произвольная комплексная постоянная. Теорема 1. *[Ф. Рисса и М. Рисса] Если ту: Ш) —>• С — непостоянная, ограниченная, голоморфная функция, то множество углов £ Е Ж/Ъ, для которых следующий радиальный предел lim rj(r • ехр(27гг£)) существует и равен со, имеет лебегову меру нуль. Доказательство этого результата см. теорему А.З в приложении А. Отсюда, очевидно, немедленно следует теорема 11.Ц. Ш Замечание 20. * Это рассуждение также показывает, что а{е2^) > limsup|r/(re27r^)| г/Ч для каждого £ Е R/Z. В действительности, Иоккоз показал, что здесь всегда имеет место равенство.
166 Локальная теория неподвижных точек Нерешенные задачи: Хотя теоремы Брюно, Йоккоза и Перес- Марко очень точны, они не дают ответа на все вопросы о локальном поведении вблизи иррациональной нейтральной неподвижной точки. Например, вблизи любой точки Кремера существует очень сложная локальная структура (ср. [Перес-Марко, 1997]), хотя до сих пор не существует ни одного хорошо осмысленного примера. Неизвестно, имеет ли какая-нибудь рациональная функция точку Кремера без малых циклов. Также неизвестно, имеет ли какая-либо нелинейная рациональная функция диск Зигеля, для которого условие Брюно не выполняется. В теореме 8.6 и в 10.11 была найдена прямая связь между критическими точками и притягивающими или параболическими орбитами. Для орбит Зигеля или Кремера такая связь не является столь же прямой. Определение 18. * Посткритическим множеством Р = P(f) рационального отображения будем называть объединение всех образов fok(c) при к > 0, где с пробегает все критические точки. Для нас особенно интересным будет топологическое замыкание P(f) этого множества. 11.17. Теорема. Каждая неподвижная точка Кремера или периодическая точка рационального отображения содержится в посткритическом замыкании P(f). Аналогично, граница любого диска Зигеля или цикла дисков Зигеля содержится в P(f). Доказательство. (Ср. §19) Мы будем рассматривать открытые множества U = = С \ Р и V = /_1(^)- Так как /_1(?) DP,moVcU. Поскольку в U нет критических значений, то f является d-листным накрытием f: V —У U, или, более точно, f накрывает каждой компонентой связности V некоторую компоненту связности U. Можно предполагать, что Р содержит, по крайней мере, три различные точки. В противном случае U могло бы быть сферой с двумя выколотыми точками, и тогда его накрывающее пространство V было бы также сферой с двумя выколотыми точками, то есть совпадало бы с U. Отсюда бы легко вытекало, что f сопряжено отображению вида z \-^ z±d, без точек Кремера и дисков Зигеля. Следовательно, можно предполагать, что каждая компонента связности V или U конформно гиперболична. Рассмотрим неподвижную точку zq = f(zo), принадлежащую U и, следовательно, V. Пусть
§11. Точки Кремера и диски Зигеля 167 Vo СЩ — компоненты связности, содержащие zo- Если Vo = Uo, то f отображает Vo в себя и, следовательно, Vo содержится во множестве Фату. Значит, в этом случае zo не может быть точкой Кремера. Предположим теперь, что Vo строго меньше Uo- Тогда, согласно (2:6), вложение Vo —>• Uo строго сжимает расстояния в метрике Пуанкаре, то есть disty(#, у) > distu(x, у) для любых х ф у Е Vo- С другой стороны, из теоремы 2.11 следует, что V отображается в U локально изометрично так, что distu(f(x), f(y)) = disty(:r, у), как только х, у Е V достаточно близки друг к другу. Поэтому distc(/(*), №) > distc(*, 2/), (П : 6) если х ф у в Vo достаточно близки друг к другу. Значит неподвижная точка zo строго отталкивающая, следовательно, она опять не может быть точкой Кремера. Для рассмотрения границы диска Зигеля А = /(А) нужно приложить чуть большие усилия. Вначале заметим, что А с выколотым центром zo естественно расслаивается на f-инвариантные окружности. Пересечение Pf]A\ {zo} состоит из не более, чем конечного числа этих окружностей. Следовательно, если компонента Uo множества С\Р пересекает границу дА, то она должна содержать целую окрестность дА внутри диска Зигеля А. В частности, она должна содержать каждую, достаточно близкую к границе, инвариантную окружность С. Аналогично, одна компонента Vo множества f~1(Uo) должна содержать каждую такую окружность. Если Vo = Uo, то, рассуждая как и выше, мы видим, что Uo содержится во множестве Фату и не может пересекать границу А. С другой стороны, если Vo строго меньше Uo, то, как и в (11:6), f, будучи ограниченой на Vo, должна увеличивать расстояние distt/(#, у) между близкими точками и, аналогично, должна отображать любой гладкий путь в путь строго большей длины. В частности, она должна отображать каждую инвариантную окружность С С Vo на большую окружность, что невозможно, поскольку f отображает С диффеоморфно на себя. Это доказывает, что каждая неподвижная точка Кремера или граница диска Зигеля должна содержаться в Р. Соответствующее утверждение для цикла точек Кремера или
168 Локальная теория неподвижных точек дисков Зигеля вытекает из применения вышеприведенных рассуждений к подходящей итерации fok и замечания о том, что P(fok) = P(f). Ш Другое доказательство теоремы 11.17 будет дано в Ц-4- Задачи Задача 11-а (Дирихле). Используя «принцип ящиков», покажите, что для любого иррационального числа х существует бесконечно много дробей вида p/q, удовлетворяющих Р х-- q2 В самом деле, для любого целого Q > 1 разобьем окружность Ж/Ъ на Q полуоткрытых интервалов длины 1/Q, и рассмотрим Q + 1 чисел О, ж, 2ж, ... , Qx, приведенных по модулю Ъ. Из того, что, по крайней мере, два из них должны принадлежать одному интервалу, выведите, что существуют целые р и 1 ^ q ^ Q такие, что \qx — р\ < 1/Q, следовательно, Р х-- qQ " q2 Задача 11-b. Общие значения углов. Для совершенно произвольно выбранной последовательности положительных вещественных чисел Е\, £2, • • • \ 0 обозначим через S(qo) множество всех вещественных чисел £ таких, что Р\ £ < еа для некоторой несократимой дроби p/q при q > q$. Покажите, что S(qo) — плотное открытое множество в R, и выведите отсюда, что пересечение S = C\S(qo), состоящее из всех £, удовлетворяющих этому условию для бесконечного числа p/q, является счетным пересечением плотных открытых множеств. Например, положив eq = 2~q], докажите, что число, имеющее общее вещественное значение, принадлежит множеству S и, следовательно, удовлетворяет
§11. Точки Кремера и диски Зигеля 169 условию Кремера: lim inf \Xq — Ц1^9 = 0 для любой степени d. (Ср. те- q—too орему 11.2.) Задача 11-с. Теорема Кремера (1938). Покажите (следуя Пуанкаре), что если f(z) = Xz + CL2Z2 + a^z3 + ..., где Л не является ни нулем, ни корнем из единицы, то существует единственный формальный степенной ряд вида h(z) = z + I12Z2 + h^z3 + ..., формально удовлетворяющий условию h(Xz) = f(h(z)). В самом деле, Пп~ А"-А для п ^ 2, где Хп = Х(а2, ... , ап-ъ ^2? ••• ? ^n-i) — некоторое полиномиальное выражение, вычисляемое по индукции. Предположим теперь, что последовательность ап нулей и единиц построена по индукции так, что \ап + Хп\ ^ 1/2. Покажите, что если lim inf |Л^-1|1^ = 0, q—Юо то радиус сходимости однозначно определенного степенного ряда h(z) равен нулю. Выведите, что f(z) — локально нелинеаризуемый голоморфный росток. Покажите, что выбирая ап специальным образом, можно даже получить в качестве f(z) целую функцию. Задача 11-d. Малые циклы. Предположим, что lnln(l/|A*-l|) lim sup У-^ > Ind > 0. Модифицируйте доказательство теоремы 11.2, чтобы показать, что Любая неподвижная точка рациональной функции степени d с мультипликатором X обладает свойством малых циклов. Вначале выберем такое е > 0, что lnln(l/|A*-l|) > (e + \nd)q, или, что эквивалентно, \Xq-l\^d9 <exp(-e£q)
170 Локальная теория неподвижных точек для бесконечного числа таких q. В доказательстве теоремы 11.2 строятся точки zq периода q со свойством \zq\ < exp(—e£q). Теперь используйте теорему Тейлора для нахождения 8 > 0 такого, что \f(z)\ < e£\z\ для \z\ < 8, следовательно, \foq(z)\ < 8 для \z\ < e~£q8. В заключение заметьте, что ехр(—e£q) < e~£q8 для больших q, и покажите, что f обладает свойством малых циклов.
Периодические точки: глобальная теория § 12. Голоморфная формула для числа неподвижных точек рациональных отображений Напомним сначала следующий результат. 12.1. Лемма. Если /: С —>• С — нетождественное рациональное отображение степени d > О, то оно имеет в точности d + 1 неподвижных точек, с учетом их кратности. Здесь кратность конечной неподвижной точки zo = f(zo) определена как такое целое число т ^ 1, для которого разложение в степенной ряд функции f(z) — z в окрестности этой неподвижной точки имеет вид f(z) -z = am(z - z0)m + am+1(z - z0)m+1 + ..., где ат ф 0. Следовательно, т ^ 2 тогда и только тогда, когда мультипликатор А в точке zo равен единице. (Отметим, что в этом случае zo является параболической точкой с т — 1 притягивающим лепестком, каждый из которых отображается на себя. Ср. §10.) В специальном случае неподвижной точки в бесконечности с помощью локального уни- формизующего параметра ( = <j)(z) — \jz эта кратность определяется как кратность отображения ф о f о ф~г в точке ф(оо) = 0. Например, каждое полиномиальное отображение степени d ^ 2 имеет в бесконечности неподвижную точку с мультипликатором Л = 0, и, следовательно, кратность этой точки равна единице. Поэтому такое отображение имеет d конечных неподвижных точек, подсчитанных с их кратностя- ми. С другой стороны, отображение f(z) = z + 1 имеет в бесконечности неподвижную точку кратности два. Доказательство леммы 12.1. Совершив в случае необходимости дробно-линейное преобразование, можно предполагать, что бесконечная точка не является неподвижной для f. Если f представлено в виде отношения двух взаимно-простых
172 Периодические точки: глобальная теория полиномов f(z) = p(z)/q(z), то степени этих полиномов p(z) и q(z) удовлетворяют неравенству degree(p(z)) ^ degree(q(z)) = d. Очевидно, что уравнение f(z) = z эквивалентно полиномиальному уравнению p(z) — zq(z) степени d+1 и поэтому с учетом кратностей имеет d + 1 решение. ■ Замечание 21. * Эта алгебраическая кратность т в топологии известна как число Лефшеца неподвижной точки. Для любого непрерывного отображения f:M^M компактного n-мерного многообразия в себя в случае, когда число неподвижных точек конечно, числа Лефшеца этих точек определены, и их сумма в терминах групп гомологии выражается так: п ^2(-l)j trace(f*: Hj(M; Ж) —► Hj(M; Ж)). э=о (См., например, Франке.) В нашем случае М — это риманова сфера, и f — рациональное отображение степени d. Следовательно, в этой сумме нульмерные группы гомологии дают слагаемое +1, а соответствующее двумерной группе гомологии слагаемое равно +d, и поэтому сумма индексов равна d+1. И Фату, и Жюлиа использовали «хорошо известные» соотношения между мультипликаторами в неподвижных точках рационального отображения. Рассмотрим сначала изолированную неподвижную точку zo = = f(zo), где f: U —У С — голоморфная функция на открытом связном множестве U С С. Индексом неподвижной точки zo отображения f называется вычет *"-*> = 5й/г^ <12;11 где интегрирование проводится в положительном направлении вдоль маленького замкнутого контура, окружающего точку zq. 12.2. Лемма. Если мультипликатор А = ff(zo) не равен +1, то индекс в неподвижной точке определяется по формуле *(/, zo) = y^j- (12 : 2)
§12. Голоморфная формула для числа неподвижных точек 173 Доказательство. Без ограничения общности можно предполагать, что zo = 0. Разлагая f в степенной ряд, имеем f(z) = Xz + a2z2 + a3z3 + ..., значит (1 - Л) - a2z - a3z - 1 + bxz + Ь2я2 + * - M 1 - A при подходящих коэффициентах bj, или, иными словами, 1 1 z - f(z) (1 - \)z + bl +&2^+ .... Интегрируя это выражение по маленькой окружности \z\ — е, мы, очевидно, получаем вычет 1/(1 — А), что и утверждалось. Ш Замечание 22. * В специальном случае А = 1 эти вычисления не проходят. Хотя индекс t(f, zq) здесь корректно определен и конечен, но формула (12:2) теряет смысл. Ср. задачи 12-а, 12-Ь. Более общо, для изолированной неподвижной точки голоморфного отображения F: S —>• S римановой поверхности в себя можно выбрать некоторую локальную координату z и вычислить индекс t(f, zq) для ассоциированного локального отображения z \-t f(z). 12.3. Лемма. Этот индекс, вычисленный в терминах локальной координаты в окрестности неподвижной точки, не зависит от выбора локальной системы координат. В общем случае неподвижной точки, у которой мультипликатор не равен +1, это немедленно вытекает из леммы 12.2, поскольку мультипликатор очевидным образом от выбора координатной системы не зависит. Доказательство, которое проходит и в случае А = +1, будет дано в конце параграфа. Теперь предположим, что наша риманова поверхность S является римановой сферой. (Аналогичные формулы на других римановых поверхностях см. в 12.5.)
174 Периодические точки: глобальная теория 12.4' Теорема о неподвижных точках рационального отображения. Для любого нетождественного рационального отобра- лсения f: С —>• С справедливо соотношение z=f(z) где суммирование производится по всем неподвижным точкам. Приведем простое приложение, иллюстрирующее эту формулу. Пусть f имеет одну неподвижную точку с мультипликатором очень близким к +1 и, следовательно, с большим \t\. Тогда f должно иметь, по меньшей мере, еще одну неподвижную точку с большим \t\ и, следовательно, с мультипликатором, близким или равным +1. Доказательство теоремы 12.4. Совершив в случае необходимости дробно-линейное преобразование, можно предполагать, что /(ос) ф О, ос. Тогда f(z) стремится к /(ос) Е С \ {0} при z —у оо? значит, 1 1 = /(*) /(00) z-f(z) z z(z-f(z))~ z2 при z —>• ос. Обозначим через L(r) окружность \z\ = г. Легко проверяется, что интеграл от этой разности по L(r) стремится к нулю, если г /* ос. Значит, 1 / dz _ 1 / dz _ . ^ 27rt J z - f(z) " 2тг1 J * " + " L(r) L(r) Очевидно, интеграл в левой части этого равенства равен сумме вычетов t(f, Zj) в различных неподвижных точках отображения f, откуда и следует формула суммирования. Примеры. Рациональное отображение f(z) = с степени нуль имеет всего одну неподвижную точку с нулевым мультипликатором и, следовательно, имеет индекс i(f, с) = 1. Рациональное отображение степени один обычно имеет две несовпадающие неподвижные точки, и соотношение -^— + ^— = 1 1 - Ai 1 - А2
§12. Голоморфная формула для числа неподвижных точек 175 эквивалентно Л1Л2 = 1. Значит, такое отображение имеет не более одной притягивающей неподвижной точки. Любое полиномиальное отображение p(z) степени d ^ 2 имеет суперпритягивающую точку в бесконечности. Ее мультипликатор равен нулю, и значит, i(p, ос) = 1. Поэтому сумма индексов в конечных неподвижных точках для нелинейного полиномиального отображения всегда равна нулю. В случае многочлена степени два для конечной неподвижной точки соотношение 1 , 1 1 - Ai + 1 - А; О эквивалентно А1 + А2 = 2. Например, для семейства квадратичных отображений fx(z) = z2 + Xz мультипликаторы в неподвижных точках равны А при z = О и 2 — X, если z = 1 — А. Следовательно, это отображение f\ имеет притягивающую неподвижную точку тогда и только тогда, когда А принадлежит либо единичному диску Ш) с центром в точке А = О, либо диску 2 + + Ш) с центром в А = +2. Эти два диска ясно видны на рисунке 25, на котором показана часть плоскости комплексного параметра А. (Ср. приложение F.) Рис. 25. «Двойное множество Мандельброта»: бифуркационное множество в плоскости параметра А для семейства квадратичных отображений z \-ь z2 + Xz. Центр фигуры расположен в точке А = 1
176 Периодические точки: глобальная теория 12.5. Примечание. Существует далеко идущее обобщение этой теоремы о неподвижных точках, принадлежащее Атъе и Ботту. В частности, для голоморфного отображения f компактной римановой поверхности рода g в себя из формулы Атьи-Ботта вытекает, что сумма индексов неподвижных точек задается формулой 5> = 1-т, (12:3) где г — след индуцированного отображения g-мерного векторного пространства голоморфных 1-форм в себя, и черта означает комплексное сопряжение. В частном случае римановой сферы при g = 0 ненулевых голоморфных 1-форм не существует, значит эта формула следует из теоремы 12.4- Другие примеры см. в задаче 12-d. 12.6. Лемма. Неподвижная точка с мультипликатором Л ф 1 является притягивающей тогда и только тогда, когда ее индекс удовлетворяет неравенству Re(^) > 1/2. Геометрическое доказательство состоит в следующем наблюдении: неподвижная точка является притягивающей тогда и только тогда, когда 1-Х принадлежит диску 1+Ш)? для которого нуль является граничной точкой. Легко проверить, что отображение z \-> 1/z переводит диск 1 + Ш) в точности на полуплоскость Re(z) > 1/2. Вычислительное доказательство следует из двух эквивалентных неравенств \ < Re (zr^r) и 1 < -±- + -^. 2 \l-XJ !~л 1-Л Умножая обе части последнего неравенства на (1 — Л)(1 — X), мы легко получаем эквивалентное соотношение XX < 1. ■ Отсюда вытекает одно очень важное 12.7. Следствие. Каждое рациональное отображение степени d ^ 2 имеет либо отталкивающую неподвижную точку, либо параболическую неподвижную точку, для которой X = 1, либо неподвижные точки обоих типов. Доказательство. Если неподвижные точки с единичным мультипликатором отсутствуют, то отображение должно иметь d+1 различную неподвижную
§12. Голоморфная формула для числа неподвижных точек 177 точку. Если все эти точки являются отталкивающими или нейтральными, то вещественные части всех их индексов удовлетворяют неравенству Re(t) ^ 1/2? значит, вещественная часть суммы больше или равна (d + 1)/2 > 1, но это противоречит лемме 12.2. Ш Поскольку и отталкивающие, и параболические неподвижные точки принадлежат множеству Жюлиа, отсюда конструктивным образом вытекает 12.8. Следствие. Множество Жюлиа любого нелинейного рационального отображения непусто. В заключение этого параграфа мы приведем доказательство леммы 12.3. Для этого нужно установить, что индекс i(f, zo) инвариантен при локальных голоморфных заменах координат w = 4>{z). Фактически мы дадим здесь два доказательства — геометрическое и вычислительное. Вычислительное доказательство леммы 12.3. Положим rj(z) = =z—f(z) и рассмотрим разложение в степенной ряд ф^(г))=ф(г—г)) = = ф(г) — а\г\ + а2Г]2 —\-..., где аи = a,k(z) равно к-й производной функции ф в точке z, поделенной на к\. Введем обозначения F(w) = = F^(z)) = 0(/(z)). Тогда имеем i(F, фЫ) I I dw _ 1 I ft(z)dz 2тгг J w- F(w) 2ттг J ф(г) - <£(/(*)) a\ dz _ o>iV - a2V2 + - • • • a2 a\ ~ Q1Q3 2 , \ dz 1+аГ^ + ^2 *7 + '•• JT> где а\ ф 0, a r\ и a,j являются голоморфными функциями z. Очевидно, этот последний интеграл равен Геометрическое доказательство. Положим для удобства z0 = О и предположим, что существует однопараметрическое семейство отображений ft'.^e —>• С таких, что f совпадает с /0 на диске Ш£, а отображения ft имеют при t ф О только простые неподвижные точки.
178 Периодические точки: глобальная теория (В этом случае неподвижная точка кратности т ^ 2 отображения /о распадается на т простых неподвижных точек при малых ненулевых значениях t.) Можно предполагать, что е настолько мало, что /0 имеет только одну неподвижную точку в Ш)е. Если \t\ достаточно мал, то отображение ft не имеет неподвижных точек на границе дИ)£, и сумма индексов неподвижных точек для ft в Ш£ может быть выражена как непрерывно зависящий от параметра t интеграл по границе. Для t ф О эта сумма имеет вид $^1/(1 — \j), где каждый Xj инвариантен при голоморфных сопряжениях. Отсюда следует, что суммарный индекс т также инвариантен при голоморфных сопряжениях. Для того, чтобы построить пример такого однопараметрического семейства отображений, достаточно просто положить ft(z) = f(z) — — t. Поскольку производная f'(z) тождественно не равна +1, можно выбрать е так, чтобы f'{z) ф 1 при 0 < \z\ ^ е. Отсюда следует, что ft: ©s —>■ С имеет только простые неподвижные точки при t ф 0. ■ Задачи Задача 12-а. Покажите, что если f(z) = z + olz2 + /3z3 + + (старшие члены), где а ф 0, то индекс неподвижной точки задается равенством t(f, 0) = /3/а2. Рассмотрите в качестве примера однопа- раметрическое семейство кубических многочленов fa(z) = z3 + az2 + z с двукратной неподвижной точкой в нуле. Используя теорему 12.4, либо прямыми вычислениями покажите, что оставшаяся неподвижная точка z = —а имеет мультипликатор Л = 1 + а2, и потому является притягивающей тогда и только тогда, когда а2 лежит внутри единичного диска с центром в точке z = — 1, либо когда а лежит внутри фигуры, имеющей форму «восьмерки» и ограниченной лемнискатой. Эта лемниската ясно видна как граница основных верхней и нижней областей на рисунке 26, который изображает часть плоскости параметра
§12. Голоморфная формула для числа неподвижных точек 179 Рис. 26. Картина в пространстве параметров семейства кубических отображений z \-> z3 + az2 +z. Во внешней области орбита одной критической точки стремится к бесконечности а. Для а/0 рассмотрим возмущенное отображение fa: z н-» z3 + olz2 + + (1 — e)z, для которого двукратная неподвижная точка расщепляется на две близкие различные неподвижные точки. Предположим сначала, что а2 лежит внутри диска радиуса 1/2 с центром в 1/2, или, что эквивалентно, что а лежит в соответствующей области, ограниченной лемнискатой, имеющей форму символа ос. (Она изображена на рисунке 26 пунктирной линией.) Покажите, что можно выбрать такое маленькое е Е С, что обе неподвижные точки в окрестности нуля будут притягивающими. С другой стороны, покажите, что если а лежит строго вне этой области, то для любого такого возмущения, по меньшей мере, одна из неподвижных точек в окрестности нуля является отталкивающей. (Ср. описание «параболически притягивающих» или «отталкивающих» точек в [А. Эпштейн].) Задача 12-Ь. Более общо, рассмотрим неподвижную точку кратности п + 1 ^ 2 для отображений, имеющих нормальную форму f(z) = z + aznJtl + /?z2n+1 + {старшие члены).
180 Периодические точки: глобальная теория (Ср. задачу Ю-d. Изменив масштаб, можно предположить, что а = 1.) Покажите, что индекс t(f, 0) равен отношению /3/а2. Задача 12-с. Каждая неподвижная точка zo отображения f , очевидно, является неподвижной точкой и для его итераций fok. Покажите, что если zo является притягивающей (или отталкивающей), то t(fok, zo) стремится к единице (либо к нулю) при к —>• ос. Покажите, что для неподвижной точки кратности т ^ 2 индекс t(fok, zq) стремится к т/2. Задача 12-d. Проверьте обобщенную формулу числа неподвижных точек из 12.5 для следующих двух специальных случаев: Покажите, что если /: Т —>• Т — линейное отображение тора, у которого производная f тождественно равна а, то след г индуцированного действия на одномерном пространстве голоморфных 1-форм равен а. Покажите, что если f не является тождественным отображением, то существует |1 — а\2 неподвижных точек, каждая из которых имеет индекс ь — 1/(1 — а), и выведите отсюда требуемое равенство ^2 i = 1 — т. (Ср. задачу 6-Ь.) Предположим теперь, что S — компактная поверхность рода g, и что f:S^S является инволюцией с к неподвижными точками. Используя формулу Римана-Гурвица, покажите, что фактор S/f является поверхностью рода g= (2 + 2g— fc)/4. Покажите, что для индуцированного действия на g-мерном векторном пространстве голоморфных 1-форм g собственных чисел равны +1, оставшиеся g — % собственных чисел равны —I, и, таким образом, след т равен 2g— g. Выведите отсюда, что ^2 L = &/2 = 1 — г. § 13. Большинство периодических орбит отталкивающие Как и в §4? мы будем называть циклом периодическую орбиту отображения f. Напомним что, цикл называется притягивающим, если |Л| < 1, нейтральным, если |Л| — \, и отталкивающим, если |Л| > 1. В этом параграфе будет доказана следующая теорема Фату. 13.1. Теорема Фату. Пусть /: С —>• С — рациональное отображение степени d ^ 2, тогда f имеет не более конечного числа притягивающих или нейтральных циклов.
§ 13. Большинство периодических орбит отталкивающие 181 В § Ц будет установлено, что всегда существует бесконечно много отталкивающих циклов. Используя методы квазиконформной хирургии, Сисикура получил точную верхнюю границу (2d — 2) числа притягивающих и нейтральных циклов. (Ср. А. Эпштейн). Однако приведенное ниже классическое доказательство показывает, что это число не превосходит (6d — 6). Напомним, что в 10.12 установлено, что f имеет не более (2d —2) притягивающих или параболических циклов. (Если d — непосредственно притягивающая или параболическая область, то некоторая итерация fop отображает d в себя. Согласно теореме 8.6 и 10.11, d содержит критическую точку fop. Следовательно, используя цепное правило, можно установить, что некоторая область непосредственного притяжения f°^(d) из этого же цикла содержит критическую точку f. Поскольку различные области непосредственного притяжения попарно не пересекаются, и поскольку f имеет не более (2d — 2) критических точек, отсюда следует, что f имеет не более (2d — 2) притягивающих или параболических циклов.) 13.2. Лемма. Для рационального отображения степени d ^ 2 число нейтральных циклов, имеющих мультипликатор А ф 1, не превосходит (Ы — 4). Очевидно, что из 13.2 и 10.12 следует справедливость теоремы 13.1. Следуя Фату, докажем 13.2, возмущая заданное отображение f таким образом, чтобы более половины его нейтральных циклов стали притягивающими. Положим f(z) = p(z)/q(z), где p(z) и q(z) полиномы, из которых, по крайней мере, один имеет степень d. Рассмотрим однопараметрическое семейство отображений » , ч p(z) +tzd , М*)= ,\+, > (13 : 1) с начальным условием fo(z) = f(z). Для большинства значений параметра t это корректно определенное рациональное отображение степени d, гладко зависящее от t, стремящееся к пределу foo(z) = zd при t —у оо. Однако здесь необходимо исключить конечное число особых значений параметров, для которых нуль и полюс функции ft совпадают: вначале исключим все значения t, для которых в (13:1) числитель и знаменатель одновременно обращаются в нуль. Если знаменатель равен нулю, то t = —q(z), тогда одновременное обращение в нуль числителя
182 Периодические точки: глобальная теория и знаменателя равносильно уравнению p(z) - q(z)zd = 0. Если исключить тривиальный случай f(z) = zd, то последнее уравнение имеет лишь конечное число решений Zj, следовательно, необходимо исключить конечное число значений параметра t = —q(zj). Этого достаточно для контроля поведения функции при конечных значениях z. Если q(z) имеет степень d, то для контроля поведения функции вблизи z = оо также необходимо исключить то единственное значение параметра to, для которого p(z) + tozd имеет степень меньше d. Если f = /о имеет к различных нейтральных циклов с мультипликаторами Xj ф 1, то нужно доказать, что к < 4с/ — 4. В каждом из таких циклов выберем точку Zj. По теореме о неявной функции можно следовать вдоль каждого из этих циклов при малой деформации /0. Значит, при малых значениях \t\ отображение ft должно иметь соответствующие периодические точки Zj(t) с мультипликаторами \j(t), голоморфно зависящие от t так, что |Aj(0)| = 1. 13.3. Лемма. Ни одна из этих функций t и-» Xj(t) не может быть постоянной в окрестности t = 0. Доказательство. От противного. Предположим, что для некоторого j функция t н-» Xj(t) постоянна в окрестности t = 0. Выберем некоторый луч г \-> t = гегв от 0 до оо, (0 ^ г ^ ocJ? не проходящий через конечное число исключительных значений параметра t. Покажем, что можно аналитически продолжить функцию t и-» Zj(t) на некоторую окрестность этого луча так, чтобы Zj(t) была периодической точкой отображения ft с мультипликатором Xj = const. Для доказательства этого факта проверим, что множество таких r\ Е [0; оо], для которых такое продолжение возможно и при О ^ г ^ г\, одновременно и замкнуто, и открыто. Оно замкнуто, поскольку любая предельная точка периодических точек с заданным мультипликатором Xj ф 1 сама периодична с тем же мультипликатором, а открыто, поскольку любая такая периодическая точка, по теореме о неявной функции, гладко зависит от t в некоторой открытой области t-плоскости. Теперь, аналитически продолжая функцию вдоль луча к t = ос, мы видим, что отображение z \-^ zd также имеет цикл с мультипликатором Xj, таким, что \Xj\ = = 1. Но каждая периодическая точка этого предельного отображения
§ 13. Большинство периодических орбит отталкивающие 183 — это О или оо с мультипликатором, равным нулю; еще возможна периодическая точка, равная корню из единицы, с А = dk > 1. Это противоречие завершает доказательство 13.3. Ш Доказательство леммы 13.2 продолжается следующим образом. Можно выразить каждый из к мультипликаторов в виде локально сходящегося степенного ряда Aj(£)/Aj(0) = 1 + Ojjtnj + (старшие члены), где dj ф О и rij ^ 1. Значит, |А,-(*)| = l + Re(ajtni) + o(tni). Можно разбить t-плоскость на rij секторов, для которых выражение Re(a,jtnj) положительно, и rij дополнительных секторов, для которых это выражение отрицательно. Пусть Ч{0) = sgn(Re(aje^)) так, что aj(6) = +1 => |Aj (re**9) | > 1 для малых г > О, (Tj(0) = — 1 => \Xj(reie)\ < 1 для малых г > 0. Очевидно, что каждая aji Ж/2-кЪ —>• {±1,0} является ступенчатой функцией, принимающей значения ±1 всюду, кроме 2rij разрывов первого рода; среднее значение этой функции равно нулю: 2тг О Следовательно, сумма а± (9) + ... + (Ти (0) также является корректно определенной ступенчатой функцией с нулевым средним значением. Заменяя при необходимости к на к — 1, можно предполагать, что к нечетно, то есть эта сумма принимает нечетные значения почти всюду. Значит, можно выбрать некоторое в такое, что o~j(0) = — 1 для более, чем половины, то есть, по крайней мере, для (к + 1)/2 индексов j. При достаточно малом rut — гегв это означает, что ft имеет, по крайней мере, (к + 1)/2 различных циклов с мультипликатором, удовлетворяющим условию \Xj\ < 1. Следовательно, согласно 8.6 или 10.12, имеем (к + 1)/2 ^ 2d — 2, или, другими словами, (к + 1) ^ 4с/ — 4. Это завершает доказательство 13.2 и 13.1. Ш
184 Периодические точки: глобальная теория § 14. Отталкивающие циклы плотны в J Как мы уже видели в лемме 4-3, каждый отталкивающий цикл содержится во множестве Жюлиа. Следующее, более сильное, утверждение было доказано Фату и Жюлиа. Ц.1. Теорема. Множество Жюлиа любого рационального отображения степени d ^ 2 совпадает с замыканием множества его отталкивающих периодических точек. Мы приведем оба авторские доказательства этой теоремы, так как они интересны и отличаются друг от друга. Доказательство Жюлиа использует формулу для неподвижной точки рационального отображения из § 12. Напомним, что в 12.7 было установлено, что любое рациональное отображение f степени d ^ 2 имеет отталкивающую неподвижную точку или неподвижную точку, у которой мультипликатор равен единице. В обоих случаях эта точка принадлежит множеству Жюлиа J(f). (Ср. леммы 4-3, 4-4-) Таким образом, мы можем начать наши рассуждения с рассмотрения неподвижной точки zo Е J(f)- Пусть U С С — любое открытое множество, пересекающее J(f), но не содержащее z$. На следующем шаге мы конструируем специальную орбиту ... \-ь Z2 *-> z\ н->- zo, которая проходит через U и заканчивается в этой неподвижной точке z$. По определению, такая орбита называется гомоклинической, если ее обратный предел lim Zj существует и равен конечной точке zq. Для J-KX) построения гомоклинической орбиты мы прибегнем к следствию 4-^0, в котором утверждается, что существует такое целое г > О и точка zr Е «/(/) П U, что г-я итерация for(zr) совпадает с zq. Для любой заданной окрестности 7V0 точки zo можно повторить это рассуждение и вывести отсюда существование такого целого q > г и такой точки zqeN0, что fo{q~r)(zq) = zr. (Рисунок 27.) Более явным образом, в случае отталкивающей неподвижной точки zo в качестве 7V0 можно выбрать линеаризующую окрестность, как в теореме Кёнигса 8.2. Для параболической неподвижной точки мы выбираем в качестве окрестности Nq цветок Ло-Фату из теоремы 10.5. В обоих случаях эту окрестность следует выбирать настолько малой, чтобы она не содержала zr. Значит, по индукции все прообразы ... 4 ^ ьу ^_! и ... \-> zq можно выбирать внутри окрестности Nq. Эти прообразы автоматически сходятся к zq при j —у ос. Это оче-
§ 14. Отталкивающие циклы плотны в J 185 Рис. 27. Гомоклиническая орбита видно, если zq является отталкивающей. Если же она параболична, то точка zq не может содержаться в притягивающем лепестке, поэтому она лежит в отталкивающем лепестке; ясно, что и в этом случае утверждение справедливо. Предположим, что ни одна из точек ... \-> Zj \-> ... *-> zq этой гомоклинической обриты не является критической для f. Тогда достаточно маленькая круговая окрестность Vq точки zq Е Nq будет диффеоморфно отображаться итерацией foq на окрестность Vq точки zq. Прообразы этой окрестности Vq при итерациях /_1 являются окрестностями Vj точек Zj при всех j, и при j —>• ос эти окрестности стягиваются в предельную точку zq. В частности, если выбрать р достаточно большим, то Vv С Vq. Тогда f~p отображает односвязное открытое множество Vq голоморфно в его компактное подмножество. Следовательно, оно строго уменьшает расстояния в метрике Пуанкаре на Vq больше, чем в с < 1 раз, и поэтому должно иметь притягивающую неподвижную точку zf внутри Vp. Очевидно, что zf Е Vp является
186 Периодические точки: глобальная теория отталкивающей периодической точкой отображения f с периодом р. Орбита этой точки пересекает требуемое открытое множество U, откуда и следует утверждение. Если же наша гомоклиническая орбита содержит критические точки, это рассуждение надо немного модифицировать следующим образом. В этом случае все еще можно выбрать односвязные окрестности Vj точек Zj так, что Уv С Vb при больших р, и так, что f отображает каждую Vj на Vj-\. Однако некоторое конечное количество этих отображений будет разветвленным. Сделаем разрез S в Vb от границы к центральной точке zo так, чтобы он не пересекал Vр, и выберем некоторый сектор в Vp, который изоморфно отображается на Vo\ S при fop. Далее доказательство проводится, как и выше. ■ Доказательство Фату теоремы 14.1. Здесь основная идея состоит в применении теоремы Монтеля 3.7. Однако для завершения этого доказательства нам придется использовать и теорему 13.1. Напомним, что, согласно J^.ll, множество Жюлиа J(f) не имеет изолированных точек. Значит, из него можно удалить конечное множество точек без ущерба для доказательства. Пусть zo — произвольная точка в J(f), не являющаяся ни неподвижной точкой, ни критическим значением. Другими словами, предположим, что существует d различных прообразов z\, ..., Zd, каждый из которых также отличен от zo, где d ^ 2 — степень отображения. Согласно теореме об обратной функции, можно найти d голоморфных функций z и-» <Pj(z), определенных всюду в некоторой окрестности N точки zo и удовлетворяющие соотношениям f(<fj(z)) — z и <fj(zo) = Zj. Утверждается, что для некоторого п > О и некоторого z Е N итерация fon(z) должна принимать одно из трех значений z, <pi(z) или <f2(z). В противном случае семейство голоморфных функций (/оп(г)-¥>!(*))(*-Ы*)) *»W {f°»{z) - <p2(z)){z - niz)) на N не принимало бы трех значений 0, 1 и ос, и поэтому было бы нормальным семейством. (Приведенное выше выражение является всего-навсего двойным отношением четырех точек z, <pi(z), 4>i(z) u fon(z), как отмечено в задаче 1-е.) Отсюда легко следовало бы, что {fon\N} также являлось бы нормальным семейством, что противоречит предположению о том, что N пересекается со множеством Жю-
§ 14. Отталкивающие циклы плотны в J 187 лиа. Значит, можно найти такое z Е N, для которого выполняется или fon(z) = z, или fon(z) = <Pj(z). Отсюда сразу следует, что z является периодической точкой с периодом п или п + 1 соответственно. Этим показано, что каждая точка в J(f) сколь угодно близко приближается периодическими точками. Поскольку все такие периодические точки, за исключением конечного числа, должны быть отталкивающими, это завершает доказательство. ■ Приведем несколько интересных следствий. Ц.2. Следствие. Если открытое множество U пересекает множество Жюлиа отображения f, то при достаточно больших п образ fon(U П J) совпадает со всем множеством Жюлиа J. Доказательство. Мы знаем, что U содержит отталкивающую периодическую точку zo, пусть ее период равен р. Тогда zo является неподвижной точкой для итерации g = fop. Выберем у нее настолько малую окрестность V С U, что V С g(V). Ясно, что тогда V С g(V) С go2(V) С Но из теоремы 4.1 следует, что объединение открытых множеств gon(V) целиком содержит множество Жюлиа J = J(f) = J(g). Поскольку J компактно, отсюда следует, что J С gon(V) С gon(U) для достаточно больших п, а значит, справедливо и соответствующее утверждение для f. Ш Более общо, если К С С — любое компактное множество, не содержащее никаких точек с конечными большими орбитами, то fon(U) D К при больших п. В частности, если точек с конечными большими орбитами нет вообще, то fon(U) = С при больших п. (Ср. теорему J^.l и задачу 4~Ь.) В качестве другого следствия можно получить более сильное утверждение, характеризующее множество Жюлиа. Ц.З. Следствие. Если U С С — любое открытое множество, пересекающееся со множеством Жюлиа J(f), то никакая последовательность итераций /оп(«?) не может сходиться локально равномерно всюду на U. Доказательство. Предположим, что последовательность функций fon^\z) локально равномерно сходится всюду на открытом множестве U к g(z). Если zo G U П J, то можно так выбрать меньшую окрестность U' точки zq, что \g(z) — g(zo)\ < s при всех z G U'. Отсюда следовало бы, что
188 Периодические точки: глобальная теория для больших j и всех z Е U' выполнялось бы соотношение |/п^(£) — —g(zo)\ < 2е, что невозможно ввиду Ц.2. Ш В качестве другого следствия из Ц.2 можно привести другое доказательство теоремы 11.17 с несколько более сильным, чем в случае точек Кремера, утверждением. Будем называть критической орбитой орбиту некоторой критической точки. Ц.4> Следствие. Каждая граничная точка диска Зигеля А лежит в замыкании некоторой критической орбиты. Аналогично, любая точка Кремера является неизолированной в замыкании некоторой критической орбиты. Доказательство. Если zo Е дА не принадлежало бы замыканию какой-нибудь критической орбиты, то можно было бы построить маленький диск V вокруг zo так, чтобы орбиты всех критических точек не попадали бы в V. Это означало бы, что каждая ветвь п-кратной итерации обратной функции f~n могла быть определена как однозначная голоморфная функция f~n: V —У С. Выберем ту из ветвей, которая переводит пересечение А П V в А; ясно, что это отображение является «вращением» диска А. Поскольку число вращения иррационально, можно выбрать некоторую подпоследовательность итераций обратных отображений, сходящуюся на А П V к тождественному отображению. Поскольку семейство этих отображений не принимает значений в центральной части А, оно должно быть нормальным. Значит, существует подпоследовательность {f~n^}, сходящаяся локально равномерно на всем V; ясно, что предельное отображение обязано быть тождественным. Отсюда легко следует, что соответствующая последовательность итераций /оп(«?) также сходится к тождественному отображению на V. Но это противоречит Ц.2. В случае точек Кремера мы будем действовать следующим образом. (Эти соображения проходят также и для параболических циклов. Ср. 10.11.) Рассуждая от противного, можно было бы выбрать маленький диск V вокруг данной точки zo так, чтобы никакая критическая орбита не пересекала диск с выколотой точкой V \ {zo}. Заменив в случае необходимости f на некоторую его итерацию, можно предположить, что zo является неподвижной точкой для f. Рассуждая, как и выше, мы видим, что существует единственная голоморфная ветвь j-n. у _^ £ п-кратной итерации обратной функции, которая оставляет точку zq неподвижной. Эти обратные отображения образуют нор-
§ 14. Отталкивающие циклы плотны в J 189 малъное семейство, в частности, от того, что их образы не содержат ни одной периодической орбиты, которые не пересекаются с V. Значит, можно выбрать подпоследовательность f~n^\ локально равномерно сходящуюся к некоторому голоморфному отображению h: V —У С. Поскольку \hf(zo)\ = 1, согласно теореме об обратной функции, при этом предельном отображении h некоторая малая окрестность точки zo изоморфно отображается на окрестность V этой же точки. Отсюда следует, что соответствующие итерации fon^ сходятся на V к обратному отображению h~x: V —> V. И снова это противоречит Ц.2. ■ Назовем рациональное отображение f посткритически конечным, если каждая его критическая орбита конечна или, иными словами, либо периодична, либо поглощается циклом. Согласно Тёрстону, такое отображение может быть однозначно задано сугубо топологическим описанием. (Ср. Дуади и Хаббард, 1993.) Ц.5. Следствие. Если f посткритически конечна, то каждая его периодическая орбита является либо отталкивающей, либо су- перпритягивающей. Более общо, предположим, что каждая критическая орбита f либо конечна, либо сходится к притягивающей периодической орбите. Тогда каждая периодическая орбита f является либо отталкивающей, либо притягивающей; в этом случае не существует параболических циклов, циклов Кремера или циклов Зигеля. Доказательство немедленно следует из 10.11 и Ц-4- ■ В качестве еще одного следствия мы получаем более простое доказательство 4-12. Ц.6. Следствие. Если множество Жюлиа J несвязно, то оно имеет несчетное количество компонент связности. Доказательство. Пусть J представимо в виде объединения Jo U J\ двух непересекающихся непустых компактных подмножеств. Заменив f на его итерацию g = fon, согласно Ц.2, можно предполагать, что g(Jo) = J и g(J\) = J. Далее, каждой точке z G J можно сопоставить бесконечную последовательность нулей и единиц e0(z),e1(z),e2(z), ... е {0, 1},
190 Периодические точки: глобальная теория полагая £k(z) равным нулю либо единице, согласно тому, которому из множеств, J0 либо J\, принадлежит gok(z). Нетрудно проверить, что точки, отвечающие различным последовательностям символов, должны лежать в различных компонентах связности J, и что любая последовательность нулей и единиц может быть получена при таком построении. Ш 14.7. Заключительные замечания. Утверждение о том, что множество Жюлиа совпадает с замыканием множества отталкивающих периодических точек, в действительности, справедливо и для произвольного голоморфного отображения произвольной римановой поверхности, если исключить всего один тривиальный случай, дробно- линейного отображения С, имеющего всего одну параболическую неподвижную точку, например, для отображения f(z) = z + 1 имеем J(f) = = оо. Для трансцендентных функций это утверждение было доказано Бэйкером (1968), а для отображений тора оно легко следует из теоремы 6.1.
Структура множества Фату § 15. Кольца Эрмана (Примечание переводчика: в нашей литературе эти кольца обычно называются кольцами Арнольда-Эрмана — см. обзоры Любича и Еременко-Любича.) Следующие два параграфа имеют только обзорный характер и не содержат доказательств основных утверждений. Здесь мы опишем близкого родственника диска Зигеля. Определение 19. * Компонента U множества Фату C\J(f) называется кольцом Эрмана, если U конформно изоморфно некоторому кольцу Ar = {z I 1 < \z\ < г}, и если f (или какая-либо ее итерация) соответствует иррациональному повороту этого кольца. (Диски Зигеля и кольца Эрмана часто собирательно называют «областями вращения».) Существуют два известных метода построения колец Эрмана. Авторский метод, принадлежащий Эрману, основан на тщательном анализе вещественных аналитических диффеоморфизмов окружности. Другой метод, принадлежащий Сисикуре, использует квазиконформную перестройку двух экземпляров римановой сферы, в которых из дисков Зигеля вырезаются части, прилегающие к центрам, и полученные границы склеиваются друг с другом так, что в результате получается такое кольцо. Авторский метод вкратце может быть изложен следующим образом. (Ср. Эрман 1979, Сулливан 1983, Дуади 1987-1988.) Дадим сначала несколько определений. Если f: Ж/Ъ —у Ж/Ъ — сохраняющий ориентацию гомеоморфизм, то его можно поднять до гомеоморфизма F: М —>- М? который удовлетворяет тождеству F(t + 1) = F(t) + 1 и определяется однозначно, с точностью до постоянного целого слагаемого. Определение 20. * Не зависящее от выбора to вещественное число Rot(F) = lim Ц^
192 Структура множества Фату называется числом трансляции поднятого в универсальное накрытие отображения F. Следуя Пуанкаре, число вращения rot(/) Е Ж/Z отображения f окружности в себя определяется как дробная часть числа Rot(F). Хорошо известно, что эта конструкция корректно определена, инвариантна относительно сохраняющих ориентацию топологических сопряжений и обладает следующим свойством. (Ср. Коддингтон и Левин- сон или де Мело и ван Штриен и см. задачу 15-d.) 15.1. Лемма. Гомеоморфизм f имеет периодическую точку с периодом q тогда и только тогда, когда ее число вращения является рациональным числом со знаменателем q. 15.2. Теорема Данжуа. Если f — диффеоморфизм класса С2, и его число вращения р = rot(/) иррационально, то f топологически сопряжен вращению t \-+ t + p(modZ). 15.3. Лемма. Рассмотрим однопараметрическое семейство отображений Fa(t) = F0(t) + a, поднятых в универсальное накрытие. Тогда число трансляции Kot(Fa) монотонно и непрерывно возрастает вместе с а, увеличиваясь на +1, когда а увеличивается на +1. (Эта зависимость не является, однако, строго монотонной. Более точно, если F0 не является линейным, то каждому рациональному значению Rot(Fa) соответствует интервал, на котором эта функция постоянна.) В вещественном аналитическом случае теорема Данжуа имеет аналог, формулируемый следующим образом: Напомним, что в § 11 вещественное число £ называлось диофантовым, если существует такое большое п и такое маленькое е, что модуль разности между £ и любым рациональным числом вида p/q удовлетворяет неравенству |£ — —p/q\ > s/qn. Следующее утверждение было доказано в локальном варианте (то есть для отображений, близких к тождественному) Арнольдом, и затем усилено Эрманом, а позднее — Йоккозом. 15.4> Теорема Эрмана-Йоккоза. Если f — вещественный аналитический диффеоморфизм окружности Ж/Ъ, и число его вращения является диофантовым, то f вещественно-аналитически сопряжено вращению t \-t t + p(mod l).
§15. Кольца Эрмана 193 Мы не будем здесь пытаться дать доказательство этой теоремы. (В С°° -случае Эрман и Йоккоз доказали соответствующую эквивалентность: Каждый С°° -диффеоморфизм, у которого число вращения равно р, сопряжен вращению тогда и только тогда, когда р является диофанто- вым.) Далее нам понадобится понятие произведения Бляшке. (Ср. задачу 7-Ь, а также 1.7.) Для любой постоянной a Е С такой, что \а\ ф 1, нетрудно показать, что существует единственное дробно-линейное преобразование z \-^ /3a(z), которое отображает единичную окружность дШ на себя так, что точка z — 1 оказывается неподвижной, а /За(а) = 0. Например, /3o(z) = z, /300(z) = 1/z, и вообще п / ч 1 — a z — а Pa(z) = • =-, 1 — а 1 — az если только а ф ос. Если \а\ < 1, то /За сохраняет ориентацию на окружности и отображает единичный круг в себя. С другой стороны, если \а\ > 1, то j3а обращает ориентацию на дШ и отображает Ш) на его дополнение. 15.5. Лемма. Рациональное отображение степени d переводит единичную окружность в себя тогда и только тогда, когда оно пред- ставимо в виде «произведения Бляшке» f(z) = e2^(iai(z)...(iad{z) (15:1) для некоторых постоянных e27rlt G дШ и а\, ... , а^ G С \ дШ. Здесь все aj должны удовлетворять условию а^Щ ф 1 для всех j и к. Если аЪ = 1, то несложное вычисление показывает, что /3a(z)/3t(z) = 1. Очевидно, что выражение в (15:1) единственно, поскольку постоянные e2mt _ у^) и |ai^ _ ^ ady — у—1 (о) однозначно определяются функцией f. Доказательство леммы 15.5 несложно: Для данной f выберем любое решение уравнения f(a) = 0, разделим f(z) на /3a(z) и получим рациональную функцию меньшей степени, с которой продолжаем рассуждать по индукции. ш Такое произведение Бляшке переводит единичный диск в себя тогда и только тогда, когда все постоянные aj удовлетворяют неравенству \aj\ < 1. (Ср. задачи 7-Ь, 15-с.) Однако, нас больше будет интересовать смешанный случай, когда некоторые из этих чисел aj лежат внутри единичного диска, а остальные — снаружи.
194 Структура множества Фату 15.6. Теорема. Для любой нечетной степени d ^ 3 можно подобрать произведение Бляшке f степени d, которое переводит единичную окружность дШ в себя с помощью сохраняющего ориентацию диффеоморфизма с любым наперед заданным числом вращения р. Если это число вращения диофантово, то f имеет кольцо Эрмана. Набросок доказательства. Пусть d = 2п + 1; выберем числа aj так, чтобы п + 1 из них были близки к нулю, а остальные п чисел были близки к ос. Легко проверить, что произведение Бляшке z •->• Ац (%)••• Pad (z) близко в С1 -норме к тождественному отображению единичной окружности дИ). В частности, оно индуцирует сохраняющий ориентацию диффеоморфизм дИ). Умножая его на e2nlt и используя лемму 15.3, можно подогнать число вращения к любой желаемой постоянной. Если это число вращения р является диофантовым, то существует вещественный аналитический диффеоморфизм h: дШ —>• дШ, который сопрягает f с вращением z \-^ e27Vlpz. Поскольку h вещественно аналитичен, он продолжается до комплексного аналитического диффеоморфизма некоторой малой окрестности дИ), откуда и следует утверждение. ■ Изображенный на рисунке 28 пример показывает множество Жю- лиа кубического рационального отображения f(z)=e2nltz2(z—4)/(l—4z) с нулями в точках О, 0, 4, где постоянная t = 0,6151732... подобрана так, чтобы число вращения равнялось (л/5 — 1)/2. Рядом с центром рисунка расположена критическая точка, а слева от нее находится кольцо Эрмана, окружающее область суперпритяжения точки z = 0 в центре левой части. Это простейший пример такого сорта, который можно построить, поскольку Сисикура показал, что такое кольцо существует, только если степень отображения d ^ 3 (ср. Милнор, 1999b). С другой стороны, легко проверить, что полиномиальное отображение не может иметь колец Эрмана. (Задача 15-а.) Построенные таким образом кольца имеют очень специальный вид, именно, они симметричны относительно единичной окружности f(l/~z) = l/f(z). Однако, авторская конструкция Эрмана, основанная на работах Хелсона и Сарасона, обладает большей гибкостью. Более общая конструкция Сисикуры также не требует симметрии. Более того, из конструкции Сисикуры становится ясно, что возможные числа вращения колец Эрмана в точности таковы, как и возможные числа вращения дисков Зигеля. В частности, здесь может появиться любое
§15. Кольца Эрмана 195 Рис. 28. Множество Жюлиа кубического рационального отображения, имеющего кольцо Эрмана число, удовлетворяющее условию Брюно из теоремы 11.10. Идея построения состоит в том, что сначала рассматриваются два рациональные отображения, у которых имеются диски Зигеля с числами вращения +р и, соответственно, —р. Из каждого диска вырезается маленький концентрический диск, и полученные границы склеиваются друг с другом. Совершив соответствующие перестройки в каждом из итерированных прообразов каждого диска Зигеля (множество этих прообразов бесконечно), Сисикура применил теорему Мори-Альфорса-Берса об измеримом римановом отображении с целью сопрячь полученную топологическую картину с рациональным отображением. Хотя кольца Эрмана не содержат критических точек, однако они тесно связаны с критическими точками. 15.7. Лемма. Если U — кольцо Эрмана, то каждая его граничная точка принадлежит замыканию орбиты некоторой критической точки. Граница 8U имеет две компоненты связности, каждая из которых бесконечна. Доказательство первого утверждения почти идентично доказательствам теоремы 11.17 или Ц-4? второе утверждение следует из задачи 5-Ь и теоремы Жордана. ■
196 Структура множества Фату Задачи Задача 15-а. Используя принцип максимума модуля, покажите, что никакое полиномиальное отображение не может иметь колец Эр- мана. Задача 15-Ь. Покажите, что для любого произведения Бляшке f: С —У С точка z является критической тогда и только тогда, когда \j~z является его критической точкой, и что z является нулем для f тогда и только тогда, когда \j~z является полюсом. Задача 15-с. Голоморфное отображение f: Ш) —у Ш) называется собственным, если прообраз любого компактного подмножества из Ш) компактен. Покажите, что любое собственное голоморфное отображение Ш) на себя единственным образом представимо в виде произведения Бляшке (15:1), для которого clj Е Ш). Задача 15-d. Покажите, что число вращения rot(/) можно получить следующим образом, непосредственно из циклического отношения порядка на орбите, в удобном для вычислений виде. Выберем для элементов орбиты нулевой точки представителей так, tj E [О, 1), что tj = /OJ'(0) (mod Z). Если исключить тривиальный случай t\ — О, то t\ разбивает [О, 1) на два непересекающихся полуинтервала 1\ — [О, t\) и Iq = [to, 1). Определим последовательность нулей и единиц (&25 ^з? ^4? • • •) истинностью соотношения tn Е 1п. Пусть F — единственное поднятие, для которого F(0) = t\. Покажите, что Rot(F) = lim (b2 + h + ... + bn)/n. п—юо Более того, если у другого такого отображения f построенная выше последовательность нулей и единиц (&2, ^з? ^45 •••)? относительно лексикографического порядка удовлетворяет неравенству (&2, Ьз, •••) < (Ь2,Ьз, -О* то Rot (F) ^Rot(F). § 16. Классификация Сулливана компонент связности множества Фату Результаты этого параграфа частично получены Фату и Жюлиа, но главным образом получены Сулливаном.
§ 16. Классификация Сулливана 197 Под компонентой связности множества Фату нелинейного рационального отображения f будет пониматься любая компонента связности множества 0amyC\J(f). Очевидно, f переводит каждую компоненту связности множества Фату U на некоторую компоненту связности множества Фату U' посредством собственного голоморфного отобра- жжения. Рассмотрим для начала частный случай U = U'. 16.1. Теорема. Если f отображает компоненту связности U множества Фату на себя, то существуют только следующие четыре возможности. Либо U — область непосредственного притяжения притягивающей неподвижной точкщ либо U является некоторым лепестком неподвижной параболической точки с мультипликатором А = 1; либо U является диском Зигеля\ либо U является кольцом Эрмана. Здесь мы объединяем случаи сверхпритягивающей неподвижной точки с мультипликатором А = 0 и геометрически притягивающей неподвижной точки с мультипликатором А / 0. Заметим, что, согласно теореме 8.6 и следствию 10.11, как области непосредственного притяжения, так и параболические области всегда содержат критические точки, в то время как области вращения (т. е. диски Зигеля и кольца Эрмана), очевидно, не содержат критических точек. Большая часть доказательства теоремы 16.1 уже проведена в § 5. В самом деле, согласно теореме 5.2 и лемме 5.5, a priori существуют только четыре возможности. А именно: (a) U содержит притягивающую неподвижную точку; (b) все орбиты в U сходятся к граничной неподвижной точке; (c) f является автоморфизмом конечного порядка; (d) f сопряжено иррациональному вращению либо диска, либо проколотого диска, либо кольца. Справедливость случая (а) уже установлена. Случай (с) невозможен, поскольку наше предположение о том, что степень d ^ 2, гарантирует счетностъ числа периодических точек. В случае (d) невозможен вариант проколотого диска, поскольку иначе выколотая точка должна была бы быть неподвижной, принадлежащей множеству Фату, так, что U было бы подмножеством диска Зигеля, а не всей компонентой связности множества Фату. Следовательно, для доказательства теоремы 16.1 необходимо только показать, что граничная неподвижная точка в случае (Ь) должна быть параболической точкой с Л = 1. Эта граничная неподвижная точка, конечно, не может быть притягиваю-
198 Структура множества Фату щей точкой или точкой Зигеля, поскольку она принадлежит множеству Жюлиа. Кроме того, она не может быть отталкивающей, поскольку она притягивает все орбиты в U. Значит, она должна быть нейтральной, и \Х\ = 1. Для завершения доказательства теоремы 16.1 остается только установить, что Л равно в точности +1. Доказательство будет основываться на следующем результате Дуади и Сулливана. (Ср. Сулливан 1983, Дуади -Хаббард 198^-1985, стр. 70. Более классический вариант см. в Любич 1986, стр. 57.) Пусть отображение f(z) = Xz + a2z2 + a3z3 + ... определено и голоморфно в некоторой окрестности нуля V и имеет неподвижную точку z = 0 с мультипликатором X. Под путем в V \ {0}, сходящимся к нулю, будем понимать непрерывное отображение р: [О; оо) —У V \ {0}, удовлетворяющее условию p(t) —У 0 при t —у ос. (Здесь [0; оо) обозначает полуоткрытый интервал, состоящий из всех вещественных чисел t ^ 0). Заметим, что такой путь может иметь самопересечения. 16.2. Лемма об улитке. Предположим, что существует путь р: [0; оо) —у V \ {0}, отображающийся в себя посредством f так, что f(p(t)) = p(t + 1), сходящийся к нулю при t —у оо. Тогда либо |Л| < 1, либо Л = 1. Иными словами, нуль должен быть либо притягивающей неподвижной точкой, либо параболической неподвижной точкой с мультипликатором X, в точности равным 1. Доказательство леммы 16.2. По предположению, орбита р(0) \-у р(1) \-у р(2) \-у ... в V \ {0} сходится к нулю. Следовательно, начало координат не может быть отталкивающей неподвижной точкой, и значит |Л| ^ 1. Предположим, что |Л| = 1 и X ^ 1, и покажем, что эта гипотеза ведет к противоречию. При приближении пути t \-y p(t) к нулю поведение отображения f на p(t) все более и более определяется линейной частью z \-y Xz. Следовательно, имеется асимптотическое равенство p(t + 1) ~ Xp(t) при t —у оо. Если путь р не имеет самопересечений, то образ должен иметь вид очень плотной спирали, как на рисунке 29 слева; дадим набросок доказательства для этого случая. Проведем радиальный отрезок
§ 16. Классификация Сулливана 199 в Рис. 29. Простая кривая в С\{0} — слева. Непростая кривая, поднятая в универсальное накрытие, — справа Е, соединяющий два витка спирали, как показано на рисунке. Тогда область W, ограниченная Е и дугой спирали, будет отображаться функцией f строго в себя. Значит, по лемме Шварца, неподвижная точка отображения f в точке О Е W должна быть строго притягивающей, что противоречит исходному предположению о том, что |Л| = 1. Для того, чтобы восполнить детали рассуждения и распространить их на случай самопересекающихся путей, введем полярные координаты (г, в) на С\{0}? полагая z — гегв, где г > 0, а в Е Ж/2-кЪ. Поднимем путь р в универсальное накрытие С\{0} до nymup(t) = (r(t), 0(i)), где 6(t) — вещественное число. Заметим, что при стремлении t к бесконечности r(t)\0 и 0(t + l)=0(t) + c + o(l), (16:1) где с — однозначно определенная вещественная постоянная с условием егс = Л. Аналогично, выбирая го > 0 так, чтобы f была однозначной на диске радиуса го, можно поднять f до отображения /(г, в) = (г', 0') на универсальном накрытии, где f однозначно определена для 0 < г < го и всех в G Ж. Заметим, что г' ~г и 0' = 0 + с + о(1) при г \ О, где постоянная с, взятая из (16:1), обеспечивает корректный подъем отображения f. (Значит, можно непрерывно продолжить f над
200 Структура множества Фату [0; го) х Ж до параллельного переноса вида /(0, в) = (0, в + с), когда г = 0.) Нужно доказать, что с = 0. Предположим для определенности, что постоянная с строго положительна, и покажем, что это приводит к противоречию. Выберем постоянную г\ < го так, что отображение /(г, в) = (г', в1) удовлетворяет неравенству 0' > 0 + с/2, как только г ^ 7*1. Тогда выберем t\ так, что r(t) ^ г\, и, следовательно, 6(t + + 1) > 6(t) + с/2, как только t ^ t\. Кроме того, выберем д\ так, что 6(t) < д\ для t ^ t\. Теперь на (г, в)-плоскости рассмотрим связную область V, лежащую над прямой в = 0\, справа от прямой г = 0 и слева от кривой p[ti] ос). Отсюда легко следует, что f однозначно отображает V в себя, а также, что при ограничении итераций f на V координата г стремится к нулю. Значит, если W является образом V при проекции на плоскость переменной z, то W — окрестность нуля, и все орбиты в W стремятся к началу координат. Следовательно, нуль — притягивающая неподвижная точка, и |Л| < 1. ■ Ниже приведено совершенно равносильное утверждение, которое будет полезно в § 18. Пусть снова f является голоморфным отображением вида f(z) = Xz + CL2Z2 + CL3Z3 + ... в окрестности нуля. 16.3. Следствие. Предположим, чтор: [0; ос) —у V\{0} —путь, стремящийся к нулю, удовлетворяющий условию f(p(t)) = p(t — 1) для t ^ 1 (так, что точки этого пути удаляются от нуля). Тогда мультипликатор Л должен удовлетворять либо условию |Л| > 1, либо условию Л = 1. Доказательство. Поскольку орбита ... ь^р(2) н>р(1) ь^р(0) отталкивается от нуля, то мультипликатор Л не может равняться нулю. Следовательно, /_1 определено и голоморфно в окрестности нуля. Теперь справедливость 16.3 вытекает из применения леммы 16.2 к отображению g = /-1. ■ Доказательство теоремы 16.1. Напомним, что мы выше уже обсудили все случаи, кроме (Ь). Следовательно, нужно ограничиться рассмотрением компоненты связности
§ 16. Классификация Сулливана 201 множества Фату, отображающейся в себя посредством f таким образом, что все орбиты стремятся к граничной неподвижной точке w$. Выберем произвольную точку zo в U и произвольный путь р: [0; 1] —>• U из zo = р(0) в f(zo) = р(1). Продолжая этот путь на все t ^ 0 и полагая p(t+l) = f(p(t)), получим путь в U, сходящийся к граничной точке wo при t —>• оо. Значит, согласно лемме 16.2, неподвижная точка wo должна быть либо параболической с мультипликатором А = 1, либо притягивающей. Но wo принадлежит множеству Жюлиа и поэтому не может быть притягивающей. ■ Таким образом, получена классификация компонент связности множества Фату, отображающихся на себя посредством f. Существует абсолютно аналогичное описание циклически периодичных под действием f компонент связности множества Фату. В этом случае они являются просто компонентами связности множества Фату, которые неподвижны при некоторой итерации отображения f. Каждая из них является при этом (1) либо областью непосредственного притяжения некоторой притягивающей периодической точки; (2) либо областью непосредственного притяжения некоторого лепестка параболической периодической точки; (3) либо элементом цикла дисков Зигеля; (4) либо элементом цикла колец Эрмана. В случаях (3) и (4) топологический тип области U однозначно определяется этим описанием. Как отмечено в 8.7 и задаче 10-е, в случаях (1) и (2) U должна быть либо односвязной областью, либо областью с бесконечным числом компонент связности. Как установлено в § 10, существует не более, чем конечное число притягивающих областей и дисков Зигеля. Сулливан показал также, что существует не более, чем конечное число колец Эрмана, и, следовательно, всего существует только конечное число периодических компонент связности множества Фату. (Более точно, согласно Сиси- куре, существует не более, чем 2d —2 различных циклов периодических компонент связности множества Фату). Для того, чтобы дополнить эту картину, нужна следующая фундаментальная теорема, утверждающая, что не существует «блуждающих» компонент связности множества Фату.
202 Структура множества Фату 16.4> Теорема Сулливана об отсутствии блужданий. Каждая компонента связности U множества Фату рационального отображения f поглощается циклом. То есть существуют такие целые п ^ 0 и р ^ 1, что образ п-й итерации fon(U) отображается на себя посредством fop. Следовательно, каждая компонента связности множества Фату является прообразом множества одного из четырех вышеописанных типов для некоторой итерации f. Доказательство при помощи квазиконформной деформации схематично приведено в приложении F. (Ср. Сулливан 1985, Карлесон и Гамелен. Интуитивная идея может быть вкратце описана следующим образом. Если бы существовали блуждающие компоненты связности множества Фату, то, используя теорему Моррея, Альфорса и Берса об измеримости риманового отображения, можно было бы построить бесконечномерное пространство деформаций, каждая из которых была бы рациональным отображением одинаковой степени. Но пространство рациональных отображений фиксированной степени конечномерно.) Напомним, что в § Ц отображение f называлось посткритически конечным, если каждая его критическая орбита конечна. 16.5. Следствие. Если посткритически конечное рациональное отображение не имеет сверхпритягивающих периодических орбит, то его множество Жюлиа совпадает со всей сферой С. Согласно теореме 8.6 и следствию 10.11, оно не может иметь никаких притягивающих или параболических областей притяжения, и, согласно теореме 11.17 и лемме 15.7, оно не имеет никаких областей вращения. Ш В 19.8 будет дано более явное доказательство этого утверждения. (См. также задачу 16-е). Замечание о трансцендентных отображениях. Утверждения, аналогичные теоремам 16.1 и 16.4, могут не выполняться для итераций трансцендентного отображения f: С —>• С. В самом деле, тогда существуют два новых типа компонент связности множества Фату, не возникающих в случае рациональных отображений. В этом случае могут существовать блуждающие компоненты связности множества Фату (задача 16-с), и могут существовать инвариантные области U = = f(U) такие, что ни одна орбита в U не имеет ни одной точки накопления в конечной части комплексной плоскости. (Задача 16-d. Они
§ 16. Классификация Сулливана 203 известны как области Бейкера. Конечно, каждая орбита в U должна иметь точку накопления в С, но f имеет неустранимую особенность в бесконечной точке и, следовательно, существенно отличается от параболической точки.) Задачи Задача 16-а. Пределы итераций. Дайте следующую, более точную, формулировку определяющего свойства множества Фату С \ J рациональной функции. Покажите, что если V — связное открытое подмножество C\J, то множество всех пределов последовательных итераций fon\v при п —> оо является (1) либо конечным множеством постоянных отображений из V в притягивающую или параболическую периодическую орбиту, (2) либо компактным однопараметрическим семейством отображений, состоящее из всех композиций Rq о fok\v, с условием ко ^ к ^ ^ ко + р. Здесь fok° — некоторая фиксированная итерация со значениями в области вращения, принадлежащей циклу областей вращения периода р, a Rq — вращение этой области на угол в. Рис. 30. Множество Жюлиа для z \-> z2 — 1 + 0.1г. (Задача 16-Ь.) Задача 16-Ь. Подсчет компонент связности. Покажите, что если квадратичное полиномиальное отображение имеет притягивающую неподвижную точку или параболическую неподвижную точку с
204 Структура множества Фату ^ 7Ъ-^ ^~f- ГТГ -'«J;... .-4»- .©,'.. ^г*»'- Рис. 31. Множество Жюлиа для z \-> z+s'm2irz. (Задача 16-с.) Здесь, в отличие от всех других рисунков множеств Жюлиа, приведенных в этих лекциях, множество Жюлиа окрашено белым Рис. 32. Множество Жюлиа для z \-> z + ez — 1. (Задача 16-d.) мультипликатором А = 1, то существует единственная компонента связности множества Фату. (Рисунок 1а, 6, 20.) Покажите, что если это отображение имеет притягивающий цикл периода 2, то существуют три ограниченные компоненты связности, отображающиеся следующим образом: U± +* Uq <- U[, а все оставшиеся ограниченные
§ 16. Классификация Сулливана 205 компоненты связности — это итерированные прообразы U[, где каждое множество f~n(U[) состоит из 2п различных компонент. Найдите девять таких компонент на рисунке 30. Дайте соответствующее описание цикла притягивающих или параболических областей периода р (рисунки Id, 18) или для случая неподвижной точки Зигеля (рисунки 22, 24). Задача 16-с. Блуждающие области. Покажите, что трансцендентное отображение f(z) = z-\-sm27rz имеет одно семейство блуждающих областей {Un} с условием f(Un) = Un + l и одно семейство {Vn} с условием f(Vn) = Vn — 1. (Рисунок 31.) Задача 16-d. Области Бейкера. Покажите, что отображение f(z) = z + ez — 1 имеет вполне инвариантную область Бейкера U = = f~1(U). (Рисунок 32.) Задача 16-е. Итерации /-1. Пусть U С С — связное открытое множество, предположим, что существует гладкая ветвь gk : U —У С отображения f~k\rj для каждого k ^ 1. Покажите, что gk образуют нормальное семейство. Покажите, что если U содержит точку множества Жюлиа, то нормы \\Dgk\\ первых производных в сферической метрике равномерно стремятся к нулю. (В противном случае, некоторая подпоследовательность {gk} сходилась бы к некоторому непостоянному пределу g, и образ ^g{U) содержал бы отталкивающие периодические точки ...). (Ср. Любич 1986, стр. 62. Этот подход, восходящий к Фату, может быть использован для доказательства 16.5 без использования теоремы 16.4-)
Применение множества Фату к изучению множества Жюлиа § 17. Простые концы и локальная связность Теория «простых концов» Каратеодори является основным средством для установления взаимосвязей открытого множества на комплексной плоскости и его замкнутого дополнения. Пусть U — односвяз- ное подмножество С, имеющее бесконечное дополнение С \U. Теорема Римана об отображении утверждает, что существует конформный изоморфизм <ф: Ш) -=>U. В некоторых случаях ф продолжается до гомеоморфизма замкнутого диска Ш) на замыкание U. (Ср. рисунки 1а и 33а, а также теорему 17.16.) Однако в общем случае такое продолжение невозможно, поскольку граница dU может оказаться чрезвычайно сложным объектом. Например, на рисунке ЗЗЬ изображена такая область U, что одна из точек границы dU (имеющей счетное число торчащих наружу «шипов») соответствует канторовому множеству различных точек на окружности дИ). На рисунках 33с, 33d показаны примеры, для которых целые интервалы точек на dU соответствуют одной точке окружности. Здесь мы опишем эффективный анализ взаимосвязей компактного множества dU и граничной окружности дИ), который был сделан Каратеодори в 1913 году. Нахождение коротких дуг. Основная конструкция будет топологической, но сначала мы используем аналитический метод для доказательства нескольких результатов о существовании коротких дуг. Пусть I = (0, 8) — открытый интервал на вещественной прямой, и I2 С С — открытый квадрат, состоящий из всех z — х + гу, для которых х, у £ I. Предположим, что на I2 задана конформная метрика вида p(z)\dz\, где р: I2 —>• (0, оо), непрерывная, строго положительная, вещественнозначная функция. (Здесь не предполагается ее ограничен-
§ 17. Простые концы и локальная связность 207 с) d) Рис. 33. Границы четырех односвязных областей в С ностъ.) По определению площадью квадрата I2 в этой метрике называется интеграл Л= (p(x + iy))2dxdy, Л а длиной каждого горизонтального отрезка у = const — интеграл L(y) = р(х + iy)di IX. Нам также понадобится следующее утверждение (ср. приложение В.)
208 Применение множества Фату к изучению множества Жюлиа 17.1. Лемма. Неравенство длин-площадей. Если площадь А конечна, то длина L(y) конечна для почти всех значений у Е I, и выполняется неравенство | j{L(y)fdy ^ Л. (17 : 1) Доказательство. Применим неравенство Шварца в форме1 (/ f(x)g(x) dx\ ^ I / (f(x)fdx I I / (g(x)fdx I , (17 : 2) где fug — интегрируемые с квадратом, определенные на I, вещест- веннозначные функции. В нашем случае f(x) = 1 и g(x) = р(х + гу), откуда следует (L(y))2^S. J(p(x + iy))2dx. i Интегрируя это неравенство по у и деля его на 8, мы получаем требуемое неравенство (17:1). Если А конечно, то отсюда очевидным образом следует, что L(y) конечно для почти всех у Е /. ■ Для «большинства» значений у можно дать более точную оценку верхней границы. 17.2. Следствие. Множество S, состоящее из всех таких у Е I, для которых L(y) ^ V2A, имеет меру Лебега £(S) > 1(1)/2. Доказательство. Очевидно, SA> J(L(y))2dy> J (V2A)2dy + Jo = 2Al(I\S), I I\S S откуда и следует утверждение, поскольку £(1) = д. Ш 1Если f f2 = t2 f g2, где t > 0, то (17:2) может быть доказано манипулированием неравенством f(f±tg)2 ^> 0. Случай f f2 = 0 доказывается аналогично, надо устремить t к нулю.
§ 17. Простые концы и локальная связность 209 В качестве приложения рассмотрим следующее вложение г]: I2 A U С С. Перенеся сферическую метрику cU на I2, мы получим конформную метрику вида p(z)\dz\ на I2. (Ср. (2:4)-) Очевидно, что площадь Л квадрата I2 в этой метрике не превосходит 47Г — площади сферы С. 17.3. Следствие. Для такого вложения I2 naU С С почти каждый горизонтальный отрезок у = const в I2 отображается в кривую конечной длины в сферической метрике, и множество отрезков, у которых образы имеют сферическую длину не больше, чем \[%А, имеет меру Лебега больше 1/2. Здесь Л — сферическая площадь области U. Аналогичное утверждение выполняется и для вертикальных отрезков х = const. Доказательство очевидно. ■ Рассмотрим теперь открытое односвязное множество U С С с бесконечным дополнением и фиксируем некоторый конформный изоморфизм ф:В->и. 11.4. Теорема (П. Фату, М. Рисе, Ф.Рисс). Для почти всех точек егв окружности дШ радиальные линии г н-» гегв отображаются при ф в кривые конечной сферической длины на U. В частности, радиальный предел Ктф(ге*в) edU существует для почти всех в в смысле меры Лебега. Однако, если зафиксировать любую точку щ G 8U, то множество таких в, для которых этот радиальный предел равен щ, имеет нулевую меру Лебега. Мы будем говорить для краткости, что почти каждая кривая г \-^ ф(гегв) в U достигает границу в некоторой точке из 8U, и что различные значения в почти всегда соответствуют различным достижимым точкам. Замечание 23. * Фату показал в своей диссертации, что любая ограниченная голоморфная функция на Ш) имеет радиальные пределы почти во всех направлениях, независимо от того, однозначна она или
210 Применение множества Фату к изучению множества Жюлиа нет. (См., например, Хоффман, стр 38.) Однако здесь нам потребуются только однозначные функции, для которых этот факт устанавливается проще, чем в общем случае. Доказательство теоремы 17.4. Первая ее часть легко вытекает из 17.3 следующим образом: пусть Ш~ — левая полуплоскость, состоящая из всех точек х + гу Е С при х < 0. Отобразим Ш~ на Ш) \ {0} экспоненциальным отображением х + iy \-> ехегу. Тогда квадрат -2тг <х < 0, О^у <2тг в Ш~ отображается при ф о ехр на окрестность границы в U. Почти каждая полупрямая у = const в Ш~ отображается на кривую конечной сферической длины, которая, следовательно, имеет корректно определенный предел при х /* 0. Если U = ф(Ш) ограничено в С, то сформулированная в § 11 и доказанная в приложении А (теорема А.З.) теорема Ф.Рисса и М.Рисса утверждает, что любой наперед заданный радиальный предел может быть получен только на множестве направлений егв, имеющем нулевую меру. Рассмотрение любого однозначного отображения ф можно следующим образом за два шага редуцировать к ограниченному случаю. Сначала предположим, что образ ф(Ш) = U не содержит целую окрестность некоторой точки zo Е С. Тогда при композиции ф и дробно-линейного отображения, переводящего zo в ос, образ оказывается ограниченным. В общем случае в образе ф(Щ не содержатся, по меньшей мере, две точки, в качестве которых можно взять 0 и ос. Тогда л/ф может быть определен как однозначная функция, образ которой не содержит целое открытое множество, и мы сводим наши рассмотрения к предыдущему случаю. ш Приведем топологическое дополнение этого результата. (Ср. рисунок 37, где U выбрано вне С\К.) 17.5. Лемма. Если две различные кривые г\-^ф(гегв1) и г\-^ф(гегв2) достигают границу в одной и той же точке щ G 8U, то эта точка разбивает границу U. Доказательство. Эти две кривые вместе с их достижимым концом образуют жор- данову кривую Г, которая разделяет сферу С на две компоненты связности. Аналогично, углы в\ и $2 разбивают окружность M/27rZ на два
§ 17. Простые концы и локальная связность 211 соответствующих связных интервала. В частности, почти все углы из одного из этих интервалов соответствуют кривым, которые достигают границу в одной компоненте связности С \ Г, и почти все углы другого интервала соответствуют кривым, которые достигают границу на другой компоненте связности. Поскольку достижимые точки принадлежат связному множеству dU, и отделяющая кривая пересекает dU только в точке щ, отсюда следует, что и точка щ разделяет dU. ш Простые концы. Далее мы опишем несколько конструкций, которые зависят только от топологии пары (U, 8U) и не зависят от конформной структуры. Мы по-прежнему будем предполагать, что U — односвязное открытое подмножество сферы С, и что dU состоит более, чем из одной точки. Определение 21. * Назовем сечением (или «трансверсальной дугой») пары (t/, dU) подмножество А С U, которое гомеоморфно открытому интервалу (О, 1), а его замыкание А гомеоморфно замкнутому отрезку, у которого только две граничные точки лежат в dU. Отметим, что примеры таких сечений строятся очень легко. Например, отправляясь от любого короткого отрезка в U, можно продолжать его в обе стороны до тех пор, пока он не пересечет границу. 17.6. Лемма. Любое сечение А разбивает U на две компоненты связности. Доказательство. Фактор-пространство U/dU, полученное склеиванием всей границы в точку, очевидным образом гомеоморфно двумерной сфере. Поскольку А соответствует в этом фактор-пространстве жордановой кривой, утверждение леммы вытекает из теоремы Жордана. (Ср., например, Манкрес.) ■ Каждая из двух компонент связности U \ А будет для краткости называться подобластью N С U. Отметим, что сечение А можно восстановить по такой его подобласти N, поскольку А = N C\U \N и А = ~AnU. Основное определение. Фундаментальной цепью J\f = {Nj} в U будет называться последовательность NiD N2D N3D ...
212 Применение множества Фату к изучению множества Жюлиа вложенных подобластей Nj С U таких, что замыкания Aj соответствующих сечений Aj = U П dNj попарно не пересекаются, и диаметры этих замыканий Aj стремятся к нулю при j —>• ос (в сферической метрике). Две фундаментальные цепи {Nj} и {N^} считаются эквивалентными, если каждая подобласть N'k содержит некоторую подобласть Nj, и наоборот, каждая подобласть Nj содержит некоторую подобласть N'k. Класс эквивалентности 8 фундаментальных цепей называется простым концом пары (U, dU). Существует целый ряд вариаций этого основного определения. (Ср. Альфорс 1973, Д. Эпштейн, Отсука.) Настоящая версия весьма близка к авторской конструкции Каратеодори. Отметим, что только от сечения Aj требуется малость размеров при j —>• оо. В таких примерах, как на рисунках 33с и 33d, подобласть Nj может вполне иметь диаметр, отграниченный от нуля. Определение 22. * Пересечение замыканий Nj С U называется телом фундаментальной цепи {Nj} или телом простого конца 8, соответствующего этой цепи. 17.7. Лемма. Для любой фундаментальной цепи {Nj} пересечение открытых множеств Nj пусто. Однако тело простого конца C\Nj является непустым компактным связным подмножеством dU. Доказательство. Покажем, что для любого z Е U найдется такое j, что z (fc Nj. Действительно, выберем точку zo Е U \ N± и путь Р С U, соединяющий zo с z. Обозначим расстояние от компактного множества Р до dU через д. Если j настолько велико, что диаметр Aj меньше д, то, очевидно, Aj П Р = 0, поэтому Aj не может отделять zo от z. Поскольку zo (£ Nj, то и z £ Nj. Значит, C\Nj является подмножеством dU. Очевидно, что это множество компактно и непусто. Доказательство его связности см. в задаче 5-Ь. Ш Это тело простого конца может состоять из единственной точки zo G dU, как на рисунках 33а и ЗЗЬ. В этом случае мы говорим, что {Nj} или 8 сходится к точке zq. Очевидно, что тело простого конца состоит из единственной точки тогда и только тогда, когда диаметр Nj стремится к нулю при j —>• оо. Однако в таких примерах, как на рисунках 33с и 33d (также, как и в задаче 5а и рисунках
§ 17. Простые концы и локальная связность 213 34, 36), тело простого конца может оказаться и нетривиальным континуумом. Заметим также, что два различных простых конца могут сходиться к одной и той же точке (рисунки ЗЗЬ, 33с) или, более общо, иметь одинаковое тело. Мы будем говорить, что две фундаментальные цепи {Nj} и {Nk} являются непересекающимися в пределе, если Nj П N'k = 0 при достаточно больших j и к. 17.8. Лемма. Любые две фундаментальные цепи {Nj} и {Nk} в U либо эквивалентны, либо не пересекаются в пределе. Доказательство. Если Nj C\Nk ф 0 при всех j и к, то мы покажем, что для каждого j найдется такое к, что Nj D N'k. Сначала мы покажем, что каждое сечение А'к при достаточно больших к пересекает окрестность A^+i- Фактически мы предположили, что каждая подобласть N'k пересекается с iVj+i. Поскольку C\Nk = 0, из леммы 17.7 следует, что дополнение U \ N'k также должно пересекаться с Nj+\ при больших к. Из связности Nj+i следует, что общая граница А'к должна пересекаться с A^+i- Если бы ни одна из подобластей N'k не содержалась бы в Nj, то каждая такая подобласть N'k пересекалась бы с дополнением U \ Nj. Тогда, рассуждая в точности так же, как и выше, можно было бы показать, что Ак должно было бы пересекаться с U\Nj при больших к. Но если Ак пересекается и cU\Nj, и с Л^+ъ то оно должно пересекаться и с обоими множествами Aj и Aj+\. Следовательно, его диаметр не должен быть меньше, чем расстояние между Aj и Aj+\. Это противоречит предположению о том, что диаметр А'к стремится к нулю, что и завершает доказательство. ■ Теперь мы объединим топологические и аналитические рассужде- ния и вернемся к изучению конформного изоморфизма ^:В^[/сС. 17.9. Основная Лемма. Для любой наперед заданной точки егв на единичной окружности дШ существует фундаментальная цепь {Nj} в Ш, сходящаяся к егв и отображающаяся при ф в фундаментальную цепь {ip(Nj)} в U. Доказательство. Нам надо построить N± D N2 D ... в Ш, сходящуюся к егв так, что ассоциированные сечения Aj отображаются в сечения U, у которых замыкания попарно не пересекаются, а диаметры стремятся к нулю.
214 Применение множества Фату к изучению множества Жюлиа Как и в доказательстве теоремы 17.4, мы рассмотрим экспоненциальное отображение ехр: Ш~ —>• Ш) \ {0}, где Ш~ — левая полуплоскость. Фактически мы будем строить в Ш~ подобласти Щ, сходящися к граничной точке гв, а потом будем отображать их в Ш) экспоненциальным отображением. Каждая подобласть Щ будет открытым прямоугольником -€ < X < О, С\ < у < С2 в Ш~. Поэтому соответствующее сечение А'- С Ш~ будет состоять из трех сторон этого прямоугольника, и его концы будут располагаться в точках 0+z'ci и О+гсг в дШ~. Эта конструкция проводится индуктивно. Для заданных N[, ... , Nj_1 выберем настолько маленькое 8 < 1/j, что квадрат Ss, определяемый неравенствами -25^х<0, 0-д^у^О + д, содержится в Щ_г. Отобразим S$ eU посредством ipoexp и обозначим через As площадь полученного образа в сферической метрике. Очевидно, величина этой площади стремится к нулю при д —>• 0. С помощью 17.2 подберем постоянные с\ и с2 так, чтобы 0-5<с1<в<с2<0 + 5 и чтобы горизонтальные отрезки у = с& в Ss отображались на кривые, длины которых не превосходят у/2As в U С С Это условие гарантирует, что достижимые точки образов таких отрезков в U корректно определены в 8U при ж / 0. Мы должны также позаботиться о том, чтобы эти достижимые точки отличались и друг от друга, и от конечных точек сечений ф о exp(Ah) при h < j. Однако, ввиду теоремы 17.4, это не доставляет никаких дополнительных трудностей. И, наконец, мы должны выбрать вертикальный отрезок х = — е внутри Ss, также отображающийся на кривую длины ^ у/2АЦ в U. Полагая Щ = {-е, 0)x(ci, С2)СШГ, мы завершаем индуктивное построение. С помощью экспоненциального отображения в Ш) мы получаем требуемую подобласть 7Vj=exp(7Vj)cID). ■ Обратный изоморфизм ф~х: U —У Ш) устроен гораздо лучше.
§ 17. Простые концы и локальная связность 215 17.10. Следствие. Любой путь р: [О, 1) —>• U, достигающий границу 8U в корректно определенной точке, отображается при ф~х в путь на диске Ш, достигающий границу дШ в корректно определенной точке. Более того, пути, у которых достижимые точки на 8U различны, отображаются в пути, у которых достижимые точки на дШ также различны. Доказательство. Пусть егв Е дШ — любая точка накопления пути t н-» ф~х о p(t) при t /* 1. Выберем некоторую фундаментальную цепь {Nj}, сходящуюся к егв, как в лемме 17.9, так, чтобы ее образ при ф был фундаментальной цепью в U. Нам надо доказать, что ф~х о p(t) Е Nj при всех t, достаточно близких к единице. В противном случае, для некоторого jo мы могли бы найти сходящуюся к единице последовательность точек tj, для которой ф~х о p(tj) £ Nj0. Поскольку егв является точкой накопления пути ф~х ор в Ш, из этого следовало бы, что при t /* 1 этот путь должен проходить через оба сечения Aj0 и AjQ+i бесконечное число раз. Следовательно, образ пути р: [О, 1) —У U должен проходить как через ^(Aj0), так и через ^(A^+i) бесконечно много раз. Однако расстояние между этими сечениями в U строго положительно, а это противоречит предположению о сходимости p(t) при t /* 1. Если пути р: [О, 1) —>• U и q: [О, 1) —>• U имеют различные достижимые точки на границе 8U, а их образы ф~х ори ф~х о q имеют одну и ту же достижимую точку на границе дИ), то для цепи {Nj}, определенной, как и выше, при больших j каждое сечение Aj будет пересекать как ф~х ор, так и ф~х о q. Значит, образ сечения ^{Aj) С U будет пересекать up, и q. Поскольку при j —>• ос диаметры i^(Aj) стремятся к нулю, в то время как точки пересечения с р и с q стремятся к различным точкам границы, мы приходим к противоречию. Ш 17.11. Следствие. Каждая фундаментальная цепь {N^} в U отображается при ф~х: U —У Ш) в фундаментальную цепь {ф-\Щ)}вШ. Доказательство. Из 17.10 следует, что каждый ij)~1{N'k) является подобластью в Ш) и что замыкания ассоциированных сечений ф~1(А'к) попарно не пересекаются. Нам надо доказать, что диаметр ф~1(А'к) стремится к нулю при к —>• оо. Выберем некоторую точку накопления егв Е дШ этих множеств ф~1{А'к) и фундаментальную цепь {Nj} в Л), которая схо-
216 Применение множества Фату к изучению множества Жюлиа дится к егв и отображается в фундаментальную цепь {i/>(Nj)} в U. Тогда Nj П %j)~1(N'k) ф 0, следовательно, i/>(Nj) П N'k ф 0 при всех j и к. Поэтому, согласно лемме 17.8, две фундаментальные цепи {^{Nj)} и {N'k} в U эквивалентны. Отсюда следует, что каждая Nj содержится в некотором ij)~1{N'k). Диаметр всей подобласти Nj очевидным образом стремится к нулю при j —>• оо? откуда и следует утверждение. Ш Из леммы 17.9 и из 17.11 легко следует, что ф индуцирует взаимно однозначное соответствие между простыми концами в Ш) и простыми концами в U. Более того, тело любого простого конца в Ш) состоит из одной точки дШ, и каждая точка дШ является телом одного и только одного простого конца. Эти факты можно сформулировать следующим, более ясным, образом. Определим компактификацию Каратеодори U множества U как несвязное объединение U и его простых концов с топологией, задаваемой следующим образом. Для любой подобласти N С U пусть N С U является объединением самого множества N и набора всех простых концов 8, представленных фундаментальными цепями {Nj}, такими, что Nj С N. Эти окрестности N вместе с открытыми подмножествами U образуют базис требуемой топологии. 17.12. Теорема. Компактификация Каратеодори Ъ открытого диска канонически гомеоморфна замкнутому диску Ш). Более того, любой конформный изоморфизм ф: Ш) —>• U С С однозначно продолжается до гомеоморфизма из Ш) или Ш) на U. Доказательство несложно и предоставляется читателю. Ш Локальная связность. Хаусдорфово топологическое пространство X называется локально связным, если выполняется следующее условие: (г) Каждая точка х G X имеет сколь угодно малые связные (необязательно открытые) окрестности. Другие, эквивалентные, условия могут быть сформулированы следующим образом. 17.13. Лемма. Пространство X локально связно тогда и только тогда, когда (ii) каждая точка х G X имеет сколь угодно малые связные открытые окрестности или (iii) каждое открытое подмножество в X является объединением связных открытых подмножеств.
§ 17. Простые концы и локальная связность 217 Если X является метрическим компактом, то это эквивалентно следующему условию. (iv) Для каждого е > О существует такое 8 > О, что каждые две 8-близкие точки содержатся в связном подмножестве X с диаметром, не превосходящим е. Доказательство. Легко проверить, что (iv) => (i) => (iii) => (ii) => (i). Чтобы показать, что (ii) => (iv)? обозначим через {Ya} какой-либо набор открытых множеств диаметра меньше е, и пусть 8 — минимальное из всех расстояний dist(#, у) по всем (ж, у), принадлежащим компактному множеству (X х Х)\ U(Ya х Ya), здесь 8 > 0, согласно (ii). ■ Замечание 24- * Иногда бывает важно ограничиваться изучением такого круга вопросов в окрестности одной точки х Е X. Здесь нет общепринятой терминологии, но представляется разумным называть пространство X локально связным в точке х, если условие (г) выполнено в окрестности точки х, и открыто локально связным в точке х, если выполнено условие (и). Различие этих понятий обсуждается в задаче 17-Ь. 11.Ц. Теорема Каратеодори. Конформный изоморфизм ф: Ш) —> U С С продолжается до непрерывного отображения замкнутого диска Ш) на U тогда и только тогда, когда граница 8U локально связна, или тогда и только тогда, когда дополнение C\U локально связно. Доказательство. Мы покажем, что если 8U или С \ U локально связны, то для каждой фундаментальной последовательности {Nj} в U тело соответствующего простого конца C\Nj состоит из единственной точки. Отсюда уже легко следует, что ф непрерывно продолжается на всю границу диска Ш). Для е и 8 таких, как в лемме 17.13 (iv), выберем j настолько большим, что сечение Aj = U П dNj имеет диаметр меньше 8. Тогда конечные точки Aj удалены друг от друга на расстояние не больше 8, и поэтому содержатся в компактном связном множестве Y С С \ U диаметра меньше е. Тогда компактное множество YuAj С С отделяет Nj omU\Nj. В противном случае можно было бы выбрать некоторую гладко вложенную дугу А' С С, непересекающуюся cYuAj и соеди-
218 Применение множества Фату к изучению множества Жюлиа няющую некоторую точку х Е Nj с точкой у Е U \Nj. Объединив А' с подходящей дугой А" С U, также соединяющей х и у и пересекающей сечение Aj в одной точке, мы получаем жорданову кривую A' U А", которая отделяет две конечные точки Aj. Значит, она разделяла бы и Y, что невозможно, ввиду связности Y. Это компактное множество Y U Aj имеет диаметр меньше е + + 8. Если е + 8 < к /2, то одна из компонент связности дополнения C\(YuAj) целиком содержит некоторую полусферу, в то время как все остальные компоненты связности должны иметь диаметры меньше е+ + 8. Если е + 8 также меньше диаметра U \N\, то U \ Nj должна содержаться в большей компоненте С\ (YuAj), и поэтому Nj должна иметь диаметр меньше е + 8. Поскольку е и 8 могут быть выбраны сколь угодно малыми, этим доказано, что тело простого конца C\Nj может состоять только из одной точки. Из леммы 17.9 легко следует, что ф непрерывно продолжается на всю границу дИ). Для доказательства обратного утверждения нам потребуется следующая лемма. Будем считать, что все рассматриваемые нами топологические пространства хаусдорфовы. 17.15. Лемма. Если f — непрерывное отображение компактного, локально связного пространства X на хаусдорфово пространство Y, то Y также компактно и локально связно. Доказательство. Этот образ f(X) = Y, конечно же компактен. Для любой точки у Е F и открытой окрестности N С Y рассмотрим компактный прообраз /_1(у) С X с открытой окрестностью /_1(7V). Пусть {Va} — семейство всех связных открытых подмножеств в /_1(7V)? которые пересекают f~1(y). Тогда объединение Uf(Va) является связным подмножеством в N. Оно также является окрестностью точки у, поскольку содержит открытую окрестность Y \ f (X \ UVa) этой точки. Ш Продолжим доказательство теоремы 17.Ц- Если ф непрерывно продолжается до ф: Ш) —>• U, то ф отображает окружность дШ на 8U, и поэтому 8U локально связна. Нам надо доказать, что C\U также локально связно. Здесь достаточно рассмотреть всю ситуацию только в окрестности точки zo G dU, поскольку C\U, очевидно, локально связно вдали от границы dU. Выберем в dU произвольную маленькую окрестность N точки zo и такое маленькое е, что пересечение dU и шара радиуса е с центром в z содержится в N. Объединение N и этого
§ 17. Простые концы и локальная связность 219 шара радиуса е с центром в z внутри C\U и есть требуемая маленькая связная окрестность. ■ Объединяя эту теорему с леммой 17.5, мы получаем следующее утверждение. 17.16. Теорема. Если граница 8U является жордановой кривой, то ф: Ш) —>• U продолжается до гомеоморфизма замкнутого диска Ш) и замыкания U. Доказательство. Если 8U — жорданова кривая, то есть гомеоморфный образ окружности, то, согласно теореме 17. Ц, мы, конечно, получим непрерывное продолжение ф: Ш) —>• U. Поскольку жорданова кривая не может быть разделена одной точкой, из леммы 17.5 следует, что это продолжение взаимно однозначно и поэтому является гомеоморфизмом. Ш Определение 23. * Пространство X называется линейно связным, если существует непрерывное отображение единичного отрезка [О, 1] в X, соединяющее любые две наперед заданные разные точки; оно называется дугообразно связным, если существует топологическое вложение отрезка [О, 1] в X, соединяющее любые две такие точки. Оно называется локально линейно связным, если каждая точка имеет сколь угодно малые линейно связные окрестности. В завершение этого параграфа мы приведем доказательства двух хорошо известных результатов. Вообще говоря, связное пространство не обязано быть линейно связным (рисунок 33d), однако, имеет место следующее утверждение. 17.17. Лемма. Если компактное метрическое пространство X локально связно, то оно локально линейно связно. Отсюда легко следует, что каждая компонента связности такого пространства линейно связна. Более того, имеет место 17.18. Лемма. Если хаусдорфово пространство линейно связно, то оно и дугообразно связно. Доказательство леммы 17.17. Пусть X — метрический локально связный компакт. Согласно лемме 17.13, для любого е > О можно выбрать последовательность чисел 8п > 0 такую, что любые две точки, удаленные друг от друга не
220 Применение множества Фату к изучению множества Жюлиа больше, чем на 8п, содержатся в связном множестве диаметра меньше, чем е/2п. Докажем, что любые две точки х(0) и х(1), для которых dist(#(0), x(l)) < So, могут быть соединены путем, диаметр которого не превосходит 4г. План доказательства будет следующим. Мы выберем по индукции последовательность знаменателей 1 = ко < к\ < &2 < • • •, каждый из которых является делителем следующего. Для каждой дроби вида m/kn Е (0, 1) мы выберем промежуточную точку х(т/кп), удовлетворяющую следующему условию. Если \т/кп — j/fcn+i| ^ l/fcn? то расстояние между х(т/кп) и x(j/kn+i) должно быть меньше е/2п. Более того, расстояние между х(т/кп) и х((т + 1)/кп) должно быть меньше 5п. Далее построение идет по индукции. Для данных х(т/кп) и х((т + + 1)/кп) выберем некоторое связное множество С, содержащее обе эти точки и имеющее диаметр меньше, чем е/2п. Точки х(т/кп) и х((т + + 1)/кп) могут быть соединены внутри С такой конечной цепью точек, что расстояния между соседними точками в цепи будут меньше £n+i. Подходящим образом выбирая кп+\ достаточно большим кратным кп, очевидно, можно выбрать из этой цепи требуемые точки x(j/kn+i) для т/кп < j/fcn+i < (m+l)/kn, при необходимости допуская в этой последовательности и повторения. Значит, можно предполагать, что х(г) определены по индукции для плотного множества рациональных чисел г = т/кп из единичного отрезка. Далее докажем, что это определенное на плотном множестве точек соответствие г и-» х(г) равномерно непрерывно. Пусть гиг' — два рациональные числа, для которых х(г) и х(г') определены. Если \г — r'\ ^ 1/кп, то можно выбрать такое т/кп, что бы обе разности \г — т/кп\ и \г' — т/кп\ не превосходили 1/кп. Легко проверить, что dist (ж(г), х(т/кп)) < е/2п + г/2п+1 + ..., аналогичное неравенство выполняется и для х(г'). Значит, dist(x(r), x(r')) < 4е/2п. Этим доказана равномерная непрерывность; и отсюда вытекает единственность непрерывного продолжения t н-» x(t), определенного для всех t G [0, 1]. Таким образом, точки х(0) и х(1) соединяются путем, диаметр которого не превосходит 4г. Значит, пространство X локально линейно связно, что и требовалось. Ш Доказательство леммы 17.18. Пусть f = /о • [0, 1] —>• X — произвольный непрерывный путь, для которого /(0) ф /(!)• Нужно построить вложенную дугу А С X из
§ 17. Простые концы и локальная связность 221 /(0) в /(1). Выберем замкнутый отрезок 1\ — [а±, Ь±] С [0, 1], длина которого 0 ^ i(h) = Ь± — а± < 1 максимальна при условии f(a\) = f(b\). Далее, среди всех отрезков, содержащихся в [0, 1] и не пересекающихся с 1\, выберем отрезок h = [аг, Ьг] максимальной длины и такой, что /(аг) = /(Ьг). Продолжая процесс по индукции, мы строим попарно не пересекающиеся отрезки, имеющие максимальные длины 1(h) ^ ^№) ^ ... ^ 0, и такие, что функция f принимает одинаковые значения на границе каждого такого отрезка Ij. Пусть а: [0, 1] —У X — единственное отображение, принимающее постоянное значение a(Ij) = f(dlj) на каждом из этих замкнутых отрезков Ij и совпадающее с f вне этих отрезков. Тогда легко проверить, что а непрерывно, и для каждой точки х Е «([0, 1]) прообраз а~х(х) С [0, 1] является замкнутым (возможно вырожденным) отрезком вещественной прямой. Заметим, что на образе А = а ([О, 1]) С X можно ввести отношение порядка <С следующим образом: a(s) <С a(t) тогда и только тогда, когда a(s) и a(t) не совпадают, и s < t. Гомеоморфизм g отрезка [О, 1] и множества А строится следующим образом. Выберем счетное плотное подмножество {t±, £25 •••} в открытом интервале (О, 1) и счетное плотное подмножество {ai, «2, ...} в А, не содержащее крайних точек а(0) и а(1). Построим взаимно-однозначное соответствие т \-> j(m) no индукции: Пусть j(l) — \, и j(2), ... , j(m — 1) уже выбраны. Положим j(m) равным наименьшему положительному целому числу, отличному от j(l), j(2), ... , j(m — 1), для которого выполнено условие th < tm ^=> CLj(h) ^ aj{m) при h < т. Тогда требуемый гомеоморфизм g: [О, 1] —>• А, по определению, ставит в соответствие каждому дедекиндову сечению в {tm} соответствующее дедекиндово сечение в {a,j} так, что g(tm) = а^(ш) и t<tm<^>g(t) <g(tm). Задачи Задача 17-а. Пусть ф: Ш) —>• U такое, как и в лемме 17.9, и pt: [О, 1) —>• U — однопараметрическое семейство путей в U, которые определяют одну и ту же достижимую точку на dU. Покажите,
222 Применение множества Фату к изучению множества Жюлиа что все пути ф 1 о pt достигают окружность <91В) в одной и той же точке. Задача 17-Ь. Пусть X С С — компактное связное множество, полученное из отрезка [О, 1] добавлением прямолинейных отрезков, соединяющих точку 1 с точками (1 + i/n)/2 при п = 1, 2, 3, ..., и добавлением образов этой конфигурации при гомотетии z и-» z/2. (См. рисунок 34-) Покажите, что X локально связно в нуле, но не является открыто локально связным. Рис. 34. Ведьмино помело § 18. Полиномиальная динамика, внешние лучи Напомним для начала некоторые определения из § 9. Пусть f: С —> С — нормированный многочлен степени п ^ 2 f(z) = zn + an-xz71'1 + ... + axz + a0. Тогда f имеет суперпритягивающую неподвижную точку в бесконечности. В частности, нетрудно подобрать такую постоянную Cf, чтобы каждая точка z в окрестности \z\ > Cf бесконечности принадлежала области притяжения si (об). Дополнение к этой области si (ос), то есть множество всех точек z G С с ограниченными орбитами {f°^(z)}, j ^ 0, называется заполненным множеством Жюлиа К = K(f). Это заполненное множество компактно и состоит из самого множества Жюлиа J(f) и ограниченных компонент его дополнения C\J, если такие найдутся. Все эти ограниченные компоненты дополнения односвяз- ны. Множество Жюлиа J совпадает с топологической границей дК. В этом параграфе мы будем предполагать, что выполнено следующее
§ 18. Полиномиальная динамика, внешние лучи 223 Основное Предположение. Множество Жюлиа J связно, или, что эквивалентно, заполненное множество Жюлиа К связно. Тогда, согласно теореме 9.5, дополнение С\К конформно изоморфно С \ Ш) при изоморфизме Бётхера ф: С\К АС\Р, относительно которого всюду вне К отображение f сопряжено возведению в п-ю степень w \-^ wn вне замкнутого единичного диска. При этом ф(г) при больших \z\ асимптотически ведет себя, как тождественное отображение. Функция G: С —> Ж, определенная следующим образом Г In |0(^)| > 0 при ze£\K b[z) - \ о при zeK, называется функцией Грина множества К. (Ср. 9.6.) Отметим тождество G(f(z)) = nG(z). Каждый прообраз G_1(c) = {z | G(z) = с} при с > О называется эквипотенциальной кривой в окрестности заполненного множества Жюлиа К. Заметим, что f отображает каждую эквипотенциальную кривую G_1(c) на кривую G-1^^ посредством п-листного накрытия. Ортогональные траектории {z\ arg(</>(2:)) = const} семейства эквипотенциальных кривых называются внешними лучами множества К. Обозначим через Rt С С \ К внешний луч с углом t, где угол теперь будет определяться как дробная часть полного поворота t Е Ж/Ъ. По определению, Rt является образом полупрямой re2nlt Е С \ Ш)? г > 1 при обратном изоморфизме Бётхера ф~х. Отметим тождество f(Rt) = Rnt- В частности, если угол t Е Ж/Ъ является периодическим при умножении на п, то и луч Rt является периодическим. Например, если npt = £(modZ)? то итерация fop отображает луч Rt на себя. Рассмотрим теперь предел 7(*) = Итф-^ге2™*). г\1
224 Применение множества Фату к изучению множества Жюлиа Рис. 35. Множество Жюлиа для «кролика Дуади» z \-> z2 — 0,12256 + 0,74486г. На верхней фигуре обозначены некоторые эквипотенциальные кривые вида G = 2nGo. На нижней фигуре показано несколько периодических и предпе- риодических внешних лучей
§ 18. Полиномиальная динамика, внешние лучи 225 Если этот предел существует, будем говорить, что луч Rt заканчивается в точке j(t), которая с необходимостью принадлежит множеству Жюлиа J = дК. 18.1. Лемма. Если луч Rt заканчивается в точке j{i) множества Жюлиа, то луч Rnt заканчивается в точке j{nt) = f{j{t)). Кроме того, каждый из п лучей вида R(t+jyn заканчивается в одной из точек f_1{j{t)), и каждая точка в f_1{j{t)) является концевой для хотя бы одного такого луча. Доказательство. Если z Е J не является критической точкой, то f отображает окрестность N этой точки z диффеоморфно на окрестность N' точки f(z), переводя луч RSC\N в RnsnNf. Значит, если Rs заканчивается в точке z, то Rns заканчивается в f(z), в то же время, если Rt заканчивается в f(z), то для некоторого s, единственным образом предста- вимого в виде (t + j)/n, луч Rs должен заканчиваться в точке z. Если z является критической точкой, то рассуждения проводятся аналогичным образом, только в этом случае N отображается на Nf посредством разветвленного накрытия так, что каждый луч, заканчивающийся в точке f(z), накрывается двумя или более лучами, заканчивающимися в точке z. Ш В частности, если периодический луч Rt с периодом р ^ 1 заканчивается в точке j(t), то эта точка j(t) является периодической для отображения f, и ее период является делителем р. Фату показал, что большинство лучей заканчивается, а братья Рис показали, что различные углы обычно соответствуют различным концевым точкам лучей. Более точно, применяя теорему 17.4 к области притяжения бесконечной точки si {об) С С, мы получаем следующее утверждение. 18.2. Теорема. Большинство лучей закапчивается. Для почти каждого, в смысле меры Лебега, t G Ж/Z луч Rt определяет единственную концевую точку j{i) G J{f)- Для каждой неподвижной точки zo G J{f) множество таких t, для которых j{i) = zo, имеет меру нуль. Очевидно, что не все лучи являются заканчивающимися. Используя результаты Каратеодори, можно сформулировать точный критерий.
226 Применение множества Фату к изучению множества Жюлиа 18.3. Теорема. Критерий заканчиваемости. Для любого отображения f, у которого множество Жюлиа связно, следующие четыре условия эквивалентны. • Каждый внешний луч Rt заканчивается в точке y(t), непрерывно зависящей от угла t. • Множество Жюлиа J локально связно. • Заполненное множество Жюлиа К локально связно. • Обратный изоморфизм Бётхера ф~х: С \ Ш) —У С\К непрерывно продолжается на границу дИ), отображая e2nlt Е дИ) на j(t) Е J(f)- Кроме того, если эти условия выполнены, полученное отображение j: Ж/Ъ —у J(f) удовлетворяет тождеству полусопряжения 7(nt) = /(7(*)) и отображает окружность Ж/Ъ на множество Жюлиа J(f). Определение 24. * Это отображение j из Ж/Ъ на J будет называться полусопряженностью Каратеодори, ассоциированной с локально связным полиномиальным множеством Жюлиа J. Доказательство теоремы 18.3. Предположим сначала, что j: Ж/Z —>• J определено и непрерывно. Тогда образ ^(Ж/Ъ), очевидно, является непустым компактным подмножеством в J. Начиная с произвольной точки 7(0) в этом образе, с помощью леммы 18.1 по индукции можно убедиться в том, что все ее итерированные прообразы также лежат в ^(Ж/Ъ). Поэтому из 4-Ю следует, что образ j(R/Z) совпадает со всем множеством Жюлиа J, и, согласно лемме 17.15, J локально связно. Оставшиеся утверждения теоремы 18.3 немедленно следуют из теоремы Каратеодори 17. Ц, примененной к конформному изоморфизму С \ Ш) —У С\К. ш Замечание 25. * A priori может случиться так, что каждый внешний луч может заканчиваться даже в том случае, когда К не является локально связным. Таким свойством обладает, например, показанное на рисунке 36 компактное множество «симметричный гребень», которое не является заполненным множеством Жюлиа. Оно состоит из отрезков [—1, 1] х {±сп} для с = 0,75 и из осей [—1, 1] х {0} и {0} х [— — 1, 1]. Очевидно, что в таком примере соответствующая зависимость t \-> j(t) не может быть непрерывной. Приведем еще один результат, который немедленно следует из теоремы Каратеодори 17.14-
§ 18. Полиномиальная динамика, внешние лучи 227 Рис. 36. Симметричный гребень 18.4> Следствие. Простые замкнутые кривые. Множество Жюлиа J является простой замкнутой кривой тогда и только тогда, когда j гомеоморфно отображает Ж/Ъ на J. См. примеры на рисунках 1а, 6, 10, 20. Следующий фундаментальный результат принадлежит Сулливану и Дуади. (Сулливан 1983, см. также Любич 1986, стр. 62.) 18.5. Теорема. Локально связные множества Жюлиа. Если множество Жюлиа J полиномиального отображения f локально связно, то каждая периодическая точка в J является либо притягивающей, либо параболической. Кроме того, каждый цикл дисков Зигеля этого отображения содержит, по крайней мере, одну критическую точку на своей границе. Напомним, что в § 11 была дана характеризация точек Кремера как периодических точек, которые принадлежат множеству Жюлиа, но не являются при этом ни отталкивающими, ни параболическими. Это полностью эквивалентно следующему утверждению. 18.6. Следствие. Локально несвязные множества Жюлиа. Если полиномиальное отображение f имеет точку Кремера или цикл дисков Зигеля, границы которых не содержат критических точек, то множество Жюлиа J(f) локально несвязно. Замечание 26. * В этих утверждениях полиномиальность f существенна. Например, имеющее точку Кремера рациональное отобра-
228 Применение множества Фату к изучению множества Жюлиа жение может иметь локально связное множество Жюлиа. (Ср. Реш.) На самом деле, множество Жюлиа может совпадать со всей римано- вой сферой (см. Сисикура 1987). Однако, следующее вспомогательное утверждение справедливо даже для неполиномиальных отображений. 18.7. Лемма. Границы диска Зигеля. Если рациональное отображение f имеет такой диск Зигеля А = f(A), что либо его граница дА, либо множество Жюлиа J(f) являются локально связными, то дА должна быть простой замкнутой кривой, и ограничение f на дА топологически сопряжено иррациональному вращению. В частности, на этой границе нет периодических точек. Примеры точек Кремера были построены в § 11, а примеры дисков Зигеля без критических точек на границах были даны Эрманом (1986), ср. также Дуади (1987). Однако автору не известны примеры дисков Зигеля, имеющих периодические точки на границе или не ограниченных простыми замкнутыми кривыми. Доказательство леммы 18.7. Выберем конформный изоморфизм ф: Ш) —у А, удовлетворяющий тождеству сопряжения ф(р<ш) = /(^Н), где р имеет вид е2пга при a Е Ж \ Q. Рассуждая, как и в теореме 17.Ц, мы видим, что ф продолжается до непрерывного отображения Ф: Ш) —>• А, удовлетворяющего тому же тождеству. Но отсюда следует, что дИ) отображается на дА гомеоморфно, в противном случае из равенства Ф(гио) = Ф(шио) пРи некотором и ф 1, \и\ = 1 следовало бы 4?(pkwo) = 4?(pkuwo) при к = 1, 2,..., и, значит, Ф(ги) = Ф(гш;) для всех w на единичной окружности. Если бы группа всех таких и была бы плотна на окружности, то образ Ф(9Ш)) состоял бы из единственной точки, что невозможно. С другой стороны, если бы эта группа была порождена некоторым корнем из единицы, то при склеивании окрестности wo на границе дИ) с соответствующей окрестностью uwo получалась бы неориентированная поверхность, вложенная в С, что также невозможно. Это противоречие и доказывает лемму 18.7. Ш Доказательство теоремы 18.5 будет основано на следующих соображениях. Пусть zo — неподвижная точка, лежащая во множестве Жюлиа J. Если J локально связно, moj: Ж/Z —>• J непрерывно и сюръек- тивно. Следовательно, множество X = j~1(zq), состоящее из всех г/г-
§ 18. Полиномиальная динамика, внешние лучи 229 лов t, при которых лучи Rt заканчиваются на множестве Жюлиа в точке zo, является непустым компактным подмножеством окружности. Мы утверждаем, что отображение t \-> nt переводит X гомеоморфно на себя. Действительно, неподвижная точка zo не может быть критической точкой отображения f, поскольку она лежит во множестве Жюлиа, значит f отображает маленькую окрестность этой точки диффеоморфно на другую ее маленькую окрестность, биективно переводя множество заканчивающихся в zo внешних лучей на себя. 18.8. Лемма. Пусть п ^ 2 — целое и X С Ж/Ъ — компактное множество, которое гомеоморфно переводится на себя отображением t н-» nt(modZ), тогда X конечно. Доказательство. В действительности мы докажем следующее, более общее, утверждение. Пусть X — компактное метрическое пространство с метрикой dist(#, у) и h: X —» X — растягивающий гомеоморфизм, это означает, что существуют такие е > О и к > 1, что dist(h(x), h(y)) ^ fcdist(#, у), если dist(#, у) < е. Мы покажем, что X конечно. Очевидно, что эти предположения выполняются в условиях леммы 18.8, поэтому из наших рассуждений будет следовать и эта лемма. Поскольку h~x: X —у X равномерно непрерывно, можно выбрать такое 8 > 0, что dist(#, у) < е, если dist(/i(#), h(y)) < 8. Но отсюда следовало бы, что dist(#, у) < 8/к. Ввиду компактности X его можно покрыть конечным количеством т шаров радиуса 8. После отображения h~p мы получим покрытие X из т шаров радиуса 8jkP, но поскольку р произвольно велико, этим доказано, что X может состоять не более, чем из т различных точек. ■ В доказательстве теоремы 18.5 потребуется также следующее соображение. Было показано, что множество внешних лучей, заканчивающихся в неподвижной точке zo, конечно и биективно отображается на себя при f. Следовательно, углы между этими лучами при умножении на степень п отображения f должны обладать свойством периодичности. Заменив, в случае необходимости, f на некоторую его итерацию, можно предполагать, что эти углы «неподвижны»: nt = £(modZ)? то есть f(Rt) = Rt-
230 Применение множества Фату к изучению множества Жюлиа 18.9. Лемма. Если неподвижный луч Rt = f(Rt) заканчивается в точке zo, то zo является либо отталкивающей, либо параболической неподвижной точкой. (Ср. теорему 18.10 ниже.) Эта лемма немедленно следует из леммы 16.2 об улитке. Заметим сначала, что каждая эквипотенциальная кривая {z e С | G(z) = const > 0} пересекает луч Rt в единственной точке. Значит, можно параметризовать луч Rt как образ топологического вложения р: Ж —у С \ К, сопоставляя каждому s Е Ж ту единственную точку z £ Rt, для которой InG(z) = s. (Фактически s совпадает с длиной дуги в метрике Пуанкаре на Rt.) Поскольку G(f(z)) = nG(z), то f(p(s)) = p(s + Inn), и из 16.3 следует, что концевая точка луча zo = 7f(t) = Hm p(s) s—t — oo действительно является либо отталкивающей, либо параболической неподвижной точкой. ■ Доказательство теоремы 18.5. Если zo — неподвижная точка в локально связном множестве Жюлиа, то предыдущие две леммы и сопровождающие их рассуждения показывают, что zo должна быть отталкивающей либо параболической точкой. Обобщение на периодические точки очевидно. Рассмотрим теперь инвариантный диск Зигеля А = /(А). Ввиду непрерывности j: Ж/Ъ —у J, множество X = 7-1($А) С Ж/Ъ компактно и бесконечно. Значит, согласно лемме 18.8, отображение t \-t nt на X не может быть биективным. С другой стороны, из леммы 18.7 следует, что f гомео- морфно отображает <9А на себя, и поэтому X отображается на себя при умножении на п. Значит, существуют два таких различных луча Rtl и Rt2, заканчивающихся на дА, что f{Rt1) = f(Rt2)- Поскольку f L. взаимно однозначно, эти два луча заканчиваются в одной общей точке j(ti) = 7(^2)- Очевидно, что эта общая концевая точка должна быть критической для f. Это завершает доказательство теоремы 18.5 для дисков Зигеля с периодом один. Для больших периодов доказательство аналогично. ■
§ 18. Полиномиальная динамика, внешние лучи 231 Определение 25. * Внешний луч Rt называется рациональным, если соответствующий угол t Е M/Z рационален; этот луч называется периодическим, если угол t периодичен относительно умножения на степени п, так что npt = t(mod 1) для некоторого р ^ 1. Отметим, что луч Rt поглощается циклом при умножении на п тогда и только тогда, когда угол t рационален, и периодичен тогда и только тогда, когда t рационален, и его знаменатель взаимно прост с п. (Если t рационален со знаменателем d, то последовательные образы луча Rt при отображении f имеют углы nt, n2t, n3£, ... (modZ) со знаменателями, делящимися на d. Поскольку существует только конечное число таких дробей (modZ)? эта последовательность, начиная с некоторого номера, должна быть повторяющейся. В частном случае, когда d взаимно просто с п, дроби со знаменателем d переставляются при умножении на п по модулю Ъ, и, значит, концевая точка j(t) луча является периодической.) Мы по-прежнему будем считать, что заполненное множество Жю- лиа К связно, не предполагая при этом его локальную связность. 18.10. Теорема. Рациональные лучи заканчиваются. Каждый периодический внешний луч заканчивается в периодической точке, которая либо является отталкивающей, либо параболической. Если t рационален, но не периодичен, то луч Rt заканчивается в точке, которая поглощается циклом, но не периодична. (Ср. Дуади и Хаббард 1984-85.) Обратное утверждение, принадлежащее Дуади, более сложно. (Ср. Петерсен 1991, Хаббард 1993.) 18.11. Теорема. Отталкивающие и параболические точки являются концевыми. Каждая отталкивающая или параболическая периодическая точка является концевой, по крайней мере, для одного периодического луча. Следующее вспомогательное утверждение доказать гораздо проще. 18.12. Лемма. Если периодический луч заканчивается в точке zo, то эта точка является концевой только для конечного числа лучей, и все эти лучи имеют одинаковый период (который может быть большим, чем период точки zq). Например, на рисунке 37 показаны множества Жюлиа кубических отображений f(z) = z3 — 3z/4 + д/^7/4 и g(z) — z3 — iz2 + z. На левом
232 Применение множества Фату к изучению множества Жюлиа Рис. 37. Множества Жюлиа для отображений z н-»- z3 — 0.75z + у/— 7/4 и z н->" z3 — г;г2 + z, некоторые внешние лучи отмечены рисунке лучи, обозначенные как О г/1/2, заканчиваются в различных неподвижных точках; лучи с номерами 1/8, 1/4, 3/8 г/ 3/4 заканчиваются в третьей неподвижной точке, а лучи с номерами 5/8 и 7/8 заканчиваются на орбите периода два. На примере справа оба луча с номерами О и 1/2 должны заканчиваться в параболической точке z = О, поскольку оставшаяся неподвижная точка z — г является суперпритягивающей и потому не принадлежит множеству Жюлиа. Лучи с номерами 1/6, 1/3, 2/3 и 5/6 имеют делящиеся на 3 знаменатели и поэтому заканчиваются в предпериодических точках. Фактически, эти четыре луча заканчиваются в двух различных прообразах нуля. (Аналогичный анализ рисунка 35 предоставляется читателю.) В параболическом случае эти утверждения могут быть усилены следующим образом. 18.13. Теорема. Параболический случай. Если мультипликатор в параболической неподвижной точке zo является корнем степени q из единицы (q ^ 1), то каждый луч, заканчивающийся в точке zo, имеет период q. Для каждого отталкивающего лепестка Р в точке zo существует, по крайней мере, один луч, заканчивающийся в точке zo в этом лепестке. Пример 1. Рассмотрим кубическое отображение g(z) = z3 — iz2 + + z, см. рисунок 37. Параболическая неподвижная точка z = 0 имеет
§ 18. Полиномиальная динамика, внешние лучи 233 мультипликатор А = 1, таким образом, здесь имеется только один отталкивающий лепесток, хотя два различных луча Rq и R1/2 заканчиваются в этой точке. На рисунке 15 показан аналогичный пример с тремя отталкивающими лепестками и четырьмя неподвижными заканчивающимися лучами. Пример 2. Рассмотрим теперь отображение f(z) = z2 + е2пг'3/7z, см. рисунок 18. Здесь мультипликатор является корнем седьмой степени из единицы, и в окрестности нуля имеется семь отталкивающих лепестков. Значит, здесь имеется семь внешних лучей, заканчивающихся в нуле, и соответствующие углы должны быть дробями со знаменателем 127 = 27 — 1, то есть как в периодическом случае с периодом 7. Фактически, несложные эксперименты показывают, что единственный луч с углом 21/127 и его последовательные итерации при удвоении по модулю один будут соответствовать правильному порядку вокруг нуля. (Ср. Голдберг.) Значит, существует в точности семь лучей, которые заканчиваются в нулевой точке, по одному в каждом отталкивающем лепестке. Знаменатели соответствующих углов равны 21, 42, 84, 41, 82, 37, 74. В доказательствах всех этих утверждений мы по-прежнему будем обозначать через j(t) концевые точки лучей. Однако, поскольку К не обязано быть локально связным, функция j(t) не обязана быть всюду определенной или непрерывной. Доказательство леммы 18.12. Рассмотрим для начала частный случай неподвижного луча Rto = f(Rto). Иными словами, предположим, что to имеет вид j/(n — 1) и to = nfo(modZ). Если луч Rto заканчивается в точке zo, то очевидно, что f(zo) = zq. Пусть X — множество всех углов х, соответствующих лучам Rx, оканчивающимся в zq. Поскольку f диффеоморфно отображает некоторую окрестность zo на другую окрестность этой точки и сохраняет при этом циклический порядок лучей, которые в ней оканчиваются, то отображение умножения на га биективно переводит X на себя, также сохраняя этот циклический порядок. Нам надо показать, что для каждого х Е X луч Rx тоже отображается на себя при f. Отсюда будет следовать, что существует не более га — 1 лучей, заканчивающихся в zo, и все эти лучи имеют одинаковый период р = 1. В противном случае, если бы пх ^ #(modZ), то и х ^ ^o(modZ), и значит, kx ^ to для всех к. Определим последовательность хо, х\, ... точек орбиты угла х внутри интервала (to, to + 1)
234 Применение множества Фату к изучению множества Жюлиа следующим соотношением: Xk = nkx(modZ) при to < Xk < to + 1. Предположим для определенности, что to < хо < х\ < to + 1. Поскольку умножение на п сохраняет циклический порядок лучей, образы углов to, хо и х\ также должны удовлетворять неравенствам to < %i < Х2 < to + 1. Рассуждая по индукции, получаем to < хо < х\ < < Х2 < ... < to + 1. Значит, последовательность Xk должна сходиться к некоторому углу х, который обязан быть неподвижным при отображении t н-» nf(modZ). Но это невозможно, поскольку у этого отображения имеются только строго отталкивающие неподвижные точки. Предположим теперь, что наименьший период заканчивающегося в точке zo луча Rt равен р > 1. Заменив отображение f на его итерацию g = fop и рассуждая, как и выше, легко увидеть, что каждый луч, заканчивающийся в zo, переходит сам в себя при этой итерации и, следовательно, имеет период ^ р при исходном отображении f'. Отсюда следует, что этот период в точности равен р. ■ Доказательство теоремы 18.10. Заметим, что отображение f локально изометрично в метрике Пуанкаре наС\К = С\Ш. Действительно, универсальное накрытие дополнения С\Ш) изоморфно правой полуплоскости {w = и + iv | и > 0}, и этот изоморфизм устанавливается посредством экспоненциального отображения. Здесь вещественная часть и = Re(w) соответствует функции Грина G на С \ К. Отображение f на С \ К соответствует возведению в п-ю степень на С \ Ш, что соответствует изометрии в метрике Пуанкаре w \-^ nw на правой полуплоскости. Отметим также, что каждый внешний луч соответствует горизонтальной полупрямой v = const. Вдоль каждой такой полупрямой длина дуги в метрике Пуанкаре J \dw\/u вычисляется как J du/u = J dlnu. Рассмотрим сначала случай неподвижного луча f(Rt) = Rt- Как и в доказательстве леммы 18.9, введем на этом луче параметр s = h\G{z) так, что Rt будет образом пути р: Ж —у С \ К, где f(p(s)) =p(s + lnn). Значит, Rt = р(Ж) является объединением отрезков пути h = р([к\пщ (к + 1) Inn]),
§ 18. Полиномиальная динамика, внешние лучи 235 каждый из которых имеет длину Inn в метрике Пуанкаре. Здесь к пробегает все целые значения, и f изометрично отображает Ik на Ik+i- С другой стороны, G(p(s)) = es стремится к нулю при s —>• —оо? поэтому любая предельная точка z~ пути p(s) при s —У — ос должна принадлежать множеству Жюлиа J = дК. Используя теорему S.J^, для любой окрестности N точки z можно найти такую меньшую окрестность N', что любой отрезок Ik, пересекающий N', содержится в N. Поскольку f отображает одну граничную точку отрезка Ik в другую, отсюда следует, что Nilf(N) ф 0 для любой окрестности N, значит z~ должна быть неподвижной точкой отображения f. Но множество всех предельных точек связно (см. задачу 5-Ь). Поскольку f имеет только конечное множество неподвижных точек, отсюда следует, что луч Rt должен заканчиваться в одной неподвижной точке j(t) отображения f. Соответствующее утверждение для луча, имеющего период р, вытекает из этих же рассуждений, примененных к итерации g = fop. Отсюда и из леммы 18.9 следует утверждение теоремы 18.10 в периодическом случае. Если же t G Q/Ъ, то при умножении на п этот угол должен поглощаться циклом, и из леммы 18.1 следует, что луч Rt заканчивается. Это утверждение и лемма 18.12 завершают доказательство теоремы. ■ Доказательство того, что, по крайней мере, один периодический луч заканчивается в отталкивающей или параболической неподвижной точке, основывается на следующих соображениях. Ясно, что достаточно рассмотреть специальный случай неподвижной точки в нуле. Будем предполагать, что 0 = /(0) является либо отталкивающей, либо параболической точкой. Определение 26. * Назовем обратной орбитой отображения f в открытом множестве С \ {0} бесконечную последовательность z = (zo, zi, ...) точек Zk G С \ {0}, удовлетворяющих соотношениям Zk = /(2*+i) так, что ... 4 ^ Н Zi 4 2:о. Пусть Е — пространство всех таких сходящихся к нулю обратных орбит, lim Zk = 0, с топологией, унаследованной из бесконечного прямого k—юо произведения. То есть в Е введена слабейшая топология, относительно которой каждая проекция Kk(zo, z1, z2, ...) = zk
236 Применение множества Фату к изучению множества Жюлиа из Е в С \ {0} непрерывна. В действительности, поскольку f не имеет критических точек в С \ {0}, каждая компонента связности в Е может быть наделена структурой римановой поверхности так, чтобы каждая проекция 7г^ была локальным конформным изоморфизмом. Определим конформный изоморфизм f:E^Eno формуле f(z0, 21, ...) = (f(z0), f(zi), ...), таким образом, 7r^(f(z)) = /(^(z)). Рис. 38. Множество Е = С \ {0} для одной из отталкивающих неподвижных точек рисунка 35. Здесь множество К закрашено черным цветом; f переставляет три компоненты Е\К, и fо3 отображает каждую компоненту Uk в себя с комплексным коэффициентом растяжения Л3 ~ 1,36 Заметим, что в отталкивающем случае при больших значениях к точки Zk должны принадлежать линеаризующей окрестности нуля. Действительно, можно определить изоморфизм Кенигса к: Е ^ С\{0} так, что ft(f(z)) = \k(z), полагая k(z) = lim \kZk, fe—>-oo где A — мультипликатор. Для параболической точки, заменяя в случае необходимости f на некоторую его итерацию, можно предполагать,
§ 18. Полиномиальная динамика, внешние лучи 237 что А = 1, и что нуль является неподвижной точкой кратности т ^ 2. Рассмотрим цветок Ло-Фату с т — 1 отталкивающими лепестками. Для каждого такого лепестка Р обозначим через Ер компоненту связности Е, состоящую из таких ъ, для которых {zk} стремятся к нулю всюду в Р. Тогда ассоциированная с этим лепестком координата Фату ф: Р —>• С, для которой ф(/(г)) = ф[г) + 1 на Р П f~1(P), порождает конформный изоморфизм фр: Ер ^ С такой, что </>p(f(z)) = фр (z)-\-l, определяемый для больших значений к по формуле фр{ъ) = ф{гь) + к. Пусть К С Е — замкнутое подмножество, состоящее из таких z Е Е, у которых компоненты Zk принадлежат заполненному множеству Жюлиа К. 18.Ц. Лемма. Каждая компонента связности Uo в Е\К является универсальной накрывающей для С\К при проекции Я"о(^(Ъ 215 . . .) = Zo из и0 в С \ К. Доказательство. _ Чтобы показать, что 7Го: Е \ К —>• С \ К является накрывающим отображением, рассмотрим любое односвязное открытое множество V С С \ К и любое z Е Е \ К такое, что zo = 7To(z) G V. Поскольку каждое fok: С \ К —у С \ К является накрытием, существует единственная ветвь gk отображения f~k\v такая, что gk(zo) = = Zk- Выберем такое ко, что при к ^ ко точки Zk принадлежат линеаризующей окрестности или отталкивающему лепестку, и выберем меньшую окрестность V точки zo так, чтобы образ gk0(V) содержался в этой линеаризующей окрестности или в лепестке вместе со своим замыканием. Тогда отображения gk\v, равномерно сходятся к нулю. В действительности, поскольку последовательность отображений gk\v, очевидно, образует нормальное семейство, мы получаем более сильное утверждение о том, что последовательность gk\v сходится к нулю локально равномерно. В противном случае, если бы ограничения gk на некоторое компактное подмножество окрестности V имели бы ненулевую предельную точку, то можно было бы выбрать подпоследовательность, локально равномерно сходящуюся к ненулевому пределу. Это невозможно, так как предельная функция должна тождественно обращаться в нуль на V. Значит, с помощью соответствия Z^g(z) = (Z, g!(z), g2(z), ...)
238 Применение множества Фату к изучению множества Жюлиа окрестность V поднимается в Е\К так, что 7To(g(^)) = z. Поэтому V накрывается просто, что и требовалось. Наконец, заметим, что каждая компонента связности Uo в Е\К односвязна. В самом деле, для каждой петли h: M/Z —>• Uo, полагая h(t) = (ho(t), hi(t), ...), можно выбрать такое к, что /i^(M/Z) содержится в линеаризующей окрестности или в лепестке. Область, ограниченная образом этой петли, не может содержать ни одной точки связного множества К, и отсюда легко следует, что петля h(M/Z) стягиваема в Uo. Поэтому накрытие Uo —У С\К является универсальным. Ш 18.15. Основная лемма. Каждая компонента связности Uo в Е\К отображается на себя при некоторой итерации f. Изучим сначала отталкивающий случай к: Е ^ С \ {0}. Доказательство основной леммы начинается следующим образом. Рассмотрим семейство концентрических окружностей Чоч С Е, определяемых уравнением |ft(z)| = \\\q при q ^ 0, где А — мультипликатор и f(^) = 18.16. Лемма. Некоторый образ Uk = fok(Uo) обладает следующим свойством: относительно метрики Пуанкаре, ассоциированной с односвязным открытым множеством Uk, расстояние между Uk П % и Uk П 4oq не превосходит qlnn. Доказательство. Заметим, что любые два такие образа Uk и Ui либо совпадают, либо не пересекаются. Пусть U — объединение всех этих открытых множеств Uk • Рассмотрим функцию Грина G о 7Го: Е —>• Ж, которая гармонична и строго положительна на U и тождественно равна нулю на dU С К. Пусть Go = G о 7To(z) — максимальное значение функции G о 7Го на множестве U П 4>q. Поскольку foq(U П %) = U П 4oq и Go7r0of°^(z) =nqGo7ro(z), то максимальное значение G о 7Го на U П 4oq равно nqGo, и достигается оно в точке foq(z). В Uk также, как и в С \ К, ортогональные к эквипотенциальным кривым G о 7To(z) = const
§ 18. Полиномиальная динамика, внешние лучи 239 траектории могут быть описаны как внешние лучи, параметризованные их длинами lnGWo в метрике Пуанкаре. Если выпустить из точки ъ, которая принадлежит Uk П ^о при некотором к, внешний луч и обозначить через z' первую точку пересечения этого луча с Uk П 4>q, то длина дуги этого луча между точками z и z' в метрике Пуанкаре будет равна InG о 7Го(г') — lnG0 ^ lnnq = qlnn, что и требовалось. Ш С другой стороны, предположим, что лемма 18.15 неверна, и что множества Uk попарно не пересекаются. Тогда мы покажем, что внутри Uk расстояние между L^D^o и Uk^f&q в метрике Пуанкаре возрастает с ростом q быстрее, чем линейно. Это противоречит лемме 18.16 и тем самым доказывает основную лемму 18.15. Наши рассуждения будут основываться на следующей, очень грубой оценке. 18.17. Лемма. Рассмотрим полосу S С С ширины w, ограниченную двумя параллельными прямыми L\ и L2. Пусть U — одно- связная область, пересекающая обе эти прямые, и А — евклидова площадь пересечения UilS. Тогда расстояние в метрике Пуанкаре между U П L\ и U П L2 внутри U больше, чем гп^/п/АА — 1. В частности, если А стремится к нулю при фиксированном w, то это расстояние стремится к бесконечности. Доказательство леммы основано на следующем, более точном, неравенстве: Для любой кривой j в U длина ее дуги в метрике Пуанкаре не меньше, чем 1 Г \dz\ 2 J dist(z,dUy 1 где на границе метрика совпадает с евклидовой. Доказательство см. в приложении А, А.8. Из этого неравенства доказательство леммы 18.17 вытекает следующим образом. Пусть г определен из А — пг2, и z — любая точка из UC\S, отстоящая от прямых Li, L2 на расстояние не меньше г. Поскольку площадь замкнутого диска радиуса г с центром в точке z равна А = агеа(С/ П S), этот диск должен пересекать границу U. Поэтому в точке z элемент длины ds метрики Пуанкаре удовлетворяет соотношению ds ^ \dz\j2r. Выберем в U минимальную геодезическую j в метрике Пуанкаре, соединяющую две прямые L\, L2. Тогда удаленная от 8S больше, чем на г, часть этой геодезической имеет евклидову длину не меньше w — 2r, и поэтому ее длина в метрике
240 Применение множества Фату к изучению множества Жюлиа Пуанкаре не меньше что и требовалось. ■ Рассмотрим плоскую метрику \dn\/n на множестве Е = С \ {0}. (Эта метрика переносится на Е с обычной плоской метрики бесконечного цилиндра C/(27tz'Z) при конформной эквивалентности z н-» ln^(z)). Относительно этой метрики f изометрично отображает Е на себя. Пусть Aq С Е — кольцо, ограниченное окружностями Чоч и ^q+i. Обозначим через а площадь в этой плоской метрике. Поскольку а(Ао) конечна, из предположения о том, что области Uk попарно не пересекаются, следует, что a(Uk П Aq) стремится к нулю при \к\ —У ос. Так как foq изометрично отображает пересечение U-q П Aq на Uo П Aq, то a(Uo П Aq) также стремится к нулю при q —>• ос. Из леммы 18.17 следует, что в метрике Пуанкаре расстояние между Чоч и 4>q+\ внутри Uo стремится к бесконечности при q —>• ос. Значит, в метрике Пуанкаре расстояние между Чоо и Чоч внутри Uo с ростом q растет быстрее, чем линейно. Аналогичные рассуждения можно провести и для метрики Пуанкаре внутри каждой области Uk, но это противоречит лемме 18.16, что и доказывает основную лемму 18.15 в случае отталкивающей неподвижной точки. Для этого случая доказательство теоремы 18.11 продолжается следующим образом. В силу леммы 18.15 можно выбрать такое к > 0, чтобы fok биголоморфно отображало односвязное множество Uo на себя, очевидно, не имея при этом неподвижных точек. Значит, можно построить риманову фактор-поверхность Sf, отождествляя каждую точку z Е Uo с fofe(z). Из результатов §2 следует, что Sf является либо кольцом, либо диском с выколотой точкой. Однако диск с выколотой точкой здесь получиться не может, так как из леммы 18.17 легко следует положительность нижней грани длин путей, соединяющих z с fok(z), относительно метрики Пуанкаре. Значит, Sf является кольцом. В частности, в метрике Пуанкаре существует единственная простая замкнутая геодезическая на SS'. (Ср. задачу 2-f. Наглядно эту конструкцию можно описать как резиновую ленту, намотанную на кольцо для салфетки (или на песочные часы) и сжатую в простую замкнутую кривую минимальной длины.) При поднятии в универсальное накрытие Uo поверхности Sf получается бесконечная в обе стороны fok-инвариантная геодезическая
§ 18. Полиномиальная динамика, внешние лучи 241 в метрике Пуанкаре. При проекции в С\К из нее получается /^-инвариантная бесконечная в обе стороны геодезическая р: Ж —> С\К в метрике Пуанкаре. Поскольку функция Грина G(p(s)) при s —>• +00 стремится к бесконечности, эта геодезическая должна оказаться внешним лучом. (Любая геодезическая в метрике Пуанкаре на правой полуплоскости либо горизонтальна и соответствует при этом внешнему лучу, либо имеет ограниченную вещественную часть.) С другой стороны, поскольку координата Кёнигса p(s) стремится к нулю при s —>• —оо? этот луч заканчивается в нуле, что и требовалось. Этим теорема 18.11 доказана в случае отталкивающей неподвижной точки. ■ Доказательство в случае параболической неподвижной точки. Как было отмечено выше, достаточно рассмотреть случай А = = 1. Напомним, что множество Ер состоит из обратных орбит, сходящихся к нулю в отталкивающем лепестке Р, которому соответ- ствует изоморфизм Фату фр: Ер —>• С, удовлетворяющий соотношению фр о f(z) = = фр(ъ) + 1. Заметим, что если фр(ъ) = и + iv при достаточно большом \v\ и и, близком к —ос, то 7r(z) Е С должно принадлежать одному из двух соседних притягивающих лепестков и потому содержится в заполненном множестве Жюлиа К. Значит, множество фр(Ер \К) С С должно целиком содержаться в полосе \v\ < const, имеющей конечную высоту. Вместо окружностей Чоч и колец Aq из предыдущих рассуждений рассмотрим теперь вертикальные прямые Lq = {zeEP | Re((Mz)) = </} и вертикальные полосы, ограниченные прямыми Lq и Lq+\. Точно так же, как и в доказательстве леммы 18.16, можно установить, что расстояние между Lq и Lq внутри подходящей окрестности Uk не превосходит (/Inn. С другой стороны, если бы образы Uk = fok(Uo) были попарно непересекающимися, то также, как и выше, из рассуждений с площадями следовало бы, что это расстояние возрастает с ростом q быстрее, чем линейно. Это противоречие завершает доказательство леммы 18.15. На самом деле (в этом параболическом случае при Л = 1) мы получаем более сильное утверждение: f (С/о) = Uo. Если бы U\ — f (С/о) Ф Uq, то образ фр(и±) в полосе {u + iv | \v\ < const} лежал бы либо выше, либо ниже образа фр(ио). Если бы, например, он лежал выше, то, очевидно, что фр(и2) лежал бы выше фр(и±), и так далее. Отсюда бы следовало, что ни для какого к > 0 равенство Uk = Uq не выполняется.
242 Применение множества Фату к изучению множества Жюлиа Теперь, рассуждая, как и выше, можно построить фактор-кольцо 5f, отождествляя каждое z Е Uq с f (z). Единственная простая замкнутая геодезическая в Sf поднимается до бесконечной в обе стороны геодезической в Uo, которая проектируется во внешний луч Rt = f(Rt)? заканчивающийся в нуле и проходящий через данный отталкивающий лепесток Р. Это завершает доказательство теорем 18.11 и 18.13. Ш Дальнейшее развитие и приложение этих идей можно найти, например, у Голдберга и Милнора, у Киви (Kiwi) 1995, 1997, у Шлейхтера 1997 и у Милнора 1999b. § 19. Гиперболические и субгиперболические отображения В этом разделе, следуя Сулливану, Тёрстону, Дуади и Хаббарду, мы опишем некоторые примеры локально связных множеств Жюлиа. Определение 27. * Рациональное отображение f называется динамически гиперболическим, если оно является растягивающим на своем множестве Жюлиа J в следующем смысле. На некоторой окрестности J существует такая риманова метрика fi, что производная Dfz в каждой точке z Е J удовлетворяет неравенству \\DfMh > 1М1д для каждого ненулевого вектора v из касательного пространства TCZ. (Обозначения те же, что и в теореме 2.11.) Из компактности J следует, что существует коэффициент растяжения к > 1 такой, что \\Dfz\\ij, ^ k для всех точек z из некоторой окрестности J. В частности, любой гладкий путь длины L в этой окрестности отображается в гладкий путь длины ^ kL. Легко видеть, что каждая точка z G J имеет некоторую открытую окрестность Nz в С, для которой индуцированная нормой метрика удовлетворяет неравенству dist^/fc), f(y)) ^ k • distM0r, у) (19 : 1) при всех ж, у G Nz. Напомним, что в теореме 11.17 посткритическим множеством Р функции f назывался набор всех образов /OJ(c) при j > 0, где с пробегает все критические точки отображения f.
§ 19. Гиперболические и субгиперболические отображения 243 19.1. Теорема. Гиперболические отображения. Рациональное отображение степени d ^ 2 динамически гиперболично тогда и только тогда, когда замыкание посткритического множества Р отображения f не пересекается со своим множеством Жюлиа или тогда и только тогда, когда орбита каждой критической точки сходится к притягивающей периодической орбите. На самом деле, если f гиперболично, то каждая орбита в его множестве Фату должна сходиться к притягивающей периодической орбите. Замечание 27. * Гиперболические отображения обладают и многими другими важными свойствами. Каждая периодическая орбита гиперболического отображения должна быть либо притягивающей, либо отталкивающей. Если f гиперболично, то каждое близкое к нему отображение также гиперболично. Кроме того, согласно Манъе, Сэду, Сул- ливану, (а также Любичу 1983, 1990), множество Жюлиа J(f) непрерывно деформируется при деформации f в классе гиперболических отображений. (Напротив, в негиперболическом случае, малое изменение f может привести к существенным изменениям J(f).) Хорошо известная, но недоказанная «общая гипотеза о гиперболичности» утверждает, что каждое рациональное отображение может быть сколь угодно точно приближено гиперболическим отображением. Доказательство теоремы 19.1. Пусть V — дополнение С \ Р, и пусть W = f~x{V) С С. Как и в теореме 11.17, заметим, что W С V, и что f: W —>• V является сюръективным d-листным накрытием. Кроме того, если исключить тривиальный случай отображения, сопряженного с z \-л z±d, то каждая компонента связности V или W конформно гиперболична. Предположим теперь, что Pf]J = 0, или, другими словами, J С V. Тогда W должно быть строго меньше V. Иначе V отображалось бы посредством f в себя и, следовательно, содержалось бы во множестве Фату. Действительно, любая компонента связности W, пересекающая J, должна быть строго меньше соответствующей компоненты V. Рассуждая как и при выводе неравенства (11:6), имеем \\Dfz\\v > 1 для каждой точки z G W. (Здесь индекс V указывает на то, что мы используем метрику Пуанкаре, ассоциированную с гиперболической поверхностью V). Динамическая гиперболичность f следует из того, что J С W. (Замечание: Другой вариант этого доказательства может быть основан на том, что отображение /_1 должно подниматься до однозначного отображения F универсальной накрывающей поверхности V в
244 Применение множества Фату к изучению множества Жюлиа себя. Тогда F должно уменьшать расстояния в метрике Пуанкаре на V, следовательно, f должно увеличивать расстояния в метрике Пуанкаре на V. Ср. доказательство теоремы 19.6.) Обратно, предположим, что f динамически гиперболично. Тогда можно выбрать некоторую риманову метрику в окрестности V множества J так, чтобы f было растягивающим с коэффициентом растяжения ^ к > 1 на некоторой меньшей окрестности V множества J. Конечно, отсюда следует, что V не может содержать критических точек. Выберем достаточно малое е > О такое, чтобы (1) каждая точка в открытой е-окрестности N£(J) могла быть соединена с J внутри V, по крайней мере, одной минимальной геодезической; (2) Г^^СУ'. Значит, для любой точки z Е f~1N£(J) \ J выполняются неравенства dist(£, J) ^ dist(/(^), J)/k < dist(/(^), J). Действительно, если выбрать минимальную геодезическую, соединяющую f(z) с J внутри V, то один из ее d прообразов соединит точку z с J, и длина этого прообраза не будет превосходить dist(/(z), J)/k. Следовательно, произвольная орбита zo \-> z± \-> ... во множестве Фату может содержать не более конечного числа точек из N£(J). В самом деле, ни одна точка вне N£(J) не может отобразиться в N£(J), тогда как, если орбита начинается в N£(J) \ J, то расстояние между zm и J должно увеличиваться, по крайней мере, в к раз с каждой итерацией, пока орбита не выйдет за границу N£(J), чтобы больше никогда туда не вернуться. Поэтому любая точка накопления £ этой орбиты принадлежит множеству Фату. Если U — компонента связности множества Фату, содержащая z~, то, очевидно, некоторые итерации fop должны отображать U в себя. Согласно классификации периодических компонент связности множества Фату, полученной в теореме 16.1, U должна быть либо областью притяжения, либо параболической областью, либо областью вращения. Так как U, очевидно, не может быть ни параболической областью, ни, согласно теореме 11.17 и лемме 15.7, областью вращения, она должна быть областью притяжения. Следовательно, орбита zo \-> zi \-> ... должна сходиться к соответствующей притягивающей периодической орбите. В частности, орбита любой критической точки должна сходиться к притягивающей периоди-
§ 19. Гиперболические и субгиперболические отображения 245 ческой орбите. Отсюда, очевидно, вытекает, что Pf]J = 0, это и завершает доказательство теоремы 19.1. Ш 19.2. Теорема. Локальная связность. Если множество Жю- лиа гиперболического отображения связно, то оно и локально связно. Доказательство будет основано на трех леммах. 19.3. Лемма. Границы компонент связности множества Фату. Если U — односвязная компонента связности множества Фату гиперболического отображения, то граница 8U локально связна. Замечание 28. * В частном случае полиномиального отображения теорема 19.2 вытекает из данного результата, поскольку для полиномиального отображения область притяжения бесконечно удаленной точки является инвариантной компонентой связности множества Фату с границей, совпадающей со всем множеством Жюлиа. Доказательство леммы 19.3. Сначала рассмотрим случай инвариантной компоненты связное- ти U = f(U). Выберем конформный изоморфизм ф: Ш) —>• U так, чтобы ф(0) являлось неподвижной притягивающей точкой в U. Тогда F = ф~х о f о ф — собственное голоморфное отображение Ш) в себя такое, что F(0) = 0, и имеющее, в силу теоремы 8.6, по крайней мере одну критическую точку. Согласно лемме Шварца, для любого 0 < г < 1 отображение F переводит диск Шг радиуса г в некоторый диск строго меньшего радиуса.
246 Применение множества Фату к изучению множества Жюлиа Если г достаточно близок к единице, то нетрудно видеть, что замыкание кольца Aq = F_1(ID)r) \ШГ расслаивается на радиальные отрезки (как показано на рисунке). То есть каждая радиальная прямая {Ьегв | 0 < t < 1} пересекает Aq no замкнутому интервалу Iq, гладко зависящему от О. Чтобы увидеть это, выразим F в виде произведения Бляшке F{w) = eia^{{w-ai)l{\-ajw). Если ww = 1, то простые вычисления показывают, что радиальная производная dlnF(w) F'(w) = w dlnw F(w) принимает вид ^2(1 — aj~a,j)/\w — clj\2 > О. Следовательно, для \w\, близких к +1, вещественная часть этой радиальной производной все еще положительна, откуда следует трансверсальность искомого пересечения. Так как f гиперболично, то можно выбрать риманову метрику в некоторой окрестности J D dU так, чтобы f было растягивающим в окрестности J с коэффициентом к > 1. Выберем г < 1 достаточно большим так, чтобы образ ф(В \ Ш)г) содержался в этой окрестности. Используя индуцированную метрику на Ш)\1В)Г? положим М равным максимуму длин радиальных интервалов Iq. Теперь рассмотрим вложенную последовательность колец А0, А±, А2, ..., сходящуюся к границе Ш, где Ат = F~m(Ao). Заметим, что замыкание каждого Ат расслаивается на связные компоненты прообразов F~m(Ie) так, что длина каждого такого криволинейного отрезка не превосходит М/кт. Следовательно, можно построить по индукции последовательность гомеоморфизмов gm: дШг ^F-mdBr так, чтобы go было тождественным отображением, a gm(rete) и ёт+1{гегв) были двумя конечными точками одного слоя в кольце Ат. Тогда dist(g-m(re"), gm+i(reie)) ^ M/km, и, значит, отображения (j)ogm: дШг Ч[/СС
§ 19. Гиперболические и субгиперболические отображения 247 образуют последовательность Коши. Поэтому они равномерно сходятся к непрерывному предельному отображению из дШг на dU. Согласно теореме 17. Ц, это означает, что dU локально связна. Случай периодической компоненты связности множества Фату U = fop(U) рассматривается с помощью этих же рассуждений, примененных к итерации fop. Согласно теореме 19.1, (или по теореме Сулли- вана), любая компонента связности U множества Фату поглощается циклом, и значит утверждение леммы 19.3 следует из того, что dU локально гомеоморфно dfoq(U). Ш В следующей лемме используется сферическая метрика на С. 19.4' Лемма. О малости большинства компонент связности множества Фату. Если f — гиперболическое отображение, у которого множество Жюлиа связно, то для любого е > О существует только конечное число компонент связности множества Фату диаметра больше е. Иными словами, если имеется бесконечное число компонент связности множества Фату, занумерованных в любом порядке как U±, U2, • • •, то диаметр Uj в сферической метрике должен стремиться к нулю при j —у оо. (Однако гиперболическое отображение с несвязным множеством Жюлиа может иметь бесконечное число компонент связности множества Фату с диаметрами, отграниченными от нуля. См. пример Макмуллена на рисунке 2а. Автору неизвестно ни одного подобного примера со связным множеством Жюлиа, даже в негиперболическом случае.) Доказательство 19.4. Так как f гиперболично, то можно выбрать некоторую римано- ву метрику /i в окрестности V множества Жюлиа J так, чтобы f являлось растягивающим относительно /х на некоторой окрестности N множества J с условием N С V. Для любой компоненты связности множества Фату Uj, содержащейся в N, определим расстояние dist^ijj. (ж, у) между двумя точками Uj как точную нижнюю грань длин, содержащихся в Uj путей из х в у в метрике /i. Тогда можно определить диаметр diana^c/ (Uj) как точную верхнюю грань distM|iy. (ж, у) для х-> У £ Uj. Из доказательства леммы 19.3 легко следует, что этот диаметр всегда конечен. Заметим, что различные компоненты связности Uj множества Фату вместе с N образуют открытое покрытие ком-
248 Применение множества Фату к изучению множества Жюлиа пактного пространства С. Выбирая конечное подпокрытие, видим, что все окрестности Uj, за исключением конечного числа, содержатся в N. Из теоремы 19.1 известно, что для любого Uj некоторый итерированный образ foi(Uj) содержит притягивающую периодическую точку и, следовательно, не содержится в N. Определим уровень Uj как наименьшее £ ^ О такое, что foi(Uj) (£_ N. Так как имеется лишь конечное число компонент Uj нулевого уровня, то на любом фиксированном уровне этих множеств также лишь конечное число. Пусть М — максимальное значение диаметров diam fj,\u(Uj) no всем Uj первого уровня. Если к > 1 — коэффициент растяжения, то для каждого Uj уровня £ ^ 1. Очевидно, это выражение стремится к нулю при£ —>• оо. Поскольку все компоненты Uj, за исключением конечного числа, лежат внутри компактного множества N, отсюда легко следует, что диаметры в сферической метрике также стремятся к нулю, что и требовалось установить. ■ 19.5. Лемма. Характеризация локально связных множеств в С. Если X — компактное подмножество сферы С такое, что каждая компонента связности С\Х имеет локально связную границу, и такое, что для любого е > О число компонент связности с диаметрами большими, чем е, не более, чем конечно, то X локально связно. (Обратное утверждение см. в задаче 19-f.) Доказательство. Для любой точки х Е X и любой ее наперед заданной окрестности N£(x) радиуса е в сферической метрике найдется меньшая окрестность N$(x) такая, что любая точка из X f)N$(x) соединена с х связным подмножеством множества X f]N£(x). Действительно, выберем д < е/2 так, что для любой компоненты связности Uj в С\Х диаметра ^ е/2, любые две точки dUj, отстоящие друг от друга не более, чем на 8, соединимы связным подмножеством dUj диаметра, не превосходящего е/2. (См. лемму 17.13.) Теперь для любой точки у Е Xf)Ns(x) выберем геодезическую I, соединяющую х су, и заменим каждую компоненту связности 1\Х связным подмножеством границы соответствующего множества Uj диаметра меньше е/2. Замыкание полученного
§ 19. Гиперболические и субгиперболические отображения 249 множества будет связным подмножеством множества Xf]N£, содержащим как х, так и у. Это завершает доказательство того, что X локально связно в произвольной точке х. Ш Очевидно, что теорема 19.2 немедленно вытекает из этих трех лемм. ш Дуади и Хаббард, используя идеи Тёрстена, рассмотрели также более широкий класс отображений, названных ими субгиперболическими. По сравнению с гиперболическим случаем, единственное изменение в определении состоит в том, что риманова метрика в окрестности J для этого класса отображений может иметь конечное число умеренных особенностей на посткритическом множестве. Субгиперболические отображения могут иметь критические точки на множестве Жюлиа, но только в том случае, когда их орбиты поглощаются циклами. Рис. 39. Слева диск с тремя фундаментальными областями вращения на 120 градусов и обозначенным направлением вращения в эд-плоскости, справа — фактор-пространство с указанной метрикой Чтобы понять, какие особенности здесь допустимы, рассмотрим гладкую конформную метрику p(w)\dw\, инвариантную относительно вращения w-плоскости на угол 27г/т радиан, и построим фактор- пространство, в котором w отождествлено с е2пг/тги. Полученное пространство является гладким римановым многообразием вне начала координат, где оно имеет «коническую точку». Если положить z — wm, то индуцированная метрика в плоскости z имеет вид j(z)\dz\, где j(z) = p(w) dz dw р(ф) m\z l-l/m' Таким образом, j(z) —> ос при z —> 0, но особенность эта сравнительно
250 Применение множества Фату к изучению множества Жюлиа безобидна, так как любой непатологический путь t и-» z(t) имеет все еще конечную длину J j(z(t))\dz(t)\. Определение 28. * Конформная метрика на римановой поверхности вида j(z)\dz\ в терминах локального униформизирующего параметра z будет называться орбифолдной метрикой, если функция j(z) гладкая и ненулевая всюду, за исключением локально-конечного набора «точек разветвления» а±, «2, ..., где она имеет особенность, описываемую следующим образом. Имеется некоторый набор целых чисел Vj ^ 2, называемых индексами разветвления в точках aj, для которых в локально разветвленных накрытиях z(w) = aj + wVj индуцированная метрика j(z(w))\dz/dw\ • \dw\ на w-плоскости является гладкой и неособой в некоторой окрестности начала координат. Будем говорить, что f является растягивающим относительно такой метрики, если его производная удовлетворяет неравенствам \\Dfp\\ ^ k > 1, когда р и f(p) не являются точками разветвления. (Заметим, что здесь нельзя ожидать более сильного, чем (19:1), условия в окрестности критической точки.) Определение 29. * Рациональное отображение f называется субгиперболическим, если оно является растягивающим на окрестности своего множества Жюлиа в некоторой орбифолдной метрике. Следуя Дуади и Хаббарду, сформулируем два результата. (Ср. Ц.5.) 19.6. Теорема. Рациональное отображение субгиперболично тогда и только тогда, когда каждая критическая орбита либо конечна, либо сходится к притягивающей периодической орбите. 19.7. Теорема. Если f субгиперболично, и множество Жюлиа J(f) связно, то J(f) локально связно. Доказательство теоремы 19.7 по существу совпадает с доказательством 19.2. В частности, доказательства 19.3 и 19.4 также распространяются и на субгиперболический случай. Подробности оставляются читателю. ■ Доказательство 19.6. Рассуждения сводятся к модифицированию доказательства теоремы 19.1. В одну сторону, если f является растягивающим относительно некоторой орбифолдной метрики, определенной в окрестности множества Жюлиа, то так же, как и в теореме 19.1, найдется окрест-
§ 19. Гиперболические и субгиперболические отображения 251 ностъ N£(J) такая, что каждая орбита из множества Фату с некоторого момента покидает эту окрестность и никогда туда не возвращается. Следовательно, она может сходиться только к притягивающей периодической орбите. С другой стороны, если с — критическая точка из множества Жюлиа, то каждый образ fom(c), т > 0, должен попадать в одну из точек разветвления clj в нашей орбифолдной метрике, так как отображение fom имеет нулевую производную в критической точке с, а также удовлетворяет условию \\Df°m\\ ^ km в точках, произвольно близких к с. Набор точек разветвления в J локально конечен, значит орбита точки с должна поглощаться циклом. Для доказательства в обратную сторону напомним несколько понятий из теории орбифолдов Тёрстона. (Краткое введение в эту теорию см. в приложении Е.) Определение 30. * В наших рассуждениях орбифолдом (5, v) будет называться риманова поверхность S вместе с локально-конечным набором отмеченных точек clj (называемых точками разветвления), для каждой из которых определен индекс разветвления Vj = v(a,j) ^ 2, как и выше. Для точек z, не являющихся точками разветвления, полагаем v(z) — 1. Каждому рациональному отображению f, удовлетворяющему условиям теоремы 19.6, сопоставим следующим образом канонический ор- бифолд (5, v). В качестве римановой поверхности S возьмем риманову сферу С, из которой удалены все притягивающие периодические орбиты. В качестве точек разветвления dj возьмем все (строго) посткритические точки, то есть все точки, которые имеют вид clj = fom(c) для некоторого т > 0, где с — критическая точка отображения f. Так как каждая критическая орбита либо конечна, либо сходится к периодическому аттрактору, легко видеть, что этот набор точек clj локально конечен на S (хотя, возможно, на всей сфере С это уже не так). Чтобы задать соответствующие индексы разветвления Vj = v(clj), потребуется еще одно понятие. Пусть f(z±) = Z2 с локальным разложением в ряд f(z) = Z2 + b(z — z\)n + (старшие члены), где Ъ ф О и п ^ 1, тогда целое число п = n(/, z\) называется локальной степенью или индексом ветвления функции f в точке z\. Выберем такие v(aj) ^ 2, чтобы они были наименьшими целыми числами, удовлетворяющими следующему условию.
252 Применение множества Фату к изучению множества Жюлиа Условие (*). Для любого z Е S индекс разветвления в точке образа v(f(z)) должен быть кратен произведению n(/, z)v[z). (Если f(z) является притягивающей периодической точкой и, следовательно, не принадлежит S, положим v(f(z)) = oo.J Чтобы построить эти целые числа v(clj), где clj пробегает все посткритические точки в S, рассмотрим все пары (с, т), где с — критическая точка и fom(c) = a,j, и выберем такое v(a,j), чтобы оно было наименьшим общим кратным соответствующих индексов ветвления n(/om, с). (Отметим, что само clj может быть критической точкой, так как одна критическая точка может отобразиться в другую при итерации достаточно большого порядка.) Поскольку все суперпритягивающие периодические орбиты удалены, существуют только конечное множество таких пар (с, т), и значит это наименьшее общее кратное корректно определено и конечно. Нетрудно проверить, что оно задает минимальное решение, удовлетворяющее условию (-к). Как и в приложении Е, рассмотрим универсальную накрывающую поверхность Sv -> (S, i/) этого канонического орбифолда, которая является единственной од- носвязной регулярной разветвленной накрывающей для поверхности S, имеющей заданную весовую функцию v\ S —>• Ъ. Такое универсальное накрытие не существует только для S = С, когда эта риманова поверхность имеет не более двух точек разветвления (см. лемму ЕЛ в приложении). Легко показать, что наш канонический орбифолд не подпадает под этот случай. Поскольку f~1(S) С S, легко видеть, что /_1 поднимается до однозначного голоморфного отображения F: Sv —>■ Sv. Фактически, именно условие (•) гарантирует локальное существование такого поднятия отображения /-1. Ввиду односвязности Sv не существует никаких препятствий к распространению этого поднятия до глобального. Конформно гиперболический случай. Если Sv гиперболично, то F должно либо сохранять, либо уменьшать метрику Пуанкаре на этой универсальной накрывающей поверхности. Если бы F сохраняло метрику на Sv, то f сохраняло бы орбифолдную метрику на (5, v), и отсюда следовало бы, что каждая периодическая точка отображения f в S должна была быть нейтральной, что невозможно. Следовательно, F должно сжимать метрику, a f должно растягивать метрику. Из
§ 19. Гиперболические и субгиперболические отображения 253 компактности J следует, что \\DFW\\ ^ 1/fc < 1 всякий раз, когда w Е Sv проектируется в подходящим образом выбранную окрестность W из J. Значит, \\Dfz\\ ^ k > 1 для каждого такого z Е W, что z и f(z) не являются точками ветвления. Конформно евклидов случай. (Ср. 19.9.) Для евклидовой поверхности Sv наиболее простой способ доказательства состоит в изменении весовой функции v. Например, если выбрать некоторую периодическую орбиту в S и заменить v весовой функцией v1, которая равна 2v на этой орбите и равна v вне нее, тогда условие (•) будет выполняться и на Sv<, так как нетривиальное разветвленное накрытие Sv = С над S будет гиперболическим. Доказательство — как и выше. Сферический случай. Если бы Sv было конформно эквивалентно С, то S должно было бы совпадать со всей римановой сферой. Кроме того, композиция sv 4 sv projection> s Л s должна была бы совпасть с отображением проектирования, и все же ее степень должна быть строго больше, чем степень отображения проектирования. Таким образом, этот случай не реализуем, что и завершает доказательство теоремы 19.6. Ш Как следствие получаем другое доказательство 16.5. 19.8. Следствие. Если f субгиперболично без притягивающих периодических орбит и такое, что S совпадает совсей римановой сферой, то f является растягивающим относительно ее орбифолд- ной метрики на всей сфере. Следовательно, множество Фату пусто, и J(f) совпадает со всей сферой. В евклидовом случае более аккуратные рассуждения дают намного более точное описание субгиперболического отображения f. Чтобы описать геометрию на Sv, определим эйлерову характеристику орбифолда где суммирование производится по всем точкам a,j, для которых v{clj) ф — 1. (Здесь х(5) — обычная эйлерова характеристика, равная 2 — т, где т — число точек в дополнении С \ S.) Из леммы Е.4 легко следует, что универсальная накрывающая поверхность Sv является либо
254 Применение множества Фату к изучению множества Жюлиа сферической, либо гиперболической, либо евклидовой, согласно тому, является ли x(S, v) положительной, отрицательной либо равной нулю, соответственно. 19.9. Теорема. Если х(5, v) — 0, то f порождает линейный изоморфизм f(w) = aw + /3 евклидова накрывающего пространства Sv = С на себя. В этом случае множество Жюлиа является либо окружностью, либо отрезком, либо всей римановой сферой. Здесь коэффициент растяжения \а\ равен степени d, когда J одномерно, и равен y/d, когда J совпадает со всей сферой. Ср. с § 7. (Предостережение: сам коэффициент а не определяется однозначно, так как поднятие f в накрывающую поверхность определяется только с точностью до композиции с накрывающим преобразованием. Так как мы рассматриваем разветвленные накрытия, накрывающие преобразования могут иметь неподвижные точки, однако эти преобразования обязательно имеют вид w н-» a'w + /3f, где а' — некоторый корень из единицы.) Доказательство 19.9. Построим по орбифолду (5, v), связанному с субгиперболическим отображением f, новый орбифолд (S", /х) следующим образом. Пусть S' = f~1(S) — открытое множество S, из которого удалены все непосредственные прообразы притягивающих периодических точек. Определим /л = f* (v) no формуле ф) = v(f(z))/n(f, z), где га(/, z) — индекс ветвления. Из условия (•) следует, что /i(z) является целым числом, и /i(z) ^ u(z) для всех z Е S''. Очевидно, из этого следует, что X(S', /i) *С x(S, v), где равенство имеет место только если Sf = S и /х = v. Но, согласно лемме Е.2, поскольку отображение /: (S", ц) —>• (5, v) является «d-листным накрытием орбифолдов», оно порождает изоморфизм S' —У Sv универсальных накрывающих поверхностей, и в этом случае формула Римана - Гурвица принимает вид X(S', /i) = x(S, u)d.
§ 19. Гиперболические и субгиперболические отображения 255 Объединяя эти два утверждения, заключаем, что где равенство выполняется тогда и только тогда, когда S = f~1(S) и v — f*v. Так как d ^ 2, из этого следует другое доказательство соотношения х(5, v) ^ 0. Кроме того, отсюда следует, что евклидов случай x(S, v) — 0 реализуется тогда и только тогда, когда S = f~1(S) и v — f*v, так что f отображает (5, v) в себя, являясь при этом d-листным накрытием орбифолда. Таким образом, если Sv конформно евклидово, то f поднимается до линейного автоморфизма f(w) = aw + /3 универсальной накрывающей поверхности Sv = С. Кроме того, так как S вполне инвариантно относительно f, из леммы 4-6 следует, что дополнение C\S состоит не более, чем из двух точек. Рассмотрим три имеющихся возможности. Случай 0. Если S = С, то можно вычислять степень, интегрируя \\Dfz\\ no сфере. Действительно, используя (локально евклидову) орбифолдную метрику, заметим, что f отображает произвольную маленькую область с площадью А в область с площадью \а\2А. Интегрируя по S, мы видим, что степень d должна быть равна \а\2. Случай 1. Если S = С, то решая уравнение x№-) = i-E(^-')=». нетрудно проверить, что в данном случае имеются ровно две точки разветвления, обе с индексом v[z) — 2. Соответствующее универсальное накрывающее пространство изоморфно С с точками разветвления в целых числах; его накрывающими отображениями являются все линейные отображения вида w н-» ±w + m. Так как f должно отображать целые числа в целые, то отсюда легко следует, что f, с точностью до знака, является чебышевским отображением со степенью \а\, и его множество Жюлиа является отрезком. Случай 2. Если S = С\{0}? то точек разветвления нет, и поэтому f сопряжено с z \-л z±d. Таким образом, множество Жюлиа является окружностью, и снова d=\a\. Ш Другие локально связанные множества Жюлиа. Известно много других локально связных множеств Жюлиа. Здесь наиболее известный результат получен Йоккозом:
256 Применение множества Фату к изучению множества Жюлиа Множество Жюлиа квадратичного многочлена локально связно, если оно связно, не имеет точек Кремера или дисков Зигеля и не является бесконечно ренормируемым. (Ср. Хаббард 1993, Милнор 1992с.) Рациональное отображение называется геометрически конечным, если орбита каждой критической точки множества Жюлиа поглощается циклом. Напомним, что, согласно результатам §16, каждая критическая орбита из множества Фату должна сходиться к притягивающему или параболическому циклу. Таким образом, в геометрически конечном случае все критические орбиты очень строго контролируются. В частности, согласно Ц-4 и лемме 15.7, геометрически конечное отображение не может иметь точек Кремера, дисков Зигеля или колец Эрмана. Тан-Лей, Йин и Пилгрим доказали следующую, более точную, версию теоремы 19.6. Если f геометрически конечно, тогда каждая компонента связности его множества Жюлиа локально связна. Другой важный пример дает доказательство Петерсена для квадратичных дисков Зигеля ограниченного типа. (Ср. [Petersen 1996], а также [Yampolsky 1995].) Задачи Задача 19-а. Неблуждающее множество. По определению, неблуждающее множество непрерывного отображения f: X —у X — это замкнутое подмножество ft С X, состоящее из всех таких х Е X, что для каждой окрестности U точки х существует целое число к > О такое, что Uf]fok(U) ф 0. Покажите, используя результаты §^ и §16, что неблуждающее множество рационального отображения f является (дизъюнктным) объединением его множества Жюлиа, его областей вращения (если они существуют) и его множества притягивающих периодических точек. Задача 19-Ь. Аксиома А. В литературе о гладких динамических системах одномерное отображение1 называется удовлетворяющим аксиоме А Смейла тогда и только тогда, когда: (1) неблуждающее множество 1) разбивается на объединение замкнутого подмножества П+? на котором f является инфинитезималъно 1В больших размерностях (1) заменяется на предположение о том, что касательное векторное расслоение многообразия, ограниченное на fi, расщепляется в прямую сумму расслоений, на одном производная Df является растягивающим отображением, на другом — сжимающим.
§ 19. Гиперболические и субгиперболические отображения 257 растягивающим относительно подходящей римановой метрики, и подмножества £1~, на котором f является сжимающим, и (2) множество периодических точек всюду плотно в П. Покажите, что рациональное отображение гиперболично тогда и только тогда, когда оно удовлетворяет аксиоме А. Задача 19-с. Пример орбифолда. Покажите, что множество Жюлиа рационального отображения z и-» (l — 2/z)2n — это вся риманова сфера. Покажите, что для п > 1 орбифолдная метрика в этом примере гиперболична. Покажите, что для п = 1 имеет место евклидов случай, но не пример Латтэ. Задача 19-d. Евклидов случай. Покажите, что для любого субгиперболического отображения, для которого каноническая орбифолдная метрика является евклидовой, каждая периодическая орбита вне конечного посткритического множества имеет мультипликатор X, удовлетворяющий условию |А| = nvlb', где п — степень, р — период и 8 — размерность (1 или 2) множества Жюлиа. Задача 19-е. Растягивающие отображения. Рациональное отображение f называется растягивающим на окрестности своего множества Жюлиа, если существует такое е > 0, что для любых двух точек х ф у, чьи орбиты навсегда остаются в этой окрестности, существует некоторое к ^ О такое, что fok(x) и fok(y) отстоят друг от друга больше, чем на е. Покажите, используя результаты Суллива- на из §16, что это условие выполнено тогда и только тогда, когда f гиперболично. (Однако, отображение с параболическими неподвижными точками может быть растягивающим на самом множество Жюлиа.) Задача 19-f. Локально связные множества Жюлиа. Покажите, что если множество Жюлиа J локально связно, то оно связно. Докажите следующую теорему Торхорста: Если X С С компактно и локально связно, то граница каждой компоненты связности дополнения должна быть локально связной. (См. [Вайберн]; и сравните с доказательством 17. Ц). Докажите также, что диаметры компонент связности дополнения стремятся к нулю. (Приведем один возможный набросок доказательства: Пусть U — компонента связности С \ X с диаметром большим, чем 4е, при достаточно малом е. После поворота сферы можно предполагать, что U содержит точки, отстоящие от экватора на расстояние 2е в обоих полушариях, в северном и в южном. Тогда каждая параллель, отстоящая
258 Приложения от экватора на расстояние меньшее, чем е, должна пересекать U, по крайней мере, по одному отрезку, чьи конечные точки не могут быть соединены внутри X любым связным множеством диаметра меньше е. Пусть 8ц — минимальная длина такого отрезка. Тогда U имеет площадь A(U) ^ 2е8и- Теперь, если бы таких компонент связности U было бесконечно много, то их площади стремились бы к нулю, следовательно, числа Sjj также стремились бы к нулю, и X не было бы локально связным.) Приложение А. Теоремы классического анализа В этом приложении будут описаны различные теоремы из классической теории функций комплексного переменного. Вначале для завершения рассуждений теорем 11.Ц, 11.3 и 18.2 будут доказаны неравенство Йенсена и теорема братьев Рисов. Затем для доказательства теоремы Кёбе «об одной четверти» и для использования в приложении G будут описаны результаты теории однозначных функций, полученные Гронуоллом и Бибербахом. (По определению, функция одной комплексной переменной называется однозначной, если она голоморфна и инъектив- на.) Начнем обсуждение с неравенства Йенсена. (Дж. Л. У. В. Йенсен был президентом датской телефонной компании и известным математиком- любителем.) Пусть f: Ш) —у С — голоморфная функция, не равная тождественно нулю и определенная на открытом диске. Для любого радиуса О < г < 1 запишем среднее значение величины ln|/(z)| на окружности \z\ —r в следующей форме: 2тг A(f, г) = ^ Jln\f(reie)\de. О А.1. Лемма. (Неравенство Йенсена). Это среднее значение A(f, r) монотонно возрастает с ростом г и является выпуклой вверх функцией аргумента г. Следовательно, A(f, r) либо сходится к конечному пределу, либо стремится к бесконечности при г /* 1. На самом деле, будет доказано более точное утверждение. А.2. Лемма. A(f, r) как функция от Inr кусочно-линейна с наклоном dA(f, r)/dinr, равным числу корней функции f внутри диска Ш)г с учетом их кратности.
А. Теоремы классического анализа 259 8 частности, с точностью до аддитивной постоянной, функция A(f, r) определяется расположением корней функции f'. Для доказательства этой леммы вначале заметим, что на любом замкнутом контуре \z\ = г дифференциал угла можно записать в виде dO = dz/iz. Рассмотрим кольцо si — {z | г о < \z\ < г\}, не содержащее нулей функции f'. Согласно «принципу аргумента», значение интеграла 2т J KJK п 2т J f(z) \z\=r \z\=r равно числу нулей функции f внутри диска Шг. Поэтому разность \nf(z) — lnzn может быть определена как однозначная функция на этом кольце d. Следовательно, интеграл от (\nf(z) — \nzn)dz/iz no замкнутому контуру \z\ = г не зависит от г, если г о < г < г\. Значит, вещественная часть разности A(f, r) — A(zn, r) постоянна и не зависит от г. Поскольку A(zn, г) = nlnr, то функция lnr и- А(/, г) линейна с наклоном, равным п при го < г < г\. Наконец, заметим, что среднее A(f, r) корректно определено и конечно, даже когда на окружности \z\ = г существует нуль функции f, поскольку ln|/(z)| имеет умеренную особенность в нуле. (Например, неопределенный интеграл jh\\x\dx = ж1п|ж| — х непрерывен, как функция точки х.) Доказательство непрерывности A(f, r) в случае, когда аргумент г проходит такую особенность, несложно и оставляется читателю. Ш А.З. Теорема Ф. и М. Рисов. Пусть /: Ш) —>• С ограничена и голоморфна на открытом единичном диске. Если радиальный предел lim f(reie) существует и принимает некоторое постоянное значение со для 9 Е Е С [0, 2-к], где мера Лебега множества Е положительна, то f тождественно равна со- (Ср. обсуждение теоремы Фату в 17.3.) Доказательство. Без ограничения общности можно считать, что со = 0. Пусть Е(е, 8) — измеримое множество, состоящее из всех таких в Е Е, что \f(rel0)\ < г, как только 1 — S < г < 1.
260 Приложения Очевидно, что для любого наперед заданного е объединение семейства расширяющихся с убыванием 8 множеств Е(е, 8) содержит Е. Следовательно, мера Лебега 1(Е(е, 8)) должна стремиться к пределу I*, который удовлетворяет неравенству I* ^ 1(E) при 8 \ 0. В частности, для любого заданного е можно выбрать такое 8, что £(Е(е, 8)) > 1(E)/2. Теперь рассмотрим среднее A(f, г) из неравенства Йенсена, где г > 1 — — 8. Домножив при необходимости функцию f на постоянную, можно полагать, что \f(z)\ < 1 для всех z Е Ш). Следовательно, \п\/(гегв)\ не превосходит нуля всюду и не превосходит In г на множестве меры не менее 1(E)/2. Отсюда следует, что 2nA(f, г) < Ы(е)£(Е)/2, как только г достаточно близко к 1. Поскольку е может быть выбран сколь угодно малым, то lim A(f, r) = —оо? что противоречит лем- ме А.1, если f не равна нулю тождественно. ■ Рассмотрим теперь следующую ситуацию. Пусть К — связное компактное подмножество С, и пусть дополнение С\К конформно диф- феоморфно дополнению С \ Ш). А.4- Лемма. (Формула Гронуолла для площади). Пусть ф: С\Ш) —>• С\К — конформный изоморфизм с разложением в ряд Лорана ф(ио) = b\w + bo + b-i/w + Ъ-2/w2 + ... Тогда 2-мерная мера Лебега множества К определяется по формуле: агеа(/С)=7г^п|&„|2 = 7г(|&1|2-|Ь_1|2-2|&_2|2-...)• Доказательство. Для любого г > 1 рассмотрим образ окружности \w\ = г под действием ф. Это будет некоторая вложенная в С окружность, ограничивающая область, площадь которой обозначим через А(г). Эту площадь можно вычислить по формуле Грина следующим образом. Пусть ф(гегв) = z = х + гу, тогда A(r)=<[xdy = -Ldx = ±hdz,
А. Теоремы классического анализа 261 где интегрирование происходит вдоль образа \w\ = г. Подставляя ряд Лорана z — ^ bnwn, где w = гпепгв, получаем A(r) = i Y1 пЪтЪпгт+п <f> e{n-m)iedO. га, n^l Поскольку такие интегралы равны 2п, если т = п, и нулю в противном случае, то А(Г)=7Г5>|Ы2Г2". Теперь, переходя к пределу при г \1, получаем требуемую формулу. Ш Замечание 29. * К сожалению, трудно получить какую-либо оценку скорости сходимости этого ряда. Если множество К имеет очень сложную форму, то интуитивно кажется правдоподобным, что члены очень высоких порядков будут сильно влиять на скорость сходимости. В качестве простых следствий из леммы А.4 получаем неравенство: оо |6i|2^X)m|b-m|2, 1 а также А. 5. Следствие. (Неравенство Гронуолла). Пусть К и ф{гю) = ^2 bnWn такие, как и выше, тогда \b±\ ^ \b-i\, причем равенство здесь выполнено тогда и только тогда, когда К — прямолинейный отрезок. Доказательство. Поскольку area(lf) ^ 0, то \bi\ ^ |b-i|. Кроме того, если здесь выполнено равенство, то все оставшиеся члены должны быть равны нулю: Ъ-2 = Ь_з = ... = 0. После поворота w-плоскости и линейного преобразования координаты z — ф(гю) ряд Лорана упростится до z = w + w~x. Как было отмечено в § 7, это преобразование диффеоморфно переводит С \ Ш) на дополнение к отрезку [—2, 2]. ■ Рассмотрим теперь конформно изоморфное открытому диску открытое множество U С С, содержащее начало координат.
262 Приложения А. 6. Лемма. (Неравенство Бибербаха). Если ф: Ш) —>• U — конформный изоморфизм с разложением в степенной ряд ф(г)) = = = ^2 апг]п, то |аг| ^ 2|ai|? причем равенство здесь выполнено тогда и только тогда, когда C\U — замкнутая полупрямая, продолжение которой содержит начало координат. Замечание 30. * Доказанная де Бранжем гипотеза Бибербаха утверждает, что \ап\ ^ n|ai| для всех п. Как и выше, равенство справедливо, если С \ U — замкнутая полупрямая, продолжение которой содержит начало координат, например, если ф(г)) = r\ + 2rj2 + З773 + + ... = q/(l -Vf. Доказательство леммы А.6. Рассмотрев композицию ф с линейным преобразованием, можно считать, что а\ — 1. Положим г\ — 1/w2 так, что любая точка г\ ф О в Ш) соответствует двум точкам ±w E С\В. Аналогично, положим ф(г]) = С = 1/^2 так, чтобы любая точка ( ф О в U соответствовала двум точкам ±z в некоторой центрально симметричной окрестности N бесконечно удаленной точки. Простые вычисления показывают, что ф соответствует ряду Лорана w н-» z = 1/\/ф(1/ги2) = w — Ь (старшие члены), диффеоморфно отображающему С \ Ш на N. Следовательно, согласно неравенству Гронуолла, |а,21 ^ 2, причем равенство выполнено тогда и только тогда, когда N — дополнение прямолинейного отрезка с центром в начале координат. Выражая это условие на N в терминах координаты £ = l/z2, мы видим, что равенство выполнено в том и только том случае, если U — дополнение полупрямой, продолжение которой содержит начало координат. ■ АЛ. Теорема. (Кёбе-Бибербах). Пусть снова rj н-» ф(г]) = airj + a2rj2 + ... диффеоморфно переводит единичный диск Ш) на открытое множество U С С Тогда расстояние г между началом координат и границей множества U удовлетворяет следующим оценкам:
А. Теоремы классического анализа 263 Здесь первое неравенство превращается в равенство тогда и только тогда, когда C\U — замкнутая полупрямая, продолжение которой содержит начало координат, а второе неравенство превращается в равенство тогда и только тогда, когда U — диск с центром в начале координат. В частном случае а\ — 1 открытое множество U = ф(Щ обязательно содержит диск ID1/4 с радиусом 1/4 и центром в начале координат так, что отображение ф~х: Ш1/4 —>• В корректно определено и однозначно. Левое неравенство было сформулировано и частично доказано Кёбе, и позже полностью доказано Бибербахом. Правое неравенство легко следует из леммы Шварца. Доказательство теоремы А.7. Без ограничения общности можно считать, что а\ — 1. Пусть zo Е 8U — ближайшая к началу координат граничная точка, и это минимальное расстояние от zo до нуля равно г. Нужно доказать, что 1/4 ^ г ^ 1. Рассмотрим композицию ф с дробно-линейным преобразованием z н-» z/(l — z/zo), переводящем zo в бесконечно удаленную точку. Тогда эта композиция имеет вид г] ^ ф(г))/(1 - il>(fl)/z0) = г] + (а2 + l/z0)r)2 + ... Согласно теореме Бибербаха, |а,21 ^ 2 и |аг + 1/^о| ^ 2, значит \l/zo\ = = 1/г ^ 4 или г ^ 1/4. Здесь равенство выполняется только при |аг| = = 2 и \а,2 + 1/zo| = 2. Отсюда легко вытекает описание множества U. С другой стороны, предположим, что г ^ 1. Тогда обратное отображение ф~х определено и голоморфно на единичном диске Ш) и принимает значения в Ш). Поскольку производная обратного отображения в нуле равна 1, то из неравенства Шварца следует, что ф — тождественное отображение, и г = 1. ■ Приведем интересную переформулировку теоремы А.7 об одной четверти. Пусть ds = p(z)\dz\ — метрика Пуанкаре на открытом множестве U, и пусть г = r(z) — расстояние между точкой z и границей множества U. А.8. Следствие. Если U С С односвязно, то метрика Пуанкаре ds = /o(z)|dz| на U согласована с метрикой \dz\/r(z) в каждом
264 Приложения направлении с точностью до умножения на 2. То есть -J- «С P(Z) 4: -^Т для всех z Е U. Как и выше, левое неравенство превращается в равенство тогда и только тогда, когда C\U — замкнутая полупрямая, продолжение которой содержит точку z Е U, правое неравенство превращается в равенство тогда и только тогда, когда U — диск с центром в точке z. Справедливость следствия А.8 вытекает из того, что можно выбрать отображение ф: Ш) —>• U, переводящее начало координат в любую наперед заданную точку множества U, и из того, что метрика Пуанкаре в центре Ш) равна 2\dr]\. Ш Например, если U — верхняя полуплоскость, то метрика Пуанкаре согласована с метрикой \dz\jr. В завершение приведем задачу, адресованную читателю. Задача А-1. Площадь заполненного множества Жюлиа. Из леммы А.4 следует, что для точки с из множества Манделъброта площадь А(с) заполненного множества Жюлиа для отображения z н-» z2 + c может быть выражена как сумма ряда 7r(|&i|2 — |&-i|2 — 3|6_з|2 — ...). Покажите, используя равенство ф(гю2) = (ф(ы))2 +с из (9:5), что каждый коэффициент Ьп полиномиально зависит от с, причем Ьп = 0, при четных п. Покажите, что функция с н-» А(с) полунепрерывна сверху. (Ср. 11.15.) Приложение В. Неравенства длин-площадей-модулей Сначала мы изучим конформную геометрию прямоугольника. Пусть R = [0, Ах] х [0, Ау] — замкнутый прямоугольник с внутренностью R = (0, Ах) х (0, Ау) в плоскости комплексного переменного z = x + iy. Будем называть конформной метрикой на R метрику вида ds = p(z)\dz\,
В. Неравенства длин-площадей-модулей 265 где z \-^ p(z) > О — строго положительная, вещественнозначная функция, определенная и непрерывная всюду в открытом прямоугольнике. В терминах этой метрики длина гладкой кривой j: (а, Ь) —>• R определяется, как интеграл ь Ър(7) = J p(7(t))\d7(t)\, а а площадь области U С R определяется, как ^p{U) = jj{p{x + iy)fdxdy. и В частном случае евклидовой метрики ds = \dz\, когда p(z) тождественно равна единице, индекс р не будет указываться. В.1. Основная лемма. Если площадь area/0(.R) конечна, то для почти всех, в смысле меры Лебега, значений у Е (О, Ау) длина Ър(г)у) горизонтальной линии r\y : t и-» (£, у) конечна. Кроме того, существует такое у, что выполняется неравенство КШ ^ areap(i?) (Ах)2 < АхАу (В:1) Множество всех таких у Е (О, 1), для которых это неравенство выполняется, имеет положительную меру Лебега. Замечание 31. * Легко видеть, что Ах равно L(rjy) в евклидовой метрике, а произведение АхАу равно площади area(i2) этого прямоугольника в той же евклидовой метрике. Очевидно, что неравенство
266 Приложения (В:1) является наилучшим возможным, поскольку в случае евклидовой метрики при р = 1 обе его части равны +1. Доказательство леммы В.1. Используем неравенство Шварца j f{x)g{x)dx J «С f I f(x)4x J • 11 g(x)2dx J , Va / \a / \a / смысл которого состоит в том, что скалярное произведение любых двух векторов в евклидовом пространстве, интегрируемых с квадратом функций, не превосходит произведения норм этих векторов. Полагая f(x) = 1 и g(x) = р(х, у) при некотором фиксированном у, имеем 'Ах \* Ах / р(х, y)dx I ^ Ах / (р(х, y))2dx или, иными словами, Ах Ъ2р(щ)^ Ах J(p(x,y))2dx для каждой постоянной у. Интегрируя это неравенство по интервалу О < у < А и деля его на Ау, мы получаем Ау ± J L2p(Vy)dy <С ||агеа„(Д). (В : 2) О Иными словами, среднее значение Ъ2р(г)у) на интервале (О, Ау) не превосходит -r^area/0(.R). Дальнейшие этапы доказательства очевидны. ■ Склеив левое и правое ребро прямоугольника, получим цилиндр С, у которого длина окружности равна Ах, а высота Ау. (Цилиндр С может быть также описан, как риманова поверхность, полученная из бесконечной полосы О < у < Ау комплексной плоскости, при отождествлении любой точки z = х + гу с точкой х + Ах + гу. Ср. задачу 2-f.)
В. Неравенства длин-площадей-модулей 267 Определения. Модулем такого цилиндра С = (R/(ZAx)) х (0, Ау) называется отношение mod(C) = Ay /Ax > О высоты к длине окружности его основания. Индексом вращения замкнутой кривой 7 в цилиндре С будет называться целое число w Ах dx. В.2. Теорема. (Неравенство длин-площадей для цилиндров.) Для любой конформной метрики p(z)\dz\ на цилиндре С существует простая замкнутая кривая j с индексом вращения +1, длина которой Jjp(j) = § p{z)\dz\ удовлетворяет неравенству L^KareMO/modfC). (В:3) Кроме того, этот результат является наилучшим из возможных. В евклидовой метрике \dz\ для любой такой кривой j справедливо неравенство L£(7)^areap(C)/mod(C). (В: 4) Доказательство. Как и в доказательстве леммы В Л, найдется такая горизонтальная кривая rjy, что Т2/ ч ^ Ах (пЛ агеар(С) Lp(Vy) < ^агеаДС) = —^.
268 Приложения С другой стороны, в евклидовом случае для любой замкнутой кривой j с индексом вращения +1 имеем L(7) = f \dz\ ^ Ф dx = Дж, следовательно, L2(7) ^ (Дж)2 = area(C)/mod(C). ■ Определения. Риманова поверхность называется кольцом, если она конформно изоморфна некоторому цилиндру. (Ср. § 2.) Вложенное кольцо А С С называется существенно вложенным, если оно содержит кривую, у которой индекс вращения в С равен 1. Отсюда вытекает важное следствие теоремы В-2. В.З. Следствие. (Неравенство длин-площадей.) Пусть А С С — кольцо, существенно вложенное в С. Предположим, что А конформно изоморфно цилиндру С а, тогда mod(CU) агеа(А) ТТТ^Г ^ 77л ^ L (B : 5) mod(C) area(C) Отсюда, в частности, следует, что mod(CA) ^ mod(C). (В : 6) Доказательство. Пусть ( н-» z — вложение С а на А С С. Ограничение на А евклидовой метрики \dz\, заданной на С, поднимается до некоторой конформной метрики p(C)\dC\ на С а, где р(£) = \dz/d(\. Согласно теореме В.2, б С а существует кривая Y с индексом вращения 1, у которой длина удовлетворяет неравенству L2(7,)^areap(CfA)/mod(CfA). Эта длина совпадает с евклидовой длиной L(j) соответствующей кривой j в А С С, и агеаДСл) совпадает с евклидовой площадью агеа(А)? значит, последнее неравенство можно переписать следующим образом: L2(7) ^ area(A)/mod(CU).
В. Неравенства длин-площадей-модулей 269 Но, согласно (В:4), имеем area(C)/mod(C) ^ L2(7). Объединяя эти два неравенства, получаем area(C)/mod(C) ^ area(A)/mod(C^), что равносильно требуемому неравенству (В:5). Ш В.4- Следствие. Если два цилиндра конформно изоморфны, то их модули совпадают. Доказательство. Если С конформно изоморфен С', то, согласно формуле (В:6), выполнены два неравенства mod(C") ^ mod(C) и, аналогично, mod(C) ^ mod(C"). ■ Отсюда следует, что модуль кольца А может быть определен, как модуль любого конформно изоморфного ему цилиндра. Если А существенно вложено в некоторое другое кольцо А!, то, согласно формуле (В:6), mod(A) ^ mod(A'). В.5. Примеры. Если Аг — кольцо, состоящее из всех «jGC таких, что 1 < \w\ < г, то отображение z — г ln(w)(mod27r) конформно переводит Аг на цилиндр с длиной окружности 2п и высотой 1п(г). Значит, mod(Ar) = 1п(г)/2тг. С другой стороны, если построить кольцо А из верхней полуплоскости Ш, отождествляя w с kw для некоторого к > 1, то отображение z — ln(w)(modln(fc)) переводит А на цилиндр с длиной окружности ln(fc) и высотой 7г. Следовательно, mod(IHI/(w; = kw)) = 7r/ln(fc). В.в. Следствие. (Неравенство Грётша.) Пусть А1', А" С А — два непересекающихся, существенно вложенных в А кольца. Тогда mod(A') + mod(A") ^ mod(A). Доказательство. Можно считать, что А совпадает с цилиндром С. Тогда, согласно формуле (В:6), mod(A') area(A') mod(A") агеа(А") mod(C) ^ area(C) ' mod(C) ^ area(C)
270 Приложения где все площади евклидовы. Теперь справедливость утверждения вытекает из неравенства area(A') + area(A") ^ агеа(С). Рассмотрим теперь плоский тор Т = С/Л. Здесь Л С С — двумерная решетка, то есть аддитивная подгруппа комплексных чисел, порожденная двумя комплексными числами Ai, A2 такими, что А1/А2 ^ М. Пусть А С Т — вложенное кольцо. «Индексом вращения» кольца А в Т будем называть элемент решетки w Е А, построенный следующим образом. При универсальном накрывающем отображении С —>• Т центральная окружность А поднимается в криволинейный отрезок, соединяющий некоторую точку zo Е С с точкой zo + w, где w — искомый элемент решетки. Будем говорить, что А С Т существенно вложенное кольцо, если w ф 0. В. 7. Следствие. (Неравенство Берса.) Если кольцо А вложено в плоский тор Т = С/Л с индексом вращения w Е А, то mod(A) <С -r^1. (В : 7) N Грубо говоря, если А оборачивается много раз вокруг тора так, что \w\ велико, то это кольцо А должно быть очень тонким. Несколько усиленная вариация этого неравенства дана ниже в задаче В-3. Доказательство. Выберем цилиндр С конформно изоморфный А. Евклидова метрика \dz\ на А С Т соответствует некоторой метрике p{Q\dC\ на \С'\ такой, что агеаДС") = агеа(А). Согласно теореме В.2, на С найдется такая кривая Y с индексом вращения 1 на С или соответствующая кривая на А С Т, что ■2/ Т2/ /\ ^ агеаДС") area(A) ^ агеа(Т) L2W = WK—^tv = —^ mod(C') mod(4) mod(A) ^о/ш теперь поднять 7 в универсальное накрытие С, то поднятая кривая соединит некоторую точку Zq с точкой Zq + w. Следовательно,
В. Неравенства длин-площадей-модулей 271 евклидова длина L(j) должна удовлетворять неравенству L(j) ^ \w\ Значит, , ,9 агеа(Т) mod(A)' что эквивалентно требуемому неравенству (В:7). ■ Теперь рассмотрим следующую ситуацию. Пусть U С С — ограниченное односвязное открытое множество, и К С U такое компактное подмножество, что А = U\K — топологическое кольцо. Как отмечено в § 2, такое кольцо должно быть конформно изоморфно конечному или бесконечному цилиндру. По определению, модуль бесконечного цилиндра, то есть цилиндра бесконечной высоты, равен нулю. (Такой бесконечный цилиндр может быть либо бесконечным в одну сторону, конформно изоморфным проколотому диску, либо бесконечным в обе стороны, конформно изоморфным проколотой плоскости.) В.8. Следствие. Предположим, что, как и выше, К С U. В этом случае К состоит из одной точки тогда и только тогда, когда модуль кольца А = U \ К равен бесконечности. Кроме того, диаметр К имеет следующую оценку сверху 4diam2(К) ^ -^ ^ -5-f В : 8 Доказательство. Согласно теореме В.2, в А существует кривая с индексом вращения, равным 1, у которой длина удовлетворяет неравенству L2 ^ ^ area(A)/mod(A). Поскольку К содержится в области, ограниченной этой кривой, то легко проверяется, что diam(i^) ^ L/2? откуда и следует неравенство (В:8). Обратно, если К — одноточечное множество, то из формулы (В: 6) легко следует, что mod (A) = ос. ■ Следующие идеи принадлежат МакМюллену. (Ср. [Бреннер -Хаб- бард, 1992].) Из изопериметрического неравенства следует, что площадь области, ограниченной плоской замкнутой кривой длины L, не превосходит L2/(47r)? причем равенство выполняется в том и только в том случае, когда кривая — окружность. (См. напр. [Курант и Роб- бинс].) Объединив это замечание с вышеприведенными рассуждениями, получаем /^ч . L2 агеа(А) 47Г ^ 47rmod(A)'
272 Приложения Переписав это неравенство в виде 47rmod(A) ^ area(A)/area(lf) и прибавив +1 к обеим его частям, получаем следующее равносильное неравенство: 1 + 47rmod(A) ^ area(C/)/area(K), или, иными словами, area(K) <С -^Щ—. (В : 9) 1 + 4тг mod(A) Это неравенство может быть усилено следующим образом: В. 9. Следствие. Неравенство МакМюллена. Если А = U\K, как и выше, то area(K) <С area(*7)/e47rmod(A). Доказательство. Разобьем кольцо А на п концентрических колец Ат так, чтобы модуль каждого Ат был равен mod (А) /п. Пусть Кт — ограниченные компоненты связности дополнений к Ат; предположим, что эти кольца вложены друг в друга в следующем смысле: Ат U Кт = Кт+\, где К\ — — К, и пусть Kn+i = AUK = U. Тогда, согласно формуле (В:9), имеем area(lfm+i)/area(lfm) ^ 1 + 47rmod(A)/n и, следовательно, агеа(С/)/агеа(К) ^ (1 + 47rmod(A)/n)n, где правая часть сходится к e4nmod(A) npU п —> ос. ■ Задачи Задача В-1. Большинство горизонтальных линий коротки. Покажите, что в условиях леммы В.1 для единичного квадрата [О, 1] х [0, 1] больше половины горизонтальных кривых г\у имеют длину ^piVy) ^ у/2агеа/0(/2). (Здесь «больше половины» означает «в смысле меры Лебега».) Задача В-2. Определение модуля с помощью теории потенциала. Напомним, что вещественнозначная функция и, заданная на
С. Вращения окружности, цепные дроби 273 римановой поверхности, называется гармоничной тогда и только тогда, когда и может быть представлена локально в виде вещественной части комплексной аналитической функции и + iv. В этом случае сопряженная вещественнозначная функция v, с точностью до аддитивной постоянной, корректно определена в малой окрестности любой точки. Покажите, что в случае цилиндра С в условиях теоремы В.2 существует единственная гармоническая функция и: С —>• Ж такая, что и(х + + гу) —>• 0 при стремлении х + iy к нижней границе квадрата у = О, и и(х + гу) —у 1 при стремлении х + гу к верхней границе. Фактически, эта функция задается формулой и(х + гу) = у/Ау. Покажите, что если индекс вращения кривой j на С равен +1, то г Ф d(u + iv) = Ф d(x + iy)/Ay = -гт^г. 7 7 Задача В-3. Усиленное неравенство Берса. Покажите, что если плоский тор Т = С/Л содержит несколько непересекающихся колец Ат с одинаковыми индексами вращения w G А, то ^mod(Am) ^ агеа(Т)/И2. Покажите, что если два существенно вложенных кольца не пересекаются, то их индексы вращения совпадают. Задача В-4. Критерий Браннера-Хаббарда. Пусть К\ D DK2 D K% D ... такая последовательность компактных подмножеств С, что любое Kn+i содержится во внутренности Кп. Пусть, кроме того, каждая внутренность К% односвязна, и разность Ап = К% \ Кп+\ яв- оо ляется кольцом. Покажите, что если ^ mod(An) бесконечна, то пе- 1 ресечение f] Kn состоит из одной точки. Покажите, что обратное утверждение неверно: из одноточечности пересечения f] Kn не следует оо бесконечность суммы ^mod(An). (Начать это доказательство мож- 1 но с рассмотрения открытого единичного диска Ш) и замкнутого диска Ш) радиуса 1/2 с центром в точке 1/2 — е. Покажите, что mod(ID) \ Ш) ) стремится к нулю при е \ 0.)
274 Приложения Приложение С. Вращения окружности, цепные дроби и рациональная аппроксимация Рекуррентность отображений является важнейшим предметом исследований во многих разделах динамики. Как часто и насколько близко возвращается орбита в окрестность своей начальной точки? В случае иррациональных вращений окружности на этот вопрос удается получить довольно точный ответ, основанный на классической теории чисел. Описание возникающей здесь ситуации оказывается полезным не только в голоморфной динамике, но также и в небесной механике, и других разделах математики, в которых появляется проблема «малых знаменателей». Пусть S1 С С — единичная окружность, состоящая из всех комплексных чисел с единичным модулем. Фиксируем некоторое A Е S1 и рассмотрим динамическую систему z \-^ Xz для z Е S1. Поскольку любые две ее орбиты изометричны относительно вращения окружности, достаточно изучить орбиту единицы Ы А н А2 ^ А3 ^ ... Нас будет особенно интересовать случай, когда Л не является корнем из единицы, то есть когда орбита не содержит периодических точек. На рисунке 40 изображен типичный пример, показывающий несколько первых точек орбиты. Для упрощения рисунка каждая точка Xk обозначена на нем через к. Определение 31. * Будем говорить, что последовательность А1, А2, А3, ... близко возвращается к Л° = 1 за время q, если Xq ближе к единице, чем любой из предшествующих ему элементов орбиты: \Хк - 1| > \Xq - 1| при всех 0<k<q. Рисунок 40 иллюстрирует вращение с близкими возвращениями при q = = 1,6,7,(27,...). Как обычно, окружность можно представлять не только ее мультипликативной моделью S1 = {Л G С | |Л| = 1}, но и с помощью ее аддитивной модели Ж/Ъ. Обе они связаны следующим образом: £ G R/Z соответствует X = е2пг^ G S1. Поэтому рассматриваемая нами проб-
С. Вращения окружности, цепные дроби 275 Рис. 40. Последовательные точки орбиты, соответствующей вращению на угол £ и 0,148... лема эквивалентным образом сводится к изучению динамической системы х \-^ (х -\- £)(modZ) с типичной орбитой 0 н+ f = f 1 н+ & н+ 6 Н+ где & = fcf E R/Z. Любая пара различных точек £, r\ Е M/Z разбивает окружность M/Z на две дуги, сумма длин которых равна единице. Определим для удобства норму как длину кратчайшей дуги между нулем и £? полагая ||£|| = 0 тогда и только тогда, когда £ = 0. Норма ||£ — 771| определяется, как длина кратчайшей дуги между £ и г\, или, иными словами, как риманово расстояние между £ и г\ на окружности. Отметим тождество Ыт -£j\\ = ||€|m-j|||5
276 Приложения а также где |е2-«- 1|=2 8ш(*г||Ш, 4||£|| ^|е2-«- 1|^2тг||£||. (С:1) Поскольку функция ||£|| н-» 2sin(7r||£||) строго монотонна, то последовательность X1, А2, ... близко возвращается к единице за время q тогда и только тогда, когда последовательность £i, £25 ••• близко возвращается к нулю за время q, и, таким образом, ШII > 116/11 при всех 0 <k <q. Для удобства перенумеруем времена близких возвращений, как 1 = q\ < q2 < ..., и обозначим через dn = \\£qn\\ расстояние от нуля до п-го близкого возвращения. Если £ иррационально, то здесь, очевидно, получается бесконечная последовательность моментов близких возвращений 1/2 > ||f|| = di >d2 >d3 > ... ->0. С другой стороны, если £ = p/q рационально, эта последовательность должна закончиться на т-м своем члене qm — q,u поэтому 1/2 ^ ||£|| = d1 >d2 > ... > dm_i > dm = 0. Во всех случаях для любой точки £& такой, что qn ^ k < qn+i, должно выполняться неравенство \\£k\\ ^ dn > dn+i. d„ d„ d„ d„ <?n- qn-i+Qn qn-i+2qn <7n+l 0 Qn Рис. 41. Положения трех последовательных близких возвращений на содержащем нулевую точку интервале в R/Z при п^ 2с концами ^гг_1 и £gn в случае ап = 3. Зависящая от четности п ориентация может изменяться. Как и на предыдущем рисунке, каждая точка £*. на орбите для простоты обозначена своим номером к С.1. Лемма. Угол £ определяется с точностью до знака конечной или бесконечной последовательностью близких возвращений. Последовательность чисел является последовательностью времен близких возвращений тогда и только тогда, когда она имеет вид 1 = = qi < #2 < #з < • • •, и при этом qn+2 = tfn(modgn+i) для п ^ 1 и
С. Вращения окружности, цепные дроби 277 Qn+2 > Qn + Qn+i, если эта последовательность заканчивается на Чп+2- Доказательство леммы С Л основано на классическом алгоритме Евклида. Для любого вещественного числа О < х < 1 построим по индукции конечную или бесконечную последовательность а\, «2, «з, • • • положительных чисел, а также конечную или бесконечную последовательность х\, Х2, #з, ... остаточных членов. Начнем построение с хо = х и положим 1/хп = an+i + жп+1, (С : 2) где an+i Е Ъ и О ^ хп+\ < 1. Этот остаток хп+\ называется дробной частью frac(l/#n), а ап+\ называется целой частью int(l/#n). Если х иррационально, то и все числа хп также будут иррациональными, и в этом случае индуктивное построение продолжается бесконечно долго и часто представляется в виде бесконечной цепной дроби а± + х± 1 а\ Л : а\ Л а2+х2 а2 + +- 0>п + С другой стороны, если хо = х = p/q рационально, то х\ также рационально, и его знаменатель р строго меньше, чем q. Значит эта процедура закончится не более, чем за q шагов, ее результатом будет некоторое хп — 0, при этом хп-\ — 1/ап, а 1/хп не определено. В этом случае получается конечная цепная дробь Р = 1 q _l. 1 а2+ . # ' +1/ап где ап ^ 2. Для таких а\, а2, ... ^ 1 построим последовательности Ро? Pi? • • • и (/о? (/ъ ••• неотрицательных целых чисел, полагая ро = 1, pi=0, Pn+i = апрп + рп-г, (г-У\ Яо = 0, qx= l, qn+1 = anqn + #n-i-
278 Приложения Поскольку ап ^ 1, то Pn+i ^ 2рп_ь ^n+i ^ 2gn_i я/ж n ^ 2. Значит, последовательности {рп} и {qn} при п —> ос стремятся к бесконечности экспоненциально или еще быстрее. С помощью матричных обозначений уравнение (С:3) можно переписать в виде (С : 3') Рп Рп+1 Qn 1 Qn+i\ "0 1 1 ап Го |_i "0 1 1" 0>п_ 1 1 ап- ij \Pn-l [ Рп "О 1 Qn-i qn _ Г ai Определитель этой матрицы равен Рп^п+1 - tfnPn+1 = (-1)П- (С: 4) В частности, рп и qn взаимно просты, и поэтому каждая дробь pn/qn несократима. Умножив уравнение (С:2) на dn = #o#i.. .хп-\, имеем dn-i — a>ndn + ^n+i? (С : 2') где do = 1, d\ — х$. Обозначим для удобства еп = (—l)ndn, тогда уравнение (С:2') примет вид £п+1 — \0>п£п ~г £п—1' Сравнивая это уравнение с (С:3), получаем по индукции &п — Рп (Zn^O* В частности, dn = \рп — qnxo\, и поэтому хо = т, 7Г' гдее = {-1) ж0---жп_1. Чп Чп (С: 5) Поскольку 0 < жт < 1? то п Pi ^ Рз Рб ^ ^ ^ ^ Ре ^ Ра ^ Р2 ^ Л °=^<^<^<---<Жо<-"<^<^<^<1-
С. Вращения окружности, цепные дроби 279 Используя (С:5) и (С:4), можно оценить ошибку приближения -^- = -^ Pn+l Qn+i -Хо + Pn Чп Рп+1 Qn+i р^ qn QnQn+i' В частности, dm dm . dn+l _ 1 ^ qn qn "*" qn+i ~ qnQn+i ~qn >dn или, иными словами, dn < Qn+i <2dn. (C:6) Значит dn при n —> oo стремится к нулю, по меньшей мере, экспоненциально, в частности, отсюда следует, что последовательность pn/qn сходится к х$. Обозначим через \\qx$\\ расстояние от qxo до Ъ, то есть минимальное по всем целым р значение \qxo — р\. С. 2. Теорема. Для любого п такого, что 1 ^ qn < qn+i, число qn+i является минимальным целым положительным числом, для которого \\qxo\\ < \\qnxo\\- Доказательство основано на следующем утверждении. С.З. Лемма. Пусть ЛсМ2 — аддитивная подгруппа, порожденная вектором v = (vi, ^2)? лежащим в первом квадранте, и вектором w = (wi, W2) из второго квадранта, для которых w\ строго отрицательно, a v\, V2, w2 — положительны. Тогда неравенства wi < щ < vi, и О < и2 < v2 + w2 (С: 7) определяют прямоугольник, в котором не содержится ни одного вектора и = (щ, и2) Е Л. Это можно проверить, положив, например, и = av + bw и разделив (а, Ь)-плоскость на четыре квадранта, соответствующих неравенствам а ^ О или а ^ 1, и Ъ ^ 0 или Ъ ^ 1. Легко проверить, что каждое из четырех неравенств (С:7) не выполняется в одном из этих квадрантов, и поэтому в совокупности эти неравенства не имеют общего решения.
280 Приложения Доказательство теоремы С.2. Пусть для определенности п четно. Положим v = vn и w = = vn+i - vn, где vn = (en, 9n) = (Pn ~ qnxo, qn)- Очевидно, что v лежит в первом квадранте, a w = (en+i — £п? Qn+i — — Qn) — в0 втором. Для этих векторов неравенства (С:7) принимают вид < и\ < еп и 0 < и2 < q-n+1- С другой стороны, из (С'4) следует, что порожденная векторами v г/w решетка Л состоит из всех пар вида (p—qxo, q) с целымир и q. Значит, не существует таких (р, q) Е Z2', для которых выполняются неравенства < р — qxo < еп и 0 < q < qn+i- Поскольку |sn+i — еп\ > \еп\, то каждая пара (р, q), для которой О < q < qn+i, удовлетворяет соотношению \р- qx0\ ^ |еп|, что и требовалось. В случае нечетного п доказательство аналогично, только вектора v и w меняются ролями. ■ Доказательство леммы С.1. Для данного £ Е M/Z положим хо = ||£|| Е [0, 1/2]. Тогда соответствующая цепная дробь определяет последовательность целых чисел ап ^ 1 и последовательность дробей pn/qn, сходящуюся к \\£\\, где dn = — \\qn€\\ имеет, согласно (С:6), величину порядка l/qn+i. Заметим, что а\ — int(l/^o) ^ 2, поскольку хо ^ 1/2, и что ап ^ 2, если последовательность чисел dj заканчивается числом ап. Согласно теореме С.2, целые числа 1 = q\ < а\ — q2 < q% < ... являются временами близких возвращений. Обратно, для заданной последовательности qn можно построить последовательности ап и рп и проверить, что £ = lim pn/qn п—юо разлагается в цепную дробь именно с такими коэффициентами, и потому имеет заданную последовательность времен близких возвращений. Ш Замечание 32. * Приведенное выше доказательство того, что последовательность qn в точности задает времена близких возвращений, зависит от выбора xq = ||£|| ^ 1/2. Число х'0 = 1 — xq будет иметь
С. Вращения окружности, цепные дроби 281 те же самые времена близких возвращений, но несколько иное разложение в цепную дробь. В самом деле, если О < хо < 1/2, то построенные для хо и х'0 целые числа qn и q'n связаны соотношением q'n+1 = qn для п ^ 1, где q[ = 1. С этими рассмотрениями тесно связаны вопросы «наилучшего» приближения иррационального числа х = хо рациональными числами. Например, если О < q < qn, то после деления неравенства \qx — р\ > > \qnx — Рп\ на q < qn получаем х - V q > х - Vn Qn Иными словами, pn/qn является наилучшей рациональной аппроксимацией числа х среди всех дробей, знаменатели которых не превосходят qn. Напомним, что в § 11 иррациональное число х было названо диофан- товым порядка к, если для некоторого е > О для всех рациональных чисел p/q или, иными словами, если точная нижняя грань произведений qk~1\qx-p\ строго положительна; здесь р и q целые, q > 0. Поскольку qk~1\qx-p\ >д£_1|д„ж-р„| для qn < q < qn+i, то, согласно теореме С.2, это эквивалентно отгра- ниченности от нуля последовательности произведений q^l~1\qnx — рп\, или, как следует из (С:6), тому, что отношения (/n+i/(/^-1 ограничены сверху. Пусть V(k) Cl\Q — множество всех иррациональных чисел, являющихся диофантовыми порядка к, и пусть Х>(2+) = р| ВД, Р(оо) = (J V(k). к>2 к<оо Таким образом, Т>(к) С Т>(£), если к < £, и V(2) С V(2+) С Р(оо).
282 Приложения С.4> Лемма. Хаусдорфова размерность дополнения (M/Z) \ V(k) не превосходит 2/к. Таким образом, множество (M/Z) \ £>(ос) ли- увиллевых чисел имеет нулевую хаусдорфову размерность. Доказательство. Как и в доказательстве леммы 11.7, если £ ^ Т>(к), то для каждого е > О существует дробь p/q, для которой |£ — p/q\ ^ e/qk. To есть такое число £, которое принадлежит объединению интервалов общей длины 2e/qk. Для любого q существует в точности q возможностей выбора p/q(modZ), то есть объединение соответствующих интервалов имеет общую длину 2e/qk~1. При к > 2 суммирование по всем q дает конечную оценку сверху 2е ^ \/q^~x этой общей длины. При е —> О эта величина стремится к нулю. Предположим теперь, что вместо суммирования длин всех этих интервалов мы суммируем величины этих длин, возведенные в некоторую степень d. Если d > 2/к, то аналогичные рассуждения показывают, что сумма ^2q(2s/qh)d = (2s)d^2q1~hd конечна и стремится к нулю при е —> 0. Поэтому хаусдорфова размерность (M/Z) \ T>(k) не превосходит 2/к. Из рассмотрения пересечения таких множеств при к —>• ос следует, что хаусдорфова размерность (M/Z) \ £>(ос) равна нулю. Ш Приведем дополнительное утверждение. С. 5. Лемма. Множество V(2) диофантовых чисел ограниченного типа имеет меру нуль. (Намного более сильное утверждение сформулировано в задаче С~4-) Доказательство леммы С. 5 основано на некоторых элементарных фактах теории чисел. Будем говорить, что две рациональные дроби p/q < р'/q' являются последовательными членами ряда Фарея, если в интервале, ограниченном этими рациональными числами, не существует рациональных чисел r/s, знаменатели которых удовлетворяют неравенству s ^ max((/, q'). Это эквивалентно равенству А = р'q — q'p = +1, откуда следует, что для таких рациональных чисел Чтобы в этом убедиться, рассмотрим в плоскости Ж2 решетку (дискретную аддитивную подгруппу), натянутую на векторы ((/, р) и
С. Вращения окружности, цепные дроби 283 ((/'? Pf)> угловые коэффициенты которых равны p/q и р' /q', соответственно. Состоящий из всевозможных линейных комбинаций а(р, q) + + P(pf, q'), 0 ^ а, /3 < 1 параллелограмм Р образует фундаментальную область этой решетки, то есть его образами при параллельных переносах можно замостить всю плоскость. Площадь этой фундаментальной области Р равна определителю А, а также равна количеству содержащихся в Р точек с целочисленными координатами (s, г). Значит, внутренность Р содержит точку (s, г) с целыми координатами тогда и только тогда, когда А > 1. Соответствующий этой внутренней точке угловой коэффициент r/s заключен строго между p/q up' /q'. Кроме того, заменив в случае необходимости а и /3 на 1 — а и 1 — /3, можно считать, что s ^ (q + q')/2 ^ max((/, q'). Доказательство леммы С.5. Пусть I — любой интервал на вещественной оси, имеющий концы в рациональных точках и длину 1(1). Для данного рационального числа О < е < 1 ниже будет построено объединение содержащихся в I меньших интервалов, у которых общая длина не превосходит (l-e)l(I), и таких, что каждое £ Е I, удовлетворяющее оценке |£ - p/q\ > e/q2 при всех p/q, (*e) принадлежит одному из этих меньших интервалов. Итерируя эту конструкцию п раз для каждого из таких меньших интервалов, можно установить, что мера Лебега множества всех таких f Е I, для которых выполняется условие (*£), не превосходит (1 — е)п£(1). Поскольку эта величина стремится к нулю при п —у оо? пересечение I П Т>(2) имеет меру нуль. Объединение меньших интервалов строится следующим образом. Рассмотрим для начала случай, в котором концы p/q и р'/q' интервала I являются соседними в ряду Фарея, то есть когда 1(1) = l/(qq'). Пусть интервал V получен из I удалением е/q2 -окрестности точки p/q и е/(q1)2 -окрестности точки р'/q'. Очевидно, что любая точка £ Е I, удовлетворяющая условию (*е), должна принадлежать интервалу V', который либо пуст, либо имеет длину 1(f) = £(1) - e/q2 - e/(q')2 < l(I){\ - е), что и требовалось. В более общем случае, когда 1(1) > l/(qqf), рассуждение проводится следующим образом. Пусть т = max((/, q'), рассмотрим ряд Фарея,
284 Приложения состоящий из всех принадлежащих интервалу I дробей р" /q" таких, что q" ^ т. Эти точки делят интервал I на меньшие интервалы Д, ... , In, У каждого из которых концы являются последовательными членами ряда Фарея. Применив вышеизложенное построение к каждому из интервалов Ij, мы получаем утверждение теоремы С. 5. Ш Задачи Задача С-1. Покажите, что в простейшем случае а\ — а2— ... = 1 числа Ш = {Pn+i} = {О, 1, 1, 2, 3, 5, 8, 13, 21, ...} образуют последовательность чисел Фибоначчи. Выведите асимптотическую формулу qn ~ 7n/v/5 при п —> оо? покажите, что pn/qn —> I/7? где 7 = (л/5 + 1)/2. Покажите, что этот частный случай соответствует самому медленному возрастанию последовательностей {рп} и tin}- Задача С-2. Покажите, что число х Е M\Q является корнем квадратного уравнения с целыми коэффициентами тогда и только тогда, когда последовательность чисел ai, аг, ... из его разложения в цепную дробь с некоторого номера оказывается периодической. Задача С-3. Определим полиномы Эйлера <?() = 1, &>(х) = х, &(х, у) = 1 + ху, &(х, у, z) = x + z + xyz, ... , полагая £Р(х\, х*ъ, ••• , хп) равным сумме всех различных мономов, содержащих переменные х\, ... , хп, полученных из произведения х\Хъ ... хп вычеркиванием любого количества последовательных пар сомножителей. Покажите, что &>{х\^Х2^... ,жта) = ^(жта,жта_1,... , #i) и что при &(х\, ... , Жп+i) = &(xi, ... , хп-г) + &(х\, ... , хп)хп+1. Покажите, что для любой цепной дроби числители рп и знаменатели qn выражаются через числа aj с помощью полиномов Эйлера по формулам pn+i = 3^(а2, ... , a„), tfn+i = &(аи ... , а„)
D. Замечания о случае двух комплексных переменных 285 так, что а\ + ff*(a2, ••• , aw) ^(ai, ... , a„)" a2 + . + an_i+l/a„ Задача C-4. Определим отображение Гаусса g: (О, 1] —>• (О, 1] по формуле g(x) = l/#(modZ). Покажите, что вероятностная мера »<s>=i^/lT dx_ х на полуинтервале (О, 1] является g-инвариантной, то есть fiog-1 = /i. Оказывается, эта мера эргодична, то есть каждое измеримое g-инва- риантное подмножество S = g~1(S) имеет меру либо нуль, либо единица. (См. доказательство в Корнфельд, Фомин и Синай). Предполагая, что эргодичность этой меры установлена, рассмотрим множество Sk С (О, 1), состоящее из всех иррациональных чисел х Е (О, 1), для которых число к при разложении х в непрерывную дробь встречается среди чисел aj конечное число раз. Покажите, что /Ji(Sk) = 0. Выведите из эргодической теоремы Биркгофа более точное утверждение: Для почти всех в смысле меры Лебега х Е (О, 1) частота Km £ £ 1, {j'^n; dj=k} с которой некоторое фиксированное целое число к встречается среди чисел aj, корректно определена и равна 108!1^/и>„. fc + 1' к J U*2 \1 + 1/(к + 1)^ Приложение D. Замечания о случае двух комплексных переменных Многие рассуждения, приведенные в этих заметках, проходят только в комплексной размерности один. В действительности, уже в
286 Приложения двумерном случае некоторые основные положения одномерной голоморфной динамики полностью разваливаются. Чтобы проиллюстрировать эти различия, полезно рассмотреть семейство обобщенных отображений Хенона (Ср. Фридланд и Милнор.) Выберем комплексную постоянную 8 ф О и полиномиальное отображение f: С —>• С степени d ^ 2 и рассмотрим бесконечную в обе стороны последовательность комплексных чисел ..., Z-\, zo, z\, Z2, ..., удовлетворяющих рекуррентному соотношению zn+i ~ f(zn) + Szn-г = О. Очевидно, что двумерный вектор (zn, zn+\) можно выразить в виде полиномиальной вектор-функции F(zn-i, zn) переменных zn-\ и zn, где преобразование F(zn-i, zn) = (zn, f(zn) — Szn-i) имеет матрицу Якоби Го 1 | с постоянным определителем д и следом f'(zn). Аналогичным образом можно представить двумерный вектор (zn_i, zn) в виде полиномиальной функции F~1(zn, zn+i) с якобианом, равным 8~х. Рассмотрим, например, квадратичный полином f(z) = z2 + Xz, имеющий в нуле неподвижную точку с мультипликатором А. Тогда F(x,y) = (y,y2 + Xy-Sx), (D:l) где х и у — комплексные переменные. Это отображение имеет неподвижную точку (О, 0), и собственные значения Xi, A2 его матрицы Якоби удовлетворяют условиям Ai + А2 = А и А1А2 =5. Очевидно, что при подходящем выборе X и 8 можно получить любые, наперед заданные, ненулевые Ai и А2. Если Ai ф Х2, то матрица Якоби приводится к диагональному виду линейной заменой координат. D.I. Лемма. Рассмотрим любое голоморфное преобразование F(x, у) = (ж', у') плоскости С2 двух комплексных переменных такое, что х' = Х1Х + б(\х\2 + \у\2), у' = Х2у + б(\х\2 + \у\2) для достаточно близких к началу координат точек (ж, у). Если собственные значения Ai и А2 дифференциала в точке (О, 0) удовлетворяют неравенствам 1 > |Ai| ^ | Аз | > |А2|? то относительно
D. Замечания о случае двух комплексных переменных 287 локальной голоморфной замены координат F сопряжено линейному отображению Ь(щ v) = (Xiu, Mv). Доказательство. Надо показать, что в окрестности нуля существует такая голоморфная замена координат (и, v) = ф(х, у), что ф о F о ф~х = L. Как и в доказательстве теоремы Кёнигса 8.2, выберем такую постоянную с, что 1 > с > |Ai| ^ |Аз| > с2. Для любой орбиты /7 /7 (яо, 2/о) ^ («1, 2/i) н> ... в окрестности нуля рассмотрим последовательность точек (ип, vn) = L~n(xn, yn) = (жп/Ai, Уп/Ю и с помощью теоремы о разложении в ряд Тейлора покажем, что она геометрически сходится к искомому пределу ф(хо, уо) так, что последовательные ее разности ограничены сверху постоянной, умноженной на (с2/А2)п. Подробности оставляются читателю. ■ Замечание 33. * Некоторые ограничения на собственные значения оказываются здесь существенными. Например, для отображения f(x, у) = (Аж, \2у + х2) с собственными значениями X и X2 вышеуказанной замены координат не существует. (Задача D-1.) Более точное утверждение о возможности такой линеаризации см. у Зендера. Рассмотрим теперь отображение Хенона F: С2 -^ С2, как в формуле (D:l), с собственными значениями, удовлетворяющими условиям леммы D.I. Пусть ft — область притяжения начала координат. Утверждается, что ф продолжается до глобального диффеоморфизма Ф: ft -^ С2. Действительно, для каждого (ж, у) Е ft положим Ф(ж, у) = = L~n о фо Fon(x, у). Если п достаточно велико, то Fn(x, у) близко к началу координат, и потому это выражение определено. Аналогично, Ф_1(гл, v) = F~n о ф~х о Lon(u, v) корректно определено при больших п. Отсюда следует, что Ф и обратное к нему отображение являются голоморфными диффеоморфизмами. Заметим, что эта область ft не совпадает со всем пространством С2. Например, если модуль \z±\ no сравнению с \zo\ достаточно велик, и если (20, 21) Н> (21, 22) Н> (22, 23) Н* . . . ,
288 Приложения то нетрудно проверить, что \z±\ < |^| < \z^\ < - - -, и поэтому (zo, z\) не принадлежит П. Таким образом, построены: (1) собственное подмножество Q, С С2, аналитически диффеоморф- ное всему пространству С2; (2) нелинейное отображение с областью притяжения, не содержащей критических точек. Очевидно, что оба эти явления в случае одной комплексной переменной невозможны. Открытые множества, удовлетворяющие условию (1), называются областями Бибербаха-Фату; впервые они были построены Фату с помощью простых рассуждений, подобных приведенным здесь. Позднее, с помощью намного более сложных построений независимым образом они были получены Бибербахом. Доказательство того, что существует только конечное количество притягивающих циклов, в случае двух комплексных переменных так- же не проходит. Ср. Нъюхауз. В последние годы был достигнут значительный прогресс в изучении полиномиальных автоморфизмов С2. См., например, Бедфорд, Хаббард, а также Бедфорд, Любич, Смайли и Хаб- бард, Оберстворт. Задача D-1. Для отображения F(x, у) = (Лж, \2у + х2), где А ф О, 1, покажите, что существует только одна проходящая через начало координат F-инвариантная кривая, а именно, х = 0. Заметим, что для ассоциированного линейного отображения L(x, у) = (Лж, Х2у) таких F-инвариант- ных кривых у = сх2 существует бесконечно много. Выведите отсюда, что F не является голоморфно сопряженным к линейному отображению в окрестности нуля. Приложение Е. Разветвленные накрытия и орбифолды Здесь приводится не содержащий доказательств обзор основных понятий теории орбифолдов и результатов, полученных Тёрстоном. (См. также Дуади и Хаббард 1993.) Будем использовать понятие «точка ветвления» как синоним понятия «критическая точка», а понятие «точка разветвления» как синоним понятия «критическое значение». Таким образом, если f(zo) = wq и f'(zo) = 0, то zq называется точ-
Е. Разветвленные накрытия и орбифолды 289 кой ветвления, а ее образ f(zo) = wo называется точкой разветвления. Точнее, если f(z) = wo + c(z — zo)n + (старшие члены), где п ^ 1, с ф 0, то целое число п = n(zo) называется индексом ветвления или локальной степенью отображения f в точке zq. Следовательно, n(z) ^ 2, если z — точка ветвления, и n(z) = 1 в противном случае. Голоморфное отображение р: Sf —>• S римановых поверхностей называется накрывающим отображением, если любая точка S имеет связную окрестность U, которая накрыта просто, то есть любая компонента связности р~х (U) С S' отображается на U посредством конформного изоморфизма. Отображение р: Sf —>■ S называется собственным, если прообраз р~г(К) любого компактного подмножества S — компактное подмножество в Sf. Заметим, что каждое собственное отображение конечнолистно и имеет корректно определенную конечную степень d ^ 1. Такое отображение называется также d-листным накрытием. С другой стороны, накрывающее отображение может и не быть взаимнооднозначным. Объединив эти два понятия, получаем следующее, более общее понятие. Определение 32. * Голоморфное отображение р: S' —У S римановых поверхностей будет называться разветвленным накрывающим отображением, если каждая точка S имеет такую связную окрестность U, что каждая компонента связности р~х (U) отображается на U посредством собственного отображения. Разветвленное накрытие называется регулярным или нормальным, если существует такая группа Г конформных автоморфизмов Sf, что образы точек z\, z<i G S" совпадают в S тогда и только тогда, когда существует такой конформный автоморфизм j Е Г, что j(z±) = z^> В этом случае поверхность S можно отождествить с фактор-многообразием Sf/Г. В действительности, нетрудно проверить, что конформная структура такого фактор-многообразия определяется однозначно. Эта группа Г называется группой накрывающих преобразований накрытия. Регулярные разветвленные накрывающие отображения обладают рядом специфических свойств. Например, любая точка разветвления является изолированной, и значит множество всех точек разветвления является дискретным подмножеством S. Кроме того, индекс ветвления n(z) зависит только от образа f(z), то есть n(z\) = nfa), как
290 Приложения только f(zi) = /(22). Значит, можно определить весовую функцию v\ S —>• {1, 2, 3, ...}? полагая v(w) равной общему значению n(z) для всех z из прообраза f~1(w). По определению, v(w) ^ 2, если w — точка разветвления, и u(w) = 1 в противном случае. Определение 33. * Будем называть орбифолдом пару (5, v), состоящую из римановой поверхности S и весовой функции v: 5—»{1, 2,3,... }, принимающей значение u(w) = 1 всюду, за исключением множества изолированных точек. (Замечание. Согласно Тёрстону, общее понятие орбифолда включает структуру, устроенную локально, как фактор-пространство евклидова пространства по конечной группе. Однако в случае римановой поверхности может возникнуть только циклическая группа, таким образом, может быть использовано упрощенное определение.) Определение 34 • * Если поверхность Sf односвязна, то регулярное разветвленное накрытие р: S' —У S с весовой функцией v будет называться универсальным накрытием орбифолда (5, v). Будем использовать для этого универсального разветвленного накрытия следующее обозначение Sv —>• (5, v). Ассоциированная группа Г накрывающих преобразований называется фундаментальной группой т (5, v) орбифолда. Е.1. Лемма. За исключением двух каждый орбифолд (5, v) римановой поверхности S имеет единственную, с точностью до конформного изоморфизма, универсальную накрывающую поверхность Sv. Такого универсального накрытия не существует в следующих двух случаях: (1) поверхность S « С имеет всего одну точку разветвления, или (2) поверхность S « С имеет две точки разветвления с различными индексами v(w\) ф v(w*z). По определению, эйлеровой характеристикой орбифолда (5, v) называется рациональное число x(s,») = x(S) + ^^-iy где суммирование производится по всем точкам разветвления Wj, а х(5) — обычная эйлерова характеристика S. Грубо говоря, любая
Е. Разветвленные накрытия и орбифолды 291 точка разветвления Wj дает равный +1 вклад в обычную эйлерову характеристику S, а в эйлерову характеристику орбифолда ее вклад меньше: 1/v(wj). Следовательно, %(5, v) < х(5) ^ 2. Или точнее X(S) - г < X(S, v) <С X(S) - г/2, где г — число точек разветвления. Например, если х(5, v) ^ 0, и существует, по крайней мере, одна точка разветвления, то х(5) ^ О, таким образом, поверхность S с точностью до изоморфизма совпадает только с Ш, С или С. Ср. Е.5 ниже. Заметим, что в случае бесконечного числа точек разветвления следует положить %(5, v) — — ос. Аналогично, если S — связная поверхность бесконечного типа, то, по определению, %(5, v) — х(5) = — — 00. Если на поверхностях Sf и S заданы весовые функции ц и v, соответственно, будем говорить, что разветвленное накрытие fiS'—tS является накрывающим отображением орбифолдов (S", /х) —у (5, v), если для всех z Е S1 выполнено следующее равенство n(z)fi(z) = v(f(z)), где n(z) индекс ветвления. Например, универсальное накрытие Sv —>• (5, v) всегда является накрытием орбифолдов, в этом случае на Sv задана тривиальная весовая функция /i = 1. Е.2. Лемма. Отображение /: (S", /х) —» (5, &*) является накрытием орбифолдов тогда и только тогда, когда оно поднимается до конформного изоморфизма универсальных накрытий S'^ на Sv. Если f является накрытием степени d в указанном смысле, то формула Римана - Гурвица 7.2 принимает вид В частности, если степень универсального накрытия (5, v) равна d, то x(Sv) = х(£5 v)d. Фундаментальная группа и эйлерова характеристика связаны между собой следующим образом. Е.З. Лемма. Если (5, v) — произвольный орбифолд римановой поверхности, допускающий универсальное накрытие, то
292 Приложения x(S, v) > О тогда и только тогда, когда фундаментальная группа 7Ti(S, v) конечна; x(S, v) — О тогда и только тогда, когда фундаментальная группа 7Ti(S, v) содержит в качестве подгруппы конечного индекса либо Ъ, либо Ъ®Ъ\ x(S, v) < О тогда и только тогда, когда фундаментальная группа 7Ti(5, v) содержит неабелево свободное произведение Ъ*Ъ и, следовательно, не содержит абелевых подгрупп конечного индекса. Эйлерова характеристика и геометрия Sv связаны следующим образом. Е.4- Лемма. В большинстве случаев эйлерова характеристика х(5, v) положительна, отрицательна либо равна нулю в зависимости от того, является ли универсальное накрытие Sv конформно сферическим, гиперболическим или евклидовым. Исключениями являются только С или Ш с не более, чем одной точкой разветвления, либо кольцо, либо проколотый диск без точек разветвления. Замечание 34• * Это утверждение тесно связано с теоремой Гаусса - Боннэ KdA = 27rX(S,v), справедливой для любой полной орбифолдной метрики (§19) с конечной площадью и достаточно хорошим поведением вблизи бесконечности в некомпактном случае. Здесь К — гауссова кривизна орбифолда (5, v), a dA — элемент его площади. Пример 3. * Если S = С с четырьмя точками разветвления и с индексами v{wj) = 2, то описанный в § 7 тор Т задает регулярное двулистное накрытие над S. Его универсальное накрытие Т = С совпадает с универсальным накрытием (С, v). В этом случае х(С, v) — О. Е.5. Замечание. Существует сравнительно мало случаев, для которых х(5, v) ^ О. В действительности, все эти случаи могут быть перечислены явным образом. Ееразветвленные случаи очень хорошо известны, а именно: сфера, плоскость или диск, когда \ > 0; проколотая плоскость, проколотый диск или бесконечные семейства, состоящие из колец и торов, когда х = О. //
Е. Разветвленные накрытия и орбифолды 293 «Индексами разветвления» будем называть список значений весовой функции в г точках разветвления, упорядоченный по возрастанию: i/(wi) ^ ... ^u(wr). Если х(С, v) > 0 и г > О, то возможны следующие значения индексов разветвления: (п, п) или (2, 2, п) для некоторого п ^ 2, либо (2, 3, 3), (2, 3, 4) или (2, 3, 5). Эти пять возможностей соответствуют пяти типам конечных групп вращения двумерной сферы, а именно: циклической, диэдральной, тетраэдральной, октаэдральной и ико- саэдральной группам соответственно. (Ср. Милнор 1975, стр. 179.) Если х(С, v) — О, то возможны следующие значения индексов разветвления: (2, 4, 4), (2, 3, 6), (3, 3, 3) или (2, 2, 2, 2). Они соответствуют группам автоморфизмов замощения С квадратами, равносторонними треугольниками, раскрашенными в два цвета равносторонними треугольниками и параллелограммами соответственно. Заметим, что в случае замощения параллелограммами различные возможные формы этих параллелограммов описываются одним комплексным параметром, соответствующим двойному отношению четырех точек разветвления. Аналогично, если х(С, v) или х(Ш), v) строго положительна, то должно выполняться неравенство г ^ 1; если же х(С, v) или х(Ш), v) равна нулю, то г — 2, и значения индексов разветвления равны (2, 2). Это завершает перечень возможных случаев. Задачи Задача Е-1. Покажите, что в случае S = С с двумя точками разветвления v(l) = v(2) = 2 отображение z и-» cos(27T2:) задает универсальное накрытие С —>• (С, v). Покажите, что эйлерова характеристика х(С, v) равна нулю, а фундаментальная группа 7Ti(5, v) состоит из всех преобразований вида j:z\-^n±z,n€Z. Задача Е-2. Покажите, что в случае S = С с тремя точками разветвления i/(0) = и(1) = z/(oo) = 2 рациональное отображение 7r(z) = — —4z2/(z2 — I)2 задает универсальное накрытие С —>• (С, i/). Покажите, что х(С, 1^) = 1/2 и что степень накрытия равна х(С)/х(С, &*) = = 4? а фундаментальная группа состоит из преобразований вида j: z\-> ± 2:±1.
294 Приложения Задача Е-3. Покажите, используя задачу Е-2, что для сферы С с одной точкой разветвления или с двумя точками разветвления различных индексов не существует регулярного разветвленного накрытия Приложение F. Отсутствие блуждающих компонент связности множества Фату В этом приложении излагается набросок доказательства следующего утверждения. (Ср. § 16.) F.I. Теорема Сулливана. Если f —рациональное отображение, то каждая компонента связности его множества Фату поглощается циклом. Идея доказательства теоремы выглядит так: пусть U — любая компонента связности множества Фату отображения f', то есть любая компонента связности множества C\J(f). Предположим, что мы пытаемся изменить конформную структуру на U. Если f должна сохранять эту новую конформную структуру, то соответствующие изменения конформной структуры следует совершать и на всей большой орбите множества U. Если f(U) = U, то условие сохранения этой конформной структуры при отображении f налагает очень сильные ограничения. Аналогично, если U периодично или поглощается циклом, то эти ограничения также весьма существенны. Однако, если U является блуждающей компонентой, то есть если итерированные образы в последовательности U, f(U), f°2(U), f°3(U), ... попарно не пересекаются, то можно изменить конформную структуру внутри U произвольным образом и далее распространить это изменение на всю большую орбиту множества U. Как было отмечено Сулливаном, это было бы чересчур удачно. Он показал, что такая замена порождала бы бесконечномерное пространство существенно различных рациональных отображений той же степени. Но это, очевидно, невозможно, поскольку рациональное отображение фиксированной степени полностью определяется конечным числом комплексных параметров. При проведении этого рассуждения возникают две большие трудности. Первая из них заключается в том, что построенные таким
F. Отсутствие блуждающих компонент связности 295 образом конформные структуры обычно разрывны в каждой предельной точке большой орбиты множества U, придать таким конформным структурам какой-либо смысл очень нелегко. Однако эта проблема рассматривалась в ранней работе Моррея, Алъфорса и Берса. Вторая трудность, обнаруженная Сулливаном, связана с нахождением эффективного способа проверки того, что здесь, в действительности, получается слишком много различных рациональных отображений, а вовсе не много новых способов построения одних и тех же рациональных отображений. Ниже будет описан способ преодоления второй трудности при помощи двойных отношений. Уравнение Бельтрами. Прежде, чем начать это рассуждение, следует разъяснить понятие измеримой конформной структуры на открытом множестве U С С. Интуитивно, такая конформная структура в точке z Е U может быть задана выбором некоторого эллипса с центром в начале координат в касательном пространстве TZU = С. Нужно представлять себе этот эллипс, как «окружность» в новой конформной структуре. На более техническом языке, конформная структура в точке z определяется комплексным растяжением /i(z) Е Ш). Рассмотрим сначала случай, когда /i(z) постоянно. Тогда функция h(z) = = z + £/х удовлетворяет дифференциальному уравнению Бельтрами i = ,Wf (P:l) (названному в честь Эудженио Бельтрами, 1835-1900). Здесь производные d/d~z, и d/dz определены по формулам1 dz 2 \дх ду) ' dz 2 \дх ду) ' где z = х + iy. Заметим, что окружность \h\ = const на плоскости h соответствует эллипсу \z + ~z[i\ — const на плоскости z с направлением большой оси, определяемым аргументом /х и эксцентриситетом, определяемым модулем \ц\. (Если \ц\ = г < 1, то отношение большой оси к малой оси равно (1 + г)/(1 — г) и стремится к бесконечности при г —> 1.) 1 Поясним эту запись: Если f(z) удовлетворяет уравнению Коши-Римана df/dz = 0, то / голоморфна и df/dz — обычная голоморфная производная.
296 Приложения Более общо, построив «изотермические координаты», Гаусс показал, что если функция ц(г) вещественно аналитична, то эквивалентное (F:l) уравнение всегда имеет решения в малой окрестности. Мор- рей расширил этот результат на случай измеримых функций /i(z) таких, что |/x(z)| < const < 1, (F:2) построив решение z \-^ h(z), гомеоморфно отображающее область в плоскости z на область в плоскости h. Более того, он установил, что если h\ иКъ — два различных решения уравнения Бельтрами, то композиция \\2 о h^1 также голоморфна. Здесь необходимо сделать некоторые пояснения, поскольку рассматриваемое дифференциальное уравнение содержит недифференциру- емые функции. Для любого открытого множества U С С обозначим через L^fJJ) векторное пространство, состоящее из всех таких измеримых функций ф: U —У С, что \ф(х + iy)\dxdy < оо. и Напомним также, что в рассматриваемой нами ситуации пробными функциями принято называть С°°-функции т: U —У С, обращающиеся в нуль вне некоторого компактного подмножества множества U. Определение 35. * Непрерывная функция h: U —У С имеет обобщенные производные в L1, если существуют такие элементы hz и h^ в V-{U), что (hz(z)r(z) + h(z)dr/dz)dxdy = О (F : 3) и для любой пробной функции г; аналогичное уравнение должно выполняться для h-z- Заметим, что эти частные производные определены почти всюду, их можно изменять на множестве меры нуль, не нарушая равенства (F:3). Таким образом, уравнение Бельтрами для h примет вид hz{z) = fi(z)hz(z) для почти всех z Е U. Это уравнение имеет смысл, поскольку поточечное произведение ^-функции на ограниченную измеримую функцию снова принадлежит L1. По определению, любое непрерывное взаимно одно- // //
F. Отсутствие блуждающих компонент связности 297 значное решение h этого уравнения называется квазиконформным отображением на U с комплексным растяжением /jl(z). Более общо, можно рассмотреть такую измеримую конформную структуру на римановой поверхности S. Однако в таком случае эта структура описывается уже не комплекснозначной функцией, а определяется сечением некоторого комплексного линейного расслоения. Для заданной локальной координаты z на открытом множестве U все еще можно описать конформную структуру на U при помощи функции растяжения /i: U —>■ Ш)? но для того, чтобы эта конформная структура имела смысл на всей поверхности S, в пересечении двух карт z и z' должны выполняться следующие условия согласования: Заметим, что |//(V)| = |/i(z)|, и значит условие (F:2) не зависит от выбора системы координат. Если эта конформная структура измерима и всюду удовлетворяет условию (F:2), то локальные решения h образуют атлас локальных конформных координат на новой римановой поверхности S^, топологически совпадающей с S, но существенно иной в конформном (и даже дифференциальном) смысле. В случае, когда S является римановой сферой, из теоремы об униформизации следует, что Sjj, конформно эквивалентна S. В частности, существует единственный конформный изоморфизм h: S —>• S^ с неподвижными точками О, 1 и оо. Если вспомнить, что в этом случае топологическое пространство Sfj, совпадает с S = С, то можно также описать h = h^, как квазиконформный гомеоморфизм из С в себя (или, более коротко, qc-го- меоморфизм) с комплексным растяжением /jl(z). Можно также изучить зависимость h^ от растяжения /i. Альфорс и Вере (1960) показали, что для любой неподвижной точки zo соответствие /1 \-> h/1(zo) определяет дифференцируемое отображение из подходящего пространства функций растяжения в риманову сферу. Подробности см., например, Альфорс (1987), Карлесон и Гамелен, Лехто (1987) или Лехто и Виртанен. Некоторые конформные структуры на единичном диске. Для того, чтобы воспроизвести принадлежащее Сулливану доказательство теоремы F.1, необходимо построить достаточно большое семейство существенно различных конформных структур на открытом дис-
298 Приложения ке Ш). Это может быть сделано следующим образом. Пусть G — группа всех С°° -диффеоморфизмов окружности дШ, оставляющих на месте три точки, скажем ±1 и г. Если е: Ж/Ъ —>• дШ — стандартный диффеоморфизм e(t) = ехр(27ггЧ)? то, записав любой элемент группы в виде можно отождествить G с выпуклым множеством, состоящим из всех С°° -функций v: Ж/Ъ —>• Ж, обращающихся в нуль в трех выделенных точках, и таких, что соответствие t \-> t + v(t) всюду имеет производную 1 + v'(i) > 0. Эта группа G была построена так, что ни один элемент g, не равный тождественному отображению, не может быть продолжен до конформного автоморфизма замкнутого диска Ш). (Чтобы убедиться в этом, заметим, что для любого нетождественного элемента g найдутся четыре различные точки Z\, Z2? Z%, Z± на границе дШ, отображающиеся в четыре точки z\, Z2, z%, z± такие, что x(Zii ^2? ^з? Z4) ф x(zi? z2, £3? 24)-) С другой стороны, любой элемент g Е G продолжается до диффеоморфизма 'g замыкания Ш) следующим образом. Фиксируем некоторую гладкую функцию rj: [0, 1] —У [0, 1] такую, что ф, 1/3] = 0, ч[2/3, 1] = 1, тогда g продолжается до g(re(t)) = re(t + rj(r)v(t)) Очевидно, что это продолжение гладко зависит от g. Блуждающие компоненты. Предположим, что некоторая рациональная функция f имеет блуждающую компоненту связности U множества Фату. Заменяя в случае необходимости U на некоторый итерированный образ, можно считать, что в итерированных образах fon(U) не существует критических точек отображения f. F.2. Лемма. (Бейкер.) Если итерированные образы fon(U), п ^ 0, не содержат критической точки, то U односвязно. Доказательство. Выберем для удобства систему координат так, чтобы бесконечно удаленная точка принадлежала U, и все компоненты связности множества Фату лежали бы в ограниченной части С. Пусть L — произвольная простая замкнутая кривая, содержащаяся в U. Поскольку F:4)
F. Отсутствие блуждающих компонент связности 299 U содержится во множестве Фату, то набор итераций fon, ограниченный на U, образует нормальное семейство. Очевидно, что площадь fon(U) должна стремиться к нулю при п —>• ос? и, следовательно, любая сходящаяся последовательность итераций должна локально равномерно сходиться к постоянному отображению. Значит, диаметр множества fon(L) должен стремиться к нулю при п —>• ос. Если Вп — объединение ограниченных компонент связности дополнения C\fon(L), то диаметр Вп также стремится к нулю при п —>• ос. В частности, для больших п это объединение Вп не содержит компонент связности множества /_1(С/)? таким образом, каждый итерированный образ Вп должен содержаться в ограниченной области С \U. Отсюда следует, что при больших п замыкание Вп содержится во множестве Фату, и, следовательно, Вп С fon(U). Значит, fon(L) можно продеформировать в точку внутри fon(U). Поскольку отображение fon: U —>• fon(U) сюръ- ективно и является накрытием, то L может быть продеформировано в точку внутри U. Следовательно, U односвязно. ■ Доказательство теоремы F.I. Доказательство теоремы Сулливана начинается следующим образом. Выберем некоторый конформный изоморфизм ф из U в единичный диск Ш). Если g задано по формуле (F:4), то можно при помощи композиции go ф поднять конформную структуру с диска Ш) и затем посредством отображения f перенести эту конформную структуру на всю большую орбиту множества U. (В этой большой орбите могут содержаться изолированные точки, являющиеся предкритическими. Индуцированная конформная структура не определена в таких точках, но это обстоятельство не нарушает наших рассуждений.) Для точек, не принадлежащих большой орбите множества U, будем использовать обычную конформную структуру. Значит, описанная измеримая конформная структура определена почти всюду на С, и условие \/i\ ^ const < 1 легко проверяемо. Интегрируя уравнение Бельтрами, получаем семейство qc-гомеоморфизмов hg (нормализованных подходящим образом так, чтобы они оставляли неподвижными три точки римановой сферы) и такое семейство отображений fg, чтобы следующая диаграмма была коммутативна. ш) <А- и с с -А с us с
300 Приложения Здесь Ug определяется, как образ hg(U), а отображения в нижней строчке определены из условия коммутативности диаграммы. Поскольку построенные конформные структуры на С инвариантны относительно f', то каждое отображение fg голоморфно и, следовательно, является рациональным отображением той же степени d. (Заметим, что горизонтальные стрелки — это голоморфные, а вертикальные — квазиконформные отображения.) Необходимо показать, что рациональное отображение fg гладко зависит от g. Заметим, что рациональное отображение p(z)/q(z) степени d однозначно определено своими значениями в 2d + 1 различных точках. Действительно, другое отображение P(z)/Q(z) степени d принимает в точках zm одинаковые значения с p(z)/q(z) тогда и только тогда, когда полином p(z)Q(z) — P(z)q(z) обращается в нуль в точках zm. Кроме того, если такое полиномиальное уравнение степени 2d имеет 2d + 1 различных решений, то этот полином должен быть тождественно нулевым. В самом деле, подходящим образом нормализованные коэффициенты p(z) и q(z) могут быть получены при решении системы линейных уравнений и, следовательно, гладко зависят от начальных данных. Теперь рассмотрим точки hg(j) для 1 ^ j ^ 2d + 1. Поскольку fg отображает любую такую точку в точку hg(f(j)), и как hg(j), так и hg(f(j)) гладко зависят от g, то и fg гладко зависит от g- Выберем некоторое (2d + 2)-мерное подмногообразие Mq С G и некоторую точку go Е Mq, в которой ранг первой производной отображения g ^ fg из Mq в пространство Rat^ рациональных отображений принимает максимальное значение г ^ 2d + 1. Тогда окрестность N отображения go гладко отображается на г-мерное подмногообразие Mi С Ratrf. Прообразом регулярного значения из Mi является подмногообразие М2 С N размерности 2d + 2 — г ^ 1, для которого все соответствующие отображения fg одинаковы. Выберем внутри М2 такой непостоянный путь t и-» g(t), чтобы получить однопараметри- ческое семейство qc-гомеоморфизмов h't = hg(t) °^C(o)? которые сопряга- ют fg(o) c fg(t) — fg(o) • Иными словами, любой гомеоморфизм h't должен коммутировать с fg(o). Значит, любой h't должен совпадать с тождественным гомеоморфизмом на множестве Жюлиа J(fg(o)), поскольку периодические точки fg^) при деформации, коммутирующей с fg(o), должны оставаться на месте. Это приводит к противоречию. Действительно, сначала предполо-
F. Отсутствие блуждающих компонент связности 301 жим для простоты, что U ограничена жордановой кривой. Для каждых четырех точек 8U можно, выбрав конформный изоморфизм U —>Ш, непрерывно продолжающийся на границу (см. 17.16), и взяв обычное двойное отношение в Л), определить двойное отношение на U. Но если g(t) ф — g(0), то на единичной окружности можно выбрать четыре точки, у которых двойное отношение изменяется при композиции g(t) о^(0)-1. Следовательно, h't не может оставлять на месте соответствующие четыре точки dUg(0), что противоречит предыдущему утверждению. Это завершает доказательство теоремы F.1 в случае, когда 8U — жорданова кривая. Если 8U не является жордановой кривой, то это рассуждение можно провести, используя идеи § 17. Напомним, что компактификация Каратеодори U состоит из U, к которому добавлены простые концы. Построение этих простых концов использует только топологию пары (U, 8U). Напомним также, что любое риманово отображение U —> Ш продолжается до гомеоморфизма U —>• Ш. Следовательно, если имеются четыре различных простых конца в dU, то двойное отношение соответствующих точек в дИ) корректно определено и не зависит от выбора риманова отображения. Для завершения доказательства нам потребуется следующее вспомогательное утверждение. F.3. Лемма. Если h — гомеоморфизм пары (U, dU) в себя, сохраняющий ориентацию, и такой, что его ограничении на dU — тождественное отображение, то h переводит любой простой конец пары (t/, dU) в себя. (Пример отображения комплексного сопряжения, заданного на паре (С, [0, 1]), показывает, что условие сохранения ориентации существенно.) Для доказательства леммы F.3 напомним, что в § 17 простой конец определялся фундаментальной цепью {Aj} трансверсальных дуг и ассоциированными с ними окрестностями N(Ai) D N(A2) D ... Если бы соответствующие окрестности h(N(Aj)) не пересекались с N(Aj), то каждое объединение вида N(Aj) U h(N(Aj)) являлось бы областью, ограниченной жордановой кривой. Гомеоморфизм h должен сохранять ориентацию этой области и обращать при этом ориентацию на ее границе, что невозможно. ■ С помощью этого результата доказательство теоремы F.1 проходит, как и выше, в случае жордановой кривой dU. Ш
302 Приложения Приложение G. Пространство параметров Очень важная часть комплексной динамики, лишь вскользь упоминавшаяся до сих пор, состоит в изучении параметризованных семейств отображений. (Ср. рисунки 25, 26.) Рассмотрим, например, семейство всех полиномов второй степени, задаваемых тремя комплексными параметрами. Однако, при подходящей аффинной замене координат любой такой полином может быть приведен к однозначно определенной нормальной форме f(z) =z2 + c. (G : 1) (Другие использовавшиеся в литературе нормальные формы имели вид w и-» w2 + Xw с неподвижной точкой в нуле и мультипликатором Л или w^\w(l-w), (G:2) что равносильно рассматриваемому случаю при А / 0. Здесь 4с = = Л(2 — Л) и w = z — Л/2 = — Xw.) Используя нормальную форму такого вида, можно построить компьютерное изображение в пространстве параметров, состоящем из всех комплексных постоянных с или X. Каждому пикселю такого изображения сопоставляется маленький квадратик в пространстве параметров, и этому квадратику приписывается некоторый цвет, возможно только черный или белый, в зависимости от динамики соответствующего квадратичного полинома. Первые грубые изображения такого сорта были получены Бруксом и Мателъским при изучении групп Клейна. Они использовали нормальную форму (G:l) и определили открытое множество, состоящее из точек с-плоскости, для которых соответствующее квадратичное отображение имеет притягивающую периодическую орбиту в конечной части плоскости. Будем использовать обозначение Ж (от слова «гиперболичный») для этого множества Брукса - Мательского. Почти в это же время Хаббард (неопубликовано) создал гораздо более подробные изображения совершенно иного пространства параметров, возникающего из метода Ньютона решения кубических уравнений. Мандельброт, возможно вдохновленный Хаббардом, используя нормальную форму вида (G:2), а также разновидность нормальной формы вида (G:l), построил соответствующие изображения для квадратичных полиномов. Во избежание недоразумения приведем все определения, использованные Мандельбро- том, в терминах нормальной формы вида (G:l). Он ввел два различных множества, которые мы будем именовать Q и М соответствен-
G. Пространство параметров 303 но. (Мандельброт не давал этим двум множествам различных названий, поскольку был уверен в их совпадении.) По определению, значение параметра с принадлежит множеству Q, если соответствующее заполненное множество Жюлиа содержит внутреннюю точку и принадлежит множеству М, если соответствующее заполненное множество Жюлиа содержит критическую точку z = 0 (это равносильно связности заполненного множества Жюлиа). Множество Брукса-Мательского удовлетворяет следующему условию Ж С Q С М. Мандельброт сделал достаточно хорошие компьютерные изображения, которые, казалось, показывали некоторые изолированные «острова». Поэтому он предположил, что Q или М имеет много различных компонент связности. (Редакторы журнала сочли его острова за кляксы и аккуратно удалили их из рисунков.) Мандельброт также описал важное подмножество С С Q, которое он считал главной компонентой связности множества Q. Это множество С состоит из центральной кардиоиды Со с некоторыми (но не всеми) граничными точками вместе со счетным набором меньших почти круглых дисков, описываемых по индукции явным образом. Хотя утверждения Манделъброта в его первой работе не были вполне правильными, он заслужил большое доверие, поскольку впервые отметил очень сложную геометрию, связанную с пространством параметров квадратичных отображений. Его главное достижение заключалось в демонстрации и популяризации важности роли таких сложных объектов, как «фракталы», в ряде разделов математики. Первый, действительно математический, прогресс в этом направлении был достигнут в 1982 году в работе Дуади и Хаббарда. Они дали название множество Манделъброта для описанного выше множества М и создали математическую основу для его изучения, доказав, в частности, связность М и его дополнения. (Тем временем Мандельброт на основании эмпирических данных пришел к заключению о том, что изолированные «острова» этого множества, в действительности, соединены с основной частью тонкими перемычками.) Уже в этой первой работе Дуади и Хаббард показали, что на любой гиперболической компоненте внутренности множества М может быть задана стандартная параметризация, и край дМ может быть успешно изучен с помощью внешних лучей. Представляется интересным сравнить три множества Ж С Q С М в пространстве параметров. Они, конечно, различны, поскольку Ж открыто, М компактно, a Q ни открыто, ни компактно. Из результатов Сулливана (§ 16) следует, что Q состоит из Ж и очень разре-
304 Приложения женного множества граничных точек, а именно, тех, для которых соответствующее отображение имеет либо параболическую орбиту, либо диск Зигеля. С точки зрения компьтерной графики представляется весьма правдоподобным, что эти три множества совпадают, поскольку обычно принято предполагать1, что множество Брукса - Мательско- го Ж совпадает с внутренностью М, и М совпадает с замыканием Ж'. Однако следует заметить, что на практике достаточно легко (по крайней мере грубо) проверить, принадлежит ли значение параметра множеству М, несколько труднее проверить принадлежность значения параметра множеству Ж (ср. теорему 8.6), и очень сложно проверить принадлежность значения параметра множеству Q. (Ср. приложение Н. Здесь речь идет только о приближенных проверках. Точная проверка принадлежности заданной точки множеству М или множеству Ж может оказаться очень трудной. Например, как отмечено в обсуждении теоремы 8.6, автору неизвестно, как проверять принадлежность точки с— —1.5 Е М множеству Ж.) Другой важный прогресс был достигнут в 1983 в работах Манье, Сэда и Сулливана об устойчивости множества Жюлиа J(f) при деформации f. (Ср. обсуждение в § 19.) Эти результаты были независимым образом получены Любичем в 1983, 1990. Изучение пространства параметров в случае полиномов больших степеней началось почти через пять лет в работе Бреннера и Хаббарда. Используя нормальную форму вида f(z) = z3 - Sa2z + Ь, с двумя критическими точками z — ±а, они доказали, что множество, состоящее из всех пар параметров (а, Ъ), для которых J(f) связно, является клеточным. (Ср. задачу 9-с.) В частности, это множество компактно и связно. Соответствующий результат в случае полиномов старших степеней был получен Лаворсом. Изучение пространств параметров рациональных отображений более затруднительно, поскольку в этом случае не существует очевидной нормальной формы. Однако важное начало в этих исследованиях было положено Рисом. (См. также Милнор 1993.) Все эти результаты очень новы, и остается еще много сделать в этом направлении. Следующие две задачи адресованы читателю. 1Дуади и Хаббард показали, что эти предположения справедливы, если множество М локально связно. Работа Йоккоза заложила основу уверенности в том, что М действительно локально связно. (Ср. Хаббард 1993.)
Н. Замечания о компьютерной графике 305 Задачи Задача G-1. Покажите, что каждое полиномиальное отображение степени d ^ 2 сопряжено относительно аффинной замены координат одной из «нормальных форм Фату» f(z) = zd + ad-2zd~2 + ... + axz + a0. Пусть P(d) = Cd~1 — пространство всех таких отображений. Покажите, что действие группы Z(d—1) корней (d—l)-u степени из единицы на P(d) является линейным сопряжением, меняющим f(z) на f(wz)/w, и что фактор-пространство P(d)/Z(d—1) совпадает с «пространством модулей» полиномов степени d с точностью до линейного сопряжения. Покажите, что если d ^ 4, то это пространство модулей не может быть многообразием. Задача G-2. Покажите, что каждое рациональное квадратичное отображение сопряжено относительно дробно-линейной замены координат одной из форм вида f(z) = l + (z2- l)/(az2 - b), где а ф Ь, с критическими точками в нуле и в бесконечности и неподвижной точкой в z — 1. (В общем случае этот вид не единственен, потому что такое отображение, на самом деле, имеет три неподвижные точки, и поскольку нуль и бесконечность могут поменяться ролями при замене w = l/z). Приложение Н. Замечания о компьютерной графике Для создания компьютерного изображения некоторого сложного компактного множества L С С, например множества Жюлиа, нужно вычислить целочисленную матрицу, в которой (к, 1)-й элемент обозначает номер цвета (возможно, только черный или белый), соответствующий (к, 1)-му пикселю компьютерного экрана. Каждый пиксель — это маленький квадратик на комплексной плоскости, а соответствующий ему цвет несет информацию о пересечении L с этим квадратиком.
306 Приложения В случае множества Жюлиа J(f) полинома второй степени существует очень быстрый метод построения изображений, использующий итерации обратного отображения f~x, и рассматривающий все возможные ветви. (Ср. J^.10.) Как отметил Мандельброт, этот метод дает прекрасное изображение внешних частей J(f), но дает очень мало информации о его внутренних частях. Если представлять себе электростатическое поле, порожденное электрическим зарядом на J(f), то при такой интерпретации данный метод выделяет только те части множества Жюлиа, на которых заканчиваются силовые линии (или, в терминах §18, «внешние лучи»). Более медленный, но значительно более качественный метод изображения множества Жюлиа J(f) использует итерации отображения f для некоторых больших (возможно, от 50 до 50000) номеров, начиная со средней точки каждого пикселя. Если орбита после п итераций выходит за пределы некоторого большого диска, то соответствующему пикселю приписывается номер цвета, зависящий от п. В более совершенных версиях этого метода можно вычислить не только значение п-й итерации отображения f, но и модуль ее производной, см. ниже. Как установили Дуади и Хаббард, аналогичные рассуждения применимы и к множеству Мандельброта М. (Ср. приложение G.) В этом случае рассматривается полиномиальное отображение второй степени, соответствующее центру квадрата, и отслеживается орбита его критической точки. Замечание 35. * Чтобы понять некоторые ограничения, связанные с этим методом, рассмотрим ситуацию в окрестности неподвижной точки f(zo) = zo во множестве Жюлиа. Изучим вначале случай отталкивающей неподвижной точки, с мультипликатором, модуль которого равен, скажем, двум. Если начать с точки z, отстоящей на расстояние 1/1000 от точки zo, то расстояние от ее образов до zo будет увеличиваться приблизительно в два раза с каждой итерацией. Значит, всего после десяти итераций образ точки z будет значительно удален от z$. Полученное компьютерное изображение будет достаточно четким вблизи z$. (См. рисунки 7, 8.) Теперь попытаемся построить с помощью этого метода изображение множества Жюлиа для полинома z и-» z + z4. Снова начнем с точки z Е J, отстоящей на расстояние е « 1/1000 от неподвижной точки в начале координат. Из доказательства 10.1 видно, что модуль ассоциированной коор-
Н. Замечания о компьютерной графике 307 динаты wo = — 1/Szq увеличивается на единицу с каждой итерацией, и приближенно равен 1/Зг3 « 3 • 108. Следовательно, для того, чтобы выйти за пределы окрестности нуля, нам потребуется сделать вдоль такой орбиты примерно 3 • 108 итераций. В результате полученное искаженное изображение показывает, что все точки вблизи нуля якобы принадлежат множеству Фату. (При получении рисунка 18 эта трудность была преодолена с помощью специальной компьютерной программы, экстраполирующей итерации отображения f для различения несовпадающих компонент связности множества Фату.) Для неподвижных точек Кремера ситуация значительно хуже. Насколько автору известно, ни одного компьютерного изображения такой точки до сих пор не было получено. Многие множества Жюлиа состоят из очень тонких перемычек. Для получения точных изображений таких множеств необходимо получить некоторую оценку расстояний. В частности, если мера заполненного множества Жюлиа равна нулю, то весьма вероятно, что все центральные точки наших пикселей соответствуют орбитам, уходящим на бесконечность. Но хорошая оценка расстояния может дать информацию о пересечении пикселя с множеством J(f), даже когда его центр лежит вне J(f). В случае множества Мандельброта М процедура получения такой оценки более важна, поскольку М содержит как большие области, так и очень тонкие перемычки. Фактически, именно сложность обнаружения таких перемычек привела Мандельброта к уверенности в многосвязности М. Приведем пример использования первых производных при получении таких оценок расстояния. (Ср. Милнор 1989, а также Фишер.) Рассмотрим рациональное отображение /: С —>• С с суперпритягивающей неподвижной точкой в начале координат. Пусть U — область притяжения этой неподвижной точки. Предположим для простоты, что эта область притяжения связна, односвязна и не содержит других критических точек функции f. Нетрудно показать, что координата Бётхера, описанная в § 9, может быть определена на всем U и задает конформный изоморфизм ф: U —>■ Ш) с (j)(f(z)) = (ф(г))п. Определим функцию Грина G: U \ {0} —У Ж по формуле G(z)=\n^(z)\ <0. (Ср. § 9 и §18.) Обозначая через G' вектор градиента функции G, покажем, что:
308 Приложения (1) функция G и норма \\G'\\ = \ф'(г)/ф(г)\ легко вычислимы, и (2) зная G и \\G'\\, можно вычислить расстояние между z и границей dU с точностью до множителя 2. В самом деле, легко проверить, что для любой орбиты z$ \-t z\ \-> ... eU G(z0) = lim ln\zk\/nk. k—юо Поскольку сходимость этой последовательности локально равномерна, то \\п,( чм r \dzk/dzp\ \\G(z0)\\ = hm —-——. *-Юо nK\Zk\ В обоих случаях последующие члены могут быть легко вычислены по индукции, и производя итерации до тех пор, пока \zu\ не станут малыми, можно получать хорошие приближения. (Если большое количество итераций не обеспечивает достаточную малость zu, тпо можно считать, что zo (£ U, и полагать G = 0.) Несложные вычисления показывают, что при <j)(z) = w метрика Пуанкаре на U может быть записана в следующем виде 2\dw\ 2\</>'(z)dz\ \\G'(z)dz\ 1-kl2 1-I^WI2 |shG(z)| Из теоремы АЛ и следствия А.8 немедленно вытекает Следствие 1. * Расстояние между z и границей dU равно | sh(G)|/||G'|| с точностью до множителя 2. Если z очень близко к dU, то G мало, и эта оценка расстояния очень близка к отношению |G|/||G"||. Интересно заметить, что величина |G|/||G"|| совпадает с размером шага, с которым уравнение G(z) = 0 решается методом Ньютона. Аналогичные оценки имеют место и в случае суперпритягивающей неподвижной точки на бесконечности, или, иными словами, для области притяжения C\K(f) полиномиального отображения. См. более подробную информацию у Фишера и Пейтгена.
Литература L. Ahlfors (1966), Complex Analysis, McGraw-Hill. L. Ahlfors (1973), Сonformal Invariants, McGraw-Hill. L. Ahlfors (1987), Lectures on Quasiconformal Mappings, Wadsworth. (Имеется русский перевод предыдущего издания. Л. Альфорс, Лекции по квазиконформным отображениям, М.: Мир, 1969.) L. Ahlfors and L. Bers (1960), Riemann's mapping theorem for variable metrics, Annals of Math. Tl, 385-404. L. Ahlfors and L.Sario (1960), Riemann Surfaces, Princeton U. Press. D. S. Alexander (1994), A History of Complex Dynamics from Schroder to Fatou and Julia, Vieweg. V.Arnold (1965), Small denominators I, on the mappings of the circumference into itself, Amer. Math. Soc. Transl. (2) 46. 213-284- (Русский оригинал. В. И. Арнольд (1961). Малые знаменатели I. Об отображении окружности на себя. ПАИ СССР, сер. матем. т. 25, Ml, с. 21-86.) М. Atiyah and R. Bott (1966), A Lefschetz fixed point formula for elliptic differential operators, Bull. A.M.S. Tl, 245-250. I. N. Baker (1968), Repulsive fixed points of entire functions, Math. Zeit. 104, 252-256. I. N. Baker (1976), An entire function which has wandering domains, J. Austral. Math. Soc. 22, 173-176. A. Beardon (1984), A Primer on Riemann Surfaces, Cambridge U. Press. A. Beardon (1991), Iteration of Rational Functions, Grad. Texts Math. 132, Springer. E.Bedford (1990), Iteration of polynomial automorphisms of C2, Preprint, Purdue. W. Bergweiler (1993), Iteration of meromorphic functions, Bull. A.M.S. 29, 151-188.
310 Литература L. Bieberbach (1916), Uber die Koeffizienten derjenigen Potenzreihen welche eine schlichte Abbildung des Einheitskreises vermittein, S.-B. Preuss. Akad. Wiss., 940-955. P. Blanchard (1984), Complex analytic dynamics on the Riemann sphere, Bull. A.M.S. 11, 85-141. P. Blanchard (1986), Disconnected Julia sets, pp. 181-201 of Chaotic Dynamics and Fractals, edit. Barnsley and Demko, Academic Press. P. Blanchard and A. Chiu (1990), Conformal Dynamics: an Informal Discussion, Lecture Notes, Boston University. P.Bleher and M. Lyubich (1991), The Julia Sets and Complex Singularities in Hierarchical Ising Models, Comm. Math. Phys. 141, 453-474- L. E. Bottcher (1904), The principal laws of convergence of iterates and their application to analysis (Russian), Izv. Kazan. Fiz.-Mat. Obshch. 14, 155-234- (Русский оригинал. Л. Э. Бётхер (1903), Главнейшт законы сходимости итерацш и приложенше ихъ къ Анализу. Изв. Физ.-мат. общества при Им- пер. Казанскомъ ynueepcimeme. 14, №3~4- с. 155-234-) L. de Brange (1985), A proof of the Bieberbach conjecture, Acta Math. 154, 137-152. B. Branner (1986), The parameter space for complex cubic polynomials, pp. 169-179 of Chaotic Dynamics and Fractals, edit. Barnsley and Demko, Academic Press. B. Branner (1989), The Mandelbrot set, pp. 75-105 of Chaos and Fractals, edit. Devaney and Keen, Proc. Symp. Applied Math. 39, A.M.S. B. Branner and J. H. Hubbard (1988), The iteration of cubic polynomials, Part I: the global topology of parameter space, Acta Math. 160, 143-206. B. Branner and J. H. Hubbard (1992), The iteration of cubic polynomials, Part II: patterns and parapatterns, Acta Math. 169, 229-325. H.Brolin (1965), Invariant sets under iteration of rational functions, Arkiv for Mat. 6, 103-144. R.Brooks and P. Matelski (1978), The dynamics of 2-generator subgroups of PSL(2, C), pp. 65-71 of Riemann Surfaces and Related Topics, Proceedings 1978 Stony Brook Conference, edit. Kra and Maskit, Ann. Math. Stud. 97 Princeton U. Press 1981. M. Brown (1960), A proof of the generalized Schoenflies theorem, Bulletin A.M.S. 66, 74~76. (See also: The monotone union of open n-cells is an open n-cell, Proc. A.M.S. 12 (1961) 812-814.)
Литература 311 Н. Bruin, G.Keller, Т. Nowicki, S. van Strien (1996), Wild Cantor attractors exist, Annals of Math 143, 97-130. A. D. Bryuno (1965), Convergence of transformations of differential equations to normal forms, Dokl. Akad. Nauk USSR 165, 987-989. (Русский оригинал. А. Д. Брюно (1965), О сходимости преобразований дифференциальных уравнений к нормальной форме, Докл. АН СССР т. 165, М5, с. 987-989.) С. Camacho (1978), On the local structure of conformal mappings and holomorphic vector fields, Asterisque 59-60, 83-94- C. Caratheodory (1913), Uber die Begrenzung einfach zusammenhdngender Gebiete, Math. Ann. b. 73, 323-370. (Gesam. Math. Schr., 4.) L. Carleson and T. Gamelin (1993), Complex Dynamics, Springer. A. Cayley (1879), Application of the Newton-Fourier method to an imaginary root of an equation, Quart. J. Pure Appl. Math. 16, 179-185. E. Coddington and N. Levinson (1955), Theory of Ordinary Differential Equations, McGraw-Hill. (Имееется русский перевод. Э. А. Коддингтон и Н. Левинсон (1958), Теория обыкновенных дифференциальных уравнений, М.: ИЛ., 474 с.) I. Cornfeld, S.Fomin, Y.Sinai, Ergodic Theory, Springer 1982. (Имеется русский оригинал. Корнфельд И. П., Синай Я. Г., Фомин СВ. (1980), Эргодичес- кая теория, М.: Наука, 383 с.) R. Courant and H. Robbins (1941), What is Mathematics?, Oxford U. Press. (Имеется русский перевод. Р. Курант и Г. Роббинс (1947), Что такое математика? М.-Л. ГТТИ, 664 с.) Н. Cremer (1927), Zum Zentrumproblem, Math. Ann. 98, 151-163. H. Cremer (1938), Uber die Hdufigkeit der Nichtzentren, Math. Ann. 115, 573-580. A.Denjoy (1926), Sur Viteration des fonctions analytiques, C. R. Acad. Sci. Paris, 182, 255-257. A.Denjoy (1932), Sur les courbes definies par les equations differentielles a la surface du tore, Journ. de Math. 11, 333-375. R. Devaney (1986), Exploding Julia sets, pp. 141-154 of Chaotic Dynamics and Fractals, edit. Barnsley and Demko, Academic Press. R. Devaney (1989), An Introduction to Chaotic Dynamical Systems, 2-nd ed., Addison-Wesley. (Part 3.)
312 Литература A.Douady (1982-3), Systemes dynamiques holomorphes, Seminaire Bourbaki, 35-e annee, №599; Asterisque, 105/106 (1983) 39-63. A. Douady (1986), Julia sets and the Mandelbrot set, pp. 161-173 of The Beauty of Fractals, edit. Peitgen and Richter, Springer. A. Douady (1987), Disques de Siegel et anneaux de Herman, Seminaire Bourbaki, 39-e annee (1986-87) №677; Asterisque, 152-153, 151-172. A.Douady and J.H.Hubbard (1982), Iteration des polynomes quadratiques complexes, С R. Acad. Sci. Paris 294, 123-126. A.Douady and J. H. Hubbard (1984~85), Etude dynamique des polynomes complexes I & II, Publ. Math. Orsay. A.Douady and J.H.Hubbard (1985), On the dynamics of polynomial-like mappings, Ann. Sci. Ec. Norm. Sup. (Paris) 18, 287-343. A.Douady and J.H.Hubbard (1993), A proof of Thurston's topological characterization of rational functions, Acta Math. 171, 263-297. J.Ecalle (1975), Theorie iterative: introduction a la theorie des invariants holomorphes, J. Math. Pure Appl. 54, 183-258. A.Epstein (1999), Infinitesimal Thurston Rigidity and the Fatou- Shishikura Inequality, Stony Brook I.M.S. Preprint 1999 (1) (См. также www.math.sunysb.edu/preprints.html) D. В. A.Epstein (1981), Prime Ends, Proc. London Math. Soc. 42, 385-4Ц. A. Eremenko and M. Lyubich (1990), The dynamics of analytic transformations, Leningr. Math. J. 1, 563-634- (Русский оригинал. А. Э. Еременко, М.Ю.Любич (1989), Динамика аналитических отображений, Алгебра и Анализ, 1, №3, 1-70.) A. Eremenko and M. Lyubich (1992), Dynamical properties of some classes of entire functions, Ann. Inst. Fourier (Grenoble) 41, 989-1020. (See also Sov. Math. Dokl. 30 (1984) 592-594', Русский оригинал. А. Э. Еременко, М.Ю.Любич (1984), Итерации целых функций, ДАН СССР, 279, Ml, с. 25-27. Func. Anal. Appl. 19 (1985) 323-324; А. Э. Еременко, М.Ю.Любич (1985), Структурная устойчивость в некоторых семействах целых функций, Функц. анализ и его прил. 19, М4, с. 86-87. and J. bond. Math. Soc. 36 (1987) 458-468.) К. Falconer (1990), Fractal Geometry: Mathematical Foundations and Applications, Wiley. (Ch. Ц-) H.Farkas and I.Kra (1980), Riemann Surfaces, Springer.
Литература 313 P.Fatou (1906), Sur les solutions uniformes de certaines equations fonctionnelle, C. R. Acad. Sci. Paris 143, 546-548. P.Fatou (1919-20), Sur les equations fonctionnelles, Bull. Soc. math. France 47, 161-271, and 48, 33-94, 208-ЗЦ. P. Fatou (1926), Sur ^iteration des fonctions transcendantes entieres, Acta Math. 47, 337-370. Y.Fisher (1989), Exploring the Mandelbrot set, pp. 287-296 of The Science of Fractal Images, edit. Peitgen and Saupe, Springer. Y.Fisher, J.Hubbard and B.Wittner (1988), A proof of the uniformization theorem for arbitrary plane domains, Proc. A.M.S. 104, 413-418. J. Franks (1982), Homology and Dynamical Systems, Conference Board Math. Sci., Regional Conference 49, A.M.S. S.Friedland and J. Milnor (1989), Dynamical properties of plane polynomial automorphisms, Ergodic Theory & Dynamical Systems, 9, 67-99. L. Goldberg (1992), Fixed Points of Polynomial Maps, Part I: Rotation Subsets of the Circle, Ann. Sci. Ec. Norm. Sup. 25, 679-685. L. Goldberg and L. Keen (1986), A finiteness theorem for a dynamical class of entire functions, Erg. Th. & Dy. Sy. 6, 183-192. L. Goldberg and J. Milnor (1993), Fixed point portraits of polynomial maps, Part II: Fixed Point Portraits, Ann. Sci. Ec. Norm. Sup. Paris 26, 51-98. Т. Н. Gronwall (1914-15), Some remarks on conformal representation, Ann. of Math. 16, 72-76. D.H.Hamilton (1995), Length of Julia curves, Рас. J. Math. 169, 75-93. G.H.Hardy and E.M.Wright (1938 etc.), An Introduction to the Theory of Numbers, Clarendon Press. M. Herman (1984), Exemples de fractions rationnelles ayant une orbite dense sur la sphere de Riemann, Bull. Soc. Math. France 112, 93-142. M.Herman (1979), Sur la conjugation differentiables des diffeomorphismes du cercle a les rotations, Pub. I.H.E.S. 49, 5-233. M.Herman (1986), Recent results and some open questions on Siegel's linearization theorem of germs of complex analytic diffeomorphisms of Cn near a fixed point, pp. 138-198 of Proc. 8-th Int. Cong. Math. Phys., World Sci. J.Hocking and G. Young (1961), Topology, Addison-Wesley.
314 Литература К. Hoffman (1962), Banach Spaces of Analytic Functions, Prentice-Hall. J.Hubbard (1986), The Нёпоп mapping in the complex domain, pp. 101-111 of Chaotic Dynamics and Fractals, M. Barnsley and S. Demko, (ed.), Academic Press. J.H.Hubbard (1993), Local connectivity of Julia sets and bifurcation loci: three theorems of J.-C. Yoccoz, pp. 467-511 of Topological Methods in Modern Mathematics, ed. Goldberg and Phillips, Publish or Perish. J. L. W. V. Jensen (1899), Sur un nouvel et important theoreme de la theorie des fonctions, Acta Math. 22, 219-251. G. Julia (1918), Memoire sur iteration des fonctions rationelles, J. Math. Pure Appl. 8, 47-245. L. Keen (1988), The dynamics of holomorphic self-maps of C*, in Holomorphic Functions and Moduli, edit. Drasin et al., Springer. L. Keen (1989), Julia sets, pp. 57-74 °f Chaos and Fractals, the Mathematics behind the Computer Graphics, edit. Devaney and Keen, Proc. Symp. Appl. Math. 39, A.M.S. A. Khintchine (1963), Continued Fractions, Noordhoff. (Русский оригинал. А.Хинчин (1961), Цепные дроби, М.: ФМ, 112 с.) P.Koebe (1907), Uber die Uniformizierung beliebiger analytischer Kurven, Nachr. Akad. Wiss. Gottingen, Math.-Phys. Kl. 191-210. G. Kcenigs (1884), Recherches sur les integrals de certains equations fonctionelles, Ann. Sci. Ec. Norm. Sup. (3-е ser.) 1 supplem. 1-41. K. Kuratowski (1958), Topologie, Warsaw. (Имеется русский перевод. К. Куратовский (1966), Топология, М.: Мир, т. 1, 594 с-> т.2, 624 с.) S.Lattes (1918), Sur I4teration des substitutions rationelles et les fonctions de Poincare, С R. Acad. Sci. Paris 16, 26-28. P. Lavaurs (1989), Systemes dynamiques holomorphes: explosion de points periodiques paraboliques, These, Univ. Paris-Sud, Orsay. L. Leau (1897), Etude sur les equations fonctionelles a une ou plusieurs variables, Ann. Fac. Sci. Toulouse 11, El-El 10. O.Lehto (1987), Univalent functions and Teichmuller spaces, Springer-Verlag. O.Lehto (1998) Mathematics Without Borders, A History of the International Mathematical Union, Springer.
Литература 315 O.Lehto and K.J.Virtanen (1973), Quasiconformal Mappings in the Plane, Springer- Verlag. E.R.Love (1969), Thomas Macfarland Cherry, Bull. London Math. Soc. 1, 224-245. M. Lyubich (1983), Some typical properties of the dynamics of rational maps, Russian Math. Surveys 38 (1983) 154-155. (See also Sov. Math Dokl. 27, 22-25. М.Ю.Любич (1982), О типичном поведении траекторий рационального отображения сферы, ДАН СССР. 286, Ml, с. 29-32. М.Ю.Любич (1983), Некоторые типичные свойства динамики рациональных отображений. Успехи мат. наук. 38, М5, с. 197-198. М. Lyubich (1986), The dynamics of rational transforms: the topological picture, Russian Math. Surveys 41-4 43-111. (Русский оригинал. М. Ю. Любич (1986), Динамика рациональных преобразований: топологическая картина, Успехи мат. наук. 41, №4, с. 35-95.) М. Lyubich (1981), The measurable dynamics of the exponential map, Siber. J. Math. 28, 111-121. (Русский оригинал. М. Ю. Любич (1981), Измеримая динамика экспоненты, Сибирский мат. журн. 28, М5, с. 111-121. See also Sov. Math. Dokl. 35 (1981) 223-226. М.Ю.Любич (1981), Измеримая динамика экспоненты, ДАН СССР 292, Мб, с. 1301-13040 М. Lyubich (1990), An analysis of the stability of the dynamics of rational functions, Selecta Math. Sovietica 9, 69-90. (Русский оригинал. М. Ю. Любич (1984), Исследование устойчивости динамики рациональных функций, Теория функций, функциональн. анализ и их прил. Вып. 42. Харьков: Вища школа, с. 12-91.) В. Malgrange (1981-82), Travaux d'Ecalle et de Martinet - Ramis sur les systemes dynamiques, Seminaire Bourbaki, 34~e annee., №582. B. Mandelbrot (1980), Fractal aspects of the iteration of' z \-> \z(l — z) for complex Л, z, Annals NY Acad. Sci. 357, 249-259. R. Mane, P. Sad and D. Sullivan (1983), On the dynamics of rational maps, Ann. Sci. Ec. Norm. Sup. Paris (4) 16, 193-211. B.Maskit (1981), Kleinian Groups, Grundl. math. Wiss. 287 Springer. J.Mather (1982), Topological proofs of some purely topological consequences of Garatheodory's theory of prime ends, pp. 225-255 of Selected Studies, edit. T. and G. Rassias, North-Holland. C. McMullen (1981), Area and Hausdorff dimension of Julia sets of entire functions, Trans. A.M.S. 300, 329-342.
316 Литература С. McMullen (1988), Automorphisms of rational maps, pp. 31-60 of Holomorphic Functions and Moduli I, ed. Drasin, Earle, Gehring, Kra & Marden; Springer. C. McMullen (1994), Complex Dynamics and Renormalization, Ann. Math. Studies 135, Princeton U. Press. C. McMullen (1996), Renormalization and 3-manifolds which fiber over the circle, Ann. Math Studies 142, Princeton U. Press. W. de Melo and S. van Strien (1993), One Dimensional Dynamics, Springer. (See also de Melo, Lectures on One-Dimensional Dynamics, 17° Col. Brasil. Mat, IMP A 1990.) J. Milnor (1975), On the 3-dimensional Brieskorn manifolds M(p,q,r), pp. 175-225 of Knots, Groups, and 3-Manifolds, edit. Neuwirth, Ann. Math. Studies 84, Princeton U. Press. J. Milnor (1989), Self-similarity and hairiness in the Mandelbrot set, pp. 211-257 of Computers in Geometry and Topology, edit. Tangora, Led. Notes Pure Appl. Math. 114, Dekker (see p. 218 and § 5). J. Milnor (1992a), Remarks on iterated cubic maps, Experimental Math. 1, 5-24- J. Milnor (1992b), Hyperbolic components in spaces of polynomial maps, Stony Brook I.M.S. Preprint 1992 №3. J. Milnor (1992c), Local Connectivity of Julia Sets: Expository Lectures, Stony Brook I.M.S. Preprint 1992 Mil. J. Milnor (1993), Geometry and dynamics of quadratic rational maps, Experimental Math. 2, 37-83 (see Appendix B). J. Milnor (1999a), Periodic Orbits, Externals Rays and the Mandelbrot Set: An Expository Account, Stony Brook I.M.S. Preprint 1999 M3; Asterisque, to appear. J. Milnor (1999b), Rational maps with two critical points (revised version of IMS preprint 199%10), submitted to Experimental Math. (См. также www. math, sunysb. edu/^jack) J. Milnor (1999c), Pasting together Julia sets, a worked out example of mating, submitted to Experimental Math. (См. также www.math.sunysb.edu/~jack) J. Milnor (1999d), On cubic polynomials with periodic critical point, in preparation. J. Milnor and W. Thurston (1988), Iterated maps of the interval, pp. 465-563 of Dynamical Systems (Maryland 1986-87). edit. J. C. Alexander, Led. Notes Math. 1342, Springer.
Литература 317 М. Misiurewicz (1981), On iterates of ez, Erg. Theory & Dyn. Syst. 1, 103-106. P. Mont el (1927), Lecons sur les Families Normales, Gauthier-Villars. (Русский перевод. Монтель П., (1936), Нормальные семейства аналитических функций, М.-Л. ОНТИ, 240 с.) J. Munkres (1975), Topology: A First Course, Prentice-Hall. V. I.NaishuV (1983), Topological invariants of analytic and area preserving mappings, Trans. Moscow Math. Soc. 42, 239-250. (Русский оригинал. В. А. Найшуль. Топологические инварианты аналитичеких и сохраняющих площадь отображений и их применение к аналитическим дифференциальным уравнениям в С2 и СР2. Труды Московского Математического Общества, 1982, 44, с. 234-245.) R. Nevanlinna (1967), Uniformisierung, Springer. (Русский перевод. Неванлин- на Р. (1955), Униформизация, М.: ИЛ, 434 с-) S. Newhouse (1974), Diffeomorphisms with infinitely many sinks, Topology 16, 9-18. M. Ohtsuka (1970), Dirichlet Problem, Extremal Length and Prime Ends, van Nostrand. B. O'Neill (1966), Elementary Differential Geometry, Academic Press. H.-O. Peitgen (1988), Fantastic deterministic fractals, pp. 169-218 of The Science of Fractal Images, Barnsley et al., Springer. R. Perez-Marco (1990), Sur la dynamique des germes de diffeomorphismes holomorphes de (C, 0) et des diffeomorphismes analytiques du cercle, These, Paris-Sud. R. Perez-Marco (1992), Solution complete au РгоЫёте de Siegel de linearisation d'une application holomorphe au voisinage d'un point fixe (d'apres J.-C. Yoc- coz), Seminaire Bourbaki, №753: Asterisque, 206, 273-310. R.Perez-Marco (1997), Fixed points and circle maps, Acta Math. 179, 243-294- C. L.Petersen (1993), On the Pommerenke - Levin-Yoccoz inequality, Ergodic Theory Dynamical Systems 13, 785-806. C. L. Petersen (1996), Local connectivity of some Julia sets containing a circle with an irrational rotation, Acta Math. 177, 163-224- C. L. Petersen (1998), Puzzles and Siegel disks, Progress in Holomorphic Dynamics, 50-85, Pitman Res. Notes Math. Ser., 387, Longman, Harlow. G. A. Pfeifer (1917), On the conformal mapping of curvilinear angles', the functional equation </>[/(#)] = а\ф(х), Trans. A. M. S. 18, 185-198.
318 Литература К. Pilgrim and Tan Lei (1999), Rational maps with disconnected Julia set, Asterisque, to appear. C. Pommerenke (1986), On conformal mapping and iteration of rational functions, Complex Var. Th. & Appl. 5, 117-126. M.Rees (1984), Ergodic rational maps with dense critical point forward orbit, Erg. Th. & By. Sy. 4, 311-322. M.Rees (1986a), Positive measure sets of ergodic rational maps, Ann. Sci. Ecole Norm. Sup. (4)19, 383-407. M. Rees (1986b), The exponential map is not recurrent, Math. Zeit. 191, 593-598. M.Rees (1990), Components of degree two hyperbolic rational maps, Invent. Math. 100, 357-382. M.Rees (1992), A partial description of parameter space of rational maps of degree two, Part 1, Acta Math. 168, 11-87. M.Rees (1995), A Partial Description of the Parameter Space of Rational Maps of Degree Two: Part 2, Proc. London Math. Soc. (3) 70, 644-690. F. and M.Riesz (1916), Uber Randwerte einer analytischen Funktionen, Quatr. Congr. Math. Scand. Stockholm, 27~44- J.F.Ritt (1920), On the iteration of rational functions, Trans. A.M.S. 21, 348-356. P.Roesch (1998), Topologie locale des methodes de Newton cubiques: plan dynamique, С R. Acad. Sci. Paris S. I Math. 326, 1221-1226. D. Schleicher (1997), Rational parameter rays of the Mandelbrot set, Stony Brook I.M.S. preprint 1997 № 13. E. Schroder (1871), Ueber iterirte Functionen, Math. Ann. 3; see p. 303. G.Segal (1979), The topology of spaces of rational functions, Acta Math. 143, 39-72. M. Shishikura (1987), On the quasiconformal surgery of rational functions, Ann. Sci. Ec. Norm. Sup. 20, 1-29. M. Shishikura (1991), The Hausdorff dimension of the boundary of the Mandelbrot set and Julia sets, Stony Brook I.M.S. Preprint 1991 M7. M.Shub (1987), Global Stability of Dynamical Systems, Springer. C. L. Siegel (1942), Iteration of analytic functions, Ann. of Math. 43, 607-612. C. L. Siegel and J. Moser (1971), Lectures on Celestial Mechanics, Springer.
Литература 319 S.Smale (1967), Differentiable dynamical systems, Bull. A.M.S. 73, 747-817. (Имеется русский перевод. С. Смейл (1970), Дифференцируемые динамичес- кике системы, УМН 25, Ml, с. 113-185.) G. Springer (1957), Introduction to Riemann Surfaces, Addis on-Wesley. (Имеется русский перевод. Дж. Спрингер (1960), Введение в теорию римановых поверхностей, М.: ИЛ, 343 с.) N. Steinmetz (1993), Rational Iteration: Complex Analytic Dynamical Systems, de Gruyter. D. Sullivan (1983), Conformal dynamical systems, pp. 725-752 of Geometric Dynamics, edit. Palis, Lecture Notes Math. 1007 Springer. D. Sullivan (1985), Quasiconformal homeomorphisms and dynamics I, solution of the Fatou - Julia problem on wandermg domains, Ann. Math. 122, 401~4^- G. Swiatek (1998), On critical circle homeomorphisms, Bol. Soc. Brasil. Mat. 29, 329-351. Tan Lei (1997), Branched coverings and cubic Newton maps, Fund. Math. 154, 207-226. Tan Lei and Yin Y. (1996), Local connectivity of the Julia set for geometrically finite rational maps, Science in China A39, 39-47. W. Thurston (1997), Three-dimensional Geometry and Topology, Vol. I, Edited by Silvio Levy. Princeton Mathematical Series 35, Princeton University Press, Princeton, NJ. S. Ulam and J. von Neumann (1947), On combinations of stochastic and deterministic processes, Bull. A.M.S. 53, 1120. S.M.Voronin (1981), Analytic classification of germs of conformal maps (C, 0) —>- (C, 0) with identity linear part, Func. Anal. Appl. 15, 1-17. (Русский оригинал. С. М. Воронин (1980), Аналитическая классификация ростков конформных отображений (С, 0) —»■ (С, 0) с тождественной линейной частью, Функц. анализ и его прил. 15, Ml, с. 1-17.) G. Т. Whyburn (1964), Topological Analysis, Princeton U. Press. T. Willmore (1959), An Introduction to Differential Geometry, Clarendon. M. Yampolsky (1995), Complex Bounds for Critical Circle Maps, Stony Brook I.M.S. Preprint 1995 №12. J.-C. Yoccoz (1984), Conjugation differentiable des diffeomorphismes du cercle dont le nombre de rotation verifie une condition diophantienne, Ann. Sci. E.N.S. Paris (4) 17, 333-359.
320 Литература J.-C. Yoccoz (1988), Linearisation des germes de diffeomorphismes holomorphes de (C, 0), С R. Acad. Sci. Paris 306, 55-58. E. Zehnder (1977), A simple proof of a generalization of a theorem by C. L. Siegel, in Geometry and Topology IIP, edit, do Carmo and Palis, Lecture Notes Math. 597, Springer. Список литературы, добавленный переводчиком R. Devaney (Editor) (1994), Complex dynamical systems, Proc. Symposia in Applied mathematics 49, AMS. С. Т. McMullen (1999), Hausdorff dimensions and conformal dynamics Ц Strong convergence of Kleinian groups, Journ. of Differential Geometry 51, №3, 471-515. Ю. Г. Борисович, H. М. Близняков, Я. А. Израилевич, Т. H. Фоменко (1980), Введение в топологию, М.: Высшая школа. 295 стр. Э. Спеньер (1971), Алгебраическая топология, М.: Мир, 680 стр. Г.Д.Суворов (1986), Простые концы и последовательности плоских отображений, Киев: Наукова Думка, 189 стр. Г. Д. Суворов (1985), Обобщенный принцип длины и площади в теории отображений, Киев: Наукова думка, 277 стр. Г. Д. Суворов (1981), Метрическая теория простых концов и граничные свойства плоских отображений ограниченными интегралами Дирихле, Киев: Наукова Думка, 166 стр.
Предметный указатель Альфорс, Л. 10, 195, 297 Антиголоморфный 24 Бейкер, И. 10, 87, 190, 203, 298 Берс, Л. 10, 195, 297 Бётхер, Л.Э. 10, 1Ц, 223 Бибербах, Л. 262, 288 Блуждающая область 205, 294 Большая орбита 64, 127 Браннер, Б. 10, 273, 304 Брюно, А. Д. 158 Вейерштрасс, К. 14, 53, 92 Гаусс, К. Ф. 42, 285, 292 Геодезическая 34, 40, 239 Гиперболическая поверхность 28, 74 Гиперболическое отображение 23, 243 Голоморфный 11 Грётш, X. 10, 269 Данжуа, А. 10, 76 Двойное отношение 22, 186, 293, 301 Диофантово число 155, 192, 281 Дуади, А. 10, 198, 224, 231, 303 Евклидова поверхность 28, 85 Жюлиа, Г 10, 55, 152, 184 Заполненное множество Жюлиа 120, 222, 264 Зигель, К. Л. 10, 153, 228 Индекс вращения 132, 151, 188, 192, 196 Йоккоз, Ж.-К. 10, 159, 162, 192, 255, 304 Каратеодорщ К. 10, 13, 206-217, 301 Квазиконформное отображение 297 Кёбе, П. 10, 12, 262 Кёнигс, Г 10, 100 Кольцо 28, 41, 268 Компонента связности множества Фату 197 Конформный 11 Кремер, Г 10, 152, 169, 227, 307 Кривизна 32-35, 42 Кролик 68, 224 Латтэ, С. 10, 91-96 Лемма об улитке 198, 230 Лепесток 133, 137 Лиувилль, Ж. Ц, 156, 282 Ло, Л. 10, 138 Локальная связность 216, 245, 250, 255 Локально равномерная сходимость 44 Локальный униформизующий параметр 11 Любич, М.Ю. 10, 87, 198, 243, 304 МакМуллен, К. 10, 69, 247, 272 Метод Ньютона 72, 94, 302 Множество Жюлиа 55 — Мандельброта 175 — Фату 55 Модуль (кольца) 41, 268-272 Монтель, П. 10, 44, 52, 64, 186 Моррей, Ч. 10, 195, 296
322 Предметный указатель Накрывающее отображение 25, 289 — преобразование 25, 289 Нейтральная точка 62 Неравенство Гронуолла 261 — Йенсена 258 — длины-площади 208, 264 Нормальное накрытие 25, 289 — семейство 48 Область притяжения 62, 131 Однолистная 11 Орбифолд 251, 290 Отталкивающая точка 60, 108, 184 Параболическая точка 20, 23, 63, 129 Перес-Марко, Р. 159 Полнота 34 Полуплоскость 17 Посткритический 97, 166, 189, 242 Преобразование Мёбиуса 15 Принцип максимума модуля 13 Притягивающая точка 60, 98-107 Произведение Бляшке 94, 193 Простой конец 211, 301 Пуанкаре, А. 10, 12, 30 Разветвлённое накрытие 288 Риманова поверхность 11 — сфера 12 Рис, М. 10, 87, 93, 304 Самоподобный 70 Сисикура, М. 10, 147, 181, 191-194, 201 Собственно разрывный 26, 39 Субгиперболическое отображение 250 Сулливан, Д. 10, 196, 202, 242, 294, 304 Сферическая метрика 35 Теорема Бэра 69, 74, 153 — Пика 36 — Пикара 30 — Риса 165, 209, 259 Теоремы об окончании 226, 231 Тёрстон, У. 10, 189, 242, 251, 288 Транзитивность 69, 74 Униформизация 12, 26 Уравнение Абеля 140 — Бельтрами 295 Фату, П. 10, 55, 186, 209, 288 Формула Римана - Гурвица 91, 114, 128, 254 Формулы неподвижной точки 171, 174 Фрактал 109, 303 Фундаментальная группа 25, 290 Функция Грина 126, 223, 238, 307 Хаббард, Дж.Х. 10, 273, 302-306 Цепная (или непрерывная) дробь 157, 277 Цилиндр Экаля 139 Чебышев, П. Л. 95, 255 Черри, ТМ. 159 Шварц, Г. А. 10, 13, 208, 266 Шредер, Э. 10, 94, ЮО Эйлерова характеристика 91, 290- 293 Эрман, М. 10, 191-196
Джон Милнор Голоморфная динамика Дизайнер М. В. Ботя Технический редактор А. В. Широбоков Компьютерная верстка: С. В. Высоцкий Корректор М. А. Ложкина Подписано к печати 26.06.00. Формат 60 х 841/16. Усл. печ. л. 18,6. Уч. изд. л. 19,13. Гарнитура Computer Modern Roman. Бумага офсетная Ml. Печать офсетная. Заказ М Научно-издательский центр «Регулярная и хаотическая динамика» 426057, г. Ижевск, ул. Пастухова, 13. Лицензия на издательскую деятельность ЛУ №084 от 03.04-00. Отпечатано в полном соответствии с качеством предоставленных диапозитивов в ГИПП «Вятка». 610033, г. Киров, ул. Московская, 122.