Text
                    ENCYCLOPEDIA OF MATHEMATICS AND ITS APPLICATIONS
Introduction to the
Modern Theory of Dynamical Systems
ANATOLE КАТОК
Pennsvlvania State University
1 m
BORIS HASSELBLATT
Tufts University
With a supplement by Anatoie Katok and Leonardo Mendoza
CAMBRIDGE
UNIVERSITY PRESS


A. Б. КАТОК Б. ХАССЕЛБЛАТ В СОВРЕМЕННУЮ ТЕОРИЮ ДИНАМИЧЕСКИХ СИСТЕМ Перевод с английского А. Кононенко, при участии С. Ферлегера ИЗДАТЕЛЬСТВО «ФАКТОРИАЛ» МОСКВА. 1999
ББК 22.21 К29 УДК 531.01 +517.9 К29 А. Б. Каток, Б. Хасселблат Введение в современную теорию дина мических систем / Пер. с англ. А. Кононенко при участии С. Ферлеге ра. — М.: Изд-во ^Факториал», 1999. — 768 с. — ISBN 5-88688-042-9 В книге содержится чрезвычайно полное и подробное изложение теории динамических систем как ключевой математической дисциплины, тесно связанной с большинством областей математики. Развивая теорию авторы объясняют фундаментальные понятия теории и рассматривают их на многочисленных примерах. Книга предназначена студентам, аспирантам и научным сотрудникам физико-математических специальностей. Представляет большой интерес для специалистов в области нелинейной физики и теории хаоса. рфи Издание осуществлено при финансовой поддержке Российского фонда фундаментальных исследований. Проект №96-01-14191. Научное издание Анатолий Борисович Каток Борис Хасселблат Введение в современную теорию динамических систем Редакторы: Архипов А. М., Васильева О. А., Городецкий А, С Формат 70 X 100/16. Усл. печ. л. 61,92. Бумага офсетная № 1. Гарнитура литературная. Подписано к печати 19.03.1999. Тираж 1207 экз. Заказ № 566. Издательство «Факториал», 117449. Москва, а/я 331; ЛР № 063537 от 22.07.1994. e/mail: factorial@mail.compnet.ru; http://www.compnet.ru/factorial. Отпечатано с готовых диапозитивов издательства «Факториал» в ППП типографии «Наука» Академиздатцентра «Наука» РАН. 121099, Москва Г-99, Шубинский пер., 6. Оригинал-макет подготовлен с использованием издательской системы ДР-Т^Х. ISBN 5-88688-042-9 (рус.) © А. Б. Каток, Б. Хасселблат, 1999. ISBN 0-521-34187-6 (англ.) © Факториал, 1999.
ОГЛАВЛЕНИЕ Предисловие к русскому изданию Предисловие Введение 10 12 19 Часть 1. ОСНОВНЫЕ ПОНЯТИЯ И ПРИМЕРЫ 31 Глава 1. Первые примеры 31 § 1.1. Отображения с устойчивым асимптотическим поведением 31 Сжимающие отображения * Устойчивость сжимающих отображений * Обратимые отображения интервала § 1.2. Линейные отображения 35 § 1.3. Повороты окружности 41 § 1.4. Сдвиги на торах 43 § 1.5. Линейные потоки на торах и вполне интегрируемые системы 46 § 1.6. Градиентные потоки 50 § 1.7. Растягивающие отображения 53 § 1.8. Гиперболические автоморфизмы тора 56 § 1.9. Символические динамические системы 61 Пространства последовательностей * Преобразование слщига * Топологические цепи Мяркова * Оператор Перрона— Фробениуса для положнтельньрс матриц Глава 2. Эквивалентность, классификация и внварианты 70 § 2.1. Гладкая сопряженность и модули отображений 70 Эквивалентность н модули * Локальная аналитическая линеаризация * Различные типы модулей § 2.2. Гладкая сопряженность и замена времени для потоков 77 § 2.3. Топологическая сопряженность, факторы и структурная устойчивость . . 80 § 2.4. Топологическая классификация растягивающих отображений окружности 83 Растягивающие отображения * Сопряжение посредством кодирования * Метод неподвижной точки § 2.5. Кодирование, подковы и марковские разбиения 92 Марковские разбиения * Ква^фатичные отображения * Подковы ■* Кодирование автоморфизма тора § 2.6. Устойчивость гиперболических автоморфизмов тора 99 § 2.7. Метод быстро сходящихся итераций (метод Ньютона) для задачи сопряжения 103 Мето^ш нахождения сопрягающих отображений * Задание итеративного i^ouecca § 2.8. Теорема Пуанкаре — Зигеля 106 § 2.9. Коциклы и когомологические уравнения Ill Глава 3. Основные классы асимптотических топологических инвариан- тон 117 § 3.1. Рост орбит 117 Периодические орбиты и Сфуккцня * Топологическая энтропия * Рост объема * Топологическая слож> ность: рост в фундаментальной группе * Рост гомологии § 3.2. Примеры вычисления топологической энтропии 130 Изоиетрня * Градиентные потоки * Растягивающие отображения * Сдвиги и топологические цепи Маркова ♦ Гиперболические автоморфизмы тора * Конечность энтропии липшицневых отображений * Разделяющие отображения § 3.3. Свойства возвращения 138
6 ОГЛАВЛЕНИЕ Глава 4. Статистическое описание поведения орбит и введение в эргоди- ческую теорию 143 § 4Л. Асимптотическое распределение и статистическое поведение орбит . - . - 143 Асимптотическое распределение, инвариантные меры ^ Существование инвариантных мер ^ Эргодиче- екая теорема Биркгофа * Существование асимптотического распределения ^ Эргодичность н строгая эргодичность * Статистическое поведение и возвращение * Метрический изонорфизы и факторы § 4.2. Примеры Эргодичности; перемешивание 156 преобразование поворота * Преобразования типа попорота * Растягивающие отображения « Переме- шиаание * Гиперболические автоморфизмы тора * Символические системы § 4.3. Метрическая энтропия 170 Энтропия и условная энтропия раз<^ний ч' Энтропия сокраняющих меру преобразований * Свойства энтропии § 4.4. Примеры вычисления метрической энтропии 182 Вращения и сдэиги * Растягивающие отображения * Бернуллиевские и марковские неры * Гиперболические автоморфизмы тора § 4.5. Вариационный принцип 188 Глава 5. Системы с гладкими инвариантными мерами и новые примеры 192 § 5Л. Существование инвариантных гладких мер 192 Класс гладких мер * Оператор Helena —Фробеннуса н дивертенция * Критерии существования гладкой инвариантной меры * Абсолютно непрерывная ииварнаитиая мера для растягивающих отображений * Теорема Мозера § 5.2. Примеры ньютоновых систем 204 Уравнение Ньютона ^ Движение свободной частицы на торе « Математический маятник ь Центральные силы § 5.3, Лагранжева механика 208 Единствениость в конфигурационном пространстве ь Уравнение Лагранжа ^ Лагранжевы системы ^ Геодезические потоки * Праобразование Лежаидра § 5.4. Примеры геодезических потоков 213 Многообразия с большим количествсш симметрии * Сфера и гор * Иэометрин гиперболической плоскости * Геодезические на гиперболической плоскости * Конпактиые факторы ^ Линамика геодезических потоков на компактных гиперболических пове[шюстях § 5.5. Гамильтоновы системы 226 Сиыплектическая геометрия ь Кокасательные расслоения « Гамильтоновы вектсфные поля и потоки ь Скобки Пуассона ь Интегрируемые системы § 5.6. Контактные системы 236 Гамильтоновы системы, сохраняющие Ьформу ^ Контактные формы § 5.7. Алгебраическая динамика: сдвиги на однородных пространствах и аффинные преобразования 240 Часть 2. ЛОКАЛЬНЫЙ АНАЛИЗ И СТРУКТУРА ОРБИТ 243 Глава 6, Локальная гиперболическая теория и ее приложения 243 § 6.1. Введение 243 § 6.2. Устойчивые и неустойчивые многообразия 245 Гиперболические периодические орбиты « Экспоненциальное разложение « Теорема Адаыара — Перрона « Доказательство теоремы Адаыара — Перрона * Л-лемма § 6.3. Локальная устойчивость гиперболических периодических точек 265 Теореыа Хартмаиа —* Гробмаиа * Локальная структурная устойчивость § 6.4. Гиперболические множества 268 Определение и инвариантные конусы ^ Устойчивые и неустойчивые многообразия * Лемма о заныкаиии и пернодические орбиты * Локально максимальные гиперболические множества § 6.5. Гомоклинические точки и подковы 279 Подковы * Гомоклинические точки * Подковы в окрестностях гоыоклнннческих точек § 6.6. Локально гладкая линеаризация и нормальные формы 284 Струн, формальнме степенные ряды и гладкая эквивалентность* Формальный анализ в общем случае * Гладкое сопряжение в гиперболическом случае Глава 7. Трансверсальность н массивность 293 § 7.1. Свойства <гипичных> динамических систем 293 Массивные множества и множества первой катетории * Гиперболичность и массивность § 7.2. Динамические системы общего положения с гиперболическими периодическими точками 296 Трансверсалыше неподвижные точки « Теорема Купки — Снейла
ОГЛАВЛЕНИЕ 7 § 7.3. Нетрансверсальность и бифуркации 304 Структурно устойчивью бифуркации * Бифуркации Хопфа § 7.4. Теореыа Артииа — Мазура 311 Глава 8. Топологические причины усложнения структуры орбит 314 § 8.1. Топологическая энтропия и энтропия фундаментальной группы 315 § S.2. Обзор теории степени отображения 316 Мотивировка * Степень отображения окружности * Два определ»1Ня степени гладких отображений * Топол№Нческое определение степени § 8.3. Степень отображения и топологическая энтропия 323 § 8.4. Теория индекса изолированной неподвижной точки 325 § S.5. Роль гладкости: теорема Шуба — Сулливана 330 § 8.6. Формула Лефшеца и ее приложения 333 § 8.7. Теория Нильсена и периодические точки для отображений торов 338 Глава 9. Вариационные методы в динамике 341 § 9.1. Критические точки функций, теория Морса и динамика 342 § 9.2. Биллиарды 345 § 9.3. Закручивающие отображения 355 Определение и пртмеры * Порождающая функция * Продолжения * Биркгофовы периодические орбиты * Глобальная минимальность биркгофовых периодических орбнт § 9.4. Вариационное описание лагранжевых систем 371 § 9.5. Локальная теория и экспоненциальное отображение 374 § 9.6. Минимальные геодезические 379 § 9.7. Минимальные геодезические на компактных поверхностях 382 Часть 3. ДИНАМИЧЕСКИЕ СИСТЕМЫ МАЛОЙ РАЗМЕРНОСТИ 385 Глава 10. Введение: Что такое динамика малых размерностей 385 Наводящие соображения * Теорема о промежуточном значении и юиформиость * Очень малоразмерные и малоразмерные системы * Разделы динамики малой размерности Глава и. Гомеоморфизмы окружности 391 § 11.1. Число вращения 391 § 11.2. Классификация Пуанкаре 397 Рациональные мачеиия числа вращения * Иррациональные значения числа вращения * Типы орбит н измеримая классификация Глава 12. Диффеоморфизмы окружности 405 § 12.1. Теорема Данжуа 405 § 12.2. Пример Данжуа 407 § 12.3. Локальные аналитические сопряжения в случае диофантовых чисел вращения 409 § 12.4. Инвариантные меры и регулярность сопрягающих отображений 414 § 12.5. Пример сингулярного сопряжения 416 § 12.6. Методы быстрой аппроксимации 419 Со1фЯжения промежуточной регулярности * Гладкие коциклы с нерегулярными кограницами § 12.7. Эргодичность относительно меры Лебега 424 Глава 13. Закручивающие отображения 426 § 13.1. Лемма о регулярности 426 § 13.2. Существование множеств Обри — Мазера и гомоклинические орбиты . . . 428 Множества Обри — Мазера * Иивариаитные окружности и области неустойчивости § 13.3. Функционалы действия, минимальные и упорядоченные орбиты 438 Минимальное действие * А^инимальиые орбиты * Усреднеииое действие и минимальные меры * Устойчивые множества для иножеств Обри — Мазера § 13.4. Орбиты, гомоклинические к множествам Обри — Мазера 444 § 13.5. Отсутствие инвариантных окружностей и локализация множеств Обри — Мазера 451
8 ОГЛАВЛЕНИЕ Глава 14. Потоки на поверхностях и связанные с ними динамические системы 454 § 14.1. Теория Пуанкаре — Бендиксона 455 Теорема Пуанкаре — Бендиксона * Существование трансверсалей § 14.2. Потоки без неподвижных точек на торе 460 Глобальные трансверсалн * Потоки, сохраняющие площадь § 14.3. Минимальные множества 463 § 14.4. Новые явления 467 Поток Черри * Линейный поток на восьииугольнике § 14.5. Перекладывания отрезков 472 Определения н «жесткие» интервалы * Кодирование * Структура заыыканнй орбт * Инвариантные иеры * Минимальное не строго эргоднческое перекладывание отрезков § 14.6. Применение изложенного материала к потокам н биллиардам 481 Классификация орбит * Параллельные потоки и биллиарды в многоугольниках § 14.7. Обобщения чисел вращения 485 Векторы вращения потоков на торе * Асииптотические циклы * Фундаментальный класс и гладкая класси({»1квцня сохраняющих плошздь потоков Глава 15. Непрерывные отображения отрезка 492 § 15.1. Марковские покрытия и разбиения 492 § 15.2. Энтропия, периодические орбиты и подковы 496 § 15.3. Теорема Шарковского 503 § 15.4. Отображения с нулевой топологической энтропией 508 § 15.5. Теория инвариантов перемешивания 514 § 15.6. Тентообразная модель 517 Глава 16. Гладкие отображения отрезка 522 § 16.1. Структура гиперболических отталкивающих множеств 522 § 16.2. Гиперболические множества гладких отображений 523 § 16.3. Непрерывность энтропии 528 § 16.4. Полные семейства унимодальных отображений 529 Часть 4. ГИПЕРБОЛИЧЕСКИЕ ДИНАМИЧЕСКИЕ СИСТЕМЫ 532 Глава 17. Обзор примеров 532 § 17.1. Аттрактор Смейла 533 § 17.2. DА-отображения и аттрактор Плыкина 538 DA-отображения * Аттрактор Плыкнна § 17.3. Растягивающие отображения и автоморфизмы Аносова нильмногообра- зий 542 § 17.4. Определения и основные свойства гиперболических множеств потоков . . 545 § 17.5. Геодезические потоки на поверхностях постоянной отрицательной кривизны 549 § 17.6. Геодезические потоки на компактных римановых многообразиях отрицательной секционной кривизны 551 § 17.7. Геодезические потоки на симметрических пространствах ранга один . . . 555 § 17.8. Гиперболические множества Жулиа в комплексной плоскости 559 Рациональные отображения сферы Рннана * Голоморфная днианика Глава 18. Топологические свойства гиперболических множеств 566 § 18.1. Приближение псевдоорбит 566 § 18.2. Устойчивость гиперболических множеств и марковские приближения . . . 572 § 18.3. Спектральное разложение и спецификация 575 Спектральное разложение отображений * Спектральное разложение для потоков * Спецификация § 18.4. Локальная структура произведения 583 § 18.5. Плотность и рост числа периодических орбит 584 § 18.6, Глобальная классификация диффеоморфизмов Аносова на торе 588 § 18.7. Марковские разбиения 593
ОГЛАВЛЕНИЕ 9 Глава 19. Метрическая структура гиперболических множеств 599 § 19.1. Гёльдеровские структуры 599 Инвариантный класс гёльдеровых функций * Гбльдеровость сопряжений * Гёльде ровость орбитальной эквивалентности потоков * Гёльдеровость и диффареицируемость неустойчивого распределения * Гёльдеровость якобиана § 19.2. Когомологические уравнения ДЛЯ гиперболических динамических систем . 610 Теорема Лившица * Гладкие инвариантные меры диффеоморфизмов Ажхюва « Замены времени н орбитальная эквивалентность для гиперболических потоков * Эквивалентность расширении отображений со слоек тор Глава 20. Равновесные состояния и гладкие инвариантные меры 616 § 20.1. Мера Боуэна 616 § 20.2. Давление и вариационный принцип 623 § 20.3. Единствениость и классификация равновесных состояний 629 Единственность равновесных состояний * Классификация равновесных состояний § 20.4. Гладкие инвариантные меры 638 Свойства инвартантных гладких мер * Гладкая классификация диффеоморфизмов Аносюа на торе * Гладкая классн({Н1кацня контактных потоке» Аносова на 3-многообрйнях § 20.5. Мера Маргулиса 643 § 20.6. Мультипликативная асимптотика роста числа периодических точек .... 652 Локальные кубы потока * Мультипликативная асимптотика роста числа орбит Добавление. Динамические системы с неравномерно гиперболическим поведением {А. Каток, Л. Мендоза) 657 § Д 1. Введение 657 § Д 2. Показатели Ляпунова 658 Коциклы над динаыическнни системами * Пртиеры коциклов * Мультипликативная эргодическая те- орама * Теорема Лесина — Оселедца о s-редукцни * Неравенство Рюэлля § Д 3. Регулярные окрестности 668 Существование регулярных окрестностей * Гиперболические точки, допустимые многообразия и преобразования графиков § Д 4. Гиперболические меры 673 Введение * Лемма о заиыкаиии * Лемма о е^раекторнях * Псевдомарктсхне покрытия * Теорема Лившица § Д 5. Энтропия и динамика гиперболических мер 685 Гиперболические меры и гиперболические перноднчесхие точки * Непрерывные меры и трансверсальг ные гомоклинические точки * Теорема о спектральноы разложении * Энтропия, подковы и периодические точки гиперболических мер Приложение. Необходимые сведения 692 § П 1. Основы топологии 692 Топологические пространства * Теория гомотопий * Метрические пространства § П 2. Элементы функционального анализа 698 § П 3. Дифференцируемые многообразия 702 Дифференцируемые ыногооС^изия * Тензорные расслоения * Вычисления с виешиими формами * Трансверсальность § П 4. Дифференциальная геометрия 711 § П 5. Топология и геометрия поверхностей 713 § П 6. Теория меры 714 Основные понятия * Мары и топология § П 7. Теория гомологии 716 § П 8. Локально компактные группы и группы Ли 719 Примечания 721 Указания и ответы к упражнениям 738 Библиография 753 Предметный указатель 765
ПРЕДИСЛОВИЕ К РУССКОМУ ИЗДАНИЮ Выход в свет перевода нашей книги на русский язык доставляет нам огромное удовлетворение. Современная теория динамических систем в том виде, как она представлена в этой книге, имеет несколько основных источников, и среди них вклад русской школы, в особенности в период с начала пятидесятых до середины семидесятых годов, занимает выдающееся место. В начале этого периода А. Н. Колмогоров выдвинул программу изучения классических динамических систем с использованием методов современного анализа и теории вероятностей. Эта программа, а также первые результаты ее реализации коротко, но весьма убедительно изложены в пленарном докладе Колмогорова на Международном Математическом Конгрессе 1954 года в Амстердаме. Вклад самого Колмогорова в развитие теории динамических систем трудно переоценить: теория возмущений вполне интегрируемых гамильтоновых систем и введение энтропии являются, пожалуй, самыми важными достижениями, относящимися соответственно к «устойчивому» и «хаотическому» поведению в динамике. Идеи Колмогорова, изложенные в курсах лекций, докладах на семинарах и неформальных обсуждениях в течение 50-х и начала 60-х годов, оказали огромное влияние на многих блестящих математиков, которые в этот период были студентами и аспирантами. Работы этих математиков, в первую очередь В. М. Алексеева, Д. В. Аносова, В, И,. Арнольда и Я. Г. Синая, сыграли центральную роль в бурном развитии теории динамических систем в течение 60-х и 70-х годов. Наш взгляд на эту область, ее взаимоотношения с другими разделами математики и прикладными дисциплинами обязан Московской школе этого периода в больший степени, чем всем другим влияниям. Первый автор этой книги был студентом и аспирантом МГУ с 1960-го по 1968 год и работал в ЦЭМИ в течение 10 лет после этого. Он принадлежит к следующему поколению московских математиков, которые начали работать в теории динамических систем примерно с середины 60-х годов. Работы А. Г. Кушниренко, А. Г. Маргулиса, М. В. Якобсона, А. М. Стенина, В. И. Оселедца, Б. М. Гуревича, М. И, Брина, Я- Б, Песина и других, сделанные в период до середины 70-х годов, положили начало нескольким важным направлениям в теории динамических систем, и влияние этих работ чувствуется до настоящего времени. Семинар Алексеева и Синая в МГУ был в течение большей части этого периода главным центром, где обсуждались и развивались новые идеи и результаты в различных областях теории динамических систем. Несколько позднее возник совместный семинар первого автора с Аносовым (сначала в МИАНе, а потом в ЦЭМИ), который вскоре начал играть сходную роль. Пожалуй, такой концентрации активно работающих, талантливых и в основном еще очень молодых математиков, занимающихся динамическими системами, никогда и нигде больше не существовало. Появление этого перевода было бы невозможно без участия и разнообразной помощи со стороны многочисленных лнц и организаций, которым мы глубоко благодарны. Постараемся перечислить тех, кто внес наиболее существенный вклад в осуществление этого проекта. Перевод на русский язык был выполнен Алексеем Кононенко и Сергеем Ферлегером, когда они оба были аспирантами в Университете Штата Пенсильвания, Перевод был выполнен в весьма сжатые сроки, и переводчики проявили большую самоотверженность.
ПРЕДИСЛОВИЕ К РУССКОМУ ИЗДАНИЮ 11 Российский Фонд Фундаментальных Исследований оказал финансовую поддержку русского издания книги. Без гранта РФФИ издание, конечно, было бы невозможно. А, Г, Кушниренко сыграл важную роль в организации издания книги на русском языке. Он же осуществл51л общее руководство над переводом книги. В частности, благодаря ему было налажено тесное взаимодействие между авторами и издательством. Роль издательства ^Факториал» в лице его директора И. Е. Калиниченко и главного редактора Ю. И. Торхова трудно переоценить. Учитывая объем и сложность работы, сжатые сроки, ограниченность ресурсов, минимальные контакты с переводчиками и, конечно, общие экономические трудности, успешное завершение работы стало возможным только благодаря высокому профессионализму и целеустремленности издателей. Мы хотели бы также отдельно отметить исключительно квалифицированную работу Ю. И. Торхова по созданию оригинал-макета книги. Редактор издательства О. А. Васильева провела огромную и весьма успешную работу по исправлению стиля перевода. Два других редактора А. М. Архипов и А. С. Городецкий систематически проверили весь материал и терминологию, используемую в книге. Перевод включает все поправки и исправления, внесенные в четвертое издание на английском языке, вышедшее в 1998 году, а также изменения, подготовленные для пятого издания, которое будет напечатано в 1999 году. Среди этих изменений имеется значительное количество ошибок и опечаток, замеченных А. М. Архиповым и А. С. Городецким. Некоторые из их предложений выходят за пределы простых исправлений. Они будут использованы при подготовке переработанного издания книги, выход которого запланирован на 2000 год. Отредактированный текст перевода был тщательно прочитан первым автором, который внес дальнейшие улучшения и исправления и одобрил окончательный вариант текста. Л. Б. Каток, Б. Хасселблат Стейт Колледж, Пенсильвания, январь—февраль 1999 года
Светлане Каток и Кэтлин Хасселъблат ПРЕДИСЛОВИЕ Теория динамических систем является фундаментальной математической дисциплиной, тесно связанной с большинством основных областей математики. Ее математической сердцевиной является изучение глобальной структуры орбит отображений и потоков, в особенности свойств, инвариантных относительно замен координат. Понятия, методы и представления теории динамических систем существенно стимулируют исследования во многих других отраслях знания, что уже привело к появлению обширной новой науки, называемой прикладной динамикой (а также нелинейной динамикой или теорией хаоса). Теория динамических систем включает несколько основных дисциплин, но мы рассматриваем в первую очередь конечномерную дифференциальную динамику. Эта теория тесно связана с рядом других дисциплин, в особенности с эргодической теорией, символической динамикой и топологической динамикой. До сих пор не существовало достаточно полного изложения дифференциальной динамики, в полной мере отражающего взаимосвязи с этими областями. Данная книга представляет собой попытку заполнить этот пробел. Она содержит последовательное и исчерпывающее описание основ теории гладких динамических систем, а также связанных с этой теорией областей из других разделов динамики как фундаментальной математической дисциплины. В то же время исследователи, заинтересованные в приложениях, смогут найти здесь описание нужных им методов и представлений. Данная книга содержит введение и последовательное развитие центральных понятий и методов теории динамических систем и их приложения к широкому и разнообразному ряду тем. Содержание книги. Мы начинаем с обсуждения элементарных, но вместе с тем фундаментальных примеров. Они используются, чтобы сформулировать общую программу анализа асимптотических свойств, а также ввести главные понятия (такие как дифференциальная и топологическая эквивалентности, модули, структурная устойчивость, асимптотическая скорость роста орбит, энтропия, эргодичность и т. п.) и, в упрощенной форме, многие важные методы (метод неподвижной точки, кодирование, КАМ-вари- ант метода Ньютона, локальные нормальные формы, гомотопический прием и т. п.). Основная тема второй части книги — взаимосвязь между локальным анализом вблизи отдельной (например периодической) орбиты и сложностью структуры орбит в целом. Эта взаимосвязь изучается с помощью таких понятий, как гиперболичность, трансверсальность, глобальные топологические инварианты, а также с помощью вариационных методов. Набор методов включает анализ устойчивых и неустойчивых множеств, бифуркаций, исследование индекса и степени и построение орбит как минимумов и мини- максов функционалов действия. В третьей и четвертой частях общая программа, очерченная в первой части, осуществляется значительно более глубоко для динамических систем малой размерности и гиперболических динамических систем, которые особенно хорошо поддаются такому анализу. Гиперболические системы являются ярким примером хорошо понятого сложного поведения. Эта сложность
ПРЕДИСЛОВИЕ 13 проявляется в устройстве структуры орбит, которая богата как с топологической, так и со статистической точек зрения и устойчива относительно возмущений. В то же время главные особенности поведения■ могут быть описаны как качественно, так и количественно с высокой степенью точности. В случае динамических систем малой размерности, с другой стороны, можно наблюдать две ситуации. В случае «очень малой размерности» структура орбит упрощается и допускает лишь весьма ограниченную сложность. В случае «малой размерности»некоторая степень сложности возможна, но основные аспекты устройства структуры орбит хорошо описываются с помощью гиперболичности или подобных типов поведения. Хотя большинство тем, связанных с дифференциальной динамикой, разрабатывается в этой книге достаточно глубоко, мы не пытались написать энциклопедическое исследование дифференциальной динамики. Даже если бы это было возможно, результатом такой работы явился бы просто некоторый источник ссылок, бесполезный в качестве учебника или введения в предмет. Таким образом, мы отнюдь не пытаемся представить самые сильные из известных результатов, но вместо этого предоставляем читателю хорошо структурированный набор принципов, на которых базируются методы и результаты. Далее, данная книга не является введением в прикладную динамику, и наши примеры, вообще говоря, не выбираются из множества прикладных моделей, широко изучаемых в различных дисциплинах. Напротив, они возникают естественно из внутренней структуры изучаемого предмета и содействуют его пониманию. Внимание, которое уделяется различным направлениям в той или иной области, не определяется ни долей работ, опубликованных на эту тему, ни размахом научно-исследовательской деятельности в этих направлениях, а лишь отражает наше понимание того, что именно является основным и фундаментальным в данной области. Очевидное несоответствие возникает в глучае одномерной (вещественной и особенно комплексной) динамики, активность в которой постоянно росла в течение последних 15 лет, что привело к появлению множества блестящих результатов. Эта область играет сравнительно скромную роль в данной книге. Вещественная одномерная динамика используется главным образом как источник простых моделей, в которых со значительным успехом могут применяться различные методы. Комплексная динамика, которая является с нашей Точки зрения увлекательным, но довольно специальным предметом, появляется лишь как источник примеров гиперболических множеств. С другой стороны, мы стараемся отмечать и подчеркивать взаимосвязь динамики с другими областями математики (теорией вероятностей, алгебраической и дифференциальной топологией, геометрией, вариационным исчислением и т. п.) даже в некоторых ситуациях, в которых на сегодняшний день окончательное понимание еще во многом не достигнуто. Как пользоваться этой книгой. Эта книга может быть использована и как учебник для курса теории динамических систем или для самообразования, и как справочник. Как учебник, наиболее естественно использовать ее в качестве основной книги для аспирантов, подготовка которых эквивалентна подготовке аспирантов второго года большинства университетов Соединенных Штатов Америки и которые либо планируют специализироваться в области теории динамических систем, либо хотят приобрести твердое общее знание этого предмета. Некоторые главы этой книги не требуют для понимания столь специальных познаний и могут использоваться продвинутыми студентами старших курсов, а также аспирантами, работающими в области естественных наук и проектирования, которые хотели
14 ПРЕДИСЛОВИЕ бы приобрести представление о теории динамических систем, не становясь специалистами в этой области. В эту категорию входят глава 1, большая часть материала глав 2, 3 и 5, часть материала глав 4, 6, 8 и 9, главы 10 и 11 и большая часть материала глав 12, 14, 15 и 16. Упражнения (всего их 472) являются очень важной частью книги. Они распадаются на несколько категорий. Некоторые из них непосредственно иллюстрируют результаты или методы, приведенные в тексте; другие посвящены примерам, которые не обсуждаются в основном тексте, или же указывают направления развития. Иногда важная побочная тема развивается в серии упражнений. Те 317 упражнений, которые мы не считаем стандартными, снабжены указаниями или краткими решениями, которые читатель может найти в конце книги. Звездочка указывает на упражнения повышенной трудности (с нашей субъективной точки зрения), которые требуют либо изобретательности, либо хорошего знакомства с материалом, связь которого с непосредственно рассматриваемой темой не совсем очевидна. Каждая из четырех частей книги может служить в качестве основы курса, приблизительно соответствующего уровню аспиранта второго года. Этот курс может быть односеместровым или более длинным. Данная книга может служить источником множества специализированных курсов, посвященных таким, например, темам, как вариационные методы в классической механике, гиперболические динамические системы, закручивающие отображения и их приложения, введение в эргодическую теорию и гладкую эргодическую теорию и математическая теория энтропии. Для того чтобы облегчить выбор материала для курса как студентам, так и преподавателям, мы изобразили основные взаимозависимости между главами в виде диаграммы на рис. 1. Сплошная стрелка А —► В показывает, что основная часть материала из главы А используется в главе В (это отношение является транзитивным). Пунктирная стрелка А —>—> В показывает, что материал из главы А используется в некоторых частях главы В. Рис. 1
ПРЕДИСЛОВИЕ 15 За исключением глав с первой по четвертую, которые образуют фундамент всей книги, главы в левой части диаграммы относятся преимущественно к гиперболической динамике, в середине — к динамике малых размерностей, а справа — к некоторым аспектам дифференциальной динамики, связанным с топологией и классической механикой. Мы предполагаем у читателя предварительное знакомство с материалом на нескольких уровнях. Прежде всего, мы без оговорок используем, предполагая хорошую осведомленность, результаты линейной алгебры (включая жордановы нормальные формы), дифференциальное и интегральное исчисление для функций многих переменных, основы теории обыкновенных дифференциальных уравнений (включая системы), элементарный комплексный анализ, основы теории множеств, элементарную теорию интеграла Лебега, основы теории групп и рядов Фурье. Необходимые сведения следующего, более высокого уровня рассматриваются в приложении. Большая часть материала приложения включает материал такого типа, а именно, в приложении содержатся сведения из стандартной теории топологических, метрических и банаховых пространств, элементарная теория гомотопий, основы теории дифференцируемых многообразий, включая векторные поля, расслоения и дифференциальные формы, и определение и основные свойства ри- мановых многообразий. Некоторые темы используются лишь в отдельных случаях. Последний уровень необходимых знаний включает основания топологии и геометрии поверхностей, общую теорию меры, и-алгебры и пространства Лебега, теорию гомологии, теорию групп Ли и симметрических пространств, кривизну и связности на многообразиях, трансверсальность и нормальные семейства комплексных функций. Большая часть этого материала, хотя и не весь он, также рассматривается в приложении, обычно в менее подробном виде. Такой материал может быть принят на веру без ущерба для понимания содержания книги, или же соответствующая часть текста может быть без большого ущерба пропущена. В некоторых случаях мы приводим важные обш^е сведения в тексте без доказательства. Это случается, когда определенный результат органически связан с данным параграфом книги. Хороший пример такого результата — формула Лефшеца для числа неподвижных точек отображения. Источники. Большая часть материала, содержащегося в этой книге, не содержит неизвестных ранее результатов. Тем не менее, способ изложения материала часто оригинален и представляет собой новые или значительно модифицированные доказательства известных результатов, объяснения структуры и взаимосвязей внутри данной темы и т. д. Приблизительно шестая часть материала, относящаяся в основном к частям 3 и 4, близко следует изложению в опубликованных источниках, большинство из которых представляет собой оригинальные научные публикации. Характерный пример такого типа — изложение элементов гиперболической теории в главах 18 и 20, заимствованное из статей Р. Боуэна семидесятых годов, которое было столь ясным, что едва ли может быть улучшено. В нескольких случаев мы следуем освещению соответствующей темы в существующих книгах. За исключением некоторых базовых тем, например гамильтонова формализма или вариационного исчисления, это происходит только в части 3. Причина этого состоит в том, что существует гораздо больше учебников по динамике малых размерностей, чем по теории динамических систем в целом. Мы упоминаем все заимствования доказательств и методов представления материала, о которых нам известно, в примечаниях в конце книги.
16 ПРЕДИСЛОВИЕ Поскольку МЫ стремимся представить рассматриваемую область математики, разрабатывая ее начиная с первичных принципов, и сделать наше изложение замкнутым, но отнюдь не представить полный обзор достижений и текущего состояния предмета, мы не пытаемся собрать исчерпывающий список ссылок на работы в этой области, что легко увеличило бы нашу библиографию до тысячи ссылок или более. В частности, не для всех теорем упоминаются их авторы, особенно если эти результаты явились частью общего развития в некоторой области, а не результатами, изменившими лицо этой области или же имеющими довольно специальный характер. Большинство ссылок на авторов перенесено в примечания. Они состоят из общих комментариев, относящихся к различным параграфам, и некоторых пронумерованных замечаний, относящихся к конкретным местам основного текста. Кроме того, чтобы не прерывать логическое течение текста, все библиографические ссылки из основной части книги также перенесены в примечания. Наши исторические комментарии во введении и примечаниях не претендуют на то, чтобы представить полную историю развития теории динамических систем, но лишь освещают некоторые субъективно выбранные важные моменты. В нашу библиографию включено несколько типов литературных источников. Во-первых, мы попытались указать все основные монографии, представительные учебники и обзорные статьи, покрывающие главные ветви динамики. Далее, мы включили основополагающие работы, которые содержат введение и развивают различные направления теории динамических систем, определяют основные понятия или содержат доказательства основных результатов. Мы пытаемся указать все источники, на которых основываются различные части этой книги, или такие, которые послужили источником для нашего выбора метода изложения материала, и многие (но не все) первоисточники конкретных результатов, представленных в тексте. Наконец, имеются ссылки на важные работы, как оригинальные, так и обзоры, посвященные таким областям, которых мы лишь незначительно коснулись в тексте. Согласно нашему принципу выбора моделей исходя из их внутреннего интереса,, а не из того, насколько они связаны с конкретными естественнонаучными проблемами, мы опускаем работы нематематиков (даже важные), которые посвящены анализу моделей, мотивированных естественнонаучными проблемами, если эти работы содержат только гипотезы и числовые данные. Ссылки на такие работы можно найти во многих книгах и обзорах, на которые мы ссылаемся. История написания книги и благодарности. Общая идея написать многоплановое введение в теорию динамических систем возникла первоначально у первого автора, когда он читал курс для аспирантов в Калифорнийском технологическом институте в 1984—85 гг. Этот курс привел к появлению двух вариантов конспектов лекций, подготовленных вторым автором и его коллегой аспирантом Джоном Линднером, которому мы глубоко благодарны. Ключевая идея ввода основных понятий и методов с помощью серии основных примеров выкристаллизовалась, когда первый автор разрабатывал и читал интенсивный четырехнедельный курс в июле 1986 г. в летнем математическом институте для аспирантов при университете Фудан в Шанхае. Учебный план и конспекты этого курса легли в основу глав 1—4. Дальнейший прогресс был достигнут благодаря другому аспирантскому курсу, прочтенному в Калифорнийском технологическим институте в 1986—87 гг., после чего стало ясно, что первоначальный проект книги длиной в 300-350
ПРЕДИСЛОВИЕ 17 страниц привел бы к слишком схематичному и неполному описанию предмета. Летом 1989 г. мы разработали подробный план книги, который и был претворен в жизнь с существенной последующей модификацией. Еще один аспирантский курс, прочтенный первым автором в течение первого года его пребывания в университете штата Пенсильвания (1990—91 гг.), помог опробовать некоторые существующие части книги и ввести в нее новый материал. Мы выражаем глубокую благодарность Калифорнийскому технологическому институту, тафтскому университету и университету штата Пенсильвания за предоставленные прекрасные рабочие условия и финансовую поддержку нескольких взаимных визитов. Особая благодарность должна быть выражена научно-исследовательскому институту математических наук в Беркли (Калифорния), где мы работали вместе над большей частью этой книги летом 1992 г. В течение этого периода наш проект превратился из набора разрозненных частей в неполный, но последовательный текст. Мы также хотим поблагодарить многих лиц, которые оказывали нам значительную помощь и идеи которых мы использовали при осуществлении этого проекта. Мы заранее приносим извинения тем лицам, чьи комментарии и предложения включены в книгу, если мы забыли их упомянуть. Джессика Мэдоу, техническая машинистка Калифорнийского технологического института, набрала основные части существовавшей тогда рукописи в системе Ехр. Кэти Виланд и Пэт Снер из университета штата Пенсильвания набрали первые эскизные проекты многих глав в системе Т^Х. Многие люди оказали помощь в использовании компьютеров и выборе шрифтов. Существенную помощь оказал Дэвид Глобман из научно-исследовательского института математических наук. Майкл Доунс из отдела технической поддержки американского математического общества помог нам правильно напечатать названия параграфов на каждой странице, а наш коллега Уве Шмок нз Цюрихского университета написал специальные макросы для Т^Ха и сделал ряд других полезных замечаний. Борис Каток сделал большинство иллюстраций к этой книге. Билл Шлезингер обучил нас основам работы с компьютерной графикой (в пакете MathLab), что позволило сделать многочисленные чертежи с использованием этого пакета. Мы глубоко благодарны редакторам издательства «Cambridge University Press»: Дэвиду Трана, который вселял в нас энтузиазм и побуждал к работе на ранних этапах этого проекта, и Лорен Коулс, которая терпеливо вела нас через процесс шлифовки книги и превращения ее в готовый для печати продукт. Эта книга была набрана в Т^Хе с использованием Ам^''^Е^^> набора макросов для Т^Ха американского математического общества. Виорел Нитика и Алексей Кононенко написали решения к большинству упражнений. Их работа помогла подкорректировать некоторые недоработанные упражнения, и мы использовали их решения во многих наших указаниях. Многие люди внесли предложения и поправки, например указания на математические и стилистические ошибки, опечатки и потребность в лучших объяснениях. Больше всего замечаний такого рода неходило от Ховарда Вейса из университета штата Пенсильвания. Замечания были также сделаны Луисом Барейрой, Михаилом Брином, Евгением Гуткиным, Моисеем Гайсинским, Миркой Дельи-Эспости, Дэвидом ДеЛатте, Ченгбо Ие, Тассо Капером, Алексеем Кононенко, Виорелом Нитикой, Ральфом Спатциером, Гареттом Стаком, Эндрю Тороком, Сергеем Ферлегером и Миахуа Янг.
18 ПРЕДИСЛОВИЕ В частности, Ховард Вейс, Тассо Капер, Гаретт Стак, Ральф Спатциер и Михаил Брив, читавшие курсы по частям этой книги, оказали большую помощь при ее шлифовке, У нас были плодотворные дискуссии с Михаилом Якобсоном, Велингто- ном де Мело, Михаилом Любичем и Збигневом Нитецки относительно одномерных отображений и с Эдвардом Цендером о вариационных методах. Эти дискуссии помогли нам выбрать содержание и метод изложения материала в соответствующих главах. Юджин Вэйн помог нам, указав ссылки на работы, посвященные бесконечномерным динамическим системам, а Майк Бойл дал полезный обзор источников, посвященных символической динамике. Многие поправки были сделаны после выхода в свет первого тиража книги. За некоторые из них мы хотели бы поблагодарить Гаретта Стака и Эндрю Торока, которые указали ряд небольших ошибок, ранее оставшихся незамеченными. Питер Уолтере обнаружил погрешности в леммах 4.5.2 и 20.2.3. Роберт Мак-Каи отметил, что некоторые результаты из § 14.2 не были верны в их изначальной форме без предположения о возвращаемости, а Джонатан Роббинс обратил внимание на трудности, возникаюш^е при использовании предыдущего варианта шага 5 в доказательстве теоремы Адамара — Перрона 6.2.8. Список всех поправок, настоящих и будущих, будет доступен через Интернет по адресу (http:/^www.tufts.edu/"bhasselb/thebook.html). В заключение мы хотим поблагодарить Светлану Каток и Кэтлин Хасселб- лат за их постоянную поддержку и веру в осуществимость этого проекта.
ВВЕДЕНИЕ § 1. Основные направления динамики Наиболее общее и несколько неопределенное понятие динамической системы включает следующие компоненты. i. «Фазовое пространство» X, элементы которого («точки») представляют собой возможные состояния системы. ii. «Время», которое может быть дискретным или непрерывным. Время может простираться либо только в будущее (необратимые процессы), либо и в прошлое, и в будущее (обратимые процессы). Последовательность моментов времени для обратимого процесса с дискретным временем находится в естественном соответствии с множеством всех целых чисел; необратимость соответствует рассмотрению только неотрицательных целых чисел. Аналогично, для процесса с непрерывным временем время представляется множеством всех вещественных чисел в обратимом случае и множеством неотрицательных вещественных чисел для необратимого случая. iii. Закон эволюции системы. В наиболее общей формулировке это такое правило, которое позволяет нам определять состояние системы в каждый момент времени t, зная состояния во все предыдущие моменты. Таким образом, наиболее общий закон эволюции системы может зависеть от времени t и обладает бесконечной памятью. В этой книге, однако, мы будем рассматривать только такие законы эволюции, которые позволяют нам определять все будущие (а для обратимых систем также и прошлые) состояния по состоянию в любой данный момент времени. Кроме того, мы будем считать, что закон эволюции сам по себе не изменяется со временем. Другими словами, результат эволюции системы будет зависеть только от ее начального состояния и от времени развития, но не от момента, в который состояние системы было первоначально определено. Таким образом, если наша система была первоначально в состоянии хе X, за время t она перейдет в новое состояние, которое однозначно определяется значениями X и t, и поэтому можно считать ее некоторой функцией двух переменных F(x, t). Фиксируя t, мы получаем преобразование ip^: хн-> F(x, t) фазового пространства в себя. Эти преобразования для различных t связаны друг с другом. А именно, эволюция состояния X в течение времени s Л- t может быть также найдена посредством применения сначала преобразования (р^ к X и затем применения t^?* к новому состоянию (р^{х). Таким образом, F(x, t + s) = F{(f^{x)^ 5), или, что равносильно, преобразование ср^'*''' равно композиции преобразований (р^ и ip\ Другими словами, преобразования (р^ образуют полугруппу. Для обратимой системы преобразования (р^ определены как для положительных, так и для отрицательных значений t, и каждое преобразование (р^ обратимо. Таким образом, обратимая динамическая система с дискретным временем представляется циклической группой {F" = ('^')" |neZ} взаимно однозначных преобразований фазового пространства в себя. Аналогично, обратимая динамическая система с непрерывным временем определяет однопараметрическую группу {(p^\t еЩ взаимно однозначных преобразований X в себя.
20 ВВЕДЕНИЕ В динамических теориях в центре внимания стоит изз^ение асимптотического поведения, т. е. поведения системы при устремлении времени к бесконечности, особенно при наличии нетривиального возвращения. Этим они отличаются от других областей математики, имеющих дело с группами автоморфизмов различных математических структур. Лучший способ объяснить, какие асимптотические свойства действительно важны и интересны, состоит в изучении конкретных примеров динамических систем и определении наиболее характерных особенностей их поведения. Мы займемся этим в гл. J и затем подведем итог нашего исследования и представим список интересных свойств в §§3.1, 3.3, 4.1, п. 4.2 г и § 4.3. Этому подведению итогов предшествует исследование естественных отношений эквивалентности динамических систем в гл. 2, которое создает предпосылки для изучения асимптотических свойств как инвариантов этих отношений эквивалентности. Исторически гладкие динамические системы с непрерывным временем привлекли внимание благодаря открытию Ньютоном того факта, что движение механических объектов может быть описано обыкновенными дифференциальными уравнениями второго порядка. Более того, многие другие явления в природе и обществе, такие как радиоактивный распад, химические реакции, рост численности популяций или динамика цен на рынке, могут моделироваться с разной степенью точности системами обыкновенных дифференциальных уравнений. Эти ситуации попадают в область нашего исследования, если коэффициенты и правые части уравнений явно не зависят от времени. Практически во всех представляющих интерес ситуациях фазовое пространство динамической системы обладает определенной структурой, которая не изменяется в процессе эволюции. В настоящее время построены разнообразные теории, изучающие динамические системы, сохраняющие эти структуры. Упомянем наиболее важные из этих теорий. 1. Эргодическая теория. Фазовое пространство X является «хорошим» пространством с мерой, т. е. пространством Лебега (см. § 6 приложения) с конечной или а-конечной мерой д. Мы можем рассматривать в качестве структуры на X либо меру д саму по себе, либо класс эквивалентности, который определяется совокупностью всех множеств меры нуль. Соответственно эргодическая теория изучает группы или полугруппы измеримых преобразований пространства X, которые либо сохраняют меру д, либо преобразуют ее в эквивалентную меру. В последнем случае мера д называется квазиинвариантной мерой. В этой книге эргодическая теория играет важную, но вспомогательную роль. Она задает концептуальные и технические средства для исследования асимптотических распределений и статистического поведения орбит гладкой динамической системы. Некоторые основные понятия и результаты эргодической теории обсуждаются в гл. 4. Эргодическая теория восходит своими корнями к знаменитой эргодической гипотезе Больцмана, которая для систем, встречающихся в статистической механике, постулирует равенство некоторых временных и пространственных средних. В математике понятия эргодической теории появились в результате анализа равномерных распределений последовательностей. В качестве одного из первых примеров можно назвать теорему Кроне- кера — Вейля о равномерном распределении (предложение 4.2.1). А. Пуанкаре заметил, что сохранение конечной инвариантной меры приводит к весьма сильным выводам относительно наличия возвращения, и сформулировал эти выводы в своей теореме о возвращении (теорема 4 сфор- .1.19).
§ 1. ОСНОВНЫЕ НАПРАВЛЕНИЯ ДИНАМИКИ 21 Систематическая разработка эргодической теории как раздела математики была начата приблизительно в 1930 году фон Нейманом, который смотрел на эту тему прежде всего с функционально аналитической точки зрения. Среди математиков, внесших большой вклад в развитие теории на ее раннем этапе, следует упомянуть Дж. Д. Биркгофа, Е. Хопфа и С. Какутани. Ключевым моментом в развитии эргодической теории, навсегда сместившим акцент с функционально аналитической на вероятностную и позже геометрическую и комбинаторную точки зрения, было открытие А. Колмогоровым понятия энтропии (1958). Последнее основано на разработанной К. Шенноном теории информации, которой придал соответствующую математическую форму А. Хинчин. Работа Колмогорова инициировала быстрое развитие теории энтропии, основанной на вероятностной точке зрения, разработанной, главным образом, в работах Я. Синая и В. Рохлина и достигшей своей кульминации в теореме Синая о слабом изоморфизме. Следующим поворотным моментом было первое доказательство изоморфности бер- нуллиевских сдвигов с равной энтропией, которое полз^сил Д. Орнстейн с помощью комбинаторных конструкций. За этой работой последовала разработка теории изоморфизма, которая, в частности, дала необходимые и достаточные условия существования метрического изоморфизма данной системы и бернуллиевского сдвига. Среди более поздних важных достижений следует выделить теорию монотонной эквивалентности (или эквивалентности по Какутани), теорию кратного возвращения Фюрстенберга и теорию финитарного изоморфизма. 2, Топологическая динамика. Фазовое пространство в этой теории — «хорошее» топологическое пространство, обычно метризуемое компактное или локально компактное (см. § 1 приложения). Топологическая динамика рассматривает группы гомеоморфизмов и полугруппы непрерывных преобразований таких пространств. Иногда эти объекты называются топологическими динамическими системами. Так же, как и для эргодической теории, в рамках этой книги мы используем понятия и результаты из топологической динамики прежде всего в качестве инструментов для исследования гладких динамических систем. Хотя мы не пытаемся дать всеобъемлющее введение в топологическую динамику, в данной книге содержится много результатов, относящихся к этой теории, начиная с первого обзора примеров в гл. 1 и затем в гл. 3. В §§4.1, 4.5 и далее 20.1 и 20.2 приведены фундаментальные связи между топологической динамикой и эргодической теорией. Некоторые результаты гл. 8 (например теорема 8.3.1), а также гл. 11 и 15 целиком посвящены специальным классам динамических систем без каких-либо предположений о дифференцируемости и поэтому относятся к топологической динамике. Основы топологической динамики были заложены Пуанкаре, когда он предложил качественное описание решений дифференциальных уравнений, которые не могут быть решены аналитически. Одним из его ранних достижений была классификация отображений окружности (теорема 11.2.7). М. Морс и Дж. Д. Биркгоф внесли большой вклад в топологическую динамику, пытаясь понять поведение более классических систем (геодезических потоков и гамильтоновых систем). Позднее подход, основанный в большей степени на внутренних свойствах топологической динамики, разрабатывался Г. Хедлундом, Дж. Окстоби и другими. Важная область топологической динамики — теория дистальных расширений X. Фюрстенберга, которая в дальнейшем разрабатывалась Р. Эллисом.
22 ВВЕДЕНИЕ 3. Теория гладких динамических систем, или дифференциальная динамика. Как показывает название, фазовое пространство в соответствующей теории обладает структурой гладкого многообразия, например является областью или замкнутой поверхностью в евклидовом пространстве (более детальное описание см. в § 3 приложения). Эта теория, которая является основной темой данной книги, изучает диффеоморфизмы и потоки (гладкие однопараметрические группы диффеоморфизмов) на таких многообразиях и итерации необратимых дифференцируемых отображений. Мы будем рассматривать главным образом конечномерные ситуации. Интерес к бесконечномерным динамическим системам, который в большой степени стимулирован проблемами гидродинамики, статистической механики и других областей математической физики, непрерывно возрастал в течение последних двух десятилетий и продолжает расти. Несколько направлений бесконечномерной динамики успешно разрабатываются в значительной степени по аналогии с различными направлениями конечномерной динамики. Так как конечномерное гладкое многообразие обладает естественной локально компактной топологией, теория гладких динамических систем естественно использует понятия и результаты топологической динамики. Другая, более глубокая, причина зависимости дифференциальной динамики от топологической состоит в том, что при изучении асимптотического поведения гладких динамических систем часто возникают весьма сложные негладкие явления, которые в других ситуациях были бы отброшены как патологические, В частности, некоторые важные инвариантные множества гладких систем, например аттракторы (см. определение 3.3.1), могут не обладать никакой гладкой структурой, и, следовательно, такие множества должны исследоваться с другой, негладкой, точки зрения. Символическая динамика, область, изучающая специальный класс топологических динамических систем, которые возникают как замкнутые инвариантные подмножества преобразования сдвига в пространстве последовательностей (см. § 1.9), является особенно важной в этом отношении. Дпя дальнейшего рассмотрения связей между топологической и гладкой динамикой мы отсылаем читателя к § 2.3. Дифференциальная динамика также тесно связана с эргодической теорией, потому что инвариантные меры представляют собой мощный инструмент для анализа асимптотических свойств гладких динамических систем, а также потому, что гладкая структура на конечномерном многообразии определяет естественный класс квазиинвариантных мер для дифференцируемой динамической системы (см. § 5.1). Иногда раздел теории гладких динамических систем, относящийся к изучению метрических свойств таких систем, называют гладкой эргодической теорией. Можно также сказать, что предмет гладкой эргодической теории составляет анализ автоморфизмов многообразия с достаточно хорошей мерой на нем. Этой теме посвящены гл. 20 и добавление. Ряд результатов, относящихся к гладкой эргодической теории, включен в более ранние главы. Основы дифференциальной динамики также были заложены Пуанкаре. Его главный вклад состоял в том, что он подчеркнул качественный подход в противовес традиционным попыткам получить явные решения дифференциальных уравнений механики. Другое достижение Пуанкаре — создание локальной теории отображений и векторных полей в окрестности неподвижных и периодических орбит (см. §§ 2.1, 6.3, 6.6). Другими главными действующими лицами на ранних стадиях развития дифференциальной динамики были А. М. Ляпунов и Ж. Адамар, которые ввели различные понятия
§ 1. ОСНОВНЫЕ НАПРАВЛЕНИЯ ДИНАМИКИ 23 устойчивости и разработали основные аналитические средства (такие как теорема Адамара — Перрона 6.2.8). Часть программы Пуанкаре была выполнена Д^. Д. Биркгофом, который, помимо прочего, доказал знаменитую «последнюю геометрическую теорему Пуанкаре», объясняющую механизм, ответственный за появление динамической сложности в механических системах с двумя степенями свободы. Другой аспект программы Пуанкаре разрабатывался А. Данжуа, который ввел новые ключевые идеи при завершении теории Пуанкаре отображений окружности и потоков на двумерном торе. Символическая динамика возникла как полезный инструмент в основополагающей работе Э. Артина и активно разрабатывалась Морсом и Хедлундом. Е. Хопф первый понял роль гиперболичности как ключевого механизма, ответственного за сложное поведение в нелинейных динамических системах. Его доказательство эргодичности геодезического потока на поверхностях отрицательной кривизны может рассматриваться как первый значительный результат гладкой эргодической теории. Другим главным инструментом современного глобального подхода к анализу гладких динамических систем явилось понятие структурной устойчивости, которое сначала использовалось А. Андроновым и Л. С. Понтрягиным для анализа потоков на поверхностях и позже было развито в этой ситуации в работах Пейксото. Вторую жизнь этому понятию дал Смейл, который обнаружил, что системы со сложным поведением орбит («подковы», § 2.5) могут быть структурно устойчивыми. Впоследствии Смейл, Аносов, Синай и Боуен разработали основы теории гиперболических динамических систем. Они в большой степени развили методы эргодической теории и топологической динамики, созданные Хопфом и Хедлундом, а также более классические идеи, восходящие к Адамару, Перрону и Ляпунову. Доказательство того, что определенная гиперболичность является достаточным (Дж. Роб- бин, К. Робинсон) и необходимым (Р. Мане) условием структурной устойчивости, стало одним из краеугольных камней теории гладких динамических систем. Большой вклад в гладкую эргодическую теорию внесли Д. Рюэлль и Я. Синай, применившие идеи и методы статистической механики к теории гладких динамических систем. Следующий важный шаг был сделан Я. Б. Пе- синым, который разработал общую структурную теорию гладких сохраняющих меру систем, основанную на понятии неравномерной гиперболичности. Мы должны также упомянуть работы М. Эрмана и И.-К. Йокоза, посвященную гладкой классификации диффеоморфизмов окружности, и работы Д. В. Аносова и А. Б. Катка по построению гладких динамических систем с различными, часто неожиданными, свойствами. 4. Гамильтонова, или симплектическая, динамика. Эта теория — естественное обобщение анализа дифференциальных уравнений классической механики. Фазовое пространство в этом случае представляет собой четномерное гладкое многообразие с замкнутой невырожденной дифференциальной 2-формой П. Однопараметрические группы диффеоморфизмов, сохраняющих форму П, соответствуют дифференциальным уравнениям классической механики в гамильтоновой форме. Сохраняющий форму й диффеоморфизм обобщает понятие канонического преобразования. Мы впервые встретимся с такими системами в § 1.5 и рассмотрим эту тему более систематически в § 5.5. Гамильтонова динамика стала объектом анализа теории динамических систем во многом благодаря проблемам, возникающим в небесной механике. Еще одна заслуга Пуанкаре состоит в том, что он применил принципиально
24 ВВЕДЕНИЕ НОВЫЙ качественный подход к анализу проблемы п тел. Позднее в гамиль- тоновой динамике зародились два различных направления: (i) исследование динамической сложности, возникающей в этой задаче из-за определенной гиперболичности (Алексеев, Конли), и (ii) анализ интегрируемых систем и их возмущений, который привел к КАМ-теории. Хотя и гиперболическая, и интегрируемая модели были известны еще со времен Пуанкаре, потребовался глубокий анализ Колмогорова, для того чтобы осознать, что многие качественные особенности (весьма специальных) интегрируемых систем в определенной степени сохраняются под действием возмущений, а также возникают в типичных ситуациях (например, вблизи неподвижной эллиптической точки). На развитие обоих этих направлений повлиял вопрос об устойчивости солнечной системы, который изучался в рамках гиперболического подхода в терминах устойчивости системы п тел и в рамках КАМ- теории посредством анализа возмущений, например, (интегрируемой) системы центральных сил без учета взаимодействий между планетами. В работе Конли и Цендера была установлена взаимосвязь топологических и вариационных методов, ставшая краеугольным камнем современной глобальной симплектической геометрии. Возрождение анализа вполне интегрируемых систем началось с работы Гарднера, Грина, Крускала и Миуры и открытия П. Лаксом новых методов построения интегрируемых систем. Это привело к быстрому увеличению числа новых интересных примеров конечномерных интегрируемых систем, а также к построению теории бесконечномерных гамильтоновых систем. Применение этой теории к изучению нелинейных дифференциальных уравнений в частных производных стало крупным достижением: впервые в ситуациях, когда асимптотическое поведение уже не может быть названо тривиальным, появились средства для законченного качественного анализа. § 2. Потоки, векторные поля и дифференциальные уравнения Описание динамической системы упрощается в случае дискретного времени, потому что отображение, порождающее систему с дискретным временем, нередко можно задать явно, обычно посредством некоторых формул. Напротив, система с непрерывным временем обычно задается инфинитези- мально (например, посредством дифференциальных уравнений), и восстановление динамики по такому описанию системы включает процесс, представляющий собой аналог интегрирования. В этом и следующем параграфах мы кратко обсудим этот локальный (по времени) аспект теории динамических систем с непрерывным временем и некоторые простые взаимоотношения между случаями дискретного и непрерывного времени. Мы будем считать, что фазовое пространство является гладким многообразием размерности тп, и будем обычно обозначать его через М, Таким образом, эволюция системы определяется гладкой функцией F(x, t) = ^^{х), хбМ, t €R, которая удовлетворяет групповому (композиционному) закону (р^о(р^ = (р^'^' и может быть, а может и не быть определенной для всех х и t. Рассмотрим сначала локальный аспект этой ситуации. Если зафиксировать хбМ и менять t, мы получим параметризованную гладкую кривую на М. Пусть (J(x) — вектор, касательный к этой кривой при t =0, т. е. в точке х. Точнее говоря, вектор ^{х) принадлежит касательному пространству ^М, которое является т-мерным линейным пространством, «прикрепленным» к М в точке X. Отображение х\-^^{х) определяет сечение касательного
§ 2. ПОТОКИ, ВЕКТОРНЫЕ ПОЛЯ И ДИФФЕРЕНЦИАЛЬНЫЕ УРАВНЕНИЯ 25 расслоения ТМ = [j Т^М, или векторное поле на М (детали читатель найдет в § 3 приложения). Конечно, локальная версия этой конструкции известна каждому, кто слушал университетский курс математического анализа. А именно, пусть U d М является координатной окрестностью с координатами (5i,..., s^). Тогда касательное расслоение TU тривиализуется, становясь просто прямым произведением U х R"*, и векторное поле определяется отображением U в R"*, т. е. т вещественнозначными функциями v^,...,v^, следующим образом. Обозначая через -^ базисные векторные поля, которые сопоставляют каждой точке г-й вектор стандартного базиса R"*, мы можем представить каждое векторное поле локально в виде т а ^ Vi(з^,..., 5„)^. Если наша начальная точка х задается координатами 1 = 1 * 5?! - • -J ^mi "^^ Закон движения этой точки определяется в результате решения системы обыкновенных дифференциальных уравнений первого порядка с начальными условиями 5.(0) = s?, г = 1,..., т. Мы знаем из стандартной теории обыкновенных дифференциальных уравнений, что при весьма слабых предположениях о гладкости (например, если функции Vi непрерывно дифференцируемы) решение в течение достаточно малого промежутка времени существует, единственно и гладко зависит от начальных условий. Таким образом, по крайней мере для маленьких значений t, преобразование (^* однозначно определяется векторным полем. Для больших t следует рассмотреть композицию отображений, определенных в локальных координатах. Если решения существуют для всех вещественных значений t, векторное поле называется полным. Следует иметь в виду, что если t велико, то мы вынуждены работать на многообразии в различных локальных системах координат, но это не порождает особых трудностей. Если многообразие М компактно и не имеет границы, то оно может быть покрыто конечным числом координатных карт. Внутри любой карты решения существуют для некоторого фиксированного интервала времени. Так как каждая точка X € М принадлежит некоторой не очень маленькой координатной окрестности, отсюда следует, что любое С-гладкое векторное поле на замкнутом компактном многообразии без границы полно и, таким образом, определяет гладкий поток, т. е. однопараметрическую группу диффеоморфизмов многообразия М. В этом состоит одна из причин того, что мы будем в основном рассматривать динамические системы на компактных многообразиях. Однако иногда мы будем отказываться от этого предположения, поскольку в ряде приложений, например для локальных и полулокальных задач (см. § 4 и гл. 6) или систем дифференциальных уравнений, описывающих ряд конкретных механических и других проблем, это условие было бы слишком ограничительным.
26 ВВЕДЕНИЕ Упражнение 2Л, Покажите (не опуская деталей), что гладкое векторное поле на компактном многооб разии полно. § 3. Отображение сдвига за единичное время, сечения, надстройки Существует несколько полезных взаимосвязей между системами с дискретным и непрерывным временем. Наиболее очевидный способ связать систему с дискретным временем с потоком {*^*}(бц состоит в том, чтобы рассмотреть итерации отображения ip^ для некоторого значения t^, например ^о — ^ • Однако только очень небольшое количество диффеоморфизмов может быть получено таким способом. Например, пусть / = (^*°, и пусть /*'(х) = ж, где А; > 1, но /(х) ф х, так что орбита точки X периодическая, но не неподвижная. Тогда для каждого t € R мы имеем Следовательно, каждая точка ^p^{x) также является периодической точкой периода А: для /. Таким образом, если у отображения / есть изолированная периодическая точка, период которой больше единицы, / не может быть получено как отображение сдвига за время t ни для какого потока. Другой, более локальный, но и более полезный метод — конструкция отображения Пуанкаре (отображения первого возвращения). Выберем такую точку х € М, что <^(х)^0, и (т — 1)-мерное (коразмерности один) подмногообразие ЛГ, содержащее х и трансверсальное к векторному полю. Последнее свойство попросту означает, что для каждой точки y^N вектор £,(у) не является касательным к ЛГ. Если мы предположим, что х — периодическая точка потока, т. е. (^'°(х)= х для некоторого tQ>0, то каждая близлежащая орбита потока пересекает поверхность N в некоторый момент времени, близкий к tjj, так что определено такое отображение F^^: U-^ N окрестности U точки X в iV, что Fj^(x) = x, Это отображение называется монодромией, или отображением первого возвращения, или отображением Пуанкаре данного потока. Данная конструкция (также называемая индуцированием) работает и в слу- \ п\ чае, когда точка X не периодическая, но возвра- (х, 0) и{^)^Щу щается достаточно близко к самой себе. В заключение для любого диффеоморфизма Рис 1 Надстоойка f:M-^M можно определить надстройку на ^ надстроенном многообразии М^ которое получается из прямого произведения М х [О, 1] отождествлением пар точек вида (х, 1) и (/(х), 0) для х € М. Надстройка aj определяется как «вертикальное» векторное поле ^ на М^. Эта конструкция тесно связана с решением системы обыкновенных дифференциальных уравнений с периодическими коэффициентами. Сначала напомним, что зависящая от времени система обыкновенных дифференциальных уравнений задается семейством векторных полей v^ и, таким образом, определяет семейство законов движения f^*'* за время от момента t до
§ 4. ЛИНЕАРИЗАЦИЯ И ЛОКАЛИЗАЦИЯ 27 момента t + s, которое не является группой. Оно может, однако, рассма- триваться как единственное векторное поле гу(х, *) = 1;Дх)+^ в расширенном фазовом пространстве MxR. Закон движения Ф\х, t) = {ip^'{x)^ i+s) в М X R обладает групповым свойством. Пространство М х R, естественно, не компактно. Ситуация меняется, однако, если система обыкновенных дифференциальных уравнений является периодической по времени, скажем, с периодом т. Тогда v^^^ = Vi и ip^ + ^'' = (^''* для А: €Z. В этом случае анализ эволюции системы в М X R можно свести к анализу эволюции в фактор пространстве посредством отождествления точек (х, t) и (х, t + r). Полученное таким образом факторпространство компактно, если М компактно, и проекция потока Ф* на это пространство диффеоморфна потоку надстройки на многообразии М^о,г для функции if^'"' (диффеоморфизм осуществляется посредством отображения h: {^^''(х), t)!-^ ((^°'^(х), t) {O^t^ т)). Конструкция надстройки обобщается до конструкции потока под функцией, или специального потока. А именно, добавим к нашим данным гладкую положительную функцию (р на М и рассмотрим многообразие -Mf ,^, полученное из подмножества -М^ = {(х, t)\xeM, t еЖ, O^t ^ 'Р{^)} прямого произведения М х R посредством отождествления пар (х, ¥?(х)) и (/(х), 0). Конечно, топологически М* представляет собой то же самое многообразие, ЧТО и Mf, но «вертикальное» векторное поле ^ на М^.^ определяет новый поток а}^^ (специальный поток, построенный по отображению / и функции ip), который отличается от надстройки заменой времени (см. определение 2.2.3). Упражнения ЗЛ. Пусть М = [О, 1] и f(x)~ 1 - X. Покажите, что многообразие Mf гомеоморфно листу Мёбиуса. Поток надстройки обладает одной орбитой периода один и бесконечным множеством орбит периода два. Покажите, что орбита периода один не разделяет М-, а любая орбита периода два, за исключением той, которая образует границу, разбивает его на два фрагмента, один из которых гомеоморфен листу Мёбиуса, а второй — цилиндру [О, 1 ] х 5'. 3.2, Пусть М ~ S^ = {z G СI |г| = 1} и f(z) = -Z. Покажите, что многообразие М^ гомеоморфно двумерному тору Т^ = 5' х S^. 3.3. Пусть iW= 5* и f(z) = ~z. Покажите, что многообразие М^ гомеоморфно бутылке Клейна. Поток надстройки обладает двумя орбитами периода один и бесконечным множеством орбиЛериода два. Покажите, что орбиты периода один не разделяют М^ и что любая орбита периода два делит его на две части, каждая из которых гомеоморфна листу Мёбиуса. 3,4. Опншнте гладкую на многообразии Mf ^. Ч § 4. Линеаризация и локализация В следующих трех главах мы увидим, что многие полезные понятия, связанные с асимптотическим поведением гладких динамических систем, фактически относятся к топологической динамике, т. е. определяются только
28 ВВЕДЕНИЕ в терминах топологии, а не в терминах дифференцируемой структуры. Некоторые причины этого явления уже упоминались в § 1. Теперь мы хотели бы обратить внимание на ряд конкретных особенностей, отличающих теорию гладких динамических систем от топологической динамики. Уже в элементарном анализе становится понятно, как полезно представлять функцию fit) одной вещественной переменной t в окрестности точки io в виде суммы главной линейной части ¥?(^о)+ 'P'i^nJ^ ~ Ч) ^ ^^^" нов более высокого порядка o{t — ig). Менее элементарный вариант той же идеи играет центральную роль в теории гладких динамических систем. Если С/"сМ"* — открытая окрестность точки х^и f: U-~*W* — дифференцируемое отображение, мы можем представить / вблизи от a\j в виде суммы постоянной части /(а^), линейной части Df (х — х^) и членов более высокого порядка. Дифференциал Df является линейным оператором в R", представляемым в координатной форме матрицей частных производных, если где частные производные вычисляются для значении координат, соответствующих точке Xq. Если отображение регулярно в точке Xq, то этот оператор обратим. Ситуация по существу не меняется для дифференцируемых отображений гладких многообразий. Единственное отличие состоит в том, что вместо стандартной системы координат в R"* нужно использовать соответствующие локальные системы координат в окрестности точки и ее образа. Ту же идею можно выразить более инвариантным способом, описывая дифференциал Df отображения f: М—*М как линейное отображение касательного пространства Т М в пространство T^^j.)^- Если / является диффеоморфизмом, то дифференциал обратим. Эта конструкция может быть глобали- зована с помощью рассмотрения касательного расслоения ТМ = U Т^М. х€М Это расслоение можно оснастить структурой дифференцируемого многообразия, размерность которого вдвое больше размерности многообразия М (см. § 3 приложения). Любая локальная система координат на М индуцирует систему координат на ТМ, которая является глобальной в касательном направлении. А именно, касательные векторы к координатным кривым образуют базис в каждом касательном пространстве, а 2п координат касательного вектора включают п координат базисной точки и координаты вектора относительно этого базиса. Рассмотрим теперь итерации отображения /. Дифференциал п-й итерации Df^: Т^М —♦ 2}«М является композицией дифференциалов гг ЛУГ Eh. rr ъуг ^^П^) гг ы ^УИ ^У"'И гг ъуг Т^М у Т^г^.М ^ ^fia:)^ ' • • • ' ^Г(х)^^ V ^ / в этой локализованной ситуации асимптотические свойства отображения / соответствуют свойствам произведения данных линейных отображений, когда число отображений стремится к бесконечности; Если мы выяснили поведение таких произведений, возникает вопрос о том, до какой степени это
§ 4. ЛИНЕАРИЗАЦИЯ И ЛОКАЛИЗАЦИЯ 29 поведение отражает свойства первоначальной нелинейной системы. Решающее соображение здесь состоит в том, что дифференциал в любой данной точке хорошо аппроксимирует поведение точек, близких к данной. Качество этого приближения зависит от нелинейных членов, например от величины вторых производных функции, представляющей наше отображение в окрестности первоначальной точки. Когда мы приходим к итерациям отображения, величина вторых производных, как правило, растет (в силу цепного правила), так что предположительно качество линейного приближения должно ухудшаться. Но при определенных условиях влияние нелинейных членов можно контролировать, и тогда мы получаем описание поведения тех орбит, которые остаются близко к первоначальной орбите в течение достаточно длительного времени. Соображения такого рода представляют собой содержание так называемого локального анализа гладких динамических систем. Это центральная тема гл. 6 и первых трех параграфов дополнения. Идеальная ситуация для применения локального подхода возникает в случае, когда первоначальная орбита периодична, т. е. /"(а:о) — ^- Тогда последовательность дифференциалов также периодична и главная роль в понимании локального поведения отображения принадлежит итерациям одного линейного оператора -О/" который представляет инфинитезимальное поведение близлежащих орбит на протяжении периода. В частности, собственные значения этого оператора играют решающую роль в понимании локального поведения отображения в окрестности точки х^. См. анализ линейных отображений в § 1.2 и локальный анализ нелинейных отображений в окрестности периодических точек в §§ 6.3 и 6.6. Дпя непрерывных динамических систем роль дифференциала играет вариационное уравнение, правая часть которого представляет собой инфинитезимальную образующую однопараметрической группы дифференциалов отображений, порождающих поток. Хотя предмет локального анализа — изучение относительного поведения близлежащих орбит либо, в случае окрестности периодической орбиты, поведения орбит или их частей, пока они остаются достаточно близко к периодической орбите, главная цель теории гладких динамических систем состоит в том, чтобы понять глобальное поведение нелинейных отображений. Иногда локальный анализ играет решающую роль в глобальных рассмотрениях. Это случается, например, если периодическая точка является аттрактором, т. е. близкие орбиты асимптотически приближаются к ней со временем (см. §§ 1.1 и 3.3). В более общей ситуации мы можем пытаться локализовать определенные части фазового пространства, которые играют особенно важную роль при изучении асимптотического поведения, и исследовать орбиты внутри этих частей или вблизи их. Может также оказаться, что при исследовании конкретной проблемы, представляемой динамической системой, орбиты с определенными начальными условиями представляют особый интерес. Все эти рассуждения приводят к «полулокальному» подходу, который находится между локальным анализом и глобальным изучением системы в целом. А именно, пусть М — гладкое многообразие (не обязательно компактное), и с М — открытое подмножество многообразия М и Ас U — компактное множество. Пусть, кроме того, /: С/"-♦ М — гладкое отображение, которое оставляет множество Л инвариантным. Нас может интересовать поведение орбит системы на самом множестве Л или вблизи него. Локальный инструмент этого анализа—дифференциал L>/, суженный на ограничение касательного расслоения ТдМ — [J Т^М^ ХбЛ
30 ВВЕДЕНИЕ Проиллюстрируем этот подход простым примером. Рассмотрим гиперболическое линейное отображение /: R^ —♦ R^, /(х, у) = (2х, у/2), в окрестности начала координат. Сегмент оси у состоит из точек, асимптотически приближающихся к началу координат в положительном направлении времени, а сегмент оси X состоит из точек, асимптотически приближающихся к началу координат в отрицательном направлении времени. Все остальные точки перемещаются по гиперболам ху = const fcM. более детальное описание в § 1.2). 1редположим, что мы продолжили наше отображение нелинейно на большую область, так что прообраз оси у и образ оси X пересекаются в точке р и образуют отличный от нуля угол (см. рис. 6.5.1). Такая точка р называется трансвер- сальной гомоклинической точкой неподвижной точки 0. Очевидно, ^{р) О при |п| —♦ оо, так что Л = {0} U оо ^ и ^{Р) является замкнутым /-ин- Рис. 2. Отображение (ж, y)t-^(2x, у/2) п = —оо вариантным множеством. Теория Дж. Д. Биркгофа утверждает, что любая окрестность множества Л содержит периодические точки произвольно большого периода. С. Смейл дал полный анализ структуры орбит, остающихся в достаточно малой окрестности множества Л (см. § 6.5). Эта работа Смей- ла сыграла очень важную роль в развитии современной теории динамических систем. Другая версия полулокального анализа включает изучение орбит, которые остаются внутри определенного, обычно открытого, неинвариантного множества. Конечно, может оказаться, что таких орбит вообще не существует, но при определенных условиях их существование может быть гарантировано. Конструкции инвариантного канторова множества в квадратичном семействе и «подковы» Смейла, обсуждаемые в § 2.5, представляют собой простые, но нетривиальные примеры такого анализа. Упражнение 4.1. Приведите пример такого диффеоморфизма /: R—^R, что /(0) = 0, каждая орбита дифференциала /'(0) ограничена, а каждая орбита отображения /, отличная от начала координат, неограничена.
Часть 1 ОСНОВНЫЕ ПОНЯТИЯ И ПРИМЕРЫ ГЛАВА 1 ПЕРВЫЕ ПРИМЕРЫ В этой главе рассматривается набор примеров, с помощью которых мы поясняем понятия динамической системы и ее асимптотического поведения. При этом мы переходим от простых типов асимптотического поведения к более сложным и выделяем некоторые важные свойства динамических систем для их более систематического изучения в дальнейшем. § 1Л. Отображения с устойчивым асимптотическим поведением 1.1 а. Сжимающие отображения. Самый простой тип асимптотического поведения, какой можно себе представить, — это сходимость итераций любого данного состояния к одному определенному состоянию. Определение 1.1.1. Пусть (X, d) — некоторое метрическое пространство. Отображение f: X —^ X называется сжимающим, если существует такое число Л < 1, что для любых х,уеХ выполнено неравенство d{f{x)J{y))^Xd{x,yy (1.1.1) Из неравенства (1.1.1) автоматически следует непрерывность отображения /. Поэтому положительные итерации отображения / образуют непрерывную (или топологическую) динамическую систему с дискретным временем. Итерируя (1.1.1), мы замечаем, что для любого положительного целого числа п d{r{x),r{y))^X''d{x,y), (1.1.2) и потому d{r{x),r{y))-^0 при п->оо. Это означает, что асимптотическое поведение всех точек одинаково. С другой стороны, для всякого хеХ последовательность {/"(x)}„g^ является последовательностью Коши, потому что если m ^ тг, то т— п— \ d{Г(х), Г{X)) ^ J2 d{r^>'^4x),r^'{x))^ jk=0 m — п — 1 (1.1.3) ^ J2 A'^^M(/(x),x)^y^(i(/(x),x)—.0. к=0
32 ПРИМЕРЫ Таким образом, если метрическое пространство полно, то для любого X еХ существует предел /''(х) при п —>оо, и согласно (1.1.1) этот предел одинаков для всех начальных значений х. Обозначим этот предел через р и покажем, что р — неподвижная точка /. Для любого х € X и любого натурального числа п имеем d{pj{p))^d{pj^x))-^d{r{x),r^^{x))-^d{r-\x)j{p))^ ^ (1 + A)(i(p, Пх)) + A"(i(x,/(х)). Так как <i(p, fix)) -+ О при п —> оо, мы можем заключить, что f{p) = р. Переходя к пределу в (1.1.3) при m —> оо, мы получаем, что d{f'^{x)^ р) ^ Мы будем говорить, что две последовательности точек в метрическом пространстве {х^}^^^ и {у„}„б^ стремятся друг к другу с экспоненциальной скоростью, если d\x^, у^) < сХ"" для некоторых чисел с > О, Л < 1. В частности, если одна из последовательностей постоянна, т. е. у^ = у, мы будем говорить, что х„ стремится с экспоненциальной скоростью к у. Приведенные рассуждения содержат доказательство следующего фундаментального результата, который дает полное и очень простое описание асимптотического поведения любой динамической системы, порожденной сжимающим отображением. Предложение 1.1.2 (принцип сжатых отображений). Рассмотрим полное метрическое пространство X. Под действием итераций сжимающего отображения /: X —> X все точки пространства стремятся с экспоненциальной скоростью к единственной неподвижной точке /. Определение 1.1.3. Если X — топологическое пространство, / — отображение, /: X—>Х, f(p) = p и f'^{x)-^p при п—>оо, то мы говорим, что положительные итерации х сходятся к р. Если / обратимо и f~'^{x)~^p при п —> оо, то мы говорим, что отрицательные итерации х сходятся к р. Обозначим через Fix(/) множество неподвижных точек отображения /. Таким образом, для сжимающего отображения все точки стремятся к единственной неподвижной точке. Этот результат будет часто использоваться в ходе нашего анализа динамических систем с более сложным поведением. Обычно мы будем применять его не к самой динамической системе в фазовом пространстве, а к некоторому отображению в функциональном пространстве, связанному с этой динамической системой. В первую очередь проиллюстрируем применение принципа сжатых отображений к теории динамических систем, в ситуации, где этот принцип применяется к некоторой вспомогательной системе в том же самом пространстве. Предложение 1.1.4. Если р — периодическая точка периода т для С^ -отображения f и единица не является собственным значением дифференциала Df^, то для каждого отображения д^ достаточно близкого к f в С^ -топологии, существует единственная периодическая точка периода щ близкая к р. Доказательство. Введем локальные координаты в некоторой окрестности точки р. В этих координатах отображение Df^ представляется матрицей. Так как единица не является собственным значением этой
§ 1.1. ОТОБРАЖЕНИЯ С УСТОЙЧИВЫМ АСИМПТОТИЧЕСКИМ ПОВЕДЕНИЕМ 33 матрицы, то по теореме об обратной функции отображение F = f"^ -^ id, определенное локально в этих координатах, локально обратимо. Пусть теперь отображение д близко к / в С-топологии. Вблизи О мы можем представить д"* как д"^ = f"^ — Н, где Н мало вместе со своей первой производной. Неподвижная точка для д"* может быть найдена из уравнения X = ^^(х) = (/"* - Я)(х) = (i^ + id -Н){х) или (F - Я)(х) = О, т. е. x = i^-^Я(x). Поскольку отображение F~' имеет ограниченные производные, а первые производные Н очень малы, легко видеть, что F~^H является сжимающим отображением. Точнее, пусть || • ||q обозначает, как обычно, С°-норму, dF-'^^Q = L и max (||Я||о, |М-^||о) ^ £• Тогда, поскольку i^(0) =0, мы получаем, что \\F~^H(x)~-F~^H(y)\\ ^ eL||x-y|| для любых точек х и у, близких к о, и ||^'-'Я(0)|| ^ L ||Я(0)|| ^ еЬ. Следовательно, F-^Я(x)|| ^ ||^->Я(х) - ^-'Я(0)|| + ||^-'Я(0)|| ^ еЬ \\х\\ + еЬ. Поэтому если е ^ ТаТШ^ ^^ F~^H переводит диск Х = {х | ||х ^ Л} в себя и отображение F~^H этого диска является сжимающим. В соответствии с принципом сжатых отображений оно имеет единственную неподвижную точку в Д которая является, таким образом, единственной неподвижной точкой для ^"* вблизи 0. D Мы проиллюстрируем понятие сжимающего отображения с помощью следующего элементарного примера. Рассмотрим множество действительных чисел как метрическое пространство с евклидовой метрикой. Предположим, что /: Е —> Е — непрерывно дифференцируемая функция, производная которой ограничена по абсолютной величине некоторым числом Л < 1. Если X, у € Е, то по теореме о среднем значении существует такое число ^ между х и у, что f (х) - Ну) = f (i){x - у). Таким образом, |/(х) —/(у)| = |/'(011^~2/| ^ А[х-у| и / — сжимающее отображение согласно определению 1.1.1. В частности, любое такое отображение имеет единственную неподвижную точку. Упражнение 1.1.2 содержит обобщение этого примера. Следующий параграф содержит несколько дополнительных примеров сжимающих отображений. 1.1 б. Устойчивость сжимающих отображений. Следующее замечание представляет самостоятельный интерес, а также используется в дальнейшем при применении принципа сжатых отображений к некоторым операторам, связанным с динамическими системами: оказывается, что близкие сжимающие отображения имеют близкие неподвижные точки. Предложение 1.1.5. Если f: X -^X —сжимающее отображение полного метрического пространства X с неподвижной точкой х^ и коэффициентом сжатия А из определения 1.1.1, то для каждого е>0 существует такое «5 € (0,1 — А), что для любого отображения д: X ~^Х, удовлетворяющего условиям 1) d{f{x)^ 9{^)) ^ ^ для всех хе X и 2) d{g(x), д{у))^ (А + 6)d{x, у) для всех х, у€ X, неподвижная точка yQ отображения д удовлетворяет неравенству
34 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ Доказательство. Выберем 6 = \7^ ^ • Так как g'^iXfy) —> yQ, то оо оо d{x„ yo)^Yl '^(94^h 5""'(^)) < d{x,, д{х,)) ^(А + 6)" < п=0 п=0 ^ 1~Х-6 ~ (l + ,)(l_A-£tl^) е. а 1.1 в. Обратимые отображения интервала. Следующий простой тип асимптотического поведения — сходимость каждой орбиты к неподвижной точке при наличии нескольких неподвижных точек. Такое явление наблюдается для возрастающих функций действительного переменного. На этом примере мы продемонстрируем важный прием, который часто используется при исследовании динамических систем малой размерности, а именно, систематическое применение теоремы о среднем значении. Предложение 1.1.6. Если I сШ — замкнутый интервал и /: 1-^1— неубывающее непрерывное отображение, то итерации любой точки x£l стремятся к некоторой неподвижной точке / Если f — возрастающее (следовательно, обратимое) отображение, то положительные и отрицательные итерации любой точки х е I \F\x{f) стремятся к соседним неподвижным точкам. Доказательст во. Заметим, что множество Fix(/) непусто (по теореме о промежуточном значении) и замкнуто (в силу непрерывности /). Если Fix(/) = I, то все доказано. В противном случае рассмотрим х 6i\Fix(/) и обозначим через (а, 6) максимальный интервал множества J\Fix(/), содержащий х. Так как функция / неубывающая, то /(а, 6) с [а, Ь] и по теореме о промежуточном значении / — Id не меняет свой знак на (а, 6). Положим для определенности, что f{y) > у для у € (а, Ь) (другой случай рассматривается аналогично). Тогда последовательность х^ := /"(х) не убывает и ограничена числом Ь. Следовательно, она сходится к некоторому числу а^€(а, 6]. Но /(аь) = / ( '™ ^„) = 1™ /(^n)=.'i"^ ^n + i^^' так что \п—♦оо / п—♦оо п—♦оо Xq € Fix(/) и, таким образом, Xq== Ь. Заметим, что для случая /(х) < х на интервале (а, Ь) мы аналогично получим /''(х)—> а для всех х б (а, Ь) при п —> оо. В случае когда функция / возрастает, заметим, что знак f~^ — Id на интервале (а, Ь) противоположен знаку / — Id, поэтому каждая точка X € (а, Ъ) стремится при положительных и отрицательных итерациях /(х) к противоположным концам отрезка [а, 6]. D Упражнения В упражнениях 1.1.1 н 1.1.2 исследуется эффект замены условия равномерного сжатия (1.1.1) более слабыми условиями. Как и выше, мы предполагаем, что X —полное метрическое пространство и f: X —*^ X —некоторое отображение X в себя. 1.1.1. Постройте пример такого отображения /, что d{f{x), f{y)) < d(x, у) для хфу, f не имеет неподвижных точек и d{f^{x),f'^{y)) не сходится к нулю для некоторых а:, у. 1.1.2. Пусть d {f (х), f {у)) < d {х, у) для хфу и, кроме того, пространство X компактно. Тогда итерации каждой точки х^^Х сходятся к единственной неподвижной точке отображения /. Приведите пример, показывающий, что эта сходимость не обязана быть экспоненциальной.
§ 1.2. ЛИНЕЙНЫЕ ОТОБРАЖЕНИЯ 35 1.1.3. Пусть /: М —*-М — с'-отображение полного риманова многообразия в себя. Докажите, что / будет сжатием в том и только том случае, если норма его дифференциала ограничена константой Л < 1. 1.1.4. Используя предложение 1.1.5, покажите, что неподвижная точка сжимающего отображения зависит от отображения непрерывно в С'-топологии. 1.1.5. Докажите, что не существует обратимого сжимающего отображения компактного метрического пространства, содержащего более одной точки. § 1.2. Линейные отображения В этом параграфе рассматриваются динамические системы, определенные итерациями линейного отображения евклидова пространства Е". Определение 1.2.1. Пусть А: Е"—>Е" —некоторое линейное отображение. Множество собственных значений отображения А называется спектром А и обозначается sp А. Наибольшее абсолютное значение собственного значения А обозначается через г (А) и называется спектральным радиусом А. Для данной нормы на Е" определим норму линейного отображения А следующим образом: \\А sup Av\\, Очевидно, что \\А\\ ^ г{А) и для стандартной евклидовой нормы выполнено равенство \\А\\ = г(А) для всякого диагонального оператора А. Следующий факт из линейной алгебры помогает разобраться в динамике линейных отображений, даже если последние не могут быть диагонализированы. Предложение 1.2.2. Для любого 5 > О существует такая норма на W, что \\А\\ < г{А)-{-6. Доказательство. Используя жорданову нормальную форму, мы можем найти такой базис в Е", что матрица нашего отображения блочно- диагональна, т. е. имеет вид ^i О О А где каждый блок — либо жорданова клетка, соответствующая действитель ному собственному значению А /Л 1 ' О л 1 о о л J (1.2.1) 1/ либо комбинация из двух жордановых клеток, соответствующих паре комплексно сопряженных собственных значений Л = ре*^ и Л = ре"*"^ ^ pR^ Id i^ 2* V о 1 (1.2.2) ••• pRJ
36 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ где Id — единичная матрица f J J J, а Л^: = ( _ s?^ J cos J ) ~ ^^'^^^' ца, соответствующая вращению плоскости на угол (^. Зафиксируем 6 >0. Производя еще одну (диагональную) замену базиса 1 О 6-' О 6-"*+' для т-блока (1.2.1) или Id О 6-nd О 6-"*+4d для 2тгг-блока (1.2.2), мы можем сделать все недиагональные элементы в (1.2.1) и (1.2.2) равными 6. Теперь для обычной евклидовой нормы в новом базисе получаем А\\:= sup \\Av\\^r{A)-{-6. г-, (1.2.3) Замечание. Так как с точностью до ограниченного множителя все нормы в Е'' эквивалентны, то мы можем заключить, что для любой нормы и для каждого е > О существует такое число С^, что для всякого v € Е'' выполнено неравенство A"v||^C7,(r(A) + e)"||v Мы начинаем анализ асимптотического поведения линейных отображений с важного частного случая. Следствие 1.2.3. Предположим, что все собственные значения линейного отображения А имеют абсолютное значение, меньигее единицы. Тогда существует такая норма в Е'', что А является сжимающим отображением в метрике, порожденной этой нормой. Доказательство. Если 6 выбрано достаточно малым, то из предложения 1.2.2 мы можем заключить, что ||А|| < 1, и, так как <i(x, у)= х — у отображение А является сжимающим. D Понятие экспоненциальной сходимости не зависит от выбора нормы. Таким образом, из предложения 1.1.2 и следствия 1.2.3 немедленно вытекает такое следствие. Следствие 1.2.4. Если все собственные значения линейного отображения А: Е" —> Е'' имеют абсолютные значения, меньимие единицы, то положительные итерации каждой точки сходятся к нулю с экспоненциальной скоростью. Если, кроме того, А — обратимое отображение, т. е. если нуль не является собственным значением для А, то отрицательные итерации каждой точки стремятся к бесконечности с экспоненциальной скоростью.
§ 1.2. ЛИНЕЙНЫЕ ОТОБРАЖЕНИЯ 37 Рассмотрим несколько примеров линейных отображений Е^ такого рода. Первый очевидный пример — это линейное отображение, задаваемое матрицей ( „ , 1, где А € (0,1). Каждый вектор v умножается на коэффициент Л, поэтому итерации любого вектора стремятся к нулю вдоль Рис. 1.2.1. Орбиты сжимающей гомотетии Рис. 1.2.2. Узел вариантной относительно отображения . Множество этих кривых прямой, проходящей через начало координат. Так как всякая проходящая через начало координат прямая (сжимаясь) отображается в себя, то орбиты этого отображения выглядят так, как изображено на рис. 1.2.1. Следующий пример — отображение I ^ 1, где А, д € (0,1). Предположим, что м < А. Каждая точка по-прежнему двигается к началу координат, но уже не вдоль прямой; траектория каждой точки лежит на кривой, ин- Л О О м включают в себя координатные оси, а также линии, задаваемые уравнением 3jiog^ _ (-; yiogA^ (7 = const. Таким образом, фазовый портрет выглядит так, как это показано на рис. 1.2.2. Неподвижная точка такого отображения обычно называется узлом. Еще один пример —линейное отображение с двумя комплексными собственными значениями, абсолютные значения которых меньше единицы. Для определенности рассмотрим отображение Л ( _ ^?^ ^ ^^^ д ' > которое является композицией поворота на угол в и гомотетии с коэффициентом А; п-я итерация этого отображения имеет вид А'' ( _ ^?^ ^ ^^^ ^л вательно, образы точек стремятся к нулю с экспоненциальной скоростью, одновременно вращаясь вокруг начала координат. Итак, мы вновь получаем инвариантные кривые, а именно спирали, которые легче всего описать в полярных координатах {г, (р). Легко видеть, что кривые г =const •е~*^"''°^'^*'^ инвариантны относительно этого отображения. Таким образом, мы получаем фазовый портрет этого отображения (см. рис. 1.2.3) с неподвижной точкой, называемой фокусом. . Следо-
38 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ Инвариантные кривые в рассмотренных примерах возникают не случайно. Линейные отображения, которые мы описали, являются решениями обыкновенных дифференциальных уравнений, поэтому эти отображения включаются в потоки, определенные дифференциальными уравнениями. В самом деле, рассмотрим для начала обыкновенное дифференциальное уравнение _flogA О -у О logA решения которого имеют вид x{t) y{t) х(0) Л * У(0) Л * Рис. 1.2.3. Фокус При £ = 1 МЫ получаем первое из описанных выше отображений — сжимающую гомо- нения с матрицей коэффициентов I °§ эоражение, очевидно, получено из обыкновенного дифференциального урав- 1 I. Таким образом, на тс, 1.2.1, 1.2.2 изображены фазовые портреты двух линейных потоков, их портретов в теории обыкновенных дифференциальных уравнений также называется узлом. В заключение отметим, что, рассматривая линейное обыкновенное дифференциальное уравнение с матрицей коэффициентов и полагая £ = 1, мы получаем линейное отображение с неподвижной точкой типа фокус. Теперь перейдем к рассмотрению более общего случая, который будет играть важную роль в нашем последующем анализе нелинейных динамических систем. Определение 1.2.5. Линейное отображение М" называется гиперболическим, если абсолютные величины всех его собственных значений отличны от единицы. Для всякого линейного отображения А: М" —> М" и его действительного собственного значения Л обозначим через Е^ корневое подпространство, соответствующее Л, т. е. пространство всех таких векторов и 6 М", что (А — Х Id)*=u =0 для некоторого целого к. Аналогично для пары комплексно сопряженных собственных значений Л, Л обозначим через Е^ j пересечение W с суммой корневых подпространств Е^ и £j, соответствующих комплексификации А (т. е. продолжению отображения А на комплексное пространство С"). Для краткости пространства Е^ ^ мы будем также называть корневыми подпространствами. Пусть Е'=Е-(А) |А|<! |А|<1 (1.2.4)
§ 1.2. ЛИНЕЙНЫЕ ОТОБРАЖЕНИЯ 39 и аналогично Е^ = ЕЦА)= е Е,ф е Е,-,. (1.2.5) |А|>! |А|>! Если отображение А обратимо, то Е^(А) = Е^(А~^). Наконец, положим Е'' = Е\А) = Е,®Е^,® ф £?дд. (1.2.6) |А|-! Пространства -Е~, -Е"^, -Е^, очевидно, инвариантны относительно отображения А. При этом К" = £?- Ш £?+ 0 Е^, Дадим эквивалентное определение гиперболического отображения: А гиперболично, если Е^ = {0} или, что то же самое, если W =Е^ ^ Е^. Так как ограничение А на пространство Е^{А)—линейный оператор, все собственные значения которого по модулю меньше единицы, то мы немедленно получаем из следствия 1.2.4 такое следствие. Следствие 1.2.6. На R" существует норма, для которой ограничение линейного отображения А на пространство Е^(А) сжимающее. Кроме того, если А обратимо, то ограничение Л~' на пространство Е'^(А) также сжимающее. Определение 1.2.7. Пространство Е'(А) называется сжимающимся подпространством, пространство Е'^(А) называется растягивающимся подпространством. Замечание. Заметим, что растягивающееся подпространство не может быть охарактеризовано как пространство всех векторов, нормы которых возрастают под действием итераций нашего отображения, поскольку любой вектор, не лежащий в сжимающемся подпространстве, обладает этим свойством. Правильное определение Е'^ дано выше, а именно Е'^ есть пространство всех векторов, прообразы которых сжимаются. Следующее предложение описывает асимптотическое поведение итераций гиперболического линейного отображения. Предложение 1.2.8. Пусть Л: R" —> М" — гиперболическое линейное отображение. Тогда выполнены следующие утверждения. 1. Для каждого v е Е^ положительные итерации А "и сходятся к началу координат с экспоненциальной скоростью при п —^ оо; в случае когда А обратимо, отрицательные итерации A'^v стремятся к бесконечности с экспоненциальной скоростью при п —> —оо. 2. Для каждого v е Е^ положительные итерации v стремятся к бесконечности с экспоненциальной скоростью; если А обратимо, то отрицательные итерации с экспоненциальной скоростью сходятся к началу координат. 3. Для каждого и б К" \ (E'UE'^) итерации Л"и стремятся к бесконечности с экспоненциальной скоростью при п —юо, а если А обратимо, то и при п —> —оо. Доказательство. Первое утверждение следует из следствия 1.2.6 и предложения 1.1.2; второе сводится к первому с помощью замены А на А~К Наконец, если u€K"\(-E"U£?+), то ^=1;" + ^+ где v~ еЕ~, v+ еЕ-^ и v^, и+ 7^0. Тогда для достаточно большого положительного п имеем Л"и|| = ||Л"(и--Ьи+)||>||А"у+|| -||Л"и-|| >
40 ПРИМЕРЫ где Л > 1 и с, с'J с" >0 не зависят от п. Доказательство утверждения об отрицательных итерациях проводится аналогично (с заменой и+ на v^ и наоборот). D Проиллюстрируем поведение гиперболических линейных отображений на примере двумерного случая. В этом случае подпространства J5+ и £?", разумеется, одномерны. Если эти пространства совпадают с координатными осями х и у (чего всегда можно добиться заменой координат), мы можем легко нарисовать соответствующий рисунок. Наше отображение тогда имеет вид ^ 1, где О < /X < 1 < Л. Как и в случае узла, легко проверяется, что оси и кривые а:'**^^ = const у'**^^ инвариантны. Заметим, что показатели степени теперь разных знаков, поэтому мы не получаем кривые, проходящие через начало координат. Рисунок 2 введения дает представление о том, как эти кривые выглядят; соответствующая неподвижная точка обычно называется седловой точкой или седлом. Как и ранее, такая картина возникает из некоторого линейного обыкновенного дифференциального уравнения, на этот раз с матрицей коэффициентов I °§ | Интересно рассмотреть линейные отображения, которые сохраняют площадь. В этом случае мы получаем Л/х = 1, так что инвариантные кривые — стандартные гиперболы ху = const. Это обстоятельство — причина для использования слова «гиперболический» в определении 1.2.5 и во многих других местах в этой книге. Имеется также интересный случай гиперболического линейного отображения, не связанного ни с каким обыкновенным дифференциальным уравнением. Рассмотрим матрицу ( ^ 1, где Л<—1</х<0, т. е. Л и /X — отрицательные числа, лежащие с разных сторон от -1. Эти обращенные седла играют особую роль в некоторых глобальных проблемах (см. § 8.4 и упражнение 9.2.7). Чтобы описать поведение итераций негиперболического линейного отображения, следует сначала понять, что происходит внутри подпространства Е^. Это подпространство распадается в прямую сумму корневых подпространств £?,, E^i и E^j для |Л| = 1, Л 7^±1. В каждом из этих подпространств имеется соответствующее инвариантное собственное пространство, которые мы будем соответственно обозначать через Е^, £?_i, и Е^ j. Первые два из этих пространств ведут себя достаточно просто, а именно: все точки Е, неподвижны, все точки -E_i \ {0} периодические с периодом два. Более интересное поведение наблюдается в пространствах Е^ j, когда Л не вещественно, скажем, Л = е^"^. Если одно из этих пространств непусто, то отображение А имеет такую инвариантную плоскость, что в соответствующей системе координат наше отображение в этой плоскости является поворотом на угол <р вокруг начала координат. Таким образом, каждая окружность с центром в начале координат инвариантна. Поэтому, чтобы продолжить наш анализ линейных отображений, мы должны сначала понять поведение итераций поворота окружности. Здесь впервые в нашем обзоре мы столкнемся с явлением нетривиального возвращения, т. е. поведением, при котором итерации точки возвращаются произвольно близко к начальному положению, не возвращаясь в него в точности. Наша следующая задача — детальный анализ поворотов окружности.
§ 1.3. ПОВОРОТЫ ОКРУЖНОСТИ 41 Структура общих линейных отображений обсуждается в упражнениях 1.2.4 и 1.2.5. Упражнения 1.2.1. Докажите равенство (1.2.3). 1.2.2. Покажите, что собственные значения линейного отображения А зависят от А непрерывно. Является ли эта зависимость дифференцируемой? 1.2.3. Покажите, что гиперболические линейные отображения образуют открытое плотное подмножество множества линейных отображений R" —* R". 1.2.4. Предположим, что все собственные значения линейного отображения А: R** —* R" имеют абсолютное значение один. Тогда существуют такое инвариантное подпространство С = С {А) С R" и такая норма в R", что А действует в С как изометрня и для каждого вектора v€R"\C нормы ||Л"у|| растут полиномиально при |п|—юо, т. е. существуют такие целое А; > О и с > О, что |nHoo||v|||n|* (А; и С могут зависеть от v). Выясните, как определить максимальное значение значение к для данного линейного отображения. 1.2.5. Используя предложение 1.2.8 и упражнение 1.2.4, опишите асимптотическое поведение точек под действием произвольного обратимого линейного отображения в терминах разложения Ж' = Е^{А)&Е-{А)&Е^{А). § 1.3. Повороты окружности Мы будем пользоваться либо мультипликативным представлением окружности (как единичной окружности в комплексной плоскости) S^ = {z eC\\z\ = \) = {е^^\ ip еЖ), либо ее аддитивным представлением 5' = E/Z как факторгруппы аддитивной группы вещественных чисел по подгруппе целых чисел. Логарифмическое отображение устанавливает изоморфизм между этими представлениями. Символ R мы будем использовать для обозначения поворота окружности на угол 27га. В мультипликативном представлении 2'7па R^z=ZqZ, где ZQ = e Естественно, в аддитивном представлении R^x = x + а (mod 1), где (mod 1) означает отождествление чисел с одинаковой дробной частью. Итерации поворота имеют вид R2z=R^^z = z^z или Д> = х + па (mod 1). (1.3.1) Имеется принципиальное различие в поведении динамических систем при рациональном и иррациональном а. В первом случае положим а =p/q, где
42 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ p,q — взаимно простые целые числа. Тогда Щх = х для всех х, так что Щ — тождественное отображение и, значит, после q итераций преобразование просто повторяется. Второй случай существенно более интересен. Мы начнем с двух общих определений, относящихся к топологической динамике. Определение 1.3.1. Топологическая динамическая система /: X —> X называется топологически транзитивной, если существует такая точка хе X, что ее траектория 0^{х):= {f''{^)}nez п-^отна в X. Соответствующие определения для необратимых систем и систем с непрерывным временем совершенно аналогичны. Определение 1.3.2. Топологическая динамическая система /: X -^ X называется минимальной, если траектория каждой точки х е X плотна в X, или, что то же самое, если / не имеет собственных замкнутых инвариантных множеств. Предложение 1.3.3. Если число а иррационально, то поворот R^ минимален. Доказательство. Пусть Л с 5' — замыкание некоторой орбиты. Если орбита не плотна, то дополнение S^\A представляет собой непустое открытое инвариантное множество, состоящее из непересекающихся интервалов. Пусть I — самый длинный из этих интервалов (или же один из самых длинных, если имеется несколько интервалов равной длины). Так как поворот окружности сохраняет длину любого интервала, то интервалы Щ! не пересекаются (в противном случае S^\A будет содержать интервал, более длинный, чем I). Так как а иррационально, итерации I не могут совпадать, поскольку в этом случае конец х некоторого интервала-итерации I должен был бы совпасть сам с собой и мы получили бы х-\-ка — х (mod 1), где ка = I должно быть целым числом и а = 1/к оказывается рациональным. Таким образом, интервалы Щ1 имеют равную длину и не пересекаются, что невозможно, поскольку окружность имеет конечную длину, а сумма длин непересекающихся интервалов не может превышать длину круга. D Иррациональные повороты служат отправной точкой для ряда очень плодотворных обобщений. Обсудим одно из их. Окружность является компактной коммутативной группой, и поворот может быть представлен в терминах группы как умножение или левый сдвиг L^:G^G, L^g = g,g. (1.3.2) Траектория единичного элемента e^G представляет собой циклическую подгруппу {Po'lnez' ^ ^3 предложения 1.3.3 с очевидностью следует, что окружность не имеет собственных бесконечных замкнутых подгрупп. Предложение 1.3.4. Топологически транзитивный сдвиг д^ на топологической группе G минимален. Доказательство. Пусть р, д' € G. Обозначим через А, А' с G замыкания орбит элементов gag' соответственно. Тогда д^^ = д^д(д'^д'), поэтому А' = Ад~^д' и А' = G тогда и только тогда, когда Л = G. D
§ 1.4. СДВИГИ НА ТОРАХ 43 Упралснения L3.I. Докажите, что десятичная запись числа 2" может начинаться с любой заранее заданной конечной комбинации цифр. 1.3.2. Пусть G —метрнзуемая компактная топологическая группа. Предположим, что для некоторого 5^ € С? сдвиг L топологически транзитивен. Докажите, что группа G коммутативна. L3.3. Рассмотрим следующую метрику dg на группе Z всех целых чисел: ^2(т, п) = = ||m-n||2, где ЦпЦз = 2"*^, если 71 = 2^^1 для некоторого нечетного /. Пополнение Z по этой метрике называется группой 2-адических целых чисел н обычно обозначается Zg. Эта топологическая группа компактна. Пусть Zj — замыкание множества четных целых чисел в метрике dg (Zj — подгруппа Zg индекса два). Докажите, что для ^Ь ^ Zg сдвиг L : Zg —► Zg топологически транзитивен тогда и только тогда, когда ^ € Z2\ Zj. Эти упражнения представляют пример класса систем, называемых одометрами. Мы вновь встретимся с ними в § 15.4. § 1.4. Сдвиги на торах В этом параграфе мы рассмотрим некоторое обобщение поворотов окружности, являющееся частным случаям групповых сдвигов. Этот пример играет центральную роль в теории вполне интегрируемых гамильтоновых систем, которой мы коснемся в конце следующего параграфа. Фазовое пространство здесь представляет собой п-мерный тор Т" = 5' Х...Х S^=W/Z'^=R/Zx...xR/Z. п п Естественная фундаментальная область для 1R"/Z"—единичный куб •^"={(^!>---»^п)€М"|0^ Х; ^ 1 для г = 1,..., п}. Чтобы получить тор, мы должны отождествить противоположные грани J", так что точки (х,,..., Х£_,,0, х^^,,..., х„) отождествятся с (х,,..., X;_i, 1, Х; ^ 1,..., х„), поскольку они представляют один и тот же элемент факторгруппы. Как и в случае окружности, имеются две удобные системы координат на Т", а именно: 1) мультипликативная, в которой элементы Т" представляются как (г:,,... ..., z^), z.eCn \z.\ = 1, г = 1,..., n, и 2) аддлтивная, в которой элементы представляются наборами (х,,..., х„), где каждая координата определена по модулю один. Отображение (х,,..., х^) »-► (е^^^,..., е^"^") устанавливает изоморфизм между этими двумя представлениями. В аддлтивном представлении положим 7 = (Ti ) • • -1 7„) € Т". Сдвиг Т^ имеет вид ^т(^1' ■ * •' ^п) = (^1 + Тр ■. м 2;„ -Ь 7„) (mod 1). Если все координаты вектора j — рациональные числа, то Т^ — периодическое преобразование. Однако, в отличие от случая окружности, минимальность больше не является единственной альтернативой периодичности. Например, если п =2 и 7 =(о^)0), где а —иррациональное число, то тор Т^
44 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ о _ U распадается в семейство инвариантных окружностей а:^ = const и каждая орбита остается на одной иэ этих окружностей, всюду плотно заполняя ее. Предложение 1.4.1. Сдвиг Т^ минимален тогда и только тогда, когда числа Тц — чТп ^ ^ независимы над полем рациональных чисел, п т. е. когда Y2 hli ^^ является целым числом ни для какой совокупно- г = ! сти целых чисел fc,,..., fc^, кроме fcj = А^ =... = fc^ = 0. Замечание. Можно доказать это утверждение чисто алгебраически, используя классификацию всех замкнутых подгрупп Т" и проводя индукцию по размерности. Мы предпочитаем аналитический подход, который предвосхищает некоторые весьма полезные методы, используемые в анализе гладких динамических систем. Этот подход будет разрабатываться далее в § 4.2. Прежде чем перейти к доказательству этого предложения, установим некоторые общие критерии топологической транзитивности. Лемма 1.4.2. Пусть f: X —^Х — непрерывное отображение локально компактного сепарабельного метрического пространства X в себя. Отображение f топологически транзитивно тогда и только тогда, когда для любых двух непустых открытых подмножеств ЦУ сХ существует такое целое число N = М{ЦУ), что пересечение f^(U) П V непусто. Доказательство. Пусть отображение / топологически транзитивно, т. е. орбита некоторого элемента х € X плотна. Тогда, в частности, эта орбита пересекает и Ц и У, поэтому /"(х) 6 U, f (х) е V, где для определенности т^п. Следовательно, множество /"*~"(?7)ПУ непусто (напомним, что /"'(Л):= {х€ Х\ f{x)e А}). Перейдем к доказательству достаточности. Пусть t/j, ?72) • • • — счетная база топологии X. Это значит, что для любого хеX и всякого такого открытого множества U, что x^U с Х^ имеется такой индекс п, что х € ?7„ С Z7. Кроме того, выберем Z/j таким образом, что замыкание Z7, компактно. Чтобы доказать топологическую транзитивность, достаточно предъявить орбиту, которая пересекает каждое множество Z7„. По нашему предположению существует такое целое число iV,, что /^'(ЩП i[^ непусто. Пусть Т^ —такое непустое открытое множество, что V; с t/, n/~^'(t^2)- Очевидно, что V^ компактно. Существует такое целое число iVj, что /^=(Р^)П l^jHenycTO. Снова выберем открытое множество Т^ таким образом, что Т^ С T^i П /~^=(£^). Продолжая этот процесс, мы определяем индуктивно последовательность таких открытых множеств У„, что T^„ + i С К "^/"^"^'(^п + г)- Пересечение оо оо V = f] V„ = П к непусто, поскольку У^ компактно. Если х € К то /^"-'(х) € и^ для каждого п € N. D Следствие 1.4.3. Непрерывное открытое отображение f локально компактного сепарабельного метрического пространства топологически транзитивно тогда и только тогда, когда не существует двух непересекающихся открытых непустых f -инвариантных подмножеств. Доказательство. Если множества ЦУ сХ открыты, то инвариантные открытые подмножества U:= (j P{U) и У := (J /"(У) пересекаются, поэтому/"(г7)П/'"(У)7^0 для некоторых тг, meZ и/"-'"(г7)пУ 7^0. D
§ 1.4. СДВИГИ НА ТОРАХ 45 Следствие 1.4.4. Если отображение f:X—^X топологически транзитивно, то не существует непостоянной f -инвариантной непрерывной функции ip: X —* М. Доказательство. Пусть функция (р: X —^Жявляется /-инвариантной, т. е. <p{f{x)) = ip{x) для всех хеX. Так как ip не постоянна, то существует такое £ €Й, что оба множества {хеХ\ ^{x)>t} и{хеХ\ <р{х)< t} непусты. Поскольку функция ip инвариантна, эти множества также /-инвариантны. Так как <р непрерывна, то они открыты. D Доказательство предложения 1.4.1. Сначала покажем, что если п Y2 hli= К ГД^ -"6 все целые числа fc,,..., fc^ равны нулю, то отображе- 1 = 1 ние Xf не является топологически транзитивным. Для этого мы построим непрерывную Т^-инвариантную функцию и затем применим следствие 1.4.4. Положим (^(x) = sin27r (J2 Кщ)- Эта функция определена на торе корректно в силу периодичности функции sin х и не постоянна по нашему предположению. С другой стороны, <р инвариантна относительно Т^, так как (^(T^x)=sin(27rX:fc^2;,+7^) = sin(27rX:2;,fc.+27rfe)=sin(27rX:a;,fc,) = ^(^). Чтобы доказать обратное утверждение, достаточно показать, что рациональная независимость величин l,7!i**-i7n влечет топологическую транзитивность Xf. Отсюда в силу предложения 1.3.4 следует минимальность сдвига 7^. Будем рассуждать от противного, используя следствие 1.4.3. Пусть ЦУ — непересекающиеся непустые открытые 1^-инвариантные множества. Обозначим через х характеристическую функцию множества U, В силу инвариантности U получаем Х{Т^х) = х{х). Рассмотрим разложение в ряд Фурье функции х Нетрудно видеть, что п (fc,,...,A:j€Z" j=l n n = Y. ^K^-^K ^^p (2^^' Z)^i%) ^^p (^^^ Yl K-^j)' (fc,,...,fcjez» j = ! i=l Инвариантность x ^ единственность разложения в ряд Фурье позволяют заключить, что для каждого набора целых чисел fej,..., fc„ выполнено равенство X^....,fe„ =Х^....,.„ ехр (27гг ^ fc-Ty), У=1 или п Xk, .„(l -ехр27гг ^ k.j.) =0. У=1
46 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ Это означает, что либо Xk,,...,k =*^' либо ехр (27гг ^ fc,-7.) = 1, т. е. Х^ k^j. — целое число. Последняя возможность имеет место только для fcj =... = fc = = 0. Таким образом, х = const вне множества лебеговой меры нуль. Но, поскольку и множество Ц и его дополнение содержат непустые открытые множества, которые имеют положительную меру Лебега, это невозможно, так что отображение 7^ топологически транзитивно. D Подчеркнем взаимосвязь между сдвигами на торе и линейными отображениями. Пусть отображение А: М^" —> М^" задается матрицей R^ О I О R^ Используя комплексные координаты z^, = Х2]^ _^ ^-\-ix2i, в каждой двумерной плоскости О = X, =.. . = а:^* - 2 = ^А +1 = * • • = ^п Д^^ fc = 1, ..., п, мы можем представить А как A{z^,,. ,,z^) = (e^'z^^..., e^'^^'^z^). Пусть р = = (/?,,..., /?„) —некоторый вектор с неотрицательными координатами. Тор Tj = {|,г,| = /?,,..., I^^l = р^} инвариантен относительно действия А, и его размерность к равна числу отличных от нуля координат р. Ограничение А на этот тор, очевидно, представляет собой не что иное, как сдвиг Ху, где 7 — fc-мерный вектор, составленный из всех компонент (р^, для которых Упралшения 1.4.1. Докажите, что для любого сдвига Т и любого а: € Т" замыкание С{х) орбиты х представляет собой конечное объединение торов размерности А;, О ^ А; ^ п, и что ограничение Ху на С{х) минимально. 1.4.2. Пусть X — компактное метрическое совершенное пространство, т. е. X не имеет изолированных точек. Докажите, что если гомеоморфизм f\ X ^ X топологически транзити- вен, т. е. для некоторой точки хеХ орбита 0(a:) = {/"(a:)fn€Z} плотна, то существует точка у€Х, положительная полуорбита которой О"*"(у) = {/"(у)| п = О, 1,2,...} плотна. 1.4.3. Приведите пример, показывающий, что утверждение предыдущего упражнения не верно для произвольного компактного метрического пространства X, 1.4.4. Докажите, что отображение ЛдГТ^—^Т^, Л^{х, у)={х-\-а, у-\-х) (mod 1), является топологически транзитивным тогда и только тогда, когда а иррационально. § 1.5. Линейные потоки на торах и вполне интегрируемые системы В этом параграфе мы рассмотрим аналоги примеров из §§ 3,4, соответствующие случаю непрерывного времени. Начнем со следующей системы дифференциальных уравнений на двумерном торе (мы используем аддитивное представление): Эту систему дифференциальных уравнений легко проинтегрировать явно. Возникающий в результате поток {TJ}^^^ имеет вид TJ(x^,x^) = (x^-ht, x^uj^+uj^t) (mod 1). (1.5.2)
§ 1.5. ЛИНЕЙНЫЕ ПОТОКИ НА ТОРАХ И ВПОЛНЕ ИНТЕГРИРУЕМЫЕ СИСТЕМЫ 47 Рассмотрим геометрическое представление этого потока. Как мы уже упоминали, тор T^=]R^/Z^ может рассматриваться как единичный квадрат Р ={(^и ^)1 O^Xi^l, О^а:^^!}, в котором пары противоположных сторон отождествлены: (з;, 0) ~ (х, 1) и (О, х) ~ (1, х). В этом представлении интегральные кривые, задаваемые системой уравнений (1.5.1), —это отрезки прямых, угловой коэффициент которых равен j = uj2/uJi, движение вдоль соответствующих орбит происходит с постоянной скоростью вплоть до мгновенного «скачка» к соответствующим точкам, когда орбита достигает границы квадрата (сравните с конструкцией надстройки, описанной в § 3 введения). Рассмотрим последовательные моменты, когда орбита пересекает окружность С, ={х^ =0}. Координата х^ изменяется между двумя такими моментами в точности на 7 (niod 1). Таким образом, по предложению 1.3.3, если 7 иррационально, замыкание каждой орбиты содержит окружность С,, и, следовательно, образы этой окружности под действием потока {TJ} покрывают весь тор; этот поток минимален в смысле аналога определения 1.3.2 для систем с непрерывным временем, т. е. каждая орбита плотна в Т^. Если же j рационально, то, как немедленно следует из (1.5.2), каждая орбита замкнута. Этот пример допускает естественное обобщение на случай торов произвольной размерности. А именно, рассмотрим следующую систему дифференциальных уравнений на Т": Рис. 1.5.1. Линейный поток на торе Ж ч> X ^ • • • ^ Т4. В результате интегрирования снова получаем однопараметрическую группу сдвигов ^J(^i> •. о xj = (х, -Ь io;,,. .., х„ -Ь tujj (mod 1). (1.5.3) Очевидно, что поток {TJ} минимален, если для некоторого t^ преобразование Tj° минимально. Это замечание вместе с предложением 1.4.1 позволяет нам установить критерий минимальности в этом случае. Предложение 1.5.1. Поток {TJ} минимален тогда и только тогда, когда числа Ы1,...,а;^ рационально независимы, т. е. когда п 2 к^ш.фО для любых целых чисел fej,..., к^, не всех равных нулю. Доказательство. Так как TJ = T^^, минимальность потока будет следовать из предложения 1.4.1, как только мы покажем, что для некоторого действительного числа t и для любого ненулевого целочисленного п вектора (fej,..., fc„) сумма Y2 '^K^i ^^ является целым числом. Но для лю- бой совокупности целых чисел fc,,..., fc„, fc существует только одно такое значение £, что п * ^h^i = K i = l
48 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ П а именно t = k/{Y^ K^i)^ ^^^ только ^ к-ш- фО, что выполнено по на- : = 1 шему предположению. Таким образом, поскольку существует лишь счетное множество различных целочисленных векторов к.,,. .,к^,к, необходимость утверждения установлена, п С другой стороны, если ^ к- ш^ = О для некоторого ненулевого целочис- 1 = 1 " ленного вектора (fc,,..., к^), то функция sin 27г(Х) к-х^) непрерывна, непо- стоянна и инвариантна под действием потока {TJ}. D Так же как и в случае дискретного времени, существует тесная взаимосвязь между линейными потоками на торах и решениями систем линейных обыкновенных дифференциальных уравнений с постоянными коэффициентами. Пусть А —действительная (2п х 2п)-матрица с п парами различных чисто мнимых собственных значений ±га., г = 1,..., п. Рассмотрим систему обыкновенных дифференциальных уравнений dx _ dt ~ Решение системы (1.5.4) имеет вид x{t) = е Ах, (1.5.4) tA х(0). Преобразованием координат мы можем привести матрицу А к виду / О -а I а О' ! О \ V о о ■а п а oV поэтому решение в момент времени t есть линейное преобразование, представляющееся матрицей / R ta. \ О V О ^-„/ Поступая точно так же, как в конце § 4, мы можем разбить М^" на инвариантные торы, на каждом из которых поток (1.5.4) действует сдвигами. Более важный класс динамических систем, связанных с линейными потоками на торах, возникает в гамильтоновой механике. Напомним наиболее классическое определение гамильтоновой системы. Пусть Н — гладкая функция, определенная на некотором открытом подмножестве U евклидова пространства М^". Уравнения Гамильтона с функцией Гамильтона (или гамильтонианом) Н имеют вид dx^ dt dx- Ж дН ^i^n' дН ^i-n' i, . . ., 71, n -f 1, . . ., 271. (1.5.5)
§ 1.5. ЛИНЕЙНЫЕ ПОТОКИ НА ТОРАХ И ВПОЛНЕ ИНТЕГРИРУЕМЫЕ СИСТЕМЫ 49 Более общее определение включает 2п-мерное замкнутое гладкое многообразие М, замкнутую невырожденную дифференциальную 2-форму Q на Т*М, т. е. такую форму, что dQ=0 и Q'^^O (где dQ — внешняя производная формы fi, а fi" — ее п-кратное внешнее произведение), а также гладкую функцию Н: М —^R, Тогда по определению гамильтоново векторное поле — это такое поле V^, что m.V^{x)) = dH{^) (1.5.6) для любых хеМ, ^ € Т^М. Уравнения (1.5.5) соответствуют форме Q = п = Z) ^^i ^^^i + n- Более мотивированное и детальное описание гамильтоно- вых систем будет дано в п. 5.5 в. Сейчас не время обсуждать понятие полной интегрируемости во всей его общности, его происхождение, развитие и связанные с ним понятия и результаты. Для наших целей достаточно сказать, что гамильтонова система вполне интегрируема в открытом множестве V сМ, если в V можно выбрать такие координаты (I, ip) = (I,,..., Г„; (^,,..., <р^), что компоненты п ^1, • • м ^п определены по модулю 1,1€?7сМ", fi=X) ^^г ^ ^^i ^ гамиль- тониан Н зависит только от I. Такие координаты обычно называются координатами действие — угол лпя Н. Легко видеть, что в этих координатах условие (1.5.6) означает, что V^(I, (р) = (О,...,О, —дН/д!^,..., —дН/д!^). Таким образом, гамильтонов поток сохраняет переменные действия Ij,... ..., 1„, и на каждом торе Т^ = {1,- = с-, г = 1,..., п} поток линеен. Однако, в отличие от случая линейного обыкновенного дифференциального уравнения, вектор частот со{1)= [дН/д!^,..., дН/dlJ) обычно различен для различных значений c = {c^,..., с„). Таким образом, в общем случае вполне интегрируемая система в V выглядит как совокупность инвариантных торов с линейными потоками на них, для которых их векторы частот и, следовательно, характер асимптотического поведения изменяются при переходе от одного тора к другому. Мы вернемся к рассмотрению вполне интегрируемых гамильтоновых систем в п. 5.5 в. В частности, теорема Лиувилля — Арнольда 5.5.21 демонстрирует естественность данного выше определения полной интегрируемости. Упражнение 1.5.1. Рассмотрим фигуру Лиссажу на плоскости: х{Т) = Л sin(£ Н- ¥?), y{t)=^B s\n{Ljt -\-ф), t€ R. Докажите, что если ы иррационально, то для любых начальных фаз ^р, ф множество {(^(*)) y{^))}teR "•'IOTHO в прямоугольнике |а:| ^ Л, \у\ ^ В.
50 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ § 1.6. Градиентные потоки Рассмотрим в М^ сферу единичного радиуса S^ = {{x, y,z)\x^-\-y'^-\-z^ = l}. Мы будем изучать поток, который перемещает каждую точку вниз (к «южному полюсу», если мы представляем S^ в виде поверхности земного шара и считаем земную ось вертикальной) по большому кругу (меридиану), соединяющему точки (0,0,1) («северный полюс») и (0,0,-1) («южный полюс»). Скорость движения равна производной вертикальной координаты вдоль этого меридиана. Иными словами, наш поток получается при интегрировании следующего векторного поля v на сфере: v{x, у, z)^{xz, yz, -х'^ - у^), (1.6.1) Эту формулу легко вывести, заметив, что направленный вниз единичный вектор, касательный к сфере в точке (х, у, z), имеет вид {xz, yz, —{х^ -Ь у^))/\/х^-Ь2/^. Абсолютная величина его координаты z, равная у/х'^ + у^, есть в точности норма градиентного вектора, который, следовательно, имеет вид (1.6.1). Единственными нулями этого векторного поля являются два полюса, и, таким образом, они являются неподвижными точками потока. Почти очевидно, что каждая точка, кроме северного полюса, асимптотически приближается к южному полюсу при устремлении времени к -foo. На самом деле эта сходимость экспоненциальна. Аналогично каждая точка, кроме южного полюса, экспоненциально быстро приближается к северному полюсу при устремлении времени к —оо. Обобщим эту конструкцию, рассмотрев риманову метрику на компактном гладком многообразии М и вещественнозначную функцию F на М. В каждой точке X € -М, не являющейся критической для F, можно определить единственное направление быстрейшего роста F, т. е. такой единичный касательный вектор (^{х)е Т^М, что £^(^jF= max £^F/\\7}\\, где £^F означает производную функции F по направлению вектора т/. Мы определяем градиентное векторное поле VF следующим образом: £^. jF • С(^)) если X — некритическая точка, О, если X — критическая точка. Предположим, что в локальных координатах (xj,..., х^) наша риманова метрика имеет вид ds^ =J29ij{^\7 • • м 2;„)dx;dxy. Тогда VF(x„...,x„)=G-4x)(^f^,...,^ где G{x) = {g.j.{x)} и G"' —обратная к G матрица, поэтому VF является гладким векторным полем на М. Поток, порожденный полем VF, называется градиентным потоком F. Из курса математического анализа известно, что градиент ортогонален к линиям уровня функции. Вычисления в локальных координатах показывают, что это также верно и в более общей ситуации. Лемма 1.6.1. На гладком римановом многообразии М любое градиентное векторное поле ортогонально к линиям уровня функции.
§ 1.6. ГРАДИЕНТНЫЕ ПОТОКИ 51 Поток из нашего первого примера может теперь рассматриваться как градиентный поток функции F{x, у, z) = —Z на двумерной сфере, снабженной римановой метрикой, индуцированной стандартной евклидовой метрикой К^. Рассмотрим еще два примера. Пусть двумерный тор вложен в М^ как «бублик», поставленный вертикально, и F, как и прежде, — отрицательная величина функции высоты z, F(x, y^z)^—z. Функция F имеет четыре критические точки на торе: максимум А, два седла 5 и С и минимум D, Все орбиты градиентного потока, отличные от этих неподвижных точек и шести специальных орбит, которые описаны ниже, стремятся к минимуму функции F — точке D — при устремлении времени к -Ьоо и к максимуму — точке А — при устремлении времени к —оо. Две особых орбиты соединяют точки Л и В, еш;е две соединяют точки В я С и последние две соединяют С я D. Теперь немного «наклоним» этот тор, т. е. изменим вложение тора в М^, не изменяя функцию F, или можно рассматривать то же самое вложение, но заменить нашу функцию на F =—z-\-ex при некотором малом е>0. Рассматриваемая система будет по-прежнему иметь четыре критические точки и специальные орбиты, соединяющие максимум с верхним седлом и нижнее седло с минимумом. Однако орбиты, соединяющие два седла, исчезают. Вместо этих двух орбит мы получаем другие четыре: две из них соединяют максимум с нижним седлом, две другие соединяют верхнее седло с минимумом. Рис. 1.6.1. градиентные потоки на торе Некоторое особенности асимптотического поведения, которые мы наблюдали в трех приведенных примерах, имеют место для произвольных градиентных потоков. Чтобы описать эти особенности, нам понадобятся некоторые общие понятия топологической динамики. Рассмотрим топологическую динамическую систему с дискретным или непрерывным временем, определенную на фазовом пространстве X. Определение 1.6.2. Точка уеХ называется ш-предельной точкой (соответственно а -предельной точкой) для точки хЕХ, если существует такая последовательность моментов времени, стремящаяся к -foo (соответственно к —оо), что образы х сходятся к у. Набор всех а;-предельных точек (а-предельных точек) для х обозначается си{х) (соответственно а{х)) и называется ш-предельным {а-предельным) множеством.
52 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ Множества ш{х) и а{х), очевидно, замкнуты и инвариантны. Как следует из определения этих множеств, для динамической системы {<р^} имеют место равенства с» —оо '^(^)= П (и V^'x), а{х)= П (и 'Р'^)- (1-6.2) Г = 0 t^T Г = 0 t ^Т Таким образом, если пространство X компактно, то множества ш{х) и а{х) непусты и каждая точка рано или поздно приходит в любую заранее заданную окрестность своего о;-предельного множества и остается там. Обозначим через Шр{х) (соответственно через с^р{х)) а;-предельное множество (а-предельное множество) точки хеМ для градиентного потока функции F. Предложение 1.6.3. Множества Шр{х) и ар{х) состоят аз критических точек F, т. е. из неподвижных точек градиентного потока. Доказательство. Пусть {(p^jt^^ — градиентный поток функции F. Заметим, что F о ip^ —неубывающая (по t) функция, причем в некритических точках она возрастает. Таким образом, если у е X — некритическая точка функции F, то F{ip^{y))> F(y) для любого £ >0. Пусть у € ^j^A^)- Зафиксируем £о>0и положим ^Q = F(^^''(y)) — F{y). Если х^^у^ то из непрерывности градиентного потока следует, что F(^^''{х^)) ^ F{у)-\- 8q, В частности, если у € cj(x), то существует такая последовательность i„ -^ оо, что (^'-(ж)^уи, следовательно, ^((^^"^'"(х))>^(у)-Ь^о/2лля достаточно большого п. Поскольку F не убывает вдоль орбит, F(ip*-(x)) > F(y) -f 8^/2 для достаточно больших t. Но это противоречит сходимости ^^'^(x)—*y, D Предложение 1.6.4. Для любого хеМ и любой функции F множество Шр{х) либо состоит из одной точки, либо бесконечно. Доказательство. Поскольку многообразие М компактно, множество (^Jp{x) непусто. Пусть у € ujp{x). Допустим, что множество сор{х) содержит другую точку Z. Тогда у= lim (р^-{х) и ,г = lim (^"-(х), где, как п—► оо п—> оо и ранее, {^р^}—градиентный поток. Рассмотрим произвольный шар Д который содержит точку у и не содержит z. Пусть S — граница В. Так как орбита градиентного потока проходит через В бесконечно много раз, то пересечение 0{х)ПЗ бесконечно, и в силу компактности множества S оно содержит предельную точку, которая должна принадлежать u}p{x). D Следствие 1.6.5. Если функция F имеет только изолированные критические точки, то каждая орбита градиентного потока F стремится к критической точке F при t —>■ +оо. В § 9.3 мы увидим, как это свойство градиентного потока, рассматриваемого в некотором вспомогательном пространстве, используется для нахождения специальных орбит некоторых динамических систем. С формальной точки зрения имеется некоторая двойственность между градиентными потоками и гамильтоновыми динамическими системами. Мы покажем это только для наиболее элементарного, евклидова случая. В пространстве М^", снабженном стандартной евклидовой метрикой, стандартная гамильтонова форма fl = J]) dx- А dx-^^ может быть выражена через метрику и оператор ^=i i-( о ^ ~ ' - Id
§ 1.7. РАСТЯГИВАЮЩИЕ ОТОБРАЖЕНИЯ 53 А именно, для любых двух касательных векторов ^, т? € Т^М^" имеет место равенство где (•, •) —евклидово скалярное произведение. Соответствующее гамильто- ново векторное поле У^ = (дН/дХ^^^,..., дН/дх^^, -дН/дх^,..., -дН/dxJ может быть записано как Уц= IVH. Интересно отметить, что типы асимптотического поведения для гамильтонова векторного поля на компактном многообразии постоянной энергии Н = const и для градиентного потока в некотором смысле противоположны. В то время как для градиентных векторных полей единственное возможное возвратное поведение представляется неподвижными точками, для гамильтоновых систем нетривиальное возвращение является правилом. Мы уже видели это для вполне интегрируемых гамильтоновых систем в предыдущем разделе. В общем этот факт следует из теоремы Лиувилля 5.5.12 и теоремы Пуанкаре о возвращении 4.1.19. Упралшения 1.6.1. Докажите, что ш-предельное множество любой точки градиентного потока связно. 1.6.2. Приведите пример такой С°°-функции F на компактном многообразии и такой точки X €М, что множество юр{х) содержит более одной точки. 1.6.3. Для всякого д ^ 1 определите С°°-функцию на компактной ориентируемой поверхности рода д, имеющую в точности три критических точки. Опишите динамику градиентного потока для этой функции. § 1.7. Растягивающие отображения Рассмотрим следующее необратимое отображение £?2 окружности: в мультипликативном представлении или, в аддитивном представлении, Е2(х)=2х (mod 1). (1.7.1) Алгебраически это отображение представляет собой эндоморфизм группы 5* =1R/Z на себя. С геометрической точки зрения оно является двулистным накрытием S\ Это первый пример, в котором мы сталкиваемся одновременно с существенно нетривиальным возвращением, как в §§ 1.3—1.5, и с различным асимптотическим поведением для различных орбит, как в §§ 1.2 и 1.6. Комбинация этих двух явлений делает структуру орбит этого преобразования, которое кажется очень простым, гораздо более сложной, чем все структуры орбит, с которыми мы сталкивались до сих пор. Определение 1.7.1. Для преобразования f:X—^X обозначим через Р„(/) число неподвижных точек отображения /", т. е. число периодических точек / с (не обязательно минимальным) периодом п. Следующее утверждение показывает некоторые из особенностей сложной структуры орбит для отображения £"2.
54 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ Предложение 1.7.2. Справедливо равенство Р„(£?2) = 2" - 1. Отображение Е^ топологически транзитивно, его периодические точки плотны в S\ Доказательство. Если E2{z)=z, то .г^" = ,г и z^"" * = = 1. Таким образом, каждый корень из единицы степени 2" -1 является периодической точкой для £?« периода п. Имеется ровно 2" - 1 таких корней из единицы. Эти точки равномерно распределены по окружности, и когда п велико, интервалы между ними становятся малыми. Чтобы доказать топологическую транзитивность, рассмотрим двоичные интервалы А^п feJ-1 2 п—1 , где п = 1,.. и fc=0, 1,...,2"-1 Пусть х = 0,х^Х2,..—двоичное представление числа х€ € [0,1]. Тогда 2x = Xj, 2:^X3... =0.2:^X3 • • • (niod 1). Таким образом, Е2{х)=0.х^х^... (mod 1). (1.7.2) Рис. 1.7.1. Периодические точки растягивающего отображения Пусть fcj ... fc„ —двоичное представление целого числа к, возможно, с несколькими нулями в начале. Тогда х€ А^„ тогда и только тогда, когда х,. = к^ для г = 1,.. .п. Значит, £?2"(А^п) = = S\ и, так как всякий интервал IС S^ содержит некоторый двоичный интервал, то Е^{1) = 5' для некоторого п. Таким образом, для любых непустых открытых подмножеств U и V существует такое число п 6N, что множество E^iU) П V непусто, и по лемме 1.4.2 отображение £?2 топологически транзитивно. D Отображения Е^: х^-^тх (mod 1), г" где т — целое число, по модулю большее единицы, представляют собой непосредственное обобщение отображения Е^. Неудивительно, что эти отображения также топологически транзитивны и имеют плотные множества периодических орбит. Доказательство предложения 1.7.2 для этих отображений совершенно аналогично, с заменой двоичного представления представлением с основанием т для положительного тис очень небольшой модификацией для отрицательного тп. Помимо периодических и плотных орбит имеются другие типы асимптотического поведения орбит растягивающих отображений. Можно указать такие орбиты для Е^ (см. упражнение 1.7.5), но самый простой и наиболее изящный пример появляется для отображения £?з* Предложение 1.7.3. Существует такая точка х е S\ что в аддитивном представлении ш -предельное множество отображения Е^ представляет собой стандартное троичное канторово множество К. В частности, множество К является Е^-инвариантным и содержит плотную орбиту. Доказательство. Стандартное канторово множество может быть описано как набор всех точек единичного интервала, которые имеют только цифры О и 2 в представлении по основанию три (см. упражнение 1.7.4). Подобно (1.7.2), отображение Е^ в представлении по основанию три действует просто как сдвиг цифр влево. Отсюда автоматически следует, что
§ 1.7. РАСТЯГИВАЮЩИЕ ОТОБРАЖЕНИЯ 55 множество К инвариантно. Осталось показать, что у Е^ есть плотная орбита в К. Каждая точка в К имеет единственное представление по основанию три, не содержащее единиц. Пусть х е К и О, х,а^а^... (1.7.3) — данное представление. Пусть h{x) — такое число, двоичное представление которого имеет вид О, ^ 2 2 '' •' ^' ^' ^^^ получено из представления (1.7.3) заменой двоек на единицы. Таким образом, определено отображение h: К ^ [0,1], которое является непрерывным, монотонным (т. е. если х> у, то h{x) > h{y)) и взаимно однозначным, если не считать двоично- рациональных чисел, каждое из которых имеет два прообраза. Кроме того, koE^=E2oh. Пусть D с [0,1] — плотное подмножество множества точек единичного интервала, не содержащее двоично-рациональных точек. Тогда h'~^{D) плотно в К. Это немедленно следует из того факта, что если Д — такой открытый интервал, что АпК ф0, то h{A) — непустой интервал, который открыт, замкнут или полузамкнут. Теперь возьмем любую точку х€[0, 1], Е'з-орбита которой плотна; тогда Е^-ор6итг точки h~^{x)eK плотна в X. D Отметим очень существенное различие между отображениями из всех предыдущих примеров и растягивающими отображениями. В большинстве примеров возвращение либо было очень простым, т. е. имелись только неподвижные точки, как в случаях сжимающих отображений, гиперболических линейных отображений и градиентных потоков, либо, если нетривиальное возвращение имело место, все возвращающиеся орбиты вели себя одинаково, как в случаях сдвигов и линейных потоков на торах. Нужно оговориться, что для общих вполне интегрируемых систем различные орбиты ведут себя по-разному и в то же время нетривиальное возвращение имеет место. Однако фазовое пространство таких систем распадается на инвариантные множества (торы), и все орбиты на таком торе имеют одинаковую структуру. Орбиты же растягивающих отображений с различным поведением (периодического типа, плотные или с замыканием типа канторова множества) переплетены и не могут быть отделены друг от друга. Это делает структуру орбит очень сложной, асимптотическое поведение отдельной орбиты неустойчивым и очень чувствительным к начальному условию. Более того, любые две орбиты будут расходиться друг от друга с экспоненциальной скоростью, пока они не разойдутся на достаточно большое расстояние 6. Следовательно, невозможно предсказать поведение орбиты в течение длительного времени, если начальная позиция известна только с ограниченной точностью. Например, выполнение итераций £?2 ^^ ЭВМ будет, очевидно, давать всего лишь столько осмысленных итераций, сколько есть значащих двоичных цифр в начальных данных. Кроме того, любое увеличение точности будет давать весьма скромное увеличение времени, в течение которого можно делать какие-либо предсказания о поведении данной орбиты: удвоение числа значащих цифр в начальных данных и вычислении не более чем удвоит диапазон времени, в течение которого эти предсказания возможны. Аналогично, сокращение ошибки в измерении начальных данных вдвое даст всего лишь возможность произвести еще одну осмысленную итерацию. Тем более удивительно, что, как мы увидим в § 2.4, структура орбит растягивающего отображения в целом в определенном смысле обладает замечательной устойчивостью.
56 Часть 1. Гл, К ПЕРВЫЕ ПРИМЕРЫ Имеются также замечательные примеры одномерных отображений, не являющихся растягивающими. Вот один из этих примеров, с которым мы будем многократно сталкиваться как в упражнениях, так и в основном тексте этой книги. Для Хеш положим Д: М—>М, /д(х):= Лх(1 — х). Для 0^ Л ^4 функции /д отображают единичный интервал 1 = [0,1] в себя. Семейство Д, А € [0,4], обычно называют квадратичным семейством. Это наиболее популярная модель в одномерной динамике, как вещественной, так и комплексной (в последнем случае отображения естественно продолжаются на С) [']. Упражнения 1.7.1. Найдите число периодических точек периода п для отображения Е^, 1.7.2. Рассмотрим квадратичное семейство Д. 1, Вычислите ^„(/4) 2, Вычислите Р„(/з) 3, Докажите, что для А > 3 отображение /д имеет периодическую точку периода два, 4, Докажите, что для А € f 3, 1 Н- л/6 отображение Д не имеет периодических точек периода больше двух. 1.7.3. Покажите, что для любой точки а: € 5' множество 1 P^ = {yeS^\a такое п € N, что Е^{у) = х] плотно в 5', 1,7.4. Покажите, что стандартное канторово множество состоит из всех точек единичного интервала, имеющих только цифры О и 2 в их троичной записи, 1.7.5*, Рассмотрим множество Т всех точек единичного интервала, двоичное представление которых не содержит двух последовательных нулей. Докажите, что Т — совершенное нигде не плотное £^2'*^"^^?"^"^"*^ множество. Докажите, что существует точка х € Т, £?2"0рбита которой плотна в Т, 1.7.6*, Найдите такую точку а: €5', что £з*(а:)€5' \ JT, п = 0, 1,,,,, и замыкание орбиты точки X состоит из самой орбиты и стандартного канторова множества К (другими словами, точки орбиты изолированы в ее замыкании, однако сходятся к совершенному множеству К). § 1.8. Гиперболические автоморфизмы тора Гиперболические автоморфизмы тора представляют собой довольно естественный обратимый аналог растягивающих отображений Е^. Они имеют весьма схожие свойства, и их анализ даст нам возможность испробовать некоторые важные методы, используемые в теории гиперболических динамических систем. Рассмотрим линейное отображение R^ L{x, у) = {2х-\-у,х-\-у). Если два вектора (х, у) и {х\ у') представляют один и тот же элемент тора Т^, т, е. если {х — х',у — у') 6 Z , то L{x, у) и L (х', у') также представляют один и тот же элемент Т^, Таким образом, L определяет отображение F^:
§1.8. ГИПЕРБОЛИЧЕСКИЕ АВТОМОРФИЗМЫ ТОРА 57 Отображение F^ обратимо, потому что определитель матрицы 2 1 равен единице, так что L~^ также состоит из целых чисел. Кроме того, F^^ является автоморфизмом абелевой группы Т^ = 1R^/Z^. Прежде чем перейти к анализу отображения F^^, обсудим некоторые свойства линейного отображения L. Во-первых, матрица L имеет собственные значения Л 1 3 + \/5 2 > 1 и Л; -1 Л 3-\/5 2 <1. Так как матрица L симметрична, собственные векторы ортогональны друг к другу. Собственные векторы, соответствующие Л,, лежат на прямой У = ^ ~ X, Семейство прямых, параллельных ей, инвариантно относительно L. Кроме того, на каждой из этих прямых L увеличивает расстояния между точками (в \^ раз). Аналогично, имеется инвариантное семейство сжимающихся прямых у = ~ ^ д? Ч- const. Рисунок 1.8.1 дает некоторое представление о том, как jf^r действует на фундаментальном квадрате / = {(х, у)|0<х<1, 0<у< 1}, Прямые со стрелками представляют собственные направления. Рис, 1,8.1. Гиперболическое отображение тора Предложение 1.8,1. Множество периодических точек отображения Fi^ плотно, F^ топологически транзитивно, и Pni^^) = ^?-^^i""— — 2. {Числа Pn{F^) определяются в соответствии с определением 1.7.1.) Доказательство. Сначала покажем, что точки с рациональными координатами являются периодическими точками F^, Пусть x = s/q, у= t/q,
58 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ где S, t, q — целые числа. Тогда F^ (f» ^ ) 2s -f t s-\- -j, T. e. образ ТОЧ- q ' q КИ X — рациональная точка, координаты которой также имеют знаменатель q. Но на Т^ имеются только q^ различных точек, координаты которых могут быть представлены как рациональные числа со знаменателем д, и, следовательно, все итерации F^{s/q, t/q), n = О, 1,2..., принадлежат этому конечному множеству. Таким образом, они должны повторяться, т. е. F^{s/q^ t/q) = F^ (5/g, t/q) ДЛЯ некоторых целых чисел п, т. Но так как F^ обратимо, то F^""^{s/q, t/q) = (s/g, t/q). Таким образом, мы доказали плотность периодических орбит. Докажем, что точки с рациональными координатами — единственные периодические точки F^. Пусть F^{x,y) = {x,y), Но Fr"(x, 2/) = (ax-f 6у, cx-\-dy) (mod 1), где а, b, с, d — целые числа. Таким образом, ах -{-by = X -{- к, сх-\~йу = у'\-1 для некоторых целых чисел fc, I. Так как единица не является собственным значением L", то, зная а, Ь, с, d, fc, /, мы можем определить (х, у) единственным образом: X (d-l)k-bl (а-i)(d-l)-c6' У (а~1)1-ск (a-l){d-l)-cb Таким образом, х, у — рациональные числа. Семейства инвариантных относительно L прямых У V5-1 X -h const и у V5-1 X -f const (1.8.1) 2 " ' ^^"^^ " ^ 2 проектируются на Т^ в i^-инвариантные семейства орбит линейных потоков с иррациональным угловым коэффициентом. Следовательно, проекция каждой прямой всюду плотна в торе. Теперь мы можем доказать, что отображение F^ топологически транзи- тивно. Возьмем произвольные непустые открытые подмножества ЦУ с Т^. Пусть р ^ и, q ^ V — две периодических точки, и пусть п — их общий период. Прямая из первого семейства, проходящая через р, F/*-инвариантна, и F^ растягивает эту прямую в Лр > 1 раз. Аналогично, прямая из второго семейства, проходящая через д, F/*-инвариантна, и ограничение F^ на нее является сжимающим отображением. Пусть г — точка пересечения этих двух прямых. Тогда F^^{r) -* q при к -* -hoo и F^{r)-^p при fc-* —00. Таким образом, если к —достаточно большое положительное число, то Ff'^ir) е и, F^^{r) е V и Fl^{U) П V непусто. В заключение вычислим P^{F^). Как и прежде, если ^"(х, у) = (х, у), то (а— 1)х -h Ьу и сх -{- (d — \)у — целые числа. Отображение Рис. 1.8.2. Топологическая транзитивность G = F^ - Id: (х, у) ь-> {(а - 1)х -f by, ex -f (d - l)y) (mod 1)
§ 1.8. гаПЕРБОЛИЧЕСКИЕ АВТОМОРФИЗМЫ ТОРА 59 — корректно определенное необратимое отображение тора на себя. Каждая точка тора, включая (0,0), имеет одинаковое число прообразов, равное det(L" - Id)| = |(Лр - 1)(Лр - 1)1 = ЛГ + Лр - 2. (Мы использовали тот факт, что число точек 1} в G([0, 1] х [О, 1]) равно площади G([0, 1] х [О, 1]).) Это в точности количество различных точек (х, у) € Т^, для которых оба числа (а— 1)х Ч- Ьу и сх Ч- (d — \)у являются целыми, т. е. количество неподвижных точек отображения F^. П Сравним асимптотические свойства отображения i^ и сдвигов на торе, которые мы обсуждали в § 1.4. Согласно предложению 1.4.1, если координаты вектора 7 рационально независимы с 1, то сдвиг Т^ топологически транзитивен. Как мы только что доказали, автоморфизмы F^ обладают тем же свойством. С другой стороны, все орбиты отображения Т^ плотны, тогда как у F^^ плотные орбиты сосуществуют с плотным набором периодических орбит, каждая из которых, очевидно, не плотна. Таким образом, наличие свойства возвращения у орбит (представляемое их плотностью) не зависит от начальных условий для сдвигов и весьма чувствительно к начальным условиям для F^. Другой аспект асимптотического поведения связан с регулярностью возвращений по отношению ко времени. Из топологической транзитивности следует, что итерации любого открытого множества время от времени пересекают любое другое открытое множество. Более сильное свойство возвращения — наличие топологического перемешивания. Определение 1.8.2. Говорят, что отображение f: X -^ X обладает свойством топологического перемешивания, или является топологическим перемеисиванием, если для любых двух открытых непустых множеств ЦУ с X существует такое положительное целое число N = М{Ц V), что для каждого п> N пересечение /"(f/) П 1/ непусто. По лемме 1.4.2 каждое топологически перемешивающее отображение топологически транзитивно. С другой стороны, никакой сдвиг Т^ не является топологическим перемешиванием. Это следует из того факта, что сдвиги Т^ сохраняют метрику на торе, индуцированную стандартной евклидовой метрикой R", и из следующего общего критерия. Лемма 1.8.3. Если топологическая динамическая система f: X -^ -* X сохраняет некоторую метрику X, порождающую топологию X, то f не является топологическим перемешиванием. Доказательство. Зафиксируем инвариантную метрику на X, выберем три различные точки x,y,zeX и обозначим через S одну десятую минимума попарных расстояний между этими точками. Пусть Ц Vj, "Ц являются (5-шарами с центрами х, у, z соответственно. Так как / сохраняет диаметр любого множества, диаметр ^^{U) не превышает 28. В то же время расстояние между любыми двумя точками р € 1^, g € V^ больше чем 18. Таким образом, для каждого п либо /"(f/) П V^, либо /"(U") П 1^ пусто. D В противоположность ситуации со сдвигами место следующее утверждение. Предложение 1.8.4. Автоморфизм F^ является топологически перемешиваюш^им.
60 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ л/5 — I Доказательство. Растягивающиеся прямые у = —^— ^ + const являются орбитами линейного потока Т^, где о; = ( 1, —^^- 1. В силу предложения 1.5.1 этот поток минимален. Любое открытое множество U содержит некоторый отрезок J растягивающейся прямой. Зафиксируем е > 0. Тогда существует такое число Т = Т(е:), что каждый сегмент длины Т растягивающейся прямой пересекает любой е-шар на торе. Существование по крайней мере одного такого сегмента следует из топологической транзитивности потока TJ. Но, так как все сегменты данной длины являются сдвигами друг друга, это свойство сохраняется для всех сегментов. Таким образом, для любого фиксированного открытого множества V и любого достаточно большого числа п множество /"(J) пересекает V и то же самое верно для /"(27). D Как и в случае растягивающих отображений (см. предыдущий раздел), поведение орбит отображения F^ очень чувствительно к положению начальной точки. Любые две орбиты будут расходиться друг от друга с экспоненциальной скоростью при t -* +00 или при t -* —00, часто и в прошлом, и в будущем (всегда до достижения определенного расстояния). Как и ранее, это представляет существенные трудности для численных рассмотрений. Допустим, например, что орбита определяется в численной форме и что начальное условие известно с точностью до третьего десятичного знака, т. е. ошибка в определении начального условия не превышает 1/2000. Тогда, поскольку ( ^ 1 > 2000, ошибка становится порядка единицы уже после восьми итераций, что делает дальнейшие вычисления бесполезными. И вновь уменьшение ошибки измерения начальной позиции вдвое позволяет продвинуться лишь на один шаг вперед в этом вычислении. Конструкция примера из этого раздела может быть обобщена, например, так. Пусть L: Е"* -* R"* — некоторая целочисленная (т х т)-матрица с определителем + 1 или —1 и без собственных значений, по модулю равных единице, т. е. гиперболическая матрица. Тогда LZ"* = Z"* и отображение L обратимо на Z"*, так что L определяет обратимое отображение т-тора M'^/Z"*, которое имеет свойства, очень сходные с рассмотренными ранее свойствами F^. Мы будем называть такое отображение гиперболическим автоморфизмом тора. Если опустить ограничение на определитель L, возникающее в результате отображение F^ все еще может рассматриваться как отображение тора, хотя и не обратимое. Такие отображения называются гиперболическими эндоморфизмами тора. Для m = 1 это просто растягивающие отображения окружности. Упражнения 1.8Л. Вычислите число -?^(Я) периодических точек периода п произвольного гиперболического автоморфизма тора Я. Покажите, что для некоторого Л >0 существует Um Р {Н)/Х^. 1.8.2. Каждая целочисленная матрица L с определителем ±1 определяет отображение тора. Покажите, что возникающее в результате отображение имеет конечное число периодических точек каждого конкретного периода тогда и только тогда, когда корни из единицы не являются собственными значениями L. 1.8.3*. Покажите, что периодические орбиты любого гиперболического эндоморфизма тора F^ плотны.
§ 1.9. СИМВОЛИЧЕСКИЕ ДИНАМИЧЕСКИЕ СИСТЕМЫ 61 § 1.9. Символические динамические системы 1.9 а. Пространства последовательностей. В этом параграфе мы определим класс топологических динамических систем, представляющих специальный интерес для теории гладких динамических систем. Причина такого интереса состоит, во-первых, в том, что во многих отношениях символические системы служат моделями гладких; часто проще сначала заметить определенные свойства в случае символической модели, а затем перенести эти наблюдения на гладкий случай. Во-вторых, ограничения ряда гладких динамических систем на различные (часто важные) инвариантные множества выглядят очень сходно с некоторыми символическими системами. Кроме того, символические системы могут использоваться для «кодирования» гладких систем. Для каждого натурального числа N^2 рассмотрим пространство двусторонних последовательностей из N символов а^У = {а; = (..., a;_j, Wq, ш^, .. .)\ ш^е{0, 1,..., iV - 1} для г еЪ} и соответствующее пространство односторонних последовательностей ^5={^ = (^о> ^\^^2^---)\ Ч^{0> 1,...,АГ-1} для г €No}- Мы можем определить топологию на О^у, заметив, что 0.^ является прямым произведением Z копий конечного множества {0,1,..., N— 1}, каждая из которых имеет дискретную топологию, и затем задав на О^^ топологию произведения (так называемая тихоновская топология). Заметим, что если мы рассматриваем конечное множество {0,1,... ..., N — 1} как конечную группу Z/nZ, то наше произведение становится компактной абелевой топологической группой. Зафиксируем набор целых чисел п^ КщК ... <щ и числа а^ ..., а^^ € € {О, 1,..., iV" — 1} и назовем подмножество с:;::::::: = {шеп^\ш„^ = а,дляг = 1,...,к} (1.9.1) цилиндром, а количество зафиксированных координат к — рангом этого цилиндра. Цилиндры в пространстве О^ определяются аналогично. Альтернативный способ определить топологию в пространстве О^у (и соответственно в О^) состоит в том, чтобы объявить все цилиндры базой топологии этого пространства. Тогда каждый цилиндр является одновременно открытым и замкнутым множеством, потому что дополнение к цилиндру представляет собой конечное объединение цилиндров, а произвольное открытое множество представляет собой объединение счетного числа цилиндров. Еще один способ определения топологии состоит в том, чтобы ввести для любого фиксированного числа Л > 1 метрику ^л('->-')=Е ^^ч^ П = —QO Эта метрика особенно удобна в случае большого Л, скажем, когда Л = = lOiV, потому что в ней всякий симметричный цилиндр С""";;" ранга 2п+ + 1 является шаром. Так как О^^ является совершенным вполне несвязным компактным пространством, оно гомеоморфно канторову множеству.
62 ПРИМЕРЫ Различные метрики с^д не только определяют одинаковую топологию на 0^^■ (хотя они не эквивалентны как метрики), но также определяют гёльдеро- ву структуру. Это значит, что понятие функции, удовлетворяющей условию Гёльдера по отношению к метрике dj^, не зависит от Л. Этот класс гёльдеро- вых функций играет чрезвычайно важную роль в приложениях к дифференцируемой динамике (см. главы 19 и 20) и может быть описан следующим образом. Пусть (р — непрерывная комплекснозначная функция, определенная либо на Qff, либо на его замкнутом подмножестве. Положим oj = = (..., a;_j, luq, Wj, ...) и ш' = {..., wlj, luq, ш{, ...). Тогда для п = О, 1,... определим К(*^)-= niax{|(^(a;) — «^(^^ОН '^jt = ^L ^^ 1^1 ^ ^}- Так как пространство О^ компактно, функция (р равномерно непрерывна и Т/((^)-*0 при п—юо. Мы будем говорить, что (р имеет экспоненциальный тиПу если для некоторых чисел а, с > О выполнено неравенство УЛ<Р)^се —an Нетрудно видеть, что <р имеет экспоненциальный тип тогда и только тогда, когда она гёльдерова по отношению к некоторой (и, следовательно, к любой) метрике dj,- (См. упражнение 1.9.1.) Эквивалентный способ описать тот факт, что класс гёльдеровых функций не зависит от выбора Л, состоит в том, чтобы заметить, что для любых чисел A,/i тождественное отображение Id: {^N,dy^)—^ {^^,d^) является гёльдеровым, т. е. существуют такие числа а, о О, что для любых ш, ш' е О^^ выполнено неравенство d^{w, ш') < с d^{w, ш'у. (1.9.2) Все приведенные выше аргументы проходят, с очевидными изменениями, для пространства О^. 1.9 б. Преобразование сдвига. Рассмотрим преобразование левого сдвига в Q^ ^N- ^N-^^N^ a^{u}) = u}'= {..., w^, w;,...), (1.9.3) где iJ^n = iJ^n + \- Отображение стр^ взаимно однозначное, оно переводит цилиндры в цилиндры. Следовательно, а^^ является гомеоморфизмом О^у. Иногда сдвиг (т^ называется топологическим бернуллиевским сдвигом . Аналогично определим односторонний iV-сдвиг (т§: О^ —> О^, который является непрерывным необратимым преобразованием пространства ^% в себя. Сдвиги (г§ и а^^ обладают рядом свойств, уже знакомых нам из §§ 1.7 и 1.8. Предложение 1.9.1. Периодические точки сдвигов а^^ иа^ плотны в Q^ uQ^ соответственно; -P„(cr^f) = -Р„(<'"^) = -^"; отображения а^^ и а^ являются топологически перемеьииваюш^ими преобразованиями.
§ 1.9. СИМВОЛИЧЕСКИЕ ДИНАМИЧЕСКИЕ СИСТЕМЫ 63 Доказательство. Периодические орбиты сдвига — это периодические последовательности, т. е. условие (сг^^) ш = ш равносильно тому, что ^п+ш~ ^п для всех п € Z, и аналогично для а^. Чтобы доказать плотность периодических точек, достаточно указать периодическую точку в каждом цилиндре. Так как любой цилиндр из Q^ содержит некоторый симметричный цилиндр ранга 2т -h 1 для некоторого т, например ^-'«-. «™— ^<^ (а = q;_^, ..., а^), то достаточно рассматривать только такие цилиндры. Но последовательность, полученная простым повторением конечной последовательности о;,^,..., о;^, т. е. такая последовательность w, что ш^ = а^/ для \п'\ ^ т, п' = п (mod 2m-h 1), очевидно, находится в нашем цилиндре и является периодической точкой периода 2т -h 1. Каждая периодическая последовательность ш периода п единственным образом определяется координатами t^g,..., a;„_j. Наконец, имеется в точности iV" различных конечных последовательностей вида (wq, . -., ci;„_j). Чтобы доказать топологическое перемешивание, достаточно проверить, что для любых ос = ос_^,..., ос^ /3 = /3_^,. -п Рт ^ ДОстаточно большого п образ (Tn{C^) пересекает Ср. Пусть п > 2т -h 1, скажем, п .-= 2т -h fc -f 1, где fc > 0. Рассмотрим любую такую последовательность w, что U). = ос^ при |г| ^ т, ш^ = Д-_„ при г = m -h fc + 1,..., 3m + fc -f i. Очевидно, iveC^ и crj^i^) € C^. Доказательство для одностороннего сдвига совершенно аналогично. D Замечание. Отображение тг: Qf-^K, 7г(ил,, Wj,.. .) = 0, /3(шо)/3{со^).. где К — стандартное канторово множество, /3(0)= О, /3(1) = 2, является гомеоморфизмом, и, очевидно, тт оа^ = Е^отт, Таким образом, предложение 1.7.3 влечет топологическую транзитивность сдвига (Т^. Это простейший пример ситуации, когда ограничение гладкой системы на инвариантное множество выглядит как некоторый сдвиг. Соответственно отображение /i, описанное в доказательстве предложения 1.7.3, является самым простым примером кодирования. Мы подробно обсудим эту тему в §§ 2.4 и 2.5. Определение 1.9.2. Ограничение сдвигов а^^ или а^ на любое замкнутое инвариантное подмножество соответствующего сдвига называется символической динамической системой. Свойства символических динамических систем могут быть весьма разнообразными. Эти системы представляют собой богатый источник примеров и контрпримеров для топологической динамики и эргодической теории. 1.9 в. Топологические цепи Маркова. Сейчас мы рассмотрим весьма специальный (хотя, вероятно, наиболее важный) класс символических динамических систем. Пусть А =(ay)fj"Jo —квадратная матрица порядка N, элементы щ^- которой являются нулями или единицами. (Мы будем называть такую матрицу О, 1-матрицей.) Положим n^:={ojen^\%^^^^^ = \, neZ}. (1.9.4) Другими словами, матрица А определяет все допустимые переходы между символами О, 1,..., iV - 1. Множество Од, очевидно, является инвариантным относительно сдвига.
64 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ Определение 1.9.3. Ограничение ^Tvln, =• ^А называется топологической цепью Маркова [^], определяемой матрицей А. Иногда (Тд также называется сдвигом конечного типа. Опишем полезное геометрическое представление топологических цепей Маркова. Отождествим символы О, 1,..., iV— 1 с точками ocq, ..., х^_^ и соединим х^ с Xj- стрелкой, если а^у = 1. Таким способом мы по- xj ^ Х2 лучим граф G^ с N вершинами и некоторым числом ориентированных ребер. Мы будем называть конечную или бесконечную последовательность вершин G^ допустимым путем или допустимой последовательностью, если лю- Хо ¥ Хл ^^^ ^^^ последовательные вершины соединены ориентиро- / ч ванной стрелкой. Точка 12д соответствует двустороннему бесконечному пути с отмеченным началом в G^; тополо- Рис. 1.9.1. гическая цепь Маркова а^ соответствует перемещению от Граф Маркова данной вершины к следующей. Следующая простая комбинаторная лемма — ключ к анализу топологических цепей Маркова. Лемма 1.9.4. Для любых ц j € {О, 1,..., iV — 1} количество N^ допустимых путей длины m-f 1, которые начинаются в х- и кончаются в Ху, равно элементу а^ матрицы А"^. Доказательство. Мы будем использовать индукцию по т. Во- первых, из описания графа Сд немедленно следует, что Щ =a,j. Покажем, что 7V-1 jb=0 Для всякого к е {О,..., N — 1} каждый допустимый путь длины m -h 1, соединяющий Xf и Xjt, после добавления х-, которое возможно тогда и только тогда, когда Uj^y = 1, порождает единственный допустимый путь длины m-h2, соединяющий х^ и Ху,. Это доказывает (1.9.5). Отсюда, используя предположение индукции, состоящее в том, что N^ = а^ для всех г, j, мы заключаем с помощью (1.9.5), что Ni'p-^^ =а^ + ^ D Каждый допустимый замкнутый путь длины m-f-l с отмеченным началом, т. е. путь, который начинается и заканчивается в одной и той же вершине Сд, соответствует в точности одной периодической точке ст^ периода т. Отсюда получаем такое следствие. Следствие 1.9.5. Р„ [а^] = trA". Топологические цепи Маркова могут быть расклассифицированы в соответствии со свойствами возвращаемости их орбит. Существенные элементы этой классификации содержатся в упражнениях 1.9.4-1.9.9. Теперь мы займемся наиболее интересным специальным классом топологических цепей Маркова, которые обладают самыми сильными свойствами возвращаемости. Определение 1.9.6. О, 1-матрица А называется транзитивной, если для некоторого положительного т все элементы матрицы А"^ — положительные числа. Мы будем называть топологическую цепь Маркова транзитивной, если А —транзитивная матрица.
§ 1.9. СИМВОЛИЧЕСКИЕ ДИНАМИЧЕСКИЕ СИСТЕМЫ 65 Лемма 1.9.7. Если все элементы матрицы Л™ положительны, то для любого п^ т все элементы А" также положительны. Доказательство. Сначала заметим, что если а"у > О для всех г, у, то для каждого j найдется такое к, что 0,,^= 1. В противном случае а"^ =0 для всех п и i. Теперь применим индукцию. Пусть а^у > О для всех г, j; тогда N-1 ^"у*^^ — 12 ^Ik^kj > ^' потому что Ojty = 1 по крайней мере для одного к. D Jfc=0 Лемма 1.9.8. Если матрица А транзитивна и последовательность а = (a_jt,..., а^) допустима, т. е. а^.^ =1, г = —к,..., fc — 1, то пересечение Q^ П С^ =: С^^ непусто и содержит периодическую точку. Доказательство. Выберем такое т, что а^^ > 0. Тогда можно расширить последовательность а до допустимой последовательности длины 2fc-hm+l, которая начинается и заканчивается символом ос_^.. Повторяя эту последовательность периодически, получаем периодическую точку в С^ д. D Предложение 1.9.9. Если А — транзитивная матрица, то топологическая цепь Маркова ст^ является топологическим перемешиванием и ее периодические орбиты плотны в 12д. Доказательство. Плотность периодических орбит следует немедленно из леммы 1.9.7. Чтобы установить наличие топологического перемешивания, достаточно показать, что если для двух последовательностей а = (Q:_jbJ • • •) <^k) и /3 = (/3_ib,.. •, Pk) цилиндры С^ д и С^д непусты, то для любого достаточно большого п множество (т'Х{С^^^)Г\ Сдд также непусто. Выберем п^2к + \-\-т, где т находится из определения 1.9.6. Пусть, например, n = 2fc4-l -hm-hZ, где / ^0. Тогда a^J' >0 по лемме 1.9.7, так что можно предъявить допустимую последовательность длины 4/:-h2-hm-hZ, первые 2к + 1 символов которой такие же, как у а, и последние 2fc + 1 символов такие же, как у /3. По лемме 1.9.8 эта последовательность может быть продолжена до периодического элемента 12д, который, очевидно, принадлежит ^д(С^;д)П^^д. П Имеется естественный класс более общих символических систем чем цепи Маркова. Определение 1.9.10. Пусть Л: {1,..., АГ}"-^^-^{0, 1} и 12^ := {we € O^yl Л(а;^,..., а;^+„) = 1, m € Z}. Тогда ограничение о^ отображения а^ на Од называется п-кратной топологической цепью Маркова. С точки зрения динамики п-кратные топологические цепи Маркова — это то же самое, что и топологические цепи Маркова, так как они могут быть описаны как топологические цепи Маркова с алфавитом {!,..., iV}" и такой матрицей А, что ^(г„...,г„),(Ум..-У„) = ^^ ^^^ h=h + \ Для А: = 1,..., п - 1, Обозначим через Aj,..., Л^у последовательность собственных значения матрицы А, упорядоченную по убыванию их абсолютных значений, с учетом п их кратностей. Из следствия 1.9.5 можно заключить, что P^{a^)= J2 ^^• Оказывается, что для транзитивной матрицы А существует очень точная асимптотика последнего выражения. Это заключение базируется на следующем результате о положительных матрицах, который мы воспроизводим здесь для полноты картины, имея в виду также и последующие применения.
66 Часть 1. Гл. 1. ПЕРВЫЕ ПРИМЕРЫ 1.9 г. Теорема Перрона — Фробениуса для положительных матриц. Теорема 1.9.11 (Перрон — Фробениус) Р]. Пусть L —такая (N X N )-матрица с неотрицательными коэффициентамиу что для некоторого натурального числа п все элементы L"^ положительны. Тогда L имеет единственный (с точностью до умножения на константу) собственный вектор е с положительными координатами и не имеет никаких других собственных векторов с неотрицательными координатами. Кроме того, собственное значение, соответствуюи^ее этому вектору^ положительно, превосходит модули всех других собственных значений и имеет кратность один. Следствие 1.9.12. -Р„(сга) = A^aj^-h/i. для транзитивной 0,1-матрицы А, где ^^^х^ 1 —собственное значение, соответствуюи^ее положительному собственному вектору, и |/i„| < СА" для некоторого С >0 Доказательство. Все утверждения, кроме того, что \^^ > 1, вытекают немедленно из следствия 1.9.5 и теоремы 1.9.11. Положим x = {ocq, ... ...,x^y_j). х^ >0, г =0, ...,iV- 1, и Ах = Х^^х. Тогда А"^х = Х^^х, т. е. N-l N-l Amax^t = Z) ^"y^y где ^"у ^ 1- Таким образом. Х'^^х^ ^ Y2 ^з> ^i- Следова- 3=0 3=0 тельно, А1^>1 и А^^>1. П Докажем теперь теорему 1.9.11. Доказательство. Обозначим через Р множество всех векторов в R^ с неотрицательными координатами и через а — единичный симплекс TV в Р, т. е. сг = {(xj,..., х^)\ Xf '^0,J2 ^i ~ !}• ^^ предположению LP С Р. Значит, для каждого х € (Т существует единственный вектор Тх € <т, пропорциональный Lx. Таким образом, мы определили отображение Т: а-^ а. Очевидно, для каждого выпуклого подмножества S С а образ Т5, так же, как и прообраз, является выпуклым. По предположению L"P cIntP; следовательно, Т"сг с Int (Т. Для отображения Т крайние точки образа любого замкнутого выпуклого множества содержатся среди образов крайних точек (см. определение П 2.8). оо Множество сГо= Р) T"crclntcr замкнуто, выпукло и строго Т-инвари- антно (т. е. TcTq = cTq). Покажем, что (Tq имеет не более чем N крайних точек. Пусть x^o-qCT'^o'. Тогда X — выпуклая линейная комбинация крайних точек Т"а-, но, как было указано, все крайние точки Т'^а наход5П'ся среди образов вершин е^ ... TV TV .. .,е^ симплекса ст. Таким образом, x=J2 А|"^Т"е^, где AJ"J ^0 и J2 А1"^ = = 1. Можно найти такую подпоследовательность щ —*оо, что Т"'е^ и А|"'^ сходятся для всех г = 1,..., iV. Положим lim Т'*' е^ =р^, lim А j"'^ = А^-. Мы к -* со Jb —»оо TV получаем х= J2 ^iPt- Если х отлично от р^, г = 1,..., iV, то х не является крайней точкой ctq.
§ 1.9. СИМВОЛИЧЕСКИЕ ДИНАМИЧЕСКИЕ СИСТЕМЫ 67 Множество крайних точек сгд, таким образом, конечно и Т-инвариантно, так что все крайние точки являются неподвижными точками Т"* для некоторого т. Каждая из этих точек соответствует некоторому собственному вектору L "* с положительными координатами. Мы хотим показать, что L "* может иметь только один (с точностью до умножения на константу) такой собственный вектор. Допуская, что таких векторов два, рассмотрим два случая. ^^ Случай 1. Оба собственных вектора имеют одно и то же собственное значение. Таким образом, мы получили, что е, / € Int Р, L "*е = Ле, L "*/ = — Л/. Мы можем ограничиться допущением /eIntP, потому что тогда существует такое положительное число а, что вектор е — а/ принадлежит границе Р. Поскольку Т^{е — ocf) = е — af, мы получаем противоречие с предположением о том, что если п достаточно велико, то L"P С Int Р. Случай 2. Существуют два собственных вектора с различными собственными значениями: е,/€Р, L'"e = Ae, L"'f = fif. Очевидно, что Л и /i — положительные числа, поэтому мы можем считать, что Л > /X. Рассмотрим плоскость, порожденную векторами ей/. Прямые, содержащие ей/, делят эту плоскость на четыре сектора. _ L^if-ee) — е Рис, 1,9.2. Случай двух собственных значений Рассмотрим сектор S, ограниченный лучами, содержащими векторы / и -е. Если хе S, то x = af - 13е, а,/3 > О, и L"*"x= a/i"/-/?Л"е, т. е. направление, к которому стремятся образы нашего вектора при п —* оо, есть
68 Часть 1, Гл. 1. ПЕРВЫЕ ПРИМЕРЫ направление вектора —е. В частности, для достаточно большого п вектор L"™x не принадлежит Р. Однако, так как/€1п1 Р, то/ —ееб Р для достаточно малого £ > 0. Таким образом, мы нашли вектор в Р который в конце концов под действием итераций L покидает Р, что противоречит нашему предположению. Это завершает доказательство единственности собственного вектора для L, поскольку остается только одна возможность, а именно, что (Tq состоит из одной точки, которая в этом случае неподвижна относительно L и, таким образом, порождает собственный вектор е € Р отображения L. Покажем, что если Le = Xe и /i —другое собственное значение L, то Л > |/i|. Если /i —действительное число, то рассмотрим собственный вектор / с собственным значением /i и плоскость, порожденную ей/. Мы уже доказали, что никаких других векторов с собственными значениями ±Л не существует. Допустим, что |/i| > Л. Тогда, как и выше, для а, /? > О при п -* 00 направления векторов L"(Q;e +/?/) стремятся к направлению / и, следовательно, для достаточно большого п эти векторы находятся вне Р. Но если £ достаточно мало, то е -f е/ € -FJ и мы пришли к противоречию. Точно так же, если /i —комплексное число, скажем, /х = р ■ е*^"^, то можно найти двумерную инвариантную плоскость, на которой L действует как умножение на р и вращение на угол <р. Если р > А, то мы получаем противоречие, рассматривая действия L на трехмерном пространстве, порожденном вектором е и нашей плоскостью. -ели р = Л, то мы выбираем вектор в этом трехмерном пространстве, который лежит на границе Р. Этот вектор либо в конечном счете возвращается на дР (если (р рационально), либо проходит сколь угодно близко к ней (если <р иррационально), что противоречит тому факту, что L'^P находится строго внутри Р для больших т. Осталось доказать, что Л —простое собственное значение. Мы уже доказали, что пространство собственных векторов с собственным значением Л одномерно. Остается еще та возможность, что корневое пространство, соответствующее Л, более чем одномерно. Но в этом случае существует такой вектор /6R , что Lf = X{f + е). Тогда для достаточно малого г выполнены условия e-efeP и L"(e - ef) = Л"(-£/ -f (1 - £п)е). Для больших положительных п направление этого вектора стремится к —е, т. е. эта последовательность покидает Р, что невозможно. П ч Упражнения 1.9.1. Докажите следующие утверждения, сделанные в конце п, 1.9 а. 1. Функция ip: П^у ~*С имеет экспоненциальный тип тогда и только тогда, когда она гель- дерова для какой-нибудь метрики с^д, А > 1. 2. Выполняется формула (1,9.2). 1.9.2. Пусть d^ —следующая метрика на П^у-: °° I (\ I *^п п I d^{cj,u')^ Y^ n = ^оо п2 Докажите, что она задает ту же самую топологию, что и любая нз метрик ^д. Докажите, что всякая функция экспоненциального типа является гёльдеровой для d^, но существуют гёльдеровой для d^ функции, не являющиеся функциями экспонециального типа.
§ 1.9. СИМВОЛИЧЕСКИЕ ДИНАМИЧЕСКИЕ СИСТЕМЫ 69 1.9.3. Рассмотрим естественный гомеоморфизм Я: П2 —^К, К — канторово множество: где а(0) = 0, о:(1)=:2 и число справа записано в троичной системе счисления. Докажите, что класс функций экспоненциального типа на fig^ становится классом гёльдеровых функций на К для метрики, индуцированной на К вложением в интервал [0,1] с евклидовой метрикой. Начиная с этого момента, А обозначает некоторую (т х т)-матрицу из нулей и единиц, имеющую по крайней мере одну единицу в каждой строке и в каждом столбце. 1.9.4. Докажите, что для каждого г е {О,..., тп - 1} множество 0.^ , = {ш е Пд | Ц) = г} непусто. 1.9.5. Докажите, что если существует элемент ш еПд, содержащий символ г по крайней мере дважды, то существует такой периодический элемент ш' е Пд, что Wq = г. 1.9.6. Назовем символы г, удовлетворяющие условиям предыдущего упражнения, существенными. Докажите, что всякая ш-предельная точка (см. определение 1.6.2) любого элемента Пд содержит только существенные символы. 1.9-7. Назовем два существенных символа г н j эквивалентными, если существуют такие ш, ш' е Пд. fej < iz^, li < ^21 что Докажите, что набор всех существенных символов разбивается в непересекающиеся подмножества взаимно эквивалентных символов (т. е. это отношение есть отношение эквивалентности). 1.9.8. Докажите, что о-д имеет плотную положительную полуорбиту тогда и только тогда, когда все символы существенны и эквивалентны. 1.9.9. Покажите, что если выполнены условия предыдущего упражнения, то существуют положительное целое число N и такое разложение Пл в объединение замкнутых непересекающихся подмножеств Aj,..., Л^у = Aq, что о-дЛ^ = -^i +1 Для i = О, 1,..., ЛГ - 1 и ограничения (о-д)^ на каждое Л^ являются топологическими перемешиваниями. Кроме того, разложение Пд в объединение Л; соответствует разложению набора {1,.,., т} в N таких групп одинакового размера, что каждый элемент ш е Пд имеет символы из одной и той же группы на всех позициях, сравнимых по модулю N. Полученное разложение называется спектральным разложением [^]. т 1.9.10. Пусть В^ ={шей2\^т,пеЪ,т>тц \ J] (-1) 'I ^ А;}. Докажите, что В^ — замк- » = п нутое СТ2-инвариантное подмножество П2. Пусть Sf. =-(Т2\в • Докажите, что Sf. топологически транзитивно, но не является топологическим перемешивайием, 1.9.11. Докажите, что существуют такая О, 1-матрица А и такое непрерывное отображение Я: Пд —»Bg, что диаграмма л Н Я (1.9.6) В. _Г1_^ в 5. •2 —' -^2 коммутативна и все, кроме двух, точки в Bg имеют в точности один прообраз. 1.9.12*. Докажите, что не существует гомеоморфизма, удовлетворяющего (1,9.6), т. е. отображение Sg не является С°-эквивалентным или топологически сопряженным (см, определения 2,1.1 и 2.3.1 из следующей главы) какой бы то ни бьио марковской цепи.
ГЛАВА 2 ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИ1ицИЯ И ИНВАРИАНТЫ В процессе изучения различных примеров в предыдущей главе мы обнаружили несколько полезных понятий, связанных с асимптотическим поведением динамических систем. К настоящему моменту наш список таких понятий включает скорость роста числа периодических траекторий, их пространственное распределение (например, плотность), топологическую транзитивность, минимальность, ос- и ш-предельные множества и топологическое перемешивание. В гл. 3 и 4 мы существенно расширим и систематизируем этот список. Прежде, чем приступить к этому, рассмотрим задачу изучения асимптотического поведения гладких динамических систем с другой точки зрения. § 2.1. Гладкая сопряженность и модули отображений 2.1 а. Эквивалентность и модули. В этом пункте мы начнем изучение таких особенностей глобальной структуры орбит динамической системы, которые не зависят от выбора системы координат. С глобальной точки зрения замена координат представляет собой некоторый диффеоморфизм (в случае гладкой структуры) или гомеоморфизм (в топологической ситуации) фазовых пространств. Таким образом, мы можем ввести естественные отношения эквивалентности между динамическими системами, связанные с различными классами замен координат, и интерпретировать проблему описания структуры орбит как задачу классификации динамических систем с точностью до этих отношений эквивалентности. Начнем наше обсуждение со случая дискретного времени. Определение 2.1.1. Два С-отображения /: М -^ М ]л. д: N -^ N называются С""-эквивалентными, или С ""-сопряженными {т^г), если существует такой С"*-диффеоморфизм h: М —^ N, что / = /i"' о goh. Такое отображение h называют (гладким) сопряжением. Другими словами, наличие С"*-эквивалентности означает, что / совпадает с д с точностью до некоторой С"*-замены координат. Это отношение, несомненно, выглядит, как вполне естественное отношение эквивалентности для дифференциальной динамики, как с общей структурной точки зрения, так и в свете возможных приложений. Определение 2.1.2. Пусть С''{М,М) — пространство С-отобра- жений многообразия М в себя, снабженное С""-топологией, и пусть U — некоторое открытое подмножество С(М, М). Непрерывный функционал F: и —^R называется С""-модулем, если существует такое число 5 > О,
§ 2.1. ГЛАДКАЯ СОПРЯЖЕННОСТЬ И МОДУЛИ ОТОБРАЖЕНИЙ 71 что F{f) = F(g) для любых двух отображений f, д еЦ С™-сопряженных посредством такого диффеоморфизма h, что dist^«(/i, Id) < S *). Наличие близости к тождественному отображению особенно важно для систем с непрерывным временем. Мы обсудим соответствующие примеры в следующем параграфе. Сейчас же покажем, что, по крайней мере во многих интересных примерах с нетривиальным возвращением, подобных тем, что были описанны в §§ 1.7 и 1.8, имеется большое количество С^-модулей. Пусть р — периодическая точка периода п для /. Очевидно, для всякого отображения д, С"*-эквивалентного /, мы имеем g'^h{p) = hf'^lp) = h{p), так что точка q = h{p) является периодической точкой для д того же периода п. Таким образом, P„{f) = Pjtid) лл^ neN . Кроме того, если m ^ 1, то для всякой (не обязательно периодической) точки х и для каждого п eN выполнено равенство Df: = Dh;J^ о Dg-^ о Dh, ■ В частности, если Рр=р^ то Df; = (Dh^r^ Dg^^ D\, поскольку В ЭТОМ случае g'^h{p) = h{p) и {Dh~^)j^^=^(Dh^YK Таким образом, линейные операторы Df^ и Dghp сопряжены, и, в частности, они имеют одинаковые собственные значения. Назовем набор собственных значений оператора Df^ спектром периодической точки р. Принимая во внимание предложение 1.1.4, легко видеть, что всякая периодическая точка р отображения /, спектр которой не содержит единицы, определяет некоторые С-модули. Если мы предположим для простоты, что собственные значения D/" просты, то сами эти собственные значения могут служить модулями. Так как такие периодические орбиты отделены друг от друга, их спектры могут быть возмущены независимо, по крайней мере для любой конечной совокупности точек. Таким образом, модули, полученные из различных периодических орбит, в определенном смысле независимы. 2.1 6. Локальная аналитическая линеаризация. С другой стороны, по крайней мере в некоторых случаях, локально спектр является полным инвариантом относительно гладкой сопряженности. Мы рассмотрим сейчас очень простой пример такого типа, который также дает представление о некоторых методах, используемых в более аналитических разделах теории гладких динамических систем. Различные подходы к проблеме локальной гладкой сопряженности будут обсуждаться в §§ 2.8 и 6.6. Предложе ние 2.1.3. Пусть I = [-8, 8\, f: I-^ I —вещественно аналитическое сжимаюи^ее отображение, /(0) = 0 и Офр. := /'(0). Тогда суи^ествуют отрезок J, с/, содержаи^ий О, и веи^ественно аналитический диффеоморфизм h: J, -* Jg С R, сохраняюи^ий начало координат и сопрягаюи^ий f с линейным отображением х ь-у р,х. Существуют также варианты предложения 2.1.3 для С°°- и С-отображе- ний. С°°-вариант содержится в теореме 6.6.6 как частный случай. Доказательство. Мы покажем, как построить разложение сопрягающего диффеоморфизма в ряд Тейлора в начале координат, и затем установим, что получающийся степенной ряд сходится в некоторой окрестности нуля. ) Под dlst^m(/i. Id) понимается расстояние в С"*-топологии.
72 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ Прежде всего выберем такое m € N, что Л :=/i"* € (—1/2, 1/2). Положим /:=/"* и /(х):= /(ех)/е:, где е > О таково, что |/J ^ |Л|' для г е N. оо Здесь /(х) = Лх+ J2 /п^" —разложение отображения / в ряд Тейлора п = 2 _ В нуле. Найдем такое аналитическое в окрестности нуля отображение /i, что Xh(x) = /i(/(x)). Этого будет достаточно, поскольку мы тогда можем положить h{x):= h{x/£) и заметить, что отображение ho f о h~^ коммутирует со сжимающим отображением Л =ho f о h~^ и, следовательно, линейно по лемме 2.1.4, что и требуется установить. Обратим внимание на то, что можно расширить область определения /i, заменяя это отображение на отображение х ь-у ^~^h{f^{x)) для достаточно больших fc € N. Найдем ряд Тейлора Мх) = хЧ-Х^/1„х" п = 2 отображения /i, где коэффициенты h^ еще должны быть определены. Уело вне сопряженности Xh{x)— h(f{x)) может быть записано как ^ооч оо ооу оо \ п п = 2 ^ п = 2 п = 2 ^ т = 2 Теперь можно определить коэффициенты h индуктивно: L _ Л L _ /з + ^^^Л 3 ' ^ Jfc=2 ^ (2.1.1) где F^ — сумма всех таких одночленов вида АV2^ •■•/;' (2.1.2) (с коэффициентами), что 5i + 252 -f ... Ч- rs^=n, (2.1.3) 5i + . , . -f 5^ = /:. Мы закончим доказательство, показав индуктивно, что существует такое число d > О, что |/i„| ^ d для всех п. Пусть iV"„ — количество всех одночленов вида (2.1.2) в выражении (2.1.1) для h^ с учетом кратностей. По индуктивному предположению имеем |/ijfc| ^ ^ d для к <п, я, таким образом, K\<\^-^"~'d{l + K)X п п-1 Чтобы оценить iV„, заметим, что iV"„ = Y1 ^jt» ^Д^ ^к — коэффициент при х" в выражении *=о ^ )~\\-х)~ {к-\)\(1х''-Л\-х)~'{к-\)\2^ г\ 5
§ 2,1, ГЛАДКАЯ СОПРЯЖЕННОСТЬ И МОДУЛИ ОТОБРАЖЕНИЙ 73 т. е. коэффициент, соответствующий г = п— к, и, следовательно, мы имеем _ (fc + n-fc-1)! _ fn-i\ Используя тот факт, что У] ( .1=2', получаем N^= Т] Af.= Т] {?_.) = Таким образом, |/i„| < |Л — A"|~'d2"|A|". Эта величина будет ограничена числом d, если мы выберем щ таким образом, что |Л — Л"°|"'2"°|Л|"° ^ 1 и d =max\hj, ['] D П<По Представленное выше доказательство дает очень простой пример применения метода мажорант, который широко используется при решении многих локальных и полулокальных проблем, связанных с исследованием сопряженности динамических систем. Предложение 2.1.3 — частный случай теоремы 2.8.2. (Хотя в теореме 2.8.2 рассматриваются преобразования комплексной плоскости, из ее доказательства легко видеть, что если отображение / имеет вещественные коэффициенты, то и коэффициенты сопрягающего отображения h тоже вещественны.) Доказательство теоремы 2.8.2 служит иллюстрацией применения метода быстро сходяш^хся итераций, иногда называемого методом Ньютона. Этот метод, описанный в весьма общей форме в § 2.7, является одним из наиболее мощных и полезных инструментов в теории гладких динамических систем, особенно для решения проблем, связанных с установлением гладкой эквивалентности. Важность метода Ньютона объясняется тем фактом, что он применим и в ситуациях, когда, в отличие от нашего случая, гиперболичность отсутствует. 2.1 в. Различные типы модулей. Вернемся к обсуждению глобальной структуры орбит. Наша конструкция независимых модулей, связанных с периодическими орбитами, показывает, что в случае бесконечно большого числа периодических орбит, как у растягивающего отображения Е^ (§ 1.7) и гиперболического автоморфизма тора i^ (§ 1.8), имеется бесконечно много инвариантов локальной С-эквивалентности. Оказывается, что для этих двух случаев, которые представляют собой самые простые примеры гиперболических систем (см. § 6.4 и часть 4 этой книги), спектры периодических орбит образуют полную систему инвариантов для С- и даже С°°-эквивалентностей в окрестности отображений Е^ и F соответственно. Для случая С-сопряжения отображений тора соответствующее утверждение содержится в теореме 20.4.3. Удовлетворительное описание множества возможных значений для собственных значений всех периодических точек остается открытой проблемой. Разнообразные модули дают существенную, хотя и не полную информацию о гладкой эквивалентности в окрестности вращения R^. Число вращения (см. определение 11.1.2) является С°-модулем, и для некоторых иррациональных а его значения определяют класс гладкой эквивалентности (см. теорему 12.3.1). С другой стороны, во многих ситуациях множество всех классов С"-экви- валентности для г ^ 1 слишком велико и не имеет никакой разумной структуры. Случай г =0, т. е. случай топологической эквивалентности гладких динамических систем, является принципиально иным и будет обсуждаться в § 2.3.
74 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ Теперь дадим представление о том, как может выглядеть С'-классифика- ция систем с достаточно простым характером возвращения орбит. Для этого рассмотрим монотонное аналитическое отображение (р единичного отрезка I = [0,1] в себя, сохраняющее концы отрезка, не имеющее никаких других неподвижных точек и такое, что <р'{0) > 1, <р'{\) <!, например v:(x) = -^ + |x. (2.1.4) Таким образом, точки х=0 и х = 1 являются притягивающими неподвижными точками для отрицательных и положительных итераций отображения (р соответственно, т. е. любая внутренняя точка стремится к О и к 1 для отрицательных и положительных итераций соответственно (см. предложение 1.1.6). Прежде всего мы покажем, что такое отображение (р естественным образом задает две гладкие аффинные структуры на интервале (0,1). Лемма 2.1.4. Любое С -отображение, определенное в окрестности нуля на действительной оси и коммутируюи^ее с линейным сжатием Л: X—*■ Лх, |Л| < 1, линейно. Доказательство. Пусть /: [—е, е] —»■ R — такое отображение. Во- первых, / сохраняет начало координат, потому что /(0) — неподвижная точка Л, которая единственна. Кроме того, из коммутирования следует, что /(Лх) = Л(/(х)), и по индукции /(Л"х) = Л"/(а;). (2.1.5) Так как отображение / дифференцируемо в нуле, то отношение /(Л"х)/Л''х имеет предел при п—*-оо, который не зависит от х и будет обозначаться а. Из уравнения (2.1.5) следует, что т. е. /(х) = ах. D Замечание. Наличие дифференцируемости в условии леммы существенно. Например, имеется много нелинейных липшицевых отображений, коммутирующих с Л. Следствие 2.1.5. Пусть h^ и h^ — два сопрягаюи^их диффеоморфизма, удовлетворяющих условию предложения 2.1.3. Тогда существует такое вещественное число м, что h2{x) = h^{/ix). Другими словами, каждое вещественно аналитическое сжатие сохраняет определенную единственным образом аффинную структуру. Для отображения (^, которое мы рассматриваем, две структуры, определенные вблизи концов отрезка, встречаются в середине. Функции перехода между двумя структурами в любой фундаментальной области / = [а, <р(а)] порождают бесконечномерное пространство модулей <р. Уточним последнее утверждение. Используя предложение 2.1.3, можно найти такие замены координат, что <р станет аффинным отображением из [О, (^"'(а)] в [О, а] и из [<р{а), 1] в [(р^{а), 1]. Координаты, существование которых устанавливает следствие 2.1.5, определяются единственным образом с точностью до двух
§2.1. ГЛАДКАЯ СОПРЯЖЕННОСТЬ И МОДУЛИ ОТОБРАЖЕНИЙ 75 ^^(а)]- множителей, по одному на каждый конец. Тогда отображение <р [а, <^(а)]—»■ [<^(а), ^^(о.)\ может быть нормализовано, так что мы получили диффеоморфизм ip^\ [О, 1]—*- [О, 1], который может быть расширен на всю действительную прямую по формуле ip^{t + к) = ip^it) + к, (2.1.7) где O^t^i и к eZ. Мы будем называть два диффеоморфизма ф^ и ^2 Действительной прямой, для которых ^j(0) = V'2(0)=0, эквивалентными, если V^(*) = '0!(* +5) - V'lC^) лля некоторого 5 €[0, 1]. Отображение <р^: R—*-Е, определяемое через отображение <р по формулам (2.1.6) и (2.1.7), мы будем называть отображением перехода для <р. Это отображение зависит от множителей, определяющих линеаризацию <р вблизи концов отрезка, а также от выбора базовой точки а. Из (2.1.6) следует, очевидно, что изменение линеаризации не меняет отображение перехода, если а изменено соответствующим образом. Изменение базовой точки приводит к замене отображения перехода на эквивалентное. Таким образом, мы описали модули для нашего отображения ip; они включают собственные значения в конечных точках и классы эквивалентности отображений перехода. Следствие 2.1.6. Пусть (р—малое аналитическое возмуи^ение отображения (р. Тогда отображения (р и 0 аналитически сопряжены в том и только том случае, если они С^ -сопряжены, или выполнены следуюи^ие условия: ^'(0) = (^'(0), {р'{\) = (р'{\) а отображения перехода для if и ср эквивалентны. Подчеркнем, что, напротив, С°-структура орбит отображения (р устойчива. Предложение 2.1.7. Пусть отображение ф близко к отображению if в С^-топологии, причем ф{0)=0 и ф{1) = 1. Тогда отображения (риф являются С^-сопряженными. Доказательство. Есл]л.ф'{Q)> \,ф'{\)<\ }лф'>0^1О lim ^"(t) = l n —*оо для t фО м lim ^"(t) = 0 для t ф\. Таким образом, если мы рассмотрим п —^ —оо произвольное монотонное непрерывное отображение Н отрезка [а, <р{а)\ на [а, ф{а)\ и продолжим его до отображения h: [О, 1]—> [О, 1], так что /i(0) = О, h{\) =1, /i = -0" о Я о <^-» на [<^"(а), <^"+Ча)] для всякого п € Z, то h оказывается гомеоморфизмом отрезка [О, 1] и V = = h о (р о h~K П Это рассуждение служит прототипом для многих доказательств устойчивости структуры орбит систем с сильно диссипативным поведением. Другие приложения этого метода приведены в упражнениях 2.1.1, 2.3.3 и 2.3.4, а также в § 6.3.
76 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ Упражнения 2.1.1. Пусть /ид — с'-отображения» определенные в окрестности начала координат на вещественной прямой, /(0) = (7(0) = ОиО</'(0)<1, 0<д'{0)<1. Докажите, что f и д локально топологически сопряжены вблизи начала координат» т. е. существуют такой открытый интервал / Э {0} и такое взаимно непрерывное вложение А: / -* R, что h{0) = О и f{h{x)) ~ h{g{x)) для X G /. 2.1.2. Докажите, что если предположения предыдущего упражнения выполнены, то вложение h может быть выбрано липшнцевым тогда и только тогда, когда f'(0)^g'{0). Таким образом, в частности, h может быть сделано билипшицевым тогда и только тогда, когда /'(0) = ff'(0). 2.1.3. Докажите» что выполнены следующие утверждения. 1. Отображение /: xi-*x-\ я- действительной прямой не является локально сопряжен- 1 -f X ным никакому линейному отображению вблизи начала координат. 2. Отображение /: х ь-^ х -f х^ топологически сопряжено линейному отображению I вида Цх) = Аж, но решение h уравнения f ~ hoi о h~^ не может быть сделано гёльдеровым ни в какой окрестности начала координат. 2.1.4. Пусть /q — R —некоторое вращение R", н пусть /±i(x) = R{x ±х||х||). Покажите, что никакие два из трех отображений /д, Д, /_| не являются топологически сопряженными вблизи 0. 2.1.5. Рассмотрим семейство квадратичных отображений /д(х) = Лх(1-х), 0^ А ^4, отрезка [0,1], определенное в конце § 1.7. Докажите, что выполнены следующие утверждения. 1. Отображение Д не сопряжено топологически ни с каким Д, если Л <4. 2. Все /д, О < Л ^ 1, топологически сопряжены друг с другом. 3. Если А 7^ /л, то /д не является С*-сопряжеиным с / . 4. Если О < А ^ 1 и /л > 1, то /д и / не являются топологически сопряженными. 5. Если 1 < А < 3, то рд = (А — 1)/А —притягивающая неподвижная точка, О — отталкивающая неподвижная точка и Пт f^{x) = рд для любого О < х < 1. п —*оо 6. Все отображения /д, 1 < А <2, топологически сопряжены друг с другом. 7*. Если Л|, Ag G(3,1 -f V^], то отображения Д и Д топологически сопряжены, но не являются с'-эквивалентными. 2.1.6. Докажите, что и топологическое сопряжение /i, существование которого установлено в предложении 2.1.7, и обратное к нему отображение h~^ могут выбраны липшицевыми тогда и только тогда, когда if'{0) = (р'{0) и ^'{{)= tp'{i). 2.1.7. Пусть комплексно аналитическое отображение /: 17-* С, определенное в окрестности начала координат комплексной плоскости, таково, что /(0) = 0 и |/ (0)| Ф 1. Докажите, что / аналитически локально сопряжено в окрестности О линейному отображению Lz =- f'(Q)z. 2.1.8. Пусть V—такое вещественно аналитическое векторное поле в окрестности начала координат на действительной оси, что и(0) = 0, и'(0)7<^0. Докажите, что локальный поток (^*, порожденный полем и в окрестности О, локально аналитически сопряжен с линейным потоком 2.1.9*. Покажите, что для aG(0,1) отображение (ж, у) ^-^ (<^х-^г у^, ау) может быть С -линеаризовано, но не С^-линеаризовано вблизи 0. 2.1.10. Пусть L G SL(m, Z) — целочисленная матрица с определителем, равным единице, которая не имеет единицы в качестве собственного значения, и пусть а G R"*. Рассмотрим аффинное отображение т-тора А^ J^x) = Lx-^a (mod 1). Покажите, что А^ ^ является С°°-сопряженным к автоморфизму i^: x^-^Lx (mod 1).
§ 2.2. ГЛАДКАЯ СОПРЯЖЕННОСТЬ И ЗАМЕНА ВРЕМЕНИ ДЛЯ ПОТОКОВ 77 § 2.2. Гладкая сопряженность и замена времени для потоков Понятие гладкой эквивалентности может быть перенесено на случай непрерывного времени mutalis mutandis. Определение 2.2.1. Два С'-потока <р^\ М —^М и ф^: N —^N называются С"^ -эквивалентными потоками {т ^ г), если существует такой С'^-диффеоморфизм h: М -^ N^ что <р^ = Ноф^ о h~^ для любого t еШ.. Другими словами, эквивалентность потоков есть сопряженность потоков как дифференцируемых действий группы R вещественных чисел. Рассмотрим простой интересный пример эквивалентности потоков. Предложение 2.2.2. Пусть а; = (а;р ..., w^_p 1). Линейный поток TJ на п-тореТ^ С°°-эквивалентен надстройке сдвига Т^ на (п- \)-то- ре, где 7 = (t^i» • • •» t^„-i)- Доказательство. Рассмотрим отображение Н из надстройки М = = Т^"' в тор Т", определяемое формулой Оно, очевидным образом, дифференцируемо для t ^0. Дифференцируе- мость в точке t =6 следует из определения гладкой структуры на надстройке. Дифференциал Н переводит векторное поле d/dt в векторное поле ш^д/дх^ + Ш2д/дх2 + ... + ш^д/дх^ и, следовательно, сопрягает потоки, порожденные этими векторными полями, а эти потоки — в точности наши надстройка и линейный поток соответственно. D Структура орбит потоков, в отличие от случая систем с дискретным временем, имеет два различных аспекта: i) относительное поведение точек на различных орбитах и ii) эволюция данного начального условия вдоль орбиты с течением времени. Ршеется естественный способ изменять данный поток, сохраняя первый аспект структуры его орбит, а именно вовсе не изменять его орбит. Определение 2.2.3. Поток ^* на М называется заменой времени для другого потока (р\ если для каждого хеМ орбиты О^{х) = {(р^х}^^^ и 0^{x) = {'ф^x}^^^ совпадают и их ориентации, задаваемые возрастанием времени, совпадают. Если поток ф^ является заменой времени для (^*, то ^***^**х = (^*х для каждого X € М, где а — вещественнозначная функция. Свойства группы (р^^^ = (р^ оф' и <р~^ =((^*)'"' превращаются в следующие уравнения: a{t -\- S, х) = a{t, х) + a{s, (р^х), f2 2 П а(—t, х) = —a(t, (^~*х). Такая функция a(t, х) называется {обычным) один-коциклом относительно -0*. Коциклы обсуждаются в § 2.9 в более общем контексте. Сохранение ориентации означает, что a(t, х)^0, если t ^ О, (2.2.2) а тот факт, что орбиты не могут сжиматься в точки, означает, что всякая точка X является либо неподвижной точкой (^*, т. е. (^*х = х для всех t 6R, либо a(t, х) > О, если t > 0.
78 Часть I. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ Очевидно, что неподвижные точки потоков (р^ и ф^ совпадают. Если оба потока <р* и ф^ являются С"*-гладкими и х не является их неподвижной точкой, то из теоремы о неявной функции немедленно следует, что функция a{t, х) также является С"*-гладкой по обеим переменным. Простые примеры показывают, что это неверно для неподвижных точек. Функция a{t, х) для данного t может даже не иметь предела при х—у Xq, где 2!^ — некоторая неподвижная точка потока <рК Другое определение замены времени можно дать используя векторные по- -^- " - — J'- , Из единственности решений дифференциаль- (=0 ных уравнении следует, что нули векторного поля являются неподвижными точками соответствующего потока. Таким образом, мы получаем, что ля ^ dt *=Р ^^- dt t ^(х) =0 тогда и только тогда, когда rj{x) =0. (2.2.3) Кроме того, если х не является неподвижной точкой, то касательные векторы к кривым {(р^х} и {ф^х} колинеарны, не обращаются в нуль и имеют одно и то же направление. Таким образом, rj{x) = а(х)^ (х), где а — скалярная функция, определенная и положительная в каждой точке х, которая не является неподвижной, а именно а(х) = ^alt, х) . Если и fp\ и ф *-^ (=0 С-потоки и ^(х)/0, то функция а(х) является С"*" ^-гладкой в точке х. Иногда мы будем использовать термин «замена времени* для потока, порожденного скалярным кратным векторного поля ^, даже если оно обращается в нуль в некоторых точках, в которых ^ / 0. Имеется простой случай, когда замена времени порождает поток, эквивалентный исходному потоку, а именно случай, когда сопрягающий диффеоморфизм сохраняет каждую орбиту первоначального потока. Другими словами, положим /i(x) = v9^<^>(x), (2.2.4) где (3 —дифференцируемая функция и ее производная по направлению потока положительна, если ^(х)/0. Легко видеть, что {hoip'o h-^){x) = <р^(-)^''-0(-^'-){х), (2.2.5) где a{t, x)-t = I3{x) - I3{<p'x), (2.2.6) так что а, очевидно, удовлетворяет условиям (2.2.1)-(2.2.2). Дифференцируя по t при t =0, мы видим, что поток hoif^oh'^ порождается векторным полем i^P) • ^, т. е. а-1=^Д (2.2.7) Мы будем называть замены времени вида (2.2.5) тривиальными. Естественно попытаться описать все замены времени данного потока по модулю тривиальных замен. Эта проблема по существу эквивалентна проблеме описания пространства всех достаточно гладких положительных функций с точностью до прибавления функций, которые представляют собой производные других гладких функций по направлению потока. Общий подход к исследованию этой задачи и подобных ей задач описывается в § 2.9.
§ 2.2. ГЛАДКАЯ С0ПР51ЖЕНН0СТЬ И ЗАМЕНА ВРЕМЕНИ ДЛЯ ПОТОКОВ 79 В некоторых случаях эта проблема решается с помощью естественных модулей, а именно периодов периодических орбит. Это верно, например, для специальных потоков, соответствующих гиперболическому автоморфизму тора (см. п. 19.2 в). Определение 2.2.4. Два С"*-потока fp^ яа М и ф^ яг N называются С""-орбитально (или траекторно) эквивалентными {т < г), если существует такой С"*-диффеоморфизм h: M—*-N, что поток х^ =^'^^'Ф^^^ является заменой времени для потока ^э*. Другими словами, h отображает орбиты потока ф^ в орбиты (р\ сохраняя ориентацию, заданную возрастанием времени. Интересный пример орбитальной эквивалентности дается конструкцией специального потока из § 1.3. Предложение 2.2.5. ПустьМ —компактное дифференцируемое многообразие, /: М^М — С"^-диффеоморфизм utp: М—уR^ —С""-функция на М. Тогда специальный поток на многообразии MJ будет С"'-ор- битально эквивалентен потоку надстройки на Mj, Доказательство. Положим к : = min (р и К:= max (р. Рассмотрим такую С°°-функцию д: [0,1]х[к, K]—yRy что 1) g{t, s) = t, если t 6 [О, к/А], 2) git, s) = t-\-s-l, если t б[1 - А:/4, 1], 3)^git,s)>0. Тогда отображение (х, t)i—>(х, g{t, <р{х))) является диффеоморфизмом между Mj и Mf, переводящим вертикальное векторное поле ^ на М^ в некоторое вертикальное векторное поле на Mf и, следовательно, сопрягающим поток надстройки с заменой времени для специального потока под (р. D Определение С"*-модуля может быть перенесено на случай потоков двумя способами, предполагающими сохранение значений либо на эквивалентных потоках, либо на орбитально эквивалентных потоках. Чтобы подчеркнуть различие между эквивалентностью и орбитальной эквивалентностью потоков, заметим, что в обоих случаях образ периодической орбиты потока есть периодическая орбита его образа. Однако даже из С°-эквивалентности потоков следует, что период такой орбиты сохраняется, в то время как при орбитальной эквивалентности может произойти изменение этого периода. Например, типичная замена времени изменяет период данной орбиты, и такие изменения могут производиться независимо для различных орбит. Таким образом, периоды периодических орбит являются модулями даже для С°-эквивалентности потоков, и в случаях типа надстройки гиперболического автоморфизма тора F имеется бесконечно много таких модулей. Взаимоотношения между этими модулями и модулями, соответствующими собственным значениям линеаризации этого отображения, далеко не тривиальны. Обсудим простой пример, показывающий, что требование близости сопрягающего отображения к тождественному в определении модуля вполне разумно. Рассмотрим линейный поток (1.5.2) на двумерном торе. Он порождается постоянным векторным полем <^i^ Н- <^2^- Очевидно, что если угловые коэффициенты двух таких потоков равны, то они имеют одни и те
80 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ же орбиты, и если числа ш^, г = 1, 2 положительны, то они получены друг из друга заменой времени. Линейное унимодулярное отображение + G(x, у) = (ах -h by, ex -h dy), где a, 6, с, deZ, ad — bc=±l, переводит векторное поле {ш^, о'з) в векторное поле (auj^ Н- бо'з, сш^ Н- do'g) с угловым коэффициентом J . . ^ = ^ Л, где 7 = o's/tt'i —угловой коэффициент векторного поля (ш^, о'з)- Легко видеть, что для любого 7 множество чисел вида ^ Л плотно. Таким образом, множество всех векторов (ш^, о'з) разбивается на плотные классы эквивалентности, которые определяют орбитально эквивалентные потоки. Более того, эти потоки «почти* эквивалентны, так как замена времени в каждом случае постоянна. С другой стороны, если требуется, чтобы сопрягающие отображения были близки к тождественному, то эти линейные потоки орбитально эквивалентны только в том случае, если угловые коэффициенты их векторных полей равны. (См. упражнение 2.2.1.) Понятие вектора вращения (см. § 14.7) позволяет определить С°-модуль для этого вида эквивалентности. Упражнения 2.2.1. Докажите, что если два линейных потока {Tj} и {Tj,} на п-торах орбитально эквивалентны и сопрягающий гомеоморфизм гомотопен тождественному (например, близок к тож- дествеииому), то векторы шиш' пропорциональны. 2.2.2. 1. Рассмотрим гиперболический автоморфизм тора Fj^ из § 1.8. Каждая периодическая орбита Fj^ определяет единственную периодическую орбиту любого специального потока, построенного по i^. Выберем любое конечное семейство Cj,..., О^ периодических орбит Fj^. Покажите, что для любых положительных действительных чисел t^,.. .,t^ существует такая положительная функция (р на T^ класса С°°, что орбита специального потока на (T^)^ , соответствующая O^j имеет период t^, i = 1,..., m. 2*. Покажите, что в качестве функции (р в предыдущей части упражнения может быть выбран некоторый тригонометрический полином. 2.2.3. Докажите, что два специальных потока crj ^ ^f ib ^ функциями (риф, построенные по одному и тому же гомеоморфизму /: X —* л, эквивалентны, если существует такая непрерывная функция Ф: ^ —> R, что ifiix) - ф{х) = Фи{х)) - Ф(х). (2.2.7) § 2.3. Топологическая сопряженность, факторы и структурная устойчивость Понятие дифференциальной сопряженности, которое мы обсуждали в предыдущих параграфах, кажется очень естественным основанием для классификации динамических систем. Однако даже наш фрагментарный анализ показывает, что по крайней мере для глобальных проблем этот инструмент слишком тонок. Даже в случаях, когда С""-классификация для г > 1 может быть предъявлена, ее построение требует весьма тщательного анализа; преобладают же случаи, когда такая классификация просто невозможна. Кроме того, все важные асимптотические свойства, рассмотренные
§ 2.3. ТОПОЛОГИЧЕСКАЯ СОПРЯЖЕННОСТЬ И СТРУКТУРНАЯ УСТОЙЧИВОСТЬ 81 В гл. 1, на самом деле являются инвариантами С°-эквивалентности, которую мы будем также называть топологической сопряженностью. Мы выделим этот специальный случай определения 2.1.1, который будет играть очень важную роль в дальнейшем, в отдельное определение. Определение 2.3.1. Для данного числа г ^ О два С"*-отображения /: М—^ М и д: N—у N называются топологически сопряженными, если существует такой гомеоморфизм h: М —у N, что f = h~^ оgoh. Существует также полезное понятие полусопряженности. Определение 2.3.2. Отображение д: N -^N называется фактором (или топологическим фактором) отображения/: М-^М^ если существует такое сюръективное непрерывное отображение h: M—^N^ что hof z=goh. Отображение h называется полусопряжением. Подчеркнем, что конструкция модулей, связанных с произвольными периодическими орбитами, введенная в § 2.1, не работает ддя топологической сопряженности. Кроме того, скоро мы увидим (в § 2.4 и 2.6), что структура орбит дифференцируемого отображения в целом может быть устойчивой в топологическом смысле. Эта возможность отражается следующим определением. Определение 2.3.3. С-отображение / называется С""-структурно устойчивым (1 ^ тп ^ г), если существует такая окрестность U отображения / в С"*-топологии, что каждое отображение gSU топологически сопряжено с /. Следующая несколько более сильная версия понятия структурной устойчивости естественна и практична одновременно. Определение 2.3.4. С"*-отображение называется С""-сильно структурно устойчивым, если оно структурно устойчиво и, кроме того, для любого отображения g€U можно выбрать сопрягающий гомеоморфизм h = h^ таким способом, что и /i^, и /i~^ равномерно сходятся к тождественному отображению при приближении д к f в С"*-топологии. Важно отметить, что таким образом мы определяем топологическую сопряженность дифференцируемых отображений. Попытки заменить топологическую сопряженность гладкой эквивалентностью, так же как и попытки допустить в качестве возмущений произвольные непрерывные отображения или даже произвольными гомеоморфизмы, приводят к бессодержательным понятиям. Первое из этих утверждений подтверждается материалом § 2.1. Второе вытекает из того наблюдения, что топологическая структура любого отображения может быть усложнена произвольно малым С"-возмущением. Например, любая изолированная периодическая точка может быть «раздута* в несчетное множество таких точек. Однако имеется понятие топологической устойчивости, которое является содержательным и в некотором отношении дополнительным к понятию структурной устойчивости. Определение 2.3.5. С"*-диффеоморфизм называется топологически устойчивым, если он является фактором любого гомеоморфизма, достаточно близкого к нему в равномерной С"-топологии. Это определение остается нетривиальным для локальных диффеоморфизмов (т. е. накрытий), но не для произвольных дифференцируемых отображений.
82 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ Как и прежде, существует два способа перенести понятие структурной устойчивости на случай потоков. Мы не будем формулировать первый, непосредственный способ, опирающийся на эквивалентность всех возмущений. Не будучи полностью вырожденным, это требование редко выполняется; например, при наличии периодических орбит их периоды являются модулями в таком смысле. Мы зарезервируем термин «структурная устойчивость» для второй возможности, которая встречается гораздо чаще. Определение 2.3.6. С""-поток tp^ называется С^-структурно устойчивым (1 < тп < г) (соответственно С"^-сильно структурно устойчивым), если любой поток, достаточно близкий к (/э* в С"*-топологии, С°-тра- екторно эквивалентен ему (соответственно, если, кроме того, обсуждаемый гомеоморфизм может быть выбран достаточно близким к тождественному для малых возмущений). Понятия фактора и топологической устойчивости изменяются соответственно. Определение 2.3.7. Поток ф^: N —* N называется орбитальным фактором потока ip^: М—*■ М, если существует сюръективное непрерывное отображение h: М—у N, которое переводит орбиты (/э* в орбиты ф^. С"*-поток (/э* называется топологически устойчивым, если он является орбитальным фактором любого непрерывного потока, достаточно близким к нему в равномерной топологии. Конечно, во всех определениях этого параграфа компактность соответствующих фазовых пространств несущественна. Кроме того, можно естественным образом модифицировать эти определения для случаев, когда для некоторых точек динамическая система определена только на конечном отрезке времени, как это имеет место, например, в окрестности гиперболической неподвижной точки линейного отображения. Такое обобщение ведет к понятиям локальной и полулокальной (в окрестности инвариантного множества) структурной устойчивости подобно § 4 введения. Исследуем некоторые из примеров, рассмотренных ранее, на наличие структурной устойчивости и соответствующих локальных вариантов этого свойства. Для произвольного сжимающего отображения фазовое пространство может не иметь гладкой структуры, так что наши понятия прямо не применимы. Однако сжимающее отображение, определенное в маленьком диске в евклидовом пространстве, структурно устойчиво, так же как и гиперболическое линейное отображение в окрестности неподвижной точки. В одномерном случае это следует из упражнения 2.1.1, а в общей ситуации это будет установлено в п. 6.3 б. Обратим внимание также на то, что предложение 2.1.7 и упражнение 2.3.3 дают примеры структурной устойчивости, имеющей место глобально для отображений с очень простыми свойствами возвращения, подобных рассматривавшихся в п. 1.1 в. Отображения, описанные в §§ 1.3-1.5, не являются структурно устойчивыми. Поскольку топологическая сопряженность сохраняет периодические орбиты, преобразование R^ поворота на иррациональный угол а не может быть сопряжено с преобразованием поворота, для которого соответтвующее число рационально. Но так как и множество рациональных чисел, и множество иррациональных чисел плотны в Е, то среди произвольно малых возмущений поворота на рациональный угол можно найти поворот на иррациональный угол, и наоборот. Аналогичное утверждение верно и для сдвига
§ 2.4. ТОПОЛОГИЧЕСКАЯ КЛАССИФИКАЦИЯ ОТОБРАЖЕНИЙ ОКРУЖНОСТИ 83 Ту на торе: если все 7i — рациональные числа, то все орбиты периодические, так что векторы, соответствующие периодическим и минимальным сдвигам, лежат в замыкании друг друга. То же соображение работает для линейных потоков на Т", которые имеют только периодические орбиты, если все числа ш^,..., ш^ рациональны. Из трех градиентных потоков, обсуждавшихся в § 1.6, второй (на вертикальном торе), очевидно, структурно неустойчив. Это следует из того факта, что число орбит, а- или о'-предельные множества которых являются седлами, изменяется, когда тор наклоняют. Эти числа являются инвариантами топологической орбитальной эквивалентности. Другие два потока (на круглой сфере и наклоненном торе) являются С^-сильно структурно устойчивыми. Для первого из них имеет место устойчивость даже в более сильном смысле (см. упражнение 2.3.4). Во всяком случае, глобальные структуры орбит этих потоков достаточно просты, и наличие структурной устойчивости не кажется удивительным. По-настоящему интересные и, возможно, несколько неожиданные примеры— растягивающие отображения из § 1.7 и гиперболические автоморфизмы тора из § 1.8. Эти отображения имеют сложную структуру орбит (см. предложения 1.7.2, 1.7.3, 1.8.1 и 1.8.4), и сохранение такой структуры при возмущениях, несомненно, показательно. В следующем параграфе мы перейдем к исследованию устойчивости этих примеров, а также некоторых взаимоотношений между ними и символическими системами. На самом деле мы сделаем даже больше, чем просто установим структурную устойчивость отображений Е^: мы покажем, что степень дает полную топологическую классификацию большого класса отображений, который включает С"-возмущения Е^. Упражнения 2.3.1. Пусть /: М-^ М—С ^-диффеоморфизм компактного многообразия. Докажите, что если /" имеет бесконечно много неподвижных точек для некоторого п, то / не является С ^-сильно структурно устойчивым. 2.3.2. Пусть /: S^ -^ S^ —некоторое С°°-отображение, и пусть х — такая периодическая точка периода п этого отображения, что |(/")'(х)| = 1. Докажите, что / не является С*"-сильно структурно устойчивым ни для какого к. 2.3.3. Пусть /: S^ -* S^ — отображение, обладающее только двумя периодическими точками, одна из которых притягивающая, а другая отталкивающая, например f{x) = х + А sin 2'irx, -1 < А < 1. Докажите, что отображение / сильно структурно устойчиво. 2.3.4. Докажите, что любой С^-поток, С^-близкий к градиентному потоку v?' на круглой сфере, С^-сопряжен с i/з* с помощью некоторого гомеоморфизма, близкого к тождественному. § 2.4, Топологическая классификация растягивающих отобралсений окружности 2.4 а. Растягивающие отображения. Растягивающие отображения, вообще говоря, могут быть определены таким же образом, как были определены сжимающие отображения в § 1.1, с той важной поправкой, что расстояния должны увеличиваться только локально. Пусть X — метрическое пространство с метрикой d.
84 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ Определение 2.4.1. Непрерывное отображение f:X—yX называется растягивающим, если ддя некоторых чисел fj>> I, егд > О и всяких X, у е X, хфу, d{x, у) < £q, имеет место неравенство difix),fiy))>fidix,y). (2.4.1) Отображения Е^: S^ —*■ S\ |тп| ^ 2, E^z = z"^, (2.4.2) дают примеры растягивающих отображений окружности. Существование растягивающих отображений накладывает нетривиальные топологические ограничения. Например, среди ориентируемых компактных поверхностей без границы только тор обладает растягивающими отображениями (так как нетрудно показать, что растягивающие отображения являются накрытиями, а тор — единственная компактная поверхность, которая может накрывать саму себя; см, приложение, § 5). Среди гиперболических эндоморфизмов тора, описанных в конце § 1.8, также имеются растягивающие отображения. Кроме декартовых произведений отображений окружности (Е^ х Ef.){Zi, Z2) = {z{^, z^) можно взять произвольную целочисленную матрицу L = \ ^ ^ ) ^ собственными значениями, по модулю большими единицы, и спроектировать L на тор, как в§ 1.8: -^х(^1 У) = (^^ +^!/i cz-\-dy) (mod 1). Здесь мы перешли к аддитивной системе обозначений. Так как j det L | > 1, то отображение F^ не обратимо. Эта конструкция, очевидно, обобщается на случай произвольной размерности. Пример растягивающего отображения на дифференцируемом многообразии, отличном от тора, приводится в § 17.3. Как немедленно следует из (2.4.1), если М — риманово многообразие и /: М —*■ М — дифференцируемое растягивающее отображение, то для любого X е М линеаризация D^f: Т^М —»■ Т^^^)М является растягивающим отображением по отношению к норме, порожденной римановой метрикой: существует такое число д > 1, что для любого v 6 Т^М\ {0} выполнено неравенство DJv\\> ^\v\\. (2.4.3) На компактном многообразии это условие является достаточным. Предложение 2.4.2. Если многообразие М компактно, то уело- вие (2.4.3) достаточно для того, чтобы отображение f было растягивающим. Доказательство. Сначала заметим, что по теореме о неявной функции / является локальным диффеоморфизмом. Используя компактность, можно выбрать такое число Sq>0, что каждый шар радиуса Sq отображается на свой образ диффеоморфно, и такое 5^ > О, что каждая компонента связности прообраза ^ршара имеет диаметр, меньший чем 6q. Наконец, пусть е^ таково, что если d{x, у) < е^, то d(f{x)^ 1(у)) < ^i/2. Пусть 7-* [О, 1] -> М, 7(0)=/(х), 7(1) = /(2/), —гладкая кривая, соединяющая /(х) и f{y) и находящаяся внутри 5|-шара. Тогда кривая у, однозначно определенная условиями у(0) = х, 7^(1) = 2/, fiy(t)) = 'y{t)j является гладкой кривой, соеди-
§ 2.4. ТОПОЛОГИЧЕСКАЯ КЛАССИФИКАЦИЯ ОТОБРАЖЕНИЙ ОКРУЖНОСТИ 85 няющеи X и у, и ^ ^ 71 = J II %(„/ f (Oil ^* > М J II 7^(011 dt = м!7 о о где I7I обозначает длину кривой 7. ^ \у\—ЛДину кривой у. Так как d{f{x),f{y)) = mi\j\, где нижняя грань берется по всем гладким кривым, соединяющим /(х) и /(у) внутри 5|-шара с центром в /(х), то мы имеем d{f{x), f{y)) > fid{x, у). Q Таким образом, в случае окружности, используя аддитивное представление, можно просто сказать, что С ^-отображение / является растягивающим при условии, что |/'| > 1. Так как окружность компактна, то fi:= min |/'(^)1 > ^- По формуле Лейбница |(/") (а;)| > д" для любой ите- x€S^ рации /", и если ограничение /" на отрезок I с S^ есть инъекция, то [/"1| > д"|/|. В противном случае образ I накрывает S\ Введем понятие степени отображения, которое будет очень полезно в дальнейшем. Лемма 2.4.3. Пусть /: S^ —у S^ —произвольное непрерывное отображение. Рассмотрим универсальное накрытие тг: Е—> 5' пространства S^ =E/Z и поднимем f наЖ {т. е. рассмотрим такое отображение F: Е -> Е, что / о 7Г = 7Г о F). Тогда F{x -hi) — F{x) есть целое число, не зависяи^ее от х и выбора поднятия. Доказательство. Так как 7r(jP(x -h 1)) = /(7г(х -h 1)) =/(7г(х)) = = 7r(jP(x)), то F{x -hi) — F(x) 6 Z, и, следовательно, это число не зависит от X по непрерывности. Если F — другое поднятие отображения /, то 7r(jP(x)) = /(7r(x)) = 7r(jP(x)), так что F-F —непрерывна^ целочисленная функция и, следовательно, она является константой, т. е. jP(x-hl)—jP(x) = = F{x-\-l)-F{x). D Определение 2.4.4. Если f: S^—*^S^ и F — произвольное поднятие отображения /, то jP(x-h 1) - F{x) называется степенью отображения / и обозначается deg(/). Лемма 2.4.5. Степень отображения непрерывна и, следовательно, локально постоянна в С^-(равномерной) топологии. Доказательство. Пусть д: S^ —^ S^ — отображение, равномерно близкое к /, скажем, dlst{g{x), /(х)) < 1/4. Поднятия /идяа вещественную прямую обозначим через F и G соответственно. Положим (р{х) = G{x) - — F{x), Для X е [О, 1 ] мы имеем G(x+l)-v.(x + l) = F(x + l) = F(x) + deg(/) = G(x) + deg(/)-v9(x), так что G(x + 1) - G(x) - deg(/)| < 1/2. (2.4.4) Так как д — отображение окружности, то G(x -hi)- G{x) — целое число, и согласно (2.4.4) оно должно быть равно deg(/). D Если / — растягивающее отображение, то 1 |/(х + 1)-/(х)|= ^nx^t)dt >Л>1.
86 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ Таким образом, степень любого растягивающего отображения по модулю больше единицы. С другой стороны, отображения Е^: х ь-> кх (mod 1) являются растягивающими для всякого целого к, |А;| > 1. Мы вернемся к обсуждению понятия степени отображения окружности в § 8.2, где это понятие послужит отправной точкой для введения более общего и менее очевидного понятия степени отображения для других многообразий. 2.4 б. Сопряжение посредством кодирования. Теорема 2.4.6. Каждое растягивающее отображение окружности f степени к топологически сопряжено с отображением Е^.. Кроме того, если f достаточно близко к Е/. в С^-(равномерной) топологии, то сопрягающий гомеоморфизм может быть выбран близким к тождественному. Лемма 2.4.7. Каждое непрерывное отображение окружности J степени к, |А;| / 1, имеет поднятие с неподвижной точкой р€ —о» 2 * Если f близко к Ef, в С^-топологии, то точка р близка к нулю. Доказательство. Пусть F — поднятие / и Н{х):= F{x) — х. Интервал с концами Я (-2) ^ ^ \л) ~ ^ \л) ~ 2 ~ ^ ("г) + ^ ~ 2 ~ = Н ( — 2] -\-к — I имеет длину |А; — 11 ^ 1 и, следовательно, содержит некоторое тп 6 Z. По теореме о промежуточном значении найдется такая точка р е ~5' 2 ' '^'^^ Н{р) = 771. Тогда замена F яа F ~ т дает F{p) =р. Если отображение / близко к Ef., то F{x)— х близко к кх — х. Следовательно, это отображение меняет знак вблизи 0. D Доказательство теоремы 2.4.6. Мы проведем доказательство для положительных к и упомянем в конце довольно очевидные модификации для отрицательных значений степени. Пусть Z!^ = [О, 1] и А*^ = [m/fc", (тп н- + 1)/А:"] для neN. 0<т^ А:"-1. Тогда ^,А':;=А-',, (2.4.5) для U 6 N, где т' — единственное такое целое число между О и А;"'' — 1, что т' = т (mod k^'^Y Пусть ^„ = {А°„,..., А^„"-^} — разбиение 5^ на отрезки А*^. Мы используем слово «разбиение» не совсем по назначению, поскольку концы последовательных отрезков пересекаются. Построим для данного растягивающего отображения / степени к вложенную последовательность разбиений на отрезки, которая будет находиться в естественном, сохраняющем порядок соответствии со стандартной последовательностью ^„. Пусть р — неподвижная точка поднятия F отображения /, как в лемме 2.4.7. Если / близко к Ef., выберем точку р близкой к 0. Поскольку F(p) = р, F{p -\-1)=р-\- к и F — строго монотонная функция, имеются такие определенные единственным образом точки dl=p<a\ <а] < .. .<а^~^ <р-!-1 =а^, что jP(af) = = р-\-7п для тп=0, 1,..., к. Обозначим Г5" = 7г([а^, аТ*"^']), тп = 0,..., к— 1.
§ 2.4. ТОПОЛОГИЧЕСКАЯ КЛАССИФИКАЦИЯ ОТОБРАЖЕНИЙ ОКРУЖНОСТИ 87 Очевидно, f{T^) = S^ и / инъективно на отрезке Г^*, если забыть об отождествлении концов. Если / близко к Е^., то, очевидным образом, все числа аТ* близки к 7п/к. Е^ щ 1 г' г^ ^ 'й 01/4 1/2 3/4 1 р 4^1=^ f4p+i Рис. 2.4.1. Сопряжение при помощи кодирования На каждом отрезке Г^* можно найти такие определенные единственным образом точки а^ = а!^ < а^^^ < ... < а^^''-^ < а!^^""^^^ = а^^^^ что jP(£^"*+*) = а| (mod 1), г=0,..., fc, и снова величина а^'^' близка к {km-\-г)/к^, если отображение / близко к Е/.. Положим Г^ = = 7г([а^, о^^"^']), тп—О,..., A:^ —1, так что f{T'^) = rf, где т' —такое единственное целое число между О и А; — 1, что тп = тп' (mod к). Продолжая эти рассуждения по индукции, мы для каждого и 6 N определим такие точки а km-i-г т Wj < < • J П/ n-l < а^ + ^ < ... < а^'^*-^' < а^(-+') = а"^^^^ 1, г =0,. .., А;, что а';^_^ а km п < И jP(a«"*+0 а т' п-1 (mod 1), (2.4.6) где, как и прежде, 0< тп' < jfc""' —1 и тп' =/стпН-г (mod А;""^). Мы определим 7г(К, < + ^]) = : г:*, тп =0,..., А:" ^ 1, так что /(С) =Г;;'1р где вновь 0<т'< А:"-'- 1 и т = т' (mod А:""'). До сих пор мы использовали только тот факт, что отображение / строго монотонно и имеет степень А;. По индукции /"(Г^) = 5" и /" инъективно
88 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ. КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ на отрезке Т"^, за исключением его концов. Если отображение / растягивающее, т. е. 1/1 ^ м > 1» ^Ь1 получаем, что длина каждого отрезка Г"^ не превышает ^~", поэтому множество всех точек {л^}„ем,пг^о л™-! плотно в S\ Это единственный момент в доказательстве, где мы используем тот факт, что / — растягивающее отображение. (На самом деле использования дифференцируемости можно легко избежать.) Далее, для любых чисел N и г можно найти такое число 5 > О, что если / в равномерной топологии ^-близко к Е/., то <|, и = 1,..., Д т = 0, 1,..., А:"-1. (2.4.7) Определим соответствие h между множеством {aj[*} и всеми рациональными числами отрезка [О, 1], знаменатели которых есть степени числа к, следующим образом: Это соответствие монотонно, и, так как множество всех точек а^ плотно в отрезке [р, рН- 1], то оно может быть единственным образом продолжено до непрерывного строго монотонного отображения (следовательно, до гомеоморфизма) h: [р, р -h 1] —> [О, 1]. Так как /i(r^) = А*^ ддя всех п, тп, то из (2.4.5) и (2.4.6) следует, что Ef^oh = hof. (2.4.8) Предполагая, при выполнении условий (2.4.7), что N и г выбираются так, что 1/fc" <г/3, мы видим, что, кроме того, |а^ —/i(a;^)| <^ для любых u6N, m=0, 1,..., jfc"—1 и, следовательно, |/i(x) —х| <€ для всех х. Аналогичное соображение показывает, что |/i~'(x) — х| < г. Случай отрицательного к отличается, по сути дела, только обозначениями. Порядок точек а^"^* между а^_^ и d!^^l будет возрастающим ддя четных п и убывающим для нечетных п, так же как и соответствующая структура, вносимая отображением Ef. в множество рациональных чисел, знаменатели которых есть степени к. D Следствие 2.4.8. Отображения Е^ являются С^-сильно структурно устойчивыми для \к\> 1. Каждое растягиваюи^ее отображение окружности С^ -структурно устойчиво. Доказательство. Любое С^-малое возмущение имеет производную, равномерно близкую к к, следовательно, по модулю большую чем 1. Поэто-^ му можно применять теорему 2.4.6. Аналогично, всякое С^-малое возмущение растягивающего отображения все еще является растягивающим. П Замечание. Несколько более тщательное исследование конструкции доказательства теоремы 2.4.6 позволяет также установить сильную структурную устойчивость любого растягивающего отображения. Предложение 2.4.9. Для любого строго монотонного отображения f степени к, |А;| > 1, отображение Е^. является топологическим фактором /, причем полусопрягающее отображение может быть сделано монотонным и гомотопным тождественному. Если f равномерно близко к E^j то полусопрягающее отображение h может быть выбрано близким к тождественному в равномерной топологии.
§ 2.4. ТОПОЛОГИЧЕСКАЯ КЛАССИФИКАЦИЯ ОТОБРАЖЕНИЙ ОКРУЖНОСТИ 89 Доказательство. Утверждение по существу следует из доказательства теоремы 2.4.6. Как мы отмечали, условий нашего утверждения достаточно, чтобы предъявить точки {o^}neIi,tn=Q,\,...,k'^~\• Однако длина отрезков rjj* не обязана стремиться к нулю при и—юо. Тем не менее, соответствие h монотонно и имеет плотный в [О, 1] образ, следовательно, оно может быть единственным образом продолжено до монотонного, но, возможно, не строго монотонного отображения h: [р, р Н-1] —^ [О, l]i удовлетворяющего условию (2.4.8). Если / близко к Е^ в С°-топологии, то (2.4.7) гарантирует, что отображение h равномерно близко к тождественному. D Замечание. Так как отображение /г, построенное в последнем доказательстве, монотонно, оно может быть постоянным на не более чем счетном множестве интервалов. Это означает, что множество точек, имеющих более одного прообраза, не более чем счетно. Вернемся к конструкции § 1.7. В ходе доказательства предложения 1.7.2 мы в явном виде построили полусопряжение одностороннего 2-сдвига о-^ с отображением Е2 (см. (1.7.2)). Таким образом, Е2 является фактором сдвига а^. Эта конструкция, очевидно, обобщается на о-|^| и Е^ для произвольного к, |А;| > 1, и по теореме 2.4.6 мы можем заменить Ef. произвольным растягивающим отображением окружности степени к. Необратимость этого полусопряжения возникает из-за того, что любое двоично-рациональное число т/2 имеет два различных двоичных представления, с нулями либо с единицами в конце. Полусопряжение h: Of —> 5^ сопоставляющее последовательности нулей и единиц ш число между О и 1, двоичное разложение которого задается последовательностью ш, очевидно, не является гомеоморфизмом; это полусопряжение имеет счетное плотное множество точек, в которых оно перестает быть инъекцией. Это самый простой случай «естественной» полусопряженности между символической и гладкой системами. Другой, не столь самоочевидный случай, связанный с гиперболическими автоморфизмами двумерного тора, будет обсуждаться в следующем параграфе. 2.4 в. Метод неподвижной точки. Мы закончим этот параграф демонстрацией другого доказательства теоремы 2.4.6 и предложения 2.4.9, которое хотя и кажется менее конструктивным, но предвосхищает в нашей простой ситуации некоторые общие методы, используемые в теории гиперболических динамических систем (см. §§ 2.6, 6.2, 18.1). Пусть нам нужно решить функциональное уравнение (2.4.8) для h. Попробуем сформулировать задачу нахождения такого отображения h как задачу нахождения неподвижной точки некоторого сжимающего оператора в функциональном пространстве. Предположим сначала, что О — неподвижная точка отображения /. Трудность заключается в необратимости отображения Ef.. Мы обходим эту трудность, переписывая уравнение (2.4.8) в другой форме. Пусть С — пространство всех таких непрерывных отображений h отрезка [О, Ц, что /i(0) =0, /i(l) = 1, рассматриваемое как пространство с равномерной метрикой. Это в точности пространство отображений, проектирующихся в отображения окружности степени один, т. е. гомотопных тождественному. Тогда мы можем переписать уравнение (2.4.8) как h=P(h), (2.4.9)
90 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ где Т—оператор на С, определенный следующим образом: (^/1)(Х) i/i ({i^(2:)})+^ (mod 1), af <i<af + ', О ^ m < fc, 1, X 1. (2.4.10) (Символ {x} здесь и далее означает дробную часть х.) Другими словами, мы применяем тп-ю ветвь (х-!-тп)/А; отображения, обратного к Е^, к отрезку Г| . Отметим, что Т отображает пространство С в себя: подставляя (2.4.10) в (2.4.9) и применяя Е^ слева, мы получаем равенство (2.4.8). То обстоятельство, что отображение T(}i) непрерывно, очевидно для всех точек, кроме X = af (га =0,..., п — 1); но, так как все эти точки отображаются в О под действием F, замена ветви не нарушает непрерывности. Таким образом, Т отображает пространство С в себя. Пусть /ii, К^^^^. Тогда dist(J-(/^i),^^)) sup \ h,{{F{х)У) ~ \k,({F{х)У) 1 к dist(/i|, /12). (2.4.11) Следовательно, Т—сжимающее отображение пространства С. По предложению 1.1.2 оно имеет единственную неподвижную точку \, откуда следует первое утверждение теоремы 2.4.6. Близость решения к тождественному отображению можно получить из того, что расстояние dist(Id, JP-(Id)) sup of <a:<Oi"' + ' F(x)-\-ra к X является, очевидно, малым, если / близко к ^j^, с использованием того факта, что неподвижная точка может быть получена как предел итераций под действием J^ произвольного начального отображения, например тождественного. Согласно (2.4.11) мы имеем оо dist(Id, Л^Х ^ dist(JP-' + 4ld), Я(Ы)) к i=Q к -1 dist(Id, JP"(Id)). Наконец, чтобы доказать, что h^ является гомеоморфизмом, если / — растягивающее отображение, следует рассмотреть функциональное уравнение для обратного к нему отображения h=J^{h\ где H^)=f-'{Hkx)), m ^ m-h 1 $. X < — к к J т О,..., А:-1, (2.4.12) и /^^ — тп-я ветвь / ^ которая отображает всю окружность на отрезок [af.af^^]. Замечая, что |(/^^)Г<1, получаем оценку, подобную (2.4.11), хотя и не такую явную. Таким образом, !F—сжимающи^ оператор с единственной неподвижной точкой h^. Легко видеть, что h^oh^oE^. = /1^0/0/1^ = = Ei.ohQohQ. Так как множество С замкнуто относительно композиции, мы можем использовать следующую лемму.
§ 2.4. ТОПОЛОГИЧЕСКАЯ КЛАССИФИКАЦИЯ ОТОБРАЖЕНИЙ ОКРУЖНОСТИ 91 Лемма 2.4.10. Тождественное отображение является единственным отображением д: 5^—> 5^ степени один, коммутирующим с некоторым отображением Е^., \к\> 1. Доказательство. Поднимем Ef, и ^ на Е и обозначим поднятие д через Id H-G, где отображение G периодично, поскольку degy = 1. Из того, что Ej.o д = до Ej., мы получаем кх -h kG{x) = кх-\- G(kx) Gik'^x) = k''G{x) (2.4.13) ддя всех U € Z. Но правая часть последнего уравнения стремится к бесконечности, если G(x)/0. Поскольку отображение G периодично и, следовательно, ограничено, мы имеем G = 0. D Так как степени отображений п^и п^ равны единице, отображение п^оп^ имеет ту же степень. В силу последней леммы мы, таким образом, имеем, что IiqO hQ = ldj и оба отображения /iq и /i^ являются гомеоморфизмами. Упражнения 2.4.1. Пусть д: (О, 1]-> (0,1] —отображение-«тент»: Г 2х, 0^x^1/2, ^^"^^ l2-2x, 1/2^x^1. Докажите следующий частный и видоизмененный вариант С'-сильной структурной устойчивости для д. Для любого такого непрерывного отображения д^: [0,1]-*[0,1], что Si(0) = sj(l) = 0, 5i(l/2)= 1, отображение д- gi является С ^-гладким на (0,1]\{1/2} и функция Iff-ffjl достаточно мала вместе со своей производной, существует такой гомеоморфизм h: (О, 1]—> [О. П» С^'-близкий тождественному, что д^ =ho до h~^. 2.4.2*. Докажите, что отображение д из предыдущего упражнения топологически сопряжено с квадратичным отображением f^: х»-»Ах{1 — х). 2.4.3. Докажите, что отображение f^ топологически транзитивио. 2.4.4*. Пусть к и I—два таких положительных целых числа, что к"^ ^ 1^ для любых положительных целых чисел m и п, /: 5^ -> 5^ — аналитическое растягивающее отображение степени к и д — аналитическое отображение степени I, коммутирующее с /. Докажите, что существует такой аналитический диффеоморфизм h: S —* S , что h'^ofoh-Ef., h~^ ogoh = Ei. 2.4.5. Пусть /: S^ -* S^ —такое строго монотонное непрерывное отображение степени jb, |Jb|^2, что /(0)=0, и пусть F: R-».R —такое поднятие /, что F(0) = 0. Докажите, что отображение Л, полусопрягающее / и линейное отображение Е^. и такое, что Л(0) = 0, может быть представлено в виде h(x)= Ит F^(x)jk^. п—*оо 2.4.6. Покажите, что если отображение /: S^ -* S^ является растягивающим для некоторой римановой метрики на 5\ то существуют такие числа А > 1 и С>0, что для всех п eN имеет место неравенство неравенство \f^'\ > СА".
92 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ. КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ § 2.5. Кодирование, подковы и марковские разбиения 2.5 а. Марковские разбиения. Полусопряженность односторонних сдвигов с растягивающими отображениями окружности представляет собой простои, но очень эффективный пример кодирования орбит гладкой системы (впервые мы упомянули это понятие в начале § 1.9). Вообще говоря, можно попытаться кодировать орбиты, скажем, диффеоморфизма, или даже гомеоморфизма /, разбивая его фазовое пространство X на конечное число подмножеств Xq, ..., Х^^_^ и определяя, к какому из этих подмножеств принадлежат последовательные итерации точки хеХ. Эта конструкция наталкивается на две основные трудности: 1) если наши подмножества пересекаются (как отрезки А'^ из предыдущего параграфа), одна точка может кодироваться более чем одной последовательностью; 2) все точки в пересечении П ГЧХ^) (2.5.1) neZ кодируются одной и той же последовательностью ш = {(^nSn^z- Таким образом, вообще говоря, наша процедура не определяет отображения (ни в каком направлении) между пространством X и подмножеством пространства последовательностей 0^^. Чтобы мы могли получить приемлемую взаимосвязь между топологией фазового пространства и топологией пространства последовательностей, подмножества нашего разбиения должны быть замкнутыми. Таким образом, если, скажем, X — связное многообразие, то первой трудности избежать нельзя. Здесь нужно сделать две оговорки. Во-первых, в случае полулокального анализа иногда можно избежать перекрытий, как мы увидим позднее в этом параграфе. Во-вторых, наличие перекрытий, имеющих меру нуль, несущественно в случае, когда мы исследуем статистические свойства орбит, типичных в смысле некоторой меры, инвариантной для / (см. § 4.1), так как тогда множествами нулевой меры можно просто пренебречь. Если каждое пересечение (2.5.1) содержит не более чем одну точку, можно определить такое непрерывное отображение h замкнутого подмножества ЛсОдг на X, что foh = hoaf^. Таким образом, в этом случае отображение / есть фактор некоторой символической системы. Эта конструкция особенно содержательна, когда множество Л имеет достаточно понятную структуру, например, если Л = 0^ для 0,1-матрицы А (см. определение 1.9.3), и, кроме того, множество различных кодирований данной точки не очень велико и может быть как-то разумно описано. Например, удобно, если на некотором «большом» множестве отображение h взаимно однозначно. Ясно, что полусопряжения, описанные в предыдущем параграфе, удовлетворяют всем этим условиям, модифицированным очевидным способом для необратимых систем. Правда, в этом случае нам следует несколько изменить формулу (2.5.1), поскольку множества Д^„ в доказательстве предложения 1.7.2 п (или множества А*^ в (2.4.5)) не представляются в виде П /~"(А'^'), на- пример £'2~^(А°)П А*1 = A°2U {1/2}. Вместо (2.5.1) следует рассматривать выражения типа П Int П ГЧХ^Л- (2.5.2) neZ \\к\^п
§ 2.5. КОДИРОВАНИЕ. ПОДКОВЫ И МАРКОВСКИЕ РАЗБИЕНИЯ 93 Тем самым мы устраняем те изолированные точки, которые появляются из-за перекрытии на границе. Естественно было бы назвать разбиение (Xq, .,., X^^), обеспечивающее полусопряжение топологической цепи Маркова Од с отображением /, взаимно однозначное на большом множестве, и определенное так, что отображение может быть описано некоторым «марковским» способом, марковским разбиением. Мы отложим детальное обсуждение и строгие определения до §§ 15.1 и 18.7. Сейчас же опишем несколько конкретных ситуаций отличных от случая растягивающих отображений окружности, где марковское разбиение появляется вполне недвусмысленным образом. 2.5 б. Квадратичные отображения. Сначала опишем класс отображений, которые в чем-то похожи на растягивающие отображения. Однако, в отличие от в случае растягивающих отображений, мы затем получим сопряжение (а не полусопряжение) с символической системой. Рассмотрим квадратичное отображение Д: Е-+Е, х->Лх(1 -ж), где Л > 2 -h VE [^]. Для упрощения обозначений будем писать / вместо Д. Заметим сперва, что ддя х < О мы имеем /(х) < х и /'(х) > Л > 4, так что /"(х)—> —оо при X <0. Аналогично, /"(х)—> —оо при х> 1. Таким образом, множество Л точек с ограниченными орбитами совпадает с множеством точек, орбиты которых находятся в [О, 1], т. е. Л= f] /'"([О, 1]). Пусть neNn до О' 5 - Vl - 1 И А' ^v^ 1 1 Тогда /'Ч[0, 1]) = А'иА^ в чем легко убедиться, решив квадратное уравнение /(х) = 1. Далее, множество /'^([0,1]) = А^ и А^' U А^ и А° состоит из четырех отрезков и т. д. Рассмотрим разбиение множества Л на подмножества А* и А. Эти подмножества не перекрываются. Заметим, кроме того, что |/'(х)| ^ Рис. 2.5.1. Квадратичное отображение и его вторая итерация
94 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ ^ VA2-4A> 1 на Л» и А': |/'(х)| = |Л(1-2х)|=2Л 1 > ^2Л1/|-1 = ^Л2-4Л>\/(2 + ^5)2-4(2 + ^5) = 1 Этим установлено, что дня любой последовательности ш = (o'q, ш^, ...) диаметр пересечений п = 0 убывает (экспоненциально) при iV—юо. Таким образом, Л= П /~"([0,1]) neN канторово множество, и для последовательности о? = (Шд, о^р ...) пересечение Ц{<^})= П /-"(А^") (2.5.3) neNo СОСТОИТ в точности из одной точки, кроме того, отображение h: Of ^Л, определенное соотношением (2.5.3), представляет собой взаимно однозначное соответствие. Так как две последовательности ш и о?', которые близки друг к другу в ^2, имеют длинный общий начальный сегмент, их образы х и х' под действием h близки (расстояние между ними убывает экспоненциально, как функция длины общего сегмента) и, следовательно, отображение h непрерывно. И наоборот, две близлежащие точки х, х' являются образами близлежащих последовательностей; таким образом, h является гомеоморфизмом. Таким образом, отображение /, суженное на множество точек с ограниченными орбитами, топологически сопряжено с односторонним бернулли- евским 2-сдвигом а^. 2.5 в. Подковы. Мы приводим здесь оригинальную конструкцию «подковы Смейла», которая представляет собой один из лучших примеров как для полулокального анализа, так и для кодирования. Пусть А — прямоугольник в Е^, и пусть /: А—>Е^ — такой диффеоморфизм А на его образ, что пересечение А П /(А) состоит из двух «горизонтальных» прямоугольников Aq и А| и ограничение отображения / на компоненты А С/~^(А), г =0, 1, множества /~^(А) есть гиперболическое аффинное отображение, сжимающее в вертикальном направлении и растягивающее в горизонтальном направлении. Это означает, что множества ^ и А являются «вертикальными» прямоугольниками. Один из самых простых способов достичь такого эффекта состоит в том, чтобы согнуть А в «подкову», или, если угодно, придать ему форму постоянного магнита (рис. 2.5.2), хотя при этом возникают некоторые неудобства, связанные с ориентацией. Другой способ, свободный от трудностей с ориентацией, состоит в том, чтобы согнуть А в форму латинской буквы «G» (рис. 2.5.3). Пусть Л — максимальное инвариантное подмножество А. Очевидно, Л = Pi /"(А), но неясно, содержится ли Л во внутренности А. Мы рассмо- п — ~со Трим А* И А как «куски», определенные в конструкции кодирования, и начнем с положительных итераций. Пересечение AП/(A)n/^(A) состоит из
§ 2.5. КОДИРОВАНИЕ, ПОДКОВЫ И МАРКОВСКИЕ РАЗБИЕНИЯ 95 .цЩ j-Л^Л"'. ^^l.'u_yt.V''''-'-jrf-"--^x.-.l.^'^ "-Vr--' Л|И^1гУ rj^—.J--,- .^-, ^//А- -, - ..г.: . - .- ^.— /: J-^^ - //^ - . ..' ...... ....... 1 , , :,. ||< i_^h ^u№^^^кйV4чк«^ч -' — - V -- ■ ч г 1^ /=(А) L^-—-^'_- ■-.,^ -> ^ji^J«rtftfl».«^>^y'f*':'^:>4V'^!44^ftr^-ift*>fl™ ''^-VirKK^'^^V^ "" U M:^-:i""i-":.—"»Wrr:-\"^'rfi">'?«f«"^i ■*«{j:-^->f-s-.'^x-^ ■; /(A) *j*b-*„-ii,*:*tPie»,rt4TA.**v,-i^-^ ..v*i.:/.'Jii i- -^ if -r.i.t -*'>j-i'--i:^^vl'Pri^%(rt:i-j-^.^:,s,^j^v;irt Ч' .-. '-- . -'- ■ -^ -■ s ' -. Рис. 2.5.2. Подкова четырех тонких горизонтальных прямоугольников: А^у = А^П/(Ау) = /(А')П П/^(А?'), г, J G{0, 1} (см. рис.2.5.2). Продолжая рассуждения по индукции, п мы ВИДИМ, что П /'(^) состоит из 2" тонких непересекающихся горизон- 1=0 тальных прямоугольников, высоты которых убывают экспоненциально с ро- п стом п. Каждый такой прямоугольник имеет вид П /Ч^')* ^Д^ Ч ^ {О» 1}, г = 1,.. .п, и мы обозначим его А^ ^ . Каждое бесконечное пересечение оо П /"(А*^"), ш^ €{0, 1}, является горизонтальным отрезком, и пересечение п=1 оо П /"(А) есть произведение горизонтального отрезка на канторово множе- п=1 ство в вертикальном направлении. Точно так же можно определить и иссле- п довать вертикальные прямоугольники А'^"*''^-" = П /"*(А'^-'), вертикальные г=0 Рис. 2.5.3. Другой вариант подковы
96 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ оо оо отрезки fl /""(А*^-") и множество П /~"(Д). которое представляет собой произведение отрезка в вертикальном направлении на канторово множество в горизонтальном направлении. В заключение отметим, что требуемое оо инвариантное множество Л = Q /"(А) представляет собой произведение п = —оо двух канторовых множеств, следовательно, оно само является канторовым множеством и отображение оо h:Q,^A, h{{uj})= n /-"(А""), (2.5.4) n=—оо является гомеоморфизмом, сопрягающим сдвиг Og с ограничением диффеоморфизма / на множество Л. Заметим, что инвариантное множество Л принадлежит внутренности прямоугольника А. Так как периодические точки и топологическое перемешивание — инварианты топологического сопряжения, применение предложения 1.9.1 немедленно дает существенную информацию относительно поведения отображения / на Л. Следствие 2.5.1. Периодические точки/ плотны в А, Р„(/|д) = 2", и ограничение f на множество А является топологическим перемеиси- ванием. Конечно, конструкция нашей «подковы» может изменяться и обобщаться несколькими способами. Во-первых, вместо одного прямоугольника А, образ которого пересекает его дважды, можно начать с совокупности непересекающихся прямоугольников А<^\...,А^* с параллельными сторонами, которые мы будем вызывать «вертикальными» и «горизонтальными», и отображать их таким образом, что каждая компонента связности /~^{^^'^)ПМ^^ будет «вертикальным» прямоугольником в А'*, аффинно отображаемым на «горизонтальный» прямоугольник А^^ Должны выполняться три следующих важных условия. Вышеупомянутая компонента связности должна иметь максимальную возможную «высоту», образ должен иметь максимально возможную «длину», и все компоненты должны сжиматься в вертикальном направлении и растягиваться в горизонтальном. Почти очевидно, что дей- N ствие / на максимальное инвариантное подмножество Л множества |J А** топологически сопряжено с топологической цепью Маркова (см. определение 1.9.3), состояния которой идентифицируются с компонентами связности /~\^^^)пМ^^ и матрица переходов которой А имеет единицы в точности на тех местах, где образ компоненты, соответствующей данной строке, пересекает компоненту, соответствующую данному столбцу. Во-вторых, можно рассмотреть многомерную «подкову», где прямоугольники (т. е. произведения отрезков) заменяются произведениями «хороших» подмножеств многомерных пространств. Наконец, строгая линейность отображений на компонентах пересечения не является необходимой. Например, любое С^-малое возмущение отображения, описанного выше, по-прежнему дает инвариантное множество, на котором оно топологически эквивалентно топологической цепи Маркова — это специальный случай теоремы 18.2.1 (о структурной устойчивости). Более общие достаточные условия существования нелинейной «подковы» будут установлены в § 6.5 (см. определение 6.5.2 и теорему 6.5.5). Глубокий пример применения нелинейных подков в общей структурной теории гладких динамических систем — теорема Д.5.9 из добавления и ее следствия.
§ 2.5. КОДИРОВАНИЕ, ПОДКОВЫ И МАРКОВСКИЕ РАЗБИЕНИЯ 97 2.5 г. Кодирование автоморфизма тора. Здесь мы покажем, как идея кодирования может быть применена естественным образом к гиперболическому автоморфизму тора. Чтобы упростить обозначения и придать конструкции более наглядный характер, мы будем рассматривать конкретное отображение jFJ^ двумерного тора из § 1.8: -^^(з:, у) = (2х + у, х-\-у) (mod 1). а Продолжим два собственных направления этого отображения в начале координат, до тех пор пока они не пересекутся достаточно много раз и не разобьют наш тор на непересекающиеся прямоугольники. Хотя данное условие содержит неоднозначность, прямая проверка показывает, что этого можно добиться, продолжая отрезок, соответствующий направлению сжатия, в четвертом квадранте, до тех пор пока он не пересе- с чет отрезок, соответствующий направлению растяжения, дважды в первом квадранте и один раз в третьем квадранте (см. рис. 2.5.4). Возникающая в результате конфигурация представляет собой разбиение тора на два прямоугольника R^^^ и R^'^K Три пары среди семи вершин этой конфигурации на плоскости отождествляются, так что имеется только четыре различных точки на торе, служащих вершинами прямоугольников. Это соответствует нашему описанию: данные вершины — в точности начало координат и три точки пересечения наших отрезков. Хотя R^^^ и R^'^^ пересекаются, попробуем применить конструкцию обобщенной подковы, описанную выше, используя R^^^ и R^^^ в качестве базовых прямоугольников. Конечно, направления растяжения и сжатия будут играть роль «горизонтальных* и «вертикальных» направлений соответственно. Легко видеть, даже без явного вычисления, что образ F{R^^^) (i = 1,2) состоит из нескольких «горизонтальных» прямоугольников полной длины. Объединение границ dR^^^ U ^72<^*^состоит из только что описанных отрезков двух собственных направлений в начале координат. Образ сжимающегося отрезка является его частью. Таким образом, образы R^^^ и 72<2* должны быть «закреплены» на их «вертикальных» сторонах, т. е. как только один из образов «войдет» в одно из множеств R^^' или R^'^\ он должен пересечь его целиком. Явное вычисление показывает, что F{R^^^) состоит из трех компонент, две из которых лежат в R^^^ и одна — в R^'^K Образ 72<^* имеет две компоненты, по одной в каждом прямоугольнике (см. рис. 2.5.5). Рис. 2.5.4. Разбиение тора
98 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ Рис. 2.5.5. Образ разбиения Мы можем использовать эти пять компонент Aq, Ар Ag, A3, А4 (или их прообразы) как «куски» в нашей конструкции кодирования. Благодаря сжатию F в «вертикальном* направлении и сжатию F~^ в «горизонтальном* направлении каждое пересечение (2.5.1) содержит не более чем одну точку. С другой стороны, за счет «марковости*, описанной выше, т. е. того факта, что образы проходят весь путь через наши прямоугольники, имеет место следующее утверждение: если ш € Ос и F{A^ ) П А^ ф0 дяя всех целых u€Z, то П -F"(Ay )ф0. Другими словами, мы имеем такое кодирование, neZ Т. е. полусопряжение h: Q^—^Т^, где А 1 1 1 0 0 1 1 1 0 0 0 0 0 1 1 1 1 1 0 0 о ^ о 1 1/ (2.5.5) что F о h = h о а А- (2.5.6) Попробуем описать отождествление, возникающее в результате этого полусопряжения, т. е. увидеть, какие точки тора имеют более одного прообраза. Во-первых, очевидно, что топологическая цепь Маркова а^ имеет три неподвижные точки, а именно постоянные последовательности нулей, единиц и четверок, в то время как автоморфизм тора F имеет только одну неподвижную точку — начало координат. Легко видеть, что все три неподвиж-
§ 2.6. УСТОЙЧИВОСТЬ ГИПЕРБОЛИЧЕСКИХ АВТОМОРФИЗМОВ ТОРА 99 ные точки на самом деле кодируют начало координат. Это объясняет различие при вычислении числа периодических точек: i^(-P) = А"+А['"—2 согласно предложению 1.8.1, в то время как P„(c7^) = tr Л" = A" + Ap = P^(F) + 2 по предложению 1.9.1, где Aj =(3+^/5)/2 —наибольшее общее собственное значение (2 х 2)-матрицы / , , J и (5 х 5)-матрицы (2.5.5). Кроме того, легко видеть, что каждая точка д€Т^, положительные и отрицательные итерации которой не попадают на границы dR^^^ и dR^\ имеет единственное кодирование, и наоборот. Множество точек из Q^, образы которых принадлежат границам либо их итерациям под действием F, распадается на три класса, соответствующих трем отрезкам устойчивого и неустойчивого многообразий в нуле, которые задают разбиение границы. Таким образом, последовательности отождествляются в следующих случаях; если они имеют постоянный бесконечный правый «хвост», состоящий из нулей или четверок, и совпадают в остальном, а также если они имеют бесконечный левый «хвост», состоящий из нулей и единиц или из четверок, и совпадают в остальном. Подведем итог нашему изучению свойств данного кодирования. Следствие 2.5.2. Полусопряжение (7^^ с F взаимно однозначно на всех периодических точках, за исключением неподвижных точек. Число прообразов любой точки, не стремящейся под действием отрицательных итераций к неподвижной точке, ограничено. Упражнения 2.5.1. Докажите, что для Л ^ 1 каждая ограниченная орбита квадратичного отображения /д находится в отрезке [О, 1]. 2.5.2. Докажите следствие 2.5.2 с некоторой 0,1-матрицей А для произвольного автоморфизма тора ^}^:Т^-*Т^, x^Lx (mod 1), где L —целочисленная (2 х 2)-матрица с определителем +1 или -1нс вещественными собственными значениями, отличными от ±1. 2.5.3. Постройте марковское разбиение и опишите соответствующую топологическую цепь Маркова для автоморфизма i^, где L = ( „ j 2.5.4. Для данной О, 1-(п х п)-матрицы А опишите такую систему п прямоугольников п А.,..., А в R^ н такое отображение /; А:= (J А^. -^Ж^, что ограничение / на множе- ство точек, все итерации которых остаются внутри А, является топологически эквивалентным топологической цепи Маркова <т^. § 2.6. Устойчивость гиперболических автоморфизмов тора В конце § 2.4 мы показали, что отображение, осуществляющее полусопряжение монотонного отображения окружности степени к, | А; | ^ 2, с линейным растягивающим отображением Ej,, может быть найдено как неподвижная точка некоторого сжимающего оператора в пространстве непрерывных функций. Теперь мы хотим использовать подобный метод для случая тора.
100 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ F Теорема 2.6.1. Любой гиперболический линейный автоморфизм F^ двумерного тора является фактором произвольного гомеоморфизма д, принадлежащего тому же гомотопическому классу. Полусопряжение определяется единственным образом и гомотопно тождественному отображению. Если гомеоморфизм д является С^-близким к i^, то полусопряжение близко к тождественному отображению в С^-топологии. Доказательство. Пусть д: Т^ —* Т^ — гомеоморфизм, гомотопный F^. Мы собираемся доказать существование такого непрерывного отображения h: Т^—*Т^, гомотопного томадественному (и, следовательно, сюръек- тивного, так как его степень отлична от нуля, см. § 8.2), что ho д = F^ о hj или h = F£'^ о h о д, (2.6.1) Введем следующий удобный способ записи наших уравнений. Любое отображение тора в себя может быть поднято на универсальное накрытие W\ кроме того, отображение S: Е^ ^ Е^ является поднятием отображения тора Т^ тогда и только тогда, когда существует такой эндоморфизм А: 1} -*Z^, что 5(x+Tn)=5x+Am дяя любых хбЕ^, meZ^. В частности, легко видеть, что дяя поднятия отображения, гомотопного тождественному, А =Id, т. е. S —Id — дважды периодическое отображение. Поднятие Fj^ — гиперболическое линейное отображение L; обозначим поднятие д через L -\-^, где д"—дважды периодическое отображение, т. е. р^(х + тп) = ^{х), m € Z^, и поднятие h —через Id +/i с дважды периодическим h. Второе уравнение в (2.6.1) эквивалентно уравнению Id+/i=X-^o(Id+/i)o(-L +р^ или h = L~^g-\^L~^oho{L +Ю- (2.6.2) В отличие от (2.4.9), правая часть (2.6.2) не может рассматриваться как сжимающий оператор, действующий на /i. Однако решение (2.6.2) может быть сведено к нахождению неподвижных точек сжимающих операторов, если использовать разложение Е^ в собственные пространства матрицы L. Пусть Cj и 62 —собственные векторы^Ь, Lei = Aiei, Хе2 = А2е2, |Ai|= |А^^|> > 1. Разложим векторные функции hi^g следующим образом: h = e^h^ + e^h^, д = е^д^ + е^д^. (2.6.3) Тогда (2.6.2) эквивалентно двум уравнениям, в которые входят неизвестные скалярные дважды периодические непрерывные функции h^ и h^'. ^=Ar'5i + Ar'^o(L+5), (2.6.4) h^ = X^'g^ + Xi'h^o{L+g). (2.6.5) Обозначим правую часть (2.6.4) через Ty{h^) и рассмотрим Ту как оператор на пространстве дважды периодических непрерывных функций на Е^ с равномерной топологией. Легко видеть, что отображение Ту является сжимающим: Ty{h)-Ty{h')\\ = \\','\s\x^\h{Lx-^g(x))'-h'{Lx + g{x))\^ < |Af4 sup \h{y) ~ h'{y)\ = \X^~^\\h - h' ует^
§ 2.6. УСТОЙЧИВОСТЬ ГИПЕРБ0ЛР1ЧЕСКИХ АВТОМОРФИЗМОВ ТОРА 101 Таким образом, по принципу сжатых отображений (предложение 1.1.2) отображение Ту имеет единственную неподвижную точку h^^, норма которой может быть оценена путем итерирования нулевого отображения: Ml ^Е ll^"(Q)-^(Q)ll = 1 - |А I-' ll^'(Q>ll = po^llg' n=0 I Уравнение (2.6.5) следует переписать в несколько ином виде, чтобы представить его как уравнение на неподвижную точку для некоторого сжимающего отображения. Используя то обстоятельство, что д и, следователь- но, L +5'являются гомеоморфизмами, мы обратим последнее отображение и обозначим обратное к нему отображение через 5. Тогда (2.6.5) примет вид h^ = A2/I2 oS -920 3 = : Tzih^). (2.6.6) Такое же вычисление, как выше, показывает, что ^2 является сжимающим оператором, неподвижная точка h^ которого удовлетворяет оценке IIMI^y А, Подставляя решения (2.6.4) и (2.6.6) в (2.6.3) и проецируя отображение Id+/i на тор, получаем решение уравнения (2.6.1), которое, как легко видеть, является единственным среди непрерывных отображений R^, гомотопным тождественному. D Если д — малое возмущение F^ в С"-топологии, то в нашем доказательстве можно поменять ролями F^ и д. Предложение 2.6.2. Любое С -отображение д^ достаточно близкое к F^ в С ^ -топологии, является фактором F^. Доказательство. Мы должны решить уравнение goh = hoF^. (2.6.7) Используя те же обозначения, что и в доказательстве теоремы 2.6.1, перепишем (2.6.7) как C(h) = go{ld-hh), (2,6,8) где C(h):= ho L — L oh. Оператор С линеен на пространстве всех непрерывных дважды периодических отображений Е^ на себя. На самом деле С имеет ограниченный обратный оператор: используя (2.6.3), можно представить £ как где C^{hy) = h^ о L — Aj/ij, А(^) = ^2 0 L —A2/12 и оба оператора Су и £2 могут быть обращены явно: оо оо п=0 п=0
102 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ. КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ Заметим, что уравнение (2.6.8) эквивалентно уравнению дяя нахождения неподвижной точки /1 = (£-'Г)/1, Поскольку \\r{h)-rih' sup \д{х + h{x)) - д{х + h'(x))\ < сек» < \\Dg\\ sup \h{x)-h'{x)\ Dg\\-\\h-h f -I МЫ имеем \\С~Щ < \\Dg\\ • \\C'^ Второй множитель зависит только от L, поэтому если ||1)§]| < ||£ С~^Т — сжимающий оператор, имеющий согласно принципу сжатых отображений единственную неподвижную точку h. П , то Уравнение (2.6.7) можно переписать как h=g ^ о hoF^. (2.6.9) Если h' ■■ решение получим = Fr^ о Ы о д — решение уравнения (2,6.1) и h" = д~^ о h" о F^ — (2,6.9), то, взяв композицию обеих частей нашего уравнения, мы h'oh" = F£-^oh'oh"oF^. Поэтому отображение h'oh" коммутирует с i^; оно также близко к тождественному. Позднее (см. предложение 3.2.15) мы увидим, что единственное такое отображение — тождественное. Таким образом, мы получаем следующий результат. Теорема 2.6.3. Любой гиперболический линейный автоморфизм двумерного тора С^-сильно структурно устойчив. Упражнения 2.6.1. Покажите, что доказательство С -структурной устойчивости гиперболических линейных автоморфизмов двумерного тора может быть проведено для любого гиперболического линейного автоморфизма тп-мерного тора, тп ^ 2. 2.6.2. Докажите следующую полулокальную версию С ^-структурной устойчивости для отображения «подковы» /: А—^R^, описанного в § 2.5: пусть д: А—^IR^ —любое отображение, достаточно близкое к / в С^-топологии. Тогда существует такое инъективное непрерыв- -^ А, что 9oh=hof. Естественно, в этом случае Л := Лр(Л) — замкнутое 5-инвариантное множество и g\j^ топологически сопряжено с бернуллиевским сдви- ное отображение h = h : А гом Ф
сходящихся ИТЕРАЦИЙ ДЛЯ ЗАДАЧИ СОПРЯЖЕНИЯ § 2.7. Метод быстро сходящихся итераций (метод Ньютона) для задачи сопряжения 2.7 а. Методы нахождения сопрягающих отображений. Уже несколько раз мы находили решения уравнения сопряженности f = hogoh~^ (2.7.1) данных преобразований f и д в локальном, полулокальном и глобальном случаях. До сих пор мы использовали следующие методы. 1. Метод фундаментальной области, используемый в § 2.1 для доказательства структурной устойчивости отображений отрезка с притягивающей и отталкивающей точками на концах, а также для описания модулей гладкого сопряжения. См. также упражнения 2.1.1, 2.1.3 (пункт второй), 2.3.3 и 2.3.4. Этот метод применим к некоторым системам с сильно оиссипативным поведением, т. е. к системам, дяя которых большинство орбит не возвращаются и можно найти хорошие фундаментальные области действия. Метод имеет приложения и в многомерных ситуациях, например при доказательстве теоремы Хартмана — Гробмана 6.3.1 и в методе клина Стернберга, который мы используем в п. 6.6 г, чтобы получить новое доказательство теоремы 6.6.6. Однако этот метод не может использоваться для систем с нетривиальным возвращением (см. обсуждение в конце § 3.3). 2. Метод мажорант, который использовался дяя решения задачи локальной линеаризации в п. 2.1 б. Напомним, что мы сначала построили формальные решения (2.1.1), т. е. определили формальный степенной ряд, представляющий преобразование h в нуле. Затем мы доказали сходимость этого ряда и, таким образом, показали, что аналитическая функция, определяемая этим рядом, является решением уравнения сопряженности. Этот метод в существенной мере опирается на локальный характер задачи. 3. Метод кодирования, который мы впервые использовали в доказательстве топологической сопряженности произвольного растягивающего отображения окружности с линейным отображением той же степени (теорема 2.4.6). Мы применяли этот метод еще три раза: в полулокальной ситуации в пп, 2.5 б, 2.5 в, при построении топологического сопряжения полного 2-сдвига с квадратичным отображением и отображением «подковы» на их инвариантных подмножествах и, наконец, в п. 2.5 г когда мы установили наличие полусопряженности топологической цепи Маркова с автоморфизмом тора. Этот метод очень эффективен в применениях к глобальным и полулокальным гиперболическим проблемам, т. е. к случаям, когда близлежащие орбиты расходятся с экспоненциальной скоростью, как это имеет место в упомянутых примерах (см. гл. 6, особенно определения 6.4.1 и 6.4.2). Одна из главных особенностей этого метода — его непосредственный характер. В частности, он не требует рассмотрения вспомогательного пространства «кандидатов» в сопряжения. С другой стороны, этот метод применим только к проблеме топологической (но не гладкой) сопряженности и полусопряженности. Метод особенно эффективен в ситуации малых размерностей, где он нередко работает без предположений гиперболичности (см. §§ 14.5, 14.6, 15.4). 4. Метод сжимающих отображений, использовался во втором доказательстве сопряженности растягивающих отображений окружности (п. 2.4 в) и в доказательствах глобальных вариантов топологической
104 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ устойчивости (теорема 2.6Л) и структурной устойчивости (теорема 2.6.3) для гиперболических автоморфизмов двумерных торов. При этом подходе надлежит переписать уравнение сопряженности как уравнение на неподвижную точку с неизвестным сопрягающим отображением h = f~^ о h о д^ рассматривая оператор Ch = f~^ о h о д^ и ц действующий на соответствующем пространстве преобразовании. Если преобразование / необратимо, мы можем рассмотреть такой оператор, используя трюк с ветвями /~' (см. (2.4.10)). Затем следует показать, что оператор С унаследует гиперболичность отображения / что позволяет нам построить из С сжимающее отображение, неподвижные точки которого удовлетворяют уравнению сопряжения. Этот метод представляет собой бесконечномерный аналог конструкции, используемой в доказательстве предложения 1.1.4. Мы будем неоднократно использовать его в гиперболических ситуациях (гл. 6 и 18). Отличительная особенность и сила этого метода состоит в том, что он применим в ситуациях, когда f и д не обязательно близки друг к другу. Однако гиперболическое поведение С может быть установлено только для достаточно грубой топологии, типа С° или гёльдеровой, и, следовательно, этот метод также обычно дает нам лишь топологическое сопряжение. 2.7 б. Задание итеративного процесса. Теперь мы опишем еще один метод, который также использует некоторый оператор в функциональном пространстве. Этот метод обычно называют «методом Ньютона». Действительно, он может рассматриваться как далеко идущее обобщение элементарного метода Ньютона нахождения нулей функций. Этот метод также часто называют методом КАМ в честь Колмогорова, Арнольда и Мозера. Он состоит в сведении уравнения сопряженности к проблеме нахождения неявно заданной функции, а не к задаче о неподвижной точке, как в методе сжимающих отображений. В отличие от последнего, метод Ньютона можно использовать дяя нахождения гладких и аналитических сопряженностей, а также для решения многих негиперболических проблем. Однако этот метод применим лишь к задачам возмущения, т. е. к ситуациям, когда /яд близки друг к другу. Рассмотрим следующий оператор, зависящий от двух (функциональных) переменных f и h: и запишем уравнение сопряженности в виде Главная особенность этого оператора — следующее «групповое св< П/ <роф) = ЛЛ/, ^), ф), та Id) = /. (2.7.2) Как и в элементарном методе Ньютона, мы хотим линеаризовать этот оператор, и, следовательно, мы должны считать, что существует линейная структура в окрестности (^, Id) в функциональном пространстве и что / близко к д. Тогда можно линеаризовать Т в соответствующей окрестности. Обозначим через D^T и Dg-^ частные производные по f и h соответственно и будем искать «приближенное решение» h = ld +w уравнения сопряжения, линеаризованного в (^, Id). Таким образом, мы можем написать JP(/, h) = Т(д, Id) + D,T(g, Id)(/ - 3) + Д^5. Id)(/i - Id) + 7г(/, h), и
§ 2.7. МЕТОД БЫСТГО СХОДЯЩИХСЯ ИТЕРАЦИЙ ДЛЯ ЗАДАЧИ СОПРЯЖЕНИЯ 105 где 7^(/, h) — величина второго порядка по отношению к (f ~ д, h — Ы). Другими словами, если h является решением линеаризованного уравнения (получаемого отбрасыванием 1Z), то w=h — ld — решение следуюш;его уравнения: J'ig, Id) + D.J'ig, Id)(/ - 5) + D.J'ig, ld)w = g, (2.7.3) Заметим, что D^T{g^ Id) = Id, поскольку !F{-^ Id) = Id(-) согласно (2.7.2). Таким образом, (2.7.3) сводится к уравнению (/-5) + АЛ5,И)^=а (2.7.4) Полагая и= f — д и допуская, что i^2-^(5i ^^) обратимо, находим решение последнего уравнения В этом случае w имеет тот же порядок, что и и, и, подставляя h = ld +w в J^{f, h), мы получаем функцию fi = h~^ of о h=T{f, h) = д-^Щ/, h), так что функция щ=/у~д должна, по всей вероятности, иметь второй порядок по сравнению с и = f — д. Чтобы обосновать это утверждение, мы должны оценить разность между оператором !Р и его линеаризацией вблизи {д. Id). Таким образом, метод сводится к рассмотрению следующего итерационного процесса. Полагая, что /р • •., Л У^^ определены, мы решаем уравнение и полагаем K^, = Ko{U+w,^,) и ^^,=(Id+^„^,)-'o^o(Id+^J. Последний шаг конструкции — доказательство сходимости последовательности h^ в соответствующей топологии. Оно вытекает из тех же самых оценок, которые обеспечивают быстрое убывание нормы Д — д. Обратим внимание на то, что на ка?кдом шаге итеративного процесса мы обращаем линейную часть в точке (^, Id), а не в некоторой промежуточной точке, как в элементарном методе Ньютона. Именно благодаря этому данный метод может применяться в не гиперболических ситуациях. Упражнения 2.7.1. Задайте итерационные процессы, подобные описанному в этом параграфе, для решения функциональных уравнений f oh — д или hof — g относительно неизвестного преобразования Л, где / и д — такие известные отображения пространства X на пространство Y, что эти процессы включают обращение линеаризованного оператора только в (д^ Id). 2.7.2, Используя предыдущее упражнение, выведите формулу оо п=0 где I — единичная матрица н А — матрица, норма которой не превосходит единицы,
106 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ § 2.8. Теорема Пуанкаре — Зигеля Как упоминалось в п. 2.1 б, мы собираемся использовать метод Ньютона, чтобы дать другое доказательство локально аналитической сопряженности аналитических сжимающих отображений на прямой и их линейных частей (утверждение 2.1.3). Почти то же самое доказательство можно провести для другой задачи, которая аналитически выглядит очень похоже, но с динамической точки зрения совсем иная. Сопряжение, построенное в (2.1.1), применимо к отображению /, продолженному на комплексную окрестность нуля, так как и /, и сопряжение определяются степенным рядом (см упражнение 2.1.7). Кроме того, нет необходимости предполагать, что отображение / сохраняет действительную прямую, т. е. что коэффициенты ряда Тейлора, включая первый член А, вещественны. Единственное предположение, которое мы должны сделать относительно А, состоит в том, что числа |1 — А"| равномерно отделены от нуля для всех п. Это эквивалентно тому, что |А|7^ 1, и такая ситуация называется случаем Пуанкаре. Однако мы можем также рассмотреть такое голоморфное отображение f: и ~^С окрестности нуля, что /(0) = 0 и |/'(0)| = 1. Линеаризованное отображение Az:= Xz представляет собой поворот вокруг начала координат на угол argA. Если этот угол — рациональное число, кратное 27Г, то данное линейное отображение периодично, хотя обычно это не имеет места для /, например, квадратичное отображение z t-*^ ехр 27tip/qz-\-az^ не периодично. Предположим, однако, что (l/27r)argA не только иррационально, но также плохо аппроксимируется рациональными числами. (См. определение 2.8.1.) Этот случай называется случаем Зигеля. В такой ситуации метод Ньютона позволяет нам построить голоморфное сопряжение / с Л в определенной окрестности нуля. Поскольку всякая окружность \z\ = const инвариантна относительно Л, ее образ инвариантен относительно /. Таким образом, сопряжение определяется на инвариантном диске, и его существование в случае Зигеля — не просто локальный, но полу локальный факт. Определение 2.8.1. Число а называется (с, £^)-^мофая/повы>1, если для любых ненулевых чисел р, g € Z выполнено неравенство \дси—р\> сд''^. Число а называется диофантовым, если существуют такие числа с > О, d > \, что а является (с, ^)-диофантовым. Теорема 2.8.2 (теорема Пуанкаре — Зигеля). Пусть f{z) = Az + QQ + X] Д2" —голоморфное в окрестности нуля отображение, |А | т^ 1 либо п = 2 А =6^"^ для некоторого диофантова числа а. Тогда существуют такое оо число 5 > о м такое голоморфное отображение h{z) = z+ ^ h^z""^ что п = 2 h'^ofoh=A, \z\< 6, (2.8.1) где A{z) = Xz. Замечание. Метод мажорант из п. 2.1 б также может быть применен в случае Зигеля ['], но оценки будут существенно более громоздкими, чем в случае Пуанкаре. Кроме того, метод не будет работать в некоторых других ситуациях, в которых метод Ньютона вполне пригоден.
§ 2.8. ТЕОРЕМА ПУАНКАРЕ — ЗИГЕЛЯ 107 Доказательство. Чтобы получить оценки, необходимые для применения метода Ньютона, мы используем тот факт, что для аналитических функций С°-оценки и оценки на коэффициенты Тейлора эквивалентны в следующем смысле. Имея С°-оценку на диске, по интегральной формуле Коши получаем оценки на производные в меньшем диске, а они, в свою очередь, дают С°-оценку на меньшем диске. Лемма 2.8.3. 1. Предположим, что функция (^ = X] ip^z'' анали- тична в шаре В^ := {z \ \z\ <г} и непрерывна в В^ и\^\<е на В^. Тогда оо 2. Предположим, что \(pf^\<Kr~'' для к €N. Тогда функция <р = '^ ^Pf,z^ аналитична в В^ и |^| ^Kr/S на B^_s. *==о Доказательство. Первое утверждение леммы следует из равенства <Pk 2 dz С 2 ^к+\ dz < е/г^. Z =Г Z =Г Для доказательства второго утверждения заметим, что \<p{z) оо к=0 < Подчеркнем, что из ограничения на А следует диофантово условие \Х'-1\^ Я -d <^ А (2.8.2) дяя некоторых Ср, ti €N. Это совершенно очевидно в гиперболическом случае, когда ]А| 7^ 1, и, следовательно, |А^ — 1| ограничено снизу. Таким образом, в этом случае можно брать сколь угодно малое d, меняя соответствующим образом Ср. Если А = е^"^, где число а такое же, как в определении 2.8.1, выберем p€Z, ближайшее к да. Тогда имеем А^-1 g2irt?a _ g27rtp g27ri(ga-p)_i >с'ga-p| ^c'cg-'', где число d такое же, как в определении 2.8.1, что доказывает (2.8.2). Теперь обратим оператор D2^{9, Id). Сначала заметим, что, систематиче ски отбрасывая члены высших порядков по t, мы получаем Д:?^(Л, ld)w = lim J {Т(К, Ы-^tw) - Т{К, Id)) = = lim| r(Id+i^/;)-'oAo(Id + to)-A) = = lim \ {{\d-tw)oKo{U^tw)-K) = = lim J (iAow ~ twoA) =Ao w — w oA Таким образом, чтобы решить (2.7.4), мы должны решить уравнение и W о А — Ао W (2.8.3)
108 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ оо оо относительно w при данном и= J2 fk^^- Записывая г/; = ^ ^^-г*", получаем *=-2 к = 2 ОО оо оо ;£3 Д2* = и = г/;оЛ-Лог/;= ^(г/;^^А*=-Аг/;^2*== X;('^*^-'^)^fc2^ (2-8.4) fc = 2 fc=2 fc = 2 так что степенной ряд для w должен иметь коэффициенты А*-А «'^ = тг^ (2-8.5) для А; ^ 2. Теперь покажем, что этот ряд сходится в В^, если ряд для и сходится, и заодно получим полезную оценку. оо Лемма 2.8.4. Пусть <р = J2 ^к^^ —аналитическая функция в В^, к=0 <р\< S в Вр и X —такое же число, как в (2.8.2). Тогда функция оо fc=2 <рк ^к аналитична в В^ и существует такое число c{d) > О, что в замыкании -5^(1_д). Доказательство. Сходимость ряда, определяющего ф, следует из неравенства Коши, оценок |^^| < 8р~'' и (2.8.2), поскольку оо Заметим, что J2 ^'^^^ — линейная комбинация производных функции оо л к=0 V z*' = ^j порядков не выше d с полиномиальными коэффициентами и при |z| < 1 мы имеем Y1 ^'^^^ ^ _}d + \ ^^ некоторого c{d) > 0. Таким к=0 образом, в -5^(1_д) получим (1-х)^ + ' ОО оо fc=2 fc=2 В частности, оператор D2^(Aj Id) в самом деле обратим. Теперь начнем наши итерации. Напомним, что функция и = / — Л становится малой второго порядка в нуле, поскольку Л — линейная часть /. Следовательно, мы можем выбрать г так, что и'\<€ В В^, (2.8.6) где £ будет определено позже.
§ 2.8. ТЕОРЕМА ПУАНКАРЕ — ЗИГЕЛЯ 109 Мы также полагаем, что |А| < 1, что не является ограничением в случае Зигеля, а в случае Пуанкаре может быть достигнуто рассмотрением отображения, обратного к /, вместо /. Применяя лемму 2.8.4 киср = ги6 = £р (так как \и'\ < е в В^), получим \w{z)\ < €рс^с{(1)^^'^^^^ для |2:|<р(1 —А). Поэтому для |2;| = /?(1 — А) мы имеем Последнее выражение не зависит от р, так что W в В г(1-Д) (2.8.7) То же рассуждение, применяемое к zu'{z), дает \w'\<e^^A-<'^') в В г(1-Д) (2.8.8) Следующие две леммы показывают, что новое отображение /i =/i-' o/o/i, где h=ld-hw, определено в -В^и_4Д)) ^сли с самого начала число е выбрано достаточно малым. Лемма 2.8.5. Если ecoc(d)<A'+2(i_A) и 0<А<|, (2.8.9) то ЦВг{1-АА))^^г{[-ЗА) И -^г(1-2Д)^ Н^г(1-А))- (2.8.10) Доказательство. Чтобы доказать первое включение в (2.8.10), возьмем \z < г(1 — 4А) и, используя (2.8.7), получим \h{z)\ < \z\ + \w{z)\ < r{\ -4A+ ^й£(^А-(^^')) < <r(l-4A+A) = r(l-3A). Чтобы установить второе включение в (2.8.10), заметим, что \h{z) - z w{z)\ < г А согласно (2.8.7) и (2.8.9), тогда как дяя \z\ = г(1 - А) мы, очевидным образом, получаем \z\-r{l—2A) = rA>\w(z)\. Поэтому |/i(2;)| = z-{h{z)~z)\^\z\-\w(z)\>r(\-2A). Так как /i(0)=0, наше утверждение доказано. D Теперь докажем, что fy = h-^of oh определено в Б^^ .^д), и установим квадратичную оценку для нелинейной части. Положим /. =А+щ. Лемма 2.8.6. Если есос(£^)<А' + 2(1_Д) и 0<е<А<^, (2.8.11)
по Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ то /i определено в -В^/1_4Д) м и\ Се ^<^c.{d) 4(1-А)А'' + 2 8 В.,_ (1-5Д) Доказательство. По лемме 2.8.5 мы имеем /^(-Б^л_4Д)) С В^^^у_зд^. Поскольку |А| < 1, из (2.8.6) следует, что \f{z)\^r{\ -ЗА)-|-ге:< г(1-2А) в -В^(1_зд)- Так как -S^(i_2A) С /i(-S^(i_a)) по лемме 2.8.5, то /i"' определено в ■Sr(i-2A)J следовательно, /j = /г"' о/о /i определено в -В^(1_4Д)- Чтобы оценить и[, перепишем уравнение ho f^ =f oh в виде Xz-\-Uy{z)-\- w{Xz-\-Uy{z)) = X{z + w;(2;)) + u{h{z)) или, используя (2.8.3), в виде Uy(z) = w{Xz) — w{Xz-\-Uy{z))-\- u{h{z)) — u{z). (2.8.12) Теперь no теореме о среднем значении и (2.8.8), используя (2.8.11), получаем w{Xz) — w{Xz + Wi(2;))| < sup \w'\ sup \щ I ^ Ce ^AH^-OsupK|<^ и Таким образом, из условий (2.8.7) и (2.8.12) следует, что 4 5 sup и I < \u{h(z)) — u{z)\ < sup и t w в -В^(1_4Д). Итак, из первого пункта леммы 2.8.3 вытекает, что и t ^^ 4(1-А)^ Теперь мы будем применять эти оценки индуктивно. Если Д определяется из (2.8.15), и^=/,-Аи и п <£п в Я, ТО и ■п+1 Се 5c^c{d) M(l-AJA^„+2 n ^n+I ^ "^I Д^ + 2 'n Если мы положим r„ = r(l +2"")/2 > r/2 и в Д n + i (2.8.13) Д 1 n 10(2'*+1)' TO r. (2.8.14) n+I r^(l -5A„). Чтобы показать, что e„ —>0, заметим, что из (2.8.13) и (2.8.14) следует, что е^ + 1 10^ + 2^,е;(2'^ +I)''+ Ч Сз^+'е^ для некоторого С2 > О, так что числа е^ := с^е^ удовлетворяют уравнению п+1 ^ п
§ 2.9. КОЦИКЛЫ И К0Г0М0Л0ГР1ЧЕСКИЕ УРАВНЕНИЯ 111 и, следовательно, е^ и е^ стремятся к О быстрее любой экспоненты, если начинать с е^, < 1. Заметим также, что условие (2.8.11) имеет место дяя для всех щ если начинать с достаточно малого е^. Рассмотрим теперь отображения А;„:= Л^ ° • • • ° '^п-р которые по лемме 2.8.6 определены в В^ . Тогда отображения 1»-1 L = K'°f°K (2.8.15) также определены в В^ D В^,^. Покажем, что отображения {k^}^^^ равномерно сходятся в В^. По правилу дифференцирования сложной функции п-I п-I K\ = Y[4=Y[(\+w[), 1=0 1=0 n-l где \w[\ ^ c^^i согласно (2.8.8). Поэтому П (^ + 1^/1) ^ "^4 ^ -^г/г» так что 1=0 А;„ + 1 - А;„| < с^ sup \h^ - Id | < c^\wj < с^с^е^- Следовательно, k^^h и f^^A, что доказывает (2.8.1). D Упражнения 2.8.1. Докажите, что множество (с, (£)-диофантовых чисел с фиксированным d > 1 и произвольным с есть множество полной лебеговой меры. 2.8.2. Докажите, что число а = ^ 2 ^^ не является диофантовым. п=0 2.8.3. Докажите, что для любой голоморфной функции ш, не являющейся полиномом, существует такое число А =exp(27ria), где а иррационально, что линеаризованное уравнение (2.8.3) не имеет голоморфного решения. § 2.9. Коциклы и когомологические уравнения В этой главе мы видели, что несколько различных задач сводятся к решению линейного функционального уравнения специального вида. Так обстояло дело с уравнениями (2.2.6), (2.2.7) и с (2.2.8), когда мы изучали замены времени для потоков; с уравнениями (2.6.4) и (2.6.5), возникшими при доказательстве топологической устойчивости гиперболических автоморфизмов тора (теорема 2.6.1, см. также доказательство предложения 2.6.2) и в линеаризованном уравнении (2.8.3) для сопрягающего отображения при использовании метода Ньютона. В случае дискретного времени все эти уравнения могут быть представлены в виде 9{x) = X<fi{f{x))-<pix), (2.9.1) где f: X ^^Х —данное отображение, д — данная скалярная функция на X,
112 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ А —данная константа и if —неизвестная скалярная функция. Можно также рассматривать уравнение (2.6.2) как векторное уравнение того же вида, где А — линейный оператор, действующий на вектор. Уравнения вида (2.9.1) называются когомологическими уравнениями и возникают в самых разных задачах помимо тех, что мы упомянули. Поясним в общих чертах, каким образом возникают когомологические уравнения. Пусть G обозначает множество N, Z или Е, т. е. время, р: G QL{k^ Е) — гомоморфизм, т. е. линейное представление G, и Т\ GxX X — динамическая система с фазовым пространством X и временем G. Определение 2.9.1. Один-коциклом, подкрученным на р, называется такое отображение а: G х X —> Е*', что Если р — тождественное представление, то а называется неподкрученным коциклом, или просто коциклом. Заметим, что коциклы образуют линейное пространство и что а (О, х) = 0, как следует из определения. Любая функция ip: Л —^R^^ определяет коцикл по формуле <^{9, X) := р{д)<р{Т{д)х) - ip{x). (2.9.2) Коциклы такого вида называются кограницами. Два коцикла называются когомологичными, если их разность является кограницей. В случае дискретного времени имеется естественное взаимно однозначное соответствие между коциклами и функциями на X. А именно, каждый коцикл определяется функцией а(х):= а(1, х). Решить когомологическое уравнение означает то же самое, что показать, что данный коцикл является кограницей. Действительно, пусть / := Т(1), R = р(1) и а{х) = а(1, х). Тогда (2.9.2) переписывается в виде a{x)=Rip{f{x))-~<p{x), (2.9.3) т. е. представляет собой векторную форму уравнения (2.9.1). Оказывается, что существует огромное различие между случаем гиперболического р (т. е. когда р(1) гиперболично) и негиперболического р (что охватывает, в частности, неподкрученный случай). Когда мы решали уравнения (2.6.2) и (2.6.8), мы, в сущности, использовали следующий основной результат для гиперболического случая. Теорема 2.9.2. Предположим, что отображение R гиперболическое. Тогда для ограниченной функции а уравнение (2.9.3) имеет единственное ограниченное решение (р. Если функция а непрерывна, то решение уравнения (2.9.3) также непрерывно. Доказательство. Как и в доказательстве теоремы 2.6.1, мы раскладываем отображение R в сумму сжимающей и растягивающей частей R_ и R^ и используем норму из предложения 1.2.2. В результате получим два уравнения а^(х) = R^<p^{f(x)) - <р^{х), а_{х) = R_ip_(f(x)) - ip_{x), где ||-R_||, ll-R+'ll < 1. Их решениями служат равномерно сходящиеся ря- ды <р^{х)= Y. ^l^^+if'^i^)) и f-{^) = - Е -^>-(/Ча;))- Таким образом,
§ 2.9. КОЦИКЛЫ И КОГОМОЛОГИЧЕСКИЕ УРАВНЕНИЯ 113 ограниченность и непрерывность очевидны. Единственность следует из того факта, что разность ^ двух решений служит решением (2.9.2) с а = 0, т. е. Щ(/(х)) = ^{х). Единственное ограниченное решение этого уравнения — нуль, так как отображение R гиперболично. D Важно подчеркнуть, что даже если данные, входящие в (2.9.3), т. е. а, f и р, гладкие, решение ip, вообще говоря, не будет столь же регулярным. Самый сильный общий результат в этом направлении состоит в том, что мы получим гёльдерово решение, если функция а гёльдерова, а отображение / липшицево. Эта потеря регулярности связана с тем обстоятельством, что системы с гиперболическим поведением структурно устойчивы, но сопрягающее отображение, вообще говоря, не гладко (см. п. 19.1 б, где мы покажем, что сопрягающее отображение является гёльдеровым). В качестве примера негиперболического когомологического уравнения рассмотрим неподкрученное когомологическое уравнение, которое уже встречалось в (2.2.8). В этом случае имеются очевидные препятствия для решения (2.9.2), а именно, значения а в периодических точках должны обращаться в нуль. Чтобы увидеть, к чему это приводит для а, заметим, что в этом случае п-1 -I а(п, х) = ^а(/*(х))прип^О, а{п, х) = - У^ а(/*(х))при п <0. (2.9.4) i=0 Если Р{х): п-1 г = П X И а а{п,х) = <р{Г{х)) — кограница, то J] а(/*(х)) = 1=0 — ^(х) = 0. Мы назовем сумму значений функции в точках периодической орбиты периодическим препятствием. Если не требуется наличия никакой структуры в решении неподкручен- ного когомологического уравнения, то при условии, что периодические препятствия обращаются в нуль, никаких дополнительных сложностей не возникает, так как мы можем выбрать точку х на каждой орбите и затем п- I положить ¥^(/"(х))= J2if4^))' Если, однако, пространство X снабжено 1=0 некоторой структурой, положение может быть весьма неприятным. Например, в случае иррационального поворота окружности эта конструкция будет обязательно давать неизмеримое множество точек х (стандартная конструкция неизмеримого множества в анализе) и, таким образом, скорее всего мы получим неизмеримое (и в сильной степени неограниченное) решение. Имеется, однако, естественное условие, гарантирующее существование ограниченного решения уравнения (2.9.4). Теорема 2.9.3. Если функция а{тц х) равномерно ограничена по п и X, то уравнение а{х) = (p{f{x)) — <р{х) имеет решение п ipix) = sup-Y^a{f'{x)). (2.9.5) neN г=0 Доказательство. Функция (р определена корректно, и ^{f{^))-<P{^) sup neN n -^а(Г-'Н) *=o sup neN n E «(/'(==)) i=0 sup neN n E«(/'^'(^)) i=0 sup -(а(х) + У'а(/ neNL V ,^0 a{x). D
114 ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ Вместо точной верхней грани мы могли взять любую другую внутреннюю характеристику последовательности а(п, х), например точную нижнюю грань, верхний или нижний предел, любую их линейную комбинацию или даже более сложное выражение типа «центра масс*, которое чувствительно не только к набору значений, но и к их распределению. Легко видеть, что одного обращения в нуль периодических препятствий может быть недостаточно для существования приемлемых решений непод- крученного когомологического уравнения. Например, поскольку иррациональные повороты R^ окружности не имеют периодических точек, нет и никаких периодических препятствий, хотя имеется другое, очевидно, необходимое условие: если д{х) = (p(R^(x)) — ip(x) и функция (р интегрируема, то Теорема 2.9.3 не гарантирует непрерывности решения неподкрученного когомологического уравнения, даже если входящие в него данные непрерывны (см. упражнение 2.9.2). Более того, даже если имеется непрерывное решение неподкрученного когомологического уравнения, решение, определенное (2.9.5), не обязано быть непрерывным (см. упражнение 2.9.3). Существует, однако, интересный случай, когда непрерывность гарантируется. Теорема 2.9.4 (Готтшалк. Хедлунд). Пусть X — компактное метрическое пространство, /: X —> X —минимальное непрерывное отображение (см. определение 1.3.2) и отображение д: X ^^Ж непрерывно. п причем sup 2 9^f^{^) < оо 'Зля некоторого х^ €Х Тогда имеется та- neN z=0 кое непрерывное отображение ip: X —> Е, что <pof-<p = g. п (2.9.6) Доказательство. Во-первых, заметим, что J2 5°/*(^)| ограниче- 1=0 п но для всех X. Это следует из минимальности: если J2 9 °/Чу)| > -^i '^'^ 1=0 же неравенство должно выполняться для всех г, достаточно близких к у, в частности для некоторой итерации ^^{ос^) точки х^. Но тогда М> "D + ^f > "D + ^f Е ^°/ч^) г=0 "D-1 Е^°/^(^) 1 = 0 п что противоречит ограниченности ^ 5°/*(^)| Лп^ вс^х п. Таким образом, *=о условия теоремы 2.9.3 удовлетворены, и мы можем положить <р{х):= sup neN n - Е я(гч^)) 1=0 Колебание функции ф в точке х определяется как Osc^(x):= liin(sup{^(y) | |х - у| < ^} - inf{^(y) х-у\< 6}) Заметим, что колебание функции исчезает тогда и только тогда, когда функция непрерывна, и, следовательно, колебание любой функции (р, удовлетворяющей (2.9.6), /-инвариантно по непрерывности д. Таким образом, множество {х I Osc^(x) ^ е} замкнуто по определению, и в силу минимальности
§ 2.9. КОЦИКЛЫ И КОГОМОЛОГИЧЕСКИЕ УРАВНЕНИЯ 115 либо совпадает со всем X, либо является пустым множеством. Поэтому достаточно показать, что это множество не есть X дяя любого е > 0. Заметим, что ^ — поточечный предел монотонной последовательности п ip^(x) = s\x^ [— X) 5(/~Ч^))] непрерывных функций. Пусть О^^ —множест- ВО, на котором <р — <Рп^ е/2. Тогда Osc^(x) < е дяя х € О^ „, и это множество непусто для достаточно большого п. П Упражнение 2.9.1 показывает, что это непрерывное решение единственно с точностью до аддитивной константы. Не гиперболические подкрученные когомологические уравнения возникают при доказательстве теоремы Пуанкаре — Зигеля 2.8.2 (а именно, уравнение (2.8.3) в случае Зигеля) и в очень схожей ситуации позже, в (12.3.3). В этих случаях они могут быть решены в аналитической категории с использованием анализа Фурье при условии, что фундаментальное арифметическое условие (2.8.2) выполнено. Весьма похожее утверждение, использующее тот же метод, но в С°°-категории, выражается следующим результатом относительно потоков на торе. Предложение 2.9.5. Предположим, что р — диофантово число и ip—положительная С°°-функция на окружности. Тогда специальный поток, построенный по функции (р и действию поворота Л^, будет С°°-эквивалентен линейному потоку Т", где w = (р J ^, J ^) . Доказательство. Достаточно установить эквивалентность нашего специального потока со специальным потоком, построенным по постоянной функции ^о-^" J ^' поскольку такой специальный поток есть не что иное, как изменение масштаба на надстройке, которая гладко эквивалентна потоку Т/'*''* согласно предложению 2.2.2. Для того чтобы установить эту эквивалентность, мы построим такое сечение специального потока, что время возвращения для него постоянно. Это сечение будет гомотопно первоначальному сечению по базе (т. е. сечению, задаваемому условием t =0). Кроме того, оно будет иметь следующий вид. Если специальный поток обозначается через ф^, то наше сечение получается смещением начального сечения вдоль орбит за некоторое переменное время, т. е. мы переводим каждую точку (х, 0) в точку V'^^^*(x, 0). Чтобы результат представлял собой сечение, нам нужна некоторая монотонность, а именно, должно выполняться неравенство h{x) < (р{х) + h{R^{x)), дяя того чтобы порядок возвращений на трансверсаль сохранялся. Чтобы получить постоянное время возвращения, попробуем найти такую функцию к, что h{x) -^<Ро = <р{х) + h{x + р), т. е. h{x + р) - h{x) -<Pq- (р{х). (2.9.7) Чтобы решить это когомологическое уравнение, мы используем разложение в ряд Фурье как дяя известной функции (р{х) = Y1 ^к ехр(27гг/сх), так И для неизвестной функции h(x)= X) К ехр(27ггА;ж). Теперь в силу (2.9.7) k&Z коэффициенты Фурье функции h для к фО имеют вид *= 1 - ехр(27ггА;р)
116 Часть 1. Гл. 2. ЭКВИВАЛЕНТНОСТЬ, КЛАССИФИКАЦИЯ И ИНВАРИАНТЫ Чтобы показать, что эти числа действительно являются коэффициентами Фурье некоторой С°°-функции, используем диофантово условие. Напомним, что необходимое и достаточное условие того, что функция является С°°-гладкой, состоит в том, что коэффициенты Фурье убывают быстрее, чем любая степень А;. Диофантово условие дает 11 — ехр(27ггА;р)| > const к'"". Так как коэффициенты (р,^ убывают быстрее, чем любая степень А;, то же верно и дяя hf^. D Упражнения 2.9.1. Пусть f:X—*^X —топологически транзитивный гомеоморфизм компактного метрического пространства, и пусть ф —непрерывная функция на X. Докажите, что любые два непрерывных решения ip когомологического уравнения отличаются друг от друга на константу. 2.9.2. Рассмотрим символическую систему Sf^ из упражнения 1.9.10. Докажите, что когомологическое уравнение имеет ограниченное борелево решение, но не имеет непрерывного решения. 2.9.3. Для ш € Пз положим Ф(и;)= J2 ''^„З"'"' и a(w) = Ф((Т2а;)-Ф(и;). Покажите, что n€Z решение ^ когомологического уравнения а{ш)~(р(<Х2Ч})~<р(ш) задаваемое формулой а (2.9.5) имеет плотное множество точек разрыва.
ГЛАВА 3 ОСНОВНЫЕ КЛАССЫ АСИМПТОТИЧЕСКИХ ТОПОЛОГИЧЕСКИХ ИНВАРИАНТОВ В этой главе мы приступаем к систематическому описанию важных конкретных явлений, связанных с асимптотическим поведением гладких динамических систем. При этом мы будем использовать результаты рассмотрения конкретных примеров в гл. 1 и структурный подход, описанный в общих чертах и проиллюстрированный на примерах в гл. 2. Большинство свойств, обсуждаемых в настоящей главе, представляют собой топологические инварианты и могут быть определены для широкого класса топологических динамических систем, включая символические. Преобладание топологических инвариантов хорошо укладывается в картину, возникающую из рассмотрений §§ 2.1, 2.3, 2.4 и 2.6. Кажется весьма правдоподобным, принимая во внимание результаты предыдущей главы, что гладкие динамические системы, если их рассматривать с точностью до гладкой сопряженности, практически никогда не являются устойчивыми и очень редко могут быть локально расклассифицированы. Напротив, структурная и связанная с ней топологическая устойчивость кажутся довольно широко распространенными явлениями. Мы будем рассматривать три больших класса асимптотических инвариантов: (i) скорость роста количества орбит различного вида и сложности семейств орбит, (и) характер возвращения орбит и (iii) асимптотическое распределение и статистическое поведение орбит. Первые два класса имеют чисто топологическую природу; они обсуждаются в настоящей главе. Последний класс естественно связан с эргодической теорией, и поэтому его описание должно опираться на базовые сведения из этой теории. Такое описание требует некоторого времени, и мы отложим его до следующей главы. Таким образом, эти две главы оказываются тесно связанными. Мотивировкой для введения инвариантных мер и эргодической теории в следующей главе служит попытка более количественным образом понять качественные явления возвращаемости в топологическом и гладком случаях, которые обсуждаются в настоящей главе. § 3.1. Рост орбит 3.1 а. Периодические орбиты и ^-функция. Периодические орбиты представляют собой наиболее характерный специальный класс орбит. В определении 1.7.1 мы ввели числа i^(/) периодических орбит отображения /. Эти числа, очевидно, являются топологическими инвариантами. Подчеркнем, что Pn{f) по определению есть общее число точек, для которых положительное целое число п является периодом, не обязательно наименьшим возможным. Если п — простое число, то -Р„(/) — ДС/) есть в точности количество точек с наименьшим периодом п и, следовательно.
118 Часть 1. Гл. 3. ОСНОВНЫЕ КЛАССЫ АСИМПТОТИЧЕСКИХ ИНВАРИАНТОВ n(^n(f) — ^\(f)) —количество периодических орбит с периодом, равным в точности п. Вообще говоря, взаимосвязь между числом точек периода п и числом орбит периода п более сложна. Если обозначить через Р„(/) количество точек, для которых п является минимальным периодом, то число орбит периода п, очевидно, равно P^{S)/n. Числа Р„(/) также являются топологическими инвариантами /; они выражаются через Р„(/), а Рп(/), в свою очередь, через них с помощью некоторых теоретико-числовых функций. В большинстве случаев удобнее работать с числами i^(/), чем с Р„(/)- Наиболее естественная мера асимптотического роста числа периодических точек — экспоненциальная скорость роста р(/) последовательности Р„(/), определяемая формулой: п^оо тг Мы пишем тах(Р„(/), 1) вместо Р„(/), чтобы избежать появления logO. Если р(/) = О, иногда полезно рассматривать полиномиальную скорость роста числа периодических точек p(/)=M'HSi5^^g^. (3.1.2) п—юо Если р(/) < оо, т. е. если скорость роста числа периодических точек не более чем экспоненциальная, можно включить всю информацию относительно количества периодических точек в удобный аналитический объект — С -функцию /, определяемую следующим образом: U^) = exp(2^^^^^»), (3.1.3) П= 1 где Z — комплексное число [^]. Этот ряд сходится, если \z\ <ехр(—р(/)), и обязательно имеет особые точки на окружности |2| = ехр(—р(/)). Нередко функция Cf{^) имеет аналитическое продолжение, во многих случаях до мероморфной функции на всей комплексной плоскости. Конечно, полюса, нули и вычеты продолженной ^-функции предоставляют дополнительные топологические инварианты для /, которые определяются количеством периодических точек, но часто дают нетривиальную информацию о структуре орбит. Вычислим С "функцию для некоторых наших примеров. Для линейного растягивающего отображения Е^, т>\ (и, следовательно, по теореме 2.4.6 дая каждого растягивающего отображения окружности степени т), имеем Р„(£^) = т" - 1, так что CsJ^) = exp 5] ОО п 771 П п= 1 \-z = exp(-log(l-m^) + log(l-^)) = yi::^. (3.1.4) Таким образом, эта функция действительно имеет мероморфное продолжение на всю плоскость с единственным полюсом в точке 1/т = ехр(-р(£^)).
§ 3.1. РОСТ ОРБИТ 119 Подобным образом дая iV-сдвига а^ и одностороннего iV-сдвига а^ мы имеем ^ C,(-) = Cj(-) = exp(f:^.")=.pi^- (3.1.5) Различие между двумя выражениями (3.1.4) и (3.1.5) состоит, главным образом, в наличии нуля в точке z = \ у первой функции. Это связано с тем фактом, что полусопряжение, описанное в доказательстве предложения 1./.2, отображает т неподвижных точек сдвига а^ в одну и ту же неподвижную точку х = О для Д В заключение отметим, что для гиперболического автоморфизма тора F^: Т2 -^ Т^, F^{x, у) = {2х-^у,х-^ у) (mod 1), мы имеем m г оо Cj.(2) = exp '-п= 1 _ ^\2 il-z) l_|iW5\ ЛЛ_^3^5. . (3.1.6) и вновь ^-функция имеет мероморфное продолжение до рациональной функции на комплексной плоскости. Для потоков следует подсчитывать число периодических орбит вместо периодических точек. Это можно делать двумя разными способами. Подход, наиболее близкий к случаю дискретного времени, состоит в том, чтобы учитывать периодические орбиты с кратностями, равными их длинам, что в случае дискретного времени как раз и дает число периодических точек (сравним с описанием меры Боуэна для потоков в конце § 20.1). С другой стороны, можно считать просто количество периодических орбит, без учета их длины. Если, однако, число периодических орбит растет с экспоненциальной скоростью, то различие несущественно, потому что большинство орбит, дайна которых не превосходит Т, будет иметь дайну, близкую к Т, так что скорость роста будет той же самой. Теперь рассмотрим инвариантное число Pj,{(p^) всех периодических орбит, период которых не превосходит Т. Соответственно определим экспоненциальную скорость роста числа периодических орбит потока р(^.):= 1Ш '°g(max(^(c^'),l)))^ (з.1.7) и С-функцию С.(^) = П(1-ехр(-^(7)))"', (3.1.8) где произведение берется по всем невырожденным периодическим орбитам 7 потока и /(7) — самый малый положительный период 7. Допуская, что поток имеет не более чем конечное число неподвижных точек, из стандартного критерия сходимости дая бесконечных произведений немедленно заключаем, что произведение (3.1.8) сходится дая Re z > p(t^') и имеет особенности на критической прямой Re^ =p(t^'). Число орбит P-ri^^^) и С-функция, очевидно, равны дая эквивалентных потоков. Вообще говоря, они не являются инвариантами орбитальной
120 Часть 1. Гл. 3. ОСНОВНЫЕ КЛАССЫ АСИМПТОТИЧЕСКИХ ИНВАРИАНТОВ эквивалентности. Хотя орбитальная эквивалентность переводит периодические орбиты в периодические орбиты, она может изменять их период. Однако более грубое свойство инвариантно относительно замен времени. Предложение 3.1.1. Пусть X и Y ^ компактные метрические пространства, а ip^: X ~> X и ф^: Y-^ Y — непрерывные потоки без неподвижных точек. Предположим, что эти потоки орбитально эквивалентны и p{^^)=0. Тогда p{ip^) = 0. Доказательство. Пусть h: X —+ У — гомеоморфизм, который отображает орбиты потока ip^ в орбиты ф^ Тогда h((p^(x)) =ф°'^'^^Н(х). Функция а непрерывна и положительна; следовательно, в силу вышеизложенного, она ограничена, скажем, а(х) ^ М. Поэтому образ любого сегмента орбиты (р^ единичной дайны есть сегмент орбиты ф^ дайны не более чем М. Следовательно, образ сегмента, дайна которого не превосходит Т, имеет дайну, меньшую чем (Т ч- 1)М, что при Т ^ 1 меньше, чем 2МТ. Это значит, что образ любой периодической орбиты периода < Т имеет период не превосходящий 2МТ, т. е. яр(ф')-^р((р')/2М. П 3.1 б. Топологическая энтропия. Наиболее важный числовой инвариант, связанный с ростом орбит, — топологическая энтропия. Она выражает экспоненциальную скорость роста числа отрезков орбит, различимых со сколь угодно хорошей, но конечной точностью. В определенном смысле топологическая энтропия описывает (грубым, но информативным способом) общую экспоненциальную сложность структуры орбит посредством одного числа. Как обычно, мы начинаем обсуждение со случая дискретного времени. Пусть /: X —^ X — непрерывное отображение компактного метрического пространства X с метрикой d в себя. Определим возрастающую последовательность метрик d/, п = 1, 2,..., начиная с df = d, по формуле df{x,y)= max d{r{x),riy)). (3.1.9) 0^I^ n — 1 Другими словами, метрика d/ определяет расстояние между отрезками орбит 1^ = {ж, ..., /"" ^x} и 1у. Обозначим через В^(х, е, п) открытый шар {у еХ \ d{(x, у) < £}. Множество Е С X называется (п, е)-покрытием, если Хс и Bf(x,e,n). Пусть S^f.e^n) обозначает минимальное коли- х&Е чество элементов (п, £)-покрытия или, что то же самое, количество элементов минимального {п^е)-покрытия. Можно неформально определить смысл этого числа, сказав, что оно равно минимальному числу начальных условий, поведение которых вплоть до момента времени п аппроксимирует поведение любого начального условия с точностью, не меньшей чем £. Рассмотрим экспоненциальную скорость роста этой величины /г,(/,г):= lim |; log 5,(/, г, п). (3.1.10) П-+00 Очевидно, /ij(/, г) —неубывающая функция от £. Мы определим тополо гическую энтропию h^(f) как h,{f) = nmK{f.e).
§3.1. РОСТ ОРБИТ 121 А priori это число может зависеть от метрики d Мы покажем, что на самом деле такой зависимости нет. Предложение 3.1.2. Если d' — другая метрика на X, которая определяет ту же самую топологию, что и d, то h^.{f) = h^(f)- Доказательство. Рассмотрим множество Д всех пар (^i, o^g) ^ е X X X, для которых d(xj, 0^2) ^ ^- Это компактное подмножество X х X с топологией произведения. Функция d' непрерывна на X х X в этой топологии, и, следовательно, она достигает минимума 5(e) на D^. Этот минимум является положительным; в противном случае найдутся такие точки х^фх^^ что d'(a;i, х^ = ^' Таким образом, если (i'(xj, х^< 5\е.\ то (i(xj, х^<е^ т. е. любой 5(£)-шар в метрике d' содержится в £-шаре в метрике d. Это соображение немедленно может быть применено к метрикам d'{ и d/. Следовательно, для каждого п мы имеем 5^,(/, 5(e), п) ^ SJ£)(f, £, п), так что hAf. Н^)) ^ hM ^) и К{1) ^ lim /г,.(/, 8(г)) ^ lim /г//, ^) = К(1)- Меняя £-+0 £-+0 в этом рассуждении местами метрики d и d\ получаем h^{f) ^ h^'(f). П Определение 3.1.3. Число /г^(/)? определенное для произвольной метрики, порождающей топологию X, называется топологической энтропией отображения / и обозначается h(f) или иногда /itop(/) [^]- Следствие 3.1.4. Топологическая энтропия — инвариант топологического сопряжения. Доказательство. Пусть отображения /: X -^ X и д: У —+ У топологически сопряжены с помощью гомеоморфизма h: X—+У. Выберем метрику d на X и определим метрику d' на У как перенос d, т. е. ^'(2/п 2/2) = ^(^"42/i)i ^ (%))- Тогда h становится изометрией, так что hAf) = hA9y^ Имеются другие величины, подобные 5^(/, £, п), которые могут быть использованы для определения топологической энтропии. Например, обозначим через DJf, г, п) минимальное количество множеств, диаметр которых в метрике d/ не превосходит г и объединение которых покрывает X. Очевидно, диаметр £-шара не превосходит 2£, так что каждое покрытие £-ша- рами является покрытием множествами диаметра ^ 2£, т. е. DAL2e,n)^SALe,n). (3.1.11) С другой стороны, любое множество диаметра ^ е содержится в £-шаре с центром в любой из принадлежащих этому множеству точек, так что SAf.e,n)^DALe,ny (3.1.12) Лемма 3.1.5. Для любого £>0 существует предел lim п^'^- П-+ ОО Замечание. Соответствующий предел для 5^(/, г, п) может не существовать. Доказательство. Утверждение будет следовать из неравенства D^/> г,т-\-п)^ DAf. г, п) - D^/, г, т) для всех т, п. Действительно, тогда последовательность а„ =logDd(/, г, и) субаддитивна, т. е. а^ + п^а^ + а^, и, следовательно, lim а^/п существу- П —* ОО ет. Это очень полезный элементарный факт, который будет использоваться в этой книге многократно (см., например, (3.1.20), предложение 4.3.6). Предложение 9.6.4 — усиленный вариант данного утверждения.
122 Часть 1. Гл. 3. ОСНОВНЫЕ КЛАССЫ АСИМПТОТИЧЕСКИХ ИНВАРИАНТОВ Чтобы доказать это неравенство, заметим, что если А — множество, с?/-диаметр которого меньше чем г, я В — множество, d^-диаметр которого меньше чем г, то А П/~"(Б)—множество, с?^+„-диаметр которого также не првосходит е. Таким образом, если 21—покрытие пространства X множествами, имеющими d/-диаметр меньше чем г (в количестве Dj(/, г, п)), и Ш — покрытие X множествами, имеющими d^-диаметр меньше чем г, (в количестве Dj(/, г, т)), то покрытие всеми множествами А П/""(Б), где А е% Б € Ш, которое содержит не более чем Dj(/, г, п) - D/Cf, е, т) множеств, является покрытием пространства X множествами, d^^„-диаметр которых меньше чем г. П Определим lim (1/п) logDj(/, £, п) =/г^(/, г). Из (3.1.11) и (3.1.12) получаем ""*°° ка^)^ка^)^к(/,2г), и аналогичное неравенство имеет место, если вместо /г^(/, г) взять А.(/,г):= lim(l/n)log5,(/,e,n). п-*оо ^ Таким образом, мы заключаем, что lim h^{f, г) = Иш Ad(/) ^) = ^(/) ^ lim(/i,(/,e)-iL,(/,^))=0. Еще один способ определить топологическую энтропию состоит в том, чтобы использовать число N^{f, г, п) — максимальное количество точек в X, попарные ^/-расстояния между которыми больше чем £. Мы будем называть такой набор точек (п, еуотделенным. Такие точки порождают максимальное количество отрезков орбит длины п, которые являются различимыми с точностью до £. Максимальное (п, £)-отделенное множество является (п, £)-покрытием, т. е. дая любого такого набора точек £-шары с центрами в них покрывают X, потому что иначе можно было бы увеличивать это множество, добавляя любую непокрытую точку. Таким образом, N^{f,e,n)^SM^.ri). (3.1.13) С другой стороны, никакой £-шар не может содержать две точки, отстоящие друг от друга на расстояние 2£. Таким образом, 5Л/, г, п) ^ iV,(/, 2г, п). (3.1.14) Используя (3.1.13) и (3.1.14), мы получаем Пт - logiVj(/, £, п) ^ /ij(/, £), lim ^ log ЛГЛ/, 2е, п) ^ lim i log N,{f, 2e, n) < h,(f, e) (3.1.15) n—ЮО '" n—ЮО И, следовательно. 1 ,.. .г.. . ._ ,:.„ 1 ^op(/) = 1™ lim ^ log-^Л/» ^» ^) = l™ Um ^ logiV^/, £, n), (3.1.16) c-*On-*oo '* £-*0„_,oo что оправдывает неформальное определение топологической энтропии, которое мы дали в начале этого пункта.
§3.1. РОСТ ОРБИТ 123 предложение 3.1.6. Если отображение д — фактор /, то h^^Jg) < Доказательство. Пусть /: X—+Х, д: Y-^X ^'- ^ —^Х hof = goh, h(X) = Y и dj^jdy — метрики в X я У соответственно. Отображение h равномерно непрерывно, так что для любого £ > О существует такое 5(e) > >0, что если djy(xi, 0^2) < 5(e), то (1у(к(х^), h(x2))<£. Следовательно, образ любого(с?^у){-шара радиуса 6(e) находится внутри (^^')^-шара радиуса г, т. е. S,^(f.S(e),n)^S^(g,e,n), Прологарифмировав и переходя к пределам, получаем нужный результат. П Следующее утверждение содержит (неполный) список элементарных свойств топологической энтропии. Доказательство демонстрирует пользу перехода от одного из трех приведенных выше определений топологической энтропии к другому. Предложение 3.1.7. 1. Если А — замкнутое f-инвариантное множество, то h^^(f\^) ^ \^^(f). т 2. Если X = и Л-, где Л-, г = 1,..., т, —замкнутые f-инвариантные 1 = 1 множества, то h^^p(f) = ^max^h^^(f\^). Здесь отображение (/ х д) определяется для отображений f:X—*X и g:Y ~^Y по формуле (/ х д)(х, у) = (/(х), д(у)). Доказательство. Первое утверждение очевидно, так как каждое покрытие X множествами, с?/-диаметр которых меньше чем г, является в то же время покрытием Л. Чтобы доказать второе утверждение, отметим, что объединение покрытий множеств Ai, -.., Л^ множествами диаметра, меньшего чем г, представляет собой покрытие X, так что ^ DAf^^.ri)^^DAfl.e.n), -■- i= 1 Т. е. по крайней мере для одного г выполнено неравенство DAf\j,^.^.ri)^^DMe,n). Так как имеется только конечный набор чисел г, по крайней мере одно i годится для бесконечно многих п. Для такого г € {1,..., т} имеем lim ^ п-*оо ^^ п-*оо ^^ Это доказывает второе утверждение. Для положительного m третье утверждение следует из двух замечай! Во-первых, df (х, у)=т^хй(Г"^(х), Г-(у)) < ^„ max ^d(f'(x)J'(y))=dL~m^i(x.yl
124 Часть 1. Гл. 3. ОСНОВНЫЕ КЛАССЫ АСИМПТОТИЧЕСКИХ ИНВАРИАНТОВ так что В^{х, £, 7пп — m Ч- 1) С В^^{х, £, п) для любого х е X я 5'ЛП^,п)^5Л/,г,тп). (3.1.17) Следовательно, /itop(/"*) ^ "^^юр(/)- ^ ДР>^ой стороны, для каждого £ > О существует такое ^(£) > О, что В(х, 6{£)) С В^(х, £, тп) для всех х е X. Таким образом, Б^«(х, 5{г), п) = Ъ' Г'-В(Г-{х), 5(e)) С С П f-'"^Bf(r"4x), г, т) = В^(х, г, тп). i=0 Поэтому, SAf. ^, ^п) ^ 5,(/"^, б{г), п) (3.1.18) и 'rn\^p{f) ^ /itop(/"*)- Теперь допустим, что отображение / обратимо. Тогда Б^(х, £, п) = B^-i(/"- ^(x), £, п) и 5j(/, £, п) = SAf~\ ^, тг), следовательно, Для отрицательных m утверждение следует из только что доказанных утверждений для случая с т>Ои т = —1. В заключение, чтобы доказать четвертое утверждение, рассмотрим метрику произведения в X х У: d((xj, 3/1), (хз? 2^)) = max(d;^(xi, Xg), dj.(2/p 2^)). Шары в этой метрике являются произведениями шаров из X и У То же верно для шаров в метрике d^^^^. Таким образом, S^f х 5i ^i тг) ^ ^ ^dJL ^^ '^)\(9^ ^, ^) и /itop(/ X 9)^ /itop(/) -Ь ^opCi?)- *^ другой стороны, произведение любого (п, £)-отделенного множества в X для / на любое (п, £)-отделенное множество в Y для ^ есть (п, £)-отделенное множество для / X 5. Следовательно, ^dif X 5, ^, ri) ^ N,{f, £, п) X NAg, £, п) и, значит, h^^if хд)^ \^^{f) Ч- h^^^(g), П Определение топологической энтропии потока /itop(^) А^^ ^—{¥''}i6R полностью аналогично определению для случая дискретного времени. Аналогом (3.1.9) служит следующее семейство неубывающих метрик: dT(^,y)=maxd((p'(x),(p'(y)), \} ^ t ^ J. Единственное свойство, заслуживающее специального обсуждения, — это следующий аналог третьего пункта предложения 3.1.7. Предложение 3.1.8. к^^{Ф) = h^^^{(p'). Доказательство. Используя компактность и непрерывность, для данного £ > О можно найти такое 5(e) > О, что если d(x, у) ^ 5(e) то max d(t^'(x), (р^(у)) < £. Это означает, что любой £-шар в метрике d^ со- держит 5(£)-шар в метрике dj^j. С другой стороны, очевидно, что d^ ^ df. Из этих двух замечаний следует наше утверждение. П Топологическая энтропия для потока, очевидно, является инвариантом эквивалентности потоков. Она изменяется при заменах времени и, следовательно, при переходе к орбитально эквивалентным потокам довольно сложным способом. Рассуждая, как в доказательстве предложения 3.1.1, можно
§3.1. РОСТ ОРБИТ 125 показать, что для потока без неподвижных точек любая замена времени сохраняет нулевую топологическую энтропию (см. упражнение 3.1.5). Если топологическая энтропия для отображения или потока обращается в нуль, субэкспоненциальная асимптотика любого из трех чисел, входящих в определение энтропии, может оказаться полезной для понимания степени сложности структуры орбит. 3.1 в. Рост объема. Помимо изучения роста дискретных семейств орбит, как это делались выше, можно попробовать измерить скорость роста непрерывных семейств орбит. Например, для гладкой динамической системы можно рассмотреть компактную гладкую кривую 7 в фазовом пространстве и измерить длины последовательных образов как функцию времени. Эта функция растет не более чем с экспоненциальной скоростью, и, как и прежде, экспоненциальная скорость роста является наиболее естественной и информативной мерой роста. Она не зависит от выбора римановой метрики, используемой для измерения длин. Чтобы получать инвариант по крайней мере гладкого сопряжения, следует рассматривать точную верхнюю грань таких скоростей роста по всем кривым. Число, получаемое таким образом, вообще говоря, не является инвариантом топологического сопряжения. Тем более удивительно, что для (!7°°-диффеоморфизмов двумерных многообразий оно равно топологической энтропии и, следовательно, представляет собой топологический инвариант. Более общим образом, рассмотрим гладкую компактную А:-мерную клетку в т-мерном компактном многообразии М, т. е. вложение замкнутого стандартного шара из IR^ в М, и вычислим экспоненциальную скорость роста объема его образов для данной гладкой динамической системы на М Если она необратима, объем следует вычислять с учетом соответствующих крат- ностей. Взяв точную верхнюю грань по всем А:-мерным клеткам, получим инвариант гладкого сопряжения, который для фиксированного А:, вообще говоря, не является инвариантом топологического сопряжения. Оказывается, что для С°°-отображений максимум этих чисел по к, О^к ^тп, равен топологической энтропии [^]. 3.1 г. Топологическая сложность: рост в фундаментальной группе. Альтернативой измерению скорости роста семейств орбит с помощью вычисления объемов служит рассмотрение роста их топологической сложности. Эта идея приводит к определениям нескольких алгебраических аналогов энтропии. Очевидная привлекательная сторона такого подхода состоит в том, что он автоматически дает инварианты топологического сопряжения. Первый инвариант такого типа измеряет рост гомотопической сложности итераций петель. Итак, определим сначала чисто алгебраическое понятие энтропии эндоморфизма произвольной конечно порожденной группы. Пусть тг — такая группа, Г = {7i,.. м 7,} — система образующих тг и F: тг -+ тг — эндоморфизм. Рассмотрим все возможные представления элемента j €тг следующего вида: 7 = 71Ч2'' • • • 7;'7^' ... ^h. ... ^;ь^ i, е Z, (3.1.19) и обозначим через L (7, Г) минимум X) \ij\, взятый по всем таким представ- лениям. Далее положим L(F,T)= max X(F"7i,n- Всегда можно «скле-
126 АСИМПТОТИЧЕСКИХ ить* представления вида (3.1.19), так что Х(7-7',Г)^Х(7,Г)+Х(7',Г) X(F"7,r)^X(7r).X„(F,r). Поскольку F —эндоморфизм, можно получить представления F"* + "7 подставляя представление F"7i ^ любое представление F"*7 вида (3.1.19). Таким образом. X(F"* + "7,rK-^(-^"7, П-^„№П. поэтому и, значит, lim l-\ogL,(FJ)=:hl,{F) (3.1.20) n-*oo тг существует. Теперь пусть Г = {7/,. *., 7(} —другая система образующих группы тт. Каждая образующая 7ii г = 1,..., s, имеет представление через Г, и наоборот. Пусть К — такое число, что все эти представления могут быть выбраны так, чтобы их дайна не превосходила К Тогда F"7/ имеет представление вида (3.1.19) дайны не более чем KL^{F^Y) и, следовательно, представление вида (70472')''••-(7;)''•••(70'% I дайна которого не превосходит K^L^(F, Г), так что И h^(F) ^ h^(F)^ Меняя местами Г и Г, получаем h^{F) ^ h^(F), так что h^{F) не зависит от выбора системы образующих. Определение 3.1.9. Число h^(F) = h^(F) дая произвольной системы образующих Г называется алгебраической энтропией эндоморфизма F Как вытекает непосредственно из определения, алгебраическая энтропия не меняется при переходе от данного эндоморфизма к сопряженному, т. е. если S: тг —+ тг' — изоморфизм и F: тг —+ тг — эндоморфизм, то hASFS~') = hAF), (3.1.21) Для неабелевых групп имеется класс автоморфизмов, который в нашей ситуации следует рассматривать как тривиальный, а именно внутренние автоморфизмЫу имеющие вид J 7 = 7о~^7 7о А^^ фиксированного 7о ^ ■""• Предложение 3.1.10. Для любого эндоморфизма F конечно порожденной группы тг и любой образующей 7о ^ ■"" выполнено равенство Доказательство. Так как F = I^-i(ly^F), достаточно доказать, что Kil^^F) < hj^{F). Для 7 € тг имеем (/ F)"7=7o-^-?^(7o)-^--(i^"-47o))"^-?^"(7)i^"-47o)---7o, %
§3.1. РОСТ ОРБИТ 127 И потому п — 1 L((7^F)"7,r)^L(F"7,r) + 2^L(F*7o,r)^ fc=0 n-1 <X„(F,r).L(7,r) + 2^X,(F,r).X(7o,r). (3.1.22) fc=0 Пусть I/^(F, Г)= max L^{F^Y), Существование предела (3.1.20) означает, что °^^^" lim '^ЩШ = ПЛР), п^оо тг и так как из (3.1.22), мы получаем, что h^{I^^F) < h^{F), D Теперь рассмотрим непрерывное отображение / компактного связного многообразия М, и пусть рЕ М. Зафиксируем непрерывный путь а, соединяющий точку р с ее образом /(р), т. е. такое отображение а: [О, 1] —+ М, что а(0) = р, а(1) = /(р). Тогда мы можем определить эндоморфизм f^ фундаментальной группы 7r = 7ri(M, р), где образ элемента, определяемого петлей 7- [0,1]—+М, j(0) = ^(I) = р, представляется петлей af('y)a~\ состоящей из пути а, петли / о 7 и затем снова из пути а, но проходимого в противоположном направлении. Определим энтропию действия / в фундаментальной группе (для данных р и а) по формуле hr{f):=hjf:), (3.1.23) Ниже мы покажем, что это определение не зависит от выбора аир. Сначала пусть а'—другой путь, соединяющий р с /(р). Обозначим через а элемент группы тг^(М^р)^ представляемый петлей а{а')~К Для 7 € тг^ (М,р) мы имеем //(7) = ci'fij){a')-' = <r-^af(j)a-'a = IJ^b), Поэтому в силу предложения 3.1.10 выполняется равенство hA(f:) = hAfn- (3.1.24) Пусть теперь q € М — другая точка, и пусть /3 — непрерывный путь, соединяющий q я р. Тогда путь 7 =/^^(/(Д))"^ соединяет точку g с ее образом f{q) и можно определить отображение fj: щ(М, q)—*'к^(М, q). Отображение S^: тг^(М, q)—* т^i(M, р), f i—>/3~^f/3, является изоморфизмом, и непосредственное вычисление показывает, что Поэтому из (3.1.24) имеем hлif:)=hAf:У (3.1.25) Теперь, используя (3.1.24) и (3.1.25), мы видим, что /if (/) на самом деле не зависит от р и а. С этого момента мы будем обозначать число /if (/) просто через K(f) и называть его энтропией действия f в фундаментальной группе.
128 Часть 1. Гл. 3. ОСНОВНЫЕ КЛАССЫ АСИМПТОТИЧЕСКИХ ИНВАРИАНТОВ Ясно, ЧТО K(f) является топологическим инвариантом /. В п. 8.1 б мы покажем, что K(f) ^ ^lopif) ^^ любого непрерывного отображения / ['*]. 3.1 д. Рост в гомологиях. Другие полезные топологические инварианты типа роста появляются из рассмотрения линейных отображений f^., индуцированных отображением / на группах гомологии H-(M,R). Наиболее естественная числовая мера скорости роста для линейного отображения — спектральный радиус, который в конечномерном случае совпадает с максимумом модулей собственных значений (см. определение 1.2.1 и последующее обсуждение). Спектральные радиусы r(/^J являются топологическими инвариантами отображения /. Два особенно интересных случая роста гомологии — г = 1 и г = dim М. Если г = 1, мы используем изоморфизм Гуревича П: щ(М, р)/[щ(М, р), щ(М, р)] -. Д (М, Z) между фактором по коммутанту щ(М,р) и первой группой гомологии (см. теорему П 7.5). Любые два отображения S^: тг^(М^д) —*■ щ(М,р) отличаются на внутренний автоморфизм, так что все S^ определяют один и тот же изоморфизм между щ{М^д)/['1г^(М,д),'1г^(М,д)] и щ{М,р)/[щ{М,р),щ{М,р)]. Если Р: щ(М, р) -^ тг^СМ, p)/[ir,(M, р), щ(М, р)] обозначает нашу проекцию, и V: Н^(М, Z) —+ Н^(М, R) — канонический гомоморфизм на решетку целых чисел в Н^(М, IR), ядро которого состоит из элементов конечного порядка, то мы можем положить Изоморфизм Гуревича эквивариантен по отношению к непрерывным отображениям, так что для любого непрерывного отображения /: М—^М, рЕ М, и любого пути а, соединяющего р с /(р), мы имеем U%=S^j:- (3.1.26) Таким образом, отображение /^j, ограниченное на решетку целых чисел, является фактором отображения f^. Для данной системы образующих Г в ■7rj(M, р) и данной нормы в Щ{М, Щ существует такое число С > О, что для любого 7 ^ ■"■i(M, р) выполнено неравенство ||iO„(7)NCL(7,r). (3.1.27) Соотношения (3.1.26) и (3.1.27) немедленно дают ^ogriU^Kif). (3.1.28) Случай г = dim М представляет интерес только для необратимых отображений ориентируемых многообразий. Если М ориентируемо, то Щ{М^ к) = = Ш я Лжтлс—умножение на целое число deg(/), называемое степенью / (см. § 8.2). Для обратимых отображений степень всегда равна ±1, поскольку тогда /.dimjtf обратимо. В § 8.3 мы покажем, что Ч(/) > log I deg(/)| = log |r(/„,^^)| (3.1.29)
§3.1. РОСТ ОРБИТ 129 для всякого с'-отображения f:M~^M (теорема 8.3.1). Таким образом, любое гладкое отображение /, | deg(/)| ^2, имеет сложное асимптотическое поведение. Однако, в отличие от взаимосвязи между h^^^ и r(/^i), условие (3.1.29) не обязательно выполнено для непрерывных отображений. На самом деле непрерывные отображения степени больше единицы могут иметь относительно простое асимптотическое поведение для отдельных орбит. Мы рассмотрим соответствующий пример в конце п. 8.2 в [% Для динамических систем с непрерывным временем инварианты, определенные выше, бессодержательны, так как каждый элемент потока гомотопен тождественному отображению и, следовательно, индуцирует тривиальные отображения на фундаментальной группе и группах гомологии. Имеются, однако, иные способы измерения роста топологической сложности. Например, на компактном связном многообразии X можно зафиксировать точку реХ я семейство кривых Т={'у \ хеX} ограниченной длины, соединяющих р с различными точками X Тогда для потока Ф = t^': X —> X можно зафиксировать Т и рассмотреть для каждого хеХ петлю /(х, Г), состоящую из кривой 7а:1 отрезка орбиты {^^x}f^o и пути, обратного к 7/ х- ^"^^ циклы представляют различные элементы фундаментальной группы щ(Х^р). Их количество, которое мы можем обозначить П(Ф, р, Г, Т), растет не быстрее, чем экспоненциально, и можно определить экспоненциальную скорость ро- Т-*оо i которая не зависит от р я выбора семейства кривых Г и, следовательно, может быть обозначена просто как h^ (Ф). Мы будем называть h^^^ (Ф) гомотопической энтропией потока Ф. Гомотопическая энтропия, очевидно, одинакова для эквивалентных потоков. Мы разовьем эту идею для специального случая динамических систем — геодезических потоков на римановых многообразиях (см. определение 5.3.4) — в § 9.6. Упражнения 3.1.1. Пусть /: 5' ->5'' — С'-отображение степени m ^ 2. Предположим, что / имеет притягивающую периодическую точку периода п, т. е. /*^{х) = х и |(/")'(а;)|< 1. Докажите, что -Р„(/)^т" + 1. 3.1.2. Докажите, что для любого неотрицательного действительного числа t существует такой гомеоморфизм f: X —*■ X компактного метрического пространства, что p{f) — t. 3.1.3. Докажите, что С-функщ1я любой топологической цепи Маркова рациональна. 3.1.4. Существует лн отображение / с ^-функцией C^{z) = expexpz? 3.1.5. Рассмотрим свободную группу, порожденную двумя элементами а и 6. Вычислите алгебраическую энтропию автоморфизма, который переводит а в aba и Ь в ab. 3.1.6*. Покажите, что В следующих трех упражнениях приводится первоначальное определение топологической энтропии, данное Адлером, Конхеймом и Мак-Эндрю. 3.1.7. Пусть 21 — открытое покрытие компактного пространства X и iV(2l) — минимально возможное число элементов подпокрытия 21. Для двух покрытий 21, 03 обозначим через 21V !В покрытие, образованное всеми пересечениями Л П В, где Л € 21, В € 03. Покажите, что iV(2lViB)^iV(2l)-iV(iB). 5 А. Б, Каток, Б, Хасселблат
130 Часть 1. Гл. 3. ОСНОВНЫЕ КЛАССЫ АСИМПТОТИЧЕСКИХ ИНВАРИАНТОВ 3.1.8. Рассмотрим непрерывное отображение /: X —> X и открытое покрытие 21. Пусть /~'(21) обозначает покрытие всеми множествами/~^(Л), где Л €21. Докажите, что существует Н{/,Щ:= Jim^:^logiV(2lv/-'(2l)V...V/'-"(2l)). 3.1.9. Покажите, что где точная верхняя грань берется по всем открытым покрытиям X § 3.2. Примеры вычисления топологической энтропии В этом параграфе мы просмотрим список примеров, обсуждавшихся в гл. 1, и вычислим топологическую энтропию для этих примеров, ограничиваясь, конечно, случаем, когда фазовое пространство компактно, так как мы определили топологическую энтропию только для этого случая. 3.2 а. Изометрии. Пусть X — компактное метрическое пространство и /: X -+ X — изометрия. Тогда di = d для всех п и, следовательно, числа 5„(/, г, п) не зависят от п и вообще не растут. В частности, h{f)=0. Этот случай отсутствия всякого роста наиболее далек от ситуации, когда топологическая энтропия положительна. Как мы упомянули в конце п. 3.1 б, между данными двумя крайними случаями имеется ряд промежуточных ситуаций, когда величины 5„(/, г, п) растут, но медленнее, чем любая экспонента. С изометрическими потоками дело обстоит точно так же. Таким образом, мы получаем следующий результат. Предложение 3.2.1. Топологическая энтропия любого сдвига тора Т^ или любого линейного потока TJ на торе равна нулю. 3.2 б. Градиентные потоки* Рассмотрим градиентный поток на круглой сфере, как в § 1.6. Зафиксируем г > О, и пусть N и S^ представляют собой £-окрестности двух неподвижных точек iV = (0,0,1) и о = (О, О, -1) соответственно. Пусть К:= S^\(N^ U 5J. Любая орбита npojBowiT только ограниченное время в К", и в силу компактности можно найти фиксированное число М(£) таких отрезков орбиты, длина которых не превосходит Т(е), что каждый отрезок орбиты, который начинается и заканчивается в множестве К, будет £-близок к одному из этих отрезков в течение всего времени. Типичный отрезок орбиты очень большой длины Г остается в N^ в течение длительного времени, затем в течение времени, не превосходящего Т(£), находится в К я остальное время пребывает в S^. Конечно, все отрезки орбиты внутри N^ и S^ будут £-близки друг к другу, в то время как часть, содержащаяся в К, будет г-близка к одному из фиксированного числа выбранных отрезков орбит. Таким образом, расхождение отрезков орбит может происходить только благодаря различию времен входа орбит в множество К С другой стороны, в силу компактности для любого данного потока Ф = {(р^} и для каждого £ > О существует такое (5(£) > О, что для всех Г мы имеем d|(x, (р'х) < £, если О ^ s ^ 6(e). Таким образом, каждый отрезок орбиты длины Г будет £-близок к сдвигу одного из М(£) выбранных отрезков в К^ где сдвиги производятся на числа, кратные S{£). Количество всех таких сдвигов растет линейно с ростом Т, и, следовательно, топологическая энтропия потока равна нулю. Это в известном смысле
§ 3.2. ПРИМЕРЫ ВЫЧИСЛЕНИЯ ТОПОЛОГИЧЕСКОЙ ЭНТРОПИИ 131 пример самого медленного роста числа d^-шаров, какой только возможен, если вообще имеет место какой-нибудь рост. Таким образом, мы доказали следующий факт. Предложение 3.2.2. Топологическая энтропия градиентного потока на круглой сфере равна нулю. Нетрудно видеть, что эта аргументация имеет достаточно общий характер. В частности, она применима к двум примерам градиентного потока на торе из § 1.6. Немного постаравшись, мы могли бы обобщить эти рассуждения на случай градиентного потока любой функции с изолированными критическими точками. Мы не будем, однако, этого делать, потому что возникающее в результате утверждение слабее, чем утверждение (3.3.1), которое позволяет заключить, что топологическая энтропия любого градиентного потока равна нулю. 3.2 в. Растягивающие отображения. Растягивающие отображения Е^, введенные в § 1.7, — первый пример из нашего обзора, где действительно появляется сложная структура орбит. Так как одна из особенностей этой структуры — экспоненциальная скорость роста числа периодических орбит (см. предложение 1.7.2), естественно ожидать, что общая экспоненциальная сложность структуры орбит, измеряемая топологической энтропией, будет также положительной. Предложение 3.2.3. Если meN, т ^2, то h^^p(E^)=\og\m Доказательство. Для отображения Е^, а на самом деле и для любого растягивающего отображения, расстояние между итерациями любых двух точек растет, пока не становится больше некоторой константы, зависящей от нашего отображения (1/2|т| для отображения £?^). Чтобы упростить обозначения, допустим, что m > 0. Пусть x,yeS\d(x,y)< m~"/2. Тогда d^-{x, y) = d(E^'\x), E^~^(y)). Поэтому если d^-(x, у) > £, то d(x, у) ^ > £771"". Пусть £ = 771'^. Тогда множество {гт~"~^ ] г = О,..., т" + ^ - 1} представляет собой наибольшее множество точек, попарные d^™-расстояния между которыми не меньше, чем т'^. Таким образом, -к „\ „^п + к Щ^ш,т~\п) = т и, следовательно. h(EJ= lim lim l2iiM%Z!i:Vl) = lim lim IL±A log m = log m. i—ЮОП-+00 ''' fc—ЮОП-+00 ^'' Случай m < 0 рассматривается точно так же. D Для любого отображения /: 5^ —+ 5^ индуцированное отображение /^ фундаментальной группы Z есть просто умножение на deg/. Используя естественную образующую Z, мы немедленно видим, что /гД/) = log | deg/|. Поскольку топологическая энтропия является инвариантом топологического сопряжения (следствие 3.1.4) и каждое растягивающее отображение степени т топологически сопряжено с Е^ согласно теореме 2.4.6, мы получаем такое следствие из предложения 3.2.3. Следствие 3.2.4. Если /: 5' —+5' --растягивающее отображение степени т, то K,(f) = K{F)=p{f)=\og\m\.
132 Часть 1. Гл. 3. ОСНОВНЫЕ КЛАССЫ АСИМПТОТИЧЕСКИХ ИНВАРИАНТОВ - 3.2 г. Сдвиги и топологические цепи Маркова. Как и в п. 1.9 а, рассмотрим пространство Qj^ с метрикой d = djo^v, которая задается следующим образом: оо . , П5=: -оо (lOiV) Тогда для а = (а.^,..., ot^) симметричный цилиндр C^ = {cj €fi„ I cj^ = а^ для |г| < т} является одновременно шаром радиуса £^ = (10iV")~"*/2 с центром в любой из своих точек. Аналогично, если мы зафиксируем числа о;_^,..., а^^„, цилиндр ^-т,...,п + ш^ г^ ^^ tj, = а, для -т^г^т-\-п} (3.2.1) является одновременно шаром радиуса г^ с центром в любой из своих точек для метрики d^^, построенной по сдвигу а^. Таким образом, любые два d^^-шара радиуса г^ либо совпадают, либо не пересекаются, и существует в точности N*^+^"^+^ различных шаров вида (3.2.1). Покрытие ^^ этими шарами, очевидно, минимально, так что S^ (а^, е^, п) = ]У" + ^"* + ^ и h{a^)= lim lim ~\ogN'^''^"^''^ =\ogK Подобным образом для топологической цепи Маркова а^ мы видим, что S^(aj^, е^^п) равно количеству цилиндров вида (3.2.1), которые имеют непустое пересечение с множеством fi^. Допустим, что каждая строка матрицы А содержит по крайней мере одну единицу. Поскольку число допустимых слов длины п, которые начинаются с символа i и кончаются символом у, равно элементу а^^ матрицы Л" (см. лемму 1.9.4), количество непустых цилиндров ранга п ч-1 в fi^ равно Y1 ^?у < ^ ' 11-^"11 -^я неко- торого постоянного числа С. С другой стороны, поскольку все числа a^j N-l неотрицательны, J] а"^ >с||Л"|| для некоторой другой константы с > 0. 1,3^0 Таким образом. JV-I S^J<r^,^^,n)=Y,<^l^'"' (3-2.2) И bi-0 log АГ'' =logr(A)= lim llog||A"||= lim ^log|A"+2"^ = lim i log S,Ja^,e^,n) = h(a^), (3.2.3) где r(A) — спектральный радиус матрицы A (определение 1.2.1). Сравнивая (3.2.2) и (3.2.3) со следствием 1.9.5, мы получаем следующее предложение. Предложение 3.2.5. Для любой топологической цепи Маркова сг^ выполнены равенства \ор(^а) = р(^а) = ^^S\^T^
§ 3.2. ПРИМЕРЫ ВЫЧИСЛЕНИЯ ТОПОЛОГИЧЕСКОЙ ЭНТРОПИИ 133 3.2 д. Гиперболические автоморфизмы тора. В заключение рассмотрим автоморфизм тора F^(x, у) = (2х-Ь у, X-\-у) (mod 1). В § 2.5 мы показали что F^ кова сгд, где является фактором топологической цепи Map А О О О 1 1 1 1 1 о о Мы уже знаем, что число А значению матрицы L З + л/5 равно максимальному собственному , определяющей F^. Таким образом, согласно предложению 3.1.6 мы имеем HFA^h{aA = \og З + л/5 2 (3.2.4) С другой стороны, рассмотрим все периодические точки отображения F^ периода п. Если р, g — две такие точки, и если они достаточно близки друг к другу, скажем, расстояние между ними dist(p, q) < 1/4, то существует однозначно определенный минимальный прямоугольник psqt^ образованный отрезками растягивающихся и сжимающихся направлений, проходящих через j? и д. Под действием F^ стороны pt и sq растягиваются с коэффициентом Aj = = "t > 2, в то время как другие две стороны сжимаются с коэффициентом Af'. Таким образом, под действием Fr либо F£'^ периметр прямоугольника Рис. 3.2.1. Гетероклииические точки psqt увеличивается и продолжает увеличиваться под действием итераций этого отображения, до тех пор пока итерации р и g не окажутся достаточно далеко друг от друга, так что образ нашего прямоугольника перестанет быть минимальным. Поскольку р и g — периодические точки, это должно рано или поздно случиться, так как п-й оораз или прообраз минимального прямоугольника не может быть минимальным; его периметр будет слишком велик. Таким образом, в какой-то момент времени к расстояние между F^{p) и F^{q) станет большим, чем 1/4, т. е. все периодические точки периода п образуют (тг, 1/4)-отделенное множество в метрике d^^. Следовательно, N^(F^, 1/4, п) >P„(Fi), и по предложению 1.8.1 /i(i^.)^P№) = log З + л/5 2 (3.2.5) Вновь, как и для транзитивных топологических цепей Маркова, мы получаем из (3.2.4) и (3.2.5) следующее предложение.
134 Часть 1. Гл. 3. ОСНОВНЫЕ КЛАССЫ АСИМПТОТИЧЕСКИХ ИНВАРИАНТОВ Предложение 3.2.6. Если отображение F^: Т^ —+ Т^ имеет вид F,(x,y) = (2x + y,x + y) {то&\), то h{F,)=p{F,) = ^^. Замечание. В случае растягивающего отображения Е^^ так же как и для топологической цепи Маркова сг^, можно показать, что периодические точки образуют (тг, ео)-отделенное множество для некоторого е^. Это позволяет нам получить неравенство h^^^ > р одним и тем же способом для всех трех случаев. Другое сходство растягивающих отображений и автоморфизмов тора проявляется при подсчете энтропии h^ их действий на фундаментальной группе. Фундаментальная группа имеет вид 7ri(T2, (О, 0)) = Z^, и отображение F^^ действует на ее естественных образующих 7i =(i, 0) и 72 =(0Л) следующим образом: -Fi^(7i) = 27i + 72» ■^♦(72) = 7i + Ъ- "^^^ как это свободная абелева группа, представления F^^^7iJ ^ =ij2, вида (3.1.22) могут быть приведены к каноническому виду, который оказывается не чем иным, как матрицей L". Из этого немедленно следует, что K(F^) = log —^—• Таким образом, мы столкнулись с интересной ситуацией. Для обоих гладких примеров (т. е. растягивающих отображений окружности и гиперболического автоморфизма тора) со сложной, экспоненциально растущей структурой орбит все три естественные меры экспоненциального роста орбит скорость роста числа периодических точек р, топологическая энтропия h^^^ и энтропия действия на фундаментальной группе h^ — совпадают. Совпадение первых двух величин является широко распространенным, хотя и далеко и не универсальным явлением. Этот факт, так же как и структурная устойчивость, связан с наличием локальной гиперболической структуры (см. § 6.4, теорему 6.4.15, и § 18.5, теорему 18.5.1). Совпадение же h^ с другими двумя характеристиками в большой степени случайно и зависит как от наличия гиперболичности, так и от малой размерности. Можно показать, что уже для автоморфизмов торов больших размерностей это совпадение может не иметь места (см. упражнение 3.2.8). Однако теорема 8.1.1 показывает, что h^ ^ /ijj^p. Для топологических цепей Маркова скорость роста числа периодических точек и топологическая энтропия также совпадают. Причиной этому вновь служит гиперболичность, поскольку, как мы знаем из конструкций п. 2.5 в, топологическая цепь Маркова топологически сопряжена с ограничением некоторых гладких систем, ограниченных на специальные инвариантные подмножества, которые обладают гиперболическим поведением. 3.2 е. Конечность энтропии липшицевых отображений. Во всех наших примерах топологическая энтропия отображений оказывалась конечной. Мы покажем сейчас, что это всегда верно для липшицевых отображений компактных метрических пространств, в частности для дифференцируемых отображений и символических систем. Определение 3.2.7. Пусть (X, d) — компактное метрическое пространство и Ь(£)—минимально возможное количество элементов покрытия X £-шарами. Тогда число D(X):= lim i^f^ €lRU{oo} называется энтропийной размерностью X.
§ 3.2. ПРИМЕРЫ ВЫЧИСЛЕНИЯ ТОПОЛОГИЧЕСКОЙ ЭНТРОПИИ 135 Замечание. Число D(X), очевидно, инвариантно относительно перехода к билипшицево эквивалентной метрике. Нетрудно видеть также, что D([0,1]") = п и что для дифференцируемых многообразий энтропийная размерность равна топологической размерности. Наконец, ясно, что D(y) ^ D(X)^ если Y сХ. Однако энтропийная размерность не является топологическим инвариантом. Определение 3.2.8. Пусть (X, d) — метрическое пространство и отображение f\ X —*Х липшицево. Тогда константой Липшица L(f) отображения / называется число Теорема 3.2.9. Пусть (X, d)—компактное метрическое пространство конечной энтропийной размерности D{X) и f: X —+ X— липшицево отображение. Тогда h^^if)^D{X)max{0,\ogLif)). Доказательство. Пусть L < тах(1, L(f)). Тогда d(f(x), f(y)) ^ ^Ld(x, у) для всех х^уеХВ частности, /""(B^ix, L'^^e)) с B^(f""(x), е), О^т^п, и потому В^(х, Х~"£) сВ^/{х, е) для всех хе X, пеМи £>0. Таким образом, 5Л/,г,п)^Ь(Х-"г). Поскольку I \og(L ~"г)| = п log L — log £, мы имеем п ioga'"g) logX > + |б|!%) = Б^ I'°^<^-•)! (■ + ° G так что H/it,p(/)^-D(X)logi:<oo. D Поскольку для многообразия энтропийная размерность равна обычной размерности и для всякого С-отображения / компактного риманова многообразия L(f) = sup ||I5/a.||, мы получаем такое следствие. X Следствие 3.2.10. Для С^-отображения f: М—* М компактного риманова многообразия М верна оценка /it,p(/) ^ тах(0, dim М log sup \\Dfj) < оо. Конечно, последняя оценка выполняется для любой римановой метрики на М. Естественно попытаться минимизировать норму \\Df\\. На самом деле вместо этой нормы можно использовать определяемую из (3.2.6) константу 1(f), которая не зависит от выбора римановой метрики (упражнения 3.2.10 и 3.2.11). 3.2 ж. Разделяющие отображения. В трех последних пунктах мы отмечали, что при вычислении топологической энтропии не было необходимости переходить к пределу при £ —+0, поскольку числа /ij(/, г) стабилизировались для достаточно маленьких £. Этот факт не всегда верен, но он
136 Часть 1. Гл. 3. ОСНОВНЫЕ КЛАССЫ АСИМПТОТИЧЕСКИХ ИНВАРИАНТОВ следует из определенного топологического свойства, представляющего самостоятельный интерес. Пусть, как и ранее, X — компактное метрическое пространство. Определение 3.2.11. Гомеоморфизм (соответственно, непрерывное отображение) /: X —+ X называется разделяющим, если существует такая константа 5 >0, что из условия d(/"(x), Р{у)) < S для всех п € Z (соответственно п €No) следует, что х=у. Непрерывный поток </?* называется разделяющим, если для любой такой данной непрерывной функции s: R —+ Е, что з{0) =0, d(v?*(x), <р'^^\х)) < 6, из неравенства d(v?*(x), <р^^*\у)) < 8 следует, что у = <р''{х) для некоторого г € Е. Максимальное число 8^^ удовлетворяющее этому свойству, обычно называется постоянной разделения данной динамической системы. В силу компактности наличие разделения не зависит от выбора метрики на X, определяющей данную топологию, и, следовательно, является инвариантом топологического сопряжения. Однако постоянная разделения зависит от выбора метрики. Легко видеть, что ни один из примеров в первой части нашего обзора (повороты окружности, сдвиги тора, линейные потоки на торе, вполне интегрируемые гамильтоновы системы и градиентные потоки) не является разделяющим. С другой стороны, оказывается, что все примеры из второй части (растягивающие отображения окружности, топологические цепи Маркова, гиперболические автоморфизмы тора) обладают этим свойством. Доказательство того, что растягивающие отображения являются разделяющими, содержится в доказательстве предложения 3.2.3. Для топологических цепей Маркова, как и для произвольных символических динамических систем, наличие этого свойства самоочевидно: условие шфш' означает, что io^ ф uj'^ для некоторого п. Но тогда применение п-й степени сдвига дает нам элементы, нулевые координаты которых различны. Расстояние между любыми двумя такими элементами больше некоторой фиксированной константы. Наконец, для гиперболического автоморфизма тора F мы будем использовать тот же прием, что и в доказательствах топологической транзитивности (предложение 1.8.1) и отделенности периодических точек друг от друга (см. п. 3.2 д). А именно, если точки х, у € Т^ близки друг к другу, то имеет место одна из трех возможностей: либо эти две точки находятся на одном и том же коротком отрезке растягивающейся прямой, либо на одном и том же коротком отрезке сжимающейся прямой, либо можно единственным образом указать минимальный прямоугольник, cocтoяшJий из отрезков сжимающихся и растягивающихся прямых, пpoxoдяшJиx через х и у. В первых двух случаях ситуация очень похожа на то, что мы имели в случае растягивающих отображений. А именно, расстояние между положительными (соответственно отрицательными) итерациями точек х, у равно расстоянию вдоль растягивающейся (соответственно сжимающейся) прямой и возрастет экспоненциально, до тех пор пока не превзойдет 1/(3 +v5) = 1/(2Л). В последнем случае можно использовать только что изложенное соображение, заменяя у точкой z — пересечением неустойчивой прямой х с устойчивой прямой у — и используя неравенство треугольника. Расстояние между noj- ложительными итерациями х vi z растет, пока оно не достигнет по крайней мере величины 1/(2Л), в то время как расстояние между положительными итерациями z vi у равно расстоянию dist(t/, z) ■ Л —п
§ 3.2. ПРИМЕРЫ ВЫЧИСЛЕНИЯ ТОПОЛОГИЧЕСКОЙ ЭНТРОПИИ 137 Главная причина того, что мы обсуждаем разделяющие отображения в данном параграфе, заключается в том, что наличие этого свойства упрощает вычисление топологической энтропии. Лемма 3.2.12. Пусть X — компактное метрическое пространство и f: X —+ X —разделяющий гомеоморфизм с постоянной разделения 6^. Тогда для 0<е < 6^/2 и 6 >0 существует такое число Cs^^, что для всех п € N выполнено неравенство Доказательство. Пусть 0< е < 6q/2, и пусть числа iV* е N и а >0 таковы, что diN^iU-Ч^). ГЧу)) ^ 25 =^ d(x, у) < 8 и d(x, у)^ а ^ *^лг-ы(/"^(^)11~^{у)) ^ ^- Существование такого N следует из того, что наше отображение разделяющее, а существование а — из равномерной непрерывности. Если Е —максимальное (п, (5)-отделенное множество, а F — максимальное (п, е)-отделенное множество, то для х^Е существует такой элемент z{x) € F, что dl{x^ ^{^)) < ^- Таким образом, card(S) ^ Y^ card(^J, где Е/.= {хеЕ \ z{x) = z}, и мы докажем наше zeF утверждение, как только найдем оценку сверху числа card(S^), не зависящую от п. Но если х, у е Е^^ то d/(x, у) ^ 2е по определению Е^^ следовательно, ^(/4^)i Г(У)) ^ ^ Д^я ^ ^ W п — N) в соответствии с выбором N (и, таким образом, по определению а), и, поскольку множество {х, у} является (п, 5)-отделенным, d(x, у)> а или d{P{x), f (у)) > а- Следовательно, card(SJ = card{(a;, Г{х)) \ хеЕ,}^ ^ niax{cardA \ А СХ х X я^а,Ь еЛ d(a, b) > а} =: М, так как точки (х, /"(х)) как раз и образуют о;-отделенное множество. D Замечание. Очевидно, для 5 > е мы можем взять С^^ = 1. Следствие 3.2.13. Если/: X-^ X — разделяющее отображение и 6 не превосходит половины постоянной разделения 6^, то /ij(/, 6) = = h{f). То же самое верно и для потоков. Столь же простым образом связаны топологическая энтропия и рост числа периодических орбит (3.1.1) разделяющих отображений. Предложение 3.2.14. Для любого разделяющего гомеоморфизма f компактного метрического пространства p{f) ^ \opif)- Доказательство. Если 6^ — постоянная разделения, то множество Fix(/") является (п, &5)-отделенным для всех п €N, поскольку если хфуе еFix(/") и 6:= rmx{d{f'{x), f'{y)) | О ^ г < n}^ то d(f{x), f'(y)) < 6 ддя г 6 Z и, следовательно, 6 > 6q. Таким образом, /*„(/) < N{f, е, п) для е ^ 6^. Утверждение доказано. D Имеется еще одно свойство разделяющих отображений, которое, помимо прочего, используется в доказательствах структурной устойчивости. Предложение 3.2.15. Если /; X -+ X —разделяющее отображение с постоянной разделения 6q, h: X ^ X —такое непрерывное отображение, что d\x, h{x))< 8q для всех х^ и foh = hof, то h —тождественное отображение.
138 Часть 1. Гл. 3. ОСНОВНЫЕ КЛАССЫ АСИМПТОТР1ЧЕСКИХ ИНВАРИАНТОВ Доказательство. Пусть h(x) = уфхи d{f''(x),f''(y)) ^ 5„. Поскольку Г (у) = Г (h{x))=h {Г (х)), мы имеем ^(Г(х), ЦГ(^)))^ %^ что противоречит нашему предположению. D Упраяснения^ 3.2.1. Пусть /: [О, 1]^'[0, 1] — гомеоморфизм. Докажите, что h{f) = 0. 3.2.2. Пусть /: 5^ -+ 5 —непрерывное отображение. Докажите, что h{f) ^ log | deg/|, 3.2.3. Докажите, что если /: 5^ —> 5^ —монотонное отображение (т, е. его поднятие на R — монотонная функция), то h{f)=\og\degf\. 3.2.4. Вычислите минимальное положительное значение топологической энтропии для топологической цепи Маркова а^, где Л — (3 х 3)-матрица. 3.2.5. Вычислите топологическую энтропию символических динамических систем ^ и 5з, определенных в упражнении 1.9.10. 3.2.6. Вычислите топологическую энтропию следующего аффинного отображения А^ двумерного тора: ^a(^'V) = (a;+a, у-\'Х) (mod 1) (см. упражнение 1.4.4), 3.2.7. Пусть L —целочисленная (т х т)-матрица с определителем +1 или -1, и пусть ^11 • ■ -» ^т — собственные значения L, взятые с учетом их кратностей. Докажите, что для автоморфизма Fr: Т'" —>■ Т'" выполнена оценка t:|Aj>I Найдит 3.2.9. Докажите, что существует такая положительная константа I, что для любой рима- новой метрики о" на М существует такая другая константа с =* с(/, <г), что для любых х,у&М и п 6 N выполнена оценка d^/"(==). Пу)) ^ <=1"^А^, у), (3.2.6) где dj — расстояние, индуцированное римаиовой метрикой <г. Обозначим минимальную константу I, удовлетворяющую (3.2.6), через 1(f). 3.2.10. В условиях следствия 3.2.10 докажите, что h^ (f) ^ 1(f) dim М. 3.2.11. Докажите утверждение, аналогичное следствию 3.2.13, для необратимых отображений. § 3.3. Свойства возвращения Мы уже встречались с такими свойствами, связанными с наличием некоторого возвращения траекторий, как топологическая транзитивность (определение 1.3.1), минимальность (определение 1.3.2) и топологическое перемешивание (определение 1.8.2). Топологический тип замыкания множества Рег(/) всех периодических точек представляет собой другой инвариант того же типа. Кроме того, из определения 1.6.2 нам известны понятия а;-пре- дельного и о;-предельного /-инвариантного множества х для каждой точки X. Некоторые инварианты топологического сопряжения можно получить, изучая топологический тип совокупности а-и а;-предельных множеств; например, топологическая транзитивность эквивалентна тому факту, что одно из этих множеств содержит все пространство. Объединение всех а-или а;-предельных множеств не обязано быть замкнутым. Топологический тип
§ 3.3. СВОЙСТВА ВОЗВРАЩЕНИЯ 139 замыкания каждого из этих объединений, конечно же, инвариантен относительно топологического сопряжения. Мы будем обозначать эти замыкания Понятие и;-предельной точки связано с очень важным классом инвариантных множеств топологической динамической системы. Как обычно, мы даем определение только для случая дискретного времени, так как аналог этого определения для потоков очевиден. Определение 3.3-1. Компактное множество АсХ называется аттрактором отображения /, если существуют такая окрестность V множества А и такое iV € N, что f^{V) cV и А= П Г{УУ neN лг-1 П /"С^)' ^^ можем полагать, что п = 0 Замечание. Рассматривая У в этом определении N=1. Если А — аттрактор, то существует такая открытая окрестность V множества Л, что ш{х) С А для всех xeV. Однако обратное утверждение неверно, как показывает пример диффеоморфизма f: S^ ванного отображением S\ индуциро- 1 • 2 X Н-+ аГ + утг sin 7ГХ (mod 1). Точка х=0 не является аттрактором, но а{/) = ш{/) = {0}. Точки, которые с одной стороны являются притягивающими, а с другой — отталкивающими, называются пол у устойчивыми. О ГЧ^) X /(^) 1 Рис. 3.3.1. А это не аттрактор Теперь мы продемонстрируем два типа возвращения, присущие отдельным орбитам, которые встречаются очень часто. Так как нет никакой разницы между случаями дискретного и непрерывного времени, дадим формальные определения только для первого случая. Определение 3.3.2. Точка х е X называется положительно рекуррентной, если xeuf{x), т. е. x = \imP^(x) для некоторой последовательности щ —+ оо. Для обратимого отображения / точка х называется отрицательно рекуррентной, если х е а{х). Наконец, х — рекуррентная точка, если она положительно и отрицательно рекуррентна.
140 Часть 1. Гл. 3. ОСНОВНЫЕ КЛАССЫ АСИМПТОТИЧЕСКИХ ИНВАРИАНТОВ Понятие рекуррентности, очень естественное и простое, не свободно от некоторых недостатков; например, из положительной рекуррентности не следует отрицательная (см. упражнение 3.3.1) и множества всех положительно рекуррентных, отрицательно рекуррентных и рекуррентных точек часто не замкнуты; например, для бернуллиевского сдвига имеются точки, положительные и отрицательные полуорбиты которых плотны, равно как и точки, которые не являются ни положительно, ни отрицательно рекуррентными. Мы будем обозначать замыкания этих трех множеств R'^(f), R-(f)HR(f). Определение 3.3.3. Точка х еХ называется неблуждающей для отображения /: X —► X, если для любого открытого множества U э х существует такое N>0, что f^{U)r\U^0. Множество всех неблуждающих точек отображения / обозначается NW{f). Равным образом в этом определении можно полагать, что N сколь угодно велико. В самом деле, если для каждого U выполняется условие f^{UJr\ П С/ =0, iV ^ iVg, то точка х не периодическая. Следовательно, можно найти такую окрестность Vbx, что f'(V)r\ V —0, г =0,1,..., Д)1 и х не может быть неблуждающей точкой. В определении для потоков с самого начала следует потребовать, чтобы время возврата не было слишком маленьким. Другое простое замечание состоит в том, что для обратимого отображения /, неблуждающей точки х и открытого множества V Э х существует сколь угодно большое (по модулю) отрицательное iV, для которого f^{V)nV^0. Предложение 3.3.4. Множество NW{f) замкнуто и /-инвариантно. Оно содержит все ш-и а-предельные точки для всех точек. Доказательство. Пусть х„ G NW{f)f х„ —+ х € Ц где U — открытое множество. Тогда x^eU для достаточно больших п, так что множество f^{U)C\U непусто для некоторого N и х € iVW(/). Отсюда немедленно следует /-инвариантность: пусть /(х) € U и У = /~^(С/") — полный прообраз и Если X € NWif)^ то У П f^iV) Ф 0 для некоторого N >0. Но тогда /(УП/^(У))=г7П/^(С/)7^0. Наконец, положим х= lim Г^{у)еи, U — п. —»оо открытое множество. Допустим, что п^^ — возрастающая последовательность. Тогда f^{y) € и для любого достаточно большого к и /"'^'(у) € U, так что C/"n/"^^'~"*(U")7^0. Доказательство для сх-предельных точек совершенно аналогично. D Поскольку для каждого хеХ а;-предельное множество ш{х) непусто, мы имеем такое следствие. Следствие 3.3.5. Для непрерывного отображения /: X -^ X компактного пространства X множество NW{f) непусто. Конструкция неблуждающего множества может быть проитерирована. Именно, пусть NW^{J)^NW{f) и по индукции NW^^^{f) = NW(f ^^^^)- Таким способом мы получаем вложенную последовательность замкнутых /-инвариантных множеств, пересечение которых обозначим NW^{f). Теперь можно повторять эту конструкцию. Короче говоря, процесс использует трансфинитную индукцию, которая останавливается на некотором счетном ординале. Последнее множество называется центром динамической системы. Так как рекуррентные точки определяются исключительно через свойства их собственных орбит, предложение 3.3.4 может применяться к ним индуктивно, что позволяет нам заключить, что замыкание R{f) множества
§ 3.3. СВОЙСТВА ВОЗВРАЩЕНИЯ 141 всех рекуррентных точек (про которое мы пока не знаем, что оно непусто) содержится в центре. На самом деле практически во всех интересных примерах эта конструкция стабилизируется очень быстро, в худшем случае после одного или двух шагов, так что центром является либо NW{f), либо iVV^(/), хотя легко построить пример динамической системы, для которой это не так (см. упражнения 3.3.2 и 3.3.3). Таким образом, ясно, что множество NW{f) — средоточение всякого воз- враш.ения, так как оно содержит все о;-и w-предельные точки и рекуррентные точки, включая, конечно, все периодические точки. Принимая во внимание предложения 3.2.3, 3.2.5 и 3.2.6, кажется весьма вероятным, что это множество должно также содержать достаточное количество орбит, чтобы дать полную топологическую энтропию. Это в самом деле так: прямое доказательство этого факта не очень просто и базируется на достаточно глубокой разработке простой идеи, используемой в п. 3.2 б. Мы выведем (3.3.1), используя инвариантные меры (см. § 4.1) и вариационный принцип (теорема 4.5.3), который устанавливает связь между топологической энтропией и энтропией инвариантных мер. Так как носитель любой инвариантной меры принадлежит NW{f) (см. предложение 4.1.18), вариационный принцип доказывает (3.3.1). Равенство (3.3.1) помогает увидеть, что топологическая энтропия \ , вообш.е говоря, не непрерывна. Действительно, рассмотрим семейство Д отображений единичного диска в С вида fx(z) = (^ — А)^^, О ^ Л ^ 1. Для Л =0 выполнено равенство fo\j^(f^y ^Ms'um ^' поскольку /o|^i = Е^ и топологическая энтропия Е2 равна log 2, мы имеем h^op{fo) = ^og2, в то время как для Л > О неблуждаюш.ее множество состоит из одной точки — начала координат, так что J\opifx) =^- Периодические точки представляют наиболее совершенный случай воз- враш.ения. Однако не каждая динамическая система с компактным фазовым пространством имеет периодические орбиты. CлeдyюшJий случай весьма регулярного и равномерного возвращения представляется минимальными множествами. Предложение 3.3.6. Каждое непрерывное отображение f компактного метрического пространства X имеет инвариантное минимальное подмножество. Доказательство. Рассмотрим совокупность С всех замкнутых /-инвариантных подмножеств /, частично упорядоченную по включению. Так как пересечение любого числа замкнутых инвариантных подмножеств замкнуто и инвариантно, любое вполне упорядоченное подмножество coBOKynj нести С имеет нижнюю грань. Тогда по лемме Цорна С имеет минимальный элемент, т. е. замкнутое /-инвариантное множество Л, которое не имеет никаких замкнутых /-инвариантных подмножеств. Таким образом, орбита каждой точки хеЛ плотна в А, т. е. А минимально. D Так как каждая точка минимального множества, очевидно, рекуррентна, мы получаем такое следствие Следствие 3.3.7. R{f)^0. Обозначим замыкание объединения всех инвариантных минимальных множеств / через M(F).
142 Часть 1. Гл. 3. ОСНОВНЫЕ КЛАССЫ АСИМПТОТИЧЕСКИХ ИНВАРИАНТОВ Следующая последовательность включений показывает взаимосвязь между различными характеристиками возвращения, которые мы обсуждали выше: Рег(/) С М(/) с R{f) С R4f) и Л-(/) с NW{f). (3.3.2) Топологические типы всех этих множеств являются инвариантами топологического сопряжения. В случае потоков то же верно для орбитальной эквивалентности. Все множества в (3.3.2), за исключением, быть может, Рег(/), непусты. Наконец, каждое из включений в (3.3.2) может быть строгим. Некоторые из соответствующих примеров содержатся в упражнениях 3.3.1, 3.3.2 и 3.3.5. Наличие непериодических рекуррентных точек часто называют нетривиальным возвращением, особенно в литературе по обыкновенным дифференциальным уравнениям. Это первое проявление относительно сложного асимптотического поведения. В определенных случаях малой размерности, таких как гомеоморфизмы окружности (гл. 11) и потоки на поверхностях (гл. 14), можно дать полное и обозримое описание всех возможных типов возвращения. Упражнения 3.3.1. Найдите точку в пространстве Пд, которая является положительно рекуррентной, но не отрицательно рекуррентной для полного 2-сдвига (Гд. Покажите, что множество таких точек плотно в Пз- 3.3.2. Для любого данного натурального числа п постройте символическую динамическую систему /, для которой все множества NWi^{f), fe = 1,..., п, различны, но NW (f) = 3.3.3. Постройте гомеоморфизм / компактного метрического пространства, для которого все множества AW„(/), n6N, попарно различны. 3.3.4*. (С. Симпсои) Докажите существование такого инвариантного минимального множества, как в предложении 3.3.6, без использования леммы Цорна или аксиомы выбора. 3.3.5. Приведите пример топологически транзитивной динамической системы на компактном многообразии, для которой единственное минимальное множество — неподвижная точка. 3.3.6. Докажите, что если / — гомеоморфизм совершенного связного компактного метрического пространства X, множество Рег(/) плотно в X и f^ фЫ для любого п 6 N, то / имеет непериодическую рекуррентную точку. 3.3.7. Получите новое доказательство теоремы 2.9.4, рассмотрев отображения F: Х х R—* -> Х X R, (ж, t)y-^{f{x), t-\'g{x)), и Гд! Х X R-> Х X R, (а;, i) ь->(я;, i + А), н покажите, что предположения теоремы 2.9.4 гарантируют существование компактного минимального подмножества для F.
ГЛАВА 4 Статистическое описание поведения орбит и введение в эргодическую теорию Мы начнем эту главу с демонстрации того, как различные свойства возвращения, такие как рекуррентность орбиты (определение 3.3.2), топологическая транзитивность (определение 1.3.1), минимальность (определение 1.3.2) и топологическое перемешивание (определение 1.8.2), могут быть уточнены в количественном отношении посредством вычисления асимптотических частот, с которыми возникают cooTBeTCTByromjHe типы возвра- ш.ения. Чтобы показать, что для некоторых орбит такие асимптотические частоты суш.ествуют, мы должны обратиться к теории меры. Позже будет установлено, что топологическая энтропия, будучи уже по определению количественным инвариантом, также обладает статистическим аналогом, с которым она тесно связана. § 4.1. Асимптотическое распределение и статистическое поведение орбит 4.1 а. Асимптотическое распределение, инвариантные меры. Пусть / — непрерывное отображение метризуемого пространства X в себя, и для точки X е X и «достаточно хорошего» множества U с X пусть ^uifi ^' ^) — количество таких целых чисел fcG[0, п—1], что /*'(ar)G U, т. е. число посещений множества U первыми п итерациями точки х. Предел FM.x):= lim Щ^, (4.1.1) п-оо ^ если он существует, выражает асимптотическую плотность распределения итераций между множеством U и его дополнением X \U. В отличие от замыкания орбиты точки х, которое только показывает, в какую часть фазового пространства приходят итерации х, асимптотическая плотность дает для различных множеств, например, для маленьких шариков, количественную информацию относительно частот таких посещений. Можно переформулировать определение асимптотической частоты F^{fy х), заметив, что /*(х) € и тогда и только тогда, когда значение характеристической функции Хи множества U в точке f^{x) равно единице. Следовательно, п ^1 Fa{f,x,n) = J2xuif4=^)h fc=0 1 (^-^-2) FM.x)=\im JiJ2^ifinx))
144 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ Выражение (4.1.2) называется временным средним или биркгофовским средним функции Хи- Удобно рассматривать усреднения по времени функций, отличных от характеристических; наиболее естественные кандидаты на эту роль — непрерывные функции. Таким образом, предположим, что для данной точки х е X и каждой непрерывной функции <р на X временное среднее 4(^):= lim ^Ё^(/'(^)) (4.1.3) существует. Зависимость от / в наших обозначениях не указывается явно, так как в дальнейшем отображение / будет фиксировано и мы будем в основном изучать зависимость от точки х и ip. Как обычно, обозначим через С(Х) пространство всех непрерывных функций на X с равномерной топологией. Тогда временное среднее 1^: С(Х)-+Е удовлетворяет следующим свойствам: 1) линейность: 1^(а(р +0Ф) = al^(<p) +pi^(i>). а, /? е Е; 2) ограниченность; |ia.(v?)| ^ sup |v?(2/)|.' 3) положительность: 1^(<р) ^ О, если (^ ^ О и /^1 = 1; 4) инвариантность относительно /: Тх(У^^1)=^(^р) ^^^' ^^то то же самое, Свойства 1) и 2) означают, что функционал /^ непрерывен. Свойство 4) получается простым вычислением: ~*°° к=0 fc^O = lim 1мГ(х))-<^(х))=0. п —t-oo Теперь мы можем использовать теорему Рисса о представлении П 2.7, которая утверждает, что любой положительный ограниченный линейный функционал на С(Х), т. е. функционал /: С(Х)-+Е, удовлетворяющий свойствам (1)—(3), представляется в виде Т(<р)= I <рdfj>, где // — однозначно X определенная борелевская вероятностная мера. Свойство (4) равносильно /-инвариантности /л, т. е. /^(/"^(Л)) = /^(A) для любого измеримого множества. (Обратное отображение появляется потому, что Xt/°/=X/-i(t;)) ^^о можно установить, рассматривая сначала открытые множества Ц для которых ^{dU)=0, аппроксимируя характеристическую функцию Хи непрерывными функциями Д так, что I f^ d^ -^ fi{U), и затем аппроксимируя множества общего вида такими открытыми множествами. Таким образом, мы показали, что 1Л<Р)= { V=»^Mx, (4.1.4) где /л^ — /-инвариантная борелевская вероятностная мера на X. Возникают следующие два следующих главных вопроса.
§ 4.1. АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ И ПОВЕДЕНИЕ ОРБИТ 145 А. Существуют ли точки, для которых асимптотические распределения определены? Б. При каких условиях инвариантная мера определяет любое асимптотическое распределение орбит, т. е. для данной /-инвариантной вероятностной меры /л можно найти такую точку х, что для всех ip€C(X) выполнено равенство J ip dfj> = 1^(<р)? На эти вопросы отвечает комбинация двух фундаментальных теорем, одна из которых принадлежит топологической динамике, а другая — эргоди- ческой теории. 4.1 б. Существование инвариантных мер. Теорема 4.1.1 (теорема Крылова — Боголюбова) [^]. Любое непрерывное преобразование метризуемого компактного пространства обладает инвариантной борелевской вероятностной мерой. Доказательство. Пусть дано преобразование /: X -^X и хе X. Выберем счетное плотное подмножество {<р^, </?2) • •.} пространства С(Х). п-1 Для каждого т последовательность (1/гг) ^ 'PmU^i^)) ограничена, следо- fc=0 вательно, она содержит сходящуюся подпоследовательность. С помощью диагонального процесса можно найти такую подпоследовательность п^^, А; = 1, 2,..., что для каждого т, m = 1, 2,..., существует предел lim ^Тч>Л1'{^))=-Нч>^ А —юо '^'к ■*—^ Теперь пусть <р — произвольная непрерывная функция. Зафиксируем е > О и выберем <р^ так, что sup|</?(x) — v?^(ar)| < е. Тогда я€Л" п^ - I "t - I "ь ~ I ^ Е v(/'(=«)) = ^ Е ^лп^)) + 7^ Е (^(/'И) - ч>л1\^))) ■ f=0 f=0 f=0 Первый член сходится к J{4^^):, абсолютная величина второго члена ограничена числом е. Таким образом, все предельные точки суммы слева отличаются друг от друга не более чем на е. Так как число е произвольно, существует следующий предел: й —* оо '"к *—' Функционал J: С(Х)-+Е, определяемый формулой (4.1.5), очевидно, линеен, ограничен и положителен. Кроме того, он инвариантен. Это следует из того же вычисления, из которого мы получили свойство (4). Таким образом, J((p)= I <pdfi^ по теореме Рисса о представлении П 2.7, где /л^ — /-инвариантная борелевская вероятностная мера. П Замечание. Если / — гомеоморфизм, // — /-инвариантная мера и множество АсХ измеримо, то /л(/(А)) = /л(Л). 4,1 в, Эргодическая теорема Биркгофа f^]. Эргодическая теорема Биркгофа имеет дело с преобразованиями абстрактных пространств, сохраняющими вероятностную меру. Для наших приложений, хотя это и не требуется собственно в эргодической теореме Биркгофа, соответствующее
146 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ Пространство с мерой удобно считать пространством Лебега (см. определение П 6.4), т. е. пространством, изоморфным с точностью до множества меры нуль отрезку, снабженному мерой Лебега, к которому добавлено не более чем счетное число атомов, т. е. точек положительной меры. Это понятие удивительно широко: фактически каждое вероятностное пространство с мерой, появляющееся в анализе или геометрии, обладает этим свойством. Например, любая борелевская мера на полном сепарабельном метрическом пространстве порождает пространство Лебега. За деталями мы отсылаем читателя к определению П 6.4 и предшествующему этому определению обсуждению. Преобразование (не обязательно обратимое) Т: X —^ X пространства с мерой на себя называется сохраняющим меру преобразованием, если для любого измеримого множества А его полный прообраз f~^(A) также измерим и /л(/~^(А)) = /л(А), Таким образом, теорема Крылова — Боголюбова означает, что каждое непрерывное отображение метризуемо- го компактного пространства может рассматриваться как сохраняющее меру преобразование пространства Лебега, порожденное борелевской мерой на X. Теорема 4.1.2 (эргодическая теорема Биркгофа). Пусть Т — сохраняющее меру преобразование вероятностного пространства (X, //), V? € L^{X^ /л). Тогда временное среднее п-1 п—юо '" л—rf fc=0 7 существует для /л-почти всех хеХ. Доказательство. Пусть /€ L^(fi), 1:={А еВ\ Т-^{А) = А} инвариантная а-алгебра, /j:= (инвариантная) производная Ра- fc-i дона — Никодима, F^ := max J^ / о TV Тогда на дополнении к множеству А := {х\ F^(x) —+ оо} €Х выполнено неравенство "^^ Е/°^*^ "^ п ^0' (4.1.7) fc = 0 но F^^i — F^oT=f — min(0, F^o Т) i f на A, так что по теореме Ле- бега О ^ П^п + , - Fn) Ф = И^п + i - i^„ о Г) d^ - J / Ф = J /х Mr « е'^" А А А А ЛИ /j < О, то /л(А) = 0. Если f = <р — <Рх — £, то /^ = —е < О, так что lim J2 ^— ^ ^0 //-почти всюду (см. (4.1.7)). Замена <р на -<р дает lim J^ ^«pj—^ /а-почти всюду. Таким образом, <pj. = <pj/а-почти п—* оо fc =0 всюду. П Итак, функция (р^ измерима и Г-инвариантна, и равенство ip^ = (pj влечет 1р^ dfi = \ 1р dfi, (4.1.8)
§ 4.1. АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ И ПОВЕДЕНИЕ ОРБИТ 147 Если преобразование Т обратимо, эргодическая теорема Биркгофа применима к Т~' и из нее следует сходимость почти всюду средних по отрицательному времени: п-1 i ^<^(Г-Чх))-.^^(х) (4.1.9) и, следовательно, также двусторонних средних по времени п-1 L ^ ^piT'^ix)). 2п-1 fc = -n+-1 предложение 4.1.3. </?г(х)='^^(х) почти всюду. Доказательство. Если бы утверждение предложения не было выполнено, существовали бы такое число е > О и такое Т-инвариантное множество Е положительной меры, что ^^{х) > '(рг(х) Н- е для х е Е (или <рг^{х)<'(ргг{х) — е для хеЕ). Но применение (4.1.8) к функции ч^'Хе Дзет \ <Pj. d^ = I (р d^. = I ~ipj, d/л, что приводит к противоречию. П Е ЕЕ 4.1 г. Существование асимптотического распределения. Исключительное множество, на котором положительные или отрицательные средние по времени не существуют, может, конечно, зависеть от функции (р. Однако, поскольку объединение счетного набора множеств меры нуль по- прежнему имеет меру нуль, для любого счетного набора функций, например для плотного множества непрерывных функций, можно найти общее множество полной меры, на котором средние сходятся. Тогда те же соображения, что применялись в доказательстве теоремы Крылова — Боголюбова, показывают, что имеется сходимость на общем множестве полной меры для всех непрерывных функций. Из этих рассуждений мы получаем такое следствие. Следствие 4.1.4. ПустьX —компактноеметризуемоепространство и f—непрерывное отображение. Тогда множество п- I {х е X I lim — У^ <p(f^i^)) существует для всех <р € С{Х)} имеет полную меру относительно любой f-инвариантной борелевской вероятностной меры. Если f —гомеоморфизм, тогда то же верно для .п-1 .п-1 множества {х е X | lim - J2 V^(/*(^))= 1*"^ ■;г S y^if'^'i^)) ^-^^ ^ ^ Объединяя это следствие эргодической теоремы Биркгофа 4.L2 с теоремой Крылова — Боголюбова 4.1.1, мы получаем положительный ответ на вопрос А из п. 4.1 а р]. Следствие 4.1.5. Для любого непрерывного отображения /: X -+ X компактного метрического пространства существует такая точка хеХ, что временные средние - J2 ^pif^i^)) сходятся для каж- fc = 0 дой непрерывной функции (р наХ и, кроме того, если / — гомеоморфизм, . п-1 то средние — J] y^if'^i^)) сходятся к тому же пределу.
148 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ 4.1 д. Эргодичность и строгая эргодичность. Определение 4.1.6. /-инвариантная мера /л называется эргодичной относительно /, если для любого измеримого /-инвариантного множества АсХ либо //(А)=0, либо //(Х\А)=0. Иногда говорят, что преобразование / эргодично относительно //, имея в виду то же самое свойство. Определение 4.1.7. Непрерывное отображение /: X —► X метризу- емого компактного пространства X называется строго эргодачным, если для него существует только одна инвариантная борелевская вероятностная мера. Предложение 4.1.8. Единственная инвариантная вероятностная мера /л строго эргодического отображения / эргодична. Доказательство. Для измеримого множества А С X, // (А) > О, обозначим через /л^ условную меру, определяемую таким образом: Мл (5):=^^^^. (4.1.10) Если мера /л не эргодична, то найдется такое /-инвариантное измеримое множество А, что 0< /л(А) < 1. Тогда //^ и м^ч ^ —/-инвариантные вероятностные меры. Они различны, поскольку //^(A)= 1, //;fv^^(A) = 0. П Эргодичность может быть переформулирована на функциональном языке следующим образом. Сохраняющее меру /л отображение /: X —+ X эргодично, если всякая измеримая вещественная /-инвариантная функция постоянна вне некоторого множества нулевой меры. Теперь мы получим важное следствие эргодической теоремы Биркго- фа 4.1.2, которое утверждает, что для эргодического преобразования временные средние равны пространственным средним почти всюду. Следствие 4.1.9. Если f: X—+Х —эргодическое сохраняющее меру (л преобразование, //(Х)=1 и (p€Li(X, </?), то для каждого элемента X е X, лежащего вне некоторого множества меры нуль, выполнено равенство <Pf{x)=\im - ^<р(/*=(х).)= ipdfi. Доказательство. Так как функция v?^ является /-инвариантной, то она постоянна почти всюду. Но согласно (4.1.8) эта постоянная величина должна быть равна J <р d/л. D X Таким образом, мы ответили на вопрос Б из п. 4.1 а. Инвариантная мера определяет асимптотическое распределение //.-почти всякой точки, если соответствующее преобразование эргодично. Подчеркнем, что неэргодическая инвариантная мера /л может также определять асимптотическое распределение некоторой орбиты, но такие орбиты всегда образуют множество, мера /л которого равна нулю (см. упражнение 4.1.3). Естественно, следствие 4.1.9 приводит к вопросу о том, всякое ли непрерывное отображение обладает эргодической инвариантной мерой. Ответ на этот вопрос оказывается положительным. Более того, каждая инвариантная мера сохраняющего меру преобразования может быть разложена на
§ 4.1. АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ И ПОВЕДЕНИЕ ОРБИТ 149 «эргодические компоненты». Для непрерывных отображений компактных метризуемых пространств этот факт следует из мощного результата выпуклого анализа — теоремы Шоке П 2.10. Мы сначала докажем существование эргодической меры, используя только теорему Крылова— Боголюбова 4.1.1 и некоторые сведения из элементарного функционального анализа. Начнем с описания эргодичности в функционально аналитических терминах. Множество 971 всех борелевских вероятностных мер на компактном метризу- емом пространстве обладает естественной выпуклой структурой и естественной топологией, называемой ^-слабой топологией. А именно, //„ —+ //, если I <р dfi^ —+ J V? ф для каждой непрерывной функции </?. Множество Ш X компактно относительно этой топологии; это можно легко проверить с помощью обычного диагонального процесса. Для отображения f: Х-^ X обозначим через Ш{f) множество всех /-инвариантных борелевских вероятностных мер. Множество ЗЛ(/) выпукло, замкнуто и, следовательно, является компактным подмножеством 971 (см. определение П 2.8). Лемма 4.1.10. Если мера /л €971/ не эргодична, то существуют такие //,, /^ ^ 371(/), что р,^ф р^, и такое число Л, О < Л < 1, что р = Доказательство. Если множество А является /-инвариантным и 0< р{А) < 1, определим меры р^= Рл ^ fh = 1^х\а ^ помощью (4.1.10) так, чтобы выполнялось равенство р = p{A)pi Н- (1 ~ р{А))р2. П Таким образом, крайние точки множества 971(/) — эргодические меры. Мы уже использовали понятие крайней точки в доказательстве теоремы Перрона — Фробениуса 1.9.11 в конечномерном слз^чае. Множество 971(/) в общем случае бесконечномерно. Докажем теперь существование крайних точек. Теорема 4.1.11. Каждое непрерывное преобразование / метри- зуемого компактного пространства X обладает эргодической инвариантной борелевской вероятностной мерой. Доказательство. Пусть {iPi}i^n — плотное множество непрерывных функций. Рассмотрим вложенную последовательность множеств 9Ло Э ... Э 9Л„ Э • ", 971о := 37t(/), ЗЯ,^1 |/i€9n, I <Pi^,dpL= m^ I «Pi^i^^j. Так как отображение г/^-+J ^,. ^. ^ di/ непрерывно на 971^, эти множества непусты и компактны и их пересечение € непусто. Чтобы показать, что множество € состоит из крайних точек, выберем // € € и положим р — = A//iH-(l-A)/^, //1,М2е9Л(/). Тогда [ ч^ dp = X I ip dp,-\- {\ - X) I <р dp^ для всех непрерывных функций ip. Отсюда по индукции легко видеть, что I ip. dp^ = I ipi dp2= I (pi dfM и р^, Р2^ ^i ^^ каждого г e N. Из плотности множества {v^Ji^Ni таким образом, следует, что I ^Р dp^ = I <р dp^ =1 ^Р dp для всех непрерывных функций </?, а из этого, в силу единственности представления в теореме Рисса о представлении П 2.7, следует, что //^ =/^ = //, как и требуется. Таким образом, существуют крайние точки р множества 971(/), и по лемме 4.1.10 это эргодические меры. D
150 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ Лемма 4.1.10 и теорема Шоке П 2.10 вместе дают следующий более сильный результат о разложении на эргодические компоненты. Теорема 4.1.12. Каждая инвариантная борелевская вероятностная мера для непрерывного отображения / метризуемого компактно- го пространства X может быть разложена в интеграл эргодических инвариантных борелевских вероятностных мер в следующем смысле: существует разбиение (по модулю множеств меры нуль) пространства X на инвариантные подмножества Х^, а 6 А, где А — пространство Лебега, и каждое множество Х^ может быть снабжено такой f-инвариантной эргодической мерой /л^, что для любой функции <р выполнено равенство <pdp.= И <pdp.^doL, Предложение 4.1.13. Если преобразование f: X —+ X строго эргодично, то для каждой непрерывной функции (р временные средние - J2 4^{f^{^)) сходятся равномерно. А=0 Доказательство. Предположим, что для некоторой непрерывной функции V? равномерная сходимость отсутствует. Тогда можно найти такие числа а и Ь, а < Ь, последовательности точек х^, у^. € Ху А; = 1, 2,..., и последовательность чисел rif^ —+ оо, что Tij, - I "t ~ ^ ~ Е V(/'(^J) <а, ^ Е <^(/'(2/.)) > Ь. 1=0 f=0^ с помощью диагонального процесса можно найти такую подпоследовательность п^., что для каждого ф € С(Х) оба предела J,(V)= lim ^ J2 V-C/'K.)), М^)=Пт ^ Y, ^и'Ь,)) существуют. Функционалы J^ и J^ являются ограниченными линейными положительными /-инвариантными функционалами; таким образом, J^(^) = = I ф d/ii, J2(i>) = I Ф ^М2, где //i и /Xj — /инвариантные вероятностные меры. Поскольку Ji(<p) ^a<b ^ -^(«р). мы имеем /л^ фfJ^, следовательно, отображение / не является строго эргодическим. П Замечание. Обратное утверждение в общем случае неверно (см. упражнение 4.2.2). Однако оно верно при предположении, что преобразование / топологически транзитивно (см. упражнение 4.1.5). Следствие 4.1.14. Пусть fi —инвариантная вероятностная мера для строго эргодического отображения /: X —+ X, и пусть множество и с X открыто и p,{dU) = 0. Тогда временные средние — J2 Xuif^i^)) равномерно сходятся к /лШ), ^=о Доказательство. Пусть Ip^ "^ Хи ^ !£. ^ Хи ("^ €N) — такие последовательности непрерывных функций, что J 'ip^ d// —+//(Z7) и J ^ dp, fj>(U), Для каждого neN и xeX выполнены неравенства n fc=0 A=0
§ 4.1. АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ И ПОВЕДЕНИЕ ОРБИТ 151 Зафиксируем S >0 и найдем такое число т, что ^^ dfi > МЮ - S/2, ^^ d// < f^(U) + 6/2, По теореме 4.1.13 мы имеем что следует из (4.1.11) для достаточно большого п. Так как число 6 произвольно, наше утверждение доказано. П Замечание. Условие fi(dU)=0 необходимо для полз^чения равномерной сходимости временных средних. Например, на нигде не плотном множестве положительной меры равномерная сходимость временных средних никогда не имеет места; см. упражнение 4.1.7. Предложение 4.1.15. Если для любой непрерывной функции (р из плотного подмножества Ф пространства С{Х) временные средние S y^if^i^)) равномерно сходятся к константе, то преобразование / строго эргодично. Доказательство. Сначала покажем, что для каждой непрерывной функции 'ф временные средние также сходятся равномерно. Доказательство по существу еще раз повторяет соображения, используемые при доказательстве теоремы Крылова — Боголюбова 4.1.1. Зафиксируем е>0 и найдем такую функцию v? 6 Ф, что niax|v?(x) - ф{х)\ < е. Тогда iEv'(rH)-^x:v:-(r(x)) jb=0 fc=0 для всех п. Пусть v?o — значение предела временных средних для <р. Из этого следует, что sup sup ^y'V(/'H)-<A)l<e. Iv^o- inf inf ^ X] V'(/4^))l < e .„ , < e. x€X n—ЮО A=0 Так как e произвольно, временные средние функции ф сходятся равномерно к некоторой константе ^д. Если // — /-инвариантная вероятностная мера, то I i>odfj. = ^ ф dp,. Следовательно, мера // единственна. D 4.1 е. Статистическое поведение и возвращение. Определение 4.1.16. Для борелевской меры // на сепарабельном метризуемом пространстве X носителем р> называется множество supp// := {х^Х \ p>{U) > О для любого хеЦ U открыто}. Предложение 4.1.17. I, Носитель suppfi замкнут. 2, //(X\supp//) = 0. 3, Любое множество полной меры плотно в supp//. Доказательство. 1. Пусть {x„}„giyCsupp//, х„-+х и U—открытое множество, xeU. Тогда x^eU для достаточно больших п и, следовательно, м(г7)>о.
152 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ 2. Каждая точка 2/€ X\supp /л обладает такой открытой окрестностью U, что fi{U)=0, Так как пространство X сепарабельно, множество X \supp /z может быть покрыто некоторым не более чем счетным набором таких окрестностей; следовательно, /л(Х \snpp /л) =0 в силу а-аддитивности меры //. 3. Если АсХ и xeU:= supp//\X, то /л(Х \А)^ /л(и) >0. D Предложение 4.1.18, Пусть f — непрерывное отображение полного сепарабельного метризуемого пространства X. Тогда выполнены следующие утверждения. 1. Для любой f-инвариантной борелевской вероятностной меры /л верно включение supp // с -R(/)- 2. Если мера fi эргодична, то отображение /| обладает плотной орбитой. 3. Если X компактно и f\ ^ строго эргодично, то supp// является минимальным множеством. В доказательстве первого утверждения мы будем использовать следующий важный факт из эргодической теории, который имеет множество других приложений. Теорема 4.1.19 (теорема Пуанкаре о возвращении). Пусть Т — сохраняющее меру преобразование пространства Лебега {X, /л), и пусть АсХ — измеримое множество. Тогда для любого N€N имеем М({Х€А|{Г''(Х)}„^^СХ\А})=0. Доказательство. Заменяя Т на Т^, мы видим, что достаточно доказать утверждение для iV* = L Множество оо А:={хеА\{Т-(х)}„,^сХ\А}=Ап[ П Т--(Х\А)} (4.1.12) ,п=1 измеримо. Мы имеем Т~'^(А)С\А =0 для каждого п и, следовательно, Т'^(А)ПТ-"ЧА) = 0 для всех ттг, п € N. Поскольку отображение Т сохраняет меру //, мы ви- ДИМ, что//(Т-"(>1 )) = //(>!). Таким образом, oo>//(Z)>//( U Т^^ЧА) = Е ^л{Т--{А))= Е ^л{А) и fi{A)=0. D п=0 п=0 Доказательство предложения 4Л. 18. 1. Выберем счетную базу {ZTi, С/з, ...} открытых подмножеств X, и пусть R^ — множество всех таких точек X, что если хе U^, то бесконечно много положительных итераций х принадлежат U^. Применяя теорему Пуанкаре о возвращении 4.1.19 к каждому из множеств U-, заключаем, что множество R^ имеет полную меру. Если отображение Т обратимо, то те же соображения показывают, что множество i2_, определенное подобно Д^, но для отрицательных итераций, также обладает полной мерой. Следовательно, мера множества R := -Й_ПД_^ также полна, и по третьему утверждению предложения 4Л.17 множество R
§4.1. АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ И ПОВЕДЕНИЕ ОРБИТ 153 плотно в supp /л. С другой стороны, если xeR иТ/эх — открытое множество, то U^cU при некотором т; поэтому бесконечно много положительных и отрицательных итераций п содержатся в U, т. е. мн_ожество R состоит из положительно рекуррентных точек. Следовательно, R = supp/л С R{f). 2. Выберем счетную базу {и^, t^j * • *} открытых множеств топологии, индуцированной на supp fj>. По определению /л{ U^) > О для всех m € N. Применяя следствие 4.1.9 одновременно ко всем характеристическим функциям Хи^^ мы получаем такое множество R полной меры, что для xER и m€ N выполнено условие 1"-' г = 0 Таким образом, орбита любой точки xeR пересекает все множества U^ и, следовательно, плотна. 3. Если существует собственное замкнутое /-инвариантное подмножество Л с supp //, то по теореме Крылова — Боголюбова 4.1.1 найдется инвариантная борелевская вероятностная мера v для отображения /|.. Но тогда supp Z/ с Л. Следовательно, ^фи, и мы пришли к противоречию. D Таким образом, мы показали, что типичное поведение относительно инвариантной меры является статистическим аналогом рекуррентности, эргодичность — аналогом топологической транзитивности, а строгая эргодичность — минимальности. Очень важно подчеркнзть, что утверждения, обратные к любому из утверждений предложения 4.1.18, неверны, даже если предположить дополнительно, что / — диффеоморфизм компактного многообразия. Другими словами, вообще говоря, замыкание объединения носителей всех /-инвариантных мер может быть меньше, чем замыкание множества всех рекурентных точек отображения, топологически транзитивное отображение может не иметь эргодической меры с полным носителем (т. е. меры, положительной на всех непустых открытых множествах) и минимальное множество может быть носителем более чем одной инвариантной меры. Однако, хотя соответствующие контрпримеры не могут быть названы патологическими, они все же должны рассматриваться как несколько нетипичные. (См., например, упражнение 4.1.9 и следствие 12.6.4.) Так, мы покажем, что для всех примеров из гл. 1 имеет место естественное соответствие между топологическими и статистическими свойствами. 4.1 ж. Метрический изоморфизм и факторы. Мы уже встретились с некоторыми свойствами (эргодичность) и результатами (теорема Пуанкаре о возвращении 4.1.19, эргодическая теорема Биркгофа 4.1.2), которые относились к произвольным сохраняющим меру преобразованиям и не использовали топологию или какуто бы то ни было другую дополнительную структуру. Это обстоятельство естественно приводит нас в область эргодической теории, которая исследует такие преобразования. Так же, как и для теории гладких динамических систем и топологической динамики, основные цели этой теории двуедины: классификация различных классов сохраняющих меры преобразований с точностью до естественных отношений эквивалентности, а также анализ различных асимптотически инвариантных свойств с точностью до вышеупомянутых отношений эквивалентности. Эргодичность — пример такого инварианта, который является аналогом
154 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ топологической транзитивности; другой инвариант, связанный с возвращением,— перемешивание — будет обсуждаться в п. 4.2 г; наиболее важный инвариант, выражающий «рост сложности», —метрическая энтропия — является предметом обсуждения §§ 4.3 и 4.4. Сейчас же мы определим и обсудим наиболее естественные отношения эквивалентности с точки зрения эргодической теории. Определение 4.L20. Пусть Т: X -^ X и S: Y -^ Y — сохраняющие меру преобразования лебеговских пространств (X,/i) и {Y,u) соответственно. Отображения Т и S называются метрически изоморфными, если существует изоморфизм R: (X, fi)-^ (Y, и), т. е. такое инъективное (mod 0) преобразование, что R^fi = и и S = RoToR-K Определение 4Л.21. В обозначениях предыдущего определения отображение S называется (метрическим) фактором отображения Т, если существует такое сохраняющее меру отображение R: X —^ Y (вообще говоря, необратимое), что R^fi = г/ и SoR=RoT. Все свойства сохраняющих меру преобразований, которые мы собираемся обсуждать, инвариантны относительно метрических изоморфизмов; для эргодичности это очевидно. Кроме того, фактор эргодического преобразования также эргодичен: если S — фактор Т и множество А CY является 5-инвариантным, 0< ^'(A) < 1, то и множество В := R~^(A) будет Г-ин- вариантным, причем fi(B) = u(A). В некоторых случаях инварианты метрического изоморфизма дают дополнительную информацию относительно свойств гладких или топологических динамических систем. Например, класс метрического изоморфизма строго эргодического отображения — важный инвариант топологического сопряжения. Пример другой связи того же рода представляет собой вариационный принцип 4.5.3. Мощным инструментом анализа сохраняющих меру преобразований является спектральный анализ. Каждому отображению Т: (Х^ м)~* (-^^ м) сопоставляется изометрический оператор Uj>: L^{X, fj')-^ L^(X, fi) no следующему правилу: {U^f){x):=f{T{x)). Если отображение Т обратимо, то и оператор Uj, обратим, и в этом случае Uj, — унитарный оператор. Если отображения Т и S метрически изоморфны посредством изоморфизма R, то операторы U^ и U^ унитарно эквивалентны, а именно {U^f)(x):=f{Rix)). Итак мы видим, что такие спектральные инварианты оператора Uj>, как собственные значения с их кратностями, спектр или спектральные меры, являются инвариантами метрических изоморфизмов Т. Однако даже обратимые метрически неизоморфные эргодические сохраняющие меру преобразования Т и S могут порождать унитарно эквивалентные операторы (см. упражнения 4.4.3 и 4.4.4).
§ 4.1. АСИМПТОТИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ И ПОВЕДЕНИЕ ОРБИТ 155 Упражнения 4.1.1. Покажите, что функция /: [0,1]—^ [0,1] вида ,, . Г х/2, если 0<х^1, L 1, если X = О, не обладает ни одной инвариантной борелевской вероятностной мерой. 4.1.2. Покажите, что различные эргодические вероятностные меры взаимно сингулярны. 4.1.3. Пусть О, 1 —последовательности в пространстве ^2» состоящие полностью из нулей и единиц соответственно. Докажите, что существует такая точка ш е ^2» ^"^^ лп^ каждой непрерывной функции ip выполнено равенство где д —такая вероятностная мера, что м({0}) = д({1})= 1/2. 4.1.4. Пусть(Х,д) — лебеговское пространство, Л с X — измеримое множество, д(Л)>0, Т: X -* X — преобразование, сохраняющее меру, и д^ — условная мера на Л, определенная соотношением (4.1.10). Для точки хеЛ пусть п(х):= min{neN| Т'*(х) е Л}. Докажите, что юрмула Т^{х):= Т"***(х) определяет преобразование множества А, сохраняющее меру ц^. гображение Т^ называется производным отображением, индуцированным Т на множестве А. 4.1.5. Предположим, что / — топологически транзитивное непрерывное отображение ком- J П- 1 пактного пространства X и для каждой непрерывной функции tp средние ^ 2 ip{f (х)) сходятся равномерно. Докажите, что отображение / строго эргодично. fc=o 4.1.6. Покажите, что строгая эргодичность является топологическим инвариантом. 4.1.7. Покажите, что если отображение f: X -^Х эргодично и N С X — нигде не плотное 1 ""' множество положительной меры, то временные средние ^ 2 Xjv(/ (^)) "^ могут сходиться равномерно. k—o 4.1.8. Докажите, что упомянутый в § 3.3 диффеоморфизм /: 5* -> 5*, определенный выражением /(х) = X + -Аг sin^(7rx) (mod 1), строго эргодичен, но не топологически транзитивен. 4.1.9. Покажите, что, производя соответствующую «замену времени*, обращающуюся в нуль в одной точке, можно перевести иррациональный линейный поток {Т^} на двумерном торе в вещественно аналитический топологически транзитивный поток, единственная инвариантная борелевская вероятностная мера которого — 5-мера с носителем в единственной точке. 4.1.10 (М. Бошерницан). Усильте теорему Пуанкаре о возвращении 4.1.19 для случая измеримого преобразования Т отрезка [0,1], которое сохраняет меру Лебега, следующим образом: Ищ п.1Г"(х)-х|^1 п—*оо для почти всех х е [0,1]. 4.1.11. Докажите, что сохраняющее меру преобразование Т эргодично тогда и только тогда, когда единица является простым собственным значением U-p. 4.1.12. Докажите, что для эргодического сохраняющего меру преобразования Т каждое собственное значение индуцированного изометрического оператора U-p является простым. 4.1.13. Докажите, что собственные значения изометрического оператора, соответствующего эргодическому сохраняющему меру преобразованию, образуют группу.
156 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ § 4.2. Примеры эргодичности; перемешивание Мы несколько раз упоминали о том, что наши примеры динамических систем с нетривиальным возвращением распадаются на две следующие группы. 1. Системы со схожим поведением разных орбит и низкой сложностью глобальной структуры орбит. Эта группа включает преобразования поворота окружности (§ 1.3), сдвиги (§ 1.4) и линейные потоки (§ 1.5) на торе и вполне интегрируемые гамильтоновы системы (§ 1.5). 2. Системы с различным асимптотическим поведением для различных начальных условий, неустойчивостью асимптотического поведения относительно начальных условий и высокой (экспоненциальной) степенью роста сложности глобальной структуры орбит, представляемой, например, экспоненциальным ростом числа периодических орбит и положительной топологической энтропией. В эту группу входят растягивающие отображения окружности (§ 1.7), гиперболические автоморфизмы тора (§ 1.8) и транзитивные топологические цепи Маркова, включая полный сдвиг (§ 1.9). В этом параграфе мы исследуем статистическое поведение орбит примеров из обеих групп. 4.2 а. Преобразование поворота. Начнем с изучения поворотов окружности R^ на иррациональный угол. Каждый поворот сохраняет меру Лебега. Предложение 4.2.1 (теорема Кронекера — Вейля о равномерном распределении). Любой поворот на иррациональный угол строго эрго- дичен. Доказательство. По предложению 4.1.15 достаточно показать, что временные средние каждой функции из плотного множества непрерывных функций равномерно сходятся к константе. По теореме Вейерштрасса тригонометрические полиномы образуют плотное множество в пространстве всех непрерывных функций в равномерной топологии. Кроме того, равномерная сходимость к константе — линейное свойство: если функции (риф обладают этим свойством, то оно также выполнено для функции а^р -\~Ъф, где а и fe — постоянные числа. Таким образом, достаточно проверить равномерную сходимость для любой полной системы функций, например для набора функций Хт{^) = ^'^''^^• При т^О получаем х„,(Л^х) = е^'^"*<^ + "> = при п —^ оо. D "" 1 p27rimna о п ' ^ Е fc=0 п 1 - е^""^ '^ п 1 - е ^ л 9Wm« ^ " Эти соображения применимы практически дословно к любому сдвигу Т^ на торе, где элемент 7 = (7р • • •. 7п) таков, что числа 7i» • • •» 7п ^ ^ рационально независимы. По предложению 1.4.1 это условие необходимо и достаточно для минимальности Т^. В § 1.4 мы показали, что то же самое условие является необходимым для топологической транзитивности и, следовательно, поскольку носителем меры Лебега является весь тор, по второму утверждению предложения 4.1.18 это условие также необходимо для наличия эргодичности относительно меры Лебега.
§ 4.2. ПРИМЕРЫ ЭРГОДИЧНОСТИ; ПЕРЕМЕШИВАНИЕ 157 То же доказательство может быть проведено для линейного потока TJ^ если UJ удовлетворяет условию предложения L5.L Так же как и в случае сдвигов, это условие является необходимым для наличия топологической транзитивности и эргодичности относительно меры Лебега и достаточным для наличия минимальности и строгой эргодичности. Теперь мы приведем другое доказательство строгой эргодичности сдвигов тора. Оно состоит из двух частей. Сначала с использованием соображений из анализа Фурье мы докажем эргодичность. Соображения такого рода весьма полезны при анализе многих динамических систем алгебраического происхождения, включая растягивающие отображения Е^ и гиперболические автоморфизмы тора. В случае сдвига доказательство эргодичности по существу содержится в нашем доказательстве топологической транзитивности (предложение 1.4.1). Предложение 4.2.2. Если числа 7i»• • •» 7п> ^ рационально независимы, то сдвиг Т^ эргодичен относительно меры Лебега. Доказательство. Как и в доказательстве предложения 1.4.1, пусть X — ограниченная измеримая функция, инвариантная относительно Т^, например характеристическая функция инвариантного множества. Рассмотрим ее разложение в ряд Фурье X(xi, ..., х„) = ^ Xk, к expf 27гг ^ к.хЛ . {fc„...,fc„)ez" J = l Используя те же вычисления, что в доказательстве предложения 1.4.1, мы выводим из Т-инвариантности х^ что для любых чисел fcj^..., А;„ ^k, kX^~^^vY.^i^)=^' Условие рациональной независимости влечет, что Хь,...,^ =0, если хотя бы одно из чисел fci,..., ^„ отлично от нуля. Следовательно, функция х постоянна вне некоторого множества нулевой меры и преобразование Т^ эргодично. D Второй шаг доказательства строгой эргодичности сдвигов тора состоит в демонстрации того, что эргодичность относительно меры Лебега влечет строгую эргодичность. Специальное свойство меры Лебега состоит в том, что она инвариантна относительно всех сдвигов. Естественный контекст, в котором применимы соображения такого рода, — преобразование умножения на элемент в компактных абелевых группах (см. конец § 1.3). Однако метод, использованный в доказательстве, имеет и другие приложения (см. упражнения 4.2.3-4.2.7, где этот метод используется для доказательства равномерности распределения дробных частей полиномов). Пусть G — компактная метризуемая абелева группа. Существует единственная борелевская вероятностная мера А^, инвариантная относительно всех умножений L : д -^ д^д. Эта мера называется мерой Хаара. Для тора Т" мера Хаара — это обычная мера Лебега. Мы докажем следующий статистический аналог предложения 1.3.4. Предложение 4.2.3. Если сдвиг Ьд^ на компактной метризуе- мой абелевой группе G эргодичен относительно меры Хаара А^, то он строго эргодичен. Доказательство. Пусть fi — произвольная L^-инвариантная борелевская вероятностная мера. Поскольку элемент 5о коммутирует с любым
158 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ другим элементом G, мы можем заключить, что для любого д ^ G перенесенная мера fig^ определяемая соотношением также L -инвариантна. Так как множество Ш(Ь ) замкнуто в *-слабой топологии и выпукло, для любого измеримого множества Е положительной меры Хаара определена следующая L -инвариантная мера /i^: ^^(^) = г4ш ( ^M)<^^g(Q)^ (4.2.1) Если^П^ = 0, то ^""^^ i Ха{Е и F)/isuf' = Ag(^ W + ^G(F)f^F- (4.2.2) Замена переменных в соотношении (4.2Л) показывает, что мера /i^ будет L^-инвариантной для любого д Е G; следовательно, Ма = А^ (4.2.3) в силу единственности меры Хаара. Предположим, что ^^Х^. Тогда существует такая непрерывная функция (^, что 1 (р d^^l <р<^Х^. Но поскольку ^q — Xq^ мы получаем G ^аХ^=\ М <р dfi^j dA^ = 1 ( I (<^ о L^) dfij dX G- Функция "^j = J ipoL^dfi непрерывна no g и, так как мы предположили, что ^id 7^ J ~^g^^G^ '^^ '^д отлична от константы. Таким образом, можно найти такое число а, что A^(£')>0 и Xq{F) >0, где ^ ={5 | (^^,^ а}, F = G\E. Тогда J if dfi^ ^ а и J (^ dfi^, < а, так что fJ'E^f^F- (4.2.4) Но согласно (4.2.2) и (4.2.3) мы имеем ^Gi^)f^E + ^Gi^f^F = f^EuF ^ f^G = ^G- (4.2.5) Чтобы завершить доказательство, нам потребуется утверждение, обратное к лемме 4.1.10, которое также будет использоваться позже. Лемма 4.2.4. Если f-инвариантная вероятностная мера fi может быть представлена в виде Xfi^ + (1 — А)//^' ^^^ О < А < 1, /ij, /j^ — f-инвариантные вероятностные меры и fii^fj^, то преобразование f не эргодично относительно fi. Доказательство леммы 4.2.4. Так как для каждого множества нулевой меры fi его fi^-n fj^-iAepu также равны нулю, по теореме Радона — Никодима меры fi^ и /j^ могут быть заданы плотностями р^ и Р2 относительно /i, т. е. J (pdfi. = J p.^p dfi, г = 1, 2. По условию Api +(1 — А)р2 = U ^ Pidfi=^ P2dfi = l и р| ^ pg. Следовательно, р^ ф const, и, поскольку р^ — /-инвариантная функция из пространства Lj, мера р, не может быть эрго- дической. D Предложение 4.2.3 следует теперь от противного из (4.2.4), (4.2.5) и леммы 4.2.4. D Замечание. Леммы 4.2.4 и 4.1.10 означают, что эргодические меры могут быть охарактеризованы как крайние точки множества SDt(/) всех /-инвариантных борелевских вероятностных мер.
§ 4.2. ПРИМЕРЫ ЭРГОДИЧНОСТИ; ПЕРЕМЕШИВАНИЕ 159 Хотя мы уже привели два доказательства эргодичности сдвигов тора, дадим набросок еще одного доказательства того факта, что из топологической транзитивности сдвига следует эргодичность. Это доказательство очень гео- метрично и содержит несколько идей, которые оказываются полезными для анализа широких классов динамических систем, включая и некоторые системы без очевидной алгебраической структуры (см., например, предложение 5Л.24 и теорему 12.7.2). Каждое измеримое множество, рассматриваемое в малом масштабе, сконцентрировано; точнее говоря, оно заполняет некоторые маленькие шары или кубы почти полностью и практически не пересекается с другими, потому что это множество может быть аппроксимировано сколь угодно хорошо (по мере) конечными совокупностями кубов. Зафиксируем инвариантное множество А и число е > О и найдем такой маленький куб А, что А(Л П А) > (1 - е)А(А). Образы А под действием итераций нашего отображения обладают тем же свойством, поскольку и мера Л, и множество А инвариантны. Так как наше отображение является изометрией, любой образ А представляет собой куб того же размера. В силу топологической транзитивности можно найти совокупность образов, покрывающих все фазовое пространство почти равномерно, без большого числа перекрытий. Для завершения доказательства достаточно установить, что каждая точка покрывается не более, чем JV раз, где N не зависит от е, потому что в этом случае мера множества А превосходила бы 1 — eJV. Так как е может быть выбрано произвольно малым, мы заключаем, что множество А имеет полную меру. 4.2 6. Преобразования типа поворота. Сейчас мы опишем класс примеров, тесно связанных с преобразованиями поворота, который, как будет показано в § 12.4, содержит некоторые примеры минимальных неэргодиче- ских действий. Пусть а 6 E\Q. Предложение 4.2.5. Рассмотрим тор Т^, функцию ip: 3^—*-Ш и отображение тора /: (х, у)»-^(х + а, у + (р{х)). Если (р(х')=Ф(х + а;)- - Ф(х) для некоторой измеримой по Лебегу функции Ф: 5^ -+Е, то для любой эргодической инвариантной меры отображение f метрически изоморфно враи^ению R^ и суи^ествует несчетное множество различных эргодических инвариантных мер. Доказательство. Пусть/i(x, 2/)=(х, у+Ф(х)). Тогда h'^ofoh{x, у) = = (х+а, у). Так как вращение строго эргодично, любая /-инвариантная мера проектируется в меру Лебега на окружности и, следовательно, преобразование h задает метрический изоморфизм для любой такой меры. Таким образом, инвариантные эргодические меры для / — это в точности меры, индуцированные мерами на окружностях. Существует несчетное множество таких мер, потому что график отображения Ф + с для любого с € Е служит носителем такой меры. D Предложение 4.2.6. Рассмотрим тор Т^, функцию <р: 5" -+ Е и отображение тора /: (х, у) ы-(х + а, у + (^(х)). Тогда либо (^(х) == = Ф(х + а) - Ф(х) + rjа + Г2 для некоторого непрерывного отображения Ф: 5' -+Е li 7-1, Г2 6Q, либо отображение / минимально. Замечание. В случае когда функция Ф непрерывна и г = О, отображение /i, определенное выше, задает топологическое сопряжение с Е^^ х id на Т^. Заметим, что это еще один пример ситуации, в которой возникает неподкрученное когомологическое уравнение (см. § 2.9).
160 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ Доказательство. Согласно предложению 3.3.6 существует /-инвариантное минимальное множество М, проекция которого на первую координату инвариантна, следовательно, совпадает с 5'. Рассмотрим пересечение М со слоем {х} X 5'. Мы покажем, что если это пересечение содержит две точки у и у + г, то оно инвариантно относительно сдвига на г в слое. А именно, в силу минимальности существуют точки z =/^(х, у), произвольно близкие к (х, у + г), и потому точки /*^(х, у)е М стремятся к точкам (х, у + кт), которые, таким образом, содержатся в М. Следовательно, замкнутое множество МП({х}х 5') либо является конечной подгруппой группы {х} X S\ порожденной г eQ, либо совпадает с {х} х 5'. Так как множество М замкнуто, одна и та же возможность реализуется для всех х, и по непрерывности мы получаем ту же подгруппу для всех точек х, что, таким образом, означает либо минимальность, либо наличие семейства замкнутых /-инвариантных кривых. Чтобы завершать доказательство, мы должны показать, что эти кривые являются графиками функций первой координаты. Если понадобится, мы можем свести анализ этой ситуации к рассмотрению одной такой кривой, производя факторизацию второй координаты по модулю l/q. Таким образом, М пересекает каждый вертикальный слой ровно один раз и, следовательно, представляет собой график непрерывной функции. Поднятие этого графика на универсальное накрытие представляет собой график такой функции Ф', что Ф'(х + 1) =Ф'(х) + А;, и все его сдвиги на целые числа. Инвариантность относительно поднятия F дает соотношение (х + а, Ф'(х) + (^(х)) = F(x, Ф'(х)) = (х + а, Ф'(х + а) + п) для некоторого п6 Z. Таким образом, ^p(x)=Ф'(x + а) — Ф'(х) + п. Вспоминая, что мы профакторизовали вторую координату по модулю l/q, и обозначая Ф'(Х)=Ф{х)-\~кх, мы получаем предложение 4.2.6 для ri — k/q, и r^ — n/q. D Одно интересное приложение двух последних результатов состоит в том, что вышеупомянутые преобразования типа поворота, для которых верно, что (^(х) = Ф(х + а) — Ф(х) для некоторой измеримой функции Ф, но в то же время равенство (^(х) = Ф(х + а) — Ф(х) + г не имеет места ни для какой непрерывной функции Ф, дают пример минимального неэргодическо- го диффеоморфизма. В следствии 12.6.4 мы построим функцию <р с таким свойством. 4.2 в. Растягивающие отображения. Перейдем теперь ко второй группе наших примеров и начнем с линейных растягивающих отображений окружности Е^. Эти отображения сохраняют меру Лебега А, потому что прообраз любого интервала длины / состоит из \гп\ непересекающихся интервалов длины 1/т. Предложение 4.2.7. Отображение Е^, |т|^2, эр годично относительно меры Лебега. Мы дадим два доказательства этого факта, которые соответствуют нашим второму и третьему доказательствам для сдвигов тора. Первое доказательство. Пусть ^р — измеримая ограниченная -Б -инвариантная функция. Используя разложение в ряд Фурье т оо *^(^)= Y1 V'fc ехр(27ггА;х), к =—оо оо МЫ получаем ip{E^{x)) = ^ ^^ ехр(27ггА;тх). fc = -oo
§ 4.2. ПРИМЕРЫ ЭРГОДИЧНОСТИ; ПЕРЕМЕШИВАНИЕ 161 Таким образом, поскольку ip(x) = ip{E^{x)) почти всюду, ^Pk=^Pk.m^ meN. (4.2.6) Так как <pEL^, то |(^;^| -+0 при А; —>со. Следовательно, соотношение (4.2.6) влечет (^jt = О для А; /= О и 1р=.щ почти всюду. D Второе доказательство. Пусть Л С 5' — измеримое ^^-инвариантное множество положительной меры Лебега. Из равенства f'^{A) = A следует инвариантность положительных итераций 5' \Л =/(5'\Л). Как в третьем доказательстве для сдвигов тора, зафиксируем е > О и найдем такой открытый интервал А длины |т|"" для некоторого п, что А(Д\ А) > (1 - е)А(Д) = (1 - е)\т — п Так как производная преобразования Е^ постоянна, оно увеличивает меру Лебега любого множества точно в |т| раз, если Е инъективно на этом множестве. Таким образом, А(^^(А)\ Л) = |т|"Л(Д\ Л) > 1 - е. D 4.2 г. Перемешивание. Попробуем понять, в чем состоит различие в статистическом поведении орбит поворота на иррациональный угол R^ и линейного растягивающего отображения Е^. Прежде всего, первое из них строго эргодично, в то время как второе обладает множеством различных эргодических инвариантных мер; кроме меры Лебега, 5-мера с носителем на любой периодической орбите является, очевидно, эргодической. Канторово множество К является носителем ^з'Инвариантного «поднятия» меры Лебега (инвариантной для Е2) с помощью естественного сопряжения между £?2 и -^3 if • Легко найти и другие эргодические инвариантные меры. Кроме того, мы хотели бы показать, что различие в поведении проявляется, даже если ограничить рассмотрение одной только мерой Лебега. Мы также хотели бы, чтобы это различие не было прямым следствием того очевидного факта, что растягивающие отображения необратимы, но прослеживалось бы и при переходе к случаю гиперболических автоморфизмов тора. Свойство, проливающее свет на этот вопрос, —топологическое перемешивание (определение L8.2), которое позволяет отличать растягивающие отображения и автоморфизмы тора от сдвигов. Попробуем найти статистическое свойство, подобное топологическому перемешиванию в таком же смысле, в каком эргодичность подобна топологической транзитивности. Определение 4.2.8. Сохраняющее меру преобразование Г: (Х,/i) —> (X,/i) называется перемешиванием (или перемешивающим) ['], если для любых двух измеримых множеств А, В fi(T''4A)nB)-^fi{A)^fLiB) при п-*оо. (4.2.7) Очевидно, перемешивание — инвариант метрического изоморфизма (определение 4.1.20). Кроме того, любой фактор (определение 4.1.21) перемешивающего отображения является перемешивающим в силу того же соображения, что применялось для эргодичности в п. 4.1 ж. Поскольку для каждого Т-инвариантного множества А и каждого натурального числа п мы имеем /4(Г""(А)П(Х\ Л))=0, из перемешивания следует, что для такого множества fi(A)-fi(X\A) = 0, т. е. Т эргодично. Замечание. Очевидно, что если непрерывное отображение / обладает перемешивающей инвариантной мерой /i, то / топологическое SUpp/i & А. Б. Каток, Б. Хасселблат
162 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ перемешивание, поскольку если А^ В с supp/i — открытые подмножества и п достаточно велико, то мера пересечения fj,(T''^(A)r\ В) положительна и, следовательно, это пересечение непусто. Однако обратное неверно: топологически перемешивающее отображение, даже минимальное, может не обладать перемешивающей инвариантной мерой с полным носителем. Это явление, однако, нетипично, подобно тому как обстоит дело с другими свойствами типа топологической транзитивности и эргодичности, которые обсуждались в п. 4.2 а. Как мы вскоре увидим, наши примеры, обладающие топологическим перемешиванием, являются перемешиваниями относительно естественных инвариантных мер. Определение 4.2.9. Совокупность U измеримых множеств в пространстве с мерой (Xj fi) называется плотной, если для любого измеримого множества А и любого е>0 найдется такое Л' б it, что fi{AAA')<£. Совокупность с измеримых множеств называется достаточной, если конечные объединения непересекающихся элементов С образуют плотную совокупность. Предложение 4.2.10. 1. Если условие (4.2.7) выполнено для любых А, В 6 С, где С — достаточная совокупность множеств, то Т — перемешивание. 2. Преобразование Т является перемешивающим тогда и только тогда, когда для данной полной системы^ функций из L^ и любых (^,'ф€.Ф выполнено условие ip(T''x)7p (х) dfi-^ [ \ (pdfi]^[ \ ф dfi) при п-*оо. (4.2.8) Доказательство. L Пусть Л^ ..., Aj^, Sj,..., Б^ бС, А = IJ Л-, В = \J Bj, А. П А,. = 0 для % ф i', В. П В^, = 0 для j Ф j'- * Тогда М(А)= £ ii{A,), fi(B)=i2 М(5^). По условию к I »= 1 J = 1 к I fiiA,)-fi(B^^) = fi{A)-fi(B). Таким образом, условие (4.2.7) выполнено для любых элементов плотной совокупности U, образованной конечными объединениями непересекающихся элементов С. Теперь пусть А и В —произвольные измеримые множества. Найдем такие множества А', В' 6U, что fi(AAA') < е/4, fi(BAB') < в/4. Тогда неравенство треугольника дает \f,(T-'4A)nB)-fi(A)fi{B)\^ ^ /i(r-"(A ДЛ') ПВ) + /4(Г-"(Л') П (ВДВ')) + + |м(Г-"(Л') П В') - fi{A')fi(B')\ + + fi{A) ■ fi(BAB') + fi(B') ■ fj.(AAA') < ^ \fj.( T"4A') n B') - fi(A') ■ fj.(B')\ + e.
§ 4.2. ПРИМЕРЫ ЭРГОДИЧНОСТИ; ПЕРЕМЕШИВАНИЕ 163 Поскольку е > о может быть выбрано произвольно малым, мы получаем (4.2.7). 2. Сначала покажем, что если условие (4.2.8) выполнено для функций (^, t/j 6 Ф, то оно также выполнено для любых двух функций из L2{X^ /i). Так как обе части равенств (4.2.8) линейны по (р и антилинейны по ф, это условие выполнено для любой конечной линейной комбинации функций из Ф, т. е. для (^ и t/j из плотного подмножества Ь{Ф)С L2(X^). Чтобы показать, что это условие выполнено для произвольных функций, мы используем по существу то же соображение, что при доказательстве первого утверждения. Пусть (р^ф ^ ■^2(-^i М)- Зафиксируем е > О и найдем такие функции ip', ф'еЬ(Ф), что ||*р-(^'|| <£, ||t/)-t/j'll < е. Тогда, применяя неравенство Коши и используя инвариантность меры fi относительно преобразования Т, мы получим 9.(r"(x))t/>(x)dM (р dfi 1 ф dfi j <р(ТЦх))(ф{х) - ф'{х)) dM + J (^(Г"(х)) - ^'(Т^(х)))ф'{х) dfi-^ + { (^'(r"(x))t/j'(x) dfi-{ip'dfi{ ф' dfi dfi {*■- ф dfi-\~ ^p)dfl\фdfl\^\\^poT'^\\^\\ф-ф'\\-]- ((^~(^')оГ" + < \^'(ТЧ x))ф'(x)dfJ, -^<p'dfl^ф' d/i + \\Ф-Ф'\\ + У-Ч^' ф dfi\ ^ х))ф'{х) dfi + 1 + (i/i 4- I ф dfi Поскольку е может быть выбрано произвольно малым, равенство (4.2.8) доказано. В частности, если (р = Ха и V* =Хв» ^о условие (4.2.8) превращается в (4.2.7), что, таким образом, доказывает наличие перемешивания. С другой стороны, характеристические функции измеримых множеств образуют полную систему в L^iX,^), и из предыдущего соображения свойство перемешивания влечет (4.2.8) для всех функций из L^. D Предложение 4.2.11. 1. Никакой сдвиг Т^ на торе не является перемешиванием относительно меры Лебега. 2. Каждый растягивающий эндоморфизм Е^, |т| ^2, является перемешиванием относительно меры Лебега. Доказательство. 1. Так как из перемешивания следует эргодичность, достаточно рассмотреть эргодический сдвиг Т^. Если А—маленький шар, то, так как Т^ — топологически транзитивная изометрия, найдется бесконечно много таких чисел щ, что Г^"'"*(А)П А = 0. Следовательно, Л(Г-"'(А)пА) = 0. 2. По первому утверждению предложения 4.2.10 достаточно доказать утверждение (4.2.7) для отрезков А и В. Прообраз ^""(Л) состоит из
164 Часть I. Гл. 4. СТАТИСгаЧЕСКОЕ m|" отрезков длины |т|"" ■ А(Л), равномерно распределенных на S\ т. е. каждый интервал А = (г/|т|", (г + 1)/|т|") содержит ровно одну компоненту прообраза -Е^„;"(А). Следовательно, для больших п множество В содержит приблизительно \т Х(Е^'ЧА)ПВ) сходятся к " ■ А(Б) компонент прообраза ^~"(Л) и меры т|"А(Б)|т|-"А(Л) = А(Л)-А(Б). D 4.2 д. Гиперболические автоморфизмы тора. Линейные отображения L: R"* -+ R"* сохраняют меру Лебега А тогда и только тогда, когда I det LI = 1. Это утверждение может быть обобщено на нелинейные отображения. А именно, пусть U СЖ"^ — открытое множество и /: U ~^Ш"^ — инъективное дифференцируемое отображение. Для любой области V с U выполнено равенство A(/(V))= J \detDfix)\dX(x), Следовательно, равенство | det Df\ = 1 влечет сохранение меры Лебега. Обратно, если, скажем, |det П/{хо)\ > 1, то А(/(У))> А(У) для достаточно маленькой области VJ содержащей точку Xq. То же соображение применимо к случаю инъективных С'-гладких отображений /: Т" ^ Т". В частности, любой линейный автоморфизм инъективен и его определитель равен либо + 1, либо —I. Следовательно, он сохраняет меру Лебега. В § 5.1 мы рассмотрим условия, необходимые для сохранения меры, в более общем контексте и более систематично. Предложение 4.2.12. Любой гиперболический автоморфизм двумерного тора эргодичен и является перемешиванием относительно меры Лебега. Доказательство. Сначала докажем отдельно эргодичность и перемешивание, используя анализ Фурье, подобно тому как мы делали это в доказательстве предложения 4.2.2, а также в первом доказательстве предложения 4.2.7. Кроме того, мы дадим другое, более геометрическое и наглядное доказательство перемешивания, которое подобно нашему доказательству второго утверждения предложения 4.2.11 и в меньшей степени зависит от алгебраической структуры отображения. Пусть отображение F^^: Т^ -+Т^ имеет вид ^Л^у у) = (азг + by, сх + dy) (mod 1), где определитель матрицы L = I ^ ,1 равен либо +1, либо —1, а собственные значения вещественны и отличны от =Ы. Рассмотрим действие отображения F^ на характерах Хт,п(^у у) = ехр(27гг(тх + пу)); Хш,n{Fi(х, у)) = ехр(27г((ат -]-сп)х + (Ьт-\~ dn)y)) = Хаш + СП, bm+dn Таким образом, если отождествить характер х,™,» ^ вектором (т, п) из решетки целых чисел Z^, то отображение, индуцированное F^, действует на этой решетке как транспонированная матрица L \ Все орбиты этого действия бесконечны, исключая неподвижную точку в начале координат. Следовательно, если ^{^уУ)= Y1 "Pn^nXn^ni^^y) (m,n)eZ2
§ 4.2. ПРИМЕРЫ ЭРГОДИЧНОСТИ; ПЕРЕМЕШИВАНИЕ 165 ограниченная i^-инвариантная функция, то гт^ п г am + стг, Ьтп + dn * Т. е. коэффициенты Фурье функции ^р постоянны на орбитах действия, индуцированного F^ на решетке Z^ (ср. с (4.2.6)). Из этого следует, что все коэффициенты ^гп,п — ^ ^^ ("^» '^) Ф (^» ^)» ^ потому либо кр = const (mod 0), либо функция (р обладает бесконечным множеством отличных от нуля равных коэффициентов Фурье. Последняя возможность противоречит общеизвестному факту о том, что \<Рт,п\ ~^^ при тп^ + п^ —+ оо для любой Li-функции ^p. Тем самым доказана эргодичность. Так как характеры Хт,п Для (т, п) е Z^ образуют полную систему функций, согласно второму утверждению предложения 4.2.10 перемешивание будет установлено, если мы докажем, что hrn^ J X„,„(i^/(^, У)ЬаЖУ)с1\ = J х„,„ dA ^x^dX. (4.2.9) Если m = n = к =1 =0, то обе части (4.2.9) равны единице для всех N; таким образом, мы можем сразу считать, что (т, п) :^ (О, 0). Тогда правая часть равна нулю, так как все характеры, за исключением постоянного, имеют нулевой интеграл. Для любой пары (т, п) ф (0,0) норма вектора (L"^)^(m, и) стремится к бесконечности при iV^oo и, следовательно, для любого достаточно большого N {Ь^У{т,п)ф{к,1). (4.2.10) Левая часть (4.2.9) равна J X(Lt);v(^„)_(i^fj(x, y)dA, и потому равна нулю, если выполнено условие (4.2,10). D Второе доказательство перемешивания. Рассмотрим совокупность всех параллелограммов в Т , стороны которых параллельны собственным векторам матрицы L. Так как эти параллелограммы образуют достаточную совокупность, согласно первому утверждению предложения 4.2.10 достаточно установить (4.2.7) для любых двух таких параллелограммов А и В. Для больших п прообраз F£''*(A) представляет собой проекцию на Т^ очень длинного и узкого параллелограмма из Е^. Длинные стороны представляют собой отрезки орбиты длины /„ = i^A" иррационального линейного потока {TJ}, где Ai —наибольшее по модулю собственное значение матрицы L и uj = {uji,uj2) — собственный вектор, соответствующий меньшему (сжимающему) собственному значению отображения L. Пусть J = {rj(^)}t"=o—^ любой такой отрезок. Отношение той его части, которая лежит внутри Д ко всей длине равно I }- ^ xATj'i^)) dt. (4.2.11) О Так как поток TJ строго эргодичен по утверждению для потоков, аналогичному следствию 4.1.14, последовательность (4.2.11) сходится к Х(В) равномерно по х при п—^оо. Таким образом, для больших п и для каждого отрезка J, содержащегося в i^~"(j4.), выполнено неравенство length(JriS) _ д <е, (4.2.12)
166 Часть I. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ где \ength(JnB) —длина отрезка (JnB). Интегрируя неравенство (4.2.12) по короткой стороне i^~"(j4.), мы получаем (4.2.7). 4.2 е. Символические системы. Мы заканчиваем обзор статистических свойств примеров, представленных в гл. 1, рассмотрением символических динамических систем. В отличие от только что рассмотренных гладких примеров, для символических динамических систем нет никаких «естественных» инвариантных мер, подобных мере Лебега. Далее мы увидим (см. предложение 4.4.2, упражнение 4.5.3), что по крайней мере для транзитивных топологических цепей Маркова существует инвариантная мера которая может рассматриваться как предоставляющая в некотором смысле наиболее типичную статистику асимптотического поведения орбит. Мы начнем с некоторых довольно очевидных инвариантных мер для полных сдвигов (Tj^ и ай. Каждое распределение вероятностей р = (д,, • - •» Pjv-i)> ^Д^ О^ Pi ^ ^ Для JV- 1 г=0, ...,iV"-lH 5^Pi = l, определяет меры-произведения fi^ и fi^ на 1=0 пространствах Qj^ и 12^ соответственно. А именно, для любого цилиндра *^a7,V.'.7a' ={^ ^^N\^n. = ^i^ г = 1,..., А;} мы по определению полагаем Мр (*^(?,"V'a*) = 11 Ра. ^ затем продолжаем /i^ на борелевскую сг-алгебру стандартным образом. Меры fi^ определяются аналогично. Меры fi и fi^^ таким образом, по определению инвариантны относительно сдвига. Иногда меры-произведения называются бернуллиевскими мерами, и сдвиги, рассматриваемые как сохраняющие такую меру преобразования, часто называются бернуллиевскими сдвигами. Термин 4^топологический бернуллиев- ский сдвиг* для топологических динамических систем возник в результате имитации более распространенного термина, используемого в эргодической теории. Заметим, что, когда лишь одна компонента вектора р отлична от нуля, меры fip и fip становятся атомарными, так что мы исключим этот случай. Предложение 4.2.13. Предположим, что мера р обладает по крайней мере двумя отличными от нуля компонентами. Тогда сдвиги cTjv и а^ являются перемешиваниями относительно мер fi^ и fi^ соответственно. Доказательство. Мы будем рассматривать только <Tj^; случай а^ полностью аналогичен. Поскольку симметричные цилиндры С^ = {ш е 6 Qj^ I uj^ = а., г = —щ ..., т} образуют достаточную совокупность /л^-из- меримых множеств, достаточно доказать, что lim м, К"(С„*)П Cj) —* м, (а*) -М, {С') = и Рс^й Р,- "-'°0 П-»0О i^^lg ^ j^^l ' Поскольку а^ЦС^)=С11^:Х^',иыииееыа^^{С^)пС^ = С^^^^^^^^^ для п > 2А; + 2Z + 2, и по определению меры fi^ м (с^::::Х:^:::Х') = П р„, • П р., = м (с^) -м (cj). □ Мера-произведение на 12^y, соответствующая равномерному распределению (l/JV,..., 1/-^) , обладает некоторыми специальными свойствами. Напомним (см. п. 1.9 а), что множество tlj^ может быть снабжено структурой
§ 4.2. ПРИМЕРЫ ЭРГОДИЧНОСТИ; ПЕРЕМЕШИВАНИЕ 167 абелевой группы относительно покоординатного сложения по модулю N, Другими словами, если и = (..., w_i, Wq, Wj, .. .), а;=(..., a;_i, Qq, a^ ...), то w + a :=(...,/3_i, Aj,/?!,...), где/?„ = a„ +w„ (rnod N) и/?„ 6{0,1, ^.., АГ-1}. Эта операция непрерывна относительно топологии произведения. Структура группы в 12^ определяется аналогично. Сдвиги сг^у и а^ оказываются автоморфизмом и эндоморфизмом группы соответственно, что усиливает аналогию с автоморфизмами тора и линейными растягивающими отображениями. Меры Хаара на Qj^ и 12^ совпадают с мерами-произведениями /i(i/jv,..., i/jv) и Mn/jv,..., i/iv)- Немного изменяя наши предыдущие обозначения для мер Хаара, будем обозначать эти меры Xj^ и А^. Пусть /ijy^ —равномерная ^-мера на множестве всех периодических точек периода п для сдвига ctj^. Очевидно, что для любого симметричного цилиндра С^ и п ^ 2т +1. Таким образом, последовательность /ijy ^ сходится к мере Aj^ в *-слабой топологии. Это значит, что мера Aj^ в определенном смысле отражает асимптотическое распределение периодических точек для сдвига a-j^. Та же конструкция с очевидной модификацией работает для одностороннего сдвига сг^. Более общий класс инвариантных мер для ЛГ-сдвига и топологических цепей Маркова — марковские меры. Пусть П:= {тг^^}^^^^^ _ jv_i —такая (N X АГ)-матрица с неотрицательными элементами, что Y1 ^ij — ^ Д^я 1=0 j = 0,. ..,N - I. Такие матрицы называются стохастическими. Подобно ситуации с О—1-матрицами (см. определение 1.9.6), мы будем называть стохастическую матрицу П транзитивной, если для некоторого т все элементы матрицы П"* положительны. Следующий факт — простое следствие теоремы Перрона — Фробениуса 1.9.11 и некоторых соображений, использовавшихся в ее доказательстве. Предложение 4.2.14. Каждая стохастическая матрица П обладает инвариантным вектором р с неотрицательными координатами. Если матрица П транзитивна, такой вектор единствен (с точностью до умножения на константу), единица является простым собственным значением матрицы и все другие собственные значения П по модулю меньше единицы. Доказательство. Каждая стохастическая матрица сохраняет гиперплоскость Xi + ... + Xjy = 1 и конус Р векторов с неотрицательными координатами. Следовательно, она сохраняет симплекс N S := |(xi,..., Xj,) X. > О, Y^ X, = 1 Отображение Т: а—^ а, определенное в доказательстве теоремы Перрона— Фробениуса 1.9.11, в этом случае совпадает с ограничением П на симплекс (Т. Следуя доказательству теоремы Перрона — Фробениуса, мы заключаем, что П сохраняет выпуклое множество п = 0
168 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ которое имеет не более чем N крайних точек. Обозначим эти крайние точки через Pi, •. nPs и и^ среднее (Pi +.. •+Рз)/^ через р. Поскольку матрица П переставляет точки (р^,..., Pg), мы заключаем, что Т1р=р, Теперь допустим, что матрица П транзитивна. В этом случае теорема Перрона — Фробениуса применима непосредственно и дает единственность инвариантного вектора р ест с положительными координатами. D По данной стохастической матрице П и вектору р 6 сг мы можем определить марковскую меру fj^^ на lij^: Мп,р(СЛ= П ^а.а^.,Ра- (4.2.13) Подчеркнем, что число тг^^ представляет ту часть цилиндра Cf (мера которого равнаpj), которая переходит в С9. (Ср. с соотношением J^ тг^^р^ =Pi.) Это ч 3 делает стохастичность матрицы очевидным необходимым условием инвариантности меры. Непосредственное вычисление показывает, что равенство Y\p=p гарантирует crjy-инвариантность меры Мп,?- Предположим теперь, что А —О— 1-матрица, а стохастическая матрица П такова, что 7г^у = 0, если а^. = 0. Тогда, очевидно, supp^Un^pC^^ и, следовательно, ^ ^ может рассматриваться как инвариантная мера для топологической цепи Маркова а^. Если П — транзитивная матрица, мы будем обозначать меру /in,p просто через ^, так как в этом случае вектор р единствен. Предложение 4.2.15. Если П — транзитивная стохастическая матрица, то сдвиг cг^y является перемешиванием относительно меры pi^. Лемма 4.2.16. Если П" = {тг^"*}, то 7г|^^* —^ р^ при п -^- оо. Доказательство. Из предложения 4.2.14 следует, что П" — последовательность стохастических матриц, сходящаяся к проекции вектора р на прямую /. Так как стохастичность — замкнутое свойство, предел этой последовательности — также стохастическая матрица. Но единственная стохастическая матрица, проектирующая Ш^ на I, —это матрица, столбцы которой— копии вектора р. D Доказательство предложения 4.2.15. Для п >2т +2 пересечение crj^"(C'^"*) П С^ совпадает с объединением цилиндров вида /^—пц ...J ni^m+l,...,n—m— 1,71 — fn,.,,,71+371 ТВ ДЛЯ всех 7 = (7„, + n ..., 7„-m-i)- Мера ^ такого цилиндра равна п — т мел-Pi'-мел •-.„._ П. ^_.„...,--. .=1 ^"-"■ Суммируя эти выражения по всем j, мы получаем WI ' П1 ^Ш в силу леммы 4.2.16 мы имеем 7г1"~"**—>рд при п—^оо. Следовательно, fJ^(<T;}''(C^)nC^)—^fj^(C^)-fj^{C^), и так как совокупность симметричных цилиндров для всевозможных т достаточна, перемешивание следует из первого утверждения предложения 4.2.10. D
§ 4.2. ПРИМЕРЫ ЭРГОДИЧНОСТИ; ПЕРЕМЕШИВАНИЕ 169 Упражнения 4.2.1. Докажите, что каждый сдвиг тора имеет чисто точечный спектр, т. е. соответствующий унитарный оператор обладает полной ортогональной системой собственных функций. 4.2.2. Рассмотрим отображение /: 5* х [О, I] -*■ 5* х [О, I], /(х, t) = (х-{• а, t), где а — иррациональное число. Докажите, что временные средине каждой непрерывной функции ip равномерно сходятся, но преобразование / не является строго эргодическим. 4.2.3. Докажите, что аффинное отображение А^ двумерного тора, , Л^{х,у) = {х-{-а,у-^х) (modi), с которым мы уже встречались в упражнениях 1.4.4 и 3.2.6, эргодично относительно меры Лебега, если а — иррациональное число. 4.2.4. Докажите, что отображение Л^ с иррациональным а строго эргодично. Найдите все инвариантные борелевские вероятностные меры для Л^, если а рационально. 4.2.5. Докажите, что дробная часть значений любого квадратичного полинома an +/Зтг+7» п = О, I,..., где а ^ иррациональное число, равномерно распределена на отрезке [0,1], т. е. если х^ = ап^ +/3тг + 7 ~1<^"^ -i- ^-\~ j], Q^a<b <\, н JV^(a, i)=card{ie[0,..., п-1]|а^х^ < i}, то ^NJa,b)-^b~a. 4.2.6. Докажите строгую эргодичность следующего аффинного отображения Л^,^ тора ^а, т(^\. • • •> а:^) == (a^i + а, а^ + хр хз + а^,..., х^ + х^_ l) (mod 1), где а — иррациональное число. 4.2.7. Докажите, что дробные части значений любого полинома an"* + ain"*"'+... + a^ где neNo, а число а иррационально, равномерно распределены в отрезке [0,1] [ ]. 4.2.8- Докажите, что «тентообразное» отображение д: [О, 1]—>[0,1], 2х, O^x^l 2-2а^ l^x^l, , введенное в упражнении 2.4.1, сохраняет меру Лебега и эргодично относительно нее. 4.2.9. Докажите, что отображение Д: [0,1]->[0,1], задаваемое формулой /4(х) = 4х(1-х), обладает эргодической инвариантной мерой, эквивалентной мере Лебега. 4.2.10*. Пусть О < а < j3 < 1. Рассмотрим следующее кусочно непрерывное преобразование -^а,у9 полуинтервала [0,1) в себя: х+1-а, 0^х<а, ^а,/з(^)-= \ х-а + 1-Д а^х<Д х-А ^^х<1. Докажите, что I ^ —инъективное отображение, сохраняющее меру Лебега. Докажите, что отображение 1^ д эргодично относительно меры Лебега тогда н только тогда, когда число ^/{1 -{• f3 — а) иррационально. 4.2.11. Докажите, что автоморфизм i^: Т"*->Т"*, задаваемый целочисленной (т х т)-ма- трнцей с определителем ±1, эргоднчен относительно меры Лебега тогда и только тогда, когда никакой корень из единицы не является собственным значением матрицы L, Докажите, что любое эргодическое преобразование i^ является перемешиванием. 4.2.12. Покажите, что если корень из единицы является собственным значением матрицы L, то существует непостоянный Fj^ -инвариантный тригонометрический полином, н поэтому преобразование F^ не является топологически транзитивным и, следовательно, не эргодично.
170 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ 4.2.13. Докажите, что перемешивающее преобразование имеет непрерывный спектр, т. е. соответствующий унитарный оператор не имеет непостоянных собственных функций. 4.2.14. Предположим, что П — нетранзитивная стохастическая матрица. Покажите, что среди мер ft^ лишь конечное число эргодических и каждая мера ^ представима в виде выпуклой линейной комбинации этих мер. 4.2.15. Покажите, что каждая эргодическая мера /^п р имеет следующую структуру. Существует такое целое число т, что ft^ не эргодична для т-й степени о-д? сдвига o-j^, а именно Мп р — £ М^*\ 1'Д€ каждая мера ц^*^ инвариантна и является перемешивающей для o-jy, а <Tj^ 1 = 1 циклически переставляет меры fx^^K 4.2.16. Докажите, что для меры /i^. где П—транзитивная стохастическая матрица, перемешивание экспоненциально на цилиндрах, т. е. для любых цилиндров Q С' мы имеем 1мп(^Г(^) ^ ^') - Мп(^) • Мп(^')1 < с ехр(-ап), где а, с — некоторые числа, с > О, а > 0. § 4.3. Метрическая энтропия В предыдущих параграфах мы видели, что основные свойства, связанные со Статистическим поведением орбит, а именно наличие возвращения для почти всех относительно инвариантной меры точек, эргодичность, строгая эргодичность и перемешивание, могут рассматриваться как более сильные «количественные» аналоги «качественных» свойств, описывающих возвращение, а именно возвращения орбит, топологической транзитивности, минимальности и топологического перемешивания соответственно (см. предложение 4.1.18 и замечание после определения 4.2.8). Теперь рассмотрим статистический аналог глобального инварианта скорости роста орбит — топологической энтропии. Это число называется энтропией сохраняющего меру преобразования или энтропией относительно инвариантной меры (см. определения 4.3.7 и 4.3.9). В случае эргодической меры энтропия может быть определена, подобно ее топологическому аналогу, как показатель экспоненциальной скорости роста числа статистически значимых отрезков орбит, различимых с произвольно хорошей, но конечной точностью [']. Связь между понятиями топологической энтропии и энтропии относительно инвариантной меры более полна и точна, чем для таких пар понятий, как рекуррентность орбит — типичное относительно инвариантной меры возвращение, топологическая транзитивность — эргодичность, минимальность — строгая эргодичность, топологическое перемешивание — перемешивание. Для этих случаев данная связь односторонняя: статистическое свойство влечет топологический аналог, но, вообще говоря, не наоборот. В слз^ае энтропии связь между ними описывается вариационным принципом (теорема 4.5.3), который утверждает, что топологическая энтропия непрерывного отображения равна точной верхней грани энтропии этого отображения по всем инвариантным мерам. Таким образом, не только статистическое свойство (скажем, положительность энтропии относительно инвариантной меры) влечет топологический аналог (в этом случае положительность топологической энтропии), но и наоборот, из положительности топологической энтропии следует существование инвариантной меры с положительной энтропией (это свойство представляет собой количественное усиление теоремы Крылова — Боголюбова 4.1.1 для случая отображений с положительной топологической энтропией).
§ 4,3. МЕТРИЧЕСКАЯ ЭНТРОПИЯ 171 Перед тем как перейти к вариационному принципу, мы разовьем в этом параграфе общую теорию метрической энтропии (относительно инвариантной меры) и затем в следующем параграфе применим ее для нашего стандартного набора примеров. 4.3 а. Энтропия и условная энтропия разбиений. Пусть (X,B,fi) или {X, fi) — вероятностное пространство и / —конечный или счетный набор индексов. Совокупность измеримых подмножеств ^={С^еБ\ае1} называется измеримым разбиением пространства X, если ^{Х\ \j Cj) = 0 И /i(*^a ^ ^<0~ ^ ^^ ^1 ^ ^* ^^ будем иметь дело главным образом с конечными измеримыми разбиениями пространства X на множества положительной меры. Как принято и естественно в теории меры, будем рассматривать измеримые разбиения mod 0. Это значит, что два разбиения ^ и т? отождествляются, если найдется такое множество А нулевой меры, что ограничения ^ и ту на X \ Л совпадают. Эквивалентным образом можно сказать, что ^ =7? (mod 0), если для любого элемента С б ^ положительной меры найдется такой элемент -D 6 т?, что fi{CAD) = 0, Здесь Л означает симметрическую разность: ААВ = {АиВ)\(АпВ) = {А\В)и(В\А), Определение 4.3.1. Энтропией измеримого разбиения ^ называется величина Я(0:=ЯДО:=- Y1 M(CJlogM(CJ^O. Удобно принять соглашение, что О log О = О, и тогда ае/ Для счетного разбиения ^ энтропия может быть бесконечной. В большинстве случаев мы не будем явно указывать на зависимость энтропии от меры, но в случаях, когда приходится рассматривать энтропии по разным мерам, будем использовать нижний индекс. Рнс. 4.3.1. график функции xlog(x)
172 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ Если Т: X -^ X — сохраняющее меру преобразование, ^ — измеримое разбиение X и Г"'(^):= {Т^^(С^) | а б /}, то, очевидно, Я(Г-ЧО) = Я(0. (4.3.1) Для измеримого разбиения ^ и точки хеХ обозначим через С^(х) элемент ^, содержащий х. Функция /^: Х-+ Е, /^(x) = -logM(q(x)), (4.3.2) называется информацией разбиения ^. В этом определении мы пренебрегаем множествами нулевой меры, для которых /i(C^(x)) = 0; Используя (4.3.2), можно написать НЛО= ( А^М. (4.3.3) Эта формула для энтропии делает естественным следующее понятие условной энтропии разбиения относительно другого разбиения, которое играет центральную роль в теории энтропии сохраняющих меры преобразований. При рассмотрении разбиений удобно использовать другое обозначение для условных мер /лд, соответствующих элементам разбиения, полагая fi{A\B):= fi{A П B)/li{B). Определение 4.3.2. Пусть ^={С^ |а б/} и 7] = {D^ \а 6 J} —два измеримых разбиения пространства Лебега {X, fi). Условной энтропией разбиения ^ относительно т] называется величина Замечание. Если г/= {X}—тривиальное разбиение, то Н(() = = Н(^\и). Аналогично (4.3.3) можно переписать определение условной энтропии в виде H(^\V)=\ L„dfi, (4.3.4) X где 1^^^ — условная информация первого разбиения по отношению ко второму: * Формула (4.3.4) позволяет нам определить условную энтропию даже в некоторых случаях, когда ^ — непрерывное разбиение. Не входя в обсуждение общей ситуации с измеримостью и условными мерами для непрерывных разбиений, мы проиллюстрируем последнее утверждение примером. Пусть X — единичный квадрат Z) = [О, 1] х [0,1] с мерой Лебега, ^ — разбиение на вертикальные интервалы {х} х [О,/(х)] и {х} х (/(х), 1], где /: [0,1] -+ [0,1] — измеримая функция, и ту — разбиение на вертикальные отрезки {х} X [О, 1]. Тогда 1 Н{^ \v) = -\ [/(^) log/(x) + (1 - /(х)) log(l - fix))] dx. О
§ 4.3. МЕТРИЧЕСКАЯ ЭНТРОПИЯ 173 Возвращаясь к случаю конечных или счетных измеримых разбиений, обратим внимание на то, что если мы обозначим через ^г, разбиение множест- на D^ на такие пересечения D^r\C^, а б/, что ^{D^r\C^)>0, то где энтропия Н{^^ ) вычисляется относительно условной меры ^i^ . Имеется естественное отношение частичного упорядочения на множестве разбиений: ^ ^ ту тогда и только тогда, когда для каждого множества D Ет] существует такое множество С 6 ^, что D СС. Если ^ ^т]^ иы будем говорить, что 7] — измельчение ^ и что ^ подчинено rj. Очевидная конструкция одновременного измельчения двух разбиений ^ и ту — совместное разбиение ^ V Т7 := {С П D I С € ^, -D 6 Т7, fi(C nD)>0} (ср. с упражнением 3.1.7). В заключение скажем, что два разбиения ^ и т? независимы, если для всех Сб ^, D ет]. Следующее утверждение содержит основные свойства энтропии и условной энтропии, которые будут систематически использоваться позже. Предложение 4.3.3. Пусть (X, В, fi) — вероятностное пространство, и пусть ( = {С^ I а G /}, Т7 = {D^ | а 6 J}, С = {^а \cteK} — конечные или счетные измеримые разбиения X и v = {X}. Тогда выполнены следующие утверждения, 1. О < — log(sup/i(Cj^)) ^ Н{^) ^ log card ^; кроме того, если разбиение ^ конечно, то ^(0 = bgcard ^ тогда и только тогда, когда меры всех элементов разбиения ^ равны, 2. О ^ Н(^\7]) ^Н{^); Н{^\7]) = Н(^) тогда и только тогда, когда разбиения ^ и rj независимы; Н((\'г]) = 0 тогда и только тогда, когда ^^7] (mod 0). Если C^v, гпо Hi^lO^Hi^lrj). 3. Н((У'Г]\С) = Н{^\С) + Н{7]\(\/С)' ^ частности, для С = ^ имеет место равенство H(^yv) = H(0 + S{v\a (4.3.5) 4. Я(^ Ут7|С)^Я(^1С) + Я(т7|С); б частности, Я(^Ут7)^Я(^) + Я(т7). 5. Я(е|^) + Я(т7|С)^Я(^|С). 6. Если А —другая мера на X, то для каждого разбиения ^, измеримого как относительно /л, так и относительно А, и для любого р 6 [О, 1] выполнено неравенство Следствие 4.3.4. Для двух измеримых разбиений ^, т], Н{^)<оо, Н{т]) < оо, положим d^{^,V):=H{^\v) + H(v\n- (4.3.6)
174 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ Тогда с^д —метрика на множестве (всех классов эквивалентности modO) измеримых разбиений с конечной энтропией. Она называется метрикой Рохлина. Доказательство следствия 4.3.4. По второму утверждению предложения 4.3.3 сгд(^, 7?)^0. Если сгд(^, 7?) = 0, то H(^\rj) = H{rj\^)=0, По этому же утверждению ^ '^rj и rj'^ ^. Но отсюда немедленно следует, что ^ =7] (mod 0). Симметричность с?д вытекает непосредственно из определения (4.3.6). В силу пятого утверждения предложения 4.3.3 ^д(е,с)=я(е|с)+я(с|е)^ Доказательство предложения 4.3.3. 1. Неравенство Я(0^ ^ О выполнено по определению; если ^ содержит по крайней мере два элемента положительной меры, то Щ|)>0, Таким образом, равенство Я(0 = О влечет, что ^ = v (mod 0). Так как — log(sup д(С„)) = inf J^, то в силу (4.3.3) H{i)^-\og{supfi{CJ). -е/ Чтобы доказать, что iJ(^) < log card ^, мы можем считать, что ^ —конечное разбиение. Рассмотрим функцию X log X, если X > О, ^^^^~^ О, если х=0. Так как ip"{x) = 1/х > О, то функция ^р строго выпукла, т. е. ip( Y2 ^i^i) ^ оо оо < Y^ а^(р(х-) для таких неотрицательных чисел а^ ..., а„, что ^ а^ = \^ 1=1 »=1 где равенство возможно, только если х. =х^ при а^фОф а-. Теперь положим ^ =(^1,..., Q), а,. = 1/А;, Xi = fi{Ci) для г = 1,.,,, к. Из выпуклости функции ip следует, что 1^м(С,))^^|^(м(С,)) = -|я(е), (4.3.7) к Т. е. H(^)^logA;. Строгая выпуклость ip означает, что равенство в (4.3.7) достигается, лишь когда м(С-) = 1/к для всех г. 2. Нужное неравенство вновь следует из выпуклости функции ip: 0^H(e|7?) = -^M(ZP,)^^(M(CjZP,)) = -^^M(ZP,M^.(CjZP,))< ^ - Е ^( Е М(^,)М(С„1-С,)) =- Е ¥'(m(CJ) = Я(е). (4.3.8) Теперь заметим, что с^(х) < О для 0< х < 1, так что если Н{^\7]) = 0, то для каждого такого индекса {3^ что fi(D^)>Oj мы имеем ¥'(м(С'^|-О^)) = 0 для всех а € J и, следовательно, ^ ^rj. Если Н(^ {rj) = Н{^) то равенство в (4.3.8) должно иметь место для каждого члена в сумме по а, т. е.
§ 4.3. МЕТРИЧЕСКАЯ ЭНТЮПИЯ 175 Строгая выпуклость функции с^ позволяет заключить, что если m(-D^) > О и fi{CJ > О, то fi{CjD^) = fi(CJ, т. е. fi{C^n D^) = fi(CJ • fi{D,). Применяя неравенство Н^ {(\С)^Н^ {() к условным мерам д^ на каждом элементе D разбиения rj и интегрируя по этому разбиению, получаем я(elc)=я(elcv7J)^я(eh). 3. Третье утверждение вытекает из следующей цепочки равенств: = - Е м(с„ п Е,) log ^^^^^^у!^+я(,,1е V С)=я(е 1С)+я(7?|е V С). а, у '^ 4. Это утверждение следует из предыдущего утверждения и неравенства -^(^1^ V С) ^ -^(^lO) которое в свою очередь следует из второго утверждения, поскольку t ^ С '^ С- 5. В силу двух предыдущих утверждений мы получаем Н{С\^ V 7]) = = Н{^ V C\v) — ^{i\v)^ -H'(Ch)- Используя третье утверждение несколько раз, мы получаем H{C\v) + H{v\C) = H{iVv) + H{v'^C)-H{v)-H{C) = =я(ev77)+я(ch)-я(c)=я(ev77vc)-я(clev77)+я(ch)-я(c)^ ^я(еУ77УС)-я(с)^я(еус)-я(с)=я(е|с). 6. Это утверждение следует немедленно из выпуклости функции ip: <-Е¥'((Рм + (1-Р)А)(С„)) = я,^^(,_,„(0- а Для пространства с мерой (X, д) и m € N рассмотрим пространство Р^ всех классов эквивалентности mod О разбиений X в не более чем т измеримых множеств. Добавляя в случае необходимости множества меры нуль, мы можем считать, что каждое разбиение из V^ содержит в точности т элементов. Для ^, т? € Р^ рассмотрим теперь множество взаимно однозначных соответствий а между элементами ^ я rj и положим V{i,r}):= min Е м(СЛсг(С)). (4.3.9) Очевидно, что V — метрика. Мы будем использовать тот факт, что сходимость в этой метрике гарантирует сходимость в метрике Рохлина.
176 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ Предложение 4.3,5, Для любого е>О существует такое 5 >О, что из неравенства Р(^, 'П)< ^ следует неравенство ^д(С) v) < ^• Замечание, На самом деле метрики V и d^ эквивалентны в пространстве V^ (упражнение 4.3.1). Доказательство. Из соображений симметрии достаточно оценить величину Н{'}]\^). Если Р(^, ту) =6, положим ^=(Л,,...,-^т) и 7? = (Бр ... т ..., В^) таким образом, что Y2 м(-^^^Д) = ^- Для такого г € {1,..., т}, что д(Л^)>0, положим а- := д(Л. \Б^)/д(Л ■). Тогда вклад, который множество Ai дает в выражение ддя.Н{'п\к) из определения 4.3.2, равен - "W пл,,log/iffln^ - Е М(В, п Л,„ов ^iffi£ii> « ^ M(^i)[-(1 - <^i) log(l - <^i) - OL, log a, -h a^ log(m - 1)] = M(^,)[(l-a,)logy4^+a,log^^]<M(^,)log m. Здесь первое неравенство следует из первого утверждения предложения 4.3.3, примененного к мере, индуцированной на множестве А.\В^ = = и (-^i "^ Д)' которое позволяет оценить энтропию разбиения rj относи- тельно этой меры. Последнее неравенство использует выпуклость функции — log X. Таким образом, H{v\0< J2 M(^,)[-(l-<^i)log(l-<^i)-<^iloga, + a,log(m-l)] + ^<^.)^^ + ^ M(^,)logm. fi{A,)<VS V6 слагаемое, заметим, что m так что для fi{Ai) ^ у/б мы получаем а- < у/б. Далее, функция с^(х):= := — xlogx — (1 — x)log(l — х) возрастает на интервале (О, 1/2), так что для (5 < 1/4 первая сумма мажорируется величиной ip{y/6) + у/б log{m — 1) и, следовательно, H{rj\^) ^ ^(vS) + у/б{т log т + log(m — 1)). Поскольку ip{x) -+ О при X -+ О, утверждение предложения доказано. D Понятия энтропии и условной энтропии имеют топологические аналоги. А именно, пусть Л — конечное открытое покрытие компактного метрического пространства X и N{A) — минимальное количество элементов подпокрытия. Тогда Н{Л):= logiV(^) (см. упражнение 3.1.7) — естественный аналог энтропии в этом контексте. Кроме того, для подмножества Y с X пусть Ny(A) обозначает минимальное возможное число элементов совокупности Л, покрывающих Y. Тогда для двух покрытий Аи В величина Н {Л\В) := logimax N^A))
§ 4.3. МЕТРИЧЕСКАЯ ЭНТЮПИЯ 177 5гвляется аналогом условной энтропии. Однако эта аналогия только частичная. Хотя неравенства типа Н{Л\В V С) ^ Н{Л\В) ^ Н{Л) сохраняются, не существует топологического аналога третьего утверждения предложения 4.3.3, равно как и относящейся к независимости части второго утверждения. Эта асимметрия объясняет, почему метрическая энтропия является еще более мощным количественным инструментом в эргодической теории, чем топологическая энтропия в топологической динамике. 4.3 б. Энтропия сохраняющих меру преобразований. Для измеримого разбиения ^ и сохраняющего меру (не обязательно обратимого) преобразования Т определим итерированное разбиение следующим образом: Начиная с этого момента, если не указано противоположное, мы будем рассматривать только конечные или счетные измеримые разбиения с конечной энтропией. Предложение 4.3.6. Предел lim -Я(£5„) существует. п—♦оо Доказательство. Из (4.3,5) и (4.3.1) немедленно следует, что Я(^5„_„) ^ -Н'(^5„) + Я(^5ш)1 и тем самым утверждение доказано. D Замечание. В третий раз после леммы 3.1.5 и доказательства существования предела (3.1.20) мы использовали субаддитивность некоторой последовательности для доказательства существование предела некоторой величины, связанной с экспоненциальным ростом. Позже нам предоставятся многочисленные возможности для использования различных модификаций этого простого, но мощного приема. (См. предложение 9.6.4.) Определение 4.3.7. Величина 1 Чт,0-=К('^^0'= lini ^наи п^оо П называется метрической энтропией преобразования Т относительно разбиения ^. Следующее утверждение дает альтернативное доказательство существования предела h{T, ^)^ г также новую формулу для его вычисления. Предложение 4.3.8. Для метрической энтропии имеет место равенство ЦТ,0= 1^ Я(е|Т->(е5„)). Далее, H{^\T~\^TJ)-невоз- п—♦оо растающая функция п. Доказательство. Используя соотношение (4.3.5) индуктивно и принимая во внимание свойство инвариантности (4.3.1), мы получаем я(е5„)=я(т-че5„^,))+я(е|т-че„^,))= fc=0 Поскольку разбиение T~'(^5fc) в «знаменателе» измельчается с ростом /с, второе утверждение предложения 4.3.3 позволяет заключить, что последовательность 6 ■=я(е|т-чг„))
178 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ J n-l является невозрастающей. Таким образом, h^{T, ^) = Игл — ^ bj^ п—♦ оо lim b. D fc=0 n n—♦oo Определение 4.3.9. Энтропией отображения Т относительно меры fi (или энтропией меры д) называется число h{T):= h^{T)\^ sup{/i^(7^ ^) | ^ —измеримое разбиение, Я(^) < оо} . Очевидно, энтропия инвариантна относительно метрических изоморфизмов. Мы вскоре увидим, что это определение более конструктивно, чем кажется на первый взгляд; в большинстве случаев h^{T)=h^{% ^) цдя подходящим образом выбранного разбиения ^. (См., например, следствие 4.3.14.) Вспоминая определение энтропии разбиения с помощью информационной функции (4.3.2)-(4.3.3), мы можем интерпретировать энтропию h^{T^^) как среднее количество информации, которую знание «нынешнего состояния» системы добавляет к знанию прошлого. Таким образом, система с нулевой энтропией может рассматриваться как сильно детерминированная в том смысле, что приблизительное знание всего прошлого (т. е. знание того, через какие элементы данного конечного разбиения прошла траектория в прошлом) точно определяет эту последовательность посещений в будущем. 4,3 в. Свойства энтропии. Следующее утверждение содержит основные элементарные свойства энтропии h(%l) как функции разбиения ^. Оно открывает путь к доказательству последующих критериев, которые позволяют вычислять энтропию преобразований h{T), Предложение 4.3.10. Пусть Т: {Х^ ^)-* {Х^ ^) — сохраняющее вероятностную меру преобразование вероятностного пространства urjj ^ — измеримые разбиения с конечной энтропией. Тогда выполнены следующие утверждения. 1. О^ 1Ы f-:^ log( sup fi{C))) ^ ЦТ, О ^ ЩО- 2. h{T,iVv)<h{T,0-^HT,vy 3. h{T,'n)^h{T,^) + H{rj\^); в частности, если ^ ^ ??, mo h{T, ^) ^ ^h{T,vy 4. \h(T,i)-h{T,r})\ ^H(^\7]) + H(v\0 {неравенство Рохлина), 5. h{T, Т~\())= h{T, (), и если Т — обратимое преобразование, то h(T,0=h(T,T{0)- к 6. h{T,0=h{T, V Т-'(О) для fc € N, и если Г —обратимое преобра- к зование, то /г(7;0=^(^ V Т'{^)) ддя к eN. i = ~k 7. Если 1/ —другая мера и р € [О, 1], то Замечание. Четвертое свойство означает, что h(T, -) — липшицева функция с константой Липшица 1 на пространстве разбиений с конечной энтропией с метрикой Рохлина (4.3.6).
§ 4.3. МЕТРИЧЕСКАЯ ЭНТЮПИЯ 179 Доказательство, 1. Среднее неравенство из первого утверждения следует непосредственно из первого утверждения предложения 4.3.3, а правое неравенство следует из предложения 4.3.8 и второго утверждения предложения 4.3.3. 2. Поскольку (^ ^v)-» = ^~п V^5„, это утверждение следует из равенства (4.3.5), которое является частным случаем третьего утверждения предложения 4.3.3. 3. Согласно (4.3.5) Н(CJ < Н(а. WU = Н(vlj-к Н{^JvIJ, и. ис- пользуя третье утверждение предложения 4.3.3 индуктивно, мы получаем ^Я(еЬ) + Я(т-'(еп)к^„)^ <я(е|7?)+я(т-че)|т-ч»?))+я(т-2(е/_„)|7?5„)^пя(е|7?). 4. Это свойство следует непосредственно из предыдущего, 5. Это свойство следует из свойства инвариантности (4,3.1), поскольку и аналогично, если преобразование Т обратимо, я((Т(е))г„)=я(г(е„))=я(е5„). к 6. (V T'"U))-n = ^-n-k и. следовательно, Н(Т, V Т-(е))= lim :^Я(е5„_,)= lim -±^Н{е„-,) = НТ, О- Доказательство для обратимого Т полностью аналогично, 7. Это свойство следует непосредственно из шестого утверждения предложения 4.3.3 D Теперь мы можем сформулировать несколько критериев для вычисления энтропии сохраняющих меру преобразований. Интересно отметить, что обратимые и необратимые преобразования должны рассматриваться отдельно. Определение 4.3.11. Семейство Е измеримых разбиений с конечной энтропией называется достаточным относительно сохраняющего меру преобразования Т, если 1) для необратимого Т разбиения, подчиненные разбиениям вида к V ^~ЧО (С ^ ^> fc € N), образуют плотное подмножество в пространстве всех разбиений с конечной энтропией, снабженном метрикой Рохлина (4.3,6); 2) для обратимого Т то же самое верно для разбиений, подчиненных I разбиениям V Т'{^){^еЕ, 1е N). Замечание, Предложение 4.3,5 позволяет нам заменить в этом определении метрику Рохлина на метрику V из (4.3.9).
180 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ В случае неатомарной борелевской меры на компактном метрическом пространстве более очевидное условие, гарантирующее достаточность семейства Е = {Cn}n€N' состоит в том, что aiam(^„) -+ О, где diam(0-= sup(diam(C)). + Теорема 4.3.12. Для любого достаточного семейства разбиений Н выполнено равенство h^{T) = sup h^{T^^), Доказательство. Пусть ri — произвольное измеримое разбиение пространства X ia H^{ri) <оо. Зафиксируем s > О и найдем такое разбиение ^ € Н и такое А; € N, что к ДЛЯ некоторого разбиения С ^ V ^~ЧО» ^^^^ преобразование Т необрати- к j=0 МО, и с ^ V ^40» ^^^и ^ обратимо. Используя последовательно четвер- i^-k тое, третье и шестое утверждения предложения 4.3.10, мы получаем в необратимом случае/гДТ^т?)^/гДТ; С)+^ ^ ^(^ V T-'{i))-\-s = h^{T,0 + e (и аналогично, если Т обратимо). Поскольку в произвольно мало, теорема доказана. D Определение 4.3.13. Разбиение ^ называется образующим ддя преобразования Т^ если 5 = {^} —достаточное семейство. Следующее утверждение — самый распространенный и просто формулируемый критерий для вычисления энтропии. Следствие 4.3.14. Если ^—образующее разбиение для Т, то Сейчас наиболее удобно подчеркнуть различие между обратимым и необратимым случаями. Назовем разбиение ^ односторонним образующим цдя обратимого сохраняющего меру преобразования TJ если разбиения, подчи- ненные разбиениям вида V Т~*(^) {к €N), плотны в метрике d^. Предложение 4.3.15, Если обратимое сохраняющее меру преобразование обладает односторонним образующим, то h^{T) = 0. Доказательство. Одностороннее образующее разбиение ^, очевидно, является образующим для 7^ так что в силу следствия 4.3,14 достаточно доказать, что h^{T, ^) = 0. По пятому утверждению предложения 4.3.10 это эквивалентно тому, что h^{T, Т() = 0. Предположим, что ^ —односторон- к нее образующее разбиение и s > О, и выберем fc € N и С ^ V ^~ЧО '^^^^ что d(T(e), С)< е и, следовательно, Я(Т(е)| V Т-'{()) ^ Н{Т{Ш) < ^- Таким образом, поскольку последовательность а„ := Н{Т{^)\ \/ Т~*(^)) не возрастает, h^{T, Т{^)) < s по предложению 4.3.8. Поскольку в произвольно мало, мы заключаем, что h{7] Т{^)) = 0, П Следующее утверждение — аналог предложения 3.1.6 и предложения 3.1.7 для сохраняющих меру преобразований.
§ 4.3. МЕТРИЧЕСКАЯ ЭНТРОПИЯ 181 Предложение 4.3.16. 1. Если S: {Y, //)-+ {Y, и) —фактор отображения {см. определение 4.1.21) Т: (X, р,) -+ (X, д), то h^{S) < h^{T). 2. Если множество Л инвариантно относительно Т и р>{А) > О, то 3. Если fi и X — две инвариантные вероятностные меры для Щ то для любого р € [О, 1] выполнено неравенство К^(.-,,х{Т) ^ ph^{T) + (1 - р)К(Т). 4. Для любого А; € N выполнено равенство h^C^^) = kh^(T). Если Т—обратимое преобразование, то h^(T~^)=h^{T) и, следовательно, h^{T^)=\k\h^{T) для любого к еЪ. Доказательство. 1. Для любого измеримого разбиения rj пространства Y прообраз R-^{rj) = {R-'D\Dev} относительно факторотображения R — измеримое разбиение пространства X, НПО определению Я^,(Л-'7?) = Я^(77) и h^{T, Е'^ 7])= h^{S,rj). Таким образом, /1ДТ) = 5ир{/1Д7;е)|ЯДе)<оо}^5ир{/1Д7;Л-Ч^))|ЯДЛ-Ч^))<оо} = = sup{/i,(5, V) I H^V) < 00} = K(S). 2. Пусть ^ —измеримое разбиение пространства X, Н^{^) < оо и С = = {Л, X \ >!}. Производя, если нужно, замену разбиения ^ на ^ V V С» мы можем считать, что ^ ^ С- Тогда Я^(^5„) = мИ)Я^/С5„)+ +д(Х \А)Н (С^„), поскольку множество А является Т-инвариантным. 3. Это утверждение следует из шестого утверждения предложения 4.3.3, примененного к разбиению ^5„- 4. Если А; € N, то и /i^T*,Vr-4e)) = 4(^o- Кроме того, ядт;е) =/^дт"', О. поскольку eir= Т-+4^5;'). 5. Пусть ^ я Г} — измеримые разбиения пространств X и У соответственно, и пусть 1/^ ={Х} и 1/у = {¥} —тривиальные разбиения этих пространств. Тогда С X ^ = (С X '^у) V (/^х ^ ^)' ^Д^ разбиения С ^ ^у ^ ^х ^ V независимы как разбиения X х У. Из второго и третьего утверждений предложения 4.3.3 следует, что Н{а V f3) = Н{а)'\- H{f3) для независимых разбиений а и /3. Таким образом, Поскольку (^ X r|)T^^ = ^5„ х r/f^, это означает, что h ^^{Т х S, ^ х ??) = ='i Л Т; О+ 'ia(S','?) и, следовательно, /1^,д(Тх S)^\{T) + h^(S). Но
182 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ семейство разбиений X х Y вида ^ х rj, где Н^(^) < оо и H^irj) < оо, достаточно относительно любого сохраняющего меру преобразования X х Y. Следовательно, h^^^{T х S) = h^{T) -\- h^{S) по теореме 4.3.12. D Следствие 4.3.17. Если д и г/—две взаимно сингулярные инвариантные вероятностные меры преобразования f и а € [О, 1], то Доказательство. Пусть А С X таково, что д(Л) = i/{X \А)= 1. Тогда для а €(0, 1) выполнены равенства fi = {afi + {l —ol)i/)^ и i/ = {afi + + (1 - a)i/)x\Ai и ^^ можем применить второе утверждение предложения 4.3.16. D Следствие 4.3.17 верно, даже если две меры взаимно не сингулярны. Это может быть доказано с помощью разложения меры на эргодические компоненты (см. теорему 4.1.12), которое дает единственное представление инвариантной меры как интеграла по эргодическим мерам (таким образом, множество инвариантных мер в сущности представляет собой симплекс). Однако зависимость метрической энтропии от меры довольно тонка, поскольку она нередко не является непрерывной (в слабой топологии). Сосуществование этой «линейности» с отсутствием непрерывности связано с тем обстоятельством, что даже на множестве эргодических мер энтропия не непрерывна; например, слабый предел периодических атомарных мер может обладать положительной энтропией. Упражнения 4.3.1. Пусть ^, г? G Т'^. Докажите, что для любого е > О существует такое 5 > О, что если dj^{^,r))<6,T0V{^,r})<e. 4.3.2. Докажите, что если сохраняющее меру преобразование Т: {X, ;х)—* {X, ;х) обладает образующим разбиением ^ с к элементами, то h (T)^\ogk. 4.3.3. Докажите, что если в условиях предыдущего упражнения h (Т) = log &, то преобразование Т метрически изоморфно полному к-сдвигу aj^ с равномерной б ер нулл невской мерой ^{1/к,....1/к) § 4.4. Примеры вычисления метрической энтропии 4.4 а. Повороты и сдвиги. Естественно ожидать, что энтропия поворота относительно меры Лебега Л равна нулю. Существует несколько способов установить этот факт. Наиболее непосредственный подход состоит в том, чтобы рассмотреть разбиение ^^^ в N равных отрезков. Семейство {Cjv}neN' очевидно, достаточно, как следует из замечания после определе- ния 4.3.11. Итерированное разбиение (Cjv)n'' = V -^аЧСлг) состоит из не более чем N • п элементов (на самом деле в точности из iV • п элементов, если а иррационально). Следовательно, по первому утверждению предложения 4.3.3 мы имеем и К{К,^м)<^ lim ^(logiV+logn) = 0.
§ 4.4. ПРИМЕРЫ ВЬНИСЛЕНИЯ МЕТРИЧЕСКОЙ ЭНТРОПИИ 183 Другое доказательство использует тот факт, что для иррационального а любое разбиение ^ окрз^жности 5' на интервалы даляется односторонним образующим. Это вытекает из того, что итерированное разбиение состоит из отрезков, концы которых являются прообразами концов отрезков, входящих в разбиение ^. Так как каждая полуорбита плотна, максимум длин отрезков из ^^^ стремится к нулю при п —^ оо. Таким образом, из предложения 4.3.15 следует, что h^{R^) = 0 для иррациональных а. Для рациональных а = p/q мы имеем R^^^ = Id, и так как, очевидно, hj^(ld) = 0, четвертое утверждение предложения 4.3.16 позволяет заключить, что K{R^f^) = K{ld)/q = 0. Для сдвига Ту на торе самый простой способ доказать, что /i^(Z^) = 0, опирается на пятое утверждение предложения 4,3.16. Действительно, если 7 = (7i, • • •, 7ш). '^о T^ = R^^x R^^x .,.х R^^ и, следовательно, h^{T^) = т = XI h(R ) — 0. В качестве альтернативы можно повторить первое доказа- 1 = 1 тельство для поворота и показать, что для разбиения ту = Cjv ^ • • • ^ Cjv '^ор^ на равные кубы со сторонами длины 1/N число элементов в итерированном разбиении rjj^ растет не быстрее, чем (nN)"". Следовательно, по первому утверждению предложения 4.3.3 мы имеем /1д(Т„,77)- lim ^H{v^i)^ lim hmlogn + mlogN) = 0. Поскольку {^дг X ... X Cjv}jv€n—достаточное семейство разбиений, из теоремы 4.3.12 следует, что /i^(X^) = 0. 4.4 б. Растягивающие отображения. Для отображения Ej^ стандартное разбиение ^^ на отрезки щ, "^^ , m = О,..., fc - 1, является образующим п-1 »=sO биением на равные отрезки длины | А; | ", энтропия которого равна п log | fc |. Следовательно, по следствию 4.3.14 мы имеем K{E,) = h,iE,,i,)= lim ^H(ej = log|fc|. n-»oo" Сравнивая это вычисление со следствием 3.2.4, заключаем, что h^{Ei^) 4.4 в. Бернуллиевские и марковские меры. Рассмотрим iV-сдвиг а в пространстве, снабженном мерой Бернулли д^. Стандартное разбиение |о на 1-цилиндры N т а =0,..., iV~ 1, является образующим, так как V о"^(Со) — разбиение на i=z~m симметричные тп-цилиндры и диаметры этих разбиений в любой метрике d^, определенной в п. 1.9 а, стремятся к О при тп—юо. Так как разбиения о";^(Со)
184 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ независимы для различных г, с помощью второго и третьего утверждений предложения 4,3.3 мы заключаем, что п-1 ^ Таким образом, мы видим, что в этом случае последовательность 1 п-1 —Я( V ctJ^^^q)) стабилизируется. Из первого утверждения предложения 4.3.3 и п. 3.2 г мы получаем такое следствие. Следствие 4.4.1. ^,* (f^jv) ^ ^top('^jv)' " равенство имеет место тогда и только тогда, когда р = (1/iV,..., l/N). Самый простой способ вычислить энтропию для марковской меры fi^ состоит в использовании предложения 4.3.8, применяемого к разбиению ^^ на 1-цилиндры. Непосредственное вычисление, принимающее во внимание определение меры ^ ^ на цилиндрах (4.2.13), показывает, что для любого п ^ 1 выполнено равенство N H{Qa-^V...Va-^i,)) = -y] Так как ^q — образующее разбиение, по следствию 4.3.14 мы получаем следующее выражение для энтропии: N Рассмотрим важный частный случай меры на подпространстве fi^, где Л — транзитивная О- 1-матрица. Пусть q = (g^ ..., q^^) — положительный собственный вектор матрицы Л uv = (vj,..., Vj^) —положительный собственный вектор транспонированной матрицы Л'^, нормализованный так, что N ^9,«, = 1. (4.4.2) 1 = 1 В силу теоремы Перрона — Фробениуса 1.9.11 оба эти вектора определены однозначно с точностью до умножения на положительную константу. Так как максимальные собственные значения матриц А и А^ равны, мы получаем N ^ a,.q. = Xq,, г = 1, ..., N, (4.4.3) И N ^ a,^v, = Xv., j = 1,..., iV. (4.4.4) Пусть a- V- -, = ^- (4.4.5)
§ 4.4. ПРИМЕРЫ ВЫЧИСЛЕНИЯ МЕТРИЧЕСКОЙ ЭНТРОПИИ 185 Тогда П = {тг^у}», j = i,...,jv —стохастическая матрица, потому что для всех j. Так как координаты вектора v положительны, то для всех таких г, j что а^у = 1, соответствующий элемент матрицы П отличен от нуля. Так как А —транзитивная О— 1-матрица, мы немедленно заключаем, что П — транзитивная матрица, поскольку элемент irip^ ее т-й степени ГТ" положителен тогда и только тогда, когда a<.J** > 0. Вектор р = (pi,..., рдг)' Д^я компонент которого выполнено равенство Pi'-=QiVi, (4.4.6) инвариантен относительно П: N N Е^г-л а. v. Xv q у = 1 J = 1 ■' Поскольку 5ирр^р = 0д, предложение 4.2.15 позволяет заключить, что топологическая цепь Маркова а^ — перемешивание относительно меры /х^ =fjji' Эта мера называется мерой Перри для топологической цепи Маркова СТд. В заключение вычислим метрическую энтропию h^{a^). Подставляя равенства (4.4.6) и (4.4.5) в формулу (4,4.1) для энтропии, мы получаем ж—ч Q-CL'-V- . CL-V- ■ - 1 J N N Е ^bgA + ( Е 5^(log.,-loga,.j). И Как следует из (4.4.2), (4.4.3) и (4.4.4), первая сумма равна log Л, т. е. топологической энтропии а^ (см, предложение 3.2.5), а вторая сумма равна нулю, поскольку, вновь используя (4.4.3) и (4.4.4), мы получим N N Е ^^ ^^^ ^i=Z ^^■^^- ^""^ ^^■ Е ^ logа,ч = Е ^ i°g -^ = Е -.9^ i°g -.' где первое равенство следует из того, что если а.^ =0, то соответствующее выражение, как в правой, так и в левой части всегда равено нулю. Таким образом, мы доказали следующее предложение. Предложение 4.4.2. Энтропия транзитивной топологической цепи Маркова а^ относительно меры f%j где матрица Tl = {7r^j}i.i^^^^^^^N имеет вид (4.4.5), равна топологической энтропии а^ и, следовательно, скорости роста числа периодических орбит р{ст^).
186 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ Подчеркнем, что данное свойство меры /х^ аналогично свойствам меры Лебега для линейного растягивающего отображения Е^ и однородной меры Бернулли для полного сдвига а^^ (см. следствие 4.4.1). В следующем параграфе мы увидим, что на этих мерах энтропия достигает максимального возможного значения на множестве всех инвариантных мер данного преобразования. Следствие 20.1.5 показывает, что ^ —единственная мера с максимальной энтропией. Построение стохастической матрицы П из О— 1-матрицы А посредством равенства (4.4.5) может выглядеть несколько загадочным, но на самом деле оно имеет естественную интерпретацию. Мера д^ — не что иное, как асимптотическое распределение периодических орбит топологической цепи Маркова а^. Чтобы показать это, вернемся к обсуждению из п. 1.9 в, в ходе которого мы выяснили, что число различных периодических орбит периода п в базисном 0-цилиндре С9 равно диагональному элементу ah) матрицы Л". Из теоремы Перрона — Фробениуса 1.9.11 следует, что ^i"V'^"~*^i9j' ^Д^ q ^ V определяются равенствами (4.4.3) и (4.4.4). Таким образом, доля числа периодических точек периода п, содержащихся в С?, в силу (4.4.2) равна air» , QiVj _^,, Е ял что объясняет (4.4.6). Далее, число периодических точек в множестве С9г\ Пс7д(С?) равно a^juS^Jl'^^- Отношение этого числа к a<J* стремится к что объясняет конструкцию (4.4.5). Подробности читатель может найти в упр. 4.4.2. 4.4 г. Гиперболические автоморфизмы тора. Чтобы упростить обозначения, в этом пункте мы будем обозначать гиперболический автоморфизм тора F^ просто через F, а максимальное собственное значение — через Л вместо Aj. Пусть ^ —конечное разбиение тора Т^ на элементы, п диаметр которых не превосходит 1/10. Оценим величину Н{ \/ F*(^)) = = Н{^^2п-\) снизу путем оценки сверху диаметра итерированного покры- п тияи, следовательно, меры Лебега элементов ^:f2n-i- Пусть Сб \/ F^{^) и х^у^С. Рассмотрим прямую, параллельную собственному вектору с собственным значением Л > 1, проходящую через точку х, а также прямую, параллельную второму собственному вектору и проходящую через у. Как в п. 3.2 д, обозначим через z первую точку пересечения этих прямых. Тогда diF^'ix), F4y)) ^ d{F\x), РЦг)) -\- d{F^z), F^'iy)), Сначала пусть А: > 0. Тогда d{F^{z), F^{y)) = Х'Чи, у) ^ A-*=d(x, у) < A'VlO. Поскольку для А; = 1,..., п точки F^{x)y F^{y) принадлежат одному и тому же элементу разбиения ^, мы имеем d(F^(x), F*(y)) < 1/10 и, следовательно, d{F''{x),F^{z))< 1/10+Л~^/10< 1/5. Это по индукции означает, что длина отрезка прямой, соединяющей точки F^{x) и F^{z), не превосходит 1/5. Следовательно, d(x, 2) = A~"d(F"(x), F"(2)) < Л~"/5. Аналогичные соображения для отрицательных к показывают, что d{y, z) < Л~"/5,
§ 4.4. ПРИМЕРЫ ВЫЧИСЛЕНИЯ МЕТРИЧЕСКОЙ ЭНТРОПИИ 187 И, следовательно, мы имеем d(x, у) < 2Л~"/5. Поэтому диаметр любого п элемента V-^~*(0 ^^ превосходит 2Л~"/5 и, таким образом, по изопе- —п риметрическому неравенству, его мера Лебега не превосходит 27гЛ''^"/5. Итак, левое неравенство из первого утверждения предложения 4.3.10 дает h{F, ^)^ log Л. Так как семейство разбиений на множества диаметра, не превосходящего 1/10, очевидно, достаточно, мы получаем следующую оценку метрической энтропии меры Лебега т: Установим теперь обратное неравенство h^{F)^logX, чтобы заключить, что h^F) = ^ogX. ^ (4.4.7) Мы используем элементарный вариант общего метода, который позволяет получать верхние оценки энтропии гладких динамических систем относительно инвариантной меры. Чтобы увидеть, как этот метод работает в общем случае, см. § 2 добавления. Во-первых, по четвертому утверждению предложения 4.3.16 мы имеем для любого п € N. Зафиксируем s > О и выберем п так, что Л"" < s/10. Теперь оценим h^{F'', ^) для достаточного семейства разбиений, а именно для любого разбиения на квадраты со сторонами 1/iV, где N достаточно велико. По предложению 4.3.8 выполнено неравенство /г^С-Р"", О ^-^(^1-^~"(0)- Чтобы получить оценку величины Я(^|^""(0), оценим для любого данного множества С € F""(0 число N{C) элементов D е ^, пересечение которых с С непусто. По первому утверждению предложения 4.3.3 и определению 4.3.2 условной энтропии для С € -^'""(О мы имеем Я(е|^-"(е))<п1ах1о£ЛГ(С). Любой элемент С разбиения F""(^) представляет собой параллелограмм, стороны которого — образы вертикальных и горизонтальных отрезков под действием F". Диаметр множества С меньше чем v2A"/iV,* «ширина», т. е. расстояние между прямыми, содержащими каждую пару параллельных сторон, в силу наших условий не превосходит Л""/АГ < s/(10iV). Если элемент D е^ пересекает Q то он содержится в (\/2/7У)-окрестности множества С. Но полная площадь такой окрестности меньше, чем \/2Л"4-2\/2 .. 2V2 + S . ЮЛ" если п достаточно велико и s < 1. Подчеркнем, что число N значительно больше, чем п, и даже чем Л". Так как площадь любого элемента ^ равна l/N^, мы получаем ЩС) < ЮЛ" и Таким образом. h^{F) = ^hJF'')<logX+ Щ^. Неравенство h {F) ^ log Л вытекает также из вариационного принципа (теорема 4.5.3). Другой способ вычисления энтропии гиперболического автоморфизма тора содержится в упр. 4.4.6 и 4.4.7.
188 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ Упражнения 4.4.1. Докажите, что любой топологически транзитивный сдвиг иа торе обладает односторонним образующим разбиением, состоящим из двух элементов. 4.4.2. Пусть Л — транзитивная (ЛГ х ЛГ)-0 - 1-матрица, СсПд—цилиндр мМ(п,С) — число периодических орбит Стд периода п в С Докажите, что где матрица П имеет вид (4.4.5). 4.4.3. Докажите, что сохраняющие меру преобразования ((Т2, А'/иг, i/2)) " (^з> /^(1/3 1/3 1/3)) не являются метрически изоморфными. 4.4.4. Докажите, что операторы U^ и U^ (с бернуллиевскимн мерами, как и ранее) унитарно эквивалентны. ' ^ 4.4.5*. Для любого вероятностного распределения р= (р^^. •.»P;v_ i) по крайней мере с двумя отличными от нуля координатами рассмотрим операторы U^ , действующие в пространстве с бернуллневской мерой. Докажите, что любые два из этих операторов унитарно эквивалентны. 4.4.6. Покажите, что образ меры Лебега относительно полусопряжения гиперболического автоморфизма тора F с топологической цепью Маркова Стд, задаваемой марковским разбиением из п. 2.5 г, — мера ^^\- АА.Т*. Покажите, что матрица перехода П для меры ^ нз предыдущего упражнения имеет вид (4.4.5). Используя этот факт, приведите новое доказательство равенства h^(F) = \QgX. 4.4.8. Используя упражнения 4.4.2 и 4.4.7, строго сформулируйте и докажите утверждение «периодические точки гиперболического автоморфизма тора F равномерно распределены относительно меры Лебега». § 4.5. Вариационный принцип Топологическая энтропия, которую мы ввели в § 3.1, на самом деле была определена позже метрической энтропии. Метрическая энтропия представляет собой количественную меру сложности динамической системы относительно данной инвариантной меры. Топологическая энтропия была определена в результате извлечения из той же самой концепции некоторого инварианта топологической динамики. Хотя между определениями этих понятии имеется определенное сходство, отсутствие естественного «размера» множеств в топологической динамике приводит к появлению ряда различий между ними. В частности, метрическая энтропия объединения двух инвариантных множеств согласно предложению 4.3.16 равна сумме энтропии инвариантных множеств, домноженных на их меры, в то время как для топологической энтропии энтропия объединения равна максимуму энтропии компонент по второму утверждению предложения 3.1.7. Таким образом, топологическая энтропия измеряет максимальную динамическую сложность, тогда как метрическая энтропия отражает среднюю сложность системы. Следовательно, можно ожидать, что метрическая энтропия никогда не превосходит топологической. Кроме того, меры, присваивающие большие веса областям более высокой сложности, должны иметь метрическую энтропию, близкую к топологической энтропии. Это на самом деле так, т. е. топологическая энтропия — точная верхняя грань метрических энтропии. Чтобы исследовать (в смысле эргодической теории) метрическую структуру гомеоморфизмов / компактных метрических пространств X, напомним
§ 4.5. ВАРИАЦИОННЫЙ ПРИНЩП 189 сначала, что в § 4.1 мы установили, что множество SOt(/) всех /-инвариантных борелевских вероятностных мер кг X — непустое компактное (в *-слабой топологии) выпуклое подмножество компактного множества Ш всех борелевских вереsrrпостных мер на X. (Крайние точки этого множества суть эргодические меры.) Для наших целей мы должны_21айти разбиения с хорошими метрическими свойствами. Обозначим через А замыкание мно- к жества А СХ и через дА —границу А, Пусть д{А^,,.., А^}:= |J дА^. Лемма 4.5.1. Пусть X — компактное метрическое пространство, 1. Для хеХ, 6 >0 существует такое 6'е{0, S), что уь{дВ{х, (5')) = 0. 2. Для 6 >0 существует такое конечное измеримое разбиение ^ = Cj,..., Q}, что diani(Q) < 6 для всех г и fi{d^) = 0. оказательство. 1. Первое утверждение следует из того, что и дВ{х, 6^) — несчетное дизъюнктное объединение с конечной мерой. S' € (О, S) 2. Пусть {В^,. ..,Bj^} — такое покрытие X шарами, радиус которых мень- t-1 ше чем (5/2„ что м(9Д) = О для О < г < fc. Пусть С^ = Д, С, = Д \ U Bj для г > 1 и ^ := {Ср ..., Q}. Тогда ^ —нужное нам разбиение, поскольку 9е С и дв,, D Замечание. Заметим, что если fi{d^) = 0 и f — сохраняющее меру преобразование, то д(9^:{„) = 0 для любого п, п € N. Важное свойство таких разбиений, которое мы будем использовать в дальнейшем, состоит в том, что для *-слабо сходящейся последовательности д„ —+ ^л выполнено условие я,^(е)-*яде). Опишем теперь метод построения мер с большой энтропией, который мы будем использовать несколько раз. Обозначим через 6^ вероятностную меру с носителем в {х}, и пусть f^fi{A):= fi{f'^{A)) для всякой борелевской меры д, измеримого преобразования / и борелевского множества А. Лемма 4.5.2. Пусть (X, d) —компактное метрическое пространство, f: X -^Х —гомеоморфизм, Е^сХ — (п, г)'Отделенное множест- ^^^ ^-•= сатб(Е ) S S, — равномерная 8-мера на Е^ и fi^\= - J2 f>n- Тогда существует такая f-инвариантная точка накопления р> последовательности {м„}„ем (^ ^-слабой топологии), что IkS i log card(E„) ^ яд/). Доказательство. Для последовательности п^, обладающей свойством lim - log card(J5;„ )= lim - logcard(^„), рассмотрим произвольную точку накопления д последовательности д„ . Существование точки накопления следует из *-слабой компактности множества Ш, а /-инвариантность меры д очевидна, так как /^д„ - М„ = (/"^'„ - ^п)1'^ и //„ — вероятностные
190 Часть 1. Гл. 4. СТАТИСТИЧЕСКОЕ ОПИСАНИЕ ПОВЕДЕНИЯ ОРБИТ меры. Рассмотрим, таким образом, разбиение ^ с элементами, диаметр которых меньше чем s, и д(9^) = 0, как в лемме 4.5.1. Заметим сначала, что logcaTd{E^) = H^ (С/п)» поскольку каждое множество Се Цп содержит не более одной точки х € ^„, так что существует card(£?„) элементов разбиения ^/„ с //„-мерами l/card(£?„). Теперь предположим, что 0< g < п, и пусть a(fc):=[(n— k)lq\ — целая часть числа (п — h)lq для любого к, О^к < д. Тогда {О, l,...,n-l} = {k+rq + t \0^г <а{к),0 <г ^q}uS, где 5 = {О, 1,..., fc, /с + а{к)д + 1,..., п - 1}, и card(5) ^ 2q, поскольку к + а{к)д "^ п — q по определению a(fc). Следовательно, ^ г=о ^ ^ies И а(к)-\ г=0 i€S а(к)-\ ^ Е ^,',..,^(e4) + 2glogcard(e) (4.5.1) г = 0 согласно первому и четвертому утверждениям предложения 4.3.3. Таким образом, по шестому утверждению предложения 4.3.3 мы имеем 9-1 9-1 а(к)-1 к=0 к=0 г=0 ^nH^/e4) + 2gMogcard(e). Поэтому lim-logcard(E„)^ lim Н (^Д)/д = Я(^/)/д, а следовательно, Ш 1 logcard(E„) ^ ЯД/, е) ^ Kif). О п —♦оо Теперь мы докажем вариационный принцип, а именно, утверждение о том, что топологическая энтропия есть точная верхняя грань метрических энтропии. Теорема 4.5.3 (вариационный принцип). Если /: X —^ X — гомеоморфизм компактного метрического пространства {X, d), то, h^^{f) = = snp{h^{f)\fiem{f)}. Доказательство. Если ( = {С^,..., С^}—измеримое разбиение пространства X, то поскольку д — оорелевская мера (ср. определение П 6.6), fi{Ci) = sup{fi(B) I Б С С; —замкнутое множество}. Таким образом, мы можем выбрать компактные множества Д С Q так, что для 13 = {Bq, Бр ..., Bj^} где Бо = X \ и Б,., будет выполнено неравенство H{^\/3) < 1, (Удобно думать о {Д,..., Bj^} как об «островах» в «море» Bq.) Согласно третьему утверждению предложения 4,3.10 мы имеем ^(/, е) ^ ^(/. уЗ)+яде |уЗ) ^ яд/,/3)+1. Далее, В:= {Бд и Б,,..., Бд и Б;;.} — открытое покрытие X. По первому утверждению предложения 4.3.3 H^{PlJ) ^ log card ;3:f„ ^ log(2" card В{„),
§ 4.5. ВАРИАЦИОННЫЙ ПРИНЦИП 191 Если Sq — число Лебега покрытия В, т. е. точная верхняя грань таких чисел (5 > О, что каждый 5-шар содержится в элементе В, то 6q — также число Лебега покрытия Bi^ относительно метрики d„. Так как В£„ — минимальное покрытие, каждое множество C^Bi^ содержит точку х^;, не принадлежащую никакому другому элементу В^„. Точки х^ образуют б^-отделенное множество. Следовательно, /г^(/, (3) ^ h^^^{f)+log2 и /г^(/, О ^ К^^^ ^) + + 1 < hopif) + log 2 + 1. Таким образом, используя четвертое утверждение предложения 4.3.16 и третье утверждение предложения 3.1.7, мы получаем K(f)=K^nin ^ {K,{n + ^og2+\)ln = K^{f) + {\og2+\)ln для всех п € N и поэтому /гД/) ^ ^op(/)• С другой стороны, применяя лемму 4.5.2 к максимальному (п, е)-отде- ленному множеству в X, для соответствующей точки накопления д € Ш{f) имеем п—♦оо Таким образом, Ел ^ logNxif, S, п) ^ sup /гД/), п—♦оо и, устремляя S —+0, мы получаем вариационный принцип. D Замечание. Заметим, что если / — разделяющее отображение и Sq постоянная разделения, то Ит - logiVy(/, s, п) =/г^^рС/) для s < 6q по п—*оо следствию 3.2.13. Следовательно, доказательство вариационного принципа немедленно приводит к следующему результату. Теорема 4.5.4. Разделяющие отображения компактных метрических пространств обладают мерой с максимальной энтропией. Весьма естественен вопрос об условиях единственности такой меры. Очевидно, можно брать объединение нескольких непересекающихся копий одной и той же разделяющей системы, которое представляет собой разделяющую систему, или объединение нескольких различных систем с одинаковой энтропией, и по второму утверждению предложения 3.1.7 и второму утверждению предложения 4.3.16 мера с максимальной энтропией тогда не будет единственной. Не помогает и добавление условия топологической транзитивности (упражнение 4.5.2). Однако, как мы увидим в § 20.1, для большого естественного класса разделяющих динамических систем, который, в частности, включает все транзитивные топологические цепи Маркова, гиперболические автоморфизмы тора, подковы, растягивающие отображения и т д, инвариантная мера с максимальной энтропией единственна. Упражнения 4.5.1. Постройте пример гомеоморфизма компактного метрического пространства с конечной топологической энтропией, который ие имеет меры с максимальной энтропией. 4.5.2. Постройте пример топологически транзитивного разделяющего гомеоморфизма компактного метрического пространства, который обладает более чем одной мерой с максимальной энтропией.
ГЛАВА 5 СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ И НОВЫЕ ПРИМЕРЫ Существует класс инвариантных мер, которые естественны для гладких систем. Это абсолютно непрерывные меры, т. е. меры, задаваемые плотностями в локальных координатах. В § 1 этой главы устанавливаются общие критерии существования таких мер для трех классов динамических систем: в случаях дискретного обратимого и необратимого времени и в случае непрерывного времени. Мы показываем, как эти критерии могут использоваться при установлении существования и единственности инвариантных гладких мер для растягивающих отображений. В оставшейся части этой главы описываются несколько классов динамических систем, возникающих в классической механике и дифференциальной геометрии. Благодаря наличию дополнительной структуры все эти системы сохраняют естественно определенную инвариантную гладкую меру. По ходу дела мы обогащаем нашу коллекцию стандартных примеров несколькими новыми экземплярами. § 5.1. Существование инвариантных гладких мер 5.1 а. Класс гладких мер. Теорема Крылова — Боголюбова 4.1.1 устанавливает существование инвариантной меры для любой топологической динамической системы на компактном метризуемом пространстве. Следствие 4.1.4 показывает, что инвариантная мера отражает асимптотическое поведение почти всех точек в смысле этой меры. Однако непонятно, насколько содержательно это утверждение. Например, если имеется периодическая точка, то можно рассматривать меру, сосредоточенную иа периодической орбите. Эта мера инвариантна и тривиальным образом отражает асимптотическое поведение периодической точки, но не дает.никакой информации относительно любой другой точки. Хотя в следующей главе мы научимся получать асимптотическую информацию относительно поведения орбит в окрестности периодической точки, этого еще не достаточно, чтобы делать выводы относительно асимптотического поведения «большинства» орбит. С другой стороны, мы естественным образом выбрали меру Лебега при исследовании гладких примеров в пп. 4.2 а, в, д. Вообще говоря, динамическая система может иметь очень много инвариантных мер, многие из которых обладают достаточно сложным поведением. Так обстоит дело в случае полного сдвига (см. п. 4.2 е), который обладает бернуллиевской и марковскими мерами, мерами, сосредоточенными на периодических орбитах, и, конечно же, многими другими мерами. В таком случае естественно задаться вопросом, как выбрать из этого изобилия мер некоторые наиболее интересные с точки зрения динамики. Хотелось бы знать, отражает ли данная инвариантная мера асимптотическое поведение орбит нетривиальным образом, а также уметь выбирать более «информативную» с динамической
§5.1. СУЩЕСТЮВАНИЕ ИНВАРИАНТНЫХ ГЛАДКИХ МЕР 193 ТОЧКИ зрения меру среди всех инвариантных мер. Пример такой динамически существенной меры ['] — специальная марковская мера (мера Перри) для транзитивных топологических цепей Маркова, построенная в п. 4.4 в. С другой стороны, для гладкой динамической системы на многообразии М имеется по крайней мере одно естественное определение существенной меры. А именно, гладкая структура определяет класс мер, который инвариантен относительно диффеоморфизмов и многих других дифференцируемых отображений. Равным образом, имеется совокупность множеств меры нуль, которые инвариантны относительно таких отображений. Это просто совокупность таких множеств А, что для любой гладкой локальной карты (Ц (р) множество ip{U C\A)cW имеет нулевую меру Лебега. Определение 5.1.1. Мера уь на дифференцируемом многообразии называется абсолютно непрерывной, если в любой гладкой локальной карте она получается интегрированием плотности. Такая мера называется положительной, если плотность почти всюду положительна в любой карте. Она называется гладкой положительной, если плотность — гладкая положительная функция. Все положительные меры эквивалентны, т. е. они имеют одну и ту же совокупность множеств меры нуль. Любая абсолютно непрерывная мера абсолютно непрерывна относительно любой положительной меры. Класс положительных мер инвариантен относительно диффеоморфизмов, а также относительно сюръективных дифференцируемых невырожденных отображений, т. е. отображений, якобиан которых (определитель матрицы частных производных в локальных координатах) обращается в нуль только на множестве меры нуль. Если обсуждаемое многообразие ориентируемо, то эти классы мер могут быть определены с помощью дифференциальных гг-форм. В частности, любая гладкая положительная мера получается интегрированием гладкой невырожденной п-формы, и наоборот. На неориентируемом многообразии М нет никаких невырожденных п-форм. Имеется два способа использовать язык бесконечно малых в этом случае. Во-первых, можно рассмотреть ориентируемое двулистное накрытие тг: JWJ, -+ ilf с инволюцией I, которая коммутирует с тг, и такие невырожденные п-формы и) на М^^ что I^uj = —uj. В качестве альтернативы можно ввести понятие нечетной п-формы, которая представляет собой такую функцию на п-й степени касательного расслоения ТМ, что линейная замена координат с матрицей Л умножает значение эрмы на I det Л|. (Более детальные определения см. в упражнениях 5.1.1- ,1.3.) Нечетная п-форма называется невырожденной, если она отлична от нуля на базисе. Имеется простая связь между единственностью инвариантной меры определенного класса и эргодичностью. А именно, пусть Т: (М, д) -+ (М, д) — сохраняющее меру преобразование ни — другая мера, которая абсолютно непрерывна относительно д и имеет плотность р. Если мера и является Т-инвариантной и отображение / измеримо, то pf dfi fdu= [ foTdu= [ p{foT)dfx= { poT-'fdfi, т.е. poT~^ = p. Если мера д эргодическая, то отсюда следует, что р = const, и если обе меры р, и и являются вероятностными, это значит, что р—1. Таким образом, мы имеем следующее предложение.
194 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Предложение 5.1.2. Если ii—эргодическая Т-инвариантная вероятностная мера, то Т не имеет никаких других инвариантных вероятностных мер, абсолютно непрерывных относительно д. Для гладкой динамической системы на гладком многообразии естественно задать следующий вопрос: имеет ли данная система абсолютно непрерывную или гладкую положительную инвариантную меру? В этом параграфе мы разработаем аппарат, необходимый для исследования этого вопроса, а также сформулируем некоторые условия, необходимые для существования таких мер, и приведем один нетривиальный пример. Мы ограничим наше обсуждение случаем ориентируемых многообразий и сохраняющих ориентацию отображений и оставим неориентируемый случай в качестве упражнения. 5.1 б. Оператор Перрона—Фробениуса и дивергенция. Дяя гладкой меры инвариантность относительно диффеоморфизма / является дифференциальным (инфинитезимальным) условием. Если П — инвариантный объем, т. е. инвариантная невырожденная п-форма, то ГЧА) т. е. f,Q = n, где /,n(t;i,.. .,-у„) = Пф/-'^!,..., I?/-'t;„) — образ П под действием /. Можно переписать это условие следующим эквивалентным образом. Предположим, что П — форма объема, но не обязательно инвариантная. По аналогии с классическим математическим анализом мы хотели бы определить якобиан Jf: М —> К отображения / относительно П как изменение объема, а именно положив Ujj) п= \ п, ПА) что позволяет написать (Jf)Q = f*Q, где /'П — прообраз П под действием /, определенным по формуле f*^(viy..., v^) = U{Dfv^y..., Dfv^). Такой подход представляется разумным, поскольку выполнено следующее предложение. Предложение 5.1.3. Пусть ^ = dx^ А ... А dx^ — стандартная форма объема на Е". Если отображение f — диффеоморфизм, то /*П = = yetZ)/)n. Доказательство. Утверждение вытекает из следующей цепочки равенств: ГП = n(D/(), D/(),..., D/(), Df{)) = fdx, Л rdx, Л... Л /*(ix„ = t = I 1 = 1 tp ,,,, t^ = 1 ..S(n) '^'O '^'f^) "*""("> " E Это позволяет нам определить якобиан.
§5.1. СУЩЕСТВОВАНИЕ ИНВАРИАНТНЫХ ГЛАДКИХ МЕР 195 Определение 5.1.4. Пусть М — многообразие, Q — форма объема и отображение f:M^^M дифференцируемо (не обязательно диффеоморфизм). Тогда якобианом Jf отображения / относительно П называется единственная такая функция на М, что Jf^ = f*Q, т. е. Jf(x)n^ = n,^^^iDf {■),...,Dfi)). Инвариантность формы объема П, таким образом, задается требованием /*Q = n, т. е. J/=l. Предположим теперь, что / — диффеоморфизм и /?: М—> R^ —плотность относительно П некоторой /-инвариантной меры. Тогда предшествующее вычисление, проведенное с Jfp^ вместо ft, показывает, что должно выполняться условие Jfp = р о /-', или в необратимом случае таким же образом можно показать, что инвариантная плотность должна удовлетворять соотношению р(^)= Е р(у) Итак, мы доказали следующее предложение. Предложение 5.1.5. Пусть М — гладкое многообразие, ^ — форма объема, отображение f:M^^M дифференцируемо и р: М—>R — плотность абсолютно непрерывной f -инвариантной меры. Тогда р{х) = ~ S '§f{\ ^-^^ ^^^^ хеМ. В частности, если f — диффеоморфизм, то pof = p/J(f). Если плотность р не обращается в нуль, то последнее равенство может может быть переписано в виде Jf = p/(pof). При итерировании этого условия вдоль периодической орбиты мы получаем следующий результат. Предложение 5.1.6. ПустьМ — гладкое многообразие, П — форма объема и /: М --* М — диффеоморфизм с абсолютно непрерывной f-инвариантной мерой с плотностью р: М—> К^, которая всюду определена и положительна. Тогда Jf'^(x)= 1 для каждого х е Fix(/"). Предложение 5.1.5 естественным образом приводит к следующему определению. Определение 5.1.7. Пусть М — гладкое многообразие с формой объема Q и /: М ^^ М — сюръективное дифференцируемое отображение. Оператором Перрона — Фробениуса, соответствующим отображению /, называется оператор, заданный на неотрицательных измеримых функциях и определяемый следующим образом; i^p)i^)= Е еМ Мы, таким образом, установили, что инвариантные плотности являются неподвижными точками оператора Перрона — Фробениуса.
196 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Инвариантность формы объема под действием потока описывается еще проще. Так как гладкий поток с/?' представляет собой однопараметриче- ское семейство диффеоморфизмов, очевидным образом применив вышеизложенные аргументы, мы можем установить, что форма объема П является ср'-инвариантной тогда и только тогда, когда (ср')*С = П для всех t. При дифференцировании этого выражения в точке £ =0 мы получаем — векторное поле, порождающее ср, и £ — производная (=0 где v=~ip' Ли. Определение 5.1.8. Дивергенция векторного поля v относительно формы объема ft определяется как единственная такая функция div-y, что Предложение 5.1.9. ^Ур^^ ^—многообразие с формой объема П, ср' —поток и v:= фК Тогда divt; = 0 тогда и только тогда, когда с^' сохраняет форму ^. Это утверждение верно, в сущности, по определению. Покажем, что для R" определение дивергенции совпадает с известным определением с помощью частных производных. Предложение 5.1.10. Пусть fl = dx^/\... Adx^ —стандартная форма объема на R". Если v —векторное поле naWy то C^ft=dv/v -ft. Доказательство. Утверждение доказывается с помощью следующей цепочки равенств: п C^Q = d(v^ft)-{-v^dQ = d(v-jQ)~d( ^^'^i^^i А .. . Л ia:^ Л . .. Л &, с этого момента мы считаем, что М — компактное ориентируемое многообразие. Для гладкой формы объема ft обозначим через Diff (М, П) пространство С-диффеоморфизмов с индуцированной С-топологией, сохраняющих форму й. Это, очевидно, замкнутое подмножество Difr(M). Затратив некоторые усилия, можно также показать, что оно обладает локальной банаховой структурой. В случае потоков пусть V{TM, ^) С ViTM) — множество векторных полей, потоки которых сохраняют ^. Так как это в точности бездивергентные С-векторные поля, они образуют замкнутое линейное подпространство пространства V(TM) и, следовательно, банахово пространство. Установим теперь взаимосвязь между инвариантными объемами для потока и инвариантными объемами для отображения возвращения на некоторое сечение для этого потока (см. § 3 введения). Эта взаимосвязь представляет собой локальное утверждение, так что для наших целей достаточно рассматривать локальное сечение. Таким образом, мы получим инвариантную форму объема ш, называемую также потоком через сечение, с помощью локальной конструкции, использующей форму объема ft на многообразии.
§5.1. СУЩЕСТВОВАНИЕ ИНВАРИАНТНЫХ ГЛАДКИХ МЕР 197 Предложение 5.1.11. Пусть М — многообразие, ср': М ^^ М — дифференцируемый поток и ft ^инвариантная форма объема. Если т — диск, трансвереальный к потоку, то форма объема о; = X j П на г, где Х = ф^ —векторное поле, порождающее ср', инвариантна относительно отображения возвращения. Доказательство. Дяя р € г рассмотрим репер (X, t^,,.., v^) в р, где (^^2,..., v^) — репер для Т^т, Образ {w2^..., w^) репера (v^-,..., t;„) относительно дифференциала отображения возвращения на г связан с образом (X, w'^,..., w'J^ репера (X, Vg,,.., v^) относительно потока равенством wl~w.=Ci-X. Таким образом, в силу полилинейности и антисимметричности формы П выполнено равенство Г2(Х, гь^,..., w'^) = П(Х, v^,..., v^). Поскольку поле X и форма Q являются ср'-инвариантными, форма Xjfi инвариантна относительно отображения возвращения. D 5.1 в. Критерии существования гладкой инвариантной меры. С помощью соображений из предыдущего пункта можно также получить необходимые условия существования инвариантной гладкой меры, отличные от изложенных в предложении 5.1.6. Так как ранее было установлено, что для плотности р инвариантной меры относительно П верно равенство jf = p/(pof), мы немедленно получаем следующее предложение. Предложение 5.1.12. Пусть М — гладкое многообразие, fl — форма объема и /: М ^^ М — диффеоморфизм. Если существует абсолютно непрерывная f-инвариантная мера с положительной непрерывной плотностью, то множество {J/"(a:)| neZ,xe М} ограничено. Доказательство, Если р — плотность, то •^ ^ ' Р(Г(^))" П11П/?(а:) Имея необходимые условия существования инвариантной гладкой меры, мы хотели бы теперь понять, как сформулировать достаточные условия. Если ослабить предположение на плотность и допустить к рассмотрению плотности, представляющие собой положительные борелевские функции, то следующее условие достаточно. Теорема 5.1.13, Предположим, что (М, П) —многообразие с формой объема О. и f: М—> М —сохраняющий ориентацию диффеоморфизм. Если множество { Jf"(x)| п € Z} ограничено для почти всех а: € М, то существует такая борелевская функция о;: М—> R^, что о; > 1/J/ и форма шО. является f-инвариантной. Если множество {//"(а^)| neZ} равномерно ограничено для всех х и п, то форма ш ограничена. Доказательство. Положим Ф( а:) := -log//(х) и предположим, что форма е'^П является /-инвариантной. Тогда Таким образом, мы должны решить когомологическое уравнение <р{Г'{х))-^<р{х) = -Ф{х). (5.1.1.)
198 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Из доказательства теоремы 2.9.3 мы знаем, что функция п (5.1.2) t=0 которая является корректно определенной борелевской функцией, конечной почти всюду, будет решением уравнения (5.1.1). Таким образом, требуемая плотность о; := е"^ ^ е^ ~l/Jf. Вообще говоря, она не обязана принадлежать классу L', следовательно, инвариантная мера может быть бесконечной. Если, однако, JP{x) равномерно ограничено по х и щ то можно непосредственно использовать теорему 2.9,3, так что функция ср, определенная соотношением (5.1.2), ограничена и, следовательно, инвариантная мера конечна. D Замечание. Из достаточного условия теоремы 5.1.13 следует необходимое условие предложения 5.1.6. В самом деле, если J/"(a:) = Л 7^ 1 для некоторого X = /"(а:), то Jf'^{x) = Л"* —> сю при m —> сю или т —> —сю. Теорема 19,2.7 утверждает, что для определенного класса гладких динамических систем (систем Аносова; см. определение 6,4.2 и определение 17.4.2) последнее условие фактически является достаточным для существования положительной инвариантной гладкой меры и, следовательно, из теоремы 5.1.13 вытекает необходимое условие. Теперь мы установим подобное — хотя и гораздо более сложное на вид — условие для необратимых отображений и используем его для доказательства существования абсолютно непрерывных мер для растягивающих отображений окружности. Пусть дифференцируемое отображение /: М —^М таково, что каждая точка хеМ имеет только конечное множество прообразов, и пусть ft — форма объема на М. Определение 5Л.14. Сечением прообразов точки х называется такое конечное подмножество S с М, что любая бесконечная полуорбита {a;_^}„eNo' ^Д^ Xq = x, /(Хд) = а:„+1, содержит в точности один элемент S. Пусть S = {2/1,..., 2/fc} — сечение прообразов точки х и числа nj,,.., п^^ опре- Рис. 5.1.1. Сечение прообразов ^^^"^ условием Г<{у,) = Х Мь1 будем назы- ^ ^ вать максимум щ рангом о (rank S) и минимум п^ — глубиной S (depth 5). Определим функцию Ф следующим образом: Ф(5)=;^(/гчй))-', 1 = 1 где якобиан рассматривается относительно ^, Пусть х^,.. .,х^ — прообразы точки а:, и пусть Sj,..., 5, (5.1.3) любые сечения прообразов точек a:i,.,., а:^ соответственно. Тогда S = \J S^ 1 = 1 сечение
§ 5.1. СУЩЕСТВОВАНИЕ ИНВАРИАНТНЫХ ГЛАДКИХ МЕР 199 Прообразов X. Кроме того, непосредственное вычисление показывает, что i = 1 И rank 5=1+ max rank S-. 1 < t < m Наоборот, любое сечение прообразов х положительного ранга (т. е. любое S ф {а:}) естественно разбивается в непересекающееся объединение сечений прообразов точек ат^ ..., х^. Пусть pj^x)—точная верхняя грань Ф(5) по всем сечениям прообразов X с глубиной по крайней мере п и р(х)\= lim pj^x)= inf pj^x). n—*oo n—*oo Заметим, что в (5.1.4) с1ер1Ь(5^) >depth(5)— 1, так что Таким образом, если функция р конечна всюду (или почти всюду), то она является неподвижной точкой оператора Перрона — Фробениуса (см. определение 5.1.7) и потому задает плотность абсолютно непрерывной /-инвариантной меры. Чтобы гарантировать, что р — функция из класса L' и, следовательно, /?П—конечная мера, достаточно показать, что р равномерно ограничена. Кроме того, если р также ограничена снизу некоторым положительным числом, то мера рО. эквивалентна П. Таким образом, мы доказали следующий аналог теоремы 5.1.13 для необратимых отображений. Теорема 5.1.15. Пусть /: М^М—такое дифференцируемое отображение, что любая точка хеМ имеет конечное множество прообразов. Если существуют такие положительные константы Cj, Gj, что для любой точки х е М и для любого сечения S прообразов точки X выполнено неравенство С,<Ф(5)<С2, (5.1.5) то f имеет инвариантную меру /?П, где р — положительная ограниченная функция, отделенная от нуля. 5.1 г. Абсолютно непрерывная инвариантная мера для растягивающих отображений. Теперь с помощью теоремы 5.1.15 мы покажем, чго растягивающие отображения окружности имеют абсолютно непрерывную меру [^]. Теорема 5.1.16. Пусть /: 5'-> 5' — С^-растягивающее отображение, т. е. \f'\ > 1. Тогда f сохраняет меру, задаваемую непрерывной положительной плотностью. Доказательство. Переходя в случае необходимости к /^, мы можем считать, что степень к отображения / положительна. Этого достаточно, так как для любой /^-инвариантной меры д мера ^ +Лм является /-инвариантной. Напомним, что по теореме 2.4.6 отображение / топологически сопряжено с линейным отображением Ef., Образы Г^ относительно
200 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ сопряжения h стандартных А;-нарных отрезков Д'^ = [т/А;", (т + 1)/А;"], m = О,..., А;" — 1, образуют разбиение 5'. Кроме того, так как / сопряжено с £?j,' сечения прообразов различных точек могут быть канонически отождествлены. А именно, для любого данного сечения а^ = {yf*,..., у^} прообразов точки х^ имеется единственное сечение о-' = {у/,..., у^} прообразов любой другой точки х\ гомотопное а^ в следующем смысле: если с: [О, 1]—>5'—кривая, с(0) = а;°, с(1) = а:' и/"'(2/9) = а;°, то ст' состоит в точности из концов кривых С;, определяемых условиями сДО) = yf, /"• о с^ = с. (В таком случае мы будем писать а^^аК) Другими словами, сечение может быть определено комбинаторно, независимо от выбора точки. Определение 5.1Л7. Комбинаторным сечением называется такое отображение а из 5' на совокупность сечений прообразов, что ст(х) — сечение прообразов х для всех а; € 5' и ст(х) ~ а(у) для всех Ху у е 5'. Также определим полное сечение о^ ранга п, полагая о^{х) = f~'^({x}). Лемма 5.1.18. Существуют такие константы Cj, С{ 6 R, что для TiymeN и х^уеТ"^ выполнены неравенства ехр{С1\Г{х) - Г(у)\) < ^^ < ехр(С^\Г(х) - Г{у)\). Доказательство. Если а:, у 6 Г™ и х^ := /*(а:), у^ := /*(2/)) то ^i ~ Vil < -^""^ х^ — у^ , где Л~' > 1 — нижняя граница для /'. Используя теорему о среднем значении, мы, таким образом, получаем, что выполнено условие (ГУ(у) "п' „,,; ПЛ I f'(^i)-f'(y<) П /'(/'(2/)) где z^ —некоторая точка, лежащая между х^п у^. Мы использовали здесь неравенство logHCl +<^n) = S'oS(l +^n)^z])^n- ДРУ^^ неравенство получаем таким же образом, меняя местами х и у. П Замечание. Неравенство такого вида, как в этой лемме, называется оценкой ограниченности искажения. Такие оценки будут встречаться в этой книге несколько раз при анализе одномерных систем, как обратимых, так и необратимых [^]. Подставляя это неравенство в соотношение (5.1.3), определяющее функцию Ф, мы получаем следующее утверждение. Лемма 5.1.19. Пусть о — комбинаторное сечение, х, у 6 SK Тогда ехр(С;|а: - 2/1) < |if^ < ехр(С,|а; - у\), где константы С^ и С{ определяются, как и выисе.
§5.1. СУЩЕСТВОВАНИЕ ИНВАРИАНТНЫХ ГЛАДКИХ МЕР 201 Доказательство. Используем то обстоятельство, что из неравенств cui ^ b. ^ с'а^ следует неравенство с^а^^^Ь^^с'^а^. D Чтобы получить оценку величины Ф, воспользуемся следующей леммой. Лемма 5.1.20. Для п 6 N выполнено условие J Ф{о^{х))д.х = 1. Доказательство. С помощью замены переменной получаем j Ф(^„(а:))^а: ? {ГШ^^=\''='- D 5' ^"(^> = ^ 5' Следствие 5.1.21. Существуют такие константы Q, Сд, С^ > > Сз > О, что для п 6 N и хе S^ выполнены неравенства С^ <Щс^(х)) < Доказательство. По лемме 5.1.19 функции Фо а^ непрерывны, так что согласно предыдущей лемме, существуют такие элементы р^, что ФК(Рп))= 1. Тогда Ф(a„(a:))^Ф(a„(pJ)exp(Cl|a:-pJ)^ 6*=^'. Аналогично получаем Са = е*^'. D Лемма 5.1.22. Если S — произвольное сечение прообразов точки х ранга п и N ^ щ то с < Ф(^) < с Доказательство. Если у е S и f\y) = x, то при замене у на f"^{{y}) = {^u--->^s)^^n{^) соответствующие члены в Ф{а^{х)) принимают вид -sp 1 _ 1 V 1 ^4<^i-N{y)) * = I 1 = 1 так что по следствию 5.1.21 общее мультипликативное изменение оценивается сверху и снизу числами Сд и Сд. D Из следствия 5.1.21 и леммы 5.1.22 вытекает такое предложение. Предложение 5.1.23. Существуют такие константы С^, С^, Q > Q > О, что для всех х и для всех сечений S прообразов точки х выполнены неравенства Сз'<Ф(5)<Сз. Таким образом, по теореме 5.1.15 мы получаем существование инвариантной меры с положительной ограниченной плотностью, отделенной от нуля. Непрерывность (фактически даже липшицевость) плотности следует из леммы 5.1.19. А именно, заметим сначала, что по лемме 5.1.19 функция 1о^фоо- липшицева (равномерно по а) и, таким образом, согласно предыдущему рассуждению функция фоо- также липшицева (равномерно по а). Но Рп{^)==^прФ(а(х)), где sup берется по всем комбинаторным сечениям глубины по крайней мере п. Таким образом, функция р^ липшицева с той же самой константой, и то же верно для р. D Предложение 5.1.24. Инвариантная мера/л растягивающего отображения, построенная в теореме 5.1.16, является эргодической.
202 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Следствие 5.1.25. Любое С^-растягивающее отображение /: S^ ^^ S^ имеет единственную абсолютно непрерывную инвариантную меру. Доказательство. Это следует из предложений 5.1.24 и 5.1.2. D Доказательство предложения 5,1.24. Мы будем использовать тот же метод, что во втором доказательстве предложения 4.2.7. Оценка ограниченности искажения (лемма 5.1.18) позволяет нам применять этот метод в нелинейной ситуации. Предположим, что А с 5' —/-инвариантное множество положительной меры Лебега. Дяя всякого данного е >0 найдется такой отрезок Г|^ =[а, 6], что Л(АПГ:)>(1-е)Л(Г:) = (1-е)(Ь-а), (5.1.6) где А — мера Лебега (поскольку мера Лебега определяется через покрытия отрезками). В силу инвариантности А выполнено включение /"(АПГ^)с А. Из определения Г^ мы видим, что п-й образ Г^ покрывает окружность однократно и, следовательно, ь ''in'dx=l. а В частности, существует такое р^ Е Г|^, что (/")'(Рп)= V(^ " ^)- Следовательно, по лемме 5.1.18 тах(Г)'<-^. п Интегрируя (/"У по Г|[*\А и используя (5.1.6), мы, таким образом, получаем ^ Л(5'\А)<тах(Г)'-Л(Г:)<-^е(й-а)=ее'^. Так как е произвольно, Л(5'\А) = 0, и, так как инвариантная мера д абсолютно непрерывна относительно А, д(5'\А) = 0 и мера // эргодиче- ская. D Теперь рассмотрим среднюю скорость растяжения отображения /: Х-= Jlog|/'(a:)|iM(a:). n-l Поскольку (/")'(^)= П /'(/*(^))» ^3 предложения 5.1.24 и следствия 4.1,9 fc=0 эргодической теоремы Биркгофа 4.1.2 мы получаем, что для почти всех а:€ 5' выполнено равенство Ит ^log(ry{x). (5.1.7) Х = Предложение 5.1.26. h^(f) = x [^]- Доказательство. Снова без потери общности к = deg(/) >0. Так как разбиение f i := {Г^,..., Г^} — образующее для /, достаточно вычислить ^д(/> fi)- Из построения разбиения f„ следует, что (^i){.„ = f„. Таким образом, ЛД/, е,) = Jta (- Ё wM(n)logMri)). (5.1.8)
§ 5.1. СУЩЕСТВОВАНИЕ ИНВАРИАНТНЫХ ГЛАДКИХ МЕР 203 Поскольку по теореме 5.1.16 отношение \{А)/^{А) равномерно ограничено сверху и снизу положительными числами, можно заменить log^i(r^) в правой части (5.1.8) на logA(r^) без изменения предела. Кроме того, как и в доказательстве предложения 5.1.24, (/")'(^)'^(Г'п) также равномерно ограничено на Т\ сверху и снизу положительными числами по лемме 5.1.18, так что можно в свою очередь заменить — logA(r},) усреднением log(/")' на Г^, т. е. выражением J iog(/")'(a:)ia:/A(r^), получая при этом г; ^(/,e.) = jim^E^(^n) ( ^log(r)'(x)iVA(r;). (5.1.9) Последовательность функций (р^(х)= — log(/"y(a:) равномерно ограничена и в силу (5.1.7) сходится к х почти всюду. Поэтому последовательность усреднений в правой части (5.1.9) также сходится к х- D 5.1 д. Теорема Мозера. Следующий результат, принадлежащий Юргену Мозеру, показывает, что все гладкие положительные меры на компактном ориентируемом многообразии эквивалентны с точностью до диффеоморфизма. Этот результат удобен при проведении различных конструкций, так как он позволяет заменить предположение об инвариантности некоторой гладкой меры условием сохранения любого удобного для наших целей стандартного объема. Кроме того, доказательство теоремы Мозера использует прием, иногда называемый «гомотопическим приемом», который мы будет вновь применять при доказательстве теоремы Дарбу 5.5.9 и, в измененной форме, для построения локальной гладкой линеаризации в § 6,6 и для гладкой классификации орбит сохраняющих площадь потоков на поверхностях в гл. 14 (см. также доказательство леммы Пуанкаре П 3.11 в приложении) [5]. Теорема 5.1.27 (теорема Мозера). Пусть М — гладкое компактное ориентируемое многообразие, и пусть Qq и fij —формы объема на М с одним и тем же полным объемом: J ^о= S ^i- Т'огда существует та- м м кой диффеоморфизм /, что f*Qi = ^q. Доказательство. Пусть П':= Qj -Пд. Тогда П^ := Пд + ^П' — форма объема для t е [0,1]. Кроме того, J П' = О, так что по лемме Пуанка- м ре П 3.11 П' = i© для некоторой (п - 1)-формы 9. Так как форма П^ невырождена, имеется единственное такое (гладкое) векторное поле Х^, что Xj _1 П^ = ^ti^t^ *j ■••)*) = -®- Так как многообразие М компактно, можно проинтегрировать Х^ и получить однопараметрическое семейство таких диффеоморфизмов {(p*}ie[o,ii» ^'^^ Ф^ —Xt и cp^ = Id. Тогда по (П 3.3) так что ^p^^Ct^ = <р°*^о = ^q, т. е. ip^ —требуемая замена координат. D
204 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Упражнения 5.1.1. Пусть М — ориентируемое многообразие и ш—дифференциальная п-форма. Определим |w|(^i, ...,^„):= |w(^i,...,^„)| для же М, ^1,..., ^„ G Т^М. Покажите, что |и;| — нечетная п-форма. 5.1.2. Пусть М — гладкое многообразие, не обязательно компактное. Покажите, что существует нечетная п-форма на М. 5.1.3. Пусть М — ориентируемое многообразие н а —нечетная п-форма на Af. Покажите, что существует такая п-форма ш на Af, что а = 1^1. 5.1.4. Докажите, что если М — неориентируемое многообразие, тг: Щ~^ М — ориентируемое двулистное накрытие и /: Mq—*^ Mq — соответствующая инволюция, то существует такая невырожденная гладкая п-форма w на JW^, что 1^ш = —ш и, следовательно, 7г^|и;|—нечетная п-форма на М. 5.1.5. Сформулируйте и докажите аналог теоремы 5.1.27 для неориентируемых многообразий, используя нечетные п-формы. 5.1.6. Рассмотрите такое «тентообразное» отображение /: [0,1]—^[0,1], что (1)/(0) = /(!) = о. (2) /(а) = 1 для некоторого ае(0,1), (3) f'{x) > Л > 1 при О < а: < а, (4) /'(ai)<-A при а<а:< 1, (5) / имеет ограниченную вторую производную всюду кроме точки а. Покажите, что / имеет инвариантную меру, задаваемую ограниченной положительной плотностью относительно меры Лебега. 5.1.7. Докажите, что если v — векторное поле на гладком многообразии М и Q — п-форма, то форма pQ инвариантна относительно потока, порожденного и, тогда и только тогда, когда С^р + р • div и = 0. § 5.2. Примеры ньютоновых систем В оставшейся части этой главы мы обсудим несколько классов динамических систем, которые встречаются в классической механике и дифференциальной геометрии. Благодаря наличию дополнительной структуры все эти системы обладают естественным гладким инвариантным объемом. 5.2 а. Уравнение Ньютона. Наиболее фундаментальный закон классической механики — это, несомненно, закон Ньютона / = 7?га, описывающий, например, движение в W точки массы га под действием данной силы / (из этого закона определяется ускорение а). Закон Ньютона описывает движение в терминах обыкновенных дифференциальных уравнений второго порядка: если координата точки есть а:б1К", то ускорение а:= х= —г- Если сила / является функцией х, то мы получаем уравнение dt~ Чтобы исследовать такую систему обыкновенных дифференциальных уравнений второго порядка, полезно свести ее к системе уравнений первого порядка, вводя дополнительные независимые переменные — скорости V := X = -^ е К". Тогда
§ 5.2. ПРИМЕРЫ НЬЮТОНОВЫХ СИСТЕМ 205 Общее решение этой системы обыкновенных дифференциальных уравнении определяет динамическую систему на R" х R" с координатами (х, v). Эти уравнения бездивергентны и, следовательно, сохраняют меру Лебега dxdv в фазовом пространстве (см. предложение 5.1.10). Величина p:=mv называется импульсом, а величина 2"^("Уэ"у) — кинетической энергией. Если сила / представлена как градиентое векторное поле / = —УУ, функция V: R" —S- R называется потенциальной энергией. В этом случае ^rnv = -W. (2.5.1) Непосредственное вычисление показывает, что полная энергия Н = = ^m{v^ v) -\-V сохраняется: ^ = (t;, mv)-\-^= {v, mv) + (i, УУ) = {v, mv + УУ) =0. Рассмотрим несколько конкретных примеров такого рода. 5.2 б. Движение свободной частицы на торе. Рассмотрим движение точечной массы на плоском торе Т" =IR"/Z" без внешних сил. Движение описывается обыкновенным дифференциальным уравнением второго порядка f = 0, где X определено по модулю Z". Иначе это можно записать как x = v^ -у = 0. При такой записи уравнений движения легко видеть, что движение происходит вдоль прямых линий и с постоянной скоростью, так как скорость v сохраняется. Это значит что п компонент вектора v являются интегралами движения. Для любой данной скорости v движение соответствует линейному потоку Т/ (см. § 1.5). Следовательно, мы можем рассматривать фазовое пространство ТТ" как R" хТ" с динамикой, описываемой следующим образом: торы {v} X Т" инвариантны и движение на {v} х Г задается выражением {v} X Т^. Таким образом, эта система вполне интегрируема, и естественные координаты являются для нее координатами «действие — угол», которые были введены в § 1.5. Гамильтониан системы Н{х^ v) = {v^ v)/2 равен ее кинетической энергии, и невырожденная 2-форма uj имеет вид ъ 5.2 в. Математический маятник. Рассмотрим маятник, состоящий из точечной массы в плоскости, соединенной с неподвижной точкой абсолютно жестким стержнем, не имеющим толщины и массы. Если мы обозначим через 27га; угол оттаонения нашего стержня от вертикального направления, то маятник можно описать дифференциальным уравнением X +sin27ra:=0, или, если угодно, системой обыкновенных дифференциальных уравнений первого порядка ^""^^ (5.2.2) t) = — sin 27га:,
206 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ X eS\ V eR. Полная энергия системы Н{х^ v) = 5^^^ 2~ cos27ra:. Она является инвариантом нашего потока: d dt H{Xj v) = vv + isin27ra: =0 (см. (5.2.2)). Фазовое пространство системы представляет собой цилиндр 5' X R, и орбиты лежат на поверхностях уровня Я = const. Дяя — 1/(27г) < < Н < 1/(27г) каждый уровень энергии состоит из единственной замкнутой кривой, соответствующей колебаниям вокруг положения устойчивого равновесия (а:, v) = (Oj 0). Эти орбиты отделяются от орбит с большей энергией, соответствующих вращению вокруг неподвижной точки, гомоклинической траекторией с Н = 1/(27г), содержащей неустойчивое положение равновесия (а:, t;) = (l/2,0). Для Н> l/(27r) каждый уровень энергии состоит из двух орбит, соответствующих вращению в противоположных направлениях. Рис. 5,2.1. Фазовый портрет математического маятника В фазовом пространстве мы можем представить стандартный инвариантный объем dx Л dy (т. е. площадь, или меру Лебега) в виде dHdl, где dH — инвариант потока, поскольку Н — инвариант потока, и dl — элемент длины, вычисленный для кривых iif = const, деленный на ||Viif||. Согласно (5.2.2) ||УЯ|| равно скорости движения по кривой Я = const, так что dl также является инвариантным относительно потока. 5.2 г. Центральные силы ['], Небесная механика представляет собой неисчерпаемый источник задач для классической механики. Опишем самую простую модель. Рассмотрим два тела, перемещающиеся свободно и притягивающиеся друг к другу по закону всемирного тяготения. Можно либо перейти к координатам с началом в центре масс системы (см. упражнение 5.2.2), либо предположить, что одно из этих тел (Солнце) значительно тяжелее другого и, следовательно, по существу неподвижно (или, точнее, перемещается с постоянной скоростью). Тогда можно обозначить положение второго тела (планеты) через хеЖ^\ {0} и скорость — через V е Ж^. Потенциальная энергия гравитационного поля задается формулой V{x) = —1/||а;||, так что уравнение Ньютона принимает вид f=V X X
§ 5.2. ПРИМЕРЫ НЬЮТОНОВЫХ СИСТЕМ 207 ИЛИ X=Vj V = — 71— II а; Кинетическая энергия, как обычно, равна {v, и)/2. Таким образом, полная энергия системы равна Е{х, v) = (v, v)/2 — l/|fa;||. Она сохраняется, так как наши уравнения имеют форму (5.2.1). Здесь, как и в п. 5.2 б, имеются и другие интегралы движения, а именно компоненты углового момента вида а: х-у = (а^'Уз~ ^^2J ^^1 ~^1*^3J ^i^i~^'^i)- Чтобы проверить это, заметим, например, что d dt {X^V^ -X^V^) = X^V^ + X^V^ - X^V^ - X^V^ = V^V^ - 11^ - V^V^ + T|^ = 0. £\\ \\X Ha самом деле эта система вполне интегрируема. Мы не будем использовать координаты «действие — угол» непосредственно, как в § 1.5, а опишем динамику явно, решая уравнения движения в духе классического понимания «полной интегрируемости». Заметим, что v ^,xy.v, так что движение происходит в плоскости, перпендикулярной к а: х -у. Таким образом, для любого данного направления xv^v наша задача после соответствующей замены координат сводится к плоской задаче в R^ \ {0}, т. е. к задаче с о^ = -Уз = 0. Заметим также, что разность ^\'^г^ ^v^ равна удвоенной площади треугольника с вершинами О, а:, х -j- v. Таким образом, XiV2 — a^t^i — удвоенная производная площади, заметаемой вектором х. Сохранение этой величины называется вторым законом Кеплера. Мы покажем, что при Л := XiVg - a^t;i т^О орбиты являются коническими сечениями. Напомним, что, как известно из аналитической геометрии, в полярных координатах конические сечения представляются в виде г = ed/{\ -j- е cos{9 — 9^)), где е —эксцентриситет, е б (О, 1) для эллипсов, е = 1 для парабол и е > 1 для гипербол. Если мы положим г = ||а:||, то d /хЛ v,r^ — xJx^v) , .щ . . di \^) = г^ = -(^1^2 - ^^i)^ = ^^. такчто At;2 = a:i/г-j-С для некоторого С б К. Аналогично, At;i = —а^/г — D. Тогда Cxi -j-Z^a^-hr- = Aari-Wj— xf/r — Aa^Uj — x^/r -\- r = A(xiV2 — X2Vi) = A^, следовательно, в полярных координатах a:i = г cos а, а^ = г sin а имеем , . гА^ А^ ^ '^(^) r-{-Cx^+Dx2 1 -h С cos а -h Z^ sin а = ==4= , (5.2.3) I + л/СЧ^cos(a - в) где cos /3 = С/л/C^ + D^, sin /3 = D/Vc^ + D^, т. е. /3 таково, что гЦЗ) минимально (угол перигелия). Уравнение (5.2.3) представляет собой уравнение конического сечения с эксцентриситетом е = у С^ + D^, который определяется числами Е и А, т. е. значениями энергии и углового момента: e^=C^ + D^ = {Av^-xJryHAv^-\-x^/ry = ixf-^xi)/r^-^2Amvf-^vi)/2)- -2A({xiV2-x2Vi)/r) = \-\-2EA^. Таким образом, орбита представляет собой эллипс, если ^ <0, гиперболу, если £? >0, и параболу, если £? =0.
208 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Упражнения 5.2.1. Рассмотрим систему п точечных масс, попарное взаимодействие которых зависит только от взаимных расстояний между иимн, т. е. V(x) = J2 ^y(lki — ^Л)- Покажите, что координаты скорости центра тяжести н его углового момента являются первыми интегралами. 5.2.2. (Задача двух тел в плоскости.) Покажите, что для системы двух точечных масс в плоскости с таким же законом взаимодействия, как в предыдущем упражнении, четыре интеграла (энергия, угловой момент н координаты скорости центра тяжести) независимы. Опишите движение относительно центра тяжести. 5.2.3. Рассмотрим сферический маятник, т. е. точечную массу, жестко прикрепленную к неподвижной точке, на которую действуют силы всемирного тяготения. Найдите второй интеграл движения, не зависящий от энергии, н опишите движение для фиксированных значений обоих интегралов. § 5.3. Лагранжева механика 5.3 а. Единственность в конфигурационном пространстве. Лагранжева механика, которая развивалась из ньютоновской механики, имеет дело с обыкновенными дифференциальными уравнениями второго порядка. Поэтому прежде чем мы начнем обсуждать лагранжеву механику, сделаем одно замечание относительно обыкновенных дифференциальных уравнений второго порядка, которое будет неоднократно использоваться в дальнейшем. Смысл этого замечания в том, что решения обыкновенного дифференциального уравнения второго порядка, которые начинаются в одной и той же точке, но отличаются начальными скоростями, будут различны в течение некоторого времени. Предложение 5.3.1. Пусть отображение /: R" х R" —s- М" является С^-гладким и R>0. Тогда существует такое е > О, что если v,^v,eR\ M\^R, у,: Ж^Ж\ y'l = f{у,, у'д. 2/Д0) = 0, 2/;(0) = t;,, г = 1,2, и t 6(0, е], то y^{t)ф y^it). Замечание. Это утверждение не является прямым следствием единственности решений обыкновенного дифференциального уравнения, так как предложение 5,3.1 означает единственность в конфигурационном пространстве. Заметим, что е не зависит от начальных условий. Доказательство. Пусть д: R—^М", g(t) = y'({t)-i^{t). Поскольку / € С^, существуют такие А:, Z 6 М, не зависящие от v^^ v^, что ||5(0)|| = = 11/(0, ^i)-/(0,t;2)||^A:||t;i-t;2|| и \\д'(0)\\ ^l\\vi-Vz\\. Следовательно, существует такое е > О, не зависящее от t^i, t^g» ^'^^ 11^(^)11 ^ Iki ~ ^гИ/^ ^^ t 6 (О, е). Таким образом, для t б (О, е) мы имеем -^(yi — 2^)(^) + J g(3)ds\\ XI -t/£)\\v^-v2\\ >0. Поскольку (у, - 2/2)(0)=0, ^^^ получаем 2/?(0"%(011>Одля £б(0,е]. D Этот результат можно сформулировать так: дифференцируемое отображение ехр : {v е R"| ||t;|| ^ Л } -^ М", v^ уДе), ^1—^2 + где 2/^(0)= О, 2/^(0)— -у, индуцированное дифференциальным уравнением, инъектйвно, следовательно, оно является гомеоморфизмом R-mapa {v Е е Ш^\ \\v\\ ^ R} на. его образ.
§5.3. ЛАГРАНЖЕВА МЕХАНИКА 209 5.3 б. Уравнение Лагранжа. Если ввести функцию L(Xj v) — -^m{vjv) — V{x)j (5.3.1) то уравнение Ньютона (5.2.1) примет вид d дЬ дЬ ,г о су\ Ж &v~ дх ' ^^-"^-"^^ Это уравнение называется уравнением Лагранжа или уравнением Эйлера — Лагранжа. Причина введения Лагранжем этого формализма состоит в том, что использование закона «/ = та^, как мы это делали выше, в таких случаях, как, скажем, системы со связями, может потребовать больших усилий. Например, трехмерный математический маятник состоит из массы, жестко прикрепленной к неподвижной точке, что, таким образом, вынуждает нашу точечную массу оставаться на сфере (см. упражнение 5.2.3). Чтобы изучать задачи такого рода, необходимо ввести понятие связей — сил, которые присутствуют постоянно и единственная задача которых — обеспечить некоторые ограничения на движение частицы. Подход Лагранжа существенно упрощает проблему. Ограничения часто имеют такой характер, что конфигурационное пространство системы становится некоторым многообразием МсМ". Система тогда может быть адекватно описана путем приписывания каждой точке М потенциальной энергии и каждому касательному вектору — кинетической энергии, задаваемой положительно определенной квадратичной формой K{v) = 2Ki'^f ^) ^^ ^-^) коэффициенты которой в локальных координатах зависят от точки, т. е. скалярного произведения зависящего от хе М. Таким образом, задание кинетической энергии означает задание римановой метрики в конфигурационном пространстве. Лагранжиан теперь принимает следующий вид: Lix,v)= ^k^iv, v) - V(x). (5.3.3) Кроме того, легко видеть, что для лагранжианов вида (5.3.3) уравнение Лагранжа инвариантно относительно замен координат. Пусть у — координата точки X в новой системе координат, так что х — /(у). Тогда в касательном пространстве v = х = Dfy = Dfw, Следовательно, поскольку ^ =0, мы можем записать производные по у следуюшлм образом: дЬ__дЬ_дх ,dL_&v_ дЬ _дЬ ду дЬ дх ^ дЬ дх ду ~ дхЪу^ до ду' dw' ди dw^ дх dw ди ду' Используя то обстоятельство, что вдоль любой кривой -^x — v,T,e, ^^а:= = ^, мы, таким образом, имеем d дЬ дЬ _( d dL\dx_,dL_(d^d^ \ дЬ дх дЬ dv ^ dt dw ^~\dt &и) ду^ &u\dt dy^J Ж ду диЪ^ d^dL _ дЬ\ дх dt~5^ дх)ду' и, следовательно, обе части равенства обращаются в нуль одновременно, так как производная -q- — Df невырождена.
210 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ 5.3 в. Лагранжевы системы. Изложенное выше позволяет нам ввести глобальное понятие лагранжевой динамической системы. Мы начнем с многообразия М, которое может быть названо конфигурационным пространством. Вообще говоря, оно не обязательно должно быть компактным, хотя в нашем контексте оно чаще всего будет таковым. Фазовое пространство динамической системы — касательное расслоение ТМ, Система как таковая определяется дифференцируемой функцией L: ТМ —*■ R, называемой лагранжианом. Она подчиняется обыкновенному дифференциальному уравнению второго порядка в М, а именно обыкновенному дифференциальному уравнению первого порядка (5.3.2) в ТМ, Как следует из вышеизложенного, динамика, определяемая этим обыкновенным дифференциальным уравнением, не зависит от локальной системы координат, выбранной для записи (5.3.2). Вообще говоря, эта динамика определена только в течение некоторого конечного времени. Однако в случае компактного многообразия М и лагранжиана L вида (5.3.3) она определена для всего времени и задает полный поток на ТМ, т. е. поток, определенный для всех t. Это можно показать следующим образом. Предложение 5.3.2. Для лагранжевой динамической системы полная энергия Н = 2Ki'^j ^) + ^(^) сохраняется. Доказательство. Заметим, что кинетическая энергия является однородной функцией V степени два и, следовательно, (дК/dv,v) =2К, где (•, •) обозначает стандартное евклидово скалярное произведение. (Если K(v) = {A^v, v), то {дК/dv, w) = {A^v, w) -\-{A^w, v).) Таким образом, H = {dL/&v,v)-L и d .. / d dL \ . /dL Л /dL Л /dL H dt \dt dv У + \Ж'У-\Ж'У-\-&И'У=^' так как в силу уравнения Лагранжа ^7'а7 = '^ и x^v вдоль любой кривой в конфигурационном пространстве. D Следствие 5.3.3. Если конфигурационное пространство М компактно, то уравнение Лагранжа определяет глобальный поток в ТМ. Доказательство. Потенциальная энергия ограничена снизу в силу компактности; следовательно, любое множество уровня Н = const компактно. По предложению 5.3.2 любая орбита остается на множестве уровня. Следовательно, для любого начального условия на множестве уровня решение существует по крайней мере для некоторого времени е > 0. Используя это обстоятельство итеративно, мы можем продолжать любое решение в течение сколь угодно большого времени. D Лагранжев формализм предоставляет основу для вариационного описания механических систем, которое будет приведено в § 9.4. 5.3 г. Геодезические потоки. Следующий частный случаи лагранжевой системы представляет для нас особый интерес. Он соответствует свободному движению частицы в конфигурационном пространстве. Определение 5.3.4. Пусть (М, д) — риманово многообразие с ри- мановой метрикой д^(-, •). Определим лагранжиан по формуле L(x,v) = ~^g^(v,vy (5.3.4)
§ 5.3. ЛАГРАНЖЕВА МЕХАНИКА 211 Лагранжева система на ТМ, соответствующая этому лагранжиану, а также его ограничение на единичное касательное расслоение SM, называется геодезическим потоком на римановом многообразии (М, д). Геодезический поток сохраняет длину касательных векторов, потому что полная энергия системы есть ^^^(^i ^)- Геодезическими называются кривые на многообразии, которые являются кратчайшими, из кривых, соединяющих любые две достаточно близкие точки. В § 9.5 мы покажем, что орбиты геодезического потока проектируются в геодезические в конфигурационном пространстве, и сможем проверить свойство локальной минимальности геодезических, а также разработать глобальный анализ геодезических. По предложению 5.3.2 геодезический поток на любом компактном многообразии является полным потоком. Кроме того, предложение 5.3.1 показывает, что геодезические, начинающиеся в одной и той же точке, но имеющие различные по направлению скорости, не пересекаются снова в течение некоторого времени. В частности, имеется корректно определенное экспоненциальное отображение из маленького шарика в Т^М на окрестность а: 6 М, которое переводит касательный вектор v в точку 7„(0» ^Д^ % —такая геодезическая, что %(0) = х и 7^(0) = 'У. Этот локальный диффеоморфизм неоднократно будет использоваться далее. Так, с его помощью легко показать, что для любого данного базиса Т^М можно найти такое координатное отображение окрестности а:, что индуцированный базис ■{ ^^ • - •, -д^ \ в точке х совпадает с данным базисом. А именно, можно использовать отображение ехр^', чтобы отобразить окрестность многообразия в шар из касательного пространства, который может быть затем вложен линейно в R". 5.3 д. Преобразование Лежандра. Напомним, что скалярное произведение в линейном пространстве Е определяет естественный изоморфизм между Е и двойственным к нему пространством £?*, отождествляющий вектор V и форму {v, •) HSi Е. Если мы рассматриваем риманово многообразие, то с помощью римановой метрики это преобразование можно определить на каждом касательном пространстве Т^М, так что мы получаем естественное отождествление кокасательного расслоения Т*М с ТМ с помощью отображения С: ТМ-^ Т*М. Опишем это отображение и соответствующее преобразование лагранжевой системы в локальных координатах. Обозначим локальные координаты в некоторой карте нашего многообразия через а;, и напомним, что индуцированные координаты вектора v б Т^М представляются коэффициентами в каноническом базисе -^ и координаты формы ш 6 Т*М представляются коэффициентами в стандартном базисе dx-, двойственном к -д^. Тогда С(х, v) = [х, -^j, (5.3.5) где, как и прежде, K(v) = g^{v,v). Если х- рассматриваются как координаты в конфигурационном пространстве, то v- — скорости. Переменные р. = дК/dv. называются импульсами. Предложение 5.3.5. Отображение С преобразует уравнение Лагранжа в систему уравнений Гамильтона Р = -д^, д=ф-, (5.3.6)
212 Часть I. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ где Н—полная энергия системы, как в предложении 5.3.2. Доказательство. Уравнение Лагранжа может быть записано в виде р=дЬ /дд и Н = {pjv) - L. Таким образом, с одной стороны, в то время как от dH = d{pq^L) = qdp-^-dq, так что мы получаем уравнения Гамильтона, приравнивая соответствующие коэффициенты. П Преобразование С может быть определено для более общего класса лагранжианов (обратите внимание, что в определении С мы могли использовать лагранжиан L вместо К), а именно для лагранжианов, которые являются С^-выпуклыми функциями V. Таким образом, такой лагранжиан L определяет преобразование C(x,v) = (Xj дЬ/ди), называемое преобразованием Лежандра. Заметьте, однако, что в этом случае преобразование Ле- жандра уже не линейно по и Специальный случай такой ситуации описывается в упражнении 5.3.1. В п. б мы показали, что уравнения Лагранжа инвариантны относительно координатных преобразований в конфигурационном пространстве (продолженных естественным образом на фазовое пространство). Следовательно, уравнения Гамильтона также инвариантны относительно замен координат в конфигурационном пространстве (также продолженных на кокасательное расслоение). Точнее, если y = f{x), то в касательном пространстве мы производим замену н в кокасательном пространстве (х, р)\-^ (/(а^), (ЩхУ^р)^ где А\-^ А^ обозначает транспонирование. Последнее отображение представляет собой частный случай более широкого класса преобразований, которые сохраняют уравнения Гамильтона. Дифференциальная 2~форма О.:— dp t\dq = 2l ^Pi ^ Л dq^ на Т*М не зависит от выбора координат, и, как мы видели в § 1.5 (уравнения (1.5.5) и (1.5.6)), гамильтонова система определяется формой Q. и гамильтонианом Н (см. п. 5.5 в). Таким образом, любое преобразование, сохраняющее С1, сохраняет вид уравнений Гамильтона. Такие преобразования обычно называются каноническими преобразованиями. Важное качественное свойство лагранжевой динамики и гамильтоновой динамики заключается в том, что они сохраняют определенную каноническую форму объема. Действительно, во-первых, из координатного представления (5.3.6) немедленно следует, что уравнения Гамильтона являются бездивергентными, так что они сохраняют фазовый объем в (а:, р)-простран- стве, который на самом деле представляет собой п-ю внешнюю степень формы ^. Возвращаясь на касательное расслоение с помощью инверсии преобразования Лежандра, мы видим, что инвариантный объем является произведением формы объема на многообразии и евклидова объема, определенного в касательном пространстве римановой метрикой. Лагранжева система сохраняет гиперповерхности Н = const, так что для каждого регулярного значения Н имеется индуцированная инвариантная форма объема на гиперповерхности Н = const. Это особенно просто понять в случае геодезических потоков, когда инвариантные гиперповерхности являются сферическими расслоениями {||t;|| = const} и инвариантный объем потока есть
§ 5.4. ПРИМЕРЫ ГЕОДЕЗИЧЕСКИХ ПОТОКОВ 213 произведение риманова объема и канонического (углового) объема на сферах. Таким образом, мы установили следующий важный факт, который будет использоваться в дальнейшем. Предложение 5.3.6. Геодезический поток на единичном касательном расслоении SM полного риманова многообразия М сохраняет гладкую меру, которая называется мерой Лиувилля. Если М компактно, то мера Лиувилля конечна ы, следовательно, может быть нормали- зована. Заметим, что геодезические потоки естественным образом являются также и гамильтоновыми потоками. С одной стороны, преобразование Лежанд- ра превращает лагранжеву систему, соответствующую данному геодезическому потоку, в гамильтонову систему в кокасательном расслоении. С другой же стороны имеется естественное отождествление касательного и ко- касательного расслоений риманова многообразия. А именно, соответствие и |_> {у^ •) между векторами и ковекторами является изоморфизмом, так как риманова метрика невырождена. Таким образом, геодезические потоки являются гамильтоновыми потоками на касательном расслоении и, следовательно, сохраняют гладкий объем и т. д. Упражнения 5.3.1. Рассмотрим более общий класс лагранжианов, чем (5.3.1), а именно L(x,v) = K(x,v)--V(x), где К — однородная функция степени два, дважды дифференцируемая вне некоторой окрестности нуля и выпуклая. Покажите, что преобразование Лежандра, определенное в (5.3.5), по-прежнему задает диффеоморфизм между ТМ w Т*М вне нулевого сечения. 5.3.2. Преобразование Лежандра переводит координаты (а;, v) а координаты (q, р). Покажите, что повторное применение этого преобразования в последних координатах с заменой в (5.3.5) К я& L представляет собой в точности обратное преобразование. § 5.4а Примеры геодезических потоков 5.4 а. Многообразия с большим количеством симметрии. В определенных случаях, когда риманово многообразие обладает большим количеством изометрий и «симметрии», геодезическ11Й поток (см. определение 5.3.4) может быть описан без явного решения уравнения Лагранжа. Мы начнем с абстрактной леммы, позволяющей производить это описание, затем рассмотрим хорошо известные случаи круглой сферы и плоского тора и , нако^ нец, перейдем к значительно более интересным случаям гиперболической плоскости и ее факторов. Лемма 5.4.1. Пусть М —риманово многообразие и Т —группа изометрий. Допустим, что группа Г транзитивна на единичных векторах, т. е. если v, v' 6 SM, то существует такое (реТ, что ip(v) = v'. Если С —непустое семейство кривых с: R-^M, движение по которым происходит с единичной скоростью, обладающее свойствами (1) если сеС и (peTj то (росеС, (2) если с, с' € С, то существует такое ^ . € Г, что ср^^, о с = с'.
214 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ (3) если с еС, то существует такое (р^ еГ, что Fix('^J = с(М), тогда С—совокупность геодезических многообразия М, движение по которым происходит с единичной скоростью. Доказательство. Чтобы доказать, что семейство С содержит все геодезические, рассмотрим единичный касательный вектор v в точке р 6 М. Он определяет единственную такую геодезическую %, что %{0) = v. Мы хотим показать, что % 6 С. Для этого выберем с б С, и пусть v' = с(0). Тогда существует такое у? 6Г, что D(p{v') = v, т. е. кривая с':= (рос касается 7„. Теперь рассмотрим (р^, 6 Г. Будучи изометрией, это преобразование переводит 7„ в некоторую геодезическую. Оно оставляет кривую с' неподвижной, так что (ро'у„ и 7„ касаются в точке р и, следовательно, совпадают (с учетом параметризации) в силу единственности, т. е. -^^1^ (r) =1^- С другой стороны, Fix(^^,) = с'(М), так что % = с' еС. Теперь рассмотрим с^С. Поскольку семейство С содержит геодезические, из второго свойства следует, что с — изометрический образ геодезической, следовательно, геодезическая. D 5.4 б. Сфера и тор. Используя лемму 5,4,1, мы можем теперь легко описать геодезические на сфере и плоском торе. Теорема 5.4.2. Геодезические на стандартной двумерной сфере есть в точности большие круги, параметризованные так, что движение по ним совершается с единичной скоростью. Доказательство. Группа изометрий сферы порождается вращениями и отражениями относительно больших кругов. Она, очевидно, тран- зитивна на точках: если точки х, у 6 5^, то существует большой круг, содержащий их, и соответствующее вращение вокруг оси, перпендикулярной к плоскости большого круга, будет переводить х в у. Кроме того, можно отобразить любой данный единичный вектор в точке х в любой единичный вектор в точке у, применяя затем поворот вокруг оси, проходящей через у. По тем же соображениям вращения и отражения, а значит, и все изометрий, сохраняют большие круги и могут переводить любой большой круг в любой другой большой круг с любой ориентацией. Теорема следует теперь из леммы 5.4.1. D Таким образом, динамика геодезических потоков на круглой сфере чрезвычайно проста: все орбиты на данном уровне энергии периодические с одним и тем же периодом, обратно пропорциональным квадратному корню из энергии. Теорема 5.4.3. Геодезические пространства М^ — прямые линии. Доказательство. Изометрий М^ порождаются параллельными переносами, вращениями и отражениями относительно прямых. Все эти преобразования переводят прямые в прямые, и можно отобразить любой данный касательный вектор в любой другой и любую параметризованную зтоямую в любую другую с помощью параллельных переносов и вращений. Применение леммы 5.4.1 завершает доказательство. D Следствие 5.4.4. Геодезические на (плоском) торе Т^ = W-jl? в точности проекции прямых. Мы уже описали динамику геодезического потока на плоском торе в п. 5.2 б. Это вполне интегрируемая система с вектором частот ш на инвариантном торе {(х, v)| X 6 Т^, V = ш}.
§ 5.4. ПРИМЕРЫ ГЕОДЕЗИЧЕСКИХ ПОТОКОВ 215 5.4 в. Изометрии гиперболической плоскости. Обозначим через Ш верхнюю полуплоскость М х М^ в К^. Как открытое подмножество К% она является гладким многообразием. Начнем с определения римановой метрики на Ш. Если рассматривать Ш как множество e = {z6C| lmz>0}, то касательные векторы к Ш, очевидным образом, записываются, как комплексные числа. Для Z еШ, u-\~iv, и' -\~ iv' 6 Т^Ш мы определяем {и + iv, и' + iv'), := Re i^-^ <-Н^'-<^'), ^ " (Im zy Так как это симметрическая, М-билинейная и положительно определенная форма, мы, таким образом, определили риманову метрику (•, •), которая называется гиперболической метрикой. Полуплоскость Н, рассматриваемая с гиперболической метрикой, обычно называется верхней полуплоскостью Пуанкаре. Рассматриваемая как абстрактное риманово многообразие, она иногда называется плоскостью Лобачевского, в честь великого русского ученого, открывшего возможность существования неевклидовой геометрии. Так как гиперболическая метрика отличается от евклидовой метрики Re(u +w)(u'— iv') лишь на скалярный множитель (Im zf, гиперболические углы совпадают с евклидовыми углами. Чтобы понять геометрию Ш, рассмотрим прежде всего изометрии этого многообразия. Начнем с определения преобразований Мёбиуса. Обозначим через GL^(2, Ж) совокупность действительных (2 х 2)-матриц с положительным определителем и сопоставим каждой матрице I " i ) 6 GL+(2, М) f а b\ \^ ^ J отображение Т.'—-^! , 1: Н—>]Ы, определенное следующим образом: CZ Т(^) = ^^- (5.4.1) Обозначим множество полученных таким образом отображений через М. Заметим, что T'(z) = -«■» так что ^ (cz-^dy Im r(z) = i. Г5^ - ^±А) = ^ ^ 2г \cz -ha cz + d) _ (az + &)(cz + d) - (gz + b)(cz + d) ^ T'(z)\lm(z)' 2i{cz-\~d){cz-hd) ^ l^^M^iz;, И, следовательно, T отображает верхнюю полуплоскость U = {z 6 C| Im(z) > > 0} в себя. Отметим, что М — группа относительно композиции и ф: GL+(2, М) —^ Л4 — гомоморфизм, ядро которого состоит из скалярных кратных единичной матрицы. Лемма 5.4.5. Отображения Т еМ представляют собой изометрии гиперболической плоскости. Доказательство. Утверждение леммы следует из цепочки равенств {ТЬ){и + iv), Tiz)(u' + iv')),,, = Re ТЬ)(и+ г^)ТШи'±irn = _ T'(z)T4^ p„ (и + iv)(u' - iv') _ . . , . „
216 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Заметим, что все отображения Т ^ М естественно продолжаются на ]ЫиМи{оо}, если положить Т(—с2/с) = оо и Т(оо) = а/с (или Т(оо) = оо, если с=0). Примеры преобразований Мёбиуса: zh^—1/z, z^-^z + b (&бМ) и z^-* az (а > 0). Они представляют собой соответственно три типа преобразований Мёбиуса с точки зрения внутренней геометрии плоскости Лобачевского: эллиптические (прямые аналоги евклидовых вращений), с одной неподвижной точкой внутри плоскости, параболические, без неподвижных точек на плоскости и не имеющие инвариантных геодезических, и гиперболические, без неподвижных точек, но с единственной неподвижной геодезической (осью). На Ш параболическое отображение имеет единственную неподвижную точку в Е U {оо}, а гиперболическое отображение имеет две неподвижные точки в MU{oo}. И параболические, и гиперболические отображения представляют собой аналоги параллельных переносов в евклидовой плоскости. Существуют также изометрии, отличные от преобразований Мёбиуса. Очевидные примеры: zt-^—Jh z-^ 1/z". Геометрически первое из них есть отражение относительно мнимой оси, а второе — инверсия относительно единичного круга. Используем теперь преобразования Мёбиуса для исследования геодезических. Сначала изучим изометрические образы мнимой оси I (параметризованной, чтобы получить единичную скорость, таким образом: t н^ ге'). Лемма 5.4.6. Если С — произвольная вертикальная прямая либо полуокружность с центром на действительной прямой, то существует такое преобразование Т еМ, что TI = С. Кроме того, для любого данного единичного касательного вектора v в точке С можно найти преобразование Т, которое будет отображать направленный вверх вертикальный вектор i в точке i ^ I в вектор v. Доказательство. Если С — вертикальная прямая {z\ Re(z) = b}, положим T{z) = z + &. Если С — полуокружность с концами х, х + г 6 М, то заметим, что преобразование Т^: zh^z/(z + 1) отображает I в полу- Н _ I l+it 2 2it -(l+it) 2(1+it) О' окружность с концами О и 1 (поскольку и положим J^(z) = rz, T^{z) = z + X и Т = Т^о T2 о'7]. Чтобы отобразить нужным нам образом касательные векторы, заметим, что существует такое преобразование Мёбиуса TJ, что DTq{\) = DT~^ (v), а именно или Tq{z) = cz, или Tq{z) = -c/z для некоторого с € М+. Но тогда Т oTq — требуемое преобразование. D Замечание. Рассмотрим вертикальную прямую или окружность с центром на вещественной прямой. Выберем произвольную параметризацию этой кривой С с единичной скоростью. Мы показали, что если мнимая ось I параметризована с помощью преобразования t у-^ ie\ то существует преобразование Мёбиуса, переводящее С в I и сохраняющее параметризацию. Следствие 5.4.7. Если v е Т^Ш, w е Т^Ш, \\v\\ = ||гу|| ^ 1, то существует такое преобразование Т еМ, что T{z) = z' и T'{z)v = 'w, т. е. М действует транзитивно на единичном касательном расслоении к Н. Покажем, что, наоборот, каждое преобразование Мёбиуса отображает прямые и окружности в прямые и окружности. Предложение 5.4.8. Если С — вертикальная прямая или окружность с центром на действительной оси и (р—либо преобразование
§ 5.4. ПРИМЕРЫ ГЕОДЕЗИЧЕСКИХ ПОТОКОВ 217 Мёбиуса, либо (p{z) = —~z, то (р{С)—вертикальная прямая или окружность с центром на действительной оси. Доказательство. Для случая (p{z) = —z это очевидно. Для преобразования Мёбиуса заметим, что достаточно проверить, что образ мнимой оси является вертикальной прямой или окружностью с центром на действительной оси: если С — вертикальная прямая или окружность с центром на действительной оси и М — преобразование Мёбиуса, то найдется другое преобразование Мёбиуса N, переводящее мнимую ось в С. Но тогда достаточно показать, что преобразование Мёбиуса М о N отображает вертикальную прямую в вертикальную прямую или окружность с центром на U « т* az -h Ь а , (be — ad )/с , л действительной оси. Леперь заметим, что ^_^^ = с "*" гл-<Цс—' ^^^^ ^ ^ ' и °^+ = °^ -j, т^ е. каждое преобразование Мёбиуса представляется в форме композиции отображений вида z\-^z-\-a, z^r-* — \/z и z\-^ fiz. Таким образом, достаточно проверить утверждение для каждого из этих преобразований отдельно. Но это очевидно для первого и третьего преобразований, а для второго следует из того, что х + гМ отображается в \2xz + 1| = 1, где z = x-\~it (так как 2-^ + 1 X — а 1). D X + it 5.4 г. Геодезические на гиперболической плоскости. Используя лемму 5.4.1, мы получаем следующее описание геодезических на плоскости Лобачевского. Теорема 5.4.9. Геодезическая на верхней полуплоскости Пуанкаре является либо вертикальной прямой, либо окружностью с центром на действительной оси. Доказательство. Рассмотрим группу Г, порожденную группой М преобразований Мёбиуса и преобразованием 5: хн^—z. Эта группа действует транзитивно на единичных векторах. Пусть С — семейство вертикальных прямых и окружностей с центрами на действительной оси со всеми возможными параметризациями с единичной скоростью. Тогда из предложения 5.4.8 и леммы 5.4.6 мы получаем первое и второе утверждения леммы 5.4.1. Третье утверждение леммы 5.4.1 следует из того наблюдения, что S является изометрией, сохраняющей в точности мнимую ось I. Таким образом, для с € С мы можем положить ^c — ^d ^^i, с) ^'^^ ^ позволяет доказать третье утверждение леммы. D Подчеркнем, что группа Г на самом деле является группой всех изоме- трий. Предложение 5.4.10. Группа изометриймногообразияН порождается группой М и симметрией S: z^-^ —z. Доказательство. Пусть (р — произвольная изометрия Н. Заметим^, что любая изометрия, сохраняющая геодезические и данный касательный вектор, является тождественным отображением этой геодезической. Так как (р(1) — геодезическая, теорема 5.4.9 и лемма 5.4.6 показывают, что существует такое отображение Т £М, что Г"VI/ = 1^ 1г- Достаточно показать, что Т~^(р либо является тождественным отображением Н, либо совпадает с симметрией 5, S{z) = -'z. Рассмотрим геодезическую С с концами -г и г. Она содержит точку гг 6 I и, следовательно, кривая Т ' также проходит через эту точку (поскольку T~VI/ = ^^ 1г)- Так как преобразование Т"' <р сохраняет углы, обе эти геодезические ортогональны к I в точке гг. Следовательно, они совпадают с точностью до ориентации, т. е. либо
218 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Т"^ (p{z) = Z ДЛЯ Z еС, либо Т~' (p{z) = -Z дая z еС, и потому производная T"V в точке гг есть либо тождественное отображение, либо отражение в прямой I. Так как изометрии гладки, то же верно для всех точек I; следовательно, дая всех таких геодезических сделан один и тот же выбор, т. е. Т"'(р = Ы или Т"'(р = S на Н. Таким образом, (р ^Л4 или (ро S ^М. D Рис. 5.4.1. Геодезические на плоскости Лобачевского Введем теперь удобное расстояние на единичном касательном расслоении многообразия Ш. Для v, гу 6 З^Ш мы назовем угол Zv, w расстоянием от V до w. Рассмотрим z, z' 6 Н и v 6 5^]И, w 6 5^,Н. Имеется единственная геодезическая 7- [О, 1] —> Н, соединяющая z я z', и мы обозначим через X такое непрерывное векторное поле на 7» ^^то X(0) = v и ZX(t), 7(*) = = Zv, 7(0) дая всех t 6 [О, 1]. Тогда можно определить расстояние dist(v, w) = v'(ZX(l),t/;)2 + (d(z,z'))'. (5.4.2) Замечание. Мы только что описали в элементарных терминах процедуру параллельного переноса v вдоль 7 в точку z' 6 Н и последующее измерение углов в этой точке. Отсюда получается стандартное определение расстояния. Заметим, в частности, что функция dist действительно определяет расстояние (см. конец § П 4). Пример. Пусть V е Т^+Л y^^Z^.^iy^ вертикальные единичные векторы. Если а =tg~ {d/2y), то в обозначениях, принятых выше, ZX(1), гу = 2а. Если г^ = у^-\~(с2/2)^, то отрезок геодезической, соединяющий х-\~гу и X + d И- гу, может быть параметризован следующим образом 7(t)= х + с2/2 + гге*', t 6 Г—а, а], и имеет длин Таким образом, (dist(v, t/;))2 2 log I sec а + tg а I = 2 log f 1 Н- V22/ + 2y -1 d -1/2 Гораздо проще найти оценку сверху в следующей форме: рассматривая горизонтальный отрезок прямой, соединяющей х -\~гу с х -\~ d -\~ гу, мы находим, что расстояние между этими точками меньше чем d/y. Поскольку tg~' X < X дая X > О, можно заключить, что dist(v, w) < y/2d/y. (5.4.3)
§ 5.4. ПРИМЕРЫ ГЕОДЕЗИЧЕСКИХ ПОТОКОВ 219 Теперь мы можем исследовать геодезический поток д*: 5Н—> ЗШ. Начнем с рассмотрения орбиты вертикального единичного вектора i в точке г. Орбита проектируется в геодезическую t н^ ге'. Если дая х 6 М обозначить через W вертикальный вектор в х И- г 6 Н, то орбита w проектируется в геодезическую t н^ х + ге*. Как мы только что видели, расстояние между соответствующими единичными векторами 1^ в ге' и гу^ в х + ге' не превосходит v2xe"'. Таким образом, орбиты вертикальных единичных векторов в точках X + г 6 М + г положительно асимптотичны к орбите 1. Используя преобразование z^-^—l/z, легко проверить, что орбиты направленных наружу единичных нормалей к кругу радиуса 1/2 с центром в точке г/2 отрицательно асимптотичны к орбите i. Определение 5.4.11. Горизонтальные прямые М+гг = {*+гг| t еМ} называются орициклами с центром в оо. Окружности, касательные к М в точке хбМ, называются орициклами с центром в х. Если -у: М—>]Ы — геодезическая, то 7(—оо) и 7(00) 6 Ми {оо} — предельные точки 7 при t —> -^ —оо и t —> +00 соответственно. Если v 6 Т^Ш, то положим по определению 7r(v):= Z. Лемма 5.4.12. Для каждого орицикла Н существует такое аре- образование Мёбиуса Т е М, что T{R + г) = Я. Доказательство. Для орициклов Н = R + ir достаточно положить T{z) = rz. Для орициклов с центром в точке х 6 М и евклидовым диаметром г положим jr](z) = -l/z, T2{z)=rz, T^{z) = z-\~xH Г=ГзоГ2о7]. D В целях дальнейшего анализа динамики геодезического потока на Ш полезно параметризовать множество ЗШ единичных касательных векторов к Ш числами t, U, V е М следующим образом: пусть для фиксированного раз и навсегда вектора g 6 ЗШ и вектора р е 51Ы, который не направлен вертикально вниз, Нр является орициклом с направленным внутрь (или вверх) нормальным вектором р, 7 — геодезическая, соединяющая центры Н^ и Н^ (т. е. точки касания ими действительной прямой), v — ориентируемая гиперболическая длина дуги Яр, соединяющей 7 П Яр и точку 7г(р), t —ориентируемая дайна отрезка геодезической % соединяющего Я^ и Яр, я и — ориентируемая длина дуги Я^, соединяющей ^ПН^ и 7г(д). Легко видеть, что локально отображение (р: (t, и, v)t-^p является диффеоморфизмом между М^ и ЗШ. Заметим, однако, что эта процедура не охватывает направленных вертикально вниз векторов. Чтобы покрыть и эти векторы, требуется вторая карта, начинающаяся в —д. ели через W'(p) обозначить совокупность направленных внутрь (или вверх) единичных нормальных векторов к Яр {устойчивое или (сильно устойчивое) многообразие точки р), то по теореме 5.4.10 орбита любого вектора р' 6 W'{p) положительно асимптотична к орбите р, так как орбиты направленных вверх вертикальных единичных векторов, нормальных к МИ-г, имеют взаимно асимптотичные орбиты. Отметим, что W'{p) является множеством уровня (t, и). Действительно, И^'(д) = ¥?({0} х {0} х М). Мы назовем W'^q):= ip{R X {0} х М) слабым устойчивым многообразием точки д. Аналогично определим VF"(p):= — W'{-p). Это неустойчивое (или сильно неустойчивое) многообразие точки р, состоящее из направленных наружу единичных векторов, нормальных к Я . Эти векторы имеют отрицательно асимптотичные орбиты, и И^"(д) = <^({0}хМх{0}). Многообразие W'^^(q) := (рШ. X М X {0}) называется слабым неустойчивым многообразием точки д. Чтобы сформулировать эти определения для направленных вер-
220 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ тикально вниз векторов, мы должны использовать соответствующую карту, начинающуюся в — g Оценка (5.4.3) убывания расстояния между вертикальными касательными векторами, определение 5.4.11, лемма 5.4.12 и предшествующие определения дают в итоге следующее предложение. Предложение 5.4.13. Устойчивое многообразие точки v е ЗШ геодезического потока д^ есть единичное векторное поле, содержащее v, нормальное к орициклу с центром в 7«(оо)- Неустойчивое многообразие точки V е ЗШ есть единичное векторное поле, содержащее v, нормальное к орициклу с центром в 7„(~оо)- ^ частности, все устойчивые и неустойчивые многообразия одномерны и скорости сжатия и растяжения равны соответственно е"' и е. Рис. 5.4.2. Геодезические и орициклы на гиперболической плоскости 5,4 Д. Компактные факторы. В дальнейшем часто будет целесообразно пользоваться другой моделью плоскости Лобачевского. Отображе- ние /: Н—> С, Z н^ тх^. переводит верхнюю полуплоскость Пуанкаре Н на г +2 открытый единичный круг Р в С, ограниченный единичной окружностью S^ ={z е С| \z\= 1}, поскольку \f{z)\ == 1, если z е М и /(г) = 0. Перенося гиперболическую риманову метрику (•, •) на Ш на круг, получаем метрику вида {v,w):^{Df-'v,Df''w), относительно которой / является изометрией. Единичный круг с этой метрикой называется диском Пуанкаре. Поскольку / переводит прямые и окружности в прямые и окружности и сохраняет углы, отсюда немедленно следует, что геодезические в диске Пуанкаре —диаметры 5' и дуги окружностей, перпендикулярных к 5*. С помощью этой модели мы построим пример компактного многообразия, локально изометричного Н. Этот пример будет получен путем факторизации диска Пуанкаре по действию дискретной группы изометрий. Рассмотрим диск Пуанкаре в С и нарисуем правильный (гиперболический) восьмиугольник Q с вершинами Vf^ = de'^'^l^, /:=0, ...,7, соединенными дугами окружностей, перпендикулярными единичному кругу (см. рис. 5.4.3). Здесь d е (О, 1), и при d —> 1 сумма внутренних углов
§ 5.4. ПРИМЕРЫ ГЕОДЕЗИЧЕСКИХ ПОТОКОВ 221 стремится к нулю. С другой стороны, при d —>-0 сумма внутренних углов стремится к бтг, т. е. к значению суммы для евклидова восьмиугольника. Это становится ясным, если зафиксировать d и увеличивать размер диска Пуанкаре, так чтобы дуги окружностей приближались к отрезкам прямых. Значение этого наблюдения состоит в том, что, поскольку углы изменяются непрерывно, мы можем найти такое d, что сумма внутренних углов будет равна 27Г. Чтобы различать ребра, мы назовем их, двигаясь против часовой стрелки и начиная с первого квадранта, apQgjag, а4, а'^^ а2^ 0:3,0:4 соответственно. Ориентируем а. против часовой стрелки и а? по часовой стрелке и отождествим а. с a'i, г = 1,..., 4, с помощью отражения относительно диаметра, равноотстоя- Рис. 5.4.3. Гиперболи- щего от двух осей. ческий восьмиугольник Возникающее в результате этой идентификации пространство — поверхность т рода 2. Так как сумма внутренних углов восьмиугольника Q равна 27г, отображение отождествления является гладким в вершинах (которые склеиваются в одну точку), и можно, следовательно, перенести метрику из Q на т. Мы получим компактное многообразие, которое является локально изометричным Ш. Топологически это многообразие гомеоморфно сфере с двумя ручками, т. е. поверхности «кренделя». Можно также показать, что г — пространство, полученное отождествлением орбит группы Г, порожденной изометриями А^, г = 1,..., 4, отображающими а^ в а^. Другими словами, фундаментальная группа пространства г может быть отождествлена с дискретной группой Г гиперболических преобразований Мёбиуса. Заменяя восемь дуг в этой конструкции на 4д дуг, ^ > 2, мы получаем метрику, локально изоморфную метрике Ш на ориентируемой поверхности рода д (сфере с д ручками). Если преобразование Мёбиуса 7 сохраняет некоторую геодезическую, то такая геодезическая единственна и называется осью -у. Оказывается, что любое преобразование 7 ^ Г имеет ось, но нам этот факт не понадобится. Проекции этих геодезических на М:= Г\Р являются в точности замкнутыми геодезическими М. Они, конечно, будут проекциями замкнутых орбит геодезического потока из единичного касательного расслоения М. Для каждой С^-римановой метрики на поверхности определена гауссова кривизна этой метрики, действительнозначная функция, инвариантная относительно изометрий. Так как группа изометрий D транзитивна, кривизна D равна константе к. Таким образом, индуцированная метрика на komj- пактном факторе г рода 2, склеенном из восьмиугольной фундаментальной области, имеет к тому же постоянную кривизну к. По теореме Гаусса — Бонне к -vol М = 27гх, и поэтому А; < О, так как эйлерова характеристика х поверхности г отрицательна. Наоборот, отсюда следует, что любой компактный фактор D имеет отрицательную эйлерову характеристику и, следовательно, род по край-
222 СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ ней мере 2. Таким образом, компактные факторы D гомеоморфны сферам с несколькими приклеенными ручками. Оказывается любая компактная ориентируемая поверхность с метрикой постоянной отрицательной кривизны изометрична фактору Г\Р диска Пуанкаре D по дискретной группе Г изо- метрий D [']. Чтобы понять, как в общем случае выглядит картина, которую мы наблюдали на примере восьмиугольной фундаментальной области, рассмотрим дискретную группу сохраняющих ориентацию изометрий диска Пуанкаре Ю>, которая дает компактный фактор. Можно выбрать в качестве фундаментальной области для Г область Дирихле дая всех 7 ^ Г}, 7Р элементов, то множество D^ П D^ Рис. 5.4.4. Псевдосфера где р 6 D — любая данная точка. Для любого J еТ мы, очевидно, имеем D^ = = 7(-С*р). Внутренности Z*p и D^ не пересекаются при 7 7^ И и, поскольку группа Г дискретна, имеется лишь конечное множество таких j ^Т, что D^ П П D._ Ф 0. Если 7 ^ Г — один из этих "" ~ '^ состоит из точек, равноотстоящих от р и 7Pi т. е. представляет собой отрезок геодезической (см. упражнение 5.4.2). Таким образом, D — гиперболический многоугольник, т. е. он ограничен некоторым конечным множеством геодезических дуг. Наше предположение, что Г\Р является компактом, означает, что D компактно. По построению, множества D^ покрывают Д так что мы получаем разбиение D на образы D под действием Г [^]. Компактные факторы гиперболической плоскости не могут быть изометрически вложены в Й^. Примером некомпактной изометрически вложенной поверхности постоянной отрицательной кривизны является псевдосфера, фундаментальная область и вложение которой показаны на рис. 5.4.4. 5.4 е. Динамика геодезических потоков на компактных гиперболических поверхностях. В отличие от геодезических потоков на круглой сфере и плоском торе, рассмотренных в п. 5.4 б, где динамика оказалась достаточно простой, компактные факторы гиперболической плоскости имеют геодезические потоки сложного динамического характера, скорее напоминающие потоки из второй группы примеров гл. 1 (растягивающие отображения окружности, гиперболические автоморфизмы тора и топологические цепи Маркова). Хотя в полной мере степень этого подобия станет ясной только после разработки теории гиперболических динамических систем (§ 17.5 и гл. 18), сейчас мы установим некоторые из свойств геодезических потоков на компактных факторах гиперболической плоскости, которые характеризуют их сложное динамическое поведение, а именно плотность замкнутых орбит, топологическую транзитивность и эргодичность относительно
§ 5.4. ПРИМЕРЫ ГЕОДЕЗИЧЕСКИХ ПОТОКОВ 223 меры Лиувилля (см. предложение 5.3.6). Другое такое свойство, положительность топологической энтропии, устанавливается в упражнении 5.4.10. Последнее свойство для произвольной метрики на поверхностях рода по крайней мере два будет следовать из теоремы 9.6.7. Теперь мы можем доказать плотность замкнутых орбит. Теорема 5.4.14. Пусть Г —такая дискретная группа изометрий D, не имеющих неподвижных точек, что фактор М:= Г\Р компактен. Тогда периодические орбиты геодезического потока на SM плотны в SM. Доказательство. Мы будем использовать модель в диске Пуанкаре D. Возьмем V е SM. Рассмотрим область Дирихле D для Г, и пусть w й 5D — поднятие вектора v с носителем в D. Пусть с — такая геодезическая, что с(0) = гу в D, и пусть хч у — концы с, принадлежащие границе диска Пуанкаре. Наш план состоит в том, чтобы найти такой гиперболический элемент 7 ^ Г, что концы его оси находятся в данных маленьких 5-окрестностях U" и У точек х=: с(—оо) я у=: с(оо) соответственно. Тогда среди касательных векторов к этой оси можно найти вектор, близкий к v). Проекция этой оси на М будет нужной нам замкнутой геодезической. Начнем с замечания, что для данного е > О существует такое 5 > О, что когда р бР находится в 5-окрестности ^Р, угол между любыми двумя геодезическими, евклидова длина которых больше чем е, проходящими через р, не превосходит 7г/4. Наша цель состоит в том, чтобы найти геодезическую х, концы которой очень близки к х, и такой элемент 7 ^ Г фундаментальной группы, что образ а под действием 7 — геодезическая с концами, очень близкими к у. Рассмотрим последовательность тех образов области Д которые пересекают геодезическую с. В частности, существуют образы Д и Д области D, лежащие в U" и У соответственно, и такой элемент 7 €Г, что 7( Д) = Д и 7 у Рис. 5.4.5. Плотность множества замкнутых геодезических
224 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ сохраняет порядок последовательности образов D. Выберем точку z ^ D^. Тогда -yiz) е Д. Но, как мы заметили ранее, большинство геодезических, проходящих через z, целиком содержатся в U (если выбрать область D^ достаточно малого евклидова размера). Так как 7 сохраняет углы и то же верно для геодезических, проходящих через j{z), мы можем найти такую геодезическую х, проходящую через z и содержащуюся в U", что ух. содержится в V. Теперь, так как 7 сохраняет порядок образов Д покрывающих с, мы заключаем, что 7 отображает область внутри Ц ограниченную геодезической х, на область, ограниченную ух. и содержащую дополнение к V. Значит, 7 имеет две неподвижные точки на dD, по одной внутри U" и У. Таким образом, ось d элемента 7 равномерно близка к с и, в частности, имеет касательный вектор, сколь угодно близкий к данному вектору w = с(0), при условии, что 6 достаточно мало. D Теорема 5.4.15. Пусть Г — такая дискретная группа изометрий D, не имеющих неподвижных точек, что фактор М:=Г\Р компактен. Тогда существует орбита геодезического потока на SM, которая плотна в SM, т. е. этот поток топологически транзитивен [^]. Доказательство. По теореме 5.1.14 и лемме 1.4.2 достаточно показать, что дая любых двух периодических точек г*, v 6 SM (поднятия которых на D мы также обозначаем и и v) и окрестностей U я V точек и и v соответственно существует такое t 6 М, что дЦи)С)У т>^0. Рассмотрим такие геодезические с^ и с„ в D, что с„(0) = W и с„(0) = V, и обозначим через с геодезическую с концами с(-оо) = Сц(-оо) и с(оо) = с^(оо). Заменяя, в случае необходимости, и на уа, можно считать, что с„(—оо) ^ с^(оо). По предложению 5.4.13 мы можем найти дая каждого t еШ такие числа f{t), g{t) е еМ, что d{c^{f{t))yc{t)) стремится к нулю с экспоненциальной скоростью при t —> -00 и d{d^ig{t)),c{t)) стремится к нулю с экспоненциальной скоростью при t -+ -+00. Поскольку с^ и с^ проектируются на замкнутые орбиты геодезического потока, существуют такие числа t^ и *2> ^^то проекция c(tj) на SM содержится в U" и проекция с(*2) на SM содержится в V. Это дает нужное утверждение. D Теперь мы докажем более сильный результат, а именно покажем, что геодезический поток на компактном факторе Ш эргодичен относительно естественной инвариантной гладкой меры (см. предложение 5.3.6). Теорема 5.4.16. Мера Лиувилля эргодична для геодезического потока на компактном связном факторе Ш. Доказательство. Щея этого доказательства основана на так называемом рассуждении Хопфа [% играющем важную роль в гиперболической динамике. Отметим сначала, что достаточно проверить, что эргодиче- т ское среднее iPgt{x):= lim (1/Т) J (р{д^{х)) dt постоянно почти всюду дая Г-»оо Q каждой интегрируемой функции -^ на SM, где М — наш компактный фактор, и инвариантная мера является гладкой. Затем заметим, что достаточно Рис. 5.4.6. Транзитивность геодезического потока
§ 5.4. ПРИМЕРЫ ГЕОДЕЗИЧЕСКИХ ПОТОКОВ 225 рассмотреть непрерывные (следовательно, равномерно непрерывные) функции, так как они плотны в LK Кроме того, мы можем проверить постоянство средних почти всюду относительно любой гладкой меры. Наконец, достаточно проверить, что (pgt постоянно почти всюду в любом данном открытом множестве, потому что эта постоянная величина тогда должна быть одинаковой на любых двух перекрывающихся открытых множествах и множество М является связным. Рассмотрим такую функцию (р. Как следствие эргодической теоремы г Биркгофа 4.1.2, lim (1/Т) J (р{д^{х)) dt существует почти всюду (переход о это значит, что < е для всех достаточно от дискретного к непрерывному времени особенно прост дая равномерно непрерывных функции). Сначала заметим, что если этот предел существует для некоторого р 6 5М, то он также существует дая всех g 6 W'(p) и не зависит от g е W^{p): в силу равномерной непрерывности дая данного е >0 существует такое 2^>0, что lipig^p))- ^{9Чя))\ < ^ лля t > jfj. Но {l/T)]{ip{g4p))-^{9'm)dt о больших Т, как и требуется. Таким образом, ipgt постоянно на устойчивых многообразияк. Так как существование и значение предела ^'-инвариантно, среднее ip^t постоянно на слабо устойчивых многообразиях. Рассмотрим также усреднение по отрицательному времени '^gt- = о lim J (р(дЦх)) dt. Оно существует почти всюду и постоянно на неу- Г-»оо _j, стойчивых многообразиях. Однако, кроме того, ~ipgt и (р^, совпадают почти всюду по предаожению 4.1.3, вытекающему из эргодической теоремы Биркгофа. В терминах локальных С^-координат (t, и, v), введенных в п. 5.4 г на маленьком открытом множестве Ц теорема Фубини говорит нам, что дая элемента t из множества С полной меры iPgt{t, щ v)=~ipg,{t, щ v) дая почти всех (w, v). Но тогда для любых таких tj, tg соответствующие множества (w, v) пересекаются (потому что они оба имеют полную меру) и, следовательно, (Pgt{ti, и, v) = ^gt{t2, и, v) для всех (и, v), так что ip^t постоянно на С, как и требуется. D Упражнения 5.4.1. Используя лемму 5.4.1, обобщите теорему 5.4.2 и следствие 5.4.4 на п-мерный случай, т. е. опишите геодезические на единичной сфере 5" cR""^^ с метрикой, индуцированной вложением, и на плоском торе Т" =R"/Z". 5.4.2. Для данных двух точек р, q на гиперболической плоскости покажите, что геометрическое место точек, равноотстоящих от р и д, является геодезической. 5.4.3. Для данного гиперболического преобразования Мёбиуса f{z) = ^ ^ полуплоскости Н и данной точки Zq на его оси вычислите гиперболическое расстояние между Zq и /(zq). 5.4.4. Пусть /ид — гиперболические преобразования Мёбуиса полуплоскости Н, такие, что существуют точки z^ на оси / и л^ на оси д^ для которых d{z^,f(z^)) = d{z2,g{z2)). Докажите, что существует такое h € М, что / = hgh~^. 5.4.5. Для данной геодезической ^СН и pGH\7, докажите, что множество £?:={?€ G Н| d{q, 'y) = d{p, 7)}, где d{q, 7) = Ш! d{q, х), является объединением двух изометричных гладких кривых, по одной с каждой стороны 7, и эти кривые не являются геодезическими. Выясните, как эти кривые представляются на верхней полуплоскости.
226 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ 5.4.6. Докажите, что d(v, w) = log и — Uj I |l/J — U2I U-UjI w — и где Uj и «2 — точки пересечения вещественной оси с окружностью, которая является геодезической, проходящей через и н г/j; если эта геодезическая — прямая, положите «2 — 00. 5.4.7. Покажите, что если фактор М = Г\В компактен, то геодезический поток на М имеет только конечное множество замкнутых орбит период которых, не превосходит данного числа, или, что то же самое, Г имеет только конечное множество элементов, модули следов которых меньше данного положительного числа. 5.4.8*. Докажите, что группа изометрий любого компактного фактора Г\Н конечна. 5.4.9*. Пусть Q = {g*} — геодезический поток на 5(Г\]Н[), где Г\11 — компактная поверхность. Докажите, что ^top^*^) ^ ^- § 5.5. Гамильтоновы системы Мы уже неоднократно встречались с гамильтоновыми системами, как в примерах, так и в тех случаях, когда они порождались лагранжевыми системами. Цель этого параграфа состоит в том, чтобы дать краткое аксиоматическое описание современного подхода к гамильтоновой динамике, а также представить некоторые структурные результаты этой теории, которые в определенных случаях дают законченное качественное описание динамики. V 5.5 а. Симплектическая геометрия. Во всех примерах гамильтоновых систем, рассмотренных выше, мы получали действительнозначную функцию Н на фазовом пространстве, и система тогда описывалась уравнениями Гамильтона (5.3.6). Таким образом, гамильтонова система определялась гамильтонианом и невырожденной 2-формой dpAdq. В этом параграфе мы опишем более обш;ий подход, который был упомянут в (1.5.6). Начнем с изучения невырожденных антисимметричных 2-форм на евклидовых пространствах. Определение 5.5.1. Пусть Е — линейное пространство. 2-тензор а: Е X £? —>М называется невырожденным, если а^: гл-+ a(v, •) —изоморфизм Е на двойственное пространство Е*. Этот тензор называется антисимметричным, если a(v, vj) = —a(vj, v). Невырожденная антисимметричная 2-форма называется самплектической формой. Линейное пространство с фиксированной симплектической формой называется симплектическим векторным пространством. Если (£?, а) и (i^, /3) —симплектические векторные пространства, то линейное отображение Т: Е ~^ F называется симплектическим, если Т*/3 = а Замечание. Если скалярное произведение (•, •) на Е зафиксировано, удобно записывать а(-, •) = (•, Л-), так что мы отождествляем тензор с его матричным представлением в данном базисе. Предложение 5.5.2. Пусть Е —линейное пространство. Если а —симплектическая форма на Е, то dim Е =2п для некоторого п 6 N и существует такой базис е^,..., Cj^ пространства Е, что «(е^, е^^.) = = 1, если г = 1,..., 71, и а(е^, е^) =0, если \г — j\ ф п. Следовательно, если скалярное произведение в Е, относительно которого векторы ^i,. •.-, ^
§ 5.5. ГАМИЛЬТОНОВЫ СИСТЕМЫ 227 образуют ортонормированный базис, зафиксировано, то в этом базисе А = I _г Q 1, где I — (пх п)'единичная матрица. Доказательство. Поскольку форма а невырождена, существуют такие элементы базиса е^ e„^j, что «(е^, e„^j) т^О, и без потери общности мы можем считать, что о:(ере„^^) = 1. В силу антисимметричности а(ер ei) = a(e„^i,e„^i) = 0 и a(e„^i, е^) =-1, так что матрица al^,^, где £?1 =span{ei, e„^j}, относительно (е^^е^^^) имеет вид ( _. А 1. Теперь используем метод индукции: рассмотрим множество £2'.= {veE\a{v, w) = = Одая всех weE^}, Тогда КГ]Е2 = {0} и Е^фЕ2=Е, посколькудая veE мы имеем v — a{v, e„^i)ej + a(v, ej)e„^j€£?2' ^о индукции отсюда вытекает требуемый результат. D Определение 5.5.3. Подпространство V симплектического линейного пространства (Е^ а) называется изотропным, если а\у—0. Изотропное подпространство размерности п = dim Е /2 называется лагранжевым. Замечание. Таким образом, «специальный» базис, построенный в предаожении 5.5.2, дает разложение Е в прямую сумму двух лагранжевых подпространств. Заметим, что в силу невырожденности а размерность изотропного подпространства не больше чем п = dim Е /2, так что лагранжевы подпространства являются максимальными изотропными подпространствами. Интересное описание невырожденности дает следующее предложение. Предложение 5.5.4. Антисимметричная 2'форма а на линейном пространстве Е невырождена тогда и только тогда, когда Е четно- мерно и П'Я внешняя степень а" формы а не равна нулю. Доказательство. ^ Если а — вырожденное отображение, то а^ имеет нетривиальное ядро, т. е. найдется такой вектор v, что a(v, гу)=0 дая всех W. Но тогда по определению внешней степени мы имеем a"(v, Vg,... - • •) v„) =0 дая всех ^з,..., v„. Если форма а невырождена, по предложению 5.5.2 мы можем считать, п п что а = ^ с2х^Лс2х^^„. Но тогда а"= ^ dx- Adx.^^A.. .Adx. Adx^ * = i i...... t- = i *,+" —*„ »„ + " 7l!(-l)f"/2]rf3;^ A...AdX2^:^0.D *!' ' -J n Непосредственно из предшествующих результатов вытекает следующее предаожение. Предложение 5.5.5. Если Т: (Е, а) —> (F, Р) — симплектическое отображение, то Т сохраняет объем и ориентацию. В частности, Т — обратимое отображение с якобианом 1. Таким образом, множество симплектических отображений (£?, а) -*{Е,а) представляет собой группу, которую мы назовем симплектиче- ской группой пространства (Д а). Предположим теперь, что скалярное произведение (•, •) зафиксировано и что а приведено к каноническому виду /=(_ ^ ^ 1. Отметим несколько простых свойств симплектических отображений.
228 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Предложение 5.5.6. Предположим, что{Е,а)—симплектиче- ское векторное пространство и Т: (Е, а)—> (£?, а) — симплектическое отображение. Если Л —собственное значение Т^ то и числа А, 1/Л, 1/Л (А R с D в базисе, в котором a{v, w) = (v, /гу), то матрицы А^С и B^D симметрические и A^D — С^В =1. Доказательство. Если отображение Т сохраняет форвду а и а(v, w) = {v, Jw), то симплектичность означает, что T^JT = J. Переписывая это равенство в блочной форме, получаем, что матрицы А^С и 5'D _симметрические и А^D ~ С^В = I. Если Л — собственное значение, то А —тоже собственное значение, так как характеристический полином Р(Л) = det(T — Л1) имеет вещественные коэффициенты. Кроме того, /Т/-^=(Т-О',такчто P(X) = detiT-XI) = det{J{T~XI)J-') = deiiT-'y{I-XT') = = det((I -ХТ)Т-') = det(A(A-^I - Г)) = Х^^Р{Х-'): следовательно, поскольку О не является собственным значением, Р{Х) =0 тогда и только тогда, когда Р(1/А) =0. D Упражнение 5.5.3 содержит утверждение, в своем роде обратное к данному. Теперь мы можем перейти к обсуждению симплектических форм на многообразиях. Определение 5.5.7. Пусть М — гладкое многообразие. Дифференциальная 2-форма ш — гладкое отображение из М в пространство 2 Д Т*М антисимметричных полей 2-тензоров, т. е. оно сопоставляет каждому элементу х 6 М антисимметричный 2-тензор на Т^М. Дифференциальная 2-форма ш называется невырожденной, если она невырождена в каждой точке. Такая невырожденная 2-форма ш, что duj = О, называется сим- плектической формой. Гладкое многообразие М, снабженное симплекти- ческой формой ш, называется симплектическим многообразием (М, ш). Если (М, ш) — симплектическое многообразие, то подрасслоение касательного расслоения ТМ многообразия М называется изотропным, если в каждой точке р^М оно определяет изотропное подпространство 2^М, и ла- гранжевым, если в каждой точке реМ оно определяет лагранжево подпространство TjjM. Гладкое подмногообразие симплектического многообразия называется изотропным, если его касательное расслоение является изотропным подрасслоением, и лагранжевым, если его касательное расслоение является лагранжевым подрасслоением ТМ. Такой диффеоморфизм /: (М, ш) -^ (iV, 7/) симплектических многообразий, что /*7/ = ш, называется симплектическим диффеоморфизмом или симплектоморфизмом. Если (М, ш) = {Nj 7/), этот диффеоморфизм также называется каноническим преобразованием. Из предложения 5.5.4 немелленно вытекает следующее прелложение. Предложение 5.5.8. Если (М, ш) —симплектическое многообразие, то М четномерно и ш" —форма объема. В частности, М ориентируемо.
§ 5.5. ГАМИЛЬТОНОВЫ СИСТЕМЫ 229 По предаожению 5.5.2 мы можем найти такие координаты в некоторой окрестности любой данной точки х, что в индуцированных координатах в касательном пространстве Т^М симплектическая форма имеет канонический вид. Это можно сделать, начиная с произвольной системы координат и применяя соответствующую линейную замену координат. Однако, в отличие от случая римановой метрики, возможно найти такую локальную систему координат, что симплектическая форма приводится к каноническому виду в каждой точке нашей окрестности. Мы приведем доказательство этого факта, предаоженное Мозером, которое демонстрирует еще одно применение метода, впервые использованного нами в п. 5Л д. Теорема 5.5.9 (теорема Дарбу). Пусть (М, uj) — симплектическое многообразие. Для каждой точки х е М существуют такая окрестность и Эх и такие координаты (р: U"^R^", что в каждой точке yeU форма ш имеет канонический вид в базисе i ^-,..., '^— >, Эти координаты будут называться координатами Дарбу или симплек- тическими координатами. Доказательство. Как уже отмечалось, мы можем считать, что форма ш имеет канонический вид в х в базисе \ -д—,..., ^—-' >. Таким обра- зом, мы должны найти координаты, в которых форма ш постоянна. Работая в данных координатах, мы можем считать, что М = М^" и х=0. Обозначим через а форму, матрица которой имеет вид J=( _г л )• Пусть ш' = а — ш и ш^ = ш + tuj' дая t е [О, 1]. Тогда существует шар с центром в О, на котором все формы ojj невырождены (так как такой шар имеется дая каждого t и эти формы зависят от t непрерывно). Таким образом, по лемме Пуанкаре uj' = dO дая некоторой 1-формы в, и без потери общности ^(0) = 0. Так как форма ш^ невырождена, имеется единственное такое (гладкое) векторное поле Х^, что Х^^ш^ = ш^(Х^^ *) =—0. Поскольку ХДО) = 0, можно проинтегрировать Х^ по маленькому шару с центром в О, получив при этом однопараметрическое семейство таких диффеоморфизмов {^^}te{o,i]^ ^"^^ ф^ =Х^. и f^?*' = Id. Тогда, как и в п. 5.1 д, мы получаем так что (p^*uji = (p^*ujQ = ш, т. е. (р^ —требуемая замена координат. П Замечание. Как упоминалось выше, этот результат отличен от ситуации с римановой метрикой, когда такие координаты существуют, вообще говоря, только для плоской метрики. Объяснение этого факта состоит в том, что условие duj = 0 может рассматриваться как аналог требования быть плоской для римановой метрики. Симплектические С7'"-диффеоморфизмы симплектического многообразия (М, ш) образуют замкнутое подмножество Difr(M) с С7'"-топологией. 5.5 б. Кокасательные расслоения. Теперь мы опишем очень важный класс пространств с канонической симплектической структурой — кокаса- тельные расслоения гладких многообразий. Этот класс уже встречался нам в п. 5.3 д в связи с преобразованиями Лежандра.
230 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Кокасательные расслоения не только имеют каноническую симплекти- ческую структуру, но, помимо того, естественные координаты, индуцированные любыми координатами на исходном многообразии, автоматически оказываются симплектическими координатами. Пусть М — гладкое многообразие. Рассмотрим какие-нибудь локальные координаты {gj,..., g^}. На кокасательном расслоении они индуцируют координаты {gj,..., g„, рр ..., р„}. Определим 1-форму в, полагая п e = -Y,Pi<ki- (5-5.1) i = i Тогда ее внешняя производная имеет вид п (Jj = l = i Y^dq.hdPi, (5.5.2) т. е. является симплектической формой в координатах Дарбу. Следующая лемма показывает, что это определение не зависит от выбора координат на многообразии. Также из этой леммы следует, что диффеоморфизмы многообразия индуцируют симплектоморфизмы кокасательного расслоения. Лемма 5.5.10. Пусть М — гладкое многообразие и f: М —^ М — диффеоморфизм. Тогда его поднятие D*f на кокасательное расслоение является симплектоморфизмом. Доказательство. Положим {Qi,..., Q„) = /(5iJ • • •) ?„)• Тогда " дО- где р- = Y^ 'да^Рг' Таким образом, и формы в, a следовательно, и ш сохраняются. D 5.5 в. Гамильтоновы векторные поля и потоки. Теперь мы можем начать исследование уравнений Гамильтона в общей форме. Определение 5.5.11. Пусть (М, ш) — симплектическое многообразие и Н\ М ^ R — гладкая функция. Тогда векторное поле Х^ = dW, определенное условием XffAuj = dH, называется гамильтоновым векторным полем, связанным с Н, или симплектическим градиентом Н. Поток (р^ для которого ф^ =-^я» называется гамильтоновым потоком Н. Гамильтоново векторное поле С7'"-гладко тогда и только тогда, когда функция Гамильтона С""^ -гладка. Таким образом, можно отождествить пространство С7'"-гамильтоновых потоков, которое является замкнутым линейным подпространством Т''{ТМ), с пространством С'"^\М,Щ. Покажем, что таким способом мы действительно получаем уравнения Гамильтона. Обычные уравнения Гамильтона имеют вид
§ 5.5. ГАМИЛЬТОНОВЫ СИСТЕМЫ 231 Таким образом, чтобы показать, что условие ф*' = Хд есть переформулировка этих уравнений, мы должны проверить, что векторное поле ^, ~Ж7 ) удовлетворяет условию X^-iuj = dH в симплектических координатах (координатах Дарбу). Действительно, п п п ^H~^^ = Yl ^я-1№ А dp,) = X^(X^-ic?g,) Л dp, -Y^dq,A (Х^ ^dp,) = n E поскольку {XgAdq,) = дНIdpi и {XgAdpi) = —dH/dq^ no определению X^. Легко видеть, что гамильтоновы потоки являются одно пара метрически ми группами канонических преобразований. Предложение 5.5.12. Гамильтоновы потоки симплектичны и, следовательно, сохраняют объем. Замечание. Утверждение, гласящее, что гамильтоновы потоки сохраняют объем, известно как теорема Лиувилля. Это утверждение обобщает результаты п. 5.3 д, в частности предаожение 5.3.6. доказательство. Пусть (М, ш) — симплектическое многообразие, Н: М —^Ш — гладкая функция, Х^_iш = dH и ф^ = Х^. Тогда d-^^'*oj = (p'*{Cx^u) = ip'*{d{Xff^uj)-hiXff^duj)) = = ip'*{d{Xs^uj)) = ip'*{ddH)=0, □ Мы обращаем внимание читателя на то обстоятельство, что обратное утверждение не имеет места, т. е. существуют симплектические негамиль- тоновы потоки. Рассмотрим линейный поток на двумерном торе, снабженном стандартной 2-формой объема dx Л dy. Такой поток сохраняет площадь и, следовательно, симплектичен. Векторное поле скоростей этого потока постоянно и отлично от 0. Таким образом, если бы это был гамильтонов поток, гамильтониан должен был бы иметь постоянный отличный от нуля градиент. С другой стороны, гамильтониан достигает максимума и, таким образом, имеет критическую точку, что приводит к противоречию. Заметим, кстати, что поднятие этого линейного потока на Ш^ уже является гамильто- новым потоком. Если векторное поле X порождает симплектический поток, вычисление, проделанное выше, показывает, что 1-форма Х_1ш замкнута. Таким образом, препятствие к тому, чтобы поток был гамильтоновым (а именно, класс когомологий замкнутой 1-формы X ~1ш) имеет топологическую природу. Некоторое связанное с этим явление изучается в упражнении 5.5.4, Здесь же мы будем рассматривать только гамильтоновы потоки. Теперь можно показать, что гамильтоновы потоки сохраняют энергию, что мы наблюдали в некоторых частных случаях (см. п. 5.2 а и предложение 5.3.2 в сочетании с предаожением 5.3.5). Предложение 5.5.13. Пусть (М, ш)—симплектическое многообразие, Н\ М^Ж—гладкая функция^ Х^-1ш = dH и ф^=Х^. Тогда Н((р^(х)) не зависит от t.
232 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Доказательство. Результат следует из цепочки равенств at uj{X„{<p4x)),XA'P'{^)))=0. □ 5.5 г. Скобки Пуассона. Мы введем теперь понятие, которое появилось раньше, чем симплектический подход к гамильтоновой механике, — скобки Пуассона, традиционно использовавшиеся в координатных вычислениях. Они проясняют некоторую структуру алгебры Ли, лежащую в основе нашей геометрии. Определение 5.5.14. Пусть {М, ш) — симплектическое многообразие и /, д\ М —*■ R — гладкие функции. Тогда скобка Пуассона функции / и д определяется соотношением где Xf = dp и Хд = dg^ (ср. определение 5.5.11), т. е. XjAlo = df и Х^аш = = dg. Функции f я д называются находящимися в инволюции, если их скобка Пуассона равна нулю. Предложение 5.5.15. В симплектических координатах {д^... ..., д„, Рр ..., р„} мы имеем i = 1 Скобка Пуассона антисимметрична и {•, /} =Сх • Функция / является первым интегралом гамильтонова потока И тогда и только тогда, когда {/, Я} = 0. Доказательство. Используя равенство Хд = (dg/dpi^ —dg/dq-) уравнение (5.5.3) можно вывести из определения. Антисимметричность следует из антисимметричности ш. Равенство {•, f} = Cj^ выполнено, поскольку ^jc Q = ^f-^dg = Xj^{XgA(jj) = (jj{Xg^ ^f) = {9if}- Если tp^ —гамильтонов поток дая Н, то (d/dt) fotp^ =(р^*Сх f = ^^*{f, Н] обращается в нуль тогда и только тогда, когда {/, Я} обращается в нуль. D Замечание. В частности, мы снова доказали инвариантность Н, поскольку {Я, Я} =0. В таких обозначениях хорошо известный результат относительно гамиль- тоновых систем с симметриями становится почти что тавтологией. Теорема 5.5.16 (теорема Нётер). Пусть (М, ш) — симплектическое многообразие, Я: M^R —гладкая функция, X^^uj = dH и ф^~Х^. Если функция Я инвариантна относительно некоторого однопараме- трического семейства симплектических преобразований, порожденного гамильтонианом /, то f —первый интеграл потока (р\ Доказательство. По предположению Я — первый интеграл для потока /, т. е. {/, Я} =0. Тогда верно и обратное: / является первым интегралом для потока Я. D
§ 5.5. ГАМИЛЬТОНОВЫ СИСТЕМЫ 233 Замечание. Интересные примеры возникают, когда фазовое пространство системы — кокасательное расслоение и гамильтониан инвариантен под действием некоторого одно параметрического семейства диффеоморфизмов в конфигурационном пространстве. Так как такие симметрии системы обычно легко обнаружить, теорема Нётер дает простой способ находить интегралы такого вида. Пример. Рассмотрим задачу центральных сил из п. 5.2 в. Гамильтониан системы очевидным образом инвариантен относительно вращений вокруг начала координат. В частности, он инвариантен относительно вращений в плоскости ху, которые порождаются гамильтонианом д^^э^ —^sPi» если мы обозначим наши координаты (д^, gg). Таким образом, q^p^ — ggPi — первый интеграл. Это не что иное, как z-компонента углового импульса. Другие две компоненты оказываются инвариантами, порожденными вращениями в двух других плоскостях. Подобные соображения применяются в задаче, рассмотренной в упражнениях § 5.2 (см. также упражнение 5.5.7). Предложение 5.5.17. Пусть (М, ш) —симплектическое многообразие. Тогда линейное пространство С°°{М) со скобкой Пуассона {•, •} является алгеброй Ли. Доказательство. Скобка Пуассона {•, •} R-билинейнаи антисимметрична по определению. Легко проверить тождество Якоби {{/, д}^ h} 4- + {{5? ^}> /l + H'^' •^^' ^} =0 «в лоб», вычислением в координатах, использующим (5.5.3). Можно получить это тождество иначе, заметив, что выражение = ^x^^xj + ^x^^xj-^ ^x^^x,^=^x^^xj + k^x^^x^ - ^x^^x)^ не содержит производных h второго порядка, так как С-^ L^ — L^ L^ дифференциальный оператор первого порядка (как легко видеть из представления в координатной форме). Аналогично отсутствуют производные / и д второго порядка. Члены же первого порядка все попарно сокращаются, что также легко видеть из координатного представления. D Это немедаенно привносит структуру алгебры Ли на совокупность га- мильтоновых векторных полей. Определение 5.5.18. Пусть М — гладкое многообразие. Если X, У — векторные поля на М, то скобка Ли Z = [X, Y] определяется как единственное такое векторное поле, что С^ = ^у^х ~ ^x^y- Замечание. Скобка Ли измеряет «степень некоммутирования» потоков двух векторных полей. Действительно, скобка Ли двух векторных полей тождественно равна нулю тогда и только тогда, когда соответствующие потоки коммутируют. Из тождества Якоби вытекает следующее следствие. Следствие 5.5.19. -^{/д} = ~[^/?-^д]- Замечание. Таким образом, гамильтоновы векторные поля образуют алгебру Ли. Приведенное ниже предложение представляет собой еще одно следствие тождества Якоби.
234 Часть I. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Предложение 5.5.20 (теорема Пуассона). Пусть (М, w) является симплектическим многообразием, И: M—^R—гладкая функция, Xff -1ш = dH, ф' = Xff и f^g — первые интегралы ц>'. Тогда скобка Пуассона {/, д} также является первым интегралом (р^. Доказательство. Поскольку / является первым интегралом гамиль- тонова потока Н тогда и только тогда, когда {/, ^Г} = 0, наше предложение следует из тождества Якоби. П Замечание. Это дает нам метод нахождения новых интегралов, если известны по крайней мере два. Иногда таким образом мы действительно получаем новые интегралы, нередко же получаются просто функции от уже известных интегралов. 5.5 д. Интегрируемые системы. До эпохи Пуанкаре главная цель классической механики состояла в том, чтобы решить уравнения движения явно и затем изучать возникающую динамику. Это и служило, главным образом, мотивацией к поиску интегралов гамильтоновой системы, поскольку, если известно достаточно много интегралов системы, орбиты системы вполне определяются этими интегралами. А priori для системы с 2п-мерным фазовым пространством нужно было бы иметь 2п — 1 независимых интегралов; тогда множества уровней одномерны, т. е. определяют орбиту. Оказывается, однако, что благодаря симплектической структуре гамильтоновых уравнений, чтобы иметь возможность решать уравнения движения, на самом деле достаточно знать всего лишь п независимых интегралов в инволюции, т. е. с попарно равными нулю скобками Пуассона. Такие системы называются вполне интегрируемыми или часто просто интегрируемыми. В этом случае уравнения движения могут быть решены не только в принципе, но и явно («в квадратурах»). Кроме демонстрации процедуры решения уравнения движения вполне интегрируемой системы, теорема Лиувилля дает законченное описание структуры орбит с точностью до гладкого сопряжения, обосновывая, таким образом, описание, приведенное в § 1.5 без доказательства. Так как эта часть теоремы Лиувилля наиболее интересна для нас и ее доказательство сравнительно несложно, мы приводим здесь это доказательство. Теорема 5.5.21 (теорема Лиувилля — Арнольда). Предположим, что (М, ш) —2п-мерное симплектическое многообразие, JET = /р /з,..., Д € € С'^{М), {/., /j}=0 (г, j" = 1,..., п) U X €Е" таково, что дифференциалы Dfi (поточечно) линейно независимы на многообразии уровня М^ := {х е М\ /Дх) = Zi, г = 1,..., п}. Тогда выполнены следующие условия. 1. М^ —гладкое лагранжево подмногообразие, инвариантное относительно гамильтонова потока (рц гамильтониана Н {а также и относительно любого гамильтонова потока ip}). 2. Если М^ компактно и связно, то М^ диффеоморфно п-тору Т". 3. Этот диффеоморфизм сопрягает ff^l^ с линейным потоком. Замечание. Теорема Лиувилля в ее полном варианте утверждает, что в окрестности М^ можно найти такую симплектическую замену координат, что в новых координатах (2/1,..., 2/п? 'Ри • • •? ^п) гамильтониан зависит только от (2/i, -. м Уп)- '^'^^ '^^^ называемые координаты ^действие — угол».
§ 5.5. ГАМИЛЬТОНОВЫ СИСТЕМЫ 235 Однако для понимания структуры орбиты гамильтонова потока эта более слабая форма теоремы Лиувилля достаточна [']. Доказательство. 1. Так как дифференциалы Df^ поточечно независимы, по теореме о неявной функции М, является гладким подмногообразием. Заметим, кроме того, что векторные поля Х^ касаются многообразий М, так как соответствующие им потоки сохраняют все функции /р..., Д. В силу поточечной независимости Df^ то же верно и для Х^, и iJj{Xf^ Xf) = {/^, /у} = 0, так что многообразие М^ лагранжево. 2. Положим С учетом следствия 5.5.19 мы получаем из равенства {/»,/,-}= О, что [Xf, Ху ] = О, так что потоки (р} и (р} коммутируют и, следовательно, a{t + 5, х) = а(5, a{t, х)), т. е. а определяет действие аддитивной группы R" на М. Для X е Щ отображение 9^'.= ai'-ix): W—^ М^ имеет максимальный ранг, поскольку DgjQ=(Xf,..., X.). Таким образом, по теореме о неявной функции 5'х является локальным диффеоморфизмом. Это показывает, что стабилизатор S(xq) '.= {t eW\ a{t, Xq) = Xq] (очевидно, являющийся подгруппой) дискретен^ т. е. существует такой о-шар В {О, S) с центром в точке 06R", что В(0, 6)пЗ{хо) = {0} и, следовательно, B(t, <5)п5(а^) = {*} для каждого t € S{Xq). Мы хотели бы показать, кроме того, что действие а транзитивное т. е. что д^ сюръективно. Для этого сначала заметим, что если y^g,{t), то gy{s) = gAt-hs), т. е. д,{Юсд,{Ю при уедМ"")- Теперь зафиксируем а^ € М^ и рассмотрим х € М^. Так как М^ — связное многообразие, оно линейно связно. Таким образом, имеется кривая с^, соединяющая а:^ и X. Для нее существует конечное покрытие образами д^ (5(0, S.)), так что в силу предшествующих наблюдений х € gAlSC") и д^ сюръективно для всех X е М^. Следовательно, каждое отображение д^ является накрытием многообразия М пространством R". Мы, таким образом, показали, что а определяет транзитивное действие R" с дискретным стабилизатором. Теперь используем тот факт, что всякая дискретная подгруппа R" сопряжена с Z* для некоторого fc, т. е. Y= S{ocq) содержит такое линейно независимое множество {7it • • -j ъУ^ ^'^^ h t еТ тогда и только тогда, когда * = 2 ал» Д^^ некоторого а€Z*. Это множество может быть построено так: выберем в качестве 7i элемент Г с наименьшей евклидовой нормой, затем в качестве 72 — элемент с наименьшим отличным от нуля расстоянием до прямой R71 и т. д. Другими словами, если {ej..., е„} — канонический базис R" и F: R" -> R" — такой изоморфизм, 4ToF(e.) = 7i для г €{1,..., ^}? toF"'5^F=Z*. В частности, если тг: R" -+Т* х R""*= — стандартное накрытие, то F индуцирует единственный такой диффеоморфизм /: Т* х R""* ->М^, что g^oF = /о7г. Из компактности М^ следует равенство fc = п, что доказывает второй пункт. 3. Третье утверждение теперь очевидно по построению. Более того, / сопрягает каждый поток (pj с некоторым сдвигом на торе. D
236 Часть I. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ Упражнения 5.5.1. Пусть L —лагранжево подпространство симплектического векторного пространства Е. Докажите, что L имеет лагранжево дополнение, т. е. такое лагранжево подпространство М, что L П М = {0}. 5.5.2. Докажите, что для лагранжева подпространства L сЕ базнс е^ ..., вд^ из предложения 5.5.2 может быть выбран так, что ej,..., е^ € L. 5.5.3. Пусть А= (Aj,..., А2„) — совокупность отличных от нуля комплексных чисел со следующими свойствами. 1. Множество Л содержит четное число единиц и четное число минус единиц. 2. Если А € Л вещественно, А т^ ±1, то I /А € Л (с тон же кратностью). 3. Если А € Л, |А| = I и А 7^±1, то А €Л (с той же кратностью). 4. Если А €Л, |А|7^ I, А ^К, то А~', А, А^ €Л (с той же кратностью). Докажите, что существует такое симплектическое линейное отображение Т: (К ",ш)-+ -*(К^", ш), где ш—стандартная симплектическая форма, что Л — множество собственных значений Т (с кратностями). 5.5.4* Докажите, что класс 2-когомологий любой невырожденной замкнутой 2'формы на 2п-мерном компактном многообразии М отличен от нуля. 5.5.5 Докажите, что на 2п.мерной сфере для п ^ 2 не существует никакой симплектической структуры, т. е. не существует симплектического многообразия (S , ш). 5.5.6 Предположим, что {i^(}o£ t £ i —семейство замкнутых невырожденных дифференциальных 2-форм на компактном многообразии М. Докажите, что существует семейство таких диффеоморфизмов (р^: М~*М, что y't Ш( = ujq тогда и только тогда, когда классы когомологнй форм Wf совпадают. 5.5.7 Выведите результат упражнения 5.2.1 из теоремы Нётер 5.5.16. 5.5.8 Покажите, что геодезический поток на любой поверхности вращения имеет первый интеграл, не зависящий от полной энергии. Этот интеграл называется интезралом Клеро. 5.5.9 Используя конструкцию, описанную в доказательстве теоремы 5.5.21, докажите, что любая дискретная подгруппа К" есть Ъ^ для некоторого А: < п. 5.5.10* Пусть (М, ш) — симплектическое многообразие и {^р^} — гамнльтоиов поток, все орбиты которого периодические с одним и тем же минимальным периодом Т. Зафиксируем значение с гамильтониана и рассмотрим факторпространство N поверхности уровня М^ по действию потока. Покажите, что сужение ш на М^ проектируется в невырожденную 2-форму на N. 5.5.11 Покажите, что геодезический поток на стандартной п-мерной сфере удовлетворяет условиям предыдущего упражнения. Получите (2п—2)-мерное симплектическое многообразие, используя процедуру из предыдущего упражнения. Опишите это многообразие детально для п = 2. § 5.6. Контактные системы 5.6 а. Гамильтоновы системы, сохраняющие 1-форму. Наиболее важные (или, по крайней мере, наиболее традиционные) с точки зрения классической механики симплектические многообразия — это R^" со стандартной симплектической структурой и кокасательное расслоение дифференцируемого многообразия М {конфигурационного пространства механической системы) с симплектической формой w, описанное в п. 5.5 б. Заметим, что в обоих случаях само симплектическое многообразие (фазовое пространство) не компактно, хотя в втором случае конфигурационное пространство М может быть компактным; так обстоит дело для многих
§ 5.6. КОНТАКТНЫЕ СИСТЕМЫ 237 важных классических проблем, таких как проблема движения твердого тела. Конечно, R^" может также рассматриваться как T*R", так что первое многообразие — частный случай второго. В этой книге мы преимущественно рассматриваем динамические системы с компактным фазовым пространством. Чтобы применить излагаемые нами понятия и методы к гамильтоновой системе с гамильтонианом Д можно рассмотреть ограничение динамики на гиперповерхности Н = с, которые часто оказываются компактными, например для геодезического потока на компактном римановом многообразии, где эти гиперповерхности представляют собой сферические расслоения над конфигурационным пространством. Иногда можно еще понизить размерность системы, используя первые интегралы, отличные от интеграла энергии. Если с не является критическим значением гамильтониана и гиперповерхность Н^ := {х| Н{х) = с} компактна, то гамильтонова система сохраняет невырожденную (2п— 1)-форму ш^, которая может быть описана следующим образом. Локально можно разложить 2п-мерную меру, порожденную формой w, на (2п—1)-мерные меры на Hc + s для всех достаточно малых \S\ и рассматривать условные меры, каждая из которых определена с точностью до мультипликативной константы. Таким образом, в этом случае благодаря предложению 5.5.12 можно применить теорему Пуанкаре о возвращении 4.1.19, эргодическую теорему Биркгофа 4.1.2 и другие факты из эргодической теории к ограничению гамильтоновой системы на Н^. Имеется важный частный случай, когда инвариантная (2п — 1)-форма может быть описана особенно естественно. Обратите внимание, что как в случае R2", так и в случае Т*М форма со не только замкнута, но и точна. п Очевидно, 1-форма О вида 2 Pidq^, определенная глобально в первом слу- чае и локально во втором, удовлетворяет соотношению dO = ш. Вычисление, проведенное в доказательстве леммы 5.5.10, показывает, что О определяется на Т*М независимо от выбора локальных координат. Конечно, вообще говоря, гамильтонова система на Т*М не сохраняет О или любую другую 1-форму, внешняя производная которой равна ш. Найдем условия, которые инвариантность в налагает на гамильтониан. Мы имеем и Таким образом, 1-форма в инвариантна при условии, что Xjj -i9 = —Н, Локальное вычисление в координатах Дарбу дает -^я-*^"" 2^^» фГ- Выбор гамильтониана для данного векторного поля Х^ однозначен с точностью до аддитивной константы. Таким образом, мы доказали следующий факт. Предложение 5.6.1. Гамильтоново векторное поле Xj^ на Т*М сохраняет 1 -форму 6 тогда и только тогда, когда гамильтониан может быть выбран положительно однородным степени один относительно р, т. е. H{q, Хр) = XH{q, р) для Л > 0. Имеется более широкий класс гамильтонианов, которые сохраняют форму О вдоль гиперповерхностей Н = const. В этом случае условие инвариантности принимает вид d{X^^e){i)=0, если^Я(О = 0, или, другими словами, функция Xj^ j 6 постоянна на каждой компоненте связности гиперповерхности Н = const. Это условие выполнено, если х^^е = <р(Н),
238 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНтаЫМИ МЕРАМИ ИЛИ, в координатах Дарбу, Н{д,\р) = Ф{Х)Щд,р), где Ф^ = ip. Если <^(Л)7^0, то такие гамильтонианы будут называться обобщенно однородными {по р) гамильтонианами. Вне некоторой окрестности нулевого сечения каждый такой гамильтониан представляет собой однородную функцию гамильтониана степени один, а именно, Щ(я^р) = = Ф~^{Н{д, р)), где Ф~' — обратная к Ф функция. Непосредственное вычисление показывает, что Хр(н) = Р*Х^ для любой С-функции р, так что поток, порожденный обобщенно однородным гамильтонианом, получается заменой времени из потока, порожденного гамильтонианом, который сохраняет О, и эта замена времени постоянна на каждой поверхности Н = const В частности, так как гамильтониан геодезического потока является квадратичной функцией р, он сохраняет ограничение формы в на любую поверхность постоянной энергии. 5.6 б. Контактные формы. Ограничение формы 9 на поверхность Н=с для некритического значения с функции Н дает пример такой 1-формы, что форма 9A{dO)'^~^ невырождена. Это обстоятельство может служить мотивировкой для следующего определения. Определение 5.6.2. 1-форма О на (2п — 1)-мерном ориентируемом многообразии М называется контактной формой, если (2п — 1)-форма ^A((i6)"~' невырождена. Соответственно, пара (М, 0), состоящая из гладкого многообразия и контактной формы, называется контактным многообразием. Под контактным потоком понимают поток на М, сохраняющий контактную форму на М. Диффеоморфизм, сохраняющий контактную форму, называется контактным диффеоморфизмом, В отличие от симплектического многообразия, которое допускает множество гамильтоновых векторных полей, контактные многообразия снабжены каноническим векторным полем и, которое определяется соотношениями vjO = 1 и v^d6 =0. Оно единственно, поскольку ядро формы dO*" одномерно и не пересекается с ядром формы О в силу невырожденности. Отметим, что производная Ли £^0 обращается в нуль, поскольку u_i^ = const, так что поток поля и, называемый характеристическим потоком контактной формы, сохраняет 9 и, следовательно, все структуры, определенные в терминах 6, в частности объем. Таким образом, характеристический поток представляет собой канонический пример потока, сохраняющего объем. Предположим теперь, что X — векторное поле, порождающее поток, сохраняющий контактную форму 0. Тогда этот поток должен сохранять и kerd^" и, следовательно, должен коммутировать с характеристическим потоком формы в. Таким образом, контактные потоки всегда возникают как потоки, коммутирующие с характеристическим потоком контактной формы. То же остается в силе для контактных диффеоморфизмов. Кроме того, если контактное многообразие представляет собой множество уровня для однородного гамильтониана, как в предыдущем параграфе, то V — в точности гамильтоново векторное поле. Оказывается, что контактные формы всегда могут быть получены таким способом с помощью некоторого обобщенно однородного гамильтониана (см. предложение 5.6.4). И наоборот, из замечания в конце § 5.3 и наблюдений, приведенных в предшествующем пункте, вытекает такое предложение.
§ 5.6. КОНТАКТНЫЕ СИСТЕМЫ 239 Предложение 5.6.3. Геодезические потоки являются гамилъ- тоновыми потоками с однородными гамильтонианами. Гамилътоновы потоки, в частности геодезические потоки, являются характеристическими потоками и, следовательно, контактными потоками. Предложение 5.6.4. Предположим, что (М, 9) — контактное многообразие. Тогда М может быть вложено в симплектическое многообразие {N, uj) таким образом, что сужение симплектической формы ш на М равно аО. Замечание. Контактное многообразие, вложенное таким образом, называется подмногообразием контактного типа. Доказательство. Если N — М х R и t^j^t = «^(в'й,,), то форма Qjn = e"'(rwit Л ^ Л (d^)""') представляет собой объем, так что (N, ш) — симплектическое многообразие и ограничение w на М х {0} есть dO. П Предложение 5.6.5. Пусть ш — стандартная симплектическая форма на R^" и М= /''(с) СIR^" — множество уровня гладкой функции /: М^п _^]1^ Q регулярным значением с. Тогда М является подмногообразием контактного типа в том и только том случае, когда в окрестности U многообразия М имеется векторное поле ^, трансверсальное к М, для которого С^ш = w. Замечание. Для однородных гамильтонианов, описанных в предыду- п щем пункте, ^ = 2 р^д/др.. » = 1 Доказательство. Пусть в' = £, auj и 9 = 0'\^. Заметим, что C^uj = = d{^ -iuj), поскольку duj =0, и, следовательно, dO =С^ш = ш на М. Чтобы показать, что О — контактная форма, отметим сначала, что из условия регулярности следует, что для градиентного векторного поля V/ на М выполнены условия Кроме того, ядро kerd^ одномерно, потому что форма 9 была получена из невырожденной формы и> сверткой с некоторым вектором. Это показывает, что форма О Л (d^") определяет объем. Чтобы доказать достаточность, предположим, что (М, 0) — подмногообразие контактного типа. По лемме Пуанкаре форма 6 может быть продолжена до формы О' на окрестности U многообразия М таким способом, что dO' = ш яа и. Тогда соотношение ^ -1ш = в' единственным образом определяет ^, и мы имеем (V/ ^) = 9{Xj)^0, так что поле ^ трансверсально к М. Наконец, C^uj — di^ -iuj) = dQ' = w. D Замечание. Единственная причина, вынуждающая нас работать в IR^", заключается в том, что в конце доказательства применяется лемма Пуанкаре. Локально контактные формы, подобно симплектическим формам, могут быть приведены к каноническому виду. Приведенный ниже результат представляет собой простое следствие теоремы Дарбу 5.5.9 для симплектиче- ских форм. Теорема 5.6.6 (теорема Дарбу для контактных форм). Пусть д^ = = Xidj/i -h ... -h x^dy^ -j- dz —каноническая контактная форма на R^""*" ^
240 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКРШИ ИНВАРИАНТНЫМИ МЕРАМИ и (М, 0) —контактное (2п -|- 1)-мерное многообразие. Тогда для х е М существует окрестность U точки х с координатами, в которых в = 0q. Доказательство. Для х€М выберем окрестность нуля Vq в кегft^,, и пусть V= V^ X (-£, е), U' = ехр V, C// = exp(V^ x{t})cM. Дифференциал d9j ограниченный на С//, является симплектической формой, так что по теореме Дарбу 5.5.9 для каждого у € С// существует окрестность U^ с С//, на которой имеются координаты Дарбу Xj,..., х„, 2/it ■ ■ м УпУ ^' '^- б* ^^ =2 <^з:,.Л Л dj/i. На С/: = |J С/^ мы, таким образом, имеем d{0 — ^ dx^ А dy^) —Оу -£<(<£ откуда 0 — ^ dXiAdy.-^dz. Итак, Xj,..., х^, j/p - •., 2/п> -^^ — требуемые координаты. D Упражнения Гиперповерхность М в К" называется звездной, если существует такая точка с, что каждый луч с началом в с пересекает М в точности в одной точке. 5.6.1. Докажите, что любая звездная гиперповерхность в К^" со стандартной симплектической структурой имеет контактный тип. 5.6.2. Опишите контактную форму и характеристическое векторное поле на 8^*^' ' с К^", соответствующее векторному полю f = « S (pi л^ + Я{ ^л~ ) ■ 5.6.3. В условиях предыдущего упражнения отождествим К^" с С", записав z = p-\-iq. Покажите, что все орбиты векторного поля v замкнуты и фактор по действию характеристического потока есть комплексное проективное пространство СР" = 5^"" '/'3''. 5.6.4. Полагая, что гиперповерхность М в кокасательном расслоении T*N представляет собой гладкое многообразие, пересекающее каждый слой по звездной гиперповерхности, докажите, что М имеет контактный тип относительно стандартной симплектической структуры. 5.6.5. Рассмотрим еданичное касательное расслоение 5Т" плоского тора с 1-формой а, полученной из стандартной I-формы 0, задаваемой соотношением (5.5.1), с пoмoш^>ю преобразования Лежаидра (5.3.5). Опишите группы диффеоморфизмов и векторных полей на jST", сохраняющих а. § 5.7. Алгебраическая динамика: сдвиги на однородных пространствах и аффинные преобразования ч Рассмотрим локально компактную метризуемую топологическую группу G. Этот класс включает, с одной стороны, компактные коммутативные группы, удовлетворяющие второй аксиоме счетности, которые появились в § 1.3, и, с другой стороны, группы Ли, например группы изометрий гиперболической плоскости (§§ 5.4 и 17.5). Торы относятся к обоим классам. Предположим далее, что группа G унимодулярна, т. е. на ней существует локально конечная борелевская мера, инвариантная по отношению к левым и правым умножениям (сдвигам) одновременно. Пусть Y с G является решеткой в G (см. § П 8). Так как правые сдвиги на G коммутируют с левыми сдвигами, они определяют преобразования Y\G. Так как группа G унимодулярна и Г — решетка, правые сдвиги на T\G сохраняют конечную меру Хаара на T\G. Полученное таким образом преобразование Т: Y\G —*T\G обычно называют сдвигом на однородном пространстве] однопараметри- ческая rpjoina таких сдвигов обычно называется потоком на однородном
§ 5.7. АЛГЕБРАИЧЕСКАЯ ДИНАМИКА 241 пространстве. Таким образом, подобно гамильтоновым и контактным системам, которые обсуждались выше, сдвиг или поток на однородном пространстве является одновременно топологической динамической системой с сохраняющим меру преобразованием. Заметим, однако, что фазовое пространство компактно только в случае равномерных решеток. Сдвиги на компактных коммутативных группах (§§ 1.3 и 1.4) и линейные потоки на торе (§ 1.5) являются примерами соответственно сдвигов и потоков на однородных пространствах. В § 17.5 мы покажем, что геодезический поток на компактном факторе плоскости Лобачевского (п. 5.4 е) можно представить естественным образом как поток на однородном пространстве группы PSL(2, R) всех преобразований Мёбиуса по некоторой компактной (равномерной) решетке Г. Напомним, что PSL(2, R) — это факторгруппа группы SL(2, R) всех (2 х 2)-матриц с определителем единица по центру, который состоит из двух элементов db Id. Читатель, интересующийся этим конкретным примером, может сразу после окончания этого параграфа перейти к чтению § 17.5. В § 17.7 мы разовьем этот метод и рассмотрим важные потоки на однородных пространствах, возникающие из геодезических потоков некоторых весьма специальных римановых многообразий размерности больше двух. Другой класс динамических систем с четко выраженной алгебраической структурой представлен растягивающими линейными отображениями окружности (§ 1.7), а также автоморфизмами и эндоморфизмами торов (§ 1.8). В силу единственности вероятностной меры Хаара на коммутативной компактной группе любой автоморфизм такой группы сохраняет эту меру и эндоморфизм умножает ее на константу. В последнем случае мера Хаара все еще инвариантна в смысле определения, приведенного в конце п. 4.1 б. В упражнении 17.1.2 рассматривается интересный пример автоморфизма компактной коммутативной группы, отличной от тора. В некоторых специальных случаях автоморфизмы и эндоморфизмы некомпактной локально компактной группы определяют преобразования компактного однородного пространства этой группы. Примеры такого рода рассматриваются в § 17.3, где G — нильпотентная, но не коммутативная группа Ли. Наконец, существует естественный алгебраический класс динамических систем, включающий в себя и сдвиги на однородных пространствах, и автоморфизмы, а именно аффинные системы, которые представляют собой проекции аффинных отображений группы G на однородное пространство с конечным объемом. Аффинное преобразование группы — это композиция эндоморфизма и сдвига. Самые простые нетривиальные примеры аффинных преобразований, которые обладают свойствами, отличными от свойств сдвигов и автоморфизмов, — это преобразования А^ на двумерном торе, встречающиеся в упражнениях 1.4.4, 3.2.6 и 4.2.3. Последующие упражнения из § 4.2 показывают тесную связь между динамическими свойствами этих отображений и их естественных многомерных обобщений и равномерным распределением дробных долей значений полиномов. Это первое проявление исключительно плодотворной взаимосвязи между динамикой алгебраических систем (сдвигов и аффинных преобразований) и теорией чисел. Исследование асимптотических свойств (как топологических, так и метрических) описанных выше классов алгебраических динамических систем (сдвигов, потоков, эндоморфизмов, аффинных преобразований) является хорошо развитой областью, где общие методы эргодической теории, тополо-
242 Часть 1. Гл. 5. СИСТЕМЫ С ГЛАДКИМИ ИНВАРИАНТНЫМИ МЕРАМИ гйческой и дифференциальной динамики сочетаются с более специальными приемами, которые используют однородность локальной структуры систем в фазовом пространстве. Элементарным примером таких специальных ме* тодов служит применение анализа Фурье в §§ 1.4 и 4.2. Таким образом, наличие четко определенной инвариантной структуры делает разумным выделение этой части теории динамических систем в отдельную область наряду с основными разделами, которые обсуждались в § 1 введения. Так как не существует общепринятого термина для обозначения этой области, мы будем называть ее алгебраической динамикой, что, безусловно, звучит довольно естественно.
Часть 2 ЛОКАЛЬНЫЙ АНАЛИЗ И РОСТ ОРБИТ ГЛАВА 6 Локальная гиперболическая теория и ее приложения В этой главе мы осуществляем часть программы, сформулированной в § 4 введения. Главный принцип нашего анализа состоит в использовании своего рода гиперболичности линеаризованной динамической системы вдоль определенных орбит. Мы покажем, что она порождает аналогичное поведение нелинейной системы вблизи некоторой заданной орбиты (теорема Адама- ра — Перрона 6.2.8). Комбинация локальной гиперболичности, возникающей в линеаризованной системе, с нетривиальным возвращением, явлением по существу нелинейным, приводит к изобилию периодических орбит (теорема Аносова о замыкании 6.4.15) и порождает богатую и устойчивую во многих отношениях структуру орбит, которая будет далее исследоваться в части 4. § 6.1. Введение Чтобы избежать неоднозначности в обозначениях, мы будем преимущественно рассматривать гладкие динамические системы с дискретным временем /: М —^ М. Зафиксируем некоторое начальное условие р^ М. Наша главная цель — найти начальные условия х, итерации которых под действием / остаются достаточно близко от итераций р в течение достаточно длительного времени, положительного или отрицательного, а также выяснить асимптотическое поведение итераций /"(х) относительно /"(р). Нас будут особенно интересовать такие условия х, для которых итерации /"(х) остаются близкими к /"(^з) для всех положительных или отрицательных значений п. Главным инструментом этого анализа будет информация относительно асимптотического поведения линейных отображений (D/")p при п—>-|-оо или п—>—оо, которое в определенном смысле отражает асимптотическое поведение «начального условия, бесконечно близкого к р^. Мы покажем^, что при определенных условиях поведение некоторых орбит нелинейной системы / относительно нашей заранее заданной орбиты имитирует поведение орбит линеаризованной системы. Наиболее естественные условия для такого анализа возникают в случае, когда начальная орбита является периодической, скажем, периода т, и дифференциал {Df"")^ — гиперболическое линейное отображение в смысле определения 1.2.5. Такая орбита обычно называется гиперболической
244 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ периодической орбитой. Локальная структура отображения вблизи гиперболической периодической орбиты исследуется в начале § 6.2 и в § 6.3. Имеется несколько обобщений данной ситуации на случай непериодической начальной орбиты. Одно из них обсуждается подробно в § 6.2. Оно включает инвариантное разложение линеаризованной системы вдоль начальной орбиты на подпространства равномерно сжимающихся и равномерно растягивающихся векторов (см. определение 6.2.6). Мы будем иногда называть эту конструкцию равномерным гиперболическим разложением. Хотя наше внимание в этой главе сосредоточено на гиперболическом случае, когда интересующие нас качественные явления проявляются особенно ярко, принимая во внимание различные приложения, естественно рассмотреть несколько более общую ситуацию экспоненциального разложения (определение 6.2.6). Главный технический результат этой главы — теорема 6.2.8 — формулируется именно для этой ситуации. Локальный анализ систем с равномерным гиперболическим разложением вдоль начальной орбиты, основанный на этой теореме, является фундаментом для построения глобальной и полулокальной теорий для очень важного класса гиперболических динамических систем. Этот класс содержит все наши предыдушле примеры обратимых гладких динамических систем со сложной структурой орбит, а именно: гиперболические автоморфизмы тора (§ 1.8, п. 3.2 д, 4.2 в, 4.4 е), их С-возмущения (§ 2.6) и различные «подковы» (п. 2.5 в), а также растягивающие отображения окружности (§ 1.7, 2.4, пп. 3.2 в, 4.2 б, 4.4 в, 5.1 в), подковообразные инвариантные множества квадратичных отображений (п. 2.5 б) и (в случае непрерывного времени) геодезические потоки на компактных факторах гиперболической плоскости (п. 5.4 е). Общее понятие гиперболической динамической системы вводится в § 6.4, где мы не только формулируем непосредственные следствия предшествующего локального анализа, но и делаем начальные шаги к доказательству того, что в полном согласии с предположением, сформулированным на основании анализа наших примеров, гиперболичность в нелинейных системах порождает изобилие периодических орбит. В § 6.5 мы увидим, что под- ^':овообразные гиперболические множества очень естественно появляются в контексте полулокального анализа. Более систематическое изучение гиперболических динамических систем проводится в части 4 этой книги. При всей важности наличия равномерного гиперболического разложения это предположение все же является слишком сильным, особенно для целей глобального (в отличии от полулокального) анализа динамических систем. Другими словами, в отличии от гиперболических инвариантных множеств (определение 6.4.1 и определение 6.4.3), которые появляются очень часто в широких классах гладких динамических систем, гиперболичность отображения или потока на всем компактном многообразии — очень важное, но, пожалуй, довольно редкое явление. Более слабое локальное условие, связанное с наличием неравномерной гиперболичности или, более общим образом, «неравномерного экспоненциального разложения», оказалось еще более удобным и полезным инструментом глобального анализа очень широкого класса гладких динамических систем, особенно анализа их стохастического поведения, а также ряда топологических аспектов их поведения. Читатель может найти введение в эту теорию в приложении. Подчеркнем, что условия и методы, приведенные в § 6.2, могут быть приспособлены к неравномерной ситуации с относительно небольшими изменениями.
§ 6.2. УСТОЙЧИВЫЕ И НЕУСТОЙЧИВЫЕ МНОГООБРАЗИЯ 245 До сих пор мы рассматривали локальный подход, основанный на предположении, что линеаризованная система служит моделью локального поведения нелинейной системы, таким образом подразумевая, что нелинейные члены создают «неприятное» возмущение, которое должно находиться под нашим контролем. Естественный следующий шаг в локальном анализе — попытаться рассмотреть члены более высокого порядка (по сравнению с линейными) более систематическим и специфическим способом и попробовать более точно определить, до какой степени их влияние должно приниматься во внимание и нельзя ли его просто игнорировать. Мы рассматриваем эту проблему в § 6.6. И вновь гиперболическая периодическая орбита наиболее удоона для тайого анализа. Определяющими явлениями здесь служат некоторые «резонансы» между собственными значениями линеаризованного отображения. Их присутствие или отсутствие определяет, какие члены более высокого порядка должны приниматься во внимание. В негиперболическом случае этот анализ преимущественно формален, т. е. он может быть проведен только с точностью до членов (произвольно) высокого порядка, в то время как в гиперболическом случае такой анализ дает гладкое сопряжение. Упражнения 6.1.1. Пусть М — компактное многообразие, f\ М -^М — С'-отображение, р — неподвижная точка отображения / и А —собственное значение дифференциала £>/р. Докажите, что |А| < Ц/), где l{f) определяется из (3.2.6). § 6.2. Устойчивые и неустойчивые многообразия 6.2 а. Гиперболические периодические орбиты. Естественные условия для исследования орбит в окрестности инвариантного компактного множества, в частности периодической орбиты, описаны в § 4 введения. А именно, пусть М — гладкое многообразие, U сМ—открытое подмножество, /: и -^ М— С'-диффеоморфизм на образ и р — периодическая точка периода п, орбита которой содержится в С/. Определение 6.2.1. Точка р называется гиперболической периодической точкой диффеоморфизма /, если (D/") ; Т^М-^ Т^М — гиперболическое линейное отображение (определение 1.2.5). Ее орбита называется гиперболической периодической орбитой. Конечно, гиперболическая периодическая точка дифj^eoмopфизмa / периода п является гиперболической неподвижной точкой для /", и наоборот. Следовательно, для целей локального анализа обычно достаточно рассматривать только гиперболические неподвижные точки. Для полноты дадим аналогичное определение для динамических систем с непрерывным временем. В этом случае мы полагаем, что гладкое векторное поле ^ определено в С/ и что орбита точки р^ U находится в U и замыкается в момент времени ^q. Имеются два возможных случая: либо еЫ = 0, либо e(j?) 7^0.
246 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ Определение 6.2.2. При ^(р) = 0 точка р называется гиперболической неподвижной точкой (локального) потока <р^, порожденного векторным полем ^, если {Dtp^)^: 2],М—> ТМ является гиперболическим линейным отображением для каждого t фО. При ^(^з)^О точка р называется гиперболической периодической точкой периода t для потока <^^, если ^t{P) = P ^ линейный оператор (Dip^)^: Т^М—^ ТМ имеет единицу в качестве простого собственного значения и при этом не имеет никаких других собственных значений, по модулю равных единице. Можно также определить гиперболичность периодической точки для системы с непрерывным временем, используя отображение Пуанкаре (§ 3 введения). А именно, пусть N — маленький диск коразмерности один, содержащий точку р^ трансверсальный к векторному полю ^. Тогда отображение Пуанкаре (отображение возвращения) F^^: V —* N определено для некоторого открытого подмножества VcN, содержащего р, и Fpf{p) = p. В этом случае точка р будет гиперболической периодической точкой потока (ft тогда и только тогда, когда она является гиперболической неподвижной точкой отображения F^^. Напомним, что для линейных отображений А: R"—>R" множество всех собственных значений А обозначается через sp(A) (определение 1.2.1). Если А — гиперболическое отображение, мы определяем наименьшие скорости сжатия и растяжения для А по следующим формулам: Х{А):= r(A|^_) = sup{|x| I X €sp(A), |х| < 1}, M(A):=l/r(A-4^.) = inf{|xllx€sp(A), |х|>1}. (Подпространства -S+ и Е~ определяются из (1.2.4) и (1.2.5).) Согласно предложению 1.2.2 для любого 5 >0 можно найти такую норму в R", что ■А|д-||<Л(А)-Н5 и ||А-^|д+||<^-'(А)-н5. Теорема 6.2.3. Пусть р — некоторая гиперболическая неподвижная точка локального С''-диффеоморфизма /: U ^М, г ^ 1. Тогда существуют такие С -вложенные диски W^, W~ с С/, что T^W^ = E'^{Df^), f{W~) с W~ и f~\W^) С Wp+, и существует такая константа С(6), что для любых у е W~, z е W^, m ^ О выполняются неравенства disi{r{y),р) < С{6) (л(Df^) + 5)"* dist(2/, р), ciist(/-(z), р) < С{6) (а^-Ч^/р) + 5)™ dist(z, р). Кроме того, существует такое 6^ > О, что если dist(/™(2/), р) ^ Sq для m ^ О, то уе W~, если dist(/"*(2), р) ^ ^о для m ^ О, то z е W^. Наконец, существует такая окрестность О с U точки р и такие С-координаты ф: О -> R", что ^(Wp+ П О) с R* е {0} и 'ф{Ш~ ПО) с {0}®R<"~** (подходящие координаты). Замечание. Диски W^ и W~ определены неоднозначно. Однако для любых двух дисков, удовлетворяющих условиям, налагаемым на W^ в этой
§ 6.2. УСТОЙЧИВЫЕ И НЕУСТОЙЧИВЫЕ МНОГООБРАЗИЯ 247 теореме, их пересечение содержит некоторую окрестность точки р в каждом из них. Другими словами, эти диски являются открытыми подмножествами некоторого большего общего подмногообразия. Тем же свойством обладает Определение 6.2.4. Любой диск W^ (соответственно W~), удовлетворяющий требованиям теоремы 6.2.3, называется локальным неустойчивым многообразием (соответственно локальным устойчивым многообразием) отображения / в точке р. Многообразия w = w;= и nw;) ^w' = w;= и Г{^;) называются (глобальными) неустойчивым многообразием и устойчивым многообразием отображения / в точке р соответственно. В отличие от локального устойчивого и неустойчивого многообразий глобальные многообразия обычно вложены в фазовое пространство сложным способом. Типичный вид устойчивого и неустойчивого многообразий показан на рис. 6.5.2. В случаях, когда это не приводит к путанице, мы не будем упоминать отображение / и будем говорить просто о локальном и глобальном устойчивом и неустойчивом многообразиях в данной точке. Следствие 6.2.5. '^:^{У^Щ lim dist(/-(2/),p) = 0}, m—*оо W; = {з/ е £/| lim dist(/'"(3/), -р) = 0}. m—*оо Таким образом, устойчивое и неустойчивое многообразия гиперболической неподвижной точки могут быть определены в чисто топологических терминах. Поскольку теорема 6.2.3 описывает исключительно динамику в окрестности точки р^ она может быть переформулирована в локальных терминах. А именно, можно ввести такие координаты в некоторой окрестности точки р (с началом координат в р), что E^{Df ) и E~{Dfp) касательны к координатным плоскостям R* х {0} и {0} х R"'* соответственно. Теорема 6.2.3 в этой локальной (или евклидовой) форме становится тогда частным случаем главного результата этого параграфа — теоремы 6.2.8. Гладкие подходящие координаты получаются нз координат ^о- С^—>М*ФМ' из доказательства теоремы 6,2.8, в которых Wj^ является графиком некоторой функции ^■*": Е* —> R^ а Щ^^ — графиком некоторой функции (р': Е* -^Е*, после перехода от переменных (х, 2/)€Е* ФК' к (х', у') = {х - <р~{у)^ у~ ^"^(х)). 6.2 б. Экспоненциальное разложение. Теперь перейдем к локальному анализу вблизи произвольной (непериодической) орбиты. Как было отмечено в § 4 введения, дифференциалы итераций /*, fc е Z, вдоль такой орбиты не могут быть сведены к итерациям одного линейного отображения, а должны рассматриваться как произведения различных линейных отображений. Таким образом, мы не можем больше говорить о собственных значениях, но должны вместо этого определять гиперболичность в терминах растяжения и сжатия касательных векторов. Кроме того, мы рассмотрим несколько более общую ситуацию, а именно более общий вид экспоненциального разложения для линейных отображений на «быстро растягивающиеся» или «быстро сжимающиеся» направления и остальные направления. Как и в случае одной точки, можно выбрать соответствующие
248 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ системы координат с центрами в точках нашей орбиты и выразить как само нелинейное отображение, так и его дифференциал в этих координатах. Более подробное обсуждение этой конструкции содержится в § 6.4 в связи с доказательством теоремы 6.4.9. Определение 6.2.6. Пусть А < ^. Говорят, что последовательность обратимых линейных отображений L^: R" —^ R", m €Z, допускает (А, 11)-разложение, если существуют такие разложения R" = Е^ ф £?^, что Ь^Е^=Е^^,и -1 Мы будем говорить, что последовательность {-^m}m€z допускает экспоненциальное разложение, если она допускает (А, ^)-разложение для некоторых Л, ^ и при этом А < 1, dim Е^ ^ 1 или ^ > 1, cfim Е^ ^ 1. Мы будем называть последовательность {i^^lmez гиперболической (или равномерно гиперболической), если она допускает (А, ^)-разложение для некоторых Л, ^, Л < 1 <^. ъ Рассматривая R" как каноническое произведение R* х R"~ * и производя, если нужно, ортогональные замены координат в R", можно считать, что в предыдущем определении Е^ = R* х {0} и Е^ = {0} х R"-* для некоторого fc, 0^ fc ^ п, и всех т. Таким образом, мы свели задачу описания локального поведения итераций диффеоморфизма вблизи данной орбиты к изучению последовательности таких локальных диффеоморфизмов /^: C/^-+R", где каждое множество и^ — окрестность начала координат в R", содержащая шар некоторого фиксированного радиуса, которые переводят начало координат в себя и для которых последовательность линейных отображений (D/„)o, ш € Z, допускает экспоненциальное разложение. Хотя мы будем рассматривать только те точки, последовательные образы которых остаются в данных окрестностях, удобно искусственно расширить отображения из этих «маленьких» окрестностей на все пространство R", используя следующий факт. Лемма 6.2.7 (лемма о продолжении). Пусть U — открытая ограниченная окрестность точки О € R" и f\ С/ —> R" — такой локальный диффеоморфизм, что /(0) = 0. Тогда для любого е >_0 существ у ют_та- кое 6>0 и такой диффеоморфизм /: R"—>R", что ||/ —-D/ollc» < ^ ^ f = f на В(0, 6). Доказательство. Для ?; >0 рассмотрим такую С'-функцию р: R"—* [0,1], что/9=1 наВ(0,5)и/9=ОвнеВ(0,77), \\Dp\\^Co/rj ^ f = Р-f^ -\-{l~p)DfQ (где p-f считается нулем при р=0, дюке если диффеоморфизм / не определен в соответствующей точке). Тогда / — D/q = p-(f — D/q). Так как / является С'-отображением, мы имеем \\f — D/qWcq = o(7j). Кроме того, £)(7-D/o)|| < \\Dp(f-DfQ)\\-j-\\p(Df-DfQ)\\=o{l) по rj. Лемма доказана. D 6.2 в. Теорема Адамара — Перрона. Теперь мы готовы сформулировать основное утверждение нашего локального анализа — теорему об устойчивом и неустойчивом многообразиях. Мы будем использовать эту теорему преимущественно в гиперболической ситуации, но докажем ее в несколько более общем случае. Отметим только, что в гиперболическом случае получающиеся инвариантные многообразия имеют такую же гладкость, как порождающее их отображение.
§ 6.2. УСТОЙЧИВЫЕ И НЕУСТОЙЧИВЫЕ МНОГООБРАЗИЯ 249 Теорема 6.2.8 (теорема Адамара — Перрона). Пусть X < ij>, г ^ ^ 1, U для каждого ш € Z пусть /^: R п R" такой сюръективныи С -диффеоморфизм, что при (а;, 2/)€К*ФК"~* для некоторых линейных отображений А^: R*->R^ и В^: R"-*->R"-\ ЦА-'Ц ^ М"\ ||5^|| ^ А и а^(0) = О, /3^(0) =0, выполнено равенство frni^^ у) = {^т^ + ат(а^> 2/), В^у -h /3^(х, у)). Тогда можно выбрать такое число % = %(Х, ^), что для 7 € (О, 7о) '*^^' дется 6 = 5(Л, ^, 7), обладающее следующим свойством: если \\a^\\ci < < 6 и WPmWc^ < ^ ^-^^ в^^^ ш € Z, то существуют 1) однозначно определенное семейство {W'^}^^^ k-мерных С^-многообразий = {(х, ^+(х))| X € R*} = graph ¥>+ U ^.г 2) однозначно определенное семейство {W^}^^j^ (п С' -многообразий ^„; = {(^;;(2/). 2/)| 2/€R"-*} = graph ¥>-, к)-мерных где ^+: R ствами. IR"-^ <^-:R п-Jfe R*, sup ||D^^|| <^, со следующими свой- W'™^,; /„(W'™^) (О-/„.(^™) = (И). |1/.И11 < (1+ 7) (А + 5(1 + 7» Ikll =•• А' 11/.-'.Н11<(т^ для zeW. т. • -1 7 (Злл всякого для всякого L>0 и неко- -5j ||2:||==; (м'КЧкИ дляzeW;^. Щ, Пусть У <v < fi'. ЕслиУ^^^__,о.. ,о f^i^z^KCv"^ L ^0 и некоторого С >О, то zе W^. Аналогично, ecлu\\f;;^l^o.. .o/-!_j(2)|| ^Ci/~^ торого С > О, то 2; € W^. Наконец, в гиперболическом случае, т. е. если Л < 1 < а*, семейства {^т}теъ "{^mlmez состоят U3 С-многообразий. Прежде чем перейти к доказательству, сделаем несколько замечаний, разъясняющих утверждение и смысл теоремы. В ходе доказательства мы зафиксируем 7o = mn (1, \/м/Л - 1) и 5(Л,м, 7) так, что Л' <^', и, таким образом, свойство (ш) станет осмысленной характеристикой многообразий W^ и W~; S{X,ij,,j) тогда определится дополнительным условием (6.2.4) (см. ниже). Подчеркнем, что большинство оценок не используют предположения 7 < 1- При первом чтении можно игнорировать зависимость наших данных от m и рассматривать вместо этого итерации одного локально определенного отображения /. Это дает локальный вариант теоремы 6.2.3. Зафиксируем г > О, и пусть Д = {(х, y)€R*eR n-k хЦ^г, ЬНг}, W^ пц г w^ п я ■ Если Л' < 1 (это выполнено, если Л < 1 и числа 7 и «5 достаточно малы), то в силу свойства (ii) /^(И^^Л С W'^+i.^ и многообразия W^ сжимаются под действием /^. Таким образом, в этом случае И^^^ вполне определяется
250 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ действием /^ на D^. Аналогичные замечания могут быть сделаны относительно W^, если ^'> 1. Итак, в этих случаях для определения осмысленных объектов достаточно локальных данных. Очень важно, однако, сознавать, что попытка применить теорему 6.2.8, используя локальные координаты и описанную выше процедуру продолжения, с целью получить имеющие смысл объекты (не зависящие от продолжений и определяемые локальными данными) приводит к успеху только в двух вышеупомянутых случаях (Л' < 1 для W' или ^' > 1 для W^), В частности, в гиперболическом случае для достаточно малых 7 и 5 мы имеем Л' < \ < ji' и оба многообразия W^ и W^^ локально определяются. В этом случае И^^ и W^ обычно называются устойчивыми многообразиями и неустойчивыми многообразиями в начале координат соответственно. Кроме того, мы можем подставить в (iii) v = \. Это показывает, что устойчивые и неустойчивые многообразия вполне определяются топологически, а именно W-={z&Mr\ Игл ||/„^i_,o...°/„^||=0}, L-*oo W„+ = {^eR"| lim ||/-'-i0...o/-'_,^||=0}. L—* 00 В ходе доказательства мы покажем, что последовательность дифференциалов (Df^)o, ш € Z, допускает (Л', /л')-разложение. Из этого немедленно следует, что TqW^ = E^, Рассматривая последовательные образы j?™ = /„_ i о... о /о(^з) для m ^ О ^ Рт — fm ° /т +1 ° * * * ° /г/ (р) ДЛЯ ш < О любой ТОЧКИ J3 € R" И перемещая центры систем координат в р^, мы получим отображения m^)==u^+pj-p m + n удовлетворяющие посылке теоремы. Таким образом, мы можем предъявить многообразия W^^ и W^^, содержащие точку р и удовлетворяющие соответствующим образом измененным утверждениям теоремы. В частности, пункты (ii) и (iii) означают, что если W^pOPF^ 7^0, то W^p = W^^ (и аналогично для W^p). Кроме того, /„(W^p) = W^+ij^p- Таким образом, пространство R" разбивается двумя способами на инвариантные семейства многообразий. Конечно, поля касательных плоскостей к этим многообразиям инвариантны относительно действий дифференциалов Df^. 6.2 г. Доказательство теоремы Адамара — Перрона. Доказательство теоремы Адамара — Перрона иллюстрирует метод, который играет центральную роль в теории гиперболических динамических систем [']. Этот метод основан на систематическом применении принципа сжатых отображений в специально подобранных функциональных пространствах. Наше доказательство состоит из пяти шагов. Шаг I. Построение инвариантных семейств конусов. Шаг II. Построение инвариантных последовательностей полей плоскостей внутри инвариантных семейств конусов. Мы также получим здесь другие следствия существования инвариантных семейств конусов, которые будут неоднократно использоваться в дальнейшем. Шаг III. Построение инвариантных липшицевых графиков, основанное на применении принципа сжатых отображений к соответствующему оператору (преобразованию графиков).
§ 6.2. УСТОЙЧИВЫЕ И НЕУСТОЙЧИВЫЕ МНОГООБРАЗИЯ 251 Шаг IV. Проверка дифференцируемости. Шаг V. С-гладкость в гиперболическом случае. Чтобы отличать касательные векторы от точек евклидова пространства, мы будем обычно обозначать через (х, у) € R* ф R"~* точку в IR" и через касательный вектор в точке (х, у). I. Определение 6.2.9. Стандартным горизонтальным 7 -конусом в точке J3 € R" называется множество {щ и) € R* е М"- * = 2J^У)М" ^; {(u,v)eT^R п V <7||^11}. Стандартный вертикальный j -конус в точке р — это множество у; {iu,v)eT^R п и < тИ'^'И} • Более общим образом, конус К в R" определяется как образ стандартного конуса под действием обратимого линейного отображения. Рассмотрим несколько примеров, поясняющих это определение. В случае размерности п = 2 все конусы выглядят одинаково. Горизонтальный конус 1^1 ^ 7|a:i| заштрихован на рис. 6.2.1. Рис. 6.2.1. Горизонтальный конус Замыкание его дополнения IxJ < \^\/7 —вертикальный конус. В случае размерности п = 3 множество и = Ху, v~ <7 3:11, очевидно, является конусом. Но и замыкание дополнения конуса (^^2^)> У^^^^ < У 4 -Ь 2^77 является конусом, так что множество и = (х2, Хд), и = Xj, |Xi представляет собой пример конуса, явно не предназначенного для мороженого. Под полем конусов мы понимаем отображение, сопоставляющее каждой точке peW конус К^ в 2J,IR". Диффеоморфизм /: IR" -> R" естественным образом действует на поля конусов: Под семейством конусов мы подразумеваем последовательность полей конусов. Последовательность / = {/m}m6z диффеоморфизмов действует на семействах конусов следующим образом: (/.^). т (^/m-l)/-L,(p)(^/-L,(p),m-l)-
252 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРЮЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ Рис. 6.2.2. Вертикальный конус Назовем семейство конусов К (строго) инвариантным, если (/.^)p,.clntif„„u{0}. Мы будем рассматривать действие последовательности f = {fm}m^z^ удовлетворяющей условиям теоремы 6.2.8, на стандартные горизонтальные и вертикальные семейства конусов, которые соответственно сопоставляют точке p^W^ конусы Щ и V^ для всех т. Лемма 6.2.10. Если б < ^ ^~ ,, , то 2 + 7 + 1/7 Доказательство. Если (гх, v) € Щ, т. е. ||i;|| ^7||*"||> и (и', V') = (DfUu, V) = (А^и + (DaUu, v), B^v + (Df3J(u, v)), TO V I B^v + (Dl3\(u, v)\\ ^ \\B^v\\ + \\{D0\(u, v)\\ < <X\\v\\ + 6\\{u,v)l (6.2.1) Мы также имеем и А^и + {Da\{u, v)\\ ^ \\A^u\\ - \\{DaJ(u, v)\\ > /x и 8\\{u^ v) } И, поскольку IKu, i;)|| ^ ЦгхЦ -h Ц-иЦ < (I 4- 7)||*u||, отсюда следует, что и > (м-5(14-7)) \\и (6.2.2)
§ 6.2. УСТОЙЧИВЫЕ И НЕУСТОЙЧИВЫЕ МНОГООБРАЗИЯ 253 м-л Далее, 5 < jr^jTw"' "^^^ ^^° ^(^ "^ ^)^ "^ ^('^ ~ '^)' <^едовательно, A7-h5(l-h7)<7(M-^(l+7)) (6.2.3) и V <Л i; + 5||(u,'u)!|<(A7 + 5(l+7)) ■u <7(м-5(1 + 7)) ■u <7 ■u Чтобы доказать инвариантность вертикального семейства 7-конусов, нужно проверить, что Vf^^^^ С lni(Df^)pV^, или, иными словами, что (Df^)p(H^^'^) Clni{H}^^p^). Но этот факт следует из того наблюдения, что предшествующие оценки сохраняются при замене 7 на I/7. □ Пусть У" =/^У'. Покажем теперь, что векторы из горизонтальных конусов растягиваются, а векторы из вертикальных конусов сжимаются. Лемма 6.2.11. II(^/J.K^)II> М 1+7 S ] \\{и, v)\\ для (и, v) е Щ и \\{DfjJu, v)\\ < (1 + 7)(А + бШщ v)\\ для (и, V) е v;. Доказательство. Используя обозначения предыдущего утвержде ния, мы можем сказать, что из (6.2.3) следует неравенство «V)||^ и >(/х-5(1+7)) и > /x-5(l-h7) / ч 14-7 для (гх, v) е Щ. Далее, из (6.2.2) получаем «^')11< и 4-|h'N(l+7)l V < < (l-h 7)[А ll^ll 4-5||(гх, i;)||] ^ (1-h 7)(А 4-5)||(гх, t;) ДД1Я {u^v)eVp^, поскольку (гх', v') е У/i^py П Заметим, что в этих и в последующих оценках мы используем неравенство треугольника для норм ортогональных векторов. Вместо него мы могли бы использовать теорему Пифагора, что привело бы к замене 14-7 на у 1 4- 7^ и улучшило бы оценки 6 через А, /х, 7- ^то может оказаться существенным в приложениях метода конусов к частным динамическим системам. Однако для достижения наших целей число 8 может выбираться произвольно малым, так что улучшение оценок не стоят затрат времени на манипуляции с более сложными алгебраическими выражениями. II. Теперь мы установим связь между существованием инвариантной последовательности конусов й экспоненциального разложения для последовательности линейных отображений. Применяя леммы 6.2.10 и 6.2.11 вдоль каждой орбиты, мы сможем затем использовать результаты, установленные на этом шаге, в процессе доказательства теоремы Адамара — Перрона. Предложение 6.2.12. ПустъУ <ii' и-f^,-f^>0{meZ), и пусть L^: К^ X К"-*' —►К*' X К"-*= —такая последовательность обратимых линейных отображений, что
254 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ (1) Ь^Я^-сМЯ^»^'; (2) L-*y^"^'Clnty^"; (3) \\LJu, v)\\ > /х'|!(гх, ^)|| для (и, v) е Ю-; (4) \\L^{u, v)\\ < У\\{и, v)\\ для (и, V) е L-JV<^^. Тогда пространство оо Является к-мерным подпространством, содержащимся в Я'^*, и оо i=0 является (п — к)-мерньсм подпространством^ содержащимся в У"^^. Доказательство. Поскольку К* х {0} С Н"^ для всех 7> из условия (1) следует, что Sj:=L^_,oL^_,o...oL^^.{R'x{0})cL^_,oL^_,o...oL^_,H'-^=:T.. Для каждого 5у выберем упорядоченный ортонормированный базис и рассмотрим такую подпоследовательность, что все последовательности элементов базиса сходятся. Так как пересечение 7J с единичной сферой компактно, оно содержит некоторый новый базис, состоящий из пределов элементов базиса. Аналогично, любая последовательность векторов, определенных фиксированным множеством коэффициентов, сходится к вектору из Т^.. Следовательно, линейная оболочка S нашего базиса-предела принадлежит всем множествам Tj и, таким образом, их пересечению. Теперь мы должны показать, что S = Е^. Если (гх, г;)€-Б+, то, поскольку множество 5сЯ'^" трансверсально к {0}х хК""*, мы можем записать (гх, v) = (u, v')-\-(Ojv")j где (гх, v')e.S. Положим (гхр V.) = L-Ly о ... о L-L i(u, v), iu;,v'.)=^L-J^.o...oL'J_,(u,v% K.<)=^;;L,o...oL-L,(a^. Тогда из включения {u^v)eE^ следует, что (гх.,-и.) € Я'^'"-^ и в силу условия (3) нашего предложения IK^y, v^.)|| ^ (/x'HlK*") "у)!!- Аналогично, iu'jyv'^.)\\ ^{fjb')~^'\\{u,v')\\. Таким образом, поскольку {u'J^v") е V^^-^, мы получаем из условия (4), что <(Л'у «о^ для всех j € N, откуда v" = О и, следовательно, (гх, v) € 5. Доказательство для Е^^ совершенно аналогично и использует семейство {L-^} вместо {LJ. П Замечание. Заметим, что £?^ и £?^ — однозначно определенные инвариантные последовательности подпространств, лежащие внутри конусов Я^ и V^' соответственно.
§ 6.2. УСТОЙЧИВЫЕ И НЕУСТОЙЧИВЫЕ МНОГООБРАЗИЯ 255 Следствие 6.2.13. Если в условиях предложения 6.2 Л 2 выполнено неравенство Л' < 1 < д', mo{L^}— гиперболическое семейство линейных отображений, которое допускает (Л', }л')-разложение. Следствие 6.2.14. Если 7 < v^(/x/A) - 1 и U<d<min^ (2 + 7)(1+7)Г то множество (6.2.4) оо оо г=0 t=0 ^ Является к-мерным подпространством внутри Щ, для каждого ^ € (Е^)^. оо Аналогично (Е~)^= f| ((Л"*)*^'^)р,т является {п-к)-мерным подпро- странством внутри Т^*^, U 5>гя каждого ^ € (-Е"^")^ выполнено ненавенство ii(^/jpeiK(i + 7)(A + 5)iieii. Доказательство. В силу лемм 6.2.10 и 6.2.11 и условия (6.2.4) применимо предложение 6.2.12 с A' = (l-h7)(A -\- S) а fj,'= Г/х/(1 -\"у)— S), поскольку при наших предположениях Л/ < /х' вдоль каждой орбиты последовательности {/^}. D Лемма 6.2.15. Для каждого meZ подпространства (Е^)^ и (Е~)^ зависят от р непрерывно. Доказательство. Векторы v € (Е~)^ характеризуются неравенствами \\(Df^,,)iDf^,,^,)---{DfJ^v\\^{X'y^'\\v\\ (;GN). (6.2.5) Для последовательности Pi—^p выберем ортонормированный базис ^^,.. .^^ пространства (Е~)^ и предположим, без потери общности, что lim ^/ = ^^ (г = 1,..., fc). Поскольку для любого фиксированного г векторы ^/ удовлетворяют условию (6.2.5) для всех /, используя непрерывность всех Df^, можно заключить, что ^^ удовлетворяет условию (6.2.5) и, следовательно, ^. е (Е~)^. Так как dim(E~)^ не зависит от р^ из этого следует, что ОО
ЛОКАЛЬНАЯ ГИПЕРЮЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ Последовательности (Е^)^ и {Е~)^ (т gZ) и есть инвариантные последовательности полей плоскостей, упомянутые выше в описании доказательства. IIL Чтобы получить инвариантные графики, т. е. семейство таких лип- шицевых функций {у?+: Е'-^ lR"-'}^ez, что /„.(graph ¥?+) = graph yp+^i и у?+(0) = 0, обозначим через С^(К^) множество функций у?: К*= —^ К"-*=, которые являются липшицевыми с константой липшицевости 7- Пусть С^(Й^) — пространство таких функций у? € C^(IR^), что у?(0) = 0. Следующая лемма может рассматриваться как нелинейный аналог леммы 6.2.10. Она показывает, что отображения /^ действуют на пространствах С (R^) и C^(R^). Лемма 6.2.16. Если выполнено условие (6.2.4) и у? € С^(К^), то /„(graph (f) = graph ф для некоторой функции ф е С^{Ж^). То же самое выполняется для С°(К^). Доказательство. Отображение G^: К^ —>R^ вида представляет собой абсциссу образа графика (р под действием /^. (6.2.6) {х,ф{х)) /{х,ф{х)) Рис. 6.2.3. Преобразование графиков Чтобы доказать, что множество /^(graph у?) является графиком, нужно проверить, что G^ — взаимно однозначное соответствие. Таким образом, ПАЯ oiIq GlR^ мы должны найти единственную такую точку х €К^, что Xq = = G^(x), или, что то же самое, X = F{x), где F{x) = А;^%- А"* {ajx, ip{x))). Отображение F: R^ —vK^ является сжимающим, поскольку F(x,)- F{x,)\\ = ||A-4aJx,, ^(х,)) - ajx,, ^(х,)))\\ ^ (6.2.7) < М -I а mile {l+j)\\x, - x^W < Sfi-'{1 + ^)\\x, - x^ и 5/x"*(l-h7) < 1 в силу второго неравенства в (6.2.4). Таким образом, по принципу сжатых отображений (предложение 1.1.2) уравнение (6.2.7) имеет единственное решение, т. е. /^(graph у?) = graph ^. Далее покажем, что функция ф является липшицевой с константой Липшица 7- Положим ф(х1) = у[ и ф(х!^) = У2 и выберем (хр y^), (axj, 2^)€graph ip так, что для г = 1, 2 выполнены равенства
§ 6.2. УСТОЙЧИВЫЕ И НЕУСТОЙЧИВЫЕ МНОГООБРАЗИЯ 257 Тогда ^тЫ^)- ^(^l))^ Рш(^^ ^(^))-Рт(^1^ ^i^l))\\< < A7||2ij - xJI 4-5(14-7)||2ij - Xi (A7 + 5(l + 7))lk-xJ| (6.2.8) и 4 — X \ ^ ш(^ - ^x) ^ <^m{^^ Ч^{^))-<^Л^и ^{^x))\\> > /x||a^ - xJI - 8{\ 4- 7)||xj - xJI = (/X - 5(1 4- 7))lk - ^^ill- (6-2.9) Следовательно, 'II ^ A7 + ^(l+7) y^~y'x\\ ^ м-^(1 + 7У"^~^^11"- '^'ll^~^ill- Прямое вычисление показывает, что первое условие в (6.2.4) эквивалентно условию 7' < 7- Это значит, что отображение /^ действует на пространстве С^(К^). То же верно для С°(К^), поскольку /^(0) =0. П Чтобы в конечном счете применить принцип сжатых отображений, мы должны ввести метрику на пространстве С^(К^) и показать, что действие /^ является сжимающим отображением. Положим ||^(х)-7/;(х) с1((р,ф):= sup "^^ ^—^-^-^ X ДЛЯ уз, ^ € С°(К^). Поскольку у?(0) = -0(0) =0 и функции у? и т/? липшицевы, это определение корректно. Легко проверить, что эта метрика превращает С**(К^) в полное метрическое пространство. Следующая лемма показывает, что действие /^ на С^(К^), задаваемое формулой /^(fi'aph'^) = graph(/, является сжимающим отображением. Лемма 6.2.17. Для (р,фе С°(К^) выполнено неравенство Доказательство. Пусть (p* = (f^)^(p и ^' = ifm)*i^- Используя отображение G^, определенное формулой (6.2.6), й тот факт, что ф' € С°(К^), мы получаем < 11^' (G;(x)) - ф' {G-{x)) II + 11^' (G-(x)) - ф' {0-(х)) < < {BJ^ix)) + PJx,^(x))) - {В^(Ф(х)) + р^{х,ф{х))) 11 + + 7||G-(x)-G-(x < ^ ||Б^ (^(х) - ф(х)) II + 11/?^ (х, ifix)) - р^ (х, 7/;(х)) II + 4-7||о;т (2^)^(2^)) -с^ш {^у^(^)) < < Л|Ь(х) - ф(х)\\ 4- б\\<р(х) - 7/;(х)|| 4- 7^||'^(2^) - ^(2^)11 = {Х + 5{1 + у))Ых)-ф(х) С другой стороны. G^{x) 1|А^2:4-а^(х,<^(х))||^||А^х ^/х||х||-5(1+7) О^ш {^^ ^Р(^)) > X (м-5(1+7))||х 9 А. Б. Каток, Б. Хасселблат
258 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ < Следовательно, ии.У (G^C^)) - (и.Ф JG^i^)) 1Ь А + 5(1+7) \Мх)-ф{х„ ^ 0:(х)\\ ^ М-5(1+7)' Ы ^ Заметим, что A±|il±ll=,-.M±Mi^ (см. (6.2.3)). Обозначим через С^ пространство семейств {(РтУтеъ функций в С^(Е^). Действие / = {fm}m€z "^ пространстве С° вида /m(graph ipj = graph ((/.у?) называется преобразованием графиков. Предыдущая лемма показывает, что преобразование графика является сжимающим отображением в метрике ^ {{^гпУгпеЪ^ {ФшУгпеъ) '•= SUpd(¥P^,7/;^). Так как пространство С^ с этой метрикой полно, по принципу сжимающих отображений (предложение 1.1.2) существует единственная неподвижная точка / этого отображения, следовательно, существует инвариантное семейство графиков {у?^}, как и требуется. Замечание. Если Л < 1, рассматривая только функции у? € C°(R^), ограниченные константой 5/(1 — Л), и устанавливая инвариантность этого условия относительно действия /^, можно показать, что ||¥?;!;|Uo < ^/(1 ~~'^)- В этом случае первая оценка в доказательстве леммы 6.2.17 показывает, что преобразование графиков является сжимающим отображением в С°-то- пологии. Чтобы найти функции у?^, следует использовать ту же конструкцию. Используя оценки, полученные на этом шаге доказательства, с заменой 7 на 1/7, легко показать, что отображения Df^^ действуют на семействах 7-J^Hn- шицевых функций у?: R'^" ^ —► К^, обращающихся в нуль в начале координат, и являются сжимающими. В настоящий момент естественно доказать условие (ii), так как мы используем оценки (6.2.8) и (6.2.9). Заменив в (6.2.9) (xj, т/i) на (О, 0) и (Xgi У2) на (Xj (р^х), получим f^(x, ^i(x))\\ ^ \\А^х -h ajx, (^+(х))|| > > (М - 5(1 + у))\\х\\ ^ 1±^:-Ш±Л1\\(^:,^ ^;f (X с другой стороны, применяя (6.2.8) к точкам (0,0) и ((p^(y)j у) и используя тот факт, что функции (р:^ являются 7--'^ипшицевыми, мы получаем 11/^(^^(2/), У)\\ < (1 + 7)\\BJy) + РЛ<Р^{У), У)\\ < <(1+7)(А||у|| + 5(1 + 7)11у||) = (1 + 7)(А + 5(1+7))||(^-(у),У
§ 6.2. УСТОЙЧИВЫЕ И НЕУСТОЙЧИВЫЕ МНОГООБРАЗИЯ 259 ГУ". Чтобы доказать, что инвариантное семейство функций, полученное на предыдущем шаге, состоит из непрерывно дифференцируемых функций, введем понятие касательного множества к графику. Результат шага 2, а именно существование однозначно определенного инвариантного семейства непрерывных полей плоскостей, позволит нам заключить, что касательное множество к каждому из наших графиков представляет собой непрерывное поле плоскостей. Но это по определению означает, что данные графики являются графиками некоторых С'-функций. Определение 6.2.18. Пусть ipeC^{R^), х еЖ\ t^ip:={v € Т^К"| 3 такая последовательность {х„}„^р,, что lim х^ = х п —^ со й lim Д^ if = i;}. Тогда множество г^^:= U Kv, где lRi;:= {av\ a€lR} Прямая, содержащая v, называется касательным множеством к функции (f в точке X. Дизъюнктное объединение т(р:= [J т^(р называется касательным множеством к функции <р. ^ек" Заметим, что, поскольку в этом определении для каждого -и € К^ можно выбрать y = x-\-tv, т^(р проектируется на К^. Рассмотрим, например, функцию ip{x) = х sin(l/x) € C°(R), для которой Tq(p = {(х, у) е R^\ \у\ ^ |х|} = Щ. Действительно, для у? € C^(R^) а х еЖ^ всегда выполнено условие г^ у? С ЯJ, так как константа липшицевости функции (р равна 7- Другое важное наблюдение состоит в том, что функция ip € С^(К^) дифференцируема в точке х тогда й только тогда, когда Tj.(p является fc-мерной плоскостью. Теперь мы можем показать, что инвариантное семейство ^"^ = {^m}m€z^ полученное на шаге III, состоит из С*-функций. Рассмотрим соответствующее у?+ семейство тхр'^ := {'?Vm}m€z касательных множеств к функциям (р m € Z. Так как у?+ — инвариантное семейство функций для / = {fm}mezy соответствующее семейство касательных множеств тхр'^ инвариантно относительно действий дифференциалов Df^. На шаге II мы показали, что любое такое инвариантное семейство, содержащееся внутри 7-конусов, на самом деле содержится в однозначно определенном инвариантном семействе Е^ непрерывных полей плоскостей. Так как каждое касательное множество ГрУ?+ проектируется на Ж'', мы заключаем, что Tpip^ = {E^)^, т. е. у? (7*-функция. Гладкость функции (р^ доказывается аналогично. Тем самым доказательство (i) закончено. Осталось доказать, что выполняется условие (iii). Сразу после того, как мы сформулировали теорему, было отмечено, что можно предъявить многообразия {W^)p и (W^)^ для любой точки р = (х, у). При этом по-прежнему (^m)p = graph(¥?+)^ и (Wj)p = graph(¥?-)p для некоторых 7-липшйцевых функций (¥з+)р: Ж^ -^ К""^ и (уз;,)^,: К""^ -^ К^, а также выполнены свойства, аналогичные (i) и (а). Лемма 6.2.19. Для р, g € Е" пересечение iWJ^)^ П (W-\ состоит в точности из одной точки. Доказательство. Если ^ = (х, у) €(W^)^n(W^) , то х = (^-)Ду) ^ У = (^ш)Лх) *^' следовательно, х = {(p-)gO{ip+)(x). Из этого, в свою + m
260 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ очередь, следует, что [х, (^^)р{х)) е iW+)pn(W-)q. Но так как мы можем считать, что 7 < Ь отображение ((Pm)q^(^m)p- ^^ —^^^ является сжимающим й, следовательно, имеет единственную неподвижную точку. П Теперь возьмем р ^ (W~)q. По лемме 6.2.19 существует единственная точка q е {W-)Qn(W+)^. Используя (ii) для {W-)q й {W+)j^, мы видим, что \\fm^L-lO"'Of^{p)\\^ ^ (mO^IIp - g|| - (А')^1к!| = (мОМ lb - 9 Если X' <1/ < fjb' и Сек, это число оказывается больше чем С• и^\\р\\ для достаточно больших L € N. Это рассуждение и совершенно аналогичные соображения для (W^)o доказывают (iii) и, таким образом, единственность W^ и W^. Это завершает доказательство общей части теоремы Адамара — Перрона. V. Чтобы завершить доказательство теоремы 6.2.8, осталось только проверить, что в гиперболическом случае устойчивое и неустойчивое подмногообразия имеют такую же гладкость, как и диффеоморфизм. На самом деле мы докажем более сильное утверждение, а именно, что если в теореме 6.2.8 /х > 1, то семейство {W^}^^2^ состоит из многообразий, гладкость которых равна гладкости диффеоморфизма. Дифференциал Df^ имеет блочную форму I .а дй К где А"^ —такая (к х А:)-матрица, что 1 (А^)"*!! ^ 1/(/х - 6), А" — такая ((п - к) х {п - ^))-матрица, что ^Л-[-5, и ||>1^||<5, ЦА^! <6. Используя утверждения, полученные на предыдущих этапах доказательства, особенно лемму 6.2.16, мы можем получить многообразие WJ^^ взяв гладкую функцию ip^ е С^(К^) (например, у?^=0), применяя затем многократно преобразование графика для нахождения семейств {(р^} для г GN и, наконец, переходя к пределу при г —> оо. Покажем, используя индукцию, что последовательность (г 4- 1)-х производных функций (fj^ сходится при г —> оо при условии, что функция / является по крайней мере С'''*-гладкой. Для этого заметим, что D(p^ представляет собой график линейного отображения Е^ из пространства К^ в К""^, или, иными словами, образ отображения ( pi \ :R^ —>К". Заметим также, что образ D(p^ под действием Df^ представляет собой образ линейного отображения а:;\{ I \_{а::+а':е^ т ' mm Если, имея в виду (6.2.6), мы положим д^:= (GJ? ')~\ то это выражение должно совпасть с образом ( r^i + i ^/ i \-\ ), который, в свою очередь \^т+\^\9т+\) I совпадает с образом отображения AZ^AZE^ т + '.°(5;.1)-')ИГ + ^:Ю
§ 6.2. УСТОЙЧИВЫЕ И НЕУСТОЙЧИВЫЕ МНОГООБРАЗИЯ 261 так что Примен5м теперь отображение fl^^ + i и дифференцируя результат г раз, мы получим где Cm + i i + i —полином от производных Е^Х\ ^ ^т более низкого порядка H'<^,,,^,:=[(Aroff4 + .) + (^~off4+.)(^m°ff;L+.)]-'- Полагая <i: = (^"-1 ° ffm"') - -£^m(^m-. ° ff^"')- мы получаем + «;:.i(c„-M-.°ffr')(^ffr'r«;;i + c • • • Применяя эту выкладку индуктивно, мы получйм выражение для D^'E^ с первым членом, содержащим П''Е^_^ между г-кратными произведениями членов вида c^^-i^i-i и произведением членов вида а^ _ i ^ _ ^ и г вхождений (Dg^~_\~ *)®''. Этот член сходится к нулю равномерно при г —юо: ||D''£?^_^|| равномерно ограничено в силу выбора ^m-i ^ ll'^m-i.i-illll'^m-i.i-J <^ 1 рзвномерно, если S выбрано достаточно малым. Наконец, из условия /х ^ 1 следует, что домножение на {Dgi^^f^)®'' ие приводит к появлению экспоненциального роста нормы старшего члена. Аналогично у-е из оставшихся г слагаемых в выражении для D^'E^ получается путем домножения Cm->-i,x-y-i с-^^в^ и справа соответственно на У-кратное произведение выражений OL^_^i_i и о;^_(^^_п а также на j членов вида (Dg^'Jf^)®''- Как и прежде, эти члены будут стремиться к нулю равномерно при У —> оо при наличии равномерной ограниченности величин Cm-i-i,i-y-H ^^*^' однако, включают только производные Е/" более низкого порядка, равномерно ограниченные по предположению индукции, так же как и производные коэффициентов Df порядков не выше г, которые ограничены, так как f еС'^К Следовательно, эти остаюш;иеся члены оцениваются частичными суммами экспоненциально сходящегося ряда. Мы уже знаем, что производные Е^ более низкого порядка сходятся при i —► оо, и, таким образом, предел последовательности Е^ принадлежит классу С, что и требовалось доказать. Заметим, что многообразия (W^)^ и (W^)^ для peW* зависят от р непре- рьюно: почти непосредственным следствием пункта (Ш) теоремы 6.2.8 является следующее предложение. Предложение 6.2.20. Если p^ -> р € Е" при ? -> оо, у^е (W^)^,^ для всех I eN и Vi -^ у eW при ? -> оо, то у е {W+)p.
262 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ Доказательство. Выберем L € N. Тогда из пункта (И) теоремы 6.2.8 следует, что для г/ < /х' и всех ? € N выполнено неравенство \\fZ-L о • • • о f-l,{y^) - f~l^ о > • • о f-l,(p,)\\ ^ u-'^Wv, - р, В силу непрерывности /_ мы можем заключить, что ll/;;U^---^/n;*-i(y)-/^Uo---o/-L,(p)Ki^-^l|y-p ) й, так как число L было выбрано произвольным, наше утверждение следует из (Ш). а Поскольку для любого данного компактного множества предположение о сходимости ^/^ является излишним (можно перейти к подпоследовательности), это означает, что (W^) —> (W^)^ при p^ ~^ Р- Сходимость здесь понимается в поточечном смысле. Так как отображение Е^ непрерывно, отсюда следует непрерывность многообразий W^ вместе с их касательными пространствами. Те же соображения применимы к многообразиям W^. Другое интересное замечание состоит в том, что мы фактически получаем непрерывную зависимость многообразий W'^ и W" от семейства отображений /^. Так как главным ингредиентом доказательства теоремы Адамара — Перрона 6.2.8 было получение инвариантных многообразий и их касательных распределений как неподвижных точек сжимающего оператора, построенного по семейству /^, мы можем с помощью предложения 1.1.5 показать, что инвариантные многообразия зависят непрерывно в С'-топологии от семейства диффеоморфизмов. Предложение 6.2.21. Инвариантные многообразия (с С' -топологией), существование которых устанавливает теорема Адамара — Перрона 6.2.8, непрерывно зависят от семейства Д, в С'-топологии, определенной следующим образом: семейства {f^}„^^^ и {ЯтУтел считаются С-близки- ми, если sup d(^i{fjnj 9т) — малая величина. m В следующем параграфе нам понадобится такое следствие. Следствие 6.2.22. Если p^ —>р бК" при I -^ оо и q еШ"'^ то последовательность Vi вида (W^)p ri{W~)q ={2/z} сходится к точке у, где {2/} = (W+),n(T^-),. Это следует из предложения 6.2.21 и леммы 6.2.19, так как у^ содержатся в компактном множестве, поскольку (W^)^ —липшицевы графики. Предупреждение. Построение и описание многообразий (W^)^ и (W^)p, отличных от (W^)q и (W',;;;)o) зависит от поведения точек, орбиты которых покидают окрестность начала координат. Следовательно, они зависят от выбора продолжения по лемме 6.2.7 и не могут быть определены с помощью информации о поведении точек в окрестности начальной орбиты на многообразии. В § 6.4 будет приведено следствие теоремы Адамара — Перрона 6.2.8, приспособленное к изучению отображений на многообразиях (теорема 6.4.9). 6,2 д. Л -лемма. Из результатов и оценок, полученных в процессе доказательства теоремы 6.2.8, немедленно следует утверждение, которое будет
§ 6.2. УСТОЙЧИВЫЕ И НЕУСТОЙЧИВЫЕ МНОГООБРАЗИЯ 263 использоваться в § 6.5, — так называемая Л-лемма. Эта лемма утверждает, что последовательные образы диска, трансверсального к устойчивому многообразию гиперболической неподвижной точки, сходятся (в С*-топологии) к неустойчивому многообразию этой точки. Чтобы установить этот результат, удобно использовать подходящие координаты, как в теореме 6.2.3, и обозначить через тгр И* ШШ""*> —j-lR* проекцию на первую координату. Предложение 6.2.23 (Л -лемма). Полагая, что выполнены условия теоремы 6.2.3, рассмотрим подходящие С -координаты в окрестности О гиперболической неподвижной точки р отображения /: U ^ М. Для данных чисел е,К,7]>0 существует такое iV € N, что если V — C^ -диск, содержащий точку q 6 W^ пО, со всеми касательными пространствами в горизонтальных К -конусах и такой, что ^(D) содержит 7]-шар с центром в точке ОeR^е{0}, un^N, то ^(P(T>)) = W^+nO и TJ^'iV) содержится в горизонтальном е-конусе для каждого z €/"(!>). Доказательство. Поскольку множества К* Ш{0} и {0}sR"~* являются /-инвариантными, а функция / — С^-гладкой, дифференциал / в точках (х, у)еШ фК""* имеет вид DI {^У) 1 где i«i\—1 II (AD < 1 А А AT А^ А^ = о(||у||), o(||ic||)- Здесь Л, /X, Л < 1 < /X, — скорости сжатия и растяжения, как и выше. Число S может быть сделано произвольно малым путем уменьшения, в случае необходимости, окрестности О (и замены диска Т> его образом под действием некоторой итерации /", так чтобы Т> пересекал локальное устойчивое подалногообразие точки р в точке из О). Аналогично тому, как это делалось при доказательстве гладкости устойчивого и неустойчивого многообразий, удобно рассматривать плоскости в горизонтальных 7-конусах как графики линейных отображений, операторная норма которых (обозначаемая [| • ||) не превосходит 7- Уменьшая, если нужно, диск D, мы можем считать, что 1>П({0}шК""*) = {-г} состоит из одной точки. Тогда наш первый шаг состоит в демонстрации того, что Т^ /"(2)) содержится в горизонтальном (е/2)-ко- нусе для некоторого п € N, где z. = f*{z). Для этого рассмотрим линейное отображение Е/. R* —>R п-к образ линейного отображения где Е" II ^К. Его график параметризован как I Е. Ж Е^еЕ п~к ) где J: К* —»• К* — тождественное отображение. Ясно, что образ этого графика под действием Df^ представляется как образ линейного отображения Df,o I Е. Е' Е^еЕ п-к
264 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ В наших координатах эта композиция представляется произведением матриц ^" ^- ^ ^ ^ ■ ^-— '^ (62.10) где в нашем случае А^ =0. Так как матрица А^\ К* —j-К* UU А ЛИ г: зл Z Е. невырождена, образ J совпадает с образом А"^ 4-А"Д Af АГ"ЧА^£?,А бой график линейного отображения UU —1 Z . Другими словами, Df^{TJ)) представляет со- Е^ = АГ(АГ)-* 4-А:'^,(АГ)^^ Заметим, что Е, 1^ и ПО индукции м 5 4- Л4-5 М 5 1|Я п-1 ив Поскольку IIА^ для п> N одновременно (м-5) о(||у.-|!). где 2; {^{^У{)у существует такое JV € N, что п- 1 Е (Л 4-5) n-i-i (м-5)"- А ив Z, < 6 1 < 6 Если, кроме того, iV' G N таково, что N- 1 Е 1=0 <|. то для п ^ JV 4- JV' =: iVo мы имеем ЦЕ"^ || < е/2. Увеличив (если нужно) Nq^ мы можем считать, что Л^Л<(1 Х~5)е при II(х, у)II ^ ll^jY II. Следовательно, опять уменьшая, если нужно, диск V, можно считать, что все касательные плоскости к f^^'^D) находятся в горизонтальных е-конусах и что ||А^|| < (1 - Л - 5)е для z е \J /*(^)- Есл^ OJVo е достаточно мало, то ||(А^ 4-А™Е')~^|| < 1 при ||^|| < е. При таком выборе параметров действие / сохраняет горизонтальные е-конусы, потому что если Е^ <е, то согласно (6.2.10) \\Е. +1 не превосходит ||(А- + а^^е,)(а:^ + А-Е,х' II ^ ИГ + ^"^Jl UK + К^',) -1 < < IIA^^II 4- WAl'^E,^ I! < (1 - Л - 5)£ 4- (А 4- 5)s = е. Наконец, заметим, что из доказательства леммы 6.2.16 следует, что образ /"(Х>) покрывает проекцию tTj многообразия И^ос(Р) Д^я достаточно больших п. П
§ 6.3. ЛОКАЛЬНАЯ УСТОЙЧИВОСТЬ ГИПЕРБОЛИЧЕСКИХ ТОЧЕК 265 Упражнения 6.2.1. Сформулируйте следствие теоремы 6.2.8 об устойчивом и неустойчивом многообразиях для случая произвольной (негиперболической) неподвижной точки, обобщающее теорему 6.2.3. 6.2.2. Покажите, что в окрестности не гиперболической неподвижной точки существует инвариантное С*-многообразие, касательное к пространству Е^^ определенному формулой (1.2.6). 6.2.3. Пусть / является отображением за единицу времени для векторного поля v = = {—Xj —у^). Ось X инвариантна относительно /. Покажите, что 1) орбиты точки V, не лежащие на оси у, являются графиками функций, все производные которых обращаются в нуль в точке 0; 2) существует /-инвариантное С°°-многообразие, касательное к оси х, но отличное от нее, которое пересекает ось х в бесконечно большом числе точек, накапливающихся к началу координат. 6.2.4. Докажите, что локально устойчивое и неустойчивое многообразия в окрестности гиперболической неподвижной точки симплектического диффеоморфизма являются лагранже- выми (определение 5.5.7). Обобщите это утверждение на случай не гиперболической неподвижной точки симплектического диффеоморфизма. 6.2.5. Докажите два аналога теоремы 6.2.3 для потоков: 1) в окрестности гиперболической неподвижной точки; 2) в окрестности гиперболической периодической орбиты. § 6.3. Локальная устойчивость гиперболических периодических точек 6.3 а. Теорема Хартмана — Гробмана. Из результатов предыдущего параграфа следует, что при наличии гиперболичности локальный анализ является очень мощным инструментом. Теорема Хартмана — Гробмана показывает, что динамика гиперболического отображения во многих отношениях подобна динамике его линейной части. В следующем параграфе этот результат будет использоваться для целей глобального и полулокального анализа. Сейчас же мы несколько отвлечемся и докажем локальный результат о том, что вблизи гиперболической неподвижной точки отображение топологически сопряжено своей линейной части [*]. Теорема 6.3.1 (теорема Хартмана — Гробмана). Пусть множество UcW открыто^ отображение f: (7—^R" непрерывно дифференцируемо и О eU —гиперболическая неподвижная точка /. Тогда существуют такие окрестности ^^р^^г»^»^ точки О и такой гомеоморфизм h\ L^i и C/g —^ Т^ и Т^, что f = h'^ оD/qoh на U^, т. е. следующая диаграмма коммутативна: /: Щ > Щ ^/о- Уг ^ V^ 2 Мы увидим, что топологические свойства / вблизи О вполне определя ются ориентацией / на устойчивом и неустойчивом многообразиях и раз мерностями этих многообразий.
266 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГРШЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ Доказательство. Сначала разовьем некоторые результаты предыдущего параграфа. По теореме Адамара — Перрона для отображений /^: W —j- W существуют многообразия W^(p) и W^{p) при всех р €К"*. Если начальная орбита, в окрестности которой мы работаем, является гиперболической неподвижной точкой, то естественно рассматривать единственное отображение /: К"—)-К", переходя к некоторым координатам в окрестности нашей неподвижной точки. В этом случае конструкция устойчивого и неустойчивого многообразий дает для каждой точки р eW в точности одно устойчивое и одно неустойчивое многообразие вместо счетного семейства. Это следует из того факта, что многообразия H^^^i(/(p)) и / {W^{p)) характеризуются одним и тем же способом (Ш) в теореме 6.2.8 (и то же самое верно для W~). Рассмотрим точку реМ."^. Пересечение W~{p)nW'^(0) состоит из единственной точки (х, (р'^(х)), а W'^(p)nW~(0)—из единственной точки (^"(у)) у) 1 следовательно, {р} = W^ [(р~(у), у) п W~ (х, у?+(х)). Точка р, таким образом, определяется однозначно выбором х и у. Поэтому мы можем, опираясь на эту конструкцию, ввести новые координаты {х(р), у(р)). По следствию 6.2.22 эта замена координат непрерывна. Эти координаты являются подходящими для / в том смысле, что в них мы можем представить / в виде f{x,y) = {f,{x)J,(y)), потому что по построению /(хр у^) и /(хр i^) имеют одну и ту же координату X, а /(xj, T/i) и /(xg, T/i) имеют одну и ту же координату у для всех 2^1) ^) Уп ^ 2/2- ^ ^'^^^ координатах /^ и /g являются С*-гладкими, поскольку /i(x) есть не что иное, как координата х точки / (х, (р'^(х)), а /2(2/) — координата у точки / {<р~(у)^ у). Заметим, что, кроме того, /f* и /g являются сжимающими отображениями, которые по лемме о продолжении 6.2.7 можно считать С*-близкими к их линейным частям (X>/f*)o и (1^/2)0- Лемма 6.3.2. С* -возмущение f обратимого линейного сжимающего отображения L: К"* —j- К"* топологически сопряжено с L. Теорема Хартмана — Гробмана следует из этой леммы, так как она обеспечивает существование таких гомеоморфизмов /ij и /i25 "^^о /ij о /j" = (D/f*)o о/ij и ^ о/г = (-D/a)» о/ig и, следовательно, их декартово произведение /i =(/ij, /ig)) (^) У)*-^ (^i(^)i ^(2/)) сопрягает / с D/q, поскольку ho f = DJq о h. в заключение отметим, что отображение /; К" —► К", полученное из отображения /: С/ —>• К" из нашей теоремы, совпадает с /: С/ —»■ К" в некоторой окрестности начала координат в силу леммы о продолжении 6.2.7. Таким образом, если доказать лемму 6.3.2, теорема Хартмана— Гробмана 6.3.1 будет доказана. D Доказательство леммы 6.3.2. Чтобы построить нужный нам гомеоморфизм h: К"*—s-E"*, мы будем использовать метод фундаментальной области (см. п. 2.7 а), который впервые в этой книге использовался в одномерной ситуации в п. 2.1 в. На единичной сфере S в К"* положим 1г^:= h\^:= Id. Для того, чтобы выполнялось условие h о f = L о h, мы должны положить hi:= к\^^:= L о f~K Далее покажем, что если В обозначает замкнутый единичный шар, то существует такой гомеоморфизм h': B\lntf(B) —► Б\1п1(1.Б), что h'\s = hQ и к'\^^ = h^. Имея этот гомеоморфизм, мы получим наше сопряжение следующим образом: для х € К"*\{0} -1
§ 6.3. ЛОКАЛЬНАЯ УСТОЙЧРЩОСТЬ ГИПЕРБОЛИЧЕСКИХ ТОЧЕК 267 существует единственное такое число fc(x)€Z, что хе. f^^'^(B\f(B))j и мы можем, таким образом, определить Чтобы построить h\ мы сначала отождествим Aj := Б\1п1/(Б) и ^2".= := B\lni{LB) с 5х[0,1]. Заметим, что для Аа любой луч itvt >0}, проходящий через i; GR"*, пересекает S в единственной точке v/IJi; |. Применяя отображение L, мы видим, что тотже луч {ti;| t '^0} = L {tL~^v\ t '^0} пересекает LS в единственной точке L I ..^_,^„ I. Таким образом, для каждой точки V e S существует единственный радиальный отрезок, соединяющий ее с точкой на L5. Параметризуя каждый из этих отрезков так, чтобы движение по нему совершалось с единичной скоростью, мы получим гомеоморфизм А^: 5 X [О, 1] —► Аа, переводящий пару v € 5 и t € [О, 1] в результат перемещения точки v за время t вдоль соответствующего ей отрезка. Чтобы иметь возможность применить ту же конструкцию к Aj, мы должны показать, что каждый радиальный луч пересекает /(5) в точности в одной точке. Заметим, что норма вектора, соответствующего точке параметризованной кривой (L~Hv) = tL'^v, возрастает со скоростью ||L"^i;[|>0. Поскольку f'\L{L'4v))—малое С*-возмущение этой кривой, норма соответствующего вектора также является возрастающей функцией переменной t и, следовательно, существует единственная точка пересечения этой кривой с S. Иными словами, кривая tv = f(f'^(L L~4v)) пересекает /(5) в точности в одной точке. Таким образом, описанная процедура задает гомеоморфизм Если мы выберем к^ и к^ таким образом, что к.{',0) = Ы^, и положим ^i-= ^il5x{i}> то в этих координатах можно представить Hq и h^ в виде /i^ = Id^^^Qj и /if = ^2 oL о/-* о fcj в 5 X {1} соответственно. Эти отображения, очевидно, порождают гомеоморфизмы h^ и h^ сферы 5, где Hq = Id^ и h^ близко к Id^. Следовательно, отображение /i(x, t):= ( ,..j-\{—/1 ~ \1г / \ip * 1 является гомеоморфизмом S х [О, 1], |t*nQ(a;) + (1 — t)nj(a;)|j совпадающим с Ь^и h{ на компонентах границы, и потому /i':= к2оЪок{~^ осуществляет требуемое сопряжение. D 6.3 б. Локальная структурная устойчивость. Лемма 6.3.3. Два обратимых линейных сжимающих отображения с одинаковой ориентацией топологически сопряжены. Доказательство. Как и в доказательстве леммы 6.3.2, мы можем перейти к стандартной параметризации фундаментальной области с помощью 5 х[0, 1]. Проблема состоит в том, чтобы показать, что сохраняющее ориентацию линейное отображение L гомотопно тождественному. При отсутствия вещественных отрицательных собственных значений отображение tL-\-(l — t)ld невырождено для всех t € [О, 1] и, таким образом, задает требуемую гомотопию. Если имеются отрицательные собственные значения, то в силу предположения об ориентации их четное число, и соответствующее
268 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ корневое подпространство может быть представлено как произведение копий К^. Если Е"^ — корневое подпространство для остающихся собственных значений, то для t € [О, 1] отображения л, = Id X ( <^°f * ''"t |х.--х( <^°f* ^'"П Ha£;,xR=x...xr Sin t задают гомотопию R^L между L и линейным отображением L' без отрицательных собственных значений. Вышеизложенные соображения теперь применимы к L'. П Следствие 6.3.4. Предположим, что отображения /: U —^ К", д: У —J- К" имеют гиперболические неподвижные точки р е U и qeV соответственно, dimE'^(Df) = dimE'^{Dgq), dimE~(Dfp) = = dim E-{Dg^), sign det D/^l^-.^^j^^j =sign cfet i^fl^Js^dj^^) и sign det Df^\^.^j^^^^ = = signdet£>5g|£..(^^j. Тогда существуют такие окрестности U^CU и ViCV и такой гомеоморфизм h: Ui-^V^, что hof = goh. Это утверждение следует из леммы 6.3.3, поскольку fag локально сопряжены со своими линейными частями по теореме Хартмана — Гробмана и их линейные части сопряжены согласно этой лемме. В частности, любой С*-диффеоморфизм локально структурно устойчив в окрестности гиперболической неподвижной точки. Предложение 7.3.1 показывает, что обратное тоже верно: для наличия локальной структурной устойчивости необходима гиперболичность неподвижной точки. Упражнение 6.3.1. Пусть /: R" ->• R" — сохраняющий ориентацию сжимающий С*-диффеоморфизм. Докажите, что ои топологически сопряжен с линейным отображением жь-^ х/2. § 6.4. Гиперболические множества 6.4 а. Определение и инвариантные конусы. 6 § 6.2 мы сконцентрировали наше внимание на анализе поведения орбит, связанных с некоторой начальной орбитой, рассматривая линеаризованное отображение вдоль этой орбиты как модель. Однако, как мы уже упоминали, интересные качественные явления возникают, когда в рамках глобального или полулокального анализа локальная гиперболичность сочетается с наличием нетривиального возвращения; последнее же — существенно нелинейное явление. Пусть М — гладкое многообразие, U С М — открытое подмножество, /: и -^М — С ^-диффеоморфизм на свой образ и Л С ?7 — некоторое компактное /-инвариантное подмножество. Определение 6.4.1. Множество Л называется гиперболическим множеством отображения /, если в открытой окрестности U множества Л существует риманова метрика, называемая метрикой Ляпунова, и такие числа Л, /X, Л < 1 < /X, что для любой точки х € Л последовательность дифференциалов {Df)f.\ ЪпМ-^ T.„+iM, neZ, допускает (Л, /х)-разложение. Мы будем обычно обозначать гиперболическое разложение в точке х G Л через Е^®Е~. В упражнениях 6.4.1 и 6.4.2 приводится эквивалентное
§ 6.4. ГИПЕРБОЛИЧЕСКИЕ МНОЖЕСТВА 269 определение гиперболического множества, которое не зависит от выбора римановой метрики. Определение 6.4.2. С ^-диффеоморфизм f:M-^M компактного многообразия М называется диффеоморфизмом Аносова, если М — гиперболическое множество для /. Самый простой пример гиперболического множества — гиперболическая периодическая орбита. Гиперболический автоморфизм i^ двумерного тора Р'ь(^,У) = (^х-\-у.^-\-у) (mod 1) {L = ( i I j), рассматриваемый в § 1.8, пп. 2.5 г, § 2.6, п. 3.2 д, 4.2 г и 4.4 г, является диффеоморфизмом Аносова. В этом случае стандартная евклидова метрика на Т^ оказывается метрикой Ляпунова. Числа Л = ~ ^ , fj, = -^Ь— являются собственными значениями матрицы if f ), и гиперболическое разложение в каждой точке получается путем переноса в эту точку собственных пространств данной матрицы (см. § 1.8). Вообще, любой гиперболический автоморфизм п-мерного тора, определенный в конце § 1.8, является диффеоморфизмом Аносова. В этом случае мы можем с помощью предложения 1.2.2 найти евклидову норму в К", в которой матрица L становится сжимающим отображением в пространстве Е''{Ь) и растягивающим в E^{L) (см. (1.2.4) и (1.2.5)), спроектировать риманову метрику, порожденную этой нормой, на Т" и рассмотреть инвариантное разложение в каждой точке на подпространства, параллельные £J+(L) и E'(L). Можно взять Л = г [Ь]^-^^^^) 4-5, /х = г [Ь'^\^^^^^^У -\- 5 для достаточно малого S >0. Диффеоморфизмы Аносова довольно редки. Гораздо чаще встречаются гиперболические множества, не являющиеся многообразиями. Прототипом такого множества является «подкова», описанная в п. 2.5 в. В этом случае можно использовать евклидову норму, Л = 1/2, /х =2 и разложение на горизонтальное и вертикальное направления как гиперболическое разбиение. Дальнейшие примеры гиперболических множеств и систем Аносова рассматриваются в § 6.5 и в гл, 17. Распространение понятия гиперболического множества на необратимые системы представляет любопытную проблему. В то время как сжимающаяся часть Е^ гиперболического разложения определяется поведением вдоль положительной полуорбиты точки х и в этом случае легко может быть определена, определение растягивающейся части Е^ требует рассмотрения отрицательной полуорбиты х, которая определена неоднозначно для необратимых отображений. Это делает общее понятие гиперболичности менее удобным, и потому мы не будем его вводить. Однако существует специальный случай, когда неоднозначность в выборе растягивающейся части отсутствует, а именно когда сжимающаяся часть отсутствует вовсе и, следовательно, растягивающаяся часть представляет собой все касательное пространство. Мы уже рассматривали растягивающие отображения в п. 2.4 а (см. определение 2.4.1). Такие отображения встречаются довольно редко, как и диффеоморфизмы Аносова, представляющие собой их обратимый аналог. Более общее понятие, подобное гиперболическим множествам для обратимых отображений, описывается в следующем определении.
270 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ Определение 6.4.3. Пусть Л является компактным множеством, инвариантным относительно С*-отображения /: U -^М. Тогда Л называется гиперболическим отталкивающим множеством^ если существует такая риманова метрика в окрестности множества Л, что для всех точек хбЛ выполнено неравенство ||(1^/|а:)'*|| < 1. Очевидно, для растягивающих отображений все многообразие является гиперболическим отталкивающим множеством. Инвариантные множества Л квадратичных отображений, описанных в п. 2.5 б, представляют собой примеры канторовых множеств, являющихся гиперболическими отталкивающими множествами. Мы встретимся с другими примерами гиперболических отталкивающих множеств в §§ 16.1, 16.2 и 17.8. Сейчас же вернемся к обратимым отображениям. Следующий факт является близким аналогом леммы 6.2.15. Предложение 6.4.4. Пусть Л — гиперболическое множество отображения f:U-^ М. Размерности подпространств Е^ и Е^ локально постоянны, и эти подпространства изменяются непрерывно с изменением х. Доказательство. Пусть dim М = s. Как следует из определения 6.4.1, для любых хбЛ, ^€£?~ и п^О выполнены неравенства ^/;еи Allien, (6.4.1) и эти неравенства характеризуют подпространство Е^. Пусть х^ -^ х. Переходя, если нужно, к подпоследовательности, мы можем считать, что dim Е^^" — const =: к и что можно выбрать ортонормированные базисы (^т\ • • •? ^т') в каждом подпространстве Е^ так, что ^^^ —j- ^**' € Т^М, г = 1,..., fc. С использованием непрерывности отображения Df из неравенств (6.4.1) для ^ = ^^' можно заметить, что Таким образом, ^**' € Е^, dim Е^"^ к и Е~ Э Ит Е^ . Аналогично, векторы 7] € Е^ характеризуются неравенствами т—>оо я* ll^/x""^ll<M~1h для всех п ^ О, и повторение предыдущих соображений дает Е^ D Ит Е^ т—»оо И dim £^+ ^ S - fc. Из этого следует, что Е^ = lim Е~, Е^ — Ит Е^. D т—*оо ™ т—»оо "• Следствие 6.4.5. Подпространства Е^ и Е^ являются равномерно транс ее реальными, т. е. существует такое ад > О, что для любых X 6 Л, ^ € Е~, 7] € Е.^ угол между ^ wq не меньше чем а^. Доказательство. Пусть а(х) — минимальный угол между ^ € Е^ и 7]еЕ^. Поскольку Е^ П Е^ = {0}, мы имеем а(х)>0. По предложению 6.4.4 а(х) является непрерывной функцией на Л. Следовательно, она достигает положительного минимума ад. D Очевидно, каждое замкнутое инвариантное подмножество гиперболического множества / также является гиперболическим множеством. Оказывается, иногда можно погрузить данное гиперболическое множество в большее.
§ 6.4. ГИПЕРБОЛИЧЕСКИЕ МНОЖЕСТВА 271 Предложение 6.4.6. Пусть Л — гиперболическое множество отображения /: U ^^ М. Тогда существует такая открытая окрест- ностъ УЗ Л, что для любого д, достаточно близкого к f в С^ -топологии, инвариантное множество K^y= С\ g^V является гиперболическим. Замечание. Очевидно, Л{^ D Л. В ряде случаев (например, для гиперболической периодической орбиты или для «подковы») Л^ =Л, если V — достаточно малая окрестность Л. Для g^^f мы не доказали еще, однако, что Лу непусто. Этот вопрос будет обсуждаться позже (см. теорему 18.2.1). Доказательство. Расширим инвариантное гиперболическое разложение Т^М = Е^фЕ^, определенное для х € Л, до непрерывного (вообще говоря, уже не инвариантного^ разложения, определенного для всех X из открытой окрестности "Ц D А. Зафиксируем достаточно малое у > > О и рассмотрим семейство стандартных горизонтальных конусов HJ = = {^ 4- ^1 ^ € EJ'j 7} € Е^, \\7}\\ < 7||^ If} и семейство вертикальных конусов VJ, определенное аналогично. Для X € Л из наличия (Л, /х)-разложения следует, что Df^HJ С Н'^-'\ Df^' у; с Щ-^-'\ (6.4.2) ^ЛеИ ^ r^ll^ll ^^ ^ ^ ^^'' ll^-^-'^ll ^ (1 +7)А-^||77|| для 77 € к 7 X Таким образом, если зафиксировать произвольное 5 > О, по непрерывности Dj, Df'^ и расширенного разложения можно найти такую открытую окрестность У эЛ, что для любого xeV условия вида (6.4.2) с заменой Л на X -\- 5 и/хна/х—5 выполнены не только для /, но для любого д, достаточно близкого к к / в С*-топологии. Это означает, что для любой точки X eA^y посылки предложения 6.2.12 удовлетворены с Л' = (1 -h 7)('^ + ^)i fj,' = {fj,- 6)/(l -Ь 7), L^ = Dg^^, 7^ = 7^ = у. Следовательно, последовательность дифференциалов Dg^m допускает (Л', /х')-разложение. Если j и 5 достаточно малы, то Л' < 1 < /х', так что Лу —гиперболическое множество. D Следствие 6.4.7. Любое достаточно малое С * -возмущение диффеоморфизма Аносова является диффеоморфизмом Аносова. Помимо использования при доказательстве предложения 6.4.6 критерий инвариантности конусов (предложение 6.2.12) может применяться более непосредственно, обеспечивая удобное описание гиперболичности. Следующее утверждение представляет собой переформулировку критерия конусов (следствие 6.2.13) для настоящей ситуации. Следствие 6.4.8. Компактное f-инвариантное множество Л является гиперболическим, если существуют такие числа Л, /х, Л < 1 < /х, что для каждого х € Л имеются разложение Т^М = 5^. ф 7^ (вообще говоря, не инвариантное относительно Df), семейство горизонтальных конусов Н^Э S^ и семейство вертикальных конусов V^D Т^^ связанных с этим разложением^ для которых выполнены условия ШМ\ ^ мИеИ для ^еН^и \\Df^~'^\\ ^ A-^lieil для е е T^^(,j.
272 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ 6.4 б. Устойчивые и неустойчивые многообразия. В этом пункте мы покажем, как применить теорему Адамара — Перрона 6.2.8 для гиперболических множеств. Для этого необходимо описать некоторую процедуру локализации, т. е. удобный способ выбора системы координат вблизи каждой точки многообразия. Для каждого xsA зафиксируем такую систему координат в касательном пространстве Т^М, что разложение Е;^ ф Е~ отождествляется со стандартным разложением М" = Й* ф М"" * и риманова метрика на Т^М становится стандартной евклидовой метрикой в М". Зафиксируем достаточно малое е > О и обозначим через D^ произведение е-шаров с центрами в начале координат в М* и в М"~*. Теперь используем экспоненциальное отображение (см. (9.5.1)) ехр^.: Д —>М. В силу компактности Л мы можем выбрать е таким, что отображение ехр^. будет инъективным для каждого х 6 Л и, следовательно, будет диффеоморфизмом множества Д и некоторой окрестности Р^(х) точки х в М. Соответственно мы можем определить семейство отображений Д ^ = exp^j о/ о ехр^.: Д —> М". Свойства экспоненциального отображения, в частности тот факт, что его дифференциал в начале координат является тождественным отображением, и гладкость зависимости ехр^ от х, гарантируют, что для достаточно малого е:>0 каждое отображение Д^ С^-близко к своему дифференциалу в начале координат, который просто представляет собой дифференциал (Df)^i выраженный в наших координатах. Тогда, используя лемму о продолжении 6.2.7, можно продолжить отображения Д^ для некоторого е^ке на все пространство М". Обозначим продолженные отображения просто через Д. Таким образом, вдоль каждой орбиты {/"*(a^)}m€Z лл^ х 6 Л мы получаем последовательность отображений fn = fr{xy Й"—*1К") удовлетворяющих условиям теоремы 6.2.8. В частности, еще раз уменьшая е до некоторого eg» мы можем сделать число 5, входящее в формулировку этой теоремы, произвольно малым. Переформулировка утверждения этой теоремы в терминах первоначального отображения / дает следующий результат, который обычно называется теоремой об устойчивых и неустойчивых многообразиях для гиперболических множеств. Теорема 6.4.9. Пусть Л — такое гиперболическое множество С^-диффеоморфизма f: V—>М, что дифференциал Df на Л допускает (X, pi)-разложение с X < I < рь. Тогда для каждого х е А имеется пара таких вложенных С^-дисков W*(x), W**(x), называемых локальным устойчивым многообразием и локальным неустойчивым многообразием точки X соответственно, что (2) fiW'ix)) с W'ifix)), f-'iW^x)) С Wif-'ix)); (3) для каждого 5 > О существует такое С(6), что для п б N dist(/"(x), Пу)) < С{6){Х + 5)" dist(x, у), у € W{x), dist(/-"(x), /-"(2/)) < С(5)(м - 5)-" dist(x, у), у € Wix); (4) существуют такое /3 > О ц такое семейство окрестностей О^, содержащих шар с центром в точке xsA радиуса /3, что W'{x) = {у\ Пу) € 0^„,„, п = о, 1, 2,...}, Р7"(х) = {2/|/-"(2/)бО^-.,„, п = 0,1,2,...}.
§ 6.4. ГИПЕРБОЛИЧЕСКИЕ МНОЖЕСТВА 273 Замечание. Локальные устойчивые и неустойчивые многообразия определены неоднозначно, и, вообще говоря, нет никакого канонического в том или ином смысле способа выбирать их. Однако, как немедленно следует из пунктов (3) и (4) этой теоремы, для любых двух локальных устойчивых многообразий, скажем, W'(x) и W2(x), удовлетворяющих заключению теоремы, их пересечение содержит открытую окрестность точки х в каждом из них. Иными словами, можно сказать, что для некоторого п ^ О выполнены условия Г(И^1Ч/~"(2^))) сИ^г' и PiW^'(f-"Чх))) С W,\ Более того, такое число п может быть выбрано одним и тем же для всех xsA. То же, конечно, верно и для локальных неустойчивых многообразий с заменой п на —п. Этот факт также означает, что глобальные устойчивое и неустойчивое многообразия w'{x)^ и ГЧ^ЧП^))). w^x)= и riw^f'Hx))) (6.4.3) п=0 п=0 определяются независимо от выбора локальных устойчивых и неустойчивых многообразий и могут быть следующим образом охарактеризованы топологически: W^4^) = {У^Щ dist(r(x), Г (у)) ^0, п ^ оо}, ЦГЦх) = {уеи\ dist(/-"(x), /-"(2/)) ^0, п ^ оо}. Следствие 6.4.10. Ограничение диффеоморфизма на гиперболическое множество является разделяющим отображением (см. определение 3.2.11). Доказательство. Если dist(/"(x),/"(у)) <Р для п бZ, то /"(у) 6 6 0/«(а:) и у € W'{x) П W**(x) = {х} ПО пункту (4) теоремы 6.4.9. П Следующее утверждение устанавливает своего рода единственность локальных устойчивых и неустойчивых многообразий. Предложение 6.4.11. Если х, у еА и zeW{x)nW'(у), то пересечение W*(x)n W*(y) содержит открытую окрестность точки z в обоих многообразиях. Подобное утверждение верно для локальных неустойчивых многообразий. Доказательство. Согласно пункту (3) теоремы 6.4.9 мы имеем КИМ образом, по пункту (4) той же теоремы /"(2/) € Р^'(/"(х)) для любого достаточно большого п. Точно так же мы получаем, что для любого достаточно большого п выполнено условие f4W^(y))CW^{r(x)), Поскольку г(W(у)) и nW(х)) С W(Г(х)) ^ открытые теки, их пересечение открыто в W*(/"(x)) и, следовательно, в /"(W*(x)) и /"(W'(2/)). Наше утверждение доказано, поскольку z 6/~"(/"(W'(2/))n/"(W*(x))). П Следствие 6.4.12. Если для х, 2/ 6 Л глобальные устойчивые многообразия W\x)^ и W'(y), определенные в (6.4.3), имеют непустое пересечение, то W'(x) — W'(y),
274 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ С другой стороны, локальные устойчивые и неустойчивые многообразия пересекаются в точности в одной точке: так как Е'^ и Е~ непрерывны на Л и равномерно трансверсальны в силу следствия 6.4.5, из гладкости W'(x) и W**(x) следует такое предложение. П^редл ожени е 6.4.13. Обозначим через W/(x) и W^{x) е-тары в W'{x) и W**(x). Тогда существует такое е > О, что для любых х^уеА пересечение W^(x) П wy(y) состоит не более чем из одной точки [х^ у] и найдется такое 6 >0, что если d(x, у)< ^ для некоторых х, ysA^ то w:(x)nw;{y)^0. Замечание. Следствие 6.2.22 показывает, что отображение [•, •] непрерывно. Предложение 6.4.14. Пусть Л является компактным гиперболическим множеством отображения f:U^^ М. Тогда существуют такая открытая окрестность Vq множества Л и такое число а^ > О, что если х,уеА и {z} = W'(x)r\'W''{y) с Vq, то для любых ^ е T^W'(x) иг} S T^W'^{y) угол между ^ и т] больше чем Qq. Доказательство. Выберем такую окрестность V множества Л, как в предложении 6.4.6. Так как множество Л компактно, расстояние между Л и M\V положительно. Обозначим это расстояние через 6, Если Vq — 5-окрестность множества Л, то это множество удовлетворяет посылке предложения 6.4.6. Выберем W"*(x) и W**(x) диаметра меньшего чем 6 для всех X 6 Л. Тогда из пункта (3) теоремы 6.4.9 мы получаем, что если {z} = W'(x) П W**(2/) С Vq для некоторых х, 2/ 6 Л, то /"(-г) е Vq для всех п 6 Z. Следовательно, точка z лежит в множестве Л{., которое является гиперболическим по предложению 6.4.6, и наше утверждение вытекает из следствия 6.4.5. П 6.4 в. Лемма о замыкании и периодические орбиты. В этом пункте мы покажем, что гиперболичность обеспечивает механизм для нахождения большого количества периодических орбит. Это первая демонстрация — не на примерах, но при весьма общих предположениях — того, как локальное поведение, моделируемое поведением линейной части, и нетривиальное возвращение, вызванное нелинейностью, порождают сложную и богатую структуру орбит. Конечно, мы уже встречались с отдельными проявлениями этого феномена в конкретных ситуациях (предложение 1.7.2, предложение 1.8.1, следствие 2.4.11, теорема 5.4.14). Дальнейшие следствия этого явления бу- дзгг исследоваться в гл. 18. Мы назовем последовательность точек 2^, Xj,..., х^_ i, х^ = 2^ периодической £-орбитой, или периодической псевдоорбитой, если disi{f(xj,), x^.^i)< < £ для А: =0,..., m — 1 (см. также определение 18.1.1). Теорема 6.4.15 (лемма Аносова о замыкании). Пусть Л — гиперболическое множество отображения f: U—*M, Тогда существуют такая открытая окрестность V D А и такие числа С, Eq > О, что для е < Sq и для любой периодической е-орбиты (х^^..., х^) С V найдется такая точка у eU, что f"^(y) = у и dist(/*(2/), Xj^) < Се для А: =0,..., т- 1. Замечание. Частным случаем периодической псевдоорбиты является такой отрезок орбиты Xq, /(xq), ..., /"*~Ча^), что dist(/(a^), Xq) < е. Таким образом, лемма Аносова о .замыкании означает, в частности, что вблизи любой точки гиперболического множества, орбита которой «почти возвращается» к ней, существует периодическая орбита, проходящая вблизи «почти возвращающегося» отрезка.
§ 6.4. ГИПЕРБОЛИЧЕСКИЕ МНОЖЕСТВА 275 В последнем случае, однако, заключение леммы о замыкании может быть значительно усилено. Это следует из общего свойства экспоненциальной неустойчивости орбит на гиперболическом множестве и вблизи от него. Предложение 6.4.16. Пусть К — гиперболическое множество отображения /: U -^ М с {X, pt,)-разложением. Тогда для любого а ^ ^ тах(Л, pL~^) существуют такие 6 >Q и С > О, что если х б Л, у sU а dist(/*(y), Р(х)) < 5 для А: =0,..., тг, то dist(/*(2/), /*(х)) < С «"»•■"(*-"-*). (dist(x, у) + dist(/"(x), Г {у))). Доказательство. Это утверждение немедленно вытекает из процедуры локализации, описанной в начале предыдущего пз^кта, с орбитой точки X, выбранной в качестве начальной. Поскольку мы находимся в условиях теоремы 6.2.8, утверждение, очевидно, следует из вида отображений /^ и оценок на их линейные и нелинейные части. П Следствие 6.4.17. Пусть Л — гиперболическое множество отображения /: U -^ М с (X, pt.)-разложением. Тогда для любого а > >тах(Л, pL'^) существуют такая окрестность UdA и такие константы Ср е^>0, что если /*(х)б U для А: =0,..., п udist(/*(x), х) < е^, то найдется такая периодическая точка у, что /"(у) = у и dist(/*(y),/*(x)) < с;а™И*."-*) dist(/"(x), х). Доказательство. Периодическую точку у мы получаем с помощью теоремы 6.4.15. По предложению 6.4.6 можно считать, что у S А. Тогда нужное утверждение следует из предложения 6.4.16. П Доказательство теоремы 6.4.15 [^]. Та же процедура локализации, которую мы использовали выше, позволяет найти для каждого х бЛ окрестность V^, т. е. переформулировать проблему в терминах последовательностей малых возмущений гиперболических линейных отображений вида f^{u,v) = {A^u-ha^(u,v), B^v-h I3f,{u, v)) где Hajj^, <C,e и Ц^Ц^, <C^£ для всех к и некоторого С| >0. В отличие от доказательства теоремы 6.2.8, мы не предполагаем здесь, что отображения Д сохраняют начало координат. Заметим, что последовательность (wj^, Uji,)6 V^ , А: = О,..., m—1, является периодической орбитой тогда и только тогда, когда (u,v):= {{uq.Vq), (^i,Vi),...,(w^-i,v„»_i)) = Следовательно, мы должны найти неподвижные точки этого отображения F: М^ —> Е^ (JV = m • dimM), где Ш^ снабжено нормой \\{xq, X,,..., x__i)|| := max ||х.||. Для этого представим F в виде где \ ' ' \ 7 / ^({Щ^ ^о). (^п г']),..., (^„,-1, ^ш-i)) : = :=((«m-](^m-U^m-])./5m-l(^m-n^m-l))»--- := ((А m — 1^m — 1'
276 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ Отображение L гиперболично: оно является растяжением на подпространстве ((^, 0), (wpO),..., (w^_i,0)) и сжатием на подпространстве ((О, Uo)j (О, i;i),..., (О, u^_i)). Тогда отображение (i — Id) обратимо и {L — Id)~^|| < Q для некоторого Cg = CJf^ Л) > 0. Отметим также, что S{u, v)—S(u\ v')\\^Cye'\\(u, v)-~{u', u')(| для некоторого C^ = C^(f, Л)>0. Следовательно, решения Зфавнения Fz = z, или Lz -\- Sz = z, могут быть получены как решения уравнения z = --(L -Uy'S{z)=\ T{z), Если мы выберем е < ^-^, то ||^(.г) — ^^(.г')|1 ^€2' С^- e||z — z% и, следовательно, отображение Т\ Ш.^ —> Ж^ является сжимающим. По принципу сжатых отображений (предложение 1.1.2) имеется единственная неподвижная точка 2о = J^{z^ отображения JT в М^ и, следовательно, единственное решение Fzq = Zq, Чтобы завершить доказательство, нам осталось показать, что соответствующая периодическая орбита остается внутри окрестности 1/ и, таким образом, действительно является периодической орбитой / и что расстояние от нее до точки х^, не превосходит Се для некоторого С > 0. Заметим, что если выбрать достаточно малое е, первое утверждение вытекает из второго. Пусть, что Zq = lim J^^(x), где х — последовательность (а^, х^ ..., х^_^). i - Тогда оо оо 2i,-x||^5Ill^^(^)-^'"'H t = l По индукции МЫ заключаем, что jpfc(:c)-JP*-4x)KQC3e||JP*-4x)-^*-M2:)||^(C,C3e)*-M|JP(x)-x И, следовательно, оо Zq-X < Y,(C,C,er]mx)- X i = 0 Поскольку Fx = x-hv для некоторого и, V <£, МЫ имеем Sx = ~(L—ld)x+ + и, или J^(x) = х — {L — Id)~^u, и, следовательно, |1^(х) — х|| ^ Cg • е. Но это означает, что ||^о ~ ^11 ^ Qi £ (Q*^3^)*) ' ^- Теорема доказана. П 6.4 г. Локально максимальные гиперболические множества. Из леммы Аносова о замыкании (теорема 6.4.15) не следует, что периодическая орбита, существование которой эта лемма гарантирует, содержится в гиперболическом множестве Л. Хотя это действительно не всегда верно (см. упражнение 6.4.7), во всех примерах, которые мы рассматривали до сих пор, это было так, из-за того что во всех этих примерах соответствующие гиперболические множества максимальны в некоторой открытой окрестности (как было отмечено после предложения 6.4.6) в следующем смысле. Существует такая открытая окрестность V множества Л, что Л = Л^ V П /ЧУ). nez
§ 6.4. ГИПЕРБОЛИЧЕСКИЕ МНОЖЕСТВА 277 Это свойство будет систематически использоваться в части 4 этой книги, и, таким образом, имеет смысл дать ему название. Определение 6.4.18. Пусть Л — гиперболическое множество отображения /: ?7—> М. Если существует такая открытая окрестность V множества Л, что A = Ny^ то Л называется локально максимальным или базисным [^] множеством. Заметим, что если V — открытая окрестность множества Л, то любая периодическая точка из V содержится в множестве Л^. Если V достаточно мало и Л локально максимально, то орбита этой точки содержится в Л. В этом случае Л имеет много периодических орбит, как показывает приведенное ниже следствие. Следствие 6.4.19. Пусть Л — гиперболическое множество отоб- ражения /: U —* М и окрестность V такова, что множество А{^ является гиперболическим. Тогда периодические точки плотны в NW{f\^^) {см, определение 3.3.3 и последующие рассуждения). Доказательство. Для х бNW{f\f^ ) и е >О через U^ обозначим £/{2С -\- 1)-окрестность точки х в множестве Л{^, где константа С такая же, как в лемме о замыкании. Тогда существует такое число iV б N, что f {UJr\U^j^0. Для y^f^(UjnU^ выполнено неравенство disi(f^(y), у)< <2e:/(2C-fl) и, следовательно, по лемме о замыкании имеется такая периодическая точка Z, что dist(/"(.2;), /"(2/))<2Ce:/(2C-fl) для А: 6 {О,..., iV-1}, если £ достаточно мало. Но если е достаточно мало, то z 6 V и, следовательно, Z 6 Л(.. Наконец, dist(ar, z) ^ dist(x, у) + dist(2/, z) < ^ 2С^ i = е. П При наличии локальной максимальности можно получить еще более удобное з^верждение. Следствие 6.4.20. Пусть А—локально максимальное гиперболическое множество отображения f:U—* М. Тогда периодические точки плотны в NW(f\j^), и _ W Важное техническое свойство, которое следует из локальной максимальности, — наличие локальной структуры произведения: говорят, что гиперболическое множество Л имеет локальную струтстуру произведения, если для достаточно малого е > О точки пересечения, сз^ествование которых обеспечивает предложение 6.4.13, содержатся в Л. Предложение 6.4.21. Компактное локально максимальное гиперболическое множество имеет локальную структуру произведения. Доказательство. Выберем е так, что е-окрестность V множества Л удовлетворяет условию Л = Л(.. Тогда все точки [х, у]^ существующие в силу предложения 6.4.13, так же как и их орбиты, содержатся в окрестности V, а следовательно, и в Л. П В § 18.4 мы увидим, что наличие локальной структуры произведения эквивалентно локальной максимальности. Естественный пример замкнутого инвариантного гиперболического множества, которое не является локально максимальным, — объединение гиперболической периодической орбиты и орбиты трансверсальной гомокли- нической точки (см. § 4 введения и определение 6.5.4). Такая ситуация имеет место для подковы (см. п. 2.5 в), например для множества, закодированного множеством Л^ последовательностей нулей и единиц, каждая из
278 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ которых содержит не более чем одну единицу. Это множество не является локально максимальным, поскольку для каждого натурального числа N оно содержится в замкнутом множестве Л^, состоящем из всех последовательностей, в которых любые две единицы разделены по крайней мере N нулями, и для любой открытой окрестности V множества Л^, при достаточно больших N выполнено условие ^ с V. Нетрудно показать, что Л^ на самом деле локально максимально, так что для любой окрестности V множества Л^ существует^ такое инвариантное локально максимальное гиперболическое множество Л, что Лд сЛ С V. Действительно, хотя любое замкнутое инвариантное подмножество подковы гиперболично и может иметь чрезвычайно сложную структуру, его всегда можно заключить внутрь некоторого локально максимального множества, например множества А/у для соответствующей произвольно малой открытой окрестности V^ как в предложении 6.4.6 (см. упражнения 6.4.8 и 6.4.9). Неизвестно, однако, верно ли это в общей ситуации. Нерешенная задача. Пусть Л является гиперболическим множеством отображения /: U —^ М и V — открытая окрестность Л. Существует ли такое локально максимальное гиперболическое инвариантное множество Л, что ЛсЛс У? Упражнения 6.4.1. Предположим, что Л — гиперболическое множество С^-отображения /: f/ —♦ М. Покажите, что для любой римановой метрики на U существуют такие константы С > О н А 6 (О, 1), что для ж € л, V € Е^ и п 6 N выполнено неравенство ||1»/т%|КСА"|к11; (6.4.4) входящая в ЭТО неравенство норма порождена рнмановой метрикой. 6.4.2. Предположим, что Л — компактное множество, инвариантное относительно отображения /: и ~* М, и существует такое 1)/-инвариантное разложение Т^М = Е'^фЕ~, что условие (6.4.4) имеет место для некоторой римановой метрики. Покажите, что Л — гиперболическое множество. 6.4.3. Пусть (iW, ijj) — снмплектнческое многообразие (см. определение 5.5.7), множество 17 С М открыто и /: f/ —♦ М — симплектический диффеоморфизм. Пусть Л С 17 является гиперболическим множеством диффеоморфизма /. Докажите, что dim Е^ = dim Е~ для всех точек жбЛ, Е^—лагранжевы подпространства Т^М, а W''{x) и W^{x) являются лагранжевыми подмногообразиями М. 6.4.4. Сформулируйте и докажите аналог леммы Аносова о замыкании (теорема 6.4.15) для гиперболических отталкивающих множеств (определение 6.4.3). 6.4.5. Постройте пример такого локально максимального гиперболического множества Л, что периодические точки отображения не плотны в Л. 6.4.6. Докажите, что число прообразов любой точки, принадлежащих гиперболическому отталкивающему множеству, равномерно ограничено. Докажите, что это число постоянно, если отображение топологически транзитивно на отталкивающем множестве. 6.4.7*. Покажите, что инвариантное множество Л в подкове из п. 2.5 в содержит совершенное подмножество, на котором наше отображение минимально. Выведите отсюда, что периодические точки, существование которых гарантирует лемма Аносова о замыкании (теорема 6.4.15), могут не принадлежать гиперболическому множеству. 6.4.8. Покажите, что для любого замкнутого инвариантного подмножества S инвариантного множества Л из подковы н любой открытой окрестности U множества S существует такое локально максимальное компактное инвариантное множество S, что S с S С U.
§ 6.5. ГОМОКЛИНИЧЕСКИЕ ТОЧКИ И ПОДКОВЫ 279 6.4.9. Пусть F^: Т^ ~*Тг —линейный гиперболический автоморфизм. Покажите, что для любого замкнутого F^ -инвариантного множества S и любой открытой окрестности U множества S существует такое локально максимальное компактное инвариантное множество S, что ScScU. § 6.5. Гомоклинические точки и подковы В этом параграфе мы продолжим изучение подковы Смейла (см. п. 2.5 в). Эта динамическая система содержит нетривиальное гиперболическое множество с естественной и очень удобной для кодирования динамикой. Оказывается, что поведение, которое демонстрирует этот пример, может быть обнаружено в широком классе динамических систем. В п. 2.5 в мы ограничились только «линейными двумерными» подковами: они возникали при рассмотрении пересечения образа /(Д) прямоугольника Д под действием диффеоморфизма / с самим множеством Д в предположении, что / — аффинное гиперболическое отображение на каждой компоненте связности множества ДП/~^(Д). Теперь мы определим подковы более высоких размерностей и порожденные нелинейными отображениями. Из этого определения будет ясно, что конструкция кодирования из п. 2.5 в переносится на наш случай дословно. Далее мы продолжим изучение трансверсальных гомоклинических точек, начатое в § 0.4, где они были введены преимущественно в качестве мотивировки для некоторых аспектов полулокального анализа. Мы исследуем некоторые из этих аспектов более подробно. Описывая динамику, полученную таким образом, мы можем доказать, что при наличии трансверсальной гомоклинической точки отображения / в произвольно малой окрестности гомоклинической орбиты существует подкова для некоторой итерации /. 6.5 а. Подковы. Мы будем называть прямоугольником в М" множество вида Д = Д X Д с М* е М' = М", где Д и Д — диски. Обозначим через тг^: М" —> М* и TTgi М"—> Mf канонические проекции. Как и в § 6.2, мы будем называть направление М* «горизонтальным», а направление М' — «вертикальным» . Определение 6.5.1. Пусть AcUcW^ —некоторый прямоугольник и /: Z7—>М" — диффеоморфизм. Компонента связности С* = fC множества ДП/(Д) называется полной (для /), если (1)7Г2(С) = ДИ (2) для любого 2 6 с отображение '^\\j(c^{d, хя-5(г))) является биекциеи на Д • Геометрически второе условие в определении означает, что образ каждого горизонтального сечения С пересекает Д и притом проходит «поперек» его. Определение 6.5.2. Пусть множество V <zW открыто. Прямоугольник Д = Д X Д с i[7 с К* е М' = М" называется подковой для диффеоморфизма /: У —>М", если Дп/(А) содержит по крайней мере две таких полных компоненты Aq и Д^, что для Д = До U Aj выполнены условия (1) X2(A)cint Д, x,(/-^(A))cint Д, (2) отображение -b(/|^-w^j) сохраняет горизонтальное семейство конусов на /"^(А) и является растягивающим отображением этого семейства, (3) отображение ^(/"^1^) сохраняет вертикальное семейство конусов на ^ и является растягивающим отображением этого семейства.
280 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ В силу следствия 6.4.8 из второго и третьего условия этого определения мы получаем, что Л:= f] /"(А) является гиперболическим множеством n€Z диффеоморфизма / с «почти горизонтальным» направлением растяжения и «почти вертикальным» направлением сжатия. Заметим также, что, как и в п. 2.5 в, Л с Int Л является максимальным /-инвариантным подмножеством множества Л. Таким образом, рассматривая множество Лс Д, мы видим, что замечания из п. 2.5 в, вплоть до следствия 2.5.1, могут быть применены практически дословно к нашему множеству Л. В частности, кодирование динамики на Л получается путем топологического сопряжения с полным 2-сдвигом cTj. Так как каждый прямоугольник, являющийся подковой дня /, является также подковой для любого диффеоморфизма /', достаточно близкого к / в С'-топологии, мы получаем следующий полулокальный результат о структурной устойчивости. Предложение 6.5.3. Пусть А = р| /"(Д)—максимальное инва- n€Z риантное относительно С^-диффеоморфизма f: U —*М подмножество подковы. Тогда для любого отображения /', достаточно близкого к f в С^-топологии, имеется такое инвариантное множество Л и такой гомеоморфизм h: Л—>Л, что hof\j^=f\^oh [^]. 6.5 б. Гомоклинические точки. Вернемся к рассмотрению динамики при наличии транс в ер сальной гомоклинической точки, которая впервые упоминалась в § 4 введения. Определение 6.5.4. Пусть /: X —* X — гомеоморфизм метрического пространства (X, d). Точка х^Х называется гомоклинической для точки у ^ X, если lim d(/"(x),/"(2/)) = 0. n -*оо Точка X Е X называется гетероклинической для точек у^, г;^ б X, если lim d(r(x),/"(2/i))= lim d(/"(x),/"(2/2)) =0. Пусть М — дифференци- n —* оо n —* —00 руемое многообразие и х б М — гиперболическая неподвижная точка отображения / 6 Diff'(M). Тогда мы говорим, что qsM — трансеереальная гомоклиническая точка, если q — точка трансверсального пересечения устойчивого и неустойчивого многообразий точки х. Рис. 6.5.1. Гомоклиническая точка
§ 6.5. ГОМОКЛИНИЧЕСКИЕ ТОЧКИ И ПОДКОВЫ 281 Начнем с краткого рассмотрения картины, возникающей при наличии трансверсальной гомоклинической точки у сохраняющего площадь диффеоморфизма /: М^ —> М^. Будем считать, что начало координат является неподвижной точкой / и что вблизи начала координат /(х, у) = (2х, у/2). Локальные устойчивое и неустойчивое многообразия начала координат представляют собой соответственно отрезки оси у и оси х. Допустим, что их продолжения пересекаются трансверсально в точке д. Как было отмечено в § 4 введения, это означает, что /"(g) -* О при п\ —> оо. Так как неустойчивое и устойчивое многообразия начала координат инвариантны относительно /, образы /"(g) также являются гомокли- ническими точками, т. е. точками пересечения неустойчивого и устойчивого многообразий начала координат. Так как они пересекаются в точке q трансверсально и / является диффеоморфизмом, то же верно и для точек /"(g) для любого п. Мы, таким образом, немедленно получаем счетное множество трансверсальных гомоклинических точек. Любые две из этих точек соединены гом о клинически ми петлями. Так как / отображает эти петли друг в друга, например петлю, соединяющую д и г, отображает в петлю, соединяющую /(g) и /(г), эти петли охватывают равные площади, и, следовательно, они растут при сближении /"(g) и /"(г) (см. рис. 6.5.2). Рис. 6.5.2. Гомоклинические осцилляции Так как неустойчивое многообразие не имеет самопересечений, мы таким образом получаем все более и более тонкие петли, накапливающиеся на неустойчивом многообразии. Поскольку те же соображения имеют место для устойчивого многообразия, мы получаем аналогичные осцилляции и для него, и, таким образом, окончательная картина выглядит так, как показано на рис. 6.5.2. В частности, мы получаем целую сеть «новых» трансверсальных гомоклинических точек. По Л-лемме (предложение 6.2.23) эта картина имеет место независимо от того, сохраняет ли наше отображение площадь, а также от вида локальной гладкой линеаризации. Таким образом, любая трансверсальная гомоклиническая точка порождает гомоклинические осцилляции, показанные на рис. 6.5.2. 6.5 в. Подковы в окрестностях гомоклинических точек. Теперь мы можем установить связь между наличием трансверсальных гомоклинических точек и существованием подков.
282 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ Теорема 6.5.5. Пусть М представляет собой гладкое многообразие, множество U с М открыто, отображение f:U~*M является вложением upEU — гиперболическая неподвижная точка с соответствующей ей трансверсальной гомоклинической точкой д. Тогда в произвольно малой окрестности точки р существует подкова для некоторой итерации отображения /. Кроме того, гиперболическое инвариантное подмножество этой подковы содержит некоторую итерацию д. Доказательство. Мы будем неоднократно использовать следующие обозначения. Для xsA с К" обозначим через (Е[Л, х] компоненту связности Л, содержащую х. Используя подходящие координаты в окрестности О, мы можем считать, что гиперболическая неподвижная точка находится в начале координат и что Щ^^{0):=(£[\¥''(0)ПО,0]сШ''®{0} и Щ^{0):=(£[]¥''(0)ПО,0]с{0}еЖ\ где М"=М*еМ'. Так как точка д':=/-^о(д) 6 Int Di является трансверсальной гомоклинической точкой, мы можем выбрать 6 >0 таким малым, что если х s 6D2:={6z\ z € D^}^ то множество D^ {х} трансверсаль- но к Щ:,(д') := a:[W'{p) П А, д% где Д:= Д X 5D2. По Л-лемме (предложение 6.2.23) мы можем выбрать 6 > > О и JVj 6 N так, что если z е €5Д и V,:=(i:[f''^(D^x{z})nB, r^(D,x{z})nW,^,{g% то T^V, нахо- дится в горизонтальном е-конусе точки х 6 Х>^ и Tt/D^ = Д. Отсюда следует, что Д| := у V^ — полная компо- нента множества ДП/^"(Д). Мы фактически показали, что в некотором естественном смысле эта компонента может быть сделана сколь угодно близкой к горизонтальному направлению. Полагая \:=(JZ[Anf^^{A),0] (очевидно, это множество тоже является полной компонентой), мы, таким образом, проверили первый пункт определения 6.5.2. Остается еще доказать гиперболичность. Второй и третий пз^кты определения 6.5.2 легко проверяются для точек X 6 /"^'(Aq), поскольку /*(х) 6 Д для г = 1, 2,..., N^. Рассмотрим /"^'(Д^). Так как f^^(g') — трансверсальная гомоклиническая точка, мы можем с помощью разложения М" = М*'ШМ' представить Df^^(g') в виде Df^'(g') = ( 7i u- 1» где матрица Е невырождена. В силу выбора 6 то же верно для всех х е f~^^(A^). Если эти дифференциалы не удовлетворяют второму и третьему пунктам определения подковы, заменим д' на Рис. 6.5.3. Образование подковы q- =/-"*(g') и N^ на N2 = N^-\-т + п для некоторых п, meN, которые будут определены позднее. Тогда Df'^ig") Е F G Я Поскольку матрица Е невырождена, существует такое 7о ^ ^' "^то горизонтальный 7о"конус под действием отображения ( ^ тт переходит в гори-
§ 6.5. ГОМОКЛИНИЧЕСКИЕ ТОЧКИ И ПОДКОВЫ 283 зонтальный 7i-конус, где 7i < оо- №^ 7 ^ ^+ выберем такое т sN, что горизонтальный 7-конус переходит в горизонтальный 7о-конус под действием отображения! ^7* тлТ* I, и такое п 6 N, что горизонтальный 7гКонуспере- m — m ХОДИТ в горизонтальный 7-конус под действием отображения Таким образом, Df^^(q") сохраняет горизонтальные 7-конусы. Увеличение, в случае необходимости, чисел пат приведет к тому, что отображение Df^{q") будет растягивающим внутри 7-конусов. Так как эти оценки могут быть сделаны равномерными на множестве /~^2(Д|), и тем более на /"^*(Aq), мы получаем, что второй и третий пункты определения 6.5.2 выполнены. П Заметим, в частности, что из использовавшихся выше соображений следует, что гом о клинические точки являются неблуждающими (определение 3.3.3). Следствие 6.5.6. Каждаятрансверсальнаягомоклиническаяточка для гиперболической неподвижной или периодической точки принадлежит замыканию множества периодических точек и, следовательно, является неблуждающей р]. Доказательство. Пусть q является трансверсальной гомоклини- ческой точкой и Л — подмножество подковы, инвариантное относительно итерации /" отображения / и такое, что /"|д изоморфно полному 2-сдвигу. Тогда /"*(д) 6 Л для некоторого m € N. Так как периодические точки плотны в Л по предложению 1.9.1, /"*(д), а следовательно, и сама точка q содержатся в замыкании множества периодических точек. П Упражнения 6.5.1. Докажите, что инвариантное подмножество подковы для итерации /, построенное в теореме 6.5.5, содержится в локально максимальном гиперболическом множестве Л самого отображения /; это множество содержит точку q. Кроме того, покажите, что /|д сопряжено с некоторой транзитивной топологической цепью Маркова. 6.5.2. Пусть f: и —* М является диффеоморфным вложением с гиперболическими неподвижными точками Pi,..., Р* ■ Говорят, что точки Pi,..., Pjt = РЬ образуют гетероклиническую петлю, если размерности их устойчивых многообразий равны и многообразие W*(Pj) пересекает W** (Рг +1) трансвереально для i = О,..., fc. Докажите, что в этом случае каждая точка р^ имеет трансве реальную гомоклиническую точку, и выведите отсюда» что существует гиперболическое множество Л отображения /, содержащее все точки Pi,..., Р(. и имеющее плотную орбиту. 6.5.3. Постройте такой С°°-диффеоморфизм тора /: Т^ -♦ Т^ с даумя гиперболическими неподвижными точками р и д, что многообразия W^{p) н W^{q) пересекаются трансверсаль- но, но /1^^,р(/) = 0.
284 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ § 6.6. Гладкая локальная линеаризация и нормальные формы 6.6 а. Струи, формальные степенные ряды и гладкая эквивалентность. Когда в определении 2.1.1 мы ввели понятие С"*-эквивалентности, мы немедленно заметили, что спектр собственных значений в неподвижной точке сохраняется при гладком сопряжении (поскольку дифференциал этого сопряжения сопрягает линейные части отображений). Предложение 2.1.3 показывает, что в случае размерности один собственное значение — единственный модуль локальной аналитической эквивалентности вблизи гиперболической неподвижной точки. Таким образом, мы хотели бы знать, всегда ли сопряжение, задаваемое теоремой Хартмана — Гробма- на 6.3.1, может быть сделано гладким, другими словами, сводится ли локальная гладкая классификация диффеоморфизмов в окрестности гиперболической неподвижной точки к классификации их линейных частей. Простые примеры показывают, что это не так (см. упражнение 6.6.1), но мы, тем не менее, будем в состоянии наметить метод получения приемлемой гладкой классификации отображений в окрестностях неподвижных точек. Сначала необходимо выяснить, существуют ли другие инфинитезималь- ные инварианты локального гладкого сопряжения, помимо связанных с линейной частью нашего отображения в неподвижной точке. Для этой цели зафиксируем локальную систему координат в некоторой окрестности неподвижной точки р отображения / и рассмотрим коэффициенты многочлена Тейлора отображения / степени к для к = 2,3,... Это множество коэффициентов называется к-и струей J^if) отображения / в точке р. Таким образом, два С*-отображения / и ^ имеют одинаковые fc-струи в (не обязательно неподвижной) точке р, если ||/(а^) —5(а^)|| = о(||х —р]]*). Очевидно, первая струя отображения определяется значением отображения и его линейной частью. Вещественно аналитическое отображение является пределом своих многочленов Тейлора степени к при А; —* оо. Для С°°-отображения можно выписать его ряд Тейлора, но он может расходиться везде, кроме одной точки. Таким образом, мы приходим к рассмотрению формального степенного ряда, т. е. формального выражения, состоящего из бесконечной суммы одночленов. Алгебраические операции и замены переменных выполняются так, как если бы этот ряд сходился. Очевидно, (формальный) ряд Тейлора С°°-отображения в точке определяет все струи в этой точке. Можно отождествить к-струи отображения в точке с многочленами в локальной системе координат и определить их композицию, взяв обычную композицию и затем отбросив члены порядка выше к. Кроме того, вблизи неподвижной точки локальное С^-сопряжение отображений порождает сопряжение их fc-струй в этой точке. Таким образом, классы сопряженности этих струй как раз и являются теми ин- финитезимальными инвариантами, которые мы ищем. Для С°°-отображе- ний из наличия С°°-локальной сопряженности следует, что формальные ряды Тейлора этих отображений в данной точке сопряжены, где композиция формальных степенных рядов определяется с помощью непосредственной подстановки. Теперь мы можем предложить следующий план решения проблемы гладкой сопряженности. Сначала будем искать инварианты сопряженности А;-струй для всех ksN. Оказывается, все эти инварианты полностью определяются линейной частью отображения, т. е. первой струей. Будем говорить, что два С°°-отображения /ид имеют касание бесконечной кратности
§ 6.6. ГЛАДКАЯ ЛОКАЛЬНАЯ ЛИНЕАРИЗАЦИЯ И НОРМАЛЬНЫЕ ФОРМЫ 285 в точкер, если Jp(f) = Jp(g) для всех к, ksN, или \\f(x) — g(x)\\ = o(\\x — —рЦ*') для всех к, к €N, или, что то же самое, если формальные ряды Тейлора для f и д в точке р совпадают. На втором шаге нужно показать, что если все струи отображений /ид сопряжены, то существует такое С"-отобра- жение h, что / и /':= h~^ оgoh имеют касание бесконечной кратности. Наконец, если линейная часть отображения / в точке р гиперболическая и /' имеет касание бесконечной кратности с / в точке р, то / и /' локально С^-сопряжены с помощью локального диффеоморфизма, имеющего касание бесконечной кратности с тождественным отображением. Этот последний шаг может быть выполнен различными способами. Если линейная часть отображения / является сжимающим отображением, можно рассматривать уравнение сопряженности как уравнение на неподвижную точку h = {f')ohof и с помощью принципа сжатых отображений показать, что решение h принадлежит классу С°°. В собственно гиперболическом случае можно использовать утонченную версию метода фундаментальной области, называемую методом клина Стернберга. Мы же для выполнения последнего шага применим вариант гомотопического приема, который использовался в доказательствах теорем 5.1.27 и 5.5.9. Это сведет нашу проблему к анализу решения некоторого подкрученного когомологического уравнения (см. § 2.9). 6.6 б. Формальный анализ в общем случае. При работе со степенными рядами от п переменных мы будем систематически использовать муль- тииндексы. Для мультииндекса к = (fej,..., fc„) € Nq определим высоту к п п к. как \к\\= 2 fep и, если х = (х^,..., х„) е М", положим х* := П х- 1 = 1 f =. 1 Предложение 6.6.1. Предположим, что Л =(Ai,..., Л„)бК" таково, что Л; 7^ А* для всех г и всех к 6 NJ. Рассмотрим формальный степенной ряд отображения f вида Л(^)=У^Л^^ fcGN' С нулевым постоянным членом, линейная часть которого имеет вид diagA (m. е. является диагональной матрицей с собственными значениями Aj,..., А„). Пусть д —линейная часть /. Тогда существует формальный степенной ряд /i, служащий решением уравнения сопряженности h о f = дoh. Соотношения вида А^. =А* называются резонансами, и соответственно условие «А^ 7^ А* для всех i и всех к 6No» называется условием отсутствия резонансов. Доказательство. Заметим сначала, что мы можем представить fi{x) как сумму линейной части и членов более высокого порядка: fi{^)=yji,k^' = K^i+y. h'^ fc€N" |Л|>1 Из условия отсутствия резонансов для |А;| = 1 следует, в частности, что все А^ попарно различны. Так как линейная часть h коммутирует с линейной частью / (потому что последняя совпадает с линейной частью д), линейная часть h должна быть диагональной. Обозначим ее собственные
286 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ значения через а,-. Таким образом, в качестве кандидата в сопрягающие отображения h можно взять JfeeN" \к\>\ Тогда из равенства г-х координат правой и левой частей уравнения сопряженности h о f(x) = д о h(x) мы получаем или *^^" Будем решать это уравнение с помощью индукции по 7п:= \к\ для коэффициентов h^f^ отображения h при условии, что коэффициенты Д^^ ^ ^i даны. Другими словами, мы хотим построить сопряжение тп-струй, имея в распоряжении сопряжение (тп — 1)-струй. Для т = 1 ограничений нет, например, можно положить Dh = Id. Зафиксируем тп б N и предположим, что мы зоке определили все /i^^jt, как требуется, для всех |fc| < тп. Тогда для любого такого мультииндекса к, что |А;| = тп, рассмотрим коэффициенты тех членов, в которые входит х*. Сравнивая левую и правую части уравнения сопряженности, мы получим "*Л*+А'^* = А,/1., + Ц„ (6.6.1) где C^jt включает только коэффициенты с индексами j высоты \j\ < тп, которые, таким образом, полностью определены на предыдущих шагах индукции. Далее мы решаем получившееся уравнение на h^,^, полагая hk = д _д^ 1 (6.6.2) что можно сделать ввиду отсутствия резонансов. П Теперь предположим, что выполнены все условия доказанного предложения, за исключением отсутствия резонансов, т. е. существует такой муль- тииндекс к 6 N", что Л^ =Л* для некоторого г. Тогда в (6.6.1) исчезают члены, содержащие h^^^, т. е. в выражении для г-й координаты уже нельзя избавиться от члена, содержащего х*. Это наблюдение приводит к определению нормальных форм, которые являются естественным обобщением понятия линейной части отображения. Определение 6.6.2. Отличный от нуля член с• х*, входящий в выражение для г-й координаты, обязанный своим происхождением наличию резонанса Л^. = Л*, называется резонансным членом. Под нормальной формой отображения понимают отображение, гладко эквивалентное /, степенной ряд которого содержит только линейные и резонансные члены. Описанный выше процесс может быть обобщен на случай, когда д содержит нелинейные члены, т. е. д^{х)= J] 9{,к^^=^Л'^ 2 9х,к^ - Тогда выражение (6.6.1) принимает вид ^gn" |fcl>i «iA* + A*/i., = A,/i.,-fa*5.,+C.,, (6.6.3)
§ 6.6. ГЛАДКАЯ ЛОКАЛЬНАЯ ЛИНЕАРИЗАЦИЯ И НОРМАЛЬНЫЕ ФОРМЫ 287 где С^ jt У^^ определены на предыдущих шагах и могут включать входящие в д члены низшего порущка. Предположим теперь, что д содержит только резонансные члены и линейная часть h постоянна и равна, скажем, тождественному отображению. Тогда равенство (6.6.2) по-прежнему выполнено для нерезонансных членов, и для резонансных членов из равенства (6.6.3) следует, что Qi^k— fi,k~^i,k^ т. е. резонансные члены д определяются однозначно при наличии формальной сопряженности. Таким образом, в пределах одного класса отображений по модулю формального сопряжения (с диагональной линейной частью) нормальная форма отображения определена однозначно с точностью до выбора линейной части. Интерес к этим нелинейным нормальным формам вызван тем, что в ряде естественным образом возникающих динамических систем имеются «встроенные» резонансы, т. е. в определенных естественных классах отображений имеется естественная совокупность резонансов, проявляющихся для каждого из этих отображений. В качестве основных примеров можно привести отображения, сохраняющие объем, и симплектические отображения. Если р — неподвижная точка отображения, сохраняющего положительную абсолютно непрерывную меру, то определитель дифференциала Df^ равен ibl (см. предложение 5.1.6, в котором рассматриваются только сохраняющие ориентацию отображения). Таким образом, если Л^..., Л^ — собственные значения дифференциала Df^^ взятые с учетом кратностей, то л,...л„ = ±1 и имеются резонансные соотношения А,=А,---А,_,Л^Л,^,---Л„ (6.6.4) ИЛИ K = ^---^h^'AUx---K- (6.6.5) Подобным образом, если р — неподвижная точка симплектического диффеоморфизма, то согласно предложению 5.5.6 собственные значения могут быть разбиты на пары взаимно обратных чисел, т. е. вектор собственных значений выглядит можно записать в виде И, следовательно, имеется п резонансов Л. = Л2ЛГ>, г' = 1,..., тг. (6.6.6) В двумерном случае, когда классы сохраняющих площадь и симплектиче- ских отображений совпадают, их нормальная форма (6.6.12) описывается результатом упражнения 6.6.4. Заметим, что она имеет более специальный вид, чем нормальная форма (6.6.7) для р= q = l. Опишем теперь возможные резонансы в двумерном гиперболическом случае. Имеется два собственных значения (мы обозначим их Л_ и Л^), для которых выполнены неравенства |Л_| < 1 < |Л^|. Резонансы имеют вид Л_ = Л^Л^или Л^=Л^Л1,т. е. A^-i=A;' или A^-i=A:', где fc, ^eNq — неотрицательные целые числа. Таким образом, если ^^^ = | log | А ^ 11, то из наличия резонанса следует, что ^-/^^ eQ. И наоборот, легко видеть, что последнее условие приводит к появлению резонанса. Если ^_/^+ — p/q, где
288 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ числа р, g 6 N взаимно просты, то говорят, что имеется (р, д)-резонанс. Чтобы описать нормальные формы в этом случае, положим для простоты, что оба собственных значения положительны. Тогда Af Л^ = 1 и если Л_ = А*Л^, то к = mq-\-l, I = тр для некоторого m 6 N. Подобным же образом из равенства Л^ = А*Л1 следует, что к = тр -f 1, Z = тд. Поэтому если / является нормальной формой, то оо оо fix, у) = (Л_х(1 + Y, ^J^'y^r), A,2/(l + J2 и^'УГ))- (6.6.7) m=\ m=l Заметим, что в случае отображения, сохраняющего область, имеется (1, 1)-резонанс. Упражнение 6.6.4 показывает, как выглядит специальная форма соотношения (6.6.7) для этого случая. 6.6 в. Гладкое сопряжение в гиперболическом случае. Один из способов обосновать формальные манипуляции со степенными рядами состоит в том, чтобы показать, что все появляющиеся формальные степенные ряды имеют положительный радиус сходимости. Этот метод был использован в § 2.1 для одномерных отображений. Хотя отсутствие резонансов не достаточно для наличия аналитической линеаризации даже в гиперболическом случае, этого достаточно для наличия С°°-линеаризации [']. Основная идея здесь заключается в том, что для любого формального степенного ряда существует С°°-функция, ряд Тейлора которой совпадает с данным степенным рядом. Предложение 6.6.3. Для любой последовательности {aj^}/^^^ СШ существует такая С°°-функция /: М"^М", что последовательность а^^ является последовательностью коэффициентов Тейлора функции /. Доказательство. Сначала введем одно полезное во многих отношениях понятие. Функцией типа шапочки называется гладкая отличная от нуля функция с компактным носителем, определенная на открытом множестве. Примером на действительной прямой является функция 6,(х): 2-{x+iy^-{x-\) -2 » X X ^1, >1, так как Ь^ обращается в нуль вместе со всеми своими производными в точ- оо ках ibl. Отметим, что Ь2{х):= J b^(t—2)dt/l b^(t)dt является функци- ей типа шапочки, которая равна единице на [—1,1]. Обычно используются фЗ^кции второго типа. Теперь докажем наше предложение. Положим /(^)=E^*^*^2(l^|!q, X ), N кещ где С^:= J2 J2 \^i\' Заметим, что этот ряд сходится, поскольку для каж- l=0\i[ = l дого X 7^0 имеется лишь конечное множество ненулевых членов. Заметим, что а,хЧ,{\к\\а 1*1 X ПК а X i*«MI^|!q.i )1^ < а X 2q,jNiw2 к < 2 \'^'/2 к ! 1 (6.6.8)
ГЛАДКАЯ ЛОКАЛЬНАЯ ЛИНЕАРИЗАЦИЯ И НОРМАЛЬНЫЕ ФОРМЫ 289 поскольку I А: |!C]jt[IIх|Р^2 для всех отличных от нуля членов. Таким образом, сумма сходится равномерно и очень быстро. Чтобы оценить производные порядка JV, рассмотрим такие точки х, что |A:|!C|jt|||x||2 < 1. Для этих точек мы имеем \k\^N \k\>N В силу (6.6.8) вторая сумма есть ограниченное кратное суммы входящих в нее членов наименьшего порядка, так что остаток имеет порядок выше чем N и производные вплоть до порядка N имеют такие коэффициенты, как нам нужно. D Следствие 6.6.4. Предположим^ что f—такое С^-отображение с неподвижной точкой р, что его линейная часть имеет вид diag Л (т. е. является диагональной матрицей с собственными значениями Aj,..., А^), удовлетворяющее условию отсутствия резонансов Л. фХ'' для всех г и всех мультииндексов к sNq. Тогда существует такое локальное С^-отображение h, что hofoh~^ имеет касание бесконечной кратности с линейной частью /. Доказательство. Рассмотрим формальный степенной ряд из предложения 6.6.1 и затем соответствующее ему С°°-отображение h и используем предложение 6.6.3. D Таким образом, локальная гладкая линеаризация вблизи гиперболических неподвижных точек при отсзггствии резонансов вытекает из следующего утверждения. Теорема 6.6.5. Пусть f — С^-отображение с гиперболической неподвижной точкой р ид — произвольное С°°-отображение, имеющее касание бесконечной кратности с /. Тогда существует такая окрестность U точки р и такой С^-диффеоморфизм /i, имеющий касание бесконечной кратности с тождественным отображением, что hof = goh [^]. Доказательство. Сначала, используя теорему 6.2.3, введем подходящие локальные координаты с центром в р так, чтобы устойчивое и неустойчивое многообразия в точке р совпали с координатными подпространствами Ш^ и М""*' соответственно. Так как устойчивые и неустойчивые многообразия для д и для / имеют касания бесконечной кратности, можно сопрячь д, используя некоторый диффеоморфизм, имеющий касание бесконечной кратности с тождественным, для которого возникающие в результате устойчивое и неустойчивое многообразия совпадают с соответствующими многообразиями /. По лемме о продолжении 6.2.7 существует пара С°°-диффеоморфизмов М", сохраняющих начало координат, совпадающих с координатными представлениями fug соответственно в некоторой окрестности начала координат и с линейной частью fag вне некоторой большей окрестности, сохраняющих М* и М"~* и С^-близких к их общей линейной части. Мы будем по-прежнему обозначать эти отображения /ид. Тогда отображение а:= f ~ д имеет нулевые струи всех порядков в начале координат и само обращается в нуль вне некоторой окрестности начала координат. Покажем теперь, что отображение а может быть разложено в сумму а = а+ + а-, (6.6.9) где а"^ и все его струи исчезают на М*', а а~ и все его струи исчезают на М""*. Затем мы построим сопряжения отображений / и го:=/ + а",
290 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ а также w ц д, имеющие касания бесконечной кратности с тождественным отображением. Чтобы получить разложение (6.6.9), рассмотрим такую С°°-функцию р на единичной сфере 5, что р = 1 на пересечении S с горизонтальным конусом ■^1/2 и уо = О на пересечении 5 П V^^g' ^ положим а"~(х) = а(х)/?(х/||х||) для х ^0 и а"(0) =0. Далее, положим а"'' = а — а". Это и будут искомые фз^кции. Осталось только проверить, что они С°°-гладки в начале координат. Заме- = о(||с||"*) и что ТИМ, что для к sNq и msN выполнено равенство \\D^a{x) производные р ограничены. Используя цепное правило, нетрудно видеть, что выражение для D^a~ вне любой окрестности начала координат представляет собой полином от производных а, уО и \х -\ и что каждый одноч- О X лен содержит отображение а или некоторые из его производных. Из этого '*), и потому функция а~ является С°°-глад- t е [О, 1]. Будем искать такое семейство следует, что D^a~(x кой. Пусть теперь f^'.= f -f tct' С°°-диффеоморфизмов /i^, что Это семейство порождается семейством векторных полей (6.6.10) V ds a = t Дифференцируя соотношения h^ oh~^ ^ ft= fa^ К ° '^Г' "^ ^» мы получаем '^t''ft~^ft('"t) = <^ или ^*~(Л)*^*=о= °л ^ где f^v = Df{voF ^). Обращая оператор Id — (/J. и формально используя формулу суммы бесконечной геометрической прогрессии, мы получаем оо оо V J2(fx<^-^ft-' = Е ^/*"*«" ^-^г"*"' (6.6.11) та:=0 т=0 Чтобы показать, что v^ является С°°-векторным полем в окрестности начала координат, мы должны проверить, что эта сумма сходится в С°°-топологии, т. е. что суммы к-х производных сходятся для всех к sNq. Аналогичная ситуация вп^вые встретилась нам на пятом шаге доказательства теоремы Адамара — Перрона 6.2.8. Отметим, во-первых, что по цепному правилу и правилу дифференцирования произведения к-я производная тп-кратной композиции растет со скоростью, не превышающей С""7п'*', где константа С есть верхняя граница производных отдельных членов порядков не выше к . Таким образом, к-я производная /""*"^ растет не более чем с экспоненциальной скоростью с ростом т. Рассмотрим теперь к-ю производную отображения ot~of~^~ ^ По цепному правилу она представляет собой полином от производных а" и /("""\ и каждый член содержит производную а" или собственно отображение а", посчитанное в точке /""*"\ т. е, в точке, экспоненциально близкой к М*. Следовательно, эти сомножители суперэкспоненциально малы по построению а", и потому к~я производная
§ 6.6. ГЛАДКАЯ ЛОКАЛЬНАЯ ЛИНЕАРИЗАЦИЯ И НОРМАЛЬНЫЕ ФОРМЫ 291 функции а"оЛ""*"^ стремится к нулю с суперэкспоненциальной скоростью при т —> оо. И вновь к-я производная всего слагаемого является полиномом, члены которого содержат только производные композиции a'off^^-K Таким образом, каждый такой член суперэкспоненцилаьно мал (потому что он является произведением суперэкспоненциально малого множителя на т ограниченных множителей), так что к-е производные слагаемых сходятся к нулю с суперэкспоненциальной скоростью. Таким образом, мы получаем нужное нам семейство h^ и, следовательно, сопряжение / с /-fa". Второе сопряжение (/-fa" с д) строится аналогично, с использованием положительных итераций / и а"^ вместо а". D Итак, мы завершили доказательство следующей теоремы Стернберга о линеаризации. Теорема 6.6.6. Предположим, что f —такой С°°-диффеоморфизм с гиперболической неподвижной точкой р, что линейная часть / в точке р не имеет резонансов. Тогда в некоторой окрестности точки р диффеоморфизм / С°°-сопряжен со своей линейной частью. На самом деле из предыдущих соображений вытекают результаты относительно С°°-сопряженности даже при наличии резонансов. Теорема 6.6.7. Предположим, что / —такой С^-диффеоморфизм с гиперболической неподвижной точкой р, что линейная часть / в точке р диагональна и нормальная форма / вблизи р представляет собой сходяи^ийся степенной ряд. Тогда диффеоморфизм / локально С°°-сопряжен со своей нормальной формой. Доказательство. Во-первых, рассуждения, приведенные после определения 6.6.2, позволяют построить формальное сопряжение / с его нормальной формой, так что по предложению 6.6.3 мы получаем сопряжение с некоторым отображением, имеющим касание бесконечной кратности с нормальной формой /. Применение теоремы 6.6.5 завершает доказательство. D Даже для аналитических отображений их нормальная форма может не быть сходящейся. Однако имеется несколько случаев, когда эта сходимость гарантирована. Первый — это случай сжимающих отображений. В этом случае имеется лишь конечное число резонансов (а именно, не более чем ~logr(Df~^)/\ogr{Df), где г обозначает спектральный радиус) и, следовательно, нормальная форма полиномиальна. В частности, мы можем исключить все резонансы с помощью условия связывания (см. также (19.1.1)). Следствие 6.6.8. Пусть / —такой С°°-диффеоморфизм с гиперболической неподвижной точкой р, что дифференциал Df\p диагоналей и - log r{Df-^)/ log r{Df) < 2. Тогда диффеоморфизм f гладко линеаризуется в окрестности р. Упражнение 6.6.1 показывает, что это условие нельзя улучшить, т. е. в предположении нельзя поставить нестрогое неравенство вместо строгого. Предположение о диагонализируемости линейной части отображения на самом деле использовалось только в формальной части рассуждений. Без больших затруднений можно модифицировать нашу технику таким ^образом, что она будет работать и при наличии нетривиальной жордановой нормальной формы в качестве линейной части. В частности, следствие 6.6.8 остается в силе без предположения о диагонализируемости.
292 Часть 2. Гл. 6. ЛОКАЛЬНАЯ ГИПЕРБОЛИЧЕСКАЯ ТЕОРИЯ И ЕЕ ПРИЛОЖЕНИЯ В заключение отметим, что методы этого параграфа могут быть применены и для локальной классификации отображений конечной гладкости, но с некоторой потерей гладкости. Этот факт сам по себе не удивителен, но нахождение оптимальных результатов, делающих эту потерю минимальной, требует использования гораздо более аккуратных оценок. Упражнения 6.6.1. Покажите, что отображение (х, у)\-*(Хху Л^у+ох^) не может быть С^-линеаризовано для любого Л е (0,1) и а^О. 6.6.2. Опишите формальный централизатор отображения из предыдущего упражнения, т. е. множество формальных степенных рядов, формально коммутирующих с этим отображением. 6.6.3. Предположим, что отображение /: R^ -* R^ С°°-гладко, /(0) = О и линейная часть этого отображения в О имеет вид ( i } ) для некоторого Л € (0,1). Покажите, что / гладко линеаризуемо. V " "^ / 6.6,4*. Пусть /: и -*R^ — такой локальный С°°-диффеоморфизм, сохраняюшлй площадь, что /(0) = 0 и отображение £>/о гиперболично. Докажите, что / формально сопряжен с формальным диффеоморфизмом 5(х, у) = (Лхы(х2/), \-^у{ш{ху))-^), (6.6.12) гдеш(*)=1+ J^ t»'jfe* —формальный степенной ряд н ш(*) —его формальный обратный ряд. 6.6.5. В условиях предыдущего упражнения докажите, что диффеоморфизм / С°°-сопряжен с отображением д^ задаваемым равенством (6.6.12), где ш — С°°-функцня произведения ху.
ГЛАВА 7 Трансверсальность и типичность В этой главе собраны некоторые результаты, касающиеся свойств, которыми обладает «большинство» динамических систем в различных естественных классах. Разумеется, прежде всего мы должны ввести естественные в том или ином смысле понятия «больших» и «маленьких» множеств в бесконечномерных пространствах. Главное утверждение в этой главе — теорема Купки — Смейла 7.2.6 — показывает, что в определенном (впрочем, довольно слабом) смысле гиперболическое поведение типично- В § 7.3 мы кратко коснемся очень важного понятия бифуркации, которое вводится для того, чтобы попытаться понять, как нарушается типичное поведение и как различные виды типичного поведения преобразуются друг в друга. § 7.1. Свойства «типичных» динамических систем 7.1 а. Массивные множества и множества первой категории. При изучении того, как различные инварианты (свойства) динамических систем изменяются с изменением системы, мы, естественно, предполагаем, что в рассматриваемом пространстве динамических систем задана некоторая топология, и, конечно, было бы лучше всего, если бы тот инвариант, который мы рассматриваем, вовсе не изменялся, по крайней мере локально, т. е. первоначальная система в заданной топологии изменяется незначительно. Это совершенно естественно с точки зрения приложений: если некоторая математическая модель описывает физическую систему, параметры последней обычно известны лишь с ограниченной точностью. Если данное конкретное свойство имеет место для открытого множества динамических систем и, следовательно, для открытого множества параметров, то оно должно, по всей видимости, отражать наблюдаемые свойства физической системы. Хороший пример такой ситуации представляет собой структурная устойчивость, по крайней мере с топологической точки зрения: малые возмущения не изменяют никаких топологических свойств структурно устойчивой системы. Это утверждение должно быть уточнено для потоков, поскольку в этом случае структурно устойчивые системы могут допускать нетривиальные замены времени, так что сохраняются только те свойства структуры орбит, которые не чувствительны к заменам времени. Для структурно неустойчивых систем различные элементы структуры орбит все еще могут быть устойчивыми. Например, С^-возмущения сохраняют гиперболические периодические точки (предложение 1.1.4). Однако ограничение на норму возмущения, сохраняющего те или иные элементы структуры орбит, например различные гиперболические периодические точки, не равномерно, и при разрушении устойчивости данного свойства нередко возникают различные патологии. Это обстоятельство указывает на то, что
294 Часть 2. Гл. 7. ТРАНСВЕРСАЛЬНОСТЬ И ТИПИЧНОСТЬ В структурно неустойчивом случае удовлетворительное описание структуры орбит открытого множества динамических систем в целом может отсутствовать. Вместо этого можно попытаться установить факты, верные для «большинства» систем, т. е. описать «типичную» систему. Уже для семейства систем, гладко зависящих от конечного множества параметров, существуют два конкурирующих понятия «типичности». Первое использует естественную меру (меру Лебега) на пространстве параметров: свойство называется типичным для определенной области D параметров, если оно выполнено для всех значений параметров в JD за исключением множества меры нуль; свойство считается существенным, если оно имеет место на некотором множестве параметров положительной меры. С другой стороны, можно считать «большими» открытые плотные множества и называть свойство типичным, если оно выполняется для множества параметров, являющегося пересечением счетного множества открытых плотных подмножеств D. Основанием для этого служит теорема Бэра П. 1.22: в полном метрическом пространстве пересечение счетного множества открытых плотных множеств плотно. Пересечение счетного множества открытых множеств называется множеством типа G^. Множество называется массивным, если оно содержит плотное подмножество типа G^. Множество называется нигде не плотным, если внутренность его замыкания пуста. Примерами нигде не плотных множеств являются дополнения открытых плотных множеств. Счетные объединения нигде не плотных множеств называются множествами первой категории. Из теоремы Бэра следует, что совокупность массивных множеств замкнута относительно операции счетного пересечения, подобно совокупности множеств полной меры. Дополнение массивного множества, очевидно, является множеством первой категории. Таким образом, совокупность множеств первой категории, замкнутая относительно операции счетного объединения, может рассматриваться как топологический аналог совокупности множеств меры нуль. Из теоремы Бэра следует, что множества первой категории несущественны в следующем смысле: рассмотрим множество F первой категории и непустое открытое множество и. Тогда множество {X\U)\JF не может быть массивным. Упражнения 7.1.4 и 7.1.5 показывают, что существуют массивные множества лебеговой меры нуль, так что эти два понятия «типичности» на самом деле весьма далеки друг от друга. При переходе к бесконечномерным пространствам теряется понятие «типичности» в смысле теории меры, поскольку в интересующих нас бесконечномерных пространствах динамических систем не существует естественного класса мер. Топологическое понятие, однако, по-прежнему существует. Мы будем называть типичные в этом смысле диффеоморфизмы и векторные поля o6utfUMU или диффеоморфизмами (векторными полями) оби^его положения и исследовать определенные свойства таких диффеоморфизмов и векторных полей в С-топологии. Подчеркнем, что С°-топологая с этой точки зрения занимает совершенно особое положение. Основные топологии в пространствах динамических систем рассмотрены в приложении к этой книге. Подчеркнем, что, хотя С°-топологая очень удобна для проведения рассуждений, используюпщх компактность (благодаря теореме Арцела — Асколи П 1.24), общие в смысле С**-топологии свойства отображений и гомеоморфизмов могут оказаться довольно патологическими ^см. упражнения 7.1.9 и У.1.10). Причиной этого является все та же теорема Арцела — Асколи, которая утверждает, что любое множество регулярных
§ 7.1. СВОЙСТВА «таПИЧНЫХ» ДИНАМИЧЕСКИХ СИСТЕМ 295 (дифференцируемых, липшицевых, гёльдеровых) отображений сг-компактно в C(XjX) и, следовательно, является довольно «тощим», в частности оно будет множеством первой категории (см. упражнения 7,1.2 и 7.1.8) [^]. 7.1 6. Гиперболичность и массивность. Мы увидим, что ключевым понятием при работе с «общими» в смысле С-топологаи для г ^ 1 свойствами является понятие трансверсальности. В случае неподвижной или периодической точки трансверсальность означает, что единица не является собственным значением дифференциала отображения в этой точке (см. определение 7.2.1 и предложение 7,2.2). Предложение 1.1.4 показывает, что такие точки действительно устойчивы как изолированные неподвижные точки. При этом неподвижная точка возмущенного отображения также трансверсальна. Самый простой способ убедиться в этом состоит в том, чтобы ввести локальные координаты в окрестности данной неподвижной точки р отображения / и представить дифференциал Df^^ в виде матрицы. Пусть q —неподвижная точка возмущенного отображения д. Так как д близко в С^-топологии к /, матрица Dg^ близка к матрице Df^. Так как собственные значения матрицы являются корнями характеристического полинома и, следовательно, непрерывно зависят от коэффициентов матрицы (см. упражнение 1.2.2), единица не является собственным значением Dg^, если д достаточно близко в С^-топологии к /, и, следовательно, q является трансверсальной неподвижной точкой отображения д. Это соображение работает и для периодических точек, показывая, кстати, что гиперболические периодические точки остаются гиперболическими при малых возмущениях. Следующий простой пример показывает, что трансверсальность существенна для устойчивости неподвижной точки. В любой естественной топологии, скажем, в С-топологии при О < г ^ оо, можно рассмотреть вопрос, является ли наличие неподвижной точки свойством, сохраняющимся при возмущениях, т. е. если М—-гладкое многообразие, / € Diff(M), х е М изолированная неподвижная точка / и отображение д е Diff(M) «достаточно близко» к /, то верно ли, что вблизи х найдется неподвижная точка р? Ответ, вообще говоря, отрицателен: диффеоморфизм /: IR -+ R, /; х1-+х-1-х^/(1-1-х^), впервые встретившийся нам в упражнении 2.1.3, имеет единственную неподвижную точку О, тогда как отображение / Н- г вовсе не имеет неподвижных точек ни для какого г > О, Этот пример не связан со свойством компактности, как это может показаться: если М= S^ = IR/Z и /(х) = х-1-1/(27г) sin^TTx (mod 1) (см. рис. 3.3.1), то О — единственная неподвижная точка отображения /, а / -h г не имеет неподвижных точек при 0<г< 1/2. Таким образом, предложение 1.1.4 без предположения трансверсальности не имеет места. Однако в следующей главе мы увидим (см. теорему 8.4.4), что некоторое чисто топологическое свойство изолированной неподвижной точки, а именно отличие ее индекса от нуля (определение 8.4.2), является достаточным для того, чтобы неподвижная точка сохранялась при С°-возмущениях. В следующем параграфе будет показано, что некоторое свойство, присущее гиперболическому поведению, а именно гиперболичность всех периодических точек, является общим свойством, т. е. свойством, истинным для плотного в С^-топологии множества С-диффеоморфизмов типа G^ (теорема Купки — Смейла 7.2.6). Так как локальное топологическое поведение диффеоморфизма в окрестности гиперболической периодической точки хорошо изучено (благодаря теореме Хартмана — Гробмана 6.3.1), вышеопи-
296 Часть 2, Гл, 7. ТРАНСВЕРСАЛЬНОСТЬ И ТИПИЧНОСТЬ санное свойство дает определенное понимание структуры орбит «большинства» систем. В следующей главе будут разработаны технические средства для подсчета числа периодических точек с некоторыми кратностями (называемыми индексами) (см, формулу Лефшеца для числа неподвижных точек (8.6,1) и ее следствия). Поскольку ддя гиперболических периодических точек эти кратности всегда равны ±1, тем самым получаются эффективные нижние оценки на рост числа периодических точек для общих в этом смысле систем. Упражнения 7.1.1. Докажите, что замкнутое множество в метрическом пространстве является множеством типа Gg, 7.1.2. Докажите, что ir-компактное подмножество бесконечномерного банахова пространства является множеством первой категории. 7.1.3. Для данного с € (0,1) постройте открытое плотное подмножество отрезка [0,1] меры с. 7.1.4. Используя предыдущее упражнение, постройте плотное множество типа G^ меры нуль и множество первой категории и полной меры. 7.1.5. Докажите, что множество диофантовых вещественных чисел (см. определение 2,8,1) имеет полную меру (т. е, его дополнение имеет меру нуль) и является множеством первой категории, 7.1.6. Покажите, что для данной положительной функции /: N-* R множество чисел а € R, для которых существует такое о О, что а — ^ > cf(q) для всех взаимно простых р, g € Z, является множеством первой категории, 7.1.7. Покажите, что для любой С°°-функЦИи / на окружности 5^, не являющейся тригонометрическим полиномом, когомологическое уравнение ip(x)-^(x-a) = f'' \ f не имеет решения tp е L^ для некоторого массивного множества параметров а, но имеет С°°-решение для некоторого множества параметров а полной меры. 7.1.8. Пусть ш: [0,1]-*R —модуль непрерывности, т, е, такая непрерывная возрастающая функция, что ш(0) = 0. Докажите, что в пространстве С([0,1]) непрерывных функций на единичном отрезке функции с модулем непрерывности ш, т, е. такие функции, что существует е > О, для которого [/(ж) — f(y)\ ^ <^(\^ — у\) при [х — г/| ^ е, образуют множество первой категории, 7.1.9. Докажите, что функции /, для которых существует такой интервал (а, 6) с [0,1 ], что / монотонна на нем, образуют множество первой категории в С([0,1]). 7.1.10. Докажите, что в пространстве Нот([0,1]) гомеоморфизмов отрезка [0,1] имеется массивное подмножество гомеоморфизмов с несчетным количеством неподвижных точек. § 7.2. Динамические системы общего положения с гиперболическими периодическими точками 7.2 а. Трансверсальные неподвижные точки. Пусть М — гладкое многообразие, /: М-^ М—диффеоморфизм этого многообразия. Неподвижные точки диффеоморфизма / соответствуют пересечениям графика aph/ = {(x,/(х))€ М X М\хе М} с диагональю Д = {(х, х)€ М х М}, гот (Ьакт объясняет следующее опоелеление.
§ 7.2, ОБЩИЕ СИСТЕМЫ С ГИПЕРБОЛИЧЕСКИМИ ПЕРИОДИЧЕСКИМИ ТОЧКАМИ297 Определение 7,2,1. Неподвижная точка p = f(p) гладкого отображения f: М -^ М называется трансверсальной неподвижной точкой, если graph/fti(^pj А в МхМ, Выше было отмечено, что сохранение таких неподвижных точек связано с предложением 1.1,4. Природу этой связи проясняет следующее предложение. Предложение 7.2,2, Неподвижная точкар отображения f: М-^ М трансверсальна тогда и только тогда, когда единица не является собственным значением дифференциала Df^, Доказательство, Если точка р не трансверсальна, то Т^ ^j graph /-1- -f T(^pjA^ ^(p,p)(-^ ^ ^) ^» следовательно, поскольку dim T^^jgraph/ = = dim T(p^pjA=aim Т^М = й\т T^p^(MxM)/2, существует отличный от нуля вектор ve 7J jgraph/П Т^^^^. Но тогда существует такой вектор we € ТрМ, что (w, (Dfp)w) = v = (w,w) и w = DfpW — собственный вектор с собственным значением единица. Легко видеть, что данное доказательство проходит и в обратную сторону, П Используя это предложение и утверждение о сохранении трансверсаль- ных пересечений при гладком сопряжении (предложение П 3,16), можно получить новое доказательство предложения 1,1.4, Можно ввести понятие трансверсальности критических точек функций как частный случай трансверсальности неподвижных точек отображений. А именно, пусть /: М—*-М является С^-функцией. Тогда отображение сдвига за единичное время градиентного потока является С ^-диффеоморфизмом относительно любой римановой метрики и его неподвижные точки — это в точности критические точки /. Таким образом, мы называем критическую точку р функции / невырожденной, если она является трансверсальной неподвижной точкой отображения сдвига за единичное время градиентного потока /. Чтобы показать, что это определение корректно, мы должны доказать, что оно не зависит от выбора римановой метрики для построения градиентного потока. Для этого выберем ортонормированный базис в пространстве Т М и локальные координаты в окрестности точки р так, что этот базис есть |^, ^^^•>Ш~\^ "^огда дифференциал отображения сдвига за единичное время градиентного потока равен ехр Я", где Н — гессиан (т, е. матрица вторых частичных производных) / в точке р в выбранных координатах, В частности, точка р невырождена тогда и только тогда, когда det if ^0- Как хорошо известно из курса математического анализа, количество положительных, отрицательных и равных нулю собственных значений Н не зависит от выбора локальных координат и, следовательно, от выбора римановой метрики. Невырожденные критические точки изолированы (см. упражнение 7.2.3). Локальная структура функций вблизи таких точек описывается предложением 9Л.1. Определение 7.2.3. С^-функция /: М-+ М на дифференцируемом многообразии М называется функцией Морса, если все ее критические точки невырождены. 7.2 б. Теорема Купки — Смейла. Применяя теорему о трансверсальности П 3.20 к графикам диффеоморфизмов, т. е. к случаю, когда множество -/V = А является диагональю в декартовом квадрате, мы получаем следующее утверждение.
298 Часть 2. Гл. 7, ТРАНСВЕРСАЛЬНОСТЬ И ТИПИЧНОСТЬ Теорема 7.2.4. Пусть 0<г<оо и М — некоторое С -многообразие. Для любого п € N множество отображений f е Diff*(M), имеюи^их только трансвереальные периодические точки периода не более чем п, открыто в С ^-топологии и плотно в С-топологии. Далее мы покажем, что диффеоморфизмы общего положения имеют только гиперболические периодические точки. Это часть утверждения теоремы Купки — Смейла 7.2.6. Самый простой класс орбит после периодических — орбиты, сходящиеся к некоторой периодической точке. Напомним, что по определению 6.5.4 точка q называется гомоклинической для периодической точки р, если Игл ^(/"(р), /"(g)) = 0, и гетероклинической для пары периодических то- |п|-*оо чек р^ и р_, если lim «^(/"(р±), P(q)) = 0. Если эти периодические точки гиперболические, то гомоклинические и гетероклинические точки являются пересечениями соответствующих устойчивых и неустойчивых многообразий (см. §§ 4 введения, 6.2 и 6.5). Легко видеть, что если такое пересечение нетрансверсально, то гомоклиническая (гетероклиническая) орбита может не быть гиперболической в том смысле, что ее замыкание (которое содержит саму орбиту, а также точки р и д) не является гиперболическим множеством (см. упражнение 7.2.8). Теорема Купки — Смейла утверждает, что периодические орбиты общего положения являются гиперболическими и все гомоклинические и гетероклинические орбиты трансверсальны. Как мы видели в § 6.5, присутствие трансверсальной гомоклинической точки влечет значительную сложность структуры орбит. Определение 7.2.5. Пусть М — С'-многообразие и / € Diff* (М). Диффеоморфизм / называется диффеоморфизмом Купки — Смейла порядка п (относительно данной римановой метрики), если все периодические точки периода не более чем п являются гиперболическими и шар радиуса п в устойчивом многообразии любой точки X е Fix(/'*) трансверсален к шару радиуса п в неустойчивом многообразии любой точки у € Fix(/'*). Диффеоморфизм / называется диффеоморфизмом Купки — Смейла, если он является диффеоморфизмом Купки — Смейла любого порядка. Теорема 7.2.6 (теорема Купки — Смейла). Пусть О < г < А; < оо иМ — компактное С^ -многообразие. Тогда для любого п € N множество диффеоморфизмов Купки — Смейла порядка п плотно в С-и открыто в С ^-топологиях в Diff''(M) w, следовательно (по теореме Бэра), множество диффеоморфизмов Купки — Смейла—плотное в С-топологии и имеюи^ее тип G^ в С^-топологии подмножество множества Diff(M). Доказательство. Покажем, что множество диффеоморфизмов Купки— Смейла данного порядка открыто в С ^-топологии. Это следует из тех фактов, что, во-первых, множество диффеоморфизмов, все периодические точки которых являются гиперболическими, открыто з С ^-топологии и в силу компактности существует лишь конечное множество периодических точек любого данного периода (если все они гиперболические) и, во-вторых, устойчивое и неустойчивое многообразия (с С^-топологией) непрерывно зависят от отображения, так что, поскольку трансверсальность является открытым условием (по следствию П 3.18), условие трансверсальности замкнутых п-шаров в устойчивом и неустойчивом многообразиях также открыто. Теперь установим плотность в С"-топологии множества таких диффеоморфизмов, которые имеют только гиперболические периодические точки. По
§ 7.2. ОБЩИЕ СИСТЕМЫ С ГИПЕРБОЛИЧЕСКИМИ ПЕРИОДИЧЕСКИМИ ТОЧКАМИ299 теореме о трансверсальности П 3.20 достаточно показать, что любой диффеоморфизм / € Diff (М), имеющий только трансверсальные периодические точки, может быть аппроксимирован в С*'-топологаи диффеоморфизмами р € Diff*(M), имеющими только гиперболические периодические точки. Лемма 7.2.7. Если диффеоморфизм /€Diff''(M) имеет только трансверсальные периодические точки периода п и €>0, то суи^еству- ет диффеоморфизм p€Diff''(M), имеюи^ий только гиперболические периодические точки периода п и е-близкий к f в С-топологии. Доказательство. Рассмотрим сначала неподвижные точки. По предложению 1.1.4 трансверсальные неподвижные точки изолированы, так что мы можем выбрать попарно непересекающиеся открытые множества О^, покрывающие Fix(/), так, что каждое множество О,- целиком содержится в некоторой координатной окрестности на М. Пусть р^ — неподвижная точка из Oi- Выберем достаточно малые числа 8^, 82, 0<8.<8^, и С'^-функ- цию р на положительной полупрямой так, что р = 1 на [О, ^j ] и р = О вне [О, ^з]- Пусть р, = 1 Ч- 5р, и пусть ф: О^. -^ R"* — такая карта, что ij;{p.) = 0. Рассмотрим семейство отображений /,, которые совпадают с / вне О,- и имеют вид /,(x) = '0"4p5(IIV'(^)II)V'(/(^)))- Тогда /, -»■/ в С°°-топологии при 5 -^ О и, таким образом, для достаточно малого s отображение /, является С°°-диффеоморфизмом, близким к / в С-топологии, с единственной неподвижной точкой Pi в О^. Кроме того, р,- — гиперболическая неподвижная точка для /,, поскольку все собственные значения дифференциала Dj^f, не лежащие на единичном круге, равномерно отделены от него, так что спектр дифференциала spec(Z)p/J = (1 Ч-s)spec(Dp/) не пересекает единичный круг. Зафиксировав любое такое число s и проделав описанную процедуру последовательно для всех р,- € Fix(/), получаем наше утверждение для неподвижных точек. Пусть теперь точка р является периодической наименьшего периода п > 1. Выберем окрестность U точки р так, что образы f*(U), г =0,1,... ..., п - 1, попарно не пересекаются и ни один из них не содержит никакую другую периодическую точку периода п или меньше. Введем систему координат в С/, перенесем ее в f*{U), г = 1,...,п —1,и рассмотрим отображения f\r-'[u)nr'(u)- Теперь выберем маленький диск Г>С/""^(17) П/^'(17), содержащий точку /"Чр) = /"~Чр)> и будем далее действовать точно так же, как в доказательстве для неподвижных точек. Возникающее в результате возмущение совпадает с / вне диска V, имеет в V одну гиперболическую периодическую точку периода п, и никаких других периодических точек периода п или меньше. П Из утверждения леммы следует плотность в С""-топологии множества диффеоморфизмов, имеющих только гиперболические периодические точки данного периода: в силу плотности в С""-топологии множества диффеоморфизмов / е Diff*(M), имеющих только трансверсальные периодические точки периода п (теорема 7.2.4), мы получаем плотность в С"-топологии множества диффеоморфизмов /€Diff*(M), имеющих только гиперболические периодические точки периода п. Мы уже знаем, что это последнее множество открыто в С"-топологии, а следовательно, и в С"-топологии, так что оно открыто и плотно в С"-топологии. Взяв пересечение по всем натуральным п, по теореме Бэра П 1.22 мы опять получаем плотное множество.
300 Часть 2. Гл. 7. ТРАНСВЕРСАЛЬНОСТЬ И ТИПИЧНОСТЬ Наконец, покажем, что диффеоморфизм, имеющий только гиперболические периодические точки, может быть возмущен в С'-топологии так, чтобы в результате получился диффеоморфизм Купки — Смейла порядка п. Поскольку условие трансверсальности замкнутых п-шаров в устойчивом и неустойчивом многообразиях любых двух периодических точек открыто и существует лишь конечное множество периодических точек, достаточно показать, что отображение с двумя гиперболическими периодическими точками р и q может быть возмущено так, что W*(p)ft) W"(g). Посколь- оо ку для любого диска И^^(р) С W'(p) мы имеем W'{p) с U /"*"(И^м(р)), где п —наименьшее общее кратное периодов точек р и q, достаточно показать, что существует возмущение д диффеоморфизма /, для которого р и q являются периодическими точками, и Щ^(р) fh W'^(q), Пусть WZ{q) с С И-"(д)-такой диск, что Ж«(^)сГ(Жо"с(9)) и Ж4(р)ПГ(Ж,",(д5) = 0. Если ^i(p)^/*"(^to"c(^)) для всех fc €N, то утверждение леммы доказано. В противном случае пусть т равно максимуму таких чисел fc, для которых последнее условие выполняется. Тогда И^ос(р)^/'"'*(Жм(^))» ^ "^^ время как ^toc(p) и /*'"'^^^"(И^«(д)) не трансверсальны. Пусть V — окрестность множества /'""(И^«(д))\/*'""^^"(И^^с(^))- Использование той же конструкции, что и во второй части доказательства теоремы о трансверсальности П 3.20, позволяет найти такой диффеоморфизм р, сколь угодно близкий к тождественному в С"-топологии (для данного г), что д является тождественным отображением вйе V и множество Р(;/"'"(Ж«(^))\/*"*"^^"(Ж«(^))) трансверсально к И^^(р). Полагая теперь f =до f^ получаем нужное нам возмущение. D Замечание. Заметим, что предположение о компактности может быть ослаблено до <т-компактности, так как достаточно гарантировать наличие не более чем счетного множества периодических точек любого данного периода. Применяя теорему Купки — Смейла к градиентному потоку функции и замечая, что С"+^-топология для функций переходит в С'-топологию ддя градиентных потоков, мы получим такое следствие. Следствие 7.2.8. Пусть 2 ^ г ^ оо, и пусть М — гладкое многообразие. Тогда множество функций Морса (см. определение 7.2.3) является плотным в С -топологии и открытым в С^-топологии подмножеством пространства С -функций на М. Другое применение теоремы Купки — Смейла дает описание структурно устойчивых диффеоморфизмов отрезка. Предложение 7.2.9. Сохраняюи^ий ориентацию С-диффеоморфизм отрезка [О, 1] структурно устойчив в С^-топологии тогда и только тогда, когда он является диффеоморфизмом Купки — Смейла порядка один. Доказательство. Пусть диффеоморфизм / € Diff ([О, 1]) сохраняет ориентацию и имеет только гиперболические неподвижные точки. Занумеруем их в пор5щке возрастания: 0 = а^<х, <...<х^ = 1. Тогда эти точки поочередно являются притягивающими и отталкивающими. Таким образом, для любого малого С^-возмущения д существуют (их будет в точности fc + l) такие неподвижные точки О = %,..., y^t = 1, что у,- близки к х. и они одновременно являются притягивающими либо отталкивающими. Непосредственное применение предложения 2.1.7 показывает, что диффеоморфизм
ОБЩИЕ СИСТЕМЫ С ШПЕРБОЛИЧЕСКИМИ ПЕРИОДИЧЕСКИМИ ТОЧКАМИ301 f\[x.,x, J топологически сопряжен с д\[у_^у у Склейка всех таких сопрягающих отображений дает сопряжение f с д. Наоборот, предположим» что диффеоморфизм / структурно устойчив и имеет нетрансверсальную неподвижную точку Xq, т. е. такую точку, что /'(а^)= 1. По теореме Купки — Смейла у диффеоморфизма / существуют только изолированные неподвижные точки, потому что в любой окрестности / найдется диффеоморфизм Купки — Смейла, а следовательно, диффеоморфизм Купки — Смейла. топологически сопряженный с /. Поскольку f'(xQ) = l, существует сколь угодно малое С^-возмущение /, имеющее отрезок с концами в неподвижных точках, содержащий Xq, т. е. диффеоморфизм / не является структурно устойчивым, что приводит к противоречию. Такое отображение может быть построено с помощью метода, используемого в лемме о продолжении 6.2.7, а именно путем построения приближения, которое совпадает с линейной частью в окрестности неподвижной точки. D Из этого предложения и из теоремы Купки — Смейла легко получить такое следствие. Следствие 7.2.10. Множество структурно устойчивых в С^ -топологии сохраняюи^их ориентацию С-диффеоморфизмов отрезка [О, 1] плотно в С^ -топологии. Понятие трансверсальности играет также существенную роль в контексте теоремы Купки — Смейла для потоков. Имеются два различных элемента структуры орбит потоков, а именно неподвижные и периодические точки, соответствующие периодическим орбитам отображений, и они должны рассматриваться отдельно. Мы уже ввели понятие гиперболичности для таких точек в определении 6.2.2. Определение 7.2.11. Неподвижная точка р локального потока называется трансверсалъной, если единица не является собственным значением дифференциала в точке р любого отображения сдвига за время £, 17^0. Равносильное требование состоит в том, чтобы нуль не был собственным значением линейной части векторного поля в точке р. Периодическая точка р периода t > О данного потока называется трансверсалъной, если единица является простым собственным значением дифференциала в точке р соответствующего отображения сдвига за время £. Равносильное требование состоит в том, чтобы р являлась трансвереальной неподвижной точкой отображения возвращения на трансверсальный к потоку маленький диск коразмерности один, содержащий р. В случае потоков устойчивое и неустойчивое многообразия гиперболических неподвижных точек и периодических орбит могут быть определены с помощью соответствующей модификации теоремы Адамара — Перрона 6.2.8, как предложено в упражнении 6.2.5. Соответственно можно говорить о трансверсальности относительно этих многообразий. Заметим, что такие многообразия состоят из орбит потока, так что трансверсальное nepej- сечение может возникнуть только при условии, что сумма их размерностей строго больше размерности многообразия. Определение 7.2.12. Гладкий поток называется потоком Купки — Смейла порядка t, если все неподвижные точки и все периодические орбиты периода, меньшего чем t, являются гиперболическими и t-шары в их устойчивом и неустойчивом многообразиях попарно трансверсальны. Поток называется потоком Купки — Смейла, если он является потоком Купки — Смейла порядка t для всех t > 0.
302 Часть 2. Гл. 7. ТРАНСВЕРСАЛЬНОСТЬ И ТИПИЧНОСТЬ Мы приводим теорему Купки — Смейла для потоков без доказательства. Изменения в доказательстве по сравнению со случаем дискретного времени достаточно рутинны, и настойчивый читатель, вне всякого сомнения, может выполнить их самостоятельно. Теорема 7.2.13 (Купка — Смейл). Пусть 0<r^fc^oo и М — компактное С*-многообразие. Тогда для любого t >0 потоки Купки— Смейла порядка t образуют С-плотное открытое в С^-топологии множество, и, следовательно, потоки Купки—Смейла образуют С-плотное Gg подмножество в С^-топологии пространства С-потоков. Существуют также аналоги теоремы Купки — Смейла для случая диффеоморфизмов и потоков, сохраняющих дополнительную структуру. Наиболее важные и часто используемые примеры таких структур — гладкие положительные меры (см. определение 5.1.1) и симплектические формы (^определение 5.5.7). Из-за наличия «встроенных» резонансов (6.6.4), (6.6.5) и (6.6.6) соотношение между гиперболичностью и массивностью изменяется. В случае размерности два симплектическая форма представляет собой просто элемент объема. Следовательно, случаи сохраняющего площадь и ориентацию отображения и симплектический случай совпадают. В этой ситуации имеются два собственных значения, Л и Л~^, и если точка транс- версальна, то Л ^ 1. Следовательно, либо число Л ^ 1 вещественно, либо Л комплексно, |А| = 1 и Л~^ = Л. Исключая случай, когда Л = —1, мы получаем две возможности: гиперболическую (Л вещественно) либо эллиптическую (|Л| = 1, Л 7^ ±1), обе из которых открыты. В случае обращающих ориентацию отображений собственные значения вещественны и любая трансверсальная точка гиперболична. Для сохраняющих объем отображений в случае размерности три или больше из резонансных условий (6.6.4) или (6.6.5) не следует неустранимого отсутствия гиперболичности. В этом случае можно возмутить любую трансверсальную неподвижную точку так, чтобы она стала гиперболической. Для симплектических отображений устойчивость негиперболических трансвер сальных точек может наблюдаться при любой размерности. Согласно упражнению 5.5.3 множество собственных значений линейного симплек- тического отображения в Е^" может содержать любое количество т ^п пар комплексно сопряженных собственных значений, модуль которых равен единице. Из предположения, что все эти собственные значения просты, немедленно следует, что наличие т различных пар комплексных собственных значений, модуль которых равен единице, является свойством, сохраняющимся при малых возмущениях линейного симплектического отображения, и, следовательно, то же верно для собственных значений дифференциала малого С^-возмущения симплектического отображения в трансверсаль- ной неподвижной точке. Если т = п, такая точка называется эллиптической. Таким образом, в то время как теорема Купки — Смейла без каких-либо изменений формулировки справедлива для сохраняющих объем отображений в случае размерностей не ниже трех, ее аналог для сохраняющих пло- шздь отображений в случае размерности два и для симплектических отображений гарантирует всего лишь массивность множества отображений, периодические точки которых трансверсальны, а собственные значения просты. Ключевой идеей доказательства этих утверждений является соответствующая модификация конструкции из доказательства леммы 7.2.7.
§ 7.2. ОБЩИЕ СИСТЕМЫ С ГИПЕРБОЛИЧЕСКИМИ ПЕРИОДИЧЕСКИМИ ТОЧКАМИЗОЗ Хотя МОЖНО было бы предположить, что диффеоморфизмы Купки — Смейла имеют более простую структуру орбит, чем близлежащие *нетранс- версальные» диффеоморфизмы, это не всегда верно. В качестве иллюстрации рассмотрим следующий важный пример. Пример. Как в п. 5.2 б, рассмотрим математический маятник, описываемый дифференциальным уравнением х + sin 2irx = О, т. е. системой обыкновенных дифференциальных уравнений X = и, г) = — sin 27ГХ для X € 5', и € Е. Это вполне интегрируемая система (см. § 1.5 и п. 5.5 д) с гамильтонианом Я(х, и) = и^ Ч-(l/(27r))cos27rx, инвариантным относительно потока. Напомним, что фазовое пространство системы представляет собой цилиндр и все орбиты лежат на линиях уровня Н = const, т. е. на некоторых замкнутых кривых, соответствующих колебаниям вокруг положения устойчивого равновесия (х, v) = (0,0), которые отделены от орбит с большей энергией, соответствующих вращениям, гомоклини- ческой петлей Н = 1/(27г), содержащей положение неустойчивого равновесия (х, v) = (1/2,0); см. рис. 5.2.1. Это, очевидно, довольно простая структура орбит как потока, так и отображения сдвига за единичное время; например, топологическая энтропия системы равна нулю. Но для отображения сдвига за единичное время для этого потока мы можем построить возмущение, обладающее трансверсальной гомоклинической точкой. Теорема Купки — Смейла (обобщенная на сг-компактный случай) гарантирует, что это возмущение может быть сделано таким, чтобы в результате получилось отображение Купки — Смейла. Как мы видели в § 6.5, наличие трансверсальной гомоклинической точки гарантирует существование сложного инвариантного относительно некоторой степени нашего отображения множества, на котором она топологически сопряжена с полным сдвигом а2 (§ 2.5) и, следовательно, обладает положительной топологической энтропией. Поскольку гомоклиническая орбита возмущения остается вблизи от кривой if = 1/(27г), это явление не связано с некомпактностью фазового пространства и на самом деле может быть воспроизведено для диффеоморфизмов компактных многообразий, например для возмущенного йгллиард- ного отображения в эллипсе (см. § 9.2). Другое важное замечание состоит в том, что утверждение о трансверсальности из теоремы Купки — Смейла не может быть обобщено на случай устойчивых и неустойчивых многообразий непериодических точек. Например, если Л — гиперболическое множество, то каждая точка Л обладает устойчивым и неустойчивым многообразиями (см. § 6.4), так что для установления тран1;версальности пришлось бы иметь дело с несчетным множеством точек. Нетрудно построить такой пример системы с двумя непересекающимися локально максимальными гиперболическими множествами, что касания между устойчивыми многообразиями точек первого множества и неустойчивыми многообразиями точек другого имеют место для открытого множества возмущений данного отображения [^].
304 Часть 2. Гл. 7. ТРАНСВЕРСАЛЬНОСТЬ И ТИПИЧНОСТЬ Упражнения 7.2.1. Покажите без нспользовання метода илн заключения предложения 1,1.4, что транс- версальные неподвижные точки изолированы. 7.2.2. Предположим, что дифференцируемое многообразие М <г-компактно, т. е. является счетным объединением компактных подмножеств. Покажите, что плотное подмножество Q^ множества диффеоморфизмов Diff(Af) относительно С^-топологии обладает лишь трансвер- сальнымн неподвижными точками. 7.2.3. Докажите, что если М — <г-компактное дифференцируемое многообразие, то плотное подмножество Gj множества Diff(Af) относительно С -топологии имеет лишь гиперболические неподвижные точки. 7.2.4. Докажите, что в условиях упражнения 7.2.2 плотное множество диффеоморфизмов О^ обладает только трансверсальными периодическими точками. 7.2.5. Докажите, что в условиях упражнения 7.2.3 плотное множество диффеоморфизмов Gj обладает только гиперболическими периодическими точками. 7.2.6. Покажите, что для любого диффеоморфизма с нетрансверсальной неподвижной точкой р существует произвольно малое G ^-возмущение, для которого р является неизолированной неподвижной точкой. Верно ли это утверждение для С*"-возмущений, если г > 1? 7.2.7. Докажите, что на компактном многообразии множество функций Морса открыто в g2(M). 7.2.8. Покажите, что нетрансверсальная гомоклнническая или гетероклиннческая орбита не может быть частью гиперболического множества. 7.2.9. Докажите аналоги предложения 7.2.9 н следствия 7.2.10 для обращающих ориентацию диффеоморфизмов отрезка. 7.2.10. Сформулируйте н докажите аналог предложения 7.2.9 для диффеоморфизмов окружности с неподвижной точкой. 7.2.11. Рассмотрим отрицательную величину функции высоты на «вертикальном» торе (см. рнс. 1.6.1). Покажите, что рнманова метрика на торе может быть возмущена таким способом, что отображение сдвига градиентного потока за единичное время является отображением Куп- ки — Смейла. § 7.3. Нарушение трансверсальности и бифуркации Трансверсальность сохраняется лля «большинства» индивидуальных динамических систем. Однако нередко возникают существенные изменения структуры орбит, когда система изменяется, скажем, как гладкая функция одного или нескольких параметров. Отсутствие трансверсальности вызывает два вида неустойчивого поведения орбит: неустойчивость внутри данной динамической системы и изменение качественной структуры орбит в результате малых возмущений системы. Второй аспект особенно важен потому, что обычно динамические системы, возникающие в приложениях, содержат параметры и очень важно понимать, как качественное поведение изменяется при изменении параметров. Таким образом, даже если для «типичных» значений параметров система не проявляет нетрансверсального поведения, например является структурно устойчивой или системой Куп- ки — Смейла, могут существовать такие значения параметров, при которых происходит переход от одного вида структуры орбит к другому. Такие изменения обычно называют бифуркациями. Бифуркации существенны для понимания свойств типичных систем, потому что они показывают, как «рождаются» различные типы трансверсального или типичного поведения. Теория бифуркаций — отдельное направление теории динамических систем. Она исследует семейства динамических систем с конечным числом
§ 7.3. НАРУШЕНИЕ ТРАНСВЕРСАЛЬНОСТИ И БИФУРКАЦИИ 305 параметров и типичные изменения различных свойств систем из таких семейств. Конечно, понятие трансверсальности играет ключевую роль в самом определении типичного семейства. Как и в случае анализа индивидуальных динамических систем, существуют локальные, полулокальные и глобальные проблемы теории бифуркаций. Не пытаясь представить ни краткий обзор этой темы, ни даже введение в нее, мы даем набросок некоторых идей этой теории, рассматривая самый простой и в известном смысле наиболее фундаментальный случай локальных бифуркаций. Слово «бифуркация» используется широко и даже, пожалуй, чересчур широко, и никакого соглашения относительно точного значения этого термина не существует. Мы будем понимать бифуркации в следующем ограниченном смысле. Предположим, что {fr}rei—однопараметрическое семейство динамических систем, определенных локально, полулокально или глобально, и определенное свойство сохраняется для значений т из открытого интервала J СI, но не сохраняется на любом большем интервале. Рассмотрим один из концов а интервала J. Мы будем называть эту точку бифуркационным значением параметра. Упомянутым свойством может быть структурная устойчивость, локальная устойчивость в окрестности периодической точки, характер периодической точки, свойство Купки — Смейла и т. д. 7,3 а. Структурно устойчивые бифуркации. Наиболее элементарные и хорошо изученные бифуркации связаны с локальным поведением вблизи неподвижной или периодической точки системы с дискретным временем или периодической орбиты потока. По следствию 6.3.4 гиперболические неподвижные и периодические точки локально структурно устойчивы. Оказывается, что появление собственного значения дифференциала, по абсолютной величине равного единице, приводит к потере этой структурной устойчивости. Таким образом, значения параметра, при которых возникают не гиперболические периодические точки, — первые кандидаты в бифуркационные значения. Предложение 7.3.1. Если f —локальный диффеоморфизм с неги- перболической неподвижной точкой р, то f не является локально структурно устойчивым вблизи р. Доказательство. Сначала допустим, что единица является собственным значением /. Мы построим два локальных диффеоморфизма /' и р, произвольно близкие к /, которые обладают различными структурами орбит. Сначала, как в доказательстве предложения 7.2.9, положим /' = D/. Этот диффеоморфизм в достаточно малой окрестности произвольно близок к /. Так как единица является собственным значением Df, найдется однопараметрическое семейство неподвижных точек, содержащее р. С другой стороны, произвольно близко к Df найдется гиперболическое линейное отображение L. Полагая g = h локально и используя лемму 6.2.7 о продолжении, мы получаем диффеоморфизм с изолированной неподвижной точкой. Такая же конструкция применяется в случае, когда Df имеет в качестве своего собственного значения корень из единицы, так как мы можем рассматривать вместо самого отображения его степени. В заключение, если Df обладает собственным значением, лежащим на единичной окружности и имеющим иррациональный аргумент, то всегда можно найти произвольно малое возмущение, переводящее это собственное значение в корень из единицы. D Определение 7.3.2. Семейство {Д} локально определенных С°°-диффеоморфизмов обладает структурно устойчивой бифуркацией при значении параметра Tq, если диффеоморфизм /^ локально структурно
306 Часть 2. Гл. 7. ТРАНСВЕРСАЛЬНОСТЬ И ТИПИЧНОСТЬ неустойчив и для любого однопараметрического семейства {дЛ локально определенных С°°-диффеоморфизмов, достаточно близких в С^-топологии к {Д}, существуют такое г > О, такая возрастающая пере параметризация <р(т) семейства {д^} и такое непрерывное однопараметрическое семейство {л^} локально определенных гомеоморфизмов, что 5^(^j = /i;'o^o/i^ (7.3.1) всюду в общей области определения. Структурно устойчивые бифуркации в одномерных ситуациях могут быть описаны без больших затруднений. В этом случае единственное собственное значение дифференциала в неподвижной точке вещественно и, следовательно, единственно возможные собственные значения на единичной окружности равны ±1. Таким образом, локальный диффеоморфизм /^ должен иметь собственное значение 1 или —1. Рнс. 7.3.1. Простейшая одномерная бифуркация Сначала рассмотрим случай, когда единица является собственным значением. Самая простая бифуркация появляется, когда график отображения имеет невырожденное касание с диагональю в точке бифуркации, локально не пересекая ее для любого большего близлежащего значения параметра, в то время как для меньших значений график пересекает диагональ трансверсально в двух близлежащих точках. Динамически это значит, что сжимающая и растягивающая неподвижные точки, существующие при каждом меньшем значении параметра, сливаются в точке бифуркации, образуя полуустойчивую точку (т. е. точку, притягивающую с одной стороны и отталкивающую с другой). Для больших значений параметра вблизи вовсе нет неподвижных точек. Конкретным примером этой ситуации служит семейство /,: хн-.х + х2 + г, (7.3.2) определенное вблизи точки х =0 для значений г, близких к нулю. Предложение 7.3.3. Бифуркация семейства (7.3.2) структурно устойчива, и в случае размерности один любая локальная структурно устойчивая бифуркация, происходяш,ая в неподвижной точке, в которой производная отображения равна единице, топологически эквивалентна (с точностью до изменения параметра) этой бифуркации.
§ 7.3. НАРУШЕНИЕ ТРАНСВЕРСАЛЬНОСТИ И БИФУРКАЦИИ 307 Доказательство. Прежде всего заметим, что для семейства (7.3.2) точки р^, в которых производная равна единице, совпадают с началом координат. Рассмотрим возмущение д^: х \-^ х-{-х^-{-т-{-7]^{х) системы (7.3.2) и заметим, что, решая уравнение р^ = 1, мы получаем 1 -l-2x-i-77^(x)= 1 или 7/^(х) = — 2х. Так как rj" мало, для нахождения решения х(г) этого уравнения, которое мало в С-топологии, можно использовать теорему о неявной функции. Таким образом, кривая ri-^ (х(г), д^(х(т))) трансверсальна диагонали и пересекает ее в единственной точке, т. е. при единственном значении Го параметра т. Заметим, что в силу выпуклости функции д^ (которая следует из выпуклости /) это означает, что для т>т^ график функции д^ не пересекает диагональ, в то время как для t<Tq пересечение состоит в точности из двух точек, одной отталкивающей и одной притягивающей. Используя, как в доказательстве предложения 2.1.7, метод фундаментальной области, мы немедленно получаем топологическую сопряженность с системой (7.3.2) для г < 0. Чтобы убедиться, что это единственно возможная структурно устойчивая бифуркация с собственным значением единица, допустим без потери общности, что бифуркация происходит в точке нуль и что бифуркационное значение параметра равно нулю. Сначала покажем, что касание в точке бифуркации невырождено, т. е. наличествует нетривиальный квадратный член. Если касание имеет более высокий порядок, то /о(х) = х -h о(х^). Тогда мы можем рассмотреть возмущение д^^ =/^4- гх^. Но для любого г > О и достаточно малых т^ и Т2 отображения д^^^ и р,. _g не сопряжены посредством близкого к тождественному гомеоморфизма. Для каждого значения г, близкого к нулю, существует единственная точ- о 2 г ка х(г), в которой /'(х)= 1, поскольку -4- ,^0, откуда по теореме о неявной Эх функции следует, что уравнение fr{^)= 1 имеет единственное решение относительно X, выражающееся через т. Бифуркация структурно устойчива, так что мы можем считать, что ^фО (иначе прибавление ет даст семейство с таким же свойством, т. е., по определению структурно устойчивой бифуркации, локально топологически сопряженное с семейством /^). Поскольку |:Л(х(.)) = (f)(х(.)) 4- /;g = f (х(.)) 4- ^ ^ §, Кривая г !-► (х(г), /г(х(г))) трансверсальна диагонали. Следовательно, с одной стороны от бифуркационного значения параметра неподвижных точек нет, а с другой стороны имеются две такие точки, одна отталкивающая и одна притягивающая, в силу выпуклости /^ вблизи х(г). П Подчеркнем, что, вообще говоря, возмущенное семейство не является дифференциально сопряженным с (7.3.2), даже после изменения параметра. Причина этого — присутствие двух неподвижных точек с одной стороны от бифуркационного значения. Как было показано в п. 2.1 в (следствие 2.1.6), отображения такого типа имеют бесконечно большое количество модулей гладкого сопряжения, так что, вообще говоря, два однопараметрических С"-семейства будут состоять из попарно С'-неэквивалентных отображений, независимо от параметризации. Предыдущее доказательство показывает, в частности, что не существует структурно устойчивых бифуркаций с производной единица, сохраняющих неподвижную точку. Самая простая бифуркация такого типа происходит
308 Часть 2. Гл. 7. ТРАНСВЕРСАЛЬНОСТЬ И ТИПИЧНОСТЬ В семействе х\-^ х-{- гх-{- х^ вблизи значения г = 0. Для г < О имеются Три неподвижные точки: устойчивая в х =0 и две неустойчивые, по одной с каждой стороны от устойчивой точки. При т = 0 они сливаются, и для г > О начало координат является изолированной отталкивающей точкой. Чтобы показать, что эта бифуркация не структурно устойчива, возмутим данное семейство следующим образом: х\-^ х-^-тх-^-ех^-hх^. Чтобы найти бифуркационные значения параметра, заметим, что график функции 2/ = = х-{-тх-{-€х^ + х^ касателен к диагонали у=х в точности в тех значениях (х, г), для которых график функции у=€х^-{-х^ касателен к прямой у = —гх. Как следует из рассмотрения графика у = гх^ -1- х^, это имеет место для двух значений г, и в каждом из них происходит структурно устойчивая бифуркация описанного выше вида. \, / и\ / Рнс. 7.3.2. Бифуркация удвоения периода Теперь рассмотрим структурно устойчивые бифуркации, когда производная обладает собственным значением —1. В этом случае неподвижная точка трансверсальна и, следовательно, сохраняется при возмущении. Естественно ожидать, что для структурно устойчивой бифуркации собственное значение меняется с меньшего чем —1 на большее чем —1 или наоборот, в то время как неподвижная точка остается изолированной. Это связано с возникновением орбиты периода два с одной стороны от бифуркационного значения. Поэтому такой тип бифуркаций называется бифуркацией удвоения периода. Типичный пример такого вида предоставляет семейство /Л^) тг + х^ вблизи г = 1. Квадрат этого отображения определяется по формуле /Л^) X [1-Ь(г-1)[г-ь1 + 2гг-2х2] + х2(х-2)]. Таким образом, мы находим периодические точки (периода два), отличные от нуля, решая уравнение (г - 1 )[Г + 1 + 2ГГ - 2x2] ^ ^2(д. _ 2) = 0. (7.3.3) Заметим, что член х^{х — 2) имеет двукратный корень в нуле и простой корень в точке х = 2. Добавляемый член (г— 1)[г-1-1-1-хт —2x2] ^pj^ малых
§ 7.3. НАРУШЕНИЕ ТРАНСВЕРСАЛЬНОСТИ И БИФУРКАЦИИ 309 Рис. 7.3.3. Вторая итерация значениях X мал по сравнению с членом (г—l)(r-l-l), так что для г> 1 уравнение (7.3.3) имеет два различных решения вблизи нуля и для т < 1 нет ни одного решения. Таким образом, мы можем описать динамику семейства /^ следующем образом. При г < 1 нуль является изолированной неподвижной точкой, сжимающей для /^. При г = 1 нуль — неподвижная вырожденная точка, все еще топологически сжимающая. Для г > 1 нуль — растягивающая неподвижная точка и появляются две новые сжимающие неподвижные точки. Так как нуль — изолированная неподвижная точка Д, эти две точки не являются неподвижными для /^ и, следовательно, это пара точек периода два. Отметим, что эта бифуркация выглядит подобно описанной выше (при рассмотрении семейства fi) не структурно устойчивой бифуркации (см. рис. 7.3.3). Рассуждая, как в доказательстве предложения 7.3.3, можно показать, что это структурно устойчивая бифуркация и она является единственной такой структурно устойчивой бифуркацией, что —1 есть собственное значение отображения при бифуркационном значении параметра (см. упражнение 7.3.3) П. В случае более высоких размерностей структурно устойчивые локальные бифуркации возникают, когда одно из собственных значений дифференциала диффеоморфизма равно 1 или —1, а остальные лежат вне единичной окружности. В качестве простого примера мы опишем семейство, получающееся как прямое произведение отображений (7.3.2) с линейным сжимающим отображением. Возникаюшле в результате бифуркации называются бифуркациями типа седло — узел. Притягивающие и отталкивающие неподвижные точки, которые возникали в одномерном примере (7.3.2), теперь являются седлом и фокусом соответственно (см. § 1.2). При приближении параметра к нулю они сливаются, и для значений параметра г >0 неподвижные точки отсутствуют. Таким образом, мы получаем следующую картину (см. рис. 7.3.4). 7.3 б. Бифуркации Хопфа. Для потоков понятие структурно устойчивой бифуркации может быть определено аналогично случаю дискретного времени, если заменить топологическую сопряженность орбитальной эквивалентностью, как мы делали в определении структурной устойчивости для потоков в § 2.3. Самая простая нетривиальная структурно устойчивая бифуркация для потоков вблизи неподвижной точки появляется в случае размерности два.
310 Часть 2. Гл. 7. ТРАНСВЕРСАЛЬНОСТЬ И ТИПИЧНОСТЬ Рис. 7.3.4. Бифуркация седло — фокус когда притягивающий фокус становится отталкивающим. Это соответствует наличию комплексно сопряженной пары собственных значений отображения сдвига за время ^, которая проходит через единичную окружность. В качестве примера приведем поток, порожденный системой обыкновенных дифференциальных уравнений dx dt {r-x^ -у^)х + Оу, вх + {т — х^ — у^)у. (7.3.4) Для т < о начало координат яв гивающим фокусом, поскольку IMgiV) ^2(г-.^ y'h (7.3.5) а это выражение отрицательно при т < 0. Для т — О начало координат все еще является глобально притягивающей точкой, поскольку согласно (7.3.5) —^^—^-^ < о вдали от О, но скорость притягивания уже не экспоненциальная. Если же т > О, то начало координат является отталкивающим фокусом. Здесь можно наблюдать новое явление. А именно, заметим, что —^^^—^ меняет знак на окружности ж^ -h у^ = т, которая, следовательно, инвариантна и на самом деле является притягивающей периодической орбитой (предельным циклом). Согласно нашему определению (использующему орбитальную эквивалентность) эта бифуркация структурно устойчива (см. упражнение 7.3.4). Существует аналог этой ситуации для систем с дискретным временем, который возникает, когда собственные значения отображения образуют комплексно сопряженную пару и пересекают единичную окружность. Простой конкретный пример дается семейством отображений (ж, у)ь-> (1 -}-т — ж^ ~ y'^){xcos а{т)-\~ у sin а{т), — аз sin а{т)-\~ у cos а{т)) (7.3.6) вблизи значения параметра т=0, где а —заданная функция. Это семейство может быть вложенно в поток, так что получается то же самое качественное поведение, а именно появление инвариантной окружности после того
§ 7.4. ТЕОРЕМА АРТИНА — МАЗУРА 311 Рис. 7.3.5. Бифуркация Хопфа как фокус из притягивающего стал отталкивающим. Обе эти бифуркации для непрерывных и дискретных систем обычно называются бифуркациями Хопфа. Последняя из них не структурно устойчива. Например, предел а(0) угла поворота инвариантной окружности инвариантен. Тем не менее, свойство наличия инвариантной окружности сохраняется при возмущениях семейства. Это может быть доказано посредством формального анализа малого возмущения семейства (7.3.6), с последующей демонстрацией того, что главные члены могут быть приведены к виду (7.3.6), возможно, с другой функцией а. Упражнения 7.3.1. Рассмотрим квадратичное семейство /д(х) = Лх(1 — х) на отрезке [О, 1]. Покажите, что при Л =3 вблизи неподвижной точки ж = 2/3 происходит бифуркация удвоения периода. 7.3.2. Покажите, что орбиты периода два, появляющиеся при Л =3, в свою очередь проходят через бифуркацию удвоения периода для некоторого большего значения Л. 7.3.3. Покажите, что бифуркация удвоения периода — единственная структурно устойчивая бифуркация, возникающая при собственном значении —1. 7.3.4. Покажите, что бифуркация семейства (7.3.5) структурно устойчива. § 7.4. Теорема Артина — Мазура Хотя теорема Купки — Смейла гарантирует конечность числа периодических точек любого данного периода и дает контроль над типами периодических точек, она ничего не говорит о скорости роста их числа. Таким образом, она полезна для получения нижних оценок на это число (как было подчеркнуто в п. 7.1 б), но ничего не говорит о верхних. Сейчас мы докажем общий результат, который дает оценку такого вида для плотного (хотя и не массивного) множества динамических систем. Из него следует, что множество диффеоморфизмов, изолированные периодические орбиты которых растут не более чем экспоненциально, плотно. К сожалению, нельзя гарантировать, что построенные диффеоморфизмы обладают только изолированными периодическими точками; однако эти диффеоморфизмы имеют алгебраический характер и их периодические точки данного периода являются конечными объединениями алгебраических множеств, т. е. нулями полиномов в соответствующих системах координат.
312 Часть 2. Гл. 7. ТРАНСВЕРСАЛЬНОСТЬ И ТИПИЧНОСТЬ Для таких отображений число связных компонент множества периодических точек — приемлемая замена для числа изолированных периодических точек. Некоторые из алгебраических данных индексного типа (см. § 8.4) могут быть определены не только для изолированных неподвижных точек, но, посредством правильного обобщения, и для этих связных компонент. Таким образом, глобальная топологическая информация для диффеоморфизмов Артина — Мазура может быть получена при помощи аналога формулы Лефшеца. Подобным образом, можно изменить определение (3.1.3) дзета- функции, связанной с ростом числа периодических орбит (см. п. 4.1 а), так, чтобы включить все связные компоненты множества периодических точек. Для диффеоморфизмов Артина — Мазура эта измененная дзета-функция имеет положительный радиус сходимости. Теорема 7.4.1 (теорема Артина — Мазура). Пусть М — компактное многообразие. Для / € Diff°(M) обозначим через V^{f) число связных компонент множества Fix(/ ). Тогда множество {/ € Difr(M)| ТШГ i logVM) < ос} плотно в Diff°(M). Этот результат будет получен как следствие теоремы о вложении, принадлежащей Нэшу, которую мы не доказываем. Доказательство. Наша цель состоит в том, чтобы представить все периодические орбиты как решения некоторых полиномиальных уравнений и, таким образом, получить экспоненциальную оценку на число компонент связности множества периодических точек. Для этого мы представим наше многообразие в виде пересечения множеств уровня нескольких полиномов и приблизим данный диффеоморфизм полиномиальным, который мы можем контролировать. Первая цель достигается с помощью следующей теоремы Нэша о вложении. Теорема 7.4.2 (теорема Нэша о вложении) [']. Любое компактное С°°-многообразие может быть вложено в евклидово пространство как пересечение множеств нулей некоторой совокупности действительнозначных полиномов, т. е. если М—компактное С°°-многообразие, то существуют такиеN, КeN и такие полиномыP^iR^~*R (г = 1,..., Я"), к что М диффеоморфно пересечению f] РгЧ{^})' 1 = 1 Всюду далее мы отождествляем М с этим пересечением. Отметим, что, хотя может оказаться, что К > т:= codimМ = N — dimМ, каждая точка р € М обладает окрестностью, характеризующейся обращением в нуль в точности т полиномов. В силу компактности это означает, что существу- Z ет такое конечное открытое покрытие М с |J U^, что каждое множество Ui т. г=1 открыто в Р) {Р/)~\{0}) для некоторого подмножества {i^*}™^i С {i^Jf^i- i=i Теперь приблизим данный диффеоморфизм / € Diff°(M) полиномиальным (по существу) диффеоморфизмом. Рассмотрим продолжение /: U-^R^ диффеоморфизма / до отображения окрестности U в V яз М. Мы можем сколь
§ 7.4. ТЕОРЕМА АРТИНА — МАЗУРА 313 угодно хорошо аппроксимировать / полиномиальными диффеоморфизмами ^: L/"—>1R^. Существует такая окрестность V в М, что ортогональная проекция 7г: У ^ М корректно определена на V. Если отображение д достаточно близко к /, то ^(М) С V и диффеоморфизм д:— тго g\j^ € Diff°(M) аппроксимирует /. Теперь можно записать уравнения, описывающие периодичность. Предположим, что хеМ я у = д{х) е Ui- Тогда у = тг{у), где у = а{х). Таким образом, существует такой вектор Л = (Л^ .. .,Л^^_^) € R^""*, что у— У= 2 ^j^y-^/* ^^^ ^у обозначает градиент (вектор) в точке у. По- скольку уеМ, мы также имеем Р/{у) = О для у = 1,..., iV - тп. Значит, N~m неподвижная точка xeUi д удовлетворяет условиям х = д{х)— ^ ^j^x^/ И Р/{х) = 0. Аналогично проверяется, что периодическая точка хеМ, где х^^ g''{x)£Ui и x^ = Xq, удовлетворяет условиям N~m i = i Это система nN -h (iV — 'm)n уравнений с nN -h (iV — m^n переменными {^k)l^h {^k]l=l^ и o"^' очевидно, имеет вид P(a:, Л) = 0 для некоторого полинома Р. Следовательно, число связных компонент множества решений ограничено произведением максимальных встречающихся в уравнениях степеней. Это дает верхнюю оценку вида Я"" с некоторой константой К, не зависящей от п. В заключение, чтобы подсчитать все периодические точки, заметим, что существует ^" возможных переходов длины п (определяемых точками х^^ € е Ui), подлежащих рассмотрению, так что 'Рд(^) < {ZK^. D
ГЛАВА 8 Топологические причины усложнения структуры орбит В § 3.1 было введено несколько инвариантов, описьгоающих асимптотический рост сложности структуры орбит. Наиболее непосредственную информацию такого рода содержат такие инварианты, как рост числа периодических орбит (о.1.1) и топологическая энтропия (определение 3.1.3), отражающая скорость роста числа орбит, различимых с ограниченной точностью. С другой стороны, мы определили энтропию фундаментальной группы (3.1.23) и спектральные радиусы действия данного преобразования на группах гомологии (п. 3.1 д), которые не столь непосредственно отражают рост топологической сложности орбит с гомотопической и гомологической точек зрения. Очевидное преимущество последних инвариантов состоит в том, что их, вообще говоря, легче вычислять, так как они инвариантны относительно гомотопической эквивалентности. Например, поскольку каждое отображение тора гомотопически эквивалентно линейному отображению (подробнее см. в §§ 2.6 и 8.7), для вычисления энтропии фундаментальной группы и спектральных радиусов действий на группах гомологии достаточно рассматривать лишь линейные отображения. В данной главе мы покажем, как с помощью этих гомотопических и гомологических инвариантов получить информацию относительно роста сложности орбит, т. е. установим количественную связь между ростом (и, в частности, существованием) периодических орбит и топологической энтропией с одной стороны и этими топологическими характеристиками с другой. Подчеркнем различие между одномерными топологическими характеристиками (например, связанными с фундаментальной группой и первой группой гомологии) и характеристиками более высоких размерностей: в первом случае связь с ростом сложности орбит имеет место для произвольных непрерывных отображений (см. теорему Меннинга 8.1.1 и предложение 8.2.4 об отображениях окружности), в то время как в последнем случае часто существенна гладкость отображения (теорема Мизюревича — Пши- тицкого 8.3.1 и следствие 8.6.11). Хотя все упомянутые выше понятия являются глобальными, некоторые взаимоотношения между ними устанавливаются с помощью ключевого локального понятия индекса неподвижной (или периодической) точки отображения или неподвижной точки потока, которое отражает топологическое поведение отображения либо соответственно отображения сдвига за время t вблизи неподвижной точки. В частности, рассмотрение точек, имеющих отличный от нуля индекс, важно по ряду причин; например, они не исчезают в результате С°-возмущений системы. Центральным элементом для установления связи между упомянутыми понятиями служит формула Леф- шеца, выражающая сумму индексов неподвижных точек через гомологические данные. Понятие индекса является основным и для теории Нильсена, которая позволяет оценить снизу число периодических точек через гомотопические данные. В следующей главе мы покажем, как понятия, связанные
Часть 2. Гл. 8. ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ ОРБИТ 315 С индексом и структурой критических точек градиентного потока, позволяют получить информацию относительно структуры орбит некоторых сохраняющих объем (например, лагранжевых) динамических систем посредством анализа градиента соответствующей функции во вспомогательном пространстве «возможных орбит». § 8.1. Топологическая энтропия и энтропия фундаментальной группы Теорема 8.1.1. Если f — непрерывное отображение компактного многообразия М, то h^opif)^ K{f)' ^- ^- топологическая энтропия f по крайней мере не меньше, чем энтропия действия f в фундаментальной группе. Доказательство. Зафиксируем произвольную метрику на М. Заметим, что существует такое число Л > О, что любой шар радиуса Л (Л-шар) содержится в множестве, гомеоморфном евклидову шару. Тогда любые две кривые с одинаковыми концами, полностью содержащиеся внутри Л-шара в М, гомотопны посредством гомотопии, сохраняющей концы. В качестве этой гомотопии можно взять образ естественной гомотопии вдоль прямой в евклидовом шаре, содержащем образ нашего шара. Лемма 8.1.2. Пусть Л —число, определенное euuie. Рассмотрим (Х/4)-плотное множество {гу^ ..., w^} с М, Зафиксируем точку ре М и дуги с^, соединяющие р с w^, а также дуги c^j cB{w.^ Л/4)U и ^В(гу^., Л/4), соединяющие точки w^ и w^ для таких (hj), что B{wi, Л/4)ПБ(гу^, Л/4)7^0. Тогда петли с^с^^с^^ являются множеством образующих фундаментальной группы щ{М, р), которое мы обозначим через Г. Доказательство. Рассмотрим петлю 7) закрепленную в точке р, и разделим ее на куски сг, каждый из которых содержится в объединении двух шаров Б(гУ;,Л/4) и Б(гу^.,Л/4). Рассмотрим путь tjqC B{wi, Х/4), соединяющий сг(0) с гу^, и путь т/^ С Б(гу^-,Л/4), соединяющий сг(1) с w^. Тогда концы путей а и 7foCy?/f' совпадают и содержатся в объединении Л(гу^, Л/4) иБ(гУу, Л/4), которое, в свою очередь, содержится в Л-шаре, так что кривые а и т/о^ч^Г^ гомотопны как кривые с данными концами. Но путь ?7о*^ц^1 ~^ очевидно, гомотопен ?7o^t~^^i^»i^;~^S'^Г^ "^^^ ^"^^ петля 7 гомотопна композиции последовательности путей вида c.g^jC^^. D Поскольку отображение / равномерно непрерывно, существует такое число /i € (О, Л/4), что для каждой точки хе М найдется такая точка уеМ, что f{B{x, /i)) с В (у, Л). Теперь зафиксируем е е (О, /л/4). Пусть 7 — одна из вышеупомянутых образующих. Зафиксируем дугу а, соединяющую точки р и f{p). Разобъем пути 7 и а на не более чем N частей, целиком содержащихся в (Л/2)-шаре. Пусть а — одна из этих частей. Выберем (п, е)-плотное множество 5„, содержащее 5^(/, е, п) элементов. Тогда существуют такие точки а\),..., ж^ € 5„ и такие точки сг(0) = Zq, ... ..., 2„ = сг(1) на а, что z^ € В^{х^, е, п) и дуга {z^, z^^^} на сг, соединяющая точки z^ и 2,- + 1, содержится в объединении В^{х^, е, п)иВ^{х^^^, е, п). Здесь В^{х^ е, п) обозначает d^-map радиуса е с центром в точке ж, и мы
316 Часть 2. Гл. 8. ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ ОРБИТ будем обозначать {у, х}~^ через {ж, у}. Соединяя точки z. и х^ дугой {z^ х^} С Bj(x-^ е, п), мы получаем путь а' вида {^> а^}{аь> ^}{^> -^iK-^i, a^i}{ai, ^J • ■ ■ {2^_i, z^}{z^, ^ш}{^^^ ^ш}^ который, очевидно, гомотопен <т посредством гомотопии, сохраняющей концы. Содержась в Л-шаре, путь а' в свою очередь гомотопен дуге сг", полученной из <т' удалением всех петель, возникающих в результате совпадения двух точек х^ и х^ Таким образом, путь с гомотопен дуге сг", состоящей из не более чем 35^(/, е, п) кусков вида {z^^ х^}, {ж^, ^J и {z^^ z^ + \}- Рассмотрим такой отрезок {ж, у]. Поскольку {ж, у} С В{х^Ае) с В{х^ fi) (по выбору X. и Zi, если {ж, у} = {а;^, z^}, и по неравенству треугольника в противном случае), образ f({x,y}) содержится в Л-шаре. Так как, кроме того, по той же причине f{y) eB{f{x), 4е), кривая /({ж, у}) гомотопна дуге 7] С B{f{x, 4е)), соединяющей /(аз) и /(у), посредством гомотопии, сохраняющей концы. По индукции для всех г € {О,..., п — 1} образ f*{{x, у}) гомотопен дуге из В(/(х,4е)), соединяющей f*{x) и f*(y). Таким образом, петля af{a)p{a)' • •/""Чо;)/"(7)/"" Ч'^'')"^- • •/(о;)~'а"^ гомотопна произведению не более чем (2п-h 1)^5^(/, е, п) таких дуг ov, которое в свою очередь гомотопно произведению не более чем (2п-}-l)iV5j(/, е, п) дуг вида {o-jt(O), гу^с^^.{гу^, crjt(l)} (мы использовали обозначения из леммы 8.1.2). Следовательно, кривая гомотопна произведению не более чем (2n-}-l)iV5j(/, е, п) образующих j. е € Г, и наше утверждение доказано. D Объединяя этот результат с неравенством (3.1.28), мы получаем следующую нижнюю границу для топологической энтропии в гомологических терминах. Следствие 8.1.3. ^ор(/) ^ bg|r(/,i)|. Упражнения 8.1.1. Пусть М — двумерное компактное многообразие, pj,..., р„ G JW и /: М—*-М — такой гомеоморфизм, что /(р^) = р^, « = 1,..., п. Докажите, что 4ор(/) > ^*^f\M\{p,,...,pj)- 8.1.2. Используя предыдущее упражнение, постройте класс таких гомеоморфизмов двумерного диска ID^, сохраняющих две данных точки р н ^ и попарно гомотопных посредством гомотопии, сохраняющей точки р и д, что топологическая энтропия любых двух гомеоморфизмов из этого класса положительна. § 8.2. Обзор теории степени отображения 8.2 а. Мотивировка. В этом параграфе мы рассматриваем понятие степени отображения f:N-^M компактных ориентируемых многообразий одинаковой размерности. Степень отображения представляет собой число, описывающее алгебраическую кратность, с которой образ N покрывает М под действием этого отображения. С точки зрения изучения сложности структуры орбит это понятие интересно по двум причинам. Во-первых, степень отображения гладкого многообразия в себя непосредственно связана
ОТОБРАЖЕНИЯ 317 с топологической энтропией (теорема 8.3.1) и весьма элементарным образом — с числом периодических орбит в случае отображений окружности. Во-вторых, степень отображения сферы — главный ингредиент в определении индекса неподвижной точки (определение 8.4.2). После краткого обсуждения понятия степени для отображений окружности мы дадим два определения степени гладких отображений и элементарные доказательства основных свойств, использующие лишь один фундаментальный результат из дифференциальной топологии — теорему Сарда П 3.14. Затем определения распространяются на произвольные непрерывные отображения посредством гладкой аппроксимации. Наиболее общее определение понятия степени использует теорию гомологии, основы которой рассматриваются в § 7 приложения. 8.2 6. Степень отображения окружности. Понятие степени отображения окружности было введено в определении 2.4.4. Рассмотрим теперь это элементарное понятие несколько подробнее. Это даст нам и мотивиров- ку, и хорошую модель для исследования различных определений степени в случае более высоких размерностей, которые мы приведем позже. Предложение 8.2.1. Степень отображения окружности deg{f) является полным инвариантом гомотопии, т. е. deg(/) = deg{g) тогда и только тогда, когда отображения fug гомотопны. Доказательство. Гомотопическая инвариантность следует из леммы 2.4.5. Таким образом, остается доказать, что если deg(/) = fc, то отображение / гомотопно линейному отображению Е/^, Предположим, что Q€g(/)= ^> и пусть F — поднятие /. Тогда Р^:= {I — t)F{x)-\~tkx — гомо- топия между F и fc • Id и F^(x-^l) = {\-t)F{x+l)-^tk{x-^l) (1 - t)F{x) -^{l-t)k-^tk-^tkx = F,{x) -h fc, так что из равенства 7г(а:) = 7г(у) следует, что 'jt{F^{x))= 7r(F((y)), т. е. F^ проектируется в гомотопию отображений f и Ej, на 5'. D Заметим, что подобная гомотопия вдоль прямолинейных отрезков в случае более высоких размерностей использовалась в доказательстве теоремы 8.1.1. Предложение 8.2.2. deg(/о^) = deg(/) • deg(^). Доказательство. Если к = deg(/), / = deg(^), а F я G — поднятия отображений /яд соответственно, то Fo G — поднятие fog я {F о G){x-\~ + 1) = F{G{x) + l) = F{G{x)) + к1.П Следствие 8.2.3. Для всех п € N выполнено равенство deg(/") = = (deg(/)r. Главный вывод этого пункта состоит в том, что для отображений окружности мы в состоянии полностью исследовать возможности получения периодических орбит при помощи степени. Если, как в определении 1.7.1, положить i^(/):= cardFix(/"), получим следующее предложение. Предложение 8.2.4. Для любого непрерывного отображения /: S' —> 5^ выполнено неравенство Р„(/) ^ |(deg(/))" — 1 Доказательство. Очевидно, достаточно рассмотреть отображение /: 5^ —> 5^ степени к я найти Ifc — 11 неподвижных точек. Заметим, что по
318 Часть 2. Гл. 8. ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ ОРБИТ теореме о промежуточном значении уравнение F{y) — y = 0 (mod 1) имеет по крайней мере ffc — 1| решение у € [О, 1), поскольку F{1)— I = F{0) — — O-h fc — 1. Но любое полученное таким образом решение у проектируется в неподвижную точку отображения /. D Эта оценка нередко позволяет найти довольно много периодических точек, но в некоторых случаях существует гораздо больше периодических точек, чем она предсказывает. Пример. Отображение /,: [О, 1] —> [О, 1], х \-^ 4х{1 - х) из квадратичного семейства проектируется в отображение / окружности 5^ степени нуль. С другой стороны (см. упражнение 1.7.2), индуктивно строя график функции Д" и вычисляя число точек его пересечения с диагональю, легко проверить, что i^(/) = 2". Построение одномерных отображений с большим числом периодических точек с помощью «складок» будет обсуждаться в полной общности в гл. 15 (см. следствие 15.2.2 и предложение 15.2.13). 8.2 в. Два определения степени гладких отображений. В то время как степень отображения — топологическое понятие, которое будет определено как таковое в конце этого параграфа, для случая дифференцируемых отображений имеются два различных прямых определения степени. Сейчас мы рассмотрим эти определения, всюду далее в этом пункте полагая, что N и М — компактные ориентируемые гладкие п-мерные многообразия и /: N ^^ М— С^-отображение. Напомним понятие регулярного значения отображения многообразий (см. § 7 приложения). Определение 8.2.5. Точка xe.N называется регулярной точкой (отображения /), если дифференциал Df обратим в х. Точка х е М называется регулярным значением (отображения /), если полный прообраз /~Ч{^}) состоит из регулярных точек. В противном случае х называется критическим значением. Множество регулярных значений, очевидно, открыто. По теореме Сарда П 3.14 оно обладает полной мерой и, следовательно, плотно. Лемма 8.2.6. Если х -—регулярное значение, то множество f~\{x}) конечно. Доказательство. Предположим, что х €. М я полный прообраз /~Ч{^}) бесконечен. Тогда по компактности N можно выбрать последовательность X, -+ Xq так, что f(x^) = хя, следовательно, в силу непрерывности /(xq) = X, Но это показывает, что отображение / не инъективно вблизи Xq^ так что по теореме о неявной функции дифференциал Df не обратим в Xq, и, значит, X — критическое значение. D Определение 8.2.7. Предположим, что х е М — регулярное значение, и для каждого у € /"Ч{^}) положим £у := гЫ в соответствии с тем, сохраняет D^f ориентацию или обращает ее. Тогда степень отображения f в точке X определяется так: deg.(/):= Е S- Заметим, что эта сумма имеет смысл и степень cleg(/) всегда конечна, так как множество f'^{{x}) конечно по лемме 8.2.6. Далее мы покажем, что deg^{f) не зависит от выбора регулярной точки хеМ.
ОТОБРАЖЕНИЯ 319 Это определение степени в точке х измеряет кратность (с учетом ориентации), с которой / покрывает М в окрестности х. Чтобы показать, что это число не зависит от выбора точки ж, мы дадим сейчас другое — интегральное — определение степени. Начнем со слегка измененного варианта одного понятия, введенного в § 5.1. Определение 8.2.8. Положительной формой объема на М называется непрерывная п-форма о^, положительная на положительно ориентированных реперах. Она называется нормированной, если J о; = 1. Прооб- м разом f*uj формы UJ под действием / называется форма вида (Сравните с определением 5.1.1 и определением образа в начале п. 5.1 б, где дифференциал Df предполагается обратимым.) Определение 8.2.9. Если о; — положительная нормированная форма объема на М, то степенью отображения f:N^>-M относительно ш называется число deg^(/):= J /*ш. N Теперь мы покажем, что определение 8.2.7 эквивалентно определению 8.2.9, так что, в частности, число из определения 8.2.7 не зависит от выбора регулярной точки и число из определения 8.2.9 является целым и не зависит от выбора положительной нормированной формы объема на М. Лемма 8.2.10. Пусть р е М —регулярное значение отображения f: N~* М и UJ —положительная форма объема. Тогда degp{f) = deg^{f). Доказательство. Посколькур — регулярное значение, существуют такие непересекающиеся открытые окрестности С^^,..., U^cN точек ж^ ... к ..., ajjt из f~^{p), что и Ui является прообразом окрестности V точки р 1 = 1 й отображения fl^j являются диффеоморфизмами для всех г. Если и — такая п-форма с носителем в У, что 1^=1^ = ^, тогда по лемме П 3.13 V М ш=1/ -\~ da, где а — некоторая (п — 1)-форма, так что ■ По правилу замены координат под знаком интеграла каждый из последних интегралов равен гЫ в зависимости от того, сохраняет или обращает ориентацию отображение f\fj или, что то же самое, Df^. Следовательно, м Итак, теперь мы можем дать следующее определение. Определение 8.2Л1. Пусть /: N -^ М — С ^-отображение и аз € € М — его произвольное регулярное значение. Степенью f называется число deg(/):= deg,(/). Так как степень, очевидно, непрерывна в С ^-топологии и, следовательно, локально постоянна, мы получаем, в частности, следующие утверждения.
320 Часть 2. Гл. 8. ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ ОРБИТ Лемма 8.2.12. Степень является инвариантом С ^-гомотопий. Лемма 8.2.13. Любые два С^-отображения /о,/р iV—> 5", не ан- типодалъные ни в одной точке, гладко гомотопны. Доказательство. Требуемая гладкая гомотопия имеет вид Более общим образом, имеет место следующая лемма. Лемма 8.2.14. Любые два С ^-отображения fojfi: N—* М^ достаточно близкие в С^-топологии, С^-гомотопны. Доказательство. Чтобы получить гомотопию вида (8.2.1), заметим, что дуга большого круга представляет собой единственную кратчайшую кривую, соединяющую две не антиподальные точки на сфере. Такие кратчайшие, как мы знаем, являются геодезическими (см. обсуждение после определения 5.3.4). В следующей главе мы покажем, что такие кривые определены однозначно для любой пары достаточно близких точек на любом компактном римановом многообразии (теорема 9.5.5). Производя гомотопию вдоль такой кривой с натуральным параметром, получаем доказательство леммы. D Следствие 8.2.15. Степень С^-отображения является гомотопическим инвариантом. Это следствие позволяет нам определить степень непрерывного отображения с помощью гладкой аппроксимации. Определение 8.2.16. Степень непрерывного отображения /: N-^ М определяется по формуле deg(/):= deg{g), где отображение д£ € C^{Nj М) достаточно близко к /. Очевидно, степень непрерывного отображения также является гомотопическим инвариантом. Отметим, что для определения степени, мы можем использовать любую п-форму с отличным от нуля интегралом. Предложение 8.2.17. Пусть т]—такая непрерывная п-форма, что J ?7 7^ О, uf:N-*M. Тогда deg{f) = J /*?// J ту. М N М Доказательство. Мы можем представить tj = tj^ — Ш2^ где ш^ — положительные формы объема, поскольку, в силу компактности, если о; — произвольная положительная форма объема, то форма 7]-\~auj положительна для достаточно больших чисел а € R. Но тогда по линейности интеграла rv= Г'^1- r'^2 = deg(/) а;,- а;, . D При анализе индексов неподвижных точек в § 8.3 мы будем использовать следующее наблюдение. Предложение 8.2.18. Пусть W является (п-h 1)'Мерным ориентированным многообразием с границей N := dW и F: W —* М —непрерывное отображение. Пусть f := f\^—ограничение F на N. Тогда deg(/) = 0. Замечание. Ориентация на N индуцирована ориентацией W. Впрочем, если N связно, то годится любая ориентация.
§ 8.2. ОБЗОР ТЕОРИИ СТЕПЕНИ ОТОБРАЖЕНИЯ 321 Доказательство. Если о; — форма объема на М, то по теореме Стокса deg(/) = i Ло; = J d(/,a;) = J Idtj = 0. D N W W Рассмотрим некоторые свойства степени, используемые в теории динамических систем. / 9 Следствие 8.2.19. Если N —*■ N —> К — непрерывные отображения, то deg(^ о /) = &eg{g) cleg(/). Доказательство. Мы можем считать, что отображения f vi д яъ- ляются С^-гладкими. Тогда из предложения 8.2.17 следует, что lrg*uj lg*uj deg(^ о /) = ^ = deg(/) ^f = deg(/) deg(^). D к к Так как степень равна алгебраической кратности, она, очевидно, дает нижнюю границу для числа прообразов регулярной точки. Следствие 8.2.20. Пусть отображение f:M-^M является С^-гладким на открытом множестве полной меры. Тогда для почти каждой точки аз € М выполнены неравенства |deg(/"*)|< ^ card(/""*({a:})) < оо. В частности, если |deg(/)|^2, то количество элементов множества /""*({a?}) растет по крайней мере экспоненциально с ростом т. Доказательство. По теореме Сарда П 3.14 почти каждая точка х регулярна для всех итераций /, так что утверждение следует из определения степени. D При рассмотрении понятия степени отображений окружности 5^ было показано, что степень является полным гомотопическим инвариантом. Оказывается, это верно ддя всех сфер 5", что означает, в частности, что существуют только два гомотопических типа гомеоморфизмов 5", а именно сохраняющие ориентацию и обращающие ее. Рассмотрим два примера, показывающие, до какой степени топологическая сложность, измеряемая степенью, ответственна за рост динамической сложности. Пример. Пусть С := С и {ос} ~ 5^ — риманова сфера, т. е. одноточечная компактификация комплексной плоскости. Гладкая структура в окрестности {ос} задается координатой w = l/z. Рассмотрим отображение /: S^-^ S^, z\-*z^, продолженное наоо по правилу/(ос) := ос. Тогда для точек Z, близких к ОС, мы имеем f{w) = w^ вблизи гу = 0. Заметим, что deg/ = 2, поскольку / покрывает сферу дважды и сохраняет ориентацию. Динамика же отображения / такова: полюса О и ос являются притягивающими неподвижными точками, экватор {z € Cj j^j = 1} инвариантен и ограничение / на него представляет собой просто растягивающее отображение окружности £?21 определенное в (1.7.1). Все другие точки сходятся к одному из полюсов под действием итераций z^-^ z^. Все периодические точки, отличные от полюсов, находятся на экваторе. Эти точки являются решениями уравнения Это (2"— 1) различных корней степени (2" — 1) из единицы. Таким образом, число PJf) = 2 + 2"—1=2"+1 = 1+ (aeg(/))" растет приблизительно как (cleg(/))".
322 Часть 2. Гл. 8. ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ ОРБИТ Пример. Теперь рассмотрим отображение д\ S^ —^5^, 2 н-» z^/{2\z\)^ продолженное на ос по правилу ^(оо):= ос, так что ^(гу) = 2гу^/|гу| вблизи гу = 0. Таким образом, ос — (негладкая) отталкивающая точка, в то время как нуль — сжимающая неподвижная точка. Отметим, что под действием д все точки, отличные от ос, стремятся к О, поскольку \g(z)\ = \z\/2. Следовательно, в полной противоположности с рассмотренным ранее примером, отображение имеет только две периодические точки — нуль и ос. С другой стороны, д покрывает 5^ дважды и g=ho f, где h — сохраняющий ориентацию гомеоморфизм z \-* z/{2^/\z\). Таким образом, deg{g) = deg{h о f) = = deg{h) cleg(/) = deg(/) = 2. Так как единственные инвариантные меры для д — атомарные меры, сосредоточенные в нуле и в ос, то согласно вариационному принципу 4.5.3 h^p{g) = 0. Последний пример показывает, что степень не всегда дает информацию относительно динамической сложности отображения. В частности, экспоненциально растущее число прообразов, существование которых гарантирует следствие 8.2.20, накапливаются к единственной неподвижной точке оо. Как мы узнаем позднее (из теоремы Шуба — Сулливана 8.5.1), недостаток динамической сложности в этом примере можно объяснить существенным отсутствием гладкости в оо. В следующем параграфе будет показано, что для С ^-отображений динамическая сложность действительно гарантируется, если только степень отображения по абсолютному значению превосходит единицу (теорема Мизюревича — Пшитицкого 8.3.1). 8.2 г. Топологическое определение степени. Мы закончим обсуждение понятия степени, приведя ее непосредственное топологическое определение. Чтобы определить степень отображения f:N~^M компактных многообразий одинаковой размерности в топологических терминах, напомним, что / индуцирует действие на группах гомологии, так что в частном случае ориентируемых многообразий N и М, когда H„(iV, Z) = H„(M, Z) = Z, отображение / индуцирует гомоморфизм /,„: Z—>Z. Определение 8.2.21. Пусть N, М — п-мерные ориентированные многообразия, /: N ~* М — непрерывное отображение и /,„: H^{N,Z) —* Д»(М, Z) — гомоморфизм, индуцированный этим отображением на Z. Выберем ориентации fl'„(iV,Z)~Z и Я„(М, Z)^Z. Тогда степень отображения / определяется так: deg(/) :=/.„(!). Используя двойственность между гомологиями и когомологиями и определение когомологий де Рама через дифференциальные формы (см. § 3 приложения), легко установить эквивалентность этого определения и данного ранее определения степени, основанного на использовании формы объема. Упражнения 8.2.1. Рассмотрим, как н выше, отображение /: S^ —* S^ вида z *-* z^. Покажите, что 5.2.2. Рассмотрим, как и выше, отображение д: S^ —> S^ вида z *-* z^/(2|z|). Покажите, что /г^д_(/) = 0, без использования вариационного принципа (теоремы 4.5.3).
§ 8.3. СТЕПЕНЬ ОТОБРАЖЕНИЯ И ТОПОЛОГИЧЕСКАЯ ЭНТРОПИЯ 323 § 8.3. Степень отображения и топологическая энтропия В предыдущем параграфе мы видели, что из «топологической сложности», измеряемой степенью, не всегда следует появление большой динамической сложности. Причиной этого является всего лишь отсутствие гладкости в рассмотренном нами примере. Для С ^-отображений, как мы сейчас покажем, положительность топологической энтропии следует из нетривиальности степени. Мы будем использовать определение степени через число прообразов регулярной точки. Теорема 8.3.1 (теорема Мизюревича — Пшитицкого) [^]. Если М — гладкое компактное ориентируемое многообразие и f е С\М^ М), то M/)>bg|deg(/)|. Доказательство. Выберем форму объема о; наМ и число а€(0, 1). Пусть L := sup \Jf{x)\, где Jf введено в определении 5.1.4, e = Z,~°/(°-i) xgm и в := {х\ \Jf{x)\ ^ е}. Выберем покрытие множества В открытыми множествами, на каждом из которых / инъективно, и обозначим через 5 число Лебега этого покрытия. Таким образом, если х,уе В и (1{х^у)^ 5, то f{x) Ф /(у). Зафиксируем п € N и положим А := {ж € М\ сагс1(Б П {ж, f(x\ ..., /"" Ч^?)}) < скп}. Если ж € А, то п— 1 так что объем /"(А) меньше, чем объем М, и по теореме Сарда П 3.14 существует регулярное значение х € М\/"(А) отображения /". Выберем большое (п, 5)-отделенное множество в /""({а?}). Так как значение X регулярно для /, оно обладает по крайней мере iV := deg(/) прообразами. Если iV из них содержатся в В («хороший переход»), тогда пусть множество Qx состоит из iV таких прообразов. В противном случае («плохой переход*) возьмем в качестве Q^ один из прообразов, находящихся вне В. В любом случае множество Q^ С/"'({^}) состоит из регулярных значений / так как значение х регулярно для /". Таким образом, мы можем применить ту же процедуру к каждому у € Q^ и, собирая все построенные таким образом точки, получим <Э2^/~^({^}) и т. д. Множества <Э„ С/""({ж}), которые мы получаем таким образом, оказываются (п, 5)-отделенными: если УиУ2^Яг. и ^^(/42/1)1/*(%)) ^«^ для fc€{0,...,n-l}, то /"-•(2/i) = = /"~4%)i поскольку иначе по определению /""Ч2/1) € Б и /" '(%) ^ В й в силу выбора 6 мы имеем x = f{f''~'^{y{))фJ{f'^~^{y<^)) = x, Аналогично, /""^(yi) = /""^(2fe) и т. д., так что yi = 2fe. Итак, Q„C/-4{aj})C/-"(M\/"(A))cM\A,T.e. Q„nA = 0. Таким образом, для любого у ^ Q^ существует (по определению А) больше чем an чисел fc € {О,..., п — 1), для которых /*(у) € В. Значит, при переходе от ж к любой точке y^Qn произошло по 1файней мере т := [ап\ -h 1 «хороших переходов» и, следовательно, card Q„ ^ iV"* ^ iV°". Поэтому максимальное количество элементов iVj(/, 5, п) (п, 5)-отделенного множества равно по крайней мере iV°" и, таким образом, h^U) ^ о; logiV для любого ot 6 (О, 1), что доказывает теорему. D
ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ Это доказательство успешно работает благодаря двум следствиям гладкости — ограниченности якобиана и тому факту, что гладкое отображение является локальным гомеоморфизмом вблизи любой точки, в которой якобиан отличен от нуля. Второе свойство для отображения z н-> 2^/(2|2|) нарушается в ос. Существуют определенные ситуации, когда неравенство из теоремы 8.3.1 становится равенством. Один из примеров — растягивающие отображения окружности (см. следствие 3.2.4). Это верно и для произвольных растягивающих отображений компактного многообразия (см. упражнение 8.3.2). Другой пример — отображение /(2) = 2^, рассмотренное в п. 8.2 в, как и всякое отображение вида f{z) = 2" для любого п. Значительно более общая ситуация включает произвольные рациональные отображения рима- новой сферы, т. е. отображения вида f{z) = -q^, где Р я Q — взаимно простые полиномы, хотя здесь мы можем дока^ть лишь одно неравенство. Такие отображения характеризуются как голоморфные отображения рима- новой сферы в себя. Так как эти отображения сохраняют ориентацию, их степень равна числу прообразов регулярной точки, т. е. числу решений уравнения gi|i = u; или RJz):=P{z)-wQ{z) = 0. Выбирая W :фО я избегая обращения в нуль старшего члена R^, если degР = deg <5, мы получаем deg Л^ = max(deg j; deg Q). Можно также выбрать W таким образом, что R^ не будет иметь кратных корней, которые могут появиться, только если w — образ критической точки. Таким образом, степень / равна максимуму алгебраических степеней Р и Q. По теореме 8.3.1 выполнено неравенство ^ор(/) ^logmax(degJ! deg Q). На самом деле обратное неравенство также верно, так что мы имеем ^top(/) = log max(deg Ц deg Q). К сожалению, в настоящий момент мы не обладаем достаточно развитым техническим аппаратом, для того чтобы получить верхнюю оценку на энтропию р]. Упражнения 5.3.1. Докажите, что топологическая энтропия любого дробно-линейного преобразования f[z)— "У >, а, 6, с, d бС, рнмановой сферы равна нулю. 5.3.2. Пусть М — компактное рнманово многообразие и /: М —*-М — растягивающее отображение (см. определение 2.4.1). Докажите, что /itop(/)~ ^°&1^^&/1- 5.3.3. Пусть /: S^ —^ S^ —непрерывное монотонное отображение (т. е. любое поднятие его на Ж — монотонная функция). Докажите, что ^top(/) ~ ^°&И^&-^1-
§ 8.4. ИНДЕКС ИЗОЛИЮВАННОЙ НЕПОДВИЖНОЙ ТОЧКИ 325 § 8.4. Индекс изолированной неподвижной точки Переходя от понятия степени к индексу можно изучить поведение изолированных неподвижных точек. Наиболее важное свойство индекса состоит в том, что изолированная неподвижная точка с отличным от нуля индексом (в частности, любая трансверсальная неподвижная точка гладкого отображения — см. определение 7.2.1) сохраняется при С°-возмущениях, в то время как наши предыдущие результаты такого типа были применимы только к С^-возмущениям (см. предложение 1.1.4). Предложение 8.4.1. Пусть x^^UdR", множество U открыто и отображение /: U —*W непрерывно, причем f{x)фх для всех x£U\ \{а:^}. Пусть V —гомеоморфный образ п-мерного шара с естественной ориентацией ux^eV dV dU Определим отображение v^^ yi dV —> 5"" \ X H-> ,,^~{; {,1. Тогда степень отображения Vf v не зависит от V, Доказательство. Пусть V — множество, обладающее такими же свойствами, как и V. Рассмотрим шар Б с V П V, содержащий Xq. Достаточно показать, что deg(Vjr5) = deg(Vjry), поскольку тогда и cleg(v^^^) = = deg(Vjrу,). Заметим, что для данного В отображение w: A:=V\B -* 5""\ х\-^ \\^Z f( \\\^ корректно определено и непрерывно и что по предложению 8.2.18 deg(iy|5^) = 0. Далее, граница дА равна объединению dV и дВ, где последняя граница берется с ориентацией, противоположной индуцированной. Таким образом, deg{vjy) — deg(vj^^) = deg{w\Q^) = 0, D Замечание. Мы будем обычно брать в качестве dV сферу 5^ радиуса е и писать Vi^'-= v^^v Определение 8.4.2. Пусть Xq€. С^ С R", множество U открыто и /: t?* —> R" — такое непрерывное отображение, что f{x) ф х для всех а;€ С^\{а:ь}. Тогда индексом точки Xq при отображении f называется число ind^a^:= deg(t;^^^), где множество V определяется так же, как в предложении 8.4.1. Очевидно, индекс всегда является целым числом. Если Xq не является неподвижной точкой, то отображение х \-* \\^Z fZ\\\ корректно определено на всем шаре с центром в а:^ и по предложению 8.2.18 его степень как отображения границы равна нулю, т. е. ind^(a:^) =0. Индекс изолированной неподвижной точки отображения на многообразии определяется с помощью содержащей точку координатной окрестности. Предложение 8.4.1 показывает, что это определение не зависит от выбора координат. Пример. Для отображений отрезка индекс равен степени отображения нульмерной сферы 5^ = {—е, е]. Имеются четыре возможных отображения множества {—е, е} в себя. Два постоянных, очевидно, имеют степень О, тождественное отображение Id имеет степень 1 и —Id имеет степень — 1. Следовательно, для изолированной неподвижной точки отображения / допустимы следующие возможности: О, если Id —/ не монотонно в ж, ind^ х= i 1, если Id —/ возрастает в ж, — 1, если Id —/ убывает в х.
ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ Например, если f{x) = х^, то ind^ О = 1 и ind^ ±1 = — 1. Из гомотопической инвариантности степени (следствие 8.2.15) немедленно вытекает соответствующее предложение. Предложение 8.4.3. Пусть f^: С/—>]R" —непрерывное семейство отображений и р eU —общая изолированная неподвижная точка для всех ft- Тогда индекс ind^ (р) точки р не зависит от t. Теорема 8.4.4. Пусть а^, € С/ С R" — изолированная неподвижная точка отображения /: С/ —> R" и ind^ Xq:j^O. Тогда существует такое е >0, что всякое отображение д: С/—>]R", для которого \\9{x) — f{x)\\ <е при всех хеЦ обладает неподвижной точкой, близкой к Xq. Замечание. Таким образом, неподвижные точки с отличным от нуля индексом, и, в частности, трансверсальные неподвижные точки, сохраняются при малых С°-возмущениях. Отметим, что неподвижная точка возмущенного отображения не обязана быть ни единственной, ни изолированной. Предположение о том, что индекс отличен от нуля, не может быть отброшено, как показывает пример изолированной неподвижной точки О отображения /: xi-* х + х^/{1 н- х^) множества R в себя: f + е вовсе не имеет неподвижных точек (этот пример уже встречался нам в упражнении 2.1.3 и в п. 7.1 в). Доказательство. Пусть е > О таково, что сфера dV = S^ радиуса е удовлетворяет условию предложения 8.4.1, 6 := inf{||a: - /(2^)111 ^ € S (xq)} и ^ является (5/3)-возмущением/. Тогда \\{x — f{x))-{x — g{x))\\ = \\f{x)~ —д{х)\\ <S/2, в то время как Цж—/(а:)||> 5 для всех xeU, т. е. отображения v^^ и Vg^^ не антиподальны ни в одной точке, следовательно, гомотопны посредством гомотопии ^^ ./i _^ч ^^|. Таким образом, deg v^^ = deg v^^^ = = ind^ a:o 7^ О, так что отооражение д должно иметь неподвижную точку в е-шаре с центром в Xq (иначе получится, что md^(a\)) = 0). П Чтобы применять этот результат, нужно уметь вычислять индекс неподвижной точки. Для трансвереальных неподвижных точек дифференцируемого отображения это очень легко сделать, так как в этом случае оказывается, что достаточно рассматривать линейную часть отображения. Предложение 8.4.5. Предположим, что отображение f: U—^ —+R" дифференцируемо eOeU cW^ и О —трансве реальная неподвижная точка /. Тогда ind^ О = ind^,^(o) ^• Доказательство. Если А:= Df{0), тогда трансверсальность означает, что единица не является собственным значением А, т. е. отображение Id ~А обратимо, откуда следует, что существует такое 5 > О, что \х — Ах\\ > 5||а:[| для всех х. С другой стороны, так как отображение / дифференцируемо в О, существует такое е > О, что \\х — f{x) — {х — Ах)\\ = а:II на 5^. Следовательно, отображения v^r^ и v^^^ не антиподальны ни в одной точке, значит, они гомотопны. П Для линейных отображений процедура подсчета индекса проста. Предложение 8.4.6. Если 1 ^sp(A), mo Ыд(0) = signdet(Id-А). Доказательство. Поскольку отображение А линейно, мы можем рассмотреть v^:=v^ ^ а;и-» w^Za^w ^"^^ отображение обратимо: если v^{x) = v^{y), то х — Ах = Х{у — Ау) и х ~ Ху = А{х — Ху), следовательно, х^Ху, поскольку О — единственная неподвижная точка А. Но
§ 8.4. ИНДЕКС ИЗОЛИРОВАННОЙ НЕПОДВИЖНОЙ ТОЧКИ 327 X у|| = 1, так что Л = 1 и х = ±у. Поскольку v^{—x) = —v^{x), мы имеем х = у. Поэтому v^ —гомеоморфизм сферы и, следовательно, deg(uj)= 1, если Id —А сохраняет ориентацию, т. е. sign det(Id —А) = 1, и degfv^) = — 1 в противном случае. П Знак signdet(Id —А) может быть выражен в терминах собственных значений. Следствие 8.4.7. Индекс отображения А в нуле вычисляется по формуле indд(0) = (-l)*^**^*^■^*^^^ где {ЛЛГ=1 ^собственные значения А. Доказательство. Поскольку группировка комплексно сопряженных собственных значений попарно показывает, что J^ (1—Л^)>0, мы AjGC\R имеем п sign .) = signn(l-A,) = i = l n(l-A,)signn(l-A,)sign П ' AjGC\R А.>1 A, <1 = (_l)cani<i|A,>l}.i.gjg^ Д (1_Д.) = (_1)сагадА,>1}^ П A.GC\R Простой пример — отображение вида А , где О — гиперболи- 2 О О 1/2 ческая неподвижная точка. Здесь ind^ (0) = — 1 и ind^^ (0) = 1. На самом деле нетрудно составить список всех возможных случаев для линейных отображений А: R^-+R^. Обозначим через Л^, Ag собственные значения А и допустим, что А—сохраняющее ориентацию отображение (т. е. A^Ag > 0) и 1 не является его собственным значением (т. е. О — изолированная неподвижная точка). Тогда имеются пять возможных типов трансверсальных неподвижных точек. 1 2 3 4 5 Собственные значения |AJ < 1, |А2|<1 |AJ>1, |А2|>1 Ai =|A2l = l^A, 0<Ai <1 <А2 Ai <-1 <А2<0 Индекс нуля ind^(0) = l md^(0) = l ind^(O) = 1 ind^(0) = -l ind^(O) = 1 Описание сжимающая растягивающая эллиптическая гиперболическая (седло) гиперболическая с вращением (обратное седло) Понятие индекса изолированного нуля векторного поля во многом повторяет свой дискретный аналог и в некотором смысле даже более просто. А именно, пусть U СМ^ — открытое множество я v: С/ —+ R" — векторное поле с изолированным нулем XqEU. Пусть Vc U — гомеоморфный образ п-мерного шара я x^eV cV CU. Тогда индекс ind„(a:o) определяется как
328 Часть 2. Гл. 8. ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ ОРБИТ степень отображения ^^ у\ dV -^ 5 ■ 1|г;(ж .4.3). ""\ ^{х) = IIj^(||, которая оказывается не зависящей от выбора V (см. упражнение 8 В качестве простого примера рассмотрим сохран5пощйе площадь потоки в случае размерности 2, индуцированные линейной системой х — Ах обыкновенных дифференциальных уравнений с постоянными коэффициентами, т. е. потоки вида {€,^^}t^^ для некоторой матрицы А, для которой е*^'* =det е'* = 1, или tr А =0. В этом случае траневереальные неподвижные точки могут быть только эллиптическими или гиперболическими седлами: собственные значения матрицы равны Л и —Л, и мы можем считать, что матрица А приведена к жордановой форме. Если Л = О, то начало координат не является изолированной неподвижной точкой. Если Л т^ О, то число Л либо чисто мнимо: Л = гз € Ш, либо вещественно. В первом случае собственные значения е*^ равны е"^"* для некоторого s € R, и тогда нуль — неподвижная эллиптическая точка. В противном случае собственные значения е*^ имеют вид е"^'* для некоторого s €lR и нуль — гиперболическая неподвижная точка. Другими словами, возможны только два случая: 1 2 Собственные значения А ±is € Ш A,-A€R Индекс нуля 1пс1,л (0) = 1 тс1,л(0) = -1 Описание эллиптическая гиперболическая Так как определение индекса опирается на степень отображения сферы, индекс не всегда просто определить в тех случа51х, когда соответствующей информации относительно линейной части недостаточно, т. е. для нетрансверсальных неподвижных точек. В случае размерности два, однако, локальная картина обычно позволяет относительно легко оценить значение индекса. Пример. Рассмотрим отображение сдвига за единичное время для потока, которое вблизи нуля выглядит, как на левой части рис. 8.4.1. Рис. 8.4.1. Тройное седло и его возмущение
§ 8.4. ИНДЕКС ИЗОЛИРОВАННОЙ НЕПОДВИЖНОЙ ТОЧКИ 329 Неподвижная точка такого вида называется кратным (в нашем случае трехкратным) седлом. Поток, подобный этому, может быть получен как гамилыонов поток y^oi индуцированный гамильтонианом Н{х^ у) = = ху{х + у){х — у). Чтобы определить индекс нуля с помощью чертежа, обойдем единичную окружность в положительном направлении (О), следя за направлением касательного к потоку вектора. Чтобы найти степень этого отображения v: S^~^S^, заметим, что v монотонно, и перечислим некоторое количество его значений, обозначая угол на 5^ через в: в V 0 7Г 7г/4 7Г/4 7Г/2 -7Г/2 37Г/4 -57Г/4 7Г -27Г < ■ « « « « 27Г -57Г Поскольку V покрывает 5^ трижды, убывая, его степень и, таким образом, индекс векторного поля в нуле равны —3. Замечание. В некотором смысле это седло может быть получено «склейкой» вместе трех простых седел индексов —1. Таким образом, индекс аддитивен в следующем смысле: если поток ipQ вложен в такое однопараме- трическое семейство потоков ip^, что потоки (р^ имеют три простых седла для £ >0, то (pQ естественным образом оказывается потоком с многократным седлом, полученным объединением трех простых седел, т. е. е = О — бифуркационное значение согласно определению из § 7.3. Соответствующий пример дают гамильтоновы потоки гамильтонианов Н^{х^ у) := ех-^ -h ху{х -h у){х — г/), показанных на рис. 8.4.1 для е = О и е = 1/10. Таким образом, сумма индексов в этой ситуации сохраняется. Если мы вложим эту локальную картину в компактное многообразие, тогда этот факт окажется следствием формулы Лефшеца (теоремы 8.6.2). Эти рисунки демонстрируют следующее общее явление. Предложение 8.4.8. Если отображение /: М -^ М непрерывно и V — открытое подмногообразие в некоторой координатной окрестности М, содержащее только изолированные неподвижные точки {х^,...,х^) и не имеющее никаких неподвижных точек на dV, то deg(v^v)= Y1 i"d^(a:J, где, как и прежде, v^v= |b-/Sn' i = \ Доказательство. Рассматривая попарно не пересекающиеся шары Б^, где х^еВ^С В- с V, заметим, что отображение w: А: i = \ S n-1 X X 'f(x) x-f{x) корректно определено и непрерывно и что по предложению 8.2.18 deg{w\g^) = 0. Далее, дА представляет собой объединение dV и IJ дВ, НО последнее многообразие берется с ориентацией, противоположной индуцированной. Таким образом. i^giVf, v)-J2 *"d/(^i) = ^^^(^/. v)-Y^ deg(v^^5,) = deg(u;|54) 0. П i = 1 1 = 1 Можно считать, что индекс изолированной критической точки вещест- веннозначной функция / на многообразиях — это индекс данной точки как
330 Часть 2. Гл. 8. ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ ОРБИТ неподвижной точки отображения сдвига градиентного потока / за единичное время. Предложение 8.4.3 показывает, что это определение не зависит от римановой метрики, выбранной для определения градиентного потока, поскольку любые две римановы метрики могут быть переведены одна в другую посредством деформации вдоль их соединяющего отрезка и, следовательно, эти градиентные потоки гомотохшы посредством гомотопии, не перемещающей критические точки. Для индекса невырожденных критических точек вещественнозначных функций следствие 8.4.7 имеет следующее применение. Следствие 8.4.9. Пусть f — вещественнозначная гладкая функция на многообразии up— невырожденная критическая точка. Тогда индекс точки р равен signdet(Id —ехрЯ), а это выражение равно — 1, если гессиан Н функции f в точке р имеет нечетное число положительных собственных значений, и\ в противном случае. Упражнения 8.4.1. Предположим, что О — изолированная неподвижная точка отображения /: Н^—>Н^, где /(х, у)~(Р(х^ y)i Q{x, у)), Р и Q ^полиномы. Докажите, что ind, 0^max(clegi^cleg Q). 8.4.2*. Предположим, что О — изолированная неподвижная точка отображения /: Н" —> R", координаты которой являются полиномами. Покажите, что incl*(0) ограничен по абсолютной величине функцией, которая зависит только от степени этих полиномов. 8.4.3. Докажите, что deg ^^ у не зависит от выбора достаточно маленького множества V, содержащего изолированный нуль векторного поля v. 8.4.4. Предположим, что v — векторное поле с изолированным нулем в точке Xq и что существуют такое е>0 и такая окрестность U точки а:^, что поток у?*, порожденный и, не имеет периодических орбит периода, не превосходящего е, в U. Покажите, что ind„ а:^ = = ind^, Xq. п 8.4.5. Пусть Р{х,у)= П {а^х-\-^^у), где a^,^^eU и числа a^/^i попарно различны. Покажите, что для гамильтонова векторного поля Vp функции Р выполнено равенство ind„ 0= = 1-п. " 8.4.6. Пусть Р(х, y) = xy[x-\-y)-\-Q[x, у), где Q —однородный полином степени по крайней мере четыре. Покажите, что ind„ 0= -2. § 8.5. Роль гладкости: теорема Шуба — Сулливана Неподвижная точка отображения / является, конечно, также и неподвижной точкой любой степени /. В таком случае естественно возникает следующий вопрос: связаны ли индексы неподвижных точек степеней / с индексами неподвижных точек самого отображения / и можно ли вообще как-либо контролировать их? Существуют два ответа на этот вопрос. Первый из них состоит в том, что на самом деле может возникать экспоненциальный рост. Пример. Рассмотрим знакомый нам пример д: S^ -+ S^, z i-+ z^/(2|z|), на сфере Римана. Поскольку для таких точек z, что |z| = 1, вектор z — g'^z) всегда направлен «внутрь» единичной окружности, мы имеем ind^„(oo) = = 2". В самом деле, в окоестности оо отобоажение а имеет вил a(w\ =
§ 8.5. РОЛЬ ГЛАДКОСТИ: ТЕОРЕМА ШУБА — СУЛЛИВАНА 331 2vP-jw в координатах w = l/z. Но тогда на единичной окружности |гу = 1 МЫ имеем -. ^п) {■ = ; ^^ .>«,, а это отображение гомотопно своему старшему члену w^" посредством гомотопии *"^" "^2"!' * ^ [^' ^]> "Р^ п > 1. Но степень старшего члена w i-+ —w^' равна 2". Другой ответ на наш вопрос состоит в том, что для гладких отображений этого не случается и для них индекс итераций данного отображения даже ограничен. Теорема 8.5.1 (теорема Шуба — Сулливана [^ ]). Пусть множество и CR"" открыто, 0€U и отображение /: ?7 -*R"* непрерывно дифференцируемо. Если О ~ изолированная неподвижная точка всех отображений Р Сп €Nj, то множество {ind/.(0)| п €N} ограничено. Доказательство. Начнем с двух простых наблюдений. Прежде все- го, оператор J^ Df' вырожден тогда и только тогда, когда n = yfc, где fc > 1 и первообразный корень степени к из единицы является собственным значением Df. Лемма 8.5.2. Если А := £>о/ и Щ:= {к €N\k >lj3 первообразный корень fi степени к из I и det(/zIcl-A») = 0} —множество порядков всех первообразных корней из единицы степени, выше первой, из спектра А* для всех г €N и N7^{:= {jk\ У €N, А; €7^/}, n-l то оператор J2 ■^* обратим для всех п ^ N7^1. Доказательство. Если оператор '^ А* вырожден, то вырожден и оператор Id —А" = ( X) ■^* )G^ -■^), так что единица является собствен- ным значением А", т. е. n = jk, следовательно, существует первообразный корень из единицы степени к в спектре А, Мы должны проверить, что можно найти некоторое к > I. Если это не так, то единица является собственным значением А nW^ = E^® Е\ где Е^ := {v € R"4 (Л" - Id)v = = О для некоторого п} — корневое подпространство единицы я Е' — сумма п- 1 остающихся корневых подпространств, так что оператор X) ■^* расклады- вается на компоненты, соответствующие разложению R"* = Е^фЕ'. По построению наш оператор обратим на ^-компоненте этого разложения, и, применяя предыдущее соображение к Е', мы получим А; > 1. D Эти числа А; являются делителями п в 7^{. «Хорошие* значения п получаются из них следующим образом. Лемма 8.5.3. Зафиксируем neN и рассмотрим множество Z„ := HOK{ifc €7^{ I fc|n} —наименьшее общее кратное делителей п вТ1{. Тогда п/1„ ^ Ш1- Доказательство. Если Л — первообразный корень из единицы степени к в spec(A), то А' также является первообразным корнем степе-
332 Часть 2. Гл. 8. ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ ОРБИТ ни (нодгА; п) ^^ единицы В spec(A'), и наоборот; следовательно, если п{ = {к,, к,,...}, то 7г( = {^^-^,штлГУ •••]^^^^' п^^'^^^у ^^■ ^« ^ = ^"нод^й' ''° ""^HTOTU^i' т. е. fcjn, следовательно, A:JZ„ по определению /„ и НОД(А;., /„) = fc,., так что нод(1;,Г ) = 1 ^ 7^(. О Эти наблюдения сводят доказательство теоремы к следующему ключевому шагу. ^ _ ^ Лемма 8.5.4. Если оператор Х)(Д)/)* обратим, то | ind^n 0| = ind^O|. '=0 Это доказывает теорему. В самом деле, положим п € N, и пусть т = = n/Z„€N, g = f'^. Тогда Щ = 71{, и по лемме 8.5.3 мы получаем т^ ^ NT^f = N7?.f, так что согласно лемме 8.5.2 оператор J] (^^яУ обра- ТИМ и согласно лемме 8.5.4 | ind^» 0| = | ind^.. 0| = | ind^ 0| = | ind^j„ 0|. Заметим, однако, что по построению I ^ HOK^f для всех п. Таким образом, ind/. 0| ^ тах{| ind^, 0|| / ^ Н0К7г(} для всех п. D Доказательство леммы 8.5.4.. Пусть А := Д,/, Л^:=/'—А', Л •= "Е ^S ^•= И -/. ^„ := Л^! - А„. Тогда И-Г = Ы-Л"-Д„ = (^Л')(1(1-Л)-Д„ '=0 =Д„(И-/)+Д„Д,-Ап=Л^-^„- Пусть 7„ = И;Ч|-'. Лемма 8.5.5. Существует такое е > О, что ||f„(a;)|| < 7п11-^(я:)|| при \\х\\ < е. Это значит, что ||(Id -П(х) - Л„Пт = \\£„(х)\\ < j„m^)\\ < \\Л„Т{х)1 Т. е. отображения Id —/" и Л^Т гомотопны посредством гомото- пии вдоль отрезков в 5(0, е)\{0}. Таким образом, уменьшением е можно добиться, чтобы отображения S^ вида у^п^^{х) := г „^ ~ {nS.. И V(i(i_^ я).Лз^)-= g IU у(ж>11 ^^^'^^ ГОМОТОПНЫ, И, следовательно, их степени равны, причем по определению они равны индексу /". С другой стороны, оператор Л^ обратим, так как | ind^» 0| = | deg{v^^^^j^^^J\ = \ deg{v^^^_^^ ^)\ = ind^ 0|, если е достаточно мало. Лемма 8.5.4 доказана. D Доказательство леммы 8.5.5.. Докажем с помощью индукции по п следующее утверждение. Для всех п €N существует такое (5„ > О, что ¥п(х)\\<ът^)1 где||а:||<5„ И \m~n(x)H{i„+Y,\\A'\\)mx)\\. j=0
§ 8.6. ФОРМУЛА ЛЕФШЕЦА И ЕЕ ПРИЛОЖЕНИЯ 333 Для п = 0 И п = 1 эти утверждения выполнены, поскольку Sq=S^ =0. Предположим, что п таково, что оба этих утверждения верны для всех i < п. Из равенства n- 1 МЫ получаем Д„ = 5^ А"*"'"^ оА^ор и, следовательно, »=0 »=1 Теперь выберем 6^ так, что П-1 X X -1 \\DA,\U^:= sup \\ОАЛ<ъ(тах \\Aq(Y,K)) Тогда по теореме о среднем значении п -1 11£„(^)|| ^ рА,|ь_ Y, (1И"'"Ч1 • \m-f')(x)\\) < ||РД,|Ь („max 1И^||)(Ё^^И^)1|) <7п11Л^)11 Мы также имеем \\{Ы-П(х)\\ = \\Л„Пх) + £(х)\\^ , "-• ^1К1111Лх)11+7ЛЛ^)1К (7„+ЕИ'1|)|И^)11- D J-0 § 8.6. Формула Лефшеца и ее приложения При рассмотрении степени отображений окружности было установлено, что понятие степени может использоваться для доказательства существования (большого количества) периодических точек. По существу мы подсчитывали число точек пересечения графика нашего отображения со сдвинутой диагональю в произведении R х R универсального накрывающего пространства на себя. Более сложный вариант того же соображения пригоден в большей общности и использует в качестве главного инструмента понятие индекса неподвижной точки. Мы имеем в виду формулу Лефшеца, связывающую действие отображения / на группах гомологии с суммой индексов неподвижных точек. Эта формула описывает глубокую связь между глобальным поведением отображения, проявляющимся при действиях на группы гомологии, и локальным поведением в неподвижных точках, представляемом их индексом. В частности, если известно, что индексы неподвижных точек не могут быть большими (например, благодаря теореме Шуба — Суллива- на), мы, таким образом, получим нижнюю границу для числа неподвижных точек и, следовательно, для числа периодических точек итераций отображения /.
334 Часть 2. Гл. 8. ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ ОРБИТ Необходимая информация относительно действия отображения / на группах гомологии заключена в числе Лефшеца /. Определение 8.6.1. Пусть М — компактное многообразие, Hj^iMj Q)^Q^' — свободная часть к-я группы гомологии М, 0^ А; ^ dim М, и /»jfc: -H'jj.(M, Q) -* -Н^.(М, Q) — действие отображения / на 11},(Щ Q). Заметим, что /,jj. имеет матричное представление. Тогда число dimM Jb=0 называется числом Лефшеца отображения /. Теорема 8.6.2 (формула Лефшеца). Пусть М — компактное многообразие, возможно с границей, uf: М-* М —непрерывное отображение, все неподвижные точки которого изолированы. Тогда X € Fixif) Следующий критерий представляет собой наиболее очевидное применение формулы Лефшеца в динамике. Следствие 8.6.3. Непрерывное отображение f\ М-*М компактного многообразия М (возможно, с границей), для которого L(f'*)^0, обладает периодической точкой периода п. Приведем простой пример, показывающий, как работает этот критерий. Следствие 8.6.4. Каждое гомотопное нулю отображение связного компактного многообразия (возможно, с границей) обладает неподвижной точкой. Доказательство. Для гомотохшого нулю отображения / преобразования f^j^ при к ^ I тождественно нулевые. Для связного многообразия Яо(М, Q) = Q и /^ = Id. Таким образом, L (/) = 1. D Так как каждое отображение замкнутого шара гомотохшо нулевому, мы получаем следующий широко известный результат. Теорема 8.6.5 (теорема Брауэра о неподвижной точке). Любое непрерывное отображение замкнутого шара в себя обладает неподвижной точкой. Другой важный специальный случай — отображения, гомотопные тождественному. Если отображение f: М -* М гомотопно тождественному, то /,^. =Id на пространстве Н,^{М, Q)~Q^' и, следовательно, tvf^j^=/3j^. В част- dim М ности, L(f) = L{ld)= Y^ (~^)^Pk ^' кроме того, поскольку отображение/" также гомотопно тождественному, dimJlf ^(/")=Е(-1)*А 'Jfc Jfc=0 вне зависимости от п. Таким образом, из формулы Лефшеца следует, что dlmM Y, ind^„.x=^(-l)'^.
§ 8.6. ФОРМУЛА ЛЕФШЕЦА И ЕЕ ПРИЛОЖЕНИЯ 335 вие зависимости от п. Напомним, что по формуле Эйлера — Пуанкаре dlmM (предложение П 7.7) J2 ("U*"/^* = х(-^)» где х(М) — эйлерова характери- Jfc=0 стика М, которая может быть вычислена непосредственно путем подсчета числа симплексов любой триангуляции М. Следовательно, для отображений, гомотопных тождественному, все неподвижные точки которых изолированы, выполнено равенство Е ind/nX = x(M). X € Fix/" Так как отображения сдвига за время t для потоков по построению гомотопны тождественному и индексы изолированных неподвижных точек потока равны индексам этих точек для отображений сдвига за время t согласно упражнению 8.4.4, мы получаем, в частности, следующее утверждение. Теорема 8.6.6 (теорема Хопфа — Пуанкаре об индексе). Для гладкого потока (р^: М-^М с изолированными неподвижными точками имеет место следующее равенство: 2^ "-v^^t a:eFix(v?*) ind . z = x(M). Следствие 8.6.7. Пусть М — компактное дифференцируемое многообразие без границы и f: М -+ R — С^-функция с изолированными критическими точками. Тогда сумма индексов критических точек равна эйлеровой характеристике х(М) многообразия М. Доказательство. Достаточно применить теорему 8.6.6 к градиентному потоку, порожденному /. D Для многообразий с особенно простой структурой грухш гомологии число Лефшеца может легко вычислено. Например, для отображений сферы мы получаем следующий результат, который полезно сравнить с некоторыми фактами, установленными при обсуждении понятия степени для отображений S\ в частности с полученным выражением для числа периодических точек. Предложение 8.6.8. Если /: 5"*-* S"*, то 1{Г)=1 + -f(-l)-(deg/)". Доказательство. Числа Бетти для S"* имеют вид Д) =/3^ = 1 и /3fc = О, 0<к <т. Таким образом, /^ и /^^ — единственные нетривиальные действия, порожденные /, и они задаются (1 х 1)-матрицами с эле- dimM ментом 1 и deg/ соответственно, так что L(/")= J] (—1)*МЛ<ь)" = 1 Н- H-(-l)'"deg/". D Следствие 8.6.9. Если размерность т четна и f: S"* -* S"*, то РЛЛ>о. Следствие 8.6.10. Для таких отображений S"*, 4mo|deg/|^2, число L{P) растет экспоненциально с ростом п. Таким образом, опираясь на формулу Лефшеца и следствия из нее, можно попытаться оценить скорость роста периодических орбит, а не просто установить факт их существования. Рассмотрим следующий типичный, конкретный пример (который мы уже обсуждали в п. 8.2 в), показывающий, как формула Лефшеца дает оценку на рост числа периодических точек.
336 Часть 2. Гл. 8. Т0П0Л0П1ЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ ОРБИТ Пример. Рассмотрим отображение /: S^ -+ S^, z i-+ z^, на римановой сфере C = CU{oo}, т. е. на одноточечной комапктификации комплексной плоскости. Поскольку / покрывает сферу дважды, deg/ = 2. Следовательно, Х(/")=1н-2"и.какбылопоказанов§8.2, Р„(/) = 2н-2"-1=2"н-1=Х(/"). Это означает, что все периодические точки имеют одинаковый индекс. С другой стороны, известный нам контрпример не обладает таким большим количеством периодических точек, как можно было бы предположить, исходя из значения числа Лефшеца. Действительно, степень отображения д\ S^ -* S^, z I-+ z^/(2|z|), равна двум. По формуле Лефшеца 14-2" =Х((/")= ^ ind^, x = ind^,OH-ind^„oo. Здесь мы видим, что индекс ind^.(oo) = 2" оо растет с экспоненциальной скоростью. Этот пример показывает, в чем состоит трудность при использовании формулы Лефшеца для получения большого количества периодических точек: одна периодическая точка может поглощать весь рост числа Лефшеца за счет отсутствия каких бы то ни было ограничений на индекс. Однако существование такой неподвижной точки, поглощающей рост числа Лефшеца, требует существенной негладкости з" в оо. Теорема Шуба — Сулливана 8.5.1 показывает, что для дифференцируемых отображений последовательность ind^- X ограничена равномерно по п для всех х. В такой ситуации часто бывает возможно доказать существование бесконечно большого количества периодических точек. В частности, теперь мы можем установить несколько следствий из предыдущих результатов н теоремы Шуба — Сулливана 8.5.1. Следствие 8.6. И. Пусть М — компактное многообразие и отображение /: М -^ М непрерывно дифференцируемо и таково, что lim L(/") = oo. Тогда f обладает бесконечно большим количеством пе- п—*оо риодических точек. Объединяя следствие 8.6.10 и следствие 8.6.11, мы получаем такое следствие. Следствие 8.6.12. Любое С^-отображение f: S"'-*^"', | deg(/)| > ^ 2, обладает бесконечным множеством периодических орбит. Отметим, что согласно теореме Шуба — Сулливана индекс данной периодической точки ограничен, но ограничение может зависеть от точки. Другими словами, эта теорема оставляет открытым вопрос о том, ограничено ли множество {ind^»(p)|n€N,р€М — изолированная точка /"}. Таким образом (в свете следствия 8.6.14), напрашивается следующий вопрос. Вопрос. Всегда ли число периодических точек гладкого отображения растет так же быстро, как числа Ь(/"), т. е. верно ли, что lim(l/n)log|L(r)|<p(/)> п—*оо Возвращаясь к отображениям сферы, заметим, что в случае размерностей выше единицы теорема Мизюревича — Пшитицкого показывает, что для гладких отображений /, для которых | deg(/)| ^ 2, динамическое поведение усложняется, в то время как для непрерывных отображений это может быть не так. Эта теорема, однако, не дает никакой информации относительно скорости роста числа периодических орбит. В частности, для
§ 8.6. ФОРМУЛА ЛЕФШЕЦА И ЕЕ ПРИЛОЖЕНИЯ 337 случая сферы предыдущий вопрос может быть сформулирован в более специальной форме. Вопрос. Пусть /: S" -* 5" — С^-отображение. Верно ли, что p{f) > ^log|deg(/)|? С другой стороны, для отображений общего положения формула Лефшеца может быть использована для оценки роста числа периодических орбит. Следствие 8.6.13. Если \ ind ^п х\ = 1 для ecexxeFixif*), то P^{f)^ Если отображение / дифференцируемо и единица не является собственным значением -D^./", то по предложению 8.4.6 | ind^» z| = 1. Вышеупомянутое условие — это трансверсальность периодической точки. Поскольку по теореме 7.2.4 типичная периодическая точка дифференцируемого отображения трансверсальна, следствие 8.6.13 отвечает на предыдущие вопросы для типичных отображений. Следствие 8.6.14. Для отображений общего положения L (/") < ^Р„(/)и lim \og\L(n\/n^p(f). п—*оо Следствие 8.6.15. Для типичного С-отображения /: 5" -* S" верно, что p{f) ^ log | deg(/)|. Следствие 8.6.16. Если е = ±1 и indy- х = е для всех х€Fix(/"), moPM) = eLif). Поскольку (/")»А. =/*fc"i можно ожидать, что L(/") в большинстве случаев экспоненциально растет с ростом п (см. упражнение 8.6.6). Следовательно, предыдущие следствия часто позволяют установить по крайней мере экспоненциальную скорость роста числа периодических точек. С другой стороны, вообще говоря, верхние оценки на число периодических точек трудно получить даже для отображений Купки — Смейла из-за трудностей, связанных со взаимным сокращением индексов периодических точек возрастающих периодов (см. § 7.4). Этот факт отражает существенное различие между дифференциальной топологией, которая оперирует алгебраическими величинами, и дифференциальной динамикой, которая изучает геометрическую информацию, не обязательно связанную с алгебраическими данными. Один из случаев, когда геометрическая картина может быть в определенной степени описана в алгебраических терминах, — это случай локально максимальных гиперболических множеств, определенных в п. 6.4 г, который подробно изучается в гл. 18. Упражнения 8.6.1. Вычислите число Лефшеца для отображений окружности. 8.6.2. Пусть / — гомеоморфизм компактного многообразия отличной от нуля эйлеровой характеристики. Покажите, что / обладает периодической точкой периода не более чем max(i;/32fc,E/32jt_i). 8.6.3. Покажите, что единственная компактная ориентируемая поверхность 5, на которой существует диффеоморфизм Аносова, — это тор. 8.6.4. Предположим, что f: М^М — диффеоморфизм Аносова и его неустойчивое многообразие Е'^ ориентируемо в следующем смысле: каждому реперу из неустойчивого подпространства Е^ можно приписать знак таким способом, что он не меняется при непрерывном переносе репера. Покажите, что тогда С-фуикция (3.1.3) / рациональна.
338 Часть 2. Гл. 8. ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ ОРБИТ 8.6.5*. Покажите, что не существует сохраняющего объем диффеоморфизма Аносова на сфере. 8.6.6. Сформулируйте и докажите аналог теоремы 8.6.6 для многообразий с границей. 8.6.7. Покажите, что Ит (l/n)logL{f^)~ max r(f-). § 8.7. Теория Нильсена и периодические точки для отображений торов В определенных случаях анализ индексов неподвижных точек с необходимостью приводит к заключению об экспоненциальной скорости роста числа периодических точек. В наиболее общей постановке этот вопрос является предметом теории Нильсена, которая объединяет гомотопии и гомологии, рассматривая индексы неподвижных точек различных поднятий данного отображения на универсальное накрытие. Среди ограниченного набора многообразий, которым уделяется специальное внимание в этой книге, эта теория дает нетривиальные результаты для отображений торов произвольных размерностей и поверхностей более высокого рода. Здесь мы сосредоточим внимание на отображениях торов, для которых основные идеи теории Нильсена могут быть представлены очень наглядно и без больших топологических затруднений. Наиболее элементарный пример утверждения, принадлежащего теории Нильсена, — предложение 8.2.4, которое дает оптимальную оценку числа неподвижных точек отображения окружности через чисто топологические данные. Главная цель данного параграфа состоит в том, чтобы обобщить это утверждение на случай отображений торов более высоких размерностей. Каждое отображение тора /: Т" —+ Т" определяется с точностью до гомотопической эквивалентности действием /^ на фундаментальной группе Z", которая в этом случае совпадает с первой группой гомологии. Это действие задается целочисленной (п х п)-матрицей А, которая также определяет единственное линейное отображение F^ в классе гомотопии действия /. Всюду далее мы будем предполагать, что F^ обладает изолированными неподвижными точками, что эквивалентно тому, что единица не является собственным значением А, или dei(A - Id) ф 0. Без этого предположения существование каких-либо неподвижных точек не может быть гарантировано (см. упражнение 8.7.2). Наше первое наблюдение состоит в том, что индексы всех неподвижных точек преобразования F^ одинаковы и равны signclet(Id -А) (предложение 8.4.6). Таким образом, по формуле Лефшеца L(F^) = signdet(Ia-A)cardFix(F^). Другой способ вычислить число неподвижных точек F^ состоит в том, чтобы использовать соображение из доказательства предложения 1.8.1, которое содержит это вычисление для специального случая матрицы I i } если F^{x)=x для некоторой точки х е Т\ то для любой точки v е R", проектирующейся в X, мы имеем Av — v € Z". Таким образом, точка х = ttv, где 7г — каноническая проекция, является прообразом нуля для (необратимого) отображения -fJ^-A- ^^ число таких прообразов в точности равно абсолютному значению степени этого отображения, которая в свою очередь равна
§ 8.7. ТЕОРИЯ НИЛЬСЕНА И ПЕРИОДИЧЕСКИЕ ТОЧКИ 339 det(Id—А) согласно определению степени, использующему форму объема. Таким образом, L{F^) = dei(ld-A). (8.7.1) Различные неподвижные точки i^ можно описать следующим образом. Рассмотрим различные поднятия отображения i^ на универсальное накрытие. Эти поднятия отличаются на преобразование накрытия, т. е. на сдвиги на целые числа. Таким образом, каждое поднятие может быть однозначно представлено как преобразование v —* Av + m, где m € Z". Если v — неподвижная точка любого поднятия, то ее проекция является неподвижной точкой отображения i^. Конечно, точки v, отличающиеся на целочисленный вектор, представляют одну и ту же неподвижную точку х. Если Av + m = v, то m = (Id —A)v. Теперь предположим, что щ я гщ таковы, что соответствующие неподвижные точки v,- поднятий v *-^ Av -\- т.^ г = 1, 2, проектируются в одну и ту же точку ж € Т". Это значит, что щ — т2 = (Id —А) к для некоторого к € Z". Таким образом, все целочисленные векторы т и, следовательно, все поднятия разбиты на такие классы эквивалентности, что неподвижные точки из двух эквивалентных поднятий проектируются в одну и ту же неподвижную точку отображения F^ на Т". Прежде чем перейти к общему доказательству ограниченности числа периодических точек числом Лефшеца, посмотрим, что происходит с возмущениями линейных отображений. По предложению 1.1.4 любая периодическая точка F^ сохраняется при достаточно малых С^-возмущениях и ее индекс также не меняется. Замечательно, что если преобразование А гиперболическое, то достаточно малое возмущение сохраняет индексы всех периодических точек. Это можно показать следующим образом: в силу структурной устойчивости (теорема 2.6.3 для двумерного случая, которая дословно переносится на случаи произвольной размерности) число Р„(/) точек периода п постоянно для любого отображения /, достаточно близкого к F^, и по следствию 6.4.7 они все гиперболические и, следовательно, все имеют одинаковый индекс, поскольку L{f) = L{Fj^). Теперь рассмотрим произвольное отображение /, гомотопное i^. Выберем любое поднятие F отображения /. Оно имеет вид v >-}• Av -\-m-\-g для некоторого Z"-периодического отображения д: R" —+R". Как и выше, поднятия неподвижных точек характеризуются целочисленным вектором т, хотя неподвижная точка F уже не обязана быть единственной, н различные щ задают один и тот же класс, если 74^—771^ = (Id —А)к. Мы покажем, что для каждого класса эквивалентности т существует поднятие, у которого есть по крайней мере одна неподвижная точка. Рассмотрим такой шар В в R" с центром в неподвижной точке аффинного отображения vh-> Av-f т, что отображение Vp.^^: v\-^ i^Z Ff (1 "^ единичную сферу S""^ не антипо- дально ни в одной точке соответствующему отображению v^ ^ ^ ^. Так как F — ограниченное возмущение А-{-гщ это всегда верно, если только шар В достаточно велик. Степень отображения v^^ тогда равна степени v^^^y, которая в свою очередь равна индексу единственной неподвижной точки Л + m в R", равному det(Id-A). Следовательно, у F есть неподвижная точка в В. Таким образом, мы доказали следующий результат, который может рассматриваться как прототип результатов из теории Нильсена. Теорема 8.7.1. Пусть f: Т"-+Т" —такое непрерывное отображение, что единица не является собственным значением преобразования
340 Часть 2. Гл. 8. ТОПОЛОГИЧЕСКИЕ ПРИЧИНЫ УСЛОЖНЕНИЯ СТРУКТУРЫ ОРБИТ /^: Z" —+ Z". Тогда f обладает по крайней мере \ det(Id —/,)| различными неподвижными точками. Переходя к более общему случаю, пусть /: М —*М — непрерывное отображение связного многообразия М я М — универсальное накрытие М. Тогда фундаментальная группа действует преобразованиями накрытия на 7, и два поднятия F^ и i^ могут быть названы эквивалентными, если существует такое преобразование накрытия 7, что i^ = 7"^Fi7. Обозначим это отношение эквивалентности ~. Проекции неподвижных точек отображений i^ и i^ тогда совпадают и дают (возможно, пустой) класс эквивалентности неподвижных точек /. Объединение этих классов дает все неподвижные точки /. Класс неподвижных точек называется существенным, если сумма индексов прообразов этих точек относительно проекции отлична от нуля для любого поднятия на накрытие. Отметим, что для отображений тора / все классы существенны, если det(Id—/^)^0, и несущественны в противном случае. Главное свойство этих классов — гомотопическая инвариантность суммы индексов. В случае компактности универсального накрытия (который не особенно интересен с точки зрения теории Нильсена) это следует из формулы Лефшеца. Число существенных классов неподвижных точек называется числом Нильсена отображения / и обозначается N(f). Это число является гомотопическим инвариантом, который нередко может быть вычислен путем рассмотрения особенно простых моделей в гомотопическом классе, однако его вычисление существенно менее алгоритмично, чем вычисление числа Лефшеца. Таким образом, число Нильсена дает лучшую оценку снизу на число неподвижных точек отображения. Фактически в большинстве случаев (в частности, для торов) эта оценка является точной в данном гомотопическом классе. Классы эквивалентности неподвижных точек могут быть определены непосредственно для многообразия М следующим образом: две неподвижные точки ряд отображения / называются эквивалентными (р '^' д), если существует такая дуга с, соединяющая ряд, что пути с и /(с) гомотопны посредством сохраняющей концы гомотопии. В упражнениях 8.7.4-8.7.6 мы увидим, что это определение совпадает с предыдущим. Упражнения 8.7.1*. Вычислите число Лефшеца преобразования F^ и найдите p{Fy^) для любой целочисленной матрицы А, используя определение 8.6.1. 8.7.2. Покажите, что если единица является собственным значением целочисленной матрицы Л, то существует отображение д^ гомотопное F^ и не имеющее неподвижных точек. 8.7-3*. Рассмотрим такой гомеоморфизм тора/: Т"—*Т", что единица не является собственным значением преобразования д: Z" —* Z и, кроме того, Д обладает собственным значением, ие являющимся корнем из единицы. Покажите, что тогда р(/) > 0. 8.7.4. Пусть /: М —*М и р^' q — неподвижные точки. Покажите, что существует поднятие F отображения / с неподвижными точками р' и д', которые проектируются в точки р и g соответственно. 8.7.5. Пусть /: М —* М ир^д — неподвижные точки. Покажите, что существует поднятие F отображения / с неподвижными точками р' и д', которые проектируются в точки р и g соответственно. 8.7.6. Пусть /: М—* М и р, g—такие неподвижные точки, что существует поднятие F отображения / с неподвижными точками р' и д', которые проектируются в точки р и g соответственно. Покажите, что р ^' д.
ГЛАВА 9 Вариационные методы в динамике Цель этой главы — познакомить читателя с использованием вариационных методов в теории динамических систем, которые позволяют находить интересные орбиты некоторых динамических систем как критические точки некоторых функционалов, определенных на подходящих вспомогательных пространствах, образованных «потенциально возможными» орбитами. Эта идея восходит к идее использования вариационных принципов в задачах классической механики, которой мы обязаны Мопертюи, Даламберу, Лагранжу и другим. В классической ситуации, когда время непрерывно, источником определенных трудностей является уже то обстоятельство, что пространство потенциально возможных орбит бесконечномерно. Для того чтобы продемонстрировать существенные черты вариационного подхода, не останавливаясь на вышеупомянутых технических деталях, в § 2 мы рассмотрим модельную геометрическую задачу описания движения материальной точки внутри выпуклой области. Затем в § 3 будет рассмотрен более общий класс сохраняющих площадь двумерных динамических систем — закручивающих отображений, которые напоминают нашу модельную задачу во многих существенных чертах, но включают также множество других интересных ситуаций. Главный результат этого параграфа — теорема 9.3.7, которая гарантирует существование бесконечного множества периодических орбит специального вида для любого закручивающего отображения. Не менее, чем сам этот результат, важен метод, с помощью которого он получен. Этот метод, основанный на использовании функционала действия (9.3.7) для периодических орбит, будет обобщен в гл. 13, что даст возможность получить весьма замечательные результаты о непериодических орбитах. После этого, развив предварительно необходимую локальную теорию, мы переходим к изучению систем с непрерывным временем, хотя мы проделаем это только для геодезических потоков, для которых функционал действия имеет ясный геометрический смысл. При этом важной компонентой доказательства оказывается сведение глобальной задачи к соответствующей конечномерной задаче путем рассмотрения «геодезических ломаных» (см. доказательство теоремы 9.5.8). В §§ 6 и 7 мы сосредоточим внимание на описании инвариантных множеств, состоящих из глобально минимальных геодезических, т. е. таких геодезических, поднятия которых на универсальное накрытие представляют собой кратчайшие кривые среди кривых, соединяющих любые две точки на геодезической. Главные утверждения этих параграфов — теорема 9.6.7, связывающая геометрическую сложность многообразия, измеряемую скоростью роста объема шаров на универсальном накрытии, с динамической сложностью геодезического потока, выражаемой его топологической энтропией, и теорема 9.7.2, позволяющая построить бесконечно много замкнутых геодезических на поверхности рода больше единицы с произвольной метрикой. Эти геодезические во многом аналогичны биркгофовым «минимальным» периодическим орбитам из теоремы 9.3.7.
342 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ § 9.1. Критические точки функций, теория Морса и динамика В гл. 5 мы рассмотрели два способа описания динамических систем, возникающих в классической механике. Гамильтонов формализм приводит к рассмотрению динамических систем в пространстве четной размерности, задаваемых системой обыкновенных дифференциальных уравнений первого порадка. При таком подходе координаты и скорости рассматриваются как равноправные координаты в фазовом пространстве. С другой стороны, лагранжев формализм работает исключительно с координатами в конфигурационном пространстве и охшсывает динамику с помощью систем обыкновенных дифференциальных уравнений второго порядка. Оказывается, что лагранжев формализм может быть введен посредством рассмотрения всех потенциально возможных траекторий системы, среди которых «настоящие» траектории выделяются как критические точки некоторого функционала, заданного на множестве всех кривых в конфигурационном пространстве. Описания такого рода обычно называются вариационными, поскольку необходимо варьировать потенциально возможные траектории, чтобы найти настоящие. Уравнения Эйлера — Лагранжа (5.3.2) представляют собой не что иное, как уравнения, описывающие критические в вышеописанном смысле кривые функционала действия, рассматриваемого в § 4. Изучение критических точек функций в конечно- или бесконечномерном пространстве имеет два аспекта: 1) локальный — описание типов и устойчивости изолированных критических точек; 2) глобальный, называемый иногда теорией Морса, — описание взаимосвязей между глобальными топологическими свойствами пространства и структурой критических точек функций, заданных на этом пространстве. Простейший конечномерный локальный результат — следующая лемма Морса. Предложение 9.1.1. Пусть р — невырожденная критическая точка функции f класса С"", г ^ 2, заданной на гладком многообразии М. Тогда существуют такое число к, О^к^п, и такая локальная система координат (xj,..., z„) с центром в р, принадлежащая классу С"""^, что в этих координатах функция f имеет вид п f(x)=f(0)+j2xf- Y. ==.• 1 = 1 »= л +1 Замечание. Число к называется индексом Морса точки р. Доказательство. Без ограничения общности можно считать, что /(0) = 0. Далее, с помощью линейной замены координат можно привести квадратичную часть / к требуемому виду, т. е. рассмотреть п п J=l »=1 и 5^ ==Ы. Теперь, используя индукцию по размерности пространства, построим нужную нам замену координат и покажем, что ее линейная часть является тождественным отображением. Для п= 1 имеем f (х) = ех^-\-д(х). Полагая h{x)=^ д(х)/{ех^) и у = х{1 -\- к{х)У^^, получаем f{x) = ех^(\ + -j- h{x)) = еу^, и новая координата у будет иметь такой вцд, как нам нужно.
-2 § 9.1. КРИТИЧЕСКИЕ ТОЧКИ ФУНКЦИЙ, ТЕОРИЯ МОРСА И ДИНАМИКА 343 Далее, h является функцией класса С"^ ъ нуле и функцией класса С вне всякой окрестности нуля, поскольку д(х) = о(х^) и функция д принадлежит классу С. Но тогда функция (1 + к{х)У^^ принадлежит классу С поскольку h{0)=0, и, таким образом, система координат у принадлежит по крайней мере классу С'^ (и линейная часть соответствующей замены координат тождественно равна единице). Предположим теперь, что наше утверждение имеет место для некото- п + 1 рой размерности п, и положим /(zj,..., z„+i)= X) ^i^f + 9i^)> где е,- = =Ы п + I » = 1 И д{х) = o{J2 xf). По теореме о неявной функции решение уравнения » -^ = О В окрестности нуля представляет собой график некоторой функции а;„^1 = v?(zi,..., ж„), причем Dip(0) = 0. Производя замену координат Vi = X. для г < п, у„^1 = а;„^1 - v?(Xi,..., х„), мы можем считать, что 0^^ — О при z„^ 1 = 0. По индуктивному предположению можно привести это условие, которому подчинена функция / на гиперплоскости x„^i =0, к нужному нам виду с помощью такой замены координат класса С'^ вида Vi = Ф{(х1, ...,х^) для г ^ п, что дифференциал этого преобразования в нуле является тождественным отображением. Это преобразование может быть продолжено до диффеоморфизма окрестности нуля (линейная часть которого по-прежнему есть тождественное отображение), если положить y^^j = х„ + 1. Тогда функция / принимает вид п /(УИ • • м y„-,l) = 5Z ^il/^ + ^п-ыУпч-1(1 + ^(Уи • • •' Упч-l))' i=I 'г-2 где, как и в случае п = 1, отображение h принадлежит классу ( и ^(i/i, •. м Уп1^) =0. Этот факт позволяет нам сделать последнюю замену координат вида z. = у., г ^ п, z^^^ = y„ + i(l + h(y)y^^, которая, таким образом, принадлежит классу С""^ и приводит функцию / к такому виду, как требуется. D Другой важный локальный факт, который следует из теоремы 8.4.4, состоит в том, что критические точки ненулевого индекса (в частности, невырожденные точки) сохраняются при малых в С*-топологии возмущениях функции. Простейшим примером глобального утверждения является утверждение о том, что гладкая функция на компактном многообразии имеет по крайней мере две критических точки: один глобальный максимум и один глобальный минимум. Полезный вариант этого утверждения таков: пусть / — такая гладкая функция на (необязательно компактном) многообразии, что для некоторого t множество f~^((—oo, t]) компактно и непусто. Тогда у / есть по крайней мере одна критическая точка, а именно глобальный минимум. Доказательство существования первой биркгофовой периодической орбиты типа (р, q) в теореме 9.3.7 будет основано на этом утверждении. Иногда бывает возможно доказать существование критических^ точек, отличных от глобальных экстремумов. Наиболее распространенный метод в таких случаях основан на рассмотрении «перевалов». Ниже приводится простое утверждение такого рода.
344 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ "■• ' Рис. 9.1.1. Перевал Предложение 9.1.2. Пусть М — компактное многообразие, D С С М —открытое множество с компактным замыканием и f\ М -^ R — функция класса С^ со следующими свойствами: {\) у функции f есть два локальных минимума р и q в D; (2) существует такой путь ^ в D, соединяющий р и q, что sup{/(z) I ж € 7} < inf{/(x) I X € дП}, Тогда у функции f есть другая критическая точка в D, не являющаяся локальным минимумом. Идея доказательства состоит в следующем. Без ограничения общности можно предполагать, что путь 7 является кусочно С^-гладким. Рассмотрим пространство С всех липшицевых кривых с достаточно большой константой Липшица в D, соединяющих р и д. Пространство С компактно в топологии равномерной сходимости в силу теоремы Арцела — Асколи П. 1.24. Поэтому функция Т{с) := max{/(z) | ж € с} на £, будучи непрерывной в равномерной топологии, достигает глобального минимума. По второму условию нашей теоремы путь, на котором этот минимум достигается, содержится в D, Обозначим любой из таких путей через q,. Множество точек, на которых достигается максимум вдоль пути q,, образует замкнутое подмножество С множества q,. Если множество С не содержит критических точек, перенесем путь q, с помощью градиентного потока функции —/ с параметризацией, задаваемой любой функцией, положительной на С, носитель которой не содержит критических точек функции /. Получившийся в результате путь имеет максимум, меньший чем q,, что противоречит выбору этого последнего пути. Как видно из предложения 9.3.9, рассуждение в доказательстве теоремы 9.3,7, обеспечивающее существование второй (минимаксной) биркгофо- вой периодической орбиты типа (р, д), также по сути дела представляет собой пример использования метода «вершин и перевалов». Среди других фундаментальных результатов конечномерной теории Морса следует упомянуть следствие 8.6.7, а также утверждение о том, что любая гладкая функция на любом компактном многообразии, отличном от сферы, имеет по крайней мере три критических точки.
§ 9.2. БИЛЛИАРДЫ 345 Для динамических систем с непрерывным временем множество потенциально возможных орбит будет во всех интересных случаях бесконечномерным пространством. Уже локальное исследование критических точек функционалов, заданных на бесконечномерном пространстве, порождает некоторые технические трудности, преодоление которых мы отложим до § 5. Мы рассмотрим сначала системы с дискретным временем, которые могут быть описаны в вариационных терминах и для которых пространство потенциально возможных отрезков орбит конечной длины конечномерно. Тогда в некоторых случа51х бесконечные орбиты могут быть охшсаны либо непосредственно (в периодическом случае), либо посредством рассмотрения соответствующих пределов последовательностей конечных кусков орбит с выбранными соответствующим образом граничными условиями. Упражнения 9.1.1. Проведите подробное доказательство предложения 9.1.2. 9.1.2. Докажите, что если размерность многообразия М больше единицы, то критическая точка, существование которой гарантирует предложение 9.1.2, не является локальным максимумом. 9.1.3. Предположим, что Af — компактная поверхность н / — гладкая функция (не обязательно функция Морса) в точности с двумя критическими точками. Докажите, что тогда поверхность М гомеоморфна сфере. 9.1.4. Каково наименьшее возможное количество критических точек функции Морса на Т^? 9.1.5*. Приведите пример функции класса С°° на Т", имеющей п + 1 критических точек. § 9.2. Биллиарды Рассмотрим движение материальной точки (или луча света) внутри выпуклой ограниченной области D на плоскости. Обозначим гладкую границу этой области через В. Орбиты такого движения состоет из отрезков прямых, содержащихся в D, соединенных друг с другом в некоторых точках границы и удовлетворяющих закону «угол падения (на границу)^авен углу отражения». Скорость этого движения будем считать постоянной. Поскольку область D ограничена, время между двумя последовательными столкновениями частицы с границей также ограничено. Фазовым пространством этой системы удобно считать множество всех касательных векторов данной длины (например, единичной длины) во всех внутренних точках D в совокупности со всеми направленными внутрь векторами в точках границы. Естественные координаты в фазовом пространстве задаются парой евклидовых координат (хр а^) точки приложения данного вектора и циклической координатой а, задающей его направление. Отражения порождают разрывы на границе. Тем не менее описанная система с непрерывным временем допускает естественное глобальное сечение С в смысле § 3 введения, на котором отображение возвращения оказывается непрерывным, если только В не содержит отрезков прямых. Это сечение состоит из всех направленных внутрь векторов в точках В. Топологически
346 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ Рис. 9.2.1. Выпуклый биллиард С представляет собой цилиндр, параметризованный циклическим параметром — длиной S — вдоль в и углом в € [0,7г] между положительным касательным направлением и данным вектором. Отображение возвращения /: С -^ С на это сечение обычно называется биллиардным отображением и может быть описано следующим образом: вектор V € С с началом в точке р^В определяет ориентированную прямую i, пересекающую В в двух точках, скажем, в р и в р'. Тогда f{v) по определению представляет собой вектор с началом в р', направленный внутрь D в направлении, полученном отражением направления прямой I относительно прямой, касательной к ^ в точке р'. Как уже было отмечено, естественными координатами в этом фазовом пространстве являются (циклическая) длина 5 € [О, L) на Б, где L — полная длина границы В, и угол О € (0,7г), с положительно ориентированным касательным направлением. Другими словами мы отождествляем нашу границу с окружностью R/LZ. Позже мы увидим, что если В является кривой класса С*", то в этих координатах отображение / принадлежит классу С^ ~ ^ для любого fc, 1 ^ fc ^ оо. Если кривая В строго выпукла, т. е. не содержит отрезков прямых, то отображение / продолжается по непрерывности до Id на обе компоненты границы цилиндра. Пусть f(s, e) = (S{s, в), 9(5, в)). Непосредственное вычисление S и 0 — вполне возможная, но довольно неприятная процедура. К счастью, для того чтобы понять динамику биллиардного отображения, нет необходимости проделывать это вычисление. Укажем на два важных свойства отображения /. Во-первых, отображение S(5p, •) является монотонной функцией в, возрастающей от Sq до Sq-\-L (mod L), в то время как в изменяется в отрезке ОС' 1* от о до 7г. Легко видеть, что -^ = тре» где h —длина хорды, соединяющей точки р я Р границы с координатами (s, 0) и (S, 9) соответственно. Поэтому Щ->0 (9.2.1) для о < ^ < 7г. (Кроме того, как показано в упражнении 9.2.4, предел вели- ОС чины -^ при ^ -^ о или в -^тт равен радиусу кривизны в точке р,) Свойство (9.2.1) называется закрученностью и будет играть важную роль в наших рассмотрениях.
§ 9.2. БИЛЛИАРДЫ 347 Рис. 9.2.2. Закрученность Во-вторых, отображение / сохраняет элемент o6i диться в этом можно следующим образом. Свободное; скоростью на плоскости может быть записано в виде а О, ±1 = cos а, Х2 = sin а, и, так как векторное поле в правой части имеет нулевую дивергенцию, поток сохраняет форму объема dx^dxzdO. Для граничной точки р значение координаты а совпадает, с точностью до некоторого постоянного слагаемого (зависящего от р), со значением координаты О на сечении С. Поэтому эта форма может быть записана в виде dx^ dx2de = (dt ds sme)de, где t — время, параметризующее отрезок орбиты. Таким образом, эта форма имеет вид dt (ds sin в dO), т. е. dt умножено на форму объема ds sin в dO, соответствующую сечению С, которая в свою очередь инвариантна по отношению к отражениям относительно прямой, касательной к ^ в точке р. Значит, эта последняя форма инвариантна относительно/. (Это рассуждение на самом деле является частным случаем соображений, использованных в доказательстве предложения 5.1.11.) В частности, / сохраняет ориентацию. Иногда удобно использовать координату г = - cos ^ вместо в, так как в координатах (s^r) биллиардное отображение сохраняет площадь и ориентацию. Платой за это удобство, однако, будет тот факт, что биллиардное отображение перестает быть дифференцируемым на границе фазового пространства, тогда как в стандартных координатах оно дифференцируемо, если только кривизна В не обращается в нуль. Каждая орбита биллиардного отображения / полностью определяется последовательностью точек столкновения с границей В. Посмотрим, npji каких условиях последовательность точек границы соответствует какой- нибудь орбите отображения /. Рассмотрим сначала две точки границы р я р' с соответствующими координатами s я s' я обозначим через H(s, 5') отрицательное евклидово расстояние между р я р'. Функция Н называется производящей функцией данного биллиарда. Непосредственное вычисление (см. упражнение 9.2.1) показывает, что д ^H(s, S') COS в г д 1 ^Н(s, s') = cos в, (9.2.2)
348 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ где в' — угол между отрезком, соединяющим точки р w р', w отрицательно ориентированной касательной в точке р', а О—угол между отрезком, соединяющим точки р и р', и положительно ориентированной касательной в точке р. Если мы перейдем к координате г = —cos О, то уравнения (9.2.2) упростятся и примут вид ^H(s,s') = r', ^H(s,s') = -r, (9.2.3) где г' = — cos О'. Эти уравнения можно рассматривать как дискретный аналог обычных уравнений Гамильтона (см. (1.5.5) и п. 5.5 в). Для уравнений движения в таком виде легко проверяется факт сохранения площади: если H(s,r):=H(s,S(s, г)), то " дн j,ds так что, вычисляя ^^, получаем W ._^dRds,j, d^s д^н д^н дпдз ^j, d^s " ^Д dS dR dS dr ds ds dr 1 Уравнения (9.2.3) описывают динамику следующим образом. Если динамика задана уравнением (s', г') = /(s, г) = (5(5, г), R(s, г)), то по теореме о неявной функции можно показать, что уравнения (9.2.3) локально определяют функции 5 и Л. Чтобы применить теорему о неявной функции к уравнению д ^7^(5,5') 0=F(s,s\r,r'):= I ^^ ) ds H(s,s') + r необходимо проверить, что полная производная %H(s,s') -1 ds dsds tH{s, s') о q2 q^/ функции F ПО (й', г') невырождена, т. е. что 0^ ^-^Я(5, s') = -^. Этот факт на самом деле вытекает из свойства закручивания. Чтобы продифференцировать -^ = г' по S при условии, что s' зафиксировано, рассмотрим кривую c(i) = (s(i), r(t)), движение вдоль которой совершается с единич- ной скоростью и так, что S(c(t)) = s'. Заметим, что О =-^^4--^^, так что по свойству закручивания ^Г ~ ~ ( Ж ) Ж» откуда следует, что -^ никогда
§ 9.2. БИЛЛИАРДЫ 349 не обращается в нуль. Тогда д'^ т^ ,ч rf „ . . dRds . dR dr sds jH(s,s')=^Roc = -g^^ + -^^ _dRds_dR I -d^\ ds _ (dS dR dS dR\ ж _ "rfF ЖШ W \ ds j dt~ \ds dr W ds ) ds^- ds_ ' \'dF/ dr dr поскольку / сохраняет площадь. Следовательно, в силу (9.2.1) ^F(.,s') = -;^<0. (9.2.4) дг Это вычисление станет совершенно понятным с геометрической точки зрения, после того как в следующем параграфе мы получим некоторые факты относительно закручивающих отображений. Предположим, что кривая В принадлежит классу <7*', т. е. в евклидовых координатах уравнение этой кривой задается функциями натурального параметра класса <7*'. Тогда производящая функция также принадлежит классу С*', и по теореме о неявной функции S w R принадлежат классу С*"* для всех г, 0< г < 1. Рассмотрим теперь три точки на границе. В отличие от пары точек тройка не всегда является частью какой-нибудь орбиты. Такие тройки, для которых это верно, могут быть описаны как критические точки некоторого функционала. Рассмотрим три точки p_i, ^з^ и pj с соответствующими координатами Si BSL В. Если они являются частью биллиардной орбиты, то по определению углы между отрезками, соединяющими точку р_^ с р^» и j:^ с рр и касательной в точке Pq равны. Следовательно, ^Я(з_„з)+^Я(5,з,) = 0 npHs = So, (9.2.5) т. е. точка р^ может быть найдена как критическая точка функционала S нч S'(s_i, s)-{-H(s, 5)). Здесь мы впервые встретились с описанием отрезка орбиты некоторой динамической системы как критической точки функционала, определенного на пространстве «потенциально возможных» отрезков орбит этой динамической системы. Повторив эту процедуру, можно получить описание отрезков орбит как критических точек функционалов, зависящих от нескольких переменных. Такая процедура естественным образом приводит нас к рассмотрению универсального накрывающего фазового пространства. Мы обсудим этот подход в следующем параграфе. Рассмотрим теперь некоторые примеры биллиардов и обсудим несколько элементарных результатов, основанных на непосредственной геометрической интуиции. Пример (окружность). Пусть D является единичным кругом с границей В = {(ж, у)\х^ -{- у^ = 1}. В этом случае биллиардное отображение может быть записано в явном виде как (з', О') = (s-\- 20, 0), так что угол О является интегралом движения и фазовый цилиндр распадается на инвариантные окружности О = Oq. Если Oq соизмеримо с 27г, то биллиардное отображение на окружности является периодическим и орбиты соответствуют вписанным многоугольникам, имеющим форму звезды. Если 9^ несоизмеримо с 27Г, то по предложению 1.3.3 все орбиты плотны в нашей окружности
350 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ и каждая орбита биллиардного отображения окружности плотна в кольце cos^ в ^ х^ -{- у^ ^ 1. Производящая функция в этом случае имеет вид H{3,3') = -2sm~(3'-s). (эллипс). Рассмотрим эллиптическую область D с границей 2 f" l2 ~ В Пример = 1 >. Очевидно, что существуют две особые орбиты от о \ биллиардного отображения периода два, а именно орбиты, соответствующие осям симметрии эллипса. В случае окружности вместо этого получалось целое одно параметрическое семейство орбит периода два, соответствующих диаметрам. Концы длинной оси симметрии могут быть определены как единственная пара точек границы, находящихся на наибольшем возможном расстоянии друг от друга, т. е. доставляющих минимум производящей функции Я. Подобным образом, концы короткой оси симметрии могут быть охарактеризованы как седловые точки производящей функции Н, Длина длинной оси равна диаметру эллипса, т. е. наибольшему возможному расстоянию между парой точек области. Длина короткой оси (ширина) равна минимальной ширине полосы (заключенной между двумя параллельными прямыми), которая содержит этот эллипс. Мы вскоре увидим, что у всякого биллиарда есть по крайней мере две орбиты периода два, которые могут быть описаны аналогичным образом. Переходя к описанию фазового портрета эллиптического биллиарда, заметим, что в этой ситуации также существует интеграл движения. Он может быть описан следующим образом. Прямая, соответствующая данному отрезку орбиты, является касательной к единственной квадрике, софокусной данному эллипсу. Оказывается, что биллиардное отображение сохраняет это свойство, т. е. все прямые, принадлежащие одной орбите, касательны к той же самой квадрике. Поэтому любой параметр, характеризующий данную квадрику, например эксцентриситет, служит первым интегралом движения. Эти квадрики распадаются на два семейства и два вырожденных случая. Положительный эксцентриситет соответствует случаю эллипсов, софокусных с данным. Каждый эллипс соответствует инвариантной кривой в фазовом Рис. 9.2.3. Эллиптический биллиард с софокусиыми эллипсами и гиперболами
§ 9.2. БИЛЛИАРДЫ 351 пространстве, которая обходит вокруг цилиндра. Отрицательный эксцентриситет соответствует случаю софокусных гипербол. Каждая такая гипербола определяет инвариантную кривую в фазовом пространстве, состоящую из двух непресекающихся замкнутых компонент, соответствующих ветвям гиперболы. Биллиардное отображение переставляет эти компоненты. Эти два семейства разделяются кривой в фазовом пространстве, которая соответствует орбитам, проходящим через фокус. Каждая такая орбита (за исключением длинных осей симметрии) проходит поочередно через эти два фокуса (откуда, собственно, и возникло это название — фокусы). Когда эксцентриситет стремится к минус бесконечности, софокусные гиперболы приближаются к прямой и орбиты сжимаются к орбите, соответствующей короткой оси симметрии эллипса. Длинная ось симметрии соответствует гиперболической точке периода два, и орбиты, проходящие через каждый из фокусов, образуют две ветви вырожденной инвариантной кривой, содержащей такую орбиту (упражнение 9.2.5). Эти ветви переставляются биллиардным отображением, и каждая из них состоит из ветви устойчивого многообразия одной из точек этой периодической орбиты и ветви неустойчивого многообразия другой. Поэтому все орбиты на этой кривой являются нетрансверсальными гетероклини- ческими орбитами, и возмущения данного биллиардного отображения в соответствии с теоремой Купки — Смейла дают примеры сложного поведения (сравните с примером в конце § 7.2). Короткая ось симметрии соответствует эллиптическим орбитам. Заметим, что индекс гиперболической орбиты как неподвижной точки квадрата отображения возвращения равен —1, а индекс эллиптической орбиты равен 4-1 (см. таблицу в § 8.4). Инвариантность семейства софокусных квадрик относительно биллиардного отображения может быть доказана чисто геометрически [*], но вместо этого мы коротко опишем аналитические соображения, позволяющие получить тот же результат. Свободное движение внутри биллиарда обладает тремя независимыми интегралами движения, линейными относительно скоростей: это две координаты скорости v^:=x^ и г;2:=:Ьг и угловой момент А:= Ж]::^ — a^^i (см. п. 5.2 г). Биллиардное отображение не затрагивает начальную точку вектора, но приводит к изменению самого вектора скорости, которое может быть описано как отражение относительно прямой, касательной к границе в точке отражения. Поэтому любая функция этих трех интегралов, инвариантная относительно отражений в любой точке границы, является интегралом движения для биллиардного отображения. Простейший класс функций, обладающих этой симметрией, — функции, квадратичные относительно координат скорости. Одной из таких функций, очевидно, является кинетическая энергия Е:= vf + v^, инвариантная относительно любого отражения. Можно попытаться найти биллиарды, которые порождают отображения, обладающие вторым интегралом движения, выбирая другую квадратичную функцию координат v^, V2 vi А, например I:'=v^~A^, строя векторное поле осей симметрии, соответствующее этой функции (на самом деле существуют два таких векторных поля) и рассматривая интегральные кривые такого поля как границы биллиардов. Можно показать, что одно из векторных полей, определяемых функцией /, порождает биллиард с замкнутыми софокусными эллиптическими орбитами, а второе — с софокусными гиперболами (см. упражнения 9.2.8 и 9.2.9).
352 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ Теперь обобщим наше предыдущее наблюдение о том, что две орбиты периода два могут быть найдены из геометрических соображений, а именно из рассмотрения диаметра и ширины области. Предложение 9.2.1. Пусть D — строго дифференциально выпуклая область с границей В, т. е. эта граница принадлежит классу С^ и ее кривизна нигде не равна нулю. Тогда соответствующее биллиард- ное отображение обладает, по крайней мере двумя различными орбитами периода два, которые могут быть описаны следующим образом: для одной из них расстояние между соответствующими точками границы равно диаметру D, для другой оно равно ширине D. Доказательство. Рассмотрим производящую функцию H(s^s'), введенную выше. Она определена и непрерывна на торе В х В и дифференцируема вне диагонали. Так как эта функция обращается в нуль на диагонали и отрицательна вне ее, она достигает своего наименьшего значения d вне диагонали. Пусть точка (s^s') такова, что H(s,3')=:d. Поскольку эта точка критическая, из уравнения (9.2.2) следует, что 9 = 0' = 7г/2, так что мы получаем первую из нужных нам орбит периода два. Это соображение основано только на наличии выпуклости и может быть легко повторено для случая кривых класса С*. Теперь рассмотрим кривую (з, g(s)) на торе, где з' = д{з) — координата граничной точки, лежащей на прямой, проходящей через точки s и s', и отличной от 5, для которой 0 = —0'. (Эта прямая соединяет две точки с параллельными касательными, так что наименьшая возможная длина отрезка между этими точками должна быть равна ширине.) На этой кривой функция Н ограничена сверху некоторым отрицательным числом и потому достигает отрицательного максимума w. Тот факт, что кривизна границы нигде не обращается в нуль, делает параметризацию кривой абсолютным углом а дифференцируемой. Заметим, дН{з(а),зЧа)) дН дз , дН дз' п ( дз , дз'\ ^то ^^-Sr-^^^-a7a^ + :^a^ = ^os ^ [^ + -д^)^ ''^'^ ^^0 2 критической точке мы имеем cos ^ = О, поскольку члены в скобках равны радиусам кривизны в соответствуюш?1х точках границы В, и потому оба положительны. Следовательно, мы получили нужную нам вторую точку периода два. D Для орбит периода три аналог первой орбиты из предложения 9.2.1 получается из рассмотрения вписанного треугольника наибольшего периметра. Подобная конструкция работает и для орбит периода четыре. Для больших периодов существуют различные виды орбит, например такие, как соот- ветствуюшле вписанным выпуклым пятиугольникам или же соответствующие пятиугольникам типа звезды. Существуют также аналоги орбит второго типа. Построение таких орбит в более общей ситуации — для сохраняющих площадь закручиваюшлх отображений — является основной задачей следующего параграфа. В случае эллипса (и, конечно, в случае круга) все орбиты, период которых больше двух, образуют непрерывные семейства. Это следует из интегрируемости. Эти орбиты параболические, т. е. матрица дифференциала биллиардного отображения для данного периода в подходяш?1Х координатах имеет вид ( « ? j. Перед тем как перейти к обсуждению общей ситуации, рассмотрим другой пример, демонстрируюшлй качественно иное поведение периодических орбит.
§ 9.2. БИЛЛИАРДЫ 353 Пример (стадион [^]). Пусть область D представляет собой объединение единичного квадрата и двух полуокружностей, приклеенных к противоположным сторонам квадрата. Граница В = dD является кривой класса С*, хотя и не принадлежит классу С^, и по форме похожа на стадион. Рис. 9.2.4. Стадной с двумя орбитами периода четыре Поскольку имеются четыре точки а, Ъ^с^й, в которых кривизна разрывна, производная отображения возвращения на В разрывна на четырех отрезках. Это обстоятельство оказывается очень важным для анализа поведения орбит, типичных в смысле абсолютно непрерывной меры sinO йв. Однако, когда мы рассматриваем любой конечный набор периодических орбит, не содержащих никакую из четырех точек а, Ь^с^й, отсутствие гладкости нам не мешает, поскольку граница стадиона легко может быть заменена выпуклой кривой класса С°°, совпадающей с В в некоторой окрестности точек столкновения нашей периодической орбиты с границей. Существует изолированная периодическая орбита периода два, соответствующая горизонтальной оси симметрии. Как и в случае эллипса, она гиперболична (упражнение 9.2.6). Эта орбита очевидным образом соответствует первой («диаметральной») из двух орбит, построенных в предложении 9.2.1. Вторая орбита периода два оказывается, в отличие от случая эллипса, неединст- Рис. 9.2.5. Ромб не яв- венной; существует целое семейство вер- ляется максимумом тикальных отрезков V^ = {(ж, у) | |у| < 1}, а; € [—1,1]. Ситуация, таким образом, в каком-то смысле вырожденная. Положение дел с орбитами периода четыре гораздо более интересно и поучительно. Существует две таких орбиты, и обе они симметричны относительно горизонтальной и вертикальной осей. Первая (7i) имеет форму прямоугольника, а вторая (72) имеет форму ромба. Непосредственное вычисление длины показывает, что /(7i) = 2vz + 2 > 2у/Ъ= /(72)-
354 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ Чуть более длинные вычисления (по-прежнему несложные, поскольку все кривые, относительно которых мы осуществляем отражение, являются либо отрезками, либо дугами окружностей; см. упражнение 9.2.7) показывают, что орбита 7i соответствует случаю гиперболической седловой орбиты индекса —1, а орбита 72» вопреки ожиданиям, не эллиптична, но соответствует случаю обратного седла (пятая строка таблицы из § 8.4), индекс которого равен единице. Тогда сумма индексов по-прежнему равна нулю, как и в случае изолированной орбиты периода два в эллипсе, хотя структура второй орбиты в этом случае другая. Этот факт следующим образом согласуется с формулой Лефшеца (теорема 8.6.2). В окрестности границы, которую не посещает ни одна периодическая орбита данного периода, можно возмутить биллиардное отображение таким образом, чтобы получилось тождественное отображение. Затем, отождествляя компоненты границы получившегося кольца, мы получим тор, на котором биллиардное отображение порождает некоторое отображение, гомотопное линейному преобразованию с матрицей ( . . |. Легко видеть, что числа Лефшеца любой степени этого отображения в самом деле равны нулю. Упражнения 9.2.1. Проверьте равенство (9.2.2). 9.2.2. Докажите утверждение предложения 9.2.1 для любой выпуклой области D, ограии- чениой произвольной кривой класса С*. 9.2.3. Вычислите полную производную биллиардной) отображения f{s, в) как функцию параметров 9^9\Н и кривизн «^ и х^, в соответствующих точках s и s'. ОС 9.2.4. Вычислите первую производную ^ биллиардного отображения для значения 8, соответствующего граничной точке р, в которой кривизна В ие обращается в нуль. 9.2.5. Рассмотрим биллиардное отображение, соответствующее биллиарду в эллипсе. Покажите, что две точки, соответствующие длинному диаметру, являются седлами и орбиты, проходящие через фокусы, задают устойчивые и неустойчивые многообразия. 9.2.6. Покажите, что орбита, соответствующая длинной оси симметрии стадиона, является гиперболической, т. е. вычислите дифференциал f^ для горизонтальной орбиты периода два и покажите, что эта орбита имеет тип седла. 9.2.7. Вычислите дифференциал отображения /** для орбит 7i н 72 биллиарда внутри стадиона. Покажите, что орбита 7i является седлом и орбита 72 является обратным седлом. 9.2.8. Рассмотрим квадрики с фокусами в точках (±1,0). Докажите, что отражения отнО' сительно прямых, касательных к ним, сохраняют функцию 1:= V2 ~ А^. 9.2.9. Докажите, что набор единичных касательных векторов к квадрике с фокусами в точках (±1,0) является линией уровня функции / := v| — Л^.
§ 9.3. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ 355 § 9.3. Закручивающие отображения 9.3 а. Определение и примеры. В этом параграфе мы рассмотрим некоторые отображения открытого цилиндра С:= S^ х (О, I). Его универсальное накрывающее представляет собой полосу Кх(0, 1). Напомним, что поднятие этого отображения цилиндра J: С —^С является таким отображением ^ = (^1,^2)= Кх(0, 1)-*Кх(0, I), что если тг: Rx(0,1)-*5> х(0, 1), (ж, у)ь-*-([а;], у), обозначает проекцию на факторпространство С, то 'koF = =fQi^^ Поэтому Fj коммутирует со сдвигами на целые числа в направлении оси ж, а i^ периодично по второй переменной. Как мы уже неоднократно видели (см. §§ 2-4, 2.6, 8.2, 8.7 и т. д.), работать непосредственно с универсальным накрывающим весьма удобно, и материал настоящего параграфа — еще одно подтверждение этому. Определение 9.3.1- Сюръективный диффеоморфизм /: С —* С открытого цилиндра С = S^x (0,1) называется сохраняющим площадь закручивающим отображением, если (1) / сохраняет площадь, (2) / сохраняет ориентацию, (3) / сохраняет компоненты границы в том смысле, что существует такое е>0, что если {x,y)eS^ х (О, е), то fix, у) eS^ х (О, 1/2), (4) если F = {F^, Fg) — поднятие отображения / на универсальное накрывающее 5 = R X (О, I) цилиндра С, то ■^F^{x, у) > 0. Замечание. Мы будем также использовать очевидную модификацию этого определения для цилиндра вида 5* х /, где I — произвольный конечный или бесконечный интервал, являющийся подмножеством множества вещественных чисел. Мы будем использовать то обстоятельство, что если рассмотреть сужение / на некоторое компактное подмножество, например С^ := 5* х[е, 1-е], ТО можно найти такое S >0, что ^-^К^^ у) > <5 на С^. В этом определении 5* соответствует конфигурационному пространству биллиарда, и мы будем постоянно пользоваться этой аналогией- Четвертое условие из вышеприведенного определения является условием закручивания (см. (9.2.1))- В сочетании с третьим условием оно означает, что образ интервала {х} х Ю, 1) С М х (О, I) представляет собой график функции ж'ь-» hi{x, х') (не обязательно монотонной), который соединяет компоненты границы, т. е- такую кривую вида у ь-^ F{x, у), что lim F2(x^ у) = 0, \imF2{x,y)=\ и функция уу-^Р^{х^у) строго возрастает. Отметим, что функция /ii(-, х') убывает- Заметим, что такое отображение не всегда можно продолжить по непрерывности на замкнутый цилиндр- В качестве естественных примеров можно рассмотреть биллиарды внутри областей, границы которых содержат куски прямых, например биллиард внутри стадиона- Отметим также, что композиция двух закручивающих отображен] всегда оказывается закручивающим отображением. Даже степень закручивающего отображения не обязательно является таковым. С другой стороны, мы хотим изучать асимптотическое поведение таких отображений и потому должны рассматривать эти степени. Как мы увидим, это не приводит к появлению технических проблем, но с концептуальной точки зрения выглядит и
356 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ АШТОДЫ В ДИНАМИКЕ не совсем удовлетворительно. Оказывается, что основные результаты относительно закручивающих отображений могут быть также установлены и для их композиций (см. определение 9.3.18 и упражнение 9.3-4)- Класс таких отображений может быть описан внутренним образом как класс отображений с положительным наклоном (см. упражнение 9.3.1)- Главная техническая трудность при работе с такими отображениями (которая не возникает, если рассматривать композиции закручивающих отображений) состоит в том, что они не определ5ПОтся никакой глобально заданной производящей функцией (см. п. б настоящего параграфа)- Определение 9.3.2. Интервалом закручивания отображения / называется множество чисел а 6 К, для которого существует такое е >0, что если (ж, у) € R X (О, е), то F^{xJ у)-х4:0с, и если (х, у) € R х (1 — е, 1), то F^{x, у) — х^ а. Это множество корректно определено с точностью до сдвига на целое число. Замечание- Например, интервал закручивания биллиарда — это интервал (0,1). Если закручивающее отображение определено на замкнутом цилиндре С = S^ X [0,1], то можно определить полный интервал закручивания, т. е. интервал (Tq, т^), где т^ и Tj —числа вращения (см. определение 11.1.2) сужения отображения / на множества 5* х {0} и 5* х {!}, подсчитанные для одного и того же поднятия этого отображения на универсальное накрывающее. Это множество может оказаться большим, чем определенный выше интервал закручивания. Однако в случае, когда сужения отображения на компоненты границы являются вращениями, эти множества равны. Мы обсудим этот факт подробнее в упражнении 13.2.6, после того как введем понятие числа вращения. Хотя мы ввели понятие закручивающего отображения, имея в виду прежде всего биллиарды, это понятие охватывает множество интересных примеров, возникающих из различных источников. Пример (интегрируемые закручивающие отображения и возмущения). Закручивающее отображение называется интегрируемым, если оно имеет вид f{^jy)=(^+9(y)^y)' ч Все окружности 5* х {у} инвариантны относительно интегрируемых закручивающих отображений, на которых они действуют, как поворот на монотонную функцию д. Поэтому для каждого рационального значения д получается инвариантная окружность с числом вращения д(у), и, таким образом, имеется бесконечное множество семейств периодических орбит, разделенных окружностями с иррациональными числами вращения. Интервал закручивания в этом случае имеет вид (lim д(у), lim д(у)). Примером интегрируемого закручивающего отображения является билли- ардное отображение для биллиарда в круге, которое рассматривалось в предыдущем параграфе. С другой стороны, биллиардное отображение для биллиарда внутри эллипса не является интегрируемым закручивающим, хотя этот биллиард и может рассматриваться как вполне интегрируемая механическая система.
§ 9.3. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ 357 Другим примером является свободное движение частицы на плоском торе K^/Z^ (п. 5.2 б). Оно задается уравнением £ = 0. Рассмотрим цилиндр С:= {(Хр а^, Vj, Vg)! х^ =0, ||v|| = l, v^ >0} как подмножество фазового пространства. Естественными координатами на С являются а; = а^ 6 5* и у = V2/v^ е К. Индуцированное на этот цилиндр отображение имеет вид (х, у)у-^(х-{- + у, у). В качестве другой системы координат можно выбрать а; = а^ и у = = Vo€(—1, 1), так что индуцированное отображение принимает вид (ж, у)—* ж +-^=1==, у J. В обеих системах координат интервал закручивания и и и и совпадает со всей действительной прямой. Если / является закручивающим отображением с поднятием F и величи- на -^ отделена от нуля, то, как нетрудно видеть, достаточно малое С'-воз- мущение отображения F также является закручивающим. Концы интервала закручивания оказываются непрерывными функциями этого возмущения. Пример (вынужденные колебания). Рассмотрим нестационарное обыкновенное дифференциальное уравнение второго порядка относительно циклической координаты хе S^ вида х = h(xj t), или, что то же самое, систему уравнений х = v, v = h{x, t), где h: 5* x К —* R — ограниченная непрерывно дифференцируемая функция. Тогда для достаточно малых значений f — t отображение Д^,: 5* х R—+5* х К, определяемое решениями данного обыкновенного дифференциального уравнения на интервале времени (tj t'), является закручивающим. Поэтому отображение f^^, является произведением закручивающих отображений для любых t, t'. Рассмотрим, в частности, математический маятник, на который действует периодическая сила, описываемый уравнением х -\- sin 2тгх = g{t). Обозначим через Т период функции д. Если Т достаточно мало, то отображение сдвига за время Т для свободного маятника х Н- sin 27га; = О (см. п. 5.2 в) является закручивающим, и потому это также верно для случая достаточно малых сил д. Вообще говоря, отображение сдвига за время, равное периоду, может быть представлено как произведение закручивающих отображений. Пример (стандартное отображение). Отображение / цилиндра 5* хR, порожденное отображением F: R X R -* R X R, (х, у) у-^ (х-\-у, у + V{x -h у)), с некоторой периодической функцией V, называется стандартным отображением. Очевидно, / — закручивающее отображение: величина ж 4- у возрастает с ростом у. Интервал закручивания равен R. При У = О мы получаем очень простое интегрируемое закручивающее отображение. Этот пример привлекателен с аналитической и с геометрической точек зрения, поскольку он определяется единственной функцией одной переменной и семейство образов вертикальных линий, которое играет очень важную роль в анализе закручивающих отображений, является семейством параллельных кривых. Действительно, можно представить наше отображение в виде F = ToFq, где Fq{x, у) := (х + у, у) и Т{х, у) := {х, у + V{x)). С другой стороны, даже для семейства функций Т^(а;) = А sin27ra; стандартные отображения уже обладают всей той сложностью асимптотического поведения, которая имеет место в общем случае. Это конкретное семейство {х, у) ь-» (а; 4- у, у 4- Ух{х 4- у)) закручивающих отображений весьма интенсивно изучалось как численно, так и аналитическими методами [*].
358 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ Пример (окрестность эллиптической неподвижной точки). Рассмотрим сохраняющее площадь отображение плоскости / в себя с эллиптической неподвижной точкой в нуле. Это значит, что собственные значения дифференциала Df имеют вид е"^^*^ для некоторого а 6 К. Ниже мы покажем, что для иррациональных а можно (формально) привести / к бирк- гофовой нормальной форме (0^ r)h~^ (О -\- ш{г), г), где oj — формальный степенной ряд по г. Это означает, что для некоторого п 6 N существуют такие координаты (О, г) 6 5* х (О, е), что отображение / сохраняет площадь d$dr и имеет вид f(9, г) = (^ -h а + с,г- -h д^г, 0), т + /ijn в)), (9.3.1) где £г„, К = ^(^") и с„ ^ 0. Если с„ > О, то для достаточно малых г. Поэтому существует такое <5 > О, что интервал закручивания содержит в качестве подмножества интервал (а, a-hc„e" — ^). Если с„ < О, то отображение, обратное к /, оказывается закручивающим. Существование подобного представления тесно связано с идеями, развитыми в п. 6,6 б. Действительно, в этом случае собственные значения равны А) = е^"" и Аг = Af *, так что имеются резонансы вида А, = Af'^''А* и А2 = AfAg"*"' (^ € N). Любые другие резонансы вида Aj =AfA2 давали бы Ai ^2 Af"', т. е. а оказалось бы рациональным; то же верно для резонансов вида A2 = AfA2. Используя комплексные координаты, диагона- лизируя линейную часть / в нуле и возвращаясь к полярным координатам, мы немедленно видим, применяя процедуру из доказательства предложения 6.6.1, что формально отображение / может быть представлено в окрестности нуля в виде То n=l n=2 обстоятельство, что / сохраняет площадь, приводит к тому, что d„ = = О для п ^ 2. Установив формальную сопр5£женность, мы можем найти замену координат класса С°°, производные которой в нуле совпадают с производными формального степенного ряда (см. предложение 6.6.3). Используя найденную замену координат, мы получаем систему координат, для которой выполнено условие (9.3.1). Здесь п—наименьшее натуральное число, для которого с„ ф 0. Заметим, что эта ситуация формально очень похожа на ситуацию с сохраняющими площадь отображениями вблизи гиперболической неподвижной точки, которую мы рассматривали в упражнениях 6.6.4 и 6.6.5. Однако в этом Рис. 9.3.1. Внешний биллиард
§ 9.3. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ 359 случае из существования формальной сопряженности не следует существования С°°- или даже <7°-сопряженности. Пример (внешний биллиард). Рассмотрим строго дифференциально выпуклую ограниченную область D с ориентируемой границей В и следующую динамическую систему, определенную на дополнении K^\IntD, где Int D обозначает внутренность D. Для всякой точки р б К^\ Int D существует единственная такая прямая Z, касательная к В % точке q, проходящая через р, что направление от р к ^ положительно по отношению к ориентации кривой В. Пусть р' — такая точка на прямой Z, что q является серединой отрезка, соединяющего р и р'. Отображение рь->р', переводящее точку р в р', называется внешним биллиардным отображением. Множество К^\ Int D может быть параметризовано путем сопоставления точке р угла а, образуемого прямой I с некоторым фиксированным направлением в R^, и расстояния г от точки р ло точки q. Наличие свойства закручивания в этих координатах очевидно из геометрических соображений (см. также упражнение 9.3.5). 9.3 б. Производящая функция. Определение 9.3.3. Пусть F — поднятие сохраняющего площадь закручивающего отображения /. Если пара {х, ж') 6 R х R такова, что существует точка (а/, h^{x, х')) € F{{x} х (О, 1)) П {{х'} х (0,1)), то мы обозначим через Н(х, х') площадь области в 5, находящейся справа от (или «под») F{{x}x{0, 1))и слева от {ж'}X(О, 1). Отображение (а:, ж')-*Я(а;, х') называется производящей функцией ддя отображения /. F({x})x(0,l)) h^{x,x) Рис. 9.3.2. Производящая функция Заметим, что Н(х -{- к,х' -{■ к) = Н(х, х') для всех к eZ. По свойству закручивания пересечение F({x} х (О, I)) П {х^} х (О, 1) состоит не более чем из одной точки, т. е. отображение /ij определено однозначно. В случае когда это пересечение непусто, определим отображение /ig соотношением F-^{x',hJx,x')) = {x,h2ix,x')). Другими словами, множество F{{x} X (О, I)) представляет собой график отображения а/ ь-*- h^{x, х'), а F-\{x'} X (О, I)) — график отображения х ь-^ /15(3:, х'). Функции Я, h^ и /i2 зависят от поднятия F, используемого в их определениях, но инвариантны относительно целочисленных сдвигов {х, х') h-^ {х -{- к, х' -{- к), к eZ, в универсальном накрытии. Из определения Я как площади немедленно следует, что
360 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ Так как отображение / сохраняет площадь, величина Н{х,х') равна площади прообраза области, рассмотренной выше, т. е. области, находящейся справа от {х}х(0,1) и слева от F"*({a;'}x(0,1)). Отсюда мы также видим, Если {х\ •t/) = F{x, у), то h^(x, х')=у' w /12(0:, х') = у. Поэтому для сохраняющих площадь закручивающих отображений мы получаем такие же уравнения движения, как уравнения (9.2.3) для биллиардов: § = У, ^—У. (9.3.2) Все, что было сказано после того, как мы получили (9.2.3), опиралось исключительно на свойство закручивания и потому имеет место также и в нашем случае, так что с помощью этого описания порождающая функция однозначно определяет динамику. Любая другая функция, удовлетворяющая Й)авнениям (9.3.2), совпадает с Н с точностью до постоянного слагаемого, апомним также, что из (9.2.4) следует, что (9.3.3) Этот факт можно установить и непосредственно, заметив, что -^ = h^{s^ s') и функция /ii(', 5') убывает. В предыдущем параграфе мы видели, что описание динамики в терминах производящей функции приводит к определению орбит как критических точек некоторых функционалов, построенных с помощью производящей функции. Это будет главной темой оставшейся части настоящего параграфа. Начнем с простого утверждения, соответствующего (9.2.5) в нашем контексте. Предложение 9.3.4. Пусть Xq является критической точкой отображения х ь-» H{x_^^ х) -h Н{х, x^). Тогда существуют такие числа У-х^Уо^Ух €(0i О. 4/noF(a;_t,t/_i) = (ab»%) ^^-^(^Ь» %) ^(^^n г^О- До каз ат е л ьств о. Так как О = ^(Я(a;_^, х) 4- Н{х, х^))\^^ = = h^{x_^, Xq) - к^{х^, х^), мы имеем (а^, h^ix,^, Xq)) = (а^, h^ixQ, x^y) € еР{{х_,}х{0,1))ПЕ-'{{х,}х(0,1)). Поэтому у., = М^_и аь). % = = /ii(a;_p Xq) = /12(2^1 ^х) ^ Ух — ^xi^^ ^i)> ^^о и требовалось доказать. D Замечание. Если производные отображения хн-» h^{x_^^ х) положительны (так что F{{x_i} X (0,1)) — график возрастающей функции) и производные отображения xh-^hzix^x^) отрицательны (так что F~^({x^} х X (0,1)) — график убывающей функции), то критическая точка Xq единственна (будучи нулем убывающей функции), но, кроме того, она является глобальным минимумом отображения х у-^ Н(х_^, х) -\- Н(х^ х^), поскольку j2 д д ^(Я(а;_1, х)4-Н{х, х{)) = ^\{х,^, х) - ^h^ix, х^)<0 и другие крити- dx ческие точки отсутствуют. 9.3 в. Продолжения. Теория закручивающих отображений, как она изложена выше (а именно, в случае открытого цилиндра), существенным образом полулокальна. Это создает определенные трудности для применения вариационных методов, поскольку пространства, на которых определены наши
§ 9.3. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ 361 функционалы, некомпактны и любая попытка сделать их компактными путем наложения априорных ограничений приводит к таким топологическим сложностям, как появление несвязности и усложнение структуры границы. Удобный метод, позволяющий обойти эти трудности, состоит в том, чтобы заменить данное отображение на отображение, определенное глобально (т. е. на 5* х К), совпадающее с данным ото^ажением вне некоторой окрестности границы. В частности, мы можем выорать это глобально определенное отображение таким образом, что те его орбиты, которые мы будем рассматривать, будут являться на самом деле орбитами начального отображения. Аналогичный переход от локальной к глобальной задаче использовался в п. 6.2 б с той же целью (при доказательстве теоремы Адамара — Перрона 6.2.8, когда мы строили функциональное пространство, с которым легче работать). Предложение 9.3.5. Пусть /: 5* х Ю, 1)—* 5* х (0,1)~ гладкое сохраняющее площадь закручивающее отображение. Тогда для любого е > О существует такое сохраняющее площадь закручивающее отображение /: 5* X R, что f = f на 5* х (е, 1 - е) и для всякого поднятия F отображения f имеет место равенство lim F^{x^ у) — х = у—»±оо Доказательство. Выберем е 6 (О, I/2) и рассмотрим векторные поля V; и Т^, определенные равенствами V^(f(x, у)) = Df \^^^^^62 для (х, у)е €5>х(0, 1)и Т^(а;, у) = 614-62 для всех (ж, у), где {бр е2} = {(1, 0), (О, 1)} — стандартный базис. Рассмотрим такую гладкую функцию р: 5* х R—*[0, 1], чтор = 1 на/(5>х(е, 1-е)) и р = 0, если у^(0, I). Пусть У =/?V;-h(l-p)T^. Заметим, что первая компонента поля V положительна, поскольку первая компонента поля VJ положительна (в силу условия закручивания). Каждая интегральная кривая 7* поля V содержит образ интервала {t} х (е, 1 — е) под действием отображения /. Параметризуем кривую 7*. скажем, параметром s = x. Мы получим продолжение отображения /|5ix(e,i-e)' Параметризуем также вертикальные прямые параметром yis), совпадающим со стандартной координатой у на интервале (е, 1 — е) и определенным вне этого интервала следующим образом. Пусть / = (/i,/2). Для данного i € 5* положим 5( =/i(t, I - е) и y(s):= (1 - е) + j ш(х, t)dx, где w(s, t) тако- S, во, ЧТО dx dy = {jj{s, t)ds dt в точке 7((5), т. е. эта величина есть не что иное, как плотность в точке 7((s) меры на множестве у^, индуцированной обычной площадью и расслоением 7с Поскольку и отделено о£ нуля, отображение у(-) сюръективно. Положим f{t, y{s)) := ъ{^)- Тогда/ отображает вертикальные прямые в кривые у^ и поэтому также является закручивающим (поскольку первая компонента поля V положительна). Отображение / сохраняет площадь, так как ldxdy=\ (t/(si)-y(5o))^= I \ uj(s,t)dsdt = 1 dx dy. {/(a:,y)iv(%)<y<v('l),«0<*<*l>
362 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ Поскольку вне множества R х [0,1] образы вертикальных прямых под действием отображения F представляют собой прямые с угловым коэффициентом единица, мы получаем нужное асимптотическое условие. D 9.3 г. Биркгофовы периодические орбиты. Простые соображения, с помощью которых мы доказали предложение 9.3.4, содержат зародыш мощного метода, позволяющего находить периодические и другие орбиты с весьма специальными свойствами. В этом параграфе для любого рационального числа из интервала закручивания мы найдем орбиты, абсциссы которых ведут себя как (рациональные) повороты на это число. В гл. 13 мы получим аналогичные результаты и для иррациональных чисел. Определение 9.3.6. Точка w £С называется биркгофовой периодической точкой типа {р, q) и ее орбита называется биркгофовой периодической орбитой типа (р, q), если для поднятия ze S числа р найдется последовательность {(а;„, Уп)}^^^ таких точек в 5, что (4) (a;„^p,y„^p) = F(a;„,yJ. Замечание. Последовательность {х^, у„) параметризует орбиту не в соответствии с «динамическим упорядочением», задаваемым переходом от {х, у) к F{x, у), а в соответствии с «геометрическим упорядочением» ее проекции на 5*. Это упорядочение совпадает с упорядочением образов итераций рациональных поворотов окружности Л^^^, и, более того, если рассмотреть проекцию биркгофовой периодической орбиты типа (р, q) на окружность (эта проекция является конечным множеством) с отображением, индуцированным в результате проектирования действием F, то полученное отображение может быть продолжено до кусочно линейного гомеоморфизма окружности. Теорема 9.3.7. Пусть f\ S—^S — сохраняющее площадь закручивающее отображение и p/q —рациональное число из интервала закручивания (р uq взаимно простые). Тогда для отображения f существуют две биркгофовы периодические орбиты типа (р, q). Эта теорема представляет собой первый пример того, как вариационные методы позволяют найти бесконечно много периодических орбит. Ранее мы встречались с ситуациями, когда бесконечное множество периодических орбит удавалось найти, используя гиперболичность (следствие 6.4.19) или определенные сведения из топологии (следствие 8.6.11, следствие 8.6.12, теорема 8.7.1). Позднее мы сможем использовать вариационные методы для получения бесконечного множества орбит в других ситуациях, а именно для геодезических потоков, когда будет найдено бесконечно много замкнутых геодезических (теорема 9.5.10), а также большие множества минимальных геодезических (теорема 9.6.7). Доказательство теоремы 9.3.7 интересно также тем, что, оказывается, нахождение критических точек с помощью вариационных методов представляет собой не вполне тривиальную задачу и использует некоторые топологические соображения. В то время как построение первой периодической орбиты использует достаточно грубый (хотя и нетривиальный) поиск минимума некоторого функционала действия, построение второй базируется на сочетании вариационных методов с дифференциальной топологией в форме простой теории Морса или соображений
§ 9.3. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ 363 типа метода перевалов, подобных тем, что встретились нам в доказательстве предложения 9.1.2. Интересно, что этот подход включает изучение динамики градиентного потока в некотором вспомогательном пространстве (см. § 1.6). Ситуация здесь в известной мере аналогична той, что встретилась нам при использовании принципа сжатых отображений для функциональных пространств, построенных по данной динамической системе для нахождения ее периодических точек, сопряжений и т. д. (см. предложение 1.1.4, второе доказательство теоремы 2.4.6, предложение 2.4.9, теорему 2.6.1, теорему Адамара— Перрона 6.2.8 и теорему Аносова о замыкании 6.4.15, а также многие другие результаты, которые встретятся далее в этой книге). В предложении 9.2.1 было получено два вида биллиардных орбит периода два. Это был частный случай ситуации, с которой мы встретились сейчас. И тогда тоже легче было найти орбиты, соответствующие минимуму данного действия, чем те, которые соответствуют его «минимаксу». Как и в случае биллиарда, мы активно используем «конфигурационное пространство». Докажем теперь теорему 9.3.7 [^]. Доказательство. Мы получим первую из биркгофовых периодических орбит типа {Ру q), находя последовательность ее ж-координат как глобальный минимум соответствующего функционала действия, определенного на некотором пространстве последовательностей точек универсального накрывающего R многообразия SK Чтобы провести это построение, нет необходимости использовать расширение из предложения 9.3.5, поскольку возникающие в процессе построения топологические трудности весьма незначительны. В качестве кандидата в пространство ж-координат орбиты рассмотрим следующее пространство Е. Во-первых, пусть Е—множество таких неубывающих последовательностей {s^in^z действительных чисел, что ^п., = «п + 1 (^•3.4) F(3^ X [е, 1 - S]) П (s,^^ X [е, 1 - s]) ф 0, (9.3.5) где е > О определяется следующим образом. Поскольку число pjq принадлежит интервалу закручивания, существует такое 8 6 (0,1/2), что F^{Xy <5) — - х< p/q и F^{x, \- 8) — х> p/q для всех х. Выберем е > О так, что Ui^4Kx((0,e]U[l-e,l)))CKx((0,<J]U[l-<J,l)). (9.3.6) Мы будем называть такие последовательности упорядоченными состояниями типа (р, q). Поэтому у-координаты любой орбиты на универсальном накрытии, х-координаты которого удовлетворяют условиям (9.3.4) и (9.3.5), лежат в интервале (е, 1 - s). Определим отношение эквивалентности ^ на множестве Е следующим образом: s ^ s\ если 5^ —8^:=к для всех г и некоторого фиксированного А; € Z. Положим Е := Ё/ ^. Условие (9.3.4) означает периодичность, а условие (9.3.5) гарантирует существование такой точки (s„, у„), что F(5„, yj = (s^^p, у„ + „) для некоторого Уп+р- Последовательность, удовлетворяющая условиям (9.3.4) и (9.3.5), обычно не оказывается проекцией орбиты на первую координату, но мы
364 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ найдем последовательность, которая является таковой, и соответствующая орбита будет нужной нам биркгофовой периодической орбитой типа (р, q). Заметим, что в силу (9.3.4) каждая последовательность зави£ит лишь от q «независимых переменных» Sq, ...,s^_(, т. е. множество S естественным образом вложено в W, Используя условие (9.3.5) индуктивно, мы видим, что множество {5„ — Sq}IZ,q ограничено для любого s 6 S, так что Е — замкнутое и ограниченное, т. е. компактное подмножество множества K'/Z'^K'"^ X 54 Из определения интервала закручивания немедленно следует, что Ё ^0; более того, для всякого xeR последовательность {5„}, определенная равенством s =x-{-(n/q), содержится в Ё. Определим функционал действия L(s):=X^ff(s„,s„^,) (9.3.7) п=0 на Е, где Н — производящая функция из определения 9.3.3. Поскольку чи- ела р и 5 взаимно просты, из (9.3.4) следует, что Ь{з)=^ -^(^ji ^у+пр) Л"^ п=0 всех У 6 Z. Поскольку функционал L инвариантен относительно сдвигов на целые числа, он определен на компактном множестве Ё и потому достигает (быть может, на границе) своего максимума и минимума. Мы покажем, что его минимум соответствует биркгофовой периодической орбите типа (р, q), и установим, что этот минимум достигается не на границе. Рассмотрим любую последовательность s 6 Е. В силу (9.3.4) она не является постоянной. Поэтому для любого m 6 Z существуют такие числа п 6Z и А; ^0, что п^т^п-^-к и 5„_i<5„ = ... = s„^fc<5„^t^i. ( Если к>0, то S является граничной точкой Е.) Поскольку последовательность S неубывающая, условие закручивания дает е < ^(^пч-ь-р^ ^пч-fc) < • • • < ^(^п-р. ^п) < 1 - ^. е < /i2(s„, s„^p) ^ ... < fhis^^k^ s^^k-^p) < I - ^» так что либо ^(«n,s„+„)<A.(s„_„,5„), (9.3.8) либо )<fh(s„^„s„^,^,), (9.3.9) либо /ll(5„^,_,,5„^,) = /l2(5„^,,5„^,^^ le{0,.,.,k}. (9.3.10) В случае (9.3.8) заметим, что, рассматривая ж = 5„ как независимую переменную и фиксируя все оставшиеся 5^, мы получим dx ** i=0 /ll(5„,^,5j-/l2(s„,5„^p)>0,
§ 9.3. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ 365 так что по (9.3.8) мы можем немного уменьшить 5„ и, значит, уменьшить L(s), не покидая Е, следовательно, точка s не является точкой минимума. В случае (9.3.9) аналогичным образом, полагая у = з„^^, мы получаем J- L(s)<0, так что по (9.3.9) можно немного увеличить з^^^ и, та- КИМ образом, уменьшить L{s), не покидая Е, следовательно, s опять не является точкой минимума. Значит, если s — точка минимума, то имеет место равенство (9.3.10) для всех m € Z, и потому 'biCSn^-p, sj = k,{s^, s^^ J для всех m €Z. (9.3.11) Полагая (a;„, y„) = (s„» ^i(s„_p, s^)), получаем периодическую орбиту. Заметим, что условие у„ б (е, 1 — е) должно быть выполнено для всех п 6 Z, поскольку если У„ < ^ для некоторого п 6 Z, то у„ < <5 для всех п € Z, что противоречит (9.3.4) и (9.3.5) в силу выбора S. Поэтому, чтобы установить, что множество (х^, у„) является биркгофовой периодической орбитой типа (PiQ), а точка 5 не лежит на границе Е, достаточно показать, что последовательность s^ = x^ строго возрастает. Предположим, что s„ = s„^i. Переходя, если нужно, к другому п, мы можем считать, что либо s„_i < 5„, либо 5„^1 < 5„^2 (поскольку последовательность s не является постоянной). Далее, поскольку последовательность s неубывающая, из условия закручивания и из (9.3.11) можно заключить, что Уп~^.1 = Ki^n-p+a^n-i-l) ^ <'^i(Sn-p»5n4-i)<^(s„-p)0 = yn = ^(s„»5„^ )</i2(^„,s„^p^i)=y„^i, где по крайней мере одно из неравенств строгое. Полученное противоречие доказывает, что S строго возрастает. Таким образом, мы нашли такую биркгофову периодическую орбиту типа (Pi q)^ что на последовательности ее первых координат функционал действия L достигает своего глобального минимума, и притом во внутренности Е. Теперь перейдем к поиску второй («минимаксной») биркгофовой периодической орбиты типа (р, q). Всюду в этой конструкции мы считаем, что наше отображение уже продолжено так, как это позволяет сделать предложение 9.3.5, и, значит, пространство «кандидатов в решения» устроено достаточно просто. Продолжим / следующим образом: поскольку число p/q принадлежит интервалу закручивания, существует такое S 6(0,1/2), что F^{x, S) — x<p/q и Fi(i, I — S)- х>p/q для всех x. Выберем e>0 так, чтобы выполнялось условие и^ЧМх((0,е]и[1-£,1)))сКх((0,<5]и[1-<5,1)). В силу такого выбора вторые координаты любой орбиты, первые координаты которой представляют собой последовательность из Е, лежат в (г, 1 — е). Применим предложение 9.3.5 с выбранным выше е. Тогда любая биркгофо- ва периодическая орбита типа (р, q) продолженного отображения является и биркгофовой периодической орбитой типа (р, q) для первоначального отображения. На самом деле мы покажем, что эта вторая биркгофова периодическая орбита типа (р, q) «сплетена» с первой таким же образом, как для поворота, т. е. проекции этих орбит на 5^ могут быть переведены одним и тем же гомеоморфизмом в две орбиты поворота на рациональный угол. Это естественный результат использования нашего метода, поскольку мы собираемся
366 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ искать вторую орбиту, рассматривая последовательности, сплетенные с последовательностью координат первой биркгофовой периодической орбиты типа (р, q). Имея это в виду, зафиксируем раз и навсегда последовательность 5, представляющую первую биркгофову периодическую орбиту типа (а Q)f и положим Заметим, что это пространство является компактным выпуклым полиэдром. Наш план состоит в том, чтобы найти отличную от 5 критическую точку функционала L на &. Она окажется седловой. Это позволит нам получить вторую биркгофову периодическую орбиту типа (р, q). Начнем с полезного замечания. Лемма 9.3.8. Предположим, что последовательность s 6 © такова, что 5fc = <^fc + i- Тогда /13(3^, Sj^+p) < ^i(Sfc_p, s^), причем равенство достигается в том и только том случае, когда 3j^_p = Sj^^^i ^ h + p^'^k-i-p+i- Если последовательность s 6 © такова, что s^ = ^, то /ii(5fc_p, 5^) < < /i2(Sfc, Sfc^p), причем равенство достигается в том и только том случае, когда s^,^ = S^,^ us^^p = S^^^. Доказательство. Поскольку s^^S^^^ для п€Z, условие закручивания дает и равенство достигается тогда и только тогда, когда S^_^^^ = s^_^. С другой стороны, ■^(Sfc, ^(Sfc, Sfc^p)) = St^p < -^fc+p + l ^-^iC-^fc + l» Ki^k-p + l-i "^fc + l))' и равенство достигается тогда и только тогда, когда 3^^^ = S^^^^^, так что по условию закручивания мы получаем где равенство достигается тогда и только тогда, когда Sj^_^ = S^_^^^vi 5^^^ = = •S'^+p + i- Второе утверждение доказывается аналогично. D Лемма 9.3.8 показывает, что не существует критических точек функционала L на границе ©, отличных от 5 и S\ где 5^ = 5„+i; обе они представляют минимальную биркгофову периодическую орбиту типа (р, q). Теперь покажем, что существует критическая точка L во внутренности ©. Для граничной точки множества © некоторые из неравенств 5„ < 5„ < 5„^i обращаются в равенства. Сосредоточим наше внимание на их левой части и рассмотрим грань © наибольшей размерности. Это значит, что если 5„ = 5„, то 5„_р > <^„_р. Но в этом случае лемма 9.3.8 показывает, что L убывает с ростом 5„. То же верно в случае обращенных неравенств. Рассмотрим градиентный поток £' функции —L на множестве © (см. § 1.6). Причина, по которой мы используем градиент функции —L, заключена в принципе «наискорейшего спуска». Заметим, что вектор градиента функции —L на © направлен внутрь © на каждой грани высшей размерности. Таким образом, поток £' определен на © для всех положительных значений t\ если орбита
§ 9.3. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ 367 некоторой точки х покидает множество © в момент времени t, то орбиты любой точки из окрестности U точки х также покидают это множество, может быть, немного позднее. Поэтому множество Q C'(U)nd& открыто 0<л<2( в dS, и, следовательно, оно пересекает грань наивысшей размерности по открытому множеству. Но это невозможно, поскольку векторы градиентов на этих гранях направлены внутрь. Поэтому £'(©)с © для всякого t>0. У этого градиентного потока имеются две притягивающие неподвижные точки, а именно минимумы 5 и 5'. Рассмотрим непрерывную кривую с: [0,1]—*©, с(0) = 5 и с(1) = 5'. Тогда существует наименьшее такое X > О, что С^(с{х)) не сходится к 5. Но w-предельное множество точки ш{с{х)) непусто по компактности, и по предложению 1.6.3 оно состоит из критических точек. Оно не может состоять из одной точки 5', так как множество точек, притягивающихся к 5', открыто. Поскольку оно не пересекается с множеством {5, 5'}, мы нашли новую критическую точку. D Критическая точка, которую мы только что построили, соответствующая второй биркгофовой периодической орбите типа (Рэ ?)» "^ может быть локальным минимумом функционала L, так как в противном случае точки, притягивающиеся к ней, образовывали бы открытое множество, содержащее с(х), что противоречит определению точки х. Может существовать более одной такой точки, и по крайней мере одна из них может быть описана путем рассмотрения «перевалов». Предложение 9.3.9. Пусть Ь^^^^^:= inf max L(c(t)), где точ- с t £ [Oi 1 ] ная нижняя грань взята по всем непрерывным отобраоюениям с: [О, 1] Рис. 9.3.3. Градиентный поток 5'. Тогда L тшгаах критическое значение функ- -^6, с(0) = 5 ис(1) = ционала L на &. Доказательство. Допустим обратное. Тогда, поскольку множество критических значений компактно, существует такое е > О, что в интервале (I'niinraax ~ ^» -^rain max + ^) КрИТИЧбСКИе ЗНачеНИЯ ОТСуТСТВуЮТ И, бо- лее того, \\VL1^8 на L''{L^^^^-е^Ь^^^^^Л-е). Поэтому существует такое Г>0, что С'^{Ь''{-^,Ь^^^^Л-е))(1 L''(-oo,L^^^^-е). Значит, если мы рассмотрим кривую с, определенную, как показано выше, и такую, что max L{c{t)) < I'niinraax + ^» то кривая с':= С^ ос такова, что ( 6 [0,1] max Lic'it)) < Ь„.„^^ — е, что противоречит определению L (£[0,1] гашгаал Дадим еще одно описание критического значения I'mmmax- Рассмотрим возрастающее семейство Х~'((-сю, t]) подмножеств множества 6. Величина -^minraax соответствует минимальному значению t, для которого S w S' принадлежат одной и той же компоненте связности L~^((—сю, t]). В некоторых вырожденных случаях эта компонента L-^((-oo, I'minmax]) может оказаться линейно несвязной. Но для любого регулярного значения t>L rainraax' п mm max
368 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ соответствующая компонента связности множества L"'((—оо, t]) линейно связна. 9.3 д. Глобальная минимальность биркгофовых периодических орбит. Мы построили первую биркгофову периодическую орбиту типа {р, q) как глобальный минимум функционала действия на пространстве упорядоченных состояний (см. (9.3.4) и (9.3.5)). Вместо этого можно рассмотреть большее множество состояний, если опустить требование монотонности. Для простоты рассмотрим отображения, определенные глобально, т. е полученные в результате использования процедуры продолжения из п. 9.3 в. Состоянием или состоянием типа (р, q) называется периодическая последовательность, удовлетворяющая условию (9.3.4), и функционал действия на пространстве состояний типа {р, q) определяется равенством (9.3.7). Хотя множество состояний не компактно, функционал достигает своего минимума, поскольку цдя продолженного отображения площадь Я(5, з') велика ДУ1Я больших значений з' — з. Теорема 9.3.10. Первая биркгофова периодическая орбита типа (Ру q) соответствует минимуму функционала L, заданного формулой (9.3.7), на всем пространстве состояний. Доказательство. Идея доказательства состоит в том, чтобы показать, что цдя всякого неупорядоченного состояния функционал L не может достигать минимума [^]. Лемма 9.3.11. Если Н — производящая функция закручивающего отображения As, As' > О, то Н(з, з') -h Н(з -h As, s' -h As') ^ H(3, s' + As') + Н(з + As, s') и равенство достигается тогда и только тогда, когда AsAs' = 0. Доказательство. Заметим, что fi'(s+As, s'+As') —JZ'(s, s'+As') — - H{s + As, s') + H(3, s') = J J -^ d3 из' и ~ < 0 согласно (9.3.3). П Предложение 9.3.12. Рассмотрим два таких состояния, х, х\ что Х^ ^ X-J Х^^р > Х;^р, . . ., ^i+(jb-l)p ^ ^t+(jb- 1)р) ^i+kp ^ ^ъ+кр для некоторыхiy кeZ. Пустьу^\= тЩх^у х^), j = i-}rlp,0^l^к, иу^ = х^- в противном случае. Определим у' соотношением уу + 2^- = Xj + Ху. Тогда L(y) + L(y')^L(x) + L(x'). Более того, если х.- < х^ или х^^^р <^.' + fep» ^^ Цу)-[-Ь(у')< L(х)-]гL(х'). Доказательство. Нетрудно видеть, что L(y) + L(y^)-L(x)^L(x') = = Щу,, у,^,НЩу1, у^^р)-Я(х„ х,^р)-Я(х;, х;^р)+Я(у,^(,_ ,j^, у,^^р)+ + -"(yi + (jb-i)p> У{ + кр)~ -"(^i + (jb-i)p> ^i + kp) ~ -"(^i + (jb-i)p' ^i + kpJ — = Я(у^, yi+p)-}rH{yl, yi^p)-H(y,, у;^р)-Я(у;, У£ + p)+Я(y.^^^, _i,p, y, + fcp)+ + (k-i)pi yi + kp)~ ^iVi + ik-Dpy Vi + kp) -^(y.+(jb-i)pj Vi + kp)^ так что лемма применима к первым четырем членам, и последние четыре дают наше утверждение. П
§ 9.3. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ 369 Если состояние s неупорядочено и 5^-=5„+р то последовательность s^ — s„ меняет знак между значениями п = О и n = q. Поскольку s > Sq, существует такое п G N, что з'^ — з^> 0. Поэтому найдутся такие т, « G N, что з'^-з^^ О, з'^^1^ - s^^jp < О, Z е {О,..., к}, и 5;„+(jfe + ор - 5„+(^ь + i)p > 0. Построим следующие два состояния v^w. Положим '^}т + 1р + щ'-= ^m + ip + щ' где Z е {1,..., А: - 1}, п G Z, и v^ = s^ для всех остальных i G Z. Выберем w так, что V.. + гУ; = 5,. + S;. Используя доказанное выше утверждение, получаем 2L (з) = Zr (s) + L (s') > L (v) +1' (tw). Если неравенство является строгим, то либо Цу)<Ь (s), либо L (w) < L (s), так что з не минимизирует L. В соответствии с этим утверждением равенство может иметь место только в том случае, если существуют такие т, А; G N, что з'^~ з^< О, В этом случае новые состояния v и ги не могут одновременно представлять орбиты (по свойству закрученности; см. рассуждения после (9.3.11)) и потому не могут одновременно быть критическими точками функционала L. Поэтому они не могут оба быть минимумами, так что и 5 не может быть состоянием, на котором достигается минимум. D Рассуждая, как в доказательстве теоремы 9.3.10, можно получить такое следствие предложения 9.3.12. Следствие 9.3.13. Для двух состояний з и з' положим X := min(s„,<) и у„:= max(s„,s^). Тогда L (з)-^ L (з') ^ L (х)-[• Цу). Неравенство является строгим, если только не суи^ествует такого числа г G Z, что s. = sf. Предложение 9.3.14. Пусть/: S-^ S ~ сохраняюш^ее плош^адъ закручиваюи^ее отображение, p/q—рациональное число из интервала закручивания иш£'к. Тогда на минимальной биркгофовой периодической орбите f типа (р, q) достигается минимум функционала L на множестве состояний типа (тр, mq). Доказательство. Минимум достигается на орбите, первые координаты которой образуют упорядоченное состояние {5„}„ez типа (mp,mq), т. е. 5„ + ™, = s„ + '^ и s„^,>s„. Рассмотрим состояние s', определенное равенством s^ = 5„^^ — 1. Заметим, что s„ ^ s^ для всех п G Z или наоборот, поскольку в противном случае в силу следствия 9.3.13 состояния х и у вида х„:= min(s„, 5^) иу^:= тах(5„, s^) были бы такими, что L(х)-[-L(у)^L(з)+L(з')=^2Ь(з), В случае когда это неравенство строгбе, состояние з не минимально. В противном случае, рассуждая, как в доказательстве теоремы 9.3.10, мы можем проверить, что состояния х и у не представляют никакие орбиты и потому не минимальны, а значит, и 5 не минимально. Поэтому 5 ^ 5' и, следовательно, s^ ^ 5,' = 5^ ^^ - 1 ^ ... ^ 5^^^ - m = 5- для всех г G Z. Таким образом, мы получаем s = з', откуда следует, что последовательность з является q--периодичной и потому представляет собой минимальную биркгофову периодическую орбиту типа (р, д). П Определение 9.3.15. Конечная последовательность {х-}"_о называется (а, &, п)-состоянием для некоторых а, & G Е и п G N, если Xq = а и х„ = &. божество (а, &, п)-состояний обозначается Е(а, &, п) или, если это не приводит к путанице, просто S. Для периодического состояния s
370 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ типа (p,q) и 7п £Z, п £N иы получаем (s„, s^^^^, п)-состояние х вида X. := s^ + ф. Определим функционал действия L на пространстве Е(а, Ь, п) всех (а, &, п)-состояний, полагая п- 1 Ь(8):=5;^Я(5,,8,^,), (9.3.12) .=0 где, как и раньше, Н — производящая функция, введенная в определении 9.3.3. Заметим, что мы перешли к динамическому упорядочению, в отличие от упорядочения, выбранного нами в (9.3.7). Поскольку ^ =/ii(3Ji_ij з^^)— — hziXi, Xj. + i), критическая точка функционала L соответствует отрезку орбиты. Когда мы говорим, что глобальный минимум функционала L на множестве Е(а, Ь, п) «достигается между концами отрезка», из этого следует, что часть состояния, на которой достигается минимум, соответствует куску некоторой орбиты. Если минимум достигается между концами некоторого отрезка, он достигается и на любом подотрезке. Определение 9.3.16. Назовем состояние типа (p,q) глобально k-i минимальным, если цдя всяких m GZ, к £N сумма Y1 ^{^n + ipi ^n + (i + \)p) f =0 минимизирует функционал L на пространстве (s^, 5^+fepj А;)-состояний. Предложение 9.3.17. Любое глобально минимальное состояние типа (р, q) представляет минимальную биркгофову периодическую орбиту типа (р, q), и наоборот, любая минимальная биркгофова периодическая орбита типа (р, q) глобально минимальна. Доказательство. Рассмотрим минимальную биркгофову периодическую орбиту типа (р, q). Она определяет состояние s. Выберем m G Z и fc е N, а также iV е N так, что к ^ qN. По предложению 9.3.14 сум- Nq- 1 ма 5^ -^(^n + ipj ^n+(i + i)p) минимальна на пространстве всех состояний типа (АГр, Nq), В частности, минимум достигается между концами отрезка {5„ + ip}f=o9. и поэтому то же верно для любого подотрезка. Тем самым доказано второе утверждение. Пусть S является глобально минимальным состоянием. Рассмотрим сумму Y^ Н{з^р, s^i + i)p) и предположим, что она превосходит минимум Ь^,,, функ- i=Q ционала действия на пространстве состояний типа {р, q). Пусть з' —такое состояние, что Y, -^(4» ^{i + \)p) ^ -^шт и 1^0 - ^ol < ^- Для данного NeN « =0 отрезок {Sfplflo' состояния з достигает минимума между своими концами 3q и s^yq = 5о + п для действия NL (а). Заменяя этот сегмент на {sq, s^, 5^^,... • • ••>S{Nq-i)p-> ^Q~^^}> ^*Ь1 получаем некоторое {3q^ 3q + N, NqycocTonnne, значение функционала действия на котором отличается от NL^^^ на константу, не зависящую от iV. Если N достаточно велико, последний факт противоречит глобальной минимальности з, П Аналогичные соображения будут использоваться в § 9.7 в процессе изучения минимальных геодезических на поверхностях. Мы вернемся к закручивающим отображениям в гл. 13.
§ 9.4. ВАРИАЦИОННОЕ ОПИСАНИЕ ЛАГРАНЖЕВЫХ СИСТЕМ 371 Упражнения Определение 9.3.18. Пусть /: 5* x{0,l)—^S^ х (О, I) — отображение класса С*. Обозначим через 9{х, j/) € R угол между ^f\(j,y)^ и ej, где ej — единичный вертикальный вектор, определенный таким образом, что 0{х,Ъ) € (О, тг) н отображение $ непрерывно. Если ^ >0, то отображение / называется отображением с полотюительным цаклоном [^]. 9.3.1. Докажите, что композиция закручивающих отображений является отображением с положительным наклоном. Определение 9.3.19. Гомеоморфизм /: 5' х (0,1) —»■ 5' х (0,1) называется закручивающим гомеоморфизмом^ если для всякого его поднятия F = (Fj, i^) функция Fj является строго монотониой по у. 9.3.2. Покажите, что первая биркгофова орбита типа (р, q), полученная в доказательстве теоремы 9.3.7, может быть построена также для непрерывных закручивающих гомеоморфизмов, сохраняющих положительную на открытых множествах меру. 9.3.3. Покажите, что теорема 9.3.7 выполняется для композиции f^^fi двух закручивающих отображений. 9.3.4. Покажите, что теорема 9.3.7 выполнена для композиции любого конечного множества закручивающих отображений. 9.3.5. Покажите, что биллиардное отображение для внешнего биллиарда является закручивающим отображением относительно введенных в тексте координат, сохраняющим меру Лебега, с интервалом закручивания [О, тг]. 9.3.6. Покажите, что продолжение /, полученное в предложении 9.3.5, может быть сделано совпадаюшдии со стандартным интегрируемым закручивающим отображением (а:, 2/)'-»(х + з/, у) вне некоторого (большого) компактного множества. § 9.4. Вариационное описание лагранжевых систем Перейдем от описания специальной ситуации систем с дискретным временем к общей постановке задач лагранжевой механики, сформулированной в § 5.3. Мы хотим показать, что решение уравнения Лагранжа (5.3.2), переписанное ниже как (9.4.2), которое описывает ньютонову динамику, эквивалентно решению вариационной задачи, т. е. нахождению критических точек некоторого функционала. В отличие от случая дискретного времени, которым мы занимались до этого, естественно определенный функционал действия оказывается заданным на некотором бесконечномерном пространстве. Это приводит к существенным техническим усложнениям и требует развития локальной теории. Со временем мы научимся находить минимумы такого функционала действия (определенного ниже), как мы уже умеем делать в случае дискретного времени. Прежде всего найдем взаимосвязь между уравнением Лагранжа и вариационными задачами. Пусть L — гладкая функция точки (х, v) е R" х R". Для данных х, у G R" и Т > О мы можем рассмотреть гладкие кривые с: [О, Т] —^ R", с(0) = х, с{Т) = у. Тогда функционал т F(c):= { L{c{t),c(t))dt (9.4.1) о корректно определен. Мы хотим найти его минимум, т. е. найти такую кривую с, что значение F(c) минимально. Для этого рассмотрим кривые с^: [О, Т]-^Е", гладко зависящие от 5 G(-e, е) и такие, что Cq = c и с,(0) = х.
372 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ с^{Т) = у, Тогда F{cJ является действительнозначной функцией s, и, если мы хотим определить, является ли значение F(cq) минимальным, прежде нужно 0. Это нетрудно сделать: d ds т ^jL(c,(t),c,(t))dt dLd^ ~Вх ds + дь d о о А=0 dv ds s = Q Cs(t)]dt d dL 0 dt. s = Q dc Мы использовали интегрирование по частям и тот факт, что -^ dc. п обращается в нуль при t =0, Т. Кривая с, может быть какой угодно (важно абсолютно *=о лишь сохранение значении на концах), так что величина -^ произвольна. Поэтому последний интеграл может обращаться в нуль для всех таких вариаций, только если d dL dL dt ди дх О (9.4.2) (см. упражнение 9.4.1). Таким образом, уравнение Лагранжа возникает из требования минимальности интегралов по кривым, а критические точки являются в точности решениями уравнения Ньютона. С целью дальнейшего использования переформулируем результат предыдущего вычисления цдя случая, когда и концы можно варьировать. Предложение 9.4.1 (первая вариационная формула). d ds =0 Lic,it),c,it))dt О dLdc^ dv ds d dL * = 0J0 dt dv dL_\dc^ dx ) ds 0 dt л=0 Это равенство показывает, что для лагранжианов на многообразии динамика определяется требованием минимизации функционала действия, поскольку, как мы показали в п. 5.3 б, уравнения Эйлера — Лагранжа инвариантны относительно выбора локальной системы координат, т. е. ду1Я лагранжианов L: ТМ-^Ж орбиты являются кривыми, критическими для функционала F{c): L{c)dL о В частности, геодезический поток (определение 5.3.4) описывается в вариационных терминах. Наметим основы вариационного подхода в случае произвольных лагранжианов на многообразиях. Главная проблема состоит в том, чтобы определить дифференцируемую структуру на бесконечномерном многообразии
§ 9.4. ВАРИАЦИОННОЕ ОПИСАНИЕ ЛАГРАНЖЕВЫХ СИСТЕМ 373 гладких кривых. Пусть С — совокупность всех гладких кривых с: [О, Т] —*■ —^ М, где с(0) = X, с(Т) = у. Для всякой кривой с€:С рассмотрим такие гладкие вариации j: [™е, е] х [О, Т] -^ М, (s, t) н^ c,(t), что Cq = с и с, е С для —е < S < е. Сопоставим вариации 7 векторное поле Yj, определенное вдоль с следующим образом; Yj(t) = ^c,(t)|,^o- Предложение 9.4.2. Пространство Tfi естественным образом отождествляется с пространством таких векторных полей Y на с класса С°°, что У(0) = У(Т) =0. Этот факт вытекает из следующих простых лемм, доказательство которых предоставляется читателю. Лемма 9.4.3. Если отображение F: С —* R таково, что ^с^(^,):= ^^ _ существует и Y^ = Y^, то S^F(Y^) = 6^F(Y^,). Лемма 9.4.4. Если Y — такое векторное поле на с класса С°°, что 1^(0) = У(Т) = 0, то существует такая вариация 7 кривой с, что Y= У^, В более современных бескоординатных обозначениях лагранжианы вида (5.3.3) могут быть представлены следующим образом: если М — рима- ново многообразие с римановой метрикой д, для каждого вектора v £ ТМ определим его кинетическую энергию g(v, 'у)/2. Естественный лагранжиан тогда имеет вид где V е ТМ, 7г: ТМ -^ М — проекция вектора в его начало и V: М -*R — потенциальная энергия. Смысл этого замечания состоит в том, чтобы еще раз подчеркнуть, что, производя вычисления в локальных координатах, мы тем не менее получаем результаты, не зависящие от их выбора. Это главное достоинство лагранже- ва формализма. В частности, требование обращения в нуль величины S^F: T^C—^R эквивалентно уравнению Эйлера — Лагранжа, которое, таким образом, является необходимым условием минимизации L на кривой с. Традиционные обозначения при использовании координатного формализма таковы: точка локальной карты обозначается через q, касательный вектор — через д. Поэтому уравнение Эйлера — Лагранжа в контексте классической механики выглядит следующим образом: d^dL _дЬ Уравнение Эйлера — Лагранжа эквивалентно требованию, чтобы его решение было критической точкой функционала F, определенного на множестве всех кривых [О, Т]-^ М с данными граничными условиями, принадлежащих классу СЧ А priori такая критическая точка может не быть даже локальным, тем более глобальным миниумом. Ниже мы покажем, что если два граничных условия выбраны достаточно близкими, то существует единственное «кратчайшее» решение уравнения Эйлера — Лагранжа, которое на самом деле оказывается глобальным минимумом. Ситуация меняется, когда концы удалены друг от друга. Достаточно длинные отрезки решений уравнения Эйлера — Лагранжа, являющиеся траекториями, перестают быть минимумами. В § 6 мы рассмотрим примеры орбит, которые являются глобально
374 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ минимальными в том смысле, что их поднятия на универсальное накрывающее глобально минимальны для любой пары своих точек. Упражнения 9.4.1. Дайте подробное доказательство того факта, что если кривая с является критической точкой функционала F, задаваемого формулой (9.4.1) на пространстве гладких кривых с фиксированными концами, то выполнены уравнения Эйлера — Лагранжа (9.4.2). 9.4.2. Докажите предложение 9.4Л § 9.5. Локальная теория и экспоненциальное отображение Начиная с этого момента мы будем изучать исключительно геодезические потоки, т. е. лагранжевы системы с нулевым потенциалом (см. определение 5.3.4). Определение 9.5.1. Для кривых с: [О, Т]-^М величина т О т называется действием и Цс):= J у 9c{t)(^(^)^ c{t))dt — длиной кривой с. о * Мы будем говорить, что с параметризовано с постоянной скоростью, если ^-i/sf^(jj(c(t), c(t)) =0. Критическая кривая класса С^ для А называется геодезической. Непрерывная кусочно кривая класса С^ называется геодезической ломаной, если ее сужение на любой подынтервал, на котором она принадлежит классу С^, дает критическую для А кривую. Из предложения 5.3.2 немедленно вытекает такое следствие. Следствие 9.5.2. Геодезические параметризованы с постоянной скоростью. Теперь мы можем указать взаимосвязь между действием и длиной, которую особенно полезно учитывать для кривых, параметризованных с постоянной скоростью. Для простоты будем использовать обозначение c(t)||:=5.(,)(c(t),c(t)). Предложение 9.5.3. Если с: [О, Т]-^М — некоторая кривая, то А(с)Т > /^(с)/2, причем равенство достигается только для кривых, параметризованных с постоянной скоростью. Доказательство. Согласно неравенству Коши т т т Z2(c)=( J \\cit)\\dt)\ I \\c{t)fdt J \4t=2A{c)T, 0 0 0 и равенство возможно лишь в случае, когда ||c(t)|| = const. П
§ 9.5. ЛОКАЛЬНАЯ ТЕОРИЯ И ЭКСПОНЕНЦИАЛЬНОЕ ОТОБРАЖЕНИЕ 375 Поскольку следствие 9.5.2 показывает, что при изучении критических ДУ1Я функционала действия кривых можно ограничиться изучением кривых с постоянной скоростью, мы можем теперь равным образом ограничиться изучением кривых, критических цдя функционала длины. Это некоторое упрощение, поскольку если скорость кривой с: [О, Т]~^ М постоянна, т. е. равна||с(0)||,то/(с)=Т||с(0)|1: Рассмотрим теперь экспоненциальное отображение в связи с изучением геодезического потока. Однородность лагранжиана геодезического потока влечет следующий факт. Лемма 9.5.4. Пусть с: [О, Т] —^ М — геодезическая и дано отображение т: [О, Т/а]-^[0, Т], ti-^T(t) = at. Тогда с:= cor также является геодезической. Для вектора v ^Т^М обозначим через с„ такую геодезическую, что с(0) = X, с(0) = v. В п. 5.3 а было установлено, что экспоненциальное отображение ехр^ : V !-► ехр^ v := с„(е), где е — некоторая малая константа, зависящая от R, является вложением множества {v е Т^М \ \\v\\ ^ iZ} в М. Однако по лемме 9.5.4 для 6 = eR мы получаем гладкое вложение ехр,: B(0,S)=^{v£T^M\\\v\\^6}-^M, уь^с^(\у (9.5.1) Обозначим через г^ > О точную верхнюю грань таких S, цдя которых отображение ехр^ инъективно в ^-шаре Б (О, 6). Величина г^ называется радиусом инъективности отображения ехр^ или радиусом инъективности многообразия (М, д) в точке х £ М. Теперь мы можем показать, что локальные геодезические являются единственными минимумами функционала действия. Теорема 9.5.5. Пусть М —риманово многообразие, х GМ, г^ —радиус инъективности ехр^, v £ Т^М, d:=\\v\\< г,, у = ехр^ v и Т^у—пространство таких непрерывных кусочно С' -гладких кривых с: [0,1]—j-M, что с(0) = х и с(\)~у. Тогда функционал действия на Т^^ достигает своего единственного минимума на геодезической с„ и A(cJ = d^/2. Замечание. Поскольку величина г^ липшицева по х, она обладает положительным минимумом на любом компактном подмножестве многообразия М. В частности, для компактных многообразий мы назовем величину г{М):= min г^ > О радиусом инъективности М. Следствие 9.5.6. Пусть М — компактное риманово многообразие ихуу£М таковы, что d{x, у) <г{М). Тогда единственным минимумом функционала действия А на множестве Т^у является геодезическая Доказательство. Сначала докажем следующую лемму. Лемма 9.5.7 (лемма Гаусса). Еслих^М, а: [—1,11—►^М u||<j(t d = r <r^ для всех * G [-1,1], то ^ ехр^ а(з) L ^ ехр^ ta(0). d 5=0 t = l Доказательство. Поскольку кривая с: t »-► ехр^ ta(0) является геодезической, по первой вариационной формуле (предложение 9.4.1) мы получаем d ds А(о=Е^.м1))§(1)%^ ^=0 ik (1), s=0
376 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ где сДй) = ехр^ Ьа(з). Но А{с^) = г^/2 цдя всех 5, так что сумма обращается в нуль, что и требовалось доказать. П Лемма Гаусса утверждает, что если мы рассмотрим полярные координаты Б(0, г^)\{0} —^ (О, rj) X 5"" ^ то с помощью отображения ехр^' можно получить полярные координаты в окрестности точки х, обладающие тем свойством, что радиальный вектор -^ ортогонален к ^5"~^ Мы используем этот факт, замечая, что, в частности, цдя z е ехр^ Б (О, г^) и w & Т^М выполнено неравенство ||ги|| > \д iw^ ^1 , которое может стать нестрогим ЛИШЬ в случае, когда w окажется кратным ^. Допустим теперь, что у = ехр^ v, где d := ||v|| < т^, и кш1вая с: [0,1]—^ М, соединяющая х и у, содержится в образе ехр^ Б (О, d). Тогда мы получаем 1 1 1 I 3(c(t), c{t))dt ^ I (3(c(t), ^)Ydt ^ ( I 3(c(t), §p)dt)\ d' = 2A(c„). 0 0 0 Если кривая с не является перепараметризацией кривой с„, первое неравенство является строгим. Но в случае когда с —перепараметризация с„, второе неравенство (неравенство Коши) будет строгим, только если эти две кривые не совпадают. Поэтому если с — такая же кривая, как и выше, и С7^с„, то A{c)>d^/2. Это соображение показывает также, что l(c)>d, если с не является перепараметризацией кривой с„. Меняя точку у, мы видим, что длина любой кривой с с началом в точке х, не содержащейся в образе ехр^ Б (О, d), но такой, что с(1) G ехр^ Б(0, d), больше чем d, и потому значение функционала действия для этой кривой больше чем d^/2. D Следующий результат связан с описанием глобальных минимумов функционала действия (или длины). Доказательство использует очень полезный метод «геодезических ломаных», изобретенный Морсом, который позволяет свести задачу нахождения глобального минимума к некоторой конечномерной задаче. Как и выше, обозначим через Г пространство таких кусочно С"-гладких непрерывных отображений с: [0,1]—j-M, что с(0) = х и с(1)= у. Число точек разрыва для всякой кривой с&Т^у конечно, но в принципе неограни- чено. Очевидно, функционалы длины и действия корректно определены на пространстве Г^^^. Теорема 9.5.8. Пусть М — полное связное ориентированное ри- маново многообразие и х, у€М. Тогда функционал действия А наТ достигает своего (не обязательно единственного) минимума на гладкой геодезической Эйлера —Лагранжа. Доказательство. В силу связности существует некоторая гладкая кривая аеГ^у. Без ограничения общности можно считать, что а параметризована с постоянной скоростью. Пусть L := 1(сг). Тогда по предложению 9.5.3 выполнено равенство A(a)=^L^. (9.5.2)
§ 9.5. ЛОКАЛЬНАЯ ТЕОРИЯ И ЭКСПОНЕНЦИАЛЬНОЕ ОТОБРАЖЕНИЕ 377 Рассмотрим шар В = B{x,2L)cМ. Его замыкание компактно. Любая точка Z € дБ обладает тем свойством, что d(x, z) = 2L. Пусть с £ Т^у. Если с ([0,1]) ^ Б, то это множество содержит некоторую точку гедВуИ потому Z(c) ^ 2L, и по предложению 9.5.3 и в силу (9.5.2) мы имеем A(c)>2L^>A{a). (9.5.3) Поэтому inf А(с) = ЩА(с)\сеТ^у,с([0,1])сВ}. (9.5.4) Поскольку множество В компактно, радиус инъе^стивнести г^ точек х t i? ограничен снизу некоторым числом R>0. Пусть Г:= {с еГ^у| /(с)^ Н^) = = L}. Если с е Г, то с([0,1]) С Б = Б(х, 2L). Для каждой кривой с G Г можно найти такой набор чисел 0—tQ<ti<...<t^ = l, что L (с||^ ^ i) < -^ я к ^ [Цсг)/Я] + 1. Теперь воспользуемся приемом Морса, т. е. рассмотрим геодезические ломаные. Заменим кривую с такой геодезической ломаной а, что Другими словами, мы заменим отрезок cr([t.., t._^^]) подходящим образом перепараметризованной геодезической, на которой достигается единственный минимум функционала действия А на множестве Г^(е.).<т(*..+,)- ^^ теореме 9.5.5 получаем А(а)^ А{а). Параметризуя а с постоянной скоростью. получаем такую кривую а, чтоА{а) ^ А{сг), замыкание i" множества всех кривых а, образованных из а еГ, компактно в С°-топологии. Это следует из того обстоятельства, что любая кривая из Р вполне определяется упорядоченной последовательностью не более чем [Z(<j)/iZ] +1 точек множества В, и из того наблюдения, что если применима теорема 9.5.5, то единственный минимум функционала на множестве Г^^^, непрерывно в С°-топологии зависит от выбора точек х и у. Поэтому функционал А достигает своего минимума на множестве Р, а потому и на множестве Г. По определению множества Г этот минимум также является минимумом на Г^. у. Осталось показать, что всякий глобальный минимум функционала А на множестве Г^^ достигается на С^-кривой, так что, будучи критической точкой функционала действия А, она является решением уравнения Эйлера — Лагранжа. Выберем t G [0,1] и такое малое е, что l(c(t — е, t + е)) < Д. Тогда по теореме 9.5.5 ограничение c|^(„^_( + ^j представляет собой параметризацию с постоянной скоростью геодезической c^^^-i^_^ Ф + ^у '^- ^- кривую класса С^. П Теперь вместо всего пространства Г^^ ^ рассмотрим любую его компоненту связности S, т. е. пространство всех непрерывных кусочно С"-гладких кривых, гомотопных (с сохранением концов) некоторой фиксированной кривой. Доказательство теоремы 9.5.8 остается в силе, если в ее формулировке заь менить класс Г ^ на S. Кривую с теперь следует брать из S, и множество Г нужно заменить на Г:= {с G S 11{с) ^ Цсг)}. Аппроксимация геодезическими ломаными локальна, откуда следует, что а G S и а G S. Таким образом, мы установили следующий результат.
378 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ Теорема 9.5.9. Минимум функционала действия А на множестве S достигается на некоторой гладкой кривой, являющейся решением уравнения Эйлера ~ Лагранока. Небольшая модификация этого рассуждения позволяет нам находить замкнутые геодезические. Теорема 9.5.10. Пусть М —компактное риманово многообразие, П — нетривиальный класс эквивалентности относительно свободных гомотопий, содержащий замкнутую кусочно С^ -гладкую кривую из М. Тогда минимум функционала действия А наП достигается, и каждая кривая, на которой он достигается, представляет собой замкнутую геодезическую. Замечание. Условие компактности в формулировке этой теоремы опустить нельзя, как показывает пример псевдосферы (см. рис. 5.4.4). Кривые %, соответствующие горизонтальным отрезкам lmz = c, гомотопически нетривиальны, и 1(%)~^0при с —j-oo. Этот гомотопический класс не содержит ни одной замкнутой геодезической. Доказательство. Заметим, во-первых, что любая замкнутая кривая, длина которой не превосходит удвоенного радиуса инъективности R, стягиваема в точку. Поэтому inf A(c)'^2R^> 0. Пусть а — замкнутая кри- сеП вая из класса П. Как и в доказательстве теоремы 9.5.8, любая такая кривая с G П, что 1{с) ^ 1(сг), может быть приближена более короткой геодезической ломаной а из П, состоящей из не более чем 1(a)/R гладких кусков, параметризованных с постоянной скоростью. Пространство таких кривых компактно в С°-топологии; поэтому А достигает своего минимума на П. Гладкость доказывается точно так же, как в теореме 9.5.8. D Упражнения 9.5.1. Покажите, что для единичного круга с метрикой Пуанкаре д(у, го) = (1 - (х^ + + у ))~ (и, го), где (•, •) — евклидова метрика, экспоненциальное отображение в любой точке является диффеоморфизмом касательного пространства на весь диск. 9.5.2. Докажите, что для любого риманова многообразия радиус инъективности не превосходит половины длины кратчайшей замкнутой геодезической. Приведите пример, показывающий, что эта оценка неулучшаема. 9.5.3. Пусть М — компактное многообразие с нетривиальной фундаментальной группой. Покажите, что для всякой римановой метрики на М найдется нетривиальная замкнутая геодезическая. 9.5.4. Покажите, что ни одно решение уравнения Эйлера — Лагранжа не может оказаться локальным максимумом функционала действия на пространстве гладких кривых с данными концами. 9.5.5. Покажите, что геодезическая удовлетворяет уравнению '''^'^+Ert.(^))§^=0, (9.5.5) dt' * * t И найдите Г^у. Это уравнение называется уравнением геодезической.
§ 9.6. ЛШНИМАЛЬНЫЕ ГЕОДЕЗИЧЕСКИЕ 379 § 9.6. Минимальные геодезические Мы покажем, как вариационные методы помогают находить некоторые специальные орбиты геодезического потока. Определение 9.6.1. Пусть М — полное риманово многообразие. Кривая с: Е —^ М называется минимальной, если цдя некоторого (а тогда и для любого) поднятия с": Е —^ М кривой с на универсальное накрытие М многообразия М и любых двух точек tj, l^eR отрезок с]^ j^| с соответствующим образом измененной параметризацией доставляет минимум функционалу действия на пространстве Г^-^ ),?(*_)• Другими словами, цдя любых двух точек поднятия кривой с отрезок на с, заключенный между этими точками, является кратчайшей среди всех кривых с теми же концами. Поскольку любая натурально параметризованная геодезическая однозначно определяется касательным вектором в любой из ее точек, мы можем говорить о минимальных векторах на единичном касательном расслоении многообразия SM. Множество М всех минимальных векторов по определению инвариантно относительно геодезического потока. Оно также замкнуто, поскольку где Мт := {v G 5М I 3s G [-Т + \/т, -Vt]: с„ минимальна на [s, s + Т]}, и каждое множество Л1„ замкнуто. Предложение 9.6.2. Если многообразие М компактно и связно, а его фундаментальная группа щ (М) бесконечна, то Мф0. Доказательство. Поскольку группа tTj (М) бесконечна, универсальное накрытие М некомпактно. В частности, для любого neN можно найти такие точки х„, у„ G М, что d(x„,y„) ^ Зп. По теореме 9.5.8 существует кратчайшая кривая 7„. соединяющая точки х„ и у„ и параметризованная длиной дуги. Пусть v^e SM — касательный вектор к кривой 7п ^ ^^ середине. Тогда проекция вектора v„ на SM — вектор и„ еЛ1„. Поэтому множество Л1„ непусто. Поскольку оно компактно и Л1„+1 сМ^, мы заключаем, что МфО:>.П Замечание. Вообще говоря, замкнутая геодезическая, на которой достигается минимум функционала действия, рассматриваемого на некотором гомотопическом (относительно свободных гомотопий) классе из теоремы 9.5.10, не обязана быть минимальной. Это свойство, однако, верно в случае ориентируемых поверхностей. Мы вернемся к этому вопросу позднее. Мы показали, что чисто топологическое свойство компактных многообразий гарантирует существование минимальных геодезических относительно любой римановой метрики на этом многообразии. Далее мы выразим эту связь количественно, показав, что при наличии более сильного топологического свойства, а именно экспоненциальной скорости роста фундаментальной группы тгДМ), можно гарантировать определенную динамическую сложность множества минимальных геодезических для любой метрики на М, а именно положительность топологической энтропии геодезического потока, суженного на это множество.
380 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ Определим сначала одну геометрическую характеристику риманова многообразия М. Пусть X — точка универсального накрытия М, В{х^ г) — шар с центром в X радиуса г и vol(B(x, г)) — объем этого шара. Предложение 9.6.3. Существует предел lim - logvol(5(x, г)), причем значение этого предела не зависит от х. Доказательство. Во-первых, поскольку объем Уо1(Б(а:, г)) инвариантен относительно преобразований накрытия (являющихся^13ометриями М) и существует компактная фундаментальная область VcM для М, диаметр которой не превосходит, скажем, числа d, мы немедленно получаем неравенство уо1(Б(х, г)) ^ Уо1(Б(у, г + d)) (9.6.1) для любых X, у £М. Это следует из того факта, что B{x,r)cB{y,r + d) (9.6.2) для X, y€V. Из неравенства (9.6.1) немедленно следует независимость предела от выбора точки, если только этот предел существует. Чтобы доказать существование предела, установим следующее неравенство: уо1(Б(х, ^1 + R^)) < i УоЦВ(х, R^)) уо1(Б(х, R^ + d-^ 1)), где а — минимальный объем (1/2)-шара в М (который может быть меньше, чем соответствующий минимальный объем в М). Если N — максимальное 1-отделенное подмножество Б(х, Ri), то шары радиуса 1/2 с центрами в точках N попарно не пересекаются, так что acard N ^ уо\(В{х, R^)). (9.6.3) Теперь рассмотрим шары радиуса Лг + ^ ^ центрами в точках N. Их объединение покрывает Б(х, iZj + iJg), так что уо1(Б(х, R^ + -R2)) ^ card N sup уо1(Б(х, R^ + 1)). Используя (9.6.3) и (9.6.1), мы получаем уо1(Б(х, ^1 + ^2)') ^ iyol(^(x, R^))yol(B(x, ^2 + 1 + d)). Это завершает доказательство в силу приведенного ниже элементарного утверждения (предложение 9.6.4), уточняющего соображения субаддитивности (см. лемму 3.1.5), которые мы уже неоднократно применяли. D Предложение 9.6.4. Если а^ + „ ^а„ + а^ + ^ь + Ь для всех т, п GN и некоторых к uL, то существует предел lim а„/п еКи{—00}. п—юо Доказательство. Заметим, во-первых, что о.т + к ^ ^т~^ ^к'^ ^ и потому а^^„ < а^ + а„ + 02^ + 2L = fl^^ + «„ + L\ так что мы можем полагать, что к =0. Теперь покажем, что а^/п~^ lim a„/n=: а. В са- п —юо MOM деле, если а>—оо и а^/п < а-]г е, то для всех достаточно больших I £N мы можем написать I = пк + г с некоторым г < п. Но тогда
§ 9.6. МИНИМАЛЬНЫЕ ГЕОДЕЗИЧЕСКИЕ 381 Г-.0О г и потому все члены сходятся к а. Если а=—оо, все рассуждения аналогичны, а Мы будем использовать этот факт неоднократно в гл. И, 13, 18 и 20. Определение 9.6.5. Величина v{M):= lim -logvol(5(x, г)) называется скоростью роста объема на М, Предложение 9.6.6. Для хеМ выполнено равенство v{M)= lim -logcard{7 €:щ(М)\ 'у(х)£В(х, г)}. г—»оо ' Доказательство. Выберем фундаментальную область V таким образом, что X принадлежит внутренности V, а также число d > О так, что В{х, d)cV, и R>0 так, что V С В{х, R). Тогда {B{j{x), d)\j £ € 'Ki(M)} — набор попарно непересекающихся множеств, поэтому card{7 G е щ(М) I 7(х) е Б(х, г)} ^ ggg;^}}. Семейство {ВЫх), R) \ ^(х) е е В(х, г)} является покрытием Б(х, г), т. е. card{7 е щ{М) \ 'у(х) е gB(x rW> ^рЦ^(Д^^)1 п Замечание. В частности, заметим, что v{M) > О тогда и только тогда, когда фундаментальная группа М растет экспоненциально для некоторого (а следовательно, и любого) конечного множества образующих. Теперь мы можем показать, что если фундаментальная группа растет экспоненциально, то множество минимальных геодезических достаточно велико для того, чтобы обеспечить положительную топологическую энтропию геодезического потока. Теорема 9.6.7. Для геодезического потока д^ на SM выполнено неравенство Доказательство. Зафиксируем хG М, числа Т, ^ >О и максимальное (З^Т)-отделенное множество N в кольце Б(х, (\-{-5)Т)\В{х^ Т). Если К^ := sup Уо1(Б(у, 36Т)1 то У€М card i\r ^ -^(уо1(Б(х, Т)) -уо1(Б(х, (1 - 6)Т))) ^ е"^<'-з*)^ для достаточно больших Т. Если 2/ е АГ, то по теореме 9.5.8 существует геодезическая с^ длины 1^ = = d{x, у), параметризованная длиной дуги, соединяющая х и у. Если yj Ф фу^еН и Pi= %(Т), то d(pi, р^) ^ 35Т - 2ST = ST. Поэтому отрезки орбит {%\[о,т\\У^^} являются (Т, ^Г)-отделенными подмножествами М. Теперь покажем, что проекции этих отрезков на М также являются отделенными множествами. Обозначим 7у := 7г о с^. Предположим, что 6Т > г(М), где г{М) — радиус инъективности. Для любых х^у е М и d(x, у) < г{М) выполнено равенство d(n(x), n(y)) = d(x, у). Величина d(Cy^(t), c^(t)) изменяется от нуля
382 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ ПО крайней мере до 2ST при t е [О, Т] и ^i т^ % G iV" и, в частности, она принимает любое значение между г(М)/2 и г{М). Так как ДЛЯ некоторого t £ [О, Т], множество {7Jio.*ily^-^} является (Т, г(М')/2)-отделенным. Заметим, что по построению У(х, i\r, Т) := {сД t) I у G i\r, t G [Vt, Т - VT]} С М^ и что множество S := {^{у/Т) \ у £ N} является {Т — 2у/т, г{М)/2)-от- деленным. Если обозначить через N(T,t,d) мощность максимального (t, d^-отделенного подмножества М^, то мы получим, что N(T^ Т^ г(М)/2) ^ ^ qv(m){i-3s)t 7аким образом, мы нашли множество орбит в М^, которое (Т, г(М')/2)-отделено и содержит по крайней мере е"<^^<'"^*^^ элементов. Пусть m е N таково, что Т - 2\/Т = mt + A: иО^к ^t. Для j е{0,... ..., т-1} рассмотрим множество Р^:= {%{\/Т-[- jt)\jy(y/T)е S}, и пусть Qy — максимальная мощность (t, г(М)/2)-отделенного подмножества Р^ Поскольку множество S является (Т -2л/т, г(М)/2)-отделенным, мы получаем, что Qi • • • Q„_ 1 ^ card S = card N ^ e<^ -zs)v{k)t^ ^gj^ ^^^ дд^ некоторого г G {О,..., m — 1} должно быть выполнено условие для больших т. Поэтому множество М^, а значит, и М, содержит (t, г(М)/2)-отделенное множество мощности не менее чем е"<^><'"*^*^*. Поскольку ^ > О можно брать сколь угодно малым, теорема доказана. D Упражнения 9.6.1. Вычислите скорость роста объема и(М), где М — компактный фактор единичного круга с метрикой Пуанкаре g{v, to) = (1 — (х^ + у )) (v, to), (•, •) —евклидова метрика. 9.6.2. Постройте пример такой римановой метрики на торе Т^, что не все геодезические в ней минимальны. § 9.7. Минимальные геодезические на компактных поверхностях Рассмотрим теперь компактные ориентируемые поверхности с бесконечной фундаментальной группой, т. е. сферы с д'^1 ручками. Читатель может найти описание фундаментальных групп и универсальных накрытий таких поверхностей в § 5 дополнения. Мы рассмотрим свободные гомотопические классы замкнутых геодезических. Полезно заметить, что понятие степени такого гомотопического класса корректно определено. Следующее утверждение представляет собой аналог предложения 9.3.14 для геодезических потоков на поверхностях.
§ 9.7. МИНИМАЛЬНЫЕ ГЕОДЕЗИЧЕСКИЕ НА КОМПАКТНЫХ ПОВЕРХНОСТЯХ 383 Теорема 9.7.1. Пусть (М, д) — компактная ориентируемая поверхность с бесконечной фундаментальной группой и римановой метрикой д, и пусть а — некоторый свободный гомотопический класс замкнутых кривых на М и m€iN. Тогда кратчайшая кривая из а™ имеет вид с™ := cjc-jjc, где с ест. т раз Доказательство. Пусть с — такая^геодезическая. Рассмотрим ее поднятие с на универсальное накрытие М поверхности М. Поверхность М гомеоморфна евклидовой плоскости Е^. Поскольку с — замкнутая геодезическая, кривая с' инвариантна относительно действия некоторого эле-^ мента 7™ € щ(М) как преобразование накрытия (т. е. 'у"* ос совпадает с с с точностью до сохраняющей ориентацию замены параметризации). Если эта кривая инвариантна относительно 7» то все доказано. В противном случае кривые jо^и с'различны. По теореме Жордана об односвязной кривой с разбивает пространство Е^ на две открытых компоненты С^ и С_. Поэтому образ 'уос' либо пересекает с", либо содержится в одной из компонент, скажем, в С^. Поскольку М — ориентируемая поверхность, второй случай означает, что 'уС^С С_^ и потому 7'"(с) С С^. Получаем противоречие. Поэтому кривая 7 ° с пересекает с. Рассмотрим точку х из этого пересечения. Пересечение трансверсально, поскольку кривые 7 о с'и Заявляются геодезическими. Точка х':= j"^x также является точкой трансверсального пересечения. Проведем две новые кривые, соединяющие X и х', следующим образом. Пусть с+ —кривая, полученная из кривой с заменой каждого отрезка с между двумя точками пересечения соответствующим отрезком 7™с', если последний содержится в С^, а с_ —кривая, состоящая из оставшихся отрезков объединения с'и 7™ с". Кривые c_^. и с_ являются 7™-инвариантными и потому представляют собой поднятия замкнутых кривых из того же гомотопического класса (относительно свободных гомотопий), к которому принадлежит с, и сумма длин их проекций равна удвоенной длине с. Но обе проекции — геодезические ломаные, не являющиеся геодезическими, и, значит, ни одна из них не минимальна среди кривых из этого гомотопического класса. Поэтому кривая s не минимальна, что противоречит нашему предположению. D Замечание. Отметим сходство между этим доказательством и использованием следствия 9.3.13 в доказательстве предложения 9.3.14. Теорема 9.7.2. Кратчайшая геодезическая в любом нетривиальном гомотопическом классе относительно свободных гомотопий S минимальна. Доказательство. Пусть с — такая^ геодезическая. Рассмотрим ее поднятие с на универсальное накрытие М многообразия М. Пусть Т — ее период. Если f - t < Г, то с!,^^^.,— кратчайшая кривая, соединяющая Ць) и c(t'), так как в противном случае мы могли бы уко1)отить кривую с, вставляя проекцию более короткой кривой, соединяющей эти точки. По теореме 9.7.1 с" — кратчайшая геодезическая в ее гомотопическом классе, так что в тексте нашего доказательства мы можем заменить Т на пТ. Поэтому с минимизирует длину между любой парой своих точек. О Естественно задать вопрос о скорости роста минимальных геодезических как функции длины. Положение дел здесь существенно различно для тора
384 Часть 2. Гл. 9. ВАРИАЦИОННЫЕ МЕТОДЫ В ДИНАМИКЕ И для поверхностей высшего рода. Для тора нижняя граница задается скоростью роста для плоской метрики, для которой классы минимальных геодезических находятся во взаимно однозначном соответствии с ненулевыми элементами целочисленной решетки 1}, и потому скорость роста является квадратичной функцией длины (с множителем, зависящим от выбора плоской метрики). Произвольная метрика может рассматриваться как проекция периодической метрики на Е^. В силу компактности тора эта метрика ограничена и сверху, и снизу произведением евклидовой метрики на некоторые множители, так что индуцированное расстояние равномерно эквивалентно расстоянию, индуцируемому евклидовой метрикой (т. е. отношение расстояний заключено между парой положительных чисел). Поскольку длина кратчайшей замкнутой геодезической в гомотопическом классе, соответствующем к £ 1}, равна min d(p,p + к), для любой метрики скорость роста числа минимальных геодезических по меньшей мере квадратична. Для поверхностей высшего рода роль плоской метрики, как метрики для сравнения в случае тора, играет метрика постоянной отрицательной кривизны. Такие метрики рассматривались в § 5.4. Позднее мы покажем, что для любой такой метрики число замкнутых геодезических (которые в этом случае минимальны) растет экспоненциально с очень точной асимптотикой (см. теорему 18.5.7 и теорему 20.6.9 [*]). Универсальное накрытие может рассматриваться как диск Пуанкаре; преобразования накрытия суть дробно- линейные преобразования. Метрика на М поднимается до метрики на М, инвариантной относительно преобразований накрытия. Поскольку многообразие М компактно, такая метрика определяется своим ограничением на компактную фундаментальную область. Так как преобразования накрытия сохраняют и метрику Пуанкаре, и данную метрику, они равномерно эквивалентны, так что отношение индуцированных расстояний ограничено константами С и 1/С. Это означает, что количество N(T) минимальных геодезических, длина которых не превосходит Т, удовлетворяет неравенству N{T)'^ Nq(T/С), где -/V— соответствующее число для метрики постоянной кривизны. Поэтому N(t) ограничено снизу некоторой экспонентой. Отметим различие в заключениях. Так как для функции f{T)= Т^ выполнено равенство f(cT) = c^f(T), квадратичная нижняя оценка инвариантна в случае тора. Для экспоненциальной функции /(Т) = е''^ имеем f(cT) = е"^^, так что сохраняется лишь экспоненциальный вид оценки, но не сам показатель экспоненты [^]. Упражнения 9.7.1. Опишите метрику на листе Мёбиуса, обладающую тем свойством, что кратчайшая геодезическая в гомотопическом классе П образующей 7i фундаментальной группы и кратчайшая геодезическая в П^ различны. 9.7.2. Пусть М — компактная неориентируемая поверхность и П — свободный гомотопический класс. Покажите, что кратчайшая замкнутая геодезическая в П^ глобально минимальна. 9.7.3*. Опишите такую метрику на трехмерном торе Т^, что для некоторого свободного гомотопического класса найдется кратчайшая геодезическая, не являющаяся глобально минимальной, 9.7.4. Пусть М — компактный фактор единичного круга с метрикой Пуанкаре g{v, ш) = — (1 — {х -\- y^))~'^(vj w), где (■, ■) — евклидова метрика. Покажите, что М= SM, т. е. все геодезические минимальны.
Часть 3 ДИНАМИЧЕСКИЕ СИСТЕМЫ МАЛЫХ РАЗМЕРНОСТЕЙ ГЛАВА 10 Введение: Что такое динамика малых размерностей 10.0 а. Наводящие соображения. В гл. 2, 3 и 4 мы описали два главных направления в исследовании динамических систем. Цель первого направления — классификация различных классов систем с точностью до гладкой сопряженности, топологической сопряженности либо полусопряженности с хорошими свойствами и, в случае потоков, орбитальной эквивалентности. Главными инструментами для этого подхода являются нахождение моделей и описание модулей. Второе направление имеет дело с описанием (или вычислением) основных асимптотических инвариантов различных классов систем, а также систем из конкретных примеров. Среди этих инвариантов можно указать на скорость роста числа периодических орбит, топологическую энтропию, гомотопические и гомологические свойства, свойства воз вращаем ости и статистические свойства, выражающиеся через различные свойства инвариантных мер. Для динамических систем общего вида в обоих направлениях можно получить лишь некоторые частные результаты. Материал второй части книги в некотором очень общем смысле объединяет тема отыскания и исследования элементов структуры орбит, дающих информацию, полезную для работы в обоих направлениях, прежде всего во втором. Точнее, мы выяснили, что такие фундаментальные свойства систем, как гиперболичность (см. гл. 6), трансверсальность (гл. 7), глобальная топологическая структура (гл. 8), а также вариационные свойства (гл. 9) гарантируют (при определенных условиях) наличие достаточно богатого и «интересного» асимптотического поведения. Однако существуют два больших класса систем, для которых эта программа, сформулированная и примененная к примерам в гл. 2, 3 и 4, может быть продвинута существенно дальше. Это динамические системы с фазовыми пространствами малых размерностей, анализу которых посвящена эта часть книги, и динамические системы с гиперболической структурой, которые мы начали обсуждать в гл. 6 и подвергнем более глубокому исследованию в части 4. Когда мы говорим о динамических системах малой размерности, или, точнее говоря, о динамических системах с фазовым пространством малой размерности, мы имеем в виду простую и традиционную концепцию евклидовой размерности связного многообразия. Другими словами, мы полагаем, что 13 А. Б. Каток. Б. Хасселблат
386 Часть 3. Гл. Ш. ВВЕДЕНИЕ: ЧТО ТАКОЕ ДИНАМИКА МАЛЫХ РАЗМЕРНОСТЕЙ фазовое пространство метризуемо, а окрестность каждой его точки гомео- морфна евклидову пространству данной размерности п; это число п и называется размерностью нашего пространства. Мы не касаемся здесь никаких более общих топологических определений размерности, согласно которым, например, канторово множество имеет нулевую размерность, а также различных метрических определений размерности, таких как размерность по Хаусдорфу, которая, в частности, принимает произвольные значения между нулем и бесконечностью (включая их) на различных метрических пространствах, гомеоморфных тому же самому канторовому множеству. Прежде чем перейти к обсуждению точного смысла слова <малая» размерность в нашем контексте, перечислим некоторые причины, по которым мы выделяем динамические системы, действующие на многообразиях малой размерности, в качестве отдельной темы для исследования. Во-первых, что, впрочем, не так важно, динамические системы малой размерности выражаются аналитически через функции малого количества переменных и могут быть представлены наглядно, т. е. графически, с помощью таких обычных геометрических объектов, как кривые и поверхности. Формулы, уравнения и графики, входящие в описание таких систем, конечно, делают эту область динамики а priori простейшей с точки зрения интуитивного восприятия. Во-вторых, очень часто ситуации малых размерностей служат превосходными модельными случаями и ^наглядными пособиями» для важных общих динамических явлений. Иногда мы сталкиваемся с этими явлениями в системах малой размерности в ясной форме, очищенной от технических осложнений (часто громоздких). Это дает возможность понять и показать сущность исследуемых явлений наиболее эффективным способом. В качестве примеров можно привести использование растягивающих отображений окружности, подков на плоскости и гиперболических автоморфизмов двумерных торов для демонстрации различных аспектов гиперболического поведения в динамике, которое мы начали исследовать систематически в гл. 6 и которое составляет тему части 4 этой книги. Другой пример — понятия степени и индекса, изучаемые в гл. 8. Степень отображения окружности, введенная в § 2.4, и индекс неподвижной точки двумерного многообразия — это хорошие наглядные модели более сложного общего случая. В заключение отметим, что имеется также более умозрительная причина. Так как физический мир является трехмерным (или по крайней мере выглядит, как трехмерный), элементы геометрической интуиции, входящие в концепцию многомерного пространства, имеют в своей основе аналоги малой размерности. Это значит, что строго определенные объекты высокой размерности могут обладать (и в самом деле обладают) некоторыми свойствами, которых эта интуиция никак не ожидает. Поскольку же дифференциальная и (в меньшей степени) топологическая динамика не мыслимы без использования этой самой интуиции, имеет смысл подвергать тщательному анализу ситуации, в которых она в большей степени пригодна, пытаясь отделить специфически малоразмерные понятия и явления от явлений, имеющих более универсальное значение. 10.0 б. Теорема о промежуточном значении и конформность. Переходя на более технический уровень обсуждения, следует подчеркнуть два фундаментальных математических свойства, одно топологическое, а другое дифференциальное, отличающие одномерные многообразия от многообразий высших размерностей.
Часть 3. Гл. 10. ВВЕДЕНИЕ: ЧТО ТАКОЕ ДИНАМИКА МАЛЫХ РАЗМЕРНОСТЕЙ 387 Топологическое свойство состоит в том, что в одномерном пространстве малая окрестность точки делится этой точкой на две компоненты связности, в то время как для многообразий высших размерностей окрестность после выкалывания точки остается связной. Это свойство очень тесно связано с общеизвестной теоремой о промежуточном значении: каждая непрерывная функция одной переменной, определенная на отрезке, принимает все значения между значениями на концах. Примеры применения теоремы о промежуточном значении к вопросам динамики встречались нам в предложении 1.1.6, лемме 2.4.7 и предложении 8.2.4. Дифференциальное свойство состоит в том, что любая непостоямная линейная функция одной переменной конформна: если Ах = ах -\- Ь, где а,Ь, X — вещественные числа и а ^^ О, то для любых ж, у, z выполнено равенство Az-AxW Wz-'x,, (10.0.1) Ау — Ах\ у—х Для линейных отображений А: R" —> R" при п ^ 2 равенство (10.0.1) верно, лишь если А = \Ц где А^^О — скаляр и U ортогонально. Назовем такие линейные отображения конформными. Соответственно мы будем называть дифференцируемое отображение f: М—^М риманова многообразия в себя конформным, если его дифференциал в каждой точке р ^М представляет собой конформное линейное отображение евклидова пространства 2^М в Tjrp)M. Прототип соображения, использующего конформность одномерных гладких отображений, появился в оценке ограниченности искажения в доказательстве леммы 5.1.18. Таким образом, каждое невырожденное дифференцируемое отображение одномерного многообразия конформно. В случае размерности два рассмотрим сферу 5^ как сферу Римана, т. е. как комплексную плоскость С с одной добавленной бесконечно удаленной точкой. Тогда любая голоморфная функция /: 5^ —> 5^, т. е. любая рациональная функция комплексной переменной Z, является конформным отображением, хотя, быть может, и с критическими точками. В этом частном случае, однако, понятие конформности может быть перенесено и на критические точки. Конечно, весь комплексный анализ опирается на факт конформности голоморфных функций; конформность здесь приводит к значительно большей жесткости, чем в одномерном действительном случае. Применимость высокоразвитых инструментальных средств анализа функций одной комплексной переменной делает комплексную динамику весьма интересной темой. В случае размерности выше чем два множество конформных отображений очень невелико, что отражает еще большую жесткость конформной структуры. В то время как это обстоятельство имеет далеко идущие геометрические следствия (жесткость по Мостову и т. д.), многомерные конформные структуры играют весьма ограниченную роль в традиционной теории динамических систем. В последующих главах мы покажем, как многочисленные следствия этих двух фундаментальных одномерных свойств — теоремы о промежуточном значении и конформности одномерных дифференцируемых отображений —- возникают в процессе анализа динамических систем малых размерностей. Следует обратить внимание на то, что использование этих явлений не ограничивается системами с одномерными фазовыми пространствами и голоморфными отображениями. Иногда, когда размерность фазового пространства равна двум или трем, важные инвариантные структуры, связанные
388 Часть 3. Гл. 10. ВВЕДЕНИЕ: ЧТО ТАКОЕ ДИНАМИКА МАЛЫХ РАЗМЕРНОСТЕЙ С системой (как, например, устойчивые и неустойчивые многообразия гиперболических периодических точек; см. п. 6.2 а), одномерны, так что эти фундаментальные факты применимы к данным объектам. Ьолее того, некоторые орбиты систем большей размерности ведут себя так, как будто они произошли из одномерных ситуаций (см. гл. 13, множества Обри — Мазера для закручивающих отображений). В системе с непрерывным временем локальное поведение вдоль направления потока, или направления ^времени», тривиально, по крайней мере вдали от неподвижных точек потока (ср. с § 3 введения). Таким образом, мы можем ожидать, что асимптотическое поведение потоков в (п-\- 1)-мерных фазовых пространствах должно быть лишь немного более сложным, чем поведение динамических систем с дискретным временем в п-мерных пространствах. С другой стороны, необратимость создает дополнительную сложность поведения орбит, поскольку число прообразов данной точки может расти с ростом числа итераций. Кроме того, конформность для общих необратимых систем может нарушаться, даже в случае размерности один, так что мы можем ожидать, что необратимые динамические системы могут вести себя подобно некоторым обратимым системам высших размерностей; неписанное правило для систем с дискретным временем состоит в том, что асимптотическое поведение необратимых систем размерности п подобно поведению обратимых систем размерности на единицу выше, но несколько менее сложно. 10.0 в. Очень малоразмерные и малоразмерные системы. Мы будем различать два типа явлений, связанных с малой размерностью. За отсутствием лучших терминов мы будем называть их кочень малоразмерными» и просто ^малоразмерными». В очень малоразмерной ситуации могут возникать лишь относительно простые типы возвращения и асимптотической структуры орбит, например, топологическая энтропия таких систем всегда равна нулю. Примеры, рассмотренные в §§ 1.1-1.6, типичны для этого класса явлений, хотя фазовое пространство в этих примерах не всегда было малой размерности. С другой стороны, некоторые явления, характерные для этих примеров, например тот факт, что из топологической транзитивности следует минимальность и вполне эргодичность (см, предложения 1.4.1, 4.2.2, 4,2.3), не имеют места для всех очень малоразмерных систем, где может возникнуть определенная промежуточная степень сложности, например конечность числа различных замыканий орбит или числа эргодических мер, носитель которых не совпадает с периодической орбитой (см. теоремы 14.6.3 и 14.7.6). В просто ^малоразмерной» ситуации могут наблюдаться явления, характерные для общих динамических систем, например экспоненциальный рост числа периодических точек, положительность топологической энтропии (определение 3.1.3), нетривиальные гиперболические множества (определение 6.4.2) и присутствие большого количества инвариантных мер. Гладкие примеры из нашей второй группы, т, е. растягивающие отображения из § 1.7, квадратичные отображения и двумерные подковы из § 2.5 и rnnepj- болические автоморфизмы двумерного тора (§ 1.8) — представители этой категории. Имеются, однако, два различия между системами малых размерностей и ситуацией в динамике в целом. В первом случае некоторые сложные динамические явления появляются в упрощенной форме; сравните, например, конструкцию марковского разбиения на параллелограммы для гиперболического автоморфизма двумерного тора, описанную в § 2.5, с об-
ДИНАМИКА МАЛЫХ щей конструкцией марковского разбиения для гиперболических систем из теоремы 18.7.3. Кроме того, определенные явления в ситуациях малых размерностей, в отличие от общего случая, допускают исчерпывающую классификацию (например, теорема Шарковского 15.3.2 описывает всевозможные множества периодов отображении отрезка) либо, по крайней мере, хорошее описание, примерами чего являются связь между топологической энтропией и периодическими орбитами одномерных отображений (следствие 15.2.2) и диффеоморфизмов поверхностей (следствие Д 5.11) и описание инвариантных мер отображений отрезка с нулевой топологической энтропией (теорема 15.4.2). 10.0 г. Разделы динамики малой размерности* В следующих двух главах мы начнем наш анализ с описания классических очень малоразмерных систем, а именно обратимых систем с дискретным временем на окружности. Затем в гл. 14 мы рассмотрим несколько более сложный, но все еще очень малоразмерный случай, а именно потоки на компактных поверхностях и некоторые обратимые кусочно непрерывные и кусочно гладкие отображения отрезка и окружности, которые появляются как сечения таких потоков. В гл. 13 мы продолжим начатый в § 9.3 анализ специального класса систем с двумерным фазовым пространством — закручивающих отображений (определение 9.3.1) и найдем их орбиты, демонстрирующие по сути дела одномерное поведение. Руководящей идеей будет структурная теория гомеоморфизмов окружности из гл. 11, которая не была еще доступна в гл. 9. Подводя итог, мы включаем в список очень малоразмерных явлений виды поведения, демонстрируемые орбитами обратимых непрерывных и кусочно непрерывных отображений одномерных многообразий, потоками на двумерных многообразиях и теми особыми орбитами других систем, которые ведут себя подобным образом. В очень малоразмерной ситуации нередко возможна законченная топологическая классификация либо весьма детальное описание структуры орбит (см. теоремы 11.2.7, 12.1.1, 14.1.1, 14.3.1, 14.6.3, 14.7.4 и § 14.2). Следует также подчеркнуть различие между топологической и гладкой ситуациями. Осложнения, появляющиеся при рассмотрении топологического случая, часто просто невозможны для гладких систем. Малоразмерные системы включают: 1) необратимые отображения в случае размерности одни (гл. 15, 16); 2) необратимые конформные отображения в случае комплексной размерности один, т. е. полиномиальные и рациональные отображения сферы Ри- мана; 3) диффеоморфизмы компактных поверхностей; 4) гладкие потоки на компактных трехмерных многообразиях. Имеются также полулокальные аналоги этих случаев. Например, аналог второго пункта нашего списка должен включать анализ инвариантных множеств нерациональных голоморфных отображений. В этой части книги подробно обсуждается только первый класс из этого списка. Мы коснемся динамики рациональных отображений 5^ в § 17.8 и увидим, что они порождают новые топологические типы гиперболических множеств. Последние два случая появились и будут продолжать появляться в ходе нашего анализа в качестве характерных примеров и иллюстраций для определенных явлений (§§ 17.2, 17.5). Основные результаты в этих областях включают использование неравномерной гиперболической теории, теории Нильсена — Терстона и других технических средств, которые не рассматриваются
390 Часть 3. Гл. 10. ВВЕДЕНИЕ: ЧТО ТАКОЕ ДИНАМИКА МАЛЫХ РАЗМЕРНОСТЕЙ в основном тексте этой книги. Некоторые из этих результатов приведены в добавлении; см., в частности, теорему Д 5.9, следствие Д 5.11 и следствие Д 5.13. Упражнения 10.1.1-10.1.4 иллюстрируют применение теоремы о промежуточном значении в исследовании динамики одномерных отображений. В них мы предварительно наметим некоторые из идей, которые будут разрабатываться в гл. 15. Упражнения _ 10.0.1 Пусть / — отрезок вКи/: /—t-R — такое непрерывное отображение, что замыкание / С /(/). Тогда / имеет неподвижную точку. 10.0.2 Предположим, что отображение /;/-»•» непрерывно и f^(x) и f^(x) определены для некоторой точки х отрезка /, причем f^{x) <х < f(x) < f^(x). Докажите, что найдется такая точка y€l, что f{y) фу\\ f (у) — У- 10.0.3 Предположим, что отображение /: [О, I]—t-R непрерывно и таково, что /(0) ^ О, /(1)^0 и j(t) > I для некоторого t. Докажите, что Р„(/) ^ 2". Докажите, кроме того, что для каждого п ^ I существует периодическая точка, минимальный положительный период которой равен п. 10.0.4 При тех же предположениях докажите, что \ao(f\h) ^ log2, где Л?= П /"(^) — ^ п = 0 множество точек, для которых все итерации отображения определены. Следующая задача содержит другой пример оценки ограниченности искажения, подобной оценке из леммы 5.1.18. 10.0.5 Предположим, что /: /—t-R или /: 5* —»• 5' —С ^-отображение, J — такой отрезок, что значение /"(ж) определено и (/')"(а;) ,^0 для всех а; G 7. Рассмотрим отрезки /'(7), t =0,..., п— 1, и обозначим через N максимальную кратность, с которой любая точка покрывается этой системой отрезков. Докажите что для любых x^y€J выполнено неравенство где К — константа, зависящая от /, но не зависящая от ж, у и п. Два упражнения, завершающие главу, показывают, что обратимые конформные отображения сферы Римана имеют очень простую структуру. 10.0.6 Рассмотрим сферу 5^ как сферу Римана, т. е. как комплексную плоскость С с добавленной единственной бесконечно удаленной точкой оо и системой координат вида w~\/z в окрестности бесконечности, zGC. Стандартная риманова метрика на S^ имеет вид ds^ = {dx^ + dy^)/(x^ + 3^)^, где z = а: + iy. Докажите что каждое конформное отображение /: 5^ —*■ S^ класса С* без критических точек, т. е. такое, что дифференциал Df нигде не обращается в нуль, является дробно-линейным или антидробно-линейным преобразованием аг + 6 az + 6 г>-*• ■ J или zi-> -Tj> где о, 6, с, d G С и ad — bc^O. 10.0.7 Докажите утверждение предыдущего упражнения, заменяя предположение о том, что D/ ^ О в каждой точке, предположением о том, что в окрестности любой точки отображение / инъективно.
ГЛАВА 11 Гомеоморфизмы окружности Мы уже встречались с гомеоморфизмами окружности в предыдущих главах. Повороты (см. § 1.3) представляют собой достаточно простой пример, который можно систематически исследовать. Пуанкаре поставил вопрос о том, при каких условиях данный гомеоморфизм или диффеоморфизм сопряжен повороту. Оказывается, что по крайней мере для достаточно гладких отображений единственный модуль — число вращения — полностью описывает топологический класс, если он является иррациональным, и трудности, возникающие для рациональных значений, легко могут быть описаны. Даже в топологическом случае иррациональность числа вращения гарантирует полусопряженность с соответствующим поворотом. § 11.1. Число вращения Мы уже неоднократно использовали поднятие на универсальное накрывающее, например в §§ 2.4, 2.6, 8.2, 9.3. Рассмотрим естественную проекцию 7г: М —> 5* = R/Z, х}-*- X -\-Z, С ее помощью поднятие гомеоморфизма /: 5' —> 5* на универсальное накрывающее можно определить как гомеоморфизм F: R —> R со свойством /07Г=7Г0^: (11.1.1) Такое поднятие F определено однозначно с точностью до постоямного целочисленного слагаемого. Мы будем называть величину [х] := max{fc € Z | fc ^ ^ х} целой частью вещественного числа. Предложение 11.1.1. Пусть f: 5' —► 5' —сохраняющий ориентацию гомеоморфизм м i*": R —> R—поднятие f. Тогда предел r(F):== Пт l{F-(x)~'x) п -»оо "■ суи^ествует для всех а; 6 R. Величина r{F) не зависит от х и определена корректно и с точностью до целого числа, т, е, если i*J м i^ — поднятия /, то r(i*J) — r(F2) = i*] — Д € Z. Если у гомеоморфизма f есть периодическая точка, то число r(F) рационально. Это утверждение служит основанием для следующего определения. Определение 11.1.2. Величина r(f):= Tr{r{F)) называется числом вращения отображения /.
392 Часть 3. Гл. II. ГОМЕОМОРФИЗМЫ ОКРУЖНОСТИ Доказательство. 1. Независимость от х. Так как / — сохраняющий ориентацию гомеоморфизм, deg(/)=l, т. е F(х-\- \) = F(х)-\- \ и для х,уе € [0,1) мы имеем \F(y) — F(x)\ < 1. Следовательно, 1 ^«, ч 1 п 1 . . ..2 F'^ix) -х\- ^{Р'Чу) -у\ < j^ilF'^x) - Р'Чу)] + \х- у\) ^ п и числа вращения для точек х и у совпадают. 2. Существование, Выберем х eR и положим х^ = F'^{x), а^:= х^ — х, к := [а„]. Тогда = {F-(x + k)-(x + k)) + {x^-x) + (F-{xJ~F'^(x-\-k))^(x^^x^k)^ ^a^ + ^n + l, так как F"*(y)—F"*(z)^l при y—z^l и а;„ —a;-fc=a„-[a„]^0. Поскольку aJn = (\/n)j:{F^^'{x)^FHx))={l/n)j:{F{x,)^x,)^mlnF{y)--y^ i=o «=0 o^y^i величины а„/п ограничены снизу, и, таким образом, предложение 9.6.4 показывает, что предел последовательности а^/п существует. Заметим также, что r(F -\-к) = r{F) + к для fc € Z. Если у гомеоморфизма / есть g-периодическая точка х, то, поднимая точку X на универсальное накрытие, для некоторого _р € Z мы получим F^(x) = х-\-р. Таким образом, для тп € N мы имеем т-\ так что r(F) = p/q. П Покажем теперь, что число вращения инвариантно относительно сохраняющих ориентацию топологических сопряжений. Пр едложение 11.1.3. Если h: 5* —>5' —сохраняющий ориентацию гомеоморфизм, то r{h~^}h) = r{f). Доказательство. Пусть F и Н — поднятия гомеоморфизмов / и k соответственно, т. е. ttF = fir и тгН = kir. Тогда тгЯ"' = k'^hirH'^ = = к'^тгНН'^ = k'^TT, так что Я"' — подняггие /i~'. Аналогично H'^FH — поднятие отображения h'^fh, поскольку тгН'^FH = k~^irFH = k~^/тгН = = h~^fhTr. Предположим, что поднятие Н таково, что i?(0)€[0,1). Мы должны оценить величину H-'F'^Hix) - F'^{x)\ = \(H-'FHy{x) - F'4x)\. 1. Для xe[0,1) мы имеем О- 1 < Н{х) — х <Н(х) <Н(1) <2, и в силу периодичности \Н{х)-х\ <2 ддя xeR. Подобным же образом мы получаем Н-\х) -х\<2 для а; € R.
§11.1. число ВРАЩЕНИЯ 393 2. Если |у - а;| < 2, то |F"(y) - i^"(a;)| < 3, поскольку \[у] - [х]\ ^ 2 и, таким образом, -^^[у]-[х]-1= i^"([y]) - F'^ilx] +1X F^y) - Г'Чх) < < F-([y] + 1) - F"([aj]) = [у] + 1 - [x] ^ 3. Из этих двух оценок следует, что Н-^Г'^Н(х)-РЦх)\ < |Я-^i^"Я(a;)-^^"Я(a;)| + |i^"Я(a;)-i^"(a;)| <2-ьЗ, так что \(Н~^FH)'^(x) — F'*(x)\/n <5/n, откуда в силу (11.1.1) получаем г(Я-*^Я) = г(^^). а Мы показали, что из существования периодической точки следует рациональность числа вращения. Докажем обратное утверждение. Предложение 11.1.4. Пусть f — сохраняющий ориентацию гомеоморфизм окружности 5'. Число враи^ения r{f) рационально тогда и только тогда, когда у f есть периодическая точка. Доказательство. Пусть г (/) = p/q е Q. По определению числа вращения г мы имеем г{Г)= lim ji{{F'^r{x)-x) = m lim j~^{F"^(x)-x) = mr(f) (mod 1), так что r(/*) = 0, поскольку число вращения определяется с точностью до целого числа. Таким образом, достаточно показать, что если r(f) = О, то у / есть неподвижная точка. Предположим, что у / нет неподвижных точек, и рассмотрим такое поднятие F нашего отображения, что F(0) е [0,1). Тогда F{x) — x е R\Z для всех x£R, поскольку из того, что F(x)—xeZ, следует, что 7г(а;) — неподвижная точка гомеоморфизма /. Следовательно, по теореме о промежуточном значении О < F(x) — х<1. Так как отображение i*" — Id непрерывно на отрезке [0,1], оно достигает минимума и максимума и, следовательно, существует такое 5 >0, что 0<5 <F{x)-x<l-5 <1. В силу периодичности F—ld эти оценки сохраняются для всех а; € R. В частности, мы можем положить x=^F*{0) и, просуммировав эти оценки от г =0 до п — 1, получим п5 <i^"(0)<(l-5)n или „„,«. ^ п ^ Переходя к пределу при п —>оо, мы получаем, что г{})фО, и тем самым утверждение доказано от противного. П Предложение 11.1.5. Пусть f: S^ —у S^ —сохраняюи^ий ориентацию гомеоморфизм с рациональным числом враи^ения. Тогда периоды всех его периодических орбит равны. Доказательство. Если r(f) = p/q, где р, g€Z — взаимно простые числа, то мы должны показать, что для любой периодической точки ^(х) существует такое поднятие F отображения /, что F^{x) = x-{-p, Если точка
394 Часть 3. Гл. II. ГОМЕОМОРФИЗМЫ ОКРУЖНОСТИ 7г(а;) периодическая и F — такое поднятие, то F'^(x) = x-\'S для некоторых г, S € Z и Мы можем выбрать JP таким, что fc =0, так что s = mp и г = mg. Если F^(x) — р> X, то в силу монотонности F^^x) -2р = FЦFЦx) -р)-р> F^x) -р>х и, используя индукцию, мы получаем, что F''(x) — s=F'^{x) — mp > х, что противоречит нашему предположению. Таким образом, F"*^{x) — тр ^ ж, и аналогично F^{x) — тр ^ ж, как и требуется. П Несколько последующих результатов выражают зависимость числа вращения от отображения при его деформации. Приведенное ниже предложение в комбинации с предложением 11.1.3 показывает, что число вращения является С°-модулем гомеоморфизмов окружности (см, определение 2.1.2). Предложение 11.1.6. Величина г(-) непрерывна в С^-топологии. Доказательство. Положим г(/) = г, и пусть числа р' /q'-^ p/q € Q таковы, что р'/q' < г <p/q. Выберем поднятие F отображения / таким образом, что —1 <i*"'(a;) —ж—р^О для некоторого жбМ. Тогда F^(x)< х-\-р для всех а; € R, поскольку в противном случае F^{x) = х -\-р для некоторого xeR и г =p/q. Так как функция F^ — Id периодична и непрерывна, она достигает своего максимума. Таким образом, существует такое 5 >0, что F^{x) <х-\~р- 5 для всех xeR, Это озирает, что любое достаточно малое в равномерной топологии возмущение F отображения F удовлетворяет неравенству F^x) <х+р для всех xeR. Следовательно, r(f) < p/q, где / — проекция F на окружность. Аналогичные соображения, применяемые к р'/q', завершают доказательство. П Определение числа вращения показывает, что оно монотонно в следующем смысле: если F^ > F2, то r{F^) ^ r{F2). Это объясняет следующую терминологию. Определение 11.1.7. Определим отношение порядка -< на совокупности сохраняющих ориентацию гомеоморфизмов окружности следующим образом: если гомеоморфизмы }^. S^ —^ S^ и f^: 5' —> 5' никогда не являются антиподальными, рассмотрим гомотопию вдоль отрезков, переводящую /^ в /j. Другими словами, если рассматривать 5' как единичную окружность в R^, положим t = и. *^ . ;,—rvfii• Поднятие этой гомотопии на R порож- llvo + U ~ 'ЩИ дает ^совместимые» подняггия i^ и i*] отображений /^ и f^ соответственно. Мы будем говорить, что /о -</р если Fq{x) < F^{x) для всех xeR. Заметим, что отношение <ч» не транзитивно. Из определения числа вращения немедленно следует такое предложение. Предложение 11.1.8. Величина г(-) монотонна: если f^ -</2, то r(/i) ^ т(/2), если только представители для вычисления г выбираются как совместимые поднятия. Замечание. В частности, если {/^} — семейство таких сохраняющих ориентацию гомеоморфизмов окружности, что функция /Дж) является возрастающей по t для всех жбМ, то r(f^) — неубывающая функция t.
§11.1. число ВРАЩЕНИЯ 395 п—»оо "9 п-^оо "9 Если ЧИСЛО вращения принимает иррациональное значение, то, как показывает следующее предложение, оно оказывается строго возрастающей величиной. Предложение 11.1.9. Если /i -</2 и r(/i)€R\Q, mor(f^)< r(}^). Доказательство. Если i*I и i^ — такие поднятия, как в определении отношения <-<», то i^(a;) — F^{x) > О для всех а; б R, и в силу непрерывности и периодичности F2{x) — F^{x) > 8 для некоторого 5 > О и всех а; 6 К. Выберем p/q € Q так, что p/q — S/q < r(F^) < p/q. Тогда существует такое а^€R, что F^^xo)-Хо>р-5 (иначе г(^;) = lim ^^^^^~^ ^ lim ^Ы^^ = p/q— 5/q), Поскольку > F,{Fr4^))+ S =F,4xo)-\- 5 > хо+р, либо F2^(x) > x-\~p для всех xeR, либо ^^2*^(^1) = aij-\-p для некоторого числа ail € R. В любом случае r{F^) <p/q ^ r(F2). П Таким образом, в силу предложения 11.1.9 иррациональное значение числа вращения неустойчиво. Однако для рациональных значений числа вращения ситуация меняется. Предложение 11.1.10. Пусть f: S^—^ S^ — сохраняющий ориентацию гомеоморфизм с рациональным значением числа вращения r(f) = p/q, имеющий хотя бы одну периодическую точку. Тогда либо все такие достаточно малые возмущения fj что f <f, либо все такие достаточно малые возмущения /, что / ^/, обладают тем же числом вращения p/q. Доказательство. Поскольку у гомеоморфизма / есть непериодические точки, функция F*^ - Id —р не обращается тождественно в нуль ни для какого поднятия F отображения /. (По предположению эта функция обязана иметь нули.) Если существует такое число_а; € R, что F'^(x) — х —р > О, то для любого достаточно_^алого возмущения / -< / соответствующее ему поднятие F таково, что F'^(x)~ х —р>0, следовательно, r(f)^p/q, и, таким образом, по предложению 11.1.8 выполнено равенство r{f)=£/q. В противном случае то же выполнено для таких возмущений, что / ч /. D Замечание. Это доказательство показывает, что отображения окружности с рациональными числами вращения, обладающие притягивающими или отталкивающими периодическими орбитами (орбитами, поднимающимися до точек, в которых величина F^ — Id —р меняет знак), сохраняют число вращения при любом достаточно малом возмущении. С другой стороны, если F^ — Id —р не меняет знак, например если F^ — ld—p'^O, то число вращения любого такого возмущения /, что / ч/, удовлетворяет неравенству r{f) > p/q, поскольку jP — Id —р > 5 > 0. В этом случае нули функции F'^—ld —р проектируются в ^параболические» или полуустойчивые периодические орбиты. Это такие орбиты _р, которые являются притягивающими с одной стороны и отталкивающими с другой, т. е. существует такая открытая окрестность U орбиты р, что для всех х из одной компоненты t/\{p} выполнено условие lim d(/"(a;),/"(р))=Оидлявсех а; я—»оо из другой компоненты — условие Игл fi(/"(a;),/"(p)) = 0 (см. рис. 3.3.1). п—»—оо
396 Часть 3. Гл. 11. ГОМЕОМОРФИЗМЫ ОКРУЖНОСТИ Чтобы убедиться, что мы действительно показали, что зависимость числа вращения от отображения / имеет весьма негладкий характер, переформулируем наши выводы следующим образом. Сначала напомним, что монотонная непрерывная функция ^: [0,1] —> R называется канторовой лестницей, если существует такое семейство {laJaeA непересекающихся открытых интервалов из отрезка [0,1] с плотным ой>единением, что ip принимает различные постоянные значения на этих интервалах. Предложение 11.1.11. Пусть {ft}teio,i\ ~ ^^^^^ монотонное непрерывное семейство сохраняющих ориентацию гомеоморфизмов окружности^ что величина г: t (-> г(/^) непостоянна. Если существует такое плотное множество 5 С Q, что ни одно отобраокение /^ не является топологически сопряженным к преобразованию поворота R^, а € 5, то т —канторова лестница [']. Доказательство. По предложению 11.1.8 и предложению 11.1.6 величина г монотонна и непрерывна. С учетом предложения 11.1.10 отсюда следует, что г"'(5) представляет собой непересекающееся объединение замкнутых отрезков положительной длины. Мы должны показать, что множество г"'(5) плотно. Увеличивая, если нужно, множество 5, мы можем предположить, что если r(f^) = p/q eQ\S, то отображение /^ топологически сопряжено к Лр^^. Тогда из предложения 11.1.9 следует, что величина г строго монотонна в точках t € т~'([0,1]\5'): число вращения строго возрастает, в случае когда оно принимает иррациональные значения и в случае отображений окружности, сопряженных рациональным поворотам. Таким образом, для t е [0,1)\г''(5) и е > О мы имеем r{t) ф r{t + е) и, следовательно, в силу плотности множества 5, непрерывности г и теоремы о промежуточном значении существует t^ € r~'(5)n[t, t +е]. В сочетании с аналогичным соображением для t = \ это завершает доказательство. D В заключение отметим, что результаты, приведенные в этом параграфе, зависят от монотонности и непрерывности функции /, но не от ее обратимости. Таким образом, достаточно считать, что /: 5'—> 5' —непрерывное сохраняющее порядок отображение степени один, т. е. его поднятие F не убывает. Такое отображение может принимать постоямные значения на конечном или счетном множестве отрезков (см. упражнение 11.1.1). Упражнения 11.1.1. Пусть f:S^—>S^ —монотонное (но не обязательно обратимое) отображение степени один, т. е. его поднятие — такая монотонная функция F: R^ R, что F{x + I) = F{x) + I. Докажите, что утверждения предложений II.I.I, U.I.3 и 11.1.4 выполнены для /. 11.1.2. Пусть /: S^ —> S^ —непрерывное отображение степени один и F: R^R — его поднятие. Докажите, что оба предела r+(F):= [im max-^"t^)~^ и t-(F):= lim mm-^"^^^"^ существуют. 11.1.3. в условиях предыдущего упражнения назовем Л(^):=[геК|За;еК Jim^-^"t^) ^ = г} множеством вращения F. Докажите, что R{F) ф 0.
§ 11.2. КЛАССИФИКАЦИЯ ПУАНКАРЕ 397 11.1.4. Для а, 6 g[0, I] положим f^^: S^ -> S\ xt-^x-^a-}- 6sin27ra; (mod I). Покажите, что для p/g GQn[0,1] множества ^p/, := {(a, 6)G [0,1] x [0, \]\r(f^f^) = p/q} замкнуты. Эти множества пересекают множество [О, I] х {0} в точке p/q. 11.1.5. Покажите, что множество А .^ пересекает каждую прямую 6 = const по непустому отрезку и что этот отрезок имеет отличную от нуля длину во всех случаях, кроме случая 6 = 0. 11.1.6. Связны ли множества Л .7 11.1.7. Покажите, что объединение множеств Л^,^ плотно в [О, I] х [О, I] [^1. § 11.2. Классификация Пуанкаре В этом параграфе мы дадим полное описание возможного поведения орбит гомеоморфизмов окружности. Из этого описания вытекает классификация гомеоморфизмов окружности с точностью до монотонной полусопряженности. 11.2 а. Рациональные значения числа вращения. Предложение 11.2.1. Пусть/: 5'—>5' — сохраняющий ориентацию гомеоморфизм с рациональным числом враи^ения r{f)=p/q. Предположим, что числа р и д взаимно просты, и обозначим через хе S^ такую точку, что Р(х) = х. Тогда порядок точек {х, f(x), г{х),..., Z'^" ^(ж)} на 5* такой же, как порядок точек {o»f »"^) • • -^ п г ^<о. SK В частности, периодическая орбита разделяет 5' на интервалы, которые переставляются гомеоморфизмом f. Замечание. Это утверждение говорит, что периодические орбиты сохраняющего ориентацию гомеоморфизма окружности ведут себя подобно орбитам поворота окружности с тем же числом вращения. Доказательство. Пусть F — такое поднятие /, что F^(x) = = X -\- р для X 6 7г~'({ж}) (см. предложение 11.1.5). Множество А := 7г-'{^, f{x), Р{х), ■.., h' (Щ} порождает разбиение [х, х -\- р] на р • q отрезков. В то же время отрезок [х,х ^ р] разбит на отрезки [х, F(x)], [F{x), F^(x)],..., [F^-^(x), F^(x)], внутренности которых не пересекаются. Так как F устанавливает взаимно однозначное соответствие между любыми двумя смежными отрезками этого разбиения и сохраняет А, каждый отрезок [F'{х), F'-^\х)] содержит в точности р-\-\ точку из А. Выберем fc, г € Z так, что правым ^соседом» х в А оказывается точка х^ = F''(x) — г. Так как отображениеi^ = F'' — r возрастает на R и сохраняет А, то обстоятельство, что ж. —F(x) — самый близкий <сосед» точки х справа в А и что отрезок [ж, f(x)] разбит в р отрезков А, показывает, что 'W{x) = F{x). Следовательно, f'^{x) = f(x), где fc — единственное такое число между между О и g — 1, что fcp = 1 (mod а). Таким образом, орбита упорядочивается так: (х, /*(ж"), Р^{х)^..., /*''"'' (^)). Теперь пусть / = Л^^, — поворот на угол p/q. Тогда 7г|0, |,... ^ ^ ^ Р(^~ ^) \ — периодическая орбита, и, следовательно, согласно приведенным выше соображениям она упорядочивается следующим образом: О, ^, ^,..., ^^^=^). ^ = 1 (mod q), как и прежде. D
398 Часть 3. Гл. И. ГОМЕОМОРФИЗМЫ ОКРУЖНОСТИ Следующее предложение утверждает, что для гомеоморфизмов окружности с рациональным числом вращения все непериодические орбиты асимптотически стремяггся к периодическим орбитам. Это дает полную классификацию возможных орбит с рациональными числами вращения. (Вспомните определение 6.5.4 гомоклинических и гетероклинических точек.) Предложение 11.2.2. Пусть f: S^—^ S^ — сохраняющий ориентацию гомеоморфизм с рациональным числом вращения г{}) = p/q € Q. Тогда имеются два возможных типа непериодических орбит для /. 1. Если f имеет единственную периодическую орбиту, то всякая не пранадлеоюащая ей точка является гетероклинической для отображения Р к двум точкам этой периодической орбиты. Эти точки различны, если период отображения большее единицы. 2. Если f имеет более чем одну периодическую орбиту, то каждая непериодическая точка является гетероклинической для отображения f^ к двум точкам на различных периодических орбитах. Доказательство. Сначала заметим, что отображение Р может рассматриваться как гомеоморфизм отрезка, если разрезать окружность в неподвижной точке f^, или, что то же самое, если рассмотреть подняггие неподвижной точки Z отображения /* и затем ограничить подняггие отображения F^(') — p гомеоморфизма / на [z, z -\-1]. Но тогда наше утверждение почти целиком следует из предложения 1.1.6, примененного к этому отображению отрезка. Осталось только доказать, что в случае 2 эти две периодические орбиты различны. Но если существует такой отрезок I = [а, 6] С R, что точки а и b являются смежными нулями отображения F^ —Ы~р и а, 6 проектируются на одну и ту же периодическую орбиту, то у гомеоморфизма / имеется только одна периодическая орбита, потому что если 7г(а) = а; € S, 7г(6) = /*(а;)€ 5', ТО объединение U /'^7г(а, 6) покрывает дополнение мно- п=0 жества {/"(а^)}^1о в 5' и не содержит периодических точек. В силу инвариантности образ /'^(7г(а, Ь)) также не содержит таких точек. П Замечание. Приведенные выше соображения показывают, что если имеется только одна периодическая орбита, то она полуустойчива, являясь «отталкивающей с одной стороны и притягивающей с другой», как показано на рис. 3.3.1. Обратим внимание на то, что непериодические точки не просто асимптотически приближаются к периодическим, но это поведение согласованно для итераций отображения /, так что для непериодической точки х все точки ж,/(ж), ...,/*"'(ж) асимптотически приближаются (с увеличением времени) к соответствующим итерациям у, /(у),..., /*~ Чу) периодической точки, и притом они двигаются в том же направлении. Согласно приведенной ниже лемме это немедленно следует из монотонности. Лемма 11.2.3. Если J С Е — отрезок, концами которого являются смежные нули отображения F^ — Id —р, то знаки F^ — la —р одинаковы внутри множеств I и F(I). Доказательство. Если {F^ — Id -р)^ > О для х е I, го F^ — Id —р возрастает на левом конце I. Так как отображение F монотонно, функция {F^ — ld~p)oF возрастает на левом конце F(I) и, следовательно, {F^ - Id -р)х > О для а; € F{I). Случай отрицательного знака рассматривается аналогично. П
§ 11.2. КЛАССИФИКАЦИЯ ПУАНКАРЕ 399 11.2 6. Иррациональные значения числа вращения. Первый шаг в построении классификации в этом случае состоит в том, чтобы показать, что орбиты отображения окружности / с числом вращения r(f) € R\Q упорядочиваются таким же образом, как для поворота R^^jy на угол r{j). Предложение 11.2.4. Если F: R —>R — поднятие сохраняющего ориентацию гомеоморфизма f: 5' —> 5' с числом вращения г = r{F) € € R\Q, то для n^^n^^m^^m^eZ и xeR неравенство щг + т,< П2Г + тщ выполнено тогда и только тогда, когда ^""(ж) + mj < F'^^ix) + тщ. Доказательство. Сначала заметим, что для данных щ,П2,т^,гщ^ eZ выражение р(а;):= F'^(x)-\-m^—F'^(x)--m2 никогда не меняет знак (и, таким образом, второе неравенство не зависит от выбора от х). Действительно, в силу непрерывности отображения р(-) из изменения знака следует существование такого zeR, что F'^(z) — F'^(z) + mj — rrij =0. Но тогда z проектируется в периодическую точку, поскольку F'^(z) — jP"»(z) € Z, что невозможно. Теперь положим ^'"■(О) -\-гщ< i^"»(0) + тщ. Для у := F"^(0) это эквивалентно тому, что F'^'^^ly) — у < тщ — щ. Как и ранее, это неравенство выполнено для всех у € М, в частности для у = О и у = i^""""*(0), откуда F'^"^(0)<Tn^-m 1 и рЧгн - ".)(0) < (шз - mi) + jP'b -«.(0) < 2(m2 - mi). По индукции получаем i*'"*""""»'(0) < «(rrij — mi) и n-^oo n(nj—П2) П-+00 n(ni—П2) П^~П2 (неравенство строгое, поскольку г €R\Q ). Следовательно, TliT + ТП1 < П2Т + ЧЩ. Итак, мы доказали необходимость. Аналогично из неравенства F'^{0)+m^ > > F^{0) -{-тщ следует, что щт -\~ т^ > П2Г -^ т^ и равенство не возможно ни с какой стороны (поскольку г € R\Q и у / нет периодических орбит). Таким образом, достаточность установлена. П Последнее утверждение напоминает полученный ранее результат о том, что в случае рационального значения числа вращения периодические орбиты упорядочиваются таким же образом, как для соответствующего поворота, для рациональных чисел вращения мы установили, что непериодические орбиты асимптотически приближаются к периодическим. Этот факт служит основанием для того, чтобы изучать асимптотическое поведение орбит также и для гомеоморфизмов с иррациональным значением числа вращения Предложение 11.2.5. Пусть/: 5* —>5' —сохраняющий ориентацию гомеоморфизм окружности SK Положим r{f) €R\Q. Тогда ш-предельное множество со{х) (см. определение 1.6.2) не зависит от выбора точки X иВ := и;{х) либо совпадает со всем S\ либо совершенно и нигде не плотно. Лемма 11.2.6. Пусть /: 5' —> 5' — сохраняющий ориентацию гомеоморфизм, r(f) е R\Q, тп, п € Z, тфп, хе S^ и IС S^ ^отрезок с концами f"^{x) и Р{х). Тогда каждая положительная или отрицательная полуорбита f пересекает I.
400 Часть 3. Гл. 11. ГОМЕОМОРФИЗМЫ ОКРУЖНОСТИ Замечание. Для x^yeS\ хфу, существует в точности два отрезка в 5* с концами х и у. Лемма выполнена независимо от их выбора. Так как r(f) иррационально, точка х не периодическая и отрезок I не вырождается в точку. Доказательство леммы. Рассмотрим положительные полуорбиты {/"(y)}n€N- Доказательство для отрицательных полуорбит в точности такое же. Чтобы доказать лемму, достаточно показать, что обратные итерации I покрывают S\ т. е. 5* С (j /"*(/). Jb€N Положим Jjt := /-*("-"»'(/) и заметим, что все эти отображения непрерывны: если fc 6N, то отрезки /^ и Jjt_i имеют общий конец. Следовательно, если 5*7^ и Iff, то последовательность концов сходится к некоторой точке ib€N Z е S\ Но тогда точка = Iim /-*("-"*>/'"(а;)= lim fi-'' + ^)(^-^)f"^(x) = = Iim /(n-"»)/-Mn-"»)/"»(a;) =/("-"») Iim /-M"-"»)/"»(a;) = /("-"»)(z) k—*oo k—*oo периодическая. Это противоречит предположению о том, что r{f) е R"\Q. П Докажем теперь предложение 11.2.5. Доказательство. Независимость от х. Мы должны показать, что u}{x)=u}(y) для любых x,yeS\ Пусть Z € и}(х). Тогда существует такая последовательность /„ в N, что /'»(ж) —> Z. Если у € S \ то в силу леммы 11.2.6 существуют такие числа fc„€N, что/*"(у)€/„:= [/'"(а;),/'"•+'(ж)]. Но тогда Iim /*"'(у) = ^ и, таким образом, ze ш(у). т—*оо Следовательно, со(х)Ссо(у) для всех ж, у€ 5', и в силу симметрии ш{х) = = ш(у) для всех X, у € S\ Покажем, что множество Е := ш{х) либо совпадает со всем 5\ либо нигде не плотно. Заметим сначала, что Е — единственное минимальное замкнутое непустое /-инвариантное множество: если Ас S^ —непустое замкнутое /-инвариантное множество и а; € А, то {/*(a;)}fcez ^ -^> "г^^ ^^^ А инвариантно, и Е = ш{х) с А, поскольку А замкнуто. Следовательно, 0 и Е — единственные замкнутые инвариантные подмножества Е, и, так как граница дЕ множества Е представляет собой его замкнутое инвариантное подмножество, мы заключаем, что либо дЕ =0, либо дЕ = Е. Если дЕ =0, то Е = S\ Если дЕ =Е, то Е нигде не плотно. Остается показать, что множество Е совершенно. Мы знаем, что Е замкнуто. Пусть X £ Е. Поскольку Е = со{х), существует такая последовательность fc„, что lim /*"(а;) = ж. В силу условия г(/) € R\Q не существует п—»оо ни ОДНОЙ периодической орбиты, и, таким образом, f^ix) ф х для всех п. Следовательно, х — точка накопления множества Е, поскольку /''"(ж) € Е по инвариантности. П Последнее предложение показывает, что структура орбит отображения с иррациональным числом вращения принципиально отлична от структуры орбит отображения с рациональным числом вращения. В то время как в случае рационального числа вращения все орбиты либо периодические, либо асимптотически стремятся к периодическим, для отображений с иррациональным числом вращения имеются две возможности: либо все орбиты плотны, либо любая орбита или плотна в канторовом множестве или
§11.2. КЛАССИФИКАЦИЯ ПУАНКАРЕ 401 асимптотически приближаются к этому множеству. С углублением нашего анализа мы увидим, что упомянутое различие оказывается еще более существенным, когда мы обратимся к проблеме существования сопряжения: при каких условиях отображение окружности эквивалентно повороту? В случае рационального числа вращения такая ситуация, очевидно, крайне редка: так как все орбиты рационального поворота периодические с равным периодом, любая замена координат по-прежнему даст отображение со всеми периодическими орбитами (отображение / фактически будет таким, что Это ограничение отсутствует в случае иррационального числа вращения, и в этом случае существует тесная связь с иррациональными поворотами. Теорема 11.2.7 (теорема Пуанкаре о классификации). Пусть f: 5* —> 5* —сохраняющий ориентацию гомеоморфизм с иррациональным числом вращения. 1. Если гомеоморфизм f транзитивен, то он сопряжен с поворотом окружности Rr(f)- 2. Если гомеоморфизм f не транзитивен, то поворот R^^j^ является топологическим фактором отображения f (см. определение 2.3,2); соответствующее полусопрягающее отображение h: 5* —> S^ необратимо, непрерывно и монотонно. Замечание. Полезно сравнить эту теорему с предложением 2.4.9, которое дает аналогичное описание отображений степени к, |fc| ^2. Однако оба доказательства предложения 2.4.9 (использующее кодирование из п. 2.4 б и основанное на методе неподвижной точки из п. 2.4 в) существенно отличаются от доказательства теоремы Пуанкаре о классификации. Эти два доказательства опираются на гиперболичность модельного отображения Е^, тогда как ключевая идея настоящего доказательства — сохранение порадка точек на окружности. Доказательство. Выберем поднятие jP: R—>R отображения /, и пусть г:= r(JP), xeRn В := {-F"(aj) + m}^„g2 —полное поднятие орбиты ж{х). Определим Я: В —»-М, JP"(a;)+mi-^nr-bm. Из предложения 11.2.4 следует, что данное отображение монотонно. Заметим теперь, что множество Н(В) плотно в М в силу предложения 1.3.3. Позволив себе некоторую вольность в обозначениях, обозначим через Я^ отображение М—»-М, действующее по правилу х\-*' х-\~т. Тогда Но F = R^o Н пз. В, поскольку Я о F(JP"(a;) + m) = Я(^"-^ Ч^^) + т) = (п + 1)г + m и R^ о Я(^"(а;) + т) = ЯДпг + тп) = (п + 1)г + т. Лемма 11^8. Отображение Я продолжается по непрерывности на замыкание В множества В. Доказательство. Если уеВ, то существует такая последовательность {x^}^^jfCB, что у= lim х^. Мы хотели бы доопределить наше отоб- ражение следующим образом: Н(у):= lim H{xJ. Для того чтобы пока- оо существует аппроксимирующей
402 Часть 3. Гл. 11. ГОМЕОМОРФИЗМЫ ОКРУЖНОСТИ существуют и не зависят от выбора последовательности, так как отображение Н монотонно. Если бы правый предел не совпадал с левым, то множество Ж\Н{В) содержало бы отрезок, что противоречило бы плотности множества Н{В). D Отображение Н теперь легко может быть продолжено на М: так как отображение iZ": В—»-М монотонно и_сюръективно (поскольку Н монотонно и непрерывно на множестве В, В замкнуто и Н{В) плотно в М), всякая неопределенность в определении Н на интервалах, образующих дополнение к В, отсутствует: на этих интервалах мы полагаем i?' = const, где эта константа равна значениям функции на концах. В результате получается такое отображение Н: М—»-М, что НoF = R^oH, и, таким образом, полусопряжение h: S^ ^^ S^ найдено, поскольку для z € В мы имеем Я(2 + 1) = Я(^"(а;)+т + 1) = пг + т + 1=Я(2)+1, и это свойство сохраняется после перехода к продолжению по непрерывности. Утверждение нашей теоремы следует теперь из того наблюдения, что в транзитивном случае мы начинаем с плотной орбиты, так что В =Ж, и, следовательно, h—взаимно однозначное соответствие. D Замечание. Поскольку множество В проектируется на замыкание орбиты 7г(а;), оно содержит а;-предельное множество Е = ш{7г(х)) орбиты 7г(а;), и, полагая а;€7r"'(jB), мы получаем ж{В) = Е, где Е —универсальное а;-предельное множество, введенное выше. В транзитивном случае В =R и Е_= S\ но в нетранзитивном случае мы находим, что если х € 7Г~^(Е), то 7г{В) = Е —канторово множество. Следовательно, в случае полусопряженности динамика на канторовом множестве почти сопряжена с динамикой поворота на иррациональный угол Яг(/у ^^ли отождествить два конца каждого отрезка из дополнения, то h станет взаимно однозначным соответствием факторпространства Е/^ с S\ сопрягающим Л^/^ с R^^^fy Все орбиты f па Е плотны в Е (по определению Е). С другой стороны, конструкция Е = uj{x) показывает, что все точки вне Е притягиваются к Е как в положительном, так и в отрицательном направлениях времени, потому что итерации всякой такой точки должны оставаться внутри непересекающихся интервалов из дополнения к Е, длины которых стремятся к нулю. С другой стороны, можно представлять себе, что нетранзитивное отображение получается из иррационального поворота «раздуванием» некоторых орбит до отрезков, объединение которых тогда составляет дополнение к Е. Эти отрезки из дополнения, таким образом, переставляются подобно точкам орбиты отображения поворота на иррациональный угол. Все внутренние точки этих отрезков являются блуждающими, так как они остаются внутри отрезков, а образы отрезков попарно не пересекаются. Позже мы приведем явную конструкцию подобного примера. Полная топологическая классификация гомеоморфизмов окружности с данным иррациональным числом вращения г дается конечной или счетной совокупностью орбит поворота R^ по модулю их одновременного сдвига. Конечно, эти орбиты — в точности те же самые, что получаются в результате раздувания под действием полусопряжения из теоремы 11.2.7. Так как орбиты иррационального поворота плотны, эти инварианты не являются модулями.
§ n .2. КЛАССИФИКАЦИЯ ПУАНКАРЕ 403 11.2 в. Типы орбит и измеримая классификация. Мы завершим этот параграф, получив с помощью доказанных выше утверждений классификацию орбит гомеоморфизмов окружности: на 5' точка может иметь шесть различных видов орбит под действием преобразования, три из которых соответствуют случаю рационального и другие три — иррационального числа вращения. Назовем орбиту О отображения гомоклинической относительно инвариантного множества S С S^\0, если а{х) = ш(х) = S для любой точки хеО. Аналогично, орбита О называется гетероклинической относительно двух непересекающихся инвариантных множеств 5i, 52, если О не пересекает ни одно из них и а(х) = Sy, ш{х) = ^2 для хеО. Тогда мы получаем список возможных орбит, собранный в следующей таблице. Заметим, что наше описание в случае рационального числа вращения, как и наши обозначения, не являются общепринятыми. Число вращения р/д € Q Ifii Периодические орбиты с таким же периодом, как у Л г, и упорядочен- ные таким же образом, как орбита Л,. 11£:Гомоклиническая орбита: она при- ближается к данной периодической орбите при п —> +OOJI npHji —^ —оо. Шс: Гетероклиническая орбита: она при- ближается к двум различным периодическим орбитам при п —*- +00 и при п —»■ —оо (это происходит, если есть более чем одна периодиче- ская орбита). Число вращения а € R \ Q 1^: Орбита, плотнаяв5\уг10^ рядоченная таким же образом, как орбита R^ (то же верно и в двух случаях ни- же^. 11^: Орбита, плотная в некото- ром канторовом множестве. 111^: Орбита, гом о клиническая к некоторому канторовому множеству. Классификация Пуанкаре В заключение отметим, что теорема Пуанкаре о классификации 11.2.7 полностью отвечает на вопрос относительно инвариантных мер для гомеоморфизмов окружности. В случае рационального значения числа вращения каждая эргодическая инвариантная мера атомарна; это равномерная <5-образная мера, сосредоточенная на периодической орбите. Для иррационального значения числа вращения мы должны рассматривать отдельно транзитивный и нетранзитивный случаи. Так как поворот на иррациональный угол строго эргодичен (см. теорему Кронекера — Вейля о равномерном распределении 4.2.1) и так как строгая эргодичность, конечно же, инвариантна относительно топологического сопряжения, любой транзитивный гомеоморфизм S^ с иррациональным числом вращения строго эргодичен. Пусть теперь /: 5' —»■ S^ —нетранзитивный гомеоморфизм с иррациональным числом вращения. Так как образы любого отрезка из дополнения к единственному минимальному множеству Е отображения / не пересекаются, такой отрезок должен иметь меру нуль относительно любой /-инвариантной вероятностной меры д, т. е. fi{S^\E)=0. Но полусопряжение /
404 Часть 3. Гл. П. ГОМЕОМОРФИЗМЫ ОКРУЖНОСТИ С поворотом на иррациональный угол R^^ взаимно однозначно на множестве Е\Ъ, где V — счетное множество. Любая /-инвариантная вероятностная мера неатомарна, поскольку у гомеоморфизма / нет периодических точек; следовательно, /i(V)=0. Если бы у / было две инвариантные вероятностные меры, то они отличались бы на множестве А с E\D и, следовательно, полусопряжение переводило бы их в две различные инвариантные меры поворота R^f)y что невозможно. Используя определение 4.1.20, мы, таким образом, получаем следующее утверждение. Теорема 11.2.9. Гомеоморфизм окружности с иррациональным числом вращения строго эргодичен ц, как сохраняющее меру преобразование, метрически изоморфен повороту на иррациональный угол. Следствие 11.2.10. Любой гомеоморфизм 5* обладает нулевой топологической энтропией. Доказательство. Это следует из предложения 11.2.2, теоремы 11.2.9 и вариационного принципа 4.5.3. D Упражнения 11.2.1. Докажите, что все сохраняющие ориентацию гомеоморфизмы с рациональным значением числа вращения p/q без полуустойчивых периодических точек и с данным числом п периодических орбит топологически сопряжены. Докажите, что в этом случае п всегда четно. 11.2.2. Докажите, что если p/q ^ {О, 1/2} (mod 1), то имеются в точности два класса сохраняющих ориентацию гомеоморфизмов 5* с числом вращения p/q и с п периодическими орбитами, которые все полуустойчивы. Если же p/q = 0 или p/q = 1/2 (mod 1), то существует лишь один такой класс. 11.2.3. Опишите все классы эквивалентности относительно сопряжения сохраняющих ориентацию гомеоморфизмов 5* с числом вращения p/q и п периодическими орбитами; докажите, что число таких классов не превосходит 2". Вычислите это число для п = 1,2, 3. Рассмотрите отдельно случаи p/q = 0 и p/q — 1/2. 11.2.4. Пусть /: 5* -+ 5* —гомеоморфизм, обращающий ориентацию. Докажите, что у / есть в точности две неподвижных точки и что число вращения для / равно 0. 11.2.5. Предположим, что у обращающего ориентацию гомеоморфизма /: 5* -+ 5* имеется п ^ О периодических орбит периода два и что ни одна из этих периодических орбит не полуустойчива. Докажите следующие утверждения. 1. Если п четно, то все такие гомеоморфизмы топологически сопряжены. 2. Если п нечетно, то существует в точности два класса топологически сопряженных гомеоморфизмов. 11.2.6. Докажите, что преобразование поворота является фактором сохраняющего ориентацию гомеоморфизма окружности с рациональным числом вращения тогда и только тогда, когда множество его периодических точек несчетно. 11.2.7. Покажите, что если отображение /: 5* -+5* топологически сопряжено с поворотом на иррациональный угол, то сопрягающий гомеоморфизм определен однозначно с точностью до домножения на поворот (т. е. если Л. о / = Л^ о h^ для г =ь 1,2, то /ij о Л^' — поворот). 11.2.8. Покажите, что сужение нетранзитивного гомеоморфизма f:S^—^S^ с иррациональным числом вращения на минимальное множество топологически сопряжено с символической динамической системой (точнее говоря, с ограничением топологического бернуллиевского сдвига 0^2 (^^- Ь9.3) на замкнутое инвариантное множество Л). 11.2.9. Докажите, что иррациональные повороты Л^ и Rq изоморфны как сохраняющие меру преобразования пространства (5*, А) тогда и только тогда, когда а = ±/3 (mod 1). 11.2.10. Докажите, что топологическая энтропия гомеоморфизма окружности равна нулю, без использования вариационного принципа и классификации Пуанкаре.
ГЛАВА 12 Диффеоморфизмы окружности Если к условиям, рассмотренным в предыдущей главе, добавить некоторые условия дифференцируемости, то можно установить несколько новых фактов из теории отображений окружности. В конце п. 11.2.6 мы наметили топологическую классификацию гомеоморфизмов окружности с иррациональными числами вращения- Если сосредоточить внимание на достаточно гладких диффеоморфизмах (см. теорему 12.1.1), ситуация существенно изменится. Предложение 12.2.1 показывает, что условие на гладкость является почти точным. Число вращения тогда становится полным инвариантом топологического сопряжения. Это несколько напоминает случай гиперболических динамических систем (см., например, теоремы 2.6.1 и 2.6.3). С другой стороны, классификация диффеоморфизмов окружности с точностью до дифференцируемого сопряжения возможна только для чисел вращения, удовлетворяющих дополнительным арифметическим условиям. В § 12.3 мы докажем локальный результат такого типа в аналитической ситуации, а в §§ 12.5 и 12.6 покажем^ что в отсутствии такого арифметического условия сопряжение может обладать разного рода патологиями. В заключение в § 12.7 мы покажем, что определенный аспект поведения преобразования поворота на иррациональный угол, а именно егЬ эргодичность относительно меры Лебега, сохраняется для всех достаточно гладких диффеоморфизмов окружности. § 12.1. Теорема Данжуа Напомним, что функция д: 5' —* М называется функцией с ограничен- п ной вариацией, если ее полная вариация Угх{д):= sup X) \9{ч)~9(^к)\ конечна. Верхняя грань здесь берется по всем таким конечным совокупностям {xfc, xj[}jfe=i, что Xj^, xj^—концы отрезка 1^ и ДП/^. = 0 для к ^j. Замечание. Каждая липшицева функция и, следовательно, каждая непрерывно дифференцируемая функция является функцией с ограниченной вариацией. Теорема 12.1.1 (теорема Данжуа) [']. Всякий С^-диффеоморфизм f: S^ ^ S^ с иррациональным числом вращения т(/) eM\Q, производная которого имеет ограниченную вариацию, транзитивен и, следовательно, топологически сопряжен с Rruy Замечание. Согласно предыдущему замечанию эта теорема, в частности, верна для любого С^-диффеоморфизма с иррациональным числом вращения.
406 Часть 3. Гл. 12. ДИФФЕОМОРФИЗМЫ ОКРУЖНОСТИ Лемма 12.1.2. Если /: 5' —* 5' —гомеоморфизм с иррациональным числом вращения, то для любой точки XQe S^ существует бесконечно много таких п eN, что интервалы /^ {(^^ f~^(^))) не пересекаются при О^к <п. Доказательство. Пусть х^ =/^(2^), / = (xq, х_„). Утверждения зависит только от порядка точек на орбите. Так как гомеоморфизм / либо сопряжен, либо полусопряжен с поворотом на иррациональный угол, мы можем считать, что он является преобразованием поворота на иррациональный угол. В этом случае ясно, что утверждение леммы выполнено для всех п е N, обладающих тем свойством, что для О < | А; | < тг ни одна точка х^ не содержится в /. Но так как орбита Xq плотна и, таким образом, содержит подпоследовательность, сходящуюся к Xq, найдется бесконечно много таких п. а Лемма 12.1.3. Пусть X = S^ или X =[0^\\ uY <zX. Предположим, что отображение /: X—*Х таково, что /|у принадлежит классу С, причем f — функция с ограниченной вариацией, и что \f'\ отделено от О на Y. Пусть t^ < оо —вариация функции ц>\ х ь-^ log |/'(x)|. Если 1 <ZY — такой отрезок, что все отрезки X f{I)-> -. ■•> РЦ) попарно не пересека- ются в Y и х^ у el, то ехр(-1^)^{{™^^ехр(У). Доказательство. Наше утверждение следует из неравенства п — 1 п — 1 п — 1 1(Г)'(х)| fc=0 fc=0 fc=0 n-I n-1 log ( П \f'(f4x))\ ■ П \r'(f'iy))\)\ = I l°gF74(S^ после взятия экспоненты. П Замечание. Это доказательство представляет собой еще один пример оценки ограниченности искажения. Сходные соображения использовались при доказательстве леммы 5.1.18, а также при решении упражнения 10.0.6. Главное отличие этого доказательства — прямое использование ограниченности вариации производной вместо оценки этой вариации через вторую производную. Эта же идея будет использована в дальнейшем при доказательстве леммы 12.7.3. Лемма 12.1.4. Если отображение f не сопряжено с преобразованием поворота, I —отрезок из дополнения к Е = а;(х), x^el и число п выбрано, как в лемме 12.1.2, то для каждого х е/ выполнено неравенство ехр(-Т^) ^ (/"У(х) • (/-"У(2;) ^ ехр(Т^). Доказательство. Так как все точки х € / под действием полусопряжения склеиваются в одну, совокупность чисел п 6 N, полученная в лемме 12.1.2, не зависит от выбора х € /. Таким образом, мы можем применить лемму 12.1.3, взяв у=/-""(х). П Докажем теперь теорему 12.1.1.
§ 12.2. ПРИМЕР ДA^iЖУA 407 Доказательство. Предположим, что диффеоморфизм / не сопряжен с поворотом, и рассмотрим отрезок IcS^\E, где множество Е такое же, как в предложении 11.2.5. Заметим, что все образы и все прообразы попарно не пересекаются. С другой стороны, по определению длины и в силу леммы 12.1.4 и очевидной оценки a-h Ь > тах(а, &) ^ Va- b для а, Ь ^ О мы получаем 1(ГИ)) + 1(/-"(Г)) = j [{Г)'(^) + (Г-Пх)] dx ^ > j л/(/")'(^) • (Г")'(х) dx ^ J ^exp(-V)dx = l(I) e-^'/2 оо для бесконечно многих чисел п eN. Следовательно, ^ !(/»(/)) = оо, поэтому отрезки {/*(-f)}iez ^^ могут быть непересекающимися, что приводит к противоречию. D Главная идея, на которой основано это доказательство, состоит в том, что можно контролировать производные итераций отображения /, выбирая различные наборы образов отрезков на 5*. В этом доказательстве наборы образов характеризовались таким числом п, что первые п образов определенного отрезка не пересекались, что позволяло нам использовать ограниченность вариации для получения сильной равномерной оценки производных итераций. В этом месте мы существенно использовали малую размерность динамической системы, чтобы контролировать образы отрезков, используя ограниченность вариации. В § 7 с помощью той же идеи будет доказана эргодичность диффеоморфизмов окружности, рассмотренных в настоящем параграфе. § 12.2. Пример Данжуа Теорема Данжуа почти оптимальна. Пример, который строится в данном параграфе, показывает, что ограничение на регулярность отображения, являющееся посылкой этой теоремы, не может быть существенно ослаблено. Мы построим нетранзитивный диффеоморфизм окружности, первые производные которого гёльдеровы с показателем Гёльдера, сколь угодно близким к единице. Идея этого построения состоит в том, чтобы начать с поворота на иррациональный угол и заменять точки одной из орбит подходящим образом подобранными отрезками. Возникающее в результате отображение не транзитивно. Пример Данжуа доказывает следующий факт. Предложение 12.2.1. Для т eR\Q, а е (0,1) существует не транзитивный С ^ -диффеоморфизм /: 5^ —* 5* с а-гёлъдеровой про- изводной и числом вращения т(/) = т. Доказательство. Пусть А: eN, а = ^,/„ = (|п|-Ь(2А;)Ч1Г^'-''^*> и с„ =2 ((^„ + i/^„) - 1) ^ -1. Сначала заметим, что оо оо
408 Часть 3. Гл. 12. ДИФФЕОМОРФИЗМЫ ОКРУЖНОСТИ «Раздуем» орбиту х„ =(Л^)"х иррационального поворота R^, добавляя в 5' отрезки /„ длины 1^ так, что они упорядочиваются тем же самым образом, что и точки х„, и расстояние между любыми двумя такими отрезками /, и /„ равно в точности m 1-Е'0^(^".'^")+ Е '- kez ^€(i„,i„) (Это сумма длин отрезков 4, вставляемых между ними, и длины дуги окружности между точками х^ и х„ с соответствующим изменением масштаба, так как суммарная длина 5' \ (J /„ должна быть равна 1 - Y1 L-) nez nez ,,=!, ^ f\s^\\j { полусопряжен с преобразованием поворота, достаточно опреде- ЛИТЬ производную f{x), поскольку / тогда может быть найден с помощью интегрирования. Определим на отрезке [а, а-\-1] функцию Чтобы определить такой гомеоморфизм окружности /, что /(/„) — -„+! 1 /i(a, I, х) := 1 — у 2(х — а) -а)-1 а+1 И заметим, что /г(а, I, a-h 1/2) = 1 и \ /i(a, Z, х) dx = 1/2. Обозначим левый конец /„ через а^ и положим fix) 1, xe5'\U4, n€Z Поскольку c„ = 2 ((I„^i/IJ - 1) = 2 (I„^, - I„) /I„. мы имеем (x) dx + c„/i(a„, I„, x)) dx = Z„ -h -^c„ = /„^ I, n так что действительно /(/„) = /„^i- Теперь покажем, что производная /' удовлетворяет условию Гёльде- а с показателем а. Для этого достаточно найти такое число М^, что с„| ^il4-(Z„/2)" для всех neZ, поскольку тогда \f(x)-f(y)\ ^M^d(x, у) на /„(п eZ) и, следовательно, на SK Чтобы доказать, что это требование выполнимо, рассмотрим сначала случай п ^ О и положим m = 1 -h п -h {2к )^. Заметим, что, поскольку (1 -h х)"^ = 1 — /3 • х -h О(х^) (по формуле Тейлора), мы имеем для всех чисел m е N, кроме конечного набора. Следовательно, 1 2 п г п+1 I -1 т т _j_ l4-(^ + l)/fc т -1 m К'-^) -(fc + i)/fc 1 <2 к 2_ а
§ 12.3. ЛОКАЛЬНЫЕ АНАЛИТИЧЕСКИЕ СОПРЯЖЕНИЯ 409 И, таким образом, \с^\(1^/2у°^ <2" + 2/а для всех чисел п eN, кроме конечного набора. Случаи п < О рассматривается аналогично, и мы заключаем, что так что /' — а-гёладерова функция. П Заметим, что полусопряжение с R^ устанавливается с помощью отображения, производная которого обращается в нуль на всех отрезках /„ и равна (1-Е 'пГ' вне их. Небольшая модификация этой конструкции дает следующее предложение. Предложение 12.2.2. Для ае[0, 1), а е(0.1) существует такой нетранзитивный С^-диффеоморфизм /: 5" —* 5' с а-гёлъдеровой производной, что мера Лебега минимального f -инвариантного множества равна а. Доказательство. Мы должны показать, что мера Лебега блуждающего множества (J /„ может быть сделана равной 1 — а. Для этого рассмо- nez трим числа Z„(a):= (1 - a)Z„/ Е ^m- Очевидно, Е ^т{^) = 1 - а- Так как величины с„ остаются теми же*самыми, получен1ше выше оценки сохраняются. П Упражнения 12.2.1. Докажите, что единственная мера, инвариантная относительно диффеоморфизма, построенного в этом параграфе, является абсолютно непрерывной, если мера Лебега множества Данжуа 5* \ |J /„ положительна, и сингулярной в противном случае. 12.2.2*. Измените конструкцию, приведенную в этом параграфе, так, чтобы для данного jS >0 получить нетранзитивный С'-диффеоморфизм с данным иррациональным числом вращения, производная которого удовлетворяет следующему условию, являющемуся более сильным, чем а -гёльдеровость для любого а < 1: l/'W-/'{2/)|<|а:-2/11 logla:-2/1 1 + ^ Объясните, почему эта конструкция не применима к случаю jS = 0. § 12.3. Локальные аналитические сопряжения в случае диофантовых чисел вращения В теореме Зигеля 2.8.2 мы видели, что скорость, с которой рациональные числа приближают данное иррациональное число вращения, влияет на динамические свойства отображения. Эта теорема гласит, что комплексное отображение с линейной частью Л, аргумент которой является диофанто- вым, аналитически сопряжено своей линейной части. Свойства рациональных приближений числа вращения существенны и для решения вопроса о том, является ли сопрягающее отображение, существование которого гарантирует теорема 12.1.1, гладким. Имеются глобальные результаты, гарантирующие, что если достаточно гладкий диффеоморфизм окружности
410 Часть 3. Гл. 12. ДИФФЕОМОРФИЗМЫ ОКРУЖНОСТИ обладает числом вращения, не слишком хорошо аппроксимируемым рациональными числами, то сопряжение из теоремы Данжуа является гладким (аналитическим в случае аналитических диффеоморфизмов окружности). Вообще говоря, взаимосвязь между арифметическими свойствами числа вращения и гладкостью отображения достаточно сложна, хотя и хорошо понята к настоящему времени. Эти результаты в полной мере используют как малую размерность, так и различные типы мощных аналитических оценок. В данном параграфе мы докажем теорему Арнольда, которая явилась первым результатом в этом направлении. Она утверждает, что аналитическое отображение окружности с диофантовым числом вращения аналитически сопряжено с преобразованием поворота, если оно достаточно близко к последнему. В отличие от более поздних глобальных результатов, эта теорема обобщается на более высокие размерности, где вместо фиксирования числа вращения нужно рассматривать подходящие значения параметра в типичных семействах отображений. Мы используем здесь такой же метод, как и в доказательстве теоремы 2.8.2, с тем единственным различием, что работаем в кольце вместо диска в комплексной плоскости. Теорема 12.3.1 (теорема Арнольда). Для данных чисел о О, d, г > 1, существует такое е >0, что если число а (с, й)-диофантово (см. определение 2.8.1), и —аналитическая в кольце A^\={z еС\ 1/г < \z\ < г] функция, u(z) <е на А^, а отображение f{z):~ e^'^z-^u{z) сохраняет единичную окружность 5' и его число вращения равно а на S\ то f аналитически сопряжено к преобразованию поворота на угол а. Доказательство. Мы будем использовать подход и обозначения из доказательства теоремы 2.8.2, адаптируя их к работе с кольцом Л^, и будем постоянно ссылаться на это доказательство. В частности, мы всюду полагаем Л := е^*^, как в (2.8.2). Прежде всего получим аналоги лемм из комплексного анализа для случая кольца. Аналогом леммы 2.8.3 служит следующая лемма. Лемма 12.3.2. 1. Предположим, что функция (р аналитична в кольце А^ и непрерывна в А^, причем \(р\ < е на А^. Тогда (p(z) = = Е *^fc2\ где l^^fcl^eH^'. 2. Если \<Pk\ ^-fiTr"'^' и (p(z)= J2 ^k^''^ ^0 функция <p аналитична в A^ k€Z и \(p\ ^2Kr/S на A^^g. Доказательство. 1. Пусть ^+ По интегральной формуле Коши функция (p'^(z) аналитична в диске Б^ и (p''(z) аналитична при l/z е Б^. По теореме Коши <р = (р'^ -\- <р~. Кроме того. ОС \ { (z\ 27гг I Z fc=o , У Несложные вычисления также показывают, что /14 ." к= 1 (2)=X^^-fc2*, где ^-^ = 2:^ j ^^dz, так что |^_J^er -it И=1/г
§ 12.3. ЛОКАЛЬНЫЕ АНАЛИТИЧЕСКИЕ СОПРЯЖЕНИЯ 411 2. Это следует из леммы 2.8.3, примененной к <^^. D Применение леммы 2.8.3 к ^р^ также дает следующее утверждение. Лемма 12.3.3. Пусть функция ^р = Y^ <p^z^ аналитична вА ,\(p\<S в Ар и X —такое же число, как в (2.8.2). Тогда функция kez аналитична на А^ и существует такое число c(d) > О, что \'Ф\< Подготовим теперь все необходимое для применения метода Ньютона из § 2.7. Рассмотрим оператор и перепишем уравнение сопряженности в виде Hf.h) = g, (12.3.1) Мы ищем приближенное решение, т. е. решение h линеаризованного в точке (д^ Id) уравнения сопряженности. Таким образом, мы получаем ^(/, h) = :f(5. Id) -h A:f(^. id)(/ - 5) + D.j^ig, id){h - id) -h 7г(/, h), где 7^(/, h) содержит члены порядка два и выше от {/ — gth— Id) =: (u, w). Линеаризуя (12.3.1) путем отбрасывания 1Z, получаем :F(^, Id) -h D.J'ig, ld)u -h D^J'ig, ld)w = g, и это уравнение упрощается до u + D2J'{g,ld)w^0. (12.3.2) Делая замену h=ld -\-w в J"(/, /i), мы получаем функцию f^ = h~^ о f oh = = ^(/j h) = g-\-lZ{f^ h)j так что величина щ:= f\ — g должна быть величиной высшего порядка относительно u=f — д. Чтобы доказать это, мы должны оценить разность между !F и его линеаризацией вблизи {д, Id). В случае g = Aj где A(z) = Л2, мы вычислили DgJ"(fi', Id) в § 2.7 и обнаружили, что (12.3.2) принимает вид и = 'шоЛ —Ло-ш. (12.3.3) с» оо Для данных и= ^ щг'', полагая w= ^ Wj^z'^j мы получим Теперь следует использовать лемму 12.3.3, потому что мы будем решать (12.3.3), находя коэффициенты w из (12.3.4). Но в (12.3.4) необходимо, чтобы коэффициент 7]:=Uy равнялся нулю. Однако, в отличие от доказательства теоремы Зигеля, мы не знаем, так ли это, так что сначала
412 Часть 3. Гл. 12. ДИФФЕОМОРФИЗМЫ ОКРУЖНОСТИ заменим в (12.3.3) и на u(z):= u{z) — 7]z. Мы также не знаем, сохраняет ли «кандидат в сопряжение» h единичную окружность, но, оказывается, для наших целей это не важно. Вне зависимости от этого сопряжение, которое мы в конце концов получим, сопрягает отображение /J^i с преобразованием поворота окружности, так как оно сопрягает / с преобразованием поворота кольца. Рассмотрим теперь следующий итерационный процесс. Полагая, что отображения /i,..., /„ уже найдены, решим уравнение /„-5 + д:г(5,ик^,=о (12.3.5) и положим '»n+i = '»„°(Id+t«„^,)H/„^,=/i-|,o/„o/i„^,. (12.3.6) Последний шаг нашей конструкции — доказательство сходимости последовательности h^ в соответствующей топологии. Этот факт следует из тех же самых оценок, которые обеспечивают быстрое убывание нормы величины fn-9- Для того чтобы сохранить обозначения настолько близкими к доказательству теоремы Зигеля, насколько это возможно, будем полагать, что |ir| < е в А^. Используя лемму 12.3.2, мы можем считать, что то же выполнено для и\ так что и <е и |ti'| < е в Л^. (12.3.7) Замена и на гГне изменяет равенства (12.3.4): из (12.3.3) мы снова получаем, что Wf^ = "пг—-- Таким образом, лемма 12.3.3 применима к отображению А ~" А и, если взять р = ги<5=е, ипо этой лемме w\<2ecQc{d)A-^^-'^K (12.3.8) Заметим, что, дифференцируя (12.3.3) и умножая результат на z, мы получаем, zu{z)~ Xzw'(Xz) — Xzw'(z), так что, снова применяя лемму 12.3.3, можно заключить, что 2ti;'(2)| <2recoC(d)A-('^ + *>, (12.3.9) поскольку ziT <ге в А^. Получив «кандидат» в сопряжение h(z) = 2 -h w{z), мы теперь хотим показать, что новое отображение /i = /i"' of oh определено в кольце А^^^^^у если е достаточно мало. Лемма 12.3.4. Если 2ecoc(d)<A'+2(l-A)/r цО<А<;^, (12.3.10) то (1-д))- (12.3.11) Доказательство. Чтобы доказать первое включение из (12.3.11), положим \z\ < г(1 — 4А) и, используя (12.3.8), получим \h{z)\ ^ \z\ -h \w{z)\ < r(l -4A) -h2ecoc(d)A-<'' + '> < r(l -4A -h A). Несколько более сложные вычисления показывают, что из неравенства \l/z\ < г(1 —4А) следует неравенство \h{z)\ ^ 1/г{1 —ЗА), что доказывает первое включение.
§ 12.3. ЛОКАЛЬНЫЕ АНАЛИТИЧЕСКИЕ СОПРЯЖЕНИЯ 413 Чтобы установить второе включение из (12.3.11), заметим, что \h(z)— — z\ = \w(z)\ < А по П2.3.8) и (12.3.10), в то время как для \z\ = г(1 — А) мы, очевидно, имеем ]z\ — г(1 —2А) = гА> |'ш(2)|. Таким образом, \h(z)\ = -(h{z)-z)\^\z\-\wlz)\>r{l-2A). вновь более сложное вычисление показывает, что из равенства \l/z = г(1 — А) следует неравенство \h(z)\ < 1/г(1 — 2А). (Это единственный момент, где используется величина г из (12.3.10).) П Чтобы доказать, что отображение /i определено в А^^^^^^)' представим его к^ fy(z)~ Xz -h Ui{z). Следующая лемма показывает, что ошибка приближения убывает с квадратичной скоростью. Лемма 12.3.5. Если 2ec^c(d)<A'+2(l-A)/r и 0<е<А<^, (12.3.12) то отображение f^ определено в кольце А,.(1_4Д) и для некоторой универсальной константы с'. Доказательство. По лемме 12.3.4 мы имеем /i(A^(i_4A))C А^(1_зд)- Согласно (12.3.7) выполнены неравенства \f(z)\ ^ г(1—3A)-he<r(l—2А) и 1/(2)1^ 1/(г(1-ЗА))-е> Г/(г(1-2А)) в А,(,_зд)- По лемме 12.3.4 отображение /i"' определено в А^(,_2Д), и, следовательно, /i =h~- о f oh определено в А,.(,_4Д). Теперь перепишем уравнение ho f^=f oh в виде Xz -h ^1(2) + w(Xz -h u^{z)) = X{z -h 'uj(z)) -h u(h(z)). Согласно нашему варианту уравнения (12.3.3) мы имеем u(z)—t]z = w(Xz)— — Xw{z), Выражая из последнего равенства Xw{z)y получим u^(z) = w(Xz) - w(Xz -Ь Uy{z)) -h u(h(z)) - u(z) -h 7/2. (12.3.13) Теперь no теореме о среднем значении и из (12.3.9) можем получить w(Xz) - w(Xz -h u^{z))\ ^ sup \w'\ sup \щ\ ^ J+i sup hil < ^ sup \щ также u(h(z))-u{z)\^s\ip\u'\\w\<e^2rcQc(d)/::i-^^-''^ в Л,(1_4д,. Мы дошли до важного момента нашего доказательства, аналога которому в доказательстве теоремы Зигеля нет. Чтобы оценить величину tfz, будем использовать тот факт, что число вращения отображения / равно а, где Л = = е^*^. Это означает, что число вращения отображения f^ на инвариантной окружности h(S^) также равно а. (Напомним, что мы не знаем, верно ли, что h{S^)= 5^. Отсюда видно, что этого и не нужно знать.) Мы имеем /j(2) = (Л -h rf)z -h (^1(2) - Tfz). Как следует из установленного ранее, u^(z)-V2\<Se^rc^c{d)M'^-''^=: х. (12.3.14)
414 Часть 3. Гл. 12. ДИФФЕОМОРФИЗМЫ ОКРУЖНОСТИ Чтобы показать, что \Tf\ мало, докажем, что и абсолютные значения, и аргументы комплексных чисел (Л -h?;) и Л близки. Сначала напомним, что, поскольку f^ сопряжено с / с помощью диффеоморфизма /i, близкого к тождественному, его инвариантная окружность h(S^) близка в С'-топологии к 5'. Мы можем считать, что эта окружность содержится в кольце 2^\z\> 1/2. Допустим, что |А -|-7;| ^ 1 (случай |Л -hT/l < 1 полностью аналогичен). Пусть ZqE. h(S^) — точка, в которой достигается максимум абсолютной величины. Тогда l-s^l ^ |/i('3i,)| ^ l-^+^ll-SoH'^ согласно (12.3.14). Таким образом, (|Л -Ьт;| - 1) ^ 'L. <2х. (12.3.15) Аналогично, поскольку число вращения преобразования /,, ограниченного на инвариантную окружность h(S^), равно а =(argA)/(27r), мы заключаем, что величина arg/i(2) — arg2 —argA должна обращаться в нуль в некоторой точке z^ е h(S^). Но по (12.3.14) мы имеем arg/i(2,) - arg(2,) - arg(A -hт/Х arcsin |^д_^^^^^ < T^^2i ^ ^''• Последние два неравенства следуют из (12.3.15) и из того факта, что число X достаточно мало. Таким образом, arg(A + ^ — ^^^ ^ ^'^' ^"^ этого неравенства и из (12.3.15) мы получаем \'г\\ ^ 10х. Дальнейшие рассуждения проводятся аналогично доказательству леммы 2.8.6. D Теперь мы должны установить сходимость последовательности /i„ в (12.3.6). Необходимые для этого оценки совершенно аналогичны соответствующим оценкам из доказательства теоремы 2.8.2, и заключительная часть доказательства требует совсем небольших и рутинных поправок. Тем самым мы доказали теорему 12.3.1. D § 12.4. Инвариантные меры и регулярность сопрягающих отображений Без ограничений на скорость приближения числа вращения рациональными числами нельзя сделать никаких заключений о регулярности отображения, сопрягающего данный гомеоморфизм с отображением поворота (кроме непрерывности, гарантируемой теоремой 12.1.1). В следующих двух параграфах мы покажем, что для С°°-отображений действительно могут реализоваться почти все мыслимые виды нерегулярности сопрягающего отображения. Замечательное исключение представляет собой простой результат, гласящий, что липшицево сопряжение обязательно должно принадлежать классу С. Самая сильная, но в определенном смысле самая типичная патология, которой может обладать сопрягающее отображение, — это сингулярность, т. е. ситуация, когда множество лебеговой меры нуль переводится в множество полной меры и наоборот. Мы покажем, что это случается при соответствующих значениях параметра в большинстве однопараметри- ческих семейств. Как мы показали в конце предыдущей главы (см. теорему 11.2.9), транзитивный гомеоморфизм /: 5* —* 5' строго эргодичен, и единственная
§ 12.4. ИНВАРИАНТНЫЕ МЕРЫ 415 инвариантная вероятностная мера ji получается из лебеговой меры Л, единственной инвариантной вероятностной меры поворота Rrijy с помощью сопряжения h\ 5' -+ 5' по формуле д = /i^A, т. е. д(Л) = Л(/1~'(Л)). Предложение 12.4.1. Инвариантная мера fi всякого С -диффеоморфизма окружности либо абсолютно непрерывна, либо сингулярна. Доказательство. Пусть /J'= /J'^-\-fJ^, где мера /Xj абсолютно непрерывна, а мера fj^ сингулярна. Так как каждый диффеоморфизм сохраняет совокупность множеств лебеговой меры нуль, Mi -1-^2 = М = /*М = /*Mi -^f*ih* следовательно, обе меры д, и ^Uj инвариантны и в силу строгой эргодичности одна из них нулевая. П Используя связь между строгой эргодичностью и равномерностью распределения орбит (см. предложение 4.1.14), мы получаем следующий результат. Теорема 12.4.2. Пусть /: S^ ^ S^ —транзитивный сохраняющий ориентацию гомеоморфизм^ ^—единственная инвариантная вероятностная борелевская мера, Е с S^ —конечное объединение открытых интервалов (или замкнутых отрезков), Хе —^^о характеристическая функция и хе S\ Тогда n—♦ оо fc = 0 Допустим теперь, что дана мера д и мы хотим получить информацию о сопрягающем гомеоморфизме h. Обозначим отрезок на 5' через [•, •]. Полагая 2^ = /г(0), мы видим, что y=h(x) однозначно определяется условием Д([%,2/]) = М([%,2/]) = А([0,х]) = х, (12.4.1) так как мера /л положительна на непустых открытых множествах. Таким образом, инвариантная мера fi однозначно определяет h с точностью до поворота. Чтобы использовать это свойство, отметим следующее непосредственное следствие теоремы Готшалка — Хедлунда 2.9.4. Предложение 12.4.3. Предположим, что отображение/: 5'—>5' липшицево сопряжено с поворотом на иррациональный угол. Тогда это сопряжение принадлежит классу СК Доказательство. Из условия следует, что К\= sup sup |(/")'|<оо, n€Zxe5' откуда, в свою очередь, Х/К < (/")' ^ К для всех п е Z, поэтому оо > п-1 >sup| log(/")'| = | Z)(log/')o/*| И ПО теореме 2.9.4 существует такая непре- nez 1=0 рывная функция у?: 5' ->R, что \ogf' = (p~(pof. Добавляя к функции (р кон- X станту, мы можем считать, что J е*^ = 1. Теперь положим h{x) := J e'^^^^t. 5> О Тогда сопряжение h: 5' —*5' принадлежит классу С* и его производная не обращается в нуль, и, следовательно, h'^ также принадлежит классу С. Кроме того, (h' о /)/' = h'; следовательно, hof = Л^(^) oh. П Теперь мы можем подвести итог описанию связи между свойствами инвариантной меры и регулярностью сопряжения с преобразованием поворота.
416 Часть 3. Гл. 12. ДИФФЕОМОРФИЗМЫ ОКРУЖНОСТИ Предложение 12.4.4. Пусть f — транзитивный сохраняющий ориентацию диффеоморфизм окружности. Инвариантная мера диффеоморфизма / абсолютно непрерывна относительно лебеговой меры с плотностью класса С тогда и только тогда, когда / сопряжен с преобразованием поворота R^ посредством С"" -^^ -диффеоморфизма h. Ограниченность плотности сверху и отделенностъ ее от нуля эквивалентны тому, что сопряжение является С^ -диффеоморфизмом. Доказательство. Предположим, что инвариантная мера абсолютно непрерывна и имеет плотность р. Тогда по (12.4.1) мы имеем Цх) p(t)dt = X. т. е. p{h(x)) = l/h'(xy Если g=h~\ то р(х) = ^(х). Таким образом, отображение д получается интегрированием р. Если плотность р непрерывна, она должна быть строго положительной, поскольку множество А таких точек, что р = О, является /-инвариантным и замкнутым, так что в силу транзитивности / либо Л =0, либо А = S\ Но в последнем случае р =0. Таким образом, если плотность р принадлежит классу С, г ^0, то отображение д принадлежит классу С*""*"' и д'^0, следовательно, и сопряжение h = д~^ также принадлежит классу С" + '. Если О < а < р < &, мы получаем a<M£)z4^<b и, следовательно, 1 ^\h(x)'h{y)\ ^ 1 Ь^ \х--у\ ^ а' Таким образом, и сопряжение, и обратное к нему отображение липши- цевы, и потому последнее нужное нам заключение следует из предложения 12.4.3. D Следовательно, чтобы найти диффеоморфизм окружности, сопряженный с преобразованием поворота лишь посредством недифференцируемого отображения, достаточно установить сингулярность инвариантной меры относительно меры Лебега. § 12.5. Пример сингулярного сопряжения Центральная идея построения примера сингулярного сопряжения — использование индуктивного процесса с целью извлечь из однопараметриче- ского семейства отображений последовательность отображений, инвариантные меры которых «сосредоточиваются во все большей и большей степени» на множестве лебеговой меры нуль. Тогда инвариантная мера отображения с предельным параметром сингулярна. Как мы видели в предыдущем утверждении, это означает, что в данном случае не существует дифференцируемого сопряжения с преобразованием поворота.
§ 12.5. ПРИМЕР СИНГУЛЯРНОГО СОПРЯЖЕНИЯ 417 Теорема 12.5.1. Существует такой аналитический сохраняющий ориентацию диффеоморфизм /: S^ —^ S\ что f =ho R^^^^ о h~\ где гомеоморфизм h недифференцируем. Доказательство. Рассмотрим семейство /^ диффеоморфизмов окружности, индуцированное отображениями F^(x) = х-\-а -\-/isin2irx для некоторого фиксированного числа д, |д| < 2^- Оно нам уже встречалось, как однопараметрическое подсемейство семейства, рассмотренного в упражнениях 11.1.4-11.1.7. Сделаем сначала одно полезное техническое наблюдение. Лемма 12.5.2. Отображение /^ не может иметь бесконечно много периодических точек. Доказательство. Заметим, что отображение F^ продолжается до целой функции на С с существенно особой точкой в оо. Следовательно, по теореме Пикара F^ не инъективно, и потому никакая его степень F^ не инъективна. С другой стороны, существование бесконечного множества периодических орбит означает, что т{/^)=р/д для некоторых p^qeZn нули функции F^{x)— х — р на. [0,1] имеют точку накопления. Таким образом, F^ = Id -h;> на С в силу аналитичности этой функции. Но инъективность функции Id -\-р приводит к противоречию. D Поскольку семейство Д монотонно по а, по предложению 11.1.8 числа вращения р(а):=г(/ц) возрастают с ростом а. Следующее наблюдение играет главную роль в нашем построении. Предположим, что а —правый конец некоторого отрезка /, для которого т{/^) = Р/я(1^ ^^)- Доказательство предложения 11.1.10 показывает, что в этом случае F^{x)-х^р для всех хеМ (и F^{x) — х=р для некоторого х€М). Так как существует не более чем конечное множество периодических орбит, все они полуустойчивы и все другие точки под действием итераций j^ перемещаются в одном направлении. Таким образом, любая окрестность Ё множества периодических точек / обладает тем свойством, что для е > О существует такое N eN, что для люоого отрезка орбиты длины N найдется не более чем eN точек вне Е, или A^XsUa^ ^)'-= (^/Ю J2 XE(fa(^))> ^-^ fc=0 для всех X е 5'. Следовательно, для любого достаточно малого возмущения / функции Д и тех же самых Е и N мы имеем ^лгХв(7,а;)>1-2е, хе5'. Теперь положим A^XeU)-- inf{A^rXs(/ а;) | х е S^J. Начнем построение с выбора ;>i, q^eZ, а^=тахт '(pj/gi) и такой окрестности Е^ множества периодических точек, что X(Ei) < 1 (где Л —мера Лебега на 5'). Выберем N^eN так, что Ад^^Хв^/а^) > 1/2. Для всех следующих а„ мы требуем выполнения условий Используя индуктивный процесс, можно выбрать последовательность а„ так. что
418 Часть 3. Гл. 12. ДИФФЕОМОРФИЗМЫ ОКРУЖНОСТИ 1) а„ удовлетворяют условиям, наложенным на всех предыдущих шагах, 2) «„>«„-,, 3) a„ = max(r-' (p„/g„)), 4)(p„/g„)-(p„-,/g„_,)<(2(n-l)% max gf)-'. Это может быть сделано с помощью предложения 11.1.11. Пусть Е^ — окрестность множества периодических точек Д лебеговой меры Х{Еп) < —, состоящая из конечного набора открытых интервалов. Выберем N^ е М'так, что ^N^XESfaJ> ^~ 2nl' и для всех следующих а^ потребуем Положим а = lim а„ и обозначим через д инвариантную меру преобразо- п—юо вания Д. Мы докажем, что мера fi не является абсолютно непрерывной относительно меры Лебега. Заметим, что lim а„ существует, поскольку последовательность {а„} мо- п—»оо нотонна. Эта последовательность ограничена числом Q^i-hjo- Кроме того, число вращения T(f^) иррационально в силу непрерывности: t(/^)= lim p^/q^ и, следовательно, п—* оо <^<1 оо оо оо Ша) qj^2^\q^^, gJ^2^2Jfc2 max qf^^2k^ql'^ I2q^ ^ ql' В TO время как для таких p/q € Q и n € N, что g^ > g, мы имеем РЯп - ЯРп ЯЯп я1 В частности, инвариантная мера для Д единственна. Далее, Ад^ Xs (Л) > ^ ~ "^ А^я ^^^^ п eN. По построению величины А^Хе это значит, что п п ^mXs„(/a)>l-:^ ДЛЯ всех m>JV„. Поскольку jB„ представляет собой объединение конечного числа открытых интервалов, мы можем использовать равномерность распределения (теорему 11.3.1) и заключить, что M£^J>l-ij (neN). Однако E^<ZF^\=- (J Е^ при п:^т, так что д ( jP,„ ) > 1-^^ для всех neN. к'^тп Следовательно, 1л{Е^) = 1 и ^(jP) = 1 для F := f] F^, meN
§ 12.6. МЕТОДЫ БЫСТРОЙ АППРОКСИМАЦИИ 419 Но X(F^) < J2 ^(^п) —^ О И, следовательно, X(F) = 0, так что мера д сингулярна. Тогда по предложению 12,4.4 отображение Д не является гладко сопряженным с преобразованием поворота. D Замечание, Упражнение 12.5.1 показывает область применимости этого метода. Так как сопрягающий гомеоморфизм — монотонная функция, он почти всюду дифференцируем. Однако, так как он сингулярен, производная равна нулю почти всюду. Упражнение 12.5.1. Пусть д^: 5* —* 5*. t е [а, Ь], — такое семейство диффеоморфизмов, что набор их поднятий C?j иа R представляет собой семейство целых функций, зависящее от * непрерывно. Предположим, что диффеоморфизм д^ не является поворотом для любого t и что числа вращения т{д^) не постоянны. Докажите, что существует несчетное множество таких чисел *, что диффеоморфизмы д^ топологически сопряжены с поворотом на иррациональный угол и их инвариантные меры сингулярны. § 12.6. Методы быстрой аппроксимации 12.6 а. Сопряжения промежуточной регулярности. В этом параграфе мы опишем другую индуктивную конструкцию С°°-диффеоморфизмов с иррациональными (но очень хорошо аппроксимируемыми) числами вращения, сопряженных — с почти любой возможной степенью регулярности — с поворотом. В частности, мы можем сделать это сопряжение сингулярным, или абсолютно непрерывным, но не липшицевым, или принадлежащим классу С"", но не принадлежащим классу С'"+' для любого заданного г е N. Подобно методу Ньютона, имеющему многочисленные приложения помимо двух описанных в этой книге, эта конструкция представляет собой лишь простейший пример применения другой иидуктивиой процедуры, используемой для эффективного доказательства существования целого ряда динамических систем с необычными свойствами, существование которых не удается установить иным образом. Подчеркнем, что существование сингулярного сопряжения с поворотом является типичным явлением в следующем смысле: в С°°-замыкании множества С°°-диффеоморфизмов окружности, С°°-со- пряженных с преобразованием поворота, содержится массивное множество диффеоморфизмов, сопряженных с преобразованием поворота посредством сингулярного гомеоморфизма. Это, конечно, означает, что диффеоморфизмы окружности, сопряженные с поворотами посредством абсолютно непрерывных гомеоморфизмов, в частности липшицевых либо гладких, образуют множество первой категории. Заметим также, что применение этого метода ограничено категорией С°°-отображений, а применение его к категории аналитических отображений, не будучи полностью невозможным, наталкивается на серьезные, не преодоленные трудности. Теорема 12.6.1. Для любого из перечисленных ниже свойств 1)- 3) и любой окрестности нуля U в C°°{S^) существуют такое число а и такое отображение /: 5' -^ 5', что f - R^€U и f сопряжено с R^ С
420 Часть 3. Гл. 12. ДИФФЕОМОРФИЗМЫ ОКРУЖНОСТИ посредством сопрягающего отображения /i, которое обладает этим свойством: 1) h сингулярно, 2) h абсолютно непрерывно, но не липигицево, 3) h принадлежит классу С, но не принадлежит классу С + ', г е N. Доказательство. Будем строить а как предел последовательности а„ =p^/q^ 6 Q, определенной индуктивно следующим образом: a^^j = = a„-h/?„, где /?„= ;^-^. Гладкость отображения / обеспечивается аккуратным выбором К^, который будет объяснен ниже. Для каждого п построим отображение A„ = Id-ha„: 5'—> 5', cini^ + {^/q^-1)) = ^Л^)^ и положим /i^=AiO.. .оЛ„ и Д ;= А„оЛр ^q °^п'- Объясним теперь выбор К^ и покажем, каким образом он гарантирует сходимость последовательности f^^f в С7°°-топологии. Для этого положим -1 „ L-l K°RpJa°K + l°Rl/Ka''^nll°K 1 поскольку преобразование Л„ , i коммутирует с Ry, по построению. Заме- 1 ТИМ теперь, что если -щ- =0, то /„ + 1^^ = /п» так что для достаточно больших К функции Д^1 д^ и Д могут быть сделаны сколь угодно С°°-близкими. Таким образом, мы можем выбрать числа К^ столь большими, чтобы последовательность, определенная условием fn + i= /п + \,к ^ сходилась в С°°-топологии к такой функции /, что f — R^eU, как нам" и нужно. В ходе доказательства мы покажем, что сопряжения /i„ сходятся в С°-топологии, тогда их предел h будет представлять собой требуемое сопряжение. Нужные нам свойства отображения h вытекают из соответствующих свойств /г„. Заметим сначала, что мы всегда можем выбрать С°-норму функции а„ достаточно малой, так что /i^^j будет сколь угодно (7°-близко к /i„ (и то же верно для обратных отображений), и, следовательно, последовательность /i„ сходится в С°-топологии к некоторому отображению h. Поскольку fn°K = K^^v la > переходя к С°-пределу, мы получаем, что foh = /юЛ^, где h: 5' —* 5' —монотонное сюръективное отображение. Но если h переводит интервал в точку, то оно переводит и образ интервала относительно R^ в точку, а так как конечное число таких образов покрывает всю окружность 5", это противоречит сюръективности, так что h является гомеоморфизмом и f = hoR^oh'-^. Начнем с доказательства второго пункта нашей теоремы. Рассмотрим случай абсолютно непрерывного сопряжения, не принадлежащего классу С*. Сделаем носитель а^ таким малым, что его образ под действием /i„_ i имеет меру д„ —* 0. Это приводит к тому, что почти для каждой точки х после- П —♦ ОО довательность h^{x) стабилизируется, что гарантирует абсолютную непрерывность h. Теперь мы должны показать, что это можно сделать таким образом, что не появится сходимости в С-топологии. Для этого выберем а„ так, что абсолютное значение производной h„ в некоторой точке равно по крайней мере числу М„ —*оо и мера множества /i„_i(supp(a„)) меньше половины меры того множества, на котором производная h^_^ превосходит
§ 12.6. МЕТОДЫ БЫСТРОЙ АППРОКСИМАЦИИ 421 М„_1. Таким образом, предельная функция h совпадает на множестве положительной меры с функцией, модуль производной которой больше чем М^. Так как множества положительной меры имеют точки накопления, то, если отображение h дифференцируемо, его производная неограничена. Таким образом, h не может принадлежать классу С' и, следовательно, по предложению 12.4.3 h не липшицево. Тем самым доказательство второго пункта теоремы закончено. Перейдем к доказательству третьего пункта теоремы. Мы будем использовать тот факт, что для любого данного г можно построить функцию с произвольно малым носителем, которая мала в С-топологии, но велика в С''+'-топологии. Такие функции можно получить, если взять какую- либо С'°-малую функцию с большими производными, например функцию, локально выглядящую, как esm(x/S), и проинтегрировать ее г раз. Рассмотрим сначала случай г = 1, так как обозначения в этом случае более просты. Мы должны удостовериться, что производные h^ малы, а вторые производные велики. Для этого рассмотрим соотношения между производными К и /г„+1- Заметим, что K + \=(K''^n + iY =К°^n + i'i^ + < + i)- Так как функции а„ малы в С'-топологии, мы получаем, что функции /i„+i будут С-близки к /i„, как и нужно. С другой стороны, вторые производные связаны соотношением /i"^i = /i^'oA„ + i -(^+(^п + \)-^ K°^n + i-K + i- Первый член справа близок к h". Во втором члене композиция /ij^oA„ + i близка к единице и, следовательно, отделена от нуля (равномерно по х), так что мы можем выбрать а„ + , таким образом, что вторая производная /i„^, значительно превосходит вторую производную /г„ на некотором множестве. Заметим, что для доказательства того факта, что отображение /i~' принадлежит классу С\ нет необходимости получать явные выражения для производных обратных отображений, потому что отображения h^ близки к тождественному в С'-топологии и, следовательно, производные обратных отображений малы при условии, что производные /i„ малы. Таким образом, мы получаем нужный пример. Теперь рассмотрим произвольные значения г. Выражение к-й производной /i„ + i через к-ю производную /i„ весьма трудоемко. Вполне достаточно, однако, понять, как соотносятся члены высшего порядка. Заметим сначала, что в выражение для г-й производной /i„ + i входят лишь производные a„+i и /i„ вплоть до порядка г, которые хорошо контролируются. В частности, член, содержащий h^^\ имеет вид /i^''>oA„+i •(! -haC,+ i) и, следовательно, близок к h^\ а вклад всех остальных членов мал. Рассматривая производные (г -h 1)-го порядка, мы должны заметить, что член, содержащий W*""^ '*, вновь имеет вид /i^''+'>oA„^i •(! -ha^„ + i) и, следовательно, близок к hJl'-^^K Кроме того, величина af^+P снова входит в эти выражения с множителем /i^ оЛ„+1, который, как мы объяснили в случае г = 1, равномерно отделен от нуля, и, следовательно, мы можем выбрать a„^i таким образом, чтобы получить желательный эффект на Л^^^/*- потому что все остающиеся члены включают только производные более низкого порядка и, следовательно, малы. Тем самым доказательство третьего пункта теоремы закончено. В заключение мы докажем первый пункт теоремы, построив сингулярное сопряжение. На этот раз построить поточечно стабилизирующуюся последовательность сопрягающих отображений невозможно, но это и не нужно. На п-м шаге рассмотрим д„ фундаментальных областей отрезка / длины 1/д„ для преобразования поворота Лр ^^ . Возьмем некоторое N eN и раз-
422 Часть 3. Гл. 12. ДИФФЕОМОРФИЗМЫ ОКРУЖНОСТИ делим каждую из этих областей на N равных частей. Теперь рассмотрим 4;5здро» С — отрезок, содержащий все кроме первого и последнего из этих частей отрезка I. В качестве А^ возьмем гладкую функцию, совпадающую с тождественным отображением в окрестности концов I и такую, что ее производная настолько мала на каждом множестве С, что h'^ < 5„ на С, где 5^ —> 0. В качестве К^ мы берем некоторое кратное N (достаточно большое, как описано в начале доказательства), так что А^^ у сохраняет разбиение на отрезки отрезка I и ядра С, построенное на п-м шаге. В результате получаем, что мера A(/i^(U С)) < 5„ для всех к'^п. Следовательно, A(/i(U С))=0 независимо от номера шага, на котором было построено ядро С. Поскольку A(U С) —> 1 при п —> ОС, сингулярность h установлена. D 12.6 б. Гладкие коциклы с нерегулярными кограницами. Приведем аналогичную, но линейную конструкцию, которая позволяет строить примеры минимальных неэргодических преобразований с помощью предложений 4.2.5 и 4.2.6. Мы построим такую аналитическую функцию (р, что (р{х) = Ф{х-{-а) — Ф{х) с очень сильно разрывной функцией Ф. Сильная разрывность в этом контексте означает следующее. Определение 12.6.2. Пусть X, Y — топологические пространства и /i —мера на X. Измеримое отображение /: X —> У называется метрически плотным относительно /х, если для всех непустых открытых множеств и СХ, V cY выполнено условие jj.{U П /~^{У)) > 0. Предложение 12.6.3. Существуют такое число aeR и такая аналитическая функция (р: 5* —>Е, что (р{х) = Ф{х-{-а) —Ф{х), где функция Ф: 5' —> R измерима и метрически плотна относительно меры Лебега. С помощью предложений 4.2.5 и 4.2.6 можно доказать такое следствие. Следствие 12.6.4. Суи^ествуют аналитические минимальные неэргодические диффеоморфизмы тора Т^. Доказательство следствия. Рассмотрим отображение /: Т^ —> Т^ вида /(ж, у) = (а;-|-ог, y-|-i^(a;)), где ср — функция, построенная в предложении 12.6.3. По предложению 4.2.5 для отображения / имеется несчетное множество различных эргодических инвариантных мер; в частности, у этого отображения есть неэргодические инвариантные меры. Если бы / не было минимальным, по предложению 4.2.6 мы имели бы (р(х) = 'ф(х'\-а)~'ф(х)'\-г для некоторой непрерывной функции ф: 5'—*Е и г eQ. Но тогда для F = 'ф—Ф имело бы место равенство F{x'\-a) — F{x) = r, причем г^О, поскольку иначе F = const из эргодичности Л^, что невозможно, так как функция Ф разрывна. Таким образом, мы можем предполагать, что г > О (случай г < О рассматривается аналогично). Тогда F{x -j- а)— F(x) -\-r > F(x) для всех xeS\ Но существует множество А =F"'(—оо, с) положительной меры, что противоречит теореме Пуанкаре о возвращении 4.1.19. D Теперь докажем предложение 12.6.3. Доказательство. Удобно перейти к мультипликативной системе обозначений на окружности, рассматривая ее как единичную окружность в С. Тогда отображение х \-^ х '\- а переписывается как z *-^ Xz, где А = е^"*". Определим последовательность Ф^ индуктивно, полагая Ф„ =
§ 12.6. МЕТОДЫ БЫСТРОЙ АППРОКСИМАЦИИ 423 п Е Q^,,.m,(-2^)' ^Де D^^^-.S'^R —ядро Дирихле к = 1 т-1 ^Я,г.(^) = ^(^''-^^~^)- У.= 1 Плотность функции D^„^{z) сконцентрирована вокруг корней степени q из единицы. Наша конструкция состоит в соответствующем выборе величин Q, q^ и т^. Выбор С^, как выясняется, может быть совершенно произвольным. Мы полагаем а^ =p^/q^^ or = lim а^ и Ф= lim Ф^. Покажем, что п—*оо п —*оо последний предел есть предел по мере, т. е. ij.({z \ \Ф(г) — Ф„(2;)| ^ е}) —> О при п —> ОС для любого £>0. Для этого, конечно, достаточно показать, что 1_1^ ^ := ij,({z I |Ф^^ 1 {г)-Ф^{г)\ > е}) — суммируемая последовательность для каждого £. Предположим теперь, что мы выбрали С^, q^ и т^ для всех к ^п таким способом, что функция (р^{г):=Ф^{Х^г) ~Ф(г) аналитична в окрестности S^. Тогда мы можем выбрать Ф^(Х^_^_^г) — Ф{г) сколь угодно близко к (р^, взяв достаточно большое L^ и полагая c^n + i = "^п + Г~5~- Выбирая L^ (и m^^i) достаточно большими, мы обеспечиваем достаточную близость функции Ф„^1 к метрически плотной функции (поскольку корни степени g^^i из единицы будут (27г/д„^1)-плотными), а выбирая m^+i достаточно большим, мы получаем, что Ф„^1 достаточно близко к нулю по мере, а это гарантирует сходимость. Выбор m^^i также гарантирует тот факт, что степень метрической плотности растет так, как нам нужно (т. е. последующие шаги не могут существенно повлиять на предыдущие). Заметим теперь, что, поскольку функция Фп + i " ^п = Q+i-^l а m является (27г/д^)-периодической, мы получаем <Рп+1{^)'=Фп+1(^п+1^) ~ ~^n+\i^) = ^n(^n+i^)~^ni^)^ а эта функция по построению настолько близка к (р^г насколько нам нужно, что и завершает доказательство. Заметим, что константы С^ нами не определялись и могли быть выбраны, вообще говоря, произвольно. Соответственно можно выбрать их убывающими более или менее быстро, получая в результате либо интегрируемую, либо неинтегрируемую функцию Ф. D Упражнения 12.6.1. Покажите, что в случае (2) нашей конструкции из первого пункта производные h и h~^ неограничены (и, следовательно, разрьшны) на каждом отрезке. 12.6.2*. Модифицируйте конструкцию для случая (2) так, чтобы производная h': А -+ [О, оо) являлась метрически плотной. 12.6.3 Покажите, что множество чисел вращения а, для которых может быть установлено заключение теоремы 12.6.1, массивное (т. е. содержит плотное подмножество типа G^).
424 Часть 3. Гл. 12. ДИФФЕОМОРФИЗМЫ ОКРУЖНОСТИ § 12.7. Эргодичность относительно меры Лебега Мы закончим эту главу результатом, который показывает, что любой диффеоморфизм окружности ведет себя относительно меры Лебега в известном смысле подобно преобразованию поворота на иррациональный угол. Сначала распространим определение эргодичности, введенное для инвариантных мер в определении 4.1.6, на случай неинвариантных мер. Определение 12.7.1. Пусть /: X ^ X — взаимно однозначное соответствие и /х —такая вероятностная мера на X, что мера /,/х эквивалентна /i. Тогда мера /х называется квазиинвариантной мерой. Если каждое /i-измеримое /-инвариантное подмножество X имеет меру /х, равную либо нулю, либо единице, то / называется эргодическим преобразованием относительно /л. Заметим, что мера Лебега квазиинвариантна для любого диффеоморфизма окружности. Следующая теорема, как и некоторые предыдущие результаты, основана на оценке ограниченности искажения. Теорема 12.7.2. Пусть /: 6" —^ 6" — такой сохраняющий ориентацию диффеоморфизм, производная которого является функцией ограниченной вариации, что его число враи^ения иррационально. Тогда f — эргодическое относительно меры Лебега преобразование. Замечание. По теореме Данжуа диффеоморфизм / топологически сопряжен с преобразованием поворота и, следовательно, как показано выше, строго эргодичен. Как мы видели в двух предыдущих параграфах, /-инвариантная мера может быть сингулярной, так что мера Лебега может не быть эквивалентна никакой инвариантной мере (см. предложение 5.1.2). Лемма 12.7.3. Пусть F — поднятие диффеоморфизма /, а<Ь < <c<d<a'\-\eR, nGN, V — полная вариация log/' и N — кратность покрытия, т. е. максимальная кратность, с которой проекция {7r(i^*([a, c?]))}j*rj покрывает точки 5' (см. упражнение 10.0.5). Тогда F'^d) - F"(a) ^ d-a^^^^^ ^' Доказательство. По теореме о среднем значении существуют такие точки х,- е F*{[b, с]) и у^е F^{[a, d]), где О ^ г ^ n — 1, что РЦс) - РЦЬ) = (с - 6) • П ^'pSllZpui)^^ = (<= - ^) • П ^'(==^) i=0 ^ ' ^ ' i=0 и п-1 F"(d) - F-(а) = (d - а) ■ Л F'(у,) 1=0 Таким образом. П'^="(^Л F-ic) - F-ib) с - b /Л ^'' с-Ъ (f-(iogp,(^ )-[osF'(v )) П Р'Ы) 1=0
§ 12.7. ЭРГОДИЧНОСТЬ ОТНОСИТЕЛЬНО МЕРЫ ЛЕБЕГА 425 Но если Д,- — отрезок с концами х^,у,-, то 7г(А^ с 7r(F*([a, с?])) и, следовательно, {7г(А )}"=/ покрывает точки 5' с кратностью, не превосходящей N. Поэтому оо ^ NV, откуда следует утвер- Е (log F'(x,)-log F'(y,)) ждение леммы. D Обозначив через А меру Лебега, мы получим такое следствие. Следствие 12.7.4. Пусть a<d <а'\-\ eR, В cR — измеримое по Лебегу множество, п е N и F,N,V — такие же, как и прежде. Тогда A(J-"(Bn[a,d])) XiBn\a,d]) . A(i^»([a, d])) ^ X([a,d]) e^Pt^»^)- Доказательство. Заметим, что знаменатели в обеих частях неравенства такие же, как в последней лемме, и что мера Лебега определяется через покрытия множества отрезками. D Лемма 12.7.5. Для £>0, хЕ S^ суи^ествуют такое г eN и такая дуга А = А{х, £) с S', что хе А, X{f'{A))==£ (г=0,..., г), (j f'{A) = S' 1=0 и кратность этого покрытия не превосходит трех. Доказательство. По теореме Данжуа 12.1.1 мы можем считать, что / — иррациональный поворот и х = 0. Выберем к eN так, что щ := |/*(0)| < < |/*(0)| для 0<г <к и щ <£. Тогда легко видеть, что А(0, £):= {~щ, щ) и г = к — \ -|-min{i > О 11/*(0)| < |/*(0)|} удовлетворяет утверждению леммы D Доказательство теоремы 12.7.2. Предположим, что множество Ас S^ измеримо по Лебегу, А (Л) > О и f{A )сА. Пусть XqEA — лебегова точка плотности А. Это значит, что для любого ^>0 существует такое £>0, что для всех ^i, е^ 6 (О, £q) мы имеем Х(АП{Хо-е,,х^-\- е^)) > (1 - 6){е, + е^У Для данных XqH £ мы можем, таким образом, найти дугу А = (аи—^j, 2^+£2), где ^1, е^ < е, как в лемме 12.7.5, и, применяя следствие 12.7.4, получим А((5'\^)П/ЧА))^А(/Ч5'\^)П/ЧА)), Л(Г((5'\Л)пА))^ ХиЧА)) ^ А(/ЧА)) ^ А(Г(Д)) ^ Таким образом, A(5^\Л)^ Х) А((5'\Л)П/*(А))< ^•ехр(ЗУ)-Х; Н/Ч^))^ 1=0 »=0 ^36 ехр ЗУ. Но число S было произвольным, так что А (5^ \Л) = 0 и преобразование / эргодично. D * Упражнения 12.7.1. Покажите, что никакой диффеоморфизм с рациональным числом вращения не эргоди- чен относительно меры Лебега и вообще относительно любой неатомарной квазиинвариантной меры. 12.7.2. Покажите, что существует такое иррациональное число а, что поворот R^ обладает сингулярной KBазиинвариантной эргодической мерой.
ГЛАВА 13 Закручивающие отображения В этой главе мы возвращаемся к анализу закручивающих отображений, который был начат в §§ 9.2 и 9.3. Главный результат этих параграфов состоял в доказательстве существования по крайней мере даух специальных периодических орбит для любого рационального числа вращения из интервала закручивания (теорема 9.3.7). Эти орбиты (биркгофовы периодические орбиты типа (р, q)) могут рассматриваться с двух различных точек зрения. С одной стороны, они представляют собой критические точки функционала действия (9.3.7), минимум и минимакс типа перевала, на пространстве периодических состояний. Минимальные биркгофовы периодические орбиты характеризуются тем свойством, что каждый из их отрезков минимизирует функционал действия (9.3.12), определенный на пространстве состояний с теми же самыми концами. С другой стороны, эти орбиты сохраняют порядок, т. е. их угловые координаты находятся во взаимно однозначном соответствии с орбитами вращения на угол 2'irp/q, сохраняющем порядок (см. замечание после определения 9.3.6). В настоящей главе мы расширим оба аспекта этого анализа таким образом, чтобы включить в него орбиты с иррациональными числами вращения. При этом будет интенсивно использоваться структурная теория гомеоморфизмов окружности, разработанная в гл. 11. В § 13.2 мы сконцентрируем внимание на изучении свойства сохранения порядка, а в §§ 13.3—13.4 — на вариационном описании. Наиболее впечатляющий результат, который мы получим, состоит в том, что в то время как для гомеоморфизмов окружности орбиты типа Данжуа, замыкания которых — минимальные нигде ни плотные множества, появляются только для отображений низкой регулярности (теорема 12.1.1), для закручивающих отображений подобные орбиты, замыкания которых (множества Обри — Мазера) проектируются в нигде не плотные канторовы множества на окружности, для произвольно гладких систем являются скорее правилом, чем исключением. Обоснованием этого замечания служат, в частности, результаты § 13.5. § 13.1. Лемма о регулярности В этом параграфе будет доказано, что любая сохраняющая порядок орбита закручивающего отображения может быть гюедставлена как часть графика липшицевой функции, причем константу Липшица этих функций можно зафиксировать в любом замкнутом кольце в 6" х (0,1). Как и в § 9.3, мы будем часто переходить к поднятиям на универсальное накрывающее. Лемма 13.1.1. Пусть F: R х (0,1)—^ Е х (О, \)—поднятие закру- чиваюи^его диффеоморфизма f: С ^ С (не обязательно сохраняющее- го плои^адь). Если (х,, у.) = F^(xo, %). i^U у1) = -^Ч^Й, vli) и xi> х^ для г = -1,0,1» то суи^ествует такое число MeR, что \'!^ — Уо\<М\х^ — Ха\,
§13.1. ЛЕММА О РЕГУЛЯРНОСТИ 427 причем М может считаться равномерно ограниченным на любом замкнутом кольце в С Доказательство. Предположим сначала, что 2^< 2^- Если (х, у) = = -F(2«, 2^). то из условия закручивания (четвертый пункт определения 9.3.1) мы получаем х> х['\- с(у^ — т^), где с отделено от нуля на любом замкнутом кольце из С С другой стороны, из дифференцируемости / следует существование такой константы L (ограниченной на компактных кольцах в С), что х[ > Xj > x — L(xI^—Xq)> Полагая M = Lc~^, мы получаем наше утверждение. Если Уо> щ, повторим те же рассуждения, заменяя / на/-', а Определение 13.1.2 (ср. определение 9.3.6). Рассмотрим закручивающий диффеоморфизм /: С ^ С. Отрезок орбиты (или орбита) l^mi Утп)' • • м (а;„, у„)}, -оо ^ m < п ^ оо, отображения /. который может ыть бесконечным в одном или обоих направлениях, называется упорядоченным или сохраняюи^им порядок, если х^ ф х^ при г ^^ j и (г, j) ф (п, т) и / сохраняет циклическое упорядочение х-коорданат, т. е. для положитель- но упорядоченной (по отношению к выбранной ориентации на 5') тройки точек Xi,Xy,X;t> h%^ <'"'> тройка a;^ + i, Xy^j, X;t + i упорвдочена таким же образом. Следствие 13.1.3. Рассмотрим сохраняюи^ее плои^адь закручива- юи^ее отображение /: С ^ С и сохраняюи^ий порядок отрезок орбиты {(х^, Ут)) • • •' i^ni Уп)}. ~оо ^ m < п ^ оо, отображения /, который содержится в замкнутом кольце из С Тогда |% — у^\ < М\х^ — х^\ для всех таких ц j, что т <ijj <п. Доказательство. Применим лемму 13.1.1 к тройкам (г — 1, г, г +1) H(y-i,i,j + i).a Это следствие показывает, что замыкание Е упорядоченной орбиты содержится в графике липшицевой функции ср: 5' —>(0,1). Заметим, что ограничение /1^; проектируется в гомеоморфизм проекции Е на S\ который мы можем также продолжить по линейности на дополнительные к этому множеству интервалы, получая при этом гомеоморфизм окружности. Таким образом, можно определить число враи^ения упорядоченной орбиты как число вращения индуцированного гомеоморфизма окружности. Мы также видим, что внутренняя динамика упорядоченных орбит закручивающего отображения двумерного кольца по существу одномерна. В следующем параграфе будет показано, что в любом закручивающем отображении таким образом представлена динамика одномерных отображений со всеми числами вращения из интервала закручивания. Упражнения 13.1.1. Пусть /г S^ х[0, Ц—*^3^ х[0, 1] — закручивающий гомеоморфизм замкнутого кольца (см. определение 9.3.19). Докажите следующий вариант леммы о регулярности 13.1.1; существует такая строго монотонная неотрицательная функция ш: [О, 1]—*R (модуль непре- рьшности), что если {х^,у^) = F*{xQ,yQ), (а:^, у-) =-Р'М^. 2^) « х'^ > х^ для г = -1,0,1, то Н-Уо\<^{Н-^\)' ар 13.1.2. Вычислите функцию ш в случае, когда / — такой С^-диффеоморфизм, что -аГ"1«=о = = -^1 , =0, но вторая производная —^ положительна для у = 0 и отрицательна для у= 1. оу " ^^
428 Часть 3. Гл. 13. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ § 13.2. Существование множеств Обри — Мазера и гомоклинических орбит ■ 13.2 а. Множества Обри — Мазера. Введем следующую метрику в пространстве замкнутых подмножеств метрического пространства X. Определение 13.2.1. Метрика Хаусдорфа определяется равенством d{A, В):= sup{c?(x, В) \ х G Л } +sup{c?(^, у)\уеВ} для любых двух замкнутых множеств Л, Б. Мы будем называть предел относительно топологии, индуцированной метрикой Хаусдорфа, пределом по Хаусдорфу. Сделаем два замечания. Лемма 13.2.2. Метрика Хаусдорфа на замкнутых подмножествах компактного метрического пространства определяет компактную топологию. Доказательство. Мы должны проверить полную ограниченность и полноту. Выберем конечную (е/2)-сеть N, Любое замкнутое множество А с X покрывается объединением е-шаров с центрами в точках N и замыкание их объединения удалено от Л в метрике Хаусдорфа не более чем на е. Так как существует лишь конечное число таких множеств, мы показали, что эта метрика вполне ограничена. Чтобы показать, что она полна, рассмотрим последовательность Коши (относительно метрики Хаусдорфа) замкнутых множеств Л„ С X. Если мы положим А:= П IJ А^ то легко видеть, что с?(Л„,Л)—^0. D keNn^k Заметим, что любой гомеоморфизм / компактного метрического пространства X индуцирует естественный гомеоморфизм совокупности замкнутых подмножеств X с метрикой Хаусдорфа, так что мы можем сформулировать следующее утверждение. Лемма 13.2.3. Набор замкнутых инвариантных множеств гомеоморфизма f метрического пространства образует замкнутое множество относительно метрики Хаусдорфа. Доказательство. Это множество представляет собой не что иное, как множество неподвижных точек индуцированного гомеоморфизма, следовательно, оно замкнуто. D Определение 13.2.4. Пусть /: С^ С — закручивающее отображение. Замкнутое инвариантное множество Е сС называется упорядоченным множеством, если оно взаимно однозначно проектируется в подмножество окружности и / сохраняет циклический порядок на Е. Множество Обри — Мазера — это минимальное упорядоченное инвариантное множество, взаимно однозначно проектирующееся на нигде не плотное канторово подмножество окружности 5'. Заметим, что любая орбита в упорядоченном множестве является упорядоченной орбитой. Дополнение проекции множества Обри — Мазера представляет собой объединение счетного числа отрезков на окружности. Мы будем называть эти отрезки дырами в множестве Обри — Мазера. Концы каждого отрезка — проекции некоторых точек на множестве Обри — Мазера, которые мы будем также называть концами. Применяя следствие 13.1.3, получим еще одно следствие.
§ 13.2. МНОЖЕСТВА ОБРИ —МАЗЕРА И ГОМОКЛИНИЧЕСКИЕ ОРБИТЫ 429 Следствие 13.2.5. Пусть /: С^ С — закручивающий диффеоморфизм и А —множество Обри —Мазера диффеоморфизма /. Тогда суи^ествует липшицева функция (р: 6" —^ (0,1), график которой содержит А. Доказательство. Следствие 13.1.3 дает нам такую функцию, определенную на проекции А на 6". Продолжение этой функции по линейности на дыры в данном канторовом множестве дает функцию с той же константой Липшица. D Определим число враи^ения множества Обри — Мазера или инвариантной окружности как число вращения любой из орбит, определенное в конце § 13.1. Теперь можно доказать один из центральных результатов теории закручивающих отображений. Теорема 13.2.6. Пусть f: С ^ С —сохраняюи^ий плои^адь закру- чиваюи^ий диффеоморфизм. Для любого иррационального числа а из интервала закручивания f суи^ествует множество Обри — Мазера А с числом враи^ения а или инвариантная окружность graph(i^), где (р — липшицева функция^ с числом враи^ения а. Доказательство. Пусть ^„/д„ — последовательность рациональных чисел со взаимно простыми числителями и знаменателями, аппроксимирующая число а. Применим теорему 9.3.7 и рассмотрим любую последовательность ги„ биркгофовых периодических орбит типа iPn,Qn)- Согласно следствию 13.1.3 можно найти липшицеву функцию ip^: 5' —^ (0,1), график которой содержит ги„. Соображения, аналогичные тем, которые позволили получить (9.3.5), показывают, что все эти орбиты содержатся в замкнутом кольце из С, так что константа Липшица может быть выбрана независимо от п. Используя предкомпактность данного равностепенно непрерывного семейства функций (согласно теореме Арцела — Асколи П 1.24), можно без потери общности считать, что эти функции сходятся к липшицевой функции 1р, График функции (р может не быть /-инвариантным, но он всегда содержит замкнутое /-инвариантное подмножество А, которое получается следующим образом. Область определения (р^ содержит проекцию биркго- фовой периодической орбиты типа (^„, д„) на 6". Эти биркгофовы периодические орбиты типа (^„, д„) — замкнутые /-инвариантные подмножества С и, таким образом, в топологии метрики Хаусдорфа обладают точкой накопления А с С, Множество Л, очевидно, принадлежит графику функции ^р и /-инвариантно по лемме 13.2.3. Кроме того, отображение / сохраняет циклическое упорядочение на множестве А (так как это замкнутое свойство, выполненное для биркгофовой периодической орбиты ги„). Если мы обозначим через /„ продолжение на 5' проекции / с биркгофовых периодических орбит типа (^„, д„) на 6" и через /^ —продолжение проекции /|^ на 6", то /„ —^ /ц равномерно. Таким образом, в силу непрерывности числа вращения в С°-топологии (см. предложение 11.1.6) число вращения множества А равно а. Рассмотрим теперь единственно минимальное подмножество Д. Согласно дихотомии, установленной в предложении 11.2.5, это множество является либо целой окружностью, либо инвариантным канторовым множеством. В последнем случае образ этого канторова множества относительно Id Х(р есть множество Обри—Мазера с числом вращения а. D Замечание. Заметим, что множество Обри — Мазера, полученное в теореме 13.2.6, может оказаться подмножеством инвариантной окружности /. В данном случае ограничение / на эту инвариантную окружность —
430 Часть 3. Гл. 13. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ гомеоморфизм типа Данжуа, подобный гомеоморфизмам из примеров, приведенных в § 12.2. Известно, что это может случиться для С^"^-диффеоморфизмов ['], но неизвестно, возможно ли это для отображений с более высокой гладкостью. Конечно, в случае гладкой инвариантной окружности множество Обри — Мазера может появиться, только если само отображение / не очень гладко (см. теорему Данжуа 12.1.1). Предел по Хаусдорфу биркгофовых периодических орбит типа (^„, д„) может оказаться больше множества Обри — Мазера, хотя этот предел всегда является упорядоченным множеством. Если это не минимальное множество, то оно содержит множество орбит, гомоклинических к множеству Обри — Мазера. На этой стадии нельзя сказать, существуют ли такие орбиты на самом деле, но позже мы покажем, что это всегда так, взяв пределы по Хаусдорфу минимаксных биркгофовых периодических орбит и используя деликатные вариационные оценки (см. § 13.4). Подчеркнем, что замена в предшествующих рассуждениях биркгофовых периодических орбит ги„ произвольными упорядоченными инвариантными множествами, сходящимися в метрике Хаусдорфа, дает следующее предложение. Предложение 13.2.7. Число вращения упорядоченного инвариантного множества непрерывно в топологии метрики Хаусдорфа. Из этого предложения, в свою очередь, получается такое следствие. Следствие 13.2.8. Число враи^ения упорядоченных орбит — непрерывная функция начального условия. Доказательство. Пусть х„ —^ х — сходящаяся последовательность точек с упорядоченными орбитами. Без потери обш^юсти можно считать, что числа вращения а„ орбит точек х„ сходятся. Рассмотрим совокупность орбит точек х„. В силу компактности топологии, индуцированной метрикой Хаусдорфа, она содержит подпоследовательность, сходящуюся к упорядоченному множеству, содержащему замыкание орбиты точки х. Таким образом, по предложению 13.2.7 предел чисел вращения орбит точек х„ равен числу вращения орбиты точки х. D Теперь мы можем показать, что для любого иррационального числа существует не более одной инвариантной окружности с данным числом вращения. Теорема 13.2.9. Пусть f: С ^ С — сохраняюи^ее плои^адь закру- чиваюи^ее отображение и а —иррациональное число из интервала закручивания. Тогда f обладает не более чем одной инвариантной окружностью вида graph(vp) с числом враи^ения а. Если такая инвариантная окружность суи^ествует, то у f нет множества Обри —Мазера с числом враи^ения а вне этой окружности и, следовательно, не может суш^ествовать более одного такого множества Обри — Мазера. Замечание. Закручивающее отображение может обладать несколькими инвариантными окружностями с равными рациональными числами вращения. Так обстоит дело в случае эллиптического биллиарда (см. рис. 9.2.3), где две ветви гетероклинических петель образуют пару инвариантных окружностей с числом вращения 1/2. Отображение сдвига за время t (для малого t) математического маятника (п. 5.2 в) демонстрирует подобное явление для нулевого числа вращения.
§ 13.2. МНОЖЕСТВА ОБРИ —МАЗЕРА И ГОМОКЛИНИЧЕСКИЕ ОРБИТЫ 431 Доказательство. Начнем со следующей леммы. Лемма 13.2.10. Предположим, что у отображения f есть инвариантная окружность R (вида graph(i^)J с числом враи^ения а. Тогда число враи^ения каждой сохраняющей порядок орбиты, замыкание которой не пересекается с R, отлично от а. Доказательство. Окружность R делит кольцо С на две компоненты связности, которые мы будем называть соответственно верхней и нижней компонентами. Предположим, что х — точка из верхней компоненты множества C\R, орбита которой сохраняет порядок и отделена от R, Тогда отображение /, суженное на орбиту точки х, проектируется в отображение подмножества Е окружности 5'. Мы хотим продолжить его до отображения /з множества S\ которое строго опережает (в смысле определения 11.1.7) отображение /р индуцированное /|д, т. е. /j 4/3. Это отношение уже имеет место на Е, так что мы должны только соблюдать осторожность при продолжении с Е. Переход к замыканию Е не меняет строгие неравенства, так как выполнено условие закручивания и предположение о том, что орбита точки X отделена от R. Таким образом, мы должны лишь определить функцию д на интервалах, дополнительных к Е. Это можно сделать следующим образом: обозначим концы такого интервала через х, и Xj, и пусть 6 —меньшая из разностей /2(2^) —/i(xi) и /2(2:2) ~/i(^)* Тогда положим /2(tx,+(1 - t)a:2) = niax(t/2(x,)-b(l - t)/2(x2), ^+/i(^a;,-Ь(1 - t)x;)). Заметим, что /з — монотонная функция на 5' и, кроме того, /j -< /2. Следовательно, согласно предложению 11.1.9 число вращения отображения Д больше чем а. Аналогично, не может существовать сохраняющей порядок орбиты с числом вращения а в нижней компоненте множества C\R. D Предположим, что имеются две инвариантные окружности с числом вращения а. Их пересечение инвариантно, так что если по крайней мере одна из них транзитивна, то они не пересекаются, что невозможно в силу только что доказанной леммы. В противном случае их пересечение содержит общее множество Обри — Мазера А и эти две окружности задают графики двух различных функций vpj и (р2, которые совпадают на проекции А. Графики функций max(vPi, ip^) и min(vP|, vPg) инвариантны, и, следовательно, область между этими графиками тоже инвариантна. Но последняя область должна иметь бесконечно большое количество компонент связности, так как она проектируется в невозвращающиеся интервалы дополнения к проекции множества Обри — Мазера. Таким образом, мы получаем открытый диск с попарно непересекающимися образами, что невозможно в силу сохранения площади (ср. с теоремой Пуанкаре о возвращении 4.1.19). Мы используем здесь иррациональность числа вращения, иначе могло бы существовать конечное число компонент, переставляемых /. Лемма 13.2.10 также показывает невозможность существования множества Обри — Мазера с числом вращения а вне инвариантной окружности с числом вращения а. D Замечание. В отсутствии инвариантной окружности с числом вращения а может существовать несколько множеств Обри — Мазера с равными числами вращения. Такие множества нередко образуют многопараметрические семейства [^]. Теперь обратим наши рассуждения в том смысле, что будем аппроксимировать рациональные числа вращения иррациональными и, рассматривая
432 Часть 3. Гл. 13. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ пределы соответствующих множеств Обри — Мазера, построим непериодические орбиты с рациональным числом вращения. Предложение 13.2.11. Пусть/: С^ С — сохраняющее площадь закручивающее отображение и p/q —рациональное число из интервала закручивания. Тогда существует сохраняющее порядок замкнутое f -инвариантное множество с рациональным числом вращения, которое либо является инвариантной окружностью, состоящей из периодических орбит, либо содержит непериодические точки. Кроме того, в последнем случае оба конца каждого дополнительного интервала непериодические. Доказательство. Пусть {ог„}„^„ — последовательность иррациональных чисел из интервала закручивания, аппроксимирующая число p/q. Рассмотрим соответствующее инвариантное минимальное сохраняющее порядок множество Л„ с числом вращения ог„. Без потери общности мы можем считать, что последовательность А сходится к множеству А в топологии метрики Хаусдорфа при п—^оо. Множество А, очевидно, /-инвариантно и упорядочено. Если бесконечно многие из множеств Л„ —окружности, то множество А — также окружность, и число вращения ограничения / на эту окружность равно p/q в силу непрерывности числа вращения. Классификация отображений окружности с рациональным числом вращения (см. предложение 11.2.2 или таблицу из п. 11.2 в) завершает доказательство в этом случае. Таким образом, теперь мы можем считать, что все множества Л„ являются множествами Обри — Мазера. Чтобы понять динамику на множестве Л, рассмотрим дыры, т. е. интервалы из дополнения 5' до проекции А на 6". Каждая из этих дыр G С 6" обладает корректно определенной длиной 1(G), и мы хотим показать, что оба конца такой дыры — непериодические точки. Для этого сначала заметим, что дыра G в множестве А является пределом соответствующих дыр G„ множеств Л„ в метрике Хаусдорфа. Обозначим через /„ продолжение до гомеоморфизма окружности проекции отображения /1^ на 6" и через /о — аналогичное продолжение, соответствующее /|^. Тогда, так как число вращения отображения /„ иррационально, образы дыры G„ под действием итераций /„ попарно не пересекаются, так что 2 ^(/Г(^п)) ^ 1* Если оба конца G — периодические точки, то вся ды- pa G —периодическое множество, т. е. ряд J] ^(/о(^)) расходится. Но neN /(/„"*G„)—^ l(f^G) для всех m GN, что приводит к противоречию. Таким образом, один из концов дыры G непериодический. Заметим, что тогда другой конец дыры G также должен быть непериодическим, так как в противном случае множество foiG) представляло бы собой дыру, которая пересекала бы G нетривиальным образом, не совпадая с G. а Итак, мы можем описать структуру такого инвариантного множества в типичном случае, когда оно содержит лишь конечное число периодических орбит. Следствие 13.2.12. Если замкнутое сохраняющее порядок f-инвариантное множество А с рациональным числом вращения p/q содержит лишь конечное число периодических орбит, то существует полное множество гетероклинических связей следующего вида: если in • • м 7*
§ 13.2. МНОЖЕСТВА ОБРИ —МАЗЕРА И ГОМОКЛИНИЧЕСКИЕ ОРБИТЫ 433 обозначают периодические орбиты из А, упорядоченные согласно индуцированному циклическому упорядочению окружности, то существуют такие гетероклинические орбиты cTj, ..., о",, что либо либо то же верно после перестановки местами букв а и со. Здесь а и ш обозначают соответственно а- и ш-предельные множества орбиты (см, определение 1.6.2). Если s = l, то орбита а^, естественно, является гомйклинической. До настоящего времени для любого данного сохраняющего площадь закручивающего отображения мы предъявляли упорядоченные (биркгофовы) периодические орбиты, которые являлись орбитами типа 1^^^ согласно терминологии таблицы из п. 11.2 в, непериодические орбиты типа Пр^^ или IIIp^^. плотные орбиты на инвариантной окружности типа 1^ и орбиты в множествах Обри—Мазера, которые имеют тип П^. Таким образом, мы показали, что для закручивающих отображений существуют все типы орбит, существующие для гомеоморфизмов окружности, за исключением орбит типа III„, которые мы сможем построить только в § 4 в результате более серьезного применения вариационного подхода. 13.2 б. Инвариантные окружности и области неустойчивости. Следующий классический результат, принадлежащий Биркгофу, позволяет показать, что инвариантные окружности делят кольцо на области, внутри которых орбиты свободно перемещаются из верхней части в нижнюю. Это следует из несколько более общего полулокального результата, который не использует дифференцируемость, а соответствующие предположения об инвариантном множестве наиболее естественно выражаются на полуоткрытом кольце A = S^ X [О, оо). Теорема 13.2.13 (теоремаБиркгофа) [^]. Пусть f: А^А —сохраня- юи^ий ориентацию закр учиваюи^ий гомеоморфизм uU с NW{f) —/-инвариантное открытое относительно компактное множество со связной границей, содержаи^ее 5' х {0}. Тогда dU—график непрерывного отображения ф: 5' —^ (О, оо). Замечание. Если / сохраняет площадь или любую меру, положительную на открытых множествах и конечную на компактных множествах, то условие и с NW{f) автоматически выполняется в силу предложения 4.1.18. Используя следствие 13.1.3, получим еще одно следствие. Следствие 13.2.14. Если в условиях теоремы 13.2.13 / является закручиваюи^им диффеоморфизмом класса С\ то функция ф Липшице- ва. Доказательство теоремы 13.2.13 Пусть V = {(х, у) I (х, у')си ддяу'е [О, у]}.
434 Часть 3. Гл. 13. ЗАКРУЧЖАЮЩИЕ ОТОБРАЖЕНИЯ Множество V открыто и связно, следовательно, линейно связно. Мы хотим показать, что V = U. Лемма 13.2.15. Если I = [Xi, x^lc S\ (xi, у), {x2,y)eV и I x{y}cU, то I X [О, у] с и. Доказательство. Кривая С := д{1 х [О, у]) с U жорданова. а множество А\и неограничено и связно, следовательно, содержится во внешности С. D Пусть дц и Cljj обозначают q}aHHuy и замыкание в относительной топологии множества U. Лемма 13.2.16. Множество дуУ представляет собой дизъюнктное объединение отрезков S. = {a^J х (y^^i, у^^з) (** ^-^CN), 0< y^^i < у^^, (^i^yi,i)A^i)yi,2)^^^- Кроме того, S^ делит каждую достаточно малую окрестность точки р е S^ на два открытых множества V cV и U'<zU\V. Доказательство. Компонента связности множества Z7 П ({х} х X [0) оо)), содержащая (х, у) е д^У, имеет вид S := {х\ х (yj, %), О < yj < t^ (так как (х, 0) G F и множество U ограничено) и (х, y^), (х, 2^) е dU. Далее, V r\S = 0. Теперь покажем, что S адуУ. Для достаточно малого интервала I а S\ содержащего х, существует такое ^>0, что W:= I х{у —e,y-\-e)(ZU. Если (х', y')eWr\V, то {х'} х х(2/— ^т У+ ^)С F, следовательно, VC\W=\J{{x']x(y - е, у-\-£)\(х' у')е eWnV} и {х} X {у-£,у-\'£)с dy{VnW)cdyV, так как {х} х X (у —£,у-{-£) с S С U\V и {х^у)едуУ. Таким образом, множество dyV nS открыто в 5, и оно же замкнуто в 5, поскольку S с U, так что ScdyV. Согласно предыдущей лемме [а, Ь] х (у— е, у -Ь е) с V, если (а, у), (6, у) е eWnV. Таким образом, для достаточно малых 6 я е по одной компоненте каждого из множеств ((х — ^, х + ^) х (у — е, у -Ь е))\({х} х (у — е, у -|- е)) содержится в V и U\V. В частности, существует не более чем счетное число таких множеств S. D Лемма 13.2.17. Для каждого г множество U\S- состоит из двух компонент связности, причем одна из них не пересекается с V и ее граница не пересекает ни одного множества S- для j фг. Доказательство. Обозначим компоненту связности множества U\S^, содержащую открытое множество U', определенное в лемме 13.2.16, через и^. Предположим, что существует кривая с в U^, начинающаяся в U' и оканчивающаяся либо в некотором множестве б'у, зфъу либо в У, где V —множество, определенное в лемме 13.2.16. В последнем случае кривая с должна пересекать границу д^У по крайней мере один раз, и по построению это значит, что с пересекает множество S^ для некоторого j Ф г. Таким образом, в любом случае мы получаем такую кривую ^: [О^Ц—^и, что 7(0,1)сг7\ и 5fc, 7(0)^ Int 5^ и 7(1)^ Int5y для некоторого J 7^1. Теперь рассмотрим кривую, полученную из 7 следующим образом. Продолжим 7 на полуинтервал [—е, 0) коротким горизонтальным отрезком из V', оканчивающимся в точке (а^, 2^), и затем добавим к нему вертикальный отрезок {xq} X [0,2^]. Далее заметим, что по построению первоначальная кривая 7 не пересекает У, так что мы можем продолжить ее за 1 горизонтальным
§ 13.2. МНОЖЕСТВА ОБРИ —МАЗЕРА И ГОМОКЛИНИЧЕСКИЕ ОРБИТЫ 435 отрезком из V, к которому, в свою очередь, добавим вертикальный отрезок, входящий в 6" X {0}. Таким образом, мы получаем простую (поскольку 7 П F = 0) кривую Т в и с концами в 6" х {0}. Из теоремы Жордана П 5.2 немедленно следует, что эта кривая делит кольцо на две компоненты. Рассмотрим концы S-. Они принадлежат границе dU, которая по условию является связной. С другой стороны, по построению эти концы содержатся в различных компонентах А\Г, что противоречит связности dU. D Заметим, что С1^ V. = U^uS^ и У П С1^^ U. =^ 0. Очевидно, мы должны показать, что такое множество U^ не может существовать. Лемма 13.2.18. 1. U=Vu([J Cl^jUi). 2. Ui —компоненты связности множества U\ Cl^ V. 3. QXy U^ —компоненты связности множества U\V. Доказательство. 1. Если р ^U ^ р ^ С\„ V, то в силу линейной связности и существует такая кривая ■у, что 7(0) = ^. 7(1) = 9 ^ С1^^ У и 7([0) 1)) С и\ Cljj V, следовательно, q edjjV, т. е. q е S^. Но поскольку множество и^и S^UV содержит окрестность точки q, мы имеем р € е 7([0,1)) с £>;. Таким образом. С/ = С!^, У и U Ц = У^и ^^и^г- 2. Множество U^ открыто, следовательно, оно открыто в U\ Cl^j V и замкнуто в и\ Clj^ V, поскольку duUi — S^C Cl^j V. 3. Множество Cl^^ U^ замкнуто в U, следовательно, оно замкнуто в U\V. Множество Cljj U^ открыто в Z7\У, так как по предыдущей лемме VUCl^ U. содержит окрестность dyU-. D Теперь разделим все множества U^ на «правые» и «левые»: положим {-Rylye/c/-—{^i I ^i расположено справа от S.} и {Ь}.}}.^к^^'.= := {U-1 U- расположено слева от S.}. Кроме того, определим R'.= [} Ду, L := и L}.. Заметим, что согласно лемме 13.2.16 множество V U кеК U(U ^^и ^j'i открыто в Z7 и, следовательно, дополнение IJ d.^ R- замк- нуто, так что C\jjR= и С1^^ Яу и, аналогично, О.^ L — U Cl^^L;-, (13.2.1) 8 частности, U =V \JC\jj RijCl^j L. Лемма 13.2.19. 1. /(У)ПС1^, L^ =0. 2. r4^)nCl^i?y=0. 3. /"4^1^. L) с Cl^f я и Clj, L. 4. f''(C\^L)r\C\^R=0. 5. /(С1^,Л)пС1^,^ =0. 7. f{CljjR)cR. Доказательство. Если (x, у) e V, кривая 7(s) = /(x, s), s e [0, y], начинается на 5' x {0} и содержится в U. По условию закручивания она пересекает вертикальные прямые слева направо. Но для того чтобы войти
436 Часть 3. Гл. 13. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ В Lfc, эта кривая должна была бы пересечь множество Sf. справа налево. Так как f{V) открыто в U, первое утверждение доказано. Второе утверждение доказывается таким же способом с использованием /"', а третье очевидное следствие первого. Чтобы доказать четвертое утверждение, допустим, что /~'(С1^; L^) П С\С1ц К-ф0. Тогда f~^{C\jjLj^)<Z О.^ R-, так как множества С1^^ U^ попарно не пересекаются и связны по третьему утверждению. Так как кривая /"^(S^) трансверсальна вертикальным прямым и множество 5^ является вертикальным отрезком, мы имеем f~^{Sf.)nRj^0H, следовательно, f~^{V)nRjy^0 вопреки второму утверждению. Пятое утверждение доказывается аналогично. Третье и четвертое утверждения означают, что /~^{С1цL) С Cl^jL. И вновь, так как кривая f'^{dyL) трансверсальна д^Ь, мы получаем шестое утверждение. Седьмое утверждение доказывается точно так же. D Теперь мы можем показать, что U = V. Если это не так, то Кф0 или L фО>. Предположим, что КфО!>, и заметим, что тогда /(С1^^ Щ%^ по седьмому утверждению и поскольку / — гомеоморфизм, а множества С\у R и R не гомеоморфны. Но тогда f'~^{R\f{Cljj R)) — непустое подмножество U, состоящее из блуждающих точек, что невозможно в силу нашего предположения. Точно так же показывается, что L =0. Чтобы доказать теорему 13.2.13, заметим, что по условию dU проектируется на всю окружность 5', так что остается показать, что сужение проекции на ди инъективно, а поскольку U = У^ это означает, что мы должны показать, что dU не содержит вертикальных прямых. Это следует из условия закручивания: если р — внутренняя точка отрезка S С dU, то любая точка q, близкая к ^ и лежащая слева от 5, отображается выше f{S) С dU и, следовательно, не содержится bU = V. Аналогично, прообраз любой точки q, близкой к ^ и находящейся справа от 5, лежит выше f~^{S) с dU и, следовательно, не содержится в U. Но тогда р ^ dU, что приводит к противоречию. D Имеется простое следствие теоремы 13.2.13, которое показывает, что поведение орбит между двумя инвариантными окружностями с иррациональными числами вращения сохраняющего площадь закручивающего отображения весьма сложно с динамической точки зрения. Определение 13.2.20. Пусть / — закручивающее отображение, обладающее инвариантными окружностями Cj и Сд с числами вращения соответственно Pj и /Sg» Pi < Рг- ^ ^^^ инвариантных окружностей с числами вращения из интервала (pj, Рз)- Тогда кольцо, ограниченное окружностями Cj и Сз, называется областью неустойчивости. Заметим, что окружности Cj и Cg не могут пересекаться и что область неустойчивости не может содержать никакой инвариантной окружности. Предложение 13.2.21. Пусть окружности Cj и С^ ограничивают область неустойчивости сохраняюи^его плои^адь закручиваюи^его отображения /, и пусть £>0. Тогда суи^ествует точка р в е-окрестности Wj 5 окружности Cj, некоторая итерация которой попадает в £-окрестность И^2 е множества Сд. Доказательство. В противном случае найдется такое е > О, что множество и /"(VFj ^) не пересекается с И^ £. Пусть W — компонента связно-
§ 13.2. МНОЖЕСТВА ОБРИ —МАЗЕРА И ГОМОКЛИНИЧЕСКИЕ ОРБИТЫ 437 сти области неустойчивости за вычетом множества V^= |J /"(Wj ^), содер- neN жащая окружность Сд. Чтобы показать, что множество dW связно, отождествим открытый цилиндр, ограниченный окружностями Cj и Сд, с плоскостью R^, склеивая окружность Сд в точку, и применим лемму П 7.8. Таким образом, мы можем использовать теорему Биркгофа 13.2.13 применительно к дополнению V множества W и получить некоторую инвариантную окружность строго между С^ и С^, вопреки предположению. D Этот результат показывает, что имеются орбиты, которые переходят из произвольно малой окрестности одной из компонент границы области неустойчивости в произвольно малую окрестность другой. Следствие 13.2.22. Предположим, что окружности С^ и С^ ограничивают область неустойчивости сохраняюи^его плои^адь закру- чиваюи^его отображения f и е > 0. Если отображение /|^ топологически транзитивнОу то для каждого q sC^ суи^ествует точка р в £-окрестности Б(д, е) точки q, некоторая итерация которой попадает в £-окрестность W^^ окружности Q. Доказательство. По предположению конечное объединение итераций B{q^£) содержит окрестность окружности Cj. D Упражнения 13.2Л. Пусть / — закручивающий диффеоморфизм замкнутого кольца А = S^ х [0,1], и пусть Ог(/) — множество всех точек, орбиты которых упорядочены. Докажите, что множество Ог(/) замкнуто и /-инвариантно и что топологическая энтропия ^top(/lor(/)) Р^вна нулю. 13.2.2. Опишите множество Ог(/) для эллиптического биллиарда (§ 9.2). 13.2.3. Пусть ^1, -^2 —упорядоченные множества закручивающего отображения / с различными числами вращения. Докажите, что существует такое е >0, что любая упорядоченная орбита не может пересекать е-окрестности A^ н А2 одновременно. 13.2.4. Сформулируйте обобщение следствия 13.2.12 без предположения о том, что А содержит конечное число периодических орбит. 13.2.5. Обобщите теорему 13.2.6 на случай закручивающих гомеоморфизмов (см. определение 9.3.19), сохраняющих меру, положительную на открытых множествах. 13.2.6*. Пусть / — сохраняющий площадь закручивающий диффеоморфизм замкнутого кольца, F —его поднятие и Tq < г, —числа вращения ограничений поднятия на компоненты границы. Мы назовем [tq, rj полным интервалом закручивания. Докажите, что утверждение теоремы 13.2.6 верно для любого а б [tq, Г]]. 13.2.7. Предположим, что / — закручивающий диффеоморфизм множества S^ х [О, 1], для которого 0г(/) = 5' х[0,1]. Покажите, что / обладает инвариантными окружностями для всех чисел вращения из полного интервала закручивания.
438 Часть 3. Гл. 13. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ § 13.3. функционалы действия, минимальные и упорядоченные орбиты 13.3 а. Минимальное действие. Вернемся к вариационным методам и, в частности, к изучению функционала действия, определенного равенством (9.3.7) для периодических состояний и равенством (9.3.12) для непериодических. Начиная с этого момента мы будем преимущественно работать на универсальном накрывающем. Так как мы собираемся работать с состояниями, которые не обязаны быть упорядоченными, будем маркировать их, используя динамический порядок. Наконец, мы будем считать, что закручивающее отображение продолжено так, как описано в п. 9.2 в. Сейчас мы повторим и расширим некоторые из определений, приведенных в п. 9.2 д, используя терминологию определения 9.3.15. Определение 13.3.1. Пусть имеется (а, Ь, п)-состояние {sg,..., s„}. Оно называется упорядоченным, если из условия s-^s^ — k^ s. следует, что 5; ^ 1 ^ s^ ^ 1 — А: < Sy ^ 1 для любых О < г, j, / < п и А: € Z. Минимум функционала действия (9.3.12) на пространстве Е(а, Ь, п) (который существует и достигается на некотором отрезке орбиты) обозначается через М{а^ Ь, п). Последовательность {sj,g2 называется глобально минимизирующим состоянием, если каждый конечный отрезок {s^}^^„ — минимальное (s„, s^, тп — п)-со- стояние для L. Необходимо вновь подчеркнуть, что критические точки L, в частности минимальные состояния, представляют отрезки орбит /. Так как наше продолжение / таково, что для больших разностей s — s' значения H(s, s') велики, функционал действия является собственным отображением, стремящимся к (плюс) бесконечности вне исчерпывающей последовательности компактных областей, и, следовательно, имеет минимум. Замечание. Заметим, что определение глобально минимизирующих состояний параллельно определению минимальных геодезических на рима- новом многообразии (определение 9.6.1) и что понятие упорядоченного состояния совпадает с понятием, введенным в определении 13.1.2 для состояний, которые представляют отрезки орбит. Сначала исследуем свойства минимумов М(х, у, тг). В силу периодичности мы, очевидно, имеем М(х, у, тг) = М(х -Ь Л:, у -Ь fc, п) для любого А: € Z. Рассмотрим теперь Sj е Е(х, у, тг) и Sg G Е(у, z, m). Тогда, очевидно, можно, объединяя Sj и Sg, получить состояние s е Е(х, z, тг -Ь т), L{s) = I'(Si) + -j- L(s2), так что М(х, z,n'\-'m)^ М(х, у, п)-|-М(у, z, т) (13.3.1) для всех X, у, Z € М и п, m G N. Теперь исследуем, как величина М(х, у, п) зависит от (х, у). Лемма 13.3.2. Предположим, что \у — х\/п < К и |х' —х|^1, у'— у| ^ 1. Тогда суи^ествует такая константа С, зависяи^ая от К, что |М(х, у, п) - М(х', у', п)| ^ С (13.3.2) Доказательство. Пусть s — минимальное (х, у, п)-состояние, и пусть s' — (х', у', тг-|-2)-состояние, полученное из s прибавлением х'
§ 13.3. МИНИМАЛЬНЫЕ И УПОРЯДОЧЕННЫЕ ОРБИТЫ 439 К началу $ и i/ к концу. Тогда L {s') = Я(х', х) -ь М(х, у, п) -|- Я(у, у') и по предположению Н(х'^ х) -bif(y, у') ^ const. В силу компактности имеется априорная оценка ]М\ < С^п, зависящая от К, которая получается, если в качестве тестового состояния взять равномерно распределенное состояние. Так как s минимально, как легко видеть из конструкции продолжения из предложения 9.3.5, величина Н зависит от величины скачка s^^j — s,. квадратично, так что не может существовать слишком много длинных скачков. В частности, можно найти такую константу D, зависящую от К, что .Si + i-SilUi+2-Si + i\j \^i+3-^i+2 <^ дая некоторого i. Теперь определим (х', у', п)-состояни€ t как результат удаления s^^j и з^^з "з s'. Тогда и L(£)-M(x,y,n)|< ^ \H{S,, З.^з) - Я(5., S,^,) - Я(5.^,, S,^2) - Я(5.^2, 5.^з)| + COHSt ^ Q где С зависит от -ЙГ. D Отметим такое следствие этой леммы. Следствие 13.3.3. Если |х - у\/п <К и\х' — у'\/п < К, то |М(х, у, п) - М(х', у', п)\ < С{\х' - х| + |у' - у|). Предложение 13.3.4. Если Игл (у„ - х„)/п = а, то п--*оо Л(а):= Игл ^М(х„, у„,п) п—* оо суш^ествует и зависит только от а. Мы назовем А{а) минимальным действием. Доказательство. Чтобы показать, что предел существует, рассмотрим последовательности х„=0 и у^ = па и положим а„:= М(0, па, гь). Используя (13.3.1) и лемму 13.3.2, мы получаем а^^^ = М(0, (п + т)а, п-\-т)^ М(0, па, п) + М{па, (т + п)а, т) = = a^-\-M{na-[nal (m+7i)a-[na], m)<a„+M(0, ma, m)+C = a„+a^-f-C; где С — константа из леммы 13.3.3 и, следовательно, зависит только от а. Таким образом, последовательность {а^/п} сходится по предложению 9.6.4. Утверждение будет доказано, если мы покажем, что наш предел не зависит от последовательностей {х } и {у„}. Предположим, что есть две пары последовательностей: {х„}, {yj и {х^}, {у^}. Поскольку Игл (у„-х„)/п-а п—* оо и Игл (у^ - x'J/n = а, мы можем сдвинуть последовательности {х^}, {у^} п—* оо на целые числа так, чтобы получить |х;^ -х„| < 1 и, таким образом, lirn (у^ - п —* оо ~yj/n=^ Ит((х^-х„)-(у^-у„))/п = 0. Но тогда следствие 13.3.3 показывает, что Ит1м(х„,у„,п)-М(х;,у;,п)|/п^С lim(|x;-xj+|y;-yj)/n = 0, п—юо п—юо ^ н предел существует для всех таких последовательностей и не зависит от последовательности. D
440 Часть 3. Гл. 13. ЗАКРУЧЖАЮЩИЕ ОТОБРАЖЕНИЯ Предложение 13.3.5. Функция ст-^А(а) выпукла. Доказательство. A(ta-\-(\~t)P)= lim ^М(0, (tQr-b(l -t)f3)n,n)^ n—* оо ^ lim ^{M(0,nta,n)-\-Minta,ni\-tmn)) = tAia)-\-i\-t)A{l3y m n-*oo 13.3 6. Минимальные орбиты. Мы хотим теперь понять структуру состояний, на которых функционал L достигает минимума. Используя лемму 9.3.11 и соответствующим образом меняя обозначения из доказательства предложения 9.3.12, мы получаем следующий вывод, аналогичный следствию 9.3.13. Предложение 13.3.6. Для {х^ у^ п)-состояния s и (х'^у'^ п)-состояния s', X < х' и у < у', положим х- := min(s^, s,') и х'- := тах(з^, s,'). Тогда L{s) + L{s')'^L{x)-\-L{x'). Неравенство является строгим, если S- — Si принимает отрицательные значения и не обраи^ается в нуль. Замечание. Заметим, что последовательность {х.} — (х, у, п)-состо- яние и {х'^У — (х', t/, п)-состояние. Очевидно, минимум L на (х 4- fc, у -Ь + ку п)-состояниях совпадает с минимумом L на (я, у, п)-состояниях. Теперь рассмотрим минимальные состояния двух различных видов. Они не могут пересекаться более одного раза. Предложение 13.3.7. Предположим, что s={s.}'^^q—минимальное (А), s , п)-состояние и s' = {s-}?lo —минимальное {s'^^ s^,, п')-состоя- Hue, Тогда для любого к eZ последовательность si — s^ ~ к изменяет знак не более одного раза. Доказательство. Предположим, что для некоторого к eZ последовательность S,' — s^ — к изменяет знак более одного раза. Производя, если нужно, усечение, мы можем считать, что s и s' имеют равную длину т и что величина s,' — s^ — к меняет знак четное число раз. Для определенности положим Sq — Sq — к > О, Пусть t. := s^ — fc, и пусть х,- := min(s^, t^) и xi = max(s.., tX Тогда Xq = Sq, 2^ - A)» ^m = «ш. Уш = С и последовательности {х^} и {у^} отличны от S и t. Таким образом, L (s)-\-L (s') = L(t)-\- -\-L{s)^L (х) -ь L (у) по предложению 13.3.6. В силу минимальности L (s) и L(s') должно иметь место равенство. Рассуждая, как в доказательстве теоремы 9.3.10, мы заключаем, что последовательности х и х' не могут одновременно представлять орбиты и, следовательно, не могут быть минимальными, что приводит к противоречию. D Теперь мы можем обобщить предложение 9.3.17 на случай непериодических рекуррентных орбит (см. определение 3.3.2). Следствие 13.3.8. Глобально минимальная рекуррентная орбита (всюду) упорядочена в том смысле, что каждый ее конечный отрезок — упорядоченное состояние (см. определение 13.3.1). Доказательство. Предположим, что (х, у) — точка глобально минимальной рекуррентной орбиты, и пусть (s„, у„):= i^"(x, у). Без потери общности предположим, что последовательность s^ — s-_^^ — к меняет знак между г=0иг = 1.В силу наличия возвращения существует такое ЛГ G N, что \s^ - Sq\ -ь\s^- s^^^l < \sq-s^- kl так что знак s^ - s^^^^- к такой
§ 13.3. МИНИМАЛЬНЫЕ И УПОРЯДОЧЕННЫЕ ОРБИТЫ 441 же, как у Sq~ s^ — к, и последовательность s. — s.^^^— к меняет знак по крайней мере дважды, что невозможно по предложению 13.3.7. D По аналогии с § 9.6 можно заметить, что множество глобально минимальных орбит замкнуто. Теорема 9.3.7 показывает, что для каждого рационального числа вращения из интервала закручивания с)ацествует минимальная биркгофова периодическая орбита типа fe q), которая тогда является глобально минимальной по теореме 9.3.10. Следовательно, орбиты на множествах Обри — Мазера, полученные с помощью аппроксимации в теореме 13.2.6 из минимальных биркгофовых периодических орбит, глобально минимальны. Таким образом, мы доказали такое следствие. Следствие 13.3.9. Для каждого числа вращения из интервала закручивания суи^ествует глобально минимальная рекуррентная орбита с этим числом вращения. Теперь опишем структуру множества всех рекуррентных минимальных орбит с данным числом вращения. Теорема 13.3.10. Пусть f: С^С —сохраняющее площадь закручивающее отображение и а —число из интервала закручивания. Тогда объединение М^ всех рекуррентных глобально минимальных орбит с числом вращения а —упорядоченное множество. Доказательство. Замыкание глобально минимальной орбиты — упорядоченное множество, так что мы должны только показать, что любые две такие орбиты правильно сплетены, т. е. их объединение также является упорядоченным множеством. Пусть х и у—рекуррентные точки с глобально минимальными орбитами и рациональным числом вращения а. Тогда они периодические с одним и тем же периодом, так что если орбиты вообще пересекаются, то они пересекаются бесконечно часто. Но по предложению 13.3.7 они могут пересекаться не более одного раза. Таким образом, их объединения является упорядоченным множеством. Пусть X и у — рекуррентные точки с глобально минимальными орбитами и иррациональным числом вращения а. Предположим сначала, что ни одна из них не является концом соответствующего множества Обри — Мазера (если какая-то из этих точек находится на транзитивной инвариантной окружности, то никакие ограничения не накладываются). Тогда для £ >0 я N eN можно найти такое тг е Z, что циклические координаты f~''{y) и Р{у) находятся на расстоянии меньше чем е друг от друга и циклические координаты /""(х) и /"(х) находятся на расстоянии меньше чем е друг от друга. Это следует из того, что замыкания обеих орбит полусопряжены с вращением окружности с числом вращения а. и что, поскольку ни X, ни у не являются концами множества Обри — Мазера, эти полусопряжения инъективны в точках х и у соответственно (ср. с теоремой Пуанкаре о классификации 11.2.7). Если е меньше расстояния между циклическими координатами х и у, мы показали, что между моментами —п и п орбиты пересекаются четное число раз, следовательно, по предложению 13.3.7 они не пересекаются ни разу. Пусть одна из орбит является концом. Тогда заметим, что если орбита точки X правильно сплетена с орбитой точки у, то она также правильно сплетена с любой орбитой в замыкании орбиты у. Но концы содержатся в замыкании орбит неконцевых точек, так что в случае, когда одна из орбит—конец, все доказано. Если и х, и у являются концами, то, поскольку
442 Часть 3. Гл. 13. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ у содержится в замыкании орбиты неконцевой точки, мы можем сделать тот же вывод. D Отсюда мы немедленно получаем единствеииость минимального множества Обри — Мазера, а также сильный результат об аппроксимации. Следствие 13.3.11. Пусть/: С—* С — сохраняющее площадь закручивающее отображение и а — иррациональное число из интервала закручивания. Тогда существует либо транзитивная инвариантная окружность, состоящая из глобально минимальных орбит с числом вращения а, либо единственное глобально минимальное множество Обри — Мазера Л^ с числом вращения а. Если vj4n —* си uw^ —последовательность биркгофовых периодических орбит типа (р^, q^), то предел этой последовательности в топологии метрики Хаусдорфа — упорядоченное множество с числом вращения а, которое либо является транзитивной инвариантной окружностью, либо содержит минимальное множество Обри — Мазера с числом вращения а. Доказательство. Существование глобально минимальной окружности или множества Обри — Мазера следует из замкнзггости множества глобально минимальных орбит; следовательно, любое упорядоченное множество в замыкании по Хаусдорфу биркгофовых периодических орбит типа (Рп) Яп) состоит из минимальных орбит. Единственность следует из того факта, что по теореме 13.3.10 любая рекуррентная минимальная орбита с числом вращения а сплетена с множеством Обри — Мазера и, следовательно, принадлежит множеству Обри—Мазера. П Для рационального числа вращения p/q предложение 9.3.17 представляет собой аналог последнего результата в следз^тощем смысле: оно зггвержда- ет единственность значения функционала действия на рекуррентной (т. е. периодической) глобально минимальной орбите. Может, однако, существовать более чем одна такая орбита, как это имеет место, например, для интегрируемого закручивающего отображения или для специальным образом построенного возмущения, которое разрушает инвариантную окружность с числом вращения p/q, но сохраняет более чем одну биркгофову периодическую орбиту с числом вращения p/q с тем же самым минимальным значением функционала действия. 13.3 в. Усредненное действие и минимальные меры. Теперь мы можем интерпретировать минимальное действие в терминах инвариантных мер. Предложение 13.3.12. Рассмотрим упорядоченную орбиту вида (^п) Уп) = /"(^) у)- Тогда оба предела существуют. Доказательство. Предположим, что число вращения а точки (х, у) иррационально. Тогда замыкание орбиты (х, у) содержит единственное минимальное множество Е. По теореме 11.2.9 это минимальное множество строго эргодично, т. е. является носителем единственной /-инвариантной меры fi. Рассмотрим непрерывную фзшкцию /i, определеннзпо равенством /i(x, у) = Н{х, х'), если /(х, у) = (х', у'). (13.3.3)
§ 13.3. МИНИМАЛЬНЫЕ И УПОРЯДОЧЕННЫЕ ОРБИТЫ 443 п-1 Заметим, что — Y1 ^(.^i-, 2=1 + 1) — временное среднее этой функции в точ- t =0 ке (ж, у). По теореме 4.1.13 временные средние h орбит из множества Е равномерно сходятся к интегралу функции h по Е по мере fi. Это доказывает зггверждение для рекуррентных орбит. Для нерекуррентной точки (х, у) циклическая координата орбиты следует последовательности дыр в множестве Е. Эта орбита является двусторонне асимптотичной к орбитам концов дыры, содержащей точку х, и, следовательно, в силу непрерывности h средние для этих двух орбит равны. Если число вращения рационально и орбита точки (х, у) периодическая, зггверждение очевидно. В противном случае орбита точки (х, у) положительно асимптотична к некоторой периодической орбите и отрицательно асимптотична к другой периодической орбите. В любом случае оба предела существуют, и если две периодические орбиты совпадают, то и числа £"*" и С~ совпадают. П Определение 13.3.13. Рассмотрим упорядоченную орбиту вида (^п) Уп) = /"(^) у)» ^^ являющуюся гетероклинической к двум различным периодическим орбитам, и определим усредненное действие С на этой орбите, полагая п-1 £(х):= lim iL({a^,...,x„_,})= lim ^ 52 Я(х., х,^,). 1=0 Предложение 13.3.14. Минимальное действие А(а) равно нижней грани усредненных действий всех упорядоченных орбит с числом вращения а. Доказательство. По предложению 13.3.4 для такой орбиты L({xqj ..., x^_j})^M(a:Q, 2;„_j, п)/п—*Л{а), а по предложению 13.3.12 мы имеем равенство пределов для минимальной орбиты. D Таким образом, для а —р/д, где ряд взаимно просты, А(р/д) равно минимуму функционала действия L на пространстве состояний типа (р, д), деленному на д, или, что то же самое, числу \/д, умноженному на значение L на любой биркгофовой периодической орбите типа (р, д). Эту величину можно интерпретировать как интеграл функции /i, определенной соотношением (13.3.3), по равномерной 5-мере по любой минимальной биркгофовой периодической орбите. Аналогично, для иррационального а обозначим через fi^ единственнзоо /-инвариантнзоо борелевскую вероятностную меру на минимальном множестве Обри — Мазера Л^ (см. теорему 11.2.9) с числом вращения а. Тогда А{а) —^h dfi^. 13.3 г. Устойчивые множества для множеств Обри — Мазера. Сейчас мы построим глобально минимальные полуорбиты, которые следз^от дырам в минимальном множестве Обри — Мазера. Эта конструкция является первым шагом на njrrn построения орбит, го м о клинических к минимальному множеству Обри — Мазера, т. е. орбит, циклические координаты которых ведзгг себя подобно орбитам типа 111^ гомеоморфизмов окружности. Предложение 13.3.15. Пусть G — дыра в минимальном множестве Обри —Мазера Л^, х eG. Тогда существуют глобально минимальные положительные и отрицательные полуорбиты с начальными условиями (х, У"*") и (х, у~) соответственно, которые правильно сплетены с каждой орбитой Л^.
444 Часть 3. Гл. 13. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ Доказательство. Пусть (р^, q\ — такая последовательность, что Рп/Яп~*^- Рассмотрим минимальные биркгофовы периодические орбиты w^ типа (РпуЯп)- Согласно следствию 13.3.11 предел по Хаусдорфу множеств w^ содержит множество Обри — Мазера Л^. Если этот предел w^ содержит точку (х, у), то орбита точки (х, у) глобально минимальна и правильно сплетена со всеми орбитами Л^, и мы получаем даже более сильное утверждение, чем нужно. В противном случае для каждого п рассмотрим глобально минимальное (х, x-f Рд, д„)-состояние. Оно представляет собой отрезок орбиты, который по предложению 13.3.7 правильно сплетен с w^ (из граничного условия следует, что число пересечений четно, в то время как предложение 13.3.7 позволяет не более одного пересечения). Следовательно, это состояние представляет собой зшорядоченный отрезок орбиты u„, соединяющий две точки с циклической координатой х, которые мы обозначим (х^ у^) и (х, 'tr). Точка X содержится в некоторой дыре G„ орбиты w . Без потери общности можно считать, что G^—*G. По следствию 13.1.3 объединение W„ множества w^ и отрезка орбиты v^ без концов (х, у^) и (х, у~) содержится в графике липшицевой фзшкции с константой Липшица, не зависящей от п. Таким образом, предел W последовательности W^ в метрике Хаусдор- фа принадлежит графику липшицевой функции и содержит множество Л , а также все образы (х, lim у+) =: (х, у*") и прообразы (х^ lim у~) =: (х, у~). п п Множество W почти инвариантно и упорядочено в следующем смысле: W\f{W) = {{x,y')}, W\f'^{W) = {{x,y^)} и / (соответственно, f'^) сохраняет порядок на WOf^^iW) (соответственно, Wr\f{W)). П Упражнения 13.3.1. Докажите, что для интегрируемого закручивающего отображения (см. п. 9.3 а) все орбиты глобально минимальны. 13.3.2. Найдите глобально минимальные орбиты эллиптического биллиарда (§ 9.2). 13.3.3*. Предположим, что все орбиты сохраняющего плошддь закручивающего диффеоморфизма замкнутого кольца А = S^ х [О, I] глобально минимальны. Докажите, что множество А распадается в непересекающееся объединение /-инвариантных липшицевых графиков G^, где а пробегает полный интервал закручивания (см. упражнение 13.2.6), и все орбиты на G^ упорядочены с числом вращения а. § 13.4. Орбиты, гомоклинические к множествам Обри — Мазера В этом параграфе мы докажем существование последнего типа орбит отображений окружности для сохраняющего площадь закручивающего отображения, показав, что существуют нерекуррентные точки, асимптотически приближающиеся к минимальному множеству Обри — Мазера, если инвариантные окружности с данным числом вращения отсутствзпот. Хотя наше доказательство существования таких орбит полностью основано на рациональном приближении, эти орбиты также можно построить как минимаксные решения бесконечномерной минимаксной вариационной задачи, в которой рассматриваются все состояния, сплетенные с данной последовательностью дыр множества Обри — Мазера. Этот метод — прямое обобщение нашего построения второй (минимаксной) биркгофовой периодической орбиты типа (р, q) в доказательстве теоремы 9.3.7.
ОРБИТЫ, ГОМОКЛИНИЧЕСКИЕ К МНОЖЕСТВАМ ОБРИ —МАЗЕРА 445 Теорема 13.4.1. Предположим, что существует минимальное множество Обри — Мазера Л^ для сохраняюи^его плои^адъ закручивающее го отображения f и G—любая дыра Л^. Тогда суи^ествует точка, проектирующаяся в G, проекции итераций которой содержатся в соответствующих образах G. Доказательство. Рассмотрим последовательность биркгофовых периодических орбит типа (р„, д„), Рп/Яп —* (^ ^ K\Q. Предел по Хаусдорфу содержит минимальное множество Обри — Мазера с числом вращения а. Если у этого множества есть точка из дыры G минимального множества Обри — Мазера, то орбита этой точки удовлетворяет условиям теоремы. В противном случае рассмотрим минимаксную биркгофову периодическую орбиту w'^, сплетенную с минимальной биркгофовой периодической орбитой w^ типа (р„, q^). Мы будем исследовать предельное поведение величины AL {р„, qj-.^ L (w'J - L (wj, Т. е. разность значений функционала действия для минимаксной и минимальной биркгофовых периодических орбит типа (р„, q^). Мы докажем, что имеет место одно из следующих утверждений. 1. Предел по Хаусдорфу последовательности w'^ содержит точку, проекция которой лежит в G. Орбита этой точки правильно сплетена с минимальным множеством Обри — Мазера, и, следовательно, она такая, как нам нужно. 2. Выполнено равенство lim AL(p„,g„)=0. оо Во втором случае рассмотрим глобально минимальные положительные и отрицательные полуорбиты с начальными условиями (х, у"*") и (х, у~) соответственно, построенные в предложении 13.3.15, и покажем, что у^ = у'у т. е. эта пара является частью одной орбиты, которая, следовательно, имеет такой вид, как нам нужно. Таким образом, в этом случае мы получаем значительно более сильный вывод, показывая, что каждая точка из дыры является проекцией орбиты нужного типа. Доказательство равенства у^ = у' основано на оценке разности у^~ у^, где величины у^ определены в доказательстве предложения 13.3.15 через AL(p„,g„). Итак, нам необходимо установить два факта. Во-первых, нужно доказать, что если предел по Хаусдорфу последовательности w' ве содержит точки, проекция которой лежит в G, то lim AL(p„, g^)=0. Во-вторых, мы хотим п—юо получить оценку разностей у^ и у^ через AL(p„, q^). Как и прежде в этой главе, будем маркировать состояния и орбиты, используя динамическое упорядочение, а не геометрическое, которое мы использовали ранее в гл. 9. Теперь докажем, что если предел по Хаусдорфу последовательности w'^ не содержит точки, проекция которой лежит в G, то lim AL(p„,g„) = 0. n—»оо Рассмотрим такие периодические состояния s = {sq, ..., s^}, что з^=з^-^р. Назовем эти состояния (р, д)-состояниями. Теперь рассмотрим функции h^ и h^, введенные в определении 9.3.3 и после него. Мы будем говорить, что состояние S является точным в к, если b^s^..^, з^)=Ь^{3}^, ^k + i) i^^- предложение 9.3.4). В этом случае мы будем писать yf,:= Ь^з^^рЗ^.), и если состояние s' является точным в к, то положим 2у^ := ^Л^^^р 5;|.). Если s и s'—два Периодических состояния, обозначим через 0{s,s') множество
446 Часть 3. Гл. 13. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ таких чисел fc 6Z, что состояния з и s' являются точными в к—1, к и fc-f 1, а 5fc _ 1 — 5,. _ 1, «i — Sfc и 5fc +1 — 5fc +1 имеют одинаковый знак. Доказательство леммы о регулярности 13.1.4 показывает, что существует такая константа Ср зависящая от /, что для к е0{з^ з') выполнено условие M^',-uK)'h,{3,_,,3,)\ = \y',-y,\<C,\3',-'3,\. (13.4.1) Числа в 0(5, 5') будут «хорошими» точками для наших оценок. Рассмотрим состояния 5" и з' , полученные из w^ и w^ соответственно. Пусть числа р„ таковы, что 5^ проектируются в правого соседа Sq на окружности, я a^eZ таковы, что 5^" — а^ — з^ —дробная часть выражения 5"^.^ — 5". Рассмотрим теперь случаи, когда предел по Хаусдорфу последовательности w^ не содержит точки, проекция которой лежит в дыре G минимального множества Обри — Мазера. Мы должны показать, что тогда lim ДЬ(;>„, 5„) = 0. Итак, существует дыра G = (^, г^), не содержащая ни одной точки из предела по Хаусдорфу последовательности w'^. Таким образом, без потери общности можно считать, что и 5'5 -+ Iq или 3'q -+ Г(,. Для любого е >0 существует такое т{£) € N, что для минимального множества Обри — Мазера найдется не более чем пг(е) дыр длины е/2 или больше. Полагая мы заключаем, что для всех е > О и достаточно большого п выполнено неравенство cardA^j ^ т{е). Заметим, что если к ^ А^^, то s'l-s^Ks и s:^^^-a^-s'l<E. (13.4.2) По условию пределы по Хаусдорфу орбит w'^ и w^ совпадают, так что lim sup тгх(з'1 - з^, 5^%^ -а^- з'1)=0 И, значит, для любого 6 е (О, е/2) и достаточно большого п мы имеем 3'l-s;:<S или 5,\^^-(7„-s7<5 для всех к. Пусть L^,:={keA^^\3'l-sj;<S}, R^^:={keA^,\s^,^^-a^-3'l<S}. (13.4.3) Лемма 13.4.2. lim min{|A^ - к^Цк^- р^е А^^, к^еА^^} = оо. п-—*оо Доказательство. Если это не так, то существуют такие дыры G (^, Го), 0' = {Ц, nJ) в множестве Л^, г„, fc„ 6 N, что " n->oo " " n->00
§ 13.4. ОРБИТЫ, ГОМОКЛИНИЧЕСКИЕ К МНОЖЕСТВАМ ОБРИ — МАЗЕРА 447 И последовательность {i„}„gN ограничена. Но если последовательность i^k+i 1 Si) = -^*''(^ni J/n) сходится и последовательность {injneji ограничена," то последовательность г„ = г 6 N постоянна. Так как А — совершенное множество, из минимальности мы заключаем, что образ G относительно /• (определенный естественным образом) равен G'. Таким образом, -^*(^nJ Уп)~* ^0» следовательно, s^ ^^ —+ rj mod 1, но в силу монотонности F»(x„, у„)—+ Ц, т. е. 3^^i —+ Ц mod 1, что приводит к противоречию. П Из тех же соображений получается также следз^ощее утверждение. Лемма 13.4.3. min{|Ari — k^WK ^-^n.^ ^^-^n.^} —^ ^- n—*oo окружность никакую Отрезок натурального ряда 5 =[fc, fc -f 5 - 1] назовем Л^-отрезком, если 5ПС^д = {А:}, ЗпА^^у^0 и к-^звС^^. Совокупность А„-отрезков S =[к,к + s ~\], где fc 6 [1, д„ - 1], обозначим 21д. Используя строгую эргодичность / на Л^ и тот факт, что w;„—+Л^, получаем, что имеется такое число ЩА) Е N, что для любого достаточно большого п любой отрезок длины N{A) пересекает С д. В частности, для любого А„-отрезка S =[к^ к -h s — \] мы имеем s — 1 ^ iV(A). Если S я S' — Л„-отрезки, то 5П(5Чр„) = 0по лемме 13.4.2. Для S =[к, fc-f s- 1]б21„ nycTbD^— Е (Я(5,",5.«^1)-Я(5Г^^,s.r^^^^i)).Назовем 5б21„левым i = k Ад-отрезком, если Vg <0, и обозначим совокупность левых Л„-отрезков через 21^1. Соответственно назовем 5 6 21„ правым А^-отрезком, если Ь^ > О, и совокупность правых А^-отрезков обозначим 21^j- Теперь покажем, что можно заменить все левые концы s" вдоль А„-отрез- ков на правые без значительного изменения значения функционала действия. Лемма 13.4.4. Существует такое с eR, что lim 5Z \'^s\^^ 'Ч^)' Доказательство. Положим ^k'p^ + <^п^ если к - р^ — левый А„-отрезок, i«:= ^ s^^p -сг^, если к—правый А„-отрезок, 5" в противном случае. Мы получили периодические состояния, причем ik + p^ ^ ^к- Состояния i'* правильно сплетены с s", и, так как s" —минимальное состояние, L{t'^) ^ ^ 1(5"). Если обозначить через ^i (В,) и Е^ (Е,) множества первых и по-
448 Часть 3. Гл. 13. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ следних элементов соответственно отрезков из 2l^i (2l^r)' то мы получаем Ik е 5, k€E, ^ - E 1^5! + const ( E (s," - s,"_^J + Yl (^^P„ - ^fc)) В силу дифференцируемости Я". Так как А„-отрезки попарно не пересекаются, последние две суммы ограничены величиной с ■ ^(А) для достаточно больших тг, как и нужно. D Теперь мы можем показать, что если предел по Хаусдорфу последовательности w'^ не содержит точки, проекция которой лежит в G, то lim AL{p^,qJ:=0. n—юо Из леммы 13.4.2 следует, что если отрезок Д достаточно мал и п достаточно велико, то каждый А„-отрезок S пересекает только одно из множеств L^g и -R^g, определенных в (13.4.3). Назовем такой отрезок S L-отрезком или JE-отрезком соответственно. Предположим, что S — JE-отрезок. Так как его длина не превосходит iV(A), по определению мы имеем J2isS^,^-a„-s'l)<N{A)S. (13.4.4) keS Пусть /i, := H{sZ s'l^,)- Щз:, s,%0- Тогда M{p^,q^) = L{n-L{s-)=Y,y^k= E E/^fc+ E ^^- jb =0 5 — Й-отрезок Jb € 5 Ik не лежит в Й-отрезке Чтобы оценить nepBjno сумму, заметим, что если S является JE-отрезком, то neS n€S < I'Dsl + с E(^?+.. - -^n - ^") < \1>s\+cN(A)S neS В силу дифференцируемости Н, и, так как существует не более m(e) JE-отрезков, мы имеем Е Е /^^ < Е 1^51 + '^ m{B)N(A)S ^ с{1{А) + т{в)ЩА)6), 5 —Й-отрезок Ike5 5еа а эта сумма может быть сделана сколь угодно малой, если е изначально фиксировано, Д выбрано достаточно малым и, наконец, S достаточно мало.
§ 13.4. ОРБИТЫ, ГОМОКЛИНИЧЕСКИЕ К МНОЖЕСТВАМ ОБРИ — МАЗЕРА 449 Для того чтобы оценить вторую сумму, нам понадобится следующая лемма. Лемма 13.4.5. (р, д)-состояний s неравенство Существует такое С 6 R, что для любых р, д, любых и s' и каждого отрезка I = [1^ т]с 0{з^ s') выполнено т т к = 1 J2[H(s'„sU,)-H{s„s,^,)] ^C^(s^-sj4|s„„-5;,,| + |s,_,-5,'.,|. k = t Доказательство. Пусть Mt ■=-^(^Ч) ^'t + i) ~-^(^ib) ^ib + i)- Тогда L(s')-b(s)=EMfc-Ho fc = 0 m J2[Щ4,sU^)-H{s„s,^,)] k = t m Y^{[H{sl, sU,) - H(s„ sl^,)] - [Щз„ s,,,) - H(s„ s',,,)]) k=t m ^{[H{sl,sl,,)-H{s„sU,)]-[H{s,_„s,)-H(s,^„sl)]- k^t -[Я(з,.„ sj - H(s,_„ sl)~H{s„ s,^,) - H(s„ si„)])k m ^ J2[H{s,^„ s,) - Я(5,_„ si) - H{s„ s,^,) - H{s„ sU,)] + k = t m + Y,\[H{sl,sl,,)-H(s„sl,,)]-[His,^„s,)-H(s,^„si)]\ Jb = I \H(s,^„ 5,) - Я(з,.„ 5,') - H{s^, s„^,) - Я(з„, s;^,)|+ m + '£\[H{sl, sl,,)~H{s„ si,,)] - [Я(з,.„ s,) - ЯК_„ sl)]\. fc = I Первый член здесь оценивается величиной C^(\s^^i — s^^J -f |S( — зЦ) < < ^(кш+1 -" ^m+il + \^i-i ~ ^i-i\) В силу дифференцируемости /. Далее, = (s; - Sj^(e, 5^ + ,) - (S^ - 5jh,(s,_p 77), ^ где no теореме о среднем значении и ^, и ту лежат между s'^ и 5^.. Но если к el С 0{s, s'), то hi{s'f^_^,sl) = h^{sl,s'k^i) и, следовательно, ^(^, 5^ + i)- — bi(5,._i, ^) не более чем линейно по (s^ — 5^.). Поэтому [H{sl,sU,)-H(s,,sl^,)]~[H{s,_,,s,)'H{s,^,,s',)]^C,{sl-s,f. D
450 Часть 3. Гл. 13. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ Чтобы оценить ^ /i^., заметим, что каждое число к, не содер- ib не лежит ни в каком iZ-отрезке жащееся ни в каком Л-отрезке, содержится в таком отрезке [% j], что 5f - (7„ 6 Д и S;^i - (7„ 6 Д. (13.4.5) Так как 0(s, в') = [1, д^ — 1], из леммы 13.4.5 следует, что Складывая все эти выражения, получаем сумму линейных членов, которая, согласно (13.4.5), ограничена числом с-1(Д), так же как и сумма квадратичных членов. Возводимые в квадрат члены не превосходят е в силу (13.4.2) и (13.4.3), и их сумма не превосходит единицы. Таким образом, сумма квадратичных членов меньше чем е, и, следовательно, величина ДЬ(р„, д^) становится произвольно малой при тг —+ оо. К настоящему моменту мы показали, что если предел по Хаусдорфу последовательности w'^ не содержит точки, проекция которой находится в G, то lim AL(p^, д^) =0. Следующая лемма завершает доказательство теоре- п—> оо мы 13.4.1. Лемма 13.4.6. Пусть s —состояние, представляемое биркгофовой периодической орбитой ю^, и 5^ —минимальное (х, x-f р„, д^)-состояние {используем обозначения из формулировки и доказательства предложения 13.3.15). Тогда L(s^)-L(5)^c|y+-y-|. Доказательство. Если s^ = {5^, • ■ ••>з'^ }, то положим s{t) = {5q + + *, s'u • • -5 <„-u < + О- Тогда dLjslt)) dt t=o dH{x, s[) , dH{s' ,,x) a , w ' Ч -H - Для e > 0 пусть t = e sign(y^ — y^). Если e достаточно мало и таково, что 5o^x-f i <s -a-„, то Утверждение доказано. П Заметим, что из утверждения леммы следует, что полуорбиты, полученные в предложении 13.3.5, являются на самом деле частью одной орбиты с начальным условием (х^ 2/"*") = (а:, у"). Таким образом, для каждой точки х из дыры G в множестве Л^ мы построили орбиту нужного вида, проекция которой содержит х, П Интересно отметить, что если предел по Хаусдорфу последовательности w^ содержит всю окружность, то lim Д//(р„, д„) = 0. Это заключение опи- п —>оо рается на относительно простое применение предложения 13.3.15. По условию inax(sf^^ -^„-5Г)^0,
§ 13.5. ОТСУТСТВИЕ ИНВАРИАНТНЫХ ОКРУЖНОСТЕЙ 451 так что max(s7 - 5f) —► О, (13.4.6) * n-*OQ И, следовательно, поскольку 0{з'^^ 5"*) = {1,..., д^ — 1}, по лемме 13.4.5 мы получаем q-l АЬ (р„, qj = L {зП - L (3") ^ const J2 (^7 - ^П'- ,-1 Так как ^(s'" —5")<1, последняя оценка и (13.4.6) означают, что lim AL{p^X) = 0. n—юо Обратное утверждение содержится в упражнении 13.5.1. Упражнение 13.4.1*- Докажите, что если в условиях теоремы I3.4.I AX(p„, д^) —»■ О, то / обладает инвариатггиой окружностью. § 13.5. Отсутствие инвариантных окружностей и локализация множеств Обри — Мазера В этом параграфе с помощью идеи, связанной с леммой о регулярности 13.1.1, мы получим критерий того, что некоторая точка не является точкой накопления никакого упорядоченного множества. Если этот критерий удовлетворяется вдоль кривой, соединяющей две компоненты границы кольца, то мы можем утверждать, что у отображения нет инвариантных окружностей. Предложение 13.5.1. Пусть f:C—*C--^акрг^чивающее отображение, F = (F^, Е^) — поднятие на полосу 5, F = {F^^ F^) — обратное к нему отображение и (х,у) е S — точка, проектирующаяся в точку накопления упорядоченного множества из С. Тогда Доказательство. Положим (х_р y_i):= F~^{xq, у^), (х^ yi):= :=F{xQ,yQ). Если (а^, 2^й) — точка из упорядоченного множества, близлежащая к {xq, Уо), то прообраз (х;^р у!_^) и образ (х(, у[) сплетены с образом и прообразом {xqj у^) соответственно, т. е. знаки всех разностей х'. — х- одинаковы, вне зависимости от близости между точками (х, у) и {х\ у'). Это означает, что угловой коэффициент F{x_^ х (0,1)) в точке (х^, у^) превосходит угловой коэффициент F~^{x^ х (О, 1)) в точке (х^, у^), т. е. Данное условие выражает тот факт, что если образ и прообраз вектора, закрепленного в точке х, направлены «вправо», то и сам вектор обязательно
452 Часть 3. Гл. 13. ЗАКРУЧИВАЮЩИЕ ОТОБРАЖЕНИЯ направлен «вправо». Это же условие альтернативным образом может быть выражено с помощью производящей функции, если использовать представление F{x X (О, 1)) как графика функции h{x, •). В случае сохраняющего площадь закручивающего преобразования (13.5.1) имеет особенно удобную интерпретацию через порождающую функцию. А именно, по (9.3.2) угловой коэффициент кривой F(x__^ х (О, 1)) в точке (xq, щ) равен 2^ {^~\) ^) и угловой коэффициент F'^{x^ х (О, 1)) в точке (а^, у^) равен ^-^^(а\), ^х)- ох Отсюда мы немедленно получаем такое следствие. Следствие 13.5.2. Предположим, что уGlSL таково, что для всех у из области определения h^i--, х) и z из области определения h^{xj •) (см. определение 9.3.3 и последуюи^ий пункт). Тогда не cyw^ecm- вует ни одной инвариантной окружности в С и^ кроме того^ имеется окрестность {х} х (0,1), которая не пересекается ни с одним множеством Обри — Мазера отображения /. Приведем два простых приложения этого результата. Во-первых, рассмотрим стандартное отображение, введенное в п. 9.2 а: F:RxR--+RxR, (ху у) ь-^ (х -f у, у -f V{x -f у)), где V — периодическая функция. Пусть U — пербообразная функции V. Тогда прямое вычисление показывает, что производящая функция этого отображения имеет вид Щх, х')= «(х-х^^+Щх'). Следовательно, мы получаем дЧ1 дх^ 1 и дЧ1 дх а 1 -f Y\x'), Предположим, что V'(a^) < -2 для некоторого х^. Тогда условие следствия удовлетворяется, следовательно, инвариантные окружности OTcyTCTBjnoT и, кроме того, существует окрестность {х^ х (О, 1), которая не пересекается ни с каким множеством Обри — Мазера отображения /. В частности, для семейства Д, где V^ = = (Л/27г)5ш27гх, мы заключаем, что инвариантные окружности отсутствуют при 1А|>2П. В качестве второго приложения рассмотрим задачу о биллиарде из § 9.2. В этом слз^чае инвариантные окружности соответствуют каустикам^ или особенностям волновых фронтов. Пусть В. — инвариантная окружность в фазовом пространстве. Рассмотрим все ориентируемые отрезки Z, соот- ветствз^ющие орбитам в J2. Их эволюта — кривая, которая иногда выпукла, Рис. 13.5.1. Невыпуклая каустика
§ 13.5. ОТСУТСТВИЕ ИНВАРИАНТНЫХ ОКРУЖНОСТЕЙ 453 Рис. 13.5.2. Биллиард с плоской граничной точкай а иногда содержит вогаутые дуги и сингулярные точ1ш. В выпуклом случае она может быть описана следующим образом. Ориентация отрезков I позволяет нам различать «левую» и «правую» области D\l. Границу с пересечения полученных таким образом левых областей называют выпуклой каустикой. Оказывается, что каждый отрезок, соответствующий орбите в R, касателен к с. Если представлять себе биллиард как выпуклую зеркальную комнату, освещенную лучом света, идущим по касательной к каустике, то эта каустика будет видна как особенно ярко светящаяся кривая, ограничивающая темную область. Как мы показали в (9.2.2) и (9.2.3), производящая функция в координатах (s, г), где s —натуральный параметр на границе, — это просто расстояние между точками границы, соответствующими значениям s и s'. Пример невыпз^июй каустики в форме астроиды показан на рис. 13.5.1 р]. Предложение 13.5.3 (Мазер) р]. Пусть D—выпуклая ограниченная область плоскости с границей В класса С^, причем на границе имеется точка, кривизна кривой в которой равна нулю. Тогда каустики биллиардного отображения в этой области отсутствуют. Доказательство. Предположим, что граница плоская в точке со значением параметра длины границы Sq. Для дайной точки s_i рассмотрим длину f{s):= — Я(з_р Sq- s) хорды, соединяющей s_i и 5q — s. С точностью до членов второго порядка f{s) = = \/с^ '\-{Ь — s)^, где аяЬ показаны на рис. 13.5.2, а именно, /(s) равно расстоянию до соответствующей точки на касательной прямой в точке Sq. Тогда /"(0) = {с^'\-Ь^)'^^^- ЬЦа^-hЬ^)~^^^ >0. Аналогичное вычисление показывает, что вторая производная длины хорды, соединяющей з^ и з^-¥з, как функции 3 отрицательна. Таким образом, мы имеем —у— < О < 2 ^ '^'^^ в точности является условием следствия 13.5.2. D Упражнение 13.5.1. (Гуткин, Каток) Рассмотрим С^-гладкую и кусочно С -гладкую выпуклую кривую В и допустим, что вблизи по крайней мере одной точки р € В кривизна в точке х стремится к бесконечности при х —»■ р. Докажите, что у внешнего биллиарда в В (см. конец п. 9.3 а) иет ни одной каустики.
ГЛАВА 14 ПОТОКИ НА ПОВЕРХНОСТЯХ И СВЯЗАННЫЕ С НИМИ ДИНАМИЧЕСКИЕ СИСТЕМЫ В этой главе будет исследоваться класс динамичесьсих систем с непрерывным временем с очень маломерным поведением с точки зрения описания, данного в главе 10, а именно гладкие потоки на замкнутых компактных поверхностях. Мы также уделим некоторое внимание потокам на поверхностях с границей, например на замкнутом диске или цилиндре, и на открытых поверхностях, например на плоскости. Это, в частности, позволит нам обсудить ряд полулокальных проблем. Другой естественный объект, связанный с такими потоками, — отображение Пуанкаре, индуцированное на транс- версали к потоку. Если поток сохраняет неатомарную меру, положительную на открытых множествах (например, площадь), то такие отображения Пуанкаре топологически сопряжены локально изометрическому отображению с конечным числом разрывов. Эти отображения наглядно описываются термином «перекладывание отрезков». Вообще говоря, асимптотическое поведение потоков на поверхностях характеризуется медленным ростом числа орбит, но они обладают менее равномерными типами возвращения и статистического поведения, чем обратимые одномерные отображения, изучаемые в гл. 11 и 12. Первое обстоятельство тесно связано с тем фактом, что и орбиты, и одномерные трансверсали к потоку локально делят поверхность; второе же обязано своим появлением прежде всего более сложной, чем у окружности (и тора), топологии поверхностей рода выше единицы и, в меньшей степени, эффектам замены времени. Характерными проявлениями этого типа сложности, промежуточного между простым поведением нашей первой группы примеров (§§ 1.3—1.6) и диффеоморфизмами окружности с одной стороны и примерами с положительной топологической энтропией (§§ 1.7-1.9, 5.4, 9.6) с другой, являются теоремы о конечности числа нетривиальных замыканий орбит (теорема 14.6.3) и неатомарных эргодических инвариантных мер (теорема 14.7.6) для потоков на поверхностях рода больше единицы. Эти результаты параллельны единственности минимального множества (предложение 11.2.5) и строгой эргодичности (теорема 11.2.9) гомеоморфизмов окружности. Хотя большинство из этих результатов имеют место в полной общности, мы доказываем их при упрощенных предположениях, таких как конечность и не очень сильная вырожденность неподвижных точек, а также сохранение площади или меры, положительной на открытых множествах. Эти ограничения вполне обоснованны, так как, во-первых, в отличие от случая отображений окружности, они не ограничивают нас по сзш^еству тривиальными ситуациями и на самом деле не ограничивают сложности потоков на поверхностях и, во-вторых, они выполняются в нескольких интересных специальных ситуациях, например для биллиардов в многоугольниках с рациональными углами.
§14.1. ТЕОРИЯ ПУАНКАРЕ — БЕНДИКСОНА 455 § 14.1. Теория Пуанкаре — Бендиксона 14.1 а. Теорема Пуанкаре — Бендиксона. Мм начнем с анализа потоков на поверхностях, топология которых допускает только простые типы возвращения орбит, т. е. неподвижные точки и периодические орбиты. Это не значит, что глобальная структзфа орбиты любого потока на такой поверхности тривиальна, важно лишь то, что сложность этой структуры целиком определяется комбинаторикой неподвижных точек, периодических орбит и сепаратрис, соединяющих седла, а не рекуррентным поведением. Основные примеры поверхностей с таким свойством — сфера, плоскость и диск, но этот класс также включает цилиндр, лист Мёбиуса и проективную плоскость. Рассуждения основаны на теореме о жордановых кривых П 5.2. Теорема 14.1.1 (теорема Пуанкаре — Бендиксона). Пусть М — поверхностьу являющаяся открытым подмножеством сферы S^ либо проективной плоскости, и пусть X —векторное поле на М класса СЧ Тогда все положительно или отрицательно рекуррентные орбиты являются периодическими. Кроме того, если множество ш-предельных точек некоторой точки не содержит неподвижных точек, то оно состоит из единственной периодической орбиты. Доказательство. Предположим сначала, что М — подмножество сферы. Обозначим через tp^ поток, порожденный векторным полем Х, и предположим, что р — положительно рекуррентная и непериодическая точка. Выберем короткую трансверсаль % проходящую через р, и пусть t — наименьшее положительное число, для которого ^ {v) € 7- Тогда объединение отрезков орбиты {'^'(p)}o^,^t и отрезка 7. соединяющего р и <^'(р), является простой замкнутой кривой С, называемой пре- трансверсалью (поскольку далее мы будем использовать такие кривые для того, чтобы строить трансверса- ли). Теорема о жордановых кривых П 5.2 утверждает, что дополнение к С состоит из двух непересекающихся открытых множеств А и В. Мы можем обозначить их таким образом, чтобы вблизи 7 поток шел из А в В. Это приводит к тому, что положительная полуорбита ffi^{p), а следовательно, и ш-предельная точка ш{р) точки р содержится в В. Так как точка р рекуррентна, мы имеем А э fp~^{p) € 0{р) С а;(р) С В, что приводит к противоречию. Если М — подмножество проективной плоскости, то существует ориентируемое двулистное накрытие М. Пусть pG М — положительно рекуррентная непериодическая точка. Рассмотрим две точки р, и pij, которые накрывают ее. Орбита точки р^ под действием потока, порожденного поднятием векторного поля X, имеет точку накопления в множестве {PiyP2}- Если это точка pj, то все доказано предшествующим рассуждением. В противном случае точкой накопления орбиты является точка pij и мы можем построить претранс- версаль вблизи Р2, что вновь приводит к противоречию. Теперь рассмотрим ш-предельное множество W точки р и предположим, что оно не содержит ни одной неподвижной точки. По следствию 3.3.7 множество W содержит рекуррентные точки. Как показано выше, они должны быть периодическими. Таким образом, можно выбрать периодическую точку Рис. 14.1.1. Пре- трансверсаль
456 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ q € W, Заметим, что в случае проективной плоскости подаятие q на ориентируемое двулистное накрытие также является периодической точкой, так что мы можем сразу считать, что многообразие М ориентируемо. Рассмотрим маленький трансверсальный отрезок 7j содержащий q. В силу непрерывности отображение возвращения на этот отрезок определено в некоторой окрестности точки q в j. Выберем одностороннюю окрестность / точки q настолько малой, что первая точка пересечения <р^{р) с 7 не содержится в I, ио бесконечно многие ее образы возвращаются в /. Параметризация этой окрестности параметром из [О, 6) дает непрерывное отображение / полуинтервала [О, 5) на полуинтервал [О, S') с неподвижной точкой 0. Орбита точки р дает бесконечно большое количество точек х € (О, 5), для которых }{х) < X, поэтому либо f(x) < X для всех х б [О, 5), либо полуинтервал [О, 5) содержит неподвижную точку у. Последний случай невозможен, так как тогда отрезок [О, у] будет инвариантен относительно / и, следовательно, найдется инвариантное относительно потока кольцо, которое отделяет орбиту точки q от орбиты р, так что q ^ а;(р). Но если /(х) < х, то все точки X 6 (О, 5) положительно и монотонно стремятся к 0. Так как времена возврата на / ограничены, это значит, что отрезки орбиты точки р между двумя последовательными возвратами сходятся к орбите q, так что ш{р) совпадает с орбитой q. П 14.1 б. Существование трансверсалей. Определение 14.1.2. Трансверсалью к векторному полю на поверхности называется такая простая замкнутая кривая, что векторное поле не является касательным к этой кривой ни в одной точке. Пусть т — трансверсаль к векторному полю X и ориентация т зафиксирована. Тогда в каждой точке т мы можем определить угол между т и X. Этот угол принадлежит либо интервалу (О, тг), либо интервалу (—тг, 0) для всех точек. Предложение 14.1.3. Пусть М — поверхность с римановой метрикой и X —векторное поле на М класса С^ с положительно рекуррентной непериодической орбитой. Тогда для каждого е > О существует такая ориентируемая трансверсаль т, что угол между Хит содержится в интервале (О, е) для каждой точки. Отметим, что доказательство проще в случае ориентируемой поверхности, но сложность, возникающая в случае неориентируем ой поверхности, незначительна. Доказательство. Начнем с построения, которое является уточненным вариантом нашей конструкции претрансверсалей. Конечно, так как мы рассматриваем произвольную поверхность, мы не можем использовать теорему о жордановых кривых П 5.2 и не получим противоречия, как в доказательстве теоремы 14.1.1. Пусть р — положительно рекуррентная точка. Рассмотрим трубчатую окрестность потока, т. е. окрестность U точки р, на которой заданы такие С ^-координаты (х, у), —е^у^£, что в этих ко- ординатах X = ^ и р = 0. Кривая-граница у = —е называется основанием трубчатой окрестности потока, а кривая у = е — крыихкой. Обозначим через (р* поток, порожденный X. Так как р — положительно рекуррентная, но не периодическая точка, найдется бесконечно много значений i, для которых ^^{р) содержится в прямой у = 0 из окрестности U. Так как поле X не обращается в нуль на орбите точки р, мы можем выбрать векторное поле Y в точках положительной полуорбиты точки р так.
§ 14.1. ТЕОРИЯ ПУАНКАРЕ — БЕНДИКСОНА 457 что (X, Y) представляет собой репер, т. е. X и У линейно независимы в каждой точке. Это задает ориентацию для всех точек орбиты точки р. Для любых двух точек ip^(p) в U мы можем сравнивать эти ориентации. Для данного 5 > О назовем назовем время ^q моментом ближайшего возвращения, если точка ip^{p) находится на интервале прямой у = 0, |х| < 6 в и и лежит ближе к нулю, чем любая точка ffi^{p) той же самой прямой для любого t 6 (О, *о)' -^ы хотели бы получить бесконечно много моментов ближайшего возвращения, ориентации которых согласованы с ориентацией в р. Если это не так, то ориентации вря ip^{p) отличаются для бесконечно большого количества моментов ближайшего возвращения, так что мы можем рассмотреть два таких последовательных момента t^ я t^, что ориентации в |^^(р) и fp^{p) согласованы и расстояние между ip^{p) и ffi^{p) может быть сделано сколь угодао малым. Тогда замена р на ffi^{p) возвращает нас к первому случаю. Таким образом, мы можем считать, что точка р обладает моментом ближайшего возвращения ^^(р), в котором ориентация совпадает с ориентацией в точке р. Заметим, что предшествующее рассуждение необходимо лишь для того, чтобы включить в рассмотрение неориеитируемые поверхности. Рассмотрим теперь узкую полосу вокруг отрезка орбиты точки р для t е [О, *о]- Эту полосу можно считать ориентируемой, так как репер (X, У"), заданный первоначально на орбите р, может быть перенесен на малую окрестность отрезка орбиты. Используя риманову структуру, мы можем, таким образом, определить поворот Z = RgX векторного поля X как векторное поле, которое образует угол.^ с полем X. Если этот угол достаточно мал и имеет правильный знак, то орбита точки р под действием потока фд^ порожденного полем Д остается внутри полосы и возвращается в точку фд (р) между р и fp^{p) на прямой у = 0. Рассмотрим кривую с, полученную соединением точек i}^{p) и ij^{p) прямой из U, где ij и tj выбраны такими, что ф}{р) 6 и для t е [О, ij и i 6 [tj, *']• Если ij не слишком мало, а tj не слишком близко к t', то для достаточно малого 6 угол между с я X меньше чем s (там, где он определен). Таким образом, мы можем выбрать гладкую кривую т, достаточно близкую к с, так, что угол между т я X лежит между О и е вдоль т. Это и есть нужная нам трансверсаль. П Мы хотели бы знать, где определено отображение возвращения на такую трансверсаль. С помощью этой конструкции мы получаем, очевидно, такую трансверсаль т, что существует по крайней мере одна точка ^ € т, которая возвращается на т через некоторое положительное время. Таким образом, отображение возвращения на г корректно определено и непрерывно на непустом открытом подмножестве т. Следующий результат позволяет показать, что это множество в некоторых случаях достаточно велико. Этот результат применим не только к замкнзггым траисверсалям» но и к транс- версальным отрезкам. Заметим, что множество точек на трансверсали, koj- торые возвращаются на нее, открыто и, следовательно, представляет собой объединение непересекающихся интервалов. Предложение 14.1.4. Пусть М —замкнутая поверхность с векторным полем X класса СК ПредположиМу что г — трансверсаль, не обязательно замкнутая. Если Tq —множество точек, возвращающихся на г, и р gBtq — конец интервала из Tq» который не является концом т и не возвращается в конец т, то ш-предельное множество ш{р) состоит из неподвижных точек поля X.
458 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ Доказательство. Обозначим через ^* поток, порожденный полем Xj и предположим, что существует точка у 6 ш{р)\¥1х{<р^). Заметим, что в этом случае орбита точки р имеет бесконечную длину, так как существует е > О и такая окрестность точки у, в которую орбита возвращается бесконечно много раз, что соответствующий каждому возврату отрезок орбиты, лежащий в этой окрестности^ имеет длину е. Так как поверхность М компактна, орбита р обладает непериодической рекуррентной предельной точкой. Это значит, что для s > 6 найдутся такие моменты времени О < i^ < tj» что d{tp^{p), ff^ip)) < е и ориентации в <^''(р) и fp^{p) (определенные в предыдущем доказательстве) совпадают. Замыкая множество ijP^P) I ^ ^ * ^ Аг} короткой трансверсалью, мы получаем претраисверсаль. Таким образом, мы построили претрансверсали с произвольно короткими трансверсальными частями из орбиты точки р. Заметим, что для двух данных отрезков т^ и Tg, трансверсальных X, для которых существует интервал / С Тр состоящий из точек, положительные орбиты которых пересекают Tg, найдется трубчатая окрестность потока, состоящая из отрезков орбиты, начинающихся на / и заканчивающихся на Tg. Полезно обратить внимание на тот факт, что любая замкнутая трансверсаль, пересекающая отрезок орбиты в трз^бчатой окрестности потока, либо пересекает его основание или крышку, либо является трансверсалью ко всей трубчатой окрестности, т. е. пересекает каждый отрезок орбиты из трубчатой окрестности. То же верно для поперечного отрезка претрансверсали, если только его концы не лежат в трз^бчатой окрестности. Для данного qel пусть г обозначает середину (в /) отрезка рд^ и пусть J — интервал с концами q и г. Обозначим через d минимальную ширину трубчатой окрестности с основанием J { г pp. J Рис. 14.1.2. Конфигурация трансверсалей И крышкой в т (т. е. нижнюю грань длин кривых, пересекающих все отрезки орбит из трубчатой окрестности). Как мы знаем, можно построить претраисверсаль из орбиты точки р, траисверсальиая часть которой 7 имеет длину, меиьшзпо чем d/2, и не пересекается с т. Заметим, что положительная полуорбита каждой точки р' из /, достаточно близкой к р, должна пересекать -у (либо приблизительно в момент времени ip либо приблизительно в момент времени ^г)- Интервал с концами р я р' — основание трубчатой окрестности, состоящей из отрезков орбит, кончающихся на 7- Трансверсаль т не пересекает эту трз^чатую окрестность (если забыть об основании), так как в противном случае она будет пересекать все отрезки орбит из трубчатой окрестности, в частности орбиту р. Но по условию точка р не возвращается на т. Рассмотрим теперь трубчатзпо окрестность, основание которой — интервал в т с концами q я р', а крышка содержится в т. Мы можем считать, что этот интервал содержит середину г отрезка pq. Предыдущие соображения
§ 14.1. ТЕОРИЯ ПУАНКАРЕ — БЕНДИКСОНА 459 показывают, что 7 пересекает эту трубчатую окрестность и, следовательно, проходит ее насквозь (так как эта кривая не пересекается с т). Следовательно, длина 7 больше d в силу выбора d. С другой стороны, по построению длина 7 не превосходит d/2. Полученное противоречие завершает доказательство. D Следствие 14.1.5. Если X —векторное поле без неподвижных точек на замкнутой поверхности иг— замкнутая трансверсаль, то отображение возвращения на т либо определено на всей трансверса- ли т, либо не определено вообще. Предложение 14.1.6. Пусть X — сохраняюисее площадь векторное поле на замкнутой компактной поверхности щ все неподвижные точки которого — центры и {возможно, кратные) седла. Пусть г— {не обязательно замкнутая) трансверсаль к X. Тогда отображение возвращения на т определено и непрерывно всюду, кроме, быть может, конечного числа точек, и в этих точках оба односторонних предела существуют. Доказательство. Во-первых, множество неподвижных точек поля X конечно, так как седла изолированы и поверхность М компактна. Существует конечное число положительных полуорбит, ш-предельные множества которых состоят из неподвижных точек. Эти орбиты — входящие (устойчивые) сепаратрисы седел. Действительно, ш-предельное множество любой сепаратрисы состоит из единственного седла. Применяя первое утверждение предложения 4.1.18 к сдвигу за единичное время, мы получаем, что множество рекуррентных точек плотно в М; следовательно, его пересечение с любой трубчатой окрестностью U точки р 6 т плотно в и. Так как множество рекуррентных точек инвариантно относительно потока, множество т^ точек из т, которые возвращаются на т, плотно в т. Напомним, что множество Tq открыто и, следовательно, состоит из интервалов. Поэтому по предложению 14.1.4 положительная полуорбита любой концевой точки любой компоненты множества Tq должна быть входящей сепаратрисой одной из неподвижных точек. Таким образом, Tq состоит из конечного числа интервалов, и, так как это множество плотно в т, его дополнение конечно. Заметим, что на каждом интервале Tq отображение возвращения инъективно, следовательно, монотонно, так что в концевых точках существуют односторонние пределы. D . Замечание. Мы использовали сохранение площади лишь при применении предложения 4.1.18. Это предложение может применяться, если поток обладает инвариантной мерой, носитель которой — целая поверхность, т. е. мерой, положительной на открытых множествах. Однако в случае когда сохраняется площадь, можно получить дополнительные сведения об отображении возвращения. Следствие 14.1.7. В условиях предыдущего утверждения сущест - вует такая гладкая параметризация т, что отображение возвращения на т является изометрией на каждой компоненте Tq. Доказательство. Рассмотрим инвариантную гладкую меру на т, индуцированную (инвариантной) площадью (см. предложение 5.1.11). Выберем начальную точку р ет я ориентацию на т. Тогда параметризация состоит в сопоставлении точке х 6 т меры интервала, соединяющего точки р и X. D В § 14.5 мы исследуем отображения возвращения, возникающие в этом следствии.
460 ДИНАМИЧЕСКИЕ СИСТЕМЫ Упражнения 14.1.1*. Покажите, что существует С^-открытое плотное множество векторных полей класса С^ иа компактной замкнутой поверхности, которые обладают лишь конечным числом неподвижных и периодических орбит, и все они гиперболические. 14.1.2. Покажите, что для любого сохраняющего площадь векторного поля иа сфере существует плотное инвариантное множество, состоящее из неподвижных точек и периодических орбит. 14.1.3. Покажите, что теорема Пуанкаре — Бендиксона 14.1.1 выполнена для любого потока, порожденного векторным полем класса С^, для которого выполняется теорема еданствен- ности решений дифференциальных уравнений. § 14.2. Потоки без неподвижных точек на торе 14.2 а. Глобальные трансверсали. Согласно теореме Пуанкаре — Хоп- фа об индексе 8.6.6 единственные компактные поверхности (без границы), допускающие потоки без неподвижных точек, —тор и бутылка Клейна. Оказывается, на бутылке Клейна нетривиальное возвращение невозможно (см. упражнение 14.2.3), а на торе любой поток с нетривиальным возвращением эквивалентен специальному потоку над некоторым диффеоморфизмом окружности. Мы будем использовать следз^ощее наблюдение. Рассмотрим любую компактную ориентируемзпо поверхность М с римановой метрикой. Тогда для данного векторного поля X па М существует однойараметрическое семейство векторных полей RgX, полученных вращением поля Х(р) на угол в в каждой точке р. Благодаря наличию ориентации это семейство корректно определено. Очевидно, множество неподвижных точек поля RgX совпадает с множеством неподвижных точек X. Предложение 14.2.1. С^-поток на торе Т^ без неподвижных точек допускает замкнутую трансверсалъ. Доказательство. Выберем риманову метрику на Т^ и рассмотрим векторное поле Z = R^^2^, перпендикулярное X, Если поле Z имеет периодическую орбиту, то она представляет собой замкнутую трансверсаль к X. В противном случае у Z есть положительная рекуррентная непериодическая орбита, и мы можем с помощью предложения 14.1.3 получить ориентируемую трансверсаль к Д которая образует угол с Z, меньший чем 7г/4. Но тогда эта орбита также трансверсальна и к X, так как угол, который она образует с X, не может быть равен нулю. D П р едложение 14.2.2. Если поток без неподвижных точек с непериодической рекуррентной орбитой на замкнутой поверхности допускает замкнутую трансверсалъ, то каждая орбита этого потока пересекает ее. Доказательство. Мы покажем, что множество точек, орбиты которых пересекают трансверсаль т, открыто и замкнуто в Т^. Сначала заметим, что по следствию 14.1.5 отображение возвращения определено на всей трансверсали. Заметим также, что в силу компактности т времена возвращений ограничены. Таким образом, множество точек, орбиты которых пересекают т, представляет собой конечное объединение образов замкнутого множества (j ^'(''")• следовательно, является замкнутым множеством. te[-e,e]
§ 14.2. ПОТОКИ БЕЗ НЕПОДВИЖНЫХ ТОЧЕК НА ТОРЕ 461 Однако это множество является также конечным объединением открытых множеств и ^Ч''")' следовательно, оно открыто. D Из ЭТИХ двух результатов получим требуемую эквивалентность. Следствие 14.2.3. С^-поток без неподвижных точек на Т^ с непериодической рекуррентной орбитой гладко сопряжен специальному потоку над некоторым сохраняющим ориентацию диффеоморфизмом окружности. Доказательство. По предложению 14.2.1 поток обладает трансвер- сальго т, а по предложению 14.2.2 каждая орбита пересекает т. Если мы параметризуем т углом ^ 6 5\ то отображение возвращения на т будет определять некоторый диффеоморфизм окружности /. Если время возвращения точки с координатой в равно /i(^), то мы можем ввести координаты (6, у) иа Т^, тд,е0^у<к(в), и в этих координатах векторное поле примет вид -5-. т. е. наш поток — специальный поток. D Такая тесная связь с отображениями окружности позволит нам применить результаты глав И и 12. Следующая классификация представляет собой первый пример этого применения. Предложение 14.2.4. С^-поток на Т^ без неподвижных точек с непериодической рекуррентной орбитой топологически сопряжен некоторой замене времени линейного потока. Доказательство. По предложению 14.2.1 существует трансверсаль, которую мы можем считать гладкой, так что поток сопряжен специальному потоку над С^-диффеоморфизмом окружности. По теореме 12.1.1 этот диффеоморфизм топологически сопряжен вращению, так что согласно следствию 14.2.3 поток топологически сопряжен специальному потоку над вращением, т. е. замене времени линейного потока на Т^. D Осложнения, которые мы встречаем в теории отображений окружности низкой (ниже С^) регулярности, а именно пример Данжуа (см. предложение 12.2.1), возникают и для торов. Так, специальный поток над отображением Данжуа, построенный в § 12.2, является потоком на торе, который демонстрирует поведение в духе примера Данжуа и, в частности, не сопряжен топологически со специальным потоком над вращением. S4.2 б. Потоки, сохраняющие площадь. В определенных случаях то- полошческое сопряжение, полученное в предложении 14.2.4, оказывается гладким. Рассмотрим сначала потоки, сохраняющие площадь, для которых теорема Пуанкаре о возвращении 4.1.19 дает утверждение, входящее в посылку двух предыдущих утверждений. Предложение 14.2.5. Пусть tp^ —С^-поток на Т^, сохраняющий элемент площади класса С"*, и пусть п = тт{к^ т + 1). Тогда поток ip*^ С-сопряжен со специальным потоком над некоторым поворотом окружности. Доказательство. Прежде всего заметим, что по предложению 5.1.11 С°°-трансверсаль т, построенная в предложении 14.2.1, допускает инвариантную относительно отображения возвращения С""'"<*^''^-пара- метризацию длиной. Таким образом, по предложению 12.4.4 отображение возвращения С"-сопряжено повороту окружности. Продолжая это сопряжение так же, как в доказательстве следствия 14.2.3, мы получим С"-со- пряжение со специальным потоком. D
462 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ Заметим, что данный линейный поток может быть представлен как надстройка различных поворотов для различных трансверсалей. Легко видеть, однако, что число вращения зависит только от гомотопического типа транс- версали. В частности, рассмотрим поток I^*" и трансверсаль т^^, которая поднимается до прямой с угловым коэффициентом 1/к, и определим линейное преобразование вида А = I -, Т I с такими целыми числами т, п, что det А = 1. Число вращения относительно трансверсали т^^ равно числу вращения преобразования Т/"''" относительно горизонтальной трансверсали, Tj (J, т. е. обратной величине к угловому коэффициенту A~^uj, который имеет вид Г7~Г^- Заметим, что пара чисел (щ п) единственна с точностью до целых кратных (к, ?), так что это выражение для числа вращения корректно определено по модулю одни. В частности, числа вращения р и р', полученные с помощью двух различных трансверсалей, связаны дробно-линейным преобразованием ,_ар + Ь а о где d целочисленная матрица с определителем один, Напомним (см. определение 2.8.1), что иррациональное число а называется диофантовым, если существуют такие числа к,г>0, что для любых отличных от нуля р, g € Z мы имеем \да — р\> kg'"'. Это свойство инвариантно относительно дробно-линейных преобразований. Лемма 14.2,6. Если а — диофантово иррациональное число и аа + Ь невырожденная целочисленная матрица, то число -^ , ^ а Ь с d также диофантово. Доказательство. Заметим, что по условию а и с не могут быть одновременно равны нулю. Таким образом, мы имеем Q аа + Ь ca-\-d )-' (да— рс)а -\~ (qb — pd) ca-^d k\qa — рс \ca -h d —r qa >^ -T^-1 T^> q^^ поскольку для тех чисел p/g, которые хорошо аппроксимируют число ^" ^, выполнено неравенство \qa — pc\ < Cq, С = const. D Возвращаясь к общим сохраняющим площадь потокам, естественно задаться вопросом о том, как определить, является ли гладко сопряженный специальный поток, полученный в предложении 14.2.5, гладко сопряженным с надстройкой. Согласно предложению 2.9.5 достаточное условие состоит в том, чтобы основание поворачивалось на диофантов угол. Таким образом, мы получаем следствие. Следствие 14.2.7. Пусть tp^ —С°°-поток на торе Т^, сохраняющий элемент площади класса С°° и имеющий такую трансверсаль, что индуцированное отображение обладает оиофантовым числом вращения. Тогда поток (р^ С°°-сопряжен линейному потоку. В п. 14.7 а мы увидим, как этот вопрос может быть решен без использования сечений.
§ 14.3. МИНИМАЛЬНЫЕ МНОЖЕСТВА 463 Упражнения 14.2.1. Покажите, что для типичного (т. е. содержащего плотное Gj-множество) множества чисел р существует такая вещественно аналитическая функция у?, что специальный поток под у? над поворотом Л не является С*-эквнвалеитным линейному потоку, 14.2.2. Докажите, что каждый поток без неподвижных точек на бутылке Клейна имеет периодическую орбиту. 14.2.3. Покажите, что любая рекуррентная орбита потока без неподвижных точек на бутылке Клейна является периодической. 14.2.4. Докажите, что для г ^О существует С°°-поток на торе, который С^-, но не С^ "*" ^-ор- битально эквивалентен линейному потоку. § 14.3. Минимальные множества Пока наш список примеров минимальных множеств для потоков на поверхностях весьма ограничен. Конечно, неподвижные точки и периодические орбиты появляются у потоков на любой компактной поверхности. Кроме того, иррациональный линейный поток на торе Т^ минимален. Наконец, мы упоминали о том, что минимальные канторовы множества возникают у специального потока над примером Данжуа. Последнее возможно для гладкости С\ но невозможно для потоков без неподвижных точек гладкости С^ на торе. Оказывается, что, как мы сейчас покажем, для С^-потоков на любой поверхности множество всех возможных видов компактных минимальных множеств исчерпывается первыми тремя примерами. Это обобщение теоремы Данжуа, и доказательство вновь использует оценку ограниченности искажения. Теорема 14.3.1 (Шварц) [^]. Пусть М — гладкая поверхность, (р* — С^-поток и А —непустое компактное минимальное множество. Тогда А либо является неподвижной точкой, либо периодической орбитой, либо совпадает с М, Замечание. Заметим, что если А = М, то М компактно и поток ip^ не имеет неподвижных точек, так что согласно классификации компактных поверхностей и теореме Пуанкаре — Хопфа 8.6.6 М является либо тором, либо бутылкой Клейна. Упражнение 14.2.3 исключает последнюю возможность, и, таким образом, М = Т^. Как видно из факта существования потоков типа Данжуа на Т^, предположение о принадлежности классу С^ существенно. Мы используем его следующим образом. Минимальное множество А не содержит никаких собственных замкнутых инвариантных подмножеств, так что дА=А или дА =0. Таким образом, если А фМ, то множество А нигде не плотно. Итак, мы должны только исключить возможность появления канторовых множеств, что будет сделано с помощью рассуждений, аналогичных применяемым в доказательстве теоремы Данжуа 12.1.1, которые используют предположение о принадлежности классу С^. Доказательство. Допустим, что А — нигде не плотное компактное инвариантное минимальное множество без неподвижных или периодических точек, и придем к противоречию. Выберем точку в множестве А и рассмотрим трансверсальный отрезок т класса С"^, проходящий через эту точку, концы которого не содержатся в А. Выбирая трубчатую окрестность
464 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ потока и (р*(т), мы отождествляем т с 1 = (-г]^ т?) сЕ и пересечение тПА t\<e С компактным непустым нигде не плотным подмножеством С интервала I. Таким образом, множество W := 1\С плотно и представляет собой счетное объединение непересекающихся открытых интервалов (а^ &^), / eN. Если и — множество точек х е I, орбиты которых возвращаются на т за некоторое время t > О, но не попадают в концы г в течение времени О < s < t, то и представляет собой окрестность множества С в I и отображение возвращения / корректно определено, инъективно и непрерывно, а на самом деле в силу трансверсальности даже принадлежит классу С^ на U. Так как кривая г трансвереальна к векторному полю ф\ мы также имеем /'фО на и. Если V — открытая окрестность Q замыкание которой содержится в Ц то по компактности V существует такое число К > I, что -^<|/'|<ii:, \г\<к (14.3.1) на V. Конечно, С — непустое компактное инвариантное минимальное множество отображения / без периодических точек. Кроме того, множество концов С:= {Jidijb^yXl—rjjr]} с С является /-инвариантным. Таким образом, если (a^, &^) — компонента W, (a^, bi)C U, щф—г) и Ь^ фт}^ то /((^о &^)) — также компонента W. Теперь рассмотрим расстояние е::= d{Q dV) е (О, г]) и заметим, что множество Q таких точек a^, &^ е С, что Ъ^ — щ^ ег, является конечным. Таким образом, существует такое iV е N, что Р{а{) ^ Q для п:^ N. Так как множество С инвариантно, существует такое / 6 N, что /"(oi) = Oi или /"(oi) = bi. Следовательно, интервал (а, Ь):= (a^, Ь^) обладает тем свойством, что /"((а, &)) — компонента W длины, меньшей чем ег, для всех neN. Поскольку {а, Ь} с С, это означает, что r{[a,h])(ZV для neN. Эти интервалы попарно не пересекаются, так как множество С не содержит периодических точек, и, таким образом, их длины суммируемы. Последнее обстоятельство будет использоваться ниже в рассуждениях, сходных с доказательством теоремы Данжуа, которые в конечном счете покажут, что в множестве С должна существовать периодическая точка. Предложение 14.3.2. Предположим, что /: [О, 1]-*[0»U — С^-отображение и число К>0. Тогда существует такое С еШ, что к если I с [О, 1] и неравенства (14.3.1) выполнены на U J^{I)^ то к log ^су\Г{х)-Пу)\ *=0 для всех Xjyel Доказательство. Поскольку согласно цепному правилу (Z^"*" *)'(а:)= к П /'(/*(^))» по теореме о среднем значении найдется такое ^^ С 1 = 1
§ 14.3. МИНИМАЛЬНЫЕ МНОЖЕСТВА 465 C/*(fe Я))> ^^то В силу (14.3.1) log k + lV ifiimpi (/*^')(9) <J2\^°s\f'(np))\-^og\f'if4g))\\ *=0 J2\^^''^\f'(^^>\\'\f'(p^-f'(^^\=J^^^^ < i=0 1=0 < K'J2\f'(p)-f'(^)\ D *=o В дальнейшем нам понадобится такое непосредственное следствие. Лемма 14.3.3. Если f: [0,1] -+ [О, 1] — С^-отображение и образы I попарно не пересекаются, то множество ш-предельных точек I содержит критическую точку. Предположим, что п е N и отрезки [р, д] С [з, t] с V таковы, что /*([з, t]) С V для О < fc < п. Тогда в силу предложения 14.3.2 мы имеем jfc + i\' iP^')(p) (Г^'){Я) < exp(ii:^Xll/4p)-/4g)l) (14.3.2) i^O Сначала с помощью этого наблюдения покажем, что последовательность |(/*)'(а)| суммируема. Для этого заметим, что, так как интервалы f'{(a, Ь)) попарно не пересекаются, по теореме о среднем значении существуют такие ^^ е (а, 6), что f(b) - f(a) = (/*)'(^i) -(Ь-а) и, следовательно. 00 00 (Ь - а) Е \(f')'(0\ = Е 1/'(^) - /'(«)! ^ 2^' 1=0 *=0 Поскольку тогда в силу (14.3.2) мы имеем |(/*)'(о)1 ^ 1(/*)'(^г)|е^^'^ этим показано, что 2^ ^2К'г, i^^:=EK/*)'HI<&^^ (14.3.3) *=о Теперь мы хотим показать, что из (14.3.3) следует, что lim {рУ(х) = О равномерно для \х- а\ ^ б := o/r^dri 4- ^ < < 3d <£. (14.3.4) Для этого установим такое утверждение. Лемма 14.3.4. Для всех п е N выполнены условия (l)P([a-6,a-\~6])cV, (2)\Пх)-Г(а)\<е при {г)\(ПЫ\^е\(П'(а)\при X — а <5, X — а <5.
466 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ Заметим, что из третьего утверждения леммы действительно следует (14.3.4); первое же и второе используются лишь для индукции в доказательстве. Доказательство. Доказательство проведем по индукции. Для п = О утверждение тривиально. Предположим, что оно верно для к ^п. Сначала установим третье утверждение для п+ 1. Из уравнения (14.3.2) следует, что п 1(/"^')'(^)1 ^ К/"^')'(«)! ехр [к' J2 1/4^) -/*(«)|), Jfc=0 и по теореме о среднем значении с учетом (3) мы получаем Jfc=0 Jfc=0 jfc=0 в силу (14.3.3) мы имеем что доказывает утверждение (3) для п + 1. Чтобы доказать утверждение (2), заметим, что по теореме о среднем значении и из (3) мы имеем \Г^'(х) - Г^'(а)\ < |х - а|. |(/"^0'(О1 < 36\(Г^')'(а)\ < 3d6 < е. Наконец, поскольку /"■*"*(а)е С, из второго утверждения, а также в силу выбора числа е мы немедленно получаем (1). D Теперь можно завершить доказательство теоремы. Так как множество С минимально, существует бесконечно много таких к eN, что |/*(а) — а| < ^ 5/2. Для достаточно больших к в силу (14.3.4) мы имеем |(/*У(х)| < 1/2 при \х — а\^ 6 и, следовательно, '^(f'i^) — х) > 1/2, так что функция f^(x)— X меняет знак на отрезке [а— 5, а+ 6] и потому обращается в нуль в точке ze[a— 5, а+5]. Мы могли бы, конечно, использовать принцип сжатых отображений (предложение 1.1.2), но в одномерном случае вполне достаточно теоремы о промежуточном значении. Таким образом, f''(z) = z и, кроме того, f^{a) —> z из (14.3.4). Поскольку аеС и множество С п-*ао замкнуто и инвариантно, мы заключаем, что zeC, вопреки предположению о том, что С не содержит периодических точек. Теорема доказана. П Упражнения 14.3.1. Пусть дана ориентируемая поверхность рода д и число fc, 1 ^ fc ^ 5* Покажите, что существует С -поток, обладающий в точности к нигде не плотными минимальными множествами, которые не являются неподвижными точками или периодическим и орбитами. 14.3.2. Покажите, что для любого С*-потока на ориентируемой поверхности рода д существует не более чем д различных минимальных множеств, которые не являются неподвижными точками или периодическими орбитами.
§14.4. НОВЫЕ ЯВЛЕНИЯ 467 § 14.4. Новые явления Мы сталкиваемся с не изученными ранее типами динамического поведения при рассмотрении гладких потоков на торе с неподвижными точками и потоков на поверхностях более высокого рода. 14.4 а. Поток Черри [*]- В этом пункте мы покажем, что при наличии неподвижных точек поведение, порождающее минимальные множества типа Данжуа на трансверсалях к потоку, возникает для произвольно гладких потоков на торе. Идея доказательства состоит в изменении линейного потока таким образом, чтобы нашлась трансверсаль, содержащая плотное множество точек, которые возвращаются на нее лишь конечное число раз и затем притягиваются к неподвижной точке. Остающиеся точки образуют канторово множество, неизбежно демонстрирующее поведение типа Данжуа и состоящее из точек, в замыкании орбиты которых имеется седло. Этот пример легко затем модифицировать таким образом, чтобы получить поток на поверхности рода два, который не имеет ни одной притягивающей неподвижной точки, но имеет два седла и демонстрирует подобное поведение. Приступим к описанию этой конструкции. Рассмотрим локальное векторное поле на диске D^ CR^ с фазовым портретом типа седло-узел, как на рисунке 7.3.4, и продолжим его с помощью функции типа шапочки (см. п. 6.6 в) до постоянного векторного поля Х = (0,1) вне некоторой окрестности Д диска Dp Выберем окрестность Д диаметра е и повернем векторное поле на угол tg~* а. Сдвинем Д в центр единичного квадрата [0,1]^ и спроектируем ограничение на [0,1 f нашего векторного поля на Т^ = = [0, i]^/Z^. Мы получим векторное поле Xq с узлом р и седлом s в некотором диске D сТ^, которое постоянно вне D. Если е и а не слишком велики, то найдется такой отрезок [а, Ь] с {0} х S\ что а, beW'(s\ и;(у) = рддя уе(а, &)х5' и отображение возвращения на {0} х S' определено вне [а, Ь]. Заметим, что это отображение продолжается (постоянной на отрезке [а, &]) до непрерывного монотонного отображения окружности /о степени один, следовательно, обладает числом вращения г(/д), непрерывно зависящим от параметров этой конструкции. При замене Х^ на [1 - 5,1] х 5* мы можем добиться выполнения неравенства Df(x) > I вне [а, Ь]. Покажем, что число г(/о) можно сделать иррациональным. Пусть Y^ = = (0, /i(x)) — такое векторное поле класса С°° на R^ с supp(/i)C [1-4 1], что отображение из {0} х R в {1} х Е, индуцированное потоком (cos а, 0) + 1^, представляет собой сдвиг на Л. Векторные поля X^=Xq + Y^ порождают потоки на Т^ с индуцированным отображением окружности Д, которое поднимается до такого отображения F^ на Е, что тЩ) — г{Ро) = 1, и, следовательно, существует число Лд, для которого r{f^J ^Q. Пусть /:= Д^. Рис. 14.4.1. Поток Черри
468 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАЛШЧЕСКИЕ СИСТЕМЫ Назовем область притяжения притягивающей точки Т = {q\ си(д) = р} хвостом и ее дополнение А = т\т—множеством Черри. Чтобы показать, что К:= Ап({0} X 5*) — канторово множество, возьмем максимальный отрезок KqCK и положим К^:= Р(К^). Тогда 1(К^^^):^ К^п) и Ki П Kj = 0, поскольку в противном случае имелось бы включение по максимальности и, таким образом, по лемме 15.1.2 существовала бы периодическая точка, что невозможно, так как r(/)^Q. Но тогда 1(Kq) = 0 н внутренность множества К пуста. Далее, объединение попарно непересекающихся интервалов J^:=/'~"((a, &)) плотно в {0} х S\ и их концы принадлежат различным компонентам множества W:= W'(s)\{s}, так что каждая из этих компонент плотна в Л и а(х)=А для xeW. Это показывает, что множество К совершенно, следовательно, является канторовым. Для обращенного потока множество Черри — аттрактор такого типа, с которым мы не встречались ни в теореме Пуанкаре — Бендиксона, ни при анализе потоков без неподвижных точек на торе. Определим квазиминималъное множество как множество, содержащее конечное число неподвижных точек и такое, что каждая полуорбита, которая не притягивается к неподвижной точке, плотна в этом множестве. Подводя итог нашему обсуждению, скажем, что неблуждающее множество потока Черри состоит из притягивающей неподвижной точки и квазиминимального множества, содержащего гиперболическое седло. Позднее мы покажем, что появление этих квазиминимальных множеств — типичное явление для потоков на поверхностях более высокого рода, включая потоки, сохраняющие площадь. Они дают минимальные множества для отображения возвращения на замкнутые трансверсали с соответствующим образом измененной топологией (см. п 14.5 б и упражнение 14.5.2). Можно модифицировать конструкцию потока Черри так, чтобы получить поток на сдвоенном торе, т. е. на сфере с двумя ручками: удалим малую окрестность притягивающей неподвижной точки и рассмотрим вторую копию тора с точно так же удаленным диском и обращенным потоком. Тогда эти потоки могут быть склеены друг с другом по границам двух дисков так, что получится поток на сдвоенном торе, у которого нет ни одной притягивающей или отталкивающей неподвижной точки, но есть два седла и два непересекающихся замкнутых инвариантных нигде не плотных квазиминимальных множества С"*" и С~, каждое из которых содержит седло. Для каждой точки х вне этих двух множеств а-предельное множество совпадает с С~ и ш-предельное множество совпадает с С"*". Этот поток, очевидно, не сохраняет площадь. Теперь мы рассмотрим интересный пример потока, сохраняющего площадь, на той же самой поверхности рода два. 14.4 6. Линейный поток на восьмиугольнике. Если рассматривать линейный поток на торе как поток на единичном квадрате, орбиты которого параллельны, то естественно попытаться обобщить эту конструкцию путем замены квадрата на другой центрально симметричный многоугольник с отождествленными с помощью параллельных переносов противоположными сторонами; следует рассматривать линейный поток на внутренности, продолженный по непрерывности на полученную в результате отождествления замкнутую поверхность. Чтобы получить гладкий или хотя бы непрерывный поток, следует соблюдать определенную осторожность при определении потока в окрестности вершины. Однако с точки зрения глобальной структуры орбит и возвращаемости точек, не являющихся неподвижными, это не слишком принципиально.
§ 14.4. НОВЫЕ ЯВЛЕНИЯ 469 Следующий после квадрата очевидный кандидат для конструкции такого рода — правильный шестиугольник. Легко видеть, однако, что эта конструкция не дает ничего нового: сдвиги шестиугольника замощают плоскость и три параллельных переноса, отождествляющие противоположные пары сторон, рационально зависимы, а именно их сумма равна нулю. Таким образом, группа, порожденная этими параллельными переносами, — просто решетка, образующие которой — два вектора равной длины, угол между которыми равен тг/З. Это позволяет нам расширить линейный поток на замощенную плоскость и рассматривать результат как линейный поток на факторе по этой решетке с двумя образующими, что снова дает тор. Чтобы получить возможность наблюдать новые явления, рассмотрим следующего кандидата, а именно правильный восьмиугольник. У него есть четыре пары противоположных сторон, которые отождествляются с помощью параллельных переносов. Векторы, на которые производятся параллельные переносы, имеют равные длины, а углы между парами этих векторов кратны 7г/4, Легко видеть (см. упражнение 14.4.3), что группа, порожденная этими параллельными переносами, не дискретна, т. е. при применении сдвигов к восьмиугольнику будут происходить возвращения и каждая точка будет покрываться бесконечно много раз. При отождествлении противоположных сторон восьмиугольника все восемь вершин склеиваются. Заметим, что с топологической точки зрения эта конструкция эквивалентна склейке поверхности рода два из гиперболического восьмиугольника в п. 5.4 д, так что полученная таким образом поверхность гоме- оморфна сфере с двумя ручками. Мы дадим другое доказательство данного факта, построив векторное поле на этой поверхности и вычислив его эйлерову характеристику. Это будет векторное поле, которое мы позднее исследуем с динамической точки зрения. Выберем направление на плоскости, не параллельное никакой стороне, и рассмотрим семейство ориентированных отрезков прямых внутри восьмиугольника, параллельных этому направлению. Отождествление параллельных сторон позволяет нам склеить все эти отрезки, исключая те, которые начинаются и оканчиваются в некоторой вершине. Существует ровно три отрезка, начинающиеся в вершине, и три отрезка, оканчивающихся в вершине. Окрестность вершины в склеенном пространстве состоит из восьми секторов, склеенных вместе таким способом, что входящие и исходящие отрезки чередуются и делят окрестность на шесть секторов. Никакая другая орбита не пересекает никакое из этих направлений. Таким образом, орбиты вблизи этих особых точек ВЫГЛ5ЩЯТ так же, как в примере, показанном на рис. 8.4.1, за исключением того факта, что имеется шесть сепаратрис, а не восемь. Производя соответствующую замену времени, можно превратить этот поток в гладкий поток с двойным седлом. Теперь опишем естественную дифференцируемую структуру в окрестности отождествленных вершин, которая также даст естественную замену Рис. 14.4.2. Линейный поток с сепаратрнсами
470 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ времени для потока. Проблема состоит в том, что евклидова дифференцируемая структура плохо себя ведет при проектировании на склеенное пространство, потому что суммарный угол в вершине равен бтг, а не 27г, На гиперболической плоскости в соответствующей конструкции из п. 5,4 д суммарный угол был действительно равен 27г, В нашем случае естественный способ исправить положение состоит во введении комплексных координат W в окрестностях вершин в восьмиугольнике таким образом, что стандартные евклидовы комплексные координаты z = x-\-iy выражаются через новые координаты по формуле z — Zq = w^, где Zq — координата вершины. Склейка ребер, рассматриваемых с этими локальными координатами, дает общий угол 27Г в факторе. Заметим, что на любом открытом множестве, не содержащем вершину, координаты w локально дифференцируемы относительно Z, так что мы действительно определили дифференцируемую структуру на поверхности. Мы можем даже описать евклидову площадь в координатах w явно, А именно, если z = х + гу, то евклидова площадь определяется формой dx Л dy. Если w = u-\~iv, то z = w^ = и^ — 3uv^ + г (3u^v — v^) и, таким образом, dxAdy=[(3u^-3v^)du-6uvdv]A[6uvdu + (3u^~3v^)dv] = (3u^-^3vydudv. Теперь используем тот факт (следующий из предложения 5.1.9), что если поток векторного поля v сохраняет объем р^, то поток pv сохраняет Q. Таким образом, в окрестности вершины мы можем, домножая векторное поле на (Зи"^-\~3v^)^ = Щт\^, получить векторное поле, сохраняющее стандартную евклидову форму площади в координатах w в окрестности. Чтобы получить векторное поле на поверхности, которое сохраняет гладкзгю форму площади, домножим поле на функцию р, имеющую следующие свойства. В малой окрестности вершины функция р равна только что описанному скалярному множителю, вне несколько большей окрестности р = I, и, наконец, эта функция должна быть гладкой. Возникающий в результате поток сохраняет евклидову площадь вне окрестности вершины и г£;-стандартную площадь в малой окрестности вершины. В малом кольце с центром в вершине инвариантная площадь получается умножением евклидовой площади на гладкую функцию. Покажем теперь, что построенное векторное поле гладко. Заметим, что единственная проблема возникает при проверке этого свойства в вершине. В координатах z изначальное векторное поле является постоянным векторным полем F= (а, &). Замена координат имеет вид z = w^, а ее производная Y = 3w^X, т. е. X = Y/{3w^), Таким образом, домноженное векторное поле имеет вид 9\w\^X =9w^w^Y/(3w^) = 3w^Y, а это на самом деле гладкое векторное поле с седлом с шестью сепаратрисами. Рассмотрим теперь отображение возвращения на удобную трансверсаль. В качестве последней возьмем такую прямую, соединяющую середины двух противолежащих отрезков границы, что угол а между трансверсалью и векторным полем лежит в интервале (7г/4,7г/2). Заметим, что в окрестности такой прямой инвариантная форма объема равна евклидову объему, так как точки этой окрестности находятся далеко от вершины. Следовательно^, естественно индуцированный объем на трансверсали представляет собой кратное обычного элемента длины. Рассмотрим теперь отображение возвращения на трансверсаль. Оно непрерывно всюду, за исключением тех трех точек, которые лежат на отрезках с концами на седле. Кроме того, отображение возвращения — кусочно сохраняющее ориентацию отображение
§ 14.4. НОВЫЕ ЯВЛЕНИЯ 471 Рис. 14.4.3. Отображение возвращения И, так как инвариантный объем индуцирует элемент длины, образ любого интервала, не содержащего точку разрыва, имеет ту же длину, что и сам интервал. Таким образом, ограничение отображения возвращения на любой интервал без точек разрыва является параллельным переносом, и мы имеем частный случай положения, описанного в следствии 14.1.7. Топологически эта трансверсаль является окружностью, и она представляет собой объединение замыканий трех интервалов Др Дз и Дз без точек разрыва, длины которых соответственно равны 1^ = = 1/(1+V2), Z2=(l + ctga)/(2 + V2) и 1 — ^1 ~ ij' ^^^^ считать длину транс- версали равной единице. Однопараметрическое семейство линейных потоков, которые мы рассмотрели, может быть также получено при анализе биллиарда в треугольнике Т с углами 7г/2, 7г/8 и Зтг/З. Обозначим вершину с углом 7г/8 через v. Заметим, что при отражении треугольника многократно от сторон, смежных с вершиной и, мы получаем восьмиугольник с центром в v как объединение 16 копий Т. Рассмотрим орбиту биллиарда в Г. Отражение ее от сторон треугольника Т, как обычно, соответствует переходу вдоль прямой линии в отраженную копию Т. Когда орбита попадает в сторону восьмиугольника, отражение орбиты в границе Т соответствует переходу на противолежащую сторону и продолжению в том же направлении, т. е. продолжение орбиты соответствует в точности сдвигу орбиты в другую копию треугольника с противоположной ориентацией. Следовательно, орбита поднимается в точности до орбиты линейного потока на восьмиугольнике с угловым коэффициентом изначальной биллиардной орби- ц. Таким образом, мы установили взаимно однозначное соответствие между совокупностью орбит биллиарда в треугольнике и совокупностью всех орбит различных линейных потоков на восьмиугольнике. Полезно отметить, что орбиты для данного линейного потока на восьмиугольнике соответствуют орбитам биллиарда, углы которых относительно фиксированной стороны принимают не более 16 значений, а именно, для данного угла а мы имеем углы ±а + Ьг/4, т. е. углы, полученные при отражениях а, использованных при построении восьмиугольника из треугольника. Вскоре мы докажем общий результат (следствие 14.6.6), из которого будет следовать, что для всех, кроме счетного числа, направлений линейный Рис. 14.4.4. Разбиение восьмиугольника
472 Часть 3. Гл. И. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ поток на восьмиугольнике топологически транзитивен и квазиминимален Ситуация здесь подобна случаю линейных потоков на торе (см. предложе ние 1.5.1). Упражнения 14.4.1. Покажите, что для данной ориентируемой поверхности рода д и числа к,\ ^к ^д^ существует С°°-поток, имеющий ровно к нигде не плотных квазиминнмальных множеств, отличных от периодических орбит. 14.4.2. Покажите, что любой (7°°-поток на ориентируемой поверхности рода д обладает не более чем д различными квазиминимальными множествами, отличными от точек и периодических орбит. 14.4.3. Докажите, что орбита любой точки относительно группы, порожденной параллельными переносами, отождествляющими противоположные стороны правильного восьмиугольника, плотна. 14.4.4. Для линейного потока на восьмиугольнике рассмотрим трансверсаль, соответствующую диагонали восьмиугольника. Изучите отображение, индуцированное на ней линейным потоком, описав топологию трансверсали, длины максимальных интервалов без точек разрыва и порядок, в котором они переставляются. 14.4.5. Обобщите конструкцию п. 14.4 б на случай правильного 2п-угольинка (п ^ 4). Вычислите род возникающей в результате поверхности и количество и индексы неподвижных точек потока и опишите дифференцируемую структуру, которая делает замену времени гладкой. § 14.5. Перекладывания отрезков 14.5 а. Определения и «жесткие» интервалы. Отображение возвращения линейного потока на восьмиугольнике представляет собой пример отображения, возникающего как сечение сохраняющего площадь потока на поверхности с конечным числом седел (см. следствие 14.1.7). Определение 14.5.1. Рассмотрим перестановку тг множества {1,..., п}, вектор и = (uj,..., v^) во внутренности единичного симплекса. п Т. е. такой вектор, что U;>0, г = 1,..., п, и ^^ u. = l, ивектор e = (ei,..., е„), 1 = 1 координаты которого равны либо 1, либо — 1. Пусть щ = 0, и- = Uj +... + и,., г = 1,..., п, и А^ = (uj_ J, Uj), г = 1,..., п. Перекладыванием отрезков ^%-K,z'- [0> и^ [О, 1] называется непрерывное преобразование, сохраняющее меру Лебега на каждом интервале Д., переставляющее данные интервалы в соответствии с перестановкой тг и либо сохраняющее, либо обращающее ориентацию на Д. в соответствии со знаком е,- (г = 1,..., п). Если е^ = 1 для всех г, мы будем писать 1^ ^ вместо I^^^. Такое отображение называется ориентированным перекладыванием отрезков. Замечание. Аналогичным образом можно определить перекладывание дуг окружности. Очевидно, каждое перекладывание п дуг может рассматриваться как перекладывание п + 1 отрезков. Таким образом, отображение -?^,я,£> суженное на каждый отрезок Д^, является либо параллельным переносом Д, (если е^ = 0» либо отражением относительно точки (если е^=^—\). Отображение возвращения линейного потока с угловым коэффициентом а на восьмиугольнике на трансверсаль, проходящую через середины
§ 14.5. ПЕРЕКЛАДЫВАНИЯ ОТРЕЗКОВ 473 параллельных сторон восьмиугольника, является перекладыванием четырех отрезков (полученным из перекладывания трех дуг окружности). При рассмотрении перекладывания отрезков удобно использовать термин «разбиение» в расширенном смысле, означающий разбиение [0,1] или отрезка Д с [О, 1] на отрезки с попарно непересекающимся внутренностями. Если внутренности двух последовательных отрезков Д^ и Д - ^ j отображаются на Дд, и Дjt + J с сохранением ориентации или на Дjt U Aj^_ j с обращением ориентации, то мы можем объединить Д^ и Д;^5 в один отрезок и рассматривать 1^ ^ ^ как перекладывание меньшего числа отрезков. Таким образом, без потери общности мы можем всегда считать, что ""п . •., ""«-i —точки разрыва I и что разбиение ^ := ^(J) представляет собой разбиение на интервалы непрерывности J. Имеется неоднозначность в определении отображения 1„ ^ ^ в точках разрыва, т. е. в точках ^ij, г^з,..., w„_j. Иногда можно естественным образом продолжить определение на некоторые из этих точек и получить взаимно однозначное отображение. Например, для п = 2, 7Г = (2, 1) имеется только одна точка разрыва Uj внутри отрезка, и если мы положим J (uj) = 0, то при отождествлении О и 1 получим поворот окружности на угол 27ги2. Однако чаще всего такое естественное продолжение невозможно, как в примере с восьмиугольником из п. 4 б. Более полезный подход состоит в следующем. В каждой точке разрыва и. отображение 1^^ ^ ^ имеет левый и правый пределы, которые мы будем обозначать w7 и г^;,:^ соответственно. Имеет смысл считать, что у точки щ есть два «конца», а tof и wf представляют собой образы этих «концов» Определение 14.5.2. Говорят, что перекладывание отрезков I = = J^^.^ обладает сепаратрисой, соединяющей седла, если для некоторых h 3 € {О,..., п} И для некоторого fc е N мы имеем I^{wf) = и- (соответственно J*(ti;r) =-Uj), но I^(wt) (соответственно I^(w^))—точки непрерывности, 0<1 <к. Отрезок орбиты щ, wf^ -^(ч^),. • • Д*~ЧЧ"^)» ^i (соответственно, Uj, шг,..., J*" ^(г£;г), U-) называется соединяющим отрезком. Назовем перестановку тг на множестве {1,..., п} неприводимой, если она не сохраняет никакое подмножество вида {1,..., fc} для fc = 1,..., п — I. Открытый интервал Дс[0,1] называется жестким относительно J, если все положительные итерации I определены и непрерывны на Д. Жесткий интервал Д называется максимальным жестким интервалом, если любой другой жесткий интервал либо не пересекается с ним, либо содержится в нем. Перестановка интервалов называется типичной, если у нее нет жестких интервалов. Точка х е[0, 1] называется типичной для J, если все ее положительные и отрицательные итерации х определены, т. е. никакой образ или прообраз точки х не является точкой разрыва. Лемма 14.5.3. Число различных соединяющих отрезков для любого перекладывания отрезков J^,^^^ не превосходит 2п —2, где п —число интервалов непрерывности.' Доказательство очевидно. Лемма 14.5.4. Любой жесткий интервал Д перекладывания отрезков I состоит из периодических точек. Любой максимальный жесткий интервал либо состоит из точек того же периода, либо период всех его точек, кроме середины, равен 2^, в то время как период середины равен к. Оба конца максимального жесткого интервала принадлежат соединяющему отрезку.
474 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ Доказательство. Достаточно рассмотреть максимальные жесткие интервалы, так как объединение жестких интервалов, пересекающихся с данным жестким интервалом Д, вновь представляет собой жесткий интервал, притом, очевидно, максимальный. Для любого жесткого интервала Д любой образ 1*(Д) является интервалом той же длины, и если интервал Д максимален, то пересечение 1*(Д)П Д либо пусто, либо равно Д. Если 1*(Д)пД = 0 для всех к, то 1*(Д)П 1'(Д) = 0 для всех к,1 ^0 в силу обратимости и непрерывности I на каждом образе Д. Но это невозможно, так как сумма длин этих интервалов бесконечна. Таким образом, существует такое к eN, что 1*(Д) = А. Так как преобразование J* сохраняет меру Лебега и непрерывно на А, оно либо является тождественным преобразованием, либо отражением в середине, которая, таким образом, неподвижна, и преобразование Р^ является тождественным на Д. Пусть X — левый конец Д. Отображение J* (соответственно, J^*) должно быть разрывно в точке х, потому что в противном случае оно будет тождественным в окрестности х, что противоречит максимальности Д. То же соображение применимо и к J'* (соответственно, J"^*). Так как разрыв в точке появляется лишь в том случае, если ее образ совпадает с одной из точек Uj,..., u„_j, мы видим, что х принадлежит соединяющему отрезку. То же рассуждение проходит для правого конца Д. D Таким образом, мы можем связать с любым максимальным жестким интервалом его орбиту, т. е. объединение образов. Поскольку для перекладывания п отрезков число различных соединяющих отрезков не превосходит 2п — 2 и один соединяющий отрезок может быть концом лишь одного максимального жесткого интервала, существует не более чем 2п — 2 максимальных жестких интервалов с различными орбитами. Следствие 14.5.5. Если у перекладывания отрезков нет сепаратрисы, соединяющей седла, то это преобразование типично. Следствие 14.5.6. На любом жестком интервале Д все (положительные и отрицательные) итерации I определены и непрерывны. Итерированное разбиение ^1^ := ^ V J"^(0 V... V J^"'"(^) на интервалы непрерывности всех преобразований J*, ^ = 1,..., т, состоит не более чем из т{п— 1)+ 1 интервалов, причем ровно из такого их числа, если сепаратрисы, соединяющие седла, отсутствуют. Для возрастающей последовательности разбиений ^i^, m eN, имеет место очевидная дихотомия. 1. Выполнено условие maxZ(c)^0 при m ^ оо, где /(•)—длина. Это происходит для типичных перекладываний отрезков. 2. Существует такая вложенная последовательность элементов с^ б ^i m' ЧТО с^ := П ^т — интервал положительной длины. Тогда с^ представляет собой замыкание максимального жесткого интервала и, очевидно, любой максимальный жесткий интервал может быть получен таким образом. 14.5 б. Кодирование. Пусть L — объединение замыканий всех максимальных жестких интервалов. С помощью разбиения ^ можно получить естественный способ кодирования перекладывания отрезков на инвариантном множестве [О, Ц\Ь. А именно, пусть а;:={а;еа„| П /-'"(Д„„ + ,)7^0}. (14.5.1)
§ И.5. ПЕРЕКЛАДЫВАНИЯ ОТРЕЗКОВ 475 Множество Qj- замкнуто (см. упражнение 14.5.1) и, очевидно, инвариантно относительно сдвига. Если I — типичное преобразование, то отображение h: Q;-+[0, 1], ил-+ П -^~"*(^w +i)> — сюръективное непрерывное отобра- meZ жение с ограниченным числом прообразов, инъективное на прообразах типичных точек. Если преобразование I не имеет сепаратрис, соединяющих седла, то у любой нетипичной точки есть ровно два прообраза. В противном случае число 2", очевидно, является верхней границей числа прообразов точки. Если у преобразования I есть жесткие интервалы, то отображение h не определено на ft/. Однако это преобразование определено и непрерывно на дополнении к конечному числу периодических орбит, соответствующих орбитам максимальных жестких интервалов, и его образ — множество [О, 1]\Х. Хотя это отображение не может быть продолжено до полусопряжения символической системы с J, оно дает сохраняющий меру изоморфизм для любой неатомарной эргодической инвариантной относительно сдвига меры на П^-, так как и множество точек разрыва, и множество, на котором нарушается единственность, могут быть носителями только атомарных эргодических мер. Отметим аналогию с метрической классификацией отображений окружности (теоремой 11.2.9) в нетранзитивном случае. 14.5 в. Структура замыканий орбит. В дальнейшем мы будем свободно использовать такие понятия, относящиеся к топологической динамике, как возвращаемость. Хотя они были определены для непрерывных отображений, их использование законно, потому что, с одной стороны, для их определения не требуется наличие непрерывности и мы не будем использовать такие свойства, для определения которых непрерывность нужна, и, с другой стороны, у нас есть символическая модель, для которой все эти понятия вводятся стандартным способом. Конструкция отображения первого возвращения играет очень важную роль в анализе перекладываний отрезков. Это происходит благодаря следующей лемме, которая показывает, что класс перекладываний отрезков замкнут относительно операции индуцирования (перехода к отображению первого возвращения) на подынтервалы, причем число интервалов при этом возрастает не более чем на два. Лемма 14.5.7. Пусть I ~ перекладывание п отрезков или дуг окружности. Тогда для любого отрезка (или дуги) Д отображение первого возвращения 1д определено и непрерывно всюду, кроме не более чем п +1 точек, и само по себе является перекладыванием А: ^ п+2 отрезков. Доказательство. По теореме Пуанкаре о возвращении 4.1.19 множество точек, которые возвращаются на Д, имеет полную меру Лебега и, следовательно, плотно. Предположим, что точка х е Д такова, что у = 1д(х) = J*(x) е 1п1(Д) и J'(x), 0^1 < к, — точки непрерывности I, Тогда J* является локальной изометрией в окрестности х и, следовательно, отображает окрестность х на окрестность t/ в Д. С другой стороны, min dist(J'(x), Д) = е: >0, так что 1^ = 1^ в окрестности х. Таким обра- зом, преобразование 1д непрерывно в точке х, следовательно, определено и непрерывно на открытом множестве. Пусть Z —левый конец максимального интервала, на котором преобразо^- вание А определено и непрерывно. Это значит, что 1д = 1* в односторонней
476 ДИНАМИЧЕСКИЕ окрестности точки z для некоторого к. Но если V{z), 0^1 ^ к, —точки непрерывности J, не являющиеся концами Д, то J*(2;)elnt Д, и предыдущие соображения показывают, что 1^ = 1^ в двусторонней окрестности z. Мы пришли к противоречию. Таким образом, итерация I^(z) для 0^1 ^к дает либо точку разрыва преобразования J, либо конец А. Рассмотрим самое маленькое такое число I. Каждая из п— 1 точек разрыва преобразования I и каждый из двух концов Д могут получиться таким образом как итерации не более чем одного левого конца интервала непрерывности 1^. Итак, преобразование 1д определено везде, кроме не более чем п + 1 точек из Int Д, и является изометрией на дополнительных интервалах. D Замечание. Это рассуждение по существу снова доказывает предложение 14Л.б для случая перекладываний отрезков. Следствие 14.5.8. Каждая типичная точка перекладывания отрезков рекуррентна. Теперь мы можем доказать первый важный результат о конечности для перекладываний отрезков. Предложение 14.5.9. Пусть х — непериодическая рекуррентная точка перекладывания отрезков I, Тогда дополнение замыкания орбиты X состоит из конечного числа интервалов^ концы которых принадлежат соединяющим отрезкам. Доказательство. Пусть Д=(а, Ь) — такой интервал из дополнения. По лемме 14.5.7 преобразование 1д определено везде, кроме конечного числа точек Д, так что предел справа 1д(а^) в точке а для 1д(х) существует. Имеются следующие две возможности. 1. /д(а+)е1п1 Д. Тогда 1д(а^)=:1*(а+) для некоторого минимального к>0. Если преобразование J^ непрерывно в точке а, то J* — изометрия в окрестности а и, следовательно, точки орбиты х, накапливающиеся к а, отображаются в точки, накапливающиеся к /*(а)е1п1Д. Мы пришли к противоречию. Таким образом, 1\о) — точка разрыва I для некоторого I < к. 2. /д(а)еЭД, т. е. 1д(а+) = аили IJ^c&) = b, В первом случае 1д = 1*=Ы в правой окрестности а. Если а — точка непрерывности J*, то J^ = Id в окрестности а, вопреки тому факту, что непериодические рекуррентные орбиты накапливаются к а; следовательно, некоторая итерация точки а попадает в точку разрыва J. Случай 1д = 1{а^) = Ь сводится либо к предыдущему, либо к первому, если рассмотреть J^. Таким образом, мы установили, что во всех случаях положительная полуорбита точки а содержит точку разрыва преобразования I. То же самое соображение и вывод верны для 1~\ так что точка а принадлежит соединяющему отрезку. В силу симметрии то же верно для Ь, П Следствие 14.5.10. Каждая типичная орбита либо является периодической, либо ее замыкание равно конечному объединению интервалов. Следствие 14.5.11. Для типичного перекладывания отрезков замыкание всех, кроме конечного числа, орбит представляет собой объединение и конечного числа интервалов. Орбита любой типичной точки из и плотна в U, Следствие 14.5.12. Если у перекладывания отрезков отсутствует сепаратриса, соединяющая седла, то каждая типичная орбита, как и каждая полуорбита, не содержащая точку разрыва, плотна.
§ 14.5. ПЕРЕКЛАДЫВАНИЯ ОТРЕЗКОВ 477 Заметим, что последнее следствие говорит о том, что наша система обладает свойством, настолько близким к топологической минимальности, насколько это возможно для перекладываний отрезков. И действительно, в этом случае символическая модель П; минимальна (см. упражнение 14.5.2). Назовем замыкания орбит, состоящих из конечного числа интервалов (отличной от нуля длины), транзитивными компонентами перекладывания отрезка I. Внутренности различных транзитивных компонент попарно не пересекаются. Аналогично, назовем орбиту максимального жесткого интервала периодической компонентой. Таким образом, мы получаем, что все точки, за исключением, быть может, находяцщхся на соединяющих отрезках, должны принадлежать либо транзитивной, либо периодической компоненте. Из леммы 14.5.4 и предложения 14.5.9 следует, что граница каждой (транзитивной или периодической) компоненты состоит из полных соединяющих отрезков. Число соединяющих отрезков не превосходит 2п —2. Каждый соеданяющий отрезок может принадлежать границе не более чем двух компонент. Таким образом, общее число компонент не превышает 4п -4. Кроме того, в ориентируемом случае каждый соединяющий отрезок может иметь две различных ориентации и граница каждой компоненты должна содержать по крайней мере один положительно ориентированный и один отрицательно ориентированный отрезок, что уменьшает возможное число компонент до 2п — 2. Итак, топологическая структура орбит перекладываний отрезков может быть выражена следующим образом. Теорема 14.5.13. Пусть I — перекладывание п отрезков. Тогда отрезок [0,1] распадается на конечное объединение соединяюи^их отрезков ик^ 4п—4 непересекаюи^ихся открытых инвариантных множеств, каждое из которых представляет собой либо транзитивную, либо периодическую компоненту и является конечным объединением открытых интервалов. Если, кроме того, перекладывание I ориентировано, то к ^2п — 2. 14.5 г. Инвариантные меры. Из последней теоремы мы получаем результат о топологической конечности перекладываний отрезков. Каждая транзитивная компонента квазиминималъна: любая полуорбита, которая не начинается или не заканчивается в точке разрыва, плотна в этой компоненте. Мы можем ожидать выполнения соответствующего свойства для мер — единственности неатомарной инвариантной меры на транзитивной компоненте. Но в следующем пункте будет показано, что это свойство не имеет места даже при более сильном предположении об отсутствии сепаратрисы, соединяющей сеяла. Однако верен следующий общий результат о конечности числа инвариантных мер. Теорема 14.5.14. Пусть I — перекладывание п отрезков. Тогда суи\ествует не более п взаимно сингулярных инвариантных неатомарных вероятностных борелевских мер I с носителем на объединении транзитивных компонент [^]. Следствие 14.5.15. Существует не более п различных инвариантных неатомарных эргодических борелевских вероятностных мер для перекладывания I. Следствие 14.5.16. Для типичного перекладывания отрезков существует не более чем п непересекающихся инвариантных множеств положительной меры Лебега.
478 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ Доказательство. Так как носитель такой меры содержится в транзитивных компонентах, укрупнения разбиений ^£^ плотны в метрике Т>, определенной в (4.3.9), так что ^ — одностороннее образующее разбиение. (Это понятие обсуждается в § 4.3.) Таким образом, инвариантная мера определяется значениями на элементах разбиений ^^. Ключевое наблюдение состоит в том, что эта мера в действительности определяется значениями на интервалах ^. А именно, по этим значениям можно определить меры элементов совместного разбиения С VJ(^) следующим образом: начнем с левого конца и заметим, что первый интервал ^ V J(^) короче самого левого интервала ^ и самого левого образа интервала ^, так что его мера определяется. Следующий интервал вновь будет короче остатка дрзггого интервала слева и следующего образа, и т. д. Подобным образом, зная меры интервалов из ^ V... Vl"(^) и ^, мы можем продолжать по индукции определять меры интервалов ^ V ... V J""*" \ рассматривая наложения J(^ V... V 1"(С)) на ^. Эта процедура задает отображение h множества J-инвариантных мер на (п — 1)-мерный симплекс а из К", которое является, очевидно, аффинным, непрерывным (в *-слабой топологии) и, как мы видели, инъективным. Заметим, что взаимно сингулярные меры соответствз^от линейно независимым элементам а. А именно, если aj/i(/Xj) + .. . + a^/l(/x^)=0, то на множестве А, мДА) > О и Му(А) =0 для г ^j\ мы имеем 0=aj/ij(A) + ... ^-a^/x^(A) = а^/гДА), откуда а.=0. D Замечание. Образ упомянутого множества мер всегда образует симплекс, вершины которого соответствуют эргодическим мерам. Заметим, что различные инвариантные меры перекладывания отрезков порождают сопряжения этого перекладывания с другими. Чтобы упростить обсуждение этого вопроса, допустим, что перекладывание отрезков топологически транзитивно, что является более слабым условием, чем отсутствие сепаратрис, соединяющих седла, но более сильным, чем типичность. В этом случае каждая неатомарная инвариантная мера положительна на открытых множествах и, следовательно, отображение, сопоставляющее отрезку [О, t] его меру, является гомеоморфизмом, переводящим данное перекладывание отрезков в другое такое перекладывание, что образ данной инвариантной меры есть мера Лебега. Таким образом, если топологически транзитивное перекладывание отрезков обладает к эргодическими инвариантными мерами, то мы получаем (к — 1)-симплекс топологически сопряженных перекладываний отрезков. 14.5 д. Минимальное не строго эргодическое перекладывание отрезков. Мы скоро увидим, что отсутствие сепаратрис, соединяющих седла, что, согласно следствию 14.5.12, влечет существенную минимальность, — типичное свойство для многих семейств перекладываний отрезков. Сейчас будет приведен пример перекладывания отрезков, у которого нет сепаратрис, соединяющих седла, и которое не является строго эргодическим. И метод построения этого примера, и результат подобен следствию 12.6.4. Предположим, что отображение s: [О, 1] -^ {О, l} = Z/2 обладает тремя точками разрыва. Тогда расширение Is- [О, 1] X {О, 1} -^ [О, 1] X {О, 1}, J,(x, г):= (J(x), г + s(x)) перекладывания т отрезков I может рассматриваться как перекладывание не более чем 2(т + 3) отрезков, полученных из двух копий (не более чем m -h 3) интервалов, определенных с помощью измельчения, в случае необходимости, интервалов непрерывности I точками разрыва s. Наш пример
§ 14.5. ПЕРЕКЛАДЫВАНИЯ ОТРЕЗКОВ 479 следующей конструкции ницы. Теорема 14.5.17. Пусть I — ориентируемое перекладывание отрезков без сепаратрис, соединяющих седла. Тогда имеется такая функция з: [О, I] ^ {О, 1} с тремя точками разрыва, что (i) s(x) = h(I(x)) — h(x) для некоторого измеримого отображения h: [0,1]-{0,1}. (и) Л(/1-ч{1})П 0)>0, Л(/1-^({0})пО)>0 для любого открытого множества О С [0,1] [^]. Таким образом, отображение h метрически плотно (определение 12.6.2) и S является в точности нерегулярной кограницей, аналогично предложению 12.6.3. Итак, подобно следствию 12.6.4, мы получаем наш пример. Следствие 14.5.18. Перекладывание отрезков, получающееся продолжением преобразования J^, соответствующего когранице 5, не имеет сепаратрис, соединяющих седла, и не эргодично. Доказательство. По утверждению (1) предложения 14.5.17 s измеримая кограница, и, следовательно, преобразование J, метрически изоморфно преобразованию J х Id посредством сопряжения (х, г) >-^ (х, г + + h(x)), так что Jj сохраняет два множества положительной меры graph h и graph(l - /i), С другой стороны, рассматривая точки w~ (как прежде, в определении 14.5.2) и замечая, что по следствию 14.5.12 положительная /-полуорбита плотна, легко видеть, что сепаратрисы, соединяющие седла, oTcyrcTBjaoT, так что по второму утверждению предложения 4.5.17 эта J-no- луорбита плотна для J, и, следовательно, не может быть частью соединяющего отрезка. Для точек w^ можно применить аналогичные рассуждения, и, очевидно, никакие точки вне положительной полуорбиты wf не могут быть частью соединяющего отрезка. D Доказательство предложения 14.5.17. Мы будем использовать сложение по модулю два, т. е. свободно менять между собой знаки + и —. Заменяя I на /"^ можно заменить первое условие на (i') s(x) = h(I-\x))-h(x). Назовем отрезок А с [0,1] к-чистым, если отображение J* непрерывно на IntA для |г| < А;. Для п е Nq положим а„:=1"(0). Благодаря отсутствию сепаратрис, соединяющих седла, эта последовательность корректно определена, а по следствию 14.5.12 она плотна в [0,1]. Для а„ < а^ пусть Хт,п=Х[а ,а ) — характсристичсская функция. Используем индуктивную конструкцию, подобную применявшейся в предложении 12.6.3, но более явную. Пусть к^=0 и число к^>0 таково, что [Oq, Oju ]n[aj, Oju+i] =0. Определим по индукции возрастающую последовательность {k^}m^fi и связанную с ней последовательность 1^: т- 1 i=0 так что (1) Ot < ... < а. < а. < а, < ... < а, < а, < ... < а, (2) отрезок [а^ , а, ] fc^-чист. 1)/21 - 1 ТП +1 Tff ТП т — \
480 ДИНАМИЧЕСКИЕ СИСТЕМЫ Чтобы показать с помощью индукции, что условия (1)-(3) можно выполнить, предположим, что они верны для т. Из (1) существует такое число с, что Oj^ < с < а, и полуинтервал [а^ , с) А:^-чист. В силу плотности {а„} существует такое число fc^+j > к^у что а^ содержится в*левой половине полуинтервала [а^ , с), откуда следует (2) для m + 1. Взяв точку а^ , еще более близкую к а^ , получаем (3). Чтобы доказать выполнение свойства (1), обратим внимание на то, что неравенства Ot < ■ * • < ^л , < ^l У^^ известны. Затем заметим, что (по индукции) 1гп = ^т~^т~ i+2< ^^+1 <к^+ j и, следовательно, —k^<lm-i~^m^^^ так что из (2) получаем, что отрезок [а, , а, ] = l''"-'~*'"([ajL , Ol ]) является сдвигом отрезка [а^ , а^ ], что и доказывает оставшиеся неравенства из утверждения (1). Чтобы определить функцию s, положим s^(x):=-Xoi(x) + Xi,k, + i(^) — = Xo,t,(a:)-Xo.t,(^''(^)) >* - X* ,1 ,а*"^'"'"*'(а:)) = «„(а:) + 5,„+,(i"-'(a:)) - 5m+i(a:), ТП ' ТП + ■ *тп "Jm^l где 5m+i(^)= S Xjfe -t.jfc ^ii^)- Из этих равенств и условия (1) мы по- ■^ , I "1 ТП+1 лучаем 1=1 t=i (заметим, что мы складываем по модулю два), где b = lim а^ ^ с= lim а, , m—ЮО ^ m—ЮО d = lim fl/ . Поэтому у функции 5 есть ровно три точки разрыва. Пока- ■■i-l L лл ^ТП + I т—ЮО жем, что S—кограница. Во-первых, c^(x)=h^{I^^(x)) — h^(x), где m m *,-.-'>- i=2 j=2 i=2 Поскольку A(5-Vl({U))<(^m-^m-l)(4.i~^*J<^(^*«~ V i)/^ ^ ^^^^^^ условия (3), последовательность h^ сходится в L^ к функции /i, которая, очевидно, удовлетворяет (i). Далее докажем, что выполняется условие (ii). Назовем полуинтервал [од, ^^, Ojt +i) полуинтервалом ранга т, если г е {О,..., к^_^ — /^„2 ~ U- Такие полуинтервалы либо не пересекаются, либо один из них содержится в дрзггом. В самом деле, предположим, что п ^т, г е {О,..., fc,„_ j — -i^-2-U. ye{0,...,fc„_j-/„_2-UHa,__^,^a,^^^^.<a,^^,. Посколь^ ку fc„_j+y <2fc„_j <2fc^_j, применение J-(< 1 + ^> дает a^^^ _ + (^._^^^_^) < <0 < Ojt +(j_jt _yj, так что мы имеем равенство слева и, следовательно, а^ +i =Ojfc +j- В частности, полуинтервалы данного ранга попарно не пересекаются и функция h^ постоянна на каждом полуинтервале ранга т. В силу плотности последовательности {о^} Д^я любого полуинтервала Дс[0, 1] существует полуинтервал Лс А ранга т для некоторого т. Функ-
§ 14.6. ПРИМЕНЕНИЯ К ПОТОКАМ И БИЛЛИАРДАМ 481 ция h^ постоянна на А, и для п> т условие (3) позволяет заключить, что п— т Ц{х е АI К{х) = К{х)}) ^ Л(А) - ^ А(5„-|,({1})) ^ 1=1 ^A(A)(i-i-i-...-5^)>A(A)/3 и Л({х е А I h(x) = h^(x)}) > Л(А)/3. С дрз^ой стороны, для наименьшего такого т' > т, что А содержит полуинтервал А' ранга т\ постоянное значение h^, на А отличается от значения h^ на А, в то время как те же самые соображения, что мы использовали выше, показывают, что Ц{хе£!;\Цх) = К.{х)})^Ц/Х')/3. Упражнения 14.5.1. Покажите, что множество Clj, определенное в 14.5.1, замкнуто в 0^. 14.5.2. Покажите, что если у преобразования / нет сепаратрис, соединяющих седла, то сдвиг на Qj минимален. 14.5.3. Докажите, что энтропия любого перекладьшання отрезков относительно любой нн- варнаитной меры равна нулю. 14.5.4. Рассмотрим перестановку 7г = (3, 2,1). Покажите, что ориентируемое перекладывание отрезков 1^ ^ для любого вектора v может быть индуцировано некоторым поворотом окружности. Докажите, что в этом случае нз минимальности следует строгая эргодичность, и найдите необходимое н достаточное условие мниимальностн. 14.5.5. Рассмотрим перекладывание двух дуг окружности, меняющее ориентацию на одной нз этих дуг. Докажите, что все орбиты периодические. 14.5.в. Рассмотрим отображение / х Z2, (ж, j) 1-+ (а;+ а, Ух^(а?)), где Ха —характеристическая функция отрезка [О^/З]. Покажите, что существуют такие числа а, ^, что у этого отображения нет сепаратрис, соединяющих седла, но оно не является строго эргодическим. § 14.6. Применения к потокам и биллиардам 14.6 а. Классификация орбит. Следствие 14.1.7 показывает, что перекладывания отрезков возникают как отображения Пуанкаре, индуцированные сохраняющими площадь потоками на компактных поверхностях с неподвижными точками седлового типа (или, точнее говоря, гладко сопряжены с такими отображениями Пуанкаре). Существует даже более общая ситуация, в которой применима теория перекладываний отрезков. Пусть /: [О, 1] -* [О, 1] — кусочно монотонное отображение, взаимно однозначное и непрерывное вне окрестностей конечного числа точек. Удобно представлять такое преобразование в виде f = Ioh, где h — гомеоморфизм, а J — перекладывание отрезков. Пусть /х — неатомарная /-инвариантная борелевская вероятностная мера. Тогда отображение д'. [О, 1]-^ [О, 1], 5(х):=/х([0, х]), монотонно и определяет полусопряжение / с перекладыванием отрезков, поскольку фактор отображение сохраняет меру Лебега и обладает лишь конечным числом точек разрыва. Имеется очевидный, но важный случай, когда полус о пряжение становится сопряжением.
482 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ Предложение 14.6.1. Любое преобразование f = I о h, определенное, как показано выше, которое сохраняет положительную на открытых интервалах меру, топологически сопряжено перекладыванию отрезков. Использование отображений Пуанкаре для потоков дает следующий результат. Предложение 14.6.2. Пусть ip—C^-поток на замкнутой компактной поверхности, определенный однозначно интегрируемым векторным полем класса С°, и г — трансверсаль к X. Предположим, что у потока ip есть лишь конечное число неподвижных точек, которые орбитально эквивалентны (кратным) седлам или центрам. Кроме того, предположим, что поток у? сохраняет борелевскую вероятностную меру, которая является положительной на открытых множествах. Тогда отображение возвращения на г топологически сопряжено перекладыванию отрезков. Доказательство. Согласно замечанию после предложения 14.1.6 отображение возвращения определено всюду, кроме конечного числа точек, которые представляют собой последние точки пересечения устойчивых сепаратрис седел с трансверсалью г. Допустим, что г не проходит ни через один центр. Отображение возвращения сохраняет меру i^, опреде- ленную соотношением и(А):= /х( IJ у?'(А))/е для любого е >0, меньшего чем минимальное время возвращения на г. Поскольку ^{А) > О для любого открытого множества Лет, применимо предложение 14.6.1. D Этот результат позволяет применить теорему 14.5.13 к сохраняющим меру потокам на поверхностях. Теорема 14.6.3. В условиях предложения 14.6.2 поверхность М распадается на (р-инвариантные части, т, е. представляется в виде к t М= и i^U и Tj-UC, где I не превосходит рода М, Р-, г = 1,..., fc, —от- i = 1 у = 1 крытые множества, состоящие из периодических орбит, каждое мно- оюество Т^ открыто, каждая полуорбита в Т.^ не являющаяся входящей сепаратрисой неподвижной точки, плотна в Т^ иС представляет собой конечное объединение неподвижных точек и сепаратрис, соединяющих седла [^]. Следствие 14.6.4. Если, кроме того, у потока у? нет сепаратрис, соединяющих седла, этот поток квазиминимален, т. е. каждая полуорбита, отличная от неподвижной точки и сепаратрисы, плотна вМ, Замечание. Как и в предыдущем параграфе, мы будем называть Р^ периодическими компонентами и 7]- транзитивными компонентами потока. Доказательство. Можно построить конечное семейство замкнутых трансверсалей, которые пересекают каждую полуорбиту у?, за исключением неподвижных точек. Применим теперь теорему 14.5.13 к отображению возвращения на каждую трансверсаль и рассмотрим образы каждой периодической и каждой транзитивной компоненты под действием потока. Они
§ 14.6. ПРИМЕНЕНИЯ К ПОТОКАМ И БИЛЛИАРДАМ 483 дают множества Р^ и 7]-. Любая орбита, не входящая в эти множества, должна представлять собой сепаратрису, соединяющую седла потока. Остается показать, что I не превосходит рода М Для этого сначала выберем отрезок орбиты в каждом из множеств 7]-, который почти возвращается обратно, и замкнем его, получая претрансверсаль т,-. Из сохранения меры следует, что множество М\7,- связно. Так как кривые т,- не пересекаются, то же соображение применимо к М\ \J 7,, так что I не превосходит рода М (см. 3 = 1 замечания после теоремы П 5.2). П Замечание. При отсутствии центров можно получить оценки нак + 1. Простейшая оценка получается в результате подсчета числа входящих сепаратрис, использующего формулу Пуанкаре—Хопфа (теорема об индексе 8.6.6); более тонкая оценка состоит в том, что й + ^ не превосходит рода М, 14.6 б. Параллельные потоки и биллиарды в многоугольниках. Очевидно, наиболее сильная рекуррентность возникает тогда, когда разложение из теоремы 14.6.3 содержит единственнзоо транзитивную компоненту и ни одной периодической компоненты, т. е. когда М представляет собой квазиминимальное множество потока (см. определение в конце п. 14.4 а). По следствию 14.6.4 отсутствие сепаратрис, соединяющих седла, достаточно для квазиминимальности. В следующем параграфе мы покажем, как параметризовать семейство классов гладко траекторно эквивалентных сохраняющих площадь потоков таким образом, что в отсутствии гомологически тривиальных замкнутых орбит у большинства потоков нет сепаратрис, соединяющих седла. Сейчас же мы покажем, что в естественных однопараме- трических семействах потоков, сохраняющих площадь, подобно линейным потокам на восьмиугольнике с угловым коэффициентом в качестве параметра, все, кроме счетного числа, потоков не обладают сепаратрисами, соединяющими седла. Обобщим сначала конструкцию с восьмиугольником из п. 14.4 б. Пусть Р сШ^ — многоугольник, утлы которого могут быть меньше чем тг, равны тг или больше чем тт. Другими словами, Р — обычный (не обязательно выпуклый) многоугольник, и некоторые из его сторон могут быть искусственно подразделены на отрезки. Кроме того, допустим, что стороны Р разделены на параллельные пары равной длины. Обозначим параллельные переносы, отождествляющие стороны в каждой паре, через Т{^^,..., Г^^ Любой центрально симметричный многоугольник, не обязательно выпуклый, с парами противоположных отождествленных сторон представляет собой пример такой конструкции. В качестве другого примера можно привести многоугольник, имеющий форму буквы L с двумя дополнительными вершинами на более длинных (внешних) сторонах. Отождествление пар сторон с помощью параллельных переносов превращает Р в компактную замкнутзоо поверхность Р. Как и в п. 14.4 б, во всех точках, кроме тех, которые получены склейкой вершин, существует очевидная гладкая структура. В точках, полученных склейкой вершин, гладкая структура также может быть определена, но этот факт не принципиален для описания структуры орбит параллельного потока. Для каждого значения угла а е[0, 27г) можно определить параллельный поток на Р как движение с единичной скоростью вдоль ориентированных прямых, образующих угол а с фиксированным направлением (принимая во внимание отождествления). Такой поток разрывен;
484 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ ОН определен при всех значениях времени только для тех точек, орбиты которых никогда не попадают в вершину. Так как множество таких точек имеет полную меру Лебега, с точки зрения эргодической теории сохраняющий меру поток определен для всех значений времени. Чтобы применить теорему 14.6.3, домножим векторное поле Х^, определяющее поток, на неотрицательную функцию р, обращающуюся в нуль только в вершинах и такую, что р"' интегрируема по Лебегу. Векторное поле рХ^ непрерывно и однозначно интегрируемо и определяет непрерывный сохраняющий положительную на открытых множествах меру р~' Л поток. Вершины являются неподвижными точками седлового типа, и отображение возвращения на любую трансверсаль совпадает с отображением возвращения для первоначального разрывного потока. Обозначим через Т группу параллельных переносов, порожденную сдвигами TJ,..., Т^. Пусть pi,..., -р^т —вершины многоугольника Р, Предложение 14.6.5. Если параллельный поток на Р облада- ет сепаратрисой, соединяюи^ей седла, то ее направление параллельно вектору вида g-\-Pj —Pi для некоторого д^Т, г,У = 1,.. .,2т. Доказательство. Предположим, что существует сепаратриса, соединяющая седла, т. е. орбита, которая начинается в вершине р^ и кончается в р^. Рассмотрим следующий процесс «разворачивания». Начнем с точки р^ и каждый раз, когда орбита достигает стороны, вместо применения соответствующего параллельного переноса к точке будем применять обратный к нему перенос ко всему многоугольнику. Таким способом мы ползшим соответствие между орбитой и отрезком прямой, начинающимся в точке р.. Так как существует сепаратриса, соединяющая седла, после конечного числа пересечений отрезок достигнет вершины сдвинутого многоугольника ТР. Очевидно, перенос Т — линейная комбинация базисных сдвигов Т^, А; = 1,..., ш, с целыми коэффициентами, и эта вершина по- лз^ена в результате сдвига точки р^. Таким образом, орбиты параллельны вектору Г + ру - р^. D Следствие 14.6.6. Для всех, кроме счетного числа, значений а линейный поток на Р не обладает сепаратрисой, соединяюш1ей седла, и, следовательно, квазиминимален. То же верно для перекладывания отрезков, индуцированного потоком на любом отрезке. В конце § 14.4 мы установили соответствие между семейством параллельных потоков в правильном восьмиугольнике и биллиардным потоком внутри прямоугольного треугольника с углом 7г/8. Эта конструкция допускает обобщение, которое мы здесь кратко опишем. Рассмотрим биллиард внутри многоугольника Р, углы которого соизмеримы с 7г. Мы будем называть такие многоугольники рациональными. Пусть G — группа движений плоскости, порожденная отражениями в сторонах Р. Она содержит нормальную подгруппу Gq параллельных переносов конечного индекса, а факторгруппа G/Gq изоморфна группе диэдра D/, она соответствует действию G на множестве направлений. Другими словами, направление любой орбиты биллиарда после отражения принадлежит той же самой орбите G/Gq. Теперь выберем элементы 5Ь> • • -i 92n-i группы G в каждом смежном классе Gq. Их можно упорядочить таким образом, что 9о = W. 9ш+1 = ^т9т' где R^ — одно из отражений в сторонах Р, порождающее G, Теперь возьмем 2N копий Р, R^P, Hg-^i-f? • • -i ■^2л^-1 * *' -^i-^ ^
§ 14.7. ОБОБЩЕНИЯ ЧИСЕЛ ВРАЩЕНИЯ 485 и отождествим их, используя соответствующие отражения. Возникающий в результате рисунок может иметь перекрытия, в отличие от случая 16 треугольников, изображенного на рис. 14.4.4. Однако для любой «свободной» стороны одного из многоугольников имеется свободная сторона другого, которая отождествляется с ней с помощью параллельного переноса из Gq. Итак, можно построить такую замкнутую поверхность S, что для любой орбиты из G/Gq поток на Р поднимается до параллельного потока на 5, который определяется однозначно, несмотря на присутствие нескольких «листов». Рассмотрим биллиардное отображение на множестве единичных касательных векторов, закрепленных на дР. Удобный способ исследования этого отображения состоит в том, чтобы выбрать сторону I и направление а и рассмотреть отображение возвращения на I х (G/C?(,){a}. Последнее множество представляется в виде объединения 2N интервалов, и, помещая их рядом друг за другом и нормализуя меру Лебега на каждом из них, мы получаем семейство J**** перекладываний отрезков. Рассуждая точно так же, как в доказательстве предложения 14.6.5, и переходя к сечению, мы получаем следующее предложение. Предложение 14.6.7. Для любой стороны I рационального многоугольника перекладывание отрезков J**** не имеет сепаратрис, сое- диняюи^их седла, для всех, кроме, быть может, счетного числа, значений а [^]. Мы видели, что отображения возвращения на трансверсали для сохраняющих меры потоков изоморфны перекладываниям отрезков. Существует конструкция, показывающая, что по крайней мере в ориентируемом случае любое перекладывание отрезков получается таким образом, т. е. для любого ориентируемого перекладывания отрезков 1^^ (см. определение 14.5.1) существуют компактная ориентируемая поверхность М, гладкий сохраняющий площадь поток ip с конечным числом неподвижных точек седлового типа и такая трансверсаль г, что отображение возвращения для потока (р на г гладко сопряжено с 1^^. Таким образом, в этом смысле данные теории эквивалентны. Упражнения 14.6.1. Приведите пример сохраняющего площадь потока, неподвижные точки которого — простые седла на сфере с п ручками и у которого есть п транзитивных компонент и нет ни одной периодической компоненты. 14.6.2. Рассмотрим параллельный поток на многоугольнике в форме буквы L с отождествлением, описанным в начале п. 14.6 б. Покажите, что возникающая в результате поверхность гомеоморфна сфере с двумя ручками и после соответствующей замены времени у потока оказывается одно двойное седло. 14.6.3. Рассмотрим биллиард в многоугольнике в форме буквы L с отождествлением, описанным в начале п. 14.6 б. Сведите его изучение к изучению параллельного потока на многоугольнике и вычислите род возникающей в результате поверхности. § 14.7. Обобщения чисел вращения 14.7 а. Векторы вращения потоков на торе. При изучении диффеоморфизмов окружности в гл. 12 мы видели, что существование гладкого сопряжения с линейным отображением было связано с арифметичес-
486 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ кими свойствами числа вращения диффеоморфизма окружности. Как следовало ожидать, ситуация для потоков на торе аналогична. Это лишь одна из многих мотивировок для введения понятия, соответствующего числу вращения. Как и при определении числа вращения диффеоморфизма окружности, мы должны перейти к универсальному накрывающему пространству. Однако имеется интересное различие. Для окружности выбор образующей в первой группе гомологии возможен единственным образом с точностью до ориентации, но поднятие отображения на универсальное накрывающее определено с точностью до преобразования накрытия, и это обстоятельство приводит к тому, что число вращения определено лишь по модулю единица. Для векторного поля на торе (или на любом многообразии) поднятие на универсальное накрывающее единственно, но выбор образующих ЯДТ^, Z) не однозначен. Соответственно мы можем определить вектор вращения для любого данного базиса в Л,(Т^, Z) и, таким образом, это число определено с точностью до действия SL(2, Z). Предложение 14.7.1. Пусть v?' —С^-поток без неподвижных точек на Т^. Обозначим поднятие <р^ на универсальное накрываюи^ее R^ через Ф'. Тогда для каждого xeR предел р(<р):= lim |ФЧ^)€К2 (14.7.1) ( -*оо *> суи^ествует и не зависит от х. Мы будем называть этот предел вектором враи^ения потока (р. Доказательство. Сначала заметим, что существование вектора р((р) и его независимость от точки х — свойство, инвариантное относительно сопряжения потоков. Пусть h: l^ —>l^ — гомеоморфизм и Н = L -\-G — его поднятие на универсальное накрывающее R^, где L — линейное отображение, а преобразование G периодическое. Пусть жбЕ^ и у = Н~^{х). Тогда |Я(ФЧЯ-Чх))) = L (1фЧу)) + |с?(ФЧу)). Величина С(Ф'(у)) ограничена, следовательно lim Я(Ф'(Я"'(х)))/£ = L lim ФЧу)/*. (-*оо (-*оо Используя предложение 14.2.1, введем замкнутую трансверсаль г к потоку (р\ По предложению 14.2.2 получаем С-диффеоморфизм h: Т^ —> —*■ Т^, который отображает г в стандартную «горизонтальную» окружность Г(,:= 5' X {0} = {(з, 0) I S € E/Z} (мы используем ад1ЩТивное представление). Покажем существование предела (14.7.1) для потока ho<р^ оН~^. Так как каждая точка возвращается на Tq и время возврата ограничено, достаточно показать существование предела для точек из tq. Кроме того, по той же причине достаточно рассмотреть только последовательность моментов t„(s) возвращения на Tq. Обозначим отображение возвращения на Tq через / и его поднятие на Е х {0} через F. Заметим, что на универсальном накрывающем возврат на Tq соответствует изменению второй координаты на 1 или —1; без потери общности мы рассмотрим только первый слз^ай. Тогда Ф'>»(з,0) = (^"(з),п). Заметим, что t(s)=t(s)+t(/(s))+...+t(/"->(^)X где t{s) — время возвращения на Tq. Используем существование числа вращения для S, т. е. существование предела lim F'*{s)/n = r{f), и строгую п—»оо
§ 14.7. ОБОБЩЕНИЯ ЧИСЕЛ ВРАЩЕНИЯ 487 эргодичность преобразования F, что влечет lim tis)/n ={ t(s) dfi =: t,, n—*oo где fi — единственная инвариантная относительно F борелевская вероятностная мера. Тогда ,. Ф'-<'>(д, 0) ,. / п ^"(д) п \ _ /тт 1 \ Теперь мы можем переформулировать следствие 14.2.7 без обращения к сечениям. Следствие 14.7.2. Пусть v?' —С°°-поток, сохраняющий площади. Если координаты вектора вращения р{(р)—диофантовы числа, то поток V?' С°°-сопряжен с линейным потоком [']. 14.7 б. Асимптотические циклы р]. Теперь рассмотрим более общую ситуацию. Пусть М — компактное дифференцируемое многообразие и v?' — С-поток, порожденный векторным полем X и сохраняющий меру д. Пусть W —замкнутая дифференцируемая 1-форма. Тогда интеграл I X -luj dfi зависит только от класса когомологий формы w, поскольку если Wj — Wj = dF, то Х_|(алг — Ci;i) = £^.F и благодаря сохранению меры fi { X^uj^d^- { XAU)^dii= f £^Fdfi={^2t f -^^V''^/^) = 0. (=0 Таким образом, отображение wi-> J X _i w d^ определяет линейный функционал на первой группе когомологий де Рама М, который по двойственности может быть отождествлен с элементом р^ € ^i (М, Е), называемым асимптотическим циклом потока относительно меры д. Предположим теперь, что мера д эргодическая. В этом случае мы можем дать геометрическую интерпретацию асимптотического цикла. По эргоди- ческой теореме Биркгофа 4.1.2 мы получаем t Ит J { uj{X(ip'(x)))d3= \ X-iiodfi (14.7.2) о для /г-почти всех хеМ. Пусть 7((^) — ориентированный отрезок орбиты, идущий из X в (р^{х). По определению интегрирования дифференциальных t форм I uj{X{(p''{x))) ds= I ш. Теперь будем действовать так же, как при построении гомотопической энтропии потока в конце § 3.1. А именно, выберем семейство дуг 'у^ ^ ограниченной длины, соединяющих точки например кратчайшие геодезические относительно данной римановой метрики (см. теорему 9.5.9). Тогда ш\ <const. (14.7.3) %t ^".v Заменим 7((з:) петлей 7((з;):= Iti^Yly^x- ^з (14.7.2) и (14.7.3) мы получаем lim -I- I ш = \ X -\ш d^i. т,(«)
488 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ Так как любой класс гомологии из Н^{М, Ш) однозначно определяется его значениями на базисе, состоящем из замкнутых 1-форм, для д-почти всех хеМ выполнено равенство р = lim т[7((^)]> где [•] обозначает класс ко- '^ ( —»оо ' гомологии. Отметим, что для строго эргодического потока все рассмотренные выше сходимости почти всюду являются равномерными сходимостями. Нетрудно видеть (см. упражнение 14.7.1), что вектор вращения потока без неподвижных точек на двумерном торе представляет собой просто координатное представление асимптотического цикла относительно стандартного базиса первой группы когомологий. В наиболее интересном для нас в настоящее время двумерном ориентируемом случае можно также интерпретировать асимптотические циклы как элементы первой группы когомологий. Вообще говоря, для потоков на п-мерных ориентируемых многообразиях соответствующие элементы принадлежат (п — 1)-й группе когомологий. А именно, векторное поле X и инвариантная мера д определяют поточный объем—некоторый объект, аналогичный замкнутой (п — 1)-форме, который можно интегрировать по (п — 1)-подмногообразиям. Если г — (п — 1)-мерная ориентированная трансверсаль к X и А С г — борелевское подмножество, то поток Т{А) е определяется как ±/х( U (р^(А))/е, где ip^ —поток, порожденный полем (=0 X, е >0 — любое малое число и знак определяется в соответствии с тем, согласуются ли ориентация М и ориентация, индуцированная ориентация- ми X и г. Чтобы упростить обсуждение, рассмотрим специальный случай, когда мера д задается объемом П и векторное поле принадлежит классу С, Тогда поточный объем определяется интегрированием (п — 1)-формы Х_|П, называемой формой потока. Лемма 14,7.3. Форма потока замкнута тогда и только тогда, когда векторное поле X сохраняет Q. Доказательство. В силу (П 3.3) и условия ^^=Омы имеем £j^Q = = d(X_i^). D Двойственность Пуанкаре между Я""'(М,Е) и Щ{М,Щ позволяет интерпретировать любую замкнутую (п — 1)-форму ш как линейный функционал 1^ на H^{M,R) (т. е. на Щ{М,Щ), определяемый равенством 1^(а)= J W Л а. Применяя это замечание к случаю ш =Х -iQ, получим м М MM Далее мы покажем, как в двумерном случае для потоков, сохраняющих площадь, асимптотический цикл может быть расширен до инварианта, дающего законченную локальную (в пространстве векторных полей) классификацию с точностью до гладкой орбитальной эквивалентности. 14.7 в. Фундаментальный класс и гладкая классификация сохраняющих площадь потоков [^]. Мы будем говорить, что нуль р сохраняющего площадь векторного поля на поверхности является типичным седлом индекса —п (или типичным п-кратным седлом), если в локальных координатах в окрестности р это векторное поле гамильтоново с гамильтониа-
§ 14.7. ОБОБЩЕНИЯ ЧИСЕЛ ВРАЩЕНИЯ 489 ном Н{х,у)= П (^г^ ~ Aj/) + -^(^12/)' ^Д^ ^^^ отношения /З./а^ различны » = 1 и (п + 1)-я струя R в нуле равна нулю. Таким образом, любое стандартное линейное седло является типичным однократным седлом и седло, показанное на левой части рис. 8.4.1, —типичное тройное седло. Рассмотрим замкнутую компактную ориентируемзоо поверхность М рода д, гладкую 2-форму Q на М, точки р^ ..., р^ € М и такие числа щ, ... г ..., п^ € N, что J2 'п.=2д — 2. Пусть Л! — пространство таких векторных 1 = 1 полей класса С~ на М, сохраняющих форму Q, что точка р. является типичным седлом индекса ~п. для г € {1,..., г} и нет никаких других нулей. Это описание критических точек согласовано с формулой Пуанкаре — Хопфа (теорема об индексе 8.6.6). Назовем множество Д:= {р^ ..., р^} критическим множеством и рассмотрим пространство 1-циклов на М с вещественными коэффициентами относительно Д. Такой цикл представляется в виде линейной комбинации ориентируемых кривых в М, границы которых принадлежат Д. Их относительные границы совпадают с обычными границами. Таким образом, размерность пространства относительных циклов, профакторизованного по пространству относительных границ, равна 2р -f г — 1; необходимо добавить к 2д независимым циклам совокупность кривых, соединяющих точки в Д и образующих дерево. Ограничение формы потока любого векторного поля X € Д' на пространство относительных циклов называется фундаментальным классом поля X и обозначается FC{X). Первый результат о классификации сохраняющих площадь векторных полей на ориентируемой поверхности рода д'^2 может быть сформулирован следующим образом. Теорема 14.7.4. Предположим, что Х^^Х, О< t < 1, — такое гладкое семейство, что FC(X^) = \^РС(ХЛ, где Л^ —положительный скаляр. Тогда существует семейство \: М—^ М липшицевых гомеоморфизмов, которые являются С^-диффеоморфизмами вне окрестности критического множества, и такая положительная функция д^, что \{p.) = Pi для г = 1,..., г и {\)^Xq = fit^t- Mpy^tiMU словами, семейство /i( задает липшицеву орбитальную эквивалентность потоков, порожденных полями Xq и Х^, которая принадлежит классу С~ вне некоторой окрестности критического множества. Доказательство. Не удивительно, что мы будем использовать вариант «гомотопического приема», который в этой книге впервые применялся при доказательстве теоремы Мозера 5.1.27 и затем использовался еще несколько раз. Рассмотрим 1-форму UJ^ =Х( _i^ и положим а^ := -^. Будем искать инфинитезимальную образующую Н^:= -^ семейства h^. Предположим, что мы нашли такое семейство h^, что h*uj^ = ct;Q. Тогда если h*Q = X^Q, то мы имеем т. е. (h,)^X, = X,Xq. Из (П 3.3) следует, что dt так что нам нужно найти векторное поле Н^, для которого правая часть этого тождества обращается в нуль.
490 Часть 3. Гл. 14. ПОТОКИ НА ПОВЕРХНОСТЯХ И ДИНАМИЧЕСКИЕ СИСТЕМЫ По условию форма а^ точна, т. е. а^ =dPt, где функция /{ определена с точностью до константы. Кроме того, так как форма а^ обращается в нуль на относительных циклах Pt(Pi) = Pt(Pj) лл^ «i У = 1> • • м ^. мы можем считать, что P^{p.)=0 для всех г. Таким образом, нам достаточно решить уравнение Н,^си, = -Р,. (14.7.4) Из определения следует, что кег w^ =X^. Решение уравнения (14.7.4) определяется с точностью до слагаемого из кег UJ^. Фиксируя риманову метрику, мы можем определить решение однозначно, требуя, чтобы оно было ортогонально Xj и пара {X^, Н^) была положительно ориентированной. Конечно, Н^ (р-) = 0. Таким образом, образующая Н^ определена, непрерывна и принадлежит классу С~ вне окрестности нулей поля Х^. В точке р- форма w^ имеет нули порядков п., и то же верно для формы a^, так как коэффициенты ряда Тейлора дифференцируемы по t. Следовательно, порядок нулей Р^ равен П; +1 и образующая Н^, выбранная вдоль направлений градиента в Pi, убывает в окрестности точки р- пропорционально расстоянию от р.. Таким образом, Щ —липшицево векторное поле, которое однозначно интегрируется, задавая однопараметрическое семейство липшицевых гомеоморфизмов, являющихся гладкими вне окрестности критического множества и определяющих орбитальную эквивалентность полей X^ и Xq. D Замечание. Причиной негладкости вблизи критического множества является наличие локальных инвариантов гладкой траекторной эквивалентности вблизи кратных седел. А именно, у п-кратного седла есть 2п + 2 сепаратрис, и если два таких седла гладко траекторно эквивалентны, то касательные направления в сепаратрисах переходят друг в друга под действием производной сопряжения. Таким образом, мы должны рассматривать действие группы GL (п, Ж) на наборах п + 1 прямых. Это действие транзитивно для п ^ 2, но обладает некоторыми инвариантами (двойными отношениями) для п ^ 3. Если же все седла не более чем двойные, то в теореме 14.7.4 можно добиться гладкой орбитальной эквивалентности. Сначала заметим, что если векторные поля одинаковы в окрестности критического множества, то возникающее в результате сопряжение также будет тождественным в этой окрестности. Таким образом, вблизи каждой критической точки можно найти локальную замену координат, которая переводит седло в стандартнзоо форму. Для простого седла это аналог упражнений 6.6.4-6.6.5 для слз^ая непрерывного времени. Производя замену времени и аккуратно используя теорему Мозера 5.1.27, мы сводим проблему к случаю потоков, которые совпадают в окрестности критического множества. Предложение 14.7.5. Рассмотрим сохраняющее площадь векторное поле на поверхности с конечным числом неподвижных точек седлового типа. Тогда инвариантные меры с носителями на транзитивных компонентах однозначно определяются их асимптотическими циклами. Замечание. Это аналог теоремы 14.5.14 для потоков. Доказательство. По теореме 14.6.3 достаточно показать, что поток через маленькую трансверсаль внутри транзитивной компоненты определяется асимптотическим циклом меры, т. е. потоками через замкнутые кривые. Для этого, используя теорему 14.6.3, рассмотрим отрезок орбиты, начинающийся очень близко от одного конца трансверсали и заканчивающийся
§ 14,7. ОБОБЩЕНИЯ ЧИСЕЛ ВРАЩЕНИЯ 491 очень близко к другому концу, и замкнем его, используя отрезок трансвер- сали. Потоки через эти замкнутые кривые совпадают с потоками через их трансверсальную часть, а с другой стороны, каждая из них и, следовательно, их предел, который является потоком через трансверсаль, определяются асимптотическим циклом. D Теорема 14.7.6. Пусть род поверхности М равен д. Тогда для любого сохраняющего площадь векторного поля на поверхности М существует не более чем д нетривиальных эргодических инвариантных мер ['*]. Доказательство. Начнем с доказательства того факта, что асимптотический индекс пересечения (см. замечания после теоремы П 5.2) любых двух плотных орбит такого векторного поля равен нулю. Для этого возьмем некоторую трансверсаль и для любых двух орбит рассмотрим отрезки, начинающиеся и оканчивающиеся на трансверсали и пересекающие трансверсаль п раз. Используем конструкцию асимптотического цикла, замыкая орбиты трансверсальными отрезками, и замкнем эти два отрезка орбит отрезками трансверсалей, соединяющих их концы. Порядок длин возникающих в результате кривых равен п. Они могут пересекать друг друга не более чем 2п раз, а именно на трансверсали, так что порядок числа их пересечений после нормализации по длине равен 2п/п^, откуда следует, что предел на самом деле равен нулю. Таким образом, все плотные орбиты содержатся в р-мерном лагранжевом подпространстве (симплектической) формы пересечения (см. замечания после теоремы П 5.2). Теперь нетривиальные инвариантные относительно потока меры определяются их асимптотическим циклом, т. е. мы получаем инъективное отображение пространства эргодических мер на множество асимптотических циклов. Это отображение аффинно, и потому взаимно сингулярные меры соответствуют линейно независимым точкам, как в доказательстве теоремы 14.7.6; следовательно, образ содержится в этом р-мерном подпространстве, так что имеется не более чем д различных эргодических мер. D Упражнения 14.7.1. Покажите, что вектор вращения потока без неподвижных точек на двумерном торе есть не что иное, как координатное представление асимптотического цикла относительно стандартного базиса первой группы когомологий. 14.7.2*. Рассмотрим двойной тор и выберем стандартный базис (7i» 72» 7з» 74) ^ первой группе гомологии, который состоит из образующих гомологии каждого из соединенных торов. Выберем две точки р, g и соединим их короткой кривой 75- Покажите, что для любого вектора (^i, а:^» ^» ^4) ^ положительными координатами найдется такое е > О, что для |a:5l < ^ существует сохраняющий площади поток класса С~ иа двойном торе с простыми седлами в точках р и g и потоком через 7,-. равным х^. 14.7.3. В условиях предыдущего упражнения покажите, что если числа Жр ..., I5 рационально независимы, то возникающий в результате поток квазиминнмален. 14.7.4*. Покажите, что среди потоков, построенных в предыдущих упражнениях, имеются квазиминимальные неэргодическне потоки.
ГЛАВА 15 НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА Непрерывные отображения отрезка представляют собой идеальный объект для разработки структурной теории, основанной на идее кодирования и полусопряжения с топологаческими цепями Маркова. Теорема о промежуточном значении позволяет нам получить всю необходимзоо информацию из информации о том, каким образом отрезки содержатся в образах других отрезков. Этот подход дает очень точные результаты относительно топологической энтропии, роста числа периодических орбит, присутствия орбит различных периодов и структуры отображений с нулевой топологической энтропией. Позднее мы опишем технику, близкую к кодированию, которая выведет нас за рамки топологических цепей Маркова и обеспечит достаточную совокупность моделей для описания кусочно монотонных отображений с точностью до почти обратимого полусопряжения. § 15.1. Марковские покрытия и разбиения Рассмотрим непрерывное отображение отрезка /: 1-^1, Пусть J и К — отрезки (интервалы) из I. Если К cf{J), то говорят, что J покрывает К (под действием /). Эта ситуация обозначается так: J —^ К. Если J —^ К, то на самом деле можно утверждать несколько больше. Лемма 15.1.1. Если J, К — отрезки и J —^К, то существует такой отрезок L с J, что f{L ) = К. Доказательство. Пусть iiC = [a, 6]. Тогда положим с := тах/~'({а}) и L =[с, d], где d:= min((c, сх))П/"'({6})), если это выражение определено. Иначе положим L =[c\d'], где с':= тах((—оо, с) П/"'({6})) Hd':= min((c',oo)n/->({a})). D Таким образом, если J -^ К, то существует несколько таких отрезков Lj,.,., Lt с J с попарно не пересекающимися внутренностями, что f{L^) = K. 14ногда мы будем компактно записывать это условие в виде J :=Х К с к стрелками, если к — максимальное количество таких отрезков L^. Эти отрезки называются полными компонентами, ассоциированными с J -^ К. Отметим, что прообраз К в J может содержать бесконечно большое количество отрезков, хотя и существует лишь конечное число полных компонент (в силу компактности). Следующие две леммы проявляют связь между введенным отношением покрытия и периодическими точками. Лемма 15.1.2. Если J-^J, то f обладает неподвижной точкой xeJ. Доказательство. Если J = [а, 6], то из того, что J -^ J, следует, что имеются такие точки c.deJ, что f{c) = a^ с и f{d) = b'^ d, поэтому
§15.1. МАРКОВСКИЕ ПОКРЫТИЯ И РАЗБИЕНИЯ 493 по теореме о промежуточном значении функция f(x)—x обращается в нуль в J. □ Лемма 15.1.3. Если Jq -^ Jj -^ Jg —>... ^ J„, то множество f] f'^{Ii) i=0 содержит такой отрезок Д„, что /"(Д„) =/„. Доказательство. Выберем полную компоненту А^, ассоциированную с Jq —> Ji, и затем полную компоненту 62CI1, ассоциированную с Jj —> J2, и пусть Дз —полная компонента, ассоциированная с Aj —> S2. Компоненты Л„ строится аналогично с помощью индуктивного процесса. D Используя лемму 15.1.2, мы получим такое следствие. Следствие 15.1.4. Если Jq —> Jj —> Ig —>... —> J„_ 1 —> Jq, mo существует такое x € Fix(/"), что /*(^) ^ ^i ^^^ 0 ^ г < n. Заметим, что n не обязательно является наименьшим возможным периодом. Рассмотрим совокупность С = {1^, ...,/„} отрезков, лежащих в J, с попарно непересекающимся внутренностями. Отношение «—>» задает ребра ориентированного графа — графа Маркова, ассоциированного с С, вершины которого — отрезки из С. Пусть А —О- 1-матрица, определенная этим графом (см. п. 1.9 в), и а^ —односторонний топологический марковский сдвиг, определенный матрицей А. Мы будем говорить, что матрица А ассоциирована с совокупностью С. Следующий факт устанавливает кодирование на «подковообразных» компонентах для одномерных отображений. Теорема 15.1.5. Пусть С = {Ji,...,/„} —совокупность попарно непересекающихся отрезков, лежащих el, J:= [jl. и А —матрица, ассоциированная с С. Тогда существует такое замкнутое /-инвариантное подмножество S С J, что а^ является фактором Л^; полусопрягающее отображение обозначим через h: 5—>0^. Существует не более чем счетное множество точек с более чем одним прообразом относительно h, и прообразы этих точек — отрезки. Доказательство. Сначала определим подмножество S. Обозначим через 5i объединение полных компонент, по одной для каяедой стрелки в графе Маркова. Это попарно непересекающаяся совокупность отрезков, каждый из которых отображается на отрезок из С. Мы будем рассуждать, как в доказательстве леммы 15.1.3, проверяя, однако, что наш выбор производится согласованно для всех п. Для n€N индуктивно определим множество 5„ следующим образом: по предположению индукции 5„_i состоит из отрезков, покрывающих отрезки из С под действием /""'. Рассмотрим теперь отрезки, входящие в S^, По-прежнему ограничивая рассмотрение совокупностью отрезков из С, мы можем определить полные компоненты, ассоциированные с покрытиями отрезков из 5i отрезками из 5„_i под действием /""'. Взяв по одной полной компоненте, соответствующей каждой стрелке графа Маркова, мы получаем множество 5„, которое удовлетворяет предположению индукции. Заметим, что по построению 5„c5„_i, так что пересечение S компактных множеств 5„ непусто, если только все S^ непусты. Компоненты связности S — это отрезки или отдельные точки. По построению имеется естественное отображение на Q^, постоянное на каждой компоненте S и задающее нужное нам полусопряжение. D Следствие 15.1.6. Для каждой периодической орбиты ш сдвига (т2 в Ш имеется периодическая орбита того же периода в ее прообразе Н-'{{ш}), и, следовательно, PAf)^ KU\s)^ K{<^aY
494 Часть 3. Гл. 15. НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА Доказательство. Это очевидно, если h~4{uj}) —точка. Если же h~^{{uj}) — отрезок, можно использовать лемму 15.1.2. D Замечание. Конструкция инвариантного канторова множества для квадратичного отображения Д в п, 2.5 б — пример использования описанной выше процедуры. В этом случае в силу монотонности Д на А* и Д' для C = {/!iP, Д'} каждая стрелка соответствует единственной полной компоненте, а в силу гиперболичности Д на ^ и Д все компоненты S являются точками. Следовательно, множество S определено однозначно, а полусопряжение является сопряжением. Единственность S в квадратичном случае — частный случай следующей ситуации. Следствие 15.1.7. Если в предположениях теоремы 15.1.5 отображение f монотонно на каждом отрезке из С, то множество S определено однозначно и S = f) f"*(J). Доказательство. Для каждой стрелки и на каждом шаге суш;ест- вует лишь одна полная компонента. D В следующей главе будет приведено условие на С-отображения, обобщающее ситуацию с квадратичным семейством, наличие которого гарантирует, что каждая компонента множества S является точкой (следствие 16.1.2). Следствие 15.1.8. В условиях теоремы 15.1.5 топологическая энтропия /|г)/-(7) не меньше чем h^^^{(7^), где А —матрица, ассоции- n€N рованная с С. В частности, h^^(f) ^ \ор(<^а)- Доказательство. Это следует из первого пункта предложения 3.1.7 и предложения 3.1.6. D Обратимся теперь к случаю, когда совокупность С содержит отрезки, которые не являются полностью непересекающимися, а именно могут иметь общие концы. В этом случае построение такого же полусопряжения, как выше, затруднено тем обстоятельством, что траектории точек не вполне определяются «траекториями отрезков». Пример тентообразных отображений (упражнение 2.4.1) показывает, что само отображение действительно может быть (нетривиальным) фактором цепи Маркова. Вообще говоря, полусопряжения в обеих направлениях могут отсутствовать (см. п. 2.5 а). Однако «квазисопряжения», которые можно получить, обладают достаточно хорошими свойствами для того, чтобы сделать те же выводы, что и выше, относительно энтропии и роста числа периодических точек. Теорема 15.1.9. Пусть отображение f: [0,1] —> [0,1] непрерывно, С = {Ji,..., 1^}-^совокупность отрезков, лежащих в I, с попарно непересекающимся внутренностями, J:= [jl. и А —О— I-матрица, ассоциированная с С. Тогда существует такое замкнутое f -инвариантное подмножество S cJ, что (fls^^) ^ {<^а^^а) обладают общим топологическим фактором (<т, X), причем h^p{cr)= \ор(^а) ^ скорость экспоненциального роста р(<т) числа периодических точек отображения а совпадает с р{сг^). Доказательство. Построим S так, как в доказательстве теоремы 15.1.5. Так как отрезки из С могут иметь общие концы, каноническое отображение на Q^ отсутствует. Пусть X — пространство, полученное
§15.1. МАРКОВСКИЕ ПОКРЫТИЯ И РАЗБИЕНИЯ 495 из а^ отождествлением двух последовательностей, если они кодируют траекторию одной и той же точки S. Тогда и сдвиг а^, и f\g проектирзоотся в отображение {<т,Х). Заметим, что полусопряокение д: П^-*Х инъек- тивно вне некоторого счетного множества, а именно множества последовательностей, кодирующих обратные орбиты граничных точек. Заметим еще, что при применении вариационного принципа (теоремы 4.5.3) достаточно рассматривать неатомарные меры, так как чисто атомарные меры обладают нулевой энтропией. Но полусопряокение д устанавливает взаимно однозначное соответствие между инвариантными неатомарными мерами для о^ и а, так что в силу вариационного принципа ^top(*^) = ^ор(*^л )■ Мы тривиальным образом имеем р(<^) ^ р(<^а)' Чтобы получить обратное неравенство, заметим, что д отождествляет периодические орбиты а^, только если они являются последовательностями, кодирующими траектории общих концов отрезков в С (которые тогда должны быть периодическими), и что существует не более двух возможных допустимых кодировок такой точки. П Особенно полезно простое применение этой оценки энтропии для подков. Определение 15.1.10. Пусть I сШ — отрезок, отображение /: I —> Е непрерывно иа<с<б€1. Мы говорим, что отрезок [а, 6] — подкова для /, если [а, Ь] С /([а, с]) П /([с, 6]). Наличие подков очевидным образом приводит к появлению полного 2-сдвига (72^ в качестве фактора ограничения / на инвариантное множество, так что имеет место такое следствие. Следствие 15.1.11. Если f: I ~^R обладает подковой, то h^{f)^ ^log2. Непосредственно применяя эту технику, можно также полз^чить простое доказательство следующего специального случая теоремы Шарковско- го 15.3.2 [•]. Предложение 15.1.12. Предположим, что отображение /: [О, 1]—>[0, 1] обладает периодической точкой периода 3. Тогда f обладает периодическими точками всех периодов. Доказательство. Рассмотрим орбиту периода 3 и обозначим ее точки через Хр Хз» ^> ^\<^< 2з- Рассмотрим отрезки 1^={х^^ Хд] ^h = {^^ ^]- Предположим, что f{^) = ^- Тогда р{хЛ = х^ и, следовательно, I2 /-покрывает как Jp так и Jg, а 1^ покрывает Jg. Если /(хд) = х^ переименовывая 1^ и Jg, мы придем к тому же выводу. Таким образом, граф Маркова, ассоциированный с Jp Jg, содержит граф ^1 ^ ^ (15.1.1) и для любого п € N мы имеем цикл J, —> Jg -* Jg —>... —> /г ~^ -^i (^ п— \ вхождениями Jg), что по следствию 15.1.4 доказывает существование периодической точки периода в точности п. П В упражнениях мы рассмотрим обобщенное тентообразное отображение, предоставляющее стандартную модель для данного графа Маркова. Определение 15.1,13. Отображение /: [0,1]—^[ОЛ] называется стандартным отображением (иногда также отображением подковы), если существует такое m € N, что
496 Часть 3. Гл, 15. НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА (1) множество {О, 1/т, 2/т,..., 1} инвариантно относительно положительных итераций /, (2) на каждом отрезке 4 •= [k/m^ {к + 1)/т] отображение / непостоянно и линейно, (3) граф Маркова отображения / относительно совокупности С = {1^ | О ^ ^к < ш] не содержит «периодических ловушек», т. е. циклов без стрелки, покидающей их. Обозначим через А марковскую матрицу, ассоциированнзоо с графом Маркова такого отображения / относительно совокупности С = {1^^ | О < А; < < т}. Заметим, что по первому пункту нашего определения число стрелок, покидающих J^, равно абсолютному значению /' на /^. Упражнения 15.1.1 Покажите, что любое стандартное отображение / является фактором топологической цепи Маркова, полученной из графа Маркова отображения /. Число прообразов точки оказывается больше единицы не более чем для счетного множества точек. 15.1.2 Предположим, что / — стандартное отображение с матрицей Маркова Лис вариацией У{/),Покажте, что lim {\/n)\ogV{f'*) = h^^{<T^). 15.1.3 Предположим, что С ^ {/[,..., !„} — совокупность отрезков с попарно непересекаю- п щимися внутренностями и что J := \J /,- — отрезок. Покажите, что существует такое замк- нутое /-инвариантное множество S с J, что /1^ имеет стандартное отображение в качестве своего фактора. § 15.2. Энтропия, периодические орбиты и подковы В п. 3.2 д было отмечено, что в большом количестве случаев экспоненциальный рост числа p(f) периодических орбит равен топологической энтропии /Цор(/). В § 18.5 мы покажем, что равенство величин p{f) и /itop(/) — общее свойство динамических систем с гаперболическим поведением. Для более общих классов систем периодические орбиты могут не быть изолированными, так что можно ожидать лишь неравенства p{f) ^ \op(f)' Наша главная цель теперь состоит в том, чтобы показать, что для отображений отрезка топологическая энтропия в самом деле является нижней границей скорости роста числа периодических орбит. Кроме того, мы покажем, что энтропия аппроксимируется энтропией инвариантных множеств, подобно тому как это происходит в теореме 15.1.5. Условимся, что в дальнейшем слово «интервал» может означать одну точку, а также собственно интервал, полуинтервал или отрезок. Теорема 15.2.1. Предположим, что f — непрерывное отображение интервала. Тогда для п € N суи^ествуют такие 1) интервал J„, 2) совокупность D„ попарно непересекающихся подынтервалов J„ (3) к е N, что lim -^ log card 2)„ = %(/) и J„ С f'il) для всех I е V„.
§15,2. ЭНТРОПИЯ. ПЕРИОДИЧЕСКИЕ ОРБИТЫ И ПОДКОВЫ 497 Этот результат, быть может, несколько технический, тем не менее он немедленно дает доказательство обещанной взаимосвязи между периодическими точками и топологической энтропией. Следствие 15,2.2, Для каждого непрерывного отображения интервала f выполнено неравенство p{f) ^ ^ор(/)' Доказательство. По лемме 15.1.2 каждый интервал I€ 15„ содержит точку периода А;„. П Кроме того, мы можем заключить, что некоторая степень отображения с положительной топологической энтропией обладает подковой (см. определение 15.1.10). Следствие 15,2,3. Предположим, что f —непрерывное отображение интервала и h^^{f)>0. Тогда существует такое А; €N, что /* обладает подковой. Доказательство. Выберем число п таким, что cardD„> 1, и пусть L^I^eV^. Тогда J- —> J^ для отображения /*- для г = 1, 2. Это значит, что j„ — подкова. П Следствие 15.2.4, Предположим, что f — непрерывное отображение интервала и h^^{f)>0. Тогда существует периодическая точка, период которой не равен никакой степени двойки. Доказательство, Выберем п таким же образом, как в предыдущем доказательстве, и вспомним, что в подкове возникают все периоды. D Таким образом, отображения, периоды всех периодических точек которых являются степенями двойки, должны иметь нулевую топологическую энтропию. Доказательство теоремы 15,2.1, Без ограничения общности можно взять в качестве нашего интервала отрезок [0,1]. Начнем с элементарной леммы. Лемма 15,2.5, Если а^.Ь^^О, то Доказательство, ЕслиМ<оо, положим S \— max(l/n)max(a„, Ь„) И для и > М выберем JV € N так, что тах(а„, Ь^) ^ nil для п^ N. Если п ^ 2JV и А; ^ п, мы получаем к^ N или п — к^ N, так что а^ + &„_* ^ ^.NS + in- N)U^ NS-\-nU и п i^l и log ( Е е"'^'"-') < jirn^ (I: log(n + l) + ^(iV5 + nU)) = U. Ho величина U > M может быть выбрана произвольно. D Теперь мы приспособим определение топологической энтропии по Адлеру, Конхейму и Мак-Эндрю (см. упражнения 3.1,7-3.1,9) для отображений интервала, чтобы иметь возможность рассматривать разбиения на интервалы вместо покрытий. Несложная лемма 15,2.8 показывает, что это определение совпадает с нашим стандартным определением.
498 Часть 3. Гл. 15. НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА Пусть С — конечное разбиение отрезка [0,1] на интервалы и С": = п-1 := V /"4Q-Кроме того, пусть iV(^С): = min{card С I СсС, J С [j 1} i = 0 l€C ДЛЯ любого Jc[0,1]' Определим h{f,C):= lim (l/n)logcard(C") и поло- п—*оо жим 0j^E^:=E:=heC\lk^i-\ogN{J,r) = h{f,C)]cC, I п-*оо " J Определим множества Е^ по индукции: если 1^Е^_^, J £ Е^ то J —> —>/""'(J)n J для отображения /""', если последнее множество непусто, следовательно, в этом случае по лемме 15.1.1 найдется такой интервал K = K{I,J)cI, что r-'{K)=^r-'{I)nJ, Пусть E„:={K{I,J)\Ie €-£?„_ 1, J ЕЕ, /""' (/) п J ^ 0}. В дальнейшем будет удобно использовать следующие обозначения: если Л—совокупность подмножеств пространст- ваХ иУсХ,7оЛ\у:={1пУ\1еЛ}. Лемма 15.2.6. Для всех JeE выполнено условие lim \ogcavd{EJj) = n—*со = /i(/,C). Доказательство. Ясно, что card(£?„|j) ^ card(C"|j) = iV(^C") ^ ^ card(C"). Чтобы установить обратное неравенство, положим а„:= logcard(^„b), Ь„:= log ( ^ card(C"|,)) l€C\E И Oq = 6q = 1. Мы используем вариант соображения, основанного на субмультипликативности. Заметим, что п п carcl(C"b)^^card(S,b)-( ^ сагс1(С"-*|,)) =^е°'^'"-'. (15.2.1) fc=0 1&С\Е к=0 А именно, если L €C"|j, то f^{L) с К £С для 0^ г ^ п. Пусть А^ —наименьшее такое целое число, что f^{L)cIеС\Е. Можно поставить в соответствие такому L единственный элемент множества EfAj и единственный элемент множества С""*ь|^. Таким образом, общее число таких L ограничено слагаемым для к = к^ из правой части выражения (15.2.1). По определению множества Е мы, таким образом, получаем п h(f,C)^ lim ilogcard(C"b)^ lim IrlogS^ e'^'^''^-^, если JeE, (15.2.2) *=0 и также lim (l/n)logcard(C"|j) </i(/, С) для J €C\£?, так что n —*co lim ib„</i(/,C). (15.2.3) П-.00 "^ По лемме 15.2.5 из (15.2.2) и (15.2.3) следует, что lim а^/п > h{f^C), П п—*со Следующая основная лемма показывает, что по крайней мере один интервал JeE покрывается многими интервалами I е Ejj под действием отображения /", или, точнее, что марковские матрицы /" на J имеют существенную долю блоков из единиц вокруг диагонали.
§ 15.2. ЭНТРОПИЯ, ПЕРИОДИЧЕСКИЕ ОРБИТЫ И ПОДКОВЫ 499 Лемма 15.2.7. Если-^Ц1,п):= card{L eEJj\IсГ{1)} uh{f,C)> > iogS, то существует такое К еЕ, что lim Uog^{K,K,n) = h{f,C). П-.00 "^ Доказательство. В одну сторону («^») неравенство очевидно. Зафиксируем J еЕ, ие (log 3, h(f, С)). Тогда для всех JV € N существует такое п^ N, что ^logcard(^„b)>u, card(^„^,b)^3card(^„b), (15.2.4) поскольку в противном случае существовало бы такое iVeN, что из неравенства (l/n)logcard(£?„|j)> U следовало бы, что card(.g„^Jj) <3card(.g^|j) для п ^ iV, и, следовательно, мы имели бы lim (1/п) iogcard(£?„|j) < 3 во- п —* оо преки лемме 15.2.6. Если L € E^\j, то f"{L) — интервал, так что существуют не более чем два интервала из С, которые пересекают множество f (L), не покрывая его. Следовательно, card{J€£;|Jcr(L)} + 2^card{J€£?|Inr(L)^0}>card(£;„^i|J, где последнее неравенство следует из определения -£^„+1. Это ключевой момент в доказательстве, где используется одномерность системы. Важно, что найдется достаточное количество полных пересечений, для того чтобы получить элементы .£?„+1- Складывая эти неравенства для всех L eE^\j, мы получим = Y^ card{IeE\Icr{L)}^card{E^^,\j)-2card{EJj), так ЧТО no (15.2.4) lim (l/n)log(Xl 7(*^ I, n))^u для всех u </i(/,C), от- куда lim (1/n) log( X) ^(J^ I ^)) ^ HI Q- Так как множество E конечно, "-*~ l€E существует такое ip{J)eE, что lim (l/n)log( XI liJ, ^P{J)^'>^))^ Hf^^)- и вновь, так как Е конечно, преобразование (р: Е -^ Е имеет периодическую точку К. Обозначим ее период через т. Поскольку т—1 т— I i=0 i=0 для любого щ €N, мы видим, что lim (\/n)\og^{K, К^ п)) ^ h{f,C). П n—*OD Лемма 15.2.8. Если С —разбиение на интервалы, длины которых не превосходят е, то h(f^ С) ^ h^{f, 2е) (см, (3.1.1)). Доказательство. Существует не более чем одна точка максимального (2е)-отделенного множества в каждом элементе С", так что утверждение следует из (3.1.15). D
500 Часть 3. Гл. 15. НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА Теперь завершим доказательство теоремы. Если ^top(/) = ^' положим J„ = = П Я'([ОЛ]), ^„={JJ, A;„ = n для всех n€N. В противном случае рассмотрим конечное разбиение С„ отрезка [О, 1] на интервалы, длины которых не превосходят 1/(2п). Зафиксируем n€N и выберем г €N так, что log3< r/i(/,С„). По лемме 15.2.7, примененной к /"", существуют такой интервал J„ и такое число т„ > m„_i, что ^ ^og7{J^,J^,rnJ^h{r,CJ ^ т Ь / \^пУ ^п? "•'п/ >^ '•'\^ J ^п/ 72 Пусть fc„ = гт„ и 2)„ = {J е £;„^,^.Ь | J„ С /*"(/)}. Тогда J„ с /*-(-?) Л^я всех I еТ>„ и card 1)„ = 7( J„, J„i "^n)- Теперь легко видеть, что lim -^ card 2)„ = ^ lim 7^- l°g Т(Л' -^п. "^„) ^ п —* со п п —* со > 7 lim /^(/^ С„) - ^ ^ I lim /I. (/% i) - i = ^„p(/). п—*оо п—*со Обратное неравенство очевидно. D Заметим, что топологическая энтропия графов Маркова отображения /*% ассоциированных с D„, аппроксимирует h^^Af). Таким образом, используя теорему 15.1.5, мы получаем такое следствие. Следствие 15.2.9. Если отображение f: [0,1]—>[0, 1] непрерывно, тогда топологическая энтропия f сколь угодно хорошо аппроксимируется топологической энтропией графов Маркова итераций /, ассоциированных с совокупностями подынтервалов. Существует и более близкая по форме переформулировка теоремы 15.2.1. Следствие 15.2.10. Если отображение f: [0,1]—>[0,1] непрерывно и е>0, то существует такое п€ N, что /" обладает инвариантным множеством Л, являющимся фактором полного сдвига и таким, что Ч(/"1л) ^ "(V(/) - е). Интересно отметить, что подобный факт имеет место и для С''*''*-диффео- морфизмов двумерных многообразий; а именно, по следствию Д.5.10 любой такой диффеоморфизм обладает инвариантным гиперболическим множеством типа подковы, энтропия которого аппроксимирует топологическую энтропию сколь угодно хорошо, в отличие от одномерного случая это не топологический факт. Например, Мэри Рис привела пример минимального гомеоморфизма двумерного тора с положительной топологической энтропией [']. Та роль, которую играла теорема о промежуточном значении, в двумерном слз^ае принадлежит гиперболичности. Гиперболичность устанавливается с помощью неравенства Рюэля (теорема Д.2.13), которое утверждает, что из положительности топологической энтропии следует наличие некоторого экспоненциального разбегания орбит в линеаризованной системе. Подобный факт также имеет место для голоморфных отображений сферы Римана и для голоморфных диффеоморфизмов комплексных двумерных поверхностей. В обоих случаях гиперболичность используется. В первом случае мы можем воспользоваться гиперболичностью благодаря конформности самого
§ 15.2. ЭНТРОПИЯ, ПЕРИОДИЧЕСКИЕ ОРБИТЫ И ПОДКОВЫ 501 отображения, во втором — благодаря конформности ограничений отображения на локальные устойчивое и неустойчивое многообразия. Теперь с помощью теоремы 15.2.1 мы покажем, как топологическая энтропия зависит от отображения. Теорема 15.2.11. Соответствие \^: С^([0,1], [О, 1])-^ EU {оо} полунепрерывно снизу. Доказательство. Используя обозначения теоремы 15.2.1, зафиксируем/€С°([0, 1],[0,1])и е>0. Выберем пбМтак, что (1/fcJ log( card D„- - 2) > ^top(/) ~ ^' Рассмотрим такой интервал К^ с J„, что к^ С Int J„, никакой интервал l€l5„ не пересекает оба множества К^ Л\-^п ^ ^^ более двух интервалов I € 15„ не пересекаются с К^. Тогда К^ с Int(/*"(J)) для всех I eV^, так_что для любого д€ С°([0,1], [0,1]), достаточно С°-близкого к /, мы имеем К^ С Int(p*''(J)) для всех I е V^. Немного изменим I € D„, чтобы получить непересекающуюся совокупность Т^ таких интервалов, что (1) если X — является концом интервала I € .F„, но не является концом интервала К^^ то р*"(а:) ^ К^\ (2) card Т^ ^ card D„ - 2; (3) К^ С Int(p*"(J)) для всех I е Т^. со Тогда Y \= {\ д "{К„)Сд "{!) для каждого l€^„. Рассматривая S-or- i = 0 деленные множества, мы видим, что из последней формулы следует неравенство /itop(P*Hy) ^ log card 5'„. Таким образом, h{g) == -^|—^ ^ ^^ ^ ^ ^ !£££!£1£а ^ '"gC^^^f п -'^^hif)-e.a 'п п п п Заметим, что заключение теоремы 15.2.11 сохраняется также для упомянутых выше двумерной гладкой и голоморфных ситуаций (см. следствие Д.5.13). Обратимся теперь к изз^ению связи между энтропией и вариацией V{f) отображения /. Специальный случай был рассмотрен в упражнении 15.1.2. Очевидная взаимосвязь в общем случае имеет следующий вид. Предложение 15.2.12. Пусть отображение f: [О, 1]—>[0, 1] непрерывно. Тогда /itop(/)^ lilll(l/n) log V^(/"). Предположим, что/ кусочно п —*со монотонно, т. е. число c{f) максимальных интервалов монотонности конечно. Тогда h^^^{f) ^ lim ^ logc„ ^ ^ logc„, еде с„ := с(/"). п—*оо Доказательство. Если {х^,.. .,х^} с [0,1] — максимальное (п, е)-отделенное множество, т. е. N = N^{f,e,n) (см. (3.1.16)), то для l^i^N существует такое число к, О^к^ < п, что |/*'(^i)-/*''(2:i + i)l > е и, п-1 следовательно, J2 ^(/*) ^ s:(iV^(/, е, п)- 1). Устремляя п к бесконечности и затем е к нулю, с помощью (3.1.15) мы получаем первое утверждение. Для того чтобы доказать второе утверждение, заметим, что данный предел существует и равен нижней грани (logc„)/n, так как последовательность {^п}п€ю очевидным образом, субмультипликативна. Но каждый интервал монотонности дает вклад в вариацию, не превышающий единицы, откуда
502 Часть 3. Гл. 15. НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА Теперь мы покажем, что для кусочно монотонных отображений эти оцен ки становятся равенствами. Предложен ие 15.2.13. Если /: [О, 1]—>[0, 1] —кусочно монотон нов непрерывное отображение, то lim ^logc„ = /it,p(/). n—*оо Доказательство. Возьмем число 2е меньшим, чем минимальное расстояние между границами интервалов монотонности. Пусть С — разбиение отрезка [0,1] на интервалы, длина которых заключена в пределах между е и 2е и на которых / монотонно. Тогда card С" ^ с„. В силу выбора е каждый d/-map радиуса е покрывает не более чем 3" элементов С". Таким образом, количество элементов минимального покрытия отрезка [0,1] шарами в метрике d/ равно S = 5^(/, е, п) ^ 3"" card С" > 3""с„. Следовательно, lim -logc„^ 4)p(/) + log3. Применение этого результата к /* дает п—юо lim ^logc„<(l/fc)/4„p(r) + (l/^:) logs = /i,„p(/) + (l/fc) logs. Устремляя n—ЮО к к бесконечности, мы получаем нужный результат. D Следствие 15.2.14. Если /: [0,1] —>[0,1] —кусочно монотонное непрерывное отображение, то lim ^ log V{n = K,U). Доказательство. Утверждение вытекает из следующих неравенств: ^op(/) < lш^^^m < ПН12£т < иш 12|^ = K^if). □ В определенных случаях этот результат позволяет нам вычислить топологическую энтропию явно. Рассмотрим, например, тентообразное отображение т,: x^s{\-\\-2x\)l2 (15.2.5) с угловым коэффициентом s € [1, 2]. Оно вместе со всеми своими степенями обладает постоянным абсолютным значением углового коэффициента, который, таким образом, равен вариации, т. е. У{т^)= s". Поэтому следствие 15.2.14 показывает, что Kir,) = \ogs. (15.2.6) Конечно, это соображение применимо к любому отображению, угловой коэффициент которого постоянен по абсолютному значению. Этот результат полезен в связи с классификацией Милнора — Тёрстона (теоремой 15.6.1). Так как имеется лишь счетное множество О — 1-матриц, топологическая энтропия топологических цепей Маркова может принимать только счетное множество значений, в то время как для тентообразного отображения согласно (15.2.6) может достигаться любое значение топологической энтропии. Таким образом, мы немедленно видим, что цепи Маркова не достаточны в качестве моделей для всевозможных отображений отрезка. Мы вернемся к этой теме в § 15.5, но сначала покажем, что марковские модели достаточны для понимания того, как у отображений отрезка появляются периодические точки различных периодов.
§ 15.3, ТЕОРЕМА ШАРКОВСКОГО 503 Упражнения 15.2.1 Покажите, что для каждого s > 1 существует бесконечно много отображений с постоянным абсолютным значением углового коэффициента s, никакие два из которых топологически не сопряжены. 15.2.2 Постройте для данных £иЛ,£>0, О^Л^оо, отображение отрезка [О, 1 ], являющееся С*'-близким к тождественному и имеющее топологическую энтропию h, § 15.3. Теорема Шарковского В предыдущем параграфе было показано, что энтропия дает нижнюю границу для скорости роста числа периодических орбит. Теперь мы покажем, что само существование периодических точек определенных периодов задает нижние границы энтропии. Начнем с замечательной теоремы Шарковского, которая точно описывает, каким образом могут сосуществовать периодические орбиты различных периодов. ГТредложение 15.1.12 представляет собой очень специальный случай этой теоремы. Определение 15.3.1. Порядок Шарковского на множестве натуральных чисел N определяется следующим образом: 1<2<2^<23<.. .<2"*<.. .<2'=(2п-1)<.. .<2*.3<.. .<2-3<.. .<2п-1<.. .<9<7<5<3 Напомним, что для п бН периодические точки наименьшего возможного периода п—это точки множества Fix(/")\( jj Fix(/*)). Теорема 15.3.2 (теорема Шарковского) [']. Пусть I —отрезок, / С К, и f: / —VI — непрерывное отображение. Если f обладает периодической точкой наименьшего возможного периода р и q < р, то f обладает периодической точкой наименьшего возможного периода q. Доказательство. Следующая основная лемма описывает «минимальную марковскую модель», которая присутствует в любом отображении отрезка с периодическими точками нечетных периодов. Она также служит основой для получения нижней оценки на энтропию в теореме 15.3.5. Лемма 15.3.3. Пусть I — отрезок, / С К, /: 1—^1 — непрерывное отображение и xel —такая периодическая орбита нечетного периода р> I, что периодические орбиты нечетного периода q <р отсутствуют. Если Xjj^jn и х^^~ минимум и максимум орбиты ж, то граф Маркова разбиения С отрезка J := [x^i^, ^тяхЬ индуцированного орбитой 0(х) точки X, содержит следующий подграф: (15.3.1) Это значит, что можно обозначить отрезки разбиения {/i,...,/p^J таким образом, что /j —v /j —v /д —*•---—*• ip_ i и -?p_i —* 4 ^ля каждого нечетного к.
504 ОТОБРАЖЕНИЯ Доказательство. Положим а:= тах{у G 0{х) \ f{y) > у} и 1^ = = [а, &], где b — ближайшая точка орбиты 0{х) справа от а. Тогда /(а) ^ b и /(&) ^ а, следовательно, /j С f{I\)y т. е. /j —*• /р На самом деле включение является собственным, так как период а нечетный. Далее, /{ТЛ С f{f{Ii)), так что по индукции 1^ с /(Ii) С • • • С Р{1\)\ таким образом, Р{1{) содержит орбиту а и, следовательно, отрезок J. Покажем теперь, что существует такой элемент /gC\{/i}, что / —*• 1^. Пусть I := card{y G 0(а;) | у < а} и г := card{y G 0(х) | у > о}. Тогда Z + г = = р — 2, так что I фт. Таким образом, по крайней мере с одной стороны от /[ найдется точка 0(а;), образ которой находится с той же самой стороны. Кроме того, так как точка х периодическая, на обеих сторонах есть точки 0{х)^ которые переходят на противоположные стороны под действием /. Следовательно, имеется смежная пара таких точек с, d, что в точности одна из них переходит с одной стороны на другую, т. е. отрезок / = [с, d] обладает нужными нам свойствами. Теперь обозначим отрезки таким способом, что /.—►...—► /j^ —► /j — самый короткий нетривиальный цикл, содержащий /^ Мы хотим показать, что к = р — \. Поскольку А; ^ р — 1, в силу минимальности цикла достаточно показать, что к > р — 1. Для этого предположим, что число g G {А;, А; + 1} нечетно. По следствию 15.1.4 существование цикла /j —►...—► /^ —► /j или цикла /i —*...—> /fc —> /j —> /j гарантирует существование точки у G Fix(/'). Точка у не является неподвижной, поскольку иначе было бы выполнено включение у G /^ П... П 4 С /j fl/j» т. е. эта точка находилась бы на орбите точки ж, что невозможно. Мы, таким образом, имеем g ^ р, следовательно, к ^р- 1. Осталось показать, что Ip_i —*•/^ для нечетного к. Для этого покажем, что отрезки /,■ с точностью до замены ориентации упорядочены следующим образом: ^р- и -'р-З' • • -J ^21 А' -'З' • • •' ^р-2' (15.3.2) Заметим, что, поскольку /^ —►...—► /р_ i —*/^ — самый короткий нетривиальный цикл в последовательности /j —v... —► /р из условия Д —^ -^у следует, что J ^ А; Н- 1. Таким образом, отрезок 1^ покрывает 1^ и /jt следовательно, в силу связности отрезок /g смежен с /j = [а, &], так что с точностью до замены ориентации мы имеем l2=lcj а] и f{a) = b, c = f(b). Определим /(/г)- Поскольку /(а) = & и /j не покрывает 1^ (так как /j —►...-* /p_i —► /j — самый короткий нетривиальный цикл в последовательности /j —*...—► /i), образ /(io) целиком находится справа от а. Этот образ покрывает /3» так что /з = ["' '^i- ^^^ ^^^ h н^ покрывает никакие другие из наших отрезков, мы заключаем, что d = P{b). Аналогично можно показать, что 1^ = [е, с], а затем требуемое упорядочение получается по индукции. Если положить щ := /'(а), то приведенные выше рассуждения означают, что a;^i„ = Ор. 1 <ар_з<... <02<а<а^ < Оз<... <ар_2 = х^^, следовательно, очевидно, что Jp_i =[ap_i, Ор-з] ~^ 4 ^^ нечетного А;. П Лемма 15.3.4. Если отображение / обладает периодической точкой четного периода, то оно обладает точкой периода два. Доказательство. Пусть р — самый маленький четный период и а; G G Fix(/''). Если р = 2, то все доказано. В противном случае точка периода два может возникать двумя различными способами. Предположим сначала, что существует пара с, d таких смежных точек 0{х), что отрезок /^ = [с, d\^/j
§ 15.3. ТЕОРЕМА ШАРКОВСКОГО 505 покрывает /. (обозначения такие же, как выше). Обозначим отрезки, порожденные 0{х), так, что /^ —V... —* Ifc —► /j — самый короткий нетривиальный цикл в /j —*■...—*• /i. Тогда ясно, что к ^р — I. Пусть число g G {А;, А; Н- 1} четно. Тогда q ^ р. По следствию 15.1.4 из существования цикла /j —►...—► /^ —► /j или цикла /^ —►...—► /^ —v /i —* /i следует существование точки у GFix(/'). Точка у не является неподвижной, поскольку иначе выполнялось бы включение у G /j П... П Д С /j П /j» т. е. эта точка находилась бы на орбите ж, что невозможно. Мы, таким образом, имеем q = p и, следовательно, к ^ р — 1. Кроме того, мы можем, как и прежде, показать, что отрезки /^ с точностью до ориентации упорядочены следующим образом: -tp_2) • ■ 'f -'S' -'l' -'З' ' • •' -'p- P причем / _i-^Ik ^^ четного к. Таким образом, по следствию 15.1.4 цикл / _!—*•/ _2~*"-^р-1 обеспечивает существование точки наименьшего возможного периода два. Во втором случае, когда не существует ни одного отрезка [с, d], покрывающего /р мы хотим показать, что [ж ;„, а] —v [&, х^^^] —v [х^^^, а]. Для этого заметим, что /(а) ^ &, так что образ f{[^ini ^]) содержит точки справа от 1^. Из нашего предположения следует, что отрезок [х^-^, а] не покрывает /р так что /([a^minj ^]) находится справа от а. Аналогично, отрезок /([&, х^^^^]) находится слева от Ь. Но тогда, поскольку / переставляет элементы орбиты 0{х), должно выполняться условие [а;^„, а] —*■ [&, х^^^] —*■ [х^^^, а]. Отсюда по следствию 15.1.4 мы снова получаем существование точки периода два. П Теперь можно доказать основную теорему. (0) Если р = 2* и g < р, то g = 2^ для некоторого I <к. Легко видеть, что существует неподвижная точка, так что достаточно рассмотреть случай I > О. Если х — периодическая точка с наименьшим возможным периодом р, то это периодическая точка отображения р^^ = /^''' с периодом 2*"^"*"', так что согласно лемме 15.3.4 р'~ обладает периодической точкой наименьшего периода два. Простой период этой точки для отображения / равен 2'"' "*"' = д. В противном случае, если р = г • 2*, где число г > 1 нечетно и g < р, возможны три случая: (2) g =s -2*, s четно, (3) g = s • 2*, s > г нечетно. Чтобы доказать теорему в первом случае, заметим, что, применяя это утверждение во втором случае с s = 2, мы получаем периодическую точку периода 2* "*"', так что согласно случаю (0) существуют периодические точки периодов 2^ I ^к. Чтобы доказать теорему во втором случае, можно без потери общности считать, что число г минимально, т. е. что отображение / не имеет точек периода t • 2* для нечетных t <г. Тогда г — минимальный нечетный период отображения /^\ По лемме 15.3.3 существует нетривиальный цикл длины S, а именно 1^_у-^ 1^_^—^...—*■ /,.„2 ~*' -^г-1' ^^ли s < г, и Ii-^ 12—*-. ..-^ 1^_1—^ Ii-^ Ii^ .. .^ Ti в противном случае. По следствию 15.1.4 отображение р" обладает точкой наименьшего периода s, которая, следовательно, является точкой наименьшего периода s • 2* = g отображения / (наименьшего, так как иначе число s/2 также будет периодом этой точки для р").
506 Часть 3. Гл. 15. НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА В заключение, в третьем случае цикл 1^ —^ Ц I. г- I /. /. дает точку наименьшего периода s для отображения /^*. Если наименьший период для / равен s • 2*, все доказано, В противном случае этот период равен S • 2' для некоторого t <к. Но тогда, полагая р' = s • 2' и s' = s ■ 2*~', мы получим периодическую орбиту наименьшего периода s' • 2' = s • 2* = д, опираясь на уже рассмотренный второй случай. Таким образом, мы доказали теорему Шарковского. D Метод доказательства теоремы Шарковского позволяет нам получить информацию относительно типов периодических орбит (определяемых перестановкой, вызываемой этим отображением на периодической орбите). Будем говорить, что одна периодическая орбита вынуждает другую, если любое отображение, обладающее периодической орбитой первого вида, также обладает орбитой второго вида. Таким образом, период р вынуждает период q<p.B упражнении 15.3.1 мы встретимся с примером типа орбиты периода четыре, который вынуждает существование всех других периодов. Понимание комбинаторики отображений отрезка, которым мы обладаем к настоящему моменту, позволяет получить нижние границы энтропии отображения отрезка, когда известно, что присутствуют определенные периодические точки. Мы будем использовать предложение 3.2.5, а также информацию относительно графа Маркова, которую дает лемма 15.3.3. Связь между формулировками этих утверждений обеспечивает теорема 15.1.9. Теорема 15.3.5. Пусть I — отрезок, /СК, и f: 1^1— непрерывное отображение с периодической точкой периода ^2"*, где р —нечетное число, р > 1. Тогда h^^if) ^ 2""* logA^, где Хр —наибольигий корень многочлена х^ — 2х^~^ — 1. Доказательство. Будем считать, что период р минимален, и рассмотрим отображение f := р", Заметим, что по лемме 15.3.3 граф Маркова / относительно разбиения, индуцированного периодической орбитой, содержит подграф (15.3.1). По теореме 15.1.9 и теореме Перрона — Фро- бениуса 1.9.11 достаточно показать, что энтропия (15.3.1) равна наибольшему корню многочлена х^ — 2х^~^ — 1. Таким образом, мы должны вычислить характеристический многочлен марковской матрицы, ассоциированной с (15.3.1), т. е. нам нужна формула для нахождения наибольшего собственного значения (п х п)-матрицы ^1 о А„: О О 1 О о о о 1 о 1 о о о 1 V 1 о 1 о 1 о/ где п четно. Если J — (пхп)-матрица с JJi = 1 и всеми другими элементами, равными нулю, то многочлены Р„(Л):= aet(A„-A Id) и Q^{X):= det(A„- — Л Id-J) связаны следующим образом: Р„(Л) = (1 - A)(-A)Q„_2('^) - Ь С другой стороны, Q„(A) = A^Q„_2(A)- 1 и Q2(A) = А^ - 1, так что по индукции Q„(A) = А" - А"-2 - ... - 1 и, следовательно, Q^(A) - Q„_2(A) = = А"-2A"--l Поскольку P„(A) = (A2-A)g„_2(A)-l = g„(A)-AQ„_2(A),
§ 15.3. ТЕОРЕМА ШАРКОВСКОГО 507 мы имеем (l+A)P„(A) = (l+A)(g„(A)-Ag„_,(A)) = = Q„(A)-AQ„_2(A) + Ag„(A)-(A=g„_,(A)-l)-l = = A(g„(A) - g„_2(A)) - 1 = A"+' - 2A"-' - 1. Наибольший корень этого многочлена положителен и, следовательно, совпадает с наибольшим корнем i^(A). Применение этого факта к п = р — I доказывает наше утверждение. D Заметим, что, в частности, мы показали, что отображение с нулевой энтропией не может обладать периодическими точками, период которых отличен от степеней двойки. Это утверждение естественным образом дополняет следствие 15.2.4, и, объединяя их, мы получаем такое следствие. Следствие 15.3.6. Для непрерывного отображения /: [0,1]—v[0, 11 равенство h^^p{f) = 0 имеет место тогда и только тогда, когда период каждой периодической точки отображения f является степенью двойки. В заключение мы покажем, что не существует никаких ограничений на появление периодических орбит, отличных от теоремы Шарковского, и что оценка на энтропию из теоремы 15.3.5 является точной. Для этого положим 5р := {р} и {д G NI g < р} для р G N и 5^0 = {2" | п G N}. Также определим множество ^(/):= {nGN|Fix(/")\ |J Fix(/*)7^ 0}. Тогда можно сформулировать следующую теорему. Теорема 15.3.7 р]. Для р G NU{oo} существует такое непрерывное отображение /: [0,1] —► [О, 1], что V{f) = 5^, и если мы положим р = = п2*, где п нечетно, то \^^(f) = 2~^\og\^, где Х^—такое же число, как в теореме 15.3.5. Доказательство. Сначала рассмотрим случай, когда р является степенью двойки. Для этой цели мы используем конструкцию удвоения периода, известную как «метод квадратного корня». Рассмотрим произвольное отображение /: [0,1]—^[0, 1] и определим отображение /: [О, 1]—v [0,1] так: f(x) = (2 + /(За;))/3 для а: G [О, 1/3], J(x) = а; - 2/3 для а; G [2/3, 1], а на отрезке [1/3,2/3] доопределим / линейным отображением. Заметим, что р{х) = f{3x)/3 на отрезке [О, 1/3], так что для каждой точки периода п отображения / мы получаем точку периода 2п для отображения /. Кроме того, ограничение последнего отображения на отрезок [1/3,2/3] является линейным растягивающим гомеоморфизмом и, следовательно, обладает единственной неподвижной точкой и не имеет никаких других периодических точек. Таким образом, периоды отображения / равны удвоенным периодам / и, кроме того, имеется дополнительная неподвижная точка. Если р = 1, то нуль является неподвижной точкой отображения fi{x) = = х{1 — х) и нет никаких других периодических точек, поскольку все точки притягиваются к нулю. Если р = 2, положим /г = /^ Как мы видели выше, это отображение обладает точкой периода два, и, очевидно, оно обладает неподвижной точкой из отрезка [1/3,2/3]. Рассуждая по индукции, положим /„=/„_! и заметим, что отображение Д обладает только точками периодов 2* для к<п. Теперь заметим, что fn = f^ на отрезке [2-3"™"*"''"*, 1],
508 Часть 3. Гл. 15. НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА откуда легко показать, что /„ —v /^ равномерно и f^{0) = l. Отображение /^ представляет собой пример отображения, для которого все степени двойки являются периодами, а других периодов нет. Все эти отображения также имеют нулевую энтропию р]. Предположим далее, что р нечетно, и рассмотрим стандартное отображение /р (см. определение 15.1.13) с графом Маркова (15.3.1) (построенное по правилу (15.3.2)). Тогда по построению отображение /^ обладает точкой периода р. Не существует ни одной точки меньшего периода (кроме 1), потому что все циклы нечетной длины, меньшей чем р, в (15.3.1) включают только 1^ и, следовательно, обязаны своим существованием этой неподвижной точке отображения /р. По теореме 15.1.9, упражнению 15.1.1 и вариационному принципу 4.5.3 выполнено равенство \^p{f) = ^og^p. В заключение предположим, что р = 2^п для некоторого нечетного п. Тогда для отображения /^j^j полученного из /„ с помощью метода квадратного корня, примененного к раз, мы имеем V(f^),)=^ S^. Кроме того, конструкция удвоения периода превращает отображение / в отображение /, которое переставляет отрезки [О, 1/3] и [2/3, 1], и единственной неблуждающей точкой отображения / из интервала (1/3, 2/3) является неподвижная точка. Таким образом, отрезок [О, 3"*] инвариантен относительно отображения /^'jt и объединение образов этого отрезка содержит все непериодические неблуждающие точки /^ fc. Но тогда по третьему пункту предложения 3.1.7 мы получаем, что ^op(Л,^) = 2"^ bgA„. D Упражнения 15.3.1 Предположим, что отображение /: [О, I]—^[0, I] обладает такой периодической орбитой {х^ <Х2<х^< х^}, что f(x.) = а;^^ 1, г < 4, и f(x^)~^\- Покажите, что / имеет периодические точки всех периодов. 15.3.2 Покажите, что для любого п ^ 3 существует такая перестановка п элементов, что периодическая орбита {х^ <. ..<х^} наименьшего периода п, которая реализует эту перестановку, вынуждает существование периодических точек всех других периодов. § 15.4. Отображения с нулевой топологической энтропией Наш следующий результат описывает отображения интервала с нулевой топологической энтропией в терминах инвариантных мер. В определенной степени этот результат может рассматриваться как аналог классификации гомеоморфизмов окружности с иррациональным числом вращения с точностью до метрического изоморфизма (теорема 11.2.9). Их топологическая энтропия также равна нулю, и повороты образуют полную систему моделей для классификации гомеоморфизмов в измеримой категории, а также с точностью до полусопряженности. Мы покажем, что для необратимых отображений интервала имеется лишь одно модельное отображение с неатомарной мерой и нулевой энтропией. Важным ингридиентом нашего доказательства служит то наблюдение, что по следствию 15.1.11 подковы являются источниками положительной топологической энтропии. Этот факт будет неоднократно использоваться, чтобы исключить различные осложнения в комбинаторной структуре орбит. Мы начнем с описания стандартной модели таких отображений, которая впервые появилась в упражнении 1.3.3.
§ 15.4. ОТОБРАЖЕНИЯ С НУЛЁЮЙ ТОПОЛОГИЧЕСКОЙ ЭНТРОПИЕЙ 509 Определение 15.4.1. Отображение а^'- ^f ~^ ^f ^ВДа 1 i ~ ^i) если а». = 1 для всех j < г, у си- в противном случае пространства Qf с бернуллиевской мерой ^ = /^^^^2,1/2) называется двоичным одометром. Заметим, что отображение, обратное к aj, имеет вид , ^ Г 1 — о;., если о». = О для всех j < г, ш. в противном случае Кроме того, аз отображает цилиндры в цилиндры той же длины и, таким образом, является гомеоморфизмом, сохраняющим меру и. Теорема 15.4.2. Пусть /: [0,1] —► [0,1] — непрерывное отображение, /itop(/) = ^' ti ^ — неатомарная эргооическая f-инвариантная боре- левская вероятностная мера. Тогда пара (/, fx) метрически изоморфна (см. определение АЛ.20) двоичному одометру и двоичный одометр также является топологическим фактором /Lupp^- Доказательство. Пусть S = suppfx. Положим So--={xeS\f{x)=x}, S,:={x£S\f{x)>x}, S,:= {х е S \f{x)<x}. Тогда (1)5 — замкнутое инвариантное множество, (2) отображение /1^ топологически транзитивно (по второму пункту предложения 4.1.18), (3^ множество S бесконечно, (4) множества S^ и Sj непусты. Метод нашего доказательства состоит в том, чтобы показать, что Sq = 0, /(5^) = 52 и /(52) = 5i. Это следует из нескольких лемм, которые используют отсутствие подков у отображения / и его степеней (см. определение 15.1.10 и следствие 15.1.11). Другая основная идея — топологическая транзитивность отображения / на 5, которая следует из эргодичности, в силу второго пункта предложения 4.1.18. Лемма 15.4.3. sup S^ < inf(5o U S^) и sup(5o U 5i) ^ inf S^. Доказательство. Положим f{x):= l-f_{l-x). Тогда второе утверждение следует из первого, если рассмотреть /. Для того чтобы доказать первое утверждение, положим р:= mf(5oU52) и допустим, что найдется g G 5i n(p, 1]. Функция /I(^u5,)n(p,ii достигает максимума, например в точке с. По определению /(с)^с gSqUSi, и, поскольку/(рХр в силу непрерывности и f{q) ^ q> р, мы видим, что с> р. 1. Чтобы получить противоречие, предположим, что с £ S^, и пусть а:= sup{a;<c|/(a;) = a;}. Заметим, что ЗП[а, c]cSiUSq, поскольку из того, что f{x) <х^с </(с), по теореме о промежуточном значении следует существование точки у G [х, c]nFix(/); следовательно, х^у^ав силу нашего выбора а, и ясно, что хфа. Чтобы получить подкову, мы покажем, что существует такое & G 5 П П fc, /(с)1, что f(b\ ^ а. Для этого предположим, что /(ж) > а для всех
510 Часть 3. Гл. 15. НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА xGSn[c, /(c)]. В этом случае А := 5п[а,/(c)] — замкнутое инвариантное подмножество множества S с непустой внутренностью. В самом деле, в силу выбора с мы имеем f{x)^f{c) для всех х£А. Кроме того, f{x) ^х^ а для X G S П[ау с], как мы отмечали прежде, и по условию f{x) > а для а; G 5 П[с, /(c)]. Но отображение /I5 топологически транзитивно, и потому оно не обладает такими инвариантными подмножествами. Следовательно, а<с<Ь, f{b)^a = f{a) и/(с)^&, так что [а, &] С/([а, с])П/([с, &]), т. е. мы получили подкову. Это невозможно, потому что h^^^{f) = 0 (см. следствие 15.1.11). 2. Таким образом, с G 5р, т. е. f{c) = c. Предположим, что минимум / на множестве (5QUS2)n[0, с] достигается_в точке и. Если и £ Sj, то, применяя соображения из предыдущего абзаца к / вместо feu вместо сие вместо а, мы получим подкову. Таким образом, ugSqH, следовательно, и = р и /(5П П [р, с]) С [р, с]. Тогда в силу топологической транзитивности S с [р, с]. Заметим, что если х <с, то [ж, с]П S <^ S^, потому что иначе [ж, с]П S будет инвариантным множеством множества S с непустой внутренностью, что противоречит топологической транзитивности / на S. Покажем, что также выполнено условие [х^ с]П S ^ Sr, для х<с. Если р^х <с и [ж, с] П П 5 С 52, то М := тах{/(у) \р^у^х} = с, поскольку в противном случае [р, М] П S — собственное замкнутое /-инвариантное множество, что опять противоречит наличию топологической транзитивности. Таким образом, мы можем выбрать v €[р, х]П S так, что f{v) = с = f{c). Тогда v G S^, и мы могли бы положить c = v. Но выше было показано, что c^S^. Мы пришли к противоречию. Таким образом, для а; < с на отрезке [ж, с] найдутся точки и из множества 5i, и из 52, следовательно, {х^ с) п¥1х f ^ 0. С помощью этого факта мы построим подкову для некоторой степени нашего отображения, что приведет к противоречию, доказывающему лемму 15.4.3. Выберем х g (р, с) П 5, Р G (ж, с) nFix(/). В силу топологической транзитивности существуют такая точка у £ (р, х) и такое iV G N, что /^(у) G [Д с]. Поскольку /(р) ^ р и по непрерывности существует такое число а G (р, х), что /^(а) = у5, мы имеем f^{a) = 13 для п^ N. По топологической транзитивности существуют также такие 7 ^ (<^j у^) и п > iV, что /"(7) < о;. Таким образом, отрезок [а, у5] С /"([а, 7]) П/"([7) Р]) является подковой для /". D Наша следующая цель состоит в том, чтобы показать, что 5q = 0. Шагом в этом направлении является следующая лемма. Лемма 15.4.4. 5о = 0 или Sq = {sup 5i} = {inf 52}. Доказательство. Из леммы 15.4.3 следует, что 5qC[p, д]:= := [sup 5i, inf 52], так что в силу топологической т£анзитивности Sq С {р, q}. Если 5q 7^ 0, тогда, возможно после замены / на /, мы получим р G 5q. Полагая, что р 7^ д, получаем противоречие. Если U — достаточно маленькая окрестность точки р и а; G ?7П5\{р}, то х £ S^, x<p = f{p) и f{x) <q по непрерывности, так что х < f{x) ^ р в силу инвариантности 5 и, следовательно, i^{^) = {p}, что противоречит топологической транзитивности. D Теперь покажем, что отображение / переставляет S^ и S2. Отсюда тогда нетрудно сделать вывод, что множество Sq пусто, и это ведет к полному описанию динамики на 5 с точки зрения эргодической теории. Лемма 15.4.5. /(5i) = 52 uf{Sr^) = S^. Доказательство. Покажем, что /(5i) С 52- Применяя этот факт к /, мы получим /(52) С 5i, откуда по топологической транзитивности следует
§ 15.4. ОТОБРАЖЕНИЯ С НУЛЕВОЙ ТОПОЛОГИЧЕСКОЙ ЭНТРОПИЕЙ 511 утверждение леммы. Чтобы получить противоречие, допустим, что существует такая точка р £ 5^, что f{p) £ S^U 5i, и пусть а:= sup{a; G S^ \ f{x) е 1. Предположим, что aG 5р и покажем, что это условие влечет появление подковы и, таким образом, оно невозможно. Сначала заметим, что существует такое г G 5q и *^, что /(г) < а. Действительно, в противном случае S =inf{/(a;)| a;e5pU5i}>a, [s, l]n(52U5o) — собственное /-инвариантное подмножество S (если а; G [s, 1] П (Sj U 5q), то x^Sq\J S^^ откуда f{x) > s) и / не является топологически транзитивным отображением. Итак, г ^ 5о, поскольку в противном случае Sq3 г = f{r) ^ аG 5,, что приводит к противоречию. Таким образом, a<t := inf{a; G S2 \ f{x) ^ а} G ^j. Мы хотим показать, что имеется такое число cG[aj t]nS, что /(с)> t. Если это не так, то М:= max{f{x) \ х G[a,t]n S} < t и множество (а, t)n S инвариантно: если х£{а, t)n5, то f{x)^M< t по определению, в то время как либо X G(a, t)nS2, так что f{x) > а, либо х £{а, *)n(5oU5,), так что f{x) ^ х> а. Это вновь несовместимо с топологической транзитивностью. В силу непрерывности на отрезке [sup 5i, inf S^] стоествует неподвижная точка Ь = /(&). По определению с g5,, так что с^ &. d соответствии с нашим выбором /(а) G 5i и 5jj и, следовательно, /(а) < Ь, Таким образом, [&, t] С Cf{[a^ cjjn/([c, &]). Поскольку/(t)^ а, мы имеем [а, &]с/([&, t]), так что [а, &] С / ([а, с]) П /^([с, &]) — подкова для /^, что невозможно. 2. Таким образом, мы показали, что а £ Sq. Проверим, что это предположение также приводит к появлению подковы для некоторой степени /. По определению а имеется возрастающая последовательность w^ —v а, w^£ S^ и гу„ < /(гу ) £ SqU S^. Из того факта, что аG Sq, следует, что а> sup 5i, и потому /{w^) 4: а для всех п. Так как множество [«;„, a]nS не может быть инвариантным, существует такая последовательность z^ g (ii;„, а) n5i, что /(.г„) > о. По непрерывности f{z^) —► /(а) = а, так что имеется такое А; G N, что 7 := ^2 < ^А =• у^ < а. Если ш gN таково, что f{z^) < /(7)1 то мы можем без потери общности считать, что z^ находится на плотной орбите отображения f\g {z^ определяется открытым условием). Таким образом, существует число такое iV gN, что f^{z^) Kw^^. аи[а, f{zjf] с /([а, 7])П/([7, Р])- Но тогда [а, ^] С lf^{zj, а] с /^([а, 7]) П f^{H ^]) - подкова для /^. D Лемма 15.4.6. 5q = 0. Доказательство. Если Sq = {р} = [sup 5i ^ inf 53], то рассмотрим /^ вместо / и /^-инвариантное множество SqU 5i вместо 5. Отображение /^ топологически транзитивно на этом множестве. Таким образом, мы можем применить лемму 15.4.3, используя тот факт, что р{р)=р. Мы заключаем, что множество {х G SqKJS^ \ Р(х) < х} пусто, вопреки тому, что говорит нам пункт (4) (см. начало доказательства теоремы), примененный к р. Таким образом, из леммы 15.4.4 следует заключение леммы 15.4.6. D Теперь построим изоморфизм с одометром. Определим индуктивно множества S^:=S, S^ = S, (г = 1,2), 5":= 5,"-', 5," := {х G 5" | Я"(а;) > а;}, 52":= {2;G5"|/^"(a;)<a;}. Используя лемму 15.4.5 илемму 15.4.6, по индукции получаем, что множества S^ замкнуты, 5" U S^ = 5" = /^"(5") и отображения /^"!5« топологически транзитивны. Для любого п G N совокупность {Ж5") |0< J <2"} является разбиением S на множества меры 2"". Определим отображение h: S —*■ Hf, полагая 7г(5") = {о; G Hf | o^j =... = а;„ = 1} и hof = a2oh. Это отображение корректно определено, непрерывно, сюръ- ективно и сохраняет меру. Чтобы завершить доказательство теоремы 15.4.2,
512 ОТОБРАЖЕНИЯ мы должны показать, что h /i-почти всюду инъективно. На самом деле мы покажем, что существует не более чем счетное множество точек, на котором инъективность нарушается (и на нем h склеивает пару точек в одну). А именно, прообраз относительно h точки uj^Qf представляет собой пересечение множества S и некоторых отрезков, следовательно, является либо точкой, либо пересечением S с отрезком, и мера этого пересечения равна нулю, так как и — неатомарная мера (следовательно, это пересечение состоит не более чем из двух точек). Эти отрезки попарно не пересекаются для разных omega, так что их не более чем счетное число. D В качестве побочного продукта доказательства мы получили, что отображение с нулевой топологической энтропией и эргодической инвариантной мерой соответствует двойной предельной точке для порядка Шарковского. Предложение 15.4.7. В условиях теоремы 14.4.2 отображение f обладает периодическими орбитами с наименьитми возможными периодами 2*, А; = 0,1,..., а орбит с другими периодами нет. Доказательство. По теореме 15.3.5 только степени двойки могут быть периодами отображения /. Используя те же обозначения, что и прежде, положим AQ = rsup5i, inf Sj]. Тогда по лемме 15.4.5 Aq—► Aq и, следовательно, по лемме 15.1.2 А^ содержит неподвижную точку отображения /. Продолжим рассуждения по индукции. Определим А„ = [sup 5", inf ^j"]. Используя предположение индукции и лемму 15.4.5, мы видим, что А„ —v А„ под действием Z^" и, следовательно, по лемме 15.1.2 А„ содержит точку наименьшего периода 2" отображения /. П Отметим, что из этой конструкции следует, что получающиеся периодические орбиты правильно переплетены в следующем смысле: в множестве периодических точек периода до 2""'"' включительно непосредственные соседи любой точки периода (не обязательно минимального) 2 имеют минимальный период 2""^*. Заметим также, что множество S содержится в замыкании множества периодических точек, хотя оно и не пересекается с этим множеством. А именно, множество S получается с помощью следующей конструкции: для данного п пусть 5„ — объединение отрезков [inf А, sup А], где А — образ множества б*""*"' под действием итераций /. Любой дополнительный интервал содержит периодическую точку, и S —граница множества f] 5„. neN Мы можем обратить это утверждение следующим образом. Теорема 15.4.8. Пусть f — отображение отрезка, которое обладает правильно переплетенной системой периодических точек с периодами 2" для всех п G N, ц никаких других периодов нет. Тогда это отображение имеет эргодическую инвариантную меру /i, по отноиге- нию к которой f является одометром и носитель которой содержится в замыкании множества периодических точек. Замечание. Этот результат неверен без предположения о том, что орбиты правильно переплетены. По теореме 15.3.5 можно заменить предположение об отсутствии других периодов предположением о равенстве нулю топологической энтропии. Отображение /^, построенное в доказательстве теоремы 15.3.7, удовлетворяет условию теоремы 15.4.8. Доказательство. Начнем с исследования структуры множества переплетенных периодических точек. Рассматривая неподвижную точку как
§ 15.4. ОТОБРАЖЕНИЯ С НУЛЕВОЙ ТОПОЛОГИЧЕСКОЙ ЭНТРОПИЕЙ 513 и и середину, мы имеем по одной точке периода два с каждой стороны от этой середины, и отображение / переставляет их. С каждой стороны имеются две точки периода четыре. Используя отсутствие периодов, отличных от степеней двойки, мы покажем, что две левые точки периода четыре отображаются в две правые точки того же периода. Точки периода четыре смежны с точками периода два, и шесть точек периода два и четыре определяют разбиение на пять отрезков. Мы будем исследовать соответствующий граф Маркова, полагая, что точки периода четыре слева переходят в другие точки периода четыре слева. Обозначим эти периодические точки через а^,..., ig (с периодами 4, 2, 4, 4, 2, 4) и отрезки [х._^, х-] —через /,.. Если левые и правые точки периода четыре не меняются местами, то отображение / иидзщи- рует одну из следующих перестановок на точках периода четыре; (1234), (1243), (2134), (2143). Первая перестановка согласно упражнению 15.3.1 вынуждает появление всех периодов и, следовательно, запрещена. То же соображение исключает последнюю перестановку (которая может быть еще переписана как (4321)). Две оставшиеся перестановки обладают тем общим свойством, что пара {а:^, х^} переводится в {х^^ х^}, т. е. отрезок /3 /-покрывает все другие интервалы. Так как /3 /-покрыт (по крайней мере двумя) другими отрезками, в любом случае мы получаем подграф, изоморфный графу (15.1.1), и, следовательно, вопреки нашему предположению получаем точки периода три. Несколько более тщательное использование этих соображений показывает, что левая и правая половины орбиты периода 2" нашей переплетенной системы переставляются отображением / для любого п G N. Кроме того, мы можем исследовать динамику орбиты периода восемь более подробно, рассматривая действие р на любой ее половине. Поскольку эти половины переставляются отображением /, такое действие корректно определено, и мы попадаем в ситуацию, аналогичную той, что встретилась нам в приведенном выше доказательстве, так что отсюда легко получить описание действия /^ на левой половине. Покажем, что левая половина {^и • • -> ^Л отображается в правую половину {ig,..., х^} так, что/({а;1, 2^}) = {а;^, x^ + i} для г =5 или г =7 (т. е. «пакетами»). Предполагая противное, мы в конце концов заключим, что должна существовать орбита периода шесть. Орбита периода восемь определяет шесть отрезков, не содержащих неподвижную точку переплетенной системы. Обозначая их символами от 1^ до L, мы должны показать (в порядке рассмотрения представительного случая), что отношение 1^ —*• /5 запрещено. Но в этом случае должно выполняться условие /g "*• -^3' "^^^ ^^^ f известно на левой половине орбиты и /3 "^ ^j ^^ j =4, 5, б, поскольку концы 1^ обязательно переходят в критические точки правой половины. Так как I- —► 1^ по крайней мере для одного j =4, 5, 6, мы получаем подграф Маркова /j —v /g ?± /3 ~^ ^j ~^ -^i' который содержит цикл длины шесть, вынуждая, по следствию 15.1.4, существование орбит периода шесть. Эквивалентная формулировка этого вывода состоит в том, что ни один из отрезков, содержащих точки периода четыре, не может покрыть под действием / отрезок, содержащий точки периода два. В общем случае те же самые соображения показывают, что ни один из отрезков, определенных орбитой периода 2""^' и содержащих точку периода 2" переплетенной системы, не может покрыть под действием / отрезок, содержащий точку системы периода 2"~^ С помощью только что полученного описания динамики мы построим mhoj жество 5, которое будет носителем нужной нам эргодической инвариантной
514 Часть 3. Гл. 15. НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА меры. Сначала рассмотрим отрезок /, концы которого — точки периода два, и пусть S^ — полная компонента I ^^ I. Имеются два отрезка, концы которых находятся на орбите периода четыре и которые содержат точки периода два, — /i слева и Ц справа. Пусть «S' — объединение полных компонент, по одной для /i —*■ /2 "*■ -^1 и /3 —*• А ~* ^2- Заметим, что множество «S' удалено на положительное расстояние от неподвижной точки. Множество 5^ получено аналогично, как объединение полных компонент, соответствующих циклам длины четыре, ассоциированным с четырьмя отрезками, полученными подобным образом из орбит периода восемь. Таким образом, множество S'^ отделено от точек с периодом один и два. Аналогично мы получаем множества 5", состоящие из 2""' отрезков, отделенных от точек периодов вплоть ДО 2""'. Теперь пусть 5—граница множества |J f) 5", т. е. совокупность непериодических точек из замыкания множества" периодических точек. Определим теперь меру ^ как слабый предел равномерных мер 8^^ сосредоточенных на орбитах периода 2". В заключение обозначим через у„ правый конец крайнего левого отрезка из 5", и пусть 5" = {a;G5|2;< у„}. К этим множествам 5" последний аргумент доказательства теоремы 15.4.2 применяется дословно. П Упражнение 15.4.Г Предположим, что /: [0,1]->[0,1] — кусочно монотонная функция с конечным числом неподвижных точек и h^(f) < (log 2)/2. Пусть /z — такая /-инвариантиая борелевская вероятностная мера, что отображения / и /^ эргодичиы. Покажите, что мера м = ^х сконцентрирована в точке. § 15.5. Теория инвариантов перемешивания Как было отмечено в конце § 2, топологические цепи Маркова не обеспечивают достаточно богатый класс моделей даже для кусочно монотонных отображений интервала. Однако более общий класс символических динамических систем может использоваться для описания существенных черт структуры таких отображений. Идея, принадлежащая Мштнору и Тёрстону, состоит в том, чтобы рассматривать кодирование критических точек в соответствии с разбиением на интервалы монотонности. Этот подход работает для произвольных кусочно монотонных отображений. Чтобы избежать чрезмерного усложнения обозначений, мы ограничимся рассмотрением самого простого класса таких отображений, а именно унимодальных отображений. До конца этой главы мы будем обозначать через Q пространство Q^ односторонних последовательностей символов О, 1, 2 и через а — односторонний сдвиг а^ на П. Определение 15.5.1. Пусть J = [0,1]. Тогда непрерывное отображение f\ I ~^1 называется унимодальным, если /(0) = /(1) = О и существует такое с g (0,1), что / возрастает на полуинтервале 1^:=]0^с) и убывает на полуинтервале /2-=(*^» Ч- Точка с тогда называется точкой возврата функции/. Положим /i := {с}. Пусть г^:= г: /—vQ, х^-^г{х) — такое отображение, что /"(а;)е/^ . Тогда i{x) называется кодировкой точки х. Пусть
§ 15.5. ТЕОРИЯ ИНВАРИАНТОВ ПЕРЕМЕШИВАНИЯ 515 1{х):= {у I г{у) = г{х)}. Последовательность и := v{f):= г(с) называется последовательностью перемешиваний /. Отображения х\-^ \х{\ — х) из квадратичного семейства представляют собой полезные стандартные примеры унимодальных отображений. Очевидным образом, аог =г о f. Заметим также, что односторонние пределы г{х~)'.= lim г(у) и i{x^):= lim i{y) определены и совпадают с г{х) тогда и только тогда, когда f''(x) ф с для всех г gNq. Наоборот, если/*(а;) = с для некоторого г gNq, то 1{х)ф1{х^)ф ф г(а;") ф г(х). Отметим, что всегда выполнено равенство v^ = 1. Следующая лемма дает пример того, как можно получить динамическую информацию из кодировок. Лемма 15.5.2. Пусть f: I ^ I —унимодальное отображение, х G el и п, pGN таковы, что о-р + "(г(а;)) = о-"(г(а;)). Тогда ш-предельное множество и;{х) является периодической орбитой периода р или 2р. Доказательство. Заменяя х на /"(з;), будем полагать, что п = 0. Если f*{x) = c для некоторого г, то точка с и, следовательно, точка ж, являются периодичными с периодом р и все доказано. В противном случае из условия a^{i{x)) = i{x) следует, что {f'^'^^{x)\ к G N} С/^, где Ij G {О, 2}. Пусть Kj С /^ — наименьший отрезок, содержащий множество {/*P+J(a;) I А; gN} С//.. Тогда функция /\к. монотонна, /(iiTj) С iiTy^i при 0^j<p-l и f{Kp_i) С Kq, так что функция /^\к^: Kq —► Kq монотонна. Если функция f^\j^ возрастает, то по предложению 1.1.6 каждая точка множества Kq, а следовательно, и точка х асимптотически приближается к некоторой точке yGFix(/''). Если f^\j^ убывает, то /^^\к^ возрастает и по предложению 1.1.6 точка х асимптотически приближается к некоторой точке у gFixC/^p). D Чтобы лучше понять взаимосвязь между кодировкой точки и ее динамикой, определим следующее отношение порядка на пространстве П, которое соответствует упорядочению точек на отрезке при кодировании. Определение 15.5.3. Если а G^, положим е„(а) = (1-ао)(1-аО(1-а2)---(1-а„_,). Если о; 6 О, то мы говорим, что а^ш тогда и только тогда, когда существует такое п G N, что а^ = ш^ для г <п и е„(а)(а„ Н- 1) < е„(а;)(а;„ Н- 1). Кроме того, запись а :< и; означает, что а -< а» или а = ш. Замечание. Заметим, что тем самым определено линейное упорядочивание. Лемма 15.5.4. Для х^уеТ мы имеем i{x)^i(y)=i-x<y=i-i{x):<i{y). Доказательство. Если г{х)^г{у) и п—такое же число, как в определении отношения «-<», то г^{х)ф1 для 0^j^n — \ и, кроме того, функция /" монотонна на отрезке с концами х и у и возрастает либо убывает в зависимости от того, положительна юти отрицательна величина €^{г{х)). Поскольку в этом случае г„(а;) < г„(у) ^/"(ж) </"(у) и г^{х) > г„(у) ^ /"(а;) > /"(у), мы получаем, что х<у.
516 Часть 3. Гл, 15. НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА Рассуждая от противного, мы можем заключить, что x<y=i-i{x):<i{y). D Замечание. Предыдущая лемма показывает, что 1{х) = {у \ г(у) = = i{x)} — интервал (или полуинтервал, отрезок, возможно, нулевой длины), на котором функция /" монотонна для всех п G N и такой, что это уже не верно ни для какого интервала, содержащего 1{х). Заметим далее, что либо интервалы f^(I{x)) (j GN) попарно не пересекаются, либо для некоторых п, р G N существует у б/"'^^(/(а;))П/"(/(а;)), так что о-""^Р(г(а;)) = = г(у) = о'"(г(а;)), т. е. начиная с некоторого момента г(х) оказывается периодической последовательностью, и, таким образом, по лемме 15.5.2 каждая точка y£l{x) асимптотически приближается к периодической точке /. Эти наблюдения весьма полезны, так как с их помощью мы можем определить, является ли данная последовательность из Q кодировкой какой-нибудь точки. А^ы увидим, что следующее очевидным образом необходимое условие по существу является достаточным. Следствие 15.5.5. Если a=i{x)GQ^ то а^- = I => а^{а) = и и а^''*'\а):< o-(v) для всех j. (15.5.1) Доказательство. Если Лу = 1, то f^{x) = с, следовательно, а^'{а) = = а^'{ъ{х)) = i{f^{x)) = и. Поскольку Я'^Ч^) </(с), мы имеем o-(v) = Если заменить нестрогое неравенство в (15.5.1) на строгое, то это условие становится достаточным. Предложение 15.5.6. Если f: I^I —унимодальное отображение с последовательностью перемешиваний v и а^О. удовлетворяет условию а. = 1 =>о-^(а) = г(с), о-^"^'(а)^ o-(z/) для всех j, (15.5.2) то ct= г{х) для некоторого х£I. Доказательство. Будем рассуждать от противного. По лемме 15.5.4 множества L := {хе1\ г(а;)-< а\ и R:= {xSl\a ^ ^(ж)} являются интервалами (полуинтервалами) и I=LUR, причем ОGL, 1 G Л. Таким образом, так как множество / связно, мы имеем sup L =\niR=: а и a^L или aGR. Предположим, что aGL. Тогда г{а)^а^г{а% (15.5.3) так что существует такое п GN, что ij{a) = а- для j <п и 4{с^){г„(а) + 1) < е^{а){а„ + 1). (15.5.4) Заметим, что гДа) ф 1 для j < щ поскольку иначе а^'{а) = ъ{с) и, следовательно, а = г (а). Таким образом, функция /" монотонна в некоторой открытой окрестности точки а. В частности, гу(а+) = г^{а) для O^j^n. С другой стороны, Г{а) = с, (15.5.5) так как в противном случае найдется интервал J, содержащий точку а, и /^(J) С /^ (aj для j < п, следовательно, г(у) -< а для всех у G J, т. е.
§ 15.6. ТЕНТООБРАЗНАЯ МОДЕЛЬ 517 aG J С L, что противоречит определению а. Тем самым установлено, что *n+i(^^)7^ *n + i(^)» И' следовательно, поскольку г(а):^г(а+), мы имеем Кроме того, из условий (15.5.4) и (15.5.5) мы получаем е„(а).2<е„(а)(а„ + 1), поэтому а„=2, если е„(а) = 1, и о; =0, если е„(а) = —I. В первом случае Vq = 1 < 2 = а , так что v -< а"(а). Поскольку е (а) = I, из этого следует, что г(а^)-< г(а)^ а, а это противоречит (15.5.5). Во втором случае Vq = = 1 >0 = а , так что о-"(а)-< и. Поскольку е„(а) = —1, отсюда следует, что г{а) -< г(а^) -< а. Снова получаем противоречие с (15.5.5). Таким образом, a^L, и, заменяя f{x) на 1 -/(1 - ж), мы также получаем, что a^R. П Имеется один интересный случай, когда все кодировки удовлетворяют достаточному условию (15.5.2), а не только условию (15.5.1), а именно случай, когда точка с не периодическая и /(/(с)) = {/(с)}, т. е. полный прообраз Cf:= {a;G[0, 1]|/"(а;) = с для некоторого nGN} точки с плотен. В этом случае можно получить большое количество информации о структуре данной динамической системы. Предложение 15.5.7. Предположим, что отображения f^g: I—*I унимодальны и их последовательности перемеигивания совпадают. Тогда существует такое строго монотонное отображение h: Cj —* С^, что hof = goh на С^. Если С^ = /, то h продолжается до полусопряжения h: I —^ I между f и д. В частности, если рассматривать только отображения, для которых множество С^ плотно, то последовательность перемешиваний является полным инвариантом топологического сопряжения. Доказательство. Если х £ С^, то ъ^{х) удовлетворяет условию (15.5.2), так что г^{x) = г^{y) для некоторой точки y£l и очевидно, что у 6 Cgi следовательно, точка у определена однозначно (так как некоторая степень отображения д переводит 1{у) в критическую точку, в силу кусочной монотонности существует лишь одна точка). Таким образом, по лемме 15.5.4 отображение h(x):= у корректно определено и монотонно. Очевидно, гЦhof(x)) = г^{goh(x)), так что hof = goh на С^. В силу монотонности / продолжается до C^c/. Если (а, Ь) — компонента связности множества I\Cf и'Сд = 1, то h{a) = h{b) и для х G (а, Ь) можно положить h{x) = h{a). Тогда функция h: I —^ I монотонна и ho f = goh. D § 15.6. Тентообразная модель Теорема 15.6.1 (Милнор, Тёрстон). Пусть f: 1-^1 — унимодальное отображение с положительной топологической энтропией. Тогда f полусопряжено с тентообразным отображением т/. xh-^ з{1 -\1 - 2х|)/2 с угловым коэффициентом s = е'^^^\ Доказательство этой теоремы весьма непрямое и демонстрирует применение комплексного анализа для установления существования определенного
518 Часть 3. Гл. 15. НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА асимптотического поведения (в этом случае A(J); см. определение 15.6.7), с помощью которого мы можем предъявить полусопряжение. Точнее, существенная асимптотическая информация относительно отображения организуется в сходящийся степенной ряд, подобно тому как это было сделано в случае дзета-функции. Аналитические свойства возникающей в результате голоморфной Ш1И мероморфной функции используются для того, чтобы получить нужную асимптотику. А^ы будем использовать некоторые оценки, чтобы установить сходимость, и функциональные уравнения, чтобы найти нули и полюсы функций. Подобные методы интенсивно используются в теории дзета-функций для гиперболических отображений [']. Доказательство. Пусть В (О, 1) с С — открытый единичный круг. Обозначим через 0*^(5(0,1)) пространство голоморфных функций, снабженное топологией равномерной сходимости на компактных множествах. Будет удобно использовать обозначение £;„( J) := {ж G J I /"(ж) = с, /*(а:) ^^ с для А: < п} для любого интервала J С1. Определение 15.6.2. Пусть к={к^,к^): П-v С'СВГО, 1)) х хС'^(В(0,1)), ^ - ^ А:Ча) = У>Ла)^", где п=0 е„(а), если а„=г, К{^)={ е„(о:)/2, еслиа„ = 1, О в противном случае. Определим отображение к: I ^ С'*'(В(0, 1)) х С'*'(В(0, 1)), к :=ког, где СХ) г —кодирующее отображение, и введем функцию к{х, *)= 5]) A;„(a;)i", т. е. _ п=0 к^{х) = к^{г{х)). Инвариантом перемешивания называется функция Kit):=kic-',t)-k{c-,t). О^п Заметим, что функция к (а) голоморфна в В (О, I) и полиномиальна, если = I для некоторого п gNq. Отметим также, что К{0) = {—\^ 1). Лемма 15.6.3. Функция к непрерывна по а. Доказательство. Пусть а G П, множество А С В (О, I) компактно и е>0. Возьмем такое г <1, что АсВ{0, г), такое NgN, что 2г^/(1 — г)< < е, и такую окрестность V точки а в П, что ^^ = а„ для всех ^ GV и n<N. Тогда n=N n=N на А. D Лемма 15.6.4. Выполнены следующие условия: 1) (1 - t)k%x, 0 + 0 + t)kHx, 0=1, 2){l~\~t)K,{t) = -{l-t)K,it), (3) А:(а;+, t) = к{х, t) + t'^K{t)/2 для x G £/„(/),
§ 15.6. ТЕНТООБРАЗНАЯ МОДЕЛЬ 519 (4) k(x-,t) = k{x,t)-t^K{t)/2 для хеВт, (5) klx^ t)—полином п-й степени для х £E„(l). Доказательство. Заметим, что к§{х)~^к^{х) = \. (15.6.1) Покажем, что к°{х) - кЦх) - А:„^, (х) + к!^ ,(х). (15.6.2) Напомним, что /q = [О, с) и /g = (с, 1]. Чтобы доказать (15.6.2), заметим, что если е„(г(а;)) = 0, то обе части равенства обращаются в нуль. Иначе рассмотрим три случая. 1. Пусть Г(а:)€/„ Г^Ч^)^/,-. Тогда к^^,{х) = {\^г)к^{х), к^;{{х)==0 и к^~*(х) =0, что доказывает (15.6.2). 3. Пусть/"(a:)ei;../"+'(^) = с. Тогда A:0^,(a:) + A:„%,(a:)=i(l-i)A:^x) + + ^^(\-г)к^(х) = {\-г)к'{х) = кО(х)-кЦх). Используя (15.6,2), теперь можем доказать первый пункт леммы 15.5.7: п=0 п=0 п = 0 = Е [(^°(^) + ki(x))t'' - {кО^,{х) + А:„%,(х))<"+'] = N -юо равномерно на компактных множествах. Тем самым (1) доказано; отсюда немедленно следует и (2^. Далее, утверждение (о) очевидно. Чтобы доказать (3) и (4), сравним коэффициенты Teiuiopa выражений с обеих сторон. Это немного утомительно, но может быть проделано с помощью следующих простых наблюдений: i{x)j = i{x~)j. = i{x^)j для j < n, иг(а:^))-е,(г(с^)) = г„^,(г'(х^)) для А; ^ 1. Чтобы сравнить коэффициенты при t", заметим также, что K{0) = {-\J).n По лемме 15.6.4(2) мы можем определить функцию Заметим, что функция К^ голоморфна в В (0,1).
520 Часть 3. Гл. 15. НЕПРЕРЫВНЫЕ ОТОБРАЖЕНИЯ ОТРЕЗКА Определение 15.6.5. Напомним, что в предложении 15.2.12 мы определили последовательность c{f^) = c^ числа точек возврата функции /", и положим s:= lim \/с(р) = е'*^^^^ (см. предложение 15.2.12). Для п—юо 00 интервала J с/определим C„(J):= card E^{J) и С {J)(t):= X) <^n('^)^"- n = 0 Определим функцию перекрытий следующим образом: LMt):= tc{r\j)t\ n = 0 Начиная с этого момента мы полагаем, что s > 1. Лемма 15.6.6. Если [а, Ь] = J с I, tno функция C{J) голоморфна C{J)it)K{t) = k{b-, t)-k{a-^,t) для\t\<^, (15.6.3) функция C(J) мероморфна в В(0,1) и все ее полюсы содержатся среди нулей Kj. Кроме того, функция LAJ^ •) мероморфна в В{0,1), все ее полюсы содержатся среди нулей К^ и функция Lj{Ij •) имеет полюс в 1/з. Доказательство. Так как C^iJ) ^ с(/"|^) ^ с(/"), функция C{J) голоморфна в Б(0, 1/s). Далее, F^{J):= [j -^^^(J) — совокупность точек возврата отображения /"|у. Если х и у — смежные точки F^{J), х <у, то к{у~, t) = k{z^ t) = k{x^^ t) вплоть до членов до п-го порядка для любого Z e{Xj у). Таким образом, по утверждениям (3) и (4) предыдущей леммы k{b-,t)-k{a^,t)~\-o{t'^)= J2 {k{x^,t)-k{x-,t)) = = Е Е *'i^(*)=E c,(j)ii:(t)t^ Это доказывает (15.6.3). Для того чтобы убедиться, что функция С (J) мероморфна в В (О, 1) и ее полюсы содержатся среди нулей it^, заметим, что для 1^1 < \/з выполнено равенство C{J)(t)K2{t) = k^{b-^ t)-k^{a:*'^ t), так что C{J)K^{t) = {\ - г){кЦЬ-, t) - к\а^, t)). Чтобы понять структуру функции Lp используем следующее тождество: (оо \ / оо V оо f п— 1 ч п=0 ^ ^ш = 0 ^ п = 0 ^ш = 0 / п- 1 Поскольку c(P\j) = 1 Н- Е ^m(J)^ ^^1 имеем т = 0 L,U <) = Е с(ГЬ)*" = т^ + Е "е c„(-/)t" = dri(i + tc{j)(t)), n = 0 n = Q m=^Q так что функция LAJ^ •) на самом деле мероморфна в В(0,1), а ее полюсы содержатся среди полюсов функции C{J) и, следовательно, среди нулей К^ Чтобы показать, что функция L^(I^-) имеет полюс в 1/^, заметим, что, так как коэффициенты с(/") функции L^{I,-) положительны, выполнено
§ 15.6. ТЕНТООБРАЗНАЯ МОДЕЛЬ 521 00 неравенство \Lj{Ij t)\ ^ 5Г *^(/")1^Г' и, поскольку в силу субмультиплика- п = 0 00 тивности c(/")^s", мы имеем lim Y^ с(/")кГ = оо. D '-'1Л„=о Из леммы 15.6.6, в частности, следует, что функция ^^j ^\ мероморфна, и для 0< ^ < 1/s мы, очевидно, имеем 0^Ь^{1^ t)^Lj{I^ t). Это ключевой момент доказательства, где комплексный анализ гарантирует существование определенных пределов, позволяющих получить полусопряжение. Определение 15.6.7. Пусть A(J):= lim J ,т\\ в [О, 11 для тервалов Jc/n/i:/—►/, жь-»-Л([0, ж]). Ясно, что функция h неубывающая. Мы завершим доказательство теоремы, показав, что h представляет собой полусопряжение отображения / с тентообразным отображением с угловым коэффициентом s. Лемма 15.6.8. 1. Если Jj П J2 — fno4Ka, то A{J^ и J2) = A(Ji)H-A(J2). 2. Если функция f монотонна на J, то A{f{J)) = sA{J). 3. Отображение h непрерывно. 4. На [О, с] выполнено равенство h{f{x)) = sh{x). 5. На [с, 1] выполнено равенство h{f{x)) = s{\ — h{x)). Доказательство. 1. Поскольку |c(/"|j)H-c(/"|y) — с(/"|у иу )| ^ 1, мы имеем ин- \Lj(J,, t)~\~Lf{J^, t)- Lf(J, и /2, i)| ^ 2: \t 00 , n 1 n = 0 I-lt • Так как функция Ь^(1^ ■) имеет полюс в 1/s, поделив на L^(1^ t) и устремив t к 1/s, мы получаем (I). 2. Заметим, что из равенства c(/"'^4y) = c(/"|y/yj) следует, что Ly(.^ t) = = 1+tL,{f(J), t), и потощА{1)= lim il-f^^ = 1л(/(7)). 3. Если x<y таково, что функция /"L„i монотонна, то ^(у) = Л([0, у]) = = Л([0, х\) + Л([х, у]) = Л(а:) + s-"A(/"([a:, у])) < /i(a:) + s"". 4. Используем второй пункт леммы и тот факт, что /(0) = 0 и /t(0) = = Л(га,о]) = о. 5. Для а; е [с, 1] мы имеем /.(/(х)) = Л([0, /(х)]) =Л(/([а:, 1])) = sA([a:, 1]) = = s(A([0,l])-A([0,a:])) = s(l-ft(a:)). д Это доказывает теорему 15.6.1. П Замечание, Подобно теории инвариантов перемешивания, результат Этого параграфа обобщается для произвольных кусочно монотонных отображений. Важный вывод состоит в том, что с точностью до полусопряжения такие отображения с положительной энтропией допускают конечномерное семейство моделей. Упражнение 15.6.1 Покажите, что если отображение / унимодально и h^ {f)>Q^ то lim У ф = I
ГЛАВА 16 ГЛАДКИЕ ОТОБРАЖЕНИЯ ОТРЕЗКА Как и в случае обратимых отображений окружности, которыми мы занимались в гл. И и 12, для отображений отрезка требование дифференцируе- мости позволяет уточнить ряд результатов относительно структуры орбит. В отличие от гл. 12, где главной темой была сопряженность с принципиально негиперболической моделью — отображением поворота, — здесь главная новая особенность, которая выделяет гладкий случай, — присутствие гиперболических множеств в смысле определения из § 6.4. § 16.1. Структура гиперболических отталкивающих множеств Как мы видели в предыдущей главе, необратимые отображения отрезка могут иметь периодические точки различных периодов. Для /-периодической точки р областью притяжения В этой точки называется совокупность всех точек, положительно асимптотичных к р (р может быть притягивающей или полуустойчивой точкой). Мы называем объединение компонент связности, которые содержат точку орбиты 0{р), областью непосредственного притяжения точки р. Области притяжения, равно как и области непосредственного притяжения, очевидно, являются открытыми множествами. Рассмотрим объединение R полуустойчивых точек и дополнения к объединению всех областей притяжения периодических точек отображения /. Это множество называется универсальным отталкивающим множеством отображения /. По построению оно замкнуто и /-инвариантно. Это множество также «/"'-инвариантно» в том смысле, что f~^{R) = R. Очевидно, все сложные явления динамики происходят на R. Например, носители всех неатомарных /-инвариантных мер лежат в R, так что по вариационному принципу 4.5.3 ^top(/) = ^юр(/|д)- Если существует лишь конечное множество притягивающих периодических точек, то R — отталкивающее множество в традиционном смысле слова, т. е. для каждой малой окрестности U множества R н точки X G U\R существует такое п G N, что /"(ж) ^ U. Это служит мотивировкой для анализа гиперболических отталкивающих множеств. Отталкивающее гиперболическое множество (см. определение 6.4.3) называется локально максимальным, если оно обладает открытой окрестностью, которая не содержит никакого большего инвариантного множества. с" Теорема 16.1.1. Если /: [О, I]—>[0,1], то любое локально максимальное гиперболическое отталкивающее множество Л топологически сопряжено топологической цепи Маркова. Доказательство. Выберем окрестность U множества Л, не содержащую ни критических точек, ни инвариантных подмножеств, для которых Л является собственным подмножеством, и рассмотрим открытое покрытие С множества Л попарно непересекающимися интервалами из U, на которых
§ 16.2. ГИПЕРБОЛИЧЕСКИЕ МНОЖЕСТВА ГЛАДКИХ ОТОБРАЖЕНИЙ 523 функция / монотонна. Так как отображение /|д гиперболично, существует такое п € N, что п-й прообраз каждого из этих интервалов содержится в и -^- Тогда совокупность интервалов С„ = {»^ | О < t < AT}, очевидно, яв- гес ляется марковским покрытием на f^{Ii) для О ^ & ^ п, О ^ г ^ iV, так что совокупность интервалов А„, полученная по лемме 15.1.3, определена канонически и по построению является покрытием множества Л для /. В силу нашего выбора U множество Л является пересечением прообразов объединений множеств А„. П Замечание. Позднее, в предложении 18.7.8, мы докажем аналогичный результат для вполне несвязных гиперболических множеств. Следствие 16.1.2. Пусть f: [О, I]—►[О, I], и пусть универсальное отталкивающее множество R является гиперболическим отталкивающим множеством. Тогда отображение /|д топологически сопряжено топологической цепи Маркова. Упражнение 16.1.1. Для данного п € N постройте С°°-отображенне отрезка, универсальное отталкивающее множество которого топологически сопряжено с топологическим бернуллиевским сдвигом (г^. § 16.2. Гиперболические множества гладких отображений В этом параграфе мы докажем, что вдали от критических точек любые гладкие отображения отрезка обладают существенно гиперболическим поведением. Теорема 16.2.1 (Мане) [']. Если f е С\{0,1], [О, \]) ^ U--окрестность критических точек /, то выполнены следующие утверждения. 1, Все периодические орбиты f достаточно больиюго периода в [О, l]\U' являются гиперболическими отталкивающими множествами. 2. Если Bq — объединение областей непосредственного притяжения притягивающих периодических орбит в [0,1]\С/" и все периодические орбиты отображения f в [Q,l]\U гиперболические, то существуют такие О О ц А > I, что для каждого отрезка орбиты {х,..,, /"(ж)} С С [О, 1]\{UuBq) выполнено неравенство |£>/"(а;)| ^ СА". Следствие 16,2.2. Если/еС^{[0,1], [0,1]) и А —замкнутое инвариантное множество, не содержащее ни критических точек, ни притягивающих или негиперболических периодических точек, то Л является гиперболическим множеством. Доказательство. Если С/" С [О, I ]\Л — окрестность множества критических точек, то из первого утверждения теоремы 16.2.1 следует cymej- ствование такого АГ G N, что все периодические точки периода по крайней мере JV из множества [0,1]\С/" являются гиперболическими отталкивающими. Остающиеся периодические точки образуют компактное множество и, следовательно, существует окрестность V множества Л, которая не содержит критических точек, равно как и негиперболических периодических
524 Часть 3. Гл. 16. ГЛАДКИЕ ОТОБРАЖЕНИЯ ОТРЕЗКА точек. Если W ^W С V — окрестность множества Л, то из второго пункта теоремы 16.2.1 и из утверждения, подобного упражнению 6.4.2, следует, что отображение / является гиперболическим на множестве Л С W. П Следствие 16.2.3. Если fe С^{[0,1], [0,1]), все критические точки находятся в области притяжения гиперболической притягивающей периодической орбиты и все периодические точки гиперболические, то суи^ествует лишь конечное множество гиперболических притягивающих периодических орбит и универсальное отталкивающее множество гиперболично. Доказательство теоремы 16.2.1. Лемма 16.2.4. Если р—-точка периода п и I —такой интервал, содержащий р, что /"(1)пО(^>) = {^>}, то кратность покрытия {/, /(/),...,/"" Ч-f) «^ превосходит 3. Доказательство. Образ /"(/) содержится в максимальном интервале Д для которого Jr\0{p)=={p}. Ясно, что f^{I)C]0{p) = {f^{p)} и множество A:={i <n\f^{p)e J} содержит не более трех элементов. Но если f (/)П J^0, то ieA. Предположим, что найдутся такие числа О ^ г^ ig» ^» Ч < '^» ^^о /*>(/) П г\р{1)пр{1)пр{1)ф0, т. е. 0ФГ~'*^'^{1)пГ~'<^Ц1)пГ~'*^'^{1)п n/"(/)C/"-'* + M/)n/"-'* + ^(/)n/"-*^ + b(/)nJ. Поскольку card Л ^3, два из этих чисел должны совпадать, как и утверждалось. П Лемма 16.2.5. Если I — такой интервал, что отображения /"1^: / ^ /"(/) являются гомеоморфизмами для всех п G N, то либо образы интервала I попарно не пересекаются, либо найдется такой интервал J ui,k gN, что f^{I)cJ, /*(J)C J и функция p\j монотонна. Замечание. В последнем случае по предложению 1.1.6, примененному к /^*, каждая точка из интервала / положительно асимптотична к некоторой орбите периода 2fc. Доказательство. Если образы интервала / не являются попарно непересекающимися, т. е. существуют такие г, fc GN, что /*(/)П/*'^*(7)^^0 оо и, следовательно,/• + "*(/)^П/* + <"+^>*(/)7^0, то интервал J := U /^ + "*(/) обладает требуемыми свойствами. П »=о Следующая лемма завершает доказательство первого пункта теоремы 16.2.1. Лемма 16.2.6. Пусть U —окрестность множества критических точек. Тогда существует такая последовательность М^^юо, что если период точки р равен п и 0(р)Г\ 11=0^ то |(/")'(^')1 >Ai- Доказательство. Сначала изменим преобразование f в U удобным для нас образом. Пусть К — интервал, содержащий окрестность отрезка [О, 1], и пусть отображение д е С^{К, К) таково, что (U 9\ю,1]\и = /1[о,11\1/' (2) дК — притягивающая периодическая орбита отображения д с областью непосредственного притяжения в К\[0^ 1], (3) для каждой критической точки с функции / существуют такие интервалы ceW^cV^CU, что для любой связной компоненты J множества Т^\ W^ найдется отталкивающая периодическая точка в g{J)U g^{J).
§ 16.2. ГИПЕРБОЛИЧЕСКИЕ МНОЖЕСТВА ГЛАДКИХ ОТОБРАЖЕНИЙ 525 Ясно, что достаточно доказать лемму 16.2.6 для отображения д и множества V:= \JV^ вместо U. Пусть W :-= (j W^. с с Назначение утверждения (3) состоит в том, чтобы обеспечить наличие некоторого растяжения. Действительно, это утверждение означает, что существует такое (5 >0, что для любой компоненты J множества V\W и любого г eN выполнено неравенство l{g^{J))> 5. Рассмотрим теперь орбиту периода п в множестве K\V и выберем точку р из него и критическую точку с так, что не существует ни одной точки 0{р)^ содержащейся между р и с. Пусть / — максимальный интервал, содержащий р, для которого р*(/) П И^ = 0 (г < п) и р"(/) П 0{р) = {р}. Покажем теперь, что /(/)^0, т. е. для е >0 существует такое JVgN, что из неравенства n^N следует неравенство /(/)< е. Для этого предположим, что, напротив, имеется последовательность р^ точек периодов т„, т„ ^-оо, для которой длины соответствующих интервалов /„ равны по крайней мере е и эти интервалы сходятся (без потери общности) к интервалу /. Но тогда (/*(/„) ПР^ = 0 для к < т„, следовательно, ^*(/)п Р^=0 для fc GN. Таким образом, по лемме 14.3.3 интервал / не может обладать попарно непересекающимися образами, и по лемме 16.2.5 существуют г, fc G N и такой интервал J, что р*(/) С J и каждая точка z G J асимптотична к точке периода 2fc. Но это невозможно, поскольку ^*(-^„)» и, следовательно, точки р^ содержатся в J для достаточно больших к. Тем самым доказано, что / ii) ^ 6. Чтобы завершить доказательство, обозначим через 1^ компоненту множества I\{v}^ образ которой под действием ^" содержится между точками р и с. Так как интервал / был выбран максимальным, найдется такое г ^ п и такая компонента J множества V\W, что J с р*(-^с)> следовательно, /(р"(/с)) > <5 в силу выбора 5. При п^оо мы имеем /(/)^0, поэтому /^p"(/J)//(/J^ оо. С другой стороны, из леммы 16.2.4 следует, что 1\д^(1))^Ы{К). Из этого факта и из предложения 14.3.2 мы получаем, что |(f/")'(f>)l > const -/(p^C/JV/C-^J^oo, как и утверждалось. П Поскольку первый пункт теоремы 16.2.1 доказан, зафиксируем окрестность У с V' С J7 множества критических точек и начиная с этого момента будем считать, что все периодические орбиты в множестве [О, ^\\У гиперболические. Кроме того, обозначим через В объединение областей непосредственного притяжения периодических точек, орбиты которых содержатся в [О, \]\V. Для X С [О, 1] пусть A„(X):={xG[0,l]|/4x)G[0,l]\(Xu5), i^n}. Заметим, что в утверждении теоремы 16.2.1 мы имеем дело с множеством Л„(?7). Пусть d_—максимальная длина компоненты связности множества Kiy)- Далее мы установим наличие определенной гиперболичности для точек множества A„(V). Лемма 16.2.7. Существуют такие 5 >0 и Х> \, что для всех таких интерваловIС J cA^_i{V), что 1{J)<S, множества J,f{J),... ...,/"-^(J) попарно не пересекаются и Jc/"(J), выполнено неравенство 1{Г(1))> Х1{1). Доказательство. Поскольку J С/"(J), в интервале J найдется точка периода п (см. следствие 15.1.4), к которой можно применить лем-
526 Часть 3. Гл. 16. ГЛАДКИЕ ОТОБРАЖЕНИЯ ОТРЕЗКА му 16.2.6. Поскольку J СЛ„_1(У) и множества J^}(J)^.. ■,/"~Ч'^) попарно не пересекаются, из предложения 14.3.2 следует существование такого С>0, что /(/"(/))> СМ„/(/). Таким образом, существует такое JV G N, что для n'^N выполнено неравенство I{/{!)) >2Z(J), следовательно, для таких п все доказано. Для п< N существует лишь конечное множество орбит периода п; следовательно, существуют такие 5 >0 и Л > 1, что для любой отталкивающей точки X периода п и такой точки у, что |?/ —z| < 5, мы имеем |(/"У(2/)| > А. Таким образом, если интервал J такой же, как и прежде, то из неравенства 1{J) < 5 следует, что \(Г)'{х)\ > Л на J. П Лемма 16.2.8. Для £>0 существует такое п^ е N, что d^<e для всех п> щ. Доказательство. В противном случае существуют такое е > О и такие интервалы /„ С Л (V), что /(/„) > е, без потери общности сходящиеся к интервалу / С П А„(У). По построению образы / не накапливаются n6N у критической точки, и, следовательно, по лемме 14.3.3 они не являются попарно не пересекающимися. Поэтому по лемме 16.2.5 существуют такой интервал J и такие числа г, ^ G N, что /*(/) С J и функция /*|j монотонна. Таким образом, по предложению 1.1.6 каждая точка интервала J асимптотична к периодической орбите и, следовательно, f^{I)C\B 7^0, так что Р{1п)С\В ф0 для больших п, что невозможно. П Следующие леммы нацелены на демонстрацию того факта, что для любого интервала / С Л„( V) сумма длин образов /*(/) вплоть до i = п ограничена константой, не зависящей от п. (Это будет потом использоваться в сочетании с предложением 14.3.2.) Для доказательства этого утверждения мы введем несколько технических понятий. Определение 16.2.9. Интервал / называется п-марковским, если для i-^j-^пиз условия f^{I)r\f^'{I)^0 следует, что /*'(/) с/^'(/). Если, кроме того, для i < j" < fc < п из условия /*(/), f^{I) С / (/) следует, что /(/^(/))> Л/(/*(/)), то мы говорим, что интервал / (Л, п)-гиперболичен. Суммы длин гиперболических интервалов ограничены. Лемма 16.2.10. Если \>\ и интервал I (А, п)-гиперболичен, то Е/(/ЧЛ)<А/(л-1). 1=0 Доказательство. Предположим, что набор чисел {ii,...,ifc}c С {О,..., п) таков, что образы /^(/),. - .,/'"{1) попарно не пересекаются и если i ^ п, то /*(1) С Г^{I) для некоторого t ^ к. Это возможно в силу марковского свойства. Для данного t пусть {j],..., j^} ={г ^ п\ f'{I) С С/*'(/)}. Из предположения о гиперболичности следует, что l{f^*^^(I))> > l{f^'{I)) мя S <ги 3\^i,, такчто ± l{fHl))^{X/{X-l))l{f^{I)).Ta- s = \ КИМ образом, ± 1{Г{1))^ Е Е ЧП1))< Е(А/(А -1))'(Г'(Л)< t=0 ( = 1 /'(/)с/''(Л *="' <Л/(А-1). П Эта лемма вместе со следующими тремя дает основную оценку леммы 16.2.13. Пусть число S такое же, как в лемме 16.2.7, и пусть £ < 6 —
§16.2. ГИПЕРБОЛИЧЕСКИЕ МНОЖЕСТВА ГЛАДКИХ ОТОБРАЖЕНИЙ 527 НИЖНЯЯ граница длин компонент связности множества U\V. Пусть, далее, число п^ будет таким же, как в лемме 16.2.8. Лемма 16.2.11. Если I —- компонента связности множества A^{V) и I Г\А^{и)ф0, то интервал I является (п - п^)-марковским. Доказательство. Предположим противное. Тогда существуют такие числа г, У, i <j ^п- п^, что /*(/) П р'{1) ф0 и р{1) <t ЖЛ, т. е. найдется такая граничная точка а интервала /, что Я (а) С Int/*'(/). Мы покажем, что при наших допущениях интервал / содержит окрестность точки а, а это невозможно. Заметим сначала, что /'(^) ^ ^^ Аля t < j, поскольку иначе дВ э f^~^{f^A)) = p{a)elntf*{I), что дает противоречие. Кроме того, /*(fl) ^ ^^ АЛЯ t ^п— п^, поскольку иначе образ /*(/) будет содержать компоненту множества U\V (так как он содержит точку U) и, следовательно, будет иметь длину по крайней мере е, так что по лемме 16.2.8 f^{I)^A^_t{V). Значит, существует такая окрестность W точки а, что f^{W)Cf^{I) и/*(Р^)П(Л ПУ) = 0 для t^j\ Таким образом, W С Л„( V) с /, и мы получаем противоречие. D Лемма 16.2.12. Если интервал I такой же, как в лемме 16.2.11, то I будет (Л, п)-гиперболичным, где Л —такое же число, как в лемме 16.2.7. Доказательство. Наличие нужного нам марковского свойства уже следует из леммы 16.2.11. Для данных i<k-^n — n^ предположим, что j — минимальное целое число, для которого существуют такие г < j <к, что /41) и ЖЛ С/*(/). Мы сначала покажем, что J := f" ^ + *(/)С/^' *(J)=/*(/) и что множества J,.. .,f^"*~^(J) попарно не пересекаются. Полезно иметь в виду, что /" —диффеоморфизм на I. Отметим, что f^~*{f^(I))=f^{^)Cf''{I) и что J cAj._i{V) — максимальный такой интервал, что f^~^{J) С/^(/). Таким образом, /*(/) С J и по предположению р{1) С /*(/) =P~*{J)y так что J C\f^'~^{J) 7^0. Так как интервал / является fc-марковским, интервал J является (У - г)-марковским и, следовательно, J Cf^'~^{J) =/*(/). Чтобы показать, что множества ,^ ...,/^~*~'(J) попарно не пересекаются, предположим сначала, что f*{J)r\f^'~'{J)^0M^ некоторого t <j -г. Тогда использование марковского свойства позволяет заключить, что /*'^*(/)С С f*{J) C/^~*(J) = /*(/) в противоречие с минимальностью j. Таким образом, это невозможно. Но если/"(J)n/"*(J) 7^0 для любого n<m<j — i, тогда также /" + *J'~*~"**(J)n/J~*(J)f^0, а эту возможность мы только что исключили. Рассуждения, приведенные в предыдущем абзаце, показывают, что с помощью леммы 16.2.7 можно заключить, что l{f^{I)) > Л/(/*(/)). В общем случае i <j <к^ п—щ и /•(J)U/*(/) С/*(1) мы сначала, как и прежде, выбрав минимальное j ^ t, покажем, что /(/^(/)) > Л/(/*(/)). Затем заменим г на j и будем повторять эту процедуру до тех пор, пока не придем к заключению, что /(/*(/))> Л"*/(/*(1)) > Л/(/*(/)), как нам и нужно. П Лемма 16.2.13. Суи^ествует такое С еЖ, что если /СЛ„(У) п является интервалом, то J^ /(/*(/)) ^ С. »=о
528 Часть 3. Гл. 16, ГЛАДКИЕ ОТОБРАЖЕНИЯ Доказательство. Если п^п^^ то, очевидно, п^ является верхней границей. Если п > п^, то леммы 16.2.10 и 16.2.12 показывают, что п t = 0 n Е = n - n, + 1 E ^(•^*(^))=E ^(•^'(^)) + E ^(-^'(^w ^ ^/(^ -1)+«. =: ^• П Теперь с помощью леммы 16.2.13 и предложения 14.3.2 мы докажем второй пункт теоремы 16.2.1. Проведем рассуждения от противного, считая, что имеется последовательность п^ ^-оо и такие ж^€Л„(У), что l(/"0'(^t)l ^1- Предположим, что число 5 меньше, чем длина любой компоненты связности множества U\V, и меньше, чем расстояние между любыми точками х^уедВ. Тогда мы можем показать, что если 1^ — компонента связности х^ в Л„ (V), то существует такое щ < щ, что /(/"*'(/^)) > S. Чтобы доказать это, заметим, что существуют две возможности. 1. Существует такое t < п^, что /*(Л)^9V ф0. Поскольку f^{x.) ^ Ц это значит, что множество /*(-^i) содержит компоненту множества u\v н, следовательно, его длина больше чем S. 2. Существуют такие т, *, m<t < п,., что /"*(a)U/*(b) С дВ, где а, 6 — концы интервала /,.. Тогда f*{a) G дВ и, следовательно, Z(/*(/J) > S. Заметим также, что по лемме 16.2.8 Z(/J^O, так что т^ "+оо и мы можем, переходя к подпоследовательности, считать, что интервалы /"*'(/^) сходятся к интервалу /. Ясно, что /(/) > S. В то же время заметим, что |(/"')'(жЛ ^ 1 и в силу леммы 16.2.13 и предложения 14.3.2 мы можем заключить, что /(/"'(/^))^ 2Z(/J для больших г. Поскольку /(/^)^0, мы видим, что Ч/"'(Л))"*^ **. следовательно, щ — т.—*^ оо, так что / С П Л„(У), что невозможно. Тем самым доказа- n6N тельство теоремы 16.2.1 завершено. П § 16.3. Непрерывность энтропии Теорема 16.3.1. Пусть Q?([0,1], [О, I]) — пространство С^-отображений отрезка [0,1] с невырожденными критическими точками (т. е. |/'| + |/"| > 0) с С^-топологией. Тогда отображение Ki Q?([0» 1]» [О» 1]) ^ К непрерывно. Доказательство. Полунепрерывность снизу обеспечивается теоремой 15.2.11. Для доказательства полунепрерывности сверху используется предложение 15.2.13 и тот факт, что для малого С^-возмущения величина с(/) контролируема. Зафиксируем / € Со^([0,1],[0,1]) и е > 0. Заметим, что функция / кусочно монотонна. Предположим, что функция д G Со^([0, 1], [О, 1]) достаточно С^-близка к /, так что она также кусочно монотонна. По предложению 15.2.13 можно найти такое n>(2(Ci+3) log2)/e, что (l/n)logc„ ^ /itop(/)+ (е/2). Точки возврата для /" обозначим через 0 = Xq<x^< . ..<х^ =1. Рассмотрим попарно непересекающиеся интервалы {7j О ^ г ^ с„}, где х^ G 1^. Так как все критические точки функции / являются точками возврата, то же верно для /" и, таким образом, мы можем ^^r^ считать, что функции р" не имеют точек возврата в множестве [0,1]\ (J 1^. i=0
§ 16.4. ПОЛНЫЕ СЕМЕЙСТВА УНИМОДАЛЬНЫХ ОТОБРАЖЕНИЙ 529 Теперь зафиксируем i. Пусть г := card{0 < fc < п | /*(z^) является точкой возврата /}. Заметим, что если функция д достаточно близка к / то функции д^ обладают не более чем 2+1 точками возврата в 1^. (Рассмотрим количество максимальных интервалов в /^, на которых функция д^ монотонна. Для любого такого fc, что д'{х)=0 в некоторой точке х G p*(/i), это число может в худшем случае удвоиться, так что оно не превосходит 2*".) Рассмотрим простой (и общий) случай, когда не существует такого fc < п, что /*(a:J — периодическая точка возврата. Тогда г ^ q + 1 и функция р" имеет не более чем 2'^'^' +1 точек возврата в I., Теперь рассмотрим осложнения, которые могут возникнуть из-за присутствия периодических критических точек. Обозначим множество таких точек через С и пусть X = \J f^{C). Для функции д, достаточно близкой к /^ t6N существует такая открытая окрестность U множества X, что g{U)c U и и содержит лишь конечное множество неблуждающих точек (периодических критических точек). Таким образом, множество У := [0,1]\ |J g~^(U) замкнуто и р-инвариантно и каждая инвариантная неатомарная мера имеет носитель в У, так что по вариационному принципу 4.5.3 выполнено равенство /itopC^lr) = ^top(5)- Если окажется, что /*(х,.) G X для некоторого fc < п, то выберем интервал 1^ таким маленьким, что для функции р, достаточно близкой к / мы имеем I.C\Y =<Z. Таким образом, функция д'^\у имеет не более чем (с + П(2''''^ + 1) точек возврата. Используя продолжение по линейности на [0,1]\1^ мы можем теперь с помощью предложения 15.2.12 установить, что М5) = :й:М5'')< ^ log ((с„ + осг-'.^'+1)) < <ilog(e„2^-)^M/) + f + ^^^^^#^<- П Упражнения 16.3.1. Докажите, чтовквадратичномсемействе Д(а;)=Аа;(1—а;),0<А <4, имеется несчетное множество значений параметра Л, для которых универсальное отталкивающее множество не гиперболично. 16.3.2 Пусть г ^ 2, / — С*-отображение и г-е струи во всех критических точках / отличны от нуля, т. е. для каждой такой точки х^ существует такое Л < г, что &-я производная / отлична от нуля. Докажите, что топологическая энтропия непрерывна по / в С-топологии. § 16.4. Полные семейства унимодальных отображений Теперь мы приведем достаточное условие на семейство гладких унимодальных отображений, дяя того чтобы все возможные последовательности перемешиваний возникали в этом семействе. Это интересно знать хотя бы потому, что, как мы ввдели в предложении 15.5.7, иногда два отображения, имеющие одинаковые последовательности перемешиваний, должны быть сопряжены. Мы будем использовать обозначения из § 15.5, в особенности понятия, связанные с последовательностью перемешиваний v(f) унимодального отображения (см. определение 15.5.1).
530 Часть 3. Гл. 16. ГЛАДКИЕ ОТОБРАЖЕНИЯ Определение 16.4.1. Семейство Д: [0,1]^[0,1] (А е [а, Ь]) унимодальных отображений называется полным семейством, если для каждого унимодального отображения д: [0,1]^[0,1] существует такое число Л е[а,Ь1 что 1/(р) = 1/(/д). Теорема 16.4.2. Семейство f^^: [0,1]^[0, 1] СЛ е[а, Ь]) С^-унимодальных отображений полно, если ^'(Л) = г^'(^/ ) = (Ь О» О, О,...) и v{f^) = = г(с^) = (1, 2,0,0,...), т. е. кодировка точки возврата /„ имеет вид (1,0,6,0,...) ц кодировка точки возврата /^ —(1,2,0,0,...). Доказательство. Пусть а = (t(v) для некоторого унимодального отображения, и допустим, что а. ф o'ii'ift)) ни для какого t е [а, Ь]. Тогда aeL:={te [а, Ь] \ <т{и{/,)) ч а}, beR:={te [а, Ь] \ <т{и{/,)) у а} и [а, &] = L и Л, так что множества L и Л не могут быть открытыми одновременно. Чтобы прийти к противоречию, покажем, что множество L открыто. Если мы затем рассмотрим функцию 1 —/(1 — х) вместо /(х), то это покажет, что и R также открыто, и мы, таким образом, получим противоречие со связностью отрезка [а, 6]. Удобно ввести обозначение ^'*:=^'(/(). Если t е L и точка возврата С( отображения Д не периодическая для /(, то существует минимальное такое число п е Nq, что u^_^_^ = in*{fti^t)) Ф ^п- ^^ i ^ '^ мы имеем ^/+17^ 1 и отображение si-^//+'(cJ непрерывно, так что существует такая окрестность U с [а, Ь\ что для s^U при У < п выполнено равенство i/'(/,(cJ) = i/'(/((C()), т. е. S gL. В этой части рассуждений никак не использовалась дифференцируемость. Таким образом, остается рассмотреть случай, когда точка с, является /(-периодической с минимальным возможным периодом тг. Поскольку (/")'(С()=0, существует такое е>0, что |(/(")'(^)1 < 2 "^ отрезке [с^- е . е - е, С( + е\ и, следовательно, /"([с^ — е, с^ + е]) С с^ — j-, с^ + 2" • Кроме того, мы можем считать, что //([с^ — е, с^ + е]) П [с^ - е, с^ + е] = 0 для О < у < п. Следовательно, существует такая окрестность V точки t в [а, 6], что для S G ?7 выполнены следующие условия: (2) /Л[Се - е, с. + е\) С [с. - е, с. + е]; (3) 1//+, = 1/Д,, т. е. i/4/,(cJ)= i/4/t(Ct)), при У < п; (4) с, G [с. - е, с. + е]; (5) //([С( - е, С( + е]) П [с^ - е, с^ + е] = 0 для О < У < п. Согласно (1) и (2) отрезок [с^ — е, с^ + е] содержится в области притяжения единственной притягивающей неподвижной точки х, G [с^ — е:, с^ + е\ отображения /,". Если ж, =с,, то <T(i/') = cr(i(zJ) = сг(г(С())ч а и sGL. Таким образом, остается рассмотреть случаи х, > с, и z^ < с^. Поскольку эти случаи подобны друг другу, предположим, что х^ > с^. В этом случае /,*^(с,) G (с,, ж,) для всех fc G N, поскольку по (4) с, G [с^ - -е, С( + е] содержится в области притяжения точки ж,. Таким образом, v'^ = = ij^(cj = 2 и по (5) 1/Д„ = гД„ + ,(с,) = гД,(с^=1// для^бМо- Это значит, что если и' ч 1^*, а следовательно, s G L (как нам и надо), то мы получаем
§ 16.4. ПОЛНЫЕ СЕМЕЙСТВА УНИМОДАЛЬНЫХ ОТОБРАЖЕНИЙ 531 e„(cr(i/*))-3>e„(cr(i/'))-2, где е —такое же число, как в определении 15.5.3, и, следовательно, €^{а{и'))= 1. Если S ^ L, то поскольку а Ф cr(i/*) по предположению. Это значит (по определению 15.5.3), что существуют такие fc ^ 1 и I <п, что а.^ — i/Дj (следовательно, еу(а)= ey(cr(i/'))) для У < Ы + / и ^ibn + f Поскольку и^ =2, мы имеем e„^i(cr(i/')) = -e^(cr(i/*)) = -l; следовательно, так как последовательность и' является п-периодичной. То же верно для а вместо си\ Таким образом, = {-1ГЕ,{а{и'))и,\,={-1Ге,{а)а,. Для нечетного к тогда получается, что €i{<T'^{a))a^^i = £i{oi)a^_^_i > > е,(а)ар т. е. а Чсг*="(а), что противоречит (15.5.1). Для четного к мы получаем еД<т*="-"(а))(<т*="-"(а))^ + „ = е^(а)а^+^<еДа)а^ = еДа)а^ + „. Умножив на -1 = е„(а) = £„(сг*="~"(а)), получим £,^„(«)а,^„ < е,^Л<7^-"(а))(<7^-"(«)). + „, так что а Чсг*="~"(а), что вновь противоречит (15.5.1). Таким образом, множество L открыто, и доказательство закончено. П Следствие 16.4.3. Квадратичные отображения Д: [0,1] —^[О, 1], ж1-> Лх(1 - ж), Л G [1,4], образуют полное семейство. Упражнения 16.4.1. Покажите, что семейство тентообразных отображений (15.2.5) не полно. 16.4.2. Пусть ip: [0,1]-> [0,1]—С'-унимодальное отображение, причем maxyj = l. Покажите, что семейство узд := Ayj, А е [0,1], полно.
Часть 4 ГИПЕРБОЛИЧЕСКИЕ ДИНАМИЧЕСКИЕ СИСТЕМЫ ГЛАВА 17 ОБЗОР ПРИМЕРОВ В этой части книги мы построим систематическую теорию локально максимальных (базисных) гиперболических множеств для гладких динамических систем (см. определения 6.4.1 и 6.4.18). Мы будем исследовать и топологические, и метрические свойства сужений динамических систем на такие множества либо на их окрестности, а также и стохастические свойства различных важных инвариантных мер с носителями на локально максимальных гиперболических множествах. Этой общей структурной теории посвящены следующие три главы. Перед тем как перейти к ее изложению, мы расширим (в настоящей главе) нашу коллекцию примеров. До настоящего момента наш список примеров гиперболических множеств включал следующие основные экспонаты, равно как и их С'-возмущения, замкнутые инвариантные подмножества, объединения и прямые произведения: 1) изолированные гиперболические периодические орбиты (см. определение 6.2.1); 2) отталкивающие множества марковского типа для отображений отрезка (см. п. 2.5 б и § 16.1); 3) подковы Смейла (п. 2.5 в) и их модификации и обобщения, включая инвариантные множества, возникающие вблизи гиперболических периодических точек (§ 6.5); 4) гиперболические автоморфизмы двумерного тора и, более общим образом, п-мерного тора (§ 1.8); 5) геодезические потоки на компактных факторах гиперболической плоскости (п. 5.4 е); понятие гиперболичности для потоков будет определено в § 17.4. Некоторые из этих примеров уже были исследованы довольно подробно. Например, для гиперболического автоморфизма F^ двумерного тора, определенного матрицей L = I "7 } 1, мы установили топологическую транзитивность н плотность множества периодических точек, вычислили их количество (предложение 1.8.1), в п. 2.5 г построили марковское разбиение и, следовательно, полусопряженность с топологической цепью Маркова, доказали топологическую устойчивость и структурную устойчивость (теоремы 2.6.1 и 2.6.3 соответственно), вычислили топологическую энтропию
Часть 4. Гл. 17. ОБЗОР ПРИМЕГОВ 533 (предложение 3.2.6), установили эргодичность и перемешивание (предложение 4.2.12) н вычислили метрическую энтропию относительно меры Лебега (см. (4.4.7)) и с помощью этих фактов показали, что мера Лебега представляет предельное распределение периодических орбит (упражнение 4.4.8). Все эти результаты указывают направления анализа для более общих систем, которые будут исследоваться в последующих главах. В настоящей главе мы продолжаем пополнять наш список примеров, двигаясь в нескольких направлениях. Сначала будем искать гиперболические множества, которые являются аттракторами (см. определение 3.3.1). До сих пор все известные нам примеры такого вида, а именно сжимающиеся периодические орбиты, гиперболические автоморфизмы тора, где весь тор был аттрактором, и произведение этих двух систем, когда инвариантный тор, сужение автоморфизма на который гиперболично, притягивает все точки в своей окрестности, были достаточно просты с геометрической точки зрения. В первых двух параграфах мы опишем гораздо более замысловатые примеры гиперболических аттракторов. Далее будет описан по существу единственный (с точностью до топологического сопряжения) известный класс диффеоморфизмов Аносова, отличных от автоморфизмов тора (§ 17.3). Затем мы перенесем понятие гиперболического множества и системы Аносова на случай непрерывного времени (§ 17.4) и обсудим очень важный класс потоков Аносова, а именно геодезические потоки на компактных римановых многообразиях с отрицательной секционной кривизной. Сначала, в § 17.5, будут рассмотрены исходные двумерные примеры, которые уже встречались нам в п. 5.4 е, а затем мы перейдем к общей ситуации (§ 17.6) и в § 17.7 опишем общий класс алгебраических примеров. В заключение мы рассмотрим класс гиперболических отталкивающих множеств, которые возникают для рациональных отображений сферы Рима- на (§ 17.8). Эти множества называются множествами Жулна и несут в себе большую часть динамической сложности данного отображения. Они подобны универсальному отталкивающему множеству для отображений интервала (§ 16.1). Однако топологическая структура этих множеств может существенно отличаться от простой марковской структуры в случае интервала. В частности, эти множества позволяют строить примеры систем, топологически отличных от всех предыдущих примеров, которые локально выглядели либо как канторовские множества, либо как многообразия, либо как их произведения. § 17.1. Аттрактор Смейла Следующую конструкцию можно представить себе как обматывание резиновой ленты два раза вокруг стержня. Однако полезно заметить, что возникающее в результате преобразование не может быть представлено как непрерывная деформация в R^. Рассмотрим полноторий М = S^ х D^, где D^ — единичный круг в Е^ Определим на нем такие координаты ((/з, х, у), что (/з G 5' и (ж, у) е D^, т. е. х^ + у^ ^ 1. Используя эти координаты, введем отображение f-.M^M, f{ip, X, у) = (2<р, jqX+^ cos V5, ^2/ + 2 ^^^ '^)'
534 Часть 4. Гл. 17. ОБЗОР ПРИМЕРОВ Рис. 17.1.1. Аттрактор Смейла и его поперечное сечение Проверим, что это отображение корректно определено, т. е. /(М) С М\ (^x + ^cosv^) +(^2/+isinv5 Таким образом, на самом деле /(М) содержится во внутренности М. Покажем теперь, что отображение / инъективно. ГТредположим, /(V5p ail, y^) = f{ip2, Х2, %). Тогда < 100^10^4^ что jqX, + 2 cos (р, у^а^+2 cos(p2, (mod 27г), jQ 2/1 + 2 sin (р, jQ% + 2Sin(P2 Если ^p^ = (p2j то очевидно, что x^ = Х2 я 2/i = %. Если (pj = (pj + тг, то 1 1 1 1 1 1 10^1 + 2 *^°^ '^i ^ ТО^ ~ 2 *^°^ ^^^ ТО^' ^ 2 ^^^ '^^ та^ 1 . 2 sin (pi или Jq{^ - a:i) = cos (Pi, jq(% - 2/i) = sin (p,, что означает (a^ — ^ij)^ + (% — ?/i)^ = 100. Поскольку левая часть этого выражения ограничена числом 8, равенство невозможно. Таким образом, если мы рассмотрим произвольное сечение вида С = {в}х X D^ многообразия М, образ f{M) будет пересекать С в двух непересекающихся дисках радиуса 1/10, как показано на рис. 17.1.1 Заметим, что множество Cnf{M) может быть представлено как /(Cj)u/(C2), где С^ и Cj —два сечения. Теперь рассмотрим f^{M). Ясно, что Р{М) cf{M), но, кроме того, СС\ r\p{M)=f{C^ nf{M))uf{C2nf{M)), где множества Cj и С^ такие же, как и прежде. Таким образом, множество СП/^{М) состоит из четырех небольших дисков, по два внутри каждого из дисков /(CJ и /(Cj), как показано на рис. 17.1.1.
§ 17.1. АТТРАКТОР СМЕЙЛА 535 Образ /^(М), таким образом, обматывается вокруг М четыре раза — представьте себе, что мы обмотали наш резиновый обруч так, что каждый виток обмотался два раза. Продолжая рассматривать последовательные образы Р{М\ мы, таким образом, находим, что множество С C\f^'^^{M) состоит из 2'^' дисков, по два в каждом из дисков С П /'(М). Поскольку /(М) с М, инвариантное максимальное множество внутри М суть к\= М С\ f{M) П р{М) П ... = П f{M). Очевидно. Л — аттрактор в смысле определения 3.3.1. ^eN^ Чтобы понять топологию множества Л, рассмотрим сначала множество С пА. Оно получено с помощью канторовского процесса. Действительно, это множество, очевидным образом, замкнуто (как пересечение замкнутых множеств) и совершенно. Следовательно, Л локально гомеоморфно декар- тову произведению интервала и канторова множества. Однако глобальная структура множества Л сложнее, поскольку Л по построению связно (см. упражнение 17.1.1). Таким образом, Л представляет собой сложным образом намотанный соленоид. Предложение 17.1.1. Множество А — гиперболическое множество отображения /. Доказательство. Сначала покажем, что конусы вида инвариантны (для соответствующего у) относительно преобразования Щ^,^уГ ^w,^y)^^\,^v)^- в наших координатах Df(u, ^2, ^з) = \2и, -\и sin (р + ^Vp \п cos if + jQ^a) =• (■"'» ^u ^г)- Теперь предположим, что vf + v| < 7^'"^ и 7 ^ 3/10. Тогда {v[f + (vi,f = (-it* sin if + ^v^ + (-\u cos if + j^v. + -^n{v2 COS f-vi sin (p) ^ (5 + jqq7^ + 57) «^ ^ Таким образом, горизонтальные конусы с 7 ^ 3/10 являются 1)/-инвариант- ными. Это вычисление одновременно показывает, что вертикальные конусы с 7 ^ 10/3 инвариантны относительно ДГ~'. (Заметим, что преобразование /~^ корректно определено на образе /(М), внутренность которого является открытой окрестностью множества Л.) Чтобы получить гиперболичность с помощью условия на конусы из следствия 6.4.8, мы должны показать, что Df является растягивающим преобразованием в горизонтальных конусах и сжимающим в вертикальных конусах.
536 Часть 4. Гл. 17. ОБЗОР ПРИМЕРОВ Предположим, что vf + v| ^ 7 ■" ■ Тогда 1+7 при 7^ < 3. Таким образом, отображение Df сохраняет и растягивает горизонтальные 7-конусы для 3/10^ 7 < V^- ^ ДРУгой стороны, если vf + v| ^ ^ ti^/7^, то /1 1 \^ /1 1 \^ ^^y'{vf-^vi)+^ + ^{vf + vi)+^{v,cos^-v,sm^p)^^u' + + (т^ + ^7+4у)К + ^1)<^^Ч(^+^00^^)(^'+^^ при 7 ^ 2/5. Таким образом, отображение -D/~' сохраняет вертикальные 7-конусы для 2/5 ^ 7 ^ Ю/З, действуя на них как растягивающее преобразование. Следовательно, согласно следствию 6.4.8 Л является гиперболическим множеством. D Оказывается, что описать устойчивые многообразия в этой ситуации достаточно просто: для каждой точки {^^х^^Уо) сечение С^ = {((/з, ж, у) G еМ\(р = (fo} сжимается преобразованием / и отображается в другое сечение. Таким образом, сечения образуют инвариантное семейство подмногообразий М, которые сжимаются под действием /, следовательно, являются устойчивыми многообразиями. Неустойчивые многообразия описать в таком явном виде нельзя. Неустойчивые многообразия любой точки из Л содержатся в Л, поскольку Л по построению является максимальным инвариантным подмножеством М отображения /~', т. е. никакое подмножество М, содержащее Л в качестве собственного подмножества, не является /~'-инвариантным. Но объединение неустойчивых многообразий для всех точек р^А является /~'-инвариантным и содержит множество Л, следовательно, совпадает с Л. В заключение опишем естественную процедуру кодирования аттрактора Смейла с помощью 2-сдвига а^. Hj ^ fij i^^- (1-9-3)). Удобно заменить угловую координату (/з, определенную по модулю 27г, нормализованной координатой w = ip/2-к, определенной по модулю 1. Пусть Ло = {{w, x,y)eA\0^w^ 1/2}, Ai = {{w, x,y)eA\l/2^w^ 1}. Очевидно, Ло uAi =Л и внутренности множеств Л^ и Aj в топологии А не пересекаются. Пусть 7г: А ^ 5' — естественная проекция, 7г(«^, ж, у) = го и Е^. 5' 5' —линейное растягивающее отображение, E2{w)=2w (mod 1). Тогда, очевидно, ^^з о 7г = 7г о /, т. е. линейное растягивающее отображение Ё'з является фактором нашего отображения /, суженного на А. Определим теперь кодирование h: Hj ^ А, полагая {/1(0;)} =П Int П r*(A.J для всех UJ е ^2» аналогично (2.5.2).
§ 17.1. АТТРАКТОР СМЕЙЛА 537 Мы должны показать, что это отображение корректно определено, установив, что данное пересечение состоит в точности из одной точки. Нетрудно видеть, что множество р| f~^{A^) непусто для всех п G N H7r(Int(U /-4A..))) = Int( и ^(/-4A..))) = Int( и ^Г"(А^О) имеет диа- метр 2~"~'. Если Pi,P2^[j^ ^^^U U /"'(Л^^.)), то, поскольку р{р.) е и int( и ГЧК}.).)) для i = 1,2 и fc е Z, МЫ имеем 7г(/*(р,)) = 7г(/*(я2)) для к eZ. Полагая/-*(j?^.) = ('^**\ xf \ yf >). получаем 100* I (хр) - 4'^f + {уР - lA'^f] < (xf*) - 4'^f + (2/f*> - ф)' ^ 8 для всех fc >0 и, следовательно, р^ =Р2- Таким образом, отображение h корректно определено. Легко видеть, что отображение h сюръективно: если точка ре А, то она является образом любой такой последовательности ш{р), что р{р) G A^^^j для г G Z. Мы не можем ожидать инъективности h, как следует уже хотя бы из того, что наше кодирование связано с двоичным представлением. Так как две последовательности (..., а;_2, a;_i,0, 1, 1,1,...) и (... ..., а;_2, а;_1,1,0,0,0,...) имеют один и тот же образ, отображение h склеивает две точки в одну на множестве А:= (j <^2{{<^^^2\^i = <^j Vi,yGN}) Jfcez И ОНО инъективно лишь на дополнении П2\-А. Так как неустойчивые многообразия относительно cTj точек из Hj плотны и кодирующее отображение h непрерывно, мы получаем следующее утверждение. Предложение 17.1.2. Каждое неустойчивое многообразие отображения F плотно в Л. Упражнение 17.1.2 указывает на интересное сходство между аттрактором Смейла и автоморфизмами тора и сдвигами. Упражнения 17.1.1. Покажите, что аттрактор Смейла связен. 17.1.2. Покажите, что отображение /: Л->Л аттрактора Смейла топологически сопряжено с автоморфизмом некоторой компактной абелевой группы G (ср. с обсуждением структуры группы на Qj^f в п. 4.2 е). 17.1.3. Опишите конструкцию такого гиперболического аттрактора, что отображение / топологически сопряжено с автоморфизмом группы, даойственной к дискретной группе к-ичных. рациональных чисел {т • Л" | ттц п € Z}. 17.L4. Опишите днффеоморфное вложение полнотория в себя, которое может быть реализовано как непрерывная деформация в R^ и обладает гиперболическим аттрактором
538 Часть 4. Гл. 17. ОБЗОР ПРИМЕРОВ § 17.2. DA-отображения и аттрактор Плыкина Как отмечалось прежде, отображение, введенное при рассмотрении примера аттрактора Смейла, не может быть представлено как непрерывная деформация полнотория в R^. 'дна из возможных модификаций этого отображения состоит в том, чтобы рассмотреть преобразование полнотория в R^, соответствующее настоящему наматыванию резиновой ленты два раза вокруг некоторого цилиндрического объекта (см. упражнение 17.1.4). Однако еще интереснее получить гиперболический аттрактор для отображения, которое получается непрерывной деформацией двумерной сферы, где, как кажется на первый взгляд, совсем мало места ддя совершения сложных растяжений и изгибаний. Мы построим такой аттрактор как побочный продукт некоторой «хирургической операции», выполняемой на гиперболическом автоморфизме двумерного тора. Эта операция напоминает процедуру построения потока Черри из линейного потока на Т^. 17.2 а- DA-отображения [']. Пусть F = F^ —диффеоморфизм Аносова тора Т^, порожденный матрицей L = I . . 1. Обозначим через v" и v" нормализованные собственные векторы, соответствующие собственным значениям \^ = (3 + \Ь)/2 и Aj = Af' = (3 — л/5)/2 соответственно, и пусть е" и е' — устойчивые и неустойчивые векторные поля, полученные из v" и v' параллельными переносами. Тогда £?"(^>) = span{e"(f>)}, E'{j>)=s^an{e'(p)}, DF^e^p) = Х,еЦР{р)) и DF^e'{p) = X^e'iFip)) для всех реТ^. На круге U с центром в нуле введем координаты (z^ Х2), в которых матрица А диагонализируется, т. е. такие, что точки с координатами (zi, 0) содержатся в неустойчивом многообразии точки О н точки с координатами (О, а^) находятся в устойчивом многообразии точки 0. Тогда -FCxj, a^) = (AiZi, )<2^) на и. Для того чтобы определить новый нелинейный диффеоморфизм / на Т^, введем такую С°°-функцию ip: R~+[0,1], что . 1 1 I 1, если |t|^ п, ip{-t) = <p{t), teR; ^'{t)<0, при g<*<5' ^ii) = \ I 0, если \t ^ J. Теперь возьмем достаточно большое fc gR (насколько большое, скажем позже) и определим отображение /: Т^ —^ Т^ следующим образом: f\r'\u = ^\v\u и /(a:pa^) = F(x,,a^) + (0, (р(х,)р(а^) в Ц где д{х):= т^гг- Найдем неподвижные точки отображения /. Очевидно, I -^ b X вне множества U таких точек нет, и на множестве U уравнение (ж^, о:^) = = /(zi, 0!^) эквивалентно системе уравнений x^ =X^x^, х^ = AjO^ + (p(Xi)p(a^). Из первого уравнения следует, что Xj =0, и, таким образом, второе )фавне- ние сводится к уравнению ^2 ^+1 + 64'/^"
§ 17.2. ОА-ОТОБРАЖЕНИЯ И АТТРАКТОР ПЛЫКИНА 539 н его решения имеют вид а:^ =0, х, -х, где х таково, что <р{х) = {1 - AjXl + + b^xK Чтобы определить тип этих неподвижных точек, заметим, что ^^(-г^'г)=[{2-Х,)^р'{х,Мкх,)х, h{x,,kx,), " где /i(xi, fca^):= Л2 + (2 - A2)(/?(xi) ((/3'(fca^)fca^ + (/з(Ь^)). В частности, D/q = I f\' о ) ** ^ — неподвижная отталкивающая точка. Кроме того, где /i(x,,a^):=A2 + (p(x,V(a^). Заметим, что j^^ ^-^ и ^^^^ ^ |. так что для достаточно больших b мы имеем '/ \_ х<р'{х) , , ^ 1 - Ь^х^ ^ min (/?^ 1 ^ А В частности, D/q ={ fi \ ■ 1 Ь '^^^ ^"^о начало координат — это отталки- \^ил2 + 1/ /. Q \ вающая неподвижная точка, а также Щф^^) —\(\ \ i n'/aiu^ )* ^^^ ^^^ (/?'(*) • t <0, если 17^0,1, мы получаем и, следовательно, (О, ж") и (О, —Щ — гиперболические неподвижные точки. Заметим также, что отображение / сохраняет устойчивое многообразие точки О и что Df сохраняет устойчивое распределение Е' для F, хотя оно может и не сжимать все векторы из Е', и на самом деле оно переставляет устойчивые многообразия F таким же способом, как и отображение F. Рассмотрим теперь множество W = Р^"(0) = {ре'^\ а{р) = {0}} = U /"(С^) neN ДЛЯ достаточно малой открытой окрестности Uq точки 0. Оно открыто, а позже мы покажем, что оно также и плотно. Положим A = T^\W. Заметим, что по построению Л является аттрактором. Предложение 17.2.1. Для любого достаточно большого числа к множество А является гиперболическим множеством. Лемма 17.2.2. Существует такое Л'<1, что /i(Xi, fca^) < Л' на множестве А. Доказательство. Заметим, что достаточно показать, что h{x^^ fca:^)< < 1 на множестве Л, поскольку Л компактно. Пусть V:= {(X,, х,)еи\ h(x,, х^)^\}= U ({^i} х К.), где ^^ - = {a^|/i(a;i,a^)^l}. Заметим, что /i(Xp t) = \2-^^(x^)9'{t)^\ тогда и только тогда, когда g'it) ^ Т ?• "^зк как д' — четная функция, мы заключа- ем, что V^ является симметричным интервалом для всех х^ и, кроме того, если ж > 2/ ^ О, то (/з(ж) ^ ^(у) и У^ С V^. С другой стороны, если мы
540 Часть 4. Гл. 17. ОБЗОР ПРИМЕРОВ ПОЛОЖИМ /(xi, а^) = (/i(xi, а^), /jCxi, а^)) = (xj, а^), то /i(xi, о^) = ^(х^ х^) и /"'({^i} ^ ^') = {^i} ^ ^ (поскольку отображение / переставляет неустойчивые слои F), где интервал V' симметричен и его длина не превосходит V (поскольку /i(x[, х^) > 1). Таким образом, V' С V и, так как /(ХрО) = jPVxijO), мы заключаем, что f~^(V)c V. Кроме того, поскольку {0} xVqC'F\A, мы получаем, что {x^} х V^ СТ^\Л для всех точек x^, достаточно близких к 0. Следовательно, /""(V) С Т^\Л для некоторого числа п G N, и поэтому V с Т2\Л. П Докажем теперь предложение 17.2.1. Доказательство. Согласно лемме 17.2.1 на множестве Л диагональные элементы дифференциала Df равны \^ и функции, ограниченной сверху числом Л' < 1. Для больших к вне диагональные элементы близки к нулю, так как функция (р'{х.) ограничена и д{х2) ^ , \ д ^ ~2 • Гипер- 1-^0X2 Ь боличность множества Л может быть установлена следующим образом: если мы положим Df^ ~ { С(^ \ Н( ^) ^ выберем такое е е (О, -JAJ - 2), что ~ ту < \/l + 1/^^ ~ ^' "^о 1*^(^)1 < ^ для всех х G Л, если к достаточ- но велико. Рассмотрим теперь горизонтальные конусы вида \v\ < у и , где 7 < 7 < VfcM-1 — е < 1. Заметим, что они инвариантны относительно А. -А -D/, поскольку если мы положим {и\ v'):= Df^{% v), то v' G{x)u -\-H(x)v\ <£ u\ + A'lul <(A'7 + £)\u\ <7AJ'u| =7 u' при e<(Ai —A')7. Чтобы показать, что векторы из 7-конусов растягиваются, заметим, что \{и', v')\^ = и'^ + v'2 = Х^и^ + {G{x)u + H{x)vy ^ ^ Xfu^ + СЦх)и^ - 2\G{x)\ Н{х) \u\\v\ + НЦх)у^ ^ ^ [Af 4- СЦх) - 271 G(x)| Я(хЖ _[i_ нЦх)У + v^^ ^ [Af + СЦх) - 2у\ G{x)\ Я(х) - 7'(1 - НЦх))]и^ + v^> > [Af - £2 _ 27еЯ(х) - 7' + у^НЦх)]и^ + v^ > В последних двух неравенствах мы использовали неравенства 7 + ^ < < ve^+l и €^ < Х^ ~ 2. Аналогично можно показать, что вертикальные конусы инвариантны относительно Df~^ и что преобразование Df~^ растягивает векторы из вертикальных конусов, так что гиперболичность вытекает из следствия 6.4.8. Но поскольку, как и в предыдущем параграфе, устойчивые многообразия задаются явно, гиперболичность доказывается непосредственно, без рассмотрения вертикальных конусов. П Покажем, что множество W =Т^\Л плотно в Т^. Для этого рассмотрим ре А и любую открытую окрестность U^ точки р. Тогда существует точка g G Up„ периодическая для F. Пусть ее период равен п. Устойчивое многообразие L точки q (относительно F), таким образом, /"-инвариантно
§ 17.2. DA-ОТОБРАЖЕНИЯ И АТТРАКТОР ПЛЫКИНА 541 и плотно. Плотность множества W будет установлена, если мы найдем такое NeN, что /-^"(L')ПР^7^0, где L' =L П Up. Но такое N обязательно существует, так как иначе выполнялось бы условие L^ := U f^^^^L') СЛ и по гиперболичности /"" растягивало бы многообразие L^, следовательно, мы получили бы Lf = L. Но множество L плотно в Т^, следовательно, тогда Л = ']Р, что невозможно. Таким образом, Л — дополнение к открытому плотному множеству. Мы, таким образом, построили гиперболический аттрактор на Т^. В определенной степени соотношение между этим аттрактором и гиперболическим автоморфизмом F подобно соотношению между минимальным множеством Данжуа для нетранзитивного гомеоморфизма окружности (см. § 11.2) и соответствующим иррациональным поворотом. 17.2 б. Аттрактор Плыкина. Чтобы получить гиперболический аттрактор на 5^, положим J: Т^^ТР, J{x) = -x (mod 1), и заметим, что конструкция DA-отображения J-инвариантна, т. е. f о J = J о f. Кроме того, заметим, что (1/2,1/2) —периодическая точка /, поскольку / (1/2, 1/2) = = F (1/2,1/2) = (1/2,0), / (1/2,0) = (0,1/2) и / (О, 1/2) = (1/2,1/2). Да- лее заменим F на F^ и заметим, что отображение F^ сохраняет эти четыре неподвижных точки J; выполним теперь построение, описанное в первом пункте, одновременно в окрестности четырех неподвижных точек F^. Мы, таким образом, получим отображение /: Т^^ТР, которое коммутирует с J, имеет четыре неподвижные точки, являющиеся отталкивающими неподвижными точками, и обладает гиперболическим аттрактором Л. Заметим, что на Т^ мы имеем -a.j)=(i.^).-(i'')=(«.i).-(°4)=(''.i) Таким образом, если V;., t = 1,..., 4, — круги с центрами в точках (0,0), (1/2,1/2), (1/2,0), (о, 1/2) соответственно, содержащиеся в Т^\Л, то М = 4 = (']Р\ и V^)/(a, а,) —гладкое многообразие. Нетрудно видеть, что М пред- i~ 1 ставляет собой двумерную сферу с четырьмя дырками (упражнение 17.2.1). Поскольку /(—а:) = -/(х), мы получаем индуцированное отображение /': М —i^M, которое дифференцируемо и инъективно. Заполняя S^\M четырьмя отталкивающими точками (одной неподвижной и^ тремя периодическими точками периода три), получаем диффеоморфизм /: S^ —*■ S^ с гиперболическим аттрактором (получающимся при проектировании множества Л на М). Это и есть аттрактор Плыкина [^]. Замечание. Отображение Т^ -^ 5^, состоящее в отождествлении J-орбйт, дает пример разветвленного накрытия, т. е, отображения, которое выглядит как накрытие вне конечной совокупности точек и как отображение 21-> 2* в окрестностях этих точек. Упражнения 17.2.1. Доквжите возможность провести «хирургическую операцию», рассмотренную в п. а, одновременно в нескольких неподвижных точках линейного отображения. Обобщите эту конструкцию на случай периодических орбит.
542 Часть 4. Гл. 17. ОБЗОР ПРИМЕГОВ 17.2.2. Проверьте, что если V^, i = 1, 2,3, 4, — такие же множества, как и выше, то множество м:= (лД v;l является даумериой сферой с четырьмя дырками. 17.2.3. С помощью упражнения 17.2.1 получите отображение сферы 5^ с гиперболическим аттрактором, начиная с F вместо F . 17.2.4*. Используя то обстоятельство, что каждая поверхность положительного рода является разветвленным накрытием над тором, опишите для любой такой поверхности построение такого диффеоморфизма /, что множество NW{f) состоит из гиперболического аттрактора и конечного числа неподаижных точек. § 17.3. Растягивающие отображения и автоморфизмы Аносова на нильмногообразиях До сих пор единственными примерами диффеоморфизмов Аносова (определение 6.4.2), с которыми мы встречались, были гиперболические автоморфизмы п-мерного тора (§1.8) и их возмущения, которые в силу теоремы 2.6.3 и упражнения 2.6.1 топологически сопряжены с линейными моделями. Как уже упоминалось в п. 6.4 а, диффеоморфизмы Аносова являются достаточно специальными объектами. Например, в предложениях 8.6.2 и 8.6.4 устанавливаются топологические ограничения на многообразия, допускающие диффеоморфизм Аносова. Теперь перейдем к описанию по существу единственной известной конструкции диффеоморфизмов Аносова, которые топологически не сопряжены ни с каким автоморфизмом тора. Идея этой конструкции, принадлежащая Смейлу, состоит в том, чтобы представлять себе автоморфизмы тора как факторы автоморфизмов рднос- вязных абелевых групп Ли R" и искать другие (неабелевы) группы Ли, для которых можно провести подобную конструкцию. Оказывается, единственными неабелевыми группами Ли, допускающими гиперболические автоморфизмы, являются нильпотентные группы Ли. (См. § П 8.) При последующем обсуждении полезно постоянно иметь в виду хорошо понятый случай автоморфизмов тора. Предположим, что G — односвязная группа Ли и что Г — такая дискретная подгруппа группы G, что фактор t\G компактен. Такая подгруппа называется (равномерной) решеткой. Эквивалентным образом, можно найти компактную фундаментальную область для действия Г на G левыми сдвигами. Предположим, что F: G—^ G — такой автоморфизм, что ^(Г) = Г (следовательно, F проектируется на T\G) и отображение t>F\^^ гиперболично. По следствию 1.2.6 существуют такое разложение алгебры C{G)=T^^G = E-^®E- и такая норма на £((?), что DF-\^ и DF\e- являются сжимающими отображениями. Именно существование такого гиперболического автоморфизма алгебры Ли приводит к нильпотентности G. Для g^G соответствующее разложение и норма получаются путем применения дифференциала левого сдвига х ь-► дх. Таким образом, мы получаем разложение, которое является гиперболическим для F. По построению это разложение и эта норма инвариантны относительно левых сдвигов, так что они индуцируют разложение и норму на компактном факторе Г\С Факторотоб- ражение /: i\G -^Y\G автоморфизма F тогда является диффеоморфизмом Аносова.
§ 17.3. РАСТЯГИВАЮЩИЕ ОТОБРАЖЕНИЯ И АВТОМОРФИЗМЫ АНОСОВА 543 В более общей ситуации, когда ^(Г)сГ, мы все еще получаем отображение на факторе T\G, которое, однако, не взаимно однозначно. Подчеркнем, что в отличие от абелева случая группа Г не является нормальной подгруппой, так что фактор, который называется нильмногообразием, не обладает структурой группы. Приведем два примера этой конструкции. Сначала рассмотрим группу Гейзенберга \ X Z Я:= {[о \ у О О 1 x,y,zeR с обычным умножением матриц, т. е. с умножением, которое в координатах ж, 2/, -г задается формулой \ О Z Однопараметрическая подгруппа I О 1 О 1 является центром группы Н. О О 1, Таким образом, Н — трехмерная, односвязная, неабелева нильпотентная группа. Очевидная решетка в ней — решетка целочисленных матриц. Алгебра Ли группы Н имеет вид £(Я) 0 0 0 X 0 0 Z У 0 x,y,zeR и Z О 1 0\ /0 0 0 с естественными образующими Х = (0 О О], У=|0 О 1 О О 1\ \0 О О/ \0 О О О О О |. Скобки Ли определяются единственным нетривиальным со- 0 0 0 отношением [X, У] = Z. Для того чтобы получить растягивающее отображение на Я, рассмотрим отображение вида ' Л X z\\ /1 2х 4z F \ [ О 1 у=0 1 2у _о О 1// Vo О 1 Легко видеть, что F — автоморфизм группы, который переводит решетку Н^ в себя. Таким образом, F индуцирует отображение / на факторе Щ\Н, Это отображение /, однако, не обратимо, подобно растягивающим отображениям окружности. Кроме того, никакой автоморфизм группы Я, который взаимно однозначен на Я^, не гиперболичен, поскольку такой автоморфизм А должен сохранять центр Z(H) группы Н и, следовательно, пересечение 1 О 1\ /1 О ±Г Z(H)nH7, откуда следует, что А 1 О 1 О = О 1 О 1 и, таким О О 1 / \,0 О 1 образом, DA{Z) = ±Z. Можно показать, что никакой гиперболический автоморфизм группы Я не может сохранять никакую равномерную решетку (см. упражнение 17.3.4). Таким образом, подобно абелевому случаю, когда для того, чтобы получить обратимое гиперболическое отображение, необходимо перейти к тору, в нашем случае, чтобы получить обратимое гиперболическое отображение на соответствующем компактном факторе, нужно
544 ПРИМЕРОВ рассмотреть нильпотентную группу Ли более высокой размерности, например произведение групп Гейзенберга. Чтобы уяснить смысл последующей конструкции, дадим интерпретацию стандартного гиперболического автоморфизма Т^, несколько необычную с геометрической точки зрения, но совершенно естественную с точки зрения алгебраической теории чисел. Собственные значения Л^ = —g— и Aj = -~2— — ^i^ являются единицами алгебраического поля К:= Q(\/5) = {а-\- bVs | а, Ь € Q}, которое представляет собой квадратичное расширение поля Q рациональных чисел. Это поле обладает единственным нетривиальным автоморфизмом о-, который переставляет собственные значения, а именно <j(a-\- bVb) = а~ ЬуЪ для а, Ь € Q. Матрица L := \ л | 1 действует на пространстве К^ и может быть диагонализирована над К. В координатах этого собственного базиса данное отображение имеет вид L{x^^ ^ = (^\^\t ^2^^ ^ векторы вида (/х,^(/х)), (17.3.1) где /г — алгебраические целые числа в К, образуют решетку, инвариантную относительно L. Это очевидно, потому что существуют два линейно независимых вектора вида (17.3.1), соответствующих /г = 1 и /г = \/5, и существует лишь конечное множество векторов вида (17.3.1), евклидова норма которых ограничена данной константой. Эта решетка отличается от стандартной решетки целых чисел, которая также сохраняется под действием L. Например, она порождается векторами (17.3.1), соответствующими /Zj = 1 и//2=(1+\/5)/2, В этом базисе автоморфизм К^ представляется той же 2 1 самой матрицей i . . Теперь пусть G представляет собой произведение Н х Н с такими образующими Xi, 1^, Zt, Х2,1^, Z2, что [Х.^ Y^ = Zi и все другие скобки образующих обращаются в нуль. Алгебра Ли G имеет вид '^(^) = {(о 1)\а,В€С{Н)}. Пусть Г — подгруппа группы G вида expj^j 7. где ехр^ :£(G)—>G H7C£(G) имеет вид 7 А €С(Н) а элементы А —алгебраические целые поляК|, где <j(A).^ <j(Aij). Подобно абелевому случаю можно показать, что Г — решетка. Теперь определим два автоморфизма алгебры Ли //, Д на С(0) по формулам Л'(Х,) = А,Х„ /[{¥,) = X!Y„ f[{Z,)^\\Z,, /24-^2) = ^\ -^25 /гС^) = -^1 ^» /24-^2) = ^\^2'
§ 17.3. РАСТЯГИВАЮЩИЕ ОТОБРАЖЕНИЯ И АВТОМОРФИЗМЫ АНОСОВА 545 Тогда для каждого г е {1?2} существует единственный такой автоморфизм F^: G^^G, что DF^\^^=fl. Поскольку At и Х^—единицы поля К, т. е. целые числа, обратные к которым тоже являются целыми, и (т(\х) = Аз, мы также получаем, что i^(r) = r, г = 1,2. Таким образом, автоморфизмы F^ проектируются в диффеоморфизмы Аносова фактора Г\С Упражнения 17.3.1. Опишите все такие гаперболические автоморфизмы группы Гейзенберга Н, что 17.3.2. Пусть G — группа Ли, х — мера Хаара и Г — равномерная решетка. Покажите, что если F: G-^ G —такой автоморфизм, что F(Y) = Г, то F^x = ^Х- 17.3.3. Покажите, что любая мера Хаара на группе Гейзенберга пропорциональна элементу объема dxdy dz. 17.3.4. Предположим, что F — такой автоморфизм группы Гейзенберга Я, что F(T) — Г для некоторой равномерной решетки Г. Покажите, что 1 или —1 является собственным значением дифференциала DF\i^. § 17.4. Определения и основные свойства гиперболических множеств для потоков В этом параграфе мы переформулируем ддя случая потоков основы гиперболической теории, разработанной в §§ 6.2 и 6.4 для динамических систем с дискретным временем. При этом мы получим во многом аналогичную теорию, и большую часть основных результатов можно будет вывести как простое следствие результатов гл. 6. С другой стороны, в конце этого параграфа мы встретимся с явлением, специфическим для потоков, — с заменой времени (ср. с § 2.2), — однако будет показано, что замены времени не влияют на гиперболичность. Определение 17.4.1. Пусть М — гладкое многообразие, ip: RxM —> М — гладкий поток и Л с М — компактное (/з^-инвариантное множество. Множество Л называется гиперболическим множеством для потока (/?*, если существуют такая риманова метрика на открытой окрестности U множества Л и такие числа Л, /г, Л < 1 < /г, что для всех а; € Л найдется такое разложение Т^М = El® Е^ ®Е;. что j^l =^^'(^) ^ Е^\{^}, &\тЕ^^ = \. Dip'E^^E^ и Определение 17.4.2. С^-поток (/?*: М-^М на компактном многообразии М называется потоком Аносова, если М — гиперболическое множество потока ip\ Следующая теорема — теорема об устойчивом и неустойчивом многообразиях для потоков — представляет собой аналог теоремы 6.4.9. Теорема 17.4.3. Пусть Л — гиперболическое множество С -потока <р*: М-^М, r€N, Xi^—такие же числа, как в определении 17.4.1, U *о > 0. Тогда для каждого хе А существует пара таких вложенных С-дисков W'(x), W"(a;), называемых локальным сильно устойчивым многообразием и локальным сильно неустойчивым многообразием точки X соответственно, что
546 Часть 4. Гл. 17. ОБЗОР ПРИМЕРОВ (П T,W'(x) = E- TW\x) = E:; (2) ip'(W'(x)) czW'(ip'(x)) и ip-^(W(x)) с Wiip-'ix)) для t ^ to; (3) для каждого 5 >0 существует такое С(5), что dist(ip'(x),ip'(y))<C(5)(X-\-5ydist(x,y) дляу€]¥'(х), t>0, 6isi(ip-'(x),ip-'(y))<C(S)(ii- 6)-' disi(x,y) дляу€^(х), t>0; (4) существует непрерывное семейство U^ таких окрестностей х €: К^ что W'(x) = {y\^^{y)eU^.^,^, t >0, dist(v^4^), ^42/)) ^-^0}, f-too Доказательство. Как было отмечено перед формулировкой теоремы 6.4.9, мы можем перейти к локальным координатам и использовать теорему Адамара — Перрона 6.2.8. Обозначим отображение сдвига за время t, через (/3*0. Заметим, что, хотя отображение <р*° не гиперболическое (Dip^ обладает собственным значением 1 с соответствующим собственным пространством Е^), мы можем представить Т,М = (Е^ ^ Е^) ® Е~ и, используя локализацию в координатах, применить теорему 6.2.8 с /г = 1. Это доказывает существование многообразия W'(x)j удовлетворяющего условиям (1)-(4) для t eNtj). Поскольку Т,М = (Е^ ® Е~)® Е^, применение теоремы 6.2.8 с Л = 1 доказывает существование многообразия PF"(a;), удовлетворяющего условиям (1)-(4) с —t € Nto- Заметим теперь, что условие (4) сохраняется для положительных кратных *о тогда и только тогда, когда оно выполняется для действительных t. Если условие (3) выполнено для tsNtg, оно очевидным образом выполнено для всех t >0 (для соответствующим образом измененной константы С(5)), поскольку отображения W*}t&[Q*] равностепенно непрерывны и многообразие М компактно. В заключение, чтобы установить С-гладкость многообразий, заметим, что доказательство С-гладкости из теоремы 6.2.8, как было отмечено, проходит в нашей ситуации. Теорема доказана. D Замечание. Соблюдая определенную осторожность, можно заменить предположение t ^ tQ из условия (2) на предположение t >0. Множества W'(x):= и <p-'(W'(^'(x))), W''(x):= [j v^4^"(v^"4^)))> (17-4Л) определяемые независимо от выбора локальных устойчивого и неустойчивого многообразий, являются гладко погруженными многообразиями. Они называются глобальными сильно устойчивым и сильно неустойчивым многообразиями и могут быть охарактеризованы следующим образом: W\x) = {уеМ\ dist(ip'(x), ip'(y)) —* 0}, ( -юо W"(x) = {у€М\dist{ip-'{x), ip-'iy)) -^ 0} оо Многообразия W^'(x):= и ¥>'(W(x)) и ^^(х):= \J ip^i^ix)) (17.4.2)
§ 17.4. ОПРЕДЕЛЕНИЯ И СВОЙСТВА ГРШЕРБОЛИЧЕСКИХ МНОЖЕСТВ 547 называются слабым устойчивым и слабым неустойчивым многообразиями точки X. Отметим, что T^W^' = Е^ ф Е- и %W^ = Е^ ф S+. Чтобы установить гиперболичность в примерах из §§ 17.1 и 17.2, мы использовали критерий конусов, приведенный в следствии 6.4.8. Аналогичный критерий для потоков имеет следующий вид. Предложение 17.4.4. Компактное ^^-инвариантноемножество АсМ гиперболично, если существуют такие константы X, /г, Л < 1 </г, что для всеххеА имеется такое разложение T^M=E^®S^®T^ (вооби^е говоря, не Dip^-инвариантное), такое семейство горизонтальных конусов H^dS^, связанных с разложением S^®(E^® 2^), и такое семейство вертикальных конусов У^ Э %, связанных с разложением (З^ФЕ^)^ 2^, что для t >0 выполнены условия D^'H^ С Int Я^.(,,, D^-^ К с Int У^..(,,, Замечание. Требование существования распределений 5 и Т используется лишь как удобный способ выражения того факта, что конусы являются «дополнительными». Следовательно, в приложениях мы будем просто предъявлять инвариантные семейства конусов. Доказательство. Применяя предложение 6.2.12 к Dip^ один раз с Л' = 1 и один раз с /л' = 1, получим распределения Е'^ и Е~. Тогда из условий предложения следует, что эти распределения в точности такие, как в определении гиперболичности множества Л для </?*. D Можно доказать аналог леммы Аносова о замыкании для потоков, используя отображения Пуанкаре одной трансверсали к псевдоорбите в другую (см. упражнение 17.4.2). Этот же результат можно получить другим способом, из теоремы об е-траекториях для потоков 18.1.7. В заключение этого параграфа сделаем несколько замечаний относительно замен времени. Замены времени в общей ситуации обсуждались в § 2.2. Предложение 17.4.5. Пусть Л — гиперболическое множество для потока ip\ Если ф^ —поток, полученный заменой времени из потока (/?*, то множество А является гиперболическим и для ф\ Доказательство. Положим ip^(x) = ip°'^^''\x), как в § 2.2, и заметим, что а(0, •)=0. Аналогично тому, как это делалось при выводе теоремы 6.4.9 из теоремы Адамара — Перрона 6.2.8, мы введем для каждого х€А локальные координаты х = (х^, ж", х') с центрами в х, ассоциированные с разложением Т^М = Е^ Ф Е;^ ф Е', так что в этих координатах 1 О О D(p'(0)=\ О А, О О О В, Положим \\В^\\ ^ Л' < 1 и 11^7^11 ^/i"' < 1. Заметим, что в этих координатах 1 a^.(t,x) a^,(t,x) \ О О В.. 18* "{*,»)
548 Часть 4. Гл. 17. ОБЗОР ПРИМЕРОВ где (x^u(t, х) и a^s(t,x) — частные производные функции а по ж" и х" соответственно. В силу компактности Л мы можем выбрать в качестве их верхней границы Kt>0 при t >0. Чтобы доказать гиперболичность ib^, используем предложение 17.4.4. Прежде всего представим векторы из Т^А = = -S°е Е;^ е Е;; как (и, v, w), где ueE^, '^^Щ> ^ ^ ^:Г. полагая где достаточно малое е > О будет определено позднее. Проверим теперь для 7 < л/м^ — 1. является ли 7-конус вида e4uf + \\wf^^4v^^^ i>0*-инвариантным для t €[0, 1]. Считая, что е достаточно мало, мы можем полагать, что К2*2е2 + л2"(''-) ^ 1 для i €[0,1]. Если {и\ v\ w') = 1>ф * (и, V, w), то ^e^{\\u\\+Kt\\v\\+Kt\\w\\y+X^^<'^-^\\wf = e^^^ + 52Kt(Kt||vr+2||t.||||4l+2||n||H||+2i^t||4|||«;||)^ = 7'(l+^(ei^t(l+27) + 27(l+7)))ll^f <7V'"^''^>||^P^7'II^'II для достаточно малого e >0 и t €(0, 11. Таким образом, 7-конусы действительно являются V'*-инвариантными. Чтобы показать, что векторы из 7-ко- нусов растягиваются, заметим, что e^Jti'lp + ||гу'|р > 5"^*'=^'(e^||'u|p + ||«^|р) для некоторого 5 > О, и выберем 7 > О настолько малым, что ^i:;y >г}' (17.4.3) для некоторого г/ > 1 и всех ^ > 0. Тогда в случае, если е^Ц^лЦ^ + ||«;|р ^, ^ 7^1к1р. мы имеем > ,,"{'.x)(g2||y ||2 + ||^||2) ^ (5a{t,x) _ ^a{,,x))(g2||y ||2 ^ || ^||2) + ^^2a{i,x)||^||2 ^ > ^"{'.^)(e2||y ||2 + ||^|j2) + [(5a{.,x) _ ^a{,,x))^2 ц. ^2a{t,x)J||^||2 ^ ^^a(,x,(g2||^||2 + ||^||2+||^||2)^ где последнее неравенство следует из (17.4.3). Так как ф'^ —замена времени для потока ip~\ существует соответствующее семейство конусов для ф'^ и, таким образом, результат следует из предложения 17.4.4. D
§ 17.4. ОПРЕДЕЛЕНИЯ И СВОЙСТВА ГРШЕРЮЛИЧЕСКИХ МНОЖЕСТВ 549 Упражнения 17.4.1. Выведите тот факт, что устойчивое и неустойчивое многообразия из теоремы 17.4.3 являются С-гладкими, непосредственно из теоремы Адамара — Перрона 6.2.8, рассматривая гладкие трансверсали к орбитам и семейство отображений между трансверсалями. 17.4.2. Сформулируйте и докажите аналог леммы Аносова о замыкании для потоков с использованием отображений возвращения. § 17.5. Геодезические потоки на поверхностях постоянной отрицательной кривизны В п. 5.4 е были установлены некоторые свойства геодезических потоков на компактных факторах гиперболической плоскости, характерные для систем с гиперболическим поведением, а именно плотность периодических орбит, топологическая транзитивность и эргодичность относительно гладких инвариантных мер. Теперь мы хотим показать, что геодезический поток на компактном факторе гиперболической плоскости является потоком Аносова. Будем использовать обозначения из § 5.4. Рассмотрим геодезический поток на компактном факторе г полуплоскости Н, т. е. геодезический поток на поверхности т, полученной в результате факторизации Н по такой дискретной группе изометрий без неподвижных точек Г, что фактор Г\Н компактен: так как пространство т локально изометрично Н, мы получаем, используя предложение 5.4.13 и компактность т, следующую теорему. Теорема 17.5.1. Геодезический поток на г является потоком Аносова. Несколько иную точку зрения на геодезический поток на единичном касательном расслоении ЗШ дает следующая алгебраическая интерпретация: если PSL(2, R) := GL+(2, М)/кегу,. где V' ( ^ d) ~ преобразование Мёбиуса 21-+ ^^х^, то группа PSL(2, Е) изоморфна М посредством естественного отображения PSL(2, R)—>jM, индуцированного преобразованием ф. Поскольку для любых v,we ЗШ существует единственный такой элемент Тем, что (DT)(v) = W, мы можем отождествить ЗШ с PSL(2, R), следующим образом. Положим VQ = i € З^Ш: ip: 5e-^PSL(2,E), D [ф(^(v))) (v^)^v. (17.5.1) Точнее говоря, будем рассматривать группу PSL(2, R) как 3L{2, R)/±id. где 5i(2, R) — группа (2 х 2)-матриц с определителем, равным единице. Тогда можно представлять себе преобразования из М как матрицы из 5jD(2, R). Преобразования Мёбиуса, поднятые на ЗШ, соответствуют умножениям слева на элементы PSL(2, R). Классификация преобразований Мёбиуса как эллиптических, параболических и гиперболических, упомянутая в п. 5.4 в, соответствует классификации матриц по абсолютному значению Т их следа: Т < 2 для эллиптических, Т = 2 для параболических и Т > 2 для гиперболических преобразований. Для того чтобы описать саму полуплоскость Ш на том же алгебраическом языке, заметим, что данная точка р представляет собой образ г относительно множества изометрий, но любые две из этих изометрий отличаются на
550 Часть 4. Гл. 17. ОБЗОР ПРИМЕРОВ некоторую изометрию, сохраняющую г. Таким образом, плоскость Ш отождествляется с фактором PSL(2, Щ/К, где К — стационарная подгруппа I = i, т. е. компактная группа, состоящая из таких матриц А € PSL(2, R), что i^iA) сохраняет элемент г. Риманова метрика на Н, таким образом, соответствует левоинвариантной метрике на PSL(5, R), которая является правоинвариантной относительно К. Для дальнейшего изложения полезно также отметить, что К — максимальная компактная подгруппа. Чтобы это доказать, допустим, что L — подгруппа, содержащая ли некоторое преобразование 'у f К. Тогда либо преобразование 7 незллиптично и, следовательно, его итерации не содержатся ни в какой компактной подгруппе, либо 7 — эллиптическое преобразование с неподвижной точкой, отличной от г. Тогда рассмотрим точку О на границе Н. Поскольку действие К на границе транзитивно, существует такой элемент д € К, что ^(0) = 0 Так как gj Ф^Ы, преобразование Р7 неэллиптично и его итерации не содержатся ни в какой компактной подгруппе. Теперь рассмотрим две интересные однопараметрические подгруппы, действующие справа. Примеры. 1. Если V, = ге' € S^M, то ip(v,) = G, = [ ^ ^_^/2 2. Если v,=i€S,^.M, то ip(v,) = H,^l ^ ^ В отношении первого примера заметим, что v^ =5*^0» "^^^ ^"^^ ^(я^'^о) = (/3(Vj) = G(. Итак, если мы положим"^(7;):= D {^{<^{v))) и вспомним, что д^ коммутирует с дифференциалами изометрий, то получим ^р{дЧ) = ip(g''<p(v)vQ) = ^{}р{у)дЧ^) = ^р(Щу)Щд'Vq)vq) = Это показывает, что действие группы {СЛ^^^ умножениями справа на PSL(2, R) представляет собой геодезический поток (17,5.1). Что касается второго примера, отметим, что Н^ =(p{v^) параметризует устойчивое многообразие точки Id. Помимо геометрических соображений это следует из того, что траектории геодезического потока и сближаются при t -^ оо. Действие группы {Н^}^^^ справа называют орициклическим потоком. Геометрически его можно выразить так: касательный вектор v к геодезической 7 движется с единичной скоростью по орициклу, определенному точкой 7(—оо) (где геодезическая натурально параметризована), оставаясь ортогональным к нему. В § 7 настоящей главы будет показано, что и геометрическую, и алгебраическую интерпретации геодезического потока на поверхностях постоянной
§ 17.5. ГЕОДЕЗИЧЕСКИ ПОТОКИ НА ПОВЕРХНОСТЯХ 551 отрицательной кривизны можно естественным образом обобщить, что даст возможность получить интересные примеры геодезических потоков Аносова на многообразиях более высоких размерностей. Упражнения 17.5.1. Дайте геометрическую интерпретацию в терминах единичного касательного расслоения действия иа PSL(2, R) умножением справа следующих однопараметрических групп: /1\ ( ^ 0^ /о\ ( cost sin t \ /Qv f cht sh 17.5.2. Рассмотрим действие однопараметрической подгруппы на Г\ PSL(2, R) умножением справа. Докажите, что оно гладко сопряжено с точностью до постоянной репараметризацин с геодезическим потоком, орициклическим потоком либо действием (2) из предыдущего упражнения на V'\ PSL(2, R) для некоторой другой решетки Г'. § 17.6. Геодезические потоки на компактных римановых многообразиях отрицательной секционной кривизны Теперь мы перейдем от детального и весьма непосредственного описания геометрии и динамики геодезического потока на гиперболической плоскости и ее компактных факторах к обсуждению геодезических потоков на произвольных компактных римановых многообразиях отрицательной секционной кривизны. Главная цель этого параграфа состоит в том, чтобы показать, что эти потоки являются потоками Аносова. Напомним, что геодезические потоки в общей ситуации рассматривались в §§ 5.3 (определение 5.3.4) и 9.5. Сначала сформулируем несколько результатов, касающихся кривизны, в форме, удобной для наших целей. Пусть М — компактное риманово многообразие. Обозначим через ТМ касательное расслоение, через SM:= {ve € ТМ I ll^ll = 1} — единичное касательное расслоение и через R — тензор кривизны (см. § П 4). Тогда для и, v,w^x€ Т^М мы имеем R(u, и) = 0 и {Я{щ v)w^ х) = (Л(щ х)% v). Если переменные гл, v независимы, то выражение {R(u,v)u,v) (17.6.1) {и, и) {v, v) ~ {и, v)^ зависит только от двумерной плоскости 5, натянутой на векторы и и v, и называется секционной кривизной двумерной плоскости S с Т^М. Она равна гауссовой кривизне в точке р двумерного многообразия ехрр S относительно римановой метрики, индуцированной с М. Мы будем рассматривать только ситуации, когда эта величина всюду отрицательна и, следовательно, в силу компактности ограничена сверху числом — А: < 0. Поля Якоби У: 11-+ Y(t)€ Z^(()A/", определенные вдоль геодезической 7: М —> М, получаются как решения уравнения Якоби Y(t)-\-K(t)Y(t)=0, где точки обозначают дифференцирование по t и K(t):= R('j(t)^ •)7(*)-
552 ПРИМЕРОВ Касательное полеЯкоби имеет вид y(t)=f(t)i(t), где f(t)=0 (поскольку 7(*) = 0 и K(t)'y(t)=0), и, следовательно, оно линейно по времени. С другой стороны, проекция У^ на кривую 7 любого поля Якоби Y имеет ту же самую форму cf(t) = {Y(t), i(t)). Но /= (У", i) = ~(Ki, Y) =0, и, таким образом, касательная проекция У"^ поля Y является полем Якоби. В силу линейности уравнений Якоби то же верно для компоненты У-"- := Y—Y"^, ортогональной к j. Интерес к полям Якоби объясняется тем фактом, что они возникают в результате варьирования геодезических, что приводит к тому, что поведение полей Якоби в известном смысле отражает динамику геодезического потока. Для р € М, V € ТрМ обозначим через % такую геодезическую, что %(0) = = Р> 7«(0) = V. Тогда существуют такие изоморфизмы что где Y — поле Якоби вдоль % с У(0) = а; и У(0) = х'. Это позволяет нам описывать динамику геодезического потока в терминах поведения полей Якоби и говорить о действии потока д^ (или, скорее, Dg*') на поля Якоби. Два линейно независимых касательных поля Якоби линейного роста соответствуют аффинной замене параметризации геодезической, т. е. сдвигам начальной точки и однородным заменам скорости движения. Первые замены соответствуют направлению геодезического потока в единичном касательном расслоении SM\ вторые трансверсальны к SM. Таким образом, чтобы установить, что геодезический поток в SM является потоком Аносова, достаточно показать, что пространство ортогональньис полей Якоби допускает разложение на экспоненциально сжимающееся и экспоненциально растягивающееся инвариантные подпространства. Для изучения ортогональных полей Якоби достаточно знать, что они являются решениями уравнения Якоби Y-\-KY = 0 с отрицательно определенным симметрическим оператором К и что из наших условий на кривизну и из компактности следует существование таких чисел fc, X >0, что (KY, Y) ^ ~k{Y, Г), если Y±i, и притом {KY, KY) < -^ для всех Y € SM. В качестве —к^ может использоваться любое число, ограничивающее секционную кривизну сверху. Чтобы установить гиперболичность геодезического потока, рассмотрим следующую норму на 2^Ме Т^М: \\и, v\\ := у/{и, и)-\-£{v, v) для u^v € ТрМ и некоторого е < 1/х и заметим, что неравенство (1^ У)/||К ^Р ^ ^ задает конус в смысле определения 6.2.9. Лемма 17.6.1. Для 6 < ^чт? семейство конусов С., задаваемое условием строго инвариантно \\Y,Y\\
§ 17.6. ГЕОДЕЗРШЕСКИЕ ПОТОКИ НА КОМПАКТНЫХ МНОГООБРАЗИЯХ 553 Доказательство этой леммы упрощается, если положить 5 =0, но позднее, чтобы получить растяжение внутри этого семейства конусов, нам также потребуются положительные значения 6. Доказательство. Достаточно показать, что величина -jr ^ '. L (Y Y) 11^ ^11 положительна при .. ' -U = ^■ Для этого заметим, что для а, Ь € R мы имеем a-f6& ^ 2~Л' поскольку о^ + 2еаЬ + е^Ь^ ^ 4еаЬ и, следовательно, а+ еЬ ^ 2л/?л/^. Кроме того, -^^ = А: (l + ^|^) ^ min (fc, j) = fc. Таким образом, Теперь, применяя неравенство Коши и полагая ^ ' . j^g = 5 < 1/2, получаем II ^7 ^ II d {Y,Y) __({Y,Y) + {Y,Y))\\XYf -ЧХУШУ,У) + ^{У,У)) _ dt\\Y,Yf WXYf (У,Г)-(Ю;У) {XY) {Y - eKY,Y) ^ XYf WXYf \\Y,Yf " > {Y,Y) + k{Y,Y) g, /(УГ) (Ю;У) > J{KY, KY)(У, y>\ / - JlY,Y){Y,Y) >fc-25 (5 + ^)>fc-5(l+^)>0. П Выберем 5 в лемме 17.6.1 независимо от е < 1/х и затем положим е < < 4x2^2 и (У; Г) е С,. Тогда it . _ КУЦ WXYf wxyf ^\\y^yf ^{KY,KY)^Y,Y) e^^m^)^, V?, p Тем самым доказано, что поля Якоби в Q растягиваются с экспоненциальной скоростью. Строго инвариантные и растягивающиеся при отрицательном времени конусы несложно построить непосредственно, но еще проще заметить, что их существование следует из того факта, что по определению Таким образом, мы можем, используя предложение 17.4.4, сделать следующее заключение.
554 Часть 4. Гл. 17. ОБЗОР ПРИМЕГОВ Теорема 17.6.2. Геодезический поток на компактном римановом многообразии отрицательной секционной кривизны является потоком Аносова. По теореме Адамара — Перрона 17.4.3 существуют устойчивое и неустойчивое многообразия, проходящие через каждую точку v€SM. В заключение этого параграфа мы приведем их геометрическое описание. В процессе нашего рассуждения очень полезно постоянно иметь в виду соображения, использованные для поверхностей постоянной отрицательной кривизны в конце п. 5.4 г и в предыдущем параграфе. Перейдем к рассмотрению универсального накрывающего М многообразия М, которое диффеоморфно R'* (упражнение 17.6.3). Начнем с неустойчивых многообразии. Зафиксируем V € SM, и пусть By := {7(0) I 7 —геодезическая, 7(~^) = 7«(-^)} и W^:= {7(0) I 7 — геодезическая, 'у(-Т) = х(-Т)} — внешние единичные нормальные векторы к В^. Тогда W^ является гладким подмногообразием SM размерности п— 1, где n = dimM. Рассмотрим произвольную кривую в W^. Свяжем с соответствующей вариацией геодезической такое поле Якоби У, что У(—Т) = 0. Тогда если УфО, то {Y(t),Y(t)) > О для t>-T, поскольку У(-Т)фО и Y(t-T) = = tY(-T)-\-o(t), откуда следует, что {Y(t - Т), Y(t - Т)) >0 для малых положительных значений t. Но мы показали, что тогда это условие должно выполняться для всех t >0. Тем самым доказано, что каждый вектор, касательный к W^, содержится в конусе из инвариантного семейства. Как было отмечено при доказательстве теоремы Адамара — Перрона, это означает, что при Т —юо многообразия Wy сходятся к многообразию W"(v), которое является гладким (п — 1)-мерным подмногообразием SM. Так как проекция тг: SM ^^ М является гладкой, сферы В^ сходятся к гладкому подмногообразию В^, называемому орисферой (что означает «предельная сфера»). Многообразие W'*(v) состоит из направленных наружу единичных нормалей к В^, и оно само по себе может быть описано следующим образом: И^"(и) = {7(0) I 7—геодезическая, d('y(t),'y„(t)) —> 0}. f-*-oo Упражнения 17.6.1. Пусть М — т-мерное риманово многообразие с отрицательной секционной кривизной, ограниченной снизу числом —К^ и сверху —к^. Докажите, что скорость роста объема v{M)j введенная в определении 9.6.5, удовлетворяет неравенствам к ^ v(M)/{m — 1)^К. 17.6.2. Докажите, что фундаментальная группа 7rt(iVf) компактного многообразия, допускающего метрику отрицательной секционной кривизны, растет экспоненциально, т. е. для любой конечной системы Г образующих 7Г|(М) число элементов 7 G 7i"t(iW), которые могут быть представлены словами длины, не превосходящей п, растет с ростом п экспоненциально. 17.6.3. Докажите, что универсальное накрывающее многообразия отрицательной секционной кривизны диффеоморфно евкладову пространству. 17.6.4. Докажите, что все геодезические на многообразии отрицательной секционной кривизны минимальны (см. определение 9.6.1).
§ 17.7. ГЕОДЕЗИЧЕСКИЕ ПОТОКИ НА СИЛ^МЕТРИЧЕСКИХ ПРОСТРАНСТВАХ 555 § 17.7. Геодезические потоки на симметрических пространствах ранга один Важный класс многообразий отрицательной кривизны получается с помощью алгебраической конструкции, которая обобщает алгебраическое описание поверхностей постоянной отрицательной кривизны из § 5. Геометрическое свойство, которое дает нам возможность описывать геодезический поток на сфере, торе и гиперболической плоскости, — наличие группы изометрий, действующей транзитивно на единичных касательных векторах (лемма 5.4.1). Пространства, обладающие таким свойством, называются (глобально) симметрическими пространствами. Сначала дадим традиционное определение, а затем докажем транзитивность группы изометрий в случае ненулевой кривизны. Определение 17.7.1. Римановым локально симметрическим пространством называется такое связное риманово многообразие М, что для любого р € М найдется такая окрестность U, что преобразование ехрр о(— Id) о ехрр*: U ^^ М является изометрией. Многообразие М называется глобально симметрическим пространством, если эта локальная изометрия может быть продолжена до изометрий всего М, т. е. для каждого р € М найдется изометрия а^ многообразия М сар(р)~р и Da^|р = - И. Изометрия сГр называется (глобальной) симметрией, соответствующей точке р. Пространство является пространством ранга один, если не существует такой изометрически вложенной в него евклидовой плоскости, что образ является вполне геодезическим подмногообразием. Замечания. 1. Эквивалентное определение состоит в том, что тензор кривизны параллелен, т. е. VR = 0. 2. Так как концы любого отрезка геодезической переставляются симметрией, соответствующей его середине, и любые две точки могут быть соединены геодезической ломаной, группа изометрий глобально симметрического пространства, равно как и компактного локально симметрического пространства, очевидным образом, действует транзитивно на самом пространстве. 3. Из того что ранг равен единице, следует, что все секционные кривизны отличны от нуля. 4. Пространства S'*, W и H = RH^ являются глобально симметрическими, а Г —локально симметрическим, 5. Полное односвязное локально симметрическое пространство является глобально симметрическим. 6. Таким образом, универсальное накрывающее полного локально симметрического пространства является глобально симметрическим пространством. Предложение 17.7.2. Если М — симметрическое пространство ранга один, то его группа изометрий действует транзитивно на SM. Доказательство, Так как транзитивность действия на пространстве уже известна, мы должны показать только, что группа изометрий действует транзитивно на любой единичной сфере S^M. Для этого достаточно показать, что для всякой двумерной плоскости Пс ^М группа изометрий действует транзитивно на окружности Пп5 М, что, в свою очередь, будет
556 Часть 4. Гл. 17. ОБЗОР ПРИМЕРОВ доказано, если мы убедимся, что существует такое е>0, что для уеПпЗ^^М найдется такое семейство изометрий, что образы v под действием их дифференциалов покрывают дугу длины £ из ПпЗрМ. С этой целью рассмотрим диск D =ехрр В (О, 6) и треугольник в D, одной из вершин которого является точка р, с внутренними углами а, Д 7- Рассмотрим изометрию /, полученную композицией трех симметрии относительно середин ребер (взятых в циклическом порядке). Так как изометрий сохраняют углы, легко видеть, что угол между векторами v и DI(v) равен а Н- /? + 7. Так как кривизна П отлична от нуля, сумма а + /? + 7 стремится к 7г при устремлении диаметра треугольника к нулю, однако никогда не равна в точности 7г. Таким образом, мы получаем дугу, состоящую из образов отрезков, длина которой не зависит от v. D Все симметрические пространства могут быть получены с помощью алгебраической конструкции, которая обобщает конструкцию § 17.5. Чтобы продемонстрировать, как это происходит, начнем с прямого обобщения геометрической конструкции гиперболического пространства. Диск Пуанкаре с группой преобразований Мёбиуса может быть получен следующим образом. Рассмотрим верхнюю половину Н двуполостного гиперболоида в W, задаваемую условиями Q(x):= xf -\-х^ — з^ = —1, х^>0. Группа S0{2,1) вещественных (3 х 3)-матриц, сохраняющих неопределенную квадратичную форму Q, действует на этом гиперболоиде, а подгруппа индекса два, сохраняющая неравенство х^>0, следовательно, может рассматриваться как действующая на Н, Так как действие линейно в R^, оно переводит плоскости, содержащие начало координат (т. е. плоскости вида ах^ -\-bx2 — сх^= 0), в плоскости, содержащие начало координат, следовательно, семейство С кривых, получающихся в результате пересечения таких плоскостей с Н, сохраняется. Если мы заменим переменные следующим образом: rj^ = xjx^, щ = х^1щ, щ = 1/х^, то гиперболоид превратится в полусферу 'nf-\-7^-\-rj^ = l, щ>0 и плоскость axi + Ьа^ — сз^ = О перейдет в плоскость ar/t + йуз = с, перпендикулярную ?71?72"ПЛО^к°^'^и* Таким образом, кривые из С переводятся в окружности, ортогональные экватору щ = 0. В заключение применим стереографическую проекцию с центром в (0,0,-1) с верхней полусферы на круг rjf-\-7J2 < 1. Известно, что это преобразование конформно, так что кривые из С теперь представляют собой (прямые и) окружности, перпендикулярные границе, т. е. геодезические диска Пуанкаре. Можно показать, что преобразования, в которые переходят преобразования группы 50(2,1) в результате описанного выше процесса, — это в точности преобразования Мёбиуса. На самом деле гиперболоид представляет собой изометрическое вложение диска Пуанкаре в пространство Минковского (R^, g) с псевдори- мановой метрикой д, индуцированной формой Q. Эта геометрическая конструкция обобщается для вещественного п-мер- ного гиперболического пространства RH'*. Рассмотрим верхнюю половину гиперболоида?^ в R'*^^ задаваемую условиями Q(x):= xf-\-.. .H-2;n~^n+t = = —1, x^^t >0, и вновь обозначим через С семейство кривых, которые получаются пересечением Н с плоскостями, проходящими через начало координат, т. е. задаваемыми п уравнениями вида а^Ж! -Ь.. . + а^а:„ - a^+ia;„+i =0. Группа SO(n, 1) матриц, сохраняющих форму Q, действует на Н. Введем новые переменные rj^ - a^i/a^n+i.-' 'Пп = ^J^n+i^ In + i = ^/^n+i и затем применим стереографическую проекцию с центром в (О,..., О, —1), которая
§ 17.7. ГЕОДЕЗИЧЕСКИЕ ПОТОКИ НА СИММЕТРИЧЕСКИХ ПРОСТРАНСТВАХ 557 отображает возникающую в результате полусферу на открытый единичный шар из Ж". Как и прежде, кривые из С отображаются в (прямые и) окружности, перпендикулярные границе единичного шара RH'*. Секционная кривизна пространств ЩР равна —1. Это очевидно для всех касательных плоскостей П в точке (О,..., О, 1), так как в трехмерном подпространстве пространства R'*■^^ содержащем П, вся картина выглядит в точности так же, как RH^. В целях дальнейшего обобщения удобнее рассматривать RH'* как подмножество вещественного п-мерного проективного пространства RP'* прямых, проходящих через начало координат в R'*^^ при отождествлении точки р из верхней половины гиперболоида с прямой, проходящей через начало координат и содержащей р, Риманова метрика, конечно же, не совпадает с метрикой, индуцированной этим отоясдествлением, но касательные векторы к RH'* отождествляются с касательными векторами к RP'*. Гиперболическое расстояние определяется следующим образом. Двум точкам гиперболического пространства соответствуют две прямые в R'*"^^ Плоскость, определяемая ими, пересекает конус Q =0 еще по двум прямым. Гиперболическое расстояние тогда равно логарифму двойного отношения четырех точек в проективном пространстве, соответствующих этим четырем прямым. Последняя конструкция может быть легко повторена для комплексного поля С. А именно, мы получаем комплексное п-мерное гиперболическое пространство CW как подмножество комплексного проективного пространства СР'*, т. е. пространства комплексных прямых, проходящих через начало координат в С'*"^^, а расстояние в этом подмножестве определяется аналогичным образом с помощью двойного отношения. Имеет место, однако, важное новое явление. Любое касательное пространство может одновременно рассматриваться и как комплексное п-мерное линейное пространство, и как вещественное 2п-мерное линейное пространство. Таким образом, можно умножать вещественные векторы v из касательного пространства на i = V —1, и при этом мы получим однозначно определенное направление, перпендикулярное v относительно вещественной структуры, но колинеар- ное V относительно комплексной структуры. Можно показать, что (секционная) кривизна этого вещественного двумерного подпространства равна —4 и что умножение на г является изометрией единичного касательного расслоения. Таким образом, мы получаем естественное одномерное распределение на единичном касательном расслоении 5СЕГ, задаваемое этими направлениями. Существует также естественное дополнительное распределение, задаваемое векторами, которые являются ортогональными векторами к V и iv в соответствующей комплексной эрмитовой метрике. Внутри этого распределения все локальные кривизны равны —1. Это последнее распределение, оказывается, является неинтегрируемым. Для геодезического потока эти распределения соответствуют распределениям векторов со скоростями растяжения соответственно е^* и е* и соответствующими скоростями сжатия. Для кватернионов Q можно получить гиперболические пространства QH'* с подобной структурой, но в этом случае мы имеем вещественное трехмерное распределение, соответствующее плоскостям кривизны —4. Даже для октав (чисел Кэли) О получается гиперболическая плоскость ОН^, и соответствующее распределение здесь семимерно. Последняя конструкция, однако, не продолжается на высшие размерности из-за неассоциативности
558 Часть 4. Гл. 17. ОБЗОР ПРИМЕГОВ чисел Кэли. Эти примеры исчерпывают список римановых глобально симметрических пространств отрицательной кривизны [*]. Все эти пространства обладают компактными римановыми факторами, получающимися в результате факторизации по действию умножениями слева равномерной решетки в группе изометрий, так что геодезические потоки на таких факторах дают примеры геодезических потоков Аносова. Приведем теперь без доказательства один результат, касающийся общего алгебраического описания глобально симметрических пространств. Предложение 17.7.3. Если М —глобально симметрическое пространство, то компонента связности G единицы группы изометрий действует на М транзитивно, а гриппа изотропии (т. е. подгруппа изометрий, сохраняющих эту точку) К любой точки компактна. Определение 17.7.4. Глобально симметрическое пространство М называется пространством некомпактного типа, если G — полупростая группа без компактных факторов и К — максимальная компактная подгруппа G, Замечание. В отличие от случая RH^ группа G других глобально симметрических пространств ранга 1 будет существенно больше единичного касательного расслоения рассматриваемого многообразия. Напротив, для каждой связной полупростой группы Ли без компактных факторов и максимальной компактной подгруппы К (которая определена однозначно с точностью до сопряжения внутренним автоморфизмом G) существует единственная глобально симметрическая структура на М := G/K, а именно, каждая левоинвариантная риманова метрика на G, которая является правоинвариантной относительно К, тогда превращает М в риманово многообразие и фактор М по действию слева решетки Т в G будет тогда компактным римановым фактором М. Эти факторы являются прямым аналогом тора и компактных факторов гиперболической плоскости RH^ из § 5.4. В этой модели геодезические, проходящие через Id, соответствуют однопараметрическим подгруппам G/K, Общее алгебраическое описание геодезического потока на симметрическом римановом пространстве ранга один некомпактного типа таково. Пусть G — простая некомпактная группа Ли вещественного ранга один. Такими группами являются SO(n, 1), SU(n, 1), Sp(n, 1) и F^. Пусть К — максимальная компактная подгруппа группы G. Тогда G/K—глобально симметрическое пространство и его единичное касательное расслоение имеет вид G/T, где Т — компактная подгруппа группы К (а именно подгруппа изотропии касательного вектора). Соответствующие симметрические пространства суть п-мерное вещественное, комплексное и кватернионное гиперболические пространства и двумерная гиперболическая плоскость Кэли. Геодезический поток соответствует правому действию однопараметри- ческой подгруппы, коммутирующей с Т. (Заметим, что в двумерном случае T = {Id}.) Подчеркнем, что в отличие от диффеоморфизмов Аносова, которые ка- л<утся достаточно жесткими объектами с точки зрения топологического сопряжения, потоки Аносова встречаются чаще. С одной стороны, известны другие конструкции римановых многообразий отрицательной кривизны, кроме возмущений симметрических пространств. В частности, существуют римановы многообразия отрицательной кривизны размерности, большей
§ 17.7. ГЕОДЕЗИЧЕСКИЕ ПОТОКИ tU СИММЕТРИЧЕСКИХ ПРОСТРАНСТВАХ 559 чем три, с фундаментальной группой, отличной от фундаментальной группы любого локально симметрического пространства. Таким образом, фазовое пространство геодезического потока также топологически отлично от единичного касательного расслоения любого локально симметрического пространства и, следовательно, геодезические потоки орбитально неэквивалентны. Кроме того, уже в случае размерности три существуют компактные многообразия с потоками Аносова на них, которые не гомеоморфны единичному касательному расслоению никакой поверхности. Известны даже потоки Аносова с нигде не плотными неблуждающими множествами, которые, следовательно, динамически весьма отличны от любого сохраняющего объем потока [^]. Упражнение 17.7.1*. Докажите, что для компактного п-мерного многообразия постоянной отрицательной секционной кривизны —к^ {к >0), т. е. компактного фактора вещественного гиперболического пространства RH"*, топологическая энтропия геодезического потока равна (т — 1)к. § 17.8. Гиперболические множества Жулиа в комплексной плоскости 17.8 а. Рациональные отображения сферы Римана. Рациональные отображения сферы Римана впервые упоминались в § 8.3, где была получена оценка снизу для топологической энтропии. Для самого простого полиномиального отображения z\-* z^*, n^ 2, неблуждающее множество состоит из двух притягивающих неподвижных точек и экватора. В этом случае критические точки являются сверхпритягивающими (т. е. производная в них равна нулю) и их области притяжения совпадают с компонентами дополнения к экватору. Под областью притяжения притягивающей периодической точки р мы понимаем (очевидно, открытое) множество точек, положительно асимптотических к р. Назовем объединение связных компонент, содержащих точки орбиты р, областью непосредственного притяжения точки р. (См. также соответствующие определения в § 16.1 для случая отображений интервала.) Экватор является гиперболическим множеством, и наше отображение, суженное на экватор, представляет собой растягивающее отображение окружности Е^. Это частный пример общего явления. Чтобы избежать технических осложнений, возникающих в наиболее общем случае, мы докажем соответствующий результат при упрощенных предположениях. Теорема 17.8.1. Пусть /: С—>С, -г i-* п(|)' ^^^ Р и Q —взаимно простые многочлены, является рациональным отображением сферы Римана С. Допустим, что 1) каждая критическая точка притягивается к некоторой периодической точке (либо сама является таковой) и 2) для каждой периодической точки р периода п абсолютное значение производной отображения Р в точке р отлично от единицы (т. е. каждая периодическая точка является либо гиперболической, либо сверх- притягиваюи^ей). Тогда замыкание множества периодических орбит f гиперболично.
560 Часть 4. Гл. 17. ОБЗОР ПРИМЕРОВ Замечание. Рассмотрим малое возмущение отображения z\-* z^ до полиномиального отображения алгебраической степени п. В этом случае притягивающие точки О и оо сохраняются и их области лритяжения топологически являются кругами. Дополнение до объединения этих областей притяжения топологически все еще остается топологической окружностью, но не обязано быть гладким. Доказательство. Первый шаг доказательства — следующий классический результат Жулиа. Предложение 17.8.2 (Жулиа). Если р ~притягивающая периодическая точка рационального отображения /, то область непосредственного притяжения точки р содержит критическую точку. Доказательство. Допустим, что область непосредственного притяжения точки р не содержит ни одной критической точки отображения /, и обозначим через п период точки р. Пусть В^ — компонента связности области притяжения точки р, содержащая р. Тогда область непосредствен- n-t ного притяжения точки р равна |J f*(Bp). Таким образом, область Вр не j=0 содержит критических точек отображения f. Так как В —область непосредственного притяжения точки р для отображения / , мы можем без потери общности полагать, что п= 1, т. е. что р — неподвижная точка. Заметим, что Вр = и fo*(U) для некоторого малого диска U, где ff^ обозна- чает соответствующую ветвь обратного отображения. Так как область Вр не содержит критических точек /, отсюда следует, что эта область односвяз- на, т. е. топологически является кругом. По теореме Римана о голоморфных отображениях область В^ биголоморфно эквивалентна единичному кругу D из С, следовательно, обладает гиперболической метрикой, индуцированной гиперболической метрикой диска Пуанкаре. Поскольку биголоморфные биективные отображения единичного круга — это преобразования Мёбиуса и, следовательно, изометрии, эта гиперболическая метрика на В^ определена однозначно. Таким образом, применим следующий результат. Лемма 17.8.3. Пусть /: Д -^ -D2 —голоморфное отображение одно- связных областей с гиперболической метрикой. Тогда f является либо голоморфной изометрией, либо строго сжимающим отображением относительно этой гиперболической метрики. Доказательство. Теорема Римана о голоморфных отображениях позволяет нам биголоморфно перевести обе эти области в D, так что достаточно рассмотреть случай /: D ^^ D. Для любой точки z е D существуют такие преобразования Мёбиуса (/з, ф, что ip{z) = 0 и ф(/(2)) = 0. Тогда к:=фо/о{р-^—биголоморфное отображение D, сохраняющее нуль, и, следовательно, по лемме Шварца любое преобразование h либо является преобразованием Мёбиуса, либо для него |Z>/i(0)| < 1. Но Dh = LhpDfDip'^ и \Dф\==\Dip-^\ = l. П В частности, мы видим, что если отображение / сюръективно, то оно является изометрией. В этом случае отображение /; В^ —> В^ очевидно, сюръективно по построению, следовательно, оно является изометрией. В частности, производная этого отображения в любой неподвижной точке В^ по абсолютному значению равна единице. Но это противоречит наличию притягивающей неподвижной точки р в В^. П
§ 17.8. МНОЖЕСТВА ЖУЛИА В КОМПЛЕКСНОЙ ПЛОСКОСТИ 561 Следствие 17.8.4. Число притягивающих периодических точек ограничено сверху числом критических точек отображения f=P/Q^ которое, в свою очередь, ограничено числом degP+degQ. Вернемся к доказательству теоремы 17.8.1. Рассмотрим дополнение 5 в С замыкания С множества орбит критических точек. Так как критические точки притягиваются к конечному числу притягивающих периодических точек, множество S связно. Таким образом, замыкание J множества отталкивающих периодических точек — компактное инвариантное множество. Покажем, что множество J гиперболично. Тогда замыкание множества периодических точек / равно объединению J с конечным множеством притягивающих периодических точек и, следовательно, также гиперболично. Предположим сначала, что f~^(C) Ф С. Если card(C') < 3, заметим, что либо С = 0 и тогда / — преобразование Мёбиуса и, следовательно, так как любое преобразование Мёбиуса обладает не более чем двумя периодическими точками, теорема 17.8.1 тривиально верна, либо найдется критическая точка Cq с бесконечной отрицательной полуорбитой, т. е. найдется такая точка р, что Р{р) фс^ ^ f (р) ^ ^» "^^^ ^"^о мы можем заменить S на S\{f(p)^ Р(р)} Э J и впредь полагать card(C\5) > 3. Тогда 5 может рассматриваться как риманова поверхность, (голоморфная) универсальная накрывающая которой — единичный круг (теорема П. Кёбе об униформи- зации). Таким образом, S обладает однозначно определенной гиперболической метрикой, норму которой мы обозначим через || • ||^. Возьмем такое х€ Sy что f(x)€ 5, и пусть R является компонентой связности прообраза /"^(5), содержащей х. Вложение R —^ S яе сюръективно, следовательно, является сжимающим отображением из 1|-||^ в ||-[|^, так что |М|^ <||-||^. Так как отображение /|д: (Л, || • ||^) —>(5, || • \\^) —сюръективное и голоморфное отображение без критических точек, оно является локальной изометрией, а следовательно, растяжением относительно нормы ||-||^. Так как множество J С S компактно, оно гиперболично. Теперь рассмотрим исключительные случаи, когда f~^(C) = С Если card С = 1, то с точностью до замены координат С = {оо} и /(оо)=/"^(оо) = = оо, так что отображение / полиномиально и не имеет критических точек в С, следовательно, оно линейно и, таким образом, схэ не является критической точкой, что невозможно. Если сзгаС = 2, то возможны два случая. Либо / обладает двумя неподвижными критическими точками (и нет никаких других), и тогда без ограничения общности можно положить 0 = /(0)=/~^(0) и оо = /(оо) = /"^(оо) и, таким образом, это отображение сопряжено с отображением z\-^ z^ посредством преобразования Мёбиуса и заключение теоремы 17.8.1 не содержит ничего нового, либо, с точностью до преобразования Мёбиуса, мы имеем /(оо) = /"^(оо) = 0 и отображение / сопряжено с отображением z i-+ z'*' посредством преобразования Мёбиуса, что вновь дает заключение теоремы 17.8.1. Если card С > 3, то множество SC\C обладает гиперболической метрикой, как и выше, и тогда / является изометрией относительно этой метрики (^потому что это отображение сюръективно), следовательно, семейство {/'*jn€N равностепенно непрерывно на 5. Так как это семейство тривиальным образом равностепенно непрерывно на множестве С, оно равностепенно непрерывно на всей сфере С и, таким образом, по теореме П 1.24 эта последовательность обладает точкой накопления, которая суть некоторое мероморфное отображение С. Но тогда, принимая во внимание топологиче-
562 Часть 4. Гл. 17. ОБЗОР ПРИМЕЮВ скую степень, мы находим, что degp = limdeg/'*^, так что deg/ = 1 и / — преобразование Мёбиуса, что противоречит условию card С ^ 3. D Второе условие теоремы 17.8.1 было введено лишь из соображений удобства. В общем случае можно исследовать динамику комплексных отображений начиная с классической дихотомии для поведения орбит. Орбиты с простым поведением образуют множество Фату отображения. В случае голоморфного отображения естественным выражением этой простоты является понятие нормального семейства функций, т. е. равностепенно непрерывного семейства. Множество Фату — это множество точек, обладающих окрестностью, для которой итерации отображения / образуют нормальное семейство. Таким образом, оно открыто. Это понятие весьма естественно, так как нормальное семейство не только компактно в С°-топологии (по теореме Арцела —Асколи П 1.24), но к тому же компактно в голоморфной топологии. Множество Жулиа определяется как дополнение этого множества и, следовательно, оно по определению замкнуто. Покажем, что в интересных случаях это множество непусто. Предложение 17.8.5. Если /: С ^^ С — рациональное отображение, deg/ > 1, то множество Жулиа этого отображения непусто. Доказательство. В противном случае семейство {/"*}„g^ нормально на С и существует его подпоследовательность, равномерно сходящаяся к некоторой мероморфной функции д:С-^С, Рассматривая топологическую степень, мы находим, что degp = limdeg/'*', так что deg/= 1. D В этом случае можно показать, что множество Жулиа является замыканием множества отталкивающих периодических точек. Таким образом, множество J, рассмотренное в доказательстве теоремы 17.8.1, фактически было множеством Жулиа. Мы не будем, однако, использовать этот факт. В условиях теоремы 17.8.1 множество Фату оказывается объединением областей притяжения периодических точек. Вообще говоря, могут встречаться и другие явления. Например, наличие такой точки р периода п, что дифференциал f обладает собственным значением е^""" с вещественным диофан- товым числом а (определение 2.8.1) позволяет нам применить теорему 2.8.2 к отображению /"* и найти окрестность, в которой это отображение аналитически сопряжено с преобразованием поворота круга. Такая окрестность называется диском Зигеля, Очевидно, каждая точка диска Зигеля принадлежит множеству Фату. Обсудим структуру множества Жулиа для кваш)атичных полиномов. Сначала покажем, что квадратичное семейство zi-^z^-\-c реализует все возможности для таких полиномов. А именно, рассмотрим квадратичный полином P(z) = az^ Н- 2bz -\-d, и пусть h(z) = az -\-b, с = ad -\- b — b^. Тогда легко проверить, что hoPQh~^(z) = z^-\-c, т. е. полином Р аналитически сопряжен с преобразованием zi-^z^-\-c. Таким образом, мы будем рассматривать примеры гиперболических множеств Жулиа, возникающих для различных значений с из отображения zi-^ z^ -\-с. Прежде всего заметим, что для квадратичного отображения имеются две критические точки, одна в нуле и одна в бесконечности, последняя — су- перпритягивающая неподвижная точка. Таким образом, имеются три возможности. 1. Нуль принадлежит области притяжения бесконечности. В этом случае согласно предложению 17.8.2 имеется только одна область притяжения,
§ 17.8. МНОЖЕСТВА ЖУЛИА В КОМПЛЕКСНОЙ ПЛОСКОСТИ 563 И множество Жулиа тогда вполне несвязно. Подобно одномерному случаю (см. следствие 16.1.2) ограничение квадратичного отображения на такое множество топологически сопряжено топологической цепи Маркова (см. упражнение 17.8.1). Это происходит, например, для |с| > 2. 2. Существует притягивающая периодическая точка, отличная от бесконечности, которая по предложению 17.8.2 притягивает нуль. В этом случае множество Жулиа является общей границей областей притяжения двух точек. Область притяжения бесконечности всегда связна. Вторая область притяжения может быть как связной, так и не связной. a. Обе области притяжения связны. Тогда обе притягивающие точки неподвижны. Это происходит, например, для значений с, близких к нулю. b. Период конечной притягивающей точки больше единицы. Тогда область притяжения обладает бесконечно большим числом компонент связности и множество Жулиа имеет естественную марковскую структуру. Однако топологическая структура множества Жулиа отлична от всего, что мы видели в приведенных выше примерах: это множество локально является не произведением многообразия с канторовым множеством, а совершенным связным множеством топологической размерности один, дополнение которого обладает бесконечно большим числом компонент связности. Это происходит, когда с = — 1, т. е. для отображения z^-^ z^ — 1. 3. Нуль принадлежит множеству Жулиа. В этом случае множество Жулиа не гиперболично. Эти три случая определяют соответственно множества 1^, 1^ и /3» параметров в комплексной плоскости. Множества 1^ и /g» очевидно, открыты, и внутри каждой компоненты связности любого из них множества Жулиа и ограничение отображения на множества Жулиа остаются топологически неизменными. Множество /3 делит комплексную плоскость на части. Существует предположение, что /з нигде не плотно. Объединение множеств /д и /з обычно называется множеством Мандельброта или иногда множеством Брукса — Мательского, Это множество само по себе чрезвычайно интенсивно исследуются численными методами. Помимо прочего, в результате этого моделирования получаются разнообразные красочные картинки, демонстрирующие красоту фракталов и подобных им объектов. 17.8 б. Голоморфная динамика. Результаты из предыдущего пункта, как доказанные, так и только намеченные, дают первое представление об увлекательном мире голоморфной динамики. Эта область теории динамических систем имеет дело со структурой комплексного многообразия. Фазовое пространство не обязательно предполагается компактным; например, естественно рассматривать полулокальную ситуацию, возникающую, когда голоморфное отображение определено на открытом подмножестве пространства С*, которое содержит компактное инвариантное множество. Соответствующая глобальная задача возникает, когда задано голоморфное отображение компактногЬ комплексного многообразия (например, СР(4)) в себя. Голоморфные функции как одного, так и многих комплексных переменных обладают определенной жесткостью, которая проявляется как локально (например, коэффициенты ряда Тейлора в точке определяют функцию на открытом множестве), так и глобально в таких утверждениях, как теорема Лиувилля или принцип максимума модуля. Это обстоятельство существенным образом отличает голоморфную динамику от общей дифференциальной динамики, где различные локально заданные отображения обычно легко
564 Часть 4. Гл. 17. ОБЗОР ПРИМЕРОВ и «склеиваются», и в меньшей степени от гамильтоновои динамики, где локальные ограничения отсутствуют, хотя глобальные присутствуют. В этом отношении голоморфная динамика больше напоминает алгебраическую динамику, которая имеет дело со сдвигами и аффинными преобразованиями отдельных пространств (§ 5.7), хотя характерные динамические свойства в этих двух ситуациях сильно отличаются, например, в голоморфной ситуации обычно отсутствует абсолютно непрерывная инвариантная мера и диссипативное поведение весьма распространено. Одна из характерных особенностей голоморфной динамики заключается в том, что особенности голоморфных отображений играют существенную роль в ее рассмотрениях. Так как множество особенностей имеет положительную комплексную коразмерность и, следовательно, вещественную коразмерность не меньше двух, с этими особенностями обычно легче иметь дело, чем в случае вещественных отображений, даже если последние вещественно-аналитичны. Голоморфная динамика в случае одного комплексного переменного является хорошо развитой областью. В частности, основополагающие работы Фату, Жулиа и Монтеля появились в то время, когда вещественная дифференциальная динамика, не говоря уже об эргодической теории, находилась на весьма ранней стадии своего развития. Jta краеугольных камня одномерной голоморфной динамики — это конформность и униформизация. Первое из этих свойств является инфинитезимальным; мы обсуждаем его в п. в гл. 10 как свойство, характерное для дифференциальной динамики в малых размерностях. С этой точки зрения можно определить область конформной динамики, которая включает в себя вещественную дифференциальную динамику в размерности один (гл. 12 и 16) и голоморфную динамику в комплексной размерности один, ^от короткий список исчерпывает все существенные возможности, по крайней мере в глобальной ситуации, так как любое конформное отображение в вещественной размерности два является по существу голоморфным, а в больших размерностях имеется очень мало конформных преобразований (только многомерные аналоги преобразований Мёбиуса, см. § 5.4), так что интересных динамических эффектов не возникает. Таким образом, упор на свойство конформности позволяет объединить одномерную вещественную динамику и одномерную комплексную голоморфную динамику. С другой стороны, свойство униформизации, которое в более элементарной форме выражается теоремой Римана о конформных отображениях, а в более продвинутой — теоремой Кёбе об униформизации, характерно именно для одномерной комплексной ситуации. Заметим, что все вышеупомянутые теоремы существенным образом применялись в доказательстве теоремы 17.8.1. Многомерная комплексная динамика начала развиваться значительно позже одномерной и не продвинута так далеко. Заметим, что в этом случае нельзя использовать непосредственно ни конформность, ни униформи- зацию; однако другие мощные средства из арсенала комплексного анализа позволяют понять структуру некоторых классов голоморфных отображений (например, полиномиальных) гораздо лучше, чем это возможно в случае вещественной дифференциальной динамики. В основе этого арсенала лежат некоторые экстремальные свойства голоморфных отображений, которые позволяют, к примеру, доказать формулу для топологической энтропии. Полезно также заметить, что для обратимых отображений в комплексной размерности два из гиперболичности следует, что устойчивые и неустойчи-
§ 17.8. МНОЖЕСТВА ЖУЛИА В КОМПЛЕКСНОЙ ПЛОСКОСТИ 565 вые многообразия являются одномерными комплексными многообразиями. Таким образом, в этой ситуации можно использовать некоторые методы анализа функций одной комплексной переменной. Упражнения 17.8.1. Покажите, что если множество Жулиа J рационального отображения / гиперболично и вполне несвязно, то сужение f\j топологически сопряжено топологической цепи Маркова. 17.8.2. Опишите почти взаимно однозначное полусопряжение 2-сдвига Од^ и отображения 2 н-> 2^ — 1, суженного на множество Жулиа.
ГЛАВА 18 ТОПОЛОГИЧЕСКИЕ СВОЙСТВА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ В этой главе мы вернемся к общей структурной теории гиперболических множеств гладких динамических систем, отправляясь от точки, достигнутой в конце § 6.4. Сначала мы сосредоточим наше внимание на устойчивости глобальной структуры орбит таких систем, а затем покажем, как центральная идея аппроксимации «почти орбиты» настоящими орбитами позволяет описать характер возвращаемости, получить точную асимптотику роста числа периодических орбит и почти обратимое полусопряжение с топологическими цепями Маркова. § 18.1. Приближение псевдоорбит Исключительно важная особенность гиперболических систем состоит в необычайно чувствительной зависимости орбиты от начальных условий. Тем самым возникает проблема извлечения осмысленной информации из приблизительного знания отрезка орбиты. Мы уже видели, что почти периодическая орбита всегда приближается периодическими (лемма Аносова о замыкании, теорема 6.4.15). Теперь посмотрим, как обстоит дело с непериодическими орбитами. Определение 18.1.1. Пусть (X, d) — метрическое пространство, множество иаМ открыто и / —отображение, /: С/-*Х. Для a€ZU{-oo} и Ь€Zu{oo} последовательность {х^}а<п<ь^ ^ называется s-орбитойили е'Псевдоорбитой отображения /, если d(^n+\'> fi^n)) ^ ^ ^^ всех а< п < Ь. Говорят, что эта псевдоорбита S-приближается орбитой 0{х) точки х € € и, если d(x^^ f^i^)) < ^ Д^я всех а<п<Ь. Теорема 18.1.2 (лемма о е-траекториях). Пусть М — риманово многообразие, множество U с М открыто, /: U —* М — диффеоморфизм uAcU— компактное гиперболическое множество отображения /. Тогда существует такая окрестность U{A) э Л, что для любого 5 >0 найдется такое е > О, что каждая е -орбита в U(A) 5 -приближается орбитой /. Лемма о е-траекториях может быть доказана аналогично доказательству леммы Аносова о замыкании (упражнение 18.1.1), а именно путем перехода к локальным координатам и к последовательности отображений пространства W, близких к гиперболическим линейным отображениям. Мы же получим этот результат как частный случай более общей теоремы 18.1.3. Отметим, что нет никакой гарантии, что приближающая орбита является в каком бы то ни было смысле типичной. Если рассмотреть, например, отображение /: R/Z-*R/Z, 2;i->22; (mod 1), то любая орбита, полученная в результате численного моделирования, в конечном счете обращается
§18.1. ПРИБЛИЖЕНИЕ ПСЕВДООРБИТ 567 В нуль, так как начальное условие представляется двоичной дробью и после каждой итерации число отличных от нуля двоичных цифр уменьшается. Таким образом, ЭВМ будет всегда вычислять настоящую орбиту, но только ту, которая сходится к нулю. Однако это отнюдь не типичное поведение для данной системы (см. § 1.7). Аналогично, для автоморфизмов тора все точки с рациональными координатами, и, следовательно все двоично- рациональные точки, являются периодическими (см. предложение 1.8.1). С)ацествует тесная связь между приближением е-орбит и структурной устойчивостью: орбиты возм)аценной динамической системы являются е-ороитами первоначальной системы. Так как они приближаются орбитами невозмущенной системы, соответствие между возмущенными орбитами и приближающими их невозмущенными является естественным кандидатом для орбитальной эквивалентности. Наоборот, из структурной устойчивости (и непрерывной зависимости сопрягающего гомеоморфизма от воз- м)ацения), очевидно, следует тот факт, что орбиты возм)аценной системы приближаются невозм)аценными орбитами. Более общим образом, возможность приближения е-орбит связана с богатством и устойчивостью структуры орбит динамической системы, в противоположность неустойчивости отдельных орбит. Тем самым вопрос об одновременном приближении непрерывных семейств е-орбит становится естественным. Теорема 18.1.3 (теорема о семействах е-траекторий). Пусть М — римановомногообразие, d —расстояние, индуцированное римановойметрикой, множество UcM открыто, /: U-^ М — С^-диффеоморфизм и Ас и —компактное гиперболическое множество f. Тогда существуют макая окрестность U{A)dA и такие числа £о, ^0 > ^' ^^^ ^-^^ ^^^^ 5 >0 найдется е>0 со следующим свойством. Если f: и (А)-^ М— С^-диффеоморфизм, е^-близкий к f в С^-топологии, Y — топологическое пространство, д: У —> У — гомеоморфизм, aeC^(Y,U{A)) udco{ag,f'a):= sup d{ag(y), fa (у)) < е, то существу- ет такое отображение (5 € С^(У^ ^(А)), что (5д = f'(5 и dco(oi^ ^) ^ ^- _ Кроме_того, отображение /3 локально единственно: если Pg = f'f3 и dcc{a,P)< 5q, то (5 = (5. Замечания. 1. Заметим, что локальная максимальность Л не требуется. 2. Чтобы получить лемму о е-траекториях, возьмем Y — (Z, дискретная топология), /' = /, So = ^ и 9('^) = п + 1 и заменим а € С\Х ^-^(А)) на {^n}nez ^ Щ^) и утверждение <^(5 € С^{Х ^(А)) таково, что (5д ^^/'^^» — на {Г(х)}^^2^ С U(A). Тогда d(x^, Г(х)) < 8 лдя всех neZ. При чтении доказательства полезно иметь в виду эти упрощения. 3. Также при чтении доказательства полезно вспомнить доказательство леммы Аносова о замыкании (теорема 6.4.15), так как метод этого доказательства подобен используемому здесь. Заметим, что лемма о замыкании представляет собой другой частный случай леммы о е-траекториях, соответствующий /' = /, y=Z/nZ, д(к) = к^-\ (mod п). 4. Еще ближе сходство с доказательством топологической устойчивости линейного автоморфизма тора (теорема 2.6.1). Доказательство. Как и для теоремы 2.6.1, суть доказательства состоит во введении системы обозначений (в данном случае достаточно сложной), которая позволит непосредственно применить принцип сжатых
ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ отображении (предложение 1.1.2). В отличие от вышеупомянутого доказательства, однако, соответствующее функциональное пространство не имеет естественной линейной структуры, и такая структура должна быть привнесена. Наше доказательство представляет собой разновидность метода сжатых отображений для нахождения сопряжений, рассмотренного в п. 2.7 а. Еще одно отличие от доказательства леммы Аносова о замыкании (теорема 6.4.15) состоит в том, что принцип сжатых отображений здесь применяется в бесконечномерном пространстве. Отображение (5, которое мы разыскиваем, — неподвижная точка оператора F: С\Х U(A)) ^ C%Y, М), f3 ^ f о f3 о д-К Чтобы найти эту точку, разложим F на линейную и нелинейную части. Для этого нужна линейная структура, которую мы определим подобно линейной структуре на пространстве Difr(M), описанном в § 3 приложения. А именно, определим «разность» между (5 еС^(У-, U{A)) и данным отображением а 6 С"(1^ ^{^))i рассматривая пространство и и и векторных полей вдоль а с нормой • равномерной сходимости, где для достаточно малого О >0, не зависящего от У, д я а, корректно определено следующее отображение Л ^-шара Вд{а) с центром а в C^{Y, U{A)): Л: B,{a)^C'{Y,U{A)), Л^(у) = ехр4, ^(у), Р € Вд(а) И у € У. Кроме того, Л — гомеморфизм на В^{0) с C°(Y, U(A)). Если V — неподвижная точка оператора i^" := AFA-': В,"(0) -. C\Y, U(A)), i^«(t;)(y) = exp;J^,(/4exp,(,-.(,jj г;(р-Чу)))). то A''^v — неподвижная точка F. Заметим, что отображение F" гладко в точке V и по цепному правилу производная липшицева в v. Замечание. Этот факт становится несколько более понятным, когда M = R"*, где exp^(j,j v(y) = 'y(y)H-a(y) и, следовательно, {F''{v))(y) = '=f'(v{g'^{y))-\-a(jg~^{y))) — a(y). (С другой стороны, пространство R"* уже обладает линейной структурой, так что потребность в такой процедуре отсутствует— ср. с доказательством теоремы 2.6.1.) Лемма 18.1.4. Существуют такая окрестность U{A) эА и такие числа Cq, е>0 uR >0, не зависящие omY, д и а, что \\(({DF°')Q'-ld)~^\\ < < jR, если d^iify f) < Sq, dco{ag,f'a) < e. Сначала покажем, как с помощью этой леммы можно завершить доказательство теоремы. Как говорилось выше, представим F°'{v) в виде
§ 18.1. ПРИБЛИЖЕНИЕ ПСЕВДООРБИТ 569 F^iv) = {{DF'')qV -\- H{v). Таким образом, неподвижная точка v отображения F'' удовлетворяет соотношению aDF''),-ld)v = -H(v) ИЛИ v = -((DF''),-ld)-'H(v)=:T(v). Поскольку отображение DF'' и, следовательно, DH липшицевы в точке v с константой Липшица, равной, скажем, К (не зависящей от Y, д я а), можно заметить, что T{v,)-'T(v,)\\<RKm^x(\\vMv2\\m'-^2 так что Т является сжатием вблизи 0. Поскольку H{0){y) = F^O){y)=expzlJ'a{g-^{y)), мы имеем ||Я(0)|| = d^oia^ f сид"^) = d(.o{ag, fa) и T{0)\\<R\\H{0)\\=Rdco{agJ'a). Положим теперь 6^ = 1/{2RK), в = min(5, 5^) я е < 0/{2R), как в лемме. Тогда T{v,)-T{v,)\\<^\\v,-'V, для v^^v^e B^^{0)cC^{Y,U{A)) и ||Т(0)|| < ^/2, если а таково, что dfjo(ag, fa) < е. Таким образом, T(BT{Q))C В^{0). По принципу сжатых отображений (предложение 1.1.2) Т имеет единственную неподвижную точку v € В^(0) и тем самым F имеет единственную неподвижную точку ^ — Л~^v е В^(а)^ которая действительно содержится в В^{а), поскольку Т(В^(0)) с В^\0) с С В^{0). Таким образом, /3 —нужное нам отображение, и оно единственно в В,^{а). и Доказательство леммы 18.1.1. Для 5 >Q существуют такие числа ео>Ои/х<1и такая окрестность U(A) D Л, что гиперболическое разложение Tf^M = E''®E' продолжается до (возможно, не инвариантного) разложения С/(Л), которое мы будем также обозначать Е"" ®Е\ и для всех /' € С^(С/(Л), М) с dc^U-> f) < So мы имеем, относительно Л^" Ш Е\ 'а а иЯ 38 а„« '^ < М. Ih^txl < *^^/^» IhtwII < <^^М. 11^«11 < м- Чтобы показать, что (DP'')o — гиперболическое отображение, заметим, что (((IPi^")oO(y) = ^(exp^)|/-.(,-.(,))i?/t(,-.(,))ap-4y)) и D(exp^^)|o = Id. Это значит, что для любого Cg > ^ найдется такое 5^ > О, что ||(D exp~^)|p^-Id II <£2 при d(p^,p2)<5^, и что относительно разложения C^{Y, U{K))=J^®T' на множества ^ = {г; € С«(1^ С/(Л))|г;(у) € Е:^^^ (у € У)}, r = {ve C\Y, U{K))\v(y) € -E?.^(,j (у € У)}
ТОПОЛОГИЧЕСКИЕ СВОЙСТВА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ МЫ имеем {DF^o А А UU ns А А SU зл где если d^oia, f'ag-^) < е и dci{f, f) < Eq. то А UU ^ 2 AJ\<5fi, \\AJ\<6fi, \\AJ\< 1+/X 2 Это доказывает лемму. D Сформулируем теперь лемму о е-траекториях и теорему о семействах е-траектории для потоков. Сначала определим е-орбиты и понятие приближения. Определение 18.1.5. Пусть М—риманово многообразие и (р: R X М —* М — гладкий поток. Дифференцируемая кривая с: fe—> М называется е-орбитой потока v?', если |fc(t) - ф(с(1Щ < е для всех t € R. Если кривая с периодическая, то она называется замкнутой е-орбитой. Дифференцируемая кривая с: Е—>М называется 5-приближаемой орбитой X еМ, если существует такая функция s: R—> R, ^s — 1 < 5, что d(c{s(t)), ^^(х)) < 5 для всех t еЖ. Заметим, что в отличие от случая дискретного времени, где из-за разделения приближающая орбита единственна для малых 5, в случае потоков выбор функции S не единственен, хотя орбита по-прежнему единственна. Теперь мы можем сформулировать результаты о приближении е-орбит. Теорема 18.1.6 (лемма о е-траекториях для потоков). Пусть М — риманово многообразие, ip^ — гладкий поток и А — гиперболическое множество для (р^. Тогда существует такая окрестность U{A) эЛ множества А, что для любого 5 >0 найдется такое е > О, что каждая е-орбита 5-приблиониется орбитой <р^. Теорема 18.1.7 (теорема о семействах е-траекторий для потоков). Пусть М — риманово многообразие, d — расстояние, индуцированное римановой метрикой^ ^р*- —гладкий поток и А —компактное гиперболическое множество для (рК Тогда существуют такая окрестность U(A) э А множества А и такие числа Sg, 5q >О, что для всех 5 >0 найдется £>0 со следующим свойством. Если ф^: и (А)-^ М — поток, е-близкий к (р^ в С ^-топологии, Y — топологическое пространство, 7*- Y-^ Y — непрерывный поток, а€ eC^(Y^U(A)) таково, что а{'у^(у)) — С^-кривая для каждого yeY, для которого касательный вектор (о:7 01о(у) ^ тпочке ot(y) непрерывно зависит от у и sup((a7*)1o(y), (V'a)lo(y)) < е. то существует такое отображение s: У xR-+R, где GC^{XU{A)), что и sup^(a, Р) < 5. yeY d dt^y -1 /37 s(t) ф'р <s и/Зе (18.1.1)
§ 18.1. ПРИБЛИЖЕНИЕ ПСЕВДООРБИТ 571 Кроме того, функция (5 единственна с точностью до замены времени: ecAU^Y'^^^ =Ф^^ ^-^^f^^^omopoeoa^: Ж-^Ж, rft*^»~^ <5 iisupd(a, Д)< уеУ < 5q, то l3{y) = /37*''*''^^"'*~'^'*'*(у) для некоторого малого т^: R—> R. Доказательство. Единственное различие между доказательством теоремы 18.1.7 и теоремы 18.1.3 состоит в сведении к «трансверсальной» проблеме. Идея заключается в том, чтобы ограничиться рассмотрением подмножества возм)ацений отображения а: Y-^ U{A), где решение Р уравнения (18.1.1) единственно. Для этого введем следующие обозначения. Пусть Е с ТМ — распределение коразмерности один подпространств, ортогональных к векторному полю v = Ф = {d/dt)(p^U^Q, порождающему поток (р\ D^ —маленький шар в Е^ я 5^ =ехр^ D^. В малой окрестности U^ точки X еМ существует определенная каноническая проекция тг^: U^—>- S^ вдоль орбит 1р\ Рассмотрим пространство S таких отображений (5: Y -^ С^(Л), что Р{у)€ S^^^y Для любого потока ф, достаточно близкого к (р, определим оператор i^ на <S (F^)(y):=7r„,,)V'(^(7-'(y)))- Как и прежде, с помощью отображения ехр"}^,) пространство S можно отождествить с шаром в пространстве Г таких векторных полей и: У-+ ТМ, что и{у)е Е^^уу Соответственно оператор F может быть преобразован в оператор i^"* на Г, и, решая уравнение для определения неподвижной точки F''{u) = u, с помощью преобразования ехр^^^.^ мы получаем отображение Р, которое переводит 7"0рбиты в ^'"Орбиты. Оценки по гиперболичности для этой «трансверсальной* разновидности оператора F, позволяющие нам применять принцип сжатых отображений, полностью параллельны оценкам в доказательстве теоремы 18.1.3. В заключение заметим, что, так как неподвижная точка Р представляет собой отображение из <S, т. е. (^{у) е Т>а{у)' и так как D^ зависит от х дифференцируемо, очевидно, что отображение р дифференцируемо вдоль орбит 7 и что производная ds^/dt замены времени близка к единице. D Отсюда очевидным образом получается лемма Аносова о замыкании для потоков. Следствие 18.1.8. ПустьМ — римановомногообразие, ^^ —гладкий поток и К — компактное гиперболическое множество для v?* - Тогда существуют такая окрестность U{A) э Л множества Л и такие числа Sq, Sq >О, что для всех 5 >0 найдется такое е > О, что каждая замкнутая е-орбита 5-приближается периодической орбитой. Упражнения 18.1.1. Докажите лемму о £-траекториях (теорему 18.1.2), используя метод доказательства леммы Аносова о замыкании (теоремы 6.4.15). 18.1.2. Докажите лемму о е-траекториях для отображения сдвига за единичное время градиентного потока для отрицательной величины функции высоты на круглой сфере (см. (1.6.1)). Покажите, что в этом случае приближающая орбита не всегда единственна. 18.1.3. Докажите лемму о е-траекториях для отображения сдвига за единичное время градиентного потока для отрицательной величины функции высоты на вертикальном торе и наклонном торе (см. § 1.6).
ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ 18.1.4. Покажите, что теорема о семействах е-траекторий не выполняется для отображения сдвига за единичное время градиентного потока для отрицательной величины функции высоты на вертикальном торе. 18.1.5. Покажите, что если Л — компактное локально максимальное гиперболическое множество потока ¥?', то периодические орбиты плотны в NW{ip\j^). § 18.2. Устойчивость гиперболических множеств и марковские приближения Теорема о семействах е-траекторий используется непосредственно, чтобы установить ряд свойств, показывающих, что динамика на гиперболическом множестве устойчива, имеет определенную структуру и, вообще говоря, богата. Прототипом такого результата служит следствие 6.4.19 леммы Аносова о замыкании (теорема 6.4.15). В этом параграфе мы докажем еще два основных результата такого типа. Мы получали результаты о структурной устойчивости (определение 2.3.3) гиперболических множеств и прежде, причем неоднократно. Так, мы доказали структурную устойчивость для линейных растягивающих отображений окружности, для гиперболических линейных отображений двумерного тора (см. теоремы 2.4.6, 2.6.3) и для обобщенных подков (предложение 6.5.3). Затем, в главе 6, мы получили частичные результаты общего характера, например предложение 6.4.6, утверждающее, что для возмущения /' диффеоморфизма / с гиперболическим множеством Л существует такая окрестность U множества Л, что любое /'-инвариантное подмножество U гиперболично для /'. Тогда, однако, не было ясно, существует ля вообще какое-нибудь инвариантное нетривиальное множество в этой окрестности. Теорема о семействах е-траекторий, доказанная в предыдущем параграфе, позволяет доказать существование такого /'-инвариантного множества, го- меоморфного Л. В то же время она дает топологическое сопряжение. Таким образом, мы получаем структурную устойчивость, более того, даже сильную структурную устойчивость (определение 2.3.4). Теорема 18.2.1 (сильная структурная устойчивость гиперболических множеств). Пусть Ас М — гиперболическое множество диффеоморфизма /: и -^ М. Тогда для любой открытой окрестности V с С и множества Л и любого S >0 существует такое е >О, что если /': и-^ М и dQt{f\y, f) < е, то найдется гиперболическое множество К = /'(Л) с V диффеоморфизма /' и такой гомеоморфизм h: Л —> Л, dco(Id, h) Н- d^{ldy h~^) < 5, что h о /'|д = /|д о h. Такой гомеоморфизм h единствен, если 5 достаточно мало. Доказательство. В доказательстве мы трижды используем теорему о семействах е-траекторий (теорему 18.1.3). Сначала выберем такое 5^ < 5, как в этой теореме, и, применяя ее с е < 5q/2, У = Л, а =И|д и g = f, получим единственное такое отображение ^3: Л —> U{A), что (5 о f = f о (5. По предложению 6.4.6 множество Л:= (5{к) гиперболическое. Чтобы показать, что (5 инъективно, применим теорему о семействах е-траекторий иначе: выбирая е таким же, как и прежде, у = Л, включение а' = Id |д и д = /', получим такое отображение /г, что ho f = f oh. Важно
§ 18.2. УСТОЙЧИВОСТЬ ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ 573 U . ._ " иметь в виду, что в теореме о семействах е-траектории мы можем использовать /' вместо /, если е достаточно мало. Мы утверждаем, что hoр =ld и, следовательно, h =I3~^ —гомеоморфизм. Теперь используем относящуюся к единственности часть теоремы о семействах е-траекторий в случае f =/', когда, тривиальным обра^м, а о/ = = / о а и в то же время, как доказано выше, (5 о f — f о (5, где f3:= ho р. Поскольку d^^a, Д) = d^oCld, h о р) ^ ^С7«(И, Ыор)-\- ^^(ЫоД h о р) = = d^(Id, P)-\-d(ld^ h) < 5q, из утверждения о единственности теоремы о семействах е-траекторий следует, что ^3 = а =Id|д. D Замечание. Утверждение единственности из теоремы о семействах е-траекторий используется здесь вместо свойства разделения в доказательстве теоремы 2.6.3. Следствие 18.2.2. Диффеоморфизмы Аносова структурно устойчивы. Сопряжение единственно, если оно достаточно близко к тождественному отображению. Использование теоремы о семействах е-траекторий 18.1.7 для потоков с помощью аналогичных рассуждений позволяет получить сильную структурную устойчивость гиперболических множеств потоков. Теорема 18.2.3. Пусть Л с М — гиперболическое множество гладкого потока ip*- на М, Тогда для любой открытой окрестности V множества Л и каждого S >0 существует такое е >0, что если ф^ — другой гладкий поток и (1с1{у^,'Ф) < s, то существует инвариантное гиперболическое множество Л для ф и гомеоморфизм h: Л —> Л, где d^{ld, h) Н- dgo(Id, h~^) < 5, который является гладким вдоль орбит ip и задает орбитальную эквивалентность потоков (риф. Кроме того, векторное поле h^ф С^-близко к ф, и если /ii, h^ —два таких гомеоморфизма, то h^^ o/ij —замена времени потока (р {близкая к тождественной). Следствие 18.2.4. Потоки Аносова С^ -сильно структурно устойчивы в смысле определения 2.3.6. Другое непосредственное применение теоремы о семействах е-траекто- рий— конструкция марковской аппроксимации, согласно которой компактное локально максимальное гиперболическое множество является фактором топологической цепи Маркова. Теорема 18.2.5. Любое компактное локально максимальное гиперболическое множество А диффеоморфизма f является фактором топологической цепи Маркова а^. Кроме того, для любого е>0 можно выбрать А таким, что образы базисных цилиндров Q\:=Cl^nC^ под действием полусопряжения h: П^ —>М имеют диаметр, меньший чем s, Доказательство. Пусть 5>s>Q выбраны как в теореме о семействах е-траекторий. Рассмотрим множество Л = {Х^^..., Xj^_,} — открытое покрытие множества Л с diam(X^) < е/2 и й1ат{}(Х^)) < е/2 для всех г. Определим А..^ для г, j € {О,..., iV - 1} следующим образом: А^^. = 1, если f{X.) П X. ф0, я А.. = О в противном случае. Выберем точки р.. € Х^ и определим отображение а: fi^ —>Л равенством ос{и}) = р^ .
574 Часть 4. Гл. 18. ТОПОЛОГИЧЕСКИЕ СВОЙСТВА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ Заметим, что отображение а непрерывно: если ш, ш' € fi^ близки, то а;о = о;^ И, следовательно, а(ш) = a{uj'). В силу выбора д. и Х,- с)аце- ствует точка ж €/(Х^^) П Х^ и, следовательно, d(a(£7^(a;)),/(а(а;))) = = ^(Р.;^, /(Р4>)) ^ ^(Р.;,' ^)+^(^> /(Р4>)) < ^/2+^/2' откуда d^(aa^, /а) < е. По теореме о семействах е-траекторий е-орбиты OL(a\{(jj)) = р^ 5-прибли- жаются орбитами I5((jj), где (5 € C°(fi^,A) и ^Зо^д = fP- Отображение (5 сюръективно: если ж 6 Л, выберем о; € 0^ так, что /'(ж) € Х^.' Тогда как точка X, так и ^3(а;) 5-приближают {ос((^а{^)))%€ъ и, следовательно, в силу единственности они совпадают. Поскольку й(Д а) < 5, диаметр образов базисных цилиндров fiji = а"' (р^) под действием полусопряжения ^3 не превосходит 25. Чтобы получить неравенство для топологических энтропии, мы уточним эту конструкцию и используем определение топологической энтропии с помощью покрытий, содержащееся в упражнениях 3.1.7—3.1.9. Пусть, как и выше, Л — покрытие X открытыми множествами Х^,. Зафиксируем п € N и рассмотрим покрытие Д V /"^(Д) V ... V /*"'*(Д) =: Л^ множествами вида Рассмотрим подпокрытие В покрытия Л^ с минимальным возможным числом элементов. В упражнении 3.1.7 это число обозначалось N(A^). Состояния нашей новой топологической цепи Маркова задаются теми мультииндексами / = (^,..., **n-i). Для которых пересечение (18.2.1) принадлежит В (см. определение 1.9.10 п-кратной топологической цепи Маркова). Для двух таких мультииндексов / = (^,..., г^_() и /' = (^',..., *'n-i) определим элемент A^j, матрицы переходов следующим образом. Положим A^j, = 1, если il^ = 4+1 для О^А;^п — 2и Сюръективное непрерывное отображение Ид на Л задается точно так же, как прежде, а именно мы выбираем точку р^ в каждом элементе П /*'(Х^) fc=0 ' покрытия В, переводим цилиндр fi^ в pj- и используем теорему о семействах е-траекторий. По третьему утверждению предложения 3.1.7 Очевидно, /itop(^I) ^l^^-^C-^™). поскольку (стдУ —подсистема топологического сдвига Бернулли с iV(Jl„) символами. -Таким образом, для любого е >О мы можем найти такое п, что \^^((t^) ^ - log(iV(^^)) ^ /itopC/U' '^) + Некоторые из специальных кодировок, рассмотренных в предшествующих главах, например в п. 2.5 в и § 16.1, являются гомеоморфизмами. Другие, включая полусопряжение топологической цепи Маркова и гиперболического автоморфизма двумерного тора, предъявленное в п. 2.5.г, и кодирование
§ 18.3. СПЕКТРАЛЬНОЕ РАЗЛОЖЕНИЕ И СПЕЦИФИКАЦИЯ 575 аттрактора Смейла в § 17.1, представляют собой необратимые полусопряжения. Однако в любом из этих случаев каждая точка обладает лишь конечным числом прообразов и множества, на которых эти полусопряжения не инъективны, динамически не очень значимы. В частности, топологическая энтропия топологической цепи Маркова и кодируемой системы равны, а не отличаются на е, как в теореме 18.2.5. В § 18.7 мы покажем, что выполнения этих свойств для любого локально максимального гиперболического множества можно добиться с помощью конструкции марковских разбиений. Упражнения 18.2.1. Сформулируйте и докажите аналоги теорем 18.2.1 и 18.2.5 для гиперболических отталкивающих множеств (см. определение 6.4.3). 18.2.2*. Пусть F: Т^-+Т^ — необратимый и иерастягивающий гиперболический эндоморфизм тора, т. е. отображение, задаваемое целочисленной матрицей с определителем, абсолютное значение которого больше единицы, но одно из собственных значений по модулю меньше единицы. Покажите, что отображение F не является структурно устойчивым. § 18.3. Спектральное разложение и спецификация 18.3 а. Спектральное разложение для отображений. Мы переходим к анализу характера возвращаемости орбит на локально максимальных гиперболических множествах. Основная конструкция (спектральное разложение) показывает, что неблуждающее множество компактного локально максимального гиперболического множества диффеоморфизма / распадается на конечное множество таких компонент, переставляемых /, что на каждой из этих компонент некоторая степень / является топологическим перемешиванием. Теорема 18.3.1 (спектральное разложение). Пусть М — риманово многообразие, множество UаМ открыто, /: If ^^М — диффеоморфизм и Ас и — компактное локально максимальное гиперболическое множество /. Тогда существуют такие непересекающиеся замкнутые множества Лр ..., Л^ и такая перестановка а элементов {1,..., т}, что т -Л/Т7(/|л)= и Л^, /(A;) = A^(fj и если а''{г) = г, то f^\f^ —топологическое перемеиливание. Доказательство. Определим отношение х ^ у нз. множестве Рег(/|л) (которое плотно в NW{f\j^) по следствию 6.4.19) следующим образом: х^у тогда и только тогда, когда W''{x)r\W'{y)^0 и W'{x)n П W"(y) 7^0, где оба пересечения трансверсальны по крайней мере в одной точке. Мы хотим показать, что это отношение эквивалентности, и получить множества Л^ как замыкания классов эквивалентности. Заметим, что отношение ~ тривиальным образом рефлексивно и симметрично. Для того чтобы проверить транзитивность, предположим, что x,y,ze Fix(/* 1л) и р € W''{x)nW''{y), q € ТУ (у)ПТУ (^) — трансверсальные точки пересечения. По Л-лемме (предложение 6.2.23) образы шара с центром р в множестве W"(p) = W"(x) = /*'(W"(2;)) стремятся к W"(s^), так что множества ^{х) и W'{z) пересекаются трансверсально.
576 Часть 4. Гл. 18. ТОПОЛОГИЧЕСКИЕ СВОЙСТВА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ По предложению 6.4.21 любые две достаточно близкие точки эквивалентны, так что в силу компактности мы получаем лишь конечное число классов эквивалентности, (попарно непересекающиеся) замыкания которых будут обозначаться через Aj,..., Л^. Они переставляются отображением / в соответствии с перестановкой <т, т. е. /(Л^) = Л^^^^. Пусть к —порядок а. По следствию 6.4.19 мы имеем -^ТУ(/|д) с Рег(/|л), поскольку множество Л m локально максимально, так что U Л,. =NW(f\j^). г = 1 Осталось показать, что f'lj^ —топологическое перемешивание. Для этого прежде всего заметим, что если точка р € Л^ периодическая, Р'^ q, где Я — другая периодическая точка, то по определению найдется гетерокли- ническая точка z е W"(p) П W'{q). Пусть N — общий период точек ряд. Тогда Л-лемма показывает, что q является точкой накопления множества ТУ"(р), так что W"(p) плотно в множестве Л^ П Рег(/|д), а следовательно, и в Л^. Теперь напомним (см. определение 1.8.2), что нам осталось показать, что для любых двух открытых множеств и я V в А существует такое М € N, что f^iU) nV ф0 для всех т'^ М. Для открытых множеств Ц V с Л из плотности периодических точек следует существование такой точки p€U, что Р(р) = р. Так как множество tf открыто, оно содержит окрестность W/(p) точки р в неустойчивом многообра- оо ЗИП р. Так как множество W"(p)= U /""(W/Cp)) плотно, существует та- кое т^еК что УП \JГ''{Щ(р))ф0>- Поскольку /*(И7(р)) — окрест- .=0 ность точки f^(p) в И^"(/*'(р)), можно определить также такую после- т, довательность mj,..., m„_t € N, что VO |J /*"^''*(W7(p)) ^ 0. Положим М = max (n Н- l)m^.. Тогда для m ^ М мы имеем V П U /*(W/(p)) ^ 0 и, *: i = 0 следовательно, Vn/"*(C/)^0. D Следствие 18.3.2. Если компактное локально максимальное гиперболическое множество А является топологически перемеиливаю- щим, то периодические точки плотны в А и неустойчивые многообразия каждой периодической точки плотны в Л. Доказательство. Спектральное разложение должно быть тривиальным. D Следствие 18.3.3. Диффеоморфизм /, суженный на компактное локально максимальное гиперболическое множество, топологически транзитивен тогда и только тогда, когда перестановка с из теоремы 18.3.1 является циклической. Следствие 18.3.4. Пусть А — такое связное компактное ло- кально максимальное гиперболическое множество диффеоморфизма /, что A = NW{f\^) (или, что равносильно, периодические точки которого плотны в А). Тогда f\j^—топологическое перемешивание. Доказательство. Спектральное разложение должно быть тривиальным. D Следствие 18.3.5. Пусть /: М^М —такой диффеоморфизм Аносова компактного связного многообразия, что NW{f) = М. Тогда f является топологическим перемешиванием.
§ 18.3. СПЕКТРАЛЬНОЕ РАЗЛОЖЕНИЕ И СПЕВДФИКАЦИЯ 577 Замечания. 1. Так как надстройка диффеоморфизма Аносова — поток Аносова, а надстройка никогда не является топологическим перемешиванием, следствие 18.3.5 не имеет места для потоков. 2. Неизвестно, верно ли равенство NW{f) — М для каждого диффеоморфизма Аносова /: М —^ М, хотя это весьма вероятно. Это равенство выполнено, если М = Т" (предложение 18.6.5). Однако, как мы отметили в конце § 17.7, для потоков Аносова неблуждающее множество не всегда совпадает со всем многообразием. 18.3 6. Спектральное разложение для потоков. Разложение на топологически транзитивные компоненты для потоков может быть легко получено с помощью слабых устойчивого и неустойчивого многообразий (упражнение 18.3.7). Однако, как мы отмечали, следствие 18.3.5 не имеет места для потоков, потому что надстройка не может быть топологическим перемешиванием. Таким образом, чтобы все-таки получить топологическое перемешивание, необходимо исключить возможность появления надстройки с помощью некоторых дополнительных предположений. Мы покажем, что контактные потоки Аносова являются топологически перемешивающими. Этот класс, в частности, включает геодезические потоки на римановых многообразиях отрицательной секционной кривизны (см. п. 5.D б и теорему 17.6.2). Следующий результат играет важную роль в получении мультипликативной асимптотики роста числа замкнутых геодезических на многообразиях отрицательной секционной кривизны (теорема 20.6.10). Теорема 18.3.6. Контактные потоки Аносова на связном многообразии являются топологически перемешивающими. Доказательство. Рассмотрим контактный поток Аносова ^': М -+ —^ М и покажем, что сильно неустойчивое многообразие W"(p) плотно в М для каждой периодической точки р потока ^^. Аналогично тому, как это имеет место для диффеоморфизмов, из этого факта следует топологическое перемешивание. Пусть dim М = 2т-1. Контактная форма 9 индуцирует инвариантную гладкую меру, соответствующую элементу объема в /\{йв)^~^, так что по теореме Пуанкаре о возвращении 4.1.19 NW{ip^) = M. Таким образом, топологическая транзитивность следует из связности и наличия спектрального разложения. Достаточно показать, что множество W"(p) плотно в окрестности U точки р, потому что тогда классы эквивалентности, определенные пересечениями многообразий, открыты, так что на самом деле есть только один такой класс и W"(p) плотно. Чтобы доказать этот факт, прежде всего заметим, что если q — такая периодическая точка, что существует точка z е W^oc(9)n WJm(p)> то найдутся такие целые числа а^-^Ь^^ оо, что если г я а — периоды точек ряд соответственно, то ajb^ —^ а/т. Но тогда ip'''^'^(z) -^ q я qe W"(p). Кроме того, если множество U достаточно мало, то для каждой периодической точки q^U локальное слабое устойчивое многообразие точки q я локальное сильно неустойчивое многообразие точки р пересекаются и, таким образом, существует такое число t вблизи нуля, что W^l^(^^(q))r\W^l^{p)фQ>. Итак, мы показали, что множество W(p) «трансверсально плотно» в С/, т. е. если Т —диск в U, трансверсальный потоку, то проекция ТУ(р)П U на Т вдоль потока плотна в Т.
ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ Отметим также, что для такой точки q замыкание W{q) также содержится и в И^"(р), потому что многообразие W^"(p) стремится к WJ^(g) в силу непрерывности сильно неустойчивого слоения. Вспомним теперь о проблеме исключения надстройки. Здесь мы будем существенно использовать наличие контактной структуры. Лемма 18.3.7. кег 6» = Е+ Ш Е-. Доказательство. Прежде всего покажем, что контактная форма в обращается в нуль на (сильно) устойчивых векторах. Для этого заметим, что единичное касательное расслоение М компактно, так что по непрерывности форма 9 ограничена, т. е. если v — произвольный вектор, то \0(v)\ ^ const-Ц^Ц. Если veE~(x) — сильно устойчивый вектор, то из V?'-инвариантности формы О следует, что \0{v)\ = \<p^O{v)\ = \0{ip^{v))\ ^ ^ const-llv^'C^)!!* Но последний член стремится к нулю, так что ^(г;)=0. Аналогично, легко видеть, что 9 обращается в нуль и на неустойчивых векторах. D Следствием этого утверждения является тот факт, что если через ф обозначить векторное поле, порождающее поток ^, то (10{ф^у) = 0 для всех векторов V. Таким образом, если мы разложим векторы v и гу на компоненты v' и гу' в направлении потока и v^, w^ в направлении Е'^ Ш Е~, то Теперь с помощью последнего равенства мы покажем, что (р^{р) € W"(p) для плотного множества значений t из окрестности 0. Для этого выберем два вектора v € Е'^{р) я w е Е~{р) таким образом, что dO{v, w) фО\ это возможно, потому что в — невырожденная форма. Далее, рассмотрим короткие кривые с„: [О, е]-> Жос(р) ^ с '. [О, е]-> Жос(р)» являющиеся отрезками геодезических в этих подмногообразиях. Для достаточно малого е найдется точка Z € W^^(c^{e)) П Т^Д(с„(е)). Выберем t^ так, что z' = ^~''{z) е ^ ЩоЛ^^{^))' Существуют гладкие кривые -у^ с W^l^{c^(e)) и 7„ С Ж^(с„(е)), идущие в 2 и 2' соответственно. Так как сильно устойчивое и сильно неустойчивое слоения непрерывны в С^-топологии, эти кривые можно считать «почти параллельными* с^ и % соответственно. Например, можно параллельно перенести касательные векторы к с^ вдоль геодезических в соответствующие точки 7tt, и гарантировать, что получившееся векторное поле вдоль 7«, настолько близко к касательному векторному полю, насколько нам нужно, при условии, что е достаточно мало. Заметим также, что с точностью до произвольно малого гладкого возмущения можно считать точку z периодической. Перенос кривых с^ и 7^^, под действием потока ^^^ представляет собой четырехзвенную ломаную, соединяющую точку р с точкой ^^^{р) кривыми из сильно устойчивого и неустойчивого слоев. Добавляя маленький отрезок орбиты р, мы, таким образом, получаем замкнутую кусочно гладкую кривую с. Она проектируется в простую кривую в трансверсали Т, так что эту кривую можно рассматривать как границу поверхности А, инъ- ективно проектирующейся на поверхность 7г(А) в Т. Теперь заметим, что с точностью до умножения 9 на постоянный множитель по теореме Стокса мы имеем t^^\e=\de= \ do. с А тг(Л) Последний интеграл равен £^d9{v, w)(l-\-о{е)) и, следовательно, можно считать, что он принимает плотное множество значений в окрестности нуля.
§ 18.3. СПЕКТРАЛЬНОЕ РАЗЛОЖЕНИЕ И СПЕЦИФИКА1ДИЯ 579 Как было отмечено перед началом рассуждений, любая точка z с указанными выше свойствами содержится в W"(p) и, кроме того, в этом же множестве лежат только что полученные точки v''(p). Следовательно, множество W"(p) содержит отрезок орбиты р и проекции на локальную транс- версаль по направлению потока. Это значит, что множество W"(p) плотно в достаточно малой окрестности V точки р. Как отмечалось в начале рассуждений, из этого факта следует топологическое перемешивание. D Мы советуем читателю попробовать применить вариант приведенного соображения в упражнении 18.3.4, чтобы получить другой критерий топологического перемешивания. 18.3 в. Спецификация. Далее будет приведен самый сильный из всех упомянутых ранее результатов об изобилии периодических орбит в гиперболическом множестве. Он состоит в том, что можно предписать динамику периодической орбиты, указав конечную совокупность произвольно длинных отрезков орбиты с любой заданной наперед (но фиксированной) точностью: если позволить себе ждать достаточно большое время между определяемыми отрезками, можно найти периодическую орбиту, аппроксимирующую данную совокупность отрезков. Подчеркнем, что время между отрезками зависит только от качества приближения, но не от длин этих отрезков. Как мы увидим в § 18.5 и в гл. 20, теорема Боуэна о спецификации — весьма полезный и мош^1ый инструмент для исследования топологической структуры гиперболических множеств, а также статистических свойств орбит внутри таких множеств. Здесь будут доказаны две немного различные теоремы о спецификации. Более сильная форма свойства спецификации следует из предположения, что рассматриваемое гиперболическое множество топологически перемешивающее. Как следствие мы получим более слабое утверждение, вытекающее из одной только топологической транзитивности. Связь между этими свойствами обеспечивается спектральным разложением на перемешивающие компоненты (для итераций) (теорема 18.3.1). Определение 18.3.8. Пусть /: X —> X — взаимно однозначное соответствие множества X. Спецификация S = {r^P) состоит из конечной совокупности т = {/р ..., 1^} конечных отрезков /- = [а-, fej с Z и та- m кого отображения Р: Т{т):= \J I. —^ X, что для ij, ^ € / € т мы име- ем /'^~*'(^(*i)) = ^(*2)* Спецификация S называется п-разделенной, если ^i + \ > bi-\- п для всех г € {1,..., тп}, и минимальное такое п называется разделением S. Говорят, что S параметризует совокупность {Рг | I € т} отрезков орбит /. Мы полагаем T{S):=T{r) и L{S):= Ь{т):= Ь^ - а^. Пусть {X,d) — метрическое пространство. Тогда говорят, что спецификация S £-приближается точкой хеХ, если d{f'^{x)^ Р{п))<£ для всех п€ T{S). Таким образом, спецификация есть параметризованное объединение отрезков орбит Р\^ отображения /. Пусть (X^d) — метрическое пространство я f: X -^ X — гомеоморфизм. Тогда говорят, что / обладает свойством спецификации, если для любого е>О существует такое М = M^eN, что любая М-разделенная спецификация S е-приближаетсяточкой из X и, кроме того, для любого q'^M-\-L{S) существует периодическая орбита периода q, е-приближающая S.
580 Часть 4. Гл. 18. ТОПОЛОГИЧЕСКИЕ СВОЙСТВА ГИПЕРБОЛИЧЕСКИХ ЛШОЖЕСТВ Теорема 18.3.9 (теорема о спецификации). Пусть А —топологически перемешивающее компактное локально максимальное гиперболическое множество диффеоморфизма f. Тогда /|д обладает свойством спецификации. Замечание. Нетрудно показать, что из свойства спецификации следует, что /|д — топологическое перемешивание (упражнение 18.3.8). Сначала покажем, что в топологически перемешивающем гиперболическом множестве все неустойчивые многообразия равномерно плотны (ср. с обсуждением специального случая гиперболических автоморфизмов тора в § 1.8). Предложение 18.3.10. Если А —компактное локально максимальное гиперболическое множество f и /*. Л —> Л — топологическое перемеиливание, то для а > О существует такое N eN, что для ж, у б Л и n^N выполнено условие P{W^{x)) п WJ(y) ^0. Доказательство. Напомним, что множество Y в метрическом пространстве X называется е-плотным, если X — е-окрестность Y. По предложению 6.4.21 определена локальная структура произведения, т. е. существует такое <^* >0, что множество W^{x)r\W^(y) состоит не более чем из одной точки, при условии что 0< S ^ 6* и функция £{6) такова, что если d(x, у) < е{5), то W;{x) П W;{y)^0. Пусть 5 := min{S\ а/2, е(а/2)/4}. Чтобы найти N, рассмотрим е(а/2)/2-плотное множество {Pjk | А; = 1,..., г} периодических точек (с периодами i^.). По следствию 18.3.2 неустойчивые многообразия каждой периодической точки из Л плотны в Л, так что существуют такие числа тп^., что образ /"*''(W'/(pj.)) будет в(5)-плотен для всех г т^гп/^я всех к. Пусть N = YI "^kh- Заметим, что множество f^{W^{p^.)) будет е(5)-плотным для всех к. Теперь покажем, что N обладает нужным свойством: для х^уеА возьмем такое i, что d{x, р^.) < е(а/2)/2, и такое z е f^(W^{pj.)), что d{y, z) < е(5) и W € W,^z) П ТУ/(у). Тогда ГЦю) е W;{f-^(z)) С ТУ," (р,) С W;,^^,y,{p^l так что d(f'^(w),x) ^ е(с«/2) по неравенству треугольника. Таким образом, существует v € W^^.if-^ (w)) П W:^,(x) и Г И € Г (Wg2(x)) П 1^ W^a/2("') С f^(W^{x)) П W^(y}^<2>, поскольку 5 < а/2. Наконец, заметим, что для ж, у € Л, п'^ N выполнено включение f (W^{x)) П W^(y) э r^i^), Pi f^'iW^iVi)) Г (=) Рис. 18.3.1. Плотность устойчивых и неустойчивых многообразий
§ 18.3. СПЕКТРАЛЬНОЕ РАЗЛОЖЕНИЕ И СПЕЦИФИКАЦИЯ 581 Доказательство теоремы 18.3.9. Рассмотрим для (5 ^min{e, S*} и а = (З/Ъ соответствующее число N, полученное в 18.3.10, и потребуем, чтобы М ^ N было таким, что Л^ < 1/2, где Л —скорость сжатия в определении гиперболичности 6.4.1. Положим х^ =/"°'(P(at)) и следующим образом определим Х2^х^,..., х^. По предыдущему предложению ддя данного ж^ существует такое ж^. ^ ^ что r^^чч^^)&r^^'''^{w:(fHч)))nw:{P{a,^,)), поскольку по условию %+1 - bfc ^ iV. Чтобы показать, что х:= х^ —требуемая орбита, заметим, что, поскольку /"'(ж^) € WJ^{P(ai^)) по построению, d{r{x,), Р{п)) = d(r(x,), Г-^(Р{а,))) ^а=р/3 и, следовательно, по неравенству треугольника все будет доказано, если мы установим следующий результат. Лемма 18.3.11. Для всех nel^., ^ ^[^» "^]» выполнено неравенство а{Г{х),г{х,))^2р/з. Доказательство. Мы покажем, что /''"(х) е'\¥щ^{/''''{х^)). Поскольку 5^ Л^^" < 2 и а = (3/3, утверждение будет доказано, если показать, что /'Чз^к + Ле ТУД^д^^ ..^^«(.-.(/'''(xj). Для г = 1 это верно по определению. Далее, /''^^t + r+i )eW:,^{fHx,^r)l поскольку f''^-{x,^,^,)e ^^a(f''''^'i4 + r)) И bfc^.^-bjfe^rM, так ЧТО МЫ получаем наше утверждение по индукции. D Чтобы показать, что приближающая орбита может быть сделана периодической, мы будем считать, что /3 ^ min{e/2C, е, 25*}/2, где число С вводится так же, как в лемме Аносова о замыкании (теорема 6.4.15), и выберем соответствующее число М так же, как и прежде. Если q "^ М + L{S) — наш период, «замкнем» 5 путем перехода к спецификации S' = (т', Р'), где г'= г и {{а^-\-q}} И Р'\^^^^=Р, Р'(а^-\-q)^ Р{а^), которая, очевидно, М-разделена. Мы, таким образом, получаем такую точку х':=■ f^ (х) Е А, что d{x',P{x')) ^а{х',Р(щ))-\-а{Р{х%Р{а^)) ^ е/2С, и, следовательно, по лемме Аносова о замыкании, такую точку 2 6 А периода q, что d{P'^'^{z), Р{х')) ^ е/2 для всех п е [О, q]. Неравенство треугольника завершает доказательство. П Производя спектральное разложение в перемешивающие компоненты и применяя, в частности, следствие 18.3.3, мы немедленно получаем такую теорему. Теорема 18.3.12. Пусть А — топологически транзитивное компактное локально максимальное гиперболическое множество диффеоморфизма /. Тогда существует такое N eN, что для любого е>0 и каждой конечной совокупности С отрезков орбит f существует М-разделенная спецификация S, параметризующая С, разделение которой зависит только от е и которая е-приближается точкой из А и £-приближается орбитами периода qN для всех q ^ {М -\- L{S))/N. Различие между заключением этой теоремы и свойством спецификации состоит в том, что здесь мы не имеем полной свободы в выборе спецификации, так как периодичность перестановки перемешивающих компонент может позволить переходы лишь в определенные моменты. Опишем аналог свойства спецификации для потоков.
582 Часть 4. Гл. 18. ТОПОЛОГИЧЕСКИЕ СВОЙСТВА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ Определение 18.3.13. Предположим, что ^ — поток на множестве X. Спецификация S = {t,P) состоит из конечной совокупности т = {/j,.. .,/^} ограниченных отрезков /^=[a^,feJcR и такого отображения Р: Г(т):= [J I -^ X, что для t^,t2e I ет выполнено равенст- ВО f^~^^{P{ti)) = P{t2). Спецификация S называется 9-разделенной, если ^i + i > bi + в для всех г € {1,..., т}, и минимальное такое О называется разделением S. Говорят, что S параметризует совокупность {Р^ \1 ет} отрезков орбиты /. Положим Г(5):=Г(т) и L(S):= Ь{т):= max Г(т) - min Г(т). Если (X^d) — метрическое пространство, будем говорить, что спецификация S е-приближается точкой хЕХ, если d((^'(x), P{t))< е для всех t 6 T{S). Таким образом, спецификация есть параметризованное объединение отрезков орбиты P|j- диффеоморфизма /. Если {X, d) — метрическое пространство и (р — поток, то говорят, что (р обладает свойством спецификации, если для любого е > О существует такое М = М^ € R, что любая М-разделенная спецификация S е-приближается точкой из Л и, кроме того, для любого 5 ^ М + L(S) существует орбита периода з\ е-приближающая S, причем \з — 5'| < е. Для этого понятия спецификации выполнена теорема о спецификации для потоков. Теорема 18.3.14. Пусть А — топологически перемешиваюи^ее компактное локально максимальное гиперболическое множество гладкого потока ip. Тогда (^|д обладает свойством спецификации. Эта теорема доказывается с помощью леммы Аносова о замыкании для потоков (следствие 18.1.8) и того факта, что неустойчивые многообразия периодических точек плотны, аналогично доказательству теоремы 18.3.9. Упражнения 18.3*1. Используя результаты упражнения 1.9.9, докажите, что неблуждающее множество NW(<Xj^) любой топологической цепи Маркова допускает разложение, подобное тому, существование которого установлено в теореме 18.3.1. 18.3.2. Приведите пример такого локально максимального гиперболического множества Л диффеоморфизма f:M—*-M компактного многообразия М, что NW{f)nA^NW{f\ji^). 18.3.3. Продолжите отображение /: Л—>R^ из п. 2.5 в до такого диффеоморфизма сферы Римана 5^ = R^U{oo}, что iVW(/) = {p}U{g}UA, где р — притягивающая неподвижная точка, q — отталкивающая неподвижная точка и Л — инвариантное гиперболическое множество, рассмотренное в п. 2.5 в. 18.3.4. Покажите, что транзитивный поток Аносова является топологическим перемешиванием, если он обладает двумя периодическими орбитами с несоизмеримыми периодами. 18.3.5. Докажите, что любая транзитивная топологическая цепь Маркова обладает свойством спецификации. 18.3.6. Докажите аналоги теорем 18.3.1 и 18.3.9 ддя гиперболических отталкивающих множеств. 18.3.7. Рассмотрим компактное локально максимальное гиперболическое множество Л потока (р^. Покажите, что имеется разложение Л ;= NW{(p^\f^) на конечное число непересекающихся топологически транзитивных множеств Л^. 18.3.8. Покажите, что любой гомеоморфизм компактного метрического пространства со свойством спецификации является топологическим перемешиванием. 18.3.9. Докажите, что любой фактор системы со свойством спецификации также удовлетворяет свойству спецификации.
§ 18.4. ЛОКАЛЬНАЯ СТРУКТУРА ПРОИЗВЕДЕНИЯ 583 § 18.4. Локальная структура произведения В предложении 6.4.21 наличие локальной структуры произведения было доказано как следствие локальной максимальности. Теперь мы хотим показать, что наличие этой структуры на самом деле эквивалентно локальной максимальности. Теорема 18.4.1. Компактное гиперболическое множество А с локальной структурой произведения локально максимально. Доказательство. Мы хотим показать, что каждая орбита,.остающаяся достаточно близкой к Л в течение всего времени, на самом деле содержится в Л. Начнем со специального случая. Лемма 18.4.2. Пусть А — компактное гиперболическое множество с локальной структурой произведения. Тогда суи^ествуют такие числа 5j, ^2 > О, что если х € Л, уе W^{x) и d{P{y), А)<8^ для всех те е N, то уеА. Доказательство. Пусть К:= sup||Z)/||, где верхняя грань берется по некоторой окрестности Л, и е > О — допустимый размер локальных устойчивого и неустойчивого многообразий в определении локальной структуры произведения. Обозначим через d" метрику на неустойчивых слояХ' W". Тогда существует такое М > О, что d"(p, W'{q) П W^{p)) < Md(p, g), если d{p,q) достаточно мало, и W'(q)nW^(p)^0. Для любого S^ ^ ^ тт{1/(МЙГ), 1/2, е/2} выберем 6^ ^ 5J{MK) так, что если d{x, у) < 5^, ■го ^li^)^ ^&(У)Ф^' Чтобы завершить доказательство, мы должны показать, что выполнено следующее утверждение: если х G Л, у е ^^"(х) и ^(Г(з/),Л)<&г длявсех те€^ то а„:= min ^"(/"(y), 2) = о'для некоторого те€N. zeAnw {f н) Для этого сначала покажем по индукции, что а„ < 5^ для всех те € Nq. Для си это верно по условию. Если а„ < 5j, выберем -г € Л так, что diriy). zj < ^2, и заметим, что {pj := {[z„, Г{у)]}= ^sMnhw,^Sf4y)) = ='Ws(zjnW2\{P{x)) = {[z^,f'4x)]}cA благодаря наличию локальной структуры произведения, так что а„ < d'*(f''(y), р„) < Мб^ ^ SJK. В силу нашего выбора К мы, таким образом, имеем a„+j ^ Ка„ < 6^. С другой стороны, по третьему утверждению теоремы 6.4.9 для достаточно малого ^^1 > О существует такое м > 1, что если а„ < 6^, то a„+i ^ ма„. Следовательно, а„ =0 для всех те е No- □ Чтобы свести доказательство теоремы к лемме, используем гетероклини- ческие точки. Пусть £>0 таково, что из неравенства d{p, g) < £ следует, что Wl^^iP) ^ ^^2^^") ^ ^- Возьмем ^з < тт{6^/2, е}. Если у таково, что d(P(y), А) < ^3 для всех те еZ, то существует такое х еЛ, что 0ф ^&^/2(у)^ ПТ^.>(х)=: Ы. Но d{rip),A)^d{r(ylA) + d{rip),r{y))<5^/2 + -\-5^J2=S^ддяn>0иd{r{plA)^d(r{p),riy))^dip,y)<5^JVlяn^0, так что по лемме 18.4.2 мы имеем ре А. Аналогично, можно показать, что {д} := W^^(y)n Wl^(x)cA, так что из наличия локальной структуры произведения следует, что {у} = W^^(p) П W^^2(4) <^ ^^ Q
ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ Упражнения 18.4.1. Покажите, что следующее свойство гиперболического множества Л отображения /: и —* М эквивалентно локальной максимальности: существует такая открытая окрестность V множества Л, что для любой такой дайной точки у, что / (у) G У для всех п G N. найдется точка а; G Л, для которой у G W'(x). 18.4.2. Докажите, что образ любой п-кратной топологической цепи Маркова (определение 1.9.10) под действием сопряжения полного сдвига 02 с множеством Л подковы, рассмотренной в п. 2.5 в, является локально максимальным гиперболическим множеством подковы. 18.4.3. Пусть Л — такое же множество, как в предыдущем упражнении. Докажите, что любое замкнутое локально максимальное подмножество множества Л является образом некоторой п-кратиой топологической цепи Маркова (рассматриваемой как подсистема сдвига Og)- (Сравните с теоремой 16.1.1.) 18.4.4. Постройте пример совершенного топологически транзитивного гиперболического множества, которое не обладает локальной структурой произведения. § 18.5. Плотность и рост числа периодических орбит Ранее мы столкнулись с несколькими аспектами взаимосвязи между изобилием замкнутых орбит и гиперболичностью. Так, лемма Аносова о замыкании (следствие 6.4.19) гарантирует плотность периодических точек в неблуждающих множествах гиперболического множества. Мы также вычислили экспоненциальную скорость роста p(f):= Ит (1/п) log"*" P^{f) чи- ела периодических орбит для некоторых примеров, и оказалось, что она равна топологической энтропии отображения / (предложение 3.2.3, следствие 3.2.4, предложение 3.2.6 и предложение 3.2.5). С помощью следствия 15.2.2 и устанавливаемого позже следствия Д 5.11 можно показать, что неравенство h^opif)^Pif) выполняется для различных классов систем в малых размерностях. В настоящий момент мы обладаем техническими средствами, для того чтобы показать, что, как было замечено в конце п. 3.z д, из гиперболичности следует совпадение топологической энтропии и скорости роста числа периодических орбит. Теорема 18.5.1. Пусть М — компактное риманово многообразие, множество U СМ открыто, /: U -^ М — диффеоморфизм и AcU — компактное локально максимальное гиперболическое множество диффеоморфизма /. Тогда р(/|л) = ^(/1л)- Доказательство. Поскольку отображение /^ := /|д разделяющее, по предложению 3.2.14 мы имеем p(/i) ^ hxopifi)- Чтобы доказать обратное неравенство, сведем проблему к случаю, когда /i — топологическое перемешивание: сначала можно рассмотреть /2'-= filimu)' поскольку h^Q^(f^) = = h^op(f2) из (3.3.1), а это равенство является, в свою очередь, следствием вариационного принципа (теоремы 4.5.3). Спектральное разложение (теорема 18.3.1) позволяет заключить, что существует такое п G N, что множество NW(f^) разлагается на конечное количество компонент, на которых отображение /g" является топологическим перемешиванием. По второму утверждению предложения 3.1.7 достаточно рассмотреть ограничение отображения /з = /g" на топологически перемешивающую компоненту X максимальной топологической энтропии, т. е. p(f^) = пр{/2)= "'P(/i)
§ 18.5. ПЛОТНОСТЬ И РОСТ ЧИСЛА ПЕРИОДИЧЕСКИХ ОРБИТ 585 Описанное сведение к топологически перемешивающему случаю позволяет применить теорему 18.3.9 о спецификации. Любой элемент (п, е)-от- деленного множества Е^ может быть е/2-приближен периодической точкой периода ш + M^j^. По неравенству треугольника для метрики dl эти точки ие могут совпадать. Таким образом, существует по крайней мере card(-EJ„) различных периодических точек периода п -\- Мф, следовательно, Pn+Mjfz) ^ ^(/з^ ^» ^). и потому р(/з) ^ ^,р(/з). а Заметим, что после сведения к топологически перемешивающему случаю мы использовали только свойство спецификации. Таким образом, мы показали, что для разделяющих отображений со свойством спецификации (определение 18.3.8) топологическая энтропия равна скорости роста числа периодических орбит. Полезно отметить, что, хотя локально максимальные гиперболические множества диффеоморфизмов представляют собой основной пример разделяющих отображений со свойством спецификации, существуют и другие важные классы таких преобразований. Отметим в этой связи транзитивные топологические марковские цепи, а также более общие классы символических систем типа софических систем (см. упражнение 20.1.2). Оставшаяся часть этого параграфа посвящена дальнейшему анализу поведения скоростей роста числа отделенных множеств и периодических орбит для таких отображений, как рассмотренные выше, что приводит в конечном счете к усиленному варианту теоремы 18.5.1. Как и ранее, будем использовать только разделение и свойство спецификации. Лемма 18.5.2. Пусть f: X -^ X —разделяющий гомеоморфизм компактного метрического пространства с константой разделения 6^ (см. определение 3.2.1 U. Тогда для О < е < 5^/2 и 5 >0 существует такое число С^^, что N{f^ 5, п) < C^^N(f^ е, п) для всех п G N. Доказательство. Возьмем е < 5q/2, и пусть iV G N и а > О таковы, что diN^iir^'ix). ГЧу)) ^ 2£ ^ d{x, у) < 6 d(x,y)^a^d^'^^,{r^{x),r^iy))<S. Если Е — максимальное (п, 5 )-отделенное множество и F —максимальное (п, е)-отделенное множество, то для х ^ Е можно найти такую точку z(x) е F, что dl{x, z{x)) ^ е. Таким образом, card(^) = X) card(^^), где Е^:={хеЕ \ z{x) = z}, и утверждение будет доказано, если мы получим оценку числа card(^^), не зависящую от п. Но если х,уе Е^, то d/(x, у) ^ 2е по определению Е/, следовательно, d(/*(x), /*(?/))^ S (г e[N,n- N)) в силу выбора N, и, таким образом, по выбору а и так как точки х и у (п, (5)-отделены, мы получаем d(x, у) > а, или d{r{x),r{y))> а. Следовательно, card(^J = card{(x, /"(х)) | х е Е^} ^ max{card А\АсХ х X X, d{a, Ь)> а V(a, Ь) в А}, так как пары (х, /"(х)) образуют в точности такое а-отделенное множество. D Замечание. Очевидно, для 6 > е мы можем полагать С^ ^ = 1. Лемма 18.5.3. Пусть /: X -* X — разделяющий гомеоморфизм компактного метрического пространства со свойством спецификации.
586 Часть 4. Гл. 18. ТОПОЛОГИЧЕСКИЕ СВОЙСТВА Г-ИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ Тогда для Q<£ < (5^/3 существуют такие к^^К^> О, что m mm 1 j-i j-i Доказательство. L Доказательство верхней оденвси вовсе не m использует спецификацию. Если Е — (5Z Пу, е)-отделенное множест- з = \ во и F^ — максимальное (п-, е:/2)-отделенное множество, то для х G е Е существует такое z(x):=(zi(x),,.., z^,(a;)) G i^i х ••• х F^, что i/(/"'"^ *"^^'-'(х), Zj.(x)) < е/2 и отображение z(-) инъективно. Таким об- m m разом, card(F) < XI card(i^.) = П -^(Z ^/2, "-j). и мы можем положить з=\ j=l 2. Если Е- — (пу, Зе)-отделенное множество, а^ = щ-\ \-n-^^-\'{j—\)M^, где М^ определено в формулировке свойства спецификации, и I. = [Ду, а- + + Tij. — 1], то свойство спецификации означает, что для х := (xj,..., х^) G е -^1 X • • • X £J^ найдется такое z =z{x), что d^if^iz), Xj) < е. Поскольку по определению множество Е :={z{x)\xeEi х- • х^^} (а^-\-п^^ е:)-отделено, мы установили, что ^ Y[N{f,3s,n.), m Поскольку а^ + п^ = {т — 1)М^ + X) ^i' ^^ первого пункта доказательства следует неравенство j^i m и m Предложение 18.5.4. Пусть X —компактноеметрическое пространство и f: X -^ X —разделяющий гомеоморфизм с константой разделения <5q и со свойством спецификации. Если О < е < 6q/3, п б N и числа fcg и К^ определены, как в лемме Ic.S.S, то Доказательство. По следствию 3.2.13 мы имеем h{f) = = lim - log N(f, ег, n) для e: < 5q. Таким образом, из леммы 18.5.3 следует, п-»оо '^ что i log fc,iV(/, £, n) < lim ^ log Nif, e, kn) = %(/) < ^ log ii:,iV(/, ^, n). ц
§ 18.5. ПЛОТНОСТЬ И РОСТ ЧИСЛА ПЕРИОДИЧЕСКИХ ОРБИТ 587 С учетом этих результатов теперь совсем нетрудно получить уточнение асимптотики из теоремы 18.5.1. В доказательствах предложения 3.2.14 и теоремы 18.5.1 было показано, что в силу разделения и спецификации N(f, 2е, п-М,)^ РМ) ^ N{f, S, п). Из этого факта и из предложения 18.5.4 немедленно вытекает следующая теорема. Теорема 18.5.5. Пусть X — компактное метрическое пространство и f: X -^ X — разделяющий гомеоморфизм со свойством спецификации. Тогда существуют такие Сц Cg > О, что для п € N выполнено неравенство c.e"V'^4-P„(/)^C2e"V'^'. (18.5.1) Спектральное разложение (теорема 18.3.1), свойство спецификации (теорема 18.3.9), следствие 6.4.10 и второе утверждение предложения 3.1.7 позволяют нам применить только что доказанное предложение и, таким образом, получить (18.5.1) (для всех п G N) для / = ^|д, где Л — локально максимальное топологически перемешивающее гиперболическое множество диффеоморфизма F или, более общим образом, локально максимальное гиперболическое множество, все топологически транзитивные компоненты которого являются топологически перемешивающими. Для произвольного локально максимального множества можно найти такое число iV, что отображение F^ обладает последним свойством (из теоремы 18.3.1). Тогда, принимая во внимание третье утверждение предложения 3.1.7, легко видеть, что соотношение (18.5.1) выполнено для такого множества Л при всех п € N, кратных N, Таким образом, мы доказали следующее утверждение. Теорема 18.5.6. Пусть А — компактное локально максимальное гиперболическое множество диффеоморфизма /, все топологически транзитивные компоненты которого являются топологически перемешивающими. Тогда существуют такие числа с^, Cg > О, что соотношение (IS.o.l) имеет место для всех п G N. Если А—компактное локально максимальное гиперболическое множество диффеоморфизма /, то существует такое число iV G N, что соотношение (IS^5Л) выполнено для всех п = kN € N. Для потоков утверждения двух последних теорем выполняются в модифицированной форме. Во-первых, вместо числа орбит, длины которых не превосходят данного числа, удобнее рассматривать число Pj.^(tp*) = = ^т + Л^Р^)~^т~г(^Р^) периодических орбит с периодами из полуинтервала (Т — е, Т + е]. Во-вторых, доказательство для случая дискретного времени опирается на тот факт, что периодические точки, период которых не превосходит данного числа, образуют отделенное множество, в то время как в случае потоков мы должны вместо этого оценивать размер отделенного множества точек, расположенных на орбитах периода, близкого к t. Это приводит к появлению в нашей асимптотике члена, кратного t. Таким образом, мы получаем следуюищй результат. Теорема 18.5.7. Пусть X — компактное метрическое пространство и tp ^разделяющий поток со свойством спецификации. Тогда существуют такие константы с^уС^ >0, что для t >0 выполнены неравенства c,e''^^^^^tP^,(^')^c^e'^^^\ (18.5.2)
588 Часть 4. Гл. 18. ТОПОЛОГИЧЕСКИЕ СВОЙСТВА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ Отсюда немедленно получается также такая теорема. Теорема 18.5.8. Пусть А — компактное локально максимальное топологически перемешивающее гиперболическое множество потока (р. Тогда существуют такие константы Ci^c^ >^' ^^^ соотношение (18.5.2) верно для t>0. Упражнения 18.5.1. Покажите, что ддя транзитивной топологической цепи Маркова <г^ предел существует, и вычислите его. Это более сильное утверждение, чем (18.5.2). 18.5.2. Пусть L — (т X т)-целочисленная матрица с определителем, равным единице, для которой ни один корень из единицы не является собственным значением, но два его собственных значения по модулю равны единице. Пусть i^: Т"* —> Т"* — индуцированный автоморфизм тора. Докажите, что Urn ^ logP^iF^) = h^opi^L )• "° величина P„(-Fb )е~"^^ ^' не отделена от нуля. 18.5.3. Покажите, что для гиперболического автоморфизма тора F^ выполнено равенство 4op(-^L) ~ S ^°& ^ i • ^■^^ ^ i — собственные значения L. |А,|>1 § 18.6. Глобальная классификация диффеоморфизмов Аносова на торе В этом параграфе будет показано, что в случае диффеоморфизмов Аносова на торе структурная устойчивость приводит к глобальной классификации. Мы уже видели в § 2.6, что в пределах гомотопического класса гиперболического автоморфизма любое отображение / (и, следовательно, любой диффеоморфизм Аносова) имеет линейную модель в качестве фактора. Сначала будет показано, что любой диффеоморфизм Аносова гомотопен линейному гиперболическому. Ключевую роль в доказательстве этого факта играют теорема 18.5.6 и формула Лефшеца (8.6.1). Затем мы докажем, что полусопряжение с линейной моделью на самом деле инъективно, следовательно, является гомеоморфизмом. В качестве промежуточного результата, представляющего независимый интерес, покажем, что неблуждающее множество совпадает со всем тором. Теорема 18.6.1. Каждый диффеоморфизм Аносова п-мерного тора топологически сопряжен с линейным гиперболическим автоморфизмом. Доказательство. Предположим, что диффеоморфизм /: Т" -* Т" является диффеоморфизмом Аносова. Его гомотопический класс содержит в точности одно линейное отображение F^: Т" —*■ Т". Лемма 18.6.2. Отображение F^ гиперболическое. Доказательство. Утверждение эквивалентно гиперболичности линейного отображения /^, индуцированного диффеоморфизмом / на фундаментальной группе Z" тора Т", потому что соответствующая матрица определяет F^ на Т". Сначала, используя спектральное разложение (теорему 18.3.1), представим неблуждающее множество NW{f) как объединение
§ 18.6. КЛАССИФИКАЦИЯ ДИФФЕОМОРФИЗМОВ АНОСОВА НА ТОРЕ 589 компонент, на которых некоторые степени /^ топологически перемешивают, так что по теореме 18.5.6 P„{f) будет иметь мультипликативную экспоненциальную асимптотику. Рассмотрим также неустойчивое расслоение -EJ+ отображения /. После перехода к двулистному накрытию тора Т" (которое по-прежнему представляет собой тор) мы можем считать Е"^ ориентируемым в смысле, объясненном в упражнении 8.6.4. Кроме того, на каждой перемешивающей компоненте /^ либо сохраняет, либо обращает ориентацию Е'^, так что, переходя к /^^, мы можем считать, что / — топологическое перемешивание на NW{f), сохраняющее ориентацию Е'^ (и P^{f) имеет мультипликативную экспоненциальную асимптотику). В этом случае все периодические точки данного периода имеют равные индексы 1 либо —1 (следствие 8.4.7). Таким образом, по следствию 8.6.16 формулы Лефшеца и равенству (8.7.1), из которого мы получаем число Лефшеца отображения тора, мы имеем PAf) = |Ь(Г)| = \L(f:)\ = I det(Id-/;)|. Если Л^,..., Ajt — собственные значения отображения /^ с учетом кратно- стей, то мы получаем х=1 |А,|>1 |АЛ<1 |А,|=1 1 г'Де П (АГ-1)= П К(^ + о{п))и\ П (-^г"-!)!-^ 1 Теперь заметим, |Д,1>1 |Д,1>1 |ДЛ<1 что если отображение /^ не гиперболическое, то lim | П (^."~1)1=^- п-»оо |А.|=1 Это очевидно, если Л^ — корень степени q из единицы, потому что тогда Х^ — Ц=0 для всех к EN. Если Л,- = е^'^ где а иррационально, то по предложению 1.3.3 дробная часть па может быть сделана сколь угодно малой, так что величина Л" может быть сделана произвольно близкой к 1, в то время как IЛ" —1|^ 2. Кроме того, lim | П (Af—l)| всегда отделен от нуля (что также легко проверить, отдельно рассматривая корни из единицы и случай иррационального а). Но это значит, что -P„(/)/(Ai • • • Л^.)" не может иметь мультипликативной экспоненциальной асимптотики, вопреки теореме 18.5.6. D Теперь из доказательства теоремы 2.6.1 мы можем заключить, что F^ — фактор отображения / и полусопряжение h этих отображений единственно и гомотопно тождественному отображению (и, следовательно, сюръек- тивно). Чтобы применить это доказательство для более высоких размерностей, нужно лишь переписать соотношения (2.6.4) и (2.6.5), используя векторнозначные функции и заменяя Лf^ и Л^* обратными отображениями к ограничению Df на сжимающееся и растягивающееся подпространства. Используя равномерную непрерывность, также легко проверить, что отображение h (и, аналогично, его поднятие Я на R") переводит устойчивые многообразия в устойчивые многообразия и аналогично неустойчивые многообразия в неустойчивые многообразия. Любое поднятие F отображения / не имеет никаких других неподвижных точек, кроме неподвижных точек отображения L, которое, в свою очередь, обладает в точности одной неподвижной точкой (по гиперболичности). Это
590 Часть 4. Гл. 18. ТОПОЛОгаЧЕСКИЕ СВОЙСТВА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ следует из рассуждении, которые использовались в доказательстве теоремы 8.7.1. В самом деле, | det(Id—/J| различных неподвижных точек отображения / поднимаются до точек, которые сдвигаются на различные целочисленные векторы. Фактически они принадлежат различным существенным (см. определение в § 8.7) классам эквивалентности. Если бы поднятое отображение обладало более чем одной неподвижной точкой, то и / имело бы несколько неподвижных точек, вопреки вычислению индексов. Таким образом, мы получаем следующую лемму. Лемма 18.6.3. Если F: R'^ -^R"" —поднятие диффеоморфизма Аносова и L —такое поднятие гиперболического автоморфизма, так что расстояние d(F{x)j L (х)) ограничено, то F имеет не более одной неподвижной точки. Лемма 18.6.4. Существует такое топологически транзитивное компактное локально максимальное гиперболическое множество Л отображения /, что /i(A) = T". Доказательство. Сначала покажем, что h{NW{f)) = Т". Если это не так, тогда h(NW(f)) — соответствующее замкнутое i^-инвариантное подмножество Т" и, таким образом, имеется периодическая орбита F^ в T"\/i(iVW(/)), прообраз которой относительно h представляет собой непустое компактное /-инвариантное подмножество множества T"\iVW(/), что противоречит следствию 3.3.5. Теперь, если х — точка с плотной J^^-орбитой и у£ NW{f)C[h~^{{x}), пусть Л — топологически транзитивная компонента, содержащая такую точ- ку 2/, как в теореме о спектральном разложении 18.3.1. Тогда Т" = 0(х) С С /1(Л). D Предложение 18.6.5. Если f: Т"-*Т" —диффеоморфизм Аносова на торе Т", то NW{f) = T'' (и, таким образом, по следствию 18.3.5 / является топологическим перемешиванием). Доказательство. Если утверждение неверно, то у диффеоморфизма / есть топологически транзитивная компонента, отличная от множества Л, из спектрального разложения, полученного в лемме 18.6.4. Таким образом, для некоторого I существует точка ^€Fix(i^^^')\/l(Fix(/'|д)), для которой I является минимальным положительным периодом. Здесь F^ такое же, как выше. Нетрудно видеть, что Л:=ЛП h~^({q)) — локально максимальное гиперболическое множество, потому что любая орбита из достаточно малой окрестности отображается под действием h в малую окрестность орбиты q и, следовательно, в силу разделения, в орбиту q. Так как по следствию 3.3.5 неблуждающее множество /1^^ непусто и по следствию 6.4.19 периодические точки плотны в нем, существует периодическая точка рЕ.К. По условию I не является периодом р, так что р' := /^{р)фр, в то время как h{p') = q. Выберем А: € N так, что /*(р) =р. Введем проекцию тг: R"-*T". Если 7г(а)=р, 'к(Ь) = р' и 7г(с) = ^, то отображения Ф(х) := F^(x + а)-а, Ф(х) := F^{x + с) - с, N{x) := Н{х + а)-с пространства Е" оставляют нуль на месте и проектируются в отображения (р, ф, TJ пространства Т". Так как отображение rj гомотопно Id, мы имеем N{x -\-v) = N{x) + v для v G Z". Теперь нетрудно видеть, что 77(7г(Ь — а)) = 1т{М{Ь — а)) = А(7г(Ь)) — 7г(с) = 0, так что существует такое
§ 18.6. КЛАССИФИКАЦИЯ ДИФФЕОМОРФИЗМОВ АНОСОВА НА ТОРЕ 591 тп е 7Г~*(Ь - а), что N{m) = 0. Поскольку (р{1т{Ь — а)) = 7r(F*(b) — а) = = Р{р') — Р = 7г(Ь — а), мы имеем Ф(гп) = т -\- v для некоторого v € Z". Но О = Ф(0)| = ЩМ{т)) = М{Ф{т)) = N{m + v) = Щт) + v=v, так что Ф(гп) = т. Если 6: R" -* R" — гиперболическое линейное отображение, полученное линейным продолжением Ф|2«, то d(Ф{x-\-v),Q{x-\-v)) = d(Ф{x)-\- + Ф(г;), 9(х)+Ф(г;)) = ^(Ф(х),в(х)) для х G R", vGZ", так что в силу периодичности это расстояние ограничено независимо от выбора точки х. Лемма 18.6.3 показывает, что у отображения Ф не может быть одновременно двух неподвижных точек m и 0. D В дальнейшем нам понадобится тот факт, что отображение Л собственное. Лемма 18.6.6. Если множество У с R" ограничено, то и H~^(Y) ограничено. Доказательство. Если I = [0,1 ]" СR" — каноническая фундаментальная область для T" = E"/Z", то К:=Н{1) — компактная фундаментальная область и множество А:= {I €Z" \1 Г\(К -\- 1)ф0} конечно. Поскольку К -\-l=H(I-\-h;^{l)), мы имеем Н~^{1)с \J(I + h;\l)), и по- l€A следнее множество компактно, так как А конечно. Так как ограниченное множество покрывается конечным числом сдвигов I, утверждение доказано. D Теперь мы докажем существование глобальной структуры произведения HaR". Лемма 18.6.7. Если хф у, то устойчивое многообразие точки х и неустойчивое многообразие точки у (оба для F ) пересекаются в единственной точке. Доказательство. Сначала докажем, что пересечение устойчивого и неустойчивого многообразий для F состоит не более чем из одной точки. Будем рассуждать от противного и предположим, что у G W'{x)C[ W"(x) и уфх. Выберем окрестность Р точки х с локальной структурой произведения, которая не содержит у. Поскольку множества W\P) = {z\W'(z)nP^ ф0} и W'4P) = {z\W'4z)nP ф0} открыты, W''{P)nW'{P) представляет собой окрестность точки у. Так как по следствию 6.4.19 периодические точки плотны в NW(f) = Т", существует поднятие у' /-периодической точки из множества W (Р) П W'4P)\P. Но Ш'Чу')ПРф0и W'{y)nP^0, так что благодаря наличию структуры произведения на Р найдется точка х' е W'iy') П W'^iy') П Р. Таким образом, без потери общности мы можем считать, что у G W'lx) П W"(x), уфх и х — поднятие неподвижной точки отображения / (быть может, после перехода к некоторой итерации). Меняя, если нужно, поднятие F отображения /, мы можем считать, что х — неподвижная точка отображения F. J^-гомоклиническая точка у по следствию 6.5.6 является неблуждающей точкой, так что, поскольку периодические точки плотны в NW(F), найдется периодическая точка z отображения F вблизи у. Но если п —период z, то тем самым показано, что отображение F" имеет две неподвижные точки, вопреки лемме 18.6.3. Чтобы показать, что W"(x) П W*(2/)#0 для всех х, у, заметим, что для данной точки у и Wq := W'(y) множество G:={x\ W"(x) nW^ ф0} открыто, потому что существует такая окрестность If множества Wq, что G = {x\ W"(x)nU"7^0}. Что^ показать, что G=W, докажем, что О замкнуто. Для этого возьмем weG, xEG вблизи w и {y} = W''{x)nWQ. Рассмотрим такие кривые 7: [О, 1]-^И^"(х)и77: [О, 1]-^\¥'{х),что у(0)=т]{0) = х
592 Часть 4. Гл. 18. ТОПОЛОГИЧЕСКИЕ СВОЙСТВА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ И 7(1) = 2/, Tj(l) = w. Мы покажем, что имеется такое отображение в: [О, l]x[0, l]-^R", что Это означает, что w Е G, так как ^(1,1) — нужная точка пересечения. Равенство (18.6.1) определяет в на [0,1] х {0} и {0} х [0,1]. Так как имеется локальная структура произведения, область V, соответствующая в в [О, If, открыта. Пусть t^:=sup{t\[0,l]x[0,t]cV}, s^:=sup{s\[0,s]x{t^}cV}, J:=[0,l]x[Q,t,y Чтобы показать, что e(J) ограничено, сначала заметим, что проекция h{e{J)) на неустойчивое многообразие У"(0) нуля для Fr вдоль устойчивых направлений V отображения F^ равна проекции Я(7([0, 1])), следовательно, компактна, и проекция на У*(0) вдоль У" содержится в проекции Я(77([0, 1])), так что множество Н{в(Л)) ограничено и, следовательно, e(J) ограничено по лемме 18.6,6.. Таким оОразом, имеется такая последовательность (5„, *„)^ (5о, ^) с 5„ ^ 5„+1, что ^(5„, *„) ^ i> ДЛЯ НеКОТОрОГО р G R". Без потери общности можно считать, что эта последовательность содержится в окрестности О точки р со структурой локального произведения. Тогда е{з,, К)^ И^"(р)ПИ^^(^(5„ i,)) = ^(5,, Ц) и ^(5„, t,)^ W'(p)C\ ПИ^"(^(5р ti)) = ^(so, ti), так что для любого (5„, T„)->(so, ^о) мы имеем Ит ^(5„,Т„)= lim И^"(^(5,, TJ)n И^^(^(5„, *,)) = П—►ОО П^ 00 Pr"(lim ^(ai,T„))nT^'(lim ^(5„,ti)) = Ty"(^(ai,to))nT^'(^(sb,ti))=p, n—» оо n—»oo следовательно, если положить в{з^^ Ц) =р, мы получим непрерывное продолжение отображения в, и тогда (sq, ^д) = (1, 1), что и завершает доказательство. D Так как слоения (т. е. локальные структуры произведения) непрерывны, существует гомеоморфизм Ф: Е"—>R^ xR""^, переводящий каждый слой И^"(х) в Е^ X {с} и каждый слой W'ix) в {с} х R"-^ Ф(х):= (И^*(х) П nW"(0), W"(x)n W*(0)). Чтобы завершить доказательство глобальной классификации, мы должны доказать следующее утверждение. Лемма 18.6.8. Полусопряжение инъективно. Доказательство. Сначала покажем, что полусопряжение Н инъективно на неустойчивых многообразиях /. Если мы обозначим через Б"(0, г) и Б*(О, г) г-шары в неустойчивом и устойчивом многообразиях нуля соответственно (используя естественные метрики d" и d"), то по лемме 18.6.6 существует такое г > О, что Н-^{1) С D{r):= {х \ И^"(х) П ПБ*(0, г)ф0 и И^*(х)ПБ"(0, г)7^0}. Так как замыкание множества I?(г) компактно, используя гомеоморфизм Ф и глобальную структуру произведения, мы получаем, что /х := sup{d"(x, у)\х,у eD{r), у е W"(x)} < оо. Теперь, если уе W4x) и Я(х) = Я(2/), положим х^:= F^^x), y^:=F'^{y). Тогда H{yJ = H{F-(y)) = F-{H{y)) = F-{H{^) = H(F-(x)) = H(xJ. Ho существуют такие l^ e Z , что Я(х^ + l^) = H{y^ + l^) e I, так что Xrn + L. Ут + L e i^(r), И потому d^F-(x), F-(2/)) = d"(x^ + Z^, Ут + LXf^ для всех rn e N. в силу гиперболичности это означает, что х = у, следовательно, Н инъективно на неустойчивых многообразиях.
§ 18.7. МАРКОВСКИЕ РАЗБИЕНИЯ 593 Аналогичные рассуждения доказывают инъективность полусопряжения Н на устойчивых многообразиях. Предположим теперь, что Н{х) = = Н(у) для некоторых х,у е М". Если существует гетероклиническая точка Z для X и 2/, то H{z) — гетероклиническая точка Н{х) и Н(у) (относительно i^), а это значит, что Н(х) = H(z) = Н{у), потому что у Fr нет нетривиальных гетероклинических точек. Но в силу инъективности Н на устойчивых и неустойчивых многообразиях х = z = y. Таким образом, поднятие полусопряжения Н инъективно. Само полусопряжение тогда также должно быть инъективным, потому что Н можно представить себе как сумму тождественного и периодического отображений: если к(тг{х)) = Н{тг{у)), то Н(х) = Н{у)-\-к для некоторого A;GZ" и, следовательно, Н{х~к)=Н(у), так что 7г(х) = 7г(2/). D Таким образом, мы получили сюръективное полусопряжение диффеоморфизма Аносова / с линейной моделью F^ и показали, что оно инъективно, следовательно, является сопряжением, и тем самым доказали теорему 18.6.1. а § 18.7. Марковские разбиения Мы встречались с понятием марковского разбиения неоднократно: при рассмотрении кодирования для растягивающих отображений (п. 2.4 б), при изучении множеств типа подковы для квадратичных отображений (п. 2.5 б) и подковы Смейла (п. 2.5 в), при исследовании гиперболического автоморфизма тора Т^ (п. 2.5 г), гиперболических отталкивающих множеств для общих одномерных систем (теорема 16.1.1) и аттрактсюа Смейла (§ 17.1). Во всех этих примерах марковские разбиения дают либо сопряжение с топологической цепью Маркова, либо полусопряжение, которые описываются весьма элементарным образом. Оказывается, это явление представляет собой феномен, характерный для малых размерностей и возникающий благодаря тому факту, что граница каждого из упомянутых множеств представляет собой конечное объединение отрезков устойчивых и неустойчивых многообразий. Уже для гиперболического автоморфизма тора ТР необходимо определять элементы разбиения таким способом, чтобы граница содержала несчетное множество отрезков устойчивых или неустойчивых многообразий. Таким образом, геометрическая структура марковских разбиений в высших размерностях оказывается гораздо более сложной. Однако возможность рассматривать марковские разбиения существует, и с помощью этих разбиений мы сможем установить достаточно хорошее соответствие между марковской моделью и компактным локально максимальным гиперболическим множеством Л. Мы будем обозначать через 1п1д и й'д соответственно внутренность и границу относительно топологии Л, Определение 18.7.1. Пусть Л — компактное локально максимальное гиперболическое множество. Выберем числа е, 5 и отображение [х, у] такими, как в предложению 6.4.13, и пусть т] = е. Тогда множество RCA называется прямоугольником, если диаметр R меньше чем rj/lOи [х, y]^R ппи vcлoвии. что x,vGR. Ппямоугольник R называется собственным, если
594 Часть 4. Гл. 18. ТОПОЛОГИЧЕСКИЕ СВОЙСТВА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ R=lnij^R. Положим W^{x):= W^'{x)nR дляхЕЕ, г=и, з, и d'R:= {xG eR\x^ 1п1лп;^-(х) W^{x)}, d^R:={xeR\x^ Ini^nw^.) WHx)}. Марков- CKUM разбиением называется такое конечное покрытие TZ = {Rq, ..., R^_ j} множества Л собственными прямоугольниками, что (1) Int R, П Int R^. =0ддягф j; (2) если X elnt R, и f(x)elniR., то W^ (/(х))С/(И^д"(х)) и f(W^ (х))с Полезно отметить следующий факт. Лемма 18.7.2. Если R —прямоугольник, то d^R = d''R ud^'R. Доказательство. Если xElnif^R, то х Elnij^^w^f^^^{R nW^(x)n пЛ) = 1п1д^Р^г-(г) W^(x), поскольку R —окрестность точки х в Л. Таким образом, ^■'Д'с^А-К. Аналогично, d'^Rddf^R. Если х е(1п!д^^.,^. И^д(х))П П (1п1дг^;у-^г) W^(x)'), то в силу непрерывности отображения [•, •] (см. предложение 6.4.13) существует такая окрестность U точки х в Л, что для всех у еи мы имеем [х, у]^ [у, х] е R, следовательно, у':= [[у, х], [х, у]]е R П П W;(x) П W;{y) С W;{x) П W;{y) с {у}, так что X е Intj, R. П Теорема 18.7.3. Компактное локально максимальное гиперболическое множество допускает марковское разбиение произвольно малого диаметра. Доказательство. Выберем малое число 6 >0, такое число е, как в теореме 18.1.3, такое j < е/й, что d(f{x),f{y)) < s/2 при d{x, у) < j, и 7-плотное подмножество Р := {pqj .••, Pn-i} гиперболического множества Л. Заметим, что Q{P):={uj eO^^ | ^(/(Pw.)j^a.. )< ^} — топологическая цепь Маркова. Для каждой ег-орбиты из ЩР) существует единственная точка/3(a;)G Л, которая )5-приблнжает е-орбиту си{и):= {р^}-^^^. Как отмечалось в доказательстве теоремы 18.2.5, отображение (3 сюръективно и непрерывно. Продолжим [•, •] на ег-орбиты, полагая м J Ч Лля i ^ О, ^ ' ^' ^ uj'. ДЛЯ г < О для любых и, и' G П(Р), для которых uJq = Ц. Тогда [•, ■] коммутирует с /3, т. е. /3([и, ^1)е И^/Д/?(a;))nИ^2"(/3(a;')) = {[/5(^),/3(^')]}• Пycть Д,':= {/3{и) I UJq = г}. Тогда R'^ — прямоугольник, поскольку для X = (3{cj)jy = (3{cj') е R'i мы имеем [о;, а;']д = г и, таким образом, [х, у] = [J3{uj), §(uj')l= ^{[uj uj']) e R'i. Далее, отметим, что множество TZ':= {R- I 1 ^ г ^ N} удовлетворяет условию, сходному со вторым условием из определения 18.7.1. А именно, предположим, что х = (3{uj), где (^о>Ч) = (^Л и что у = рiuj') е Wi.ixl где а;^-г. Тогда yeW;{f{x)), а также у = [х, у] = /3([а;, uj']) и, следовательно, f{y) 6 /3(о-([а;, о;'])) 6 Ду, так что f{y) 6 И^д',(/(х)). Это доказывает первую часть утверждения, аналогичного второму утверждению из определения, а вторая часть получается аналогично, т. е. fiWi,{x))cWi,{f{x)) и И^^",(/(х))с/(Н^^":(х)). (18.7.1)
§ 18.7. МАРКОВСКИЕ РАЗБИЕНИЯ 595 Заметим также, что по непрерывности отображения (3 множество Щ замкнуто. Однако, чтобы можно было получить марковское разбиение, соответствующие прямоугольники должны иметь попарно непересекающиеся внутренности. Для этого придется видоизменить эти прямоугольники. Для X G Л пусть lZ{x) обозначает множество прямоугольников из VJ, которые содержат точку х, и 72.*(х) — множество прямоугольников из 72.', которые пересекают какой-нибудь прямоугольник из 1Z'{x). Тогда множество А:={хеА\ W^'(х) П д'Щ = 2), W;^(x) П 5"Д; =0 для всех г} открыто и плотно. Если Щ П Щ ф 0, то разобъем Щ на четыре прямоугольника следующим образом: R(i,j]Ou) R(hj\ 00) R. П л'., {xeR]\w^S^x)c\R'. = Q>, и^д",(х)пд;.#0}, {xeR',\W^^x)f^Щф0, И^д",(х)ПД; = 0}, {x e R'j I w^.ix) n R'. = 0, w^,ix) n д; = 0} (18.7.2) и для xE A положим R(x) := f]{lntj^R{i, j\q)\xe Д,-, R'^ nR'^^0, x e € R{h J\ g)j Я ^ {зщОи, 50, 00}}. Тогда R{x) — прямоугольники, покрывающие R'^nA, и R(x) — конечное множество попарно непересекающихся открытых прямоугольников, так что 7г:= {R{x) I X е А} =: {R^,..., Д^_,} — конечное покрытие Л собственными прямо)^ольниками с попарно непересекающимися внутренностями. Покажем, что это нужное нам марковское разбиение. Для этого проверим, что выполнено марковское условие (2) из определения 18.7.1. Достаточно показать, что /(И^д.(х)) с И^л (/(х)) для X G -R; П/~'(Д-), так как вторая часть утверждения тогда будет установлена при рассмотрении /"'. Сначала покажем, что для х,уеА П/~*(А), у G WL^^(x) выполнено равенство Rlf{x)) = R{f{y)). Заметим, что если х = /3(а;), (а;о, а;Л = (г, i), то из (18.7.2) получаем /(?/) G/(И^^,,(х)) С/(Н^^;(х)) С И^л^(Лx)) с-R;. Таким образом, /(х), f{y) е Rj. Затем предположим, что R'. HR'^ ф0. Чтобы показать, что /(х), f{y) е R(3\ ^ ч) Л^я некоторого q е {su, Ou, 5О, 00}, заметим, что W^,{f\x))^W^.{f{y)), так что (по симметрии) достаточно проверить, что если7(-г)е И^д",(/(х))ПД;, то 0^ W^.{f{y))C\R'^. Покажем, что [f{z),f(y)\eW^.{f{y))C\Ф^,^U{z)).UoлoжmAx = P(ul(ш^,ш,)^^^ = 0{с^'), (Ч, (^[) = ik k). ToTAafiz)eW^,{f{x))Cf{W^.ix)) и, следовательно, Z е W^,{x) П R'l. Из равенства R{x) = R{y) следует, что х,уе R{i, j\ q) для некоторого q, так что найдутся элементы z' е W^,{y)nR'i и z":= [х, у] = = [2,2']6Wд^(2)nИ^л",(2/).Дaлee, 2=/3(а;'), тaкчтoУ(И^Д,(2))cH^д^^ Поскольку f{y), f{z) е Щ, а R'^ является прямоугольником, мы заключаем, что [/(z), f{y)\ е W^,(f{z))nW^,{f{y)). Таким образом. R{/(х)) = R{f (у)), как и утверждалось. Чтобы проверить, что выполнено марковское условие (2), положим С := \J{Wc{^) I ^ е и д'Щ}, ^" ••= U{^c"(^) I ^ ^ и d^'Rl}
596 Часть 4. Гл. 18. ТОПОЛОГИЧЕСКИЕ СВОЙСТВА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ и В := Л\((С" и С") П/->(С" и С")). Выберем С таким, что В С А':= А П/~^{А). Если хЕВ, то множество W^(^j(x)n А' открыто и плотно в W-^Ax), поэтому согласно предыдущему результату Д(/(2/)) = Д(/(х)) и, следовательно, /{\¥щщ{х))сЯ{/{х)), так ^^то fiW^^{x)) С ^Rif(x)){fi^))- Осталось только проверить это условие для произвольного X. Но если х е Int Л^ n/"*(Int Д^), то существует х' е В П nlntR^nf-^ilntRj) и fiWli^)) = fi{[x,y]\yeWi^{x')}) = {[f{x)J(y)]\yeWl{^^^^ С {[/(X), Z] I ^ е и^я,(/(^'))} с w^xfix)). □ Самое непосредственное следствие этого результата — существование полусопряжения компактного локально максимального гиперболического множества с топологической цепью Маркова. Теорема 18.7.4. Пусть Л — компактное локально максимальное гиперболическое множество, 11 = {R^,..., R^} —разбиение достаточно , J I, ecлuR,C\f-'(R.)ф<Z), малого диаметра и А^-:= < ^ t О, б противном случае. Тогда /|д—фактор топологической цепи Маркова (П^,ад). Полусопряжение h: 0^ —> Л инъективно на множестве /i"*(A), где Доказательство. Начнем с исследования пересечений, возникающих в марковских разбиениях. Назовем собственный подпрямоуголь- ник S Ф^ прямоугольника R неустойчивым подпрямоугольником, если Wg{x) = W^(x) для всех х G 5. Тогда выполнена следующая лемма. Лемма 18.7.5. Если S — неустойчивый подпрямоугольник прямоугольника R. и А..= 1, то f(S)C\Rj —неустойчивый подпрямоугольник прямоугольника К^. Доказательство. Пусть х Е Ri nf~^{R^.) и D := W^{x)n S ф0. Тогда 5 = и Wliy) и /(5) nR,= \J f{W^iy)) П R.. Но f\y) e R, (как yeD ' yuD показано в доказательстве теоремы 18.7.3) и f{W^{y)) П R^. = W^{f{y)), так что /(5)nR.= [j W^(z) = [W^ (/(x)), /(D)]. Этот прямоугольник собственный, потому что прямоугольники £?, и следовательно, f{D) собственные, и Rj =[W^ {f{x)),W^{f{x))], следовательно, W^{f{x)) тоже собственный. Это множество непусто, поскольку /{В)ф0. Наконец, если W G f{S) П Ду, то t/; € W^ (z) для некоторого z G f{D), так что W^ {w) = = W^iz)Of(S)f\R,.n ' Для w € 0^ определим к{ш)= f) f~'{R^). Это пересечение непусто, fez так как по индукции и в силу леммы 18.7.5 соответствующие пересечения непусты для конечных наборов множеств, и, так как / — разделяющее отображение, оно не может содержать больше чем одну точку. Отображение h
§ 18.7. МАРКОВСКИЕ РАЗБИЕНИЯ 597 непрерывно в силу соображений, доказывающих теорему 18.2.5, и сюръек- тивно, потому что h{Q^) — компактное множество, содержащее Л. Ясно, что hoa^=f oh и что каждая точка х G Л имеет только один прообраз. П Полезно также отметить следующий факт. Лемма 18.7.6. Во введенных выше обозначениях /{д'Щ с d^TZ и^"7гс/(^"7г). Доказательство. Для х е Ri существуют такие j] х„ е IntR^ П П/"*(Д^.)), что х„ —> х. Тогда A.j = l и х Е RiC\f~^{R^.), следовательно, W^{f{x))Cf{W^^{x)). Таким образом, если х i д'П, т. е. W^{f{x)) окрестность точки /(х) в W^{f{x)) ПЛ, то W^{X) — окрестность точки х в W^'(x)nA, так что х ^ ^'7^. Другое включение получается при рассмотрении /"*. D Другое интуитивное полезное следствие состоит в том, что топологическая транзитивность и топологическое перемешивание равносильны для гиперболических множеств и марковских моделей. Предложение 18.7.7. Если Л — компактное локально максимальное гиперболическое множество отображения /, то топологическая цепь Маркова а^, полученная в результате кодирования из теоремы 18.7.4, топологически транзитивна (соответственно перемешивающая), если /|д топологически транзитивно (соответственно перемешивающее). Доказательство. Если множества С(У G 0^ непусты и открыты, то существуют такие uj, uj'й (т^ и ш G N, что U':= С'"^--"'^ CU И У := С~,'^у;'^, С V (мы используем цилиндрические множества, определенные формулой (1.9.1)), следовательно, 0^ Uj^ := Int П /"Ч^^* ^и,,)^ 0^Vj,:= Int П film R^,) и, конечно. h-^(Uf^)cU'CU и h-^{Vj,)C —m ^ t ^ m с У с v. Таким образом, топологическая транзитивность или перемешивание / равносильны соответствующему свойству сг^. □ Можно задаться вопросом, при каких условиях полусопряжение, полученное в теореме 18.7.4, является сопряжением. Ясно, что необходимым условием является вполне несвязность А, потому что множество П^ вполне несвязно. К настоящему моменту у нас есть все необходимые технические средства для того, чтобы показать, что это условие на самом деле и достаточно (ср. с теоремой 16.1.1 в одномерном случае). Предложение 18.7.8. Пусть А — вполне несвязное компактное локально максимальное гиперболическое множество диффеоморфизма /: и ^М. Тогда /|д топологически сопряжено топологической цепи Маркова. Доказательство. Мы дадим набросок доказательства, пропуская подробности, которые читатель легко может восстановить. Построим покрытие прямоугольниками, которые являются одновременно открытыми и замкнутыми. Это можно сделать, взяв замкнутые открытые множества на устойчивом и неустойчивом многообразиях некоторой точки и используя для построения нужных прямоугольников структуру скобки [•, •]. Для каждой пары таких прямоугольников применим конструкцию
598 Часть 4. Гл. 18. ТОПОЛОГИЧЕСКИЕ СВОЙСТВА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ разбиения (18.7.2). Если диаметры первоначальных прямоугольников были достаточно малы, то полученные таким образом прямоугольники будут также одновременно открытыми и замкнутыми. Итак, мы получаем разбиение Л на непересекающиеся замкнутые прямоугольники, и, следовательно, существует такое 7 ^ ^» ^^'^° если расстояние между двумя точками меньше чем 7» то они содержатся в одном прямоугольнике и их скобка содержится в том же прямоугольнике. Теперь рассмотрим кодирование в соответствии с этим Ьазбиением. Это кодирование — инъективное непрерывное отображение. Его образ — замкнутое инвариантное подмножество полного сдвига, обладающее согласно предыдущему замечанию локальной структурой произведения. Поэтому по теореме 18.4.1 образ представляет собой локально максимальное подмножество сдвига. (Хотя упомянутая теорема была доказана для гиперболических множеств, она применима к сдвигам, потому что они могут рассматриваться как инвариантные подмножества типа подковы для гладких систем.) В заключение используем заключение упражнения 18.4.3, обобщенное на случай сдвига a■^^. Таким образом, образ Л относительно кодирования является iV-кратной топологической цепью Маркова (определение 1.9.10). Как объяснялось после этого определения, люоая п-кратная топологическая цепь Маркова топологически сопряжена топологической цепи Маркова. D Упражнения 18.7.1. Докажите теорему о спецификации 18.3.9 с помощью теоремы 18.7.4. 18.7.2. Докажите, что если в условиях теоремы 18.7.4 размерность М равна двум, то полусопряжение инъективно всюду за исключением объединения ие более чем счетного множества устойчивых и неустойчивых многообразий. 18.7.3. Докажите, что если в условиях теоремы 18.7.4 размерность М равна двум, то ^р(/1л)= ^top(^A)' ^Д^ Л —матрица из теоремы 18.7.4.
ГЛАВА 19 МЕТРИЧЕСКАЯ СТРУКТУРА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ В предыдущей главе основное внимание уделял-ось описанию поведения чисто топологических инвариантов, связанных с гиперболическими множествами. Топологическая динамика гиперболического множества тесно связана с динамикой топологических цепей Маркова, и, так как гиперболические множества возникают как инвариантные множества гладких динамических систем, естественно встает вопрос о том, как эта топологическая динамика вкладывается в гладкое многообразие. Главный вывод состоит в том, что все основные структуры, связанные с динамикой, являются гёльдеро- выми и иногда обладают даже некоторой степенью дифференцируемости (например, С*). Высшие производные существуют в весьма исключительных случаях. Оказывается, что гёльдеровость — это естественная степень регулярности для рассмотрения когомологических уравнений, подобных обсуждавшимся в § 2.9 для гиперболических динамических систем. Наш главный вывод — теорема Лившица 19.2.1—утверждает, что периодические препятствия дают полную систему инвариантов для гёльдеровых коциклов с точностью до гёльдеровой кограницы. Этот результат, как и его С*-аналог, имеет ряд полезных приложений. § 19.1. Гёльдеровы структуры 19.1 а. Инвариантный класс гёльдеровых функций. Ранее (в п. 1.9 а и упражнениях 1.9.1-1.9.3) мы рассматривали класс гёльдеровых функций на фазовом пространстве динамической системы. Этот класс возникал естественно, так как пространство представляло собой пространство последовательностей с одно параметрическим семейством естественно определенных метрик. Было отмечено, что эти метрики не только индуцируют одну и ту же топологию, но и порождают один и тот же класс гёльдеровых функций. В этом параграфе мы покажем, что класс гёльдеровых функций на гиперболическом множестве также возникает достаточно естественно. Одна из главных причин, побудивших нас обратиться к исследованию таких функций, состоит в том, что это даст нам возможность более детального анализа эргодической теории гладких гиперболических систем. Гёльдеровы функции будут использоваться при определении понятия давления, которое обобщает энтропию, и анализ давления, в свою очередь, позволит нам понимать поведение гладких инвариантных мер, например устанавливать их эргодичность. С другой стороны, естественная причина исследовать класс гёльдеровых функций, состоит в том, что, как мы увидим, основные структуры, связанные с гиперболичностью, гёльдеровы относительно гладкой структуры,
600 Часть 4. Гл. 19. МЕТРИЧЕСКАЯ СТРУКТУРА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ хотя они обычно не обладают никакой более высокой регулярностью (типа липшицевости или С). В частности, мы увидим, что топологическое сопряжение между двумя гиперболическими множествами всегда гёльде- рово и что, следовательно, класс гёльдеровых функций сохраняется при топологическом сопряжении, т. е. является инвариантом топологической динамики. Кроме того, мы покажем, что устойчивое и неустойчивое слоения являются гёльдеровыми. С использованием этого факта будет построена важная гёльдерова функция — скорость растяжения, давление (см. определение 20.2.1) для которой мы исследуем, чтобы получить информацию об инвариантных гладких мерах. Перед тем как перейти к общей теории, мы хотели бы подчеркнуть, что простой пример, показывающий инвариантность класса гёльдеровых функций, уже был приведен ранее. Гиперболическое множество подковы Смейла (см. п. 2.5 в) топологически сопряжено с топологическим 2-сдвигом Бернул- ли. При правильном выборе скоростей сжатия и растяжения легко видеть, что это множество изометрично пространству 2-сдвига с метрикой d^, как показано в п. 1.9 а. Следовательно, класс гёльдеровых функций этой символической динамической системы в точности совпадает с классом гёльдеровых функций на инвариантном множестве подковы относительно евклидовой метрики. 19.1 б. Гёльдеровость сопряжений. Теорема 18.2.1 о структурной устойчивости утверждает, что если Л с U с М — гиперболическое множество вложения /: U—*-М и f достаточно близко к / в С-топологии, то существует гиперболическое множество Л с ?7 для /' и такой гомеоморфизм h: Л-^Л, что hf=fh. В этом пункте мы хотим показать, что это сопряжение, и вообще любое топологическое сопряжение гиперболических множеств гладких динамических систем, производится посредством гёльдерова гомеоморфизма. Из этого следует, что класс гёльдеровых функций — инвариант топологического сопряжения. Гёльдеровость сопряжения легко доказать, проверяя, что сопрягающий гомеоморфизм является гёльдеровым отдельно вдоль устойчивых и неустойчивых слоев. Сначала покажем, что этого действительно достаточно. Поскольку это следует исключительно из того факта, что устойчивые и неустойчивые многообразия равномерно транс в ере а льны, мы докажем этот результат как абстрактную лемму о метрических пространствах, рассматривая устойчивое и неустойчивое слоения как два заданных отношения эквивалентности («вертикальное» и «горизонтальное»). Предложение 19.1.1. Пусть А — метрическое пространство с двумя заданными отношениямиэквивалентности ~;, и ~„, для которого выполнены следующие условия: существуют такие числа е > О, iTj е Е, что для а; ~;, у ~„ Z и d{x, z) < s выполнено неравенство d{x,yf + d{y,zf^K,d{x,z)\ и для двух достаточно близких точек х, у еЛ существует такая точка W, что x^f^w^^ у. Пасть у?: Л —j- X — такое отображение на метрическое пространство Л, что найдутся такие константы К2, а >0, что для d{x,y)<£ и x^f^y или х ~„ у выполнено неравенство d(4^(x),4^(y))^K2d{x,yy.
§19.1. ГЁЛЬДЕРОВЫ СТРУКТУРЫ 601 Тогда существует такая константа К^>0, что d(y?(x), у?(у)) ^ ^ KyK2K^d{x, уУ для любых достаточно близких точек х, у € Л. Доказательство. Доказательство существования такого числа К^ > > О, что для (х, у) € R^ имеет место неравенство (|хГ + |уГ)'/"^1Гз'^°(х=+у=)'/=, представляет собой стандартное упражнение из линейной алгебры. (Это ясно из рассмотрения графика {(х, у) € R^ | |х|" + |у|" = 1}.) Но тогда, взяв для X, у € Л такую точку ги, что х ~^ ги ~„ у, получим d{^{x), ^(y))^d(ip(x), ip(w))-\'d(^{wl ^(y))^K^(d(x, wy-\-d{w, уУ)^ ^ K,K,(d(x, wy + d{w, yfyl^ < K,K,K,d{x, y)^ □ Теорема 19.1.2. Пусть Л и А ^ компактные гиперболические множества для диффеоморфизмов f и f соответственно и h —f'hf-^: Л—J-Л — топологическое сопряжение. Тогда отображения h и h~^ являются гёльдеровыми. Доказательство. Так как отображения / и /' входят в формулировку утверждения симметрично, достаточно проверить, что отображение h гёльдерово. Кроме того, выше было показано, что достаточно установить гёльдеровость сужений h на устойчивое и неустойчивое многообразия. Поскольку h также сопрягает диффеоморфизмы /"' и /'"' (для которых устойчивое и неустойчивое многообразия меняются местами), достаточно доказать, что отображение Ь|^-(з,^^д является гёльдеровым для каждого хеЛ (с одними и теми же показателем и константой Гёльдера). Для этого выберем такие числа с, С, с < 1 < С, что С — постоянная Липшица для / и с — постоянная Липшица для /'~'1и^-, и такое число а > О, что сС* < 1. Зафиксируем Sq > 0. Так как множество Л компактно и отображение h непрерывно, следовательно, равномерно непрерывно, существует такое 6q > О, что неравенство d(x, у) < 6^ влечет d{h{x), h{y)) < Sq. Далее, если х, у € Л, у € W"(x) и 6 := d(x, у) достаточно мало, то существует такое число п € N, что d(/"(x), /"(у)) ^С6 <6q^ С"+* (5. Следовательно, в силу выбора 6q, d(/i(/"(x)), /i(/"(y))) < Sq. так что, используя неравенство сС" < 1, мы получим dihix), Цу)) = dU'-'^hrix), r^'hriy)) < с% = = с"5о" • £о/^" ^ (сС^УСЦе,/6,^)6^ < C4e,/6,-){d(x, у)у. q Этот результат показывает что для любой гёльдеровой структуры, связанной с компактным гиперболическим множеством, существует соответствующая гёльдерова структура на любом топологически сопряженном компактном гиперболическом множестве. Особый интерес представляют локальные карты, определяющие локальную структуру произведения. Иначе говоря, если точки X, у € Л достаточно близки, можно рассмотреть отображение голономииАп]¥'{х)-^АпШ'{у),г^-^^(г)пШ'{у), где все многообразия можем считать локальными, или скобку [х, у], определенную в 6.4.13. Строго сформулировать, что означает гёльдеровость этой голономии, можно следующим образом. Пусть диаметр всех многообразий W''(x), W'{x)
602 Часть 4. Гл. 19. МЕТРИЧЕСКАЯ СТРУКТУРА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ не превосходит 6q. Тогда существуют такие е, а, iif > О, что если z, z' е Л, x,yeW'(z), d(x,y)<£, d{z,z')<£, то d{W{x) n W'{z% Wiy) n W'{z')) < Kd{x, vY, и если z, z' еК ^,y€ W"(z), d(x, y) < e, d(z, z') < e, то d(W\x)nW''(z% W'{y)nW''{z')) < Kd(x, y) a Мы будем называть эти свойства гёльдеровостью зависимости неустойчивого многообразия от точки или гёльдеровостью неустойчивого (соответственно устойчивого) слоения. Из теоремы 19.1.2 немедленно получается такое следствие. Следствие 19.1.3. Пусть М^, М^-— римановы многообразия, множества и^ с М,. открыты и /,-: Ц -^ М -—вложения с компактными инвариантными гиперболическими множествами Л,. dU^ (г = 1, 2). Если зависимость устойчивого и неустойчивого многообразий /i от базовой точки гёльдерова и отображения /i и /2 топологически сопряжены, то зависимость устойчивого и неустойчивого многообразий /2 от базовой точки также гёльдерова. Поскольку по теореме 18.6.1 диффеоморфизмы Аносова на торе сопряжены с линейными моделями, для которых отображения голономии гладки, мы получаем еще одно следствие. Следствие 19.1.4. Диффеоморфизмы Аносова на торе обладают гёльдеровыми отображениями голономии. Этот последний результат на самом деле не зависит ни от наличия условия Аносова, ни от вида многообразия. Любое компактное гиперболическое множество обладает гёльдеровым слоением с тем же самым показателем, который будет получен для касательных распределений в теореме 19.1.6. Так как мы не нуждаемся в этом результате и его детальное доказательство достаточно громоздко, опустим это доказательство [*]. 19.1 в. Гёльдеровость орбитальной эквивалентности потоков. Аналог предшествующего результата применим к потоком, и соответствующие рассуждения очень похожи. Следует, однако, принять во внимание то новое обстоятельство, что орбитальная эквивалентность не единственна в направлении потока. Таким образом, имеет место следующий результат. Теорема 19.1.5. Пусть Ас М, К с М'-—компактные гиперболические множества для потоков ^ и ф соответственно. Предположим, что потоки ^ и ф орбитально эквивалентны, и обозначим отображение, устанавливающее эту эквивалентность, через h: Л—»-Л. Тогда существует гёльдерово отображение, произвольно С^-близкое к h и задающее ту же орбитальную эквивалентность. Доказательство. Начнем с локальной конструкции гёльдеровой орбитальной эквивалентности. Рассмотрим маленькие гладкие трансверсали к потоку: Т в точке р € А и Т' в точке q = h(p) е А. Тогда локально образ h(J) канонически проектируется в Т' вдоль орбит потока ^, и в силу тех же соображений, что применялись при доказательстве теоремы 19.1.2, композиция отображения h и этой проекции является гёльдеровым отображением. Здесь мы рассматриваем пересечения трансверсалей Т со слабым
§19.1. ГЁЛЬДЕРОВЫ СТРУКТУРЫ 603 неустойчивым и слабым устойчивым слоениями как классы эквивалентности из предложения 19.1.1. Теперь возьмем некоторое фиксированное S >0, построим покрытие множества Л образами маленьких гладких трансверсалей под действием потока (трубками тока) и зафиксируем соответствующие гладкие трансверсали в Л. Начиная с гёльдеровых отображений этих трансверсалей, построим локальные сопряжения трубок тока, сохраняющие время. Таким образом, мы получим локальные гомеоморфизмы этих трубок тока в множество Л. Чтобы склеить их в одно глобальное отображение, рассмотрим гладкое разбиение единицы, подчиненное покрытию Л вышеупомянутыми трубками тока. Теперь все образы точки х € А лежат на отрезке орбиты, и, таким образом, можно рассмотреть усреднение соответствующих временных параметров с весами, соответствующими элементам разбиения единицы в точке X. Эта процедура дает корректно определенное гёльдерово отображение h, которое является С^-близким к h и переводит орбиты потока у? в орбиты потока ф. Кроме того, h дифференцируемо вдоль орбит у?. Но проблема состоит в том, что отображение h может не быть монотонным вдоль орбит. Чтобы найти гомеоморфизм с требуемыми свойствами, используем тот факт, что, поскольку 6 сколь угодно мало, отображение h может быть сделано сколь угодно С°-близким к гомеоморфизму h. Это значит, чтoJ:yщecтвy- еттакое77>0, что для любого хбЛи Ь>т] выполнено равенство h{ip^{x)) = = ^'(h{x)), S >0. Следовательно, определяя h'{x):= - J h{ip^{x))dt (инте- ^ о грал понимается как интеграл по вещественному параметру вдоль орбиты точки х), мы получим требуемый гомеоморфизм h'. П 19.1 г. Гёльдеровость и дифференцируемость неустойчивого распределения. Покажем теперь, что неустойчивое распределение на гиперболическом множестве AcU вложения f:U~^M также является гёльде- ровым. Наш подход состоит в использовании того же способа, с помощью которого было получено доказательство теоремы Адамара — Перрона. Это распределение описывается как неподвижная точка некоторого сжимающего отображения и, таким образом, оказывается пределом любого близлежащего распределения под действием итераций дифференциала диффеоморфизма. Мы покажем, что действие дифференциала сохраняет гёльдеровость для соответствующих показателей и постоянных Гёльдера. В силу компактности множества таких распределений (по теореме Арцела — Аск- лоли П 1.24), начиная с гёльдерова приближения, мы получим гёльдерово неустойчивое распределение. Теорема 19.1.6. Пусть М — риманово многообразие, множество и сМ открыто и f: U —>-М — С^-^^-вложение с компактным инвариантным гиперболическим множеством AcU. Тогда устойчивые и неустойчивые распределения являются гёльдеровыми. Доказательство. Чтобы упростить наши оценки, выберем локальные координаты вблизи каждой точки следующим образом. Каждое касательное пространство Т^М=Е^^Е^ для р € А может быть снабжено линейной системой координат таким образом, что Е^ окажется «х-плоскостью» Ш!" X {0} YL Е~ — «у-плоскостью» {0} X Е"~*=. Эти координаты могут быть выбраны непрерывно зависящими от точки р. Существует такое е >0, что экспоненциальное отображение ехр^ (см.(9.5.1)) является вложением замк-
604 Часть 4. Гл. 19. МЕТРИЧЕСКАЯ СТРУКТУРА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ нутого шара радиуса е, jB(0, е) С Т^М в М для каждой точки р € Л. Это дает нам замкнутые окрестности Ур = В{р, е), р € Л, в которых существуют такие координаты, что р ~ О и в точке р пространство Е^ касательно к «х-плоскости» Ж*" X {0} и Е~ касательно к ^-«плоскости» {0} х R"~*=. Эти координаты непрерывно зависят от р в С°°-топологии, т. е. все производные непрерывно зависят от точки р, так как это свойство выполняется для ехр^. В качестве «приближений» неустойчивого распределения рассмотрим пространство С(6) fc-мерных распределений, содержащихся внутри горизонтальных (5-конусов. Действие / на £? е С{6) определяется формулой fMP) = Df(E{r\p))). ТогАа/,С{6)сС(6). Предположим, что Е е С(6). Если d{p,q)< 6, то мы можем перейти к координатам на V^, в которых точка q соответствует такой точке z, что ||z|| = d{p, q)< S (поскольку exp^ — «радиальная изометрия»). Подпространство в I^R", задаваемое распределением Е, может рассматриваться как график линейного отображения E(z) из «х-плоскости» R*" х {0} на «у-плоскость» {0} X R"~*=. Операторная норма E{z) дает верхнюю оценку на расстояние между Е'^(р) и E(q). В частности, мы хотим показать, что если Е = Е'^, то существуют такие константы iif > О и а € (О, 1), что ||£?(z)|| ^iir(|z||" для всех z изданной карты и для всех карт. Чтобы работать с распределениями с приближенным свойством гёльдеровости, положим С(6, £0, К) := {Е € С(6) I \\E(z)\\ ^ К а при £0^ ^е}. В то время как С{6, Sq, К)с С(6) по определению, дополнительное условие автоматически выполняется для достаточно больших К. ■ Лемма 19.1.7. Для 6^ eQ>О существует такое числоК=К(6^ ^)>^у чтоС(6)СС(6,е^,К). Доказательство. Поскольку распределение Е"^ непрерывно, следовательно, равномерно непрерывно, существует такая константа С > О, что Е^ ^ С для всех Е е 0(6) и \\z\\ < е. Но тогда если фиксировать Eq > О, то число К = Се^" обладает требуемым свойством. D Таким образом, мы выяснили, в частности, что для таких К выполнены условия f^(С{8)) С С{6) d С(8, Sq, К). На следующем шаге будет показано, что преобразование /^ улучшает оценки для распределений в С{8). Для этого мы используем локальные координаты подобно тому, как это делалось на пятом шаге доказательства теоремы Адамара — Перрона 6.2.8, и очень похожие оценки. Мы можем использовать очевидную блочную форму дифференциала Df — А В ^^ jj I по отношению к разложению координатных окрестностей ^ (А В в «х-плоскость» R*= X {0} и «^/-плоскость» {0} XR"~*=, где D/ = I ^^ jj где ^ * ■ -1 А -1 < М 1 + 2е' D. <\ ■? ВЛсь & <е, а ^i < Е для некоторых чисел А^ = Л<1<^и = ^и^, зависящих от точки х€ М. Если Е еС(8), то можно представить это распределение в координатах как гра-
§19.1. ГЁЛЬДЕРОВЫ СТРУКТУРЫ 605 фики линейных операторов Е^: Е*= —j-E"~*=. В эквивалентной, но более удобной форме мы можем представить эти графики как образы линейных отображений I ^ 1: Е*^—J-R", поскольку тогда f^Eof = {Df)E представляет собой просто отображение, задаваемое композицией Df I Е. I Е, " так что f^E о f представляется как (Df)E, = (q + ол){А, + влГ- Заметим, что здесь мы переходим от одной локальной системы координат к другой. Теперь ||Б^£?^А;^|| ^ ||Б^||||£?^||||А71 < е, поскольку \\Е^\\ ^6^1, следовательно, \\(А, + В,Е,) -1 м -1 А;Ч1 + 5,£;Ж^ГМ| ^ у^(1+2е) м -1 Поскольку ■ажение C,-\-D^E^\\^\\CM-^\\D^E^\\^(X-E)\\EM-\-L\\zr, мы, таким образом, имеем \\{0/)ЕЛ^1^-Ч{>^-^)\\ЕЛ + Ь\\гГ). Дифференциал (Df)E^ представляет f^E в образе z^ точки с координатой z, т. е. {Df)E^ = f^E^. Заметим, что если и~^ —константа Липшица отображения /~* в точке /(х), то \\z'\\ ^ i^ll^ll- Таким образом, если а <Р таково, что (19.1.1) В каждой точке и К^ L/e, то м~Ч(-^ — £)К-\-L)^ /л^^ХК и, следовательно. \\E{z)HK а влечет ||Л£?(гО|| ^ fi^'XKu^'' /М" <K\\z' а 1 (19.1.2) где z' соответствует образу точки с координатой z. Итак, мы имеем Г(С(6)) сС{6,Х'', К), где К := K{6,sup XJ. X вне (19.1.1) условием связывания. Теперь пусть для всех п е N Назовем усло- Rn-^{(rip)J4q))eMxM\di(p,q)^E, e,^d(p,q)^E} п и 5„ и Л„. Применяя (19.1.2) индуктивно, мы видим, что для любо- 1=0 то Е ^ С(6) и (х, ехо z) € S выполнено неравенство ||(Л")(2:)|| ^ К Теорема Ддамара — Перрона 6.2.8 гласит, что а оо {(x,y)eMxM\y^W''{x), d(x,y)^e}cS:= \J 5„. n = 0
606 Часть 4. Гл. 19. МЕТРИЧЕСКАЯ СТРУКТУРА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ Таким образом, неподвижная точка F преобразования /,, которая является координатным представлением £?+, удовлетворяет условию ||F(z)|| ^ТГЦ^Ц" (в координатах в окрестности х), если (х, ехр^ z) е 5. Так как 5 содержит окрестность диагонали в М х М, тем самым теорема доказана. D Замечание. На самом деле с помощью подобных соображений можно показать, что производные распределения Е в направлении его интегральных многообразий (т. е. неустойчивых многообразий преобразования /) являются гёладеровыми с тем же показателем. Далее мы покажем, что если условие (19.1.1) выполнено равномерно по х для некоторого а > 1, то неустойчивое распределение принадлежит классу СК Отсюда будет следовать, в частности, что неустойчивое распределение принадлежит классу С\ если его коразмерность равна единице. Чтобы придать смысл утверждению о том, что некоторое распределение принадлежит классу C^ необходимо отметить, что принадлежность к С^ можно определить для подмножеств многообразия, даже если последние не являются подмногообразиями. А именно, условие дифференцируемости просто означает существование линейного приближения в каждой точке и принадлежность к С* означает, что эти линейные приближения непрерывно зависят от точки, в которой они берутся. Оба эти понятия используют лишь наличие объемлющей гладкой структуры. Теорема 19.1.8. Пусть М —риманово многообразие, множество и С М открыто и f: U -^ М -— вложение с компактным инвариантным гиперболическим множеством К а U. Предположим, далее, что для некоторого а>\ условие связывания (19.1.1) выполнено для всех точек множества Л. Тогда устойчивые и неустойчивые распределения принадлежат классу C^ Доказательство. Чтобы использовать ту же стратегию, что прежде, заметим сначала, что дифференцируемость может быть доказана с помощью следующих оценок. Отображение Т: R"—j-R"* дифференцируемо в точке х, если для любой такой тройки векторов (vj, ^2, г;з)€(Е")^, что v^-\-v2-\-v^ = 0, выполнено условие Т{х^у,\) ^ Г(х + ^Л) _^ ^(^ + ^3^) _ f4- + ^ -Ь 4-) Т(х) О равномерно при {h^jh^y h^)~^0. Полагая у^ = 0, легко видеть, что существуют производные по направлениям; тогда (19.1.3) показывает, что они линейно зависят от направления. Наличие равномерности позволяет заключить, что этого достаточно, и дает, кстати говоря, непрерывность производных. (Оценки, подобные использовавшимся выше, показывают, что производные на самом деле гёльдеровы.) Для функции на многообразии заменим (х + v^hi) на exp^(v./i,.). Чтобы показать, что условие (19.1.3) выполнено для координатных представлений £?+, рассмотрим множество к?._ Гтройки (^1,^2,из) векторных полей на М, '~ 1где i7i +^2-1-^3=0 и 11^1 II -ЬЦ^зЦ + Ц^зЦ = 1 Обозначим vl{p) = DM{r^(p))/^(v,{r\p)), vJt\p)l v,{t\p))), где ^ € € Е выбрано так, что (vj, Vg, v'^) sB. Тогда отображение / действует (обратимо) на В следующим образом: 'P(vp Vg, ^3):= (vj, Vg, v'^) и V{B)=B. Чтобы
§19.1. ГЁЛЬДЕГОВЫ СТРУКТУРЫ 607 избежать сложных индексов, будем писать E{z) вместо Е^. Для доказательства дифференцируемости сначала установим следующую лемму. Лемма 19.19. Существуют такие е, ту > О, что для всех ре € М, (vj, ^2, v^) е В,0 < h^y п^у h^ < £ из условия E{exp{v,{p)h,)) ^ E{exp{v,{p)h,)) ^ E{exp(v,{p)h,)) \ h^ h^ <К следует, что для М, ^2»^)='Р(^р ^» ^) ^ Ц'-= ^ 'К выполнено нера венство Е(ехр{у[(р)h{)) Е(ехр(у;,(р)К)) , Е{ехр(у^(рЩ)) К + Ц ^ К <{\-г,)К. Доказательство. Чтобы избежать усложнения обозначений, положим C,:=C„p^„^(pj;,^j, Д := D„p^„^pj^^j, и пусть А, := (А,^„д^,л_, + + ^ехр<«,(р)/..)-Ё^(ехр(ч(р)^)))~'- Определим Е, условием h,E, = = h^h2h^E(exp(v^{p)h^)). Тогда мы должны оценить величину {hihiE(exp(v[(p)h[)) -Ь к[ЦЕ(ехр(у;,(рЩ)) -Ь h[hiE(exp{vi(p)hi))) = = eD,iE,-\-E,-\-E,)A,-\-{D,-D,)E,A^-\-D,E,(A,-A,)'^ -\-{D,-D,)E,A,-\-D,E,(A,-A,)-\-hJ,hiC,A,-\-h[h;C^A,-\-hlhiC,A,. Чтобы оценить первый член, заметим, что Как и ранее, если и^^ —константа Липшица отображения f'\ то ^ > i^, и если условие (19.1.1) выполнено для некоторого а > I, то (Л —e)jtA~V^ < < 1 — 2?? равномерно для некоторого г] >0. Таким образом, первый член оценивается числом (1 —2г])КЫЦЦ. Осталось показать, что другие члены существенно меньше первого. Но вторая группа членов стремится к нулю быстрее, чем кЩк^, потому что операторы А и D липшицевы и распределение Е непрерывно и обращается в нуль в нуле, так что эти члены дают вклад, не превосходящий т}К}г[}1^}ь!^/2 для достаточно малых h^. Аналогично, последний набор членов стремится к нулю быстрее, чем h[hiji'^, так как отображение С липшицево и обращается в нуль в нуле. Таким образом, мы получаем требуемую оценку. П Используем эту лемму для доказательства теоремы. Для этого рассмотрим тройки {v^yV2-iV^) из устойчивого распределения и обозначим пространство таких троек В\ Тогда для некоторой константы р >0, зависящей только от /, выполнено неравенство £, <\ — р. Заметим теперь, что, так как неустойчивое распределение липшицево (в силу условия (19.1.1) с а = 1 в теореме 19.1.6), существует такое К, что первое равенство из леммы 19.1.9 выполнено для любой тройки (v,, Vg, Vg) € В и /ij, h^, h^. Выберем £ таким, как в лемме 19.1.9, и для любого данного 6 ^£ выберем наименьшее п € N, для которого найдется такая тройка (vp ^2, v^) € В\ что
608 Часть 4. Гл. 19. МЕТРИЧЕСКАЯ СТРУКТУРА ГИПЕРБОЛИЧЕСКИХ ЛШОЖЕСТВ п-1 П ^(^4'^ii ^21 ^з)) "^ V^' Тогда п—J-0O при 6 ~*-0 (потому что ^ < 1 — р), и для hiyh^yh^KS (п — 1)-кратное применение леммы 19.1.9 дает Ki h^ h^ <{l-7])^~'K для всех троек (vj, Vg, v^) € B'. Это доказывает условие (19.1.3) вдоль Е". Далее отметим следующий факт. Лемма 19.1.10. Предположим, что отображение у?: R" -+R С^ -гладко вдоль слоев двух непрерывных трансверсалъных слоений W" и W* вЖ^. Тогда у? является С-гладким. Доказательство. Повторим соображения, доказывающие, что из непрерывности частных производных следует принадлежность функции к классу С^. Для двух данных близлежащих точек х, у мы должны показать, что ^{у) — ^(х) = L(y — х) с точностью до членов более высокого порядка по |у — х| для некоторого линейного отображения L. Так как отображение у? С^-гладко вдоль слоев W" и W\ для точек z € W'*{x)nW'{y), близких к X и у с точностью до членов более высокого порядка, мы имеем и L'—линейные отображения, непрерывно зависящие от этих точек. Но тогда LI —^ L* при z —*■ х, следовательно, при у ^*- х, т. е. с точностью до членов более высокого порядка выполнено равенство Ll{y — z) = Ll(y — z), и потому мы можем считать L линейным отображением, которое сужается до L" на TWix) и до L' на TW'(x). П Заметим, что по теореме 6.2.8 слоение Е"* С*-гладко вдоль W". Таким образом, применение леммы 19.1.10 к компонентам в локальных координатах доказывает теорему 19.1.8. П Покажем, что предположение предшествующей теоремы, т. е. условие (19.1.1) с а > 1, имеет место для ряда интересных случаев. Следствие 19.1.11. Пусть М —риманово многообразие, множество и сМ открыто и /: U—^М—вложение с компактным инвариантным гиперболическим множеством Л с С/. Если неустойчивое распределение имеет коразмерность один, то оно принадлежит классу С\ Доказательство. Если неустойчивое распределение имеет коразмерность единица, то мы можем положить X = и, что немедленно дает условие (19.1.1) с а > 1. П Замечание. Очевидно, предшествующий результат применим и к устойчивому распределению, если рассматривать отображение /~* вместо /. В частности, отсюда мы видим, что устойчивые и неустойчивые распределения гиперболического множества на двумерном многообразии всегда С*-гладки. Следствие 19.1.12. Пусть М-—риманово многообразие, множество UcM открыто и /: U-^M —сохраняющее объем вложение с компактным инвариантным гиперболическим множеством AcU, Предположим, что устойчивое распределение имеет коразмерность один. Тогда устойчивое и неустойчивое распределения принадлежат классу C^ Доказательство. Устойчивое распределение принадлежит классу С^ согласно предыдущему результату. Чтобы показать, что неустойчивое
§ 19.1. ГЁЛЬДЕРОВЫ СТРУКТУРЫ 609 распределение также принадлежит классу C^ рассмотрим два случая. Если размерность устойчивого распределения также равна единице, то все доказано по предыдзш1ему результату. В противном случае выберем Л равным D/|g+ и заметим, что из сохранения объема (т. е. из тождественного равенства якобиана единице в соответствующих координатах) следует, что можно считать, что Ajui/ ^ 1, и тогда AjtA~'i/~" ^ A^i/*~". Последняя величина не превосходит единицы, если а > 1 достаточно близко к единице. П Иногда бывает полезно определить из предшествующих рассуждений оптимальный возможный гёльдеров показатель. Для этого следует найти оптимальное а, для которого выполнено условие (19.1.1), т. е. можно ввести постоянную связывания для неустойчивого распределения Б"(/):= inf fg—^^* Постоянная связывания для устойчивого распределения определяется как Б*(/):= Б"(/~*), и постоянная связывания B(f):= тш(Б"(/), Б'(/)). Заметим, что эти постоянные связывания зависят от используемой метрики, в то время как показатель Гёльдера, очевидно, не зависит, так что мы можем для всех постоянных связывания брать любую метрику или верхнюю грань по всем метрикам р]. В случае когда постоянная связывания превосходит fc € N, можно аналогичным образом показать, что распределения принадлежат классу С*" с а-гёльдеровыми Аг-ми производными для любого а < Б"(/) — [Б"(/)]. Однако это соображение не может дать одновременно высокую гладкость для обоих слоений, поскольку всегда выполнено неравенство B{f)^ 2 (см. упражнение 19.2.3). 19.1 д. Гёльдеровость якобиана. При изучении инвариантных гладких мер (см. § 20.4) нас будет интересовать изменение объема неустойчивых многообразий под действием диффеоморфизма. Оно измеряется якобианом отображения в неустойчивом направлении. Это разновидность якобиана, рассмотренного в § 5.1. Предположим, что М — риманово многообразие, множество U с М открыто и д: и -^ М — С^-вложение. Если х eU и Ее Т^М —линейное подпространство, то риманова метрика на М индуцирует формы объема uj^ и a^^,^E на £? и DgE. Заметим, что они зависят от Е гладко. С другой стороны, мы можем определить прообраз формы uj под действием отображения д, т. е. следующую форму объема g^ojj^gE на Е: Эта форма объема также зависит от Е гладко. Но любые две формы объема на Е линейно зависимы, так что существует такое число J'g{x), что Величина J'g{x) зависит от Е гладко, так как uj^ и g*(^j)gE зависят от Е гладко. В частности, если N cU — гладкое подмногообразие и О с iV, то объем д{0) может быть вычислен двумя способами: i^DaTN = \ J'9^TN' 9iO) Нас будет интересовать случай, когда вложение f: U~^M обладает инвариантным гиперболическим множеством Лс^ и N сМ — кусок неустойчивого многообразия. Тогда мы получим вещественнозначную функцию на
610 Часть 4. Гл. 19. МЕТРИЧЕСКАЯ СТРУКТУРА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ Л, определенную равенством ■/V-'(/(x)):=J'r'(/(x)) ДЛЯ хеА, называемую якобианом в неустойчивом направлении. Как отмечено выше, эта функция зависит от Е^^^^ гладко. Таким образом, теорема 19.1.6 имеет такое следствие. Следствие 19.1.3. Пусть М — риманово многообразие, множество U сМ открыто, /: U ~^М -— гладкое вложение и haU — компактное гиперболическое множество для /. Тогда якобиан в неустойчивом направлении J'^f'^{f{-)) является гёльдеровым на Л. Мы будем использовать это следствие в § 20.4 при доказательстве гёль- деровости функции у?":= log J"/~4/(*)) "^ ^• Упражнения 19ЛЛ. Покажите, что слабые и сильные устойчивые и неустойчивые распределения для компактного гиперболического множества потока являются гёльдеровыми. 19.1.2. Докажите аналог следствия 19.1.11 для слабого неустойчивого распределения на гиперболическом множестве потока. 19.1.3. Покажите, что константа связывания B(f) ие превосходит двух. 19.1.4. Покажите, что геодезический поток на компактной поверхности с отрицательной гауссовой кривизной эргодичен относительно меры Лиувилля. 19.1.5. Постройте пример диффеоморфизма Аносова иа Т^, который обладает аналитическим неустойчивым слоением, но не является С *-сопряженным ни с каким линейным диффеоморфизмом Аносова. 19.1.6. Постройте пример сохраняющего площадь диффеоморфизма Аносова на Т^, устойчивое слоение которого двумерно и С°°-гладко, но для него не существует С*-сопряжения ни с каким линейным отображением. 19.1.7*. Предположим, что /—достаточно малое аналитическое возмущение линейного диффеоморфизма Аносова Т на Т^ с аналитическими устойчивым и неустойчивым слоениями. Покажите, что отображение / аналитически сопряжено с Т [^]. § 19.2. Когомологические уравнения для гиперболических динамических систем Мы уже несколько раз встречались с неподкрученными когомологачесними уравнениями (см. § 2.9): при доказательстве существования абсолютно непрерывных мер (§ 5.1), при описании замен времени для потоков и более общих отношений между орбитальной эквивалентностью и эквивалентностью потоков (§ 2.2) и при классификации 5^-расширений динамических систем (п. 4.2 б). В этом параграфе будет доказан общий результат для гаперболических множеств, который описывает полное множество инвариантов гёльдеровых и С ^-коциклов. Затем мы покажем, как из этого результата вытекают различные интересные утверждения, касающиеся гиперболических динамических систем. Дальнейшие приложения теоремы Лившица рассматриваются в §§ 20.3 и 20.4. 19.2 а. Теорема Лившица. Мы уже неоднократно отмечали, что гиперболические множества содержат изобилие периодических орбит. Лемма
§ 19.2. КОГОМОЛОГИЧЕСКИЕ УРАВНЕНИЯ 611 Аносова о замыкании (теорема 6.4.15) и теорема о спецификации 18.3.9 представляют собой сильные утверждения о плотности, тогда как теоремы 18.5.1 и 18.5.6 показывают, что скорость роста числа периодических орбит отражает полную динамическую сложность гиперболического множества. В этом пункте мы покажем, что решения когомологических уравнений с гёльдеровыми данными на гиперболическом множестве полностью определяются данными на периодических орбитах. Это дает новый метод нахождения решений когомологических уравнений и доказательства их регулярности в дополнение к двум методам решения неподкрученных когомологических уравнений, предложенным в § 2.9 (см. также конструкцию патологических кограниц из § 12.6). Метод состоит в том, чтобы попросту определить Ф(/"(х))= ^ у?(/'(х)) на плотной орбите и затем показать, что если периодические препятствия отсутствуют, то решение может быть продолжено с плотной орбиты благодаря лемме Аносова о замыкании (точнее, в силу следствия 6.4.17). Теорема 19.2.1 (теорема Лившица). Пусть М-—риманово многообразие, и С М-—открытое подмножество, /: U-^M—гладкое вложение, AcU -— компактное топологически транзитивное локально максимальное гиперболическое множество и у?: А~^Ж-—гёльдерова функция. Предположим, что для каждого такого х еА, что /"(х) — х, мы име- п~ 1 ем ^ у?(/'(х)) —0. Тогда существует такая непрерывная функция Ф: 1=0 А—J-R, что у? —Фо/ —Ф. Кроме того, функция Ф единственна с точностью до аддитивной константы и является гёльдеровой с тем же показателем, что и у?. Доказательство. Поскольку отображение /|д топологически тран- зитивно, существует такая точка aig^-'^» ^"^^ орбита О(д:о) — {/"(^)}nez плотна в Л. Зафиксируем значение Ф(д:о)^^ ^ положим Ф(/"(а'^)) = Ф(2^) + + у?(п, Xq), где у?(п, х) определено как в (2.9.4). Лемма 19.2.2. Функция Ф, определенная на 0(xq), как показано выше, является гёльдеровой с тем же показателем, что и ip. Доказательство. Предположим, что п, m € N таковы, что е:= ^(/"(д:о)»/"*(^)) достаточно мало, и применим лемму Аносова о замыкании (теорему 6.4.15) и ее усиленный вариант—предложение 6.4.16. В результате мы найдем такие С > О, ju е (0,1) и у = /"*~"(2/), что d(/"'^*(^)»/*(2/)Х ^^^М"*'"^^"*'"'**- 'Г^к как функция у? гёладерова с показателем а € (0,1], сзш^ествует такое М >0, что при достаточно малом y?(xi) — ^{^)\ ^Md{xiy Х2У. Следовательно, d{xij Х2) мы имеем т— п— 1 1=0 т — п— 1 'Ti— п — 1 m — п — 1 т—Д — 1 .1=0 »■ =0
612 Часть 4. Гл. 19. МЕТРИЧЕСКАЯ СТРУКТУРА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ т—п—1 т—П"1 Из леммы, в частности, следует, что функция Ф равномерно непрерывна на орбите 0{Xq) и, следовательно, продолжается единственным образом до непрерывной функции на множестве Л, которую мы также обозначим Ф. Утверждение о единственности из нашей теоремы установлено, так как выбор Ф{Хо) определяет Ф однозначно. (В качестве альтернативного доказательства заметим, что если Фо/-Ф = фо/-Ф, тоФ — Ф — непрерывная /-инвариантная функция, следовательно, в силу топологической транзитивности она является константой.) Ясно, что продолжение обладает тем же самым гёльдеровым показателем. В заключение заметим, что у? и Фо/—ф — непрерывные функции на множестве Л, которые совпадают на плотном множестве. Следовательно, они равны и Ф является решением когомологического уравнения. П Замечание. Полезно отметить, что дословно то же самое соображение применимо, если у? принимает значения в некоторой абелевой группе, в которой определен аналог абсолютной величины, инвариантный относительно сдвигов, например на торах с обычной функцией расстояния или на любой компактной абелевой группе. Позднее мы применим теорему Лившица в случае, когда у? — функция со значениями на торе. Применяя теорему о спектральном разложении 18.3.1, мы получаем следующий вариант теоремы Лившица, который не использует транзитивность. Следствие 19.2.3. Пусть Л — компактное локально максимальное гиперболическое множество отображения /: U -^М иК:= NW(fL). Предположим, что функция (р: К-^Ж является гёльдеровой и для каждо- п-1 го такого хеК, чтоР{х) = х, выполнено условие ^ у?(/*(х)) = 0. Тогда суи^ествует такая непрерывная функция Ф: Л—j-R, что у? = Фо/ -Ф, причем Ф гёльдерова с тем же показателем^ что и у?. Кроме того, функция Ф определена однозначно с точностью до прибавления функции, постоянной на каждой топологически транзитивной компоненте множества К. ч Для случая потоков то же доказательство с очевидными модификациями дает следующий аналогичный результат. Теорема 19.2.4. Пусть М —риманово многообразие, у?' — гладкий поток, ЛсМ —компактное топологически транзитивное гиперболическое множество и функция ^: Л -+ Е гёльдерова и такова, что для каж- т дой периодической точки х = у?^(х) мы имеем \ g{^^{x))dt =0. Тогда о суи^ествует такая непрерывная функция G: Л-+Е, что д= фС, т. е. производная G в направлении потока суи^ествует и равна д. Кроме того, функция G единственна с точностью до аддитивной константы и является гёльдеровой с тем же показателем, что и д. Приведем С^-вариант теоремы Лившица 19.2.1 [*].
§ 19.2. КОГОМОЛОГИЧЕСКИЕ УРАВНЕНИЯ 613 Теорема 19.2.5. Пусть М — риманово многообразие, /: U -^М — гладкое вложение с компактным топологически транзитивным гиперболическим множеством и у?: A-^R — C^~гладкая функция. Предположим, что для каждого такого хе М, что /"(х) = х, выполнено равен- п-\ ство Y1 ^(/4^)) = ^- Тогда существует такая С^-функция Ф: Л—j-R, что у? = Ф о / - Ф, причем Ф единственна с точностью до аддитивной константы. Доказательство. По теореме 19.2.1 существует липшицево решение Ф, и остается показать, что оно С*-гладко. Для этого мы покажем, что производные Ф по устойчивым и неустойчивым слоям существуют и непрерывны. Если X и у — близлежащие точки устойчивого слоя, то п Ф(у) - Ф(х) = Уш^ ( - Х^(¥'(/Чу)) - ¥'(/Чх))) + Ф(/"(х)) -Ф(/"(у))) 1=0 00 Е(¥'(/Чу)) - ¥'(/Чх))). 1=0 Зафиксировав х и дифференцируя по y = x-\-tv при i =0, по цепному прави- оо лу получаем 1)„Ф(х) = - X) Д Ч^{Г{^))^у{Г){^)^ ^'Д^ v.=Df'v. Заметим, что D^(f^) экспоненциально мало, так как v — устойчивый вектор. Первый множитель также экспоненциально мал, так как функция у? принадлежит классу С^ и v^ экспоненциально малы. Таким образом, ряд справа сходится равномерно, и, следовательно, его сумма П^Щх) — корректно определенная и непрерывная функция. Аналогично доказывается дифференциру- емость Ф вдоль неустойчивого направления. Таким образом, мы показали, что функция Ф имеет непрерывные частные производные. По лемме 19.1.10 это означает, что Ф принадлежит классу СК П Следствие 19.2.6. Пусть М — риманово многообразие, /: U —J-M—гладкое вложение с компактным топологически транзитивным гиперболическим множеством, у?: А^^Ж^гёльдерова (соответственно С^-гладкая) функция и у? = Фо/—Ф для некоторой ограниченной (всюду определенной) функцииФ. Тогда у?=Ф'о/-Ф' для некоторой гёльдеровой (соответственно С^ -гладкой) функции Ф'. Замечание. Используя теорему 2.9.3, можно переформулировать последнее следствие, требуя, чтобы коцикл, определенный функцией у?, был ограничен. Теорема Готшалка — Хедлунда 2.9.4 дает весьма похожее заключение для непрерывных коциклов над минимальными динамическими системами. Методы доказательства, конечно, весьма различны, так как гиперболические системы очень далеки от минимальных. 19.2 б. Гладкие инвариантные меры диффеоморфизмов Аносова. Теперь мы покажем, что необходимое условие существования инвариантных гладких мер, приведенное в предложении 5.1.6, является достаточным для топологически транзитивных диффеоморфизмов Аносова. Напомним, что Jf{-) обозначает якобиан дифференцируемого отображения относительно данной формы объема.
614 Часть 4. Гл. 19. МЕТРИЧЕСКАЯ СТРУКТУРА ГИПЕРБОЛИЧЕСКИХ МНОЖЕСТВ Теорема 19.2.7. Пусть М — риманово многообразие с формой объема Q и f: М ~-^М ~ С^-топологически транзитивный диффеоморфизм Аносова. Тогда следующие три условия эквивалентны: 1) существует f-инвариантная мера с ограниченной плотностью, отделенной от нуля; 2) J/"(x) = 1 для каждого х е Fix(/"); 3) существует /-инвариантная мера с положительной С^-плотностью. Доказательство. По условию якобиан J/ принадлежит классу С^. Если у?(х):= — log J/(x), то величина e^Cl /-инвариантна тогда и только тогда, когда т. е. тогда и только тогда, когда Ф является решением когомологического уравнения Ф(/-Чх))-Ф(х) = -¥.(х). Очевидно, тогда из первого условия теоремы следует второе. Но если выполнено второе условие, то теорема 19.2.5 показывает, что существует С*-ре- шение, и, следовательно, выполнено третье условие. Ясно, что из третьего условия следует первое. П Замечание. Заметим, что в силу следствия 18.3.5 для диффеоморфизмов Аносова f: М -^ М топологическая транзитивность эквивалентна условию NW{f) = M. 19.2 в. Замены времени и орбитальная эквивалентность для гиперболических потоков. Ранее было отмечено, что периоды периодических орбит представляют собой модули эквивалентности потоков и, следовательно, являются препятствиями к тривиализации замен времени (2.2.5), а также к тому, чтобы орбитальная эквивалентность сводилась к эквивалентности потоков. Сейчас мы покажем, что для гиперболических множеств это полный набор модулей. Предложение 19.2.8. Пусть у?' —поток на многообразии М с компактным топологически транзитивным гиперболическим множеством А и ф^ —замена времени у?'. Если периоды соответствующих периодических орбит ^р^ и ф*' совпадают, то ^^ и ф^ эквивалентны как nomoKUy и соответствующее сопряжение реализуется посредством гёльдерова гомеоморфизма, если замена времени гёльдерова, и посредством С^ -гомеоморфизма, если замена времени принадлежит этому же классу. Доказательство. Вспомним результат § 2.2 о том, что замена времени '0'(х) = у?"*''**(х) представляет собой эквивалентность потоков, т. е. тривиальна, если существует такая функция /3: Л—»^R, дифференцируемая вдоль орбит, что a{t,x)— t =/3(х) —/3(у?'(х)). Заметим, однако, что по нашему предположению коцикл в левой части на периодических орбитах обращается в нуль, так что по теореме Лившица 19.2.4 для потоков существует решение /3, которое является гёльдеровым, если коцикл а гёльдеров, и С*-гладким, если коцикл а С*-гладок (по теореме, аналогичной теореме 19.2.5 для потоков; см. упражнение 19.2.4). П
§ 19.2. КОГОМОЛОГИЧЕСКИЕ УРАВНЕНИЯ 615 Теорема 19.2.9. Предположим, что у?': М-^М и ф^: М' —^ М' — потоки, орбитально эквивалентные на гиперболических множествах Л и К соответственно и такие, что периоды соответствующих периодических орбит в А и К согласованы. Тогда ^р^ и ф^ эквивалентны как потоки. Доказательство. По теореме 19.1.5 орбитальная эквивалентность h может считаться гёльдеровой. Таким образом, ho(p^oh~^ —гёльде- рова замена времени ф^ с такими же периодами, как у ф^; следовательно, по предложению 19.2.8 этот поток эквивалентен, как поток, потоку ф\ причем соответствующее сопряжение гёлвдерово, и, следовательно, то же верно для потока tp. П 19.2 г. Эквивалентность расширений отображений со слоем тор. В этом пункте мы применим теорему Лившица в ситуации, сходной с расширениями отображений со слоем окружность, введенными в п. 4.2 б. Это позволит получить достаточное условие существования С*-сопряжений расширений отображений на гиперболических множествах. Пр едложеиие 19.2.10. Предположим, что М — компактное многообразие и f: и -^ М — диффеоморфизм с компактным топологически транзитивным гиперболическим множеством Л. Для у? € С*(Л, Т*") положим F^(x, i):= (/(х), t + ¥?(х)) на множестве Ах V. Если ф еС*(Л, Т*') ^ S ¥'(/*(^))= S ФиЧ^)) <^-лл каждогоXe'Pix(f)nA, то отображения F^ и Рф С^ -сопряжены. Доказательство. По С*-варианту теоремы Лившица 19.2.5 (для значений в Т*) существует такая С^-функция Ф: Л-^-Т*', что ^р—ф =фо/—Ф. Тогда легко проверить, что h(x, t):= (х, t — Ф(х)) — нужное нам сопряжение. П Замечание. Последний результат не зависит от структуры прямого произведения на пространстве. Те же самые соображения показывают, что аналогичный результат имеет место для расширений отображений на произвольном расслоении над Л со слоем тор. Упражнения 19.2.1. В конце § 19.1 мы ввели обозначение tp". Положим, далее, tp' := log Jf\^.. Покажите, что коциклы tp^ и tp' когомологичны тогда и только тогда, когда существует инвариантная гладкая мера для отображения /. 19.2,2*. Предположим, что Л — гиперболический автоморфизм Т^ и у? — такой С°°-коцикл, как в теореме 19.2.1. Покажите, что tp=Фo f -Ф для некоторого Ф G С°°. 19.2,3*. Покажите, что утверждение предыдущего упражнения выполнено для гиперболических диффеоморфизмов тора Т^ с С°°-устойчивым и неустойчивым слоениями. 19.2.4. СЛоомулиоуйте и докажите аналог теоремы 19.2.5 для потоков.
ГЛАВА 20 РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ В этой главе мы доказываем некоторые из центральных результатов эрго- дической теории гиперболических динамических систем. Существуют два специальных вида инвариантных мер для гладких динамических систем: меры с максимальной энтропией и гладкие меры. Мы покажем, что для гиперболических систем эти меры являются частными случаями равновесных состояний, представляющих собой аналог мер Гиббса в статистической механике. Первые четыре параграфа этой главы посвящены анализу равновесных состояний, который завершает в данной книге тему, начатую в гл. 18 и 19, причем особое внимание уделяется вышеупомянутым специальным мерам. В качестве двух основных инструментов этого анализа используются спецификация и теорема Лившица. Последние два параграфа имеют несколько другой характер. Цель, которую мы в них преследуем, состоит в том, чтобы получить мультипликативную асимптотику роста числа замкнутых орбит для топологически перемешивающих потоков Аносова и, следовательно, подобную асимптотику числа замкнутых геодезических на компактном римановом многообразии отрицательной секционной кривизны с помощью метода, предложенного Маргу- лисом. Мы достигаем этой цели, используя альтернативное описание меры максимальной энтропии, которое содержится в § 20.5. В § 20.6 мы получим нужную мультипликативную асимптотику аналогично тому, как это было сделано в диссертации Толла. Ни первоначальное доказательство Маргули- са, ни работа Толла ранее не публиковались. § 20.1. Мера Боуэна Вариационный принцип (теорема 4.5.3) говорит нам, что топологическая энтропия равна верхней грани метрических энтропии. Мы знаем также, что для разделяющих отображений эта верхняя грань достигается (теорема 4.5.4). Таким образом, естественно попытаться исследовать эти специальные меры, энтропия которых максимальна. Для линейного растягивающего отображения Е^ окружности и топологического сдвига Бернулли меры максимальной энтропии определяшись очевидным образом, а для га- перболических автоморфизмов тора мы установили, что мера Лебега обладает максимальной энтропией (4.4.7). В предложении 4.4.2 мы показали, что специальная марковская мера /х^, так называемая мера Перри, обладает максимальной энтропией для любой топологической цепи Маркова. Кроме того, упражнение 4.4.2 позволяет утверждать, что эту меру можно рассматривать как предельное распределение периодических орбит. То же, очевидно, верно для меры Лебега в случае линейного растягивающего отображения. Теперь мы покажем, что при наличии свойства спецификации
§ 20.1. МЕРА БОУЭНА 617 (определение 18.3.8) в совокупности со свойством разделения существует в точности одна мера с максимальной энтропией. Мы построим ее, как предельное распределение для периодических орбит, и установим единственность. В силу следствия 6.4.10 и теоремы о спецификации 18.3.9 этот анализ, априори относящийся к топологической динамике, может быть применен к изучению ограничений гладких динамических систем на топологически перемешивающие локально максимальные гиперболические множества. Конструкция, которую мы введем в этом параграфе, представляет собой специальный случай конструкции равновесных состояний, которые будут рассматриваться в полной общности в § 20.3. Имеет смысл рассмотреть отдельно данный специальный случай, поскольку многие нужные для этого технические факты уже сейчас известны читателю, а также поскольку обозначения в этом случае значительно проще, что делает изложение более прозрачным. Наша стратегия состоит в следующем: если 6^ — вероятностная мера, сосредоточенная в единственной точке {х}, то рассмотрим /-инвариантную меру jLi„ := ^ ^x/^nif)- S силу *-слабой компактности множества ЯЯ(/) X G Fix(/") эта последовательность обладает по крайней мере одной точкой ^-слабого накопления jj,. Мы покажем, что если мера г/ € Ш{/) такова, что h^(f) = = /itop(/)» то z/ = /i, так что, в частности, \(f) = Л^р(/) и существует только одна точка накопления этой последовательности, т. е. fj,^—i-ij,. Итак, выберем такую подпоследовательность щ, что fz= lim а. (20.1.1) fc-*oo * Начнем анализ меры /j, с двух лемм, касающихся динамики. Лемма 20.1.1. Пусть {X, d) — компактное метрическое пространство, /: X —^ X—разделяющий гомеоморфизм со свойством спецификации, е > О, мера jj, определяется из (20.1.1), М^—из определения 18.3.8, К^^—из предложения 18.5.4, С2~~^^ теоремы 18.5.5 и A,:=(l/(c2iir3j)e~^^-'^'*^* > 0. Для уеХ и neN определим е-шар В := Bj{y, £, п) в метрике d^ с центром в у. Тогда Замечание. Имеет место также аналогичная верхняя оценка, которую мы докажем в более общем случае равновесных состояний. Однако в этом параграфе для наших целей односторонней оценки достаточно. Доказательство. Выберем г > п + 2Mg и определим число т соотношением т =-п + т-\-2М^. Предположим, что Е^ — максимальное (т, Зе)-отделенное множество, х е Е . По свойству спецификации найдется такое 2(x)€Fix(/'')n5, что dl^{P^^*{z(x)), х)< е. В силу нашего выбора Е отображение г(Л инъективно на множестве Е„ и Е„ максимально, так m —т получаем ^^ ,^. card(Fix(/-)n^) ^ card(Jg^) card(£;^)
618Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ Так как множество В замкнуто, M(5) = inf{ [ipdfz 0^^ еС%Х),В С ^-'({l})]. Но поскольку fJ'r(B) ^ А^е"^^^\ для любой такой функции у? мы имеем l^dfx= lim l^dfz^^ lim fi^(B) > A,e-"^^>. П Л-+00 ^ fc -+00 ^ Лемма 20Л .2. Л1е/7а /j- (определенная в (20.1.1)) эргодична. Доказательство. Покажем, что существует такое с > О, что limM(Pn/-"(Q))>cM(P)M(Q) (20.1.2) п-*оо для всех измеримых множеств P,Q с X. Из этого будет следовать эргодичность, поскольку если f(P) = Р =X\Q и fjc{P)ij,{Q)>0, то неравенство невозможио. Фактически для данных числа 6 >0, компактных множеств Aj В с X с границей нулевой меры и 5-окрестностей U а V множеств А и В соответственно мы покажем, что ШР'(йп/-'^(У))^ср,(А)р,(В), п —*оо Для компактных множеств с границей нулевой меры из этого следует, что Ищ jtA(A П/-^(Б)) > cij,(A)ij,(B). Г-+00 Но по лемме 4.5.1 компактные множества с границей нулевой меры образуют достаточную совокупность в смысле определения 4.2.9, и, как в доказательстве первого утверждения предложения 4.2.10, отсюда следует, что если неравенство (20.1.2) выполнено для любой достаточной совокупности, то оно выполнено всегда. Зафиксируем е € (О, Sq/2), где 6q — постоянная разделения (см. определение 3.2.1П, и пустьiV((5)€Nтаково, что d(z, у)^6, если d{f*(x),f^(y))^£ для всех \i\ < N{6) (существование такого N следует из свойства разделения). Пусть п > 2N(6), Рассмотрим для s, i е N максимальное (s, Зе)-от- деленное множество Е^ и максимальное (i,Зе)-отделенное множество Е^. Определим соответственно множествам А,Е^,В,Е^ целочисленные отрезки 1^ = [а^, 6J С Z, г = 1, 2,3,4, следующим образом: ^^ " " [t] ' ^ = ^ + -^.^ «3 = ^2 + К^ «4 = ^3 + -Ц> 6j = Oi + п, 62 = 03-1-5, 63 = 03 + 71, b^ = a^-\-1, и пусть W = /-f"^2>(Fix(/")ПА)хЕ,х /'-l"^21(Fix(/")пВ)хЕ,. Тогда для каждого X = (хр X2J Хд, х^) е W найдется, в силу свойства спецификации, такая периодическая точка z = z{x) е Fix(/***~**"^^'). что d/.^ (/"'(-s^)) ^г) < < £, г = 1, 2, 3,4. Отображение z(') инъективно (любое множество {х^, xj} (bf - а;,Зе)-отделено), и z{')e U Of'^^^V в силу выбора N{6). Таким образом, если т:= 6^ — а^ + М^ = i + s + 2п + 4М^, то card(Fix(/'")n С/п/-'-^*(У)) > card(W) = = card(Fix(/")n A)card(Fix(/")nJ5)iNr^(/,3e, s)NAf,H 0 = = М„(А)Р„(/)М„(^)^„(/)^Л/, 3^, s)NAf, Зг, t)
§20.1. МЕРА БОУЭНА 619 И -5-2М /-г гчч ^ 1 fiJUnr-^-{V))^ jrjj^card(W)^ no предложению 18.5.4 и теореме 18.5.5. Оставляя n и s фиксированными, устремим i —j- оо таким образом, что т = щ. Тогда и м(:/П/—=^.(У))^Итм„.(С/п/—=^<(Ю)^см„(АК(В) hm M(Fn/-'(F))^ с;.„(АК(В) г —»оо при S -^- ОС. В заключение, при п -^- оо мы получаем \im^(Unr{V))^c\imii^{A)^^{B) г-*оо *-*<» Поскольку ^{дА) = 1х{дВ) = 0, мы имеем limM(f/n/-^(y))>cM(A)M(5), 1 ►ОО как и требовалось. П Теорема 20.1.3 (Боуэн). Пусть {X, d) — компактное метрическое пространство и /: X—^ X — разделяющий гомеоморфизм, удовлетворяющий свойству спецификации. Тогда существует в точности одна такая мера р, е ЯЯ(/), что h^{f) = /itop(/)- Она называется мерой Боуэна гомеоморфизма f и задается формулой 1 ^=^^^Ш) .?, '- Х€НХ(/") где 6^ обозначает вероятностную меру, сосредоточенную в точке {х}. Замечание. Таким образом, мера Боуэна — единственная мера, по отношению к которой периодические точки равномерно распределены. Она также называется мерой Боуэна — Маргулиса, так как Маргулис открыл ее в другой форме (см. теорему 20.5.15). Доказательство. Мы покажем, что если мера i/еШ(/) такова, что K{f)=h^op(f)^ '^'^ 1^ = ^. ^^Д^ мера р, определена в (20.1.1), так что h^{f)= /itop(/) и существует только одна точка накопления последовательности jtA„. Если и € ЯЯ(/), то I/ = аи' + (1 - а)р,' для некоторого а € [0,1] и таких и'J fi' € 9Л(/), что jti' < jtA ± и'. Так как мера р, эргодическая, (/-инвариантная) плотность р' относительно р является постоянной /а-почти всюду и, следовательно. м' = М- Поскольку pLu', по следствию 4.3.17 мы имеем KU) = ^K-U) + i} - ^)K(f)- Допустим теперь, что /i^/) = ^op(/)- Поскольку Kif)^ Kpif) и \(f)^ Kpify существуют только две возмож-
620Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ ности: либо а=0, i/ = fi и hf^if) = h^^pif), так что все доказано, либо h^,(f) = = /itop(/)- ^^^ исключим этот последний случай, показав, что если ту L^i, то Для п € N и максимального (тг, 2г)-отделенного множества £?„ = {xj,... ..., Xjt} мы можем найти такое разбиение *8„ := {(3^ \ х € £?„} на борелев- ские множества (3^, что В^(х^ е, п)сР,,с Bj{x, 2е, п). А именно, поскольку X с и Bj{x, 2е, п), положим Р = БДх,, 2е, п)\ и БДх,, е, п), 1=2 /3 =БДх^^н2£,п)\ и БДх„£,п)\и/3,.. '■" i = j+2 1 = 1 Заметим, что мы можем взять такое произвольно малое е > О, что по лемме 4.5.1 выполнено равенство (jtA4-z/)(9*8„) = 0. Так как / — разделяющий гомеоморфизм, diam /"^"^^'(25„) —>■ 0. Значит, п —*оо последовательность разбиений *8„ отделяет носители мер jla и z/, т. е. если f{B) = B сХ и притом ij,{B)=Oh i/{B)=l, то существуют такие конечные объединения С„ элементов *8„, что (М 4- z/)(C„AB) = (м 4- z/)(/-f"/21(Cn)A5) —. 0. п—too Кроме того, если е< 8J2, где 5^ — константа разделения, то *8„ —образующее разбиение для /" и, следовательно, по четвертому утверждению предложения 4.3.16 и следствию 4.3.14 мы имеем nh^,{f)= ^^(/") = KW^ ^п) ^ ^ Я (*8„). Чтобы использовать это неравенство, заметим, что в силу вы- пуклости функции (р{х):= xlogx выполняется условие —— S <^(а^) ^ / 1 А \ i=! ^-'^Ьг Е aj или т т т т t = I 1 = 1 i=I i=I m mm t = I i ^ I i = I так как —(p{x) ^ 1/e. Отсюда следует, что /3,е*8„ /3.сС„ /3,пС„ = 0 ^ z/(CJ logcard{x eE^lP^C CJ + + z/(X\CJ logcard{x e ^„ I /3, n C„ = 0} + |. Очевидно, card{x € £?„ | /3^ С C„} ^ м(<^„)/ iriin м(/^х) и, поскольку любой элемент р^ содержит е-шар в метрике d/, лемма 20.1.1 показывает, что
§ 20.1. МЕРА БОУЭНА 621 card{a; 6 S„ | /3, с CJ ^ ^(CJe'^'^U;' и, значит, nihM) - КМ)) - I ^ HCJ log(e-^'^' card{x 6 S„ | /3, С CJ) + 2 :ор\-' // е + z/(X\C„) log(e-^<^' card{x 6 S„ | /3, П С„ = 0}) ^ ^ z/(c„)iog(A:V(c„))+z/(x\c„)iog(A:'M(x\c„)). Но так как z/(C„)-*l и jtA(C )-*0, правая часть стремится к — оо при п-*оо. Следовательно, /i^(/) < %(/)• ^ Следствие 20.1.4. Если Л—локально максимальное гиперболическое множество для отображения /: U -*М и сужение f\^ топологически транзитивно, то Л^ обладает единственной мерой максимальной энтропии. Доказательство. Согласно теореме 18.3.3 Л представляет собой непересекающихся южеств Aj и.. .ил„ и эти |ажением f. поичем f "* — топологическое перемешивание на множествах Л^. Теорема о спецификации 18.3.9 и следствие 6.4.10 позволяют нам применить теорему 20.1.3 к отображению /'"Ia для каждого г. Очевидно, однозначно определенные меры максимальной энтропии для /"* переставляются отображением /, а их усреднение /-инвариантно. Обратно, если /л — /-инвариантная мера, обладающая максимальной энтропией, то условная мера на любой топологически перемешивающей компоненте /"* — однозначно определенная мера максимальной энтропии. D Используя аналогичное соображение и вывод упражнения 1.9.9, мы получаем первое утверждение приведенного ниже следствия. Следствие 20.1.5. Топологически транзитивная топологическая цепь Маркова обладает единственной мерой максимальной энтропии, для транзитивных (т. е. топологически перемешиваюи^их) топологических цепей Маркова мера Перри fj^ {см. (4.2.13), (4.4.5) и (4.4.6)) — единственная мера максимальной энтропии, В частности, в этом случае мера максимальной энтропии является марковской мерой. Объединяя полученную характеризацию меры максимальной энтропии с результатами, полученными для марковских разбиений, мы находим асимптотическую оценку экспоненциальной скорости роста числа периодических орбит (см. (3.1.1)) для компактного локально максимального гиперболического множества, основанную на следствии 1.9.12 и предложении 3.2.5, которая гораздо более точна, чем оценка, полученная в теореме 18.5.6. Теорема 20.1.6. Пусть Л — компактное локально максимальное топологически перемешиваюи^ее гиперболическое множество для отображения /. Тогда для некоторых А < е'*^*^** и К>0 выполнено неравенство |Р„(/|л) - e^^'^^'^l < i^A". Доказательство. По следствию 1.9.12 и предложению 3.2.5 этот результат будет верен, если вместо /1^ подставить некоторую топологически транзитивную цепь Маркова. Чтобы получить это утверждение для /|д, заметим, что, поскольку /|л —топологически перемешивающее преобразование, топологическая цепь Маркова, соответствующая его марковскому
622 Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ разбиению, транзитивна. Таким образом, мы хотим показать, что можно игнорировать замкнутое /-инвариантное множество С:= f\ f*(d'1Zl)d''TZ) t€Z (мы используем обозначения теоремы 18.7.4). Для этого сначала заметим, что в силу леммы 18.7.6 все /-периодические точки из множества Л\Л содержатся в С Кроме того, а^ — разделяющее преобразование на h~^{C), так что по теореме 4.5.4 (^а\н-чс) обладает мерой д максимальной энтропии. Эта мера инвариантна для сг^, но, так как она не положительна на открытых множествах (потому что множество h'^(C) замкнуто и не равно П^), лемма 20.1.1 показывает, что это не мера максимальной энтропии для сгд, так что f\opi^A\h-'iC)) < ^top('^A)- По предложению 3.2.14 мы имеем p(cr^L-i(C))^ Kpi^а\h-нс)) < КЛ^а) "> следовательно, РЛ<^а\н-на\с)) - Рп{<^а)\ < -^-^^ лля некоторого А < h^^ia^). Конечно, аналогично доказывается, что топологическая энтропия /|^ меньше топологической энтропии /, так что по предложению 3.2.14 выполнено неравенство p(f\c)<Pif)- Т'зк как полусопряжение взаимно однозначно на множестве периодических точек из /i~'(A\C), тем самым теорема доказана. D Используя марковские разбиения и единственность меры максимальной энтропии, мы можем усилить утверждение леммы 20.1.2 следующим образом. Предложение 20.1.7. Если А — компактное локально максимальное гиперболическое множество для отображения /: U ^^ М и Лл — топологическое перемешивание, то мера Боуэна /|д является переме- ш-иваюи^ей. Замечание. Когда мы будем заниматься анализом равновесных состояний, мы получим то же утверждение другими средствами, а именно опираясь на лемму 20.3.5, которая является обобщением леммы 20.1.1, содержащим двустороннее неравенство, и на критерий перемешивания из эр- годической теории (предложение 20.3.6). Доказательство. Из предыдущего доказательства видно, что полусопряжение, полученное с помощью марковского разбиения, сохраняет экспоненциальную скорость роста числа периодических точек, которая равна топологической энтропии. Таким образом, мера максимальной энтропии для сдвига индуцирует меру максимальной энтропии на Л посредством этого полусопряжения, и потому эта мера является мерой Боуэна. Но мера максимальной энтропии для сдвига — мера Перри, и, следовательно, согласно предложению 4.2.15 и предложению 4.4.2 она является перемешивающей D Приведем краткое описание мер Боуэна для потоков. Подробности мы оставляем читателю, поскольку они вполне аналогичны доказательству теоремы 20.1.3. Пусть Per(t, £):= {0{х) \ (р'{х) = х для некоторого 5 6 (i - е, i + е)}, Z(O)—минимальный период Об Per(t, £)иЬ^^^{(р)= X) Н^)- Обозна- СЗеРег(г, е) чим через 6^ (^*-инвариантную борелевскую меру, соответствующую длине дуги на О 6 Per(t, е). Как в доказательстве теоремы 20.1.3, меры '^ 0ePtT{t,£)
§ 20.2. ДАВЛЕНИЕ И ВАРИАЦИОННЫЙ ПРИНЦИП 623 СХОДЯТСЯ (в *-слабой топологии) к (^'-инвариантной борелевской вероятностной мере fiQ, называемой мерой Боуэна. Если поток является топологически перемешиваюи^им, то можно получить (двусторонние) оценки, подобные тем, что были установлены в лемме 20.1.1, и доказательство перемешивания для равновесных состояний (предложение 20.3.6) проходит практически дословно. Таким образом, мера Боуэна для топологически перемешивающих потоков является перемешивающей. Упражнения 20.1.1. Докажите, что топологическая энтропия разделяющего гомеоморфизма со свойством спецификации положительна если пространство содержит более одной точки. 20.1.2. Символическая динамическая система (см. определение 1.9.2) называется софи- ческой, если она является фактором топологической цепи Маркова. Докажите, что каждая топологически транзитивная софическая система обладает единственной мерой максимальной энтропии. 20.1.3. Пусть В^сЩ — множество, определенное в упражнении 1.9.10, и S^ = (T2\q. Докажите, что S^ обладает единственной мерой максимальной энтропии. 20.1.4. Сформулируйте и докажите аналоги теоремы 20.1.3 и следствия 20.1.5 для потоков. 20.1.5. Сформулируйте аналог теоремы 20.1.6, предполагая только, что преобразование /|д топологически транзитивно. 20.1.6. Покажите, что если L 6SX(n,Z) — гиперболическая матрица, то множество F!x(i^) неподвижных точек автоморфизма тора F^ поднимается до решетки в R". 20.1.7. Докажите, что мера Лебега А — единственная мера максимальной энтропии для гиперболического автоморфизма тора F^. 20.1.8. Докажите, что для гиперболического автоморфизма тора Лд(^*},)= S ^ogA^, где А. — собственные значения L. \\\>'^ § 20.2. Давление и вариационный принцип Как мы увидим позднее, полезно обобщить понятие энтропии таким способом, чтобы получить целый спектр различных инвариантов, связанных с динамической системой. Мы сможем продемонстрировать одно из применений такого подхода — описание инвариантных гладких мер для гладких динамических систем. Упомянутое обобщение понятия энтропии основано на том, что она вычисляется путем подсчета числа элементов максимального (п, е)-отделенного множества. Если под подсчетом числа элементов подразумевать суммирование функции, тождественно равной единице, по всем элементам множества, естественно в качестве обобщения рассмотреть другие весовые функции, суммируемые по отделенным множествам или покрытиям. Этот подход приводит к понятию давления (этот термин также обязан своим появлением статистической механике) [']. Определение 20.2.1. Пусть X — компактное метрическое пространство и /: Х^Х — гомеоморфизм. Для ^р 6 С°(Х), а: 6Х и п6Nq по- ложим по определению 3^^р(х) := J2 ¥^(f4^))- Далее определим для е > О, 1=0
624 Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ п 6 N следующие величины: ^dif^ ^t ^1 ^)•= sup \ ^ e^M'^) \Е СХ является (п, е)-отделенным i, х&Е SM Ч>. е, п) := inf { Y1 е^""''' I ^ = U ^/(^ =' '^)}- хеЕ хеЕ (Эти выражения иногда называются статистическими суммами.) Тогда выражение Р{<р):= Р(/, <р):= lim ТЙГ^ log5,(/ <р, е, п) называется топологическим давлением гомеоморфизма / относительно (^, и если д 6ЯЯ(/), то величина /^((^):= Р^(/, <р):= \(/)-\~1 Ч> d\i называется давлением меры д. Это определение, как и последующие рассуждения, может быть легко перенесено на случай потоков (см. упражнение 20.2.2). Если по- ложить S^(p(x):= ^ ^(iJ^ix))dt, то определения чисел N^(iIj\ (р, £,t), о Sd(^\ ^1^4 *). Р{^) и Pf,(^) получаются из приведенных выше простой заменой п на t. Заметим, что определенное таким образом давление V'' совпадает с давлением отображения сдвига за единичное время ф'. Доказательство предложения 3.1.2 немедленно переносится на рассматриваемый случай, и из него следует независимость давления от выбора метрики (порождающей данную топологию), используемой для его определения, что делает наши обозначения корректными. Из этого, в свою очередь, немедленно следует, что давление — инвариант топологического сопряжение, т. е. если f = h-^ogoh и 'ф = (рок,'ТО P(f,(p) = P{g,ip). Полагая в определении 20.2.1 (р = 0, мы получаем обычные топологическую энтропию и метрическую энтропию. Заметим, что всегда верно неравенство 5,(/,^,£,п)^||е^"П|^о-5Л/,£,п) и, таким образом, ТЕ" ■=- log 5Л/, <р, е, п) ^ \\<р\\ао +ТЕ" « ^^U^dify ^^ ^) < о^- По аналогии с (3.1.13) и (3.1.14) выполнены неравенства N,if, ip, 2е, п) ^ S,{f, if, 6, п) ^ N,if, <р, е, п), (20.2.1) которые показывают, что в определении давления вместо S^ можно использовать N^. Число D^U^ip,e,n):= mi{Y,\ni z'''"^'^ Хс |J С и diam,/(C)^ е, С 6 ^} V ^ G О ^ CG.E СеЕ связано с числом S^ неравенствами, аналогичными (3.1.11) и (3.1.12). Теперь подобно тому, как была доказана лемма 3.1.5, легко установить, что
§ 20.2. ДАВЛЕНИЕ И ВАРИАЦИОННЫЙ ПРИНЦИП 625 величина D^ субмультипликативна и, следовательно, в силу рассуждений, подобных приведенным после леммы 3.1.5, P{ip) = lim lim ^ log5^/, ¥?, е, n). Ti—too Наша цель состоит в том, чтобы обобщить теорему 4.5.3 до вариационного принципа для давления. Приводимое здесь доказательство весьма близко к доказательству теоремы 4.5.3. Начнем с утверждения, которое вытекает из выпуклости функции (р(х):= xlogx. Лемма 20.2.2. £сли Е р, = 1, р^ >0, а, 6Е иЛ = Х; e^S то f] PiC^^- — log Pi) ^ log Л, причем равенство достигается, если p. = е'^'/А, Доказательство. Положим а. = е"'/Л, х^=р-/а^. Тогда 0 = к к = blog(l) ^ Y.<^i^i ^^Ui^i) = Е PS^UiPi) + log А - а,.), и равенство до- 1=1 1=1 стигается тогда и только тогда, когда р^= а^, D Докажем теперь аналог леммы 4.5.2. Лемма 20.2.3. Пусть iX,d) — компактное метрическое пространство, /: X —>X —гомеоморфизм и (ре С^(Х). Для п6N выберем (п, £)-отделенное множество Е^ С X. Пусть Тогда существует точка накопления д последовательности {MnlneN (^^ ^•слабой топологии), которая f-инвариантна и удовлетворяет соотношению П -+0О '* *—' xes. Доказательство. Рассмотрим такую подпоследовательность п^, что lim log Y^ 6^"*'^*'"*= lim log X] e^^'^^'K Выберем любую точку накопле- "к " ния fi последовательности д„ . Существование точки накопления следует из ♦-слабой компактности пространства ЯЯ, и /-инвариантность меры ^ очевидна. Далее, рассмотрим такое разбиение ^ с элементами, диаметры которых меньше е, что fj,{d^) = 0. Положим Е^ = {х^,.. -^^т} и а-:= 5„(^(а:,.). Тогда из леммы 20.2.2 следует, что Я,^(^/„)+П j ^фп=Я,„(^-0+ J ^n^^'^n E[-'^n({^})bg(^„({a:})) + z.„({x})5„^(x)] = iog^ е^"-(^'. (20.2.2) xes и ^е^„ Теперь будем действовать так же, как в доказательстве леммы 4.5.2. Предположим, что О < д- < п, и возьмем а{к):= [(п — k)/q] (целая часть числа
626 Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ (n~k)/q) для любого к, О^к <q. Используя соотношение (20.2.2) и неравенство (4.5.1) для Щ (^/„), мы получаем Ж е s„ " jb = о 9-1 e(*)-I fe=0 r=0 ^J2lYl ^Я,,...„(^4)+^1одсагс1(о]+д] ^ Ф„ где последнее неравенство следует из шестого утверждения предложения 4.3.3. Следовательно, и lim i log Е е^»^(^) ^ /i^/, О + i ^ Ф ^ ^i(/, ^). □ "'^°° xes„ Теорема 20.2.4 (вариационный принцип для давления). Пусть f: X —> X — гомеоморфизм компактного метрического пространства X и <р е С°(Х). Тогда Р{^) = &ир{Р^{<р) \ д 6ЯЯ(/)}. Доказательство. Сначала заметим, что если {-S„}„eiy—такие (п, е)-отделённые множества в X, что 5] е^»^(^) > iV,(/, ^, £, п) - 5, xes„ ТО, Применяя лемму 20.2.3, мы получим '^п ^^ШЩ^ ^^ г. «) ^ ^.(/. ¥?) для соответствующей точки накопления д 6 ЯЯ(/) последовательности мер д„ из леммы. Взяв верхнюю грань по д и устремляя г —> О и 5 —> О, мы получаем, что Р{(р) ^ sup{/^((^) | д 6 ЯЯ(/)}. Чтобы получить обратное неравенство, предположим, что ^={С|,... •••jC'jb} — измеримое разбиение X. Тогда fi{C^) = sup{fi{B) \ В С С С^ замкнуто}. Таким образом, мы можем выбрать компактные множества к В- с Ci так, что для /? = {Д,, -5j,..., В^}, Bq = Х\ [J В., выполнено нера- 1 = 1 венство Н(^\Р)< 1. По третьему утверждению предложения 4.3.10 мы, таким образом, заключаем, что ^(/, о < ^а/3) + яд^ 1/3) ^ йд/,/3) +1. Теперь положим d := min{d(S., Bj) \ г, j 6 {1,..., /с}, г Ф j} > О, и пусть S 6 (О, d/2) таково, что \^р{х) — <р{у)\ ^ 1 при d(x, у) < S. Для С 6 /3/„ существует такая точка х^ 6 С, что {S^(p){x^) =sup{(5„(^)(x) | х 6 С} Теперь
§ 20.2. ДАВЛЕНИЕ И ВАРИАЦИОННЫЙ ПРИНЦИП 627 Предположим, что Е сХ — (п, 5)-покрытие. Тогда мы можем выбрать точку у^еЕ так, что d^(xc, Ус) ^ 5 и, следовательно, S^ip{xc) ^ 3^^р{уЛ + п. Заметим также, что из неравенства 8 < d/2 следует, что card{C 6 /3/„ 1 Ус = = у} ^ 2" для всех уеЕ, Используя лемму 20.2.2, получаем < log ^ e^n^(^c)+» ^ n + log (2" ^ e SM^) ce(3l^ ceE и 1- ■= PI, ^^^ k^MSL) + ( ^ dM = ^ЯД/ЗЛ) + i ( 5„^ dM < 1 + log2 + i log ^ e SM') Следовательно, ^(/,0+j ^ф^/1Д/,/3) + 1+J ^dM^2+log2 + PU^) И, таким образом, /^(/ (^) ^ 2 + log2 + F(/ tp) для любых /, (^. Применяя последнее соотношение к функциям /" и S^tp, мы имеем P^{f, (р)^{2-\~ + log2)/n + P(/, (^), и, следовательно, нужное нам неравенство получается предельным переходом при п —> оо. D Определение 20.2.5. Обозначим через С^ = С^{Х) множество {(ре С°{Х) I 3 такие числа if, е > О, что d^(x, у)^е=^ \ЗМ^)-^Му)\ ^ ^}- Объясним выбор множества С^ в качестве класса допустимых функций. Функции из С^ — это как раз те функции, для которых можно контролировать величины S^ip равномерно по neN, а в точности это свойство необходимо для того, чтобы доказать существование и единственность меры максимального давления. Чтобы убедиться, что этот класс достаточно велик, мы покажем, что в случае гиперболического множества все гёльдеровы функции содержатся в СЛ Предложение 20.2.6. Пусть М — риманово многообразие, множество и сМ открыто, /: U ^ М ^ гладкое вложение икс U —гиперболическое множество. Тогда каждая гёлъдерова функция на Л содержится в С^(Л). Доказательство. Пусть Var^(^,/, е):= sup{|^(a:)- ^(у)| | d(^(a:), Я(у)) ^ 6 для Ы <т}. В силу гиперболичности найдутся такие е > О и д < 1, что если х, у бЛ и d{f^{x)/f*(y))<£ для |г| ^п, то d{x,y)<f^'^, Таким образом, если \(р{х)- - <р{у)\ ^ cd{x, у)\ то Var^(^, /, е) ^ Cfi^"^ и К := Y1 Var„(^, / е) < оо. Далее, если d/(x, у) < е и О ^ А: ^ п, то d{p'if''(x)),p'if''iy))) < е для ^т^:= тт{к,п-к)и Mf'ix))- ip{p{y))\^Vat^{(p, f, е). Таким образом, поскольку mf. = m не более чем для двух значений к, m=0 MeN Следовательно, ipeCL D
628Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ Как мы видели в § 19.1, класс гёльдеровых функций инвариантен относительно топологических сопряжений гиперболических множеств и, следовательно, представляет собой очень естественный класс функций. Кроме того, мы рассмотрели пример гёльдеровой функции, который будет играть важную роль в рассмотрениях этой главы, а именно якобиан в неустойчивом направлении. Этот пример играет центральную роль в нашем анализе гладких инвариантных мер. В то время как основным объектом для применения результатов этой теории являются гиперболические множества и гёльдеровы функции, которые, собственно, и послужили первопричиной этого исследования, аксиоматический подход хорошо проясняет суть дела, так как при этом подходе четко видно, какие свойства используются при развитии теории. Аналогично следствию 3.2.13 имеет место следующее предложение. Предложение 20.2.7. Если f — разделяющее отображение с константой разделения 6q, е < 6q/2 и tpe С^{Х), то Р{<р)= lim ^log5^(/, ¥?, е,п). п —»оо Согласно (20.2.1) это утверждение немедленно вытекает из следующего аналога теоремы 3.2.12. Лемма 20.2.8. Пусть f: X ^ X — разделяюи^ий гомеоморфизм компактного метрического пространства с константой разделения 6q (см. определение 3.2.11). Тогда для tp 6 С^(Х), е е (О, 8J2) и 6 >Q существует такая константа С^^, что Щ/. ¥?, S. п) ^ Cg^.N^if, <Р, е, п). Замечание. Очевидно, мы можем полагать, что С^^ = 1 для б > е. Доказательство. Сначала поступим так же, как в доказательстве теоремы 3.2.12. Используя обозначения из этого доказательства, выберем е. К, как и в определении 20.2.5, таким образом, что \S^(p{x)—S^(p{z)\ ^К для хеЕ^ и хеЕ zeF Следовательно, мы можем положить С^^ = Ме^. D Определение 20.2.9. Пусть X — компактное метрическое пространство, /: X —> X — гомеоморфизм и (^ 6 С°(Х). Мера д 6 ЯЯ(/) называется равновесным состоянием для функции <р, если /^(/, (р) = Р(/, tp). Непосредственным следствием леммы 20.2.3 и предложения 20.2.7 является следующая теорема, подобная теореме 4.5.4. Теорема 20.2.10. Пусть X — компактное метрическое пространство, f: X ^ X —разделяющий гомеоморфизм и (р е С^{Х). Тогда существует равновесное состояние для у?.
§ 20.3. ЕДИНСТВЕННОСТЬ И КЛАССИФИКАЦИЯ РАВНОВЕСНЫХ СОСТОЯНИЙ 629 Упражнения 20.2.1. Вычислите давление топологического сдвига Бернулли а^^ для функции y7(w)= Wq. 20.2.2. Покажите, что давление потока равно давлению отображения сдвига за единичное время для этого потока. 20.2.3. Покажите, что если h о f = д oh^ отображение h сюръективно и ф = (р о h^ то § 20.3. Единственность и классификация равновесных состояний 20.3 а. Единственность равновесных состояний. В § 20.1 было показано, что разделяющее отображение со свойством спецификации обладает единственной мерой максимальной энтропии. Это утверждение обобщается до единственности равновесных состояний для разделяющих отображений со свойством спецификации. Однако доказательство теоремы 20.1.3 о единственности меры максимальной энтропии опиралось на несколько фактов из § 18.5, которые необходимо сначала приспособить для случая давления. Таким образом, сейчас мы хотим обобщить нужные нам леммы о скорости роста числа периодических орбит и отделенных множеств до результатов относительно статистических сумм ^ е^"'^*** по отделенным множествам или периодическим орбитам. В течение этого параграфа мы считаем, что /: X —> X — разделяющий гомеоморфизм с константой разделения 5q и со свойством спецификации и что (р 6 С^{Х) с такими константами е, К, как в определении 20.2.5. Тогда по аналогии с леммой 18.5.3 мы имеем следующую лемму. Лемма 20.3.1. Для е 6 (О, 8JZ) существуют такие к^, К^> О, что тп mm для Hi,..., n^ eN. m Доказательство. 1. Если E — (X] "-^j £)-отделенное множест- во и Fj —максимальное (n^, е/2)-отделенное множество, то для а: 6 6 Е существует такой набор z(x):= (z^(x),..., z^{x)) е Ц х • - х F^, что сг/(/"*'^""^"^-'(а:), 2у(а:)) ^ е/2 и z{^) — инъективное отображение. Поскольку, кроме того, J-1 J-1 мы имеем m J^ exp(5« ^ ^(x)) ^ П NAf. <P. f, n,) так что можно положить К^ ~ Сф^^е^.
бЗОЧасть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ 2. Если Ej- —(Пу, Зе)-отделенное множество, а. = п^-\ [-п^_1+(У—1)М^, где константа М^ определяется свойством спецификации, и /^- — [а^., а^-\-п^— — 1], то из упомянутого свойства спецификации следует, что для а: := (xj,... ..., х^) 6 Д X • • • X £?^ существует такое z = z{x), что d^Xf'''{z), х-) < е. Заметим, что по построению множество Е := {z{x) | а: 6 -Si х • — х Е^} является (а^ + п^, е)-отделенным. Поскольку, кроме того. т mK+^S^,<p{Xj), i=I тем самым показано, что m Поскольку а^ + ^т = ("^ ~ 0-^с + S "'у» согласно первому шагу доказательства мы имеем i=J m следовательно, по лемме 20.2.8 выполнены неравенства т т j = l Предложение 20.3.2. Пусть X — компактное метрическое пространство и f: X —> X — разделяющий гомеоморфизм с константой разделения 6q и со свойством спецификации. Если О< е < 6q/3, neN и к у К^ —такие же числа, как в лемме 20.3.1, то ^e^(^)^N,if,ip,6,n)^^e^(^l Доказательство. По предложению 20.2.7 мы имеем Р{(р)= lim ^ logS^if, (/?, е, п) п—юо для £ < Sq/2, Таким образом, из леммы 20.3.1 вытекает следующая оценка: bgfe,iV^(/y?,g,n) , log N^(f, <р, £, кп) _ р, . logi^^iV^(/, у?, g, п) В заключение, рассматривая статистические суммы по периодическим точкам, мы получим аналог теоремы 18.5.5. Упрощая обозначения, положим РуЦ, ip, п) :^ ^ е SM=^) а:€Нх(/")ПУ для Ус X.
§ 20.3. ЕДИНСТВЕННОСТЬ И КЛАССИФИКАЦИЯ РАВНОВЕСНЫХ СОСТОЯНИЙ 631 Предложение 20.3.3. Пусть X — компактное метрическое пространство, f: X —>Х —разделяющий гомеоморфизм со свойством спецификации и Sq — константа разделения. Тогда суи^ествуют такие константы с,, Cj > О, что для достаточно больших п 6 N имеют место неравенства c.e'^t^) ^ Pj^if, <р, п) ^ с^е'^^^К (20.3.1) Доказательство. В процессе доказательства предложения 3,2.14 мы установили, что Fix(/") — (п, 4))*отделенное множество. Из этого факта и из предложения 20,3.2 следует правое неравенство. С другой стороны, для п > Mj, (п — М^,Зе)-отделенного множества Е и хе Е существует такое z ~ z(x) 6 Fix(/"), что d^^^^ {х, z) ^ е, 2(-) — инъективное отображение, и притом S^^p{z)^ S^_^ ip{x) — К — М^^^р^^^, так что По аналогии с мерой Боуэна определим меру д следующим образом: в силу компактности 9Л(/) существует точка накопления М = lim м„ 6 mU) (20.3.2) к —»оо ^^ последовательности м„:— -ъ-п \ S е^'^'^^^'Н^. Другими словами, д„(У) = Ру(/, (^, п)//^(/, (^, п). С этого момента зафиксируем последовательность {njtlfeeiy и меру д. Теперь обобщим ключевую лемму 20.1.1 для нашей ситуации. Чтобы получить перемешивание, нам понадобится также оценка снизу. Лемма 20.3.4. Пусть {X,d)— компактное метрическое пространство, /: X —> X —разделяющий гомеоморфизм со свойством спецификации, мера fi определяется из (20.3.2) и £> О —число из определения 20.2.5 класса С^{Х). Тогда существуют такие числа Л^, В^>0, что для уеХ uneN выполнено неравенство А^е^"'^^^^^'*^^'^^ ^fi(Bj{y, е, п))^ Доказательство. Выберем г^п-\~ 2М^ и т = г - п- 2М^, Предположим, что Ejn — максимальное (тп, Зе)-отделенное множество, хеЕ^. По свойству спецификации найдется такое z{x) 6 Fix(/'') П Bj{y, е, п), что ^^^(/"■^^'(^(х)), х)< е. Отображение 2(-) инъективно на Е^ по определению множества Е^, и Е^ максимально. Заметим, что если число К таково, как в определении класса С^(Х), то так что SM^i^)) - ЗМу) - 5.^(^)1 < 2MJI ^11^0 + 2К, ^в,(^ ^ пМ ^^'^) _ 1 Y^ ^5,^и> P.(f т 'г\ ~ Р. (Г (Л_ г\ Z^ ^ ^ ^ re Fix(/0 П В^ (у, £, п) -^ ^ J ^^5„y(y)-2MJHUo-2Jr у> ^5„^(х) PxU^ <Р^ г) ^е^™
632 Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ Поскольку ^difi Ч>^ Зе, т) = sup{ X] е^™'^*^* | Е^ — (тп, Зе)-отделенное множество}, ПО предложениям 20.3.3 и 20.3.2 мы получаем, что ^-2(M.||,^|b+ir) С2^ " К 3£ где Л, = е-2<л^."^"с°+^+Ч^'(^))/^^^^^^ Полагая п, == г ^ п + 2М, и устремляя /с к оо, мы получаем оценку снизу. Чтобы получить оценку сверху, заметим, что для х 6 Fix(/'') П ^^(у, е, п) выполнено неравенство \S^^{x) — S^ip(y) — S^_^ip{f^(x))\ ^К и что множество /"(Р1х(/'')ПБ^(2/, £, п)) является (г — п, 4))"0тделенным, если е < 6q. Таким образом, используя предложения 20.3.3 и 20.3.2, мы получаем ^Bfiy,e,n){^ ^^ ^) _ 1 Хр S ,р{х) ^ мДБДу, ., п)) = р(^^ ) = Р^(/ <р, г) ' ^-1 '''fit, Лемма 20.3.5. Для л{еры д, определенной в (20.3.2), существуют такие константы с, С > О, что cfiiP)fi(Q)^ MfJ'iPnf-^iQ))^ От fi(Pnf-^Q))^Cfj,iP)fi{Q) (20.3.3) n-»oo "-»оо ^ля всех измеримых множеств Р, Q СХ, Доказательство. Установим сначала оценку снизу. Как и в доказательстве леммы 20.1.2, достаточно рассмотреть 5 >0 и компактные множества А^ В сХ, а в качестве U и V взять^ <5-окрестности множеств А и В соответственно и показать, что Ит M(t/П/""(У)) ^ сд(Л)д(Б). п—too Пусть е>0 и Л/'(5)6N таково, что d(x, у) ^ 6, если d(/*(x),/*(2/))^ е для всех |г| < iV(<5). Возьмем п ^2Л/'(5) и для s, i 6N, т; >0 рассмотрим такое (s, Зе)-отделенное множество Е^ и такое (i, Зе)-отделенное множество Е^, что J: е^'^(^)>(1-77)Л/,(/,^,3£,5)и J] е^-^^^) ^ (l-77)iV,(/, ^, Зг, t). Мы будем считать, что число е таково, что Л/'^(/ (^, Зе, s) > О и Л^^(/, у?, Зе, t) > > 0. Для данных множеств Л, i?^, Д i?^ определим отрезки I- = [а^, Ь.] С Z (г = 1,2, 3,4) следующим образом: «I = -[^2]» <h = ^\-^K^ Оз = Ьз + М„ а4 = ^ + -^.' bj = aj + п, 63 = ^ + ^) ^3 = ^ + ^' ^4 = 04+*.
§ 20.3. ЕДИНСТВЕННОСТЬ И КЛАССИФИКАЦИЯ РАВНОВЕСНЫХ СОСТОЯНИЙ 633 Пусть Vr = /-f"/2l(Fix(/")nA)x£;,x/-f"/2l(Fix(/")nS)x^, и m:= b^-a^-\- 4-Mj = t + 5-h2n + 4М Тогда по свойству спецификации лля каждого х = = (х,, х^, а:^,Х4)сЙ^ найдется такая периодическая точка z = z{x)e¥[x{f"^), что d/_^ (/""'(г), Х;) < £, г = 1,2,3, 4. Отображение z{') инъективно (любое множество вида {х^, xj} является (Ь. — а., Зе)-отделенным), и z{x) 6 С/ П n/"*"^^'(V) для всех X в силу нашего выбора N{6), Таким образом, S^^(zix))^SM^i)+SM^)-^SM^)-^SM^A)-'^K-'^M,\\ip\\co. Далее, S^(p{xA = 5 (р(/"^^'(а:^)) для i = 1,3 в силу периодичности, так что если Cq:= е*"* -^^'^^'^h\ ^о мы имеем xew а:,е/-1"^'(р1х(Г)пА) xjes, Xjer''^'(Fix(r)nB) x^es, ^ с^(1 - 77)2 ^ е^»^(^> 51 ^'"'^'^^iif^ ^. Зг, 5)iV,(/, ^, Зг, t) = X е Fix(/") ПА X е Fix(/'') П в = сь(1 - 7?)=Pf (/, ^, пК(Л)Р,(/, ц>, n)ix^{B)NAf, f, Зе, s)iV,(/, f, Зе, i) ^ ^ Рха f> m)Slli^c,e'^(»')c,e'^('')^e'^(^)^e'^(»')M„(AK(B) = С2С ■"'Зс Зс где последнее неравенство следует из предложений 20.3.3 и 20.3.2. Поскольку 2 е^»'^*''* ^ X) е^»'^*'*''*\ мы получаем xeFix(/'")nUn/-'-">(V) *е^ Фиксируя п и S, устремим i —> оо так, чтобы т = п,.. Тогда t ^^^ I'm А fe-*oo' ilm m(I^ П/-ЧТ^)) ^ см„(Л)мЛБ) г—too при 5 —> oo. в заключение, при п —> оо мы получаем lim МСС^ПУ-^!^)) > с Ит м„ДЛ)м^(Б) Поскольку д(^Л) = м(^Б) = 0, оценка снизу установлена. Чтобы доказать второе неравенство, проведем аналогичные рассуждения. Для m = s+i+2n и xef-^'^^'^{¥[x{f'^)f^Af\f-''{в)) существует единственное такое z{x)=iz,, ^, z^, 2,), что 2, бР1х(Г+^0, ^^eFixC/'^^•). 2збПх(Г+^'). 2, 6 Fix(/^+^.) и Й(-.ДГ(^)> ^Л <£,*• = 1, 2,3,4. где aj=-[n/2], a2 = bj, «3 = ^2» «4 = ^з» bi = aj + п, Ьз = «2 + 5» ^ = Оз + п, ^4 = ^4 + *•
634 Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ Тогда 2j 6 С/, 2з 6 V и так что П/ '■(В) Действуя точно так же, как и выше, мы получаем оценку сверху. D Предложение 20.3.6. Пусть f — гомеоморфизм компактного метрического пространства X и д—такая f-инвариантная борелев- екая вероятностная мера, что для любых борелевских множеств Р и Q выполнены неравенства (20.3.3). Тогда f —перемешивающее отображение. Замечания. 1. В частности, отсюда мы получаем новое доказательство предложения 20.1.7. 2. Это утверждение верно для сохраняющих меру преобразований пространства с мерой. Чтобы убедиться в этом, следует заменить в приведенном доказательстве использование *-слабой топологии некоторыми соображениями из теории меры. Доказательство. Сначала покажем, что из левого неравенства в (20.3.3) следует эргодичность декартова квадрата /х/ относительно меры- произведения |i X д. Пусть Л, Д С, D с X —некоторые борелевские множества. Тогда 1Ш1(м X д)((/ X /)"(А X С)П(Б X D)) = п-*оо 1т1[м(Г(^)пВ)-м(Г(С)пД)]^ п—*оо > cV(^) • ^(В). м(С). m(D) = с2(д X м)(Л X Б). (д X д)(С X D). Такое же неравенство верно, если заменить ЛхСиВх^на конечные объединения непересекающихся произведений множеств, и, следовательно, поскольку такие множества аппроксимируют все измеримые множества J^ Q С X X X, мы имеем Mm (М X м)((/ X fTiP) nQ)^ cHfx X м)(Р) • (м х m)(Q), Tl—»00 и эргодичность отображения / х / относительно fi х fj, доказана. Теперь пусть z/ — диагональная мера s X х X, задаваемая условием 1/{Е) = ^1{щ{Е П А)), где А = {{х,х)] х в X} и тг,: X х X -^ X — проекция на первую координату. Мера z/, а также и ее сдвиг z/„ под действием отображения /" х Id являются (/ х /)-инвариантными. Именно,
§ 20.3. ЕДИНСТВЕННОСТЬ И КЛАССИФИКАЦИЯ РАВНОВЕСНЫХ СОСТОЯНИЙ 635 7/„(Л X Б) = д(/"(Л)ПБ). Правое неравенство из (20.3.3) означает, что limz/„(A хВ)= Итм(/"(Л)ПБ)< п—•оо п^оо < См(Л). м(Б) = С(м X д)(Л X Б). (20.3.4) Пусть т; — произвольная предельная точка последовательности z/„ в ♦-слабой топологии. Если А, В с X — замкнутые множества, то согласно (30.3.4) имеет место неравенство 7]{А х В) ^ С{^ х^ ^){А х В). Рассматривая объединения непересекающихся произведений замкнутых множеств и используя аппроксимацию, мы заключаем, что г]{Р) < С(д х м)(Р) для любого борелевского множества Р сХ % X и, следовательно, мера Г] абсолютно непрерывна относительно д х д. Так как мера т; является (/ ^ /)-инвариантной, а мера д х д эргодическая, по предложению 5.1.2 выполнено равенство т; = д х д, так что для любых замкнутых множеств Л, В, fj,{dA) = fj.{dB) = 0у мы имеем lim м(/"(А)пБ)= lim z/„(A хБ) = (мх д)(А х Б) = р(Л)-м(Б). п —юо п—too Так как совокупность всех таких множеств достаточна, по предложению 4.2.10 преобразование / является перемешиванием относительно д. П Прежде чем приступить к доказательству единственности равновесных состояний, отметим еще одно полезное следствие выпуклости функции д{х):= xiogx (^(0) = 0). А именно, если а.,а:^^0 для г=1,...,п и т A = J2<^o "ГО 1 = 1 m т т mm т t = ! так что, в частности, используя тот факт, что д(х) ^ —1/е, для Ь^ := loga^ мы получаем, что т mm £ хДЬ, - logx,) < £ X, log ( £ е'^) + i. (20.3.5) t=I 1=1 J=I Теорема 20.3.7 (Боуэн). Пусть (X, d) — компактное метрическое пространство, f: X —^Х —разделяющий гомеоморфизм со свойством спецификации и (р^С^{Х). Тогдасуи^ествует единственная такая мера fj,^ = fj,e ЯЯ(/), что P^(f, (р) = P{f, <р). Она является перемешивающей, и '^'^ „-*оо Рг(/, ip,n) ^-^ Доказательство. Выберем некоторую точку накопления в *-слабой топологии fe-»oo
бЗбЧасть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ последовательности fJ'n'= ТТп ^ ^x^^if)- ^^ предложения 20.3.6 следует, что преобразование / является перемешивающим относительно д. Мы покажем, что если Р^(/ (р) = P{f, (р), то и = ^i, так что Р^(/, ip) = = P{f, (р) и существует только одна точка накопления. Как и при доказательстве теоремы 20.1.3, достаточно показать, что если Рассмотрим для п 6 N и максимального (п, 2е)-отделенного множества Е^ такое борелевское множество /3^, что Bj{x, е, п) с /3^. С В^{х, 2е, п), *8„ := {Р^ I X е -£?„} — разбиение и (д + z/)(^*8„) = 0. Так как / — разделяющее отображение, diam/"*"/^'(*8„)—»-0, следовательно, если f{B) = B СХ, Т1-*00 и притом fj,{B) = 0 и 1/{В) = 1, то существуют такие конечные объединения С элементов *8„, что п "'п (М + z/)(C„AB) = (m + z/)(/-l»/2!(C„)AS) -. 0. n —too кроме того, если е < ^/2, то *8„ — образующее разбиение для /", т. е. nKif) = K(n=Kir^'BJ^H^^J, Заметив, что S^<p ^ К-{-SM^) на *8„, мы получаем пРЛ/.<р)^' ^ {<PiHPJ)-^ \ S^<p du) < хеЕ^:13,еъ ^ X € S„; /3, с С„ а: е S„; /3, П С„ = 0 a:es„;/3,cc„ *e^„:/3,nc„-0 где при получении последней оценки используется (20.3.5). Применим теперь лемму 20.3.4: Но так как z/(C„)—>1 и м(С„)—^0, правая часть стремится к—оо при п—>оо. Следовательно, Р^,(/, у?) < Р(/, у?). П Следствие 20.3.8. Пусть Л — топологически транзитивное компактное локально максимальное гиперболическое множество для гладкого вложения f: и -^М и (р: К-^Ж — гёльдерова функция. Тогда суи^е- ствует единственное равновесное состояние для функции (pj которое мы обозначим fj,^. Доказательство. Доказательство совершенно аналогично выводу следствия 20.1.4 из теоремы 20.1.3. D Существует и параллельное утверждение для топологических цепей Маркова, аналогичное следствию 20.1.5.
§ 20.3. ЕДИНСТВЕННОСТЬ И КЛАССИФИКАЦИЯ РАВНОВЕСНЫХ СОСТОЯНИЙ 637 20.3 б. Классификация равновесных состояний. Теорема 20.3.7 устанавливает единственность равновесного состояния д^ для данной функции ц> 6 С^. Однако очевидно, что несколько функций могут иметь одинаковые равновесные состояния. Например, если к (^ прибавить константу, то та же константа прибавится к Р(}р) и Р^{^) для любой меры д, так что мы получаем то же самое равновесное состояние. Равновесное состояние, очевидно, остается тем же, если кр претерпевает такое изменение, что статистические суммы Ру^л ¥?) ^) остаются неизменными, скажем, при изменении ц> таким способом, что суммы по любой периодической орбите остаются теми же самыми. Это, например, происходит, когда (^ и ^ принадлежат одному и тому же классу когомологий. Другими словами, мы имеем следующее предложение. Предложение 20.3.9. Пусть (X^d) — компактное метрическое пространство, f: X ~^Х —разделяющий гомеоморфизм со свойством спецификации и ip^ipeC^iX), так что S^ip(x) = S^ij{x)-\~nc для некоторой константы с, ке зависящей от а: 6Fix(/") un6N. Тогда равновесные состояния д^ и д^ для функций (риф совпадают. Замечание. Посылка утверждения имеет место, в частности, если функция (р — ф когомологична с. Теперь мы обладаем необходимым аппаратом, для того чтобы показать, что для гиперболических множеств верно и обратное утверждение. Предложение 20.3.10. Пусть Л — топологически транзитивное компактное локально максимальное гиперболическое множество для гладкого вложения /: U -^ М и (р^ф: А-^Ш —такие гёльдеровы функции, что равновесные состояния д^ и fj,^ для (риф совпадают. Тогда ф{х) = (р{х)-\~с-\~к{/(х)) — к{х) для некоторой гёльдеровой функции h. Доказательство. Прежде всего добавим некоторую постоянную к ф таким образом, чтобы получить равенство Р{(р)=: Р{ф), Тогда по теореме Лившица 19.2.1 нам достаточно показать, что все суммы S^(p(y) и 3^ф{у) по орбитам периода п совпадают. Для этого выберем у 6 6Fix(/") и заметим, что по лемме 20.3.4 выполнено неравенство ^f е^"'^*** ^ ^ Б^е^"^*** и, следовательно, S^(р{у)-{-log А'^^ ^ ^nV'(2/)+iog В}. Поскольку у бг1х(/*") для всех /с 6N, мы заключаем, что S^(p(y)= lim S,^(p{y)/k ^ к-*со ^ lim 3^^ф{у)/к = 3^ф(у), В силу симметрии имеет место также обратное к -*оо неравенство, и, следовательно, предложение доказано. D Упражнения m-I 20.3.1. Пусть р = (fb,..., Pm-\h Pi > О ДЛЯ г = 1,..., m, J] р; = 1. Докажите, что мера 1=0 Бернулли fi является равновесным состоянием для полного сдвига а^ и некоторой гёльдеровой фуНКЩ1И (р, 20.3.2. Пусть /: X —* X — разделяющий гомеоморфизм компактного метрического пространства со свойством спецификации и у? 6 С^(X). Докажите, что supp/i^ =Х. 20.3.3. Докажите, что, кроме того, h (/) > 0.
ГЛАДКИЕ ИНВАРИАНтаЫЕ МЕРЫ 20.3.4. Пусть Л — гиперболическое отталкивающее множество отображения f:U—*M (см. определение 6.4.3). Пусть Л:= {(а:^, л:|,...) | а:^ 6Л, f{Xi) = x-_i}. Будем рассматривать это множество как пространство с расстоянием d{x,y)= J] 2~"d(a^, 2/„). Определим F: Л —* Л как сдвиг: /(а:^, х, ,...) = (х^, а:^,...). Докажите, что / — разделяющий гомеоморфизм со свойством спецификации. Отображение / называется естественным расширением отоб* ражения /. 20.3.5. Кратко опишите теорию мер максимальной энтропии и равновесных состояний для гиперболических отталкивающих множеств. § 20.4. Гладкие инвариантные меры В предыдущем параграфе мы исследовали инвариантные меры разделяющих гомеоморфизмов со свойством спецификации. Теперь рассмотрим специальный класс таких отображений, а именно транзитивные диффеоморфизмы Аносова. Одна из причин того внимания, которое мы уделили теории равновесных состояний, состоит в том, что эта теория позволяет получить интересные результаты для данного случая. При рассмотрении диффеоморфизмов гладких многообразий естественно интересоваться инвариантными гладкими мерами, как это было сделано, например, в гл. 5. 20.4 а. Свойства инвариантных гладких мер. В настоящий момент мы готовы к тому, чтобы описать эргодическую теорию инвариантных гладких мер диффеоморфизмов Аносова, опираясь на теорию равновесных состояний. Теорема 20.4.1. Пусть М—компактное связное гладкое ри- наново многообразие и f: М —^ М — диффеоморфизм Аносова, Тогда f обладает не более чем одной инвариантной гладкой мерой. Если f обладает инвариантной гладкой мерой А, то f — топологическое перемешивание и мера А равна равновесному состоянию д^ для функции ip\= log J"/~'(/(')), где J'^f~^(f{-))—якобиан в неустойчивом направлении, определенный в следствии 19.1.13, и, следовательно, f—пе- ремешиваюи^ее преобразование по отношению к мере А. Кроме того, Замечание. Сравните последнее утверждение теоремы с предложением 5.1.26 для растягивающих отображений. Доказательство. Если / обладает инвариантной гладкой мерой А, то теорема Пуанкаре о возвращении 4.1.19 позволяет заключить, что А-почти все точки являются неблуждающими. Так как множество NW{f) замкнуто и мера А положительна на открытых множествах, NW{f) = М. По следствию 18.3.5 это значит, что /—топологическое перемешивание. Остальные утверждения теоремы могут быть получены из результатов предыдущего параграфа и следующей леммы, которая дает мультипликативные оценки на объем шаров в метрике d/. Лемма 20.4.2. Пусть /: М ~^М ~ диффеоморфизм Аносова и А — гладкая положительная мера на М, не обязательно инвариантная. Тогда для каждого е > О суи^ествуют такие C^^D^> О, что для всех п 6N выполнены неравенства DJ-f-irix)) ^ Х{В,(х, е, п)) ^ CJ-f-ЦПх)).
§ 20.4. ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ 639 Чтобы доказать теорему, предположим, что А — /-инвариантная мера. Из леммы 20.4.2 следует, что ^А(ВДа:, 6, п) ^ е^"^(^) ^ -^А [в, [х, f, п)) для всех X еМ, е > О, п 6N. Если Е —(п, е)-отделенное множество, то шары {BJx, е, п)}^^^ покрывают М, а шары {В^{х, е/2, п)}^^^ не пересекаются. Следовательно, Р({л) = lim lim i logsup ( У^ e^-'^*''* множество E является *e^ (n, е)-отделенным^ ^ ^ lim lim — log sup | ^ "n^^ (■^/(^' f' ^)) множество £? является ""^^ (n, е)-отделенным1 ^ ^lim lim ^\оц-у^-Х(М)^0 с —»0 Ti —»oo " ■^^£/2 И, аналогично, P((^)^0. Ho тогда из соотношения (20.3.5) и леммы 20.3.4 мы немедленно видим, что А <С м^, и, следовательно, А = д^ в силу эргодичности д^. По теореме 20.3.7 мера А является перемешивающей. В заключение заметим, что, поскольку топологическое давление функции (р и, следовательно, давление А, равны нулю, мы получаем выражение для энтропии из определения i^. D Доказательство леммы 20.4.2. Пусть т = dimМ. Сначала заменим шары Б^(а:, е, п) множествами, с которыми легче работать. Для каждой точки хеМ рассмотрим подходящие координаты в окрестности V^ точки X, как это делалось в п. 19.1 г. Подобно случаю периодической точки (теорема 6.2.3) мы можем выбрать эти координаты так, чтобы локальные неустойчивые многообразия W^{x) параметризовались в координатах некоторым диском из «плоскости» Е* X {0} и локальные устойчивые многообразия W"(a;) —диском из {0} хЕ'""*'. Если точка уб V^ параметризуется как (Уп Ih)^^'' ^ М'""'', то найдутся такие константы Cj, Cg > О, не зависящие от точек X и у, что ci max(||yj||, ЦугИ) ^ ciist(a:, у) ^ с^ тах{\\у^\\, ||i^||). Пусть Б,(а:):={убК|У^,(,,3/Чу) = (У1**Л#), тах{Ы% ЫЧ) ^ е, О ^ г < п}, Тогда В^^^{х) С Bj{x, е, п) С В^^^^{х), и для того, чтобы доказать лемму, достаточно получить подобную оценку для Х{В^{х)). Кроме того, мера А на V^ задается плотностью, которая ограничена и отделена от 0. Таким образом, вместо того чтобы оценивать А (БД х)), мы можем оценить объем В^{х) в подходящих координатах. Аналогично, якобиан, который вычисляется относительно данной римановой метрики, может быть заменен на якобиан отображения /"" из подходящих локальных координат в окрестности Р{х) в подходящие локальные координаты в окрестности х. Мы полагаем, что
640Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНтаЫЕ МЕРЫ £ достаточно мало и, таким образом, удовлетворяет нескольким условиям, которые будут сформулированы позже. Чтобы описать множество В^(х), прежде всего заметим, что оно содержит кусок S устойчивого многообразия W'(x) размера е в подходящих координатах. Следовательно, (т — А:)-мерный объем S имеет порядок е"*"*. Теперь зафиксируем у 6 5. В локальных координатах у = (О, %)• Пусть и ={z^ В^(х) [2 = (2/,, %)}» т. е. это множество представляет собой горизонтальное «сечение» В^{х) в точке у. Очевидно, УоГ(Б,(а:))= J vol'(U-^)d%. (20.4.1) Таким образом, мы должны оценить /с-мерный объем множества Ц^. Для этого заметим, что для достаточно малого е касательное пространство Т^ U близко к неустойчивому подпространству Е^ и, в частности, содержится внутри инвариантного семейства конусов с «направляющими» Е'^, Это означает, что если в локальных координатах в окрестности /'(х) мы положим /•(2) = (2р^ 2^'*), то ||2р*|| ^м||2}*"'*|| для некоторого д > 1 и 1 < г ^п. Следовательно, ll^f'^ll максимально для г =п и образ /"(Ц^) является графиком липшицевой функции в подходящих координатах в окрестности /"(х), определенной на всем е-шаре с центром в начале координат. Таким образом, величина vol''(/"(C/ )) имеет порядок е^. Если uj — /с-мерный элемент объема на /"(Ц^), то vo\'{U)= \ J{f-)\TriU)duj. (20Л2) f4u^) Принимая во внимание соотношение (20.4.2), нетрудно видеть, что лемма 20.4.2 будет установлена, если мы покажем, что для w = f^{z) 6 P{U^ отношения ^ j"/-"(/"(x)) ограничены снизу и сверху положительными константами. Чтобы доказать это, сравним орбиты 2, /(2),..., Г(г) = w vi X, /(х),..., Г{х) и пространства Tu,(Df){TU\ = TfiU),...,DriTU) и е:,е;^^^,...,Е,\,у предложение 6.4.16 дает оценку расстояния между точками f^{z) и /*(а:) вида Сеа "*'"**'""** для некоторого а < 1. Следовательно, в силу гёльдерово- сти неустойчивого распределения Е'^ (теорема 19.1.6) имеет место неравенство J/-' jf-' E*i <C^aГ^^'^-'K (20.4.3)
§ 20.4. ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ 641 Кроме ТОГО, расстояние между Ер^^^ и Df*{TUj^) убывает с экспоненциальной скоростью, так что Л-Че, Jf-' Е Df<{TU^) < C^ai, (20.4.4) Объединяя (20.4.3) и (20.4.4) и перемножая возникающие в результате неравенства для г =0,..., п — 1, мы получаем равномерную оценку отно- Именно эта оценка требовалась нам для получения двусторонней оценки на Уо\^{и ) в виде произведений е'' на постоянные множители. Интегрирование по S завершает доказательство. D 20.4 6. Гладкая классификация диффеоморфизмов Аносова на торс. Характеризация гладких инвариантных мер как равновесных состояний имеет несколько естественных приложений. Среди них классификация определенного класса отображений Аносова с точностью до гладкого сопряжения с помощью естественных модулей. Мы представим здесь наиболее элементарный результат из этой области, относящийся к С-класси- фикации. Теорема 20.4.3. Предположим, что f, д:Т^-^1!^—С^-сохраняющие площаоъ диффеоморфизмы Аносова и f о h = hoд, где гомеоморфизм h гомотопен тождественному. Тогда диффеоморфизмы fug С^-сопряжены тогда и только тогда, когда их собственные значения в соответствующих периодических точках р и h{p) совпадают. Доказательство. В сторону «только тогда» утверждение было доказано в п. 2.1 а. Чтобы доказать обратное, рассмотрим функцию ^^:= log(J"/) о/i. Поскольку и log(JV), и /i — гёльдеровы функции (по следствию 19.1.13 и теореме 19.1.2), такова же и функция V'/. Из предположения о равенстве собственных значений следует, что суммы по периодическим орбитам функций ф^ и ¥?^:= log J"^ равны, и, следовательно, по предложению 20.3.9 равны соответствующие равновесные состояния. По теореме 20.4.1 равновесное состояние для tp^ — гладкая мера, т. е. площадь. Заметим теперь, что равновесные состояния по построению инвариантны относительно гёльдерового гомеоморфизма, т. е. равновесное состояние для 'фf^ (которое, как мы только что установили, есть площадь) равно переносу равновесного состояния для ^^ = \ogJ''f h. Это значит, что отображение h сохраняет площадь. По следствию 19.1.11 устойчивое и неустойчивое слоения для f ^ д С'-гладки. Это значит, что локальная структура произведения является С*-гладкой, т. е. существуют локальные С *-координаты для f и д,в которых эти слоения линейны. Образ площади в этих координатах — мера с непрерывной плотностью, которая, следовательно, порождает непрерывные плотности на каждом слое. Каждая из этих условных плотностей определена с точностью до мультипликативной константы. Таким образом, мы получаем непрерывные плотности на слоях слоений для /ид. Так как преобразование h сохраняет площадь, оно сохраняет эти плотности. Это показывает, что 21 А. 5. I^TOK. 5. Хасседблат
642Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ на каждом слое h локально получено интегрированием непрерывной плотности, следовательно, само принадлежит классу С.Таким образом, по лемме 19.1.10 h является С*-диффеоморфизмом. D Следствие 20.4.4. Пусть /: 1^-+ Т^ — С^-сохраняющий площадь диффеоморфизм Аносова, и пусть существует такое X sR, что для каждого х е Fix(/") растягивающее собственное значение дифференциала DP{x) равно Л". Тогда диффеоморфизм f С^-сопряжен линейному автоморфизму А. Доказательство. Прежде всего заметим, что по теореме 18.6.1 существует топологическое сопряжение с линейной моделью i*J^, т. е. такой гёльдеров гомеоморфизм, h: Т^ —*Т^, что foh = hoFj^. Тогда h отображает площадь (равновесное состояние для ^р = const) в равновесное состояние для функции ^j = ipjoh. Но по теореме 20.4.1 равновесное состояние для (Pj — площадь, и по условию ^^ = const, следовательно, (p^ = ip^oh = ф^. Таким образом, гомеоморфизм h сохраняет площадь, и из предшествующего доказательства мы видим, что этот гомеоморфизм является С*-гладким. D Следствие 20.4.5. Предположим, что /: Т^ —*Т^ — такой С^-сохраняющий площадь диффеоморфизм Аносова, что K(f) = h^^p(f)- Тогда этот диффеоморфизм С^-сопряжен с линейным автоморфизмом. Доказательство. Посылка состоит в том, что равновесное состояние для функции ipf совпадает с равновесным состоянием для нуля. Таким образом, по предложению 20.3.10 функция tpj когомологична нулю, и мы можем применить предшествующий результат. D Результаты этого пункта могут быть усилены следующим образом. Если отображение / принадлежит классу С°°, то гладкие сопряжения, полученные выше, также принадлежат этому классу. Это следует из двух соображений. Во-первых, хотя устойчивые и неустойчивые слоения лишь С^-гладки, их слои представляют собой С7°°-многообразия (см. теорему Адамара — Перрона 6.2.8), и условные плотности также С°°-гладки. Такая плотность определяется с точностью до мультипликативной константы, и если у е W"(x), то можно показать, что £М=Ппг4:^, (20.4.5) р{х) п^оо J"/ "(2/)' Причем последнее выражение является С°°-гладким на слоях и все производные непрерывны. Подобные соображения применимы и к устойчивым слоям. Доказательство этих свойств аналогично доказательству теоремы 6.6.5. Во-вторых, можно показать, что любая векторная функция, непрерывная вместе со своими частными производными всех порядков вдоль устойчивого и неустойчивого слоений, является С°°-гладкой [^]. 20.4 в. Гладкая классификация контактных потоков Аносова на 3-многоо6разиях. Теперь приступим к исследованию потоков, которые являются потоками Аносова и сохраняют контактную структуру (см. § 5.6 и п. 18.3 б). Мы рассмотрим случай самой низкой размерности — потоки на 3-многообразиях, для которых роль линейных моделей в предыдущих рассуждениях играют геодезические потоки на факторах гиперболической плоскости.
§ 20.5. МЕРА МАРГУЛИСА 643 Теорема 20.4.6. Предположим, что ip^ иф^ —контактные орби- тально эквивалентные потоки Аносова на трехмерном многообразии и что периоды соответствующих периодических орбит равны. Тогда потоки ip^ и ф^ С ^-сопряжены. Доказательство. Заметим, что по теореме 19.2.9 эти потоки являются гёльдерово эквивалентными. Эквивалентность потоков сохраняет сильные устойчивое и неустойчивое слоения и орбиты. Далее заметим, что согласно аналогу следствия 19.1.11 для потоков слабые устойчивое и неустойчивое слоения С*-гладки. По лемме 18.3.7 сильные устойчивые и сильные неустойчивые распределения являются пересечениями слабых устойчивых и слабых неустойчивых распределений с ядром контактной формы. Так как контактная форма С*-гладка, сильные слоения тоже С*-гладки. Аналог теоремы 20.4.1 для потоков (упражнение 20.4.1) позволяет заключить, что равновесное состояние для якобиана в неустойчивом направлении суть инвариантный объем, индуцированный контактной формой. Из этого вновь следует, что эквивалентность потоков сохраняет объем, и так как она также сохраняет три одномерных С*-слоения (орбиты и сильные слоения), она сохраняет условные меры на этих слоениях и, следовательно, принадлежит классу СК П Упражнения 20.4.1. Докажите аналог теоремы 20.4.1 для потоков Аносова. 20.4.2*. Покажите, что для любого диффеоморфизма Аносова / условные меры на неустойчивых слоях, порожденные равновесным состоянием /х , где ¥' = log J"/~4/('))i абсолютно непрерывны и имеют вид (20.4.5). 20.4.3. Обобщите теорему 20.4.3 на случай произвольных (не обязательно сохраняющих площадь) диффеоморфизмов Аносова на Т^. 20.4.4. Приведите пример С°°-сохраняющего объем диффеоморфизма Аносова на Т^, который сопряжен с линейным автоморфизмом посредством отображения, сохраняющего объем, но не сопряжен с линейным автоморфизмом посредством С'-отображения. § 20.5. Мера Маргулиса В этом параграфе мы приведем другую конструкцию единственной меры максимальной энтропии в случае топологически перемешивающих потоков Аносова, принадлежащую Маргулису. В отличие от конструкции Боуэна из § 20.1, где эта мера строится как предельное распределение периодических орбит, в конструкции Маргулиса мы имеем дело с пределами нормированной меры Лебега на очень ддщтых кусках неустойчивых многообразий. Конечно, данная конструкция также применима к случаю дискретного времени, но в этой ситуации она не дает особенно интересных новых результатов. Однако в следующем параграфе с помощью этой конструкции мы получим самую точную известную асимптотику скорости роста числа периодических орбит в случае потока. Таким образом, всюду в этом параграфе мы будем считать, что у?': М-^ М — топологически перемешивающий поток Аносова. Сначала введем необходимые обозначения.
644Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ Мы будем писать А с W^, если А с W°'*(p) для некоторой точки реМ. Аналогично мы используем понятия открытости, компактности, непрерывности и измеримости для множеств и функций, определенных на неустойчивом слое; иногда мы будем писать: множество W^-открыто и т. д. Таким образом, W^'^-окрестность точки р€М — это И^°"-открытое множество, содержащее р. Положим C(W^):= {/: M-+iR| множество supp(/)c С W^ компактно, ограничение Язиррц) непрерывно}. Функция расстояния на слое W°"(p), индуцированная римановой структзфой этого многообразия, будет обозначаться d^, а через Л°" мы обозначим меру (Лебега) на каждом неустойчивом слое W^(p), индуцированную римановым объемом на этом слое. Множество В^{р, г) := {q е W^{p) \ d^{py q) < г} — г-шар с центром в точке р в W^{p), Это определение переносится также и на другие слоения (W", W^, W"'). Подобно отображениям голономии для случая диффеоморфизмов в п. 19.2 б, если точки х, уеЛ достаточно близки, то существует корректно определенное отображение голономии П: B°'^{x,e)-^W^{y),z^r^W'{z)nB^{y,S), где г и 5 зависят от х и у. Мы называем множества А, Б с W^ е-эквивалентными, если существует корректно определенная голономия Н множества А на Б и d'(x, Щх)) < е для всех ж е А. Функции /, ^ в C(W°") назовем е-эквивалентными, если supp(/) и supp(^) £-эквивалентны посредством Н и f = доН. Применение аналогов следствия 18.3.5 и предложения 18.3.10 для потоков к у?' показывает, что для p^Pz^M и г>0 выполнено условие W'(pj)n^°"(p2j г)ф0. Таким образом, простые рассуждения с использованием компактности показывают, в свою очередь, что для любого открытого множества А с W°" существуют такие константы г(А), г (А) > О, что для всех реМ шар Б^{р, г) г(А)-эквивалентен подмножеству А, Отсюда получаем следующую лемму. Лемма 20.5.1. Если множество А с W°" открыто, то существует такая константа С(А), что для реМ и t^O выполнено неравенство Доказательство. Предположим, что Г>0. Тогда утверждение выполнено для всех р € М и t в [О, Г], поскольку отображения голономии, устанавливающих £-эквивалентность множества у?'(Б°"(р, г{А))) с подмножеством С множества у?'(А), образуют равномерно равностепенно непрерывное семейство локальных гомеоморфизмов с равномерно равностепенно непрерывными обратными для t е [О, Т], з е [О, £(А)]. Если Г —достаточно большое число (зависящее от А) и i ^ Т, то множество у?'(Л^"(р, г(А))) £-эквивалентно подмножеству С множества ¥?'(А), где £ достаточно мало, так что Л'*"(у?'(Б'*"(р, г(А)))) <const •Л°"(С'), где константа ограничена и зависит от А. (Это возможно, потому что кривизна границы ip^{B^{py г{А))) ограничена независимо от t.) П Лемма 20.5.2. Если О ^ / е С(W^'*) и множество К е W^ компактно, то существует такая константа C{Kyf)>0, что для любой ограниченной W^-измеримой функции д с носителем в К и для t^O выполнено неравенство д о ^-^ dAo- < С{К, f)\\g\\^ J -^ ° V'"' ^^""' где I • \\^ означает существенную (т. е. (modO)) верхнюю грань.
§ 20.5. МЕРА МАРГУЛИСА 645 Доказательство. Пусть А ={х€ М \ f{x) > е}. Покроем компакт К шарами Б°"(х,., г{А)), г = 1,..., iV. Используя лемму 20.5.1, мы получим N д о V,-' dXO" ^ X0"{>p4K))\\g\L < Y1 ^°"{В<^{^„ г{А)))\\д\\^ < 1=1 <NC{A)X<>-{v''{A))\\g\L<C{K,f)\\g\\^ \ /o^^-'dA'^, где C{K,f) = NC{A)/e. D Для р€ М определим функцию /j,: М-*Ш, f,^y^ J {l + X°^(B'^{p,d°^{p,x))))-\ еслихбЖ'^Ы, ° 'О в противном случае. Пусть т^{з) таково, что Л''"(5''"(р, r^{s))) = s, и пусть и; := {х е W'*(p) I г ^ Х<^{В°^(р, d°"(p, х))) < г + 1} = = ВОЦр, г^{г + 1))\В°-{р, г^{г)) для г eNo- Тогда X°^{UJ) ^ 1 и, следовательно, J f,{x)dX°-<J2 f f,{x)dX°''^J2l/{i + ir<2. (20.5.1) Ш Для открытого множества А с W°" и ^> е Л/ положим Хр,А = ХдЦ^тщ: (^^" рактеристическая функция замкнутого г(А)-шара) и Тогда ^^^ — W°"-непрерывная и положительная функция на W^{p), Лемма 20.5.3. Для открытого множества А с W°", qsM, t ^ О и константы С{А), определенной в лемме 20.5.1, мы имеем Доказательство. Используя формулу Хр,а(^) = Хх,а(р)' теорему Фубини, лемму 20.5.1 и неравенство (20.5.1), мы получаем (v.-'(x))dA'>"(x)= и Х,-.(х),а(2/)/,(2/)'^^'"*(2/)'^'"*(^) = й- iV-'i^)) dX'^{x)f (у) dX'"'(у) Л'^(¥.'(5'"*(¥'-'(2/), г(А))))ау) dX^^iy) < 2С{А)Х°Ц>р^{А)). д
646Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ Лемма 20.5.4. Если /j е C{W^) ие>0, то существует такое 6>0 (непрерывно зависящее от /j в С°-топологии), что если функция /g 5-эквивалентна fi, то fidX^- \ f^dX^\<e \ |/i|dAO" Доказательство. Рассмотрим кусочно постоянные функции ^ и ^, представляющие верхние и нижние суммы Римана для J /j dA°", которые являются приближениями этого интеграла с точностью | J |/i| dA°". Достаточно установить результат для ^ и ^, потому что если функция /g 5-эквивалентна /j, то соответствуюпще 5-эквивалентные кусочно постоянные функции дают верхние и нижние оценки для /g. В любом случае достаточно показать, что для данного открытого множества О с W°" и данного а > О существует такое т/, что любое т/-эквивалентное множество О' имеет с точностью до а такой же объем, т. е. |volO — vol0'\< а. Но это следует из того факта, что голономии сходятся к изометриям при т/ -+ 0. D Теперь мы раз и навсегда зафиксируем W°"-открытое множество JC с W°"-компактным замыканием и функцию /с > Х;с (20.5.2) из C{W^), где Хх: — характеристическая функция ]С. Определение 20.5.5. Функции /п Л в C(W^") называются е-близкими, если существуют такие /i, Л в C{W^) и х^^х^еМ, что (О Л» Л являются ^-эквивалентными, (2) \fiix) - f.{x)\ < eg^^j^{x) для всех х е М. Лемма 20.5.6. Если О ^ /j е CiW^'^) и е >0, то существует такое S{ejfi), что для функции Л е CCW^"), 8-близкой к /j, выполнено неравенство /i о ^-' dAO" - [ Л о Ч>~' ^А°" < £ [ Л: о у?-' dAO\ Доказательство. По определению о у?-' dA°" - 1 Л о ¥?"' d\A ^ I /i о у?-' dA°" - [ /i о ¥?"' dX Ои + J ^"^'^ ^ 2||/iLC7(x:,/i) J где средний член для достаточно малого 8 оценивается с помощью леммы 20.5.4 (с использованием того факта, что функции /j о у?~' и
§ 20.5. МЕРА МАРГУЛИСА 647 /з о у?"' ЯВЛЯЮТСЯ 5Л'-эквивалентными, где Л < 1 — константа из определения 17.4,1). Оба других члена согласно лемме 20.5.3 ограничены числом 2C{A)SX^{tp^JC). Таким образом, выбирая 5 < e/{SC{A)), с помощью леммы 20.5.2 мы можем заключить, что выражение г J Л; о V' ^°" действительно является нужной нам оценкой сверху. D Хотя пространство C{W^) не линейно, так как мы не можем складывать функции с носителями на различных слоях, можно определить понятие линейности. Функция F: C(W^)-+iR называется линейной или линейным функционалом, если F{af)= aF{f) иF{f-\-g) = F{f)-\-F{g)flдя fj 9t f+9 ^ C(W^), a eR. Пространство С* функционалов на C(W^ наделяется топологией, индуцированной естественным вложением в JJ Щ, где Ш^ — копия Ш. Эта топология произведения является топологией поточечной сходимости. Теперь определим {i^JteR ^ ^* ^t(f)'= J / ° ¥?'* ^'^°"- Пусть т C;:=iF€C* F = У2 ^i^t. лля некоторых с,-, t,. ^ О и F{ff^) = 1 1 = 1 Лемма 20.5.7. 1. Если f е C{W^), то существуем такая константа Ci(fl что \F{f)\ ^ Ci(/) для всех F € С*. 2. Если О < / € C7(W°")\{0}, то существует такая константа C^if), что \F{f)\ ^ C^if) для всех F € Q, 3. Если f е CiW^'^) и е >0, то существует такое 6 >0, что если функция д € C{W^) 5'близка к /, то \F{f)-F{g)\ < е для всех F € Q. Доказательство. Пусть А := {р;:= F(/F,(/jc)| teR}. Леммы 20.5.2 и 20.5.6 позволяют заключить, что утверждения данной леммы верны, если вместо множества С^ взять А. Таким образом, эти утверждения верны для выпуклой оболочки Cq*=co(A) множества А и, следовательно, для замыкания со(А) = С^ множества Q*. D Мы полагаем ^^*(F)(f)\= F(f oip'^). Действие у?' на "^ тогда по определению есть у?'V)(/):= ^(f ° ^'')/^{f>c ° ^~')- Лемма 20.5.8. Существуют такое m е С^ и такое /i" > О, что ip'*m = e^"'m. (20.5.3) Замечание. Это свойство равномерности растяжения, которое выделяет меру Маргулиса. Доказательство. Первое утверждение леммы 20.5.7 означает, что множество ^ компактно в топологии поточечной сходимости (по теореме Тихонова, согласно которой произведение компактных множеств компактно). Тогда по теореме Тихонова о неподвижной точке П 2.11 существует такое те Q^, что у?' m = m для всех t ^ 0. Таким образом, мы получаем соотношение (20.5.3) для t ^ О и, следовательно, для всех t € R.
648Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ Чтобы показать, что /i" > О, возьмем О^ / е C{W^)\{0} и tj, t; ^ 0. Тогда (^'.•ir^(/) = ir^(/o(^-'.)= f (/o(^-'.)o(^-bdAO">A-'' f foip-'^dX Ou где A < 1 —константа из определения 17.4.1. Следовательно, y?'*F = A~'F для всех FeA и потому для всех^есо(А) = Со*. Таким образом, /i">0. D Лемма 20.5.9. Если функции f ид е-эквивалентны, mom{f)=m{g). Замечание. Из этого утверждения вытекает другое свойство, характеризующее меру Маргулиса, — инвариантность относительно голономий. Доказательство. Рассматривая положительные части и используя линейность, мы можем считать, что функции fug неотрицательны. Поскольку / о tp'^ идо у?~' Л' г-эквивалентиы, лемма 20.5.4 показывает, что lim F/f/F^g = 1, так что для т/ > О существует такое Т >0, что F^f) - Ft{9)\ ^ vFAg) ДЛЯ t ^Т^. Таким образом, если F =J2ciF^, где с^, t^ ^ О, то Та же оценка верна для F е А, а потому и для всех F е со(А) = Ср*, следовательно, для т. Таким образом, по лемме 20.5.8 мы на самом деле имеем Теперь покажем, что функционал m соответствует семейству мер на слоях W°". Для этого обозначим через OC{W^{p)) совокупность открытых множеств в W°"(p) с компактным замыканием и положим OC{W^'^):= [j ОС(И^°"(р)). Если U € OC{W^), положим рем С^^( W°") := {/ е C(W^) I supp(/) с и} и снабдим получившееся пространство нормой существенной верхней грани || • Ц^^. По третьему утверждению леммы 20.5.7 m представляет собой непрерывный линейный функционал на Cfj{W^'^). По теореме Хана — Банаха П 2.4 функодонал m продолжается на пространство C{U) непрерывных фзпнкций на £/_, следовательно, по теореме Рисса П 2.7 существует такая мера /х^^ на U, что для / € Cj^(W°") выполнено равенство т(/) = ( / dM^. (20.5.4) Если Ц С £4 в ОС(И^°^). то существуют такие {/уКем С С^^(И^°^). что fi/^Xu^ и, следовательно, /Хт^ (C^i) = m(Xif) = lim ni(/,.), так что мы имеем следующую теорему. оо
§ 20.5. МЕРА МАРГУЛИСА 649 Теорема 20.5.10. Существует такое отображение у,^: ОС7(И^**")-*К, что (О М°"1ос(и^(р)) продолжается до меры на W°"(p); (2)/i'^(¥?'(t^)) = e'^"V°"(C^) для UeOCiW"^), teR; (3) если 0фие ОС(ТУ°"), то О < /х°"(С/) < оо; (4) ес^ц множества Цу U^ € OC7(W°") е-эквивалентны, то р-^'ЧЦ) = В лемме 20.5.16 будет показано, что /i" = /^topCv^')- Заменяя у?' на tp~\ мы получаем меру /х°'. для которой выполнены те же утверждения за исключением того, что в (2) получается константа h' < 0. (Как мы увидим позднее, h' = —/i"; см. (20.5.9).) Соответствующим образом изменяя обозначения для случаев W", W°' и W, мы находим, что U ^'{U) € ОС(И^°"), если t^Kt^nUe ОС{^), Кроме того, существуют такие гд, <о > О, что ¥?*•(£/) П¥?Ь(с/) = 0^ еслиО^*! <*2<<о' множество и с -S*'(p, Гд) открыто, г = и, 5. (20.5.5) Таким образом, для С/с5'(р, Гд) (г = и, 5) мы рассмотрим /i*(U'): = := y^iO«( IJ у?'(С/)), г = u, s. Тем самым индуцируется мера на В*{ру Гд). 0<i<(o а на самом деле и на OC{W*) {г = щ з), для которой y'{^'{U)) = e'^''p,'{U)^0<p,'(U)<oo, если07^С/еОС(И^О> (20.5.6) где i =щз. Тогда по второму утверждению теоремы 20.5.10 мы имеем у'<( и ^'(Ю) = г f^4Uh (20.5.7) о если 0^ti<t;^tjH множество U с 5*(р, t-q) открыто, где г = и, s и <о, Гд такие же, как в (20.5.5). Используя понятие е-эквивалентности, переформулированное для множеств из сильно устойчивого или неустойчивого слоения W* (г =u, s), мы получаем следующую лемму. Лемма 20.5.11. Для любого е>0 существует такое ( >0. что для всех измеримых С-эквивалентных множеств А^^А^С W* (г =щз) выполнено неравенство /хЧА) 1 <е. Доказательство. Сначала заметим, что если множества А^ и Ag С-эквивалентны, то существуют разбиения А^ = |JAf, Af <zB^(p^y r^) к (I = 1,2), причем множества Af, А^ С-эквивалентны. Таким образом, без
ббОЧасть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ ограничения общности можно считать, что А^ С -S'te» ^о)- ^*^ лп^ любого а > О существует такое С > О» что если множества А., Ag С W* С*экви- валентны и А^ cB*{p^,rQ), то множество IJ у^Ч^г) С'Эквивалентно a<i<(o-a подмножеству |J y?'(-^i)» ^ наоборот, множество IJ ip^{A^) С-эк- вивалентно подмножеству |J ¥?'(-^2)- 0<i<(o Согласно равенству (20.5.7) и четвертому утверждению теоремы 20.5.10 для этих множеств мы получаем « «о 'о ^^ h ^'i и ^'(А,))=^^ /хЧА) и наоборот, что, в свою очередь, доказывает лемму. D Следствие 20.5.12. Для всякого г>0 существует такое С> 1, что если множества А^ и А^ г-эквивалентны, то 1 ^f^iiAil^r Теперь построим из этих мер на слоях конечную у?'-инвариантную меру на М. Мы сделаем это локально, определив меру-произведение с весами следующим образом. Каждая точка р € М обладает окрестностью U{p), которая является локальным кубом, т. е., используя локальную структуру произведения, мы можем представить U{p) как U^""(р) х U'(р), где U^{p)c С W^{p) и U'{p) с W'{p), Если О с U{p), положим ЫЯ):= МЧ(Ы X U'(p))ПО) {q€ и'Цр)). Лемма 20.5.13. Функция fo полунепрерывна сверху (следовательно, локально интегрируема). Доказательство. Для х € ХР^ и г > О существует такое 5 > 0. что если d°"(x, у) < 8, то М^ ((тг^ (О П {{х} X W)) X £/°") П {{у} X U')) /хМ({2/}хС^^)пО) >^ ^' где 7Г* —проекция на W. Для.завершения доказательства осталось применить лемму 20.5.11. D Определим для q € U'{p), А С U'°"(p) (везде, где возможно) величину U (A):=/i°"(A X {q}). По четвертому утверждению теоремы 20.5.10 эта
§ 20.5. МЕРА МАРГУЛИСА 651 величина не зависит от точки qe U'{p). Из этого факта, а также из леммы 20.5.11 следует, что мера fi(0):= J /о(х)фДх) (20.5.8) корректно определена. Предложение 20.5.14. Мера на М, полученная из (20.5.8) продолжением на борелевские множества, конечна и ^^ -инвариантна. Доказательство. Конечность меры очевидна, так как М — компактное множество, а мера локальных кубов конечна. Второе утверждение теоремы 20.5.10 и равенства (20.5.6) и (20.5.8) показывают, что для всех измеримых множеств А еМ, Если положить А=М, то мы получим /i" = -/i'=: h, Q (20.5.9) Предложение 20.5.11, в частности, показывает, что при соответствующем выборе JC мы можем, например, нормализовать меру, полученную с помощью (20.5.8), так, что она станет у?'-инвариантной борелевской вероятностной мерой fi, которая называется мерой Маргулиса для ipK Теорема 20.5.15. Мера Боуэна и мера Маргулиса совпадают. Доказательство. Мы установим равенство с помощью оценок объема г-шаров метрики d/. Лемма 20.5.16. Существуют такие константы В ^F что Доказательство. Мы будем использовать метрику Ляпунова (как в теореме 20.4.1). Достаточно показать, что неравенство выполнено для «параллелепипедов» Bj(x, е, t):= Bf'{x, е, t) х В^{х, е, t), так как для е > > О существуют такие ^j, £2 >О, что 5^ (х, ^j, t) с -В^(х, г, t) с Bj{Xj £3, t). Но так как мы используем метрику Ляпунова, Bj{x, е, t) = B^'{Xj е) х X у?~'(Б"(у?'(х), е)), что в силу равномерности растяжения меры /х" немедленно дает нужюе свойство. D Лемма 20.5.17, h'' = h^{ip). Доказательство. Если Е — максимальное (^/-г-отделенное множество, то М= и Bf{x, е, t) и, следовательно, по предыдущей лемме и пред- хеЕ ложению 18.5.4 (точнее, его аналогу для потоков) 1 ^ X) t^(^f(^^ ^> *)) ^ хеЕ ^ const-е'*^'*'''*"''"*. Таким образом, /i" ^ ^top(v^)- ^ наоборот, шары Bj(x, г/2, t) попарно не пересекаются, так что 1 ^ X) м(-^/(^> ^/2, *)) > ^ const .е'<'^<^*-'^"> и /i'* ^ КЛ'Р)' ° Две предыдущие леммы и лемма 20,1.1 (точнее, ее аналог для потоков) показывают, что мера Маргулиса абсолютно непрерывна относительно меры Боуэна. Поскольку мера Боуэна эргодическая, тем самым утверждение данной леммы доказано. D Замечание. В дальнейшем мы будем обозначать /itop(v') просто через /i.
ГЛАДКИЕ ИНВАРИАНТНЫЕ § 20.6. Мультипликативная асимптотика роста числа периодических точек Цель этого параграфа состоит в том, чтобы найти мультипликативную асимптотику роста числа периодических орбит потоков. Эта асимптотика более точна, чем экспоненциальная. Отметим, что для случая дискретного времени это утверждение, а также экспоиеициальиая оценка погрешности содержатся в теореме 20.1,6. Сначала мы опишем «локальные кубы потока» и их полные компоненты пересечения, аналогичные рассмотренным в гл, 15, Введение этих понятий позволит воспользоваться равенством мер Боуэна и Маргулиса, а также полученными выше оценками, и получить мультипликативную асимптотику роста числа периодических точек. В этом параграфе мы всюду придерживаемся того же предположения, что и в предшествующем: ^Р = {^ }t£9. — топологически перемешивающий поток Аносова на компактном римаиовом многообразии М, 20.6 а. Локальные кубы потока. Рассмотрим локальные кубы потока. Их описание несложно и включает два параметра: размеры е и 5. Сначала установим несколько полезных технических свойств, которые зависят от степени малости 6 относительно г. Начнем с выбора положительного е < l/2min{l, Sq}, где 5q — константа разделения потока у?' (см, определение 3,2.11), т. е. если d(y?'(x), (р^{у))< < 4 для всех t е R, то у € 0(х), Кроме того, мы будем полагать, что £ меньше наименьшего периода орбит ipK В дальнейшем мы, возможно, введем дополнительные ограничения на малость е, но это уже никак не будет зависеть от числа <^. Для данной точки р е М определим С:= Б°"(р):= и ip^{B'^{p, 5)). Если е достаточно мало, то Б := [j B'{z) — локальный куб, где B'{z)c B'(z, 6). Для х е Б обозна- хес чим через -В"(х) компоненту связности множества W"(x)n5, содержащую X, и определим аналогично В^{х) и В'{х), Определим тг^^ соотношением С П Б'{х) = {7Гс{х)}. Если Z еС, то, очевидно, В содержит отрезок орбиты длины £. Это верно для всех х е В. Лемма 20,6.1. Если х еВ, то существует такое *о ^ [^у ^Ь ^^^ W{x)\te[to-e,%]}cB. Доказательство. Пусть z = ir^{x). Если ip^{z)eC, то ip^{B'{x)) = = B'{ip^{x)), следовательно, {(р^{х)} = B''{ip^{z))nB'^{x)c В. П Следующая теорема сходна с предложением 6.4,13. Теорема 20.6.2. Существуют такие т/, 7 > О, что если d (х, у) < < Г], то найдется единственное такое число в = в{х, у) е (-7, 7)i ^^о 0^ B'{x,-f)n B''{ip^{y))=: {[х,у]}. Функции в и [•, •] непрерывны на {{Ху у)€ М X М\ d(x, у)<7]}. Определим функцию т: В —*\0, е] условием z в у?^*'*(Л"('ш)) при z еС и т(х):= т(7Г(^(х)) для хеВ. для достаточно малого 6 из равномерной непрерывности неустойчивого слоения, очевидно, следует, что т(Б"(х)) c[t-e\t-\- е% если т{х) = t (20.6.1) и X € В, Мы, кроме того, будем считать, что S настолько мало, что если 2/е Л"(х), то В'{х) и В'{у) ^-эквивалентны, где Q определено из лем-
§ 20.6. МУЛЬТИПЛИКАТИВНАЯ АСИМПТОТИКА ГОСТА ЧИСЛА ТОЧЕК 653 МЫ 20.5,11 для нашего е. Таким образом, И'{В'{У)) Лемма 20,6.3, Существует такое число К>0 (не зависящее от е и 5), что если х.уеВ, то и'{В'{у)) <Ке. Доказательство. Предположим, что т{х) = t, т{у)= t', t(w) = 0. Тогда М'(Д'(Х)) ^ ИЧВ'(Х)) Ц'<BЧ^P^M)) t^'(B'(^p^'{w))) _ ti'{B'{y)) n'{B'{<p4w)))f,'(B'{<p''{w))) иЧВ'{у)) - H'(B'{^4w))f и'(В'{у)) • Обе дроби отличаются от единицы не более чем на е, что и доказывает утверждение. D Мы будем писать х~2/, если х,у€В находятся на общем отрезке орбиты, содержащемся в В, и положим [х]:= {ysB \у^х}. Соотношение (20,6.1) показывает, что если у € В^{х) и г(х), т{у) € (г , е — £^), то |J [z] = = и [z],JXnHxeB положим Д(х):= su^{r>0\B'"{x,r)cB}. Ддя Т>0 гевцу) определена такая функция г{Т) (экспоненциально убывающая при Г —*-оо), что если x,ip'^{x)€B и Д(х)>г(Г). то B"(v?=^(x)) С ¥?^(Б), Определение 20.6,4, Пусть В°{Т):={х е В \ е^ <т{х)< е- - £^, Д(х) > г{Т)\, Если Ад — компонента связности множества В°{Т)п п ip'^{B°{T)), то А:= и [x]nip'^{B) называется полной компонентой пересечения. Важное замечание состоит в том, что полные компоненты пересечения по существу находятся во взаимно однозначном соответствии с периодическими орбитами. Это показывают следующие две леммы. Лемма 20.6.5, Если А —полная компонента пересечения Вп п ip'^{B), то Д пересекает единственную орбиту, период которой содержится в отрезке [Т — е^ Т -\- е]. Доказательство. Доказательство производится стандартно: рассмотрим действие итераций у?^ на проекции Д на В/^ и получим единственную неподвижную точку, которая соответствует орбите нужного периода. D И наоборот, легко видеть, что выполнено следующее утверждение. Лемма 20.6.6. Каждый отрезок орбиты из В°{Т) длины е-2е^, принадлежащий периодической орбите периода из [Т — {е — 2е^), ГН- Н-(£-2£^)], пересекает единственную полную компоненту пересечения BHip'^iB).
654Часть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ Оценим теперь число полных компонент пересечения. Предложение 20.6.7. Пусть Д(Т) — число полных компонент пересечения вВГчр'{В). Тогда A{T) = 2e^^fi{B){l-\-0{е)){1-\-о{Т^)), где 0{е) не зависит от выбора В, Доказательство, Мы вычислим /х(у?^(Б)) из (20,6.3) и fi{B п nip'^{B)) из (20.6.6) (см. ниже). Поскольку мера /х перемешивающая (см. обсуждение в конце § 20.1), тем самым утверждение будет доказано. Если X, 2/ е С то В'{х) и В'{у) С-эквивалентны, и потому iJ.'{B'{x)) = = (1 + 0{е))у,'{В\у)) и в силу (20.5.6) также ^'(В'{х)) = (1 + -\- 0{e))iJ,'{B\y)), следовательно, ^'{В'{х)) = С(Г)(1 + 0{е)), (20.6,2) где константа С{Т) не зависит от х € В, Поскольку /х°"(¥?^(С)) = _ e'^^/i°"(C), мы получаем ^{^^{В)) = e^^fi^^C)C{T){l + 0{s)), (20.6.3) где 0(e) не зависит от В. Чтобы вычислить fj.{B П у?^(Б)), сначала покажем, что достаточно рассматривать полные компоненты пересечения. Любая точка множества В П П ip'^{B)y которая не содержится в полной компоненте пересечения, находится в множестве Лт--=('р^( и в,)п и B,)uU^( и в,)п и B,]u U{{X€B\ Д(Х) ^ Г{Х)} П ¥?^(Б,)), Т. е. такая точка слишком близка к границе либо в направлении времени, либо в неустойчивом слое. В силу перемешивания каждое из первых двух множеств имеет меру е^ 1л{В)^{1 -\-о{Т^)), Мера третьего множества экспоненциально убывает с ростом Г, так что, включая ее в остаточный член, получаем /i(A^) ^ 2e^fi{Bf(l + о(Г°)). (20,6.4) Вычислим меру полных компонент пересечения через Л(Т) и их меру в среднем. Чтобы подсчитать среднюю меру, заметим, что полная компонента пересечения Д имеет вид Д = БП¥?^(Л), где A = |J{[x] |хе Д ¥?^(х)€ е Д} и либо ¥?^(А П BJ с Д («передняя компонента пересечения»), либо у?^(ЛпБд)сА («задняя компонента пересечения»). В первом случае мы определим толш?1ну Д следующим образом: ^(Д):= шГ{т(х)|хе¥?^(ДпБ,)}, а во втором 0{А):= е - sup{T(x) | х € ¥?^(Д П Bq)}. В силу (20.6.1) каждый отрезок орбиты в Д имеет (параметрическую) длину £{1 Н- 0(e)), Следовательно, из (20.6.2) мы заключаем, что /х(А) = 1^(Д)/хО"(С)С(Г)(1 + 0{е)), (20.6.5)
§ 20.6. МУЛЬТИПЛИКАТИВНАЯ АСИМПТОТИКА ГОСТА ЧИСЛА ТОЧЕК 655 Лемма 20,6.8. Средняя толщина полных компонент пересечения В п ^^{В) равна (г/2)(1 -Н 0{е)){1 + о(Г°)). Доказательство. Разобьем В на 7г:=:[1/г] множеств S.: = := |J{-B( I £j ^ tn ^ e{j H-1)} {0^ j <n) н заметим, что для достаточно большого Т число компонент ^p'^{S^_^)nS. не зависит от j благодаря перемешиванию, следовательно, средняя толщина равна (ff/2)(lH-0(l/n))(H- + о(Г°)). D Замечая, что погрешность асимптотики (20.6.4) поглощается выражением 0{е){1 Н-о(Г°)), из (20.6,5) и последнего утверждения мы получаем, что fi{B П ^ЦВ)) = ^Д(Г)С(Г)/х°МС)(1 + 0{е)){1 + о(Г0)). (20,6.6) Так как мера /х перемешивающая, из равенства (20.6.3) следует, что fi{B П ^ЦВ)) = fi(B)fi'^C)e'^C{T){l + 0{s)){l + о(ГО)), что вместе с (20,6.6) дает нужное утверждение, D 20.6 6. Мультипликативная асимптотика роста числа орбит. В этом пункте мы получим мультипликативную асимптотику роста числа Prpiip) периодических орбит потока у?' с периодом не более чем Т. Теорема 20.6.9. Предположим, что (р = {у?'}^^» ~ топологически перемешиваюи^ий поток Аносова на компактном римановом многообразии М. Тогда ^lim tV(v')J',(¥')e""^'"' = 1, т. е. Р^М^-щ^- Доказательство. Прежде всего заметим, что если /х^ обозначает меру Боуэна, то fiQ{B) = ij.b{B°{T)){1 -\- 0{е)) для достаточно большого Т и согласно леммам 20.6,5 и 20.6.6 ^7^ = 7?- Е S„iB)<t^s{B){l + o{T°)) Т F ■* Т ^ = Мз(5°(Т))(1 + 0(е))(1+о(Г'')) = ^^--^'' O.Pert^-J.") ' '^'-^^' В силу леммы 20.6.7 отсюда следует, что Замена е на е', где г'-2г'^= г, добавляет еще один множитель вида \+0{е), и по теореме 20.5.15 мы получаем Pjj, =2ге'^^(1 + 0{е))(1 + о(Г0)). (20.6.6) Так как Р^ ^ — число периодических орбит с периодом из полуинтервала (Г - г, Г -i- г], мы имеем
б5бЧасть 4. Гл. 20. РАВНОВЕСНЫЕ СОСТОЯНИЯ И ГЛАДКИЕ ИНВАРИАНТНЫЕ МЕРЫ где гТ^ е [Г - г, Гн- г]. Соотношение (20.6.7) позволяет привести последнее равенство к виду Pj.^ = ^(■Pt + cCv') ~ ^т^Л^Ш^ + ^(^°))- Используя асимптотику 2] = Г(1 н-'о(Г°)) и равенство (20.6.7), мы находим, что Рт^Л^) - Рт-ei^) = Y-е'Ч^ + 0{s)){l + о(Г«)). (20.6.8) Теперь выберем и зафиксируем такое 2J > l/h, что |о(Г°)| < е для всех Г ^ 2J. Из равенства Pt^A^) = {Pt^A^)-Pt-sM)-^{Pt-A^)-Pt-zA^))-^'" ДЛЯ Т — {2j -\- 1)е ^ 2J < t — 2У£ и оценки разностей (20.6.8) мы получаем Рт^.М = ^S(T)(l + 0(£))(1 + о(Г«)), где 5(Г):= 2г(1 + ^Д^е-2^ + .. --^y^^'^'"^)' ^ величина Pt-2jc^A^) вошла в множитель {1-\-о{Т^)), Заметим теперь, что S{T) представляет собой риманову сумму ^-"(|?-Й-^Ш^")-1<'+°<^")) Интегрируемая функция убывает на [О, Т - Tq], так что S{T) = ^(1 + Н- 0{е)){1 Н-о(Г°)) и, следовательно, Рт(^) = Рт.Л^){1-^0(е)) = ^5(Т)(1-^О(е)){1-^0{Т')) = = |5(1+0(^))(1+о(П), т. е, lim ^,1, = (1Н- 0(e)) для любого г, что доказывает утверждение. D Теорема 20.6.10 (теорема Маргулиса), Пусть М —компактное ри- маново многообразие отрицательной секционной кривизны, G{t) — число различных замкнутых геодезических длины не более чем t и h — топологическая энтропия геодезического потока. Тогда lim G{t)2the 1. Доказательство, Каждая замкнутая геодезическая длины t определяет в точности две орбиты периода t геодезического потока. По предложению 5,6,3 и по теореме Аносова 17.6.2 геодезический поток является контактным, следовательно, по теореме 18,3.6 он является топологически перемешивающим. Таким образом, мы можем применить теорему 20.6.9 и получим требуемое утверждение, D
Дополнение. ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНО ГИПЕРБОЛИЧЕСКИМ ПОВЕДЕНИЕМ Анатолий Каток и Леонардо Мендоза § Д 1. Введение Цель этой работы состоит в том, чтобы представить некоторые из ключевых идей, методов и приложений теории гладких динамических систем с неравномерно гиперболическим поведением, часто называемой теорией Лесина, поскольку основы этой теории были заложены в основополагающих работах Я. Б. Лесина [249], [250], [251], написанных в середине семидесятых годов. Центральная идея этой теории состоит в соединении гиперболического поведения линеаризованной системы, анализ которого уточняется и углубляется с помощью таких фундаментальных технических средств теории, как показатели Ляпунова (см. § Д 2.4) и регулярные окрестности (определение Д 3.3), с принципиально нелинейным явлением — наличием нетривиального возвращения. Эта комбинация приводит к богатой и сложной структуре орбит, проявляющейся в росте числа периодических орбит с экспоненциальной скоростью, определяемой энтропией, в присутствии больших гиперболических инвариантных множеств типа подков, в Определении классов когомологий гёльдеровых коциклов с помощью периодических данных и т. д. Согласно классической теореме Лузина гиперболические оценки (которые, очевидно, включают борелевские функции) равномерны на множестве большой меры. Контролируя возвращение на таком множестве, можно доказать упомянутые выше факты. Замечательно, что значительная часть теории может быть разработана без построения семейств устойчивых (сжимающих) и неустойчивых (растягивающих) многообразий, которые обычно представляются краеугольным камнем теории. Вместо этого достаточно использовать их приближения, допустимые s- (устойчивые) и и- (неустойчивые) многообразия (см. определение Д 3.4), которые могут быть построены непосредственно. Это и есть в точности та часть неравномерной гиперболической теории, которая рассматривается в настоящей работе. Для простоты мы в большинстве случаев ограничиваемся анализом обратимых отображений двумерного многообразия. Во всяком случае, для ряда главных приложений теории (см. [140], [145] и § Д 5) этого достаточно. Эта работа может рассматриваться как скромный шаг к более честолюбивой цели описания теории неравномерно гиперболических динамических систем в современной форме с синтетической точки зрения, основанной на технических методах, использзоощих е-редукцию (см. п. Д 2. г), регулярные окрестности и допустимые многообразия. Основы этого проекта заложены в наших неизданных и незаконченных заметках «Гладкая эргодическая теория», которые были доступны лишь узкому кругу специалистов. Эти заметки содержат весь материал представленной работы в общем случае, включающий законченное доказательство мультипликативной эргодической теоремы. Кроме того, в них содержится обширная коллекция классов примеров, более полный анализ регулярных окрестностей, включающий оце^нки объема, доказательство локальной эргодичности и материал, касающийся семейств устойчивых и неустойчивых многообразий, В настоящий момент трудно предсказать будущее этого проекта. Мы надеемся, однако, вернуться к нему, излагая гладкую эргодическую теорию, даже в более широком контексте. Эта работа не является обзором в узком смысле слова, т. е, статьей, включающей доказательство или формулировку результатов, которые уже публиковались
658 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ в Другом месте. Данная работа ближе всего к обзорным статьям, печатающимся в «Успехах математических наук». Как известно, статьи в «Успехах» обычно пред- ставл5пот авторскую точку зрения на предмет и содержат некоторые ранее не публиковавшиеся результаты. Наша точка зрения была кратко изложена выше. Среди неопубликованных (хотя известных нам в течение некоторого времени) результатов следует упомянуть лемму о е-траекториях (теорема Д 4.14), теорему Д 4.17 типа теоремы Лившица, теорему Д 5.8 о спектральном разложении, а также наиболее важную теорему Д 5.9, которая была анонсирована первым автором в 1983 году в обращении к ICM, и ее следствия [145]. § Д 2. Показатели Ляпунова Д 2 а. Коциклы над динамическими системами. Начнем с обзора теории показателей Ляпунова в контексте линейных коциклов над сохраняющими меру преобразованиями. Пусть/: X ~*Х — сохран5пощее меру преобразование пространства Лебега (X, В,/z). Мы всегда будем считать, что ft —вероятностная мера, т. е. Ах(х)=1. Пусть GL(7i, R) обозначает группу обратимых линейных преобразований пространства R". Тогда для любой измеримой функции А: X—*GL(n,R) и х еХ положим A{x,m) = A{f"^-^{x))-A{x) для m>0, ^ A{x,m) = A{f"4x))-'-A{f-'{x))-' ддятткО ^^ ' f и А{х, 0) = Id, Из этого определения следует, что А{х, т + к) = А{р{х), т)А{х, к). (Д 2.2) Определение Д 2.1. Назовем любую измеримую функцию А: X х Z —> —>GL(n, к), удовлетворяющую (Д 2.2), измеримым линейным коциклом над /, или просто коциклом. Любой коцикл А имеет вид (Д 2.1), где А{х) = А{х^ 1). Отображение А называется образующим коцикла А. Иногда, если это не приводит к путанице, мы не будем различать коцикл и его образующую, которую тогда тоже будем называть коциклом. Коцикл А над / индуцирует линейное расширение F отображения / на пространство X X R" вида F{x,v) = {f{x),A{x)v), так что для m G Z m-e итерации F равны Р"Чх,у) = {Г{х),Л{х,т)у). Определение Д 2.2. Измеримая функция С: X—*GL(7i,R) называется умеренной растущей относительно /, или просто умеренной, если для почти всех X ^ X выполнено равенство lim ^log||C^'(r(^))ll=0. т—*оа "* Определение Д2.3. Пусть А, В: X—*GL(n, R) — измеримые отображения, определяющие коциклы Д, В над /. Коциклы Аи В называются эквивалентными, если существует такая измеримая умеренно растущая функция С: X —*GL(n, R), что для почти всех хеХ выполнено равенство А{х) = C-4f{x))B{x)C{x).
§ Д 2. ПОКАЗАТЕЛИ ЛЯПУНОВА 659 Очевидно, это отношение является отношением эквивалентности, и если два коцикла Д, В эквивалентны, то мы будем писать Л^В. Мы будем говорить, что коцикл Л над / умеренный, если его образующая А — умеренно растущая функция. Мы говорим, что коцикл Л жесткий, если он эквивалентен коциклу, не зависящему от X, т. е. коциклу, который представляется степенями одной матрицы. Лемма Д 2.4. Если /: X —* X — сохраняющее меру преобразование, отображениеС: X —* GL(7i, R) измеримо и max{log \\С{х)1 log \\С-'{х)\\} еЬ^Х, ii), то С умеренно растущая функция относительно /. Доказательство. Применяя эргодическую теореме Биркгофа 4.1.2 к log ||С(а;)|| для почти каждого х ^Х, получаем lim 4£log||C(/'(i))||= lim ^X^log||C(/'(i))|| = jb=0 k = Q n-\ = jim i(log\\С(Г(х))\\ + Y^logIIС(Пх))\ так что lim - log ||C(/"(a;))|| =0. Для n -> -oo доказательство аналогично. D Определение Д 2.5. Для коцикла А: X->GL(n,R), преобразования / X —> Х и точки (а;, и) еХ х R" число (возможно, равное бесконечности) Х^{х, и, Л):= х^{х, v) \= lim — log \\Л(х, m)v называется верхним показателем Ляпунова (зависящим от точки х и вектора v) относительно коцикла Л. Если lim (1/m) log||w4(a;, m)u|| существует, то обозна- m—»oo чим его х^{^у ") и назовем показателем Ляпунова (а;, v) относительно коцикла Л. Лемма Д 2.6. Для данного линейного коцикла Л преобразования f выполнены следующие утверждения: (1) для {Xjv)eX хЖ и \ еR\{0} выполнено равенство х^(а;, v) = х^(а;, Xv); (2) если v,we R", то Y^{x, v-\-w)^ max{x^(a;, v), Y^{x, w)}; (3) если x^{x, v) ^x^{x, w), mox^{x,v-\-w) = max{x^{x,v), x^{x,w)}. очевидно неравенства \\A{Xj m){v + w)\\ ^ 2 max{||w4(a;, m)u||, \\A{Xj m)w\\}. Чтобы доказать утверждение (3), предположим, что Y^{x, v) < Y^{Xj w); тогда X^{x, v + w)^x^{x, w)==x^{x, w-v + v)^max{)(^{x,w^v), x^{x, -u)} = X^(a;, v-\- -\-w). D Из леммы Д 2.6 следует, что для данного коцикла А, любого вещественного числа х>0 и любого хвХ множество ^^(а;) = {и GR" |х^(а;, и) ^х} представляет собой линейное подпространство R" и если Xi ^ Хг- '^^ ^xS^^^^^M^' ^Р°^^ '^°^°' для каждого хе X существует целое число к{х)^п и совокупность таких чисел и линейных подпространств хЛх) < хЛ^) < ■ ■. <Хед(^), {0} СЕ^^{х) СЕ^^{х) С • • .CE^Jx) = T!i\
660 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ ЧТО если v€:E^^ {х)\Е {х), то Х'*'(а^)") = Xi + i(^)* Эти числа называются верхними показателями Ляпунова в точке х относительно коцикла Л. Мы будем называть эту совокупность линейных подпространств фильтрацией в точке х относительно коцикла Л. Назовем число Цх) ^ dim Е^{х) - dim E^Jx) кратностью показателя хЛ^)'> спектром коцикла Л в точке х называется совокупность пар Sv,A^{{x,{xhk{x))\i^l,...,k{x)}. Предложение Д 2.7. Если Л и В — два эквивалентных коцикла для сохраняющего меру преобразования f: X —^Х, то для почти всех х^Х выполнено равенство Sp. Л = Sp. В. Доказательство. Так как Л^Б, существует такая умеренная измеримая функция С: X —> GL(n, R), что Л{х, т) = С~^ {/"Чх))В{х^ т)С{х) для почти всех X е X. Следовательно, для и 6 R" выполнено неравенство -^log \\В{х, т)у\\ ^-g^log IIС(Г(д))|| ^ -^r^\ogU{x,m)C-4x)v откуда следует утверждение предложения. D Д 2 б. Примеры коциклов, i. Пусть X — {х} состоит из одного элемента. Тогда если А 6 GL(n, R), то Л{х, т) — А"* и верхние показатели Ляпунова равны логарифмам модулей собственных значений А. Кроме того, в этом случае пределы всегда существуют. ii. Предположим, что /: М—^ М — диффеоморфизм компактного п-мерного ри- макова многообразия М, сохран5по1Ций борелевскую вероятностную меру fx. Производная Df преобразования / действует на касательном расслоении ТМ и для X еМ DJ: Т^М ^ Т^^^^М — линейное отображение векторного пространства, изоморфного R". Теперь представим М как такое конечное объединение диффеоморфных копий п-симплексов, скажем, М = \JA^, что в каждом А^ можно ввести локальные координаты таким образом, что Т А^ = Д^ х R" и все непустые пересечения А. П А^ являются (тг — 1)-мерными многообразиями. Немного пошевелив, в случае необходимости, границы 9Д. симплексов А^., мы всегда можем получить такое разбиение {Wi = i' ^*то fi{dA^) = 0 для всех г = 1,..., г. Таким образом, мы получаем, что М = и Int А. (mod 0) и на каждом А. касательное расслоение тривиализуется. Следовательно, производная Df может интерпретироваться как линейный коцикл Df: M==[JlniА,^W С матрицей Df{x), представ л 5пощей производную в точке х в локальных координатах, так что коцикл Df зависит от выбора разбиения М и локальных координат. Однако для другого выбора локальных координат замена, переводящая одно представление в другое, равномерно ограничена вместе с обратной заменой, так что условия леммы выполнены и, следовательно, замены координат умеренны почти всюду. В частности, из предложения Д 2.7 следует, что спектр производного коцикла не зависит от координатного представления.
§ Д 2. ПОКАЗАТЕЛИ ЛЯПУНОВА 661 пи Пусть /: X —^ X — сохраняющее меру преобразование пространства Лебега {X, fi). Если Л — измеримый линейный коцикл для /, то для п > 1 мы можем рассмотреть преобразование /": X —* X и линейный коцикл Л" с образующей АЦх)== A{f^'^{x)) • • • А{х). Ясно, что х^(а;)(ж, и, Д") = пх^{х){х^ и, Л) для каждого vj^O. iv. Пусть f:X—^X —сохран5пощее меру преобразование пространства Лебега {Ху д). По теореме Пуанкаре о возвращении 4.1.19 для любого измеримого подмножества YcX, fi{Y)>0, существует преобразование /у: У —> У modO, определенное следующим образом: пусть для х eY гу{х):^ тЩк > 1 | /*(а;) € У} и /у{х):= f^{x). Мы назовем /^ преобразованием, индуцированным на Y (или производным преобразованием). Если Л является измеримым линейным коциклом над /, определим индуцированный коцикл Лу над fy равенством Ау{х)^А''-^'\х). Почти всюду мы можем определить эргодическое среднее времени возвращения Ту следующим образом: т(х) = lim i Y. '•у(/у(^))- Лемма Д2.8. UycmbYdX и ^{Y)>0. Тогда для v фО выполнено равенство Х^{х, и, Лу) = г{х) ■ х^{х, V, Л). Доказательство. Пусть г^(а;)= J] т-у(/*(а;)); тогда 1=0 r(^,"My)=lim ilog||(A^)'«||=lim Uog\\A^>^'^vW^T{х, v, Л) Ш ^. ц jj-^oo К к—too п, fc —юо п, •—» Д 2 В. Мультипликативная эргодическая теорема. 6 этом пункте мы сформулируем мультипликативную эргодическую теорему Оселедца [238] для измеримых коциклов над сохраняющими меру преобразованиями пространств Лебега. Эта теорема многократно была передоказана и обобщена; см., например, [281], [187]. В случае диффеоморфизмов поверхности для наших целей будет достаточно использования субаддитивной эргодической теоремы Кннгмана. Однако широкая область применимости результата Оселедца делает естественным включение этого результата в наши заметки. Теорема Д2.9 (Мультипликативная эргодическая теорема Оселедца). Предположим, что f:X—^X —сохраняющее меру преобразование пространства Лебега (X, д), и пусть А: X -^ R" — измеримый коцикл над /. Если log" \\А^Н^)\\ вL\X, fx), то существует такое множество Y СХ, что tx{X\Y) — 0 и для каждого выполнены следующие условия. 1. Существует разложение Ж* вида к(х) 1 = 1
662 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ инвариантное относительно линейного продолжения /, определенного коциклом А. Показатели Ляпунова Xi(a;)<---<Xfc(.)(a^) существуют и f-инвариантны и т-~*±оа \ТП,\ II и равномерно по v ^ Щ{х)\{0}. 2. Для SCN:={{,..,,к{х)} пусть Hs{x):= @ Щх). Тогда lim ^ logsln\ЦН,(Г(х)), Щ^,(Г(х)))\^0. т—»оо Д 2 Г. Теорема Оселедца — Песина о е-редукции. Пусть /: X —^ X — сохран5П01цее меру преобразование пространства Лебега (X,/х), и предположим, что измеримый коцикл А: X ->GL(n, R) удовлетворяет условию интегрируемости \og^ 11-^'^'Ч^)!! eL'(-^' t^)- Лучше всего было бы иметь дело с жесткими коциклами. Существует несколько ситуаций, в которых можно показать, что все коциклы из определенных классов являются жесткими: классическая теория Флоке (где лежащая в основе динамическая система — периодический поток), гладкие коциклы для сдвигов на торе с диофантовым вектором вращения, измеримые коциклы над действиями «больших» групп [328] и определенные классы гладких коциклов над гиперболическими действиями абелевых групп высшего ранга [148], [149]. Одн^ако в нашем случае это редкое исключение. Вместо этого имеется более слабое свойство, которое позволяет нам сводить каждый коцикл к постоянному со сколь угодно хорошей точностью. А именно, мы покажем, что для данного е > О существует эквивалентный коцикл А^, имеющий блочную форму и такой, что для каждого блока Ai{x) я V е Щ{х) для всех х из множества Y из теоремы Оседелеца выполнены неравенства Мы говорим, что коцикл Ag е-приведен. Теорема Д2.10 (теорема Оселедца — Песина о е-редукции). Предположим, что А: X —> GL(n, R) —измеримый коцикл для сохраняющего меру преобразования f: X —^ X пространства Лебега (X, fx). Если log^ ||А=*=^(а:)|| € i '(Х, /л), то существует такая f-инвариантная измеримая функция к: А —>N и такие числа Xi(a^),..., Хед(а^) eR, Zi(^),.-.,Z,(.)(a;)GN, измеримо зависящие от х cj^ 1.{х) = п, что выполнено следующее условие. Для каждого е>0 найдется такое умеренно растущее отображение C,:X-*GL(n,R), что для почти каждого х еХ коцикл A^x)=C-4f(x))A(x)C,{x) имеет следующую ляпуновскую блочную форму. А,{х) = (А1(х) \ А1(х) «
§ Д 2, ПОКАЗАТЕЛИ ЛЯПУНОВА 663 где каждый блок АЦх) представляет собой 1^{х) х 1^{х)-матрицу и е^«'>-^ ^ ||A;(a;)-'||-S ||А;(а;)|| ^ e^«'>-^^ Кроме того, функция к{х) и числа хЛ^) шл.еют такой же вид, как в теореме Д 2.9, и для почти каждого х ^ X мы можем представить R" в ви- де ф ЯДа;), где 1^{х) ^ dim Н^{х) и С^{х) переводит стандартное разложение k{x) к(х) е R''«'> в е щ^)- i = 1 1 = 1 Доказательство. Пусть Y СХ — множество из теоремы Д 2.9. В таком случае если а; е У, то R" = ф Щ{^)- Определим новое скалярное произведение на каждом Щ{х) и е > О следующим образом: если и, и G Щ{х), то (", ")^i — Е й(^» "i)u, Л{х, m)t;)e-=^'">='«'>e-2-!-l, Tn€Z где (■, •) обозначает стандартное скалярное произведение на R". Мы назовем последовательность {е~^'"^***е~^^''"'}^е2 сглаживающим ядром Лесина. Теперь заметим, что по (Д 2.3) для каждого а; е У и е > О существует такая константа СДа;, е), что Шх, m)v\\ ^ С,{х, е)е'"^«'>е^Н/2||„ и, следовательно, m€Z откуда мы получаем, что (и, v)'^ ^ корректно определено. Напомним, что Л{х, т-Н 1) = Д(/(а;), ■т)А{х), откуда mez m€Z JieZ где 2Xi(a;)-2e^TA:=2x(a;)-2e(|fc- 1| - |fc|) ^2хЛа;)+2е, так что мы получаем g2(x,(.)-.) / (^(Д^)^,А(Д^)^)л«м < е^^^'^^'К (Д 2.4) Чтобы продолжить скалярное произведение на R", определим Цх) t = l где Uj —проегащя v на Д(а;) относительно ф Н^{х). Теперь пусть СДа;) — такая положительная симметричная матрица, что если U, ugR", то и пусть AA^)^Cr'{f{x))A{x)CAx).
664 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ Таким образом, если и, и G Н^{х), то {А{х)и, A{x)v} = {СгЧПх))А{х)и, Сг'(/(г))А(хМ'д.,,, = = {A,{x)Cr4x)u,A,{x)Cr4^)vYn.),i, И, применяя последнее равенство к и — С~'(а;)и, мы получаем „..2 Осталось доказать, что функция С^{х) умеренно растущая. Так как в силу второго пункта теоремы Д 2.9 углы между различными подпространствами удовлетворяют субэкспоненциальной оценке снизу, достаточно рассмотреть блочные матрицы. Заметим, что функция log II Af'II ограничена и, следовательно, теорема Д 2.9 может быть применена к А . Положии X^^^ {х в X \ ||Cj*='(^)ll <-^}* По теореме Пуанкаре о возвращении 4.1.19 для некоторого достаточно большого iV >0 существует такое множество YcXjf, что fi{Xjf\Y)~0 и орбита точки yeY возвращается на У бесконечно много раз. Таким образом, пусть тп^ — такая последовательность, что /™*(j/) G Y для всех к. Тогда \\ЛЛу, т,)\\ < \\С-ЧП{у))\\\\Л{у, т,)\\\\СгЧу)\\ И, следовательно, для почти каждой точки у eY спектры А и А совпадают. Так как число N произвольно, это верно для почти каждого х еЛ. Заметим, что СЛГ{^))=-Л{х, п)С,{х)Л:'{х, п) и Л{х, п)^С^{Г{х))ЛЛх, п)С;'{х), так что, взяв скорости роста в обоих уравнениях, мы находим, что ТйГ^1ое||слГ(х))|| = о для всех X, для которых спектры Л^ и Л равны. D Определение Д2.11. Новое скалярное произведение (•, /^ называется ля- пуновским скалярным, произведением, а норма |] ■ ||'., индуцированная этим произведением, называется ляпуновской нормой. Мы будем называть С^{х) ляпуновской заменой координат. Лемма Д 2.12 (лемма о сглаживающем ядре). Пусть /: X —*X —сохраняющее меру преобразование пространства Лебега (X, /х). Если К: X —> R — измеримая функция, удовлетворяющая условиям {I) К{х)>Ои (2) lim(l/m)(logiif(/'"(a;))-0. m—юо то для любого е > О существует такое измеримое отображение К^\ X —> R, К^{х)>К{х) и e-^^^jj^^^^^e^. Доказательство. Согласно (2) для данного е > О существует такая измеримая функция С(а;, е), что ^{П^)) ^ С(х, е)еИ-^2 Тогда функция m€Z m€Z
§ Д 2. ПОКАЗАТЕЛИ ЛЯПУНОВА 665 корректно определена и -я^лл^))=Е-^(/'"^'(^))«'"""= m€Z ==^Ji:(/*=(a;))eH*=-'"^eH*l-Hl*=t)^^]^Ji:(/*(a;))eH*=l*eHM-!*-M)^^ k€Z fc€Z откуда и следует наш результат. D Применяя лемму о сглаживающем ядре Д 2.12 к функции ||С^(а;)||, отличной от нуля почти всюду, мы получаем следующее неравенство между евклидовой нормой и ляпуновской нормой: || • || ^ || • |Г, ^ -^е(^)11 * II и С ^ K^{f{x))/K^{x) < е*. Д 2 д. Неравенство Рюэля. В этом пункте будет доказан фундаментальный результат эргодической теории диффеоморфизмов, известный как неравенство Рю- эля, хотя следует упомянуть, что Маргулис доказал его ранее для случая преобразований, сохраняющих объем. Этот результат связывает метрическую энтропию с суммой положительных показателей Ляпунова и оказывается очень полезным инструментом в доказательстве существования мер, у которых имеются ненулевые показатели. Важность этого неравенства основана на непосредственно вытекающем из него утверждении о том, что если топологическая энтропия диффеоморфизма отлична от нуля, то существует мера, некоторые показатели которой положительны. В случае поверхностей отсюда следует, что показатели отличны от нуля. Подчеркнем, что, как было несколько раз отмечено в гл. 8, положительность топологической энтропии может быть установлена различными методами. Для применения некоторых из этих методов достаточно лишь топологической информации (теорема 8.1.1, следствие 8.1.3, теорема 8.3.1). Теорема Д2.13 (неравенство Рюэля). [279] Пусть/ GDif?(M) иМ — компактное риманово многообразие, и предположим, что fi — f-инвариантная бо- релевская вероятностная мера. Тогда KU)^^x4^)dfx, гдех'^{з^)=' Е ХЛ^)- i: Xi(')>0 Следствие Д2.14. Пусть f eD'di\M), h{f)>0; тогда существует эр- годическая f-инвариантная мера у. по крайней мере с одним положительным и одним отрицательным показателями Ляпунова. Доказательство. Согласно вариационному принципу для энтропии (теорема 4.5.3) существует такая /-инвариантная борелевская вероятностная мера р., что h^{f)>0. Пусть {/^«}аед — разложение на эргодические компоненты меры р, по теореме 4.1.12, так что M/)=5\(/)<i" (Д2.5) А (см. следствие 4.3.17 и последующее обсуждение). Следовательно, для некоторого а е А мы имеем h^ (/) > 0. Теперь с помощью неравенства Рюэля покажем, что xi > О и, следовательно, fi„ обладает по крайней мере одним положительным показателем Ляпунова. Применение неравенства Рюэля к /"' и использование того факта, что \ U~^) = \ (/) > О» показывает, что функция /"' также должна обладать положительным показателем для /z„, который тогда равен величине, противоположной отрицательному показателю для /. D Доказательство теоремы Д 2.13. В силу условия (Д 2.5) мы можем считать, что мера р. эргодическая, откуда Xi{^) = Xi постоянно почти всюду. Зафиксируем m > О и, используя компактность, найдем такое число d^, что для О < d < d^
666 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЩЩНИЕМ И X е B{yjd) (B(j/, d) — шар с центром в у радиуса d) выполнено условие io./'"(exp;'(B(j/, d))) С ехр7'(.,(/'"(В(2,, d))) С 2D./'"(exp;'(B(j/, d))), (Д 2.6) где аВ ={ах \х^В} для а 6R. Теперь зафиксируем е >0 и рассмотрим разбиение ^, удовлетворяющее следующим условиям: (1) diamf ^ dJlO и /1,(Г, О ^ Kin - в; (2) для каждого С е ^ существуют такие шары В и В' с радиусами гиг' соответственно, что г <2г'^ ^т/20 и В'сССВ; (3) если С G ^, то существует такое число г, О < г < d^/20, что С С В (j/, г) для некоторого у 6 М, и если а; е С, то 1Я/'"(ехр;' B(j/, г)) с ехр7'(.,(/'"(С)) С 20,Г{ехр-^ В{у, г)). Идея состоит в том, что для множеств, размер которых имеет порядок d^, m-e итерации функции / и ее производной все еще отличаются незначительно. Чтобы доказать существование таких разбиений, сначала для любого а > О и максимального а-отделенного множества Г рассмотрим области Дирихле 7)^{х)^{уе М\ d{y^ х)^ d{y, z) для всех z eT^zj^x}. Очевидно, В{х, а/2) cX)i.(a;) С В{х, а). Так как области ^^.{х) пересекаются лишь на границах, т. е. на подмногообразиях коразмерности один, можно, в случае необходимости, немного пошевелить границы, чтобы их мера была равна нулю, и, следовательно, мы получаем разбиение. Такое разбиение мы можем найти для каждого а < d^/20, так что существует разбиение ^, для которого Kir. О > Kin-е и diam ^ < d^/lQ. Следовательно, условия (1) и (2) выполнены. Условие (3) следует из (Д 2.6). Если H{^\D) — энтропия ^ относительно условной меры на D, то Kir, о = ит я(е ir(О V... V f^ii)) < H{i \Г{()) = - J2 H{^\D)fi{D)^ Y1 bgicard{Ce^\CnD^0})tx{D). Сначала дадим равномерную экспоненциальную оценку величины card{CG| СпП ф 7^0}, а затем получим более точную экспоненциальную оценку для множеств В, содержащих регулярные точки. Пусть п = dim М. Лемма Д 2.15. Существует такая константа К^ > О, что card{C е^\ВГ\Сф0}^ е^'р/Исо". Доказательство. По теореме о среднем значении diam(/'"(C))^(sup Ц!»,/!!)" diam С Таким образом, если Сп D ф0, то С содержится в 4г'-окрестности D, диаметр которой не превосходит ((sup ||D^/||)'" +2)4г' и объем которой, следовательно, не превосходит const ^'"(sup Ц^./Ц)"*". С другой стороны, в силу (2) С содержит шар
§ Д 2. ПОКАЗАТЕЛИ ЛЯПУНОВА 667 В' радиуса т' и, следовательно, объем С больше чем const •(г')'"". Сравнение этих оценок доказывает лемму. D Мы назовем точку х^М (т, еурегулярной, если для А; >т и ||и|| = 1, ибЯДа;), г — 1,..., к{х) (см. теорему Д 2.9), выполнено неравенство l\og\\DJ'{v)\\-x4^^^) < е. Обозначим через R^^ множество (ттг, е)-регулярных точек меры fx. Лемма Д 2.16. Если мноокество D G/"'(f) содержит (п, е)-регулярную точку, то существует такая константа К^, что Доказательство. Пусть С" G ^ таково, что С' nR^^^Q> и /'"(С)— D. Выберем некоторую точку х еС (Л Й^^, и пусть В — В{х, 2 diam С). Тогда D с С Во:-i)J'"(exp;4J3 ))• Если С G ^. ВоПС^^0, то С с В^:-{j/1 d(j/, Во) < diam О, так что 1/D \ card{C S ^ I Д П С ^0} ^ (dS)"• С точностью до ограниченного множителя объем Bj не превосходит произведения длин осей эллипсоида Bq. Те оси, которые соответствуют неположительным показателям, малы или не более чем субэкспоненциально велики, а остальные с точностью до множителя не превосходят е^'^^. Таким образом, величина vol(Bi) ограничена выражением п e^^+""]][diamBe'"*>^'-'"4e^-^""(diamB)" \[ е'"*^' + ^>^ ^gir3-H.m(2diamСТ П e'"*^'"''*<e^3-^""(<iiame)" Д e'"*^'"''*. q Далее, = Y^ fi{D)\ogc2ir&{Ce^\CnD^0}+ Y fx{D)\ogcsird{CeC\CnD^0}. Применяя две последние леммы, мы получаем следующее неравенство: mh^if) - £ - Kir) - е < Kir, О ^ ^ J2 t^iD)[K,+em+rnY,iXi+^))+ ^ niD)(^K,+nm\og\\Df\\ao) < Но по теореме Оселедца Д 2.9 p,{M\R^J -> О при m -> оо, так что Устремляя е —>0, мы получаем неравенство Рюэля. D
668 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ Следствие Д2Л7. Пусть /: М —^ М — С^ -диффеоморфизм компактного многообразия М. Тогда /i^p(/)^(dimM)logsup||^/ll- Более того, M/)^<iimM lim ^sn^\\DJ- § Д 3. Регулярные окрестности Теперь приступим к систематическому анализу динамики диффеоморфизмов компактных гладких многообразий, основанному на теории линейных коциклов, рассмотренных в § Д 2, и, в частности, на теореме Оселедца — Песина о е-редук- ции Д 2.10. Напомним, что для диффеоморфизма f: М—^ М компактного гладкого тг-мерного риманова многообразия М, сохран5пощего борелевскую вероятностную меру /Z, мы можем (вводя локальные координаты) рассматривать производную Df как линейный коцикл для /; следовательно, по теореме о е-редукции для данного е > О и для почти всех х е М существует такое линейное преобразование С^{х): Т^М —> R", что преобразование DAx)=^C,(f(x))DjC-4x) (Д3.1) имеет ляпуновскую блочную форму, как в теореме Д 2.10, и С/. М —^ GL(n, R) — умеренно растущее отображение. Д 3 а. Существование регулярных окрестностей. Наша первая цель — построить для почти каждого х е М такую окрестность N{x), что / действует на N{x) почти как линейное отображение Dg{x) в окрестности начала координат. Обозначим через Diff'''""(M), а >0, множество С^"*""-диффеоморфизмов компактного гладкого риманова многообразия М, т. е. множество диффеоморфизмов М, для которых производная Df является а~гёльдеровской. Начиная с этого момента мы считаем, что / € Diff* "*"" (М) для некоторого а > 0. Это предположение представляется очень существенным для неравномерной гиперболической теории. Как и ранее, пусть В (О, г) обозначает стандартный евклидов г-шар в R" с центром в начале координат. Теорема Д 3.1. ([249]) Пусть f eDm^'"'{M), а>0, dimM = n, и предположим, что преобразование f сохраняет борелевскую вероятностную меру ft. Тогда существует такое множество АсМ полной меры^ что для е >О (1) существует имеренная функция q: Л—* (О, 1] и такая совокупность вложений Ф,: В(0, q{x)) -> М, что Ф,(0) = х и е-'< q(x)/q{f{x)) < е'\ (2) если Д =Фд*^^ о/оф^: 5(0, q{x)) —> R", то Dq/^ имеет блочную ляпуновскую форму, (3) С^ 'расстояние df.x{f^y АЛ) < ^ в В{0^ q{x)); (4) существуют такая константа К>0 и такая измеримая функция А: Л—> R, что для у^ z € В(0, q{x)) выполнены неравенства где е-* < A{f{x))/A{x) < e^ Определение Д 3.2. Точки а; е Л называются вполне регулярными точками. Доказательство. Зафиксируем е > О, и пусть Л С М — множество, для которого применима теорема Оселедца — Песина о е-редукции Д 2.10. Для каждого
§ Д 3. РЕГУЛЯРНЫЕ ОКРЕСТНОСТИ 669 хеА рассмотрим С^{х) как линейное отображение из Т^М в R", где С^{х) ляпуновская замена координат. Таким образом, для х еА преобразование DA^) = СЛЯ^)) о DJ о Сг' (х) (Д 3.2) имеет ляпуновскую блочную форму. Определим для х е М, г > О множество Т^М{т):= {w G Т^М \ ||ги|| ^ г} и выберем такое Tq > О, что для каждого х € М экспоненциальное отображение ехр, : Т^М{го) -> М является вложением, ||-D„exp^ || < 2 и ехрд,^ инъективно иа expjor) о/ о ехр,(Т,М(го)). Определим Л ••= ^Л/(^)) о expj/,, о/ о ехр, оСгЧ^), так что функция Д определена в эллипсоиде Р(а;) = С^(а;)Т^М(Го) CR". Пусть р(а;)= n,min{||C'^a^)lb ||С'е(^)~'11}- Таким образом, если we ТМ и \\w\\ ^р{х), то weP{x), т. е. евклидов шар В(0,р(а;)) содержится в Р(а;). Теперь запишем Д(ги) = 1)^(а;)ги -1- h^w) (см. (Д 3.2)) и заметим, что по цепному правилу D^f^ = = D^x), так что Doh^ = 0. Далее, ехр^^^^ о/ о ехр^ = DJ -t- д^. Так как функция / принадлежит классу С*"^**, существует такое L >0, что Ц-О^^^^Ц ^ЬЦиЦ"*, и, таким образом. DM\ = \\D„iCAfi=^))°9.°C;'(x))\\<L\\C,{f{x))\\\\Cr4^)r^'4\w а Следовательно, если \\w\\ достаточно мало, вклад нелинейной части Д незначителен. В частности, DM\ < е Дяя \Н\ < 6{х):= е'/о (L||C,(/(x))|| ■ ЦСгЧ^)!!'^")""" ■ (Д 3.3) По теореме о среднем значении \\h^w\\<£jifln\\w\\^6{x). (Д3.4) По определению 6{х) мы имеем Применяя лемму о сглаживающем ядре Д 2.12 к ||С^(а;)||, найдем такую измеримую функцию К: Л->Е. что К,{х) ^ ЦС^хЩ и е''" ^K^xyK^fix)) ^ e'*^ Определим q{x):= eL-y^'K^fix))-'^'' ^ 6{x). Тогда e-'<q{x)/q{f{x))<e'. Отображение Ф^: В(0, q{x))-^M, a:i-+exp, оС~^{х\ очевидно, является вложением. Условие (2) следует из определения, а условие (3) из (Д 3.3) и (Д 3.4). Остается доказать (4). Из определения С^х) следует, что й(Ф^(2/),Ф,(.г:)) ^ \\y-z\\/K для некоторой константы К, зависящей только от М. С другой стороны, y~z\\^ ||Ф;'Ф,(2/) - Ф:'Ф.(-г^)11 ^ 2||СД:г)|Н(ФЛ2/), Ф,(^)), т. е. (4) выполнено с A{x)=^2KAf(x))-'', Q Определение Д 3.3. Множество iV(a;) = Ф^(5(0, q{x))) называется регулярной окрестностью точки х^А. Замечание. 1. Подчеркнем, что это первый из двух случаев, где используется принадлежность к классу С" + '*. Второй раз этот факт понадобится для того, чтобы установить гёльдеровость инвариантных семейств устойчивых и неустойчивых подпр остр анств.
670 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ 2. Для любого а; еЛ мы можем продолжить функцию Д, ограниченную на меньший шар B{0,T)q{x)) для некоторого т; < 1, на все пространство R" с помощью леммы о продолжении 6.2.7. Таким образом, с каждым а; G Л мы можем связать последовательность {f^^}m^z таких диффеоморфизмов W, что Л.т1в(о.^(г)) = Л. Л.т(0) = 0 и С"-расстояние dc'(A.m) АЛ) < е на всем R^ 3. В большинстве наших технических утверждений мы будем работать с последовательностями диффеоморфизмов пространства R". Факты, установленные для этих последовательностей, переносятся на многообразие с помощью отображений Ф^, если последние применяются лишь к точкам из регулярных окрестностей. Д 3 б. Гиперболические точки, допустимые многообразия и преобразования графиков. Пусть / G Diff'''"'*(M), а >0 и М — компактное риманово многообразие. Предположим, что / сохраняет борелевскую вероятностную меру /х, определенную на М. Если рассматривать производную Df как коцикл над /, то по теореме Д 2.9 существует такое борелевское множество Л С М, что (l)/z(A)=l, (2) Т^М = Я1(а;) Ф ... ф Щ^^^{х), где Н^{х) — такое линейное подпространство, что V G Н.{х) тогда и только тогда, когда lim (l/n)log ||^,/"(и)|| =^хЛ^)- п—*оа Здесь Xi(3^) < Xzi^) < • • < Хк{х){^) обозначают показатели Ляпунова в точке х. В контексте линейной теории пп. Д 2 а-Д 2 г нет никакого «выделенного» зна^- чения показателей, так как умножение любого данного коцикла на постоянный скалярный коцикл изменяет значения показателей Ляпунова без изменения разложения Оселедца и других структур, связанных с коциклом. Однако когда мы начинаем использовать линейную теорию для анализа нелинейных систем, нуль как значение показателей Ляпунова приобретает специальную роль. Соответственно нам небезразличны знаки показателей Ляпунова. Это было очевидно уже при доказательстве неравенства Рюэля (теоремы Д 2.13). Далее, пусть s{x) — наибольшее такое целое число s, что х(^) < ^ ^^ I ^ * ^ -з, и и{х) — наименьшее такое целое число и, что х(з^)>0 для и^ъ ^ к{х). Положим Е'{х) = Н,{х)ф...фН,^^^{х), ЕЦх) = Н,^,^{х)®...еН,^,^{х), так что Т^М = Е'{х) ф Е^{х) ф Е''{х). Мы будем называть эти подпространства устойчивым, нейтральным и неустойчивым соответственно. Если Е^{х) = {0}, то мы будем называть х гиперболической точкой /. Это означает, что все показатели Ляпунова в точке х отличны от нуля. Доказательство следствия Д 2.14 показывает, что у диффеоморфизма поверхности, оставляющего инвариантной эр- годическую меру положительной энтропии, всегда имеется гиперболическая точка. Начиная с этого момента мы будем рассматривать лишь гиперболические точки. Кроме того, чтобы упростить изложение, мы будем чаще всего полагать, что dim М = 2. Следовательно, устойчивые и неустойчивые подпространства одномерны. По теореме Оселедца — Песина Д 2.10 и модификации леммы 6.2.7 мы можем ограничиться рассмотрением семейств отображений на R^ и отождествить устойчивое подпространство с осью х и неустойчивое с осью у. В этом контексте пусть Определение Д 3.4. Одномерное подмногообразие V С Rg называется допустимым {з^^у 6)-многообразием в окрестности О, если V = graph (р = = {{(p{v)j v)\v е [-6j 6]}, где ip: [-5, 6] —> [-5, 6] — такое С^-отображение, что V?(0)^6/4h IDipl^-y. Аналогично одномерное подмногообразие V С Rg называется допустимым {и, ^j 6)-многообразием в окрестности О, если V = graph (р = {{vy ip{v)) \ v е G[-5, 5]}, где ip: [—6, 5]—>[—5, 6] — такое С^-отображение, что (р{0)^6/4 и\П(р\ ^ ^7- Теперь предположим, что х — гиперболическая точка, и пусть R{Xj 6) =
§ Д 3. РЕГУЛЯРНЫЕ ОКРЕСТНОСТИ 671 = Ф^(Л^). Мы будем говорить, что W С R(Xj 6) — допустимое {з^'у, 6)-многО' образие в окрестности х, если W = ^^{V) и V—допустимое (а, 7, ^)-много- образие в окрестности 0. Подобным образом определяется допустимое (и, 7)^)- многообразие в окрестности х. Предложение Д 3.5. Пусть /: R^ —>R^ — С"-диффеоморфизм, удовлетворяющий следующим условиям: (1)/(0) = 0; (2) суихествуют такие х>0 и е€(0, 1), что 1/(1—2е)^ 1+4е<е^ <1/£ и для (и, v) G R имеет место равенство /(и, v) = {Аи + /ii(u, и), Bv + /i2(u, и)), где \D^h.\ <е для z еЖ^ (г = 1,2), |А|<е-^ и\В-^\<е^^. Если V ~ допустимое {и, % 6)-многообразие в окрестности нуля для ^е 6(0, ее"^], то f {V) ~ допустимое (и, 7, 6)-многообразие в окрестности нуля. Кроме того, существует такое А > 1, что если у^ z eW, то 11/Ы-/(.г:)||>А||2/-^||. Доказательство. (Ср. с § 6.2.) Пусть V —допустимое (и, 7) 5)-многообра- зие в окрестности О, V = graph (р и О < 7 < ее"^. Докажем, что V' = f{V) может быть представлено как график С"-функции, сужение которой ф: [-5, 5]—> [-^ 6] удовлетворяет утверждению теоремы. Для ги е [—5, 6] положим f{ip{w)y w) = {Aip{w) + hi{ip{w), w), Bw + h^iipiw), w)). Определим r: [—5, 5]—>R следующим образом: t{w) := Bw + h2{ip{w)j w). Отображение r является растягивающим, т. е. для j/, г: 6 [—5, 6] выполнены неравенства г{у) - r{z)\ = \В{у -z) + h,{ip{yh у) - Mipiz), z)\ ^ ^ \В\\у - z\ -\М<р{у1 у) - M<p{zh z)\ ^ (Д 3.5) ^ е^\у -z\-e{l-\- 7)|j/ ~'z\= (е^ - е(1 + 7))|2/ - z где е^ - е(1 -1-7)>е^- е-е"^ > 1 -1-Зе -е> 1. Таким образом, отображение ф{w):^ А{<р{т-'{ю))) + h,{ip{T-'{w)), T-'{w)) корректно определено. Заметим, что для v = t{w) мы имеем f{ip{w), ги) = (-0(и), v). Теперь пусть щ таково, что /{(р{щ.)^ щ) = {ф{0)у 0). Тогда по (Д 3.5) мы получаем |^|^|r(0)-r(t/;o)l/(l+2e) = |r(0)|/(l+2e) = /i2(v^(0),0)/(l+2e)^(e/(l+2e))-(5/4) и, таким образом. \ф{0)\ = \\A{<p{щ))+h,{ip{щ),Wo)\\^e-Ц\+'y)\\woHe{l + 'y)\\щ\\^ ^(е-^ + е)(1+7)(е/(1+2е))-(5/4)^(1-е)(1+7)<5<(е/(1+2е))-(5/4). Рассмотрим дифференциал Оф. Предположим, что (и, и) — вектор, касательный к У в {ip{wQ)j гЦ)); тогда по определению \и\ ^ 7|"|- Рассмотрим Df{u, v) = {Аи + P/ii(u, и), Bv + Dh^{u, v)) =: (Uj, ц). Тогда \щ\ ^e-^|u|-l-e|(u, и)| и luj ^ е^|и|-e|(u, и)|. Поскольку \{и, v)\ ^ {\ +'y)\v\, после возможного уменьшения е мы имеем
672 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ Таким образом, ф —дифференцируемая функция и ее производная меньше чем Осталось доказать, что / является растягивающим на допустимых многообразиях. Пусть J/, г: е V, скажем, у = {1р{з), s) и z = {ip{t)j t). Тогда \f{<p{shs)-f{ip{t),t)\^ ^ \В{з - t)\ - \А{<р{з) - ip{t))\ -\Ц<р{з), S) - h{ip{tl t)\ ^ ^ е^\з -t\- е-^\(р{з) - ip{t)\ - е(1 +7)|з -t\^ (е^ - ^-^ - €{l+^))\s - i|, так что где е^-7е^^^-£(1 + 7) ^ ^^^ =: А > 1, потому что 7 < ее-^. Q Теперь рассмотрим гиперболическую точку х^М, Пусть Х(х):= min{-x,(,,(a;),x«(,)(a;)}, £{х):= sup{^ >0| 2е < е-^<-)-^^ < (е^+ЗеГ^}. Для е > О положим А(а;, е) = е^*'>"^. Тогда по предложению Д 3.5 и замечаниям, сделанным в процессе доказательства относительно допустимых (ii,7) 5)-многооб- разий, определенных в некоторой окрестности нуля, мы получаем такое следствие. Следствие Д 3.6. Пусть х е М ~ гиперболическая точка и0^е^е{х). Если V —допустимое (и, 'у)-многообразие в окрестности точки х для некоторого 7^(0, е/Х{х, е)], то f(y)nR{f{x)) ~допустимое {щ ее"^/Л(ж, е))-многообразие в окрестности f{x). Кроме того, существует такое число х(а;)> 1, что если yyze^-^{V), то Следующие утверждения показывают, что понятие допустимых многообразий позволяет использовать нечто напоминающее локальную структуру произведений в регулярных окрестностях. Предложение Д 3.7. Пусть /: R^ —>R^ — С^-диффеоморфизм, удовлетворяющий следующим условиям: (1)/(0) = 0; (2) существует таков разбиение R^ = R' ф R" и такие х > О» е > О, что 1 + + 4е < е^ < 1/е U для (и, и) eR* ©R" выполнено равенство /(и, V) = {Аи + /ii(u, и), Bv + h^{u, v)), 3de\\D^hi\\ <e длягеЖ^ (i = l,2), ||A||<e-^ u ЦВ-'Ц < e'^^. Тогда любое допустимое (a, 7, 6)-многообразие в окрестности О пересекает любое допустимое (и, 7, 6)-многообразие в окрестности О в единственной точке, причем это пересечение трансверсально. Доказательство. Пусть ip'jip'': R —> R — такие С"-отображения, что graph if' и graph v?" —допустимые (u, 7, 5)- и (а, 7j 5)-многообразия соответственно. Отображение v?" о <р''- R—> R является сжимающим, потому что </з" о ip'{v) — ip^ о ip'{w)\ ^ 7^1" ~ ""^1) так что по предложению 1.1.2 оно обладает единственной неподвижной точкой v. Далее, точка очевидно, и является единственной точкой в пересечении graph </з" П graph ip'.
§ Д 3. РЕГУЛЯРНЫЕ ОКРЕСТНОСТИ 673 Для того чтобы доказать трансверсальность, заметим, что из включения (т),^) ^ '^iv,^4v\)^^V^^P' следует, что ||^|| ^ 7lW|, и из включения (т;, О G ^ ^(ц v'H) grapn V?" следует, что |г;| ^ 7KI- Таким образом, если (т),^) е е T^v,^4v)) graph ^'^Щи,^{у)) graph V?", то 7; = f =0, а это означает трансверсальность пересечения. Q Следствие Д 3.8. Пусть х е М-^ гиперболическая точка отображения f е Diff' "^ "(М). Тогда любое допустимое (а, ^)-многообразие в окрестности X пересекает любое допустимое (и, -у)-многообразие вблизи х транееерсально и в единственной точке. Следствие Д3.9. Пусть хеМ ~ гиперболическая точка иО^£^£{х). Если V —допустимое (а, 'у)-многообразие в окрестности точки х для некоторого 7 е(0, €/Х{х, е)]. то f~^{V)П R{f~^{x)) — допустимое (а, ее^^/\{х, е))-многообразие в окрестности /"'(а;). Кроме того, существует такое число х{х) < 1, что если у, z е ^~^{V), то Шу) - fA^)\\ ^ ^i^)\\y- ^ § Д 4. Гиперболические меры Теперь мы обобщим некоторые широко используемые в теории локально максимальных гиперболических множеств методы для мер с отличными от нуля показателями. Эти технические средства не только важны для приложений, но также задают определенную геометрическую структуру на мерах с отличными от нуля показателями. Мы покажем, как замкнуть возвращающиеся орбиты, приблизить е-псевдоорбиты, построить почти марковские покрытия и определить класс когомо- логий гёльдеровых коциклов по периодическим данным. Д 4 а. Введение. Определение Д4.1- Мы будем говорить, что /-инвариантная борелевская вероятностная мера fi для / GDiff^'*''*(M), а >0, является f -гиперболической мерой, если для почти всех х еМ все показатели Ляпунова отличны от нуля, т. е. Е^{х) = {0} почти всюду. В частности, любая эргоднческая мера с положительной энтропией для диффеоморфизмов поверхности является гиперболической. В этом пункте будут исследованы некоторые свойства регулярных окрестностей и допустимых многообразий для гиперболических мер. Для этого мы должны определить некоторые множества, на которых наши оценки могут быть сделаны равномерными. Определение Д 4.2. Пусть для вполне регулярной точки х еМ (определение Д 3.2) г{х) — радиус максимального шара, содержащегося в регулярной окрестности N{x). Тогда назовем г{х) размером N{x) (см. определение Д 3.3). Теорема Д 4.3. Пусть fi ~ f-гиперболическая мера для f GDiff "^"(М), а>0 и многообразие М компактно. Тогда для любого 6 >0 существует такое компактное множество Ag и такое е = е(5) > О, что ft{Ag) >1- 6 и выполнены следующие условия. 1. Функции X I-* A^{x)j X I-* C^{x)j X I-* q{x)^ х i-* r(a;), x ь-* x{^) непрерывны на Ag. Существование функций А^, Я, г и х обеспечивается теоремой о е-редукции Д 2.10 для е = е(5). 2. Разложение Т^М = Е'{х) ® Е""{х) непрерывно наА^.
674 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ Доказательство. Рассмотрим измеримую функцию х*~*х{^) и выберем такое компактное множество Л^^, что tx{Ng)> 1 — 6/4, если x^Ng, то х(з^)>с>0 для некоторого оО, и отображение zt-^xi^) непрерывно на^^. Существование такого множества следует из теоремы Лузина. Пусть Хг =niin{x(a^) | ^ ^^s}- Выберем е > О так, что 0< е < х^/ЮО и 2е < е"^'"^* < (е* +3е)-*. Теперь для этого е > О рассмотрим е-приведенный коцикл Оселедца — Песина D^{x) из (Д 3.2), построим регулярные окрестности R{x) и определим q{x) для этого коцикла. Применив еще раз теорему Лузина, получим, что отображения x\-^q{x)y Xi--*r{x)j Xi--*A^{x)^ х\--*Е'{х)^ a;i-*^"(a;) непрерывны на некотором компактном множестве Ng и fii^g) > 1 — 6/2. Тогда Ag=:NgnNg и теорема доказана. D Замечание. Здесь, как читатель, вероятно, заметил, мы обошлись с обозначениями несколько свободно, так как использовали величину q{x), которая зависит от е, задолго до того, как е было явно выбрано. Пусть Ag = max{A(a;) | х е Л^}, qg=mm{q{x)\xeAg}, Tg = min{r{x) I X eAg} и Xs = ^n{\xM\\xeAg, \^i^k{x)}. Тогда результаты предыдущего параграфа верны для всех xeAg, где 0<7 = 7(^)< < еЛ, и € = €{6) таково, что 2е < л <(e^^-3e)"^ Положим /tg = {xeAg\ dim Е'{х) = к}. Если М—поверхность и fx —гиперболическая мера, то Ag=Ag. Определение Д 4,4. Для 6 >0 назовем любое множество Л^ 6 -множеством Песина или просто множеством Песина. Предложение Д 4.5. Пусть f в Diff^ '^'*(М), а > О и М — компактная поверхность. Предположим, что р. — f-гиперболическая мера. Тогда для т е € (О, 1) существует такое /? >0, что если а;, у eAg и d{x, у) < /?, то Ha^-^{R{x)nR{y)). Доказательство. Так как Ф^, = ехр^,oCf'{у), мы имеем Ф^' ° Фу = = С^{х)оехр-^ oexpyoCf'(y). Пусть Т^: Т^М-*^ Т^М—линейное отображение из Т М на Т^М, которое сохраняет гиперболическое разложение и является изометри- еи на каждом из этих подпространств. Ясно, что если x^y^Ag достаточно близки, то отображение T^j' о ехр^' о ехр^, будет близко к И^м в С"-топологии. Также, поскольку х^уе Ag, из непрерывности разбиения на Л^ и отображения х i-* С^{х) мы заключаем, что С^{х)о Т^ о С~^{у) близко к отображению Idjji при условии, что х и у достаточно близки. D Следствие Д4.6. Существует такое р — р{6), что если х, yeAg, d{x^y)< <р и W eU^{y), mo^^{^-^{W)nQ{y,qg/2))~4acmb допустимого {и,^)-мно~ гообразия в окрестности х.
§ Д 4. ГИПЕРБОЛИЧЕСКИЕ МЕРЫ 675 Для некоторых приложений нам нужно уменьшить размер регулярного прямоугольника R{x), так что для 0<h^lHxeAg определим R{x,h) = ^^{Q{x,hq,)). Определение Д 4.7. Мы говорим, что W П R{x, h/2) — допустимое {и,-у, 6, h)-многообразие в окрестности хеА^, если W — такое допустимое (гц 7)-многообразие в окрестности х, что если W =$,(graph </?). то ||v?(0)ll ^ ^hqg/4. Пусть U^ ^{х) — множество всех допустимых (и, 7j ^j ^^многообразий в окрестности точки х. Подобным образом определим допустимые (а, 7j ^j /i)-mho- гообразия в окрестности точки х и обозначим множество всех таких допустимых (s, 7) ^) /1)-многообразий через S^f^{x). Главное различие между допустимыми (и, % 5, /1)-многообразиями и допустимыми (и, 7j 5)-многообразиями состоит в том, что допустимые (и, 7» ^, /1)-многообразия представляют собой подмножества данного многообразия, в то время как допустимые (и, у, 5 )-многообразия вложены в евклидово пространство. Следующее предложение будет играть роль, аналогичную Л-лемме (предложение 6.2.23) в равномерно гиперболической теории. До конца этого пункта мы будем считать, что многообразие М компактно, / G Diff' "^ '*(М), а > О и д — /-гиперболическая мера на М. Вообще говоря, пусть для О < /i ^ 1 R{x,h) = ^AQ{^^hq{x))), Предложение Д 4.8. Для данных 6 uh существует такое /?=/?( 5, /i) > О, что если X, увА^ таковы, что d{у,/"^х))<р uf {x)eAs для некоторого т^О, uWq^ допустимое {и, 7, 6, h)-многообразие в окрестности точки х с у =-^{6), то многообразие W^, определенное соотношениями W^=^f{wi''nR{r-'{x),h)l i-2,...,m-l, W,^f{W,--')r^R{y,hl2), представляет собой допустимое (u, 7^ ^j h)-многообразие в окрестности точки У- Доказательство. Пусть Wq — допустимое (и, 7) ^) /1)-многообразие в окрестности точки х. Из предложения Д 3.5 следует, что W^ — часть такого многообразия W^ в U^^^f^if^ix)), что W^ =$^«(^j(graph г), где г: Q"(a;, /i/2)-* —* Q'{x,h/2) принадлежит классу СК По следствию Д 4.6 Wj —часть допустимого (и, 7, 5, Л)-многообразия в окрестности точки у. Пусть WQ = ^^{graphip), где ip в C"(Q"(a;, /i/2), Q'{x, h/2)). Теперь продолжим И^о ДО такого допустимого (и, 7j ^) /i )-многообразия Wq в окрестности х, что где ^G C"(Q"(a^, h), Q'{x, /i)). \\(p{0)\\ ^ hq/4 и v? = ^Io-(^a/2)- Определим W^' в соответствии с (Д 4.1) и положим W,=f{{W^"^-')nR{r-'{x),h))nR{r{x),h). Согласно предложению Д 3.5 для г = 1,..., m - 1 выполнено равенство /(ТУо'-'пЛ(/^-Ча:),/1))=Ф^Чх,(&гарЬ^,), где й е C'iQ^fix), h), Q'ifix), /i)), ||^Д0)|| ^ hq/4X\ \\Dip,\\ ^ 7^* и Л = Л, = = e^*'^\ Аналогично, W, ='^.«,^Jsvanh S„) удовлетворяет тем же условиям, что
676 ДИНААШЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ (pi, г = 1,..., m - 1. Очевидно, что если d(/'"(a;), у) достаточно мало, то Wj С И^. Положим г:„=Ф^-(,,(^(0), 0) и Z. := /*""(г:^), г =0, 1,..., т~ 1. Поскольку z^ е Wq\ для некоторого v^ е Q"(/4^)) ^) вьтолнено равенство г:. =Ф/*(,)(^;(ч)) ^Л» *^ ясно, что Теперь рассмотрим многообразие 5=Ф^«(,)(^'(/"'(а;), /1дй))х{0}. Очевидно, что 5 —допустимое (а, 7) ^j /1)-многообразие. Заметим, что S содержит /'"(а;) и z^; следовательно, г:^ G 5^, и потому Ци-]! ^ 7||Й(ч)11- Отсюда следует, что и и.II ^hq/4\* +7||Ч- Таким образом, г:^- G ТУд* П Л(/*(а;), h) для всех г. Представим WQ*nR{f'{x), h) как $^;(,j(graph й|/?,). А С С?"(/*(а;), /i). Тогда если 7Г^.(и,) = В/.(,,и + (/l2)/;(,)(V?i(u), V) 1 где В и h —такие же, как в предложении Д 3.5, то из доказательства предложения Д 3.5 видим, что где Do^Q'^ix.hq/l). Так как каждое отображение тг^ является растягивающим с коэффициентом растяжения, большим чем е*/(1 + еА), мы получаем, что если каждое множество Д содержит шар радиуса г с центром в v., то существует такое г\ что шар радиуса г' с центром в u^^j содержится в Д^р Чтобы показать это, возьмем . = „,in{^,M(/-(:^))-^^( 1 + л-'^^ 2 Поскольку q{f{x))/q{x)> е% мы имеем и r'>min{y^r,/1(1-7)e-^<^-^^>g,}- Следовательно, так как Д, содержит шар с центром г;^ радиуса {\ —'y)h qg/2, D^ содержит шар с центром в начале координат радиуса который, очевидно, больше чем hq/2 ( ^ . 1 . Поэтому если величина г достаточно близка к 1, то Ф;;'Фг(х)( graph ipjoj = graph v?^, причем область v?m покрывает Q"(/"(a;), qh/2), и, таким образом. — допустимое (и, 7, 5, /1)-многообразие в окрестности точки у. D Предложение Д4.9. Для данных 6 uh существует такое р = р{6, h)>Q, что если х,уеА^ таково, что d{y,/'""{х)) <р и f~"4x)eAs для некоторого
§ Д 4. ГИПЕРБОЛИЧЕСКИЕ МЕРЫ 677 m ^ 0. и Wq — допустимое (а, 7) 5, h)-многообразие в окрестности j/, 7 = 7(^). то многоооразие Щ, определенное соотношениями и^о'=/-'^)пЛ(/'"-Ч^),Л), представляет собой допустимое (а, 7) ^i h)-многообразие в окрестности точки X. Доказательство этого утверждения подобно доказательству соответствующего предложения для (гл, 7) ^ /1)-многообразий. Д 4 б. Лемма о замыкании. 6 этом пункте мы зададимся одним из фундаментальных вопросов в динамике: возможно ли для данной возвращающейся точки х найти близкую периодическую точку у, которая близка к орбите х в течение периода времени, необходимого первой точке для возвращения в малую окрестность первоначального положения? Проблемы такого рода называются проблемами замыкания. Мы покажем, что для сохраняющих гиперболическую меру диффеоморфизмов можно замыкать определенные орбиты и. кроме того, полученные таким образом периодические точки являются гиперболическими. Этот результат во многом служит основанием результатов, следующего параграфа. Подобно задаче о замыкании имеется задача аппроксимации е-псевдоорбит. Это означает, что для данной последовательности таких точек на многообразии, что образ х. очень близок к Xi_^_^, существует такая точка х, что f*{x) близки к х.. Другими словами, если дана последовательность точек, похожая на орбиту (псевдоорбита), то мы можем найти настоящую орбиту, приближающую эту псевдоорбиту. Следующие результаты представляют собой неравномерные аналоги лемм о замыкании и о е-траекториях (теоремы 6.4.15 и 18.1.2) в равномерно гиперболическом случае. Лемма Д 4.10. Пусть f € Diff'"^"(М), а > О, и М ^компактное риманово многообразие. Предположим, что ц ^ f-инвариантная гиперболическая мера. Тогда для любых h, 6 >0 существует такое число j3 = p{6, /i), что если х е eAg, f"'{x)eAg для некоторого т > О и d{x, f"'{x))< р, то существует точка z = z{x), удовлетворяющая условиям (\)r{z) = zu (2) d{r{x), f'iz)) < ЗЛА, max { {y^)'"", (гЙх)"'}- U i ^ m. Числа X и € здесь такие же, как в предыдущем пункте. Доказательство. Сначала докажем существование периодической точки Z = z{x). Пусть число /? = /?(5, /i) > О удовлетворяет предложениям Д 4.8 и Д 4.9. Рассмотрим уменьшенную регулярную окрестность Q{x,hqg)) для xeAg. Тогда расстояние dc'(^x^7'^(')' ^*^) ^^°' поскольку /'"(а;) 6 Л^ и d{x, /'"(а;)) < /?, так что прямоугольники R{x, h) и Л(/'"(а;), h) выглядят, как наложенные одна на другую фигуры почти одинакового размера. Таким образом, если Bq — допустимое (ti, 7Д ^^многообразие в окрестности точки X для -у = 'у{6)>0, то многообразие В^, определенное следующим образом: B^^fiB,), Bi^f{Bi-'nR{r-'{x),h)), г=2,...,т-1, B,^f{Bo"'-')nR{x,h/2), где % е Ф,(С?*(а;, h) х {0}) П Bq, является допустимым (u,7i ^, /i)-многообразием в окоестности точки х. Напоимео. положим Д,' =Ф.{|0> х 0"{а;, h)).
678 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ Аналогично, если AQ — 4fjm^^^(Q'{x, h) х {0})П Л(х, /i/2), положим Аг=АоПЛ(Г(х),/1), Ai = f-'{ASnR{r-'{x),h)), где % € Ф,({0} X (5"(з^» h)) П Ад. Тогда по предложению Д 4.9 множество А^ — допустимое (з, 7, <^ /1)-многообразие в окрестности х. Согласно предложению Д 3.7 множество А^ пересекает Bj в единственной точке, скажем, в точке z^i. Теперь индуктивно определим множества А^, AJ,. -., А^~^ для А; = 1, 2,... следующим образом: Al^r'{A,)nR{r-'{x),h), Ai = f~4Ai-')nR{f—'{x),h), г=2,...,т-1, A,^,=f~'{Ar')nR{x,h/2). Аналогично» Bi = f{B,), в; =/(В'-' П Л(/'-'(г). h)), г =2,.. , m - 1, B,^, = f{B--'nR{x,h/2)). Здесь, чтобы не усложнять обозначения, мы опустили указание на связные компоненты. Согласно предложениям Д 4.8 и Д 4.9 множества А^, — допустимые (5,7, ^, /1)-многообразия в окрестности х для каждого А; = 1, 2,... Следовательно, каждое множество А^ пересекает каждое Bj в точке z^j, где x = ZiqH f^ix) — ^q,:- Мы утверждаем, что если А; ^ 1, У ^0, то Чтобы доказать это, заметим, что ГК,) е Г (А J с /-ЧАГ--!') с ■ ■ ■ с А,_„ следовательно, остается показать, что для г = 1,..., m — 1 выполнено включение таккгкизтото.что r{z^j) = f{f'^-'{z^j))ef{Bp-')H r{z^j)e А,_,cR{x,h/2l следует, что /'"(z^^j) € B^-^i. Теперь применим индукцию по г, полагая /*~'(^i,j) ^ BJ~^. Поскольку f^{z^j) € 6/(АГ_7-^') = Аг^_7П/(Л(/*-^(а;), Л)), мы имеем так как f*~^{z^j)^B^~^ по предположению индукции. Следовательно, f"*{zi^^k~\)~ ^к-\,к* ^ ^cnvi последовательность z^.j ^ сходится к точке 2, то /'"(z)= lim r{z^_,^,)=\im z^^^,- lim z^_,^^ = z. Ясно, что, поскольку функции /* непрерывны и /*(-2jt,A-i) €-^(/*(^)i ^) Для всех А; ^ 1, мы имеем f^{z)— lim f^{z.^^A eR(f^{x), h)\ г =0,. _,m - L
§ Д 4. ГИПЕРБОЛИЧЕСКИЕ МЕРЫ 679 Чтобы завершить доказательство (1), покажем, что Zf^_i,^ — сходящаяся последовательность. Для этого сначала заметим, что если ifi) . ТО существует такое О < А' < 1, что для всех А^, fej ^ О, j ^ О мы имеем 1|ФГК..)-ф;Ч^*,.;)11<А1|ф;Ч^^-1.,^:)-ф;'К-1„-^1)11- Поскольку/•(zi,_,.) = /-4/*"'42i.j))€/-4-B;-^^)=5;n^(/*(a;), Л) и каждое многообразие В* п R{f*{x), h) представляет собой часть допустимого многообразия в окрестности f*{x) для всех г = 1,..., тп, ll^;42.,-i.y^i)-^;'K-i.i^i)ll>^IV'(x)K-i.i^i)ll^ (тТ1л) 11Ф^'Ц,.)-Ф-К,,)11, —m так что можно положить А'=: [tTsxI "^'^ ^^' Подобным образом, для А; ^ О, j^, jg ^ 1 выполнено неравенство Используя эти оценки, докажем, что ф;Ч^»^.,*)-ф;'К*-.)И4,л(АГ, откуда следует не только то, что z^^_^ — сходящаяся последовательность, но также и то, что Е11*''('^*^м)-ф;'к*^.)||<~ *=1 и, следовательно, z е Л(х, h/2). По определению z^,^_^ и z,^_i,,_i принадлежат одному и тому же многообразию В^^^, так что и / ~ ^к,к-1= \2к-2^ ^2к~2- Для каждого i =0,.. .,к -2 выполнено неравенство и, следовательно, ф;'К*-,)-ф;'(.г*...*-,)И(А')*-'1|ф;'(^*-2.,)-Ф1'(^*-2,о)И <(А')*-'2?Л, ЧТО завершает доказательство (1). Чтобы оценить d{f*{x), f'{z)) для г =0,..., т~ 1, рассмотрим следующие многообразия: многообразие Д,, определенное выше, многообразие Ад, представляющее собой образ 5'-мерной плоскости, параллельной Q4/"*(^)» ^ь) ^ проходящей через 2, HAi=f~^{Ai_^)nR{f'^-^{x), /i) для i = l,..., m. Таким образом, по предложению Д 3.5 и аналогичному утверждению для /~' многообразия Bq и А^ пересекаются в единственной точке у, и, полагая Н{„ := max •! L ^ ^д j , (j^r^j |. мы
680 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОЛШ'НЫМ ПОВЕДЕНИЕМ получим <ИГ(х),ГИ)^<ИГ(х),Г{у)) + <1{Пу),Г{^))^ ^d{r(x), Г(у)) (tTi)'"" + d(y, z) (у^)"' < ^E<Jd(r(x),r(y)) + d(y,z)]^ < Elldir(x), r{z)) + d{r(z), Г(У)) + d(y, z)] < ShA.^i,. □ предложение Д4.11. Пусть тачка x e A^ такова, что /'"(я) € Л^ ud(Xj f'^(x))<f3 для некоторого m>О, ЕслигеЯ{Ху 1)—периодическая точка периода т и f*{z) 6 Л(/*'(я), 1) для г =0,..., m — 1, то z —гиперболическая периодическая точка. Доказательство. Напомним, что для yeR^ и j >0 мы определили конусы в силу тех же соображений, что применялись в доказательстве предложения Д 3.5 или при построении инвариантного семейства конусов, если х eAg, 1/6 Q{Xj 1), то для таких А и 7, как в предложении Д 3.5, выполнено условие ^Л1,С7;(у)сс,;(/Лу)): Кроме того, если w € С^, то ||Х>Д|уш|| ^ -йГЦшЦ, где К = К{Х) > 1. Подобным образом, Df-^\yC'{y) С C'y{f-^{y)), и если w е С'(у), то \\Df-'\^w\\>K\\w\\. Теперь пусть z — периодическая точка, удовлетворяющая посылке нашего рассуждения. Положим где z^ = ^~^(z) и 2;. =/y,-,(^j(J._j) для г = 1,..., т-1. Отсюда следует, что -РГ*(^Л^)) С Сд%(^) и если weC;{z;,), то ||i^;",^|| ^ i^'lhll- Аналогично. (^Г.)~Ч<^,Ч^)) С С/»^(^), и для ^ 6 а;(^) мы имеем \\(F-^)-'w\\ ^ K-\\w\\. Теперь рассмотрим конусы в Т^М. Пусть для О < ^ < 1 Заметим, что Касательное пространство Т^М может быть представлено в виде jE?*(z)© jE?"(z), где^'(2) = £)Ф^-(Кх{0})и£;"(2) = £)Ф,к({0}хЕ). Поскольку (f(x,/'"(х)) < ^, мы получаем, что Таким образом, -1 X иг с 1?Ф^.(.,|7„ о -оФ;Ч, ° -0Ф.1^(С7лЧ(^)) =
§ Д 4. ГИПЕРБОЛИЧЕСКИЕ МЕРЫ 681 Аналогично, D^f~'"{C'{z)) с Сд-^^, так что, если положить А' = А'"''^, мы получим, что _ _ DJ-(c;(z))cc;;.^(z) и dj-"(c;(z))cc;.^(z). Теперь пусть w е C"(z); тогда F-^oD,9-^w)\\/K^(S)^K-\\D^9:^(w)\\/K^(6)^CK"'\\w где с = С(Л^, /3). По теореме 6.4.8 из этих условий следует гиперболичность. П Замечание. Из этого доказательства видно, что, вообще говоря, если имеется такое замкнутое /'"-инвариантное множество Л, что Лс Л (а;, 1), /*(Л)сЛ(/'(я), 1) для г =0,..., m — 1 и /'"(Л) = Л, то /^Л) — гиперболическое множество. Теперь докажем утверждение относительно гиперболических периодических точек, которые остаются внутри регулярных окрестностей некоторой точки с отличными от нуля показателями. Предложение Д4.12. Если х и z(x) —me же точка, что в лемме Д4Л0, тогда устойчивое (неустойчивое) многообразие z(x) является допустимым (5,7,1)- ((«, 7» ^))-многообразием в окрестности х. Доказательство. Рассмотрим множество S всех допустимых (д, 7» 1)-мно- гообразий в окрестности х. Если многообразия Wj, И^2 ^ ^х таковы, что W. = = $^(graph (р.) для г = 1, 2, определим С°-расстояние между WJ и И^ равенством ^со(^и^2)= max ||(^i(u)-(^2(v v€Q'{x,[) Из определения следует, что S^ — компактное множество в этой метрике. Следовательно, последовательность {А^}^ ^р,, определенная в доказательстве леммы Д 4.10, содержит такую подпоследовательность {А^ },gp,, что А^ сходится в этой метрике к некоторому многообразию А С 5^. Докажем, что для w еА выполнены следующие условия: (\) f'^{w)eR{x,\), кеП; (2) d{f'^{w)y z)< CX^d{w^ z), где С>0 — некоторая константа и А < 1. Зафиксируем к и найдем последовательность таких точек w^e А^, что w = lim ш,. Таким образом, из доказательства леммы Д 4.10 следует, что для к^^к выполнено условие _ f'-{w)eA^_,cR{x,\), так что утверждение (1) проверено. Чтобы оценить (/(/*™(ш), z), заметим, что dif^iw), z) = d (Ф;>Ф J*-(^), Ф;'ФЛ2^)) ^ к~' W^J'-iw) - Ф,(2)|| < ^K-^a''^\\^,{w)-^^{z)\\^K-^a-'^Asd(w,z), так что если положить С = К~^А^ и А = а"', то и второе утверждение будет доказано. Утверждения (1) и (2) показывают, что многообразие А содержится в локальном устойчивом многообразии W'(z) точки z для /"*: поскольку T^W'{z) — E^{z) и D'i~^\^E'{x)cC (^), мы заключаем, что локально в окрестности z многообразие W^(z) имеет вид где 1р: R' —^R"-* — С^-функция, определенная в окрестности О, и ЦД,*^!! < 7-
682 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ Так как многообразие А имеет такой же вид, локально А совпадает с W'{z), а поскольку / — диффеоморфизм, их продолжения должны совпадать и, следовательно, А должно быть локальным устойчивым многообразием. П Теперь соберем все предыдущие утверждения этой главы в следующей теореме, которая называется леммой о замыкании для неравномерно гиперболических систем и была первоначально доказана в [140]. Теорема Д4.13 (Лемма о замыкании для неравномерно гиперболических систем). Пусть /€Dif?^"(M), а >0 а М — компактное двумерное риманово многообразие. Предположим, что ц—f-инвариантная гиперболическая мера. Тогда для любых h, 6 >0 иО<к <dimM существует такое(5 = (5{h^ S)>0, что если X eAg и /'"(я) € Л^ для некоторого т>0 и d{Xj /'"(я)) < 0, то найдется точка Z = z{x)j удовлетворяющая следующим условиям: (\)Г{г) = г; (2) d{r{z), r{x))^3h А, max {(j^)'"", (т^)'}, 0< г < m; (3) Z — гиперболическая периодическая точка, устойчивое и неустойчивое многообразия которой являются допустимыми (5,7,1)- и (и, 7» \)-многообразиями соответственно. Д 4 в. Лемма о £-траекториях. Далее будет приведен аналог леммы о е-тра- екториях (теоремы 18.1.2) для случая неравномерно гиперболических систем. При этом будут использоваться понятия псевдоорбиты и приближения из определения 18.1.1. Теорема Д4.14 (лемма о е-траекториях для неравномерно гиперболических систем). Пусть ц является f-инвариантной гиперболической мерой для f 6 € Diff '^'^{M),^ct >Q и М —компактное двумерное риманово многообразие. Для 6 >0 пусть Л^ = и R(Xy 1); тогда для достаточно малого а >0 существует такое ^ = ^(а,Л^), что для каждой /3 -псевдоорбиты {д;^}сЛ^ найдется такое у €М, что орбита 0{у) а-приближает {з:^}. Так как эта теорема нами нигде явно не используется и ее доказательство напоминает доказательство леммы о замыкании, мы лишь кратко обрисуем основные моменты доказательства. Набросок доказательства. Рассмотрим ^-псевдоорбиту {х^} СЛ^ для некоторого малого /3>0. Для meZ рассмотрим точки д;„_,, х^, я^ + р д^ш+г и я^^з и выберем z^.j, z^, z^^i, z^^^y^m+s^^s так, что х^^, е R(z^^,,\), г = —1,0,..., 3. Теперь построим псевдоорбиту {х'^}, удовлетворяющую условию ^(/«), <^l) < C(/(^m), ^m>l). где 0< С < 1. Будем работать в ляпуновской карте. Как отмечалось прежде, идея доказательства в основном такая же, как для леммы о замыкании, но здесь мы работаем в различных картах и осуществляем сдвиг на два шага вперед и назад. Выберем для малого 7 допустимое (и, 7)-многообразие V^_^ в окрестности 2^_i таким образом, что ic^_j € V^_i. Подобным образом выберем такое допустимое (5, 7)-многообразие V^ в окрестности z^^^, что }{х^) е V^, и рассмотрим /(lC_i) и /"ЧК^)- Если р достаточно мало, то f{V^_^) и f~^(V^) — допустимые многообразия в окрестности z^, так что мы можем взять у^ 6 /(ТС-О^/'ЧК!)- Теперь выберем допустимое многообразие V^ в окрестности z^ таким образом, что х^ € V^, и аналогично пусть V^+i —допустимое ^-многообразие в окрестности 2^+2' содержащее f(x^^i). Выберем < 6/-ЧКп%1)П/(УД J. Чтобы построить х'^_^^, определим У^^2 и положим я^^! & f~^(V^_^_2) П f(V^). Из тех же соображений, что использовались в доказательстве леммы о замыкании, следует существование такого f < 1, что difix'J, <^,) < Cd(f{xJ, х^^,).
§ Д 4. ГИПЕРБОЛИЧЕСКИЕ ЛШ^Ы 683 Используя этот метод по индукции, можно доказать, что для всех к >0 существует С*j^-псевдоорбита {x^}cAg. Таким образом, мы можем взять у= \im х$. Заметим, что «-+00 1 U- так что теорема будет доказана, если положить р = ^ зк ^ Д 4 г. Псевдомарковские покрытия. Пусть О < 7 < 1 • Мы говорим, что множество Я = {(и, и)е[-1, 1]^ I u = ^i(u)-h(l - ^)V^(u), 0< ^ < 1} — допустимый (5,7)-прямоугольник в Q{\), если (р., (р^: [—1,1]—^[—1,1] — такие данные С^-отображения, что ||(^i(u)|| > ||¥?2(u)|| для 1и| < 1 и \D(Pi\ < 7 (i = 1,2). Аналогично мы можем следутощим образом определить допустимый (и, 7)-прямо- угольник в Q (1): где <^1, й* [~1» 1]"^[-1, 1], |£>(^J<7 и |<^i|>|¥?2|. Как и для регулярных окрестностей, если Ф^: [-1, If —>М — такое С"-гладкое вложение, что Ф,(0) = я, мы будем говорить, что Л(я)=Ф^([—1, If) — прямоугольник в М с центром в X. Множество Н является допустимым (д, 7)-прямоугольником в Л (я), если Я = Фд(Я) для некоторого допустимого (5, 7)-прямоугольника в [—1, 1]^. Подобным образом определим допустимый (и, 7)-прямоугольник в R{x), Определение Д 4.15. Для данного диффеоморфизма f:M—*M компактной поверхности и компактного множества Л С М мы говорим, что конечная совокупность прямоугольников {R(xi)yR{x2)i., ,у R{x2)} является покрытием (р, Д Х)-прямоугольниками для р > О, 1 > А > О, если существует число 7 = = 7(л Д А) € (0,1), удовлетворяющее следующим условиям: (1)ЛС и Д(я„Д),сД(я,,Д)с1п1Л(яОия,бЛ; (2) diam R(x.) < р/3 для г = 1,..., t; (3) если х£А, f"'{x)eA для некоторого m > 0. хе/3{х.^/3) и /'"(я) € еД(я^, Д), то компонента связности G[;[i?(a;jn/"'"(i?(a;j)), я] множества Л(я^П П/'''"(Л(я^)), содержащая я, является допустимым (д, 7)-прямоугольником в Л(я.) и /'"(ЩЛ(я,)П/-'"(Л(я^)), я])—допустимым (и, 7)-прямоугольником в Л(я^); (4)diam/*((I:[Л(я,)П/-'"(i?(я^)), я])<ЗШатЯ(я^)тах{А*,А'"+*}дляО<А;< < т. Замечание. Чтобы упростить определение покрытия (р, Д А)-прямоуголь- никами, мы выбрали прямоугольники Л(я) = Ф^([—1, If). Однако, как мы вскоре увидим, в ряде приложений область Ф^ нам дана и является ляпуновской картой, так что в этом случае, чтобы уменьшить размер регулярной окрестности, следует рассмотреть лишь [—/i, /if дляО< /i< 1, и тогда Ф^((5('1))=: R{^i h)- Мы говорим, что множество Л допускает покрытие (р, Д А )-прямоугольниками, если все условия данного определения выполняются для некоторого покрытия. Пусть fj, — эргодическая гиперболическая мера для / е Diff(M), и пусть хЫ = тш{|хЛг = 1,2}. (Д4.2) Теорема Д 4.16. Пусть f е Diff'^'*(M), а >0 а М — компактное рима- ново многообразие. Если ц —гиперболическая мера, то для любых 6 >0, р >0
684 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ существует такое компактное множество Л^, для которого iJ.{Ag) >\~ 6, та' кая константа (3 = р(р, 6)>0 и такое Л, О< А < 1, что Л^ допускает покрытие (pi Pi Х)-прямоугольниками R ={H(a;i),.. .^Щх^)}, где x^eAg, г = 1,..., i, Доказательство. Зафиксируем 6 >0и выберем множество Лесина Л,, как в теореме Д 4.3, так, что р-{А^) > \ - 6. Для р >0 выберем число h, 0< h < \, так, что диаметр регулярной окрестности R{Xyh/2) меньше чем р. Теперь, как в лемме о замыкании, определим р = р(6у р) = /3{6yh) и для каждого х е Ag положим р(х^ р) ClniR{Xfh/2). Так как множество Л^ компактно, рассмотрим и В{х, р) D Ag и, переходя к конечному подпокрытию, найдем прямоугольники R(Xii h/2)y,, ,у R(x^y h/2), удовлетворяющие условиям (1) и (2) из определения покрытия {р, Д А)-прямоугольниками. Пусть 7 =7(а ^)- Чтобы проверить выполнение условия (3), заметим, что для каждого х^ границы R{Xiy h/2) являются допустимыми (7, /1)-многообразиями (и или з соответствуют различным сторонам). В силу предложения Д 3.5 и конструкции из леммы о замыкании мы можем заключить, что если xeB{Xiy р), f"*{x)£B{x-^ р) и я, f'^(x)eAg, то при m >0 отображения /"* будут отображать ^л-границы R(x.y h/2) в допустимые (и, 7) ^) /1)-многообразия в окрестности х Таким образом, компонента связности Щ.^(^ду^)^ f'^(R(^ii^)i^] представляет собой допустимый (и, 7)-прямоуголь- ник в окрестности Xj. Аналогично проверяется условие (3) для 5-прям о угольников. Чтобы проверить четвертое условие, сошлемся на аналогичное свойство из леммы о замыкании. В заключение отметим, что с помощью соответствующего выбора е в процессе е-редукции число А может быть сделано произвольно близким к х(^л). D Д 4 д. Теорема Лившица. Теорема Д4.17 (теорема Лившица для неравномерно гиперболических систем). Пусть f еDiii^'*''^(М), а>0 иМ ^компактное риманово многообразие. Предположим, что fj. —гиперболическая мера для f и (р: М—^ R —такая гёльде- ровская функция, что для каждой периодической точки р, /"'(р) = р, мы имеем S *^(/*(р))=^- Тогда существует такая измеримая борелевская функция h, что для fj. -почти всех х выполнено равенство ip(x) = h{f(x))-h{x). Доказательство. Предположим, что (i — эргодаческая и непрерывная мера; тогда существует такое х е supp fj., что supp ц с 0{х), Пусть 6 >_0, и пусть Л^ — ^-множество Песина для ц. Возьмем такое х 6 Л^, что supp fi С 0{х), Кроме того, мы будем считать, что для каждого 6 >0 пересечение 0{x)nAg плотно в Л^. Определим h(x) — 0, h(f(x)) — (p(x), h(f(x)) = ip{x)-\~<p{f(x)) и т. д. Чтобы продолжить функцию h на множество Л^ по непрерывности, нужно показать, что h равномерно непрерывна на 0{x)nAg. Пусть p = p{hy 6) — число из леммы о замыкании для некоторого h>0. Если числа тц, tij, щ> щ, таковы, что d{f^^(x)y /""(a;)) < р, тогда по лемме о замыкании существует гиперболическая периодическая точка z, удовлетворяющая соотношениям d(r(r{x)),r(z))^3hA,mBixUj^y',[-. g« \-("2-"l-') + еА для г = о,..., Tig — nj — 1. Далее, поскольку (р — гёльдеровская функция, т. е. ip(x)-ip{y)\^Cd{x,yy
§ Д 4. ГИПЕРБОЛИЧЕСКИЕ Л^РЫ 685 для некоторых С, г, С > О и О < г < 1, мы имеем ЫП^'{х)) - >р(Г(г))\ < C{3h А J max {(у^)"': (-j^)"'"""''"'' так что \нп{х))-цп{х))\ = \ х; Ил(/'н))-¥>(/'(^)))+ Е ^(/'(2)) 1=0 i==0 .<с,з^д,,--£'„„{(^^)-,(тЙл)--^-°} + t »0 + < Е V>(^H)kC(3/iA,riV i=0 ДЛЯ некоторого числа N >0, не зависящего от п^, tij. Таким образом, функция ^p определена и непрерывна на Л,. Теперь продолжим оо (^ на и /*(Л^) следующим образом: если г/€/(Л^)\Л^, то h{y) ^ (p{f-\y)) + + /i(/"'(y)), И так далее. Поскольку fj. I Q /'(Л^) | := 1, функция /i определена почти всюду и, очевидно, удовлетворяет условиям теоремы. П Замечание. 1.В доказательстве фактически не используется гёльдеровость на М. Доказательство проходит, если (р —борелевская функция, ограничение которой на Л^ является гёльдеровской функцией относительно метрики Ляпунова с равномерными показателем и постоянной Гельдера для всех 6 >0. Заметим, что функция А, полученная в теореме, обладает тем же самым свойством. 2. Аналогично предыдущему замечанию, как и в равномерно гиперболическом случае, можно показать, что неустойчивое распределение является гёльдеровым относительно метрики Ляпунова на Л^. Следовательно, ограничение якобиана на неустойчивое распределение также является гёльдеровым отображением относительно метрики Ляпунова (ср. с аргументацией из п. 19.1 д). Действительно, самое важное применение теоремы Лившица относится к анализу неустойчивого якобиана. § Д 5. Энтропия и динамика гиперболических мер В этом параграфе будут рассмотрены некоторые из следствий существования гиперболических мер для С' ^'^-диффеоморфизмов компактных поверхностей. Главная цель состоит в том, чтобы связать существование отличных от нуля показателей с наличием гиперболических периодических орбит, транс вер сальных гомоклиниче- ских точек и гиперболических подков. Как читатель, по-видимому, правильно ожидает, главными техническими средствами в данном параграфе будут лемма о замыкании и возвращаем ость, которая гарантируется наличием инвариантных мер. Д 5 а. Гиперболические меры и гиперболические периодические точки. Пусть / € Dif?^'*(M), а >0 и М — компактное риманово многообразие; кроме того, предположим, что / сохраняет гиперболическую меру fj.. Носитель меры fj. — supp/X — определяется как множество таких точек х £М, что для любого е >0 выполнено неравенство fi{B{x^ е))>0. Очевидно, supp ^л — замкнутое множество и любое другое замкнутое множество меры 1 содержит supp (i. Теперь пусть Рег(/) обозначает множество всех периодических точек / и Рег„(/) — множество гиперболических периодических точек /.
686 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОЛ^РНЫМ ПОВЕДЕНИЕМ Теорема Д 5.1. Если ц—гиперболическая мера отображения /6 е Dif?''''*(M), а > о а многообразие М компактно, то supp р, с Рег(/). Доказательство. Выберем a^GSupp^i и зафиксируем а > 0. Поскольку р{В{х^^ а/4))>0, мы можем найти такое 6 >0, что р{В{х^у а/4))пЛ^ >0, и выбрать /3 =0{a/(\2A^)j 6), как в лемме о замыкании. Теперь выберем множество В cB{xqj а/4)пЛ^, диаметр которого меньше чем /3, имеющее положительную меру. По теореме Пуанкаре о возвращении 4.1.19 для почти всех X еВ существует такое положительное целое число п{х), что f^^'^x)е/3 и, следовательно, d(Xjf'*^'\x)) < /3, Применяя лемму о замыкании, мы получаем, что существует такая гиперболическая периодическая точка z периода п^я), что d{xy z) < 3a/{\2As))As = а/4, и ясно, что <£{х^^ z) < <£{х^^ х) + d{x, z) < а/2. П Теперь рассмотрим более тривиальную ситуацию, когда все показатели Ляпунова отрицательны. Напомним, что периодическая точка р, все показатели Ляпунова которой отрицательны, называется стоком. Следствие Д 5.2. Пусть f 6 Dif?^'*(M), а >0 а М —компактное двумерное риманово многообразие. Если р. — эргодическая гиперболическая мера со всеми отрицательными показателями, то она сконцентрирована на орбите притягивающей периодической точки р, т. е. 3 такое m > О, что supp А* = {р,/(р),...,/'""Чр)}. Доказательство. Утверждение следует из определения регулярных окрестностей и эргодичности. П Д 5 б. Непрерывные меры и трансверсальные гомокдинические точки. Согласно теореме 6.5.5 из существования трансвереальной гомоклинической точки (определение 6.5.4) следует существование гиперболической подковы Л для / в любой окрестности гомоклинической точки. Это, конечно, приводит к появлению сложной динамики для данного диффеоморфизма, которая к тому же сохраняется при малых возмущениях. Мы покажем, что если р. — непрерывная неатомарная гиперболическая мера, то существуют гомоклинические явления. Теорема Д 5.3. Пусть f €Diff^''''*(M), а >0 а поверхность М компактна. Если р — эргодическая непрерывная гиперболическая мера, то supp р содержится в замыкании трансве реальных гомоклинических точек гиперболической периодической точки р. Доказательство. Мы уже показали, что если мера р эргодическая и все ее показатели Ляпунова отрицательны, то она сконцентрирована на орбите периодического стока. Аналогично, если все показатели положительны, то р сконцентрирована на орбите источника (стока для /"'). Так как мера р непрерывна, мы заключаем, что знаки ее показателей Ляпунова различны. Теперь, как в доказательстве теоремы Д 5.1, пусть a:^j€supp р и а>0 — маленькое число. Возьмем такое 5>0, что р(В{х^^ а/4)ПЛ^)>0, и выберем я,, а:^€В(а:и, а/4) так, чтобы для любого г > О выполнялись условия р{В(д., г) ПЛ^) > О, г = 1, 2, и d{x^, ais) < 2 niin{a/4, p{6)}. Существование таких точек следует из непрерывности р. Кроме того, мы можем найти такие два подмножества В, CA,nB{x,,d{x,, а^)/10), г = 1, 2, что р(В.)>0 и diamB,<^ = ^(i(f(x„a^)/(100A,),.5), i = 1, 2. Вновь используя теорему Пуанкаре о возвращении 4.1.19, можно найти такие точки у^ е В^, % € ^2 и такие натуральные числа m(i/i), m(%), что /'"^^'(г/i) ^ -^р
§ Д 5. ЭНТРОПИЯ И ДИНАМИКА ГИПЕРБОЛИЧЕСКИХ Л^Р 687 /'"*^'(%) € -Вз- Следовательно, теперь мы можем, применяя лемму о замыкании, найти такие периодические точки Zj, z^, что d{z,,y,)<d{x,,x^)l\m, г = 1,2. Ясно, что d{x^, х^) - d{y^, х^) - (f(zj, 1/j) - (f(%, х^) - d{z^, %) < следовательно. 1 3 Из второго неравенства следует, что г^фг^, лемма о замыкании также гарантирует, что локально W'{z^) является допустимым (д, 1)-многообразием в окрестности у^ и аналогично W"(z() —допустимым (^л, 1)-многообразием в окрестности у^, г = 1, 2. Таким образом, d{z^^ ^)<Р — р{^)^ следовательно, W'iz^) также являются локально допустимыми многообразиями для Zj и по предложению Д 3.7 они пересекаются трансверсально. Оставшаяся часть утверждения следует из эргодичности. D Следствие Д 5.4. В условиях теоремыД 5.3 (1) / обладает таким компактным инвариантным множеством Л, что /|д является подковой; (2) ТЕГ^ log card Fix(/"')>0; (3) если мера ц лишь непрерывна, то supp fj. содержится в замыкании множества гиперболических периодических точек, у которых есть трансверсалъные еомоклинические точки. Пусть х(ж):= min{|x^a;)| \хЛ^)Ф^}'^ это /-инвариантная функция, поэтому если IJ. — эргодическая мера, то она постоянна почти всюду, следовательно, равна x(f^) (см. (Д 4.2)) и характеризует минимальную скорость типичного экспоненциального поведения системы. Теорема Д 5.5. Пусть f eD^l^^'^{M), а >0 и многообразие М компактно. Если fj. —эргодическая гиперболическая мера и хе supp ц, то для любого р > О, любых окрестностей V точки х и W носителя supp ц и любой совокупности непрерывных функций (y^j,..., (уэ^ существует такая гиперболическая периодическая точка Z eV, что орбита точки z содержится в W, x(z)^xM-p и 1 "»(^]1 •" 1 ГТ £ Vi(/*(^))~ S V* ^А* <р для г =^\j.. .^ к, гдеm(z) обозначает период Mz) ,^0 точки Z. Доказательство. Идея этого доказательства такая же, как и для теоремы Д 5.1; мы только должны более аккуратно подобрать постоянные. Пусть x€supp^i, а число 6, множества У и W и функции «y^i,..., *у^л удовлетворяют условию теоремы. Сначала заметим, что если z^ = ^т(^) — последовательность таких периодических точек, полученных с помощью леммы о замыкании, что z^—^ X е supp (iCiA, то xi^m)—*^ х{^)' Во-вторых, предположим, что В (я, а) С V" для малого а > О, и выберем такое множество В С В{ху а), как в доказательстве теоремы Д 5.1. Выберем точку х^ так, чтобы существовали такие тп^ >0, что "Ч — 1 i=0
688 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ при т^ —> оо. Пусть множество Лс такое же, как в теореме Д 4.3. Кроме того, мы можем считать, что /"^{х^)еА^ для всех к^О, как в предложении Д 4.11, и х^е supp ц. Для данных «y^i, -. -, V*. выберем m^, > О так, что "S -I к=0 <!• Теперь найдем такое г > О, что B{P{xq)j r)cW для О^г ^т^. Так как мы имеем дело лишь с конечным числом непрерывных функций, можем выбрать h' >0 так, что если </(ш,, щ) ^ Sh'Agy то V).(^j)-(^,(UAi)|<|. Теперь, применяя лемму о замыкании с /i = mm{h\ т/ЪН'А^), найдем такую периодическую точку z{xq), что f""''{z{x^)) = z(xQ), И i:( Е ^< (я(^(^))) - Е ^< (я(^)) )| < f ■ D 3=0 3=0 Следствие Д 5.6. Пусть функция f и мера ц удовлетворяют условию леммы Д 4.10. Если /„ — последовательность, сходящаяся к f в С^ -топологии, то для этой последовательности существует последовательность инвариантных гиперболических вероятностных мер ^л„, слабо сходящаяся к ц. Кроме того, носители всех мер fj.^ могут считаться подмножествами множества гиперболических периодических точек. Это следствие указывает на «слабую устойчивость» гиперболических мер. Оно также утверждает, что меры с носителями в множестве гиперболических периодических точек плотны в множестве гиперболических мер. Д 5 в. Теорема о спектральном разложении. Благодаря теореме Д 5.3 мы знаем, что если fj. — эргодическая гиперболическая мера, то ее носитель либо представляет собой притягивающую периодическую орбиту, либо содержится в замыкании множества трансверсальных гомоклинических точек гиперболической периодической орбиты. Как мы сейчас покажем, из этого следует существование такого X € М, что supp fj. сО{х). В данном пункте будет приведено частичное обобщение этой теоремы на случай неэргодических гиперболических мер. Предложение Д 5.7. Пусть f: М—^М — С^-диффеоморфизмкомпактного многообразия М. Предполооюиа, что х^М -'гиперболическая периодическая точка f с трансверсальными гомоклиническими точками. Тогда в множестве Л, образованном замыканием трансверсальных гомоклинических точек х, найдется плотная орбита. Кроме того, если т —период точки х, то сиществуют такие MHoofcecmea Aq^ .. .^А^_^, что/(AJ = A^+j mod m, /'"(Л^ = Л^ t^f\\.— топологическое перемешивание (определение 1.8.2), г =0,..., m — 1. Доказательство. Чтобы получить плотную орбиту, докажем, что если U и V — открытые множества в Л, то существует такое число iV = iV(t(F), что f^{U)П У 7^ 0 (см. лемму 1.4.2). Так как трансверсальные гомоклинические точки плотны в Л, для орбиты X существуют трансверсальные гомоклинические точки Яг ^ и, ^2 € ^- Переходя к к-й степени отображения /, мы можем считать, что /*(д2) находится на тех же самых устойчивом и неустойчивом многообразиях, что и q^, скажем, gi,/(^г) ^ ^Ч^)'^ ^"(^)- Далее рассматриваются только степени отображения / , так что если мы фиксируем х, то многообразия W'{x), W"(x)
§ Д 5. ЭНТРОПИЯ И ДИНАМИКА ГИПЕРБОЛИЧЕСКИХ МЕР 689 5ШЛЯЮТСЯ /'"-инвариантными. Рассмотрим два маленьких диска I>"(gi) и Z)'(/*(g2)) на W{x) и W'{x) соответственно, содержащие gj, /*(g2)- ^з А-леммы следует, что итерации /*'"(D"(gj)) сходятся локально в С^-топологии к W{x) и соответственно /-^'"(Z)*(/*(g2))) локально сходятся к W'{x). Возьмем «прямоугольник» маленького диаметра с «центром» х. Для больших г компоненты связности Представляют собой С*-подмногообразия, С*-близкие к локальным устойчивому и неустойчивому многообразиям. Поскольку последние транс нереальны, f-'-(D'(p(q,))) П /'-(Z3"(<?,)) ^ 0- Оставшаяся часть доказательства очевидна. П Теорема Д 5.8 (теорема о спектральном разложении). Пусть а > О, /€Diff "*""(М) и М —компактноедвумерноеримановомногообразие. Предположим, что fi —гиперболическая мера для f. Тогда для S>Q множество Песина имеет вид А^ =Aj ^ U ... U Л^^^, где Л^^ —такие замкнутые f -инвариантные множества, что для каждого i существует такое х еМ, что Л^^ с 0{х). Доказательство. Рассмотрим Л^ для некоторого фиксированного ^ > О, и пусть р = р{6) определено из следствия Д 4.6. Таким образом, если х^, х^^ А.^ таковы, что (i(B{x^^ £)пАЛ > О для е > О, г = 1,2, и (/(з:,, а^) ^ р/2, то в силу доказательства теоремы Д 5.3 существуют такие гиперболические периодические точки z{x^)^ z{^)y что W'{z(x^)) пересекает W"(z(a:^)) трансверсально и '^"'(г(х^)) пересекает W(z(a:^)) трансверсально. Это есть отношение эквивалентности для гиперболических периодических точек. Подобным образом мы определяем отношение эквивалентности на Л^: я, ^а:^, если щ, а:^ €Л^ и эти точки принадлежат замыканию множества трансвер сальных гомоклинических точек одной и той же периодической точки X. Следовательно, остается доказать, что существует лишь конечное число таких классов на Л^. Заметим, что если х^ € Л^, то все точки у € В(х^ р\ 2) П Л^ содержатся в одном классе, так что в силу компактности найдется лишь конечное число классов эквивалентности. Следовательно, по предложению Д 5.7 мы получаем утверждение теоремы. П Д 5 г. Энтропия, подковы и периодические точки гиперболических мер. Напомним, что компактное /-инвариантное множество Л является подковой для / € Diff'(M), если существуют такие числа 5, Л: и такие множества Л^,.. .^А^_^, что Л = Лд и ... uA^.j, /*(Л^)—Л., /(Л^) = Ai^j mod Л: и ограничение /*|а сопряжено топологическому сдвигу Бернулли. Для гиперболической подковы Л мы можем определить множество x(A) = inf{x(^)| мера р. сосредоточена на периодической орбите}. Главный результат этого пункта — следующая теорема. Теорема Д 5.9. Пусть f е Diff* "*""(М), а>0 и М — компактное двумерное риманово многообразие. Предположим, что р. — эрг одическая гиперболическая мера для / и \{f) >0. Тогда для любого р>0 и любой конечной совокупности функций (^j,..., (^jfc € С{М) существует гиперболическая подкова А, удовлетворяющая следующим условиям: (1)Ч(/)-р<МЯл): (2) Л содержится в р-окрестности supp р.\ (3)ХЫ-Р<Х(Л); (4) существует такая мера v — i/(A) с носителем на Л, что для г = 1,..., Л: выполнено неравенство <р.
690 ДИНАМИЧЕСКИЕ СИСТЕМЫ С НЕРАВНОМЕРНЫМ ПОВЕДЕНИЕМ Перед тем как представить доказательство теоремы Д 5.9, рассмотрим некоторые из ее следствий. Следствие Д5.10. Для отображения f имеры^, удовлетворяющих условию теоремы Д 5.9, существует такая последовательность f -инвариантных, мер ц^ с носителями на гиперболических подковах Л„, что (1) ц^—^ц в *-слабой топологии и Следствие Д 5.11. Для отображения f и меры ц, удовлетворяющих условию теоремы Д 5.9, и £>0 выполнено неравенство ^(/)^"fSrijlogcard{x6M|r(x) = x, x{x)^x(f^)~e}- В частности, \,р(/Хр(/), где p(f) определено в (3.1.1). Доказательство. Если Л — гиперболическая подкова для /, то по теореме 18.5.1 мы имеем M/lA)=TSri^logcard{x6A|r(x) = x}. Тогда применение первого и второго утверждений теоремы Д 5.9 доказывает следствие. П Еще одно следствие, приведенное ниже, показывает, что гиперболические меры «устойчивы», или не исчезают при С-возмущениях. Это утверждение, конечно, является следствием структурной устойчивости гиперболических подков. Следствие Д5.12. Для данных f и ц, удовлетворяющих условию теоремы Д 5.9, и такой последовательности отображений Д е Diff "^"(М), что f„—^f в С^-топологии, существует совокупность f^-инвариантных эргодических мер А*„, удовлетворяющая следующим условиям: (1) ц^—^ц в слабой топологии, (2) ^ (/„)-%(/). (3)х(а*„)-хЫ. Следствие Д5.13. Функция энтропии h: Diil^'*'°'(M^)—^R полунепрерывна снизу. Доказательство. Согласно теореме Д 5.9 h{f) = snp{h{f\j^) \А — гиперболическая подкова}. Полу непрерывность снизу следует из структурной устойчивости подков. П Доказательство теоремы Д 5.9. Обозначим через С(М) пространство вещественных непрерывных функций, определенных на М, и пусть (ру,...^(р^ е е С(М). Для (р>0 выберем ^ > О и е > О так, что {\)li^^logG^{f,m,e,26)>h,{f)~r, m -^ оо "* '^ *^ (2) если d{x, у) < £, то Мх) - (р.(у)\ < |. Здесь G^{f, m, е, 2^) — это минимальное число (т, е)-разделенных точек в множестве меры 1 —26 (см. [140]). По теореме Д 4.16 можно найти множество Песика с IJ.{Ag) > \ ~ 6, допускающее покрытие (е/3, Д А)-прямоугольниками для /3 ~/3{6^ е) и А = А(х^^). Теперь пусть ^ —конечное измеримое разбиение М, diamC < Р/^ и С > {Л^, M\Ag}. Положим ^s,m=^{^^^s 1/'(^)^ С(^) ДЛЯ некоторого g €[тп,(1 +г)т] 3=0 -^^^iif^i^))- \ ^i^^ ^'■/З для 5^771, г = 1,..., Л: j.
§ Д 5. ЭНТРОПИЯ И ДИНАМИКА ГИПЕРБОЛИЧЕСКИХ МЕР 691 Мы утверждаем, что ^л(Л^^^)—> ij-(As) при т—юо. Выберем такой элемент С 6 С» что С CAg, и рассмотрим множества С^ вида i=0 i=0 где Хд^обозначает характеристическую функцию С. По эргоднческой теореме Бирк- гофа Д 1.2 ^i(C\C^)—>0. Итак, применяя те же соображения к каждому элементу С € С» содержащемуся в Л^, мы получаем, что iJ.(A^^)—^iJ.(Ag). Таким образом, утверждение доказано. Теперь сделаем число т настолько большим, что fi{A^^) > 1 — 26. Пусть Е^ С СЛ^^^ — ("^) е)-отделенное множество с максимально возможным количеством элементов. Ясно, что Л^^^ С и В^(х^д) и, следовательно, существует бесконечно МНОГО таких т, что Для каждого g € [т, (1 + г)т] определим V ={з: еЕ^\ /'(х) 6 Ci^)}, и пусть п — значение q, которое максимизирует cardt^. Поскольку е'™' > тг, мы видим, что card У„ ^ е'"*''"^*"^'*. Пусть R =^ {Щх^), Щх^),..., R{x,)}, я^€Л^^, является покрытием (е/е, Д/)-прямоугольниками. Рассмотрим V^nR{x^.) для l^j^t и выберем значение г величины У, которое максимизирует card У„ П Л(яу). Таким образом, если обозначить через D„ множество У^пЯ{х^), то cardD„^icardK^|e'"<^^>-'^\ Поэтому рассмотрим Я(х^) и D„. Каждая точка я € D„ возвращается на Я{х^) после m итераций, так что (ЕГЛ(я.)П /'"(Л(я.)), /'"(я)] — допустимый и-прям о угольник в R{x^) и /-"((Е[Л(хЛп/^(Л(я,.)),/'^(х)])—допустимый s-прямоугольник в Щх^). Это следует из тех фактов, что d{x.,x)</3 и d{f"{x),x.) </3, и второго условия из определения покрытия (е/Д Д А)-прямоугольниками. Если г/€(С[Л(я^)П/""(Л(д;^), я], то по четвертому условию определения покрытия (е/3, Д А)-прямоугольниками d{f'{x), f'{y)) ^3diamR(Xi) ^ е для Z 6 [О, п], откуда следует, что если у е (£[R{Xi) П f-'4R(x.)), х] и у ^х, то уф V„, так как иначе получится противоречие с отделенностью множества У„. Следовательно, существуют card У„ непересекающихся допустимых s-прямоугольников, отображаемых посредством /" на card У„ допустимых и-пр ям о угольников. Поэтому мы можем положить А=А{т)= П /"'f U.CC[^2(x,)n/-"(i?(x,)),x]). Тогда отображение /"|^t сопряжено топологическому сдвигу Бернулли с card V^ символами. Теперь заметим, что для каждого у еК орбита остается в объединении регулярных окрестностей R(x^),..., R(f"(x.)), так что /"|^ —гиперболическая подкова. Энтропия /"1^ равна log card D„, так что 'Чор(/1л-) = ^ log card Z3„ ^ i log le-'".*^'-^" > H ^S T + f (''ДЯ " 3r). Поскольку m/n > 1/(1 4- r), мы получаем что доказывает существование подков, удовлетворяющих условию (1) и, очевидно, (2). Для того чтобы установить (3), уменьшим размер е в процессе е-редукции Оселедца — Песина, а также, в случае необходимости, размеры регулярных окрестностей. И наконец, в силу нашего выбора Л^^^ и размеров прямоугольников мы получаем (4). П
приложение. НЕОБХОДИМЫЕ СВЕДЕНИЯ § П 1. Основы топологии П 1 а. Топологические пространства. Определение П1.1. Топологическим пространством {X,7^ называется множество X вместе с такой совокупностью ТС'Р{Х) подмножеств X, называемой топологией X, что (2) если {Од}д gд СТ, то \J 0^£Т для любого множества А, аеА (3) если {Ojf^, С Г. то П О, € Г. т. е. Т содержит X и 0 и замкнуто относительно операций объединения и конечного пересечения. Множества О £Т называются открытыми множествами, а их дополнения назьгоаются замкнутыми множествами. Если х € X, то открытое множество, содержащее х, называется окрестностью точки х. Замыканием А множества АсХ называется наименьшее замкнутое множество, содержащее Л, т. е. Л := П{*-^ ] Л С С и С замкнуто}. Точка х называется точкой накопления множества А СХ, если каждая окрестность х содержит бесконечно много точек А. Подмножество (3 сТ называется базой топологии Т, если для каждого О € Т и х € О существует такое В €р, что хеВ сО. Говорят, что топология S сильнее, чем Т, если TcS^ и слабее, чем Т, если ScT. Если YcX, ТО подпространство У естественным образом становится топологическим пространством в индуцированной топологии Ту := {Оr\Y \ О €Т}. Говорят, что последовательность {^i}i^j^cX сходится к точке х € л, если для каждого открытого множества О, содержащего точку х, существует такое число iV€N, что {а:^},-^^/ С СО. Топологическое пространство (Л", Т) называется хаусдорфовым пространством, если для любых двух точек aij, asj € X существуют такие открытые множества Oj, Og ^ ^* ^"^ ^t ^ ^i и Oj П О2 = ^- Пространство называется нормальным^ если оно хаусдорфово и для любых двух замкнутых множеств Xj, ^2 С Л" существуют такие множества 0^,02^ ^> ^^° ^i ^ ^i иОгПО2 = 0. Совокупность открытых множеств {O^}^ gx С Т называется открытым покрытием пространства X, если Л" = и Од, и конечным открытым покрытием, если эта совокупность состоит из конечного числа множеств (т. е. А конечно). Пространство (Х, Т) называется компактным, если каждое открытое покрытие имеет конечное подпо1фытие, локально компактным, если у каждой точки найдется окрестность, замыкание которой компактно, и секвенциально компактным, если каждая последовательность содержит сходящуюся подпоследовательность. Пространство X называется а-компактным, если оно представляется в виде объединения счетного множества компактных множеств. Пусть (-Х'д)^), а € Л, — топологические пространства, где Л —произвольное множество. Тогда топологией произведения на fj X называется топология, порожденная базой а еЛ {П ^а I ^а ^ ^) ^аФ^а А'"* КОНеЧНОГО ЧИСЛа О.}. а>а а' а ' а а Пусть {Х/Г) — топологическое пространство. Множество D С X называется плотным в X, если D = X. Пространство X называется сепарабельным, если оно содержит счетное всюду плотное подмножество. Типичный пример — пространство R" с обычными открытыми и замкнутыми множествами. Открытые шары (открытые шары с рациональными радиусами, открытые шары с рациональными центрами и радиусами) образуют базу топологии. Точки в хаусдорфовом пространстве всегда являются замкнутыми множествами. Предложение П 1.2. Замкнутое подмножество компактного множества компактно.
§ п 1. основы топологии 693 Доказательство. Если множество К компактно, С сК замкнуто и Г — открытое покрытие множества С, то Ги{К\С} — открытое покрытие К, следовательно, оно содержит конечное подпокрытие Т*и{К\С}, так что Г—конечное подпокрытие (покрытия Г) для С. D Предложение П 1.3. Компактное подмножество хаусдорфова пространства замкнуто. Доказательство. Пусть пространство X хаусдорфово иСсХ — компактное множество. Зафиксируем точку х € Х\С и для каждого у€С выберем такие окрестности U точки 2/ и VV точки X, что С/-, П К — 0. Потытне 1) U^D С содержит конечное подпокрытие {и \0^г ^ п}, и, следовательно, N^:~ П К, — окрестность точки х, не пересекающаяся t = o '■ с С. Таким образом, множество Х\С = U ^ж открыто, а С замкнуто. D ж€Х\С Предложение П1.4. Компактное хаусдорфово пространство нормально. Доказательство. Сначала покажем, что замкнутое множество К и точка р^К могут быть отделены друг от друга открытыми множествами. Для х € К имеются такие открытые множества О^., и^, что хбОд., р€ U^ н O^C\U^^0. Так как множество К компактно, найдется конечное подпокрытие 0\— (J О^. Э К и открытое множество U \— П ^ • содержащее точку р и не пересекающееся с О. Теперь предположим, что К к L — замкнутые множества, и рассмотрим открытые непересекающиеся множества 0„Ж, V^3 р для точки р €L. Так как множество L компактно, имеется конечное подпокрытие U \= U U Э L и открытое не пересекающееся с U множество О := (] 0„ Э К. Q В качестве полезного следствия нормальности мы получаем следующий результат о продолжении. Теорема П 1.5. Если X — нормальное топологическое пространство^ множество Y с X замкнуто и отображение f: Y —^R непрерывно, то существует непрерывное продолжение f на X. Говорят, что совокупность множеств обладает свойством конечного пересечения, если пересечение каждого конечного набора множеств из этой совокупности непусто. Предложение П1.6. Пересечение совокупности компактных множеств со свойством конечного пересечения непусто. Доказательство. Достаточно показать, что в компактном пространстве каждая совокупность замкнутых множеств со свойством конечного пересечения имеет непустое пересечение. Предположим, что найдется совокупность замкнутых множеств с пустым пересечением. Их дополнения образуют открытое покрытие. Так как оно содержит конечное подпокрытие, свойство конечного пересечения не имеет места. D Определение П 1.7, Одноточечной компакпшфикацией некомпактного хаусдорфова пространства (Л, Т) называется пространство Л" г= (Л" U {оо}, S), где S :— Ти и{{Х и {оо})\К \К С X —компактное множество}. Легко видеть, что X — компактное хаусдорфово пространство. Теорема П1.8 (теорема Тихонова). Произведение компактных пространств компактно. Этот результат часто применяется в приложениях, потому что во многих случаях полезная топология может рассматриваться как топология произведения, либо индуцируется топологией произведения. Очевидный пример — топология поточечной сходимости. Определение П1.Э. Пусть (Л, Т) и (1^5) — топологические пространства. Отображение J: X —*У называется непрерывным, если для множества О €5 его прообраз /~ (О) € Т, открытым, если для О € Т его образ f{0) €S, и гомеоморфизмом, если оно непрерывно и взаимно однозначно, причем обратное отображение также непрерывно. Если существует гомеоморфизм X —*Y, го пространства X и г называются гомеоморфными. Обозначим через C^{Xj У) пространство непрерывных отображений нз X к У н будем писать С^{Х) вместо C^{XjR). Отображение / топологического пространства на R называется полунепрерывным
694 Приложение. НЕОБХОДИМЫЕ СВЕДЕНИЯ сверху^ если /"^(-оо,с)&Т для всех с € R. и полунепрерывным снизу^ если f~^{c, оо) € Т для с € R. Свойство топологических пространств, которое одновременно выполняется либо не выполняется для любых двух гомеоморфных пространств, называется топологическим инвариантом. Предложение П1Л0. Образ компактного множества под действием непрерывного отображения компактен. Доказательство. Если множество С компактно и отображение f: С —*Y непрерывно н сюръективно, то любое открытое покрытие Г пространства У порождает открытое покрытие Л^^ {/~Ч^) I <^ €^} множества С, которое по компактности должно содержать конечное подпокрытие {/"'(О,-) | г = 1,..., п}. В силу сюръективности {0,-}"^i является покрытием пространства У. D В качестве полезного приложения понятий непрерывности, компактности н хаусдорфовости отметим следующий результат, который иногда называют инвариантностью области. Предложение П1.11. Непрерывное взаимно однозначное отображение компактного пространства на хаусдорфово пространство является гомеоморфизмом. Доказательство. Предположим, что пространство X компактно, У хаусдорфово, /: X —*Y — непрерывное взаимно однозначное отображение н множество О СХ открыто. Тогда множество С:= Х\0 замкнуто, следовательно, компактно и его образ f{C) компактен, следовательно, замкнут, так что множество f(0) = Y\f{C) открыто в силу взаимной однозначности. D Определение П1.12. Топологическое пространство (X, 7^ называется связным, если никакие два непересекающихся открытых множества не покрывают X. Пространство (X, Т) называется линейно связным^ если для любых двух точек Xq^x^ £Х существует такая непрерывная кривая с: [О, I]—*'X, чтос(г) = х^.. Компонентой связности называется максимальное связное подмножество X. Пространство (X, Т) называется вполне несвязным, если каждая его точка является компонентой связности. Канторово множество и множество Q С К вполне несвязны. Нетрудно видеть, что компоненты связности замкнуты. Таким образом, компоненты связности открыты, если имеется конечное число таких компонент, н вообще, если каждая точка обладает связной окрестностью (т. е. пространство локально связно). Это свойство не выполняется для множества Q. Теорема П 1.13. Непрерывный образ связного пространства есть связное пространство. Замечание. Отсюда следует, что линейно связное пространство связно. Обратное неверно, как показывает пример объединения графика функции sin ^ и множества {0} х [~ 1, 1 ] bR2_ Теорема П1.14. Произведение двух связных топологических пространств связно. Определение П 1.15. Топологическим многообразием называется такое хаусдорфово пространство X со счетной базой топологии, что каждая точка содержится в открытом множестве, гомеоморфном шару из R". Пара {Ц h), состоящая из такой окрестности и гомеоморфизма h: и~^В CR", называется картой или локальной системой координат. Сама окрестность U часто называется it координатной окрестностью. Под топологическим многообразием с границей понимается такое хаусдорфово пространство X со счетной базой топологии, что каждая точка содержится в открытом множестве, гомеоморфном открытому множеству из R"" ' X [О, оо). Замечание. Легко видеть, что если пространство X связно, то число п постоянно для всех окрестностей. В этом случае данное число называется размерностью топологического многообразия. Для топологических многообразий линейная связность и связность эквивалентны. Определение П 1.16. Рассмотрим топологическое пространство {Х,Т) н предположим, что имеется некоторое отношение эквивалентности ^^^ определенное на X. Тогда определена естественная проекция тг на множество X классов эквивалентности. Фактор- пространством X/~ := {Xj 5)называется топологическое пространство, определяемое следу- ющим^образом: множество ОСХ объявляется открытым, если множество 7Г"'(0) открыто, т. е. X рассматривается со слабейшей топологией, в которой проекция тг непрерывна.
§ п 1. основы топологам 695 Мы встретимся с важным классом факторпространств при рассмотрении представления группы G гомеоморфизмами пространства X с замкнутыми орбитами. В этом случае, отождествляя все точки одной орбиты, можно получить факторпространство, которое обозначается X/G и называется фактором пространства X по G. Для случая, когда X — S^ и G — циклическая группа поворотов на рациональный угол, мы получаем X/G ~ X. Если X = R и G — группа параллельных переносов на векторы, параллельные оси х, то X/G ci R. Top получается из Й" при отождествлении точек по модулю Z", т. е. две точки отождествляются, если их разность находится в Z". Равным образом, тор получается отождествлением пар противоположных сторон единичного квадрата (или любого прямоугольника) с сохранением ориентации. Конус над пространством X —пространство, полученное отождествлением всех точек вида (х, 1) в пространстве {X х [О, 1], топология произведения). Сфера получается при отождествлении всех точек границы замкнутого шара. А priori топология факторпространства может быть не очень хорошей. Например, если не все классы эквивалентности замкнуты, факторпространство не будет даже хаусдорфовым. В частности, пространство орбит динамической системы с нетривиальным возвращением (например, пространство X/G, тд.е X = S^ и G — группа поворотов на иррациональный угол) с топологической точки зрения представляет собой не очень хороший объект. П 1 б. Теория гомотопий. Определение П1.17. Два непрерывных отображения топологических пространств hQjhi: X —*Y называются гомотопными, если существует такое непрерывное отображение h: [О, \]хX -* Y {гомотопия), что h{% ■) = \-. « = 1,2. Пусть Лд(х) = Л[(х) = р для некоторой точки х€Х. Тогда отображения kQ^h^: X -*Y называются гомотопными с сохранением р, если отображение h может быть выбрано таким образом, что Л(-, х) = р. Пусть X = [О, 1], /iq(0) = Aj(0) и /iq(1) = Aj(1). Тогда мы говорим, что отображения Aq " ^1 гомотопны с сохранением концов, если отображения /»(■, 0) н Л(-, 1) могут быть выбраны постоянными. Отоб- ?ажение h называется гомотопным нулю, если оно гомотопно постоянному ото^ажению. омеоморфизмы h^, h^ называются изотопными, если гомотопия h может быть выбрана так, что каждое отображение A(t, ■) является гомеоморфизмом. Пространства X nY называются гомотопически эквивалентными, если существуют такие отображения д: X —*Y и h\ Y—*X, что goh и hog ГОМОТОПНЫ тождественным отображениям соответствующих пространств. Пространство X называется стягиваемым в точку, если оно гомотопически эквивалентно точке. Свойство топологических пространств, которое одновременно выполняется либо не выполняется для любых гомотопически эквивалентных пространств, называется гомотопическим инвариантом. Очевидно, гомеоморфные пространства гомотопически эквивалентны. Окружность и цилиндр гомотопически эквивалентны, но не гомеоморфны. Шары и конусы стягиваемы в точку. Стягиваемые пространства связны. Определение П1.18. Пусть М — топологическое многообразие, р€М. Рассмотрим совокупность кривых с: [0,1] -* М, с(0) = с{1) = р. Выберем две такие кривые С[ и Cg. Пусть с^- С2 — кривая вида /,ч._ /^i(2*), *<1/2. Ci-C2(t).- |^(2t-l), t^l/2. При отождествлении кривых, гомотопных с сохранением концов, получается группа, называемая фундаментальной группой тг^{М^р) пространства М в точке р. Связное пространство с тривиальной фундаментальной группой называется односвязным. Нас в основном интересует случай связных многообразий, для которых линейная связность гарантирует, что группы, соответствующие различным точкам р, изоморфны. Таким образом, в этом случае можно писать просто 7Г[(М). Так как фундаментальная группа определена по модулю гомотопин, она одинакова для двух гомотопически эквивалентных пространств, т. е. представляет собой гомотопический инвариант. Свободные гомотопические классы кривых (т. е. без отмеченной точки) соответствуют в точности классам сопряженности кривых по модулю замены отмеченной точки, так что имеется естественное взаимно однозначное соответствие между классами свободно гомотопных замкнутых кривых и классами сопряженности в фундаментальной группе. Определение П1.19. Если М, М' — топологические многообразия и тг: М' -* М — непрерывное отображение, причем для любой точки у € М существует такая окрестность V, что отображение 7г|^-1/у^ эквивалентно отображению проекции прямого произведения V с дискретным слоем, то пространство М' (или {М\ тг)) называется накрывающим пространством или накрытием М. Если число п = card 7г"^(у) конечно, то пространство (М', тг) называется
696 Приложение. НЕОБХОДИМЫЕ СВЕДЕНИЯ Предположим, что (М', тг) — накрытие М и ах, х. € тг ^(у). Так как многообразие М' линей- п-листным накрытием. Если отображение f:N—*M непрерывно ^ F: N ^М' таково, что /i=7roF, то F называется поднятием f. Если отображение f: М—*М непрерывно и F: М' —*М' непрерывно и таково, что /o7r = 7roF, то F также называется поднятием f. Однос- вязное накрывающее пространство называется универсальным накрывающим. Гомеоморфизм накрытия М' пространства М называется накрывающим преобразованием^ если он является поднятием тождественного отображения М. Примеры. Пространство (R, exp(27rj(-))) — накрывающее единичной окружности. Геометрически можно представить себе это накрытие как спираль (е "^j х), накрывающую единичную окружность при проектировании. Аналогично, отображение, определенное взятием дробной части, определяет накрытие окружности R/Z пространством R. Тор накрывается цилиндром, который, в свою очередь, накрывается плоскостью R^. Отметим, что фундаментальная группа Z цилиндра является подгруппой фундаментальной группы тора (Z ), а пространство R^ представляет универсальное накрывающее обоих пространств. Растягивающие отображения окружности (1.7.1) определяют накрытия окружности окружностью. Факторы верхней полуплоскости Пуанкаре накрываются верхней полуплоскостью (пп. 5.4.в, 5.4.д). Имеется естественное взаимно однозначное соответствие между классами сопряженности подгрупп 7Г[(М) и классами накрытий по модулю гомеоморфизмов, коммутирующих с накрывающими преобразованиями. В частности, универсальное накрывающее пространство единственно. Это взаимно однозначное соответствие может быть описано следующим образом. в М и а:^, X. € тг~^{у). Так как многообразие М' но связно, существуют такие кривые с: [О, \]—*м\ что с(г) = х^ для г = 1,2. Под действием тг они проектируются в замкнутые кривые на М. Любое непрерывное отображение индуцирует гомоморфизм фундаментальных групп. Любое непрерывное отображение обладает поднятием, так что гомотопия цикла тг о с, сохраняющее точку jf, может быть поднята до гомотопии кривой с, и, так как по предположению множество тг {у) дискретно, эта гомотопия сохраняет концы. В частности, гомотопные кривые проектируются в гомотопные кривые, и если положить Х( = Х2, то фундаментальная группа пространства М' вкладывается в фундаментальную группу М как подгруппа. Это подгруппа, соответствующая накрытию. Кроме того, эта подгруппа является собственной, если проекция тг не является гомеоморфизмом, т. е. накрытие нетривиально. Таким образом, у односвязного пространства нет нетривиальных собственных накрытий. Можно также показать, что любые два накрытия М{ и Mg многообразия М обладают общим накрытием М", так что универсальное накрывающее определено Однозначно. Любое топологическое многообразие обладает универсальным накрывающим. П1 в. Метрические пространства. Для определенных совершенно естественных понятий топологическая структура неудовлетворительна в том смысле, что требуется наличие равномерной структуры, т. е. топологии, в которой можно как-то сравнивать окрестности различных точек. Такая структура может быть определена абстрактно; она существует, например, для топологических векторных пространств (см. определение П 2.1), но гораздо удобнее производить сравнение окрестностей для метрических пространств. Определение П 1.20. Пусть X — некоторое множество. Функция d\ X у< X -*R называется метрикой (или расстоянием)^ если {\)d{x,y) = d{y,x), (2) d{x,y) = 0^x = y, (3) d{x, у) -t- d{yj z) > d{Xj z) {неравенство треугольника). Если d —метрика, то пара {Xjd) называется метрическим пространством. Множество В(х, г) := {y€X\d{x, у)<г} называется (открытым) шаром радиуса г с центром в точке х. Множество О СЛ называется открытым, если для каждого х € О существует такое г > О, что В{х,г)сО. _ Для А СХ множество Л := {х € Л" | В{х, г) П Л т^ 0, Vr > 0} называется замыканием множества А. Множество А называется замкнутым, если А = А. Пусть (Xjd), (l^dist)—метрические пространства. Отображение /: X—*Y называется равномерно непрерывным^ если для любого е > О существует такое 6>0, что для всех х, у € Л", d{x, у) < 6, выполнено неравенство dist(/(x), f{y)) < е. Равномерно непрерывное взаимно однозначное соответствие с равномерно непрерывным обратным называется равномерным гомеоморфизмом. Семейство :F отображений X -*Y называется равностепенно непрерывным, если для любых х € X и е >О существует такое 6>0, что из условия d{x,y)< 6 следует, что clist(/(x), f{y))< е для всех у€Х ч f€:F. Отображение f: л -*Y называется гёльдеровым с показателем а или а-гёльдеровым, если существуют такие <^ е > О, что нз неравенства d{x,y)< е следует, что (list(/(x),/(2/)Х C(ci(x, у)) , липшицевьил, если оно 1-гёльдерово.
§ п 1. основы топологии 697 и билипшицевым, если и само это отображение, и обратное к нему липшицевы. Отображение называется изометрией, если dist(/(x), f{y)) = d{x, у) для всех х^у€Х. Последовательность {ж^},-^« называется последовательностью Коши, если для любого е > О существует такое N € N, что d{x.^ хЛ < е для г, j > N. Пространство X называется полным, если каждая последовательность Коши сходится. Замечание. Совокупность открытых множеств индуцирует топологию с базой, состоящей из открытых шаров. Дополнения замкнутых множеств открыты. Данные определения согласованы с соответствующими определениями для топологических пространств. Для метрических пространств свойства компактности и секвенциальной компактности равносильны. Для любого открытого покрытия компактного метрического пространства существует такое число 6, что каждый 5-шар содержится в элементе покрытия. Наибольшее такое число называется числом Лебега данного покрытия. Нетрудно видеть, что равномерно непрерывное отображение подмножества метрического пространства однозначно продолжается на замыкание этого подмножества. Полнота является очень важным свойством, так как она позволяет переходить к пределам, что нередко требуется в наших конструкциях. Отметим, что определить понятие последовательности Коши в произвольном топологическом пространстве невозможно, так как невозможно сравнивать окрестности различных точек. Полезно заметить, что компактные множества полны в силу секвенциальной компактности. Метрическое пространство может быть сделано полным (пополнено) следующим способом. Определение П 1.21. Если X — метрическое пространство и существует нзоме- трия X на плотное подмножество полного метрического пространства л, то пространство X называется пополнением пространства X. С точностью до изометрни пополнение пространства X единственно: если существуют два пополнения Х^ и ^2, то по определению имеется взаимно однозначная изометрня между их плотными подмножествами, которая, следовательно, продолжается (в силу равномерной непрерывности) на все пространство. С другой стороны, пополнение всегда существует и может быть построено с помощью той же конструкции, которая используется для получения вещественных чисел из рациональных. Это пополнение получается из пространства последовательностей Коши на л при отождествлении двух последовательностей, расстояние между соответствующими элементами которых стремится к нулю. Расстояние между двумя классами эквивалентности последовательностей определяется как предел расстояний между соответствующими элементами. Изометрическое вложение ставит точкам в соответствие постоянные последовательности. Теорема П1.22 (теорема Бэра о категории). В полном метрическом пространстве пересечение счетного множества открытых плотных подмножеств плотно. То же верно для локально компактных хаусдорфовых пространств. Доказательство. Пусть множества {О^},-^^ открыты и плотны в X и множество 0фВ^сХ открыто. Определим по индукции такие шары В^^^ радиуса не более чем е/г, что В^,. , [ С О, , 1 ПВ(. Центры этих шаров образуют последовательность Коши и сходятся, так как наше пространство полно, так что 0,^ fl^i С В^Г\р\0^. Для локально компактных хаус- дорфовых пространств выберем в качестве В^ открытое множество с компактным замыканием н воспользуемся свойством конечных пересечений. D Топологическое пространство называется метризуемым, если существует метрика, индуцирующая данную топологию. Любое метрическое пространство нормально и, следовательно, хаусдорфово. Метрическое пространство обладает счетной базой топологии тогда и только тогда, когда оно сепарабельио. И наоборот, используя предложение П 1.4, мы получаем следующий результат. Предложение П 1.23. Нормальное пространство со счетной базой топологии, а следовательно, и любое компактное хаусдорфово пространство со счетной базой топологии метризуемо. Если X — компактное метризуемое топологическое пространство (например, компактное многообразие), то пространство С{Х, X) непрерывных отображений из Л в себя обладает С°, или равномерной, топологией. Она получается, если зафиксировать метрику р в пространстве X н определить расстояние d между /,д€ С(Х, X) по формуле d{f,g):= maxp(f(x),g{x)).
698 Приложение. НЕОБХОДИМЫЕ СВЕДЕНИЯ Подмножество Hom(X) пространства С{Х,Х)^ состоящее из гомеоморфизмов X иа себя, не является ни открытым, ни замкнутым в С^-топологии. Оно обладает, однако, естественной топологией, которая превращает его в полное метрическое пространство, а именно топологией, индуцированной метрикой dsif.g)- max{d{f,g),d{r\9-^)). Если пространство X о--компактно, можно ввести открыто-компкатные топологии для отображений и гомеоморфизмов, т. е. топологии равномерной сходимости на компактных множествах. Мы иногда используем тот факт, что из равностепенной непрерывности и равномерной ограниченности следует компактность семейства непрерывных функций в равномерной топологии. Теорема П 1.24 (теорема Арцела — Асколи). ПустьХ, Y —метрические пространства, пространство X сепарабельно и ^—равностепенно непрерывное семейство отображений. Если семейство {/,-}; е N ^*^ таково, что замыкание множества {/{(ж)},. ^ j^ компактно для каждого х€Х, то существует подпоследовательность, сходящаяся равномерно на компактных подмножествах к некоторой функции f. Таким образом, в частности, замкнутое ограниченное равностепенно непрерывное семейство отображен1Й компактного пространства компактно в равномерной топологии. Приведем набросок доказательства. Сначала используем тот факт, что замыкание множества {/,(a;)}(gj^ компактно для каждой точки х счетного плотного подмножества S пространства X. Диагональный процесс показывает, что существует подпоследовательность Д. , сходящаяся в каждой точке множества S. Теперь можно воспользоваться равностепенной непрерывностью и показать, что для каждой точки х G X последовательность /^ (х) является последовательностью Коши, следовательно, сходится (так как замыкание множества {/,(x)}jgj^ компактно и, следовательно, полно). Снова используя равностепенную непрерывность, можем доказать непрерывность поточечного предела. Наконец, поточечно сходящаяся равностепенно непрерывная последовательность сходится равномерно иа компактных множествах. § П 2. Элементы функционального анализа Ряд пространств, которые были интересны для нас либо сами по себе, либо как пространства изучаемых объектов (функций или отображений), обладают линейной структурой. Объединение ее с соответствующими топологическими структурами позволяет определить новые полезные объекты. Мы будем работать преимущественно над полем R вещественных чисел, ио полезно иметь в виду и поле комплексных чисел С, например при диагонализации линейного отображения. Если нужно охватить оба случая, для поля будет использоваться обозначение F. Определение П2.1. Топологическим векторным пространством называется линейное пространство, снабженное хаусдорфовой топологией, которая инвариантна относительно сдвигов и умножений на скаляры (т. е. сдвиги и умножения на отличные от нуля скаляры являются гомеоморфизмами). Изоморфизмом топологических векторных пространств называют любой линейный гомеоморфизм. Часто топология линейного пространства задается более удобной метрической структурой. Определение П2.2. Нормой на линейном пространстве V называется такая функция II • ||: к —* R, что для любых w, ш е V и каждого а G F выполнены условия (I) ||t;||=0^v = 0. (2) ||aw|| = |q:|||w||, (3) ||и + ш||^||^|| + ||ш||. Вектор V называется единичным, если ||w|| = 1. Нормированным линейным пространством называется линейное пространство V с нормой || • ||. Ванаховьш. пространством называется нормированное линейное пространство, полное относительно метрики d(w, w) := ||w — ш||, индуцированной этой нормой. Две нормы || * || и || • ||' называются эквивалентными, если существует такая константа С > О, что тт|| • |Г ^ || • || ^ С|| • ||', т. е. если тождественное отображение является равномерным гомеоморфизмом относительно || * II ^ II * II'- Скалярным произведением, заданным на линейном пространстве V, называется положительно определенная симметрическая билинейная форма, т. е. такое отображение V х V —*R, (ti, v) ^ {и, v), что
§ П 2. ЭЛЕМЕНТЫ ФУНКЦИОНАЛЬНОГО АНАЛИЗА 699 (1) (w, w) > о, где равенство достигается лишь при w = О, (2) (и, V) = {v, и), (3) (ati + bv, ш) = a(ti, ш) + 6(w, w). Скалярное произведение, таким образом, индуцирует норму ||w|| := y/{v, v). Предгильбертовым пространством называется линейное пространство V, снабженное скалярным произведением. Полное предгильбертово пространство называется гильбертовым пространством. Векторы U, W G V называются ортогональными, если {щ v) — 0. Ортогональной системой в предгильбертовом пространстве называется множество попарно ортогональных векторов, а ортонормированной системой называется ортогональная система единичных векторов. Ор- тонормированная система называется полной, если ее линейная оболочка плотна. На конечномерном нормированном линейном пространстве все нормы эквивалентны. Таким образом, все конечномерные нормированные линейные пространства изоморфны евклидову пространству, и этот изоморфизм является билипшицевым. Важный пример нормированного линейного пространства — линейное пространство С{Х) непрерывных вещественнозначных функций на топологическом пространстве X с нормой 11/11 := sup{|/(x) I X G X}, индуцированной С**-топологией. Хорошо известно, что эта норма полна. Самый главный пример бесконечномерного гильбертова пространства — пространство L г)ункцнй. интегрируемых с квадратом, с мерой (X^fs) и со скалярным произведением вида fi я)— I f^^f^ (которое корректно определено в силу неравенства Гёльдера). Если {X, (л) — единичный отрезок [0,1] с мерой Лебега, то совокупность функций 1. 2sin27ma: (п G N) и 2cos27ma: (п G N) образует полную ортонормированную систему. Эта совокупность также может рассматриваться как полная ортонормированная система функций на единичной окружности с мерой Лебега в соответствующем пространстве L^. Но на единичной окружности в пространстве L^ есть и более удобная полная ортонормированная система {е ***}„£х- Иногда бывает полезно заметить, что если ||w|| = ^/{у, v), то на вещественном векторном пространстве скалярное произведение следующим образом восстанавливается по норме (| • ||: (u,t;)=i(||ti + t;||2-||ti-t;||2). (П 2.1) Это скалярное произведение называется поляризацией. Часто бывает полезно рассматривать линейные отображения в поле скаляров, например проекции на данную координату или — в пространствах интегрируемых функций — интеграл. Определение П 2.3. Линейное отображение или линейный оператор из линейного пространства V в линейное пространство Y — это такое отображение А: V —* У, что A{av-\-/^) — aA{v)-\-fiA{w) для всех w, ш G V и всех а,/3€¥. Линейное отображение А\ V" —* У нормированных линейных пространств называется ограниченным, если IIАII := sup ||A(w)|| <оо. и в этом случае величина ||А|| называется операторной нормой Л. (Ограниченные линейные операторы, очевидно, непрерывны.) Ограниченный оператор называется изометрией или изометрическим оператором, если \\Av\\ ~ \\v\\ для всех w G V. Обратимая нзометрня называется унитарным оператором. Линейным функционалом на линейном пространстве V называется линейное отображение из К в F. Пространство ограниченных линейных функционалов на нормированном линейном пространстве V называется двойственным к V" и обозначается V*. Слабой топологией на нормированном линейном пространстве V Называется самая слабая топология, в которой все ограниченные линейные функционалы непрерывны. В сепарабельном случае эквивалентное определение состоит в том. что w^—*0 тогда и только тогда, когда/(w^)—* О для каждого /G V*. Так как пространство V* само по себе яаляется линейным нормированным (с определенной выше нормой [|/||). в нем также может быть определена слабая топология. Чаще используется *-слабая топология, определенная условием/,—*0-«'/Д^)—*0 для всех wG V. т. е. топология поточечной сходимости на V*. Покажем, что понятия, связанные с двойственным нормированным линейным пространством, не вырождены. Для этого нам понадобится следующая теорема о существовании линейных функционалов. Теорема П2.4 (теорема Хана — Банаха). Пусть V — нормированное линейное пространство, W CV -- линейное подпространство и f: W -* F — ограниченный линейный функционал. Тогда существует такое продолжение F: V —* F функционала f до линейного функционала на V, что ||-F|1 =
700 Приложение, НЕОБХОДИМЫЕ СВЕДЕНИЯ Этот результат немедленно показывает, что пространство, двойственное к нормированному линейному пространству, непусто и что слабая топология хаусдорфова. Если W G К, то отображение уз^: V* —* F, /1-^ f{v), яаляется ограниченным линейным функционалом на V* (с \\tpj\ = \\v\\), а отображение Ф: V" —» V**, v i-+ ^^, представляет собой изометрический гомоморфизм (по теореме Хана — Банаха). Если этот гомоморфизм является изоморфизмом, то пространство V называется рефлексивным. (Это более сильное требование, чем наличие изометрического изоморфизма между V и V**,) Важная роль *-слабой топологии связана со следующим полезным результатом относительно компактности. Теорема П 2.5 (теорема Алаоглу). Единичный шар в двойственном линейном пространстве слабо ^-компактен. Этот результат следует из теоремы Тихонова П 1,8, так как любая топология поточечной сходимости индуцируется топологией произведения П У = {/' X —* Y}. А именно, пусть X —наше пространство и У = [—1, 1]. Единичный шар в двойственном пространстве соответствует, естественно, совокупности «линейных» отображений Л" —> У (и линейность — замкнутое условие). Из теоремы Алаоглу следует, что ограниченные по норме слабо *-замкнутые множества компактны. Важный класс функционалов, с которыми мы встречаемся в этой книге, —функционалы, соответствующие (борелевским вероятностным) мерам как интегралы по ним. В частности, совокупность вероятностных мер — слабо замкнутое ограниченное по норме подмножество двойственного к С{Х) пространства, и, следовательно, по теореме П 2,5 оно компактно. Пространство, двойственное к конечномерному пространству, изоморфно ему. В случае гильбертова пространства имеется естественный изоморфизм: каждый непрерывный линейный функционал представляется в виде (w, •) для некоторого вектора v. Иногда такое явление наблюдается н для других линейных пространств, но вообще оно не очень распространено. Рассмотрим, например, пространства L** измеримых функций, р-норма которых llv'llp'— (5 W\^) Ф конечна. Теорема П 2,6 (теорема Рисса о представлении). Пусть (Дм) —пространство с мерой, 1^р<оо и р+^ = 1- Тогда пространство {L^)* естественно изометрически изоморфно пространству L', /л. е, если f €{L^)*, то существует такое ф ^L*^, что /{^) = ]^а^для<р€ЬР и\\ф\\^=^\\/\\. Таким образом, пространство L^ рефлексивно для 1 < р <сх), но только L^ изометрически изоморфно своему двойственному пространству. Если мы рассмотрим фН(л как меру на X, представляющую функционал /, то следующий результат выглядит естественным. Теорема П 2.7 (теорема Рисса о представлении). Пусть X — компактное хаусдорфово пространство. Тогда для каждого ограниченного линейного функционала f на С (Х) существует единственная пара таких взаимно сингулярных конечных борелевских мер fly I/, что f{<p) = 1 (р dfi— I (р du для всех (р G С^{Х). В частности, если функционал / положителен, (т. е. принимает неотрицательные значения на положительных функциях), имеется единственная такая конечная борелевская мера fi, что Определение П 2,8. Подмножество С линейного пространства называется выпуклым, если для любых v,w€C и i G [0,1] выполнено условие fw + (1 - *)ш G С Если ACV, то выпуклой оболочкой со(>1) называется наименьшее выпуклое множество, содержащее А, т, е, со{А) := f\{C \ACQ С выпукло}. В топологическом_векторном пространстве замкну- тая выпуклая оболочка множества А — это замыкание z6{A) множества со(>1). Крайней точкой выпуклого множества С называется такая точка w, что если v— fa+(l- t)b для а, 6 G С, f G [О, 1], то i G {О, 1} или о= 6 = w, т. е. w не представляется в виде выпуклой комбинации других точек. Множество крайних точек С обозначается ех(С). Топологическое векторное пространство называется локально выпуклым, если каждое его открытое множество содержит выпуклое открытое подмножество. Подмножество А топологического векторного пространства называется сбалансированным, если аА с А для каждого ск G F, |о! | < 1, Ясно, что множество всех мер на пространстве выпукло, как и множество всех вероятностных мер. Нормированные линейные пространства локально выпуклы, так как шары выпуклы. Следующий результат очевиден в конечномерном случае и способствует правильному интуитивному пониманию структуры выпуклых множеств.
§ П 2, ЭЛЕМЕНТЫ ФУНКЦИОНАЛЬНОГО АНАЛИЗА 701 Теорема П 2.9 (теорема Крейна — Мильмана). Компактное выпуклое множество в локально выпуклом топологическом векторном пространстве является замкнутой выпуклой оболочкой своих крайних точек, т. е. С = соех(С'). В более явной форме эта связь описывается следующим образом. Теорема П2.11 (теорема Шоке), Предположим, что х—точка компактного ме- тризуемого выпуклого подмножества С локально выпуклого топологического векторного пространства. Тогда существует такая вероятностная мера (л с носителем на ех С, что х= I Z dfi{z). ехС Другое важное свойство выпуклых множеств таково. Теорема П 2.11 (теорема Тихонова о неподвижной точке). Пусть Е — локально выпуклое топологическое векторное пространство и множество К СЕ компактно и выпукло. Тогда каждое непрерывное отображение f\ К -*К обладает неподвижной точкой. Приведем набросок доказательства с использованием следующей леммы. Лемма П 2.12, Непрерывное отображение f: X —*Х хаусдорфова пространства обладает неподвижной точкой тогда и только тогда, когда для каждого открытого покрытия {и^} ^ ^ j^ существуют такие X е X иа€А, 4.mox€U^ и f(x)€U^, Заметим, что достаточно проверить это свойство для подпокрытий или измельчений любого данного покрытия. Рассмотрим теперь открытое покрытие {U^faeA множества К, Поскольку в локально выпуклом топологическом векторном пространстве у каждого открытого покрытия есть выпуклое измельчение, мы можем считать, что множества 11^ выпуклы и, в силу компактности, что множество А конечно. Существует конечное звездообразное измельчение { ^^}; = j. т. е. для каждого г е{1,..., А} существует такое а€А, что star V^ ;= \J{V^-\V^nVj^0}cU^' Для t G {1,..., А} выберем x.eKnV^, и пусть S := со({хр ..., Xj^}) — выпуклая оболочка набора точек {xj,..., Xj^}, т. е. симплекс размерности d ^ А - 1. Триангулируем S так, чтобы замыкание каждого d-симплекса этой триангуляции содержалось в некотором множестве /~'(V^). Определим F: S -* S для вершины у нашей триангуляции равенством F{y) = x., где г выбрано таким, что /(у) G V^, и затем продолжим получившееся отображение по линейности на 5, Если xg5, то xG(tC/ (VJ для некоторого симплекса а и г G {1,.,., к}, т, е, /(х) G G/(а)С V^ и, в частности, существует такое а G А, что /(у)€\J{VAV^nVj^0} = star V^ С U^ для каждой вершины у еех((7) симплекса а. В силу выпуклости и^ мы, таким образом, имеем F{x) е со(ех((7)) С и^. Поскольку /(х) G К с star V"; С U^, тем самым доказано, что для каждого X G 5 существует такое а, что точки /(х) и F{x) содержатся в U^, Но по теореме Брауэра о неподвижной точке (теорема 8,6.5) отображение F обладает неподвижной точкой а^е5, такчто/(а^)еи"д и jQ = F(a^)Gi7a для некоторого а, и, согласно нашей лемме, отображение / обладает неподвижной точкой. Упражнения П 2.1. Покажите, что одноточечная компактификация хаусдорфова пространства X является компактным хаусдорфовым пространством, в которое X вложено как плотное подмножество. П 2,2. Докажите теорему П 1,13, П 2.3. Докажите, что линейно связное пространство связно, П 2.4. Докажите теорему П 1.14, П 2.5. Проверьте утверждения, сделанные в замечании после определения П 1,18. П 2.6. Докажите формулу поляризации (аналогичную (П 2Л)) для комплексных векторных пространств. П 2.7. Покажите, что если V —гильбертово пространство и / G V*, то существует единственный такой вектор w G V, что /(ш) = (ш, v) для всех ш G К и ||w|| = ||/||, Таким образом, пространство К* изометрически изоморфно V и пространство V рефлексивно.
702 Приложение, НЕОБХОДИМЫЕ СВЕДЕНИЯ § П 3. Дифференцируемые многообразия В этом параграфе будут приведены некоторые определения и результаты, касающиеся многообразий с дифференцируемой структурой. П 3 а. Дифференцируемые многообразия. Определение П3.1. Дифференцируемым многообразием называется п-мерное топологическое многообразие М, которое покрывается семейством а= {{Щ, \)}t таких карт, что для любых двух карт (С/р А.) и(Ц, Лд) из 21, h^: U^ —*5; CR", замена координат /i2oAj~' дифференцируема на Aj(C/j П t/2)C Sj. Термин «дифференцируема» здесь может также означать «C''-гладка» для любого г gNUoo, или аналитична. Совокупность карт, покрывающих М, называется атласом М, Любой атлас определяет единственный максимальный атлас, содержащий все карты, совместимые с данными. Максимальный атлас называется дифференцируемой структурой. Подмногообразием V многообразия М (размерности к) называется дифференцируемое многообразие, представляющее собой такое подмножество многообразия М, что максимальный атлас многообразия М содержит карты {(ЦА)}, в которых индуцированные отображения h\^f^y С/П V в R^ х {0} С R" определяют карты многообразия V, совместимые с дифференцируемой структурой на V, В качестве важного примера приведем открытое подмножество многообразия М с индуцированным атласом (в данном случае А = п). Функция /: М —*R называется дифференцируемой, если отображение f о h~^ дифференцируемо на В CR" для любой карты (Ц к). Обозначим через С (М) множество функций, которые являются С*-гладкими в этом смысле. Следует заметить, что дифференцируемая структура получена совершенно другим способом, чем топологическая структура: последняя задана а priori, в то время как дифференцируемая структура привносится из R с помощью условия совместимости карт. Пространство R" является гладким многообразием с тождественным отображением в качестве карты, равно как и открытые подмножества этого пространства. Интересный пример получается при рассмотрении линейного пространства (пхп)-матриц как R" . Условие det А^О тогда определяет открытое подмножество» следовательно, многообразие, которое известно как общая линейная группа GL(n, R) обратимых (п х 7г)-матриц, Простые гладкие кривые н поверхности в R" являются многообразиями: любая локальная параметризация задает отображение, обратное к карте. В частности, стандартная сфера является многообразием (в качестве карт можно взять шесть параллельных проекций полусфер на координатные плоскости или стереографические проекции сферы за вычетом полюсов), Ьложенный тор (бублик) является многообразием (с очевидной параметризацией в качестве карт), (Заметим, что даже негладкие кривые могут рассматриваться как гладкие многообразия, например, простая кривая с углом (типа «_») гомеоморфна R, так что эта единственная глобальная карта задает дифференцируемую структуру. Конечно, эта структура несовместима со структурой пространства, в которое данная кривая вложена, так что эта кривая не может рассматриваться как гладкое подмногообразие R".) Многообразия, определенные уравнениями, а именно множества уровней дифференцируемых функций со значениями в R или R"*, соответствующие регулярным значениям, представляют собой интересный общий класс многообразий. Существование карт в этом случае обеспечивается теоремой о неявной функции. В качестве примера можно рассмотреть сферу в R" н специальную линейную группу SL(n, R) (п х 7г)-матриц с определителем еди- ница. Если рассматривать пространство (п х 7г)-матрнц как R" , можно получить SL(n, R) как многообразие, определенное уравнением dtiA = 1. Легко проверить, что единица является регулярным значением определителя. Таким образом, это многообразие, определенное одним уравнением. Примеры многообразий, определенных несколькими уравнениями, — симплектн- ческая группа матриц А, удовлетворяющих соотношению AJA^ = У, где J = I _Ч, |? и ортогональная группа матриц А, удовлетворяющих соотношению АА^ =Id. Все предыдущие примеры являются примерами подмогообразий, и наоборот, каждое гладкое многообразие в известном смысле, который будет уточнен после определения П 3.3, может рассматриваться как подмногообразие пространства R". Факторпространства также часто являются гладкими многообразиями, например единичная окружность, рассматриваемая как R/Z, тор — R"/Z" или компактные факторы гиперболической плоскости. Во всех случаях естественные карты, которые используются для определения топологической структуры на этих пространствах, гладко совместимы. И наоборот, гладкая структура на многообразии всегда поднимается до гладкой структуры на любом накрывающем пространстве. В развитии анализа на многообразиях важную роль сыграл тот факт, что (при нспользованин нашего предположения о наличии второй аксиомы счетности, т, е, о существо-
§ П 3, ДИФФЕРЕНЦИРУЕМЫЕ МНОГООБРАЗИЯ 703 вании счетной базы топологии) каждое гладкое многообразие допускает разбиение единицы, которое определяется следующим образом. Определение П 3,2. Разбиением единицы называется совокупность {(С^;, V»;)}»е/» где {и^}—локально конечное открытое покрытие, а функции ф. G С°°{М) неотрицательны и обладают компактным носителем в U^, причем SV*» = ^- Разбиение единицы называется * » подчиненным покрытию {OA^^j, если каждое множество Щ содержится в некотором Оу, Понятие разбиения единицы будет использоваться позже для определения формы объема на многообразии. Производная функции, конечно, может быть вычислена в координатах. Однако существует инвариантное определение этого понятия, использующее локальную линейную структуру, т, е. касательные векторы. Не удивительно, что они получаются в результате дифференцирования. Определение П 3.3, Пусть М — С°°-многообразие и р G ЛГ, Рассмотрим такие кривые с: (а, 6) -* М, а < О < Ь, что отображение А о с дифференцируемо в точке нуль для некоторой (следовательно, для любой) такой карты {U,h), что p€U. Каждая такая кривая задает дифференцирование на С°°(М) (т, е, оператор, удовлетворяющий формуле Лейбница): ун-*- Д- /ос. Различные кривые могут порождать одно и то же дифференцирование, но мы отождествим все такие кривые. Пространство классов эквивалемтиости (в точке р), полученное таким образом, являющееся также пространством дифференцирований в точке р, обладает линейной структурой (так как каждая производная является веществениозначной функцией) и оказывается пространством размерности п. Оно называется касательным пространством в точке р к многообразию М и обозначается Т М, Мы обозначаем дифференцирование, т, е, касательный вектор, индуцированный кривой с: (а, 6)-* М, через с(0) или ^ . с. Определим для данной карты (Ц А) стандартный базис в 2J,M, взяв канонический базис {е^,..,, е„} пространства R" и полагая -~i := С;(0), где Ci(f ) = А~'(Л(р)+«е;), Мы определяем касательное расслоение многообразия М как непересекающееся объединение ТМ := IJ Т М каса- тельных пространств с такими каноническиим проекциями тг: ТМ-* М, что 7r(!ZJ,Af) = {р}. Тогда, если положить Н{р, v) .■= (А(р), {v\..., w")) G R" х R", где v* — координаты вектора w G Т М в базисе \ -^,,,,, -^ \ в Т М, любая карта (Ц А) многообразия М определяет Р 15х' cte J Р карту (Ux и Т Ц Я), Таким образом, многообразие ТМ само по себе является дифференци- peu руемым. Векторным лолаи называется такое отображение X: М-^ТМ, что 'jroX = ldj^, т, е, X сопоставляет каждой точке р вектор, касательный в р. Обозначим через Г(М) пространство гладких векторных полей на М. Таким образом, векторные поля действуют на функции, как дифференцирования. Будем обозначать это действие vf нлн v{f). Позже будет показано, что С w:= [v, ш]:= vw — vjv также является дифференцированием, т, е. векторным полем. Мы назовем поле [w, ш] скобкой Ли полей w и ш, а £^ — производной Ли, Теперь можно определить морфизмы дифференцируемых структур. Определение П 3.4, Пусть М и N —дифференцируемые многообразия. Отображение f; M-*N называется дифференцируемым, если для любых карт (Ц А) на М и (VJ д') на N отображение gofoh~^ дифференцируемо иа h{Unf~^{V)). Дифференцируемое отображение / действует иа касательных векторах, переводя кривую с: (а, 6)-*М в кривую /ос: (а, 6) -* N, Дифференцируем ость означает, что кривые, индуцирующие одинаковые дифференцирования, переходят в кривые, индуцирующие одинаковые дифференцирования. Таким образом, мы определяем дифференциал / как отображение Df: ТМ-* ТАГ, А ^ с н-. ^ ^ /ос, и дифференциал (или производную) Dpf = D/lp в точке р как ограничение дифференциала на пространство Т М, Диффеоморфизмом называется дифференцируемое отображение, обратное к которому также дифференцируемо. Два многообразия М н N называются диффеоморфными или диф- феоморфно эквивалентными, если существует диффеоморфи^ ЛГ-»N, Влоокением многообразия М в многообразие N называется диффеоморфизм /: М -* V многообразия М на подмногообразие V многообразия N. Мы часто будем, допуская известную неточность, говорить, что вложение открытого подмножества ЛГ в М является (локальным) диффеоморфизмом. Погружением многообразия М в многообразие N называется дифференцируемое отображение /: М —> К на подмножество N, дифференциал которого инъективен всюду.
704 Приложение, НЕОБХОДИМЫЕ СВЕДЕНИЯ Ясно, что диффеоморфные многообразия гомеоморфны. Обратное, однако, неверно. Существуют «экзотические» сферы н другие многообразия, дифференцируемая структура которых не диффеоморфна обычной дифференцируемой структуре. Заметим, что погружение не обязательно должно быть инъективным, например, единичная окружность в R^ может рассматриваться как погружение прямой. Но даже инъективно погруженное многообразие не обязательно является топологическим подмногообразием. Например, орбиты потока с нетривиальной возвра- щаемостью являются погружениями прямых, но топология, индуцированная погружением на нетривиальной возвращающейся орбите (такой как орбита линейного потока на Т с иррациональным угловым коэффициентом), отличается от топологии, индуцированной объемлющим пространством. Однако мы будем называть такие объекты погруженными подмногообразиями. Оказывается, что любое гладкое многообразие может быть гладко вложено в евклидово пространство, так что любое многообразие диффеоморфно подмногообразию R". Теперь кратко напомним определения и свойства топологий, обычно используемых на пространствах дифференцируемых отображений. Во-первых, дифференцируемые отображения, конечно, могут быть снабжены С'-топологией, В случае компактного гладкого многообразия М она может быть определена путем задания некоторой римановой метрики на М (см, § П 4), подъема этой метрики на касательное расслоение с помощью индуцированной евклидовой метрики в слоях и, наконец, рассмотрения равномерной метрики в пространстве дифференциалов с'-отображений, суженных на единичное касательное расслоение {w G ТМ\ \\v\\= 1}, В качестве альтернативы можно покрыть многообразие М конечным множеством координатных окрестностей и рассмотреть верхнюю грань обычного С'-расстояния по всем картам. Этот подход переносится немедленно на случай C''-топологин для любого г g N, Первое определение может быть также обобщено с использованием пространства струй, но мы ие будем сейчас вдаваться в подробности этого подхода (см, п, 6,6, а). Для ст-компактных многообразий С-то- пология определяется просто с помощью ограничений на компактные подмножества. Согласно теореме об обратной функции диффеоморфизмы образуют открытое множество D\iV{M) в Пространстве С (М, М) С*-отображений многообразия М в себя, так что в отличие от случая гомеоморфизмов на этом множестве существует естественная топология, индуцированная с C*(JVf, М), С-топология позволяет построить локальную модель Diff^(M) на некотором банаховом пространстве, А именно, любой диффеоморфизм д €DiiV(М), близкий к данному диффеоморфизму / G Difr(M), может быть описай как д = (ехр v)of, где V — С*"-отображение, которое сопоставляет точке х G М касательный вектор v{x) g Trt^^M, и ехр —экспоненциальное отображение, впервые встретившееся нам в п. 5.3 г и строго определенное равенством (9.5.1). Так как множество таких отображений t; образует банахово пространство, данная конструкция может рассматриваться как совокупность локальных карт — отображений Difr(M) в банахово пространство. Мы не будем, однако, развивать далее этот подход. С°°-топология, в свою очередь, является топологией на Diff°°(Af), соответствующей сходимости во всех С*"-топологнях. В отличие от С'^-топологни эта топология не может быть задана нормой, так что пространство DifT°°(M) не моделируется на банаховом пространстве даже локально, что становится источником определенных аналитических трудностей, например при попытках применить теоремы о неподвижной точке. Следует упомянуть также вещественно-аналитические топологии, с которыми мы впервые встретились при доказательстве теоремы Пуанкаре — Зигеля 2.8.2. В самом простом случае, когда наше многообразие является областью Z) С R" и /: Z) —* R" — вещественно- аналитическое отображение, мы продолжаем / до голоморфного отображения р-окрестностн Z) в С" и рассматриваем равномерную топологию на голоморфных отображениях D. Эта конструкция обобщается на случай аналитических многообразий, но мы ие будем нуждаться в этом обобщении. Предшествующее обсуждение переносится на случай потоков с одним важным замечанием. Прн г ^ 1 существуют две различные С*"-топологии для потоков. Первая получается непосредственно При рассмотрении С*"-потока как С*"-отображения М xR—*M с С*'-топологнен, индуцированной на пространстве таких отображений. Для г = О это единственная возможность. Для г ^ 1 можно в качестве альтернативы рассмотреть векторное поле, порождающее поток. Для г ^ 1 С*'-поток порождается С*""'-векторным полем, но С*"-порождающее векторное поле может не существовать. И наоборот, существуют С*"-векторные поля, которые не порождают С*""^ ^-потоки. Пространство V{TM) С*"-векторных полей является линейным пространством, обладающим естественной банаховой структурой, задаваемой, например в случае С -векторных полей на компактном римановом многообразии, нормой, индуцированной рнма- новой метрикой.
§ П 3. ДИФФЕРЕНЦИРУЕМЫЕ МНОГООБРАЗИЯ 705 Определим теперь «ламинацию», которая представляет собой в определенном смысле согласованную совокупность погруженных подмногообразнн. Это поиятне оказывается важным для теории динамических систем с гиперболической структурой. Определение П 3.5. Пусть М—дифференцируемое многообразие н X СМ. Семейство ^f гладких инъективно погруженных многообразий {N^}^^^ (слоев) называется ла~ минацией на X, если N^nN^ = 0 при a^fi, X C[JN^ и для каждого хеХ существуют а такая окрестность U и такой гомеоморфизм h:U—* R", что h отображает каждую компоненту связности и ^о ^ ^ на Л( а) П (R^ х {у}) с R" для некоторого t/ G R" " ^. а Это ослабление более известного понятия слоения, для которого X = М и гомеоморфизм h должен быть гладким. В частности, слоение является разбиением М на гладкие инъективно погруженные подмногообразия. Здесь мы получаем такие подмногообразия лишь для точек некоторого подмножества X. Иногда совокупность устойчивых и неустойчивых слоев диффеоморфизма или потока Аносова также называют слоением, хотя гомеоморфизм h в этом случае обычно не является гладким. Согласно теоремам о существовании, единственности и гладкой зависимости от начальных условий решении обыкновенных дифференциальных уравнений С'-векторное поле на М индуцирует локальный поток, т. е. для каждого р€М имеется такая кривая с^ : (—е, е) —* М, что с^р(0) = р и c^^pit) '■= ^'^v,p(*) = '"('^«,p(*))* Величина е может считаться непрерывно зависящей от р. Отображение tp^\ (р, t)»-*- tp (р) := c^pi^) "^ своей области определения является столь же гладким, как и w. В силу непрерывности по е оно отделено от нуля на любом компактном многообразии, и, следовательно, по групповому свойству с (f+ s) = c^ ^ (t)(^) (которое вытекает из однозначности) каждое векторное поле на компактном многообразии индуцирует полный поток, т. е. величина tp^ определена для всех моментов времени. Если tp^ Htp^ — потоки, соответствующие векторным полям w и ш соответственно, то, вообще говоря, диффеоморфизмы tp^ и уэ^ не коммутируют, т. е. ^p^otp^^tp^otp*. Если же они коммутируют, векторные поля vHw называются коммутирующими. Степень некоммутативности двух векторных полей W, ш измеряется их скобкой Ли [v, w], которая равна [w, iv](p) = lim [w — d(p^w){tp^{p))/t. Покажем теперь кратко, как эти инвариантные понятия выглядят в локальных координатах. Если (Ц Л)—карта, то мы будем говорить, что на Ц" заданы координаты (х',..., х"). Для pG С/ множество дифференцирований 5/9х*, индуцированных кривыми c^(f) := /i~'(/i(p)+tej), где е^ —г-й вектор канонического базиса в R", образуют канонический базис Т М. Касательный п вектор v€T М тогда представляется в виде v='^ v* д/д х*, и если /: М —* R — гладкое отоб- 1 = 1 ражение, то w/= ^ v*d(f о h )/дх*. Таким образом, индуцированные координаты в ТМ имеют вид (х ,..., х", w',..., w"), где w* —только что определенные компоненты. Аналогич- п НО, векторное поле локально представляется в виде v{p)= J^ v*{p)d/dx*, и оно является гладким тогда и только тогда, когда функции v* гладкие. Чтобы показать, что скобка Ли двух векторных полей v и w определяет дифференцирование, т. е. векторное поле, произведем вы- А ■ " ■ числение в локальных координатах. А именно, пусть w= Jj v*d/dx*, ги= 2 w*d/dx*. Для i=i i=i удобства будем писать / вместо /о А. Тогда, используя теорему X. А. Шварца о том, что вторые частные производные коммутируют, мы получаем {vw-vw)f=v Y, u7*-^-iu х; v*—L = 1 = 1 га i = i ox п ^ЪУ^-'''^)^' '''''' т. е. [v, ш] действительно является векторным полем, которое локально имеет вид v^ -—-г — — UI* —г. в частности, [д/дх*, д/дх^] = 0. Напомним несколько важных свойств скобки Ли, дх*
706 Приложение. НЕОБХОДИМЫЕ СВЕДЕНИЯ которые иетрудио проверить в локальных координатах. По определению мы, очевидно, имеем [vj ш] = —[ui, v], и отображение [•, •] R-билиненно, т. е. [av + /Зш, z] = a[w, z] + j6[to, z] для a, 0 €R. Затем отметим, что, как показывает координатное вычисление, совершенно аналогачное предшествующему, для функций как коэффициентов выполнено равенство [/w, 9^] = f9[v, v)]-\- f{vg)w — g{wf)v. Это значит, в частности (для /= 1), что производная Ли является дифференцированием, т. е. удовлетворяет формуле Лейбница C^{gw)=gC^w-\-C^g w. Кроме того, имеется фундаментальное тождество Якоои [% К А] + [Щ [^. V]] + [а [v, w]] = 0. (П 3.2) Проверка в координатах не представляет труда. А именно, из (П 3.1) мы знаем, что в окончательном выражении возникают только производные первого порядка, так что можно упростить вычисление, отбросив все производные более высокого порядка. Тогда остающиеся члены сокращаются в силу симметрии. Этот же результат может быть получен иначе, если записать [w, 'w\ = vw—wv и, переписывая соответственно (П 3.2), заметить, что все члены сокращаются. Дифференцирование дифференцируемых отображений многообразий в локальных координатах также не представляет труда: если /: М —* iV и (Ц А), (VJ А:) — локальные карты окрестностей точек р G М и /(р) G N соответственно, тогда дифференциал отображения / в точке р относительно стандартных базисов задается матрицей частных производных отображения fc о / о А~' в евклидовом пространстве. П 3 б. Тензорные расслоения. Касательное расслоение представляет собой частный случай следующего понятия. Определение П 3.6. Под дифференцируемым векторным расслоением со структурной группой G, являющейся подгруппой ОЦттг, R), над базой М понимают такое многообразие Р, называемое тотальным пространством или пространством расслоения, что проекция 7г: Р —* М дифференцируема и, кроме того, локально Р = Мх R"*, т. е. для каждой точки хеМ существует такая окрестность U, что имеется диффеоморфизм А: 7r~^{U) —* С/ х R"*, и i-i- (7г(и), <р{и)), и притом для любой точки X в пересечении U^ПU2 двух таких окрестностей тривнализации отличаются на элемент из группы G. Подрасслоение или распределение — это расслоение, слои которого содержатся в слоях Р. Для двух распределений £, F их суммой Уитни Е -^ F называется распределение вида (Е + F) — Е -\- F Мы будем использовать знак «ф», если сумма (в каждой точке) прямая, т. е. Е ПР = {0} для всех р€М. Сечением расслоения Р называется такое отображение v: М —*Р, что тг о w = Id^^. Пример. Касательное расслоение ТМ на многообразии М является векторным расслоением: здесь тп равно размерности М, а группа С? = ОЦтп, R) действует линейными заменами координат в касательных пространствах — слоях, индуцированными заменами координат в базе. Сечения этого расслоения — векторные поля. Если задано не обращающееся в нуль векторное поле на М, то одномерные подпространства, которые определяются линейными оболочками в каждой точке, задают одномерное распределение. Заметим, что у дифференцируемого многообразия ТМ есть свое касательное расслоение ТТМ. Это важный объект. С одной стороны, он открывает возможность для дифференцирования векторных полей. С Другой стороны, в классической механике уравнения движения являются дифференциальными уравнениями второго порядка, и естественно рассматривать вторые производные как элементы второго (или двойного) касательного расслоения ТТМ. Второе касательное расслоение ТТМ, очевидно, является векторным расслоением над ТМ, но оно также оказывается и векторным расслоением над М. В связи с этим отметим, что замены координат в М индуцируют замены координат в ТТМ которые вновь определяются линейными частями замен координат в М. Мы вернемся к этому замечанию, когда будем говорить о римановых многообразиях. Благодаря наличию линейной структуры в касательных пространствах возникают линейные объекты, отличные от векторов и линейных отображений (например, дифференциалов). А именно, часто бывает полезно рассматривать полилинейные отображения. (Самыми простыми примерами и элементами, из которых строятся остальные объекты, являются 1 -формы. Определение П 3.7. Обозначим через Т*М кокасательное расслоение, состоящее из пространств Т*М = {ТМ)* линейных отображений (ковекторов) ТМ—* —* R. Сечение Т*М называется Х-формой. Полилинейное отображение Т*М®...®Т*М® ^ ^ / к Ф !Z1Mф.. .Ф !ZlJVf —* R (т. е. отображение, линейное по каждой переменной в отдельно- ^ ^ ' сти) называется {к, 1)-тензором. Сечение расслоения ТМ ® ... ® ТМ® Т*М ® ... ® Т*М = = (ТМ)®^ ®(Т*М)®' называется {к, 1)-тензорным полем (или тензором). Тензор называется
§ П 3. ДИФФЕРЕНЦИРУЕМЫЕ МНОГООБРАЗИЯ 707 гладким, если его значения на- гладких векторных н ковекторных пол51х являются гладкими функциями (или, иначе говоря, если коэффициенты тензора в локальных координатах гладки). Таким образом, векторы является (1,0)-тензорами, 1-формы — (0,1 )-тензорамн, а римано- вы метрики, которые вводятся в определении П 4.4, — (О, 2)-тензорамн. Базнс в пространстве 1-форм на Т М может быть задан формами dx*, которые определяются производными коор- динатных функций х*, т. е. ^w 5 ч ci . f О, если г 7^ i г'-;- ;; дх^ ■' ( 1, если г = j. Производная функции / является 1-формой Df{v):=vf= J^ -^±-dx*. Если Т — (Jb,/)-TeH3op, то Т = l^^i'■ • •^J^ Др ® ... ® -^ ® dx^ ® ... ® dx\ где 2lf""V' = = Т ( dx^,..., dx^', —J-,..., —J- ). Существует естественный способ определить производ- ную Ли для тензоров. А именно, заметим сначала, что для (1,0)-тензоров (векторных полей) она уже определена и что для (0,0)-тензоров (функций) мы можем положить C^f:= vf. Теперь продолжим это определение на (0,1)-тензор ^, полагая jC^(^(to)) = jC^(0('"^)+ ^(jC^'"^)- Аналогично можно определить С^ для любого тензорного поля, постулируя формулу Лейбница С^{^ ® 7?) = С^^ ® 7? + С^г} ® ^' Если ш — (0,1)-тензор на N и отображение /: М -* N дифференцируемо, то мы можем определить прообраз /*ш тензора ш на М равенством /*w(w).-= uj{Dfv). Это определение, конечно же, проходит и для (О, А:)-тензоров. Аналогично можно переносить векторы с М на N, действуя отображением Df, но, как естественно надеяться, это действие переводит векторные поля в векторные поля только в случае, если отображение/ннъектнвно (если/(р)=/(д) hv — такое векторное поле, что Dfv{p)^Dfv{q), тогда никакого корректно определенного векторного поля *f^v» на /(М) нет). Однако если / —диффеоморфизм, тогда н здесь никаких проблем не возникает. Используя прообразы, производную Ли (О, Л:)-тензора можно вычислить с помощью потока уз , определенного векторным полем v: . С^ш= lim |((¥з')*ш-ш). i-+0 Производная Лн любого (к, /)-тензора может быть вычислена подобным образом. Важный специальный класс тензоров — антисимметричные тензоры. Определение П 3.8. (О, Jfc)-TeH3op ш на линейном пространстве называется антисимметричным тензором, нлн (внешней) формой, если из того, что v^ = Vj для некоторых г^З, следует, что ш{ь^,. ..^v^) = 0. (О, А:)-тензорное поле называется антисимметричньш, если оно антисимметрично в каждой точке. Антисимметричные (О, А:)-тензорные поля назы- к ваются к-формами, и пространство А:-форм обозначается Г(Д Т*М). По аналогии с антисимметричной частью матрицы антисимметричная часть Лг} (О, А:)-тензора определяется таким образом: Лг}= -гт 2 ^^ff" тг т? ^ тг, где тг переставляет элементы и sign тг — знак перестанов- ки, Т. е. sign7r = —1, если перестановка тг нечетна, и 1 в противном случае. Таким образом, Л — проекция (Т*М)® на /\Т*М. Определим внешнее произведение форм ие/\Т*М н г}€ /\Т*М равенством п Не обращающиеся в нуль элементы Г(Д Т*М) называются формами объема, и две формы объема П, П' называются Эквивалентными, если 9! = /П для некоторой функции /G С°°{М), / > 0. Класс эквивалентности форм объема называется ориентацией на М, н если существует ориентация на М, то М называется ориентируемым многообразием. Из этих определений вытекают следующие стандартные утверждения: внешнее произведение ш Л 77 R-бнлннейно по ш н т}, г} А ш = (-1)'^ ш А г} (следовательно, ш Л ш = О для нечет- к ных к), /*(шЛ77) = (/*ш)Л(/*7?) и шЛ(77ЛЛ) = (шЛ7?)лЛ=: шЛт^лЛ. Базис в /\Т*М
708 Приложение. НЕОБХОДИМЫЕ СВЕДЕНИЯ задается формами {dx*^ Л ... Л da:*'|l ^ *j ^ п}, где {da:*|l < г ^ п} —базис, двойственный К {9/5х*|1 ^г ^п}. Таким образом, dim Д Т*М^ (]f). Далее, ^^ Л.. .AjS^ т^О тогда и только тогда, когда {jS',..., jS^} С Т*М линейно независимы. п Многообразие ориентируемо тогда н только тогда, когда пространство Г( Д Т*М) одномерно над С°°{М). (А именно, существует форма объема, следовательно, размерность пространства по крайней мере один, и для двух форм объема О и О' функция (р:~ Cl'/Cl корректно п определена, так как пространство Г(Д Т*М) одномерно, н является гладкой.) Можно также показать, что ориентируемость эквивалентна существованию ориентируемого атласа, т. е. такого атласа, что отображение А о А' сохраняет ориентацию пространства R" для любых двух карт h, h'. На компактном многообразии форма объема может быть проинтегрирована; этот интеграл равен объему многообразия. С помощью карт это нитегрированне выполняется следующим образом. В R" определим J0.'= JOj ^dx--- dx" для любой формы объема О ~ 0| „dx' Л ... Л dx". Для сохраняющих ориентации диффеоморфизмов / мы получаем J /*0 = S О. Таким образом, можно определить J О для многообразия М, выбрав разбиение единицы {и^, Vj}' подчиненное покрытию картами (V^, AJ, и полагая J 0:= J] l{f^i)ЛФi^)■ Это определение, хотя и использует карты, на самом деле не зависит от выбора системы координат. П 3 в. Вычисления с виешиими формами. В этом пункте будет развита методика вычислений, содержащих внешние формы. ^ Определение П 3.9. Внешняя производная d:V(f\T*M)-*Y{ f\ Т*М) (для любого к) (однозначно) определяется следующими аксиомами: df = Df для функции, d —R-лн- нейное отображение, d(wA77) = dwA77 + (—l)^wAd77, dod=OHd определено локально, т. е. если две формы совпадают на открытом множестве О, тогда Их производные тоже совпадают на О. Индукция по размерности показывает, что производная определена корректно и однозначно. А именно, если ш = (pdrj)^ А ... А d^»^, то с необходимостью du = dtp А dф^ А ... А dф''. Последнее свойство также проверяется по индукции, так как оно имеет место для функций: ddtp = J^ (DDtp)..dx* A dx^ = ' J^ ■ dx* A dx^ = 0. Кроме того, d коммутирует со взятием t, J = 1 ox ox-' прообраза и производной Ли: f*dw = d{f*uj) (и f^doj = d(f^oj), если / — диффеоморфизм) HjC (ш* А...Аш^) = £^ш' А...Аш^ + ...+ ш' А...А£^ш^, откуда dC^=C^d. Мы время от времени будем использовать удобное обозначение свертки формы ы с вектором W, определяемой равенством w -i ш := w(w, *,..., ■)• Эта операция R-лннейна и С°°(М)-ли- нейна по v. Кроме того, v -\{ш /\г)) = {v -\ш) /\г) -\- {—\) и /\{v-\-q), v-idf = C^f и £„ш = w-Idw + d(w -I w). (П 3.3) Наконец, /*w_i/*w = /*(w_iw) и/,и_|Дш = /^(^_1ш) для любого диффеоморфизма/. С формами связана теория когомологий, которая основана на следующих понятии и теореме. lb Определение П3.10. Форма ш G Г(Д Т*М) называется замкнутой, если dw=0, fc-i и точной, если uj = dr} для некоторой формы т? G Г( Д Т*М). Поскольку d = О, каждая точная форма замкнута. Локально верно обратное. Теорема ПЗ.И (Лемма Пуанкаре). Если форма ш замкнута, то для всех р€М существует окрестность U точки р, на которой форма ш точна. Доказательство. Используем гомотопический трюк (см. теоремы 5.1.27, 5.5.9). Положим p = OgR", и пусть W((x) = x/f. Поля v^ порождают поток tp^{x)— tx для f > О, так что d/dt{ip^yoj = lip^)*C^ uj = {tp^)*{d{vi-iuj)) = d((ip^y{Vi-\ш)), поскольку dw = О, и Lj — {tp^)*uj = d S(¥'')*(w^ _iw)df —> d 5(^*)*w^-iwdf =: dr}. Предел существует, так как *а *а-*0 о (¥'')*К -iw)^(uj^) = Wtp(x/f, tw^)=uj^{x, w^). D
§ П 3. ДИФФЕРЕНЦИРУЕМЫЕ МНОГООБРАЗИЯ 709 Упомянутая теория когомологий для компактных многообразий — теория когомологий де Рама: к-я группа когомологий определяется как фактор пространства замкнутых А:-форм по пространству точных ^-форм. По лемме Пуанкаре он представляет собой конечномерное векторное пространство. Оно находится в естественной двойственности с к-й группой гомологии многообразия с вещественными коэффициентами (см. § П 7). Совокупность когомологий обладает также естественной мультипликативной структурой, индуцированной внешним произведением. Чтобы установить эту двойственность, мы должны определить интегралы форм. С этой целью сначала заметим, что интеграл А:-формы по погруженному fc-симплексу может быть определен как интеграл по прообразу, соответствующему погружению. По формуле замены переменных результат завнснт только от образа при погружении. Полезный для интегрирования форм результат — следующая теорема Стокса. Теорема П 3.12. Если М —п-нногообразие, возможно, с границей, и ш — (п — ХУформа на М, то \ duj= J ш. м эм в частности, интеграл любой точной формы по любому многообразию без границы равен нулю. Далее, любое погруженное jfc-мерное подмногообразие может быть разбито (с точностью до границ элементов разбиения) на погруженные А:-симплексы (триангулировано), так что интеграл Jfc-формы по погруженным А:-мерным подмногообразиям корректно определяется (н не завнснт от выбора триангуляции). В частности, А:-формы могут быть проинтегрированы по вложенным jfc-цнклам (см. §П 7). Удобно думать о циклах как о вложенных многообразиях без границы, и действительно, по теореме Стокса эти интегралы зависят только от класса когомологий формы. С другой стороны, для данной формы этн интегралы зависят только от класса гомологии (с вещественными коэффициентами) цикла, потому что два гомологичных многообразия образуют границу некоторого многообразия. Тем самым задана двойственность между когомологнями де Рама форм и симплициальными гомологиями многообразия. Нам предоставится возможность использовать результат, связанный с предыдущим. Лемма П 3.13. На п~многообразии п~форма с нулевым интегралом точна. П 3 г. Трансверсальность. На гладком многообразии имеется естественное понятие множества «меры» нуль, потому что если мера образа множества в одной карте равна нулю, то то же имеет место для любой карты. Пусть /: М-* N —дифференцируемое отображение. Тогда точка x€N называется регулярным значением, если для всех y€f~^{{x}) ранг дифференциала Df максимален, т. е. равен min(dim М, dim N). В противном случае точка х называется сингулярным значением. Теорема П3.14 (теорема Сарда). Если f G C'*(Af, N), то мера Лебега множества сингулярных значений f равна нулю. Одно из следствий этого утверждения состоит в том, что по теореме о неявной функции множество уровня почти любого значения гладкого отображения / является многообразием. Эта теорема локальна, потому что мы можем выбрать в качестве М окрестность точки в некотором многообразии. Теорема Сарда — то основание, на котором строится теории трансверсальности. Определение П 3.15. Пусть М — гладкое многообразие и К, NcM — гладкие подмногообразия. Подмногообразия К и N называются трансверсальными в точке х€М, еслих^КпМ или Т K-{-T^N=^T М. В этом случае мы будем писать К fh^N. В частности, если dim К + dim N — dim М и х g G if П М, последнее условие эквивалентно условию Т^К П T^N — {0}. Будем говорить, что многообразия К iaN трансверсальны (друг другу) и писать K^N, если K^^N для всех x^KnN. Если К иМ — многообразия с границей (см. определение П 1.15), то они называются трансверсальными, если многообразия (без границы) дК, К\дК, дМ, М\дМ попарно трансверсальны в смысле предыдущего определения. Трансверсальность — С'-открытое условие. Предложение П 3.16. Свойство трансверсальности устойчиво в С^ -топологии. Сначала заметим, что трансверсальные пересечения могут быть приведены к «нормальной» форме, Лемма П 3.17. Если К ^^N в М, х€К nN и к =^d\mK, n = dm N, m = dimM, то существуют такая окрестность U точки х и такие координаты (xj,..., х^) на XJ, что в этих координатах ^na=:{(xi,...,x^)|xjt^i=... = x^ = 0}
710 Приложение. НЕОБХОДИМЫЕ СВЕДЕНИЯ и Доказательство. Продолжая базис Т^К Г[ T^N до базиса Т^К и базиса Т N, получим локальные координаты ф: U'-+R'" в окрестности U точки х, в которой В^фТ^К— = {vGR"*|t;;b + l=---='^m=0}HZ)^Vr^N = {vGR'"|vj=... = v„_„=0}. Таким образом, после з^еньшения, в случае необходимости, окрестности U найдется такое отображение ip: Rfc _,R"»-fc, что ф{К п с/) = graph ¥>. Тогда замена ^: (хр ..., х^) >-> (ж,,.. .,а;^) - (О,... ..., О, ¥з(Х|,..., Xj^)) приводит к тому, что отображение ^оф представляет К в нужном виде. Аналогичное «выпрямление» многообразия N позволяет завершить доказательство. D Доказательство предложения. Используем теорему о неявной функции. Так как проблема является локальной, удобно перейти к специальным координатам и заметить, что с'-возмущения К', N' многообразий К н N яаляются графиками отображений ^: R^ х X {0} —* R™ ~ ^ и 77: {0} X R" -+ R"* ~ " соответственно. Пространство Е пар С' -отображений такого вида, равно как и пространство F — R"*" " х {0} х R"*" , — банаховы пространства. Рассмотрим отображение Оно обращается в нуль в нуле, и производная в нуле в F-направлении невырождена в силу трансверсальности. Теорема о неявной функции позволяет найти такие av^-) и у,^ j, что /((^. Vh i^iCrt)'^' г'Ц,7)))=0или(Х(^ ,,j,0, е(а:(е.^),0,0)) = (77(ОД %.„)).0, % J)- Следовательно, многообразия К и N' пересекаются. Более того, это пересечение трансверсально, потому что в локальных коордниатах касательные пространства к К' и N' являются малыми возмущениями касательных пространств к iiT и N и условие Т^К -{- T^N — Т^М открыто. D Приведем непосредственное следствие леммы П 3.17. Следствие П 3.18. Если К и М — компактные трансверсальные многообразия (возможно, с границей), то любые их достаточно малые С ^-возмущения К и М транс- версальны. Определение П3.19. Пусть О^г^ооиМ — С*"-многообразие. Два подмногообразия ifj и К2 многообразия М называются С^ -близкими, если существуют такие С*"-многообразие Kq и вложение /^: Kq-* К-^, что /j и /g С*"-близки. Теорема П 3.20 (теорема о трансверсальности). Пусть М — С* -многообразие размерности т и N СМ—подмногообразие размерности п. Тогда трансверсальные к N к-мерные подмногообразия М С^-плотны в множестве к-мерных подмногообразий К с М. Доказательство. Рассмотрим такую координатную окрестность U, что iSrna = {(x,,...,a:„)|x, = ... = x^_„=0}, и обозначим через Т естественную трансверсаль: Т:={(а:р...,х^)|а:^_„^1=... = х^=0}. Кроме того, для а = (sj,..., s^ _„) определим множества N' := {(xi,.... а:^) I a^i = Si..... х„_ „ = s^ _ „}, н пусть 7г — проекция U нг Т вдоль iV^ = iV П Ц", т. е. ^(a^l. • • •, 2:^) = (a^i 1 • • •. 2:^ -„> 0) • • •. 0)- Теперь пусть К представляет собой образ С°°-вложения уэ*. Kq —* М, и пусть Kq = (р~^{Кп U). Рассмотрим С°°-отображение irotp: Kq-^T. Если точка {(Sj..... s^_„. 0.... 0)} = ТПN' является регулярным значением icoip, то {Kr\U)&\N'. По теореме Сарда множество регулярных значений имеет полную меру Лебега в Т, откуда следует, что существуют регулярные значения, произвольно близкие к 0. Таким образом, в сколь угодно малой окрестности N П U имеются многообразия, трансверсальные к К. Чтобы получить в результате этого анализа глобальный результат, сначала выберем меньшую окрестность U' cU н неотрицательную С°°-функцию типа «шапочки» р, которая равна
§ П 3. ДИФФЕРЕНЦИРУЕМЫЕ МНОГООБРАЗИЯ 711 единице на U' и обращается в нуль вне U. Тогда для любого s G R"* " можно построить С°°-векторное поле, которое равно р ^ h^iT в ^ и нулю вне U. Пусть Т^ —отображение 1 = 1 ^ сдвига за единичное время для потока, порожденного этим векторным полем, за единичное время. Для любого г G N диффеоморфизм Т^ является С*"-близким к тождественному при достаточно малых ||s||. Для таких з многообразие N':=(T,o^)(N) С*"-близко к N. Очевидно, N' ПЦ — N*, так что если s — регулярное значение тг о ^, то iV* трансверсально К nU. Теперь рассмотрим локально конечное покрытие М координатными окрестностями U^ (i G N), т. е. такое покрытие, что каждое компактное множество пересекает лишь конечное число окрестностей U^. Кроме того, выберем множества U! С XJ^ так, что UiCU^ и Ul по-прежнему покрывают М. Тогда, используя предшествующую процедуру индуктивно, мы можем построить такие векторы а* и соответствующие диффеоморфизмы Т^* для г GN, что N:= (. ..oTio.. .oT^x)N (локально это всегда конечное разложение) трансверсально к iiT и С*"-близко к N.D § П 4. Дифференциальная геометрия Вернемся ненадолго к изучению общих расслоений. Так как векторное расслоение Р представляют собой дифференцируемое многообразие, у него есть свое касательное расслоение. Тогда оно обладает дополнительной структурой. Определение П 4.1. Подпространство V^ := {w G Т^Р I V касателен к некоторому слою Р} касательного пространства Т^Р называется вертикальным подпространством в и. Это полезное понятие, так как с его помощью мы можем дифференцировать векторные поля, получая векторные поля на ТТМ, и проектировать последние на вертикальное подрасслоение, которое естественно отождествляется с ТЛа, получая, таким образом, новое векторное поле в ТМ, называемое производной первоначального векторного поля. Но чтобы иметь возможность проектировать V^, необходимо выбрать дополнительное подпространство. Определение П 4.2. Связностью называется такое гладкое распределение Н в ТР, что Т^Р -H^^V^ и Н^д = 9{HJ для всех и G F, g^G (С?-иивариаитность). Хотя общее понятие связности глубоко обосиованио и полезно, в контексте этой книги мы сталкиваемся с ним только при рассмотрении касательных расслоений и, более того, в только для римановых многообразий, для которых оно задано более непосредственным образом в терминах дифференцирования. Таким образом, для касательных расслоений мы приведем более удобное в приложениях определение. Определение П 4.3. Пусть М — гладкое многообразие. Связностью на М называется такое R-билинейное отображение V: Т{М) х Г(М) —*■ Г(М), что V^w — ^pV^w и V,,yjtu — ^У,,ш +w(^)ti;. V„ui называется ковариантной производной w по v. Ковари- антной производной векторного поля ш вдоль кривой с называется величина V^w. Векторное поле ш называется параллельным вдоль кривой с, если V^ui = 0. Кривая с называется геодезической, если V^c =^0, т. е. если поле с параллельно с (отсутствие ускорения). Связь данного определения с предыдущим крайне проста: производная векторного поля ui в направлении v горизонтальна тогда и только тогда, когда У^,ш = 0. Чтобы провести координатные вычисления, обозначим через Гк символ Кристоффеля, определяемый соотношением ^э/дхЛ^/^^ ) — Yl^jk^/^^*• i Вычисления в координатах показывают, что коварнантная производная вдоль кривой определена однозначно независимо от выбора продолжения с векторного поля и зависит только от значений векторного поля вдоль с. В терминах символов Кристоффеля уравнение геодезической V^c принимает вид сЧЕГ^с^'с*=0. (П4.1)
712 Приложение. НЕОБХОДИМЫЕ СВЕДЕНИЯ Теперь опишем структуру, в рамках которой введенные выше понятия появляются в этой книге. Определение П 4.4. Римановым многообразием называется дифференцируемое многообразие со скалярным произведением ^„(*) *) "= vi *)< заданным на каждом касательном пространстве, которое гладко зависит от точки многообразия. Изометрией римановых многообразий (М, д) и (N, д') называется такое дифференцируемое отображение /: М —* N, что г я' = д. Замечание. Так как риманова метрика есть ие что иное, как (0,2)-теизор, термин «гладкая зависимость от точки многообразия» корректно определен: гладкую зависимость можно установить, либо показав, что для любых двух гладких векторных полей их скалярное пронз- веденне является гладкой функцией, либо записав матрицу д в локальных координатах и убедившись, что коэффициенты гладки. С помощью римановой структуры мы немедленно можем ввести понятия длины векторов и, следовательно, гладких кривых и углов между ними. Часто достаточно уметь определять только длину, т. е. норму, на каждом касательном пространстве. Многообразие, на котором задана такая структура, называется финслеровым многообразием. Мы обычно используем данную рнманову метрику в качестве вспомогательной структуры. Наше определение гиперболичности, например, относится к специальной (ляпуновской) римановой метрике, но упражнения 6.4.1 и 6.4.2 дают определения, которые не зависят от выбора римановой метрики (или фиислеровой метрики). Данная риманова ст-р}л<тура оказывается существенно важной для нас сама по себе лишь при исследовании геодезических потоков. Естественная топология на римановом многообразии определяется внутренней метрикой, или метрикой длины, которая вводится как нижняя грань длин кривых, соединяющих две точки. Топология, индуцированная этой метрикой, совпадает с топологией риманова многообразия как топологического многообразия. Каждое римаиово многообразие обладает естественной связностью, определенной следующим образом. Теорема П 4.5. Если М — риманово многообразие, то существует единственная связность V на М, называемая связностью Леви-Чивита, для которой выполнены следующие условия: (1) V„to-V^t; = [t;.ti;]. (2) u(t^ ш) = (V„v, ш) + (v, V^w). Доказательство. Связность V определяется формулой Козюля 2(w, V^iu) = u(w, ш> + {и, [w, ш]> + w{v, w) + (ш, [и, и]) - ^(ш, и) - (w, [w, и]). ("I Второе условие утверждения означает, что тензор д параллелен, т. е. Vg—0. Локальные вычисления в координатах (упражнение 9.5.5) показывают, что уравнение геодезической (П 4.1) для связности Леви-Чивита совпадает с уравнением геодезической как кратчайшей (9.5.5). Уравнение геодезической в любой форме показывает, что кривые с в ТМ являются орбитами потока, который полон тогда и только тогда, когда многообразие М полно в смысле определения П 1.20, например компактно (теорема Хопфа — Ринова). В этом случае экспоненциальное отображение (9.5.1) глобально определено. Изометрии переводят геодезические в геодезические и являются изометрнями римановых многообразий, рассматриваемых как метрические пространства (с метрикой длины). Если /j, /г: М —* N — изометрии, многообразие М связно и существует такая точка р€ М, что /j (р) = /2(р) и Dfi — D/2 в р, то f^ — /g, т. е. изоме- трия определяется своей производной в точке. Действительно, множество таких точек р по условию непусто и, очевидно, замкнуто, но при рассмотрении экспоненциального отображения (см. (9.5.1)) как локальной параметризации мы видим, что это множество также открыто, следовательно, совпадает со всем М. Для двух единичных касательных векторов, закрепленных в точках, которые соединяются единственным геодезическим отрезком, можно определить расстояние между этими точками как квадратный корень из суммы квадратов длины этой геодезической и угла между одним из этих векторов и параллельным переносом другого вдоль геодезической. Это придает смысл соотношению (5.4.2). Очень важный изометрический инвариант — секционная кривизна риманова многообразия. Вообще говоря, тензор кривизны риманова многообразия определяется равенством Л (ti, W, ui) := V^^ V„ui - V„ V^ui - Vr^ ,,jui. Секционная кривизна двумерной плоскости П^,^ ^, натянутой иа векторы w и ш, определяется как K{U) := (w, fi(w, ui, ui)). Полезно иметь в виду геометрический смысл этого определения. Для поверхности секционная кривизна, очевидно, зависит лишь от точки и называется гауссовой кривизной. Для поверхностей, вложенных в R^, картина весьма наглядна. А именно, рассмотрим в окрестности точки реМ нормальное
§ П 4. ДИФФЕРЕНЦИАЛЬНАЯ ГЕОМЕТРИЯ 713 векторное поле как отображение М на единичную сферу (отображение Гаусса). Тогда кривизна в точке р равна якобиану этого отображения. Таким образом, она равна единице для сферы единичного радиуса, 1/г для сферы радиуса г, отрицательной величине для седлообразной поверхности н нулю для плоскости, а также для цилиндра. В общем случае секционная кривизна плоскости П равна гауссовой кривизне поверхности ехр П, локально вложенной в М. § П 5. Топология и геометрия поверхностей Этот параграф посвящен классификации компактных поверхностей (двумерных многообразий) с различных точек зрения. Каждая ориентируемая компактная поверхность гомеоморфна пространству, полученному из сферы вклейкой нескольких ручек. Вклейка ручки означает удаление двух непересекающихся дисков из сферы и отождествление пары возникающих в результате окружностей с граничными окружностями цилиндра. Число д вклеенных ручек называется родом поверхности и является топологическим инвариантом. Как дифференцируемые многообразия, поверхности определяются своим родом с точностью до диффеоморфизма. Род связан с эйлеровой характеристикой х поверхности соотношением х = 2^2д. Эйлерова характеристика может быть определена различными способами. Во-первых, можно рассмотреть триангуляцию поверхности (см. определение П 7.1), т. е. представление поверхности в виде полиэдра с треугольными гранями. Пусть / — число граней, е — число ребер и w — число вершин этого полиэдра. Тогда Х'^/ — e + wnx^e зависит от триангуляции. (На самом деле X = /ij - Д + Д), где j^ — числа Бетти (определение П 7.4). Для поверхности рода д мы имеем Д)=/32=1 Hj6j= 2д, так что х = 2 — 2д.) Во-вторых, можно рассмотреть векторное поле V с конечным числом неподвижных точек. Тогда формула индекса Пуанкаре — Хопфа (теорема 8.6.6) утверждает, что сумма индексов неподвижных точек v равна %. Наконец, пусть (•, •) — риманова метрика на поверхности. Обозначим через К{х) гауссову кривизну в точке х. Тогда мы получаем следующую теорему. Теорема П5.1 (теорема Гаусса — Бонне). Для эйлеровой характеристики выполнено равенство х = {^1^'^)) \ ^{^) ^ ^о1» ^^^ \о1—форма объема, индуцированная римановой метрикой. Фундаментальная группа поверхности может быть представлена различными способами. В процессе вклейки ручек получаются образующие а^, 6^, i = 1,..., р, где каждая пара соответствует ручке и Oj 6| aj' 6f' • • • а ^о «*7' ^J' ~ ^^- ^° представление соответствует также отождествлению сторон 45'-угольника, которое дает эту же поверхность рода д. (Для поверхности рода 1 —тора — эта конструкция соответствует его определению как R^/Z ; для поверхности рода 2 — кренделя — эта конструкция аналогична определению его с помощью восьмиугольника, приведенному в пп. 5.4 д и 14.4 б, хотя отождествление сторон производится по-другому.) Напомним, что простой замкнутой кривой на многообразии М называется гомеоморфный образ окружности 5' в М, или, что то же самое, образ S под действием непрерывного инъективного отображения S —*М. Теорема П5.2 (теоремаЖордана о кривой). Простая замкнутая кривая С на сфере S^ разбивает сферу на две компоненты связности, каждая из которых гомеоморфна кругу, т. е. S^\C — V^ и^з» ^^^ области V^ и t>2 гомеоморфны кругу. Более общим образом род поверхности может быть определен как максимум числа непересекающихся замкнутых кривых, дополнение объединения которых связно. Это легко понять, представляя поверхность данного рода как сферу с вклеенными ручками. Для любых двух ориентируемых замкнутых кривых на ориентируемой поверхности, которые пересекаются только трансверсально, можно определить индекс их пересечения как сумму знаков ±1 по всем точкам пересечения, выбираемых согласно тому, образуют ли касательные векторы в точке пересечения положительно или отрицательно ориентированную пару. Этот индекс зависит только от классов гомологии кривых и определяет кососимметрическую невырожденную (симплектическую) 2-форму иа Я|(М, Щ х Я|(М, R). Универсальное накрывающее любой ориентируемой поверхности, отличной от сферы, есть R^. Мы можем также рассматривать поверхности как одномерные комплексные многообразия: сфера — это риманова сфера Си{оо}, тор — фактор С по решетке, а поверхности более высокого рода получаются из верхней полуплоскости Й:= {г еС| Im z > 0} или единичного круга В в С как факторы по некоторым подгруппам преобразований Мебнуса, как показано в п. 5.4 д. Риманова сфера, R^ и диск Пуанкаре допускают метрику постоянной гауссовой кривизны (положительной, нулевой и отрицательной соответственно), и эти свойства переносятся
714 Приложение. НЕОБХОДИМЫЕ СВЕДЕНИЯ на компактные факторы, так что все компактные поверхности допускают риманову метрику постоянной кривизны. Неориеитируемые поверхности классифицируются аналогично. Полезно начать с хорошо известного примера — листа Мебиуса, который является неориентируемой поверхностью с границей, полученной посредством отождествления двух противоположных сторон единичного квадрата [О, 1] х [0,1] с помощью отображения (О, f) -^ (1,1 — *)• Границей этой поверхности является окружность. Любая компактная неориентируемая поверхность получается из сферы в результате вклейки нескольких пленок Мебиуса, т. е. вырезания круга из сферы и отождествления возникающей в результате границы (окружности) с границей листа Мебиуса. Вклеивание т пленок Мебиуса дает поверхность рода 2—т. Равным образом можно заменять любую пару мебнусовых пленок ручкой, пока остается по крайней мере одна пленка Мебиуса, т. е. можно, начав со сферы, вклеить в нее одну или две мебиусовых пленки и затем любое число ручек. Все компактные пов^хности с границей получаются вырезанием нескольких дисков из замкнутой поверхности. Эйлерова характеристика сферы с h ручками, т листами Мебиуса и d вырезанными дисками равна х — 2 — 2А — т — d. § П 6. Теория меры П 6 а. Основные понятия. Определение Пб.1. Пусть X —некоторое множество. Непустая совокупность S его подмножеств называется а-алгеброй, если выполнены следующие условия: (1) если A^S,TO X\AeS\ (2) если {А. |t GN}C5, to\JA^^S. * Мерой называется а-аддитивная функция fi: S —* R_^u {оо}, т. е. такая функция, что fs{[JA^)~^fs{A^), если множества А- попарно ие пересекаются. Измеримая (т-алгебра — это пара {S, fs), состоящая из о--алгебры и меры, а пространство с мерой — тройка (Х^ 5, р,), состоящая из множества, ст-алгебры подмножеств и меры. Ясно, что (т-алгебра замкнута относительно операций дополнения одного множества до другого и счетного пересечения и содержит 0 и X. Множество А СХ называется пренебрежи- мым, если оно содержится в множестве A^S нулевой меры. Говорят, что некоторое свойство имеет место почти всюду (п. в.), если оно выполнено на дополнении к пренебрежимому множеству. Мера называется конечной, если ^i(A')<oo (следовательно, fjL{A)<co для всех А g5), а-конечной, если X —{JA^, где р.{А^) <оо, н вероятностной, если р>{Х)= 1. Про- * странство с вероятностной мерой называется вероятностньш. пространством. Мы всегда будем рассматривать ст-конечные меры и чаще всего конечные или даже вероятностные меры. Отображение из пространства с мерой в топологическое пространство называется измеримым, если прообраз каждого открытого множества измерим. Пространство (<S, р.) называется полной а-алгеброй, если^ каждое подмножество множества нулевой меры содержится в S, Л^нимальная ст-алгебра S, содержащая S и все ^i-пренебрежимые множества, называется пополнением S. Если А, В G 5, то можно определить псевдометрику d^{A, В) := р>{ААВ). Два множества А^ В €S называются эквивалентными mod О (по модулю 0), если d^{Af В) = 0. Обозначим через Sq множество классов эквивалентности в 5 по модулю 0. Понятия счетного объединения, пересечения, дополнения одного множества до другого и включения естественно проектируются на это факторпространство, и псевдометрика d проектируется в настоящую метрику на Sq. Пространства (5, р,) и (Т, if) называются изоморфными, если существует такое взаимно однозначное отображение :F: Sq —*7^, что u{^{S)) — p{S) для всех SGSq. Мера всего пространства, наличие и меры атомов — инварианты изоморфизма пространств с мерой. Элемент А пространства S называется атомом, если каждое множество ВС А эквивалентно либо А, либо 0. Мера называется неатомарной, если у нее нет атомов. Пространство (5, р) называется сепарабельным, если имеется счетное d -плотное подмножество 7> пространства S, т. е. (7-алгебра, порожденная t>, содержит пополнение S. Другими словами, для каждого множества AeS и каждого е >0 существует такое D €t>, что p{AAD) < е. Если (5, р) — сепарабельное пространство, то сужение р на любую ст-подалгебру также сепарабельно. Построение меры Лебега на вещественной прямой начинается с определения длины интервалов и затем продолжается с помощью общей конструкции, которую мы сейчас кратко
§ П 6. ТЕОРИЯ МЕРЫ 715 опишем. Совокупность Л подмножеств множества X называется полукольцом, если дополнение любого множества А вЛ представляет собой конечное непересекающееся объединение элементов Л и пересечение двух элементов Л содержится в А (Пример—интервалы в R.) Неотрицательная монотонная функция fi на элементах полукольца Л, равная нулю на пустом множестве (если оно содержится в Л), аддитивная (т. е. fi{A и В) — f^{A) + fi{B), если А,В,АиВ €Ли АПВ = 0) и такая, что м ( U ^i ) ^ Е М(>^0. если А-, U А • G Л продолжается до аддитивной функции f^ на алгебре С, состоящей из пустого множества и всех конечных непересекающихся объединений множеств из Л. Далее, эта функция fj, индуцирует внешнюю меру иа всех подмножествах X: fi*{E):= inf{^(л{А^) \ Е Clj-^ii -^i ^^}- Тогда множество Е называется измеримым, если для каждого А С X выполнено равенство ^1*(А) = А1*(А пЕ) + (л*{Л\Е). Совокупность измеримых множеств образует ст-алгебру, а fj.* определяет меру на ней. Как показывает следующая теорема, с точностью до изоморфизма эта конструкция не дает новых интересных пространств. Теорема П 6.2. Каждая сепарабельная неатомарная а-алгебра с вероятностной мерой изоморфна а-алгебре борелевских множеств на [0,1] с мерой Лебега. За доказательством этой теоремы мы отсылаем читателя к теореме С из раздела 41 [111]. Каждая мера канонически продолжается до полной меры на пополнении S. Например, отметим, что (7-алгебра измеримых по Лебегу множеств представляет собой пополнение относительно меры Лебега о--алгебры борелевских множеств. Пусть {Х,5^(л) и (YjT.u) — пространства с мерами. Тогда отображение f\ X —*Y (определенное п. в) назы^лется изоморфизмом пространств с мерами X и Y, если / индуцирует изоморфизм ^\ S —*Т пополнений 5 и Т. Пространства с мерами могут быть, таким образом, классифицированы с точностью до изоморфизма, и они изоморфны тогда и только тогда, когда их измеримые (т-алгебры изоморфны. ВазисомВ пространства с мерой (Д <S, fi) называется такая счетная совокупность множеств 5 = {B,}^gj^ С5, объединение которых совпадает со всем пространством Л", что выполнено следующее условие: существует такое пренебрежимое множество N, что для х, y^X\N найдется такое В €Ву что xGB, у^В. Ясно, что d -плотное подмножество является базисом. Базисы задают взаимно однозначное соответствие (кодирование) множеств и точек следующим образом: последовательность ы = (ш^,...) G Hg » ^^i^ {^i О» соответствует пересечению n{-8Juj^ — 1}. Прообразы В- относительно этого кодирования — цилиндры в П^, и они порождают единственную минимальную (т-алгебру. Базис называется полным, если совокупность последовательностей, кодирующих точки, измерима относительно пополнения о--алгебры, порожденной цилиндрами. Теорема П 6.3. Пространство с мерой {Х,5,(л) изоморфно стандартному пространству с мерой ([0,1], М, А), где М. — (г-алгебра измеримых по Лебегу множеств на [0,1], тогда и только тогда, когда (л —неатомарная сепарабельная вероятностная мера с полным базисом. В этом случае каждый базис полон. Главная идея, на которой основан этот результат,—наличие естественного соответствия между отрезком [О, 1] и ^2^ которое задается представлением в виде двоичной дроби, следовательно, взаимно однозначно вне Q и, таким образом, взаимно однозначно почти всюду относительно любой неатомарной меры. На отрезке [О, 1] базис М задается множествами В^ иррациональных чисел с нулем на г-и месте в их двоичном представлении. Наоборот, любая неатомарная сепарабельная вероятностная мера порождает неатомарную вероятностную меру на П^, которая, согласно последнему замечанию, порождает неатомарную борелевскую (цилиндры являются борелевскими множествами) вероятностную меру на [О, 1]. Эта мера задается функцией распределения /(х) = ^i([0, х]) и, следовательно, изоморфна мере Лебега. Доказательство утверждения о полноте каждого базиса можно найти в [271]. Определение П 6.4. Пространство (Л,5, р) с конечной мерой fj, называется пространством Лебега, если оно изоморфно объединению отрезка [О, а] с мерой Лебега не более чем со счетным числом точек положительной меры. Стандартные утверждения из теории меры Лебега (лемма Фату, теорема о монотонной сходимости, теорема Лебега об (ограниченной) сходимости и т. д.) по определению дословно применимы к любому пространству Лебега. Если {X, 5, fs) и (Д Т, и) — пространства с мерой, то мера и называется абсолютно непрерывной относительно ц (обозначение u<^fj,), если каждое множество нулевой ^i-меры пренебрежимо для jy.
716 Приложение. НЕОБХОДИМЫЕ СВЕДЕНИЯ Теорема П 6.5. Если (X^S^fj,) и (Х^ Т, и) — пространства с конечной мерой _и I/ ^^, то существует такая функция р\ X —*R, измеримая относительно пополнения S пространства S, что для каждого множества А из пополнения Т выполнено равенство и{А) = J pdji, где JX — пополнение р.. А Это следствие теоремы В из раздела 31 [U1]. Здесь же мы в частности утверждаем, что пополнение S содержит пополнение Т. П 6 б. Меры и топология. Здесь будут рассмотрены меры на пространствах, обладающих топологической структурой, совместимой с измеримой структурой. Определение П б.б. Пусть X — сепарабельное локально компактное хаусдорфово пространство и В — ст-алгебра борелевских множеств, т. е. ст-алгебра, порожденная замкнутыми множествами. Тогда мера Бореля — это такая мера ^i, определенная иа В, что fi{B) < оо для компактных множеств В. Главное свойство борелевских мер состоит в том, что они регулярны, т. е. для каждого ˆ мы имеем (л{В) = 'т^{(л{0)\В СО открыто} = зир{^1(Я')|^)Г С В компактно}. Кроме того, каждая непрерывная функция /: Л" —* R измерима по Борелю, т. е. прообразы открытых множеств измеримы по Борелю, и для каждого компактного множества К имеется такая вложенная последовательность {/„}„ gN неотрицательных непрерывных функций с компактным носителем, что /„ —* Хк поточечно, где Хк — характеристическая функция К. Из сепарабельности X следует сепарабельность меры: для каждой точки х^ из счетного плотного подмножества рассмотрим счетную совокупность открытых окрестностей с такими компактными замыканиями В.., что Г1 -9;у = {х.}. Тем самым определен базис. Кроме того, каждый атом является точкой, 3 поскольку мера регулярна, а топология хаусдорфова. Теорема П 6.7. Любая борелевская вероятностная мера р, на сепарабельном локально компактном хаусдорфовом пространстве X определяет пространство Лебега. Доказательство. Без потерн общности можно считать, что пространство X компактно и мера fi неатомарная. Тогда X метризуемо. Мы используем здесь следующий результат. Лемма П 6.8. Существует конечное разбиение пространства X на множества произвольно малого диаметра, которьш содержатся в замыканиях своих внутренностей и границы которых—множества меры нуль. Доказательство. Выберем диаметр d и рассмотрим такое конечное множество {x^}^_j, что (^/2)-шары с центрами в х^ покрывают X. Для данного а:^ границы шаров радиуса г при d/2 <г <d попарно не пересекаются, следовательно, существует такое г^, что мера границы щара радиуса г^ с центром в х^ равна нулю. Рассмотрим совокупность -8(х^, г^). Положим С| = 5(х., Г|), и далее по индукции пусть С^ = В(х^, rj\ U С^. Это и есть нужное нам разбиение. D Определим по индукции последовательность разбиений следующим образом: начнем с любого разбиения на непустые множества, как в лемме. Имея п-е разбиение ^„, рассмотрим разбиение ^„ + 1 "^ непустые множества диаметра 2~", как и выше, подчиненные разбиению ^„ таким образом, что каждый элемент ^„ . i содержится в элементе ^„, и, кроме того, выбе- рем ^„ ^ 1 так, что каждое с^^^ содержит одинаковое количество элементов ^„ +1 ■ Наконец, пусть ^„ + 1 —разбиение на множества, каждое из которых является объединением элементов разбиения ^„ +1» "° одному из каждого с^^^. Далее заметим, что для этой конструкции любое пересечение замыканий элементов последовательности В^ G \^ есть точка. Множество точек, которые получаются с помощью данной конструкции двумя различными способами, содержится в объединении границ разбиений, следовательно, пренебрежимо. Таким образом, на множестве полной меры имеется взаимно однозначное соответствие между X и пространством последовательностей, которое, следовательно, обладает борелевской мерой, индуцированной р,. D § П 7. Теория гомологии В этом параграфе вводится ряд понятий из теории гомологии, которые нужны нам при определении степени отображения и обсуждении числа Лефшеца.
§ П 7. ТЕОРИЯ ГОМОЛОГИИ 717 Определение П7Л. Для чисел А, N gN и таких точек г^,..., v^ €R^, что система {vi -г^}, = 1 линейно независима, выпуклая оболочка а множества {г^,..., Vf^} называется (А-мерным) симплексом, натянутым на векторы {г^,..., Uj^}, и и,- называются вершинами симплекса. Симплексы, натянутые на подмножества множества {г^,..., v^}, называются гранями симплекса а. Симплициальным комплексом S называется конечная совокупность таких симплексов, что любые два ее симплекса пересекаются по общей грани. Объединение симплексов из S обозначается \S\. Триангуляцией многообразия М называется пара (S^ h), состояшдя из симплициалы1ого комплекса S и гомеоморфизма h: S —*^ М этого симплициального комплекса на М. Образы симплексов, граней и вершин относительно h также называются симплексами, гранями и вершинами. Отождествляя два упорядочения множества {г^,..., Vf^} вершин симплекса в М, если они переводятся друг в друга четной перестановкой, мы назовем симплекс с выбором упорядочения вершин (по модулю четной перестановки) ориентированным симплексом. Выбранная ориентация тогда называется положительной ориентацией, а другая — отрицательной ориентацией. Если <7 — ориентированный симплекс, то обозначим через -а тот же симплекс с отрицательной ориентацией. Заметим, что ориентация симплекса индуцирует ориентацию на каждой его грани, так как вершины грани образуют подмножество множества вершин симплекса. Выберем триангуляцию (5, А) многообразия М и рассмотрим формальные суммы J^ "i*?",. где а- —ориентированные Л-симплексы и п^- GZ. Для п^ <0 мы полагаем п^а^ .*= (—п^)(—<т^). Набор таких формальных сумм с очевидной аддитивной структурой образует группу, порожденную к -симплексами, с единственными соотношениями а+{—(т)~0 к а^+(т. = а. + а^, т. е. конечно порожденную свободную абелеву группу. Определение П7.2. Формальная сумма J^ п^ о-^ ориентируемых А-симплексов называется к-цепью. Обозначим через С^ множество А-цепей. Граничный оператор д: Ck~*^k-\ определяется равенством да- Е (Т.. 1=0 для ориентированного А-симплкеса а, где а. —{к — 1)-одиомерные грани а с индуцированной ориентацией; на все множество С^ этот оператор продолжается по линейности. Для триангу- dimA/ ляции S положим X ^ S {г~ч card{o-1 а является А-мерным симплексом из 5}. Оказывается, что число х не зависит от выбора триангуляции данного многообразия М и, таким образом, задает топологический инвариант х(-^)< называемый эйлеровой характеристикой М. Важный комбинаторный факт состоит в том, что граница границы равна нулю. Теорема П7.3 (лемма Пуанкаре), д^ = 0. Поскольку отображение д: C^—*Cf._i по определению является гомоморфизмом относительно аддитивной структуры, лемма Пуанкаре показывает, что множество -Sj^ := 9(C;^^i) С С С^ А-мерных границ представляет собой подгруппу группы Z^ := кег9 = {с G Cf^\dC = 0} А-мерных циклов. Так как группа Cj^ абелева, группа Bj^ нормальна в С/^. Определение П 7.4. Группа Яь(М,Z):= Hf^:~ Zf./В^ называется к-й группой гомологии М с целыми коэффициентами. Как и всякая конечно порожденная абелева группа, Н^ может быть представлена в виде Z^' ф F, где F — конечная абелева группа. Группа Z^' тогда называется свободной частью Hf., и число /З/^ называется к -м числом Бетти. Нулевая группа гомологии многообразия всегда равна Z", где п — число его компонент связности. Если определить коммутант группы равенством [7ri(M, р), 7ri(M, р)]:= {аба-'6-' | о, Ь€щ{М)}, то мы получим следующее замечательное утверждение. Теорема П7.5 (Гуревич). Для любой точки р связного многообразия М первая группа гомологии H^{M,Z) многообразия М изоморфна фактору 7ri(M,p)/[7ri(M,p),7ri(M,p)] фундаментальной группы тг, (М, р) многообразия М по коммутанту. Этот изоморфизм называется изоморфизмом Гуревича.
718 Приложение. НЕОБХОДИМЫЕ СВЕДЕНИЯ Предложение П 7.6. Пусть п ~ dim М. Тогда HJM, Z) с, { J если М ориентируемо, если М неориентируемо. Доказательство. Заметим, что В^ = О и, таким образом, H^ = Zj^. Предположим, что симплекс а содержится i раз в п-цикле с. Так как граница этого цикла — нуль, (п - 1)-грани а должны сокращаться с другими членами в дс. Таким образом, каждый соседний симплекс должен появляться i раз с соответствующей ориентацией. Итак, с есть i-кратная сумма всех согласованно ориентированных п-снмплексов триангуляции. В неорнентнруемом слз^ае последнее невозможно, так что тогда нет никаких п-циклов и Я„ = ^„ = 0. В ориентированном случае имеется в точности одна такая цепь для каждого г G Z, так что Я„ = ^„ = Z. D Замечание. Все группы гомологии гомотопически инварианты. Предложение П 7.7 (формула Эйлера — Пуанкаре). Пусть х{^) — эйлерова ха- dimM рактеристика М. Тогда Y1 (~U /^ь =Х(Л^). fc=0 Пример. Для 5™ числа Бетти имеют вид ;% = /3^ = 1 н /3jb = О, О < А; < т. Пример. Так как фундаментальная группа Т? тора T^ = R^/Z^ абелева, она совпадает с первой группой гомологии, т. е. /3i = 2. Другие числа Бетти: ^—\ (число компонент связности) и /^ = 1 (так как тор Т^ ориентируем). Для Т" оказывается, что /5^ = ( ^)• Пример. Для шара единственное отличное от нуля число Бетти ^ = ^, так как он гомотопен точке. Чтобы понять поведение отображения / с точки зрения гомологии, модифицируем это отображение, чтобы оно отражало структуру данной триангуляции. Предположим, что S и Т—два симплициальных комплекса, задающих триангуляции М. Отображение s: T—*S, которое отображает симплексы Т линейно в симплексы 5, называется симплициальным отображением. Комплекс Т называется измельчением S, если каждый симплекс S триангулируется симплексами Т. Как подмножества R™, комплексы S н Т тогда естественно отождествляются, и мы будем считать, что они триангулируют М с помощью общего гомеоморфизма h. Имеет место следующий результат. Для любого отображения j: М —* М и любой триангуляции S многообразия М существует измельчение S' симплициального комплекса S и симплициальное отображение s: 5' —* 5, гомотопное h'^ of oh. Такое отображение S называется симплициальной аппроксимацией /. Посредством этого отображения / действует на гомологиях: заметим, что А;-цепь с^ =2а,-(т^ на S порождает А:-цепь с'^ на S' при замене каждого симплекса а. А:-цепью из 5', триангулирующей его. Симплициальное отображение s переводит А:-цепь cj[ назад в цепь s^c^ на S. Можно показать, что тем самым определяется действие на к-х гомологиях, не зависящее от выбора симплициальной аппроксимации. Таким образом, в частном случае ориентируемого многообразия М, когда Я„(М, Z) = Z, отображение / индуцирует гомоморфизм /^: Z-^Z. Более общим образом, в качестве коэффициентов групп гомологии можно взять любое коммутативное кольцо R (вместо Z). При этом получаются группы гомологии Н^{М^ R), которые являются модулями над R. Следует начать с рассмотрения формальных сумм симплексов с коэффициентами из Л и далее действовать, как прежде. В частности, если К — поле, то группа Н^{М, К) изоморфна К^^ и, таким образом, определяется свободной частью группы гомологии с коэффициентами из Z. Как упоминалось в § 3, к-я группа когомологий де Рама канонически изоморфна (интегрирование является спариванием) векторному пространству, двойственному к Ни{М,Щ. В заключение отметим элементарный факт, касающийся топологии плоскости. Доказательство не использует теорию гомологии по-настоящему, но записывается проще, если иметь в виду фундаментальные определения этой теории. Лемма П 7.8. Предположим, что Oj, О2 С R^ — такие непересекающиеся связные открытые множества, что dOi С ^2- ^"^^^ множество 50j связно.
§ П 7. ТЕОРИЯ ГОМОЛОГИИ 719 Доказательство. Сначала докажем, что если Fp i^ С R— такие непересекающиеся замкнутые множества, что множества R\F^ связны (i = 1,2), то множество R^\(Fi и i^) линейно связно. С этой целью триангулируем R^ и выберем it, у GR*\(Fi ui^). Тогда существуют такие 1-цепи «j, «g в R^\F^ и R^\i^ соответственно, что {ж, у} = 5эс,.. Мы можем ориентировать «2 так, что Х( + «2 будет гомологично нулю в R^, т. е. будет ограничивать компактную 2-цепь К в R^. После некоторого измельчения триангуляции можно считать, что цепь К не содержит ни одной общей для Fj и i^ клетки (т. е. 2-снмплекса). Обозначим через Щ симплициальнын комплекс клеток, пересекающих Fj. Граница zq := z2 + dKi равна {а:, у}, так как дК^ — цикл, и, очевидно, |5Cj,|ni^ = 0 и |A"j|nfe=:0, так что |zQ|ni^ = 0. Таким образом, остается показать, что |zQ|nFi = 0. Заметим, что\х^\=:\х2—дК^\ = \—'х^+{х^+Х2'-дК^)\с\х^\и\х^-\--зс2~дК,\ и IZJ пFi =г0. Кроме того, F^ не пересекается с К-Щ и его граница равна |х^ + zg - &^i\- Чтобы доказать лемму, выберем замкнутое множество F Q Ю^ и заметим, что любая точка X е дОЛЕ обладает связной окрестностью, не пересекающейся с F, так что F не отделяет О^ от Og. Но это значит, что если дО^ = F^ и i^ и наши множества не пересекаются и замкнуты, то мы приходим к противоречию со сделанным выше наблюдением. D § П 8. Локально компактные группы и группы Ли в этом параграфе мы рассматриваем группы, снабженные топологией, инвариантной относительно групповых операций. Топологическая группа — это группа с такой топологией, что все левые сдвиги L : д^-* д^д, правые сдвиги R : д^-* ggQ и отображение д>-* д~ яв- ляются гомеоморфизмами. Хорошо известные элементарные примеры — это R с операцией сложения, окружность и тор. В этих случаях групповые операции, очевидно, являются диффеоморфизмами. Другие важные примеры включают группы матриц относительно умножения, например GL(n,R), SL(n,R) и другие группы, описанные после определения П 3.1. Топологическая группа называется локально компактной, если любая точка (или, что эквивалентно, единичный элемент) имеет окрестность, замыкание которой компактно. На такой группе имеется единственная с точностью до скалярного множителя локально конечная борелевская мера, инвариантная относительно правых сдвигов, которая называется правой (или право- инвариантной) it мерой Хаара. Аналогичным образом, левая (или левоинвариантная мера Хаара — это единственная с точностью до скалярного множителя борелевская мера, инвариантная относительно всех левых сдвигов. Эти меры конечны тогда и только тогда, когда группа компактна. Наиболее интересны и важны для нас ситуации, когда правоинвариантная мера Хаара является также и левоинварнантной. Это имеет место для всех коммутативных групп, компактных групп и, что особенно важно, для унимодулярных линейных групп, т. е. замкнутых подгрупп группы SL(n, R) всех (п х п)-матрнц с определителем единица. Группы, для которых левая и правая меры Хаара совпадают (и естественно называются просто мерой Хаара), называются унимодулярными, и мы будем обсуждать только такие группы. Подгруппа Г группы G называется дискретной, если она замкнута и все ее точки изолированы в G. В этом случае однородное пространство G/T орбит Rg, д €Т (соответственно пространство T\G, орбнт Ьд, д€Т), называется правым (соответственно левым) фактором G по Г. Если один из этих факторов (а следовательно, и другой) компактен в топологии фактор- пространства, Г называется равномерной или кокомпактной решеткой. Нетрудно видеть, что для равномерной решетки любая правая (соответственно левая) мера Хаара по G проектируется в конечную борелевскую меру на однородном пространстве G/T (соответственно r\G). Более общим образом, дискретная подгруппа Г называется решеткой в G, если правая мера Хаара на G проектируется в конечную меру на G/T. Неравномерная решетка — это такая решетка, для которой однородное пространство некомпактно, но тем не менее имеет конечную меру Хаара. Самый простой, но исключительно важный пример, в особенности для теорнн чисел, — это подгруппа SL(2, Z) всех целочисленных матриц в группе SL(2, R) (2 х 2)-матриц с определителем единица. Этот факт обобщается на высшие размерности: SL(n,Z) является неравномерной решеткой в SL(n,R). Определение П8.1. Группой Ли называется такое дифференцируемое многообразие со структурой группы •, что все левые сдвиги L : д^-^ gQ- д и правые сдвиги R : д^-^ д • д^^ а также отображение д^^ д~^ являются диффеоморфизмами. Подгруппой Ли называется подгруппа некоторой группы Лн, являюшдяся подмногообразием. Примеры подгрупп Ли группы R" — линейные подпространства, а также целые кратные фиксированного вектора н их произведения. Группа Z" является дискретной подгруппой R",
720 Приложение. НЕОБХОДИМЫЕ СВЕДЕНИЯ а группа SL(n,Z) целочисленных матриц с определителем единица—дискретной подгруппой группы SL(n, R). Отметим, что GL(n, Z) не является подгруппой GL(n, R). Определение П8.2. Алгеброй Ли нааывается линейное пространство д с антисимметричной билинейной операцией [•,•]: дх д~*д^ удовлетворяющей тождеству Якоби (П 3.2). Идеалом называется такая подалгебра а с 5» что [д^ а] с а. Если а, Ъ — идеалы д^ то и [а. Ь\ — идеал, и, таким образом, мы имеем производную последовательность идеалов дЭ д := [д, д] D д" .•= [д', ^'l ^ • • • Алгебра д называется абелевой^ если д' ==0у и разрешимой^ если производная последовательность обращается в (тождественный) нуль после конечного числа шагов. Алгебра Ли называется полупросшой, если нулевой идеал является единственным разрешимьш идеалом, и простой^ если в д нет нетривиальных идеалов. Убывающая центральная последовательность д — последовательность идеалов д^ :^ дЭд^:^[д,д^]Эд^:= [д,9^]Э... Алгебра д называется нильпотентной^ если эта последовательность обращается в нуль. Векторные поля на любом дифференцируемом многообразии образуют бесконечномерную алгебру Ли с такой скобкой Ли, как в определении П 3.3. Так как левые сдвиги —диффеоморфизмы, они действуют на векторные поля. Скобка Ли определена на пространстве C{G) левониварнантных векторных полей (т. е. векторных полей, инвариантных относительно всех левых сдвигов), так что это линейное пространство становится алгеброй Ли, называемой алгеброй Ли группы Ли G. Алгебра C{G) канонически изоморфна касательному пространству к G в нуле. Таким образом, ее размерность конечна и совпадает с размерностью G. И наоборот, каждая алгебра Ли может быть единственным образом представлена как алгебра одиос- вязной группы Ли. Важными примерами групп Ли являются группа невырожденных матриц GL(n, R) и замкнутые подгруппы, такие как SL(n, R) (матрицы с определителем единица, специальная линейная группа), 0(п, R) (ортогональные матрицы, ортогональная группа) и SO(n, Ю (ортогональные матрицы с определителем единица, специальная ортогональная группа). Скобка Ли задается матричным коммутатором [А,В]= АВ — ВА. Экспоненциаль- А °° А^ ное отображение ехр(Л) := е"* = "^ —г- определяет отображение касательного пространст- п=о '*• ва в единице, т. е. алгебры Ли, на матричную группу, а это» в свою очередь, есть не что иное, как явное представление экспоненциального отображения (9.5.1) из дифференциальной геометрии (из-за чего, собственно, это отображение получило свое название). На любой группе Ли выбор скалярного произведения на Щ^ G задает левоинварнантную римаиову метрику с помощью левых сдвигов. Геодезические, проходящие через Id для такой римановой метрики, — это в точности одно параметрические подгруппы G. Тогда G — полное дифференцируемое многообразие относительно этой метрики, и экспоненциальное отображение глобально огуеделено на T^^G. Для матричных групп геодезические, проходящие через Id» имеют вид i ь-о е , потому что в точности такой вид имеют однопараметрнческне подгруппы. Отметим, что, таким образом, алгебра C(G) канонически определяется как линейное пространство матриц, полученных поэлементным дифференцированием однопараметрнческих подгрупп матричной группы G. Это помогает определить алгебры Ли, соответствующие данным матричным группам. Это £(GL(n, Щ) = дГ(п, R) — пространство всех (п х п)"Матрнц; C(SL(n, R)) = st(n, R) — пространство матриц с нулевым следом (потгалу что det е^ = е*""^); £(50(п, R)) = С{0(п, R))= о(пу R) — пространство кососимметрических матриц. Симплектическая группа Sp(n, R)cGL(2n, R) таких матриц Л, что Л * Л4 = J, где J = ( J^j^ У ). Id — единица GL(n, R), имеет алгебру Ли fip(n,R) = {^ Ggr(2n,R)| JA -l-^*J=0 = Л* + А}. Группа SO(p, д, R) таких матриц Л, что А*1^^А = /р^^, где 1^^=1 ^ JJ J, Idfc — (А X А)-единнчная матрица, обладает алгеброй Ли so(p, д, R), состоящей из матриц вида 1 ^ ^ 1, где Л, С — кососимметрнческне матрицы размерностей р и g соответственно. Автоморфизм (т. е. дифференцируемый изоморфизм группы) связной группы Ли G однозначно определяется своим дифференциалом в нуле. Так как базис в JJ^jG определяет левоинвариантные базисные поля на G, имеется левоннвариантная форма объема, которая определяет левонивариантную меру Хаара. Абелевы, компактные, дискретные, полупростые и связные нильпотентные группы (т. е. группы Ли» алгебры Ли которых полупросты и нильпотентны соответственно), унимодулярны. Существование решеток не всегда очевидно, но в пространстве R" их много и все они изоморфны Z™. Решетки в группе Гейзенберга строятся в § 17.3. Для всякого такого фактора действие группы G левыми сдвигами определяет действие на факторе и, следовательно, дает важные примеры динамических систем, в которых «время» может быть многомерным. Например, действие R на 5 = R/Z — поток, cooтвeтcтвyюш^^й движению с единичной скоростью по окружности.
ПРИМЕЧАНИЯ Введение § 1. В дополнение к комментариям в тексте книги мы приводим неполный и» конечно же, субъективный обзор литературы по основным областям теории динамических систем. Эргодическая теория. Несмотря на отсутствие многих доказательств, особенно доказательств важных предварительных результатов, и на то обстоятельство» что она была написана почти двадцать лет назад, книга Уолтерса [323] скорее, чем любая другая, может служить стандартным учебником по эргодической теории. Со времени ее появления в эргоди- ческой теории возникло несколько важных новых направлении, среди которых следует упомянуть теорию монотонной эквивалентности (эквивалентности по Какутанн), комбинаторную эргодическую теорию и теорию финитарного изоморфизма. Книта. Корнфельда, Синая и Фомина [71] является очень ценным, хотя и неполным, пособием по эргодической теории. В частности, в ней представлен широкий взгляд на предмет в контексте общей теории динамических систем, подобно тому как в нашей книге представлена теория гладких динамических систем. Книга Петерсона [253] очень хорошо освещает многие центральные вопросы эргодической теории, включая эргодическне теоремы, но в ней практически совсем не уделяется внимания связи между эргодической теорией и другими областями динамики. Книга содержит много упражнений. Небольшая книга Рудольфа [276] может служить полезным приложением к любому из трех вышеупомянутых источников, так как она освещает несколько тем, не затронутых ни в одной из этих трех книг. Блестящая короткая монография Халмоша [112] сыграла важную роль в развитии эргодической теории, но к настоящему моменту представляет в основном исторический интерес. Она дает хороший обзор состояния предмета в период, предшествовавший открытию энтропии. Тем, кто интересуется более ранними источниками, мы рекомендуем основополагающее статьи фон Неймана [224], [225] и монографию Хопфа [127] 1937 года издания. Главными источниками по отдельным областям эргодической теории являются работы 237 (теория изоморфизма Орнстейна), [138] и [238] (теория эквивалеитности по Какутани), 155 и [275] (теория финитарного изоморфизма), [93] (комбинаторная эргодическая теория), 165 (эргодическне теоремы) и [166], [167] (орбитальная эквивалентность преобразований с квазн- инварнантнон мерой). Топологическая и символическая динамика. Ранние достижения топологической динамики описаны в [101]. Важным разделом топологической динамики является теория дистальных расширении, развитая Фюрстенбергом в [92]. Видимо, невозможно написать всеобъемлющее и независимое изложение топологической динамики, так как многие важные аспекты этого предмета тесно связаны с другими областями теории динамических систем. Книга Денкера, Грилленбергера и Зигмунда [73] предстазляет собой интересный синтез эргодической теории и топологической динамики, в основном с точки зрения приложении к гладким динамическим системам и символической динамике. Обзорная статья Бойла [59] содержит доступное современное введение в символическую динамику, а также описание основных результатов в этой области. Всестороннее введение а предмет содержится в книге Линда и Маркуса [180]. Дифференциальная динамика и гладкая эргодическая теория. Большинство существующих книг по теории гладких динамических систем, как учебников, так и монографий, посвящены отдельным аспектам и специальным вопросам этой теории. Гиперболическая теория, рассматриваемая в основном с топологической и геометрической точек зрения, впервые появилась в современной форме в основополагающей статье Смен- ла [310]. Эта же точка зрения хорошо представлена в разных формах в [234], [242], [296] и [131]. Наиболее подробной и современной из работ такого рода является книга Робинсона [271]. Другая тенденция в современной гиперболической динамике, связанная в основном с русской школой в теории динамических систем, подчеркивает, наряду с геометрическими и топологическими, аналитические и вероятностные аспекты. Этот подход впервые был предложен в фундаментальной монографии Аносова [16]. Несмотря на сложность и некоторую архаичность изложения, она остается первоклассным источником информации о предмете. Эта работа, вместе с обзорной статьей Аносова и Синая [20], положила начало современной гладкой эргодической теории.
722 ПРИМЕЧАНИЯ Среди книг, отражающих синтетический взглвд на дифференциальную динамику и уделяющих серьезное внимание гладкой эргодической теории, следует упомянуть относительно элементарную и очень полезную книгу Шлейка [316], а также превосходную более продвинутую книгу Мане [191]. За изложением гладкой эргодической теории мы отсылаем читателя к статьям Песина [250], [25!]. [252] и более поздним работам [151], [261], [282]. [265] и [175]. Две прекрасные, хотя к настоящему времени несколько устаревшие книги Арнольда и Аве- за [27] и Мозера [219] сыграли важную роль в формировании современного разностороннего взгляда на теорию гладких динамических систем. Авторы несомненно во многом обязаны этим книгам. Сборники обзорных статей [12] и [105] освещают различные аспекты дифференщ^альной динамики и связанных с ней областей математики. Важная книга Рюэля [281] содержит наиболее полное изложение связей между символической динамикой, эргодической теорией и дифференшкальной динамикой, основанное на некоторых идеях статистической механики. Центральную роль в развитии этих идей сыграла более ранняя основополагающая статья Синая [304]. Существует множество книг, посвященных динамике малых размерностей. Среди них учебники [74], [37] и монографии [203], [204], [67]. Среди появившихся в последние годы многочисленных работ, посвященных применению динамики малых размерностей и связности, мы особенно рекомендуем широкому кругу читателей книгу Строгаца [315], живо и остроумно трактующую приложения. Книги [121], [ ПО] и [318] описывают бесконечномерные динамические системы, которые возникают при исследовании параболических уравнений в частных производных и других сходных систем с сильным диссипативным поведением. Такие системы изучаются с помощью подходящих обобщений теории устойчивых и неустойчивых многообразий, а также понятий и методов топологической динамики и эргодической теории. Эти книги содержат хороший набор конкретных задач, которые могут быть решены подобными способами. Гамильтонова динамика. Теория гамильтоновых систем возникла как самостоятельная область математики в рамках теории динамических систем благодаря книге Арнольда [26]. Книга Абрахама и Марсдена [1] содержит много полезных подготовительных результатов, а также довольно подробное описание многих вопросов. Несколько учебников по классической механике были написаны под влиянием этих идей и могут сами то себе служить хорошими источниками ниформащ^н (например, [94]). Ввиду отсутствия полной монографин по КАМ-теорни Колмогорова ^ Арнольда—Мозера книга [219] и статьи [215], [216] Мозера представляют собой лучшие из имеющихся введений в эту теорию. Статья Мозера в [105] является хорошим введением в современную теорию конечномерных вполне интегрируемых гамильтоновых систем. Очень важным инструментом в гамильтоновой динамике являются вариационные методы. Хорошее изложение этого предмета содержится в [84]. Конечномерная симплехтическая динамика представляет собой лишь одни из аспектов обширной области математики, которая также включает в себя симплектическую топологию, симплектическую геометрию, определенные разделы теории дифференциальных уравнений в частных производных на бесконечномерных симплектических структурах и т. д. Симплек- тическая топология и ее взаимосвязь с гамильтоновой динамикой рассматривается в недавно вышедшей в свет вполне доступной книге Хофера и Цендера [126], в которой объясняется связь между определенной жесткостью симплектических отображений и периодическими явлениями в динамике в терминах симплектических объемов. В бесконечномерной гамильтоновой динамике подробно изучались две области. Одна из иих — теория бесконечномерных вполне интегрируемых систем, которая включает качественное описание некоторых важных систем, подчиняющихся нелинейным дифференциальным уравнениям в частных производных, например уравнению Кортевега — де Фриза. Хотя всеобъемлющее введение или обзор этой теории отсутствуют, следует упомянуть книгу Билса, Дефта и Томен [36], которая описывает основные методы и примеры. Описание второй хорошо изученной области бесконечномерной гамильтоновой динамики, а именно бесконечномерных обобщений КАМ-теорин, содержится в [170]. § 2. Детальное обсуждение связей между дифференциальными уравнениями, векторными полями и потоками содержится во многих современных книгах как по теории обыкновенных дифференциальных уравнений (например, [24]), так и по теории дифференцируемых многообразий [47]. § 3. Конструкция надстройки в топологии является важным способом построения многообразий и других интересных топологических пространств. § 4. Трансверсальные гомоклиническне точкн и интересные инвариантные множества в их окрестностях принадлежат к числу наиболее важных и популярных объектов в динамике. Нахождение таких точек представляет собой наиболее распространенный способ, позволяющий строго установить наличие сложного поведения орбит в различных классах (как конеч-
ПРИМЕЧАНИЯ 723 номерных, так н бесконечномерных) динамических систем. Хорошим примером такого рода является работа Леви по периодическим вынужденным колебаниям П77]. Поиск таких феноменов превратился в настоящую индустрию в прикладной динамике. К числу более серьезных продвижении в развитии полулокального подхода принадлежат теория изолированных блоков Коилн [68] и работы Алексеева по квазислучайным динамическим системам [8]- [10]. Глава 1 § 1- Принцип сжатых отображений используется практически во всех областях анализа, начиная с таких элементарных, но важных приложений, как доказательство теоремы о неявной функции и существование и единственность решений обыкновенных дифференциальных уравнений. § 3. Динамика и эргодическая теория сдвигов на компактных абелевых группах подробно рассматриваются в [71] (гл. 12) и [323] (гл. 3). Первое доказательство топологической транзитивности иррациональных вращений содержится в работе Якоби 1828 года. Другое доказательство принадлежит Дирихле (1841). § 6. Использование градиентных потоков для изучения топологии многообразий описано в первой главе классической книги Милнора [205]. Мы следуем Милнору в изложении трех элементарных примеров. Полезным динамическим обобщением понятия градиентного потока «типичной» функции является понятие системы Морса — Сменла [310]. § 7. * (с. 56). Квадратичное семейство Д научалось различными методами, включая традиционные аналитические доказательства, доказательства с использованием компьютеров и компьютерное моделирование. См., например, [204], [67]. § 8. Подобно тому как вращения окружности и сдвиги на торе являются частными примерами сдвигов на компактных абелевых группах, автоморфизмы и эндоморфизмы тора являются простейшими примерами автоморфизмов и эндоморфизмов компактных абелевых групп. Топологический сдвиг Бернулли, обсуждаемый в след^^ющем параграфе, и аттрактор Смейла, который обсуждается в § 17.1, также могут рассматриваться как автоморфизмы компактных абелевых групп. Изучение динамики и эргодической теории ав1томорфизмов компактных абелевых групп связано с вопросами, относящимися к коммутативной алгебре, алгебраической геометрии и в особенности алгебраической теории чисел. Эта взаимосвязь хорошо представлена в книге Шмидта [287], [288]. § 9. ^ (с. 64). Топологические цепи Маркова впервые появились в работе Парри [244] под названием «сдвиги конечного типа», которое широко используется в западной литературе. Используемый в нашей книге термин «топологическая цепь Маркова» был введен в употребление Алексеевым [6], [8]- [10]. Мы предпочитаем использовать этот термин, потому что он лучше отражает существо дела, а также подчеркивает аналогию между топологическими и вероятностными понятиями (подобно «топологической энтропии» и «метрической энтропии» в §§ 3.1 и 4.3 соответственно). Наряду с другими приложениями, Алексеев использовал топологические цепи Маркова для того, чтобы построить примеры ранее неизвестного поведения в таких классических задачах, как проблема трех тел [8]- [10]. ^ (с. 66). Название «теорема Перрона — Фробениуса» традиционно применяется к нескольким различным, но тесно связанным между собой результатам. Мы формулируем результат, который принадлежит Перрону [248] и был позднее обобщен Фробеннусом для неприводимых неотрицательных матриц. Этот результат изложен во многих книгах, например в [95]. Некоторые доказательства короче представленного нами, так как они используют теорему Брауэра о неподвижной точке [271]. Бесконечномерные обобщения теоремы Перрона — Фробениуса играют важную роль в гиперболической динамике, особенно в теории мер Гиббса и дзета-функций [279], [245]. ^ (с. 69). В классификации топологических цепей Маркова мы следуем Алексееву [11]. Классификация топологических цепей Маркова с точностью до топологической сопряженности (см. § 2.3) является центральной проблемой символической динамики. Вильяме [325], [326], [59] предложил ответ, который получил название «гипотезы Вильямса». Попытки доказать эту гипотезу привели к развитию интересных результатов и идей в символической динамике и недавно закончились построением (к сожалению, не очень интересного) контрпримера (Ким и Рауш).
724 ПРИМЕЧАНИЯ Глава 2 § I. Модули, описанные в этом параграфе (в п. в), н, в частности, результаты, подобные следствию 2.1.6, являются частью фольклора в геометрической динамике. Несколько математиков утверждают, что они получили эти результаты независимо друг от друга. Поскольку мы не можем с уверенностью сказать, кому на самом деле принадлежит приоритет, и поскольку мы не исследовали этот вопрос специально, воздержимся от приписывания кому-либо данных результатов. Мы ни в коей мере не утверждаем, что они принадлежат нам, и обсуждаем эти мо^О^ли только как примеры. Ю. С. Ильяшенко указал нам на то, что подобные модули могут быть использованы для классификации растягивающих отображений окружности (см. § 2.4) с точностью до гладкого сопряжения. В этом случае они не проясняют существенно структуру орбит. ^ (с. 73). Основные оценки в этом доказательстве были предоставлены нам Дэвидом де Латте. § 3. Краткое описание истории теории структурной устойчивости дано в § 1 введения. Следует добавить, что Андронов и Понтрягни в своей работе 1937 года [13] использовали французский термин «grossierete», который дословно переводится как «грубость». Смейл начал изучать это понятие в конце пятидесятых годов и обнаружил, под влиянием Левинсона [178], знаменитую «подкову» (см. п. 2.5 в). Этот пример, впервые представленный нескольким ведущим молодым русским математикам на незабываемой сессии конференции по нелинейным колебаниям в Киеве 1961 г., послужил мощным стимулом к развитию русской школы теории динамических систем [307]. Сначала Смейл надеялся доказать, что «большинство» систем структурно устойчиво, но вскоре он нашел контрпример [309], За ним последовали другие контрпримеры к нескольким ослабленным версиям гипотезы (см., например, [3]). После этого задача о нахождении необходимых и достаточных условий структурной устойчивости превратилась в одну из основных движущих сил в развитии теории на Западе. Достаточные условия сильной С^-структурной устойчивости были найдены Роббином [269] и усовершенствованы Робинсоном [270]. Доказательство необходимости этих условий, принадлежащее Мане (см. [190]), является одним из крупнейших достижений в развитии теории динамических систем. Лнао нашел доказательство [179] для систем малой размерности независимо от Майе и почти одновременно с ним. Увлекательная проблема определения того, при каких условиях С^-структурная устойчивость, 1 <тп^г, эквивалентна С -структурной устойчивости, до сих пор остается открытой. § 4, Базисная теория растягивающих диффеоморфизмов многообразий произвольной размерности была развита Шубом [294]. § 5. Как мы уже упоминали, подкова Смейла была первым примером структурно устойчивой системы со сложной структурой орбит [308] (см. предложение 6.5.3). Конструкция марковских разбиений для автоморфизмов двумерных торов принадлежит Адлеру и Вейссу, см. [5]. Эта небольшая работа представляет собой поворотный пункт в процессе установления связей между символической динамикой и теорией гладких динамических систем. Вскоре после этого появились работы Синая [303] и позже Боуэна [51], в которых строятся гораздо более сложные марковские разбиений для широкого класса систем с гиперболическим поведением. Мы обсуждаем общую конструкцию в § 18.7. Марковские разбиения быстро стали одним из наиболее мощных средств в гиперболической динамике и, в частности, в эргодической теории гиперболических систем. Это произошло благодаря тому, что с использованием марковских разбиений стало возможно применить термодинамический формализм, подсчет числа периодических орбит и другие методы, хорошо изученные в рамках символической динамики, для изучения гладких систем с гиперболическим поведением. По этому поводу см. [304]. [245]. * (с. 93). На самом деле такой же вывод можно сделать и для А > 4, если использовать более утонченную технику, опирающуюся на тот факт, что производная Шварца функции /д отрицательна. Эти методы рассматриваются в [204]. § 6. Наше доказательство структурной устойчивости основано на доказательстве Мозера для более общего случая [218]. Доказательство Мозера появилось после геометрических доказательств Смейла и Аносова, но было первым, в котором использовался метод неподвижной точки в соответствующем функциональном пространстве. Глобальный характер этого доказательства в случае тора (существование полусопряженности в пределах гомотопического класса) был установлен Франксом [85]. § 7, 8. Формальное описание метода итераций, а также доказательство теоремы Зигеля почти дословно заимствованы нами из статен Мозера [215], [216]. Сам по себе метод широко
ПРИМЕЧАНИЯ 725 известен как метод КАМ (Колмогорова — Арнольда — Мозера). История этого метода хорошо известна, и мы ограничимся лишь кратким обзором. Приблизительно в 1953 году Колмогоров обнаружил, что при малых возмущениях аналитических «невырожденных» вполне интегрируемых гамильтоновых систем сохраняются те инвариантные торы, векторы частоты которых не могут быть хорошо аппроксимированы рациональными векторами, т. е. являются диофан- товымн. Это противоречило широко распространенному убеждению, которое восходит еще к Пуанкаре, что поведение таких систем становится «хаотическим». Колмогоров oпyiбликoвaл краткое сообщение и набросок доказательства [162]. Детальное доказательство теоремы Колмогорова было опубликовано в 1962 г. его учеником Арнольдом [22], который также получил важное продвижение в частично вырожденном случае [23], необходимом для исследования вопроса об устойчивости солнечной системы. Заметим, что в полиостью вырожденном случае утверждение теоремы Колмогорова неверно [136]. Независимо Мозер разработал методы, которые позволили ему доказать версию теоремы Колмогорова для систем конечной гладкости, сначала для двух степеней свободы [213] и затем для общего случая. Он также описал этот метод в общих функционально аналитических терминах, что очень упростило его применение и породило ряд новых приложений (см. [215]). К наиболее заметным последующим работам в этой области приналлежат статьи Лазуткина [173], Рюсмана [284], Нехорошева [222], Сала- мона н Цеидера [285] и т. д. ^ (с. 106). Первоначальное доказательство теоремы Зигеля опиралось на продвинутую версию метода мажоризацни, который мы использовали в простой форме в нашем доказательстве предложения 2.1.3. См. также [298]. § 9. Предложение 2.9.5 было доказано Колмогоровым [161] незадолго до открытия КАМ- метода, где «малые знаменатели» также играют решающую роль. Глава 3 § I. ^ (с. 118). Понятие дзета-функции для динамических систем было введено Артниом и Мазуром в [30] и популяризовано Смейлом в [310]. Подробное изложение предмета содержится в книге [245]. ^ (с. 121). Топологическая энтропия была определена Адлером, Конхеймом и Мак-Андрю в 1965 г. в работе [4]. Авторы моделировали данное Колмогоровым определение энтропии относительно инварнаитной меры (см. § 4.3, упражнения 3.1.7-3.1.9) для топологической ситуации. Определение, основанное на отделенных множествах, было найдено независимо Дина- бургом в [75] и Боуэном в [50]. ^ (с. 125). Взаимосвязь между энтропией и скоростью роста объема была установлена Иомдиным [329]. /и1намнческие следствия этой связи исследуются в работе Ньюхауса [227]. ^ (с. 128). Энтропия фундаментальной группы была введена в работах [139] и [57]. Это понятие, конечно же, в течение некоторого времени было частью математического фольклора. ^ (с. 129). Гипотеза Шуба об энтропии утверждает, что для С^-отображения компактного гладкого многообразия /ц (/) = suplogr(/^^), см. [295]. Эта гипотеза послужила стимулом к появлению ряда важных работ. Она неверна для непрерывных отображений и даже для гомеоморфизмов. Гипотеза Шуба доказана в ряде специальных случаев (см. гл. 8 и [139]). Ее истинность для С°°-отображений следует из результата Иомдина. В общем случае для конечной гладкости вопрос до сих пор открыт. § 3. Наш список важных свойств типа возвращения не полон. Например, в программе Смейла классификации «типичных» гладких динамических систем важную роль играло понятие неблуждающего множества. Позже стало очевидным, что для общих классов динамических систем центральным является более слабое понятие цепной рекуррентности [68], [87]. Одни из способов измерения возвращения связан с инвариантными мерами (см. обзор в начале § 4.3). В топологической динамике имеется другой подход, примерами которого являются понятия проксимальных орбит или относительно плотных множеств, см. [77]. Глава 4 § 1- За историческими сведениями о развитии эргодической теории до введения понятия энтропии мы отсылаем читателя к [273] и к книге [112]. * (с. 145). Первоначальное доказательство теоремы Крылова — Боголюбова изложено в [168].
726 ПРИМЕЧАНИЯ (с. 145). Первоначальное доказательство эргоднческой теоремы Бнркгофа изложено в [46]. Представленное в настоящей книге доказательство сообщил нам IIImok со ссылкой на Неве. Мы также использовали упрощение, принадлежащее Фельдстилу и Басслеру. Имеются другие короткие доказательства этой теоремы, принадлежащие Шилдсу. Кацнельсону, Вейссу и др. Эргодическая теорема Биркгофа обобщалась во многих направлениях. См., например, [165]. ^ (с. 147). Существенный вклад в установление связи между инвариантными мерами и асимптотическим распределением орбит был сделан Окстоби в [240]. § 2. ^ (с. 161). До введения энтропии перемешивание рассматривалось как главное «стохастическое» свойство преобразований с инвариантной мерой (см., например, обсуждение в книге [112]). Это, однако, одно из тех понятий, которые определяются просто и естественно, но очень трудны для исследования. Яркий пример естественного вопроса, оказавшегося исключительно сложным, — проблема «кратного перемешивания» Рохлина (см. [112]). ^ (с. 169). Первоначальное доказательство равномерного распределения дробных частей многочленов принадлежит Вейлю и опирается на оценки тригонометрических сумм. Доказательство, использующее эргодическую теорию, которое представлено в упражнениях, принадлежит Фюрстеибергу. § 3- Метрическая энтропия была открыта Колмогоровым [163]. Его определение было тесно связано с понятием энтропии информационного канала, т. е. стационарного случайного процесса, введенным Шенноном в 1948 г. в [291]. В 1956 г. Хинчин придал теории Шеннона строгую математическую форму, которая по существу содержит наше определение энтропии преобразования относительно фиксированного разбиения [157]. Это открыло путь для фундаментального наблюдения, что энтропия может рассматриваться как инвариант самого преобразования, которое было сделано Колмогоровым. Введение энтропии было переломным моментом в развитии эргодическон теории. Первоначально Колмогоров ввел понятие энтропии для различения сдвигов с различными бернуллиевскимн мерами, см. § 4.4. Он также ввел важное понятие iiT-системы, т. е. динамической системы, энтропия любого разбиения которой положительна. Это свойство оказалось «правильным» свойством типа перемешивания. Среди наиболее важных достижений в эргоднческой теории после введения энтропии отметим теорему Синая о слабом изоморфизме [300], теорию изоморфизмов Орнстейна [236], [237], теорию финитарных изоморфизмов Кина и Смородинского [1о5] и теорию монотонной эквивалентности (эквивалентности по Какутанн) [139], [238]. Энтропия также играет центральную роль в гладкой эргоднческой теории (см. гл. 20 и дополнение). Лучшие стандартные источники сведений об энтропии и ^Г-системах — статья Рохлина [274] и книга Перри [244 а] * (с. 170). Этот факт следует из эквивалентности определений энтропии, данных в [140]. § 4. Инвариантная мера для топологических цепей Маркова, заданная уравнениями (4.4.5) и (4.4.6), была введена Перри в [244]. Она использовалась Адлером и Венссом при доказательстве того факта, что автоморфизмы двумерного тора с равной энтропией метрически изоморфны. Доказательство опирается на марковское разбиение, описанное в § 2.5. Хотя этот факт теперь может быть доказан с помощью теории изоморфизмов Орнстейна. он предшествовал работе Орнстейна об изоморфизмах сдвигов Бернулли и был одним из ранних нетривиальных примеров метрического изоморфизма в динамике. § 5. Гудвин в [100] первым доказал неравенство \ ^ h . Противоположное неравенство было сначала доказано Диаибургом в [75] при дополнительном предположении, что фазовое пространство имеет конечную топологическую размерность, а затем Гудманом в [99] для общего случая. Ряд упрощений н обобщений появился позже. Одно из них представлено в § 20.2. Мы следуем доказательству Мизюревича. которое особенно привлекательно из-за его простоты и гибкости, см. [207]. Глава 5 § 1. ^ (с. !93). Проблема существования инвариантной (конечной или а-конечной) меры, эквивалентной данной квазнинвариантной мере, является центральной проблемой в той области эргодическон теории, которая связана с преобразованиями с квазиниварнаитной мерой. За обзором ранних результатов в этом направлении мы отсылаем читателя к [112]. Позже было обнаружено, что эта проблема тесно связана с классификацией алгебр фон Неймана. См. [166], [167]. [70]. ^ (с. 199). Насколько нам известно, первое доказательство существования абсолютно непрерывной инвариантной меры для растягивающего отображения (не только на окружности)
ПРИМЕЧАНИЯ 727 было получено Крижевским и Шленком в 1969 г. (см. [169]). Наше доказательство отличается от многочисленных доказательств, имеющихся в литературе. Существование абсолютно непрерывной инвариантной меры для более общих классов отображений интервала и окружности 51вляется одной из основных проблем одномерной динамики. Относительно простое, но полезное обобщение приводится в [172]. Дальнейшие сведения содержатся в примечаниях к § 16.2. ^ (с. 200). Оценки ограниченного искажения играют центральную роль в одномерной дифференциальной динамике. Это впервые понял Данжуа [72]. Мы будем многократно сталкиваться с оценками ограниченного искажения. * (с. 202). Предложение 5.1.26 представляет собой очень простую иллюстрацию явления, которое играет центральную роль в гладкой эргодической теории: энтропия тесно связана с нифниитезимальным экспоненциальным разбеганнем орбит. Это было впервые установлено Синаем [301] в гиперболическом случае (ср. с теоремой 20.4.1) н Рюэлем, Песиным, Ледрапье и Янг в общем случае [280], [251], [175], [176]. Неравенство Рюэля доказано в дополнении (теорема Д 2.13). ^ (с. 203). Два первоначальных доказательства теоремы 5.1.27 содержатся в [214]. Мы воспроизводим второе из них. Гомотопический прием был изобретен Томом. Он интенсивно используется в теории особенностей дифференцируемых отображений. § 2. ^ (с. 206). В изложении задачи центральных сил мы следуем [1]. § 4. ^ (с. 222). Это следует из теоремы Коебе о регуляризации, которую можно найти в более продвинутых книгах по теории римановых поверхностен. ^ (с. 222). Фундаментальные группы компактных факторов гиперболической плоскости являются частным случаем фуксовых групп первого рода. Хороший и доступный стандартный источник по этой теме, который также содержит необходимый материал из гиперболической геометрии, — книга [152]. ^ (с. 224). Это первоначально было показано Артином в [29]. ^ (с. 224). Первоначальное доказательство Хедлуида [119] использует методы теории функций и тем самым несколько напоминает доказательство из § 4.2, основанное на рядах Фурье. Хопф [128], [129] доказал эргодичность геодезических потоков на поверхностях переменной отрицательной кривизны. Наше доказательство представляет метод Хопфа в несколько иных терминах. Дальнейшее развитие этого метода представлено в [20] для случая систем Аносова и в [251] для неравномерно гиперболических систем. § 5- Гамильтоновы системы и связанные темы рассматриваются в [1], [26]. * (с. 235). Теорема Лиувилля в полной форме доказана в § 5.2 книги [1]. Глава 6 § 2. Превосходный исторический обзор, касающийся теоремы Адамара — Перрона и связанных с ней вопросов, а также множество ссылок содержатся в § 4 книги [16]. Этой теме посвящена чрезвычайно обширная литература, вышедшая как до книги Аносова, так и после нее. ^ (с. 250). Этот метод восходит еще к Адамару [109]. Альтернативный подход, введенный Перроном [249] и описанный в [16], основан на теореме о постоянно действующих возмущениях (см. статью Алексеева из [12])- § 3. ^ (с. 265). Первоначальные доказательства теоремы 6.3.1 читатель найдет в [116] и [102]. § 4. Аносов ввел класс систем, который теперь носит его имя, в [14]. Он называл эти объекты «У-системами>. В классической статье [310] Смейл ввел понятие гиперболического множества и развил основы теории. Он также начал использовать термин «системы Аносова», который быстро стал стандартным. В [16] Аносов разработал ряд фундаментальных методов, включающих теорию устойчивых и неустойчивых расслоений н лемму о замыкании, которые также верны для обшлх гиперболических множеств. ^ (с. 275). Насколько мы знаем, доказательство, приведенное в этой книге, которое обходится без использования бесконечномерных пространств и устойчивых и неустойчивых многообразий, никогда не появлялось в литературе.
728 ПРИМЕЧАНИЯ (с. 277J. Термин «локально максимальное» гиперболическое множество был введен Алексеевым (см. [7]), который называл такие множества локально максимальными перронов- скимн множествами. Этот термин редко нспольэуетси в западной литературе, где данные множества обычно называются «базисными». Такая терминология развилась из первоначальной программы Смейла, который исследовал системы с глобальным гиперболическим поведением (Аксиома А). В частности» она используется в ряде статей Боуэна, которые содержат важную ^асть теории гиперболических множеств и которым мы частично следуем в дальнейшем. Мы считаем» что термин» введенный Алексеевым» лучше отражает природу этих множеств. § 5. ^ (с. 280). Структурная устойчивость подков Смейла доказана Смейлом в [308]. ^ (с. 283). Это было доказано Биркгофом в [442]. § 6. Формальный анализ в проблеме линеаризации восходит еш,е к Пуанкаре» который рассматривал векторные поля, а не отображения. Доказательство гладкой линеаризации в нере- зоиансном С**-случае принадлежит Стернбергу [312]- [314], а обобш.еиие для нелинейных нормальных форм — Чену [64]. Теории нормальных форм посвяш.ена столь обширная литература» что мы не пытаемся перечислить даже главные источники. Работа Белнцкого [38] содержит краткий обзор гладкого случая. Важная работа [61]» [62]» посвяш.енная аналитическому случаю, принадлежит Брюно. ^ (с. 288). Главное различие между С°°-гладким и аналитическим случаями состоит в существовании малых знаменателей, или почти-резонансов» т. е. в существовании мультнин- дексов» для которых знаменатель А,- - А* в (6.6.2) отличен от нуля, но очень мал. ^ (с. 289). Мы применяем гомотопический прием в доказательстве теоремы 6.6.5 по совету Ильяшенко» который использовал его в подобных ситуациях. Глава 7 § I. ^ (с. 295). Одним из первых замечательных примеров применения патологических типичных свбнств С°-топологни является классическая работа [241] Окстоби и Улама, в которой показано, что типичные сохраняющие меру гомеоморфизмы эргодичны. Соответствующий механизм эргодичности отличен от механизмов, приводящих к эргодичности в гладких системах. Типичность многих других эргодических свойств в той же самой ситуации доказана в [150]. § 2. Теорема Купки — Смейла была первоначально доказана независимо Купкой для потоков в [171] и Смейлом для потоков и диффеоморфизмов в [306]. Доказательство для потоков можно также найти в [242]. Имеется ряд результатов о типичности для С -топологии. Наиболее важный из них состоит в том» что периодические точки в типичном случае плотны в множестве неблуждающих точек [262], [263]. Для гамильтоновых систем аналогичный результат получен в [264]. Эти результаты основаны на С*-лемме о замыкании, доказанной Пью [262]» [263], которая утверждает, что иеблуждающая точка может быть сделана периодической посредством малого С^ -возмущения, сконцентрироваиного в окрестности этой точки. В такой форме лемма о замыкании не верна в С^-топологни, см. [108]. До сих пор неизвестно» верны ли нелокальные С^- или С°°-варианты леммы о замыкании. Среди других интересных С ^-результатов о типичности имеется результат о том» что в типичном случае все гиперболические периодические точки симплектнческого отображения имеют гомоклинические точки» которые являются плотными и в устойчивом, и в неустойчивом многообразиях [317], а также результат о типичной плотности гиперболических точек для двумерных отображений, сохраняющих меру [317]. Для двумерных отображений» которые не являются диффеоморфизмами Аносова и сохраняют меру» плотность эллиптических точек также С'-типична, см. [229]. 2 (с. 303). См. [309]. § 3. Имеется обширная литература, посвященная бифуркациям» из которой мы можем привести только незначительную выборку. Работа [28] представляет собой всесторонний обзор» охватывающий локальную и нелокальную теорию. Книга Палиса и Такенса [243] — лучший источник информации об определенном классе нелокальных бифуркаций, связанных с появлением положительной энтропии в системах Морса — Смейла. Книги [25] и [283] содержат введение в вопрос. Локальные и глобальные бифуркации также обсуждаются в [104]. Локальные нормальные формы и гомотопический прием представляют собой наиболее полезные инструменты в теории локальных бифуркаций. Алгебраическая геометрия и ее приложения в теории особенностей начинают играть важную роль, когда рассматриваются многопараметрнческие семейства. Интересный пример глобальных бифуркаций появляется в типичных семействах
ПРИМЕЧАНИЯ 729 диффеоморфизмов окружности, таких как одиопараметрические подсемейства семейства / ^, обсуждаемые в упражнении 11.1.4. Отметим, что в однопараметрическом семействе / t имеется несчетное количество бифуркационных значений, соответствующих иррациональным значениям числа вращения, а также счетное количество интервалов структурной устойчивости. (с. 309). Интересная особенность бифуркации удвоения периода состоит в том, что они появляются бесконечными каскадами в простых семействах отображении, например в квадратичном семействе. А именно, устойчивая неподвижная точка теряет устойчивость и порождает устойчивую орбиту периода два, которая, в свою очередь, теряет устойчивость и порождает устойчивую орбиту периода четыре, и т. д. В то же время все предыдущие периодические орбиты остаются отталкивающими. Первые несколько бифуркаций в квадратичном семействе изучаются в упражнении 1.7.2; они имеют место при А=3 и А = 1-|- \/б. С помощью непосредственных, но довольно гоомоздких выкладок можно показать, что точка периода 3 впервые появляется для А = 1 -ь V8 (об этом говорится в [315] со ссылкой как на первоначальное, так и на элементарное доказательство). Следовательно, согласно теореме 15.3.2 полный каскад бифуркаций удвоения периода должен завершиться раньше (и, более того, должны появиться точки всех периодов). В самом деле, эти бифуркационные значения накапливаются к некоторому фиксированному значению, после которого топологическая энтропия становится положительной. Якобсон [132] первый доказал существование таких каскадов в простом аналитическом семействе. Независимо Фейгенбаум [83] с помощью численных методов определил асимптотическую скорость сходимости бифуркационных значений и обнаружил явление подобия с изменением масштаба, связанное с этим процессом. Это привело к развитию интересного направления в динамике малых размерностей, называемого ренормалнзацией. Наблюдения Фейгенбаума в конечном счете были подтверждены Ленфордом с помощью доказательства с использованием ЭВМ. Некоторые аспекты явления удвоения периодов появляются уже в топологической ситуации, т. е. для непрерывных отображений интервала. Это нетрудно видеть, посмотрев на упорядочение Шарковского, которое появляется в теореме 15.3.2, а также на доказательство теоремы 15.3.7 и результаты § 15.4, касающиеся отображений при предельном значении параметра такого каскада. § 4. Эта теорема и приведенное здесь доказательство принадлежат Артину и Мазуру [30]. Неизвестно, можно лн усилить этот результат так, чтобы гарантировать, что все периодические точки будут изолированными; также неизвестно, являются лн диффеоморфизмы этого вида типичными. Иомдин [328] доказал С*-тнпичный вариант этой теоремы с более слабой оценкой типа Pnif) ^ С"", где а зависит от fc н от размерности. Калошин [135 а] показал, что экспоненциальная оценка нетипична: существует такое открытое множество U с'*-диффеоморфизмов, что для любой последовательности {а„} имеется массивное подмножество V таких функций /, ^ (с. 312). См. [221]. Глава 8 § I. Мэннннг доказал это следствие в [193]. В [139] и независимо в [57] было замечено, что этот метод можно немного изменить н получить утверждение теоремы 8.1.1. § 3. ^ (с. 323). См. [210]. ^ (с. 324). Существует несколько доказательств неравенства \yp(f) ^ max(deg Р, deg Q). Доказательство Громова [103] позволяет с помощью определенного свойства минимальности голоморфных отображений оценить скорость роста объема. В качестве альтернативы можно использовать теорию неравномерно гиперболических динамических систем и, подобно теореме Д 5.11, доказать, что h^pif) ^р(/). С другой стороны, очевидно, что Я„(/) равно числу решений уравнения степени (deg(/))" либо, возможно, больше этого решения на единицу из- за наличия точки оо, и, следовательно, h^p{f) ^ р(/) ^deg(/). Еще одно доказательство было получено М. Любичем [185]. § 4. Понятие индекса изолированной неподвижной точки допускает обобщение, известное как индекс Конли, которое особенно полезно в динамике (см. [68]). §5. ^ (с. 331). См. [297]. § 6. Доказательство формулы Лефшеца для неподвижных точек можно найти в [87] (теорема 5.10). Кроме того, эта книга содержит ряд приложений данной формулы к динамическим
730 ПРИМЕЧАНИЯ других гомологических мнкн. § 7. Первоисточником здесь служат работы Нильсена [230]- [233]. Первая из этих статей содержит доказательство нашей теоремы 8.7.1. Остальные статьи представляют собой основную часть работы Нильсена и содержат оценки числа периодических точек для отображений компактных поверхностей рода больше единицы. Терстон разработал структурную теорию диффеоморфизмов поверхностей, включающую построение моделей в классах гомотопий. Его работы излагаются в [79]. Многие из главных результатов теории Нильсена могут быть восстановлены с помощью теории Терстона; см. [114]. Современным источником информации по теории Нильсена служит книга [134]. Глава 9 В то время как в этой главе наше внимание сосредоточено на вариационных методах, которые гарантируют существование бесконечного числа периодических орбит, имеются важные результаты, в которых вариационные методы используются для получения ограниченного числа периодических орбит для широкого класса систем. Представительная выборка включает статьи Экланда и Ласри [76] и Рабиновича [266], в которых строятся периодические орбиты для выпуклых гамильтонианов в R^", и результаты Конли и Цеидера [69] о том, что С -сим- плектические диффеоморфизмы тора Т^", порожденные глобально гамнльтоновым векторным полем, имеют по крайней мере 2п + 1 неподвижную точку. Оба эти направления получили серьезное дальнейшее развитие. В связи с первым из них следует упомянуть вариационные конструкции гетероклинических орбит для широких классов гамильтоновых систем. Второе направление привело к развитию нового плодотворного подхода к исследованию связей между симплектической топологией и гамильтоновой динамикой, включая открытие новых когомологических инвариантов. § I. Первая глава книги [205] представляет собой превосходное изложение конечномерной теории Морса. § 2. ^ (с. 351). Это описано в [164]. ^ (с. 353). Этот важный пример принадлежит Бунимовичу. Он обладает сильными стохастическими свойствами. Об этом и других примерах можно прочитать, скажем, в [63]. § 3. ^ (с. 357). См. примечания к § 13.5. ^ (с. 363). Доказательство теоремы 9.3.7 следует изложению [141]. ^ (с. 368). Наше доказательство теоремы 9.3.10 основано на ключевом предложении 9,3.12, которое принадлежит Обри [32]. ^ (с. 371). Это определение и результаты соответствующих упражнений принадлежат Мазеру. § 6. Теорема 9.6.3 доказана в [194]. Мэннинг также доказал неравенство h^^{g^)^ v(M). Идея использования энтропии для доказательства изобилия минимальных геодезических, как это делается при доказательстве теоремы 9.6.7, исходит из [144]. § 7. Минимальные геодезические на поверхностях рода больше единицы были впервые построены Морсом [212]. ^ (с. 384). Для компактных факторов гиперболической плоскости, т. е. компактных поверхностей постоянной отрицательной кривизны, еще более точная асимптотика следует из формулы следа Сельберга; см. также примечания к § 20.6. ^ (с. 384). В [144] показано, что для любой метрики А на поверхности рода д^2 выполнено неравенство Шц (1/^) ^^ё N(T) > у/{4д-4:)7г/А; и из точного равенства следует, что кривизна постоянна."* Глава И § I. Понятие числа вращения впервые встречается в гл. 15 третьего мемуара Пуанкаре [258]. Это понятие допускает несколько полезных обобщений. С одной стороны, можно определить интервалы вращения для необратимых отображений окружности и множества вращения для
ПРИМЕЧАНИЯ 731 отображеннй тора. Этн понятня оказались полезными в нескольких ситуациях, включая недавнее доказательство Франксом н Бангертом бесконечности числа замкнутых геодезических для любой римановой метрики на двумерной сфере [35], [88]. С другой стороны, для любой инвариантной меры потока можно определить асимптотический цикл: элемент первой группы гомологии, который определяет асимптотическое среднее частоты появления орбит данного гомологического типа [290]. Это понятие разрабатывается и используется в § 14.7. Теория Пуанкаре, представленная в этой главе, изложена в многочисленных источниках. ^ (с, 396). Прикладные математики называют явление, описанное предложением 11.1.11, «замиранием частоты». ^ (с- 397). Этн области иногда называют языками Арнольда из-за их формы и так как они исследовались Арнольдом. § 2. Классификация Пуанкаре также появляется в гл. 15 его третьего мемуара [258]. Топологическая классификация нетраизитивных отображений окружности с иррациональным числом вращения принадлежит Марклн [196]. Глава 12 § 1. * (с. 405). См. [72]. Мы представляем одно из стандартных доказательств, следуя [234]. § 2. Этот пример также содержится в [72]. В своем изложении мы снова следуем [234]. § 3. Теорема Арнольда впервые появилась в [21] и положила начало важному направлению в исследованиях. Мозер (например, в [215], [216]) и Рюсман получили аналогичные результаты для случая конечной дифференцируе мости. Конечно, требуемая степень дифференцируем ости и допустимый размер возмущения зависят от ограничений снизу на скорость приближения числа вращения рациональными числами. Например, для почти всех чисел вращения Рюсман предполагает лишь гладкость порядка С^'*'^. Арнольд выдвинул гипотезу, что любое аналитическое отображение с диофантовым числом вращения аналитически сопряжено с вращением. Для почти всех чисел вращения эта гипотеза была доказана Эрманом [!22], который первоначально сводил задачу к случаю малых возмущений. Дальнейшие исследования были сосредоточены на нахождении оптимальных условии на число вращения и на разработке новых методов, не зависящих от методов КАМ-теории. Различные аспекты этой программы были развиты Эрманом, Йоккосом [327], Кацнельсоном и Орнстейном [153] и другими. Имеются примеры, показывающие, что в большинстве случаев существующие условия оптимальны. В частности, Йоккос доказал, что условие днофантовости необходимо н достаточно для С°°- сопряженности [327], а условие Ьрюно из [61], [62] необходимо и достаточно для аналитической линеаризации. С другой стороны, для чисел вращения ограниченного типа С^-сопряжение существует для С^-диффеоморфизмов, производные которых удовлетворяют условию, подобному условию из теории Данжуа [!53]. § 5. Этот пример принадлежит Арнольду. См. [21]. § 6. Метод, используемый в доказательстве теоремы 12.6.1, был впервые предложен Аносовым и Катком в [19]. Среди его приложений были первые конструкции эргодическнх диффеоморфизмов с инвариантной мерой на произвольных многообразиях, конструкции минимальных и вполне эргодическнх диффеоморфизмов многообразий, допускающих локально свободное действие 5\ и т. д. Гамильтонов вариант метода представлен в [136]. Позже Эрман и Йоккос разрабатывали этот метод и использовали его для нахождения инвариантных торов с нестандартными свойствами для типичных возмущений вполне интегрируемых гамильтоновых систем. Результат следствия 12.6.4 был впервые доказан Фюрстенбергом [9!]. Конструкция, использованная здесь, заимствована из неопубликованной монографии Катка и Робинсона «Конструкции в эргодическон теории». § 7. Этот результат об эргодичности был впервые доказан для С^-диффеоморфизмов независимо Катком [71] (§ 3.6) и Эрманом [122]. Глава 13 Эта глава посвящена преимущественно вариационным методам. Подобным образом вариационный подход можно применить к гамильтоновым системам. Современное изложение см. в [84].
732 ПРИМЕЧАНИЯ § 2. Теорема 13.2.6 была доказана незавнснмо французским физиком Обри [31] и Мазером [199]. Метод Мазера использовал вариациоииый подход иа некотором бесконечномерном пространстве, метод Обри был основан иа построении глобально минимальных состояний (как в § 3). До того как работа Обрн стала известна математикам, Каток [141] предложил Грощенне доказательства результата Мазера, основанное иа рациональных приближениях, пунюге а данного параграфа мы следуем [141] и [142]. Бангерт [34] показал, что классический результат Хедлунда [118] о глобально минимальных геодезических на торе очень близок к конструкции аналога множеств Обри — Мазера для лотоков. * (с. 430). См. [123]. 2 (с. 431). См. [201]. ^ (с. 433). Наше доказательство теоремы 13.2.13 суть упрощенная версия доказательства Фати [78]. § 3. В этом параграфе мы в целом следуем подходу Обри [31], [32], хотя способ изложения принадлежит нам. Первоначальное доказательство Мазера единственности минимального множества Обри — Мазера (следствие 13.3.11) основано на рассмотрении некоторой бесконечномерной вариационной задачи. § 4. Результаты этого параграфа были получены совместно Катком и Мазером» но записаны отдельно. Йерсия Мазера появилась в [202]. Мы следуем неизданной версии Катка [142]. Очень близкие результаты были получены Обри с соавторами в [33]. § 5. * (с. 452). Эта оценка может быть значительно улучшена. Используя несколько иной метод. Мазер доказал отсутствие инвариантных окружностей для А > 4/3. Используя итерационный метод с помощью ЭВМ, Мак-Кей улучшил этот результат до А > 63/64. Интересно подчеркнуть, что другое доказательство с использованием ЭВМ, проведенное Де ла Ллаве, показывает, что сохраняется несчетное количество инвариантных окружностей для чисел вращения, близких или равных золотому сечению, вплоть до А = 0.93. Численно показано, что критическое значение находится возле 0.97. 2 (с. 453). См. [108 а]. 2 (с. 453). См. [200]. Глава 14 § 1. Эта теория принадлежит Пуанкаре (второй мемуар [257]) и Бенедиксону [39]. В первой половине нашего столетня дифференциальная динамика обычно называлась качественной теорией обыкновенных дифференциальных уравнений и анализ векторных полей в случае размерности два (в частности, на плоскости и на торе) рассматривался как одно из центральных направлений в теории, как, например, это представлено в таких классических трудах, как [66] и [223]. К числу главных достижений этого периода относятся теория Данжуа для потоков (см. предложение 14.2.4), анализ структурной устойчивости двумерных потоков, данный Андроновым и Понтрягиным [13], конструкция потока Черри (п. 14.4 а) и классификация Майера орбит потоков на поверхностях высшего рода [186]. Позже, в связи с лучшим пониманием гиперболической теории, теория потоков на поверхностях отошла на второй план. § 3. ^ (с. 463). См. [289]. § 4. ^ (с. 467). Поток Черри был построен в [65]. § 5. Результаты о топологической структуре преобразовании перекладываний отрезков впервые появились в [154], хотя их можно извлечь и из более ранней работы Майера [186]. Кии также выдвинул гипотезу, что почти каждое неприводимое преобразование перекладывания отрезков является строго эргодическим. Вне элементарного уровня, на котором мы обсуждаем эту проблему, имеется ряд фундаментальных результатов, прежде всего результаты Вича [319]- [322] и Мезера [197], которые доказывают строгую эргодичность большинства преобразований перекладывания отрезков и описывают их метрические свойства. В частности, с их помощью доказана гипотеза Кина. Главная идея состоит в рассмотрении подходящего пространства перекладываний отрезков и введении динамической системы на этом пространстве таким способом, чтобы свойства перекладывания отрезков переходили в асимптотические свойства его орбиты под действием этой динамической системы. При подходе Вича это осуществляется с помощью подходящей конструкции индуцирования. Лемма 14.5.7 представляет собой первый шаг в этом направлении. Важный вклад в анализ преобразования перекладывания отрезков, использующий более прямой комбинаторный подход, был сделан
ПРИМЕЧАНИЯ 733 Бошерннцаном. Интересное общее свойство преобразований перекладываний отрезков, также основанное на лемме 14.5.7, состоит в том, что они никогда не являются перемешивающими. * (с. 477). При оценке числа инвариантных мер мы следуем идее Оселедца, который впервые использовал ее, чтобы оценить спектральную кратность меры Лебега. ^ (с. 479). Этот результат н доказательство взяты на неизданной монографин Катка н Робинсона «Конструкции в эргоднческой теории». § 6. * (с. 482). Более общая классификация, без предположения существования положительной инвариантной меры, для ориентируемых поверкиостей содержится в [186]. Она была обобщена на неорнеитируемый случаи Арансоном. Главное различие состоит в существовании блуждающих областей и нигде не плотных квазиминимальных множеств, как в примере Черри. ^ (с. 485). Дальнейшие достижения в анализе рациональных биллиардов и им подобных систем связаны с применением мощных методов, возникающих из теории Тейхмюллера. Эта идея принадлежит Мезеру. Она впервые появилась в его анализе измеримых расслоений на поверхностях и преобразованиях перекладываний отрезков [197] как альтернатива подходу Бича. Важнейшим результатом в этом направлении являетси статья Керкхофа, Мезера и Смайли [156], которые показали, что в рациональной биллиардной системе для множества направлений полной меры соответствующий поток эргоднчен. За этим последовала технически очень сложная работа Мезера и Смайли [198], в которой была получена очень точная информация относительно размера множества не строго эргодических систем. § 7. * (с. 487). Благодаря результату Йоккоса из [327] это утверждение верно и без условия сохранения площади. ^ (с. 487). Асимптотические циклы были впервые введены Шварцманом в [290]. ^ (с. 488). Результаты этого параграфа изложены согласно [137]. Детальные доказательства никогда не появлялись в печати. ^ (с. 491). Эта оценка точна — см. [286]. Глава 15 § 1. ^ (с. 495). Этот результат был опубликован в первой половине семидесятых годов Ли и Йорком, которые не знали об общем результате Шарковского. Значение их статьи «Период три влечет хаос» состоит во внедрении слова «хаос» как неопределенного, но моищого термина для описания сложного поведения динамических систем. § 2. Теоремы 15.2.1 и 15.2.11 принадлежат Мизюревичу [209], но опираются на его предшествующую совместную работу со Шлепком [211], посвященную кусочно монотонным отображениям. Наше доказательство представляет собой синтез этих двух статей. * (с. 500). См. [268]. § 3. ^ (с. 503). Первоначальное доказательство теоремы 15.3.2 изложено в [292]. Мы следуем более известному изложению [49]. Его очевидное преимущество — наличие конструкции минимальных марковских моделей, которые также дают оценки энтропии. ^ (с. 507). Наше доказательство теоремы 15.3.7 написано под влиянием [235]. ^ (с. 508). Трюк с квадратным корнем восходит к Стефану. Оказывается, что такие отображения, что ж/) = 5^". п G Nq. и Vif) = S^, появляются последовательно в квадратичном семействе или подобном «хорошем» семействе унимодальных отображений как результат последовательных бифуркаций удвоения периода. См. примечания к § 7.3. § 4. Теорема 15.4.2 и ее доказательство взяты из [208]. Результаты этого параграфа составляют описание топологических аспектов рекурреитио подобной структуры, которая появляется при предельном значении параметра в каскаде бифуркаций удвоения периода. § 5, 6. Результаты этих параграфов — это упрощенный вариант так называемой теории Милиора — Терстона [206]. Наше изложение представляет собой адаптированное изложение этой теории из [203]. 1 (с. 518). См. [245], [279].
734 ПРИЛ1ЕЧАНИЯ Глава 16 § 2. Гиперболичность в том виде, в каком она описана в теореме 16.2.1, является одним из ведущих понятий в теории гладких отображеинй интервала, это открытое свойство, и, по- видимому, оно имеет место для плотного набора параметров в типичных семействах. Это недавно было доказано для квадратичного семейства Швёнтеком, который использовал совместную работу с Якобсоном, а также работы Сулливана и других. Однако это множество параметров не обладает полной мерой Лебега. Другой распространенный тип поведения предполагает существование эргодической абсолютно непрерывной инвариантной меры на открытом множестве, содержащем критические точки. Следовательно, данное множество не гиперболично, но мера гиперболична в неравномерном смысле, как это определено в § 4 нашего добавления. Прототипом таких отображений является отображение ж—»4ж(1 — х) (упражиеиия 2.4.2 и 5.1.6). Якобсон впервые доказал, что такое поведение появляется для множества параметров положительной меры Лебега в широком классе семейств, включая ква/фатичное семейство [133]. Позже другие доказательства были найдены Бенедиксом и Карлесоном, Рыхликом и другими. Существует гипотеза, что объединение этих двух типов поведения покрывает множество параметров полной меры в типичных семействах, включая квадратичное семейство. 1 (с. 523). См. [188], [189]. § 4. Этот параграф основан на [203]. Глава 17 § 1. Смейл дал описание общей процедуры построения гиперболических аттракторов из растягивающих отображений в § 1.9 работы [310]. Он назвал их «DE>, что соответствует английскому выражению «derived from expanding» — «полученные из растягивающих (отображений)». Мы следуем конкретному описанию из статьи Катка в [12]. Вильяме предложил более общую конструкщ1ю, основанную на ветвящихся накрытиях [324], которая, в частности, дает аттракторы, не гомеоморфные локально произведению каиторова множества и некоторого многообразия. Аттракторы, ие являющиеся гиперболическими множествами, но проявляющие некоторое иеравномерно гиперболическое поведение, возникают при численном исследовании различных моделей. (Наиболее известны исследования Лоренца и Эно.) Такие объекты известны как странные аттракторы. Неоднократно делались усилия, направленные на то, чтобы строго доказать их существование. Главный результат в этом направлении принадлежит Бенедик- су и Карлесону [40], которые рассмотрели двумерные отображения Эио как возмущения одномерных квадратичных отображений и показали существование аттракторов с неоднородно гиперболическим поведением для множества параметров положительной меры в семействе двумерных квадратичных отображений. Эти результаты можно рассматривать как продолжение работ Якобсона и других, рассмотренных в примечаниях к § 16.2. За введением и обзором результатов, касающихся лоренцева и других странных аттракторов, мы отсылаем читателя к [271]. § 2. ^ (с. 538). DA-отображення были введены в [310]. Наше изложение следует [242]. ^ (с. 541). Первоначальная конструкция Плыкина [255] гиперболического аттрактора на S^ является прямой и не использует проекцию на тор. Позже одномерные аттракторы отображений на поверхностях исследовались Араисоном, Гриисом и их учениками. § 3. Конструкхшя диффеоморфизмов Аносова на нильмногообразиях принадлежит Смей- лу [310], который отмечает вклад Бореля. Имеется гипотеза, что каждый диффеоморфизм Аносова компактного многообразия поднимается на конечное накрытие этого многообразия, становясь топологически сопряженным автоморфизму нильмногообразня. Для случая многообразий, которые являются конечными факторами нильмногообразий, это доказано Франксом и Мэннингом [85]» [86], [192]. Для диффеоморфизмов Аносова на торе мы доказываем это в теореме 18.6.1. Другой пример закоичен- нон топологической классификации дают диффеоморфизмы Аносова с одномерным устойчивым или неустойчивым слоением. Эти отображения топологически сопряжены автоморфизмам тора [86], [226]. В заключение, в недавней работе Бенуа и Лаборн было показано, что диффеоморфизмы Аносова с гладкими устойчивым и неустойчивым слоениями, которые сохраняют аффинную связность (например, симплектические), гладко сопряжены с конечным фактором автоморфизма нильмногообразня [41]. § 5. Начало алгебраическому подходу к анализу геодезических потоков на многообразиях постоянной отрицательной кривизны положили Гельфаид и Фомин, которые в [96] с помощью
ПРИМЕЧАНИЯ 735 теорнн бесконечномерных унитарных представлений групп установили счетность лебеговского спектра, т. е. свойство, более сильное, чем перемешивание. § 6. Общие сведения из римановой геометрии, используемые в этом параграфе, содержатся в любой продвинутой книге на данную тему. Мы особенно рекомендуем книгу Клингенбер- га [!58]. Анализ глобального поведения геодезических потоков на многообразиях отрицательной секционной кривизны явился главным стимулом к введению понятия глобального гиперболического поведения. Эргодичность геодезических потоков на поверхностях отрицательной кривизны была доказана Хопфоы [128], [129]; в случае более высокой размерности это доказал Аносов [16]. В обоих случаях использовался прием Хопфа (§ 5.4), но в случае большей размерности слоения не всегда принадлежат классу С*, так что это доказательство нельзя использовать непосредственно.' Ключ *.вон шаг состоит в доказательстве того, что слоения абсолютно непрерывны, что позволяет использовать метод Хопфа [16]. [20]. Геодезический поток на римановом многообразии может быть потоком Аносова, даже если кривизна римановой метрики не всюду отрицательна. Клингенберг получил условия на риманову метрику, необходимые для того, чтобы геодезический поток был потоком Аносова (например, отсутствие сопряженных точек), и, в свою очередь, необходимые условия на гладкие многообразия, допускающие такие метрики (которые подобны необходимым условиям существования метрик отрицательной кривизны). Обзор некоторых результатов такого рода и дальнейшие ссылки содержатся в конце [158]. § 7. Примеры, обсуждаемые в этом параграфе, имеют особое значение благодаря результату Бенуа, Фулона и Лаборн [42], которые показали, что любой контактный поток Аносова с С -устойчивым и неустойчивым слоениями имеет конечное накрытие, которое С°°-сопряжено (а не только орбитальио эквивалентно) геодезическому потоку на локально симметрическом пространстве. Более ранний результат в трехмерном случае принадлежит Жису [97], а важные частные результаты и методы разрабатывались Каиаи, Катком и Фере- сом. Всестороннее рассмотрение симметрических пространств, включая весь материал, необходимый для изучения этого параграфа, содержится в [120]. * (с. 558). См. [120], гл. 10, табл. 5. ^ (с. 559). См. [ИЗ], [90], [98]. Особенно удивительный пример, принадлежащий Франксу и Внльямсу [89], показывает, что иеблуждающее множество потока Аносова не обязательно совпадает со всем многообразием. § 8. Классические работы Фату [80]- [82] и Жулна [135] остается основой комплексной динамики. После длительного перерыва интерес к данной теме восстановился в шестидесятых годах благодаря работам Бролина, Якобсона и Гукеихеймера, которые привнесли в эту тематику современные идеи гиперболической динамики и эргодической теории. Благодаря усовершеист* вованию методов динамики и растущему интересу со стороны аналитиков, которые привнесли новые моишые методы, в начале семидесятых годов данная тематика испытала взрывообраз- ный рост как в отношении количества, так и качества работ. Мы не пытаемся упомянуть хотя бы главные из них. Обзорную статью Бланшарда [48] можно рекомендовать и как введение, и как обзор состояния области к середине восьмидесятых годов. Крупный вклад в предмет был сделан Сулливаном, Дуадн и Хаббардом, Эрманом, Йоккосом, Мане и другими. В частности, Дуадн и лаббард разработали детальную теорию квадратичных отображений, основанную на тщательном изучении множества Мандельброта. Глава 18 § 1, 2. Теорема о семействах £-траехторий в такой общей форме принадлежит Аносову [18]. Доказательство было опубликовано в статье Катка из книги [12]. Мы следуем этому доказательству при изложении данного результата и его непосредственных следствий. § 3. Спектральное разложение было получено Смейлом [310]. Поскольку исходной целью Смейла была глобальная топологическая классификация «типичных», или «хороших», динамических систем, а не полулокальный анализ, его стандартным предположением была «Аксиома А», т. е. предположение, что множество неблуждаюшнх точек гиперболично и периодические точки плотны в нем. На самом же деле гиперболические множества полезнее в полулокальном анализе, так как они появляются в большом количестве динамических систем, включая некоторые системы классической механики, которые не обладают никакой глобальной гиперболической структурой. Аносов предложил полулокальную версию спектрального разложения [18], которой мы в основном следуем. В случае потоков имеется базисная дихотомия, впервые обнаруженная Аносовым для случая потоков Аносова: топологически транзитивная компонента спектрального разложения либо
736 ПРИМЕЧАНИЯ является топологическн перемешивающей, либо обладает глобальньш сеченнеы с постоянньш временен возвращения, т. е. является надстройкой гоыеоыорфизыа. Спецификация была введена Боуэном, который доказал теорему о спецификации в [52], § 4. Наше изложение локальной структуры произведения следует изложению Катка в статье из [12]. § 5. В доказательстве теоремы 18.5.5 мы следуем аксиоматическому подходу Боуэна [55], который играет важную роль в гл. 20. § 6. Результаты этого параграфа представляют собой некоторое видоизменение работ Франкса [85], [86] и Мэннинга [192] для нильмногообразий (см. примечания к § 17.3). Наша версия упрощена, в частности, она обходится без применения марковских разбиений. Первая лемма доказана при помощи идеи, предложенной А^^осовьш. § 7. Первоначальная конструкция марковских разбиений в случае дискретного времени описана в [ЗШ] (для диффеоморфизмов Аносова) и в [51] (для компактных локально максимальных гиперболических множеств). Конструкция для потоков была изобретена независимо Боуэном [54] и Ратнер [2б7]. Марковские разбиения являются очень мош^шм инструментом, потому что они позволяют сводить вычисления к символическому случаю, для которого имеются точные методы и результаты. Многочисленные приложения этого метода см. в [3021, [304], [281] и [245]. Наше изложение существования марковских разбиений близко следует [56]. Глава 19 § 1. Первый результат о гельдеровостн структур, связанных с гиперболической системой, — принадлежащее Аносову доказательство гельдеровостн устойчивого и неустойчивого слоений в [17]. Гельдеровость сопряжений отображений и потоков была общеизвестна среди специалистов в течение длительного времени, но мы не можем указать первоисточник. Е. Хопф [128], [129] доказал, что для геодезических потоков на поверхностях отрицательной 1фивизны устойчивое и неустойчивое слоения являются С^-гладкими. Аносов (в § 24 из [lb]) построил примеры систем Аносова, слоения которых неднффереицируемы. Хирш и Пью [124] показали, что устойчивое и неустойчивое слоения для геодезического потока являются С^-гладкими, если секционная кривизна лежит строго между —4 н —1. Это последнее предположение соответствует (19.1.1) с а > 1. Хёрдер и Каток [130], следуя наблюдению Амосова, который обнаружил препятствия к С^-днфференцируемостн в случае, когда коразмерность одного из слоений равна 1, показали, что точная гладкость слабых устойчивого и неустойчивого слоений для сохраняющих объем потоков Аносова в случае размерности три и сохраняющих объем диффеоморфизмов Аносова в случае размерности два равна С "*" (****&*\ т. е. эти слоения дифференцируемы н их производные в гладких локальных координатах имеют модуль непрерывности вида 0(x\ogx). Эта гладкость в точности одна и та же для всех таких систем, кроме тех, которые гладко орбитально эквивалентны соответственно линейному отображению или геодезическому потоку в случае постоянной кривизны. В общем случае условие связывания гарантирует определенный гёльдеровский показатель для неустойчивого распределения или его производной в локальных гладких координатах, и в типичных системах эта степень гладкости не превышается, см. [117]. Наши доказательства сделаны элементарными с помощью координатных вычислений с удобно выбранными обозначениями. Доказательство гельдеровостн распределений основано на первоначальных идеях Аносова. ^ (с. 602). В доказательстве теоремы 6.2.8 мы показали, что преобразование графиков является сжимающим, и, подобно доказательству теоремы 19.1.6, несложно видеть, что оно сохраняет гельдеровость. Единственная трудность состоит в том, что глобальное продолжение, используемое в доказательстве теоремы 6.2.8, не дает настоящих слоений гиперболического множества. Таким образом, можно рассмотреть гельдеровское поле подмногообразий внутри горизонтальных конусов (типа полученных из устойчивого распределения под действием экспоненциального отображения) и показать, что действие соответствующего преобразования графиков сохраняет гельдеровость. ^ (с. 609). Несложно видеть, что для геодезических потоков из ограничения секционной кривизны следует связывание геодезического потока. В частности, если секционная кривизна находится между —1 и —а^/4,сГеодезический поток а-связан. ^ (с. 610). Утверждение этого упражнения верно в гладкой категории и без предположения о возмущении. Чтобы убедиться в этом, нужно заменить в доказательстве теорему Арнольда 12.3.1 на результат Эрмана н Йоккоса о сопряженности [122], [123].
ПРИМЕЧАНИЯ 737 § 2. Теорема Лившица впервые появилась в [181]. Она немедленно стала одним из главных инструментов в гиперболической динамике. Синай использовал ее, чтобы описать функции, порождающие одинаковые меры Гнббса [304] (см. предложение 20.3,10). Другим приложением [182] стал тот факт, что для диффеоморфизма Аносова равенство J/" = 1 для любого X € Fix(/") необходимо и достаточно для существования абсолютно непрерывной ннварнант- ной меры. Б дополнение к теореме Лившица этот результат требует применения метода Лопфа. Это утверждение сильнее, чем наша теорема 19.2.7. ' (с. 612). На самом деле получены результаты для случая более высокой гладкости. Лившиц в [1811 доказал С*"-результат для гиперболических автоморфизмов тора, Гнлмин н Каждан в [106] для геодезических потоков на поверхностях отрицательной кривизны, а Де ла Ллаве. Марко и Морион в [183], [184] в полной общности. Они также применили эти результаты к классификации различных классов систем Аносова. Другие доказательства были обнаружены Жорне и Хердером и Катком [130]. Вещественно аналитический результат был получен Де ла Ллаве. На другом конце спектра условие гельдеровости может быть ослаблено до наличия модуля непрерывности, значения которого вдоль геометрической прогрессии суммируемы (условие Дини). С другой стороны, для непрерывных коциклов имеются контрпримеры. Глава 20 § 1. Мы снова следуем подходу Боуэна [55]. § 2. В доказательстве вариацнонного принципа мы следуем Уолтерсу [323], который, в свою очередь, следует Мизюревичу [207]. ' (с. 623). См. [277]. [281]. § 3. Мы следуем подходу Боуэна [55], но доказываем в лемме 20.3.5 двустороннюю оценку, которая позволяет нам затем установить в теореме 20.3.7, что равновесные состояния являются перемешивающими. На самом деле равновесные состояния обладают более сильными стохастическими свойствами, чем пеоемешивание. В рамках аксиоматического подхода Боуэна (растяжение, спецификация, ^p€ С^(Х)) Ледрапье [174] доказал Jf-свойство. Более сильное свойство бернуллиевости, т. е. наличие метрического изоморфизма бернуллиевскому сдвигу, было доказано Боуэном в [56] для равновесных состояний, соответствующих гёльдеровским функциям на локально максимальных гиперболических множествах. § 4. ' (с. 638). Это доказал Синай [304] с нспользоваинем марковских разбиений. ^ (с. 642). См. [183] или [130]. Такие же результаты о гладкости требуются для доказательства гладкости решений когомологического уравнения в теории Лившица (см. примечания к § 19.2). § 5. Мы следуем первоначальной статье Маргулнса [195]. § 6. Как мы уже отмечали, в случае дискретного времени остаточный член в формуле, выражающей асимптотический рост числа орбит, имеет более низкий экспоненциальный порядок (теорема 20.1.6). Для геодезических потоков в постоянной отрицательной кривизне это также следует из формулы следа Сельберга, которая не имеет аналогов в общем случае. Для геодезических потоков на многообразиях переменной отрицательной кривизны, у которых орнсферические слоения С*-гладки (в частности, для поверхностей; см. примечания к § 19.1) Долгопят [75 а], [75 б] недавно получил асимптотику И(е^) —> 0(е*'* ~"^^) при Г —> оо, где _J— du ^ ^ . Перри построил по гелвдеровой функции примеры специальных по- 2 токов над символическими системами, для которых ошибка не может быть оценена экспоненциально. Этот вопрос тесно связан с поведением дзета-функции возле критической линии Re(a) = /»[245].
УКАЗАНИЯ И РЕШЕНИЯ LU. Рассмотрите <р{х)'Шd(f^(x), f{x))/d(f(x), х). Пример : f(x) = X'X^ на [^1/2,1/2]. 1.1.3. Если существует такой касательный вектор v в точке р, что ||2?/и|| ^ ||и||, рассмотрите кривую, касательную к и, и используйте определение Df. 1.1.5. Покажите, что это отображение не сюръективно, рассмотрев две точки, находящиеся на максимальном расстоянии друг от друга. 1.2.4. Рассмотрите жордановы клетки. Число ^ + 1 — это размер нанбольщей жордановой клетки. 1,3.1. Пусть т^ — число, образованное первыми к цифрами числа 2", {■} —дробная часть и lg= logjo — логарифм по основанию 10. Тогда lg(m„/10* ~ *) < {п Ig 2} < lg((m^ +1 )/1 О* ~ *). 1.3.3. Для того чтобы установить транзитивность, достаточно показать, что единица содержится в замыканнн некоторой орбиты. Каждый элемент j7 6 ^2 \ ^^ является пределом некоторой последовательности нечетных целых чисел. Для нечетного m и п € N существует такое « € N, что тк = 1 (mod 2"). 1.4.1. С(0) — замкнутая подгруппа. 1.4.2. Докажите одностороннюю версию леммы 1.4.2 и затем покажите, что для открытого множества U^0 н для ЛГ€Nсуществует такое п >ЛГ, что /~"(С/^)П Uф0. 1.4.4. Используйте метод доказательства предложения 1.4.1. 1.6.1. См. доказательство утверждения 1.6.4. е'Л^-'), г<1, 1.6.2. Рассмотрите функцию /(г, 6)=^ О, г = 1, заданную в по- g-i/(r'-i)sin(l/(r-l)-6), г>1 лярных координатах (г, б) на R^. С помощью этой модели определите функцию на 5^. 1.6.3. Такая функция обладает одним минимумом, qzihhm максимумом и одним кратным седлом. Имеется 2^ + 1 орбит, каждая из которых соединяет минимум (максимум) с седлом. Один из способов построения таких функций состоит в том, чтобы начать с функции высоты на сглаженной поверхности д склеенных торов, поставленных друг на друга. Эта функция имеет 2д седел, соединенных последовательно двумя орбитами. Из каждой из этих пар выберем одну орбиту и в маленькой окрестности объединения этих орбит изменим нашу функцию таким образом, чтобы получить одно кратное седло. 1.7.1. |т"-1|. 1.7.2. 1.2". 2. Две неподвижные точки, ;фугих периодических точек нет. 3. Поделите /д(/д(а;))~ а? на а; и на ж —Жд, где х^ —ненулевая неподвижная точка. 4. Покажите, что орбита периода два является притягивающей. 1.7.5. Рассмотрите строку, состоящую из всевозможных последовательностей нулей, и строки без двух последовательных нулей длины 1, 2,3,... Вставьте единицы на соответствующие места. 1.7.6. Троичное представление х может быть получено следующим образом. Запищите строку, состоящую из всех возможных последовательностей нулей и двоек длины 1,2,3,... В конце набора блоков длины п вставьте блок, состоящий из единиц н п нулей. 1.8.3. Пусть р — некоторое число, взаимно простое с det Ь. Рассмотрите конечную подгруппу -р"^!!^ jlT^ сТ"*. Покажите, что F^^ обратимо на этой подгруппе, так что все ее элементы — периодические точки. 1.9.9. Пусть N — наибольший общий делитель длин всех циклов (т. е. последовательностей, начинающихся и заканчивающихся одним и тем же символом). Отождествим два символа, если они могут быть соединены путем, длина которого кратна N. Пусть Л^ — соответствующие классы эквивалентности. Чтобы доказать топологическое перемещивание, предположите, без потери общности, что ЛГ = 1. 1.9.10. Частичные суммы ш определяют (неединствеииым образом) последовательности, которые принимают значения из множества [0,^] с точностью до сдвига. Чтобы показать отсутствие топологического перемещивания, рассмотрите последовательности, для которых граница к достигается.
УКАЗАНИЯ И РЕШЕНИЯ 739 1.9.11. Используйте представление из предыдущего упражнения. L9.12. Покажите, используя представление из упражнения 1.9.10, что ^^ не транзнтнв- но, тогда как В^ — объединение двух транзитивных инвариантных множеств, пересечение которых есть орбита периода два отображения 52- Покажите, что это противоречит наличию спектрального разложения. 2.1.2. Сравните скорости сходимости орбит к началу координат. 2.1.3. 2. Используйте метод решения предыдущего упражнения. 2.1.5. 7. См. третью и четвертую части упражнения 1.7.2; используйте третью часть данного упражнения. 2.1.7. Используйте доказательство предложения 2.1.3. 2.1.8. Найдите такое аналитическое Л, что Лоуз'=ф*оЛ, и положите Я = j ip"^ohoip^dt. о 2.1.9. Чтобы доказать невозможность С^-линеаризации, продолжите сопряжение до членов второго порядка и получите противоречие. Чтобы найти С'-линеаризацию, сначала подберите такую С'-функцию у= ^p(x)^ график которой сохраняется при отображении, что уэ'(0) = 0. Затем положите Н(х^ 3/) = (а^» 3/ + 9(^))- 2.1.10. Найдите неподвижную точку. 2.2.1. Поднимите потоки и сопрягающее отображение на универсальное накрытие 1R". 2.2.2. В первом пункте достаточно определить функцию только в конечном числе точек. Чтобы установить утверждение второго пункта, сначала найдите тригонометрический полином, принимающий различные значения в нащнх точках, н затем положительный интерполяционный полином, отображающий эти значения в те значения, которые нам нужны. Композиция этих двух отображений является тригонометрическим полиномом. 2.2.3. Положите h(x, t) = <rj:^^''\x, t). 2.3.1. Рассмотрите неизолированную периодическую точку р периода п и покажите, используя предложение 1.1.4, что существует С'-гладкое возмущение / с конечным числом точек периода п в окрестности р. За деталями мы отсылаем читателя к лемме 7.2.7. 2.3.2. Рассмотрите гладкие возмущения как с изолированными, так н с неизолированными точками периода п или 2п. 2.3.3. Используйте рассуждения из доказательства предложения 2.1.7. 2.3.4. Начните с определения сопр5{жения на экваторе. 2.4.1. Повторите первое доказательство теоремы 2.4.6. 2.4.2. Положите h{x) = sin^{27гх). 2.4.4. Используйте предложение 2.1.3, лемму 2.1.4 и лемму 2.4.10. 2.4.5. Используя обозначения из доказательства теоремы 2.4.6, положите х = а^. Тогда РР{х) = т и F"+^(a:) = F"(m) = mA:", так что Ит F"+^(x)/A:"+^ = т/А:^= Л(а"*), т. е. Ит F^{x)/k^ и h(x) совпадают для всех «^. Так как эти функции монотонны и непрерывны, они°8овпадают тождественно. 2.4.6. Произвольная риманова метрика имеет вид ds^ = g{x)dx^^ где д — положительная периодическая функция. 2.6.1. Используйте Е^ вместо собственных векторов н линейные отображения вместо собственных значений. 2.6.2. Используйте конструкцию из доказательства теорем 2.6.1 и 2.6.3, заменяя собственные векторы матрицы h на горизонтальные и вертикальные направления в R^. 2.7.1. Положите T{f, Л)= / о Л, w^_^^=~(D^T{g, id)r'(/„ - д), /»„ + i = Л o(id+«^„+i) и fn+i = f°K + \- 2.8.1. Покройте это дополнение счетным объединением интервалов с произвольно малой суммой длин. 2.8.3. Постройте по индукции последовательность а^-~* а таким образом, что бесконечно много коэффициентов в (2.8.5) отделены от 0.
740 УКАЗАНИЯ И РЕШЕНИЯ 2.9.2. Используйте упражнения 1.9.11 и 1.9.12. Разрывы возникают в точках, где полусопряжение (1.9.6) не инъективно. 2.9.3. Любые два решения отличаются на инвариантную функцию. Покажите, что величина Ф — уэ не постоянна, где уэ — решение вида (2.9.5), и используйте топологическую транзитивность сдвига. 3.1.1. Периодические точки соответствуют сдвигам на целые числа при поднятии на накрывающую. С помощью степени найдите по крайней мере т" — 1 точек, а затем, используя наличие притягивающих точек, еще две. 3.1.2. Для ЛГ, m€N постройте такую топологическую марковскую цепь <г из Ojy, что p{tT) — = log AT/m. С помощью этих чисел аппроксимируйте t и затем с помощью счетных объединений и компактификации получите нужную систему. 3.1.3. Используйте следствие 1.9.5. 3.1.4. Нет. 3.1.5. log((3-|-\/5)/2). 3.1.6. Поднимите поток на универсальную накрывающую и используйте то обстоятельство, что негомотопные кривые в X поднимаются до кривых, которые не могут быть близкими друг к Щ)угу. Докажите, что их проекции на X также отделены. Наконец, позаботьтесь о кратности, которая может появиться из-за добавленных коротких дуг. 3.1.7. Если {А^} — минимальное подпокрытие 2t и {By} ^ минимальное подпокрытие 95, то {Л,. П ВЛ — подпокрытие 2t V 95. 3.1.8. Заметьте, что N(Щ^Щf~^(%)y, положите а„ = log Ar(2tv.. .V/~"(3l)) ндокажите сходимость, убедившись, что а„ ^ ^, < а„ + а^. 3.1.9. Если 2t является е-покрытием относительно d, то 2t„ = 2t V ... v/~"(2t) является е-покрытнем относительно d^ н D{f, п, е) < 7V(2t„), так что Л(/, е) < Л(/, 2t), откуда Л(/, е) < <8ирЛ(/,Я). а Обратно, пусть Stg. — покрытие X всеми е-шарамн. Тогда N{ V /Ч^^г)) ^ ^d(/»^»") "» 1=0 следовательно, С другой стороны, для данного покрытия 2t пусть 6 не превосходит числа Лебега 31. Это означает, что каждый f-шар содержится в элементе S(. Тогда, очевидно, К/Л) ^ h(f^s)- Эти два неравенства означают, что Л(/, 2t) < h{f). 3.2.1. Покажите, что мощность минимального (п, е)-покрытия растет линейно по п 6 N. 3.2.2. Найдите (п, ео)'0'^Д^*""°^ множество прообразов данной точки, состоящее из |deg(/")| точек. 3.2.3. Разбейте 5' на интервалы, вариация функции /^ (^ = 1,..., п) на которых меньше е. Количество таких интервалов приблизительно равь^о Meg(/")|/e. О 1 О 3.2.4. Марковская матрица имеет вид | 1 О 1 ). так что энтропия является логарифмом ,10 0 положительного корня уравнения ж^ — а; — 1 = 0. 3.2.5. Используйте результат упражнения 1.9.11 и с помощью предложения 3.2.14 покажите, что полусопряженне Н не уменьшает энтропию. 3.2.6. Нуль. Используйте предложение 3.1.7 и следствие 3.2.10. 3.2.7. Рассмотрите небольшой диск с центром в начале координат в подпространстве ^"*" пространства L в нуле (см. (1.2.5)) и попытайтесь найти достаточно много (п, е)-отделениых точек в этом диске. 2 10 0 3.2.8. I i i n ? I; для доказательства используйте предыдущее упражнение. 0 0 11
УКАЗАНИЯ И РЕШЕНИЯ 741 3.2.10. Ср. с доказательством теоремы 3.2.9. 3.3.1. Рассмотрите точку с плотной положительной полуорбитой и хвостом, состоящим из нулей. 3.3.2. В системе П2 определим блок ранга к по индукции следующим образом. Блок ранга О — это одна цифра 1. Блок ранга к — это строка, состоящая из двух копий блока ранга Л — 1, разделенных 2^ нулями, где N по крайней мере равно размеру используемого (к — 1)-блока. Теперь определим Л j^ с ^2 *^** множество последовательностей, состоящих нз одних нулей за исключением единственного блока ранга не выше к. Покажите, что JVW(ff|^ ) = ^j^_ j. 3.3.3. Рассмотрите компактификацию объединения примеров из пре^Цащущего упражнения. 3.3.4. Рассмотрите хаусдорфову метрику d(-, ■) (определение 13.2.1), определенную на множестве замкнутых подмножеств, и следующих образом используйте лемму 13.2.3: если множество В замкнуто и инвариантно, положим тп(В) = тах{^(Л, В)\А С С В замкнуто и инвариантно}. Выберем М так, что тп(М) = min m. Покажем, что М не обладает собственными замкнутыми инвариантными подмножествами. В противном случае мы получим ttiq = min m > 0. Выберем замкнутое инвариантное подмножество М, с JW так, что ^(М., JW)= ttiq. По предположению М не минимально и содержит такое множество Щг что d(A^, JWj) ^ ttiq и, следовательно, a(JW2, М) > т^. Продолжим этот процесс и получим последовательность таких множеств М^, что d(MfyMj) ^ ttiq, а это противоречит компактности в метрике Хаусдорфа. (Это доказательство отличается от доказательства, предложенного Симпсоном.) 3.3.5. Рассмотрите замену времени для иррационального линейного потока на торе. 3.3.6. Точки произвольно большого периода существуют, поскольку множество Fix(/") всегда замкнуто. В силу связности множества dFix(f^)^ 0, н в окрестности каждой точки a;€5Fix(/") есть точки произвольно большого периода. Используя это соображение индуктивно, постройте такую сходящуюся последовательность точек растущих периодов, что все большее число нх итераций отделены ;фуг от ;фуга почти от всех членов последовательности. Рассмотрите теперь предел этой последовательности. 4.1.3. Расставьте попеременно блоки из нулей и единиц длины 1,2,... 4.1.7. Средние для почти каждой (а, следовательно, и для некоторой конкретной) точки границы сходятся к fi(N). Но множество N нигде не плотно, так что массивное (следовательно, плотное) множество точек не попадает в N. 4.1.9. Домножьте линейное векторное поле на вешгественно-аналитическую функцию с единственным нулей кратности по крайней мере два. Допустим, что новый поток обладает конечной неатомарной борелевской вероятностной мерой. Получите противоречие со строгой эргодичностью данного линейного потока. 4.1.10. Рассмотрите множество Х^ = {х\к -{Т^х — х\> \ + е, Л = 1,..., п} и покажите, что для каждого интервала J длины 6 мера Лебега множества J ПХ^ меньше чем .. ^ . у -i ^ & fib 4.1.12. Рассмотрите абсолютную величину собственной функции, а затем отношение двух собственных функций для данного собственного значения. 4.1.13. Сначала покажите, что собственные значения образуют группу, затем используйте предыдущее упражнение. 4.2.1. Используйте анализ Фурье. 4.2.3. Используйте анализ Фурье аналогично предложению 4.2.2. 4.2.4. Воспользуйтесь тем фактом, что А^ коммутирует с вертикальным сдвигом T.Q^y и примените метод, использовавшийся при доказательстве предпожения 4.2.3. 4.2.5. Сведите задачу к вопросу о распределении по второй координате для соответствующего начального условия для отображения А^, Используйте результат предыдущего упражнения и следствие 4.1.14. 4.2.6. Используйте методы из упражнений 4.2.3 и 4.2.4 и индукцию по т. 4.2.7. Используйте метод из упражнения 4.2.5 и результат упражнения 4.2.6. 4.2.9. Используйте метод доказательства упражнения 2.4.2. 4.2.10. Найдите инъективное сохраняющее меру Лебега соответствие между ^а,^ ^ отображением первого возвращения (см. упражнение 4.1.4), индуцированное поворотом на некотором интервале / с 5'.
742 УКАЗАНИЯ И РЕШЕНИЯ 4.2.U. Используйте метод доказательства второй части предложения 4.2.11. 4.2.14. Рассмотрите пересечение пространства инвариантных векторов отображения П с симплексом а и, сводя задачу к транзитивному случаю (теорема 4.2.14), покажите, что крайние точки получившегося симплекса соответствуют эргодическим мерам. 4.2.15. Ср. с упражнением 1.9.9. 4.2.16. Используйте тот факт, что единица является максимальным собственным значением отображения П. 4.3.3. Покажите, что для каждого п разбиение ^^„ содержит Л" "^' элементов, меры которых равны. 4.4.1. Положите ^ ={Л,Т^\Л}, где Л = [0,1/2]х[0,1/2], и с использованием минимальности и того факта, что итерации являются наометршши, аппроксимируйте произвольно мелкие разбиения. 4.4.2. Обобщите доказательство предложения 4.4.2. Используйте индукцию по рангу ци- лицдров. 4.4.3. Их энтропии различны. 4.4.4. Используйте представление <т^ как группового автоморфизма (см. п. 4.2 ж) и тот факт, что однородная мера Бернулли является мерой Хаара, и рассмотрите действие соответствующего унитарного оператора U^ на характерах. 4.4.5. Модифицируйте метод предыдущего упражнения, ортогонализуя множество характеров относительно новой меры. 4.4,7. Выразите стороны прямоугольников марковского разбиения через собственные значения н собственные векторы h. Используйте тот факт, что ненулевые собственные значения матрицы L и нашей марковской матрицы равны. 4.5.1. Используйте метод решения упражнения 3.1.2. 4.5.2. Положите -^ = {'*n}nez ^-'W'-'{^}» ^ле а„-+1 при п—> оо, а„-+0 при п-+—оо, /(Од) = о„^,, а О н 1 неподвижны. 5.1.2. Используйте разбиение единицы. 5.1.5. Используйте предыдущее упражнение. 5.1.6. Используя метод доказательства теоремы 5.1.16, покажите, что применима теорема 5.1.15. 5.2.2. Движение относительно центра Т5{жестн выглядщт подобно двум независимым задачам центральных сил, так что орбиты являются эллипсами. 5.2.3. Интеграл является проекцией момента количества движения на вертикальную ось, т. е. третьей координатой углового момента, аналогично п. г. Чтобы описать данное движение, используйте сферические (географические) координаты с особенностью на вертикальной оси. 5.4.2. Найдите преобразование Мёбиуса, которое переводит точки р и g в точки, симметричные относительно мнимой оси. 5.4.3. Возьмите сопряжение с преобразованием Мёбнуса таким образом, чтобы ось стала мнимой осью, и получите ответ: log ц tr j ** j 5.4.4. Это сопряжение должно переводить ось / в ось g.z^^ в 2^ и направление от Zj к /(zj) в направление от 2^ к g{z^^ 5.4.5. Отобразите геодезическую в мнимую ось. Нужные нам кривые — это прямые, проходящие через нуль. В общем случае эти кривые, называемые эквидистантами, являются дугами окружностей, соединяющих концы оси и образующих с ней равные углы. 5.4.6. Отобразите данную ось в мнимую и используйте тот факт, что преобразование Мёбиуса сохраняет двойное отношение. 5.4.8. Используйте тот факт, что любая такая нзометрия переводит любую замкнутую геодезическую в замкнутую геодезическую той же длины, а также примените предыдущее упражнение и то обстоятельство, что любое преобразование Мёбнуса однозначно определяется образами трех точек на dD. 5.4.9. Оцените рост расстояний на кривых, представленных горизонтальными прямыми, аналогично п. г н используйте метод решения упражнения 3,2.7.
УКАЗАНИЯ И РЕШЕНИЯ 743 5.5.3. Разложите на блоки ( « т/л ) ^^ вещественного А, повороты Л^ для А = е*° и . _ . для А = ре*" 5.5.4. Форма ш" является формой объема, и внешнее умножение форм порождает мультипликативную структуру в когомолопмх, следовательно, класс двумерных когомологий, содержащий ш, ненулевой. 5.5.5. Используйте предыдущее упражнение. 5.5.6. Используйте метод доказательства теорем Мозера 5.1.27 и Дарбу 5.5.9. 5.5.7. Данный гамильтониан инвариантен относительно сдвигов. Сдвиги порождаются потоками гамильтонианов /, соответствующих действию постоянной силы. 5.5.8. Используйте симметрию относительно вращений. Полученный интеграл является угловым моментом. Независимость можно доказать, исследуя зависимость интеграла от моментов. 5.5.10. Чтобы показать, что ш(и, го) зависит только от проекций v и «;, используйте тот факт, что проектирование осуществляется вдоль потока, следовательно, оно инвариантно и ш{Х^ Х^) = О для каждого X G ТМ^. 5.5.U. Для п = 2 геодезическая является ориентированным большим кругом н, следовательно, отождествляется с ориентированной плоскостью, которая, в свою очередь, определяется единичным вектором (положительной нормалью). Пространство таких векторов суть 5^. В силу симметрии относительно поворотов объем совпадает со стандартным. Или же, если угодно, возьмите один большой круг вместе с единичными касательными векторами, направленными в разные полушария, в качестве трансверсали и компактифицируйте, добавив два касательных направления. При этом снова получится сфера. 5.6.2. в = (1/2) Е (Pidqi - q^dp-l V = -(-q, р). 5.6.3. Задайте v с помощью формулы dz/dt = iz. 5.6.5. Чтобы векторное поле сохраняло а, оно должно быть гамнльтоновым с однородным гамильтонианом. Чтобы векторное поле сохраняло 5Т", этот гамильтониан должен быть независимым от конфигурационной координаты q. Таким образом, это в точности те гамильтонианы, переменные действие-угол для которых такие же, как у геодезического потока. 6.1.1. См. упражнение 1.КЗ. 6.2.1. Используйте соотношения (1.2.4) и (1.2.5). 6.2.3. 1. Запишите дифференциальное уравнение для этих функций. 2. Выберите z > О и С?°-гладкую функцию tp на отрезке [я:', z]. где /(ж, 0) = (х\ 0), таким образом, чтобы все производные (р и ipof совпадали в точке х'. Используя уэо/" и узо(—/"). постройте С*"-функцию. (Гладкость в нуле следует из первого пункта задачи.) 6.2.4. Рассмотрите форму uj{Df^v^Df^w) и, используя инвариантность ш и сжатие и и W, получите нуль. Алалогично устойчивые и неустойчивые подпространства в общем случае изотропны, т. е. ш обращается на них в нуль. 6.2.5. Используйте отображение сдвига за единичное время в первом случае и отображение Пуанкаре во втором. 6.3.1. По предложению 1.1.2 неподвижная точка существует, и она сжимающая. Используя доказательство теоремы 6.3.1, получите глобальное сопряжение. 00 ОО 6.4.2. Положим (и, ш>; = Е <1>/"и, Dr-w) для и, ш€ £?", (и, w)'^ = Ё <1>Г"и, Df-^w) fi=0 n = 0 для и, «; € Е^ и (и, w)'^ = О для и € Е^^ w € Е~. Докажите, что (•, •>^ — непрерывное скалярное произведение и для нормы ЦиЦ'^ =^ \/(v, и) найдется такое А' € (0,1), что \\Df^^ \\'^ < A'||v||'^. Аппроксимируйте (•, •>' гладкой римановой метрикой. 6.4.3. Это нестационарный вариант упражнения 6.2.4. 6.4.5. Найдите соответствующее инвариантное подмножество подковы, используя топологическую сопряженность с полным сдвигом: рассматривайте последовательности, содержащие не более одной единицы. 6.4.7. Используйте сопряжение с топологическим 2-сдвигом, находя, скажем, подсдвиг, сопряженный одометру (см. упражнение 1.3.3).
744 УКАЗАНИЯ и РЕШЕНИЯ 6.4.8. Используйте наличие сопряжения с топологическим 2-сдвигом Бернулли н рассмотрите п-кратную топологическую одпь Маркова (см. определение 1.9.10). Ср. также с упражнением 18.2.2. 6.4.9. Используйте марковское разбиение нз п. 2.5 г и предыдущего упражнения. Отождествления при кодировании можно контролировать, заметив, что лишь немногие периодические точки не обладают образом или прообразом во внутренности одного из прямоугольников. 6.5.1. Рассмотрите параллелепипед из доказательства теоремы 6.5.5, который содержит подкову, и аккуратно выберите небольшие прямоугольные «ящики» в окрестности итерации 9* а затем рассмотрите максимальное инвариантное подмножество в их объединении. 6.5.2. Используя предложение 6.2.23, постройте гетероклннические осцилляции, аналогичные гомоклиническим осцилляциям, представленным в п. б и используемым в доказательстве теоремы 6.5.5. Воспользуйтесь построенными осцилляциями. 6.5.3. Рассмотрите отображение сдвига за единичное время для градиентного потока на наклонном торе (§ 1,6). 6.6.1. Покажите, что не существует инвариантной С^-гладкой кривой, касательной к оси х. 6.6.2. Опишите резонансные члены, которые не могут быть устранены из соотношений коммутирования. 6.6.3. Заметьте, что только формальная часть требует некоторого труда и что резонансов нет. 6.6.4. Устраните нерезоиансные члены и с использованием сохранения площади контролируйте резонансные члены. 6.6.5. Используйте теорему 6.6.5. 7.1.3. Положите а = (1 — с)/(1 +2(1 — с)) < 1/3 и постройте каиторово множество С^, используя тот же процесс, что н при построении троичного канторова множества, но на каждом этапе удаляя одну (а*)-ю из середины. 7.1.7. Используя анализ Фурье, постройте формальное решение. Проанализируйте его свойства, используя два предыдущих упражнения. См. также упражнение 14.2.1, касающееся замены времени, и упражнение 2.8.3. 7.1.8. Сначала покажите, что для фиксированного е дополнение открыто и плотно. 7.1.9. Покажите, что для данного интервала множество немонотонных функций открыто н плотно. Затем рассмотрите интервалы с рациональными конечными точками. 7.1.10. Сначала покажите, что в общей ситуации нет изолированных неподвижных точек. Заметьте, что любой гомеоморфизм отрезка [0,1] обладает по крайней мере одной неподвижной точкой. 7.2.1. Получите противоречие. 7.2.6. Сначала заметьте, что достаточно рассмотреть / в небольшой окрестности нуля в R" с нулем в качестве нетрансвереальной неподвижной точки. Пошевелите конструкцию в направлении собственного вектора 2?/1о) соответствующего собственному значению 1. Этот прием не применим в С^-ситуации: рассмотрите f{x) = z + z на R. 7.2.8. Векторы в пересечении не могут растягиваться ни в каком направлении. 7.2.9. При доказательстве аналога предложения 7.2.9 примените теорему Купки—Смейла порядка 2. 7.2.11. Рассмотрите небольшие диски, не пересекающиеся с критическими точками н пересекающие сепаратрису, соединяющую седла. Опишите деформацию тора, которая нарушает симметрию в окрестности плоскости этой сепаратрисы так, что она исчезает. Если эта деформация выполняется так, что высота ни одной точки не изменяется, то мы продеформировалн метрику (вложение), ие изменяя функции высоты. 7.3.1. См. также третью часть упражнения 1.7.2. 7.3.2. См. указание к третьей части упражнения 1.7.2. 7.3.3. Следуйте общей схеме доказательства предложения 7.3.3. 7.3.4. Рассмотрите отображение возвращения на положительную полуось оси ж и используйте соответствующую версию анализа для одномерных отображений. 8.1.1. Заметьте, что доказательство теоремы 8.1.1 применимо к множествам с границей. «Раздуйте» точки Pi,..., р„, т. е. постройте множество N с п компонентами границы и непрерывное отображение h: N-^ М^ являющееся гомеоморфизмом на внутренности N, которое
УКАЗАНИЯ И РЕШЕНИЯ 745 отображает компоненты границы в точки. Затем постройте гомеоморфизм F: N~*N, оставляющий неподвижными все точки границы н такой, что foH=hoF. Примените теорему 8.1 Л к F и используйте вариационный принцип (теорема 4.5.3). 8.1.2. Согласно предащущему упражнению достаточно получить положительную алгебраическую энтропию на проколотом диске. Без потерн общности можно считать, что точки р и q содержатся в небольшом диске D^. Возьмите диск i?2) содержаищйся в И концентричный D^, и определите диффеоморфизм / на D^, который переставляет р и q, жестко поворачивая диск D^ на тг радиан и при этом оставляя множество Vr\D2 неподвижным. Фундаментальная группа множества D^ \{р, q} порождается циклами а и 6, закрепленными в точке х € dJr, так что циклы аи Ь совпадают, пока они не достигают середины отрезка мехсду р и 9> а затем отделяются друг от друга и возвращаются с разных сторон от пары (р, q). Применив соответствующую маркировку, мы получаем Д(а) = 6 н Д6 = 6а6~'. Если а^ равно числу вхождений а в слово, представляющее Д"(а), и 6„ —число вхождений 6 (и 6~*) в слово Д"(6) (после приведения), то по ивдукцин a„ = *„_i и6„ = 6„_1+а„_1. Таким образом, {6„} — последовательность чисел Фибоначчи н, следовательно, она растет экспоненциально. Эти соображения зависят лишь от гомотопического класса / mod{p, q}. 8.2.1. Используйте (3.3.1) и вторую часть предложения 3.1.7. 8.2.2. Обратите внимание на доказательство предложения 3.2.2. 8.3.1. Рассмотрите неподвижные точки. Если неподвижная точка только одна, то это единственная неблуждающая точка, и все доказано. Аналогично, если существуют две неподвижные точки н их производные не равны единице по абсолютной величине, то тоже все доказано. Если же существуют две неподвижные точки с производной равной единице по абсолютной величине, то данное отображение сопр5{жено врашгению сферы. 8.3.2. Используйте определение степени через объем и вычислите энтропию с помощью е-покрытий, учитывая тот факт, что / — накрывающее отображение. 8.3.3. Используйте предложение 2.4.9 и вариационный принцип (теорему 4.5.3). 8.4.1. Используйте определение степени через количество прообразов регулярного значения. Сведите задачу к решению тригонометрического уравнения, а это решение, в свою очередь, к решению алгебраического уравнения. 8.4.2. Сведите задачу к системе алгебраических уравнений. Используйте тот факт, что количество изолированных решений такой системы не превышает произведения степеней входящих полиномов (ср. с доказательством теоремы 7.4.1). 8.4.4. Заметьте, что ind , Xq не зависит от такого е. Затем используйте определения. 8.4.5. Заметьте, что это кратное седло, и используйте метод, применявшийся в примере с тройным седлом. 8.4.6. Докажите, что \\vp{x, y)\f > С{х^ + у^) для некоторого С > О, и с помощью этого факта покажите, что индекс равен индексу кубической части. 8.6.1. l-deg(/). 8.6.2. Используйте формулу Лефшеца для числа неподвижных точек (теорема 8.6.2). 8.6.3. Если S допускает диффеоморфизм Аносова, то существует не обращающееся в нуль поле прямых. Тогда либо ^ либо его двулистное накрытие обладает ненулевым векторным полем. ЗИго означает, что x{S) = О, так что S является тором. 8.6.4. Покажите, что индексы периодических точек любого данного периода равны, и используйте формулу Лефшеца для числа неподвижных точек. 8.6.5. Сначала покажите, что выполнены условия предыдущего упражнения, а затем используйте следствие 6.4.19 н теорему 8.6.2. 8.6.7. Выразите след матрицы через ее собственные значения путем итерирования. Сведите задачу к случаю, когда все собственные значения — либо положительные вещественные числа, либо комплексные числа, аргумент которых несоизмерим с 27г, и используйте результаты § 1.4. 8.7.1. Используя то обстоятельство, что 1,+... + *„ = *
746 УКАЗАНИЯ И РЕШЕНИЯ п и {F^)^j^ является суммой тензорных произведений {F^)^^, получите L(F^) = П (^ ~ ■^,')- IAJ>I 8.7.2. Существует инвариантный вектор v с рациональными координатами. Положите а € €]R\Q и g(x) = Ax + av (mod 1). 8.7.3. Докажите сначала, что это условие означает, что Д обладает собственным значением, по модулю большим единицы. Для этого предположите обратное и покажите, что существует лишь конечное множество возможных характеристических полиномов такого вида, следовательно, то же верно и для степеней Д, так что все нули являются корнями из единицы. Теперь используйте теорему 8.7.1. 9.1.2. Проведите рассуждения от противного, используя градиентный поток, как в доказательстве предложения 9.1.2. 9.1.3. Используйте градиентный поток (не предполагая невырождение в экстремумах). Для этого полезно заметить, что множества уровня являются гладкими жордановыми кривыми н, следовательно, ограничивают гладкие диски (гладкая теорема Жордана о кривых). 9.1.4. Должны существовать экстремумы, оба с единичным индексом; поскольку х(Т^) = 0, должны существовать две другие критические точки индекса — 1. Функция высоты показывает, что это возможно. 9.1.5. Сначала постройте функцию Морса /, у которой есть один минимум, один максимум и f „ j седловых точек с индексом Морса Л, Л = 1,..., п — 1, с тем дополнительным условием, что значения функции / равны во всех точках данного индекса и убывают с ростом к. Затем измените / в окрестности ее критических значений, «склеивая» все точки данного индекса в одну. Полезно сначала сделать это подробно для случая п = 2. 9.2.1. Локально замените границу прямыми и покажите, что это не меняет члены первого порядка. 9.2.2. Используйте аппроксимацию гладкими строго дифференциально выпуклыми кривыми и соображения компактности. 9.2.3. Выберите разумную аппроксимацию границы прямыми и окружностями, чтобы работать с линейной частью. Результат: dS dS \ / dS sind Я \ / х,Я-8шб н S ж WJ \ '''Ж-'' ''■W-4 V^.'^'liFF "' ^-^ 9.2.4. Он равен радиусу кривизны в точке р. Используйте предыдущее упражнение н устремите в к нулю. 9.2.5. Чтобы установить гиперболичность, используйте явную форму дифференциала из упражнения 9.2,3 н тот факт, что длинный диаметр больше удвоенного радиуса кривизны в наших точках. Удобно заметить, что матрицы днфференцивлов совпадают в обеих точках. Остается доказать, что орбиты, проходящие через фокусы, сходятся к длинному диаметру. Для этого рассмотрите ква;фат биллнардного отображения и заметьтеТчто это отображение монотонно на данном семействе. 9.2.6. См. предыдущее упражнение. 9.2.7. Может оказатьсяудобным заменить отражение в прямой стороне переходом в отраженную копню стадиона. Примите во внимание замену ориентации в зеркальном отражении. (См. рис. 9.2.6.) 9.3.1. Для данного закручивающего отображения Д (которое, в частности, является отображением с положительным наклоном) рассмотрим образ S вертикальной прямой. Вдоль S у нас есть функция угла ву > 0. Теперь рассмотрим эффект применения закручивающего отображения /2- Так как и для /2 функция угла положительна, образ вектора, касательного к 5 в точке (ж, 3/), под действием Д образует угол, больший чем ^(ж, у). Действительно, ву (/f' (ж, у)) > О и отображение /2 сохраняет ориентацию. Заметьте, что тем самым доказано, что композиция двух отображений с положительным наклоном является отображением с положительным наклоном.
УКАЗАНИЯ И РЕШЕНИЯ 747 9.3.2. Определите функцию Я(а, з') как меру области, использовавшейся в определении порождающей функции в случае сохранения площади. Замените использование производных небольшими конечными вариациями. Это сделано в работе [140]. 9.3.3. Чтобы найтн орбиту типа (р, q), рассмотрите пространство неубывающей последовательностей, элементы которых удовлетворяют условию з„+2? *= «п + ^ > " функционал действия -Ь(а) = Ё [^l(*2J^. ^(2Jb + I)p) + ^2(^(2Jb + I)p. «(2Jb+2)p)]» ^Д^ ^I " Щ —ПрОНЗВОДЯЩИе фунКЦИИ для /| и /2 соответственно. 9.3.6. Интерполируйте производящую функцию Я(з, з') отображения F и функцию s — — я' /2 с помощью медленно изменяющейся весовой фушащи. сохраняя соотношение (9.3.3). 9.4.1. Используйте воЗмуш|ение. обращающееся в нуль вне малой окрестности данной точки с(Ц), в которой соотношение (9.4.2) нарушается. 9.5.2. Рассмотрите точку на замкнутой геодезической. Примеры: стандартная сфера, стандартный тор н т. д. 9.5.3. Минимизируйте длину в ненулевом гомотопическом классе. 9.5.4. Используйте теорему 9.5.5. 9.5.5. Положите д'^ ^ (5~*)и " определите символы Кристоффеля 9.6.1. Вычислите объем шара, используя полярные координаты в окрестности центра. v(M)^l. 9.6.2. Замените кусок с плоской метрикой иа симметричный относительно вращений «пузырь», который содержит более чем половину сферы. 9.7.1. Вложите лист Мёбиуса таким образом, что центральная прямая образует «гребень», который длиннее чем половина края. 9.7.2. Перейдите к двулистному накрытию и используйте теорему 9.7.1. 9.7.3. Начните с плоской метрики и попытайтесь «сжать» ее так. чтобы создать очень короткие замкнутые геодезические в направлениях всех трех образующих, в то же время контролируя длины некоторых «диагоналей». Эта конструкция принадлежит Хедлунду [119J. 9.7.4. Экспоненциальное отображение для любой точки гиперболической плоскости является диффеоморфизмом. 10.0.1. Функция f{x) — ж не может быть положительной (отрицательной) для всех х. 10.0.2. Покажите, что существует такой отрезок J € /. что f(J) = [/(ж), f^(x)]. Заметьте, что J С f (J), и используйте предыдущее упражнение. 10.0.3. Используя индукцию, начертите часть графика /". находящуюся в единичном квадрате [0,1]^. и выведите отсюда, что P^{f)^2^. Чтобы найти нужные периодические орбиты, используйте сходство с конструкцией подковы (п. 2.5 в). Ср. с определением 15.1.10. 10.0.4. Постройте односторонний 2-сдбиг как фактор ограничения / на инвариантное подмножество Aj с А. См. доказательство теоремы 1э.1.5. 10.0.5. См. доказательство леммы 5.1.18. 10.0.6. Сначала докажите, что в координатах г: на 5^ \ {оо} н ш на 5^ \ {0} функция / голоморфна в каждой точке. 10.0.7. Голоморфное отображение не может быть ннъективным в критической точке. 11.1.2. Используйте предложение 9.6.4. 11.1.3. Интерпретируйте —W как временное среднее функции на окружности. Затем используйте теорему Крылова ^Боголюбова 4.1.1 н ^годнческую теорему Бнркгофа 4.1.2. 11.1.5. Пересечение является интервалом в силу монотонности. Для того чтобы показать, что оно непусто, проверьте, что гд^^О н ц ь~^* " используйте непрерывность. Чтобы получить положительную длину, покажите, что, поскольку Л ^ —целая функция, применимо предложение 11.1.10.
748 УКАЗАНИЯ И РЕШЕНИЯ U.I.6. Да. Покажите, что если {Ор Oj} — непересекающееся открытое покрытие А /^ то можно считать, что О] П О2 = 0. Используя компактность, получите противоречие. ил.7. Используйте предложения 11.1.9 и 11.1.10, как в доказательстве предложения 11.1.11. 11.2.1. Используйте классификацию орбит Пуанкаре и соображения из предложения 2.1.7. 11.2.3. Рассмотрите все возможные комбинации устойчивых, полуустойчивых и неустойчивых орбит. 11.2.4. Степень / равна —1. Рассмотрите /^. 11.2.6. Постройте неатомарную /-инвариантную меру, носитель которой является множеством периодических точек. Затем отобразите ее в меру Лебега. 11.2.7. Покажите, что R^oh^oh^^ =h^o Л^' о R^. 11.2.8. Возьмите интервал / с концами вне минимального множества и образующий с ним непустое пересечение. Используя минимальность, покажите, что кодирование, соответствующее разбиению {/, 5' \ /}. инъективно. 11.2.9. Рассмотрите собственные значения и собственные функции ассоциированного оператора Од (см. п. 4.1 е). 11.2.10. Получите оценку сверху на рост числа отделенных орбит, используя сохранение порядка. 12.2.1. Если мера множества Данжуа равна нулю, ииварнантная мера, очевидно, единственна. В противном случае заметьте, что на множестве Данжуа /' = 1, так что ограничение меры Лебега на множество Данжуа инвариантно. 12.2.2. Соответствующим образом определяя /„. добейтесь того, чтобы ряд 2 п '*. определенный в начале доказательства, превратился в ряд 2 l/(n(logn)'"*"^*). 12.5.1. Используйте теорему Бэра о категории П.1.22. 12.6.2. Модифицируйте конструкцию таким образом, чтобы на некоторых множествах производная функции h^ была очень близка к заданному набору чисел. Затем произведите последующие возмущения, столь малые по мере, что указанное выше свойство не нарушится. 12.6.3. Используйте упражнение 7.1.6. 12.7.1. Используйте классификацию Пуанкаре. 12.7.2. Возьмите пример из теоремы 12.5.1 или из первой части теоремы 12.6.1 н положите у. = Л^А. Затем используйте теорему 12.7.2. 13.1.1. Используя равномерную непрерывность отображения /, докажите существование «равномерного модуля закручивания», т. е. такой функции ^. что для всех У2>У\ выполнено неравенство F(x^ j^) — F(x^ У\)>Р{У2 — Ух) равномерно по а;€R. Это проделано в [140]. 13.1.2. w(f) = c-V7. c = const. 13.2.1. Используйте вариационный принцип (теорему 4.5.3) и теорему 11.2.9. 13.2.2. Диаметры и все орбиты, которые не пересекают внутренность сегмента между фокусами. 13.2.5. Используйте упражнения 9.2.3 н 13.1.1. 13.2.6. Сначала докажите существование биркгофовой периодической орбиты типа (р, д) для Tq < p/q < Tj. См. [140]. 13.2.7. Используйте предложение 13.2.21 и упражнение 13.2.6. 13.3.2. Все упорядоченные орбиты минимальны, за исключением короткого диаметра; см. упражнение 13.2.2. 13.3.3. Используйте следствие 13.3.8 и предложение 13.2.21 или упражнение 13.2.3. 13.4.1. Пусть у{х) — общее значение з/"*" и з/~. Покажите, что для Ж] и 2^ в разрыве орбиты {х^уу{хх)) н {x2i у{^)) образуют упорядоченное множество. 13.5.1. Примените предложение 13.5.1 подобно тому, как это делалось в доказательстве предложения 13.5.3. 14.1.1. Покажите, что периоды точек ограничены, н затем используйте теорему Купки— Смейла 7.2.13.
УКАЗАНИЯ И РЕШЕНИЯ 749 14.2Л. См. упражнение 7.1.7; покажите, что отображение сдвига за время f для каждого t фО топологически транзитивно (см. определение 1.3.1). 14.2.2. Рассмотрите замкнутую трансверсаль и покажите, что если отображение Пуанкаре определено, то оно обращает ориентацию. 14.2.4. Используйте конструкцию из теоремы 12.6.1. 14.3.1. Используйте предложение 12.2.1. 14.3.2. Используйте то обстоятельство, что любые ^ + 1 непересекающиеся замкнутые кривые разделяют поверхность, и теорему Пуанкаре—Бендиксонаа 14.1.1. 14.4.2. Используйте то обстоятельство, что любые д-^\ непересекающиеся замкнутые кривые разделяют поверхность, и теорему Пуанкаре—Бендиксонаа 14.1.1. 14.4.3. Используйте минимальность иррациональных сдвигов на торе. 14.4.5. Род равен [п/2]. Для четных п имеется одна неподвижная точка, с индексом 2 — ~2д = 2~п. Для нечетных п их две. с индексом (1 — п)/2. 14.5.3. Достаточно рассмотреть неатомарные меры. Тогда ^(1) — одностороннее образующее разбиение. Кроме того, покажите, что число элементов разбиения ^£^ растет линейно. 14.5.4. См. упражнение 4.2.10. 14.5.6. Начните с 0 = 2а и продолжайте рассуждения по индукции, добавляя небольшие части, как в доказательстве следствия 12.6.4. 14.6.1. Сначала постройте сохраняющий площадь поток в торе с дырой с двумя полуседпамн на границе, так что граница состоит из двух ветвей сепаратрисы, соединяющей эти седла. 14.7.2. Начните с двух линейных потоков на торнческих компонентах, которые дают необходимые потоки через образующие. Затем сделайте дыру в каждом торе и измените поток так, чтобы образовались две седловые точки и поток направлялся нз одного тора в другой. 14.7.4. См. упражнение 14.5.6. 15.1.1. Ср. с теоремой 15.1.5 или теоремой 15.1.9. 15.1.2. Используйте варианты (3.2.2) и (3.2.3) для односторонних сдвигов. Заметьте, что вариация стандартного отображения равна числу стрелок в его марковском графе. 15.1.3. Удалите *пернодические ловушки». См. также теорему 15.1.9. 15.2.2. Используйте отображения с постоянной абсолютной величиной углового коэффициента. Регулируйте либо число интервалов монотонности, либо число неподвижных точек любым способом. 15.3.2. Рассмотрите, например, f{x^) = ж^ ^ j. i = 1,..., п - 1. и /(а;„) = «j. 15.4.1. Используйте соответствующим образом соображения из доказательств лемм 15.4.3 и 15.4.5; получите противоречие, предположив, что мера fj, неатомарна. Сначала заметьте. что из неравенств h^^ (f) <\og2/2 и h^ (f^) <log2 следует, что ни /, ни /^ не обладают подковой. Таким образом, можно провести доквзательства лемм 15.4.3 и 15.4.5. Чтобы доказать лемму 15.4.3. измените последний абзац следующим образом: существует такая неподвижная точка с, что (a:,c)nFix(/)^0. Это противоречит предположению о том, что у нас имеется лнщь конечное число неподвижных точек, и доказывает лемму. Чтобы доказать лемму 15.4.5, измените последний абзац таким образом: существуют такие последовательности w^, -г„, w^ < < f(w^)^aHw^<z^<a< f{z^). что w^-*a, z^-*a. Это противоречит кусочной монотонности и доказывает лемму 15.4.5. Но это означает, что отображение /^ не эргодично, следовательно, мера fi не является неатомарной н в силу эргодичности y.~S^ для некоторой неподвижной точки X. 15.6.1. Используйте теорему 15.6.1 н тот факт, что полусопряженне h инъективно всюду, кроме тех непересекаюшжся интервалов, на которых все степени / монотонны. 16.3.1. Используйте следствие 16.1.2, а затем теорему 16.3.1 и комментарии в конце § 15.2. 16.3.2. Покажите, что С-возмущения кусочно монотонны. 17.1.1. Пересечение К любой убывающей последовательности компактных связных множеств К^ связно. Чтобы доказать это, предположим, что {О^ О^ это покрытие множества К непересекающимися открытыми множествами, н заметим, что если К^ ^ G- для любых г, j^ то 0ф ^ (К^ П (^1 и ^2)) С А" \ (Oj и Оз) для достаточно большого числа N.
750 УКАЗАНИЯ И РЕШЕНИЯ 17.1.2. G является группой характеров дискретной группы двоично-рациональных чисел {тп • 2" I тп, п € Z}. Мы отождествляем Л с группой последовательностей (ц), Wj,...), где ljq^ S^ и i^n+i~ ^^п' ^ покомпонентным умножением. 17.2.4. Рассмотрим поверхность S^ которая получается присоединением к ручек симметрично вокруг экватора к круглой сфере с углами 2ir/k между ними. Пространство орбит поворота на угол 2тг/к вокруг оси север-юг, очевидно, является тором. Теперь найдите диффеоморфизм Аносова на Т^ с двумя неподвижными точками, который может быть поднят на 5, и проведите хирургию подобно тому, как это делалось при построении DА-отображения. 17.3.1. Производная DF в единице однозначно определяет автоморфизм. Эти производ- f а Ь 0\ ные задаются целочисленными матрицами вида (с d О ), где ad ~ сЬ =^'у ^ {О, ±^1} и V« 0 7/ (с d) гиперболическая матрица. 17.3.2. Отображение F переводит сдвиги в сдвиги и сохраняет решетку, следовательно, оно должно сохранять (с точностью до ориентации) любую меру инвариантную относительно сдвигов. 17.3.3. Чтобы показать, что элемент dacdydz левоинвариантен, заметим, что левый сдвиг матрицы Гейзенберга изменяет элементы лишь на некоторую постоянную. 17.3.4. Упражнение 17.3.2 показывает, что отображение F сохраняет меру Хаара, так что согласно упражнению 17.3.3 его определитель равен единице, а это в силу упражнения 17.3.1 означает, что 7^ = 1. 17.4.2. рассмотрите параметризованную замкнутую кривую, касательные векторы к которой близки к образующей потока. Зафиксируйте последовательность поперечных сечений в равноудаленных друг от друга точках кривой и рассмотрите произведение соответствующих отображений Пуанкаре. Введите подходящие координаты на каждой трансверсали н продолжите отображения Пуанкаре на все евклидово пространство с сохранением гиперболичности. Затем повторите доказательство леммы Аносова о замыкании (теорема 6,4.15). Единственная неподвижная точка произведения отображений Пуанкаре соответствует периодической орбите потока, которая остается близкой к исходной орбите потока после небольшой репараметриза- цни. 17.5.1. 1. Второй орициклический поток H^{v) = ~H^{~v); касательный вектор перемешается вдоль орицикла, определяемого посредством 7(+оо). 2. Вращение вектора вокруг его точки приложения с единичной скоростью. 3. Ортогональный геодезический поток касательный вектор v перемешается с единичной скоростью вдоль соответствующим образом ориентированной геодезической, ортогональной и. 17.5.2. Используйте классификацию преобразований Мёбнуса (эллиптические, параболические и гиперболические преобразования). 17.6.1. Вычислите объем сферы путем интегрирования элемента объема, порожденного ор- тонормированнымн полями Якоби. Ср. также с упражнением 9.6.1. 17.6.2. Используйте предыдущее упражнение. 17.6.3. Покажите, что ехр^ : Т^М -^М — диффеоморфизм. 17.6.4. Используйте прещащущее упражнение. 17-7-1. Используя теорему 9.6.7 и упражнение 17.6.1. проведите доказательство аналогично доказательству теоремы 3.2.9. 17.8.1. Задайте такое открытое покрытие С = {Cj,..., С^} множества J, что из условия f(C')r\C.^0 следует включение C-cf(C-). J J 17.8.2. Используйте «разрез» от неподвижной точки до оо н его прообразы для кодирования. 18.1.2. Рассмотрим два небольших круга с центрами в полюсах и достаточно плотный набор отрезков орбит между инмн. Тогда любая е-ороита остается достаточно близкой к одному из данных отрезков, будучи вне этих кругов. Внутри же кругов она, очевидно, близка к соответствующим орбитам. 18.1.3. Вновь рассмотрите круги с центрами в критических точках и достаточно плотный набор отрезков орбит вне их. 18.1.4. Используя обозначения теоремы о семействе е-траекторнй, будем считать, что /' = = / совпадает с нашим отображением, д: Т^ -+ Т^ — соответствующее отображение сдвига
УКАЗАНИЯ И РЕШЕНИЯ 751 за единичное время на наклонном торе н а = idja. Тогда d^{f, д) < £, но / н д, очевидно, не сопряжены, поскольку д не имеет сепаратрисы, соединяющей седла. 18.2.1. В случае необратимого отображения с соответствующими условиями гиперболичности могут возникнуть трудности при определении неустойчивых направлений, поскольку прообраз не единственен. В данном случае такой проблемы не возникает, поскольку по предположению все касательное пространство растягивается. 18.2.2. Используйте неединственность неустойчивых многообразий для некоторых возмущений F, которая возникает из-за неединственности прообразов. 18.3.1. Покажите, что в NW{<r^) все символы существенны и эквивалентны, так что можно применить результаты упражнения 1.9.9. 18.3.2. На Т^ рассмотрим две гиперболические неподвижные точки и гетероклиннческую орбиту. Если диффеоморфизм сохраняет гладкую меру, получится компактное локально максимальное гиперболическое множество, содержащееся в неблуждающем множестве. Но его неблуждающее множество содержит всего две точки. 18.3.3. Приялейте к Д две полуокружности, поместите сток (т. е. притягивающую неподвижную точку) в одной из них и продолжите отображение таким образом, чтобы это множество переходило в себя. Чтобы продолжить его с данного топологического диска на всю сферу, поместите источник (отталкивающую неподвижную точку) в дополнении. 18.3.4. Измените рассуждения из теоремы 18.3.6, показав, что замыкание неустойчивого многообразия одной из этих орбит содержит другую орбиту полностью. 18.3.6. Используйте тот факт, что неустойчивые многообразия являются открытыми множествами. 18.3.7. Введите такое отношение эквивалентности на множестве периодических точек: р ~ ~ q тогда и только тогда, когда слабое устойчивое многообразие точки р пересекает слабое неустойчивое многообразие точки q н наоборот и оба пересечения транс версальны по крайней мере в одной точке. Заметьте, что получившиеся классы инвариантны относительно потока и открыты. 18.4.1. Установить локальную максимальность легко: точка, которая остается вблизи для всех п € Z, по предположению содержится в пересечении устойчивого н неустойчивого многообразий из данного множества; следовательно, имеется локальная структура произведения и локальная максимальность. И наоборот, предположим локальную максимальность н рассмотрим такую точку з/. как в утверждении. Тогда у лежит на некоторой е-орбите, которая совпадает с орбитой у для положительного времени и содержится в А для отрицательного времени. Она приближается орбитой точки хбА. следовательно, положительно аснмптотнчна ей. 18.4.3. Каждое замкнутое инвариантное множество сдвига может быть сколь угодно хорошо аппроксимировано п-кратной топологической цепью Маркова. Ср. также с упражнением 6.4.8. 18.4.4. Используйте предыдущее упражнение и упражнение 1.9.12 либо упражнение 6.4.7. 18.5.1. Используйте следствие 1.9.12 и предложение 3.2.5. m 18.5.2. Из упражнения 8.7.1 следует, что Pn(F^)= П И -К1 Сгруппируем члены в со- 1 = 1 ответствии с тем. находится А,- на единичной окружности (негиперболический случай) или нет. Гиперболическая часть дает правильную асимптотику, но иегиперболнческая часть, хотя н ограничена числом 2. содержит сколь угодно близкие к нулю члены. 18.5.3. Используйте теорему 18.5.1 н упражнение 8.7.1. 18.7.1. Используйте упражнения 18.3.5 и 18.3.9. 18.7.3. С помощью предыдущего упражнения покажите, что полусопряжение инъектнвно почти всюду для каждой неатомарной меры. Затем примените вариационный принцип. 19.1.4. С помощью предыдущего упражнения, а также инвариантной контактной структуры (лемма 18.3.7) покажите, что сильные устойчивые и неустойчивые слоения С*-гладки. Затем используйте прием Хопфа из теоремы 5.4.16. Этот результат также доказывается в § 20.4. 19.1.5. Возмутите линейный диффеоморфизм Аносова таким образом, чтобы неустойчивое слоение не изменилось, а собственное значение в некоторой периодической точке изменилось. 19.1.7. Рассмотрите отображение голономин, порожденное нашими слоениями на аналитической замкнутой кривой, трансверсальной к слоениям (например проекцию Оси х из R
752 УКАЗАНИЯ И РЕШЕНИЯ на Т^). С помощью теоремы Арнольда 12.3.1 покажите, что оно аналитически сопряжено повороту. Покажите, что соответствующий линейный параметр на этой трансверсали линейно растягивается под действием /. Используя этот факт, постройте аффинные координаты на универсальном накрытии, в которых поднятие F отображения / линейно. 19.2.1. Покажите, что их разность когомологична якобиану /. 19.2.2. Покажите, что коэффициенты Фурье решения Ф, полученного из теоремы 19.2.1, убывают быстрее любой экспоненты. 19.2.3. Используйте метод, подобный тому, который применялся при доказательстве теоремы 19.2.5, и докажите, что функция Ф, полученная с помощью теоремы 19.2.1. является С^-гладкой вдоль листов устойчивого и неустойчивого слоений. Затем с помощью анализа Фурье покажите, что иа этого следует наличие гладкости. 20.1.1. Сначала покажите, что существует бесконечно много периодических орбит, а затем используйте теорему 18.5.5. 20.1.2. Заметьте, что по определению разделяемость наследуется замкнутыми инвариантными подмножествами, и покажите, что спецификация наследуется факторами. 20.1.3. Согласно упражнению 1.9.11 эта система софическая. 20.1.7. С помощью предащущего упражнения покажите, что А = Пт и . П —* 00 20.1.8. Используйте предыдущее упражнение и упражнение 18.5.3. 20.3.1. Рассмотрите только функции одной координаты. 20.3.3. С помощью леммы 20.3.4 покажите, что равенство h (/) = О означает атомарность меры /i^. 20.3.5. Используйте предыдущее упражнею1е. 20.4.2. С помощью леммы 20.3.4 докажите абсолютную непрерывность. Напишите функциональное уравнение для производных н покажите, что его решения единственны. После того как это сделано, покажите, что равенство (20.4.5) дает решение. 20.4.3. Вместо площади (гладкой меры) используйте равновесные состояния у.^тл у.^, где •ф = log J'f (устойчивый якобиан). Затем используйте результат предыдущего упражнения. 20.4.4. Возьмите композицию линейного отображения, неустойчивое слоение которого W двумерно, с сохраняющим объем диффеоморфизмом, который сохраняет слои W, но изменяет собственные значения в некоторой периодической точке.
БИБЛИОГРАФИЯ 1. Abraham R.. Marsden J. Foundations of mechanics. — New York: Ben- jamin/Cummings. 1978. 2. Abraham R.. Robbin J. Transversal mappings and flows. — New York: Benjamin. 1%7. 3. Abraham R.. Smale S. Non-genericity of П-stability // Global Analysis. Proceedings of Symposia in Pure Mathematics. V. 14. — 1970. — P. 5-8. [Имеется перевод: Абрахам, P., Смейл С. ^-устойчивость не типична // Математика.— 1%9. — Т. 13, № 2.] 4. Adler R. L., Konheim А. С. McAndrew М. Н. Topological entropy // Transactions of the AMS. — 1965. — V. 114. — P. 309-319. 5. Adler R. L.. Weiss B. Entropy, a complete metric invariant for automorphisms of the torus // Proceedings of the National Academy of Sciences. — 1967. — V. 57. № 6 . — P. 1573-1576. 6. Алексеев В. М. Инвариантные марковские подмножества диффеоморфизмов // УМН. — 1%8. — Т. 23. № 2. — С. 209-210. 7. Алексеев В. М. Перроновские множества н топологические цепи Маркова // УМН. —1969. — Т. 24. № 5. — С. 227-228. 8. Алексеев В. М. Квазислучайные динамические системы I. Квазислучайные диффеоморфизмы // Матем. сб. —1968.—Т. 76. № 1.—С. 72-134. 9. Алексеев В. М. Квазислучайные динамические системы П. Одномерные нелинейные колебания в периодически возмущаемом поле // Матем. сб.— 1%8. — Т. 77. N9 4. — С. 545-601. 10. Алексеев В. М. Квазислучайные динамические системы III. Квазнслучайные колебания одномерных осцилляторов // Матем. сб. — 1%9. —Т. 78, № 1. — С. 3-50. И. Алексеев В. М. Символическая динамика/^ В кн.: Одиннадцатая математическая школа. — Киев: изд. нн-та математики АН УССР. 1976. С. 3-210. 12. AlekseyeV V. М.. Katok А. В.. Kushnirenko А. G. Three papers in dynamical systems. — Translations of the AMS (ser. 2). V. 116.— AMS. Providence, RI, 1981. 13. Андронов A. A.. Понтрягин Л. С. Грубые системы //ДАН СССР.— 1937. —Т. 14. N9 5. —С. 247-250. 14. Аносов Д. В. Грубость геодезических потоков на компактных римановых многообразиях отрицательной кривизны // ДАН СССР. — 1962. —Т. 145. № 4. — С. 707-709. 15. Аносов Д. В. Эргодические свойства геодезических потоков на замкнутых римановых многообразиях отрицательной кривизны // ДАН СССР. — 1963. — Т. 151. № 6.— С. 1250-1252. 16. Аносов Д. В. Геодезические потоки на замкнутых римановых многообразиях отрицательной кривизны // Труды матем. института им. В. А. Стеклова. — 1967. — Т. 90. — С. 3-209. 17. Аносов Д. В. О касательных полях траисверсальных слоеиий в У-системах // Матем. заметки. — 1967. —Т. 2. № 5. —С. 539-548. 18. Аносов Д. В. Об одном классе инвариантных множеств гладких динамических систем // В кн.: Труды V международной конференции по нелинейным колебаниям. Киев. 25 августа-4 сентября 1969 г. Т. 2. — Киев: издание ин-та математики АН УССР. 1970. 19. Аносов Д. В.. Каток А. Б. Новые примеры в гладкой эргодической теории. Эргодические диффеоморфизмы // Труды ММО. — 1970. — Т. 23. — С. 3-36. 20. Аносов Д. В.. Синай Я. Г. Некоторые гладкие эргсдические системы // УМН. — 1%7. — Т. 22. № 5. — С. 107-172. 21. Арнольд В. И. Малые знаменатели I. Об отображеннях окружности на себя // Известия АН СССР. Сер. матем,-1961. —Т. 25. —С. 21-86. 22. Арнольд В. И. Доказательство теоремы А. Н. Колмогорова о сохранении условно-периодических движений при малом изменении функции Гамильтона // УМН. — 1963. — Т. 18. №5. —С. 13-40. 23. Арнольд В. И. А\алые знаменатели и проблема устойчивости в классической и небесной механике // В кн.: Проблемы движения искусственных небесных тел. Доклады на конференции по общим и прикладным вопросам теоретической астрономии (Москва. 20— 25 ноября 1961 г.). —М.; изд-во АН СССР. 1963. С. 7-17. 24. Арнольд В. И. Обыкновенные дифференциальные уравнения.—М.: Наука. 1971. 25. Арнольд В. И. Дополнительные главы теории обыкновенных дифференциальных уравнений. — М.: Наука. 1978. 26. Арнольд В. И. Математические методы классической механики. — М.: Наука. 1974.
754 БИБЛИОГРАФИЯ 27. Arnold V. I.. A V e z A. Ergodic problems of classical mechanics. — Amsterdam: Addison — Wesley. 1988. 28. Арнольд В. И.. ААраймович В. С. Ильяшенко Ю. С. Шильннков Л. П. Теория бифуркации // В кн.: Итоги науки и техники. Современные проблемы математики. Фундаментальные направления. Т. 5. Динамические системы V.—М.: ВИНИТИ. 1986. С. 5-218. 29. А г t i п Е. Ein mechanisches System mit quasiergodischen Bahnen // Abhandlungen aus dem mathematischen Seminar der hamburmschen Universitat. — 1924. — Bd. 3. — S. 170-175. [Reprinted in Collected Papers. — Berlin, Heidelberg, New York: Springer-Verlag, 1965. S. 499- 504.1 30. Artin M., Mazur B. On periodic points // Ann. Math. — 1965. — V. 81.— P. 82-99. [Имеется перевод: Артан Э., Мазур Б. Пернодические точки // Математика. — 1967.—Т. 11, № 5.—С. 3-20.f 31. Aubry S. The devil*s staircase transformation in incommensurate lattices // In: The Riemann problem, complete integrability and arithmetic applications. Lect. Notes in Math. V. 925. — Berlin. Heidelberg, New York: Springer-Verlag, 1982. P. 221-245. 32. Aubry S., Le Daeron P. The discrete Frenkel — Kontorova model and its extensions I. Exact results for the ground-states // Physica D. — 1983. —V. 8. № 3. —P. 381- 422. 33. Aubry S., Le Daeron P., Andre G. Classical ground-states of a one-dimensional model for incommensurate structures. — Preprint. 34. В a n g e r t V. Mather sets for twist maps and geodesies on tori // In: Dynamics reported. V. 1. —Berlin. Heidelberg. New York: Springer-Verlag, 1988. P. 1-56. 35. Bangert V. On the existence of dosed geodesies on two-spheres // International Journal of Mathematics. — 1993. —V. 4. —P. 1-10. 36. В e a I s R.. D e i f t P., T о m e i С Direct and inverse scattering on the real line. Mathematical Surveys and Monographs. V. 28. — AMS, Providence. RI, 1988. 37. В e a r d о n A. Iteration of rational functions: Complex analytic dynamical systems. — Berlin. Heidelberg. New York: Springer-Verlag. 1991. 38. Б e л и Ц к и Й Г. Р. Эквивалентность и нормальные формы ростков гладких отображений //УМН. —1978.—Т. 33, № 1.—С. 95-155. 39. В е п d i X S о п I. Sur les courbes definies par les equations different!elles // Acta Math. — 1901.—V. 24. —P. 1-88. 40. Benedicks M.. Carleson L. Dynamics of the Henon map//Ann. Math.— 1991.—V. 133. —P. 73-169. 41. Benoist Y.. Labourie F. Sur les diffeomorphismes d'Anosov affines a feuilletages stable et instable differentiables // Invent. Math. — 1993. —V. 111. №. 2. — P. 285-308. 42. Benoist Y., Foulon P. Labourie F. Flots d'Anosov a distributions stable et instable differentiables // Journal of the AMS. — 1992. — V. 5. № 1. — P. 33-74. 43. Birkhoff G. D. Surface transformations and their dynamical applications // Acta Math. —1920. —V. 43, № 1-2.—P. 1-119. 44. Birkhoff G. D. On the periodic motions of dynamical systems // Acta Math.— 1927.—V. 50. —P. 359-379. 45. Birkhoff G. D. Dynamical systems.— Colloquium Publications. V. 9.— AMS, Providence, RI, 1927. [Имеется перевод: Биркгоф Г. Динамические системы. — М.-Л., Гостехиздат, 1941.] 46. Birkhoff G. D. Proof of the ergodic theorem // Proceedings of the Academy of Sciences USA. — 1931. —V. 17. —P. 656-660. 47. Bishop R. L., Crittenden R. J. Geometry of manifolds. —New York: Academic Press, 1964. (Имеется перевод: Бишоп Я. Л., Криттенден Я. Дж. Геометрия многообразий. — М.: Мир, 1967.] 4 8. Blanchard Р. Complex dynamics on the Riemann sphere // Bull. AMS. — 1984. — V. 11, № 1. —P. 85-141. 49. Block L., Guckenheimer J., Misiurewicz M., Young L.-S. Periodic points and topological entropy of one-dimensional maps // In: Global theory of dynamical systems (eds. Z, Nitecki, С Robinson). Lect. Notes in Math. V. 819. —Berlin, Heidelberg. New York: Springer-Verlag, 1980. P. 18-34. 50. Bo wen R. Topological entropy and Axiom A // In: Global Analysis. Proceedings of Symposia in Pure Mathematics. V. 14.— 1970. —P. 23-41. 51. Bowen R. Markov partitions for Axiom A diffeomorphisms // Amer. J. Math.— 1970. —V. 92. —P. 725-747. 52. Bowen R. Periodic points and measures for Axiom A diffeomorphisms // Transactions ofthe AMS. —1971.—V. 154. —P. 377-397.
БИБЛИОГРАФИЯ 755 53. Bowen R. Periodic orbits for hyperbolic flows/У Amer. J. Math.—1972.—V. 94.— S. 1-30. 54. Bowen R. Symbolic dynamics for hyperbolic flows // Amer. J. Math. — 1972.— V. 95. —P. 429-459. 55. Bowen R. Some systems with unique equilibrium states // Math. Systems Theory. — 1975.—V. 8, № 3. —P. 193-202. 56. Bowen R. Equilibrium states and the ergodic theory of Anosov diffeomorphisms. Lect. Notes in Math. V. 470. — Berlin, Heidelberg, New York: Springer-Verlag, 1975. [Имеется перевод; Боуэн Л Методы символической динамики. —М.: Мир, 1979.1 57. Bowen R. Entropy and the fundamental group // In: The structure of attractors in dynamical systems (eds. N. G. Markley, J. С Martin, and W. Perrizo). Lect. Notes in Math. V. 668. —Berlin, Heidelberg, New York: Springer-Verlag, 1978. P. 21-29. 58. Bowen R., R u e 11 e D. The ergodic theory of Axiom A-flows // Invent. Math. — 1975. —V. 29.—P. 181-202. 59. Boyle M. Symbolic dynamics and matrices // In: Combinatorial and graph-theoretical properties in linear algebra (eds. R. Brualdi, S. Friedland, and V. Юее). IMA Volumes in Mathematics and Its Applications. V. 50. —Berlin. Heidelberg, New York: Springer-Veriag, 1993. P. 1-38. 60. Б p и H M. И., П e с и H Я. Б. Частично гиперболические динамические системы // Известия АН СССР. Сер. метем. — 1974. —Т. 38, № 1. —С. 170-212. 61. Брюно А. Д. Аналитическая форма дифференциальных уравнений // Труды ММО. — 1972. —Т. 25. —С. 119-262. 62. Брюно А. Д. Аналитическая форма днфферендаальных уравнений // Труды ММО. — 1972. —Т. 26. —С. 199-236. 63. Bunimovich L. А. On the ergodic properties of nowhere dispersing billiards//Comm. Math. Phys. — 1979. —V. 65. —P. 295-312. 64. Chen Kuo-Tsai. Equivalence and decomposition of vector fields about an elementary critical point // Amer. J. Math. — 1963. — V. 85. —P. 693-722. 65. Cherry T. M. Analytic quasi-periodic curves of discontinuous type on a torus // Proceedings of the London Math. Soc. (second ser.)— 1938. — V. 44. —P. 175-215. 66. С о d d i n g t о n E. A., L e v i n s о n N. Theory of ordinaiy differential equations. — McGraw-Hill: New York, 1955. [Имеется перевод: Коддингтон Э., Левинсон Я. Теория обыкновенных дифференциальных уравнений. —М.: Изд-во иностр. лит., 1958.] 67. Collet Р., Eckmann J. - Р. Iterated maps on the interval as dynamical systems.— Boston: Birkhauser, 1980. 68. С о n I e у С h. Isolated invariant sets and the Morse index // CBMS Regional Conference Series in Mathematics. V. 38. —AMS, Providence. RI, 1978. 69. С о n I e у С h., Z e h n d e r E.. Morse-type index theory for flows and periodic solutions for Hamiltonian equations // Comm. Pure and Appl. Math. — 1984. —V. 37, № 2. — P. 207-253. 70. Co n nes A. Une classification des facteurs de type III // Ann. Sci. de I'EcoIe Norm. Sup. —1973. —V. 6, №2.—P. 133-252. 71. Корнфельд И. П., Синай Я. Г., Фомин С. В. Эргодическая теория.— М.: Наука, 1980. 72. Den joy А. Sur les courbes definies par les equations differentielles a la surface du tore // Journal de Math. Pures et Appl. (9. serie). —1932. —V. 11.—P. 333-375. 73. Denker M., Grillenberger Ch., Sigmund K. Ergodic theoir on compact spaces. Lect. Notes in Math. V. 527. —Beriin, Heidelberg. New York: Springer-Verfag. 1976. 74. D e V a n e у R.. An introduction to chaotic dynamical systems. — Addison — Wesley: Reading, MA, 1989. 75. Д и H a б у p г E. И. Связь между различными энтропийными характеристиками динамических систем. — Известия АН СССР. Сер. матем. — 1У71. — Т. 35, № 2. — Р. 324- 366. 75 А. D о I go р у а t D. On decay of correlation far anosov flows // Ann. Math. 75 B. D 01 g о p у a t D., P о 111 с о И. М. Addendum to periodic orbit and dynamical spaces. 76. Eke I and I., Lasry J.-M. On the number of periodic trajectories for a Hamiltonian flow on a convex energy surface // Ann. Math. — 1980. — V. 112. — P. 283-319. 77. E i I i s R. Lectures on topological dynamics. — Benjamin: New York, 1969. 78. Fathi A. Une interpretation plus topologique de la demonstration du theoreme de Birkhoff // Asterisque. — 1983. — V. 103-104. — P. 39-46. 79. Fathi A.. L a u d e n b a с h F., P о e n a r u V. Travaux de Thurston sur les surfaces // Asterisque. — 1979. —V. 66-67. 80. F a t 0 u P. Sur les equations fonctionelles // Bull, de la Societe Math, de France. — 1919.—V. 47. —P. 161-271.
756 БИБЛИОГРАФИЯ 81. Fatou P. Sur les equations fonctionelles // Bull, de la Societe Math, de France.— 1920.—V. 48. —P. 33-94. 82. Fatou P. Sur les equations fonctionelles // Bull, de la Societe Math, de France.— 1920. —V. 48.—P. 208-314. 83. Feigenbaum M. Quantitative universality for a class of nonlinear transformations // Journal of Stat. Phys. — 1978. — V. 19. —P. 25-52. 84. Forni G., Mather J. Action minimizing orbits in Hamiltonian systems /f In: Transition to chaos in classical and quantum mechanics (ed. S. Graffi). Lect. Notes in Math. V. 1589. —Berlin, Heidelberg, New York: Springer-Verlag. 1994. P. 92-186. 85. Franks J. Anosov diffeomorphisms on tori // Transactions of the AMS. —1969. — V. 145.—P. 117-124. 86. Franks J. Anosov Diffeomorphisms // In: Global Analysis. Proceedings of Symposia in Pure Mathematics. V. 14. — 1970. — P. 61-93, [Имеется перевод: Френке Дж. У-диффео- морфизмы // В кн.: Гладкие динамические системы. М., Мир, 1977. С. 32-86.] 87. Franks J. Homology and dynamical systems // CBMS Regional Conf. Ser. Math. V. 49. —AMS, Providence, RI, 1982. 88. Franks J. Geodesies on S^ and periodic points of annulus diffeomorphisms // Invent. Math. —1992.—V. 108.—P. 403-418. 89. Franks J., Williams R F. Anomalous Anosov flows // In; Global theory of dynamical systems (eds. Z. Nitecki, С Robinson). Lect. Notes in Math. V. 819. — Berlin, Heidelberg, New York: Springer-Verlag, 1980. P. 158-174. 90. Fried D. Transitive Anosov flows and pseudo-Anosov maps // Topology. — 1983. — V. 22. №3. —P. 299-303. 91. Furstenberg H. Strict ergodicity and transformations of the torus // Amer. J. Math. — 1961. — V. 83. — P. 573-601. 92. Furstenberg H. The structure of distal flows//Amer. J. Math. —1963. —V. 85.— P. 477-515. 93. Furstenberg H. Recurrence in ergodic theory and combinatorial number theory // M. B. Porter Lectures. Rice University.—Princeton, NJ: Princeton University Press, , 1981. 94. Gallavotti G. The elements of mechanics. — Berlin, Heidelberg, New York: Springer-Verlag, 1983. 9 5. Gantmacher F. R. Applications of the theory of matrices. — New York: Interscience Publishers, 1959. 96. Гельфаид И. М., Фомин С, В. Геодезические потоки на многообразиях постоянной отрицательной кривизны // УМН.— 1952.—Т. 7, № И. — С. 118-137. 97. G h у S Е. Flots d'Anosov dont les feuilletages stables sont differentiables // Ann. sci. de I'Ecole Norm. Super. —1987. —V. 20. № 2.—P. 251-270. 98. Goodman S. E. Dehn surgery on Anosov Flows // In: Geometric Dynamics (ed. J. Palis). Lect. Notes in Math. V. 1007. —Beriin, Heidelberg, New York: Springer-Veriag, 1983. P. 300-307. 99. Goodman N. T. Relating topological entropy and measure entropy // Buil. London Math. Soc —1971. —V. 3. —P. 176-180. 100. Goodwyn W. Topological entropy bounds measure-theoretic entropy // Proceedings of the AMS. — 1969. —V. 23. —P. 679-688. 101. G 011 s с h a I к W. H., H e d I u n d G. A. Topological dynamics // Amer. Math. Soc. colloquium publications. V. 36. — AMS, Providence, RI, 1955. 102. Гробман Д. М. Топологическая классификация окрестностей особой точки в п-мерном пространстве // Матем. сб. (и. с). —1962. — Т. 56, № 1. — С. 77-94. 103. G г о m о V М. On the entropy of holomorphic maps. — Preprint. 104. Guckenheimer J., Holmes Ph. Nonlinear Oscillations, Dynamical Systems, and Bifurcations of Vector Fields. — Berlin, Heidelberg, New York: Springer-Verlag, 1983. 105. Guckenheimer J., Moser Ju. K., Newhouse S. Dynamical systems // CIME Lectures. Bressanone, Italy, June 1978. —Basel, Boston: Birkhauser. 1980. 106. G u i 11 e m i n V., Ka z h d a n D. On the cohomology of certain dynamical systems // Topology. —1980. —V. 19. —P. 291-299. 107. Gutierrez С Smoothing continuous flows on two-manifolds and recurrence // Ergodic Theory and Dynamical Systems. —1986. —V. 6, № 1.—P. 17-44, 108. Gutierrez С A counter-example to a C^ closing lemma // Ergodic Theory and Dynamical Systems. —1987. —V. 7, № 4. —P. 509-530. 108 A. G u t к i n E., К a t о к A. В. Caustics in inner and outer billiards // Comm. in Math.Phys. —1995.—V. 173. —P. 101-133.
БИБЛИОГРАФИЯ 757 109. Hadamard J. Sur Titeration et les solutions asympotiques des equations differentielies // Bull, de la Soc. Math, de France. —1901.—V. 29. —P. 224-228. 110. Hale J. K., Magalhaes L Т., Oliva W. M. An introduction to infinite-dimensional dynamical systems — geometric theory. — Berlin, Heidelberg, New York: Springe r-Verlag, 1984. 111. H a I m о s P. Measure theory. — Van Nostrand: New York, 1950; Berlin, Heidelberg, New York: Springer-Verlag, 1974. [Имеется перевод: Xcmjkow Я. Теория меры. — М.: ИЛ, 1953.] 112. Н а I m о S Р. Ergodic theory. — Chelsea: New York, 1956. 113. Handel M., Thurston W. Anosov flows on new3-manifoIds/^ Invent. Math.— 1980.—V. 59. —P. 95-103. 114. Handel M., Thurston W. New proofs of some results of Nielsen // Adv. Math. — 1982. — V. 56, № 2. — P. 669-675. 115. Hartman Ph. Ordinary differential equations, — Basel, Boston: Birkhauser, 1982. [Имеется перевод: Хартман Ф. Обыкновенные дифференциальные уравнения. — М.: Мир, 1070.1 116. Hart man Ph. On the local linearization of differential equations // Proceedings of the AMS. —1963.—V. 14. —P. 568-573. 117. Hasselblatt B. Regularity of the Anosov splitting and of horospheric foliations // Ergodic Theory and Dynamical Systems. —1994. —V. 14, Na 4.—P. 645-666. 118. Hedlund G. A. Geodesies on a two-dimensional Riemannian manifold with periodic coefficients // Ann. Math. —1932. —V. 33. —P. 719-739. 119. Hedlund G. A. Metric transitivity of the geodesies on closed surface of constant negative curvature // Ann. Math. —1934.—V. 35. —P. 787-808. 120. Helgason S. Differential geometry. Lie groups and Symmetric Spaces. — New York: Academic Press, 1978. [Имеется перевод 1-го издания: Хелгасон С. Дифференциальная геометрия и симметрические пространства. — М.: Мир, 1964.] 121. Henry D. Geometric theory of semilinear parabolic equations. Lect. Notes in Math. V. 840. —Berlin, Heidelberg, New York: Springer-Verlag, 1981. 12 2. Herman M. R. Sur la conjugaison differentiable des diffeomorphismes du cercle a des rotations // Publ. Math, de I'Institut des Hautes Etudes Sci. —1979. —V. 49. —P. 5-234. 12 3. Herman M. R. Sur les courbes invariants par les diffeomorphismes de I'anneau // Asterisque. —1983.—V. 103-104. 12 4. Hirsch M., Pugh Ch. Smoothness of horocycle foliations/^ Journal of Differential Geometry. —1975.—V. 10. —P. 225-238. 125. Hirsch M., Pugh С h., S h u b M. Invariant manifolds. Lect. Notes in Math. V. 583. —Berlin, Heidelberg, New York: Springer-Verlag, 1977. 126. Hofer H., Zehnder E. Symplectic invariants and Hamiltonian dynamics. — Bazel, Boston: Birkhauser, 1994. 127. Hopf E. Ergodentheorie. — Berlin, Heidelberg. New York: Springer-Verlag, 1937. [Имеется перевод: Хопф Э. Эргодическая теория // УМН. — Т. 3, № 1.] 128. Hopf Е. Statistik der geodatischen llinien in Mannigfaltigkeiten negativer Krum- mung // Ber. Verhandlungen der sachsischen Akademie der Wissenschaften zu Leipzig. — 1939. Bd. 91. — S. 261-304. [Имеется перевод: Хопф Э. Статистика геодезических линий на многообразиях отрицательной таивизны // УМН.— 1949. —Т. 4, № 2. — С. 129-170.] 129. Hopf Е. Statistik der Losungen geodatisciier Probleme vom unstabilen Ту- pus II // Math. Ann. —1940. —Bd. 117. —S. 590-608. 130. Hurder S., Katok A. B. Differentiability, rigidity and Godbillon — Vey classes for Anosov flows // Publ. Math, de I'Institut des Hautes Etudes Sci. — 1990. —V. 72. — P. 5-61. 131. Irwin M. С Smooth dynamical systems. — London: Academic Press, 1980. 132. Джекобсон M. И. Свойства однопараметрического семейства динамических систем х-^Ахе-"" // УМН. — 1976. —Т. 31, № 2. —С. 239-240. 133. Jacobson М, V. Absolutely continuous invariant measures for one-parameter families of one-dimensional maps // Comm. Math. Phys.—1981.—V. 81, № 1. —P. 39-88. 134. Jiang B. Lectures on Nielsen fixed point theory / Contem. Math. —1983. —V. 14. 135. Julia G. Memoire sur I'iteration des fonctions rationelles // Journal de Math. Pures et Appl. —1918.—V. 4. —P. 47-245. 135 A. Kaloshin V. Exponential growth of periodic points is not topologically generic//In print. 136. Каток A. Б. Эргодические возмущения вырожденных интегрируемых гамнльто- новых систем // Известия АН СССР. Сер. матем.— 1973. —Т. 37, № 3.—С. 539-576. 137. Каток А. Б. Инвариантные меры потоков на ориентируемых поверхностях//ДАН СССР. —1973.—Т. 211. №4. —С. 775-778.
758 БИБЛИОГРАФИЯ 138. Каток А. Б. Монотонная эквивалентность в эргодической теории // Известия АН СССР. Сер. матем. — 1977. — Т. 41, № 1.—С. 104-157. 139. Каток А. Б. Гипотеза об энтропии // В кн.: Гладкие динамические системы,— М.:Мир, 1977. С 181-203. 140. Katok А. В. Lyapunov exponents, entropy and periodic orbits for diffeomor- phisms // Publ. Math, de I'lnstitut des Hautes Etudes Sci. —1980. —V. 51. —P. 137-173. 141. Katok A. B. Some remarks on Birkhoff and Mather twist map theorems//Ergodic Theory and Dynamical Systems. — 1982. —V. % № 2. —P. 185-194. 142. Katok A. B. More about Birkhoff periodic orbits and Mather sets for twist maps // Preprint IHES/M/82/35. 143. Katok A. B. Continuation of the preprint «More about Birkhoff periodic orbits and Mather sets for twist maps» — University of Maryland. Preprint. 144. Katok A. B. Entropy and closed geodesies // Ergodic Theory and Dynamical Systems. —1982. —V. 2, № 3-4. —P. 339-365. 145. Katok A. B. Nonunifonn hyperbolicity and structure of smooth dynamical systems // In: Proceedings of the International Congress of Mathematicians. Warszawa. —1983.— V. 2. p 1245-1254 'l46. Katok A. *B., Knieper G., Pollicott M., Weiss H, Differentiability and Analyticity of Topological Entropy for Anosov and Geodesic Flows // Invent. Math. — 1989. — V. 98, №3.—P. 581-597. 147. Каток A. Б., Синай Я. Б., С т e п н н А. М. Теория динамических систем н общих групп преобразований с инвариантной мерой // В кн.: Итоги науки н техники. Математический анализ. Т. 13. —М.: ВИНР1ТИ, 1975. С. 129-262. 148. Katok А. В., S р а t z i е г R. J. First cohomology of Anosov actions of higher rank Abelian groups and applications to rigidity // Publ. Math, de I'lnstitut des Hautes Etudes Sci. — 1994.—V. 7^. —P. 131-156. 149. Katok A. В., S p a t z i e r R. J. Subelliptic estimates of polynomial differential operators and applications to cocycle rigidity // Mathematical Research Letters. — 1994. — V. 1. — p: 193-202. 150. Каток A. Б., Степин A. M. Метрические свойства гомеоморфизмов, сохраняющих меру // УМН. —1970. —Т. 25, № 2.—С. 193-220. 151. Katok А. В., Strelcyn J.-M. with the collaboration of Ledrappier A., Przytycki F. Invariant manifolds, entropy and billiards; smooth maps with singularities. Lect. Notes in Math. V. 1222. —Beriin, Heidelberg, New York: Springer-Verlag, 1986. 152. Katok S. Fuchsian groups. — Chicago: University of Chicago Press, 1992. 153. Katznelson Y., Ornstein D. The differentiability of the conjugation of certain diffeomorphisms of the circle // Ergodic Theory and Dynamical Systems. —1989. — V. 9, № 4. — P. 643-680. 154. Kea ne M. Interval exchange transformations // Math. Zeit. — 1975. — Bd. 141. — S. 25-31. 155. Keane M., Smorodinsky M. Bernoulli schemes of the same entropy are finitarily isomorphic // Ann. Math. —1979. —V. 109. —S. 397-406. 156. Kerckhoff S., Masur H., Smillie J. Ergodicity of billiard flows and quadratic differentials // Ann. Math. —1986.—V. 124.—P. 293-311. 157. Kh i nсh i n A. Ya. Mathematical foundations of information theory. — New York: Dover, 1957, 158. Klingenberg W. Riemannian Geometry. —Berlin, New York: De Gruyter, 1982. 159. Kobayashi Sh., Nomizu K. Foundations of differential geometry. V. 1. —New York: Interscience Publ., 1963. [Имеется перевод: Кобаяси Ш., Номидзу К. Основы дифференциальной геометрии. Т. 1. —М.: Наука, 1981.] 160. Kobayashi Sh., Nomizu К. Foundations of differential geometry. V. 2. — New York: Interscience Publ., 1969. [Имеется перевод: Кобаяси Ш., Номидзу К. Основы дифференциальной геометрии. Т. 2. — т.: Наука, 1981.] 161. Колмогоров А. Н. О динамических системах с интегральным инвариантом на торе // ДАН СССР. —1953.—Т. 93, № 5. —С. 763-766. 162. Колмогоров А. Н. О сохранении условно периодических движений при малом изменении функции Гамильтона // ДАН СССР. — 1954. — Т. 98, № 4. — С 527-530. 163. Колмогоров А. Н. Новый метрический инвариант транзитивных динамических систем и автоморфизмов пространств Лебега // Труды матем. института им. В. А. Стеклова. — 1985.—Т. 169. —С. 94-98. 164. Козлов В. В., Трещёв Д. В. Биллиарды. Генетическое введение в динамику систем с ударами. — М.: изд-во МГУ, 1991.
БИБЛИОГРАФИЯ 165. К г е n g е 1 U. Ergodic theorems. — New York, Berlin: De Gruyter, 1985. 166. К г i e g e r W.. On non-singular transformations of a measure space // Zeitschrift fur Wahrscheinlichkeitstheorie und verwandte Gebiete. —1969. —Bd. 11, № 2. —S. 83-97. 167. К r i e g e r W. On non-singular transformations of a measure space II // Zeitschrift fur Wahrscheinlichkeitstheorie und verwandte Gebiete. —1969. —Bd. 11, № 2. —S. 98-119. 168. Kryloff N.. Bogoliouboff N. La theorie generale de la mesure dans son application a I'etude des systemes dynamiques de la mecanique non lineaire // Ann. Math. — 9§y. —V. 38. № 1. —P. 65-113. 169. Krzyzewski K., Szlenk W. On invariant measures of expanding differentia ble mappings // Studia Math. —1969. —V. 33, № 1.—P. 83-92. 170. Kuksin S. B. Nearly integrable infmite-dimensionai Hamiltonian systems. Lect. Notes in Math. V. 1556. —Berlin, Heidelberg, New York: Springer-Verlag, 1993. 171. Kupka I. Contribution a la theorie des champs generiques // Contributions to Differential Eq. —1963. —V. 2. —P. 457-484. 172. Lasota A., Yorke J. A. On the existence of invariant measures for piecewise monotonic transformations // Transactions of the AMS. —1973. —V. 186.—P. 481-488. 173. Лазуткин В. Ф. Существование каустик для биллиардной задачи в выпуклой области // Известия АН СССР. Сер. матем. —1973. —Т. 37, № 1. — С. 186-216. 174. Led rap pie г F. Mesures d'equilibre d'entropie complement positive/У Asterisque.— 1977.—V. 50. —P. 251-272. 175. Ledrappier F., Young L.-S. Themetricentropyofdiffeomorphisms,Parti.Characterization of measures satisfying Pesin's entropy formula // Ann. Math. —1985. —V. 122. — P. 509-539. 176. Ledrappier F., Young L,-S. The metric entropy of diffeomorphisms. Part II. Relations between entropy, exponents and dimension // Ann. Math. — 1985. — V. 122. — P. 540- 574. 177. Levi M. Qualitative analysis of the periodically forced relaxation oscillations // Memoirs of the AMS. V. 244. —AMS, Providence, RI, 1981. 178. L e V i n s о n N. A second order differential equation with singular solutions // Ann. Math. —1949. —V. 50. —S. 127-153. 179. Liao Sh.-T. On the stability conjecture // Chinese Ann. Math. —1980. —V. , № 1. —S. 9-30. 180. Lind D., Marcus B. An introduction to symbolic dynamics and coding.— Cambridge: Cambridge University Press, 1995. 181. Лившиц A. H. Некоторые свойства гомологии У-систем // Матем. заметки.— 1971. —Т. 10, № 5. —С. 555-564. 182. Лившиц А. Н., Синай Я. Г. Об инвариантных мерах, совместимых с гладкостью, для транзитивных У-систем // ДАН СССР.— 1972.—Т. 207, №5. — С. 1039- 1041. 183. de la Llave R., Marco J. M., Moriyon R. Canonical perturbation theory of Anosov systems and regularity results for the Uvsic cohomology equation // Ann. Math. — 1986. —V. 123. —P. 537-611. 184. de la Liave R., Marco J. M., Moriyon R. Canonical perturbation theory of Anosov systems and regularity results for the Uvsic cohomology equation // Bull. AMS. — 1985.—V. 12. № 1. —P. 91-94. 185. Л Ю б и Ч М. Ю. Энтропия аналитических эндоморфизмов сферы Р*имана // Функц. аналиа и его прил. —1981.—Т. 15, № 4. —С. 83-84. 186. Май ер А. Г. О траекториях на ориентируемых поверхностях // Матем. сб. (н. с.). —1943. —Т. 12, № 1. —С. 71-84. 187. Майе R. Lyapunov exponents and stable manifolds for compact transformations. // In: Geometric Dynamics (ed. J. Palis). Lect. Notes in Math. V. 1007. — Berlin, Heidelberg, New York: Springer-Verlag. 1983. P. 522-577. 188. Mane R. Hyperbolicity, sinks and measure in one dimensional dynamics // Comm. Math. Phys. —1985. —V. 100. —P. 495-524. 189. Майе R Hyperbolicity, sinks and measure in one dimensional dynamics. Erratum // Comm. Math. Phys. —1987.—V. 112. —P. 721-724. 190. Mane R. A proof of the C' stability conjecture // Publ. Math, de I'lnstitut des Hautes Etudes Sci. —1987. —V. 66.—P. 161-210. 191. Майе R. Ergodic theory and differentiable dynamics. —Beriin, Heidelberg, New York: Springer-Verlag, 1987.
760 БИБЛИОГРАФИЯ 192. Manning А. There are no new Anosov diffeomorphisms on tori // Amer. J. Math. — 1974. — V. 96, № 3. — P. 422-429. [Имеется перевод: Мэннинг Э. Отсутствие новых диффеоморфизмов на торах // В кн.: Гладкие динамические системы. — М.: Мир, 1977. С. 99-110.] 193. Manning А. Topological entropy and the first homology group // In: Dynamical systems. Warwick, 1974 (ed. A. A&nning). I-ect. Notes in Math. V. 468.— Berlin, Heidelberg, New York: Springer-Verlag, 1975. P. 185-190. 194. Manning A. Topological entropy for geodesic flows // Ann. Math. — 1979.— V. 110. —P. 567-573. 195. M a p г у л и с Г. А. О некоторых мерах, связанных с У-потоками на многообразиях // Функц. анализ н его прил. — 1970. —Т. 4, № 1. — С. 62-76. 196. М а г kl е у N. Homeomorphisms of the circle without periodic points // Proceedings of the London Math. Soc. — 1970. — V. 20 — P. 688-698. 197. Masur H. Interval exchange transformations and measured foliations//Ann. Math.— 1982.—V. 115. —P. 169-200. 198. Masur H., S m i 11 i e J. Hausdorff dimension of sets of nonergodic measured foliations // Ann. Math.— 1991. —V. 134. —P. 455-543. 199. Mather J. Existence of quasi-periodic orbits for twist homeomorphisms of the annulus // Topology. —1982. —V. 21. —P. 457-467. 200. Mather J. Glancing billiards // Ergodic Theory and Dynamical Systems. — 1982. — V. 2, №3-4. —P. 397-403. 201. Mather J. More Denjoy minimal sets for area-preserving diffeomorphisms // Comm. Math. Helvetic!.— 1985. —V. 60. —P. 508-557. 202. Mather J. A criterion for the non-existence of invariant circles // Publ. Math, de I'Institut des Hautes Etudes Sci. — 1986. —V. 63. — P. 153-204. 203. D e M e I о W. Lectures on one-dimensional dynamics. — Rio de Janeiro: Instituto de Matematica Рига e Aplicada do CNPq, 1988. 204. De Mel о W., van Strien S. One-dimensional dynamics. — Berlin, Heidelberg, New York: Springer-Verlag, 1993. 205. Mil nor J. Morse Theory. — Princeton, NJ: Princeton University Press, 1963. [Имеется перевод: Милнор Дж. Теория Морса. — М.: Мир, 1965.] 206. Milnor J.. Thurston W. On iterated maps of the interval // In: Dynamical Systems. College Park. 1986-1987. Lect. Notes in Math. V. 1342. — Beriin, Heidelberg, New York: Springer-Veriag, 1988. P. 465-563. 207. Misiurewicz M. A short proof of the variational principle for a Z^ action on a compact space // Asterisque. —1976. —V. 40.—P. 147-157. 208. Misiurewicz M. Invariant measures for continuous transformations of [0,1] with zero topological entropy // In: Ergodic theory. Proceedings. Oberwolfach, Germany, 1978 (eds. M. Denker.K. Jacobs). Lect. Notes in Math. V. 729. — Beriin, Heidelberg, New York: Springer-Veriag, 1979. P. 144-152. 209. Misiurewicz M. Horseshoes for mappings of the interval // Bull. Acad. Polon. Sci., Ser. Math. Astron. et Phys.— 1979. —V. 27. —P. 167-169. 210. Misiurewicz M., Przytycki F. Topological entropy and degree of smooth mappings / Bull. Acad. Polon. Sci., Ser. Math. Astron. et Phys. — 1977. — V. 25. — P. 573-574. 211. Misiurewicz M., Szlenk W. Entropy of piecewise monotone mappings//Studia Math. —1980. —V. 118. —P. 45-63. 212. Morse M. A fundamental class of geodesies on any closed surface of genus greater than two // Transactions of the AMS.-1924. —V. 26.—S. 25-60. 213. Moser Ju. K. On invariant curves of area preserving mappings of an Annulus // Nachrichten der Akademie der Wissenschaften Gottingen. — 1962.—№ 1. — S. 1-20. [Имеется перевод: Мозер Ю. О кривых, инвариантных при отображениях кольца, сохраняющих площадь // Математика. —1962. — Т. 6, № 5. — С. 51-67.1 214. Moser Ju. К. On the volume element on а manifold//Transactions of the AMS.— 1965.—V. 120. —S. 286-294. 215. Moser Ju. K. A rapidly convergent iteration method and nonlinear partial differential equations // Annali della Scuola Norm. Super, de Rsa ser. III.— 1966. —V. 20, № 2. —P. 265- 315. 216. Moser Ju. K. A rapidly convergent iteration method and nonlinear partial differential equations // Annali della Scuola Norm. Super, de Pisa ser. III.— 1966. —V. 20, № 3. —P. 499- 535. 217. Moser Ju. K. Convergent series expansions for quasiperiodic motions // Math. Ann. —1967. —Bd. 169, —S. 136-l№.
БИБЛИОГРАФИЯ 761 218. М о s е г J й. К. On а theorem of Anosov // Journal of Differential Eq. 1969 Bd. 5. — S. 411-440. 219. Moser J u. K. Stable and random motions in dynamical systems (with special emphasis on celestial mechanics). — Princeton, NJ: Princeton University Press, 1973. 220. Munkres J. R Analysis on manifolds. — Addison — Wesley, Reading, MA 1991 221. Nash J. F. Real algebraic manifolds//Ann. Math. —1952. V. 56. —P. 405-421! 222. Нехорошее H. H. Экспоненциальная оценка времени устойчивости гамильто- новых систем, близких к интегрируемым // УМН. — 1977.—Т. 32, № 6. — С. 5-66. 223. Немыцкий В. В., Степанов В. В. Качественная теория дифференциальных уравнений. — М.-Л., Гостехиздат, 1949. 224. Von Neumann J. 2ur Operatorenmethode in der klassischen Mechanik // Ann. Math.— 1932.— Bd. 33, № 3. —S. 587-642. [Имеется перевод: Нейман фон Дж. Об операторных методах в классической механике // В кн.: Нейман фон Дж. Избранные труды по функциональному анализу. Т. 1. — М.: Наука, 1987. С. 7-59.] 225. Von Neumann J. Zusatze zur Arbeit «Zur Operatorenmethode...»//Ann. Math.— 1932. — Bd. 33, № 4. — S. 789-791. [Имеется перевод: Нейман фонДж. Дополнения к работе «Об операторных методах...» // В кн.: Нейман фон Дж. Избранные труды по функциональному анализу. Т. I. —М.: Наука, 1987. С. 60-62.] 226. Newhouse Sh. On codimension one Anosov diffeomorphisms // Amer. J. Math. — 1970.—V. 92. — P. 761-770. [Имеется перевод: Ньюхаус Ш. Е. Об У-диффеоморфизмах коразмерности один // В кн.: Гладкие динамические системы. М., Мир, 1977. С. 87-98.] 227. Newhouse Sh. Entropy and volume // Ergodic Theory and E)ynamical Systems. — 1988.—V. 8* (Conley Memorial Issue). —P. 283-300. 228. Newhouse Sh. Diffeomorphisms with infinitely many sinks // Topology. — 1974. — V. 13. —P. 9-18. 229. Newhouse Sh. QuasielHptic periodic points in conservative dynamical systems // Amer. J. Math. —1,977. —V. 99. —P. 1061-1087. 230. Nielsen J a, Uber die Minimalzahl der Fixpunkte bei Abbildungstypen der Ringfla- chen // Math. Ann.— 1921. —Bd. 82. —S. 83-93. 231. Nielsen J a, Untersuchungen zur Topologie der geschlossenen zweiseitigen Fia- chen // Acta Math. — 1927. —V. 50. —P. 189-358. 232. Nielsen J a. Untersuchungen zur Topologie der geschlossenen zweiseitigen Fla- chen П // Acta Math. —1929. —V. 53. —P. 1-76. 233. Nielsen J a, Untersuchungen zur Topologie der geschlossenen zweiseitigen Fla- chen III // Acta Math. — 1932. —V. 58. —P. 87-167. 234. N i t e с к i Z. Differsntiable E)ynamics. — Cambridge, MA: MIT Press, 1971. [Имеется перевод: Нитецки 3. Введение в дифференциальную динамику. — М.: Мнр, 1975.] 235. N i t е с к i Z. Topological dynamics on the interval // In: Ergodic Theory and Dynamical Systems II. Proceedings Special Year, Maryland, 1979-1980. — Basel, Boston: Birkhauser, 1982. P. 1-73. 236. Ornstein D. Bernoulli shifts with the same entropy are isomorphic // Adv. Math. — 1970. —V. 4, № 3. —S. 337-352. 237. Ornstein D, Ergodic theory, randomness, and dynamical systems. — New Haven, CT: Yale University Press, 1974. 238. Ornstein D., Rudolph D., Weiss B. Equivalence of measure preserving transformations // Memoirs of the AMS. —1982. —V. 37, № 262. 239. Оселедец В. И.. Мультипликативная эргодическаятеорема. Характеристические показатели Ляпунова динамических систем // Труды ММО. —1968. Т. 19.—С. 197-221. 240. Oxtoby J. Ergodic sets / BuII.AMS. —1952. —V. 58. —P. 116-136. 241. Oxtoby J., и I a m S. Measure preserving homeomorphisms and metrical transitivity // Ann.Math. —1941. —V.42. —P. 874-920. 242. Palis J., d e M e I о W. Geometric theory of dynamical systems. — Berlin, Heidelberg, New York: Springer-Verlag, 1982. [Имеется перевод: Полис Ж., да Мелу В. Геометрическая теория динамических систем. — М.: Мир, 1986.] 243. Pal is J., Та к е n s F. Hyperbolicity and sensitive chaotic dynamics at homoclinic bifurcations. — Cambridge: Cambridge University Press, 1993. 244. Parry W. Intrinsic Markov chains // Transactions of the AMS. — 1964. — V. 112. — P. 55-56. 244 A. Parry W. Entropy and generators in ergodic theory. — New York: Benjamin, 1964. 245. Parry W., Pollicott M. Zeta functions and the periodic orbit structure of hyperbolic dynamics // Asterisque. —1990.—V. 187-188. 246. Peixoto M. On structural stability//Ann. Math. —1959. —V. 69. —P. 99-222.
762 БИБЛИОГРАФИЯ 247. Р е i X о t о М. Structural stability on two-dimensional manifolds // Topology. — 1962. — V. 1.—P. 101-120. 248. Perron 0. Zur_Theorie der Matrices//Math. Ann.—1906. —Bd. 64. —S. 248-263. 249. Perron O. Uber Stabilitat and asymptotisches Verhalten der Integrale von Diffe- rentialgieichungssystemen —Math. Zeit.— 1928. —Bd. 29, № 1. —S. 129-160. 250. П e с и H Я. Б. Семейства инвариантных многообразий, отвечающие нулевым характеристическим показателям // Известия АН СССР. Сер. матем. — Т. 40, № 6.—С. 1332-1379. 251. П е с н н Я. Б. Характеристические показатели Ляпунова — гладкая эргодическая теория // УМН. — 1977. — Т. 32, №4.-0. 55-112. 252. П е с н н Я. Б. Геодезические потоки на замкнутых рнмановых многообразиях без фокальных точек I/ Известия АН СССР. Сер. матем. —Т. 41, № 6. —С. 1252-1288. 253. Petersen К. Ergodic theory. — Cambridge: Cambridge University Press, 1983. 254. Plante J. Anosov flows//Amer. J. Math. —1972.—V. 94. —P. 729-755. 255. П л Ы к H H P. B. Источники и стоки А-диффеоморфизмов поверхностей // Матем. сб. — 1974. —Т. 96, № 6. — С. 243-264. 256. Poincare J. Н. // Memoire sur les courbes definies par ies equations differen- tielles I // J. Math. Pures et Appl. 3 serie. —1881.—V. 7. —P. 375-422 !s et App J. H. // 257. Poincare J. H. // Memoire sur les courbes deflnies par les equations differen- tiellesl // J. Math. Pures et Appl. 3 serie. —1882. —V. 8. —P. 251-286. s et App J. H. // 258. Poincare J. H. // Memoire sur les courbes deHnies par les equations differen- tielles I // J. Math. Pures et Appl. 4 serie. — 1885. —V. 1. — P. 167-244. 259. Poincare J. H. // Memoire sur les courbes defmies par les equations differen- tielles I // J. Math. Pures et Appl. 4 serie. — 1886. —V. 2. —P. 151-217. 260. Poincare J. H. // Les methodes nouvelles de la mecanique celeste. T. 1-3.— Paris, 1892-1899. [Имеется перевод: Пуанкаре A. Новые методы небесной механики // В кн.; Пуанкаре А. Избранные труды. Т. 1, 2. — М.: Наука, 1971-72.} 261. Р о 11 i с о 11 М. Lectures on ergodic theory and Pesin theory on compact manifolds. — Cambridge: Cambridge University Press, 1993 262. Pugh Ch. The closing lemma/У Amer. J. Math. —1967. —V. 89, №4.—P. 956- 1009. [Имеется перевод: Пью Ч. Лемма о замыкании // Математика.— 1968. — Т. 12, № 6.— С. 80-135.] 263. Pugh С h. An improved closing lemma and a general density theorem // Amer. J. Math. —1967.—V. 89. —P. 1010-1021. 264. Pugh Ch., Robinson C. The C^ closing lemma, including Hamiltonians//Ergodic Theory and Dynamical Systems. — 1983. — V. 3. —P. 261-313. 265. Pugh С h., S h u b M. Ergodic attractors // Transactions of the AMS. —1989. — V. 312, № 1.—S. 1-54. 266. Rabinowitz PI. Periodic solutions of Hamiltonian systems // Comm. in Pure and Appl. Math. —1978. —V. 31. —P. 157-184. 267. Ra t n e r M. Markov partitions for Anosov flows on n-dimensional manifolds // Israel J. Math. —1973. —V. 15. —P. 92-114. 268. R e e s M. A minimal positive entropy homeomorphism of the 2-torus // Journal of the London Math. Soc. — 1981. — V. 23. —P. 311-322. 269. Ro b b i n J. W. A structural stability theorem // Ann. Math. — 1971. —V. 94. — P. 447-493. [Имеется перевод Роббин Дж. Теорема о структурной устойчивости // В кн.: Ннтецки 3. Введение в дифференциальную динвмику. — М.: Мнр, 19/5.] 270. Robinson С. Structural stabUity of С^ diffeomorphisms // Journal of Differential Eq, — 1976. —V. 22. —P. 28-73. 271. Robinson C. Dynamical systems: stability, symbolic dynamics, and chaos.—Cleveland, OH: CRC Press, 1994. 272. Рохлин В. A. Об основных понятиях теории меры // Матем. сб.— 1949.— Т. 25, № 1. —С. 107-150. 273. Рохлин В. А. Новый прогресс в теории преобразований с инвариантной мерой // УМН. —1960. —Т. 15, № 4. — С. 3-26. 274. Рохлин В. А. JleKunn по энтропийной теории преобразований с инвариантной мерой // УМН.— 1967. —Т. 22, № 5. —С. 3-56. 275. Rudolph D. А characterization of those processes fmitariiy isomorphic to a Bernoulli shift // In: Ergodic Theory and Dynamical Systems I. Proceedings Special Year. Maryland, 1979- 1980. —Basel, Boston: Birkhauser, 1981. P. 1-64. 276. Rudolph D. Fundamentals of measurable dynamics: Ergodic theory on Lebesgue spaces. — New York: Oxford University Press, 1990.
БИБЛИОГРАФИЯ 763 277. R u е 11 е D. Statistical mechanics on a compact set with Z" action satisfying- expan- siveness and specification // Transactions of the AMS. —1973. —V. 185. —P. 237-253. 278. Rue lie D. A measure associated with Axiom-A attractors // Amer. J. Math.— 1976.— v. 98, № 3.—P. 619-654. 279. R u e 11 e D. Zeta functions for expanding maps and Anosov flows // Invent. Math. — 1976.—v. 34, № 3.—P. 231-242. 280. R u e 11 e D. An inequality for the entropy of differentiable maps // Boletim da Sociedade Brasileira Matematica.— 1978. —V. 9. —P. 83-87. 281. R u e 11 e D. Thermodynamic formalism // Reading, MA: Addison — Wesley, 1978. 282. R u e 11 e D. Ergodic theory of differentiable dynamical systems // Publ. Math, de rinstitut des Hautes Etudes Sd.— 1979. — V. 50. —P. 27-58. 283. R u e 11 e D. Elements of differentiable dynamics and bifurcation theory. — New York: Academic Press, 1989. 284. Riissmann H. Uber invariante Kurven differenzierbarer Abbildungen eines Kreis- ringes // Nachrichten der Akademie der Wissenschaften Gottingen.— 1970. — P. 67-105. 285. Salamon D., Zehnder E. KAM theory in configuration space/^ Comm. Math, Helv. —1989. —V. 64, № 1. —P. 84-132. 286. Сатаев E. A. 0 числе инвариантных мер для потоков на ориентируемых поверхностях // Известия АН СССР. Сер. матем. — 1975. —Т. 39, № 4. — С. 860-878. 287. Schmidt К. Algebraic ideas in ergodic theory // CBMS Regional Conference Series in Mathematics. V. 76. —AMS, Providence, W, 1990. 288. Schmidt K. Dynamical systems of algebraic origin. — Basel, Boston: Birkhauser. In press. 289. Schwartz A. J. A generalization of a Poincare — Bendixson theorem to closed two-dimensional manifolds // Amer. J. Math. — 1963. —V. 85. —P. 453-458. 290. Schwartzman S. Asymptotic cycles//Ann. Math. —1957. —V. 66.—P. 270- 284. 291. Shannon С The mathematical theory of communication// Bell Systems Technical Journal. — 1948. —V. 27. —P. 379-423, 623-656. [Republished, University of Illinois Press Urbana, IL, 1963.] 292. Шарковский A. H. Сосуществование циклов непрерывного преобразования прямой в себя // Украинский матем. журнал. — 1964.—Т. 16, № 1. — С. 61-71. 293. Шильников А. П. О существовании счетного множества периодических движений в окрестности гомоклинической кривой. — ДАН СССР. — 1967. — Т. 172, № 2. —С. 298- 301. 294. S h U b М. Endomorphisms of compact differentiable manifolds // Amer. J. Math. — 1969. —V. 91.—P. 175-199. 295. S h u b M. Dynamical systems, filtrations and entropy // Bull. AMS. —1974. — V. 80, № 1. —С 27-41. [Имеется перевод: Шуб Ы. ^Ынамические системы, фильтрация и энтропия // В кн.: Гладкие динамические системы. — М.: Мир, 1977. С. 118-139.] 296. Shub М. Global stability of dynamical systems. — Berlin, Heidelberg, New York: Springer-Verlag, 1987. 297. Shub M., Sullivan D. A remark on the Lefschetz fixed point formula for differentiable maps // Topology.— 1974.—V. 13. —P. 189-191. [Имеется перевод: Сулливан Д., Шуб Л1. Теория гомологии и динамические системы.—М.: Мир, 1977. С. 140-180.] 298. S i е g е 1 С. L. Iteration of analytic functions // Ann. Math. — 1942. — V. 43. — P. 607-612. 299. Siege 1 С L., Moser Ju. K. Lectures on celestial mechanics. — Berlin, Heidelberg, New York: Springer-Verlag, 1971, 300. Синай Я. Г. О слабом изоморфизме преобразований с инварнаитной мерой // Матем. сб. —1964. —Т. 63, № 1. —С. 23-42. 301. Синай Я. Г. Классические динамические системы со счетнократным лебеговским спектром. II // Известия АН СССР. Сер. матем. —1966.—Т. 30, № 1. —С. 15-68. 302. Синай Я. Г. Марковские разбиения и У-диффеоморфизмы // Функц. анализ и его прил. —1968. —Т. 2, № 1.—С. 64-89. 303. Синай Я. Г. Построение марковских разбиений // Функц. анализ н его прил. — 1968.—Т. 2, № 3.—С. 70-80. 304. Синай Я. Г. Гиббсовскне меры в эргодической теории/У УМН. —1972. —Т. 27, №4. —С. 21-64. 305. Синай Я. Г. Введение в эргодическую теорию. — М.: Фазис, 1996. 306. Smа 1 е St. Stabie manifolds for differential equations and diffeomorphisms // Ann. della Scuola Norm. Super, de Pisa ser. III. — 1963. —V. 17. — P. 97-116.
764 БИБЛИОГРАФИЯ 307. С м е й л С. Структурно устойчивый диффеоморфизм с бесконечным числом периодических точек // В кн.: Труды международного симпозиума по нелинейным колебаниям. Т. 2. —Киев: изд-во АН УССР, 1963. С. 365-366.] 308. Sm а!е St. Diffeomorphisms with many periodic points // In: Differential and Combinatorial Topology (ed. S. S. Cairns). —Princeton, NJ: Princeton University Press, 1965. P. 63-80. [Имеется перевод: Сяейл С. Диффеоморфизмы со многими периодическимн точками // Математика.— 1967.—Т. 11, № 4. —С- 88-106J 309. Smа!е St. Structurally stable systems are not dense // Amer. J. Math. — 1966. — V. 88, № 2. —P. 491-496. [Имеется перевод: СнеИл С. Грубые системы не плотны // Математика.—1967.—Т. 11, №4. —С. 107-112.1 310. Smale St. Differentiable dynamical systems // Bull. AMS. — 1967.— V. 73.—P. 747-817. [Имеется перевод: Смейл С. Дифференцируемые динамические системы //УМН. — 1970. — Т. 25, № 1. —С. 113-185.] 311. Spivak М. А comprehensive introduction to differential geometry. — New York: Publish or Perish, 1975. 312. Sternberg Sh. Local contractions and a theorem of Poincare // Amer. J. Math. — 1957. —V. 79. —P. Ш-824. 313. Sternberg Sh. On the structure of local homeomorphisms of Euclidean n-space. II // Amer. J. Math.— 1958.—V. 80.—P. 623-631. 314. Sternberg Sh. The structure of local diffeomorphisms III // Amer. J, Math.— 1959. —V. 81. —P. 578-604. 315. Strogatz St. H. Nonlinear dynamics and chaos. — Reading, MA: Addison — Wesley, 1994. 316. Szlenk W. An introduction to the theory of smooth dynamical systems. —Warsza- wa/Chichesten PWN-Polish Scientific Publishers/Wiley, 1984. 317. Takens F. Homoclinic points in conservative systems // Invent. Math.— 1972.— V. 18. — P. 267-292. [Имеется перевод: Такенс Ф. Гомоклннические точки в динамических системах // В кн.: Гладкие динамические системы. — М.: Мир, 1977. С. 204-241.] 318. Temam R. Infinite-dimensional dynamical systems in mechanics and physics. — Beriin, Heidelberg, New York: Springer-Verlag, 1988. 319. Veech W. Gauss measures for transformations on the space of interval exchange maps // Ann. Math. —1982. —V. 115. —P. 201-242. 320. Veech W. The metric theory of interval exchange transformations I. Generic spectral properties // Amer. J. Math.— 1984. —V. 106. —P. 1331-1359. (21. Veech W. The metric theory of interval exchange transformations II. Approximation by primitive interval exchanges // Amer. J. Math., 1984.—V. 106. —P. 1361-1387, 322. Veech W. The metric theory of interval exchange transformations III The Sah — Arnaud —Fathi invariant // Amer. J. Math. — 1984. — V. 106.—P. 1389-1422. 323. Walters P. An introduction to ergodic theory. — Berlin, Heidelberg, New York: Springer-Verlag, 1982. 324. Williams R. F. Classification of one dimensional attractors // In: Global Analysis. Proceedings of Symposia in Pure Mathematics. V. 14.-1970. —P. 341-361. 325. Williams Я F. Classification of subshifts of finite type // Ann. Math. — 1973. — V. 98.—P. 120-153. 326. Williams R. F. Classification of subshifts of finite type. Errata // Ann. Math. — 1974.—V. 99. —P. 380-381. 327. Yoccoz J.-Ch. Conjugaison differentiable des diffeomorphismes du cercle dont le nombre de rotation verifie une condition Diophantienne // Ann. sci. de I'Ecole Norm. Sup. — 1984. —V. 17, P. 333-361. 328. Y о m d i n Y. A quantitative version of the Kupka — Smale theorem // Ergodic Theory and Dynamical Systems. — 1985. — V. 5, № 3. —P. 449-472. 329. Yom di n Y. Volume growth and entropy // Israel J. Math. — 1987. —V. 57. — P. 285-300. 330. Z i m m e r R. J. Ergodic theory and semisimple groups // Basel, Boston; Birkhauser, 1984
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Автоморфизм внутренний 126 — тора гиперболический 56, 60, 97, 100, 133, 164, 186 аппроксимация быстрая аттрактор 139 — гиперболический 533, 537, 541 — Плыкина 541 — Смейла 533 Бифуркация 304 — структурно устойчивая 305 — типа седло — узел 309 — ^№оения периода 308 — Хопфа 311 Вектор частот 49 возвращение нетривиальное 142 Гамильтонова система вполне интегрируемая 49, 234 глубина сечения прообразов 198 гомеоморфизм разделяющий 136 — закручивающий 371 гомотетия сжимающая 37 Давление топологическое 624 действие усредненное 443 дивиргенция векторного поля 196 динамика алгебраическая 240 — гамильтонова (снмплектическая) 23 — голоморфная 563 — символическая 22 — топологическая 20 динамическая система гиперболическая 244 — лагранжева 210 символическая 63, 166 топологически транзитивная 42 минимальная 42 диск Зигеля 562 — Пуанкаре 220 диффеоморфизм Аносова 269 — Купки — Смейла 298 — топологически устойчивый 81 диффеоморфизмы эквивалентные 75 дыра (в множестве Орби—Мазера) 428 Закрученность 346 значение критическое 318 — регулярное 318 Изоморфизм метрический 154 инвариант асимптотический 117 индекс Морса 342 — точки 325 интервал закручивания 356 информация разбиения (условная) 172 нтерадаи сходящееся 32 Клетка Жордана 35 кривая минимальная 379 кограница 112 кодирование автоморфизмов тора 97 конец (множества Орби — Мазера) 428 константа Лифшица 135 конус 251 координаты действие-угол 49, 205, 234 103 74. 103 коцикл (неподкрученный) 112 коциклы когомологические 112 Лемма Аносова о замыкании 274 для потоков 549 — Морса 342 — о продолжении 248 — о регулярности 426 — о е-траекториях для потоков 570 А'Лемма 263 Матрица стохастическая 167 транзитивная 167 мера абсолютно непрерывная 193 положительная 193 — бернуллиевская 166, 183 — Боуэна 616 — квазиинвариантная 20, 424 — Маргулиса 643 — марковская 167, 183 — Перри 185 — Хаара 157 — эргодическая 148 метод Аносова — Катка 419 — быстрой аппроксимации 419 — КАМ 104 — кодирования 103 — мажорант 73, 103, 106 — неподвижной точки 89 — Ньютона 103 — сжимающих отображений — фундаментальной области метрика гиперболическая 215 — Ляпунова 268 — Рохлина 174 — Хаусдорфа 428 многообразие локально устойчивое (неустойчивое) 247 — точки устойчивое (неустойчивое) 219, 250 множество базисное 277 — гиперболическое 268 отталкивающее 270 — Жулиа 559, 562 — касательное 259 — канторово 54, 61 — квазиминимальное 468 — локально максимальное 277 — Орби — Мазера 428 — первой категории 294 — упорядоченное 428 — универсальное отталкивающее 522 — типа Gg 294 — (п, е)-отделенное 122 — а-предельное 51 — ш-предельное 51 Наклон иррациональный 58 непрерывность абсолютная 193 неравенство Рохлина 178 носитель меры 151 Область Дирихле 222 — неустойчивости 436
766 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ область притяжения 522, 559 — фундаментальная 43 один-коцикл 77, 112 один-коцикл, подкрученный 112 одометр 43 — двоичный 509 оператор Перрона — Фробеииуса 195 орбита биркгофова периодическая типа (р, д) 362 — гетероклиническая 403 — гиперболическая периодическая 244, — гомоклиническая 403 е-орбнта 567 — периодическая 274 — потока 570 орбиты плотные 42, 54, 59, 60 орицикл 219 отображение биллиардное 346 внешнее 359 — закручивающее 355 — квадратичное 93 — линейное гиперболическое 38 — конформное 387 — метрически плотное 422 — перехода 75 — подковы 495 — производиое 155 — Пуанкаре 26, 246 — разделяющее 135 растягивающее 53, 83-85,131,160, 183. 542 102 сжимающее 31 строго эргодическое 148 структурно устойчивое (сильно) 82, 88, унимодальное 514 отображения топологически сопряженные Перекладывание отрезков 472 перемешивание 161 — топологическое 59 плоскость Лобачевского 215 плотность асимптотическая 143 е-плотность 580 поведение асимптотическое 34, 36, 39, 41, 51, 53-55, 59, 70 поворот иррациональный 42, 82 — рациональный 41, 82 подкова 94, 279, 495 — Смейла 94 подпространство гиперболическое 38 — корневое 38, 68 — растягивающиеся 39 — сжнмаюшлеся 39 (пу е)-покрытие (минимальное) 120 полуорбита 46 полуорбиты плотные 46, 69 полуплоскость верхняя Пуанкаре 215 полусопряжение 81 последовательность допустимая 64 постоянная разделения 136 поток Аносова 545 поток гамильтоновый 230 — геодезический 211 — градиентный 50, 130 — Купки — Смейла порядка t 301 — минимальный 42, 47 — разделяюшлн 136 — структурно устойчивый (сильно) 82 — топологически устойчивый 82 — Черри 467 потоки эквивалентные 77 орбнтально (траекторно) 79 преобразование графиков 258 — Мёбиуса 215,216 — сдвига 62 — Эргодическое 424 препятствие периодическое 113 пример Данжуа 407 принцип вариационный 188, 190 для давления 626 — сжатых отображений 32, 101, 103 пространство последовательностей 61 — фазовое 32, 43, 55, 92 псевдоорбнта 274 е-псевдоорбнта 567 путь допустимый 64 Радиус спектральный 35 разбиение измеримое 171 — итерированное 177 — марковское 93, 593 — образующее (одностороннее) 180 — совместное 173 разбиения независимые 173 Разложение меры на эргодические компоь ты 150, 182 — равномерное гиперболическое 244 — спектральное 69, 575, 577 — экспоненциальное 244, 248 размерность энтропийная 134 ранг сечеиия прообразов 198 — цилиндра 61 распределение асимптотическое 117,147 резонанс 285, 286 рост в гомологиях 128 — объема 125 — орбит 117 Свойство асимптотическое 59, 80 седло 40 — кратное 329 — обращенное 40 сечеиие комбинаторное 200 — полное ранга п 200 — прообразов 198 сдвиг бернуллиевский 166 топологический 62 — иррациональный на торе 44, 157 — конечного типа 64 — односторонний 62 семейство квадратичное 56 — разбиений достаточное 179 скобка Пуассона 232 — Лн 233 скорость роста объема 381 сложность топологическая 125
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ 767 случай Зигеля 106 — Пуанкаре 106 совокупность множеств достаточная 162 плотная 162 Сопряженность гладкая 70 — топологическая 80 спектр отображения 35 — периодической точки 71 среднее временное (биркгофовое) 144 степень отображения 83, 85, 88, 316, 318, 319, 322 структура гёльдерова 62 сходимость к неподвижной точке 32, 34, 50 — экспоненциальная 32 Теорема Адамара — Перрона 249 — Арнольда 410 — Артина—Мазура 312 — Биркгофа 433 — Брауэра о неподвижной точке 334 — Данжуа 406 — Дарбу 229 — — для контактных форм 239 теорема Кроиекера — Вейля о равномерном возвращении 156 — Крылова — Боголюбова 145 — Купки — Смейла 298 — Лиувилля 231 — Лиувилля — Арнольда 234 — Лифшица 611 — Маргулнса 656 — Мизюревича — Пшнтицкого 323 — Мозера 203 — Нётр 232 — Нэша о вложении 312 — о промежуточном значении 387 — о спецификации 580 — о среднем значении 34 — о семействах е-траекторий 570 — об устойчивых н неустойчивых многообразиях для гиперболических множеств 272 — Перрона — Фробениуса 66 — Пуанкаре — Бенедиксона 455 — Пуанкаре о возвращении 152 — — о классификации 401 — Хартмана — Гробмана 265 — Хопфа — Пуанкаре об индексе 335 — Шарковского 503 — Шуба — Сулливана 331 — эргодическая Биркгофа 146 теория Нильсена 338 тип функции экспоненциальный 62 транзитивность топологическая 44 трансверсаль 456 траневерсальность 295 топология тихоновская 61 — *-слабая 149 тор 43,47,48, 51, 55, 58,60 точка бнркгофова периодическая типа {р, q) 362 — гетероклиническая 280 — гиперболическая периодическая 245, 246 неподвижная 246 точка гомоклиническая 280 трансверсальная 30, 280 — критическая 347 — неблуждающая 140 — неподвижная трансверсальная 297 — полуустойчивая 139 — регулярная 318 — реккурентная (положительная, отрицательная) 139 — а-предельная 51 — ш-предельная 51 Узел 37, 38, 309 уравнение когомологическое 112,116 уравнения Гамильтона 48 условие диофантово 107,116 — отсутствия резонансов 285 устойчивость структурная (сильная) гиперболических множеств 572 Фактор компактный 220 — метрический 154 — орбитальный 82 — топологический 81 окус 37, 351 орма контактная 238 — нормальная 286 Жордана 35, 291 — положительная (нормированная) 319 — потока 488 п-форма нечетная 193 невырожденная 193 формула Лефшеца 334 ()ункционал действия 364 функция Гамильтона (гамильтониан) 48 — гёдьдерова 62, 68 — Морса 297 — перекрытий 520 — производящая 347, 359 С-функция 118, — потока 119 Центр динамической системы 140 цепь Маркова топологическая 64, 132 транзитивная 64 п-кратная 65 цикл асимптотический 487 — предельный 310 цилиндр 61, 65 Число вращения 391, 427, 429 — диофаитово 106, 111, 115 — Нильсена 338 — (с, ^)-диофантово 106 Эндоморфизм тора гиперболический 60 энтропия алгебраическая 126 — гомотопическая потока 129 — действия 127 — метрическая 177 — отображения 178 — разбиения 171 — разбиения условная 172 — топологическая 120, 121 эквивалентность топологическая динамических систем 73 Якобиан 195