Text
                    Г. ФЕДЕРЕР
ГЕОМЕТРИЧЕСКАЯ
ТЕОРИЯ МЕРЫ
Перевод с английского
С. П. БАЙБОРОДОВА, Л. Д. ИВАНОВА, В. В. ТРОФИМОВА
Под редакцией А. Г. ВИТУШКИНА
С дополнениями Л. Д. ИВАНОВА и А. Т. ФОМЕНКО
МОСКВА «НАУКА»
ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
1987


ББК 22.161.1 Ф32 УДК 517.518 Федерер Г. Геометрическая теория меры: Пер. с англ./Под ред. А. Г. Ви- тушкина.— М.: Наука. Гл. ред. физ.-мат. лит.—1987.— 760 с. Содержится теория потоков а ее применения к вариационному исчислению, а также необходимый подготовительный материал — грассманова алгебра, тео- теория меры, инвариантное интегрирование по группам и однородным простран- пространствам. Монография на английском языке вышла в 1969 г. Представление о раз- развитии этой тематики в последующие годы дают добавленные при переводе об- обзоры А. Т. Фоменко и Л. Д. Иванова. Для математиков — специалистов по теории функций, геометров, топологов и др.; может служить учебным и справочным пособием для студентов старших курсов и аспирантов. Ил. 4. Биолиогр. 359 назв. Герберт Федерер ГЕОМЕТРИЧЕСКАЯ ТЕОРИЯ МЕРЫ Редактор Э. Л. Прееман Художественный редактор Т. Я. Колъченко Технический редактор Е. В. Морозова Корректоры Т. С. Ваисбврг, Л. С. Сомова ИВ MJ 12398 Сдано в набор 02.07.86. Подписано к печати 13.05.87. Формат 60X90/16. Бумага тип. Л1 1. Гарнитура обыкновенная. Печать высокая. Усл. печ. л. 47,5. Усл. кр.-отт. 47,5. Уч.-изд. л. 49,68. Тираж 4500 экз. Заказ Ml 289. Цена 7 р. 80 к. Ордена Трудового Красного Знамени издательство «Наука» Главная редакция физико-математической литературы 117071 Москва В-71, Ленинский проспект, 15 4-я типография издательства «Наука» 630077 Новосибирск, 77, Станиславского, 25 32-87 ^^1 3287 ©. fSSSSSSJSr 053 @2)-87 физико-математической литературы. Перевод на русский язык, 1987
ОГЛАВЛЕНИЕ Предисловие к русскому изданию ....*....... 8 Предисловие $ Введение 11 Глава 1. ГРАССМАНОВА АЛГЕБРА 18 § 1.1. Тензорные произведения . ..... . . . . . 18 § 1.2. Градуированные алгебры 21 § 1.3. Внешняя алгебра над векторным пространством 23 § 1.4. Кососимметрйческие формы и двойственность 27 § 1.5. Внутренние умножения 32 § 1.6. Простые та-векторы 34 § 1.7. Скалярные произведения 38 § 1.8. Масса и комасса 49 § 1.9. Симметрическая алгебра над векторным пространством ... 52 § 1.10- Симметрические формы и полиномиальные функции .... 55 Глава 2. ОБЩАЯ ТЕОРИЯ МЕРЫ 61 § 2.1. Меры и измеримые множества 62 2.1.1. Суммирование чисел F2). 2.1.2, 2.1.3. Измеримые множества F5). 2.1.4, 2.1.5. Измеримые оболочки F7). 2.1.6. Числа Улама F9). § 2.2. Борелевские и суслинские множества 71 2.2.1. Борелевскяе семейства G1). 2.2.2,2.2.3. Аппроксимация замк- ' нутыми подмножествами G2). 2.2.4. Неизмеримые множества G3). 2.2.5. Радоновы меры G4). 2.2.6. Пространство последовательно- последовательностей натуральных чисел G4). 2.2.7—2.2.9. Липшицевские отобра- отображения G5). 2.2.10—2.2.13. Суслинские множества G6). 2.2.14, 2.2.15. Борелевские и бэровские функции (81). 2.2.16. Сепарабельность носителей (83). 2.2.17. Образы радоновых мер (84). § 2.3. Измеримые функции 84 2.3.1, 2.3.2. Основные свойства (84). 2.3.3—2.3.7. Теоремы аппрокси- аппроксимации (88). 2.3.8—2.3.10. Пространства измеримых функций (90). § 2.4. Интеграл Лебега 93 2.4.1—2.4.5. Основные свойства (93). 2.4.6—2.4.9. Теоремы о преде- пределах (97). 2.4.10, 2.4.11. Интегралы по подмножествам (98). 2.4.12— 2.4.17. Лебеговы пространства (99). 2.4.18. Композиции и меры об- образов A04). 2.4.19. Неравенство Иенсена A04). § 2.5. Линейные функционалы 105 2.5.1. Решетки функций A05). 2.5.2—2.5.6. Интегралы Даниеля A05). 2.5.7—2.5.12. Линейные функционалы на лебеговых прост- пространствах A12). 2.5.13—2.5.15. Теорема Рисса о представлении 1» ¦
4 ОГЛАВЛЕНИЕ A21). 2.5.16. Длина кривой A23). 2.5.17, 2.5.18. Интеграл Римана — Стилтьеса A25). 2.5.19. Пространства интегралов Даниеля A27). 2.5.20. Разложение интегралов Даниеля A29). § 2.6. Произведения мер 129 2.6.1—2.6.4. Теорема Фубини A29). 2.6.5. Мера Лебега A35). 2.6.6. Бесконечные декартовы произведения A35). 2.6.7. Интегрирование по частям A36). § 2.7. Инвариантные меры 137 2.7.1—2.7.3. Определения A37). 2.7.4—2.7.13. Существование и един- единственность инвариантных интегралов A39). 2.7.14, 2.7.15. Радоно- вость согласованных мер A47). 2.7.16. Примеры A49). 2.7.17. Неиз- Неизмеримые множества A58). 2.7.18. Li-непрерывность действий груп- группы A58). § 2.8. Теоремы о покрытиях 158 2.8.1—2.8.3. Адекватные семейства A58). 2.8.4—2.8.8. Покрытия с расширением A60). 2.8.9—2.8.15. Центрированные покрытия шара- шарами A62). 2.8.16—2.8.20. Покрытия Витали A67). § 2.9. Производные 169 2.9.1—2.9.5. Существование производных A69). 2.9.6—2.9.10. Не- Неопределенные интегралы A72). 2.9.11—2.9.13. Плотность и аппрок- аппроксимативная непрерывность A75). 2.9.14—2.9.18. Дополнительные результаты о дифференцировании, связанные с центрированными шарами A76). 2.9.19—2.9.25. Производные кривых конечной дли- длины A80). § 2.10. Конструкция Каратеодори 187 2.10.1. Общая конструкция A87). 2.1D.2—2.10.6. Меры Эвт, 9>т, 3~т, &т, <ёт, 2f™, Q™ A88). 2.10.7. Связь с интегралом Римана — Стилть- Стилтьеса A92). 2.10.8—2.10.12. Разбиения и интегралы от кратности A92). 2.10.13—2.10.14. Длина кривой A94). 2.10.15, 2.10.16. Инте- Интегрально-геометрические меры A95). 2.10.17—2.10.19. Плотности A96), 2.10.20. Замечания о приближающих мерах A99). 2.10.21. Пространства лишпицевских функций и замкнутые подмножества B00). 2.10.22, 2.10.23. Приближающие меры возрастающих после- последовательностей B02). 2.10.24. Прямое построение верхнего инте- интеграла B04). 2.10.25—2.10.27. Интегралы мер прообразов B07). 2.10.28, 2.10.29. Множества типа канторового B09). 2.10.30, 2.10.31. Штейнеровская симметризация B13). 2.10.32—2.10.42. Неравен- Неравенства между основными мерами B14). 2.10.43, 2.10.44. Липшицев- ские продолжения функций B19). 2.10.45, 2.10.46. Декартовы про- произведения B20). 2.10.47—2.10.49. Подмножества конечной хаусдор- фовой меры B22). Глава 3. СПРЯМЛЯЕМОСТЬ 225 § 3.1. Дифференциалы и касательные 227 3.1.1—3.1.10. Дифференцирование и аппроксимативное дифферен- дифференцирование B27). 3.1.11. Дифференциалы высших порядков B37). 3.1.12, 3.1.13. Разбиения единицы B42). 3.1.14—3.1.17. Дифференци- Дифференцируемые расширения функций B44). 3.1.18. Факторизация отображе- отображений около типичных точек B47). 3.1.19, 3.1.20. Подмногообразия евклидова пространства B49). 3.1.21. Касательные векторы B52). 3.1.22. Относительное дифференцирование B53). 3.1.23. Локальное распрямление подмногообразия B55). 3.1.24. Аналитические функ- функции B56). § 3.2. Площадь и коплощадь липшицевскнх отображений 260
ОГЛАВЛЕНИЕ . 5 3.2.1. Якобианы B60). 3.2.2—3.2.7. Площадь отображений евклидо- евклидовых пространств B61). 3.2.8—3.2.12. Коплощадь отображений ев- евклидовых пространств B66). 3.2.13. Приложения; Г-функция Эйле- Эйлера B70). 3.2.14, 3.2.15. Спрямляемые множества B72). 3.2.16— 3.2.19. Аппроксимативные касательные векторы и дифференциалы B73). 3.2.20—3.2.22. Площадь и коплощадь отображений спрямляе- спрямляемых множеств B77). 3.2.23, 3.2.24. Декартовы произведения B80). 3.2.25, 3.2.26. Совпадение мер спрямляемых множеств B81). 3.2.27. Площади проекций спрямляемых множеств B83). 3.2.28. Примеры B83). 3.2.29. Спрямляемые множества и многообразия класса 1 B88). 3.2.30—3.2.33. Дальнейшие результаты о коплощади B88). 3.2.34—3.2.40. Формула Штейнера и объем Минковского B91). 3.2.41—3.2.44. Теорема Врунна — Минковского B97). 3.2.45. Соот- Соотношения между мерами Q™ B99). 3.2.46. Хаусдорфовы меры на римановых многообразиях C01). 3.2.47—3.2.49. Интегральная гео- геометрия на сферах C03). § 3.3. Структурная теория 308 .3.3.1—3.3.4. Касательные свойства произвольных суслияских мно- множеств C08). 3.3.5—3.3.18. Спрямляемость и проекции C13). 3.3.19— 3.3.21. Примеры неспрямляемых множеств C22). 3.3.22. Спрямляе- Спрямляемость и плотность C29). § 3.4. Некоторые свойства многократно дифференцируемых функций 330 3.4.1—3.4.4. Меры множеств f{x: dimimDf(x) <v} C30). 3.4.5— 3.4.12. Аналитические множества C39). Глава 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ 362 § 4.1. Дифференциальные формы и потоки 365 4.1.1. Распределения C65). 4.1.2—4.1.4. Регуляризация C68). 4.1.5. Распределения, представимые интегрированием C71). 4.1.6. Диффе- Дифференциальные формы и m-векторные поля C73).4.1.7. Потоки C77). 41.8. Декартовы произведения C82). 41.9, 4.1.10. Гомотопии C85). 4.1.11. Соединения, ориентированные симплексы C87). 4.1.12— 4.1.19. Плоские цепи C90). 4.1.20, 4.1.21. Связь с интегрально-гео- интегрально-геометрической мерой D01). 4.1.22, 4.1.23. Полиэдральные цепи и пло- плоская аппроксимация D02). 4.1.24—4.1.28. Спрямляемые потоки D04). 4.1,29. Лшшшцевские окрестностные ретракты D10). 4.1.30. Формула преобразования D11). 4.1.31. Ориентированные подмного- подмногообразия D13). 4.1.32. Проективные отображения и полиэдральные цепи D16). 4.1.33. Формулы двойственности D18). 4.1.34. Скобки Ли векторных полей D19). § 4.2. Деформации и компактность 419 4.2.1. Расслаивание нормальных потоков с помощью вещественно- значных функций D19). 4.2.2. Отображения с особенностями D21). 4.2.3—4.2.6. Кубические разбиения D24). 4.2.7—4.2.9. Теорема о деформации D29). 4.2.10. Изопериметрическое неравенство D33). 4.2.11—4.2.14. Плоские цепи и интегрально-геометрическая мера D33). 4.2.15, 4.2.16. Теорема замкнутости D36). 42.17, 4.2.18. Тео- Теорема компактности D40). 4.2.19—4.2.24. Аппроксимация полиэдраль- полиэдральными цепями D41). 4.2.25. Неразложимые целочисленные потоки D45). 4.2.26. Плоские цепи по модулю v D48). 4.2.27. Локально спрямляемые потоки D58). 4.2.28, 4.2.29. Аналитические цепи D59). § 4.3. Расслаивание 461 4.3.1—4.3.8. Расслаивание плоских цепей с помощью отображений в Rn D61). 4.3.9—4.3.12. Гомотопии, непрерывность слоев D72). 4.3.13. Расслаивание с помощью отображений в многообразия D79). 4.3.14. Ориентированные- конусы ^479). 4.3.15. Ориентированные
6 ОГЛАВЛЕНИЕ цилиндры D82). 4.3.16—4.3.19. Ориентированные касательные кону- конусы D83). 4.3.20. Пересечения плоских цепей D87). § 4.4. Группы гомологии ~ . 491 4.4.1. Теория гомологии с группой коэффициентов Z D91). 4.4.2, 4.4.3. Изопериметрические неравенства D93). 4.4.4. Свойства ком- компактности классов гомологии D97). 4.4.5, 4.4.6. Теории гомологии с группами коэффициентов R и Zv E00). 447. Два простых приме- примера E01). 4.4.8. Группы грмотопий циклических групп E01). 4.4.9. Группы когомологий E02). § 4.5. Нормальные потоки размерности hbR" 502 4.5.1—4.5.4., Множества с локально конечным периметром E02). 4.5.5. Внешние нормали E05). 4.5.6. Теорема Гаусса — Грина E05). 4.5.7—4.5.10. Функции, соответствующие локально нормальным по- потокам E07). 4.5.11, 4.5.12. Плотности и локально конечный пери- периметр E36). 4.5.13—-4.5.17. Примеры и приложения E39). Глава 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ . . 543 § 5.1. Интегранды и минимизирующие потоки 545 5.1.1. Параметрические интегранды и интегралы E45). 5.1.2. Эл- Эллиптичность параметрических интеграндов E47). 5.1.3. Выпуклость, параметрическое условие Лежандра E48). 5.1.4. Диффеоморфная инвариантность эллиптичности E49). 5.1.5. Полунепрерывность (снизу) интеграла E50). 5.1.6. Минимизирующие потоки E52). 5.1.7, 5.1.8. Изотопические деформации, вариации E55). 5.1.9. Непа- Непараметрические интегранды E58). 5.1.10. Непараметрическое усло- условие Лежандра E60). 5.1.11. Формула Эйлера — Лагранжа E62). § 5.2. Регулярность решений некоторых дифференциальных уравнений 564 5.2.1, 5.2.2. Ьг и условия Гёльдера E64). 5.2.3. Сильно эллиптиче- эллиптические системы E66). 5.2.4. Неравенство Соболева E70). 5.2.5, 5.2.6. Обобщенные гармонические функции E71). 5.2.7—5.2.10. Свертки с существенно однородными функциями E74). 5.2.11—5.2.13. Элемен- Элементарные решения E80). 5.2.14. Гёльдеровские оценки для линейных систем E86). 5.2.15—5.2.18. Непараметрические вариационные зада- задачи E88). 5.2.19. Принцип максимума для вещественнозначных ре- решений E94). 5.2.20. Одномерные вариационные задачи E98). § 5.3. Эксцесс и гладкость 599 5.3.1—5.3.6. Оценки, содержащие эксцесс E99). 5.3.7. Переход к пре- пределу F16). 5.3.8—5.3.13. Убывание эксцесса F22). 5.3.14—5.3.17. Регулярность минимизирующих потоков F43). 5.3.18, 5.3Л9. Мини- Минимизирующие потоки размерности т в Rm+1 F50). 5.3.20. Минимизи- Минимизирующие потоки размерности 1 в R" F54). 5.3.21. Минимизирующие плоские цепи по модулю v F55). § 5.4. Дальнейшие результаты о потоках, минимизирующих площадь 656 5.41. Терминология F56). 5.4.2. Слабая сходимость вариационных иер F57). 5.4.3—5.4.5. Отношения плотностей и касательные кону- конусы F58). 5.4.6, 5.4.7. Регулярность потоков, минимизирующих площадь F66). 5.4.8, 5.49. Декартовы произведения F69). 5.4.10—5.4.14. Дифференциально-геометрическое изучение конусов F70). 5.415, 5.416. Потоки размерности т в Rm+1 F82). 5.4.17. Отсутствие единственности и симметричности F86). 5.4.18. Непараметрические поверхности, теорема Бершптейна F87). 5.4.19. Голоморфные множества F90). 5.4.20. Граничная регулярность F92). Список литературы ............... 694
ОГЛАВЛЕНИЕ 7 Дополнение 1. Вариации множеств и энтропия (Л. Д. Иванов) 703 Дополнение 2. Топологические свойства многомерных экстремалей функционала объема и функционала Дирихле (А. Т. Фоменко) 720 § 1. Функционал многомерного объема, локальная и глобальная мини- минимальность поверхностей ............. 720 § 2. Многомерные задачи Плато и экстраординарные теории гомологии и когомологий 724 § 3. Методы конструктивного построения глобально минимальных по- поверхностей 738 § 4. Топологические свойства гармонических отображений как экстрема- экстремалей функционала Дирихле 744 Словарь некоторых стандартных обозначений 754 Список основных обозначений, определяемых в тексте .755 Предметный указатель. 757
ПРЕДИСЛОВИЕ К РУССКОМУ ИЗДАНИЮ Книга Т. Федерера появилась в 1969 г. С тех пор она оста- остается наиболее полным пособием по теории меры и интеграла. Она практически полностью охватывает материал предшествующих ей учебных пособий, в частности широко известных монографий С. Сакса «Теория интеграла» и П. Халмоша «Теория меры». Наря- Наряду с этим монография дает систематическое изложение ряда тем (хаусдорфовы меры, теорема Сарда, формула коплощади и др.), изучение которых было ранее возможно лишь по малодоступным журнальным статьям. Все это определило необходимость русского перевода книги Федерера. С точки зрения приложений книга ориентирована на изучение экстремальных поверхностей, а именно, вслед за теорией меры в ней излагается теория потоков, и методами этой теории решены не- некоторые варианты задачи Плато. Издание пополнено двумя обзорными статьями. В первой дается краткий обзор результатов по вариациям множеств и энтропии, примыкающих к тематике монографии. Ряд фундаментальных ре- результатов, связанных с теорией меры (теорема Сарда, теорема о касательной, вопросы единственности меры и др.), в терминах ва- вариаций и энтропии обретают новую, подчас более удобную в при- приложениях форму. Вторая статья дает развернутый обзор результа- результатов по задаче Плато. Книга предназначена для математиков, работающих в различ- различных разделах анализа, геометрии, дифференциальных уравнений. Она доступна широкому кругу читателей, в том числе аспирантам и студентам. Однако при первом знакомстве с теорией меры феде- реровская краткость и насыщенность изложения потребуют от чи- читателя активной работы с текстом и настойчивости. На русский язык книгу перевели Л. Д. Иванов (предисловие автора, введение, § 7 главы 2, главы 3 и 4), С. П. Байбородов (гла- (глава 1 и §§ 1—6 и 8—10 главы 2) и В. В. Трофимов (глава 5). Пер- Первое дополнение написано Л. Д. Ивановым, второе — А. Т. Фоменко. А. Витушкин
ПРЕДИСЛОВИЕ В течение последних трех десятилетий предмет геометриче- геометрической теории меры прошел путь от набора изолированных частных результатов до связанного в единое целое раздела фундаменталь- фундаментальных знаний с богатой естественной внутренней структурой и тесны- тесными связями со многими другими частями математики. Это' развитие дало нам более глубокое понимание аналитических и топологиче- топологических основ геометрия и привело к новому направлению в вариаци- вариационном исчислении. В последнее время методы геометрической тео- теории меры привели к весьма существенному прогрессу в изучении самых общих эллиптических вариационных аадач, включая много- многомерную задачу наименьшей площади. Цель этой книги — создание исчерпывающего трактата по гео- геометрической теории меры. Детальное изложение ведется от основа- оснований теории до последних открытий и содержит многие ранее не опубликованные результаты. Книга предназначена служить как ис- источником ссылок для сложившихся математиков, так и учебником для подготовленных студентов. Материал главы 2 может быть из- изложен в течение первого года обучения студентов, специализирую- специализирующихся по вещественному анализу. Изучение последующих глав — хорошая подготовка к самостоятельным исследованиям. Для чтения этой книги необходимо некоторое знакомство с элементарной тео- теорией множеств, топологией, линейной и коммутативной алгеброй, однако изложение содержит все необходимые сведения из полили- полилинейной алгебры, анализа, дифференциальной геометрии и алгебра- алгебраической топологии. Формальному изложению теории в главах 1—5 предшествует короткое предварительное описание главной темы, данное во вве- введении, где содержатся также и более обширные комментарии по истории предмета. В начале каждой главы указываются оригинальные источники сравнительно нового и важного материала, излагаемого в тексте. Ссылки на литературу по некоторым дополнительным вопросам, ко- которые детально не рассматриваются, даются внутри глав. Некото- Некоторые относящиеся к предмету дальнейшие публикации приведены только в библиографии. Все ссылки на библиографию приводятся в виде аббревиатуры, заключенной в квадратные скобки: например, {С1] означает первую из содержащихся в библиографии работ Ка- ратеодори. К предметному указателю добавлен список основных
10 ПРЕДИСЛОВИЕ обозначений, введенных в тексте, и словарь некоторых использу- используемых, но не определяемых в тексте, стандартных обозначений. Я хочу выразить благодарность Браунскому университету и На- Национальному научному фонду за поддержку моей работы над кни- книгой, и высоко оценить усилия моих коллег, помогавших в осущест- осуществлении плана. Я имел много полезных бесед с Фредериком Альм- греном младшим, касающихся, в частности, его идей, представлен- представленных в § 5.3. Каспер Гоффман поставил несколько интересных воп- вопросов, побудивших меня к написанию части п. 4.5.9. Кацуми Но- мидау предложил мне элегантное рассуждение, изложенное в 5.4.13. Вильям Аллард внимательно прочел всю рукопись ж многочислен- многочисленными полезными вопросами и комментариями внес значительный вклад в качество окончательного варианта книги. Джон Бразес, Лоуренс Эрнст, Джозеф Крал, Артур Сард и Вильям Цимер прочли некоторые части рукописи, представив полезный список исправ- исправлений. Редакторы и персонал издательства «Шпрингер» на всех этапах издания этой книги проявляли неизменную согласованность. Я осо- особенно благодарен Давиду Мамфорду за приглашение включить мою работу в серию «Основы математических знаний» и Клаусу Петер- су за проведенную организационную работу. Герберт Федерер Провиденс, Род Айленд Январь 1969
ВВЕДЕНИЕ Систематическое описание материала книги дается оглав- оглавлением, введениями в отдельные главы и предметным указателем. Здесь мы хотим прокомментировать наш общий план менее фор- формально, чтобы подчеркнуть и мотивировать центральные концепции и чтобы кратко отметить некоторые дополнительные вопросы, не рассматриваемые в книге. Это введение не является логической предпосылкой для последующих глав,— как раз напротив,— но оно может дать читателю полезное первое впечатление об излагаемом предмете. В число основных методов геометрической теории меры входят методы полилинейной алгебры, изложенные в главе 1, и техника общей теории'интегрирования, развитая в главе 2. Мы используем внешнюю и кососимметрическую алгебры, чтобы рассмотреть ори- ориентированные m-мерные векторные подпространства га-мерного евк- евклидова пространства R", в частности касательные пространства го-мерных спрямляемых множеств и потоков, являющихся основ- основными изучаемыми объектами в главах 3 и 4. Симметрические алгеб- алгебры применяются для рассмотрения дифференциалов высших поряд- порядков, например в теореме Уитни о продолжении и в теории аналити- аналитических множеств в главе 3, а также в теории сильно эллиптических систем уравнений в частных производных второго порядка в гла- главе 5. В изложении общей теории меры одинаково важное место от- отводится как основанному на теории множеств подходу Каратеодори, так и основанному на решетках функций подходу Ф. Рисса и Да- ниеля. Рассматриваются не только основные факты интегрирования по Лебегу, но и многие дополнительные вопросы, такие, как теория суслинских множеств, теория согласованных (с действием группы) мер на однородных пространствах, результаты о производных, осно- основанные на обобщениях теорем Витали и Безиковича о покрытиях, и важнейшие свойства мер типа Хаусдорфа. На Rn однозначно определяется га-мерная мера Лебега &п свой- свойствами регулярности по Борелю, инвариантности относительно пре- преобразований пространства R", сохраняющих евклидову метрику, и условием &п{х: 0 =? Xi < 1 для i = 1, ..., га} = 1. Однако для любых двух натуральных чисел т < п существует мно- много разных так называемых m-мерных мер на R". Все они борелев- ски регулярны, инвариантны относительно той же группы преобра- преобразований и приписывают любому подмножеству m-мерного подмно-
12 ВВЕДЕНИЕ гообразия класса 1 пространства Rn вполне определенное число, естественное с точки зрения всех геометров. Но эти меры приписы- приписывают существенно разные числа более общим подмножествам про- пространства R", несмотря на то, что каждая из этих мер определена с помощью вполне разумной геометрической конструкции. Две наи- наиболее важные m-мерные меры — это хаусдорфова мера Шт и инте- интегрально-геометрическая мера ЗТ*). Если А с: Rn, то Ж"(А) — это точная нижняя грань множества всех t таких, что 0 < t < °°, и для любого е > 0 существует счетное покрытие G множества А, для ко- которого 2 ( SSG и diamE)<e для Se=G; здесь a{m) = S"a(Rm(\{x: Ы<1)). Меру &™(А) мы определяем аналогично, требуя, чтобы элементы покры- покрытия G были борелевскими множествами, и заменяя вышеприведен- вышеприведенные слагаемые на 6n,m— инвариантная мера на пространстве всех ортогональ- ортогональных проекций из Rn в Rm, a pi (га, т) — подходящая константа. В случае, когда А — борелевское множество, мы выводим обобщен- обобщенную формулу Крофтона ? {Л) = j v (А Л W) diiWj^ (га, т), где ц — инвариантная мера на пространстве всех (га — т) -мерных аффинных подпространств пространства Rn, а \(Е)— это число то- точек (возможно, равное °°) произвольного множества Е. В течение первой половины этого столетия большая часть спе- специалистов по геометрической теории меры детально изучала неко- некоторые специальные множества типа канторового, на которых раз- разные тнмерные меры принимают разные значения. Из этого анализа патологии постепенно сформировалось, особенно благодаря пионер- пионерному гению Безиковича, разделение множеств на классы. Следую- Следующая занимающая центральное место теорема была доказана в част- частном случае т = 1 и га = 2 Безиковичем, а затем для любых т и п автором. Пусть А — борелевское множество в пространстве Rn ц Жп(А)< < °°. Тогда можно выделить такое борелевское подмножество В множества А, что 3™ (В) = Ж* (В), У *) В отечественной литературе эта мера называется мерой Фае ар а.— При- Примеч. пер.
ВВЕДЕНИЕ 13 В можно покрыть счетным семейством ш-мерных подмногообразий класса 1 пространства R", и для любого т-мерного подмногообразия С класса 1 пространства R". Отсюда следует, что Ж™ (А) > 9™ (А) и что Жт(А) = 2?(А) тогда и только тогда, когда Эёт(А\В)=0. В этом случае А называется. {Жт, т)-спрямляемым. В § 3.3 уста- устанавливается несколько результатов такого типа, которые дают удобные критерии спрямляемости. В работе часто приходится учитывать поведение спрямляемых множеств при липшицевских отображениях. Основные результаты по этому вопросу, которые будут получены в § 3.2, можно сумми- суммировать следующим образом. Пусть n^m^k<=l — натуральные числа, X — это B№т, т)- спрямляемое борелевское множество в пространстве Rn, Y <= R1 и отображение, /: X -*¦ Y удовлетворяет условию Липшица, Тогда справедливы следующие утверждения. A) Множество X имеет в Жт-почти всех х аппроксимативное касательное векторное пространство размерности тп и функция f имеет аппроксимативный дифференциал apDf(x). B) Если Y является B@\ к)-спрямляемым, то f~l{y) является C@т~\ т — к)-спрямляемым для Жк-почти всех у и f Mm~h (Г1 {У}) dMhy = \ j (x) У X где j (х) = \ Д h ар Df (х) \\ — это к-мерный аппроксимативный яко- якобиан отображения / в точке х. C) Если 8 > 0 и Жт-кЦ-*{у))> 8 для Ж-почти всех у из У, то Y является {Шк, к)-спрямляемым. Интуитивная идея то-мерной области интегрирования в R" мо- может быть задана несколькими различными полезными формулиров- формулировками. Можно рассмотреть ограниченное борелевское множество А в пространстве R", у которого Ж"(А)<°°. Можно рассмотреть со- соответствующую радонову меру Звт L А, заданную формулой {Mm^A){S) = 36m{SKA) для SczR". Предполагая, что А является (Жт, т)-спрямляемым, можно, кроме того, ввести Шш 'L- .4-суммируемую функцию \, которая 5^"-почтя каждой точке х из А ставит в соответствие простой m-вектор \{х) такой, что I\{х) I — натуральное число (кратность в точке х), и тге-мерное векторное подпространство пространства R", ассоцииро- ассоциированное с %{х), совпадает с множеством всех аппроксимативных
14 ВВЕДЕНИЕ касательных векторов к А в точке х. Тогда интеграл существует для каждой непрерывной функции Ф: R" X Лт^""*"^ такой, что Ф(х, to) — *Ф{х, а) при любых jeR", аеДтй", 0<teR, и этот интеграл линейно зависит от Ф. Дифференциальные формы степени т класса °° на R" соответствуют тем параметрическим ин- теграндам Ф, для которых Ф(х, а) линейно по а и бесконечно диф- дифференцируемо по х. Линейный оператор, который каждой диффе- дифференциальной форме сопоставляет вышеприведенный интеграл, явля- является тга-мерным спрямляемым потоком B@т |_ А) Д ? с массой М [(ЯГ L A) A I] Общее понятие потока, определяемого как вещественнозвачная линейная функция на пространстве дифференциальных форм клас- класса °°, непрерывная относительно сходимости форм в топологии, учитывающей производные всех порядков, было введено Де Рамом как средство изучения гармонических форм. Его работа была тесно связана с развитием теории распределений Л. Шварца. Независимо понятие обобщенной поверхности, определяемой как вещественно- вещественнозвачная непрерывная линейная функция на пространстве всех не- непрерывных параметрических интеграндов, было введено Юнгом в целях применения к задачам вариационного исчисления. Теория спрямляемых потоков была развита Флемингом и автором. Во многих геометрических задачах рассматриваются отношения между тп- и (т— 1)-мерными областями интегрирования. В теории потоков граничный оператор д определяется как двойственный к внешнему дифференцированию. Если Т — произвольный т-мерный поток в R", то дТ — такой (тп — 1)-мерный поток, что для всех дифференциальных форм \|з степени тп — 1 класса °° с ком- компактным носителем в R", где di|> — внешняя производная формы ф. Конечно, из спрямляемости потока Т не следует спрямляемость по- потока дТ. Однако главные результаты главы 4 относятся к целочис- целочисленным потокам, т. е. к таким спрямляемым потокам Т, для кото- которых дТ также спрямляем. Современные варианты классических теорем Гаусса, Грина и Стокса — это утверждения, описывающие структуру дТ через структуру потока Т. Простым примером служит формула, выражающая границу ориентированного m-мерного симп- симплекса через его ориентированные {тп — 1)-мерные грани. Ярким применением нашей теории является открытая Де Джорджи и ав-
ВВЕДЕНИЕ - IS тором теорема типа Гаусса — Грина, в которой применяется поня- понятие внешней нормали, основанное на теории меры. Локально цело- целочисленными потоками оказываются аналитические и голоморфные цели, носители которых являются подмногообразиями пространств Rn и С". Необходимо понимать, что m-мерная хаусдорфова мера носите- носителя тге-мерного целочисленного потока не обязана быть конечной, как показывает пример в 4.2.25. Предполагая, что К — компактный липшицевский окрестност-, ный ретракт в R", применим предложенное Унтни понятие плоской нормы, чтобы следующим образом метризовать пространство всех m-мерных целочисленных потоков, носители которых содержатся в К: расстоянием между 7\ и Тг называется нижняя грань множе- множества чисел М(Г1 — Тг — dS) + ME), соответствующих всем (тп + 1) -мерным целочисленным потокам S с носителем в К. Одним из наиболее важных фактов о целочисленных потоках, доказанных в § 4.2, является следующее свойство компактности. Если О < с < оо, то множество всех тех целочисленных пото- потоков Т, для которых $\>tT<=-K и М (Т) + М (дТ) «S с, компактно отно- относительно указанной метрики. Этот результат был открыт Де Джорджи в частном случае, ког- когда m = га и Т имеет кратность 1, и доказан в общем случае Фле- Флемингом и автором. Другой фундаментальный результат — теорема о деформации, которая дает основные изопериметрические оценки и связывает теорию целочисленных потоков с классической теорией целочисленных гомологии компакта К. Для того чтобы применить теорию целочисленных потоков к ва- вариационному исчислению, рассмотрим положительный параметри- параметрический интегранд Ф, удовлетворяющий условию эллиптичности пункта 5.1.2 (это условие следует из классического параметриче- параметрического условия регулярности Лежандра). Мы докажем теоремы су- существования следующих типов. A) Для любого (пг — I)-мерного целочисленного цикла Л, ко- который является ограничивающим в К, существует тп-мерный цело- целочисленный поток Т = (ЖтL. А) /\Ъ такой, что sptJcz^, дТ = R и Т минимизирует интеграл среди всех целочисленных потоков с границей R и носителем, со- содержащимся в К. B) В каждом m-мерном целочисленном классе гомологии ком- компакта К существует цикл Т, который минимизирует <Ф, ТУ среди всех элементов этого класса гомологии. Например, мы получим решение т-мерной задачи Плато, выби- выбирая в качестве Ф интегранд площади степени тп, так что Ф{х, а) = = 1а| и, следовательно, <Ф, Г> = М(Г).
jj 6 ВВЕДЕНИЕ Поскольку Ф-минимизярующяе потоки существуют при весьма общих условиях, в последнее время исследования сосредоточены на проблеме изучения гладкости Ф-минимишрующего потока Т. Следу- Следует ли из гладкости К и Ф гладкость «большей» части spt T \ spt дТ? В § 5.3 и 5.4 дается детальное изложение последних работ по этой проблеме. В течение всего классического периода развития вариа- вариационного исчисления, примерно до последнего десятилетия, обычно считалось, что решения регулярных вариационных задач не могут иметь внутренних особенностей, другими словами, что множество spt T \ spt дТ должно быть гладким m-мерным подмногообразием пространства Rn. Однако Р. Том построил 14-мерное компактное аналитическое многообразие К с 7-мерным целочисленным классом гомологии, который невозможно представить в виде образа фунда- фундаментального класса какого-нибудь 7-мерного компактного ориенти- ориентированного многообразия L при непрерывном отображении из L в К; в этом случае носитель минимизирующего цикла Т, существование которого гарантировано теоремой B), не может быть многообрази- многообразием. Помимо этого, автор обнаружил, что поток, соответствующий произвольному r-мерному голоморфному подмножеству открытого множества в пространстве С', минимизирует 2г-мерную площадь; здесь тп = 2г, га = 2s, и множество особых точек может иметь веще- вещественную размерность 2(г — 1)=т — 2. Проблема гладкости минимизирующих потоков до сих пор пол- полностью не решена, однако получены некоторые важные частные ре- результаты сначала Де Джорджи и Райфенбергом для случая площади, а затем для общих эллиптических интеграндов Альмгреном. Лока- Локализация сводит проблему к случаю, когда spt T c= Int К. Из теоремы Морри о дифференцируемости высокого порядка, доказанной в § 5.2, следует, что относительно открытое подмножество В множества spt T \ spt дТ является подмногообразием высокой гладкости про- пространства R" в том и только в том случае, когда касательные про- пространства множества spt Т удовлетворяют на В условию Гёльдера. В § 5.3 мы убедимся в такой гёльдеровости с помощью нового мощ- мощного метода, предложенного Альмгреном, и докажем: A) Жт-почти все те точки множества spt T \ spt дТ, в которых кратность потока Т (равная плотности меры IIШ) полунепрерывна снизу, имеют такие окрестности W, что W 0 spt T является гладким m-мерным многообразием. B) В случае пг= 1 никаких особых точек нет. C) В случае тп = га — 1 множество особых точек имеет нулевую тп-мерную меру Хаусдорфа. Из A) следует, что регулярные точки образуют плотное относи- относительно открытое подмножество множества spt T \ spt дТ. В § 5.4 мы покажем, что в случае тп = га — 1^6 у потоков, ми- минимизирующих площадь, нет внутренних особенностей. Похоже, что изучение особенностей минимизирующих потоков останется интересным для исследований на будущие годы.
ВВЕДЕНИЕ ¦ 17 Было изучено несколько модифицированных версий рассмотрен- рассмотренных выше вариационных задач, Мы имеем в виду работу Райфен- берга [R 2, 3] по задаче Плато, которая была также рассмотрена в [МСВ 4, гл. 10], и работу Альмгрена [AF 6] по общим эллиптиче- эллиптическим вариационным задачам. Наиболее важные модификации со- состоят в замене приведенного выше интеграла <Ф, ТУ интегралом и в применении граничных условий, содержащих гомологии с более общими группами коэффициентов, или деформации относительно данного подмножества. Для минимизирующих решений модифици- модифицированных задач было показано, без ограничений на то, что внут- внутренние особенности образуют множество нулевой m-мерной хаус- дорфовой меры. Все эти серии вариационных задач отличаются в своей основе от классического подхода, при котором изучаются для заданного то-мерного .многообразия U, ориентированного тге-векторным полем X, интегралы [ф[/(в), lAmDf(u)]X(u)]dMmu, и соответствующие всем дифференцируемым отображениям f: U -*¦ Rn, удовлетворяющим подходящим граничным условиям. К сожалению, при т > 2 не доказано никаких общих теорем, утверждающих су- существование минимизирующих отображений. В частности, класси- классический вариант m-мерной задачи Плато остается нерешенным при то > 2. Подход к вариационным задачам, связанный с изучением отображений, привел к полному решению для т = 1 и к многим важным результатам для то = 2, включая знаменитую работу Дуг- Дугласа по задаче Плато. Изложение классической теории можно най- найти в [RA 2], [MGS], [CR], [МСВ 4, гл. 9] и [NJ]. Заметим, что даже для m = 2 и п ¦= 3 между результатами классической и новой тео- теории есть различия, существенные с геометрической точки зрения. Например, существует такой минимизирующий площадь двумерный целочисленный поток Т в R3, что дТ является ориентированной простой замкнутой кривой, построенной в [FL1]; sptTXsptdT является аналитическим двумерным многообразием рода бесконеч- бесконечность, описанным в [AF 4, с. 4] и Г не соответствует никакой из поверхностей, рассмотренных Дугласом. Можно надеяться, что в бу- будущем будет развита общая вариационная теория для отображений, связанная с теорией гомотопий, но это потребует подключения ра- радикально новых средств к стандартной технике. В работах [F 7, 8, 9, 12, 16, 17] и [DF] уже обобщена на произ- произвольные размерности то бблыпая часть теории площади Лебега, т. е. мотивированные классическим вариационным исчислением исследо- исследования непрерывных отображений, основанные на теории меры. 2 Г. Федерер
ГЛАВА 1 ГРАССМАНОВА АЛГЕБРА В этой главе мы даем систематическое изложение алгебры Грассмана (внешней алгебры), уделяя особое внимание вопросам, связанным с геометрической теорией меры, л стремясь при этом к естественности конструкций. Как правило, в качестве поля скаля- скаляров рассматривается поле R действительных чисел, хотя использу- используются и другие поля. Конечно, значительная часть излагаемой здесь теории справедлива не только для алгебр, но и в более общих слу- случаях, например для модулей. Предполагается, что читатель владеет теорией векторных прост- пространств и линейных отображений, однако предварительное знаком- знакомство с полилинейной алгеброй (или теорией определителей) не яв- является необходимым. Изучение внешней алгебры было начато Г. Грассманом в прош- прошлом веке, а в ее дальнейшем развитии существенную роль сыграли работы Э. Картава. Изложение классической истории предмета чи- читатель найдет в [ВО, т. II, гл. III]. Отметим только несколько не- недавних результатов. Довольно полезным представляется интерпре- интерпретация внешней алгебры как алгебры Хопфа. Диагональное отобра- отображение впервые использовалось в [СС] под названием «анализирую- «анализирующего отображения». Понятия массы и комассы были введены X. Уитни [WH 4]. В доказательстве неравенства Виртингера мы следуем [F 20], а в изложении л. 1.4.5 — [Б15]. В двух заключи- заключительных параграфах этой главы теория симметрических алгебр строится аналогично теории внешних алгебр. Используемое нами определение полиномиальной функции заимствовано из [GG]. § 1.1. Тензорные произведения 1.1.1. Функция /, отображающая декартово произведение vtxv»x...xv. п векторных пространств Vlt V2, ..., Vn в некоторое векторное про- пространство W, называется л-линейной, если для любого i и любых Vj es Vj, соответствующих всем / Ф i, функция на У<, отображаю- отображающая х в /(У,, ..., Vt-l} X, Vi+i, ..., Vn) является линейным отображением из V( в W.
§ 1.1. ТЕНЗОРНЫЕ ПРОИЗВЕДЕНИЯ 19 Под тензорным произведением пространств Vu ..., Vn понимает- понимается векторное пространство Vt ® V2 ® ... ® Vm вместе с заданным га-линейным отображением ц: V, X V2 X... X Vn ->- Vt ® V3 ® ... ® Vn, которые совместно характеризуются следующим образом. Для каждого п-линейного отображения f пространства Vi X ... ... X У„ в произвольное векторное пространство W существует единственное линейное отображение g пространства Vt ® ... ® У„ ¦ в W такое, что / = g • \i. Обычно используют обозначение вместо ц(у(, v2, ..., vn) при vs e Vj, j = 1, ..., га. Единственность (с точностью до линейного изоморфизма) тен- тензорного произведения немедленно следует из определения. Для до- доказательства его существования рассмотрим взаимно однозначное отображение ф: V, X V2 X ... X У„ - F, где F — векторное пространство, состоящее из тех вещественных функций, определенных на Vt X V2 X ... X Vn, которые равны О вне некоторого (переменного) конечного множества, a <p(i>i, ... • •., vn)— функция, равная 1 в (vt, ..., vn) и равная 0 в остальных точках пространства Vt X ... X Vn. Обозначим через G векторное подпространство пространства F, порожденное элементами вида q>(vt, ..., v{-u х, Уй.,, ..., vn) + q>(i>i, ..., i>,_,, у, i><+,, ..., vn) — — <p(vu . . ., Vt-i, X+y, Vi+l, . .., Vn) и <p(i>f, •.., vt-u cv{, vi+i, ..., vn)— cq>(vt, ..., Vi-i, vu vt+i, ..., v»), где csR, положим Vi ® ... ® Vn = F/G и возьмем ц как компози- композицию ф и канонического отображения F на FIG. Построение тензорных произведений естественно в том смысле, что для любых линейных отображений существует единственное линейное отображение , чго (Л ® • • • ® /») (vt ® ... ® Уп)= Л(у4)® • • • ® U(vn) при V)^Vh /р-1, ..., га. 2*
20 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА 1.1.2. Часто используются следующие линейные изоморфизмы. Для каждой перестановки К множества A, ..., га} у, ® ... ® yn ~ Vxw ® . • • ® Уч.„ где Vi ® ... ® vn отображается в Vt.w ® ... ® Ул(п). Для т < п (У, ® ... ® Ут)® (Ут+1 ® ... ® Уп)~ У, ® ... ® У„, где (vx ® ... ® ит) ® (ут+1 ® ... ® у„) отображается в vt ® ... ® у„. Для каждого векторного пространства умножение на скаляр есть билинейное отображение из R X V в V, порождающее изомор- изоморфизм R ® У ^ У, где с ® х отображается в сх. Если V ы Р ® G (прямая сумма), то Действительно: если /: V -*¦ Р, q>: Р -*¦ V, g: V -*¦ Q, if: Q -*¦ V — такие линейные отображения, что то / ® 1тг, Ф ® 1тг, g ® lw, "ф ® iw — линейные отображения, для которых (/ ® iw) • (ф ® W) - Ь«тг, (g (ф ® W) • (/ ® i Отсюда следует, что если В} — базис в Vj для каждого /, то эле- элементы bi ® ... ® Ь„, г9е 6j е= ?л образуют базис в Vt ® ... ® У„. Следовательно, п dim (Vj ® ..»® Vn) = П dim FJ- 1.1.3. В качестве примера, иллюстрирующего сказанное, рас- рассмотрим специальный случай, когда каждое Vs является множест- множеством всех вещественных функций, определенных на некотором мно- множестве Ss, W является множеством всех вещественных функций, определенных на декартовом произведении Si X ... X Sn, и f(vi, ..., vn)(su ..., sn)=y1,(s1)-y2(s2)-... -vn(sn) при у,- eFjHSje 5,- для / = 1, ..., га. Проведя индукцию по га, мож- можно показать, что в данном случае соответствующее линейное отоб- отображение g является мономорфизмом; в случае га = 2 легко прове- проверить, что m ft=i
§ 1.2. ГРАДУИРОВАННЫЕ АЛГЕБРЫ 21 если vtil, Vj,4, ..., V],т — линейно независимые элементы из Vh j — 1, 2. Заметим также, что g является эпиморфизмом тогда в только тогда, когда по крайней мере п — 1 из п множеств S} явля- являются конечными. 1.1.4. Мы будем использовать естественное линейное преобра- преобразование <р: Нот(У, R) ® PF-^Hom(V, W) такое, что для каждой линейной функции а: V -*¦ R и каждого ysW линейная функция ф(а®г/): V-*¦ W отображает x<=V в а{х)' y^W. Используя базис пространства W, легко видеть, что Ф — мономорфизм, причем ф является эпиморфизмом всегда, за иск- исключением случая dim V = °о = dim W. Напомним также, что ©ели п = dim V < ~ и еи ..., е„ образуют базис в V, то двойственный базис в Нот (У, R) состоит из вещест- вещественных линейных функций coi, ..., соп, определяемых условиями § 1.2. Градуированные алгебры \ 1.2.1. В этой книге градуированной алгеброй будем назы- называть векторное пространство А, представимое в виде прямой суммы оо А = © Ат с заданной билинейной функцией (умножением) ц: А X А -*¦ А, та- такой, что li(AmXAn)<=Am+n, где т, п — неотрицательные целые числа. Обычно вместо ц (х, у) мы будем употреблять знак произведения типа х ¦ у. Это умножение, как правило, ассоциативно, и существует линей- линейный изоморфизм R ^ Ао, отображающий 1 в единичный элемент кольца А. В некоторых рассматриваемых алгебрах умножение антикомму- тативно: Ц •!=(—l)mnl -т] для Ъ^Ат, ц^Ап. 1.2.2. Если А и В — градуированные алгебры, то градуированное тензорное произведение оо А® В= ф © Ар®Вд »n=o p+g=m образует градуированную алгебру при каждом из двух приводимых ниже стандартных определений умножения.
22 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА A) Для того чтобы получить коммутативное произведение А® В, положим (a®b){c®d)=(a-c)®(b-d) при аеД Ь <= JB, с^А, d<=B. B) Для того чтобы получить антикоммутативное произведение А ® В, положим (о ® Ь)-(с ® d) = (-l)^(o • с)®{Ь • d) при аеЛ„ b^Bq, с^А„ d&B.. Эти два определения мотивируются тем, что коммутативное про- произведение двух коммутативных алгебр есть коммутативная алгебра, в то время как антлкоммутативное произведение двух антикомму^ тативных алгебр — антикоммутативная алгебра. (Тем не менее .иногда полезно рассматривать также коммутативное произведение двух антикоммутативных алгебр!) Антикоммутативные произведения А® В и В ® А изоморфны; стандартный изоморфизм переводит а® Ь в (—1)м Ъ® а при о е Ар и Ь <= #,. (При аналогичном изоморфизме коммутативных произведений опускается множитель (—1)**.) Для каждой градуированной алгебры А существует единствен- единственное линейное отображение Ф: А ® А + А такое, что Ф(х ® у) = х • у при х, у е А. Если А — ассоциативная коммутативная (антикоммутативная) алгебра, то Ф — гомоморфизм градуированных алгебр, отображающий коммутативное (антиком- (антикоммутативное) произведение А ® А в А. 1.2.3. Построим теперь для каждого векторного пространства V особую градуированную алгебру 71=0 называемую тензорной алгеброй над V. Положим вообще ®т7 есть m-кратное тензорное произведение, каждый из т сомножителей которого равен V. Определим умножение в ®*V та- таким образом, что его ограничение на®тУХ®„У является (били- (билинейной) композицией отображений ® mv х ®пу -^® Легко проверить, что умножение ассоциативно, и элемент 1 из ®Л° является единичным элементом кольца ®*V. Среди всех градуированных ассоциативных алгебр с единицей, у которых в прямой сумме слагаемое индекса 1 линейно изоморфно
§ 1.3. ВНЕШНЯЯ АЛГЕБРА НАД V 23 V, тензорная алгебра ® * V характеризуется (с точностью до изо- изоморфизма) следующим свойством продолжения отображений. Для каждой градуированной ассоциативной алгебры А с единич- единичным элементом каждое линейное отображение пространства V в А1 может быть единственным образом продолжено до сохраняющего единицу гомоморфизма алгебр из ®* V в А, отображающего (g)mV, в Ат для каждого т. Наконец, отметим естественность конструкции ®*. В самом де- деле, каждое линейное отображение /: V -*¦ V может быть единствен- единственным образом продолжено до сохраняющего единицу гомоморфизма алгебр Кроме того, ®*/ является прямой суммой линейных отображений § 1.3. Внешняя алгебра над векторным пространством 1.3.1. В ассоциативной тензорной алгебре ®#У рассмотрим двусторонний идеал %V, порожденный всеми элементами х ® х из ® 2^, соответствующими jeF, Фактор-алгебра называется внешней алгеброй над векторным пространством V, Ясно, что %V — однородный лдеал. Действительно, е (®my n и, следовательно, где в частности, Д0У = Ки Ai^ = ^- Элементы пространства /\mV называются m-векторами над V. Умножение в Л*^ называется внешним умножением и обозначается символом Л« Следовательно, если Vi, ..., vm e V, то канонический гомоморфизм отображает про- произведение Vi ® ... ® vm e ®my в произведение v1h ... hvm^ /\mV. Ясно, что Л тУ— векторное пространство, порожденное всеми таки- такими произведениями. Если х ж у принадлежат V, то х ® у + у ® х = {х + у) ® (ж + у) — х ® х — у ® у <= Я V,
24 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА поэтому уАх= — хhy. Следовательно, (vp+1 Л ... Л Ур+g) Л К Л . . . Л Vp) = = (— 1)Р9 A>х Л • • • Л Vp) Л (Ур+1 Л t. . Л Vp+q) при У!, ..., vP+q e 7, откуда вытекает, что внешнее умножение антикомму тативно. Среди всех антикоммутативных ассоциативных алгебр с едини- единицей, у которых в прямой сумме слагаемое индекса 1 линейно изо- изоморфно У, внешняя алгебра Д * V характеризуется (с точностью до изоморфизма) следующим свойством. Для каждой антикоммутативной ассоциативной алгебры А с еди- единичным элементом каждое линейное отображение пространства V в Ai может быть единственным образом продолжено до сохраняю- щего единицу гомоморфизма алгебр из Л*^ в А, отображающего f\mV в Ат для каждого т. Такое продолжение единственно, потому что алгебра I\*V по- порождается V U {1}. Для доказательства существования продолже- продолжения напомним, что каждое линейное отображение пространства V в At может быть продолжено до гомоморфизма h алгебры ®*Ув А; так как алгебра А антикоммутативна л характеристика поля R от- отлична от 2, а2 = 0 при а ^ Аи поэтому 21V <= keru, и h делимо кано- каноническим гомоморфизмом алгебры ®# V на Д* V. Конструкция Д# естественна. В самом деле, каждое линейное отображение f: V-*¦ V может быть единственным образом продол- продолжено до сохраняющего единицу гомоморфизма алгебр Л*/: Л^+Л**". Кроме того, Д # / является прямой суммой линейных отображений 1.3.2. Функция Д* переводит прямые суммы векторных прост- пространств в антикоммутативные произведения алгебр: если V ^ Р® Q, то A*V~f\*P®/\*Q. ¦ Действительно, если /: V -»¦ Р, <р: Р -*¦ V, g: V -*¦ Q, Up: Q -*¦ V — линейные отображения, для которых то существует единственный сохраняющий единицу гомоморфизм алгебр а: Д#У-*-Д#^)®Л*^ (антикоммутативное произведение) такой, что a(v)= /(у)® 1 + 1 ® g(v) при »еТ, Кроме того, компо- композиция [J гомоморфизмов алгебр (>Л (где Ф индуцируется умножением в Л*^) обратна к а, так как
§ 1.3. ВНЕШНЯЯ АЛГЕБРА НАД V 25 Р ° а и а« Р порождают тождественные отображения на. слагаемых индекса 1 в соответствующих прямых суммах. Из равенства Д # R = R ® R следует, что произведения е*. = «MD Л е\B) Л ... Л е^щ), соответствующие всем возрастающим, m-членным последовательно- последовательностям X, образуют базис в /\тУ,если et, ег, es, ... образуют базис в V. Если dim V =п < °°, то ) <n, f\mV = {0} для m>n. Действительно, в Л * ^ имеется базис, рацномощный множеству Л (и, тп) всех возрастающих отображений из {1, ..., ire} в {1, ..., п). 1.3.3. Диагональным отображением внешней алгебры Л* ^ на- называется сохраняющий единицу гомоморфизм алгебр ?: /\*V-+ Д7Д7 (антикоммутативное произведение) такой, что ( ep при ге У. Для Vi, ..., vm^V вычислим произведение m пользуясь правилом (у,- ® 1) A ® i;,) = (Vi ® v,) = - A ® vj) (vt ® 1). Результат удобно записать, используя понятие перестановки типа (А ?У> т. в. такой перестановки множества {1, 2, ..., р + д}, кото- которая возрастает на каждом из множеств {1, ..., р} и {р + 1, ... ..., p+q). Обозначая через Sh(p, q) множество всех перестановок типа (р, q), находим, что произведение равно m 2 2 index (с) • (i><j(i) Л ... Л vа(Р)) ® (^(P+d Л ... Л »о(т>). р=0 <r=Sh(p,m-p) Индекс любой перестановки а, обозначенный index (о), равен (—l)w, где N — число пар (i, j) таких, что ?</ и a(i)>a{j). Диагональное отображение *Р внешней алгебры Л*^ ассоциа- ассоциативно, т. е. следующая диаграмма коммутативна:
26 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА Действительно, две вертикальные композиции гомоморфизмов ал- алгебр совпадают на V, отображая v в у®1®1 + 1®у®1 + 1<8> ® 1 ® v. Диагональное отображение Ч1" внешней алгебры Л * V антиком- мутативно, т. е. авЧг = Чг, где а — автоморфизм алгебры Л*^® ® Л*У» который отображает х ® у в (—i)p9y ® а; при же Др^ и уе Д qV. Это верно, так как а»? и Т совпадают на V. Диагональное отображение является естественным преобразова- преобразованием. В самом деле, если / — линейное отображение пространства V в векторное пространство У, у?' — диагональное отображение внешней алгебры Л*^> т0 1.3.4. Мы закончим этот параграф определением и вычислением определителя линейного отображения /: V -*¦ V в случае °° > >dimV = re. Так как (НтД„У=1,то существует единственное действительное число det (/) такое, что (An/)S = det(/H при !е=Д„У. Выбирая произвольным образом баше еи ..., е„ в У, можно опи- описать эндоморфизм / матрицей а, элементы которой ак} — веществен- вещественные числа такие, что п f (<Ч) = 2 atj в} Для i = 1, ...у п. 3=1 Находим затем, что (An/)(exA ... Л<?п)=/(е!)Л ... Л/(е„) = п \ где суммирование производится по множеству всех перестановок X множества {1, ..., п), и, так как е\= index(^) -ех Л ... Л еп, получаем det(/)= 2index(^n«i,Wi). A. i=l Если g — другой эндоморфизм пространства V, то откуда det(g°/) = det(g)-det(/). Снова используя базис в», ..., е„ в V, поставим в соответствие каждой перестановке X множества A, ..., п) эндоморфизм ср(Л.) пространства У, отображающий е( в е1A). Так как ср и det — мульти- мультипликативные гомоморфизмы, то index = det ° <p также является мультипликативным гомоморфизмом.
§ 1.4. КОСОСИММЕТРИЧЕСКИЕ ФОРМЫ 27 § 1.4. Кососимметрические формы и двойственность 1.4.1. m-линейная функция /, отображающая т-,кратное де- декартово произведение V™ векторного пространства V в некоторое векторное пространство W, называется кососимметрической, если f(vu ..., vm)=0 для любых таких vu ..., uneF, что v{ = vs для некоторого i Ф j. Обозначим через Am(v,w) векторное пространство всех m-линейных кососимметрических функций (форм), отображающих Vm в W. Если /еД1"^, W), и g'. ®mV^-W— соответствующая линейная функция, то WV П П ®mV = ker g, поэтому существует единственная линейная функ- функция h: /\mV->-W такая, что /(Vi, ...,vm) = h(v1A ... Avm)для любых vv ...,vm<=V. Таким образом, каждой / соответствует h, и мы получаем линейный изоморфизм /\™(V,W)~Rom(/\mV,W). Кроме того, существует очевидный линейный изоморфизм Нот (ДтV, W) ~ Нот" (Д* V, W), где символ справа обозначает множество тех линейных отображе- отображений из Л * ^ ь W, которые равны 0 на Л п У при пФ т. Вышеука- Вышеуказанные изоморфизмы имеют место и для т = 0 при соглашении Л ° {Уг W) = W. Положим по определению Наиболее часто будет рассматриваться случай W = R, поэтому да- далее для краткости положим Элементы пространства АтУ называются m-ковекторами над У. Наряду с обычной записью <Л, h> = h (I) для I е^Лт V, h е Нот (Д« Vx W)t будем также писать <|, /> = <|, h> = <|, к> для тех /е Лт(^» W) и Jg Нотт(Д*У, W), которые соответствуют Д при вышеуказан- вышеуказанных изоморфизмах. Каждое линейное отображение /: V -*¦ V порождает двойствен- двойственное линейное отображение A*(hwy. A*(V'.w)-+A*{V*W)t
28 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА являющееся прямой суммой линейных отображений Дт(/, W): Am(V',W)^/\m(V,W), определяемых равенствами а, лт(/,^)Ф> = <(Лт/)^,Ф> для ^Л^ и <pe=/\m(V',W). Для краткости положим Д*(/»Н)=Л*/. В качестве примера рассмотрим случай V'= 7 с »> dim У = п. Тогда (An/)<P = det(/).cp при ере Д"(У, ТУ), так как для каждого ? е Д и У 1.4.2. Пусть W — (неградуированная) алгебра над R. Используя диагональное отображение 4я внешней алгебры Д#У, превратим градуированное векторное пространство A*(V'W) в градуирован- градуированную алгебру, называемую кососимметрической алгеброй над У с ко- коэффициентами из W. Вспоминая, что /\*(V, W)~ e Horn™(Д*V, W), m=o определим для а е Нотр(Л* У» И7) и Р е Нот9(Л* У, W) про- произведение а л Р е НотР+9(Д^ Уг PF) как композицию отображений где v(s®f)=s-t для s, t^W. Учитывая ассоциативность, анти- антикоммутативность и естественность 4я, легко проверить следующие свойства. Если умножение в W ассоциативно, то Л ассоциативно. Если умножение в W коммутативно, то Л антикоммутативно. Единичный элемент в W является также единичным элементом для Л. Для каждого линейного отображения /: V -»- V линейное отобра- отображение Д * (/, W) есть мультипликативный гомоморфизм. Кососимметрическое произведение алРе ДР+3(У, W) форм ае ДР(У, W) и Ре Д9(У, W7) определяется изоморфизмами Дт(У, Й^)~ Нотт(Д#У, Ж). Однако формула перестановок для 4я (иг л ... Л ^т) немедленно приводит к следующей явной формуле для а Л Р: (а Л Р) К, ..., i>p+g) = = 2 index (а) -а (у0A), ..., va(p))-$(va{p+1), ..., va{p+q)) O=Sh(p, q) i, ..., Vp+g e v. Предполагая, что умножение в W ассоциа-
§ 1.4. КОСОСИММЕТРИЧВСКИЕ ФОРМЫ 29 тивно, по индукция легко получить подобную формулу для произ- произведения т кососимметрических форм соответствующих i = 1, . .., т. Обозначая i определим перестановку типа [рA), ..., р(т)] как такую переста- перестановку множества {1, ..., s{m)}, которая возрастает на каждом из т множеств {s(i— 1L-1, ..., s(i)}. В результате получаем (ах Л . •. Л ат) (vx, ..., vs(m)) = т = 2 index (о) И сц (ифA-1)+1Ь ..., vaua)]) oeSh[p(l) р(т)] г=1 при vu ..., vs(m) e V. Следовательно, если p(i)= 1 для i = 1, ..., т, то т («! л . •. Л ат) К, • • •, vm) = 2 index (о) П ос{ («„(«), а г=1 где суммирование производится по всем перестановкам множества {'1, ..., т}. В частности, если а,(у^)=0 при j<i, то правая часть т равна Ilai(^i)- i=l 1.4.3. Пусть теперь W = R. Заметим, что если u>i, ..., мп линей- линейно независимы в /\* V и т <: п, то произведения G>X = fi>X(l) Л ... Л соответствующие всем К^А(п, тп), линейно независимы в /\mV. Действительно, выбирая е, <= V так, чтобы <еЛ ©,> = 1 л <е3-, м,> = О при i Ф j, находим, что <е»., coi> = 1 и <ец, он> = 0 при X Ф ц s ^Л(п, т). ?слц «>>ДцпУ = п, го произведения м». образуют ба- вис пространства /\mV, так как в этом случае Отметим также равенства teA(n,m) Б- 2 <5>wjL>ejL для g Я() Коэффициенты <е^, ф) и <©*, 1> называются грассмановыми коор- координатами m-ковектора ф и тга-вектора 1 и обычно обозначаются фл и 1я.
30 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА 1.4.4. Из тождества Hom(F, R) = AXF вытекает существова- существование единственного сохраняющего единицу гомоморфизма алгебр Q: A такого, что Q(cc)=a при аеНош(У, R). Нетрудно видеть, что Q — мономорфизм. Действительно, выберем в Hom(F, R) произ- произвольным образом базисные элементы. Их m-кратные внешние про- произведения образуют базис в AmHom(F, R), а отображение Q пере- переводит эти m-кратные внешние произведения в линейно независимые кососимметрические произведения, принадлежащие /\mV. Кроме того, если °° > dim V = п, то й — эпиморфизм, так как тогда раз- размерности пространств AmHom(F, R) и f\mV совпадают и равны О- Если °о — dim V, то im й не содержит Л mV Для любого m 3* 2. Хотя тождество Hom(F, W) = Д1 (V, W) позволяет определить аналогичный гомоморфизм алгебры Д *Нот (V, W) в J\*(VfW)% этот гомоморфизм не инъективен для любой ассоциативной алгеб- алгебры W с единичным элементом, за исключением случая dim W = 1. С другой стороны, он сюръективен всякий раз, когда dim V < °°. Однако если алгебра W вдобавок коммутативна, получаем W ли- линейный гомоморфизм который является изоморфизмом в случае dim V < °°. Здесь симво- символом Д* обозначена внешняя алгебра, для которой в качестве коль- кольца коэффициентов вместо R взята алгебра W. 1.4.5. Для любых векторных пространств V и W коммутативное произведение Д * V ® Д * W образует ассоциативную алгебру, кото- которая не является ни коммутативной, ни антикоммутативной (за ис- исключением случая V & R или W ^ R). Однако подалгебра m=o коммутативна. Предполагая, что dim V = п < «>, вспомним естественный изо- изоморфизм A.1.4) обратный к которому Г можно вычислить следующим образом. Если еи ..., е„ и ©1, ..., ©„ — двойственные базисные последовательно- последовательности в V и Д1 V, то каждой / е Нот(V, W) соответствует
§ 1.4. КОСОСИММЕТРИЧЕСКИЕ ФОРМЫ 31 Используя умножение в А, получаем Г(/)т!= 2 где символ Г справа означает обращение естественных изомор- изоморфизмов ^, f\mW). В случае V = W определим след tr е Нот (A, R) следующим образом: tr(cp®S-) = <g, ф> для фе /\mV, Ъ<==/\nV. Заметим, что для Iе ДЛ7® ДmV и / = 0, 1 п —т. Кроме того, для / s Нош(V, V). Применяя формулу бинома Ньютона, находим, что при (eR Г (Ну - f)nln\ = [*Г Aу) - Г (Л]»/п! = поэтому значение характеристического многочлена от / в точке t равно det(fly-/)= 2 tn-m(-l)ntr[T(Amf)]. тп=О Аналогично получаем формулу Далее для краткости положим tr [Г(/)] = tr(/). Если /, g^Hom(V, V), то Действительно, это равенство билинейно, и справедливо в частном случае, когда Г(/) = а ® v, r(g)= p ® и?, так как Г(/»?)— p) Если /eHom(F, V), то tr(Д1/) = tr(/).
ГЛ. I. ГРАССМАНОВА АЛГЕБРА § 1.5. Внутренние умножения 1.5.1. При р < q рассмотрим билинейные отображения ApV X A4V,W)^. /\*-p{VxW)% , <f<=/\*{V,W)t определяющиеся условиями <1, Л J ф>=-<&ЛЛ. Ф> <5Lo, p> == <?,. аЛР> при ?е Лд^аеЛ^^^Л'-^. Внутренние умножения -1 и L можно построить следующими по существу двойственными друг другу процедурами. Правое внешнее умножение на т] отображает Дд-рУ в Л ^ индуцированное отображение Нош (Л, F, W) ~ Л 9 (F, W) ->¦ Нот( Д ,-р V, W)~A *-* (F, Pf) переводит ф в т] -1 ср. Диагональное отображение Ч1" внешней алгебры Д*7 и отобра- отображение ЛеНотР(Д# F, R), соответствующее р-ковектору а, приво- приводят к композиции которая переводит ^ в ? L а. Обозначая через is Нот9-Р(Д„. V, R) соответствующее (д — /))-ковектору р отображение, мы выводим определяющее условие из коммутативности диаграммы: Л Л ft Отметим, что при г + s ^ t (IЛ Ч) J ф = I J (л J ф) для любых = ДГ7, для любых ?е /\tV, aeA'Fj РеД*7. 1.5.2. Если п = dim V < °°, et, ..., е„ и o)i, ..., о)„ — двойствен- двойственные базисы в V и ДХУ, X еЛ(/г, р) и цеЛ(п, д), то из опреде-
§ 1.5. ВНУТРЕННИЕ УМНОЖЕНИЯ 33 ляющих условий немедленно получаем следующие значения внутренних произведений е*.J о)„ и е^ •- м*: Если im К <? im \i, то ек J ©^ = 0 и вц L ©j. = 0. Если im % <= im ц, то где v ^ A(n, q — р), im X U im v = im \i, и Ж = числу пар (i, j)e im X X im v с ? < /, iV = числу пар (i, ;)eimAXimv с i > /. Отметим, что М + N = p(q — ^). В частности, когда ц — тождественное отображение множества A, ..., п), находим, что правое внутреннее умножение на ©„ и ле- левое внутреннее умножение на е„ порождают линейные изоморфизмы Кроме того, изоморфизмы Dp и D"~p взаимно обратны. Заметим, что эти изоморфизмы зависят только от выбора двойственных базисных векторов бц и (Оц в ДП7 и Д"К Из заключительных равенств п. 1.5.1 вытекает, что при г + s s? n 1.5.3. ?слц DefnaeA1^ где <v, а> = 1, то Ф = f J (фЛ«) + (у J ф)ла «рм феД'У, у" ^ 1. Это равенство легко проверить, взяв ф = Р Л a + if, где |5 е s Д j-i 7, гE е Дj F, у -1 р = 0, i; -11|з = 0. Из него вытекает, что Ф л a = 0 тогда м только тогда, когда ф = C д а для некоторого (ЗеД^У, f —' Ф == 0 тогда м только тогда, когда ф = г; -1 ^ для некоторого ye /\i+1Vx и /\*V разлагается в прямую сумму Д^ = {Рла: РеДЬ17}0{г; JY: уеДтП- Отметим также двойственное равенство: l = (yA|)L a + vf\&\_a) для |еД3-7. 3 Г. Фсдерер
34 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА § 1.6. Простые т -векторы 1.6.1. Элемент пространства 1\тУ называется простым (или разложимым), если он равен внешнему произведению т элементов пространства V. Мы увидим, что имеется тесная связь между про- простыми m-векторами и m-мернымп векторными подпространствами пространства V. С каждым | е /\mV ассоциируется векторное подпространство T = Vf]{v: |Л^=0}. Предполагая, что ? Ф- 0, докажем, что k = dim T ^ m и для любых базисных векторов ei7 ..., ek подпространства Т существует такой &'<= /\m-hV, что I = ех Л • •. Л eh Л V ¦ Заметим, что достаточно доказать это утверждение в случае п = = dim У < оо. Выберем eh+i, ..., е„ е V так, чтобы еи ..., е„ обра- образовали базис в V. Разложив и умножив на е( (i^k), находим, что 1* = 0, если X таково, что i ^ im К, так как произведения е\ Л еи соответствующие таким К, что i & im Я, линейно независимы. Получаем следующие четыре следствия. Ненулевой т-вектор | является простым тогда и только тогда, когда ассоциированное с ним подпространство Т имеет размерность тп\ в этом случае \ равен внешнему произведению подходящим об- образом выбранных m базисных векторов подпространства Т. Два подпространства, ассоциированные с ненулевыми простыми пг-векторами ? и г\ соответственно, совпадают тогда и только тогда, когда | = сц для некоторого ненулевого ceR. Если \ — ненулевой простой m-вектор и ц — ненулевой простой п-вектор, то | Л 11 ф 0 тогда и только тогда, когда подпространство, ассоциированное с | Л Ц, является прямой суммой ассоциированных с | и т] подпространств. Подпространство, ассоциированное с ненулевым простым т-век- тором %, содержится в подпространстве, ассоциированном с ненуле- ненулевым простым п-вектором ц, тогда и только тогда, когда Г] = ? л? для некоторого ?е /\n-mV. 1.6.2. Вышеуказанное соответствие отображает множество всех ненулевых простых тп-векторов над V на грассманово многообразие G(V, в») всех m-мерных подпространств пространства V. Поливекторы Inn эквивалентны относительно этого отображения тогда и только тог- тогда, когда | = сц для некоторого ненулевого действительного с.
§ 1.6. ПРОСТЫЕ го-ВЕКТОРЫ 35 Рассмотрим также следующее сравнительно более тонкое отно- отношение эквивалентности на множестве всех ненулевых простых т- векторов над V: | и ц эквивалентны тогда и только тогда, когда § = сц для некоторого положительного числа с. Получающиеся при утом классы эквивалентности подпространств называются ориенти- ориентированными тга-мерными подпространствами пространства V, и соот- соответствующее многообразие обозначается Go (У, т). Далее, для краткости полагаем G(R", m)=G(n, m), G0(Rn, m)=Ga(n, m). 1.6.3. Элемент пространства f\mV называется простым (или разложимым), если он равен кососимметрическому произведению т элементов пространства Л1^- В случае п = dim V < °о изоморфизм A.4.4) Q: /\*A*V показывает, что простые иг-ковекторы ведут себя аналогично про- простым m-векторам; в частности, для ненулевого Ф е J\mV ассоции- ассоциированное с ним подпространство имеет размерность ^т, причем равенство имеет место тогда и только тогда, когда m-ковектор ф является простым. Кроме того, изоморфизмы Dp и Dp, определенные в 1.5.2, переводят простые элементы в простые. Если Т — подпространство, ассоциированное с ненулевым про- простым р-вектором |, то подпространство, ассоциированное с простым (п—р)-ковектором Dj,(|), совпадает с {а: (v, сс> = 0 для всех uef}, т. е. с аннулятором подпространства Т. Утверждение очевидно, потому что Dp (в1 Л ... Л ер) = (- ifn-p) шр+1 Л ... Л «п. Так как аннулятор пересечения двух подпространств равен вектор- векторной сумме их аннуляторов, то получаем следующее следствие. Если Т и U — подпространства, ассоциированные с ненулевыми простыми р- и r-векторами | и ц, то dim (Г П U) = р + г — п тогда и только тогда, когда Dp (?) л Dr (ц) ф 0. Если эти условия выполнены, то подпространство Т П D ассоции- рованно с D2n-p-r[Dp(?)ADr(ii)]. я*
36 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА 1.6.4. Принимая во внимание отношения двойственности между простыми m-векторами и простыми m-ковекторами, докажем сле- следующее утверждение. Если е„ ...,епе7, | = е1Л...Лет=И=Ои аи ..., ат е Д1 У» то <?, агл ... Aam> = det{/), где / — такой эндоморфизм ассоциированного с | подпространства, что В силу естественности произведения < , > можно предположить, что et, ..., em образуют базис в У, и выбрать OjE Л1^ так, чтобы <6j, o)j> = 1 и <е{, @j> = 0 при j Ф i. Тогда (Л* /)©j = «j> поэтому ахЛ ... Л am = (A*/)(MiA ...Л«)т) = det (/)((«! л ... Л©т), <1, ах л ... Л ат> = det (/) &, щ Л ... Л ац„> = det (/). 1.6.5. Вспомним теперь 1.5.2 и рассмотрим линейные отобра- отображения P-.V-+VXV, Q:V^VXV, g:V-+VXV, f-.VXV^V, Р(х) = (х,0), Q(x) = @,x), g(x) = (x,x), f(x,y) = x-y для x, у s V. Если Js Aft^ и ie Лг^> где /с + Z S* ra, T0 «6, Л*^>Л<Л, A Заметим, что при переходе к другим двойственным базисам обе части этого равенства умножаются на определитель соответствующего автоморфизма пространства V. Докажем равенство в случае, когда 1 и т] — простые поливекторы, такие, что D>t? Л D,r| Ф 0. Выберем ви ..., еп и ©1, ..., ©„ так, чтобы \ = ех Л ... Л eh, т] = en_j+i Л ... Л еп, и получим = {ег Л . •. Л eft) L <ох Л ... Л ©п-г = ?n-j+i Л ... Л ek. Положим также ^ = 2~'(е3-, —ej) и bj = (ej, ел) и заметим, что р{е1)к(}(е-) = а}\Ь; для / 6= {!,..., п}.
g 1.6. ПРОСТЫВ m-ВЕКТОРЫ 37 Следовательно, для всех ср е Дь+г-« (У X V) <Р(ех) Л ... AP(ek)/\Q{en-i+i)/\ ... hQ(en), К»/) Л ... ... Л (ю„ о /) Л ф> = — <^ («i) Л ••• Л Р (en-i) Л Яп-z+i Л ... Л ак Л Ь„_г+1 Л ... Л bk л Л <?(eft+1) Л ... Л <?(е„), К о /) Л ... Л (©„ • /) Л Ф> = 1.6.6. Предполагая, что 7 и W7 —векторные пространства над полем С комплексных чисел, определим как подмножество пространства Дт(У, W)» состоящее из тех форм Ф, для которых ф(иь . . ., Vj-j, CWj, yi+1, . . ., Ут)= Сф(У1, . . ., Vm) при ;" s {1, ..., m), с е С, и fi, ..., vm e У. Положим также Ясно, что Дс(У, С) является С-подалгеброй алгебры /\*(V, С). Комплексное сопряжение является автоморфизмом на Л*(^> С). Каждому а е Дт (V, С) соответствуют такие с, т е Дт (F, R), что а = о + ix, а = о — ir, поэтому ала = оло + гдт для четного тга, а д а = — 2ia Л t для нечетного т. Если Ei, ..., е„ и «1, ..., ап — двойственные С-базисы в У и Л с (V, С) и если щ = о, + ix,-, где ah r, e Д1 (У, R), то ei, ieb ..., en, ien и аи т4, ..., о„, т„ являются двойственными R-базисами в У и Д1(У, R)- Кроме того, произведения «МО Л ... Л aWp) Л ацA) Л ... Л ац(д), соответствующие всем А,^Л(га, р), цеЛ(га, д), где p + q = m, об- образуют С-базис в Дт(У, С), а произведения, соответствующие Р = т, q = 0, образуют С-базис в Дс'(У, С). Отметим также, что 01 Л Ti л ... Л о„ Л тп = (i/2)n gcj л oci Л ... Л а„ Л ап = = (i/2O1 (- l)^"-1)/2 ах Л •.. Л а„ Л ах Л ... Л а». / — произвольный С-линейный эндоморфизм пространст- пространства V, то det(/)S*O.
38 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА Для доказательства выберем базисы так же, как выше, и заме- заметим, что (ссх ° /) л • • • Л (осп ° /) = йос! л ... Аап для некоторого комплексного d (С-определителя эндоморфизма /). Отсюда (ах о /) д ... Л (а„ о /) = 5ах л ... Л ап, (Л2П/) (°i Л Tj л ... Л а„ Л т„) = ddai л тх л ... Л а» Л т„ и det(/) = d<i = ldl2^0. Ненулевой простой тга-вектор ?= Дт F называется комплекс- комплексным, если R-векторное подпространство пространства V ассоцииро- ассоциированное с | является С-векторным подпространством пространства V. Отсюда следует, что % — комплексный m-вектор тогда и только тог- тогда, когда т четное, скажем т = 2р, и I = rvx Л \vx Л ... Л vp Л ivp для некоторого гейи^, ..., 1?р^7. Кроме того, sign (г) однознач- однозначно определяется по |, так как для двух произвольных С-базисов i'i, . ¦., vp и Wi, ..., wp векторного пространства, ассоциированного с ?> существует С-линейный автоморфизм g этого пространства, отображающий vs в ivh поэтому w1a'iw1a ... mvpa \wp = det (g) v± /\ iv± A ... Л vp A ivp, и det (g) > 0 согласно предыдущему абзацу. Если г > 0, то т-вектор | называется положительным. § 1.7. Скалярные произведения 1.7.1. Напомним, что между билинейными функциями В: FXy->R и линейными отображениями Р: V-*/\lV существует взаимно однозначное соответствие, задаваемое формулой для x,y^V. Билинейная функция В называется симметрической, если В(х, у) = = В(г/, х) для всех х, у е V. В этом случае соответствующее линей- линейное отображение (} называется полярным отображением. Скалярным произведением называется симметрическая билиней- билинейная функция В, удовлетворяющая условию В(х, х)> 0 тогда и только тогда, когда 0?= х ^ V. Рассматривая векторное пространство V с фиксированным ска- скалярным произведением, мы будем писать х • у вместо В(х, у) и
§ 1.7. СКАЛЯРНЫЕ ПРОИЗВЕДЕНИЯ 39 определим норму \х\ = (х-х)и\ Например, в Rm скалярное произведение можно задать следующим образом: п X - У = 2 ЩУг ДЛЯ X = (хх, ..., Хп), у = (j/1% . .., уп) <= R". i=l Предполагая далее, что • означает скалярное произведение в V, из соотношения f(x - х)+ 2t(x • у) + (у - y) = (tx + y)-{tx + у)> О при (eR получаем следующие неравенства: х-у ^\х\ • \у\, и значит, \х + у\ < Ы + \у\ для любых ж, je7, Если х и г/ линейно независимы, то оба не- неравенства строгие. Последовательность vu .,., vP, удовлетворяющая условиям Vt • Vi = 1 и Vi • Vj = 0 для i Ф /, называется ортонормированной по- последовательностью. Для каждой линейно независимой последова- последовательности iii, ..., UpsF существует ортонормированная последова- последовательность Vi, ..., vp такая, что для к = 1, ..., р множества Ыи ..., ик) и {Vi, ..., vh) порождают одно и то же векторное под- подпространство пространства V. Следовательно, в случае dim V < °° в V имеется ортонормированный базис. Введем в V метрику, полагая расстояние между х и у равным \х — г/|. Относительно этой метрики пространство V ограниченно компактно тогда и только тогда, когда dim V < °°. 1.7.2. Пусть V, V — векторные пространства со скалярными произведениями (обозначаемыми •). Линейное отображение /: V -*¦ -*¦ V называется ортогональной инъекцией пространства V в V, если f(x)-f(y) — x-y для всех х, y^V. Множество всех ортого- ортогональных инъекций Rm в R" будем обозначать О(п, т). В частности, O(n)=O(», n)—ортогональная группа простран- пространства R". В случае dim V < °° полярное отображение, соответствующее скалярному произведению пространства V, является линейным изо- изоморфизмом V на Л1^- Мы наделяем Л1^7 скалярным произведе- произведением, относительно которого полярное отображение становится ортогональной инъекцией. Соответствующие нормы в V и Л * ^ двойственны в том смысле, что loci = sup {<х, а>: х е= V, \х\ «? 1}
40 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА для любого а е Д1^- Более того, полярное отображение переводит каждый ортонормированный базис пространства V в двойственный базис пространства Л1^- 1.7.3. Для каждой симметрической билинейной функции S: V X V -> R, где dim V < °°, существует такой ортонормированный базис 6i, ..., е„ пространства V, что S(ei,ei)>S(e1,ei) и 5(е„ ej)=0 для «</. Применяя индукцию, выберем et в компактном множестве С* = {х: \х\ = 1, ж • еА = 0 при к < п таким образом, чтобы S(et, et)>S(x, x) для x^d. Для i<; из того, что для любого (sR, вытекает равенство S(et, е^) == 0. Эндоморфизм / пространства V называется симметрическим, если f(x) • у = х • f(y) для х, у е У, коеосимметрическим, если f(x)- у = —х- f(y) для я, jeF, Каждый симметрический или кососимметрический эндоморфизм / ортогонально приводим в следующем смысле. ?сли PF — подпрост- подпространство пространства V с ортогональным дополнением W — V П {х: х-у = 0 для всех у e W), то f(W)aW влечет f(W')<^W. В случае dim V < °° отсюда сле- следует, что V представляется в виде прямой суммы конечного числа взаимно ортогональных подпространств W, которые минимальны относительно свойства f(W)cz W. Если f — симметрический эндоморфизм, то эти минимальные подпространства одномерны. Поставим в соответствие эндоморфиз- эндоморфизму / такую симметрическую билинейную функцию S, что S{x, y) = = ]{х)'У Для х, у <= V, и получим ортонормированный базис е,, ... ..., е„ в V такой, что f(et)'ej = O для i?=j, откуда j{ei)=lkiet для некоторого h ^ R. Если / — кососимметрический эндоморфизм, то размерность ми- минимальных подпространств ^2. Действительно, f = / ° / — симмет- симметрический эндоморфизм, и из равенства f (е() = Я.(е4 вытекает, что / отображает подпространство, порожденное е( и /(е() в себя. В ка- качестве следствия получаем следующее представление кососиммет- рических 2чрорм. Если фе Л2^> dim F < °°, то существуют ортонормированная последовательность (Oi, Юг, .. ., fthm-i, ®2m^- Л1^' и последователь- последовательность неотрицательных чисел Xi, ..., Km такие, что m ф = 2 ^jfi>2j-i л Щ]. i
§ 1.7. СКАЛЯРНЫЕ ПРОИЗВЕДЕНИЯ 41 Случай dim V ^ 2 тривиален. Для доказательства общего случая рассмотрим кососимметрический эндоморфизм / пространства V та- такой, что /(#)• у = <р(ж, у) для х, у е F. Разложим F в прямую сум- сумму таких взаимно ортогональных подпространств W,, ..., W., что f(Wj)<=Wj, dim Wj ^ 2, и заметим, что ср(я, 2/)=0 для любых я е Ws, у е ТУ», у ?= Л. Ясли /: V' -»- F' — линейное отображение, где V, V — простран- пространства со скалярными произведениями, dim F < °°, то в F имеется ортонормированный базис eif ..., е„ такой, что /(е<)* /(ej) = 0 Зля i # /. 5 случае dim F < dim F' существуют симметрический эндо- эндоморфизм g пространства V и ортогональная инЪекция h: V -*¦ V такие, что h ° g = /. Выбирая е,-, соответствующие такой симметрической билинейной функции iS, что S(x, y)= f(x)* f(y) для х, у е F, положим g(e,)= l/(e,)| -е{ для всех г, и выберем Л следующим образом: если ej^ker/, то Л(е,)= 1/(е<) h в то время как ядро ker/ отображается инъекцией h ортогонально в ортогональное дополнение подпространства im / в V. Аналогич- Аналогично, в случае dim V ~2* dim V существуют симметрический эндомор- эндоморфизм к пространства V и (см. 1.7.4) ортогональная проекция р: V -*¦ V такие, что k ° p = f. Это предложение можно доказать применением предыдущего утверждения к /*. 1.7.4. Предположим теперь, что F и V — конечномерные век- векторные пространства со скалярными произведениями и соответству- соответствующими полярными отображениями ? и ?'. Каждому линейному отображению /: V' -+V поставим в соответствие сопряженное ли- линейное отображение /*: V -*¦ V при помощи коммутативной диа- диаграммы или, что эквивалентно, посредством условия *•/*(»)¦=/(«)•» Для * в V, у в V. Если отображение у: V' -*¦ V" также линейно, то (g'f)*1
42 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА ¦ Еслп V = V, то / — симметрический эндоморфизм тогда и толь- только тогда, когда /* = /; / — кососимметрический эндоморфизм тогда и только тогда, когда /* = —/. Всегда /** = /. Кроме того, эндоморфизмы /* ° /, / ° /* на V, V симметрические. Заметим, что / — ортогональная инъекция тогда и только тогда, когда /* ° / = If. Если / — ортогональная инъекция, то /* называ- называется ортогональной проекцией. Следовательно, линейное отображе- отображение g: V" -*¦ V является ортогональной проекцией тогда и только тогда, когда g ° g* = ir. Мы будем часто рассматривать множество О*(и, т) ={'/*: /еО(й,и)} всех ортогональных проекций R" на Rm. В частности, каждому А,еЛ(п, т) соответствует такое отображение р*еО*(и, ш), что Рх(ж) = (жМ1), ..., хНт)) для x=(xit ..., l»)eR". Если W — произвольное тге-мерное векторное подпространство пространства Rn, h: W -»- R" — вложение, то Лт h — эпиморфизм. Следовательно, (ДтК)со^,Ф0 для некоторого К^А(п, т), где (о,, ..., й)„ — стандартный базис в A1Rn. Так как ю* порождает im Дт ря,, то Д т (ря. ° й) Ф 0, р^ <> й — изоморфизм, поэтому ТУ nicerp,= {0}. Если /: V -»- И^ь |Г: F -*¦ И^г — ортогональные проекции, и JFj — такое пространство со скалярным произведением, что dim Wi + dim W2 — dim V > dim ТУ,, то существуют такие ортогональные проекции р: Wt -»- ТУ8, g: W2-+- ¦^ VK3, что Р ° f= Q ° g. Действительно, так как dim (im /* П im у*) 5* !Э» dim ТУ3, то существуют такие ортогональные инъекции и: Wt -*¦ *+¦ Wu v: W3-+ W2, что /*° u = g*° v, и можно взять p = u*, q = у*. 1.7.5. Теперь рассмотрим метод, который по скалярному про- произведению в пространстве V позволяет строить скалярные произве- произведения в пространствах f\mV- Полярное отображение (J: V-*- Д*У может быть единственным образом продолжено до сохраняющего единицу гомоморфизма ал- алгебр у: Д*^->- /\*V, который является прямой суммой линейных отображений Композиции "fm с изоморфизмами Дт У~Дх(Дт F) дают линейные отображения К- AmV-+AHAmV), удовлетворяющие условию «, Pm(T|)>=-<T|,Pm(S)>
§ 1.7. СКАЛЯРНЫЕ ПРОИЗВЕДЕНИЯ 43 Достаточно проверить это условие для простых | и т|, скажем l = vtA ... hvm и r\ = w1/\ ... A wm. В этом случае формула перестановок для кососимметрических про- произведений 1-форм A.4.2) дает <Ъ, К (Т1)> = <^ А . . . A Vm, Р К) Л ... Л Р (U>m)> = т т = 2 index (о) П "ою-Щ = 2 index (а-1) Д vi'wo-4j) = о i=l о j=l = <ЮХ Л . . - Л Ют, Р Ы Л ... Л Р (»т)> = <Л, Рт F)>- Таким образом, ^т — полярное отображение, и можно определить симметрическую билинейную функцию • наЛт^ХЛ™^ следую- следующим образом: ?-*1 = <?, Pm(T|)> Мы скоро увидим, что | • | > 0, если | Ф 0, т. е.- • действительно является скалярным произведением на AmV. Вышеуказанная формула перестановок показывает, что если не- некоторое Wi ортогонально ко всем гл,, то (ух Л ... Л vm) • (wt Л ... . • • Л wm) = 0. Произвольные vu ..., ym e F можно представить в виде v{ = = Ui + Wj, где щ принадлежит подпространству, порожденному {vk: к < ?}, а м>« ортогонально этому подпространству. Тогда vx а ... Л vm = w1 A ... Л u>m и из формулы перестановок вытекает, что т т (vtA ... Avm)-{v1A ... Az;m) = Ц vx • тг < П^ • vu i=l i=\ причем равенство имеет место тогда и только тогда, когда vu ..., vm взаимно ортогональны. Следовательно, если еи ..., еп образуют ортонормированный ба- базис в V, то последовательность базисных векторов е% из ЛmV,соот- ЛmV,соответствующих А,еЛ(п, т), также ортонормирование. Для любых m-векторов | и Ti представления 2 и билинейность произведения • приводят к формуле 6-4= 2 2 Л( В случае 1 = ц Ф 0 получаем
44 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА Теперь легко оценить норму внешнего произведения р-вектора % и «/-вектора х\. Если хоть один из поливекторов | или ц является простым, то |<ШЫ Если | и 1] — простые и ненулевые, то равенство имеет место тогда и только тогда, когда подпространства, ассоциированные с ? и т), ортогональны. Всегда Для доказательства последнего неравенства представим ? и т] в виде 6= 2 6*А> Л= 2 () HSA(n,9) где |», % е R, положим 5 (v) = {(Я,, jx): ХеЛ(га,.р), jxeEA(n, g), exAew = для v s Л(тг, р + q) и заметим, что < 2 ( 2 |5хЧц|У< 2 card 5 (v) XSA(n.p) |iSA(n,g) Отображения р, ут, pm, встречающиеся в предыдущем построении, связаны коммутативной диаграммой В случае dim V < °° отображения (Jm и Ym являются ллнейными изоморфизмами, и мы наделяем Дх Л m ^ и Д m V скалярным произ- произведением, относительно которого (im и fm ортогональны. Если et, .... ..., е„ и ©1, ..., соп — двойственные ортогональные базисы в V и Л1 У, то Чт(А)= он для Я, ^ Л(и, т). К тому же |<S, ф>К161-|ф| при любых ?e=Ar»F; ФеЛт^ причем равенство имеет место тогда и только тогда, когда Чт(|) и ф линейно зависимы.
§ 1.7. СКАЛЯРНЫЕ ПРОИЗВЕДЕНИЯ 45 1.7.6. Пусть /: V -*¦ V — линейное отображение, где V и V — конечномерные пространства со скалярными произведениями. Из коммутативной диаграммы ~ h'"V Amf л'л„,/ вытекает, что Amf* = ( Amf)*- В случае F«=F' имеем det(/*)= det(/) и tr(/*)= tr(/). Если / — симметрический эндоморфизм, то Д»»/ — симметрический эндо- эндоморфизм. Если / — кососимметрический эндоморфизм, то (Л">/)* = = (—1)т Amf- Если отображение / ортогонально, то и Am/ орто- ортогонально, откуда det(/J = 1. Вообще, если /—ортогональная инъекция, то и Amf—ортого- Amf—ортогональная инъекция, если / — ортогональная проекция, то vi Amf — ортогональная проекция. Норма отображения / определяется по формуле т. !1/П = sup Отсюда следует, что |1/|| = ||/*|| = || Л1/! и !1Лт/!! = ||Лт/*|| = ||Лт/!!<[|/1Г" Для всех Для доказательства выберем ортонормированный базис d, ..., еп в V талой, что /(е.)-/(е,)= 0 для 1Ф]. Тогда m-векторы (Am/)e^,, соответствующие ^А(в, т), взаимно ортогональны, поэтому для AV ||2m Если 7» = dim V, то \\ Л m /1| = \(Amf)l\ для каждого g е Д г» ^, J|| = l; поэтому ||Лт/|>0 тогда и только тогда, когда / — моно- мономорфизм. Если 7» = dimF', то I Am/|| =l(Am/)ф| Для каждого феД*"^'. ^ Ф | = 1; поэтому ||Дт/1>0 тогда и только тогда, когда / — эпи- эпиморфизм. Если V= V и т = dim V, то 1 Д т /II = | det (/) |. 1.7.7. Если | е Am R™ и | — простой тге-вектор, то |: gs=O*(n,m)}. Действительно, если g^O*(n, т), то \Amg\\= 1»откуда|(Дm|rI1< ^|g|. Для 1=^0 можно выбрать /еО(п, т) так, чтобы im/ сов-
46 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА падало с подпространством Т, ассоциированным с |. Отсюда сле- следует, что / • /*!Т = 1Т ,и (Лт/"Лт/*N = ?. Так как || Лm/II = U |(ЛЛ61т Аналогично, если (ре ДтИп и <р — простой m-ковектор, то 1.7.8. Пусть « = dimy<oo ъ Е ^ /\nV, \Е\ = 1. Определим линейные отображения •: f\PV-+An-PV, *t = El_yp(t) для ?<=Лр^ *: /\*V-+/\n~PV, *ф = 7п-Р(?Цр) для ф Эти отображения равны Dp ° ^р и ^n_p » Dp, где D* определяется как в 1.5.2 с е» = Е, ц=A, ..., п). Используя обозначения п. 1.5.2, по- получаем, что *ех=(—l)wev и *ш^ = (—l)w(flv, *ev = (_l)^ и *(ov = (-1)^0),, Отсюда следует, что • »Б = <- 1)р(п-рЧ, Ел• л = (Е-л)еA «), **Ф = (— 1)Р<"~Р)ф, ФЛ *г|5 = (ф-г|5)соA „), <* 6, * Ф> = <6, Ф), <6, * Ф> =(-1)"('-'')<* 1, Ф> для любых |, Tje ДРУ и ф, f 1.7.9. Если V и W — пространства со скалярными произведе- произведениями, то в пространстве V ® W скалярное произведение может быть задано следующим образом: (у® u>)-(z/® w') = (v -у') (w w') для uiy'ey, ш, ^'.sPT. Ясно, что это равенство определяет единственную симметрическую билинейную функцию. Кроме того, если i>4, ..., р.еУ и Wi, ... ..., ws^W — ортонормированные последовательности, то векторы v{ ® u;j ортонорм-ированны. Таким образом, мы действительно опре- определили скалярное произведение. Предполагая, что dimV = n<°° и /, g^Hom(V, W), *а следо- следовательно, Г(/), F(g)e ^VqW в соответствии с 1.4.5, применим вышеуказанное определение, заменив Уна Л1^» ДДЯ вычисления Г(/)'Г(^). Выбирая в V и в Л1^ двойственные ортонормирован- ортонормированные базисы еи ..., е„ и (Oi, ..., со„, получаем [ 2 = 2 / (ед-g (е,) - 2 в,- (/• • g) ^ = tr [ 2 ш,® (/* . g) efl = tr (/* с g).
§ 1.7. СКАЛЯРНЫЕ ПРОИЗВЕДЕНИЯ 47 Заменяя /, g на f\mf, l\mg, находим, что для каждого натурального т. В частности, |Г(Лп/) - Г(Лп^I2 = det(/* ./) + det(g*°g)- 2det(/* Отметим неравенства Кроме того, если s я t — ортогональные автоморфизмы пространств V и W соответственно, то (f\1s)®t — ортогональный автомор- автоморфизм пространства f\}V®Wv отображающий Г(/) на T(t°f°s), а поэтому \T(f)\ = \T(t«fos)\. Далее для краткости будем писать Г(/)« Г(#) = /• g, |Г(/)| = I/I. 1.7.10. Если V — конечномерное пространство со скалярным произведением, определим дискриминант (discr) и след (tr) били- билинейной функции В: V X V -*¦ R, полагая discr(?) = det(/), tr(i5) = tr(/), где / — линейный эндоморфизм пространства V такой, что f{x)-y = B{x, у) для всех х, у е= V. 1.7.11. Пусть n = dim У<«=1 яеДкГ, t ^ f\mV, Х = к +т — — /г^О, оит — простые поливекторы, |о| = 1 = |т|, S и Г — под- подпространства пространства V, ассоциированные с о и т. Рассмотрим следующее линейное отображение: f:SXT-+V, f(x,y) = x-y для (*, y)^SXT. Докажем, что (см. 1.7.8) Для этого выберем: двойственные ортонормированные базисы еи ..., еп и «i, ..., со„ в V и в Л1 ^ такие, что efeS для ? ^ к; двойственные ортонормированные базисы е[, ...,еп и щ, ...,соп в V и в ЛгV такие, что е;ЕГ для i^sn — т. Так как dim(S0T)>X, то можно также потребовать, чтобы €{ = е{) и, следовательно, щ = «j при п — m<i^ к. Используя ортонормированный базис в S X Т, состоящий из векторов 2-1/2(е<, е,) и 2~1/2(е,, — е.) при п — m < i s? к, (еи 0) при г'^тг —т, (О, <^) при i>fc,
48 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА и учитывая, что (е(, е<)<^кег/ для п — то < i < &, получаем 1Лп/| = Лт(^О)Л Л 2-1/2(еи-е1)А Л @,е;) =1 i=n-m+l i=ft+l = 2V21 ex Л ... Л ек Л бй+1 л ... Л e'n\ = = 2V21 <ex Л ... Л eh Л e'k+1 л ... Л en, щ л ... Л ю„> | = = 2Х/21 (e'h+1 л ... Л е'п, сой+1 Л . ¦ • Л ©„> | = = 2V21 <ei Л .. . Л е'п, и! Л ... Л % A'coft+i Л ... Л ©п> | = = 2*"/21 со{ л ... Л % Л Щ+1 Л • • • Л ип | = = 2%/21 со! л . •. Л co'n_m Л coft+1 Л . • • Л со„ | = 2W2) (* т) Л (* а) |. 1.7.12. Если / — эндоморфизм конечномерного пространства со скалярным произведением, то tr[A2(/+/*)l = 2(tr/)*-tr (/о/)- Для проверки первой формулы разложим обе части равенства det(l + */)det(l — i/) = det(l - **/•/) по степеням t, используя 1.4.5, и сравним коэффициенты при f. Вторая формула получается применением первой к / + /*. 1.7.13. Здесь мы предполагаем, что V — гильбертово простран- пространство, т. е. V — пространство со скалярным произведением, полное относительно метрики \х — у\=[(х — у)-(х — у)]1/г при ж, ye=F. Если а е V, С — непустое замкнутое выпуклое множество в про- пространстве V и расстояние от а до С определяется как d = dist(a, C)=inf (la — x\: x^C), то существует единственное с^С такое, что d= \а — с\. Для доказательства рассмотрим при любом 0 < е е R непустое замкнутое множество С, = СП{х: \х - а\г ^ d2 + г*) и заметим, что если х, у е= С„ то (х + у)/2 е С и d1 + e2>(\x-a\*+ |г/-а|2)/2 = = (\х + у- 2а|2 +\х — г/|2)/4 > d2 + {\x - г/1/2J, откуда \х — у\ <2е. Таким образом, diamCesS2e. Так как С» <= С, для 0 < 6 < е, то П {Се: е > 0} состоит яз единственной точки с^С.
§ 1.8. МАССА И КОМАССА 49 Кроме того, если С — векторное подпространство пространства V, то (а — с) • х = 0 для всех х <= С, так как с + tx ^ С для всех t e R, и выражение \а — (с + tx) I2 = la — с\2 — 2t(a — c)-x + f\x\2 принимает наименьшее значение при t = 0. Для каждого непрерывного линейного отображения /: V -*• R существует единственный u<=V такой, что f{v)= u-v для всех v е V. Действительно, если / Ф 0, возьмем a e V такой, что f(a)= lr применим предыдущее утверждение с С = ker /, положим и = \а — с\~г(а — с) и получим, что если » е F, то v — /(у) (а — с)еС, (а-с)-[w-/(i;) (а-с)]-0, и-у = /(*;). § 1.8. Масса и комасса 1.8.1. Рассмотрим конечномерное пространство V со скаляр- скалярным произведением и индуцированные двойственные скалярные произведения и нормы (обознача'емые • и I I) на пространствах тя-векторов и m-ковекторов (см. 1.7.5). Наряду с этими евклидовы- ми нормами I I будет использоваться еще одна пара двойственных норм (обозначаемых II II) на f\mV и f\mV. Они определяются сле- следующим образом. Для каждого <р €Е Д mF комассой тге-ковектора ф называется число- IФII = sup «6, ф>: I «= Д m VЛ - простой, \11 < 1}. Всегда Кроме того, |ф| = НфИ тогда и только тогда, когда ф — простой- т-ковектор. Для каждого %ев f\mV массой тге-вектора | называется число* Всегда Кроме того, 1|1 = Ир тогда и только тогда, когда | — простой т-вектор. Другое более прямое определение массы тге-вектора можно полу- получить, используя некоторые элементарные свойства выпуклых мно- множеств (см. [BF, с. 5, 9], [ВО, т. V, гл. II, § 1], [EG2, с. 23, 35]).. •4 Г. Федерер
5A ГЛ. 1. ГРАССМАНОВА АЛГЕБРА Так как /^mVca/^1/\mV, то множество С= AmVf] {6:Ш<1> является выпуклой оболочкой компактного связного множества 5= AmVft {l: ^-простой и |6|<1), так что С состоит цз всех конечных сумм вида N г=1 где li^S, с;>0, 2ci = l и t=i Отсюда вытекает, что Зля каждого % ев /\mV существуют такие простые тп-векторы |4, ..., |w, что Следовательно, 2 | Si 1: Si — простые и S = 2 Si • i=i i=i J Если Se ДР7 и Tie /\qV, то ||S Л пКШ ЕСЛИ ф SE Д Р V И "ф €Е Дq V, ТО 1 II Т " Y II ^5 ^ р если же хотя бы один из полвковекторов ф или if является про- простым, то ЦфЛ'ФКЦфИ'фЦ. Если /: V -*¦ V — линейное отображение конечномерных прост- пространств со скалярными произведениями, то 1.8.2. Предположим теперь, что V — векторное пространство над полем С комплексных чисел с эрмитовым произведением Н. Таким образом, Н: VXV-+C билинейно относительно R и удовлетворяет условиям H{v,iw)=iH(v,w), H(w, v) = H(v, w), H(v, v)>0, если v?=0,
§ 1.8. МАССА И КОМАССА 51 где v, !i»eF,i! = -i и черта над выражением означает комплекс- комплексное сопряжение. Представляя Н в виде Н = В + лА, где В и А — действительные функции, получаем, что В является скалярным произведением (далее обозначается •), а А — кососим- метрической 2-формой. Кроме того, \H(v, w) I ^ Ы • \w\ для v, »eF, причем равенство имеет место тогда и только тогда, когда v и w линейно зависимы над С. Это следует из неравенства \v-(cw)\ < «? \v] • \cw\, где с^С выбрано так, что Icj = 1 и H(v, cw)eR. Например, в Cv эрмитово произведение можно задать равенством V Н(у, w) = 2 v)wi Для yi w^ Cv. При каноническом изоморфизме Cv ^ R2v скалярному произведению- В соответствует стандартное скалярное произведение в R2v. Если Z1, ...,Zve Д1 (Cv, С) — обычные координатные функции на С", то Вычислим теперь комассу ц-й внешней степени А^(= /\2>lV, где dimc V, доказав следующее неравенство Виртннгера. Если ? е Л 2ц ^ и % — простой 2\1-вектор, то причем равенство имеет место тогда и только тогда, когда сущест- существуют такие Vi, ..., у„ е У, что ? = У! Л (i^i) Л ... Л ^ Л (ifn)- Следовательно, WA^W = \х\ Предположим, что 1|1 = 1. В случае ц = 1, положим | = Уд w, где v и w ортонормирован- ортонормировании. Тогда H(v, и>)=Ы(у, w), откуда <1, A>=A(v, w) = H(iv, w) = (iv)-w<l, причем равенство имеет место тогда и только тогда, когда iv = w. В случае \i > 1 рассмотрим 2|д,-мерное подпространство Т, ассо- ассоциированное с |, вложение /: Т -»¦ V, и 2-форму (f\2f)A^ /\2Т. Выберем затем двойственные ортонормированные базисы еи ..., е2ц и «!, ..., со2ц в Г и в /\гТ и такие неотрицательные числа Alt ..., А,йг что (Л2/)^= 2 ^Ы-1 Лco2j). 4*
52 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА Замечая, что Xj = A (e2,-i, еу) ^ 1 для каждого / и что | = еех д - .. Л е2д, где е = ±1, получаем (Л211/) А* = ц! К ... V>i Л ... Л со2(г, причем равенство имеет место тогда и только тогда, когда е = 1 и 1} = 1, т. е. когда ец = ie2j-i для каждого /. 1.8.3. По-видимому, мало что известно о структуре выпуклых множеств Представляет интерес вопрос о том, каковы их крайние точки. 1.8.4. Пусть V — пространство со скалярным произведением, ? и Т — его взаимно ортогональные подпространства, s: S -*- V и t: Т -*¦ V — вложения, |eimApS и ц е im f\qt. Тогда равенство имеет место, если либо |, либо г\ является простым поливектором. Если | — простой, выберем такую ортонормированную последова- последовательность со17 . •., соре ДХУ, что <1, cu! Л ... ЛИр> = ||Е|| и Гс=кегсо{ для i = I, ...,pt и, аналогично, выберем такой яре AqV> что И-фН = 1 и <т), г[)> = Ит]Н. В результате получаем, что где I©! Л • • • Л сор л гр||< 1, откуда |g л ^||>||Щ\-\\ц||. Лвт-opi/ неиз- неизвестно, всегда ли имеет место вышеуказанное равенство (если ли g, ни т] не являются простыми). § 1.9. Симметрическая алгебра над векторным пространством 1.9.1. Действуя по аналогии с 1.3, рассмотрим теперь в тен- тензорной алгебре <8>* V над произвольным векторным пространством двусторонний идеал S3F, порожденный элементами х ® у — у ® х е ®2F, соответствующими произвольным ж, I/ <= V. Фактор-алгебра 0* V = <g>* F/S9F •называется симметрической алгеброй над F. Ясно, что
1.8. СИММЕТРИЧЕСКАЯ АЛГЕБРА НАД V '".' 53 однородный идеал, следовательно, ©*F = © QmV, m=8 где в частности, ©0F = R и ©tF= F. Умножение в ©*F будет обозна- обозначаться символом ©. Следовательно, ©mF — векторное пространство, порожденное всеми произведениями у4 © ... © vm, соответствующи- соответствующими у,, ..., vm e F, и, как видно из определения S5F, симметрическое умножение ® коммутативно. Среди всех коммутативных ассоциативных градуированных ал- алгебр с единицей, у которых в прямой сумме слагаемое индекса 1 изоморфно V, симметрическая алгебра ©* V характеризуется (с точностью до изоморфизма) следующим свойством. Для каждой коммутативной ассоциативной градуированной ал- алгебры А с единичным элементом каждое линейное отображение пространства V в Ai может быть единственным образом продолже- продолжено до сохраняющего единицу гомоморфизма алгебры ©*F в А, отображающего QmV в Ат для каждого т. Отсюда следует, что каждое линейное отображение /: V -*¦ V может быть единственным образом продолжено до сохраняющего единицу гомоморфизма алгебр который является прямой суммой линейных отображений 1.9.2. Функтор ©# переводит прямые суммы векторных прост- пространств в коммутативные произведения алгебр: Если базис пространства V состоит из единственного элемен- элемента х, то базис QmV состоит из m-й симметрической степени хт = х © ... © х (т множителей). Следовательно, если базис пространства V состоит из в,, ..., е„, то базис 0 mV состоит из произведений соответствующих всем п-членным последовательностям а неотрица- неотрицательных целых чисел, удовлетворяющих условию п 2 « = 2 ai = m-
54 ГЛ. I. ГРАССМАНОВА АЛГЕБРА Обозначая множество всех таких последовательностей через В (и, т), заключаем, что dim Om V = card S (п, т) = ( 1. 1.9.3. Пусть к и т — натуральные числа. Для t~(tu ..., th)^Rh и v — (vi, ..., i>ft)e у* из обобщения на случай к слагаемых формулы бинома Ньютона (справедливого- в каждом коммутативном кольце) следует (*i»i + • • • + thvh)m/m[ = 2 taif4a\, ae5(ft,m) где у« = (У1)а1 ©... фк)*ь и «« = П №, «! = П («*!)• ' г=1 i=l Взяв /с = m и обозначив через Т множество всех функций, отоб- отображающих A, ..., тп) в {1, —1}, получаем формулу поляризации Vj=i Действительно, вышеуказанная сумма равна 2 as3(m,m) и член в квадратных скобках равен 0, если at = 0 для некоторого iT так как суммирование по Т инвариантно относительно перестанов- перестановки множества Т, отображающей t в (tu ..., tt-it —U, ti+i, ..., tm). 1.9.4. Диагональным отображением симметрической алгебры ©„.F называется сохраняющий единицу гомоморфизм алгебр Г: Q*V-*~Q*V®O%V (коммутативное произведение) такой, что T(u)=i7®l + l®u при v <= V. Для Vt, ..., vm e V вычислим произведение т 2 2 (УоA)©-.-©1;(Т(р))®(г;ст(р+1)©--.©Уст(т))- р=0 asSh(p,m—р) Следовательно, если еи •.., е„ — базис в V и a^Sfn, то), то \P
§ 1.10. СИММЕТРИЧЕСКИЕ И ПОЛИНОМИАЛЬНЫЕ ФУНКЦИИ 55 откуда т Г (е«/а!) =2 2 [еР/р!] в [еа-Р/(а — р)!]. Отметим (по аналогии с 1.3.3), что диагональное отображение Т симметрической алгебры O*V ассоциативно и коммутативно и яв- является естественным преобразованием. § 1.10. Симметрические формы и полиномиальные функции 1.10.1. m-линейная функция /, отображающая т-кратное декартово произведение Fm векторного пространства V в некоторое векторное пространство W, называется симметрической, если /(У<ГA), ..., l>o(m))=/(l>i, ..., Vm) для любых Vi, ..., vm e V и любой перестановки о множества {1, ..., гп). Обозначим через 0m(F, W) векторное пространство всех тге-линейных симметрических функций (форм), отображающих Vm в W. Существует линейный изоморфизм где соответствующие f^Qm(V,.W) и h<=Rom.(OmV, W) связаны соотношением f(Vi, . . ., Vm)=h{vl © . . . © Vm) В этом случае будем писать Кроме того, существует очевидный линейный изоморфизм Нош@тV, W) ~ Нот"»(QtVx W), где правая часть обозначает множество всех тех линейных отобра- отображений алгебры ©*F в W, которые равны 0 на QnV при пФпь. Положим по определению 0° (V, W)= W, ©*(F, W)= Ф Qm(V,W)f и далее для краткости . 0m(F, R) = ©mF, ©*(F, R) = 0*F. Каждое линейное отображение /: V -*¦ V порождает двойствен- двойственное линейное отображение ©*(/, W): ©*(F', W)-+Q*(V, W),
56 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА которое является прямой суммой линейных отображений ©m(/, W):Qm(V, W)-+Om(V, W), определяемых равенствами , Ф> Для l^QmV n фе0-(У, W). Для краткости положим ©*(/, R) = ©*/. 1.10.2. Пусть W — (неградуированная) алгебра над R. Исполь- Используя диагональное отображение Т симметрической алгебры ©*F (сравните с 1.4.2), превратим градуированное векторное простран- пространство 0 * (У, W) в градуированную алгебру симметрических форм над V с коэффициентами из W. Для Ф eHomi»@»F, W) и я1>е=Нот<г@*7, W) определим симметрическое произведение Ф©1]5еНотР+9@!(!У, W) как композицию отображений где отображение v соответствует умножению в W. Если алгебра W ассоциативна, или коммутативна, или имеет единичный элемент, то алгебра © * (V, W) обладает тем же свойст- свойством. Каждое индуцированное отображение ©*(/, W) является гомо- гомоморфизмом алгебр. Из формулы перестановок для Т вытекает, что (ф © ty) (vv . ¦., vp+q) = 2 p=Sh(p,g) при ф<=О"(у, W), \|)e0«(F, W) и у„ ..., ур+?е F. ?а/ш d, ..., е„ и ©1, ..., со,, — двойственные базисы в V и Hom(F, R) = ©'F, то произведения и» = (Ml)ai © ... © (^""е ©"¦ F, соответствующие всем а«=3(/г, /и), образуют базис в ©mF, двойст- двойственный к базису {еа/а\: ае2(п, то)} пространства ©mF. В определении симметрического произведения форм функцию vT соответствующую умножению в W, можно заменить произвольным билинейным отображением \х: Wt X TF2 -*¦ W3; тогда получим PF3) для ?e©"(F, Wt), i|:s0«(yt W»). 1.10.3. Действуя по аналогии с 1.5.1, определим для р «S внутренние умножения -^©„FXO'fF, TF)->0«-"(F, PF),
§ 1.10. СИММЕТРИЧЕСКИЕ И ПОЛИНОМИАЛЬНЫЕ ФУНКЦИИ 57 Если eh ..., е„ и coj, ..., ю„ — двойственные базисы в F и 0'F т если oeH(nj) и реЩп, {), то - a)! в случае a < $; в противном случае эти внутренние произведения .равны 0. 1.10.4. Отображение Р: V-*-W называется однородной полино- полиномиальной функцией степени т, если существует такая форма •<pe=0m(F, W), что ., Р(х) = <хт/т\, ф> для jeF, : ^ Формула поляризации A.9.3) показывает, что Р = 0 тогда и только тогда, когда <р = 0. Таким образом, О™ (У, W) линейно изоморфно векторному пространству всех однородных полиномиальных функ- функций степени тп, отображающих V в W. Вообще, отображение Р: V -+¦ W называется полиномиальной функцией, если существует целое М > 0 и такие формы фт s e0m(F, W), соответствующие m = 0, ..., М, что м Р{х)= 2 {xmlm\, фт> для же F. т=о Из этой формулы следует, что P(tx)= 2 fm<a;m/m!, фт> для ieF и JeR, m=o откуда Р = 0 тогда и только тогда, когда фт = 0 для m = 0, ..., Af. Таким образом, О*(У, W) линейно изоморфно векторному прост- пространству всех полиномиальных функций, отображающих V в W, ж можно определить степень полиномиальной функции degP = sup((m: фт#0} U {0}), а-де Р и ф0, ..., фм связаны вышеуказанным соотношением. Кроме того, если W — алгебра, то при предыдущем изоморфизме симметри- симметрическому умножению © соответствует поточечное умножение в функ- функциональном пространстве Wv, следовательно, алгебра ©*(F, W) изоморфна алгебре полиномиальных функций, отображающих V в W. Действительно, для фе0р(У, W) и t|)?0'(F, W) из формулы перестановок вытекает, что при х е у д)!, ф СЕ> -ф> = д)! = <х'/р\, ф> • (x"/ql, г|)>. Если Р и фо, ..., фм- связаны так же, как выше, то, используя формулу бинома Ньютона, получаем для х, v e= у формулу Тейлора Mm M P(x + v)= 2 2 <»*/*! ©^-'/(ю - О'. Ф-»> = 2 <»'Л"!, ^ (*)>, m=o i=o t=0
58 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА где м Si (х) = 2 хт-у(т— г)! J фм. Заметим, что St — полиномиальная функция, отображающая V в0'(У, W). В 3.1.11 эта полиномиальная функция отождествляется с г-м дифференциалом от Р. Отметим также, что м Si (х + v) = 2 vm-4{m -i)\jSm (x), так как для правой части этого равенства справедливо м м 2 vm-'^{m — i)\ J 2 x}-m/(j — m)\ J <pj = M j = 22 (^m-V(m — i)\ ®xi~ml{j — m)\ J ф, = j=i m=i M = 2 (v + xy-y(i - i)! J Ф; = Si {v + x). Для того чтобы выразить полиномиальную функцию Р при по- помощи базиса et, ..., еп пространства V, вспомним 1.9.3 и найдем, что / п \ М [ Shei = 2 при feR". 1.10.5. Действуя по аналогии с 1.7.5, можно использовать ска- скалярное произведение пространства V для построения скалярных произведений на пространствах QmV, продолжая соответствующее полярное отображение до гомоморфизма алгебры 0*^ в 0*F. Если еи ..., еп ортонормированы в V, то произведения (а!)~1/2еа, соответствующие всем аеН(/г, т) ортонормированы в ©тУ. Нор- Нормы, порожденные такими скалярными произведениями, удовлетво- удовлетворяют неравенству \vl®...®vm\<(m\y<*\vi\-...-\vm\ для vu ..., vm e= V. Пользуясь методом п. 1.8.1, можно построить и другие полез- полезные нормы. Так, если V и W — нормированные векторные прост- пространства и ф^©т(У, W), положим НфН = sup {!ф(У), ..., vm) I: vt e V л \vt\ < 1 для i = 1, ..., т). Ясно, что II (ai © ... © a,)J фН ^ |ail •... • \а}\ • НфН в случае j^m и«(, ,.., uj e V. Формула перестановок показывает, что
§ 1.10. СИММЕТРИЧЕСКИЕ И ПОЛИНОМИАЛЬНЫЕ ФУНКЦИИ 59 для <pe0p(F, W) и фе0'(У, W), если ТУ—такая нормирован- нормированная алгебра, что |и?>г|«?|и;|-1г| для w, z^W. Кроме того, 11ФМ1 = к\ llcpll* для ф е©ч(у, W), к = 1, 2, 3, ..., ¦если W ассоциативна и \wh\ = \w\h для w<=W. Положим также ll|ll=sup{<l, ф>: (peQ-F и llq>ll s? 1} для | е QmV. Легко проверить, что 11| © 4fl s? Bgll • IItjII для I^QpV, ц^едУ; Wxh\\ = \xlh для x s V, к = 1, 2, 3, ... Еслп е,, ..., е„ и ©4, ..., ю„ — двойственные базисные последова- последовательности в V и в 0'У и !е,1 = 11@,11 = 1 для i = 1, ..., п, то а! < || соа К B а)! и а!/Bа)! <||еа||< 1 для аЕЕ(п,т). Можно показать также, что 116" > 0 для 1 е 0mF \ {0}, и (срав- (сравните с 1.8.1), что И|11 равна точной нижней грани всех конечных сумм соответствующих таким vti s e V, что JV 'Если dim У < оо, можно взять УУ < dim QmV. Для каждой однородной полиномиальной функции Р: V -+¦ W стелени т положим HPII=sup{|P(a:)|: х е V, \х\ ^ 1>. Выбирая ф s 0m(F, W) так, чтобы Р(.г)= <хт/т\, ф> при же7, заметим, что те! ПРО *? ИфИ < тп№\, как следствие формулы поляризации. Если V — пространство со скалярным произведением, то т\ ПРИ = НфН, как показано в [HI]. Вспоминая 1.9.3, получим, что 2 | аеН(А,т) еслп Jivl < 1 при /=!,...,&.
60 ГЛ. 1. ГРАССМАНОВА АЛГЕБРА 1.10.6. Предполагая, что V и W — пространства со скалярным произведением и dim V = п < °°, введем сначала в QmV такое ска- скалярное произведение, что полярное отображение, описанное в на- начале п. 1.10.5, является ортогональным изоморфизмом, отобража- отображающим ОтУ на ©mF, а затем, используя метод п. 1.7.9, определим скалярное произведение в 0»(У, W)^[QmV]® W. Пусть теперь еи ..., е„ и со,, ..., со„ — двойственные ортонордш- рованные базисы в V и в ©*У, следовательно, а\~шеа и а!~1/г<за, соответствующие asS(n, т), образуют двойственные ортонорми- рованные базисы в©тУ и в QmV. Каждой фе0""(У, W) поставим в соответствие 2 /2еа, Ф> аеЗ(п,т) из [0mF] ® W и получим, что Обозначая через ^(п, т) множество всех функций, отображающих VI, ..., т) в {1, ..., и}, и замечая, что для каждого »еЕ(в, т) су- существует ровно ml/a! последовательностей, s^9*(n, m) таких, что a(/)= card {'i: s(i) = j) для 7^A, ..., т) получим формулу 2 ). Ф>|2- Отсюда следует, что 1<жт/т!, ф>| < т!-1/2Ыт1ф1 для Вспоминая 1.10.5, заключаем, что 11фН < ттт!-1/2|ф| и !Ф| ^ то!-1/
ГЛАВА 2 ОБЩАЯ ТЕОРИЯ МЕРЫ В этой главе излагается в основном та часть теории меры, которая справедлива на пространствах с относительно малой гео- геометрической структурой. Определение «меры», вводимое в § 2.1Г получено из понятия «внешней меры» Каратеодори путем отказа от аксиомы аддитивности меры на множествах, расстояние между которыми положительно. Соотношения между мерой и топологией обсуждаются в § 2.2 и § 2.3. В § 2.4 изучается интегрирование по Лебегу, под которым понимается интегрирование относительно произвольной меры. Некоторые меры, также носящие имя Лебега, рассматриваются в 2.5.17, 2.6.5, а также в 2.7.16 A), 2.10.7, 2.10.35. Связи между интегрированием д линейными операциями (вклю- (включая теорему Радона — Никодима) обсуждаются в § 2.5, сначала для произвольной решетки вещественнозначных функций, а затем для непрерывных функций на локально компактном пространстве. Теорема Фубини излагается в § 2.,6. Параграф 2.7 посвящен тео- теории инвариантных мер на однородных пространствах локально компактных групп. Метрическая структура начинает играть более важную роль в теории покрытия и дифференцирования (§ 2.8 и § 2.9), включающей некоторые современные версии теории диф- дифференцирования, восходящие к Витали и Лебегу. Наконец, в § 2.10 рассматривается предложенная Каратеодори конструкция мер, при помощи которой ему удалось распространить теорию меры на под- подмножества размерности меньшей, чем само пространство, и полу- получить, в частности, разумное понятие площади двумерной поверхно- поверхности в трехмерном евклидовом пространстве. В настоящей главе об- обсуждаются только те простейшие следствия конструкции Каратео- Каратеодори, которые непосредственно связаны с определением, а более сложные проблемы будут рассмотрены в главе 3. Большая часть материала этой главы классическая и изложена во многих прекрасных руководствах, например в [S 1], [L 3, гл. III, VI], [С 2], [W1, гл. 2], [ВО, т. VI], содержащих многочисленную библиографию по ранней истории предмета. Поэтому здесь, по- видимому, достаточно ограничиться перечислением используемых нами недавних или малоизвестных работ. При изложении п. 2.1.6 мы будем следовать [U]. Доказатель- Доказательство теоремы 2.2.2 заимствовано из [MR 2]. Часть теории суслин- ских множеств в 2.2,6—2.2.14 излагается по [KU, т. 1, гл. 3» изда-
62 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ ние третье], а некоторая часть является новой. В доказательстве теоремы 2.2.16 используются методы работ [MD] и [MS]. Идеи п. 2.5.11 и доказательство теоремы 2.7.14 принадлежат Халмошу [НА]. Содержание пп. 2.8.2—2.8.7 заимствовано из [М 2] и является важным улучшением подхода Банаха к теореме покрытия Вита- Витали. В 2.8.9—2.8.15 мы упрощаем и распространяем на более об- общие пространства теорему Безиковича [В 4] о шаровых покрыти- покрытиях в R"; обобщение этой теоремы, полученное в [М 3], совершенно отлично от нашего, хотя некоторые леммы аналогичны. Теорема 2.9.17 впервые доказана в [F4, § 6]; мы придерживаемся более про- простого изложения, предложенного в [МШ]. Материал пп. 2.9.22,2.9.23 восходит к [G], [Р 2], [А]. Мера Я была введена в [С 1], Жт и 9>т в [HF], $т в [GR 1, 2], Q™ в [MR 1] и [F4]. Мера У? была опре- определена в [FA] и иногда называется мерой Фавара, но первые тео- теоремы о ней были доказаны в [N 1, 2] и [F3, 4, 5]. Мера ^S впер- впервые появилась в [Ml] и [NE]. Мера 2Гт и меры Q™, 3? для 1 < <?<<» являются новыми. Плотности рассмотренного в 2.10.19 ти- типа впервые изучались в [В 1], а также в [SP 1]. Доказательства пп. 2.10.22, 2.10.23 принадлежат Дэвису [D 2, 1]. Теорема 2.10.25 доказана в частном случае в [Е], а в общем случае — в [F 10]. Конструкции, построенные в 2.10.28, 2.10.29, впервые предложены в [ВЕМ], [ВМ]. При доказательстве теоремы 2.10.31 мы следуем [НН 1]. Идеи работ [BL, с. 50], [НН 2], [ME 2] привели к тео- теоремам 2.10.32, 2.10.36, 2.10.38. Теорема 2.10.47 принадлежит Бе- зиковичу [В 8]. Изложение этой главы является замкнутым, не требует ника- никаких предварительных знаний по теории меры или по теории ин- интегрирования, а только предполагает некоторое знакомство с эле- элементами общей топологии. § 2.1. Меры и измеримые множества 2.1.1. Мы будем пользоваться расширенной системой дей- действительных чисел с очевидной упорядоченностью и алгебраическими операциями, оп- определенными таким образом, чтобы они были непрерывны относи- относительно топологии в R, порожденной упомянутым отношением по- порядка. Например, оо + оо = оо и ж-°° = °° для х > 0, однако вы- выражения оо — оо и 0 • °° не определены. Тем не менее в некоторых случаях удобно пользоваться спе- специальным соглашением, приписывающим значение 0 произведению О и <». Применение этого соглашения будет специально оговари- оговариваться.
§ 2.1. МЕРЫ И ИЗМЕРИМЫЕ МНОЖЕСТВА 65 Каждое множество 5 cr R имеет точную нижнюю грань inf S и точную верхнюю грань sup S. Если 5 не пусто, то inf 5 < sup 5; однако inf 0 = °°, a sup 0 = — °°. Будем писать rn t s при п t <» (rn\ s при га t °°) тогда и только- тогда, когда г„ — неубывающая (невозрастающая) последователь- последовательность с пределом s в R. Положим sign t = 1 для t>0, sign? = — 1 для КО и sign0 = 0, Для каждой функции / такой, что im / cr R, определим функ- цип /+ и /~ по формулам /+ (х) = sup {/ (х), 0} и /" (х) = -inf {/ (х), 0> для всех х. Тогда функции /+ и /~ неотрицательны, Положим_по определению (sign/) (ж) = sign/(ж) для всех ж. Для R-значной функции / с областью определения, содержа- содержащей А, определим числовые суммы 2/. обозначаемые также 2 /(#)» А х<=А в три этапа. Если А — конечное множество, то индукцией по числу элементов множества А легко проверить, что существует единствен- единственный оператор суммирования 2i действующий на неотрицательные А функции, такой, что 2 / = 0 и выполнены следующие два условия: A) Если uei, f(a)>0 и f(x)=O при х<=А, х^а, то 2/=/(«)• А B) Если }(х)>0 и g(x)>0 при х^А, то От конечных к произвольным множествам А переходим при помощи следующего определения: C) Если j{x) > 0 при х^А, то 2/ = sup/2/: ^ — конечное подмножество множества А\, а I в ' Наконец, условие неотрицательности функций снимается согла- соглашением D) 2/ = 2/2 А А А Отметим, что условия A) и B) справедливы для бесконечных множеств А и что оператор суммирования обладает следующими свойствами:
64 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ E) 2 / ^ R тогда ц только тогда, когда 2 /+ < °° А А 2 А А 2/eR тогда и только тогда, когда А А F) Ясли 0#ceR, mo 2с/ = с2/• А А G) Яслы 2/ + 2^еК, то 2(/ г) 2/ 2 А А А А А (8) Если j{x)^g(х) для ге^ и либо — оо<2 /» А <9) ?слм Ц/eR и h: A^-Y, то 2/= 2А2 /• A veYft-i(y) Ru Л = i/ X 7, А 2/= 2 2 f(u,v)= 2 2 f(u,v). A u=[/usv r=yc; A1) Если f: UXV-+U: 0 «?*<«>} «g: C/-^R, to 2 ?(")/(",*>)= 2 g(«) 2/(«,»), ()i/xv еУ v причем здесь используется соглашение 0 • °° = 0. A2) ii'e/m 2/^-^1 го множество АГ\{х: f(x)?=O} счетно. А A3) ?Тсли2/е^) ™ для каждой возрастающей последова- А тельности множеств Вп, объединение которых равно А, 2/-2/ пРи п-уоо. Вп А Заметим, что G) вытекает из B) и равенства которое справедливо, если не существует такого х^А, что /(ж) и g(x) противоположны по знаку и бесконечны. Свойство (8) сле- следует из G), так как либо g = f + {g — f), либо f = g + (f — g). Свойство (9) можно вывести из A) — D) и F), G). Применяя (9) к проекциям, получаем A0). Заменив /(и, v) на положитель- положительную и отрицательную части функции g(u)f(u, v), из A0) полу- получаем A1). Свойства A2) и A3) являются следствиями C) и D).
§ 2.1. МЕРЫ И ИЗМЕРИМЫЕ МНОЖЕСТВА 65 2.1.2. Для каждого класса X обозначим через 2х класс всех подмножеств класса X. Будем говорить, что ф — мера на X, если X — множество, ф: 2х -*¦ R П it: 0 «? t «? 00} it ip(i)< 2 ф(?) для любого счет- BSF ного семейства F а 2х такого, что А <= U F. Отсюда следует, что ф@)=О, так как 1H = 0, и что ф(Л)<ф(?) при А<=В<=Х. Решающую роль во всех применениях мер играет аддитивность относительно определенных разбиений пространства X. Начнем с простейшего разбиения {А, Х\А), соответствующего произволь- произвольному множеству А <= X. Следуя Каратеодори, будем говорить, что А является ф-измеримым множеством, если 4сХ и ф(Г)=фG'ПЛ) + фB'\Л) при любом Т^Х. Так как <${Т) никогда не превосходит суммы справа, то для ф-измеримости множества А необходимо и достаточно, чтобы у(Т)><р(Т{\А) + <р(Т\А) при любом Т, ф(Г)<оо. Простейшим примером служит считающая мера на X, которая каждому множеству из X ставит в соответствие число его элемен- элементов (°°, если множество бесконечно). Все подмножества простран- пространства X измеримы относительно этой меры. Однако для большин- большинства других интересных мер существуют неизмеримые множества (см. 2.1.6, 2.2.4, 2.5.15, 2.7.17). Относительно каждой меры ф на X множества 0 и X всегда ф-измеримы. Может случиться, что только они являются ф-изме- римыми множествами, как показывает пример: ф@) = О, ц>(А)= 1 при 0 Ф А <= X. Конечно, эта ситуация далеко не типична для анализа и геометрии (см. 2.3.2 (9), 2.10.1, 2.5.2). Каждой мере ф на X и каждому множеству ГсХ поставим в соответствие другую меру фЬ-У на X по формуле Все у-измеримые множества являются также ф L- Y-измеримыми. Использование меры ф L У часто упрощает изучение поведения ме- меры ф на подмножествах множества У. Каждая функция /: X -*¦ У порождает отображение /+, которое каждой мере ф на X ставит в соответствие меру /¦(<Р) на У по формуле (/+ФM = ф(/-1В) для Я с У. Легко видеть, что множество f~f(B) является tf-измеримым тогда 5 Г. Федерер
66 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ » и только тогда, когда множество В является /^(ф1- .4) -измеримым для каждого А ^ X. 2.1.3. Теорема. Пусть у—мера на X. A) Если А является ^-измеримым множеством, то Х\А также ^-измеримо. B) Если F — счетное непустое семейство (^-измеримых мно- множеств, то множества UF и UF также у-измеримы. C) Если Аи Аг, As, ...— непересекающиеся ^-измеримые мно- множества, то <P U At = D) Если Bt с Вг с В3 cz ... образуют возрастающую последова- последовательность (^-измеримых множеств, то Ф ( О В,) = lim E) Если С{ => С2 =э С, =>... образуют убывающую последова- последовательность (^-измеримых множеств и ф (С*) < <», то Итф(С{). j-»oo F) Если ф(Л)==0, го множество А является ^-измеримым. G) Ясли Л — это (р-измеримое множество и В<=Х, то U В). Доказательство. A) и F) тривиальны. Если Ли5 являются ф-измеримыми множествами, то > ф[Г П (A U 5)] + ф[7\(Л U 5)] при любом Т сг X, поэтому Лив также ф-измеримо. Применяя ин- индукцию, из A) заключаем, что B) справедливо, если семейство F конечно. Для доказательства C) заметим, что для каждого натурального/ ( °° \ * Ф U Л{ >ф (?,-), где Bj=* U Ait и по индукции покажем, что 2 Действительно, Bi+L П Aj+i = Аяи Bi+i\Aj+l = Bi% откуда
§ 2.1. МЕРЫ И ИЗМЕРИМЫЕ МНОЖЕСТВА 67 Теперь D) получается применением C) к непересекающимся ф-измеримым множествам А, = Ви At = B(\B(-t для i > 1. Свойство E) следует из D) прп В{ = С,\С<, так как Ci-flCiU U Bit ф(С1)<ф( П с Покажем далее, что B) справедливо для счетного семейства F. Пусть F состоит из Su S,, S,, ... Тогда U Р = 0 #;, где Я, = (| Sj j=i i=i образуют возрастающую последовательность ф-измеримых мно- множеств. При фGт)<°о) применяя D) и E) с заменой ф на ф L- 2", получаем, что <Р(Т П иЛ + Ф(Пи Л = (Ф L Л U Bt + (ф l Г) i=i i=i = Ит(ф L T)Bj + Нт(ф i_ Т) (Х\В}) = Таким образом, UF является ф-измеримым. Применение A) за- завершает доказательство B). Утверждение G) следует из определения измеримости с Т = В и Т = A U В. 2.1.4. Предполагая, что ф — мера на X, будем множество В на- называть ((-оболочкой множества А, если А <= В <= X, множество В является у-измеримым и ф(Г Л А)= ф(Г Л В) для каждого ^-измеримого множества Т. Заметим, что если A^zB, множество В является (^-измеримым и ф(Л)=фE)< оо^ то В является (^-оболочкой множества А. Дей- Действительно, для каждого ф-измеримого множества Т 2.1.5. Мера ф на X называется регулярной, если для каждого множества A cz X существует такое (^-измеримое множество В, что А<=В и ф(Л) = фE). Следующие утверждения справедливы, когда мера ф регулярна. A) Для любой возрастающей последовательности Ai <= А2 с cz А3 <= ... множеств из X ф( О АЛ = lim<p(Ai). B) Если ф (А)< °°, то А имеет ^-оболочку. 5*
68 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ C) Если A U В является ^-измеримым и ф(Л)+фE)'=> = ф {A U В) < оо, то А и В также ^-измеримы. D) Если ф {X) < °°, /: Х-*Г в С — это /^-измеримое множе- множество, то множество f~l{C) будет ^-измеримым. E) Если ф(<5)<°о, то класс всех ф L. S-измеримых множеств равен {(В п S)U С: В является ф-измеримым, С<=¦ X\S). Для доказательства A) рассмотрим такие ф-измеримые мно- множества С г, содержащие Аи что ф(С,)= q>(Ai). Заметим, что ф-из- ф-измеримые множества Вг = П С) 3=г удовлетворяют условиям Л{сгД;сС4 и B{^Bi+l, и из 2.1.3 D) получаем, что Ф U Аг <ф U \г=1 / \г=1 Утверждение B) тривиально следует из 2.1.4. Для доказательства C) рассмотрим такое ф-измеримое мно- множество С, что Используя 2.1.3 G), получаем, что откуда ф(СЛ5)=0, ф(С\Л) = О, множество А является ф-изме- рймым. Утверждение D) вытекает из C) при А =/~1(^)> В = f~l(Y\C). Для доказательства E) предположим, что А — это ф L 5-изме- римое подмножество множества S, и выберем такие ф-оболочки S' и А' множеств S и А, что Л'<=5'. В результате получим, что ' Л S)\A] = (ф L 5) (А'\А) = (ф L. 5)Л' -(ф L-5)Л = следовательно, множество 5 = 4'\[D'Л5)\Л] является ф-измери- ф-измеримым иВП5 = Л. Простые примеры показывают, что ни одно из этих пяти ут- утверждений, вообще говоря, не справедливо для нерегулярной ме- меры ф. Утверждения A) и B) не верны, если X—бесконечное множество, ф@)=О, ф(Л)= 1 для каждого конечного А^Х, <р(А)=2 для каждого бесконечного А<=Х. Утверждения C) и D) не верны, если card(X)=3, ф@)=О, ф(Х)=2, ф(Л)= 1 ДЛЯ каж- каждого непустого собственного подмножества А пространства X. На-
§ 2.1. МЕРЫ И ИЗМЕРИМЫЕ МНОЖЕСТВА ОД конец, E) не верно, если card(X)=3, cardE) = 2, ф(А) = card(S) для А <= S, <р (А) = 2 для А Ф S. Большинство мер, с которыми мы познакомимся, будут регу- регулярными. Более того, произвольной мере у на X соответствует ре- регулярная мера у, определяемая для А а X формулой f (A)** = inf {ф (В); А<= В и В является ф-измеримым). При этом, если множество А является ^-измеримым, то множество А также ч~из~ меримо и <р(Л)= ^(Л); если множество А является ^-измеримым и j(A)< °°, то множество А также (^-измеримо. 2.1.6. Обсудим теперь связь между задачей, измеримы ли от- относительно некоторой нетривиальной конечной меры все подмно- подмножества данного множества, и вопросом о существовании недости- недостижимых кардинальных чисел. Числом Улама называется кардинальное число а, обладающее следующим свойством. Если ф — мера на X, ф (X) < °°, каждое множество из X явля- является (^-измеримым, ср{х) = 0 для каждого х е X, и card X ^ а, то ) Это свойство эквивалентно следующему. Если г|з — мера, F — семейство непересекающихся множеств, ij)(UF)< oot объединение каждого подсемейства семейства F явля- является ^-измеримым, г)з (А) = 0 для каждого А ^ F и card F ^ а, то (UF)O ) Некоторое семейство называется семейством непересекающихся множеств, если любые два различных члена этого семейства име- имеют пустое пересечение. Полагая получаем первое свойство из второго. Взяв X = F, получаем второе свойство из первого. Ясно, что No — число Улама, и класс всех чисел Улама обра- образует начальный отрезок во вполне упорядоченном классе всех кар- кардинальных чисел. Этот отрезок достаточно большой, как показыва- показывают следующие два утверждения. A) Если S — множество чисел Улама и card 5 — число Улама, то точная верхняя грань множества S — также число Улама. B) Если кардинальное число (i непосредственно следует за числом Улама а, то $ — число Улама. Доказательство будем формулировать в терминах модели фон Неймана порядковых и кардинальных чисел (см. [К, Добавление]). Для проверки A) возьмем ifnf, как выше, с card Fez US (равно точной верхней грани S) и представим F в виде объединения непересекающихся подсе- подсемейств Fs, соответствующих s^S, таких, что кардинальные числа
70 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ подсемейств F, являются числами Улама. Отсюда следует, что ¦ф@/<",)= 0. Кроме того, кардинальное число семейства непересе- непересекающихся множеств F' = {UF.: s^S) является числом Улама, объединение каждого подсемейства семей- семейства F' равно объединению некоторого подсемейства семейства F, и мы делаем вывод, что Для проверки B) предположим, что а — бесконечное карди- кардинальное число, возьмем ф и X, как выше, с 1 = р, для каждого «ер выберем взаимно однозначное отображение /х из ж в а и определим V(b, a)—{x: fx(b)=a) при Ъ е р, цец, Для каждого а е а множества ?7(&, аЬ соответствующие всем Ъ е р, не пересекаются, поэтому множество (ft: q>U(b, a)>0) счетно. Сле- Следовательно, card{(b, а): ф?/(Ь, а)>0) < К„ ¦ а = а < р. Поэтому теперь можно выбрать b e p так, что Ь, а)= 0 для всех нец, откуда следует, что Ф U 17(Ь, а)-0, 5 а<5а так как эти множества U(b, а) не пересекаются и а — число Ула- Улама. Кроме того, ф(Ь)=О, так как card b < а, и из равенства Р-* U {6}U{*: &еа!еР} = Ь U {&} U U #(&, а) вытекает, что ф(Р) = 0. Вспомним теперь, что кардинальное число а называется дости- достижимым тогда и только тогда, когда либо класс всех кардинальных чисел меньших а, имеет наибольший элемент, либо в этом классе имеется подмножество 5, точная верхняя грань которого равна а, а мощность card S < а. Два предыдущих утверждения показывают, что если существуют какие-либо кардинальные числа, не являю- являющиеся числами Уупама, то наименьшее такое число недостижимо. Так как постулат о том, что не существует несчетных недостижи- недостижимых кардинальных чисел, являющихся множествами, не противо- противоречит обычным аксиомам теории множеств (см. [ТА]), то вполне разумно потребовать, чтобы все кардинальные числа, встречающие- встречающиеся в теории меры, были числами Улама.
§ 2.2. БОРЕЛЕВСКИЕ И СУСЛИНСКИЕ МНОЖЕСТВА 7t § 2.2. Борелевские и суслинские множества 2.2.1. Семейство F называется борелевским относительно множества X, если 0 е F с 2х и выполнены следующие три ус- условия: A) если A^F, то Х\А <= F; B) если G<=F и G — счетное семейство, то UG^F; C) если 0?=G<=F и G — счетное семейство, то tiG^F. Ясно, что эти условия избыточны, так как из A) вытекает, что B) и C) эквивалентны. 2х и {0, X) являются наибольшим и наи- наименьшим борелевскими семействами (относительно X). Пересече- Пересечение любого множества борелевских семейств — борелевское семей- семейство. Для каждого S сг 2х существует наименьшее борелевское се~ мейство, содержащее S, называемое борелевским семейством, по- порожденным S. Аналогично, если S <= 2х, то S содержится в наименьшем се- семействе F, удовлетворяющем B) и C). Если к тому же из Ае 5 следует Х\А е F, то F совпадает с борелевским семейством, порожденным S. Для доказательства заметим, что семейство содержит S и замкнуто относительно операций счетного объеди- объединения и пересечения. Поэтому F с Я и F удовлетворяет усло- условию A). Рассуждения предыдущего абзаца остаются справедливыми, ес- если заменить B) следующим более слабым условием. B') Если G<=F, G — счетное семейство непересекающихся мно- множеств, то UGe=F. Действительно, если Ait Аг, А3, ... принадлежат Я, то U Ах = и \АХ Л Л (Х\АМ е= F. Если X — пространство с топологией Т, то члены борелевского семейства, порожденного Т, называются, по определению, борелев- борелевскими множествами, ассоциированными с Т. Если каждое откры- открытое множество представимо в виде счетного объединения замкну- замкнутых множеств, например в случае, когда топология Т порождается метрикой, то борелевские множества образуют наименьший класс, удовлетворяющий B) и C) и содержащий класс всех замкнутых множеств; борелевские множества образуют также наименьший класс, удовлетворяющий B') и C) и содержащий Т. Семейство G называется борелевским разбиением множества А, если G — такое счетное семейство непересекающихся борелевских множеств, что UG — A.
72 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Если ф — мера на X, то класс всех ф-измеримых множеств яв- является борелевским семейством. Если ф — мера на пространстве с топологией Т, то носителем меры ф называется замкнутое множество Равенство ф(.ХЛзр1 ф) = О, как правило, выполняется (см. 2.2.5, 2.2.16), но бывают и исключения (см. 2.5.15). 2.2.2. Теорема. Пусть ф — мера на метрическом пространстве X, все открытые множества (^-измеримы, и В — борелевское множе- множество. Тогда справедливы следующие утверждения: A) Если фE)<оо и е > 0, то В содержит такое замкнутое множество С, что фE\С)<е. B) Если В содержится в объединении счетного числа откры- открытых множеств V{, фA^)<°°, и если г > 0, то В содержится в та- таком открытом множестве W, что q>(W\B)<s. Доказательство. Положим г|з = ф L В и рассмотрим класс F всех подмножеств А пространства X таких, что для каждого е > 0 мно- множество А содержит замкнутое подмножество С, для которого е. Проверим, что П A^F я U Ax<=Fr i=l i=l если Аи Аг, А3, ...eF. Для этого зафиксируем е >0 и выберем такие замкнутые множества С^аАц что if (ЛДС<)< е2~*. Получаем следующие оценки: \ ) ф U (Ai\Ct) < 2 е2-{ = е, 1=1 li=l / г=1 г=1 U Аг\ U сЛ=*( U ^Д U Сг)<У U \г=1 / т \{=1 \г=1 J г=1 Кроме того, очевидно, что множества П С% и (J Q замкнуты. 4=1 г=1 Таким образом, F удовлетворяет условиям B) и C) п. 2.2.1. Так как F содержит класс всех замкнутых множеств, то F содер- содержит класс всех борелевских множеств. В частности, В <^F, как и утверждалось в A).
§ 2.2. БОРЕЛЕВСКИЕ И СУСЛИНСКИЕ МНОЖЕСТВА 73 Для доказательства B) выберем такие замкнутые множества d <= V(\B, что Ф[ (УДС) \В] = Ф[ (Vt\B) \Ct] < 62"*, заметим, что В П Vt <= FAC и возьмем ТУ = U г=1 2.2.3. Мера ф на топологическом пространстве X называется бо- релевски регулярной, если все открытые множества у-измеримы, и Каждое множество А в пространстве X содержится в таком бо- релевском множестве В, что q>(A) = ф(#). Если ф — борелевски регулярная мера, и А — это ф-измеримое множество с ф(Л)<°°, то существуют такие борелевские множе- множества В и D, что Действительно, выберем сначала В~=> А с ф (Л) = ф (В), затем возь- возьмем борелевское множество Е => В\А с ф (Е) = ф (В\А) = 0, и поло- положим D = В\Е. Следовательно, если ф — борелевски регулярная мера на метри- метрическом пространстве, то утверждения A) и B) п. 2.2.2 справед- справедливы для каждого ^-измеримого множества В. Если ф — борелевски регулярная мера и А — борелевское мно- множество, то ф L A — борелевски регулярная мера. Отметим также, что если ф — произвольная мера на топологи- топологическом пространстве X такая, что все борелевские множества из X являются ф-измеримыми, и если ¦ф (А) = inf {ф (В): А<=В и В — борелевское множество) при любом А<=Х, то г|з — борелевски регулярная мера, и i|)(.A)=« == ф(Л) для борелевских множеств А. 2.2.4. Теорема. Если ф — борелевски регулярная мера на пол- полном сепарабелъном метрическом пространстве X, 0<ф(Л)<«>, и ф({ж})=0 при х^А, то в А имеется ^-неизмеримое подмно- подмножество. Доказательство. Рассмотрим класс Г всех замкнутых подмно- подмножеств С множества А, для которых ф(С)>0, а следовательно, card(C)= 2X°. Заметим, что card(F)< 2"°, вполне упорядочим Г так, чтобы для каждого СеГ множество Гс всех множеств, пред- предшествующих С, имело кардинальное число, меньшее 2 "о. Опреде- Определим по индукции относительно этой полной упорядоченности та- такие функции / и g на Г, чтобы для каждого Се Г значения f(C) и g(C) представляли собой различные элементы множества C\[f(Tc)\ig(Tc)l Это возможно, так как card [/ (Гс) U g (ГсI = 2 card (Гс) < 2 " о = card С.
74 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Ввиду того, что как im/, так и A\imf (содержащее irag) пере- пересекаются с каждым членом Г, ни одно из этих множеств не со- содержит какого-либо члена Г. Если бы эти два множества были ф-измеримыми, то оба они имели бы ф-меру 0, откуда <р (А) = 0. Следовательно, либо А, либо im/ является ср-неизмеримым. 2.2.5. Под радоновой мерой понимается мера ф на локально компактном хаусдорфовом пространстве X, обладающая следующи- следующими тремя свойствами. Если К — компактное множество в пространстве X, то ф (К) < «>. Если V — открытое множество в пространстве X, то множество V является ц>-измеримым и ф(У) = Бир{ф(^): К компактно, К<= V}. Если А — произвольное множество в пространстве X, то V у(А)= inf {(p(V): V открыто, А <= V). i Отметим, что если ф — радонова мера, то ибо множество XAspt ф открыто, и каждое его компактное подмно- подмножество содержится в объединении конечного числа открытых мно- множеств нулевой ф-меры, а значит, Х\вр1ф имеет ф-меру 0. Докажем теперь теорему аппроксимации. Если ф — радонова мера, множество А является (^-измеримым, ф (^4) < оо и е > 0, то А содержит такое компактное множество К, что ф(Л\К)< е. Выберем такие открытые множества V и W, что А с V, ф(^\Л)<е/2, V\A с W, ф(И(Г)<е/2, и рассмотрим компактное множество CcF с ф(У\С)<е/2. Тогда C\W является компактным подмножеством множества V\W <= А и <p[A\(C\W)] < Ф(ПС)+ ф(И0< е. (Сравнивая это рассуждение с теорией, развитой в 2.2.1, 2.2.2 и 2.2.3, получаем первый пример, показывающий насколько радоно- вы меры проще произвольных борелевски регулярных мер!) 2.2.6. Пусть 9* — множество всех натуральных чисел. Множество всех бесконечных последовательностей натуральных чисел являет- .ся бесконечным декартовым произведением, все множители кото- которого равны 9*. Используя дискретную топологию на каждом мно- множестве 9, получим топологию декартова произведения на JC. Эту топологию можно задать также следующей метрикой: расстояние между двумя последовательностями тип равно по определению оо 2 2~{ |т{ — щ|/A + \т1—щ\). Полученное метрическое пространство JC полно и сепарабельно.
§ 2.2. БОРЕЛЕВСКИЕ И СУСЛИНСКИЕ МНОЖЕСТВА 75 Пространство Jf представляется в виде объединения множеств Jfs = JfW{n: щ = ]}, соответствующих / ^3*. Каждое множество Jf} открыто и замкнуто в Jf, и гомеоморфно множеству Jf. Декартово произведение счетного числа множителей, каждый из которых равен Jf, т. е. гомеоморфно Jf. 2.2.7. Отображение /: X -»- Y, где X и Y — метрические про- пространства, называется липшицевским, если существует конечное положительное число М такое, что dist[/(a), f(b)]^M dist (а, Ь) при любых а, Ъ е X. Число М называется константой Липшица для отображения /. Каждая лишпицевская функция имеет наименьшую константу Липшица, обозначаемую Говорят, что / — локально липшицевское отображение, если у каждой точки из X имеется такая окрестность U, что f\U — лип- липшицевское отображение. Если X — выпуклое подмножество нормированного векторного пространства, то f — липшицевское отображение с константой Лип- Липшица Lip(/)s? M тогда и только тогда, когда lim sup dist [/ (х), f (z)]/1 x — z \ ^ M для всех х^.Х. z-*x Для доказательства достаточности этого условия возьмем а, 6е1, |л > М, положим S = {f. О ^ t < 1, dist [/(a), f(a +1(b - a))] < pt\b - a\) и заметим, что т = sup S e S, так как отображение / непрерывно в точке a + i(b — a). Если т<1, то существовало бы такое t, чхо x<t<1 и dist[/(a + x(b + a)), f(a + t(b-a))] < |i(« —х)|Ь — а\, откуда T<ie5. Следовательно, 1е5. 2.2.8. Теорема. Для каждого полного сепарабельного непустого метрического пространства X существует локально липшицевское отображение g из Jf на X. Доказательство. Действуя по индукции относительно к, поста- поставим в соответствие каждой конечной последовательности slt ..., s* натуральных чисел непустое замкнутое множество Е (su ,.., sk) из X, диаметр которого не превосходит 2~*~2, таким образом, чад U Е0)жЕ(8и...,8к)- U s7> }SJ>
76 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Тогда каждому rejC соответствует последовательность замкнутых множеств ?(га,)^?(ге„ и2)=>#(П1, п2, па)=>..., диаметры которых стремятся к 0, а пересечение состоит ровно из одной точки пространства X, обозначаемой далее g{n). Ясно, что img = X. Для любых двух различных точек т, ne Jf, таких, что dist(m, n)< 1/4, существует такое /се 5*, что 2~к~г < dist (m, п) < 2~*~', откуда И1{ = Wj для г ^ А;, dist[g(m), g(n)]^dlamE(mu .... mA)^2-*~2. 2.2.9. Незначительно изменив предыдущие рассуждения, полу- получим следующее утверждение. Если X — полное, непустое метрическое пространство без изо- изолированных точек, то в X имеется борелевское множество Г, го- меоморфное JC. Для каждого k e д> построим непересекающиеся непустые от- открытые множества U(s), соответствующие всем последовательно- последовательностям se^1*, с замыканиями E(s) и диаметрами, меньшими 2~*~2. При переходе от к к к + 1 потребуем, чтобы U(sv ..., sft)=> U E(su ..., sh, /). Определим g так же, как выше. Легко видеть, что g гомеоморфно отображает Jf на борелевское множество Г= П U U(s). В частности, в случае X = R можно выбрать интервалы U(s) таким образом, что R/Г счетно. Построенные функции g аналогичны классическому гомеомор- гомеоморфизму, отображающему Jf на множество всех иррациональных чи- чисел между 0 и 1, который каждому ве/ ставит в соответствие значение следующей непрерывной дроби (см. [РО, с. 103]): 1 II II | пх \п2 1 га3 2.2.10. Рассмотрим топологическое пространство X и проекцию р: XXJf-+ X, р(х, п) = х при х<=Х, n^Jf. Суслинским множеством в пространстве X будем называть образ при отображении р некоторого замкнутого множества из XXJf. Если X — хаусдорфово проЬтранство и отображение f: Jf -*¦ X непрерывно, то im / — суслинское множество в пространстве X.
§ 2.2. БОРЕЛЕВСКИЕ И СУСЛИНСКИЕ МНОЖЕСТВА 77 Действительно, im/ равен образу при отображении р замкну- замкнутого множества (ХХ/Г)П{{х, и): « = /(!»)}. каждого непустого суслинского множества S в полном се- парабельном метрическом пространстве X существует непрерывное отображение h множества Jf на S. В самом деле возьмем такое замкнутое множество С из X X JC, что p(C) = S, заметим, что XX Jf и С — полные сепарабельные метрические пространства, и применяя 2.2.8, получим локально лшшщцевское отображение g множества Jf на С. Положим h = p°g. Если Y — хаусдорфово пространство, S — суслинское множество в некотором полном сепарабелъном метрическом пространстве и отображение /: S -*¦ Y непрерывно, то }(S) —суслинское множе- множество в пространстве Y, Выбирая h так же, как выше, видим, что отображение / ° h: Jf-* Y непрерывно, /E) = im (/ • ft). Если отображение /: X -*¦ Y непрерывно, и S — суслинское мно- множество в пространстве Y, то /~' E) — суслинское множество в про- пространстве X. Действительно, если множество С замкнуто в Y X Jf и Pt(C)-S,to tl(S) = pA(x,n): (/(*), и)е<7>. Изучим теперь связи между суслинскими и борелевскими мно- множествами. Пусть F — семейство, состоящее из всех таких множеств р{С), что С замкнуто в XXJf и отображение р\С однолистно. Если X — метрическое пространство, и множество S открыто 9 Х,то SeF. В самом деле, заметим, что множество A=(XXR)(\{(x,t): tdist(x,X\S)=l) замкнуто в X X R, и, применяя 2.2.9 и 2.2.6, построим замкнутое множество В из Jf и однолистное непрерывное отображение ip множества В на R. Отсюда следует, что множество С = (X X Л") П {(ж, п): п^В, (х, $(п))еА} замкнуто в XXJf, отображение р\С однолистно и p(C)=S. Если Su Sz, S}, . ..— непересекающиеся элементы семейства F, то F = U Sj<=F. 3=1
78 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Вспоминая 2.2.6, выберем замкнутые множества Cjj так, что отображение р\С} однолистно и р(Сл) = ^. Поэтому мно- множество D = U С} i=\ замкнуто в X X Jf, отображение p\D однолистно, и p(D)=V. Если St, Sz, S3, .. . принадлежат семейству F, то W = П Sj = F. Выбирая замкнутые множества С} <= X X Jf так, что отображе- отображение р I С) однолистно и р (Cj) = Sj, видим, что при проекции множество W является взаимно однозначным образом замкнутого множества {(х, nlt 7?2, п3, ...): (х, щ) <= Cj при'/ е ^}. Используя 2.2.1, приходим к следующему выводу. Если X — метрическое пространство, то каждое борелевское множество в пространстве X принадлежит F; следовательно, каж- каждое борелевское множество в пространстве X является суслинским множеством. Аналогично получаем, что если G — счетное непустое семей- семейство суслинских множеств из X, то UG и DG — суслинские мно- множества из X. Говорят, что два множества Р и Q в топологическом простран- пространстве Y борелевски отделимы, если существуют непересекающиеся борелевские множества А и В в У такие, что Р<=А, Q<=B. Ясно, что справедливо следующее утверждение. Если G и Н — такие счетные семейства подмножеств простран- пространства Y, что Р и Q борелевски отделимы для любых P^G и Q е Н, то множества UG и ОН борелевски отделимы. Предполагая, что X — полное сепарабелъное метрическое про- пространство, Y — хаусдорфово пространство и отображение /: X -*¦ Y непрерывно, докажем следующие утверждения. A) Если С и D — замкнутые множества в пространстве X та- такие, что f(C) и f(D) не пересекаются, то /(С) и f(D) борелевски отделимы в Y. B) Если С — замкнутое множество в пространстве X и ото- отображение f\C однолистно, то f(C) — борелевское множество в про- пространстве У. Для доказательства определим E(s,, ..., sk) так же, как в 2.2.8. Отрицание утверждения A) позволило бы по индукции построить
8 2.2. БОРЕЛЕВСКИЕ И СУСЛИНСКИЕ МНОЖЕСТВА 79 такие последовательности в, веJC, что для каждого к^& мно- множества Рк = ЦСПЕ(ти ..., mh)] и Qk = f[D ПЕ(щ, ..., не были бы борелевски отделимыми, пересечения П состояли бы из единственных точек и^С и v&D, следовательно, f(u) и /(у) были бы различными точками с непересекающимися окрестностями А и В в Y. Тогда из непрерывности функции / в точках и и v вытекало бы, что Рк<=¦ А и Qh<^B для достаточно больших к. Из A) следует, что если Su S2, S,, ...— такие суслинские мно- множества в пространстве X, что /E4), f(Sz), /E3), ...не пересека- пересекаются, то существуют такие непересекающиеся борелевские множе- множества Ви В2, В3, ... из Y, что KS^^Bj для / = 1, 2, 3, ... Для доказательства B) при каждом к разобьем X на борелев- борелевские множества A(s) = A(Sl, ...,sk^) (] E(s)\ U E{sx, ...,«*_!, i), соответствующие всем s = («i, ..., s»)eiP (здесь А@) = Х). За- Заметим, что множества f[C f\A(s)] не пересекаются, и выберем в Y такие непересекающиеся борелевские множества B(s), что 'f[C()A(s)]^B(s)<=B(su ...,8к-г)nClosflCntf(*)], где Clos f[C П E(s)] — замыкание множества /[Cf1?'(s)]. Таким об- образом, Г= U П В(пх, ...,«„)- П U B(s) Ж ? he? ie7>k — борелевское множество в У, и Т = f (С), так как /(С) с U П /[С ГМК, ...дв»IсГ, U П Clos/[Cn E(nv ...,nh))czf(C). Из B) следует, что если А — борелевское множество в X и отображение f\A однолистно, то f(A) — борелевское множество в Y. Далее, из A) и B) вытекает, что для любого полного сепара- белъного метрического пространства X класс борелевских множеств в пространстве X совпадает с классом F всех образов при проек- проекции р: XXJP-+X тех замкнутых множеств в пространстве XXJP, на которых отображение р однолистно, и с классом тех суслинских множеств А из X, для которых Х\А также является суслинским множеством.
80 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ 2.2.11. Теперь построим суслинское множество, не являющееся борелевским. Отметим сначала следующее свойство. Если Z— топологическое пространство со счетной базой U(l), ?7B), ?7C), ..., то множество С = (Z X Jf) П {(*, n): z ф U U (щ)} замкнуто в ZX/ и каждое замкнутое множество в пространстве Z совпадает хотя бы с одним из слоев Cn = {z: (z, п)бЙ. Взяв Z = YX Jf, видим, что множество S = (YXJf)f\ {(у, га): (у, тп, га)е=С для некоторого m^Jf) является суслинским множеством в пространстве FX/ и каждое суслинское множество в пространстве Y совпадает хотя бы с од- одним из слоев Sn = {у: (у, n)<^S) = {у: (у, тп)е Сп для некоторого m e JC). Полагая Y = Jf, применим диагональное отображение простран- пространства Jf и получим, что Т = {п: (п, n)^S) — суслинское множество в пространстве Jf. Кроме того, его до- дополнение Jf\T = Ы: пФ SJ не является суслинским множеством в пространстве Jf, потому что из предположения Jf\T — Sm вытекала бы эквивалентность утверждений m<^Sm и m&Sm. Следовательно, Т не является бо- борелевским множеством в пространстве Jf. Наконец, с помощью 2.2.9 заключаем, что в каждом полном непустом метрическом пространстве без изолированных точек име- имеется суслинское множество, не являющееся борелевским. 2.2.12. Теорема. Пусть <р — мера на топологическом простран- пространстве X, все замкнутые множества в пространстве X являются у-из- меримыми и S — суслинское множество в пространстве X. Если ф(Г)<оо и е > 0, то S содержит такое замкнутое множество С, что ф(Г Л ?\С)^ е. Следовательно, множество S является ^-изме- ^-измеримым. Доказательство. Заменяя <р на ф L T, предположим, что ф (X) < < оо, и определим регулярную меру f по формуле *((А) = inf (фE): А<=В, В является ф-измеримым) для А сг X. Предположим, что Zo замкнуто ъ XXJf ж р(Zo) = S. Индук- Индукцией по i е 0> выберем иг( е & и замкнутые множества Zx <=¦ Zo та- таким образом, чтобы гг = г^Г\{(х, га): га<<!»<>,
§ 2.2. БОРЕЛЕВСКИЕ И СУСЛИНСКИЕ МНОЖЕСТВА 81 В силу 2.1.5 A) это возможно, так как мера f регулярна и Д Р (Zi-i П {(х, п): щ < /}) = р (Z^). Рассмотрим далее замкнутое множество Так как f(X)<°°, и t(S)— t[p(Z{)] < е при ie^ видим, что у (С) = lim у [Clos p (Z{)] > Y E) — е. i-»oo Отметим затем, что множество K = Jf Г\{п: Tii^nii при ie^>} компактно, П ^ = Zo П (X X К). Для завершения доказательства покажем, что С <=S. Для этого проверим, что C = p[Zo0(XXK)]. Ясно, что C^>p[Z0 (\(ХХ К)]. Докажем противоположное включе- включение. Предположим, что а^X\p[Z00 (XXК)], откуда ({а)ХК)п 0-Zo = 0, и возьмем такие открытые множества V czX, W <=¦)?, что a^V, KczW, (VXW)(\Zo = 0. Далее выберем ie^ так, чтобы dist(iis Jf\W)>2~\ Так как (х, n)^Z( влечет (»„ ..., га,, 1, 1, 1, ...jeX, а значит, dlst(TsT, n)*?2~', neW, получаем Отсюда делаем вывод, что p(Zt)<=: X\V, аФ Closp(Zt). 2.2.13. Объединяя результаты 2.2.10 и 2.2.12, получаем следу- следующее утверждение. Если отображение f: X -»- Y непрерывно, X — полное сепара- белъное метрическое пространство, Y — хаусдорфово пространство, ц — мера на Y и каждое замкнутое множество в пространстве Y . является ii-измеримым, то при отображении f образ каждого боре- левского множества из пространства X также ц-измерим. Именно проблема доказательства этого утверждения послужила историческим мотивом создания теории суслинских множеств. 2.2.14. Пусть X и Y — топологические пространства. Борелев- ской функцией называется такое отображение /: X -*• У, что для любого открытого множества ? из У его прообраз f~l{E) является борелевским множеством в пространстве X. Отсюда следует, что /-' (Е) является борелевским множеством в пространстве X вся- всякий раз, когда Е — борелевское множество в пространстве Y, так 6 Г. Федерер
82 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ как 2У П {Е: f~l (E) — борелевское множество) — борелевское семейство. Характеристической функцией множества А в пространстве X называется такое отображение /: X -*¦ R, что f(x) = 1 для х^ A, f(x) = 0 для х е Х\А. Заметим, что борелевские множества в топологическом про- пространстве — это те множества, характеристические функции кото- которых являются борелевскими функциями. Любое отображение /: X -*- Y можно представить как компози- композицию двух отображений g: X - X X У, g(x) = (х, /(х)) для х е X, Если / — борелевская функция, X и Y — полные сепарабельные метрические пространства, и А — произвольное суслинское мно- множество в пространстве X, то g{A) = (AXY)f\(fXlr)-4(y, у): y^Y) — суслинское множество в пространстве XXY, поэтому f(A) = ¦= h[g(A)] — суслинское множество в пространстве Y. 2.2.15. Класс Ф функций, отображающих множество X в мет- метрическое пространство Y, называется бэровским классом, если он удовлетворяет следующему условию. Из /„ /2, /3, ... е Ф и g(х) = lim Д (х) s Y для каждого ieX, следует, что ^еф. Если X — топологическое пространство, то бэровскими функ- функциями на X со значениями в Y называются элементы наимень- наименьшего бэровского класса Ф такого, что каждое непрерывное ото- отображение пространства X в Y принадлежит Ф. Так как борелев- борелевские функции образуют бэровский класс (см. доказательство п. 2.3.2 F)), то каждая бэровская функция является борелевской. Если X — метрическое пространство, то каждая борелевская функция со значениями в R является бэровской. Для доказательства проверим, что класс всех действительных бэровских функций на X образует алгебру, и рассмотрим семей- семейство F всех тех множеств в пространстве X, характеристические функции которых являются бэровскими. Если С — характеристи- характеристическая функция непустого замкнутого множества А в простран- пространстве X, то С(х) = lim2-idist<*-A> при
§ 2.2. БОРЕЛЕВСКИЕ И СУСЛИНСКИЕ МНОЖЕСТВА 83 откуда A^F. Так как F — борелевское семейство, то оно состоит из всех борелевских множеств в пространстве X. Для любой бо- релевской функции /: X -*¦ R и каждого натурального i характе- характеристические функции gij борелевских множеств {х: j/i<f(x)<{j + l)/i), соответствующих j e Z, являются бэровскими функциями, и функция i2 isz также является бэровской. Так как h{ (х) -*¦ f (x) при i -*¦ °° для х е X, то / — бэровская функция. Предыдущее утверждение несправедливо для функций со зна- значениями в произвольном сепарабельном метрическом пространстве У: для того чтобы каждая борелевская функция, отображающая произвольное метрическое пространство X в У, была бэровской функцией, необходимо и достаточно, чтобы для каждого е > 0 и каждого конечного множества Z в пространстве У множество Z содержалось в е окрестности образа некоторого непрерывного ото- отображения из R в У. 2.2.16. Теорема. Если <р — мера на метрическом пространстве X, ср(Х)<°° и все открытые множества в пространстве X явля- являются (f-измеримыми, то носитель меры ср сепарабелен. Кроме то- того, если в X имеется всюду плотное множество, кардинальное чис- число которого является числом У лама, то <р (XNspt ср) = 0. Доказательство. Для каждого натурального п выберем такое максимальное подмножество Ап множества spt ср, что расстояние между любыми двумя различными точками множества А„ больше 2/га. Открытые шары радиуса 1/п с центрами в точках множества Ап не пересекаются, и мера ср каждого из них положительна, поэтому Ап счетно. Так как каждая точка из sptcp отстоит от некоторой точки множества Ап на расстоянии, не большем 2/п, находим, что U Ап — счетное всюду плотное подмножество в spt ср. П=1 Если в X имеется всюду плотное множество, кардинальное число которого является числом Улама а, то топология простран- пространства X имеет базу с кардинальным числом а, поэтому можно так выбрать семейство Н, что его члены являются открытыми мно- множествами ср-меры 0, .XAsptcp = иЯи card Ж а. Вполне упорядочим Н и определим для каждого V е Н и каждого натурального п замкнутое множество Cn(V), состоящее из всех тех точек, которые не принадлежат никакому члену семейства Я, предшествующему V, и расстояние от которых до множества XW 6*
84 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ больше или равно 1/га. Ясно, что у Я = U U Fn, где Fn = {Сп (V): V е Н). П=1 Так как расстояние между любыми двумя точками, принадлежа- принадлежащими различным членам семейства Fn, не меньше 1/га, видим, что объединение каждого подсемейства семейства Fn замкнуто. Из 2.1.6 заключаем, что cp(U;Fn) = O для каждого п. 2.2.17. Пусть X, Y— локально компактные хаусдорфовы про- пространства, /: X-*-Y — непрерывное отображение, f — собственное отображение (т. е. f~l{K) компактно для каждого компакта К с У), X представимо в виде объединения некоторого счетного семейства компактных множеств и <р — радонова мера на X, тогда /+<р — ра- донова мера на Y. Оставляя полное доказательство утверждения в качестве упраж- упражнения, покажем только, что для любого BczY и любого г > О су- существует такое открытое множество W в пространстве Y, что Так как множество Y\imf открыто, можно ограничиться случаем, когда В с: im /. Заметим, что im / содержится в объединении после- последовательности открытых множеств 0 = Vo<=Vic:Vzc=... в про- пространстве Y, замыкания которых компактны. Для i > 1 выберем открытые множества С/4 в пространстве X так, чтобы Заметим, что Wt = FA/[/~J (Clos V() \t/(] открыто в У и поэтому В <= W = U {W(: i = 1, 2, 3, ...} и 2ф()< 2ф( г=1 1=1 - е + S [ф L Г1 E)] [Г1 (^)\ГХ (*Vi)] = ? + Ф [Г1 {В)]. 1=1 § 2.3. Измеримые функции 2.3.1. Пусть <р — мера на X. Утверждение, содержащее вы- выражение <«р-почти» означает, что какой-либо факт имеет место всюду, за исключением некоторого множества <р-меры 0. Например, предложение вида «... для ф-почти всех х» означает, что
§ 2.3. ИЗМЕРИМЫЕ ФУНКЦИИ 85 В частности, если / и g — функции, то f(x)=g(x) для ф-почти всех х тогда и только тогда, когда <р(Х\{х: f(x) = g(x)))=Q. В этом случае будем говорить также, что «/ и g равны ф-почти всюду». Аналогично, говорят, что «... для ф-почти всех х в Л», если Ф(Л\Ь: ...}) = 0; «5 содержит ф-почти полностью множество А», если 2.3.2. Пусть ф — мера на X и Y — топологическое пространство. Говорят, что / — это ф-измеримая функция, если область опреде- определения функции f содержит <р-почти полностью X, образ функции f содержится в Y и множество ]~1(Е) является (^-измеримым для любого открытого множества Е из пространства Y. Для удобства применения мы предположили, что область опре- определения функции / отличается от X на множество ф-меры 0, но, конечно, не ограничивая общности, всегда можно заменить / на ф почти всюду равную функцию с областью определения X. Заметим, что для каждой функции, ф-почти всюду отобража- отображающей X в Y, класс 2Г Л {Е: f~l (Е) является ф-измеримым) будет борелевским семейством. Поэтому справедливы следующие утверждения. A) Если функция f является ф-измеримой, то множество /"'(^У также (^-измеримо для каждого борелевского множества Е из про- пространства Y. B) Если 5с2г ц все открытые множества в пространстве Y принадлежат наименьшему борелевскому семейству, содержащему S, и если множество f~l(E) является ^-измеримым для любого Z? e S, то функция f сама ^-измерима. _ Из B) получаем, например, критерий: R-значная функция / ф-измерима тогда и только тогда, когда множество {*: f(x)<t) ф-измеримо для каждого t e Q. Конечно, Q можно заменить любым всюду плотным множеством из R и знак < знаком >, либо зна- знаком «?, либо знаком 3s. В силу последнего замечания п. 2.1.2 из теоремы 2.2.12 выте- вытекает следующее утверждение.
86 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ C) Если функция f является ^-измеримой, то для любого сус- линского множества Е в пространстве Y множество j~l{E) также ^-измеримо. Отметим еще следующие общие свойства ф-измеримых функций. D) Если / — это ^-измеримая функция со значениями в Y и g: Y -*- Z — борелевская функция, то композиция g »/ является (^-измеримой. E) Если Y — декартово произведение счетного числа топологи- топологических пространств Yt со счетными базами и р(: Y ->- Yt — проек- проекции, то отображение f в Y является ^-измеримым тогда и только тогда, когда (f-измеримы все функции pt ° /. F) Если /,, /2, is, ...— это (^-измеримые функции со значения- значениями в метрическом пространстве Y и если lira, fk(x) = g(x) б7 для у-почтпи всех х, fe-»oo то g — это (^-измеримая функция. Для доказательства F) предположим, что множество Е откры- открыто в Y, обозначим через Et открытое подмножество множества Е, состоящее из всех тех точек, расстояние от которых до Y\E боль- больше 1/i, и проверим, что g~l(E) будет ср-почти всюду равно мно- множеству и и п л:1 (Et). i=l i=l h=j Из D) и E) следует, что класс всех R-значных <р-измеримых функций в определенном смысле замкнут относительно основных арифметических операций. Например, справедливы следующие ут- утверждения. _ Функция / со значениями в R является ф-измеримой тогда и только тогда, когда ф-измеримы /+ и /~; если ф-измерима функ- функция /, то ф-измерим и 1/1. Если fug — это ф-измеримые функции со значениями в R (в R), то ф-измеримы и функции f + g, f — g, f'g (при условии, что их области определения ф-почти полностью содержат X). Если F — счетное семейство R-значных ф-измеримых функций и l(x)=inl{f(x): j<=F), u{x) = sup{f(x): f^F) для iefl{dmn/: j^F), то функции I ш и являются ф-измеримыми. Если Л, /2, /з, ...— это R-значные ф-измеримые функции, то функции, отображающие х в lim inf fi (x) = sup inf /i (x)t 1-»°° i i>3 lim sup fi (x) = inf sup /4 (ж), i-»oo j {>j ф-измеримы.
§ 2.3. ИЗМЕРИМЫЕ ФУНКЦИИ 87 Установим далее два чрезвычайно полезных критерия измери- измеримости функций со значениями в метрических пространствах. G) R-значная функция / является (^-измеримой тогда и только тогда, когда <р(Т)>у(Тп{х: }(х)^а})+ц(ТП{х: f(x)>b}) для всех Т <= X и — °° < а < Ъ < °°. (8) Если Y — пространство с метрикой р, то функция f со зна- значениями в Y является (^-измеримой тогда и только тогда, когда для всех ГсХ, ЛсУ, B<=Y таких, что dist(-4, В) = = infp(AXB)>0. Сначала покажем, как (8) можно получить из G). Предполо- Предположим, что выполнено условие, фигурирующее в критерии измери- измеримости (8). Рассмотрим произвольное непустое замкнутое множе- множество С в пространстве Y и определим функцию * (у) = diet (С, »)-=infp(CX<y>) для г, е Г. При — °о<а<6<°° применим наше предположение с A-=iy: g(y)<a) sB = {y: g{y)>b). Тогда критерий G) с заменой / на g°f показывает, что g°f — это ф-измеримая функция. Следовательно, множество /~1(^-)== ~Л§" /)~'{0} является ф-измеримым. Для доказательства G) необходимо проверить, что из условия, фигурирующего в критерии G), вытекает ф-измеримость мно- множества А = {х: f(x)<r) для любого reR. Пусть f сХиф(Г)<<». Полагая В< = Тп{х; г для каждого натурального i, докажем следующее утверждение. Если К — конечное множество натуральных чисел, состоящее только из четных или только из нечетных чисел, то Действуя по индукции относительно числа элементов множе- множества К, предположим, что это число больше 1, и пусть / — наи- наибольший элемент множества К. Тогда откуда
88 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ и можно сделать индуктивный шаг от множества К — {/} к мно- множеству К. Из вышеуказанного утверждения вытекает, что оо>2ср(Г)> 2<Р(Д<). 1=1 Следовательно, для каждого е > 0 существует такое натуральное- га, что i=n откуда ф(ГПЛ) + ф(Г\4)-е< «?ф(ГП{я: /(г)<г})+(р(ГПк f(x)> r+ п~1}) В заключение приведем одно замечание. Если ф — мера на топологическом пространстве X, то тожде- тождественное отображение 1Л является ^-измеримой функцией тогда и только тогда, когда ^-измеримы все открытые множества в про- пространстве X. В частности, применяя (8), получаем следующий критерий Каратеодори. (9) Если ф — мера на метрическом пространстве X, то все от- открытые множества в пространстве X являются ср-измеримыми тог- тогда и только тогда, когда для любых А с X, В <= X таких, что dist(^4, B)> 0. _ 2.3.3. Теорема. Если ф — мера на X, функция /: X -* R П {у > 0) является ^-измеримой и ги г2, г3, ...— такие положительные чис- числа, что ОО limг»=0и 2 rn = °°j n-»oo n=l то существуют такие ^-измеримые множества Аи Ai% ASi ...с ха- характеристическими функциями gu g2, g3, ¦ •., что 00 / (*) = 2 rngn {x) при х^Х. П=1 Доказательство. По индукции положим Ап п = [х: f(x)^rn+ 2 г& (х)\ 1 ;<n J 2.3.4. Множество называется счетно ф-измеримым, если оно представимо в виде объединения некоторого счетного семейства ф-измеримых множеств конечной ф-меры.
§ 2.3. ИЗМЕРИМЫЕ ФУНКЦИИ 89 Функция / со значениями в топологическом векторном про- пространстве называется счетно ф-измеримой, если функция / явля- является ф-измеримой и множество {х: f(x)?^0) счетно ф-измеримо. 2.3.5. Теорема Лузина. Если ф — борелевски регулярная мера на метрическом пространстве X (или радонова мера на локально компактном хаусдорфовом пространстве X), f — это ^-измеримая функция со значениями в сепарабельном метрическом пространстве Y, А—это (^-измеримое множество, ф(Л)<°°, и е>0, то А со- содержит замкнутое (компактное) подмножество С такое, что е и функция f\C непрерывна. Доказательство. Для каждого натурального i представим Y в виде счетного объединения непересекающихся борелевских мно- множеств Y(u Yi]2, Гм, ... с диаметрами, меньшими i~l, положим и, применяя 2.2.3 (или 2.2.5), получим непересекающиеся замкну- замкнутые (компактные) множества E(j^A(J и ф(Л(ДЕ^)< е2~''~'. Вви- Ввиду того, что 1 7? \ „O-i ) 2 4>(Au\Ei:J)< }=1 I 3=1 найдется такое натуральное J(i), что J(i) \ где/)г= U Е Фиксируя ytj e Ytj, определим непрерывную функцию gt на зам- замкнутом (компактном) множестве Д-, положив gi(x) = Уи при х е E(j, / = 1, ..., J(i). Замечая, что dist[gt(x), f(x)]<i~i для x^Dt, рассмотрим замкну- замкнутое (компактное) множество С= П Di с ф(Л\С)< 2 <р{АЩ)<Е, на котором последовательность непрерывных функций gf\C равно- равномерно сходится к /1С В результате получаем, что функция /1С непрерывна. 2.3.6. Следующие два утверждения являются следствиями тео- теоремы Лузина. Если X счетно ^-измеримо, то функция f равна ф-гаочгц- всюду некоторой борелевской функции, отображающей X в Y. (Однако следует обратить внимание на пример в 2.5.10!) Если Y = R и X — нормальное топологическое пространство, то существует (по теореме Титце о продолжении) такое Непрерывное отображение h: X -»¦ R, что h\C == f\C, и, следовательно, >)< в.
90 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Отметим также, что в теореме Лузина условие сепарабельности пространства Y можно заменить условием, что в пространстве Y имеется всюду плотное множество, кардинальное число которого является числом Улама, потому что тогда из 2.2.16 вытекает, что Z = spt /+ (<p L А) замкнуто и сепарабельно, следовательно, функция / равна ф-почти всюду отображению в се- парабельное пространство Z. 2.3.7. Теорема Егорова. Пусть Д, /2, /3, ... и g — это ^-измери- ^-измеримые функции со значениями в сепарабельном метрическом про- пространстве Y. Если ф(Л)< °°, /„ (х) -*¦ g (х) при п -*¦ °° для у-почти всех х в А и е>0, то существует такое ^-измеримое множество В, что ф(Л\5)<е и fn (x) -*¦ g (x) равномерно для х^В, при п -*¦<*>. Доказательство. Обозначая метрику в Y через р, для натураль- натуральных i, j определим множества Си- U {х: рип(х),8(х)]^2-1} и из 2.1.3 E), заменяя <р на <р L А, получаем, что П П ^.Л-О при /foo для каждого i. Следовательно, можно выбрать /(г) так, чтобы Ф (А П Citj(i)) < e2~{, и взять 2.3.8. Пусть ф — мера на X и Y — полное нормированное век- векторное пространство (банахово пространство). Рассмотрим теперь векторное пространство А(Ф, Y) тех ф-измеримых функций / со значениями в Y, для которых су- существует сепарабельное подпространство Z пространства Y такое, что (В силу 2.2.16 и 2.3.6 это условие сепарабельности выполняется автоматически, если X счетно ф-измеримо и в У имеется всюду плотное подмножество, кардинальное число которого является чис-
§ 2.3. ИЗМЕРИМЫЕ ФУНКЦИИ 91 лом Улама. Автору неизвестно, как без этого условия сепарабель- сепарабельности доказать, что А(ф, У) замкнуто относительно сложения.) Положим l/U-inf {г: ф(ж: |/(*)| >г> <г> для /е=А(ф, У). Применяя 2.1.3 D), находим, что ф: 1/(а:) | > |/U> < |/|„ Ввиду того, что I I,, как легко видеть, удовлетворяет неравенству треугольника , У), то отображение, переводящее (/, g) в \f — g\^ является инвариант- инвариантной относительно сдвигов псевдометрикой на А(ф, У). При этом псевдорасстояние \f — g\v равно 0 тогда и только тогда, когда / и g равны <р-почти всюду; оно может принимать значение °°. Последовательности, сходящиеся относительно этой псевдомет- псевдометрики, называются сходящимися по мере ф. Из 2.3.7 вытекает, что в случае <р(Х)<°о сходимость ф-почти всюду влечет сходимость по мере ф. Обратное неверно, однако мы докажем частично обрат- обратные утверждения в 2.3.9 и 2.3.10, получив при этом полноту псев- псевдометрического пространства А(ф, У). Функция I 1Ф не является однородной: если /—характеристи- /—характеристическая функция множества .4, то I с/|ф = inf {с, ф (А)} для (X с < «>. Кроме того, множества В@, е)={/: 1/1, <в> не обязательно выпуклы. Если X представимо в виде объединения конечного числа ф-измеримых попарно непересекающихся множеств St, ..., Sn таких, что фE()<е для i = i, ..., п, то выпуклая обо- оболочка множества В @, е) совпадает с А(ф, Y). Действительно, если / е А (ф, У) и st — характеристическая функция множества Su то п |пв1/|ф<фE1)^е для i = 1, ..., п и /=2«('Isi/)- Однако для каждого ceR справедливо неравенство Ic/U^supd/U, |c|.|/U> при/еА(Ф, У), и, следовательно, с/->¦ 0 при /-»¦ 0. К тому же, если /еА(ф, У) и то cf-*-0 при с -»¦ 0. Действительно, фиксируем е > 0, выберем натуральное п так, что <р{х: 1/(^I >«}< е, и заключаем, что 1с/|, < е при \с\ < в/п.
92 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ 2.3.9. Теорема. Если gn*=A(<p, Y) для п = 1, 2, 3, ... и П=1 то для ср-почти всех х последовательность gi(x), ?2(я), gt{x), сходится к h(x) в Y и \gn — й1<р -*- 0 при п -*• оо. Доказательство. Положим Ап=-{х: \gn+l{x)—gn{x)\ < \gn+i-gJ^, В\ = П Лг» Г{ = 2 I e'n+l — gn ]ф и заметим, что Ф (Х\ U ВЛ = lim \ i=l / in* оо =0. Теперь, если г е Bi: то оо 2 lO*) — ёРп(^)|<Г{< ОО, п=г следовательно, точки ^„(ж) образуют в Y последовательность Ко- ши, которая сходится к некоторой точке h(x), так как простран- пространство Y полно. Кроме того, ) — gn Таким образом, gn (х) -*¦ h (х) при п -*¦ «> для ф-почти всех х и ф{а;: | А (г) - ^ (х) | > rj откуда |ft-g,, 2.3.10. Следствие. Яз каждой последовательности Коши в А(ф, У) можно выделить подпоследовательность, сходящуюся как (р-почти всюду, так и по мере ф; поэтому пространство А(ф, Y) полно. Доказательство. Для данной последовательности Коши /i, /j, /3, .. .в А(ф, У) выберем натуральные N(n) так, чтобы l/i-/jU<2-" при t>f>N(n) и Л^(п +i)> ^V(re), и применим предыдущую теорему с gpn = /w(n)-
§ 2.4. ИНТЕГРАЛ ЛЕБЕГА g3 § 2.4. Интеграл Лебега 2.4Л. Пусть ф — мера на X. Теперь будем изучать интег- интегрирование R-значных ср-измеримых функций. Для этого рассмот- рассмотрим сначала функции, множество значений которых — счетное мно- множество в R, далее, используя эти функции, определим верхний и нижний интегралы от произвольных функций, а затем изучим свойства сходимости и непрерывности ф-интеграла. Говорят, что и — это ф-ступенчатая функция, если и — это (^-измеримая функция, множество значений которой — счетное мно- множество в Я, и (здесь мы пользуемся соглашением 0 • °° = 0). Отображение, связывающее вышеуказанную сумму с каждой ф-ступенчатой функцией и, очевидно, R-однородно. Мы докажем, что оно также аддитивно в следующем смысле. Если и и v — это ^-ступенчатые функции и если 2 2/-Ф (и I/2R то и + v — это ^-ступенчатая функция и Ясно, что множество значений функции и + v счетно и каждое из двух счетных семейств {u~l{r}: r<=imu}, {v'Hs): s<=imv) состоит из непересекающихся ф-измеримых множеств, объединение которых ф-почти равно всему X. Обозначая /(г, 8) = ф[и-'{г} П v'Hs}] для г, seR, с помощью 2.1.1 A1), G), (9) находим, что z= 2 г 2 f(r,s)+ 2* 2 /(г,*)- r?R «=R «=R r=R = 2 rf(r,s)+ 2 s/(r, s)= 2 (r + s)f{r,s) = (r,l)=RxR (r,s)?RXR (r,s)=RXR /= I>t<pi(u+v)-i{t}}. t=R 2.4.2. Пусть / — произвольная функция, <р-почти всюду отобра- отображающая X в R. Функция и называется верхней (нижней) функ- функцией для /, если и — это ^-ступенчатая функция и u(x)>f(x) (u(x)^f(x)) для (р-почти всех х. '_
94 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Определим теперь верхний (нижний) ср-интеграл от /, обозна- обозначаемый как точную нижнюю грань (точную верхнюю грань) множества чисел соответствующих всем верхним (нижним) функциям и для /. Мы видим, что если для / не существует верхних (нижних) функций, то ] /dy = оо (\ш /йф = — оо). Говорят, что / — это ф-ннтегрируемая функция, если f — это ^-измеримая функция, верхний и нижний интегралы которой рав- равны. В этом случае определяется который будет обозначаться также Функция называется ф-суммируемой, если она (^-интегрируема и (р-интеграл от нее конечен (принадлежит R). _ 2.4.3. Теорема. Пусть fug отображают у-почти всюду X в R. B) Если f(x)<g(x) для у-почти всех х, то C) Если f(x)> 0 для ф-почги всех х, то J D) Если] /йф<оо, иго J /+ всех х. Г* Г* E) Если О < с < оо, то j (с/) йф = с J / Лр. F) Если \ fdq>+\ gdy-<.°°, mo G) Доказательство. Утверждения A) —E) тривиальны. В силу D) из условия утверждения F) следует, что область определения функции f + g содержит ф-почти полностью X. Если бы заключе- заключение F) было неверно, то мы могли бы выбрать верхние функции
§ 2.4. ИНТЕГРАЛ ЛЕБЕГА 95 и a v для / и g так, чтобы J/SR J/SR и из формулы сложения, доказанной в 2.4.1, вытекало, что и + v является верхней функцией для f + g, а сумма, соответствующая и + v, была бы меньше, чем верхний интеграл от f + g. С Г* Из предположенияJ,/^>J fdyvi из A), F), C) следует, что 2.4.4. Теорема. A) Если f —это (р-ступенчатая функция, то VSR B) .Если / — это (р-измеримая функция такая, что /(ж)>0 для (р-почти всех х, то ) f dq> ^0. D) Если \ f d(p + \ g d(p s R, mo \ (f + g) «ф = J / шр + j g Оф. E) Если f и g — это ((-измеримые функции, f{x)<ig(x) для (р-почти всех х и если либо j ^йф<С оо, либо \ /с?ф>— оо, то F) | || G) Если функция f является (р-интегрируемой, то (8) ?сли функция f является (р-суммируемой, то 1/1 также (р-суммируемая функция. Доказательство. Если / — это ф-ступенчатая функция, то / яв- является для себя и верхней и нижней функцией, откуда i/eR поэтому A) следует из 2.4.3 G). Покажем теперь, что любая ф-почти всюду неотрицательная ф-измеримая функция / является <р"интегРиРУем°й- Если ф(/-1{°о})>0, то J /^ф^ лф(/~1{°°}) Для каждого натурального п,
96 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ так как произведение п и характеристической функции множества /-4{оо} _ нижняя функция для /, откуда в силу 2.4.3 G)J /dtp = оо. С другой стороны, если f(x)< °° для ф-почти всех ж, то можно показать, что построив такую нижнюю функцию и для /, что Ш — верхняя функция для /. Так как множество Р = {х: f(x)>0) содержится ф-почти полностью в объединении непересекающихся <р-измеримых множеств соответствующих всем целым п, возьмем u(x)=tn для ж<=Л„, и(х) = 0 для х^Х\Р. Утверждение C) следует из 2.4.3 A), E). В случае — оо < J/d<p + j" gdy < оо из 2.4.3 F), G), A) по- получаем неравенства fdq> + ]gdq> = — oo первые два. не- неравенства остаются справедливыми, и это оказывается достаточ- достаточным для доказательства D). В случае \ fdq> + ] g dq> = оо приме- применяем последние два неравенства. Для доказательства E) в случае J gdqxCoo сначала из 2.4.3 D) получаем, что f(x)*^g(x)< °° для ф-почти всех х, поэтому g — f является для ф-почти всех х неотрицательной ф-измеримой функ- функцией. Затем из B), C), D) следует, что Если j /+йф — j /-<ftp<=.R, то F) следует из C), D). С дру- другой стороны, если функция / является ф-интегрируемой, то в си- силу B) /+ и /~ также ф-интегрируемы, и из 2.4.3 D), A) вы- вытекает, что либо )idy<oo и ]/+йф<оо, либо J (— /)йф< оо и ~йф<оо. В обоих случаях J f+dq> — J / ^ФеК.... Из D) и B) вытекает, что для каждой ф-измеримой функции Сравнивая это равенство с F), получаем G) и (8).
§ 2.4. ИНТЕГРАЛ ЛЕБЕГА 97 2.4.5. Пусть А с: X, и / — характеристическая функция множе- множества А. Из 2.4.4 A) следует, что если множество А является ф-измеримым, и что всегда Кроме того, если мера ф регулярна, то 1 /йф = <f(A). 2.4.6. Лемма Фату. Если /„ /2, /3, ...— неотрицательные ф-мз- меримые функции, то lim inf j fndtp ^ J lim inf /n (ж) d фж. Доказательство. Так как ф-интеграл от предельной функции можно вычислить при помощи нижних функций, то достаточно доказать следующее утверждение. Если у и ..., уп—конечные положительные числа, и Аи ... ..., Ат — такие непересекающиеся ф-измеримые множества, что lim inf /„(х) ^Уг для жеЛ, и i = 1, ..., т, п-»оо ТО т lim inf \ fnd<p > 2 п-» оо J i=l Пусть 0<t<l. Каждое множество А{ является объединением неубывающей последовательности ф-измеримых множеств В(п = А{ П {х: h(x)>tyi для всех к > п), соответствующих п = 1, 2, 3, ... Следовательно, т ty{(f {Bitn) -> t Zi УгФ (^г) При П -> ОО. J i=l i=l Отсюда вытекает требуемое утверждение, так как t можно взять сколь угодно близким к 1. 2.4.7. Теорема Лебега о монотонной сходимости. Если ju /2, ft, ...— это {^-измеримые функции такие, что для х е X и п = 1, 2, 3, ..., то lim j fnd(p = j lim /n (x) d<px. П-*оо n-»oo Доказательство. Неравенство < следует из 2.4.4B), 2.4.4E), в то время как неравенство ^ вытекает из леммы Фату. ' Г. Федерер
98 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ 2.4.8. Следствие. Если К — счетное множество и каждому соответствует неотрицательная ^-измеримая функция fk, то 2 ,f hdq> = j 2 h (я) d щ. h=K ¦' J hSK 2.4.9. Теорема Лебега о мажорируемой сходимости. Пусть h — это (^-суммируемая функция. Если Д, /2, ft,...ug такие <р-изме- римые функции, что 1/„(жI <h(x) для п = 1, 2, 3, .... fn(x)-+g(x) при «^-~ для геХ, то 0 д J /й J й п-»-оо. \\fn — g\d<p->-0, откуда J /Пйф -*¦ J Доказательство. Применяя лемму Фату к последовательности неотрицательных ф-измеримых функций 2h—\fn — g\, поточечно сходящихся к 2й, находим, что Г I Г Г = lim sup J | /n — g | йф > lim sup J /пйф — J так как функции /„ и g, мажорируемые функцией h, ф-сумми- руемы. _ 2.4.10. Для А <= X в R-значной функции /, область определения которой ф-почти полностью содержит А, положим по определению [* / йф - j* fAd(f, §,fd<p= J A a где /л(ж) = /(а;) для х<= A, fA{x) = Q для хе=Х\А. Если g(x)X) для ц>-почти всех х и ¦ф(А) = ) A ro i|3 — же/)а на Х и все ц>-измеримые множества ^-измеримы. Кро- Кроме того, если (f-измерима функция g, то из 2.3.3, 2.4.8, 2.4.4 F) следует, что для каждой ^-измеримой R-значной функции /. Если X совпадает с R либо с R и — <» < а < Ъ < «>, будем писать ь
§ 2.4. ИНТЕГРАЛ ЛЕБЕГА 99 bee Следовательно, ) /йф + J f dq> = \ f йф, если a^b ^ с и множе- а Ь а ство {х: х^Ь} является ф-измеримым. 2.4.11. Теорема. Если f — это ф-суммируемая функция и е >0, то существует б > О такое, что всякий раз, когда множество А является (f-измеримым и ф(Л)«?б. Доказательство. Так как gn(x)= inf {\f(x) I, n) \ \j(x)\ при п t °° для ф-почти всех х, по теореме 2.4.7 можно выбрать такое нату- натуральное п, что Заметим далее, что J.I/ld<P для каждого ф-измеримого множества Л, и возьмем б = е/Bп). 2.4.12. Полунормой на векторном пространстве V называется такая функция а на V, что 0<о(х)<°°, а(сх)= \с\ -а(х), а(х + у) ^а(х) + а(у) при х, y^V и c^R (здесь 0*°° = 0). Отсюда следует, что {х: а(х)<°о} является векторным подпространством пространства V. (Если 0 < а(х) < оо для Q?=x^V, то о является нормой.) Основным результатом о полунормах является следующая тео- теорема Хана — Банаха. Если а — полунорма на V и / — линейная функция, отобража- отображающая векторное пространство W пространства V в R так, что f^a\W, то f можно продолжить до линейного отображения g про- пространства FeR так, что g ^ а. Используя принцип максимальности Хаусдорфа, сведем задачу к случаю, когда V порождается подпространством W и единствен- единственным вектором |. Так как при х, y^W, находим, что sup(/(*)-o(*-5): x^W}<m Выбирая с е R так, что с лежит между sup и inf, положим g(w + tl) = f(w)+tcvvji weW, fsR. Из теоремы вытекает следствие.
100 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Для каждой полунормы а на V и каждого v&V существует та- такое линейное отображение g из V в R, что g(v) = a(v) и g^a. Достаточно положить f{tv) = ta(v) при feR. Классическими полунормами на пространстве А(<р, Y) (см. 2.3.8) являются функции ф(Р), определяемые для 1^р<°° по формулам ... <Р(р) (/) = (IIЛР ^фI/Р в случав 1 < р< оо, <p<.)(/)=»inMr: ф{а;: 1/(^X1 > г> = 0>. С полунормой ф(Р) связано пространство Лебега ^р(ф» Y) = A(q>, У)П{/: ф(р)(/)<°° и / счетно ф-измерима). Для краткости будем писать Ьр(ф, К)«=Ьр(ф). (В случае р<оо условие «/ счетно ф-измерима» избыточно.) В случае р = 1 или р = °° очевидно, что <р(Р) является полунор- полунормой; для 1<р< оо это будет доказано в 2.4.15. Если w,, и2, и3, ...еА(ф, У) и un(x)^>-v(x) для ф-почти всех ж, то Это следует из 2.4.6 в случае 1 < р < °° и очевидно в случае Если / е Lp (ф, Y) и 1 < р < оо, то /|pdq> при 0<г<оо. Выбирая г так, что rp+1 = J | / \р dq>, получаем Кроме того, !/и<ф(оо)(/). Каждая ф(р)-последовательность Коши Д," Д, /3, ... является так- также I ^-последовательностью Коши, т. е. в силу 2.3.10 имеет под- подпоследовательность gu g2, gs, ..., которая ф-почти всюду сходится к функции /геА(ф, Y). Отсюда следует, что Ф(р) (/п — ^Х lim inf ф(Р) (/„ — gm) для каждого п, и поэтому ф(р) (/„ — h) -*¦ 0 при п -*¦ °°. Следовательно, Ьр(ф, Y) полно относительно ф(Р). Отметим также, что функции, принимающие только конечное число значений, образуют (р(р)-плотное множество в Ьр(ф, Y). Согласно введенным выше определениям / е 1ц (ф, Y) тогда и только тогда, когда /<=А(ф, Y) и]|/|Лре!1. Построим теперь
§ 2.4. ИНТЕГРАЛ ЛЕБЕГА 101 таким образом, чтобы при любом а е у*, где У* — пространство всех непрерывных ве- щественнозначных линейных функций на У с двойственной нормой loci =sup{<y, a>: у е У, |г/| < 1}. Для этого рассмотрим непрерывные линейные отображения такие, что для / «= Li (ф, У), ае У*, уеУ <а, о(/)> = j(а• /)<% откуда |о(/)|<фA)(/), <а, г(у)> = <у, а>, откуда |т(у) I = \у\. Заметим, что о~' (im г) является ф^-замкнутым векторным подпро- подпространством пространства Ь^ф, У) и г «о: u"i(imx)-*-Y — непрерывное линейное отображение. Кроме того, о-1Aтт) = Ь,(ф,У), так как векторное подпространство J-"i (<р» ^) П {/: im / состоит из конечного числа элементов}, очевидно, содержится в o'^imx) и фA,-плотно в 1^ (<р, Y). Сле- Следовательно, можно положить для / е L, (<р, У), при этом | J / йф | < J 1 /1 йф. (Конечно, эта конструкция становится проще, когда imx = = (У*)*. В этом случае говорят, что пространство У рефлексивно. В частности, каждое конечномерное нормированное векторное про- пространство рефлексивно.) 2.4.13. Пусть и, v, а, Р — положительные числа и Так как (—In) — строго выпуклая функция, то In (аи + р») 3* a In (и) + ? In (v). Применяя ехр, получаем неравенство аи связывающее среднее арифметическое и среднее геометрическое чисел и, v с весами а, р. Равенство имеет место тогда и только тогда, когда и = v.
102 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ 2.4.14. Неравенство Гёльдера. Если то при /^Ьр(ф) и geLg(cp), причем равенство имеет место тогда и только тогда, когда l/|psign/ и \g\qsigng являются у-почти всюду линейно зависимыми. Доказательство. В случае cp(p) (/) > 0 и cp(9) (g) > 0 рассмотрим функции и, применяя 2.4.13 с а = р~1, $ — q~l, ползаем Ф(р) ИГ1 Фм (8)-1 J I /? | *Р = J ^% < < J (aF + pG) ^ = a f Fdq> + p J 2.4.15. Неравенство Минковского. ?сли 1<р<«>, го пРи /> ? е Lp (ф, У), причем равенство имеет место тогда и только тогда, когда существуют такие неотрицательные числа а, Ь, что а + Ъ = 1 и для у-почти всех х (s)l, \g(x)\=b\1(x)+g(x)\. (Если Y — пространство со скалярным произведением, то ра- равенство имеет место тогда и только тогда, когда fug являются (р-почти всюду положительно пропорциональными.) Доказательство. Заметим, что / + g e Lp (ф, У), так как Полагая q = p/(p—l), получаем, что <Р(9,A/ + ?1р-1) = <Р( Отметим далее, что 1<l/l • I/ + g\-l + \g\ и, используя 2.4.14, заключаем Фс»>(f + g)p< [ф(«(/) + Ф<р> (8) 1ф(*>(/ + 8)Р'1- 2.4.16. Теорема. Пусть либо (i) 1<р<«> и q=p/{p~i), либо (И) р = 1 и q = a», либо (ш) р = °° и q = 1. функция /: X -»- R счетно (р-измерима, то Ф(р)(/) = sup{j/u<ty: «еЦ(<р) и ф№(и) = l}. Кроме того, эта верхняя грань не изменится, если дополнительно
§ 2.4. ИНТЕГРАЛ ЛЕБЕГА ЮЗ потребовать, чтобы функция и удовлетворяла условию signu«= = sign /; в случае р < °° и 0 < ф(Р) (/) < °° верхняя грань дости- достигается на функции Доказательство. Сначала рассмотрим случай, когда 0 < <р(Р) < °°. Верхняя грань не превосходит ф(Р)(/). В случае 1<р<« это следует из неравенства Гёльдера, а в остальных случаях триви- тривиально. Если р < оо и и = [1/1/ф(Р)(/)]*"'sign/, то fu ЙФ = J | / 1Р <*ф/ф(р) iff-1 = ф(р) (/). В случае р = 1 имеем u = sign/, откуда ф(Оо)(м)=1. В случае К < р < оо получаем Рассмотрим случай р = °°. Пусть множество ix: f(x)?sO) раз- разбито на непересекающиеся ф-измеримые части Аи А2, А,, ... так, что 0 <ц>(Аi)<°°, и ^ — характеристическая функция множества Аг. Пусть 6i, е2, е8, ...— положительные числа с суммой 1. Тогда функция и = 2 ei< i=l удовлетворяет условиям J | и \ dq> = 1, sign и = sign / и Если 0<t<<p(ai)(f), можно взять Ai с: {х: |/(ж)|>0 и et близ- ким к 1 и сделать ] и/ йф > exf близким к t. В случае ф(Р) (/) = » представим / в виде поточечного предела последовательности ограниченных ф-измеримых функций gn таких, что (fix: gn{x)?= 0> < оо и \gj < \gn+l\ < I/I. Тогда в силу 2.4.7 Ф(Р)(gn)t ф(Р)(/) = °° при rat00. Кроме того, (п)<°° для каждого п, откуда так как gnu< I/I • \и\ =f -(и -signи -sign/). 2.4.17. Пусть ф — мера на X и / — вещественная ^-измеримая функция. Тогда с помощью неравенства Гёльдера и теорем Лебега
104 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ о сходимости легко получить следующие утверждения. Р = ip: ф(р) (/)< °°} — выпуклое множество из R. Функция, отображающая p°=C\osP в Ф(Р)(/), непрерывна. Множество U — {и: 0 < фA/ц) (/)<<»} выпукло (здесь 1/0 = °°). Функция, отображающая u<^U в log<f(l/U)(f), выпукла. Если ф (X) = 1, то ф(8) (/) =? ф(() (/) для 1 ^ s < t ^ °°. 2.4.18. Теорема. Пусть и отображает X в Y и f отображает щ(ц>)-почти полностью Y в R. A) ?сш / ° и — это ^-измеримая функция, то функция f явля- является щ (ф)-измеримой и B) 2?слц / — эго и#(ф) -измеримая функция, мера ф регулярна и ц>(Х)< оо, то функция f°u является у-измеримой. Доказательство. Первое заключение утверждения A) очевид- очевидным образом следует из последнего утверждения п. 2.1.2. Второе заключение утверждения A) очевидно, когда / — характеристиче- характеристическая функция некоторого подмножества пространства У; оно сле- следует из 2.3.3 и 2.4.8 для неотрицательных / и из 2.4.4 F) в об- общем случае. Утверждение B) является следствием 2.1.5 D). 2.4.19. Неравенство Иенсена. Если 0<ф(Х)<оо, Y —банахово пространство, С — замкнутое выпуклое множество из Y и F — не- непрерывная неотрицательная выпуклая функция на С, то (X)]< J (F о е)йф/ф(X) для каждой jeLjfip, Y) такой, что <р[.ХЛ§Г1(С)] = 0. Если g принимает конечное число значений, то это утвержде- утверждение очевидно. Если множество С и функция F ограничены, то, приближая функцию g в Ь4(ф, Y) функциями, область изменения которых конечна и принадлежит С, и используя 2.4.9, получаем требуемое неравенство. В общем случае для каждого натураль- натурального п рассмотрим замкнутое выпуклое множество и положим Ап = g~l(Cn). Заменяя ф мерой ц>^-Ап, получим в силу уже доказанного, что n Осталось заметить, что ф(Х\Л„)-»-0 при в-*-» в силу 2.1.3 E).
§ 2.5. ЛИНЕЙНЫЕ ФУНКЦИОНАЛЫ 105 § 2.5. Линейные функционалы 2.5.1. Решеткой функций на X называется такое множе- множество L функций, отображающих X в R, которое удовлетворяет следующему условию. Если 0 =? с < оо ц если fug принадлежат L, то / + g, cf, inf {/, g) u inf {/, с} принадлежат L; в случае f s? g функция g — f также принадлежит L. Здесь используются согла- соглашения inf{/, g}(x)=ini{f(x), g(x)}, inf{/, с)(x) = inf{/(*), c> для всех х е X; аналогично f^g тогда и только тогда, когда j(x)^g(x) для всех х е! Заметим, что если fug принадлежат L и g > 0, то sup {/, g} = = / + g — inf {/> g} принадлежит L; следовательно, /+ и /~ = /+ — / принадлежат L. Если L — решетка функций на X, то подмножество также является решеткой функций на -X". Примерами решеток функций на X служат: множество всех функций, отображающих X в R; подмножество функций, непре- непрерывных относительно некоторой топологии на X; подмножество функций, суммируемых относительно некоторой меры на X. Если ф — мера на пространстве X и L — подрешетка решетки всех (р-суммируемых функций, то ф-интеграл задает отображение решетки L в R (f^L отображается в ] /с?ф), которое сохраняет линейную структуру B.4.4 C), 2.4.4 D)), упорядоченность B.4.4 E)) и монотонную сходимость B.4.7). Следующая теорема показывает, что эти свойства полностью определяют операцию ин- интегрирования по Лебегу. 2.5.2. Теорема. Пусть L — решетка функций на X, функционал X отображает L в R и следующие условия выполняются для любых /. g, К К К ...ei: (f g) () (g) из 0 =? с < оо следует К (cf) = сК (/); из f>g следует K(f)>K(g); из hn\ g при re t оо следует K(hn)\ %(g) при п t oo. Тогда существует такая мера ф на X, что ^ (/) = ) / d<p для каждой f e L. Доказательство. Заметим, что h(f)> Я@ • /)= 0 для любой 1 1Ь\ Пусть А а X. Будем говорить, что последовательность fu /2) /з, ... мажорирует множество. А, если /neZ,+, /„ </n+i для п =
106 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ = 1, 2, 3, ... и lim/„(х)^ 1 при *е4. Положим по определению Ф (A) =inf {lira к (/„): flt /2, /3, ... мажорирует А}. П-»оо Функция ф — мера на X. Действительно, пусть Ac U BjcI Если для каждого i последовательность /<it, /«,s, /<,»> ... мажо- мажорирует В{, то последовательность функций п gn = 2 /i,n i=l мажорирует 4 и Х (,) i=li->oo g, l, §г(ж)<1 Зля хеД g(x)=0 для х& то k(g)<tf(A). Действительно, пусть Д, /2, /», ... мажорирует А, тогда = inf {/„, g) t g при rat00, откуда Далее, применяя 2.3.2 G), покажем, что каждая f из L+ яв- является ф-измеримой функцией. Пусть Т <=Х а — °° <а< 6 < оо. До- Достаточно доказать неравенство Это неравенство тривиально в случае о < 0, поэтому будем считать, что а > 0. Пусть последовательность gi, g2, gs, - • • мажорирует Т; положим fe = (Ъ - a) "'[inf {/, Ы - inf {/, д>], kn = inf {gn, Ы. Поскольку 0 < kn+i — kn^ gn+i — gn и А(ж)= 1 при /(жK* 6, А(ж) = 0 при f(x)^a, находим, что две последовательности функций к„ и gn— kn мажо- мажорируют множества В = Т П {ж: /(»)> 6} и 4 == Т П-{*: /(ж)< о)
§ 2.5. ЛИНЕЙНЫЕ ФУНКЦИОНАЛЫ 107 соответственно; следовательно, lim X (gn) = lim [Я, {кп) + k(gn- kn)] > ф (В) + <р (А). П-ЮО 7»-»оо Теперь докажем, что Я,(/) = J fdy для f^L+. Полагая /, = inf {/, t) для t > О, заметим, что если е > 0 и к — натуральное число, то О < /*е (х) - /(»_,), (ж) < е для х <= X, /*•(«) —/(*-1)в (ж) =е при f(x)>ke, /м (*)-/(»-!>.(«) = 0 при /(»)<(&-1)е. Следовательно, *¦ (/fte — /(ft-i)e) > еф {ж: / (а;) > кг} > j (/(ft+i)E — /ftE >?ф {х: f (x)>(fc + 1)е}>Я,(/ откуда, суммируя по А; от 1 до п, получаем, что ^ (/ne) > j (/(n+i)8 — U) dcp^tk (/(„+S)e — /2Е). Так как /ne t / при п t °°, то Я, (/) > J (/ — /Ё) ^ф > Я, (/ — /2е), и поэ- поэтому Я,(/) = J /йф, так как /,4 0 при е I 0. Наконец, если / <= Z-, то /+ s L+ и /" е Z,+, откуда 2.5.3. Обычно мера ф, удовлетворяющая заключению предыду- предыдущей теоремы, не единственна (см. 2.5.4, 2.5.14). Однако каждая такая мера ф удовлетворяет равенству Ф (х: f (ж) > 0 = lim Ь *• [inf {/. « + А} — inf {/, t}] при / е L+ и i > 0. Таким образом, Я, однозначно определяет огра- ограничение меры ф на класс Fo всех множеств вида {х: f(x)>t}. Применяя 2.1.3 D) и E), получим, что то же самое справедливо для классов U An: ijC^c^c ... принадлежат F0L 71=1 J @0 » П Ап: Аг zd A2 zpA3 r>... принадлежат Fu ф(Лх)< оо}. П=1 ) Хотя эти свойства имеют место для всех мер ф, удовлетворяющих заключению п. 2.5.2, меру ф, построенную в приведенном выше
108 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ доказательстве, можно охарактеризовать следующим дополнитель- дополнительным свойством, называемым L-регулярностыо: ц>(А)< °° тогда и только тогда, когда существует такое W^Ft, что А с: W и q>(A) — q>(W)< °o. Докажем это свойство и покажем также, что L-регулярная ме- мера ф удовлетворяет следующим четырем условиям. Если ф(Л)< то и множество А является <р-измеримым, то <р(А) равно верхней грани множества чисел ц>(К), соответствующих всем множествам К вида К = {х: h(x) > 1}\Е с А, где h^L+ и Я е F,. Для каждой неотрицательной ^-суммируемой функции и и каж- каждого г > 0 существует такая функция k e Z/1", что j | к — u\d(f<i 4e. Множество Т содержится в объединении счетного семейства множеств конечной <р-меры тогда и только тогда, когда характери- характеристическая функция множества Т не превосходит суммы некоторого ряда функций из L+. Множество В является <р-измеримым тогда и только тогда, когда для каждой f^L+ ^-измеримо множество Вп{х: /(ж)> 1). Пусть (f(A)<°o. Выберем последовательности /<_,, /<,г, /i|S, ..., которые мажорируют А и для которых i-юо j-*ao И ПОЛОЖИМ Тогда gi+l,j < gi,j < gi,j+l, Bi+lJ с B{J <= Bu+l, 3=1 q> G4) = lim Ф (Btj) < A - «-!)-» lim К (fiti), j-* OO j-* 00 Ac=W= П VitsF,, ф() i=l t-»t» Предположим теперь, что множество А является ф-измеримым, а — характеристическая функция множества А и е > 0. Выбирая i-и / так, что <рD\Ву)< е и %(h)^ ф(Л)+ е, где h = A - i-^
§ 2.5. ЛИНЕЙНЫЕ ФУНКЦИОНАЛЫ 109 находим, что Ви с: С = {х: h(x)&* 1), J (h - а)" ^ф < ф (Л\С) < ф {А\Ви) < в, 2 j (A — а)~ йф < Зе. Выбирая Е ^ Fi так, что С\4 с ? и ф (?) < Зе, получаем А и Если и = а, то возьмем k = h; отсюда сразу следует случай, когда и — конечная линейная комбинация характеристических функций. Используя возрастающую сходимость, получаем утверждение для произвольной ф-суммируемой и > 0. Третье условие немедленно следует из определения <рB"). Чет- Четвертое условие получаем из третьего, используя 2.1.2 и 2.1.3 B). Следующий пример показывает, что четвертое предположение теоремы 2.5.2 не следует из первых трех: X — множество всех на- натуральных чисел, L — множество всех сходящихся последователь- последовательностей действительных чисел и Я,(/) = lim /(га) при /ei. П-»°о 2.5.4. Теперь проиллюстрируем предыдущую теорию двумя про- простыми примерами (основывающимися на 2.5.17). . A) Пусть р: Ra->-R, р(ж) = ж1 для x = (xt, a;,)eRJ, L, — мно- множество всех функций и ° р, соответствующих непрерывным отобра- отображениям и: R->-R, и ^ (и°р) = J и йЗ?1 для любой и°р е Lv. о Тогда Z»i-регулярная мера <р,, соответствующая функционалу Я,и удовлетворяет равенству Ф!(А) = 2"[р{А) П it: 0 < t < 1}] для любого А <= R2. B) Пусть Ьг — множество всех непрерывных действительных функций на R2 и 1 / (*i °) d^t Для любой / е= Lt. Тогда 1<2-регулярная мера ф2, соответствующая Я,2, удовлетворяет равенству 5м [%-l(A) nit: 0<t< 1}] для любого А = R2, где 1: R-^R2, !(*)-=(*, 0) для «eR. Отметим, что в R2 все борелевские множества фг-измеримы, но не все ф!-измеримы; например, множество R2 П ix: x2 S* 0} не яв-
HO ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ ляется cpi-измеримым. К тому же Li<=-L2, hi — Xz\Li, поэтому заклю- заключение теоремы 2.5.2 имеет место и для Lu A,,, q>i, и для Lit Xi} <р2. Конечно, мера ф2 не является А-регулярной. 2.5.5. Теорема. Пусть L — решетка функций на X, ц отобра- отображает L в R и следующие условия выполняются для любых /, g, hlt h2, ft,,...ei: из 0 ^ с < то следует ц (cf) = сц (/); sup ц (L П {к: 0 < к ^ /}) < »; при nt<» следует n(hn)-+ n(g) при п-*¦<». Пусть ц+ иц" — такие функции на L+, что р / е L+. ГогЗа существуют такие ЬЛ-регулярные меры г|;+ и \J:~ на X, что = f / d^+ и уГ (/) = J fdty+ — \ jdif при Кроме того, если f<=L+, то существует функция h на X, которая является нижним пределом последовательности функций i,eL* таких, что kn^f, и для которой h(x) = j(x) для т$1+-почти всех х, k(x)=0 для ty~-no4Tu всех х. Доказательство. Если f^L+, то из f^g&L* следует />/— gezL+, откуда поэтому n+(f)— fjr(/)«? м-(/)^ — ц~(/)+ м-+(/), так что Пусть далее / и g принадлежат L+. Если f + g^hsL+, то /5s& = inf {/, М е Z,+ и g > h — к е= L+, откуда поэтому (j,+ (/)+ (J-+(ir)^ M-+ (/ + ?). Так как противоположное не- неравенство очевидно, заключаем, что функция ц+ аддитивна на L+. Ясно, что ц+ положительно однородна и монотонна. Для того чтобы показать, что ц+ сохраняет возрастающую схо- сходимость, предположим, что hn t g при п t °°7 где g и все hn при- принадлежат Z-+. Если g>ke^L+, то /я = inf {Л„, к) t й при n t «>,
§ 2.5. ЛИНЕЙНЫЕ ФУНКЦИОНАЛЫ Ш откуда ц (к) = lim ц (/„) < lim \i+ (hn)t следовательно, fx+(An)t \i+(g) при га t <». Применяя теоремы 2.5.2 и 2.5.3 к функционалу X => ц+, полу- получаем такую ^-регулярную меру т|э+ на X, что l*+(/)=J fdr\>+ при /et+. Аналогично, так как (i~ = (—ц)+, получаем такую ^-ре- ^-регулярную меру ф~ на X, что |л- (/) = J / dty~ при / е Z,+. Кроме того, если f<^L+, fe>gneL+ и p(gn)-+ \i+(f) при П -*¦ оо, ТО gn I di|>- = ц" Ы = [i+ (Ы - [i Ы < ц+ (/) - |i (gn), а значит, левые части стремятся к нулю, когда п стремится к °°. В силу 2.4.12 последовательность gu g2, g3, ... сходится к / по мере г|э+ и к 0 по мере г|э~. Дважды применяя 2.3.10, получаем подпоследовательность &t, k2, ks, ..., такую, что HmA;n(a;) = f(x) для 1|з+-почти всех х, П-*оо lim кп (х) = 0 для г|г--почти всех а;. 71-» ОО Наконец, положим h (x) = lim inf kn (x) для всех х^Х. П-»оо 2.5.6. Функция (х, удовлетворяющая условиям теоремы 2.5.5, называется интегралом Даниеля на L. Под монотонным интегралом Даниеля понимается функция "к, удовлетворяющая условиям тео- теоремы 2.5.2. В 2.5.7, 2.5.13 и 2.5.12 (где рассматриваются вектор- векторные функции) мы увидим, что интегралы Даниеля часто появля- появляются как линейные функционалы, ограниченные относительно ос- основных полунорм классического анализа. Первая часть доказательства теоремы 2.5.5 показывает, что ад- аддитивности jj. достаточно для эквивалентности: \i+ (/) < °° тогда и только тогда, когда (j,~ (/) < «> при /е?,+; кроме того, легко проверить, что если L — векторное пространство, то fx+ + (j,- называется вариационным интегралом, a i|)+ + if" — вариа- вариационной мерой, соответствующей интегралу ц.
112 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Иногда удобно вместо n(f) применять одно из следующих обо- обозначений: 2.5.7. Теорема. Пусть q> — мера на X, 1 < р < °° ц ц: ? = Ьр(ф)->- R — линейная функция такая, что M = sup (l(j,(/) I: ф<р)(/) = 1) < °°. Кроме того, предположим, что: либо (i) 1 <р < °°, q = р/(р — \); либо (И) /? = 1, q = °° и X счетно у-измеримо; либо (ill) /) = оо, g = 1, и если /lf /2, f3, ... и g принадле- принадлежат L, то из fnf g при nf°o следует ц (/„) -»¦ ц (g) при п -*¦ °°. Тогда существует такая функция А;еЬ,(ф), что М- (/) = J /^ ^Ф пРи / s L. Кроме того, q>(q)(k) = M и функция к единственна у-почти всюду. Доказательство. Замечая, что (j, — интеграл Даниеля на L, оп- определим ц+ и ц- так же, как в 2.5.5. Пусть U — подмножество пространства L,(cp), состоящее из тех неотрицательных функций и, для которых при /eL+. Если ве(/, то \ fudq>^. Mcp(p) (/) для всех /ei+; из 2.4.16 следует, что ф(д)() Если u,v^U, то м> = sup {и, у) ^ ?/. Действительно, если g — характеристическая функция множества {х: u(x)>v(x)}, то для J fwdtp. Если Ы), м2, Мз, ... принадлежат U и un t w при га t °°, то v^U. Частично упорядочим U, полагая, что и < v тогда и только тогда, когда (р{х: и(х)> v(x))—Q и <р{ж: и (ж) < у (я) } > О, и определим возрастающую функцию т: V-*¦ U: 0<*<М} по
§ 2.5. ЛИНЕЙНЫЕ ФУНКЦИОНАЛЫ ИЗ формуле т(ы) = <р(в)(ы) в случаях (i) и (ш); 00 » т(ы) = 2i2~iq>(Ai)~1) ийф в случае (ii), i=l Аг где Аи А2, А3, ... — ф-измеримые множества конечной ф-меры, объединение которых равно X. Из установленных выше свойств U следует существование функции к+ ^ U, для которой x(A;+) = sup imx, следовательно, неравенство k+<u^U никогда не имеет места. Докажем, что ц.+ (/) = J fk+ dq> при / е L+, Предположим про- противное. Тогда можно выбрать g e L+ так, что \i+ (g) > J gk+ dq>, и построить по 2.4.16 такую функцию г, что 0<ге=Ь,,(ф), {х: г(х)> 0> = {х: g(x)>0), [л+ (g) — J gk+ d(f > j gr йф > О. Определяя интеграл Даниеля v на L по формуле для /ei, и применяя 2.5.5, получаем //+-регулярные меры о+ и о~, и функ- функцию h^ L+ такие, что v(/)= j/da+-J/da- при /el, Обозначая через s характеристическую функцию ф-измеримого множества 5 = {х: h(x)>0), для которого о" (S) = 0, получаем, что при }*= L+, откуда А+ + sr e Z7. Так как к+ нельзя строго мажорировать элементами множества U, то О = фЬ: s(x)r(x)>O) = (f{x: h(x)>0), откуда Ф(Р)(А) = О, ц+(й) = О, v(fe) = O, что находится в противоре- противоречии с v(A) = v+(gr)>0. 8 Г. Федерер
114 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Аналогично, так как jjt =(—|i)+, построим функцию А_еЬ,,(ф), для которой \i~ (/) = j /Л_йф при |ei+. Ясно, что основное заключение теоремы справедливо для к = к+ — — к-, а равенство ф(9) (к) = М и единственность к следуют из 2.4.16. 2.5.8. Отметим, что из случая (ш) предыдущей теоремы выте- вытекает теорема Радона — Никодима в следующей форме. Если ф —мера на X и рь — интеграл Даниеля на Ь„(ф), то су- существует функция fceLi (ф) такая, что Достаточно доказать, что М < °°. Выбирая последовательность функций /веЬ»(ф) так, что ф(<х>)(/п)<1 и 1|л(/„)|-*М при n-»°°, положим g(я) = sup{|/„(#)!: /г = 1, 2, 3, ...} для х^Х. Заметим, что g e= L» (ф), ф<~)(|г)<1 и для га = 1, 2, 3, ..., откуда делаем вывод, что 2.5.9. Из случая (И)' теоремы 2.5.7 вытекает следствие. Если К — монотонный интеграл Даниеля на L, <р — это L-регу- лярная мера, соответствующая К, X счетно (f-измеримо и \i — ин- интеграл Даниеля на L такой, что npufe=L, то существует такая ^-измеримая функция к, что кроме того, функция к единственна у-почти всюду и <р(е»)(Д;)<1. Утверждение тривиально в случае L — L, (ф). В общем случае L может быть собственной подрешеткой решетки Li,((p), но 2.5.3 показывает, что решетка L является ф{1) плотной в 1ц(у); следо- следовательно, |г имеет единственное фA)-непрерывное продолжение рьг на Ь[(ф) такое, что 2.5.10. Обсудим теперь необходимость условия «X счетно у-из- меримо» в случае (И) п. 2.5.7. Опустим это условие. Спрашива- Спрашивается, всегда ли существует ф-измеримая функция к такая, что М- (/) = J № dq> для всех ф-суммируемых / (при этом мы не требуем счетно ф-измеримости к)?
§ 2.5. ЛИНЕЙНЫЕ ФУНКЦИОНАЛЫ Ц5 Пример 2.5.11 показывает, что в общем случае ответ отрица- отрицательный. Однако ответ будет положительным, если наше условие заме- заменить следующим: существует семейство G непересекающихся ср-ив- меримых множеств конечной у-меры такое, что каждое множество конечной <р-меры содержится ц>-почти полностью в объединении некоторого счетного подсемейства семейства G. Применяя теорему к каждой из мер ц>^-А, соответствующих A^G, получим функцию кЛ, равную 0 вне А, и определим функцию к как сумму всех этих функций кА. Если ф — произвольная борелевски регулярная мера на сепа- рабельном метрическом пространстве X, то вышеуказанное условие следует (см. 2.2.3) из континуум-гипотезы В самом деле, вполне упорядочивая класс С всех замкнутых множеств конечной ср-меры так, чтобы каждый собственный на- начальный отрезок был счетен, определим G как семейство множеств, получаемых вычитанием из каждого элемента класса С объедине- объединения предшествующих ему элементов. Довольно неожиданная ситуация возникает, когда предыдущий результат (в предположении справедливости континуум-гипотезы) применяется к следующему примеру (основывающемуся на 2.10.2, 2.10.7, 2.10.11, 2.5.17, 2.6.5): X = R2, ц> = Ж, р: R2-*R, р(х) = хг для ж = (ж„ ^eR1, для «^'-суммируемых /. Размышляя о геометрическом смысле со- соответствующей функции к, читатель согласится, что к не может быть 5?2-измеримой. Конечно, такая функция к бесполезна для каких-либо собственно геометрических исследований. По мнению автора, этот пример ясно показывает преимущество конструктив- конструктивного определения дифференцирования B.9), которое, к сожалению, применимо только в случае локально конечной меры q>. Вышеуказанное условие выполняется также в случае, когда <р — радонова мера. Здесь мы определим G как максимальное семейство непересекающихся компактных множеств К таких, что К Л V = 0 или ср (К Л V) > 0 для каждого открытого V сг X. Так как каждое множество конечной ср-меры содержится ф-почти полностью в объединении некоторого счетного семейства компакт- компактных множеств, то нужно только проверить, что для каждого ком- компактного множества С семейство счетно и ф-почти полностью покрывает С. Действительно, С со- 8*
116 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ держится в некотором открытом множестве V с компактным за- замыканием, поэтому cp(F)<°°, и Gc содержится в счетном семействе СП {К: <р(ЯПУ)>0}. Если бы выполнялось неравенство (p(C\U6?c)>0, то множество C\UGC содержало бы такое компактное множество У, что <р(У)>0, и наличие семейства G U {spt((pL У)} противоречило бы максималь- максимальности семейства G. 2.5.11. Пример. Пусть для любого /^{1, 2} Y} — множество с кардинальным числом К,-, щ — считающая мера на У, и fa — такая мера на Yh что fa = 0, когда А <=¦ Y} и card A < К Л fa = 1, когда А с: У, и card А = X j. На декартовом произведении X = YlXY2 рассмотрим произведения мер (см. § 2.6) at X р2 и р\ X а2, решетку функций и такие линейные функционалы Я и (j, на L, что Я (/) = J /d (ax X Р2) + j /«(Рх X а,), (л (/) = J /d К X Р.) при /ei. Ясно, что цA/|)<Я,(|/1). Обозначая L-регулярную ме- меру, соответствующую А, через ср, применяя 2.5.3, получаем, что Li(cp) = Z,. Покажем, что не существует (^-измеримой функции к такой, что V'(f) — j fkdy при Предположим, что такая функция к существует. Для каждого цеУ| характеристическая функция / множества {и} X У2 принад- принадлежит L и I1 (/) = J к dy = ^ к (и, v {>У Рг-измеримое множество {v: к (и, и)>0) имеет положительную Рг-меру, его дополнение в У2 имеет рг-меру 0, следовательно, card (у: А:(и, i;)<0>< К,. Отсюда следует, что card {(u, v): к (и, v)< 0) =(card У4)- Si= X4. С другой стороны, для каждого v^Y2 характеристическая функ- функция g множества YlX{v} принадлежит L и О = \i (g) — j к d<p — j к (и, v
§ 2.5. ЛИНЕЙНЫЕ ФУНКЦИОНАЛЫ Ц7 поэтому множество Ы: k(u, i;)<0) не пусто. Следовательно, card {(и, v): к (и, v)<0) «gcard Y2= Х2. 2.5.12. Теорема. Пусть заданы следующие объекты. A) Нормированное сепарабельное векторное пространство Е с нормой v. B) Пространство Е* всех v-непрерывных линейных отобра- отображений пространства Е в R с нормой v* (двойственной к v), зада- задаваемой формулой v* (a) = sup {(у, а>: v(y) = 1} при а «= 5*, и со слабой топологией, порожденной множествами Е* П {а: а < <г, а> < Ь>, соответствующими всем г g ? и а, ft e R. C) Решетка L функций на X такая, что L+ содержит счетное множество К, для которого 2 /(х)^ 1 при любом геХ, D) Векторное пространство Q функций, отображающих X в Е такое, что: из f e= L, у е= Е следует f ¦ у eQ; из « е Q, а «= ?* следует a»fflei,v«(oel; из kisQ, v ° й ^ / ^ i+ следует существование такого % ^ Q, что v »1 = /, (v • <о) • 1 = / • ю. E) Линейное отображение Т из Q в R такое, что при f ^ L+ и 6 6Q из v °|„40 wpu га t °° следует Т(%п)-* 0 гари /г ->- °о. Тогда К является монотонным интегралом Даниеля на L+, и ес- если ф — это 1Л-регулярная мера, соответствующая %, то существует ^-измеримая функция к со значениями в пространстве Е* со сла- слабой топологией такая, что функция v* ° k является (р-измеримой, v* [к (х) ] = 1 для у-почти всех х, Т (ю) = J <ю(ж), А;(ж)> dyx при « е? Q. Такая функция к единственна ((-почти всюду. Каждый элемент пространства Q является (f-измеримым. Для каждой ((-измеримой функции т) со значениями в Е действительная функция <т), кУ так- также ((-измерима; если v ° Т) является ((-суммируемой, то и <т), кУ также ((-суммируема.
118 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ (К называется вариационным интегралом, соответствующим Г, а ф — вариационной мерой). Доказательство. Для доказательства аддитивности Я, предполо- предположим, что / е= L+, g <н L+, ta«=Q, v ° <л < f + g. Полагая h — inf {v ° ю, /}, возьмем такое \ <= Q, что v о % = h, (v • a) ¦ | = ft ¦ w, и получим, что v ° (со — ?) = (v ° to) —h ^ g, откуда а следовательно, Я(/ +g)<! A,(/) +A,(g). Противоположное неравен- неравенство очевидно. Ясно, что А положительно однороден п монотонен. Для доказа- доказательства того, что К сохраняет возрастающую сходимость, предпо- предположим, что К t g при п t оо, где g и все К принадлежат L+. Для любого oiefi, такого, что v ° со < g, положим /„ = inf {hn, v ° ю),вы- ю),выберем такое |„ ^ Q, что V°In = /B, (V « (й) • |„ ¦=/„•©, и получим, что v°(<o — !n) = (vou))—/„ ¦!¦ О при /it00, откуда а следовательно, %(hn)iX(g) при п t °°. Далее выберем в Е счетное всюду плотное множество D, такое, что D образует векторное пространство над полем Q рациональных чисел. Для каждого у е D положим \iy: L+ -*¦ R, ]х,у (/) = Т (/ ¦ у) при / s L+, заметим, что v°(f • y) = v(y)- f, \iy(f)^ v(y) ¦ A,(/), откуда следует, что \iy — интеграл Даниеля на L+. Так как X счетно ф-измеримо, согласно 2.5.9 получаем функцию fey^LM((p) такую, что yLy (/) = \ jkydfp при / е= L ; кроме того, функция ку единственна ф-почти всюду и ф,» (&„) < v(y). Очевидно, что для ф-почти всех ж из X выполняются условия kry+sz (я) = гку (х) + зкг(х), I ку (х) I «? v (у) для всех у, 2^5 и г, s^Q. В случае выполнения этих условий функция, отображающая у в ку, Q-линейна и v-ограничена, и по- поэтому имеет единственное продолжение к (х) е U* = Е* П {a: v* (а) ^ 1}.
§ 2.5. ЛИНЕЙНЫЕ ФУНКЦИОНАЛЫ 119 Каждому у е D поставим в соответствие pv e U* таК) что (у, & = v(j/)> и заметим, что v(z) = sup{<z, a>: ае ?/*} = sup{<z, р„>: у ^ D) при z^E, так как <z, р„> = v(j/)— <z/ — z, pw> ^= v(г/) — -v(г^ — z). Следовательно, {z: v(z-p)<8}= U П {z: <z - p, p,><6 - 1/n} при p ^ D и б > 0. Получаем, что каждый элемент <о из Й являет- является ф-измеримым. Действительно, р„ • о е i для каждого у s D, и пространство ? сепарабельно. Заметим, что множества ?/* П {а: а < <г/, а> < 6}, соответствующие г/ еD и я, &eQ образуют счетное семейство, по- порождающее слабую топологию на U*. Следовательно, так как каж- каждая функция <у, к> = ку является ф-измеримой, то и функция к также ф-измерима. Кроме того, ф-измерима функция v* »к, так как для х е dmn к. Используя 2.3.2 D), E), оставшиеся заключения о ф-измеримо- сти и суммируемости выводим из того, что отображение непрерывно относительно произведения v-топологии на ? и слабой топологии на ?/*, так как I <z, а> — <р, q) I < v (z — р) + | <р, а — g> I при z, р <= Е и а, ?е ?/*. Определим теперь множество П {со: Т («) = J <со, и покажем, что G = Q. Ясно, что f • у *= G при / <= Z-+, у <= D. Докажем далее, что из условий «eQ, /Ei+, {ж: о (я) ?= 0) cz S = следует ю ^ G. Из ф измеримости <о и ф суммируемости v ° w сле- следует, что для любого е > 0 можно выбрать уи ..., ут е D и непересекающиеся ф-измеримые множества То, Tt, ..., Tm с
120 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ объединением S такие, что v [<й (х) — у,] < е при i=i,...,fflnie Tt, Обозначая через t( характеристическую функцию множества Tt, согласно 2.5.3 получаем функцию h{ «= L+ такую, что для i = l, ...у т. Отсюда вытекает, что #г является ф-измеримой, rj = 2 А^ е G, m г | Г (со — л) — J <<o — т}, < 2 j v»(m — г]) d(f < 2e [2 + ф (S)]. В силу произвольности е заключаем, что веб. Наконец, для произвольного « е Q рассмотрим последователь- последовательность функций gn = inf {v о ю, /г} ^ L+ и выберем 1„ ^ Q так, что v ° 1„ = gn, (v • «) • |„ = gn • «. Тогда {z: (ffl-U(i)^0)c{K «gn(a;)=l}, откуда <й — |n e G согласно предыдущему абзацу. Следовательно, Т (ш) - J <ш, А> йФ = Г (gB) - J <^„, А> d9. Кроме того, правая часть последнего равенства стремится к 0 про /г, стремящемся к «>, так как |<1„, к> I < v • |„ 4 0 при п t «з. Показав, что J <о), при mgQ, получаем, что ф(ж: v* [/с(ж)] < 1} = 0, так как в про- противном случае можно было бы выбрать /е ?+, для которого J /.(v*»A) йф < J / Ар - Я (/),
§ 2.5. ЛИНЕЙНЫЕ ФУНКЦИОНАЛЫ 121 и затем выбрать bsQ так, что v°»^/ и Т (ю) > J /.(v*cft)йф > J (v°a>)-(v*<=A:) <2ф. 2.5.13. Теорема Рисса о представлении. Пусть X — локально компактное хаусдорфово пространство и L — множество всех не- непрерывных отображений /: X -»¦ R, носители которых Clos{a;: компактны. Если ц: L -*¦ R — такая линейная функция, что supn(Ln{g: Os?gs?/})<°° гари /el+, го ц — интеграл Даниеля на L, и, следовательно, существуют та- такие L-регулярные меры i|?+ и t|r на X, что — J/d\p- при Доказательство. Проверим выполнение последнего уеловия п. 2.5.5. Пусть g, hi, h2, h3, ... принадлежат L+ и hn t g при п t °°. Так как некоторая окрестность множества sptg вполне регулярна, существует такая функция fe=L+, что f{x)= 1 при xesptg; тогда (см. 2.5.6) Для каждого е > 0 пересечение компактных множеств Sn = {x: g(x)>hn{x) +e> пусто. Так как Sn => 5„+1 для всех п, отсюда следует, что Sn для достаточно больших п, но 5„ = 0 влечет -с. 2.5.14. Пусть X, L — такие же, как в 2.5.13, К — монотонный интеграл Даниеля на L и ф — это L-регулярная мера, соответству- соответствующая К. Из 2.5.3 следует, что inf iqi(V): A <=¦ V, V открыто и ф-измеримо) для каждого АсХ, Если множество А является ф-измеримым и <р(А)< °°, то Ф (А) = sup {ф (К): К а А, К компактно и ф-измеримо}. Кроме того, если К — произвольное компактное множество в про- пространстве X, то ф (/?)<<»; однако в 2.5.15 будет показано, что К не обязательно ф-измеримо. Таким образом, ф может не быть радо- радоновой мерой. Так как ф-измеримые открытые множества образуют базу топологии пространства X, то ф — радонова мера, если топо- топология пространства !Х имеет счетную базу. В 2.7.15 будет доказа- доказано, что ф — радонова мера, если ф согласована с действием группы.
122 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Радонову меру ф такую, что f /dip = К(/) = J fdy при /eL, можно построить следующим образом. Для каждого открытого множества V положим а (У) = sup ML+ГН/: /*sl nspt/сУ}); для каждого А <=-Х положим ц{А)= inf (a(У): А с V, V открыто}. Ясно, что ф(У) = а(У)<ф(У) для каждого открытого множества V, поэтому Ф (А) < ф (А) при А<=Х. Если / <= L+, s >0, С/ = {ж: f(x)> s} ut>s, то + h)~ inf {/, t)] при Л > 0, а следовательно, ф(С/) = ф(С7). Проверим далее, что для каждой последовательности открытых множеств Vn W = О Уп влечет a(W)< S « (^п). П=1 П=1 Если / ^ L+, / < 1, spt / c= ^F, то существует конечное число функ- функций gt, • •., gN e L+ таких, что gn < 1, spt gn <= Vn и У 2 ?п (ж) = 1 при х е spt /, откуда X (/) = 2 ^ (^л/) ^ S a (^n)« Следовательно, ф — мера на X. п=1 п=1 Для того чтобы показать ф-измеримость каждого открытого мно- множества У, предположим, что ф (Т) < °° и е > 0. Выбирая открытое множество W, содержащее Т, для которого a(W)< q>(T)+ e, и функцию /et+, /<1, spt/сгРУПУ, Я(/) > a(W П У)— е, нахо- находим, что Теперь очевидно, что ф обладает всеми требуемыми свойствами. Последний абзац п. 2.5.10 применим с заменой ф на ф. Поэто- Поэтому можно видоизменить 2.5.12 для нашей решетки L, опуская ус- условие C) и заменяя в заключении ф-измеримость на ф-измери- ф-измеримость. Однако функция к не обязана быть единственной ф-почти всюду, функция к будет единственной ф-почти всюду только ло- локально. Кроме того, условие E) здесь избыточно, так как можно
§ 2.5. ЛИНЕЙНЫЕ ФУНКЦИОНАЛЫ 123 применить рассуждения, использованные в 2.5.13, с заменой g — hn, с, |х на v»|», M/). Т. Автору неизвестно, действительно ли замена ф на ф необходима для устранения условия C) в 2.5.12. Решетка функций, описанная в 2.5.13, часто обозначается через Ж{Х). Носителем интеграла Даниеля ц на Ж{Х) называется замкну- замкнутое множество spt ц = X\U {W: W открыто, |х(/)= 0 при spt/ с W). 2.5.15. Пример. Пусть Y = {у: —1 ^ у < 1; /несчетно,X = YJ — пространство с топологией декартова произведения, Ps'. X -*¦ Y — проекция, соответствующая /е/, ^ — такая точка из X, что Pi(%)~ О Для всех / е А ^ — интеграл Даниеля на Ж{Х) такой, что и ф — это X (X) -регулярная мера, соответствующая К. Компактное множество (Ц) не является ф-измеримым, так как Для доказательства последнего равенства используем следующее свойство: для каждой функции /eJif(I) существует (по теореме Вейерштрасса — Стоуна) такое счетное множество S<=J, что f(x) зависит только от координат р, (х), соответствующих всем / е S. Это свойство сохраняется для /, являющейся пределом последова- последовательности функций в Ж(Х), в частности, если можно зафиксировать i e J\S и из включения п того, что f(x) не зависит от Pi(x), получить, что /(?)^ 1- 2.5.16. Пусть g отображает R в полное пространство Y с метри- метрикой р. При а ^ b полной вариацией (или длиной) функции g от а до Ь, обозначаемой Vb^, или V*U g(x), называется точная верхняя грань множества чисел п соответствующих всем конечным последовательностям а = tt < tz < ... < f. < tn+l = b.
124 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ В случае а > Ъ по определению \bag = — Vlg- Заметим, что \hag + Vebg = Ylg при a<b<c. В случае, когда V?g<oo при всех —оо<а<Ь<°о1 можно рас- рассмотреть неубывающую функцию s: R-*-R, s (х) = \og для х <= R. Для каждого «eR выполняется s(z—)*S s(;r)sS s(a:+), где \ims(t), ) } t-?X— s(x+) = mi{s{t): t>x}= lims(t), t-*x+ и из полноты У вытекает существование пределов g(x—) = lim g(t), g{x +)= lim g(t), t-*x— t-*x+ (так как p[g(t), g(u)]<s(x—)— s(t) при^<и<ж) и s(x)-s(x-)=p[g(x-),g{x)], s{x+)-s(x)=p[g(x),g{x+)\. Следовательно, множества точек разрыва функций g и s совпадают, и каждой точке разрыва х соответствует непустой открытый ин- интервал {%: s(x—)<z<s(x+)). Так как интервалы, соответствующие различным точкам разрыва, не пересекаются, то они образуют счетное семейство. Аналогично находим, что выполняется каждая из следующих двух альтернатив: или supims=oo или g(oo) = limg(x) s Y; или iniims= — оо или g(—оо) = lim g(x)^Y. Так как p[g(t), g(n)]^ \s(t) — s(u)\ при t, и е= R, то существу- существует единственная липшицевская функция G: im s ->• Y такая, что Lip (G) < 1 и G » s = g. Если Y — банахово пространство с нормой, индуцирующей метрику р, то можно продолжить G до такого лишпицевского отображения Я: R -* У, что Lip (Я)- Lip(G), положив Н [Xs(x) + A -
§ 2.5. ЛИНЕЙНЫЕ ФУНКЦИОНАЛЫ 125 при jeRnO^Kl и H(z)=g(—оо) при — °° < 2 «? inf ims, H(z) — g(°°) при supims ^ z < оо. Заметим, что множество im g = im G сепарабельно. Предположение о том, что У — банахово пространство, не так ограничительно, как это может показаться, потому что для произ- произвольного метрического пространства У можно рассмотреть банахово пространство Е всех ограниченных действительных непрерывных функций на У с нормой v (/) = sup im I/I при / <= Е, выбрать произвольную опорную точку ц ^ У, и построить изомет- изометрическое вложение F: Y-+E, F(y){w)=p(y, ю)-р(ц, w) для у, we У. 2.5.17. Пусть g:R-^RH ^o при —оо<а-<Ь-<оо. Для произвольных f<^3V(R) и —оо<о<Ь<оо рассмотрим для каждого б > 0 множество чисел г=1 соответствующих всем конечным последовательностям а — tt г? Щ г? t2 г? И2 ^ ta < ... tn s? И„ < tn+i — Ь, таким, что t{-t — ti < б для i = 1, ..., п. Диаметр этого множества не превосходит и стремится к 0, когда б стремится к 0, следовательно, при б -*- 0+ вышеуказанные суммы сходятся к некоторому действитель- действительному числу, обозначаемому ь ъ \jdg, или Только что описанная операция называется интегрированием Римана — Стилтьеса; она линейна относительно / и удовлетворяет неравенству fdg
126 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Ь с с Заметим, чтоJ /dg + j f dg = j f dg при a^b^c. aba Определив линейную функцию ц: $f(R)->- R так, что при /sJJf(R) и spt/c{;r: a < x «? Ь}, применяя 2.5.13, 2.5.6, 2.5.3, получаем, что существуют борелевскп регулярные меры if+ и т];~, удовлетворяющие условиям: A) H(/) = j/^+-j/^- при / B) i|)+{x: а<ж<6} + -ф— {ж: o<«<b}<V^ для а<Ь. Из этих условий можно вывести, что условии, что g непрерывна в точках а и b, a<b, f^Ж(R); в частности, g(a)=$+{x: a «? а: «* 6} — *|Г {ж: а ^ ж ^ Ь}. Отсюда следует, что если g — непрерывная функция, то в B) име- имеет место равенство. Будем называть интеграл ц и меры rj)+, a|)~ соответственно ин- интегралом и мерами Даниеля, порожденными функцией g. Две такие функции gi и gz порождают один и тот же интеграл Даниеля тогда и только тогда, когда существует такое действительное число с, что всюду, кроме счетного числа точек х из R. Если функция g не убывает, порожденный ею интеграл Дание- Даниеля монотонен, следовательно, tf~ = 0. Например, если g(x)=x для всех isR, то ц — интеграл Ри- мана, а ф+ — одномерная мера Лебега на R. Эта мера является борелевски регулярной мерой, характери- характеризующейся следующим условием: b — а = 2" {х: a*Zx^b) при — °° < а < b < оо. 2.5.18. Отметим следующие простые свойства интеграла Рима- на — Стилтьеса. A) Если /:R->-Rwg:R->-R непрерывны, —°о<а<Ь<°о, Vba/<OO U Wig <ОО,
§ 2.5. ЛИНЕЙНЫЕ ФУНКЦИОНАЛЫ 127 то ь Действительно, для а = tt < t2 «? ... < tn+i = b Д / (*m) If (tm) - 8 (h)] + i g (tj) If (ti+i) - = f(b)g{b)-f(a)g(a) B) Если функции f, g, h отображают R в R, / и g непрерывны, g возрастает, —<»<a<&<oo и TO Ь g(b) ${f.g)d(h.g)= j fdh. a g(a) Действительно, оба интеграла являются пределами сумм 2 / fete)]- Следовательно, g+ отображает меры, порожденные функцией h° g, в меры, порожденные функцией h. C) Если ф — мера на X, ф (X) < °о, ц — это R-значная ^-изме- ^-измеримая функция и g(t)=q>{z: u(x)<t) при feR, то g не убывает и ь для любой /eJ^(R)( такой, что spt/c{f: a < t < 6}. (g называет- называется ф-функцией распределения функции и.) Для доказательства определим if+ так же, как в 2.5.17, и заме- заметим, что : a<t<b\ =*g(b) — g(a)=$+{t: a<t<b], если —oo<a<b<oo и g непрерывна в точке а. Следовательно, и+(ф) и tf+ совпадают на всех борелевских множествах, и требуе- требуемое равенство следует из 2.4.18. 2.5.19. Для любой решетки L функций на пространстве X мно- множество L* всех интегралов Даниеля на L является векторным пространством. Вложение L* в декартово произведение Rb, т. е. во
128 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ множество всех вещественнозначных функций на L, наделяет L* так называемой слабой топологией. Можно рассмотреть также ото- отображение S: X-*¦ L*, которое каждому х^Х ставит в соответствие монотонный интеграл Даниеля 6Ж, определяемый условием Векторное пространство, порожденное образом отображения 6, всю- всюду плотно в L*. Если ЙС — локально компактное хаусдорфово пространство и L — Ж (X), то отображение б гомеоморфно вкладывает X в Ж (X) *. Если X компактно, то замыкание выпуклой оболочки образа ото- отображения б состоит из тех и только тех монотонных интегралов Даниеля на Ж(Х), для которых соответствующие им меры прини- принимают значение 1 на X. Для каждого замкнутого подмножества S пространства X множество Ж{Х)*Г\{ц: sptnc5} слабо замкнуто в Ж{Х)*. Если М: Ж(Х)-+и-. О < t < °°}, то мно- множество Ж{Х)* П {ц: ц+ + цг «? М) компактно. Если X — компактное хаусдорфово пространство, то определен- определенная выше слабая топология совпадает со слабой топологией прост- пространства Ж{Х)* (см. 2.5.12 B)), рассматриваемого как сопряжен- сопряженное пространство к векторному пространству Ж (X) с нормой v, определяемой формулой v(/) = supiml/l при / Пусть X, Y —. локально компактные хаусдорфовы пространства и и: X ->¦ У — непрерывное отображение. Если и — собственное ото- отображение, то существует единственное линейное отображение и+ такое, что следующая диаграмма коммутативна: ¦Y Действительно, </, в+(ц)> = </»в, ц> для /<=Х(Г), \х,<=Ж(Х)*. Применяя 2.4.18 к Ж(Х) -регулярной мере ср, соответствующей мо- монотонному интегралу Даниеля "к на Ж (X), получаем q>) Для ff=X{Y); однако мера в+(<р) не обязательно Ж (F) -регулярна.
§ 2.6. ПРОИЗВЕДЕНИЯ МЕР 129 2.5.20. Применим теорему 2.5.12 к разложению интегралов Да- ниеля. Пусть X и Y — компактные метрические пространства и ц — это интеграл Даниеля на Ж (XX Y). Возьмем L = Ж(Х), Е =«%°(У) с нормой v(ti)=suP{|ti(i/)I: yeF) для х\^Ж{У), и пусть Q — векторное пространство всех v-непрерывных отобра- отображений пространства !Х в Ж(У). Используя линейный изоморфизм 5: п^Ж(ХХУ) такой, что 5(ю) (х, у) — <л(х) (у) при aeQ, z & X, у еУ, положим T = \i°S: Q-^R. Тогда по теореме 2.5.12 существует радонова мера ф на X и ф-из- меримая функция к со значениями в пространстве интегралов Да- Даниеля на Ж{У)г такие, что (х)у[и(х, y)]dq>x при aeJif(Xxy), Отсюда следует, что spt&(?)<= {у: (х, y)^spt\i} для ф-почти всех х. Пусть теперь "f — инхеграл Даниеля на Ж{У) и функция g: Y -*¦ X непрерывна. Рассмотрим непрерывное отображение h: Y-+XXY, h(y) = {g(y),y) и интеграл Даниеля ц = /гФ(*у) на Ж(XXY). Если }*=Ж^), то применяя предыдущий результат с и(х, y) = f(y), имеем ц(и) = = y (и » h) = ^ (/), и получаем формулу К тому же так как spt ц <= im/г, то spt&(a;)ci g~l {x) для ф-почти всех х. Кроме того, как легко видеть, ф является Ж(Х) -регулярной мерой, соответствующей интегралу ?#(y+ + Ч~). § 2.6. Произведения мер 2.6.1. Пусть а — мера на X и р* — мера на Y. Определим функцию «Х§: 2XXF-^Rn {t: t>0) таким образом, что для любого S<=XXY число (a,X$)S равно точной нижней грани чисел 2 Г. Федепеи
130 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ соответствующих всем таким последовательностям а-измерпмых множеств А} и ^-измеримых множеств Bh что S с О (А} X В)). (Здесь мы пользуемся соглашением 0 ¦ °° = то • 0 = 0.) Ясно, что а X р — мера на ХХУ п если множества Л и В соответственно а- и ^-измеримы. В действи- действительности а X р является наибольшей мерой, удовлетворяющей это- этому неравенству. Мера а X р называется прямым произведением мер аир. 2.6.2. Теорема Фубини. Пусть а — мера на X и р — мера на Y. Тогда: A) а X р — регулярная мера на XXY. B) Если А — это а-измеримое множество и В — это ^-измери- ^-измеримое множество, то А У. В является а X ^-измеримым множеством и C) Если S — счетно а X ^-измеримое множество, то {х: (х, j)eS) является а-измеримым для $-почти всех у, {у: (у, 1)еЯ является ^-измеримым для а-почти всех х, {x: (х, у) «= S}d$y = Jpfo: (х, у) е= S) dax. D) Если функция f является а X ^-интегрируемой и счетно а X ^-измеримой (в частности, если она а X ^-суммируема), то J J/(*, Доказательство. Пусть F — семейство множеств S <= X X Y, ха- характеристические функции cs которых удовлетворяют условию по- повторной интегрируемости р (S) = J J cs (х, у) dax d$y €= R. Дважды применяя 2.4.8 и 2.4.9, приходим к следующим выводам. Если St, S2, S3, ... — непересекающиеся элементы семейст- семейства F, то 00 / 00 \ 00 2 P(Sj) = p ( U Sj), откуда U Sjef. Если 5i => S2 => 53 = ... принадлежат F и pEi)< <*>, то lim p (^) = p ( fj S)), откуда ff 5j e= F.
§ 2.G. ПРОИЗВЕДЕНИЯ МЕР 131 Рассмотрим также семейства Ро = {АХВ: А и В соответственно а- и ^-измеримы), Pi = {UG: G <= Ро, G — счетное семейство), Рг = {П Я: 0 Ф Н <= Р,, Я — счетное семейство) и заметим следующее. Если 4ХВсР0, то р(АХВ) = а(А)-$(В). Следователь- Следовательно, Л <= F. Если ЛХ5сР„иСХДеР01то и (АХ В)\(С X D) = [(A\C)X B]\J[{A (\C)X(B\D)] является объединением двух непересекающихся элементов семейст- семейства Ро. Отсюда следует, что каждый элемент семейства Pi является объединением некоторого счетного подсемейства непересекающихся множеств семейства Ро. Поэтому Р, cr F. Пересечение любых двух элементов семейства /\ принадлежит Pi. Следовательно, каждый элемент семейства Рг является пересе- пересечением убывающей последовательности элементов семейства Pi. Докажем следующее утверждение. Для любого Sс XX Y справедливо равенство (aXj})S = inf (p(F): ScfePj и существует такое множество W, что =(aX$)W = p(W). Во-первых, если AiXBu A2XBZ, A3XBS, ... принадлежат Ро и S с V = О Л" X Bj, оо то Су ^ Д] <?ахВч откуда кроме того, если множества А, X В) не пересекаются, то имеет мес- место равенство. Во-вторых, в случае (aX$)S<°° выберем множест- множества Vi =з у2 zd V3 =>... так, что S <= V) ^ pt п (axPM=lirapG;), и возьмем WF= Г\ V}. В случае (а X §)? = <*> возьмем W = ZX7. 9*
132 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Теперь для доказательства B) предположим, что А X В <=¦ Ро. Так как то (аХр)DХ5) = а(А)-р(В). Кроме того, если T^XXY, то из условия Т <= U <= А вытекает, что U П D X В) и С/\ (Л X 5) — непересекающиеся элементы семейства Pt, откуда ^ p[U (\(AXB)] + p[U\(A Следовательно, множество АХ В является а X ^-измеримым. Из B) следует, что а X р-измерим каждый элемент семейства Р2. Таким образом, A) справедливо, потому что для каждого под- подмножества пространства !Х X Y найдется содержащий его элемент семейства Рг, а X [J-мера которого совпадает с а X р-мерой исход- исходного подмножества. Если (аХрM = 0, то S содержится в некотором множестве W с p(W)=0, откуда рE)=0. Если (аХРM<°о и множество S является а X ^-измеримым, то S содержится в некотором множестве W ^ Р2 таком, что (aX$)S = (aX$)W = p(W), откуда (а X р) {W\S)= 0. Следова- Следовательно, p(W\5)= 0, а {ж: (х, у)е S) = a{z: (x, y)e=W) для р-почти всех у, поэтому p(S) = p(W) = (oc X рM. Отсюда сразу получаем C). Далее заметим, что D) сводится к C) для характеристической функции /, применим 2.3.3 и 2.4.8, когда / — неотрицательная функция, и, используя 2.4.4 F), завершим доказательство. 2.6.3. Первые два из следующих трех примеров показывают не- необходимость всех условий в 2.6.2 C), D). Третий пример показы- показывает, что встречающееся в доказательстве семейство F не обязано быть борелевским семейством. A) Пусть X = Y = R, а = 5", р — считающая мера, 5 = {(х, х): 0^ж^1> и / — характеристическая функция множества S. Тогда а X р — борелевски регулярная мера, поэтому множество S является а X р- измеримым и функция / является а X р-интегрируемой, но J J f(x, y)daxd$y = jOd$y = 0, i j J / (ж' У) d$y dax = J dax = 1.
§ 2.6. ПРОИЗВЕДЕНИЯ МЕР 133 Следовательно, / и S не являются счетно а X ^-измеримыми, и B) Пусть X = F = R, a = р = S" и /(ж) у) = Dху — хг — у2) (х + г/) при г > 0 и I/ > О, /(ж> I/)^5 О ПРИ ж ^ 0 или у < 0. Для каждого J/ > 0, используя формулу Ньютона — Лейбница (см. 2.9.20), получаем а J/(ж, У)d3?lx = (a2 — ay)(а + г/)-з при а>0. о Так как |/(аг, у) I ^ Dг/ + 1 + г/2)/?/4 при 0 ^ х ^ 1, |/(ж, у) I *? D? + 1 + г/2)/*2 при ж > 1, 00 00 и J x~*d2'1x=l, то | |/(ж, y)\dSlx<C °°, откуда 1 О ео а f / (x, у) dSH = lim f / {х, у) dSlx = 0. О a->°o0 Из этого равенства и симметричности функции / вытекает, что J J / (*, У) dSH dg*y = 0 = J J / (x, у) дЗР-у dS^x. Однако / не является З^-интетрируемой, так как в противном случае J J та а та lim J j / (x, y) dSxx dSxy = lim f (a2 - ay) (a + y)-* dSxy 'о о = lim a2m (a + ma)~2 = m A + m)~2 для любого положительного числа т, что невозможно. C) Пусть Ai и 42 — непересекающиеся a-измеримые мно- множества, ¦S — это ^-неизмеримое подмножество пространства У, и S = [A1XB]U[AZX(Y\B)], T = A1XY. Тогда S e F, Т е Ро <= F, но S П Г = 4, X Б ё F.
134 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ 2.6.4. Билинейное отображение которое каждой паре (/, g)^ L4(a)X 1^C) ставит в соответствие такую функцию h, что при (м)еХХУ, порождает в силу 1.1.1 и 1.1.3 линейный мономорфизм Образ этого мономорфизма (aXB)(i) плотен в Li (аХЗ). Дейст- Действительно, вспоминая доказательство п. 2.6.2, видим, рассматривая последовательно классы Ро, Pit P2, что характеристическая функция каждого a X 3-измеримого множества конечной a X В-меры принад- принадлежит замыканию этого образа, поэтому плотность образа в Li(aXB) следует из 2.3.3, 2.4.8, 2.4.4 F). Определим теперь моно- монотонные интегралы Даниеля К, ц, v по формулам для f^L1(a), V(g) = )gd$ для geLjfP), v(h) = \ hd(a X P) для feeL1(a]xP) и заметим, что следующая диаграмма коммутативна: ?, (ее 1 ® Z j (/3) *~L, (« х |3 ) Я 0 [X У 2? ® i? =r i? . Тензорное произведение Li(a)®L,C) при естественном вложе- вложении в пространство Li(aXB) отображается на всюду плотное под- подмножество L4(aX3). Поэтому тензорное произведение X ® ц про- продолжается единственным образом до монотонного интеграла Дание- Даниеля v на L,(aXP) и приведенная коммутативная диаграмма пока- показывает, что мера ХХц соответствует интегралу v в смысле теоре- теоремы 2.5.2. Это оправдывает употребление символа a ® 3 как синони- синонима a X В. Эта же идея иллюстрируется и следующим (непосредст- (непосредственно доказываемым) утверждением. Если X, Y — локально компактные хаусдорфовы пространства и К, ц — произвольные интегралы Даниеля на Ж{Х), Ж(Y) соответ-
§ 2.6. ПРОИЗВЕДЕНИЯ МЕР 135 ственно, то существует единственный интеграл Даниеля v на J(XX7) такой, что следующая диаграмма коммутативна: Я 0 R — В . Если же А, и. — монотонные интегралы Даниеля u a, P — соответ- соответствующие Ж(Х)-, Ж(Y)-регулярные меры, то а X fi является Ж (XX Y)-регулярной мерой, соответствующей v. 2.6.5. Если а — мера на X, (J — мера на Y и r-.XxY^YXX, r(x, y) = (y, x), то г+(а X ^) = ^ X а. Если к тому же y — мера на Z п в: (XXY)XZ^X(YXZ), s((x, у), z) = (x, (у, z)), то s+((a X §)Х y) = ex X(P X f). Таким образом, прямое умножение мер коммутативно и ассоциативно. Следовательно, если а, — меры на Xj, / = 1, ..., п, можно определить (индукцией по п) меру а. X ... X о» на Xi X ... X Хп, не зависящую от способа представления X, X... X Хп в виде про- произведения меньшего числа сомножителей. Например, так как R" является декартовым произведением п сомножителей R, определим и-мерную меру Лебега на R" как прямое произведение п сомножителей З?1 (см. 2.5.17). Отсюда следует, что обычный изоморфизм Rm+n ^RmXR" отображает S?m+n в 3?m X 3?п. Так как i?1 — борелевски регуляр- регулярная мера, то и мера &п — борелевски регулярна. Применяя индукцию по п, при помощи теоремы Фубини полу- получаем, что 2 {х; р(х) = 0) = 0 для каждого ненулевого полиномы- ального отображения р: R" -*- R. 2.6.6. В этом пункте рассмотрим бесконечные прямые произве- произведения монотонных интегралов Даниеля на решетках непрерывных функций, заданных на компактных хаусдорфовых пространствах с единичными мерами. Пусть J — бесконечное множество, и каждому / е / соответству- соответствует компактное хаусдорфово пространство Xj и монотонный интег-
136 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ рал Даниеля ц,, на Ж(ХД такой, что цД1)=1. Пусть X — декарто- декартово произведение всех этих пространств X,. Пусть А — класс всех конечных подмножеств множества /. По- Поставим в соответствие каждому oei декартово произведение Ха пространств Xh соответствующих / е а, проекцию ра пространства X на Ха и прямое произведение цв интегралов Даниеля ц.,-, соответ- соответствующих /еа (построенное методом п. 2.6.4). Проекция ра по- порождает мономорфизм решетки Ж(Ха) в Ж{Х) с образом В случае осбеЛ, рассматривая проекцию р^: Хь -»- Ха, убеж- убеждаемся, что La = {(/ • рьа) • Ръ: / е Ж (Ха)} <= Lb; кроме того, ра# (м*) — Ца, так как Соответственно существует единственное линейное отображение у: L= U La->R такое, что j{f°pa)= Ца(/) при aei, f^La. Так как L плотно в Ж(Х) относительно нормы v, определенной в 2.5.19, и так как I If I < v, функция if имеет единственное непрерывное линейное про- продолжение |д: Ж(Х)-+Т\ такое, что |ц,| «S v, которое в силу 2.5.13 является интегралом Даниеля. Заметим, что ц однозначно определяется условием Ра*(ц) = \ia при del Отметим, что в предыдущих рассуждениях переход от конечных произведений к бесконечным зависит только от представления X в виде проективного предела пространств Ха п от условий согласо- согласованности ра# (ць) = Ца- Такие же рассуждения можно применить к произвольным проективным пределам интегралов Даниеля на ре- решетках непрерывных функций, заданных на компактных хаусдор- фовых пространствах. 2.6.7. Если а, Р — радоновы меры на R, —°° < а < Ь < °°, f(r)=ait: t<r) < оо и g(r)=p{?: t < г} < оо для a^r^b, то J J gda = Hb)g(b)-f(a)g(a). J J {г: a<r<t>} {r: о<г<Ь}
§ 2.7. ИНВАРИАНТНЫЕ МЕРЫ 137 Действительно, применяя 2.6.2 C) с S = {(х, у): а *? х < у < 6}, получаем равенства {у- а<у<Ь} [g(b)-g(x)]dax § 2.7. Инвариантные меры 2.7.1. Пусть X — локально компактное хаусдорфово прост- пространство и G — локально компактная хаусдорфова топологическая группа. Будем считать, что X — однородное пространство группы G при транзитивном левом действии A: GXX-+X. Это значит, что А непрерывно, что A(gh, x) = A[g, A{h, х)] для g^G, fee G, x^X и что для каждого ieX отображение A*: G -*¦ X, Ax(g) = A (g, х) для любого g <= G, открыто и im А* = !Х. Отсюда следует, что для каждого g ^ G отображение Ag: X -*¦ X, Ае(х) — A (g, x) для любого х^Х, является гомеоморфизмом, причем (Ag)~x = А г и Ae = iXt где е — единица группы G. Кроме того, для каждого х^Х изотропная подгруппа G* = Gn {g: A(g, x)=x) замкнута ъ G ж А* индуцирует гомеоморфизм G/G* as X, отображающий каждый левый класс смежности gG* на A (g, x). Каждая замкнутая подгруппа S группы G является изотропной подгруппой для некоторого действия А, потому что можно взять !Х = G/S и A (g, hS) = ghS для любых g, h<=G; тогда Gs = S. Интеграл Даниеля ц на Ж(Х) называется х-с<>гласованным ин- интегралом, если %: G-+Rh ) для любых и е Ж{Х), g e G.
138 гл- 2. ОБЩАЯ ТЕОРИЯ МЕРЫ В случае \i *? 0 отсюда следует, что % является непрерывным го- гомоморфизмом группы G в мультипликативную группу R\{0>. Сог- Согласно 2.5.19 х-согласованность интеграла ц эквивалентна условию ii для любого g^G. В частности, если %{g)= 1 для всех geG, интеграл ц называ- называется инвариантным интегралом (относительно действия А группы G на X). Ассоциированная с монотонным х-согласованным (инвариант- (инвариантным) интегралом Ж (X) -регулярная мера называется х-согласован- ной (инвариантной) мерой. Из 2.5.6 видно, что в случае, когда ц является х-согласованным интегралом, интеграл ц.+ + ц~ будет lxl-согласованным. Часто удобно применять сокращения и°Ае=ие, A (g, х) = gx. 2.7.2. Отметим два важных частных случая, когда Х = Си дей- действие А определяется с помощью умножения группы G по одной из двух формул: A) A(g, x) = gx или B) A (g, х) = xg~l для любых gezG и х е G. В случае A) Ag — это умножение слева на g. Этому действию соответствуют так называемые лево х-согласованные (левоинвари- антные) интегралы и меры. В частности, ненулевой монотонный левоннвариантный интеграл (левоинвариантаная мера) называется левым интегралом Хаара (левой мерой Хаара) группы G. В случае B) Ае — это умножение справа на g~l. Этому дейст- действию соответствуют так называемые право х-согласованные (право- инвариантные) интегралы и меры. В частности, ненулевой моно- монотонный правоинвариантный интеграл (правоинвариантная мера) называется правым интегралом Хаара (правой мерой Хаара) группы G. Эти два случая связаны коммутативной диаграммой Умножение слева Умножение справа на где р(ж) = ж"' для ieG, Мы видим, что ц — лево х-с°глас°ванный интеграл тогда и только тогда, когда р+(х — право х-согласованный интеграл.
§ 2.7. ИНВАРИАНТНЫЕ МЕРЫ 139 2.7.3. Будем говорить, что группа G действует на X равномерно, если топология пространства X индуцирована некоторой равномер^ ной структурой с G-инвариантным базисом В (говоря, что базис В является G-инвариантным, мы имеем в виду, что, каковы бы ни были pe^HgeG, (х, у)ер тогда и только тогда, когда (gx, gi/)<= 0. Легко проверить, что G действует на X равномерно тогда и только тогда, когда для каждой окрестности V точки х из IX суще- существует такая окрестность W точки х, что из условия g^G, Wu Ае(\?)Ф 0 следует, что Ae(W)<= V. Если это условие выполняется, то в качестве В можно взять се- семейство множеств U Ag(V)xAg(V)t gSG соответствующих всем непустым открытым множествам V в прост- пространстве X. 2.7.4. Теорема. Если G действует на X равномерно, то сущест- существует ненулевой монотонный инвариантный интеграл на Ж(Х). Доказательство. Для любых функций sej(X)+ и 0#г?е еЖ(Х)+ обозначим через С {и, v) множество всех отображений |: G -*¦ {t: 0*??<°°>, для которых множество {g: l(g)>0} конечно и м< 2 I(§)• (V ° ^g)j gSG и определим так называемое отношение Хаара Очевидно, С (и, v)?= 0 и (и : v) ^ sup im u/sup im v, (и о Ah : v)= и : v для h e G, (ca •: v) — с (и : v) для 0 < с < <*>, (ut + пг : y)<(un : v) + (u2 : v), из ы4 < u2 вытекает, что (ui : у)<(и2: v). Кроме того, если функции и, v, w & Ж(Х)+ не равны нулю, то> (и : w)<:(u : v)-(v: w),
140 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ потому что из условий ^еС(в, v) и r\^C(v, w) следует, что 2 Ш S r\(h).(w°Ah°Ag)= 2 ?(*)'(»• А). g=G Лев ftG где?(/г) = 2 Шг\ (h), 2S-SE-S Л- Поэтому Лй G G G 1/(ц?: и)<(ц : у)/(м7: у)<(ц : и?). Выберем теперь какую-нибудь ненулевую функцию w e Ж (X)+ и рассмотрим прямое произведение Р отрезков it: i/(w:u)^t<(u:w)}, соответствующих всем »е J (X)+. Для каждой функции O^ys е^Ж{Х)+ зададим точку f.eP, pv(u) = (u:v)/(w:v) для ве7(Х)+ и с каждым множеством реВ (см. 2.7.3) свяжем замкнутое множество S(j3)=Clos{/>B: (spti;)X(spti;) <=(}}. Если р„ р2, р,еВи Pinp2=>p3, то 5(р,)п5'(Рг)='5(Рз)^0. Сле- Следовательно, поскольку Р — компакт, существует точка 1е П 5(Р). Функция X является ненулевым инвариантным интегралом на Х(Х)+. Свойства, требуемые от К (см. 2.5.2, 2.5.13, 2.7.1), выво- выводятся пз аналогичных свойств аппроксимирующих функций pv. С учетом указанных выше фактов, касающихся отношений Хаара, единственная нетривиальная часть проверки сводится к доказа- доказательству того, что Л(и1 + вг)>а,(в1) + Л(иг) для любых щ, пг^Ж{Х)+. Чтобы доказать это неравенство, выберем функцию / для которой spt Ui U spt u2 <= {х\ f(z) > 0). По произвольному числу е >0 выберем функции s, г,, г2 так, что s = их + ц2 + е/, r,s = ц,- п spt г,- = spt и;- для / s {1, 2), и, используя равномерную непрерывность функций ги г2, найдем множество fefl, для которого \г}(х)— r>(y) I < е для любых {х, г/)е р? у е {1, 2}. Для произвольных г; е S($), a e sptv, ? e C(s, у) зададим Ij (§) = iri (g~la) + e] • | (g) для любых g e= G, / e= {1, 2}
§ 2.7. ИНВАРИАНТНЫЕ МЕРЫ 141 и получим, что Uj (х) = rj (х) s (а)< 2 П (х) I (g) v (gx) < 2 Ь (g) v (gx), G gSG потому что из условия v(gx)?=0 следует, что (gx, а)<=A, (х, g-'a)^ {J. Поэтому "Е] е С(щ, v) и 2Ei 2E2<( J6 G G G так как г, + г2 «? 1. Отсюда вытекает, что Pv(at) + p,(a»)<{i + 2в)/>.(*)<A + 2e)[p.(i*i какова бы ни была функция peS([J). Поскольку ^sClos5(^), де- делаем вывод, что Я,(и,)+ Я(в,)<A + 2е) • р1(в, + в,)+ еЯ(/)]. 2.7.5. Следствие. Существуют левый и правый интегралы Хаара группы G. Доказательство. Выбирая в качестве В семейство множеств соответствующих всем окрестностям V точки е, видим, что дейст- действие 2.7.2 A) группы G равномерно на G. Аналогично рассматривается действие 2.7.2 B), если выбрать семейство множеств {(х, у): xy-'ev). 2.7.6. Лемма. Если X — левый интеграл Хаара, а ц — правый интеграл Хаара, то существует такая непрерывная положительная еещественнозначная функция к на G, что: A) k(y)\i(v)=Kxv(yx~i) для любых у eG, v <^X(G), B) [i(ku) = Я(ц) для любой us Ж\G). Доказательство. Применяя теорему Фубини, получаем, что [и (ух) v(y)] = lxV,y [u(y)v (yx^) ] Если выбрать какую-нибудь ненулевую функцию v ^ ffl(G)+, мож- можно применить равенство утверждения A) для определения поло- положительной непрерывной функции к на G, и тогда из приведенных выкладок вытекает утверждение B) для всех u^ffl(G). Но функ- функция к однозначно определяется утверждением B) и поэтому не за- зависит на самом деле от выбора v. Следовательно, равенство A) выполняется для всех v e Ж(G). 2.7.7. Теорема. Любые два левых (правых) интеграла Хаара группы G получаются один из другого умножением на положитель- положительную константу.
142 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Доказательство. Предположим, что к\, ^2 — левые, а ц — пра- правый интегралы Хаара. Согласно 2.7.6 существуют такие положи- положительные непрерывные функции ки к2 на G, что \i(ki, и) = к,,(и), у,(к2, и)=к2(и) для любой u^X(G). Тогда / = ki/k2 — это положительная непрерывная функция такая, что ki(u)== [i{k2ju)== k2(fu) для любой a Если g e G, то для любой lieX(G), поэтому / = /"^J1. Значит, функция / по- постоянна на G. 2.7.8. Теорема. Существует непрерывная положительная вещест- ееннозначная функция Ас со следующими свойствами. A) Каждый левый интеграл Хаара право Аа-согласован. B) Каждый правый интеграл Хаара группы G лево Ав-согла- сован. C) Если X — левый интеграл %аара группы G, то Кх [и(х~1)Аа(х~1)] = Х(и) для любой u< D) Если ц — правый интеграл Хаара группы G, то цх [и(х~*) AG (х)] = (А(и) для любой и е Ж(G). Кроме того, функция Аа однозначно определяется каждым из этих свойств; она называется модулярной функцией группы G. Доказательство. Ввиду 2.7.7 нам нужно рассмотреть только один какой-нибудь левый интеграл Хаара к и соответствующий (см. 2.7.2) правый интеграл Хаара ц, = рФA). В качестве Аа мож- можно взять функцию к п. 2.7.6, потому что к(у)-li(v)= [ixv(yx) для любых у е G, ye=J$f(G), и, следовательно, интеграл ц лево ^-согласован, а интеграл X = p#(|i) право ^-согласован в силу 2.7.2, тогда как К [(к • р) • (и • р)] = ц(Ав) = к (и), ц [к (и о р)] = к{и • р)= ц(ц) для любой и() 2.7.9. Теорема. Предположим, что v — интеграл Даниеля на Ж (G) и % — непрерывный гомоморфизм группы G в мультиплика- мультипликативную группу R\{0). A) v — лево %-согласован тогда и только тогда, когда существу- существуют левый интеграл Хаара к и вещественное число г такие, что v(a)= г - к(и ¦ х~') для любой и е Ж(G).
§ 2.7. ИНВАРИАНТНЫЕ МЕРЫ 143 B) v — право "^-согласован тогда и только тогда, когда сущест- существуют правый интеграл Хаара ц, и вещественное число г такие, что v(u) = r ¦ ц(их) для любой и^Ж(С). C) v лево ^-согласован тогда и только тогда, когда v право До • ^-согласован. Доказательство. Для проверки A) положим о (и) = v (и ¦ i) для любой и е Ж (G); получим, что о(и ° Ае) = vx[u(gx) ¦ х(х)] = xig)-1 -v[(u x)°As] для g s G, и сделаем вывод, что v — лево х~согласован тогда и только тогда, когда о левоинварпантен. Если о левоцнвариантен, то таковы же и о+, о"~, следовательно, о+ и а~ получаются из лево- левого интеграла Хаара умножением на неотрицательные константы. Утверждение B) получается из A) с помощью р+ (см. 2.7.2). Рассматривая C), заметим, что если v лево %-соглас°ван> то а право Ло-согласован в силу 2.7.8 A), и, следовательно, = Х-1 {S) Да («Г) о (и%-1) = (%-lAB) (g)-v(u) для любых ие Ж(G) и g e G, так что интеграл v право %~'Да-сог- ласован. Обратное утверждение получается применением рФ. 2.7.10. Лемма. Каждому х е X и каждому левому интегралу Хаара и. изотропной группы Gx соответствует линейный эпи- эпиморфизм обладающий следующими свойствами. A) ц.х(гг) {gx)= \x,s[u(gs)] для любых ие=Ж'(G), g s G. B) spt [ix(u) = Ax(spt и) для любого це Ж(&)+. C) ]i'[(w A*) • и] = v ¦ ц*(а) для любых ггеХ(С), и<=Ж(Х). D) Если и^Ж^), h^G, и uh{y)=u(hy) для у е G, то yL*(u)°Ah. E) Для каждой функции и^Ж(Х) существуют функции /s Ж(С)+, для которых sptv<=A*{g: f{g)>0), и из этого условия следует, что V.
144 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ F) Если v — {монотонный) интеграл Даниеля на Ж(Х), то v°(iJ — {монотонный) интеграл Даниеля на y?{G). Кроме того, ин- интеграл v будет %-согласованным тогда и только тогда, когда интег- интеграл v ° \ix лево ^-согласован. Доказательство. Для каждой функции и^Ж{п) отображение w: G -*- R, w{g)= [х, [н(#«)] для любого g <= G, непрерывно, потому что функция и равномерно непрерывна. Кро- Кроме того, w {gt) = w {g) для любого t e Gx, потому что интеграл \i левоинвариантен, а поэтому существует единственное непрерывное отображение ц*(и): X -»• R, для которого цх{и)° А* = ю. Теперь легко проверить утверждения A) — D). Рассматривая E), выведем существование подходящей функции / из того факта, что множества A*{g: M соответствующие функциям u^X{G)+, образуют базис топологии в пространстве X. Кроме того, для любой такой / видим, что поэтому v = w-n.x{f), где ю^Ж{Х), и из C) следует, что цх [{w о Ах) ¦ /] = v. Наконец, F) вытекает из A), D), E). 2.7.11. Теорема. Предположим, что % — непрерывный гомомор- гомоморфизм группы G в мультипликативную группу R\{0) Kiel A) Ненулевые %-согласованные интегралы на Ж{Х) существу- существуют в том и только в том случае, когда % удовлетворяет условию Вейля X (О AG* @ = Ag @ для любого t e= G*. B) Любые два ненулевых -^-согласованных интеграла получа- получаются один из другого умножением на вещественную константу. Доказательство. Заметим, что B) вытекает из 2.7.10 F), 2.7.9 A) и того факта, что im \1Х = Ж(Х). Чтобы доказать A), предположим сначала, что v — ненулевой Х-согласованный интеграл на Ж{Х), и из 2.7.10 F) получим, что I = v ° ц1 является ненулевым лево Х"согласованным интегралом на Жфг), а из 2.7.9 C), что X право АсХ~' согласован. Выберем такую функцию ue=Jif{G), что К{и)?= 0. Для заданного teG1 положим «>(»)=-»(»*-') Для j/eG,
§ 2.7. ИНВАРИАНТНЫЕ МЕРЫ 145 и получим, что ц* (ic) (gx) = iis [и (gst'i)] = AGx (t) ji* (и) (**) для geG, поэтому ц,*(w) = AG*(<)Ц*(и) и Ag* (О Я. (и) = Я (н>) = AG (t) x (t) * (и). Далее, чтобы доказать вторую часть утверждения A), предпо- предположим, что выполняется условие Вейля, и с помощью 2.7.9 выбе- выберем лево х-согласованный и право ДсХ^-согласованный интеграл Я на X(G). Для любой и<=Ж(&) найдем с помощью 2.7.10 такую функцию w ^№{G), что У? (w) (gx) = 1 для любого g e spt и, и, применяя 2.7.8 C), получим be I» (g)' Vх (и) (gx)] = цЛ [w(g)u (gs)] = = \is (Ag (s)-1 X («) h lw (gs-i) и (g)]) = Xg (u (g)]is[AcX (s^) w (gsri)]) = = kg[u(g)-n*(w)(gx)] = k(u). Поэтому ker цх с ker Я, существует линейная функция v: Ж (Х)->- R, для которой v ° ц* = Я, и с помощью 2.7.10 E), F) убеждаемся, что v является х-согласо- ванным интегралом. 2.7.12. Условие Вейля выполняется, если функция % положи- положительна, а изотропная группа Gx компактна, потому что любой не- непрерывный гомоморфизм компактной группы в мультипликативную группу положительных чисел постоянен, а его значение равно 1. В этом случае отображение Ах будет собственным. Если Я — лево Х-согласованный интеграл группы G, то А% (К) является х-согласо- ванным интегралом на Ж(Х), совпадающим с функцией v, постро- построенной в 2.7.11, при условии, что \х выбирается так, чтобы jx(l)= 1, потому что [А1 (I) о yf] и = Я [ [Iх (и) с Ах] = lg № (gs)] = = V, IV (gs)] = Ц5 [Я (и)] = Я (и) для любой м е Ж(С). Группа G называется унимодулярной, если левый и правый ин- интегралы Хаара группы G совпадают. Это эквивалентно условию, что модулярная функция Ав постоянна, а ее значение равно 1. В частности, любая компактная группа унимодулярна. Для каждой замкнутой подгруппы S группы G из условия Вей- Вейля следует, что однородное пространство G/S допускает ненулевой инвариантный интеграл тогда и только тогда, когда As = AgI5. В частности, это равенство выполняется, если подгруппа S нор- Ю г. Федерер
146 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ мальна, потому что в этом случае каждый интеграл Хаара группы G/S будет G-инвариантен (или, иначе, потому что G действует па G/S равномерно). Рассмотрев случай S = kerAG, можно убедиться, что группа кег Ао унимодулярна. 2.7.13. Теорема. Предположим, что f — это Ж {X)-регулярная мера, ассоциированная с монотонным интегралом Даниеля v, х s [X, {J — это Ж@х)-регулярная мера, ассоциированная с левым, интегралом Хаара ц группы Gx, и а — это Ж (G)-регулярная мера, ассоциированная с монотонным интегралом Даниеля v ° ц* (см. 2.7.10). Тогда существует такой линейный эпиморфизм Г- Ма)-*Мт)-, что для каждой а-суммируемой функции и выполняются равенства Рх (и) (ёх) — \и (Ss) d$s для любого g еб, Доказательство. Каждой функции и: G -*¦ R сопоставим ото- отображение Т (и): Е (и) = {gz: J и (gs) df>s e R} -+- R, Т (и) {gx) = j и (gs) d$s для любого gx^ E (и). Рассмотрим класс Ф тех функций и, для которых у [Х\Е (и)]=0 и j T (и) dy = j" и da. e= R. Из 2.7.10 следует, что J8f(G)c= Ф и ц* = Г I JjT(G). Далее таким же методом, как в 2.5.13, докажем, что характери- характеристическая функция каждого а-измеримого множества с конечной а-мерой принадлежит Ф. Если w е Ж(С)+, t >0 и и — характери- характеристическая функция множества {g: w(g)> t), то мЛ = h~K [inf {w, t + h) — inf {w, t}] t и при h \ 0, и из теоремы Лебега о монотонной сходимости следует, что T(uh)i Т(и) при hi 0, Е(и) = Х, веф. Аналогично рассматривается характеристическая функция любого множества конечной а-меры из класса Fjffl(G)] для / = 1, 2. По- Поэтому, если и — характеристическая функция любого множества а-меры нуль, то существует функция шеф такая, что w ^ u и J wda=0, следовательно Т(ю) и Т(и) равны нулю -у-почти всюду и и е ф. Кроме того, все а-измеримые множества с конечной а-ме- а-мерой получаются вычитанием множеств а-меры нуль из множеств класса F2[Jf (G)].
§ 2.7. ИНВАРИАНТНЫЕ МЕРЫ 147 Теперь становится ясно, что Ф совпадает с классом всех а-сум- мируемых функций с областью определения G и что [J* может быть определено как расширение отображения Т\Ф. Наконец, чтобы проверить, что $х — эпиморфизм, достаточно показать, что характеристическая функция любого т(~измеРИМ0Г0 множества с компактным замыканием принадлежит Т(Ф). Предпо- Предполагая, что С — компактное подмножество пространства X, приме- применим 2.7.10 E), чтобы найти функцию / е X(G)+, для которой C<=Ax{g: f{g)>0). Если г; — характеристическая функция множества {у: z{y)>t)c:C, где г<вЖ(Х) и t > О, то vh = h~i [inf {z, t + h) — inf {z, t}] t v при h I 0, и spt vh <=¦ C, поэтому , где uh Н[р»Л1-(/)] ° A') ¦ f e W(G)+, ^)-/при /г \ 0, T(u)=y, j v dy при /г | 0, ц е Ф, у g ira px. Далее рассматриваются последовательно характеристические функ- функции тех подмножеств множества С, которые принадлежат классам Fj[X(X)], имеют 7-меРУ 0, и f-измеримы. 2.7.14. Теорема. Любая лево (право) %-согласованная мера на G является радоновой. Доказательство. Предположим, что а— это ХF?)-регулярная мера, связанная с монотонным лево х-согласованным интегралом Я,. В силу 2.5.3, 2.5.14 достаточно показать, что a-измеримым являет- является всякое непустое открытое подмножество U группы G, замыкание которого компактно. Обозначая через и характеристическую функ- функцию множества U, положим и выделим из Ф такое счетное подмножество W, что Далее рассмотрим замкнутую подгруппу S = GPi{s: f{ts) = f(t) для любых /e?,tsG} и действие группы G на фактор-пространстве 'X = G/S, состоящее в умножении слева, с изотропной группой GX = S для x = S. Для каждой / е чу определим псевдометрику pf на G по формуле Pt(g,h)'=8\i^l\f(tg)—f(th)\: t^G) для любых g, h s G. Поскольку pf (gsu hs2) = p; {g, h) для любых S\, s2 s S, существует такая псевдометрика о, на X, что af ° (Лх X X Ах) = р;. Из равномерной непрерывности функции / на G следу- Ю*
448 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ «т непрерывность р/ на GXG и, следовательно, непрерывность С/ на X X X относительно фактор-топологии. Если 0 < г < sup im / и g<=G, то {fe: p/(g, fe)^r} компактно, потому что существует ?<=<?, для которого f(tg)>r, и поэтому из условия p/(g, fe)^ г следует, что f(th)> О, fe e ?-' spt/. Выбирая положительную функцию е на Ч*", для которой 2 8 = 1> докажем теперь, что является метрикой, индуцирующей фактор-топологию пространства X. Для этого достаточно показать, что если g e G и FF — открытая окрестность точки g з G, для которой И7 • ? = W, то семейство компактных множеств {h: p,(g, h)^r и fe? W, соответствующих функциям / е Y и числам 0 < г =S sup im /, не удовлетворяет свойству конечного пересечения. Альтернативой яв- является существование точки h, принадлежащей каждому множест- множеству этого семейства, из чего следовало бы, с одной стороны, что h & W, и, с другой стороны, что f{tg)~f(th) для / е W и F G, g~lh ^S,h^gSczW. Далее заметим, что множество S = П {h: Pf(e, h) =0} компактно. Выберем также левый интеграл Хаара ц. группы 5 и обозначим че- через р ассоциированную с ним Ж (S) -регулярную меру. Поскольку X метризуемо и ClosA*(U) компактно, топология пространства A*(U) имеет счетную базу. Следовательно, из Ф мож- можно выделить такое счетное подмножество Q, что AX(U)= U Ax{g: o)(?)>0}= U {у: Ц»М>0} (см. 2.7.10), и поэтому tfcz U [g: hx(<o)oA'](g)>0]. Ci)SQ Обозначая через р характеристическую функцию а-измеримого множества Р= П {g: /еФ
§ 2.7. ИНВАРИАНТНЫЕ МЕРЫ 149 заметим, что Р • S = Р, и поэтому Р (Ss) — Р (ё) Для любых g e G и s е 5, Если о е й, то из условия / е Q следует, что ра> + /< sup {©, /} еФ, j рсо da 4- Я, (/)< sup Я, (Ф); откуда j /ко da = 0 и j Яц" (со) -A*] da=\p (g) j о (gs)d$s dag = = j j P (?s) © (&*) d«^ ^Ps = J ( j i3» da) dPs = °* потому что До п X отображают компактную подгруппу 5 на {1}. Отсюда выводим, что а (Р П U) = 0 и что множество U =(G\P) U(P П. U) является a-измерпмым. 2.7.15. Следствие. Всякая ^-согласованная мера на X является радоновой. Доказательство. Опять примем допущения п. 2.7.10 с добавоч- добавочным предположением, что интеграл v является Х"согласованным- Из 2.7.10 F) следует, что интеграл v ° и* лево х~согласован> И в силу 2.7.14 мера а радонова. Для любого открытого подмножества V пространства X с ком- компактным замыканием можно выбрать такое открытое подмножество U группы G с компактным замыканием, что Ах (U) = V. Тогда ха- характеристическая функция м множества U будет a-измерима, сле- следовательно, р*(и)—это f-измерпмая функция и множество V = {у: $*(и) (у)> 0) является "(-измеримым. 2.7.16. Теперь проиллюстрируем теорию инвариантного интегри- интегрирования несколькими классическими примерами. Для этого вспом- вспомним следующие элементарные геометрические понятия. Подмножество S векторного пространства V называется аффин- аффинным подпространством, если av + $w e 5 для любых ре5, w e 5, aeR, peRna + P = l. В случае, когда OeS, это означает, что S — линейное подпространство пространства V. Функция /, действующая из векторного пространства V в век- векторное пространство У, называется аффинным отображением, если f(av+$w)=af{v)+$f(w) для любых pef, wsF, aeR, ^eR и a + fJ = l. Это эквива- эквивалентно тому, что / — аффинное подпространство пространства V X V'. В случае /@)= 0 это означает, что / линейно. Класс s?(V, V) всех аффинных отображений из V в V явля- является векторным пространством. С помощью линейного эпиморфизма L: st(V, F')-Hom(F, F'), L(f) (»)-/(»)- /@),
150 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ построим линейный изоморфизм М: st{V, V')* Hom(F, V')® V, М(/)= (L(f), /@)). В случае V = V эпиморфизм L сохраняет композицию функций и однолистное отображение , V), -it(v)=*z + v для z, уе V, преобразует векторное сложение в композицию отображений. Заме- Заметим, что для любых g e Нот (V, V) игеу М~* (g, Z) = Тг ° g, g°X2 = %t{z) ° g- Кроме того, im т = {/: L(f)= iv). Если dim V < °°, то (Ит^(У, V)< °° и все нормы на ^(F, F) индуцируют одну и ту же локально компактную топологию. В частности, можно выбрать скалярное произведение на V и норму на Hom(F, V), так же как в 1.7.6. Тогда понятно, что композиция линейных отображений — непрерывная операция, потому что /°g — h°k = {f — h)°g + h°(g— к), l!/°gll «S 11/11 • llgll для любых /, g, h, AsHom(F, V). Кроме того, автоморфизмы об- образуют всюду плотное открытое подмножество пространства Hom(F, V), называемое линейной группой пространства V, и обра- обращение является непрерывной операцией, потому что Г1-*-' = /-'•(*-/)•*-', откуда каковы бы ни были линейные автоморфизмы /, g пространства V. С помощью отображений L, М, т получаем, что композиция функ- функций является непрерывной операцией в s?(V, V) и что обращение непрерывно на аффинной группе пространства V, открытом всюду плотном подмножестве однолистных отображений в s4-(V, V), равном L" (линейная группа пространства V). Из предыдущих замечаний должно быть ясно, что топологиче- топологические предположения нашей общей теории выполняются в каждом из следующих частных примеров. A) З?1 является единственной {левой и правой) мерой Хаара аддитивной группы R такой, что З?1 {t: 0 < t < 1} = 1. Более об- общо, поскольку аддитивная группа пространства R" — это прямая сумма п групп, равных R, 9?п является единственной (левой и правой) мерой Хаара на R" такой, что 2 {х: 0 < Xi < 1 для i = 1, ..., п) = 1.
§ 2.7. ИНВАРИАНТНЫЕ МЕРЫ 151 Проверим далее, что для каждого линейного эндоморфизма } пространства R" 2?п [/E)]= ldet/1 -&n{S), для любого S с R". В случае det / = 0, im / является собственным подпространством пространства R" и поэтому имеет ^"-меру 0. В случае det / Ф О доказываемое утверждение эквивалентно равенству Если z е= R" и Т <= R", то = ^"[/-'B) + Г1 (Г)] = znirl{T)] = /+B) [Л; таким образом, f^B>n) является мерой Хаара пространства R", поэтому &", гдеХ(/)>0. Класс H = {f: %(})= Idet/I"} является подгруппой группы GL(n, R), (полной) линейной группы пространства R", потому что X и Idetl являются гомоморфизмами. В случае, когда / ортого- ортогонально, / отображает каждый открытый шар с центром в точке О на себя, поэтому %(f)= I, /s H. В случае, когда существуют такие положительные числа си ..., сп, что u ..., спхп) для любого х е R", имеем / {х: 0 < xt < 1 для i = 1, ..., п) = = {я: 0 < ж* < сг для i = 1, ..., и), и поэтому %(j) = (ci ¦... ¦ сп)~\ f^H. Поскольку, согласно 1.7.3, все отображения этих двух специальных видов порождают GL(re,R), делаем вывод, что # = GL(ra, R). Таким образом, мера 3?п являет- является \6.ъ\,\~*-согласованной с действием группы GL(ra, R) на R". (Это действие не транзитивно, но транзитивность действия появится при замене R" на R"\{0), что на самом деле не имеет значения, потому что 5{0}=0). В случае п>2 специальная линейная группа SL(n, R)=GL(n, R) fl {/: det(/)= 1} действует транзитивно на R"\{0), и мера &п инвариантна относи- относительно действия SL(n, R). Отсюда следует, что никакая ненулевая радонова мера ср на Rn\{0) не может быть инвариантной относи- относительно действия GL(n, R), потому что ф была бы SL(n, R)-HHBa- риантной, и следовательно, получалась бы из 3?п умножением на положительную константу.
152 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Положим а (л)-=#"{*: \х\ < О и заметим, что, каковы бы ни былп а е R" и г > О, а(п)гп = 9?п{х: \х-а\<г), потому что мера 3?п инвариантна относительно сдвига на а, а ум- умножение на г имеет детерминант г". Кроме того, аA)=2, и для п>2 теорема Фубини дает рекуррентную формулу a (n) = J ^п~1 {г/: | г/1 < A - t2) = а (и - 1) I A - —1 Положим также ос@)=1. В 3.2.13 будет получено выражение для а (га) через Г-функцию Эйлера. Для прямоугольного параллелепипеда Q = {х: О *? (х — а) • е{ ^ с{ для »= 1, ..., га), где а ^ R", с^0ие|, .., е„ образуют ортонормированный базис в R", его 3?"-мера равняется произведению ct • ... ¦ с„. ? S — выпуклая оболочка п + 1 точек у0, ..., vn в R", го Поскольку действие линейного эндоморфизма / пространства R" приводит к умножению обеих частей этого равенства на Idet/I, и обе части инвариантны относительно переносов, достаточно про- проверить равенство в случае, когда va = 0 и vt, ..., vn образуют стан- стандартный ортонормированный базис в R". Но тогда п \ S = Rn П{^: xj>0} для / «= {1, ..., n), S ж,< 1 , j=i i и, применяя 2.6.2, 2.9.20, по индукции получим 2п (S) = j ^n-x {у: У} > 0 для ; s {1, ..., п - 1}, о п-1 i = J A — t)n-4{n — \) 0 B) Предположим, что U и V — векторные пространства и dim U = m *? dim У = га < °°. Линейная группа G пространства V действует (с помощью компо- композиции отображений) на векторном пространстве Х = Нот(?7, V)
§ 2.7. ИНВАРИАНТНЫЕ МЕРЫ 153 «сех линейных отображений из U в V. Если ф — мера Хаара адди- аддитивной группы пространства X, то <р будет Idet\~т-согласована с действием группы G. В самом деле, с помощью базиса еи ..., ет пространства U построим изоморфизм X — Vm, сохраняющий дейст- действие группы G, отобразив |е!на (/(<?i), • • •, /(ет))е Vm. Заметим, что мономорфизмы образуют открытое подмножество в X, дополне- дополнение к которому имеет (р-меру О, потому что / не будет однолист- однолистным в том я только в том случае, когда оно удовлетворяет полино- полиномиальному уравнению ... Л/(ет)|2 = 0. Кроме того, G действует транзитивно на множестве мономорфизмов. В случае 17= V, <р будет лево \Ае1\~"-согласованной мерой naG. Согласно 2.7.9 левый интеграл Хаара К группы G получим по формуле %(и) = Jw-|det|nd<p для любого Мы знаем также, что ф право Ав • ldeth-согласованная мера на G. С другой стороны, линейный пзоморфизм Д1: Hom(F, У)~ отображает G на группу G' всех линейных автоморфизмов прост- пространства Л1^» и (ЛХ)#Ф является мерой Хаара аддитивной груп- группы пространства Нот(ДхУ, Л1^)' следовательно, (Л1)»*? лево Idetl ""-согласованная мера на G'. Для каждого g*=G диаграмма Умножение справа на (г Умножение слева на коммутативна и | det (Дх ёг)~х 1~п = I detg|n; поэтому мера ф право Idetl "-согласована. Отсюда заключаем, что Ле = 1, группа G уни- модулярна. C) Предположим, что W с V — векторные пространства, для которых О < dim W = m < dim V — п < °°, и G — группа тех линейных автоморфизмов пространства V, кото- которые отображают W на W. Обозначая через X порожденное группой G векторное подпространство пространства Hom(F, V), докажем сначала, что каждая мера Хаара ^ аддитивной группы пространст-
154 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ ва X является х~согласованной, где Х(*)= ldet(g|W)|-m • Idetgl"-" для любого g е G. Для этого выберем подпространство Z пространства V так, что у = w ® Z, и построим сохраняющий левое действие группы G изоморфизм |: X^Hom(W, W)XHom(Z, У), !(/) = (/1И^,/! Z) для любого / ^ X. Если ср, if — меры Хаара аддитивных групп пространств Hom(W, W), Hom(Z, F), то |(G)—открытое множество, дополне- дополнение к которому имеет <р X г|>меру 0. Мы знаем (см. B)), что мера ф является Idetl "'"-согласованной с левым действием линейной группы пространства W, а мера ф является |detlm~"-согласованной с левым действием линейной группы пространства V. Следователь- Следовательно, умножение слева на g e G отображает меру ф X of на Idet(glW) |-"ф X Idet gim""i|: = %(g) -(Ф X ^). Поэтому каждая мера Хаара f пространства X — право Аа ¦ %~'- согласованная мера на G. С другой стороны, Д1 отображает X на векторное пространство X', порожденное группой G' тех линейных автоморфизмов пространства /\lV', которые отображают на И7', и (Л1)» 7 является мерой Хаара аддитивной группы прост- пространства X', поэтому (Д1)#'у—лево х'-согласованная мера на G', где %'(h)= \det(h\W')\m-n ¦ Idetfeh™ для любого h^G'. Для каждого g s G из коммутативной диаграммы в B) теперь сле- следует, что Ar,(g)x-I(g) = ^(A1^1), и поскольку uet (/\г g) = detg = det(g\W)det(/\1 g\W), отсюда вытекает, что Ao(g)= \det(g\W)\-n ¦ \det g\m. В частности, группа G не унимодулярна. D) При 0 < т < п действие группы GL(n, R) на G(re, /n) (см. 1.6.2) не допускает ^-согласованных интегралов, каков бы ни был гомоморфизм % группы GL(re, R) в мультипликативную груп- группу R\{0). Действительно, если W eG(b, m) и V = R", изотропная группа Gh(n, R)w является группой, рассмотренной в C), поэтому условие Вейля принимает вид m=l для t Подгруппа {g: detg- = 1} является коммутантом группы GL(n, R), поэтому х(ёг)=11 как только detg = l. Следовательно, условие
§ 2.7. ИНВАРИАНТНЫЕ МЕРЫ 155 Вейля нарушается для любого t eGL(re, R)w, для которого det t = = 1 и det(tlJFLM. Однако действие группы GL(ra, R) ка пространстве всех нену- ненулевых простых тп-векторов пространства R" допускает |detl~m-co3- ласованный интеграл. В самом деле, если W — это яг-мерное под- подпространство, ассоциированное с ненулевым простым 7?г-вектором х, то изотропная группа GL(n, R)* состоит из всех тех эндомор- эндоморфизмов g пространства R", для которых g(W)=W и det(g|W) = 1, следовательно, GL(re, R)x — нормальная подгруппа группы, рас- рассмотренной в C), и из 2.7.12 следует, что модулярная функция рассматриваемой изотропной группы равняется |det|m. E) Если G — аффинная группа пространства R", то A0(g)= (det L(g) I для любого g s G. Для доказательства заметим сначала, что группа kerL|G = iniT абелева, и поэтому AGlkerL = l. Затем убедимся, что мера &п яв- является I det ° L\ "'-согласованной относительно обычного действия группы G на R", и G° = GL(n, R), поэтому Idet'Lh1 и Аа совпа- совпадают на GL(ra, R). При О < пг < п не существует никаких ^-согласованных интег- интегралов относительно действия группы G на пространстве X всех пг-мерных аффинных подпространств пространства R". Действи- Действительно, выбрав 7?г-мерное векторное подпространство W простран- пространства R", найдем, что изотропная подгруппа Gw совпадает с M-4HXW), где Я = GL(n, R)П {h: h{W)= W), и, рассуждая, как и выше, докажем, что модулярная функция группы Gw принимает значение det[L(g)\W]~iAH[L(g)] в точке g. Поскольку Н является группой, рассмотренной в C) (обозначен- (обозначенной там G), можно показать, как и в D), что условие Вейля в об- обсуждаемом случае не выполняется. F) Поскольку ортогональная группа О (п)—компактное под- подмножество группы Hom(Rn, Rn), существует единственная левая и правая мера Хаара 0„ на О(тг) такая, что 8„[О(тг)]=1. Для каж- каждого транзитивного действия А группы О (и) на однородном прост- пространстве X и для каждого х^Х мера (ЛХ)#ЭГ1 на X инвариантна и В частности, так получаются О (и)-инвариантные меры 8„, m на О(ге, m), 0*,m на 0^>т, fn,m на G(n, m). Каковы бы ни были натуральные числа и > пг и вещественное 1 t < °°, существует такое положительное число [}((п, пг), что I (Л « Р) I \f dQ*n,mp)l!t = Р( (и, пг) UI для любого простого ш-вектора % пространства Rn. (J
156 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Действительно, интеграл слева положительно однороден степени t относительно |, группа О(п) действует транзитивно на множест- множестве всех простых яг-векторов с нормой 1, и из инвариантности меры 8*>т следует, что интегралы, соответствующие | и (/\mg)Z, равны при любом geO(ra). Если |<= Дпй", т)= AfcR") 7?г+ к ^ п и 1, т) — простые поли- поливекторы, то 1 KS, A О(п) Для доказательства допустим, что 111 = 1 = I ц I, выберем q e О* (га, n — к) так, чтобы Rn П {v- v Л т] = 0} = ker q = im (lRn - g* • g), и заметим, что для любого |s ДтК" |Елл1Н<С, Лт<«• • ff»л-nI — 1 <С, Л™?>1. ft (Л - А, И!)' | S Л Л I* = J |<С Лт (Г Применяя теорему Фубини и учитывая, что г°деО*(я, яг), для каждого геО*(п — к, пг) имеем fit (п - к, mf J | <?, Лт^> Л Л Г d6ng = = f j | <5, Am (г °д о g)> I' deng de*n-k,mr = = j p< (re, m)'d6*_ft,mr = Pj (n, m)f. Как следствие получаем равенство Р/(«, пг)/р,(га — А;, пг)= р,(га, А)/р,(га — пг, А), потому что группа О (га) унимодулярна и Кб. Лт?>Лт]| = |?л<т1, Afc ЯГ—ж> | Д^ «еО(в). В 3.2.13 мы выразим р((ге, пг) через Г-функцию Эйлера. Положим также р„(ге, пг)= 1. Из 2.4.12 и 1.7.7 видно, что ДтR"» 1 — простой поливектор и = \<h ЛтР>\ для Р€=0*(п,т), то [в*,т](о (/) = Pi (я, т)\1\ для любого 1 < t < °о. G) Предположим, что G — группа изометрий (преобразований, сохраняющих расстояние) пространства R". Тогда
§ 2.7. ИНВАРИАНТНЫЕ МЕРЫ 157 потому что для geG'.^eR", у е Rn, i e R равенства !#(*)— ?(УI2= 1« — Jfi2, 1?(яIг=Ы2, |?(уI2 = \y\* показывают после перехода к скалярным произведениям, что g(x)'g(y) = X' У, \g(x)+ g(y)— g(x + у) I2 = О, \g{tx)— tg(x)\2 = Q, поэтому geO(n). Отсюда выводим, что G = s&(Rn, Rn)fl{g: i(g)eO(ri)) = = imT°O(«). Поскольку мера Sn является G-инвариантной, a группа О (и) компактна, то группа G унимодулярна; кроме того, можно, применяя 2.7.10, определить интеграл %аара Я, на Ж {G) по формуле I (и) = j 8?, (и) dSn = J J и (т« <= в) rf6ns dS7^ для любой функции и () Если X — совокупность всех ш-мерных аффинных подпрост- подпространств пространства R" u peO*(n, n — m), то G-инвариантный интеграл ц на Ж(Х) задается формулой ц (v) = j" J v [s (p-i {у})] dQns dSn~my для любой функции и^Ж(Х). Для доказательства рассмотрим отображения |: O(n)X R"-M -v X, 5(в, у)~*(р-Чу)), 8: X-+R, 8(W)=dist(W, 0). Поскольку im p* = im(p* ° р) является ортогональным дополнением к kerp, р~х {у} = TP*(V) ker р для любого i/ e Rn~m, т2 ker р = Т(Р*ор)г ker р для любого г е Rn, б [(s • тг)кегр] = lp(z) | для любых z e Rn, s s О(и), (S»l)(s, jf)= lj/| для любых yeR"-, seO(n), убеждаемся, что Е — непрерывное, открытое и собственное отобра- отображение, im | = X, б непрерывно, следовательно, у — 5» (вп X 2?п~т/ — радонова мера на X. Затем, применяя соотношение t ¦ l(s, г/)= |(te, г/), т,6(«, г/)= |(s, у + (р • 8-')г) для любых seO(n), yeR""ra, (еО(в), zeR", проверим, что ме- мера "у инвариантна относительно действия группы G. Поскольку s[p~* {у}] — (р s) {у} для seO(n), у е R", и функция, отображающая s на ps~', переводит 0„ в вп,п-7п (см. F)), получаем для ц еще одну формулу \i {v) =
158 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ 2.7.17. Если G — компактная топологическая группа, S — счет- счетная бесконечная подгруппа группы G и Т — подмножество группы G, пересекающееся точно в одной точке с каждым левым классом смежности группы S, то Т неизмеримо относительно любой меры Хаара группы G. В самом деле, группа G является объединением счетного семейства множеств Ts, соответствующих seS, они по- попарно не пересекаются п имеют равные меры. Если бы Т было из- измеримым, то такими же были бы и множества Ts, а группа G име- имела бы бесконечную меру. Эта конструкция была применена Витали (с G = R/Z, S = Q/Z), впервые доказавшим существование неизмеримого множества. 2.7.18. Если f — это "^-согласованная мера на X, yeL,(|) и h^G, то J Iv (ёх) — v (hx) I dyx -*¦ 0 при G^g-*-h. Действительно, по заданному е > 0 можно выбрать функцию и>^Ж(Х), для которой J |v — w\dy<^e,vi вывести для любого g e G, что \ve — vh\ =S \wg~ wh\ + \v — w\g+ \v — и;I,,, j I vg — vh I dv< J | wg - wh | dy + x (g) e + % (h) e. Кроме того, %(h)-^%(g) и J | wg— wh\dy->-0 при g -*¦ h, потому что spt w компактен, а функция w равномерно непрерывна. § 2.8. Теоремы о покрытиях 2.8.1. Всюду в этом параграфе X — фиксированное прост- пространство с метрикой р. Обозначим через В (а, г) = {х: р (а, х) < г}, U (а, г) = {х: р (а, х) < г} соответственно замкнутый и открытый шар радиуса г > 0 с цент- центром в точке а е X. Предположим, что F — некоторое семейство замкнутых множеств в пространстве X, ср — мера на X, каждое от- открытое множество в пространстве X является ^-измеримым и мера <р каждого ограниченного множества из пространства X конечна. Говорят, что семейство F — сгущающееся покрытие множества А, если для любого а е А и любого е > 0 существует такое множе- множество В е F, что ae5cU(a, e). Говорят, что F—это ф-адекватное семейство для множества А, «ели для каждого открытого множества V пз пространства X мож- можно выбрать в F такое счетное подсемейство G непересекающихся множеств, что
§ 2.8. ТЕОРЕМЫ О ПОКРЫТИЯХ 159 Исследования этого параграфа основаны на следующих сообра- соображениях: для того чтобы вывести глобальные свойства меры ср из ее локальных свойств, относящихся к множеству А из пространства [X, часто бывает необходимо найти такое счетное подсемейство G данного покрытия F множества А, что сумму Ф() можно использовать для оценки Ц>{А). Эта сумма дает оценку сверху для <р(А), если А покрывается ф-почти полностью семейст- семейством G, т. е. фD\и 6?) = О, или, в более общем случае, если А мож- можно покрыть множествами, полученными из элементов семейства G расширением, увеличивающим их ф-меру не более чем в С раз, где С — известная константа. С другой стороны, пусть все члены се- семейства G содержатся в некоторой окрестности множества А, для которой ф-мера не намного больше, чем ц>(А). Тогда. вышеуказан- вышеуказанная сумма дает оценку снизу для ф(^4), если G — семейство непе- непересекающихся множеств или, в более общем случае, если известна верхняя грань по всем aei числа членов семейства G, содержа- содержащих точку а. Указанные приложения теорем о покрытиях будут встречаться в §§ 2.9, 2.10, 3.3 и 4.2. 2.8.2. Теорема. Пусть К — счетное семейство множеств из про- пространства X. Пусть каждому А е К соответствует такое число о (А), что 0 < а(А)<. 1, и для любого открытого множества W иг пространства X можно выбрать в F такое счетное подсемейство Н непересекающихся множеств, что Тогда F — это (^-адекватное семейство для UK. Доказательство. Так как X представимо в виде счетного объеди- объединения ограниченных множеств, можно предположить, что каждый член семейства К ограничен. Рассмотрим последовательность мно- множеств В,, В2, В3, , в которой каждый член семейства К встреча- встречается бесконечно часто. Для произвольного фиксированного открытого множества V из X по индукции определим открытые множества W, и выберем в F конечные подсемейства G, непересекающихся множеств, таким об- образом, что и Ф [ (W3, П В,) \U GJ < о (В,) Ф {Wt П B>) при / 5= 1. Это возможно, так как U Gj-i замкнуто, в F имеется та- такое счетное семейство Н непересекающихся множеств, что
160 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ U Н с W, и Ф {(Wi ПВ,)\и Н] <о(В})<рA?, П В,), q>(Bj)< оо, элементы семейства Н являются ф-измеримыми и в ка- качестве Gj можно взять достаточно большое конечное подсемейство семейства Н. Отсюда следует, что <?= 5 С; — счетное подсемейство непересекающихся множеств семейства F, rF и F\UG= Л W,. Кроме того, множество V П U К покрывается ф-почти полностью се- семейством G. Действительно, lim ф (-4 П Wj) = 0 для каждого 4eJT, так как ф {А) < °°, о (>1I/2 < 1 и имеется бесконечное число номе- номеров /, для которых Bj = А, поэтому Ф (А П. W]+l) = ф [ (А П ^) \ U GJ < о (Л) 1/гф D П 2.8.3. Следствие. Если F — это (^-адекватное семейство для каж- каждого элемента счетного семейства К, то F — это (^-адекватное се- семейство для U К. 2.8.4. Теорема. Если б — неотрицательная ограниченная функ- функция на F, и 1 < т < о», то в F можно выбрать такое подсемейство G непересекающихся множеств, что для каждого Т е F существует такое S e G, что ГПБФ0 и б(Г)<тбE). Доказательство. Рассмотрим класс Q всех содержащихся в F подсемейств Н непересекающихся множеств, обладающих следую- следующим свойством: если Т е F, то либо TO.S = 0 для всех S&H, либо Т П 5 Ф 0 и б(Г)«5 т6E); для некоторого S е= Я. Применяя принцип максимальности Хаусдорфа (см. [К, с. 33]), выберем Gefi таким образом, чтобы G не являлось собственным подсемейством какого-либо семейства из Q. Пусть К = F П {Т: Т П U G Ф 0). Еслп бы К Ф 0, то можно бы- было бы так выбрать W ^ К, что откуда G U {W} e Q, что противоречит выбору G.
§ 2.8. ТЕОРЕМЫ О ПОКРЫТИЯХ 161 Для дальнейших приложений определим для каждого члена S семейства F его б, т-расширение S= U {T: T^F,T 2.8.5. Следствие. U F <= и {S: S e G}. 2.8.6. Следствие. Если F — сгущающееся покрытие множества А и И — произвольное конечное подсемейство семейства G, то А\\] Н с U {S: S e G\H}. Доказательство. Так как UH замкнуто, то каждая точка множества A\U Н принадлежит некоторому Т е F, такому, что Т П U Н = 0. Следовательно, Т пересекается с некоторым S e G\H, таким, что б(Г)^ тбE), откуда Т <=¦ S. 2.8.7. Теорема. Если F — сгущающееся покрытие множества А, б — неотрицательная ограниченная функция на F, 1 < т < °°, 1<Л< °°, и и/ж 5 е F, где S — это б, х-расширение S, то F — это ^-адекватное семейство для А. Доказательство. В силу 2.8.3 можно предположить, что множе- множество А ограничено. Зафиксируем произвольное ограниченное откры- открытое множество V из X, заметим, что F' = F П. {S: 5cV) является сгущающимся покрытием множества V П. А, и, применяя 2.8.4—2.8.6, получаем в F' такое подсемейство G непересекающих- непересекающихся множеств, что для каждого конечного подсемейства Н из G. Так как S<=V и ф(?)>0 при?е<?, то семейство G счетно и SSG SSG Отсюда следует, что для каждого е > 0 существует такое конечное подсемейство Я из G, что поэтому ф [(F П.4)\и G] < ф [(V П Л)\и Я] < е. 2.8.8. Утверждения 2.8.4—2.8.7 наиболее часто применяются с б (S) = diam (S) = sup p (S X S) для Sef. 11 Г. Федерер
162 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ (Примеры использования других функций б встречаются в [F 11, с. 296] и [М 2, с. 215].) Если F — семейство замкнутых шаров и б = diam, то S = В (а, г) е F влечет S <= В [а, A + 2т) г]. Поэтому неравенство, предполагающееся в 2.8.7, справедливо, если мера ср удовлетворяет условию диаметрической регулярности фВ[а, A + 2т)г]<Я-фВ(а, г). Для диаметрической регулярности меры ф достаточно существова- существования оценки О < и < 8-"фВ(а, s)< v < оо, которая применяется с s = r и s=Bx + l)r при В(а, r)ef, При- Примерами таких мер служат &п на R" (см. 2.7.16 A)) и Звп на про- произвольном гс-мерном римановом многообразии (см. 3.2.49). Однако условие диаметрической регулярности может выполняться и при отсутствии такой оценки, например, для борелевскп регулярной меры ф на R, такой, что Ф (В) = J sup {| х 1-1/2., 1} dSlx для любого борелевского множества В из R. Предыдущие теоремы о покрытиях очень полезны при наличии некоторых условий регулярности и достаточны для большинства приложений. Однако изучение некоторых важных задач, где такие условия регулярности не выполняются, требует применения других теорем о покрытиях, которые будут обсуждаться в 2.8.9—2.8.14. Там мы не будем налагать каких-либо специальных условий на ме- меру ф, но потребуем, чтобы F было семейством замкнутых шаров, каждая точка множества А была центром (а не только элементом!) некоторого члена семейства F и метрика р удовлетворяла геометри- геометрическому условию, описываемому в 2.8.9. 2.8.9. Пусть А а X, ? > 0, 0<ti< 1/3, % — натуральное число. Говорят, что метрика р является |, г\, ?-ограниченной по направ- направлениям в А, если выполнено следующее условие. Если а е А, В <= А П U (а, |) \{а) и если р(х, с)/р(а, с)>г\ для любых Ъ е В, с е= В, Ъ Ф с, р(а, Ь)> р(а, с), х^Х, таких, что р(а, х)=р(а, с), р(х, Ь)=р(а, Ь)— р(а, с), то card В s? t,. Полезность этого понятия будет ясна в 2.8.11. Сейчас проиллю- проиллюстрируем его геометрический смысл на примерах.
§ 2.8. ТЕОРЕМЫ О ПОКРЫТИЯХ 163 Рассмотрим важный частный случай (поясняющий термин «по направлениям»), когда X— конечномерное векторное пространство, р(х, y) = v(x — y) для х, уеХ, где v — произвольная норма на X и А — X. Взяв х = а + [\(с — a)/v(b — а)] (Ь — а), находим, что р(х, с)/р(а, с)= р[(Ъ — a) h {Ъ — а), (с — а) N (с — а)] является расстоянием между направлениями из а в Ъ и из а в с. Так как эти направления принадлежат компактному множеству всех единичных по норме v векторов, то указанное выше условие выполняется для каждото у\ > 0 при надлежащем выборе ?; здесь | = оо. (В случае строго выпуклой нормы v, в частности, еслп v порождается скалярным произведением, точка х однозначно опре- определяется по а, Ъ, с.) Рассмотрим другой интересный частный случай (изучение кото- которого привело к формулировке общего понятия), когда X — римано- во многообразие (класса >2) с его обычной метрикой (см. [НЕ, с. 51] или [KN, с. 157]) и А — произвольное компактное множест- множество из X. Предполагая, что U(а, |)—нормальная окрестность точки а е А, и ограничение Ехра на шар радиуса | имеет константу Лип- Липшица Я, находим, что при Ъ — Ехра(Р) и с = Ехра(ч) р(а,Ь)=|р|, р(а,с)=\1\, s- р(х, Ь)/р(а, с)« Таким образом, каждому Ъ^В соответствует направление jj кратчайшей геодезической из а в Ъ, и из компактности множества всех единичных касательных в точках множества А векторов сле- следует, что подходящее t, существует для каждого ц > 0. При рассмотрении семейств замкнутых шаров нужно указывать их центры и радиусы, причем внутри семейства и центр и радиус могут меняться при изменении шара. Поэтому сначала мы докажем некоторые утверждения о подмножествах Р прямого произведения XX {г. 0<г<°о}, а затем получим результаты о соответствующих семействах шаров {В(а, г): (а, г)еР). Пусть 1 < т < °°. Множество Р из XX {г: 0 < г < <»} называет- называется т-обусловленным, если для любых двух различных элементов (а, г) и (b, s) из Р либо р(а, Ь)> г > s/x, либо р(а, Ъ) > s > г/т. (Заметим, что отсюда вытекает, что а Ф Ъ и В (а, г)ФЪ(Ь, s).) И*
164 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ 2.8.10. Лемма. Если К т < «>, 0< ц < °° « Q <= X X (г: 0 < г < ц}, то в Q имеется подмножество R, удовлетворяющее следующим двум условиям: A) Если (а, г) и (b, s) — различные элементы множества R, то р(а, b)> r + s. B) Если (a, r)^Q, то существует такое (b, s)^R, что р (а, Ь) < г + s и s > г/т. Доказательство. Рассмотрим класс Q всех тех подмножеств R множества Q, которые удовлетворяют A) и условию C) если (a, r)e Q, то либо р(а, b)>r + s для всех (b, s)<^ R, либо р(а, b)^r + s и s > г/т для некоторого (b, s)^R. Замечая, что 0 е Q и объединение любого семейства вложенных друг в друга подмножеств Q само является элементом Q, из прин- принципа максимальности Хаусдорфа [К, с. 33] получаем, что в Q име- имеется максимальное (относительно включения) множество R. Такое максимальное множество R из Q удовлетворяет B), по- потому что в противном случае из C) вытекало бы, что K = Qu{{a, r): p{a, b)> r + s для всех F, s)e/?}^0, а поэтому можно было бы выбрать (с, ?) е К так, что it > sup {г: (а, г)е=/О, и получить, что i?U{(c, ())efl, a это противоречит максималь- максимальности R. 2.8.11. Теорема. Пусть метрика р является %, г\, ^-ограничен- ^-ограниченной в А по направлениям и 1<т<2-т1, т! + т/B —ti)+t(t—1)<1. (Такие числа т существуют, так как 0 < г\ < 1/3.) Если Р — это %-обусловленное подмножество множества А X Х(г: 0<г<оО}) (а, г)еР, и p(a,b)<l, p(a, b)<r + s, s>r/t при всех (b, s)^P, то card Р ^ 2? + 1. Доказательство. Так как т| + 1/B — *п)^ 1/3 + 3/5 < 1, то в ка- качестве т > 1 можно взять любое число, достаточно близкое к 1. При к =B — т|)/т положим Р1 = РГ\{(Ь, s): 0<p(a, b)<kr), P» = Pt\{(b,s): p(o, Ь)>кг). Для / = 1 или j — 2 проектирование на X задает взаимно однознач-
§ 2.8. ТЕОРЕМЫ О ПОКРЫТИЯХ 165 ное соответствие между Pj и множеством Bj = {b: (b, s)e Ps для некоторого s), так как Р — это т-обусловленное подмножество. Проверим, что Bt удовлетворяют условию п. 2.8.9, и тогда сразу получим, что card Pj — card Bj < ?. Действительно, если (b, s) и (с, t)—различные элементы множест- множества Pj и р(а, Ь)> р(а, с), то для любого х такого же, как в 2.8.9, Ь, х)+р(х, с) = р(а, Ь)-р(а, с)+р(х, с), откуда р(х, с)>р(а, c)+p{b, c)—p(a, b). В случае j = 1, применяя неравенства р (Ь, с) > inf {5, t) > r/т, kr>p(a, b), р(а, с)> inf {г, Й > г/т, кх — 1 = 1 — ц > О, получаем р(ж, с)> р(а, с)+ г/т — кг = р(а, с) —(г/т) (Ат — >р(о, с)-[1-A 5 случае / = 2 заметим, что р(а, 6)<r + s, p(a, с)>/сг, р(Ь, c)>s или p(b, c)> t> s/r, откуда p{b, с)—s>t — %t, p(a,c)>t или p(a, c)> r > t/x, откуда р{а, с)> t/x, и получаем p(x, c)>p(a, c)—r+p(b, c)— s>p(a, c)—r — t(x— 1)> > p(a, c) • [1 - A-1 - t(t - 1)] > p(o, c) ¦ r\. Таким образом, p(x, c)/p(a, c)> i\ при ; = 1 или 2, что и тре- требовалось доказать. 2.8.12. Следствие. Если 0 < ц < |/2 и Q — это х-обусловленное подмножество множества АХ {г: 0 < г < ц), то семейство {В(а, г): (а, г)е<?} представимо в виде объединения 2? + 1 подсемейств непересекаю~ щихся множеств. Доказательство. Определим подмножества Q} и Bj множества Q по индукции. Положим Qa = Q и Во = 0, и, применяя 2.8.10 для / > 1 к множествам получаем множества Bj <= Qj, удовлетворяющие следующим усло- условиям:
166 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ A) Если (а, г) и (Ъ, s) — различные элементы множества RhTO р(а, Ъ)> r + s. B) Для (a, r)e=Qj существует такое (b, s)^Rh что р (a, b)^r + s и s > г/т. Из A) видно, что для каждого / семейство {В(а, г): (а,г)^Ю состоит из непересекающихся множеств. Для завершения доказа- доказательства достаточно показать, что = П Действительно, если (a, r)e(?2t+2, то при / = 1, 2, ..., 2^ + 1, используя B), можно было бы выбрать такую точку (bj, Sj)еRh что р(a, bj)^r + Sj и s} > г/т, и получить такое т-обусловленное множество P = {(a,r)}[}{(bj,si): / = 1,2, ...,25 + 1} что card Р = 2? + 2, так как пары (bh $,) отличаются от (а, г) и принадлежат непересекающимся множествам R}. Однако, так как р(в, Ь,)^г + 8,<2р<Ъ, то из нашей теоремы следует, что card Р < 2t, + 1. 2.8.13. Лемма. Если 1<т<°°, 0 < у, < <*> и Р<=ХХ{г. 0<г<ц}, то в Р имеется такое х-обусловленное подмножество Q, что {а: (а, г)еР для некоторого г) <= и {В(а, г): (а, г)е=(Л. Доказательство. Рассмотрим класс Q всех т-обусловленных под- подмножеств Q множества Р, обладающих следующим свойством. При либо р(а, b)^r для некоторого (a, r)e Q, либо р(а, Ъ) > г > s/x для всех (а, г)е Q. Применяя принцип максимальности Хаусдорфа, находим, что в Q имеется максимальный элемент. Для такого максимального элемен- элемента Q класса Q справедливо заключение леммы, потому что в про- противном случае К = Р П {F, s): р (а, Ъ) > г для всех (а, г) е Q) Ф 0, а поэтому можно было бы выбрать (с, ?) е К так, что xt > sup {s: (b, s)e Ю,
§ 2.8. ТЕОРЕМЫ О ПОКРЫТИЯХ 167 и получить, что Q U {(с, ())efi, а это противоречит максималь- максимальности Q. 2.8.14. Теорема. Если метрика р является \, у\, ^-ограниченной по направлениям в А, О < ц < %/2, F — семейство замкнутых ша- шаров с радиусами, меньшими \i, и каждая точка множества А явля- является центром некоторого элемента семейства F, то А содержится в объединении 2? + 1 подсемейств непересекающихся множеств из F. Доказательство. Выберем т так же, как в 2.8.11; применяя 2.8.13 с Р = {(а, г): а^А, В (о, г)е?1, получаем такое т-обусловленное подмножество Q множества Р, что А покрывается семейством G = {B(a,r): (a,r)^Q}, а из 2.8.12 вытекает, что G представимо в виде объединения 2? + 1 подсемейства непересекающихся множеств. 2.8.15. Следствие. Если А сепарабелъно и inf {г: В (а, г)еЛ = 0 при любом а^А, то F — это (f-адекватное семейство для А. Доказательство. Покажем, что выполняются условия теоре- теоремы 2.8.2 с К={А), Для любого открытого множества W из пространства X каждая точка из А П W является центром некоторого члена семейства F' =F(].{B(a, г): а е Л, г>0 и В (а, г)с?}, поэтому из 2.8.14 вытекает, что в семействе F' можно так выбрать 2? + 1 подсемейств Ht, Н2, ..., #2c+i непересекающихся множеств, что А П W содержится в их объединении. Так как А сепарабельно, то каждое семейство Я3- счетно, поэтому U Hj является ср-измери- мым. Неравенство позволяет выбрать такое целое /', что Ф(Л П U Hj)><f{A П W)/{2t + 1), откуда Ф[(А П W)\\)H^<[l- 1/B; + 1)]ф(Л П W). 2.8.16. Введем теперь некоторые понятия, лежащие в основе аксиоматической теории дифференцирования, обсуждаемой в § 2.9.
168 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Под покрытием понимается некоторое подмножество множества {(х, S): х е S с X). Если С — покрытие, и Z с 'X, положим C(Z) = {S: (х, 5)еС для некоторого х е Z). Говорят, что покрытие С сгущается в х, если inf {diam(S): (x, S)^C) = 0. Под ср-покрытием Витали понимается такое покрытие V, что V(X)—семейство борелевских множеств, V сгущается в каждой точке пространства X, и выполняется следующее условие. Если С с7, Z сХ и С сгущается в каждой точке множества Z, то в С (Z) имеется такое счетное подсемейство непересекающихся множеств, что Z покрывается им у-почти полностью. Примеры ф-покрытий Витали приводятся в теоремах 2.8.17— 2.8.19. (Другие примеры см. [МЗ, § 5] и [НМ].) Если покрытие С сгущается в некоторой точке х и / — это R-значная функция, то для обозначения предела lira sup {/E): (г,5)еС, diamS<e, 5edmn/} е->о+ будем использовать сокращенную запись (С) lira sup/ (или (С) lira sup f(S)). s х Аналогично вводится (С)Иттги (С) lim. 2.8.17. Теорема. Если V — покрытие, V (X) — некоторое семейст- семейство ограниченных замкнутых множеств, V сгущается в каждой точ- точке пространства X, б — неотрицательная функция на V(X), К т < оо и (см. 2.8.4) 0 < (V) lira sup [б (S) + ф E)/ф (S)] < оо для <р-почти всех х в X, то V — это (f-покрытие Витали. Доказательство. Пусть С с: V, Z <= X и С сгущается в каждой точке множества Z. Для каждого натурального п покрытие С„ = СП.{(х, S): x^Z сгущается в каждой точке множества Ап = Z Л {х: 0 < (V) lim sup [б (S) + Ф E)/Ф E)] < п}, и из 2.8.7 вытекает, что Сп(Ап) является ф-адвкватным семейством для Ап. Так как объединение всех множеств Ап содержит ф-почти все точки множества Z, из 2.8.2 следует, что С (Z) — это ф-адекват- ное семейство для Z.
§ 2.9. ПРОИЗВОДНЫЕ 169 2.8.18. Теорема. Если сепарабелъное пространство X представив мо в виде объединения счетного семейства К такого, что метрика р ограничена по направлениям в каждом элементе семейства К, то F = {(x, В (ж, г)): ^1, 0<г<°о} — ^-покрытие Витали. Доказательство. Пусть С <= V, Z <= X п С сгущается в каждой точке множества Z. Для каждого А ^ К из 2.8.15 вытекает, что C(Z)—это ср-адекватное семейство для А A Z. Отсюда и из 2.8.2 следует, что C(Z)— это ср-адекватное семейство для Z. 2.8.19. Теорема. Пусть пространство \Х сепарабелъно, Ри Ри Р3, ... — такие борелевские разбиения пространства X, что каждый элемент семейства Pi ограничен, каждый элемент семейства Р3 яв- является объединением некоторого подсемейства семейства Pj+i и limsup{diam(S): 5е=Р,} = 0. Тогда V = {(х, S): x e S е Р3 для некоторого /} — это ^-покрытие Витали. Доказательство. Если C<=V, ZcX и Z<=UC(Z), то каждая точка множества Z принадлежит некоторому максимальному эле- элементу семейства C(Z); кроме того, пересечение любых двух раз- различных максимальных элементов семейства C{Z) пусто. 2.8.20. В [С 2, с. 689—692] показано, что если X = R2 и F сос- состоит из всех прямоугольников J X К, где / и К — невырожденные отрезки из R, то {(х, S): х е S e F) не является .З^-покрытием Витали. § 2.9. Производные 2.9.1. Всюду в этом параграфе: X — метрическое простран' ство с метрикой р; М — класс всех борелевски регулярных мер ф на X, таких, что мера ф каждого ограниченного множества конеч- конечна; ф е М, и V — это у-покрытие Витали (см. 2.8.16). Каждой мере ф соответствует мера if,, определяемая следующим образом: if,(i4)= inf fif B?): В — борелевское множество и (р(А\В) = ОУ при А а X. Некоторые элементарные свойства меры if, и соотноше- соотношения между if, и if будут рассмотрены в 2.9.2. Очевидно, что if, ^ ф. Изучая локальные и глобальные соотношения между произволь- произвольной мерой if из М и основной мерой ф, мы докажем, что (см. 2.9.5) F-производная D(tf, Ф, F,x) = (F)lim if E)/ФE) существует для ф-почти всех х и (см. 2.9.7) неопределенный ф-ин- теграл от этой производной равен %ч. Будут затронуты также такие
170 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ вопросы, как «основная теорема интегрального исчисления» (см. 2.9.8) и аппроксимативная непрерывность (см. 2.9.13). Кроме того, мы покажем, что при некоторых специальных усло- условиях можно уточнить определенные результаты (см. 2.9.15) и даже частично обобщить их на тот случай, когда ^Ми могут сущест- существовать ^-неизмеримые борелевские множества; это обобщение будет использоваться в 3.3.4. В последних пунктах (см. 2.9.19—2.9.23) понятие операции дифференцирования мер применяется к дифференцированию функ- функций локально конечной вариации. 2.9.2. Теорема. Для любой меры if е= М существует такое боре- левское множество В, что ¦фф = if L- В и ф (Х\В) = 0. Следовательно, if, е М и if — if, = if L (X\B) e M. Кроме того, if = 1|?ф тогда и только тогда, когда каждое множество у-меры 0 имеет $-меру 0 (в этом случае говорят, что мера if абсолютно не- непрерывна относительно ф). Доказательство. Очевидно, что \|\, — мера на X и в силу 2.3.2 (9) все борелевские множества ^„-измеримы. В каждом ограниченном борелевском множестве А содержится такое борелевское множество В, что и <р(А\В) = 0. Покажем, что b(S)=t(Bn.S) при S <= А. Если S — борелевское подмножество множества А, то откуда ^E) = if (В П S). Далее, для произвольного подмножества S множества А существует такое борелевское множество Т, что S<=TczA, фE) = ф(Г), t(S)-$(T). Отсюда и из 2.1.4 вытекает, что Т является одновременно ф-обо- лочкой. и if-оболочкой множества S, следовательно, b{S)=b(T)=$(B П Г)= ifE П S). Так как X представимо в виде объединения счетного семейства непересекающихся ограниченных борелевских множеств, то отсюда сразу следует заключение теоремы. 2.9.3. Лемма. Если ссеМ, ^еМ, 0<с<ооЦ А<=.{х: (F)liminfa/p<c}, X то ри,(А)<с^(А).
§ 2.9. ПРОИЗВОДНЫЕ 171 Доказательство. Применяя определение меры [}ф и теорему 2.2.2, для любого е > 0 получаем такое открытое множество W, что (fs(A\W)=0 и Тогда покрытие C=V(\{(x, S): сгущается в каждой точке множества А A W, поэтому в С (Л (IW) имеется такое счетное подсемейство G непересекающихся мно- множеств, что А П W покрывается им ф-почти полностью. В результате получаем SSG SSG 2.9.4. Следствие.Если ^^МиО<с<°°,то из Аа{х: (F)liminf г|5/ф<с} следует % (А) <| сф (А), из Аа {х: (V) lim sup ф/<р > с} следует % (^4) ^ сф (А), Доказательство. Очевидно, что фФ = ф, и из (V) lim supi|)/9>c следует (V) lim inf ф/aj? < 1/с. a 2.9.5. Теорема, ^слм ф s Jlf, то О ^ D (if, ф, V, х) < оо 5ля (р-почти всех х. Доказательство. Положим С = У П {(х, S): ф (iS) = 0), Р = {х: С сгущается в х}, Q = {я: (F) lim sup г|)/ф = оо}( X R (а, Ъ) = {х: (V) lim inf я|>/ф <.a<.b<.(V) lim sup г|)/ф} X X и заметим, что те точки, в которых производная не существует или бесконечна, принадлежат объединению Р, Q и множеств R(a, b), соответствующих всем парам рациональных чисел а < Ь. Так как в С(Р) имеется такое счетное подсемейство G непере- непересекающихся множеств, что Р покрывается им ф-почти полностью!, находим, что SSG Для любого ограниченного подмножества А множества Q из второго утверждения следствия 2.9.4 вытекает, что 00 > ф, (А) > сф (А) при 0 < с < оо? поэтому ф (А) = 0; следовательно, ф (Q) = 0.
172 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Для любого ограниченного подмножества А множества R {а, Ъ) из 2.9.4 вытекает, что поэтому ф(Л)=0, так как а < Ъ; следовательно, q>[R(a, Ь)] = 0. 2.9.6. Лемма. Если if е Л/, то DD", ф, F, ¦)—это у-измеримая функция. Доказательство. Вспоминая 2.3.2 G), предположим, что 0<а< < b < °° и А, В — такие ограниченные множества, что А<={х: DD\ ф, V, х)<а), В с {х: D(i|;, ф, V, х)>Ь). Выберем борелевские множества А' и В' таким образом, что А <= А', Из 2.1.4 и 2.9.4 вытекает, что ¦ф,р(^'П.5')=г|:ф(Л П5')^аф(Л ПВ') = а<р{А' ПВ'), $Ч(А' [).В')= я^(Л' П 5M= Ьф(Л' П 5)= 6ф(Л' П В'), откуда <р{А' П В')= 0, и мы заключаем, что U Д) = <р[(Л U Д)П.Л'] + <р[D U Д)П Д'] 2.9.7. Теорема. Если $ ^ М и А — это у-измеримое множество, то множество А также ^-измеримо и %(А) Доказательство. Множество А содержится в таком борелевском множестве В, что у(В\А) = 0, поэтому 1|?ФE\Л) = 0. Согласно 2.9.6 множества , ф, V, х)=0), W={x: D(t, Ф, V, д;)= являются ф-измеримыми; из 2.9.4 и 2.9.5 вытекает, что % (Z) = 0 = J D (г|), Ф, V, х) dyxr z = 0г о1;ф {W) = 0 = j D (ф, ф, F, ж Кроме того, при 1<?<°° множество 4\(ZUPF) представимо в ви- виде объединения непересекающихся ф-измеримых (по 2.9.6) мно- множеств Рп = А П {ж: Г ^ D(t, ф, F, а:) < tn+i}, соответствующих всем целым п, поэтому из 2.9.4 следуют нера-
§ 2.9. ПРОИЗВОДНЫЕ 173 венства ^() 2 nsz nsz 2 ? I D (г|), ф, F, a:) йф# = ? D (г|), ф, F, х n=Z 2 «я n=Z nSZ t~l f D (г|), Фг V, x) dyx = Г1 f D (i|j, Ф, F, x) йфд;. 2.9.8. Теорема, ?сли /—такая R-значная у-измеримая функция, что ' oo A для каждого ограниченного ^-измеримого множества А, то (F)lim j /йф/фE) = f(x) для у-почти всех х. Доказательство. Предполагая, что функция / неотрицательна, определим if> e M по формуле •фD) = ) /^ф при ЛсХ А и из 2.9.7 получаем, что / (х) dq>x = г|5 (Л) = ifo (Л) = j D (if, ф, F, х для каждого ф-измеримого множества А, откуда /(#) = D(i|>, ф, V,x) для ф-почти всех х. 2.9.9. Следствие. ?слм / — это (^-измеримая функция со значе- значениями в сепарабельном нормированном векторном пространстве Yu А для каждого ограниченного (^-измеримого множества А, то (F) lim j | / (z) — / (x) | d(fz/(f (S) = 0 для у-почти всех х. (Мно- s->x 8 жество всех точек х, для которых справедливо последнее равенство, называется (ф, V) -лебеговым множеством функции /.)
174 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Доказательство. Поставим в соответствие каждой точке множество Т (х) всех таких точек у е Y, что (V)lJm)\f(z)-y\d4z/<t(S) = \f(x)-y\. Покажем, что T(x) = Y для ф-почти всех х. Пусть у <= Y. Применяя теорему 2.9.8 к функции, отображающей х в \}(х) — у\, получаем, что у^Т(х) для ф-почти всех х. Если С — счетное всюду плотное множество из пространства У, то отсюда сле- следует, что С с: Т (х) для ф-почти всех х. Этого достаточно, так как Т (х) замкнуто для каждого х. 2.9.10. Объединяя 2.9.7, 2.9.8, 2.9.2, видим, что если ipe=M, то ^(¦фф> ф» У» s) = D(iJ>, ф, F, x), D(ip — if,, ф, V, х) = 0 для ф-почти всех х. Так как % определяется независимо от V, то из 2.9.7 вытекает, что если Ft и F2 — произвольные ф-покрытия Вита- Витали, то D(i|j, ф, Fi, #) = D(if, ф, F2, #) для ф-почти всех х. Следующие два замечания показывают связь настоящей теории с § 2.5. Если L — решетка всех непрерывных ограниченных действитель- действительных функций на X с ограниченным носителем, то М — класс всех L-регулярных мер, соответствующих монотонным интегралам Дание- ля на L. Если ^ s M, то Ьос(ф)<= Ьо„(г|)<р). В случае t|)(X)< °° можно оп- определить интеграл Даниеля \i на Ьх(ц>) по формуле И(/) = j /«Фф ПРИ /sL»(ф) и по теореме Радона — Никодима B.5.8) получить такую функцию A-eL^cp), что при / е Loo (ф). Сравнение с 2.9.7 показывает, что |э, ф, V, х) для ф-почти всех х. Однако хотя к было получено (в доказательстве теоремы 2.5.7) как решение определенной глобальной экстремальной задачи, производ- производная строится как результат особого локального предельного про- процесса, который, по-видимому, более полезен в аналитических и гео- геометрических приложениях. С другой стороны, метод из § 2.5 обла- обладает большей общностью, так как не зависит от существования ф- покрытия Витали.
§ 2.9. ПРОИЗВОДНЫЕ 175 2.9.11. Теорема. Если 4сХв S-+X Q = {х: (V) Нт ср E \Л)/Ф E) = 0}, S-*x то Р и Q являются (^-измеримыми, у(А\Р) = 0, A U Р является (^-оболочкой множества А, tf(Q\A) = O, X\(A (\Q) является (f-оболочкой множества Х\ А. Кроме того, <р-измеримость множества А эквивалентна каждому из следующих двух условий: Доказательство. Если В — произвольная ф-оболочка множества А, то Р = {х: D(фL5, ф, V, ж)=1}, поэтому из 2.9.8 вытекает, что ф {В\Р)¦+ ц>[Р\В) = 0, и утверждения теоремы относительно Р следуют из включений А\Р<=В\Р, A<=AUP^BU(P\B). Аналогично, если С — это ф-оболочка множества Х\А, то <? = {*: Б(фЬС) ф, V, х) = 0), поэтому из 2.9.8 вытекает, что ф(<? UC)+q[X\(CU #)} = 0, и ут- утверждения теоремы относительно Q следуют из включений Q\A с Q П С, Х\А <= Х\ (А П Q) с С U [Х\ {€ U (?) ]. 2.9.12. Пусть 4сХиа;е1. Предел (F) lira Ф {S[\A)ly{S) S-*x называется (ф, V) -плотностью множества А в х. Предыдущая тео- теорема показывает, что множество А является ф-измеримым тогда и только тогда, когда характеристическая функция множества А и функция (ф, V)-плотности множества А равны ф-почти всюду. При помощи таких плотностей определим следующие полезные модификации понятий предела и непрерывности. Пусть / — функ- функция, отображающая некоторое множество из пространства X в то- топологическое пространство У, ш х^Х. Точка jey называется (ф, V) -аппроксимативным пределом функции / в точке х, если (ф, V)-плотность множества X\f~l(W) в х равна 0 для любой ок- окрестности W точки y^Y. Если Y — хаусдорфово пространство, то может существовать не более одного такого у; обозначим его (ф, V) aplim/ или (ф^ V) aplim/(z).
176 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Говорят, что функция / является (ф, F)-аппроксимативно непре- непрерывной в точке х, если х е dm'n / и (ф, V) ар lim/ = /(«). В случае Y = R определим также (ф, V) -аппроксимативный верх- верхний предел функции / в точке х, обозначаемый (ф, F)aplimsup/, X как точную нижнюю грань множества всех таких чисел t, что (ф, У)-плотность множества {z: f(z)>t} в точке х равна 0. Аналогично определяется аппроксимативный нижний предел. В 2.3.5 была получена глобальная связь между измеримостью и непрерывностью. Следующая теорема локализует это соотношение. 2.9.13. Теорема. Пусть у-почти всюду функция f отображает X в сепарабельное метрическое пространство. Тогда для ^-измеримости f необходимо и достаточно, чтобы f была (ф, V)-аппроксимативно непрерывна в q-почти всех точках пространства X. Доказательство. Если функция / является ф-измеримой, то из 2.3.5 следует, что ф-почти всюду X совпадает с объединением счет- счетного семейства таких замкнутых множеств С, что функции /1С не- непрерывны. Кроме того, из 2.9.11 вытекает, что для ф-почти всех точек х каждого такого множества С () S-> следовательно, функция / будет (ф, V) -аппроксимативно непрерыв- непрерывна в х. Обратно, если функция / является (ф, V)-аппроксимативно не- непрерывной в ф-почти всех точках пространства X, W — произвольное открытое подмножество области изменения функции /, то из 2.9.11 вытекает, что множество /~'(И7) будет ф-измеримым, так как () S->x при x^j~l(W) и функция / является (ф, V)-аппроксимативно не- непрерывной в точке х. 2.9.14. Пусть /—открытое множество из {г: 0<г<<»}. Если а и р1 — меры на X, § е М, то множество {х: ссВ(х, г)> [}В(х, г) для некоторого геЛ открыто. Действительно, если аВ (а, г) > f}B (а, г) с г е J, то существует такое положительное е, что г + ее/ и аВ(а, г)>рВ(а, г + 2е),
§ 2.9. ПРОИЗВОДНЫЕ 177 поэтому для х е В (а, е) аВ(ж, г+е)>аВ(а, r)>{iB(a, г + 2е)>рВ(х, г+е). Справедливы два следствия. ?слм \|) — же/за на X и 0 <t < °°, то множество {х: г|)В (ж, г) > ?<рВ (ж, г) для некоторого ге/1 открыто. Если ty^M и 0<t <°°, то множество {х: 1|зВ (ж, г) < ftpB (ж, г) для некоторого г е= J) открыто. 2.9.15. Теорема. Пусть либо limsnp фВ(ж, 5г)/фВ (х, г)¦< оо Зля для каждого геХ, г-»о+ либо X сепарабелъно и представило в виде объединения счетного семейства К такого, что метрика р ограничена по направлениям в каждом элементе семейства К. Если \|з ^ М и W = {х: Jim г|)В(х, г)/фВ (х, г) = оо}, г-»0 + .Р = (ж: фВ (х, г) = 0 для некоторого г > 0), то W— борелевское множество, Р открыто и Доказательство. Применим 2.8.17 или 2.8.18 с V = {(x, B(x, r)): iel, 0<r<oo}. Из 2.9.5 вытекает, что (p(WVP) = 0, следовательно, Для доказательства противоположного неравенства достаточно по- показать, что = О, если T<=X\(WUP) и Можно предположить после счетного разбиения пространства X, что для некоторого с < °° liminf г|)В (я, г)/фВ (ж, г)< с при /еГ, г-»0 + а также что либо для некоторого X < °° lim sup фВ (х, 5г)/фВ (х, г) < Я при ig?1, г-»0+ либо метрика р является |, г\, ^-ограниченной по направлениям в Т, и X сепарабельно. 12 г. Федерер
178 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Пусть Е — произвольное открытое множество, содержащее Т. В первом случае Т покрывается семейством F, состоящим из ша- шаров В (х, г) cz E таких, что (я, 5г)<есрВ(;г, 5г)<сХ.фВ(х, г). Применяя 2.8.4, 2.8.5, 2.8.8 с т = 2, б = diam, получаем в F такое подсемейство G непересекающихся множеств, что Семейство G счетно, так как мера каждого элемента семейства G положительна, поэтому 2 Ч>C)< 2 SG SG Во втором случае возьмем 0 < [i < \/2 и применим 2.8.15 к се- семейству F', состоящему из всех таких шаров В (а:, г)<=Е, что хеГ, 0<r<|i, ipB(x, r)<cyB(x, r). Получаем, что Т содержится в объединении 2? + 1 подсемейств Н±, Н2, ..., #25+1 непересекающихся множеств семейства F\ каждое подсемейство Я5 счетно, так как X сепарабельно, и отсюда находим, что 25+1 (и#,х 2 Сф(и#,)<B? + 1 В обоих случаях делаем вывод, что ¦»|)G1) = 0, потому что вели- величину ф(?) можно сделать произвольно малой. 2.9.18. Следующий пример показывает, что теорема 2.9.15, вооб- вообще говоря, несправедлива для произвольных ф-покрытий Витали. Взяв X = R" с метрикой, индуцированной некоторой нормой, из 2.8.17 и 2.8.8 получаем, что V = {(х, S): S — замкнутый шар, x^S) — это ^"-покрытие Витали. Пусть п > 2, Y — прямая линия в R" и 1)з = Ж^- У (см. 2.10.2). Тогда (F) lim inf ф E)/2 E) = 0 при х е= Rn« S множества, соответствующие W а Р, пусты, но ф^, так как 3?n{Y) = 0, а ф(У) = оо. 2.9.17. Теорема. Пусть к<°°, ц>0« фВ (х, 5г) < Я,фВ (х, г) при х s X, 0 < г < \i.
§ 2.9. ПРОИЗВОДНЫЕ 179 Если г|)— мера на X, ¦§(Т) = 0 и множество Т является (р-изме- римым, то для (р-почти всех точек х множества Т lim sup г|)В (х, г)/фВ (х, г) г-»о+ равен либо О, либо °°. Доказательство. В силу 2.2.3 можно предположить, что Т замк- замкнуто. Тогда из 2.9.14 вытекает, что для любого натурального п мно- множество Сп = Т П {х: \|)В (х, г) < ифВ (х, г) для 0 < г < \/п) замкнуто, и так как 00 Т П /я: Hm sup г|)В (ж, г)/фВ (х, г) < оо| = U Сп% \ г-»0+ / п=1 то достаточно показать, что lim г|)В (х, г)ДрВ (ж, г) = О для ф-почти всех х в Сп. Пусть геС„и 0< г < inf {1/тг, |i}/4. Тогда В(х, г)\С„ покрывается семейством F всех замкнутых шаров В (у, s) таких, что 3/еВ(я, г)\Сп и s = dist(j/, С„)/2. Для каждого такого (у, s), s < г/2 и p(y,z)<3s при некотором z e С„, поэтому (x, 2r), 8s<i/n, 5s<\i, z, 8s) <жрВ(г/, lls)< иЯ,2фВ(г/, s). Применяя 2.8.4, 2.8.5 с б = diam, т = 2, получаем в F такое счетное подсемейство G непересекающихся множеств, что В(х, , г) = гИВ(*, г)\С„]< 2 3 S (ж, 2r)\Cn], ssa т, г) ф[В(»,2г)\Сп] фВ (х, г) ^ фВ (г, 2г) ' Заметим, наконец, что правая часть последнего неравенства стре- стремится к 0 при г, стремящемся к 0, если плотность множества Х\Сп в точке х равна 0, а это выполняется для ф-почти всех х из Сп согласно 2.8.17 и 2.9.11. 2.9.18. Следующие два примера показывают, что полученный в 2.9.17 результат довольно точен. A^ В утверждении теоремы lim sup нельзя заменить на lim. 12*
180 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Пусть X = R с обычной метрикой, ф = 2", и Г — нигде не плот- плотное компактное множество положительной 2"-меры. Выберем поло- положительные числа с;- и конечные множества Sj так, что с4 = 1, S, с R\7\ Т с U Ш (а, С;): а е 53}, /cm < dist Ej, Г) = inf p (Sj XT)< с,-. Определив меру г|> на R по формуле i|?(il)=sup((O}U {с,:АП8,Ф0} видим, что 1|з (Т) = 0 и при х <== Г для поэтому левая часть имеет нижний предел 0, а верхний предел >1/2, при г, стремящемся к 0. Конечно, из 2.9.17 следует, что верх- верхний предел равен °° для 2"-почти всех х из Т. B) Условие фВ(а:, 5г)<ЯфВ(л;, г) не может быть опущено для множества точек х, имеющего у-меру 0, даже когда метрика р огра- ограничена по направлениям. Пусть X = R2 с обычной метрикой, Т — прямая линия в R2, ф = -ЖЧ-Т, реО*B, 1) и при 4cR!. Тогда ф(В2\7') = 0, гр(Т) = О и при яе=Г и 0<г<°о фВ (х, 5г) /фВ (х, г) = 5, а|эВ (х, г) /фВ (ж, г) = 1. 2.9.19. Теорема. Пусть g:R-»-R« (см. 2.5.16) \bag <; оо при — сзо <; а <С 6 < оо, ij)+ u \(з- — радоновы меры на R, порожденные g (см. 2.5.17), У = {(х, S): S — невырожденный отрезок, х е 5), тогда g имеет в 3?*-почти всех точках jsR производную g' (x) = lim [g(x + h)-g (x) Л-»0 удовлетворяющую условиям: (+V)/ ft-»o B) либо g'(^) = D(i3+, 5", F, ж) и D(if, S\ V, x) = 0, либо g'(a?)--D(i|>-, 2", F, ж) w D(i|)+, S\ V, x) = 0. b b Кроме того, y*g > J | g' \ d3?x при — oo<a<?><oo. a Доказательство. Из 2.8.17 видно, что F —это 2"-покрытие Ви- Витали.
§ 2.9. ПРОИЗВОДНЫЕ Рассмотрим сначала частный случай, когда g — неубывающая функция. Из 2.9.5 следует, что для 2"-почти всех х Фиксируя такую точку х и обозначая для краткости производную через X, для любого е > 0 найдем такое б > 0, что {X - е) (Ь - а) < if+{?: a < t < b) «(X + е) (Ь - а) при а^х^Ь и 0 < Ь — а < б. Следовательно, для таких а и Ъ спра- справедливо неравенство (Х- е) (b -a)< g(b)~ g(a)^(X + г) (Ъ - а) при условии, что g непрерывна в а и Ъ, однако так как точки не- непрерывности функции g плотны в R, и так как функция g(b) — — g(a)—неубывающая относительно Ь и невозрастающая относи- относительно а, то вышеуказанное неравенство справедливо также в слу- случае, если g разрывна в а или Ъ. Следовательно, при 0< |А| < б. Отсюда делаем вывод, что g'{x) = X. Далее, в общем случае, определим s так же, как в 2.5.16, заме- заметим, что функции s и s — g не убывают, и из рассмотренного ранее случая получим, что для ^'-почти всех х Вспоминая (см. 2.5.17) соотношения между тр+, т|з~ и приращениями g(b)-g(a),s(b)-s(a) = \bag% находим, что для 2"-почти всех х , 2", V, x) + D(r, S\ V, x)<s'(x), +, S\ V, *)-D(r, 9S\ V, x) = g'(x), а из последнего равенства вытекает, что |*'(*I <1)(Г, S\ V, x) + D(r, S\ V, x). Следовательно, для того чтобы показать, что g' удовлетворяет сфор- сформулированным в теореме двум условиям, осталось доказать только, что s'(a;)< \g' (x) I для ^"-почти всех х. Заметим, что {х: s'(x)>\g'(x)\}cz 0 Ст, где Ст — множество всех ieR, для которых s(b)-s(a)-\g(b)-g(a)\>(b-a)/m
182 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ при а<х^Ь и 0 < Ь — а < 1/тга, и докажем, что 5"-мера каждого множества Ст равна 0. Для заданных — °° </><д<°°ие>0 можно выбрать такую ко- конечную последовательность р = tl<t2<.. .<tn< tn+i = q, что t — tj< 1/m и S 3=1 Полагая К = {/: Cm П {x: t> < x < tj+i) Ф 0], находим, что 2 «г [s (ti+1) - s (t)) - | g (ti+1) - g fa) |] < me. Наконец, используя 2.9.7, получаем, что для —°° < а < Ь < °° Vag^ tf {%'• о, <С х<СЩ -\- *§ \х\ а<С.х<С. о)^ ь ь ~> \ \Т) (%\1+ 9?1 V т\ 4- D (ih~ 9е1 V r)]d9PlT = ( \ р' (r\\'d9s>1r а а 2.9.20. Следствие. При ~оо <а<Ь<оо следующие четыре усло- условия эквивалентны: X а Ь B) Vag = I I g' ] dS1. a C) Для любого г > 0 существует такое б > 0, что для любых ко- конечных последовательностей а ^ u, < i^ ^ м2 < у2 ^ ... ^ ип < yn ^ ft мз условия п п 2 (yj — ^j) ^ б вытекает 2 | ? (^i) — g (uj) I ^ 8- D) Функция g\ix: a ^ x < 6} непрерывна, и меры tf+ L {ж: a < а: < 6}, ifr L {а;; а < а; < b) абсолютно непрерывны относительно i?1. Если выполняется какое-либо из этих условий, то говорят, что функция g абсолютно непрерывна на (ж: а^ж^ Ь}. Доказательство. Из A) следует B), так как если A) имеет место и a =S tt < t2 < ... < tn < tn+l = b, то tj+i
§ 2.9. ПРОИЗВОДНЫЕ 183 Применяя 2.4.11 с q> = 2>l^-{x: a^x^b] и f = g', аналогично получаем, что B) влечет C), так как если B) имеет место, то для Заметим далее, что из импликации в C) получаются следую- следующие вытекающие одна из другой импликации. Для а ^ щ < Vi < иг < vt «^ ... < ип < vn ^ Ъ п п из 2 {vj — Uj)^.b следует 2 V,/ 1 1 ' Для любого открытого подмножества S множества {ж: а < х < Ь) из 2" (S) < б следует af+ (S) + i(r (S) ^ e. Для любого подмножества S множества {х: а < х < Ь) из 2" (S) = 0 следует i|>+ E) + г|г E) = 0. Следовательно, из C) вытекает D). Наконец, из D) следует A), так как если D) имеет место и а < и < v < Ь, то по 2.9.2 и 2.9.7 S(v) — 8(«) = Ч>+ {х: u<x<v} — ty~{x: u<x<v} = V V - J [D(,j,+, ^S. V, x)-D(^ ^S F, x)]US4 = jg' (x)a2lxx и u а предельный переход, когда и стремится к а или когда v стремится к Ь, корректен в силу 2.4.11 и дает V g(v) — g{и) = j g'dS1 при a<w<y<8. u 2.9.21. Объединяя 2.9.19, 2.9.20 с 2.9.7, 2.4.10, получаем следую- следующее утверждение. Если g абсолютно непрерывна на {х: а =?! х ^ Ь), то ь ь ]idg=\ig'd9?1 при /е= JiT(R). a a Если, кроме того, g возрастает, то из 2.5.18B) вытекает, что j (fog) g'd&i = ]" / d&1 при f^X (R). a 8(a) Гораздо более общие формулы о «замене переменной под знаком интеграла» будут доказаны в 3.2.6.
184 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ 2.9.22. Здесь будет показано, как результаты пп. 2.9.19, 2.9.20 можно перенести на тот случай, когда g: R -*¦ Y, Y — рефлексивное банахово пространство, ybag<Z °° при —oo<Za<Zb<C <x>. Вместо мер тр+, ifr рассмотрим теперь меры фа. фа.порожденные действительными функциями а ° g, соответствующими всем функцио- функционалам а из сопряженного пространства Y* (см. 2.5.12). При такой замене остается только одно затруднение — доказать существование для 5"-почти всех х предела g' (х) = lira [g(x + h) — g (x)]/h s Y h->0 по норме пространства Y. Тогда g'(x) будет однозначно определена условием <g' (x) ,«>=(a«g)' (x) при a е 7*. Так как im g сепарабелен и каждое замкнутое подпространство ре- рефлексивного пространства рефлексивно, то можно предположить, что пространство Y сепарабельно, откуда следует, что пространства (У*)* и Y* также сепарабельны. Выбирая счетное всюду плотное множество F в У*, заметим, что при ц е Y, и получим, что функция и со значениями в Y будет ^"-измеримой тогда и только тогда, когда ^"-измерима для каждо- каждого jl s i?1 функция р ° и. Рассмотрим сначала частный случай, когда g — липшицевское отображение. Для 2"-почти всех х Кроме того, если a<= Y* и е > 0, то существуют такие что If} — al < е, и из 0 < \h\ < б следует а поэтому \a[g{z + h)-g(x)]/h-W'g)r(z)\<eUi>(g)+e, и из критерия Коши вытекает, что (ae g)' (х) е R. Функция, отоб- отображающая а в (a°g)'(x), является элементом пространства (Г*)* с нормой, не превосходящей Lip(g), поэтому существует единственный элемент v(x)^Y такой, что I v (х)! *? Lip (g), (v(x), a> =(a°g)'(x) mpvi a<=Y*.
§ 2.9. ПРОИЗВОДНЫЕ 185 Для —°° < а < Ъ < °о из 2.4.12 вытекает, что (ъ \ ь ь ( v dS1 = j (аоу) rf^1 = f (a.g)' й^1 = а [g F) - g (а)] ) а при аеР, так как функция ae g абсолютно непрерывна, и поэтому Предполагая, что х принадлежит C?\ V) -лебегову множеству функ- функции v, возьмем а < х < Ъ и получим, что ь \lg(b)-g(a)]/(b-a)-v(x)\ = стремится к 0, когда Ь — а стремится к 0, следовательно, g' (x) = ) () Далее, в общем случае, положим g = H°s, как и в 2.5.16. При- Применяя частный случай к Н, находим, что Я' (z) e Y для 2"-почти всех z. Кроме того, из неравенства ь s(b) — s(a)> J s'dS?1 при — oo<a<6< oo a вытекает, что если Z — открытый интервал и, следовательно, если Z — открытое множество из R. Получаем, что если 3>l(Z) = Q, то s'(x) = 0 для З^'-почти всех х из s~'(Z). Следовательно, для ^"-почти всех х либо s'(x) = 0, либо Н '[s (х) ] е Y и 0 < s' (х) < оо. В первом случае lim|g(* + fc)-g(s)|/|A|<*'(a;) = O, g' (a) = О, в то время как во втором случае g (X + h) - g (Ж) Я [5 (Я + fe)l - Я [S (ХI S (X + h) - S (х) h s(x + h)—s(x) ' h стремится к H'[s(x)] • sf (x), когда h стремится к 0.
186 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ 2.9.23. Следующий пример показывает, что, в отличие от 2.4.12, в 2.9.22 необходимо какое-то сильное ограничение на Y типа реф- рефлексивности. Пусть g(x)—характеристическая функция интервала it: 0<t<x) при х е= R. Тогда g (х) = 0 при х «S О, 2?\\) l§ (u) — g (v)] = v — u при 0 < и < v < оо, поэтому Lip(g) = l. Однако g' (х) Ф U B?1) при 0 < х < оо. Действительно, из предположения 0 < х ^ dmn g' вытекало бы существование предела x+h Hm r^' + ^-^W/dgi^lim f fd2?l/h h^>0" Л-»0 »" для каждой функции /еЦB"), что неверно. Таким образом, раз- разностное отношение не имеет даже слабого предела! 2.9.24. Если — оо<а<Ь<°°, f и g отображают R в R, Va/< оо м g абсолютно непрерывна на {х: а^х^ b), то ь ь Положим tni) = a + (j — 1) (Ь — а)/п, и из 2.9.20 и доказательства 2.5.18 A) получаем, что Ь п J Ug'dS?1 + ? g (tnj) [/ («»j+i) - / (*n,;)] = f(b)g(b)-f(a)g (a)t a i—1 где /п(а:) = /(^„,,+1) для tn,s < x < tn, i+l. В силу 2.5.16 функции /„ сходятся ограниченно и З^'-почти всюду на {х: а ^ х ^ Ъ} к / при и, стремящемся к °°, и из 2.4.9 следует требуемая формула интег- интегрирования по частям. 2.9.25. Объединяя 2.6.2, 2.9.8 и 2.9.20, получаем следующее ут- утверждение о дифференцировании интеграла по параметру. Если ф — мера на S, —'°° < а < Ь < °°, I = it: а < t < Ь), u:Sx/->-R, f it ski t g (t) = J j и (x, y) dSxy dyx для t e /, S a
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 187 то g абсолютно непрерывна на I и g'(t)= fa (ж, t)d(px 8 для S^-почти всех t из I. § 2.10. Конструкция Каратеодори 2.10.1. Пусть X— метрическое пространство, F—семейство подмножеств пространства X и ? — такая функция на F, что ос при SeF. Построим вспомогательные меры ф«, соответствующие 0 < б *? °°, и затем основную меру t|> следующим образом. При Ас=Х значение фв(-<4) определяется как точная нижняя грань множества чисел 2 SSG соответствующих всем счетным семействам G таким, что G<=Fu{S: diara S < 6} и А <= U G. Из неравенства ф« ^ фа для 0 < б < о г? °° вытекает существование предела ¦ф (Л) = lim фб (Л) == sup фб (А) для любого АаХ. б-*0+ 6>0 Ясно, что ц>й и \|) — меры на X. Из 2.3.2 (9) следует, что все от- открытые множества из пространства X являются ^-измеримыми. Действительно, пусть dist(^4, 5)>б>0. Рассмотрим произвольное покрытие G множества A U В, состоящее из множеств, диаметры ко- которых не превосходят б, тогда семейства G П {S: S П А Ф 0} и СП {S: S П В ?• 0} не пересекаются и покрывают множества А и В соответственно, поэтому , если Aisb(A, 5)>б>0. Однако, как показывают простые примеры, не все открытые мно- множества фб-измеримы. Если все элементы семейства F являются борелевскими мно- множествами, то каждое подмножество А пространства X содержится в таком борелевском множестве В, что фв(Л) = фвE), и if — боре- левски регулярная мера. - Мы будем называть меру г(з результатом применения конструк- конструкции Каратеодори к функции ?, определенной на семействе F, а вспомогательную меру ф« — приближающей мерой порядка б.
188 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ При помощи конструкции Каратеодори произвольная функция 5 на F превращается в хорошую меру if на X. Мера if довольно тонко отражает свойства функции % и семейства F, хотя обычно и не яв- является продолжением функции %. Основные геометрические меры if получаются соответствующим выбором % и F. Некоторые такие меры определяются в 2.10.2 — 2.10.5. Как показано в [F 11, 2.5], if (Л) можно определить также как точную нижнюю грань множества всех чисел t, обладающих следую- следующим свойством: для каждого открытого покрытия Н множества А существует такое счетное подсемейство G семейства F, что каждый элемент семейства G содержится в некотором элементе семейства Н, G покрывает А и 2 SSG Возможно, что такое определение меры if теоретически предпочти- предпочтительнее, так как не требует метризуемости пространства X. Ясно, что if — мера на X, каково бы ни было топологическое пространство X, и из 2.3.2 (8) вытекает, что каждое непрерывное отображение пространства X в метрическое пространство будет if-измеримым. В этой книге мы не будем следовать этому более общему подходу, так как до сих пор он использовался только в доказательстве тео- теоремы [F 11, 2.10, 3.3], не рассматриваемой здесь, и так как мы часто используем меры ф«. Конечно, такие приближающие меры можно определить для произвольного равномерного пространства X. 2.10.2. Применим конструкцию Каратеодори к = a (m) 2~m (diam S)т при 0 Ф S <= X, где т — неотрицательное целое, а а{т) определено в 2.7.16 A). (Вообще, можно предполагать, что т — произвольное неотрицатель- неотрицательное действительное число, полагая В 3.2.13 доказано, что это согласуется с определением «(«г), дан- данным в 2.7.16 A).) A) Если F — семейство всех непустых подмножеств пространст- пространства X, то результат применения конструкции Каратеодори называется »г-мерной хаусдорфовой мерой наХи обозначается через Ж™ (или Ж™, где р — метрика пространства X). Мы получим ту же самую меру Ж™, взяв в качестве F семейство всех непустых замкнутых множеств из пространства X или семей- семейство всех непустых открытых множеств из пространства X (хотя в последнем случае приближающие меры порядка б могут отличаться Друг от друга, как показывает пример круга А диаметра б и m — 1!).
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 189 Следовательно, <Ж"* — борелевски регулярная мера. Если X — нор- нормированное векторное пространство, то получим ту же самую меру 5$™, предположив, что все элементы семейства F к тому же выпук- выпуклы, так как диаметры произвольного множества и его выпуклой оболочки совпадают. Отметим, что Зёа — считающая мера на X. Если Жт(А)<°°, то Ж(А) = 0 для m<k<°o. B) Если F—семейство всех замкнутых шаров в X (см. 2.8.1), то результат применения конструкции Каратеодори называется пг-мерной сферической мерой на X и обозначается через 9*™, где р — метрика пространства X). В случае X = Rn получим ту же самую меру 9°™, взяв в качестве F семейство всех открытых шаров в X. Ясно, что Жп *? &т < 2тЖт; более точные неравенства для евкли- евклидова пространства см. в 2.10.42, 2.10.6. 2.10.3. Пусть теперь X = R", т — натуральное число и = а (т) 2~т sup {| (ах — Ъх) л ... л (ат — bm) |: a1? bv ..., ат, Ът е S} при 0 ФScz Rn. Результат применения конструкции Каратеодори к этой функции %, определенной на семействе F всех непустых под- подмножеств пространства R" будет обозначаться через Мы получим ту же самую меру, если предположим, что элементы семейства F открыты, или компактны, или выпуклы. Функция ? ставит в соответствие одно и то же число и произвольному множест- множеству, и его выпуклой оболочке, так как отображение из (R"Jm в Дот^п), задающее вышеуказанное внешнее произведение, аффинно относительно каждой из 2т переменных а,, &ь ..., ат, Ът. 2.10.4. Пусть X = R" и т — натуральное число, т^п. Положим теперь sup{?""[?(?)]: р^О*(п, т)) для S<=R\ A) Если F—семейство всех борелевских подмножеств прост- пространства R", то результатом применения конструкции Каратеодори является пг-мерная мера Гросса на R", обозначаемая через B) Если F — семейство всех открытых выпуклых подмножеств пространства R", то результатом применения конструкции Каратео- Каратеодори является m-мерная мера Каратеодори на R", обозначаемая через <ё"п.
190 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Мы получим ту же самую меру $"", если в качестве F возьмем се- семейство всех замкнутых выпуклых подмножеств пространства R". В случае т = 1 ?E') = <11атE'), если множество S выпукло, поэтому <?" = Ж. 2.10.5. Предположим, что X = R", m — натуральное число, m ^ п, и определим для 1 < t < °° функцию ?, на классе всех суслинских множеств из пространства R" следующим образом. Каждому суслинскому множеству S поставим в соответствие та- такую функцию /s на О* (га, пг), что при ре О*(п, тп), и положим (см. 2.4.12, 2.7.16 F)) Функция /s является Qn,m -измеримой, так как {(х, у, р): x^S п у=р(х)} — суслинское множество в пространстве R"XRmXO*(n, m), следо- следовательно, из 2.2.10, 2.2.12, 2.6.2 вытекает, что множество 3m X $n,m -измеримо. Если множество S ограничено, то и функция /s ограничена, и из 2.4.17 следует, что функция Р<(и, m)?,t(S) не убывает и непрерывна по t и ?,t (S) непрерывна. A) Если F — семейство всех борелевских множеств из прост- пространства R", то результатом применения конструкции Каратеодори к ?, на F является иг-мерная интегрально геометрическая мера ин- индекса t на R", обозначаемая через B) Если F—семейство всех открытых выпуклых множеств в пространстве R", то результат применения конструкции Каратео- Каратеодори к ?( на F обозначается через QT. Мы получим ту же самую меру QT, если в качестве F возьмем семейство всех замкнутых выпуклых множеств из пространства R". Функция /s, соответствующая произвольному ограниченному от- открытому выпуклому множеству S, непрерывна (см. 3.2.36). Поэтому Мера Q™ называется иг-мерной мерой Джиллеспи на R".
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 191 Для каждого А <= Rn, р( (и, т) 9? (А) и рг (n, m) #Г (А) явля- являются неубывающими функциями по t. Более точные результаты бу- будут получены в 3.2.45, 3.3.19, 3.3.16. Мера ЗГ™ рассматривается также в 2,10.15, 2.10.16. Отметим, что ^Г (-4) = 0 тогда и только тогда, когда А содер- содержится в таком борелевском множестве В, что 3?т[р(В)] = 0 для 6*,т-почти всех р из О* (п, т). Таким образом, все меры $Т, со- соответствующие 1 ^ t < °°, имеют одинаковые нулевые множества. 2.10.6. Используя некоторые факты, которые будут доказаны позже, соберем здесь все известные неравенства, связывающие раз- различные пг-мерные меры на Rn, определенные в 2.10.2 — 2.10.5. Из определений и из 2.10.34 получаем (для 1 < t < °°) VI VI V! Кроме того, [( )] no 2.10.42; ^m<nm/22m^"m no 2.10.39; ^""< a (m) Tmm\ Qf no 2.10.37; Г"<?Г по 3.2.45; ЗТ<^? по 3.3.16. Следовательно, отношения любых двух мер 9"*, Ж", &~m, QT огра- ограничены. Однако, как показывается в 3.3.19, 3.3.20, отношения мер 9?m, Sm, &Z не ограничены. Неизвестно, верно ли, что ^™ = ^Г (см. 3.3.16). Согласно 2.10.35, в случае тп = п все эти меры совпадают с 3?т. Более того, они совпадают на классе всех m-мерных спрямляемых множеств из пространства Rn (см. 3.2.26). Сравнительное изучение этих мер на классе неспрямляемых множеств послужило мощным толчком к развитию структурной теории, рассматриваемой в § 3.3. Известно много примеров (компактных) множеств, иллюстрирую- иллюстрирующих различие между вышеуказанными мерами. Например, построе- построены следующие множества. В [В 1, § 47] — такое множество А с: R2, что 7 () 7 () В [FR 1] и [ME 2] — такие множества A cR1, что В 3.3.19 — такое множество A a R2, что в\(А) = 2& B, 1)-1при 1^*^оо и^1
192 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ В 3.3.20 — такое множество Е с R2, что () Некоторые работы, посвященные данному вопросу, перечислены также в 3.3.21. 2.10.7. Пусть функция g: R-*-R не убывает, F — семейство всех непустых ограниченных открытых интервалов из R и t,{t: a<t<b) = g(b) — g(a) при -°°<а<Ь<оо. Тогда определенная на R мера т|з, являющаяся результатом приме- применения конструкции Каратеодори к ? на F удовлетворяет условию ${*: a<t<b)='g{b)-g(a), если g непрерывна в я и b, a < Ъ. Следовательно, мера ¦§ совпадает с мерой ф+, порожденной функцией g (см. 2.5.17). Для доказательства заметим сначала, что в этом случае все приближающие меры порядка б равны, так как если функция g непрерывна в точках ti < t2 < ... < tn+t, то п 8 (*»+i) - g (*i) = lim 2 [g (ti+t + E)-g(t,- e)]. Следовательно, ${t: a<t < b) <, g(b) — g(a). Получим далее проти- противоположное неравенство. Если G — произвольное счетное семейство открытых интервалов, покрывающее it: a < t < b), и е > 0, то it: a + e^f<6 —е} покрывается некоторым конечным подсемейст- подсемейством семейства G, состоящим из интервалов {t: в, < t < i;,}, ..., {*: ип < t < vj, где ц, < а+ е, vn > Ь — е, щ < uj+l < v} для ; < п, поэтому В частности, если g(x) — x для всех xeR, то ty = 3i§1, следова- следовательно, одномерная хаусдорфова мера на R совпадает с лебеговой мерой Si. 2.10.8. Теорема. Пусть if — результат применения конструкции Каратеодори к такой функции %, определенной на семействе всех борелевских множеств сепарабелъного метрического пространства X, что если G — счетное семейство борелевских множеств и А <= U G. Если А — произвольное борелевское множество в пространстве X, то ¦ф(Л) = supf 2 ? (В)'- Н — борелевское разбиение множества А\; \вен' _ J
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 193 кроме того, если Ht, Н2, Н3, ...— борелевские разбиения множества А, то из lira sup {diam В: В е Hj} = 0 следует lim 2 Доказательство. Ясно, что ?(S)s?i|>(iS) для любого борелевского множества S. Так как все борелевские множества ^-измеримы, то вен вен для любого борелевского разбиения Н множества А. Кроме того, если диаметры элементов борелевского разбиения Hj множества А стремятся к 0, то liminf 2 2.10.9. Применяя предыдущую теорему к конструкции мер 9т и &™, получаем равенство ЗТ = Ига &? для 1<*<оо. Эта теорема неприменима к конструкциям мер Жт, 9>т, ?Гт или QT (см., однако, 3.2.45). Мы будем применять эту теорему в 2.10.10, 2.10.13, 3.2.39 для интегрирования кратности N(f, у) значения у функции /, определяемой как число элементов (воз- (возможно, равное 0°) множества f~'{y). Следующее утверждение часто применяется вместе с 2.2.13. 2.10.10. Теорема. Пусть X — сепарабелъное метрическое прост- пространство, ц — мера на пространстве Y, f отображает X в Y и мно- множество f(A) является [i-измеримым для любого борелевского мно- множества А из пространства X. Если и i|) — результат применения конструкции Каратеодори к функции %, определенной на семействе всех борелевских множеств прост- пространства X, то для каждого борелевского множества Ас:X. Доказательство. Рассмотрим такие борелевские разбиения Ни Н2, Нг, ... множества А, что каждый элемент семейства Н, яв- является объединением некоторого подсемейства семейства ffj+i, и sup {diam S: S e= Ht) -> 0 при / -> °°. 13 г. Федерер
194 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Обозначая через cs характеристическую функцию множества f(S), заметим, что для каждого j/e7 2 cs(y)jN(f\A, у) при / f oos ssHj и, используя 2.10.8, 2.4.7, получим = Ит 2 ц[/E)] = Пт[ 2 ^dp = j N (/ \А, ;•-><» 2.10.11. Следствие. Е'сдм / — липшицевское отображение полного сепарабельного метрического пространства X в метрическое прост- пространство Y, 0^ m < °о и А — борелевское множество в пространстве X, то (Lip j)m26n (А) > j N (/1 А, у) йЖпу. Доказательство. Из 2.10.2 следует, что (Lipf)m2em(S) для S^X. (В этом рассуждении Жт можно заменить на 9"т.) 2.10.12. Следствие. Если X — метрическое пространство, то для каждого связного множества С с X. Доказательство. Можно предположить, что Ж1 (С) < °°, X сепа- рабельно и полно, и выбрать такое борелевское множество В, содер- содержащее" С, что Ж (В) = Ш' (С). Для фиксированных а, Ъ^С определим функцию /: X -*- R, /(#) = dist(a, x) для а; е I, и из 2.10.11, 2.10.7 получим, что Ж (С) = Жх {В) > j N (/1 В, у) йШху ^'Ж [/ (С)] > dist (а, Ъ), так как 0 = /(а) и f(b) принадлежат интервалу /(С). 2.10.13. Теорема. Если g — непрерывное отображение из R в мет- метрическое пространство Y, — °° < a < Ь < °° м Л = {?: а < ? ^ Ь}, го = J Кроме того, если Y — рефлексивное банахово пространство (см. 2.9.22), то функция g абсолютно непрерывна на А тогда и только тогда, когда Vbag<C °° и 0 при TczA, 2)i(T) = 0.
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 195 Доказательство. Для а = t{ < t2 < ... < tn+i = b из 2.10.12 сле- следует, что 2 dist [g(t}), g(ti+1)] < 2 Ж1 {g(x): t}<x< tj+1}. 3=1 j=l Отсюда и из 2.10.10, 2.10.8 вытекает, что Предположим далее, что Vag < °о и представим g = Н ° s так же, как в 2.5.16. Тогда из 2.10.7, 2.10.11 следует, что \bag = s(b) -s(a) = 2el[s(A)} > \n[H\s(A), у] так как N[H\s(A)t у] =N(g\A, у), если только А {\g~4y} не содер- содержит невырожденных интервалов, т. е. всюду, кроме некоторого счет- счетного множества точек у. Таким образом, первая часть теоремы доказана. Отсюда вытека- вытекает, что мера, порожденная монотонной функцией s, совпадает с ме- мерой гр, построенной в 2.10.10 (с f = g), и мы получаем эквивалент- эквивалентность следующих трех свойств (см. 2.9.20): абсолютная непрерыв- непрерывность функции g на А, абсолютная непрерывность функции s на Л, абсолютная непрерывность меры -ф '— ^4 относительно 2". 2.10.14. Предыдущую теорему можно обобщить, отказавшись от условия непрерывности функции g, и изменив заключение следую- следующим образом: \ag=\N(g\A)d№y+ 2 а+(х)+ 2 а-(х), где о+ (х) = lim sup dist [g (t)f g (x)], t-*x + o_ (x) = lim sup dist \g (t)t g (x)]. t-*x- B [F 11, 3.3] можно найти существенное обобщение, применимое к тем непрерывным отображениям локально компактного сепара- больного метрического пространства в метрическое пространство, у которых прообраз каждой точки является вполне несвязным. 2.10.15. Теорема. Если п^т>1 — целые числа, А — борелев- ское множество из R" и , у) dSmy для реО* (л, m) t то .7? (А) > [e:,m]w (|Г)'Р\ (и, ш) для 1< t< оо; 13*
196 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ кроме того, в случае t — 1 имеет место равенство, т. d. J? (А) - J J N (р | А, у) dS?ny <1в1тр/Ъ (», /га). Доказательство. Выбирая семейства Н, так же, как в доказатель- доказательстве теоремы 2.10.10, и вспоминая 2.10.5 A), видим, что 2 U(P) t g(Р) при / $ оо для ре О* (га, тп), H откуда, применяя 2.4.7, 2.4.15, 2.10.8, получим <Нт 2 В случае t = \ вместо неравенства Минковского нужно применить равенство 2.4.8. 2.10.16. В силу 2.10.5 из доказательства теоремы 2.10.15 вытекает, что функция N(p\A, у) является 2"" X в*,т-измеримой по (у, р). Пусть [I — инвариантный относительно движений интеграл на про- пространстве всех (п — тп)-мерных аффинных подпространств прост- пространства R", определенный в 2.7.16 G). Тогда где функция vA каждому (я — тп)-мерному аффинному подпрост- подпространству W пространства R" ставит в соответствие число точек мно- множества А П W. Аналогичные рассуждения в [F 5, § 8] и [FR 1, 3.1] показывают, что У? (А) = рх (/, j + m - п) рх (», то)-1 J 2f[+m~n (А П Z) dyZ, где j > п— тп и if — обычная инвариантная относительно движений мера на пространстве всех /-мерных аффинных подпространств пространства Rn, и что Я? {А) = р! {k, m) p\ (n, j»)-i j j N (р | А, у) d3f?y dQ*n,hPl Rft где m< k<n. 2.10.17. Теорема. Пусть X, F, ?, ф«, г|> те же, что и в 2.10.1, по- покрытие С = {(х, S): x^S^F) сгущается в каждой точке пространства X и ц — мера на X. A) Если ЛсХ, t>0, 6>0 и n(AuS)^tl{S) для всех таких S eF, что diam S ^ б, то A
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 197 B) Если мера ц регулярна, ЛсХ, {>0« < (С) Hm sup ц (А П ?)/? (S) < i п/?м всея x е= 4, 8 го ц()^() C) 2?сли ЛсХ, фв(Л)<о° при любом б > 0, и если из S, следует, что SП Те= F м ^EПГ)<^(Г), го Доказательство. Утверждение A) очевидным образом следует из определения меры фб. Для доказательства B) и C) рассмотрим множество 5(ц, t, б) всех тех точек х из А, для которых (Л П5) г?^(S) при всех таких S^F, что diam S*?б игеУ. Из A) получим, что ц.В(ц, i, 6)«S г<рвБ(|х, г, б). Из условий утверждения B) вытекает, что А= U В(ц, * Из условий утверждения C) вытекает, что для 0<б<1 вьшол- няется неравенство <рвЯ(фе, 1-6, б)«A-б)фвВ(ф,, 1-6, 6)<оо, поэтому ф4В(фв, 1 — б, б) = 0. Кроме того, А П {х: {С) lim sup (фоо L А)Ц < 1} = U В (фоо, 1 - 1/п, 1/п) и В(ф„, 1 — 1/га, 1/п)<=5(ф«, 1 — 6, б) для 0<б<1/ге, следова- следовательно, 0. 2.10.18. Теорема. Пусть X, F, g, ф4, г(з, С, ц — re ace, что и в 2.10.17, элементы семейства F замкнуты и ц-измеримы и сущест- существует такое г\<°°, что 5 (S) < Ц% (S) < оо для любого S e F, где S = U{T:T^F,TnS?^0, diam T « 2 diam 5}. (.1) ?с/щ F—открытое множество в пространстве X, BczV, t>[) и (С) lim sup ц (S)/t, (S) > t при всех S S-tx то G) ц()ф() B) Если ц—борелевски регулярная мера, ц(А)<°° и множест- множество А является ц-измеримым, то 8->х для ty-почти всех х из Х\А.
198 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ C) Если А <= X и 1|>(Л) < °°, го О < (С) lim sup of (А П S)/t (S) <1 S->x для ^-почти всех x. Доказательство. Проверим A). Заметим, что для каждого 6>0 ceMeiJcmo Ff\{S: ii{S)>tt,(S), 5c7, diamS<6} является сгущающимся покрытием множества В, и в силу 2.8.6 в нем можно выделить такое подсемейство G непересекающихся мпо- жеств, что В\\] H<=U {S: S^G\H} для каждого конечного H<=G. В случае [x(F)<oo семейство G счетно, так как ц,E')>0 для всех S ^ G. Кроме того, для любого е > 0 можно выбрать такое подсе- подсемейство Н, что 2 ЦE)<е. S = G\H Следовательно, Докажем теперь B). -Для любого натурального п положим Вп = (X \А) П {х: (С) lim sup (ц L А)Ц> Щ. X Если ty(Bn)>0, то, применяя 2.2.3, можно выбрать в А такое замк- замкнутое подмножество Е, что ц(А\Е)<^(Вп)/п. Но, заменяя в A) ц, V на [i^-A, X\E, получаем противоположное неравенство {\ / $) Для доказательства C) можно предположить, что А — борелев- ское множество, так как каждое множество конечной ip-меры имеет борелевскую ^-оболочку. Если п — натуральное число и то if (Л П Вп) = inf {^(А П V): V открыто, Вн <= V}, так как'ф'-Л — борелевски регулярная мера и (i|3L^)Z<<» (см. 2.2.3, 2.2.2). При- Применяя A) к (х = г|}'-Л, получаем, что следовательно, if (Bn) — 0. 2.10.19. Пусть ц — мера на метрическом пространстве X, 0 ^ ^т<«и«б1. Определим т-мерные верхние н нижние плотности
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 199 меры ц в точке а следующим образом: в*т(]1, а) = limsupa(nzrV-mnB(a, r), г-»0+ в"(ц, a) = litninf aG7zrV-mnB(a, r). В случае, когда верхняя и нижняя плотности равны, их общее зна- значение называется m-мерной плотностью Э (fx, a) меры ц в точке а. Две предыдущие теоремы показывают связь между т-мерными плотностями и мерами Жт, #"" на X. Возьмем сначала те же ?, F, <рв, ip = <3#"\ что и в 2.10.2 A). При- Применяя 2.10.17, получим следующие утверждения. A) Если мера ц регулярна и 0*т(ц, x)<t при всех х^А, то B) Если фб(Л)< °° при любом б > 0, то Ж" (А f]{x: в*т((р«,1-4, ж)<2-т}) = 0. В 3.3.19 будет приведен пример, показывающий, что в A) или B) нельзя 2т заменить на 1. Возьмем далее те же ?, F, (ре, if = ^mi что и в 2.10.2 B), и, при- применяя 2.10.18, получим следующие утверждения: C) Если ц-измеримы все замкнутые множества из пространства X, множество V открыто, BciV и 6*т(ц, x)>t при любом геВ, то H(V)>tSPm(B). D) Если |х — борелевски регулярная мера, |д,(Л)<°° и множест- множество А является ц-измеримым, то Qm(\i^~A, x) = 0 для 9>т-почш всех х из Х\А. E) Если 9>т(А)<°о, то e*m(^mLJ4, x)<i для З^-почти всех х из X. 2.10.20. Пусть X, F, I, фб те же, что и в 2Л0.1. Если 0<6<«Лс1цое1,го = Итере [4 П В (а, г}]. Для доказательства обозначим указанный предел через s, пред- предположим, что s < °°, возьмем число t > б и рассмотрим для / = = 1, 2, 3, ... множества В,, = А П {а:: (/ - 1) t ^ dist (a, я) < /О. Если |/ — к\ > 2, то dist(Sj, Bk)> 8. Поэтому S <Рб(Я*)=-фв( U для каждого конечного множества К натуральных чисел, элементы которого либо все четные, либо все нечетные, и, следовательно, оо 2 фб (В))-*-0 при ге->- оо, так что
200 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Соответствующее утверждение для меры ф очевидно, так как замкнутые шары тр-измеримы. В 2.10.22 будем изучать поведение фа на произвольных возрастающих последовательностях множеств, налагая на X, F, ? некоторые ограничения, которые, по-видимому, можно ослабить. Следующие два простых утверждения описывают поведение при- приближающих мер на убывающей последовательности Ct => С2 => С3 =>... компактных подмножеств пространства X. Если элементы семейства F являются открытыми подмножест- подмножествами пространства X, то (Д4 Если 0 < 1 < б и l(S) = ini{%(T): T^F, SdniT для всех таких S <= F, что diam 5 < |, то (д4 2.10.21. Пусть X, Y — метрические пространства с метриками р, о соответственно. Рассмотрим функциональное пространство Yx с топологией декартова произведения и заметим следующее. Если 0 *? s < °°, то множество s = Yx[){f: = П Yx[){f: a [f (и), /(i7)l<«p(it, i;)} (u,v)s=xxx замкнуто. Кроме того, сходимость функций в Es, которая по опре- определению означает сходимость в каждой точке пространства X, экви- эквивалентна равномерной сходимости на каждом компактном множест- множестве из пространства X. Действительно, если Z — конечное множество из пространства X, е > 0, и /, geEs, то sup/о [/(*), g {x)Y- *e U В(*,е)\< \ zez / <2se + sup{a[/(z), g(z)]: zzeZ}. Если Y ограниченно компактно, а е X, Ъ е Y, 0 ^ г < оо, то E,O{f: <j[f(a), b]^r) компактно, так как это множество замкнуто и содержится в декартовом произ- произведении компактных шаров В[й, r + sp(a, ж)], соответствующих всем Предположим далее, что X ограниченно компактно, F — семей- семейство всех непустых компактных множеств пространства X,
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРЙ 201 и рассмотрим отображение Q: F —Я, = НХП</ которое каждому C<=F ставит в соответствие функцию, определяе- определяемую формулой Qc(х) = dist(C, x) = inf p(СX {ж}) при iel Так как С = {х: ?1с(х) = 0), то отображение Q взаимно однозначно. К тому же для любых С, D e F sup Шв(ж)- Qc(я): ieD = sup {QD(x): же С}, Число sup im |QD — Qcl называется хаусдорфовым расстоянием меж- между D и С. Если а^Х, 0<г<«> м то Q(Far) является замкнутым подмножеством множества #i П {/: |/(а)|<г}, м поэтому компактно; следовательно, Fa,r ком- компактно относительно хаусдорфова расстояния. Для доказательства замкнутости множества Q(Far) в /?t предположим, что / принадле- принадлежит его замыканию и положим ?>е = ix: f(x) <г} при 0 ^ е < °°. Так как &с(я)>е для Cz=Far и р(а, х)>г+г, то ДсВ(а, г + е). Если е > 0, то существует такое C^Fa,r, что /(a;)<Qc(a;)+e для jeBfd, г+е), поэтому С<=-Dt^F, а следовательно, Если 8>0, то множество |ж: QD()(a;)<6] является окрестностью множества Do, и поэтому содержит Dt для некоторого е > 0, так что sup Qjdo (De) < б, и для каждого х^-Х существует такое C<=Fa,r, чтоСсгД, и Qc(x)<f(x) + 8, откуда Qdo — Qc < sup Qr>0 (С) < б} йво (ж) < / (ж) + 26. Таким об- об^/ В o 0 о разом, Qd ^/• В то же время ^вв^/> так как Lip(/)<1. ^сли е>0, ZcB(a, r)<=U{B(z, e): гей и если CeFor, ro хаусдорфово расстояние между С и Zu{z: B(x, г) не превосходит е. Непустые конечные множества плотны в Fa<T. Функция, ставящая в соответствие каждому элементу семейства F его диаметр, является липшицевской относительно хаусдорфова расстояния, а ее константа Липшица равна 2. Если X — конечномерное нормированное векторное пространство, то класс всех непустых компактных выпуклых множеств простран-
202 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ ства X замкнут относительно хаусдорфова расстояния и, следова- следовательно, класс всех выпуклых элементов семейства Fa< T компактен. Справедливость этого утверждения следует из того, что элемент С семейства F является выпуклым тогда и только тогда, когда fic — выпуклая функция, а выпуклые функции образуют замкнутое под- подмножество в ВЛ Функция, ставящая в соответствие каждому эле- элементу семейства F его выпуклую оболочку, является липшицевской относительно хаусдорфова расстояния, а ее константа Липшица равна 1. Выпуклые оболочки непустых конечных множеств плотны в пространстве всех выпуклых множеств пространства X. 2.10.22. Теорема. Пусть X — ограниченно компактное метриче- метрическое пространство, F — семейство всех непустых компактных мно- множеств из X, функция ?: F-+iy: 0 < у < «>} непрерывна относительно хаусдорфова расстояния и ?(С)>0 при всех таких С ^F, что diam С > 0. Если 0 < б < °°, ср« — приближаю- приближающая мера порядка б, фигурирующая в конструкции Каратеодори для этих ? и F, itiiCijcijC,., образуют возрастающую после- последовательность подмножеств пространства X, то lim ф6 (Aj) = ф6 | j-»oo \ j=l Доказательство. В силу 2.10.20 можно предположить, что для некоторого sell r<°° В= U AjCzB(a, r). 3=1 Определим Fa, r+e так же, как в 2.10.21, и выберем такие множества С], ке Fa, r+e, что б > diam С}, h > diam С,-, ft+1, 4jC U Cj:h, s = lim ф6 (А}) = lim 2j I(??,&)• Заметим, что 5<ф6В(а, г)<°°, потому что шар В (а, г) компактен. Так как множество Fa, r+e компактно относительно хаусдорфова рас- расстояния, далее можно предположить, переходя к подпоследователь- подпоследовательности, что lim.Cj>fe = Dk e: Fa<r+(, для каждого натурального к (см. [К, с. 238, D(a)]). Тогда 2 С (Да) = 2 lim S (^"j,ft) — l^m
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 203 для каждого натурального п, поэтому t = 2 ? (ДО < s, Jim lim 2 I (Chk) = s-t. fe=l «-->oo j-»oo h^Tl Кроме того, б > diam Z)ft > diam Dh+i, % (Dk) -*¦ 0 при к -*¦ oo, и из ком- компактности семейств Fa,r+» вытекает, что diamD^-vO при /с -»¦«>, так как функция ^ равна нулю только на множествах нулевого диа- диаметра. Докажем теперь, что ft=i любых открытых множеств VhTaKux, что Vh=>Dk (к — 1, 2, 3,.. .)• Так как мера т|з борелевски регулярна, то и vh , и достаточна показать только, что U FJ<s — t для ? = 1, 2, 3, ... и е>0. Зафиксируем i и е. Для достаточно больших п справедливо нера- неравенство diam Dn ^ е/2, поэтому для достаточно больших j Ai<=A}, Cjikc:Vh при к sin, diam C3-, „ < e, откуда оо оо Кроме того, последняя сумма стремится ks-(, когда пи/ стре- стремятся К оо. Отсюда следует, что для любого натурального п и для любых от- открытых Vk^>Dh (k>h)~ выполняется неравенство L \k<n к>п )} ' ¦¦ так как г|з — борелевски регулярная мера и оо U Д. U U У/Л= U ГЯ\( U [х: Яо„(х)<1/т\~\} UJh)}- к<Сп к>п J тп=1 L \ft<» h>n /J
204 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Проверим далее, что Ц\В\ U Для данного е > 0 выберем такое п, что diam?>n<8 и 2 ?@*)<е; k>n для каждого к > п выберем Sk<= F так, что h, diam5fc<e, 2 ft>n Тогда U АЛ<ФеГ(Я\ U Dh)\ U 5*1+2 fe=l / L\ k<n 1 fe>n J ft>n < г|) ГВ\f Un Dk U ftU bt 5^ j + e < s - t + e. В результате получаем, что О / k=i 2.10.23. Следствие. Пусть X, F, t, удовлетворяют условиям тео- теоремы 2Л0.22, мера ф — результат применения конструкции Каратео- дори к % на F и S — суслинское множество в пространстве X. Тогда i|>(iS') = sup{i|>(C): С — компактное подмножество множества S). Доказательство. В силу 2.10.20 можно предположить, что X компактно. Для любых положительных чисел t, e, б, |, таких, что * + е и б>1, применим конструкцию п. 2.2.12, заменяя ^ на приближающую меру фв. Точнее, используя 2.10.22, выберем Z, для ?>0 таким образом, что и из последнего утверждения п. 2.10.20 получим, что щ (С) > lim фв [Clos p (Zi)] > Фв (S) — е > t. 1-»оо 2.10.24. Пусть выполнены общие условия п. 2.10.1, и пусть / — произвольная неотрицательная R-значная функция на X. Для 0 < < б < °° определим М/) как точную нижнюю грань множества чисел S иE).5E), SG
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 205 соответствующих всем, счетным подсемействам G семейства F, та- таким, что diam 5^6 при любых S e G, и всем неотрицательным R-значным функциям и на G, удовлетворяющим условию и (S) ^ / (х) для ib-почтпи всех х. Ясно, что Хь (/) > М/) Для 0 < б < о «? оо и lim U (f)< \* fdq. 6-0+ J Задача о том, всегда ли можно последнее неравенство заменить на равенство, остается открытой*). Следующие два утверждения по- показывают, что равенство имеет место по крайней мере в некоторых наиболее интересных частных случаях. A) Равенство имеет место, если множество {х: f(x)>0} можно представить в виде объединения счетного семейства множеств ко- конечной т!р-меры, и F, % удовлетворяют условиям теоремы 2.10.18. B) Равенство имеет место, если X, F, % удовлетворяют условиям теорем 2.10,18 и 2.10.22. Докажем A). Применяя 2.10.18 C) и пользуясь борелевской регулярностью меры \|), получаем возрастающую последовательность борелевских множеств Bj и последовательность положительных чи- чисел е, таких, что j П S) < A + j-% (S) при таких S^F, что S П Bj Ф 0, и diam S < e,. Выберем также счетные семейства Gs и неотрицательные R-значные функции щ на G] такие, что G}<=FU{S: diamSsSSi}, Si (х) = 2 uii^)^f (х) Для ^-почти всех х% lim 2 Uj{S)l{S) =(lim j—oo S~Gj 6-»0 + Обозначая через h3 произведение gi и характеристической функции *) Для случая ?(S) = (diam S)m заменить неравенство равенством мож- можно. Это показал R. О. Davies в статье «Increasing sequences of sets and Haus- dorff measure» (Proc. Lond. Math. Soc, 1970, v. C) 20, p. 222—236).— Примеч. пер.
203 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ множества Bh получаем, что J /Л|э<[ ) liminf hjd^^. liminf j hj = liminf j->oo lira inf A + Г1) S Щ (s) S E) = lira Я6 (/). Выведем далее B) из A), показав, что при ty{x: f{x)>t}^t~1t\ lim X6(f), 6->0 + где г\ то же, что и в 2.10.18. Для этого достаточно проверить, что фо{ xZSsG J SGG для каждого счетного G <= F П {S: diam S < 6} и каждой положитель- положительной R-значной функции и на G, Кроме того, в силу 2.10.22 можно предположить, что семейство G конечно, а приближение функции и функцией с рациональными значениями и умножение на общий знаменатель сводит задачу к случаю, когда и. принимает только на- натуральные значения. В этом случае обозначим через к наименьшее целое число, большее либо равное t, возьмем и определим по индукции функции v0, v,, ..., vk на G, и подсемей- подсемейства #„ ..., Hh семейства G, полагая v0 — и, и далее для К / < А IIj<= G П iS: Vj-i(S)^ 1), Н^ — семейство непересекающихся множеств, Лс и {? 5-е Я,}, V) (S) = Vj-i (S) — 1 при всех S е Я,-, У, E)= yj_, E) при всех 5 е С\ЯЛ Л с: (ж: 2 г;;E)>А-А. \ XSSSG ) (Существование таких Я,- вытекает из 2.8.4.) Тогда *ф5б(Л)<? 2 S(S)<iiSS(yj-i-^)S<4S«f. j=l S^Hj j=l G G Утверждение B) применимо к конструкции 2.10.2 A) хаусдор- фовых мер Жп на произвольном ограниченно компактном метриче- метрическом пространстве X; аналогичным образом можно рассматривать сферические меры 9"'\ так как замкнутые шары в X образуют мно-
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 207 жество, замкнутое относительно хаусдорфова расстояния. Автору неизвестно, справедливо ли указанное выше равенство для конст- конструкции хаусдорфовых мер на произвольном метрическом прост- пространстве. Это равенство можно доказать для конструкций 2.10.4 A) и 2.10.5 A) мер tSm и 9™, используя рассуждения п. 2.10.8. 2.10.25. Теорема. Пусть /: X -*¦ Y — липшицевское отображение метрических пространств, А<=Х, 0 </«<<» и 0<т<°о. Тогда Mh{A П при условии, что либо множество {у: Жк(А П f~liy))> 0) предста- представило в виде объединения счетного семейства множеств конечной Жт-меры, либо пространство Y ограниченно компактно. Доказательство. Обозначая через t,k, t,m, t,k+m исрв, Фв\ фв "'вспо- "'вспомогательные функции и приближающие меры, встречающиеся в конструкциях хаусдорфовых мер Жк на А', Жт на Г, Жк+т на X со- соответственно, заметим, что t,h(S)-t,m[G\osf{S)]<ct,k+m(S) при всех SaX, где с = а(к) -а(т) -(Lip/)m/a(A; + т). Для каждого натурального / выберем счетное семейство G, множеств из X такое, что Л <r U Gh diam S<i/j при всех 5 е Gh п положим Н; — {0103/E): S^Gj) Щ(Т)= 2 th{S) для SGCl /(S)T 2 SsGj,ClPS /(S)=T Так как diam T «S(Lip/)// при любом Ге А П t^y) c U {5: S e G,, у s Clos /E)}, Фхл U n Г1 {г/})< S щ{Т) етен при любых г/еу и i<j, то из 2.10.24 A) или B) вытекает, что для каждого натурального i Г Ф?/1 (^ П Г1 {»}) ^^mZ/ < Ит inf 2 ^ (Т) С (Т) = = liminf 2
208 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ 2.10.26. Автору неизвестно, действительно ли необходимо в пре- предыдущей теореме предположение «при условии, что . .. ком- компактно»*). Другая нерешенная задача заключается в том, чтобы найти наи- наиболее общие условия на X и А, при которых подынтегральное вы- выражение было бы 5{f-измеримым. Достаточно ли для этого, чтобы X было сепарабельным и полным, а А — борелевским множеством? Необходимость подобных условий вытекает из примера: A —XczY = = R, /—вложение, & = 0, т = 1 и множество X не является ^'-из- ^'-измеримым. Для наших целей достаточно доказать следующее ут- утверждение. Если X ограниченно компактно, множество А является Жк+т-из- меримым и Зёк+т (А) < °°, то функция Жк(А П 1~1{у)) будет Шпх-измеримой относительно у, а множество А П f~4y) будет Ж"-измеримо для Ж^-почти всех у. Так как в случае Жн+т{А) = 0 утверждения следуют из 2.10.25, то 2.2.3 сводит доказательство к случаю, когда множество А ком- компактно. Если А компактно и t > 0, то [у: #*Ufl Г1 {»))<*}= П V}, 3=1 где множество У, состоит из всех таких точек у, что множество А Л /""'{*/} имеет конечное открытое покрытие G такое, что diamS< 1// для всех 5eG, 2 ?fe (S)< t + 1//. SsG Кроме того, каждое множество V, открыто в У. Частный случай теоремы 2.10.25, в котором f(x) определяется как расстояние от х до некоторой фиксированной точки пространства X, был доказан сначала как лемма, для того чтобы показать, что если Жт+* (X) = 0, то топологическая размерность пространства X не превосходит пъ. Обратное неверно, однако каждое ш-мерное сепа- рабельное метрическое пространство гомеоморфно некоторому под- подмножеству пространства R2m+l, для которого (тп+ 1)-мерная хаус- дорфова мера равна 0 (см., например, [HW, гл. 7]). Кроме того, в [F 5] было показано, что утверждения остаются справедливыми, если 5^"+i заменить любой из (тге +1)-мерных мер, построенных в 2.10.2 - 2.10.6. 2.10.27. Из 2.10.25 вытекает следствие. Если пространства Y, Z и YXZ метризованы так, что проекции /: YXZ-+Y, g: YXZ-+Z *) Это предположение является лишним, что следует из статьи, цитиро- цитированной в сноске к 2.10.24.— Примеч. пер.
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 209 имеют константы Липшица, равные 1, и если А <=¦ Y X Z, 0 =51 fc < °°, 0 у при условии, что либо {у: Mk{z; (у, z)^A}>0) представимо в виде объединения счетного семейства множеств конечной Жт-меры, либо Y ограниченно компактно. Кроме того, если F = Rm, Z = Rm и YXZ изометрично прост- пространству Rm+", то Для доказательства последнего неравенства (в котором, как по- показано в [WA], 9, ^ft+m не всегда можно заменить на Ж, Жк+) заметим, что если u^Y, ye Z, 0 < г < «>, то {*: (у, z)sB[(«, v), r]>«= B(i>, (i*-|y-«I»)»/»] для любого г/е/В[(м, v), г] = В(ц, г), откуда j lh {z: (у, г)еВ [(u, v), r]} dgny = В(и,г) = gft+mB [(и, у), г]. Следовательно, если G — счетное семейство замкнутых шаров из YXZ, покрывающее А, то для любого уеУ семейство {{z: (у, z)^S}: S^G, y покрывает множество (z: (у, z)^A) и S () 2 S=G SSG f S J ген( Получаем, что ^m(y)^(Z)^«Gn)a(A:)a(m + A;)-I^m+k(FXZ) при условии, что пространство Y счетно ^"-измеримо или ограниченно компактно. Противоположные неравенства, вообще говоря, неверны (см. 2.10.29), но справедливы в некоторых важных частных слу- случаях (см. 2.10.45, 3.2.23). 2.10.28. Всюду в этом пункте F — семейство всех отрезков из R, l{S) = h{A.ia-mS) для всех Sef, ?@) = O, где h — непрерывная, возрастающая и строго вогнутая (—h — строго выпуклая) функция на it: t>0), и h@) = 0. Исследуем вопрос о "Г. Федерер
210 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ том, как мера \|>, являющаяся результатом применения конструкции Каратеодори к Z, на F, ведет себя на некоторых конкретных мно- множествах из R. Например, таким образом можно изучать меру Жт на R, с 0 < т < 1, взяв h(t) = a(mJ-mtm при 0<t<°°. Будем говорить, что Н — специальное семейство для множества J, если Н — конечное семейство непересекающихся множеств, - 2 S-3H 2 I(S) при всех T<=F. Справедливы следующие свойства: A) Если Н — специальное семейство для J, то I {Т) > 2 I {T П S) при любом Te=F. SBH B) Если Н — специальное семейство для J и K(S) —специаль- —специальное семейство для S при любом S^H, то UiK(S): Seff} — специальное семейство для J. C) Если Но, Ни #2, • •.— конечные подсемейства непересекаю- непересекающихся множеств семейства F такие, что для j > 1 каждый элемент семейства //,• содержится в некотором элементе семейства Я^_4 и Hj П {Г: T<=S) — специальное семейство для S при всех S е Н}-и и если, sup {diam S: S ^ ЯД -> 0 при j ->¦ °°, A = П U Hit 3=0 TO ¦ф (А П T) < I (T) при всех fsF, ij, (A fl T) = I (T) при всех fej Hj. 3 = 0 D) йслм /e f, 2 < ne Z и Ф(/, п) состоит из отрезков {х: mlJ + (i- l)t<х<inf J + (i- i)t + s), соответствующих i — 1, 2, ..., n, где
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 211 то 0 < s < diam J/n, t> s, Ф (/, n) — специальное семейство для J и diam Г/diam / для таких Т е F, что diam T> t. Так как функция h возрастает, то для доказательства A) доста- достаточно рассмотреть случай, когда inffeFetf, supTelfe H, V()W=0. К тому же h(a + r)-h(a)>h(b + r)-h(b) для 0<а<Ь и г 5*0, так как функция h вогнута, поэтому I {T U V)- I (Т П W) > % {Т U У U W)- ? (W), откуда следует, что V {] W) > Теперь B) и (З) становятся очевидными. Для проверки D) рассмотрим сначала отрезок где 1 «S i < / «? п — целые числа, откуда 0 < и = (/ — i)/(п— 1)<1 и ? (Г) = /г [(/ — i)t + s} = h [и diam / + A — и) s] > >«С(/) + A-и)Л(*)-=(ии + 1-и)Л(*)=(/-» + 1)Л(в)= 2 SE). r_SeH Далее рассмотрим случай, когда Те F и diainT7^?. Пусть & —на- —натуральное число такое, что kt < diam Г < (А; + l)i. Тогда 71 пересе- пересекается не более чем с к + 2 элементами семейства Ф(/, п) и Для данных 0<т<1 и последовательности и = (п,, и2, "з. . • •) целых чисел п, ~> 2 возьмем теперь /i(i) = a(mJ"""li и, применяя C) с Яо = Ш, где / = {*: 0 «S t < 1), и //. = и {Ф(S, B,):Se Н„) для / ^ 1, получаем такое множество А(т, п), что Жт\А(т, п)] = а(тJ~т. Кроме того, функция / такая, что !{х) = Жт[А{т, n)(\{z: z<x}] для х^В., 14*
212 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ удовлетворяет условиям 0<f{b)-f{a)<a(mJ-m{b-a)m для а^Ь, f[A(m, n)] = imf = {y: 0<y^a(mJ"m}, f'(x) = O для x^R\A(m,n), т. е. для ^'-ягочти всех х. Например, если m = lnB)/lnC) и /г, = 2 для всех /, то А(т, п) — канторово множество, и / — канторова функция. 2.10.29. Пусть А (т, п) определяется так же, как в 2.10.28. Легко проверить, что Жт\А(т, п)ХА(т, п)]^аBтJ-т, так как для каждого / диаметры всех отрезков из Я,- равны. Однако мы построим сейчас такие последовательности п и v натуральных чисел, что Ж\А{т, п)ХА(т, v)] = °° для 0^k<m + i, причем в силу 2.10.45 при k = m+l такое равенство уже не- невозможно. Так как A — х~1/т)/(х— 1)->-0 при х-*-<х, можно определить последовательности п, s, t, v, о, т по индукции, полагая s0 = о0 = 1 и для / = 1, 2, 3, ... 2 < щ е Z, Sj = s}_in-1/m, Ц = (*;_! - s-)l{n >- 1), Z, a,- = cj_1vi-1/m, ^ = (a,-! - о;-)/(у> - 1), Используя 2.10.28 D), получаем, что a,--i > ^> Sj> %j>Oj> tj+i -*¦ 0 при ; -*¦ oo. Положим B = A{m, n)XA(m, v) и заметим, что {ЖаХЗ@т)В>0. Докажем, что Ж{В)=оо при 0<k<m + I, показав, что если е >0 и c = 6-1a(m)-222m, то (diamS)k>cC>emXJem)(BUS)/e для любого такого SczW, что di am S ^ sup {ty. k + 1//^ m + 1» a]^_1^e). Обозначая diam5 через d, выберем отрезки U, V и нату- натуральное / таким образом, что S<=UXV, k + i/j^m+ 1, a-lt < e. В случае t}>d>Xj из 2.10.28 C) и D) следует, что Жт{А {т, п) П U] < а (т) 2~mdm, Жт[А(т, v)flF]<6a(mJ-ma
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 213 так как из неравенства Oj-t ^ d вытекает, что отрезок V пересека- пересекается не более чем с двумя отрезками длины о,-(, встречающимися при построении множества А (т, v), следовательно, с {Жт X Шт) (В П 5)< ебГ+1/аы<е/+1/7аы< В случае т,- > d > t1+l аналогично находим, что Жт [А (т, п) П Щ < 6а (т) 2~msfd/sh X Жт) (ВП«)<zdm+1/s}<edh+Ui/s}< edkx}/}/Sj<ed\ Теперь легко видеть, что для каждого натурального q подмно- подмножества А(т, пL и А(т, v)s из R? имеют конечную gm-мерную хаусдорфову меру, хотя в силу 2Л0.27 при 0 < к < qm + q мно- множество А(т, п)"ХА(т, vL^[A(m, n)XA(m, v)]« имеет бесконечную /г-мерную хаусдорфову меру. 2.10.30. Симметризацией Штейнера относительно (п — 1)-мерного векторного подпространства V пространства R" называется опера- операция, которая каждому ограниченному множеству S из R" ставит в соответствие множество Т из R" таким образом, что для каждой прямой L, перпендикулярной к V, либо Lf\S = 0 и ЬПТ = 0, либо ЬГ\ S Ф 0 и LOT — такой отрезок с центром в V, что Применяя 2.10.7, 2.7.16 A) и теорему Фубини, легко проверить сле- следующие свойства. Если S компактно, то и У компактно и 3?п (S) = 3?п (Т). Если S выпукло, то и Г выпукло. Пусть и — единичный вектор, ортогональный к V, Определим отражение pue=O(n), pu(x) = x — 2(х-и)и для #e=Rn и заметим, что ри(Т) = Т. Кроме того, справедливо следующее ут- утверждение. Если S — компактное подмножество шара В @, г) a Z — = BdryB@, г) —граница этого шара, то ГсВ@, г) и (Z\S)Upu(Z\S)czZ\T. 2.10.31. Теорема. Если С — непустой класс непустых компактных множеств пространства R", класс С замкнут относительно хаусдор- фова расстояния и симметризация Штейнера относительно каждого (п — 1) -мерного векторного подпространства R" отображает С в С, то либо {0) е С, либо В@, г)еС для некоторого г > 0.
214 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Доказательство. Положим r = inf {s: Г <=: В @, s) для некоторого Т<=С) и из компактности СГ\Р0,г+1 (см. 2.10.21) получаем, что либо г = 0 и {0} е С, либо г>0 и существует такое S^C, что S<=B@, r). Докажем теперь, что из включения В @, r)~=>S<^C вытекает включение . . Z = BdryB@, г)с 5. ¦ . Предположим противное. Тогда В (a, e)<=Rn\S для некоторого a^Z и е > 0, и можно выбрать такие различные точки а = у0, уи ... ..., !/fte:Z; что Zc= U В(^, е), и построить по индукции множества S = Т„, Т,, ..., Тк<^ С следую- следующим образом: Т3 получается из Г,-_, для /^ 1 симметризацией Штей- нера относительно R" П {у: у Mj = O}, где и> = (^ — а)/!г/j — а|. Из последнего утверждения п. 2.10.30 следует, что U Z П В (г/i, е) с: Z\Th так как р„ В (а, е) = В (У}, в), поэтому ZcZ\Th, 7тЛс:В(а) s) для некоторого s<r, что противоре- противоречит определению г. Наконец, заметим, что из В@, r)^S^C следует, что В@, r) = S, так как в противном случае существовала бы такая прямая L, что Ж(Ь03)<Ж[ЬПВ@, г)], и симметризация Штейнера множества 5 относительно векторного подпространства, перпендикулярного к L, давала бы такое множе- множество ГеС, что Т с: В@, г), но 0?=Z ()?,<= Z\T. 2.10.32. Теорема. -Бела 0 =/= S с Rm, To (a1 — Ьх) л ••• Л (ят — Ьт) |: alt Ь1( ...,ат, ?>те5}. Доказательство. Пусть Я, (х — положительные числа. Определим ^ так же, как в 2.10.3 с п = т, и рассмотрим класс С всех тех не- непустых компактных выпуклых подмножеств S пространства Rm, для которых Очевидно, что С замкнут относительно хаусдорфова расстояния. Кроме того, мы докажем, что ТеС, если Т получается из SeC
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 215 симметризацией Штейнера относительно V = R" П {v: v • и = 0), где и «= R" и Ы = 1. Для любых Oi, &i,...,ат, Ът^Т существуют такие vu wu ..,, vm, ю„ е V и <Xi, р4, ..., а™, рт ^ R, что а4 = у( + а*гг, |2aJ < diam U: Vi + tu^S}, и, следовательно, существуют такие ^ь 6i, ..., "(m, 6m e R, что b- = Отсюда следует, что mm Л (aj - ьл = Л [iPi - u'O + («i - Pi) - Pi)« л t=l где |j = (— l)^1 Д (Щ -i (Rm), и аналогично Л (ai — bi) = 2 (yj — S;)w л ?j, Л («"~ Ъ") 2 откуда m Л («г - h) l(Y; - й) + 2 (a, - P,)] » Л |,, Л («J - b"d —K {a'i — b'i) Если класс С не пуст, то из 2.10.31 получаем, что В@, для некоторого г > 0, и таким образом 2.10.33. Следствие (изодиаметрическое неравенство).Если SerR™, 0, то 2"" E) < ос {пг) 2-m (diam S)т. Доказательство. Из 1.7.5 вытекает, что если а4, Ъи ..., ат, Ът е , то | (а,. — Ьх) Л .. . Л {ат — Ът) |<| аг — Ьх | •... •[ ат — bm|<(diam S)m. 2.10.34. Следствие. Для любого 4cR" справедливо неравенство А {){) Доказательство. Пусть % определяется так же, как в 2.10.3. При R" и р<=О*{п, ш) применим теорему 2.10.32 к p(S), и, так как
216 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ из 1.7.6 вытекает, что НЛтрН = 1, получим 2.10.35. Теорема. Если A с: Rm и 1 «S t «? оо, то 2т{А) = 9>п(А) = Жт{А) = #~тD) = Q?{A) = 5ГГ(Л) = ?Ж(Л) Доказательство. Пусть г|) — какая-либо из мер <%>m, &~m, QT , $т на Rm. Используя 2.10.32, равенство и то, что Pi(m, m)=l, получим неравенство Кроме того, так как втB"п, ж)=1 при jei, из 2.10.19 C) вы- вытекает, что 2'm(V)>9"n(A) для каждого открытого множества V, содержащего А, поэтому 2.10.36. Теорема. Если S — выпуклое множество из Rm и Й1, Ь,, . . ., dm, Ьте S, ТО Доказательство. Утверждение тривиально в случае m = 1. При- Применим индукцию по т. Пусть а^ФЪ^. Рассмотрим р^О*(т, т — 1), для которого <Zi — JbtSker^. Так как ж — (р* ¦>р)жекегр при всех itsR", и /\m-iP*—изометрическое вложение, то то Л1 («i - Ьг) = \a1 — b1\' 771 («i - bi) л Л m Д [р(аг) — p{b )] i=2 Применяя к множеству S симметризацию Штейнера относительно и замечая, что получающееся при этом множество Т содержит вы- выпуклую оболочку множества Р*\Р(S)]U ip*[p(о,)] + (а, -Ъг)/2, находим, что
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 217 2.10.37. Следствие. Если 4cR", m ~ натуральное число и 1<К«>, ТО Tm (A) < a (го) 2~mm\QT (A). Доказательство. Пусть S — выпуклое множество из Rn и аи bt,\ .., ат, Ът <= S. Положим S(Р) = IP(ai — bi) Л • • • Л р(ат — Ьт)| для реО*(п, т), и определим /8, %t так же, как в 2.10.5. Тогда g<m! /8, и из 2.7.16 F) следует, что |(ах — bj) Л . . . Л {От — Ът) | = [ Q*n,m](t) (g)/Pf (П, ГП) < < m! [в;,т]@ (/s)/pt (и, и») = m!S, E). 2.10.38. Теорема. Для каждого компакта S<=J\.n существуют та- такие точки аи bt, ..., ап, Ь„ е S и такой прямоугольный параллеле- параллелеSQR сг что пипед Q со сторонами длины | («1 — foj) Л ... Л (ат — Ът) | = ct •... • с для т = 1, ..., п. Доказательство. Утверждение тривиально в случае п = 1. При- Применим индукцию по п. Пусть п > 1 и diam S > 0. Возьмем такие точки аи bi ^ 5, что \ai — bj = diam 5, затем выберем такие точки аа, р2, •••, а„, ^„^^E) и такой прямо- прямоугольный параллелепипед W со сторонами длины сг > с9 > ... > с„, что ^(^cVFcR"-1 и I (<х2 — Рг) Л ... Л (ато — ртв) | = с2 ' • • •" с"» для m = 2> • • •' п' Наконец, возьмем с4 = i«± — Ь± I, чим , для которых р(а4) = а,-, p(bi)=P< при i = 2, ..., п, и полу- полуЛ («i— г=1 Л («i-Pi) г=2 = C1-C2- 2.10.39. Следствие. Для любого 4cR" справедливо неравенство 9"n{A)<nm/22m-lT'm(A). Доказательство Для каждого прямоугольного параллелепипеда Q со сторонами длины с4 > с2 > ... ^ с„ > 0 можно выбрать такие натуральные числа /ci, ..., km~i, что c/cm < fc; при i — 1, ..., /и — 1,
218 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ и представить Q в виде объединения kt ¦... • km-i прямоугольных параллелепипедов со сторонами длины Каждый из этих параллелепипедов содержится в кубе со стороной длины ст и, следовательно, в замкнутом шаре диаметра п1/2с,„. Сум- Сумма т-х степеней диаметров полученных таким образом шаров равна kt ¦... • /ст_1ита/2 (ст)т = ит/2 (йчСт) •... ¦ (fcm_,cm) • ст < < пт'г Bс,) •... • Bст_.) • ст = «'"/'г-1-'с, •... ¦ ст. 2.10.40. Лемма. ?Ъш 0 =И= Р cr R" X {г: 0<r<oo}) P компактно и Yt*={y: \у — а\ < rt при всех (а, г)еР) для СК?<°°, то c = inf{?: У( ?= 0} < о°, Ус состоит из единствен- единственной точки bub принадлежит выпуклой оболочке множества А — {a: (a, r)eP и \Ь — а\ = гс для некоторого г). Доказательство. Так как каждое Yt компактно и 0 е у, для t > sup i\a\/r: (a, r)sP), то Yc = П {F(: с < ? < oo} Ф 0. Положим r: (a, r)^P для некоторого a). Если у, z<= Ус, то для (a, = ii/|2/2+|z|2/2-|i/-z|V4+|a|2-!/-a-z-a = = (\y - a? + \z - a\2)/2 - \y - z|74 < rV - r2\y - Таким образом, (y + z)/2^Yt при t = [с2 - \y - z|VDjj,2I1/2, отку- откуда у — z. Применяя сдвиг, будем далее считать, что Ус = {0). Если neR" и |м| =1, то zu<?Yc при любом е > 0, следователь- следовательно, существует такая точка (а, г)^Р, что |а|2 < г2сг < lue - а\г = е2 + |а[2 - 2ги ¦ а, и • a s= е/2, а так как Р компактно, то Р П {(а, г): |а| = гс и и • а < 0} Ф 0, ^ П {а: и • а < 0) ?> 0. Таким образом, не существует (п —1) -мерной плоскости, отделяю- отделяющей 0 от компактного множества А. 2.10.41. Теорема Юнга. Если S^Rn и 0 < diam S < °°, то S со- содержится в единственном замкнутом шаре минимального диаметра, не превосходящего [2n/(n+l)]i/2di&mS.
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 219 Доказательство. Пусть S компактно. Применим 2.10.40 с /' = = ?ХШ. Предположим, что 6 = 0, тогда 5сВ@, с). Выберем а,, ..., an+iei = Snk \a\ = с} и такие неотрицательные числа hi, ..., Xn+i, что 71+1 Для каждого / е И, • •., п + 1} получаем 1+1 О *"* ^1 1/02 Ол п \ \^ ч, ] п j 2 j^** ^ С —~ ^j Л| 1 ^С *^~ ^u>^ * ^j/ —~ j^j Л1 I tt.j ¦ — Я j I ^^^ j=l i=l ^ Zj ^{ (diam <SJ = A — "kj) (diam SJ и, суммируя по ]', находим, что (n+1Jсг <n(diam SJ. 2.10.42. Следствие. Для любого 4cR» справедливо неравенство 2.10.43. Теорема Кирсбрауна. Если ScRm и f: S -*¦ R" — липши- цевское отображение, то f имеет липшщевское продолжение g: R"V->R" такое, что Lip(g) = Lip(/). Доказательство. Пусть Lip (/) = 1. Рассмотрим класс Q всех тех липшицевских продолжений отображения /, которые отображают некоторые множества из R* в R" и имеют константу Липшица, рав- равную 1. По принципу максимальности Хаусдорфа Q имеет макси- максимальный (относительно включения) элемент g: T-*'Rn, где Tc:Rm. Покажем, что если существует | е R"\T, то существует такая точка ц е Rn, что |т] — g(x) I < || — х\ при всех х е Т. Отсюда будет следовать, что g U {(^, т])} ^ Q, а это противоречит определению отображения g. Таким образом, нужно доказать, что r\{B\g(x), \х-Ъ\]: х^Т}Ф0. Так как эти шары компактны, то достаточно проверить, что (x), \z-l\]: x^F}?=0 для каждого конечного подмножества F множества Т. Для этого применим лемму 2.10.40 с Возьмем различные точки хи ..., xh^F и положительные числа
220 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ \t, ..., \к такие, что в обозначениях этой леммы g(Xi)e А, откуда \b — g{xt) \ = \xt — \\с для i = 1, ..., /г. Используя тождество 2гг • v = М2 4- \v\2 — |м — v|z, получаем ) _ 6 |» + | gfo) - & |* - | * (Xi) - g (Xj) |«] ~> V 1 > . Г/.2 I r t 12 i „2 1 r t 12 I « «. 121 _ = 2 ^ [2c (ач - l).c(xj -l) + (c2 -1) | Xi - Xi |«] = = 2 2 ^i to - Поэтому либо к = 1 и с = 0 (так как ^^еТ), либо к> 1 и с< 1, а следовательно, с < 1, b^Y,. 2.10.44. Утверждение предыдущей теоремы становится, вообще говоря, неверным в том случае, когда в Rm либо в R" вводится дру- другая норма, не порождаемая скалярным произведением. Например, если 5 = {A, -1), (-1, 1), A, l)>c=R>, /: S-*W, /A,-1) = A, 0), /(-1, 1) = (-1, 0), /A, 1) = @, УЗ), ji(*) = sup {IxJ, |ж,|}, v(x) то [i(u — v)=2 = v[f(u) — f(v)] для и, v^S и \i(u)=l для u но не существует такой точки t|^R2, что ¦vf'*i~~/(M)]s^ 1 для Таким образом, / не имеет продолжения на S U {@, 0)} с ц, v-koh- стантой Липшица, равной 1. С другой стороны, если S — подмножество произвольного метри- метрического пространства X, то каждое лишпицевское отображение /: 5->К имеет липшицевское продолжение g: X->-R с Lip(g) = = Lip (/). Действительно, достаточно положить g(l) = mi {/(*)+Lip (/)-diet (*, |): x^S) для ^Х. 2.10.45. Теорема. Пусть Z — метрическое пространство и в про- пространстве Rm X Z введена такая метрика, что dirt [.(у, а), (и, v)f = uist(y, uJ + dist(z, vJ при любых у, и <= Rm и z, v^Z. Тогда для каждого VczZ,
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 221 у которого Ж(У)< °°, существует такое число с, что о(то)-1 < со(А;)о(А; + 7п)-1 < 2~т(т + 1)<*+т)/2, 3^+к (U X V) = с9?т (U) Жк (V) для каждого 3?т-измеримого множества V. Доказательство. Положим у (U) = Ж* (U X V) для ?/crRm и за- заметим, что if — это мера на Rm, все замкнутые множества в прост- пространстве Rm в силу 2.3.2 (9) ^-измеримы, мера f инвариантна отно- относительно сдвигов и, согласно 2.10.27, 2.10.35, Обозначая l = a(k + m)a(k)-l2-m(m +i)ih+m)/\ докажем теперь, что когда U — это m-мерный куб в Rm. Пусть и — длина стороны куба U, б > 0, и G — произвольное счетное покрытие множества V такое, что 0 < diam Т < 6 для Т е G. Поставим в соответствие каждому T^G такое натуральное число j(T), что Ц {Т) - 1] diam T<u<j (Г) diam T, и покроем множество U семейством Н(Т), состоящим из j(T)m ку- кубов со сторонами длины diam Г, откуда у (Т) diam Т «? и + diam Т «? и + б, Тогда семейство {SXT: S^H(T) для некоторого T^G) покрывает UXV в 2 2 ( )() T<?G8t=H(T) < 2 j {T)ma{k + m) 2~k-m(m + l)<ft+m)/2(diamT)h+m TSG <(u + 6)m? 2 o(A;J-'i() TSG Отсюда делаем вывод, что если <3#*(F) = 0, то f = 0. Если же <3^s(F)>0, то в силу 2.7.7 и 2.5.3 ограничение меры f на класс бо- релевских множеств отличается от меры 2"" на некоторый постоян- постоянный положительный множитель с, удовлетворяющий требуемым не- неравенствам. 2.10.46. Рассматривая зависимость с от V в предыдущей теореме при Z = R" в 3.2.23 мы докажем, что с = 1 для то-спрямляемого множества F, в то время как в [FR 1], [ВМ] приводятся примеры компактных множеств V, для которых с > 1. Автору неизвестно, может ли быть с < 1 для какого-нибудь V.
222 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Изучение соответствующей задачи для мер Каратеодори, пост- построенных в 2.10.4 B), привело к общему неравенству <&•»+* (UXV)<2?m(U)<&k(V) для C/cR™, F<=R" и к построению в [FR 2] компактного множества V, для которого это неравенство строгое. Общее неравенство (доказанное в [RJ 1] в случае га = 2, m = k = i) можно вывести из следующего замеча- замечания. Пусть S — замкнутый шар в. R радиуса г, и Гс R™, причем сНатпГ<6. Для каждой ортогональной проекции /: RmXRn-»- ->- R"'+'t существуют, согласно последней части 1.7.4, р^О*(т + к,к) и деО*(и, к) такие, что />[/(*. У)] = Ч(У) Для любых (х, !/)eRnXR", откуда p[/(S'Xr)] = g(r). Следовательно, из теоремы Фубини и изодиаметрического неравенства вытекает, что Осталось покрыть UXV семействами множеств вида SXT так, чтобы г и б/г были малы, и применить эту оценку. Предыдущие рассуждения можно применить к мерам Гросса, построенным в 2.10.4 A). Однако в этом случае противоположное неравенство также справедливо, что легко проверить с помощью 2.10.8, поэтому $™+*(UXV) = 3?m(U)&h(V) для ?/сН» V<=Rn. Аналогичное равенство для мер Джиллеспи (доказанное в [MR 1] в случае п = 2, & = т = 1) будет получено в 3.2.45. В [FR 2] было показано, что из Sf\(V)<oo следует У?+к(U X V)]= S?m (?/)Э\(V) при условии, что U, V — борелевские множества из Rm, R". Из 3.3.14, 3.2.23 то же самое следует для меры Э'«,. 2.10.47. Теорема. Если 0 < т < ooi A — компактное множество из R" и Жт (А) > 0, то А содержит такое компактное множество В, что Доказательство. Для каждого неотрицательного целого числа / построим семейство //j компактных n-мерных кубов со стороной длины 2~3 такое, что Но состоит из единственного куба С, причем Жт{С Пil)>0, для /^1 семейство IIj состоит из кубов, получаю- получающихся разбиением каждого члена семейства //j_± на 2™ равных ча- частей. Определяя t, так же, как в 2.10.2, положим 2e: Gc U Hi и Еа\] G )=i для любого неотрицательного целого i и любого Е <=¦ R". Для всех
§ 2.10. КОНСТРУКЦИЯ КАРАТЕОДОРИ 223 Е сС меры if,- на Rn связаны с приближающими мерами фа, фигу- фигурирующими в конструкции Каратеодори меры Жт (см. 2.10.2), по- посредством неравенств Ф„1/.2-1 (Е) < Ъ (Е) < 2п+тпт/\-г (Е), потому что из S <= С и 2~j-i < diam 5 < 2~J следует, что S содер- содержится в объединении не более чем 2" элементов семейства Hh и 2" («1/22-j)m «? 2" (л1/22 diam S)™. Действуя по индукции относительно га, можно предположить, что ffim(Ar\V) — Q для каждого (л— 1)-мерного аффинного подпрост- подпространства V пространства R". Это позволит получить следующие три утверждения. A) Если E<=A!)Cuk<i, то 2 B) Если Е<=АпС и fi+i(SUE)<1 (S) для SsЯ(, го C) ^сди ? — компактное подмножество множества А П С, « 0< г/ ^ -у,•(?¦), то i? содержит такое компактное множество D, что (#) ) гл Утверждение A) справедливо, так как если G с U {Н}: i^j) и ?cUG, то 2 Тг(ЯП5)~ 2 Vi(^nint5)< 2 S ? = 2С SSHfe SSHfe SSHhGr\{T: TCS} G Из предположений утверждения B) вытекает, что 4i±i(S ft E) = = ^{(S П E) для Seffj, Отсюда и из A) следует равенство = 2 Ym(SnS)= 2 yi(S [)E) = Для того чтобы получить C), заметим, что функция ft(Euix: Xi < О) непрерывна относительно ?, так как каждое открытое по- покрытие множества Е П {х: ж4 = i) покрывает также множество Е П П{х: f — е < ^! < f + е} для некоторого 8 > 0. Выберем далее h так, что ^л(ЛПС)>0, и определим по индук- индукции компактные множества А Л С = Eh => Eh+i => ^л+2 => Eh+3 =>..., удовлетворяющие условию ¦у, E П ^) = ъ-i (^ П ?j_0 для h<j,Ss Я,_4. Для того чтобы построить й3- из ?j_i, выберем для каждого 5 е Я,., компактное множество Z)s CSA Ej-{ такое, что 7j(-^s) = Тз-» (^ П ?j-i). Это возможно в силу C), так как 4,-^S пЕ}-г)< t}{S Г\ Ej-J. Теперь положим Ej = U {Ds: S e Hj-t).
224 ГЛ. 2. ОБЩАЯ ТЕОРИЯ МЕРЫ Из A) следует, что а из B) вытекает, что Т< (Ei) = y<+i (Я,) для А < i < j, так как т<+1 E П Я,) < у1+1 FГ П ?TJ+1) = f<Er П ?Г() ^ ^ E") для Следовательно, ?»(?») для h<i<j. Наконец, положим S = П ^ Ясно, что Жт (В) <С lim у{ (В) ^ yft (?"л) < оо. Применяя послед- нее утверждение п. 2.10.20, получаем, что Шт (В) > Фг_л_г (Д) > lim ф2_л(^-) > 2-n-mn~m/2yh{Eh) >0. 2.10.48. Следствие. Если S — суслинское множество из R" и 0 =?! тп < оо, го = sup (<Э#т(С): С компактно, С <= 5, 5^т(С) < оо}. Доказательство. Обозначая через у вышеуказанную точную верх- верхнюю грань, построим такие компактные подмножества Ci с: С2 с <= С3 <= ... множества 5, что 96т (С,) < оо и у = lim Жт(С,) = 3®т ( U С,), и положим Т = 5\ О С>. Если y<3@m(S), то 5^т(?1)>0, поэтому в силу 2.10.23 и 2.10.47 существует такое компактное подмножество В множества Т, что оо >Жт(В)>0, а это приводит к неравенству y для больших /, которое противоречит определению числа у. 2.10.49. Задача распространения результатов 2.10.47, 2.10.48 с R" на более общие метрические пространства остается открытой. Автору неизвестно, найдется ли в каждом метрическом пространстве Аг, для которого Жт(Х)>0, такое множество В, что °о>Жт(В)> > 0. Необходимость некоторых предположений, подобных полноте, показывается на примерах подпространства пространства R2, пост- построенных в [В 2], [SP 2], [EG 2], и использующих континуум-гипо- континуум-гипотезу, утверждающую, что 2"°= X,. В 3.3.20 будет построен пример, показывающий, что в 2.10.47 Шт нельзя заменить на 3f^-
ГЛАВА 3 СПРЯМЛЯЕМОСТЬ Эта глава содержит основные факты об интегрировании по m-мерным мерам на подмножествах га-мерного евклидова простран- пространства. Она концентрируется вокруг дифференциальных свойств, свойств спрямляемости множеств и формул преобразования инте- интегралов при липшицевских отображениях. Внешняя алгебра играет здесь полезную роль, но теория интегрирования дифференциальных форм по ориентированным множествам (включающая формулы Гаусса, Грина и Стокса) будет рассматриваться в главе 4. В § 3.1 доказываются несколько фундаментальных теорем о диф- дифференцировании функций. Дифференциалы первого порядка вводят- вводятся в 3.1.1, дифференциалы высших порядков в 3.1.11, и аналитич- аналитичность в 3.1.24. Некоторые обобщения дифференцирования опреде- определяются в 3.1.2 и 3.1.22, касательные пространства произвольных множеств из пространства R" в 3.1.21, а дифференцируемые под- подмногообразия в 3.1.19. Главными результатами § 3.1 являются ре- результаты следующих четырех типов. Каждая из теорем 3.1.4, 3.1.6, 3.1.8, 3.1.9 (которые были перво- первоначально доказаны в [SW 1, 2], i[RH], [F 1, II], [SW 1, 2]) показы- показывает, что дифференцируемость ^"-почти всюду является следствием некоторого более слабого свойства. Теорема 3.1.14 (доказательство которой впервые было предло- предложено в (WH 1] и несколько упрощено в ,[HS], [GG]) объясняет, при каких условиях функция, заданная на замкнутом подмножестве пространства Rm, имеет к раз непрерывно дифференцируемое про- продолжение на Rm. Теоремы 3.1.15 и 3.1.16 (впервые полученные в [F 1, III для Аг = = 0 и в [WH 3] для к > 0) устанавливают, когда функция класса к совпадает с некоторой функцией класса к+1 всюду, за исключе- исключением множества малой 5""-меры. Теорема 3.1.20 характеризует дифференцируемые подмногообра- подмногообразия пространства R" как дифференцируемые окрестностные ретрак- ты (утверждение о необходимости можно найти в [WH 4, с. 121] с другим доказательством, а доказательство достаточности является новым). В § 3.2 сначала выводятся формулы интеграла от якобиана, ко- которые дают возможность вычислять хаусдорфовы меры множеств, заданных липшицевскими функциями. Наше доказательство клас- 15 Г. Федерер
226 ГЛ. 3. СПРЯМЛЯЕМОСТЬ сической формулы площади в 3.2.3 следует духу работы [КА], но мы используем простую новую конструкцию, чтобы показать, что подмножеством, на котором якобиан обращается в 0, можно пре- пренебречь. Формулы преобразований интегралов в пп. 3.2.5 и 3.2.6 по- получены тем же методом, что и в [F 2, 2.1]. Двойственной к формуле площади является формула коплощади из 3.2.11, открытая в [F 15, 3.1]. После определения в 3.1.14 и 3.2.16 спрямляемых множеств и аппроксимативных касательных плоскостей в 3.2.19 и 3.2.33 обоб- обобщается соответственно вычисление площадей и коплощадей. Другой критерий спрямляемости можно найти в 3.2.29. Новая теорема 3.2.31 была стимулирована отчасти работой [BJ 1, 10.3]. Последующие темы § 3.2 включают теорему 3.2.26 (большин- (большинство утверждений которой было независимо доказано в [F 1, 3, 4] и [N 1]), показывающую, что все те-мерные меры, определенные в § 2.10, совпадают на пг-мерных спрямляемых множествах, и теорему 3.2.39 (первоначально доказанную в [КМ 1]), связывающую хаус- дорфову меру и объем Минковского. Классические доказательства неравенства Брунна — Минковского и изопериметрического нера- неравенства изложены в 3.2.41 и 3.2.43. В 3.2.48 излагается относящаяся к современной интегральной геометрии теорема (взятая из [BJ 1]), доказательство которой иллюстрирует применение формулы копло- коплощади (более простые иллюстрации находятся в 3.2.13 и 3.2.28). В 3.2.46 намечено, как эта теория может быть обобщена с евкли- евклидовых пространств на римановы многообразия. В § 3.3 приводятся ключевые структурные теоремы 3.3.12 — 3.3.15, характеризующие спрямляемые множества в терминах свойств их проекций. Эти результаты первоначально были получены в [В 1 III] для частного случая одномерной хаусдорфовой меры на плоскости, затем в [F 5] для общих мер в га-мерном евклидовом пространстве. В нашем изложении содержатся также некоторые упрощения и усовершенствования (в частности в 3.3.14), получен- полученные в |[М I]. Доказательства пп. 3.3.6 и 3.3.17 используют метод, взятый из [MR 2]. Множество А из 3.3.19 изучалось в [В 1, I] и [МО] относительно меры Ж1, а в работе [MR 1] было доказано, что Q\ (А) = я. Множество Е из 3.3.20 рассматривалось в случае тп = -у в [GR 1]. В § 3.4 рассматриваются некоторые следствия, вытекающие из многократной дифференцируемости функции, относящиеся к хаус- дорфовым мерам определенных множеств, связанных с этими функ- функциями. Теорема 3.4.3 и примеры, построенные в 3.4.4, определяют наибольшую возможную размерность (относительно хаусдорфовых мер) образа множества, на котором функция класса к, действующая из /n-мерного евклидова пространства в нормированное векторное пространство Y, имеет дифференциал ранга v. Наша лемма 3.4.2 яв- является усовершенствованием основной леммы работы [М 1], где этот вопрос был решен в случае v = 0; частные результаты для v > О
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 227 были получены в [SA 1, 3]. Теорема 3.4.8 описывает некоторые из основных локальных свойств множеств нулей вещественно-аналити- вещественно-аналитических функций. Она показывает, что каждое такое множество име- имеет размерность т в смысле теории локальных идеалов тогда и только тогда, когда его пг-мерная хаусдорфова мера локально конечна и по- положительна. Аналогичные результаты были также анонсированы в [BN] и [HR]. Большая часть применяемой процедуры нормализации является классической в алгебраической геометрии и в теории комп- комплексных многообразий (см. [АВ], [GUR], [Н 3], [LP], [DR 2], [НЕМ], [NR]), но для вещественного случая некоторые топологиче- топологические аспекты (такие, как свойства локальной связности, первона- первоначально изучавшиеся в [ВС] и рассматриваемые здесь несколько иначе) более сложны. § 3.1. Дифференциалы и касательные 3.1.1. Пусть даны нормированные векторные пространства X, У, множество А^Х ж отображение /: А -*¦ Y. Будем говорить, что / дифференцируемо в точке а, если а е Int А и существует непре- непрерывное линейное отображение L: X -*¦ Y, для которого lim \f(x) — f(a) — L(x — a)\/\x — a\ =0. х-*а В случае X = Rm будем применять также L{v) = lim[/(a + tv) — f(a)]/t для v^X. t->0 Отображение L называется дифференциалом отображения / в точке а и обозначается Df(a); кроме того, lim sup | / (z) — / (a) |/| x — a | = = sup{| <i;, Z?/(o)>|: | v\ = 1} = \\Df(a)\\, lim inf | / (ж) — / (о) |/l a: — a | - inf {| <v Если Df(a) имеет непрерывное обратное отображение, вышенапи- санная точная нижняя грань равна Ш/(а)~М|-1. Отметим два частных случая. Если X = R, то дифференцируемость отображения / в точке а эквивалентна существованию производной и тогда <.v, Df(a)> = v • /'(а) для любого psR. Если Y = R, а X — пространство со скалярным произведением и dimX<°° (или, более общо, если X — полное пространство), то полярное отображение, соответствующее скалярному произведению, отображает X изоморфно на пространство X* всех непрерывных 15*
228 гл. з. спрямляемость вещественнозначных линейных функций на X. Если / дифференци- дифференцируемо в точке а, то Df(a)<^X* является образом градиента отобра- отображения / в точке а, обозначаемого и определяемого условием <у, Df(a)> = v • grad/(a) для любого Del Перечислим несколько основных свойств дифференциалов. A) Если / отображает какую-нибудь окрестность точки а гомео- морфно на окрестность точки f(a) и если Dj(a) — линейный гомео- гомеоморфизм X на У, то 2) Если f дифференцируемо в точке а и g дифференцируемо в точке /(а), где g отображает подмножество пространства Y в неко- некоторое нормированное векторное пространство, то D(g°f)(a) = Dg[f(a)]°Dj(a). 3) Если отображение /: X -»- Y линейно и непрерывно, то Df(a) = f для любой точки а^Х. 4) Если отображение /: Хх X ... X Хт -*¦ Y является гп-линейным и непрерывным, то )> 2/(i>i* 1=1 каковы бы ни были at, vt е Х{ при i = 1, ..., m. 5) Если dimY<°° и coi, ..., со„ образуют базис пространства f\x{Y), то f дифференцируемо в точке а в том и только в том случае, когда функции cOi ° /, ..., ш„ ° f дифференцируемы в точке а. Непрерывная функция, отображающая некоторое открытое мно- множество из пространства X в У, называется функцией класса 0. Будем говорить, что / является функцией класса 1, если / — класса 0, / дифференцируема в каждой точке своей области опре- определения п Df — непрерывное отображение со значениями в норми- нормированном векторном пространстве всех непрерывных линейных ото- отображений из X в У. Композиция двух отображений класса 1 — отображение класса 1. Если пространство X полное, отображение f — класса 1 и Df(a) — линейный гомеоморфизм пространства X на У, то f отображает не- некоторую окрестность точки а гомеоморфно на окрестность точ- точки f(a). Чтобы доказать это, можно заменить / на Df(a)~i"f и поэтому принять X=Y, Df{a)= \х, а также а = /(а) = 0. Тогда отображение g = f — lx — класса 1 и для любого 0 < е < 1 существует такое б > 0, что lx^<E для же В @,6).
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 229 Отсюда следует (см. 2.2.7), что для любых и, veB@, б) выполня- выполняются неравенства \g(u)-g(v)\^e\u-v\, \f(u)-f(v)\>{i-e)\u-v\. Для любого уеВ[0, 6A — е)] зададим по индукции точки «0 = 0, и„ = у — g(un-i) для п = 1, 2, 3, ..., применим равенства unfl — и„ = = g(un) — g(un-i) для проверки того, что \un+l — uj sZe\un — un-i\ <en|z/|, и сделаем вывод о существовании предела Jim м„ = же В@, б), П-»оо для которого выполняются равенства х = у — g(x), f(x) = y. Если f — однолистная функция класса 1 и Df(a) отображает X на Y гомеоморфно, какова бы ни была точка а е dmn /, то /~1 — функция класса 1. Если функция f — класса 0, dim X < °° м У — полное простран- пространство, то dmn Df является борелевским множеством, a Df — борелев- ской функцией. Поскольку множество im / сепарабельно, сепарабельным можно считать Y; в этом случае пространство Z всех непрерывных линей- линейных отображений из X в Y является сепарабельным банаховым пространством. Заметим, что оо оо Df = П U Cih i=l i=l где C{j — относительно замкнутое подмножество множества (dmn/)XZ, состоящее из всех таких пар (a, L), что \f(a + h)-f(a)-L(h)\^\h\/i, как только |&|<1//. Следовательно, Df является борелевским множеством пространства X X Z. Поскольку проекция X X Z -*¦ X отображает Df взаимно одно- однозначно на dranDf, доказываемые утверждения следуют из 2.2.10. В случае X = Rm будем применять также частные производные D,f, ..., Dmf, определенные формулами А/ («) = Iim [/ К. • • •! «i-ь Щ + t, ai+1, ...,am) — f (a)]/t для a e Rm. Обозначая через еи ..., em стандартный базис прост- пространства Rm, видим, что если f дифференцируемо в точке а, то Dtf(a)= <e(, Df(a)>, и поэтому ТВ <у, Df (а)) = 2 ViDif (а) для любого v <= Rm. г=1
230 гл. з. спрямляемость Может случиться, что существуют DJ(a), ..., Dmf(a)t но / не дифференцируемо в точке а. Однако если некоторая окрестность точки а содержится в областях определения функций DJ, ..., Dmf и если эти частные производные непрерывны в точке а, то f диф- дифференцируемо в точке а. Чтобы доказать это, положим m g(x) = f (ж) — / (а) — 2 (*i — ai) А/ («) Для х «= dmn /. Для любого е > 0 выберем б > 0 так, чтобы |^(а;)| = |Д/М-А/(а)|<8 для геВ(а, S), i = l,...,m, и выведем с помощью 2.2.7, что для z<^TZ(a, б) выполняются не- неравенства — S (^Ij • • •» xi—1» aii • • •» 0-m) | ^ i e | ^i — ai | ^s "** Iя- — a I* 3.1.2. Вспоминая 2.9.12, обобщим теперь локальные построения п. 3.1.1, заменив пределы на аппроксимативные пределы. Для этого возьмем X = Rm с ^"-покрытием Витали V = {(a, В(а, г)): seR» 0<r<°o} и ради краткости будем писать «ар lim» вместо «E"", V) ар lim». Пусть A cr Rm и / отображает А в нормированное векторное про- пространство Y. Будем говорить, что / аппроксимативно дифференци- дифференцируемо в точке а, если существует линейное отображение L: R™ -*¦ Y, для которого aD lxixi / / (х\ / (а\ —— L (х о\ \1\ х а 1 О Отсюда следует, что Rm\^4 в точке а имеет плотность 0 и, кроме того, что такое L единственно. В самом деле разность Т любых двух таких линейных отображений удовлетворяет условию ар lim j Tv \j\ v \ = ар lim | T (x — a) \ /| x — a \ = 0; поэтому если 0 < e < 1, то существует такое г > 0, что 3?т[В@, г)П {v: |Г(у)|>8|у|}]<етгта(т), и тогда для любого aeR", для которого |а|=г — re, существует такая точка »sB(u, ег)<=В@, г), что \T(v) \ < е|у|. Отсюда сле- следует, что \Т(и)\ ^ |Г(и-1;)| + |Г(»)| <11Г11ег + 8Г = 1)- 8/A-8),
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 231 поэтому ПГ11<(Н?11! + 1)8/A-е), и, значит, 11П1 = 0. Будем назы- называть отображение L аппроксимативным дифференциалом / в точке а и обозначать его арDf(a). Применив меру 2", определим также аппроксимативные част- частные производные арDif (а) = арlim[/(..., а^и аг + t, ai+1, ...) — f (a)]/t. t->o Простые соотношения между этими понятиями будут рассмот- рассмотрены в 3.1.4 и 3.1.7. Их полезность для изучения более классиче- классических понятий п. 3.1.1 выяснится в 3.1.5, 3.1.6, 3.1.9. 3.1.3. Для доказательства приводимой ниже теоремы отметим следующие факты. A) Если S — это SBm X ^-измеримое множество в пространстве RmXR\ е > 0, 6 >0 и Т — множество в пространстве Rm, состоящее из всех точек х, для которых &4z; (x, 2)eS, \z\ ss r} ss er*a(&) при любом 0<г<6, то Т является 2>т-измеримым. Действительно, для каждого г множество 5", = S П {(х, z): \z\ < г} является 3?т X ^-измеримым, и из теоремы Фубини следует, что 2*{z\ (х, г)еД как функция от х, является .^"-измеримой. Кро- Кроме того, Т совпадает с множеством тех х, для которых S'Hz: (x,z)^Sr)<Er'la(k) для любого рационального г из промежутка 0 < г < 6. B) Если а — вещественнозначная 3?т X ^-измеримая функ- функция, то ар lim sup a (ж, г) и ар lim inf о (х, г) являются 2>т-измеримъиш функциями от х. Действительно, для каждого tsR можно применить утвержде- утверждение A) к множествам {(х, z): a(x, z)>t) и {(х, z): a(x, z)<t). C) Если a: R" -»- Rm — линейный эпиморфизм, W — это 3?т-из- меримое множество, то a"l(W) является ^"-измеримым. Действительно, существует такой линейный изоморфизм $: R" — ^ Rm X R"-m, что D) Если g — вещественнозначная 2?т-измеримая функция и к^т, то для ^-аппроксимативного предела равенство ар lim g (at + zu ...,ak + zh, ah+1, ..., am) = g(a) выполняется для 9?т-почти всех а. -.
232 гл. з. спрямляемость Действительно, отождествляя Rm ^ Rft X Rm~* и задавая отобра- отображение a: R*XRm-iXR"-*-R*XRm-'1 формулой а (и, v, z) = (u + z, v), убедимся с помощью утверждения C), что отображение g°a явля- является Sh X S?m~* X ^-измеримым, а с помощью утверждения B), что множество Е = Ни, у); ар lim g(u + z, v) = g (u, v)\ является Sh X ^"-^-измеримым. Из 2.6.2 и 2.9.13 можно вывести, что для 2""~''-ночти всех v функция g(u, v) является ^"'-измеримой по и и 3>кЫ: (и, v) Согласно п. 2.6.2 дополнение к множеству Е имеет З X 3"*'*- меру 0. E) Если А — это ^-измеримое множество и к^т, то для 2>т-почти всех точек а из А множество R" П Ы: (и1} ..., uk, ah+l, ..., am) Ф А) имеет 3?к-плотностъ 0 в точке (аи ..., ah). Это получается применением утверждения D) к характеристи- характеристической функции множества А. 3.1.4. Теорема. Если функция /: Rm -*¦ Rn является 3?т-измери- мой, то Аг = dmnapA/ — это ^"-измеримое множество, арД/ — это 3?m L- Ai-измеримая функция для » = 1, ..., т, и функция f аппроксимативно дифференцируема в 2т-почти всех точках а из u{At: i — 1, ..., m), причем m <V, ар Df (a)) = 2 Щ ар Д/ (а) для любого v e Rm. Доказательство. Допустим, что п = 1, е4, ..., em — стандартный базис пространства Rm, и положим gi (х) = ар lim sup [f(x + tet) — f (x)]/t t->o для любого xeR, Из утверждений 3.1.3C) (при п == m 4-1, а (ж, t) = x + tei) и B) следует, что функции g{ и аналогичные функции, заданные нижними пределами, являются ^""-измеримыми. Поэтому множество As, где эти верхние и нижние пределы конечны и равны, является 2""-измеримым.
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 233 Для любого натурального /' и любых х е Rm и г > 0 обозначим через Т(х, г, i, j) множество всех вещественных чисел t, для кото- которых 1*1 <г и \f(x + te()-f(x)-tgt(x)\>\t\/j. Для любого натурального р положим В (г, 1, p)==Aiu{x: 3?*T{x, r, i, ;)<г//, как только 0<г<1/р). В случае г>1 обозначим через Z(x, г, г, /, р) множество в про- пространстве R1, состоящее из всех точек z, для которых |z| <r и либо x + zlel + .. . + zi_1ej_1 ^-B(i, j, p), либо \gi(x + ztej4-... + Zj-iei-i) — gt(x) I > i/j. Для любого натурального q положим как только 0 < г < 1/q). Положим также СA, /, р, q) = B(l, j, p) для всех q. С помощью 3.1.3 находим, что множества B(l, j, p) и C(i, j, p, q) являются .^""-измеримыми, причем сю А\= \jB(i,j,p) для каждой пары (i, j), Sm В (i, j, Р)\ U С (г, /, Pi q) = 0 для каждой тройки (г, /, р). L 9=1 J Кроме того, B(i,j,p)<=B(i, /,р+ 1) и C(i, /, р, q)<=C(i, /, р, q + 1). По заданному множеству Е<=-Г\{А(: i = l, ..., m}, для которого 2"" (?") < °°, и любому е > 0 можно построить последовательности Pi) Рг, Ра, . ¦. и #i, g2, ?з, ... натуральных чисел так, что 3?m[E\B{i,i, Pl)]<e2-\ для i = 1, ..., m и любого натурального /, следовательно, m °o 5"" (?\Я) < 2ше, где Я = П ПС (t, /, Ph q}). i i Покажем, что функция / (равномерно) аппроксимативно дифферен- дифференцируема в точках множества Н. Предположим, что ое Н, j — натуральное число и 0<r<inf il/pbl/q;}. Для i = 1, ..., m обозначим через St множество в пространстве Rm, состоящее из всех таких точек V, что \v\ < г и либо i > 1 и (у,, ..., Vi-i)eZ(a, r, i, j, ps), либо vt e T(a + v^ + ... + у,.^^^ r, i, j).
234 гл. з. спрямляемость Поскольку 9?г~12{а, г, i, /, ft)<r'~V/, а также 21Т{х, г, i, j)<r/j, если x = a + viei +... + vi-lei-leB(i, j, pj), находим, что < fn2m-i+i/j + rm2m~V/ < 2m+Ir/. Кроме того, если у<= В@, r)\St, то |/(а+ !;,е,+...+ 1>,е;)- /(а + у^ +... + i^ei-j)— Р4?,(а) I < < \vt\/j+ \vigi(ai-viei-i- ... + v{-iei^i)—vig{(a)\ Полагая W = U {5,-: г = 1, ..., тп), делаем вывод, что и что неравенство т (a + v)-f(a)--Zvigi(a) t=i выполняется для любого уеВ@, г)\W. 3.1.5. Лемма. Пусть C<=5<=Rm, /: В -+ R", 0 < г\, 0<М<оо, и пусть из z^C следует, что U(z, ц)сВ и ?^сли a<sC, множество Rm\C имеет 3?т-плотность 0 в точке а и функция / аппроксимативно дифференцируема в точке а, то f дифференцируема в точке а. Доказательство. Предположим, что L = apZ)/(a), 0< е < 1, О < б < л, W = C?\{z: \f(z)-f(a)-L(z-a)\<e\z-a\} и Sm [В (а, г) \W] < emrma (m), как только 0 < г < б. Для жеU(а, 6 — еб) возьмем г = \х — а|/A — е)<б и заме- заметим, что Выбирая геВ(г, ег)П И7, делаем вывод, что x^B(z, er)<=U(z, tj) и \f(x)-f(a)-L(x-a)\^ <\f(z)-f{a)-L(z-a)\ + \f(x)-f(z)\ 3.1.6. Теорема Радемахера. ?сди отображение /: Rm -»- Rn липши- цевское, то f дифференцируемо в 2>т-почти всех точках простран- пространства Rm.
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 235 Доказательство. Для ? = 1, ..., т зададим множество At так же, как в 3.1.4. Для любого и е R-1 отображение /u: R->Rn, /«(s) = /(»i, ..., и,-!, s, и,, ..., um_i) для seR, является липшицевским, поэтому из п. 2.9.12 следует, что Dif К, . . . , М{_1, S, Ц{, . . ., ит-х) = f'u (S) 6E R" для 2 '-почти всех s. Поскольку множество А{ является ^"-изме- ^"-измеримым, из теоремы Фубини следует, что 3""(Ит\А{) = 0. Поэтому •2"n(Rm\nL4,: ? = 1, ..., т}) = 0, и мы получаем дока- доказываемое утверждение с помощью 3.1.4 и 3.1.5 (полагая C = 5 = Rm, f L( , , p(/)) 3.1.7. Лемма. Если А — это ^'"'-измеримое множество и отобра- отображение /: А -*¦ R" липшицевское, то j имеет 2т-почти всюду в А аппроксимативный дифференциал и аппроксимативные частные про- производные. Доказательство. Согласно 2.10.43 / имеет липшицевское продол- продолжение g: Rm-^Rn. Из п. 3.1.6 следует, что g дифференцируемо в 2""-почти всех точках пространства Rm, а из 2.9.11 вытекает, что RmNw4 имеет плотность 0 в 2""-почти всех точках множества А. В тех точках, где выполняются оба условия, дифференциал отобра- отображения g является аппроксимативным дифференциалом отображе- отображения /. Кроме того, Dig (a) e Rn для 2""-почти всех а е Rm. Поэтому из 3.1.3E) вытекает, что Digr(a) = apД/(а) для 2""-почти всех 3.1.8. Теорема. Если A<=Rm, /: А + R" и арlim sup| /(х) — /(а) \/\х — а\ <С оо для любой точки не А, х->а то А является объединением счетного семейства 3?т-измеримых множеств таких, что сужение f на каждое из них является липши- липшицевским; кроме того, f аппроксимативно дифференцируемо в 3?т- почти всех точках множества А. Доказательство. Из условий теоремы следует, что Rm\yl имеет плотность 0 и отображение / аппроксимативно непрерывно в каж- каждой точке множества А, поэтому множество А является ^""-измери- ^""-измеримым и отображение / является 2""L Л-измеримым согласно 2.9.11 и 2.9.13. Отношение 2""[В(и, |ц — у|)ПВ(у, \и — v\)]/\u — v\m принимает постоянное значение р для всех пар (и, v) несовпадающих точек пространства Rm, потому что оно инвариантно относительно изо- метрий пространства Rm и умножений на скаляры. Для любого натурального j, любого числа г > 0 и любой точки «ei положим Q(u, r, j) = B(u, г)(\{х: хФА или \f(x)-f(u)\>j\x~u\], Bj = А П {и: 3SmQ (и, г, j) < rmp/2 для 0 < г < 1//}.
236 гл. з. спрямляемость Каждое из множеств Bj является ^""-измеримым (см. 3.1.3), и А = U В}. 3=1 Теперь заметим, что \f(u) — f(v)\ ^2j\u — v\, как только и, »еВ,-, и |и — v\<l/j, потому что если r=\u — v\, то &m[Q(u, r,j)UQ(v, г,Л]<гтр = 3""[В(и, г)ПВ(», г)] и, выбирая .re[B(u, г)ПВ(у, г)]\[(?(ц, г, j)UQ(v, r, у)], получим <у|а:-в| +j\x-v\ <2у> = 2у|и- v\. Наконец, представим Bs в виде объединения ^""-измеримых мно- множеств Bjti, Bjt2, Bj,3, ..., диаметры которых меньше чем 1//, заметим, что сужения f\Biih являются липшицевскими, и выведем из 3.1.7, что отображение ]\В}Л (а следовательно, и /) аппроксимативно диф- дифференцируемо в 2""-почти всех точках множества В1А. 3.1.9. Теорема Степанова. Если А <=?<= Бд множество В откры- открыто, /: В ->- R" и lim sup | / (х) — f (а) |/| х — а \ < оо для любой точки а^А, х-ю. то функция f дифференцируема в 3"п-почти всех точках множе- множества А. Доказательство. Заметим, что А содержится в объединении мно- множеств С,=ВП{г: \f(x)-f(z)\^j\x-z\ для жеЩг, 1//)}, соответствующих всем натуральным /. Каждое из множеств С, замкнуто. Действительно, предположим, что Cj э ?р->-z e Rm при р-*-оо и ieUB, 1//). Если р достаточно велико, то (z, x) <=¦ U(? /) 5 при р -»- оо, а значит, z s Ci# Далее представим С3- в виде объедине- объединения замкнутых множеств Citi, C,-,2, CSia, ..., диаметры которых не превосходят 1//, и заметим, что функции /IC,-,k липшицевские. С по- помощью 3.1.7 и 2.9.11 выводим, что в 2"™-почти всех точках множе- множества Cjih функция /iCu аппроксимативно дифференцируема, множе- множество Rm\CJit имеет плотность 0, а значит, функция / аппроксима- аппроксимативно дифференцируема и множество Rm\Cj имеет плотность 0. Следовательно, функция / дифференцируема согласно 3.1.5.
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 237 3.1.10. В 3.1.8 мы нашли, что аппроксимативные локальные ус- условия на рост функции / достаточны, чтобы гарантировать, что / является объединением счетного семейства липшицевских функций. В 3.1.16 будет получен более сильный результат, показывающий, что то же локальное условие влечет за собой существование такого множества S, что 3"n(A\S) = 0 и функция /15 содержится в объеди- объединении счетного семейства функций класса 1. Большая часть техни- техники, развитой для этой цели, будет применима также к изучению функций классов к > 1 (определяемых в 3.1.11). 3.1.11. Теперь мы по индукции обобщим понятия п. 3.1.1 и рас- рассмотрим дифференциалы порядков, больших чем 1. Для этого обо- обозначим вместо «дифференцируемое» будем говорить «один раз дифферен- дифференцируемое», и нормируем векторное пространство всех непрерывных /га-линейных отображений из Хт в У, полагая ИфИ = sup{(p(y,, ..., vm): Vi^X и |у41<1 дляг = 1, ..., т}. В случае к~5*2 будем говорить, что отображение / является к раз дифференцируемым в точке а, если f дифференцируемо к — 1 раз в каждой точке некоторой окрестности точки а и функция Dh~lf со значениями в пространстве непрерывных (к — 1) -линейных ото- отображений из Xh~l в Y дифференцируема в точке а. В этом случае k-й дифференциал / в точке а — это непрерывное k-линейное ото- отображение Dkf{a): Xh^Y, задаваемое формулой для любых vit ..., vh<^X. С помощью индукции по q можно проверить, что = <К .... vp), <(vP+l, .... vP+q), D'D»f(a)» для любых Vi, ..., vp+q е X. Далее мы докажем, что если отображение / дважды дифферен- дифференцируемо в точке а, то f(a + u + v)-f(a + u)-f(a+v)+f(a)-((u, v), D2f(a)}\ = Q Пусть а = 0. По заданному е > 0 найдем б > 0 так, чтобы HZ)/(a!)-Z)/(O)-<a!IZ)/)/(O)>ll<Bla;| для z<=U@, 26).
238 гл. з. спрямляемость Для и, veB@, 6) положим *.(»)=-/(» + !7)-/(a)-/(iO + /@) = -<», <v, DDf(O)>> и заметим, что -[Df(u)-Df(O)-(u,DDfiO)>], Wgv(u)\l Kb-\u + v\ + eli»| <2e -(l»l + M); поэтому Lip[gjB(O, |»|)]s^2e-(Ы +|i>|), и поскольку g»@) = 0, делаем вывод, что \gv(u) I ^ 2e -(|»| + \v\) • Ы <2e -(|в| + ЫJ. Отсюда получаем, как следствие, что D2f(a) является симметриче- симметрической билинейной формой. Применяя соотношение между Dh и DlDft~2, по индукции полу- получим следующее утверждение. Если отображение f дифференцируемо к раз в точке а, то Dhj{a) является симметрической к-формой. В случае, когда к — натуральное число, будем говорить, что / является функцией класса к, если / — функция класса 0, / диффе- дифференцируема к раз в каждой точке своей области определения, и отображение Dhj непрерывно. Если / — класса к, то f — Класса j для / = 1, ..., к. Будем говорить, что / — класса °°, если / класса к для любого натурального к. Композиция двух отображений класса к является отображением класса к. Если отображение класса к имеет обратное класса 1, то это обратное будет отображением класса к. Эти утверждения легко проверить индукцией по к, применяя формулы для дифференциала композиции и дифференциала обрат- обратного отображения (см. 3.1.1), билинейность операции композиции линейных отображений п бесконечную дифференцируемость опера- операции обращения линейных отображений, которая вытекает из сле- следующего утверждения. Если X — банахово пространство и Е — банахово пространство всех непрерывных линейных эндоморфизмов пространства X, то множество А всех линейных автоморфизмов пространства X откры- открыто в Е, сад как только Т ei, S(=E, \\T~l ° SW < 1 и к-й дифференциал в точке Т
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 239 операции обращения отображает (S,, ..., S^^E* в сумму р взятую по множеству всех перестановок р множества {1, ..., к). В частном случае, при X = R, отображение / дифференцируемо А; раз в точке а тогда и только тогда, когда к-я производная /<ft)(a)<= У, и в этом случае Как и принято, мы обозначаем / = /<0> и [/("-4)]' = fm для к = = 1, 2, 3, ... Если / класса к > 1 и it: О < t < 1} <= dmn /, то можно проверить с помощью интегрирования по частям, что (см. 2.5.17 и 2.5.18) h 1 / A) - 2 }W @)/П = \ [ fW @) - fh) (t)] dt A - t)h/k\ г=0 О Рассматривая опять произвольное нормированное векторное про- пространство X, установим далее общую формулу Тейлора: к г=0 1 = | ((х — а) /к\, D f (а) — D f[a + t(x — a)]> dt A — t) % о предполагая, что отображение f класса k~$>\ и x + t(x — a)e dmn/ при 0<i=Sl, а степени (х — а)' вычисляются в алгебре О*Х (см. 1.9.1). Для доказательства примем а — О, положим g(t) = f{tx) для ieRflU: tee dmn/}, проверим по индукции, что g{i)(t) = <x\ Z>7(te)> для ? = 0, ..., к, и применим к g частный случай формулы Тейлора из предыдущего абзаца. Если отображение / класса к и / < к, то D'f будет класса k — j vs. <|, D*D3f(a)y = !-JD'+'f(a) для ?s0jX, поэтому формула Тейлора для Z)'/ принимает вид ft-i i=0 1 = f (i - a)'-j/(fc - /)! J EV («) - С'/ [a + / ^ - fl)]) rf( A - 0*"^ 6
240 гл. з. спрямляемость Если <рт: Хт ->¦ Y — непрерывная симметрическая /n-форма, ка- каково бы ни было т = 0, ..., М, и если соответствующие непрерыв- непрерывные полиномиальные функции Р и St построены, как в 1.10.4, то из выведенной там формулы следует, что DlP = St при i = 0, ..., М и Du+iP = 0. Поэтому Р является функцией класса °° и /)'/)@) = ф,- при i = = 0, ..., М, а в формуле Тейлора для Р интеграл (остаток) равня- равняется 0, если /с 3* М. Каково бы ни было отображение /, дифференцируемое к раз в точке а, определим /b-струю отображения / в точке а как такую полиномиальную функцию Р„, что У ) Отсюда следует, что D'Pa является (к — j) -струей отображения ВЦ в точке а при / < к. Из формулы Тейлора для D'f следует, что если f класса к, то Ига || Djf (х) - D}Pa (x)\\-\x-a \j~h-(k — j)\ = 0 х-»а для любых а^А и j = 0, ..., к. На самом деле сходимость равно- равномерна для всех а из любого компактного подмножества множества dmn/. Это показывает, что предположения п. 3.1.14 существенны. Приведем следствие из формулы Тейлора, которое иногда по- полезно при вычислении дифференциалов. Если отображение / класса к^М, <р4е©*(Х, У) непрерывны при г = 0, ..., М и N lira |/(о + tv) - 2 <(*i>O*l. <Pi> I/** = ° t->0 i=0 для любого »еХ, то Dif(a) = ф* при i = 0, ..., к. Например, предположим, что Y — нормированная алгебра, f и g — отображения класса к и а е dmn / П dmn g. Обозначая через Ра и Qa соответственно &-струи отображений / и g в точке а, находим, что lira \f(x)g (x) - Ра (х) Qa (х) |/| х - а |* = 0, х->а и, применяя изоморфизм алгебры полиномиальных функций и ал- алгебры ©* (X, Y), получаем общую формулу Лейбница Dl U-g) (a) = 2 Dl-L! (a) ® D}g (а) для i = 0, ..., к. 3=0 В качестве другого примера выведем следующую общую форму- формулу для дифференциалов композиций.
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 241 Если X, У, Z — нормированные векторные пространства, А и В — открытые подмножества в X и в У, f: A~*-Y и g: B^-Z — отображения класса к, а^А и f(a) = b^B, то Dv (g°f) (a) = 2 D^g (Ь). [Dlf (af* © ... © iff (a)e*]/ex! aeS( ) для р = 1, ..., &, где S(p) — множество всех к-членных последова- к телъностей а неотрицательных целых чисел таких, что 2 i&i = р- В этой формуле D'g(b) надо понимать как линейную функцию на QjY и© — умножение в ©*(Х, О*У). Для доказательства этой формулы примем а = 0, Ь = 0, g(b) = O, обозначим через Р„ и Qe соответственно /с-струи отображений / и g в точках 0 и 0, заметим, что Нт| (*»/)(*)-($,,./>,)(*) |/|г|*-= О, х->0 поэтому D" (g о /) @) = Dp (Qo»Ро) @) при р<к, ради краткости обозначим Ф, = № @), ф, = VQ» @) для i == 1, 2, 3, ..., и получим, что h / h 3=1 \ i=l ft /. ft = 2< 2 (П j=l \aSE(ft,j) i=l 1.2 = 22 «*p/pl [(Фх)© ... ©(T0aft]/«i>. ^ >• Применяя формулу композиции в частном случае, когда У = Z = R и g(y) = l/i/ при у е R, получим В случае X = Rm будем пользоваться также частными производ- производными к-то порядка Dvf, определяемыми рекуррентно по формуле Dvf = D4v...,4hf = DViDV2 Vft/ для всех последовательностей v: (I, ..., к) -*¦ И, ..., ш). Обозначая через еи ..., еп и ©i, ..., com стандартные двойственные базисы пространств Rm и 0'Rm, видим, что если функция f дифференци- 6 Г. Федерер
242 ГЛ. 3. СПРЯМЛЯЕМОСТЬ руема к раз в точке а, то Dvf(a) = ((eVh, ...,eVl), Dkf(a)}. В этом случае также положим Daf(a)=<e*, Dhf(a)> для oe3(m, ft), и выведем, что Daj(a) = Dvf(a), если oci = card{/: Vj = ?} для i — i, .-., m, Dhf(a)= 2 Daf(a)-aa/a\ aSH(m,ft) Поэтому / — отображение класса к тогда и только тогда, когда Daf — отображение класса 1 для любых осе5(иг, /), ]'<к. Заметим, что если функция /: R -*• R задается формулами /(а;) = ехр(—х~г) для х > 0, f(x) = O для х^О, то / является функцией класса °° и возрастает на {х: х > 0). Сле- Следовательно, функция g, задаваемая формулой является функцией класса °°, не возрастающей на R, причем g(x)=l при х < 0, ^(х) = 0 3.1.12. Лемма. ?сдм ScrCT'crR, отображение h: U->- {г: 0<г< < оо} липшицевское, множество (B[s, A(s)]: se,S} состоит из не- непересекающихся шаров, A,3sLip(/i), ot>0, Р > 0, Яа<1, ЯР < 1 и S» = Sn{s: В[ж, сеЛ(ж)] ПВ[», , то каково бы ни было s e Sx, и card&< [а + (р + 1) A + Яа) A - Доказательство. Если s e 5Х, то где ^ = а+(Р + 1)A + Л,а)A-Я,р)-1, откуда Отсюда следует, что (card Sx) a (m) [(I - Щ A + Щ-1 h
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 243 3.1.13. Следующая ниже конструкция применима к любому се- семейству Ф открытых множеств из пространства Rm. Выбрав к = 1/20, обозначим через h такую функцию на 11Ф, что u(z) = A,sup{inf{l, dist(«, Rm\T)): Геф} для любого же иф, и, применяя 2.8.4 и 2.8.5 при F=*{B[z,h(x)]:xeU<?}, 6 = diam, т = 2, выберем такое множество З'сиФ, что шары (B[s, h(s)]: s^S) не пересекаются и U{B[s, 5h(s)]: *€=5} = иф. Ясно, что множество S счетно. Полагая а = ? = 10, выводим из 3.1.12, что card 5, < A29)™ и 1/3 <h(x)/h(s)< 3 для любых же1)Ф и seSx. С помощью отображения у: R-* -*¦ {у: 0 ^ у «S 1) класса °° такого, что 4@=1 для*«?1 и t(t) = O для t> 2, зададим функции ц., и3 класса °° на Rm формулами ]i(x) = i{\x\) для a;eRm, us(x)=ix([x-s]/[5h(s)]) для s^S, x<=Rm и заметим, что sptusc=B[s, lOh(s)], us(x)=l для xeB[s, 5h(s)], т1и3{х)\\ < Gilbhis)]-' ^ GM*)-* Для s<=Sx, где Gt = sup im Ш'ц11 < °° для i = 0, 1, 2, ... Полагая о (ж) = 2 "s (^) = 2 Ms (ж) для ж e Rm, получим а{х)>1, WD'a {x) II < A29)m-G4-/i (ж) -' дляж^иФ, и, значит, функции v, — uja: 11Ф -*¦ {у: 0<y<i} удовлетворяют условиям 2 vs (х) = 1, 2 #Il7s (ж) = 0, если i > О, s SS s=S Wv.(ж) II < Vth(ж)-' для ж е иф, где Vt определяется по т, Go, ..., G,-. Функции vs образуют разбиение единицы на 11Ф, соответствую- соответствующее семейству Ф. Они класса °°, а их носители образуют локально конечное измельчение покрытия Ф множества 11Ф. Каждая из функ- функций vs имеет расширение класса °° на все Rm, равное 0 на Кт\иФ. Af\*
244 гл. з. спрямляемость 3.1.14. Теорема Уитни о продолжении. Предположим, что Y — нормированное векторное пространство, к — неотрицательное целое число, а А — замкнутое множество в пространстве Rm, и пусть каж- каждой точке se4 соответствует полиномиальная функция Ра: Rm -+• У, для которой степень < к. Всякому множеству С сг А и числу 6 >0 сопоставим число р(С, б), равное точной верхней грани множества всех чисел ШРи(Ъ) -D'Pb(b) II ¦ к - Ь\*~к ¦ (к - i)!, соответствующих i = 0, ..., к и точкам а, Ъ^С, для которых 01Ы6 Если р(С, 8)->-0 при 6->-0+ для каждого компактного подмно- подмножества С с А, то существует такое отображение g: Rm -*¦ Y класса k, что г = О, ..., к и аеА. Доказательство. Положим С/ = К™\Л и применим 3.1.13 при Ф = = {?/}, так что 20h(x) = ini{I, dist(z, А)) для x^U. Для каждого se=S выберем точку |(s)e4, для которой Is — |(s) I =dist(s, А). Теперь функцию g: Rm-^Y зададим фор- формулами g(x) = Px(x) для х&А, g{x)= 2 V, (X) Рц,) (x) ДЛЯ X^eU. Ясно, что функция #1U класса °° и Dlg (i)-2S Di4vs (х) О &РШ (х) s=S j=0 для х s U и i = 0, 1, 2, ... Покажем, что на множестве А и около него функция g ведет себя так, как требовалось. Прежде всего, если с, Ъ е С <= А, х е Rra и / < к, то |2 (*- Ь)*/П 2 i=0 = l(\x-b\\+\c-b\)*-}/(k-i)l)P{Cx\c-b\).
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 245 Далее, если а<=А, С = ,4ПВ(а, 2) и же[7ПВ(а, 1/3), то вы- выберем точку be А, для которой \х — b\ = dist (а;, А), и заметим, что \х-Ь\<\х-а\ <1/3, 2Oh(x)=\x-b\<l/3, \b-a\*Z\x-b\ + \x-a\*Z2\x-a\<2, Ь^С. Кроме того, для каждой точки sej, выполняются неравенства 20ft (в) < 60ft (ж) ^1, 20h(s)=\s-l(s)\, \s - х\ < 10ft(s) + 10ft(x)< 40ft(x)< 2/3, l|(»)-o| < l|(s)-s| + \s-x\ + \x-a\<2, g(s)sC, Поэтому для i < к получим = 12 2 D^v, (x) 4&РШ) № - &Pb (x)] || 2 2 ( i ) Vi-jh (Xy-* [140fc («)]*~i p [C, где Д/i определяются по m, /с, Уо, ..., F4. Отсюда следует, что '>(*)-#'/>„(*)II < < Wg (х) - D'Pb (ж) II + ШР. (х) - ДгР6 (ж) II < г\х-Ь\к-*р(С, 6|г-Ы) + C|ж-а|)*-'р(С, 2|ж-в|)< , 6b -а|). Теперь утверждение теоремы получается индукцией по i. Дей- Действительно, для любого i < А; предположение индукции о том, что х) для каждой точки х^А влечет за собой, в силу предыдущих оценок и условий теоремы, что И m || Dlg (x) - DlPa (х) 1/| х - a |ft~i = 0 х-*а для каждой точки sei, следовательно, функция D{g непрерывна в точке айв случае г < к 'gia) = D&P. (a), Di+lg (a) = Di+1Pa (a). 3.1.15. Теорема. Если A<=B<=Rm, функция /: 2?->-R" является функцией класса к и lim sup I Dhf (x) — iff (a) |/| x — a|< oo для всех а е A,
246 ГЛ. 3. СПРЯМЛЯЕМОСТЬ то для любого г > О существует такое отображение g: Rm -»- R" класса k + 1, что Sm(A\{x: f(x) = g(x)))<E. Доказательство. Убедившись с помощью 3.1.9, что .2?m(.A\dmn.DZ)'7) = 0, и с помощью 3.1.4, что функция DDhf явля- является Sm L dmn Ш^-измеримой, применяя 2.3.5, получим такое замкнутое множество Е, что . DDhf\E — непрерывная функция и S?m(A\E) < 8. Для д = 1, 2, 3, ... и яе? обозначим через r\q{a) точную верх- верхнюю грань чисел Wf(x)-Dhf(a)- <x- a, DDhf(a))\\/\x-a\, со- соответствующих всем ieB(s, l/q)\{a). Поскольку lim r\q (a) — 0 для каждой точки а е Е, и функция г\, борелевская, пп. 2.3.7 и 2.2.2 позволяют построить замкнутое подмножество F множества Е такое, что S"n(A\F)<E и lim sup {т]д (а): а е С} = 0 для каждого компакта С с: F. д-»оо Для каждой точки a&F через Ра обозначим (А;+1)-струю функ- функции / в точке а и заметим, что Ра(а) = f(a). Покажем теперь, что выполняются условия п. 3.1.14 с заменой Y, к, А на R", k+1, F. Предположим, что С — компактное подмножество множества F и а, Ъ^С. Для г = 0, ..., А: — 1 и 0<|Ь — a\<l/q, применяя фор- формулу Тейлора к D'Pa и D'f, найдем, что ft+i DlPb (b) - D'Pa (b) = D'f (b) - 2 (b - аГ%- - i)! j fff (a) = l = j (b - a)k-i/(k - i)! j (Dkf {a) - Dkf [a+t(b- a)]) dt A - t)^ - о l _ (ь _ п)к+1-*/(к+1-0! J Dh+1f (a) =- j (b - a)ft-V(fe -i)! J (Dhf(a) + + <*(b- a), ?>?ft/ (o)> - Dft/ [a + * (b - a)]) dt A - f)ft-\ i потому что Jfd((l—i)ft~'=—1/(& + 1 — i). Отсюда получаем, что о Ю'Рь(Ь)-В!Ра(Ь)\\ |b-a|'-ft-1(fe + l-i)!<T)s(a). Далее находим, что DkPb(Ь) - DhPa(Ь) = Dkf (Ь) - Dhf(a) - (Ь - a) -I D"+If(a) = -a-a, DDkf(a)>,
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 247 и делаем вывод, что из неравенства 0< \Ъ — а\ < i/q вытекает, что HZ?*/»* (Ь) — /У^Р.(Ь) Н 1Ь — al-1 ^ ч,(а). Наконец, поскольку функция Dh+if равномерно непрерывна на С, заметим, что разность мала при малых \Ъ — а\. 3.1.16. Теорема. Если А <= Rm, /: А -•- Rn и ар lira sup | / (х) — / (о) \/\х — а | < оо х-» a для 3""-почти всех х^А, то для каждого е >0 существует такое отображение g: Rm->-Rn класса 1, что 3?m(A\{x; f(x) = g{x)})<&. Доказательство. С помощью 3.1.8 получим такие компактные множества Си С2, С3, ..., что CiCU@, i)YU@, г —1), функция f\Ct липшицевская, Sm {A fl [U @, i) \ U @, i — 1) ] \ С,) < г-'е, затем, многократно применяя 2.10.43, построим отображение h; Rm-*-Rn так, чтобы fe|U@, i) было липшицевским расширением отображения /jIU(O, i — 1)и/|С;. Замечая, что h локально липши- цевское и Sm{A\{x: f{x) = h(x)})<e, применим, наконец, 3.1.15 с заменой А, В, /, к на Rm, Rm, h, 0. 3.1.17. Теорема 3.1.16 дает наилучший возможный результат, по- поскольку обратная к ней, очевидно, верна. Для функций высших классов соответствующий вопрос о том, можно ли «lim sup» в 3.1.15 заменить на «ар lim sup» в случае к > 0, не решен*). 3.1.18. Диффеоморфизм класса к — это гомеоморфизм класса к, обратное отображение к которому также класса к. Здесь подразу- подразумевается, что область определения и образ диффеоморфизма явля- являются открытыми подмножествами (изоморфных) нормированных векторных пространств. Рассмотрим теперь вопрос о локальном представлении отобра- отображений класса к в виде композиции линейных отображений и диф- диффеоморфизмов. Предположим, что А — открытое подмножество про- пространства Rm и отображение /: А -*¦ R" класса к 5* 1. Для каждого неотрицательного целого v множество {х: dim im Df (x) > v} = {х: Д v Df (x) Ф 0} открыто, потому что <5» Av Df (x)) непрерывно зависит от х при любом ?е Av" • Множество {х: dimimDf(x) = \} *) Отрицательный ответ на этот вопрос дан в статье Е. Э. Мовшович (Мат. заметки, 1980, т. 27, № 2).— Примеч. пер.
248 гл. з. спрямляемость не обязано быть открытым; его внутренние точки называются типичными точками ранга v относительно /. Мы рассмотрим поведе- поведение отображения f около типичной точки а ранга v. Ясно, что v<inf(/n, п). Если v = 0, то / отображает некоторую окрестность точки а в Л на f(a). Поэтому далее будем считать, что v > 0 и выберем проекцию peO*(n, v), для которой imp* = imDj(a). В случае v < тп можно также выбрать проекцию geO*(m, m — v), для которой img* = ker Z)/(a), и положить g:A-+R>X№-\ g(x) = (\p*f)(x),q(x)) для *е= A, r: R'XRm-v->Rv, r(v, w) = v для (v, m)eRvXR-'; а в случае v = m положим g = p ° f,r = 1RV. Поскольку отображе- отображение p\imDf(a) однолистно, ker D (p ° f) (a) = ker Df (a), ker q П ker Df(a) = ker q П im q* = {0} в случае v < m, видим, что отображение Dg(a) однолистно и выво- выводим с помощью 3.1.1, 3.1.11, что у точки а есть такая окрестность U, что g\U является диффеоморфизмом класса к. Действительно, можно предположить, что у точки (р ° /) (а) есть выпуклая окрест- окрестность V в Rv, а в случае v < то, что у точки q (а) есть выпуклая окрестность W в Rm~v такие, что g(U)=VXW npHV<m и g(U) = V npnv = 7tt. Можно допустить также, что для любой точки ie[/ выполпяются соотношения v = dim im Df (x) ^ dim im D (p ° f) (x) > v, поэтому dim ker Df(x) = m — v = dim ker D (p ° /) (x), ker Df (x) = ker D(p°f)(x). Применяя Dg(x) к обеим частям этого равенства, с учетом равен- равенства р° f = r о g находим, что В случае v < m получим, что <@, z), Dlf'iglU)-*]^, u;)> = 0 для поэтому f °(g\U)~l — ty<>r, где Ч>: F^Rn, y(v) = [i°(gW)-l](v, q(a)) В случае v = m возьмем ty = i°(g\U)~l. В обоих случаях получий
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 249 и заметим, что р ° f\U = р°т!р°р° f\U, причем (р ° f)U = V, поэтому Р olf)= 1Г. Отсюда следует, что отображение h = lRn + (P*°P) - A>«р): р-1 (F) -*p-i (F) является диффеоморфизмом класса к. Действительно, p°h = \-*(У) и После проверки того, что h ° f\U = р* ° р ° f\U = р* ° р о $° г ° g\U = р* ° г ° g\U, приходим к выводу, что = p*(V)<=imDf(a), /1С/ = й °р* ° г °g\U. Таким образом, отображение f\U эквивалентно линейному отобра- отображению р*°г с точностью до диффеоморфизмов g\U и h. Заметим также, что потому что imDty[(p° f)a] = imDf(a) = imp* и p°Dty [(p°f)a] = 1rV. Отсюда следует, что 3.1.19. Под ц-мерным подмногообразием класса к пространства Rn мы понимаем подмножество В пространства R", удовлетворяю- удовлетворяющее следующему условию: A) Для каждой точки Ъ^В существуют окрестность Т точки Ь в R", диффеоморфизм о: Т -*¦ R" класса к и \х-мерное векторное подпространство Z пространства R" такие, что В случае ц^1 и k^l условие A) эквивалентно каждому из следующих условий: B) Для любого Ь^В существуют окрестность Т точки Ь в R" и отображение /: Т -*¦ R' класса к такие, что i > n — ц и Bi\T = f-4f(b)}, dimimZ)/(a;) = 7i-|i для любого х^Т. C) Для любого Ь е В существуют открытое подмножество Q пространства Rm, тп > ц, и функция /: Q ->- Rn класса к такие, что / отображает каждое открытое подмножество множества Q на от- открытое в В подмножество множества В, Ъ е im / и dim im Df(x) = ц для любого x<=Q.
250 гл. з. спрямляемость D) Для любого Ъ^В существуют окрестность Т точки Ъ в R", выпуклое открытое множество V из пространства R" и отображения ф: Т ->- V, ip: V -*¦ Т класса к такие, что E) Для любого be В существуют окрестность Т точки Ъ в R" и проекция ре О*(и, ji) такие, что отображение р\(ВПТ) одно- однолистно, множество р(В Г) Т) = р(Т) выпукло, отображение \p\iBDT)]-1: p(T)^Rn класса к и D\p\{B П Т)]-*р(Ъ)=- р*. Эквивалентность указанных условий может быть проверена сле- следующим способом. Очевидно, что из A) следует B) и D), а из E) — D). Из 3.1.18 видно, что из B) вытекает A), из C) —A), а из D)-E). Для доказательства того, что из D) вытекает C), можно заме- заметить, что ВП*(\?) для WcF, Далее отметим, что каждое подмногообразие пространства Rn локально компактно. Каковы бы ни были Т, F, ф, г|) в условии D), Ф отображает множество В П Т гомеоморфно на V, а отображение ф I (В П Т) = т|г' называется координатной системой класса к для подмногообразия В в точке Ь. Кроме того, отображение г|) ° ф ретра- гирует Т на ТГ\В. (Говорят, что непрерывное отображение /: С -*¦ -* D ретрагирует С на D, если D <=С и f\D = iD.) Заметим, наконец, что множество из пространства R" является 0-мерным подмногообразием тогда и только тогда, когда каждая из его точек изолирована. 3.1.20. Теорема. Предположим, что В — связное множество в пространстве R" и к&*1. Тогда В является подмногообразием клас- класса к в R" тогда и только тогда, когда существует отображение класса к, ретрагирующее некоторое открытое подмножество прост- пространства R" на В. Доказательство. Сначала предположим, что В является [л-мер- ным подмногообразием класса к, обозначим через Ф семейство всех открытых множеств Т из пространства R", для которых существу- существуют V, ф, гр со свойствами, описанными в 3.1.19D), применим кон- конструкцию 3.1.13 к Ф, перенумеруем элементы получающегося мно- множества S, записывая их в виде последовательности su s2, s3, ..., и положим Pt = В [sh 10h (st) ], Q, = U [sh 5A (*,) ] для * = 1, 2, 3, ... Начиная с Wo — ®, /0 = 0, зададим по индукции открытые множе- множества Wi с: Rn и отображения /* класса к, ретрагирующие Wt на В П Wi. Чтобы получить Wh /< из Wt-U /,_i выберем Т, V, ф, ф со свойствами, описанными в 3.1.19D) так, чтобы Pt<=T, и заметим,
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 251 ЧТО является отображением класса к, ретрагирующим Т[\^1г(Т) на В П Т Г) Wi-U для которого Р (X) = U-1 (X) ДЛЯ ЛЮ6ОГО X 6= Г П /ГЛ (Г) fl (И^- р {х) = (г|> о (р) (ж) для любого геГП /Г-\ (Л П <?i- Положим )] U p U (^ и заметим, что В {] Wi-i П Р% си Г П /ь-\ (^)i поэтому 5 0^ = 5 0(^-4 U &)¦ Делая отсюда вывод, что 0 : U П Wi = A, H j проверим, что определенное таким образом множество А открыто в R", и что функции /( сходятся на Л к отображению класса к, ретрагирующему А на В. Действительно, для каждого натураль- натурального числа с выполняется неравенство ?: Рс !)Р<?= 0} поэтому существует такое натуральное d, что Рс Л Pi = 0 при всех i > d. Следовательно, Qc П W{ = ^с П Wd при всех i > d, = и П ( 3=1 i=i и /il((?cn^) = /t!|((?(!nWd) при всех i>d. Далее, чтобы доказать обратное утверждение, предположим, что / — отображение класса к, ретрагирующее открытое множество А из пространства R" на В, положим ц = sup {dimimDf (x): геД G = {x: dim im Df (x) = \i) и заметим, что множество G открыто. В случае ц = 0 функция / постоянна на компоненте множества В в А и cardB—1. Поэтому дальше будем считать, что ц > 1. Поскольку /»/ = /, видим, что Df[f(x)]°Df(x) = Df(x), imDf(x)<=imDf[f(x)],
252 ГЛ. 3. СПРЯМЛЯЕМОСТЬ какова бы ни была точка х^А, поэтому f(G)<=BuG. Справедливо также равенство <v, Df(x)> = v, для любых х&В, v^imDf(x), поэтому B(\G = В(]{х: 1 Дц#/(а)|> 1}. Отсюда делаем вывод, что множество В П G не пусто, открыто и замкнуто в В, следова- следовательно, B^G. Из 3.1.18 вытекает, что каждая точка Ъ^В имеет такую окрестность U в Rn, что f(U) является ц-мерным подмного- подмногообразием класса к в R". Значит, множество U П f(U)=U П В явля- является одновременно и подмногообразием в R" и окрестностью точ- точки Ъ в В. 3.1.21. Для любого нормированного векторного пространства X, множества S <=Х м точки а^Х определим касательный конус к S в точке а, обозначаемый TanE, а), как множество всех таких v^X, что для любого 8 > 0 существуют такие 3;e5,0<reR) что \х — а\ < е л \r(x — a)— v\ < e. Описан- Описанные векторы v называются касательными векторами к S в точке а. Отметил! следующие свойства касательного конуса. Tan E, а) является замкнутым подмножеством пространства X. Из условий ve TanE, a), 0<seR вытекает, что sve TanE, а). О е Tan (S, а) тогда и только тогда, когда а е Clos S. Tan(S,a)(]{v: |у|-1}= П Closf^f: афх^ S RU (а, г)]. е>о U ~~ ' J Tan (S, а) = Tan (Clos S, a). Положим также Tan(S) = (SXX)n{(a, v): ysTanE, a)}. Если / отображает X в другое нормированное векторное прост- пространство Y и f дифференцируемо в точке а, то D}(a)[Tan(S, e)]c= Tan 1/E), /(о)]. Кроме того, вместо включения выполняется равенство в том случае, когда отображение f\S однолистно, a<=S, отображение (f\S)~l не- непрерывно в точке f(a) и Df(a) является линейным гомеоморфиз- гомеоморфизмом, отображающим X на замкнутое подпространство простран- пространства Y. Для доказательства примем а = 0, /(а) = 0 и обозначим ради краткости DJ(a) = L. Для каждого v e Tan {S, 0) существуют такие Xi <= S, 0 < r{ e Rt что Xi -*¦ 0, пхг -*¦ v при i -*¦ °°, поэтому стремится к 0 при i -*¦ °°, и L(v)&T&n[f(S), 0]. С другой стороны, если выполняется дополнительное условие и №eTan[/(S), 0], то
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 253 существуют xt^S, 0<r,eR, для которых f(xt)-*-O, rtf(Xi)-*-w при i -> °°, поэтому ii-^Ои L(r#,)- w= \rtf(xi) I [Ы/|/(а:«) \][L{xt)-f(xt)]/\x{\ + + Ы ixi) ~ w ~*~ О ПРИ i "*¦ °°r из чего следует, что 7vr,- сходится к некоторому v, для которого L(v) = w и уеТап(?, 0). Поскольку предыдущее утверждение относится к диффеоморфиз- диффеоморфизмам класса 1, a Tan(Z, z) = Z, коль скоро 2 — замкнутое векторное подпространство пространства X и z e Z, с помощью 3.1.19A) на- находим, что если 2? является ц-мерным подмногообразием класса к>\ в Rn и Ъ^В, то Tan (В, Ь) является ц-мерным векторным подпространством пространства R". Кроме того, Tan (В) является 2ц-мерным подмногообразием класса к — 1 в R" X R" (называемым касательным расслоением многообразия В). Аналогично с помощью 3.1.18 находим, что если /—функция класса 1, отображающая открытое множество из пространства R™ в R™, то каждая типичная относительно f точка а имеет окрест- окрестность U в Rm такую, что {/(a)>, a] = kevDf(a), В случае, когда X—пространство со скалярным произведением, Sa X и ae.Y, определим также нормальный конус к 5 в точке а, NorE, o) = Xfl{u: и- v<0 для yeTanE, a)}. Ясно, что Nor E, а) является замкнутым и выпуклым; его элемен- элементы называются нормальными векторами к S в точке я. Далее по- положим = (SXX)i\{(a, и): ueNor(S, a)}. Если В — это [1-мерное подмногообразие класса к ^ 1 в R", го Nor (В) является п-мерным подмногообразием класса к—1 в RnXR" (называемым нормальным расслоением многообразия В в R"). И касательный и нормальный конусы играют важную роль в изучении положительно достижимых множеств [F15]*). В класс таких множеств попадают все замкнутые выпуклые множества из пространства R" и все замкнутые подмногообразия класса 2 прост- пространства R" (включая многообразия с краем). 3.1.22. Предполагая, что X, Y — нормированные векторные про- пространства, ХсХиае Clos S, рассмотрим теперь понятие дифферен- дифференцирования относительно S в точке а. Сначала заметим, что если U — окрестность точки а в X, h ото- отображает X в У, и h дифференцируемо в точке а, то из условия h(S[\U)={Q} вытекает, что ?>fe(a)[Tan(S, я)] = {0). *) Так называется множество, расстояние до которого от точек некоторой его окрестности реализуется единственным образом.
254 ГЛ. 3. СПРЯМЛЯЕМОСТЬ Действительно, если S Г\и=эхг-*- а и (xi — а)/\хг — а| ->- w при i -*¦ °°, то h(Zi) — 0 для всех i, поэтому h(a) = 0 и <р, D/i (о)> = Нт <ж{ — a, Dh (а)}/\ щ — а | = 0. Это позволяет дать следующее определение. Предположим, что / отображает некоторое множество из прост- пространства X в Y. Будем говорить, что / дифференцируемо относи- относительно S в точке а и что L — дифференциал / относительно S в точке а, если существуют окрестность U точки а в X и отображе- отображение g: U -*¦ Y такие, что g дифференцируемо в точке а и U), L = Dg(a) |TanE, a). Каковы бы ни были отображение /: S -*¦ Y и точка а е Clos S та- такие, что / имеет дифференциал L относительно S в точке а, по- положим Заметим, что / дифференцируемо относительно S в точке а тогда и только тогда, когда существуют точка \\ ^ У и непрерывное ли- линейное отображение & X -*¦ Y такие, что \f{z) — i\ — t$>(x — a)\/\z — a\-+0 при S^x-+a. Действительно, если это условие выполнено, можно взять g(x) = f(x) для жеS, g(x)=r\ + t,(x -а) для ieX\5, и вывести, что Dg{a) = %, Df(a) = ?lTan(S, a). Особый интерес представляет дифференцирование относительно [i-мерного подмногообразия В класса 1 в R". Каковы бы ни были отображения /: В -*¦ Y и точка Ъ^В, следующие три условия экви- валентвы: A) L является дифференциалом f относительно В в точке Ъ. B) Для некоторой окрестности U точки Ъ в R" и некоторого отображения г класса 1, ретрагирующего U на В П U, отображение / ° г дифференцируемо в точке Ъ и C) Для некоторой координатной системы % класса 1 для В в точке Ъ отображение /"("' дифференцируемо в точке ^{Ъ) и Этот список эквивалентных условий может быть расширен при- присоединением условий B)', C)', полученных заменой в B), C) слов «некоторой», «некоторого» на «каждой», «каждого».
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 255 Ясно, что из C)' следует C), из B)'-B) и из B) —A). Для доказательства того, что из C) следует B)', выберем ф, if, как в 3.1.19D) при i( = it>~\ и заметим, что /°г совпадает с (/" ^)°(ф ° г) около точки Ь, поэтому /°г дифференцируемо в точ- точке Ъ. Кроме того, (/°г)°гр совпадает с /°\|; около () и ЩЫЪ)Ъ Вц«Тап(Д Ъ). Для доказательства того, что из A) следует C)', выберем g со- согласно определению утверждения A), а также выберем ф, т|з, как выше. Тогда /°я|) совпадает с g°a|) около ч(Ь), следовательно, fol$ дифференцируемо в точке t(b) и Теперь введем следующее обобщение понятия функции класса к Зг 1. Будем говорить, что / является функцией класса к относи- относительно S, если для каждой точки неS существуют окрестность U точки а в X и отображение g: U ->- Y класса к такие, что f\(Sr\V) \(SnU) ) g() В случае X = ~Rn из 3.1.13 следует, что отображение f будет класса к относительно S в том и только в том случае, когда суще- существуют открытое подмножество U пространства R" и отображение g: U-+Y класса к такие, что S<=U и f\S — g\S. Кроме того, если S замкнуто, можно взять U = R", в чем можно убедиться с по- помощью 3.1.14. В случае, когда В является подмногообразием класса к в R", функция /, отображающая В в Y, будет класса к относительно В тогда и только тогда, когда функция / ° f будет класса к для лю- любой координатной системы f класса к для В. 3.1.23. Теорема. Предположим, что В — это ц-мерное подмного- подмногообразие класса кЗг 1 в R", Ъ^В, 0<?<1 и , b)}. Для каждого достаточно малого положительного числа г существует такой диффеоморфизм f класса к, отображающий R" на R", что Lip (/)<*-*, Lip (/-»)< t~\ f(x) = x для любого isRn\U(b, r), V(b, tr)DB Доказательство. Примем b = 0, выберем Т и р, как в 3.1.19E), обозначим ради краткости \р\ (В Г) Г)] = 1]з, выберем функцию If: R->-{;/: 0<у<1) класса °°,
256 ГЛ. 3. СПРЯМЛЯЕМОСТЬ для которой Ч (s) = 1 при s < t, y (s)= 0 ПРИ s> i, и положим е =A — f)/[Lip(Y)+1]. Для любого достаточно малого положительного числа г имеем К"ПВ@, г)аТ и Up* - D$(z) II < 8 для z e R" П В@, г). Поскольку т|з @) = 0, отсюда следует, что Ij3*(z)-il)(z)|<e|z| для ге№ПВ@,г). При этих условиях зададим отображения и: Rn-^{y: O^y^l), u{x) = f{\x\/r) для ieR", /: R"-*Rn, f{x) = x для j;sR"\f, j{x) = x+ u(x)[(p* °p)x — (ty°p)x] для геГ, заметим, что отображение и — класса °°, и(х) = 0 и f(x) = x для a;eR"\U@, г), отображение / — класса к, р«f = р, в(ж)=-1 и *-я|ф(*)] = /(*)-/>*И*)] дш «sU@, fr)', U@, fr)n# и что, какова бы ни была точка #eRnflB@, r), справедливо Df (x) -\Rn = Du (х) (р* - ф) [р (х)] + и (х) (р* - Щ [р {х)]) о Pt |Z>/(a:) — lR«j< [Lip(Y)/r] е| я:| Таким образом, поэтому для любых ж, v s Rn выполняются неравенства \f(x + v)-f{x)-v\ Щ1-ЦЫ^{Г* = \v\-(l-t)-\v\ <\f(x + v)-f( Кроме того, отображение / открытое, собственное и замкнутое, сле- следовательно, im / = Rn. 3.1.24. Пусть X и У — банаховы пространства. Пусть аеЛсХи /: 4->У. Мы докажем, ч/го следующие четы- четыре условия эквивалентны и, если они выполняются, будем говорить, что отображение / аналитнчно в точке а.
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 257 A) Существуют окрестность U точки а в X и конечное число с такие, что U ^A, f\U — класса °° и для любой точки x&U и любого целого положительного то. B) Существуют окрестность U точки а в X и конечное число с такие, что U<=-A, f\U — класса °° и \<vm/m], Dmf(x)>\<cm как только x<=U, v^X, \v\^l и то— любое натуральное число. C) Существует такая окрестность U точки а в X, что С/<=4, отображение f\U—класса °° и sup и (*)- 2 <(x-a)™Jml, Dmf(a)} -О при п-*-оо. D) Существуют окрестность U точки а в X и непрерывные од- однородные полиномиальные функции Pm: X-*-Y степени m такие, что п ¦О при п-*-оо. sup seel/ m=o Ясно, что из A) следует B), а из C) —D). Для доказательства того, что из B) следует C), выберем число г > 0 так, что сг < 1 и U (а, г) сг V, затем выведем с помощью фор- формулы Тейлора, что для zeU(a, г) норма разности в C) не пре- превосходит (cr)n+i, и, следовательно, выполняется C) с заменой U на U(а, г). Для доказательства того, что из D) следует A), выберем число г>0 так, чтобы В (a, r)<=U и \Рт(х — а)\ < 1 для каждого же eB(s, г) и каждого натурального т, откуда будет следовать (см. 1.10.5), что rli/>Jl «si. ~' "¦*¦ Выбирая <pme©m(X, Y) так, чтобы Pm(v) = <vm/m\, <pm> для любого »еХ, получим неравенства rm\\(fj ^mm<em-m\ Далее предположим, что 0<s<r/Be), с = 2е/(г — 2es), и заметим, что для любого isU(s, s) и любого натурального i выполняются неравенства 2 | D{Pn (х - а) 1 = 2 || (х - аГ~Щт - i)U Ф« К оо оо < 2 5т-*||фт||/("г — г)!< S sm-ir-m-emm]f(m — i)!< m=i m=i оо < 2 sm-ir~mem2mil = Be/r)*.i!/[l — Bes/r)] "i Г. Федерер
258 ГЛ. 3. СПРЯМЛЯЕМОСТЬ Из этой оценки индукцией по i легко следует, что 1>О1Рт(х-а) и m=o для любого ieU(a, s) и любого натурального i, следовательно, выполняется A) с заменой U на U(a, s). Под аналитической функцией мы понимаем функцию, аналити- аналитическую в каждой точке ее области определения. Композиция двух аналитических функций аналитична. Действи- Действительно, если / аналитична в точке a, g аналитична в точке /(а), причем \\Dmf(a)\\<cm-m\ и Wmg\f(a)]W<im m\ для всех натуральных ш, то формула для Dp(g«f), выведенная в 3.1.11, показывает, что < 2 TSaBa)! aeS(p) = сРу (у + 1)р-! р\ < [с (y + 1)]р р\. Приведенное выше значение для суммы по S(p) может быть полу- получено с помощью рассмотрения частного случая, когда f(x)*=cx/(l-cx) для я е-R, \х\<1/с, ЧУ) Для i/eR, \y\<i/r, при этом (g°f) (х) — с(х/[1 — с (i + 1)х] для достаточно малых х в R, дифференциалы функций /, g, g ° / в точке 0 могут быть вычис- вычислены с помощью рядов по степеням х и ^Dp(g«f) @I1 равняется рассматриваемой сумме по S(p). Если f — отображение класса 1 с аналитическим обратным g, то f аналитично. С помощью 3.1.11 находим, что / — класса °° и что для аеdmn/ир>2 Dvf(a) = - 2 Dlf(a)oD^g \f (a)} ° «ет(р) . [D1/^) о ... © где Т(р) состоит из всех последовательностей а: A, ..., р — 1) -*¦ {0, ..., р — 1}, для которых р-1 р-1 2 1Щ = Р и 2 ai Для любых конечных положительных чисел Р и ч определим по индукции числа kif Я2, Я3, ... по формулам Xt (I ХР= 2 ^iTSaBa)!/a!lIWiai Для г()
§ 3.1. ДИФФЕРЕНЦИАЛЫ И КАСАТЕЛЬНЫЕ 259 и заметим, что из условий ]\\<4m-m\ для т = 2, 3, 4, ... следует, что Wf(a)\KXP-p\ для р = 1, 2, 3, ... Кроме того, существует такое конечное число с, что Я,Р < с" для /г = 1, 2, 3, ... Для доказательства этого утверждения рассмотрим частный случай, когда оо g (у) = Рту — 2 утут = Ртг/ — yV (* — w) m=2 для — К f*/ < 1 — (Р + 1)~'/2, обратим ?, решая квадратное уравне- уравнение, и получим для х< р + 2 — 2(р + 1I/2. Заметим, что эта конкретная функция / аналитична в точке 0, причем Wpf @I1 =ХР • pi для всех нату- натуральных р. Если f — аналитическая функция, область определения кото- которой — открытое связное множество А из пространства R", то или /-Ч0) = А или 2* [/"'{О}] = 0. Действительно, множество W = {x: ?>'/(*) = 0 для s = 0, 1, 2, 3, ...} открыто и замкнуто в А, поэтому или W — A или W—0. Кроме того, из 2.9.11 следует, что й^-почти все точки множества /~Ч0} содержатся в Z = Af\{x: Rn\/-'{0} имеет ^"-плотность 0 в точке х) и аппроксимативное дифференцирование показывает, что Z^W, поэтому Более точные результаты о множествах нулей аналитических функций будут получены в § 3.4. Ясно, что в 3.1.18 и 3.1.19 отображения класса к можно заме- заменить на аналитические отображения. Это приводит к понятию аналитического подмногообразия пространства Rn. Хотя аналитиче- аналитический аналог п. 3.1.20 остается верным, доказательство для аналити- аналитического случая должно быть другим, потому что не существует ни- никаких аналитических разбиений единицы. Можно использовать ана- аналитическую ретракцию, которая отображает каждую точку в под- подходящей окрестности аналитического подмногообразия В на един- единственную ближайшую точку в В (см. [F 15, § 4]). 17*
260 ГЛ. 3. СПРЯМЛЯЕМОСТЬ Заключительные замечания пп. 1.10.4 и 1.10.5 показывают, что в случае X = R" из условия A), определяющего аналитичность, вытекает, что 2 <(s-a)«Vm!, Z)m/(a)>= 2 2 f Д (хг-а^/щ\\ Daf(a) tn=O m=0 кеЕ(п,т) Li=l J для любого x e R" такого, что и что сумма норм всех членов в повторных суммах не превосходит во / п \т / 2 стт\ I '2 I %i — «i 1 I m\<Z oo. Таким образом, не зависящие от выбора системы координат ряды, выражающие, согласно утверждению C), функцию / через ее диф- дифференциалы, могут быть записаны в координатной форме с коэф- коэффициентами, равными частным производным. Однако область схо- сходимости этих последних рядов часто меньше, чем область сходимо- сходимости исходных (см. [ВОС], [КО]). § 3.2. Площадь и коплощадь липшицевских отображений 3.2.1. Предполагая, что / отображает некоторое подмноже- подмножество пространства Rm в R" с помощью 1.7.6 для каждого неотри- неотрицательного целого к, введем fc-мерный якобиан для любой функции /, дифференцируемой в точке а. Аналогично определим ар/ft/(а) = || Дйар/)/(а)Ц для любой функции /, аппроксимативно дифференцируемой в точке а. Выбирая к = inf {m, п), будем рассматривать геометрический смысл интеграла от якобиана для любого липшицевского отображения /: Rm -»¦ Rn и любого S"* измеримого множества А. В 3.2.3 мы докажем, что в случае & = — т^п интеграл от якобиана равняется яг-мерной хаусдорфовой площади отображения f\A, определяемой как R"
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 261 где N — функция кратности, введенная в 2.10.9. Далее в 3.2.11 мы покажем, что в случае т>п = к интеграл от якобиана равняется коплощади отображения f\A, определяемой как R" Формулы площади и коплощади приводят к теоремам 3.2.5 и 3.2.12 о преобразованиях интегралов. Во всех этих утверждениях условие Липшица на функцию / может быть заменено ввиду 3.1.8 более слабым условием ар lim sup | / (х) — f (а) |/| х — а | < оо для а е А, если в формулировках заменить Jh на ар/,,/. Кроме того, из 3.2.26, 3.2.15 вытекает, что меры 3$™ и Жт~п можно заменить на любые тп- и (тп — га)-мерные меры, построенные в 2.10.2—2.10.5. Дальней- Дальнейшие обобщения будут получены в 3.2.20, 3.2.22, 3.2.32, 3.2.46. 3.2.2. Лемма. Если отображение /: Rm -»¦ R" непрерывно и К > 1, то множество {х: дифференциал Df(x) однолистен} имеет счетное покрытие G, состоящее из таких борелевских мно- множеств Е, что отображение f\E однолистно и существует линейный автоморфизм s пространства Rm, для которого Lip [(J\E) "s-1]^, Lip[so(/|?)-']^A, X-m!det(s)|</m/(;r)<VB|det(s)| для хеЕ. Доказательство. Выберем число в > 0 так, чтобы Я + е < К <Я —е, и обозначим через S какое-нибудь счетное всюду плотное подмножество группы GL (тп, R). С каждым s s S и с каждым на- натуральным i свяжем борелевское множество Z(s, i) в Rm, состоящее из всех таких точек а, что \f(b)-f(a)-Df(a)(b-a)\<e\s(b-a)\ для &е=В(а, Г1)'. Первое из этих двух условий дает неравенства Если E<=Z(s,i) и diamJB^i, то 1/F)- /(a) I < \Df(a) (Ъ - a) I + e|sF - a) \<l\s(b)-s(a)\, \f(b)~-f(a)\>\Df(a)(b-a)\-e\s(b-a)\>%-i\s(b)-s(a)\ Для любых а, Ь^Е. Поэтому Z(s, i) имеет счетное покрытие, со- состоящее из борелевских множеств с указанными свойствами.
2б2 ГЛ. 3. СПРЯМЛЯЕМОСТЬ Чтобы закончить доказательство, покажем, что каждая точка о, для которой дифференциал Df(a) однолистен, принадлежит како- какому-то множеству Z(s, i). Применяя 1.7.3, разложим Df(a) = h°g, где ge=GL(m, R), fteO(m, га), и получим, что \Df(a)(v)\ — \g(v)\ для yeRm. Затем выберем пре- преобразование se? так, чтобы и !lg°s-M!<X-e, откуда следует выполнение неравенств \8^)\<Ск-г + е)-1\в^)\ и l*(»)l*J(A,-e)l*(i;)l для yeRm. Наконец, поскольку \Ь — а\ < Us!! ls(fe — о) I, получим подходящее i по определению дифференциала Df(a). 3.2.3. Теорема. Предположим, что отображение /: Rm -+• Rn лип- шщевское и пг^п. A) Если А — это 2>т-измеримое множество, то f Jmf (x) dSmx = J TV (/ \A, у) йЖпу. A Rn B) Если и — это 2>т-интегрируемая функция, то x= J 2 u{x)d26my. R-nxef-Цу} Доказательство. Поскольку B) сводится к A) в частном случае, когда и — характеристическая функция множества А, утверждение B) легко выводится из A) с помощью аппроксимации B.3.3, 2.4.8, 2.4.4F)). Обращаясь к доказательству утверждения A), находим с по- помощью 2.10.11 и 2.10.35, что оба интеграла равны 0 в случае 2"п(А) = 0. Принимая во внимание 3.1.6, далее можно предполагать, что отображение / дифференцируемо в каждой точке множества А и что А — борелевское множество, для которого 3"п(А)<о°. Сначала рассмотрим случай, когда А с: {х: дифференциал Df(x) однолистен}. Для любого % > 1 выберем покрытие G согласно 3.2.2 и построим борелевское разбиение Н множества А такое, что каждый элемент разбиения Я содержится в некотором элементе покрытия G. Если В^Н, BciEsG и преобразование s выбрано так же, как в 3.2.2, то %~т | det (*) | Зт {В) < j JmfdSm < Km I det (s) | gm E), в тогда как из равенства f(B)=[(f\B)°s~l]s(B) следует, что •К~тЖт [s (В)]
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 263 поскольку 2%m[s(B)] = gm[s(B)]=\det(s)\2"n(B) согласно 2.10.35, 2.7.16A), отсюда следует, что %-zm3%m [f(В)] < f /m/d5""< %2пЭёт [f (В)], в Суммируя по Я, получим неравенства Я f N (/1 А, у) д,Жту < J /m/ dSm < Я2 J N (/ \А, у) йЖту. Отсюда, устремляя Я, к 1, получаем утверждаемое равенство. Теперь рассмотрим случай, когда 4сЬ; dimkerD/(;r)>O} = b:: /»/(*) = 0>. Для любого е>0 представим / в виде f = p°g, где g: Rm-vRnXR", ?(*)-(/(*), в*) р: R"XRm-vR", p(y, z) = y для и заметим, что для любой точки же А выполняются утверждения: <v, Dg(x)>=(<v, Df(x)>, ev) для »eR» дифференциал .Dg(ж) однолистен, HZ)g(a;)ll ^ Lip(/) + e, потому что 1<у, Z?g(a:)>l =е|у! для уеkerZ?/(ж). Применим пер- первый случай к g и яолучим неравенства Устремляя е к 0, придем к выводу, что 2%т\}(А)] = 0. Таким об- образом, во втором случае в утверждаемом равенстве оба интеграла равны 0. 3.2.4. Следствие. Для каждого ^"-измеримого множества А су- существует такое борелевское множество Вс=АП{х: Jmf(x)>0), что отображение f\B однолистно и 2em\f(A)\f(B)] = 0. Доказательство. В случае 3?т (А) = 0 возьмем В = &. В случае, когда множество А борелевское, применяя 3.2.2, полу- получим такие борелевские множества Е(, что отображения f\E{ одно- однолистны при i = 1, 2, 3, ..., а P = Af}{x: Jmf(x)>0}<= U Et. ii
264 ГЛ. 3. СПРЯМЛЯЕМОСТЬ Затем построим борелевские множества Ft = Р Г) ЯЛ'О1 Г1 [/ (Р П Ej)] ДЛЯ * = 1, 2,, 3,; ... ,; 3=1 придем к выводу, что отображение f\B однолистно, f(B)=f(P) и 3.2.5. Теорема. Пусть отображение /: Rm -*- R" липшицевское и . Тогда С от Г если только множество А является 2?т-измеримым, g: Rn -> R u либо A) функция g является З^-измеримой, либо B) #(/1.4, у)< °° 5ля Жт-почти всех у, либо C) функция a-(g°f)-Jmf является ^""-измеримой, где а —ха- —характеристическая функция множества А. Доказательство. Принимая во внимание 3.2.3, можно предполо- предположить, что g(y)-0 для yeR»\f(A) и что А является объединением счетного семейства компактных множеств, следовательно, множество f(A) борелевское. Сначала рассмотрим случай, когда g — характеристическая функ- функция ^""-измеримого подмножества Т множества f(A). Если Т — бо- борелевское множество, то можно применить 3.2.3 с заменой А на А П /-1 (Г) и получить равенства АС\ГЧТ) j n [f \а п г1 СП, у] йжту =§g(y)N (/;i а, у) ammy. В частности, если Т — борелевское множество, для которого Жп(Т) = 0, в доказываемом равенстве оба интеграла равны 0. Из борелевской регулярности меры двт и ее монотонности следует, что оба интеграла равны 0, если Т — такое подмножество множества /(•4), что ^^(Т) — ^. Кроме того, поскольку множество /(.4) счетно «9#т-измеримо, каждое ^"-измеримое подмножество множества f(A) является объединением борелевского множества и множества нуле- нулевой 5^т-меры.
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 265 Теперь с помощью обычной атшроксимационной процедуры B.3.3, 2.4.8, 2.4.4F)) легко проверить, что условие A) доста- достаточно для справедливости утверждаемого равенства. Далее заметим, что из условия B) в сочетании с «^"-измери- иостью подынтегральной функции правой части равенства вытекает условие A). В самом деле, как только N(f\A, y)<°°, где hi — характеристическая функция множества {у: N(f\A, y) = ii. Наконец докажем, что из условия C) вытекает A). Выбирая множество В с характеристической функцией р так же, как в 3.2.4, выводим из C), что функция [}•(?-/) является 2"п-измер_имой. Поэтому если V — любое открытое подмножество множества R\{0), то W = BU(g<>f)-1V является ^""-измеримым, 1(W)<= r4V)<=f(W)U[f(A)\f(B)] и из 3.2.4 следует, что f(W) и g~i(V) будут <Эёга-измеримы. 3.2.6. Теорема. Если функция /: R -*¦ R" абсолютно непрерывна на всяком отрезке, то A Rn для любой функции g: Rn -*¦ R и любого ограниченного 2?*-измери- мого множества А. Кроме того, в случае п = 1 равенство ъ № /(а) выполняется, если только функция g(y) ¦ N(f\{x: а^ж<Ь), у) яв- является 3?*-суммируемой по у и —оо < а < Ъ < +<». Доказательство. Первое равенство следует из 3.2.5B) и 3.1.8 в случае А с= dmn/', и из 2.10.13 в случае S>i(A) = 0. Чтобы доказать второе равенство, предположим, что и рассмотрим три множества А1 = {х: а<х<Ь, f'(x)>0), Аг = {х: а<х<Ь, f' Применяя первое равенство к функции g: R -*• Ш, убеждаемся, что ^'-шочти все вещественные числа у удовлетворяют условиям N(f\At U А2, у) < оо и N(f\A,,y) = O.
266 ГЛ. 3. СПРЯМЛЯЕМОСТЬ Заметим далее, что при этих условиях разность U y)-N(f\A2, у) равняется 1, если f(a)<y<f(b), а иначе равна 0. Наконец, при- применяя первое равенство к функции g, для которой функция g(y)-N(f\AlUA2, у) является ^"-интегрируемой по у, получим 3.2.7. Теорема 3.2.5 станет неверной, если отбросить альтерна- альтернативные условия A), B), C). В самом деле, пусть т — п — 1, j = sin, A = R, с — характеристическая функция какого-нибудь 2"- неизмеримого подмножества отрезка {у: — 1 ^ у < 1) и g — 1 + с. В этом случае правый интеграл равен °°, а подынтегральная функ- функция левого интеграла не является ^'-измеримой. Заметим также, что g ° f может быть ^""-неизмеримой, даже если ^""-измерима функция (ge /) Jmf. Рассмотрим, например, случай т = п = 2, А = R2, f(x) = (xlt 0) и g(x)- где h — характеристическая функция какого-нибудь ^'-неизмери- ^'-неизмеримого множества. Здесь оба интеграла равны нулю. Второе равенство в 3.2.6 выполняется не для любой ^'-сумми- ^'-суммируемой функции g, как показывает пример, когда а = 0, 6 = 1 и /(a:)=|a;|s/2-sin(a:-t) для g(y)=lУ\~т ДЛяО<1у|<1, g(y) = O для \у\>1. Наконец заметим, что заключение утверждения 3.2.3B) стано- становится неверным, когда тга = га = 1, /(ж)=Ы и и(х)=:х для ieR. 3.2.8. Лемма. Если и: Rm -*- Rm, v. Rm -*• Rm — липшщевские ото- отображения и С — {х: v[u(x)] = x), то Dv[и(я)] °Du{x) = lRm Оля &т-почти всех ieC, Доказательство, Если S = С П dmnDu П vrl (dmnDv), то C\S <= (Rm\dmn Du) U v (Rm\dmn Dv), а значит, 2""(C\iS) = 0 в силу 3.1.6, 2.10.35 и 2.10.11. Кроме того, Dv[u(x)]°Du(x) = D(v°u)(x) для жеS.
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 267 С другой стороны, v°u имеет аппроксимативный дифференциал iRm везде, где Rm\C имеет ^""-плотность 0, а это, согласно 2.9.11, выполняется 2>т-почти всюду на С. 3.2.9. Лемма. Если отображение /: Rm -»¦ Rn непрерывно, то мно- множество {х: i имеет счетное покрытие G, состоящее из таких борелевских мно- множеств Е, для которых найдутся проекция реО*(т, тп — п) и лип- шицевские отображения и: Rm-*-RnXRm-n и v: R"XRm-n->Rm такие, что u(x) = (f(x),p(x)) и v[u(x)] = x для х&Е. Доказательство. Применив 1.7.4, свяжем с каждым Х<= еЛ(т, тп — п) отображение положим Ах = {х: дифференциал Dux(x) однолистен) и заметим, что ker Duk (х) = ker Df (х) П ker pA, если отображение / дифференцируемо в точке х. Из 1.7.4 вытека- вытекает, что {х: im Df (x) = R71} = {х: dim ker Df (x) = m — п} = (J Ak. Яел(,ш—п) Для каждого Я применим 3.2.2 с заменой / на щ. для того, чтобы покрыть А), счетным семейством Gj, таких борелевских множеств Е, что отображение и>\Е однолистно, a (wji?)" липшицевское. Соглас- Согласно 2.10.43 отсюда следует, что существует липшицевское отобра- отображение v: Rn X Rm-n -> R™ для которого v\в*(Е) = (щ\Е)-1. 3.2.10. Лемма. Если отображение /: Rm -*¦ Rn липшицевское. /re > га и Е, р, и, v те же, что и в п. 3.2.9, то В Rn для любого ^-измеримого подмножества В множества Е и Е П f-Чу} = v[{у} Хр(Е(\ f~l{y})] для у еR». Доказательство. Заметим, что отображение v\u(E) однолистно и для yeR«.
268 гл- 3- спрямляемость Задавая отображение vv: Rm-n->-Rm формулой vv(z)=*v(y, z) для zeR-" видим, что vv отображает множество piEuf-^yi) одно- однолистно на Е П f-Чу). Из л. 3.2.8 нам известно, что для 2""-почти всех х е Е выполня- выполняется равенство Du(x)-l-~Dv[u(x)]. Применим коммутативную диаграмму Rm'n « (o}x д Lx im-L где q{y, z) = y для (у, «JeR-XR—>, La=*Dv,w\p{x)] и ТУ-орто- ТУ-ортогональное дополнение к im Lx = Du(х)-1 ({0} X R—) - ker Df(x), и получим, что Применяя 3.2.5, 2.6.2, 3.2.3, находим, что J /„/ (ж) dS'^a; = j Jm-nvf(x) [p {x)] Jmu {x) dZnx в J J ( J Jm-nVy (z) d {Sn X 2""-n) (y, z) (B) J u(B) Rn 3.2.11. Теорема. Если отображение /: Rm-»-Rn липшицевское и пг>га, то Rn любого ^-измеримого множества А. Доказательство. Из 2.10.25, 2.10.35 известно, что оба интеграла равны 0 в случае 5""(Л) = 0. Согласно теореме 3.1.6 можно пред- предполагать далее, что / дифференцируемо в каждой точке множе- множества А и что А — борелевское множество конечной 5""-меры. Сначала рассмотрим случай, когда А <= {х; ii
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 269 Выбирая покрытие G согласно 3.2.9, достроим такое борелевское разбиение Н множества А, что каждый элемент из Н содержится в некотором элементе из G, применим 3.2.10 к каждому В^Н и просуммируем по Н. Далее рассмотрим случай, когда A cr {х: dim ker Дl Df (х) > 0} = {х: Jnf (x) =¦ 0}. Для любого числа е > 0 зададим отображения g: RmXRn-»-Rn и р: RmXRn->-Rn, g(x, z) = f(x)+ez и р(х, z) = z для (х, z)eRmXRn, и заметим, что для любой точки (х, z)s^XR" выполняются ут- утверждения <(и, w), Dg(x, z)> = <u, Df(x)> + ew для (v, »)sR im Dg (x, z) = Rn, || Dg (x, z) || < Lip (/) + e, Jng(x, z) = \\!\*Dg(x, z)Кe[Lip (/) + е]«-1. потому что I a ° Dg (x, z) \ = e I al для [a e ker Дx Df (x). Применяя первый случай с заменой /, А на g, @ = .4X8@, l)<=RmXR" и ис- используя 2.10.25, 2.10.26, 3.1.3C), 2.6.2, получим Jngd(gm X 2п) = J Жт (Q П гх {У}) Rn с J2>em-n{Q(\g-1{y}()p-1{w})d2nw'dgny Rn Rn Rn B(o, Rn R" где c = a(m)a(/re —ra)~'a(ra)~'. Устремляя е к 0, приходим к выво- выводу, что интеграл справа в утверждаемом равенстве равен в рассмат- рассматриваемом случае нулю, так же как и интеграл слева. 3.2.12. Теорема. Если отображение /: Rm -»¦ Rn липшицевское и тп>п, то lg{x)Jnf{x)dSmx= I I g{x)dmm-nxdSny Rm Rn f~4y} для каждой 3?т-интегрируемой функции g: Rm -*¦ R.
270 ГЛ. 3. СПРЯМЛЯЕМОСТЬ Доказательство. С помощью обычных аппроксимационных про- процедур B.3.3, 2.4.8, 2.4.4F)) вопрос легко сводится к частному слу- случаю, когда g — характеристическая функция некоторого 5""-изме- римого множества А, но тогда утверждаемое равенство очевидным образом эквивалентно равенству, доказанному в 3.2.11. 3.2.13. Применяя теорему 3.2.12 к частному случаю, когда /: Rm-vR, f(x)=\x\ для l для получим формулу оо J g dsn = ] \ О {ж: \х\=г) где поскольку при отображении, переводящем и в га, E^т~5-мера умно- умножается на г7". В частности, выбирая в качестве g характеристиче- характеристическую функцию шара В@, 1), находим, что 1 о Далее выведем некоторые свойства Г-функции Эйлера, которую можно задать формулой Г (s) = j exp (— х) х*~Ч9?1х для 0 < s < оо. Интегрирование по частям показывает, что r(s + l) = sr(s). Пре- Преобразуя интеграл с помощью функции, отображающей yeR на уг, получим Г(.)- j ezp (— у") | у Р— — СО Для любой точки 2e=Rm, у которой Zj>0 для J — 1, ..., wi, из тео- теоремы Фубини и результата предыдущего абзаца получаем, что j exp (- г2) r^-^B (z)
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 271 где В — функция, определенная формулой 25 (г) = j Д Ы2^^7"". sm-l J=l Таким образом, т 1 т \ В частности, получаем ж-Чв-1) - 2* (-§-. ...,¦?)- 2Г(тOг(т J |и1|* sm-l для *>—1. Чтобы вычислить $i(m, 1) в случае Kt<oo (см. 2.7.16F)), используем тот факт, что сфера S является однород- однородным пространством для группы О(т). Выбирая точку csS™"', положим A°(g) = g(c) Для ge= O(m), и выведем из 2.7.11B), что мера Жт~1 на S пропорциональна мере А% (Оот), потому что обе эти меры радоновы и инвариантны относительно действия группы 0(т). Задавая q^0*(m, 1) фор- формулой q(u) = ul для вей", приходим к выводу, что j O(m) и поэтому Далее из 2.7.16F) выводим, что p,(n, m)/pf(n-l, m)=»p,(n, l)/pf(»-m, 1)', для любых n>m>i. Поскольку $t{m, m)=l, легко проверить
272 гл. з. спрямляемость индукцией по га, что п pi(n,m)'= Ц Г[,._ для всех целых п ^ т > 1. В частности, Pi («i "*) = 3.2.14. Если Е — множество из метрического пространства X, а /га — натуральное число, будем пользоваться следующей терми- терминологией: A) Е называется яг-спрямляемым, если существует лишшщев- ская функция, отображающая некоторое ограниченное подмноже- подмножество пространства Rm на Е. B) Е называется счетно m-спрямляемым, если Е — объеди- объединение некоторого счетного семейства, элементы которого /га-спрям- ляемы. C) Е называется счетно (ф, т)-спрямляемым, если ф — мера на X и существует счетно те-спрямляемое множество, содержащее ф-почти все точки множества Е. D) Е называется (ф, /те)-спрямляемым, если ? —счетно (ф, т)- спрямляемо и ф(^)< «>. Заметим, что если S и Т — это m-спрямляемые множества, то таковы же Clos S ш SU Т. В случае, когда все замкнутые множе- множества из пространства X будут ф-измеримы я ф(?)< °°, множество Е будет (ф, тп) -спрямляемым тогда и только тогда, когда для каж- каждого е > 0 существует rre-спрямляемое множество F, для которого y(E\F)<e. Эти понятия особенно полезны при X = Rn и ф = Жп. В 3.2.19 будет показано, что касательные свойства (Жт, т) -спрямляемых множеств обобщают свойства rre-мерных подмногообразий класса 1 (см. также 3.2.29). В 3.2.20, 3.20.22, 3.20.31, 3.20.32 будут получе- получены формулы преобразований интегралов по множествам, спрямля- спрямляемым относительно хаусдорфовой меры. Будем говорить, что множество Е вполне (ф, т) -неспрямляе- мо, если ф — мера на X и Е не содержит никаких тге-спрямляемых подмножеств F, у которых ф(^)>0. Если все замкнутые множества из пространства X являются ф-измеримыми и ц>(А)<°°, то существует счетно гге-спрямляемое борелевское множество В такое, что А\В вполне (ф, /ге)-неспрям- ляемо. Действительно, такое множество В может быть построено максимизацией меры ф L А на классе всех счетно т-спрямляемых борелевских подмножеств пространства X. Касательные и проекционные свойства вполне (ф, т)-неспрям- ляемых множеств в R" будут рассмотрены в 3.3.
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 273 Полезное расширение этих понятий на случай т = О получает- получается, если вместо определения A) принять, что «О-спрямляемое мно- множество» означает «конечное множество». 3.2.15. Теорема. Если отображение /: Rm -*¦ Rn липшицевское и тп>п, то множество f~4y} счетно (Жт~п, /га —га)-спрямляемо для 2?п-почти всех у. Доказательство. Полагая Р = {х • im Df(x) Ф Rn} = (x : 7nf(x) > > 0>, находим с помощью 3.2.9, 3.2.10, что Р Л /~Чу} счетно (тп — п)- спрямляемо для всех у <= R", и, с помощью 3.2.11, что ^m-n[(Rm\P)(\f-4y}] = 0 для 5"Чючти всех у. 3.2.16. Предполагая, что ф — мера на нормированном векторном пространстве X, а тп — целое положительное число п а&Х, зада- зададим конус Tanm (ф, а) = П {Tan (S, а): S <= X, Gm (ф L X\S, а) = 0>, элементы которого называются (ф, пъ) -аппроксимативными каса- касательными векторами в точке а. Полагая Е(а, v, е) — ХП{х: \r(x — a)— v\<e для некоторого г>0> для любых v ^ X ш е > 0, легко проверить, что v s Тапт(ф, а) тогда и только тогда, когда 0*т[ф LE(o, v, e), я]>0 для любого е>0. Если С — какое-нибудь компактное подмножество множества Х\Тапт(ф, а) и Т = (а + rv: г > 0, v e= С), то 0т(фЬ Т, а) = 0. В самом деле, множество {a+v: v^C} может быть покрыто конечным семейством множеств Е(а, v, e), для кото- которых 0т[ф L E(a, v, е), а] = 0, и это семейство покрывает также и Т. В случае, когда X — пространство со скалярным произведением, определим еще конус Norm(9, а) = ХП {и: wv ^0 для v е=Тапт(ф, я)}, элементы которого называются (ф, тп) -аппроксимативными нормаль- нормальными векторами в точке а. Теперь предположим, что / отображает некоторое подмножество пространства X в другое нормированное векторное пространство У. Будем говорить, что / является (ф, тп) -аппроксимативно дифферен- дифференцируемым в точке а, если существуют окрестность U точки а в X и отображение g: U -*- У такие, что g дифференцируемо в точке а и 6т[ф L {x: f(x)?>g(x)}, a] = 0. Отсюда следует, что / дифференцируемо относительно множества ix: f(x) = g(x)} в точке а и что отображением / определяется сужение дифференциала Dg(a) на множество Тап[{ж: f(x) = g(x)}, а]=>Тапт(ф, а), 18 г. Федерер
274 гл. з. спрямляемость поэтому назовем Dg (a) lTanm (q>, а) (ф, т)-аппроксимативным дифференциалом отображения / в точ- точке а, обозначаемым (ф, /те)арDf(а), или, короче, &TpDf(a), если ф и т ясны из контекста. Заметим, что / будет (ф, тп)-аппроксимативно дифференцируе- дифференцируемым в точке а тогда и только тогда, когда существуют точка r\ e Y и непрерывное линейное отображение %: X -*¦ Y такие, что 0m[?LI\(i: \f{x)-r\-%(.x-a)\ <г\х-а\), а] = О для любого е > 0. Действительно, если это условие выполняется и Si = {x: \f{x)-r\-l{x-a)\ *й\х-а\/п для i = 1, 2, 3, то можно выбрать 6* > 0 так, что Ф [В (а, г) \S{] <: rm • 2"', как только 0 < г ^ б(, и так, что 6i+i < б4. Полагая Т= U [54 П В (а, 6()\В (ee 6i+1)], легко проверить, что вт(ф1— Х\Т, а) = 0 и что / дифференцируе- дифференцируемо относительно Т в точке а. Таким образом, если X = Rm, то (9?т, тп) -аппроксимативная диф- ференцируемость совпадает с понятием, введенным в 3.1.2. Одна- Однако в следующих теоремах будет рассматриваться случай, когда X = Rn, n>m, и y = 3eml-W для некоторого (<5^", тп) -спрямля- -спрямляемого множества W из пространства R". 3.2.17. Лемма. Если ф: Rm -* Rn, a s К с R, R»\JC идаеет- Sm- плотностъ 0 в точке а, ф гшеет однолистный дифференциал в точ- точке а, отображение ty\K однолистно, 1<Я<<» и Я. — константа Липшица для $\К и {^]К)~1, то Tanm[<3^m L г|; (X), ф (а) ] - Tan [ф (JC), ф (а) ] = im Щ (а). Кроме того, если F: R" -*¦ Rv и F«if дифференцируемо в точке а, то F дифференцируемо относительно ф(-К) в точке if(a) и Доказательство. Примем а — 0, ^fi(a) = 0 и ради краткости обо- обозначим Dty(a) = L. Сначала заметим, что К П В @, б/Я) с ijr'to (Я) П В @, б) ],
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 275 и поэтому , 6I * (т) F/А,O" ^ а(гоNт -"" а(т)-FА,)т * каково бы ни было 0 < б < °°, и получим первое заключение, по- потому что К имеет 2""-плотность 1 в точке а. Далее с помощью 3.2.16 и 3.1.21 находим, что Tanm [Жт L of {К), 0] <= Tan [я|з (К), 0] <= im L. Для доказательства противоположного включения предположим, что v e Rm и е > 0. Выбирая числа т] > 0 и ? > 0 так, чтобы заметим, что условие \$(x)-L{x)\ <%-\х\ для ieR-nB@, 6/X) выполняется, если б — достаточно малое положительное число. От- Отсюда следует, что г|>[Е(О, v, т])ПВ(О, вД)]сЕ[0, L(v), e], потому что если х е Rm, г > 0, \х\ < б/Х и |га; — у| < т], то ^ \tx\% + \\L\\- \rx-v\ <{\v а поэтому (i7), е]ПВ(О, б)]/[а(/ге)бт] *[ХОЕ@, у, Т])ПВ(О, Правая часть этого неравенства стремится к Я-*»2?»{Е@, у, т])ПВ(О, 1)]/а(т) при б, стремящемся к 0, и мы приходим к выводу, что е*[ЯГ L гИ?)ЛЕ[О, L(i7), e], 0]>0, откуда L(y)s Tanm [<5^m L i|>(?), 0]. Кроме того, для доказательства дифференцируемое™ отображе- отображения F относительно ty(K) в точке ф@) = 0 допустим, что F@) = 0, вспомним 3.1.21 и 3.1.22, выберем линейную функцию Е: Rn ¦* Rv, для которой 5 ° L = Д (F • ф) @), и заметим, что выражение F о \|?] (х) - <х, D (F { 1*1 18*
276 ГЛ. 3. СПРЯМЛЯЕМОСТЬ стремится к 0 при х, стремящемся к 0, и поэтому [F{y)-l(y)]/\y\ -*0при ${К)ау + О. 3.2.18. Лемма. Если W — это (Жт, т)-спрямляемое и ^'-изме- ^'-измеримое подмножество пространства R" и если 1 < % < °°, то суще- существуют компактные подмножества Ки Кг, К,, ... пространства Rm и липшицевские отображения tyu 'фг, tps', ... из Rm e R" такие, что ^i(Ki), ^(А^г), tyi(K3), ... будут непересекающимися подмноже- подмножествами множества W, для которых О, i=i J и для каждого натурального i будут выполняться утверждения I, отображение tyi\Kt однолистно, для а^К{, deR". Доказательство. Достаточно объединить 3.2.14, 3.2.4, 3.2.2, 2.10.43 и 2.2.3. 3.2.19. Теорема. Если W — это (Ж™, тп) -спрямляемое и Зв^-из- меримое множество из пространства R", то для Ж"-почти всех то- точек w <^W имеем W, w)=l и Tanm C@m L W, w) является пг-мерным векторным подпростран- подпространством пространства Rn. Кроме того, если отображение /: W -*• R" липшщевское, то f имеет {Жт L W, т) -аппроксимативный дифференциал ар Df(w): Tanm(^m i-W,w)^ Rv в Жт-почти всех точках аге^, Доказательство. Предполагая, что 1<^<», выберем Ki, -ф4 так же, как в 3.2.18. Кроме того, пусть F: R" -*¦ Rv — липшицевское расширение отображения /. Из 2.10.19E), D) нам известно, что в*» {Жт L- W, w) < 1, ^[З/Р* L W\ty(Ki), w] = 0 для ^""-почти всех точек w e ^'(JCJ. Далее, из 2.9.11, 3.1.6, 2.10.11 следует, что для ^^"-почти всех точек w ^ i|ji (K{) условие лем- леммы 3.2.17 выполняется для а=(${\К{)~*и>. Отсюда делаем вывод, что х~2т < в™ {жт l wx w) ТаптEГЧ-^, w)= im и отображение / имеет C@m L W7, rre)-аппроксимативный дифферен- дифференциал ар
§ 3.2. ПЛОЩАДЬ И КОШТОЩАДЬ ОТОБРАЖЕНИЙ 277 для которого для .З^-почти всех точек w e ty ) Используя проведенное рассуждение для каждого натурально-» го к и X = 1 + 1/к, получим доказательство теоремы. 3.2.20. Следствие. Если m<v и для любого {Жт L W, т)-ап- проксимативно дифференцируемого в точке w отображения f его C@ml-W, m)-аппроксимативный m-мерный якобиан задается фор- формулой ар Jmf И = 1 Л m ар Df {w) |, то U \{z) -N (/, z) m W RV для любой функции g: Rv -*• R. Доказательство. Заметим, что для любого натурального i ЭР Jmf [^ {*) ] • Jmtyi (X) = Jm{F° 1|>,) (X) для 57т-почти всех точек а; е Х4. Ввиду того, что по теореме 3.2.3 для .З^-почти всех z e Rv, из 3.2.5B) выводим равенства \g{z)-N[f\^i(Ki), z]u2enz=> f {g о F . ф() /m (F о ,j, Г ° F = ifc) [(ap /„/) ° -ф*] • /OT%d2"^ = J (?T»F) (ap /, а затем суммируем их по г. 3.2.21. Лемма. Если отображение v: Rm -*¦ Rv липшицевское, ц — натуральное число и Т — вполне (Э&1, \1)-песпрямляемое борелев- ское множество из пространства Rv, то dim im Dv(x)< ц для 2""-почти всех х е= у-1 (Г). Доказательство. В частном случае, когда \i = m, получим ут- утверждение леммы, применив теорему 3.2.3 при f — v и А = v~l(T). Допустим теперь, что ц, < пг, и отождествим R"\ Sm cR'X Rm"№, i?" X 2?т~* соответственно. Если бы доказываемое утверждение бы- было неверным, мы выбрали бы преобразование geO(m) так, чтобы S?m{A)>0 для
278 гл. з. спрямляемость ватем выбрали бы точку rieR-» Так, чтобы ??й(В)>0 для задали бы отображение /: R" -+• Rv формулой /(?) = (v ° g) {%, г\) для | е R», заметили бы, что В <= /-1 (Г) и вывели бы из предыдущего частного случая, что 0 Для 2"*-почти всех %^В. Поскольку Jrf (I) -I Д Л Я (v • *) (?> Ч) I R^X {0}] ||> 0 для 1 в В, мы бы получили, что 2>т(В) = 0 вопреки нашему выбору точки т]. 3.2.22. Теорема. Если W<=B.n, Z<=R\ т> ц, W — это {Жт, т)- спрямляемое и З^-измеримое множество, Z—это {</&¦, ^^спрям- ^^спрямляемое и ^-измеримое множество, отображение f:W->~Z липши- цевское и если (afem\-W, m)-аппроксимативный ц-мерный якобиан задается формулой для любого (dW^-W, m) -аппроксимативно дифференцируемого в точке w отображения /, то: A) Для Жт-почти всех w ^ W, или ар/ц/(и>) = 0, или im арDf(w) — Tan"\Ж* LZ, f(w)] является ц-мерным векторным пространством. B) Для Ж^-почти всех точек z^Z множество /"Hz} является ", тп — ц.)-спрямляемым и Ж"~"-измеримьш. _ C) Для каждой Ж"L W-интегрируемой функции g: W -*¦ R вы- выполняется равенство W 1 g Доказательство. Предполагая, что К *- <°°, выберем Kt и *ф«, связанные с W так же, как в 3.2.18, выберем также комцактные подмножества С) пространства R1* и липшицевские отображения Ъ из R1* в Rv, которые аналогичным образом связаны с Z, Полагая для любых натуральных ?, / и получим равенство r4Q)[) U U Л,).
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 279 Кроме того, применим 2.10.43, чтобы построить липшицевские ото- отображения F: R" -*¦ Rv и Gj\ Rv -*¦ R", для которых Поскольку 3e*(Q)=0, из леммы 3.2.21 выводим, что dim im D (F» я|)<) (x) < \i для ^""-почти всех x^(F ° фО^, и поэтому, учитывая доказа- доказательство теоремы 3.2.19, убеждаемся, что dimimapZ?/(u>)< ц для ^""-почти всех и;еф,(|[{)П/"'@. Отсюда следует, что ар/„/(ц?) = 0 для ^"-почти всех w <з /-'«?)• Кроме того, из 2.10.25 вытекает, что «Jg™-» [/-'{z}] = 0 для ^"-почти всех z^Q. На основании п. 2.10.26 получаем равенства oo oo \ ap/n/d5gm= 2 2яи где ai<3 = j ар/ц <M {j {z}) a<76 z = 2j 2j °i,h vij Z где 6{J= f ЯГ-'Ч^ПГЧ*})' Далее вспомним доказательство п. 3.2.19 и заметим, что im ар Dfltyi (х) ] = im D (F ° -ф*) (ж) > ^~т ^ ^«'Ф* (х) ^ ^т» для 2""-почти всех х е ^г. Полагая заметим, что F° ^i\A,, j = ft ° ф<, jl^4«,i и Cj<=dmnZ)ft. поэтому X~"/^i, j (x) ^ /„ (^»tfi) (ж) < Я"/цф4, j (ж) для ^"-почти всех ж ^ Л{? 3-. Кроме того, поскольку из леммы 3.2.21 выводим, что или J^u (х) = 0 и Д i*D (F • ih) (ж) = О, или im D(F - я|з.) (х) = Tan" [Я" L- Z, (F • ф4) (ж)]
280 гл. з. спрямляемость для .З^-почти всех x^AtiJ. Поскольку из теоремы 3.2.5 следует, что из вышенаписанных неравенств делаем вывод, что Далее 3.2.11 и 3.2.5 дают равенства П Г1 c Ввиду того, что к~*<7„.ъ{у)^№ и Ри Л Г1 (Yi (У)} = to (^ij П Фп- М) для у^С}, и поскольку Я является константой Липшица для ((ijjflili.j)-1, отсюда следует, что Суммируя по г и /, а затем замечая, что А, можно взять сколь угодно близким к 1, находим, что j ар JJ d^m - j ^т"Ц (W П /-1 {z}) ^m2, Точно таким же способом можно было бы получить здесь вместо W любое его «^""-измеримое подмножество, и поэтому утверждение C) получается с помощью аппроксимации. 3.2.23. Теорема. Если W — это тп-спрямляемое борелевское мно- множество из пространства Rn и Z — это (Зё*, |х) -спрямляемое боре- борелевское множество из пространства Rv, то W X Z является [Зёт+», т + \i)-спрямляемым множеством из пространства Rn X Rv и Ж™*» L (w X Z) = {Ж™ L- W) X [Ж L Z). Доказательство. Предположим, что отображение /: Rm -*¦ Rn лип- шицевское и W с im /. Если <5^"(Z) = 0, то <^m+>l(RmXZ)=0 согласно 2.10.45, поэтому [im(/ X lz)] = 0.
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 281 Если Z <= im g для некоторого лишпицевского отображения g: R*->-Rv, то W X Z с im(f х g) и из 3.2.3 следует, что I АХВ = f f Jmf (x) J^g{y) d^y dSnx = Ж" [/ (А)] -Ж [g(B)\t А В каковы бы ни были борелевские множества А <= Rm, В <=¦ R", для которых отображения f\A и g\B однолистны. Применение 3.2.4, 2.6.4 с учетом борелевской регулярности хаусдорфовых мер приво- приводит к требуемому выводу. 3.2.24. Заключения п. 3.2.23 не обязаны выполняться в случав, когда W только (Жт, m^-спрямляемо. Действительно, 2.10.29 дает примеры, когда 2em(W)=0, №(Z)=0, 3%m+»(WXZ)=oo. 3.2.25. Лемма. Для каждого C@т, т)-спрямляемого множества W из пространства R" существует Жт •- W-измеримая функция Т со значениями в ЛтК"П{|: т-вектор | прост и ||| = 1} такая, что Tanm C6m L W, w) является m-мерным векторным под- подпространством пространства R", ассоциированным с T(w), для З^-почти всех точек w e W. Доказательство. Допуская, что W является ^""-измеримым, применим 3.2.18, выберем ненулевой m-вектор т\ пространства Rm, положим S (w) = <tj, Л JDtyi [(q'i | Ki)-1 w]}, T(w) = S (w)/\ S (w) \ для любой точки w^^i(Ki) и вспомним доказательство п. 3.2.19. 3.2.26. Теорема. Если W является {Ж, тп)-спрямляемым мно- множеством из пространства Rn и 1 < t < оо, то 9>n{W) Доказательство. С учетом общих неравенств, собранных в 2.10.6, нам нужно только показать, что из принятых предположений вы- вытекают следующие три следствия: A) 36nm B) M C) m Чтобы доказать A), применим 2.10.19C) при \ , F = R" и В = (и;: вт(р,, н;)=1>, зная, что, согласно 3.2.19, 9^{W\B) = 0. В доказательстве неравенства B) можно в силу 3.2.18 и 3.2.17 ограничиться рассмотрением частного случая, когда для каждой точки w e W касательный конус Таи (И7, м;) содержится в неко- некотором m-мерном векторном подпространстве o(w) пространства R". Зададим ?4, как в 2.10.15, выберем какое-нибудь m-мерное вектор-
282 гл. з. спрямляемость ное подпространство У пространства R" и заметим, что g(e)=t,t[Rnnix-- \х\ <1, diet (ж, У)«?е>]-»- -*ЫВ@, 1)П Y] = a(m) при е -* 0+. По заданному б>0 выберем е>0 так, чтобы g(e)<(l + б)а(т), и рассмотрим семейство F всех замкнутых шаров В (и;, г) таких, что w e W, 0 < 2г < б, (l + 8K>em[Wf]B(w, r)]>a(m)rm, W0B(w, r)cC(w, r) = B(u>, г)ЛЬ: dist[a:-a, a(u>)]<er}. Для ^т-почти всех точек w<=W имеем B(w, r)<=F, как только г достаточно мало, поэтому 2.8.15 позволяет выбрать последователь- последовательность непересекающихся шаров В(и\, r,)<=F, объединение кото- которых содержит <?$т-почти полностью множество W. Обозначая че- через фв приближающую меру порядка б, появляющуюся в конструк- конструкции меры QT, приходим к выводу, что Фе (И0< S U [C(wu г,)] = 2 ?(e)-fo)m< 2 A + б)а(т) (г1)*< i=l i=l i=l < 2 A + бJ • Ж™ [W П В (wu г,)] = A + бJ • Эвп (W). Для доказательства неравенства C) предположим, что W — бо- релевское множество, и выберем функцию Т согласно 3.2.25. По за- заданному б > 0 можно найти такое борелевское разбиение Н мно- множества W, что для каждого S <= Н существует простой m-вектор Is пространства Rn, для которого ||sl =1 и \T(w)-ls\ <б для 5?т-почти всех w^S. Для любых 5еЯ и р«=О*(тг, тп) зададим и с помощью 2.10.20 выведем, что gs(p)= J ар/ s Вспоминая 2.7.16F) и 2.10.15, получим неравенства [9n,mJ«) (gs) 7^ [Pi ("» т),— S] * 36 (S), У? E) > [1 — б/Р« (га, т)] • 5^т E). Суммируя их по Я, придем к выводу, что - 6/р, (/г, ш)]
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 283 3.2.27. Теорема. Если W — это {Ж™, тп)-спрямляемое множество из пространства Rn, m<,n, и у для ^еЛ (щ /га), то Доказательство. Выбирая функцию Т согласно 3.2.25 и вспоми- вспоминая 1.7.4, зададим функции так, чтобы <?(и>), ©х> = |<У(»),: Л»»Ря>I = 1я(»)« как только и; <= dmnГи^еЛ^т). Имеем W ТУ в то время как из 3.2.20 и 2.4.12 следует, что ак = J аР Jm (р для г 1 W любого У (а \* Яе=Л 11/2 Г ТУ тп), а ТУ поэтому < \\\ ТУ 3.2.28. Рассматривая некоторые конкретные отображения, пред- представим теперь пространства О (га, m), Gn,m> G0(re, m) в виде под- подмногообразий (класса °°) подходящих евклидовых пространств и вычислим хаусдорфовы меры этих многообразий. A) Обозначая через Ym векторное пространство всех линейных симметричных эндоморфизмов пространства Rm и предполагая, что тп < п, рассмотрим отображение Р: Hom(R"\ Rn)-> Ym, P{g)= g* - g для g e= Hom(Rm, Rn)\ Находим, что <h, DP(g)>=h*°g + g*°hjwHhez Hom(Rm, Rn)\ Ym в случае, когда g однолистно, потому что в этом случае каждое отображение seFm имеет разло- разложение s = t°g, где *eHom(Rn, Rm), откуда fe = t*/2s eHom(Rm, Rn) и h* ° g + g* ° h =(t ° g + g* ° t*)/2 =(s + s*)/2 = s.
284 гл. з. спрямляемость Следовательно, если g однолистно, то dim ker DP (g) = dim Horn (Rm, Rn) - dim Ym = = mn — m(m + l)/2 = mBn — m — 1O2. Применяя 3.1.19 и 3.1.21, приходим к выводу, что является тп B/г — тп — 1) /2-мерным подмногообразием класса °° пространства Hom(Rm, Rn), причем Tan [О(и, тп), g] = Hom(Rm, Rn) u{h: h* • g + g* <> h = 0} для g e О (re, m). B) Выбирая ^e AmCR*")» для которого l?! = 1, и вспоминая 1.7.9, заметим, что линейный изоморфизм при котором точке ф ставится в соответствие <?, ф>, является изо- метрией. Поэтому из 1.6.2 следует, что Go(га, тп) ~ ДтR" П {|: т-вектор ? прост, 111 = 1} ~ ^{l\mg: g<=O(n, m)}. Таким образом, можно отождествить Go (га, т) с образом отобра- отображения <?: O(ra,m)->Hom(AmR"\ AmR"). Если g e= O(n, m), то = Hom(Rm, Rn) П {fe: Л* »^ = 0} с Tan [O(ra, i»), g], причем Aim Z(g) = m(n —m), потому что dim (Rn/im g)= n — m. Для h^Z(g) находим с помощью 1.7.9, что и, применяя 1.4.5, получаем IФ, DQ (*)> |2 = lim | Д.» (g + th) -Amg |2/*2 - t-»o = lim [det (lRtB + i%*ofe) _ Ц/t2 == tr («*<>«) = | h |a. Таким образом, DQ(g) \Z(g) является изометрической инъекцией. С другой стороны, отображение R8: SO(m) = О(m)f\{f: det(/)= 1} -*- О(/г, m),
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 285 дифференцируемо и ira(Q°Rg) = {/\mg}, а поэтому kerZ)(?(g)^imZ)i?5(lRm)= [g-u: м е= Tan [О (m), lR7n]}. Если h^Z(g) и и е Tan [О (то)» lRm]i то h'{g°u) — \x(h* ° g ° ц)= О. Кроме того, для любого h «= Tan [O(n, m), g] имеем h-g°g*°h<=Z(g), g Отсюда выводим, что kerZ)Q(g') является ортогональным дополне- дополнением к Z(g) в Tan [О (и, т), g] и что dim im /)() (g) = dim Z (g) = m (n — m). Заметим теперь, что Q является открытым отображением. Действи- Действительно, топологии пространств О (и, т) и imQ однозначно опре- определяются транзитивными действиями группы О(/г), потому что груп- группа О(п) компактна и все отображения А", соответствующие таким действиям А, открыты (см. 2.7.1). Следовательно, из 3.1.19C) вы- вытекает, что im G т Go (и, т) является т(п — т)-мерным подмно- подмногообразием класса °° в Нот ( Д т Rm, Д т Rn) ~ Д т Rn. Наконец, отметим, что и что Re является изометрией, каково бы ни было g^O(n, m), а поэтому для любого у е= im Q. Применяя 3.2.22, получим формулу 2Жп(гп-т~и/г[0(п, m)] = (^nilm-1)/2[0(m)]-5^14(n-m)[Go(n, те)]. C) Предполагая, что п>т>2, выберем теперь «eO(n,m- IJ и рассмотрим коммутативную диаграмму О(п,т) - Нош {В'",Вп) = AiSm®Ra Л а. O(n.m-l) - Нога (F'"'l,S") - Л12?'"~1®1?'г , где S(g)= g ° а для g<=O(n, m). Чтобы вычислить DS(g), выбе- выберем ортонормированные базисы еи ..., ет и vu ..., vn пространств Rm и R" так, чтобы векторы е,, ..., em-i порождали im а и чтобы g{ei) = Vi для г = 1, ..., т, и обозначим через со,, ..., ют ортонормированный базис простран- пространства /\lRm, двойственный базису еи ..., ет пространства Rm. Из A)"
286 ГЛ, 3. СПРЯМЛЯЕМОСТЬ нам известно, что Tan[O(n, m), g] является множеством всех таких йеНош(Кт, Rn), что h (e{) • Vj + vt • h (е,) = вг • (h* ° g + g* ° h) ej — 0 для 1 «S i < / < т. Отсюда легко получается, что образ касательного пространства Tan [О (и, т), g] в Л1^®^" имеет ортонормированный базис, состоящий из элементов af|j = 2~1/2(Oi®Vj — ©j® 1>4), если Ki</<iB, и bit j = (Oi ® ty, если l^i<m</<n. Аналогично, образ касательного пространства Tan [О (га, т — 1), S(g)] в Д1^®^ имеет ортонормированный базис, состоя- состоящий из элементов ci,i — 2 [((Oi = а) ® Vj — (со, о а) ® Vi\t если l^ и di, j = (ю1 о а) ® Vj, если l<i<m-i<j<ii, Кроме того, дифференциал DS(g) эквивалентен сужению о отобра- отображения Дl a ® lRm на образ касательного пространства Tan [О (тг, т), g], а для о справедливы формулы о(а(|}) = с<,j, если Ki<j <m, о (а<,«) = 2~U2di_ т, если 1 ^ i < /га, а(Ь4,,) = d,-,j, если Ki<m<j<n, o(bm.i)=0, если m<]<n, следовательно, 7 С//П O(i-m)/2 Далее, множество S-4S(g)} = O(n, i») П {/: /(е,) = Р|ДДЯ К i < m) можно отобразить изометрично на множество Rn П iu: \u\ =1, u» Vt = O для l^i<m}, потребовав, чтобы элементу / множества S~l{S(g)} соответствова- соответствовала точка /(ет) пространства R". Поэтому Жп~т(8~Чу)) = = 3@п-т(Sn"m) для yeO(n, m—1) и, применяя 3.2.22, придем к выводу, что
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 287 D) Предполагая, что X является конечномерным простран- пространством со скалярным произведением, рассмотрим теперь полиноми- полиномиальное отображение Т:Х-+ОгХ, Т(х) = хУ2 для хе=Х и вычислим, что <h, ВТ(х)> = xh для i,ftel. Положив U = X(]{x: \х\ =1), с помощью 1.10.5 находим, что \<h, DT(x)>\ = \xh\ = \h\, каковы бы ни были x<=U и h& X п {у: у х = 0) = Тап(С/, х). Поэтому D{T\U) (x)—изометричная инъекция касательного про- пространства Tan(U, х) в &^Х. Если х, у <= X, то хг ¦ у2 = 2 • (х • уJ и Следовательно, для любых точек х, у <= [7 выполняется равенство - \Т(х)~ Т{у)\* = 1-(х-уУ=A-х а поэтому Т(х)= Т(у) тогда и только тогда, когда х = ±у. Отсюда следует также, что T(UHV[T(x), r]aT[UuV(x, r-21/2)], каковы бы ни были x^U и г>0, поэтому T\U — открытое отоб- отображение множества U на Т(U). Если В является ^.-мерным подмногообразием класса к > 1 про- пространства U, удовлетворяющим условию b <= В тогда и только тогда, когда —Ь^В, то Т(В) является ^.-мерным подмногообразием класса к в ОгХ и Действительно, при наших условиях Т\В является открытым отображением множества В на Т(В), и для каждого Ъ^В диффе- дифференциал D(T\B)(b) является изометрической инъекцией касатель- касательного пространства ТапE, Ь) в ©2Х, а поэтому J»(T\B) (b)= 1. При- Применяя 3.1.19C) и 3.2.20, получаем доказываемое утверждение. В силу B) можно, в частности, взять X = ДтН", В = AmR" Л {I: m-вектор | прост, ||| = 1}. В этом случае из 1.6.2 следует, что В =* Go(n, m) и T(B)m G(n, m). Поэтому можно G(n, m) отождествить с некоторым тп(п —тп)-мер- —тп)-мерным подмногообразием класса °° пространства ©гЛтК". Кроме того, "—> [G{n, m)].
288 ГЛ. 3. СПРЯМЛЯЕМОСТЬ E) Комбинируя C), D), B) с 3.2.13, находим по индукции, начиная с О (га, 1)^ S", что ~-„/. [0 {п, т)] = rf , „ г / 1 )т^) ТТ Г(;72) [G (л, го)] = Г \j) Д 3.2.29. Теорема. Множество W из пространства R" является счетно {Жт, т)-спрямляемым тогда и только тогда, когда Шт-поч- ти все точки из W содержатся в объединении некоторого счетного семейства тп-мерных подмногообразий класса 1 пространства R". Доказательство. Коль скоро отображение F: Rm -»¦ R" липшицев- ское и е > 0, можно применить 3.1.16, чтобы найти такое отображе- отображение /: Rm -* Rn класса 1, что 2""(Rm\C)<8, где С = {ж: f(x)=F(x)}. Из 3.1.18 известно, что открытое множество Р = {х: dim im Df{x) = m) = {x: Jmf(x) > 0} является объединением счетного семейства G таких открытых мно- множеств U, что / отображает U гомеоморфно на f(U). Из 3.1.19C)' следует, что для каждого U&G множество f(U) является /га-мер- /га-мерным подмногообразием класса 1 пространства R". Кроме того, (imF)\ U {f(U): U^G} = F(Rm\C) U f{C\P), согласно З.2.З. 3.2.30. Если f: X -»• Y — линейное отображение евклидовых про- пространств, А<=Х и тп — натуральное число, то Это утверждение очевидным образом следует из 2.10.3. В силу 2.10.39 из него следует неравенство 3.2.31. Теорема. Если W — это {Жт, т)-спрямляемое и Ж"-из- меримое множество из пространства Rn, /: W -*¦ Rv — липшицевское отображение, \к — целое число, О^ц^пг, Х>0 и Z - Rv П {у: Жт~» (/-1 {у}) > К), то Z является {Ж*, \i) -спрямляемым. Доказательство. Учитывая 3.2.18 и 2.10.25, рассмотрим только случай, когда тп = п и множество W компактно, а следовательно, согласно 2.10.26, Z является борелевским множеством. Предполо-
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 289 жим также, что ц>1. Применяя 2.10.43, продолжим / до лишпи- цевского отображения g: Rm -*¦ Rv и положим Поскольку Ж*(Ъ)< oot в силу 2.10.25 можно выбрать счетно ц- спрямляемое борелевское множество R в пространстве Rv такое, что множество Z\R вполне (Ж1, }х)-неспрямляемо, вывести из 3.2.21, что &m[J-l(Z\R)\V] = O, и применить опять 2.10.25, чтобы получить 2em-*{i-l{z)XV) = Q для 5^-почти всех z^Z\R, а значит, 3%m-»(f-l{z) UV)>X для ,2^-почти всех z^Z\R. Далее, для любого фиксированного г > 0 обозначим через Т счетное всюду плотное подмножество множества всех линейных симметрических автоморфизмов t пространства Rv, для которых ИЛц*!"*^6- С каждым t^T и любыми натуральными i, / свя- свяжем подмножество U(t, i, j) множества V, состоящее из всех та- таких точек а, что и \t-l\g{b)-g{a)-<b-a, Dg{a)^]\^i-l\b-a\ для Ь^В(а, /-1)'. Если E<=U(t, i, /), a diam E < 1//, то \(t-l°g)b-(t-1°g)a\ <|<Ь-а, trl*Dg(a)>\ + + i-l\b-a\ ^(i - i-l)\b - а\ + i-l\b - а\ = \b-a\, для любых а, Ь^Е. Таким образом, Lip(i~'°/|i?)< 1, и из 3.2.30, 2.10.25 следует, что * (Е П 1 ^m-ll[^ П (Г1 где с =v"/22"-'a(m- ц)а(ц,)/а(/га). Кроме того, V совпадает с объединением всех множеств U(t, i, j). Действительно, если a«=F, то, применив 1.7.3, предста- представим Dg(a) в виде Dg(a) = s ° р, где р — ортогональная проекция пространства Rm на imDg(a), а s — симметрический эндоморфизм пространства Rv, для которого ДцЯ = 0. Затем выберем точку t е Т, для которой Wt~l °Dg(a)\\ = llf «sll < 1, и подберем подходя- 19 г. Федерер
290 ГЛ. 3. СПРЯМЛЯЕМОСТЬ щие целые i, /. Таким образом, множество V можно представить в виде объединения счетного семейства F, состоящего из непересека- непересекающихся 2""-измеримых множеств Е, для которых J Жт~» (Е Л Г1 {z}) йЖг < се2"" (?). Суммируя по F, приходим к выводу, что ХЗв» (Z\R) < J Жп~» (V П Г1 {z}) «д2< czSm (V). Из произвольности е теперь следует, что Ж*(Ъ\В)= 0. 3.2.32. Следствие. Если Y - Rv П (у: Жт-»Ц-Чу))> 0), Z = W П {х: dim im f-Цг) вУ Доказательство. Для каждого натурального к применим 3.2.31 при X = i/k и 3.2.22 с заменой W на f~l(Z), а затем к устре- устремим к °°. 3.2.33. Если ц < т и выполняются условия п. 3.2.32, то может оказаться, что J даже если / — отображение класса °°, v = fi + 1 и И7 = Rm П {х: 0 < а;4 < 1 для i = 1, ..., т). Чтобы построить такой пример, положим Т = it: 0 < t < 1), выбе- выберем функцию ф: R ->¦ R класса » такую, что 0 для feT, ф@ = 0 для t выберем непустые открытые подынтервалы Ut, U2, U3, ... интервала Т так, чтобы множество V = [] Uj было всюду плотным в Г и что- 3=1 бы было 2>l(T\V)>0, затем зададим отображения ¦$, |г, / класса оо формулами ¦Ф(f) = 2 (diamUjf ф[(f — intC/j)/diamC/j] для tel"» t t для ter, о / (x) = (жц ..., жм ^ (агц+1)) e R^1 для х
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 291 а если ц = 0, возьмем f(x) — g(zi). Отсюда следует, что функция g возрастает, множество f~4y) является (т — ц — 1)-мерным кубом, каково бы ни было y^imf, а поэтому Y=0. С другой стороны, U: g'(t) = 0> = T\V, 1 = ^Пк Заметим также, что такая ситуация невозможна, когда W — связное аналитическое /га-мерное подмногообразие пространства R" и отображение / аналитично. В самом деле, функции hi, заданные формулой (см. 1.7.9) аналитичны, поэтому множество S = {x: dimimZ)/(a;)= ц} = {х: h»(x)> 0 = K+i(z)} обладает тем свойством, что или Ж11 (S) = 0, или S является откры- открытым множеством, содержащим 5^т-почти полностью W, а 3.1.24 показывает, что из второй возможности следует включение S<=r(Y). 3.2.34. Лемма. Если S — непустое замкнутое множество в про- пространстве Rn, f(x) = dist(x, S) для zeRn, м 0^ а< b, то Доказательство. Ясно, что Lip(/)< 1. Для любой точки х е Rn\5 выберем такую точку s^S, что f(x)= Is — x\, и заметим, что f[x + t(s-x)] = f(x)-t ¦ \s-x\ для OsSfsSl. В случае, когда / дифференцируемо в точке х, отсюда получается, что <s - х, Df(x) > = - Is - х\, JJ(x) = WDf(x) II = 1. Затем применим 3.2.11 при А = {х: a<f(x)<b). 3.2.35. Теорема. Если S — непустое ограниченное выпуклое мно- множество в пространстве R", Г (S) = J 2"» [р (S)] dBlinP/h (и* т) 0*(n,m) для m—i, ..., п и ?°E) = 1, то &п{х: diet (я, 5)<г}= 2 19*
292 ГЛ. 3. СПРЯМЛЯЕМОСТЬ для 0 < г < оо. Кроме того, если множество S открыто, то его гра- граница BdryS является (га — 1) -спрямляемой и Доказательство. Сначала докажем второе утверждение. Предпо- Предполагая, что S открыто и 0^5, положим g(x) = inf {p. 0 < t < оо и x/t s S) для x e Rn, и проверим, что g является положительно однородной выпуклой функцией. Действительно, если х, у ^ R" и а, Ъ, а, Р — такие поло- положительные числа, что х/а, y/b eS, и если с = ал + ($Ь, то (ах Поэтому множество Bdry S = {g (a:) x: i e S""'} является (тг — 1)- спрямляемым, и из 3.2.26, 2.10.15 следует, что рх (га, га-1) 5Г-1 (Bdry S) = j j JV {p \ Bdry 5, y) aZn~ly dBl,n-iP. Кроме того, если уеО*(л, п — 1), то E)U Bdry pE), , у) =2 дляуерE), множество Bdryj?E) является (га —2)-спрямляемым и S71-1 [Bdry p (S) НО. Теперь первое утверждение теоремы докажем индукцией по /г. В случае п = 1 оно тривиально. Предполагая, что га > 1, зада- зададим функцию /, как в 3.2.34. Если 0 < t < °о, то {х: f(x)< t} явля- является выпуклым открытым множеством с границей /~'Ш и pix: f(x)< t) = R"-1 П {у: dist [у, p(S)) < t), каково бы ни было /><=()*(га, га —1). Поэтому с помощью индук- индукции получаем, что 1 {х: 0 < / (я) < г} = j 5Г (Г1 о г J 2 и—1 /(ж) < *}J dQl^pdgH/^ (га, га - 1)= J i*1- J J ^m[(? • p) S] MUi.mq dB*n,n-iP d&4, где fm = 2a(ra— 1 -/ra)/[?,(ra — 1, m)p,(ra, ra— 1)]. Применяя 2.7.11B) и 3.2.13, находим, что тп-й член этой суммы равен tmrn~m (re - m) "'Pi (га, /га) lm (S) ^ rn"m« (га - тп) %»(S).
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 293 3.2.36. С помощью п. 3.2.35 и 2.10.33 находим, что сужение ме- меры &п на класс С всех непустых компактных выпуклых множеств из пространства R" является непрерывным относительно расстоя- расстояния по Хаусдорфу. Отсюда следует, что 9?т [р (S) ] — непрерывная функция относительно (р, S) на О* (и, т)ХС и что функция ?т, определенная в 3.2.35, непрерывна на С при т = 1, ..., п. Первое утверждение теоремы 3.2.35 называется формулой Штейнера, а второе — формулой Коши. Обобщение формулы Штей- нера, в котором вместо выпуклых множеств фигурируют положи- положительно достижимые множества, можно найти в [F 15, теорема 5.6]. Если Р и Q — непустые ограниченные выпуклые множества из пространств R" и Rv, то C(PXQ)= 2 11(Р) V(Q) для m = 0, ..., ц + v. i+j=m Для доказательства положим f(y, z)=dis%, P) при (у, z)s=R»XRv, заметим, что Jj(y, z)= 1, если функция / дифференцируема в точ- точке (у, z) и у<?Р, и, применяя 3.2.11, 3.2.23, 3.2.25, получим , z): dist [(у, z), P X Q] < г] = = 2"*+*(Г1 {0} П {(У, z): dist [(у, z)% PXQ]<r}) + г + J Ж+*-1 (Г1 {*} П {(У, z): dist [{yt z), PxQ]< r}) dZ о = ^(P)-^v{z: distB, Q)<r} + r + J Ж'1 {y: dist (yx P) = s) 2" {z: dist (z, (?) < (r2 - s2I/2} 5" (P) 2 E* @ «(v - /) r^ + J 21 E1 (P) «(!* — *) (ц-O**-*-1 x X 2 Ej @ «(v - /) (r2 - *«)<v-« = 2 2 c1 w С @ с (и - *, v - /) i=0 j j=0 Для 0<г<°°, где с(|, i\) определено для любых неотрицательных целых | и i\ формулами с@, Т)) = «(п)> ^ (it "П) = «(g) 1« ("Л) J f5-1 (I - *2)n о
294 гл. з. спрямляемость в случае | > 0. Кроме того, с(|, Т]) = а(| + т)), что легко получить или с помощью 3.2.13, или, короче, рассматривая частный случай, когда Р и Q — одноточечные множества. С помощью предыдущего утверждения находим, что если S — прямоугольный параллелепипед, то ?m(S) совпадает со значением т-н элементарной симметрической функции от длин сторон парал- параллелепипеда S. Предполагая теперь, что Р состоит из одной точки, находим, что функции %т инвариантны относительно изометриче- изометрических инъекций, а поэтому то же самое верно для мер QT- 3.2.37. Для S <=¦ R" и для каждого целого т такого, что 0 «? т ^ =? га, зададим гга-мерный верхний объем Минковского Л*т (S) = lim sup Sn {х: dist (x, S) < r}/[a (n - m) rn~m] r-»0+ и m-мерный нижний объем Минковского ЖУ (S) = lim inf Sn {x: dist (x, S) < r}/[a (n - m) r""]. r-»0+ B случае, когда верхний и нижний объемы Минковского совпада- совпадают, их общее значение называется m-мерным объемом Минковско- Минковского J(m(S). Функции М*т и Л™ не являются мерами. Каждая из них при- приписывает одно и то же число и множеству S и его замыканию Clos S. Применяя теорему Фубини, находим, что Л* (S)>2т[р(S)] для. Ре0* (га, т). Отсюда следует, что т(А) для 4cRn, потому что, если А — борелевское множество, то мера &т(А) сов- совпадает (см. 2.10.8) с точной верхней гранью множества всех чисел вида S 2 где Н — конечное семейство непересекающихся компактных под- подмножеств множества Аир«е О* (га, т) для S <= Н. 3.2.38. Лемма. Если отображение /: Rm ->¦ R™ липшицевское, m < га, и С — компактное множество в пространстве Rm, то Доказательство. По заданному произвольному целому положи- положительному v выберем число б > 0 так, чтобы выполнялось неравен- неравенство 3r*lx: 0<dist(x, C)< 8) + S
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 295 где Е — множество тех точек а&С, которые удовлетворяют двум условиям: \f(x)-f(a)-<x-a, Df(a)>\^v-2\x-a\ для х^В(а, б), | /*/ (х) - Jmf (а) | dSmx < v^ (К) для любого куба К такого, что а ^ К я diam К < 6 (см. 2.9.9). Предполагая, что 0<r<6/(mv), покроем С конечным семей- семейством F компактных кубов с непересекающимися внутренностями, каждый из которых пересекается с С и имеет стороны длины vr. Положим также G = F П {К: К П Е Ф 0} и обозначим через Н семейство кубов со сторонами длины г, кото- которые получаются разрезанием каждого элемента семейства F\G. на vm подкубов. Тогда Для каждого К е G U Н оценим отношение р(К) = 2 {z: diet [z, f(K)]< r)/[a(n - m)rn-m]. В случае, когда K*=G, выберем точку а е Е *П К и рассмотрим аффинное отображение ?:Rm-*IT, g(x)=f{a)+<x-a, Df(a)> дляхеГ Заметим, что diam.ff< mvr, поэтому {z: dist [z, f(K)] < r) <= {z: dist [z, g(«)] < r+ rnvV}, и выведем из 3.2.25, что р(К) не превосходит 2 I3 [g (К)] а (га - /) (l + mv)^' гтЧа (п - те). 3=1 На основании того, что t,' [g(K)] = 0 для / > т и С" [«Г (*)] = Jmf (а) 2т (К) < f Jmf dSm + v~x2m (К), к V[g(K)]T"-'<a(jJ->[dismg(K)]%(n, /)~Vm-^ для / < т, находим, что р(Я)< f JmfdSm + Ь~х2т(К), к где 1 — число, определяемое по п, т и Lip(/).
296 гл. з. спрямляемость В случае К*=Н имеем: diam/(.?)< Lip(/)mr, поэтому р (К) < a(n){r+ Lip (/) тг]па(га - т)-1^"" = 1J""(К), где ц = а (п) [1 + Lip (/) т]"а (га — /га) ~'. Отсюда делаем вывод, что Sn{z: dist [z, /(С)]< /•}/[«(га- то)rn~m] <2 ksg (U Я) < J /m/ dSn + v-1 ([Lip (/)]m + Iv + \2n (C) + ri). с 3.2.39. Теорема. ?сли И7 — замкнутое m-спрямляемое множе- множество в пространстве R", то Доказательство. Выберем лишшщевское отображение /: Rm->- R11 и компактное множество К в пространстве Rm так, что <^f(K), и поэтому множество А = К П /-1 (PF) компактно и Для заданного числа 8 > 0, применяя 3.2.3, 2.10.10, 2.10.8, получим конечное семейство G замкнутых подмножеств множества А такое, что 2 f /m/ &2п = f /m/ dSm, 2 5$Г [/ (С)] > J /„/ Й2"» - е. a=Gi а сев А Для / = 1, 2, ..., v = card G зададим множество ? = {у: card(G П {С: у е /(С)}) > /} с характеристической функцией s^. Обозначая через fc характери- характеристическую функцию множества f(C), заметим, что 2 «i- 2 «с, 2 ^т(^) = 2 жп[ЦС)\. j=l CS.G j=l CS.G Кроме того, для г>0 обозначим через Sj,r и tc,r характеристиче- характеристические функции множеств {z: dist(z, Sj)<r) и {z: dist [z, f(C)] < r} и заметим, что v
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 297 Интегрируя это неравенство по мере S7", деля на а(п — т)г"-т и устремляя г к 0, получим 3=2 CGG Далее применим 3.2.38, чтобы вывести, что л*т (sx) - ж*(ял + 2 CSG Поскольку JC™(Sj)'^'3m (Sj) = 3em(Sj) для / = 1, 2, ..., v сог- согласно 3.2.37 и 3.2.26, и поскольку Si = W, приходим к выводу, что Ж*т (W) <3%m(W) + s^ Ж (W) + е. 3.2.40. Применяя 2.10.28 для случая, когда 0<т^-^ и после- последовательность п такова, что щ -*¦ °° при / -»- oot можно получить компактное множество Е = А(т, п)ХА(т, ra)c=R2, для которого Jt*1 (Е) = оо, Jtl (Е) = 0, если т< 1/2« 0< <J[*(E)<lxx>, если т = 1/2. Поскольку 3@1(Е)=0, если т < 1/2, этот пример показывает необходимость ограничительных условий в 3.2.39. Детальное рассмотрение аналогичного примера можно най- найти в [GR 2, с. 184—187]. Мы отсылаем читателя к [КМ 1, с. 387] за конструкцией такого компактного множества S в пространстве R3, что 5 является объе- объединением счетного семейства треугольников, и существует ортого- ортогональная проекция пространства R3 на R2, которая гомеоморфно ото- отображает S на квадрат, но Ml(S)= °° > 26*(S). 3.2.41. Теорема Брунна — Минковского. Если А и В — непустые множества из пространства R", то 2"ЧА+ВI/n > Zn {A)Un + &n(B)i/n, где А + В = {х + у: х е= А, у^В). Доказательство. Пусть F — семейство всех прямоугольных па- параллелепипедов Pt X ... X Рп, где Ри ..., Рп — непустые ограниченные открытые интервалы на прямой R. Если А = Pi X ... X Рп е F и В = Qy X ... X <?„ eF, то
298 ГЛ. 3. СПРЯМЛЯЕМОСТЬ Обозначая щ = &l(P,) IS' (P, + Qt) и v,< = 2>l(Qj)/2'l(Pi + Qt) для j = 1, ..., п и вспоминая 2.4.13, получим п] 3?п (А + В)~1/п = - П и}'п + П jtn< 2 «i/« + | wj/л = 1 j j j , ПОТОМУ ЧТО И,- + V) = 1. Далее рассмотрим случай, когда A = UG и B = \JH для некото- некоторых конечных подмножеств G и Я семейства F, состоящих из не- непересекающихся множеств, применяя индукцию по числу card(G) + + card (Я). Если card(G)> 1, выберем i & A, ..., га} и точку aeR так, что- чтобы каждое из двух множеств Ai = А П {х: xi < а}, А2 = А П {х: xt > a) содержало некоторый элемент семейства G, а также выберем точ- точку Ь е R так, чтобы множества 5, =5 Л {х: х,< Ь), В2 = Вп{х: хг>Ь} удовлетворяли равенствам • 2 {Ак) 12»{А) = 2п(Вк) 12п(В) для к - 1, 2. Полагая видим, что Ah = \}Gh и Bk = \)Hh, причем card(Gk)< card(G) и card(^fc)< саЫ(Я). Поскольку множества 4, + 5t и А2 + В2 раз- разделены плоскостью {х: х{ = а+Ь), индукция дает Из рассмотренного выше элементарного случая легко вывести с помощью аппроксимации, что заключение теоремы справедливо, когда А и В компактны, а поэтому и когда они ^"-измеримы. Наконец, чтобы рассмотреть общий случай, свяжем с каждым множеством 5 в пространстве R" его .^"-оболочку (см. 2.9.11) S* = Rn П (ж: lim 2n [S П В (х, г))/[а (/г) гп] = 1] I r->0+ i и заметим, что А* + В* <= (А + В)*.
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 299 3.2.42. Следствие. Если SczR", Sn(ClosS)< °° и 0<г<°о> т0 Sn ix: 0 < dist (х, S) < r)/r > па (и) UnSn (Clos 5) с-1»7", 5"-{х: 0<dist(x, R"\5)<r)/r^ ^ na(n)i/ngn (х: diet (ж, Rn\S)> г}"-1"". Доказательство, (х: dist(x, 5)<r} =(Clos5)+U@, r), поэтому ^"{z: dist (я, S)<r}>[?n(C\osS)l/n + a(ny/nr]n> > 2 (Clos S) + nSn (Clos 5) ("-'""а (га) 1/пл Кроме того, если f={z:dist(x, Rn\S)>r}, то Int5 => Г +U@, г), S7" (Int S)> 2n (T) + ra^1"(Г) ("-''/"a(ra) 1/nr. 3.2.43. Изопериметрическое неравенство. Если 5cRn и 2>n(ClosS)<oo, To Лп~х (Bdry S) > па (пI/п Sn (Clos 5)("-1)/n. Доказательство. Применим 3.2.42, замечая, что для 0<г<°° {х: 0 < dist(s, S)<r) и {х: 0 < dist(z, Rn\5)< r) являются непересекающимися подмножествами множества {х: dist (ж, Bdry S) < г). Кроме того, SnKx: dist(x, Rn\S)S* r) t ^"(Int^) приг-Ю и из условия Лп^х(Bdry 5)< оо следует, что 2(Bdry5) = 0. 3.2.44. Согласно 3.2.39 »^*~1 (Bdry 5) может быть заменено на Жп~1 (Bdry S) в 3.2.43, если заранее потребовать, чтобы множе- множество Bdry 5 было (п — 1)-спрямляемым, однако это ограничение бу- будет снято в 4.5.9C1). 3.2.45. Предполагая, что п > тп > 1 — целые числа и А<= R", до- докажем теперь, что мера С?™ (А) непрерывно зависит от t на про- промежутке it: 1 < t < оо}. Зададим функцию ?™ так же, как в 2.10.5, и заметим, что существует такое конечное положительное число f> что для любого ограниченного выпуклого множества S c= Rn. Действи- Действительно, это неравенство при f = а (/га) • 2~m • ml следует из 2.10.32 и из доказательства п. 2.10.37. Более тонкие соображения, наме-
300 ГЛ. 3. СПРЯМЛЯЕМОСТЬ ченные ниже, показывают, что оно выполняется при f = 1. Полагая для где 1/0 = °°, находим с помощью 2.4.17, что функция hB выпуклая и невозрастающая, поэтому при 0 < и < v ^ 1. Отсюда следует, что »,»)!- Для Относящийся к этой ситуации пример будет построен в 3.3.19. Далее выведем неравенство [Rn~mП{^: (у, г) для каждого непустого ограниченного выпуклого множества С из пространства Rm XR"-m и к — О, ..., п — тп. Полагая Т = (Rm X Rn"m) П {(у, z): у = 0, Ы < 1), применим теорему Фубини и 3.2.35, чтобы вычислить, что = j Sn~n {w: dist (н>, {z: (у, z) e С}) < r} dSmy = n-m = S й{г: (^z)eC}a(n-m-A:)r'l-' для любого 0<г< оо. С другой стороны, согласно 3.2.35, B"" X 2n~m) \C + r\J @, 1)] = S Й (С) а (/г - ;)r«-i, 3=0 и, поскольку 7TczU@, 1), из основного свойства смешанных объе- объемов выпуклых множеств (см. [BF, с. 41, предложение 5] или [EG, с. 86, теорема 42]) выводим, что каждый коэффициент в первом многочлене не превосходит коэффициента при той же степени г во втором многочлене. Таким образом, получаем утверждаемое не- неравенство. Применяя случай к = 0, вспомним, что ?? (Е) = 1 для любого непустого ограниченного выпуклого множества Е, и получим, что &т{У- (У, «)еС для некоторого z}< Й*(С). Таким образом, 2>m [p (S)] ^ ЙГ (S) для каждого ограниченного выпуклого множества S из пространства R" и каждого р^О* (га, т), поэтому ?™ 0$Х ?Г(S)i и мы приходим к выводу, что #2< Q™.
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЯ 301 Из неравенства (¦) легко следует, что J* Q\ [R"-mП {г: (у, z) е В}} d2?my < Q?+k(В) для любых ке {0, ..., п — т) hBcR™XRn~m. В частности, мы ви- видим, что левая часть следующего равенства 2т {U)-Q\(V) = Q?+h (U X V) не может быть больше правой, если U является ^"-измеримым мно- множеством и V cr Rn-m. Чтобы доказать, что правая часть не может быть больше левой, заметим, что для каждого непустого ограничен- ограниченного выпуклого множества Q из пространства R"-m выполняется неравенство Рх (в - ш, /) Й @ < Pi (в - т, к) Й @ (diam 0bft при / > &, поэтому из 3.2.36 выводим, что для любого т-мерного куба Р со стороной длины $, содержащегося в Rm, имеем El т 1 2 ( где М — подходящая конечная константа, зависящая только от т, п, к. Осталось покрыть множество U XV семейством множеств вида PXQ таких, что как s, так и (diamQ)/s малы. Вышеприведенные результаты, доказательство которых опира- опирается на теорию смешанных объемов, не будут далее использовать- использоваться в этой книге. 3.2.46. Опишем теперь простую процедуру, с помощью которой большая часть теории хаусдорфовой меры может быть обобщена с евклидовых пространств на произвольные римановы многообра- многообразия (определенные в соответствии с [НЕ, с. 47] или [KN, с. 154] или [ST, с. 85, 173]). Поскольку проблемы теории меры легко лока- локализуются, рассмотрим только случай, когда все многообразие явля- является областью определения одной координатной системы. Таким образом, мы будем рассматривать открытые множества из евклидо- евклидова пространства с некоторой римановой метрикой. Предположим, что А — открытое множество в пространстве Rn и — такая непрерывная функция, что g (x) является скалярным про- произведением для каждого х ^ А. Для этого риманова тензора g зада- зададим расстояние р(х, у) между точками х, у<=А как точную
302 ГЛ. 3. СПРЯМЛЯЕМОСТЬ нижнюю грань множества чисел вида <C'(t)®C'(t),glC(t)]>UtdZ4t i соответствующих всем липшицевским функциям С, отображаю- отображающим некоторый отрезок К в А так, что C(miK) = х, С (sup К) = у. Ясно, что р является симметричной функцией, удовлетворяющей неравенству треугольника. Следующий абзац показывает, что р является метрикой, индуцирующей обычную топологию множе- множества А. Для каждой точки а ^ А, применяя 1.7.3, получим ортонорми- рованный базис пространства Rn, состоящий из таких векторов еи ..., еп, что <е. © eh g(a) > = 0, при i Ф j. Обозначим через L симметрический линейный автоморфизм про- пространства R" такой, что L(е4) = <е< ©eh g(a) У2ег для i = 1, ..., п, и заметим, что <vQv, g(a)y'%= \L{v)\ для любого »eR". Задавшись числом 1 < Я < °°, воспользуемся непрерывностью функ- функции g в точке я, чтобы найти число б > 0, для которого Х~'\Ь(и)\ <<vQv, g(a;)>1/zs?*,- \L{v)\, как только i^eR" и \х — а| <б. Сравнивая каждый из вышеука- вышеуказанных интегралов с евклидовой длиной кривой L ° С, найдем, что 'A.-l\L(x-y)\ <p(x, y)<K- \L(x-y)\, как только \L(x — a)\ <б/2 и \L{y — a)\ <8/2. Отсюда следует, что Ъ~тЖт [L (S)] < Ж% (S) < ктЖт [L (S)], как только S<={X: \L(x-a)\<b/2) и 0<m<«», где Ж™ и Жт — это m-мерные хаусдорфовы меры, соответствующие метрике р и обычной метрике пространства R". В частности (см. 1.7.10), JT" [discr g (а)]1/2 3?п (S) < Ж1 (S) < Я" [discr g (a)}1/2 %n (S), потому что det (L) = [discr g (a) ]1/2. Следовательно, производная ме- меры Жр относительно меры S в точке а равняется [discr g(a)]in. Таким образом, мы приходим к выводу, что = j (discr в для каждого ^"-измеримого подмножества В множества А. Приме- Применяя те же линейные отображения L, что и выше (с помощью кото-
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЯ 303 рых обычное скалярное произведение пространства Rn становится касательным к g в точке а в смысле [СЕ, с. 86]), легко проверить, что основные формулы преобразований пп. 3.2.5, 3.2.12 остаются верными для хаусдорфовых мер, индуцированных римановыми метриками, если позаботиться, чтобы якобианы вычислялись отно- относительно римановых скалярных произведений. 3.2.47. В нижеследующей теореме мы выведем интегрально-гео- интегрально-геометрическую формулу для хаусдорфовых мер спрямляемых под- подмножеств сферы S"-', рассматривая S" как однородное простран- пространство группы О(/г). Предварительно фиксируем точку ceS" и рас- рассмотрим согласованное с левым действием группы О (га) отобра- отображение Ф: O(n)-+Sn-\ O(g) = g(c) для gsO(n), с изотропной группой / = Ф~* {с} ы О (га — 1). Выберем также та- такой ортонормированный базис еи ...,. еп пространства R", что ех = с> положим свяжем с каждой точкой и^ U по индукции векторы fi{u)=u и h (и) = h - 2 let-fi («)] П (»I /1 «i - iS Mi («)] Л И для i = 2, ..., и, затем зададим точку F(u)eO(n) так, чтобы <e4, F(u)> =U{u) для i = l, ..., п. Ясно, что G — окрестность точки с в Sn~\ функции /?, ..., /„, F дифференцируемы и Ф ° F = \.v. Для любого ? е О(/г) положим Я8: Ф-1 [1(^I-Ф-1^^)-^ Л Я5Ы = [(^°Ф)(Г1^)]-1°Г1^ Для геф-' и построим диффеоморфизм отображая g на (Ф(^), Hi{g)). Ради краткости обозначим v = п (п — 1)/2, ji = v — » + 1, 1 = lRn« Вспоминая 3.2.28, легко проверить, что для каждого ge О (и) имеем Тад[О(в), rf = ?(Tan[O(i»),.i]), кегДФ(^) = у[Тап(/, 1)], и DO(g) отображает множество W(g) = Ta.n[Q(n), g](\{w: ц; • z = 0 для г е= кег/)Ф(^)} ва Tan[Sn-', Ф(^)] так, что , ?)Ф(?)>1 = 2-1/2Ы для любого
304 ГЛ. 3. СПРЯМЛЯЕМОСТЬ Действительно, если базисные векторы aJti выбраны так же, как в 3.2.28C) при т = п и et = с, а значит, Vi = Ф^), то D<J)(g) пред- представляется функцией, отображающей a4ij на вектор который равен 0 в случае i > 1, и равен 2~1/zv} в случае i = 1. Если ? с S"-1 иг — неотрицательное целое число, то выполняют- выполняются следующие три утверждения: A) Если множество Е является r-спрямляемым, то Ф~*(Е) явля- является (г + \i)-спрямляемым. B) Если Ж(Е)=0, то Ж+» [Ф-ЧЯ)! = 0. C) Если множество Ф^) является (Ж+№, r + \i)-спрямляв- мым, то Е является {Ж, г)-спрямляемым и 2т/гЖ{1)Ж(Е). Поскольку множества %(U) образуют открытое покрытие сферы S"-1, доказательство легко сводится к частному случаю, когда E<=%(U) для некоторого |еО(тг), и поэтому вышеприведенный диффеоморфизм отображает Ф (Е) на EXI. Замечая, что / явля- является ^-мерным подмногообразием класса °° в Hom(Rn, Rn), находим, что утверждение A) очевидно, и выводим B) из 2.10.45. Применяя 3.2.22B) с заменой / на НЪ\Ф~1 (Е), получим первое заключение ут- утверждения C), потому что Ф[Ф (Е)ПЩ1 {Щ] = Е для любого йе/. Наконец, второе заключение утверждения C) выведем, применяя 3.2.22C) с заменой / на Ф|ф-'(#). На основании 3.2.29 и утверж- утверждения B) можно допустить, что Е является r-мерным подмногооб- подмногообразием класса 1 в R", и поэтому для любого g е Ф (Е). Кроме того, множество Ф Ы изометрич- но многообразию / для каждого z e S". 3.2.48. Теорема. Если А и В — подмножества сферы Sn~\ а и Р — вещественнозначные функции на S", множество А является (Ж1, к)-спрямляемым и Ж-измеримым, множество В является тп- спрямляемым и 2$т-измеримым, функции а и $ являются соответ- соответственно Ж-^-А и Жп L- В-суммируемыми, и % = k + m — n+l>0, то множество Aug(B) будет {Ж, %)-спрямляемым для йп-почш всех g е О (и) и
$ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЙ 305 Доказательство. Опять принимая соглашения п. 3.2.47, видим, что множества Х — Ф~1(А), Y = Ф~'(Д) иХХУ являются, соглас- согласно п. 3.2.23, соответственно (Нк+», к + ц)~, (jra + ц)- и {Ж*т^г к + т + 2ц) -спрямляемыми. Положим теперь ?:IXF-^O(n), ?(*, у)»*»^ для (*,j)sIXF и применим 3.2.22 с заменой /, т, \i, т — р, на ЧГ, А + т + 2\а, vr X + ii. Для любого g^O(n) имеем W-Hg) = {(х, г1'*):^ Ф-1 [А П ?(?),}), и функция, отображающая ж на (ж, g"»х), увеличивает все рас- расстояния, умножая их на У 2. Кроме того, для 5^-почти всех g e О (га) множество W~l {g} является (<5^^+", X + \i) -спрямляемым, а следо- следовательно, множество Aug(B) будет (Ж1, Я)-спрямляемым и I а[Ф(х)].-Р[Ф(у)]dM^(х, у} = а [Ф (х)] -Р [Ф (Г1 ° ж Обозначая ради краткости Q = \ а [Ф (ж)] -р [Ф (г/)] ар/v? (x, у) dMh+m+2» (x, у), XY \ XXY ВЫВОДИМ, ЧТО j О(п J a (В) n-1) J f o O<) AD<B) J O<n) потому что ^v[O(n)] = 2(n-1)/2<3^(/)^n-1(S"-1) и мера является мерой Хаара группы О(/г). Если Ж{А) = 0 или 5^"(J5) = 0, то п = 0. На основании 3.2.29 далее можно допустить, что А т. В являют- являются к- и тга-мерными подмногообразиями класса 1 пространства R"; это позволяет использовать касательные пространства вместо ап- аппроксимативных касательных пространств в приводимом ниже вы- вычислении якобиана отображения УР. Для х е X ж у е У положим S(x)~xrl(Tan[A, Ф(*)]), 5A(a:)=W(l)n[a;-1oTan(X, ж)],  г. Федерер
306 ГЛ. 3. СПРЯМЛЯЕМОСТЬ выберем также к- и m-векторы а(х) е AftTan(S™~1, с) и т(г/)е е Дт Tan (Sn~\ с)так, чтобы а(х) и т(у) были простыми, чтобы \о(х) I = 1 = \т(у) I и чтобы 5(я) было подпространством, ассоции- ассоциированным с а(х), а Т(у)~ с т(у). Замечая, что отображение W по- построено как композиция билинейного отображения и инверсии, на- находим с помощью 3.1.1 и 3.1.11, что <(a, v), DW(х, у)У = и° у-1 — х о у'1 ° v ° у~1 = = х - (х-1» и - у-1 о р)> JT1. каковы бы ни были ц^Тап(Х', ж) и и^Тап(У, у), и, следователь- следовательно, получаем коммутативную диаграмму DV(x,y) Тап(Х,х) х Тап(У.у) •* [х">Тап(Х,дг)] х [у-'о Тап(У,у)] •- Тап[0(ге), [Тап(/,1)Ф5'(д:)]х [Тап(/,1) ФГ'(у)] =^-*- ТапG,1)Ф Применяя вычитание векторов, чтобы задать отображение /,: Тап(/, 1)ХТап(/, 1)-Тап(/, 1), а также функции /2 и /3 в коммутативной диаграмме s'(x)x г'(у) ~^*- w(i) S(x)x T(y) ~^ , где вертикальные отображения индуцированы дифференциалом .ОФA) и умножают нормы на 2/2, применим дважды 1.7.11, чтобы получить, что || Д п-гк I = 2(ll+W/a | • о (х) Л . т (у) [, где * определяется относительно пространства Tan(S"~1, с). Далее выберем меру Хаара у пространства /, для которой f (/) = = 1, и заметим, что множество {fe|Tan(Sn~1, с): fe<=/} совпадает с ортогональной группой пространства Tan(Sn~1, с). Поскольку х (у оh~l) = ±<r(y),Am[h\Tan(Sn~\ c)]>,
§ 3.2. ПЛОЩАДЬ И КОПЛОЩАДЬ ОТОБРАЖЕНИЯ 307 если только h e /, с помощью 2.7.16F) получаем, что J | * а (х) л * т (у о ИГ1) | dyh = i = ( 1 * о (х) Л <* т (у), Л m [й I Tan-(S*-\ с)]> |,dY/i' = i = Pj {n — 1, га — 1 — m)/p1 (jfc, га — 1 — m). Воспользовавшись тем, что метрика пространства О (га) и функция Ф инвариантны относительно умножения справа на элементы груп- группы /, приходим к выводу, что = J \ а [Ф (ж)] • р [Ф (у)] ./v? (ж, г/ = /Г = J J 2(|i+x)/2p1 (« - ls n - 1 - m) p2 (*, n - 1 - ra)-ix X а [Ф (ж) = 2v/s+?" [Ж* (/)]а рх (в - 1, n - 1 - m) X X Приравнивая это значение интеграла й к ранее полученному при доказательстве значению и применяя 3.2.13 для вычисления кон- констант, получим утверждаемое в теореме равенство. 3.2.49. Предыдущая теорема является частным случаем теории, развитой в [BJ 1] для общих римановых многообразий с транзитив- транзитивной группой Ли изометрий. Если изотропная группа в каждой точ- точке представляется полной ортогональной группой касательного про- пространства в этой точке, аргументация остается по существу той же, что и данная здесь. Однако если эта группа не является тангенци- тангенциально транзитивной, то должен быть соответственно ограничен выбор множеств А и В, и в формуле может появиться также модулярная функция группы. Например, при изучении действия унитарной груп- группы U (п) на сфере S2" предполагается, что касательные пространства множеств А и В являются комплексными подпространствами про- пространства С. Доказательства из более ранних работ [F' 3, 10] об ин- интегрально-геометрических теоремах для подмножеств пространства Rn были упрощены использованием того факта, что группа всех изо- изометрий пространства R" является полупрямым произведением изо- изотропной группы О(п) и группы переносов. Аналогичные методы бы- были применены в [F 15], чтобы доказать основную кинематическую формулу, относящуюся к мерам кривизны, связанным с любым по- положительно достижимым множеством в пространстве R". Весьма ве- вероятно, что кинематическая формула может быть распространена на более общие римановы однородные пространства. 20*
308 гл. з. спрямляемость Автору неизвестно, можно ли предположение «5 является т- спрямляемым» в теореме 3.2.48 заменить на более слабое: «.В явля- является {Жт, те)-спрямляемым». Этот вопрос может быть переформу- переформулирован следующим образом. Если 4<=Sn-\ 3@к(А)=*0, 5cS"-', ЯГ"(Д)=. 0, то вытекает ли отсюда, что 3@h+m~n+i[A Л g(B)] — 0 для вп-почти всех § 3.3. Структурная теория 3.3.1. Предполагая на протяжении всего параграфа, что <р — мера на R" и все замкнутые множества в пространстве Rn являются if-измеримыми, мы дадим критерий (<р, тп) -спрямляемости мно- множеств из пространства R". Множества будут изучаться локально, около произвольной точки пространства R", рассмотрением их по- положения относительно (п — тп) -мерных аффинных подпространств пространства R", проходящих через эту точку. Для а е R", 0 < г < <», Уе G(n, п — тп), О < s < 1 зададим мно- множество Х(а, г, V, s) = Rnnk s-'distOr-a, V)< \x-a\ < г). Заметим, что если р^О*(п, тп), то dist(ж, кетр)= \р(х)\ для лю- любого х е Rn; и поэтому Х(а, г, кетр, s) = Rn П {х: s~±\p{x — a)\ < \х — а\ < г}. Отображение, связывающее kerp^G(n, п — тп) с точкой р^ ^ О* (п, тп), является непрерывным и открытым, и оно переводит меру в^,от в меру 1(„,„-т (см. 2.7.16F)). *) Ответ на этот вопрос отрицательный. Действительно, легко проверить следующее утверждение. Пусть множества А, В с S2 являются объединениями конечного числа кру- кругов. Если (IntA) П ёAтЛВ) Ф 0 для любого geOC), то существует такое число е>0, что (Int/4) П g(Bi) ф 0 для любого {еО C), как только Bi об- ' разует г-сеть в В. ' С помощью этого утверждения легко построить требуемый пример. Берем \ m = к = 1, п = 3. Для объединения А конечного числа непересекающихся j кругов, содержащихся в S2, через 2 И) обозначим сумму их радиусов. Возь- j мем последовательность чисел 6j \ 0 и положим А\ = By = S2. Далее по индук- j ции найдем В2сВ1 так, чтобы 2i(B2) <ег и Int^ |"| Int В^ Ф 0 для любо- | го ge 0C). Затем найдем А2cz Ai так, чтобы 2(-42)<е2 nlntA2 П 1тЛВ2Ф \ ОО ОО ; Ф0 для любого g е=ОC) и т. д. Положим А= f] Al, В = (] Bv Тогда ! i=i t=i ; Ж(А) =Ж(В) = 0, но Ж>[А П g(B)] фО для всех gs=0C). Этот пример был ¦ построен в 1976 г. студентом Калининского университета М. Г. Цукерманом.— ] Примеч. пер. |
§ 3.3. СТРУКТУРНАЯ ТЕОРИЯ 309 3.3.2. Лемма. Если А <= R" и б >0, то функция, отображающая (а, р) в lim sup sup ф [A fl X (а, г, кег р, s)] r~ms~m, в-»0+ 0<г<6 является борелевской на RnXO*(ra, тп). Доказательство. Заменяя меру <р на ф L А, можно предполагать, что А = Rn. Предположим, что J,eR. Заметим сначала, что если С — ком- компактное множество в пространстве R", то множество {(а, г, р, s): С <=¦ X (а, г, ker p, s)} является открытым в R" X R X О* (п, тп) X R. Поскольку каждое множество вида Х(а, г, kerp, s) является объединением возрастаю- возрастающей последовательности компактных подмножеств, из 2.1.3D) сле- следует, что множество 5 = {(а, г, р, s): <р[Х(а, г, кег/>, s)]r-ms-m>%} открыто, и поэтому для каждого натурального i множество Ti — { (а, р): (а, г, р, s)^S для некоторых г < б, s < 1/i) открыто в R" X О* (п, тп). Кроме того, множество тех точек, где наша функция принимает значения, большие К, равняется П {Т{: i = 1, 2, 3, ...}. 3.3.3. Лемма. Если А — суслинское множество в пространстве Rn, то множество {(а, р): as Clos {х: х — а е кег р, аФх<= А}} является суслинским множеством в пространстве R"XO*(n, тп). Доказательство. Для каждого натурального i множество Si = {(x, а, р): р(х) = р(а), 0< \х-а\ < i/i, x^A) является суслинским множеством в пространстве R" X Rn X X О* (п, гп). Следовательно, множество оо П {(а, р): (х, а, р) е 5{ для некоторого х} является суслинским множеством в пространстве R"XO*(n, m). 3.3.4. Теорема. Если А — суслинское множество в пространстве Rn и dsR", то Yn,n-m-почти все FsG(b, n — тп) удовлетворяют одному из следующих трех условий: A) Для некоторого б > 0 lim sup ф [А Г) X (а, г, V, s)] r-ms-m = 0. s-»0+ 0<r<6 B) Для всех б > 0 lim sup sup ф [А П X (а, г, У, s)] r-ms-m = оо. *-»о+ о<г<а
310 ГЛ. 3. СПРЯМЛЯЕМОСТЬ C) а <з Clos {х: х - а ^ V, а Ф х ^ А). Доказательство. Предположим, что а = 0&А, выберем ортонор- мированный базис еь ..., е„ пространства R" и свяжем с каждой точкой ge=О(п) векторы а также и (га —т)-мерное векторное пространство v (g) =Rn П ix: x • gi = 0 для i = 1, ..., т). Вспоминая 2.7.16F), заметим, что i>+@n) = Y*, n-m, потому что *>(?)=?[*>(V)] для^еО(тг). Если ^ е= О(и) и 0 < s < 1, то X [0г оо, v (g), s] = R" П (ж: «"• .2 (^-^iJ < k i=l j=m+l Для j = m+ I, ..., и и 0<r<°°, 0<f<l зададим множество , г)П\х: (Г2- l) Д (* Обозначая о (s) = s (re - m)i/2 [l+(n-m- 1) s2]72, воспользуемся равенством [о(s)]~2 — 1 = (s~2 — 1) (n — тп)~1, чтобы вывести включения U Y}(r,gfs)^A(]X[Ollr,v(g),s)cz U Y)lr,g,o(8)]. i=m+l j—m+l Каждому номеру у = m + 1, ..., /г сопоставим теперь множество Bj всех таких g е О (/г), что для некоторого б > О lim sup Ф [Y} (г, ?, 01 г~тГт = 0, t^0+ 0<г<6 и множество С$ всех таких g ^ О(п), что для всех б > 0 lim sup sup ф [Y] (r, g, t)] r~mt~m = oo. i-*0+ 0<r<6 Замечая, что o(s)/s ->¦ (n — m)Ui при s->0+, получим следующие два утверждения. n Ясли #е П #л го выполняется A) гарм У = у(^). Если g^ U С,-, го выполняется B) n/w У = ^(?). j+l jtn+l Зададим также множество D = О(и)П {g: 0^Clos[i4 П v(g)~\). На
§ 3.3. СТРУКТУРНАЯ ТЕОРИЯ 311 основании того, что 0(л)\[( П [ \j=m П jW.U iW] U m+l / \]=т+1 ) J мы планируем завершить доказательство, показав, что в„[О(п)\(В; U С, U ?>)] = 0 для / = т + 1, ..., п. Начиная с этого места, фиксируем /, обозначим через | харак- характеристическую функцию множества O(n)\(Bj U С, U D) и рассмот- рассмотрим подгруппу Н = О(п)П {h: h(ef) = e{ для т<гФ]} с мерой Хаара а такой, что а(Н)=1. Замечая, что D, Bs, С3 — сус- линские множества, что следует из 3.3.3 и из очевидной модифи- модификации п. 3.3.2, применим 2.2.12 и 2.6.2, чтобы получить равенство 6П [О (n)\(Bj U С, U D)] = JI dQn = = J j Kg'fydQngdah = J ji(?ofe) daAde^. Таким образом, достаточно доказать, что j \(gоh)dah = 0 для любого geO(и). Фиксируем теперь ife О (га) и заметим, что соответствующий внутренний автоморфизм группы О (и), который сопоставляет g « h° g~l точке h, отображает Н на подгруппу К = О(п)П{к: k(gi)= gi для m<i?=}} и переводит меру а в меру Xaapa ^ группы К такую, что $(К)— 1, а значит, Обозначая через X векторное подпространство размерности m +1, порожденное векторами gj, gt, ..., gm, рассмотрим коммутативную диаграмму X X —^ ©2Х U U U U 1?" \ feer 9-н.- Х\{0} —^*- U T(U), где U, Т определены, как в 3.2.28D) и m ?(*)-(*-ft) ft + S («-ft) ft w (x) = а;/1 х] для ж е X
312 гл. з. спрямляемость Положим также / = Т о w « glRn\ker q: Rn\ker q -+ T(U), F:K-+T(U), F(k) = T[k(gj)] для k^ Принимая во внимание, что сужение является изоморфизмом, ото- отображающим К на ортогональную группу пространства X, видим, что группа К действует изометрично и транзитивно на T(U). По- Поскольку T(U) компактное m-мерное подмногообразие класса 1 пространства ®гХ, мы видим, что e/6m^-T{U)—радонова мера, инвариантная относительно действия группы К, и выводим из 2.7.11B), что Заметим далее, что отношения Ж"[Т (U) П В (г, t)]/[a (иг) Г], соответствующие точкам z^T(U) и числам 0 < t < <», на самом деле не зависят от z, в силу инвариантности относительно дей- действия группы К, и стремятся к 1 при t, стремящемся к 0, согласно 3.2.19. Отсюда следует, что можно применить 2.9.17 с заменой <р на ЖтУ-Т(Щ. Для каждого натурального v рассмотрим меру ф, на T(U), за- задаваемую формулой sup 0<r<l/V для любого iS <= T(U). Полагая P4-T(U)[){s: <?? = T (U) П {z: lim sup tfc [U (zf t)] t~m = oo}, i?, = /pnU@, l/v)\kerg], заметим, что ^[Г(?/)\Дт] = 0, и выведем из 2.2.13, 2.9.17, что Поскольку i|\Ssi|Vn, Р»сРу-ц, ^v=>^v+i, iiv^JRv+i, положим также Р = U Pv, Q = П Qv, R = П R* V=l V=l V=l и проверим, что П (P*U<M}Rv)<=PUQUR* V=l а значит, Жп[Т{1/)\(Р U <? U R)] = 0, откуда следует, что
§ 3.3. СТРУКТУРНАЯ ТЕОРИЯ 313 Далее с помощью п. 3.2.28D) находим, что U П T-*XJ[F(k), t] = U П {х: 1 - [х • k(gj)f < f2} для любых к^ К и. О <t< °°. Отсюда следует, что А П U@, г)П /-'U [F(k), t] - Ys(r, k°g,t), как только 0 < г < °°, потому что для каждого 2e4(lU@, r) три неравенства эквивалентны. Следовательно, ty,V[F{k),t}= sup <plYi(r,k°g,t)]r-m 0<r<l/v для каждого положительного целого v. Отсюда делаем вывод, что Р-ЧР) = КП{к: k°g^B,), F Далее заметим, что = {x: q(x)/\q(x)\*=±(k*g)j)c::v(k*g), из F(k)^Rv следует ЛПЩО, l/v)n v(k°g)?= 0 для любых и любого натурального v. Поэтому Наконец, приходим к выводу, что 3.3.5. Лемма. Если E<=Rn, p^O*(n, m), r>0, 0<s<l и Е П Х(а, г, kevp, s)=0 для любого ае=Е, то каждое подмножество множества Е диаметра, меньшего г, содер- содержится в образе некоторого липшицевского отображения /: Rm ->¦ R" такого, что Lip(/)<s~' и p°/ = lRm» поэтому множество Е счетно т-спрямляемо. Доказательство. Предположим, что S czE, diam S <r, и вы- выберем проекцию osO*(n, п — т) так, чтобы img* = ker/?. Если a, b^S, то \Ь — а\ <г, но ЬФХ.(а, г, ker/?, s), следовательно, а) | > \Ь - а|, (s-^ - 1) 1р(Ь - а) |г > \q(b - а) \\
314 ГЛ. 3. СПРЯМЛЯЕМОСТЬ потому что Ы2= \р{х)\г + \q(x)\z для же-R". Таким образом, ото- отображение p\S однолистно, Применяя 2.10.3, расширим отображение дс(р15)~' до отображения g: R»->-Rn-m такого, что Lip(?)<(jr2-1I/2, и легко проверим, что отображение / = р* + (q* ° g) является рас- расширением отображения (p\S)~l с требуемыми свойствами. 3.3.6. Лемма. Если А — вполне (ф, т)-неспрямляемое множество в пространстве Rn, peO*(n, m), 0 < s < 1, К > 0, б > 0 ц <р[4 ПХ(ж, г, кетр, s)]<Xa(m)rmsm любых isi u 0<r<6, то ф(Л ПВ(а, 4p/s)n/?-iB|>(a), p])<2-(84)m-Xa(m)pm любых osR" ц 0<р<s6/24, a следовательно, Доказательство. Предполагая, что а е= R™, 0 < р < s6/24, положим е = s/4, В = А П В (a, p/eJflp-'BIXfl), p], С = 5П{а;: 5ПХ(ж, », кег/?, г)?* 0} и выведем из 3.3.5, что множество В\С является т-спрямляемым, и поэтому у(В\С) = 0. Для каждого х^С положим y — x\: yeBflX(i, °°, ker/?, е)} и заметим, что 0 < h (x) < diam 5 ^ 2р/е. Поэтому U В[р(а:),еЛ(а:)/5]с:В[р(а),7р/5], а значит, согласно 2.8.5, получаем счетное множество D^C такое, что шары {В[р(х), eh(x)/5]: x^D) не пересекаются, р(С)сг cr (J В[/»(ж), zh(x)] и отображение »|Z) однолистно. Ввиду ТОГО, ЧТО 2 а (т) [ей (ж)]т < 7та (т) рт, достаточно будет показать, что Ф(С Пр-'В ]>(*), ей(ж)]) <2 ¦A2)mXa(m)[Eh(x)fl для каждого ге]9. Для этого фиксируем теперь точку з<=Д выберем точку оо, кетр, е) так, чтобы 41 у- х | > ЗА (ж),
§ 3.3. СТРУКТУРНАЯ ТЕОРИЯ 315 и заметим, что \р(у — х) I < г\у — х\ «S eh(x). Мы утверждаем, что СПр-'В[р(х), eh(x)]<=X[x, 3h(x), кетр, s]\iX[y, 3h(x), kerp, s]. Действительно, если z е С и \p(z — х) I < th(x), то или \z — х\ < h(x), или z<?X(x, °°, ker/?, г), \z — х\ < е~*[р(г — г) I «S /г(ж), поэтому всегда \z-x\ <A(x), U-y| <|z-a:l + \у~х\ <2h(x). Кроме того, \p(z-x)\ + \p(z -y)]< 2\p{z -x)\ + \p(x-y)\<, <ЗеЬ(х)<4:г\у — x\ = s\y — x\ <s\z — x\ + s\z — y\, откуда или \p(z — x) I < s\z — x\, или \p{z — y)! < s\z — y\, и z при- принадлежит вышенаписанному объединению. Проверив таким образом наше утверждение, дважды применим условие теоремы при г = 3h (x) «S бр/е = 24p/s «? б, чтобы вывести, что ф-мера объединения не превосходит 2ка(m) [bh (x)]msm = 2 • A2)тХа(т) [eh (x) ]т. Второе заключение теоремы является следствием первого, пото- потому что А П В (а, р) <= В. 3.3.7. Следствие. Если А — вполне (ф, т) -неспрямляемое множе- множество из пространства R", реО*(п, пг), 0 < а < 1, К > 0 и ср[А ПХ(ж, г, ker/?, s)]O.a(m)rmsm всякий раз, когда х^А, г>0 и 0<s<o, го 2-(84)т-Л ••2*" Доказательство. Предположим, что множество А ограничено. Если 0<р^(odiam.A)/4, то выполняется условие п. 3.3.6 при s = = 4p/diam^4 <оий = «|. Для каждой точки а^А верно также, что А<=В(а, di&mA) = B(a, 4p/s), поэтому из п. 3.3.6 следует, что Задавая радонову меру г|з аа Rm формулой itE') = inf {^(ф'-Л) (Г): S<=T, T — борелевское множество) для ScR™ видим, что t|)[B(z, р)]<2-(84)П2""[В(г, р)] всякий раз, когда ze=p(A) и 0 <p<(adiam.4)/4, а затем,
316 ГЛ. 3. СПРЯМЛЯЕМОСТЬ применяя 2.9.15 и 2.9.7, приходим к выводу, что Ф (А) = ф (А) ] < 2 • (84) т%3?т[р (А) ]. 3.3.8. Лемма. Если В— вполне (ф, т)-неспрямляемое множество в пространстве R", р е О* (га, тп) и для каждой точки х<=В сущест- существует такое число 6 > 0, что lim sup ф [В Г) X (х, г, кет р, s)] r~ms-m = О, s->0+ 0<г<6 то ф( Доказательство. Для любого натурального i обозначим через множество тех точек х^В, для которых lim sup ф [В Г) X (х, г, ker p, s)] r~ms-m = 0. + 0<r<l/t Выберем также такое счетное семейство Ft, что UF< = Bt и каждый элемент семейства Ft имеет диаметр, меньший Hi. Поскольку В — объединение всех множеств Ви нам надо только показать, что каждый элемент каждого из семейств F< имеет ф-ме- РУ 0. Для заданных множеств Ee=Ftvi числа X > 0 свяжем с каждым положительным целым / множество С,- в пространстве Rn, состоящее из всех точек х, для которых у[Е П X(х, г, kerp, s) ] < Ы(гп) rmsm, как только 0< г< 1/i и 0<s< 1//. Из доказательства п. 3.3.2 сле- следует, что множество Ct замкнуто. Для каждой точки х е Е П С) вы- вышеприведенное неравенство выполняется, как только г>0 и 0<s< < i/j, потому что diami? < 1/i. Следовательно, 3.3.7 дает, что Ф {Е П С,) < 2 • (84) ™%Sm[p (ЕПС,) ]. Поскольку множества С} образуют возрастающую последователь- последовательность, объединение которой содержит Е, можно применить 2.1.3D) к мере ф L E и получить, что ц>(Е) = lim Наконец, заметим, что 2?т[р(Е)]< °°, а число X может быть вы- выбрано произвольно малым, следовательно, ф (Е) = 0. 3.3.9. Лемма. Если А с: Rn, ф (А) < °°, р е О* (п, т), В с: R" ц lim sup sup ф [Л П X (я, г, ker p, s)] r-ms~m = оо »-»0+ 0<г<6 для любых jefl ц б > 0, го ^""[р(S)] = 0. Доказательство. Поскольку Х(ж, г, ker/?, s)<=j7"iU[p(a;), rs] для любой точки х е R" и положительных чисел г, s, из условия леммы следует, что lim sup р# (ф L A) U [р (ж)г rs]/(rs)m = оо (Юсоо)
§ 3.3. СТРУКТУРНАЯ ТЕОРИЯ 317 для любого iefl. Задавая радонову меру ф на пространстве В.т формулой if(iS) = inf {/>+(ф1--4) (Т): SczT, T — борелевское множество) для любого S с: Rm, видим, что limsup ф [В (z, р)]/2"" [В(z, p)] = оо р->о+ для каждого ге/)(В), и,применяя 2.9.5, получаем,что 3Sm\p(В)] = 0. 3.3.10. Теорема. Если А — вполне (ф, тп)-неспрямляемое суслин- ское множество из пространства В." такое, что ф (А) < °° ц Зля г е <= {1, 2,3} Si является множеством всех пар (а, V) е А X G(n, n — m) r удовлетворяющих условию (i) п. 3.3.4, то = 0, G(n, /г-то)\(SZU5,)] = 0, ц для каждого р^О* (п, тп) выполняются утверждения ф{а: (а, kerp)e,S1} = 0) ^"[pb: {a, kevp)^S2}] = 0, pia: (a, ker/?)s S3) cz {у: А П /?~'{г/} бесконечно). Кроме того, для Qn<m -почти всех р е О* (и, то) выполняется ра- равенство П {а: (а, кег р) Ф S2 U 5,}] = 0. Доказательство. Для каждого реО* (и, то) применим 3.3.8 при В = {а: (a, ker/^e&J, 3.3.9 при В = {a: (a, kerpjegj и заметим, что (а, кег/>)е?, тогда и только тогда, когда а является предельной точкой множества А пр~*{р(а)). Убедившись с помощью 3.3.2, 3.3.3 в том, что Sit 52, S3 являют- являются ф X Yn, n-m-измеримыми множествами, применим пп. 2.6,2 и 3.3.4, чтобы вычислить (ф X уп.п-т) E0 - j Ф{а: (а, V) е= Sx) dyn,n-mV = 0, (ф X Vn,n-m) [A X G (я, п - то)\Eх U 5a U S3)] = J Yn,n-m {F: (а, У) ф Sx U 52 U ^з> ^Ф« = 0» л J л и отсюда заключить, что 0 = (ф X уп,п-т) [AxG К п — m)\(S2 [j Ss)] = = J Ф [4 П {«: (а, V) ф S, U 3.3.11. Конкретный пример, иллюстрирующий 3.3.10, в котором (Ф X fn, n_m)[A X G(», n - т) \5J = 0,
318 ГЛ. 3. СПРЯМЛЯЕМОСТЬ можно найти в 3.3.19. Однако автору не известно ни одного приме- примера, В КОТОРОМ (ф X 4n,n-m)S3 > 0 *). 3.3.12, Теорема. Пусть Е — такое суслинское множество из про- пространства R", что ц>(Е)< °о и Ьп,т-почти все р^О*(п, тп) обладают ¦следующими двумя свойствами: (I) 2"п[р(В)] = О, как только В<=Е и фE) = 0. (II) Множество Епр'Чу) конечно для 9?т-почти всех jeR". Тогда существует такое счетное гп-спрямляемое борелееское мно- множество R в пространстве R", что множество E\R вполне (ф, тп)-не- спрямляемо и &m[p(E\R)] = O для Ъ*п,т-почти всех р^О*(п, тп). Доказательство. Согласно1 3.2.14 существует такое счетно тга-спрямляемое борелевское множество R, что множество E\R впол- вполне (ф, тп)-неспрямляемо. Полагая A=E\R, с помощью 3.3.10 нахо- находим, что для в„1Я1-почти всех р^О*(п, тп) свойство (I) влечет ра- равенство &т[р(АП{а: (а, кег/?)?& U а свойство (II) — равенство &т[р{а: (а, кег/?)е&}] = 0. Поскольку мы знаем также, что &т{р{а: (a, ker^eSj] = 0, делаем вывод, что 9?т\р (А) ] = 0. 3.3.13. Теорема.Если Е<= R", Жп(Е)<°<> и 1<К», то сущест- существует такое счетно тп-спрямляемое борелевское множество R в про- пространстве R", что множество E\R вполне C@т, т)-неспрямляемо и y?(E\R) = 0. Кроме того, Жп (Е) = 3? (Е) тогда и только тогда, когда множество Е является (Ж, тп)-спрямляемым. Доказательство. Поскольку меры Жт и &? борелевски регуляр- регулярны, нам нужно рассмотреть только тот случай, когда Е — борелев- борелевское множество. Каждая проекция р^О*(п, т) обладает свойствами (I) и (И) п. 3.3.12, потому что из 2.10.11 следует, что ЦР\В, у)&2ту для каждого борелевского подмножества В множества Е. Значит, первое заключение теоремы вытекает из 3.3.12 и 2.10.5. Кроме *) В качестве примера можно взять т = 1, га = 3, <р = Ж1, А — круг.— Примеч. пер.
§ 3.3. СТРУКТУРНАЯ ТЕОРИЯ ТОГО, <ло (Ь) = и t \tli [ I it) + do \Ej \ti) = a % \bj) + от» (^ \"/ в силу 3.2.26, из чего следует второе заключение. 3.3.14. Теорема.Если E<=Rn и 3rZ(E)<. оо, то множество Е яв- является {3/'ж, тп)-спрямляемым. Доказательство. Поскольку мера ^™ борелевски регулярна, нуж- нужно рассмотреть только тот случай, когда Е — борелевское множество- С помощью 2.10.15 находим, что Qn,m -почти все реО* (п, тп} удовлетворяют условию оо > 3TZ (Е) > J N (р | Е, у) dSmy% и, следовательно, обладают свойством (II) п. 3.3.12. Задавая ?«, так же, как в 2.10.5, выберем борелевские разбиения Ни Hz, Н„ ... множества Е, как в 2.10.8 (с заменой А на Е), такие, что каждый элемент разбиения Hi+i содержится в некотором эле- элементе разбиения Н}. Положим Р= U U О*(п,тп)[\{р: заметим, что вп>т (Р) = 0, и покажем, что каждая проекция р е еО*(в, тп)\Р обладает свойством (I) п. 3.3.12. Всякий раз, когда проекция р^О*(п, т)\Р, множество J3cr с: Е, ^™ (В) — 0 и е > 0, существует такое открытое множество U в пространстве R", что BcEftU и У™(ЕГ\и)<е, потому что мера ^« L Е является радоновой. Для каждого нату- натурального / рассмотрим семейство С3 = Я^П{5: S<= U) и применим 2.10.8, чтобы вывести, что Поскольку множества UG, образуют неубывающую последователь- последовательность с объединением Е П U, отсюда следует, что 2т IP (В)] < 2т [р (Е П Щ) = lim^m [р (U G,)] < е. j-*oo Поэтому 3.3.12 дает такое счетно /»-<спрямляемое множество Д, что ^™(?\Д) = 0. 3.3.15. Теорема. Если W<=Rn, ф(И^)<оо п G*m(9L^,a;)>0 для (р-почти всех х& W, то существует такое счетно (ф, гп)-спрямляемое
320 гл. з. спрямляемость и (^-измеримое множество Q, что множество W\Q вполне (ф, m)-we- спрямляемо и &m[p(W\Q)] = 0 для %*п,т-почти всех ре О* (п, тп). Доказательство. Зададим радоиову меру ц на Rn формулой \i (S) = inf {ф (W П Т): S <= Т, Т — борелевское множество} для любого S <= R" и рассмотрим борелевские множества Et = Rn П {х: 6*M((i, x)> i-1}, «оответствующие всем натуральным i. Применяя 2.10.19C) и 2.10.11, находим, что *р (В) > 9>п (В) > J Л" (р | В, у) для каждого борелевского множества ВаЕ{ и каждого р е О* (и, то), и делаем вывод, что условия п. 3.3.12 выполняются с заменой ф, Е на \i, Ei. Следовательно, Et содержит такое счетно тга-сорямляемое борелевское множество R{, что множество Et\R{ вполне (ц, т)-пв- спрямляемо и '2?m[p(Et\Rt)] = 0 для в^,т-почти всех р^О*(п, т). Полагая F=W\\J Еь Q-F[) U Rit i=l i=l завершим доказательство, заметив, что ф (F) = 0, W\Qa U i и каждое из множеств WftEARt вполне (ф, тга)-неспрямляемо. 3.3.16. В 3.3.13 можно заменить меру Жт любой из мер 9"т, $т, QT- Соответствующие модификации в доказательство легко вносятся с помощью 2.10.6, 2.10.8, 2.10.10. Комбинируя 3.3.14 и 3.2.26, получаем следующее утверждение. Если ?<=Rn и У™(Е)<<х>, то 3?{Е) = ЗГ2(Е) для 1<*<оо. Автору неизвестно, является ли условие ^™ (Е) < оо действи- действительно необходимым, потому что непонятно, можно ли меру 9*5, в 3.3.14 заменить мерой &? при 1<К», Согласно 3.3.15 и 3.2.19 отрицательное решение этого вопроса будет эквивалеатно построе- построению такого компактного множества Е в пространстве Rn, что 37(Е)>0 и Qm{2f?[_E, a)-0 для хе=Е. В [BJ 2] эта теория была обобщена с пространства R" на боль- большой класс однородных пространств.
§ 3.3. СТРУКТУРНАЯ ТЕОРИЯ 321 3.3.17. Теорема. Если ?c=R», <р(Я)<оо, с=2~*•(84)-m и для очти всех точек а^Е существуют такие FeG(n, n — то) и 0< ; s < 1, чго O*'"[cpL?nX(a, во, V, s), a]<csme*m(<pL-E, a), \о множество Е является (ф, то)-спрямляемым. Доказательство. Зададим радонову меру tp на R" формулой т\- (S) = inf {ф (Е П Т): 5сУ, Г — борелевское множество} ия любого S <=¦ R" и выберем такое счетно то-опрямляемое борелев- soe множество R, что множество R"\i? вполне (г|?, то)-неспрям- 1емо. С любыми реО*(в, m), 0<s<l, Я>0, fi>0 свяжем множест- В(р, s, Я, б), состоящее из тех точек seR", которые удовлетво- 1ют условию iiX(a, r, кетр, s)]/[a(TO)rmsm]^A.<c6*m(i|), a) fiH любого 0 < г ^ б. Из наших условий следует, что ф-почти пол- полостью Е содержится в объединении всех множеств В(р, $, А., б). _эоме того, это объединение совпадает с объединением счетного се- ейства множеств B(q, t, ц, е), соответствующих числам t, \i, e^Q проекциям q e Z), где D — счетное всюду плотное подмножество ространства О*(га, то). Действительно, для заданной точки ае iB{p, s, X, б) можно так выбрать е, |jt, t, q, что 0<е<6, Х<ц<св*т(Ц, a), 0<t<$, ричем Х$т < ц1т, Wq — p\\<$ — t, откуда Х(а, оо( ker g, t)cz tX(a, °o, kerp, s), и вывести, что a^B(q, t, ц, е). Мы завершим доказательство проверкой следующего утвер- Если реО*(в, то), 0<s<l, %>О, б>0 и А=В(р, s, %, 8)\R, то фD) = 0. Сначала, применяя п. 3.3.6, получим, что cQ*m(i\>L-A, a)^X для любой точки as=R\ Далее из 2.8.9, 2.8.18, 2.9.11 выведем, что для ijj-почти всех точек а^А выполняется равенство lim if [В (а, г) П Ауу [В (а, г)] = 1, и поэтому с&*т{у, а) = с@*т(^^-А, а)<Х. Поскольку с9*т(т]5, а)>Х для любой точки а^А, делаем вывод, что Ч(А)О ) 3.3.18. Теорема, обратная к 3.3.17, не верна (как можно уви- увидеть из простых примеров, в которых множество s^tq> счетно), но выполняется следующее утверждение. 21 Г. Федерер
322 гл. з. спрямляемость Если Е является (ф, т)-спрямляемым множеством из простран- пространства R", то Q*m (ф L Е, а) > 0 для (р-почти всех точек а <= Е. Кроме того, если Q*m((fl-E, a)<°° для ц>-почти всех а*=Е, то ^-по- ^-почти все точки а^Е обладают тем свойством, что Ta.nm((f^-E, а) яв- является m-мерным векторным пространством и вт(ф1-ЯпХ[а, оо, Nar-(<pl-E, а), s],a) = O для любого 0 < s < 1. Чтобы проверить это, зададим меру if> так же, как в доказатель- доказательстве п. 3.3.17, и обозначим через R какое-нибудь компактное то-спрямляемое множество из пространства R". Поскольку Жт(Л)< < оо, из п. 2.10.19A) следует, что Кроме того, рассмотрим множества Rt = R П {a: i~l < 0*m (if, a) < i), соответствующие всем натуральным t, и из 2.10.19C), A), D) по- получим, что i-la%m(S)^q(S)<2mi3@m(S) для любого S<=Rit em(i|)l-RnVRi, a) = 0 для tp-почти всех a^Ru Применяя 3.2.19, приходим к выводу, что для 1))-почти всех a^Rt Tanm(i|), а) = Тапт(т]I-Д4, а) = Тапт {Жт L Rt, a) является m-мерным векторным пространством. Для каждой такой точки а последнее из доказываемых утверждений вытекает из 3.2.16, потому что множество Rnn{v: s-'distty, Norm(tp, a)]s? |r| «= 1} является компактным подмножеством множества Rn\Tan'n (г|?, а) для любого 0 < $ < 1. 3.3.19. Рассмотрим конкретный пример, иллюстрирующий неко- некоторые аспекты теории вполне C@\ 1)-неспрямляемых множеств из пространства R2. С каждым замкнутым кругом D = В (z, г) <= R2 = С и каждым на- натуральным п свяжем семейство Fn(D), состоящее из п кругов соответствующих числам к = 1, 2, ..., п. Заметим, что наименьшее расстояние между центрами разных элементов семейства Fn (D) рав- равняется 2(l — n~i)sm(n-ln)r и что никакая полуплоскость, ограни- ограниченная прямой, проходящей через центр круга D, не может пере- пересекаться более чем с п/2+ 1 элементами семейства Fn{D).
§ 3.3. СТРУКТУРНАЯ ТЕОРИЯ 323 По индукции построим семейства G4, Gs, G«, ... замкнутых кру- кругов, полагая Q, I)], Gn = U{Fn(Z)):JDeGn_1} для п>Ъ. Таким образом, для любого целого п > 4 семейство Gn состоит из п!/3! кругов радиуса ря = 3!//г!, и наименьшее расстояние между различными элементами семейства Gn равняется > 2p,{(n- lJn-4 —1] = 2р.A -2n-!)> p», потому что sin(x)>2a:Ari при 0<х<п/2. Затем рассмотрим ком- компактное множество Понятно, что Ж (A) «S2, потому что 2 diam 5 = 2 для п = 4, 5, 6, ... Далее докажем, что @ По заданному числу 0 < К < п можно выбрать б > 0 так, что для любого целого п > 4 из условия р„ ^ б вытекают неравенства п>Ь, (п — 1)вт(п-4я)>Я,, Задавая функцию ^4 так же, как в 2.10.5 при т = 1, покажем, что 2Ei()> для любого счетного покрытия Н множества А, состоящего из от- открытых выпуклых множеств S таких, что diam 5^6. Поскольку множество А и все UGn компактны, можно предположить, что по- покрытие Н конечно, и выбрать целое v так, чтобы каждый элемент семейства Gv содержался в некотором элементе покрытия Н. Кроме того, можно предположить, что каждый элемент покрытия Н содер- содержит некоторый элемент семейства Gv. Для каждого целого п ~> 4 зададим меру г|)„ на R2 формулой для любого Т <= R2, и заметим, что if>n > ipn+i- Если S е Н, то или S пересекается с единственным элементом D семейства Gv, откуда D с S и из 3.2.13 следует, что = а B) pv = npv = jupv {S) > fojJv+i {S)t 21*
324 ГЛ. 3. СПРЯМЛЯЕМОСТЬ или S пересекается не менее чем с двумя элементами семейства Gv, и тогда существует такое наименьшее п, что 4 < п < v и S пересека- пересекается не менее чем с двумя элементами семейства Gn. Рассматривая далее вторую возможность, получим, что р„ < б, п ^ 5, и S пересе- пересекается с единственным элементом Z) = B(z, pn_() семейства Gn-t. Нам понадобится радиальная ретракция (см. 4.1.16) /: R2-*? = B(z, p»_i-p.) такая, что Lip(/)=1, f(x) = x для х^Е, f(x) = z + (pn-i — р„) (х — z)/\x — z\ для x^R2\E. Для каждого круга B^Gn обозначим через с (В) его центр. Для лю- любого круга В, пересекающегося с S, можно выбрать точку подчиненную добавочному требованию f[%(B)] = c(B) в случае, когда c(B)e=S. Отсюда следует, что ЛЧ>.+1(Я П 5)<A - w-1)sin(w-1n)pn_1 - 1/[1E)] - с (В) I, потому что или сE)е5, f[%(B)] = c(B) и или с (В) &S, B0S содержится в полуплоскости, ограниченной пря- прямой, проходящей через с (В) и Поскольку граница Bdry S является простой замкнутой кривой, мож- можно упорядочить все те элементы семейства Gn, которые пересекают- пересекаются с S, в последовательность Ви ..., Вт (для которой т ^ 2) так, что соответствующие точки %(Bi), ..., %(Вт) расположены в естест- естественном порядке на Bdry 5. Полагая Во = Вт, из 3.2.35 и 2.10.13 по- получаем, что 2?х (S) = Ж1 (Bdry S) > 2 | \ (В}) - m m > .2 I / [g (^)] - / [E E,.,)] I > g (I С (Я;) - С (?,-_!) | - m 2 2 (A - и) sin (Л) pn_! - I / [| (Д,-)] - с (B}) [) з—l > 2 2 a-W(flj П5)
§ 3.3. СТРУКТУРНАЯ ТЕОРИЯ В соответствии с этим находим, что, как и утверждалось, 2 йен Поэтому Q\{) Поскольку произведение PtB, I) Q\(A) не убывает по ? на промежутке 1 < ? ^ °° и в то же время, как только что было по- показано, Рсо B, 1) Ql (А) = ЖЦА)^2 = рх B, 1) я < Р: B, 1) Q\ (A), приходим к выводу, что ЬB,1)$](А)=2 при 1 в частности, Ж1 (А) = 2 и Q\{A) — п. Отсюда получаем, что для каждого целого п > 4 выполняется равенство Ж1 {А Л Я) = 2р„ и #1 (Л П 5) = пр„ для любого В е Gn, потому что 1/р„ множеств А пВ, соответствующих всем В е Gn, кон- конгруэнтны и образуют разбиение множества А. Поскольку множества {А О В: BeG» для некоторого п > 4} образуют базис относительной топологии множества А, отсюда следует, что (Ж1 L А)/2 = (?} L А)/я. В соответствии с этим, согласно 3.2.26, множество А вполне (Ж\ 1)- неспрямляемо. Для п>5 зададим отображение цп: UGn-^S1 формулой ц„(х) = (х — z)/\x — z\, как только x^UGn, x^B(z, p,.,)eGn.|. Тогда Ж*-почти все точки а^А обладают тем свойством, что мно- множество ir]n(a): п>\) всюду плотно в S1 для каждого целого v>5. Действительно, для любой замкнутой собственной дуги / cz S1 рас- рассмотрим семейства Кч = Gv и Кп = U Fn (D) П {В: ты E) f] (S^/) ^= 0}, соответствующие всем п>\. Поскольку a = 5#1(S1\/)/2n< 1 и Ж (А П U Кп)^ Ж1 (А П U Кп-,) ¦ (а + 2/п) для п>\, находим, что множество А П П {«: iln(a)^/}c= П (^ П U X») Ti>V n>V имеет 5^'-меру 0. Для Ж1-ш>чтя всех точек а&А неравенство А ПХ(о, о», У, »)]>1/Bя)
326 гл. з. спрямляемость выполняется для любых V<=GB, 1) и 0<s<l. Ввиду предыдуще- предыдущего абзаца достаточно показать, что для любого достаточно большого целого п существует такое положительное число t < 2р„_!, что отно- отношение Ж[АпХ(а, t, {х: х• tj»(а) = 0), $)]/Bt) ненамного меньше, чем 1/Bзт). Для доказательства этого положим S(z, r, и, f) = B(z, г)П ix: (х —z)-u> r cos (f)} для любых zeR2, r>0, k^S1, 0 < f < я и заметим, что отношение ДГ[ЛП5(я, р..,, и, близко к у/п в случае, когда В (z, pn_i) ^ Gn-i и /г велико. Предпола- Предполагая, что а е Л, а е= В (z, pn-i)e Gn-i, V = (ж: ж • Т1„ (а) = 0>, 0<а<я/2, sin(a) = «, 0<Р<я, cos(P)= 1-2/ге, легко проверить, что S[z, p'n-i, T)n(a)exp(ia), a]\S![z, р„_„ т)„(а), р]с:Х(а, 2pn_,«, F, s). Если п велико, то fi мало и отношение Ж[АПХ(а, 2pn_lS, V, «)]/Dp»-,*) ненамного меньше, чем а/Bл«)> 1/Bя). Возвращаясь к обозначениям п. 3.3.10, из вышенаписанного не- неравенства получаем, что ЧА\ V а поэтому 3>l[p(A)] = 3?i[p{a: (а, кегр)е&}] = 0 для любого е=О*B, 1). Таким образом, &1(А) = 0. Можно показать также, что , а)- 1/2 для «^'-почти всех а^А. 3.3.20. Считая, что 1/2<т<1, применим теперь 2.10.28 с щ = 2 для каждого натурального /, чтобы построить компактное множество Е = А{т, п)ХА{т, w)c:R2. С помощью 2.10.27 и начального замечания п. 2.10.29 находим, что Поскольку 3?\А (т, и)] = 0, из 3.2.27 выводим, что Е является впол- вполне C@\ 1)-неспрямляемым, а значит, и вполне (ffim, 1)-неюпрямля- емым. Из 3.3.14 и 3.2.26 следует, что у множества Е нет подмно- подмножеств конечной и положительной 3\о-меры. Поэтому из проекцион-
§ 3.3. СТРУКТУРНАЯ ТЕОРИЯ 327 пых свойств, доказанных ниже, будет следовать, что &\о (Е) = оо в случае т > 1/2. Такое поведение меры Э\> контрастирует с более гибким поведени- поведением меры Ж1, обсуждавшимся в 2.10.48. Мы покажем также, что У1 (Е) = 3/У5 и Ж (Е) = У2 в случае т = 1/2. С помощью 2.10.28D) находим, что для J*=F множество Ф(/, 2) состоит из интервалов {%: iniJ^t^ (inf /) + $}, {|: (sup /) - s ^ | ^ sup Л, где s = diam J/2i/m. Положим теперь V(JXK) = {PXQ: Реф(/, 2), (?^Ф(К, 2)} для любых /Де^иш индукции зададим семейства Go = {/X/>, где 1 = Ц: O^l^l}, G, = U{V (Т):Те G;-J для ; = 1, 2, 3, ... Вспоминая определение множества А(т, п), находим, что Е - П U G}. 3=0 С каждой точкой «eS' свяжем проекцию p.sO*B,i), pu(x) = u-xwizz^R2 и заметим, что существует такое положительное число с„ < 1, что для всех квадратов T = JXK, соответствующих отрезкам /, у которых diam / = diam К. Отсюда следует, что = 0, если с„<1, = 5'1CPu(/X/)]= luil+'|u,l, если сц = 1. Если «eS1 и щ > щ > 0, то ри отображает четыре квадрата из V (/ X /) на интервалы где s = 2~1/m. Для того чтобы объединение этих интервалов совпа- совпадало с РиAХ 1) = {%: 0<|<». + !»,}, необходимо и достаточно, чтобы 1 — 2«< w2/mi <«/(! — 2«). Исполь-
328 гл. з. спрямляемость зуя симметрии квадрата / X /, приходим к выводу, что множество U*=Sl1\{u: Cu = l) состоит из тех точек «eS1, для которых или \и2/щ\, или \ujuil принадлежит отрезку с концами 1_2»-'/™ и infH, B1/m-2)-'}. В случае тп > 1/2 этот отрезок невырожденный, поэтому 0< Ж1 (U) = 2яв2* ! {Ри: ме{/}иЛ (Е) >0. В случае пг = 1/2 этот отрезок состоит из единственной точки 1/2, поэтому ||2|| или 1^1 и 2?*[ри(Е)] = 3/У5 для любого u^U. Поскольку семейства {Т0Еъ Т е Gj) образуют борелевские разбиения множества Е, для которых 2\ри(Т П ?)] = при любых Ге^ице^из 2.10.8 следует, что () В случае тп = 1/2 известно, что Ж(Е)<аA) ¦ 2/2 = 21/2. Зада- Задавая меры \|5, на R2 формулой = (У2/4j)card(G;- П {Т: TuS?=0}) для любого iSczR2, заметим, что %(?) = У2 и %^\|>j+i, поэтому не- неравенство 5^' (Е) ^ У2 вытекает из следующего утверждения. Если S cz R2, то diam E) ^ \|>;- E) 9ля некоторого /. Очевидное преобразование подобия сводит доказательство этого утверждения к частному случаю, когда S пересекается не менее чем с двумя элементами семейства Gt, и поэтому diam(S)^ 1/2. Полагая Ri = Gj П {Г: Т П 5 = 0), r, = card Я,- = 4fl - tfc E) /У2], o = l-(diamS)/y и предполагая, что заключение нашего утверждения неверно, вы- выводим, что Г; < А'о для каждого натурального /. Докажем, что это невозможно. Для этого рассмотрим класс Q всех тех четверок (/, X, ц, б), для которых существуют такое семей- семейство К <= Rjt что card К = Я, и такие различные квадраты Ти Т2, ... • • •, ^V-i, Тг„ s Gj\K, что distB12i-1, Г„) ^ б при i = l ц. Заметим следующее. (/, К, ц, 8)ей ц г^ <Я,+ ц, то а < 1 - 6/У2.
§ 3.3. СТРУКТУРНАЯ ТЕОРИЯ 329 Действительно, card {г: Тц-i^Rj или T2i е= Д;} < г, - card К < ц, поэтому diam S^b. Сначала отметим, что л ^ 2 и о «S 1 — 1/BУ2)< 11/16, поэтому п < 11. В случае rt «s 1 из того факта, что A, 0, 2, У 2/2) ей, вытекает, что о < 1/2. В случае rt = 2 имеем: B, 8, 4, И/16) ей и г2<11, поэтому г2<16-11/У2<9, кроме того, B, 8, 1, 7/8)ей, поэтому о < 1 - 7/(8У2) < 7/16. Убедившись таким образом, что 0 < о < 2/4, выберем натураль- натуральное ft, для которого 2/4A+i < о < 2/4*. Но rh+i < 4*+1о <8и (ft + 1, 0, 8, У2-5У2/4Л+1)еЙ, что можно проверить, рассматривая 16 квадратов семейства Gk+i, ближайших к углам квадрата / X /, комбинируя в пары квадраты, расположенные около диагонально противоположных углов. Отсюда можно вывести, что о < 5/4ft+1, а поэтому гк+2 < 20. Рассматривая следующие 40 квадратов семейства Gh+2 около углов квадрата /X/, можно проверить, что (к + 2, 0, 20, У2 - 14У2/4*+2) е й, откуда о < 14/4'1+2 и гА+2 < 14. Аналогично (ft+ 2, 0, 14, Г2-A9У2)/4*+2)ей, поэтому о «SA9/2)/4ft+2 и гк+2 < 10. Наконец, (ft+ 2, 0, 10, У2-2У2/4*+1)еЙ, поэтому о < 2/4ft+i, что противоречит выбору числа к. 3.3.21. Применяя 2.10.28 с числом 0 < тп < 1 и последователь- последовательностью п такой, что щ -*¦ «а при j -*¦ °°, получим компактное множе- множество . E = A{m, n)XA(m, n)<=-R\ для которого 0< Жгт{Е)< оо и &?{9%2т L Е, х) = 0 для 5?2т-почти всех х. Другие поучительные примеры неспрямляемых множеств рас- рассмотрены в [MR 2, с. 285], [MR1, с. 411], [DD], [WG], [МО], [В 1, с. 435, 456, 459], [BU], [BEM], [RJ 2] [В 3], [SP1, с. 184], [FR 1, с. 262], '[FR 2], [ME 2, с. 600], [WA], [S 2], [MAS]. 3.3.22. Развитие теории хаусдорфовой меры было в значительной степени стимулировано проблемой доказательства следующего утвер- утверждения (по существу обратного к первому заключению п. 3.2.19).
330 ГЛ. 3. СПРЯМЛЯЕМОСТЬ Если W <= Rn, m — натуральное число и 0т (Жт L W, w) = 1 для Жт-почш всех w^W, то W является счетно C@т, т)-спрямляемым. Это утверждение было доказано для т = 1 и п = 2 в [В 1]; для ш = 1 и всех п в [ME 1]; для т = 2 и и = 3 в [MJ4]. Более того, метод работы [MJ 4]', по-видимому, может быть модифицирован так, что он будет применим ко всем натуральным т и п. Однако вышеприведенное утверждение является частным слу- случаем следующего, все еще гипотетического, предложения. Если ф — борелевски регулярная мера на Rn, m — натуральное число и О < 0т (ф, а) < оо для (р-почти всех а е R", то Rn будет счетно (ф, тп)-спрямляемым. Это утверждение верно при тп = 1, что доказано сначала для п = = 2 в [MR 2], а затем для всех п в [ME 1]. На самом деле эти ав- авторы показывают достаточность условия 9*х(ф, а) < A,01)9* (ф, а) для ф-почти всех а. Для тп > 1 только частичные результаты были получены в [Ml 5]. Одна из трудностей состоит в том, что, в то время как каждое связ- связное множество С в пространстве R", для которого 3@*(С)<°°, явля- является 1-спрямляемым (согласно [ЕН, теорема 2] и п. 2.5.16), никакое сравнимое утверждение не справедливо, когда тп>1. В 4.2.25 мы увидим, что каждое компактное всюду разрывное подмножество А пространства R3 содержится в таком множестве В, гомеоморфном сфере S2, для которого разность В\А является двумерным подмно- подмногообразием класса °° пространства R3, удовлетворяющим условию Ж(В\А)<°о. Описанные выше результаты не будут ни доказываться, ни ис- использоваться в этой книге. § 3.4. Некоторые свойства многократно дифференцируемых функций 3.4.1. В этой части сначала будет решена следующая задача. По заданным целым &>1 и m>v>0 найти такое наименьшее число $, что для каждой функции f класса к, отображающей открытое подмно- подмножество пространства Rm в некоторое нормированное векторное про- пространство Y. В пл. 3.4.3 и 3.4.4 показано, что $ = v+(m — v)/k. Из 3.2.3 уже известно, что s < тп, если v = тп — 1 и dim Y < °°; однако приводимые ниже рассуждения будут независимы от п. 3.2.3.
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 331 3.4.2. Лемма. Пусть справедливы следующие предположения. A) Y—нормированное векторное пространство. B) Z — векторное подпространство пространства Rm, v = m — -dimZ. C) Каковы бы ни были целые |x>v и k^l, пусть Q(|x, к)— множество тех ц-мерных подмногообразий S класса к пространства Rm, для которых или ц = О, или существует такая проекция р е= е= О* (тп, ц), что кег р с: Z, множество р (S) выпукло и открыто в R", отображение p\S однолистно, отображение (plS) класса к. D) Каковы бы ни были Сс5ей(ц, 1) /: S-+Y, 0<%<°° и б > 0, пусть r\(S, С, f, I, 6) — точная верхняя грань множества, состоящего из 0 и чисел \f(x)-f(c)\/\x-c\\ соответствующих всем ie5, сеС, для которых х — c^Z, 0 < < \х — с\ ^ б. Кроме того, в случае, когда f класса 1, пусть %{S,C,f,-K,b) — точная верхняя грань множества, состоящего из 0 и всех чисел \<z, Df(x)>\/\x-c\\ соответствующих всем x^S, c<=C, z <s Z Л Tan (S, х), для которых x-c^Z, 0<|ж-с|<б, Ы<1. E) Каковы бы ни были CaS^Q(n, 1) и натуральное число к, пусть ФE, С, к) — множество всех отображений /: S-+Y класса к таких, что /(ж)в = 0 для х^С. Кроме того, W(S, С, к) — множество всех таких пар (Т, G), что feflff, 1) для некоторого 1 < ц, Т с S, G — компактное множество, G<= T ПС и т)(Т, G, /|Т, к, б)-»¦ 0 при б -> О + для любой функции /ефE, С, к). Тогда выполняются следующие четыре утверждения. F) Если 5^?2(|л, 1), С—компактное подмножество многообра- многообразия S, отображение /: S -> Y класса 1,1 ^ X < °°, ? (S, C,f,X— 1, б) -*• -»- О при б -*¦ О+, то т)E, С, /, Я, 6)-*- О герм б -> О+. G) ?сли 5ей(ц, А:) и С — замкнутое в S его подмножество, то существует последовательность пар (Т}, Gj)^4f (S, С, к) та- такая, что U 3=1
332 ГЛ. 3. СПРЯМЛЯЕМОСТЬ (8) Если 5ей(ц, 1), С —компактное подмножество многообра- многообразия S, отображение /: S -*¦ Y класса 1, 0 < К < °°, tj (S, С, /, X, б) -*• О при б->0+, и n>v, o = v+((i-v)/X, го 2%a[f(C)] = 0. (9) .Если 5^Й(ц, ft), отображение f: S-*¦ Y класса к>1, C = S(] {x: <z, Df(x)> = 0 для ге Z П , (h-v)/A;, го 5И/()] Доказательство утверждения F). Выбрав проекцию р согласно условию C), заметим, что является отображением класса 1, ретрагирующим множество U = p~l{j){S)] на S, для которого г(х) — х^кетр<= Z, <z, Dr(x)> e=Z при x<=U, z^Z. Для любого достаточно малого б > 0 верно, что V* = ix: dist(a;, С) < 6} cr J7, Д/„ = Lip(rl Fe) < ~. Бели точки x^S и с е С таковы, что x-c^Zh la; — с[ ^ б, то \g(t)-c\ ^Mt\x — c\^Mf8 для 0«Si«Si; g'(*)=<;r-c, Z)r[c + t (x - c) J>eZn Tan [S, g{t)] и I (/•*)'@1-К*'(*).ДЛ* (*)]>!< < \g' (t) 15E, C, f, I -1, ВД [Me | ж - с П^1 < для 0 < t < 1; следовательно, < M^ (S, ал- 1, Me6) 1 ж - с |\ Доказательство утверждения G). Проведем одновременно индук- индукцию по (i (^v) и к (^1). Поскольку С является объединением счетного семейства компакт- компактных множеств, рассмотрим только тот случай, когда С компактно. В случае ц = v > 0 выберем проекцию р согласно условию C) и заметим, что dim ker p = m— jn. = 7?г — v = dim Z, поэтому ker p = Z и не существует различных точек х, с е S, для которых г-ceZ, а следовательно, т]E, С, /, ft, б) = 0 для /еФE, С, ft), б>0.
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ, ФУНКЦИЙ 333 В случае ц = v — О то же самое верно для достаточно малого б, потому что множество S дискретно. В случае \i>v рассмотрим замкнутое множество 5 = СП {х: <z, #/(*)>= 0 для /еФE, С, к), z e= Z П ТапE,ж)} и построим сначала последовательность пар (Uj, /Г,)^\Р (S, С, к) таких, что В = U #;• 3=1 В подслучае к = 1 заметим, что для /еФE, С, 1) t(S,B, /, О, 6)-* 0 при 6 + 0+, потому что дифференциал D/ непрерывен и множество {(х, z): x^S, dist(ж, В)<8, zeZnTanE, ж), |z|^l} компактно для любого достаточно малого б > 0, поэтому из F) сле- следует, что r\(S, В, /, 1, 6)-* 0 при б -> 0+. В соответствии с этим (S, B)sf E, С, 1), и мы положим Uj = S, Hj = В для всех натуральных /. В подслучае к^2 по индукции, применяя G) с заменой к и С на & — 1 в В, получим такую последовательность пар (Uj, #;)e e?(S, S, /с-1),что в = и я,- Выберем также проекцию /? согласно условию C), зададим г, как в доказательстве утверждения F), обозначим через еи • • •, ет-ч ортонормированный базис подпространства Z и свяжем с каждой функцией f:S->-Y класса к функции /4, ..., fm~v: S -*¦ Y класса к — 1 по формуле /({х) = < <<?,-, Dr(x) >, Df(x) > для х е S. Если /ефE, С, А:), то /< е фE, В, k-i) для г = 1, ..., т- v, по- потому что <е„ Ог(ж)>егП TanE, ж) для x^S, и поэтому т) [Uh Н;, fAUt, к - 1, б) - 0 при 6 + 0+ Для каждого натурального /. Кроме того, если x^Uj, z^Z \i< U Tan (С/,-, х), то z e TanE, z) и m-v" Ж)> = «г, Dr(x)>, Df{x)) = 2 (
334 гл. з. спрямляемость Следовательно, m-v 2 H}1 fi\Uj, k-l, и из утверждения F) вытекает, что r\(Us, Hh /1С/;, к, б)-0 при 8-0+. Таким образом, (Uh #,)€=?(?, С, к). Далее покажем, что для каждой точки ? е С\В существует та- такое многообразие Уей(ц-1, к), что FDC является окрестностью точки | относительно С. Для этого выберем функцию /еф(^, С, Л) и точку zeZfi Л TanE, |) такие, что <z, /)/(?)> 4^0, затем применим теорему Ха- Хана — Банаха, чтобы получить непрерывное линейное отображение a:Y-*-R, для которого <<z, D/(|)>, a> ?= 0, и заметим, что F = ao/»(ip|>S)-1: p(S)-*R является функцией класса к, для которой В подслучае ц > 1 выберем также проекцию деО*(ц, |х— 1), для которой kerg = {tp(z): feR}, и зададим отображение g: p (S) -+RX R" класса к по формуле ), q(w)) для w Поскольку kerZ)g[p(l)] = ker.DF[p(!)]n ker q = {0), точка рA) име- имеет такую окрестность W в рE), что отображение g\W является диффеоморфизмом, g(W) = F(W)Xq(W), F(W) является откры- открытым интервалом и q(W) — выпуклым открытым множеством в про- пространстве НИ~Л На основании того, что C<=f~l{0), получаем, что множество является окрестностью точки | относительно С, ортогональная про- проекция q°p отображает V гомеоморфно на q{W), [(q °p) I У] яв- является отображением класса к и поэтому FeQ(n-lt к). В подслучае ц = 1 точка | является изолированной в С, и мы возьмем V = {|}.
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 335- Чтобы завершить доказательство, заметим, что множество С\В сепарабельно, выберем последовательность многообразий Vt & «s Q (ц — 1, к) так, что с\в - и (Yt п с), 1=1 л по индукции применим утверждение G) для каждого i с заменой р,, S, С на ц — 1, F<, F< П С, чтобы получить последовательность пар- (Wt,;, ККj)sip(F<, F<ПС, fr) такую, что V{ П С = U ^ij, i=i откуда (W<, i, K{,}) e4t(S,C,k) и оо оо С\В = U U Ки. il il Доказательство утверждения (8). Выберем проекцию р согласно условию C) и положим Q-*W(\{v: vu=*0 для u< Тогда R» = p(Z)®Qii dim p (Z) = dim Z — dim ker p = ц — v, dim () = v. Предполагая, что г > О, А — компактный (ц — v)-мерный куб со сто- стороной длины г, содержащийся в р (Z), В — компактный v-мерный куб со стороной длины г, содержащийся в Q, если v > 0, и В = @),. если v = 0, и что покажем, что Сначала выберем общую константу Липшица М для сужений: отображений QjIiS) и f°{p\S)~x на множество А +В и положим N = М \х, + МУ. Далее, по заданному s > 0 выберем число б > 0 так, чтобы 11E, С, /, %, в)<8) найдем положительные целые аир, для которых М \хт/а «S б и е (г/а) * «? г/р < 2в (г/а) \ представим Л в виде объединения a"~v компактных (ц —v) -мерных кубов А, со сторонами длины г/а, и представим В в виде объедине- объединения |}v компактных v-мерных кубов Bs со сторонами длины r/{L В случае v = 0 имеем единственный куб В,\ = В = {0}.
336 гл. з. спрямляемость Для каждой пары (i, /) такой, что можно выбрать точки с^С, a Для любого найдем аналогично точки меЛ(, v Тогда для которых р(с)= j, для которых p(s) = u+v. р(х — c) = \х-с\ \f(x)-f(c)\ u — a^ p(Z), х — \f($)-f(x)\<M\v-b\ Отсюда выводим, что diam /[5 П p~l {At + Bt) ] В соответствии с этим приближающая мера порядка 2Nr/$, уча- участвующая в построении меры Ж", принимает на множестве )v [2e Доказательство утверждения (9). В случае А; = 1 заметим, что для каждого компактного подмножества В множества С значение, не превосходящее B,f,O,6) + O при 6->0+, поэтому из F) следует, что , В, /, 1, б)-> 0 при б -*¦ 0+, и утверждение (8) показывает, что (/()] 5 случае к^2 применим G) с заменой к на к— 1, чтобы полу- получить такую последовательность пар (Т,, G,-) e \P (S, С, /с —1), что С= U Gj. Задавая функции /< для г = 1, ..., m — v, как и в доказатель- доказательстве утверждения G), видим, что /(еЕфEг С, k—i), поэтому
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 33? согласно F), Ti (Ти Gh f,I Th к - 1, б) - 0 при б - 0+,. ? (ГЛ Gif /IГЛ А - 1, б) -> 0 при б -> 0+, Tl (Tj, G,, /I Th к, б) -»¦ 0 при б -»¦ 0+ для каждого натурального /. Кроме того, Т,еО(ъ 1>, где v<fi^^ Oj = v 4- (Tfj — v)/A; < v + (ц — v)/k = т. Если fj > v, то из утверждения (8) следует, чте» 3%ajlf(G})] = 0, и поэтому 3@%[f(Gj)] = 0. Если fj = v, то потому что множество /(Gj) является v-спрямляемын: и t>v.. 3.4.3. Теорема. Если m>v>0 и к> I — целые, А — открытое множество в пространстве Rm, В с: A, Y — нормированное векторное пространство и /: А -*¦ Y — отображение класса Л, а dimimDf(x)<\ для х^В, то Доказательство. Предполагая, что ае^и dim imD/(e) =v, пока- покажем, что у точки а есть окрестность U в А, для которой «7I = 0. Сначала применим теорему Хана — Банаха, чтобы получить не- непрерывное линейное отображение L: Y -*¦ Rv, сужение которого на im Dj (а) является изоморфизмом. Выберем также проекцию jeO*(m, m-v), для которой im q* = keri)/(a) и зададим отображение g: A -»¦ Rv X Rm~v класса к, g(x) = (L\j(x)], q(x)) для жеА Поскольку kerZ)gr(a) = kerL°?)/(a)nkerg = {0}, точка а имеет окрестность U в А такую, что отображение g\U — диффеоморфизм и множество S = g(U) выпукло. Отсюда следует, что F = i°{g\U)~l- S-*¦ Y — отображение класса к„ L[F(u, v)] = u для (в, в)е5, для (и, v) е= S, aeR", 22 Г. Федерер
338 ГЛ. 3. СПРЯМЛЯЕМОСТЬ я каждой точке (и, y)eS соответствует коммутативная диаграмма {0} х Ц"'-Г с= 2?vxtfm-v => Яух {0} BF(u,v) l| ker L сг у —^-a- J?v Полагая С = S Л {(ц, у): Z)F(a, у) КО) X Rm~" = 0), получаем, что g(UV<B)<=Sr\ {(и, у): dimimDF(u, v)^v} = C, поэтому f(U[\B)aF(C). С другой стороны, можно применить 3.4.2(9) с заменой ц, /, Z на то, F, {0} XRm"v и получить равенство 3.4.4. Теперь построим примеры, показывающие, что результат предыдущей теоремы является оптимальным: для любого положи- положительного числа f<v + (m — v)/k может оказаться, что 9вл [/(#)] > 0. По заданному положительному числу р < 1/к выберем такое по- положительное а< 1, что $<а/к. Затем построим множества А (а, п) и А (|5, /г) методом п. 2.10.28 с заменой m на а и {J, беря и3 = 2 для каждого натурального /. Обозначая через Яо,j и Яр,} семейства интервалов, фигурирующих при построении множеств А (а, п) и А($, п), заме- заметим, что очевидные сохраняющие порядок соответствия между На, ] и i/p,i индуцируют гомеоморфизм ф: А (а, »)^Л(р, /г). Для любых двух разных точек и, veA(а, п) существует такое наи- наименьшее целое /, что и и у принадлежат разным интервалам в .fla,j+«- Тогда и и у принадлежат одному и тому же интервалу в Haij, поэтому ф(м) и ф(у) принадлежат одному и тому же интервалу в #в| ^ и мы получаем неравенства \u-v\> 2~"а - 2 • 2-«+1>/о, |ф(в)- ф (у) 1 < 2-)/р, Поскольку к<а/$, отсюда следует, что отношение 1ф(и) —ф(у)|/ /\u — v\h мало, когда расстояние lu — v\ мало. Применяя 3.1.14 при Ра(х) = <(>(а) для «ei(a, /г) и ieR, получим отображение g: R -»¦ R класса к такое, что g(a) = (p(a) и gli){a) = 0 для ? = 1, ..., к, для любой точки веЛ(а, /г). Пусть /: Rm->-Rm — такое отображение класса к, что f(x) = y тогда и только тогда, когда yt = z( для i = 1, ..., v и j/< = ?(»<) для
§ 3.4. СВОЙСТВА ДИФФЕРКНЦИРУЕМЫХ ФУНКЦИЙ 339 l, ..., то. Беря B = Rmf\{z: Xi^A(a, га) для i = v + l, .... ..., то}, видим, что = v для х^В и f(B) = Rmf){y: j/i^A(P, п) для i = v + l, ..., т), поэтому и* 2.10.27 и 2.10.28 следует, что Кроме того, число v + (m — v)p может быть сделано сколь угодна близким к v + (m — \)/к при подходящем выборе числа $ < 1/к. В работах [W 2] и [CG] читатель может найти дополнительные примеры, где v = 0, к<т, Y = R, В является дугой и f(B) — невы- невырожденным интервалом. Связанные с этим вопросы рассмотрены в [SI], [SA 2] и [КР]. 3.4.5. Во второй части этого параграфа будут установлены не- несколько фундаментальных локальных алгебраических, а также свя- связанных с мерами свойств множеств, заданных вещественно-аналити- вещественно-аналитическими уравнениями. Главные результаты содержатся в теореме 3.4.8. Здесь будут рассмотрены основные понятия. Пусть X — банахово пространство ивеХ. При изучении вещественнозначных функций, аналитических в точке а, две такие функции / и g считаются эквивалентными, если, существует такая окрестность U точки а в X, что E/cdmn/ndmng' и f\U = g\U. Получающиеся при этом классы эквивалентности, называемые рост*- ками вещественнозначных аналитических в точке а функций, обра- образуют коммутативное кольцо операции которого индуцированы сложением и умножением функ- функций и которое не имеет собственных делителей нуля (что видно иа формулы Лейбница). Класс эквивалентности функции / называется ростком функции / в точке а и обозначается ?.(/)¦ Заметим, что для каждого натурального т дифференциал Dmf(a)i определяется ростком "fa(f), и мы договоримся писать Dmo=°Dmf(a), если o = -je(/). Метризуем кольцо Оа{Х), полагая (см. 1.10.5) для любых о, х*=0а{Х), и заметим, что кольцо 0а(Х) является объ- 22»
340 гл. з. спрямляемость «динением замкнутых множеств {о: \\DmoU < stm/m\ для т = 0, 1, 2, ...}, соответствующих всем натуральным s и t. В случае dim X < °° каж- каждое из этих множеств компактно, а следовательно, кольцо Оа{Х) сепарабельно. Кольцевые операции непрерывны. Каждое аналитическое отображение и некоторой окрестности точки а в другое банахово пространство Y индуцирует такой непре- непрерывный гомоморфизм колец что <iu(o)(fe), Оа{и)У = Т"(^°И) Для каждой вещественнозначной функции h, аналитической в точке и (а). Аналогичное понятие ростка применяется при изучении поведе- поведения множеств из пространства X около точки а; в этом смысле рас- рассматриваемые два множества S и Т из пространства X эквивалент- эквивалентны, если S UU = Т UU для некоторой окрестности точки а в X. Получающиеся при этом классы эквивалентности называются рост- ростками подмножеств пространства X в точке а. Поскольку булевы операции U, П, \ совместимы с этим отношением эквивалентности, они индуцируют аналогичные операции, применимые к росткам мно- множеств. Будем обозначать росток множества S в точке а через 7«(^)- Каковы бы ни были множество S<^Х и точка аеХ, идеал мно- множества S в точке а определяется как подмножество кольца 0а(Х), состоящее из ростков тех вещественнозначных аналитических функ- функций /, для которых существует такая окрестность U точки а в X, что E/cdmn/ и /Ог) = 0 для x^SuU. Замечая, что этот идеал однозначно определяется ростком множе- множества S в точке а, обозначим его ideal fa(«S). Для каждого открытого множества U из пространства X и каж- каждого конечного класса F вещественнозначных аналитических функ- функций, области определения которых содержат V, зададим аналитиче- аналитическое подмножество окрестности U, связанное с F, формулой var(?/, F)=UU\x: f(x) = O для любой функции fe=F). Заметим, что если G — другой конечный класс вещественнозначных аналитических на U функций, то var(t/, F)U™v(U, S) = var(C/, if • g: feF, g U, F)nvar(C/, G) = var([/, F\i G);
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 341 кроме того, var A7, F) = var A7, {Л}), где h= 2 (/J- /SF Ростки в точке а аналитических подмножеств окрестностей точ- точки а в X называются ростками аналитических множеств простран- пространства X в точке а. Они образуют класс Уа {X). С каждым конечно порожденным идеалом / кольца Оа{Х) мож- можно связать росток аналитических множеств характеризующийся следующим свойством. Если F — какой-нибудь конечный класс вещественнозначных аналитических функций и U — какая-нибудь окрестность точки а в X такие, что U<= П {dmn/: f^F), множество i'ia(f): f<=F} порождает /, то var(/) = Yafvar(U, F)]. Ясно, что / <= ideal var (/), причем равенство выполняется в случае, когда / = ideal fa E) для не- некоторого 5 с: X. Если а^Уа(Х) и ideal ос конечно порожден, то а = var (ideal a). Росток а^Уа(X) называется неприводимым, если не существу- существует разложения a = aiUoc2 такого, что ai, аг<=Уа{Х), а1ФаФаг. Легко проверить, что росток а неприводим тогда и только тогда, когда ideal а является простым. Если кольцо Оа{Х) нётерово (согласно 3.4.7 это условие выпол- выполняется, когда dimX<°°), то каждое непустое подсемейство #сг ^TaiX) имеет элемент, не содержащий никакого другого элемента семейства Н. Отсюда следует, что каждый росток а^Уа(Х) явля- является объединением единственного конечного подсемейства Гс с Уа (X) такого, что каждый элемент семейства Г неприводим и не содержит никаких других элементов семейства Г. Элементы семей- семейства Г являются максимальными неприводимыми ростками, содер- содержащимися в а, они называются неприводимыми компонентами Ростка ос. Отметим, что ideal ос = П {ideal р": р1 е П. Если U — открытое множество в пространстве X, то применение булевых операций U, П, \ к всевозможным аналитическим подмноже-
342 гл. з. спрямляемость ствам множества U приводит к классу множеств вида и E соответствующих всем коночным последовательностям аналитиче- аналитических подмножеств 54, Tit ..., Sv, Тч множества U. Кроме того, (то- (топологические) компоненты таких множеств существенны для изуче- изучения аналитических неравенств. В случав dimX<°° из 3.4.8 A1)> следует, что никакое компактное подмножество множества U не мо- может пересекаться с бесконечным числом компонент такого множе- множества. При X = R" будем пользоваться следующими специальными типами множеств. Множество S называется m-мерным функционально-аналитиче- функционально-аналитическим подмногообразием множества U, если существуют такие во- ществоннозначные аналитические функции /m+i, ..., /„, g на U, что 5 = var(J/, {/m+1 /„})\var(J/, {g}) и для каждого x^S последовательность Dfm+i(x), ..., Dfn(x) ли- линейно независима (в случае п = тп имеется в виду только то, что- S =UXVslT(U, ig))). Компоненты такого множества 5 будем назы- называть m-мерньши аналитическими блоками множества U. Если S и А — множества из пространства X, говорят, что ? ана- литично в А, если ростки множества S во всех точках множества А являются ростками аналитических множеств. Это выполняется то- тогда и только тогда, когда А имеет покрытие, состоящее из таких открытых множеств U, что U П 5 — аналитическое подмножеств» множества U. Если А открыто, то каждое аналитическое подмноже- подмножество множества А является аналитическим в А, но подмножество' множества А может быть аналитическим в А и не быть аналитиче- аналитическим подмножеством множества А, как показывают примеры в ГСН, с. 97-99]. 3.4.6. Подготовительная теорема Вейерштрасса. Если X — бана- банахово пространство, Ф — вещественноэначная функция, аналитическая в точке 0 в X, к — натуральное число, v e X и <г/, ?>7@) > = 0 для 0 < i < к, <v\ Z)ftO @) > Ф 0, то справедливы следующие утверждения. A) Для каждой вещественнозначной функции \F, аналитической в точке 0 в X, существуют вещественнозначные аналитические функции Q и R, удовлетворяющие условиям для х, близких к 0 в X, <v\ D{R(x)> = 0 для i> k и х, близких к 0 в X. Ростки таких функций Q и R в точке 0 однозначно определяются вектором v и ростками функций Ф и \F.
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЯ 343 B) Для каждой непрерывной вещественнозначной линейной функции \ на X, для которой |(у) = 1, существуют вещественнознач- ные функции Q, W, аналитические в точке 0 в X, и функции Wo, Wi, ..., Wk-i, аналитические в точке О в кег ?, для которых равенство Q(х) Ф(х) = W(х) = I(х? + *2 I(*)* Wilx-t(x)v] 1=0 выполняется для х, близких к 0 в X. Ростки таких функций Q, W, Wo, ..., Wk~i в точке 0 однозначно определяются вектором V, функ- функционалом g и ростком функции Ф. Кроме того, = О, И><@) = 0 для 0<i<k. (Функция W называется полиномом Вейерштрасса относительно v и | в точке 0.) Доказательство. Предположим, что М = 1 и <.vh/k\, Dft<D(O) > = 1. Полагая г\:Х-+Х, г\ (х) = х - %(х) v для х^Х, видим, что imTi = кег| и X = {tv: t^B} ® imr\. Для каждой вещественнозначной функции /, аналитической в точке 0, и для всех неотрицательных целых i и / зададим однород- однородный полином /<, j степени / на im ц по формуле для zi Применяя формулу бинома Ньютона, находим, что для х, близких к 0, и для каждого неотрицательного целого s выполняются ра- равенства = 2< m=o = 22 EW m=oi=o = i [Vs/, »*<«; 2< n=0 ,!0 oo 171 2 2 m=o {=0 0^ A г!, xmjm\ . )» + Л(*I fi.m-i •/@)> = Z)m+*/@)> -»)!, Dm+> h(*)l- Для обоснования последнего равенства в предыдущем вычисле- яии заметим, что если Ъ, с — такие конечные положительные числа,
344 гл. з. спрямляемость что Шт/@)И ^ Ь(с/2)тт\ для всех неотрицательных целых то, то> и воспользуемся следующим фактом. Если ос, р, ч — конечные положительные числа, a git ,¦ — однород- однородные полиномы степени / на imr\, для которых при всех неотрицательных целых i и /, то для каждого неотрица- неотрицательного целого s неравенство VI VI i=o j=o Ъ2, i=oi=o выполняется, как только 2р|?(а:)|<1 и ^|т)(а;)| < 1. Взяв s = 0h вспоминая 3.1.24D), видим также, что функция оо оо ею m i=0 j=0 tn=o i=0 аналитична в точке 0. Эта функция имеет росток 0 в точке 0 тогда и только тогда, когда git j = 0 для всех i и j, потому что она отобра- отображает точку tv + z на 22ftjWr i=0 J=0 если только ieRt z^imr\ и нормы \t\, \z\ достаточно малы. Таким образом, элементы кольца (Уо(Х) однозначно представимы определенными двойными рядами полиномов на im r\. Наши допущения относительно Ф можно переформулировать* так: (?<,„ = 0 для 0s?i<& и ФЛ|О = 1. Равенства в утверждении A) эквивалентны условиям i i 4i,i = Ri,i +2S <?n,v°i-n.i-v Для всех i и /, |l=0 V=0 i?<, ,• = 0 для i > к и всех /. Получающиеся в результате равенства г-1 i+ft J-1 2 ^i+k-n.o - 2 2 <?n,vOi+ft-^i-v |l=OV=O
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 345 определяют полиномы Q{1 для всех неотрицательных целых i и / с помощью индукции по i + (k+l)j, и поэтому характеризуют ро- росток функции Q в точке 0, тогда как росток функции R совпадает с ростком разности *? — QO. Чтобы доказать часть утверждения A), относящуюся к существованию функций Q, R, выберем конечные положительные числа Ъ, с, а, Р, "f, б так, чтобы ШтФ@I1 < Ъ(с/2)тт\ и WmW@)W < b(c/2)mm\ для всех неотрицательных целых т, а > Ьск, $ > с, f > с, 6 = 1Г + $=~с + (Р-с)(Т-с) < *• и проверим, что полиномы ()<,,¦, определенные вышеприведенными рекуррентными формулами, удовлетворяют условиям для всех неотрицательных целых ? и /. Действительно, оценим по индукции i-l i+kj-1 2 f™ 2 Ц=0 Ц=0 V=o Для доказательства утверждения B) применим A) с ЧГ = ^*, заметим, что г 0 = ^i.O = Яг.О + S <?и,0Ф1-Ц,0 = Яг.О ДЛЯ I < к, и возьмем i |24 3.4.7. Если Ф — вещественнозначная функция, аналитическая в точке а <= R", для которой ^а(Ф)?= 0, и если 0 < к = inf It: О{Ф(а)Ф 0) < °°, то из 2.6.5 и 3.2.13 следует, что Жп~* (S-1 П {w: <г;*, 2)"Ф(а) > = 0}) = 0. Таким образом, условие п. 3.4.6 выполняется почти для всех век- векторов V.
346 ГЛ. 3. СПРЯМЛЯЕМОСТЬ Теперь с помощью индукции по п докажем, что кольцо 6?a(Rn) является нётеровым и областью единственного разложения на мно- множители. Предполагая, что а = 0, I—идеал в кольце C0(Rn), 0?"^0(Ф)^1 и Ф@)=0, выберем вектор v так, чтобы можно было применить 3.4.6, и зададим ц так же, как в доказательстве п. 3.4.6. Замечая, что О0(г\) является кольцевым мономорфизмом, преобразующим (У0(Яп) в модуль над im a0 {г\) а* О, (im x\) at Ой (R"-1), обозначим через М подмодуль, порожденный ростками и по индукции получим, что ^(R") -модуль МП/ конечно порож- порожден (см. [ZS], с. 158). Применяя 3.4.6A), находим, что Л/) и делаем вывод, что О0 (Rn) -модуль / конечно порожден. (В слу- случае ге = 1 ?7о (R") надо заменить на R.) Чтобы получить разложение ростка Чо(Ф) на неразложимые мно- множители, применим 3.4.6B). Заметим, что >((?) — это единица, по- потому что Q@)?=0, следовательно, вопрос сводится к разложению ростка >(W^) на неразложимые множители. Росток 'Yo(W) принадле- принадлежит подкольцу Р, порожденному ростком 'Yo(^) и кольцом im6?o(ii). Кольцо Р является простым трансцендентным расширением кольца 1т00(г\)^(Уо{Яп~1)- Применяя лемму Гаусса (см. [ZS], с. 32), по» индукции получим, что Р является областью единственного разло- разложения на множители. Кроме того, в случае, когда существует разло- разложение ?.(/)• т. <*), где /и? — вещественнозначные функции, аналитические в некото- некоторой окрестности точки 0 в R" такие, что /@) = 0 и g{0) — 0, нахо- находим с помощью равенства f(tv)-g(tv) = W(tv) = th для малых ieB, что можно применить п. 3.4.6 с заменой Ф, к на /, ц и на g, v, где ц и v — такие натуральные числа, что ц + v = к, и поэтому получа- получаем полиномы Вейерштрасса F и G степеней ц и v, а также вещест- вещественнозначные аналитические функции М ж N такие, что Тогда 4o(MNW) — 4o(FG) и FG — полином Вейерштрасса степени /с, поэтому утверждение о единственности в 3.4.6B) влечет равенство 4o(FG) = r{o(W), т. е. нетривиальную факторизацию ростка i(o(W) в Р. 3.4.8. Теорема. Введем следующие объекты: A) е{, ..., е„ и coi, .... ю„ — двойственные ортонормированные базисы пространства
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 347 R" и Л1 Rn- Для / = 1) • •., п положим /), pi(x) = (o>l(x), ..., o>j(x)) для j = im <Л (pj) , а также Qo = R. B) Для любого идеала I кольца C70(R") такого, что 1?=(У0(В.п), положим Для / = 1, ..., и пусть 4, (/) = О (га) П {g: /4 П Qj Ф {0}}, ДД0=О(п)П{^: <(е,)*, Д*ф>'?=0 для некоторого фе/^nQ, и некоторого натурального к), а также А 0 (/) = 0. Для те = 0, ..., га — 1 пусть ?>» (/) = О (га) П {g: для / = /те + 1, ..., га существуют такие 6j <= eQm\/e м TjsQm+1, что 6j с также En(I) = O(n)\An(I). В случае 1Ф{0) положим f " 1 depth G) = inf \m: fl Bj(/)^0, а также depth({O}) = n. C) Если чо@)?за*=ТоA\п), то размерность ростка а определим формулой dim a = depth (ideal a). D) Ц] — мера Хаара группы /Г, = О(га)П{«: h(et) = ei для i>/'); Vm — мера Хаара группы Qm = O (га) П {q: q (d) = е{ для i <. m). Тогда выполняются следующие двенадцать утверждений. E) Aj(I), Bj(I), Cm(I), Em(I) — борелевские подмножества груп- группы О(п). F) Если g^A}(I), то g"h^Bj(I) для цГпочти всех h^Hj. G) Bn[Ai(I)\B,{I)]-0 для 7 = 1, ..., п. п (8) Если I —простой идеал и ge П Bj(I)> где тп<п, то 3=7П+1 п goq^Cm(I) П П Bj(I) для хт-почтпи всех qe Qm. (9) Если I—простой идеал, то е„| П ^(/)\Ст(/)| = 0 для т = 0, ...,в-1.
348 гл. з. спрямляемость A0) Если I — простой идеал и g&Em(I), где 0<тп<п, то су- существуют окрестность Y точки 0 в R, натуральное к, вещественно- значные аналитические функции Д, b,pi на Y, соответствующие но- номерам i = 0, ..., к — 1 и j = m +1, ..., п, и функции fj на Pm (Y) такие, что k-i fm+l = (<»ro+l)fe + 2 (й>т+1)*(й1,т+1 ' Pm), i=0 ft-1 /j = (А о pm)-(i>j — 2 (G>m+lI (b{,j • Pm) для ]>ПЪ + 1, i=0 7 — идеал кольца О„(В.п), который порожден множеством y(Aopm)}, = Г) {^: /;И кроме того, &«, m+i@)= 0, Z<=-{x; <.em+1, Dfm+l(x)~> Ф0), Z является m-мерным функционально-аналитическим подмногообразием множе- множества Pm1 (Y); pm отображает каждую компоненту множества Z го- меоморфно на некоторую компоненту множества YOiy: А(у)ФО); -{o(fj)^Ig для j = m + l, ..., п и К0?1тФ{0) для каждого идеала К кольца (У(,(Т{п), который стро- строго содержит Ig. В случае, когда I = idealvarG), имеем: ^{Z)"^ ^о(^). A1) Если a, $^yo(Rn), dima = m, Fo — окрестность точки О в Rn и S» — аналитическое подмножество окрестности Vo, для кото- которого ^0E0)= Р, то существуют окрестности Vu ..., V» точки 0 в 7» и множества S,, ..., 5„ такие, что и для 1<1<ц множество & является функционально-аналитиче- функционально-аналитическим подмногообразием окрестности Vi размерности, не большей чем m, St имеет только конечное множество {топологических) компонент, S,nu{Sfi О</<г} = 0, V{П ClosSi<= U {5;: 0^j<i). A2) Если oceyo(Rn) и U — какая-нибудь окрестность точки О в Rn, то существует такое множество S, что ^оE) = а, и для каждо- каждого аналитического подмножества Т окрестности U из осс:^0Gт) сле- следует, что S<=T. A3) Если че@)?=а*=То(Лп) и а неприводимо, то EM(idealа)Ф Ф 0 тогда и только тогда, когда m = dim а; кроме того, если тп = ¦= dim а, то en[O(n)\Em(ideala)] = 0
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 349 и существует такое (Жт, т)-спрямляемое множество S, что Yo E^) = = ос и sup{^mG7)/(diamJ)m: 0 ?= Т <= S\ < <*>. A4) Если чй@)Фа^Го(Ъп), то dim a = sup {dim ji: p — неприводимая компонента ростка а). A5) Если a, $^T0(Rn), рса, ^{0)Ф^<Фа и росток а не- неприводим, то dim P < dim ос. A6) Если S — аналитическое подмножество некоторой окрестно- окрестности точки 0 в Rn, Т — открытое в S его подмножество, и — неотри- неотрицательное целое и Жи+1(Т) = 0, то dim var [ideal f0 (Т) ] ^ и. Доказательство утверждения E). Из 3.4.5 известно, что кольцо Cpo(Rn) является объединением счетного семейства компактных под- подмножеств. Это же верно и для идеала J, потому что если / порожден множеством из г элементов, то существует непрерывное отображе- отображение из <yo(Rn)r на /. Кроме того, Qj совпадает с замкнутым подмно- подмножеством кольца ?7о (R"), состоящим из всех таких ростков о, что е,--1 Z)'o = 0, как только i>j и s^l. Поскольку функция, отображающая (о, g) на <о, 0<>{g~i)'>, непре- непрерывна, находим, что Р = [03-ХО(га)]П{(о, g): <<т, С?„(Г1)> е/\{0)} является объединением счетного семейства компактных множеств. Осталось заметить, что стандартная проекция из Ci(R")XO(n) на О(п) отображает Р на Aj(I). Аналогично проверяется, что В}A), Cm(I), Em(I) являются объ- объединениями счетных семейств компактных подмножеств группы О (га). Доказательство утверждений F) и G). Замечая, что группа 0() действует транзитивно на 5r = Rnn{p: M = l и vet = 0 для i>/}^Sj-\ зададим отображение V: Н}->- S, V{h)=h(ej) для h^Hj и заметим, что мера V+(\ij) пропорциональна мере Ж'^^-Б. Для любого g e Aj (I) можно выбрать ф е 1е П Qj и натуральное kr для которого D\ Ф 0, и вывести, так же как в 3.4.7, что <г;\ DK(f> Ф 0 для Ж^-почта всех v e 5. Следовательно, jxj-почти все h^ Hj удовлетворяют условию 0Ф <V(h)h, Z>V = <(ej)h, ?>Чф, a*(h)», где <<р, (Уо(h)> «= Igoh П Qjt поэтому g°h.^Bi{I).
350 гл. з. спрямляемость Отсюда следует, что для любого g e О (п) или (ёН;)ПА,{1) = 0, или \ijih: g° h&Btf)} = 0. Обозначая через с характеристическую функцию множества Aj (I) \В, (/), приходим к выводу, что (*-ft) dVih ddng = 0. Доказательство утверждений (8) и (9). Замечая, что группа Qm ~ О(п — т) действует транзитивно на <S = Rnn{u: М=1 и »¦«< = <) для i s? m) ^ S"-"-1, зададим отображение F: ^m -»¦ 5, V(q) = q(em+i) для де^ти заме- заметим, что мера F+ (vm) пропорциональна мере Ж1~т~1 *- 5. Каково бы ни было g е В, (I) при / => /те + 1, ..., п, применим 3.4.6B), чтобы получить натуральные г(/) и полиномы Вейер- штрасса ^ (Л (щ относительно щ и (ah где функции Wi j аналитичны в точке 0 в ^@) 0 В случае т = 0 вместо TF{ t e R надо взять Wt, t s R. Обозначим через p:<?o(Rn)-tfo(R")//g канонический гомоморфизм колец, ради краткости будем писать %} = p[ifo(fi)i)] и заметим, что p(Qj) — это кольцо, порожденное мно- множеством p(fi,-i) и точкой ?,-. Действительно, п. 3.4.6A), применен- примененный при <b = Wj, v = e} и ^(^J^fij, показывает, что p['Yo(xIf)] = = р[^0(Д)] и что to(R) принадлежит кольцу, порожденному множе- множеством Q,_i и точкой ifo((»j). Кроме того, из равенства р[^о(И^)] = 0 следует, что элемент ?3- является целым над p(Qj_i). Вспоминая транзитивность отношения целой зависимости (см. ZS, с. 256), де- делаем вывод, что (У0(В.п)/1е является целым расширением кольца р(йт), порожденным кольцом p(Qm) и элементами ?m+i, ..., ?«• Рассмотрим также поле частных L целозамкнутой области целост- целостности Cpo(Rn)//« и подполе М, порожденное кольцом p(fim). Клас- Классическое рассуждение относительно простоты конечных сепарабель- ных алгебраических расширений полей (см. [ZS, с. 84, 85]) показы- показывает, что для <3#"~т~'-почти всех i»eS п L является кольцом, порожденным М и элементом 2 Щ (v) Si» 3=т+1
5 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 351 На основании того, что для каждого q e Qm выполняются равенства п п 2 «>> F (?)] <»j = 2 [q(em+i)-ej](i>j=> i—m+\ j=m+l n = 2 lem+v q-1 (e,)] fflj = com+i<>?-* j=m+l делаем вывод, что для Vm-почти всех q e Qm L является кольцом, порожденным М и элементом р[^0 (com+iс ?"') I- Если только q обладает этим свойством и osC70(R"), существуют ростки 8sJ3m\/s и т^Йт+1, для которых р<<т, <7,(?"')>-р<т, Go(g-i)>/pF), поэтому <бо —т, (^(д-1)) еЛ, бо — те/м, Существуют также туральное и и ростки р0, ..., pu_4 s Qm, для которых i=0 ti—1 и поэтому 0й + 2 ^Pi s ^о9. Беря о = 70@;)) находим, что g ° де i=0 <= СтA), а также что g • q<=B)(I) для / = /ге+ 1, ..., п. Обозначая через с характеристическую функцию множества п _П В} A)\Ст (/), делаем вывод, что vm (<?m) J с dQn = J j cdrog) dvmq dBng = 0. Доказательство утверждения A0). Опять примем обозначения, используемые в доказательстве утверждения (8). Теперь из допол- дополнительного предположения g ^ Cm(I)\Am(I) вытекает, что L явля- является полем, порожденным кольцам p(Qm) и элементом ?т+1, и что plQm является мономорфизмом. Поэтому кольцо p(Qm) целозамкну- то в М, и минимальный полином элемента ?m+i над М имеет коэф- коэффициенты, принадлежащие p(fim), если его старший коэффициент равен 1 (см. [ZS, с. 260, 261]). Обозначая через Р кольцо, порожден- порожденное множеством Qm и ростком fo(<um+i), можно отождествить этот минимальный многочлен с образующей кольца Р П 1е над Qm. Дей- Действительно, можно выбрать Wm+i так, что Возьмем k — r(m + i) и обозначим Йт-модуль, порожденный
352 гл. з. спрямляемость множеством {^(fiWi)': i = 0, ..., к— 1}, через Г. Полагая Wm+1 (х) = <em+i, ZWm+1 (ж)> для х <= dmn Wm+1, ВИДИМ, ЧТО Vo (Wm+i) €= Г\ {0} dP\Ig. Для любого о s С?о (Rn) \/g элемент р (о) имеет обратный в L, поэтому существуют S e= Qm\Ie итеГ, для которых р(о)-р(т)/рF)=1, ax-b^Ig. Поэтому каждый идеал кольца ??0(Rn)i содержащий идеал Ig и не совпадающий с ним, пересекается с Qm\Ig. В частности, выберем Д„+1 е ?2m+i\Ig и тт+1 е Г, для которых Yo (Wm+l)-Tm+1 —8m+i <= Ig П P. С другой стороны, выберем 6jeЙт\/4 и т,еГ так, что бЛ° («j) — Tj е Л Для У = /те + 2, ..., п. Заменяя Sm+i, ..,, S.n на их общее кратное и соответственно изменяя Tm+i, ..., тп, можно предположить, что все Sj равны одному и тому же Sefim\/g. Тогда выберем функцию А, для которой ^0(А °рт) — б, зададим функции /,• так, что fm+i — Wm+i и ЪШ = ЬЪ(®>)-Ъ Для 7 =/те+ 2, ..., и, а также выберем вещественнозначные аналитические функции fra+i, sm+i, для которых Поскольку ростки (функций А ° рт, tm+i, sm+l принадлежат кольцу Р, можно предположить, что функции А.°рт, tm+i, sm+i и /, имеют об- область определения ршг №)¦> где Y — окрестность точки 0 в Rm. Пусть F — идеал кольца (У„(Яп), порожденный ростками 4o(/m+i), ..., То(/")- Ясно, что F<=Ig. Мы докажем, что из условия ое/, следует, что бмо^F для некоторого натурального и. Предполагая, что oe/efl Qj, применим индукцию по /. Сначала применим 3.4.6A) при Ф = И^, v = е,, чтобы свести вопрос к слу- случаю, когда а принадлежит fij-t-модулю, порожденному множеством -f"fo(coj)*: i = 0,..., r(j)}. Для такого о заметим, что если / > т + 2, то 6т0)<т s /g n [(Г + F)fij-i] «= Aв П Qj-i потому что 6'Yo{(»j)s Г + F и Г сг й^_ь в то время как при j = т+ 1 .oePn/g = P-f0(/m+I)cF. Применяя предыдущий результат, легко проверить, что var(/,) = var(/)Ui,(Z). Кроме того, Z является m-мерным функционально аналитическим
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 353 подмногообразием множества p^{Y), потому что для каждого имеем Wm+1(x) = 0 и А[рт(х)]Ф0, откуда Wm+1(x)=?0, <em+1 Л ... Л еп, Dfm+1 (ж) Л ... Л Dfn (ж)> = и дифференциалы Dfm+i(x), ..., Dfn(x) линейно независимы. Точка х имеет такую окрестность U в Rn, что отображение pm\Z[\U явля- является аналитической координатной системой для Z в точке х. Далее проверим, что множество ZOix: pm(x)^C) является ком- компактным для любого компактного подмножества С множества Y П П {у: А(у)ФО). Ясно, что множество Z[\p^(C) замкнуто. Чтобы доказать его ограниченность, выберем число AfeR так, что \А{у)\>ПМ и 2|Ьи(у)|<М Для j = m + 1, ..., п 1=0 при любом у^С. Если же Z[\p?(C), то или \a>m+l(x)\ < 1, или \ат+1(х)\к<М\®т+1{х)\*~\ потому что fm+i{x) = О, а, значит, I o»m+i (ж) I < sup A, М} и отсюда для ; > т + 1 следует, что М~1\(о,(х) I <M sup(l, M"}, потому что fs(x) = O. Заметим, что УП{г/: А(у)^О} является объединением множеств YV=Y[) {у: А(у)фО, card(ZПРШ1 {у}) = v], соответствующих номерам v = 0, 1, ..., к. Если г\ ^ Kv, то существуют такие непересекающиеся открытые множества Ui, ..., Uv из пространства Rn, что рт отображает каждое из множеств Z П Uu ..., Z Г\ Uv гомеоморфно на некоторую окрест- окрестность точки ц в Rm. Для достаточно малого положительного числа 8 множество А, = Z П {ж: l/?m(z) - т]1 < е}\ (J/, U ... U Uv) компактно, и пересечение всех таких множеств D, пусто, поэтому De = 0 для некоторого е > 0. Это показывает, что множество Yv от- открыто; в случае v > 0 отсюда следует также непрерывность функ- функций гр1т ..., i|)v на Yv, характеризуемых условиями %(y)^Zf]p~1{y} для ye Y и Я = 1, ..., v, (flm+i[i|)v(y) ] < c»m+1fi|)x+i (у) ], если I < v. Таким образом, 2 П рй1 (Fv) является объединением его открытых в нем подмножеств im ф,, ..., im \CV и /?m отображает каждое из этих множеств гомеоморфно на Yv. Поскольку множества Уо, ..., Yh открыты и не пересекаются, каждая компонента множества У Л {г/: А(у)ФО) является компонен- компонентой множества Yv для некоторого v. 23 г. Федерер
354 гл. з. спрямляемость Наконец, если ft(Z) = чо@), то var(/g) = var(/), поэтому Доказательство утверждения A1). Применим индукцию по т одновременно для всех п. В случае т = 0 выберем точку g<=O{n) и такие вещественно- значные аналитические функции Ф,, что Ч» (Ф,) s Ig П Qs, где / = ideal ос, Oj{tej)?=0 для малых t eR\{0) и / = 1, ..., п, откуда делаем вывод, что var (/<,) = ^(Ш). Чтобы рассмотреть случай т > 0, заметим сначала, что если at, ..., as — неприводимые компоненты ростка ос, то причем ideal ос* => ideal ос, поэтому dim ос, < dim ос. Начиная с этого места, предполагается, что росток а неприводим, что ос Ф р, и ис- используется обозначение / = ideal ос. Если п = т, то ВтA) = 0, АтA) = @ согласно F), поэтому / = = @) и а = 'уо (Rm) • Выберем вещественнозначную функцию Ф, аналитическую в точке 0 в Rm, для которой 0=^= ^0(Ф)е ideal (J, обо- обозначим через К идеал кольца <?0(Rm), порожденный ростком Чо(Ф), и заметим, что а\р = [a\var (К) ] U [var {К) \р], причем dim var (К) < depth (К) < т - 1 согласно F), поэтому предположение индукции применимо к 3. Покажем также, что открытое множество Шу: \у\ <е имеет только конечное число компонент, если 0<е<°° и В@, е)<= <= dmn Ф. Для этого положим Для y и предположим, что функция Ф непостоянна на В@, е). Для каж- каждой точки яеВ@, е) функция Ч*" непостоянна на любой окрестно- окрестности точки а, поэтому Т. (ЮТИ*)** 0, dimi.(H)<m-l согласно F), и из предположения индукции следует, что некото- некоторая окрестность точки а пересекается только с конечным числом компонент множества Н. Поскольку шар В@, е) компактен, он пе-
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 355' ресекается только с конечным числом компонент множества Н. Кро- Кроме того, каждая компонента С множества R содержит некоторую компоненту множества Н, потому что у?(у) = 0 для i/eBdryC, Y (у)> О для уеС, следовательно, функция 4х имеет локальный максимум в некоторой точке ц ^ С П Н. Компонента множества Н, содержащая х\, не может пересекаться с BdryC, потому что функция W постоянна на каж- каждом связном аналитическом многообразии, содержащемся в Н, а значит, и на каждой компоненте множества Н. В случае п>т>0 применим (8), чтобы выбрать gz=Cm(I)[\ П В,{1). п Поскольку П Bj(I)=0, находим с помощью F), что %Ф-АтA), поэтому g е Ет (I), и теперь можно использовать результаты утвер- утверждения A0). Замечая, что ideal g~l (ос П J5) содержит ideal g~l (a) = /*, но не совпадает с ним, потому что а Ф а П р, выберем вещественно- значную функцию %, аналитическую в точке 0 в Rm, для которой 0 ч* То (X ° Р»)s ideal g~l {а П р). Далее положим Ф = % • А, обозначим через ЛГ идеал кольца (У0A{п), порожденный множеством Ig\i {*уо(Ф°Рт)), и заметим, что причем dim var (К) < depth (К) <т— 1 согласно F), а поэтому предположение индукции применимо к AA'd}). Предполагая, что dmnx= Y, обозначим и получим, что g-1 (a) \var (К) = b(Z) \var (К) = Ь (D), потому что g~l (ос) = var (Ig) = *fo (Z) U var (/) и var (/) с var (Я) = var (Ig) П f 0{ж: Ф |j?m (a:) ] = Oh Далее, для заданной окрестности U точки 0 в R" и аналитического подмножества G окрестности U таких, что fo(G) = \aT(K), рассмот- рассмотрим многочлены Вейерпгграсса W} из доказательства утверждения (8) и последовательно выберем положительные числа е„, en_i, ... • •., em+1, em так, что е„ < 1, Rmn{i/: IjKeJcy, R" П {ж: \х\ < ej с U, R" П {x: \x\ < en> П Clos Z<=ZUG, n j=m+l 23*
356 ГЛ. 3. СПРЯМЛЯЕМОСТЬ и так, что для / = п,..., т +1 выполняются неравенства ej_i < е/2 и V Wi-(w) <(e72)r(*\ 1=0 как только w e R5-1 и 1и?1 < ej-i. Наконец положим V = R" П {х: \рз(х) I < ej для / = т, ..., п>, 5 = D П F, Г = D П {ж: 1/?т(ж) I < ej и заметим, что Clos V <= U, а множество 5 = Г П V открыто в Т. Кро- Кроме того, S замкнуто в Г, так как если leffi Clos <S, то же Z, \рт(х) I < ет и \р)(х) I < Е} для / =• m + 1, ..., п, поэтому Wj{x) — О l«aJ(x)lrU)<(ei/2)'")snpM, l©,^)!""-1}, \а>з(х) I < 1, потому что е/2<1, I (»j (ж) I < е/2, |/?j (ж) I < ej_i + е/2 < ej Eie7. Приходим к выводу, что каждая компонента множества S является компонентой множества Т. С другой стороны, Т имеет только конечное число компонент, ибо рт отображает каждую ком- компоненту множества Т гомеоморфно на некоторую компоненту мно- множества Я = КтГИ1/: \у\ <гп и а предыдущий частный случай показывает, что R имеет только ко- конечное число компонент и что прообраз при отображении рт\Т каж- каждой компоненты множества R является объединением не более чем к компонент множества Т. Таким образом, S имеет только конечное число компонент и S является m-мерным функционально-аналити- функционально-аналитическим подмногообразием множества V с: ?/, причем Г (a)\var(Jf)¦="*,(?), S П G = 0, V П ClosS<= S U G. Доказательство утверждения A2). Применяя A1) при V0 = U, $ = Ч<>@) и So = 0, обозначим через ? объединение всех таких мно- множеств С, что 0 е Clos С ж С является компонентой множества iS< для некоторого i е A, .,., р}. Если Ф — любая вещественнозначная ана- аналитическая на U функция, для которой ч0 (Ф) е ideal а, то Ф (х) = О для любого x<=S. Доказательство утверждения A3). Пусть / = ideal ос. С помощью утверждений F) и (8) находим (как и в доказательстве утвержде- утверждения A1)), ЧТО ЕйшаA)^ 0. Замечая далее, что O(n)\En(/)="(J1[ П < m=o (_i=m+l
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 357 из G) и (9) получаем иГ0(«)\ Uo Если ЕпA)?=0, то / = {0), поэтому ?„(/) = О (га) и cc = fo(Rn). С помощью этого факта и утверждений A1) и A0) находим, что для т = 0, ..., га из предположения Ет{1)Ф 0 следует, что <5#m+1(iS) = 0 для некоторого множества 5 такого, что ia{S) = ос, 3@m(S)>0 для каждого множества S такого, что ^o(S) = a, потому что J/П ЪФ0 и, следовательно, 5^m(J/nZ)>0 для каждой окрестности U точки 0 в R". Однако может быть только одно целое т, обладающее обоими вышеприведенными свойствами. Для этого т делаем вывод, что ЕтA) содержит 8„-почти всю группу О (га) я что т = dim a. Предположим теперь, что т = dim а < га. Для каждого Я е еЛ(л, т) выберем ^еО(в) так, чтобы /?,» = Ра ° г|)»,. Затем выберем geO(ra) так, чтобы g°fyG-Em(I) для любого Я<=Л(ге, т). Применяя утверждение A0) с заменой g на g"^, а также A1), получим целые числа кк, те-мерные аналитические многообразия Z%. и замкнутые множества Sy такие, что var AввЬ) = Yo (Sk), Жт (SK\Zb) = 0, N(pm\Zt., y)<ky для любого y^Rm. Полагая S = П {^(S».): Я,еД(га, т)>, находим, что varAв) = ^о(S), множество iS счетно (Ж", т) -спрямляемо и N(Vk\S, y)<N(pm\SK,y)^h для ^""-почти всех у е Rra. Применяя 3.2.27, делаем вывод, что Г 2 т [Ря (Т)\ 2 для каждого непустого борелевского подмножества Т множества S. Доказательство утверждения A4). Обозначим через Г семей- семейство всех неприводимых компонент ростка ос, положим m = = sup {dim Р: ре Г} и применим утверждение A3), чтобы выбрать g^ П ?dimp (ideal P). ЭеГ Для f^lm + i, ..., га) и каждого {J е Г выберем такой росток фееЦ,- П (ideal p) я, что <(ej)*, D^^^O для некоторого натурально- натурального А. Тогда Ф = П Фв 6= ^j П (ideal a)g per
358 гл. з. спрямляемость и <(е,)\ ZAp> Ф 0 для некоторого натурального к, а поэтому g^ eBj(ideal ос). Отсюда делаем вывод, что dim a < те. Противополож- Противоположное неравенство тривиально. Доказательство утверждения A5). Учитывая A4), предположим, что росток р неприводим. Применяя утверждение A3), выберем g e= Eilm a (ideal ос) П ^dlm „ (ideal р), заметим, что (ideal p)^ содержит (ideal ос)g и не совпадает с ним, и выведем из утверждения A0), что g^Ailm„(idealр), поэтому g^?ш«(idealp). Следовательно, dim p ?= dim a. Доказательство утверждения A6). Запишем ради краткости у = var [ideal 7оG1)] и заметим, что v является минимальным элемен- элементом класса T0(Rn), содержащим "(а(Т), и рассмотрим любую непри- неприводимую компоненту а ростка v, для которой dim a = тп. Применяя утверждения A3) и A0), найдем те-мерное аналитическое подмно- подмногообразие Z пространства Rn и ростки р, »efo(R") такие, что Отсюда следует, что fo(TUZ)?=io@), потому что иначе и росток ос = ри(осПи;) был бы приводим. Замечая, что рсг^0E), выберем окрестность U точки 0 в Rn, для которой Z П U <= S, точку zeT П ZUU и окрестность V точки z в U такую, что 5 П V <= Т. Тогда поэтому 3@u+l(ZUV) = 0. Поскольку также 36m(Z П V)> 0, приходим к выводу, что 7?г< ц. Теперь ссылка на утверждение A4) завершает доказательство. 3.4.9. Из 3.4.8A1) следует, что семейство всех (топологических) компонент разности двух аналитических подмножеств открытого множества U a Rn локально конечно в U. Отсюда следует, что в за- заключении утверждения 3.4.8A1) множества У< и 54 можно заменить на U@, r) и &nU@, r) для каждого достаточно малого положи- положительного числа г, потому что S{ П {х: \x\z — г2 Ф 0) является функцио- функционально-аналитическим подмногообразием множества Vt при i > 1. 3.4.10. Если iScz^/crR", множество U открыто и S аналитично в U, можно определить dim 5 = sup {dim fa(S): a s Ш. В случае dim S = m регулярная часть множества S — это подмноже- подмножество R, состоящее из тех точек множества 5, которые имеют такую окрестность V в U, что S П V является m-мерным аналитическим
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 369 подмногообразием пространства R". Из теоремы 3.4.8 следует, что 36т{С П S) < оо для каждого компактного множества С cr U и что S\R может быть покрыто таким семейством F аналитических подмногообразий пространства Rn с размерностями, меньшими т, что каждое компактное подмножество множества U пересекается только с конечным числом элементов семейства F и i {Q pi <$\R) < оо для каждого компактного множества С<= U. Однако S\R не обязано быть аналитическим в U, как показывает пример в {WB § И (с), с. 159]. В этой работе, а также в [СН], [LS 1, 2], [MB 1, 2], [NR] были рас- рассмотрены и другие аспекты теории аналитических множеств. 3.4.11. Если iSc: U a Rn, множество U открыто, S аналитично в U и точка a^U такова, что 4a(SOk4a{0), то dim var ideal ^„ [TanE, а)] ^ dim ^(S). Чтобы доказать это, допустим, что а = 0, и положим / = ideal т„ E), / = ideal -у, [Tan (S, 0) ]. Если ф — такая вещественнозначная аналитическая функция, что О1^ Чо(ф)еЛ & — такое наименьшее целое, что Dhq>@)?=0 и Р — однородный полином, соответствующий Dkq> @), то \х\-к\Р(х)-у(х)\ -^Опри ж-^0 в RK, Р(\х\-хх)^0 при х-»0 в S, поэтому Р(v) = 0 для ve Tan{S, 0), и ^0(P)^J. С помощью рассуж- рассуждений, примененных при доказательстве утверждения 3.4.8F), по- получаем, что из условия g^Aj(I) вытекает g о h e Bj (/) для ц,-почти всех h e Hh и делаем вывод, что depth (/) ^ depth (/). Предыдущая конструкция дает также конечное множество F ве- щественнозначных однородных полиномов на R" такое, что Tan E, а) с var (Rn, Л и dim var (Rn, F) < dim fe E). Однако множество Tan E, а) не обязано быть аналитическим в R", как видно из примера, когда U = R2, Tan (S, 0) = R2 П ix: x, >Q, x2 = 0). 3.4.12. В теории, развитой в 3.4.5—3.4.11, можно заменить веще- вещественное поле R комплексным С, делая сравнительно небольшие мо-
360 гл. з. спрямляемость дификации, которые мы сейчас обсудим. Комплексный случай на самом деле более простой и более классический, его развернутое изложение можно найти в [АВ], [GUR], [NR]. Термин «голоморф- «голоморфная» будет применяться как синоним «комплексно аналитическая»; просто «аналитическая» будет по-прежнему обозначать «веществен- «вещественно аналитическая». Чтобы определить понятие голоморфной функции, потребуем в 3.1.24 добавочно, чтобы X, Y были комплексными банаховыми про- пространствами и чтобы Df(x) был С-линеен для каждого х^А. Отсю- Отсюда следует, что Dmf(x) комплексно тга-линеен для всех натураль- натуральных т. Будем говорить, что В — комплексное те-мерное голоморфное подмногообразие пространства Сп, если для каждой точки Ь^В су- существуют ее окрестность Т в С", голоморфный диффеоморфизм о, отображающий Т на открытое множество в пространстве С", и С-век- торное подпространство Z пространства С" такие, что dime (Z) = тп, а (В ("| Т) = Z f) imo\ Отсюда следует, что В является 2т-мерным аналитическим подмно- подмногообразием пространства Cn ^ R2n. Вещественная размерность мно- множества В равна его удвоенной комплексной размерности. Заменяя вещественнозначные аналитические функции на комп- яекснозначные голоморфные функции всюду в 3.4.5, зададим 0%(Х), (Уа (и), Та(Х), ideal0ya (S),n понятия голоморфных идеа- идеала, множества, ростка множества, неприводимости, компоненты, функционального подмногообразия и блока открытого множества U из пространства С". В 3.4.6 и 3.4.7 замена R на С требует только формальных изме- изменений. Чтобы получить комплексный вариант п. 3.4.8, заменим R", О (га) и 6„ на С", унитарную группу U(n), состоящую из всех С-линейных изометрий пространства Сп, и меру Хаара группы U(ra). Применим двойственные С-базисы для Сп иДс(Сп, С). Вместо dim а будем рассматривать комплексную размерность dimc a = depth (ideal0 a). В доказательстве утверждения A0) применение функций г|)>., задан- заданных неравенствами, можно заменить на подъем кривых с Yv на Z. Заметим также, что в комплексном случае Yv = 0 для v Ф к, потому что поле С алгебраически замкнуто. В доказательстве утверждения A1) для комплексного случая нужно другое обоснование, чтобы по- показать, что R имеет только конечное число компонент; можно или применить результат вещественного случая к аналитической функ- функции |Ф|\ или проверить с помощью индукции, что в комплексном случае множество Л связно. В последней части заключения утверж-
§ 3.4. СВОЙСТВА ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ 361 дения A3) для комплексного случая должно фигурировать (Жт, 2т) -спрямляемое множество S такое, что fo(?) = a и Jm: 0 ^T<=S) < ». Чтобы доказать это неравенство, можно или применить соответству- соответствующий результат для вещественного случая, потому что теперь ясно, что dime а = 2 dim а для а <= Г* (Сп) с= То (R2n), или модифицировать 3.2.27, применяя неравенство Виртингера и тот факт, что Tan E, х) является комплексным m-мерным векторным подпространством пространства С" для <2#2г"-почти всех х^ S (вари- (вариант второго способа доказательства появится в 5.4.19). В последней части условия утверждения A6) для комплексного случая нужно требовать, чтобы Жи+г(Т) = 0. Рассуждая так же, как в 3.4.10, найдем, что если S<=U<=Cn, S голоморфно в U и m = dimcS = sup {dime ya(S): a^U}, то регулярная часть R множества S является комплексно m-мерным голоморфным подмногообразием пространства С" и Жт (С П S) < °о, Жт~г (С П S\R) < оо для каждого компакта CczU; кроме того, S аналитично в U и dim S = 2т. Можно также показать, что S\R голоморфно в U и dime(S\R)^m — 1 и что каждая точка множества S имеет такую окрестность V в U, что множество V П R связно; однако эти допол- дополнительные факты не понадобятся в этой книге. В 3.4.11 замена R на С тривиальна, исключая пример в послед- последнем абзаце. (Можно показать, что Tan E, а) является голоморфным, если только S голоморфно в а; см. работы [WH 6, 7], где рассматри- рассматривается много интересных фактов относительно касательных кону- конусов.) Мы будем рассматривать касательные свойства ориентирован- ориентированных голоморфных многообразий в 4.3.19 и 5.4.19.
Г Л А В А 4 ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ В этой главе, опираясь на теорию меры, рассмотрим некото- некоторые группы цепей с граничным оператором, которые подходят как для топологических, так и для аналитических приложений. Они при- приводят к стандартным группам гомологии с коэффициентами из Z, или Zv, или R и обладают свойством компактности; из него следует существование решений вариационных задач. Для них выполняются аппроксимационные теоремы, теоремы представления и изоперимет- рические неравенства, имеющие интерес как с геометрической, так и с аналитической точек зрения. Мы используем понятия распределения и потока, введенные в [SCH] и (DR 1], определяемые здесь в 4.1.1 и 4.1.7. В нашей работе учитывается, что дифференциальные формы и потоки при отобра- отображениях пространств, на которых они заданы, преобразуются соот- соответственно ко- и контрвариантно. Поэтому нужно делать смысловое, а не только логическое различие между дифференциальной фор- формой ф степени т на Rn и соответствующим (га— т) -мерным пото- потоком En L- ф. Мы должны следовать практике топологов, различая це- цепи и коцепи, а не принимать точку зрения тех аналитиков, которые смотрят на распределения и потоки, по существу, как на обобщен- обобщенные функции и дифференциальные формы. Главными объектами исследования являются нормальные, спрям- спрямляемые и целочисленные потоки, введенные в [FF] и определяемые здесь в 4.1.7 и 4.1.24, плоские цепи, введенные в [WH4] и опреде- определяемые здесь в 4.1.12, и целочисленные плоские цепи, определяемые в 4.1.24. Мы следуем примеру книги [WH4], используя липшицев- ские отображения и понятия массы, но эквивалентность понятий плоской цепи в смысле Уитни и вводимого нами не очевидна (изо- (изоморфизм следует из 4.1.23 и 4.2.23), и в нашей книге исследуются совершенно другие объекты: книга Уитни посвящена (веществен- (вещественным) когомологиям с общими коцепями, а наша (вещественным и целочисленным) гомологиям с общими цепями. В 4.1.5 выводятся основные свойства вариационной меры 11ГН, соответствующей распределению Т, представимому интегрирова- интегрированием. В 4.1.6 применяются двойственные процедуры для определения внешней производной дифференциальной формы степени ш и дивер-
ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ 363 генции р-векторного поля. В 4.1.8 и 4.1.11 рассматриваются прямые произведения и соединения потоков и строятся ориентированные симплексы как соединения точечных масс, сосредоточенных в вер- вершинах этих симплексов. Это приводит к простым доказательствам элементарных свойств полиэдральных цепей в 4.1.22, 4.1.27, 4.1.32. В 4.1.28 даются различные геометрические описания спрямляемых потоков, которые в 4.1.31 связываются с понятием ориентирован- ориентированного многообразия. В 4.1.13—4.1.15 и 4.1.25, 4.1.30 рассматривает- рассматривается поведение плоских цепей и спрямляемых потоков при отобра- отображениях. В 4.1.18 доказываются два новых предложения относительно представления пг-мерных плоских цепей с помощью пар ^"-сумми- ^"-суммируемых т- и (т + 1)-векторных полей. В 4.1.20 и 4.1.21 устанавли- устанавливается важная связь между такими цепями и пг-мерной интеграль- но-геометрической мерой. Основными теоремами этой главы являются теорема о деформа- деформации 4.2.9, теорема замкнутости 4.2.16, теорема компактности 4.2.17 и теорема аппроксимации 4.2.20, каждая из которых восходит к [FF]. Однако данное здесь доказательство теоремы 4.2.16 значительно от- отличается от соответствующих рассуждений в [FF, 8.10—8.12]. Изла- Излагаемый метод имеет то преимущество, что он приложим к плоским цепям по модулю v, которые рассматриваются в 4.2.26. Теория плос- плоских цепей по модулю v первоначально была построена способом, от- отличным от нашего, для некоторых размерностей и v = 2 в [Z 1], за- затем для всех размерностей и v ^ 2 в [FL 4]. Открытию утверждения 4.2.17B) в [FF] предшествовало изучение частного случая т = п в [DG 1, 2] и подслучая т = 3 = п в [FY 2]. В 4.2.1 нормальные потоки расслаиваются с помощью липшицев- ских отображений так же, как в [FF, 3.9], а в § 4.3 с помощью лип- шицевских отображений в R" расслаиваются плоские цепи с исполь- использованием метода работы [F19]. При доказательстве теоремы 4.3.10 объединяются методы работ [F 19, 3.15] и [МСВ 1,2.1]. В 4.3.20 пред- предлагается новый подход к теории пересечений, основанный на рас- расслаивании. Аналитические и голоморфные цепи рассматриваются в 4.2.28, 4.3.18 и 4.2.29, 4.3.19. В 4.4.1 строятся целочисленные группы гомологии локально лип- шицевских окрестностных ретрактов в R" (см. 4.1.29) с применени- применением комплексов целочисленных плоских цепей. В нашем изложении особенно просто проверяются аксиомы Эйленберга — Стинрода. От читателя не требуется предварительных знаний по теории гомоло- гомологии. Факты, которые действительно используются в книге, легко следуют из приводимых определений и теорем. Однако мы не вы- выводим все предложения классической теории гомологии из аксиом, ибо такой вывод можно найти в стандартных курсах, например в [ES] или [SE]. Наиболее важными дополнительными особенностями, отличающими наше рассмотрение теории гомологии, являются изо-
364 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ периметрические неравенства, доказанные в пп. 4.4.2, 4.4.3, 4.2.10, 4.5.14, 4.5.2, 4.5.9A8), C1), восходящие к [FF], [F 18], и свойства компактности классов гомологии, установленные в 4.4.4, которые были получены в [FF] для частного случая В = 0. Предложение п. 4.5.4 было доказано первоначально в [GW]; здесь применяется метод работы [F16]. Лемму, аналогичную 4.5.3, можно найти в [DG 3]. В 4.1.31 приводится элементарный вариант теоремы Гаусса — Грина, а в 4.5.6, 4.5.11 формулируются, по-видимому, оптимальные результаты. Исследования по проблеме отыскания наиболее естест- естественной и общей формы этой теоремы внесли значительный вклад в геометрическую теорию меры. Понятие внешней нормали, опреде- определенное в 4.5.5, было введено в работе [F 2] и использовано в [F 2,3,4] для доказательства справедливости теоремы Гаусса — Грина для лю- любого открытого множества А из пространства R", у которого 3@n~l (Bdry А) < °°. Далее в работах [DG1,2] было обнаружено, что если А — такое борелевское множество из пространства R", что у по- потока Т = д(Еп\-А) масса конечна, то R" является (ИГИ, га —1)- спрямляемым и *п(А, b)=T(b) для ИШ-почти всех Ъ. Этот факт и некоторые добавочные замечания из работы [F14] привели к теоре- теореме 4.5.6. Предложение 4.5.11 является новым. В 4.5.7—4.5.13 устанавливаются фундаментальные свойства тех вещественнозначных функций, которые соответствуют локально нор- нормальным n-мерным потокам в R" или, что эквивалентно, согласно 4.5.16, распределениям типа R, чьи частные производные первого порядка представимы интегрированием. Классы таких функций изучались в течение нескольких десятилетий задолго до того, как было явно сформулировано понятие распределения в многочислен- многочисленных статьях по теории потенциала, теории площади и вариационно- вариационному исчислению, например в [EGC], [TL], [CL 1], [МСВ 1], [F 11], [КК], [FL 2]. Заметим, что в теореме 4.5.9 предложения B7) и C0), исключая (ЗОН), можно считать классическими; часть утверждения B9) была доказана в [GC2]; B6II) было доказано в [CZ]; A4) — в [Z3] при тех же условиях, что у нас B9); A3) — в [FLR]; утверж- утверждение E) для непрерывных / было доказано в [F 4] при га = 2 и в [F16] при всех га. Однако излагаемый нами метод, использующий К, \i, F, G, S, С, Е, совершенно отличен от более ранних работ, а об- общие результаты, полученные в 4.5.9E), A4) — B2), B4), B5), B61, IV), B9), являются новыми. Результаты п. 4.5.15 для 1 < | < п, которые выводятся из нашего изопериметрического неравенства 4.5.9C1), первоначально были вы- выведены из теории потенциала в [SOB]. В случае 1 = 1 наш метод дает более сильный результат. Мы следуем работе [МСВ1] в доказа- доказательстве условия Гёльдера для 1 > п.
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 365 § 4.1. Дифференциальные формы и потоки 4.1.1. Предполагая, что X, У — банаховы пространства, что dim X < °° и U — открытое множество в пространстве X, обозначим через , Y) векторное пространство всех функций класса °°, отображающих U в У. Для каждого неотрицательного целого i и каждого компактного подмножества К множества U зададим полунорму для любой ф е & (U, Y). Семейство всех полунорм Vk индуцирует ло- локально выпуклую, инвариантную относительно сдвигов хаусдорфову топологию на <S (U, Y); базисными окрестностями произвольной функции ipe^T(J7, У) являются множества : vk(<P - о|>)< г}, соответствующие всем i, К и всем г > 0. Обозначим через <Г(?/, Y) векторное пространство всех непрерывных вещественнозначных ли- линейных функций на &(U, Y) и наделим <8'(U, Y) слабой тополо- топологией, порожденной множествами <Г(С/, У)П{Г: а соответствующими всем <р^«?(С/, Y) и всем a, beR. Полагая для &(U Y&'(UY) sptф = UПCloser ф(ж)=^0} для фе|"(!7, У) 7: ^открыто, Г(ф) = 0 как только у^&(и, У) и заметим, что носитель spt T компактен, потому что Т^.М•у'к для некоторых i, К и М<.оо. Таким образом, получим, что &'(U, У) является объединением сво- своих замкнутых подмножеств %'к (U, Y) = <Г (U, Y) П {Т: spt T а К}, соответствующих всем компактным подмножествам К множества U. Можно также показать, что для любой сходящейся в «?'(U, У) по- последовательности все ее элементы принадлежат какому-нибудь одно- одному множеству &'к {Ur У),
366 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Для каждого компактного подмножества К множества U по- положим ?>K(U, Y) = &(U, У)П{ф: spt(p<=#} и заметим, что @>k(U, У) замкнуто в &(Uy Y). Затем рассмотрим векторное пространство 2>(U, Y)=U{0K(C/, У): К — компактное подмножество множества U) со слабейшей топологией, при которой непрерывны отображения включения всех множеств ZDK{U, Y). При этом множество из про- пространства 3)(U, Y) открыто тогда и только тогда, когда его пере- пересечения с каждым из множеств &K{Ut Y) принадлежат относитель- относительной топологии множества 2)K(U, У) в S"(U, У). Отсюда следует, что отображение включения из &(U, У) в «?(?/, У) непрерывно. Это отображение, исключая случаи U = 0 и У = (О), не будет го- меоморфным вложением, но топологии пространств <?(U, У) и ?>(U, У) индуцируют одну и ту же относительную топологию на каждом из 2)K(U, У). Обозначим через ?'(U, У) векторное пространство всех непрерывных вещественнозначных ли- линейных функций на 2)(U, У) и наделим ?D'(U, У) слабой тополо- топологией, порожденной множествами ?'(U, У) ГИГ: а<Т(ц>)<Ь), соответствующими всем ф е <?> (U, У) и всем а, Ъ е R Определяя носители, как и выше, увидим, что носитель каждого элемента из S)(U, У) компактен, но носитель элемента из &>'(Uy У) компакт- компактным быть не обязан. Вещественнозначная линейная функция Т на ?>(U, У) принадлежит пространству 2)'(U, У) тогда и только тогда, когда для каждого компактного подмножества К множества U су- существуют неотрицательные целые i и М такие, что Г(фХМук(ф) для всех qi<=@>K(U, Y). Элементы пространства 3)' {U, У) называются распределениями в U типа У. Сужение функций с <%{U, У) на ®{U, У) дает однолистное не- непрерывное линейное отображение S"(U, Y)-»?>'(U, У), образ которого состоит из всех распределений типа У с компактным носителем, содержащимся в U. Обычно это отображение не будет гомеоморфным вложением, но оно является вложением множества <&к (U, Y) для любого компактного подмножества К множества U. Часто не делают разницы в обозначениях элемента из S"(U, У) и его образа в 2)'(С/, У).
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 367 Для каждого открытого множества V из пространства X такого, что U с: V, построим непрерывный линейный мономорфизм 2>(U, Y)-+2>{V, У), сопоставляя q> U [(V\U)X @}]e 3>{V, У) с <ре2>A7, У). Эта функ- функция отображает &K(U, Y) гомеоморфно на ?>K(V, Y) для любого компактного подмножества К множества U. Двойственное линейное отображение 3>'(V, Y)-+2>'(U, Y) непрерывно; обычно оно не сюръективно, но его образ всегда со- содержит 2)'(U, У) ГИГ: sptT — компактное подмножество множества V), Если T^S)'(U, Y), Ф — открытое покрытие множества U и функции vs образуют связанное с ним разбиение единицы на V (см. 3.1.13), то Т= S TL.V» где G11- у,)ф = T(v, -ф) для seS и q>*=2)(U, У). Подразумевается, что Т является пределом в &>'(U, У) частных сумм, соответствую- соответствующим любой возрастающей последовательности конечных подмно- подмножеств семейства S. Отсюда следует, что Г(ф) = 0, если только ф€=^}(?/, У) и sptl1 П Иногда будем писать Тхц>(х) вместо Т(ц>). Теперь предположим, что X = R" и {еи ..., е„} — его стандартный базис. Для каждого распределения Т зададим распределения TDU ..., TDn формулами (Щ)ф = Г(Д<р) для всех фе^>(С/, У). Аналогично зададим TDa для a<=S(n, i). В случае Z7 = R" из фор- формулы Тейлора следует, что для каждой фе^)(Rn, У) функции, отображающие xeR" на сходятся k0b^5(R", У) при h, стремящемся к 0 в R, поэтому (TDj) ф = Km [Тхц> (х + he-) - 7> (x)]/h для Г.е S)'(Rn, Y). ft->0 Далее предположим, что У сепарабельно, и обозначим через У* банахово пространство всех непрерывных линейных функций на У. Каждой 2>п-измеримой функции ? со значениями в пространстве У*
368 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ со слабой топологией (см. 2.5.12), такой, что для каждого компактного множества К из пространства R", соответ- соответствует распределение Т&3)'(Rn, У), задаваемое формулой Т (Ф) = |<Ф (х), ? {x))dSnx для ср е= 0 (RB, Y). Ради краткости будем писать подынтегральную функцию в виде <Ф, ?>. Если | является функцией класса 1, то д<ф, |> = <Аф, V + <ф, А1> и J Dj <ф, ?> dS7" = 0, потому что spt <ф, |> компактен, откуда Таким образом, распределение —TD} соответствует функции D}%. Предыдущее наблюдение приводит к следующим определениям, применимым к любому T^?D'(U, Y): DjT = -TDj для любого j e {1, ..., гй, DaT = (-iyTDa для любого а^Е(п, i). Каждый из этих дифференциальных операторов является непрерыв- непрерывным эндоморфизмом пространства 2)'(U, Y). 4.1.2. Теперь получим некоторые факты отностельно сглажива- сглаживания (называемого также регуляризацией). Для этого выберем не- неотрицательную функцию Ф класса °° на R" такую, что Rnn{*: |*|<1} и Полагая Фе(ж) = е~пФ(е~1ж) для 0<е<°° и a;eR", найдем, что sup im 11Д''Ф8И = 6~n~' sup im \Ю'Ф\\ < °° для всех неотрицательных целых i. Для каждой ^""-измеримой функ- функции / со значениями в сепарабельном банаховом пространстве У такой, что к для любого компактного множества К из пространства R", рассмот- рассмотрим свертку Ф« * /, определяемую формулой (ф8./) (х) = J ФЕ (х - z) 1 (z) dSnz = = j Фе (z) f(x-z) dSnz для х е Rn.
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 369 Обозначая через еи ..., е„ стандартный базис пространства R", получим (Ф8*/) (х + he-) - (ФЕ*/) (х) = j j D^t (х - z +tej)dZ4Kz)d2nz DjOe (x-z + tej) f (z) dSnz о л 0 для / = 1, ..., n и h s R, откуда Dj (Ф8*/) (^) = j АФг (^ ~ Z) f (Z) dS\. Отсюда следует, что Ф« • / является функцией класса °° и */ для S(M) Аналогично находим, что Д(Фг * /) = Фв * Dsf, если / — класса 1 (бо- (более общо, если / локально липшицевская и Г рефлексивно), поэтому если / — функция класса г. Заметим также, что j В(Ж,Е) при е -»- 0+, если только х принадлежит ^"-лебеговому множеству функции / (см. 2.9.9); в случае, когда функция / непрерывна, схо- сходимость локально равномерна по х. Приходим к следующим вы- выводам. Если /e0(R", У), то Ф8*/^/ в 2>(Rn, Y) при е-*0+. Если re25'(R», У), то Tt-+T в 2>'(Rn, У) при е-*0+, где Ге(/)=Г(Фе*/) для /e2)(R», У). Кроме того, Т, соответствует такой функции ge^??(Rn, У*), что <У, g*{z)> = Tx[Q>t{x-z)y] для уеУ и потому что функция Л'Фе(х — z)y непрерывна по (х, z, у) для каж- каждого неотрицательного целого i и J </ W, & (z)> ^"z = J Г, [ФЕ (х - z) f (z)] d&nz = = Tx\ Фе (х - z) f (z) dSnz = T (Фв*/) = Ге (/) для f*=3)(R", У). Чтобы оправдать перестановку j и Г, аппрокси- аппрокси(Ф /) () фй мируем (Ф, * /) (х) функцией * (*) = 2 Sn (Л).ФЕ (х - ak) f (ak)t Г. Федерер
370 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ где Аи ..., А* образуют борелевское разбиение носителя spt/ и аке ^Ак. Заметим, что для каждого aeS(n, i) функция Daq (х) = 2 2п (Ak) DaOe (х - ah) / (ah) h=l равномерно близка к Da(Oe */)(#) при условии, что At, ..., Ау — малого диаметра. Чтобы распространить сглаживание с 2)'(Rn, У) на 2)'(U, У), где U — открытое множество в пространстве R", выберем последова- последовательность функций Wj е 2) (U, R) так, чтобы для каждого компакт- компактного подмножества К множества U существовало натуральное v, для которого Wj(x)=l, как только j^v и х^К. Если T^?D'(U, У), то каждое распределение Т L- w, является сужением некоторого эле- элемента пространства S)'(Rn, Y), поэтому распределение (T^-Wj), мо- может быть задано, как и выше, и оно аппроксимирует Т в S)'(U, Y), когда / велико, а г мало. 4.1.3. Применяя 4.1.2 с такой функцией Ф, что Ф(х) = А{(ху) ¦ - "f (х2) •... ¦ If (хп) для любого х е R", при подходящей -у е S5 (R, R), и вспоминая п. 1.1.3, находим, что получающиеся функции -ф при- принадлежат образу пространства[<8>п2)(Т\, R)]®7 e S5(Rn, У), значит, этот образ плотен в iZ5(Rn, У). 4.1.4. Если U — открытое множество из пространства R", Г = ^2)'(U, У), А — связное открытое подмножество множества U и spt D}T <= U\A для 7 = 1,..., п, то существует такая непрерывная линейная функция а на У, что как только f^2)(U, У) и spt/с Л. Достаточно доказать это в слу- случае, когда Clos.4 является компактным подмножеством множест- множества U, а тогда можно предположить, что spt Г является компактным подмножеством множества U, а также что U = Rn. Выберем точку л^А ж для каждого е > 0 обозначим через Сг компоненту мно- множества АЩг: dist(z, RnYA)>e}, •содержащую а. Применяя 4.1.2, найдем, что Djge(z) = O для zef, и 7 = 1, ..., п, поэтому ge отображает Се на единственную точку ae e У* и т{1) = как только /^25(R", У) и spt/cA Кроме того, для всех y^Y и
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 371 малых б > О <У, «е> = <У, gt («)> = Тх [Фв (х -а)у] = = lim (" <Фв (ж — а) у, ае> <&?"« = lim <У, <*¦*>'> е->0+ ?->0 таким образом, а« не зависит от б. 4.1.5. Предположим, что U — открытое множество из простран- пространства Rn, У — сепарабельное банахово пространство и У* — банахово пространство всех непрерывных вещественнозначных линейных функций на У. Для каждого S^<?>'(U, У) зададим функцию II511 на ЖA/) + (см. 2.5.14) формулой H5ll(/) = sup{5((p): tpe 3>(U, У) и ВФ0</}, для всех /еЖA1)+. Докажем, что условие 11511(/)<°° для любой функции / необходимо и достаточно для существования такой радоновой меры р на U и такой р-измеримой функции % со значениями в простран- пространстве У* со слабой топологией, что .1|?||ф<оо для каждого ком- К пактного подмножества К множества U, S (ф) = V <ф (я), | (x)}dpx, если только y^3)(U, Y). Очевидно, что условие необходимо. Для доказательства его доста- достаточности применим 2.5.12, полагая Ь = ЖA7), обозначим через Q векторное пространство всех непрерывных отображений из V в У с компактным носителем и продолжим 5 до линейной функции Т на Q по формуле (см. 4.1.2) Т (со) = lim 5 (Фе*со) для шей. е->0 Чтобы проверить, что этот предел существует и не превосходит I15ll(ll(oll), выберем сначала функцию +, для которой sptco с Intta: g{x)= 1). Для каждого положительного числа т] выполняется неравенство и поэтому |5(Ф. * со)-5(Ф„ * со) I как только е и б — достаточно малые положительные числа. Кроме того, выберем функцию h е Ж{U)+, для которой h ¦ IIcall =A1<о11 — т]я)+. 24*
372 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ заметим, что ПФе * (/ш) II «? 11@II И ПФ, * (@ - /КО) II «? r\g для малых е > 0, и придем к выводу, что Г(со) = Г(/ш) + Т(а — h<a)^ 11511A1@11)+ T|IISII(g). Отсюда следует, что ILSU совпадает с интегралом Даниеля %, опреде- определенным в первой половине утверждения 2.5.12E); вторая половина этого утверждения следует теперь из первой, потому что можно при- применить рассуждения п.2.5.13 с заменой g — hn, с, ц на H|JI, X(f), T. В случае, если выполняется вышеприведенное условие, будем го- говорить, что S — распределение, представимое интегрированием; при этом радонова мера, ассоциированная с интегралом Даниеля IISII. обычно будет обозначаться тем же символом 11511, так что для фе2) (U, Y), где к является слабо II511-измеримой функцией со значениями в Y* такой, что IIк (х) II = 1 для 11511-почти всех x^U. Кроме того, для обо- обозначения интеграла в правой части часто будет использоваться сим- символ 5(ф), даже если ф^0(?/, Y), например, когда (fsL^IISH, Y). Согласно 4.1.2 это продолжение распределения 5 однозначно опреде- определено в силу его непрерывности относительно полунормы И5НA), так как @>(U, Y) является 11511,-плотным в L1(ll5ll, Y). Из 2.8.18 и 2.9.8 ясно, что для 11511-почти всех х из U линейная функция к(х) задает- задается формулой <У, к (*)> = lim 5 {Ъх,ту)Ц S || В (х, г) для уеУ, где bXf r — характеристическая функция шара В (ж, г). Действительно, поскольку обе части равенства непрерывно зависят от у, достаточно проверить его для у из некоторого счетного всюду плотного в Y его подмножества. Если \i — интеграл Даниеля на Ж(U) и S <= \k\ZD(U, R), то Se ^2)'{U, R) и 11511 = ц,+ + ц- (см. 2.5.6). Если Si-* 5 в 2>'{U, Y) при i-+ «>, то lim inf I Si || (/) > J 5 fl (/) для1<=Ж (U)+, для каждого открытого множества E<=-U. Если отображение М: ЖA7) + -*¦ {t: 0^f<°o} монотонно, то множество 2)' (С/, У) П{S: \\Sl(f)<M(/), для всех f <= Ж A7)+} = = П 2>'(UtY)(]{S: 5(ф)< 2) компактно.
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 373 4.1.6. Функция, отображающая открытое множество U из прост- пространства R" в /\m(Rn, W), называется дифференциальной формой сте- степени т на U с коэффициентами из W (см. 1.4.1). В случае JF = R говорят просто о дифференциальной форме степени т на U. Если W — векторное пространство, то таковым будет и Дт(Нп, W), поэтому множество всех дифференциальных форм сте- степени т с коэффициентами из W является векторным пространством относительно поточечного сложения и умножения на скаляры. Если W — алгебра, то аналогично применим кососимметрическое произ- произведение в Д*A1П, W), построенное в 1.4.2 для того, чтобы опреде- определить для любых двух дифференциальных форм ф и -ф степеней р и q на U с коэффициентами из W дифференциальную форму ф Л "ф сте- степени р + q с коэффициентами из W по формуле (<рл'ф)(х) = ф(х) Л'ф(х) для любого геР. Будем писать также Е л t|) = ф Л о|), если E<^U и ф — характери- характеристическая функция множества Е. Дифференциальные формы, являющиеся бэровскими функциями, называются бэровскими формами. Функции, отображающие U в A»»Rn, называются пг-векторными полями на U. Если | является пг-векторным полем на U, а ф — диф- дифференциальной формой степени к на U с коэффициентами из W, и т ^ к, то | -1 ф определяется как такая дифференциальная форма степени к — т на U с коэффициентами из W, что (см. 1.5.1) (| -1 ф) (х) = \{х)-1 ф(я) для любого x^U. В случае m = A обычно 1-^ обозначают через <|, ф>. Если т>к и W = R, аналогично определяется (т — к) -векторное поле 1^-ф на U. Применим скалярные произведения, построенные в п. 1.7.5, чтобы связать вещественнозначную функцию с парой т-векторных полей на U или парой дифференциальных форм степени к, а также задать функции |?| и |ф|. Применяя также 1.8.1, получим функции 11|И и ИфИ. Стандартные координатные функции Хи ..., Хп на Rn (заданные формулами Хг(х) = х( для x = (xi, ..., xn)eR") образуют базис про- пространства Лх R"> двойственный стандартному базису еи ..., е„ про- пространства Rn, поэтому произведения Х\ = %ui) Л ... Л Хцт) и е% = ещ) Л ... Л соответствующие всем Х^А(п, т), образуют двойственные базисы пространств AmRn и AmRn. Заметим, что DXU ..., DXn являются дифференциальными формами степени 1 на R" и ( (х) = Xt для любого х е Rn,
374 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ поэтому для дифференциальных форм (DXh = DXM1) д ... л DXUm) степени т на R" выполняются равенства (DX) х (х) = Хх для любого х е= R". Зададим также пг-векторные поля е* на R" формулой вх (х) = е* для любого х s Rn. Тогда получим, что для каждой дифференциальной формы ф степе- степени т на открытом множестве U из пространства R" Ф = 2 <ех, ф> Л (DX)X. Это представление формы ф (которое исторически мотивировало- термин «дифференциальная форма») остается справедливым, если коэффициенты формы ф принадлежат какой-нибудь алгебре W с единицей (у которой произведения единицы на вещественные чис- числа образуют подалгебру, изоморфную R); кроме того, каждое век- векторное пространство W может быть вложено в такую алгебру, на- например в ®* W. Вспоминая п. 1.5.2, с каждым р-векторным полем | на U свяжем дифференциальную форму степени п — р и. с каждой дифференциальной формой ф степени р на U свяжем (га — р) -векторное поле °РФ = (ei Л ... Л е„) |_ ф. Аналогично зададим *| и *ф, применяя 1.7.8 с Е= е1 д •.. Л еп к \{х) и ф(я) для каждого x^U. Допустим теперь, что W — нормированное векторное простран- пространство и применим индуцированную норму на f\m(Rn, W), построен- построенную по методу п. 1.7.5. Для каждой дифференциальной формы ф степени т на U с коэффициентами из W такой, что ф дифференци- дифференцируема в каждой точке множества U, определим внешнюю производ- производную йф как дифференциальную форму степени т + 1 на U с коэф- коэффициентами из W, задаваемую формулой т+1 <г>1 Л ... Л vm+l, dy{x)} = 2 <z;W, (vu D(e(x)}}, где y(i) = (— l)i-i yx д ... д Vi-X Л vi+i Л ... Л vm+1 для любого х ^ U и Vi, ..., vm+i e Rn. Оправданием этого определе- определения служит то, что для каждого x^U вышенаписанная сумма ли-
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 375 нейно зависит от каждого v, и меняет знак при перестановке vs и j7j+i. Формулу надо понимать так, что dq> = Dq>, если ц> имеет степень 0. Для любых дифференциальных форм ц> и -ф на U, дифференцируе- дифференцируемых на U, выполняются следующие четыре равенства: Ар = 2-DXj Л .Dj(p; 3=1 tf (ф + o|j) = йф + <?ф, если <р и ip одинаковых степеней; d (ф Д я|)) = dtp Д Тр + (— l)degreeq> ф д ^ d(dq>) = 0, если ф дважды дифференцируема на U. Первое равенство получим из определения формы йф, заметив, что m+l / п <^i Л .. • Л vm+1, dy (x)} = 2 \ y(i)> 2 <y г=1 \ 3=1 n m+l n = 22 <Уг, ^j> <^(i), D)V (*)> = 2 <»1 Л . . . Л !>«+!, X, Л ;=1 г=1 ;=1 потому что перестановка типа A, тп), отображающая 1 на i, имеет индекс (—1)'~'. Проверка второго равенства тривиальна. Третье и четвертое равенства выведем из первого следующими выкладками: (фл (АР) п я|>)= 2л 3=1 = ЖВХк Kj Л Dj (ф Л 1 = 2№л 3=1 п л ой 2-0^ 3=1 3=1 ,ЛЗД- STjA(B 'зф Л ip + ф Л D$) = 1евгее<Рф д?)Х^-Д?)^ = 2 2 DXh л DXj Л D*j9 = 0,. fc=i j=i потому что DXh л DXj = — .DXj л DXh и Dk, ,<p = ?>,-, кф. Применяя первое равенство, получим также представление ^Ф = 2 DXj Л 2 Dj <еь Ф> Л фХ)х = з=1 ^,eл(n,degreeф) 2 п, degree ф)
376 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Заметим, что внешняя производная dq> может быть охарактери- охарактеризована условием, что для x^U dy(x) является образом дифференциала Dcp(z) при композиции: Нош (Rn, Д т Rn) =* Л xRn ® Л mR" -»¦ Л1+m Rn изоморфизма, описанного в п. 1.1.4 и линейного отображения, инду- индуцированного внешним произведением. Применяя двойственную процедуру, свяжем с каждым диффе- дифференцируемым р-векторным полем | на U некоторое (р — ^-вектор- ^-векторное поле называемое дивергенцией (или внутренней производной) поля |г требуя, чтобы div|(х) для каждого x^U совпадала с образом диф- дифференциала D%(x) при композиции Hom(R", ЛРКп)^ЛрКп®ЛгЬГ-^ЛР-1(Кп) изоморфизма, полученного с помощью 1.1.4 и 1.1.2, и линейного отображения, индуцированного внутренним произведением. Таким образом, получим, что Мы видим, что оператор D связывает внешнее и внутреннее диф- дифференцирования с помощью равенства так как из последнего утверждения п. 1.5.2 следует, что 2 DP Ф?) Л DXj = 2 Dp-i № L DXi). j=\ j=i Для любой функции /, отображающей открытое множество А из пространства Rv в R", такой, что / дифференцируема в каждой точке множества А и образ / содержится в области определения диффе- дифференциальной формы ф степени т с коэффициентами из W, зададим как такую дифференциальную форму степени т на А с коэффици- коэффициентами из W, что (/*ф) (а) для каждой точки а е А является обра- образом ф[/(а)] при линейном отображении (см. 1.4.1) An[Df(a), W}: An(R\ W)-+ /\m{R\ W). Отсюда следует, в частности, что /*Ф = ф о /, если ф степени 0.
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 377 Операция f* коммутирует со сложением и кососимметрическим про- произведением, потому что так ведет себя /\*Df(a) для каждой точки а^А. Кроме того, й(/*ф) = /*(йф), если / дважды дифференцируема. В случае, когда <р степени 0, это равенство просто еще раз утверж- утверждает, что D(q>°f) (a) = Dq>[f(a)]°Df(a) для любой точки а^А. В случае, когда ф = Dtp для некоторой формы ip степени 0, требуе- требуемое равенство доказывается выкладкой d (f <fy) = d (df* ip) = 0 = /* (ddty). С помощью сложения и кососимметрического произведения произ- произвольная форма ф может быть получена из форм предыдущих двух видов, именно, <ек, ф> и DXt. Кроме того, с помощью формул для внешних производных от сумм и произведений находим, что класс всех форм ф, удовлетворяющих утверждаемому равенству, замкнут относительно сложения и умножения. Если А, В, С — открытые множества в евклидовых пространствах и /: А -+¦ В, g: В -»- С — отображения класса °°, то (gro/)*(p = f (gr+ф) для каждой дифференциальной формы ф на С. 4.1.7. Для каждого открытого множества V из пространства Rn и каждого неотрицательного целого т положим &т (G) = % (и, AnRn), 8m (U) = <Г {U, /\m Rn), Таким образом, ?""( U) — это векторное пространство всех дифферен- дифференциальных форм степени т класса °° на U с вещественными коэффи- коэффициентами и iZ5m(U) — его векторное подпространство, состоящее из тех форм, носитель которых является компактным подмножеством множества U. Элементы пространства 3)m(U) называются т-мерны- ми потоками в U, а образ пространства %>т{Щ в 3)m(U) состоит из всех m-мерных потоков с компактными носителями, содержащи- содержащимися в U. Вдобавок к конструкциям, применимым к распределениям про- произвольных типов и рассмотренным в 4.1.1—4.1.5, следующие опера- операции над потоками являются двойственными к соответствующим опе- операциям, относящимся к дифференциальным формам и векторным полям и описанным в 4.1.6. Пусть T^3)m(U). Для функции y<=<?h{U) при к^т положим (T L Ф) W = Т (Ф д я|>) для любой формы ty&2)m
378 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Для каждого p-векторного поля | класса °° на U положим для любой формы tye=?Dm Требование, чтобы ф и | были функциями класса °°, часто из- излишне ограничительно. Например, в случае, когда поток Т предста- представим интегрированием, достаточно предположить, что ф и | сумми- суммируемы на каждом компактном подмножестве множества U. В част- частности, положим ТLА = ТL.(характеристическая функция множества А)<^ для каждого ИГИ-измеримого множества А. Если т > 1, зададим гра- границу потока Т, для любой формы фе?>» Предполагая, что формы ф и ? класса °° на С/, легко проверить следующие восемь равенств: д (дТ) = 0, если dim T>2; дТ = — 2 (DjT) L ?>Xj, если dim T > 1; Г = 2 [Г L (J3X)x] Л е*; Dj (Г L Ф) = (DjT) L ф + Т L (Г Л i) L <р = У Л (i L ф), если dim Т = 0 и degree ф < dim g п 5 (Г л ?)= - Т Л div ? - 2 ^Г Л (I L DX,-), если dim T = Один и тот же символ часто будет применяться для обозначения радоновой меры на U, ассоциированного с ней интеграла Даниеля на Ж{11) и 0-мерного потока, получающегося сужением этого инте- интеграла на 3)" (?/). Каждому ^"-измеримому р-векторному полю | . такому, что \ || 11 dSBn ¦< оо для любого компактного множества К из пространст- к ва R", соответствует (так же, как в 4.1.1, потому что (ЛР^™) — ~ Д р Rn) поток Я?п Л ? ^ 2t>v (R")i задаваемый формулой " Л I) М>) = f <1, •ф) й^" 9дя if s 55P(R").
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 379 Замечая, что Dj3?n = 0, находим, что если | — поле класса 1, то Кроме того, если ф <s 2>n~p (R") и ¦$ е= 2)р (R"), то О?" Л Dn-p9) (ф) = J <Бп-рФ, г|>> d<?" = J <еA Отметим также коммутативную диаграмму п)) ф 1 VR" div -a Ради краткости обозначим так, что Еп(ф) = J<<?! Л ... Л*п, Ф(«)>йЗ?пх для (рей)"(Rn). Ясно, что " = 0 для / = 1, ..., п и дЕп = 0. Заметим, что поскольку ЛП+1^П= {0}> из 1-5-3 следует, что е^ = (-1)),Г для T(=g>n(U) и / = 1, ...,п. Применяя 4.1.4 при Y= ДПКП и замечая, что для каждого а е-У* существует такое число ceR, что <г/, а> = с (е^ Л ... Л en, J/> Для любого i/e ЛЛКП7 получим следующую теорему о константе. Если Т е iZ5n (i7), Л — связное открытое подмножество множест- множества U и sptdTaU\A, то существует такое вещественное число с, что Оперируя с любым р-мерным потоком S в U, представимым инте- интегрированием, применим конструкции п. 4.1.5 для пространства ДтК™= Y и ДтКп~ У*,нормированных массой и комассой соглас- согласно п. 1.8.1. Обозначим через HSII-измеримую функцию со значениями в Дт11п, заданную
380 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ формулой (S (х), у> = lim S фх>гу)/1 S | В (х, г) г->0+ для всехубД™Rn> где Ъя,г — характеристическая функция шара В (х, г). Таким образом, х е dmn S тогда и только тогда, когда выше- написанный предел существует для каждого у е AmRn. Тогда —» US (х) II = 1 для Ш-почти всех х из U, для ip e S5m (U), поэтому Отсюда следует, что каковы бы ни были радонова мера f на U и ¦у-измеримое р-вектор- ное поле | такие, что ) || \ || dy < оо для каждого компактного под- к множества К множества U. Действительно, из 2.5.9 вытекает суще- существование такой ограниченной неотрицательной ¦у-измеримой функ- функции к, что поэтому у Л | = 7 А ||IIЛ к л (v Л ?) и для f-почти всех х Например, IIEnll = S7" и Еп = ех л • •. Л е„. Зададим комассу дифференциальной формы ф степени т на U как и массу иг-мерного потока Т в U как Если М(Г)< оо, то Г представим интегрированием. Если Т предста- представим интегрированием, то М(Г) = HTW(U). Предполагая, что Т^S)m(U), назовем поток Т локально нор- нормальным, если Т представим интегрированием и либо дТ представим интегрированием, либо тп = 0. Кроме того, назовем поток Т нор- нормальным, если Т локально нормален и sptT1 компактен. Положим
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 381 также в случае ти>0, в случае т = 0. Если Л(Т)< оо, то поток Т локально нормален. Если Т нормален, то N(T)< оо. Обозначим через векторные пространства соответственно всех лг-мерных нормальных и локально нормальных потоков в U. Для каждого компактного подмножества К множества U положим Ясно, что Т е N^0 (U) тогда и только тогда, когда Т L- ^ е e=Nm(Z7) для каждой функции ч<=^5°(?/), а также тогда и только тогда, когда для каждого x<=U существует такой поток 5eNm(Z7), что z&svt{T-S). Заметим, что (dT)($) = T(d$) в случае, когда 2"eNm(C/), m >O и ар — дифференциальная форма степени и-1и класса 1 на UY потому что внешнее дифференцирование коммутирует со сглажива- сглаживанием. Пусть U, V — открытые множества в евклидовых пространствах и /: U-*¦ V — отображение класса °°, T^2)n(U), отображение /I spt T собственное. Зададим поток так, чтобы (/+г)(ф) Ь(/ф)] для всех форм q>^2>m(V) и i^S>"[U), для которых (sptT)n/-1(spt9)c:Int{a;: ч() 1) Из этих условий следует, что U(TL fy) = (/+Г)L ^ для if s8\V) при m > k. Если к тому же поток Т представим интегрированием, то /+ (|| Т\ L || (f\mDf) T\\) является радоновой мерой на У и поток f%T представим интегрированием, причем потому что T(f*<f>) = lT\((/\mDf)T, ф о/> для феД>»(У). По- Поэтому поток 1ФТ (локально) нормален, если только Т (локально)
382 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ нормален (и отображение /IsptT собственное). В этом случае /#(jTl/*i|)) = (/#7')l я|з для каждой ограниченной бэровской формы if степени к *? т на F, поэтому для каждого борелевского подмножества В множества V. Из последнего абзаца п. 4.1.6 следует, что если отображение g°}\ spt Г собственное. Определение потока /*Г будет обобщено в 4.1.14 и 4.2.2. Здесь мы проиллюстрируем трудности в ослаблении условия о том, что отображение /I spt T собственное, на примере, когда / является ото- отображением включения множества U = {х: 0 < х < °°) в R, 0< Ь < °° и ь Ге2), (U), Т (ф) = | <1, Ф (х)} dSxx для о Вспоминая 2.5.19, находим, что л единственный поток S e S)t (R), для которого dS = /+ (дТ), задает- задается формулой ь <1 {)d2?l для ife^I^)- Ввиду того, что sptS<?/(sptГ), в этом случае не существует ни- никакого удовлетворительного определения потока /+Г, несмотря на то, что N(r)<oo и отображение / липшицевское. 4.1.8. Предположим, что А и В — открытые множества из прост- пространств Rm и R" р: АХВ-+А и q: AXB-+B, р(а, 6) = аид(а, Ь) = Ъ для (а, Ь)е=АХВ. Мы докажем, что для любых потоков S^2)i(A) и Ге^(В) суще- существует один и только один поток S X Т е 2)i+1(A X В), называемый декартовым произведением потоков S и Т, удовлетворяющий сле- следующему условию. Если аей)'(Л) и E <^ 2)i+'-k(В), то (SxT)(p*aAq*$) = S(a)T$) в случае k = ia (S XT) (p*a Ag*P) = 0 в случае к ф i. Замечая, что гЛ-Э Ai+i(Rm X Rn) = Ф (im Л"р)лAт Л{+^)г
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 383 и вспоминая 4.1.3, видим, что вышенаписанные формы p*a/\q#$ порождают плотное векторное подпространство пространства 3)i+i(A ХВ), поэтому поток SX Т характеризуется нашим условием. Чтобы доказать существование потока SXT, применим отобра- отображения Р: Rm ->¦ Rm X IT, P(a) = (а, 0) для а е R™, q. Rn->R-»xRn, <?(Ь) = @, Ъ) для bsR". Для любой формы фе2)ад(АХВ) зададим форму <fg<=2)s(B) фор- формулой J <?(а, Ъ)} для ЬеВит)е Д; (Rn)> затем положим Замечая, что Dp(a) = P* для а^А, Dq(b) = Q* для Ъ^В, Р*°Р и Q*°Q являются тождественными отображениями (см. 1.7.4), легко проверить, что поток SXT удовлетворяет нашему условию. Из этого характеризующего условия следует, что sptE X Т) = sptS X spt T, d(SXT) = (dS)XT + (-iySXdT, если i, />0, d(SXT) = (dS)XT, если t>/ = 0, d(SXT) = SXdT, если i = 0</. Декартово произведение потоков является билинейной операцией, и оно ассоциативно (ср. с 2.6.5). Кроме того, оно антикоммутативно» в том смысле, что где г: ВХА-+АХВ, г(Ъ, а) = (а, Ъ) для (Ь, а)^ВХА. Действи- Действительно, = (ГХ5) [(<? о г)+ Р Л (р о г)+ а] = Тф) S (а), для любых as2)((i) и ре25'(В). В случае, когда носитель spt S компактен, имеем q^(SXT) = 0, если i>0, ?+EХГ) = 5A)Г, если i = 0. Если потоки S и Т представимы интегрированием^ то для любой формы ц>^2>'м(А ХВ), где
384 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ для И511 X №1-почти всех (а, Ь), причем Н? (а, Ь)Н<1 согласно 1.8.1. Отсюда получаем, что поток SXT представим интегрированием и —» —> В случае, когда поливектор S(a) или Т(Ь) прост для II5II X №1- почти всех (а, Ь), а значит, Н?(а, ЬI1 = 1 согласно пункту 1.8.4, по- получаем равенства SXT(a, b) = t,(a, Ъ) для USXП-почти всех (а, Ь). Автору неизвестно, всегда ли выполняются эти равенства (без предположения о простоте S или Т). Этот вопрос эквивалентен вопросу в конце п. 1.8.4. Однако по крайней мере есть уверенность, что всегда ( )l|Sxr« потому что, согласно 1.8.1, для всех ae^(i) и ре ЗУ (В). Если множество А содержит отрезок с концами в и у, положим lu, 1 [и, v] (a) = f О — u, a [A — t) и + tv]} dSH о для а^ЗI(А). Ясно, что [у, и] — — lu, v]. Вспоминая п. 2.5.19, получим [ц, г;] для i|) s 5>° (Л), поэтому д[и, v] = bv — bu. Делаем вывод, что для Г д{1и, у]ХГ) = 8„ХГ-6иХГ-[ц, vlXdT, если ;>0, д([и, v]XT) = bvXT-6ttXT, если; = 0. Заметим, что для любой точки ze4 81ХГ = е2+7, где e2(b) = (z, Ь) для fceS,
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 385 потому что фвг = е*ф для ф ^ &(А X В). Кроме того, <Л. Ф [u, V] (Ь)> = j <Р (v - и) л (Д* 0) Пг Ф [A - *) и + <»» Ь]> <*2"* о для любых ф е 3>i+i(A X 5), 6 е ? и л е Л j **"• Из приведенных выше формул для границы потока индукцией по v выводим, что д ([и„ pj X ... X [uv, ю»]) - v = 2 (- 1)" [«ir pJ X ... X K-i, yft_i] XFUft - 8Bft) X X [uft+1, yft+1] X ... X [uvt i»v]» если только для каждого Л е {1, ..., v) точки uh и vh принадлежат одному и тому же евклидову пространству (этот результат является теоремой Стокса для ориентированного прямоугольного параллеле- параллелепипеда) . Заметим, что если — <» < uh < vh < <х> при к = 1, ..., v, то [»i, i>J X ...X [bv, vv] = EvL-{x: uh<xh<vk для /с = 1, ..., v>. Это следует из общих фактов о декартовых произведениях, потому что ч [щ, vh](а) = J <1, а(s)>dS4 для ае®1 (R)e "ft откуда [вЛ, ул] = Е1 L- {s: uh< s< vh} для к = 1, ..., v. 4.1.9. Пусть [/ — открытое множество из R", У —открытое мно- множество из Rv, / и g — функции, отображающие U в V. Гомотопией класса г, связывающей f с g, называется такое отображение h: AXU-+V класса г, что А — открытый интервал из R, 0^4, 1 = А, h@, x) = f(x) и ЛA, x) = g(x) каяхе=и. Для любого t e А положим ht: U-+V, ht(x) = h(t, x) для хе U, откуда h0 = / и ht — g. В случае г > 1 положим также к: U — Rv, ht (x) = < A, 0), Dh(t, x)> для х в С/, откуда <(у, U7), Dfe(i, a;)> = yAt(a;)+<w, Dht(x)> для fe4, же г/, R R R, u?R. Предположим, что г = оо, Ге25;([/) и отображение h\{t: 0< ?< 1} X sptT собственное. Применяя 4.1.7 и4.1.8, определим 25 г. Федерер
386 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ /г-деформационную цепь потока Т как и, вычисляя ее границу, получим формулы гомотопии для потоков g*T - UT = dh* ([0, 1] X Т + ft# ([0, 1] X дТ), если / > 0; g*T - UT - 5Й+ ([0, 1] X Т), если / = 0. Вспоминая доказательство существования в 4.1.8, можно пере- перефразировать предыдущие утверждения, сказав, что для любой фор- формы ij3s^5j(y) выполняется равенство т (g-ч - /+ч0 = т при ] > 0. При 7 = 0 второе слагаемое в правой части должно быть опущено. Применяя эти равенства для каждого х ^ U и каждого yjs Л?ИП к потоку Г, заданному равенством Г(Р)==<т], р(х)> для P«=i2)j([/), получим формулы гомотопии для дифференциальных форм: ^**-7"Ч = [ft+ (*t)][e.ij + d[(h*\p)lOil]], если />0, ff** — /*Ч» — [** (d4»)Ito.xjt если j = 0. Если Т представим интегрированием, то [Дi+jDh (t, х)} [0,1]ХТ (t,x) = hi(x) h[/\jDht (x)] T (x) для 5" X НГИ-почти всех (t, x) из {t: 0 < t ^ 1} X U, откуда следует, что l Мы будем часто применять аффинную гомотопию h, связываю- связывающую /eg, которая определяется формулой h(t, x) = (l-t)f(x) + tg(x) для (t, x)^AXU. В этом случае fit — g — t и Л« = A — t) f + tg для f s ^4. Если Г пред- представим интегрированием, то 1 -/i sр/и" ft=o 4.1.10. Теперь для каждой точки »eRn рассмотрим аффинную гомотопию h, связывающую постоянное отображение f со значены- i
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 387 ем и и тождественное отображение g пространства R". Для любой формы i|)«=iZ5j(Rn) и ;>0 находим, что g*i|) = i|) и /*г|э = О; поэтому из di|> = 0 следует, что г|з= d[(^*4|j)[o,i]]- Для любого потока T^S)j(Rn) такого, что sptf компактен, полу- получаем g*T = T, UT = 0, если />0, и /+Г = ГA)б„, если / = 0. По- Поскольку 2)n+l (R") = 0, приходим к выводу, что из дТ = О следует, что Т<=дкф'(Ю, ИХ Г)', если 0</<«; из дТ — 0 следует, что Т = 0, если / = п; Г = ГANи + 3/г+([0, 1]ХГ), если / = 0. Предыдущие рассуждения остаются справедливыми, если R" за- заменить на любое его открытое подмножество U такое, что u^U и для каждой точки уе[/ отрезок с концами и и v содержится в U. Однако мы увидим, что подобные выводы не обязаны выполняться для произвольного открытого множества U из пространства R". Величину отклонения от этих равенств можно измерять группами гомологии множества U (определяемыми в § 4.4). 4.1.11. Теперь воспользуемся отображением F: R"XRXRn->-Rn таким, что F{xi U У) = A — t)x + ty для любых х, jsRn и t = R, чтобы задать для любых потоков S^2)i{Rn) и T<=<2)j(Rn) с ком- компактными носителями соединение потоков S и Т как поток (S X Т) = F+ E X [0, 1]ХГ)е ?i+1+j (Rn). Поскольку SXbtXT = G,^(SXT), где Gt(x, y) = (x, t, у), и по- поскольку F о Go и F ° Gj являются стандартными проекциями из R" X R" на R", находим, что если i,/>0, = (dS)XT-(-iyT(l)S, если i>/-0, = S(l)T-SxdT, если />г = 0,; = S(l)T-T(l)S, если i = / = 0. Из антикоммутативности декартова произведения следует, что Действительно, если р(ж, t, y) = (y, i — t, x) для х, yeR" и то .F = F о р и ГХЮ, l]XS = (-l)iw+>*1p*(SX[0, 1JX21). 25*
388 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Заметим, что (см. 2.7.16) А+ (S X Л = А+ (S) X А+ (Г) для каждого аффинного отображения А, потому что A°F = Fс (А X 1r X A). Если потоки S и Т представимы интегрированием, то = W)W + / + 1)П|Sl\\Ti ||S (я) Л (у - х) Л Т(у)|. Если и е R», то где А — аффинная гомотопия, связывающая постоянное отображение со значением в и тождественное отображение пространства Rn, по- потому что ^(в, f, y) = h(t, у) для «eR и jeR". В случае, когда по- ток Г представим интегрированием, имеем Применяя альтернативное обозначение [и] = б„ для любого 8eR" и замечая, что [и, v] = 8U X 8„ для любых и, у е R", зададим по индукции m-мерный ориентированный симплекс К, Ml, ..., ит] = К] X [иц ,..,%]?& (R") для любой (т +1)-членной последовательности точек и0, в4, ... ..., Mm e R". Находим, что д[и0, ..., ит\ = [Mlt ..., ит) — [м0] X 9[u!, ..., ит] = m = S (— i)k[u0, ..., uh_u uk+u ..., um]. Заметим также, что Л+[ц0, ..., мот1 = L4 (в0),..., А (ит) ] для любого аффинного отображения А. Поэтому всякий т-мерный ориентированный симплекс в евклидовом пространстве представим в виде аффинного образа любого невырожденного m-мерного ориен-
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 389 тированного симплекса в Rm. Далее докажем, что [в0, щ, »2, . •., «ml + [»i, Во, »2, ..., ит] = 0. Для т = 1 это известно из 4.1.8. Для т > 1 проверим по индук- индукции, что вышенаписанная сумма имеет границу 0, выведем с по- помощью 4.1.10, что эта сумма равняется 0 в случае, когда в0, ..., ит принадлежат Rm, а затем применим аффинное отображение, чтобы показать, что эта сумма равняется 0 в случае, когда »0, . •., »т при- принадлежат любому евклидову пространству. Из вышенаписанного ра- равенства следует, что [в0(о), ..., »о<1»)] = index(o)[B0, ..., «ml для любой перестановки о множества {0, ..., т}. Аналогичным ин- индуктивным рассуждением (применяя оператор д и воспользовав- воспользовавшись 4.1.10), получаем формулу для симплициального разложения ориентированной симплициальной призмы [а, Ь] X [и0, ...,ит] = т - 2 (-1)" К*, «о). •••»(«, «ft). {Ь, ик), ..., (Ь, ««)]. С помощью повторного применения этой формулы можно любой то-мерный ориентированный прямоугольный параллелепипед пред- представить в виде суммы т\ ориентированных симплексов, вершины которых содержатся во множестве вершин параллелепипеда. Ассоциативный закон (R X S) X Т = R X (S X Т) выполняется для любых потоков R, S, Т с компактными носителя- носителями в R". Чтобы доказать это, положим Н: R"XR"XRnXR3-^Rn, g: R2-^R3,/: R2->R\ H (x> У» z> w)= для x, у, zeR", meR1, f eR2 и проверим, что F[x, U, F(y, t2, z)] = H[x, у, z, Обозначим также через vu v2, v3 стандартный базис пространства R3 и заметим, что /* ([0, 1] X [0, 1]) = [Vlt vt] X Ы = [v3, vlt v%\ = = [vlt vt, vs] = [Vl] X [va, vs] = ^r# ([0, 1] X [0,1]).
390 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ 4.1.12. Предположим, что U — открытое множество в простран- пространстве R". Вспомним, что, согласно 4.1.1, для каждого компактного подмножества К множества U для любой дифференциальной формы класса <» на U, и зададим плоскую полунорму Fjt(q>)«sup[vi(q>), v Для каждой вещественнозначной линейной функции Т на 2)m(U) обозначим через двойственную плоскую полунорму и отметим следующие факты. Если Тк(Т)<оо, то T^3>m(U) и TK {T: FK , () p () (T)<oo} является Fk-полным. Если 1^2>m(U), то ?к(дТ)<Ек(Т); кроме того, L Y)<K(V) + v°K(dY)] ?K(T) для любого Далее докажем, что для каждого потока Те?E)m(ZJ) такого, что TK, полунорма FK(T) является наименьшим элементом (воз- (возможно, равным °°) множества №(T-dS) + M(S): S^2>m+1(U) и spttfcK}. Для любого потока S <^2)m+i(U) такого, что sptScr К, имеем Г(Ф) = (Г-dS) (ф) + S(dy)^M(T-6S)+M(S), как только <ре2)т([/) и Рк(ф)< 1, поэтому FK(T)<M(T-dS)+M(S). Чтобы доказать, что для некоторого S выполняется равенство, предположим, что ?К(Т)<°°, оснастим векторное пространство P = @m(U)X&m+i(U) полунормой v (ф, Ц) = sup {\°к (ф), vk (if>)} для (ф^ у) е Р и рассмотрим линейный мономорфизм Q: 2>m(U)-+P, ?(ф) = (ф, *P) Для ФеД>-A7). Поскольку v [Q (ф)] = FK (ф) для ф ^ S)m (U), видим, что и, применяя теорему Хана — Банаха, получим такую вещественно- значную линейную функцию L на Р, что T'Q-1 и L<FK(T)v.
8 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 391 Затем зададим линейные функции R и S формулами = ?(<р, 0) для<ре0 Для q^® заметим, что из условия v(cp, i|))<l следует, что Д(ф)+5A|з) ?( ^)F(T), а поэтому RS)(U) SS>(U) и что 7'(ф) = ^(ф, йф) = /?(ф) + S(d(f) для каждой формы фе e=^)m(i7), а поэтому T = R + dS. (Отметим также, что если М(Г)< < оо, то поток S нормален.) С каждым компактным подмножеством К множества U свяжем векторное пространство Fm>K{U) — Fx-замыкание пространства Nm,к(У) в 2)тф), являющееся полным относительно полунор- полунормы F*. Затем определим пространство Fm(U) . Ч как объединение векторных пространств Fm,K(U), соответствующих всем компактным подмножествам К множества U. Элементы про- пространства Fm(U) называются пг-мерными плоскими цепями в U. Обозначим также через FJT (С/) подмножество пространства S)m(U), состоящее из всех таких пото- потоков Т, что Т L if «= Fn(U) для любой функции ^ s gH(U). Такие потоки называются локально плоскими. Заметим, что Г г е FmC (U) тогда и только тогда, когда для каждого х <= U существу- существует такой поток S^Fm(U), что x^spt(T-S) (это можно проверить с помощью подходящего разбиения единицы на U). Если TeFm>K(U) um>0, то dT^Fm-i k(U). Если T^Fm,K{U) U 4&&>°{U), TO TL'fSFm,Knspt7(tf). Для каждой окрестности Z носителя sptf в U можно выбрать функцию if так, что spt^crZ и spt T <= Int {x: ч(х) = 1], поэтому Т = Т L- if. Отсюда получаем, что Однако может случиться, что T&FmiSvtT(U), например, когда | В самом деле, как будет следовать из 4.1.18, носитель этого конкрет- конкретного потока Т не содержит носителя никакого ненулевого одномер- одномерного нормального потока, поэтому Fo, 8р4т(К) равняется М-замыка- нию множества N0,Bptr(R), тогда какМ(Г) = оо.
392 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Пример в 4.1.15 покажет, что не все одномерные потоки с ком- компактным носителем и конечной массой являются плоскими цепями. Далее вспомним 4.1.8 и предположим, что 5е2)((Л), Т^З),{В), С — компактное подмножество множества A, D — компактное под- подмножество множества В. Легко проверить, что FCXDExr)<NE)FD(r), если sptSczC, FC(S)FD(T)^[ :^_1 JFCXD(SXT). Если iSeNifC(^) и T^FhD(B), то SXTe=Fi+),cxD{AXB). Однако декартово произведение двух плоских цепей не обязано быть плос- плоским, как показывает пример, когда 5 = J^l^^leF^R), T = dSe=F0(R), и vh = uh + 2k~3 для k = 1, 2, 3, ... В самом деле, ясно, что spt5cL 0<о;< 2 4к~3}, М(S) = 2 2 к~2< оо. Выберем функции ф4е^5°(К), для которых с {х: uh<x< uh+i), = ф4(уА) = 1 и Зададим формы ifim s S)Q(W) для /re = 1, 2, 3, ... по формуле m •фт (ж, у) = 2 к~3щ (х) фЛ (у) для (х, у) <= R2, ft=l затем отметим, что М (¦»[)„,)< 1 и М (с?фт) < 2. Поскольку m m (Т х Т) урт = 2 А~3Г Ыг = 2 й; -»- оо при т -> оо, приходим к выводу, что поток Г X Г не является плоской цепью. Наконец, равенство д (S X Т) = Т X Т показывает, что поток S X Т не является плоской цепью. 4.1.13. Важность плоских полунорм для теории нормальных по- потоков основывается главным образом на следующем предложении. Если reNm([/), / и g — функции класса °°, отображающие U в V, причем и если p(a;) = sup{IID/(a;)ll, Wg(x)W) для x^U,to Fc (?+Г -/+Г) < №1 (|# -/|pm)-М1дЯ1 (|? -/Ip1»-1) в случае m > 0 и Fc (g#T - /+Г) < НП1 A^ - /I) в случае m = 0.
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 393 Чтобы доказать это, заменим U на подходящую окрестность но- носителя sptT так, чтобы можно было определить аффинную гомо- топию, связывающую f\U и g\U и принимающую значения в У, вспомним формулы гомотопии для потоков, заметим, что С содержит носители деформационных цепей потоков Т и ОТ, и оценим массы обеих деформационных цепей с помощью неравенств в конце п. 4.1.9. 4.1.14. Теперь допустим, что U и У — открытые множества в ев- евклидовых пространствах и /: U -*¦ V локально липшицевское отобра- отображение. Поток / для rsF,, где К — любое компактное подмножество множества U, определим условием сходимости где Е — любое компактное подмножество множества У, для которо- которого f(K)czIntE, а потоки S и g{#S задаются следующим образом. Для того чтобы определить поток S, возьмем какую-нибудь окрест- окрестность Z компакта К в U. Обозначим через ? отображение включе- включения Z в U и потребуем, чтобы поток SeFm,k{Z) был связан с Т соотношением а функции gt: Z-*- V класса °° были подчинены условиям с = sup U {|| Dgi (x) ||: хе=К}<оо, il i-»oo В случае, когда ClosZ является компактным подмножеством мно- множества U, такие аппроксимирующие функции могут быть построены сглаживанием функции /, потому что сужение / на некоторую ок- окрестность множества jClos Z является липшицевским, следовательно, отображения (Фе * /) \Z, соответствующие всем достаточно малым положительным числам е, имеют общую константу Липшица. По- Поэтому поток /+Г однозначно характеризуется вышеприведенным условием сходимости. Существование потока /+Г установим в два этапа следующим способом. Сначала предположим, что T<=Nm,K{U). Для аппроксимирую- аппроксимирующих функций gi можно применить пункт 4.1.13 с заменой /, g на такие gh gu что когда г, j велики, и вывести, что потоки gi#S образуют Гя-последо- вательность Коши, которая будет N-ограниченной, так как диффе-
394 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ ренциалы Dg( равномерно ограничены на sptZ\ Соответственно по- последовательность потоков g{*S имеет Fjs-предел в Nm>B(V). Этот пре- предел не зависит от выбора функций и множеств, включенных в кон- конструкцию, потому что любые две окрестности компакта К можно заменить на их пересечение, а любые две последовательности ап- аппроксимирующих функций можно рассматривать как подпоследова- подпоследовательности единой аппроксимирующей последовательности. Вспоми- Вспоминая 2.10.43, находим, что Далее заметим, что оператор /+, построенный в предыдущем аб- абзаце, задает линейное отображение из Nm,K(U) в Nm. t(K)(V), кото- которое удовлетворяет, вследствие п. 4.1.12, условию плоской ограни- ограниченности для всех rsNm,ic(i/). Это отображение может быть единственным образом продолжено до линейного отображения из Fm, k(U) в Fm,t(K)(V), также обозначаемого /+, удовлетворяющего тому же условию плоской ограниченности для всех rsFm,x(f/). Для про- проверки того* что условие сходимости выполняется, когда ГР(&) заметим, что для каждого е > 0 существует поток R e Nm> к (Z), для которого ?к (S — R) < е, поэтому FE(UZ*R — ёцД)-* 0 при i - верхний предел F* нормы не превосходит езирШр(/|Я)т, Lip(/|.fi:)m+1} + Определим также поток если только T^F??(U) и отображение /Isptf собственное, так, чтобы выполнялось равенство для всех фе^5т(У) и ^^'(f/), для которых Легко проверить, что основные формальные свойства потоков /+Г обобщаются с бесконечно дифференцируемых на локально липши- цевские отображения f при условии, что поток Т локально плоский, а отображение /IsptT собственное. В частности, /+ является линей- линейным оператором, spt(/+r)cr/(Sptr),
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 395 формула гомотопии сохраняется для любой локально лишпицевской гомотопии, сужение которой на it: О < t < 1} X spt T является соб- собственным, и (?o/)# = ?+°/+, если g —локально лишпицевская функция на V. Используя тот факт, что операция дифференцирова- дифференцирования функции / коммутирует со сглаживанием, можно также полу- получить следующее утверждение. Если T^Fm(U), М(Г)<°°, J/cR" и о — непрерывная функция на U, для которой Wf(x)W <а(х) для &п-почти всех х из U, то Если к тому же отображение g: V -*¦ V является локально липши- цевским и \\Dg(x)W <о(ж) для 2?п-почти всех х из U, i(l-t)f(x)+tg(x): 0<?< I, x^sptT)c:V и h — аффинная гомотопия, связывающая f и g, то М[Л#([0, \]XT)]^\m\(\g-f\am). В случае, когда поток Т нормален, выполняются заключения п. 4.1.13 с заменой р на а. Заметим, что (/*2") (<р)=Т(/*ф) в случае, когда / класса 1, Ге eFm(f/), М(Г)<оо и ф — непрерывная дифференциальная форма степени m на V. 4.1.15. Если 0<г<оо и Wr: RV-^RV, Чгг(у) = 0при \у\<г, Vr(y)-{i-r/\y\)y, при \у\>г, то Wr(y) — y\<r для любого jeR'H LipDfr)^l. Действительно, для любых а и 6 из Rv, для которых \а\ >г и |6l >г, справедливо — 2A —г/lal) (I — поэтому Если / и g —локально липщицевские функции, отображающие открытое множество U из R" в открытое множество V из Rv, то отображение таково что \Gr(x)-g(x)\<r для x^U, GT(x)=f(x) в случае, когда \g(x)-f(x)\ *?r. Сглаживая / и GT, находим, что Ф.*/ и
396 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Фе * Gr совпадают на открытом множестве z: \f(x)-g(x)\ <r для хеВ(г, е)}. Кроме того, Фе * / и Ф« * Gr аппроксимируют / и g равномерно на каждом компактном подмножестве К множества U, если только числа е и г достаточно малы, и дифференциалы этих функций рав- равномерно ограничены на К. Отсюда делаем следующий вывод. Если Т^FmfK(U), то из равенства /I spt T = g\ spt Г следует, что Действительно, для любого г > 0 выполняется включение spt T , если только е достаточно мало, поэтому (Ф«*/)*^ G)T Получаем такое следствие. Если существует липшицевское ото- отображение, ретрагирующее К на его подмножество С, то Fm,K(U)u{T: s Действительно, согласно 2.10.43 данная ретракция может быть расширена до липшицевской функции /, отображающей в U окрест- окрестность ZczU множества К, причем / совпадает на С с отображени- отображением g включения множества Z в U. В частности, из n^U следует, что Т = 0 всякий раз, когда m>0,T&Fm(U) и sptT<= {и}, так как /+Г = 0 для ретракции / множества U на {»}. Вспоминая 4.1.10, находим, что Т = ТA)К, если T^Fo(U) u spt Г с {и}. Другим следствием является следующее утверждение. Если /: U-*-V и g: V -*-U — локально липшицевские отображения, для которых g о /' = \ц, то Fm(F)n{5: потому что fog ретрагирует V на im /. Отсюда вытекает, что ни- никакое (ire —1) -мерное аффинное подпространство пространства R™ не может содержать носитель ненулевой m-мерной плоской цепи.. Более точный результат будет получен в п. 4.1.20. Вышеприведенные свойства плоских цепей не сохраняются для всех потоков конечной массы, как показывает пример, когда - <1, <р@)> для фей f{x) = 0 и g (х) = х для х е R, так как в этом случае sptr = {0>, М(Г) = 1, (дТ)у = у'(О) для i|)sS5°(R), М(9Г) = оо, /#Г = 0 и g#T = T. Заметим также, что этот конкретный поток Т не удовлетворяет условию сходимости п. 4.1.14,
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 397 потому что если формы ф< е «25° (R) сходятся к 0 равномерно на R а их дифференциалы равномерно ограничены, но числа гй(О) не сходятся, то потоки $щ,Т не сходятся в 2H (R) • 4.1.16. Если С— непустое замкнутое выпуклое множество из пространства R", то f = {(x, у): i6R» yeC, \x-y\=disb(x, С)} является липшицевской функцией, ретрагирующей Rn на С, для ко- которой Lip(/)«S 1. Действительно, если (х, y)^fn (ц, у)е/, то для любого 0 < t < 1, поэтому (х — у) • (у — v) > 0, и аналогично (» — v) • (v — у) > 0. Складывая эти два неравенства, приходим к выводу, что (х- и)'(у- v)>(у- v)'(у- v), \х-и\> \y — v\. В {F15, 4.8] показано, как это свойство выпуклых множеств обобща- обобщается на положительно достижимые множества. Применяя п. 4.1.14, 4.1.15, получаем, что если Т eFm(Rn) и С — выпуклая оболочка носителя sptf, то reFmiC(R") и ?к(Т) = Тс(Т) для любого компакта К, содержащего С. 4.1.17. Теперь заметим, что FnK(U)u{T: М(Г)<°°} совпадает с М-замыканием множества NmiK(C^) в 2)m(U). Действительно, если Т&?т,k{U), М(Г)<<» и е>0, то можно по- последовательно выбрать потоки (JsNm>K(?/) и S^3)m+l(U), для которых и, следовательно, вывести, что Q — d?<=Nm к(?7) и M{T-Q-dS)<e. К тому же, если T^?miK(U), М(Г)<оо и m>i>0, то Т^- *~ ф sFm_itK(f^) для любой \\Т\\-суммируемой дифференциальной формы ф степени i на U, потому что множество S){(U) является 11Г!1AГплотным в LjGlГЦ, Д*КП)- 4.1.18. Вспоминая 4.1.2 и 2.7.16, видим, что Ф8*ф = Jo?(-z)tz+
398 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ для любых <pe^5m(R") и re25B(Rn), Это наводит на мысль свя- связать с каждой точкой zeR" аффинную гомотопию Нг: RXR"-^R", H'(t, x) = x+tz№* (t, x)^RXRn, связывающую тождественное отображение пространства Rn и т„ и задать сглаживающую деформационную цепь ИЛ е S>m+1 (R") формулой (Я.Г) -ф = J Фе (- z) [Н%([0, 1] X Т)] * dSnz для любой формы t|je^5m+1(Rn). Получаем формулы сглаживающей гомотопии для потоков: ), если 0<т<п, Tt-T = d(HJ), если т = 0, Г, - Т = Я.EГ), если тп = п. Кроме того, М(Г.)<М(Г), М(Я.Г)«вМ(Г), дТг sptreU эргЯеГ <=С(е) = (ж: dist(a;, sptT)<e}, F0(e,(r.- Т1)^ если носитель spt Г компактен. В случае, когда поток Т представим интегрированием, интегралы Даниеля ИГ.Н на Ж(R") слабо сходятся (см. 2.5.9) к НШ, потому что По заданным функции ]^Ж(R")+ и числу б>0 можно выбрать функцию g^Ж{Kп)+ так, чтобы IIГН (g) < ИИ (/) + б и / о хг < g для z, близких к 0 в R", в вывести, что ИГе11 (/) < НИ (g) для малых е, а поэтому е->о+ е-»о Аналогично можно вывести формулы сглаживающей гомотопии для дифференциальных форм (ср. с 4.1.9), чтобы представить Фе * ф — <Р- Далее предположим, что U — открытое множество в простран- пространстве Rn, и обозначим через Qm класс всех тп-векторных полей | на U таких, что spt § — компактное подмножество множества U и поле | является ^"-суммируемым по U. Приписывая каждой точке (?, х\) векторного пространства Qm X Qm+i норму и представим Fm(U) в виде фактор-пространства пространства QmX X fim+i с помощью следующих двух утверждений.
9 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ! ФОРМЫ И ПОТОКИ О < б < оо, К = Сх: dists(z,"spt | U spt r\) < 6} с U, то TeFm,K(U)u F К —компактное подмножество множества U, T&Fm K{U), то существуют такие поля % е Qm и r\ ^ Qm+i, что &¦ Второе заключение первого утверждения тривиально, а первое ясно в случае, когда ? и tj класса °°. Кроме того (см. 2.7.18), и Замечая, что второе утверждение тривиально, когда тп > п, до- докажем его индукцией вниз по т. Положим Т0 = Т, Kt*=K и вы- выберем /?(, Su e(, Kt, %{, Т{ для каждого натурального i так, что Fk,^ (fi-x - Ri - 350 < 2-{-36\ M (ДО + M E0 < FKw (П-О + 2-*-% 0 < в, < 2-*-»в, e{N (ДО < 2-*-8в, К, = Rn П {ж: dist(«, K,.t) < 2"i-16} с U, получается сглаживанием потока поэтому J i G*0 < FKi (rf_! - Д, - dSt) + FK. (Д, - 5 л 6,) < < 2"{-3б + e4N (ДО <
400 ГЛ. 4, ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Полагая С = R" П {х: diet (ж, К) < 6/2) с U, выводим, что 2 FJllil ^ 1=1 [и J FK (Г) + 2 fj 2"{-2б = FK (Г) + fi/2, i 1=1 i=l ldZn + ME)< FK(T) + 6/2, и i T = Ti + 2 (^П Л ?j + Wj) для каждого i, T = 2n л 6 + dS. j=i Кроме того, согласно предположению индукции существуют такие поля 1) е Qm+1 и ? е Qm+2, что ЛЮ. apt л Поскольку dS = д {9?п л т|)? отсюда получается требуемое, представ- представление потока Т. В частном случае, когда т = п, вышеприведенные утверждения показывают, что Yn{U) состоит из потоков 9?п!\\, соответствую- соответствующих всем ^-суммируемым п-векторным полям | на U с компакт- компактным носителем. Возвращаясь к общему случаю, заметим, что (Qm X Qm+1) П 1F, Л): ЗГ ЛI + д Bп Л г\) = 0} - = Clos{(divTi, Tj): t)?D([/ в чем можно убедиться с помощью сглаживания. 4.1.19. Предположим, что U — открытое множество в простран- пространстве R". Будем говорить, что а является m-мерной плоской ко- коцепью на U, если а — вещественнозначная линейная функция на Fm(U) и существует такое число с<<», что как только К — компактное подмножество множества U и Те eFmiK(U). Наименьшее из таких чисел с называется плоской нор- нормой коцепи а и обозначается F (а). Зададим также da, кограницу коцепи а как такую (т + 1)-мерную плоскую коцепь на U, что (da\S = a(dS) для всех S^Fm
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 401 Применяя 4.1.18, представим плоские коцепи на U ограниченны- ограниченными З L U-измеримыми дифференциальными формами на U сле- следующим способом. Каждой то-мерной плоской коцепи о на U соот- соответствует линейная функция ^ на Qm X Qm+i, задаваемая равенством откуда следует, что F(a) = sup(PF,T,): J (Ш I и Согласно 2.5.9 и 2.5.12 существуют ограниченные SBn L U-шзме- римые дифференциальные формы ф и гр степеней тп и тп +1 на U, удовлетворяющие четырем условиям: п АI) = J <6, Ф> dSn для I е О a [ ( л лI f F(a) = sup(M((p), f «div л, Ф> + <Л. Ф» ^п = 0 для т) е ^> (i/, Л и Кроме того, формы ф и гр являются 2 L- С/-почти единственными. Обратно, любые две ограниченные 5 L [/-измеримые дифференци- дифференциальные формы ф и Мр степеней m и т + 1 на f/, удовлетворяющие этим четырем условиям, связаны с единственной m-мерной плоской коцепью а на U, для которой выполняются первые три условия. (В случае, когда ф класса 1, четвертое условие выполняется тогда и только тогда, когда йф = гр; в общем случае оно выполняется тогда и только тогда, когда й(Фе * ф) = Фе * гр для любого е >0.) Если коцепь а представима формами ф и г|}, то коцепь da представима формами гр и 0. Из 4.1.23 и 4.2.23 следует, что наше понятие плоской коцепи эквивалентно понятию с тем же названием из книги [WH4]. Пре- Предыдущий абзац показывает новый простой подход к основным ре- результатам девятой главы книги Уитни. Однако, в то время как плоские цепи играют важную роль в нашей книге, плоские коцепи встречаются в ней довольно редко. 4.1.20. Теорема. Если Тe=Fm(U) и т>0, то из 9™(sptТ) = 0 следует, что Т = 0. Доказательство. Вспоминая 2.10.5 и 1.7.4, выберем geO(n) так, что 2"n{(px°g)sptT] = 0 для всех Яе=Л(п, тп). 26 г. Федерер
402 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Если <p^i?}m(Z7), то с помощью 4.1.6 находим, что ф - 2 Ф* Л ОХу Л ... Л DXh = ш() 1 где фа, = <е^, ф> и У4, ..., Ут — стандартные координатные функции на Rm, следовательно, в силу 4.1.18, потому что каждая цепь рх#[(?#27)'-фх] является тп-мерной плоской цепью в R™ с носителем, содержащимся во мно- множестве у которого 2""-мера равна 0. Таким образом, g*T = 0, Т — 0. 4.1.21. Из предыдущей теоремы вытекают два важных следствия. Если T^?m(U), m>0, B<=U и множество (sptT)\B замкнуто в U, то из 3™(В Г) spt Г) = 0 вытекает spt Г с U\B, Действительно, для каждой точки х^В можно выбрать функ- функцию if ^ 2)a(U) так, что х Ф spt(T - ТL- -у) и {(sptZ7)\В] П spt^ = ^, поэтому spt G*1-Y)<=J5nsptr, 74-^ = 0, aj^sptr. ? 7F([/) >0 MB') E-U, то , uE<=- из 37(?) = 0 вытекает || ГЦ (Е) = 0. Поскольку мера 3™ борелевски регулярна, а мера ИГО радонова, можно предположить, что множество Е компактно, следовательно, Т L E e Fm(R-), spt(r L ^) с ^, и прийти к выводу, что TL- Е — 0. 4.1.22. Для любого открытого множества U в евклидовом про- пространстве и любого компактного подмножества К множества U за- зададим как аддитивную подгруппу пространства 3)m(U), порожденную все- всеми пг-мерными ориентированными симплексами [щ, ..., ит] такими, что К содержит выпуклую оболочку множества {и„, ,,., )
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ : 403 Обозначим также через векторное пространство, порожденное группой &*т,к{и). Зададим абелеву группу элементы которой называются тга-мерными целочисленными поли- полиэдральными цепями в U, как объединение групп &т,k(U), соответ- соответствующих всем компактным подмножествам К множества U. Ана- Аналогично, векторное пространство элементы которого называются m-мерными полиэдральными цепями в U, является объединением всех векторных пространств Pm, k(U). 4.1.23. Теорема. Каковы бы ни были открытое множество U из пространства R", компактные подмножества К и С множества U та- такие, что КczlatС, поток T^FmtK{U) и число е >0, существует цепь Р е Рт, с({7), для которой Доказательство. Мы сведем проблему: во-первых, применяя 4.1.17, к случаю, когда Т^~Нт>() во-вторых, аппроксимируя Т с помощью Тг, как в 4.1.18, к слу- случаю, когда Т = 2п А 6, где I «= 3> {U, Д m Rn) и spt | с Int С; в-третьих, аппроксимируя 1 по норме STu ступенчатыми функ- функциями, к случаю, когда = ] <т], ф (ж)> && х для ф е ЗУ1 А где Л — некоторое ^"-измеримое подмножество множества Int С и в-четвертых, применяя вторую характеризацию массы из 1.8.1, к подслучаю, когда т] — простой m-вектор и |т)| = 1; в-пятых, поворачивая U и вычисляя 9?п с помощью подходящих покрытий, к дальнейшему подслучаю, когда А — R" П {х: щ < ж{< Vi для i = 1, ..., и}, Т1 = *i Л •. • Л emil где —оо < щ < Vi < оо, а et — стандартные базисные векторы про- пространства R". Отождествляя R" с RmXRn~m и вспоминая 4.1.8, переформули- переформулируем последний подслучай, представляя Т в виде Т = RXS, где Я = [»„ vj X ... X lum, vj e S5m(Rm), S = 2"- В = Rn-m П {z: »m+i < Zj < ym+J- для / = 1, ..., n — m>. 26*
404 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Затем представим В в виде объединения непересекающихся борелевских множеств J3it ..., J3V, для которых diam Bk ^ ^ e/[N(/?J>n~m(i5)], выберем точки bh^Bh, зададим поток Q = S S7"" (Bk) [h]<= <2>0 (Rn-m), выведем из 4.1.10 и 4.1.9, что V : 2 (diam Bk) M {Sn~m L Bh) < e/N (R)% ft=i положим P = RXQ и придем к заключению, что ?Л(Т — <fi{R)FB(S-Q)^B, а М(Р) = М(Л)М(<?) = М(Д)МE) М() Кроме того, находим с помощью 4.1.11, что tbj Xfie^m(Rn) для каждого А;, поэтому PePm(R"). (Мы покажем в 4.2.24, что в заключении п. 4.1.23 можно за- заменить М на N.) 4.1.24. Для любого открытого множества U из пространства R" и любого компактного подмножества К множества U зададим как класс всех m-мерных потоков Т в U со следующим свойством. Для каждого г > 0 существуют открытое множество Z из неко- некоторого евклидова пространства, компактное подмножество С мно- множества Z, липшицевское отображение f: Z-*- U, для которого 1{С)<=.К, и целочисленная полиэдральная цепь Pe^,c(Z), для которой М(Г-/+Р)<е. Ясно, что &т,к(Щ является аддитивной подгруппой простран- пространства ?т,к(и) И для любого локально лишпицевского отображения g: U-*-V. Зада- Зададим также абелеву группу элементы которой называются m-мерными спрямляемыми потока- потоками в U, как объединение групп 91т, k(U), соответствующих всем компактным подмножествам К множества U. Заметим, что Яо (?0-^.A7). Альтернативные характеризации спрямляемых потоков можно най- найти в 4.1.28.
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 405 Для каждого компактного подмножества К множества U положим Im,K(U)={T: T^SLAU), dT^SL-iAU)) в случае тп>0, и 1о,к(?/) = 3?о, k(U). Зададим также абелеву группу элементы которой называются то-мерными целочисленными пото- потоками в U, как объединение групп 1т,к(и), соответствующих всем компактным подмножествам К множества U. Для каждого компактного подмножества К множества U по-* ложим {R + OS: R<=am,K(U),Se<#mfl>к(Ц)}. Зададим также абелеву группу элементы который называются m-мерными целочисленными плоски- плоскими цепями в U, как объединение групп {?~т,к(и), соответствующих всем компактным подмножествам К множества U. Следующая диаграмма включений показывает классы наиболее важных в этой книге потоков: П Л П П Pm{U) <=. Nm(U) с Fm\U) П {T: M(T) < 00} <= Fm{U) . Каждое из этих понятий имеет локальный вариант. В частности, поток Т называется то-мерным локально спрямляемым потоком в U, если Т е 2)m(U) и для каждой точки x<=U существует поток S^Mm(U), для которого a;^spt {T — S). Класс всех таких пото- потоков Т обозначается Аналогично задаются классы и <F локально целочисленных потоков и локально целочисленных пло- плоских цепей. Для каждой цепи Т <=&~m>K(U) зададим норму как точную нижнюю грань множества чисел М(Д)+МE)', соот- соответствующих всем Res&m K(U) и S^ЗЬ,^ K(U), для которых T R + dS
406 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Замечая, что ГО для Ти T2^Tm. метризуем множество &~т, k(U), полагая расстояние между 2\ и Т» равным ^"кGТ1 — Тг). Заметим, что lm, k(U) является #"к-шготным в &~т,к(и), потому что I™,k{U) и Im^liK{U) являются Л/-плотными в 5?m,r(U) и 91ты,к{и) соответственно и что ?Гт,к{и) является М-полным, потому что &т,к{и) и J%m+i, K(Z7) являются М-полными. Действи- Действительно, каковы бы ни были цепи Ti^3rmK{U) для г = 1, 2, 3, ... такие, что можно выбрать /?(e5?m K(J7) и Si = &m+iiK(U) так, что Г{ — Ты = Д{ + ^S'j для « = 2, 3, 4, ... и оо, и отсюда сделать вывод, что Т - 7\ + 2 ^г + д 2 5, T-Tj)^ 2 [М(Л4) + М(^)]->0 при Аналогичное рассуждение показывает, что , ME)"<oo}. Мы приходим к выводу, что для каждого T&FmpK(U) сущест- существует поток SeFm+i,K(U), для которого вспоминая 4.1.12 и замечая, что если Rt, R2, Su S2 являются пото- потоками конечной массы и Ri + dSi = R2 + dS2, то поток iSi — S2 нор- нормален. Аналогичное утверждение относительно нормы #"к будет доказано в 4.2.18. 4.1.25. Лемма. ?сли | является ^-суммируемым тп-вектор- ным полем с компактным носителем и отображение /: Rm -*¦ Rn
g 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 407 липшицевское, то [U {?" Л ?)] ф = j «Л т Щ (х)} I (Х)г ф [/ {x для любой формы (p«=.g5m(Rn). Кроме того М^™ л 1) = Ж" л л, где для Ж^-почти всех у из R" МУ)= 2 iAmDf (X)} I (X)/Jmf {X) 1 является простым m-вектором пространства R" таким, что или tj(j/) = O, или подпространство Tanm[5^mL-/(Spt|)t у] ассоцииро- ассоциировано сл\{у)и [/\mDf(x)]l (x)/Jmf (x) = ± \1 (х) |п (j/)/| n (у) | для любого х <= /~Чу). Доказательство. Очевидно, что интегральная формула для [f+C?m а?)] ф выполняется в случае, когда / — отображение класса °°; она остается справедливой для любой липшицевской функции /, потому что 4.1.2 показывает, что D(Q>t*f) сходится ограниченно и ^"-почти всюду к Df при е -»¦ 0+. Полагая С = spt 1 П {х: Df(x) однолистен}, ]l{x)/Jmf(x),O[f(x)]y для х<=С% применим 3.2.3, чтобы представить интеграл в виде V RnxSCf)/~1{y> потому что 5^m[/(spt|\C)] = 0. Кроме того, из 3.2.2, 3.2.17, 2.10.19D) следует (ср. с 3.2.19), что для ^"-почти всех у из /(spt|) имеем imZ?/(a;) = Taiim[^mL/(sptl), у] для любого х е spt I П /"'{у}, 4.1.26. Следствие. 2?слм отображение f: Rm-»-Rm липшицевское и А — ограниченное &т-измеримое множество, то где для &т-почти всех у из Rm (degree /1 А) {у) = 2 sign det Z?/ ( 1 Кроме того, функция degree /IА постоянна Я?т-почти всюду на каждой из компонент множества Rm\/(Bdry A).
408 гл- *¦ ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ В случае, когда А связно и /(.A)n/(Bdry.4) = 0, функция degree/IЛ постоянна 2>т-почти всюду на f(A); если к тому же отображение f\A однолистно, то функция signdetDf постоянна &т-почти всюду на АО {х: Jmf(x)>0). Доказательство. Применим 4.1.25 при % = ААег А .,. Лет ваметим, что дЕт =* 0, поэтому д (Ет L- А) = -д (Em L- Rm\A), spt д (Ет L А) с Clos А Г) Clos (Rm\A) =Bdry A, spt д [Ет L (degree f\A)] с /(Bdry A), и применим теорему о константе п. 4.1.7, а также 3.2.3A). 4.1.27. Предполагая, что и0, ..., »m<=Rn, находим с помощью 4.1.11 и 4.1.8, что [в* ..., uj = /+(Em L. С) где /: Rm -*- R", / (а;) = и0 + 2 ( Д «i I {Щ — Щ-i) Для х е R1", С = Rm П {х: 0 < xt < 1 для г = 1, ..., т), !т т 1 2 *i"i: 2 *i «= 1, *i >0 для i = 0, ..., то|. i=0 i=0 I Кроме того, отображение /1С однолистно, если никакое (т — 1)- мерное аффинное подпространство пространства R™ не содержит множества {м0, ..., ит). Обозначая через eit ..., ет стандартные ба- гисные векторы пространства Rm и ? = («1 — Щ) Л (И8 — »l) Л . . . Л (Mm — "m-l)i вычислим <ei, ?)/(ж)> Л ... Л <em, Z?/(a;)> == для ге^и выведем из 4.1.25, что К, • • • где Л (У) = 5/151 Для »s/(C), Ti(y)-0 для у aR«\/(C)\ 4.1.28. Теорема. Для любого т-мерного потока Т, носитель ко- которого компактен и содержится в открытом множестве U из про- пространства R", следующие пять условий эквивалентны: A) Т — спрямляемый поток. B) Т^Ят,к{Щ для любого компактного подмножества К мно- множества U такого, что s$tT<=lntK. C) Для любого е > 0 существует открытое множество Z в про- пространстве R", компактное подмножество А множества Z и
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 409 липшицевское отображение f:Z->-U такие, что D) Существуют Жп-измеримое и (Ж1, тп)-спрямляемое подмно- подмножество В множества spt Т и Ж* L- В-суммируемое m-векторное по- поле т] такие, что Т = (ЯГ L В) л т) и для Жа-почти всех х из В тп-вектор х\{х) прост, |т](а;)|—натуральное число, подпространство Tanm {Ж* L В, х) ассоциировано с m-вектором ц{х). E) МG")<«>, множество U является (\\T\\, тп)-спрямляемым и для WTW-почти всех х из U, вт(ИШ, х) —натуральное число, тп-вектор Т{х) прост, подпространство Тапт(И2ТН, х) ассоциировано с m-вектором Т{х); кроме того, \\П =Жп^- %т{\\П, ¦). Доказательство. Из A) следует C) согласно 4.1.27 и 2.10.43, потому что каждый иг-мерный ориентированный симплекс в R" представляется в виде липшипевского образа то-мерного ориентиро- ориентированного куба в Rm, поэтому каждая иг-мерная целочисленная по- полиэдральная цепь в Rn представима в виде липшицевского образа конечной суммы ориентированных кубов с непересекающимися но« сителями. Из C) следует B), потому что А П /-1 (spt 2*)' может быть i?- аппроксимировано объединением конечного числа непересекающих- непересекающихся прямоугольных параллелепипедов, содержащихся в /"'(IntX)', и, согласно 4.1.11, каждый ориентированный параллелепипед пред- представим в виде конечной суммы ориентированных симплексов. Ясно, что из B) следует A). Из C) следует D) согласно 4.1.25 и 2.10.19D)'. Действительно, условие C) позволяет по индукции выбрать для / = 1, 2, 3, ... компактные множества А) из пространства R", лйпшицевские ото- отображения ft: Rm -*¦ Rn и -^"-измеримые то-векторные поля ц} на R" такие, что /,-+ (Em L 4) = Жт Л ть, М (Т - ? Жт Л тц) < 2-'~2 и для 5^т-почти всех у из R" число lii,(y)l является целым, m-вектор 4\i{y) прост и либо f\i(y) = O, либо подпространство /(,),y] ассоциировано с m-вектором f]j(y).
410 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Следовательно, множество чти полностью в у. т^ (у) ?• 0} содержится ,) < J | П* 1 dMn = М (ЯГ множество В = [) Bj является E^m, m)-спрямляемым, 3=1 оо Г = ЯГ л Л. где т]= 2 Л»ч и для Зёт-почги всех у из каждого Bj имеем у) = Tan" Из D) следует C) согласно 3.2.4 и 4.1.25. Замечая сначала, что из условия D) следует равенство сведем задачу к частному случаю, когда \ц{у)\=1 для у^В. За- Затем выберем компактное множество С в пространстве Rm и липши- цевское отображение /: Rm-*-Rn такие, что отображение /1С одно- однолистно, f(C)<=B и М (Т - [Зёт L / (С)] M\) = 2>e свяжем с каждым i<={—1, 1} множество &, состоящее из всех то- точек х&С, для которых <ег Л ... Л ет, Лт Df (x)}/Jmf (x) = щ [f(x)],: и сделаем вывод, что \Жт L / (С)] Л л = /+ (Ега L С,) - /+ (Em L С-г). Из D) следует E) согласно 3.2.19, 2.8.18 (или 2.8.17) и 2.9.8, потому что || Т1 = (Ж" L В) л | л ||, || ГЦ (Rn\S) = О, 0m(ll27H, а;)=|т)(а:)| и Т(х) = У){х)/\г\(х)\ для 5^™-почти всех х из J3. Из E) следует D) при В = {х: ®т(\\П,х) >0) и т1 = 0П1A]Г11, -)^ 4.1.29. Будем говорить, что множество А — (локально) лишпи- цевский окрестностный ретракт в U, если А <= U, и существует (ло- (локально) липшицевское отображение, которое ретрагирует некоторую окрестность множества А в U на А. (Альтернативную характери- зацию таких множеств из евклидовых пространств можно найти в книге [AF 1].)
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 411 С помощью предыдущей теоремы находим, что если только К — компактный липшицевский окрестностный рет- ретракт в U. Это равенство не выполняется для произвольных ком- компактных множеств К. Например, если K^R, S'i(K)>0 и lntK=* = 0, ТО Из 4.1.18 (или 4.1.23, или 4.2.8) легко следует, что метрическое пространство FmiK(U) является сепарабельным в случае, когда К — компактный липшицевский окрестностный ретракт в U. Теперь докажем следующее свойство отделимости. Если C<=TF<=R", с замкнуто, a W открыто, то существует та- такой замкнутый локально липшицевский окрестностный ретракт D, что CcrlntD и D^W. С помощью 3.1.14 получим такую функцию ф: R" -*• R клас- класса п, что ¦ф(а;)=1 для a; s С, гр(х) = 0 для х е= RnW. Положим Z = {x: Z?tp(a:) = 0> и, применяя 3.4.3 с заменой v, то, к на 0, и, га, выведем, что <5#' [ip(Z)] = 0, и выберем такое число г, что 0<г<1 и r^ip(Z). Из 3.1.19B), получим, что ^-'W являет- является (тг—1)-мерным подмногообразием класса га в R", и, применяя 3.1.20, найдем отображение / класса п, ретрагирующее открытое множество V из пространства R" на ^"'М. Тогда D — {х: 1|з (х) >г) с: И7, множество D U V открыто, и ретракция g = iD U /I (V\D): DUV-+D локально липшицевская. Действительно, для каждого компакта К <= D U F, L = К П {х: ф (ж) < г} с F, 2S = dist (L, R»\F) > 0, М={а;: dist (x, L) ^ б> с V, ц = 1лр(/|ДГ)< ее и для точек a^K\D, b&D, для которых \а — Ы<б, существует точка ве^-^г} П М на отрезке от а до Ь, а поэтому \и — Ъ\ <sup{|i, 1} \а—Ъ\. (Можно доказать это свойство отделимости более элементарным спо- способом, конструируя D и окрестность множества D в виде объедине- объединений подходящих семейств кубов и задавая ретракцию с помощью центральных проекций, аналогичных отображению an-i из 4.2.5). 4.1.30. Обобщим теперь 4.1.25 до следующего утверждения. Если U — открытое множество в пространстве Rv, К — ком- компактное подмножество множества U, \ — это З^-суммируемое
412 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ т-еекторное поле, W = {х: | (ж) Ф 0} — это (<2#"\ т) -спрямляемое подмножество множества К, m-вектор |(ж) прост и TanmB/SmL W, х)—это векторное подпространство пространства Rv, ассоциированное с |(ж) Зля 2/&а-почти всех х us W, G: U-*¦ R*1 — локально липшицевское отображение и g = G[W, то 1 Зля любой формы ф е Z?m(R"). Кроме того, 9лл Ж^-почти всех у из R" является простым m-вектором пространства R*1 таким, что либо г\(у)<=0, либо подпространство ассоциировано с г\(у) и [ Лm ар Z?g (а:)] I (я)/ар /mg (ж) - ± 11 (*) | т) (у)/| т] (у) | Зля любого х (Здесь apZ>g(a:) u ap/mg(a:) = ||Лт арZ>gr(гс)Ц — это (,) аппроксимативные дифференциалы и якобианы, как и в 3.2.19, 3.2.20.) Применяя 3.2.18 и 4.1.25, сводим утверждение к частному слу- случаю, когда существует такое липшицевское отображение /: Rm -*¦ Rv и такое .^"-суммируемое иг-векторное поле ? на R™ с компактным носителем, что / (spt Z)— W, отображение / \ spt J однолистно, Затем с помощью 3.2.17 находим, что равенства
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 413 выполняются для 2""-почти всех z из spt ? и что [G+ {Жт л 6)] ф = [(G о /)+ (<?т л ?)]ф = J spU w для любой формы фе^5т(К") согласно 3.2.5. Кроме того, для 36т- почти всех у из R" справедливо равенство для любой точки zs(spt|)n(G°/)-'{i/}=(spt|)n/-I(g-I{y}). 4.1.31. Предположим, что U — открытое множество из простран- пространства R", а В — это то-мерное подмногообразие класса 1 в U, причем т > 0. Говорят, что В ориентируемо, если существует такое непре- непрерывное m-векторное поле ? на В, что тп-вектор ?(Ь) прост, |?(ЬI = = 1 и подпространство TanE, b) ассоциировано с t,(b) для любой точки ЬеВ. Такая функция % называется m-векторным полем, ориентирующим многообразие В. Ясно, что вместе с т-векторным полем ? многообразие В ориентируется и полем —%. В случае, когда В связно, существует не более двух тга-векторных полей, ориентирующих В. A) Если многообразие В ориентируемо, % — это тп-векторное по- поле, ориентирующее В, и 36m{B^.R)<oo для каждого компактного подмножества К множества U, то (Жт L В) а I е <%|Г (U), spt д {{Жт L В) А ?] с: U\B. B) Если T^FT(U), множество (sptr)\JS замкнуто в U, spt dTczU\B, и С — компонента многообразия В, для которой С П spt Г Ф 0, то С ориентируемо и для каждого тп-векторного поля %, ориентирующе- ориентирующего С, существует такое вещественное число г, что Для доказательства этих утверждений применим 3.1.19D) для каждой точки Ь^В, требуя, чтобы Т П spt Г с: В, чтобы множество Clos T было компактным подмножеством множества U и чтобы су- существовали окрестность Z множества Clos V в Rm и липшицевские отображения Ф: U-+Z, Т: Z-+U, для которых Ф|27 = Ф, WIF = 4%
414 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Обозначим через 1 (постоянное) иг-векторное поле, ориентирую- ориентирующее Rm, и выведем из 4.1.25 и 4.1.28, что где г\ — это то-векторное поле, ориентирующее ВОТ. В случае, когда выполняются условия утверждения A), можно выбрать | так, что ч\ — ?1 (В Л Г), и вывести, что Т П spt д [{Жт L Я) Л С] = Г П spt ?# потому что отображение Т iClos V однолистно. В случае, когда выполняются условия утверждения B) и N С, выберем форму 4^2)°{U), для которой spt 4 czT, b&W = = Int{a:: 4(z)= 1), и найдем, что Обозначим через Q компоненту множества В Л W, содержащую Ь, и, заменяя, если надо, ? на —|, выведем из теоремы о константе п. 4.1.7 существование неотрицательного числа р, для которого spt[O*(rLY)-pB'*LV)AS]c=F\<p(G). Поскольку Ч?[Ф(х)] = х для a;esspt(ri-Y), из 4.1.15 следует, что spt [(Г L у) - 9 {Жп L В П Т) А г\] с= В П T\Qt Чтобы завершить доказательство утверждения B), рассмотрим класс Q всех таких троек (Q, р, ц). Ясно, что С = U {@: (^, р, т)) е Q для некоторых р и т;}. ЕСЛИ (?„ pt, TliJeQ и (^г, р2, Г\г)^п, ТО i П ^2 = р2т121<?1 П Q2, потому что 3@т{А)>0 для любого непустого открытого в Qi^Qi подмножества А множества @i П Q,.. В случае, когда Qt П Qt Ф 0 и Pi^O, отсюда следует, что pi = p2 и r\i\Qi (\Qz*=r\i\Qi Пфг- Поскольку Cflsptr^^, можно выбрать положительное число г так, что Т = ЙП{((?, р, п): р = г>?=0, и получить, что U{(): (Q, г, т))е Q для некоторого г\} не пусто, открыто и замкнуто в С, а значит, совпадает с С. Приходим к вы- выводу, что й = ТиС ориентируется полем 11{гI(): (Qi r, ti)<= Q для некоторых Q и tj}.
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 415 Вдобавок к утверждению B) заметим, что если поток Г пред- представим интегрированием, то поле Т\С ориентирует С. Мы также знаем из 4.1.28, что число г будет целым, если T^&mC(U) (этот результат будет усилен в 4,2.27). В утверждении B) предположение о том, что поток Г локально плоский, опустить нельзя, как показывает пример, где tf = R% В = R2 П {х: х2 = 0}, re^(R2), г Г (а) = J <elf Dza (t, 0)> dSH - <е2, а A, 0)> + <е2> а @, 0)> о для а ^ 3~I (R2). Можно проверить, что для этого примера дТ = 0, spt Г = R2 П \х: 0 ^ х, ^ 1, х2 = 0). Если а — простой m-вектор пространства Rn такой, что lal=l, и если В — это m-мерное векторное подпространство про- пространства R", ассоциированное с а, то В ориентируется постоянным тп-векторным полем, отображающим В на а; понятие ориентации, которое мы применили сейчас, согласуется с соответствующим по- понятием из п. 1.6.2. В частности, обычно пространство Rm ориентируется с помощью то-векторного поля е1 Л ... Лет, где еи ..., ет — стандартный ба- базис пространства Rm. Из предыдущего рассмотрения (или из п. 4.1.30) ясно, что если / — диффеоморфизм класса 1, отображающий U на открытое мно- множество в пространстве R", и если % является тп-векторным полем, ориентирующим В, то L В) л ?] = \Жт L f(B)] Л X для некоторого тп-векторного поля %, ориентирующего f(B). Теперь выведем простой вариант теоремы Гаусса — Грина (оп- (оптимальный вариант см. в 4.5.6). Если А — непустое ограниченное открытое множество в про- пространстве R" и JS==Bdry4 — связное (п— \)-мерное подмногообра- подмногообразие класса 1 в R", то для некоторого (п— 1) -векторного поля %, ориентирующего В. Поскольку д(Еп\-А)Ф0 согласно 4.1.10 и spt3(EnLA)<= В согласно 4.1.7, из утверждения B) выводим, что 9(E"l4) = = г(Жп~1[_В)А^,тце O^reR и ? — это (и —1)-векторное поле, ориентирующее В. Чтобы упростить задачу отыскания числа г, подействуем на Rn подходящим диффеоморфизмом. В силу 3.1.23 можно допустить, что В П W = W П {х: ж, = 0), где W - {х: Ш < 1 для i = 1, ..., п}.
416 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Заметим, что А содержит хотя бы одну из двух областей W+ = W П {х: xt > 0) и W- = W П {х: х, < 0>, потому что 5П W<=BdiyA, но не содержит обе, потому что отсюда следовало бы, что 2"l(W\4) = 0 и Wflsptd(EnL- A) = 0. В случае, когда W+<=A и W~<=Rn\A, применим 4.1.8 и получим равенства "x L (В П W)] л e2 л .. .Л е„ =±[(Жп~1 L 5) л С] L W.( потому что поле е2 Л •.. Л еп ориентирует В П W, а значит, г = ±1. Для любого ориентируемого многообразия В и заданного (или определяемого из контекста) то-векторного поля ?, ориентирующего В, принято обозначение f Ф = [(ЯГ L В) Л ?] (ф) = j <С, Ф><*Ж" в в при ф^<2)т(?/). В частности, если В — открытое множество в про- пространстве Rm, часто пишут J ф = [Em L В] (ф) для <pt=g)m(Rm). в В случае, когда А и В — это (т+1)- и то-мерные подмногооб- подмногообразия класса 1 многообразия U с заданными (т + 1)- и т-вектор* ными полями т] и ^, удовлетворяющими условию д'\\Уё |_ ^4) л "*lj = (.<?$ 1_ 2?) Л ?». принято обозначать В = дА. Записывая приведенное равенство в обозначениях предыдущего абзаца, получим формулу = J гр для г|з е iZ)m (U). ВА 4.1.32. Теперь установим некоторые полезные факты относи- относительно полиэдральных цепей. Если reFm(Rn), дТ ^ @m_i (Rn) u sptT содержится в т-мерном аффинном подпространстве пространства R", то 2Ts^'m(Rn). С помощью второго следствия п. 4.1.15 сведем задачу к под- случаю тп = п. Затем выберем точку beR", выведем из 4.1.11, что 8uX37'e^'m(Rn),; причем д{Т — 8UX дТ) = О, и, применяя 4.1.10, придем к выводу, что Т — 8« X дТ = 0. Если U — открытое множество в пространстве Rv, отображение /: U -*¦ R™ — локально липшицевское и А — выпуклое подмножество множества U, причем }{(! — s)u+ sv: 0 s?s г? 1} <=¦ {A-
§ 4.1. ДИФФЕРЕНЦИАЛЬНЫЕ ФОРМЫ И ПОТОКИ 417 для любых и&А и »ei, то для любых и0, ..., вте4. Поскольку заключение тривиально в случае то == 0, можно по индукции допустить, что ноток удовлетворяет условию dQ = 0. Кроме того, / отображает выпуклую оболочку множества iu0, ..., um) в выпуклую оболочку Н множест- множества {/(мо), ..., t{um)), поэтому spt(?<=//, и, как и выше, приходим к выводу, что Q = 0. Отображение / с указанным свойством будет называться проек- проективным на А. Конечно, каждое аффинное отображение проективно на своей области определения, но таково же и каждое монотонное отображение из R в R, и каждая центральная проекция /: ?/ = R"+Inb;: zn+1 >0>-* R", f{x) = (xjxn±l, ..., xjxn+l) для x^U. Если два локально липшицевских отображения fug множества U в R" проективны на выпуклом подмножестве А множества U, h — аффинная гомотопия, связывающая f и g, и если для всех m множество h({t: O^t^DXE) содержится в (т+ I)-мерном аффинном подпространстве простран- пространства Rn, каков бы ни был пг-мерный симплекс Е, содержащийся в А, то для любых точек и0, ..., ит^А. Замечая, что утверждение тривиально в случае т = 0, по ин- индукции выведем из формулы гомотопии для потоков, что деформа- деформационная цепь симплекса [ц0, ..., ит\ имеет целочисленную полиэд- полиэдральную границу. Поскольку носитель этой. (т+ 1)-мерной плоской цепи содержится в (т + 1)-мерном аффинном подпространстве про- пространства R", она обязана быть целочисленной полиэдральной цепью. Если аеЛ1^", csR, 4=RnfH;r: a(x)<c) и К —компактное множество из пространства R", то из 7'e5z>m,K(Rn) вытекает, что В случае то = 0 это утверждение тривиально. В случае тп > 0 предположим, что Т = [щ, ..., ит], К — выпуклая оболочка мно- множества {и0, ..., Вт) и существует точка г. Федерер
418 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Тогда T = bvXdT~bvX[(dT)LA + (dT)l_(K\A)]. Следова- Следовательно, Т |_ А = б0 X 1(дГ) L 4] согласно пунктам 4.1.11, 4.1.9, потому что аффинная гомотопия h, связывающая постоянное отображение со значением v и тождест- тождественное отображение пространства R", удовлетворяет условиям ht(A)<=A, ht(K\A)<=K\A при 0 Согласно индуктивному предположению из того, что (дТ)^-А е #>„,_,, KnA(R») вытекает, что Т^- А <^&т>KnA(Rn). Из последнего результата следует, что для каждого компактного множества W из пространства Rm, кото- которое может быть задано с помощью конечного числа линейных не- неравенств. Образы таких потоков при аффинных отображениях про- пространства Rm в R" называются тга-мерными ориентированными вы- выпуклыми клетками в R". Отсюда следует, что каждый поток Ts5'm(Rn) имеет представ- представление k k Т = 2 Г&, для которого М(Г) = 2 ^М(^), i=i . i=i где ги ..., гА — натуральные числа и Su ..., Sh — это m-мерные ориентированные выпуклые клетки такие, что для i Ф / множество sptSfnspt^ содержится в (т —1) -мерном аффинном подпростран- подпространстве пространства R". В вышеприведенных шести утверждениях и их доказательствах целочисленные полиэдральные цепи можно заменить на полиэд- полиэдральные цепи; при этом нужно считать, что г„ ..., гк могут быть любыми положительными числами. 4.1.33. Заметим, что для любого потока T^S)m(Rn), представимого интегрированием, и любого поля ч\ е 35(Rn, Лп-mR")- Действительно, из 1.7.8 сле- следует, что <f, Dn_mri> - <»Т, «Dn_mri> = <•?, -Гп-шЛ> =(*?)• Л- Вспоминая 4.1.6, получаем, что, каковы бы ни были поток 5gNL0C(R") и поле ?eE0(Rn, Лп-m+iR"). справедливо равенство 1195П A • *1)S) = (-1)«-М15И (div % ¦ *S),
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 419 потому, что 4.1.34. Скобкой Ли двух векторных полей а и р1 класса 1 на открытом множестве U из пространства R" является векторное поле [а, Й-<а, #?>-<§, Da>. Поскольку <а, 0<р, Z>g>> = <<а, Dp, Dg> + <а © р, ZJg> для любой функции gr класса 2 на С/, отсюда следует, что <а, ZXp, Dg» - <р, ZKa, Z?g» = <{а, р], ?>g>. Связывая с каждым векторным полем а дифференциальный опера- оператор, отображающий g на <а, Dg>, видим, что оператор, связанный с полем [а, р], определяет меру того, насколько операторы, свя- связанные с а и {J, не коммутируют. Следующее утверждение связывает скобки Ли с внешним диф- дифференцированием. Если \|з — дифференциальная форма степени р класса 1 на U и |,, ..., |р+1 — векторные поля класса 1 на U, то р+1 <5i Л ... Л Ер+1, d^> = 2 (- I)* <6i. ^ <5(i il р+1 р+1 + 22 (-1)*+'<[б1,Ул5«.й,*>, i=l j=i+l Е«> = |х л ... л Ег-1 л 1г+1 л ... л ^р+1 u |(г,Л = 1г д . . . д gt_x д g1+1 Д ... Д |Ь1 Д gJ+1 Д ... Л 6р+1. В случае, когда все поля |< постоянны, это равенство сводится к определению дифференциала di|). Легко проверить, что замена одного из полей \t на ф|( умножает обе части этого равенства на ф для любой функции ф: U -*¦ R класса 1; поэтому общее утвержде- утверждение следует из полилинейности. § 4.2. Деформации и компактность 4.2.1. Если reNm(R"), тп>1, отображение и: Rn-*-R лип- шицевское и reR, зададим потоки x: u(x)>r}) = {х: u(x)<r))-(dT)L-{x: u{x)<r} = 27*
420 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Для всех, за исключением не более чем счетного множества, вещественных чисел г выполняется равенство [\\П + \\дП]{х: и(х) = г) = 0, поэтому <Г, и, г+> = <Г, и, г->. Докажем теперь, что для любого reR справедливо spt <Г, и, г+> <= и'Чг) П spt T, М<7\ и, r+XLip(w)liminf|r|{a;: r<u(z)<r ft+ Полагая th(t) = (\t-r\ - \t-r-h\ +h)/Bh) для h>0 и ie ^ R, заметим, что функция fj, ° и заключена между характеристиче- характеристическими функциями множеств (я: и(х)&*r + h] и {а;: и(х)>г), по- поэтому + limj ix: г < и (х) < г 4- h) -»¦ 0 при /г -* 0+. Для каждого А > 0 равномерно аппроксимируем функцию ^л» и по- последовательностью функций Х(е^°(R"), для которых sptd^i^ix: r<u(x)<r + h), Lip (xO ~* Lip (> ° M) ^ Lip (и) /h при г -»- oo, и получим, что поток (дТ)L (-(h ° ц) — д [Т L (^Л»и)] является Fspt Г- пределом последовательности потоков для которых М(ГL. dxt)< Lip (хОНГН {х: r<u(x)<r + h). Дважды применяя полунепрерывность снизу массы М, получим утверждаемую оценку для М<Г, и, Н->. Поскольку функция, отображающая reR на НГН {ж: и(х)>г), не возрастает, из 2.9.19 следует что ь J* М <Г, и, г+> dS'V < Lip (и) || Т || {х: а < и (*) < Ь}, а если только —<»<а<Ь<«>. Заменяя Г на дТ и замечая, что , и, г+>=-<57\ м, г+> для reR, приходим к выводу, что <Г, и, r+>eNm.,(R") для ^'-почти всех г. Кроме того, если 7IeNmjK(Rn), где .К — компактное множество из
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 421 пространства R", то | :u(*)=r> <Т, U, Г+ > d2"r< Lip (») FK (Т), ъ J* F*n<*:«<«)<r> [Г L {я: и(х) < rJJdS'V^ [Ь - а + Lip (и если только — °° < а < Ъ < °°, потому что для всех SeNmti|K(R") и г е R имеем <Т, и, г+> = (Т - dS, и, r+> - d(S, и, г+>, x: и(х)<ri + д[SL {я; u(x)^r}]- <5, и, Отметим также, что если r<s и E(r, s) = {x: r<u(x)^s), то <Т, и, г+>-<Т, и, s+>=(dT)L-E(r, s)-d[T^-E(r, *)], 1, u, r+>-<7', и, «+>]<Lip(o)[ll57Ill + ll7IH]^(r, s), поэтому Fx-длина (см. 2.5.16) функции, отображающей reR на <Т, и, r+> eFm,K(R"), не превосходит Lip(u)N(r). Как следствие вышеприведенных результатов получим нера- неравенство ь J* М (д [ X L {х: и (х) > г}]) dSxr < Lip (и) \\Х\\{х: а<и(х)< Ь} а всякий раз, когда XeS5m(R"), m>i, sup u(sptdX)< a < 6, sptX компактен и М(Х)<°°. Для этого выберем функцию as^jR"), для которой (spt3X)fl(spta) = 0, a(.r) = l и da(x) = 0, как только и(х)>а, выведем отсюда, что потоки Т = XL а и дТ = —X L da имеют ко-> нечную массу, и заметим, что из условия г>а следует, что (Т, и, г+> = -9[П-к u{x)>r)] = -d[Xf-{x: и(з;)>г}]. С помощью 4.3.4 можно видеть, как примененная здесь кон- конструкция включается в общую теорию расслаивания, развитую в 4.3. 4.2.2. Вспомним, что поток /#Г был задан только в случае, когда отображение / является собственным на spt7\ Здесь мы покажем, как это ограничение может быть заменено другим условием, при котором отображение / может иметь существенные особенности на sptr. Предполагая, что отображение и: R" -»¦ {г: 0 ^ г < <»} является липшицевским, будем говорить, что / — это ц-допустимая функция,
422 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ если для некоторого к отображение /: R" П {х: и(х)> 0) -*¦ R* локально липшицевское, / отображает ограниченные множества на ограниченные, Wf(x)\\ s? l/u(x) для ^"-почти всех х из dmn/. Скажем, что поток Т является m-мерным ц-допустимым потоком, если reNm(Rn). iTHx: u(x) = 0) = 0, ИГ11(ц-т)<оо и либо пг = 0, либо йдТЦх: и(г) = 0}=0, WdTW (ul~m) < ». При этих условиях можно задать поток f+uT = lim /+ (T L UT) e Д>« (Rft), для которого М (/+„Г) < | Г | (м-™ где С/г = {х: и(х)>г) для г>0. Действительно, пространство 3)m (Rk) является М-полным и, каковы бы ни были г > s > 0, имеем М [/+ (Т L U.) - U (T L С/г)] = М/+ [Г L (U.\Ur)] < < j u-md||r||->0 при r^-0. {ж: и(ж)<г> Если те > 0, то поток дТ также м-допустим, поэтому /+и (дТ) = lim /+ [(дТ) L t/r] e <2>m-x (Rfe), г-»0+ причем В случае, когда g — другая м-допустимая функция со значениями в R\ обозначим через h аффинную гомотопию, связывающую / и g, и зададим it-деформационную цепь #„ (/, g) Т = lim h+ ([0, 1]) X (Т L UT)) e a>m+i (Rh), г-»0+ для которой Действительно, каковы бы ни были г > s > 0, имеем М [А+ ([0, 1] X (Г L t/s)) - ft+ ([0, 1] X {Т L ffr))] < >0 при г->0+. *: u(x)<r>
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 423 Далее проверим равенства g*»T - и„т = д [я. (/, g) т]+ни (/, g) (от), если m >0; g^uT — /фиТ = д [Ни (/, ?)Г], если т = 0. Заметим, что в случае пг > 0 справедливо - a (UUT) = lira /+ <Г, и, г + >, М[/+<Г, в, г+>]^г'-тМ<Г, и, потому что spt<7\ и, Н-> с: {ж: и(ж) = г} и ^и (/, g) (ОТ) + д [Ни (/, g) T] - g+uT + UUT = = lim (л+ ([о, 1] х каг) l ur\) + dh+ ([0,1] х (т l ?/,•)) - - ^+ G11_ UT) + U (T L С/г)) = lim fe+ ([0, 1] X <Г, и, г г-»о+ причем МЛ+([0, 1]Х<Г, и, H->)scH<T, и, r+>II(l^-/|r'-m)«S ^ %rl-mM<T, и, где | = sup{|g(z) — /(ж) I: x^sptT, и(х)> 0}< °°. На основании того, что 26 г1-»м<Г, и, г + при б -*¦ 0+, находим, что lim inf ^-""М <Г, и, г + > = О, <2mLip(u) J ц {()e> и выводим утверждаемые равенства. В случае m — 0 соответствую- соответствующее рассуждение тривиально. Заметим, что /#JsNm(Rk) и Я.(/, g)e=Nm+1(R*). Если поток Т спрямляем, то такими же будут f$,uT и Ни (/, g) Т. Если /, g, Т одновременно и и- и у-допустимы, то UuT = UvT и Hu(f,g)T = Hv(f,g)T. Этот факт очевиден в частном случае, когда и > v, к которому мы сводим общий случай, заменяя v на inf (u, v).
424 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ 4.2.3. Здесь мы дадим альтернативные доказательства трех пред- предложений, являющихся простыми следствиями пп. 4.1.20 и 4.1.31. Однако преимущество нового способа состоит в том, что он обобща- обобщается на плоские цепи по модулю v (см. 4.2.26), потому что в нем нет ссылок на теорему о константе, выведенную в 4.1.4 и 4.1.7. Если XeFm(R"), M(X)<oo, ^ (spt X) = 0 и sptX содержится в объединении конечного семейства т-мерных аффинных подпрост- подпространств пространства R™, то Х = 0. Действительно, находим с по- помощью 4.1.18 и второго следствия в 4.1.15, что Х^-Е = 0 для каждого m-мерного аффинного подпространства Е пространства R". 'Если —°° <ai<bi<°° для i = 1, .... m, W = Rm П {x: at < xt < bt для i = 1, ..., m), X<=Fm(Rm), M(X)<°o и spt dX <= Bdry W, то существует такое ве- вещественное число г, что X = rlau bjX...X[am, bj. Положим u(a;) = dist(a;, Bdry ТУ) для х&№, выберем точку w e W и, применяя 4.2.1, получим такое число s, что 0<s<u(w), М[5(Х'-Я)]<оо) Где H = {x: u(x)>s}. Выберем также локально липшицевскую ретракцию о|з множества Rm\{«?} на Bdry ТУ (см. доказательство п. 3.2.35), заметим, что ¦ф+ (X L Rm\^) = 0, потому что im а|з = Bdry W содержится в объеди- объединении конечного семейства (т— 1) -мерных аффинных подпро- подпространств пространства Rm и, применяя 4.1.15, выведем, что Далее положим А = Rm П {х: ж, = ад, В = R П {х: ж, = bj, f(x) = (au x2, ..., хт) и g(x)=x для x^Rm, h(t, x) = (l-t)f{x) + tg{x) = {(l-t)al + txi, ж2, ..., хт) для (t, s;)eRXR" и найдем с помощью 4.1.9, что Действительно, ^+Х = Х, /* Х = 0, потому что imf<=A и h отобра- отображает RX[(BdryTy)\B] в объединение конечного семейства (т — 1)- мерных аффинных подпространств пространства Rm. В случае т = 1 имеем В = {ЬХ), поэтому dX^-B = rlbi] для не- некоторого вещественного числа г и Z = rft+([0, 1]Х[Ь1])=гй+[@, bt)i С1' Ь,I-г1о„ 6J.
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 425 В случае т > 1 положим Z = Rml П {у. a1+l < z/j < Ь}+1 для ; = 1, ..., т - 1), р: Rm + R—1, р (х) = {хг , хт) для х е R, S-(plfl)-1, 1(»)-(Ь„ */., ..., у»-,) для yeR-«, заметим, что 5EХ>- В) = -5[3Xl-(Bdry W)\B], spt 5EХ L В) с: c5c:Clos[(BdryW)\5] = l(BdryZ), spt5p+EXl-B)cr BdryZ, сле- следовательно, no индукции получим вещественное число г, для ко- которого рф (дХ Lfl) = Аа2, Ь2] X... X [ат, Ьт], и сделаем вывод, что Х = гкфA0, l]Xg+([a2, 62]X...XUm, bj)) = = г[о„ 6,1 X fa2, 6J X ... X [ат, bj, потому что h(t, %,(y)) = {{i-t)ai + tb1, г/„ ..., ym-i) для (f, i/)e e R X R-1. Предположим, что W — то же, что и выше, и Lu ..., L№ — ra- кме однолистные аффинные отображения из Rm e R", чго 0 F(R) М(Г) spt Г <= U {LjfClos ТУ): ; = 1, ..., ц}, spt дТ с U {^ (Bdry W): ; = 1, ..., ц}, то существуют такие вещественные числа г1? ..., г„, чго J1 = S г^# ([«1, М х ... х [о», ъп\). к гожу же reC(R"), го числа г,, ..., г„ целые. Действительно, потому что множество spt T\U {LS(W)\ j = 1, ..., ц) содержится в объединении конечного семейства (пг— 1)-мерных аффинных подпространств пространства R". Для каждого / заметим, что <= L,(Clos W) П [(spt 9Г) U U {Lk(Clos W): k*°j)] <= 4(Bdry W), поэтому из предыдущего предложения и 4.1.15 выведем, что Для некоторого вещественного числа г}. Последнее заключение сле- следует из п. 4.1.28.
426 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ 4.2.4. Каковы бы ни были непересекающиеся аффинные под- подпространства V и У пространства R" такие, что dim V = га — т — 1, dim У = т < п и аффинное подпространство, порожденное множест- множеством У U У совпадает с R", зададим проекцию с центром V на У как класс / всех таких упорядоченных пар (х, у), что ieR"\F, y^Y и множество V\){x}U{y) содержится в некотором (га — т)- мерном аффинном подпространстве пространства R". Выбирая точку с ^ V и обозначая через W аффинное подпро- подпространство пространства R", порожденное множеством Y\i{c}, за- заметим, что и что существуют единственные линейные функции a: R" -+- R, для которой т_с (V) cr ker (а), Т-е(У) = т-с(^)П{а;: а{х)=\), (i: R"-*- x-c(W), для которой $(х) — х^ т_с(У) для a:<=Rn. Отсюда выводим, что dmn/ = Tc(Rn\kera) и f(x) = c + [a(x — с)]~1$(х— 'с) для х edmn/. В частности, если V = R" П {ж: ж< = 0 для i = 1, ..., т + 1), У = R" П {я: Xi = 1 для г = т + 1, ..., п), Сг — 0 для i = 1, ..., т + 1 и d = 1 для i — m+ 2, ..., га, то а (ж) = жт+1 и [J (я) = (ж„ ..., a:m+1, 0, ..., 0) для х е= R", f(x) = (xi/xm+u ..., xjxm+u I, ..., 1) в случае хт^Ф0. Кроме того, Df(x) отображает точку raeR" на точку; г-я коорди- координата которой равна (h{ — hm+ixt/xm+i)/xm+i для i = 1, ..., т, а осталь- остальные координаты равны 0, поэтому / m \ / II 7~)-f 11*\ \\ «r"**" f -1 _L ^^ 1 /и //y. I I / LJJ I**') ^^ I •* i~ ^j I **'i/**'?n-f-l I I / V i=i // 4.2.5. Для / = 0, 1, ..., га зададим Z" как множество всех га-членных последовательностей z = (zu ..., zn) таких, что card {i: z,- — четное целое) = / и card U: Zi — нечетное целое) = га — у". С каждой точкой :eZ" свяжем /-мерный куб W (z) = R" П {ж: \x(-Zi\< 1, если z4 четно, и xt = Z(, если z< нечетно),
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 427 а также (га — /) -мерный куб W" (z) = R" П {х: Хг = Zj, если zt четно, и \xi — zf\ < 1, если z,- нечетно). Ясно^что Zn = U {Z": / = 0, 1, ...,«}. Семейства {W(z): геZ") и (W"(z): zeZ*} являются локально конечными разбиениями про- пространства R", которые будем называть стандартными двойствен- двойственными кубическими разбиениями пространства R". Зададим их к- мерные остовы, как замкнутые множества W; = U {W (z): ze Z? при j < к} = = R™ П {х: card {г: хг — нечетное целое} ^ п — &}, Wft = U {W" (z): z ge г".лри га — ;< к} = = Rn П {х: card {i: хг — четное целое} ^ га — ft}. Заметим, что Wm\Wm_! является иг-мерным подмногообразием пространства R", а его компонентами являются кубы W'(z), соот- соответствующие всем z e Zm. Из 4.2.3 (или из 4.1.31 и 4.1.20) выво- выводим, что в случае т > 0 множество Nm (Rn) П {Т: spt T с w;, spt дТ с W^} является векторным пространством, порожденным ориентированны- ориентированными m-мерными кубами [Жт L W (z)] л ех такими, что zeZjJ,, Я,^Л(га, m) u imA, = {t: z( четно}, потому что поле eJW'(z) ориентирует W'(z). Кроме того, Im(Rn)№ spt Г с w;, spt^cW^} является аддитивной группой, порожденной этими ориентированны- ориентированными кубами. Мы знаем также из 4.1.15, что No (Rn) П {Т: spt Т с= W;> и Io (Rn) П {Г: spt T с W^} являются векторным пространством и аддитивной группой, порож- порожденными потоками Ьг, соответствующими всем zeZj. 4.2.6. Здесь мы построим ретракции от множества Rn\Wn-m-i на Wm такие, что от = ат°ат+1 для т<п 11 °ш | Wm+1\Wn-m-i имеет следующее геометрическое описание. Если c«=Z?+i, то W (с) П W^_m_! = {с}; для любого *<=W'(c)\{c}, om(a;)e[ClosW/(c)]\W'(c) и х лежит на отрезке, соединяющем с и ат(х).
428 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Это описание полезно для того, чтобы представлять себе от, но поскольку решающее значение будут иметь оценки для Шот11, дадим формальное определение отображения от в чисто алгебраи- алгебраических терминах следующим способом. Положим ип(х)= 1 и Оп(х) = х для ieR?, Для т = О, 1, ..., га — 1 зададим отображение 8m: R" -»¦ R так, что card {г: \xt\ ^Qm(x)) > m+ 1 и card {г: \xt\ > Вт(х))>п — т для любого х е R". Далее введем функции ит: Rn->R, am: R^; характеризуемые следующим условием. Если а; е R", zeZHii \x{ — z,| ^ 1 для г = 1, ..., га, то если также ж^ Wn_m_!, то um(a;)>0, потому что card (i: а;( — четное целое) < т + 1 и от(я)— это такая точка yeWm, что У{ —Zi = (Xi —Zi)/um(x), если U< — Zil <um(a;), Ui — Zf = sign (ж, —z<), если |ж4 — z4| > um(a:). Это условие непротиворечиво, потому что если еще ?gZJ и 1я| — Sfl ^ 1 для i = 1, ..., га, то для каждого i либо zt = ?j, либо xt — Zj = 5( — Я( = ±1, поэтому 0m(a; —z) = 8m(x—p. В случае, когдаже\?т, имеем: card{i: xt — нечетное целое) > >га — т, поэтому ит(х)=1 и ат(х) = х. Ясно, что W^_m_i = {х: ит {х) = 0}. Легко проверить, что 1лр(ит)<1 и отображение ат локально липшицевское. Кроме того, \ат(х) — х\ «? га1/2 для любого х е R". Положим В = R71 П Ь: 0 *? ж4 ^ ж2 ^ ... < хп ^ 1), А = R" П {ж: |ж<1 ^ 1 для i = 1, ..., га), и обозначим через 3 группу таких изометрий | пространства R", что ит ° | = ит и ат ° 1 = |» от для т = 0, 1, ..., га.
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 429 Поскольку в группу S входят все линейные автоморфизмы про- пространства R", которые переставляют множество, состоящее из всех стандартных базисных векторов и противоположных к ним, и по- поскольку т2^ S для любого z e Z", находим, что А является объеди- объединением семейства ^"-почти не пересекающихся 2" ¦ п\ образов ку- куба В при преобразованиях из 3 и что Если х^В, то ит(х) = хт+1 и От{х) = (Х1/хт+и ..., xJXm+u 1, . . ., I) ^ В в случае xm+i > 0. Заметив, что о™ совпадает на В с конкретной центральной проекцией, рассмотренной в 4.2.4, получим нера- неравенство для ^"-почти всех х из В. Поскольку группа 2 счетна, выводим, что это неравенство выполняется для ^"-почти всех х из Rn. Ана- Аналогично получаем, что и„ ^um+1 и от = от°от+1. Вспоминая 4.1.32, видим, что отображение ат проективно на %,{B\W'n-m-i) для любого |SE; кроме того, '1 = В(]{х: ач = 1 для i = m+ 2, .... п], U-i = В П {х: хг = 0 для i = 1, ..., т + 1}, В П Wm+1 П W^_m_! состоит из единственной точки с, х = A — хт+1)с + a;m+1CTm(ж) для x^ (что и утверждает начальное геометрическое описание отображе- отображения От). Заменяя х на 0m+i(z), делаем вывод, что для каждого /-мерного симплекса ?c^(B\Wj,-ra-i). множество от(Е) являет- является симплексом, размерность которого не больше 7, а от+1{Е) содержится в выпуклой оболочке множества {1(с)} Uam(E). 4.2.7. Лемма. Пусть ит, А те же, что и в 4.2.6, и 0~ш = °°. A) Если р — радонова мера на R", то B) Если pt — радоновы меры на R" и 0 «? mt < п — целые чис- числа для i = 1, ..., к, то множество всех точек а из А, для которых J ("«, о Та)-™* dPi < k ^J Pl (R") при i = it...,kt имеет положительную 5?п-меру.
430 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Доказательство. Предполагая, что т< п, зададим множество В так же, как в 4.2.6, положим В, = R"-1 П {у: 0 «S у, ^ ... ^ ут ^ t < ym+l <...< у._, < 1> для любого JsRh получим, что i J Гт [Г/m!] [A - if~x-ml(n - 1 - m)l] d5"i = l/[m! (n - m)l], о J (um)-m d^n = 2nn! f (um)-m dSn = 2" (h. J А В Поскольку Mm ° tz = um для z e ZjJ и характеристическая функ- функция а множества А удовлетворяет условию 2 a (x — z) = 1 для S7"-почти всех а; из Rn, выводим, что для любого w е R" j [um (w + а)]~т й2?па = j [um (w + х)]~п а (х) dSnx = А = f [um (х)]~т a(x-w) S a(x-z) dSSnx = Применяя теорему Фубини, делаем вывод, что f §[um(w+a)rmdpwd<?na, A Rn как и утверждалось в A). Из отрицания заключения B) следова- следовало бы неравенство i i [к (;j Pi (R-)] j (Umi о xo)-mi dPi > для ^"-почти всех а из А и ^"-интегрирование по Л дало бы строгое неравенство, противоречащее заключению A). 4.2.8. Для любого 0 < е < °° зададим отображение ц„: R"->-R", pt(x) = ?x
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 431 п заметим, что Ице+Ш = етр.вф11П1 для всех то-мерных потоков Т в R", представимых интегрированием. 4.2.9. Теорема о деформации. Каковы бы ни были поток Т <= eNm(R") и число е>0, существуют такие потоки PeNm(R"), @eNm(Rn), 5eNm+i(R"), что при f = 2«2m+2 выполняются следую- следующие условия: A) T = P + Q + dS. B) В случае пг>0 выполняются неравенства М(Р)/гт *? f [М{Т)/вт + М(дТ)/гт-1], М (Q)/em ^^М(дТ) /ет~\ М (S) /em+1 *? ТМ (Т) /гт. C) Если т = 0, го М(/>)^МG'), (? = 0, МE)/е D) sptiPUsptiScfa;: dist(a;, spt Г)«? 2«е); spt йР U spt Q <= lx: dist (ж, spt дТ) ^ 2«е), если т>0. E) spt P cz це(yv'm), spt дР с це (\Vm-i), если те>0, поэтому Р является полиэдральной цепью. F) ?с./щ 7" — целочисленный поток, то Р является целочислен- целочисленной полиэдральной цепью, a Q и S — целочисленными потоками. G) Если дТ — спрямляемый поток, то Q — целочисленный поток. (8) Если дТ — {целочисленная) полиэдральная цепь, то и Q тоже. (9) Если Т — {целочисленная) полиэдральная цепь, то и S тоже. Доказательство. Поскольку общая теорема легко сводится к част- частному случаю е = 1 с помощью преобразования ц», допустим, что е = 1. В случае то>0, применяя 4.2.7, выберем точку а^А, для которой (Д1) М(дТ), где 0~т = оо, и получим, что ПТЦх: ит[та(х)] = 0)=0, ИдТЦх: ггт_1[та(а;)] = О} = 0. С помощью 4.2.6 находим, что ^"-почти все точки х из R" удовлет- удовлетворяют условиям Шо,(х)II «S(г+ 1)/ц,-(я)s Полагая v = (um ° xa)/n, w = (um-i ° т„)In и вспоминая 4.2.2, найдем, что отображения d ° т„ и поток Т являются у-допустимыми при m^i^n, отображения о« ° т„ и поток дТ являются ^-допустимыми при m — 1 sg г ^ п.
432 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Зададим потоки St = Hv(di° т„, oi+i ° т«)Т при то «? i < га, Sn = Hv(о„° т«, о„)Т, Qi = Яи (О( о Т., 0<+1 о Тв) дТ при то — 1 s? i < п, Qn — Ню(а„ • т«, ап)дТ, S= S 5,', <?= 21 ft, Р=[(о-тота)+„Л-ап-1 i=m i=m— 1 и выведем из формул гомотопии для #„ и //„, что dS + Q- Qm-i = Г - (о„ • то)+„Г, 6Q = dT- (am_, • та)+„57', поэтому выполняется условие A) и dP = dT-dQ = (ат_1 • Та Замечая, что spt^m_1c: Wm» потому что Wm содержит отре- отрезок, соединяющий точки (om_t ° та) (х) и @ra° т4) (ж), если только w(x)>0, выводим условия E) и F) с помощью 4.2.5. Теперь условия G) и D) очевидны. Кроме того, условие B) легко сле- следует из оценок МE0<IT1 (nv-m)< »i+«.2 (^ М(Т), М(Q{)<||5Г||(|ш,1--)< и»• 2 М (<rm о та)+, Г < || Т || (у--) < пп2 (пт) М (Т), М (am_x о та)+и, (дТ) < || 5Г || (иг--) < п™-1! (m !L i) M (дТ)- Если ОТ — это (целочисленная) полиэдральная цепь, то Wn_m x X spt дТ содержится в объединении конечного семейства (п — 1)- мерных аффинных подпространств пространства R" X R", поэтому множество = {х-у: (х, у) е W;_m X spt дТ} имеет 2""-меру 0, и можно выбра!ь точку а так, что При этих условиях поток То(дГ) представим в виде конечной сум- суммы таких полиэдральных цепей, что их носители содержатся в t(B)\W^_m для некоторого |еЕ, и поэтому, каков бы ни был номер m — 1 «? i < п, (целочисленными) полиэдральными цепями
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 433 являются как их образы при отображениях 0j+, так и деформацион- деформационные цепи, соответствующие аффинной гомотопии, связывающей о( и oi+i. Таким образом, выполнение условия (8) доказано. Анало- Аналогично можно проверить (9), выбирая точку а так, что Ta(spt Т) с Rn\W^_m_lt если поток Т полиэдрален. В случае пг = 0, применяя 4.2.7, выберем точку а^А, для которой положим у = (ц„ °т„)/га, Р ==(и0 ° х«)+„Г, Q — 0, зададим S, как и в предыдущем случае, и проверим соответствующие утверждения с помощью намного более простых вариантов предыдущих рас- рассуждений. 4.2.10. Как следствие из предыдущей теоремы получим следую- следующее изопериметрическое неравенство. Если T^Im(Rn) и дТ = О, то существует поток SeIm+I(R»), для которого OS = Т и M(S)mnm+i) ^ чЩТ). Действительно, выбирая е так, что ^М(Г)=ет, найдем, что Q = 0, так как дТ = 0; Р = 0, так как М(Р)«?ет; в то время как п. 4.2.5 показывает, что М(Р) равно произведению Bе)т на целое число и МE) < e-jM(Г) = em+1 = frM(T)](mfi)/m. Конечно, использованная здесь константа ^ гораздо больше необхо- необходимой. Для частных случаев т = п— 1 и то = 1 наилучшие констан- константы будут получены в пп. 4.5.9C1) и 4.5.14. Для остальных значе- значений то наилучшие константы неизвестны. Гораздо более общее изопериметрическое неравенство будет до- доказано в 4.4.2. Довольно тривиальным следствием п. 4.2.9 является утвержде- утверждение о том, что 5?m(Rm) — это М-замыкание множества ^m(Rm). Ясно, что 5?m(Rm) совпадает с М-замыканием множества Im(Rm), и применяя теорему к T*=Im(Rm), получим, что 5 = 0, М(Т — Р) = = М(<?)«? еуМфТ). (Это утверждение также легко следует из 4.1.28.) Вспоминая 4.1.15, находим, что каждый m-мерный спрям- спрямляемый поток в R", носитель которого содержится в некотором то- мерном аффинном подпространстве пространства R", принадлежит М-замыканию множества ^*m(R"). В нижеследующих пп. 4.2.11—4.2.14 мы дадим альтернативное доказательство утверждения, выведенного ранее более просто в п. 4.1.21. Однако преимущество нового способа состоит в том, что он обобщается на плоские цепи по модулю v (см. 4.2.26), а лем- лемма 4.2.11 имеет самостоятельный интерес. 4.2.11. Лемма. Если tfoR» и У™(Е) = 0, где 0<то<л, то почти все (см. 2.7.16G)) (п —т—1)-мерные аффинные подпро- 28 Г. Федерер
434 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ странства V пространства R" обладают тем свойством, что для любой проекции f с центром V (см. 4.2.4). Доказательство. Обозначим через G группу изометрий простран ства Rn с мерой Хаара ф, положим U = R" П {ц: щ = О для i = 1, ..., m + 1), S = Rn П {s: \s\ = 1, s • и = 0 для и е= Ш, S (s) — это векторное пространство, порожденное множеством U U Ы для любого s&S, и допустим, что ? — борелевское множество, следовательно, (GXS)(\{(g, s): g[%(s)}uE^0} — суслинское множество. Из 2.10.16 и теоремы Фубини выводим, что 4>{g: g[%(s)]nE?=0} = Q pflzs^S, 2/SHs: g[t,(s)]UE?=0) = O для ф почти всех g. Рассмотрим далее фиксированную точку g^G, удовлетворяющую последнему равенству, и покажем, что подпространство V — g{U) обладает свойством, утверждаемым в лемме. Предполагая, что Y и / такие же, как в 4.2.4, определим локально липшицевское ото- отображение и заметим, что для каждого уе Y множество f~4y} является (п — пг) -мерным аффинным подпространством пространства R", содержащим g{U), поэтому f~l{y) = g[Z,(s)] для некоторого s^S, из чего следует, что ^^^(s), а следовательно, множество {у: ГЧу}ПЕФ0} = {Ц(з): g[l{s)]u E Ф 0} имеет ^т-меру 0. 4.2.12. Следствие. Для почти всех изометрий g пространства Rn справедливо равенство 26m{am[g{E)ft dmnoml) = 0, где am то же, что и в 4.2.6. Доказательство. Вспомним, что ат\В — р\В, где р — проекция с центром U, и заметим, что g-Iop°g является проекцией с цент- центром g~'(^)i каково бы ни было g^G. Полагая Q = G П {g: 3>eml(p°g)(Eu dmnp • g)] = 0} выведем из леммы, что множество G\Q будет нулевой меры Хаара,
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 435 а значит, почти все изометрии g пространства R" удовлетворяют условию |~' ° g ^ Q для всех 1е Е. Поскольку am\%(B)=%'po%~i\%(B), из этого условия следует, что множества о»[|{В) П g (Я) П dmnom]с (g с р о |-'.g) [Е n dmnp • I • g] имеют <5#™-Mepy 0 для всех % е 5. 4.2.13. Лемма. Если reNm(R"), 0<т<п, е>0, u E — такое компактное множество из пространства Rn, чтоЭ™ (Е) = 0, го существуют такие потоки i?eNm(R") и Se Nm+I(R"), что M {R)/em «? 3«2m [11П1 (Rn\E) /гт + M (dT) /em-']. Доказательство. Рассмотрим только частный случай е = 1, к ко- которому общий легко сводится с помощью преобразования це. Сна- Сначала, применяя 4.2.12 и 4.2.7, выберем преобразование ieO(n) и точку а е А, для которых 2$т [о»(т.[*(Е)] П dmn о„)] = О, Hn\((E) заметим, что отображения am ° ta, о„ и поток t$,T являются v = = ( Mm ° Ta)/«-ДОПУСТИМЫМИ, ПОЛОЖИМ ^ = Ц1 [(ат - та)+„ (t+T) + Hv (om - Та, а„) Ct+71)], 5 = г+1[Я„((Тт<.та, on){t+T)] и выведем равенство Г = Л + 95 из формулы гомотопии для Hv. Для каждого г > 0 из первого утверждения п. 4.2.3 следует, что X = {om°Xa)*[DT)^{x: v(x)>r)Ut(E)] = 0, потому что sptX содержится во множестве (am° та)Х [{х: v(x)> ^ г} П t (E) ], которое является компактным подмножеством множест- множества Wm нулевой <Жт-меры; соответственно Hn\t(E) 28*
436 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Поскольку |0т[т„(а;)] — х\ «? 2га для x<=dmnom, делаем вывод, что М(Д)< ME)< 4.2.14. Теорема. Если r<=Fm(Rn), т>0, М(Т)<°о и E<=Rn, to из 9™ (Е) = 0 следует, что \\ Т \\ (Е) = 0. Доказательство. Поскольку мера ^™ борелевски регулярна, а мера II741 радонова, можно допустить, что множество Е компактно и 9™ (Е) = 0. Тогда из теоремы Фубини следует, что SBn (Е) = 0, и представление потока Т, выведенное в 4.1.18, сводит задачу к слу- случаю, когда Т = д (S?71 Л л)- Таким образом, можно допустить так- также, что ОТ = 0 и т< п. (В случае, когда Т^&~т(№), эта редукция может быть осуществлена с помощью 4.1.28D) и 3.2.26 вместо 4.1.18.) Полагая и(х) = dist(x, E) для любого ieR", находим с помощью 4.2.1, что для 2"-почти всех положительных чисел г потому что дТг = <Г, и, г+>, и выводим из 4.2.13, что Те (Тг) ^ 6re2m+1 [11Г,Н (R"\?) + еМ (дТт) + вЩТг)} для каждого е > 0, где С — выпуклая оболочка носителя spt T (см. 4.1.16), поэтому Делаем вывод, что cGV) = 0, Т \_ Е = 0. 4.2.15. Лемма. Если re=Nm(Rn), m>0, дТ = 0 и если для каждого а е R", для 9?1-почти всех положительных чисел г, то Т е 5?m(R"). : Доказательство. Выбирая положительные числа |, ц, для ко- которых j 2mn2m [а (пг) т\%]l/m < | < 1,
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 437 покажем сначала, что множество C = Rnn{a: в*т(ИП1, а)<х\) имеет IIЛ1-меру 0. Если ae(Sptr)nC, то /(г)= 11Г11В(а, г)>0 для г>0, б~т/(б)<а(т)т] для малых 6 >0. Поскольку функция fl/m неубывающая, из п. 2.9.19 следует, что о поэтому существует такое положительное число г < б, что т~Ч(г) <1-""""/' (г) = (f1/m)' (г) < [а(т) т]]1/т и 9[rLB(a, r)]e^m_,(Rn). Находим также с помощью п. 4.2.1, при и(х)— \х — а\ для а; е R", что в, В случае т > 1, применяя 4.2.10 с заменой m на т— 1, получим поток 5 elm (Rn), для которого dS = d[TL.B(a,r)l sptSc:B(a, r), М(S) (m-1)/m < 2n?mf (r) < [If (r)] с»-"/™, поэтому МE)<1ИЛ1В(а, г). Если т = 1, то /'(г)<аA)л < 1, д[Т^-Л(а, г)] = 0, и возьмем 5 = 0. В обоих случаях из пп. 4.1.10 и 4.1.11 следует, что S - Т L В (а, г) = д F« X [^ - Т L В (а, г)]), FBCa,r) [S - Г 1_ В (а, г)]< г | Г | В (а, г). Если бы выполнялось неравенство \\T\\C > 0, то мы могли бы выбрать окрестность V множестьа С в R", для которой |11П1У< < НГНС, и для каждого р>0 применить п. 2.8.18, чтобы НШ-почти полностью покрыть С последовательностью непересекающихся ша- шаров В (а,-, Гг)<=: V таких, что rt < p и существуют потоки 5,е1т(Кп), для которых МE,)< ?ШВ(а(, г,), ?к [S, - Т L В (а,-, г,)] < рИГИВ (а,-, г4), где Я = spt 7 U Clos V, поэтому поток Удовлетворял бы условиям < 112*11 (К«
438 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Применяя полунепрерывность снизу массы М, мы пришли бы к вы- выводу, что Поскольку ИШС = 0, выводим с помощью 3.3.15 и 4.2.14, что R" является НШ-спрямляемым. Применяя 3.2.18 и 4.2.14, ИГИ-почти полностью покроем R" последовательностью непересекающихся множеств tlpj(Kj), где Kj <=. Rm, Kj компактно, %: Rm -»- Rn, Lip (ifc) < 2, отображение tylK) однолистно, Lip[(%|Xj)~1]< 2. Поэтому и достаточно будет доказать, что каждое слагаемое является спрям- спрямляемым потоком. Используя 2.10.43, расширим отображение (ifjlA,-)"' до отобра- отображения g: Rn -»- Rm, для которого Lip (g) < 2. Для каждого числа р >0, применяя 2.8.18 и 2.9.11, покроем НШ- почти полностью ^>i(Kj) последовательностью таких непересекаю- непересекающихся шаров В(а(, г{), что НП1 [В (а,-, т,) \%(К,)} < рИГИВ (о,, г«), аГ,еЯЯ1_1(К-) при Г( = ГЬВ(а4, г,). Поскольку 3(jf+ri)sA«-i(Hm), с помощью 4.2.10 и 4.1.10 нахо- находим, что Кроме того, tyi\g{x)] = x для xe=tyj(K}), поэтому из 4.1.15 следует, что (* 'gUT^T^fy (Kt) + (^ ч) + [Г L В (о„ г,) \^ (Ж,) ]. На основании того, что Lip (ty ° ^) < 4, делаем вывод, что М [<? - Г L Ь (К})] < 2 4тр || Г1В (а?, г*) < 4трМ (Т). 1 г=1 4.2.16. Теорема замкнутости. Если К—компактный липшицев- ский окрестностный ретракт в R", а пг — неотрицательное целое, то:
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 439 A) Im k(R") является ?к-зампнутым в Nm k(R"). B) Л+и(Г)П{5: MES)<°°} = Im+1 (R-). C) ^-т,к(К")П{Г: М(Г)<оо} = <Ят<я(К«). Доказательство. Для каждого m ясно, что из B) следует C). Кроме того, из A) следует B), потому что если iSe^?m+, K(Rn), то. S принадлежит М-замыканию множества lm+t, к (R"), следователь- следовательно, dS принадлежит Fx-замыканию множества ImiK(R"), и в слу- случае, когда М(д?)< °°, из заключения A) следует, что dS^Im K(Rn). Чтобы доказать A), предположим, что 2"eNmK(R"), Qte Для каждого непустого замкнутого подмножества Е пространства R", применяя п. 4.2.1, при u(x) = dist(x, E) для x^W, выведем, что f <cx, для 0<Ь<«>, о i-i где Е, = {х: dist(;r, ?)^r), поэтому lim FK [(Г — ^г) L Ег] =0 для й'^почти всех г. Если те = 0, то Qx^^*0(Rn), и мы видим, что (Г L Ег) A) = lira (<?{ L Er) A) e Z для ^-почти всех г, = lim (Г L ?г) A) е Z + для каждого непустого замкнутого множества Е из пространства R", поэтому re^tR"). В случае тп > 0 заметим сначала, что FK (дГ - 0Q,) -» 0 при i -> ~, по индукции, применяя заключение A) с заменой m на m—i, выведем, что 37"slm_, K(Rn), и, применяя 4.2.10, выберем поток i?sIm(R"), для которого dR = dT, а значит, 3G'-i?) = 0. В силу 4.1.29 достаточно доказать, что Т — R e5?m(R"). Заменяя Г, (?,- и К на Г — Л, Qi — R и выпуклую оболочку множества KUsiptR, будем предполагать далее, что дТ = О. Какова бы ни была точка а е R", взяв Е = {а), получим ^FK[rLB(a, г)-^,1-В (о, г)]-» 0 при i-^oo для ^'-почти всех г. Кроме того, из 4.2.1 следует, что потоки
440 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Т L В (а, г) и QtL В (а, г) являются нормальными для 2"-почти всех г. Как только г удовлетворяет этим условиям, по индукции, применяя заключения B) и A) с заменой то на то—1, выведем, что 0 [0,1-В (a, rJlel^^R") для г = 1, 2, 3, ..., Применяя 4.2.15, приходим к выводу, что r<=Im(Rn). 4.2.17. Теорема компактности. Если К—компактный липшицев- ский окрестностный ретракт в R", то — неотрицательное целое и 0< с< оо, то: A) Множество Nm:K{Rn)C\{T: 'N(T)^c) является ?к-компакт- ным. B) Множество ImK(Rn) Л {Г: NG*)^ с} является &"к-компакт- ным. Доказательство. Поскольку N — полунепрерывная снизу функ- функция, множество в A) является Fk-полным. Из 4.1.24 и 4.2.16 из- известно, что множество в B) является ^"к-полным. Покажем, что эти множества вполне ограничены. Пусть / — липшицевская функция, ретрагирующая некоторую ограниченную окрестность множества К в R" на К. Для любого числа 0 < е < 1 такого, что {х: dist(z, К) < 2пг] с: dmn /, рассмотрим множества Ф, = Pm (Rn) Л {Р: spt Р с= цЕ (W'm) Л dmn /, то = 0 или spt9/)c:f( Р^Фг) для i = l, 2. Поскольку dmn/ состоит только из конечного числа кубов (ie[W'(z)], множество Ф1 будет N-компактным, множество Ч^ бу- будет N- и Fk-компэктным, а Ф2 и *?? — конечными. Поэтому мно- множества Ч^ и 4я 2 будут вполне ограничены относительно полунорм Fir и ^~к соответственно. Для каждого элемента Т множества в A) применим 4.2.9 и получим, что Реф //f Fk (Т - UP) < М (UQ) + М (US) < [Lip (/)"• + Lip (/)т+1] 2п*т+гсе. Аналогично выведем B), рассмотрев Ф2, ^?г и Ук. 3.2.18. Следствие. Если 2"<=#~m K(Rn), то &"К{Т) является наи- наименьшим числом из множества {M{T-
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 441 Доказательство.Если только &"к{Т)<с<°°, то множество не пусто и ^"ж-компактно, потому что для каждого ^eQ множест- множество {S — Q: SeQ} является #"к-замкнутым подмножеством мно- множества Im+1,K(Rn)n{X: N(X)<2c>, а перенос на Q является ^к-изометрией. 4.2.19. Лемма. Если R<=Im(Rn), б>0 и либо тп = О, либо dRez&m-ilJV1), то существуют поток Se=Im+1(Rn) и диффеомор- диффеоморфизм g класса 1, отображающий R" на R" такие, что x: dist(x, l + S, Lipdr-')<l + 6, lf(x)-xl<6 для x^Rn, g(x) = x, как только x^s^tdR или dist (x, spt/?)^6. Доказательство. В случае m = 0 возьмем S = 0 и g = lRtl. S случае тп>0 положим ^ = 2wm+2, выберем число t, для ко- которого и вспомним 4.1.28. Из сделанных предположений вытекает, что Жт (spt OR) = 0, поэтому №1 (spt dR) = 0. Кроме того, R" является (Ш11, пг)-спрямляемым, и 3.2.29 позво- позволяет ИДИ -почти полностью покрыть R" счетным семейством G под- подмногообразий пространства Rn класса 1 и размерности т. Применяя 2.10,19D), получим, что для НДН-почти всех точек Ь из R" сущест- существует многообразие Be^G, для которого b e S\spt dR и em(№HLR»\B, ь)=о<етA1дп, ь)<оо. Обозначая ради краткости Сг = В (b, tr)OB и замечая, что ИДНВ(Ь, tr)/[a(m)rm]-+ Гвт(«Д11, 6) при г^0+, ИЛИ [В F, г)\Сг]/ИДПВ(Ь, г)-^ 1-Г при г^0+, получим сколь угодно малые положительные числа г такие, что ИДИ [В F, г)\С,]<2A-ГI1ДНВ(Ь, г) и существует диффеоморфизм /, удовлетворяющий заключению п. 3.1.23. Поскольку f(Cr) содержится в пг-мерном аффинном под- подпространстве пространства R", с помощью 4.2.10 находим, что спрямляемый поток /+ (RL Cr) может быть М-аппроксимирован
442 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ такой пг-мерной целочисленной полиэдральной цепью W, что b, r)\Cr]<2{t~m - 1)Ш№{Ь, г) и spt4r<=BF, r). Соответственно 2.8.18 позволяет ИЛН-почти полностью покрыть R" последовательностью непересекающихся шаров ВF(, г,)с= <= Rn\spt dR, для которых, во-первых, 4г< < б, а во-вторых, сущест- существуют потоки 4rje^'m(R'1) и диффеоморфизмы /(, отображающие R" на R", такие, что Lip (А)< Г1, Up (/Г1) < Г1, /*(*)«* для ieR"\B(i,,rf), М(У,-/ч.[Д1-В(Ь„ гО1)<2(Г--1)Ш1В(Ь„ г,) и spt ?(!= В(Ь„ г<). Выберем натуральное А, для которого 2 положим g = /i ° /2 °... % и заметим, что целочисленный поток - 2 Т, = S (/1+ [Л L В(ЬЬ г,)] - V,) + 2 Л L BFit r{) {=1 {=1 i=A+l удовлетворяет условиям 5Г = 8R - 2 ^ е ?»„_! (Rn), sptrc{X: dist(x, spt/?)<6/2}, М(Г)<3(Гт- Применяя 4.2.9 с таким числом е, что получим потоки i3, (?e^m(Rn) и 5eIm+1(Rn) такие, что г=1 N E)<МE) + М@ + ЩР) + М(Г)< 4.2.20. Теорема аппроксимации. Каков бы ни был поток fs eIm(Rn) w число е >0, существуют поток /)s^'m(Rn), Зля которого spt-P<={z: dist (x, sptT)^e}, ц диффеоморфизм / класса 1, отображающий R" на Rn, такие, что П{Р-иТ)<г, Lip(/)<l + e, Lip (/-')< 1 + е, 1/(ж) — х|^е Зля jeR", /(ж) = х, если dist (ж, sptT)>e. Доказательство. В случае пг = 0 возьмем Р = Ги/= lRn.
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 443 В случае т > О выберем положительное число S, для которого A + б)т6 4-б^е, откуда A + бJ < 1 + е, 26 < е, и дважды применим 4.2.19, сначала при Rt = дТ, чтобы найти по- поток St'eIm(Rn) и диффеоморфизм gi такие, что д (g1+r - 50 = g^dT - dS, <= ?»„! (Rn), а затем при Rz = gi^T — 5t, чтобы найти поток 52GIm+i(R") и диф- диффеоморфизм gi такие, что Полагая / = g? ¦> g,, придем к выводу, что 4.2.21. Следствие. Если Ге1„.(Кп), р>0, К—компактное мно- множество в пространстве R", w spt T с: Int ЛГ, го существует поток /)s^»m(R»), Зля которого ?~К(Р-Т)^р, N(/))<NGT) +р. Доказательство. Предполагая, что {х: dist (x, spt T)^e) <=K и обозначая через Л аффинную гомотопию, связывающую lRn и /, найдем, что 0, 1]ХдТ), 4.2.22. Теорема. ?c^w rs^m(R") и К—компактное множест- множество в пространстве Rn, для которого spt Г с: Int if, то Ге<?"т K(Rn) и для любого е > 0 существует поток P<=&>m(Rn) такой, что ^к(Р-Т)<г, М(Р)s?M(Г) + е. Доказательство. Пусть и (х) = dist (x, spt Т) для х е Rn, число 6>0 таково, что {х: м(х)^2б)с:^, а^&а(&п) — такая функция, что spt а П spt Т = 0, а (х) = 1, если и (х) > S, потоки R<=Mm(Rn), 5e52m+1(Rn) таковы, что T = R + dS. Тогда dEL a) = E5)L a - 5 L. da = -R L- a - 5L da, следовательно, поток 5 L. a нормален. Применяя 4.2.1, выберем чис- число г так, чтобы 6<г<26 и M<5L.a, в, Н-Х», обозначим ради краткости W = {х: и(х)> г} и получим, что (S L a) L W = 5 L W s 5гт+1 (R-),
444 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ <Sl~a, и, r+><=52m(Rn) согласно 4.2.16C), и, r+> a, и, причем (R"W)Ua-'{r} = {i: и (х) < г) <= IntК. Если М(Г)<оо, то Т&Яп.кСЛ") согласно 4.2.16C), и посколь- поскольку множество Im, k(R") является М-плотным в 52m, x(Rn), второе заключение следует из 4.2.21. В случае М(Г) = оо второе заключение следует из 4.2.9. 4.2.23. Лемма. Если CcV с: Rn, С компактно, V открыто, XePm(R») и sptX<=C, то inHM(X-dY)+M(Y): УеРш+1(В-), spt7cF} не превосходит ?С(Х). Доказательство. Обозначая через G(X) вышеуказанную точную нижнюю грань, получим сначала предварительную оценку G (X) < fFc (X) при у = Arfm+i. Для этого выберем поток JVeNm+1,c(R") так, чтобы ?С{Х) = М(Х- dN) + M(N), заметим, что д (X — ON) = дХ<= Pm_, (Rn) или m = 0, применим 4.2.9 при Т = X — diV и малом е, чтобы представить X — ON в виде Х-дЛ^Д. + uS,, где i?1ePm(R"), 5,eNm+1(R"), spt Л, U spt 5, с V, заметим, что 5(iV + 5i) = X —Л, ^Pm(R"), и, применяя 4.2.9 при Т = N + Su представим N + 54 в виде где /?2ePm+1(R"), 52eNm+2(Rn), spt/?2Uspt52«=F, Таким образом, получаем: X = Rt + d(N + St) = /?i + дД2 и откуда следует предварительная оценка. Далее предположим, что р > 0, выберем поток N, как и выше, подберем компактное множество К <=¦ V, для которого С cr Int К, и,
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 445 дважды применяя 4.1.23, получим потоки P,€=Pm(R»), />2GPm+l(Rn), ДЛЯ КОТОРЫХ Spt Pt U Spt P, <= К, Заметим, что Х-Р1-дРг<^ Pm(R") и FK (X - Л - дРг) < FK (X - ON - Pt) + FK (N - Рг) < 2p, и, применяя предварительную оценку с заменой С, X на К, X — Pi — дРг, придем к выводу, что 4.2.24. Теорема. Если rsNm(R"), р>0, К—компактное мно~ жество в пространстве R" и spt T <= Int К, то существует поток PePn(Rn), для которого FK(P-T)<p, N(P)^NB7) + p. Доказательство. Предполагая, что m > 0, выберем компактное множество С cr Int К, для которого spt Т <= Int С, дважды применяя 4.1.23, получим потоки /IePm(R"), P^P^R»), для которых spt P, U spt Рг <= С, FcGT-P1)<p/4, Fc(ar-P2)<p/4, М(Р1)<М(Г) + р/4, М(Р2)<М(дГ)+р/4, и заметим, что Р2 — dPt ePm_t(R") и Применяя 4.2.23, выделим поток 7ePm(R"), для которого spt У clntX М (Р2 - dPt - 9У) + М (У) < р/2, положим Р = Pi + Y и сделаем вывод, что 4.2.25. Поток reIm(Rn) называется неразложимым, еслм не су- существует потока R<=lm(Rn), для которого -R и Можно показать, что для каждого потока rsIm(Rn) существует такая последовательность неразложимых потоков r.-el^R"), что Г= 2г{ и Ключом к доказательству служит следующее замечание.
446 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Если R e Im K (R"), множество К выпукло и N (R) < 1, то где с = 9 •Bи2т+2L. Чтобы проверить это неравенство в случае тп > 1, выберем, дважды применяя 4.2.10, потоки X с= Im, K(R»), для которого 9Х = 9Л, М(X)«? ч«М(дЩа, ysIm+liJt(R"), для которого дУ = Д-Х, M(Y)^fM(fl-X)p, гдеч = 2я2т+2, a = m/(m- 1)> р =(т+ 1)//»> 1, и оценим В случае иг = 1 из нашего условия следует, что dR = 0. Возьмем Х = 6 и получим оценку ^"К(Л)^М(У)</^(Л)р. Из приведенно- приведенного замечания вытекает следствие. Если T^lm, k(R"), множество К выпукло и g~K(T)> сЩГ)г|/т, го we существует последовательности потоков Rte= Im K(Rn), З которой S (JN(fl,), N(i?i)<e Зля всех г. 1=1 1=1 По этой причине очевидная процедура разложения потока Т при- приводит к результату, сформулированному в начале пункта. Сравнительно простой оказывается структура одномерных це- целочисленных потоков. Для каждого неразложимого потока Т е I^R") существует функция /: R-* R" такая, что Lip(/)< 1, /+[0, М(Г)] = Т, отображение f\{t: 0«?? <М(Г)} однолистно; кроме того, дТ — 0 тогда и только тогда, когда /@) =/[М(Г)]. (Та- (Такой поток Т называется ориентированной простой кривой конечной длины и называется замкнутой кривой, если дТ = О.) Приведенное утверждение можно проверить в частном случае, когда Ts^^R") с помощью простого комбинаторного рассуждения, распространяе- распространяемого на общий случай с помощью 4.2.19, 2.10.21 и предыдуще- предыдущего абзаца. Мы знаем из 4.1.31 и 4.2.16, что если В — связное тп-мерное подмногообразие класса 1 в Rn, % — это m-векторное поле, ориен- ориентирующее В, и поток {Ж* L_ В) л ? нормален, то этот поток цело- числен и неразложим. В случае 1<пг<п существует неразложимый m-мерный цело- целочисленный поток в R", носитель которого не является счетно (Шт, тп)-спрямляемым. Например, для заданного вполне несвязно- несвязного (см. [HW, с. 22 и 48]) непустого компактного множества А из
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 447 пространства R3 укажем конструкцию неразложимого потока Т е= I2 (R3), для которого дТ = 0 и А <= spt Т. Сначала по индукции выберем такие конечные открытые по- покрытия Gj множества А, что Gi состоит из единственного открытого куба Е, и следующие условия выполняются для / > 1. Если U e Gj, то U является объединением конечного семейства кубов, U П А Ф 0, diam U < 2~j и Clos U <= V для некоторого V <= G,--i. Если Fe=G,--,, то F={GlosC/: [/eGj, Clos С/с У} состоит из непересекающихся множеств и множество V\UF связно. Далее выберем функции ф, if>^(S'l)(R) так, что 0 при t<:l, ф'@>0при *>1, фB)=1, 1 при t^l, if@ = 0 при f>4, \J)'(<)<0 при 1<*<4, рассмотрим множества Ф = К3П{х: К3П{х: а:3 = 0, и заметим, что A U Г с Bdry Ч*", Гc:BdгyФ и ЕШгуФ гомеоморфно сфере S2. Обозначим через F множество всех диффеоморфизмов класса °°, отображающих какую-нибудь окрестность множества Clos W в R3 на открытое множество в пространстве R3, сужения которых на каждый из кругов А и Г являются аффинными. Допуская, что Clos Ф П Clos E = 0, построим диффеоморфизм fs^F так, чтобы /B(ClosA)crr, /B(r) /¦[Clos V\Clos(A U Г)] cr Н3\С1о8(Ф U Е), а для U e Gj при ; > 1 и Clos U с: V е Gj_, по индукции построим диффеоморфизм fv s F, для которого A,(ClosA)e=/v(D, fa(T)cBdiyU, U [Clos VXClos(A U Г)] с FXClos U Gh Шг [fv (Bdry W)}< 2-Vcard G}. Потребуем также, чтобы fи (Clos x?)r\fw(C\os 4r)= 0 для любых двух разных элементов Z7 и W покрытия Gj. (/^-образ вертикальной оси множества *? является дугой, соединяющей /у(Г) с Bdry U в множестве FXClos U Gj, a fvi^) получается утолщением этой
448 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ дуги.) Полагая й;=Фи U {/иOFUA): tf<=G4}, ^ = <? (Е3 L Й,) и вспоминая 4.1.25, можно вывести, что spt7TJ = BdryQj диффеомор- фен сфере S2 и при 7 > 1. Последовательность спрямляемых потоков Т} имеет М-предел Т = д (Е3 L Q), где Q = U Qj, и можно получить, что Л с Bdry Q = spt Т, множество X = (spt T) \А является связным двумерным подмногообразием класса °° в R3, Т = (^2 L X) л ? для некоторого 2-векторного поля |, ориентирующего X, и spt Г гомеоморфен, но не диффеоморфен сфере S2. (Рассмотрение анало- аналогичной полиэдральной конструкции можно найти в [N2, § 1].) Выбирая множество А, в частности, так, что 2>3(А)> 0, можно не только вывести, что ^"(sptГ)>0, но и рассмотреть поток 5 = Е3 L- А «г $?3 (R3) такой, что spt S<=A, а его граница 55 является ненулевым двумерным плоским циклом, носитель которого содержится в подмножестве А топологической 2-сферы spt Г, но не совпадает с ней. Это показывает существен- существенность сделанного в 4.1.31 предположения о том, что многообразие В класса 1. Поучительный пример получается, если выбрать А вполне 1, 2)-неспрямляемым и таким, что 0<<Й$2(А)<°°. Чрезвычайно трудно определить структуру произвольного пг-мер- ного неразложимого целочисленного потока в R" при 1<пг<п. Применяя 4.5.9A3), можно показать, что неприводимые элементы пространства In(R") являются потоками Ел|-Л, соответствующими определенным i?"-измеримым множествам А. 4.2.26. На основании результатов, уже полученных в этом пара- параграфе, можно прийти к выводу, что плоские цепи и целочисленные плоские цепи подходящим образом обобщают элементарные поня- понятия полиэдральных цепей с вещественными и с целочисленными коэффициентами. Если коэффициенты принадлежат циклической группе Z/vZ порядка v, то аналогичная цель достигается с помощью плоских цепей по модулю v, которые будут рассмотрены в этом пункте. Для любого неотрицательного целого v, любого открытого мно- множества U из пространства R", любого компактного подмножества
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 449 К. множества U и любого потока Ге^"иК([/) обозначим через точную нижнюю грань множества чисел M(i?) + M(iS), соответству- соответствующих всем потокам Де^ k(U), S^&m+iiK(U) и Q<=&~m,k{U), для которых Поскольку Im, K(U) является ^"к-плотным в #"m, k(U), можно потребовать, чтобы (?<=Im, k(U). В случае, когда Т<=Im,K(U), из такого выбора потока Q следует, что Де1м,кф) и S<=im+i,k(U). Замечая, что ЗГк (Tt + Тш) < V\ (Гх) + ЗГЧК (Г2) для Tv Ta e П, зададим ^"к-псевдорасстояние между 2\ и Т» как^"кB—Ts). За* метим, что является аддитивной подгруппой группы ?Гт,к(и) и совпадает с ^"к-замыканием множества v^"m, k(U). Неизвестно, всегда ли мно- множество \9^т,к{и) будет &~к-замкнутым. Вышеприведенная псевдо- псевдометрика индуцирует метрику, также обозначаемую ^"к» на фактор- факторгруппе ^т,к = ЗГт>к (U)/[<rm.K(U)П [Т: &"K(T) = 0}]. Рассуждая так же, как в 4.1.24, найдем, что множество #"го,к (U) является нк) (UT) < sup (Lip (/1 K)m, Lip (/1 K)m+1] 3Tl{T) для каждого локально липшицевского отображения / множества U в открытое множество V из другого евклидова пространства, и ^к (дТ) < Т\ (Г) в случае m > 0. Поэтому /+ и д индуцируют непрерывные гомоморфизмы /+: n*(U)-*-ffZJlS)(V), и в случае тп>0 Применяя метод 4.2.1 в сочетании с 4.2.16 и 4.1.28, легко про- проверить, ЧТО ь 1* &%<т) [Т[_{х: и {х) < г}] dSxr < [Ь - а + Lip (и)] &\ (Т) а 29 г. Федерер
«450 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ 'всякий раз, когда Т^\т,k(U), функция и: ?7->-R липшицевская, —оо<а<Ь<оо и С (г) — такое компактное подмножество множе- множества U, что К nix: u(z) </•}<= Int С (г) для а<г<Ъ. В частности, предполагая, что G, Я, К — компактные подмножества множества U, получим неравенство ЗГн (Т)< [1 + 1/dist (U\H, G)] STVK (Г) •для любого потока Т е #"т_ к (U) такого, что spt T с G с: Int Я. Для доказательства этого неравенства заметим, что множество Im, k(U) является ^"к-плотным в &~m k(U) и возьмем u(x)=dist(ar, G) для j/, С (г) = Я при a = 0<r<dist(?7Yff, G)=6. Будем говорить, что две целочисленные плоские цепи 2\, Тг е ^"m(f/) конгруэнтны по модулю v, в писать Jt = rjmodv, если i — Г2)=05ля некоторого компактного подмножества К мно- множества U. Получающиеся классы конгруэнтности называются тп- мериыми плоскими цепями по модулю -v. Они являются классами эквивалентности в фактор-группе <Гт {V) = ЗГп {U)l\3Tm (U) П {Т: Т = 0 mod v}], Для любого Ге^"я((/) положим sptv(Г) = П {sptR: R&9~m(U), R^Tmodv} ти докажем, что для любой окрестности V множества sptv(r) в U лоток Т конгруэнтен по модулю v некоторой целочисленной плос- плоской цепи с носителем, содержащимся в V. Для этого покажем, что если Г is Д mod v и V — какая-нибудь окрестность множества spt Г Л П spt R в U, то Т S3 5 mod v для некоторого потока S такого, что spt 5 <= V. Положим Ae = ix: dist(ar, spt#)<e>, #e = {x: dist(x, sptr)s?e} ' для 8 > 0, выберем компактное подмножество К множества U, для которого spt Д U spt Г d Int Я, &~k(R — Т) = 0, и. выберем такое число |, что 0 < | < 1, Агъ с Int К, Н — A3i П B3\ <= <=¦ V. Если | > б > 0, то, применяя 4.2.22, получим потоки i?e, Тйе1т K(U) такие, что spt.ffec^e, sptTec:Z?<i, б3 > &-к (Rb -R) + ^k (Те - T) > (Rb - Т6) > 2 j* yj [(R6 - Га) L Л] где последнее неравенство следует из .предыдущего абзаца при
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 45t u(x) = dist(z, spti?) для x<=U. Затем выберем такое число г, что 6<г<26 и &~vK(Rb — 5e)<262 для S6 = Гв L Л, а значит, ^"к (Г — S&) <3б2и spt Se с: G = Аг% П Z?2E. Применяя второе1 неравенство предыдущего абзаца, получаем, что ^"н (S6 - SB) < A + Г1) ^"к (^в - 5.) < A + Г1) 3 (б2 + + е2)< 126» если |>6>б>0, потому что dist(G, U\H)^%, и приходим к за- заключению, что существует такой поток 5 е yffl|H (P)i что Нт^*яEв — S) = О, следовательно, &"кин(Т — S) = 0, T = Smodv. Неизвестно, всегда ли существует поток S, для которого S^Tmodv и sptiS = sptv(r). Каждому компактному подмножеству К множества U соответ- соответствует коммутативная диаграмма аддитивных гомоморфизмов: В случае, когда К — лшшшцевский окрестностныи ретракт, отобра- отображение, представленное нижней горизонтальной стрелкой, является мономорфизмом. Неизвестно, верно ли это для любого К. Для лю- любого потока T<=&~mK(U) обозначим через и классы эквивалентности, содержащие Т. Положим Для m > 0 оператор д индуцирует гомоморфизм из @~m {U) в ^), который мы обозначим тем же символом д, и положим а также lve(U) == 5Zo(f7). Аналогично построим группы &т,к(и) и ^т,к (U). Далее обозначим Важно понимать, что обычно 29*
452 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Например, если S — это сумма бесконечного ряда непересекающих- непересекающихся вещественно проективных плоскостей в компактном множестве из пространства R" таких, что сумма их площадей конечна, а сум- сумма длин ограничивающих проективных кривых бесконечна, то (<SJ е 1| (Re), но никакой элемент из I2(R") не конгруэнтен S по модулю 2. Конкретнее, вспомним 3.2.28D) и положим где /?,sI2(R*) является ориентированной полусферой с центром О 1/г ) и радиусом /~1/г, а /: R3 -* Q2R3 с* R«, f(x) = х*/2 для х е R3. Для любого Ге^"т([/) обозначим через наименьшее число feRt такое, что для любого е > 0 существует компактное подмножество К множества U и спрямляемый поток R^Sln K(U), для которого Заметим, что если б > 0 и #•= {х: dist(ar, spt2")< 26) с= U, то -я [Г - Л L {*: diet («f spt T) <r}] dS'V< A + в)»; 2 J кроме того, Im, b(U) является М-плотным в С»(У). Отсюда сле- следует, что для любого компактного подмножества К множества U такого, что spt T с Int К, существует последовательность потоков fiI), для которых i=0 lim^i {Щ - Т) = 0, Ясно, что ВГB11 + Г,)<М»(Г1)+М*(Г1) для ВТ (Г,)-ВТ (Г,), если ^^^modv, 1^). если spt Т с Int X, я функция Mv полунепрерывна снизу на ?Гт< K(U) относительно &~\' Докажем теперь, что если MV(T)< °o, то для любой аппрокси- аппроксимирующей последовательности потоков R{, рассмотренной выше, соответствующая последовательность, интегралов Даниеля 1Ш411 на
S 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ - 453 y?(U) слабо сходится (см. 2.5.19) к интегралу Даниеля ИГ11\ . ¦ ¦ ¦ который удовлетворяет равенствам и зависит только от класса конгруэнтности по модулю v, содержа- содержащего Т (но не зависит от выбора аппроксимирующих последова- последовательностей). Поскольку \\Ri\\(U)->-Mv(r)<°°, достаточно показать, что для каждой липшицевской вещественнозначной функции и на U последовательность чисел \\Rt\\ (U) сходится. Выбирая такое ком- компактное подмножество С множества U, что К <= Int С, обозначая ради краткости и взяв — 0° <а< inf u(K)< supи(К)< Ъ < °°, видим, складывая не^ равенства ь J* ^"c K#i-i — -Я») L Er] d^r^. [Ъ — а + Lip (и)] ЗГк (Л{-+1—Д{), а что 5"-почти все вещественные числа принадлежат множеству Г = (г: 2 9~1 l(Ri+t - Ид L Er) < oo]. Для каждого г^Г выберем поток Sr e &"m,c {U)< Для которого lim ^"c (Sr — R\ L i?r) = 0. Полагая gi(r)=M(RiL-Er)=:M(Ri)—M(Ri—Ril-Er) для reR, найдем, что для геГ lim inf ft (г) > Mv Er) > Mv (Г) - Mv (Г — 5r) > > Mv (T) — lim inf M (Rt — i?{ L ^r) = Hm sup ft (r), i-* oo i-> oo следовательно, ^(r)-^-MvE,) при *-»¦«>. Затем применим 2.4.18, 2.6.7 при a = 2"L{r: r^=a> и {1 = и+Ш411, а также 2.4.9 и придем к выводу, что ь ь '(Г)-JMvEr)d2>1r при
454 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Заметим, что если Г,е=#~т([7) и Му(Г,)<оо ДЛя / = 1, 2, то 03Г1 + Г1И'<112'111т + УГ111т. Предполагая, что А <= U, r«=<Fm(Z7) и MV(T)<°°, будем гово- говорить, что множество А расщепляет Г по модулю v, если существует поток Ze^"n({7), для которого MV(X)<«> u IIГП* = W\v + IIГ - Х\\\ HXIIV (U\A) = 0 = IIТ - Zllv (А). Заметим, что если этим условиям удовлетворяют два потока X и X', то \\X-X'P(U\A) < [Ш\* + \\X'WV](U\A) = О, поэтому M.V(X — X') = 0. Таким образом, множество А и класс конгруэнтности по модулю v потока Т задают класс конгруэнтности по модулю v потока X, обозначаемый потому что X = ТL А в случае v = 0. Возвращаясь к конструкции, рассмотренной в предыдущем абзаце, заметим, что ^'-почти все вещественные числа принадлежат множеству Д = ГП{г: \\Т1Ы-Чг] = 0} и что из условия геД следует, что № = H5rllv + ИГ - SrW\ WSTWv(U\Er) == 0 = ИГ - SrWv(ET), потому что меры \\RtL-Ет\1 и Ш,Н - \\RtL- ЕЛ = ИД,• -RtLEji слабо сходятся к H5rllv и ИГ —5rllv. Таким образом, (Sry для re Д. Кроме того, Et расщепляет Г для каждого вещественного числа t, так как если г, s е Д и г > s > t, то Mv {Sr - S,)< liminf M [Д{ L (Er {->oo = lim [gi (r) - gi (.)] = Mv (Sr) - Mv (S.) = Правая часть мала для г, близких к f, а значит, существует такой поток Xе= ^"То| C{U), что lim »Г(Х—5г) = 0 Д=г-><+ и X удовлетворяет условиям расщепления для А == Et. Делаем вы- . вод, что каждое замкнутое в U его подмножество А расщепляет Т \
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 455 по модулю v, взяв u(x) = iist(x, А) для ig[/ и * = 0. Далее легко проверить, что класс {A: A czU, А расщепляет любой поток Т е &"m(U). для которого МУ(Г)<°°> является борелевским семейством относительно U. Например, если А и В принадлежат этому классу, можно выбрать X так же, как и выше, выбрать Y<=&~m{U), для которого MvG)< °°, и \\Т _ ХР = II7IIV + ИГ - Х- YW\ Отсюда получаем, что Х + Уе^т({/), MV(X+ У)< оо и llrllv = IIXIIV + lirilv +WT-X- Y\\w > \\X + Yllv + WT-X- Yt > \\TW\ WX+ YP[U\(A U В)] < W\V(V\A)+ Il7llv(f/\S) = 0, Отсюда следует, что любое борелевское подмножество множества U расщепляет каждый поток Ге=?Гт(?7), для которого MvB")<«>. Для любого потока Т ^3Tm{JJ) положим Nv(r) = Mv(r)+Mv(ar), если т>0, №(Г) = МУ(Г), если /ге = 0. .Поскольку функции Mv и Nv постоянны на каждом классе конгру- конгруэнтности по модулю v, они индуцируют функции на &~m (U), кото- которые будем обозначать теми же символами. Если NvB")<«>, sptTc с Int К и m > 0, то можно аппроксимировать Т потоками Ru как и в двух предыдущих абзацах, и аналогично аппроксимировать дТ потоками Qt ^ lm-i, к (U), для которых Выводя отсюда, что &~к (Qi — дЩ) ->¦ 0 при t-^o°, можно также по- потребовать после перехода к подпоследовательностям, чтобы г=1 Взяв и, Ет, С такими же, как выше, находим, что для 2"-почти всех г - dRi) L Er]-> 0 при i-> оо
456 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ и класс <(Т)\ и, г+>=д[(Ту^-Ег]-(дТу^Ег совпадает с классом конгруэнтности по модулю v ^"с-предела потоков d{Rtl-Er)-Qii-Er-=att, и, r+>+(dR(-Q{)i-Er, поэтому существует поток Zr<=&~m,c(U), для которого (Zr)v = < (Г)\ и, г + > и lim Fl (Zr - <Д«, и,, г + » - 0. i-»oo Делаем вывод, что, каковы бы ни были —оо < а < b < <», ь |*М^(ТУ,ц, г+>^1г<Ыр(«)||ГГ{х: а<х<Ъ). а Далее будем считать, что v — натуральное число. Поток T<^&m(U) называется представительным по модулю v, если \Ш(А)^(\/2)Жп(А) для любого множества А = U. Согласно 4.1.28 это эквивалентно условию - втA!ГИ, z)«?v/2 для 5^-почти йсех х из U. Поскольку всякое целое число конгруэнтно по модулю v некоторо- некоторому целому числу с абсолютной величиной, не превосходящей v/2, любой спрямляемый поток представим в виде суммы T-bvQ, где Т, Q — спрямляемые потоки и Т представителен по модулю v. Покажем теперь, что Mv(r) = M(r), откуда Il7ilv = !mi для любого потока !Te^m(R"), предствительного по модулю у. Сна- Сначала рассмотрим случай тп = п. Для каждого е > 0 выберем потоки fl,<?e=52m(Rn) так, что R-vQ)^z и и представим их в виде Г = Ет1-^ Д = Ет|-г, Q-=Em^-q, где t, r, q — целозначные 2""-суммируемые функции, причем U(z)|sg ^v/2 для jeR", потому что поток Т представителен по модулю v. Отсюда выводим, что М (Г) = J \t | dSn< j 11 - vq | Вспоминая 4.1.15, заметим теперь, что доказываемое утверждение выполняется в случае, когда sptT может быть покрыт конечным семейством m-мерных аффинных подпространств пространства R". Наконец, рассмотрим общий случай, применяя 4.2.20. Для любого е>0 существуют поток X<^&m(Rn), представительный по модулю v, и диффеоморфизм /, отображающий Rn на R", такие, что Х)^в, lip (/)«?! +в,
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 457 я множество /(sptX) может быть покрыто конечным семейством m-мерных аффинных подпространств пространства R". Поскольку поток /+Х представителен по модулю v, что видно из доказатель- доказательства п. 4.1.28 или из 4.1.30, получаем, что < A + eJmMv(X) «г A + вI-рГ(Г) + е]. Из этих фактов следует, что Заметим, что как только Se=#m(Rn) и Ifcfc 6т(Ш, х)> 1). Чтобы доказать это неравенство, представим <S в виде S = T + vQ, где Г, ()— спрям- спрямляемые потоки и 1Ш*==11Г11Т положим A = Wu{x: вГ(т, х) = 0, вт(«<?11, *) —целое} и В = W\A. Применяя 4.1.28, находим, что в"(Ш, а:) = гвтA!<?11, ar)>v для х^Л, v3tt"(A)*Z 11511D), в"(ИГ11, а:) ^= 1 для 5^-почти всех аг из В, 3@т(В)<\\П(В). Теперь, когда мы установили основные понятия теории плоских цепей по модулю v > 0, можно применить к этим цепям те же геометрические конструкции, что и для целочисленных плоских це- цепей (в случае v = 0) в 4.2.2—4.2.22 и 4.2.25. Целочисленный слу- случай был специально изложен так, чтобы облегчить такое обобще- обобщение, поэтому оставим проверку деталей читателю, и только соберем главные результаты в их модифицированной форме (выраженные в терминах классов конгруэнтности по модулю v): D.2.9)v Если Тs &~vm(Rn) , Nvm<oo u e >0, то существуют такие цепи />е=^Ц1Г), ^s^(RB), Se^«+1(Rn), что выпол- выполняются условия A) —E) с заменой М, spt на Mv, sptv, а также справедливы следующие утверждения: FГ Если reC(Rn), mo 0etf (IT) и ^e^() 17)' Если дТ е Я^.1 (Rn), moQet^ (Rn) . (8У Если дГе^_1(Вв), mo Qzz&HR"). (9)v ?СЛМ Ге^КГ), то 5e^+1(RB). D.2.10)v ?:слц reIvm(Rn) и 5Г = 0, то существует цепь S s C+1 (Rn),. 5ля которой dS = Г и MvE)m/(m+1) < ^МУ(Г). D.2.14)v Если rs^,(Rn)i m>0, М*(Г)<оо м JcR» TO из •Э'Г (?) = 0 следует, что 1ГИ'(Е)'-0.
458 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ D.2.16)v Если К —компактный липшицевский окрестностный ретракт в R" и m — неотрицательное целое, то ") П {S- М* (&S) < 00} = li+ljK (Rn), ,к (Rn) П {T: Mv (Г) < 00} = 3C,K (Rn). D.2.17)v Если К — компактный липшицевский окрестностный ретракт в Rn, пг — неотрицательное целое и 0 =? с < °°, го множе- множество 1т,к(R")П{^: ?Г(Г)<с} является &~*к-компактным. D.2.20)v Можно заменить Im, &>m, spt, N в 4.2.20 на C^m» spt\ Nv. Заметим, что из D.2.16)v следует, что ^m (R") Л {Т: РГ (Г) < оо} = Й, (R"), однако это равенство является весьма нетривиальным результатом, и оно не могло быть доказано на раннем этапе развиваемой здесь теории. Из D.2.16)v и нашего рассмотрения представительных потоков вытекает, что для любого r«=#"m(Rn), для которого МУ(Г)<°°, существует такой поток i?e52m(R"), что T^Rmodv и R предста- представителен по модулю v, а значит, llrllv = \\R\\ ^^/2K$™. Однако не- неизвестно, существуют ли потоки 2"e^"m(Rn), для которых М*(Т) = 3^[(r)] 0 [()] Если v нечетно, то разные представительные спрямляемые по- потоки не могут быть конгруэнтны по модулю v, поэтому утвержде- утверждение 4.1.31B) может быть обобщено на плоские цепи по модулю v. Если v четно, то пример листа Мёбиуса показывает невозможность такого обобщения. 4.2.27. Теперь приведем локальный вариант утверждения 4.2.16C), доказав следующее предложение. Если Xe-#"m(Rn), aeR", и существует поток Y^2>m(Rn), для которого М(У)<оо и a<?spt(X — Y), то существует поток Z<= е 9lm (R-), для которого а Ф- spt (X - Z). Выбирая б>0 и tts25'(R») так, что В(а, 6)с:{х: а(«)-1) и XLa = yLa> и представляя X в виде X = R + dS, где R^Mm(Rn), S€z&L+i( найдем, что поток <9(SL- a) = (^5)t-a-5L-da = TLa-RLa- L- da имеет конечную массу, а значит, <SLa«=Nm+1(Rn). Применяя 4.2.1 при и(х)=\х~а\ для ieR*, получим такое число г, что 0<г<6 и М<51-а, и, г+>< оо,
§ 4.2. ДЕФОРМАЦИИ И КОМПАКТНОСТЬ 459 заметим, что (S L. a) L в (a, r) = S^-B(a, r) e 52m+1 (R") и поток )]LB(a, r) имеет конечную массу, находим из 4.2.16C), что 5L-B(a, r)e eIm+1(R"), и делаем вывод, что Z = R + d[S^-B{a, r)]e#m(Rn), причем spt(X-Z)<=Rn\U(a, r). Комбинируя это предложение с 4.1.28, теперь можно дополнить 4.1.31B) следующим утверждением: г является целым в том слу- случае, когда Г е= Т^ (U). 4.2.28. Предполагая, что W — открытое множество в простран- пространстве R", поток Т назовем /re-мерной аналитической цепью в W, если Ге=#-?°(И0 и (см. 3.4.5, 3.4.8) dim var [ideal уа (spt T) ] < m для а е spt T, dim var [ideal fa (spt дТ) ] < m — 1 для a s spt dT. В случае тп>0 отсюда следует, что дТ является (тп — 1)-мерной аналитической цепью в W. Совокупность m-мерных аналитических цепей в W образует под- подгруппу группы &"l?°(W), потому что dim(aUp) = sup{dima, dimp} для a, ^^(R"). Далее рассмотрим тп-мерные аналитические блоки В любого от- открытого подмножества U множества W. Выбирая функции /m+i, ... • • ч /n, g согласно определению п. 3.4.5 и полагая I = Dn"m (Dfm+1 Л ... Л DU), С - Ш I, найдем, что %\В является m-векторным полем, ориентирующим В. Поскольку 2t§m+i(B) = 0 и В открыто в var(?7, {/m+i, •••, fJ), для каждой точки ее UftClosB из 3.4.8A6) следует, что dimv^m, где v = var ideal Ua(B)], а из 3.4.8A3), что Жт{В П (?)< °° для некоторой окрестности Q точки а. Кроме того, из 3.4.8A4) и 3.4.8A5) следует, что dim(i> П м>)«? т— 1, где w = ^Лх: ^(х) = 0), потому что Ча(В) П w — fa{^), следовательно, v П w не содержит не- неприводимых компонент множества v. Применяя4.1.31A),приходим к выводу, что если Clos В — компактное подмножество множества U, то два потока являются m-мерными аналитическими цепями в W. Потоки, по- построенные таким способом, будем называть m-мерными ориентиро- ориентированными аналитическими блоками с компактными носителями в W.
460 гл- 4- ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ С помощью 3.4.8A1) находим, что если R — ориентированный аналитический блок с компактным носителем в W, a h — вещест- веннозначная аналитическая функция на W, то R^-ix: h(x)>0) является суммой конечного числа ориентированных аналитических блоков. Теперь легко проверить следующее основное утверждение. Каждая т-мерная аналитическая цепь Т в W локально пред- сгавима в виде конечной суммы ориентированных аналитических блоков с компактными носителями в W, а значит, Т — это локально спрямляемый поток; аналогично, дТ — это (т — 1)-мерный локально спрямляемый поток, если т > 0. Группа всех т-мерных аналити- аналитических цепей с компактными носителями в W порождена тп-мерны- ми ориентированными аналитическими блоками с компактными но- носителями в W и состоит из целочисленных потоков. Действительно, если 0<=sptr, можно применить 3.4.8A1) при а = var [ideal f0 (spt Г)]ир = var [ideal f о (spt dT) ], выбирая Vo = Vy = ... = V» = U@, r), как объяснено в 3.4.9, и вос- воспользоваться индукцией вниз, чтобы построить /га-мерные потоки Tt для i = ц, ..., 1 такие, что U@, г)П spt [Г-(Г„ + ... + Т,)] c(Sw U ... U ?„)', и либо dim Si = m и Г< является целочисленной линейной комби- комбинацией ориентированных компонент множества St в соответствии с 4.1.31B) и 4.2.27, либо dim St<m и Г< = 0 в соответствии с 4.1.21. Поскольку dim jl < m, можно допустить, что dim So<m, и сделать вывод, что ¦ ' U@, r)nspt[r-(rii + ... + ri)] = 0^ Кроме того," Т\ L U @, s) является целочисленной линейной комби- комбинацией конечного числа аналитических блоков с компактными но- носителями в W, каково бы ни было 0 < s < г. 4.2.29. Здесь мы предположим, что W — открытое множество в пространстве С", и модифицируем 4.2.28 в соответствии с 3.4.12. Будем говорить, что Т является комплексной иг-мерной голо- голоморфной цепью множества W в U, если U является открытым под- подмножеством множества W и dimc var [ ideal0 ya (spt T)] < m для a e U П spt 7\ Назовем поток Т положительным в U, если для НГН-почти всех х из U простой 2пг-вектор Т(х) является комплексным и положи- положительным (см. 1.6.6). Если Г, и Ti — комплексные m-мерные голоморфные цепи мно- множества W в U, то таковы же и 7\ + Т2, Ti — T^', в случае, когда .7\ и Тг положительны в U, такова же и цепь 7\ + Тг.
§ 4.3. РАССЛАИВАНИИ . 461 Наиболее важные примеры голоморфных цепей строятся сле- следующим образом. Если S<=A<=W, А открыто, S голоморфно в A, m = dime S и R — регулярная часть множества S, то R ориентируется един- единственным векторным полем ? таким, что для каждой точки геД простой 2тп-вектор ?(z) является комплексным и положительным. Если, кроме того, U <= A, U открыто, W П Clos U <= А и В является объединением некоторого семейства компонент мно- множества UЛ Д, то поток Q = (Ж2П L В) л ? является положительной комплексной m-мерной голоморфной цепью множества W в U. Это вытекает из 4.1.31A) и 4.1.20, потому что Жт~1 (U П spt dQ) < Жт~' (S\R) = 0. В случае В = U Л R, получающийся поток Q удовлетворяет равен- равенству И(?И =<3^2mL(f7n S). В случае, когда U0R является функци- функционально голоморфным подмногообразием множества U, а В — ком- компонентой множества U П R, а значит, В — голоморфным блоком мно- множества U, назовем соответствующий поток Q положительным голо- голоморфный блоком множества U. Применяя комплексный вариант п. 3.4.8, можно разложить лю- любую голоморфную цепь локально на слагаемые кратные голоморф- голоморфным блокам. Если Т — комплексная пг-мерная голоморфная цепь множества W в U, то U является объединением открытых мно- множеств V, для которых существуют целые rit ..., г, и положитель- положительные комплексные m-мерные голоморфные блоки Qt, ..., Q, множе- множества V такие, что П- F= 2о& и В случае, когда Т положителен в U, числа ги ..., г, положительны. § 4.3. Расслаивание 4.3.1. В этом параграфе допустим, что U — открытое под- подмножество некоторого евклидова пространства, f: U -> Rn — локаль- локально липшицевское отображение, К — компактное подмножество мно- множества U и T<=?mrK(U), где тп>п. Для 5""-почти всех у из R" построим (тп — п)-мерный поток (Т, /, у>, называемый следом по- потока Т в f~4y}, определив его как предел потоков Tl~f*q>, соответ-
462 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ ¦ствующих подходящим дифференциальным формам ф степени п на R", носители которых сходятся к у, а интегралы по R" равны 1. Сначала заметим, что если / класса °° и ф ^ 2t)n (Rn) t то для любой формы ¦фе^)'п-"(G). Однако правая часть вышеприве- вышеприведенного равенства остается осмысленной и для любого локально липшицевского отображения f и любой ограниченной бэровской формы ф степени п на R", потому что из 4.1.18 следует, что для некоторого ^"-суммируемого n-векторного поля ?* на R". Для таких общих f и ф определим поток У-^ф вышеприведенным ра- равенством. Таким образом, ТL /*ф является линейной функцией на <&m~n(U), задаваемой формулой [Т L /+ ф] (*) - (- l)n(m-n) J <?„,, ф> &2п, для любой формы -фе^)т-п(г7). Докажем, что 7'L/+ф является плоской цепью. Очевидно, что spt(r L. /+ф)<= /-1 (spt9) П spt Т. Если ш>пиоеду*-п-\((/)? то потому что /+ (Т L о) е ^5n+1 (R") = @); следовательн&г Если М(Г)<°°, то, рассматривая сначала случай, когда /нф класса °°( а потом используя аппроксимацию, с помощью 4.1.14 и 1.8.1 находим, что [Т L /*Ф](^)< Livу\К)«Щ [(ПфП • /) • ЦП], поэтому 7Ч-/+фе^)т_п(г7), М(Г^-/*ф)<«, и ЯГ L /*фИ < Lip(/|^)П11Г11 L. (НфИ о /). Для любого Т<=FmiK(U), вспоминая последний абзац п. 4.1.24, вы- выберем поток S^?m+itK{U), для которого М{Т- dS) + M(S) = FK{T)< «, и выведем, что fL /+ф = (Г- 35>^/+ф + (-1)п5E^- /*ф), а значит, FK (Г L- /*ф) < М [ (Т - 35) L у*^ + м E L Заметим также, что если g: ?7 -*- R" — другое локально липшицев- «кое отображение, h — аффинная гомотопия, связывающая /eg,
§ 4.3. РАССЛАИВАНИЕ \ 46$ \ функция о такая же, как в 4.1.14, и поток Т нормален, то для любой формы ¦фе^)т-п(?7)) так как S5n+1(Rn)={0>, а значит,. FK(rL g+ф- TL /*ф)^ 2тМ(ф)[11Г11 + m\\\{\g- /lo"-1). Из этих оценок делаем следующие выводы. — бэровские формы степени п на R", такие, что при j-*¦ то Зля любой точки y^f(K), »e/(JC) и/-1, 2,3, ...}<«, го Гк(Г|-У*(р/-?'|-У*ф)-*О лрм /-»-оо. ¦ Яслм Г, е Fm, к(?/) м FK(Г, - Т) -»- 0 герц / -*- ~, то Рк(ГЛ/*ф-Г1-/«=ф)->0 при ]¦-+<*>. Если reNm,K(C0, ™ rLf?eNn-,,K(C/). Если Г е Fm. к («7), то fL. /*ф г Fm_n, к (U). Если f)i U -*- R" — отображения класса <» такие, что sup {|/3(а:) — /(#I: жеЛГ} ->- 0 при j -> °°, sup {И?>/Дж) II: х е Я и / = 1, 2, 3, ...} < ее, то ТК(Т L /*ф — Г L /+<р)->0 прм 7->-оо. Обозначая через Yt, ..., Yn стандартные координатные функции" на R", запишем ради краткости Q = ВУг л ... л () и докажем теперь, что Зля 3?п-почти всех у из R" существует поток <Т, /, у> *= 2)m-n(U), задаваемый для любой формы $^2Dm-n{U\ формулой <2\ /, у> f = lim (Г L /+ [В (у, р) л П]/[о (п) рп]) (ф). Р-И)+ Для каждой формы а|з вышеприведенный предел равняется lim(-l)n("'-n) f <^,fi>^n/[«(«)p"] = Р-»0+ В(у,р) = (- i)n(m~n) <U (у)' гг л ... л г„> e R для ^"-почти всех у согласно 2.9.8. Выбирая S так же, как в пре- предыдущем абзаце, и полагая р, = /+(ИГ —3511 +II5II), находим с по- помощью 2.9.7, что J в" (ц, у) &2п < ji (Rn) = М (Г - dS) + М (S) = FK (Г)- Применяя 4.1.2, выберем счетное Fx-плотное множество С в про»
464 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ Т^бРИЯ ИНТЕГРИРОВАНИЯ / странстве S)m~n(U). Тогда/в ^"-почти всех точках у вышеприве- вышеприведенный предел существует для каждой формы tytsC и 6"(ц, у)< < °°. Для каждой такой точки у применим оценку FK (T L /+ [В {у, р) Д Qj/[o (n) р"]) < чтобы вывести, что рассматриваемый презол существует для каж- каждой формы •$ е= 0»-™ (JJ) и что Интегрированием получаем неравенство J* FK <7\ /, у> dSny < Lip (/1 Kf FK (T). Ясно, что для любого потока <Т, /, у> <= 2)m-n(U) верно, что spt<7\ /, y> cr f-Hy) П spt T, д<Т, /, у>=(-1)п<ЗГ, /, у> в случае m>n, O'L-p, /, у>=(-1)«ЧГ, /, y>Lp для pe2>*(tf)', где й^ Последнее равенство позволяет задать поток <Д, /, у> <= 0m_n (*7) для любого потока C для 2""-почти всех у, требуя, чтобы <R, /, y> L р = <Д L pf /f y> для всех р е^ 4.3.2. Теорема. 5 условиях п. 4.3.1 для любой ограниченной бэ- .ровской функции Ф на R" выполняются следующие утверждения: A) Для каждой формы \|)e^5(J7)' J Ф (у) <Т, /, </> (ф) d^ny = [Г L /+ (Ф л B) Если М(Г)< оо, то Г L /+ (Ф Л G) = (Т L /+Q L (Ф° /) « кроме того, J|<r, /, у> Ц (f) d9?ny=\T )_1*п\{ь)для каждой ограни- ограниченной вещественнозначной бэровской функции v на U. C) Если rsNm,K(?7), то <Т, /, y><^Nm-a,K(U) для 2п-почти всех у. D) <Т, /, у> ezFm-n, к(Щ для 2п-почти всех у. E) Если К — липшицевский окрестностный ретракт в U, то функция, отображающая у на (Т, f, уУ является ^"-суммируемой
§ 4.3. РАССЛАИВАНИЕ 465 относительно нормы FK на Fm-aiK(U) и Fk (<Т, U у} - Т L /+ [В (у, р) л Щ/[<* (п) рп]) < < J ?к[<Т^,у}-{Т, f, z}]d&nz/[a(n)рп]-+0 ВО/.р) при р -*- 0+ для 2>п-почти всех у. F) Если отображение g: R" ->¦ R" локально липшицевское, то (Т, g.f, z>= 2 sign[det^(y)]-<r,/.y> 2>п-почти всех г. G) Если отображения G: U-+ V и Н: F-^-R" локально липши- цевские, где V — открытое множество из некоторого евклидова про- пространства, то G+ [T L (Яо С)+ (Ф л Q)] = (С+Г) L Я+ (Ф л Q), С+<Г, Я о G, у> = <G+7\ Я, у> Зля 2п-почти всех у. Доказательство. Из 4.3.1 следует, что выполняется утверждение A), потому что [Т l /+ (Ф л Q)] Ш = J (- l)n(m~n) <Е*, Ф Л Q> dSny = = J Ф (у) (- l)"(m-n) <!„, (»), Fx л ... Л Yny dZny = Первое заключение утверждения B), очевидно, выполняется в случае, когда / и Ф класса °°. Предполагая, что МG1)<°°, мы легко обобщим его на произвольные / и Ф с помощью аппроксима- аппроксимации. В частности, всякий раз, когда i/eR" и 0<р<°° Т L /+ [В (у, р) ЛИ] = (Т L /+Q) L ГЪ (У, р), М (Г L /+ [В (г/, р) л О]) < [/+1| Г L /*Q ||] В (у, р), поэтому для любой функции Ф в силу 2.9.7 и 2.4.18 имеем f | Ф (у) | М <ГЖ /, у> d^"y < J | Ф (у) | О" (/+1 Т L /*Q| = М [E1 L /+fi) L (Ф о /)] = M \T L /* (Ф Л Q)].. другой стороны, из утверждения A) следует, что Для каждой формы ty^&m-n(U) такой, что M(i|))<l. Комбинируя 30 Г. Федерер
466 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ эти неравенства, получим второе заключение утверждения B). По- Поскольку ||Флй| = |Ф|, третье заключение утверждения B) сле- следует из 4.3.1. Четвертое заключение выведем в случае 0<ре ^3)*(U) с помощью замены Т на T*-v, а затем получим общий «лучай, используя линейность и аппроксимацию. Утверждение C) докажем, применяя B) к Г и дТ. Чтобы вывести D) из C), выберем потоки Г,е]Чт>к({7) так, чтобы ?к(Т — Т))~*-0 при / -*-°°, затем, применяя 2.4.6 и 4.3.1, вы- выведем, что lim inf FK«T, /, yy - (Th f, yy) J-»OO < lim inf j FK <T - Th f, у} d2"Wim inf Lip (/1 К)^К(Т-Т^=0. j-* 00 j-* 00 Из условий утверждения E) следует, что множество Fm_n, k(U) является FK-сепарабельным (см. 4.1.29), поэтому ^"-измеримость функции <Г, /, •> следует из того-факта, что, каков бы ни был поток Q^Fm-nK(U), равенство FK (<?-<T, U У» = sup {<? (г|))- (- l)n(m-n) (U (у), Y1Л ... ЛГ„>: выполняется для & "-почти всех у, где С и ^"-измеримые функции %ъ выбираются так же, как в 4.3.1. Чтобы завершить доказатель- доказательство утверждения E), применим 2.9.9 с заменой Ynfa&Fm-aiK(U) и <Т, f, •>, заметив, что из утверждения A) и 2.4.12 следует, что В(И.Р) Утверждение F) выведем из п. 4.1.25. Для каждой формы ^5(?/) найдем, что где для ^"-почти всех z, откуда [Т L U о f)*{E л О)] (*) = (- l)"(m-n) f <г)ф, Q> dSn f - f S sign [det Z)g (у)] <Г, для любого борелевского множества Е из пространства R". Первое заключение утверждения G) тривиально в случае, ког- когда G, Н, Ф класса °°, и может быть распространено на общий слу-1
§ 4.3. РАССЛАИВАНИЕ . 467 чай с помощью аппроксимации. Второе заключение справедливо- потому, что из утверждения E) следует, что для 2"*-почти всех j/f из R" выполняется условие FK[r4#oG)*q>p-<r, H°G, у>]->0 при р-*0+, где <рр = В (у, р) л й/[а (п) рп], откуда FG(K) [ (С+Г) L Я*фр - G+<7\ Я о G, у>} - 0 при р -* 0+. 4.3.3. Применяя 4.3.1 к частному случаю, когда U — открытое множество из пространства R", /: U -*¦ R" — отображение включе- включения, тп = п и r = EnLT, гЗв т — это ^"-суммируемая функцияг носитель которой — компактное подмножество множества U, най- найдем, что <E"L-T, /, x> = r(xNx^F0(U) для любого х, принадлежащего ^"-лебегову множеству функции г- Для любого локально липшицевского отображения g: R™ -*¦ Rn и» 4.3.2F) выведем, что <En LT1?,y)= 2 sign[detDg(x)lx(хNХ для 2""-почти всех у. В качестве иллюстрации рассмотрим открытое множество <= R2 = С и (комплексную) голоморфную функцию g: U -*¦ С. Обо- Обозначая через т характеристическую функцию некоторого открыто- открытого множества А с компактным замыканием, принадлежащим Uy получим (Е2 l A) l g* (в л о) = f 2 ьхаз?*у Для каждого борелевского множества В в плоскости С, потому что« detDg(x)=\g'{x)\2>0 для x^U. Вспоминая основные факты относительно локального поведения го- голоморфных отображений (см. [AL, с. 131] или [RU, с. 216]), выво- выводим, что <E2L A,g, y>= 2 o{g-y, х)Ьх XSA Для любой точки у ez C\g(ВйтуА), где o(g—y, ж) —порядок функ- функции g~ у в точке х. 4.3.4. Рассмотрим здесь частный случай, когда п = 1 и fs N(?/). Вспоминая 4.2.1, покажем, что в этом случае для любого вещественного числа г. Сначала заметим, что
468 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ для каждой лишшщевской функции f. R-*-R. Это равенство сле- следует из 4.1.7, когда / и f класса °°, потому что тогда f*(Df) = = D (^ ° /), и оно легко распространяется на общие / и f с помощью сглаживания. (Поскольку 2"(R\dmnZ)Y) = 0 и IIZ)fll < Lip (if), поток rL/*(Z)'Y) определяется способом, изложенным в 4.3.1.) Для любых rsR и й>0 применим вышеприведенное равенство к функции 1л, определенной в 4.2.1. Поскольку y'h(t) = l/h, если r<t<r + h, y'h(t) = 0, если t<r или ?>г + fe, и Dyn = Ya Л й» получаем формулу Г L /+ [{t: r<t<r + h}f, Q]/h = (ЗГ) L (yh о f) -6 [T L (Ya • /)] и выводим из 4.2.1, что при А-+-0+, где ^ = sptr. Аналогично проверяется, что при Л -*¦ 0+. Складывая и деля на 2, получаем, что Fk (T L /+ [В (г, h) Л П]/BА) - [<Г, /, г + > + <Г, /, г ->]/2) -* О при h-+0+, а значит, <Г, /, г> = [<Г, /, г+> + <Г, /, г->]/2. Теперь с помощью 4.2.1 находим, что функция <Г, /, •> имеет конечную Fk-Длину и что <Г, /, •> является Fx-непрерывной в каждой точке у, для которой [IIП1 + \\дТЦ f~4y) = 0. 4.3.5. Теорема. Если /: U-+Rn, g: ?7-*Rv, Л: G -* R" X Rv — такие локально липшщевские отображения, что h(x) = (f(x), g(x)) длях<Е=и, и если Т е Fm, k(U), где m > n + v и К — компактный липшицев- ский окрестностный ретракт в U, то <т, Ну, 2)> = «г, /, у\ g, z> для 2 X S"-no4Tu всех (у, z) из R" X Rv. Доказательство. С помощью 4.3.2 находим, что <Т, h, •> явля- является &п X ^'-суммируемой функцией со значениями в Fm-n_v, k(U), а из 2.6.2 выводим то же самое для функций Мс, NP, a, определен- определенных для любых 0<р<°°, 0<о<°о формулами M0{y,z)= f <T,h,(y,z В(о,<т) NPia(y,z)= f Ma(y + u, B@,P) J B(y,p)XB(z,o)
§ 4.3. РАССЛАИВАНИЕ 469 при (у, z)eR"XR". Кроме того, из 2.9.9 следует, что FK[Ma{y, z)-<T, h, {у, z)>]-^0npH<j-^(H- для 3?п X i?v-no4TH всех (у, z), а также, что для каждого о F*[iVp,«(y, z)-Ma(y, z)]-0 при р-^0+ для 2?п X i?v-no4TH всех (у, z). Полагая р (у, z) = y и q (у, z) — z для (у, z) e R" x Rv, заметим далее, что Т L h* (р*Ч Л q*0 = GL A) l_ g*t для всех ограниченных бэровских функций Ч: R"->A"Rn и ?: Rn->AVRV- Действительно, это равенство выполняется в случае, когда /, g, т), % класса °°, потому что p°h = f й q°h = g, и оно легко распростра- распространяется на общий случай с помощью аппроксимации. Обозначая через Yu ..., Yn и Zu ..., Z4 стандартные координатные функции на R" и Rv, применим вышеприведенное равенство к дифференци- дифференциальным формам %,р = В (У, Р) Л DYt Л ... Л DYn/[a (n) рп], S,,o = B(z,a)hDZ1A ... a DZv/[a(v)av] эй, применяя 4.3.2A) с заменой / на h, выведем, что для любых у е R", 2 е Rv, 0 < р < оо, 0 < о < оо. Мы знаем из 4.3.2E), что F* [T L Л|». р - <Т, /, у>] - 0 при р -> 0+ для ^"-почти всех у, и для каждого такого у находим с помощью 4.3.1, что Fk [JVp. a (у, z) - <Г, /, у> L g*lIt J ^ 0 при р -* 0+ всякий раз, когда zeR' и 0<а<°°. Мы выводим, что почти все точки (у, z) удовлетворяют равенству Ма(у, г)=<Г, /, »> для каждого положительного рационального о, а значит, по непре- непрерывности и для любого 0<<т<°°. Следовательно, ,- /, у> I- g*U „ - <Т, h, (у, z) >] - 0 при о - 0+ для S7" X ^-почти всех (у, z), и для каждой такой точки (у, z) делаем вывод, что <<Г, /, уУ, g, z> = <T, h, (у, z)>. 4.3.6. Из 4.3.4, 4.2.16, 4.3.5 и 4.3.2B) индукцией по п получа- получаем, что следующие три предложения выполняются, каковы бы ни
470 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ были локально липшицевское отображение /: U -*¦ R" и число т>п. Если T^lm(U), то (Т, /, y>elm_n(?7) для &п-почти всех у. Если T^0L(U), то <Т, /, y>^&m-n(U) для 2п-почти всех у. Если T^yn{U), то <Т, /, у>е^"т_„(G) для ^"-почти всех у. Однако более точная информация относительно следов спрямляе- спрямляемых потоков будет получена в 4.3.8 с помощью теоремы о копло- щади из п. 3.2.22. Заметим также, что если К — компактный липшицевскии окрест- постный ретракт в U и Т^ЗГпiK(U), то K<r, U y>d2?ny^Liv(f\K)n в силу 4.3.2B). Однако плоские цепи не будут обычно целочисленными плоскими цепями, а значит, нельзя заменить на ЯГк в 4.3.2E). 4.3.7. С каждым локально липшицевским отображением F: XJ -*¦ R" свяжем коммутативную диаграмму где G(x) = (x, F{x)), p{x, y) = x, q{x, y) = y для x^U, Допуская, что T<=Fm(U) и пг^п, выведем из 4.3.2G), что для каждой ограниченной бэровской формы ср степени п на R" и что» СФ<Т, F, y> = <G+T, q, y>, <T, U yy-p^G*?, q, y> для ^"-почти всех у. Таким образом, расслаивание потока Т с помощью отображения F соответствует расслаиванию потока G^T с помощью отображения q класса °°. 4.3.8. Теорема. Пусть U —открытое множество в пространстве Rv, К — компактное подмножество множества U, | — это ^"-сумми- ^"-суммируемое m-векторное поле, W = {x: %(х)Ф0} — это (Ж™, т)-спрям~ ляемое подмножество множества К, тп-вектор \{х) прост и Tan (Mm L W, х) является векторным подпространством простран- пространства Rv, ассоциированным с 1(х) для Жт-почти всех х из W, F: f/-*-Rn — локально липшицевское отображение, f = F\W,
§ 4.3. РАССЛАИВАНИЕ . 471 и % —такое (тп — п)-векторное поле, что (см. 3.2.16 и 3.2.22) С (*) = | (я) L <Уг Л ... Л У», Л"аР Df (*)>/ap /„/<*), если только Tan E^™L W7, ж) является m-мерным векторным про- пространством, ассоциированным с %(х) и ар/„/(ж)>0 (здесь мы отождествляем |(ж) и ?(а:) с соответствующими тп- и (те — ге)- векторами пространства TanmE^mL-W, #)), ?(ж) = 0 Зля всех ос- остальных х из U. Тогда: A) (Жт k\)l. F+9 = ^mA(|L <фо/, Д"а ограниченной бэровской формы ф степени п на R". B) <^тл|, F, у-} = {Жт~п L Г'М)"; Злл Sn-no4TU всех у. C) 1^(^I = 11(^I» т-вектор %(х) прост и кегар!)/(ж) явля- является векторным подпространством пространства Rv, ассоциирован- ассоциированным с %(х), если только ? (ж) ?= 0. Доказательство. Сначала выведем утверждение A) с помощью 4.3.7 и 4.1.30. Предполагая, что ^^2>m-"{U) и обозначая g = G\W, получим лО L ^+Ф] A|>) =- (р+ [G+(-^mA I) L w [? )] - f <1 Л Л " аР ^/] (Ф • /) Л Ч> потому что для 5^™-почти всех х из W (х) = ар Df (X) И р в ар Z?g (ж) = lTanmEgmL Wx). Далее применим 4.3.2A) и 3.2.22, чтобы вывести, что для лю- любого борелевского множества Е из пространства R" \ (Жт л I, F, у} (t|>) dSny = [{Жт ht)^F*(EA Q)J (гр) - k = J f-ЦЕ) -1 [{жт-п l r1 м) л г] (t) из чего и следует утверждение B).
472 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Если ?(«)?= 0, выберем точку c^R и ортонормированный базис векторов vh ..., vm пространства TanmE^ml- W, х) так, чтобы: vu ..., vm-n порождали ker ар.О/(ж) и | (ж) = cvt л ... Л vm, затемг. вычислим I < Vm-n+iA . • • Л vn, <ГХ Л ... Л Г„, Д " ар Df (ж)» | = ар Jnf (x), а значит, ? {х) = ± cvx Л ... Л vm-n. 4.3.9. Теорема. Если T^FmiK(U), m>n, h: RXC/->-Rn— ло- локально липшицевское отображение, ht(x) = h{t,x), Й((ж)=<A, 0), Dh(t, x)>, q(t,x) = x для (t, x) e= R X U, и / = Ло, g = Ац то выполняются следующие- утверждения: A) Для 2?п-почти всех у иг R" B) Есдц М(Г)<<») отображение h класса °°, а <р — ограничен- ограниченная бэровская форма степени п на R" м у <=JV(U)+, то 1 J JI? l <ht j (Ф о 1 C) J?c^u reNmiK(C/), Л — аффинная гомотопия, связывающая f с g, Е — борелевское множество в пространстве R" и К = = sup {Lip(/[Я), Lip(gltf)}, то 1 0 аЛ Доказательство. Полагая et(x) = (t, x) для (i, x)^RXU, най- найдем с помощью п. 4.3.2G), что для каждого {gR <Т,, ht, у> = д+е,+<Г, fe->e(, y> = g+<e(+7T, /t, y> для i?n-no4TH всех у, затем выведем из пп. 4.1.8 и 4.3.1, что <Т, g, у> - <Т, /, уУ = <7+<е1+Г - е0+Т, Л, у> = , 11ХГ, fe, для ^"-почти всех у, как и утверждалось в A).
§ 4.3. РАССЛАИВАНИЕ 473 Чтобы проверить утверждение B), предположим, что ijjs 2>i+(), и оценим 1 _^_ ' [([0, 1] X Т) L Л+ф] ?Ч= j J<[0, 1]ХГ, A+q.Aff о замечая, что для 5" X НГН-почти всех (t, x) подынтегральное вы- выражение равняется <A, 0) М/\т%]Т(х), [h*cp^q*ц] (t, X)} = = (-l)""^! Л ««.!?(*). [A, 0) J (**<р)<*. *)] Л потому что A, 0)ekerg, (I, A,0) _]<<p[fc(t, a:)], /\nDh(t,x)} = = <М«) jq>[fc(*. я)], A^Dhit, х)} и Z?A(f, ж)° е0 =i?At(a;). Кроме того, абсолютная величина подын- подынтегрального выражения не превосходит «) J потому что й((аг)^ф[?1((ж)] является простым (п— 1)-ковектором с комассой 1й((ж)| • ll<p[fe((a:)]ll. В условиях утверждения C) применим B), чтобы получить {сначала в случае, когда / и g класса °°, а затем в общем случае с помощью аппроксимации) неравенство где (л — такой монотонный интеграл Даниеля на Ж (Rn), что 1 о для любого a^X(Rn). Взяв ф = В (у, р) /\Q/[a(n)pn], выведем, что М[<7+<[0, 1]ХГ, Л, 0>]<e«(|i, у) для ^"-почти всех у, поэтому, применяя 2.9.7, придем к выводу, что [M[q+W,i)XT,h, l \g-i\d\\T\dSH, 0 й
474 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Аналогично получим оценку 1 J \g- Складывая эти оценки, выведем C) из A). 4.3.10. Теорема. Если Ге]Чт, к(*7), т>п, отображение /: V'-*¦ -»-Rn локально липшицевское, A, = Lip(/l/sT), (x = /+(ll7Ill + \\дТ\\)г V — открытое подмножество пространства R", 'Y < °°, 0<б<1, (хВ(у, p)<a(n)'ypn~1+e для любого шара В(у, p)c:F, мера (х L V абсолютно непрерывна относительно 2?п, то <Т, /, y>eFm.,,,([/) Зля всеж у из V и FK[<T, f, a>-<T, /, Ь^^г^Г-^б-Ча-Ы' всякий раз, когда se F, Ь е F ц В[(а + Ь)/2, \а — Ь|/2]с У. Доказательство. Ради краткости обозначим с = (аН-Ь)/2, г=* = |а— Ы/2. Для любых 0<р<оо, B(c,r + p)cF, zeB(c, г) применим 4.3.9C) при h(t, x) = f(x) + t(a-z) для {t, x)^RXUf так что <Т, g, уУ = <Т, /, y + z — a> для yeR", и получим, что FK(n_/+lB(z, < J Fk B(a,p) f J < %п~г2г j (лВ [а + t (z — а), р] dSH о %n~x1r) J в" О B?o+t(z-o),p] 1 О В(а,р) в силу пп. 4.3.2A) и 2.9.7, потому что шар В (с, г) содержит от- отрезок с концами а и z, а значит, B[a + t(z~a), p]c:B(c, r + p)c:V для 0 < t < 1. Следовательно, L /+ [В (я, р) Л й] - Т L /+ [В (а, р) Л Q\) В(с, г)
4.3. РАССЛАИВАНИЕ 475 f J ( J j 6 B(a,p)B(c,r) ! J J n(iiu)rnd&nud&ny ! J J en(ii,u)rnd&nud&nyd&4 0 B(a<p) B[»+t(c-o),tr] 1 %n~x2r f j Г"цВ [у + t (с - a), tr] dSny dSH < B() в B(o,p) 1 | j 0 B(o,p) = Xn-x2rn+ba (reJ pn To же самое неравенство выполняется при замене а на Ь. Склады- Складывая эти два неравенства и деля на a(re)zp"rn, получим Fk (Т L /+ [В (а, р) Л Q] - Т L /+ [В (Ь, р) Л Q])/[o (/г) рп] < < Я,"^ V1 = Я,п-Х22-61 а - Ь |в yS и придем к выводу, что если существуют <Т, /, о> и <Г, /, Ь>, то FK[<T, /, а>-<Г, /, Ь>]<Г-122-в-г6-Ма-Ы\ Отсюда следует, что функция <Т, /, •> равномерно непрерывна на СПс1тп<Г, /, •> для каждого компактного подмножества С мно- множества F, а значит, с учетом 4.3.2A), что Fc:dmn<7\ /, •>. 4.3.11. Важная роль меры WdTl в 4.3.9C) и 4.3.10 иллюстриру- иллюстрируется простым примером, где U = R, ЛГ = {ж: 0 < х < 2), и» = п =» 1, / = 1r, A; — натуральное число, k Т = S lBi -1)/*, и функция <Г, /, •> разрывна в точках j/к при / = 1, 2, ..., 2к. Поучительно также рассмотреть пример, где U = W, /eO*B,1) и Г — ориентированный квадрат. Условия п. 4.3.10 выполняются при V = R и 6 = 1 в случае, когда никакая из сторон квадрата не па- параллельна ядру кег/, однако в противном случае функция (.Т, /, •> разрывна в образах сторон, параллельных ядру кег/. В 4.5.15 читатель найдет важное приложение п. 4.3.10 и пример, показывающий существенность условия б > 0. Если Тelm K(U), to Fk можно заменить на 3?~к в 4.3.9C) и 4.3.10.
476 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Следующая ситуация иллюстрирует пп. 4.3.8 и 4.3.10 (при б — = 1). Предположим, что R<=Im(U), m^n, a: U -*¦ R и /: U -*¦ R" — отображения класса 1, sup{e*m(llflll, x) + Q*m-l(\\dRW, x): же?/}<°°, spti? содержится в пг-мерном подмногообразии А класса 1 множе- множества U, im[Df(x)\Ta.n(A, x)] = Rn для х<=.sptаПsptR и sptaHsptdi? имеет такую окрестность Н в U, что HusptdH покрыто конечным семейством А (тп — 1)-мерных подмногообразий L класса 1 множества А, причем ff OClosLcL в im [Df (x) I Tan (L, x) ] = Rn для х е= L П spt а П spt dR. Е$ли z е= R-, то Жп~п и~1М П spt а П spt dR) = O и <Д L а, /, 2> - (^m-n L Г1 {*} П spt а П spt i?) л Y s Im_n (?0. где Применяя подходящие координатные системы и разбиение еди- единицы, можно вывести это утверждение из простого частного случая,, когда А = U = /m <= R™ для некоторого открытого интервала / <= R, f(x) = (xu ..., ж„) для любого х = (хи ..., xm)^Im и существует такое конечное семейство Ф отображений <р: Z-»-/ класса 1, что- spt dR cz U Im П {*: ф («i, • • •, *«-i) - жт}. ФеФ 4.3.12. Здесь мы покажем, как применить расслаивание для фор- формулировки идеи о том, что корни полинома непрерывно зависят от его коэффициентов. С каждой точкой aeR" свяжем полином Ра такой, что Pa(s) = sn + 2 агэп-1 для seR, i=l и заметим, что множество W = (R"XR)n{(a, s): P.(s) = 0> является и-мерным ориентированным аналитическим подмногооб- подмногообразием пространства R"XR. Действительно, функции G: R—1 X R-> R" X R, p: R" X R-> R—1 X R, G (a, s) - ( (ai, ..., a»_,, - ^ - J а^п)) для (a, s) s Rn~x X R, , ..., an-i), s) для (a, s)eR"XR
§ 4.3. РАССЛАИВАНИЕ 477 удовлетворяют условиям imG = W и р ° G = lRn_lxR. Обозначая через | стандартное /г-векторное поле, ориентирующее R" X R, ориентируем W с помощью такого и-векторного поля т), что Расслоим поток {Жп L W) АЛ0 помощью функции q: RnXR-*Rn, q(a, s) = a для (a, s)e=R»XR, заметив, что W Л q-Ча) = (a) X is: Pa (s) = 0} для a e= R". Предполагая, "что 1<г<«, видим, что , r)c:U@, r)Xis: \s\<nr), потому что из условия Pe(s) = 0 следует, что либо |«|<1, либо|5|п<2 laiS^l^relaHsl"-1, откуда Is! <sup{l, n\a\). Далее докажем, что, каковы бы ни были точка b^R" и число р>0, для которых Ibl+p<r, существуют такие интервалы Su ..., Sn с диаметрами, не превосходящими 2nrp1/n, что , p)c:U{B(b)p)X5i: i=l, ..., п). Для этого рассмотрим комплексные корни ии ..., ип многочлена Рь так, что п Рь(s) = IT(s — Mi) для всех seR, и для любой точки (a, s)^W, для которой 1а —Ы<р, получим, что ае=Щ0, г), m а значит, Is — щ\ <игр1/п для некоторого ?. Отсюда следует, что д-'В(Ь, р)]с= U{B[(blt .... М. где f = 2и2г«(и—1)/а(ге). Взяв K (a, s): |а|<г,
478 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ оценим Lip(G|lT)< 3/г"+|г" и заметим, что detD(qoG)(a,s) = -P'(qoG)(atl)(s) для (a, s) e R" X R, detD(q • G) (а, s)?=0 для «?^п-почти всех (а, s), поэтому мера (g°G)+<9#" абсолютно непрерывна относительно S согласно п. 3.2.3. Применяя 4.3.10 при Т = {Жп |_ -К) ЛI, получим условие Гёльдера FK[<^nAg, ff-G, аУ-(Жпк1, q°G, Ь>]<Г|а-ЬЦ/» при Г = 2г~1/пCren+1rn)""'if/i для любых таких точек а, беR", что B[(a+b)/2, 1a-b1/2]e=U@, г). Из п. 4.3.2G) находим, что следы L W) Л г], д, а> = G+ <#" Л I, g • G, а> удовлетворяют аналогичному условию Гёльдера с заменой Г на Зи"+1гпГ. Вспоминая 4.3.3, получим также, что {{Жп L W) Л П. ?, «> = 2 sign [~ *» (*)]•«(«,.) 1 «ер-1»} для ^"-почти всех а. И, наконец, сделаем вывод, что {{Жп L W) Л ч, д, by = 2 е (Ь, *) б(ь,0 для любой точки Ъ s R", где е (Ь, f) = 0, если число о (Рь, t) = inf {/: Р[}) (t) Ф 0} четно, е (Ь, t) = sign [— Pbh) (t)]t если число й = о (Рь, t) нечетно, потому что функция {{Жт L W) f\f\, q, • > непрерывна в точке Ъ и каждая точка {eR принадлежит такому открытому интервалу X, что е F, if) - card{s: *е1,Р„(s) = 0, Р'а(s)< 0} — — card{s: seX, Pa(s) = 0, Р„(s)>0},; если только точка а близка к b в Rn и все корни многочлена Ра простые. Аналогично можно рассмотреть комплексные корни многочленов с комплексными коэффициентами. Каждой точке ее С" соответ- соответствует в этом случае след 2 o(Pa,zNatZ<=2H(CnXC). 1 Здесь непрерывность следа не вытекает из 4.3.10, но является следствием теоремы Руше [RU, с. 218] или [F 19, теорема 3.13].
§ 4.3. РАССЛАИВАНИЕ 479 4.3.13. Легко обобщить теорию расслаивания с функций со» значениями в R" на функции со значениями в любом ориентиро- ориентированном п-мерном подмногообразии В класса 1 любого евклидова пространства. Допуская, что Р — это га-векторное поле, ориентирую- ориентирующее В, можно заменить форму DYX Л — DYn непрерывной диф- дифференциальной формой Q степени п, которая удовлетворяет условию1 <Р(у), О(у)> = 1 для уе=В и область определения которой является окрестностью многообра- многообразия В. Применяя меру Жп^-В вместо 2, можно обобщить основные- результаты этого параграфа. Например, обобщением п. 4.3.2A) яв- является утверждение о том, что если только Т eFm(P), тп^п, отображение /: U -*¦ В локально лип- шицевское, Ф — ограниченная вещественнозначная бэровская функ- функция на В и -ф е 2Г-"(U). С другой стороны, следы отображения с областью значений в В могут быть построены с помощью расслаивания композиций этого отображения с теми координатными системами на В, которые со- сопоставляют полю р поле вида г-ег^ ... л en, где г — положительное число. Непротиворечивость этой процедуры гарантируется п. 4.3.2F), который показывает, что если g — диффеоморфим клас- класса 1, то <Т, g ' /, g(y)> = sign[detZ>ir(z/)] <T, /, у> для S "-почти всех у. Приложение расслаивания к интегральной геометрии однород- однородных пространств можно найти в [BJ 1]. 4.3.14. Поток CeS5m(R") назовем /re-мерным ориентированным конусом в R", если Цг#С = С для любого 0 < г < оо. Ясно, что в0 является 0-мерным ориентированным конусом. Если m>l, S <= S)m(Rn) и spt5 —• компактное подмножество множества R"\{0), то m-мерный поток оо 1^^ dS'H о является ориентированным конусом, потому что для ф е iZ5m(R") оо М*ф = гтф о j^. для любого 0 < г < оо, С (ф) = J t'"^ (ф • p,j) dSHt о
480 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ {t: t>0, oo oo о о Мы не будем ни доказывать, ни применять обратное утвержде- утверждение о том, что все ориентированные конусы могут быть представ- представлены таким образом. Однако мы выведем следующий более сильный результат относительно структуры локально спрямляемых ориен- ориентированных конусов. Если т> 1, Се52^°(R") и С — ориентированный конус, то <С, f, l>el.,(R»), spt<C, /, DcS-1, С = fe+ [(E1 L {t: t > 0}) X -<C, /, 1>] = oo = f rV*+ [(- 1Г <C, f, 1> Л grad /] dSHt о гЗв Л: RXR'-^R", h(t, x) = tx для (t, jjeRXR", /: R"-^R, f(x)=\x\ ЗляжеИ". Предполагая 0 < f < 1, найдем с помощью 4.1.28, что IICil-почти полностью R" равно объединению множеств Bs = {x: WCW{x, р)>^«(т)рт для 0<р< |ж|//}, соответствующих всем натуральным /, и заметим, что ПСИ = 11цг+СН = гтцг+11СН, цг {Bj) = Bh как только 0<г<°°, Если Ъ^В,, то be Tanm(HCll, b), потому что {см. 3.2.16) , Ъ, е)П11(Ь, , 6, e)nU(b, как только 0 < е < oo и 0<se < Ib + sb\//, откуда e™[||C|LE(b, 6,e), b]>Vem(|b| + e)-m. В случае, когда подпространство Tanm(llCll, b) ассоциировано с тп-вектором С(Ь) и Ь?=0, получаем, чтоЬ Л С(Ь) = 0 и согласно 1.5.3, потому что [grad/](b) = b/\b\. Применяя 4.3.2A), имеем С = (- iO"-11| С | Л (С L Z)/) Л grad / = (- if1-1 (С [_ Df) Л grad / - = J [(- I) <C, U О Л grad/] d&t.
§ 4.3. РАССЛАИВАНИВ 481 Если 0 < t < °°, то f°Ht = gtaf при gt (s) = ts для s «= R, и мы выво- выводим, что С L /+Т = (№+С) L /+^ = Mt+ [С L fi? ( для каждой ограниченной бэровской формы "*? степени 1 на R. Взяв W = В («, fp) л D^i, так что ?t+1F = Ж A, р) л DYlf разделив на 2tp и полагая р -*• 0+, получим <С, 1, t> = ixt*<C, U 1>- Из этого равенства следует, что ji/+ «С, /, 1> л grad/) = t (С, /, «> л grad /, потому что (grad /) ° |w» = grad / и grad / J jit+(p = tm grad /j(9 = Hi)=- = Г (grad / J <p) о pt = ^f (grad / J q>) для ф ^ S)m (Rn). Записывая ради краткости P = E4-U: f>0>, ^=<C, /, 1>, и вспоминая 4.1.9, имеем также ht (x) =s a;, <H7, Dht (x) > = tw для w e R", [ Д т Dh {t, x)] PXQ (t, x) - * л Г"Ч) (ж) = для t>0 и И^И-почти всех ж, поскольку spt()<= S"-1. Таким обра- образом, делаем вывод, что = И <'т-11^ о оо = J J <<?, f grad / J <р о ОО ОО = J ?ta+ (grad / J <p)] ASH = j «7, /, *> (grad / J Ф) dSH Далее заметим, что если С е Im° (Rn) и т > 1, го С является ориентированным конусом тогда и только тогда, когда х Л С {х) = О 31 Г. Федерер
482 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ для \\С\\-почти всех х и либо m = l, spt3Cc{0), либо тп>2, х л ОС (х) = 0 для WdCW-почти всех х. Достаточность этого условия может быть проверена по индукции применением формулы гомо- гомотопии к аффинной гомотопии Я, связывающей Hi и цг, потому что для ieRn IICII-почти всех х. Наконец, заметим, что если т>1 в ?е <?,„_!(Rn), то существует ориентированный конус Ce5?!f (R"), для которого CLU@, 1) = ОХ?. Действительно, если h, Р те же, что и выше, и С = й+(Р X (?), то М[0, г) X 0 = Hr+h+ ([0, 1] X Q) = цг+ (OXQ)^ 3lm(Rn), t: t> г) Х8п-')ФЯп\И{0, г) для любого 0 < г < °°. 4.3.15. Поток Ce<Z5m(Rn) назовем m-мерным ориентированным цилиндром с направлением и в R", если и е S" и Т(и+С = С для любого JeR. Такие цилиндры могут быть рассмотрены методом, примененным в 4.3.14 для изучения конусов. Фиксируя точку aeS""' и используя отображения u:RXRn-Rn, h(t, x)=°tu + x для (J,i)eRXRn, /: Rn->-R, f(x) = u-x для ieR", g: R" -+¦ R", g (x) = x — (u • x)x для х е R", легко проверить следующие предложения. i^ iSe^5m(R") и множество /(sptiS) ограничено, то является m-мерным ориентированным цилиндром с направлением и в R". Если С — это m-мерный ориентированный цилиндр с направле- направлением и в R", i|re=^5°(R) u Ji|>u2'1 = I, mo При m = 0, кроле гого, С = й+ [2" X g+ (С L ^»/) ].
§ 4.3. РАССЛАИВАНИЕ 483 Если С е 5?rn° (R") и С — ориентированный цилиндр с на- направлением и, то тп> 1 и <С, /, 0> е= Я?.г (Rn), spt <С, /, 0> с кег /, С = Л+ [Е1 X <С, /, 0>] = <- I) *+ [З51 X «С, /, 0> A grad /)]. Если CeIm°(Rn) и тп>1, го С является ориентированным цилиндром с направлением и тогда и только тогда, когда и л С(ж)=0 для НСИ-геочта всех х и либо m = 1, дС = 0, либо т>2, и /\дС (х) = О для WdCW-почти всех х. Заметим также, что поток С в R" является цилиндром с направ- направлением tj (;-м стандартным базисным вектором пространства R") тогда и только тогда, когда Dfl = 0. 4.3.16. Теперь зададим топологию на абелевой группе &~l??(U)i построив базисные окрестности нуля следующим способом. С каж- каждой парой (W, б) такой, что W открыто, Clos W — компактное под- подмножество множества U, б > 0, свяжем подмножество группы ^~mC (U), состоящее из тех потоков Т, для которых существуют потоки R^&m(U) и S^&m+l(U), удовлетворяющие условиям spt(T-R-dS)c:U\W, М(Л) + МE)<6. Можно добавить требование, чтобы spt R U spt S<= Clos W, потому что R и S могут быть заменены на R L- W и S L- W. Если / — локально липшицевское собственное отображение из U в V, то индуцированный гомоморфизм /+ отображает &~]%°(U) непрерывно в #"m°(F). В случае m > 1 граничный оператор д отображает #~ж°(?7) непре- непрерывно в &-шС-г(и). Пусть rEf^R11) и beR», Будем говорить, что поток С является ориентированным касательным конусом потока Т в точке Ь, если CefnM(Rn), С является ориентированным конусом и су- существует такая последовательность положительных чисел rj7 что limГ}= оо и lim(f^. ° т_ь). Г = С. Отсюда очевидным образом следует, что spt С с: Tan (spt Г, Ь). Простые примеры показывают, что Т может иметь несколько различных ориентированных касательных конусов в точке Ъ, соот- соответствующих разным последовательностям чисел, стремящимся к оо. Однако если г3 и С удовлетворяют вышеприведенному условию, то каждая последовательность положительных чисел s,-, удовлетворяю- удовлетворяющая условию сравнимого роста 0 <; lim inf Sj/r, ^ lim sup Sj/rj ¦< oo f 31*
484 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ дает тот же самый конур С, потому что С - lim (щ, - т_ь)+ Т = lim »*, /г + [С - (^ . т_ь)+ Г] - 0. В частном случае, когда Т — ориентированный конус и 0ФЪ*= R", каждый ориентированный касательный конус потока Т в точке Ь является ориентированным цилиндром с направлением Ь/\Ъ\. Взяв С, rt такими же, как и выше, <eR и Sj = rj — t, найдем теперь, что *п+С = lim (т,ь о ц с т_л+ Т == = lim (ца. о т_ь - |*г^)+ Т = lim (f*Sj • т_ь)+ Г совпадает с С, потому что s/o -*¦ 1 при ]-*•<*>. Если С — ориентированный касательный конус потока Т в точ- точке Ъ, / — локально липшицевское собственное отображение us R" в Rv, / дифференцируемо в точке Ъ и существуют такие положи- положительные числа a, (J, что \f(x)-f(b)\>a.\x-b\, как только 1/(*)-/(Ь)| < р, то D/(b)+C — ориентированный касательный конус потока /#Г в точке /(о). Чтобы проверить это, будем считать, что 6 = 0, f(b) = = 0, и рассмотрим последовательность отображений сужения которых на каждое компактное множество в пространстве R" сходятся равномерно к Df(O) с общей константой Липшица. За- Заметим, что \gi(x)\>a\x\, если только I&O*)! <Г#, поэтому для О < о < оо условия г# > а и gJxB @, a) cz B@, а/а) выполняются при больших /, а значит, lim Цг.+ (f+T) = lim gj+ (lirj+T) = 1 i мл Г ла /a. T1 ^*4 I «a /^1 Гк -f /f\\ /^ Докажем, что во многих интересных случаях D.3.17, 4.3.18, 4.5.5) потоки (l*rj ° т-ь)# Г имеют один и тот же предел для всех последовательностей положительных чисел г,-, стремящихся к °°. Если (Цг°т-ъ)+Т^С в ^C(R") при то С является ориентированным конусом, потому что [lim (]*, о т_ь)+ Т] = lim (|*,г. т_ь)+ Г для любого 0<s<<x>, следовательно, С является единственным ка- касательным конусом потока Т в точке о. С другой стороны, приме-
§ 4.3. РАССЛАИВАНИЕ 485 нение конкретных последовательностей чисел г3 позволит нам при- применить 4.2.17B) при доказательстве п. 5.4.3. 4.3.17. Если Т(==%Т(Кп)иЕ = {х; в*т(\\П, х)>0), то: ' A) Для З^-почти всех b из Е lim (Mr • т_ь)+ Т = \Жт L Tan"»(\Т\, Ъ)} л ?, где ?() (, )() B) Для & ей R"YE справедливо lim (jir ° t_b)+ Г = 0. Г-»оо Доказательство. Применяя 4.3.16, немедленно получим B), а A) проверим сначала в частном случае, когда fe^mfR") и затем в частном случае, когда Т = }ФР для некоторого Pe^m(R") и неко- некоторого диффеоморфизма / класса 1, отображающего Rn на R". Для этого вспомним 4.1.27 и 4.1.30. Чтобы доказать A) в случае, когда Ге52т(Кп), воспользуемся 4.2.20 для каждого е >0, чтобы выделить поток Pe^m(R») и такой диффеоморфизм / класса 1, отображающий R" на Rn, что где G = {x: в*тA1Г — /+Я1, х)>0). Затем применим B) с заменой Т, Е на Т — /+Р, G для проверки того, что 5#т-почти все точки Ь из E\G удовлетворяют равенствам 0<втA1Г11, Ь) = в ^ 5 ТаптA1ГН, Ь) = Тапт(П/+РН, Ъ). 4.3.18. Комбинируя понятия пп. 4.2.28, 4.3.14 и 4.3.15, будем говорить, что С — аналитический ориентированный конус (цилиндр) в R", если С является одновременно и аналитической цепью и ориентированным конусом (цилиндром) в R". Вспоминая п. 4.3.16, докажем следующее утверждение. Каковы бы ни были m-мерная аналитическая цепь Т в Rn и точка Ъ е R", существует такой m-мерный аналитический конур С, что (|щ.т_ь)+Г->С в ^0C(Rn) при г-^оо. Достаточно рассмотреть случай, когда Т — ориентированный аналитический блок с компактным носителем в Rn, скажем где В —компонента множества У = var(C/,{/m+i,...,/n})\var(Ef,{g}), U — открытое множество в пространстве Rn, Clos В — компактное подмножество множества U и fm+i, ..., /„, g — вещественнозначные
486 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ аналитические функции на U, Dfm+1 (ж) Л ... Л Dfn(x)фО для же F, I = Впт(Dfm+1 Л ... ЛDfn) и 6 = 0e(Clos?)\F. Полагая р: RXRn + R, q: RXR" + Rn, h: RXRn-*Rn, p(t, x) = t, q(t, x)*=x, h(t, x) = tx для (t, i) F, = frh, G = g°h, Z = (RXR")n((f,i):f>0}, k: Z-+Z, k(t, x) = (t, t~lx) для (t, x)e=Z, A = h~l(В)П {(t, x): t>O) = k({t: t>0)XB), для (t, x)<=A, найдем, что DFm+1r(t, x) л ... Л DFn(t, х)фО для (*, x) e fe (F), множество Л открыто и замкнуто в ^"'(F), Л связно и является аналитическим блоком множества h~l(U), Clos А с Л-1 (Clos 5) с: й-' (?7), (тге + 1)-векторное поле т|/1 rjl ориентирует А, поток является (т +1) -мерной аналитической цепью в RXR", поэтому C5) L кег р = C5) - (dS) L Z является m-мерной аналитической цепью в R X R" и — тге-мерной аналитической цепью в R". Кроме того, С является ориентированным конусом, потому что для 0 < г < °о линейный ав- автоморфизм а пространства RXR", отображающий (t, x) на {г~Н, га), удовлетворяет равенствам h°a = h, а (А) = А, а°к = &°(Р X 1rm) при Р (t) = г-1* для ieR, ;(Л m+ia) ° л = г-'ti • а, а+5 = 5, Из пп. 4.3.4, 4.3.6, 4.3.8 и 4.2.1 делаем вывод, что 5"-почти все положительные числа б удовлетворяют условиям
§ 4.3. РАССЛАИВАНИЕ 487 <S,\q\,b-> = C%mL.Ar\{(t,x): |*|-б}) л (Т/1 Yl) при ri=sr\L-D\q\, а значит, US, \q\, б—>Нкегр = О. Фиксируем та- такое б и заметим, что R - S L {(«, a): |*|<6}e=l?c+1(RxRn), 5+[(ЗЛ)Ькегр] = ?+[C5I-{(г, а): * = 0, Ы<б>] = ~g+([(SS)Lkerp]Lg-'U(O, 6)) = -CLU@, б). Аналогично видим, что 2"-почти все положительные числа е удов- удовлетворяют условию <Д, р, e->=E&mL?.)AE/l5l)eIm(RXR") при 2?„ = А П {(t, х): t = е, Ы < 6} и ^ = ц L- Z)p. Поскольку .)-Mi/.(Я)flu@, б). °^IЕЕ = е-^o^og| ^е, q+ <Д, р, е_> =(p1/e+2')LU @, б), {(t, x): 0<t<e), приходим к выводу, что L U @, б) - С L U @, б)] < , Р, е-> + (dR) L кегр]< При 8 -»- 0+. 4.3.19. Вспоминая 4.2.29, скажем, что С является голоморфным ориентированным конусом в С", если С является одновременно го- голоморфной цепью пространства С" в С" и ориентированным ко- конусом. Каковы бы ни были т-мерная голоморфная цепь Т простран- пространства С" в U и точка b^U, существует комплексный m-мерный го- голоморфный ориентированный конус С в С" такой, что (Ц,г°т_ь)+ Г-v С в #-j?i (Cn) при г -*- оо. Действительно, если В (ft, e)<=-U, to 2>L-U(b, e) является 2/га-мер- ной аналитической цепью в С"к R2n, поэтому из 4.3.18 следует существование предельного конуса С. Кроме того, дС = 0, потому что U П spt дС — 0. С другой стороны, из комплексного варианта п. 3.4.11 следует, что Tan (spt Г, b) содержится в комплексном w-мерном голоморфном множестве пространства С". Поскольку spt С с Tan (spt Г, b) отсюда следует, что С является комплексной тга-мерной голоморфной цепью. 4.3.20. Чтобы построить пересечения плоских цепей в R", мы поступаем следующим образом: расслаиваем их декартовы произ-*
488 гл. 4. гомологическая теория интегрирования ведения с помощью отображения вычитания /: RnXR"-*R", /(*, y) = z-y для (я, y)sR»XR", применяем диагональное отображение g: Rn^R"XRn, g(x)-*(z, x) для zeR" и получаем следующее утверждение. Если SsF^JR"), reFloc(Rn), S X Г е= F$? (Rn x Rn), k+l^n, и (SXT, /, 0> s FRi_n(Rn X R"), то spUSXT, f, 0> e c:ker/ = img w из 4.1.15 следует существование единственного по- потока S()T(= Fft°H_n(Rn), для которого g+(S(]T) = (-l)<n-kHSXT, f, 0>. Полагая r: R"XRn->-Rn, г(«, у) = (у, х) для (ж, y)eR"XR", видим, что /°r = — /, (/«r)*Q = (—1)"/*Q и r°g = g, откуда (-1)«+(«-»)'^EП2')-=(-1)ы<5Х21, /, 0> = , /, 0> = г+<ГХ5, /о г, 0> =(-1)пг+<ГХ5, /, 0> - ' и получаем формулу 5П7' = (-1)(П-*>(П-'>7'П5'. Легко проверить, что если поток Sf\T существует и , А: > О, I > 0, то д (S П Г) - S Л (ЗГ) - (-1)"-' E5) П Г. Теория пересечений осложняется тем фактом, что хотя <S X Т, /, z> s F^j-n (Rn) для ^"-почти всех z из Rn, это может оказаться неверным при z = 0. Однако во многих важных частных случаях типа рассматриваемых ниже можно доказать непрерывность относительно z в точке 0. Заметим также, что в любом случае для S?n X 5"*-почти всех (а, Ь), потому что / ° т@. ь> = ха~ь ° /. Если SsF»(R"), •»|>€=.g)'-'(Rn) и A; + Z>re, то 5 П (En L ф) = 5 L ф. Действительно, для^ e^5(Rn, AftR") и iieS5(Rn, Д гR") находим с помощью пп. 4.1.8 и 1.6.5, что п М\)] L /+Й = {2п X 3?п) Л It где ^ —это (А; + 1 — п) -векторное поле на RnXRn, отображающее (ж, у) на
g 4.3. РАССЛАИВАНИЕ , 489 поэтому для aeS5°(R) и р е ,2)*+»-» (R» X R") находим, что " Л |) X (<?" Л т,)] L /+ (aQ)) (P) = - J J <a (* - у) I (х, у), р (х> у)У d2ny &2nx = = J J <а (г) ? (ж, г - г), р (я, * - г)> dSnz d2nx = = J а (z) (- 1)<»-«« «?(*) L D,r, (ж - z), Д *+*-» ?>» = j а B) (- » л 6) L D, (Лот_г)] (Р) <Ж\ где grz(a;) = (a;, a; —z) для z, «eR°. С помощью регуляризации ап- аппроксимируем поток S потоками 3?п Л | и получим = j a (z) (- !)(«-»)«^2+ [5 L D, (r,o т_2) Делаем вывод, что для каждого zsR" iS X (<?" лл), /, z> == (- 1)(Я-«'Л+ [5 |_ D,(ti.t_,)]. Взяв z = 0 и tj = Dn~'i|), получим утверждаемую формулу. В ча- частности, находим, что (EnL ф) П (EnL *)=E"t- (Ф Л у) для фе=0п-* (Rn), Предыдущие результаты показывают, что операция пересече- пересечения обобщает внутреннее и внешнее произведения. Однако в бо- более важной части теории пересечений рассматривается случай, ког- когда ни один из множителей не соответствует дифференциальной форме, в частности, когда S, Т и S П Т являются целочисленными потоками. Например, следующая ситуация (многообразия, находя- находящиеся в общем положении одно относительно другого) часто встре- встречается в классической геометрии. Предположим, что 5eIfc(R"), r<=I,(Rn), k + l>n, sup{G*ft(HSII, x) + @*h-1(\\dS\\, x): «<sR"}<oe, sup{e*'(H7'il, х)+в*1-*(\\дП, х): isR»}<», spt S и spt T содержатся в к- и 1-мерных подмногообразиях М и N класса 1 пространства R" таких, что dim[Тап(М, х)П Тап(ЛГ, х)] = к +1- п для хеМ ПN. Пусть к = 0 или spt dS fl spt Г имеет такую окрестность Е в R", что EftsiptdS покрыто конечным семейством Г (А; — I)-мерных подмногообразий 6 класса 1 множества М, для которых
490 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Е Л Clos G<=G и dim[Tan(G, x)UTim(N, х)] = к- 1 + 1~п для или пусть 1 = 0 или spt S Г) spt дТ имеет такую окрестность F в R", что FflsptdT покрыто конечным семейством A (Z — 1)-мерных подмногообразий D класса 1 множества N, для которых F п 0ClosD<=-D и dim[Tan(Af, .г)ЛТап(Д x)] = k + l- 1-п для жеЛ/П/>. Тогда 1{х) = D2n~h~l [D^S (x)/\T>^t (х)] является ненулевым (к+ 1 — п)-вектором для любого а: е (spt 5" П spt Г) \ (spt 95 UsptdT) и П spt Г П (spt dS U spt dT) ] = 0, +z-n L (spt 5 П spt Г)] AS Это утверждение можно вывести из 1.6.3, 1.6.5 и предложения п. 4.3.11, примененного к C/ = RnXRn, R=SXT, A = MXN, A=(GXiV: CsD где pe^50(Rn), O^spt(p —1) и spt p содержится в достаточно малой окрестности точки 0 в Rn. По-видимому, условия предыдущего утверждения излишне ог- ограничительны и есть надежда, что будущие исследования дадут лучший критерий существования пересечений целочисленных по- потоков некоторых типов. Например, кажется правдоподобным, что 5 П Г существует и непрерывно зависит от S и Т для любых S и Г, являющихся к- и Z-мерными аналитическими цепями (см. 4.2.28), для которых существуют такие аналитические множества А и В, что (см. 3.4.10) sptS Пspt Т<= A, dimA*?:k + l-n и (sptdS П spt T) U (sptS П spt<9r)c: B, dimB<k + l-n. Аналогичное предположение относительно голоморфных цепей (см. 4.2.29) еще более правдоподобно, потому что для частного случая комплексных алгебраических циклов из [F 19, § 4.5—4.8] следует, что операция алгебраического пересечения (см. [SAM § 6]) мо- может быть альтернативно построена методом расслаивания. Другая проблема, требующая дальнейшего изучения, состоит в отыскании общих условий, из которых следовала бы ассоциа- ассоциативность операции пересечения плоских цепей. Возможно, следует модифицировать пункт 4.3.1, заменяя шары в определении следов на более общие множества.
§ 4.4. ГРУППЫ ГОМОЛОГИИ 491 Если SeF»(R") и Te=Fn-.k(Rny, a S X Г е Л, (R" X R»), fc = O или spt55nsptr = 0, & = ге или sptS Л spt0Г = 0, то /+(iSXZ>6= eFn(R") и О Ф spt 3/+ (iS X Т), поэтому существует такое един* ственное вещественное число с, что О ? spt[(-l)"-*/+(S X Г)- сЕп]. Б случае, когда 5 и Г — целочисленные потоки, число с будет це- целым. Оно называется кронеккеровским индексом потоков S и Т. Из определения числа с следует, что ((- 1)"-" (SXTI_ f* [В @, р) л О]) (х°/)=с J X d2?n, В@,р) как только хе^°(^п)» и р —достаточно малое положительное чис- число. Полагая %(z)=l для zeRn, получим, что если существует пересечение S Л Г, го E Л Г) A) равняется кронеккеровскому ин- индексу потоков S и Т. Заметим также, что если д? = 0 и дТ = 0, то д/+EХГ) = 0, поэтому /+(jSXjT) = O и кронеккеровский индекс потоков S и Т равен 0. § 4.4. Группы гомологии 4.4.1. Здесь мы рассмотрим теорию гомологии локально липшицевской категории. Объектами этой категории являются та- такие пары (А, В), что для некоторого ге, А и В — локально лип- шицевские окрестностные ретракты в Rn и В<^А. Морфизмамя объекта (А, В) в другой объект (А', В') являются локально лип- шицевские отображения т. е. такие локально лишпицевские отображения /, что dm.nf = At im/c:^' и f(B)cB'. Для каждого неотрицательного целого m зададим группу т-мер- ных целочисленных плоских циклов 2Zm{A, B)={T: re^"m(R")> sptTc^, s^tdT<=.B или m = 0}, подгруппу тге-мерных целочисленных плоских границ Л» (Л, B)*={T + dS: reJn(R»), spt Т с В, 5e и группу тге-мерных целочисленных гомологии B)-Zm(A, B)J3Sm{A, В). Поскольку потоки из ^"m(R") имеют компактные носители, замена пространства R" на любую окрестность множества А дает изо- изоморфные группы. Заметим также, что эти группы гомологии изо-
492 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ морфны группам гомологии цепных комплексов (см. [MGL, с. 39] или [ES, с. 125]) с цепными группами Кт = {Т: Т е STm (Rn), spt Т с А )/{Т: spt Та В} для m > 0, i?m = {0} для m < 0 и с граничными гомоморфизмами #„,: Ят-*-Ят-1, индуцированными оператором д для то>0. Классы эквивалентности из Нт(Л, .В) называются классами m-мерных целочисленных гомологии пары (А, В). Для каждого локально липшицевского отображения /: (А, В)-* ~*-(А\ В') и каждого неотрицательного целого m зададим гомо- гомоморфизм Em(f):Hm(A,B)-*Bm(A',B>). Выбирая локально лишдицевскую ретракцию г некоторой окре- окрестности множества Л на А, заметим, что (/вг)+ отображает Z»(A, В) в Zm(A\ В') и Яш(А, В) в &Ш(А', В'), следовательно, индуцирует гомоморфизм групп гомологии. С помощью п. 4.1.15 находим, что этот гомоморфизм не зависит от выбора ретракции г. Каковы бы ни были локально лишпицевские окрестностные ретракты С^В<=-А в одном и том же евклидовом пространстве и натуральное т, граничный оператор д отображает SCm(A, В) в ^m_t(.B, С) в 3§т(А, В) в J?m_jE, С), следовательно, индуцирует гомоморфизм д: TLm(A, B)+Ttn^(B, С). Ради краткости будем писать Zm(A, 0)~Zm{A), Лт(А, 0)-&я(А), Bm(A, 0)=>Bm(A). Операции Нта и д, определенные выше, которые ведут от ло- локально лишшщевской категории к категории абелевых групп, удов- удовлетворяют аксиомам Эйленберга и Стинрода для теории гомологии с группой коэффициентов Z (см. [ES, с. 10]), которые имеют сле- следующий вид: A) Если f—тождественное отображение пары (А, В), то Н,„(/) —тождественное отображение группы Ът(А, В). B) Если /: (А, В)-*(А1, В') и g: (А', В')-+(А", В"), то (/) В()Н(/) (*/) (*)(/) C) Если СсЯсЛ, С'аВ'^А', /: (А, В)-+(А', 5'), /15: (В, С)-+(В', С) и т>0, то Нт-,(/|Д).0-0«Н„(/). D) Если U (В, С)-*{А, С) и /: (А, С)-+{А, В) —отображения включения, то последовательность гомоморфизмов
§ 4.4. ГРУППЫ ГОМОЛОГИЯ ' 49$ является точной (это означает, что образ каждого гомоморфизма совпадает с ядром следующего) для т>0 и imB.a(j) = 'Ht(A, В). (о) Если I = {t:O^t^l), h: (IXA, IXB)-+(A', В') iu А,: (А, В)-*(А\ В'), ht(x)=h(t, х) для «е/, х^А, то Hm(fe0) = -IMA,). F) Если f: (A, B)-*-(A\ В') является отображением включе- включения и А(\В' = В, a Clos(A'\B')nClos(А'\А)= 0, то Нт(/) яв- является изоморфизмом. G) Если aeR", то H0({a))^Z, Нт(Ы)={0> для т>0. Применяя основные свойства потоков, установленные в § 4.1, легко проверить условия A) —E) и G). Кроме того, из 4.2.22 к 4.1.15 следует, что {Г: Ге^„(Н") ,1Ss52m+1(R«), spti?U для любого локально липшщевского окрестностного ретракта W в пространстве R". Поэтому для доказательства F) заметим, что множество Е=А'П{х: dist(s, 4'\5')^dist(a:, A'\A)} замкнуто в А', Е<=А и А' П Clos{A'\E)<=Br, и будем рассуждать следующим образом. Если Y^9L(Yin)<\2?n(A', Br) hX поэтому Y-X^SSm{Ar, В') и Xe^«{4, В). Таким образом, Н„(/) является эпиморфизмом. Если X^&m(Rn)r\g;m(A, В)П&п(А', В'), то существуют по- потоки R e#m(R"), ,Se52m+1(R») такие, что X = R + dS, spt Д с 5', sPt5c4', поэтому Х = Г + 3EЬ?) при T — R + d[Si-(A'\E)l из чего следует, что sptTc Л П5' = 5 и Xe^mDt 5). Таким образом, Нт(/) является мономорфизмом. 4.4.2. Общая изопериметрическая теорема. Если R" => Л => 5, U и V — окрестности множеств А и В в R", fug — локально лип- шщевские ретракции множеств U и V на А и В, sU для множества К и ВГ\ К компактны, а>О, (J>О, L={a:: dist(«, Л:)<а}<=С/, Я = sup И, Lip(/IL)}, ^ = 2ra2m+2, 6 = inf (а/(х, р>/ (Зга), p = Ят[(м-+ 1Kпцт + iJ»/(»+iJY + цт2^, to VF является окрестностью множества В в UUV и выполняются следующие пять утверждений: A) Если тп>0 и X.sft,(Rn), причем
ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ то существует поток Y<=lm+l(Rn), для которого spt У <=/(?), врЦХ-dY)<=g(M), B) Существует конечное положительное числа а, обладающее следующим свойством. Если то существует поток Уе1т+1(КП), для которого spty<=i4, spt(X-dY)ciB, C) Если i: (A, B)-+(U, W) — отображение включения, то ото- отображение является мономорфизмом, и группу Jlm(U, W) можно представить в виде прямой суммы двух подгрупп, одна из которых совпадает с imH^i). D) Подгруппа группы Нт(Л, В), состоящая из тех классов гомологии, которые пересекаются с множеством 52m(R")n П {X: spt X с: Ю, конечно порождена. E) Если О < с < °°, то только конечное число классов цело- целочисленных гомологии пары (А, В) пересекается с {X: sptXcJT, Доказательство. Допуская, что ВС\К?> 0 и тп>0, положим и(х) = dist(x, ВПК) для хе-R". Каковы бы ни были число 0<е=?1б и поток Xe5Zm(Rn), для которого sptX<=K, sptdXcB, с помощью следствия п. 4.2.1 на- находим, что с J* М {д [X L {х: и (х) > г}]) &2хт < М (Х)г так как ц>%дХ<=-{х: и(х) = 0}. Выберем число г и поток Т так, чтобы 0<г<8, Т = Х^{х: и(х)>г}, и выведем из п. 4.2.16 B), что r^Im(Rn). Вспоминая п. 4.2.5, зададим Q = Im (Rn) П {R: spt Д с L Л fie (Ю, spt дВ. с \хъ (W^-0) и обозначим через h аффинную гомотопию, связывающую g с iv. Заметим, что для каждой точки х*=М существует точка Ъ е В П К,
\ S 4.4. ГРУППЫ ГОМОЛОГИЯ \ 495 для которой и(х)=\х — Ь\, а значит, \g{x)-x\ «S \g{x)-b\ + \Ь-х\ ^(ц+1)ы(а:). Применяя 4.2.9, представим поток Т в виде Т = P + Q + dS, где J>efl, Q<=Im(Rn), S e Im+1 (Rn), fa;: u(a;)'=r}, spt<?cr{a:: h({t: O^t^l)X[sptQUspt(X- потому что Згее <^и Згее^, «S а. Полагая найдем, что spt Zc: L и потому что d(Q + X-T) = dX-dP и ?(я) = а: для a;eSpt5X, а значит, Zel^^R"), и получим оценку доказательства утверждения A) предположим, что О < 2^М (X) ^ 6т, и выберем число г так, чтобы ет = 2^М(Х), а значит, М (Р) ^ ет. Поскольку М (Р) отличается целым множи- множителем от числа Be)m, отсюда следует, что Р = 0. Взяв YfZ получим заключение утверждения A), потому что Далее будем предполагать, что а < °°, а значит, множество L компактно и Q — конечно порожденная свободная абелева группа. Чтобы доказать B), возьмем г = б и рассмотрим подгруппу С помощью 4.2.22 находим, что для каждого Деф существуют ПОТОКИ F е $m+1 (Rn), для которого spt F «= С7, spt (i? - dF) cz W, GeC(R") и Я6Е52m+1 (Rn), для которых R-dF=G + dH, sptG U spt HcW, а значит, F + ffeIm+1,(R"), 8р1(^ + Я)сг7, зр1[Л-3(^ + Я)]с W. Поскольку Q и Ф являются свободными абелевыми группами, по- порожденными над Z R-независимыми конечными подмножествами,
496 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЙ ИНТЕГРИРОВАНИЯ можно построить такой гомоморфизм Г: O что sptr(i?)c:Z7 и spt[R-dT(R)]<=W для Леф, Замечая, что Ф порождает конечномерное векторное подпространство простран- пространства Pm(Rn), нормированного массой М, и что Г имеет линейное расширение, отображающее это векторное подпространство в Nm+1(Rn), получим такое конечное положительное число |, что М/+ [Г (Д) + ft* A0, И X [Д - ЯГ (Д)])] < %М (В), Mg*[R-дТ(R)] *S |М(Д) для Деф. Предположим теперь, что X удовлетворяет условиям утвержде- утверждения B), а также условию поскольку в противном случае подходящий поток Y получается из утверждения A). Находим, что Взяв Y = fJ[Z + Г (Р) + fe+ ([0, 1] X [P - дТ (Р) ]) l выведем заключе- заключения утверждения B), потому что М (Г) < М (UZ)+ 1M (Р) < ti2YM (X), где Ti=A,m+1[((x + lKrefAm + l]6 + l, а значит, Для доказательства утверждения C) зададим гомоморфизм который отображает &m(U, W) в 38т(А, В). В самом деле, из ус- вытекает, что s$tg+F<=B, spt/+t^+([O, l]XF)+G\<=A и E{F + dG)~g4F + dU[h+(L0, i])XF)+G]. Поэтому Е индуцирует гомоморфизм E%: Hm (U, W)-+Rm{A, B).
§ 4.4. ГРУППЫ ГОМОЛОГИЯ 49? Поскольку E(R)=R для R е 3?т{А, В)л делаем вывод» что ?1#°Нт@— тождественное отображение группы Нт(Л, В). Для доказательства утверждения D) возьмем 8 = 6 и рассмот- рассмотрим группу Поскольку группа Ч*1 конечно порождена, таким же будет и ее об- образ при композиции гомоморфизмов i?m (U, W) Д- Zm (А, В) -> Н„ (Л, 5). Для каждого Х*=Мщ(Лп) такого, что sptXcK и sptdXczB; соот- соответствующий поток Р удовлетворяет условиям Pef, P-X<=&m{U, W),E(P)-X^&m(A, В), а значит, класс гомологии потока X принадлежит образу группы V« Аналогично докажем утверждение E), заметив, что множество 4fc=4fn{i?: M(i?)*S 2^с} конечно» • и что из добавочного условия М(Х)^с вытекает, что Ре?С) а по- поэтому класс гомологии потока X принадлежит образу множества 4V Предыдущие рассуждения легко приспособить к случаю В П К =¦ = 0, который на самом деле гораздо проще рассмотренного. При этом можно взять б = а/Зге, Т = X, Q = О, Z — S. Аналогично про- проверяются утверждения B) — E) в случае т = 0. 4.4.3. Следствием п. 4.4.2 B) является: следующее утверждение.. Если Т е= IJm-i (Rn), spt T <= А и spt дТ <= К U В, то существуег поток S e= IJ25-! (Rn) П ^m+i (-4. #)'• ^ля которого Г)т/<т+1) + 1135 - Для доказательства рассмотрим спрямляемый поток Х = (дТ))-(А\В) = дТ-(дТI-В<вЯт(А, В), выберем Y согласно п. 4.4.2 B), возьмем S = Т — Y и заметим, что- dS = X-dY+(dT)L.B, sptdS<=B. 4.4.4. Теперь вдобавок к условиям теоремы 4.4.2 допустим, что- К является Липшицевским окрестностным ретрактом и 0 < с < °°г и рассмотрим свойства компактности множества Д - 2Lm {А, В) П {X: spt X с Я, М (X) ^ с}. Сначала заметим следующее. .Если В = 0, то множество А является &~к-компактным и А П j? является &~'к-компактным для любого %^'Sm(A). Действительно, первое заключение является следствием пп. 4.2.16C) и 4.2.17B), потому что 9Х = 0 для ХеДв случае- 32 Г. Федерер
498 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ В=®. Поскольку множества А Г) % образуют разбиение для А, вто- второе заключение следует из 4.4.2A), а отсюда вытекает, что каж- каждое из множеств А П % является ^к-открытым в А. В случае, когда В Ф 0, множество А не обязано быть ^"к-ком- пактным, как показывает пример, когда т = 1, с = л/2, A°=K = Rsn{x: (Xa^sSl для t-1, 2, 3>, ? = 4ПЬ: хг = 0). Обозначая через Л< е А сумму f ориентированных полуокружно- полуокружностей, соединяющих точки (ji~\ ki~\ 0) и (ji~l + i~\ ki~\ 0), соот- соответствующих номерам /, к е {0, ..., i — 1), легко проверить, что lim Ri (ф) = f <A, 0, 0), ф («)> йЖ*х для (pe2>'(R'). Поскольку из пп. 4.2.16C) и 4.1.28 следует, что предельный поток, определенный вышеприведенной интегральной •формулой, не принадлежит множеству ^(R3), последовательность лотоков Л( не имеет ^"к-сходящихся подпоследовательностей. Чтобы получить положительные результаты, когда КПВФ0, применим функцию &~к,в, определенную формулой оо &~к,в(Д) = J*Рк[RL. {x: dist(xt K[\B)>r}}dSxr о для любого Де$>тКAГ). Вводя псевдорасстояние &~к,в (Ri — i?2) между двумя элементами Rt и R2 множества А, докажем следу- следующее утверждение. Множество А является &~к^-компактным, а А П % является @~к,в компактным для любого хеНтD, В). Рассмотрим какую-нибудь последовательность Rt, R2, R3, ... е А. Записывая ради краткости H(r)={x: dist (ж, К(\В)>г] для reR, найдем с помощью следствия п. 4.2.1, что оо Г М (д {Ri L Н (г)]) &2Ч < М (R^ < с, лотому что spt dRi с: Rn\ff @). Поэтому для всех натуральных i я f можно выбрать числа r,j и потоки Rfj так, что 0 < гу < 1//, R<; = Л, L Я (гу), М (ЗДу) ^ /с, а значит, N(fly)<(l + /)c и flyeI«iI(R») согласно 4.2.16B). При- Применяя 4.2.17 B) при каждом / и воспользовавшись канторовским диагональным процессом, заменим данную последовательность та- такой ее подпоследовательностью (опять обозначаемой Д4, R2, Rs, ...), что для каждого / существует поток G (п) которого
§ 4.4. ГРУППЫ ГОМОЛОГИИ 499 Поскольку Rii-H(r) = R(i^-Н(г) для любого г>1//, с помощью и. 4.2.1 (или 4.2.26) находим, что оо Г ^к UGi ~Ri) L- Н (гI №гг < [(diam Я) + 1] TK {G, - Ru). in Для любых двух натуральных / < к получаем, складывая соответ- соответствующие неравенства и устремляя i к °°, что оо J* 9-к [(<?, -Gk)\-E (г)] dgir=Q, Hi а значит, Gj L- ЯA//)= G^H(l/j). Поэтому М [Gx L Я A)] + 2 М [G, 1_ Я (I//) - б,_! L Я A/(у -1))] + + М [Gk - GftL Я A/&I = М для каждого натурального к, и приходим к выводу, что последо- последовательность потоков GjL ЯA/у) имеет М-предел G = Gx L Я A) + 2 [Gi L Я A/;) - б^ L Я A/(/ -1))]. 3=2 Поскольку siptd[Gjl-H(l/j)]cz {x: dist(#, KuB)=i/j}, находим, что GeA. Кроме того, &~k,b(G — R{) ие превосходит 00 * [М (б) + М (ВД/ + J ^-K [(G} - RJ L Я (г)] потому что G L Я(г) = Gj ^-Щг) для г > 1//, откуда l( i->oo Предполагая далее, что %*=Нт(А, В) и Д{<=% для всех i, покажем, что G^5(, С помощью п. 4.1.29 получим замкнутый локально лип- шицевский окрестностный ретракт D, для которого КГ\ В clntD и flcf, Применяя 4.4.2 A) с заменой А, В на U, D, выберем такое положительное число ?, что SL, к (Rn) П {X: spt дХ cz D, М (X) ^ ?} с <&, (J7, Z))'. Выберем число / так, чтобы l//<dist(# Л В, Rn\D), а значит, spt (G - Gj) <= D, spt (R{j -RJaD для всех i. Затем выберем i настолько большим, чтобы &~K(G,-R,j)**t, откуда б,-#««?«(#, #), и получим, что G-RiG=&m(U, D)<=&m(U, W). Применяя 4.4.2C), приходим к выводу, что G е х- 32»
500 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ | 4.4.5. Можно применить целочисленные потоки вместо целочис- целочисленных плоских цепей, чтобы получить целочисленные группы го- гомологии пары (А, В) в локально лшшшцевской категории. Рас- Рассуждая так же, как в 4.4.2, легко получить естественный изо- изоморфизм Um(A, B)c*{Im(Rn)n%m(A, B)]/[In{Rn)U&m(A, В)]. Введем еще согласующееся с 4.4.6 обозначение 4.4.6. Модифицируя 4.4.1 в духе п. 4.2.26, построим для каж- каждого натурального v теорию гомологии с группой коэффициентов Zv = Z/vZ на локально липшицевской категории, рассмотрев группы Ах В) = {Т: Ге^m(Rn), sptv Та A, sVt4dTczB или тп=О} (Аг В) = [Т + dS: ГеП(Rn), sptvТа В, элементы которых называются вещественными плоскими циклами и вещественными плоскими границами, и положив Bn{At В- Zv) = 3&(А, В)/ЯЪ(А, В). Все понятия и результаты пп. 4.4.1—4.4.5 немедленно распростра- распространяются на эти модификации с заменой Z на Zv в п. 4.4.1G). Построим также теорию гомологии с группой коэффициентов R на локально липшицевской категории, рассмотрев группы, ZniA, B) = {T: reFm(R"), sptTc^, SptdT<=B или m = 0>, Bm(A, B) = элементы которых называются вещественными плоскими циклами и вещественными плоскими границами, и положив Ят(А, В; R) = Zm(A, B)/Bm(A, В). В этом случае выполняются аксиомы Эйленберга — Стинрода с за- заменой Z на R в 4.4.1G). Имеет место аналог п. 4.4.2C), а п. 4.4.2D) заменяется следующим утверждением. Векторное под- подпространство пространства Нт(Л, В; R), состоящее из тех классов гомологии, которые пересекаются с множеством Fm(R")fl П {X: spt X с К}, имеет конечную размерность. Однако аналоги лп. 4.4.2A), B), E) не верны (см. 4.5.13). Модифицируя 4.4.5, найдем, что можно применить нормальные потоки вместо плоских цепей, чтобы вычислить группы гомологии с вещественными ко- коэффициентами. Кроме того, 4.1.18 показывает, что можно исполь-
§ 4.4. ГРУППЫ ГОМОЛОГИИ 501 зовать произвольные потоки с компактными носителями вместо плоских цепей, если множества А и В открыты. 4.4.7. Применяя 4.2.3, 4.2.9, 4.2.26 и 4.4.2C), легко видеть, что Hn(Rn, Rn\C; G)^G, Hm(R", Rn\C; G) = {0) длят<п, если только С — открытый п-мерный куб в Rn и G равно либо Z, либо Zv, либо R. (Этот факт вряд ли удивит читателей, знакомых с алгебраической топологией. Действительно, из классической тео- теоремы Эйленберга и Стинрода следует, что теория гомологии опре- определена с точностью до естественной эквивалентности своей груп- группой коэффициентов, на подкатегории лшшшцевской категории, со- состоящей из тех пар (А, В), для которых множества А и В ком- компактны). Далее докажем следующее. Если Т<= 3)n(Rn) и дТ представим интегрированием, то Т представим интегрированием. Обозначая через С какой-нибудь открытый n-мерный куб в Rn, выберем функцию ae^5°(R») такую, что ClosС <= Int {x: a(z)=l}, и заметим, что spt da с: Rn\C, 5B'l-a)+ri-da=C2I)l-aeZn_1(Rn, RB\C). Поскольку Hn_11(R", R"\C; R) = {0), существует поток SeFn(R«), для которого spt[35-3B4- a)]c=R"\C, поэтому из теоремы о константе п. 4.1.7 следует, что существует такое число ceR, что spt (сЕп - S - Т L- а) <= R"\C. Приходим к выводу, что 11ГПС< |с|2(С) + МE)< «. 4.4.8. Группы гомологии компактных лишпицевских окрестно- стных ретрактов А в R" связаны с группами гомотопий про- пространств абелевых групп (с ^"А-топологией) Н»), sptT<=A, 2>(l) = 0}, n), sptT<=A, 37I = 0) для k>0 с помощью естественных изоморфизмов построенных в [AF1]. В случае, когда aeHjHD)' и n5aj+JlA(Rn), можно выбрать проекцию реО*(в, /) так, чтобы отображение <Т,р, •>: В?-+2ь(А) было непрерывным, имело компактный носитель и принадлежало классу гомотопий, который соответствует а. Этот изоморфизм был использован в [AF 3] для частичного расширения теории М. Морса на многомерные вариационные задачи.
502 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ 4.4.9. Группы когомологий с вещественными коэффициентами для пар в локально липшицевской категории можно получить при- применением плоских коцепей. Такие обобщения классической теоремы Де Рама можно найти в [WH 4, IV 29, VII 12]. С другой сторо- стороны, связь между коцепями с целочисленными коэффициентами и целочисленными плоскими цепями еще не вполне осознана. § 4.5. Нормальные потоки размерности в в R" 4.5.1. В первой части этого параграфа и далее в 4.5.11 мы рассмотрим ^"-измеримые множества А, удовлетворяющие условию которые называются множествами с локально конечным перимет- периметром, потому что в радоновой мере 11й(Еп|-ЛI1 и внешней норма- нормали, определенных в 4.5.5, воплощаются главные геометрические- и аналитические свойства периметра такого множества А. При- Применяя эти понятия, мы докажем по существу оптимальный вари- вариант теоремы Гаусса — Грина в 4.5.6. Позже в 4.5.11, 4.5.12 мы выведем геометрический эквивалент аналитического условия пред- представимости потока d(Eni-A) интегрированием. Из 4.1.28 следует, что группа ^"liOC(Rn) состоит из потоков Е"!-/, соответствующих всем ^-измеримым функциям f с целы- целыми значениями таким, что J | /1 d3?n < оо для любого компакта К с: Rn. Задавая на #"n°(Rn) ту же топологию, что и в 4.3.16, легко> проверить, что для любых таких функций / и Д, /2, /3, ... En L /,•-> En L / в VT (Rn) при / -+ oo тогда и только тогда, когда lim ) \fj — f\d2"i = 0 для каждого компакта K^zR". На подгруппе l!r(Rn) группы P~l™(Rn) будем применять индуцированную топологию. 4.5.2. Лемма. Если R — связное, открытое, ограниченное мно- множество в пространстве R", п > 1, и Bdry R является Липшицев- ским окрестностным ретрактом, то существует конечное положи- положительное число о, обладающее следующими свойствами: A) Для каждого потока Т е ij,00 (Rn) существует такое це- целое с, что НсЕ- - B) Если Р — это ^-измеримое множество и поток
g 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В Rn 503 представим интегрированием, то inf {2?п (ДПР), 2п (R\P)) ^ [olid (En L Р) II (R) ]»/(«-•). C) Если Р и Q — это ^-измеримые множества, потоки S(EnL-P) и 3(Еп|-ф) представили интегрированием и если 6 = inf[M(X)+M(y): ХеЯв_1(К») и ГеЯ^Н"), лриче* spt [д (Е" L (?) _ д (Е" L. Р)_ X - <?У] с Н"\Д), то II (Е» L. Q) - (En L Р) II (Д)} ^ (об)п/(п-1) + б. Доказательство. Выбирая окрестность Н границы Bdry R в R" и липшицевскую ретракцию h множества Н на Bdry i?, построим липшицевскую ретракцию g множества Н U (R"\i?) на Rn\i?, по- полагая g(x) = x для x^Rn\R, g(x) — h(x) для x^HOR. В самом деле, для любых точек osR"\i? и b^HuR, отрезок, соединя- соединяющий а и Ь, пересекается с Bdry Я в некоторой точке z, откуда \g(a)-g{b)\ = \a-z + h(z)-g(b)\< < la - z\ + \z - b\ Lip(fe) < la - b\ sup {1, Lip(fe)}. Обозначим через о число, которое фигурирует в п. 4.4.3 для А = = R", 5 = Rn\i?, K = C\osR и m = n-l. Для каждого потока Т е In ° (Rn) выберем поток S согласно 4.4.3, заметим, что spt35cR"\/?, затем применим теорему о кон- константе п. 4.1.7 в сочетании с 4.1.28, чтобы найти целое с, для которого spt(cE" — 5) <= R"Yfl, а значит, ОсЕ- - П {R) = 115 - П (Д) < tollSril (i?)] "/(n-1). Чтобы получить утверждение B), возьмем Т = Еп^-Р и заме- заметим, что и sup{|c — II, |с|) > 1. Чтобы проверить утверждение C), предположим, что е > б, вы- выберем потоки Xe=5?n_,(Rn), Fe=5?n(Rn), для которых М(Х) + + M(F)<e и spt[d(E"i-2)_3(Eni-P)-X-dy]cR»YR, затем применим утверждение A) при Т = En L Q — Е-Р — У, из кото- которого следует, что (дТ)\-i? = XLR. В результате получим где р, q — характеристические функции множеств Р, Q. Кроме то-
504 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ го, вышенаписанныи интеграл равняется сЗ?п (R) -2"t(Rf)Q) + 2 (RuP)> Zn (R\Q) +2>n(R0 P), если с > 1, -c3?n(R)-2>n(R0P)+2'n{R(]Q)>^n(R\P) + &n(R П Q), если c<—I, HE» L Q - E» L pil (Д) t если c = o. 4.5.3. Следствие. Для каждого целого п > 1 существует такое конечное положительное число а, что inf <2""[U(ft, р) П Р], 2"ЧХГ(Ь, р)\Р]> ^ если только b e R™} 0 < р < °°, Р — это ^-измеримое множество w поток д (Еп L Р) представим интегрированием. Доказательство. Применяя отображение ц.(/р ° т_ь, сведем задачу к частному случаю, когда b = 0 и р = 1. Затем применим 4.5.2B) при Д = 11@, 1). 4.5.4. Следствие. Пусть п и а такие же, как в 4.5.3. Если Р яв- является ^"-измеримым множеством, 2?п(Р)<°°, 0<т<-^-и в*" (S L Р, Ь) > т для любого Ъ^Р, то Р может быть покрыто последовательностью таких шаров ВF<, г4), что bj e P и S W"'1 < в [та (я)]A-п)/п5п-1М [д (En L -Р)]. i=i Доказательство. Какова бы ни была точка Ь^Р, существует число р > 0, для которого потому что это отношение непрерывно зависит от р, превосходит г для некоторого р, близкого к 0, и стремится к 0 при р -*¦<». По- Поскольку т <-о"« из п- 4.5.3 и вышеприведенного равенства следует, что [та (я) рп] (п-1)/я ^ aid (En L Р) I!U (Ь, р)'. Применяя 2.8.5 к семейству F всех таких шаров В(Ь, р), получим последовательность непересекающихся шаров В(Ь<, pi) таких, что> увеличенные шары В(Ь{, 5pi) покрывают Р, и придем к выводу, что f аМ [д (En L
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В В." 505 4.5.5. Предполагая, что AcR* и beR", будем говорить, что вектор и является внешней нормалью множества А в точке Ъ, если ueS", в"[-2 L-{ж: {х-Ь)-и>0)ПА, Ь] = 0, Заметим, что если и и v являются внешними нормалями множе- множества А в точке Ь, то и — v, ибо иначе вектор и — v принадлежал бы открытому конусу W = R" П {w: w • и > 0 и w • v < 0>, а тогда W?*0 и e"[S?"L- t»(JF), 6] = 5"I[U@, 1)П ТУ]>0, хотя множество ть(^)с[{а;: (ж-Ь).м>0}П4]и[{а:: (а; - Ъ) - v < 0)\А] имеет ^"-плотность 0 в точке Ъ. Положим п(Л, Ь)—и, если м — внешняя нормаль множества А в точке Ь, п(Л, Ь) = 0, если не су- существует внешней нормали множества А в точке Ь. Ясно, что п(Кп\Л, Ь) = -п(А, Ь). Вспоминая 4.3.16 и 4.5.5, получим Enl-{u;: w a<0}]LU@,6) = (*, рб) П {x: (x - b) • и >0} П Л] + + p—.2"tU(Ь, рб) П {x: (x-b)-u< 0)\A] для и«= S"~l, 0<6<<», 0<p<°° и выведем, что и является ¦внешней нормалью множества А в точке Ъ тогда и только тогда, когда и е S" и С помощью 3.2.16 находим также, что и является внешней нор- нормалью множества А в точке Ъ тогда и только тогда, когда и ^ S" и Из этого условия следует, что Nor" C?n L- Л, Ь) = {?в: O^f <<»}. 4.5.6. Теорема Гаусса — Грина. Если А —это ^'-измеримое множество, Я = К*ГШ: п(А, b)eS"-1} и поток Т = д(Еп\-А) представим интегрированием, то выполня~ ются следующие утверждения: A) Т е= ЯГ1 (R") » ll^li = Жп~х L 5. B) Для Ж-*-почти всех Ь из В выполняются равенства е—1(НП, Ь)=1 и *п(А, Ь)=Т(Ь). C) Для Эёп-1-почти всех Ъ из В*\В имеем: вп~1(\Ш, 6) = 0в либо enB-A,b)=0, либо 6я B L- Пп\А, Ь) = 0. D) Т = Ж1 Л »п D, •)•
506 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ { E) Для каждого липшицевского \-векторного поля | на Rn e компактным носителем выполняется равенство > J Е (я;)-n (A, x)d Жп-гх = J div ? (*) ^пх. Доказательство. Зная из 4.2.27, что поток Т, локально спрям- спрямляем, зададим множество Е так же, как в 4.3.17 при тп = п~ I,- и вспомним п. 4.1.28. Для 5^"-'-почти всех Ъ из Е найдем, что» G" (ИШ, Ъ) —натуральное число и д[Еп L (^ о Х_Ь)А\ = (цг. т_4)+Г -* С при г - оо, ще С = [Ж71'1 L Tan" (\\T\\, Ъ)] ^ I, ?(a;)=en-1(imi, b)T(b) дляхеК», Tan" (ЛТI Ь) = RnП{*•¦ хаТ(Ъ) = о}. Полагая и =(—1 )"""'* Т(Ь)е=8п~г (а значит, *и=Т(Ъ) согласно 1.7.8) и замечая, что С = dfe-1 A1241, b) E" L Р] при Р = {я:: а: • и < 0>, применим 4.5.2C), чтобы вывести, что E"L(jlr<,T_4),4-*en-I(ll2'll, Ь)Е-Рпри г-*оо. Поскольку множество РП11(О, 1) открыто, делаем вывод, что 0"-1 (| Т1, 6) | En L Р\\ [Р П U @, 1)] < < lim inf I En L (Цг»т_ь) A || [P П U @, 1)] < , 1)], а значит, @n-1 (IIT1!!, fc)=l и и является внешней нормалью множе- множества А в точке Ъ. Таким образом, и 3%n{E\B) Q. Далее рассмотрим любую точку Ъ е R", для которой inf {6*n B L- А, Ъ), в*п (j?n L R«\4, Ь)} > б и 0<б< -g-. Задавая непрерывную функцию $ формулой ,hfft\ - ^"(U(&. Р)П^) = -• _ 2п [U (Ь, р)\А] ^W~ [а(П)рп] [о(в)р»] для 0 < р < «>, найдем, что lim sup г]) (р) = 6*" B>n L А, Ь) > 8, р-»0 + lim inf г]5 (р) = 1 - в*" (^n L Rn\^t б) < 1 - в
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В R П 507 при б < 1 — б, поэтому существуют сколь угодно малые положи- положительные числа р, удовлетворяющие условию и для каждого такого р из 4.5.3 выведем, что следовательно, 6a(re)<{a(re- l)ce*"-1(l|7Tll, Ь)]п/(п-1) и Ъ^Е. Теперь приходим к выводу, что B^zJE, что верны утвержде- утверждения A), B), C) и что выполняется D), так как 7" = ЦТ'Цд Т = A) (( ) Проверим утверждение E) сначала в случае, когда % класса о°, применяя 4.1.33 при S = Е" L. А, чтобы вычислить а затем в общем случае с помощью сглаживания поля |. В случае п = 1 модифицируем предыдущие рассуждения, за- заменяя ссылку на 4.5.3 следующим замечанием. Если U — откры- открытый интервал, для которого то U П spt T Ф 0, а значит, 117*11A7M*1. Следовательно, 2"-почти полностью множество А равно объединению локально конечного се- семейства интервалов. 4.5.7. С помощью 4.1.2, 4.1.7, 4.1.18 находим, что пространство Fncc (Rn) состоит из потоков Е" L. /, соответствующих всем веще- ственнозначным ^"-измеримым функциям /, удовлетворяющим условию j | /1 d9?n<. оо для любого компакта К с: Rn, к i и что En L / е Nj?c (Rn) тогда и только тогда, когда существует последовательность функций /je^"'(Rn)) для которой lim f | fj —71 dSn = 0 и lim inf J || Dfj || dSn < oo для каждого компакта К a R". Кроме того, в случае, когда функция / локально липшицевская. Вспоминая 2.5.1, найдем, что множество
508 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ является решеткой функций на R". Если /и g — локально лишпи- цевские функции, действующие из R" в R, то такой же будет и k = mf{f, g), и аппроксимативное дифференцирование с помощью пп. 3.1.6, 2.9.11 дает Dh(x) — Df(x) для .!?п-почти всех х таких, что f(x)< g(x), Dh(x) = Dg(x) для 2"*-ночти всех х таких, что f{x)> g(x). Структура n-мерных локально нормальных потоков в R" будет проанализирована в 4.5.9 с помощью детального изучения некото- некоторых множеств с локально конечным периметром в Rn+I и R". При- Приводимое ниже общее утверждение п. 4.5.8 связывает re-мерные ло- локально нормальные потоки в Rn+1 и R". Для формулировки этого утверждения фиксируем стандартные двойственные базисы еи ..., е„ и Хи ..., Хп пространств R" и Дх R™> Ei, ..., еп+1 и Yt, ..., У„+, пространств Rn+1 и Д^, а также ортотональную проекцию р: Rn+1 -н. R», р (у) = (уи ..., Уп) для у е R»+«; соответственно р (е{) = et и Xt ° р — Y{ для i = 1, ..., п. 4.5.8. Теорема. Если S <= Nf ° (Rn+1) и р^-образы мер lSl_DY1A..^DYnAYn+1l \S i_ DYn+1\, H(95)Lrn+i| являются радоновыми мерами на R", то существует единственный поток Т е NjT5 (Rn) такой, что Т (Ф) = S (Yn+1 Лр+Ф) для <f<=g)n (Rn). Кроме того, (дТ) ч|) = (dS) (Yn+1 л p*ty) — S (DYn+1 л р*Ц) для $ в e-&n-l(Rn), Г = Еп1-'() где -у (#)=<?, р, a;>(Fn+l) для ^-почта всех х. Доказательство. В случае, когда множество 7n+1(spt(S) ограни- ограничено (а значит, отображение /MsptS собственное), возьмем Т'=» = P*(S L ^n+i) и выведем из 4.1.7, что Чтобы рассмотреть общий случай, заметим сначала, что если ц — любая радонова мера на Rn+I такая, что мера р+ц также ра- донова, то -1 (К) П {у. \уп+1\ > ]}} -> 0 при / -^ оо для каждого компакта XcR", так как \i[p~1(K)]< °o. Выберем функцию a^^""(R), для которой a(t)=l при *«S0, а(*) = 0 при t>l, 1>сф)>0 и 0>а'(«)>-2 при 0<*<1,
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ пВн" 509 и зададим функции ^еЖ>ЦЩ для /=-1, 2, 3, ... так, чтобы p,(r) = aflu(IH//)] при O^rsR, следовательно, &(г)=1 при \r\ <j, Р3(И) = О при |r| >je, О < Pi (г) < 1 и |г#(г)|<2 для reR. Полагая Sj = S\-(fao Уп+1), найдем, что \(S}-S)L.DY^... NDYn Л Yn+11| p-i (К) -»»О [II @$ - 35) L. У„+1Н 4- II E, - 5) L ЯУП+1И>-' (X) -v О при / -»• оо для каждого компакта ЛГ с: R», так как L (fo-IVfi) - 5 L (р Замечая, что множество yn+1(spt5j) ограничено, и полагая Tj — p4,(S1i- Yn+1), выводим существование потока Т (Ф) = lim Tj (Ф) = E L Уп+0 Р+Ф для фе^ (дТ) г]5 - lim (9Г,) ф - [C5) L Гп+1 - 5 L j для ф ^ 55"-* (R"). Очевидно, что Т — локально нормальный поток. С помощью 4.3.2 A) находим также, что для фе <Z)"(Rn) в1 Л ... Л «„, Ф («)> • <5, р, 4.5.9. Теорема. Если f — такая вещественнозначная $п-измери- $п-измеримая функция, что и если К (х) = (Я?п) ар lim inf / (г) s R для х <= Rn, И (ж) = E) ар lim sup / (z) e= R Зля а: s R", F(a:) = [%(x) + ц(х)]/2 для x^R", ;: Я (x) < ц (a:)},
510 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ то К, ц., F, G, S, С, Е однозначно определяются потоком Т (потому что функция f потоком Т определяется Э?п-почти всюду) и выполня- выполняются следующие тридцать одно утверждение: A) Если функция /: R" -*¦ R локально Липшице в екая и g: R" -> Rn+1, g (х) = (Xl, ..., *„, f(x)) для x е R», то отображение g локально липшицевское и Ш « B) Функции К, |i, F являются борелевскими. C) Для Жп~х-почти всех х из R" выполняются неравенства E) BSn = 5 F) Для феД>»(К») имеем: Т(ф) = 5 (Уп+1 л р+ф) и Е"(ф) (*) ( ( ( (рФ) G) Дли||еД>"-«(К«) глмееле: (9Г)а|з= — S(DYn+1 (8) \\т\\ = p*\\S\_DY1^...^DYп^F|| (9) S'" = р+ЧSl_DYxK...i\DYn[|. A0) ПдП = p^lSLDYn+lU и для ie{ 1 E21) L DXX a ... Л DX{_X Л DXi+1 Л ... Л DXn || = = p+1| 5 L DY1 Л ... Л #У*-1 Л ?>ri+i Л ... Л DYn+1t (li) ^•+iiarn>p+ii5fl. A2) Для SB^-почти всех вещественных чисел s имеем р+ <5, Г„+1, s> =[- 9 [En L {х: / (*) > s}] e Я^ (Rn). A3) 9Г = j 3 [En U{x: f (x) >rs}] d^^s и || ЗГ || = j 19 [En L {x:f (x) > *}] 1 &&s, A4) Для каждой WdTW-интегрируемой R-зиочной функции к имеем J f A5) Для каждого борелевского подмножества W множества Е имеем \\дт 1 (ич = 5^п [с п р'1 W] = 1 (ц - Л) d^"-1. w A6) Множество Е является счетно (Ж~\ п—1)-спрямляемым. A7) Для Жп~1-почти всех Ъ из Е существует такой вектор не eS"-', чго п[{х: f(x)>s), Ъ] = и и n[G, (Ь„ ..., Ьп, з)]^(щ, ..., в., 0), если только k(b)<s<[i(b).
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В Rn 511 A8) Если п> 1, множество R и число а такие же, как и 9 4.5.2, ieR, 2n[R П {х: f(x)> Щ <2"ЧЩ/2, 2п[Д П {х: f(x)< t\]< 2»(Щ/2. и р = п/(ге— 1), то A9)Если ге>1, число а такое же, как в 4.5.3, 6eR", R b, р)П{а:: /(a:) , р)(Ча;: f(x)<t)]<a(n)pn/2 и p = re/(re —1), го jp-» J V U(b, J U(b,p) B0) Если X(b)==|xF)sR) ге>1, $=п/(п— 1) м число о го же,, что м в 4.5.3, то limsupfp-" f \f{x) — Р->0+ V U(b,p) B1) Если п> 1, го для Ж'^-почти всех Ъ из Rn\E имеем lim p-n f | / (х) - F (ft) |n/(n-x) dS7"* = 0. Р-»0+ U(b,p) B2) Если п> 1, то Эля ^"-'-почти всеж b из Е вектор и, зада- задаваемый утверждением A7), удовлетворяет условиям lim p-« f | / (х) - X (Ь) Г'*"-1' ^^"а: = 0, р+ Q+tt,p) где Q+(b, p) = U(b, р)П{ж: (х-Ъ)-и>0), и lim p-« f | / (х) - ц (ft) Г^""" d?nx = 0, р+ Q-(b,p) где Q~(b, р) = ЩЬ, р)П{ж: (ж-о)-и<0}. B3) Если ге = 1, U —открытый интервал и r = inf {s: -2"[i7 П{«: /(x)<s}]>0}, * = sup {s: 2"[i7 П {x: f(x) > s}] > 0>,
512 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ то t - г < WdTll (U), а следовательно, ХаР^дТЦх: а^х^Ь} для — оо<а<о<оов {К(о), ц(о)}= 1 lim F{x)f lim F(x)\ для 6eR. \x-»b— х-*Ъ+ ) B4) Для Жп~1-почти всех Ь ua R" выполняются равенства lim f / (*) е-"а|з (e~i I b — x \) A2nx% только ty — такая вещественнозначная ^-измеримая функция с компактным носителем, что и о кроме того, <^> l»m by = F (b) 6b. B5) Для 119Я1-п0чти всеж Ь из Rn\2? имеем B6) Для 9?п-почти всех Ъ функция f имеет ^-аппроксиматив- ^-аппроксимативный дифференциал L в точке b такой, что (I) или в" (ИдГИ, Ь) = 0 u L = OU млц Ь=-Вп-1вп(Ш\\, Ь)дТ(Ь)], (II) если ге > 1 и $ = «/(»— 1), го (III) если « = 1, го L является дифференциалом функции F в точке Ь; (IV) S^, ..., bn, B7) Если п>1, is{l, 2, ..., и}, Qt = (-1){ DXt л ... Л D^i-x Л DXi+1 Л ... 9i (z) = (xt, ..., «,-i, ж1+1, ..., xn) s R"-1 Зля ж e R",
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В Rn 513 Pi(y) = {Vi, ¦¦¦, yt-uVt+u .... J/n+i)eRn для г/sR"^, Xt, z (t) = (zi, ..., Zt-i, t, zh ..., Zn-i) e= R" для z <= R"-1, f e= R, м если W — борелевское множество в пространстве R", Z — борелев- борелевское множество в пространстве R", — °°<а<р<°°, (ye^)°(Rn)) spt fete а < Xi < р}, то UdT)l_ Qt || (W) = J N [Pi | С П р-1 \(дТ) \_ пг\\{х: ?!Мег,а<14< = f li z 6->o+ Л Qt) j B8) ?сли n = l, PF — борелевское множество в пространстве R, SHR fo: a<x< p}, то f J В 1 дТ || {^: а < x < P} = lim Vg^eeF, (ЗГ)(- v) = f V dF. B9) 5 случае п> 1 следующие три условия эквивалентны. (I) Ясли WcR» и mn-i(W)<°o) то II924I(PF) = O; (II) Функция F является B?п)-аппроксимативно непрерывной в Жп-1-почти всех точках пространства R"; (III) Для i = l, 2, ..., re функции F°%tjt, соответствующие 2?п~1-почти всем z из R"~', непрерывны на R. 5 случае п = 1 эквивалентность имеет место, если условие (III) заменить условием непрерывности функции F. C0) 2? случае ге > 1 следующие шесть условий эквивалентны. (I) Ясли WcR» u 2(W) = 0, то WdTW(W) = O (II) Если WcR" и 5'n(PF) = 0, то 5^п(СП/>-1 (III) (oT)'L- fif = ^n L DtF для t = 1, 2, ..., re. (IV) II(oT) 1-о(||в2"-L |д.^?| для i = l, 2, ..., п. (V) Для i = 1, 2, ..., re функции F ° x., z, соответствующие 2>п~1-почти всем z из R""~\ абсолютно непрерывны на R. (VI) Существует последовательность функций /je^'0(Rn) такая, что для каждого компакта К <= R" выполняются равенства \fjf\ = Ou 'lim -*°° К (j,k)-*i<x>,x) jf Кроме того, из условия (VI) следует, что lim f 1 Я/;- - ар Я/1^ = 0 Зля каждого компакта К <= R". 33 г. Федерер
514 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ В случае п = 1 эквивалентность выполняется, если условие (V) заменить на условие абсолютной непрерывности функции F и Qt заменить на —1. C1) Если п>1, р = ге/(« —1) и М(дТ)<°°, то существует единственное число с s R такое, что [ J | / (х) - с |р d2>na;]1/P < «-*« (n)-i/» M Если множество spt / компактно, то с = 0. .Если функция f принимает только целые значения, то число с целое и ЩТ- сЕ") Доказательство утверждения A). В рассматриваемом случае за- зададим локально липшицевский гомеоморфизм h пространства Rn+1 на R"+1 формулой НУ) = (Уи ¦¦-, Уп, yn+i+f(yi, ..., Уп)) Для yeR"+1, заметим, что G = h{y. j/n+i<0}, g = h°p*, и, применяя 4.1.26, 4.1.8, получим S = (- l)n dh+ (E"+1 L {у: 2/n+i< 0}) = = h+ [(- l)n 9 (En+1 L {У- yn+i< 0})] = A+p*+En = g+En, так как ^[Е"Х(Е^{^: г<0})] = (-1)пЕпХб0. С помощью 4.1.25 и 3.2.3 находим, что поскольку отображение g однолистно, и для ^"-почти всех х имеем Dig (z) = е( + Dif(z)en+1 для S = l, ..., re, <ех л ... Л е„, Лп-Dg (а;)> == Z)^ (х) л ... Л #ng (я) = = exA ... Леп+ 2 Dif(x)E1A ... Л Bi-i Л еп+1 л ei+1 л ... Леп, 1=1 Ш2 = 1+2 [?>i/ (^)l2 = 1 + 10/ (*) |2. Таким образом, мы проверили утверждение A). Однако, про- продолжив обсуждение локально липшицевского случая, сделаем не- несколько замечаний, которые будут полезны в дальнейшем. Замечая, что р° g °= lRn.t получим р+Ш =2Ч1 + Ш/11гI/2 < Д»-1- D + Ш/11) = Z* + \\дП. Поскольку Yi'g — Xi для t = l, ..., п и Fn+i°^ = /, находим с помощью 4.1.25, что, каковы бы ни были формы f <=2>°(Rn+1) и
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В R™ 515 e^)"-1(Rn+1), выполняются соотношения [S |_ DY1 л ... Л DYn л Yn+1] (у) = = Е" [DX1 ^...^DXп^ (rn+1 • g) л (Y ° *)] = S7" [/•(? • *)Ь [5 L ЯГХ Л ... Л DYn] (у) = Sn (у ° g), ...Aen, An Dg(x)), Yn+1 h 4 [g ( 2 (- I)* A/W < ex Л ... Л е{_х Л ei+1 Л ... Л е„, г=1 для 2"*-почти всех x [S L DYX A ... Л /?^_! л ЯУг+i Л ... Л = Е" idx1 л... л шГ{-1 л D^i+i л ... л i?^« л я/ л (v • *)] = = (- I)" [(ЗГ) L Z?XX л .., Л Z)^.! Л Z)Xi+1 л ... Л DXn] (у о г). Отсюда следует, что IS L DFi л • •. Л DYn Л Fn+1||<?+ (#" L | /|) = Х Л ... Л DYi-г Л DYi+1A ... Л Z?Fn+1|< 1 (дТ) LM,a...A />^i-i Л Z?Xi+1 л ... Л а значит, р+ || S L Z?rt Л ... Л DYn Л Г„+1К | Г|, p^Si.DY^... л ЯГ» KS, P+|lS Р+15 L D^ л ... Л /?^_г Л Z?Fi+i Л ... Л DYn+1\ ^КЗГ) L Z?Z! л ... Л /?Х{_Х л DXi+1 л ... л DXn Наконец заметим, что для каждой функции к^&° (R) Доказательство утверждения B). Рассматривая функцию X, за- заметим, что X(j)^ieR тогда и только тогда, когда lim /"«Г [В (х, Г1) П [z: f (z) < t - Г1}] = О 3->оо Для каждого натурального г. 33*
516 , ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Доказательство утверждений D), F) — A1). Вспоминая 4.1.2, 4.1.18, регуляризуем функцию / и поток Т с помощью такой функ- функции Ф, что Ф(-г) = Ф(г) для Поскольку rz+T = tz+ (E" L /) = En L i-zf, получаем равенство ТЕ = J Фе (- z) (En L x±zf) a?nz = - Е" L J ФЕ (- z) x*f dSnz = En L (Фе * /) для любого 0 < е < °°. Полагая Gc = R»+' П {у: (Фе * /) {уи ..., уп)> уп+1), найдем с помощью 2.9.13, что для каждого компактного множества К из пространства Rn M([En+1 Lff?- Ё"+г LG]L Р'1 (К)) = = 3?n+1 ([(Ge\G) U (G\GE)] П p-i (К)) = = \\{ФЕ*})- f\d&n = \\ТЁ-ТЦК) = k = ||Нг{дТ) 1 (К)<е||ЙГ||{ж: dist (х, #)<е}^-О при е -*- 0 +, а поэтому En+1LGE->r+1LG в ^^(R-1) при е-*0+, SR-+S в ^-}T(Rn+1) при е-^0+. Далее, применяя замечания, следующие за доказательством ут- утверждения A), с заменой /, Т на Ф8* /, Те, выведем, что <liminf [^П + iar.ll] (у) е-»о+ для любой функции ^eJif(R")+, следовательно, поток S представим интегрированием, выполняется утверждение A1), и утверждение D) вытекает из 4.2.27. Аналогично получим неравенства p+\S |_ DYXA... лДГ„лГп+1||<|| Л|, р+15 L DY1 л ... Л ЯУп 1^^", Р+1S L Р+1| 5 L /}ГХ л ... /№-1 Л DYi+1 л ... Л < 1 (дТ) L DXX л ... Л ЯХ^ л DXi+1 л ... Л DXn\.
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ пВВ" 517 Зададим функции fa для ; = 1, 2, 3, ... так же, как в доказательстве п. 4.5.8, и выведем, что = Е" |_ ft, о (Фе * /)] Л (Фе *1) = ТЁ1_ [р,- = (Фе * /)] для любого 0<е<°°, полагая k(r)= fa(r) -r для reR, Поскольку (p;°rn+1)Arn+lAp+<pei2>n(Rn+1) для Te#(R"), можно устремить е к 0 и получить, что р+ [S L (^ ° У«+1) Л Yn+1] = Г L {& о /]. Затем, устремляя ; к °°, приходим к первому заключению утверж- утверждения F). Аналогично проверим второе заключение утверждения F), взяв й = (*,-. Доказав таким образом утверждение F), выведем G) из 4.5.8. Поскольку из утверждений F) и G) очевидно сле- следует, что L DY1 Л ... Л DYn л Yn+1\, L DY1 Л ... Л DYn\, \ дТ\<,р+ [S L DYn+1l |(дТ) L Z?XX Л ... Л Д^г-i Л DXi+1 Л ... Л Z?Zn||< L DYt л ... ЛDY^ADYi^ Л ... Л а раньше мы получили противоположные неравенства, получаем теперь утверждения (8) — A0). Доказательство утверждений A2) и A3). На основании того, что [(- 1)% Л ... Л en+1] L Уп+i = Ч Л • •. Л еп, с помощью 4.3.8 находим, что для ^'-почти всех вещественных чисел s : yn+1 = s}).\e1f\ ... А вп = = As+ \B?n L {х: ц (х) > s}) л ех Л ... Л е„] = где Д„: Rn->RB+1, Д,(а;) = (а:1, ..., хп, s) для «eR«. Замечая, что отображение p\im Д, собственное и ^ ¦> ДЛ = lRn) применим оператор р+3 к вышеприведенному равенству и получим утверждение A2) с помощью 4.3.1, 4.2.27. Для формы фе^)"-1(Кп)) применяя утверждения G), A2) и
518 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ 4.3.2A), вычислим (вТ) (ф) = - (S L DYn+1) (р+ф) = - J <5, Уп+1, s> (р+ф) а для формы ^^"(R"), применяя утверждения A0), A2) и 4.3.2B), 4.3.1, получим J M (S L V • Л Г»+1, s> d2"s = JI <S, Гп+1, s) I (v потому что отображение А, является изометрическим вложением. Доказательство утверждений A6) и A7). Положим Q. = {x: \n(x)>s), B. = {x: n^^sS"-1}, Z, = {х: О*" B L- Q., x) > 0, O*n {Sn L R«\^e, г) > 0) для seR и, применяя утверждение A2), выберем счетное всюду плотное подмножество S прямой R такое, что д (Е" L Qr) e= ^°А (Rn) для любого rsS. С помощью п. 4.5.6, 4.1.28 находим, что множество U {Вт: г е 3} яв- является счетно (Ж"~1, п — 1) -спрямляемым и Замечая, что {ж: X(х)< s< ц(х)} <= Z, для seR, а значит, ?cU{Zr: rsS), Жп~1{Е\\] {Br: reS}) = 0, получим ут- утверждение A6). Далее покажем, что заключения утверждения A7) выполняются для каждой точки Предположим, что г eg, JeS и X(b)<r<t< ц{Ь). Тогда nzt, j , j (?, ), L Qr, b) = -L = 0n B L <?ь b) и Qt(=Qr, впE'п|- Qr\Qt, b) — 0, а поэтому ц = у. Для всех таких чисел s, что г < s < t, выводим а значит, n(^s, Ь) = м. Полагая а = (Ъи ..., Ь„, s), найдем также,
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В Rn 519 ЧТО {у- (у-а)-р*(и)>0 и yn+i>r}0G = = lv- \р(у)-~Ъ]-а>0 и ti[p(y)]>yn+i>r}<= <=р-*[{х: (x-b)-u>Q}[\Qrl e»+i[5»»+i L {у: (у-а)-р*(и)> 0} П G, а] = 0, потому что <дп[3?п L- {х: (х - Ь) • и > 0) П <?г, Ь] = 0 и s > г, ty: (У - а)' Р* (") < 0 и i/n+1 ^ t)\G = "iy- [р(у)-Ь)-и<0и 0"+1[^"+1 L- {у: (у - а) • р* (и) < 0>\G, а] = 0, так как ®п{5?п L (z: (z - 6) • и < 0}\<?,, Ь] = 0 и s < t, из чего делаем вывод, что n(G, a) = p*{u). Доказательство утверждения E). Замечая, что из 4.5.6A) сле- следует, что 11511= Жп 1-5, где В = R"+1 Л {у: n(G, y)^Sn), проверим утверждение E), показав, что В <= С и Жп (С\В) = 0. Если aeR"+1\C, то или ап+1> ц[р(а)], или on+1 <X[p(a)l. В первом случае выберем число s, для которого an+1 > s > ц,[р (о) ], заметим, что вп[&пL ix: f{x)> s), p{a)] = 0 и U (a, p)'nGcp-«(Utp(o), р]П{аг: |i(a:)>s}) для 0 < p < an+i — s, откуда выведем, что 8I+'E"+'Le,o) = 0. Во втором случае аналогично получим, что 9»+1B'»+»LR»+i\G, o) = 0. В обоих случаях приходим к выводу,- что аФВ. Таким образом, В с с. Далее обозначим через ф6 приближающую меру порядка б, фи- фигурирующую в конструкции Каратеодори меры Жп на Rn+1, по- положим D = R"+* П {у. уп+1 = \[р(у)] или УпН L = R"+1(]{y. в*»(ф.1-Д у)>ОУ, Н, у)>0) и обозначим через N подмножество множества Е, состоящее из тех точек Ь, для которых заключение утверждения A7) не выполня- выполняется. Замечая, что (C\D) V (N) с В, Ж'1 {N) = 0
520 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ и множество p~'(^V) изометрично произведению NXR, применяя 2.10.45, получаем, что С помощью 2.10.19 B) и 4.5.6 C) находим также, что Таким образом, Ж (С\В) < Ж (D\B) ^ Ж (L\B) <Ж (Ь\М), и мы завершим доказательство утверждения E), показав, что L<=-M. Предположим, что а<=?иО<р<«>. Зная из 4.2.1, что a, 2p), потому что OS = 0, выберем число г, для которого р < г < 2р и pM(d[SL-U(a, r)])<U5IIU(o, 2p). Поскольку Ж(Е) = 0, из 4.1.30 получим, что Заметим, что S = S^- С, поскольку В<=-С, что С П U (а, г) у-1 {Е) = С П р (/>[С П U (а, г) так как отображение р\[С\р~*(Е)] однолистно, и что p[CnU(o, r)]\E <= p[D UV (а, г) ] W с р[С П U (о, г)]. Применяя эти факты и второе равенство утверждения F), получим />#[SLU(a, r)] = p+[5l-/)-1(^nU(a, r)\\E)] = = Е" L (^[С П U (а, г) ]\Е) = Е" L Р, где Р = p[iD П U (о, г) ]\N, а следовательно, pM[9(E»Lp)]<H5!IU(a, 2p). Далее заметим, что e;(^LP,6)>l/2 для ЬеР, так как если у s Z? П U (а, г) и р (у) = 6 ^ N, а We = {ж: 1/(х)— уп+,| < б> для любого е > 0, то или Ъ<?Е, yn+t = X(b)= \i(b) и впB'п L Wc, Ъ) = 1 для любого е > 0, или b&E\N, Я(Ь)<ц(Ь), уп+1е{д,(Ь), ц(Ь)}, и из заключения ут- утверждения A7) следует, что 0"(^nLWt, Ь) = 1/2при 0<&
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В Rn 521 В случае п = \ находим, что РФ0, так как a^L и N = 0, от- откуда следует, что 1, H5IIU(o, 2р)>р, 1 1 и делаем вывод, что в»(||S|], а) ^-у, а^М. В случае п > 1 выберем число о согласно 4.5.3 и положим с = о[3-1а(п)]A-и)/и5п-1. С помощью 4.5.4 выводим, что Р можно покрыть последователь- последовательностью шаров В(Ь(, г,) таких, что Ь(^Р, 0<г4<2р и г=1 Обозначая через kt целое число, для которого (к{ — 1) гг < р < к(г{, а значит, к{п < Зр, покроем множество /г^В^, г()]П\](а, р) с помощью А;, множеств диаметра 2г<21/2 и получим оценку фес [р-1 (Р) П U (а, р)] < 2 М (я 1=х < 2 22+пра (га) (ri)" < 22+па (п) с |51U (л, 2р)« Поскольку фоо[/г' (JV) ] < Ж"[р-1 (N) ] = 0 и приходим к неравенству cp4#nU(a, p)]<22+na(re)cll5HU(a, 2p). Следовательно, из условия а «= L вытекает, что a <= Л/. Доказательство утверждения A4). Поскольку S[_DYn+i = = \S\h(S L. DYn+1)f с помощью утверждения E) находим, что || S |_ 2)Уп+11| = •(#" L С) л || 5 L В силу утверждений D), E) и 4.3.8 Тап" (Шп L С, у) является ге- мерным векторным подпространством пространства Rn+1, ассоцииро- ^ —* ванным с га-вектором S(у) и Для <3#п-почти всех у из С, Применяя утверждение (Ю) и 3.2.22,
522 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ получим || дТ || (к) = || S [_ DYn+11 (*. р) = J (Л. р) ар /х (Yn+11 С) <ШП с JJ так как для любого seR отображение /> отображает множество С = = {г/: yn+i = s} изометрично на {х: %(x)<:S^ ц(х)). Доказательство утверждения A5). С помощью утверждения A6) и 3.2.23 находим, что Е) X ^'. Поскольку стандартная изометрия R"+1 ^ Rn X R отображает мно- множество р~*{Е) на Z?XR, из п. 2.6.2 C) выводим, что Ж(V) = JЖ'1 {х: {xlt ...,xn,s)<=V}dgh = l {s: {xlt ...,Xn,s)e-V} для любого борелевского подмножества V множества р~1(Е). Взяв F - С np находим с помощью утверждения A4), что первый из двух выше- написанных интегралов равняется ПдУН (W), а подынтегральное вы- выражение второго интеграла равно ^{х)^-Х(х). Доказательство утверждения C). Достаточно рассмотреть част- частный случай, когда sptT компактен. Положим Ps = ix: X(x)>s} для ssR, выведем из утверждения A3), что J М [д(Еп L Р.)] дЯх* = М (дТ) < оо, и заметим, что вп(&п1-Р., Ь) = 1 для любой точки ЪеР3. ВзявО<т<-|-,число о, как в 4.5.3, с = о[та(ге)]A-п)/п5"-|) приме- применим 4.5.4 к каждому из множеств Р, и придем к выводу, что . Жп~1 {х: Я(х) = оо} = Ж1 [ П {Ps: seR}]< Заменяя / на —/, найдем, что также
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В Rn 523 Наконец заметим, что из утверждения A5) вытекает равенство Жп~х{х: \i (х) - % {х) = оо} = 0. Доказательство утверждений A8) и A9). Замена f и / на Т — tEn и f — t сводит задачу к частному случаю, когда t = 0. Для проверки утверждения A8) в этом случае положим Va = {x: f(x)>s}, fs = ml{f,s), 0<s<oo и, применяя неравенство Минковского, получим для 0 < h < оо. Таким образом, Lip (т|з)< \Sn(R)]m < °°, и с помощью утверждения A2) и п. 4.5.2 B) находим, что П V.)]f/Il< о!13(Еи L для 2"-почти всех положительных чисел s, так как F,<= Vo, 2&п (R П 7.) < 2^ (д) f 5"» (д n F.) < S Мы приходим к выводу, что 1 \ЯГКя:/(я)>0} / оо < а j || д [En L {^: / (х) > *}] || (Д) о Заменяя / на -/, находим, что также I / 1Р №*)т < о f || д [Е" L {x: f {x) < s}) || (Д) / Складывая эти два результата, применяя неравенство Минковского, замечая, что = Е" - E"l- ix: f(x) < s) для 2"-почти всех s,
524 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ и применяя утверждение A3), получим заключение утвержде- утверждения A8). Чтобы доказать утверждение A9), возьмем просто R = V(b, р). Доказательство утверждения B0). Для 0<р<°° применим ут- утверждение A9) с заменой t на fp = inf {s: 5""[U(b, р)П{я: f(x)>s)]<a(n)pn/2) и с помощью неравенства Минковского получим, что >-F(b)f U(b,p) Кроме того, tp->-F(b) при р-*-0+, поскольку М&) = ji(&)«=R. Доказательство утверждений B1) и B2). В частном случае, когда функция / ограничена, очевидно, что заключение утверждения B1) выполняется для каждой точки 6eR"\? и что из утвержде- утверждения A7) следует B2). Чтобы разобрать общий случай, рассмотрим последовательность ограниченных функций fh определяемых формулами /, (х) = /(х), если |/(*I</, fi(x) = j sign f(x), если \f(x) I >;, положим Wj = {b: —j^X(b)<^(b)<j} и заметим, что для каждого натурального j при ^ = ге/ (га — 1) и о таком же, как в 4.5.3, верны следующие утверждения. Если Ь е W,\E, то lim p-« j \fi(x) — F(b) Iе d&nx = 0. P->0+ U(b,p) Для ^""'-почти всех точек b из Wj П Е lim р~" f | /,¦ (х) - Я F) |р dSnx = 0 w + limp-" J |/,(*>-n(b)|pdi?n* = O. p'*0+ Q-(b.P) Если b s Wj, то Г Г lim sup p~n J | / {x) — fj (x) P-»O+ U(b,p) (га - 1) О*" (|| д [En L (/ - Л)] ||, b).
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОЕТИ пВНп 525 Третье утверждение следует из B0), потому что .^"-аппроксима- .^"-аппроксимативный предел функции f — fs равен 0 в каждой точке множест- множества Wj. Замечая, что Wj <= Wj+i и что, согласно C), закончим доказательство утверждений B1) и B2), показав, что для любого е > 0 выполняется равенство / \ °° °° \ ИП—1 I пП \ п | I Г7 \ Л к \ п и ^ =«) где Z} = ib: в*"-'A15[Е"«-(/_ /.)]II, 6)^ е). Для любого ограниченного открытого множества V из простран- пространства R", применяя п. 2.10.19 C) и утверждение A3) доказываемой теоремы, получим оценку д[Еп\_{х: t{x)-U{x)>s)\\{V) д[Еп1_{х: f(x)-fj(x)<s}]\\(V) = ]'ИЕП L {*:/(*)>/ + «}] II (F) о 1 о о {s.\s\>j) Поскольку Hd7il(V)< °°, последний интеграл стремится к 0 при /, стремящемся к °°, и мы приходим к выводу, что СП—1 и n (v\z,) = о. i=l;=i J Доказательство утверждения B3). Обозначая ради краткости а = {х: f(x)^s), заметим, что, согласно утверждению A2), для
/ 526 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ 2"-почти всех чисел & между г и t справедливо Применяя A3), приходим к выводу, что llaril (U) = JllS (E1 L p.) \\{U)dSls >t-r. Доказательство утверждения B4). Обозначая ради краткости Р = л/(л-1), -у = 5^"-1(S"-1), б == sup spt i|>, рассмотрим точку Ь, для которой выполняется или заключение ут- утверждения B1), или заключение утверждения B2). В случае, когда Ъ <= R"YE, положим для любого jeR", а в случае, когда Ъ е Е, положим g(x) = f(x)—X(b), если (^-Ь).«>0, g(x) = f(x)— \i(b), если (ж — 6)-«<0. В обоих случаях lira p-» f ^1Рй2'п = 0. р^«+ U(i>,p) Для 0 < е < °о; применяя 3.2.13, получим lf(b + tz)- g(b + = J г»-»/? (Ь) -уф (г) dSxr = F F) о и, применяя неравенство Гёльдера, найдем, что L U@,6) L U@,6 U(b,e6) J Lo J а значит, левая часть стремится к 0 при е, стремящемся к 0.
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ пВН" 527 л Кроме того, „, Ь> (ф) = lim f /Ф dgn/[a (n) pn] = F F) Ф F) Р-°+ U(b.p) для фб^^Б"), потому что из непрерывности и ограниченности функции ф следуют равенства lim J (f- р-»о+ U№) lim f P^°+ U(b,p) В случае ra = l вместо B1) и B2) применим утверждение B3). Доказательство утверждения B5). Положим f\{y) = S(y)]-Yn+l для Ш-почти всех у из Rn+1. Для любой формы ар «= 3)п~1 (R"), при- применяя утверждения A0) и G), соответственно получим формулы (дТ) г|) = j <57\ г|5> d|| 5Г || = J <E7!). р, ^»р> d|| 5 L DYn n+1 \ Получающееся отсюда равенство остается справедливым для всех ограниченных бэровских форм -ф степени п — 1 с компактным носителем на R". Применяя утвержде- утверждение E) и тот факт, что отображение р\[С\р~1(Е)] однолистно, вы- выведем, что для 11511-почти всех у из С\р~1(Е). Поскольку из вышеприведенных формул следует равенство Ш\[р{у: г\(у) = О}\Е] = О, из утверждения A0) вытекает, что df(b)--(An-iP)r\(b1,...,bn,F(b))J\rl(bu...xbn,F(b))\ для ИдГИ-почти всех точек Ъ из Rn\?. Для 2"-почти всех s с помощью утверждения E) и п. 4.3.8 на- находим, что <5, Уп+1, s> = {Жп~х L С П {у: »»+1 =s}) л Ы tj |),
528 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ^ ТЕОРИЯ ИНТЕГРИРОВАНИЯ / из утверждения A2) и предыдущего абзаца, что (d[E"l_ {%• f{^)>s}])\_(Rn\E)=[3en~1L.{x: F(x) = а поэтому из п. 4.5.6 B), что * п[{х: f(x)>s), Ь] = дТ(Ь) для Жп~х- почти всех Ъ из {х: F(x) = s}\E. Обозначая через к характеристиче- характеристическую функцию подмножества множества R"\2?, состоящего из тех точек Ъ, для которых не выполняется первое заключение утвержде- утверждения B5), и применяя A4), получим, что \\дТ\\(к) = О. Доказательство утверждения B6). Полагая ИеШ 7 _ (г. #ап С\\8T\\ т\ = О\ с помощью пп. 2.9.15, 2.9.7, 2.9.10, 2.9.11 находим, что en(lloirllLRn\<?, х) = 0 для 2""-почти всех х из Q, U dmn дТ) ] = 0, потому что WdTW (<?\dmn дТ) = 0. Через | обозначим ^"-измеримое (п — 1)-векторное поле такое, что Ъ(х) = вп(\\дТ\\, х)дТ(х) для х е Q П dmn ОТ, и выведем, что (дТ) \_ Q = (|| дТ\ L <?) Л дТ = gn л \. Кроме того, из утверждений D), E) и п. 4.5.6 следует, что множество имеет ,5#л-меру 0, откуда 2"Ч>(Т)] = 0. Вспоминая п. 2.9.8, рассмотрим далее точку Ь из ^"-лебегова множества функции ?, для которой Я(Ь) = ji(b) = R Qn (\дТ-?* N\\, b) = 6n и ЪФр(Т). Применяя 1.5.2, положим и l(x) = l(b) = -Dl(L) для Поскольку DL{x) = L для jeR", с помощью коммутативной диа- диаграммы из 4.1.7 находим, что д(Еп Li) = -2nAD1 (dL) = 2nNl, и приходим к выводу, что @n{\d{T-EnL.L)\, b) = 0n(||^nA(i-dl- Ь)=0- Заметим также, что Т - Е" L L = Еи L (/ - L).
\ \ § 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ яВН" 529 \ В случае п>1, применяя утверждение A9) с заменой Т на E"L-(/ — L), получим неравенство , р) для 0 < р < °°, где tp — это точная нижняя грань множества всех ве- вещественных чисел s, удовлетворяющих условию b, p)f){x: f(x)-L(x)> На основании того, что lim tp = ( р->0+ х-*Ь с помощью неравенства Минковского находим, что lim p-"-P f gUgn = 0, + где g(x)—\f(x) — L(x) — f(b) + L(b)\ для jeR", Затем, применяя оценку Р~п ) [ Iх — Ъ I S' U(b,P) <2n+p| выводим заключение утверждения (II). В случае re = 1 из утверждения B3) получаем, что p-^lg (F - L) < p-i | д (Т - Е? L L) || U (Ъ, р) -*- О при р-э-О+, откуда получим заключение утверждения (III). В обоих случаях отсюда следует, что L является {5?п) -аппрокси- -аппроксимативным дифференциалом функции / в точке Ь. Чтобы проверить утверждение (IV), обозначим ради краткости « = (fci, ..., Ь„, f(b)). Поскольку -a) = yn+i-f(b)-L[p(y)-b] для y Г. Федерер
АЯ Т 530 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ находим, что 2"*+1 [{У- P (?) e= U F, P). M (y - a) > 0} П G] + &n+1 [{y. p(y)^V(b, p), M(y-a)*?0}\G]) = U(b,p) U(b,p) ¦»"i1/fUo при p -*¦ 0+. Вспоминая пп. 1.7.5 и 1.7.8, выводим, что n(G, a) = = fi(Af/|Jlfl), и получаем утверждение (IV), потому что оsC\T. Доказательство утверждения B7). Применяя утверждения G), A0), D), E), вычислим UdT)L.ai\\(W) = lS\_(DYn+1A = 1 и, применяя 3.2.20, получим первое заключение утверждения B7). Далее заметим, что [д (En L /)] (Y Л Qi) = - j /• Ay dSn, а правая часть равна J yD(f d2?n в случае, когда / е 8* (Rn). Мы регуляризуем / и Т с помощью функции Ф такой, что Ф(а:) = 1|)(Ы) для xeR", где г|) — неотрицательная функция класса °°, удовлетворяющая ус- условиям утверждения B4). Предположим, что ?s J^R"-1)* и 1 — характеристическая функция множества- U: a<f<p}. Для любого 6>0 выберем функцию |«SX(R)+ так, чтобы ?6< 1, U(t) = 1 для любого a + 6<i<p-6, и, применяя тот факт, что мера II (дТ)L QJI является слабым преде- пределом мер \\[{дТ)^-Ще\\ = ^(дТг)^-а^, получим, что || (дТ) L й{ II [(? о ?{) -(ie ° ^i)l = iim II (о^е) L Е-»0+ qi) ¦ (|e .xt) • | a (/ * Ф.) \az* lim inf f ? (z) \t+6 [(/ * Фв) • Xi.«l e-»0+ J ? (z) lim inf \l-+\ [(/ * Фе) о Xi>z]
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В Rn 531 потому что qi отображает множество тех точек Ъ из R", для кото- которых не выполняется заключение утверждения B4), на множество ^"' 0. Получаем неравенство 6-»0+ Применяя 2.9.24, находим, что Р Р - \ (*"• Ы-(УХЫ' dSH = J(Y° %i,z)d(F, Xi,2) a, a для ^""'-почти всех z из R", откуда получим третье заключение утверждения B7). Из него выводим неравенство 1 (дТ) L Qi II [(? • Яг) ¦ (I ° *i)] < j* Б (z) lim Комбинируя эти неравенства, получим второе заключение утверж- утверждения B7). То же рассуждение с очевидными упрощениями дает доказа- доказательство утверждения B8). Доказательство утверждения B9). Если выполняется (I), то \\дТ\\{Е) — § согласно утверждению A6), поэтому 3>ёп~1(Е) = 0, сог- согласно A5), и (II) получается с помощью утверждения C). Если выполняется (II), то Жп~*(Е) — 0. Для каждого борелев- ского множества W из пространства R" такого, что 3@n~l(W)< °°, из A5) следует, что WdTW{WnE) = O, а из A4) —что \\dT\(W\E) = §3en-1[(W\E) П {х: F(x) поскольку подынтегральная функция положительна не более чем на счетном множестве вещественных чисел s. Таким образом, (I) сле- следует из (II). Каковы бы ни были компактное подмножество Z пространства R"-', числа —°° < а < E < °° и множество # = Rnnk: q{(x)e=Z, a<Xi<^>), с помощью утверждения A6) и п. 2.10.11 находим, что для 2'1- почти всех z из Z множество ¦Ё1 П Ял1 {%} счетно, поэтому для всех, кроме, быть может, счетного множества, вещест- вещественных чисел s имеем равенства N[F ° х*. г I it: a < t < 0}, s] = = cardb: x^H\E, q,(x) = z, F(x)=s} = -N\pi\Cr\p 34*
/ 532 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Следовательно, лз утверждения B7) вытекает, что 1 (дТ) L Q* 1 (Я Л Е) - «@Г) L Q< || (Я) - || @Г) L Qt || (Я\Я) lim v?+66 (F о Xl>1) - f [ Г Z L 6-»0+ и из 2.10.14 (или иначе из утверждений B3) и B8)) получаем, что II (дТ)L й<11 (Я Л ?) = 0 тогда и только тогда, когда функции F°%t,z\{t: а<?<E}, соответствующие ^""'-почти всем z яз Z, непрерывны. Из этого результата и того, что п 1 дТ || < 2 I (^Т1) L Qi К и | дТ |, и согласно A5), \\дТ\\(Е) = 0 тогда и только тогда, когда 5^п выводим эквивалентность утверждений (III) и (II). Доказательство утверждения C0). Условия (I) и (II) эквива- эквивалентны в силу утверждений E), A0), A1). Если выполняется условие (I), то (дТ) |_ &i = 2?п Л Q,t Q{>, где Ъ, — это (п— 1)-векторное поле, определенное в доказательстве утверждения B6), и Ь,(х)= —D1 [&pDF(x)] для ^"-почти всех х. С другой стороны, из утверждения B7), пп. 2.9.19 и 3.1.4 следует, что частные производные функции F существуют и п ар DF (х) = 2 DiF (x) Х{ для ^"-почти всех х. i=l Отсюда выводим, что для ^""-почти всех х, I (х) = 2 (- tyDiF (x) Xt л ... Л *i_i Л Xi+1 д ... Л Хпх следовательно, <%(х), Qt(х)> = DtF(x). Таким образом, условие (III) вытекает из (I). Очевидно, что из условия (III) следует (IV). Если выполняется условие (IV) и —°° < а < р < «>, то из ут- утверждения B7) вытекает, что р f f | (F о Xiity \ dS4Sn~xz = f lim \t+l (F • Xi..) ^""'z Z a Z e^°+ для каждого борелевского множества Z из пространства R", по- поэтому подынтегральные функции совпадают для ^"""'-почтл всех z, и с помощью 2.9.20 получается условие (V). Если выполняется условие (V), то регуляризация функции F дает Д(ФВ * F)=O,* Df для 0<е <~ и i= 1, ..., re,
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В Rn 533 потому что для каждой точки х е R" функции F ° %i<qi(X-w) соответ- соответствующие ^""-почти всем w, абсолютно непрерывны, откуда (Фе * F) (х + het) - (Фе * F) (х) = = j ФЕ (w) [F(x + hei — w) — F(x — w)] dSnw = h = j Фе (w) j D{F (x + tet - w) dS'H dSnw = о h о для любого ftsR, Следовательно, для каждого компакта Кcr R" j 1Д (Фе * F) (х) - DiF (x) | dSnx = к = j | j ФЕ (w) [DiF (x - w) - DiF (x)] dSnw \ dSnx < < sup j j 1 DiF (x—w) — D^ (x) | dSnx: w e spt Фе|, а правая часть стремится к 0 при е, стремящемся к 0, согласно 2.7.18. Таким образом, условие (VI) вытекает из (V). Если выполняется условие (VI), то п. 2.4.12 дает такие вещест- веннозначные ^"-измеримые функции g{, что для каждого компакта K<=Rn, откуда [д (Е« L- /,) ] L- Qt = Sn L. D{f, - 5 L- gr,- в ^„(R") при /->оо. Поскольку EnL/j^71 в S)n(R") при / и операции 3 и LQi непрерывны, выводим, что Таким образом, лз условия (VI) следует (I) и, согласно (III), ра- равенство gi(x) = DiF(x) для ^"-почти всех х. Доказательство утверждения C1). Для 0<р< °° зададим чис- число tp, как в доказательстве утверждения B0), и из A9) получим, что I \f(x)-tp\Sid2'nx]1'fi^oM(dT). ¦ .U@,p) J
534 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Применяя неравенство Минковского, имеем [Up - trl»a(n)p"]i/|1 < 2оМ(дТ), если только 0< р < г < <», и приходим к выводу, что существует та- такое число р-»оо согласно 2.4.6. В случае, когда / принимает только целые значения, числа tp и с будут целыми. Покажем, что о можно заменить на х = n~la{n)~i/n в последнем неравенстве. Заменяя / на /— с, допустим далее, что /«= L^i?"). Сначала рассмотрим частный случай, когда / является характе- характеристической функцией ^"-измеримого множества А конечной ^. Зная из п. 4.2.1, что J М (д [Т L В @, г)] - (ЗТ) L В @, г)) п&1г < М (Т) = а значит, lira inf М (д [Т L В @, г)]) = М (дТ), можно заменить А на А Л U @, г) и считать далее, что множество А ограничено. Каковы бы ни были числа 0<б<1 и 0<е<°°, на- находим, воспользовавшись регуляризацией и 3.2.11, что п~г {х: (ФЕ * /) (х) = s} dgh = J | D (Фе Применяя п. 3.4.3, выберем число s, для которого 0<s<8, 5»»-4as: (Фе * /) (я)= «> < ЩдТ)/6 и-множество {х: (Фе * /) (х)= s) = Bdry {х: (Фв * /) {х)> s} являет- является компактным (га—1)-мерным подмногообразием класса °° в R", затем выведем с помощью 3.2.43 и 3.2.44, что &Чх: (Ф6 * /) (х) > 6)ш < &*Кх\ (Ф. ¦ /) (х) > < х?ёп-Чх: (Ф. * /) (х) = s) < хМ(дТ)/6. Устремляя е к 0+, придем к выводу, что 2?п(А)ш < хМ{дТ)/8, и, наконец, устремим б к 1—. Далее рассмотрим случай, когда /sLf^"), модифицируя дока- доказательство утверждения A8). Зададим У„ /s, ^(s) так же, как в A8), с заменой R на R", заметим, что <oo для 0<s<oo, а следовательно, функция ty абсолютно непрерывна, выведем из
g 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В Rn 535 предыдущего абзаца, что 2(У,)р^тМ[о1(Е'11-7,)] для 0<s<°°, и рассуждая, как в A8), придем к выводу, что B'")(Р)(/)<тМEГ). Если / принимает только целые значения, то I/I < I/I", а значит, 4.5.10. Каковы бы ни были ^"'-измеримая функция / со значе- значениями в метрическом пространстве и числа —°° < а < E < <»} опре- определим существенную вариацию ess vg/ как точную верхнюю грань множества чисел 2 diSt [/(*;), f(tj+l)b i отвечающих всем конечным наборам точек tt, t2, ..., tv, tv+l, являю- являющихся точками 2"-аппроксимативной непрерывности функции /, и таких, что а < ti < U < ... < U < tv+i < p. Заметим, что в случае, когда f — вещественнозначная 3?1-и)зме- римая функция, Е1 L / е N]°c (R) тогда и только тогда, когда Р J* ft | /1 dSx + ess \af < oo, если только — oo<a-<p<;oo, a и что из этого условия следует с: а < х < р} = ег Сглаживая / с помощью такой функции Ф, что эр1фсг {х: \х\ < 1}, найдем, что V 2 I (Фе * /) (*j) — (Фе * /) (tj+i) | < 3=1 Фе И 2 I / (*; - w) - f (tj+1 - w) | dSlw < ess Vg/, 3=1 если только а + е = ^<<2<...<^?< tv+1 = p — e, потому что функция / является ^'-аппроксимативно непрерывной в точках h— w для 3?'-почти всех и;, поэтому J II /? (Фе * /) I dZ1 = У?;ее (Фе * /) < ess Vg/, a+s если только 0 < 2е < ji — а. Доказываемое утверждение следует из этого факта н из 4.5.7, 4.5.9B8).
536 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ Комбинируя предыдущий результат с 4.5.9B7), получаем, что если f — вещественнозначная 2?п-измеримая функция и п > 1, то E"L/eN!,0C(Rn) тогда и только тогда, когда f удовлетворяет условиям: j ] /1 d9?n < оо для любого компакта К a R", к f е. для любого компакта Z с Rn~l и чисел — °° < а < E < °°, е {1, ..., п). Действительно, [д (En L /)] G Л Qi) = - J f-Diyd&n = = - f (& L (/ о XiiZ)) [d (у • Xi,* z если только t^2>a(Rn) и sptTfc^: g«(a;)e Z, а < ж4 < (*}. 4.5.11. Теорема. ?слм icR" и Q = {x; 6"[5L.(R"\4), a;] = 0}, Л = {x: ®n[&n\-A, x] =0}, то следующие два условия эквивалентны: (I) 4 является 2?п-измеримым и поток д(Еп^-А) представим интегрированием; (II) ^^[K^QU #)]<оо 5дя любого компакта К с R". Доказательство. Если выполняется условие (I), то из 4.5.6 сле- следует, что а значит, 20я-1 [Я \(<? U Я)] «г^—ЧЯ П Б)< ~ для каждого ком- компактного подмножества К пространства R", откуда вытекает условие (II). Если выполняется условие (II), то 5 [Rn \((? U Щ] = 0 соглас- согласно 2.10.15. Поскольку Q и R — непересекающиеся борелевские мно- множества и, согласно 2.9.11, &*(Q\A)=*Q и Sn(RuA)=0, отсюда вытекает, что &п[(Rn \Л)\Д] = 0 и 5?лD\(?)=0, следо- следовательно, множество А является ^"-измеримым. Зададим функции qt и Xf, z так же, как в 4.5.9B7), применим п. 2.10.15, чтобы найти преобразование ge О (га), для которого det(g)= 1 и J. N (д4 о g | [В @, /)\(<? U ДI, z) dSn-\< оо
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ п В R™ 537 для i = 1, ..., п и всех натуральных /. Замечая, что EnL4 = EnLC = g»1 [En L завершим доказательство утверждения (I), применяя п. 4.5.10 к характеристической функции / множества g(Q). Для этого рассмот- рассмотрим фиксированное г е {1, ..., в) л положим для 0 < р < 3/к}, для 0 < р < ЗШ, G+(k, m)=G{k)uix: x + set^g{R) для 0 < s < Ыт), G~(k, m)=G(k)u{x: x-set^g(R) для 0 < s < 3/m), H+(k, m) = H(k) Vtix: x + set^giQ) для 0 < s < 3/m), H~(k, т) = Н(к)П{х: x-se{^g(Q) для 0 < s < Ыт) для любых натуральных к и т. Докажем сначала, что #-«(?«[<?+(ft, m)])=0, представляя G+(k, m) в виде объединения множеств Wv = G+(k, т)п{х: (v-l)/m<xi^v/m}, соответствующих всем целым v, и показав, что en-l J^n-l L ^1 «l Если 0<r<inf{l/fc, l/m}, B(z, r)ngri(Wv)^=0 и g > 0, то суще- существует точка b e Wv, .для которой g<(b)s B(z, г) и sup {xu xt^Wv, gr«(a;)eB(z, r)}, поэтому множество содержится в g(R)uB(b, 3r) и AВB, r)](r-er)< З-'-'аСп П B(z, r)]/{«(«- I)/—1] < 1/C- 3e). Аналогично находим, что 2"-'(?,[G-(&, m)Uff+(i, то) U Я-(ft, m)])=0. Далее докажем, что если z e= Rn~l\ U U 9i [<?+ (Л, wi) U G" (Аг т) [) Н+(к,т) \J Я~(А;2 т)] k=i m=l
538 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ и —оо < а < р < °°, то ess Vg (/ о Xi,z) < card {*: а < t < Р, Хг,* (*) ? * (<? U Щ показав, что для любых вещественных чисел и и v, для которых и Х«.«И существует число t между и и v такое, что Xf, *@^ S(Q В противном случае из того, что «@с U G(k), g(R)<=: О Я (ft), fei fci множества G(fc) и Н(к) замкнуты и не пересекаются для любого &, следовало бы, что можно по индукции выбрать положительные це- целые kv и вещественные числа uv, v4 такие, что и для всех неотрицательных целых v, и0 = и, v0 = v и uv л yv заключены строго между uv-i и yv-i, Х<,z(t)& G(kv)U Н(кч) для всех t, заключенных строго между uv и vv в случае v > 1. Тогда для каждого числа t из пересечения убываю- убывающей последовательности интервалов с концами uv л vv было бы справедливо %<,z(t)&g(RUQ). Мы приходим к выводу, что для каждого натурального j * j f^lR" П B@, 2j)\g(Q U Д), z\dSn~1z<Oo. 4.5.12. Каковы бы ни были множества А <= Rn и Q, Д, опреде- определенные так же, как в п. 4.5.11, разумно рассматривать Q как суще- существенную внутренность множества A, R — как существенную внут- внутренность множества R"V1, а значит, R"\(^U7?) — как существен- существенную границу множества А. Замечая, что Bdry А, обычная граница множества А, содержит его существенную границу, получаем след- следствие, вытекающее из 4.5.11. Если А <= R" и У"'1 (К П Bdry 4)< оо для любого компакт- компактного множества К из пространства R", то множество А является ^"-измеримым и поток д(Еп^-А) представим интегрированием. Теперь, комбинируя теоремы 4.5.9 и 4.5.11, установим геомет- геометрический критерий, определяющий, какие локально ограниченные функции могут быть функциями плотности га-мерных локально нор-
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ «В»" 539 мальных потоков в R". Если / отображает &п-почти полностью R" в R, множество f(K) ограничено для любого компакта XcrR" и X, ц, С определены, как в 4.5.9, то следующие условия эквивалентны: (I) / является 2"г-измеримой функцией и Е™ L / е Nnoc (Rn); (II) 9\{М П С)<оо для любого компакта MczRn+i. Для доказательства возьмем множество G и поток S такими же, как в 4.5.9. Если выполняется условие (I), то условие (II) выте-~ кает из 4.5.9E) и 4.5.9D). В случае, когда выполняется усло- условие (II), из 2.10.15 и 2.6.2 следует, что ^"+1(C)=0 и что ц(а:) = = К(х) для ^""-почти всех х, поэтому жз 2.9.13 следует, что функ- функция / является ^""-измеримой. Кроме того, рассуждение во втором абзаце доказательства п. 4.5.9E) показывает, что С содержит суще- существенную границу множества G, поэтому из 4.5.11 следует, что по- поток S локально нормален. Поскольку функция / локально ограни- ограничена, отображение р I sptS собственное, и следовательно, поток p+EL-yn+i) локально нормален, условие (I) получается провер- проверкой равенства По заданной функции f ^ 3)° (R") выберем функцию а <= 2)" (R) так, чтобы «(j/«+i) = 1 Для любого у е= С П р~1 (spt f), положим $(t)= ta(t) для (sR и, применяя п. 4.5.6, находим (S L Yn+1)p*(yADX1 л ... (En+1 L G) [(p' с Yn+1) A(y°p)ADY1A...A DYn+1] = = f у (x) f (x) d2?nx = (En L f){yADXxA...A DXn). 4.5.13. Следующий пример показывает, что третье заключение н.4.5.9C1) может нарушаться в случае, когда значения/ не целые, даже если spt/ компактен. Пусть п— 1 < ^ < ге и l<v<°°. Опре- Определим на Rn функцию / следующим образом: f(x)= 1, если Ы < 1, f(x)= \x\~\ если 1 < \х\ <v, j(x) = \--'(v + l- \х\), если v«S Ы <v + l, 1(х) = 0, если Ul >v + 1,
540 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ и, применяя 3.2.13, получим (vn~v - 1)/(л - у), V V+1 j rn-lv-4Sh < y/(y + 1 - га) + 2V-1-7. 1 V Поэтому, выбирая v большим, можно сделать изопериметрическое отношение М(ЕП L /)(п-1)/п/М [д(Еп L /)] сколь угодно большим. Кроме того, это отношение не меняется, если / заменить функцией /° }x2v/e, носитель которой содержится в U@, е). 4.5.14. Теперь выведем оптимальное изопериметрическое нера- неравенство для одномерных целочисленных циклов в Rn. Если R e I^R") и 8R = 0, то существует поток S e I2(R"), для которого dS = R и [4яМE)]1/2 < M(R). В силу 4.2.20 и 4.2.17 задача легко сводится к частному слу- случаю, когда R является простой замкнутой ломаной. Допуская, что Я = 2 [«4-1, «Ч] и i=l i=l где а0, аи ..., av-i, а? = аа^ R", заметим, что V-1 Положим Ьо = 0 и для i = 1, 2, ..., v по индукции выберем точки bt e R2 хак, чтобы треугольник с вершинами 0, Ъг-и Ь( был конгру- конгруэнтен треугольнику с вершинами а0, а(_], а< и где Xi, X2 — обычные координатные функции на R2. Применяя 4.5.9C1) при га = 2 и Т = "S [60. b*-i. Ч, дТ = S [bi-i. М, i=l i=l приходим к выводу, что М (а0 X ДI/2 < М (ГI/2<2-1я-V2M <4я) -1/2
§ 4.5. НОРМАЛЬНЫЕ ПОТОКИ РАЗМЕРНОСТИ пВЕ" 541 4.5.15. Теперь рассмотрим ^"-измеримую вещественнозначную функцию f с компактным носителем, которая удовлетворяет усло- условиям 4.5.9C0), и получим следствия, вытекающие из ^"-суммируе- ^"-суммируемости степеней функции HapD/H. Если К|<и и г\=*п%/(п— g), то где c = a{n)-u%(n)[(l)] Это утверждение выполняется при /e«?5°(Rn), поскольку из 4.5.9C1), в котором / надо заменить на |/|"/р, и из неравенства Гёльдера следует, что (J | / |ч dS^ < с J | /1**»1| Df I dSn В общем случае утверждение получается с помощью регуляризации. Поскольку п%/ (п — %) ->• °° при |-»-п—, из условия ^"-сумми- ^"-суммируемости функции HapD/H" следует, что функция 1/1' является 3?п- суммируемой при К ? < «>, но в случае п > 1 из этого условия не следует, что / является ^"-существенно ограниченной, как пока- показывает пример, который будет приведен в конце пункта. Если п < g < оо, j | ар Dff dSn < оо ц6 = 1- n/g, то F, определенная в 4.5.9, удовлетворяет условию Гёльдера a, JeR" Y = [ J (I /1 + II ар Df ИI dST/a (n)fl < оо. Тот факт, что y < °° следует из предыдущего абзаца (применен- (примененного с заменой g, ц на reg/(re + g), ?) и неравенства Минковского. Полагая Т = Е" L. /, g = I/I + Пар D/II, так что НГП + \\дП = 2?п^-g, и, применяя неравенство Гёльдера, получим j | g | d2n < (j | g t dZnfl [a {n) p*]1-™ - Y« (n) Pn^1+e В(У,Р) для jeR" иО<р<°°. Затем применим 4.3.10 с заменой /, X на 1r7ii 1 и, вспоминая 4.5.9B4) завершим доказательство. Следующий пример показывает необходимость условия g > n в предыдущем абзаце и условия б > 0 в 4.3.10. Считая, что п > 1, положим А (г) = In On (sup {1 + r~\ e})] для 0<r<oo, /(s)-=fc(l*l) для i6
542 ГЛ. 4. ГОМОЛОГИЧЕСКАЯ ТЕОРИЯ ИНТЕГРИРОВАНИЯ и заметим, что spt / = В @, к), где к = 1/ (е — 1), k ' (r) p dS^r = j" r-4 In о k < j r-i [-In (r)]"n d^V = [In (e - l)]1/n/(n - 1),. откуда V = [j (| /| + \\D1\)nd2n/a{n)\'n<: oo, [Ш1 + ИдП1]В(у, p)^'ya(re)pn-1 для jeR" и 0 < p < <», но функция / не будет ^"-существенно ограниченной, потому что /(а:)-»- оо при х -»¦ 0. 4.5.16. С помощью 4.1.7 находим, что изоморфизм S>n(R")^.2>o(R"), который отображает поток rs^n(R") на поток T[_(DX1\... ... ADXn), а обратный, к которому отображает поток 5e25o(R") на поток 5 Л ех Л .., Л е„, связывает операторы д и А равенствами = (- II (9Г) L {DX1 Л ... Л Z>^i-i Л DXi+1 Л ... Л для i = 1, ..., п и п 5 E Л ех л ... Л е„) =— S (DiS Л ех Л ... Л en) L Ш^. г=1 Вспоминая 4.4.7, получаем, что згог изоморфизм отображает N'°° (Rn) = 2>п (Rn) П {Г: 5Г представим интегрированием} на пространство тех распределений S типа R, чьи частные произ- производные DiS, ..., DnS представимы интегрированием. Каждое такое распределение S соответствует локально ^"-суммируемой функции, потому что наш изоморфизм отображает En L / на i?" L. /. Кроме того, 4.5.9C0) показывает, что Nn0C (Rn) П \Т'. мера \дТ\ абсолютно непрерывна относительно 2} отображается на подпространство тех распределений, чьи частные производные соответствуют локально ^"-суммируемым функциям. 4.5.17. Если R <= 5?„-1 (Rn) и dR = 0, то существуют ^-измери- ^-измеримые множества М{, соответствующие всем целым i, такие, что М{ СГ Mi-i U R = S д (Е" L Мг), |Л|- 21|3(ЕПЬ^I. Действительно, Д = дТ, где Г е In(R") и Г = Е" L- / для некото- некоторой ^"-суммируемой функции / с целыми значениями, поэтому из 4.5.19A3) следует доказываемое утверждение при Mf = {x: f(x) ^i).
ГЛАВА 5 ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Теория, развитая в этой главе, основывается на понятии интеграла от параметрического интегранда Ф степени т по m-мерному спрям- спрямляемому потоку Т (это понятие определяется в 5.1.1), на понятии эллиптичности, определяемой в 5.1.2, и на понятии минимизирую- минимизирующего Потока, определяемого в 5.1.6. Например, поток S<=5?m(R") является абсолютно Ф-минимизирующим относительно R" тогда и только тогда, .когда <Ф, S> < <Ф, Т> для всех Т ^&m(Rn), для ко- которых dS = dT. После доказательства в теореме 5.1.5 полунепрерывности снизу в 5.1.6 два эффективных утверждения о существовании Ф-мини- мальных потоков выводятся из свойства компактности, установлен- установленного в 4.4.4. Почти вое рассмотрения направлены на изучение задачи внут- внутренней регулярности Ф-минимиэирующего потока S. Комбинируя общие свойства спрямляемых потоков с оценками изопериметриче- ской плотности, мы получим в 5.1.6, что Tan(spt S, z) является m-мерным векторным пространством для И^Н-почти всех точек z e spt S \ spt dS. Задача состоит в том, чтобы показать, что эти ка- касательные пространства меняются непрерывно на достаточно боль- большом множестве точек % и что большая часть множества spt S \ spt OS является m-мерным гладким многообразием. Хотя множество spt S \ spt OS может иметь непустое сингулярное подмножество (см. 5.4.19), кажется правдоподобным, что сингулярное множество не может быть слишком большим. Мы докажем несколько резуль- результатов такого сорта (см. 5.3.17). Используя оригинальные методы из [AF 6], в § 5.3 приводятся все общие теоремы, известные в настоящее время, касающиеся свойств внутренней регулярности Ф-минимизирующих потоков для произвольного положительного эллиптического интегранда Ф клас- класса три. Альмгрен рассматривал задачу, отличную от нашей, по- поскольку он минимизировал интеграл j Ф[г, f{z)]d?emz (г: 6т(||Г||,2)>1} вместо интеграла, определенного в 5.1.1. Мы воспроизводим в моди-
544 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ фицированном виде основные идеи его работы при доказательстве ключевых лемм 5.3.4, 5.3.7, 5.3.8 и 5.3.10 и основных теорем 5.3.13, 5.3.14, 5.3.16. Раньше теоремы регулярности были получены в специальном случае интегранда площади степени т в пространстве R" для т = = 2 = п — 1 в [FL 3], а для т = п — 1 в [DG 6], а для всех т<п они являются следствием |R3]. Фактически частный случай п. 5.3.16, когда Ф является интеграндом площади, можно вывести из эпилериметрического неравенства, содержащегося в [R3], используя методы работ [FT1] и [FL3, 4]. Изложение этого вывода планирова- планировалось включить в нашу книгу, но теперь можно сослаться на весьма общий подход работы [AF 6]. Некоторые очень интересные специальные результаты о регу- регулярности потоков, минимизирующих площадь, не удается включить в общую теорию, представленную в § 5.3. Эти результаты можно найти в § 5.4. Дополнительная техника, применяемая в этом спе- специальном случае, использует монотонность коэффициента плотно- плотности, существование касательных конусов и формулы дифференци- дифференциальной геометрии. Предложения 5.4.3A) и 5.4.5C) впервые появи- появились в работе [FL3]. Утверждение 5.4.3C) и его модификация 5.4.4 заимствованы из [FF]. Утверждения 5.4.3G) и 5.4.8 были доказаны для т = п — 1 в работах [TD 1, 3]. Лемма 5.4.14 была сначала по- получена для п = 3 в работе [FL 3], затем для п = 4 в работе [AF 5], а при 3<в<7в [SJ], где был развит метод, изложенный в 5.4.13. Этот метод использует некоторые факты из дифференциальной гео- геометрии, которые приводятся в 5.4.11 и 5.4.12, чтобы сделать изло- изложение замкнутым. Более подробное изложение, при котором эти факты укладываются в рамки общей теории связностей, можно найти в книге [KN, т. 2]. Переход от леммы 5.4.14 к теореме 5.4.15 и ее частичному обобщению в 5.4.16, проводится по схеме, приве- приведенной в работах [FL 3] и [TD 1, 2, 3]. Результат 5.4.17 является но- новым. Предельные конусы впервые использовались в стиле п. 5.4.18 для нового доказательства классической (п = 3) теоремы Берн- штейна в работе [FL 3]. Предложение 5.4.19 восходит к i[F 19]. До этого в [WW] рассматривался частный случай, когда sptT\s\>ldT является комплексным ц-мерным голоморфным подмногообразием в С". Для нас главный интерес представляет случай, когда множе- множество сингулярных точек не пусто. Важную роль при изучении Ф-минимизирующих потоков играют вариации, связанные с изотопическими деформациями окружающе- окружающего пространства. Эти понятия определены в 5.1.7 и используются в 5.1.8-5.1.11, 5.2.18, 5.3.7, 5.3.8, 5.4.3A), 5.4.12, 5.4.14. В геометрических конструкциях очень полезно, что понятие эл- эллиптического интегранда, которое приводится в 5.1.2, следуя рабо- работе [AF 6], имеет свойство инвариантности в смысле 5.1.4. В равной мере при аналитических рассмотрениях полезен факт, что вторые дифференциалы непараметрического интегранда Ф§, ассоциирован-
§ 5.1. ИНТЕГРАНДЫ И МИНИМИЗИРУЮЩИЕ ПОТОКИ 545 ного с эллиптическим параметрическим интеграндом Ф степени т, удовлетворяют в силу 5.1.9 и 5.2.17 условию сильной эллиптичности в смысле 5.2.3. Это непараметрическое условие Лежандра приво- приводит, согласно 5.2.5, к некоторым решающим оценкам в доказатель- доказательстве утверждения 5.3.8 и позволяет использовать теорему 5.2.15 в п. 5.2.18 для доказательства гладкости высшего порядка всех Ф-минимизирующих потоков, у которых носитель лежит в то-мер- ном подмногообразии класса 1. Наши рассмотрения сильно эллиптических систем уравнении второго порядка в частных производных в § 5.2 не являются исчер- исчерпывающим изложением темы (такое изложение можно найти в [МСВ4]), но содержат вое те результаты, которые потребуются для геометрических приложений в § 5.3. Мы не доказываем теорему существования для задачи Дирихле, хотя такая теорема легко сле- следует из 1.7.13 и приводимого в 5.2.3 неравенства Гординга (см. [NI1]). Мы обычно требуем, чтобы слабые решения дифференци- дифференциальных уравнений были функциями класса 1, а также часто тре- требуем, чтобы их дифференциалы удовлетворяли условиям Гёльдера. В нашей работе не используется преобразование Фурье. После доказательства основной априорной оценки для сильно эллиптических билинейных форм в 5.2.3, следуя общей схеме рабо- работы [NI2, лекция 4], мы получаем в 5.2.5 неравенство типа Коши для решений однородных уравнений с постоянными коэффициен- коэффициентами. Далее строятся фундаментальные решения уравнений с по- постоянными коэффициентами в 5.2.7—5.2.11 методом работы [/], об- обобщенным на системы в [ВСВ 2]. Далее доказываются теоремы 5.2.14 и 5.2.15, из которых следует существование высших произ- производных у решений сильно эллиптических уравнений, а также ре- решений нелинейных уравнений, возникающих из эллиптических ва- вариационных задач. Для этих целей используется частично техника работы [МСВ 2], в которой эти результаты были получены впервые для произвольной размерности; частный случай т = п — 1 рассмат- рассматривался раньше в работе [НОЕ 2]. В 5.2.19 доказывается классический принцип максимума, восхо- восходящий к [НОЕ 1], а также второе предложение, открытое недавно в работе [AF 7], которое имеет то преимущество, что оно применимо к произвольным эллиптическим вариационным задачам при т = п — 1. § 5.1. Интегранды и минимизирующие потоки 5.1.1. Предположим, что Z — открытое множество в R". Не- Непрерывное отображение Ф: Z удовлетворяющее условию Ф(г, ra) = rO(z, а) для z&Z, ae=AmRn, 0<rsR« 35 г. Федерер
546 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ называется параметрическим интеграндом степени т на Z. Инте- транд Ф называется интеграндом класса к (аналитическим инте- интеграндом), ©ели Ф|[гх (ЛтК"\{0}] является функцией класса А (аналитической). Будем говорить, что Ф — положительный инте- гранд, если Ф(г, а)>0 для zeZ, Всякий раз, когда 7*е= 9U (Z), выражение $<!>[stf{z)]d\T\* называется интегралом от Ф по Т и обозначается символом Ф или <Ф, Ту. Это эквивалентно продолжению линейной функция Т, заданной на пространстве дифференциальных форм, до линейной функции на пространстве параметрических интеграндов. В самом деле, каждой непрерывной дифференциальной форме <р степени m на Z соответ- соответствует параметрический интегранд Ф, определенный формулой Ф(г, а)= <а, <p(z)> для z^Zf а<=ЛтКп. В этом случае интеграл от Ф по Т равен Г(ф) в соответствии с 4.1.7. Построим простой, но очень важный положительный интегранд, исходя из скалярного произведения на Л»>К\ положив Ф(г, а)=Ы=(а-а)'/2 для zeR», аеДтК". В этом случае <Ф, Г>=М(Г) всякий раз, когда Т^Мт{Яп), по- поскольку из 4.1.28 вытекает, что \T(z)\ = ИГ(z) 11=1, для ПШ-почти всех х. Построенная функция Ф называется параметрическим инте- интеграндом площади степени т на R". Всякий раз, когда Ч1" — параметрический интегранд степени т на открытом множестве V в некотором евклидовом пространстве, a G: Z-+V — отображение класса 1, определим параметрический интегранд G*4? степени т на Z формулой (G*4) (z, а) - ? [G(z), <o, ЛжЯС(*)>], для z&Z, as AmRn- Если T<=9tm(Z), а поток G I sptT* унивалентен, то ТУ = <Y, G+r>.
g 5.1. ИНТЕГРАНДЫ И МИНИМИЗИРУЮЩИЕ ПОТОКИ 547 В самом деле, используя результаты п. 4.1.30 при Т = Ж* л| и п. 3.2.20, получим ), l\mDG(z)y\d\T\z = [», G^T (p)] d\ G+T\ v = <Y, G+T>. Необходимость требования унивалентности показывает следующий пример: G: R->R, G(z)=zi для zeR, Г = [-1,1]; )-lpl для вен, Pe=AiIt; i ТУ = J | 2z | d5'1z= 2 и G+Г = 0. —г Если Ф — положительный параметрический интегранд степени m на Z и если Tt, Ti^9lm{Z), то Вспоминая 4.1.28, запишем Тх = Жт Л |г, Т2 = Жт л|а и заметим, что пг-векторы ii(z) и |г(г) линейно зависимы для ^"-почти всех z^Z. Следовательно, 5.1.2. Предположим, что Ф — параметрический интегранд сте- степени т на U. С каждой точкой a&Z свяжем отображение Фа: AmRn->R, Фа(а)=Ф(а, а) для ae=AmRn. По определению интегранд Ф называется эллиптическим в точке а, если найдется такое положительное число с, что неравенство ШЦФа°R)- WSH(Oa°S)>c[M(R)-M{S)] имеет место всякий раз, когда R^3im{Rn), Se^^R»), dR=*dSt sptS содержится в векторном подпространстве пространства R", ас- ассоциированном с простым пг-вектором f в R" и S(z)=i для WSW-почти всех z. В этом случае число с называется константой эллиптичности инте- гРанда Ф в точке а. 35*
548 ГЛ. Б. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Интегранд Ф называется эллиптическим, если Ф является эллиптическим в каждой точке области Z и если, кроме того, для каждого компактного подмножества K<=-Z существует единая, не зависящая от точек из К, константа эллиптичности .интегранда Ф. Пусть символы jR, S, 1 обозначают то же, что и выше. Тогда поскольку d{R — S) = О, R — S = д {80 X (Я — S)] и для каж- каждой вещественнозначной линейной функции % на Л т Rn постоянная дифференциальная форма ф, принимающая в каждой точке из Rn, значение %, имеет нулевую внешнюю производную. Следовательно, Пусть 0 < с s R, Рассмотрим функцию F, определенную формулой ^(а)=Фо(а)— eld для аеДтКп. Заметим, что F(ta)= tF(a) для 0 < t e= R. Следовательно, функ- функция F выпукла тогда и только тогда, когда F(a+ $)^F(a)+,F($f для всех а, ре Дта Rn- Проверим, что из выпуклости функции F вытекает эллиптичность интегранда Ф в точке а с константой эл- эллиптичности с. Из утверждений п. 2.4.19 заключаем, что J (F. R)d\R\ = J (Фа« R) d[R\ - cM(R). Интегранд называется полуэллиптическим, если в определении эллиптического интегранда константу с положить равной нулю. Заметим, что из выпуклости интегранда Фо вытекает полуэллиптич- ностъ интегранда Ф в точке а. 5.1.3. Предположим, что X — нормированное векторное прост- пространство, F: X -*• R — непрерывное отображение и .F|X\{0} — клас- класса 2. Заметим, что F — выпуклая функция тогда и только тогда, когда для любых двух линейно независимых векторов а и § функ- функция F (а + ?§) вещественного переменного t является выпуклой. Вычисляя вторую производную от функции F(a + t$), получим, что выпуклость функции F эквивалентна условию <р©Р, D2F(a)>>0 для Оч^овЙГ, 0e=J. В случае, когда X — пространство со скалярным произведени- произведением, с е R и F(a) = Q(a)—c\a\ для
§ 5.1. ИНТЕГРАНДЫ И МИНИМИЗИРУЮЩИЕ ПОТОКИ 549 заключаем, что выпуклость функции F эквивалентна условию всякий раз, когда ОФа^X, psX. Отметим также, что В частности, если L — непрерывный линейный автоморфизм пространства X и й(а)= 1?(а) I для а е IX, то <Р 0 Р,. &Q (а)> = | L (а) Г31L (Р) Л ? (а) |г> Следовательно, F является выпуклой при условии, что с < eg IILH-3 IIL-Mi-4. Для того чтобы получить дифференциальный критерий выпук- выпуклости функции F, рассмотренной в 5.1.2, в случае, когда Ф — па- параметрический интегранд степени та и класса 2, можно поло- положить X = Л»>^Пи й = Фо. Полученное условие на /?2Ф„ называет- называется параметрическим условием Лежандра для интегранда Ф в точке а с константой с. Если это условие имеет место с константой с > 0, то интегранд Ф эллиптический в точке а с константой с. Приведенные выше рассуждения можно применить к произ- произвольному линейному автоморфизму f пространства R", если поло- положить L = Ля»А Тогда всякий раз, когда В. и S такие же, как в 5.1.2. Этот метод будет использован при доказательстве следующей более общей теоремы, в которой устанавливается инвариантность эллиптичности относи- относительно диффеоморфизмов. 5.1.4. Теорема. Предположим, что Z и V — открытые множества в R" и Rv соответственно, G: Z -»- V — отображение класса 1, a DG(a) унивалентно для каждой точки a^Z. Если Ч? — эллипти- эллиптический интегранд степени m на V, то G*1? — эллиптический интег- интегранд на Z; при этом, если a^Z, а б — константа эллиптичности для Ч? в точке G(a), то ~- константа эллиптичности для G*W в точке а. Аналогично, если V — полуэллиптический интегранд, то таковым же является и G*4f
550 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Доказательство. Заметив, что утверждение теоремы тривиально, если G — изометрическая инъекция, и вспоминая 3.1.18, будем предполагать, что п = v, G — диффеоморфизм. Предположим, что a^Z, б — константа эллиптичности для ин- тегранда ? в точке G(a), J = DG{a), L= Дт/и с = ШН IIL-'IH. Если R и S удовлетворяют требованиям п. 5.1.2, то этим же усло- условиям удовлетворяют и /+Д, f*S. Интегралы преобразуются под действием линейного автоморфизма / пространства R" согласно 5.1.1. Результаты п. 5.1.3 при Q = \Ь\ позволяют применить сооб- соображения пункта 5.1.2 с заменой Фа на \L\, что дает следующую оценку: ИДИ [(G*4)a ° R] - WSW = ИДП{ЧГвт °L°R]- Ш[4V = И/+ЛИ[^G(«, -7Э-П/+511 V? R)- №{\L\ Подобные, но более простые аргументы с заменой 6 на 0, при- применяются в случае, когда Ч* — полуэллиптический интегранд. 5.1.5. Теорема. Если Ф — положительный полуэллиптический интегранд степени m на Z, а К — компактное подмножество в Z, то функция на пространстве 9tm%K{Z), отображающая Т в <Ф, ТУ, является полунепрерывной снизу относительно &~к-топологии. Доказательство. Заменяя Z на подходящую окрестность компак- компакта К, будем предполагать, что существует такое конечное положи- положительное число Я, что Я-11а! <Ф(г, а)<Х|а| для z^Z, аеДтК", Предположим, что последовательность Ти Тг, Tt, ... сходится к Q в #~я-топологии в пространстве Штш к (Z). Покажем, что i-»oo Обсудим сначала частный случай, когда Q — целочисленная поли- полиэдральная цепь. Для данного е > 0 рассмотрим семейство F всех шаров В (а, г), содержащихся в Z и таких, что |Ф(г, а)—Ф(а, а) I < е |а| для zeB(s, r), as AmRn. Пересечение В (а, г) П. spt Q содержится в некотором m-мерном аф- аффинном подпространстве пространства Rn и В (а, г) П spt dQ — &, Следовательно, QL В (a, r) является целочисленным кратным
§ 5.1. ИНТЕГРАНДЫ И МИНИМИЗИРУЮЩИЕ ПОТОКИ 551 ориентированного /re-мерного шара. Проверим, что <Ф, Q L В (а, г)> < в|Q|| В (а, г) + + A + гк) liminf <Ф, Тг L В(а, г)> i-* оо всякий раз, когда В (a, r)^F. В предположении 0 < р < г, выберем потоки X, е Sim K (Z), 7, е Жт+i, я (Z), для которых Q-Tl = Xi + dY{ так, чтобы М(Х;)+ MGi)-»- 0 при i->-<». Применяя к функции »(z)= [z — a|,zeRB утверждение 4.2.1, найдем такие числа sit что Следовательно, Qi-B(a, st)= Sf + d{Yt L В (а, *,)], где 5, = (Tt + Xt) L В (a, s4) - <7,-, u, s{ +> e Я, (Z) в силу 4.2.16 C). Используя полуэллиптичность интегранда Ф в точке а, получим оценку <Ф, <?>-В(а, р) > — е Н^И В (a, r)< \\Q L В(а, < 115,11 (Фа • Si) < Wt L В (а, в,) II (ф. • Г,) + X [М (ВС,) + + М<У(, и, «|+>]< <Ф, Г41-В(а, r)> + e!lr,DB(o, r) + Ф, ГЛВ(а,г)> Пусть i -»¦ oof тогда р-»-г—. Вспоминая теорему 2.8.18, покроем ll^ll-почти полностью множество Z счетным подсемейством семейст- семейства F, состоящим из непересекающихся подмножеств, и сделаем вы- вывод, что Теперь займемся общим случаем. Для данного в > 0, выберем такое компактное подмножество С в Z, что К с= Int С. Применяв теорему 4.2.20, получим Pe^m,c(Z) и диффеоморфизм / класса 1, отображающий Z в Z, такие, что )<2, f(K)<=C. Тогда в силу 5.1.4 \Р = /~1+Ф — положительный полуэллиптиче- полуэллиптический интегранд и ^(z, а)<Я2т|а1 для zeZ, osAmR". Последовательность потоков P + f+(Tt — Q) сходится в #"с-тополо- гии к Р в 5?m, c(Z). Используя 5.1.1 и результаты предыдущего.
552 ГЛ. Б. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ частного случая, получим оценку <Ф, <?> - Я2те < <?, UO >-<*, /+<?- ^> < < <Ч, Р> < lim inf <ЧГ, i> + /+ (Tt - <?)> < <?, Р - + lim inf <?, /+Г{> < Я2те + lim inf <Ф,, Т^. 1-> оо i-»oo 5.1.6. Здесь будет предполагаться, что Ф — положительный по- полуэллиптический интегранд степени m в Z, В cz А, А и В — ком- компактные липшицевские окрестностные ретрапты в Z. Мы будем использовать следующую терминологию. Поток S ^ 9lm, a (Z) называется абсолютно Ф-минимизирующим относительно (А, В), если <Ф, 5Х<Ф, S + X> для любого Хе?тD, B)U0L(Z). Поток jSs^m,a(Z) называется гомологично Ф-минимизирую- Ф-минимизирующим относительно (Л, В), если <Ф, 5><<Ф, S + X> для любого Хе#т(Л, B)K9lm{Z). Поток 5e^»,x(Z) называется локально Ф-минимизирующим относительно (А, В), если А имеет покрытие, состоящее из таких открытых множеств N, что <Ф, 5><<Ф, S + ХУ для любого X^Zm(A(\N, BUN)(\0tm{Z). Ясно, что каждый абсолютно Ф-минимизирующий поток явля- является гомологично Ф-минимизирующим. Кроме того, каждый гомоло- гомологично Ф-минимизирующий поток является локально Ф-минимизи- Ф-минимизирующим. Для доказательства этого утверждения, предположим, что /» ё> ^» Уг W такие же, как в 4.4.2, причем 7 с [/ с Z. Покроем А семейством F={W}\){V(a, r): V(a, r)czV\B) и проверим, что Zm(A (\N,B(\ N)<=&m{A, В) для N = F. В случае, когда N = W, сформулированное утверждение вытекает из 4.4.2 C), а в случае, когда N = JJ(a, r)<= U\B, оно справедливо в силу того, что X = f+d (Ьа X X) для любого X е= Хт (А П N). Существование некоторых Ф-минимизирующих потоков гаранти- гарантируют следующие два предложения. A) Если R e SSm-i(A, В), то существует такой абсолютно Ф-ми- Ф-минимизирующий поток S^S4mtA{Z), что spt(fl — dS)<=B. B) Если T^&tmiA(Z) и %^Mm(A, В), то найдется такой го- гомологично Ф-минимизирующий поток S^&m,A{Z), что Т — 5е%.
§ 5.1. ИНТЕГРАНДЫ И МИНИМИЗИРУЮЩИЕ ПОТОКИ 553 Для доказательства первого предложения определим Т = 9U,л(Z) П {(?: s$t{R - dQ)<= В}, Отметим, что Y Ф 0, 0 < ц < °°. Выберем такую последователь- последовательность потоков Qi s T, что lim <Ф, Сг> = I*. Поскольку существует конечное положительное число Я такое, что Ф(х, а)>%-1 Ы дляжеЛ, oeAmR"» то lim sup M (Q{) ^ Яц. i-»oo Из 4.4.4 выводим, что М-ограниченная последовательность по- потоков Q<-Qi = Zm(A,B) имеет такую подпоследовательность, которая является &"а.<в сходя- сходящейся в 2?т(А, В). Итак, мы получили такой поток P^Zm(A,B), что lim inf ff-AtB (Qi - <?i - P) - 0. i-»oo Полагая 5 ¦= (Qt + P) L. (Z\5), находим, что lim inf j* TA [(Qi — S)\_H (r)] ASxr = 0,; где #(r)=Zfl {z: dist(z, 5)>r}. Из 2.4.6 вытекает, что существует такое сколь угодно малое положительное число г, что lim inf ff-A [(Qi -S)\_H (r)] = 0, а из 5.1.5 следует, что для каждого такого г справедливо неравен- неравенство <Ф* S L Я (г)>< lim inf <Ф, Qt!_ Я (г)> < ц. Поскольку П5П5 = 0, то lim inf <Ф, S L Я (г)> < ц. г-»о+ Замечая, что S + X^Y для каждого Ха^т'D, В), получим ра- равенство <Ф, S> = n, и поток S является абсолютно Ф-минимизиру- ющим относительно (А, В).
554 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Второе предложение может быть доказано с использованием аналогичных аргументов, причем 52т, аB)П {Q: T — Q^X) играет роль, аналогичную Y. Теперь установим основное свойство плотности минимизирую- ющих потоков. Если поток S<=Mm,a(Z) является абсолютно Ф-минимизирую- щим относительно (А, В), 0<Я<«>, X-Mal^O(z,a)^Xlal для (zt a) e= Z X AmRn и если а е spt S, О < р «S dist (a, spt OS), то где о—изопериметрическая константа для (А, В), которая полу- получается применением 4.4.2B), с заменой m на /п— 1. Определим Sr = Si-\J(a, г) и /(r) = MEf) для r«=R. Применим 4.2.1 к функции b(z)=|z — a\, z<=Z, чтобы показать, что 2"-почти все числа г между 0 и р удовлетворяют условию поскольку spt dS <= Z\U (a, p). Тогда 4.4.2B) дает такой поток Yre&m,A(Z), что spt(dST-dYr)c=B и М(Уг)(т-1)/т^о/'(г), «ледовательно, Yr — Sr&S?m(A, В) и <Ф, 5Г> + <Ф, S-Sr> = <Ф, S> < <Ф, 5+ Уг-Sr> ^ <<Ф, УГ> + <Ф, S-ST>, Яг'М (Sr) < <Ф, 5Г> < <Ф, YT> < Ш (Уг), [Л-2/ (г) ](m-1)/m ^ о/' (г), Л2""-* < отге (/*/т)' (г). Для объяснения последнего шага заметим, что f(r)>0 для г>0, поскольку а е spt 5. Мы получим неравенство I/(p)]1/m> J (/1/m)' dS'»>^/ta-ta-1i»-1p, о если применим 2.9.19 к неубывающей функции fi/m. Получим следствие: если поток S является абсолютно Ф-мини- мизирующим относительно {А, В) и а^spt<S\sptdS, то и Tanm ASI a) =. Tan (spt 5, a). Вспоминая 3.1.16, предположим, что ve Tan (spt 5, a), l»l = l и -2-. Всякий раз, когда 0<2SsSdist(a, spt55), найдется та-
§ 5.1. ИНТЕГРАНДЫ В МИНИМИЗИРУЮЩИЕ ПОТОКИ 555 кая точка х s spt S и такое г > 0, что \r(x-a)-v\<e, |ar — al <б. Поэтому U(ж, 6/r)cE(e, v, 2e)nU(a, \х-а\ + г/г), B<i-e=*\v\-e<r\z-a\<r8, \х - а\ + г/г < 28, l + e>r\x-a\, A + 2г)г/г>г(\х-а\+е/г), 0511 [Е(a, v, 2е) П U(а, \х - а\ + в/г)] > IISIIU(х, г/г)> где ^ = (Xim~2ammm)~i. Соответственно в? 11| S1L Е (а, V, 2е), а] > угт A + 2е)~т а (т) > 0. Вспоминая 4.2.25, заметим, что если поток Т является абсолютно (гомологично) Ф-минимизирующим относительно (А, В), то тако- таковыми же являются и неприводимые потоки Tt, поскольку 2 1=1 Определение различных типов минимальных потоков остается полезным и находит применение в случае, когда А или В не явля- являются компактными. Это расширение не влияет на локальные свой- свойства, однако теоремы существования A) и B) не обобщаются на этот случай, что следует, например, из невозможности минимизации длины одномерного цикла на поверхности конуса, у которого уда- удалена вершина. Расширим понятие минимизирующего потока также на случай, когда S является локально спрямляемым, а Ф — положительным интеграндом, потребовав выполнение для всех компактных подмно- подмножеств К в А (и всех X таких же, как выше) неравенства 5.1.7. Предположим, что W <= Z — открытое множество в R". Рассмотрим изотопическую деформацию h класса к +1 > 3 подмно- подмножества W в Z. Это означает, что h: IXW-+Z является отображением класса k+i, I — открытый интервал, 0^1, Ао — отображение включения подмножества W в Z и для каждого t^I отображение ht является диффеоморфизмом, отображающим W на открытое подмножество в Z. Определим ht(z) = h(t, z) и /4" (z) = <A, 0)*, Dxh (t, *)> для (*, z) e / X W, и обозначим h™ = htl h™ = ht.
556 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Пусть T&SZm{W), а Ф — параметрический интевранд степени m и класса к на Z. Положим J{t)=<O, ft(+r> для *е/. Тогда J является функцией класса к. Действительно, из 5.1.1 вытекает, что *{t)d\T\zt где <рг(*) = Ф[Мг), <r(z), AAW» для НГП-почти всех z. Функции фг являются функциями класса к, и их первые к произ- производных ограничены равномерно по z на каждом отрезке, принадле- принадлежащем /, поскольку функция, отображающая (t, z) в Am Dht (z)t является функцией класса к. Дифференциалы от этой последней функции можно выразить явно в терминах дифференциалов от h, используя формулу Г [ Д« Dht (*)] = Г [Dht (z)]m/m\x полученную в 1.4.5. С помощью 2.4.9 заключаем, что jW> (t) = J фг{) (t)d\ T\z для fe/t i == 0,, 1, ..., к. Число /(<> @) называется г-й вариацией, ассоциированной с Т, Ф, h и обозначается через 8w(r, Ф, h). Для ИШ-почти всех точек z можно выбрать такую ортонормаль- ную последовательность wu ..., wm, что Т (z) = wx t\ ,.. t\ wn. Сле- Следовательно, дифференцируя выражение <Т (z), Am Dht (z)> = (w1% Dht (z)> Л ... Л <wm, Dht (z)> no f в нуле, получим m-вектор m 2 Л .. * Л ич-г Л <wit Dft0 (z)> A^i+i Л ... Л wm, t=i норма которого не превосходит mWRa(z)W. Отсюда делаем бывод, что Если BczA^-Z, а поток Т является гомологично Ф-минимизи- рующим относительно (А, В) и h(IXsptT)<=A, h[IX(B(\sptdT)]c: В ) = z, для «е/, z
§ 5.1. ИНТЕГРАНДЫ И МИНИМИЗИРУЮЩИЕ ПОТОКИ 557 то bli)(T, Ф, А) = 0, а bw(T, Ф, h)>Q. Мы докажем, что функ- функция / имеет минимум в нуле и, следовательно, /'(()) = О, J" @)>0. Пусть se/. Проверим сначала, что sptMtO, s]XdT)<=B. Определим H(t, z) — z для (t, z)<=IXZ. Отметим, что Я+ (tO, si X Q) = 0 для Q s 0m_t (Z). Пусть К совпадает с отрезком 10, s]. Если V — некоторая окрест- окрестность подмножества В, то U = U: h(KX{z})<=V) также является окрестностью подмножества В, и найдется такая функция (peSH(Z), что sptф <=Z\B, (sptdT)\Uczlnt{x: ф(ж)=1}. Положим Q — (дТI- ф; тогда, используя утверждение 4.1.15, полу- получаем, что 0, s]XQ) = O, Итак, поток h^T- Т = 5ft+(t0, s]XT)+h*(№, s]X8T) принадлежит &m(A, В) и /@)=<Ф, ТХ, <Ф, /г«+Г> = /(s). Если ? — произвольное векторное поле класса / > 2 на Z и Clos И7 — компактное подмножество в Z, то найдется изотопическая деформация h класса / подмножества W в Z, удовлетворяющая условию h0 = % IW. В качестве примера определим аффинную де- деформацию h формулой h(t, z) = z + tl(z) длягеРГ и -6<f<6, где б — такое положительное число, что 8-Lip(l\W)<l и 6l?(z)l<dist(z, R»\Z) длягеИ7. В этом случае соотношение t = ? имеет место всякий раз, когда Ul<6. Другой пример доставляет постоянный поток h из W в Z с полем скоростей ?, который строится как решение дифференци- дифференциального уравнения ht = t,°ht с начальным условием: h0 — отобра- отображение включения подмножества W в Z. 5.1.8. Пусть Ф — параметрический интегранд площади степени тп на R", Т <= Sim (Rn) и h — изотопическая деформация класса 3 окрестности множества spt Т. Тогда бB) (Г, Ф, /i) = J [(tr AQ2 для WTll-почти всех zsR
558 ГЛ. Б, ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ р,: Тапт(Ш, z)~*- Rn — отображение включения, Мг = pt°Dh0 (z)op2, Sz =p*zoDh0 (z)opr, Будем ставить знак » между двумя выражениями, если они описывают функции, у которых 2-струи равны в точке 0 е R. Имеем Dht (z) с р,« Рх + tp, • М. + tNt + fDh, (z) t [Мг + M * 5 - поскольку рг°Рг является тождественным отображением простран- пространства ТаптA1П1, z) и pz°Nz—0. Определим ф, так же, как в 5.1.7. Используя 1.7.9, 1.4.5 и 1.7.12, получим соотношения - det ([Dht (z)°pz]*o[Dht (z tr [мг + m*z +1 (Mt'Mz + n1*nz + ez + a*)] + *2 tr [ Л 2 (Mt + AfJ)];=- 1 + t2'U (Mz) + + *2 [2 (tr Mzf + tr (N*Z*NZ + 2B, - -y [(tr M,J + tr (Л^оЛГ, + 2S2 - 5.1.9. Для любого параметрического интегранда Ф степени тп и класса к на открытом множестве Z из R", определим отображение Ф: ZxHom(Rm, Rn)-»-R, Ф(г, а) = Ф[г, (Лтст)(ехЛ ... Лет)]» для zsZ и oeHom(Rm, R"). Здесь elt ..., ет — стандартный базис векторного пространства Rm. Отметим, что Ф(г, aog)='O(z, a)-det(g) для geHom(Rm, R") при условии, что det(g)>0. Определим также Ф0(о) = Ф(а, а) для a^Z, aeHom(Rm, Rn). Если K<=Q<=Rm, К — компакт, Q открыто, а F: <?-*-R" — ото- отображение класса 1, F\K — унивалентно, то <Ф, F +(EmL К)} = <^+Ф, Em L Ку = J Ф [F (x), DF (x)] dSmx. к J к
§ 5.1. ИНТЕГРАНДЫ И МИНИМИЗИРУЮЩИЕ ПОТОКИ ~ 559 Если \F — параметрический интегранд степени т на открытом! множестве V пространства Rv, a G: Z-*-V — отображение влас? са 1, то '5*$ (z, а) - Y [G (z), DG (z) • о] для zeZ и oeHom(Rm, Rn). Предположим, что Ф, Z, /га, ге, к такие же как и выше. Пред- Представляя пространство R" в виде RmXRn~m с помощью проекций реО*(ге, т), р(z) = (zt, ..., zm) flnflzeR", q e O* (re, re - m), q(z) = (zm+1, ..., zn) для z s R", определим непараметрический интегранд Ф9^ ассоциированный с Ф, как отображение Ф§: ZX Нош (Rm, Rn-m) + R класса к, . для zeZ и reHom(Rm, Rn-m). Отметим, что р°(р* + ч*.т) =- A В случае, когда х е Rm, у г Rn-m и будем иногда писать (х, у) вместо z и Ф8(ж, г/, т) вместо Ф5(г, т). Для a*=Z иге Нош (Rm, Rn-m) определим отображение ф|(т)=Ф§(а,т). Если Q — открытое множество из Rm и /: Q -*• Rn-m — отображе- отображение класса 1, то F = р* + q* • /: Q -*¦ R" — унивалентное отображе- отображение класса 1 и DF (х) = р* + q* • Df (х) для х е Q. Если .К — компактное подмножество множества Q, причем то <Ф, F+ (Em L Jf)> = f Ф§ [х, f (x), Df (x)] dSmx. 'k Для любого заданного отображения 9: Rm-*-Rn~m класса 1, выбе- выберем окрестность W подмножества F(K) в Z и положительное чис- число S такие, что 6|6[p(z)]|<disU(z, R"\Z) и определим непараметрическую изотопическую деформацию h под- подмножества W в Z формулой h(t, z) = z + *[q*°0»p](z) длягерр, -б < f < 6.
560 ГЛ. Б. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Замечая, что ht°F = j>* + q*°(f+tQ) получим для —6<t<6 ра- равенство /(а0 + *9 (X)t Df (x к Дифференцируя это соотношение по t, получим bm[F#(Em\_K),<t>,h] = = f <[0, 9 (х), DQ (*)]«, Д<Ф§ [х, f{x)t Df (*)]> dS т к для i = l, ..., к. Приведенная выше i-я степень вычислена в сим- симметрической алгебре векторного пространства Rm X Rn-m X XHom(Rm, Rn~m). Вспоминая 1.7.9, видим, что (р* + q*ox)*o(p* + q*oT) = lRm + х*ох% | Лт(р* + q*-x) |2 = det (lRm + t*.t) для TsHom(Rm, Rn~m) и из 1.4.5 делаем вывод, что непараметри- цеский интегранд Ф§, ассоциированный с параметрическим инте- грандом площади Ф степени тп, дается формулой (т \1/2 / га \1/2 2tr[Ai(x*cx)] - 2lAiT J=0 / \i=0 для z с Rn. Отсюда Ф| @) = \} D Ф\ @) = 0 и tr (т*от) = | т |а. Если "У — параметрический интегранд степени т на открытом множестве V из векторного пространства R', a G: Z-*-V — отобра- отображение класса 1, то (G*W) §(z, т)« V[G(z), DG(z)°p* + DG(z)oq*oX] для zs Z и тe Hom(Rm, R"-m). 5.1.10. Если Ф — параметрический интегранд степени тп и клас- са 2 на Z с: R" и если Ф является эллиптическим с константой эл- эллиптичности с, то ж)]2, ?»2Ф! @)> - с | DQ (х) |2) dSmx > 0 для любой функции 9: Rm -»- R"-m класса 1 с компактным носи- носителем.
§ 5.1, ИНТЕГРАНДЫ И МИНИМИЗИРУЮЩИЕ ПОТОКИ 561 Для того чтобы проверить это утверждение, определим р и q так же, как и в 5.1.9. Пусть h{t, z) = a + *[q*»e«p](z) для (t, z)eRXRn, ? (z, a)- Ф(о, a)- clal для (z, a) e= Rn X AmRn. Отметим, что ht(z) = z, каково бы ни было ze=sptdS<=p*{s: 9(ж)=» = 0). Следовательно, dht4JS = dS. Из эллиптичности интегранда Ф делаем вывод, что величина (ht4JS, ЧО минимальна при t*=>0. Ис- Используя утверждение 5.1.9, заключаем, что 0<бB)E, Y, К) = J <[0, 6 (х), DQ {х)]\ Я2?§ [х, 0, 0]> dSmx - (а:)]2, Д«Ф« @)> - с | Приведенное предложение может быть обобщено на лшшшцевские функции 6 с помощью процесса регуляризации. В качестве след- следствия получим непараметрическое условие Лежандра с 111« | у |2 для | s Д1 Rm,. Jfe Rn~m. (здесь отображение gy^Hom(Rn, Rn-m) отображает точку ieR" в KiJyeR"-»). Рассмотрим случай, когда |у| = 1 и \(x) = Xi для х е Rm. Выберем сначала такое К < «>, что С, -О2Ф| @)>| < Л | ? | для ? s ©,Нот (Rm, R""). Предположим, что то < р < <», и определим функции <p(O = sup{l- UI, 0} для feR, ..-ф(а:т) для xeR- у для ieRm. Вычисления показывают, что 2/3, 2"" (spt 6) = 2mp~2, = 2p (j ^dsAn~% = 2m31-mp-2,. j spte 1 [де (ж) - pip (ж) |У] © ре (х)+pip (ж для ^"-почти всех точек же spt 6 (см. 1.10.5). Отсюда делаем вы- 36 г. Федерер
562 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ ВОД, ЧТО с | g |i | у р) = J spte [x)]\ D*Oi @)> — K6m - с j Я8 (x) |2 - сбпг) d2"" x > epte > — (Я + c) 6m^m (spt 9) = — (X + c) 6w2mp~2. Устремляя р к бесконечности, получаем сформулированное след- следствие. Вспоминая 5.1.3, делаем вывод, что параметрическое условие Лежандра влечет непараметрическое условие Лежандра. Это можно проверить также непосредственно. Для этого выберем такой орто- нормированный базис щ, ..., цт пространства Rm, что %{и() = 0 для i = 2, ..., то, и заметим, что для t e R имеет место равенство <их Л ... Л и«, Л™ [p*+q*°(*?*/)]> = « + *Pj где а = р* (щ) л ... Л р* (мт), R = 5(«i) q* (у) Л Р* (щ) Л ... Л р*{ит). Следовательно, 1а|=1, |р| = Щ • \у\, а* Р = 0 и ф\ /?2Фа(а)>. С другой стороны, как показывает пример интегранда площади сте- степени 2 на пространстве R4, выпуклость Фо не влечет выпукло- выпуклости ф|. 5.1.11. При вычислениях с функциями, область определения ко- которых является множеством из RmXRn~mXHom(Rm, Rn~m), будем пользоваться следующими соглашениями относительно обозначений. Будем использовать стандартный векторный базис и координат- координатные функции eh ..., е„ я Xt, ..., Xm в пространстве Rm, vit ..., vn-m и Yu ..., Yn-m в пространстве R"~m, определим p(z, y) = x, Ч(х,у) = у для (х, y)eRmXR"-" и на пространстве Rm X R""m «^ Rn рассмотрим координатные функ- функции Функции X(Vj образуют базис пространства Hom(Rm, R"~m). В са- самом деле, для Te=Hom(Rm, R"-m) имеем т п—т т_ V V Y.fr(p\iXn. Всякий раз, когда <р — функция класса 1, заданная в окрестно- окрестности точки (ж, у, т) пространства RmXRn-mXHom(Rm, Rn~m), опре- определим частные производные первого порядка от функции ф
§ 5.1. ИНТЕГРАНДЫ И МИНИМИЗИРУЮЩИЕ ПОТОКИ 563 формулами Лф(*, У, т)- <(*, 0, 0), D<p(x, у, т)>, Dm+j<p(x, у, т)= <@, v,, 0), Dy(x, у, т)>, у, т)> для i = 1, ..., та и / = 1, ..., га — то. В случае, когда отображение ф имеет класс 2, подобным образом определим частные производные второго порядка от функции ф формулами У, x) = D(Dh<f(x, у, т) = -<(в„0, 0)©(е»,0,0), ty(x, у, т) = , у, x) = Dm+iDm+l(p(x, у, т) = -<@,i>* 0H@, vh 0), a;, z/, т) = <(е(, 0, 0)©@, О, Х^), о (*. У, T) = (Dm+^)(*,0(a:, У, т) = = <@, vh 0H@, 0, Xhv,), у, т) = (ф(и))(*.1)(;Е, у, т) = , О, ВД©@, О, ХД). для {i, А) <= A, ..., иг) и (у, I) <= {1, ..., га— го}. Применяя эти обозначения к отображению Ф = Ф§, представим первую вариацию, рассмотренную в 5.1.9, в виде = f<[0. Q(xIDQ{x)], 1)Ф*(х, fix), к m n—v + 2x 2 где 6j = Yj»0. 5 случае, когда Ф и f— функции класса 2 и spt 6 «= ^К, интегрирование по частям дает формулу Эйлера — Лагранжа бA) [F# (Em L К), Ф4 h] = . n—m m I \^ ft — J 4J °j' 36*
564 ГЛ. S. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ где $(х) = [х, /(ж), Df(x)] для ieRm. Для того чтобы эта первая вариация равнялась нулю при всех 6eS) (Rm, R"-m) таких, что spt6<=Int К, необходимо и достаточно, чтобы функции ,Ь-2 2 ТП ТП fl—WI i=lh=l 1=1 равнялись нулю для всех /еA, ..., га— тп} на lntK. (Здесь § 5.2. Регулярность решений некоторых дифференциальных уравнений 5.2.1. В § 5.2 мы будем считать, что заданы два фиксиро- фиксированных натуральных числа пг < га, и будем использовать согла- соглашения об обозначениях из 5.1.11. Пусть U — открытое множество в пространстве Rm, а / и g — это 9?m L {/-измеримые функции со значениями в некотором гиль- гильбертовом пространстве (см. 1.7.1, 1.7.13, 2.4.12, 2.4.14). Для любых двух таких функций / и g введем обозначение 1Пи={11 В случае, когда Cf = Rm, индекс U будет опускаться. В случае, когда ЪеRm, 0<reR, используем сокращение (/» ё)щъ,т) = (/» g)b,r-> I / |u(b,r) = | / |b,r- Заметим, что если / является ^"-измеримой функцией, то Всякий раз, когда 0<8<1 и / — отображение, у которого об- область значений и область определений — метрические простран- пространства, определим МЛ ; как такое наименьшее t, что 0 < t ^ °о и dist[/(ж), /(в)]<t[dist(х, и)]6 для х, иеdmn/.
ё 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЯ УРАВНЕНИЙ 565 В случае, когда he(/)<°°, говорят, что функция / удовлетворяет условию Гёльдера с показателем б. Каждая функция / класса р, отображающая U в R"~m, имеет р-й дифференциал Dvf, отображающий U в произведение ©"(R™, Rn~m), описанное в 1.10.5, 1.10.6. Если / является слабым решением сильно эллиптического дифференциального уравнения в том смысле, который объясняется в 5.2.3, то отображение / можно изучать посредством оценок чисел |Д*7|>.г и Ь.[Д'/|В(Ь, г)] при be U и 0<r<dist(fe, Rm\E/j. Таким способом будут получены результаты о некоторых линейных уравнениях в 5.2.5, 5.2.14 и о нелинейных уравнениях, возникающих в эллиптических вариа- вариационных задачах (см. 5.2.15, 5.2.18). 5.2.2. Пусть Гей50(!7), 0<б<1, ?<°°, Ч<°° и существует такая последовательность вещественнозначных функций gy класса 1, заданных на U, что he(Z)?v)<? и |Z)gvU<T для v = 0, 1, 2, ..., Т (ф) = lim f gv«P dSm для Ф е 0° (С/). Тогда найдется такая вещественнозначная функция g класса 1, за- заданная на U, что для q>z=g Кроме того, gv и Dgv сходятся к g и Dg равномерно на каждом компактном подмножестве множества U. Для доказательства этого утверждения заметим, что f lim inf | Dgv {x) |2 d3?mx < y, jj V->oo и выберем такую подпоследовательность (не меняя обозначений)', что дифференциальные формы Dg4 сходятся равномерно на каждом компактном подмножестве множества U к непрерывной дифферен- дифференциальной форме ч|) степени 1 на U (сравните с 2.10.21). Тогда огра- ограничения функций g4 на каждое компактное подмножество множе- множества U имеют общую константу Липшица. Для каждой точки b&U множество всех чисел gv(b) ограничено, поскольку в противном случае можно было бы выбрать другую подпоследовательность, та- такую, что для некоторого р>0 функции #»|В(Ь, р) равномерно схо- сходились бы к °о или — °° и, выбирая неотрицательную функцию фе=®о({7)\{0} такую, что зр1ф<=и(Ь, р), получить, что Г(ф) = ±°°. Следовательно, можно опять перейти к подпоследовательности функ- функций gv> которая равномерно сходится на каждом компактном под-
566 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ множестве множества U к непрерывной вещественнозначной функ- функции g. Поскольку [а, Ь](г|з) = lim[а, Ъ](Dgv)=lim[gv(b)-gv(a)] = g{b)-g(a) , V V- всякий раз, когда U содержит отрезок прямой, соединяющий точ- точку а с Ь, то ty = Dg. Кроме того, функция g однозначно определя- определяется потоком Т. Следовательно, все сходящиеся подпоследователь- подпоследовательности первоначальной последовательности имеют один и тот же пре- предел, а поэтому первоначальная последовательность сходится. 5.2.3. Форма Y <=02Hom(Rm, R"-m) называется сильно эллипти- эллиптической, если найдется такое положительное число с, что J <2>е (х) © DQ (х), Г) d2mx > с | D612 всякий раз, когда 6 ^ 2Е) (Rm, Rn~m). Число с называется константой Эллиптичности для Т (здесь © обозначает умножение в ©*Hom(Rm, Rn~m) (CM. 1.9.1)). Например, мы уже видели в 5.1.10, что это условие выполнено для формы 2JФа@), ассоциированной с эллиптическим параметрическим итеграндом Ф степени m и клас- класса 2. Рассуждая так же, как при выводе непараметрического усло- условия Лежандра, получим, что из сильной эллиптичности формы Y, с константой эллиптичности с вытекает неравенство \\\г\у\\ 5 (Обратная импликация легко получается с помощью преобразова- преобразования Фурье (см. [VH 1], [Н 2, § 1.7]), но она не будет использовать- использоваться в этой книге.) Рассмотрим теперь непрерывное отображение A: U -*¦ ©2 Нот(Rm, R"-m), для которого найдутся такие числа 0<c<Af <°°, что А(х)—силь- А(х)—сильно эллиптическая форма с константой эллиптичности с и П4(а;I1«3 <М для любой точки x^U. Согласно 1.10.5 последнее условие означает, что <о© т, А(х)У <М\а\ • |т| для о, xeHom(Rm, Rn-m). Определим билинейную симметрическую функцию В формулой В (Л, О =- f <Л (*) ® С (*). А (*)> dSmx и всякий раз, когда т), % являются 2""L ^/-измеримыми функциями со значениями в Hom(Rm, Rn~m). Если функция 1т)| -1^1 является S?m L ^/-суммируемой, то вышеуказанный интеграл существует и
5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЯ 567 Выбирая &<=2)(U, Rn-m), b^U я сравнивая B(DQ, DQ) с интегра- интегралом, который получается заменой формы Т на А(Ь), в первой фор- формуле данного пункта можно было бы надеяться оценить \DQ\u величиной B(DQ, DQ), умноженной на константу. Однако мы уви- увидим, что в общем случае следует добавить константу, умноженную на 1б|и, для того чтобы получить правильную оценку. Применим 4.1.2 с заменой п на т. Пусть ф1/2е jZ5°(Rm)'; тогда N == sup {sup im Ф1/2, sup im |СФ1/2|) < °°. Сначала докажем вариант неравенства Гординга. Если 0<d<ini{N2a(m), с(с + М + I)-1}, Р = ЛГ4а(т)<*-\ 6 е 3> (Rm, R"-m), 0 < 8 < dist (spt 6, Rm W), Ы (х) — A (b) II < d для любых x e spt 6 и b e В (х, s), TO В {DQ, DQ) + (c + M) 2a (m) Рв~216 \b> [e-(e + M + l) d]\DQ \*v. Для 6, ieR" положимi|>b(x) = Ф\/2(x — b)Q(x)и будем исполь- использовать норму II-II (см. 1.10.5) для элементов пространства ©2Hom(Rm, R"-m). Тогда j I [Dfy (ж)]2 - Фе {х- Ь) [DQ (a;)]21| dSmx = = j I [D<b\/2 (x-b)Q (x)]2 + 2DO\12 (x-b)Q (x) © Ol/2(x-b) DQ (x) |x X dSnx < me--21Э \l& + 2№-m-119 |b,e | DQ \b,e < < e-m [Рг~216 Гь,е + 2Рг12г~1 \ 9 |b,e a (m)/2 • d1/21 DQ |M] < < e-m [ 2Pe19 |2M + a (w) d | DQ |b%] и j <[Z)iJ)b (ж)]2, 4 (Ь)> dS""a; > с | Сг|зь |2, Следовательно, j <Фе (а; - b) [DQ (x)]\ A F)> dSmx > e | ZJife, |2 - - iJ/e-m [2Pe-219 %& + a (m) d (Z)9 \l,e] > > с j Фе (z - b) | DQ (x) |2 Поэтому B{DQ,, j <[ZN (ж)]2, j Фе (я - Ъ) A (b) d&mb} dSmx \ \ <Ф8 (а; - Ь) [DQ (x))\ A F)> d5""a; dS > с | DQ |2 - (c + M) [2a (m) Pe~21912 + d\DQ |2].
568 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ В некоторых частных случаях неравенство Гординга можно уси лить, отбросив слагаемые, соответствующие |6|и- Следующее ут верждение очевидно. Если Ы (х) — A (Ь) I! < d для всех х, b^U, то В(DQ, DB)>(с- d)|DB\Ь для%е=2)(U, Rn~m). Долее, если тп = 1 или п—тп = 1, то В(ц, т\)^с11\\ц для любой Sm L U-измеримой функции со значениями в пространстве Hom(Rm, Rn~m), поскольку в этих случаях продолжение непарамет-, рического условия Лежандра на все формы А (х) влечет нера- неравенство <о®о, А(х)>с}о\* для osHom(Rm, R"-7"). Для построения примера, показывающего, что уточнение нера-- венства Гординга, вообще говоря, невозможно при пг>2 и п — тп> > 2, выберем оей)(Rm, Rn"m) так, что |р|> О где Р (ж) = фха {х) л D2a (ж), Yt л Y2> для ief, выберем число Y > I Da |2 21Р |~2» определим А (х) как функцию, отображающую (о, т) в а-т — уР{х) <а(ех) л т(е2) — а(е2) л т(е^, Yt л Г2>, и проверим, что J <[/H(ж)]2, ЛF)>й5""а; = (?»в |2 всякий раз, когда 6eRmn8e^(Rn, R"-m), но5(Z)a, Da) = |Da|2—2у|Р|2<0. Теперь мы установим основную оценку, касающуюся слабых ре- решений некоторых эллиптических дифференциальных уравнений. Предположим, что ЯеИ, %еL2(S7-L U, R»-m), QeLJ^L Z7, Horn(Rm, R"-m)], а /: U -*¦ Rn-m — гокое отображение класса 1, чго B(Df,DQ) + X(f, Q)v = (Q,DB)a+(%, в)„ 5ля всеж 6 s ^5 (С7, R»-m). ?сли 0 < ц < М и B{DB, DQ) + X\Q\b>\x\DQ\2 для всех 6е=.0(*7, Rn-m), то < | Q |ь,р + (р - г) | х |ь,р + И1/2^1/2 (Р - О1 / |ь,р всякий раз, когда Ь <= J7, 0 < г < р < «> ц U (Ь, р) <= С/. Регуляризация показывает, что предположение остается справед-: ливым для всех функций 6 класса 1, отображающих U в Rn~m я таких, что spt6 является компактным подмножеством множества U.
S 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЯ: 569 Всякий раз, когда р — r<f<°°, выберем такое <р^ЗУ(Rm)( что 0<ф(ж)<1 и \Dy(x)\<t-1 дляагеК™, ф(ж)=1 для х ¦<= В(Ь, г), sptcp c=UF, р). Имеем И ID («pflft < 5 [(Дф) / + ФД/, (Дф) / + фД/] + Я, | Ф/ |t = = В [(ДФ) /, (Дф) /] + 5 [ДА Z? (ф2/)] + A, (U Ф2/I/ - - 5 [(Дф) /, (Дф) /] + (О, Д (ф2/))у + (х. Ф2/)и - - Б ЦДФ) /, (Дф) /] + (фО, (Дф) /)у + (ФЙ, и, следовательно, < 2~а | Q |g,p + рМГ* | / В,р + |i (| Q |ь,р + t\X 1ь.р) Г11 / |b,p < < B-11Q |b)P + t\% |ь>Р + v>'*MxlH-x | / |ь>РJ, где |Д/|ь.г<|0(ф/)|1г. Наконец, объясним, почему функция f класса 1, описанная вы- выше, является слабым решением сильно эллиптической системы диф- дифференциальных уравнений в частных производных второго порядка. Положим всякий раз, когда U, &}<={1, ..., т), {/, 1}<=Цг . ..f n — m}, и g отображает U в R"""*. Видим, что наше предположение отно- относительно функции / эквивалентно соотношению m n—m m n—m =1 i=l ft=l 1=1 n—m m n—m n—m + % g /А-Д 2t ®k№i - S для всех 8s^)(!7, Rn~m). Интегрируя это соотношение по частям, получим, что если / является функцией класса 2, то наше условие эквивалентно тому, что функции fu ..., fn-m удовлетворяют урав- уравнениям ш П""Я1 тн - 2 2 2 Dh (Atj^Mfi) + ьи + 2 Мм - x/ = о ii fti ft всеж Z = 1, ..., n — m. Эти уравнения не являются самой общей сильно эллиптической линейной системой второго порядка, посколь-
570 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ ку можно было бы включить произвольные линейные комбинации членов Difj и /j с коэффициентами, являющимися функциями, и рас- рассмотреть аналогично этот случай. Однако более общие системы в этой книге не потребуются. С другой стороны, в 5.2.6 (для дальней- дальнейшего использования в 5.3.8) вместо функций f} будут рассматри- рассматриваться распределения, первые частные производные от которых яв- являются ^""-квадратично суммируемыми функциями. 5.2.4. Неравенство Соболева. Если /— функция класса N>m/2, отображающая RmflU(b, р) в гильбертово пространство, то I / (Ь) |< S 2N [На (т)Г1/2 р*-"1 Z>V |ь,р. Доказательство. Применяя к /(Ь) формулу Тейлора в произволь- произвольной точке a;e=U(fc, p) и интегрируя, получим a(m)pmf(b) - Г \^\(Ь-хI/П, ?>'/(*)> + R{z)]d&mxt U(b,p) «- i=0 J 1 где R (x) = f <(b - x)№, DNf [x + t(b- «)]> NA- if'1 dSH. 3a о мечая, что j | b — x |* dSmx < pm+*a (m) для любого s > 0, полу- И(Ь,Р) чим оценку j О(Ь.Р) ^ Г 1 Щь,о) О(Ь,р) <J J 0 U(b,p) Г j K^ o(b,P) 1 X iV A - tf-1 dSH < j JVr1/2pm/2+JVa (mI/21DK/ |ь>р х X A - t)-™12*1*-1 Nd&H = МГ1/2рт/г+ка (mI/2|DNf \b,pN/(N-m/2)t j где 2N—.m>l. 1
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЯ 571 5.2.5. Теорема. Предположим, что 0< с < Af < «>? Те e©aHom(Rm, Rn-m), Y — строго эллиптическая форма с константой эллиптичности с, N — наименьшее целое число, превосходящее т/2, и 0 < б ^ 1, IIY» < М. Если ieRra, 0 < р < °°, /e<2r[U(b, p), R"-m] таковы, что J <Я/ (ж) © DQ (х), Г> dgmx = О U(f>, р) для всех Qe=2)[U(b, p), Rn-m] (такая функция f называется Y-rap- монической), О < р «S q — целые числа и О < г < р, то qll/1\D"f(b) I < 2iVea (m) -1/2 (iV + ? - р) w+«-" X X (МIcf N+g-p)/z B/p)m/2+q-ppl1121 I>p/ |b p < 4(iV+ l)*+1ea(m) u / является аналитической функцией. Доказательство. Заменяя р на чуть меньшее число, можно пред- положить, что I />'/ |ь,р < оо для всех неотрицательных целых чисел i. Из 1.10.6 вытекает, что S \D.f(x)\\ (i + j)!\Di+if(x) \г = «/!\DlD'f{x) |» для любых ieU(ft, p) и неотрицательных целых чисел i, j. Если &е={1, ..., тп}, то из 6e^)(U(b, p), Rn—') вытекает 6^)[?7(b? p)t Rn-m]. Интегрирование по частям дает равенство <DDhf(x)®№(x), j («Jj Г> dSmx - 0, Следовательно, DJ является Y-гармонической. По индукции полу- получим, что D,f является Y-гармонической для любой конечной после- последовательности s неотрицательных целых чисел. Используя основную оценку из 5.2.3, получим неравенство | DD.1 \ъ,т < (М/сI72 (R - г)1 D.f |ь,н для 0 < г < R < р. Возводя в квадрат и суммируя по всем s из &(m, i), получим, что
572 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Из окончательных неравенств (Р + 1 + 1)! I If+i+1f В.р-(Я-1)(Р-г)/(в-Р) < < Мс-1 (р - г) (q - pf (р + 1)\ 1 ЕГ+* |ь,р-Лр-г)/(9-р) для / е (О, ..., q — р — 1) получим первое заключение теоремы. Применяя 5.2.4 с заменой /, р на Dqf, р/2, получим неравенство 2 2N та {т)Г 1=0 < 2 2ШГ1 а {ш)-** 3Г1/а B/р)т/2+«-рХ i=0 X (M/C)(i+9-p)/2(i + q- p)M'p из которого вытекает второе утверждение теоремы. Для любого х^В(Ь, г), применяя второе утверждение теоремы с заменой Ь, р на х, р — г, получим неравенства \D*f(x) I <а(р-r)-m>\ \D>+if{x) I < 2а(р-r)-m/2-f, где а = 2 (TV + lf+2 ea (m)/2 (M/c)(JV+1)/2 2m/21 Dpf \b,Q. Если ж, веВF, г), то либо \х — и\>р — г я \D>f(x)-D'f{u) I < 2а(р- r)-m/2 <2а(р- r)-"/2-ela;- u|\ либо la; — в1 < p — г и Соответственно имеет место третье утверждение теоремы. Применяя снова, так же как и выше, второе утверждение теоре- теоремы вместе с неравенством (N + g)w+« ^ (N + q) !ew+« ^ Nlq[ Be)w+«, справедливым для всех неотрицательных целых чисел q, получим для жеВ(Ь, г) следующую оценку: < Na(m)-i/2Nlql Be) I+w+« • (М/с) <*+"'2 B/(р - г))m/8+«|/ |b,Pi из которой в силу 3.1.24A) и 1.10.6 вытекает аналитичность функ- функции /. 5.2.6. Следствие. Если Я4, ..., #n-m^S>0[RmnU(b, p)] тако- таковы, что п п—тл m п—тя 2SS w i=l j=l й=1 J=l для всех eea)[U(ft, р), Rn-m], где Тил, = Т (Х^; Zftp() м
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЯ УРАВНЕНИЙ 573 0j = Yj ° 6, и если число О «S ц < °° таково, что m n—m / m n—m \l/2 2 V П IT /„, N ^- .. / V V I ,„ |2 I t=l j=l \i=l j=l / Зля всеж Юуе^ЩЬ, р)], то найдется такая Т-гармоническая фуНКЩЯ g, ЧТО |Z)g|b,p^fi U #Нф)= 1 ф-(^г для] = 1, ..., n-mu cpeS5°[UF, p)]. Доказательство. Вспоминая 4.1.2, рассмотрим регуляризации #,: P-e)] и Я,..еД удовлетворяющие уравнениям ^>е(в) = (Я,)яФе(а; —и) для BeUF, p — е), Hi,e (Ф) = J 9g/,edS'm - Я, (Ф. • ф) О(Ь.р-е) для ф^^0{и(Ь, р —е)]. Для того чтобы вычислить Ф« * ф, мы продолжим ф до отображения, переводящего U(b, p)\U(b, p —e) в 0. Заметим, что J <vDkgi,zd2m = DkHi (Ф, • ф). О(Ь.р-е) Для BeU(ft, р-е) положим ?.(в)' = (?1..(в)', ..., ^»-т.•(»))'. Пусть 9 е0 [U(ft, р - е), R"-m] и в, = 7, • в. Тогда j фЬ (х) QDge (x), Г> dSnx - U(b,p-e) m n—m m n—m « lib «>— 'II I» «t— II* J 2222 ГиъМяи U(b,p-e) *-» J=1 ft=l *=1 m n—m m n—m = 2222 ги:м m n-m \l/2 Итак, gt является Y-гармонической функцией. Если WyS^Ufii, p-e)], то m n—m „ m n—m 2 2 J Wi,jDigj,idzm- 2 2 i=l j=l xj(b,p) i=l i=l / . m n- <Ц j 2 2 (m n-m „ 2 2 1 ! i=i j=i U(b,p-e) Отсюда вытекает, что | Dge |u(b,p-e) ^ I*. l/2
574 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Применяя 5.2.5 к / = ?., видим, что если 0<г<р и q — нат# ральное число, то множество всех чисел вида соответствующих 0<е<(р — г)/2, является ограниченным. Те перь, применяя 5.2.2, с заменой Т на распределение Я, и его част* ные производные, получим, что когда е стремится к нулю, функция g. и их частные производные сходятся к гармонической функции & и соответственно к ее частным производным равномерно на ЩЬ, г\ для 0 < г < р. : 5.2.7. Функция К, отображающая Rm\{0} в нормированное век торное пространство V, называется почти однородной степе- степени Я, если J,eR и К(х) = Ы(\х\)Р(х)+ Q(x) для х s Rm\{0}, где Q: Rm\{0) -*¦ V такое отображение, что Q(tx)=tKQ(x) для О < t e R, и либо Р = О, либо ? — неотрицательное целое число, а Р: Rm->-F — однородная полиномиальная функция степени К. Предположим, что К — почти однородная функция степени X и класса °°, тогда DaK является почти однородной функцией сте- степени К — р для всех а^Е(тп, р). В случае, когда Х>— тп, F = Hom(Rn-m, Rn-m) и %: Rm->- -*¦ Rn-m — ограниченная, ^""-измеримая функция с компактным носителем, определим свертку % * К формулой для х е Rm. Этот интеграл существует, поскольку для 0 < р < °о J \K\dSn = ] f @р) {: Г1) J В@,р) 0 { Г1) rm~1+k [f> | In (r) I + 7] dSh < oo, 0 < j гдер= J \P\d2/6m-xt a 7= j \Q\d3fem~x. Функция % * К S»n—l Sm-1 ляется непрерывной, поскольку <(supim|3c|) j \K{w + h)-K(w)\d&mw B@,P) всякий раз, когда x, ieR" и sptx<= В(х, р). Из выражения (X*K)(x) $(X(u)K(xu)>d&mu ¦
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЙ 575 легко проверяется (сравните с 4.1.2), что если р — неотрицательное целое число и К — р> —тп, то %* К является функцией класса р и Da(%*K)=x* DaK для ае8(в, р). Вопрос, касающийся частных производных порядка р 5s X + тп от функции % * К, является более тонким. Он может быть изучен в смысле сингулярных интегралов, обсуждающихся в 5.2.8, если х удовлетворяет условию Гёльдера. Ясно, что если К > —тп, а % класса р, то % ¦ К также класса р и К для aeS(mj).. 5.2.8. Предположим теперь, что % е R, К: Rm\{0} -*¦ Hom(Rn-"n, Rn~m) — отображение класса «>, K(tx) = ?К{х) для х е Rm\0 и 0 < t e R, %: Rm -» Rn-m, \%(x) I < [i < °° для х е= R™, О < б < 1 иМх)<р<<». Будем считать, что 0 < р < °°, и положим по определению ?e(*)- J <^%(x-w),K(w)yd2'nw В(о,р)\В(о,е) для 0<е<р и жеRm. Следующие пять предложений относятся к существованию, непрерывности и дифференцируемости сингуляр- сингулярного интеграла g() ^(); е->о+ при этом для р е {0, 1, 2} используется сокращение *р- J \DvK\dMn-*. A) ?сли ie{l, ..., щ}, 0<е<р, ieR" w y «) = j ¦ <X (* - »)- »» ^i^ И> *2" B(o,p)\B(o,e) _p«-i+fc J ^(x-euj- В случае X + б Ф 1 — тп \Dig*{x) I «S [ft. Ч-ftjlm + А. + в - II] р(р»+»+а-1 + i
576 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ B) Если X > —т, то *(*)- I <%(x-w),K(w))d&mwt, В(О,Р) \g(x) I «? &„црт+х(т + А,) для х е R™, C) Ясли Х = -ти I К &Жт~х - 0, то gm-l B(O,P) \g(x)\ < Аоррвб~' для х е Rm, h«(g)< 2m[A0(l + б"')+ &i(l — 8)] р. D) Если К > 1 — пъ, i е {1, ..., т} и х е Rm, р В(о,р) _рт-1+Я S,m—I E) Если к = 1 — т и ? е {1, ..., т}, го ти;. j <%{x-w)-%{x),DiK(w)>d2?aw- B(O,P) sm-l 16-1 + k0) Ppe для a; e= Rm, l + 6-')+ fe(l - б) Проверни утверждение A) в случае xe^(R"\ Rn~m), замечая, что общий случай получается применением регуляризации. В этом специальном случае вычисление дает Dig* (х) - j (Da (x - и»), Я И> dSmw. В(о,Р)\В(о,е) Пусть в(м>)= <%(х — ю)— у, K(w)> для weRm\{0}. Применяя
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЙ 577 4.5.6 к 1 = (Yj о 6)е,- при / е И, ..., л — т), получим \w\-1wt6{w)d3tim~1w— j \11 P> {w: Н=е> = j Дв (м;) В(о,р)\В(о,е) 1 В(о,р)'\В(о,е) а затем преобразуем Жт~'-интегралы с помощью отображений |ир и ц„. Возьмем !/ = %(#) и> вспоминая 3.2.13, получим оценку m—lo От. л- поскольку DtK(tu)= Р~*Б{К(и) для и е Rm\{0} и 0 < t е R. Утверждение B) тривиально (см. 5.2.7). Если выполняется условие утверждения C), то j К dSm = f r^OdZh = 0, В(о,р)\В(о,е) ё Г т В(о,е) Е = рА'/бЛ откуда вытекают первые два заключения. Кроме того, пз утвер- утверждения A) следует, что -1 для \g,(x + h)-g,(x)\ ^m[A0 + A1(l-6)-1 для х, h e Rm. Пусть е = inf {\h\, p}. Из того, что \g(x + h)- g{x) I ^ \gt{x + h)-g,(x) I + 2№0г°8-1 вытекает справедливость третьего заключения утверждения C). Пусть % = 0иЛ = 1 — т ъ A). Тогда 0= f (-yxD&(wy>d&nw=> В@,р)'\В@,Е) = - j г-i j <», СД (w)) d26m-lw d2?lr, e sm-l откуда получаем первое заключение утверждения E). Для того чтобы доказать D) и закончить доказательство E), используем A) при у = 0 и у = %{х). Применим B) и C) с заме- 37 г. Федерер
578 1'Л. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ ной К, К, k0, ki на DtK, % — 1, fc1( к2. В обоих случаях Д?Е равно- равномерно сходится к Dig при е, стремящемся к нулю (см. 5.2.2). Комбинируя результаты 5.2.7 с доказанным утверждением E), получим, что если р — натуральное число, К является функцией класса °° и почти однородной степени р — /га, а % имеет компакт- компактный носитель и удовлетворяет условию Гёльдера, то %*К являет- является функцией класса р. 5.2.9. Если — К Я е= R, а €= R, p е= R Ф(«)= Ых(а + Р1пЫ) для s а Г — функция класса °°, отображающая Rm\{0} в банахово про- пространство, то найдется такая функция К класса °° на Rm\{0), что К(х)= f у{х>и)Т{и)йУвт-ли для ieRffl\{0}. sm-l ^ случае, когда либо $ =0, либо Я — четное целое число, К являет- является почти однородной функцией степени X. Для доказательства этого утверждения построим (см. 3.2.47) для каждой точки Ъ е Rm\{0} окрестность V точки Ъ в Rm и анали- аналитическое отображение R: V -»¦ О(т) такое, что <еи R(x)> = \x\~lx для х^ V, и заметим, что х- <.w, Й(х)У = \x\wt для w e Rm. Вычисление дает sm-l = j | а? |х [9(^L-In (| Я! |) *(»!)]• Г «и>, Л (ж) sm-l где i|:(s)= ^ Is I *" для seR. Поскольку ф и ф являются ^'-суммиру- ^'-суммируемыми на каждом отрезке, ф ° X, и ф»1, являются ^""-суммируе- мыми на В@, г), и они ^т"'-суммируемы на {w: \w\ = г} для 5"-почти всех г. Используя уравнение Ф • X, - (хг = I* [,(ф - Х,)+ In (г) (ф • X,)], делаем вывод, что $° Х1 и ф ° Xt являются Жп~'-суммируемыми на S. Итак, К является функцией класса °° на V. В случае, когда {J = 0 или Я — четное целое число, условие из определения 5.2.7 выполняется для Р(х)= J р | а;.к |х 71 (и) S71t-1 (?(z)= J gm-l
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЙ 579 5.2.10. Для каждой функции / класса 2 на открытом множестве из Rm определим дифференциальный оператор Лапласа формулой t=i Пусть г (г) = I х | для a;eR". Вычисления показывают, что Lap t% = l(m — 2 + Х)г*-2 для X е R\{0>, Lap(ln°r) = (m-2)r-2. Если т нечетное, то Lap(m-1)/2r = (—1)(ж-1)/2(|п - 1)! гг-B - т). Если т четное и т > 2, то -2)/2(ln'>r) = (-l)(m-2)/22m-2[(m-2)/2]!2r2-m/B-m). Для всякой функции %'¦ R ""*" Rn~m, удовлетворяющей условию Гёлъдера и имеющей компактный носитель sptx, из 5.2.7 и 5.2.8 вытекает, что свертка r2~m * %, определяемая формулой J ! »12~т X (ж — для а; е R, является функцией класса 2 на пространстве Rm та- такой, что Di (г»- * х) (х) = j B — тп) Wi | и; |-m % (х — w) d2"mw, Lap(r2-m * X) (z) = B - mM»"-|(S—1)x(«). Аналогично, находим, что Lap [(ln°r)*xl = 5^1(S')x в случае /га = 2. Продолжая приведенные рассуждения, получим следующие утвер- утверждения. Если тп — нечетное целое число, то Lap(m+1)/2(r»x) = (—l)(m-i)/2(/ra— 1)! 3DSm-l(Sm-i)/i. Если тп — четное целое число, то Lapm/2 [(In ° г) * х] =(-l)<m-2)/22m-2 [(^ - 2)/2]!2^m-i(S"-1)x. Из 1.7.4 и 2.7.16 F) видим, что О*(т, 1) = (©1Кт)П{|: 1|1=1), j \l{w)\ ИЖт-1\ = р\(ш, 1)Э6т~х(S)| w| O*(m,l) для любого w e Rm, и для каждого w найдется такой элемент 37*
580 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ jeO(m), что g{w)= \w\eu а значит, O*(m,l) O*(m,l) = ^m-1(Sm-1)ln|u;|+ f O*('m,l) Комбинируя эти факты, получим следующую формулу Джона. Если т — нечетное целое число, с(т) = (-1) (т-1)/2(т - 1)! Шт-' (Sm-'JPi(го, 1), \l w для O*(m,l) го Lap(m+1)/2i;T = c(/ra)x. Если т — четное целое число »= JJ lnHHIx^-^d^7"^^^ для O*(m,l) го p ()x 5.2.11. Элементу T^©2Hom(Rm, Rn-m) сопоставим линейное отображение S: ©г (Rm, Rn-m) ^ f © 2Rm] ® Rn-m -* R—m, определяемое из условия s [ (i ® i) y] - v = т dy, it») + т (^, |У) для I, ijj^©1!^) и у, у е R"-m. Кроме того, каждому элементу | е ©1Rm соответствует линейная функция Отображение, переводящее | в S^, является однородной полиноми- полиномиальной функцией степени 2. Эта функция называется симвблом элемента Т. Предположим, что НТН ^ М и Т является эллиптиче- эллиптической формой с константой эллиптичности с. Тогда для I/, у е Rn-m. Следовательно, из равенства ||| = 1 вытекает, что 115|И < И, Si унивалентно, | ^i II < с~х- Пусть Ti,j-K,i = Т(Х4У;, Xhvt). Тогда m n—m m n—m (Ф) 2SH2 и i=i j=i ft=i г=1 для всех ср е © 2 (Rm, Rn-m).
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЙ 581 Если /: Rm -»¦ R"~m — отображение класса 2и 6^2) (Rm, R"-m), то (x),D&{x)]d&mx = тп—т т п—т 771 п—т т п—т f V V V V "> = — Zj Zj -j Zj J ^ г=1 j=l ft=l !=1 = - J S [D2f {x)].Q (x) dSmx, где fj= Y}° f и 9; = Yi«0. Форме Т, таким образом, отвечает ли- линейный дифференциальный оператор L (с постоянными коэффици- коэффициентами), который определяется формулой Ц = S " D*f. Например, стандартному скалярному произведению в Hom(Rm, R""m) отвечает оператор Лапласа. Для Ge^r°(R\{0}), ?e=©'Rm, ?eR»-« вычисления дают для любого х s Rm\ker |. В частности, выберем G так, что для s e= R\{0} G(s)=s2[ln(s2)-3]/4, G"(s) = lnls|, если т четно; G(s)= |s|V6, G" (s)= |sl, если /те нечетно. Вспоминая 5.2.9, рассмотрим отображения И: Rm\{0) -»- Hom(Rn-m, Rn-m), Hv: Rm\{0) -^ Rn-m, j O*(m,l) для у s R"-"> иа;е Rm\{0}. Заметим, что функция Н является та- такой почти однородной функцией степени 3 или 2 и класса °°, что Н{) Н{) (LHv)(x)= j O*(m,l) = J O*(m,l) (Lap Hv) (x) = j G" [| (ж O*(m,l)
582 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Определим элементарное решение Е, ассоциированное с Т, фор- формулой Е = c(m)~ILap(m+1)/2//, если т нечетно, Е — с(/ге)-1Ьарт/2Я, если т четно. Отметим, что функция Е класса °° на Rm\{0) такова, что Е{—х) — = Е(х), E(tx)= f-mE(x), если т Ф 2, Е (tx) = Е (х) + ln(t) j S\xdmx\, если т = 2, О*B,1) DE(tx)=tl-mDE(x) для х е Rm\{0} и 0 < f e R. Следующее предложение показывает, что свертка о Е дает хорошо ведущее себя решение / уравнения Ц = ъ Если отображение %: Rm -*¦ R"-m удовлетворяет условию Гёлъде- ра и имеет компактный носитель, то %* Е является отображением класса 2 и Для доказательства этого утверждения вспомним сначала 5.2.7, и получим L (Х • Я) (х) = J [LH%W\ (x - w) dSmw = *( O*(m,l) для a;eR*. Теперь применим 5.2.8 и 5.2.10 (формулу Джона). В случае нечетного m видим, что % * Н является отображением класса 3 + m и = L [Lap(m+1)/2(x *H)] = Lh* Lap(m+1)/2#]. В случае четного m получаем, что % * Н является отображением класса 2 + m и с (и) х = Lapm/2 [L (х • Я) ] = L [Lapm/2 (х • Щ ] = L (х • Ьарт/2Я). Если отображение Q: Rm-»-Hom(Rm, Rn-m) удовлетворяет ус- условию Гёльдера и имеет компактный носитель, то свертка m U*DE= 2 (ei J Q) * DKE является отображением класса 1 и для всех 9 е S) (Rn, R"-m) cnpa-
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЙ . 583 ведливо равенство f <?> (Й * DE) (х) э DB (х), Г> dSmx = (Й, ?Ю). Кроме того, c\D(Q * DS) I < IQI. В случае, когда Se^)[R" Hom(Rm, R"~m)], предыдущее пред- предложение, примененное к m г=1 дает доказываемое свойство свертки m Q * DE = 2 А [(е{ jQ)«?] = x«?, поскольку <Z? (х * ?) («) 0 D6 (ж), Т> d2""m = m = — (L (х • ?), в) = — (х, 9) = 2 (е4 J й, Ав) = (Q, D6). В общем случае соответствующее свойство свертки вытекает из ре- регуляризации, использованной в 5.2.8. Теперь докажем, что Ifi * DE\ < °о, если m > 1. Для этого выберем конечные положительные числа s, у, к такие, что sptfi<=B(O, s), lQ(u?)| < ^ для weRm, \DE{u)\ <k для beS"'1, и заметим, что | (Q • DE) (x)\^ j \u(w)\-\DE (x — w)\ < j yk\x-w\1'md2'mw^a(m)smyk(\x\/2I~m B@,«) для любого ieR"\B(O, 2s). Теперь, применяя основную оценку из 5.2.3 при р = 2г, получим, что неравенство DE)\t.r< IQI имеет место всякий раз, когда 0 < г < °°. При г, стремящемся к °°, получим неравенство c\D(Q * DE) \ < \Q\. Если m = 1, то Е (х) = 21 х | 5^ для z e R\{0} и (Q./>?)'=«5l|-(ei JQ). 5.2.12. Яг/ст-ь 6eRm, 0<p<oo, 0<б^1, V — нормированное векторное пространство, со: В(&, р)->- У, 0 е= im со и he(co)<oo.
584. ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Тогда со можно продолжить до такого отображения Q: Rm -»¦ V, что spt Q <= В @, Зр/2) he(Q)<9he(co) и |Й|<2т|со|Ь)Р. Для доказательства при Ь = О определим отображение ф: Rm ->- В @, р) формулой <р(х) = х, если Ы «S р, ф(я)=0, если \х\ >2р, ф(ж) = Bрк|-1 — 1)х, если р< \х\ <2р. Заметим, что если р < Ы < 2р, то <и, D(p(x)> =Bр\х\~1 — 1)и для таких ueR, что и • х = О, <х, Dfp(x)> = -z, ШФ(хI1 = 1, Утф(яг)=-Bр|а:|-1 —I)-*. Итак, Lip (ф) == 1, he(co ° ф)= h6(co) и З1" J | со. ф |2 ¦ {х: р<|ж|<зр/2} < J {х: р<|*|<зр/2} Следовательно, | со <> ф |0,зр/2 ^ (l + 3(m~1/2) | со 0,р< 2m | со |0>р. Далее определим функцию if: Rm ->- U: (X ? < 1} формулой ^(х)= 1, если \х\ ^ р, 1)>(я)=0, если \х\ ^ Зр/2, ¦ф(я)=3 —2Ы/р, если р< \х\ < Зр/2, и пусть й = ф'(совф). Для оценки he(S2) будем считать, что х, и е Rm и что \х\ ^ Зр/2. Из предположения 0 е со [В@, р)] выте- вытекает неравенство |Й(#) I < !со [ф(я)]1 < h«(со) Bр)в. Заметим, что либо \и\ > 2р, а значит, \х — и\ > р/2 и \О( т\ О/77\1 = \О(т\\ <Ь (ел\А6 \т и I6 либо Ы < 2р, а значит, U — и\ < 4р и < 2p-f |ж - u| he(co) Bp)e + he(co) \х — и\6 < < [2р-1DрI-6Bр)в + l]he(co) la; - «Iе < 9he(co) \x - и\\ 5.2.13. Лемма. Для любых чисел 0<с<Л/<°° и 0<б<1 найдется отвечающее им число f < <», обладающее следующим й свойством.
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЙ 585 Если Ye02Hom(Rm, Rn~m), Y — сильно эллиптическая форма с константой эллиптичности с, IIYII ^ М, Ъ е R, 0 < р < °° и ото- отображение ц: В(Ь, р)->-Hom(Rm, R"~m) таково, что Ьв(т])<°°, то найдется такое отображение F: Rm -*¦ Rn-m класса 1, что Ъ6 (DF) ^ The (ti), DF |< S'+V11 л |ь,р, причем выполняется условие J <Z)F (а:) © DQ (х), Г> Й2""ж - (т|, DQ)b,P U(b,p) [(b, p), Rn-m]. Доказательство. Анализируя конструкцию, примененную в 5.2.11 и 5.2.9, получим существование конечного числа к (опреде- (определяемого по тп, п, с, М) такого, что для любой сильно эллиптиче- эллиптической формы Ye02Hom(Rm, R"-m) с константой эллиптичности с, для которой llYH^ilf, соответствующее элементарное решение Е удовлетворяет неравенствам J ^ 'для />е={1,2*3}. sm-l В самом деле, легко оценить дифференциалы функции, отображаю- отображающей | в Si1, и подходящей функции R, использованной в 5.2.9. Покажем, что число Ч = 18т3[2 + б"' + A - б) -*]к обладает требуемыми свойствами. Заметим, что J j \4(x)-v\{u)\*d2mxd2mu^ U(b,p) U(b,p) j j j U(b,p) U(b,p) U(b,p) Выберем такой элемент u^B(b, p), что |со[ь,р^21ц[6>р и со (х) = т] (х) — ц (и) для х е В (Ь, р). Продолжим со до функции Q: Rm -»¦ Hom(Rm, R""), как и в 5.2.12, и используем 5.2.11 для того, чтобы построить m F = Q*DE= 2 (eft J Q)• ^jE1, Имеем для всех 0 s S5[U(b, p), Rn-m] равенство J <DF (ж) 0 D% {x), Y> d2""« = (Q, DQ)btP = (л, Щъ,Р* U(b,p) поскольку функция Й — т] постоянна на U(b, p). Отметим нера-
586 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ венства Применяя 5.2.8 E) к К = DkE, получим оценку hu{DhF)^ m2m[(l + 6~*) + A - б) + 1]/с 5.2.14. Теорема. Для любых чисел О < с «s M < °° и 0<б<1 найдутся соответствующие им числа г > О и Г < °°, обладающие следующим свойством. Если Ь е Rm, 0 < R < оо, /: V(b, R)^ R""m класса 1, he(D/)< «>, Q: B(b, R)+ Hom(Rm, Rn"m), he(Q)< ~, A: B(b, JR)-^©2Hom(Rm, R"-m), R6h6(A)^e, A(b)—сильно эллиптическая форма с константой эллиптичности с, Ы(Ь)\\^М и f (Df (x) о DQ (х), А (х)} dSmx = (Q, DQ)bfR U(b,p) для всех 0 е 2>[\] (b, R), Rn-m], ro (Д _ г)"'/2+%[?>/|В(Ь, г)] < Г[ | Df \ь, л + /?m/2+ehe(Q)] всякий раз, когда 0 < г < R. Доказательство. Выберем f согласно 5.2.13. Пусть А1 = 2т/2аGтг)-1/г, A2 = 2m/2 + l, e =Bi+W2+e"fA2)-1, д 3 = 4 (m + 1) m+2ea (ттг) /22m/2 (М/с)(m+1>/2, А4 = А3A + 2"+1c-'e), Д5 = A32+1c-1a(m)'/2, А6 = Д, + Зт/2+бА4, А, = ^ + 3m/2+eA5, Г = 2 sup {А6, Д7}, и предположим, что b, R, /, Й, 4 удовлетворяют предположениям теоремы. Поскольку вычитание постоянного вектора из Q не изме- изменяет ни he(Q) ни (Q, DQ)b:R, можно предположить также, что Q(b) =0, что влечет неравенство \Q\b,R<a(mI/2Rm/2+\6(u). Определим число ц равенством l^ = sup{(JR-r)"'/2+0hs[O/|B(&, r)]: 0<r<R) и заметим, что 0 «? ц < Rm/2+6ht,(Df)< оо. Рассмотрим теперь некоторое число г между 0 и R. Пусть d =(R — г)/3, р = г + d = R - Ы, %: В(Ь, p)-*Hom(R", R"-m), Е(ж)-о = <Д/(а;)©о, А(Ъ)-А{х)> всякий раз, когда х е= В F, р) и a e Hom(Rm, Rn~m).
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЙ 587 Если я<= В(Ь, р) и и е В(Ь, р), то \ \Df(x)-Df(w)\*d&mw\ B(x,d) J \b,R + « ца a { 1/2 поскольку В(х, d)<=B(b, R — d) и + <[Df(x)— Df(u)\ © a, A(b) — A(u)> всякий раз, когда о <= Нот (Rm, Rn-m), а значит, < \Df(x)\ ¦ IL4(b)—4(я:I1+ \Df(x)-Df(u)\ • WA(b)-A{u)W < < dTm/2 [a (m)-1/21 Df \b,R + ^] h6 (A) \ и - x f + < Bd)~m/2-*[A, | Df\K я + А2ц\Н"Ь6(А) \х — u\\ Делаем вывод, что h.(t) «? Bd) -т/*~*[Дt| D/ U. B + А2|л]е, Применяя 5.2.13 к T=A(b) и Т] = ^ + й, получим, что результи- результирующая функция F класса 1 удовлетворяет условиям J {DF (х) о U(b,p) <О/ (х) © Д9 (х), А(Ъ)-А (*)> d^^ + (fi .©Ое^), A{b))dZmx U(b,p) для всех 0e^5[U(b, p), Rn-m], а значит, g=(f — F)\\J{b, p) явля- является такой функцией класса 1, что J (Dg (х) о Д0 (х), А (Ь)> ^тж = О U(b,p) для всех 0e^5[U(b, p), Rn~m]. Из 5.2.5, 5.2.6 видим, что функция g является А (Ь)-гармонической, причем h6[Dg\B(b, r)]^A3d~mn
588 гл- 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Собирая вместе все оценки, получим Ь, г)] < ht(DF)+ h6[Dg\B(b, r)] < + d"m/2-e[A4| Df |», „ + A 5flm/2+ah6 (Q) ], и поэтому (Д _ r)m/2+6h6 [Df | В F, r)] < f + A61 Df |ь,д + Д7Дт/2+Ч (Q). Поскольку это неравенство имеет место для всех г между О и Л, то |i ^ ц/2 + Д.| Д/|». н + A,i?m/2+6he(Q). 5.2.15. Теорема. Предположим, что: A) g — целое число, q > 2; B) F — открытое множество из R"' X R"" X Нот (Rm, Rn-m), G: V -*¦ R — отображение класса q + 1; C) С/ — открытое подмножество в Rm, /: С/ -> R"-m — отображение класса 1, 0 < б < 1, b6(Df)< <», я]?(я)=[я, /(ж), D/(i)]eF всякий раз, когда x^U; D) j<[0, 9(а:), Д9(г)], 1N [г|з(г)]> d^m^ = О и всякий раз, когда Q ^ 2)(U, R"-m); E) A: C/->©2Hom(Rm, R"-m), <о © т, А (х)> = < @, 0, о) © @, 0, т), D2G[q(x)]> всякий раз, когда х ^ U и а, те Нот (Rm, Rn~m); F) форма А (х) является сильно эллиптической для всех х е JJ. Тогда имеют место следующие четыре утверждения: G) / является отображением класса q, hi,(Dqf\K)< <» для лю- любого компакта К a JJ-; (8) каждому se^(m, р) такому, что р ^ {1, ..., q—1} соот- соответствует такое отображение ?2S: U -> Hom(Rm, Rn~m) класса q — р, что h6(Dt~pQs\K)< oo для любого компакта K<=U, f (DDsf (x) о D% (x), А {х)} dSmx = (Q,, D$)u и всякий раз, когда 9 е S)(U, Rn~m); (9) Qlt)(x)- o = <[0, o(et), 0], 0G[*(*)]> - . - <[0, 0, о] © [e,, Д/(^), 0], ^
S 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНКНИЙ 589 всякий раз, когда ie {1, ..., /re}, x-^U и о е HomfR, Rn~m); (Ю) п{81,...,8рЛ)(х)-аr= DiQs(x).a- iDDsf(x) ea, БгА(х)у всякий раз, когда s&g'im, р), ре{1, ..., q — 2), i s {1, ..., /re}, x^U ua^ Hom(Rm, R"-m). Доказательство. Для данного b^U мы покажем, что утвержде- утверждение имеет место, если U заменить на V(b, р), когда р — достаточ- достаточно малое положительное число. Выберем сначала М < <» и с > 0 таким образом, что А(Ь) принадлежит выпуклому открытому множеству A=[©JHom(Rm, Rn-m)]n, (Y: Ш < Ж, Y — сильно эллиптиче- эллиптическая форма с константой эллиптичности, большей чем с}, и выберем выпуклую окрестность W точки ty(b) в V таким обра- образом, что аР = sup {W»G(x, у, k) k {х, y,k)eW)<°° для р е @, ..., q + 1}; D2Gix,y)(X)^ Л для (х, у, Х)е W, где <а © т, D*G(X, у) (X) > = < @, 0, о) © @, 0, т), D2G (x, у, для о, TeHom(Rm, Rn~m). Затем выберем е и Г согласно 5.2.14. Заметим, что для достаточно малых р > 0, Ь, р)] < Wf(b)\\ + p' Выберем р так, чтобы рва3(Ч>|:|В(Ь, p}])<inf {е, с/2}. Теперь рассмотрим частный случай, когда q = 2. Фиксируем se={l, ..., m), предположим, что 0 < г < р, d = ==(р — г)/3, и для каждого целого числа v > 1/d определим ото- отображения U В(Ъ, р - d)-* R"-m, Av: В(b, p - d) -+ Л, ilv В(Ь, р - d)^ Rm X R"-m X Hom(Rm, R""m), 9V: {«: 0^Kl}XB(ft, p-d)^ W, Pv, Qv: В (Ь, p - d) -4- Horn (Rm, R»-»)
590 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ но формулам 1 U И = v [/ (х + v-ieO - / (з:)]= J Щ {х + tv-4 о 1 <а© т, Л (*)> = J <@, 0, а) © (О, О, т), D2G [cpv (t, x)]}dg4, о ), a(ej), 0], DG [ty(x + tv~1ei)]} dS'H, a-Qv (x) = J <[0, 0, o] © [eb /v (ж), Oj, ZJG [cpv (f, a;)]> dS* о всякий pas', когда ieB(J, p — d), 0<?<1 и а, т< e Horn (Rm, R"~m). Отметим также соотношение <^v (x), DDG[yv (t, x)}) dSH о Мы видим, что /v класса 1, he(-D/v)^ 2vhe(.D/), |»lP-d< |A/kp, для je{0,.., q), b, p)], |/>v|b,p-d<|(fiG)=1|,|b,p, &, p)], ho(^v)<a3he[if|B(b, p)], peheDv)<inf {e, c/2}. Вспоминая 5.2.3, получим неравенство J <[z>e (x)]2, av (x)y dsmx > c/21 m \l,p-d d) J V(b,p-d) для всех 9 s S5[U(b, p — d), R"-m]. Если 9 e 0(R"\ R"-m) и spt 9 cr U(b, p — d), то f (DU (x) 0 DQ (x), А, {х)У d?nx = (Pv - Q4, DQ)biP_d, U(b,p-d) поскольку D) можно применить вместо 9 к такой функции
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЙ 591 R"-), что spt9vcU(b, p) и 1 0V (х) = v [в (х — v-1^) - 9 (х)] = - j Dfi {x — tv-iei) dSH о для любого х е= Rm, и, кроме того, f<[0, ev(*), 0], и 1 f j 6 U(b,p) 1 J = - J J <[0, DiQ(x), 0], U(bd^ в то время как f <[0, 0, №v (х)], DG [Ц (х)]} dSmx = и = f v<[0, 0, DQ(x— v-^)-DQ (x)], D U(b,P) == f v<[0, O,DQ(x)],DG[^(x + v^ei)]-D U(b,'p-d) 1 = j J<[0, 0, DQ(x)]&^v(x), D2G[(fv{t, x) U(b,p-d) о j (a:) & DU (*), ^v (ж)> ^2""^ + (Dd, ^v)b,,-d. U(b,p-d) Используя основную оценку из 5.2.3, получим неравенство (с/2) | DU \b,r+d <\P*-Qv |b,P-d + (cM/2f2 dT1 |/v |b,p_d < < I {DG) о гр |b,p_d + [a, + (cM/2I/2 dT1] \ D{f |b.p. Применяя 5.2.14, получим неравенство dm/2+6h6 [DU | В (Ь, r)] < Г [ p/v |b,r+d + (г + d)»/«+e h6 (Pv - ^v)], кроме того, he (Pv — ^v) не превосходит MA/)a2 + (a2 + Lip[?>/|B(b, P)]a3)he[tlB(b, p)]. Соответственно he[Z)/vlBF, r)] n\Dfv \b,r+d имеют границы, не зави- зависящие от v. Поскольку функции /v сходятся к Dif равномерно на В(&, р — d) при v, стремящемся к °°, то из 5.2.2 следует, что Д/Ш(Ь, г) является функцией класса 1, б, г)]< со
592 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ и функции Dfy, сходятся к DDtf равномерно на каждом компакт- компактном подмножестве множества U(&, r). Определим Q(i) по формуле (9) и заметим, что Ач, Pw — Qv сходятся к A, Q(l) равномерно на В(Ь, г), поэтому утверждения G) и (8) справедливы в слу- случае q = 2. Проводя индукцию по q, предположим теперь, что q > 2, и до- докажем утверждение при q, в предположении, что оно справедливо при q — 1. Фиксируем s^-9P(m, q — 2) и ?е{1, ..., гп), выберем г, d, v, /v так же, как и выше, и определим "Hv, ?v: В(Ь, р - d)^ Hom(Rm, R"-m), ^v(^) • a = v<DDef(x + y-le{) © a, A (x + у~1е^ — A (x) >, ?v (x) = v[Q. (a: + v-'d) - Q. (x) ] всякий раз, когда ieB(ii, p-d) и aeHom(Rm, Rn~m). Видим, что Dsfv, Qs, 4 являются функциями класса 1 и их дифференциалы удовлетворяют условию Гёльдера с показателем б на В(Ь, р) и h6 (?v) < h6 [DiQs | В (fc,p)], | lv |biP_d p)]Lip[O4lB(b, p)] + sup (|Z)'+1/(z) |: a; e B(b, p)} ho[4|B(b, p)]f Если функция 0eS5(Rm) Rn-m) такова, что spt0c:U(b, p — d), то J ' b J U(b,p-d). поскольку последнее заключение утверждения (8) вместо 9 приме- применимо к функциям 9V, определенным выше, и поскольку f (DDJ (х) о Ddv(x), А(х)} dSmx = и j v(DDJ(x)e[DQ(x — ¦>r1ei) — DQ(x)), A(x U<b,p) f v U(b.p-d) <Z)Z)J (ж) о D% (x), A (x)}] dSmx v (x) 0 DQ {x)> A (* \ U(b,p-d) в то время как (Qs, ZHv)t/ =Ev, ^9)», P-d. Используя основную оценку из 5.2.3, получим неравенство (с/2)
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНКНИЙ 593 Применяя 5.2.14, получим неравенство d^i+6K[DDJ\B(b, г)]< ^ T[\DDJV |ь, r+i + (г + d)m/2+ehe (lv - riv)]• Ввиду того, что h6(?v — T]v), Uv — r]v | ь, P-d и |Z)8/v|b, p-d имеют гра- границы, не зависящие от v, получим, что Ьв[?Ша/„|В(Ь, г)] и \DDsfvlb,r+d имеют границы, не зависящие от v. Поскольку функ- функции Dafv сходятся к DtD,f равномерно на В(Ь, р — d) при v, стре- стремящемся к °°, то из 5.2.2 заключаем, что DtDsfW(b, r) является функцией класса 1, bJiDDJJjWib, г)]<оо, а функции DDafv сходятся к DDtDsf равномерно на каждом ком- компактном подмножестве множества ЩЬ, г). Замечая, что функции ?v — т]? сходятся равномерно на Щ&, г) к функции определенной в A0), получим утверждения G) и (8), при этом условие Гёльдера и утверждение о классе q — р получаются индук- индукцией по р с использованием (9) и A0). 5.2.16. Хотя теорема о регулярности 5.2.15 достаточна для нужд данной книги (см. 5.3.14, 5.3.16, 5.3.18, 5.3.19 и 5.4.15), обратим внимание на следующий дополнительный результат, который мож- можно найти в литературе. Если G — аналитическая функция, то / — аналитическая функ- функция. Это утверждение вытекает из [РЕ] или [МСВЗ] или [FRA] или [МСВ 4, § 6, 7]. Предположения he (?>/)<<» в C) являются лишними. Как по- показано в [МСВ 2], достаточным условием является то, что / — функция класса 1. Наше доказательство утверждений 5.2.14, 5.2.15 использует метод Моррея, который сильно упрощается в си- силу того, что Df удовлетворяет условию Гёльдера. Для конкретных размерностей и конкретных типов интеграндов условия на функцию / могут быть далее ослаблены в духе 5.2.6. Такие результаты собраны в [МСВ 4, § 1.10, 1.11]. Однако в слу- случае, когда т = п — т> 3, нельзя заменить вещественнозначные функции -Yj'f класса 1 на распределения, у которых первые част- частные производные соответствуют локально квадратично-интегрируе- квадратично-интегрируемым функциям, даже в том случае, когда G аналитическая или квазилинейная. Контрпример был построен в [GM 1]. 5.2.17. Если Ф — эллиптический интегранд степени m и клас- класса 2 на открытом подмножестве W в R", то Д2Ф|,(Я,) является сильно эллиптической формой для (w, s)eWXHom(Rm, R-1»). 38 г. Федерер
594 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Для доказательства этого утверждения определим у = lRn + q*° °Я°р и z = 4~i(w), из последнего абзаца в 5.1.9 получим, что (Y+Ф)! (т) = ФЦ, (%+ т) для т s Horn (Rm, К1'), а значит, Б2(у*ФТ) @) = D24>i(X), заметим, что ч*Ф — эллип- эллиптический интегранд в силу 5.1.4, и применим 5.1.10 с заменой Ф, а на ч*Ф, z. 5.2.18. Теорема. Если q — целое число, q > 2, Ф — эллиптический параметрический интегранд степени m и класса q + 1 на открытом множестве W из Rm X R"~m, U — открытое подмножество' в Rm, /: U -*¦ R"-m — отображение класса 1, и (р* + q* ° /) + (Em L С/) является абсолютно Ф-минимизирующим потоком относительно W, то f — отображение класса q и h(,(Dqf\K)< < °о для любого компактного подмножества К множества U. Доказательство. Вспоминая 5.1.9, применим 5.2.15 к G = Ф§. Для того чтобы проверить D), рассмотрим непараметрическую изо- изотопическую деформацию h, отвечающую 6. Вычисления дают f <[0, 9 (х), D% (а:)], i i/ = SA) [(p* + q* • /)+ (Em L spt 9), Ф, fc] = 0 в силу 5.1.7. Справедливость предположения F) вытекает из 5.2.17. 5.2.19. Здесь будут рассмотрены два предложения, касающиеся частного случая п = m + 1. Сначала докажем следующий принцип максимума. Если U — открытое множество из Rm, cp: U -*¦ R — отображение класса 2, A: C/4-©2Hom(Rm, R) класса 1, А {х) — сильно эллиптическая форма для xsf/, <\<D(p{x)®DQ(x),A(x))d2'mx = 0 для Be=&(U, R), и то подмножество С = {х: <p(a:) = supiin<p} является открытым. Пусть At.h(x)=<X,®Xk, А(х)У для x^V и {i, /с}с:{1, . . ., ттг). Определим m m г=1 ft=l для произвольного отображения of: ?/ -> R класса 2. Интегрируя по частям, как в 5.2.3, получим равенство Lq> — 0. Если бы С не явля- являлось открытым, то можно было бы выбрать Ь, г, s, t, 4, h, e, Ф, и
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЙ 595 таким образом, что , 0<r<s<t<°°, B(b,t)<=U, )^0, СПЩЬ, s)=0, -oo<7<0, h(x) = exp(f|z — b\2)— exp(^s2) для x e= U, I m (Lh) (x) = exp (Y | x - b P) ^ mm \ + S 2 W (a?! - fci) (xk - bfc) Л,л (*) + 2Y (^ - b4) DhAi<k {x)\ > 0 i=l ft=l / для всех ж из компактного множества В(Ь, i)\U(&, г), что имеет место в том случае, когда 1"у1 достаточно велико, поскольку А (х) является скалярным произведением, 0< е <(supimcp) — supcp[B(b, r)], Ф = ф + еА, иеВ(Ь, s)\B(b,r), O(u) = supimcp, а значит, БФ(и) = 0. Такая точка и существовала бы, поскольку Ф(х) = ц>(х), если \х— b\'= s, supimФ > supimф, Ф(х)<у(х), если |ж— 61 >s, Ф (х) < sup im ф, если \х— Ъ\^г. Тогда мы бы пришли к выводу, что О < е (Lh) (и) = (ЬФ) {и) = т т = 22 Ai,k (и) ДаФ (») = <Д2Ф (и), ^ («) >< О, г=1 ft=l поскольку (а® о, А(и)У^0 для oe0'R", а из 1.7.3 вытекает сле- следующее представление: где A,,«SO, Oj Выведем следствие, имеющее отношение к некоторым вариацион- вариационным задачам (см. 5.3.18). Пусть /: U-+R и g: U'-*¦ R — отображения класса 2, f(x)^g(x) для X&U, Н: *7XHom(Rm, R) -*- R — отображение класса 3, \<[O,DB(z)],DH[x,Df(x)])d&mz = и == f <[0, 7?в (a:)], DH[x, Dg(x)]}d&mx и f и для Qez0(U, R) и форма, отображающая (a, 9)eHom(Rm, R)X 38*
596 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ XHom(Rm, R) на <@)а)©@,т),О2Я(х, *)>, сильно эллиптическая для (х, Х)^ UX Hom(Rm, R). Тогда множе- множество {х: f(x) = g(x)} является открытым. Применим принцип максимума к q>(x) = f(x) — g(x) и (аэх, А(х)} = 1 = J <@, о) о @, т), DW [х, A - t) Dg (х) + tDf (ж)] для ле[/ио,те Нот (Rm, R). Теперь будем доказывать второе предложение. Пусть U — связное открытое множество из Rm, Е: U -»¦ ©2[R X Hom(Rm, R)] — непрерывное отображение, <.@, о)©@, о), 2(ж)>>0 для x^U и 0 f<je Hom(Rm, R), ф: U -+Лп{у: у =S 0) — отображение класса 1, С = {х: ср (х) = 0), \([<t(x),D<p(x)]QlQ(x),Dd(x)],E(x)}d2>mx = 0 и для 6 е ф (С/, R). Тогда либо С = С/, либо 5^т-1 (С) = 0. Предположим, что С Фи, я пусть ч — характеристическая функ- функция множества С. Для данного произвольного связного открытого множества W такого, что Clos W — компактное подмножество мно- множества U и W<?C, выберем такую форму что г\)(х)>0 для x^U, ^(x) = l для жеИ7, и такие числа 0<Жи.<°°, что IIS(a:)ll<u. для zssptil) <@, о)©(О, о), Е(х)>>Х\о\2для a:eSpti|5 и oeHom(Rm, R). Ясно, что гипотеза останется справедливой для любой липпшцев- ской вещественнозначной функции в на U такой, что spt 9 — ком- компактное подмножество в U. Определим для каждого натурального / fy = sup {ф + /ф, 0>, Rs = {x: Q, (х) > 0>, Заметим, что имеют место равенства [о, де,(*)]©(о, дв,(ж)]-Яф(ж), -Нф(«), Я1>(*)]0[Ъ(*), Щ-Wl-to, ^wjeftw, о], причем 0 < —7ф (ж) < if (ж) и 0 < 93- (х) < -ф (ж) для x^Rjy и что Щ(г) = 0 для 2""-почти всех а:
§ 5.2. РЕГУЛЯРНОСТЬ РЕШЕНИЙ УРАВНЕНИЙ 597 Следовательно, имеем оценку К| DQ} \Ь < \1Щ(а, j \Ь — 2X~1\iaj | DQj \v < (ATVjJ, | Dfy \v Заметим также, что 9j(x)-> f (x)ty(x) при j -»- 00 для jet/. Продол- Продолжая 'Y, "ф, 93- до отображений пространства Rm, полагая их вне U равными нулю, получим, что в ?>m(Rm) Em L- 0^ -*¦ Em L Если p e S)™-1 (Rm), то для всех / I <p, d<Em l e;)> I = I Ет[(?>е^) л p] | < 3x-V«i IPI I <p, d<Em it Следовательно, lld(Em L- ^)\\ является ^"-абсолютно непрерывной. Кроме того, (EmL-YiK)L^ = (Em'-C)L-H7, и для любой точки a^W из 4.2.1, 4.2.17, 4.1.28 вытекает, что для 2"-почти всех чисел р меж- между 0 и dist(a, ^ХИ7) выполняются условия rp = (EmLC)L U (a, p)e Im(Rm), НЗГрИ = НЗГрП L. Вр, ще Вр = {х: в^ЧШеН, х)>1) и ^m-1(SP)<°°. Следовательно, \\д (Ет L С) II L и (а, р) = \\дТ„\\ L- U (a, p) ^ llarpll L в, и U3(EmLC)lHJ(a, р)<У(?тЬС)||5р = о, поскольку ^m(Sp) = 0. Итак, поскольку альтернатива 2?m(W\C) = 0 давала бы W<=^C. Представляя U как объединение таких множеств W, получим, что 2"п{С) = 0. Применяя нашу конструкцию снова к конкретному множеству W, заметим теперь, что Rj^Rj+1 для всех натуральных /, и П R) а С, а значит, lim 2?m {R}) = 0, lim щ = 0. j=l j-юо j-»oo С помощью 4.5.9 A3) делаем вывод, что j \ М [д (Em L {х: 8,- (ж) > *})] dZ4 < М [д (Ет L в,)] = 2-^0 при 7^оо. Выберем такие числа S; между 0 и 1, что •*«, где Р;
598 гл. 5. приложения к вариационному исчислению и применим 4.5.4 для того, чтобы покрыть каждое из открытых мшь жеств Р] счетным семейством F, замкнутых шаров так, чтобы S (diam5)m-1->0 при /->«>. Поскольку CnW<=Pj для всех у, получим, что 2вт~1 {С П W) = 0. Выведем теперь следствие (которое используется в 5.3.19). Если U и V — связные открытые множества в Rm и R, j: U -*¦ V и g: U -»- V — отображения класса 1, f(z)<g(x) для x^U, C = Ut\{x: f(x)=g{x)), отображение G: UXVX Horn (Rm, R) ->- R — класса 2, j <[0, в (х), DQ («)], Ш [х, f (x), Df (x)]} dSmx = и = f <[0, 8(яг), DQ(x)],DG[x, g(x), Dg{x)\)dSmx и для 0eS)(f/, R) и форма, отображающая (a, T)eHom(Rm, R)X XHom(Rm, R) на <@, 0, а)©@, 0, г), D*G(z, у, Я)> сильно эллип- эллиптическая для (х, у, X)s UX VX Hom(Rm, R), то либо C=U, либо Применим второе предложение к Ц> (х) — f (x) — g (х) и <(г, а) © (s, т), S (*)> = 1 = j <@, г, о) © @, s, т), D2G(x, g (x) + f<p (x), Dg (х) + tD<p (ж)]> dS71^ о для x^U, reR, oeHom(Rm, R), seR, xeHomfR1", R). 5.2.20. При /re = 1 будем использовать следующую теорему един- единственности для обыкновенных дифференциальных уравнений. Если Q — открытое множество в нормированном векторном про- пространстве Е, отображение Н: Q ->- Е липшицевское, U — открытый интервал и a: U -*¦ Q, [J: С/-»- Q — такие отображения класса 1, что а' = Н°а, Р'-Я«р, го множество {х: а{х)=$(х)} является открытым. Для доказательства этого утверждения предположим, что r>0. г-Ыр(Я)<1, U, |i = sup{|a(«)-P(a:)|: x^I), и получим, что \(а-^)'(х)\ = \Н[а(х)]-Щ(х)]\^Щ(Н)ц для 1 I (ее — Р) (а:) I < \x-t\ Ыр(Я)|л<гЫр(Я)ц для а значит, ц ^ г Lip (Я) ц, т. е. либо ц = 0, либо ц<\
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 599 Получим следующее предложение. Если U — открытый интервал, V — открытое множество в R", ф — эллиптический интегранд степени 1 и класса 2 на U X F, а /: U -*¦ V, g: U -*¦ V — такие отображения класса 2, что 'и |<[0, в (г), Дв (я)], ДФЧ*, *(*), [7 для 9е^5(С/, R"-1), то множество {х: f(x) = g(x), f'(x) = g'(x)) является открытым. Определяя непараметрическое преобразование Лежандра фор- формулой L: UX FXHom(R, R"-1)- U X V X Нот [Нот (R, R"), R], 1>{х,У,о) = (х,у, D<$Xty){a)) для (х, у, a)«=t/XFxHom(R, R"), видим, что L является унивалентным, а L~l класса 1, поскольку из 5.2.17, 5.2.3 и 5.1.10 вытекает, что величина | т - а Г11| ДФ* (т) -Z)Of (а) | > | т - a f2 <(т - а), ОФ| (т) - 1 _ 0ф» (Ст)> = f | т - а Г2 <(т- аJ, ?>2Ф| [A - t) а + tx\} dSH 6 имеет положительную нижнюю грань, когда (z, a)~?={z, т) пробегает некоторое компактное подмножество в (U X F)X Hom(R, R"~'). Используя базис т),, ..., т]„_1 пространства Нот [Нот (R, R"), R], дуальный к базису X^i, ..., X,vn-i в Hom(R, Rn-l), определим [n-l 1 1, V, 2 ?*1+;Ф§ («. У, О) Г\} 3=1 J h(x, у, a)= l,v, для всех x e U, у е V, v e R"-1, a = .Xii; s Horn (R, R") и положим // = h ° L-1. Пусть )] и $(х) = Цх, g(x), Dg(x)] для x^U. Легко проверить, что уравнения Эйлера — Лагранжа из 5.1.11 влекут равенства а' = Н ° а и р' = Я ° р. § 5.3. Эксцесс и гладкость 5.3.1. На протяжении § 5.3 сохраняются обозначения из 5.1.9 и 5.1.11. Мы будем изучать такие m-мерные спрямляемые потоки в пространстве Rm X R"", которые почти параллельны подпростран- подпространству Rm X {0}. Мерой отклонения от параллельности будет служить понятие эксцесса, которое определяется следующим образом.
600 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Всякий раз, когда 5e^m(RmXR"-m), fteR", 0<r<<», опреде- определим эксцесс в точке (Ь, г) потока S формулой ЕхсE, Ъ, г) = г-™[М(&>г)-М(р+&,г)], Где 56,r Заметим, что если p(sptdS)c: Rm\U(b, г), то р^.г-ЛЕМ-ЩЬ, r) для некоторого целого числа к в силу 4.1.7. Следовательно, м (P+'S'b.r) = sign (к) Sb,r {DZ1 A ... Л DZn), r™Exc(S,b,r) = j [I - siga (k)iS ,DZ1 A... A DZm-)]d\\S\\. p-!U(b,r) Кроме того, для HSll-почти всех точек zeRmX д»-"> | S{z) L Zm+} |2< 1 - <S(z), Zx л ... Л^ж>2< < 2 [1 - sign (к) <S (z), Zx л ... Л Zm>l для любого ;s {1, ..., n — m), поскольку 4.1.28 и 1.7.5 влекут ра- равенство и так как l — t2<2(l — t) для ieR. Обобщим предыдущее понятие с помощью 4.2.26, определив для каждого неотрицательного целого числа v эксцесс по модулю v по- потока S в точке {Ь, г) формулой , Ъ, г)=г-1МЧЛ,г)-М1'(р+5'ь,г)]. Заметим, что Exc°(S, Ъ, г)=ЕхсE, Ъ, г) и ExcJE, b, r) = 0. 6,r = ЛЕП L. .U(b, r) ui> 0, го , Ь, r)=r-mMkEb,r); также 8m(H5ll, z)> k для WSW-почти всех точек z, то Exck(S, Ъ, r)<Exc{S, 6, г). Для проверки последнего утверждения положим W = p-1U(fc, г)П{2: 6m(ILSH, z)>ifc} и, используя 4.1.28, 4.1.30, получим Мй Eь,г) < М [S - ft E^m L W) л 5] = f [6m(H^Ij z)- w =. M Eb,r) - АЯГ (WO<M Eb,,) -^m [(p (W)] = M Eь,г)- M(P+5b>r).
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 601 Простые примеры показывают, что без дополнительных предположе- предположений на вт A1511, •) может оказаться, что Excv(S, Ъ, r)= ka(m)>0 = Exc(S, Ъ, г). Заметим, что 0< Г* Excv(S, Ь, r)<smExcv(S, b, s) всякий раз, когда v — произвольное неотрицательное целое число и 0 < г < s < <оо. Конечные положительные числа Г\, Г2, ..., Г21, которые появят- появятся в этом параграфе, зависят только от размерностей пг и п. 5.3.2. Лемма. Найдется такое положительное число Г4, что [UTW(b, r)]1-1/m<r1ll37TIIU(b, r) всякий раз, когда 6eRm, 0 <r<°°, r(=I™c(Rm), T1- UF, г)?=0 и 2*"[UF, r)(\{x: em(\\TW, x)^0}]<4a(/n)rm/5. Доказательство. Используя отображение \ii/r ° Т-ь, редуцируем нашу задачу к специальному случаю, когда Ъ = 0 и г = 1. При т>1 применим 4.5.2A) с заменой п, R на т, U @, 1), для того чтобы получить такое целое число к, что \\кЕт - П\] @, 1) и заметим, что 1!ГГО@, l)-llr-A;EmIIU(O, <5A;2""[U@, 1)П{ж: 0т([1Л1, х) = О}]<Ы\кЕт-TW@, 1). В результате в качестве 1\ можно взять число 6<m~1)/mo. В случае т = 1 имеем НдГИЩО, 1)^1 и в качестве 1\ можно взять 1. 5.3.3. Лемма. Пусть пг> 1. Тогда найдутся такие положительные числа Г2, Г3, что если 0<р<о°, 0<s<oo, fe Im_t (Rm X R"-m), spt Г с Z) = {(z, y); \xl=p, \y\<s), дТ = О и М(Г)< Г2рт-1, то существует такой поток R e Im(Rm X R"~m), что D, dR = T и Доказательство. Применим 4.2.9, 4.2.10 с заменой m на пг— 1. Пусть Y = 2n2m, Г2 = Dге)*-ту-1, Г3 = 2тчтПт-1\ Определим ретракцию /: W = {(x, у): \х\ > р/2) -*- D по формуле f{x, у) = (р\х\~% у) для (x,y)^W, \y\^s, f(x, y) = (p\x\-1x, з\у\-*у) для (х, y)^W, \y\^s, и заметим, что Lip(/)<2 (сравните с 4.1.16).
602 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Для данного Т выберем такое е >0, что е'"~1 = уМG'). Получим 5eIB(Rm, R"-m), для которого dS = T, МE)(т-1)/"><уМ(Г), spt S <= {(х, у): dist [ (х, у), spt Т] < 2пг) с W, поскольку Bие)т-1<Bи)ю-1уГ2рт-1 = (р/2)т-1. Теперь положим R=LS. 5.3.4. Теорема. Найдутся такие положительные числа Г4, ..., Tis, что всякий раз, когда к — натуральное число, Sel^R^XR"-'"), 0<r<«>, 0<s<oo, sptS с: А = {(х, у): \х\<г и \y\<ss), sptdSс {(х, у): \х\=г), \Ш{х, у): к1=г} = 0, = А;Ет L (а;; \х\ < г}, , 0, r)<A;a(m)/5, Q = Exc*E, 0, r)< a(m)/5, Для / = 1, ...»га —т и feR, ДЛЯ / = 1, ..... га —т и (gR, a7 = sup (*: r-M || 51| WJ (t) < 3A;a (m)/5}, имеют место следующие десять утверждений. A) -5<Р7<а/"<аГ<Р/"<«- B) (р;-а/J<1/ C) (а,--Р7J< E) Если af ^.t^. P/, то Wf V) - E]1/m Erm+\ F) Если af^t^^f, mo j {Ui-tydlSlfayX [(x,y): t^yj>(ij} < 2Г4А1/т [r-m 1S || И7 @ - E]1/m Evn+\
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 603 G) Если a?s^fs^aj", то J (y}-t)*d\\SUx (8) Если (eR, ц>0, © > 0 и r-m\\SU (х, у): \y}-t\> ш) *? цкт < Зка(т)/5, ТО J (у} - t)*d\\S\\(x, (9) у r|eC = R"-m П I»: РГ<^<Р/. для 7 = 1. го найдутся такие Р, Q, R, р, что sptP<={(x,y): spt Q<= {(х, у): р < \х\ < г и je C>, sptR<= {(ж, у): |х| =р и !#!«?«}, + ПРИ + Н<?11]{(х, у): \х\ = р> = 0, dP+dQ = kd[(Em L {a:: fx| < г}) X 6Д r-mM(/?)<r7(M.~i?)m/(m"t) в случае т>1, й = 0в случае /п = 1, Ехс (Р + <?, 0, г) < Г8 [ц + ^ 1/] RmXC Exc*(P+<?, 0, r)<Tln+n-3(kE)i/m]Q, причем выполняются следующие два условия: (I) если af ^ t\j ^ aj" Зля / = 1, ..., п — т, то Ехс (Р + Q + R, 0, г) < Т10к1/тц-3Е; (II) если кЕ <цш<Зка(т)/5, в>0м r-mll5il{(z, у): \y-r\\ >а>г}<цш1 ТО Ехс(P + Q + R, 0, г)< k(Tu]iE + Г12ц-3©г), Д, 0, г)<Г
E04 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ A0) Предположим, что 0<Х<°°, Ф — такой параметрический интегранд степени пг, что К-%\<Ф(х, у, ?)<М?| для (х, у)еА, ^Am(RmXR"-'n), поток S является абсолютно Ф-минимизирующим относительно А и вектор ц е R"~m таков, что а| ^ r\; ^ aj для j <= {1, ..., п — ш). (I) Если (х, y)<^sptS, то либо \х\ >{1 - Г13%г-2/тЕ1/т)г, либо j^pf + T13%2-2/mE1/mr для j е {1, ..., п — т). Вторая альтернатива влечет \у - т) | < (п - mf2 [T\/2k1/Bm) + Г13^-2/м?1/Bт)] E1/i2m)r. (И) j ( ^ („ _ /n)^ [(г, + 8Г4?1/т) A1/m + SY\^-ilmE2lm] Ern+2. Доказательство утверждений A) — (8). Утверждение A) легко проверяется, поскольку r~mME)< Qka(m)/b. Для того чтобы доказать B) и E), определим / @ = || 51| {(*, у): у) < *} = М (S) -\\S\\ Wf (t), (t) = ka(m)rm — f(t) = \\S|| Wf (t) — Erm, для teR. Функции / и g неубывающие, а <р невозрастающая и Ъка (m) rm/5 > | S \\ Wf (t) > 2Erm для af<t< pjf", [3A;a (m)/5 — ?] rm > <p {t) > ?rm для a? < f < p/". Заметим сначала, что Ф @ J-1/m < Г4М<5, Zm+i, i+> для af<it< P,+, поскольку Ф @ = M (р+5) - М [5 - 5 L Wf (*)] <¦ В то- же время из 4.1.28, 4.1.30 и 4.2.26 следуют неравенства Sm[x: вм (lp+[S < А151W/ (*) + Ц 5 f И^" @ < За (/n) rm/5 + Qrm < 4а (/п) гм/5.
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 605 Следовательно, 5.3.2 и 4.2.1 дают Используя 4.3.4 и 4.3.2 B), неравенство Гёльдера и 5.3.1, получим, что если a.f < и < v < $$ и В — {(х, у): и < rjj < v), то (v - и) ф {vf-llm < Гх | М <5, Zm+j, t + u = Гх||5 L DZm+i\\B= Y1 f |5 L />ZM+j|d|S\\ в < I\ Г j 15 L ?>Zm+j Г d 151|I/2 A5 1 Bf> < Следовательно, для 2"-почти всех чисел v между af и $f имеет место неравенство Предположим теперь, что а/" ^ t ^.u<Z $f. Имеем оценку (и- 0'<(j r1[2g'f']1"<?Un^1dZ4 < u u < Г?2 J g\xlm~x t Поскольку = J - m (ф1/т) dS?x < m [ka (т)]1/тг, t t . TO (и - 0 < Г4/с1Мг j ^'ф17"^^1, t где Г4 = Tl2ma (mI/m. Отметим неравенства (firI7 Erm = E1/mr, откуда (и —1J< Г4(А;?I/тг2, следовательно, мы получили утвер- утверждение B).
606 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Выведем из 2.4.18 и 2.6.2 утверждение E) с помощью следую- следующих выкладок: j (Vi- tf d\S\(x, y) = j (u - Oad(Y}# ||S||)и8 p-+l * 4A; r j Jg (У)ф(у) t t g' (v) Ф (z;) t J 4 Г4/с1/мг J g' (v) Ф (vf™-1 [Ф (у) < Г4А;1/тг j g' (v) [\\ S\Wf @ - Erm]1/m < Г4А;1/тг [\\S\\ Wf (f) - Утверждения (З) и F) можно проверить аналогичным образом. Яс- Ясно, что утверждение D) следует из A), B) и C), в то время как G) вытекает из E) и F) с константой Г5 = 4Г4а(/пI/т. Из предположений в утверждении (8) следуют неравенства t+ = t + cor ^ а? и t~ = t — (лг ^ aj. Определим следующие множества: М = {(х, у): t~ < y,< t+}, В следующих оценках используются утверждения E) и F): j (Vi- tf d\S\(x, i/)<(o2r26A;a(m)r™/5, j j |(x, y)<2Tik1/mVi*Erm+2 +¦
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 607 Доказательство утверждения (9). Для (х, j/)eRmXR"-m опре- определим g(x, у) — '\х\. Из 4.2.1 видим, что g, p-> = g, p-> = 5[(p+,S)LU@, p)] = A;d[EmLU@, p)] всякий раз, когда 0 < р < г. Следовательно, r-\lr j [M<5, g, p->- Г— 2ЦГ Г j [, g,p->- kma(m) 1 [М E) - ка (т) гт] = у^Ег™'1. Пусть ф — характеристическая функция множества Rm X (Rn~m\C). Используем 4.3.4, 4.3.2 B) и определение величин Р/, Р^~ для того, чтобы получить оценку T-V.T Положив ty(x, y)=\y — ц\2 для (х, !/)eRmXC и ty(x, y) = 0 для (х, i/)eRmX(Rn~m\C), аналогично получим неравенство Г-VLT (цг) j M<5Li|),g,p>d2'1p< Г—2ЦГ RmXC Кроме того, из 4.2.26 вытекает, что $* Г—2ЦГ = ti Excft E, 0, г) г = ц-Чгг1". По тем же причинам, что и в доказательстве 4.2.7 B), видим, что множество всех чисел р между г — 2ц,г и г— \ir, которые удовлетво- удовлетворяют следующим пяти условиям: M<S, g, p-> - /c/na(/n)pm-' < 4ц-'?гт-1, M<S L- Ф, g, p> < 16 (га - m) yrlEf*-\ M<S L ф, g, p> < 4(A-V-'M E L ,),), M*<5, g, p-> < 4n-'Qr"-1, II5IK (z, i/): \x\ = p} = 0
608 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ имеет положительную 2"-меру. Начиная с этого момента, фикси- фиксируем такое число р. Пусть L=<S, g, p-> e= Im_,(RmX R"-m). Из 4.3.1 заключаем, что LL?=<5L9, g, р>, LL,j,= <1SL1|3, g, p>. Вспоминая 5.3.3, положим Г„ = 2~5(п — I) в случае т = 1 и Г6 = = inf {2-ь{п-т)-^-тТг, 1} в случае т > 1. Пусть / обозначает ближайшую точку ретракции пространства R"-m на С (см. 4.1.16). Определим F(x, у) = (х, f{y)) для (х, !/)e Заметим, что Lip (/) = 1, L — F^L = (L L ф) — F# (L L ф), M (L - F#L) < 2M (L L ф) < 25 (n - m) ^Ef"-1 < <25(ге-/п)Г6(Зр)т-\ причем dL = Q, d(L — F#L) — Q. В случае т>1, применяя 5.3.3, по- получим m), где 6R = L- F+L, М(Я) < Г3[25 (п - m) ц-* Соответственно возьмем Г7 = Г3[25(ге— т)]тПт~1). В случае т = 1, получим L — F^L = 0 и выберем R равным 0. Используя гомотопию h и погружение А, определенные фор- формулами h(t, х, y) = (tx, y + »2\t-l\{r]-y)), построим потоки Отмечая соотношения hi = 1, Л, = Д ° fi( ° р для f = 1 ± цг, p°/jT = и p+L = 3[>EmL-U@, p)], из 4.1.8 и 4.1.9 получаем, что Кроме того, если точка (t, x, y)sRXRmXRn-m такова, что 0< < U-l|<n2, то \At(x, у)\=(\х\2 + ^\ц-у\*У'\ Wht(x, Замечая, что \х\ =р для (х, y)^sptF4,L и что A + иI/2<\ + и для и>0, VtF+LW^UA +
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ . 609 и применяя утверждение D), получим +J12 J J а p A + р~2ц-41 т| — у |а )i/2 t"-id|| F+^J (xx у) dS11 i+j " +Ц2 j [fcmct (то) p™ -1ц-«4- Г4 M(kET\_{x: p- ц2р<|x|<p + *i2p}) + 2V[4^~1 96 (n — i») Г4ц~5 (kEyl™ Erm]. + ц11 (|) ( ) 4ц (y ] Отсюда следует, что для Ехс(Р + @, 0, г) имеет место требуемая оценка с константами Г8 = 2™ sup {4,96 (ге — /п)Г4} и Г9 = 2т+23. Аналогичным образом, гт Ехс" (Р + <?, О, г) = Mh [А+ ([1 - jia, 1 + ц«] X 2 < 2тц2 [р + р-!ц-44Г4 < 2т+2 [\i + > (I Наконец, утверждение (I) вытекает из G), а (II) —из (8), если взять Г10 = 2Г8 + (п - т) ПГ, + Г7, Ги = 2Г8 + (п - т) 4Г4Г9, Г12 = За (т) {п - т) Г9. Доказательство утверждения A0). Если (х, y)^sptS, то г- \х\ <dist[(a;, у), sptdS). Пусть /е{1, ..., п-/п}, ар = inf {г — \х\, у} — §f) > 0. Свойство плотности, установленное в 5.1.6, дает неравенство Х2-2та-гпт-трт < | 5 ||U [(х, у), р] < || S | И? (Pf) < 2^™, следовательно, р < Т13Хг-2/тЕ1/тг, где Г„ = 6m2l/m. Аналогичным об- образом оценивается inf {г — | х \, pf — yj}. Отсюда получаются обе "9 г, Федерер
610 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ альтернативы утверждения (I), а дополнение к утверждению следует из утверждений C) и D). Утверждение (II) вытекает из G) и (I). 5.3.5. Лемма. Найдется такое положительное число Тц, что вся- всякий раз, когда к — натуральное число, Ss^m(RmXR"-m), 0<r<oo, 0<s<«>, sptSc.4 = {(х, у): \х\<г и lj/l<s>, s$tdS<={(x, у): \x\=r), E = Exc{S, 0, г), p*S = ftE»L {х: \х\ < г}, Й = Ехс*E, 0, г), fi{x) — k~4S, р, x>(Zm+j) для 35т-почти всех х, Ui->v+(Sl_Zn+jfbDZ1A...bDZm) для j <= {1, ..., и —л»}, имеют место следующие шесть утверждений: A) Если j <= {1, ..., п — ш), то IIS (S L Zm+)) Ilp-'U @, r) < [2ka (m) + 2E]UiE1/2rm. B) Если <pe0°(Rm), spt9crU(O, r), ie{l, ..., m}, ..., re —m}, то y X л ... Л DZw Л />Zm+i л DZi+1 л ... Л Z)Zm. C) ^сли числа ] <= {1, ..., re — /n} u JeR таковы, что г) П {ж: /,(*)> ^}] < a(/n)rm/2, г) П ix: U (x) < t}] < a (m) rm/2, TO M [p+ E L 2m+j) - ktEm L U @, r)] = U@,r) D) Если 0< а<°°, то найдется такое отображение g: Rm -*• Rn-m класса 1 и такое компактное подмножество С множества Rm П flU@, г), что 2""[V @, г) \С] < EЕ + Й + ©) rm, ft 1С — /ilC, гЗе ft- == Yj ° g Зля / s {1, ..., и — /n}, ,SLp-i(C) = A;G+(E'"LC), г9е С(«) = (г, g(^)) Зля isR» - A:G+ (Em L- C) ] < F5 + Ш Зля ieC, f | Dg |2
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 611 для чисел ie={l, ..., т), / е {1, ..., п — т) и формы fe2)°(RB) такой, что spt<p<= U@, г). E) Если ц е Rn-m, |t)I<s, 0< А,< °о и W — такой параметри- параметрический интегранд степени тп и класса 2 в некоторой окрестности множества А, что DW * (О, О, О) = О и где точка (х, у)^А, вектору & Am(Rm X Кп~мO-аков, что отображение T«=Hom(Rm, Rn~m) таково, что |х| < 1, то , S> - <Ч, A[EmL U(O, г)]Х6„>| < В случае, когда spt dS с: Rm X {ti), а Ч? — эллиптический интегранд в точке (О, 0) с константой эллиптичности Х~1, имеет место не- неравенство r-m[<^,S>-<"?, fc[EmLU@, г)]Х6„>]> > Х~1Е — 2кХ (г8 + s*) и\а (то) i/zEift + 6Е + Q] - 2fcX (г8 + s2) а (то). F) Если 0<s<r, 0<o<Dr)~' u ijj —такая функция класса 2, отображающая некоторую окрестность А в пространство RmXRn~m, что ф@,0)-@,0), Z>iMO, 0) = lRMxRn_m, Шг1|)(ж, у)Н<о 9ля (г, у)е4, то г-агг>0, ^{{х, у): \х\ = г}<= {(х, у): Ы -'U @, г - аг2) ] = fcE» l U @, г - , 0, г-аг2)<? + 2т+2аг[А;а(/п) + ?:]. Доказательство. Заметим, что из 4.3.2A) вытекает равенство J Ф (х) kU (x) dSmx = S [Zm+i Л р* (ф Л DXX Л ... Л DXm)] для q>^2)°(Rm). Отсюда вытекают первые два заключения утвер- утверждения A). В случае, когда вр1фс:и(О, г), мы получим также DiUj (ф) = - Uj (Dm) = - S [Zm+i л p* (D& Л DX^ ... hDXm)]= S \Zm+j Л p» (DXX Л ... Л DXi_x л ?>Ф Л DXi+1 л ... Л />^™)] - 5 [DZi л ... Л />2{_! Л 2ra+i Л Z> (Ф«р) Л Z>Zi+1 Л ... Л DZm) = = 5 [DZ1 л ... Л /J{_! л Z>^m+i л (Ф • р) Л DZi+1 л ... Л DZm]t поскольку (dS)L p~'U @, г) = 0. Следовательно, имеет место B). Для того чтобы проверить третье заключение утверждения A), ис- используем сокращение ,Z1N.,.t\Zmy для 39*
612 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Тогда неравенство Гёльдера и 5.3.1 дают оценку II д (S L Zm+}) || p-iU @, г) - «S L DZm+} || р-Ш @, г) < (J 2 A - х) d}S\\.M(S)I/2 = [2Е(ка (то) + Предположим теперь, что / н ( удовлетворяют предположениям утверждения C). При т > 1 применим 4.5.3 с заменой ге на /га и определим Ги = = 2l/2aoc(/nI/m. Применяя неравенство Гёльдера и 4.5.9 A9) к Т = — ^~*Р# (S L ^m+j)i получим неравенство r~m J |/j-t|d2'm< U@,r) U@,r) < [ori-« Цз(,Бт L /j) IU @, r)] a {mL*. Тем самым заключение утверждения C) можно вывести из A). При m = 1 возьмем Ги = 23/г и сделаем вывод, что заключение утверждения C) следует из. A) и 4.5.9 B3). Для доказательства утверждения D) представим S в виде S = {Ж* L W) Л|,где W состоит из всех точек z таких, что em(llS!l, z)>l, 'S(z)— простой /га-вектор, |5(z)l = l, Тапт(Ш, z) является /га-мерным векторным подпространством в Rm X Rn~m, ассо- ассоциированным с S(z), и где , z)S(z) для zePF. Заметим, что ар/т(р|И7) (z) = lx(z) | для ze?. Применяя 4.3.8 к F = р, получим равенство ?(г)=6т(Ш, z)signx(z) для z^W, и получим, что для 2""-почти всех точек х е U @, г) m+i для 7'е{1, ..., re — то}, ?00, {x> поскольку №LU@, r)=p+5 = Eml-<)S, p, ¦> в силу 4.3.2 (IV. От- Отметим, что &ЧУ @, г) \р (W)] = 0.
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 613 Для j^il, ..., га —то) определим Вг как такое подмножество множества dmn/^, которое состоит из всех точек, где функции f} яв- являются аппроксимативно дифференцируемыми, и отметим, что, со- согласно 4.5.9 B6), #тAГ\Я,)-0. Пусть п—т В = П В, n {x: card(TF Л р~х{4) = *}• 3=1 Используем 2.10.11 и 4.2.26 для того, чтобы получить неравенство 2""В @, г) + 2?т [В @, г)\В] < J card (W Г) Р {*}) dSmx < < 5К" (W) < и151 (W) + \St(W)^[a (m) + к~гЕ + Q ] r"», следовательно, 2"™[B@, r)\5] <(A;-15 +Q)?". Если jefi, то условию ?(z) = к удовлетворяет единственная тч- ка z e JF П р-*{ж} и fi{x) — zm+j для / е {1, ..., п — /п}. Следовательно, *¦(*)- (*„ ..., хт, П (х), • •., /.-»(г)) е Т7. Пусть F = VF П {z: x(z)> 2-1/2}. Из 5.3.1 вытекает, что IIS || (W\V) < A - 2~1/2)-x J A - х) d 151|< 4Бг«. Теперь применим 3.1.16 для того, чтобы получить такие вещест- веннозначные функции gt, ..., gn-m класса 1 на Rm, что gm [U @, г) \М] < ©г"», где М = П {х: f, (x) = ft (*)}. Используем 2.9.11 и 2.2.2 для того, чтобы выбрать такое компакт- компактное подмножество С множества В П р (V) П М, что 2Щ[В Л р(У)\С] < ©Л 6m{3?m L- Rm\M, ж) = 0 для же С. Пусть *(*)-(*,(*), ..., g.-»(a:)), G(e) = (z, g(x)) для a;eR™. Если же С1, то G(x) = F(x)^V. Применяя 3.2.17 к if = G, получим, что образ imDG (х) с Tan \Шт ^-W,G(x)] = Tanm [II5H, G (x)] таков, что dim im DG (x) = т. Следовательно, векторное подпростран- —» ство, ассоциированное с S[G(x)], совпадает с im DG (x) = (Rm X Rn-m) П {(и, v): v = (и, Dg (x)}} = n—m П ker т "I -^lDigj(x)Zi \, (S [G(x)]t Z1 л •.. Л 2W Л Zm+i л Zi+1 л ... Л Zm> = ] для ie{l,...tm} и j?{l
614 ГЛ. 5. ПРИЛОШЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ \Dg{x)\*Zi, поскольку %[G(x)]>2-1/2. Из 4.1.15 мы видим, что S L р-« (С) = G#P# [S L р-' (С) ] = G+ (fcE» L С), поскольку W Л р-1 (С) = G(С)<= V и G[p(z)]==z для zeG(CJf а из 3.2.20 'тх = f G(C) I G(C) G(C) G{C) G(C) Наконец, отметим, что W\f~l (С)ci(W\V) U р~'(Л^), где Л^«= [U@, г)\В] U [5 П р(F)\С], f (l- [б+ (Em L С)] [(Ф о p) л Ay] = (Em L C) G* [(Ф о р) л ди] = = (Em L C) IvDm Л DXX л ... Л Следовательно, из B) вытекает неравенство Для проверки E) получим сначала с помощью формулы Тей- Тейлора следующие оценки: х, у, т)||<мЫ2+ Ы2 У, т)-^§@, 0, 0I <Я(|х|2+ |j/|2+ |т|2)/2, для точки (х, у)е=А и отображения теНот(Нт, Rn-m) такого, что
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 615 |т1 «5 1. Теперь из D) вытекает, что -<f,ft[EraLU@, r)]x 6„>1< ; к | (V, G+ (Ет L С)> — <Y, (Em L С) X 8„> | + ЯМ [S — AG+ (Em L С)] + %kgm [U (О, ttg(x), Dg(x)]-W$[x, tj, 0]) AQ + Аса) rm + U E? + Q + ©) rro < X[\x\* + \g{x)\> + \Dg{x)\* + \х\*+\х\\*]/2<12>ях с 2Й < АЯ, [(r2 + s2) a (m) + 2? + 11? + 2Q + 2co] r™. Отсюда следует первое заключение утверждения E), поскольку число (о можно взять сколь угодно малым. Пусть теперь справедли- справедливы предположения второй части утверждения E). Определим функ- функцию Ф (х, у, ч) = V (х, у, t) - V @, 0, ч) для (х, у, у) edmnf. Отметим неравенства Ф\(х, у, 7I <ЯA*|2+ \у\гУ'\ если (х, у)^А и 1 -у! — 1, , у, т) - ?§ @, 0, т) | < где точка (х, у)е-4, а отображение xeHom(Rm, Rn-m) таково, что 1x1 < 1. Отсюда из неравенства Гёльдера и утверждения D) по- получим неравенства |<Ф, S} - <Ф, к [ Ет L U @, г)] X 6„>| < < к\ НФ§ [х, g(x), Dg (х)] — Ф§[х, г\, 0]) \с + Я (г2 + s2I/2 [QE + Ш + Ы + к < к J Я ((г2 + s2)i/2 [га + s2 + | Dg (х) |2р/2 + (г2 + s2) с + 2А;Я (г2 + s2I^ F5 + Q + <о) гт < < АЯ (г2 + s2I'2 a (/пI/2 [(г2 + s2) a {т) + ЪЕ]У* гт + + кК (г2 + s2) a (т) гт + 2АЯ (г2 + s2I/2 F? + Й + со) г™ Кроме того, из эллиптичности интегранда Ч? в точке @, 0) выте- вытекает неравенство <^F - ф, 5> - <? - Ф, ft[E»L и@, г)]8ч> >%
616 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Второе заключение утверждения E) получается сложением полу- полученных оценок. Относительно утверждения F) отметим, что формула Тейлора дает неравенства (z, у)- 111 < а(\х\2 + 1»12I/2 < 2от для (х, у)^А. Следовательно, в случае, когда Ы —г имеем нера- неравенство 1р[^(я, у)]\ >г — ог*. Пусть h — аффинная гомотопия меж- между отображениями р и р ° ijj, тогда носитель потока р+(г|>#?)- р+5 = й+([0, 1] X OS) содержится в RmYU@, r —or*). Отсюда вытекает третье заключение утверждения F). Теперь четвертое заключение утверждения F) следует из оценки Exc (if+S, 0, г - от2) < (г - от2)" М (t|)+5) - ка (то) A - отГт A + 2or)m M (S) — ка (т) < + Е\-ка (т) < < Е + 2т3ог A - or)'1 [ка (т) + Е] при условии, что or < 1/4 и 1/A — or) < 4/3. 5.3.6. Для 0<р<оо, вспоминая 4.2.8, 4.1.1, 4.1.7, 2.7.16, легко проверяются следующие утверждения. Если rs2)m(Rm), to 7) L (DX1 л ... Л DXn) = p"»fip+ {Т L DXX л ... Л С/ е ^50 (Rm) м i е {1, ..., т), то jiP# ШгЩ = рД (f*P+^)- / — вещественногначная ^-суммируемая функция, то = цр+ (Ет L /), 2?п L (/ • ft/p) = р>Р+ B"" L /) 5.3.7. Лемма. Предположим, что к — натуральное число, 1 < <Х<» « каждому натуральному числу v соответствуют: A) параметрический интегранд *?? степени m и класса 3 на не- некоторой окрестности множества —' ^Л /\ MX j 11 \ \X, у) . 1X1 ^5a A , I У \ ^= А /, удовлетворяющий условиям DW\ (О, О, 0) = О и Зля числа g «= {О, 1, 2, 3), точки (х, г/) е Z, вектора ?е= Д m(RmX R"") j такого, что \%\ — i, отображения xeHom(Rm, R"~m) такого, что IItII ^ 2;
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 617 B) 0 < rv < Я~\ 0 < sv < %-\ О < ev < 1; C) поток Sve5MRmXRn-m) такой, что s$tSv<={(x, у): \х\ sSrv, \у\ <sv), spt dSv <= {(х, у): Ы = rv), p+5v = kEm L- {x- \x\ < rv}; D) C7v>j = p+ EV L Zm+j r,DZlt\...K DZm)<= gH (Rm) и vj s йH (Rm) Зля ;• s {1, ..., n - /n}. Предположим далее, что: E) lim (^)(i>i;ft>0 (О, О, О) = Тг,ш е R для {i, А} с: {1, ..., тп) и V F) lim (ev + e7Vv + e7x sv) = 0; V-»CX3 G) limsupe72[ExcEv, 0, rv)+Excft (Sv, 0, rv)] = a< oo; (8) формы Н;*=2H(Ят(\{х: \х\ < D) Зля 7^A, ..., га —то} таковы, что - J (ф) для ф е V-»oo (9) поток 9eS5(Rm, R"") таков, что spt 6 с: Rm П {ж: Ы < 1}, 0j = Yj» 8 Зля 7 s {1, ..., п — пг}, /iv \i, х, у) = «v,j \х, у) = ^z, у -\- ifcv~vD v v *// Зля (i,i,j/)eRXRmX Rn-m; A0) /v (f) = z^*rZm<^v» h\,t*Svy 'для teR, Тогда для всех t ^ R имеют место следующие четыре соотно- соотношения, причем сходимость равномерна на каждом компакте в R, Ш 71—ТП 7П П—ТО ПШ «/у |И :== ^j ^^ ( i ^^ 1 2 J'ft V~>OO 1 = 1 7 = 1 k^l / = 1 m n—то m n—ml = 2 S-S'Sr^ lim е72г7т [M (Ktt+Sv) — M EV)] = V-»oo m n—m lim e^Vv" [M* («v.t+<Sv) — M* (Sv)] = 0.
618 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Кроме того, если поток w^S>\Rm, Hom(Rm, R"-m)] таков, что sptu;<=:U(O, 1), и = <<ei7 w(x)>, Y}> для x е Rm, то m 7i—m s г=1 i= l% DiHj (wu) < (Ш J | w Доказательство. Предположим, что а < f < °°, выберем такое число p < a>, что \Q(x) I < P и Ш6(x)W < f) для ж €= Rm. Замечая, что для больших v имеет место неравенство Exc(Sv, 0, rv) + Exc"Ev, 0, rv)<ye*, применим 5.3.5D), для того чтобы получить компактные множе- множества CvcRmnU@, rv), и отображения gv: Rm ->- R"-m класса 1, для которых Sv L р-1 (Сч) = kGv+ (Em L Cv)r M (Sv) где Gv(a:) = (a:, gv(x)) для а: е R, av = 5vLp-«![U@, rv)\Cv], и которые удовлетворяют следующим условиям: lgv(z) l< sv и \Dgv(x) I < 1 для х <= Cv, Vv,j(<p) — A j ф-. cv gy * = Yj ° gv всякий раз, когда ф e SH (Rm), spt ф c= U @, rj, 1, ..., т}и;"е{1, ..., в- /те}. Пусть JeR, тогда где ^@=сЛ7т<^, Vt+Sv>, • Lv (t) = e^2r7m <TV, (Av,teGv)+ (Ero L Cv)>. Предположим, что v — настолько большое число, что rv<ev, sv<6v, (l
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 619 а значит, ft,,»[(sptS,)U Gv{Cv)]czZ. Ввиду того, что <(м, v), DK.t (х, у)) = (м, v + <м, tevDQ (г71ж)>), hv,t (*> у) = @, evrv9 (КГ1*)). <(ц, г), Z>fev,t (*, J/)> = @, <и, sJ)Q (r^1 (*)>) для (я, j/)eRmXRn"" и (м, у) е= R"> x Rn-m, откуда вытекает 1 + |f |е,р < 2, |Л,,, (ж, I/) | < e,rvp, из 5.1.7 следует, что К (О I - I e7 V" < Ev V7mA (evrvp + /nev0) M (^f/+SV) < e71r7mX A + m) P21" M (Sv) < < 5А;Я (lj + m) p2"yv -»- 0 при v -> oo. Отметим теперь равенство где V4,t (x) = gv (x) + fevrv6 (r^x) ^^v.t (x) = #?v (^) + f EvDG (г7хж), || DV^t (x) I < 2 для ieCvE, используя 5.1.9, получим Lv (t) = е72/чГт f T$ [x, Fv>( (*), L'v @ = e7V7m J < [0, rv6 (Г71*), « [z, Fv>t (x), DVVit (x)]) Применим формулу Тейлора K-D^t в точке @, 0, 0), найдем = <lx, VVtt (x), DVv>i (x)], DDWl @, 0, 0)> + Rv,t (x) Для х s Cv, где отображение R,,t (х) <= Нот [Rm X Rn-m X Нот (Rm, R"-m), R] таково, что ПД,,« (х) II < [\х\2 + 17V (a:) I2 + IDF,., (ж) I2] X/2. Используя линейность и билинейность соответственно первого и вто- второго дифференциалов от Yv представим L'v (t) в виде L'v (t) = Мчл (t) + Mv>2 (t) + Mv,3 (t) + Mv>i (O,
620 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ' где e7V7m j < [0, rv9{r-'x), 0], DVl [x, Vv,t (x), DVv,t ( ) e7Vvp^ -*- 0 при v -»- oot поскольку Sm (Cv) < a (m) r™, v,a (t) = 87^7" j <[0, 0, ]r7M J P [r? + s2v + («evrvpJ + | /)gv (x) | c cv ;8vPAa(/n)[2 + f2(l + /n)P2 + 3v]->0 при v->oo, MV,3 @ = = e7V f <[0, 0, /W^a;)]©!!, FVif(x), 0], Z)aiF|(O, 0, 0)>dS""x, 1 -Wv.s (*) I < e^1» (та) p (rv + sv + 111 evrvp) X = = a (m) pA. (s7Vv + e^^v + 11 \ rvp) -»-0 при v->-oo, AfVl4(*) = - e^V; [ <[0, 0, D6(r71x)] 0 [0, 0, DVvA*)\, ^a^v@, 0, Учитывая 5.1.11, имеем разложения m 7i—m - 2 2 Dfr(r?x).XiVh i=l ;=1 m n—m 2 2 [л^ЛяО + ^чВДС^1*)]^, ft=i i=i для ж s Cv и получаем m n—m m n—m MVA{t)= 2 2 2 2 W)«j-A.o(o,o,o)r7"x ' i=l j=l ft=l 2=1 X J /)iei(r71«) [^/Jftg'v.z (ж) + Шяв,^1
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ . . .. .621 Поскольку 2т [U @, rv)\Cv] Р2/\Гт < 5уе^2 ^ 0 при v -* °°, то lim lim j D$) (r^x) DhQt (r^x) r~mdSmx v-*°°U(o,rv) Заметим теперь, что для ф е S)°[Rm П U@, 1)] -m -X I у Су ^fc^v.j (ф • l*i/rv) — * j (ф cv ^ 5&YevM (ф) -*- 0 при v -»- oot и из 5.3.6 сделаем вывод, что _ /• . . , _ lim 7"y Л* ] ф \^*v 3*) ^v kevЛ \P^t Gt«b Л- — = lim r^e^DkUv.i (ф о ри ) = Нт2)ьЯу,,(ф) = КЛЯг(ф). Первое утверждение доказываемой леммы получается комбинирова- комбинированием этих результатов для ф = DSj. Второе утверждение леммы по- получается интегрированием по t. Применяя второе заключение утверждения в частном случае, ког- когда все Wv являются интеграндами площадей (что можно сделать со- согласно предпоследнему абзацу п. 5.1.9), получим третье заключение леммы. Для проверки четвертого заключения определим ДГ / +\ ^^ о *« ]^Т In ,\ \ ТТТГОГ "f" tm " мъ V \ w ^"^ V 'V V^V Л* V/ М* ** ^ ^ ~ ¦*¦* и, используя метод 5.1.7, получим соотношение | iVv {t) | < e^Vv m j /raI Dhv.tII ^II 'S'v ||h ^ ^ E^2r^mm$e,vy&%r™ = /raPyev —>- 0 при y ~*" °° > а следовательно, Nv{t) — Nv@)-*- 0 при v -*¦ <». Кроме того, тп n—m 771 П—ТЛ л Г1 f u;| 7m f I w (rZlx) |2 dSmx)V2 ¦ (r^mk^2 j I Dgv I
622 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ 5.3.8. Лемма. Пусть 1 *? Ж °°, О < f < ~, 0 < б < 1/5 и к — на- натуральное число. Тогда найдется натуральное v, обладающее сле- следующим свойством. Если ^? — такой параметрический интегранд степени пг и класса 3 на некоторой окрестности множества Z = (Rm X R"-m) П {{х, у): \х\ < К~\ \у 1 ^ Я}, что DW$ (О, О, О) = О, 4я — эллиптический в точке (О, 0) с кон- константой эллиптичности It1, I-1 < 4я (х, у, %) < К \№У (х, у, %) II < Я, Ю«-ф § (ж, г/, т)к1 Зля чмс/ш де {О, 1, 2, 3), гочки (ж, y)^Z, вектора ?е Am(Rm X X R"~m) такого, что 1^1=1, отображения г е Hom(Rm, Rn~m). та- такого, что IItII < 2, и если (x, у): \x\^r, \y\<:s}, spt dS с {(x, г/): 1ж| = г}, р+5 = kEm L {ж: U| < r), e>0, e2 = Exc {S, 0, r) + Exc* (S, 0, r) < v1, ||»Г^|5|(а;,у)<т«е«гт+|, ieR", |b|<r- 56r, 5 — абсолютно 4я-минимизирующий относительно Z, го либо е «? vr, либо существуют такие линейные отображения g: Rm-vR"-m и G: Rm X R"-m ->Rm X R"-m, что G(x,y) = (x,y-g(x)) для (ij)eR"XR-B, \g\ < Г15Я14т/2A + г-»1Ы - 8)-т/гА;-1/2е, , b, бг)<Г16Ят+4A-'-11Ы -46)-m-W, гЗе Г15 = еD + тJ+т/2а(т)-1/2, Г1в = Зт C0J Г?5« (т). Доказательство. Предположим, что лемма не верна. Тогда для каждого натурального v выберем *?,,, Sv, sv, rv, ev, bv так, что все предположения леммы справедливы, но заключение не верно, а сле- следовательно, e^sv ^ e7xrv ¦< v. Для / е A, ..., в - т} вспомним 5.3.5 и 5.3.6, чтобы выразить где /vj(^)= A;-45V, p, x>(Zm+i) для ^"Чгочти всех х,
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 623 и рассмотрим следующие потоки: T*j = e71r7Vi/rv+P+ (Sv L Zm+}) = ke^r^E L (/v,j • цг„),. C/Vj = p+(SL () = TViiL(Z?X1A...AZ?Xm). Используя неравенство Гёльдера, 5.3.5A) и 4.2.1, получим оценки М (TVJ) < г?г?-ти (Sv L Zm+j) = e^V;1" j | Zm+j | d IS | < < e;1^1" (J | zm+j \*d\\s 1- (m) + ii||U@, l)<e7V7mla(Sv L ^m+^)Ир-1и @, rv)< m) + 2e?]1/2 в^г? = m) + 24]1/2< [2Aa (m) i J M C [rVii L U @, a)]) dSla < [|| Tvj\\ + || 3TVii||] U @, 1). о Из 2.4.6 вытекает, что в множестве {a: 0 < a < 1} содержится всю- всюду плотное счетное подмножество D, такое, что HminfN[Tv,jL U@, a)]< оо, аеВ. v-»oo Используя 4.2.17A) и теорему Тихонова, перейдем к подпоследо- подпоследовательности (не меняя обозначений), для которой найдутся такие потоки, что lim FB@,a) \{Tytj - T,) L U @, a)] = 0 V-*oo для aeD. Поэтому 5.3.7(8) справедливо для Кроме того, согласно 4.1.18, существуют такие 2>m^-V@, ^-изме- ^-измеримые вещественнозначные функции vh что C(o.i)
624 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ для q>e2>«[R»nU@, 1)] и lim f I e7V7x (/vj • fS) - Vi | dSn = 0 v-»°°U(o,a) для a^D. По определению положим fT /v (*) = (/v,i (ж) /v,n-m («)) s R"-"wih zeffTdmn /vj, n—m v(x) = (yx(x), ..., vn..m(x)) <= R" m для а;е= П dmnу,-. Поскольку |(Yv)(u;ft,n (О, О, 0)|^Я, всякий раз, когда U, к) <= «= {1, ..., т> и {/, /} <= {1, ..., п — тга}, можно также предположить, переходя снова к подходящей подпоследовательности, что найдутся числа Yf, j. h, i, удовлетворяющие условию 5.3.7 E). Пусть Y: Hom(Rm, Rn-m) X Нот (Rm, Rn-m)—R — билинейная симметрическая функция, которая определяется из условий Г (XiVj, XhVl)= r1J:kl, = lim (XiVi 0 Xhvh D* (т5)(в. V-»oo Из 5.1.10 делаем вывод, что J <ZN (x) о DQ (x), Г> ASmx =- = lim j <Z)9 (a:) © Dd (x), (П»?$)ш @)> dSmx для любой функции 0е^)(Rm, Rn-m). Всякий раз, когда 0, 0„ hv удовлетворяют 5.3.7(9), из 5.1.7 вы- вытекает, что 8(i)(iSv, Ч^, Av)= 0 для всех натуральных v. Применяя первое заключение утверждения 5.3.7 при t = О, полу- получим равенство Ш 71—7П ТП П — Т?1 П V V V V v г> и / n Q \ Вспоминая 5.2.5, 5.2.6 и последнее заключение утверждения 5.3.7, делаем вывод, что функции kv}, представляющие распреде- распределение Hh можно считать аналитическими на RmnU@, 1) и таки- такими, что
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 625 а следовательно, J | Dv \г d \Sm L U @, 1)] < ЗАГ1 я \Dv(x) I < Г15/с-1/2А,1+т/2A - U\)-m/\ W*v(x) I < Г15/с-1/2Я2+т/2A - \x\)~m/2-1 для jeRmnU@, 1). Поскольку I r71bv 1^1 — 56 для всех v, то снова можно перейти к подпоследовательности и считать, что существует предел lira rZ% = р е= Rm Л В @,1 - 56). . V-»oo Докажем, что для некоторого целого числа v вторая альтернатива заключения нашего утверждения имеет место при Hom(Rm, R"-m) и Gy(x, у) - (ж, У ~ gv(*)) Для (х, у) е R- X R—\ Выберем отображение 9 ^2>(Rm, R-m), для которого sptG с Rm П U@, 1), В(х)= v(x) для х е Rm П U@, 1 - 6), определим 6; и hy,t так же, как в 5.3.7(9), и изучим спрямляемые потоки Поскольку spt dSl cr {(x, у): \x\ = rv}s то можно применить 4.2.1 и 4.2.16 для того, чтобы выбрать такое число с, что 1 - 26 < о < 1 - 6, а значит, (Г1 < 5/3 и Si = Sj L {(х, у): 1 х\ < orv} s Im (Rm X Rn"m) для всех натуральных v. Пусть М1=2 + к М2 = *[r,^,2- + Г12(и - mL24], Ms = Г.^,2", Мь = Г14 [ка (т) + 2Мг]т BЛ/2I/2 + (п-т) ка (m), Л/5 = 2m2(и- тJЯЛ/2М(Ш2611), Л/6 = 2тД/4 + Ж2 + Л/8, М, = ЛЯ2 (Л/5 + 13Л/2 + 2Л/, и предположим, что ц — произвольное число, удовлетворяющее 40 г. Федерер
626 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ условиям 0 < м- < 1/3, цш<ка(т)/5, 1 - 26 <A - 2ц)с, A - ц2)т >A - 2ц)т > 1/2. Отметим, что p+Sv = P+^v = №m L U @, rv) и г;2 [Exc (Sl, 0, rv) + Exch (Sl, 0, rv)] = = 1 + ey2rym [M (#>- M (Sv) + Mft Ei) - Mk E, -+l + k j" (—Dv-DQ + 2~1\DQ\2) при v -> oo в силу последних двух утверждений из 5.3.7. Соответ- Соответственно Exc (Sl, 0, гу) + Ехск (Sl, 0, rv) < Мх&5 для больших v. Вспоминая 4.3.2G) и 5.3.5, получим <5V, р, ж> (Zm+j) = <5V, р, я> (Zm+,- =. fev,_i) = для 2""-почти всех точек х. Ввиду того, что <S2, р, х> = <Sl, p, х> при \х\ <arv и <S2, р, х> = 0 при Ы > arv, имеем соотношения < \ I е~ U@,l-6) при v -> оо. Считая, что v выбрано настолько большим, что послед- последний интеграл не превышает цш+2ат/[ (п — т) 2к] для js е {1, ..., и— /и}, положим по определению Bv,j = U @, агу) П {л: | k^Sl p, л> Zm+i| <evrv|ii2l и получим неравенство 9?т U @, orv)\ П Bv.i < [iimamr^/Bk). Пусть теперь п—т А = Г) 3=1
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 627 Применим 5.3.5D) к Slt чтобы получить оценку I Si 1 Ау > Шт [р {Ay)] — к [5Ехс (Si, 0, orv) + + Ехс* {Si, О, OTV)] (orv)m > (orv)m [fta (m) — ц4т/2] - кЪМ^. Следовательно, для достаточно больших v имеем неравенства II Si | {(*, у): | у | > (и - т) гуГу^} < М E?) -1| Si | Л < < (orv)m [Ехс E?, О, вуГу) + ц4т/2] + кЪМrfr? < < (orv)m ц4т/2 + /c6Mie^™ < (arv)m ц4т. Вспоминая 5.3.4, определим ау^ = inf [t: (arv)-m 1 Si| W? («) < Ska (m)/5}, a7j = sup {*: (orv)-m 1551И7 (t) < 3fca (j»)/5}, отметим, что для достаточно больших v имеет место неравенство — (и — m) evrvn2 ^ a^j ^ оцГ,; ^ (и — /га) evrv[i2, выберем такой вектор t]v = (ti,(i, ..., r^, n-m)e Rn"m, для которого «vij ^ Tlvj ^ a7,j при у е {1, ..., п — /ra}t положим о» = 2 (n — /raJev(i2a~', получим, что (ory)-m\Sll{(x,y): |y-^l и применим 5.3.4 (9, И) к Si, orv вместо 5, г. Получившиеся в ре- результате числа pv и потоки Pv, Q4, Rv удовлетворяют следующим условиям: rv — 26г„<A — 2(i)orv<pv<(l — ц)агч< rv — 6rv, Ехс (Pv + QV + Rv, 0, orv) < А [ГЦ|1 Ехс {Sv, 0, rv) + Г12ц~3со?] < < к [Т11М1о~т+ Г1а4 (и — /гаL <Г2] (г Excfe (Ру + QV + Rv, 0, агу) < ТюцМ^о" < М3^. Определим далее Sv = Pv + Д„, 5* = Pv + Ry + Sy ]_ {(x, у): \х\>р»}, 5v = ^,1+5г*1 55 = 5J L {(x, y): \x\<pv} - Rv+ Qvt 40*
628 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ и для q е {1, ..., 7}, / <= {1, ..., ге — т} положим П,} = e^^Vi/rv+P* E? Ь Zm+j), ff?j = Р+ E L Zm+j Л Я^ Л .... Л 0Zm), #Ъ = «^V^Jii/rv+^j = l%,i L ДОх Л ... Л Z?Xm). Предыдущие вычисления величины <5у, р, х} (Zm+J) показыва- показывают, что Hlj = fc<?mL [e^1^1 (/vj-Jirv) - в,-], а значит, для каждого числа / распределения Я^|<25«[Кт П U @, 1)] сходятся к 2т L (vj - Qf) = Н} в пространстве ^0[Rm П U@, 1)] при v -*• » и М(ЯУ = М(Т?,;)->О при v-»»oo. Отметив, что <5v, P, Ж> (Zm+;-) = UTJvJ ДЛЯ | X | < pv — |A2pv« где (pv - n2pv)m = p™ A - fi2)m > p™/2, так что 2m \x: к'1 <Sl, p, x-y (Zm+j) = tjvj] >« (») P™/2 и что ExcEv, 0, pv) ^ A — 2ц)~т M2\mI < 2Mz\x&lt получаем из 5.3.5C) неравенство M [р+ (Si L Zm+j) - k^jE™ L U @, pv)] < < Ги [ка (т) я поскольку |т]у, ,1 <; (n — m) г*гчцг, то M (T*tj) - e-Vv-1"^ [P+ EV L Теперь убеждаемся, что Ki = Th + Th L {x: | ж | > pv/туЬ M[Tv,iL U@, a) j U@,a) сри v -*¦ <x> всякий раз, когда 0 < a < 1, и что 35* = dSit rv"Exc EV, 0, rv) < p? Exc (Pv + i?v, 0, pv) + r? Exc EV, 0, rv) J| 3Tv,i 1U @, 1) < e7Vv"19 EV L Zm+j) \\ p~xU @, rv) (m) + M2 + Mil17
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 629 в силу 5.3.5A). Кроме того, Mfe (SS) < М* (Pv + <?v) + Mfe (SJ) < (М3\л + Mx) e$r?. Применяя 4.2.1, 2.4.6, 4.2.17A) и теорему Тихонова, еще раз за- заменим наши последовательности на подпоследовательности. Тогда найдутся такие потоки rJeN*8 [Rm П U @,1)], что limFB(o,a)[(n>i-71/)LU(O,a)]=O V-K» для всех а из всюду плотного подмножества множества {а: 0 < <а<1}. Отсюда вытекает, что распределения //v,j|^°[Rmf) П U@, 1)]сходятся к Tj L №х л ... л DXm) = Щ е <2>0 [Rm П U @, 1)] при v -*¦ °°. Кроме того, S*-Sl = S*-S$\_{(x,y): |^|<Pv}, НЬ,} - H\ti = И%,5 - т.} L U @, pv/rv)}, spt (HlVtj - H\,j) с В @, pv/rv) с: U @, о), М (Hf - Н)) < lira inf [М (Я$,?) + М (Hlj)] = V-»oo - liminf [M (T3v,j) + M (Tl,j)] <Mt\ilf\ V-»oo Замечая, что hltt#Sv == 5V, dSl = dSv, spt SlaZ для до- достаточно больших v и что Sv является 4% минимизирующим отно- относительно Z, и значит, применим дважды второе заключение утверждения 5.3.7, взяв вме- вместо & потоки S* и Si и полагая ? = 0, чтобы получить оценку m n—m m n—m S 2 2 2 i=l j=l ft=l 1=1 m 71—t?i t?i ti—T 2 2 2 S, i=l j=l ft=l 1=1 < m2 (re - тоJ при v-»• <». Используя 5.3.5E), делаем вывод, что если v доста-
630 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ точно большое число, то , Si L {{x, у): | x|< Pv}> - <?v, Л>> - OF V, >-<^v, sly]- [M E*) - M (Si)] - m) + ЯА; [4r*a (m) + A3M2 + 2M») ц4] + М поскольку ExcEv, 0, orv) + Exch Ev, 0, orv) ^ < a~m [Exc (Si, 0, rv) + Excft (Si, 0, rv )] + + Exc (Pv + <?v + i?v, 0, otv) + Excft (Pv + <?v + Ду, 0, orv) В силу того, что e^^v < v, отсюда следует, что lim sup e7 V" [М E?) - М E3)] < М,ц1/2. V->oo Замечая, что A - 26)m Exc (Si, 0, rv - 26rv) < от Exc (Si, 0, orv), что б, 5j, a, M1 не зависят от ц и что ц можно взять сколь угод- угодно малым, получаем равенство lim г;2 Exc (Si, 0, rv — 26rv) = 0. V-*oo Наконец, выберем поток ^ ^ 3)" (Rm), для которого spttJ)ciU(j}, 36), Ч>(*)-1 дляхеВ^, 26), MrtJ-l, M(/)*)< 2, определим функцию w^ 2) (Rm, Rn~m), удовлетворяющую условиям spt u? <= spt t, ю(х)=- *{x)[v(x) - 17(Р)-<я - p, Z)»(p)>] для ж e U@, 1), и положим Wj = Yj ° w для ;e(l, ,..,«- m}, Wv {x, y) = (x, у + для (#, y)eRmXR°"m и любого натурального v. В силу того, что Wj и Wv получаются из w таким же образом, как Qj и ht получались из 0 в 5.3.7(9), можно применить третье заключение утверждения
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 631 5.3.7 к Sy вместо Sv. В результате lim e7 V" [M (Wv#Sl) - М (Si)] = т п—т. % 2i\i){ij) ii)\ = 2-1k \ 3=1 3=1 L U(p,36) < 2~1Т1ь1к*+т A — | p J + 36)-m-2 C06J a (то) C6)m, поскольку sptu;c:U(j}, 36)cU@, 1^1 + 36)c:U@, 1-26), \H}\ U @,1-26)= J |pi-e, UF) J U@,l-26) \D2v{x) I < Т16к-г/2Хг+т/гA - |p| - 36)-m/2-4 для x e U(^, 36), а значит, в силу формулы Тейлора \Dw(x)\*Z \D$(x)\ ¦ \v(x)-v($)~<x-b, < Г15А;-1/2А,2+п>/2A - |pl - 36)-m/8-'A862+ 126) для jhU^, 36). Отмечая, что Wv(x, y) = (x, у), если x Ф U(rvp, 36rv), 55, rvp, 36rv)< Sl) - M (Si) + (rv - 26rv)m Exc (^, 0,. rv - 26rv) и комбинируя две предыдущие формулы для пределов, получим оценку lim supe^2 Exc (Wv*Sl, rvp, 36rv) < < 2 C0J rj25a (m) Km+i A -1P | — 36Г-2 62. Если v достаточно велико, то | Р — r^lbv \ < 6, | jTv 1 = | *vDv (P) | < ^Г15АГ1/2Я1+т/2 A -1 r7% | - 8r,)<=U(r,p, 26rv)c:U@, rv-6rv), а значит, для всех (х, y)eU(JV) 6rv)XRn~m имеют место равен- равенства fh,-i (я. у) = (х,у — evrvv (r^x)), Wy (z, у) = (х,у + WyV(гчгх) — evrvv(P) — gv(x — rvp))t (Wv о Av>_x) {x, у) = Gv (в, у) + @, gv (rvp) - evrvi> (p)),
632 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ поэтому Exc(G+5v, bv, 6rv) = Exc(Wv+5i, bv, 6rv) < < 3m Exc {Wv+Slt rvp, 36rv) < < 3m C0)a IV (m) Km+i A -1P | - 36)-m 5.3.9. Лемма. Найдется натуральное число Т17 со следующим свойством. Если г, s, t, а — конечные положительные числа, ф — функция класса 2, отображающая некоторую окрестность множества A = (Rm X R"-m)n {(*, у): \х\ < г, \у\ ^ s) в пространство RmXRn~m, такая, что ф@, 0) = @, 0), Z?<p(O, 0J — унивалентное отображение, q о 2)ф @, 0)" р* = 0, ИЯф @, 0) II ^ t, ИДф@, 0)"Ml «S t, Н/Jф(z, y)W<a для {х, у)е А, и если 5eIm(RmX R"-m), spt?c:-4, k — натуральное число, r-mWSU(x, у): yj>0)<Bka(m)/5 для /е{1, ..., n — m), r-mWSU{{x, у): у}<0ХЗка(т)/5 для /е{1, ..., п-т), spt dS с: {(х, у): Ы = г}, В511{ (ж, у): Ы = г} = 0, p+S = AEm L U @, г), Exc" (S, 0, г) < а (да) /5, ? = Exc(S, 0, г)< inf (uo(m)/5, Гв/3), tar^5~\ f(n-m)s<5-2r, то spt(%+5)c: {(ж, у): \х\ >r/(it)}, = sign(det[p°Z^(O, 0) - р*]) кЕт L {z: \x\ Exc [ф+S, 0, r/Df)] < Tnfmk(E + Aofr). Доказательство. Предположим, что det [p«1)ф @, 0)°р*]>0. Применим сначала 5.3.4 (9,1) при г\ = 0, а ц. = 1/3, положим Г = [5 L p-xU @, р)] - R + Qt D = ftp; [Em L U @, r)] и убедимся, что дТ = 3D, sptrUsptZ>crZ = {(z, у): \x\<r, \y\^(n-m)s), r-m[M(T)-M(Z))] = ExcG1, 0, r) при условии, что а=A + 27Г10). Введем сокращенное обозначе- обозначение 9 = Оц> @, 0). Используя теперь неравенство из последнего аб- абзаца п. 5.1.3, примененное к 0~\ 0+Т, Q^D вместо /, R, S, получим tlm [М(Т)- M(D)]> МF# Т)-
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 633 Поскольку q« б «р* = 0, то I(po6»p*)a:|=lFop*)a:|> \x\/t для ieR", а значит, Rm П U @, r/t) с (р. в • р*) U @, г), (spt dQ*T) П p-'U @, r/t) = 0, так как spt58+2' = (e «р*){а:: \x\-r). Ввиду того, что dp+Q+T— = <9р+6ф0 и det (р » 0 «р*) > О, имеем Р+0+Г = р+0+Z) = к(р о в • р*) +Еда L U @, г) - Обозначая 0+Г L p-*U @, r/t) через С/, заметим, что 1ч[в(яг, у)]| = |q[6@, y)]| «S*|y| для (в, y)eR» spt U с {(х, у): \х\ <r/f, \y\ ^{n-m)st}, spt5C/с:{(х,у):\х\= r/t}, Р+С/ = №"LU(О, r/t), Exc{U, 0, r/f)<(i/r)m[MF+2')-M@+Z))]< ^ fmr-m[M(T)~ Применяя теперь 5.3.5 F) к функции г|з = <р »0, а вместо 5, г, s, a, рассматривая U, r/t, (n — m)st, fa, получим оценку Exc (t|>+?/, 0, r/t - or2) ^ *8maA:E + 4matr[ka(m) + fmakE]. Замечая, что для (х, y)eZe силу формулы Тейлора справедливо неравенство |Ф(а, у)-В(х, y)l<a(UI2+li/!2)/2^o[r2 + (n-m)V]/2<ar!, и что (л;, у)\ <^«[|р[в(х, у)]| +t(n-m)s], получим включения ZU{(x, у): 1р[ф(* <=Z(\{(x, у): сгп{(г, у): Ы Пусть W = p~'U[0, r/ (it) ]. Отметим, что из неравенства г/4 + tar2 + t(n - m)s < r/4 + 2 • 5~V < r/3 < p вытекает неравенство r/Di)+ or2 < r/f, а поэтому Znqr'(W)crp-'U(O, P), в (Z) П tjr1 (W) = 0 [Z П ф-1 (W) ] с p-'U @, r/t).
634 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Вычисления дают соотношения W = Ф+[5 L ф-« (W)] = ФФ[Т L ф-« Поскольку r/Df)< r/f - 5~2r/t ^ г/* - or2 < 4г/D*), то Excfo+S, 0, r/Dt)]^4mExc(%U, 0, r/f-or2)^ < 4mi8mafc (?" + 2m+2o tr [а (то) + ка (т) /5]), и Г17 определим как наименьшее целое число, удовлетворяющее неравенству Г„ > 4тA + 27Г10Jт+3а(т). 5.3.10. Лемма. Пусть 1=^(г<°°, а Ф — такой параметрический интегранд степени m и класса 1 на некоторой окрестности точки neR-X Rn-m, что |Ф(а, р*)| > \Г1 и \ЮФ(а, р*)И < ц. Тогда существует такая полиномиальная функция F: Rm X Rn-m -*¦ -+Rm X R""" степени 2, что F@, 0) = а, DF@, 0)— унивалентное отображение, DF@, O)»p*=p*, WDF(O, 0I1 ^ 2м,2, WF{0, 0)-111<2ц2, W2F@, 0)Н'< 4цв, D(F*O)$ @, 0, 0)= 0, q = F = q» то и ограничение функции F на W = U[@, 0), 2~2цГ4] является таким диффеоморфиз- диффеоморфизмом, что U(о, 2-4n-e)c=^(W7), Lip [D (F\ W) -1] ^ 4y. Доказательство. Пусть F является композицией F = Ta°L°(i + Q), где L — линейный автоморфизм пространства Rm X R"~m, a Q — од- однородная полиномиальная функция степени 2 (см. 1.10.4). Поскольку Фа(р* °g) = Oa(f*)det(g) всякий раз, когда отображе- отображение gs Hom(R™, Rm) таково, что det(g)> 0, то дифференцирование этого соотношения при g—l с использованием 1.4.5 дает соотно- соотношение <р* = h, БФа (р*)> = Нт Фо(р*) [det A + А) — 1]/* = <->о = Ф (я, р*) tr (h) для h s Horn (Rm, Rm). Каждая вещественнозначная линейная функция на пространстве Hom(Rm, Rn-m) является образом полярного отображения, соответ- соответствующего скалярному произведению, определенному в 1.7.9. Со-
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 635 ответственно существует такое отображение I ^ Нот (Rm, Rn-m) t <q* • т, /)Фо(р*)> =tr(Z* • т) для т е Hom(R"\ R"—). Пусть по определению ? = 1-Ф(а, p*)"Jp*W*«q, а = (т««Ь)*Ф. Вычисления, использующие последнюю формулу из 5.1.9, дают О, 0, т)=Ф(а, L°p* + L°q*°T) = = Ф[а, p* + q*»r — Ф(а, р*) ~'р* <> Z* • т], , 0, т), DS»@, 0, 0)> = = <q* • 131- Ф (а, р) -'р* • I* • т, />Ф„ (р*) > = 0, В (г, р*) = Ф [а + L (г), р*], < (г, 0), 0В @, р») > - пля теНот(Кт, R-m) и zeR»XR"-". Кроме того, q°L = q, Ь-1 = { + Ф(а, р*)"'р* °l* °q, sup {1Ш1, IIL-MI} ^ 1 + 11Л1/|ф(а, р*) 1 < <1 + ШФ(в, р*I1/|Ф(а, р*) Пусть теперь Ь,-<(е„ 0, 0), DE@, 0, р*)> для i^il, .... т), с, = < @, vh 0), DS@, 0, р*)> для j е {1, ..., п - т). Определим элемент as©2(RmXR"-m, Rm) формулой ml n—m a = 2 bi2~x (Zi © Zt) ег+ 2 C) (Zm+} © Zm) em. Если г = (x, у) e Rm X Rn-m, то z -I a s Horn (Rm X R"-m, Rm), m Z J a = 2 Mi^iCi + 2 ci (^i^m + Im2ra+j) em, tr [(z j а) о p*]= 2 biXi + 2 c^j = <(*, У. 0, KS @, 0, p*)>. i=l j=l Определим, наконец отображения Q: Rm X Rn~m -> Rm X R""*, Q(z) = -Ф(a, p*)-»<z © z/2, p* о a> для jeRmXRn-m, V = A + <?)*3 - [т. • L о A + <?)]*ф
636 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ и проверим, что для г = (я, y)eRmXR"-m, теНотAГ, R"-m), име- имеют место равенства DA + (?) (z) = 1 - Ф(а, р*)"'р*«(z J а), ?§(z, 0) = 3 U + <?B), р* -Ф(а, P*)~V ° (г J «) • Р*] - = В [г• + Q (z), р*] • det [lRm - Ф (а, р*) (z J а). р* если только lz| достаточно мало, и <(*, у, 0), 2L4@, 0, 0)> = <(х, у, 0), 2K@, 0, р*)>-1- -3@, 0, р*)-гг[Ф(а, p^ V*@, 0, г)-3@, 0, p* + q*oT) = S§@, 0, т), <@, 0, г), 2L^1@, 0, 0)> = 0, следовательно, DW^O, 0, 0) = 0. Кроме того, q о A о Q) = q, Hall ^ IILII • Шф (а, р*) II ^ 2ц3, =Ф(а, p*)-lp*°a, 11/JA всякий раз, когда zeRmXR"-"\ Если z и w принадлежат W, то Iz + Q(z)-w-Q{w)\>\z-w\-n\<zz-w\ Итак, отображение i|3=(l+^)[W является унивалентным, Lip(i[)~1)^ 2, множество i|3(VF) в силу 3.1.1 является открытым и ф@, 0) = @, 0), а значит, q(W)=>V[@, 0), 2-3ц-4]. В силу 3.1.1 и 2.7.16 справедливы также оценки Lip (Ihlr1) < Lip (if-1K Lip (Zty) 5.3.11. -Если ge Horn(Rm, Rn~m), то является m-мерным векторным подпространством в RmXRn"m. Кроме того, если L — такой линейный автоморфизм простран- пространства Rm X R"-m, что q°L = q и Ш • 11*11 • IIL-'II < 1, то Z,(g) = g = (p«Lop* + poZ,oq*o^)-«eHom(Rm, Rn-m), HL(g)ll < II;II • IIL-MI/A - IILII • llgll • IIL-MI) a q • A — q* о L (g) ° p) ° Z, <> A + q* ° g ° p) = q — L (g) ° p ° L» q* »q.
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ - 637 В самом деле, L = р* • р«L + q* ° q, L• р* = р* ° в, где в = р ° L ° р*, в = р в /,-' о р*, L° q* = р* ° » + q*, где у = р ° L « q*, L о (р* + q* •g) = р* ° (в + у в g)+ q* » g = (р* + q* ¦> Д) о (ц + у о g) t 00 где h = g с (и + у о g) = gi°^1»2(-yo?« aI, г=0 Lfim (р* •+ q* ¦> g)] = im (p* + q* ° h) = Л, (q — h ° p) о L о (р* о p H-q* ° q + q* ° ^ ° p) = 5.3.12. Существуют натуральные числа ri8, Г,9, удовлетворяю- удовлетворяющие следующему свойству. Если М > 1, а Ф — такой параметрический интегранд степени m и класса 3 на некоторой окрестности точки а е R"t что Ш'Ф(а, t) для де{0, 1, 2, 3) и Эля вектора?,&. AmRnтакого, что \%\ =1, то Ш«Ф(а, а)!1<Г18Л/ ?«={(), 1, 2, 3} и такого отображения oeHom(Rm, Rn), что Д m а || ^ Зт, а следовательно, для де{0, 1, 2, 3} и отображения t6=Hom(Rm, Rn-m) такого, что IItII s? 2. Если, кроме того, Р>1, a F~ такая функция класса 4, отображающая некоторую окрестность точки aeR" в простран- пространство R", что /? (а) = af Д^1 (а) — унивалентное отображение, , ILD9F(a)U ^P для де{1, 2, 3, 4), то №(Р*Ф) (а, g е {О, 1, 2, 3} и вектора t, е Дт R" такого, чго |?1 = 1. Эти оценки вытекают из 5.1.1, 5.1.9 и 3.1.11, если заметить, что для 0 Ф-t, е Д щ Rn имеет место равенство 5.3.13. Теорема. Пусть 1^Л/<~, 0< 6< 2-16(Г18Л/)-4, а А — натуральное число. Тогда найдется натуральное N, обладающее следующим свойством.
638 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Если Ф — параметрический интегранд степени та и класса 3 на некоторой окрестности множества Z = (RmXR-m)n{(a;) у): \х\^М~1, \у\^пМ~1}, являющийся эллиптическим в точке @, 0) с константой эллиптич- эллиптичности М~\ и М-г^Ф(х,у,1)^М, 11/>*Ф(я, у, 1)\\<М для числа де{1, 2, 3), точки (ж, у)^К, вектора ^еДт(КмХ X Rn~m) такого, что |?| = 1, и если n-m), 0<r<M~\ spt?<={(?, у): \x\^r, |y|<Af-'}, (x, у): lx\=r}t p#5 = kEnL {x: \x\ < г), , 0, г)+Ехс"E', 0, r)<N-\ поток S является Ф-минимизирующим относительно К, то найдутся такие линейные отображения h: Rm — R-m, Я: Rm X B.n~m -+ Rm X R-m, что H(x, y) = (x, y-h(x)) для (х, y)eR"XRM, ,1, Qr) < r21M200mV (Wd + 8r), T T T T90m2P1+mO*lm2 ., T FT p205m2pm+4<I32m2 120 = 115i 17i is 119 z u 121 = 116i 17i is 119 ^ • Доказательство. Пусть по определению Д2 = (n - my [(Г6 + 8Г4) к + 8Г128М4], ц = Г18Ж, W = (Rm X Rn"m) П U [ @, 0), 2-2м--4], А, = Т„2"тц2шк2, б = 2'Ув < 2, Я = Г18Г1вDцвMт = Г18Г19210т^30т, Z = (R™ X R—) П {(ж, у): Ы < Я, |у| < Я,}, А4 = Г15Я1+т2тА8 < Г15Г 15ГХ7 у =
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 639 7 = 1172 |Х АД6^'*Цв <; 116117 A18119; & [л. кх -р OSIni,,!!inU9'2ii4<? Г О501»!!2*!-2 Выберем v в соответствии с 5.3.8, и пусть N — наименьшее целое число, такое, что г=1 <inf {V, о(т)/5, Гв/3, Д5г-2, б}. Предположим теперь, что Ф, S, r, d, | удовлетворяют требова- требованиям утверждения, которое требуется доказать. Если г>Ъ~т-^-\ то ЕхсE, 1, вг) < Q~md < Q-mN-x < вг, и мы возьмем й = 0, Я—1. Предположим теперь, что г<В~т~*М~1. Используя 4.2.1, 4.2.16, выберем г4 так, чтобы г/2 < г4 < г, & =- S L- p-*U @, r,)elm (Rm X R""), получим оценку di-Exc(St, 0, r,) + Exc*(Si, 0, r,)< 2md< 2"iV~' <e(m)/5. Выберем теперь такой вектор tj s Rn-m, что гТт II5Х || {(х, yj: у} > ту} < ЪЫ (ш)/5, * (т)/5 для /е{1, ...,и —m}, a значит, Irjl <(n — mjilf, выберем г2 из условий г,/2 < п < Зг,/4, 52 = S L p-'U @, г,) е Im (Rm X R"-), отметим, что T13M4\/m < Ax2iV~1/m < 1/4, положим применим 5.3.4A0) к 5,, rj, М~\ М вместо S, r, s, Я и в резуль- результате получим, что Вспоминая 5.3.12 и применяя 5.3.10, построим F при условии, что а = (и, г\)^К и ц = ГцМ. Теперь применим 5.3.9, заменив г, s, f, о, S, ф на ц *„ U. - 2м.2, о2 == 44ц§, T(o.-4)+5i, (^l W) -1 ° т(М),
640 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ что можно сделать, так как «. < Д, B™d) *"*»>&» *? A44iV-1/Bm)r2 < гг, 2гг < 2r < 2e-m-W-' *S 2-4ц"в < М-1, СсО{@, ц), 2rz]<=F(W)uK, 2, 0, r2) + Exc*(.S2, 0, r2)ss 1^-7"-1^-1 < 5, 11 (п - т) sa < 4ц4 (га - т) Д14ЛГ1/<1Я|)г1 < 5"V2I и получим, что удовлетворяют условиям: p+5j = uEm L U @, rs) и d, = Exc(«S3, 0, Гз) + ЕхскE„ 0, г3)^ < Г17 Bц2) imk (d2 + My 2цгг2) + Dцг)лй2 ^ < Д, (d + г) < Да29-т- W-1 < V- Заметим, что ||| <2-3ц~'г<2~Vr2, (g, T])eC и qeF = T,» а значит, найдется такой вектор Ъ е Rm, что Кроме того, 56^ 1/2, \Ъ\ ^ VHI <г,/4<A-5б)г„ 1 - rj11 Ъ | - 6 > 1 - 1/4 — 1/10 > 1/2. Также имеют место оценки 1531 < (V)" Рассмотрим две альтернативы. Если йх~>- AJ6~m~22mds, то возьмем g = 0, G — \ и получим не- неравенство Exc (G+SSl ft, 6r3) < 6-md3 < Авб^-^ x < ДГ^""^1"^, найдем, что и применим 5.3.8, заменяя S, r, s, г, *? на Sa, rs, sz, d\r2t F*O, что можно сделать, поскольку F(Z)<=K, r3 ^ 2~V2r ^ 2-3ii-*Q-m-iN-i < К-1 *S 2-V, 4ЛГ-1/(*т)8|1|г1<г1, ={(a;, у): |ar|<r8, \y\ ^ s2} cZc ^;
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 641 из 5.1.4 вытекает, что интегранд Ч1" является эллиптическим в точ- точке @, 0) с константой эллиптичности, равной M~lB\i2)~lm>'k~i, в то время как утверждение 5.3.12, примененное к Р = Ацв, дает К в качестве подходящей границы для D"W и D9W*. Утверждение 5.3.8 приводит к двум подслучаям. Либо dl/2^.vr3, в этом случае возьмем g — 0, G = i и получим оценку Exc (G+S3, Ь, Ьг3) < б-'Ч < 6-mvV| < < 6~mv2r2 < 6~mv20~m~1iV~V < А6б2г. 6б Либо найдутся отображение geHom(Rm, R"~m) и линейный автоморфизм G = l — q*°g°p пространства RmXR"~m, удовлетво- удовлетворяющие условиям В каждом из трех вышеприведенных случаев и подслучаев име- имеют место соотношения y'1, G=l-q*°g-p, Exc (Si, b, rk) ^ A562 (d + г) при условии, что Поскольку d+r<2Q-m~1N~\ делаем вывод, что \\g\\ *z\g\< д^е--1^-1'2 < 1, iigii < 1 + \\g\\ < 2, Exc(S4, b, r-4)^A52e-m-W-l<inf{a(m)/5, Гв/3), Exck(S4, b, r-4)<6-mIIGIImd3<6-m2mA329-m-W-1< sptS^iix, y): \x-b\^rk, lyl^sz Выберем теперь такой вектор с е R"-m, что Um 1 ^4II {{х, У): Vj > с,) < 3/са (ш)/5, для /«={1, ..., п — т}^ и отметим, что \с\ <(п — т) (s2 spt5'4c:Z) = {(a:) у): |ar-6|<r4, l#-c|<s4}, где s4 = и (s2 + llgrllr,) = п (sjr3 + < AeiV-1/Bm)r4 < r4 < г-з/2, {(*, у): Ы<г„ lykrJcZcH'. Г. Федерер
642 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Полагая L=DF[b, c + g(b)], получим неравенство IILII • 11*11 • IIL-'ll < 3|i*A428-">-W-1/24|ii < 1/2, используем 5.3.11, чтобы получить такое отображение h — eHom(Rm, R"-m), что определим Н=1 — q*°u°p, M = (p°F)[6, c + g(b)] и заметим, что D[H'FoG~l](b, c) = H°L°G~l, q»//»I»G-' = {H°F°G~t)(b, c) = (H°F){b, c = Я(в, n + c+g(b)) = (u, r\ + c+g(b)-h{u)). Теперь применим 5.3.9, заменив r, s, t, o, S, ц> на H оF о G-' °тFс), что можно сделать, так как ll/ill < 8fi2A429-m"W-1/2 < I, i42 (и - m) s4 < 28fi4 (re - m) A6iV-1/BmV4 < 5~2r4, и получим, что r5 = r4/Di4), SB = [(#•/¦• G-')+SJ L р-'Щв, гв) удовлетворяют условиям p+^s = /cEm L. U @, r5) и ExcE'5, и, гв)<Г17О[ЕхсE4, Ь, г4) + Ая4*4г4]'< <Г17B4[х2)8т/с[А5б2(й + г) + к2*рл2*]12&2-*уГгг] < < А792 (d + г) + Д88Г < (А7 + А8) фЧ + 0г). Поскольку где 2~2г < г2 < г и 2V ^ i4 ^ 22(г2, а значит, 29г < г5 < 256г, г4 = 4?4r5 ^ 26fiV5, а также |c + gF)l<|c| + Wgh3< s4< Aetf-1 < 3fi2A6iV-1/BmJefi2r5 < r5 < r,/2, так что 0г+|м — 11 < r5, U(?, 9r-)c:U(u, r5), получаем Exc (Sbt I, Or) < 26m Exc E6, и, r6) < Г21М20Шп2А;3 (Q4 + 9r).
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ ?43 Замечая, что ||| + г, < B^-4 + 2-иц-4)г2 < г2, All2 (г5 + *,) < [4-1 + А^улг-^^б-1] г4 < г4, 6, 0), 4fi2(r-5 + s2)])c:JP'[Wnp-1U(b, r4)] и p°G = p = p°#, находим наконец, что G?SA = S3 L р^ЩЬ, r4) = [{F\ W)? S2] L р"хи (b, r4), 6, r4)], , 6r). 5.3.14. Теорема. Пусть 1<А,<°°, а к — натуральное чцсло. Тог- Тогда найдутся числа 0 < е < 1, 0<ч<°° со следующим свойством. Если W — параметрический интегранд степени пг и класса 3 на некоторой окрестности множества Z = (Rm X R"-m) П {(ж, у): IslsSAr1, |г/[ < Тг1}, причем W является эллиптическим в точке (х, у) с константой эллиптичности Х~1 и Х-*<Ч(х,у,Ъ)<К, UDW(x, у, S)«<X для числа je {1,2,3}, точки (x,y)^Z, вектора I e Am(RmXR"~m) такого, что |?| = 1, и если, кроме того, 71e5?m(RmXR"-m), 0<р<е, Ехс(Г, 0, р)<е, @, 0)eSptZ'c{(x, г/): |ж|<р, Ij/l^^-1}, spt3rc:{(a;, г/): Ы = р}, р+Г =/cEmL-{х: |ж|<р}, 0т[Г, (ж, у)]^к для WTW-почти всех точек (х, у), Т является абсолютно Ч*-минимизирующим относительно Z, f = (spt Т) П {(ж, г/): |ж|<ер}, то / является функцией класса 1, удовлетворяющей условиям 11Я/(:гI1<т|>ир{ЕхсB\ 0, р), р}]1/2 Идя Ы < ер, "ftp sup {Exc (T, 0, р), р}]1/2, : \х\ < ер) =(p*+q*= /) + (&EmL {Ж: |а:| Кроме того, если 4я — интегранд класса д + 1, го / — функция клас- класса q, и в случае q<°° для любого компакта /if с Rm f| U @, ер) имеет м,есто неравенство b1/2(D4f\K)< °°. 41*
644 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ } Доказательство. Положим а = Г1927тп, М = аЛ, At = Г13Д/2, Л2 = = 4 (и - т) \TTk + Aj, Аз = 26(Г38МГ4, А4 = Г2оМ88т2/с2, А5 = 2Г21М200т /с3, выберем такое число 0, что О<0<А3, А56'/2<1, A-01/2)-1 + 61/2<2, 9 также натуральное N, удовлетворяющее условиям п. 5.3.13, а так- также неравенствам N-l<a{m)/b, A1W-1/m<l/2, 2A4W-1/2<1, выберем также такое число е, что О < 40-1/2ате < N~\ А2ае'/Bт) < 1, 2ае < А3, и положим у = 4А4 BЭ-3/2ат+1АГ1I/2. Считая, что W, Т, р удовлетворяют условиям теоремы, опре- определим о = сг'р, б = sup {2 Ехс (Т, 0, о), Q-l/2a), tv = 69V S 9i/2 для всех неотрицательных целых чисел v п отметим следующие неравенства о < 0-1/2о < б-'^сг'е < 2-W-1, 2 Ехс (Г, 0, о)^2атЕхс(Г, 0, р)< 2ате <2"W-1, б < 2-'N-\ tv< 69VA - 9|/2)-4 < 62 <iV-1. Из 5.3.1 видим, что ExcftG\ 0, р)<Ехс(Г, 0, р), и, применяя 5.3.4 D), 5.3.4 A0) к Г'-р-'ЩО, р), р, я, вместо S, r, s, получим соотношение (арЬТ)Щ(х, у): \х\ <о) cr W = {(x, у): UK о, \у\<а), поскольку о<2-1р<A-А,е1/т)р и Д2е1/Bт)р < а. Будем доказывать следующее утверждение. Для любой последовательности точек av = (bv, cv)^sptT такой, что а0 = @, 0) и \bv— uv-J < A39v-'o при v > 1, найдутся такие линейные отображения gv: Rm -*¦ R"~m, что g0 = 0, llgv-gv_1H<AtB69v-1I/2 при v>\, а эндоморфизмы Gv — 1 — q* ° gv ° p пространства Rm X R"-m удов- удовлетворяют условиям (spt Г) П l(x, »): | * - b» I < 2-]9va) с с {(*, у): | у - cv - gv (* -
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 645 Для v>l по индукции, используя 5.3.13, построим последова- последовательность gv такую, что S = F?[Tl_ \(x,y):\x-bv_1\<Qv-1a}], Р = Tav-i ° ^v-l. F~X = TGv_1(-av_1) ° Gv-1- Для того чтобы проверить, что Ф, S обладают всеми требуемыми свойствами, вспомним 5.1.4, 5.3.12, 4.1.28, 4.1.30, 5.3.1 и заметим, что II gv-i || < if II 8г ~ *i f < А4 B6)i/2 A - 61/2)-1 ^ A4iV/22 < I, sup (Lip (F), Lip (F-1)} < 1 + Hgv-,11 < 2, F~l(W)<={(x, у): \х\<4а, \у\^Ы nPn4o<Af-1, Fi(x, у): \х\<М~\ \у\ < пМ-1} aZ, поскольку F@, 0) = av-ieW, а 4(о + пМ^)<%-\ далее 0m[ll5ll, (x, y)]>k для Ш-почти всех (х, у), Exc(S, 0, r)+Exch(S, 0, r)<2Exc(S, 0, r) = Используя результирующие отображения h, H для того, чтобы определить g, = gv-i + А, приходим к выводу, что Gv = Н о Gv_x = TH[Gv_1(av-l)] ° Н о F , 2 Exc (Gv+r, bv> 6va) = 2 Ехс (Я+5, |, вг) < A5 @2fv_! + 9vo) < -! + 6v-1/2a< 69V+1/2 V2 6i/2 + 69V = 1=0 < A4 [60V-' A - 91/2)-4 + 69V-'91/2] Из 5.3.4 A0), примененного к if и Г) L {(и, p):|M-bv|<0val] вместо А,, 5 для каждого неотрицательного целого числа v выте- вытекает, что диаметр множества iy-gv(x): (x, ^)sSptf, \x-b,\ <2-'9vo} = = {i>: (и, pJ ^)
646 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ не превосходит A2*v 2m 9vo\ Поскольку cv — gv(b) принадлежит это- этому множеству, получаем последнюю часть доказываемого утверж- утверждения. Заметим, что RmClB(O, p) = spt(p+r)<=p(sptT), а значит, RmnU@, ep) = p(/), и что ер < А3о. Для каждой точки «eRmflU@, ер) и для каждого натурального числа [i применим вышеприведенное утверждение к bv = и для всех целых чисел v ^ [i, получим, что diam(/П р~'{и}) = 0. Следовательно, отношение / яв- является функцией. Используя снова ту же последовательность, по- получим существование предела Z=limgv<=Hom(Rm, Rn~m) V-»oo и всякий раз, когда x^V@, ер), v > \i и \х — и\ < 2~'0vo, получим неравенство \f(x)-f (и) -gv{x-u)\< Aa#(lm)8V Тогда для каждой точки a;eU@, ep)nU(u, 2~'9l'o)\{u} найдется такое целое число у ^ ц, что Следовательно, функция / имеет в точке и дифференциал, рав- равный I и < i а4 (гее*-1I72 = а4 {2т»-1I'2 (i - е1/я)-\ Взяв ц = 1, убеждаемся, что Ш/(к)Н < А4Bб0-1I/22. Если щ и м2 — две различные точки в Rm П U @, ер), то най- найдется такое натуральное ц, что и можно построить последовательность для и1 и в2, так как опи- описано выше, с равными начальными элементами, соответствующими всем v < (д.. Тогда Ы - DJ (иг) || < 2А4 < 4А4 B66-1 ДГ Vi | иг - и2 \I/2, Замечая, что б <9~1/2amsup{Exc(r, 0, р), р), получаем требу- требуемые границы для IIZ3/I! и hu2(Df).
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 647 Поскольку (p* + q* °/)°pl/= II/, то из 4.1.15 вытекают равен- равенства ?7L/ = [(p*+q*°/)°p]+[?7L/>-1U@, ер)]- = (p* + q*o/) + [P+r]LU@, ер)! Заключительное утверждение теоремы теперь вытекает из 5.2.18. 5.3.15. Следствие. Пусть Ф — параметрический интегранд сте- степени m и класса q + 1 ^ 3 на некоторой окрестности множества 4 = (RmXЫ-т)П {(я, у): Ы<2А,-1, \у\<2к~1}, причем Ф является эллиптическим в точке (х, у) с константой эллиптичности X и Х-Л<Ф(х, у, ?)<Х, Ш'Ф(х, у, t)W<k для je={l, 2, 3}, точки (х, у)^А, вектора ? е /\m{RmX Rn~m) та- такого, что |?| = 1. Если (О, 0)sspt?<={(*, у): \х\<г, \у\ svtdS<={(x, у): \x\=r), v#S = kEm*-{х: \х\<г), Qm[S, (x, y)]>k для Ш-почти всех (х, у), поток S — абсолютно Ф-минимизирующий относительно А, sup@, r-e)<s<r, Exc(S, 0, г)<A-s/r)nE, g = (sptS)(\{(x, у): \x\<s), то g — функция класса q, удовлетворяющая условиям [sup {(l-*/r)-»Exc(S, 0, г), r-s)l1/2, < 2f [sup {A - s/r)~mExc(S, 0, r), r-s}]i/2/(r-s), h1/2 {D"g) < 00 в случае q<°°, L-{x: \x\<s)). Доказательство. Применим для каждой точки (b, с) е g ут- утверждение 5.3.14 к Ехс(Г, 0, p)<(r/p)mExc(S, 0, г)<е. 5.3.16. Теорема. Пусть W — положительный эллиптический ин- интегранд степени m и класса q +1 > 3 на открытом множестве AR ТаптA1511, а) содержится в некотором m-мерном векторном подпро- подпространстве пространства R", точка а имеет такую окрестность V
648 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ в А, что S L- V является абсолютно *?-минимизирующим относи- относительно V и &m{WSW, z)>Q*m(\\SW, а) для Ш-почти всех z^V. Тогда точка а имеет такую окрестность W в V, что WflsptS яв- является связным m-мерным подмногообразием класса q в простран- пространстве R", Доказательство. Отождествим пространство R" с Rm X R"-m и, вспоминая следствие свойства плотности из 5.1.6, предположим, что а = @, 0), Tan (spt S, a) = Tanm (Ш, а) с R» X @>, а значит, т] (г) = inf {s: \у\ < s\x\ для всех {х, у)е=В(а, г) fl spt S) -*¦ -*¦ 0 при г -*¦ 0+, и. выберем такое число К, что W удовлетворяет условиям теоремы 5.3.14, где Z<=V. Выберем теперь такое число ?>0, что r\Bt)<l и В (a, 2t)<= <=Z\sj)tdS, откуда sptSf^LUCa, 2f)]c(spt5r)n[B(a, 2t)\\J (a, 2f)]c <={(x, у): \y\^i\Bt)\x\, \x\2+\y\2 = At2}cz{(x, y): \x\>t), для 0<p<t обозначим TP = [S L- U (a, 2t)]^-{(x, у); |ж|<р} и за- заметим, что sptдТр<= {(х, у): \х\ ==р), spt Гр с (spt 5) П {(ж, у): \у\ *?: \х\ < р) с <={(х,у): \х\^р, \у\<цBр)\х\}. Следовательно, найдется такое целое число к, что = Шт L- {х: \х\ < р) для 0 < р < t. Можно предположить, что к > 0, ибо в противном случае S можно было бы заменить на (— S), а 4я (z, ?) на 4я (z, —?). Ввиду того, что \\SW(a, p)<M(T,)<WS\\V(a, р + т]Bр)р] и МB1Р)^ М(р+Гр) = ка(т)рт для 0 < р < t, имеем неравенства К (I! S1, а) > lim inf M (Tp)/[a (m) pm] > Л. р-»о+ Кроме того, из предположений теоремы вытекает неравенство G*m(ll5ll, a)<°o) а следовательно, Для произвольного числа о между 0 и t/2 из 4.2.1 вытекает не- неравенство 20
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 649 Выберем такое число р между о и 2а, что М(дТр)< ц2тат~' «S s? jj,2mpm~1, следовательно, в силу 4.2.16. Обозначим через h аффинную гомотопию между p*°p|Z и lz, выведем из 4.1.9 соотношения д [л+ ([0,1] х этр) + Р; (Р+гр) - тр] = о, M[h+(IO, 1]ХдТ,)]<г\{2р)рЩдТр), п, используя тот факт, что Т„ является абсолютно ^-минимизи- ^-минимизирующим относительно Z, получим оценки [а, Гр B)] ЦТ„U- ^2рМ(Те) < < < V, Гр> < <?, р*+ (Р+Гр) + h+ ([0, 1] X дТр)} < f V[p*(a), {ж:|ос|<р> < к [V (а, 5) + Яр] а (т) р« + Ят, Bр) рМ (агр), где ? = р* (ex) Л ... Л р* (<?т)- Положим также по определению Др = Гр-Л+([0, ИХЗГр) и, используя тот факт, что %~1 — константа эллиптичности для W в точке а, получим оценки Г1 [р* Exc (Tfl 0)Р)-ц Bр) рМ (ЗГР)] < Я (М (Др) - — М[р^ (р+ГР)])< J V [а, Д"р (*)] di Лр|« — ftV(a, ?)a (in)p»< < J Y [в, ?р (z)] d || Гр || г + Ят] Bр) рМ @ГР) - AY (a, Q а (в») р». Собирая полученные оценки, получим Я-12-тЕхс(Г(,, 0, о)<Я-4Ехс(Гр, 0, р)< < (Я + 2Я) Ti Bр) р'—М (ЗГР) + 2Яр'-тМ (Гр) + АЯра (то) < < (Я-1 + 2Я) г] Bр) ц2т + 2Ярц + АЛра(и»)'. Поэтому lim Exc (To, 0, а) = 0, а значит, в (|| S ||, a) = к. о-»о+ Выберем, наконец, такое число р, что р и Ехс(Гр, 0, р) меньше числа е, которое строится по Я и к в соответствии с теоремой 5.3.14, и положим W = U(a, 2t) п{х: \х\ < ер), а значит, W П spt S = /. 5.3.17. Предположим, что U<=A — открытое множество из R", ^ — положительный эллиптический интегранд степени m и клас-
650 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ са 3 на A, S^@tm{A) и поток S^-U абсолютно Т-минимизирую- Т-минимизирующий относительно U. Точка ae(?/0 sptS)\spt 35 называется регулярной или сингу- сингулярной относительно 5 в зависимости от того, имеет ли она такую окрестность W в U, что W Л spt 5 — связное /re-мерное подмного- подмногообразие класса 2 в R". В соответствии с 4.1.31 из условия регуляр- регулярности вытекает, что многообразие В = W П spt 5 ориентировано с —* помощью S\B, что Gm(H5ll, a)—натуральное число и что s L w = em(||S||, а).{ттl в)лs. Из 4.1.28 и 5.3.16 вытекает, что множество регулярных точек всюду плотно в (f/flspt5)\spt35. Тем не менее неизвестно, имеет ли множество сингулярных точек пг-мерную меру Хаусдорфа, рав- равную нулю. Можно даже высказать гипотезу, что пересечение мно- множества сингулярных точек с каждым компактом, принадлежащим t/\spt OS, имеет конечную /с-мерную меру при k = пг — 1 или к = = пг — 2 в зависимости от степени нашего оптимизма. В 5.4.19 будет показано на примере, что множество сингулярных точек мо- может иметь положительную (пг — 2)-мерную меру. Основным моментом, препятствующим дальнейшему продвиже- продвижению, является предположение о том, что вт(И5Н, z)^ в*тA1511, а) для 11511-почти всех точек z из некоторой окрестности точки а, вы- выполнение которого мы вынуждены были требовать в 5.3.16, но ко- которое может оказаться излишним. В случае, когда *Р является аналитическим интеграндом, можно было бы задаться вопросом о том, должно ли быть U П spt S ана- аналитическим подмножеством в U (см. 3.4.5, 4.2.28, 5.2.16). В то время как общая проблема, касающаяся природы множе- множества f/fisptiS, все еще не решена, известны следующие результаты в наиболее важных частных случаях. Если тп = 1, то множество сингулярных точек пурто (см. 5.3.20). Если m = n — l, то множество сингулярных точек имеет пг-мер- пг-мерную меру, равную нулю (см. 5.3.19). Если ш = п — 1 < 6, а 4я — интегранд площади степени тп, то множество сингулярных точек пусто (см. 5.4.15). 5.3.18. Теорема. Пусть 4я — такой положительный эллиптиче- эллиптический интегранд степени пг и класса q + 1 ^ 3 на Rm+1, что VB,S)=-V@,?) для Если 5e5?m(Rm+1), U— открытое множество в Rm+1, S^-U —абсо- —абсолютно ^-минимизирующий поток относительно U, ae=?/n(sptS)\sptdS, .Tain™1 (II5И, а) содержится в некотором m-мерном векторном подпро- подпространстве пространства Rm+l, то точка а имеет такую окрестность
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 651 W в U, что WDsptS является связным m-мерным подмногообра- подмногообразием класса q в Rm+1. Доказательство. Выберем сначала конечные положительные X и р такие, что %~1 — константа эллиптичности для Ч1" в точ- точке 0 п В (a, p)c[AsptdS и 5LU(a, p)eIm(R»+1). Поскольку spt d[S L- V (a, p)] с Q = Rm+* П {z: \z - a\ = p} и 5 L U (a, p) e gm[B (a, p), Q] = J?m[B (a, p), Q], то найдется такой целочисленный поток SeIm(Rm+i), что sptS<= cQ и dE = d[S^-V{a, p)]. Взяв R = [S^-V(a, p)]-S, n = m + l, применим 4.5.17 и используем получающиеся множества Mt для построения спрямляемых потоков 5, = [д (En L ЛГ,) ] L U (а, р), для которых spt 8S, с Q, поскольку dSi = —5([3(En L. Л/,)] L Q), и таких, что 5LU(a,p)= 2Sif 15LU(a, p)||= S 11^||. Каждый поток 5j является абсолютно ^-минимизирующим относи- относительно А = В (а, р), а из свойства плотности, установленного в 5.1.6, вытекает неравенство ll5,IIU(a, p)^/,2-2mo-mm-m[p-dist(a, Q U Следовательно, множество Д = {i: aespt^J является конечным и a = inf{dist(a, QUspt5,): ieZ\A}>0. Отождествляя пространство Rm+1 с Rm X R, предположим, что a = @, 0), Tan (spt S, a) = Tanm(H5'll, a)cR"X{0}, п докажем теперь для каждого целого числа i неравенство в* A15,11, а)=$1. Для произвольного числа а между 0 и 1 положим по определению R) Г\{(х,у):\х\<г, R) [\{(x,y):\z\<r, _ {(x, y): \x\<r, -wr< у Er = (Rm X R) П {(x, y): \x\ = r, -<or <y< (or), где 0 < r < p/2, и заметим, что (Cr+ U СГ) П spt5i=01 если г достаточно мало. Тогда из теоремы о константе (см. 4.1.7J
652 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ вытекает, что: либо A) &п(С+\Мг) = 0 = %п(С7 Л Mi), либо B) 2п {CJ П М{) = 0 = 2п (C7\Mi)i либо C) &n{CJ П М{) = 0 = 2п{С7 П -Wi), либо D) %п (С?\Мг) = 0 = 2п {С7\Мг). Рассмотрим первый случай. Пусть TT = d[En^-(Dr fl Л/,)]. Вос- Воспользуемся 4.5.6, 4.5.7 для того, чтобы представить Т, в виде Qr, где Рг = [Em L U @, г) ] X 6ШГ и 11^,1! < Ж" L ?г. Используя свойство ^-минимизируемости потока S(^-Dr и эллип- эллиптичность интегранда 4я, получим оценку + <Y, <?r> - OF, -Pr>, DT)<M(Qr)+M(Pr) + k[<W, -Qr> + <V, Qr>]< и, поскольку U (а, г) с= С* (J C7 (J Z3r и А, ^ 1, получим, что У5,Ни(а, г)< И5,ШГ ^ а(/ге)гтA + 6Кгпко). В случае B) нужное утверждение получается применением ана- аналогичных аргументов к Pr = — [EmLU@, r)]X6_Mr. В случае C) можно взять Рг — 0 и проверить, что ВДи (а, г) < 11&11Д. < а (m) rm6X2rn(o. Этот результат также справедлив и в случае D) по аналогичным соображениям, примененным к Тг — — d[En^-(Dr\Mi)] и Рг = 0. Итак, показано, что в* A15{11, а) ^ 1 + ЬХ2та, если только 0 < со < 1. Вспоминая 4.1.28,получаем неравенство &*m(\\Si\l, а)<1^ет(И^!1, z) для IIiSJI-почти всех z. Теперь применим теорему 5.3.16, заменяя S на 5, для каждого геД для того, чтобы найти положительные числа р, f и отобра- отображения /<: RmnU@, p)^R класса g такие, что W = (RmXR)n {(х, у): \х\< р, |у| < -у} cU(e, p), W fl spt 5,- = /,¦ для всех i е Д.
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 653 Пусть по определению Wt = W[\ {(х, y):y>h(х)}% Wr =W П {(xx у): y<h{x)}. Заметим, что для любого г'еД либо (i+) 2п (Wt \Mi) = 0 = 2п (W~ Г) Мг)х либо (Г) 2?п{Wt ПМ() = 0=г"(W7\Afi). Если i е Д, / е А и i > /, то М( cz Mh следовательно, (i+) влечет (/+) и ft> fs, (Г) влечет (/-) и /<< fh В силу 5.1.9 а 5.2.17 в обоих случаях можно применить следствие принципа максимума из 5.2.19 к Н(х, т)=?§@, 0, т) для (х, x)eR'"XHom(R'n, R), для того чтобы сделать вывод о том, что множество {х: /((ж) = — fi(x)} открыто. Поскольку это множество относительно замкнуто в RmnU@, p) и (О, 0)=-ае то ft = /j. Итак, W П spt 5 = /< всякий раз, когда геД. 5.3.19. Теорема. Пусть ^? — положительный эллиптический ин- тегранд степени тп и класса q + 1 ^ 3 на открытом множестве А из Rm+1, 5е^?т(Л) и S — абсолютно ^-минимизирующий поток относительно А. Тогда А содержит такое открытое подмножество Z, что и ZflsptiS' является пг-мерным подмногообразием класса q в А. Доказательство. Для данной точки а е spt 5\spt dS построим р, Q, Н, R, Mi, Si, А, а такие же, как в первой части доказательства теоремы 5.3.18. Из 4.5.6 и 4.1.28 вытекает, что для ^"-почти всех точек Ь е U (я, а) имеет место неравенство вт(ОД, 6) = Gm(Hd(EmLj)/.)||, 6)^1 для любого ieZ, Tanm(ll5H, b) лежит в некотором m-мерном векторном подпростран- подпространстве пространства Rm+1 и Аь = U: Ъ esptiSJ ^ А. Для того чтобы изучить поведение потока S вблизи конкретной точки Ъ, которая удовлетворяет вышеприведенным условиям, отож- отождествим пространство Rm+1 с RmXR и предположим, что Ъ = @, 0), Тапт(Ш, 6)<=RmX{0}. Применяя теорему 5.3.16 к St в точке Ь, для каждого i e Дь по- построим /j, р, 7, W так же, как в последнем пункте доказательства теоремы 5.3.18 (с заменой а, А на Ъ, А»). Применяя следствие
654 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ второго предложения из 5.2.19 к G=TS (как замену следствия из принципа максимума), найдем, что если геД4 и / s Дь, то либо /. = /,-, либо Ж-Чх: /i(s) =/,(*)> = 0, а значит, Жт~1 (/, П /,) = 0. Пусть по определению Z) = U{/f П /,: г'еД8, /еД6, /<^/Д. Тогда ^'"-1(D) = 0, W\Z) — открытое множество в Rm+1, a (WYD)n sptS является то-мерным подмногообразием класса g в Rm+i. 5.3.20. Теорема. Пусть 4я — положительный эллиптический ин~ тегранд степени 1 и класса q +1 ^ 3 на открытом множестве А из пространства R", ?е1,(.А) и 5 — абсолютно ^-минимизирующий поток относительно А. Тогда (spt S)\spt(dS)—одномерное подмно- подмногообразие класса q в Rn. Доказательство. Поскольку задача носит локальный характер, можно предположить, что найдется выпуклое компактное подмно- подмножество К множества А и конечное положительное число X такие, что spt S cr int К, константа эллиптичности для W равна Я в каж- каждой точке компакта К и X-l<W(z, ?)<A, HD'W(z, t)W^X для ie{l, 2, 3) всякий раз, когда (z, ^e^CXS". Полагая k = l, выберем е в соответствии с теоремой 5.3.14. Сначала рассмотрим частный случай, когда S = g^XO, ME')], где g: R -*- IntiiC и Lip(g)s?l, а значит, M(g+[a, p])=p — a для 0^ <a<p<M(S). Отсюда вытекает, с учетом ^-минимизируемое™ потока ^#[а, р], неравенство а из эллиптичности интегранда 4я в точке g(a)—неравенство где Ф(г, S) = 4r[g(a), ^] для z, geR". Следовательно, Для данных ae(spt5r)\spt55 и г>0 таких, что r<dist(a, spt95), 8A.V < 1, A - 8A.V) -2 < 1 + е, положим C={f: 0<« <ME)} flg-1B(a, r), a = inf С, p = supC и выберем точку s е С так, что g(s) = а. Тогда следовательно, lg(P) — g(a) \> 2r(l — 4Л4г)> 0. Положим по опре- определению (^)()\i[(^)g{a)], p(z)^z-u для zsR«.
§ 5.3. ЭКСЦЕСС И ГЛАДКОСТЬ 655 Отметим, что \p[g($)]-р(а) I < г, \р(а)-p[g(a)]\ <r и ~ g{a)\ >2r-8AV, откуда выводим, что поток T = (g+la, p])Lр~*В[р(а), р] удовлет- удовлетворяет условиям р#Т = [р (а) — р, р (а) + р], -*(а) I]-1- 1 < <Bp)-'2r(l -4XV)-1 -1 <A -8Я4г)-2- К е и а §? spt E — Т). Применяя теорему 5.3.14 к изометрическому об- образу потока Т, получим такую окрестность W, что W П spt S явля- является одномерным подмногообразием класса q в R". Для того чтобы рассмотреть общий случай, вспомним утвержде- утверждение 4.2.25 и выберем такие неразложимые потоки 5,el,(Л), что S = 2 Sj и N (S) = 2 N (S^ i=l i=l (суммы здесь конечные, поскольку числа MC5f) являются нату- натуральными). Представим также поток 5, в виде 5, = ?ц.[0, М(ЗД где g,: R-IntX, Lip(ft)=l. Из предыдущих рассуждений вытекает, что (spt St) \spt dSt — одно- одномерное подмногообразие класса q в пространстве R". Если а е [ (spt St) \spt 35,] П [ (spt Sj) \spt 35,], то найдутся такие числа s^ Sj, что О < Si < М E.), 0 < *, < М (S,), g, (*,) = а = ft (*,). Отмечая, что 54, j = ft#lO, sf] + ft+fSj, MEj)] — абсолютно ^-мини- ^-минимизирующий поток относительно ^4, положим по определению gi,i(t) = gi(t) Для ?<s,, ftj («) = ft (' - *« + s> отметим соотношения Lip(g<fj)^l, S(j — gij^lO, M(StJ)] и полу- получим, что (spt S{j) \spt dStJ — одномерное подмногообразие класса q в R". Соответственно Vt = Tan (St, a), V, = Tan {Sh a), Vu = Tan E,- л а) — такие одномерные векторные подпространства в R", что Vt П n ^i, j ^ {0} Ф Vj П Fi,,-, следовательно, F,- = Ff, ,• = V]. Представим St и S} в непараметрической форме вблизи точки а и применим 5.2.20 для того, чтобы получить равенство St^-W — Sjl-W в некоторой окрестности W точки а. 5.3.21. Методы этого параграфа применимы также в том слу- случае, если вместо спрямляемых потоков взять плоские цепи по мо-
656 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ дулю 2 (см. 4.2.26) конечной массы, и в этом случае получаются даже лучшие результаты. Пусть 4я — такой положительный интегранд степени тп и класса q + 1 ^ 3 на открытом множестве А в R", что Определим для Т^&т{А) и отметим, что этот интеграл зависит только от клас- класса эквивалентности потока Т по модулю 2. Предположим также, что W является эллиптическим по модулю 2, что означает существова- существование для каждого компакта К с: А такого числа с > 0, что всякий раз, когда а^К, R<=3Zm(Rn), 5eC(R"), &Д = dS(mod2) и sptS содержится в некотором ш-мерном векторном подпростран- подпространстве пространства R". Если S<EL&m(A) и <?, S + Ry^XW, S>m для всех потоков R<=3?m(A) таких, что сШ = 0 по модулю 2, то А содержит такое открытое подмножество W, что l!5rH[(spt5\spt35r)\W] = 0 и WOsptS является m-мерным подмногообразием класса q в про- пространстве R". Предыдущее предложение является одним из основных резуль- результатов работы [AF6], откуда взяты основные идеи этого параграфа. В случае плоских цепей по модулю 2 возникают дополнительные трудности при построении UVi} из Sv по аналогии с 5.3.7. Эти труд- трудности преодолены в [AF6, 6.1]. С другой стороны, теперь нужен только единственный эксцесс, эксцесс по модулю 2. Для плоских цепей по модулю 3 ситуация более сложная. В этом случае аналог утверждения 5.3.19 становится неверным. Например, если число йбС таково, что со Ф 1 и со3 = 1, то поток Г = [0, ©] + [0, со2] + [0, 1] минимизирует длину по модулю 3, но 0 является сингулярной точ- точкой множества sptT\sptdT. § 5.4. Дальнейшие результаты о потоках, минимизирующих площадь 5.4.1. На протяжении этого параграфа будет предполагаться, что W — параметрический интегранд площади степени тп на про- пространстве R", и использоваться сокращение бA)(Г, W, h)=bm(T, h),
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 657 а Ч*1-минимизирующий поток будет называться потоком, минимизи- минимизирующим площадь. Будут обсуждаться различные специальные методы, применимые к нптегранду площади, с помощью которых общая теория, развитая в § 5.3, может быть уточнена в этом случае и которые дают теорему о полной внутренней регулярности E.4.15) для т = п — 1 < 6. Будут построены также примеры, показывающие, что сингулярности потоков минимизирующих площадь естественным образом возника- возникают при 1 < т < п — 1. 5.4.2. Пусть U — открытое множество пространства R% Qi^$}m{U) и Qi — поток, абсолютно минимизирующий площадь от- относительно U для i = 1, 2, 3, ... Если Qi-^Q в &-mC(U) npui^oo (см. 4.3.16), то Q e &lm (U), Q абсолютно минимизирует площадь относитель- относительно U и \\QiW -> WQW слабо при i-+°° (см. 2.5.19). Кроме того, если L = Clos (spt Q U U {spt dQ(: 0<ieZ}), то U; HUsptQ^Z} является конечным множеством для любого компакта Н с: U\L. В самом деле, если К — компактное подмножество множества U, а W — такая окрестность К в U, что U П Clos W является компактом, то можно выбрать такой поток что sptcpc: W, spt(l- ф)czU\K, и &?$„, при условии, что spt (<?-<?¦¦ -Ri- dSt) с U\W, М(Я0 + М(й) + О при i + °°. Вспомним 4.2.1 для того, чтобы получить оценку (в случае МE1)>0иМE1)>0) j [М (Su ф, г ->/М (Si) + М <51? ф, г ->/М (Si)] d^V< 2 Lip (Ф), выберем такие числа г4, что 0 < г, < 1, M<St, ф, г4-Х2ир(ф)МE'(), М<54, ф, г,-Х2Ыр(ф)МE,), положим Ki = iz: ф(г)> rt} и получим два уравнения Q,^К< + д(St^Ki) = Q^Kl-Ri^Ki- iSu ф, г,->, Поскольку X<=Int{z: <p(z) = 1} czKt и поток Qt^-Ki минимизирует 42 г. Федерер
658 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ площадь, то из 4.1.5 и второго уравнения получим неравенства < || <?! || (W) + М (RJ + 2 Lip (Ф) М (SJ < оо. Отсюда 11<?И—радонова мера, a Q — локально спрямляемый поток в силу 4.2.16 C). Теперь заметим, что для данного числа е >0 и потока Р ^ &m(U), для которого дР — 0, можно так выбрать W, что \\Q\\(W\K)< г, поэтому из первого уравнения, приведенного выше, получим, что М (Q{ L К,) < М [<?, L к, + д {S{ L Kt) + P) = для всех i, и придем к выводу, что Нт inf IQi\\(Kt)<M(Q L К + P) + 6. Поэтому поток () L. К абсолютно минимизирует площадь относитель- относительно U. С другой стороны, можно взять Р = 0 и получить неравенство Теперь слабая сходимость мер 11(^11 к 11(?11 легко проверяется с по- помощью аппроксимации интегралов суммами. Для того чтобы про- проверить последнее утверждение, положим р = 2-1 dist[tf, L U (Rn\f/)], К = {z: dist(z, H) < р} и заметим, что из свойства плотности, установленного в 5.1.6, вы- вытекает неравенство WQtW (К) > pmo-mm-m, если только Н П spt^ Ф 0. 5.4.3. Теорема. Пусть ГеЙтГ!^), Т абсолютно минимизирует площадь относительно R", а е= spt Г, б > 0, spt ЗГ с= R"\U (а, б) u u(z)=|z — a\ для zeR". Тогда имеют место следующие восемь утверждений. A) Для 2?1-почти всех чисел между Омб имеет место равенство B) Если 0<r<s<8,ro U(a,s)\U(a,r) mf (a, r)..
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 659 C) Для 0 < s < 8 имеет место неравенство 0<a(m)em(IIJH, a)<s-mWTW(a, s). D) Для 0 < s < б имеет место неравенствб s-1 J | /-ЖМ <Г, и, уу - та (ш) вт (|| Г fl, a) | d3?ly < < т [з~т 1Г || U (Ъ, в) - а (в») 0т (|| Г Ц, а)]. E) Каждый ориентированный касательный конус С к потоку Т в точке а абсолютно минимизирует площадь относительно R" и удов- удовлетворяет следующим условиям: вт(!1СН, O) = em(llril, а), дС = О. F) Существует ориентированный касательный конус к потоку Т в точке а. G) Пусть d>0, а а — предельная точка множества- {Ь: 0"'(Ш1, b)^d). Тогда найдется такой ориентированный каса- касательный конус С к Т в точке а, что ЭтA1СИ, w)^ d для некоторой точки w e S". (8) Пусть тп = п-\, ГЩ(а, б) = [9(En L M)] L- U(a, 6) для не- некоторого 2?п-измеримого множества М, а С — ориентированный ка- касательный - конус к потоку Т в точке а. Тогда найдется такое ^"-измеримое множество N, что Е" L iV — ориентированный каса- касательный конус к Е" L- М в точке а и д (Еп ^-N) = C. Доказательство. Предположим, что а = 0, положим Г = { 08} \z\ </«} для reR н определим HeS50(R) по формуле 3 (ср) = J (<р = и) и| Т L Du|2 d\ Т\\ - J для cpej?H(R). Проверим сначала, что 3(i|)') = 0, если г|зе^)°(К) и spt i|) c= Г. Для этого рассмотрим изотопическую деформацию h класса °° та- такую, что h(t, z) = [l для таких точек (t, z)eRXR", что UlM(i|))< 1, и заметим, что h(t, z) = z, если zesptdT, а значит, из 5.1.7 вытекает равенство Вспоминая 5.1.8, вычислением получим й„ (z) = i|) [и (z)]z, gradu(z)= Izh'z, 42*
660 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ для zeR'AW), veR", и найдем, что —» —* для 11Ш-ПОЧТИ всех точек z, поскольку Т (z) = vx л •. • Nvm% где v,, ..., vm — ортонормальный набор и Vi'Z = 6 для г>1, а следова- следовательно, 2 <Vi, Du(z)y = (vv Du{z)y = | T{z) L Z?u(*)l'- Отметим также, что | f(z) L ?>u (z) |2 + | f (z) Л grad и (z) |2 = = | vx • grad и (z) |a + | vx Л grad м (г) |2 = 1, Соответственно получаем соотношение Более того, из 2.5.18C) и 2.9.24 вытекает, что в I (ib о и) а | Т | = \ гЬ а} = — I /if a^1. о Поэтому 0 = S(i|)') = -DjS(i|3). Итак, spt AS с: R\r, и в силу 4.1.4 существует такое вещественное число с, что 2 (ф) = J сер dSl, если <р = D° (R) и spt <p а Г. Кроме того, с == 0, поскольку для 0 < s < б можно выбрать форму )'R таким образом, что = 1, spt <р с {г: 0 < г < s}, М (ср) < 2/s, Id = |3(<р) I <M{<p)[8f(8)+mf(s)s]^ 2A + m)f(s), и так как /(s)-> 0 при s-»-0b силу 4.1.21. Итак, sptS<=R\F. Теперь, с применением 4.3.2B), вычисления дают J (<p.u)u\f L ?>и|2 4?1Н1Г L />и||[(ф «»)и|Г L Du\] = |<Г, », г/> ||[(фо и)и|? L Du\)d2?ly = = j Ф (у) у 1 <ГЖ и, у>Ц A Г L Du |) для формы ц>^2)°(В.), поскольку spt<r, и, уУ <= {z: ii(z) = y} для Й7 '-почти всех точек у. Поэтому 3 (Ф) -= J Ф(у) [у J I T L /)«1 ЙЦ <2\ u, j/> I - mj(у)]
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 661 Из этой формулы и того факта, что spt S <= R\r, получаем утвержде- утверждение A). Аналогично проверяется, с использованием A), равенство J и" | Г л grad м | {г: г<1г!<«) J u-m(l-\T\_Du\*)d\\T\\ = {z: г<|г|<«} ~ J u-m\fl_Du\d\Tl_Du\ = U()\U() J U(o,«)\U(o,r) a = ,~mf (s) - r~mf (r) + J / (y) my-m-ld3?*y - r s - J y~m || <7\ u, yy i (| T L Du |) dgty = ^m/ (*) - r~mf (r) ьсякий раз, когда 0<r<s<6, как и утверждалось в B). Соответ- Соответственно функция, отображающая г в r~mf(r), является неубывающей на Г, и утверждение C) становится очевидным (см. 5.1.6). Заме- Заметим теперь, что в силу утверждений A) и C) имеет место не- неравенство у1~тМ<Т, и, уУ > my-mf(y)> ma(m)em(WT\\, 0) для 9? '-почти всех точек у^Ги что s \yx-mM{T,u,yyd9?ly= \ ux-md\\T L Ли К ||} {г:г<|г|<г> s = s1-/ (s) - rx-m f (г) + (,я - 1) f / (у) y-mdSly < ксякий раз, когда 0 < г < s < °°. Устремляя г к 0, вычитая и деля на s, получим утверждение D). Для любой последовательности положительных чисел р,-, стремя- стремящихся к оо и таких, что соответствующие потоки имеют предел Q в #"mC(Rn), из C) вытекает, что а(т)втA17т11, 0) при i -*¦ °° для 0 < г < о»,
662 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ поэтому из 5.4.2 следует, что поток Q абсолютно минимизирует пло- площадь относительно R" и r~m\\QW@, г) = а(/иNт(И71, 0) для 0<г<°°. Поэтому 6тA1<?!1, 0) = ем(ИГО, 0). Кроме того, spt dQi с цр. (spt ОТ) с Rn\U @, М), и, следовательно, 3Q — Q. Применяя утверждение B) к Q, °° вместо Т, б, получим равенство Q(z) A z = 0 для НфН-почти всех точек z, и из 4.3.14 сделаем вывод о том, что Q — ориентированный конус. Из предыдущих рассуждений вытекает утверждение E), а дока- доказательство утверждения F) сводится к построению такой последо- последовательности чисел ^(, стремящихся к °°, что соответствующая после- последовательность потоков Qi сходится в пространстве ^m°(Rn). Пусть ¦y = inf {1, б>, а Я = та(тп)вт(\\Т\\, 0). Для каждого нату- натурального i положим по определению Fi = iy: 0 < у < ч и у1-пМ(Т, и, г/-> < К + i~l), и применим утверждение D) для того, чтобы построить такое поло- положительное ЧИСЛО Oi, ЧТО &1{у: 0<у < s, y<?Ft}< 2~'s как только 0 < s < о,. Отсюда, если 0 < е < i^'Oi, то {г: 0<г<е, г<?^}= U (/"V 0< У < /». У Ф ^1. 21 {г: 0 < г < е, г s GJ < 2 Г22~> = г2-{ег i Рассмотрим последовательность чисел $t со следующим свойством: 1/р(е d для всех натуральных i. Это свойство наследуется подпоследовательностями, поскольку Fh <= Ft и Gk <= G, для k>i. Потоки Qt, отвечающие таким числам {S4, удовлетворяют условиям Qt LU@, /) =-»ipi+[У L U (/, М [(?< L U @, у)] = Г(//р.)" ?г L U @, j)] = /m~1(j7PiI~mM <Г, и, /7Рг—X/ (^ + г~х) ; i i
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 663 для всех целых чисел i ^ / > 1, поэтому Ci L U (О, /)]<(Г + Г-1т)а(т)вт(\Т\\, 0) для всех натуральных у. Применяя 4.2.17B) к К = Ъ@, j) для всех / и используя диагональный процесс Кантора, выберем такую подпоследовательность (обозначения сохраним прежними), что для каждого натурального j существует такой поток Q, s Im.B(o,j) (R"). что lira STB{Otj) [Q{ L В @, j) - Q,] = 0. Поэтому QjL U@, /) = Qi L U@, l) всякий раз, когда j < l, и, следо- следовательно, потоки Qi сходятся в пространстве $Гт (R") к такому по- потоку Q, что <?LTJ(O, jf) = Qj L U@, /) для всех /. Тем самым ут- утверждение F) полностью доказано. Пусть выполняются предположения утверждения G). Можно выбрать сначала такую последовательность точек 0, 1-*а,)\{0), что вт(ИГУ, Ьх)> d. Быберем р4 так, чтобы 1/ИС, и (l-i2-i)\bi\<Wi<\bi\. Дополнительное свойство также наследуется подпоследовательностя- подпоследовательностями, поскольку для k > i имеем неравенство k2~h < i2~\ В силу того, что при i -*¦ °° имеет место соотношение Klpibil<(l-i2-i)-1->l, можно перейти к такой последовательности, что РД- -*• w при i -*¦ °° для некоторой точки w e Sn~*. Применяя утверждение C) к Qt, §ibt, р,б — |р«ЬA, вместо Т, а, б, по- получим неравенство a(»z)d^s-mll<?illU(^b<, s) для 0<в<р4б-|р,6,| . и, используя 5.4.2, заключаем, что при 0 < s < °o справедливо не- неравенство a(m)d<s-m\\QW(w, s) н, следовательно, d =^ 0m(ll^ll, w). Наконец, пусть имеют место предположения утверждения (8). Рассмотрим произвольную последовательность положительных чи- чисел ^, стремящихся к» и такую, что соответствующие потоки @,- сходятся к С в пространстве ^~n~i (Rn). Отметим для 0 < s < р,6 соотношение Qi L U @, s) - [д [Е" L Цр, (М)]) L U @, s) = = - [д [En L Rn\MPi (М)]) L U @, s),
664 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ определим г, («) = inf [Sn [U @, s) П Hi W]. ^n [U @, получим, что lim inf т{ (s) > 0, i-»oo поскольку С L U @, s) # 0 и | С (ф) | = lim | Qi (q>) | < lim inf M (dq>) т» (s) всякий раз, когда форма tpe^-'fR") такова, что spt<pcrU(O, s), и поэтому, используя 4.5.2C), приходим к выводу, что ||En L Hi(M)-En L (ip при i и к, стремящихся к °°. Поэтому найдется такое .^"-измеримое множество N, что EnL Ц$гШ)-+Еп\_ N в пространстве ^"J?°(Rn) при г-»-оо. Поскольку оператор 3 является непрерывным, то д (En L. ]V) = С. Если 0 < г < оо, то 5 [Е" L Мг (ЛГ) ] = дМг+ (Е" L yv) = Мг+С = С и из теоремы о константе вытекает, что En L pr (N) = Е" L N. Итак, Е" L л? — ориентированный конус. 5.4.4. При доказательстве предыдущей теоремы мы получили монотонность функции r~m\\TW\J(а, г) на интервале 0<г<6 из яв- явной формулы B). Теперь опишем альтернативный метод, который применяется также к потокам, минимизирующим площадь относи- относительно некоторых подмножеств пространства R" (например, положи- положительно достижимых множеств [F 15, р. 435], в частности относитель- относительно подмногообразий класса 2). Предположим теперь, что а е А с Rn, U — окрестность множества А в Rn, р — ретракция U на А, 0<а<°°, 0^т<°°, 0<б, Lip[piB(a, r^sSl + tr" для 0<r<6, retf(R"), aesptT1, spt ЭТ cz A\V(a, 6), поток Т абсолютно минимизирует площадь относительно А. Определим в, / так же, как и в 5.4.3, и, вспоминая 4.2.1, 4.1.11, получим для З^-почти всех точек г из интервала А ==• = {г: 0 < г < inf (б, тГ1/о}} неравенство d[T[_V (а, г)] = (Т, и, г -> = 0р+ Fа X <Г, «, г -», / (г) = М [Т |_ U (а, г)] < Мр+ (ба X <Г, и, г -» < < A + Tra)m/re"VM <Г, и, г —> < A + 2ттга) in-V/' (r).
. § 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 665 Поскольку функция / является неубывающей и положительной на Л, то In ° / не убывает на А. Из вышеприведенного неравенства вытекает соотношение для 5"-почти всех точек геД и интегрирование с использованием 2.9.19 показывает, что функция %, определенная формулой х(/-) = /(/-)г-'"A + 2тт.7-а)т/в для геД, является неубывающей на Л. Поэтому a (m) 0m AТ ||, a) = lim / (r) r~m = lim % (r) s R. r-»0+ r-»0 + Получив, таким образом, модифицированную версию утверждения 5.4.3C), легко обобщить 5.4.3D) и можно проверить, что заключе- заключения утверждений 5.4.3E) и 5.4.3F) остаются справедливыми (как отмечалось) при сделанных выше предположениях. Для этой цели соображения из 5.4.2 можно приспособить для рассмотрения потоков Р+ IQi L Kt + д {Si L Kt) + P), где Qt = цр.+7\ W [jspt Pczm Стоит отметить, что формула 5.4.3B) в доказательстве утверждения 5.4.3F) применяется только к предельному потоку Q вместо Т после того, как уже известно, что Q минимизирует площадь относи- относительно R". Мы не включили все детали этого рассмотрения случая А Ф Rn, поскольку основная теорема 5.4.15 данного параграфа не обобщает- обобщается на случай А Ф R". Сфера применения изложенного метода огра- ограничена тем, что в доказательстве утверждения 5.3.18 используется принцип максимума из 5.2.19. С другой стороны, теоремы 5.4.6 и 5.4.7 могут быть обобщены на потоки, минимизирующие площадь относительно подмногообразий класса °° в пространстве R". 5.4.5. Предполагая, что Т е 5?mC (R") и Т абсолютно минимизи- минимизирует площадь относительно R", выведем следствия из теоремы 5.4.3. A) Для beR"\sptc?r справедливо неравенство ]imsup0m(||f[|, а)<вт(ЦГ||, Ъ). а-*Ъ B) Для Ъ е apt T\spt дТ имеем lsS6m(liril, Ъ). C) Если дТ = 0 и если существует такая точка Ъ е spt T, что rmil7TIIU(b, r) = a(m) дляО<г<°о, то поток Т является ориентированным пг-мерным аффинным под- подпространством в Rm.
666 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ В самом деле, из 5.4.3C) имеем соотношение а(т)вт(ИЯ1, а)«?<гт11ГШ(а, s)<s-mllfHU(b, s+\a-b\) = = A+ )a-b\/s)m(s+ |а-Ы)-т117тШ(Ь, s + |а-Ы) всякий раз, когда а е spt Г, 0<s<dist(a, sptdT) и 6eR". Утверж- Утверждение A) немедленно следует из этой оценки, а B) вытекает из A) и 4.1.28E). При дополнительных предположениях утверждения C) из оценки, приведенной выше, получим неравенство lira sup s~m||Т1U(a, s)<a (m), в-» 00 а значит, s~m\\TW{a, s) = a(m) для ае sptТ и 0< s < °о, и из 5.4.3 B) делаем вывод, что Т (z) л (z — a) = О для || Т |-почти всех z. Применяя 2.6.2, заключаем, что для 112"И-почти всех точек zeR" имеет место соотношение Т (z) л (z — a) = 0 для | Т ||-почти всех а, и, следовательно, spt T a{a:T (z) д (a — z) = 0} = тг {w: T (z)/\ w = 0}. 5.4.6. Теорема. ПустьТ (= $mC(R"), aeSptr\sptd7*, V — окрест- окрестность точки а в пространстве Rn, T^-V абсолютно минимизирует площадь относительно Rn, втA1ГИ, z)>em(\\T\\, а) для zeFHsptT, и существует такой ориентированный касательный конус С к пото- потоку Т в точке а, что spt С является m-мерным векторным подпрост- подпространством в R". Тогда точка а имеет такую окрестность W в V, что W П spt T является m-мерным подмногообразием класса <» в R". Доказательство. Вспоминая 5.1.11 и 5.4.3E), предположим, что а = О, С = кр*+Еп, где к = вт (|| Т ||, 0), и выберем последовательность таких положительных чисел р,-, что Pi -*¦ °° и Qi—p6-+T-*-C В ^"m°(Rn) ПРИ выберем далее X и е так, чтобы для интегранда площади W имело место заключение утверждения 5.3.14, а т — так, чтобы выполнялись неравенства и положим и(х, j/)=sup{W, \у\} для (х, z/)eRmXRn~m=* R". Если i — достаточно большое число, то {(х, у): и (хх у) < 2е} с щ G\spt dT)t (spt<?,) П {(ж, у): Ы<2е, ге/2^\у\ <2г} = 0
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 667 в силу последнего заключения утверждения 5.4.2, и найдутся такие спрямляемые потоки Rt^^m(Rn), 5гбйя+,(К"), что spl(Q{-C-Rt-dSs)ci{(x, у): и(х, у)>2г), M(Rt) + M(St)<a(m) (г/2)т*\ а значит, ftdSM(x, у): и(х, у)<2е) < °°, и, применяя утверждение 4.2.1, найдем такие числа р,-, что е/2 < р( < е, М<5,-, и, |p,-Xa(m) (e/2)m+1. Пусть по определению Ut = {(x, у): и(х, г/)<рЛ, Ti = Qi^~Ui. Тогда Ti абсолютно минимизирует площадь относительно R" и sptdr,- <= (spt Qi) П Bdry Ut <=¦ {(x, y): \x\ = p,}, f.-CLl/.-a^L Ut) = Ri L 17,- <&, в, (p4->, M [р+Г4 - kEm L U @, Pi)] < 2ce (m) (8/2)m+1 < a (m) p?, spt дщТ( <= Bdry U @, p.), P+f, = №m L U @, p,), spt Г,-с {(x, y): |x| ^p,-, |г/| < те/2) с U@, p( + тр,), М(^)<|(?г1и@, Pi + tPi) = ff\T\V[0t A + T)Pi/p,], Exc (rif 0, Pi) = P7mM (Г,) - Aa (те) < < A + т)т[A + т) Рг/вГ! T\\V@, A + T)Pl/p\] - йа(те)-.- -*¦ A + т)т й;а (т) — /ca (m) < e при i ->- oo. Из 5.3.14 вытекает, что для больших i множество (spt7Tf)n{(x, у): |х|<ер,} является m-мерным подмногообразием класса °° в R", и можно по- положить W = iimi{(x, у): |аг|<ер«, \у\<р$. 5.4.7. Теорема. Для произвольных целых чисел п &* пг ^ 1 найдет- найдется число Т > 1 со следующим свойством. Пусть S s $mC(Rn)> 5 абсолютно минимизирует площадь отно- относительно R" м точка а е= spt 5\spt 55 такова, что вт(И511, a)< Y. Тогда точка а имеет такую окрестность W в R", что W Л spt 5* явля- является пг-мерным подмногообразием класса °° в пространстве R". Доказательство. Вспоминая 5.4.5B), рассмотрим такие последо- последовательности потоков Si e fflm° (Rn) и точек ai^sptSi\sptdSi, что 5, абсолютно минимизирует площадь относительно R" и ет(ВД1, о,)-* 1 при »-*оо. При каждом i, применяя утверждения 5.4.3F), 5.4.3E), 5.4.3D),
668 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ выберем такой ориентированный касательный конус Ct к потоку S( в точке ah что дСг = 0 и (LU(a, г)]-= та (т) &*{№$, а,) для 0<г<°°. Используя утверждение 4.2.17, выберем такую под- подпоследовательность (без изменения обозначений), что последова- последовательность потоков CiL-U@, 1) является ^"в(о,1)-сходящейся в про- пространстве Im,B(o,i)(Rn)> а затем, используя инвариантность пото- потоков С{ относительно преобразований цГ, получим такой поток С s stf(R-), что ^"в(в.г> [Сг L U @, г) - С L U @, г)] -> 0 при i -+ оо для 0<г< оо. Ясно, что дС = 0. Из 5.4.2 видим, что потоки Cf и С абсолютно минимизируют площадь относительно R" и для 0<г<оо, следовательно, из 5.4.5C) вытекает, что С является m-мерным ориентированным векторным подпространством простран- пространства Rm. Вспоминая 5.1.И, предположим, что С = р+Ет. Выберем числа X и е так, чтобы для интегранда площади W при к = 1 было спра- справедливо утверждение 5.3.14, затем выберем такое число т, что имеют место неравенства 0<т<1, 0<ет<Л-\ а(?п)[A-Ьт)т-1]<е, и положим р = е/2, 21, = Ci1-p-1U@, р) для всех натуральных L Из 5.4.2 вытекает равенство (sptC,)nB(O, е)П{(*. у): \у\>рг} = 0, если только i достаточно велико. Следовательно, spt T f cz {(х, у): \х\ <р, \у\ <рт}, поскольку из предположения (х, у) е spt Сг при условии, что 1x1 < р» \у\ ^рт, вытекали бы соотношения \хг+ |у|2>еа, \у\ >р, (и, v) = где |u| <рт, \v\ =рт, (и, и)еВ@, е), что невозможно. Замечая, что sptdTi<= {(ж, у): Ы=р> и M[P+ri-EmL U@, p)] = ||р+ [(Сг-С) L U@, e)]|U(O, p)< <^"B(o,e)[(Ci-C)LU(O, в)]-»-0 при г^оо а значит, рФТ{ = Em L U @, р) для больших i, получаем, что Ехс(Г,., 0, p)<p-mllCfIIU(O, р + рт)-а(т)-^ -»¦ A + r)ma(m) — a(m)< е при i -»¦ оо.
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 669 Если i достаточно велико, то из предложений 5.3.14 и 5.4.5B) вы- вытекает, что (sptTj)!! p~4U@, ер) является тя-мерным подмногообра- подмногообразием класса °° в Rn, sptCi = Tan(spt7'i, 0) является m-мерным век- векторным подпространством в R" и 6т(И&И, at) = вт{\\Т{\\, 0)=1. Теперь применим 5.4.6 и 5.4.5B), заменяя Т на S<, и найдем такую окрестность Wt точки а{ в R", что W< П spt S^ является m-мерным подмногообразием класса °° пространства R". 5.4.8. Теорема. Пусть m>2, <?е= &m-i (R") и поток ElXQ абсолютно минимизирует m-мерную площадь относительно R X R". Тогда поток Q абсолютно минимизирует (пг— 1)-мерную площадь относительно Rn~'. Доказательство. Если бы заключение теоремы было неверным, то нашлось бы компактное множество К в пространстве R" и поток /?eIm(R"-1) такие, что M(<?L K + dR)< M((?L К). Выбирая такие числа и, »sR, что и < v и мы получили бы, что [и, d M[[u, v]X(QLK)-d(lu, p]XR)] = = М[[и, v]X(QL-K + dR)-8v <(v- u)M((?LK + dR)+ 2M(R)< 5.4.9. Теорема. Пусть ^e^B-i(R""'), поток Q абсолютно мини- минимизирует (/ft— 1)-мерную площадь относительно R" и u, deR, Тогда [и, v] X Q абсолютно минимизирует m-мерную площадь от- относительно R". Доказательство. Пусть u<v n Г<= Im(RXR"~l) такой поток, что дТ = О. Положим по определению f(t, w) = t и g(t, w)=w для (t, wJeRXR"-'. Из 4.1.8, 4.3.1 и 4.3.6 вытекает, что для .З^-почти всех чисел t между и и v имеют место соотношения в, vlXQ,f,t> = 8fxe, Поскольку g отображает /~'Ш изометрично на R11, то справедливо неравенство М[<([в, v]XQ)+T, f, i>] = M((? + g+<r, /, 0) Применяя 4.3.2B), получим М Щи, v) X Q) + Т\ > J M (Q) &SBH = М ([и, v] X Q).
670 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ 5.4.10. Если а е R и (J > а2/4, то найдется такая функция HR, что spt \f <= {г: 0 < г< 1} и г)] 2 ^- Выбирая число о так, что 0<а<1 и а2/4 + я2[1п(а)]~2< р, убедимся, что требуемое неравенство имеет место для некоторой функции -ф, удовлетворяющей условию Липшица, такой, что spt \|5 <= <= {г: o^r^l}. Отметим, что если функция geJf°(R) удовлетворя- удовлетворяет условию g[ln(a)] = 0 = g@), то - J [g' ln(a) о = j g (*)[-?"(*)-«*'@1 l() j ln@) 0 ln@) Пусть g(t) —exTp(—ta/2)sin [tn/h\ (а)] для ? eR, Тогда -g" - ag' = [aV4 + я2 In (a) ]g. Поэтому отношение приведенных выше двух интегралов меньше чем р, и, следовательно, достаточно положить г|з(г) — g[In(г)] для osSrsSl, т))(г) = О для остальных reR, 5.4.11. Определим отображение exp: Hom(R", R")-»- Hom(R", R") формулой Г при reHom(Rn, Rn). i=0 Ясно, что Hexp(f)ll ^exp(llfll), ехр(Г*)= ехр(Г)* и p( ) = exp (rT) ° exp (sT) при г, seR. Если Т — кососимметрическое ото- отображение, то ехр(Г) является ортогональным. Пусть U — окрестность точки 0 в R", а g: U-*¦ О (п) — отображе- отображение класса °°. Поскольку g(x) * ° g(x) = 1 для х^ U, то g(x)*°<v,Dg(x)> — кососимметрическое отображение для всех xsU, vs Rn. Для произвольной линейной функции L: R"->Hom(Rn, R")n{r: T* = -П построим отображение / класса °°
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 671 Вычисления дают /@) = g@) и для всех deR", <v, Df(O)> = <v,Dg@)>+g@)• <v, L\ /@)* о <P| D/@)> = g@)* • <v, Dg(Q)> + <v, L>. Для данного /ие{1, ..., n) можно выбрать отображение L таким образом, чтобы для всех i;eR" имело место соотношение <е,, ?(())•• <i7,0g (О)»-е,+ <е,, <v, ?»«е, = 0 в случае, если i ^ т и;<т или i > т и у > т и, кроме того, в случае, если i^m<j или j <m<i, где е,, ..., е„ — стандартный векторный базис пространства R". Отметим, что как <v, L>, так и ехр(<у, ?>) отображают векторное подпространство пространст- пространства Rn, порожденное {е,, ..., ет}, в себя. Пусть по определению /,•: U -+ R\ f((x) = <е,-, f(x) > для ж е С/. Тогда <у, /?А@)> ./,@)-= <е„ <v, Df(O)>> • <е всякий раз, когда yeR", а {г, /} «= A, ..., та} или U, j) cr «= {пг + 1, ..., п) и, кроме того, для каждой точки x^U векторное подпространство, порожденное {еи ..., ет), имеет один и тот же образ как при отображении g(x), так и при отображении f(x). 5.4.12. Здесь мы обсудим некоторые основные понятия из диф- дифференциальной геометрии m-мерных подмногообразий класса °° в пространстве R". Вспоминая 3.1.18—3.1.22, видим, что отображе- отображение включения Р: В -*• R" является отображением класса °° и что DP(b) для произвольной точки Ъ^В — также отображение включе- включения пространства ТапE, Ъ) в R", поэтому DP(b)* — ортогональная проекция, ретрагирующая пространство R" на ТапE, Ь), причем ее ядро совпадает с Nor (В, Ь). Кроме того, найдется такая окрест- окрестность Z точки Ь в R" и такие векторные поля /„, ..., fn^S"(Z, R"), что U(z), ..., /n(z) — ортонормальная система для zeZ, fi(z) e Tan (В, z) для г е В П Z и i < m, /i(z)eNor(jB, z) для z^Bf\Z и i>m. Такая последовательность векторных полей будет называться репе- репером Картана для подмногообразия В в окрестности Z. Ввиду 5.4.11 можно потребовать также, чтобы выполнялись равенства
672 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ всякий раз, когда yeR" и U, /} <= {1, ..., щ) пли ii, j) <= <= {т + 1, ..., п). Такой репер Картана называется соприкасающим- соприкасающимся с многообразием В в точке Ь. Для произвольного банахова пространства W определим про- пространство &{В, W) = {a\B: a^&(U, W) для некоторой окрестности U подмногообразия В в пространстве R") и отметим, что пространство &{В, W) является модулем над коль- кольцом & (В, R). Обозначая через = ff(B, Rn)fl{|: !(&)«= Tan(Д, Ь) для Ъ^В), = #{В, R")n{v: vF)eNor(JB, b) для be В) модули бесконечно дифференцируемых касательных и нормальных векторных полей на многообразии В <= R", видим, что 8 (В, Ъп) = %{В)®ЩВ). В самом деле, если Ъ^%{В, R") и \(Ъ)=(%{Ъ), DP(b)*> для всех S (DP)*>ZB и Х- I е= ЛE), поскольку 2 (л. • /«) /« i=m+l всякий раз, когда поля ft, ..., fn задают репер Картана подмного- подмногообразия В в окрестности Z. Если Ь^В, то найдутся такие поля ти ..., TmeJ(B) и -v,, ..., vn-me9l(jB), что система t,(z), ..., тт(г), v,(z), ..., vn_m(z) ортонормальна для всех z из некоторой окрестности точки Ъ в В и <v, Drt(b)> eNorE, 6), <у, Dv,(b)> e TanE, 6) г;еТапE, Ь), ге{1, .. м иг), ;е{1, ..., и — пг}. Векторные поля с этими свойствами можно построить исходя из репера Картана на В в окрестности Z, который соприкасается с В в точке Ь, путем умножения на функцию ср <=<?(В, R) такую, что spt<p c:Z и ЪФ spt(l — ф). Векторные поля ti, ..., тт, vi, ..., vn-m будем называть ортонор- мальными вблизи точки Ъ и соприкасающимися с В в точке Ь. Модуль всех <8 (В, R)-линейных эндоморфизмов пространства ?E) обозначим через $(В). Отображение F: %(B) -*-Z(B) принад- принадлежит пространству SJJE) тогда и только тогда, когда <I + ri, F> = <1, F> + <t], F> и <i|>t, F> = 4><g, F> всякий раз, когда |, r]^Z(B) и -§^&(В, R). Это условие эквива- эквивалентно существованию для каждой точки Ъ^В такого ^-линейного эндоморфизма F(Ъ) пространства Tan {В, Ь), что
g 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 673 Чтобы построить отображение F(b), выберем поля т(, ..., rm и окрестность Е точки b в В таким образом, чтобы система t4(z), ... ..., Tm(z) была ортонормальной для всех z^E, и положим по опре- определению ig т„^> (b) для veTan(jB, b). Если ^eJE), то найдется такое отображение ¦фе#(.б, R), что -ф(Ь)= 1 и spt^crtf, а следовательно, <?-г|э?, F> = A -ф) <g, /О, <?-г|з? m m i|* - 2 (*E-Ti) т„ <я|?, F> = 2 (г|?.т;) <Tf> F> i Каждому элементу /^$B?) поставим в соответствие ^* положив по определению <1, F*> • т] = <ть F> • % для всех 1, п<&Ь(В). Это требование эквивалентно условию F*(b) = F(b)* для Ь^В. Если F, Се5рE), то ^°<?с=!рE) и (F ° G) (b) = F{b)° G(b), где 6 е В. Определим также след отображения F <^& (В, R) по формуле для Ь^В ц положим F>G = ti(F* °G)^&(В, R), так что для Ь^В. Опишем теперь процесс ковариантного дифференцирования. Каждому элементу |е?(.В) отвечает дифференциальный оператор V| первого порядка, действующий на пространствах &(В, R), %(В) и $(В) следующим образом: если ф е S (В, R), го V6? = <|, 1)ф> е ^ (В, R); если T)eJE), то Уъц = «g, ?)ti>, (Ш>)*> если ^е$E), го VEF = V5 °F-F° УЪ^ Это определение эквивалентно требованию F> + <ti, V5F> Зля т) Проверяется, что в каждом из трех вышеприведенных случаев оператор VE действует как дифференцирование. Это означает, что V индуцирует R-линейный эндоморфизм векторных пространств ВН)«(Д)Ч$(В) и всякий раз, когда ¦§ е & (В, R) и це^ E, R) или ц е$? E), или 43 г. Федерер
674 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ це $(/?). Заметим также, что и значение (v&n)F) определяется значением |F) и поведением функции [X вблизи точки Ъ е В. Если I, ц, ?е=?(?) и F, G*=$(B), то Для того чтобы проверить формулу для Vs(trF), предположим, что Ъ^В, выберем векторные поля т4, ..., хт^%(В), являющиеся орто- нормальными вблизи Ь и соприкасающиеся с В в точке Ъ, получим, что для всех z, достаточно близких в В к точке Ь, и сделаем вывод, что т (V5 tr F) (b) = 2 «т„ Vs^> .т,) (b) = (tr V5F) (b)t поскольку (VtT() (fe) = 0 для i = 1, ..., m. |, т] eijE) положим по определению u докажем, что всякий раз, когда ¦фе^>E, PF) Зля некоторого банахова простран- пространства W. Для этой цели мы выберем такую окрестность U подмногообра- подмногообразия В в R" и такие функции a, pe#(tf. R-), g^8{U, W), что Из 4.1.34 вытекают равенства [а, р]Ш = [|, т|], <6, ZXti, ?>g» - <т|, D<i, Dg» - <[g, т| Ввиду 3.1.20 можно, в частности, в качестве g взять ретракцию окрестности U на В и заключить, что <1, ?>?> = |, <т|, Dg> = л, [1, Л1 = <Й, Л1 ^«Г>. а следовательно, Ц, л]е«(Д), Vl4 - V4g - <ft, r\], (DP)*>=[1, tj].
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 675 Для |, т] е X (jB) определим дифференциальный оператор второго порядка который действует R-линейным образом и удовлетворяет соотно- соотношениям всякий раз, когда "§^-<%(В, R), а це!1 (В, R) или це?E) или ЩВ) и = V| о V^ ° F — Vs о F о v,, — V,,» F = VE + всякий раз, когда Fe!f(B), Теперь мы видим, что оператор рима- новой кривизны аннулирует & {В, R), действует J?(.S, R)-линейно на пространствах ?(В) и ФE) и удовлетворяет соотношению RhriF = Riin'F-FoRlr> для Fe5JJE). Мы будем использовать оператор Лапласа, который характеризуется равенством всякий раз, когда Ь^В, а т4, ..., TmsJ(B) u Ti(b), ..., тт(Ь)' — ортонормальная система. Это определение корректно, поскольку, если Oi, ..., oms?E) и Oi(fe), ..., am(b) также ортонормальная си- система, то найдутся такие функции if и ф,,,-, принадлежащие & (В, R), что m г|гт{ = 2 <Pi,jO"j Для ie{l m} ¦ф(Ь)=1 и числа ф(,(Ь) образуют ортогональную матрицу, следо- следовательно, m m m 4=1 i=lj-=lfc=l 43*
676 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ С каждым нормальным векторным полем v^$l(B) свяжем &{В, R)—линейный эндоморфизм Q^$(B), определяемый ра- равенством <Б, <?> = -«&,0v>, (DP)*> для Если 1, т)е?;E), то vn = 0 и <1, Q> ' Л = -<6, #v> • т| = v <1, Поскольку [§, г)]*=%(В), то v • [|, т)] = 0. Поэтому, переставляя ме- местами | и т], получим равенство <|, <?>• Л = <Л, <?>'?• Итак, Q* = Q и R-линейный эндоморфизм Q{b) пространства Tan (В, Ь) будет симметрическим для произвольной точки Ь^В. Ему отвечает билинейная симметрическая форма, принимающая на паре векторов (v, w) «= Tan {В, b)XTan(S, Ъ) значение w = -<v, Dv(b)>-w. Она называется второй квадратичной формой, соответствующей v в точке Ь. Пусть полям Vi, ..., vn-me9lE) отвечают эндоморфизмы Qit ... ..., Qn-me${B), и пусть векторы v4(z), ..., vn-m(z) ортонормальны для любой точки z е В. Тогда оператор римановой кривизны да- дается уравнением Гаусса п—го ЩЛ = !S («Л. GKXS, <?;> - «I- <?;>'Q <Л. <?;». где |, ц, t,^Z(B). Ковариантные производные полей Qu ..., Qn-m удовлетворяют уравнениям Кодацци a, v*Qi> - <л, v^> = n—m = 2 ((v,-<5, Z?v,» <т], ft> - (vr<ri, I>v;» < г5е |, т) е %(В) и I = 1, ..., n — m. Для доказательства этого утверждения заметим сначала, что V4E + 2(vr<ti, DO) vrf Заменим л на |, а Е; на V4g. Тогда вычисления дают n—m {I, D <ti, DO> = V»VnE + 2 «6, <?;>• Vn0 vj + n—m + 2
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ ' ' 677 Вычтем из предыдущего уравнения аналогичное уравнение, полу- полученное заменой | на т), а т) на |, и уравнение <1Ъ, ЛЬ Ю - VI6L]S + If «IS, Л]. <?;>•?) vj. Поскольку <1, /?<т|, Р>-<л, D<1, /??»=• <[Б, т|], ?>?>, то левая часть результирующего уравнения, полученного после этих вычи- вычитаний, равна нулю. Рассматривая ?E)-компопенту правой части, получим равенство 0 = Д6.ч?-| а рассматривая %(В)-компоненту правой части, получим равенство п—т о = 2 «л. vs&K - <?« Vr,<?i>-D vj + 71—Trt 71—Trt так как Veti - V,g = [|, tj]. Для любого |e?(jB) определим V|s5(J(jB) формулой С каждой функцией ц>^^(В, R) свяжем ее градиент grad<ре$E), определяемый формулой ц • grad ф = <т), ?ф> Зля т) е Ж E), и убедимся, что Lap ф = tr (V grad ф). Выберем векторы Ti, ..., Tme?(fi) ортонормальными вблизи Ь и соприкасающимися с В в точке Ь. Тогда вычисления показывают, что m grad ф (z) = 2 ^т.ф (z) t{ (z) для z, близких к Ь, <Tjt V grad Ф> (Ь) = 2 VT.VT.9 F) т, F) для j s {1, ..., /и}. Следовательно, tr (V grad ф) (Ъ) = m го = 2 <т* V grad Ф>F) .т,- F) = 2 VTj,,.ф F) = Lap Ф (Ь). 3=1 3=1 Также, если g <=?(?) и ф, $е=Е(В, R), то tr у(ф!) = (grad ф)/ | + ф tr(vi), try (ф grad г|з) = (Х)ф)# (Х?г|з) + ф Lap \|). ....... ** Г. Федерер
678 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Докажем теперь, что всякий раз, когда %^Z(B) и spt | = В П Clos {г: b,(z)?=O} являет- является компактом. В силу аддитивности по переменной | достаточно рассмотреть частный случай, когда spt| содержится в открытом множестве ZcrRn таком, что найдется диффеоморфизм о: Z-*-Rn класса °° и то-мерное векторное подпространство F пространства R", удовлет- удовлетворяющие условию а (В flZ)= V П imo. Используя отображение о, построим m-векторное поле %, ориентирующее В П Z, и изотопиче- изотопическую деформацию h класса °° подмножества Z в себя такую, что йо15П Z = |, и если t достаточно мало, ht(B(]Z)=B(]Z, ht(z) = z для любого z e= Z Л ?\spt 1. Теперь выберем такое открытое множество W cz Rn, что и положим Т = {Mm L В Г) W) Л Х- Замечая, что sptA+([O, f]Xr)cfi, в силу 4.1.31A), видим, что из 4.1.9 и 4.1.20 вытекает равенство ht+T = T для малых t, и, следовательно, бA)(Г, Л) = 0. Наконец, вспоминая 5.1.8, отметим, что для z^B()W имеет место равенст- равенство Afz = (V|) (z), и поэтому Полагая | = <р grad if, получим следствие \ (D<p 'Di|j + ф Lap i(j) d^m — 0 в любых таких ср, ip е ^Г (В, R), что spt (ф grad ip) — компактное подмножество множества В. 5.4.13. Предполагая теперь, что В — это (п — 2) -мерное подмно- подмногообразие класса °° в S", а % — это (п — 2)-поле, ориентирую- ориентирующее В, выберем такие поля vlt v2s9t(.B), что для всех z^B, где еи ..., еп — стандартный базис векторного про- пространства R", и дзучим эндоморфизмы ^i, Qi e SJJ E), ассоцииро-
§ 6.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 679 ванные с vt, v2. Если §, ц, ?с?(.В), то Vi • <|, Dv2"> = О, поскольку vt • v2 = 0 и | • v2 = О, v2 • <|, Dv2> = 0, поскольку v2 • Vi = 1, <1, v^i> = VI, &> - <v,?, &> = 0, поэтому уравнения Гаусса и Кодацди принимают следующий спе- специальный вид: <i v,<?«> - <Л. vi^> =0 для Ze {1, 2}. Обозначая ^2 = ^, докажем следующее утверждение. Е' F O 0 {рр + )и\ и у Lap ^ >{п — 2) (F-F)-(F• FJ. Фиксируя точку fteB и заменяя Z? на достаточно малую относи- относительную окрестность точки Ь, выберем векторные поля Xi, ..., т„_2 е е?(В), являющиеся ортонормальными всюду на В и соприкасаю- соприкасающиеся с В в точке 2>, и положим для краткости VTi = Vi, Vtj.Tj = Vjj, i?T.,T;. = i?ii;-. Из того, что F*=F, (V,F)*"=v,F, ж из уравнения Кодацци полу- получим равенство if <Tit Vt^.tj - "ll <т;Ч V4F>.т{ - i=l i=l П—2 = 2 <fi» VjF> -т{ = tr V^ - Vj tr F = 0 i«=l для всех / s A, ..., n — 2}, а следовательно, Ввиду того, что VjTiF) = 0, имеем n-2 2 <Tn V;V{F> (Ь) = О i=i для / e {1, ..., r — 2}. Кроме того, <Tj, VfV/>(b), 44*
680 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ и VMF(b) = ViV/(fe) для U, #<={1, ..., п-2), поэтому <т,, LapF> (b) = 2' <х}, VMF> (b) = 2* <т„ RUF) (b). Пусть <тА, F) = Fk. Вычисления, использующие уравнение Гаусса, дают соотношения <т,, i?u°F> =#,-/< = = (tj • Ft) х{ - (т, • F,) т, + (F, - Ft)Fi - (Ft • Ft)F, = = (т, • F,)т4 -(Xi • Ft)т, + (<т„ F* оF> • t,)F«- (F, • Ft)Fh <xt, F о Ru)- 2' <iu Ru ° F - F о i?u> = ^e F* ° ^— (^•¦pT) ^ — P + (n — 2) F — F ° F а значит, <тл LapF>F)= (xs, (n-2)F-(F«F)F>(&). Кроме того, V<Y = T"'^ * v<^' и поэтому ¦ v,ViT = -Г3 (F • V,FJ + f-1 (V(F • V,F + F • VtV(F) > Lap у F) =. 2* ViVi7 F) > 2* (Y"^- ViViF) F) = = (y~iF. Lap F) F) = (Y~1^-((n - 2) F - (F./^ F)) F). 5.4.14. Лемма. Пусть 3 sS n < 7, 5 — компактное связное (п — 2)- мерное подмногообразие класса «> в S"-1, а х — (ге ~ 2)-векторное поле, ориентирующее В. Если (п— 1) -мерный целочисленный поток абсолютно минимизирует площадь относительно R", то В = S"-1 П {z: u • z = 0} для некоторого и е S"-1. Доказательство. Пусть Vi, v2, ^1, <?2 = F, e, f такие же, йак и в 5.4.13, и C = {rb: O^reR, be В]. Для любых двух функций феЙ"(В, R) и ij)e®°(R), для которых sptT|jc:{r: 0<г<1}, найдется такая изотопическая деформация h: /XW->Rn, что W является окрестностью подмножества С в R"h A {t, rbI- rfe + гФ (Ь) 1|! (г)v2 (.6)
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 681 всякий раз, когда t e /, 0<reR, b^B. Отсюда С Л {z: h (t, z)=? z для некоторого fe/>c с С П {z: 0 < \z\ < 1) <= Rn\B = Rn\spt 5Г в силу утверждений 4.1.11 и 4.1.31A), поэтому в силу '5.1.7 имеем бA)G\ ft) = 0 и 8т(Т, h)>0. Для 0<г<1 и bsfi имеем равенства Mrb) = q>(b)i|>(r)v2(b), vi(b) = b, ТапA1ГП, гЬ) = Тап(С,гЬ)-Тап(Б| 6)®Rb, . . ..-,.-,...., Nor(liril, rb) = - <rv, DAa(rb)> = <v для »'S Tan(S, b) и, вспоминая 5.1.8, получим , F(b)> и v2(b) для = Лfrд)=r-2|ф(Ь)ll)(r)F(Ь)|^ поскольку F*-F, tr (iV^ = iVrb) = 1 Ф (Ь) -ф' (r) |2 + r-21 i|j (г) и Sr4 = 0, так как h0 = 0. Поскольку \\П=Жп-^{гЬ\ 0<Kl,N5}1i то из 3.2.20 и 3.2.23 вытекают равенства 0 = бA) (Т, h) = J f (tr МгЬ) г" d5»n-2 о в 1 = — f 1|з (г) гп-ЧЗ?хг ( (р tr 6 " В Используя произвол, с которым можно выбрать функции <р и if, получим равенство trF = O, и поэтому ... tr (N*b oNrb — M 6 в 1 в 1 о 1—2
682 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Теперь возьмем ср = f и выберем функцию г|) в соответствии с 5.4.10 с а = га — 3^4 и Р = а + е>а> а2/4. Ввиду того, что, согласно 5.4.12 и 5.4.13, | Dy |a сШ" = - Г у Lap у <ШП в 1-2 получим соотношения 0 < б2 (Г, ft) / f [i|> (г)]8 т»- Поскольку е можно выбрать сколь угодно малым, то F = 0 и Z?v2 = = 0, поэтому v2 отображает 5 в одну точку и е S". Полагая по определению /(z)"=»«z для zeffUz: 0< izl < 1>, убеждаемся, что <u>, Df(z)> = u »w = 0 для w e Tan (С, z), а значит, образ im/ состоит из одного числа, которое должно быть нулем, поскольку / имеет предел, равный нулю при z -*¦ 0. Поэтому Заметим теперь, что В к Е — это (гс — 2) -мерные подмногообразия в R", а В — одновременно открытое и замкнутое подмножество в Е. Поскольку Е связно, то В = Е. 5.4.15. Теорема. Пусть 2 < п < 7, Т е 9tXn-i (Rn) и Т абсолют- абсолютно минимизирует площадь относительно R". Тогда sptTNsptST1 яв- является (га—1)-.иеркьш подмногообразием класса °° в R". Доказательство. Применим индукцию по п. В случае п = 2 утверждение теоремы вытекает из 5.3.20. Начиная с этого места, предположим, что 3<п<7, и докажем сначала следующее утвер- утверждение. Если, М является ^"-измеримым множеством, V — открытым множеством в пространстве R", и поток S абсолютно минимизирует площадь относительно R", то FflsptS является (п—1) -мерным подмногообразием класса оо в R". Предположим, что aeyrisptS. В соответствии с 5.4.3F), 5.4.3(8) и 5.4.3E) найдется такое .^."-измеримое множество N, что
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 683 С — д (Еп L- N) является ориентированным касательным конусом к S в точке а, С абсолютно минимизирует площадь относительно Rn и в" ("С", О) = вп-1(И5И, а). Для произвольной точки b€=(sptC)\{0} аналогичным образом найдем такое ^"-измеримое множество Р, что D = д (En L- Р) являет- является ориентированным касательным конусом к С в точке Ь, поток D абсолютно минимизирует площадь относительно R" и @п-1(Ю\\, О) = 8"-1(||СН, Ь). Из 4.3.16 делаем вывод, что D является цилиндром, образующая которого имеет направление Ы\Ь\, из 4.3.15 следует существование изометрии Н, отображающей RX X R" на R", и потока Q e St'n-2 (R") такого, что D - Я+ (Е1 X <?), а из 5.4.8 вытекает, что поток Q абсолютно минимизирует (га — 2)'- мерную площадь относительно R""'. По индукционному предполо- предположению spt^ — это (га — 2) -мерное подмногообразие класса <» в R", следовательно, spti) является (п— 1)-мерным подмногообразием класса <» в R". Поскольку D — ориентированный конус, то spt D = = Tan(sptZ), 0) является (га — 1)-мерным векторным подпростран- подпространством в R". Следовательно, относительно меры 2 подмножество Р почти равно полупространству, ограниченному sptD, и 8я-1 (Ш1, 0)=1. Применим утверждения 5.4.6 и 5.4.5B) к С, Ъ, R" вместо Т, а, V и произвольной точке zegptC. Тогда найдется такая окрестность W точки Ь в пространстве R", что W П spt € является (га—1)-мерным подмногообразием класса <» в R". Поскольку С — ориентированный конус и (sptC)\{0) является (п— 1) -мерным подмногообразием класса <» в R", то S^'flsptC — компактное (га —2)-мерное подмногообразие класса <» в S" с ко- конечным числом компонент Bt, ..., Bv. Из 4.3.14 вытекают соотношения CL_U(O, 1) = 60Х<С,/, 1>, где /(г) = |г| для z s R", 0 Ф С L [U @, 1) П Ег] = б0 X ((С, U 1> L Вг), где Et = Ub: 0<ieR, b s SJ для i e {1, ..., v) и д<С, f, l> = = <3C, /, 1> = 0. Из 4.1.31B) следует равенство где rt — натуральное число, а х* —это (га —2)-векторное поле, ориентирующее Bt. Следовательно, 60 X {Шп~г L В{) л Xi абсолют- абсолютно минимизирует площадь относительно R". Используя 5.4.14, де- делаем вывод, что Ei является (га—1)-мерным векторным подпро- подпространством в R". Если И, ]} сг {1, ..., v), то dim {EiuE,)>2(n~i)-n = n-2> I, и, следовательно, В{пВ}Ф0 и i = j. Итак, v = l, sptC = ^j, относи- относительно меры SEn подмножество N почти равно полупространству,
684 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ ограниченному Еи и в"-1 ("С", 0)= 1. Применяя 5.4.6 и 5.4.5B) к S вместо Т, найдем такую окрестность W точки а в R", что W П spt 5 является (га—1)-мерным подмногообразием класса °° в R". Предположим теперь, что re^L*i(^")i поток Т абсолютно минимизирует площадь относительно R" и а е spt TVspt дТ. Посту- Поступая так же, как и при доказательстве теоремы 5.3.18, выберем р, S так, чтобы выполнялись соотношения 0 < р < dist(a, spt дТ), Т L U (a, p) e 1„_, (R-), SeIB-,(R"), spt5cR«\U(a, p), as - 0 [Г L-U (а, р)], применим 4.5.17 к R = [T^-\J(a, p)] —5 и полученные множест- множества М{ используем для того, чтобы построить потоки которые абсолютно минимизируют площадь относительно R", по- поскольку i=z Из утверждения, доказанного раньше, вытекает, что для каждого целого1 числа i множество U(a, p)flsptSj является (п—1)-мерным подмногообразием класса <» в R". Кроме того, из 5.4.5 B) и 5.4.3C) вытекает, что для каждого i либо S, = 0, либо ME4)>a(n-l)[p-dist(a, Следовательно, множество Д = {i: a e spt 5J конечно и inf {dist (a, spt 5,): i e Z\A, 5f Ф 0} > 0. Заметим, что Tan (Mi, a) — полупространство, ограниченное Tan (spt S{, а) всякий раз, когда !еД,и Ms <= Mt, Tan (Ms, a) <= Tan (Mu a) для j>i. Поэтому Tan (spt5i, a) = Tan (spt Sj, а) всякий раз, ко- когда !еД и j s Д. Поэтому Tan (spt У, а) является (»— 1)-мерным векторным подпространством пространства R". Применяя теорему 5.3.18, найдем такую окрестность W точки а в U(a, р), что W П spt T является (п — 1) -мерным подмногообразием класса ос в R"--1. 5А16. Неизвестно, является ли условие п<7 в 5.4.15 сущест- существенным. Для того чтобы убрать это ограничение, следовало бы обобщить 5.4.14, используя более точный критерий, чем критерий, основанный на рассмотрении первых и вторых вариаций. В самом деле, рассмотрим следующий пример. Пусть К — натуральное число и S=(R*XR*).n{(z, у): Ы =
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 685 Тогда G\{@, 0)} является BА,—1)-мерным аналитическим под- подмногообразием в R*XR\ ориентированным BЯ—1)-векторным полем %, поток С = (Ж*-1 L G) а х г ЯЙи (Rx X Rx> является ориентированным конусом, дС = 0 и для любого ком- компактного множества К в пространстве RXXRX и любой изотопи- изотопической деформации h класса 3 окрестности WaK в R^XR"" та- такой, что имеют место соотношения б(" (С \-К, h) = 0, бB) (С L К, h) > 0 в случае % > 4. Это утверждение можно проверить вычислениями, аналогич- аналогичными тем, которые встречались в 5.4.10 и 5.4.14 при B = GU{(x, у): Ы2+Ыг = 1} = {(ж, у): \х\ = 2/2 - \у\), так что \F(x, у)|2 = 2Я для (х, у)^В. Нужно использовать также разложение по собственным функциям дифференциального операто- оператора, отображающего функцию g в g"+BX — 3)g' на множестве it: ln(o)s? ?s?0}, и, кроме того, оператор Лапласа на многообра- многообразии В (см. [SJ, § 6]). Отметим, что @, 0) — сингулярная точка множества G = spt С, Из 5.4.15 вытекает, что ноток С не является абсолютно минимизи- минимизирующим площадь относительно R2* в случае %<Ъ. Неизвестно, минимизирует ли С площадь при % > 4. Таким образом, потоки, минимизирующие площадь, являются более регулярными, чем по- потоки, имеющие нулевую первую вариацию для всех допустимых изотопических деформаций, но относительная важность положи- положительности второй вариации все же полностью не понята. Теперь докажем следующее частичное обобщение утверждения 5.4.15 на случай га = 8. Если поток Т е $1° (R8) абсолютно минимизирует площадь относительно R8, то множество сингулярных точек из spt TXspt дТ не имеет предельных точек в spt Aspt дТ. Взяв a s spt r\spt дТ, построим такие же потоки Si, как и при доказательстве теоремы 5.4.15; предположим, что существует такое Целое число i, что а — предельная точка сингулярного множества из spt St. Выберем Т согласно 5.4.7 при п = 8 и тп = 7, затем при- применим 5.4.3G), заменив Т, d на St, T, чтобы получить такой ка- касательный конус С к потоку Si в точке а, что в" (ll^ll, b)> Y > 1 для некоторой точки Ъ е S". Первая часть индуктивных рассмотрений из доказательства теоре- теоремы 5.4.15 остается применимой и в случае, когда га = 8, и поэто- поэтому в" ("СИ, Ь)-1.
686 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ 5.4.17. Следующий пример показывает, что поток, минимизи- минимизирующий площадь, не определяется однозначно своей границей и не наследует всех симметрии своей границы. Если Ье{1, 2, 3}, 5 = 5[ElLU@, 1)], Ге I^R^XR*), дТ =S X S, поток Т абсолютно минимизирует площадь относитель- относительно Rx X R*, а Г — группа таких ортогональных преобразований f пространства R*XR\ что то найдется такое отображение ^еГ, что у+У ?* Т. В наброске доказательства этого утверждения мы исключим тривиальный случай К = 1 и предположим, что у+Г = Т для всех преобразований |еГ. Пусть S={r:O<reR), ft: Я X Я XR* X Rl-> R»-X R\ h(s, t, x, y)=-(sx, ty), для (s, t, x, j/)e?X?XB*XR\ Отметим, что h индуцирует диффеоморфизм E X E X S*-1 X S* a (R*\{0>) X (R*\{0)). Для З^-почти всех чисел р между 0 и 1 имеют место следующие соотношения: apt(dT,-SXS)<={{x, у): Ы{\х\, Поскольку A = {fXg: /е80(Я), gsSO(X)}<=r, у+Гр = Ур для всех A для любых (ж, j/)e(Rl\{0})X(R*'X {0}), то можно показать (ср. с 4.3.14), что Гр = пф(<?р XS X S) для некоторого (?„ е^(ЕХЕ), а следовательно, 6>fp = МE^Р) X S X S], (?р е I, (? X ?) и spt [3^р — S(lii,] с: {(s, f): inf {s, t) = p), поскольку 5Х5 = /г+[8(,,,,Х5Х5]. Полагая по определению о (х) = (х,, — х2, ..., — Xi) s Ъ.к для я; ^ R1, а (ж, 1/) = (г/, о(ж))еК'-ХКхдля (ij)sBJXHl, р(«, *) = (i, s)^EXE для (*, t)sEXE, находим, что a+EX5) = (-l)'-15Xa+S' = 5X5, а^Г и, кроме того, А ° ([1X а) = а ° h, й+[(р+(?р)Х5 X 5] = Л4(ШХ«ЦE X 5)] = a+fP = Гр,
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 687 Поскольку M[dQ9 — b(li)] —нечетное целое число, то (р, р)«= е spt dQp, и поэтому h ({р> X {р} X S*-1 X Shl)с spt дТ„ <= spt T, pn-m(SXS)<3^z"-\(s^tT)u{(x, у): М2+Ы2 = 2р2}]. Таким образом, П{{х,у): 21/2 J 21/2 21/2 BЯ, - 1ГХМ (S х5) = М [6@,0) X E х где д [6@>0) X E X S)] = 5 X S, а следовательно, поток fyo.o) X (S X 5) абсолютно минимизирует площадь относительно R^XR*. Однако это противоречит утверждению 5.4.15, поскольку 2Ь<7. Конечно, отсутствие единственности и инвариантности совсем легко получить в том случае, когда рассматриваемые потоки ми- минимизируют площадь относительно собственных подмножеств в R". Например, ориентированная полуокружность минимизирует длину относительно целой окружности. 5.4.18. Здесь мы предположим, что U — открытое множество в R", а /: U -*¦ R — отображение класса 2. Полагая по определению F: U -v R"-1 X R, F(x) = (x, f (x)) для ге[/ и замечая, что /„-4^= \DF\ =A + |Z)/|ZI/2, докажем, что уравнение минимальной поверхности 21Яг(|^ГА/) = о выполняется тогда и только тогда, когда поток S = F+ (E" L f/) абсолютно минимизирует площадь относительно ?7XR. Из 5.1.7, 5.1.9, 5.1.11 видим, что если поток S абсолютно мини- минимизирует площадь относительно U X R, то для любого компакта К <= U и всех непараметрических деформа- деформаций h, отвечающих Q*^?D(U, R), таких, что spt&c Int.K. Следова- Следовательно, из уравнения Эйлера — Лагранжа вытекает уравнение ми- минимальной поверхности.
688 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ Вспоминая 4.1.7, определим векторное поле v на f/XR фор- формулой v(x, y)=\DF(x)\-l(-Dtf(x), .... -ZW(*), 1) для (х, г/)е C/XR. Вычисления дают \v(x, у) I = 1, div v (х, у) = - *2 D, (| Z)F Г1 ?</) (ж), г=1 DiF (ж) Л ... Л Dn-tF (х) Av{z) = \DF(z)\eiA ... А еп< где е(, ..., е„ — стандартный базис пространства R" X R, 5 (х, у) Л v (х, у) = <?х Л ... Л <?„, <S (ж, у), Dxv (ж, i/)> = 1. Итак, Dtv является дифференциальной формой степени п — 1 и класса 1 на C/XR такой, что iDjvl = Ivl = 1 и (S L С) Dxv = j" (S, Dxv> d\S| = M (S\C) для любого компакта С <= U X R. Если справедливо уравнение ми- минимальной поверхности, то divv = 0, d(T>iv) = 0, и, следовательно, М (S L С + дГ) > (S L С + dr^v = M (S L С) всякий раз, когда !TeIn(^XR). Используя гомотопию Я, опреде- определенную формулой H(t, х, у) = (х, ty) для (t, х, y)e-RXUXR, видим также, что если поток $eIn_i(?/XR) таков, что <Эф = О, то поскольку Hi = 1 и #(>#(? является (п — 1) -мерным циклом с ком- компактным носителем в U X {0} = U <= R". Поэтому поток S абсо- абсолютно минимизирует площадь относительно J7XR. Следующая теорема обобщает теорему С. Бернштейна, соответ- соответствующую случаю п = 3. Пусть 2<ге^7 и f — вещественнозначная функция класса 2, удовлетворяющая уравнению минимальной поверхности в R". Тог- Тогда f является (п—1)-мерным аффинным подпространством в R X R. Для доказательства предположим, что /@) = 0, и пусть G = (R"-1XR)n{(x, у): J(x)>y), и(х, у) = (\х\*+\у\уп для (я, y)eR-*XR, Вг = {(х,у): и{х, у)<г) для 0.<г<°о.
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 689 Из 4.5.9A) вытекает равенство S = (-l)n-'d(En L G), из 4.2.1 вытекает, что MEL5r)<M(EnL G, и, г +>< < lira inf Sn (G П Br+h\Br)/h < a (n) nr11'1 ft->o+ всякий раз, когда 0<r<°°, из 5.4.3C) и 5.4.5B) следует сущест- существование такого числа jl, что а (га- 1)<г1-пШБР!р«?а(ге)га при г f ~, поэтому потоки Re = це#(Е" L G) удовлетворяют условиям всякий раз, когда 0< е < °° и 0 < г < <». Применяя утверждение 4.2.17B) к К = Вг для каждого положительного г и используя кан- торовский диагональный процесс, построим последовательность по- положительных чисел е„ стремящихся к 0, и поток R такие, что R4^R В 0-JOC(Rn-lx R) следовательно, H4+S -*-(- If ЗД в ^! (R" X R) при i -> оо. Из 5.4.2 мы делаем вывод, что поток dR абсолютно минимизирует г1"" \ dR | Вт = lim (г/-,.I"" IIS|| Яг/Е. = р всякий раз, когда 0<г<<», а из 5.4.15 вытекает, что sptdR яв- является (п— 1) -мерным подмногообразием класса °° в R" X R, а значит, $/а.{п — 1) = в" [OR, @, 0)] — натуральное число. Отметим, что для некоторого ^""-измеримого множества А имеет место ра- равенство R = Еп L А, поэтому из 4.1.31 вытекает равенство [3 = •=а(га — 1). Применяя 5.4.5C), делаем вывод, что S является (га— 1)-мерным аффинным подпространством пространства Rn~'XR. Известно, что теорема Вернштейна может быть обобщена и на случай га = 8 методом, изложенным в работе [DG7]. Для непара- непараметрического представления частей множества spt dR использова- использовалось вместо теоремы 5.4.15 частичное ее обобщение, изложенное в 5.4.16, а также разумное приложение принципа максимума для частных производных от функций. Здесь были представлены только некоторые факты о решениях уравнения минимальной поверхности,— те факты, которые тесно связаны с основными темами этого параграфа. Более обширную информацию о (га—1)-мерных непараметрических минимальных
690 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ поверхностях в R", в том числе многие важные последние резуль- результаты, можно найти в [SG], [GD], [MCB4, § 4.2], [ММ1], [DGS], [BDGM] и [JS]. 5.4.19. Здесь мы будем предполагать т и п четными, скажем го = 2fi, a n — 2v. Отождествим пространство Cv с RZv, причем стандартные комплексные координатные функции Zu ..., Zv на Cv будут связаны с вещественными координатными функциями Xt, Yit ..., Xv, Yv на R2v формулой Z^Xt + iY, для 7 = 1, .... v. Мы снабдим пространство Cv эрмитовым скалярным произведени- произведением Я и соответствующей кососимметрической 2-формой, как было описано в 1.8.2, и определим фундаментальную дифференциаль- дифференциальную форму Из 1.8.2 и 1.6.6 вытекают равенства Q = (i/2) 2 DZj л DZj = S DXj л DYh Q = dX, где Г = 2 Xj л DY} e «"* (Cv)t Q^ e ^^ (Cv), d(Г л Q11) = йц, 5(Q11) = (dS)(Г л Й11) = 0для5е ^2(i(Cv). Комбинируя неравенство Виртингера с вышеприведенным за- замечанием, получим следующее предложение. Если Г е i%2°M?(Cv) и для \\Т\\-почти всех точек z простой 2^г- вектор T(z) является комплексным и положительным (см. 1.6.6), то и поток Т абсолютно минимизирует площадь относительно Cv. В самом деле, для каждого компактного множества К <=¦ spt T и любого цикла S e j?2|1(Cv) имеют место соотношения (Т L Q*) Я = f<f (z), Л> ЙЦГflz= j (i! М [(Г I- if) + 5] = М(Й")М [(f L. К) + 5] > ^ [{ТL ,К) + 5]?> = (f L X)Q" = ц\ ЩТI-Я). Заметим также, что S ?>^wi) Л ДУМ1) Л ... Л Z)ZWtl) л DYUil), ^SA(v)
§ 5.4. О ПОТОКАХ, МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ б 91 где pi.: С -*¦ С, p>.(z) = (z%.w, ..., Zyw) для геС. В случае, когда IITW = Шч L spt Г, используем 4.1.30 для того, чтобы получить ра- равенство Предыдущие рассмотрения применимы к потокам, которые строятся из голоморфных многообразий (см. 3.4.12, 4.2.29). Если Uelf — открытые множества в Cv, a T — положительная, комп- комплексная ц-мерная голоморфная цепь множества W, лежащая в U, то поток T^-U абсолютно минимизирует площадь относительно W. Например, если W — открытое множество в Cv, V — голоморф- голоморфное подмногообразие в W и [г = dime V, то найдется такой единст- единственный поток Т е= $2°; (W), что дТ = 0, 1Т | = Ж211 L V, —> и простой 2р,-вектор T(z) является комплексным и положительным для «Э$2го-почти всех точек ге7,а следовательно, поток Т абсолют- абсолютно минимизирует площадь относительно W. Отметим, что V = = spt 2"\spt дТ не обязательно подмногообразие в Cv, оно может иметь множество сингулярных точек комплексной размерности Для иллюстрации рассмотрим элементарный пример, когда И/ = С2и F = C2n{z: (*,)¦-=¦ (г.K>. Для 0 < г < оо определим функции /,: С-+С2, fr{w) = {w2, r-i/zws) дляюеС и проверим, что /г является таким унивалентным голоморфным отображением, что Итак, цг (Т)-»- 2Е2 X 6о в пространстве ^^ос (С2) при г ^ оо. Следовательно, единственный ориентированный касательный конус к Г в сингулярной точке @, 0) совпадает с двойной ориентирован- ориентированной плоскостью и 02[Ш1, @, 0I = 2. Не случайно эти результаты согласуются с обозначениями алгебраической геометрии, в соответ- соответствии с которой комплексное одномерное многообразие V имеет двойную касательную прямую в сингулярной точке @, 0), и @, 0) имеет кратность 2 на V. Из 4.3.19 известно, что каждая комплексная ^-мерная голоморф' ная цепь Т подмножества W, лежащая в U, имеет в каждой точке a^U единственный голоморфный ориентированный касательный конус С. Если цепь Т положительна, то и конус С положителен,
692 ГЛ. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННОМУ ИСЧИСЛЕНИЮ поскольку ||С||г|3<Пт||(мг.т_0)+Г||'ф = = lim [(fir о т_а)+ Т] (г|зй7иО г-»оо для всех г|) е jZ)° (Cv), a значит, IICII =CL Q"/n! Используя комплекс- комплексную версию утверждения 4.3.11 и тот факт, что регулярная часть любого неприводимого комплексного алгебраического многообразия связна, можно выразить С в виде суммы целочисленных кратных потоков, соответствующих однородным неприводимым комплексным алгебраическим подмногообразиям в Cv. В [F 19, § 4] показано, что если поток Т соответствует алгебраическому подмногообразию V в Cv, то С соответствует виртуальному многообразию (алгебраиче- (алгебраическому циклу), которое алгебраические геометры называют каса- касательным конусом к V в точке а. Предыдущая теория легко обобщается с пространства Cv на произвольное кэлерово многообразие (определение см. в [W 2]), на- например на комплексные проективные пространства. В этом случае по-прежнему справедливо равенство d?i = 0 (хотя Q не является внешним дифференциалом некоторой дифференциальной формы степени 1) и все положительные голоморфные потоки гомологично (хотя не всегда абсолютно) минимизируют площадь. Все известные сейчас типы сингулярностей в точках множества sptf\spt9r для потоков Т, минимизирующих площадь, возникают из голоморфных многообразий или прямых произведений таких многообразий на интервалы (см. 5.4.9). Поиск других типов син- сингулярностей представляет собой перспективную задачу. 5.4.20. Все исследования регулярности минимизирующих пото- потоков Т имеют дело с задачей внутренней регулярности (гладкости множества spt 7\spt дТ). Однако недавно был получен прогресс в задаче граничной регулярности (гладкость множества spt Г вбли- вблизи и на sptdT1). Приведем результаты работ [AW1, 2]. Пусть Т eIm(R"), поток Т абсолютно минимизирует площадь относительно Rn, fcesptdT7 и существует такое [тп — 1)-мерное подмногообразие В класса q > 2 в R", что для некоторой окрестности V точки Ъ в R". Тогда - A) вт(Ш1, 6K*1/2; B) если вт(Ш, 6) = 1/2, то найдется такое тп-мерное подмно- подмногообразие А класса q в R", что v и UTU для некоторой окрестности W точки Ь в V, следовательно^
§ 5.4. О ПОТОКАХ. МИНИМИЗИРУЮЩИХ ПЛОЩАДЬ 693 C) если существует такой ориентированный конус С, касатель- касательный к Т в точке Ь, и вещественнозначная функция « на Rn, что sptCcTan (В, b)\i{z: a(z)>0>, то em(HCH, Ь)=1/2; D) если существуют такие линейно независимые вещественно- значные линейные функции р4, ..., j}n_m+i, что sptdrcb: ^B-6M*0 для 1= 1, ..., n-m+l), то предположения утверждения C) справедливы при а = fb + ... ... + pn_m+i. Из заключения утверждения B) вытекает, что W П spt T явля- является многообразием с границей W П spt дТ в смысле дифферен- дифференциальной топологии (см. [MJR]). Предположения утверждения D) являются естественным обобщением условий ограниченного накло- наклона, которые встречаются в классических работах по непараметри- непараметрическим мивимальньш поверхностям.
СПИСОК ЛИТЕРАТУРЫ Abhyankar S. S. [AB] Local Analytic Geometry.— New York: Academic Press.— 1964. A h 1 f о г s L. V. [AL] Complex Analysis.— New York: McGraw-Hill, 1966. Alaoglu L. [A] Weak topologies of normed linear spaces/Ann, of Math., Ser. 2.— 1940.— V. 41.— P. 252—267. Allard W. K. [AW 1] On boundary regularity for the Plateau problem.— Brown University dissertation, 1968. [AW 2] On boundary regularity for Plateau's problem/Bull. Am. Math. Soc.— 1969.- V. 75.- P. 522, 523. A1 m g r e n F. J. Jr. [AF1] The homotopy groups of the integral cycle groups /'Topology.— 1962.— у i p 257 299 [AF2] Anisoperimetric inequality/Proc. Am. Math. Soc—1964.—V. 15.— P. 284—285. [AF 3] The theory of varifolds.— Princeton, 1965. [AF4] Plateau's Problem.—New York: W. A. Benjamin, 1966. [AF 5] Some interior regularity theorems for minimal surfaces and an exten- extension of Bernstein's theorem/Ann. of Math.—1966.—V. 84.— P. 277—292. [AF 6] Existence and regularity almost everywhere of solutions to elliptic variational problems among surfaces of varying topological type and singularity structure/Ann. of Math.—1968.—V. 87.—P. 321—391. [AF7] A maximum principle for elliptic variational problems/J. Funct. Ana- Analysis.- 1970.- V. 4.- P. 380-3S9. В a n а с h S. [BA] Theorie des operations lineaires.—Warsaw: 1932.— На украинском языке: Банах С. С. Курс функционального анал1зу.— Кшв: Ра- дянська школа, 1948.— 216 с. В е е s 1 е у Е. М., Morse A. P. [BEMJ ф Cantorian functions and their convex moduli/Duke Math. J.— 1945 _ у. 12.- P. 585-619. • Besicovitch A. S. [B 1] On the fundamental geometric properties of lineary measurable pla- plane sets of points (I), (II), (III)/Math. Ann.—1927.—V. 98.— P. 422-464; 1938.- V. 115.— P. 296-329; 1939.- V. 116.- P. 349-357. [B2] Concentrated and rarified sets of points /Acta Math.— 1933,—V. 62.— P. 289—300. [B3] On the Kolmogoroff maximum and minimum measures/Math. Ann.— 1936 — V. 113.- P. 416-423. [B 4] A general form of the covering principle and relative differentiation of additive functions (I), (II) /Proc. Cambridge Phil. Soc—1945.— V. 41.-P. 103^110; 1946.-V. 42.-P. 1-10.
СПИСОК ЛИТЕРАТУРЫ 695 [В 5] On the definition and value of the area of a surface/Quart. J. Math.— 1945.— V. 16.— P. 86-Ю2. [B6] On surfaces of minimum area/Proc Cambridge Phil. Soc.— 1948.— V. 44— P. 313-334. [B7] Parametric surfaces (I), (II)/Proc. Cambridge Phil. Soc—1949.— V. 45.—P. 5—13; P. 14—23; (III)/J. London Math. Soc—1948.— V. 23.—P. 241—246; (III, 1)/Indag. Math.—1954. V. 16.—P. 169— 174; (IV) /Quart. J. Math.— 1949.— V. 20.— P. 1—7. ГВ8] On existence of subsets of finite measure of sets of infinite mea- sure/Indag. Math.—1952.—V. 14.—P. 339—344. Besicovitch A. S., Moran A. P. . ГВМ] The measure of product and cylinder sets/J. London Math. Soc— 1945.— V. 20.— P. 110—120. Besicovitch A. S., U r s e 11 H. D. [BU] Sets of fractional dimensions (V): On dimensional numbers of some continuous curves/J. London Math. Soc—1937.—V. 12.—P. 18—25. Besicovitch A. S., Walker G. [BW] On the density of irregular linearly measurable sets of points/Proc. London Math. Soc—1931 — V. 32.— P. 142—153. Blaschke W. [BL] Vorlesungen fiber Differentialgeometrie, II, Affine Differentialgeomet- rie.— Berlin: Julius Springer, 1923. В б с h e r M. [BOCJ On the regions of convergence of power series which represent two dimensional harmonic functions/Trans. Am. Math. Soc.— 1909.— V. 10.- P. 271-278. Bochner S. [BS] Summation of multiple Fourier series by spherical means/Trans. Am. Math. Soc- 1936.- V. 40.- P. 175—207. Bombieri E., de Giorgi E., Miranda M. [BDGM] Una maggiorazione a priori relative alle ipersuperfici minimali non parametriche/Arch. Rat. Mech. Analysis.— 1969.— V. 32.— P. 255--267. Bonnesen Т., Fenchel W. [BF] Theorie der konvexen Korper.—Berlin: Julius Springer, 1934. BorelA., HaefligerA. [BHJ La classe d'homologie fondamentale d'un espace analytique/Bull. Soc. Math. France.— 1961.— V. 89.— P. 461—513. Bourbaki N. [BO] Elements de mathematiques.— Act. Sci. et Ind., Paris: Hermann.-- Русский перевод серии: Бурбаки Н.— М.: ИЛ, Мир, Наука. Brothers J. E. [BJ 11 Integral geometry in homogeneous spaces/Trans. Am. Math. Soc.— 1966.- V. 124.- P. 480-517. [BJ 2] The (<p, k) rectifiable subsets of a homogeneous space/Acta Math.— 1969.— V. 122, No. 3/4.— P. 197—229. Bruhat F., Cartan H. [ВС] Sur la structure des sousensembles analytiques reels/C. R. Acad. Sci. Paris.- 1957.- V. 244.- P. 988-990. Bungart L. [BN] Stokes' theorem on real analytic varieties/Proc Nat. Acad. Sci. U. S. A.—1965.— V. 54— P. 343-344 Calderon A.P. ГСА] On the differentiability of absolutely continuous functions /Rev. Mat. Univ. Parma — 1951 — V. 2.— P. 202-213. Calder6nA. P., ZygmundA. [CZ] On the differentiability of functions which are of bounded variation in Tonelli's sense/Rev. Union Mat. Argentina,—1960.—V. 20.— P. 102-121.
Chevalley С. [CC] Fundamental concepts of algebra.— New York: Academic Press, 1956. l if f i 696 СПИСОК ЛИТЕРАТУРЫ Caratheodory С. [С 1] Uber das lineare Mafi von Punktmengen, eine Verallgemeinerung des LSngenbegriffs/Nachr. Ges. Wiss. Gottingen.—1914—P. 404— 426. [C2] Vorlesungen uber reelle Functionen.— Leipzig: Teubner, 1927. [C 3J Variationsrechnung und partielle Differentialgleichungen erster Ord- nung.— Leipzig: Teubner, 1935. Carleson L. [GLE] Selected problems on exceptional sets.—Princeton: Van Nostrand, 1968.— Русский перевод: Кардесон Л. Избранные проблемы теории исключительных множеств.— М.: Мир, 1971.— 126 с. С art an E. [СЕ] Lecons sur la geometrie des espaces de Riemann.— Paris: Gauthier- Villars, 1946.— Русский перевод издания 1928 г.: Картан Э. Геомет- Геометрия римановых пространств.— М.— Л.: ОНТИ, 1936.— 244 с. Cart an H. [СН] Varietes analytiques reelles et varietes analytiques complexes/Bull. Soc. Math. France.—1957.—V. 85.—P. 77-99. Cesary L. [CL1] Sulle funzione a variazione limitata/Ann. Scuola Norm. Sup. Pisa, Ser. 2 —1936.— V. 5.— P. 299—313. [CL2] Caratterizzazione analitica delle superficie continue di area finita secondo Lebesguey/Ann. Scuola Norm. Sup. Pisa, Ser. 2.—1941.— 1942.—V. 10—11. 5FU Chiffi A. [СНА] Correnti quasi-normali/Ann. Scuola Norm. Sup. Pisa, Ser. 3.—1965.— V. 19.-P. 185-205. Choquet G. [CG] L'isometrie des ensembles dans ses rapports avec la theorie du con- contact et la theorie de la mesure/Mathematica.—1944— V. 20.— P. 29— 64 (Bucharest). Courant R. f [CR] Dilichlet's principle, conformal mapping, and minimal surfaces.— New York: Interscience, 1950.— Русский перевод: Курант Р. Прин- Принцип Дирихле, конформные отображения и минимальные поверхно- поверхности.— М.: ИЛ, 1953.— 311 с. D атг i e s R. О. [Dl] Subsets of finite mesure in analytic sets/Indag. Math.—1952.— V. 14.—P. 488—489. [D 2] A property of Hausdorff measure/Proc. Cambridge Phil, Soc— 1956.— V. 52.— P. 30—34 [D3] Non cr-finite closed subsets of analytic sets/Troc. Cambridge Phil. Soc— 1956.— V. 52.— P. 174-177. De Giorgi E. [DG1] Su una teoria generale della misura (r— l)-dimensionale in uno spa- cio ad r dimensioni/'Annali di mat. pura ed appl., Ser. 4— 1954— V. 36.- P. 191-213. [DG2] Nuovi teoremi relativi alle misure (r— l)-dimensionale in un spa- zio ad г dimensioni/Ricerche di matematica.— 1955.— V. 4.— P. 95— 113. [DG3] Sulla differenziabilita e l'analiticita delle estremali degli integrali multipli regolari/Mem. Acad. Ser. Torino.—1957.— V. 143.— P. 25-43. [DG 4] Sulla proprieta isoperimetrica dell'ipersfera, nelle classe degli insiemi aventi frontiers orientate di misura finita/Memorie Ace. Naz. Lincei, Ser. 8.-1958.-V. 5.—P. 33-44
СПИСОК ЛИТЕРАТУРЫ 697 [DG 5] Complement! alia teoria della misure {n — l)-dimensionale in uno spazio re-dimensionale.— Seminario Mat. Scuola Norm. Sup. Pisa, 1961. [DG 6] Frontiere orientate di misura minima,— Seminario Mat. Scuola Norm. Sup. Pisa, 1961. [DG7] Una estensione del teorema di Bernstein//Ann.- Scuola Norm. Sup. Pisa, Ser. 3.—1965.—V. 19.—P. 79-85. [DG8] Un esempio di estremali discontinue per un problema varizionale di tipo ellittico/Boll. Un. Mat. Ital,—1968.—V. 1.—P. 135—137. De Giorgi E., Stampacchia G. [DGS] Sulle singularity eliminabili delle ipersuperficieminimale/Atti Accad. Naz. Lincei Rend. Cl. Sci. Fis. Mat. Natur., Ser. 8.—1965.—V. 38.— P. 352-357. Demers M. R., Federer H. [DF] On Lebesgue area (II)/Trans. Am. Math. Soc—1959.—V. 90.— P. 499—522. D e R h a m G. [DR1] Varietes diii'erentiables, formes, courants, formes harmoniques.— Act. Sci. et Ind., v. 1222, Paris: Hermann, 1955.— Русский перевод: Де Рам. Г. Дифференцируемые многообразия.— М.: ИЛ, 1960.— 250 с. [DR 2] On the area of complex manifolds.— Seminar on several complex va- variables, Institute for Advanced Study, Princeton, 1957. Dickinson D. R. [DD] Study of extreme cases with respect to the densities of irregular linearly measurable plane sets of points/Math. Ann.—1939.— V. 116.- P. 359-373. D i n g h a s A. [DA] Einfacher Beweis der isoperimetrischen Eigenschaft der Kugel in Rie- mannschen Raumen konstanter Kriimmung/Math. Nachr.—1949.— V. 2.— P. 148-162. Douglas J. [DJ] Solution of the problem of Plateau/Trans. Am. Math. Soc—1931.— V. 33.— P. 263—321. Dunford N., Schwartz J. T. [DS] Linear operators I, II.— New York: Interscience, 1957; 1963.— Русский перевод: Данфорд Н., Шварц Дш. Т. Линейные операторы I, II.— М.: ИЛ, 1962.- 896 с; 1966.- 1064 с. Eggleston H. G. [EG 1] A mesureless one-dimensional set/Proc. Cambridge Philos. Soc.— 1954.-V. 50.-P. 391-393. [EG 2] Convexity.— Cambridge Univ. Press, 1963. Eilenberg S. [E] On <p measures/Ann. Soc. Pol. de Math.— 1938.— V. 17.— P. 251—252. Eilenberg S., H a r г о 1 d О. G. Jr. [EH] Continua of finite linear measure I/Am. J. Math.—1943.—V. 65.— P. 137-146. Eilenberg S., Steenrod N. [ES] Foundations of algebraic topology.— Princeton University Press, 1952.— Русский перевод: Стинрод С, Эйленберг Н. Оспования ал- алгебраической топологии.— М.: ФМ, 1958,— 408 с. Estermann Т. [ET] Uber Caratheodory's und Minkowski's Verallgemeinerung des Langen- begriffs/Abh. Math. Sem. Hamburg.—1925.—V. 4.—P. 73—116. Evans G. С [EGC] Fundamental points of potential theory/Rice Institute Pamphlet— 1920.— V. 7.— P. 252—329. 45 г. Федерер
698 СПИСОК ЛИТЕРАТУРЫ F a v a r d J. [FA] Une definition de la longueur et de l'aire/C. R. Acad. Sci Paris.— 1932.- V. 194.- P. 344-346. Federer H. [Fll Surface Area (I), (II)/Trans. Am. Math. Soc—1944.—V. 55.— P. 420-456. [F2] The Gauss —Green theorem/Trans. Am. Math. Soc—1945.—V. 58.— P. 44—76. [F3] Coincidence functions and their integrals/Trans. Am. Math. Soc. 1946.— V. 59.— P. 441—466. [F4] The (cp, k) rectifiable subsets of n space/Trans. Am. Math. Soc— 1947.- V. 62.- P. 114—192. [F5] Dimension and measure/Trans. Am. Math. Soc—1947.—V. 62.— P. 536—547. [F 6] An introduction to differential geometry.— Brown University, 1948. [F71 Essential multiplicity and Lebesgue area/Proc. Nat. Ac. Sci. U. S. A.— 1948.-V. 34.-P. 611-616. [F8] Hausdorff measure and Lebesgue area/Proc. Nat. Ac. Sci. U. S. A.— 1951.- V. 37.— P. 90-94. [F 9] Measure and area/Bull. Am. Math. Soc— 1952.— V. 58.— P. 306—378. [F10] Some integralgeometric theorems/Trans. Am. Math. Soc— 1954.— V. 77.— P. 238—261. [Fll] An analytic characterization of distributions whose partial derivatives are representable by measures/Bull. Am. Math. Soc—1954.—V. 60.— P. 339. [F12] On Lebesgue area/Ann. Math.— 1955.— V. 61.— P. 289—353. [F13] An addition theorem for Lebesgue area/Proc. Am. Math. Soc— 1955.— V. 6.- P. 911—914. [F14] A note on the Gauss — Green theorem/Proc Am. Math. Soc— 1958.— V. 9.- P. 447-451. [F15] Curvature measures/Trans. Am. Math. Soc—1959.—V. 93.— P. 418—491. [F16] The area of a nonparametric surface/Proc. Am. Math. Soc— I960.— V. 11.— P. 436-439. [F17] Currents and area/Trans. Am. Math. Soc—1961.—V. 98.—P. 204— 233. [F 18] Approximation of integral currents by cycles/Proc Am. Math. Soc.— 1961.— V. 12.— P. 882—884. [F 19] Some theorems of integral currents/Trans. Am. Math. Soc— 1965.— V. 117.- P. 43-67. [F20] Two theorems in geometric measure theory /Bull. Am. Math. Soc.— 1966.- V. 72.— P. 719. [F21] Some properties of distributions whose partial derivatives are repre- representable by integration/Bull. Am. Math. Soc—1968.—V. 74.— P. 183-186. Federer H., Fleming W. H. [FF] Normal and integral currents/Ann. of Math.—1960.—V. 72.— P. 458-520. Federer H., Morse A. P. [FM] Some properties of measurable functions/Bull. Am. Math. Soc— 1943.— V. 49.— P. 270—277. Fleming W. H. [FL1] An example in the problem of least area/Proc Am. Math. Soc— 1956.- V. 7.- P. 1063-1074. [FL2] Functions whose partial derivatives are measures / Illinois J. Math.— I960.- V. 4.- P. 452-478. [FL3] On the oriented Plateau problem/Rend. Circ. Mat. Palermo, Ser. 2.— 1962.—V. 11.—P. 69-90.
СПИСОК ЛИТЕРАТУРЫ 699 [FL41 Flat chains over a coefficient group/Trans. Am. Math. Soc—1966.— V. 121.— P. 160-186. Fleming W. H., R i s h e 1 R. [FLR] An integral formula for total gradient variation/Arch. Math.— I960.—V. 11.—P. 218—222. Fleming W.H, Young L. С [FY 1] A generalized notion of boundary/Trans. Am. Math. Soc— 1954.— V. 76.— P. 457—484. [FY2J Representation of generalized surfaces as mixtures/Rend. Cir. Mat. Palermo, Ser. 2.-1956.-V. 5.-P. 117-144. Freilich G. [FR 1] On the measure of cartesian product sets/Trans. Am. Math. Soc.— 1950.- V. 69.— P. 232-275. [FR 2] Caratheodory measure of cylinders/Trans. Am. Math. Soc— 1965.— V. 114.— P. 384—400. Friedman A. [FRAJ On the regularity of the solutions of nonlinear elliptic and parabo- parabolic systems of differential equations/Jour. Math. Mech.— 1958.— V. 7.— P. 43-59. Frostman O. [FO] Potential d'equilibre et capasite des ensembles avec quelques appli- applications a la theorie des fonctions.— Lund, 1935. G e 1 f a n d I. M. (Гельфанд И. М.) [G] Abstrakte Funktionen und lineare Operatoren (Абстрактные функ- функции и линейные операторы)/Мат. сборник, нов. сер.— 1938.— Т. 4 D6).—С. 235—286. G elf and I. M., Graev M. I., Vilenkin N. Ya. (Гельфанд И. М., Граев М. И., Виленкин Н. Я.) [GGS] Обобщенные функции. Вып. 5.—М.: ФМ, 1962.—656 с. G elf and I. M., Silov G. Е. (Гельфанд И. М., Шилов Г. Е.) [GS] Обобщенные функции. Вып. 1, 2, 3.— М.: ФМ, 1958.— 439 с; 307 с; 274 с Gelfand I. M., Vilenkin N. Ya. (Гельфанд И. М., Виленкин Н. Я.) [GV] Обобщенные функции. Вып. 4.—М.: ФМ, 1961.—472 с. Gilbarg D. [GD] Boundary value problems for non-linear elliptic equations in n va- variables.— Proc Symp. Non-linear Problems, Madison: Univ. of Wis- Wisconsin Press, 1963. Gill is J. [GJ1] On the projection of irregular linearly measurable plane sets of points/Proc. Cambridge Philos. Soc—1934.—V. 30.—P. 47—54. [GJ2] A theorem on irregular linearly measurable sets of points/J. London Math. Soc- 1935.- V. 10.- P. 234—240. G i u s t i E., Miranda M. [GM1] Un esempio di soluzioni discontinue per un problema di minimo relativo ad un integrate regolare del calcolo delle varizione/Boll. Un. Mat. Ital.- 1968.- V. 2.— P. 1—8. [GM 2] Sulla regolarita delle soluzioni deboli di sistemi ellittici quasi-linea- ri/Arch. Rat. Mech. Analysis.— 1968.— V. 31.— P. 173—184. Glaeser G. [GG] Etudes de quelques algebres tayloriennes/J. d'analyse math.— 1958.-V. 6.-P. 1-124. G о f f m a n C. [GC 1] Nonparametric surfaces given by linearly continuous functions/Acta Mat.- I960.- V. 103.- P. 269-291. [GC 2] A characterization of linearly continuous functions whose partial deri- derivatives are measures/Acta Mat.— 1967.— V. 117.— P. 165—190. 45*
700 СПИСОК ЛИТЕРАТУРЫ Gross W. [GR 1] liber das FlachenmaB von Punktmengen/Monatsheft fiir Math, und Physik.— 1918.- V. 29.— P. 145-176. [GR2J Uber das lineare MaB von Punktmengen/Monatsheft fiir Math, und Physik — 1918.— V. 29.— P. 177—193. Gunning R. C, Rossi H. [GURJ Analytic functions of several complex variables.— New Jersy, Prenti- Prentice Hall, Englewood Cliffs, 1965.— Русский перевод: Ганнинг Р., Рос- си X. Аналитические функции многих комплексных переменных.— М.: Мир, 1969- 395 с. G u s t i n W. [GW] Boxing Inequalities/J. Math. Mech.— I960.— V. 9.— P. 229—239. Hadwiger H. [HH1] Volumschatzung fur die einon Eikorper iiberdeckenden und unter- deckenden Parallelotope/Elem. Math,—1955.—V. 10.—P. 122—124. [HH 2] Vorlesungen uber Inhalt, Oberflache und Isoperimetrie.— Heidelberg: Springer-Verlag, 1957.— Русский перевод: Хадвигер X. Лекции об объеме, площади и изометрии.— М.: Наука, 1966.— 416 с. Н а 1 m о s Р. [НА] Measure theory.— New York: Van Nostrand, 1950.— Русский пере- перевод: Халмош П. Теория меры.— М.: ИЛ, 1953.— 292 с. Hausdorff F. [HF] Dimension und aufleres Mafi/Malh. Ann,— 1918.— V. 79.— P. 157—179. Hayes C. A. Jr., Morse A. P. [HM] Some properties of annular blankets/Proc. Am. Math. Soc— 1950.— V. 1.— P. 107—126. Hayes С A. Jr., Раис С. Y. [HP] Full individual and class differentiation theorems in their relation to halo and Vitali properties/Can. J. Math.—1955.—V. 7.—P. 221—274. Helgason S. [HE] Differential geometry and symmetric spaces.— New York: Academic Press, 1962.— Русский перевод: Хелгасон С. Дифференциальная гео- геометрия и симметрические пространства.— М.: Мир, 1964.— 534 с. Н е г г с г а М. [HR] Integration sur un ensemble semi-analytique/C. R. Acad. Sc. Paris.— 1965.- V. 260.- P. 763-765. H e r v ё М. [HEM] Several complex variables.— Oxford University Press, 1963.— Рус- Русский перевод: Эрве М. Функции многих комплексных переменных. Локальная теория.— М.: Мир, 1965.— 165 с. Н е s t e n e s М. Н. [HS] Extension of the range of a diflerentiable function/Duke Math. J.— 1941— V. 8.— P. 183—192. Holy J. С [HO] Sur l'ensemble des valeurs stationaires d'une application differentiab- le/Comm. Math. Helv.— 1966—1967.— V. 41.— P. 157—169. Hopf E. [HOE 1] Elementare Bemerkungen uber die Losungen partieller Differential- gleichungen zweiter Ordnung vom elliptischen Typus/Sitzber. Preuss. Akad. Wiss. Berlin— 1927.— V, 19.— P. 147—152. [HOE 2] Uber den funktionalen, insbesondere den analytischen Charakter der Losungen elliptischer Differentialgleichungen zweiter Ordnung/Math. Zeit.- 1932.- V. 34.- P. 194-233. Hormander L. [H 1] On a theorem of Grace/Math. Scand.— 1954.— V. 2.— P. 55—64. [H 2] Linear partial differential operators.— Heidelberg: Springer-Verlag, 1963.— Русский перевод: Хермандер Л. Линейные дифференциаль- дифференциальные операторы с частными производными.— М.: Мир, 1965.— 380 с.
СПИСОК ЛИТЕРАТУРЫ 701 [Н 3] An introduction to complex analysis in several variables.— Prince- Princeton: Van Nostrand, 1966.— Русский перевод: Хермандер Л. Введе- Введение в теорию функций нескольких комплексных переменных.— М.: Мир, 1968.— 279 с. Н u r e w i с z W., W а 11 m a n H. [HVVJ Dimension theory.— Princeton Univ. Press, 1941.— Русский перевод: Гуревич В., Волмэн Г. Теория размерности.— М.: ИЛ, 1948.— 232 с. Jenkins H., Serrin J. [JS] The Dirichlet problem for the minimal surface equation in higher dimensions/J. Reine Angew. Math.—1968.—V. 223.—P. 170—187. John F. [J] Plane waves and spherical means,— New York: Intersience, 1955. К e 11 e у J. L. [K] General Topology.— New York: Van Nostrand, 1955.— Русский пере- перевод: Кэлл Дж. Общая топология.— М.: Наука, 1968.— 384 с. Kellogg О. D. ГКО] On bounded polynomials in several variables/Math. Zeit,— 1928.— V. 27.- P. 55-64. К i r s z b r a u n M. D. [KI] Uber die zusammenziehenden und Lipschitzschen Transformationen/ Fund. Math.— 1934.— V. 22.— P. 77—108. Kline S. A. [KS] On curves of fractional dimension/J. London Math. Soc—1945.— V. 20.- P. 79-86. К n e s e r M. [KM 1] Einige Bemerkungen uber das Minkowskische Flachenmafi/Archiv der Math.- 1955.- V. 6.- P. 382-390. [KM 2] Summenmengen in lokalkompakten abelschen Gruppen/Math. Zeitschr.-1956 — V. 66.—P. 88—110. Kobayashi S., Nomizu K. [KN] Foundations of differential geometry I, II.— New York: Interscience, 1963; 1969.— Русский перевод: Кобаяси Ш., Номидзу К. Основы дифференциальной геометрии I, П.— М.: Наука, 1981.— 341 с; 416 с. Kolmogoroff А. (Колмогоров А. Н.) [КА] Beitrage zur Mafltheorie/Math. Ann.— 1932.— V. 107.— P. 351—366. Krai J. [KR] The Fredholm method in potential theory/Trans. Am. Math. Soc— 1966.—V. 125.—P. 511—547. Krickeberg K. [KK] Distributionen, Funktionen beschrankter Variation und Lebesguescher Inhalt nichtparametrischer Flachen/Annali di mat. pure ed appl., Ser. 4.— 1957.—V. 44.— P. 105—134. Kup k a I. [KP] Counterexample to the Morse — Sard theorem in the case of infinite dimensional manifolds/Proc Amer. Math. Soc—1965.—V. 16.— P. 954-957. Kuratowski C. [KU] Topologie I, II.— Warsaw, 1950; 1952.— Русский перевод: Куратов- ский К. Топология, т. 1, 2.—М.: Мир, 1966.—596 с; 1969.—624 с. Lelong P. [LP] Integration sur un ensemble analytique complexe/Bull. Soc. Math. France.— 1957.— V. 85.— P. 239—262. Lojasiewicz S. [LS 1] Sur le probleme de la division/Rozprawy Matematyczne, Warsaw.— 1961.— No. 22.— P. 1—56.. [LS 2] Une propriete topologique des sous-ensembles analytiques reels.— Col- loques internationaux du Centre National de la ReGherche Scientifi-
702 СПИСОК ЛИТЕРАТУРЫ que, No. 117, Les Equations aux Derivees Partielles, Paris, 1962.— P. 87-89. Loomis L. H. [LI] The intrinsic measure theory of Riemannian and Euclidean metric spaces/Ann. Math.— 1944.— V. 45.— P. 367—374. [L2] Haar measure in uniform structures/Duke Math. J.—1949.—V. 16.— P. 193-208. [L3] An introduction to abstract harmonic analysis.—New York: Van Nostrand, 1953.— Русский перевод: Люмис Л. Введение в абстракт- абстрактный гармонический анализ.— М.: ИЛ, 1956.— 251 с. MacLane S. [MCL] Homology.— Heidelberg: Springer-Verlag, 1963.— Русский перевод: Маклейн С. Гомология.— М.: Мир, 1966.— 544 с. Malgrange В. [MB I] Division des distributions.— Seminaire Schwartz 1959/60, Exp. 21—25, Faculte des Sciences de Paris. [MB 2] Ideals of differentiable functions.—Oxford University Press, 1966.— Русский перевод: Мальгранж Б. Идеалы дифференцируемых функ- функций.— М.: Мир, 1968.— 131 с. Marczevski E., Sikorski R. [MS] Measures in nonseparable metric spaces/Coll. Math.— 1948.— V. 1.— P. 133—139. Marstrand J. M. [MJ 1] Some fundamental geometrical properties of plane sets of fractional dimensions/Proc London Math. Soc, Ser. 3.—1954.—V. 4.—P. 257— 302. [MJ 2] The dimension of Cartesian product sets/Proc. Cambridge Phil. Soc.— 1954.—V. 50.—P. 198—202. [MJ3] Circular density of plane sets/J. London Math. Soc—1955.—V. 30.— P. 238—246. [MJ 4] Hausdorff 2-dimensional measure in 3 space/Proc. London Math. Soc, Ser. 3.-1961.—V. 11.-P. 91-108. [MJ 5] The (<p, s) regular subsets of n space/Trans. Am. Math. Soc—1964.— V. 113.— P. 369—392. Mazurkiewicz S., Saks S. [MAS] Sur les projections d'un ensemble ferme/Fund. Math.— 1926.—V. 8.— P. 109-113. McShane E. J. [MCS] Parametrizations of saddle surfaces with applications to the problem of Plateau/Trans. Am. Math. Soc—1934.—V. 35.—P. 718—733. Michael J. H. [MJH] Lipschitz approximations to summable functions/Acta Math.— 1964.— V. 111.— P. 73-95. Mickle E. J. [MI 1] On the extension of a transformation/Bull. Am. Math. Soc— 1949.— V. 55.— P. 160—164. [MI 2] On a decomposition theorem of Federer/Trans. Am. Math. Soc.— V. 92.— 1959.— P. 322—335. Mickle E. J., R a d 6 T. [MIR] Density theorems for outer measures in и-space/Proc. Am. Math. Soc— 1958.— V. 9.— P. 433—439. Miranda M. [MM 1] Un theorema di esistenza e unicita per il problema dell'area mi- minima in n variabili/Ann. Scuola Nor. Sup. Pisa, Ser. 3.—1965.— V. 19.— P. 233-249. [MM 2] Una maggiorazione integrale per le curvature delle ipersuperfici minimali/Rend. Sem. Mat. Univ. Padova.—1967.— V. 38.— P. 91—107.
СПИСОК ЛИТЕРАТУРЫ 703 Montgomery D. [MDJ Nonseparable metric spaces/Fund. Math.—1935.—V. 25.—P. 527— 533. Moore E. F. [ME 1] Density ratios and (ф, 1) rectifiability in n-space/Trans. Am. Math. Soc- 1950.- V. 69.— P. 324-334. [ME 2] Convexly generated к dimensional measures/Proc. Am. Math. Soc.— 1951.- V. 2.— P. 597-606. Morgan G. W. [MO] The density directions of irregular measurable sets/Proc London Math. Soc- 1935.- V. 38.- P. 481-494. Morrey С. В. Jr. [MCB 1] Multiple integral problems in the calculus of variations and related topics/Univ. of California Publ. in Math., new ser.—1943.— V. 1.— P. 1-130. [MCB 2] Second order elliptic systems of differential equations/Annals of Math. Studies.— 1954.— V. 33.— P. 101—159. [MCB 3] On the analyticity of the solutions of nonlinear elliptic systems of partial differential equations/Am. Jour. Math.— 1958.— V. 80.— P. 198—234. [MCB 4] Multiple integrals in the calculus of variations.— New York: Sprin- ger-Verlag, 1966. M о r s e A. P. [M 1] The behavior of a function on its critical set/Ann. of Math.— 1939.— V. 40.— P. 62—70. [M 2] A theory of coverung and differentiation/Trans. Am. Math. Soc.— 1944 у gg p 205 235 ГМ 3] Perfect blankets//Trans. Am. Math. Soc- 1947 — V. 61.- P. 418-442. [M 4] On intervals of prescribed length/Proc. Am. Math. Soc— 1954.— V. 5.— P. 407-414. Morse A. P., Randolph J. F. [MR1] Gillespie measure/Duke Math. J.—1940.—V. 6.—P. 408—419. [MR 2] The <p rectifiable subsets of the plane/Trans. Am. Math. Soc.— 1944._ v. 55 — P. 236-305. Mueller B. J. [MU] Three results for locally compact groups connected with the Haar measure density theorem/Proc. Am. Math. Soc—1965.—V. 16.— P. 1414—1416. Munkres J. R. [MJR] Elementary differential topology/ Ann. of Math. Studies,—1963.— No. 54. N а с h b i n L. [NA] Lectures on the theory of distribution.— Rio de Janeiro: Universi- dade do Recife, 1964. Narashimhan R. [NR] Introduction to the theory of analytic spaces.— Springer-Veiiag, 1966. Nemitz W. С [NE] On a decomposition theorem for measures in Euclidean n-space/ Trans. Am. Math. Soc— 1961.— V. 98.— P. 306—333. Nirenberg L. [NI1] Remarks on strongly elliptic differential equations/Comm. Pure Appl. Math.-1953.—V. 6.-P. 648-674. [NI 2] On elliptic partial differential equations/Ann. Scuola Norm. Sup. Pisa, Ser. 3.- 1959.- V. 13.- P. 115-162. N i t s с h e J. С. С [NJ] On new results in the theory of minimal surfaces/Bull. Am. Math. Soc—1965.—V. 71.—P. 195—270.
704 СПИСОК ЛИТЕРАТУРЫ NobelingG. [N 1] Uber den Flacheninhalt dehnungsbeschrankter Flachen/Math. Zeit.— 1943.- V. 48.- P. 747—771. [N21 Uber die FlachenmaBe im Euklidischen Raum/Math. Ann.—1943.— V. 118.- P. 687-701. Perron 0. [PO] Irrationalzahlen.— New York: Chelsea, 1948. Petrowski I. (Петровский И. Г.) [РЕ] Sur l'analyticite des solutions des systemes d'equations differentiel- ies (Об аналитичности решений систем дифференциальных урав- уравнений)/'Мат. сборник, нов. сер.—1939.—Т. 5D7).—С. 3—70. Pettis В. J. [Р11 On integration in vector spaces/Trans. Am. Math. Soc—1938.— V. 44.- P. 277-304 [P2] Differentiation in Banach spaces/Duke Math. J.—1939.—V. 5. Rademacher H. [RHJ Uber partielle und totale Differenzierbarkeit I/'Mat. Ann.— 1919.— V. 79.- P. 340-359. Rado T. [RA 1] Uber des flachenmaB rektifizierbaren Flachen/Math. Ann.— 1928.— V. 100.— P. 445—479. [RA21 On the problem of Plateau.—Berlin: Julius Springer, 1933. Randolph J. F. [RJ 1] On generalizations of length and area/Bull. Am. Math. Soc— 1936.— V. 42.- P. 268-274. [RJ 2] Some properties of sets of the Cantor type/J. London Math. Soc— 1941.— V. 16.— P. 38—42. Reifenberg R. E. [Rl] Parametric surfaces (I), (II)/Proc Cambridge Phil. Soc—1951.— V. 47.-P. 687-698; 1952.—V. 48-P. 46-69; (III)/Quart. J. Math. Oxford, Ser. 2.—1952.—V. 3.—P. 227—234; (IV) /J. London Math. Soc—1952.—V. 27.—P. 448—456; (V)/Proc London Math. Soc— Ser. 3.— 1955.- V. 5.— P. 341-357. [R2] Solution of the Plateau Problem for m-dimensional surfaces of va- varying topological type/Acta Mathematica.—I960.—V. 104.—P. 1—92. [R 3] An epiperimetric inequality related to the analyticity of minimal sur- surfaces. On the analyticity of minimal surfaces/'Ann. of Math.— 1964.— V. 80.— P. 1—21. Rudin W. [RU] Real and Complex Analysis.— New York: McGraw-Hill, 1966. Saks S. [S 1] Theory of the integral.— Warsaw, 1937.— Русский перевод: Сакс С. Теория интеграла.—М.: ИЛ, 1949.— 495 с. [S2] Remarque sur la mesure lineaire des ensembles plans/Fund. Math.— 1927.—V. 9.—P. 16-24. Samuel P. [SAM] Methods d'algebre abstraite en geometrie algebrique.— Heidelberg: Springer-Verlag, 1955. Sard A. [SA 1] The measure of the critical values of differentiable maps/Bull. Am. Math. Soc— 1942.- V. 48.- P. 883-890. [SA2] Images of critical sets /Ann. of Math.—1958.—V. 68.—P. 247—259. [SA3] Hausdorff measure of critical images on Banach manifolds/Am. J. Math.—1965.— V. 87.— P. 158—174. Schoenbergl. J. [SC] On certain metric spaces arising from Euclidean spaces by a change of metric and their embedding in Hilbert space/Ann. Math.— 1937.— V. 38,— P. 787-793.
СПИСОК ЛИТЕРАТУРЫ 705 Schwartz L. [SCH] Theorie des distributions I, II.—Act. Sci. et Ind., vol. 1245, 1122.— Paris: Hermann, 1957, 1951. Sherman S. [SS] A comparison of linear measures in the plane/Duke Math. J.— 1942.— V. 9.- P. 1-9. Shiftman B. [SB] On the removal of singularities of analytic sets/Michigan Math. J.— 1968.— V. 15.— P. 111—120. Sierpinkski W. [SP 1] Sur la densite lineaire des ensembles plans/Fund. Math.— 1927.— V. 9.— P. 172—185. [SP 2] Sur le produit combinatoire de deux ensembles jouissant de la pro- priete C/Fund. Math.—1935.—V. 24.—P. 48—50. S i m о n s J. [SJ] Minimal varieties in Riemannian manifolds/Ann. of Math.— 1968.— V. 88.- P. 62—105. Sion M. [SI] On the existence of functions having given partial derivatives on a curve/Trans. Am. Math. Soc—1954.—V. 77.—P. 179—201. S о b о 1 e v S. L. (Соболев С. Л.) [SOB] On a theorem of functional analysis (Об одной теореме функцио- функционального анализа)//Мат. сборник, нов. сер.—1938—Т. 4D6).— С. 471-497. Sp a n i er E. N. [SE] Algebraic topology.—New York: McGraw-Hill, 1966.—Русский пе- перевод: Спеньер Э. Алгебраическая топология.—М.: Мир, 197Ь— 680 с. Stampacchia G. [SG] On some regular, multiple integral problems in the calculus of variations/ycomm. Pure Appl. Math.—1963.— V. 16.— P. 383-r 421. : Stepanoff W. (Степанов В. В.) [SW 1] Uber totale Differenzierbarkeit/Math. Ann.— 1923.—V. 90.— P. 318— 320. [SW2] Sur les conditions de l'existence de la differentielle totale (Об усло- условиях существования полного дифференциала)/Мат, сб., 1925.— 'Г. 32.— С. 511—527. Sternberg S. g [ST] Lectures on differential geometry.— New York: Prentice Hall, Engle- wood Cliffs, 1964.— Русский перевод: Стернберг С. Лекции по диф-; ференциальной геометрии.— М.: Мир, 1970.— 412 с. Tarski А. [ТА] Uber unerreichbare Kardinalzahlen/Fund. Math.—1938.— V- 30.— P. 68-89. Taylor S. J. [TSJj On Cartesian product sets/J. London Math. Soc—1952.—V. 27.— P. 295-304 Thorn R. [TH] Quelques proprietes globales des varietes differentiables/Comm. Math. Helv.-1954 — V. 28.-P. 17-86. TompsonR. N. ' : [T] Areas of ^-dimensional nonparametric surfaces in к + 1 space/Trans. Am. Math. Soc—1954—V. 77.—P. 374—407. Ton elli L. [TL] Sulla quadrature delle superficie/Rend. Accad. Naz. Lincei, Ser. 6.— 1926.— V. 3 — P. 357-363, 445-450, 633—638.
706 СПИСОК ЛИТЕРАТУРЫ TriscariD. [TD1J Sulle singularity delle frontiere orientate di misura minima/ Ann. Scula Nor. Sup. Pisa, Ser. 3.— 1963.— V. 17.—P. 349—371. [TD2] Sull'estistenza di cilindri con frontiere di misura minima/Ann. Scu- Scula Nor. Sup. Pisa, Ser. 3.— 1963.— V. 17.— P. 387—399. [TD 3] Sulie singularity deile frontiere orientate di misura minima nello spa- zio euclideo a 4 dimensione/Le Matematiche.—1963.—V. 18.— P. 139-163. Ulam S. [U] Zur MaBtheorie in der allgemeinen Mengenlehre/Fund. Math.— 1930.- V. 16.— P. 140-150. V a i s a 1 a J. [VJ] Two new characterizations for quasiconformality/Ann. Acad. Sci. Fenn.— 1965.— AI 362. Valentine F. A. [V] A Lipschitz condition preserving extension for a vector function/ Am. J. Math,— 1945.— V. 67.— P. 83—93. Van Hove L. [VH1] Sur l'extension de la condition de Legendre du Calcul des Varia- Variations aux integrales multiples a plusieurs fonctions inconnues/In- dagationes mathematicae.— 1947,— V. 9.— P. 3—8. [VH2] Sur le signe de la variation seconde des integrales multiples a plu- plusieurs fonctions inconnues/Acad. royale de Belgique, Memoires.— 1949.- V. 24, Fasc. 5. Velte W. [VW] Zur Variationsrechnung mehrfacher Integrale/Math. Zcitschr.— 1954.— V. 60.— P. 367—383. Walker G. [WG] On the density of irregular linearly measurable plane sets/Proc London Math. Soc, Ser. 2.— 1929.— V. 30.— P. 481—499. Ward D. J. [WA] A counterexample in area theory/Proc. Cambridge Philos. Soc.— 1964.— V. 60.— P. 821—845. Weil A. [W lj L'integration dans les groupes topologiques et ses applications.— Act. Sci. et Ind., vol. 869.— Paris: Hermann, 1938.— Русский пере- перевод: Вейль А. Интегрирование в топологических группах и его применения.— М.: ИЛ, 1950.— 222 с. [W 2] Introduction a l'etude des varietes Kahleriennes.— Act. Sci. et Lnd., vol. 1267.— Paris: Hermann, 1958.— Русский перевод: Вейль А. Вве- Введение в теорию кэлеровых многообразий.— М.: ИЛ, 1961.— 220 с. Whitney H. [WH1] Analytic extensions of differenliable functions defined in closed sets/Trans. Am. Math. Soc— 1934.— V. 36.— P. 63—89. [WH21 A function not constant on a connected set of critical points/Duke Math. J.- 1935.- V. 1.— P. 514-517. [WH 3] On totally differentiate and smooth functions/Рас. J. Math.— 1951.— V. 1.— P. 143—159. [WH 4] Geometric integration theory.— Princeton Univ. Press, 1957.— Рус- Русский перевод: Уитни X. Геометрическая теория интегрирования.— М.: ИЛ, I960.- 534 с. [WH 5] Elementary structure of real algebraic varieties/Ann, of Math.— 1957.-V. 66.-P. 545-556. [WH 6] Local properties of analytic varieties. Differential and combinatoriel topology.— Princeton Univ. Press, 1965. *~ [WH71 Tangents to an analytic variety/Ann. of Math.—1965.—V. 81.— P. 496-549.-
СПИСОК ЛИТЕРАТУРЫ 707 Whitney H., Bruhat F. [WB] Quelques proprietes fondamentales des ensembles analytiques-reels/ Comm. Math. Helv.— 1959.— V. 33.— P. 132—160. Wirtinger W. [WW] Eine Determinantenidentitat und ihre Anwendung auf analytische Gebilde und Hermitesche MaBbestimmung/Monatsn. f. Math. u. Phy- sik.— 1936 — V. 44— P. 343—365. L. С Generalized curves and the existence of an attained absolute mini- minimum in the calculus of variations/С R. Soc. Sci. Lett. Varsovie, Classe III.— 1937.— V. 30.— P. 212—234. Surfaces parametriques generalisees/Bull. Soc. Math. France.—1951.— V. 79.- P. 59-84. Generalized surfaces in the calculus of variations I. II/Ann. of Math — 1942.— V. 43.— P. 84-103, 530—544. Z а г i s k i O., Samuel P. Commutative algebra I.— Princeton: Van Nostrand, 1958.— Русский перевод: Зарисский О., Самуэль П. Коммутативная алгебра I.— М.: ИЛ, 1963.—373 с. Z i e m е г VV. Р. Integral currents mod 2./Trans. Am. Math. Soc—1962.—V. 105.— P. 496-524. Extremal length und conformal capacity/Trans. Am. Math. Soc.— 1967.- V. 126.- P. 460—473. The area and variation of linearly continuous functions/Proc. Am. Math. Soc- 1969 — V. 20 — P. 81—87. Extremal length and p-capacity/Michigan Math. J.—1969.— V. 16.— P. 43—51. Yo un [Yi [Y2] [Y3] irisl [ZS] erne [Zl] [2 2] [Z3] [Z4]
ДОПОЛНЕНИЕ 1 ВАРИАЦИИ МНОЖЕСТВ И ЭНТРОПИЯ Л. Д. Иванов Наряду с мерами известен ряд других метрических харак- характеристик множества. Расскажем о двух таких характеристиках: об энтропии и о вариациях множеств. Понятие энтропии, появившееся в теории связи, оказалось по- полезным в ряде разделов анализа. Так, например, некоторые задачи теории приближения функций находят свою естественную форму- формулировку и решение в терминах энтропии функциональных компак- компактов. Вариации дают более полное, чем меры и энтропия, описание геометрической структуры множества, и это обстоятельство исполь- используется в оценках сложности алгоритмов. Ряд результатов книги Федерера обретает в этих терминах дру- другую, подчас более удобную для приложении форму. В этом допол- дополнении, кроме обзора результатов, непосредственно примыкающих к тематике книги, кратко рассмотрены некоторые прикладные ас- аспекты геометрической теории множеств, не затронутые в основном тексте. 1. Энтропия множества. Пусть X — метрическое пространство с метрикой р. Для каждого множества Е <=¦ X его е-окрестность Ее определяется как множество всех ieX, для которых В (ж, г)^ЕФ Ф 0. Множество А называется е-сетью множества В, если Ае => В. Обозначим через 91е(#) совокупность всевозможных е-сетей мно- множества К. Если К — компакт, то для любого г > О рассмотрим число A) логарифм которого HS(K) называется е-энтропией компакта К. Почти во всех интересных случаях множество К бесконечно, а его массивность характеризуется скоростью, с которой Не(К) стремится к бесконечности при е, стремящемся к нулю. Если В является е-сетью множества А, и С является б-сетью множества В, то С является (е + б)-сетью множества А. Поэтому Н6(В)^ ^ #е+6 (^4). Это простое соображение и оценки энтропии конкрет- конкретных компактов составляют технику, с помощью которой доказыва- доказывается непредставимость функций нескольких переменных в виде суперпозиции функций меньшего числа переменных (см. [1], [2],
ДОПОЛНЕНИЕ 1 709 [3]). О других задачах, решенных с помощью той же техники, будет рассказано ниже в п. 6. 2. Пример вычисления энтропии. Пусть X совпадает с простран- пространством СAп) всех вещественнозначных функций, непрерывных на единичном кубе Г" = {х s R": 0 < xt < 1 для г = 1, ..., п) простран- пространства R". Метрика на X индуцируется равномерной нормой 11/11 = = max{|/(.r) I: ie/*}, Обозначим через Af™ совокупность всех функций |еХ класса s, у которых все производные до порядка s включительно ограничены по модулю единицей. Оценим энтропию компакта Af". Для оценки снизу расположим в /" как можно больше непе- непересекающихся шаров В(Ж(, б), где число 6>0 выбирается так, чтобы можно было найти функцию /* е Af™, принимающую значе- значение 2е в точке ж, и обращающуюся в нуль вне Ъ(х{, б). Пусть таких шаров оказалось N. Рассмотрим 2N функций вида f(x) = N = 2 ei/i (ж)>где e,-s{0, 1). Любые две из них отличаются не меньше чем на 2е. Поэтому любая е-сеть множества М™ должна содержать по крайней мере 2N функций. Отсюда #е W П В @, 2е)] > а, (п, s) г~п/* > 0 B) для любого е<а2(п, $), где ai(n, s) и а2(п, s) зависят только от п и s. Для оценки сверху докажем, что Нъ [м: П В (/, 2е) ] < а3 («, s) e~n/i C) для любых е > 0 и / еМ", где а3 (га, s) зависит только от п и s. После этого построим 2е-сеть компакта Af™, состоящую из •Л°2е(АС) функций /,, а в каждом из шаров В(/(, 2е) построим е-сеть множества Af" f] B(/4, 2e), состоящую из минимально возможного числа функций /«,,-. Объединение по всем i, j функций /,, j является е-сетью компакта. М", которая дает оценку Не (А/?) < Н2е (Afsn) + a3 («, s) e"n/s. D) Складывая неравенства D), записанные для е, 2е, 22е, ..., 2*е, где к — первое число, для которого Н2ие{М?) = 0, получим )<:ai{n,s)Frn/s, E) где а4 (ri, s) зависит только от п и s. Для доказательства неравенства C) построим в кубе /" ре- решетку точек xt, i=l, ..., N, вида (к{8, к28, ..., кп8), где к} = = 1, 2, ..., а выбор числа б будет указан чуть позже. Каждой функции F e Afs" П В (/, 2е) поставим в соответствие точку TF е eR" с координатами y{(TF) = F(xt)— j{x{). Нетрудно доказать,
710 Л. Д. ИВАНОВ что существует такое зависящее только от п и s число а5(и, s), что из совокупности неравенств \yi(TF1)—yi(TF2)\ ^8S для i = = 1, ..., N вытекает, что HF, — F2H ^a5(n, s)8". Докроем куб {jeR"; — 2г<у(<2е для i=l, ..., N) пространства Ry как можно меньшим числом кубов со стороной б*. Для каждого такого куба К выберем, если можно, функцию F e iW™ f) В (/,, 2е) такую, что TF&K. Эти функции составят е-сеть множества Mf f] B(/, 2е), если аь(п, sNs = e. Подсчет числа точек этой е-сети дает оцен« ку C). Приведем без доказательства еще два примера оценки энтро- пии (см. [4}, [10], [5]). Пусть ^'р1,р2,..,,Рп —пространство всех функций, аналити- аналитических на /" и допускающих ограниченное по модулю констан- константой с аналитическое продолжение на область EPi X ... X ЕРп, где Ер — внутренность эллипса с фокусами {—О, {1} и большей по- полуосью, равной р. Тогда О [(log ^f log log |]. F) + Пусть Gsvs2 sn — класс всех ограниченных: по модулю константой с вещественнозначных функций на /", являющихся су- сужением на /" целых функций порядка sh по к-й координате. Тогда •Л* 0=^() + o[(logf Г' (loglogf)"""']. G) 3. Непредставимость функций в виде суперпозиции более про- простых. Пусть А (п, щ, s^ — множество всех функций от п перемен- переменных, представимых в виде суперпозиции функций класса st от п{ переменных. Множество А (п, пи Si) является счетным объедине- объединением компактов L таких, что sup |/Ге (L) г 1 ': 8>0|<;сх). Если sjtii > s/n, то каждый из них нигде не плотен в Af™, потому что для любого непустого открытого в АС его подмножества V для всех достаточно малых е>0, согласно неравенствам B) и E), имеем оценку Яе(У)>сЯе(мГ), (8) где с > 0 и не зависит от е. Отсюда следует, что в рассматриваемом
ДОПОЛНЕНИЕ 1 711 случае (s,/n4 > s/n) существуют функции /<= М*\А (п, пг, sx). Это рассуждение содержалось, по существу, уже в работе [1]. В статьях [2], [3] можно найти обзор работ, относящихся к этому кругу вопросов. 4. Энтропия подмножеств Rn. Рассмотрим теперь энтропию подмножеств пространства R" с метрикой р, индуцированной неко- некоторой (не обязательно евклидовой) нормой. Докажем неравенства jr*,(K)<&*(Kt)/??*\B@, е)]<15пЛе(Я), (9) показывающие, как энтропию вычислить с помощью ^"-меры ок- окрестности компакта К, допуская ошибку не более n log 15. Для доказательства каждому компакту К <= R" сопоставим класс ЗЭе(-йГ) всех таких множеств Е <= К, что р(х, у)> е для любых двух точек х, у<=Е. Если Е <= 332е (К), то card E<Jfe (К), потому что шары В(х, е), соответствующие всем х<=Е, не пересекаются и каж- каждый из них пересекается с любой е-сетью множества К. Поэтому существует число Се (Я) = max {card ?: ?еЭ*(Я)} A0) (И) Возьмем множество Е <= S2t (К), для которого card Е = Сп (К). Тогда Е является 2е-сетью множества К, и поэтому Cu(K)>Jfu(K). A2) Из включений и{В(ж, е): хе Е) czKeczU{B(x, Зе): х^Е) выте- вытекает, что Си(К)<?Р*(Кш)/?Р«\В@, г)]<ЗпС„(К). A3) Пусть F<^%t(K) и cssAF = Ct{K). Из включения F<= «=и{В(ж, 2е): ie?) вытекает, что С,(К)<Сл.(К)-С>\В@, 2)], . A4) потому что в каждый из шаров В (ж, 2е) попадает не более чем Се[Ъ(х, 2е)] = С,[В@, 2)] точек множества F. Но Ci(B@,2)]< <2'п[в(о, -l)]/2^18!0'-!)^5" согласно A3)' и поэтому, со- сопоставляя неравенства A2), A3), A4) и A1), получим (9). 5. Энтропия некоторых поверхностей. Неравенства (9) пока- показывают, что /re-мерный объем Минковского компакта К совпадает с lim Jfz (К) гт с точностью до множителя, величина которого 8-»0 оценивается только через /гит. Ясно также, что формула Штей- нера позволяет получить хорошую оценку энтропии выпуклого компакта К. Другой интересный случай: метрика в пространстве R" задается формулой р(х, y) = maxi\xt — у{\: i = i, ..., п), а ком- компакт К<=Яп имеет вид В(а, r)n/(Rp), где /: Rp -*- R" — полино-
712 Л. Д. ИВАНОВ миальное отображение. Оказывается, что в этом случае < Vp (К) (±У + V^ (К) [^f1 +...+V0(K)l A5) где числа VP(K), ..., V0(K) ограничены константой, зависящей только от п, р и s = deg /. Такого рода оценка, достаточно точная для приложений, была получена А. Г. Витушкиным ([10], см. также [7, гл. VII, § 1]) следующим способом. Каждому компакту К и шару В простран- пространства R™ сопоставим число V0(K, В) всех тех топологических компо- компонент компакта К, которые лежат во внутренности шара В. Каждо- Каждому компакту К, шару В и подпространству t&G(«, к) сопоставим вариацию V0(K, В, т)е R множества К внутри В относительно т по формуле V0(K, В, т)= j V0(K f) P%l{x), B)d2?hx, где отображе- ние Px: Rn -> т является ортогональным проектированием на т. V Пусть Fft (Я, В) = — ^Fo (AT, В, т<), где т!? ..., tv — всевозмож- г=1 ные координатные подпространства размерности к. Если К = В(а, г)П/(Кр) и / — полиномиальное отображение, то оценка сверху числа Vo (К, В (а, г), т) легко сводится к теореме И. Г. Петровского — О. А. Олейник о числах Бетти уровня ве- щественнозначного многочлена (см. [8], [9]). В результате полу- получаются неравенства VI (К, В (а, г)) < 1 (As)p Br)h для к = 1, 2, ..., р, A6) где А — абсолютная константа и V*h(K, В (а, г)) = 0 для к>р. A7) Из "этих неравенств оценка A5) получается с помощью тривиаль- тривиального замечания: V0(K, B)^^V0(K, В{), если шары Bt не пе- i рекрываются и содержатся в В~, а также с помощью доведенного А. Г. Витушкиным до точных констант варианта леммы А. С. Крон- р рода о погружениях:^, к[ {"_ k)lr~kV*h (K> В)^*' еслиУ^" (К, В)= 0 для i>р и К содержит центр шара В радиуса г (см. [7, гл. VII, § 1]). На указанном пути для любого полиномиального отображения /: Rp -> R" степени s получается оценка вида (а, г) П /(RP)]<[^S-^^]P, A8) где А — абсолютная константа (см. [10] или [7, гл. VII, § 2]).
ДОПОЛНЕНИЕ 1 713 6. Применения энтропии к задачам аппроксимации. Оценка A8) была впервые получена А. Г. Витушкиным (см. [10]), при реше- решении некоторых задач аппроксимации функций. Рассмотрим одну из них. Пусть К—компактное подмножество пространства СAп) (в обо- обозначениях п. 2). Функция F: RpX/"-»-R называется (р, к, е)-по- е)-полиномиальным представлением компакта К, если выполняются два условия: 1) для каждого же/" функция Fx: Rp -> R, заданная формулой Fx(a) = F(a, х), является многочленом степени не вы- выше к; 2) для каждой функции f^K найдется такая точка eeR', что \f(x) — Fa(x)\ <е для всех же/\ где функция Fa: /" -*¦ R за- задается формулой Fa(x) = F{a, x). Число р естественным образом определяет объем массива число- числовых данных, по которым функция / вычисляется с точностью до е, а число к задает сложность применяемого алгоритма вычисления. Задача состоит в отыскании разумных оценок на числа р и к, при которых возможны (р, к, е)-полиномиальные представления компакта К. Рассмотрим ее решение для компакта Af". Выберем в 7" как можно больше непересекающихся кубов со стороной S, где б та- таково, что существует функция/еЛ/", носитель которой содержит- содержится в кубе с центром 0 со стороной S, а ее значение в нуле равно 2е = II/H. Пусть Xi, xz, ..., xN — центры выбранных кубов. Каждой функции /: /" -*¦ R сопоставим точку Г/eR" с координатами if(xi), /(#2), ..., f(xN)}. Будем считать, что RN рассматривается с метрикой, индуцированной нормой, равной максимуму модуля координат. Тогда для любого (р, к, е)-полиномиального представ- представления F компакта М" точки вида TFa, соответствующие всем а е Rp, образуют полиномиальную поверхность М в RN, е-окрест- ность которой содержит все точки вида Т/, /eiW". В частности, этой окрестности принадлежит каждая из точек Tfa, где fa (x) — N = 2 aif(x — #г)> буква а означает любой набор из N чисел а4е {—1; 1), a /—функция из компакта М™, существование кото- которой определяло число б. Выберем для каждой из функций /а точку za^M такую, что IIТ/а - zj < е. Если а Ф р, то Нга - z,ll ^ «Г/а - Т/Р11 - HZ1/» - а»» - ИГ/р - z,ll > 4е - 2е = 2е. Таким образом, пересечение поверхности М с шаром В@, Зе) пространства Rw содержит 2N точек za, удаленных одна от другой не меньше чем на е. Поэтому из оценки A8) следует неравенство 2я *bDAkN/p)*, откуда р\л(к+ \)> ю0 -N, где ю0 определяется по числу А. Поскольку iV> с ¦ e~"/s, где с зависит только от п и s, для любого (р, к, е)-полиномиального представления компакта 46 г. Федерер
714 Л. Д. ИВАНОВ Л/" получаем неравенство а-е-п", A9)' где ю зависит только отлив (см. [10] или [7, гл. VII, § 3]). 7. Вариации множеств. Рассмотрим теперь введенные А. Г. Ви- тушкиным вариации множеств, послужившие технической основой доказательств теорем об оценке сложности задачи вычисления функций некоторого класса (см. п. 6 настоящего дополнения). Нульмерной вариацией V<,(K) или вариацией порядка 0 компак- компакта isTcR71 называется число его топологических компонент. Для каждого ге{1, 2, ..., п) вариацией порядка i или i-мерной вариа- вариацией Vi(K) компакта К называется интеграл j V0(K f] т) dfin,n_iT, где ц„,п-( — мера Хаара пространства -4n,n-i, состоящего из всевоз- всевозможных (п — i)-мерных плоскостей (т. е. аффинных подпрост- подпространств) пространства R", нормированная условием FjfiieR»: 0^ж^1 для / = 1, ..., i, х2, = 0 для j>i)) = i. Очевидно, что Vi(K) является однородной степени i функцией компакта К, т. е. Vi(kK) = KiVf(K), где Х>0 и "кК = {%х: х^Ю. Число Vn(K) совпадает с 2"п(К), и в случае, когда Vn(K)>0, вариации Vi(K) при ? = 1, ..., га —1 можно оценить снизу через п, i, Vn(K) и V0(K). Если же Vn(K) = 0, то простые примеры (см. 6 или 7, гл. II) показывают, что не существует нетривиаль- нетривиальных ограничений на числа Vo (К), Vt (К), ..., Vn-i (К). Тем не менее порядок вариаций имеет смысл. Как уже отмечалось, он показывает степень однородности, кроме того, если F,(Z?) = O, то и Vi+l(E) = 0. Таким образом, порядок последней ненулевой вариа- вариации — это некоторая «размерность» множества. Нетрудно прове- проверить, что такое определение дает на классе множеств с конечными вариациями тот же результат, что и другие определения, напри- например индуктивное или хаусдорфово. В случае, когда К — выпуклый компакт, существуют такие константы с(п, i), зависящие только от п, i, что Vt(K) = c(n, i)t,'(K), где Z,' — интегралы поперечных мер Минковского (см. п. 3.2.35 дан- данной книги). Хотя в общем случае объем е-окрестности компакта не является многочленом от е и, в этом смысле, формулы Штей- нера для произвольных компактов не существует, для компактов с конечными вариациями имеет место неравенство г=0 B0) где а(п, i)—константы, зависящие только от п, i, а функция Ct определена в п. 4 данного дополнения. Неравенства B0) и A3) дают полиномиально зависящую от е оценку сверху ^" е-окрестности компакта К.
ДОПОЛНЕНИЕ 1 715 Доказательство неравенства B0) легко получается с помощью следующей леммы А. С. Кронрода о погружениях (см. [7, гл. II, § 5]), которая часто бывает полезной и представляет самостоятель- самостоятельный интерес. Если В — шар радиуса 1, центр которого принадлежит компак- компакту К, a Vi (К, В) = 0 для i > p, то 2 Vi (К, В)/а@ > (леУР/р\ B1) г=0 Здесь V0(K, В) означает число тех топологических компонент ком- компакта К, которые содержатся во внутренности шара В, а i (К, В) = j Vo (К П т, В) djiB,n_iT. Если смотреть на вариации как на оценку «сложности» множе- множества, то естественно было бы определить ее, например, формулой B2) Оказывается, что такая сложность — полунепрерывная сверху от- относительно хаусдорфовой метрики функция от Е. Полунепрерывна и каждая из вариаций F,-, если ее рассматривать на классе тех Е, для которых сумма 2^j(^) ограничена (см. [11] или [7, гл. II, § 6]). Для г = 0 полунепрерывность очевидна. Для остальных i она вытекает из следующей теоремы, доказанной Г. Ю. Зайце- Зайцевым [12]. Пусть А", и Кг — компактные подмножества единичного шара в R". Обозначим через <й{Ки К2) хаусдорфово расстояние между Kt и Кг, если они оба не пусты, и положим &>{Ки Кг)— 1, если одно из множеств Ки Кг пусто, а другое нет, и <о(^, 0) = О. Если Кх и К2 оба связны, то j и (Кх П т, К2 П т) dfin,n-xT < а [и (Kv K2)f, B3) где а и Ъ > 0 зависят только от п. Было бы интересно выяснить, насколько большим можно взять Ь в этой теореме. Теорема о полунепрерывности вариаций в какой-то мере объ- объясняет, почему S(E)—это «сложность» множества. Другого рода мотивировка состоит в отсутствии патологических свойств у мно- множеств с конечной сложностью. Несколько утверждений такого ти- типа можно найти в {7, гл. II, III]. Отметим среди них теорему о контингенции. Пусть Шр — класс тех множеств Е, для которых 5 (Е) < °° и Fp+i(J?) = O. Если E<=MV, то касательный конус Тап(?, х) явля- является подпространством размерности р для <Э#р-почти всех х<=Е (см. G, гл. III, §§ 2-4]). 46*
716 Л. Д. ИВАНОВ Е. А. Севастьянов A3] показал, что условия теоремы о контин- генции можно ослабить, заменив сходимость интегралов j V0{E П т)^П1„_{т для i = О, 1, ..., р сходимостью интегралов f [Уо(? П х)](п-рШп~п d^n-tx для i = 0, 1, ..., р. Все множества класса Шр являются (Жр, р)-спрямляемыми. Поэтому р-меры Хаусдорфа и Фавара совпадают для подмножеств множества Esfflp (см. п. 3.3.13 книги). Независимое доказатель- доказательство можно найти в G, гл. III, § 5]). Факт совпадения мер и полунепрерывность вариаций наводят на мысль, что на классе бо- релевских подмножеств множеств класса fflp можно естественны- естественными условиями инвариантности и полунепрерывности задать р-меру единственным образом. Полученные в этом направлении частич- частичные результаты можно найти в [7, гл. III, § 8]. Вопрос о том, каковы условия на многообразие М, достаточные для конечности его вариаций, решен полностью М. С. Мельнико- Мельниковым и А. М. Леонтовичем (см. [14] или [7, гл. IV]) в терминах гладкости. Если dim M = к, то вариация порядка i обязана быть 2 конечной для компактных многообразий класса дО<70 = 2—2 . к__ ., где i = l, ..., к — 1. А многообразие класса q0 может иметь беско- бесконечную i-мерную вариацию. Конечны вариации всех выпуклых компактов. Но неясно, мож- можно лп всякое множество Е <^ Шр сколь угодно точно приблизить в хаусдорфовой метрике конечными объединениями Et /ьмерных симплексов такими, что числа S(Ei) ограничены. 8. Вариации функций. Для функций нескольких переменных интегрированием вариаций уровня /-1 (t) получаем функционалы называемые г-мерными вариациями функции /. Функции с конеч- конечными вариациями обладают некоторыми приятными свойствами. Например, они дифференцируемы почти всюду (см. [6] или [7, гл. V]). Но более интересными выглядят сейчас теоремы, обеспе- обеспечивающие конечность вариаций, потому что они связаны с изуче- изучением поведения функции около ее критических точек. Теорема А. Г. Витушкина (см. [6] или [7, гл. VI]) утверждает, что для функций /: /" -> R класса п интеграл ] Vo (/-1 {t}) dt ко- R нечен. Очевидно, что функция кратности N(f, ?) = F0(/~Hrt) по- постоянна на каждом из интервалов, дополнительных к множеству Л (/) критических значений функций /. Поэтому теорема А. Г. Ви- Витушкина представляет собой интегральную оценку скорости, с ко-
ДОПОЛНЕНИЕ I 717 торой N(f, t) стремится к бесконечности, когда расстояние от t до А (/) стремится к нулю, потому что, согласно теореме А. П. Мор- Морса, 2"[Д(/)] = 0. Эта теорема обобщалась в разных направлениях. Так, в статье [15] доказана сходимость интеграла j [N(f, t)]pdt для функций класса пр">п (см. также [7, гл. VI]). И в этой теореме и в тео- теоремах А. П. Морса и А. Г. Витушкина условие на гладкость рас- рассматриваемых функций неулучшаемо. Сложнее дело обстоит с тем случаем, когда / является отображением из R" в Rft, к > 1. При к ^ п типичный случай состоит в том, что N(f, t) — это число точек множества /~'Ш. Поэтому очевидное неравенство N (/, t) ^ 2 N {^i ° /> t), где Pi — всевозможные ортогональные г проекции на «-мерные координатные подпространства, показывает, что вместо любых & 5* п достаточно рассматривать только к — п. С. А. Гулевич доказал (см. [17]), что для отображений /: /" -> -*¦ R" класса р > 1 кратность Лт(/, t) суммируема в любой степени г<р. Простые примеры показывают, что ни в какой степени г>р кратность N(f, t) суммируемой быть не обязана. Вопрос о том, будет ли конечен интеграл ) [N{f, t)]vdt для отображе- Hnii /: 7" -»- R71 класса р > 1, решен С. А. Гулевичем положительно для р «? 2 (см. [16]), но остается открытым для р>2. В статье [21 ] этот вопрос решен положительно для всех р > 1 в случае л = 2. Применение теоремы С. А. Гулевича проиллюстрируем следу- следующим примером. Пусть /: 7" -*¦ R" — отображение класса р, н пусть E = {x^In: f{x)?=O). Рассмотрим ( //(х) ¦ | /(х) |"а dgnz, Е О < а < п. С помощью формулы замены переменной, неравенства Гёльдера и теоремы С. А. Гулевича немедленно убедимся, что ин- интеграл сходится, если р > п/(п — а). Изучение индикатрисы Банаха N(), t) для отображений /: 7я-*- -*¦ Rn проливает свет и на поведение функции кратности N(f, t) для отображений /: I" -*¦ W для к< п. Следуя идее, высказанной в статье [14], С. А. Гулевич рассмотрел другую функцию кратно- кратности N (f, t), определяемую следующим образом. Пусть Mt = {(x, y)eR"XE«: /(*) = *, М = 1, у • г = О для любого z <= Tan (/~'Ш, х)} и отображение Р: Mt^-S"-* задается формулой Р(х, у) = у. Тогда i?(/, t)—площадь отображения Р. Очевидно, что N(f, t)> >cn-N(f, t), где cn==5^n~1(S"~1), и поэтому каждая оценка функ- функции N(f, t) приводит к соответствующей оценке функции N(f, t). С. А. Гулевич получил суммируемость функции N(f, t) для ото-
718 Л. Д. ИВАНОВ Сражений /: /" -> Rh класса р > п + 1 в случае к = 2, 3, ..., п — 1 и для функций /: /n->R класса р > п (см. [17]). Последний ре- результат учитывает класс гладкости функции / почти точно: если / — функция класса р < п, то расходиться может интеграл ) N (/, t) dt и тем более J N (/, t) dt. Для отображений /: /" -> R* R R при /с = 2, 3, ..., п — 1 неуточняемая оценка на класс гладкости получена в статье [22]. Другой интересный подход к этому кругу задач найден И. Иом- диным, который усиливает теорему Сарда, оценивая энтропию множества А(/), и тем самым скорость стремления к нулю SBn- меры е-окрестности множества А(/) (см. [18]). Кроме того, для отображений /: /"-+R1 класса s>n— к+l, производные послед- последнего порядка от которых ограничены по модулю единицей, И. Иом- дин доказал (см. [19]), что N(f, t)<A где p(t, A(/)) —расстояние от точки t до множества А(/), а чис- числа А и б зависят только от п, к, s. Отсюда вытекает, что крат- кратность N(f, t) отображения /: /" -*¦ Rft суммируема в степени p^i, если / — класса pi > рп + п — к + 1. При п — к и при к = 1 тре- требование на показатель р,. является завышенным. По-видимому, оно завышено и для промежуточных к. Теорема Иомдина, оценивающая энтропию множества критиче- критических значений, оказалась полезной и в других вопросах. Так, она позволяет строить примеры функций /eAf™, не представимых в виде суперпозиции функций гладкости s( от пу переменных, где nJSi достаточно велико (см. [20]). СПИСОК ЛИТЕРАТУРЫ [1] Витушкин А. Г. О 13-й проблеме Гильберта/'ДАН СССР.—1954— Т. 95.- С. 701-704. [2] Витушкин А. Г., Хенкин Г. М. Линейные суперпозиции функций/ УМН.— 1967.— Т. 22, вып. 1.— С. 77—124. [3] V i t u s h k i n A. G. On representations of functions by means of superpo- superpositions /L'Enseignement mathematique.— 1977.— T. XXIII.— V. 3—4.— P. 255—320. [4] Колмогоров А. Н., Тихомиров В. М. е-энтропия и е-емкость множеств в функциональных пространствах/УМН.— 1959.— Т. 14, вып. 2.— С. 3—86. [5] Смушко В. В. Энтропия класса целых функций/Изв. АН СССР.— 1976.—Т. 40, вып. 5.—С. 1173—1186. 61 Витушкин А. Г. О многомерных вариациях.— М.: Гостехиздат, 1955. 7] Иванов Л. Д. Вариации множеств и функций.—М.: Наука, 1975. 8] Петровский И. Г., Олейник О. А. О топологии действительных алгебраических поверхностей/Изв. АН СССР.— 1949.—Т. 13.—С. 389—402. [9] М i I n о г J. On the Betti numbers of real varieties/Proc. Amer. Math. Soc.— 1964.— V. 15, No. 2.— P. 275—280. [10] Витушкин А. Г. Оценка сложности задачи табулирования.—М.: Физ- матгиз, 1959.
ДОПОЛНЕНИЕ 1 719 |_ 14J Витушки н А. Г. Доказательство полунепрерывности сверху вариаций множества/ДАН СССР.—1966.—Т. 166, вып. 5.—С. 1022—1026. [121 Зайцев Г. Ю. Интегральная оценка уклонений множеств в сечениях/ Изв. АН СССР.- 1978.— Т. 42, вып. 5.- С. 972—988. [13] Севастьянов Е. А. Многомерные вариации множеств и их контин- генции/Analysis Mathematica.— 1983.— V. 9.— Р. 113—127. [14J Леонтович А. М., Мельников М. С. Об ограниченности вариаций многообразия/Труды Моск. мат. о-ва.—1965.—Т. 4.—С. 306—337. [15] Иванов Л. Д. О дифференцируемых функциях п переменных/Изв. АН СССР.— 1965.— Т. 29, вып. 2.— С. 437—470. [16J Гуле вич С. А. О достаточном условии интегрируемости индикатрисы Банаха гладкого отображения/Изв. АН СССР.— 1983.— Т. 47, вып. 5.— С. 1114—1134. [17] Гуле вич С. А. Об интегрируемости индикатрисы Банаха гладкого отображения/Изв. АН СССР.—1984.—Т. 48, вып. 4.—С. 676—704. [18] Y о m d i n Y. The geometry of critical and near-critical values of differen- tiable mappings/Math. Ann.— 1983.—V. 264.— P. 495—515. [19] Y о m d i n Y. Global bounds for the Betti numbers of regular fibers of dif- ferentiable mappings. Preprint MPI/SFB, 83—33.— 1983. [20] Yomdin Y. Critical values and representation of functions by means of compositions. Preprint MPI/SFB, 83—32.— 1983. [21] Гулевич С. А. О кратности отображения из плоскости в плоскость.— В сб. Геометрические вопросы теории функций множеств: Межвузовский тематический сборник научных трудов.— Калинин: изд-во КГУ, 1986.— 156 с. [22] Иванов Л. Д. О конечности вариаций векторнозначных функций/ДАН СССР.- 1986.- Т. 286, вып. 4.- С. 795-798.
ДОПОЛНЕНИЕ 2 ТОПОЛОГИЧЕСКИЕ СВОЙСТВА МНОГОМЕРНЫХ ЭКСТРЕМАЛЕЙ ФУНКЦИОНАЛА ОБЪЕМА И ФУНКЦИОНАЛА ДИРИХЛЕ А. Т. Фоменко § 1. Функционал многомерного объема, локальная и глобальная минимальность поверхностей 1.1. Объем гиперповерхностей. Хорошо известно, что дву- двумерные минимальные поверхности моделируются мыльными плен- пленками, затягивающими замкнутые проволочные контуры в трехмер- трехмерном евклидовом пространстве. Первые опыты по систематическому изучению конфигурации мыльных пленок начал еще в XIX веке Жозеф Плато (Joseph Plateau, 1801—1883). Эти исследования послужили толчком к возникновению значительного научного на- направления, особенно бурно развивающегося в последние годы и известного сегодня под общим собирательным названием «задачи Плато». Интерес к минимальным поверхностям всегда стимулиро- стимулировался конкретными задачами, возникающими в механике и физи- физике; в частности, еще в XIX веке Пуассоном был сделан важный шаг в понимании внутренней геометрии границ раздела двух сред. Оказалось, что находящаяся в равновесии поверхность раздела двух сред (при условии, что мы пренебрегаем силой тяжести) яв- является поверхностью постоянной средней кривизны. Частный слу- случай поверхности нулевой средней кривизны — пленки, являющиеся границей раздела двух сред, разность давлений в которых равна нулю. Такими поверхностями являются, в частности, мыльные пленки, затягивающие проволочные контуры. Задача вычисления индексов критических поверхностей функционала объема возникла в результате изучения устойчивости цилиндрических столбов жид- жидкости, используемых при создании изоляции проводников. Двумерная минимальная поверхность F2 в R3 допускает про- простое аналитическое описание. Предположим, что F2 задается ра- радиус-вектором г: D (и, v) ->-R3, r = (х (и, v), у (и, v), z(u, v)), где D — область на плоскости. Напомним, что радиус-вектор г называ- называется гармоническим, если Аг = 0, где А — оператор Лапласа. Лег- Легко проверить, что если и, v — конформные координаты на V2 (т. е. индуцированная на У2 риманова метрика имеет вид
ДОПОЛНЕНИЕ 2 721 K(u, v) (duz + dv2)), то радиус-вектор, задающий минимальную по- поверхность, будет гармоническим в этих координатах. Обратное, во- вообще говоря, неверно, т. е. поверхность, заметаемая гармониче- гармоническим радиус-вектором, не обязана быть минимальной. Гармониче- Гармонические векторы являются решениями уравнения Эйлера — Лагранжа для функционала Дирихле J (Е + G) du dv, где Е, G, F — ко- D эффициенты первой квадратичной формы на F2. Топологическая структура минимальных поверхностей достаточно сложна; в ча- частности, на один и тот же граничный контур можно иногда на- натянуть несколько минимальных поверхностей; кроме того, эти по- поверхности могут иметь особенности. В богатой истории развития вариационных задач этого вида выделяется несколько периодов, характеризующихся различными подходами к понятиям поверхности, границы, минимизации и со- соответственно различными методами получения минимальных ре- решений. Исторически первой была поставлена и решена задача Плато для двумерной поверхности в R3, а затем в R™. В пара- параметрическом виде эта задача может быть сформулирована так. Пусть f(u, v) —радиус-вектор поверхности F2 bR", т.е. /: Z)->Rn задает отображение области D с: Ra в R"; тогда vol2 / (D) = = \ у EG — F2 du dv, где через vol2 обозначен функционал дву- Ъ мерной площади. Вопрос: можно ли найти поверхность -Xq = /0 (D) (и отображение /0) такую, чтобы она ограничивалась заданным контуром А, т. е. системой вложенных в Rn непересекающихся окружностей, и чтобы ее площадь была наименьшей по сравнению с площадями всех других поверхностей вида X = /(/)), ограни- ограниченных этим же контуром? Кроме этой задачи о нахождении аб- абсолютного минимума в классе всех поверхностей с заданной гра- границей, рассматривалась также и задача нахождения минимума в данном гомотопическом классе, т. е. в классе поверхностей, зада- задаваемых гомотопными отображениями. В двумерном случае эти за- задачи решаются положительно (см., например, обзоры [2], [3], [5]). Минимальная пленка Х% = /0 (D) может иметь самопересечения и другие особенности в зависимости от конфигурации границы. Это обстоятельство удобно пояснить на следующем примере. Из- Известно, что для любого положительного целого числа s можно сконструировать гладкую замкнутую несамопересекающуюся не- заузленную кривую А в R3 такую, что если Хг — некоторая по- поверхность с границей А, гладко вложенная в R3 п целиком ле- лежащая внутри выпуклой оболочки кривой А, то поверхность Xz обязательно имеет по крайней мере s ручек. В частности, она не может быть вложенным диском. Поскольку минимальная поверх-
722 А. Т. ФОМЕНКО ность с границей А всегда лежит внутри выпуклой оболочки своей границы, то минимальный диск, имеющий границей указанную выше окружность, не может быть гладко вложенным в R3 и обя- обязательно имеет самопересечения, особые точки. «Задача Плато» — это термин, объединяющий серию задач, свя- связанных с изучением экстремалей и абсолютных минимумов функ- функционала А:-мерного объема \o]k, определенного на ^-мерных по- поверхностях, вложенных в риманово многообразие Мп и удовлетво- удовлетворяющих тем или иным граничным топологическим условиям. На- Напомним определение многомерного функционала объема. Пусть V* — гладкое компактное подмногообразие в римановом многооб- многообразии Ми, пусть gij — индуцированная на Vе метрика. Тогда оп- определено число volA Fft — А-мерный риманов объем относительно gis. В пределах карты хи ..., хп объем записывается так:] Vgd^xt где gr = det(g,j). Соответствие V -*¦ vo\h V задает функционал объ- объема на классе ^-мерных поверхностей. Экстремали функционала называются минимальными поверхностями. Они являются реше- решениями уравнений, которые, например, для М = R™, к = п — 1 и для поверхностей У™ с= R™, задаваемых графиком гладкой функ- функции хп = /(#!, ..., Xn-i), принимают вид n-1 ? Mi + ZA -°- где хи ..., хп — декартовы координаты в Rn, fXi = д}/дх{. Для дву- двумерной поверхности, заданной графиком z = f(x, у) в R3(#, у, z), получаем A + /?) fw - Vx1vt*y + A + fy) fxx = 0. Условие минимальности поверхности Vn~1 cz Rn можно записать на языке локальных инвариантов вложения поверхности в Rn. Предложение 1. Пусть Vn~1 с Rn — гладкая гиперповерхность (возможно с краем). Средняя кривизна Н этой гиперповерхности, равна нулю тогда и только тогда, когда F" можно представить в окрестности каждой своей внутренней точки в виде графика эк- экстремальной функции для функционала объема. 1.2. Функционал объема поверхностей и его экстремали. Пусть /: Fft -*- Мп — гладкое вложение гладкого многообразия V в глад- гладкое ориентируемое связное замкнутое риманово многообразие М. Обозначим подмногообразие f(V)<^M снова через V. Рассмотрим вторую фундаментальную форму В поверхности V, определенную- на векторах, касательных к подмногообразию V и принимающую значения в нормальном пространстве к V. Подробности см., на- например, в [9], [10]. Так как на касательном пространстве TXV
ДОПОЛНЕНИЕ 2 723 определено ¦ скалярное произведение, то можно рассмотреть след формы В, являющийся (в каждой точке ieF) некоторым век- вектором из плоскости NXV, ортогональной V. След формы В изобра- изображается сечением Н нормального расслоения NV. Это сечение на- называется средней кривизной подмногообразия V с М. Если V — гиперповерхность в М, то получаем скалярную среднюю кривизну Н — Spur G~*Q, где G, Q — матрицы первой и второй квадратичных форм на поверхности. Подмногообразие V с М называется локаль- локально минимальным, если его средняя кривизна Н тождественно рав- равна нулю (во всех точках x^-V). Обращение в нуль средней кривизны связано с обращением в нуль первой производной функционала объема. Пусть задана глад- гладкая гомотопия ф4: V-+M, 0<?<1, такая, что каждое отображе- отображение ф( — вложение, причем <р0 = /, где / — исходное вложение. Та- Такие гомотопии иногда называются изотопическими вариациями. Предложение 2 (см., например, [10]). Пусть V —компактное подмногообразие в М и v(t) = voIa (ftV. Подмногообразие V локаль- локально минимально тогда и только тогда, когда \ =0 для любой изотопической вариации подмногообразия F, обращающейся в нуль на границе dV. Итак, подмногообразия нулевой средней кривизны — это экстре- экстремали функционала объема. Термин «локальная минимальность» означает, что объем подмногообразия не меняется «в первом при- приближении» (т. е. первая его производная равна нулю) при беско- бесконечно малых по амплитуде и по носителю вариациях. Если вариа- вариация имеет конечную величину, то объем может уменьшиться, как это происходит, например, с экватором на стандартной сфере. От- Отметим, что вполне геодезические подмногообразия являются локально минимальными (вторая форма тождественно равна нулю). Понятие глобальной минимальности предполагает рассмотрение боль- больших вариаций. Определение 1. Пусть F* <= Мп — компактное ориентируемое замкнутое подмногообразие. Мы скажем, что задана его бордизм-деформация, если задано (к + 1)-мерное гладкое компактное ориен- ориентируемое подмногообразие Zk+i cr Мп с краем dZ — = V U (-P), где (~Р) — подмногообразие Р с об- обратной ориентацией (рис. 1). Многообразие Р назо- рис. вем бордизм-вариацией многообразия V. В случае некомпактного подмногообразия V <=¦ М будем говорить, что задана его бордизм-деформация, если в М задано подмногообразие Р, •совпадающее с V вне некоторой компактной области, и, кроме то- того, задано (к +1) -мерное подмногообразие Z с кусочно гладким краем дЪ с V U (-P) (рис. 2). Приведем пример глобально минимальных поверхностей.
724 А. т. фоменко Предложение 3 (см. [11]). Пусть М — кэлерово многообразие комплексной размерности п, FcJ/ — его комплексное к-мерное подмногообразие. Рассмотрим всевозможные вещественные бор- бордизм-деформации этого подмногообразия в М, т. е. такие бордизм-деформации, что пленка Z— вещественное Bк+ 1)-мерное подмногообразие в М; пусть Ргк — бор- бордизм-вариация подмногообразия V. Тогда vol2fc Р не меньше vol2i V, если Р и V компактны; а если Р и V не компактны^ то имеются в виду объемы тех областей (на Р и на V), где Р и V не совпада- совпадают. Если объем Р совпадает с объемом V, то Р — комплексное под- подмногообразие в М. § 2. Многомерные задачи Плато и экстраординарные теории гомологии и когомологий 2.1. Классические задачи нахождения абсолютных и относи- относительных минимумов функционала объема. Выделим в многообра- многообразии Мп фиксированное (А: — 1)-мерное гладкое компактное замк- замкнутое подмногообразие — «контур» Л*. Рассмотрим всевозможные пары вида (W, /), где W—гладкое компактное многообразие раз- размерности к с краем dW, гомеоморфным А, а /: W -*- М — непре- непрерывное (или кусочно гладкое) отображение, тождественное на dW. Задача А. Можно ли среди пар вида (W, /), где W — всевоз- всевозможные многообразия с краем А, а /: W -*- М — отображения W в М, тождественные на А, найти пару (Wo, /0) такую, чтобы ото- отображение /о или пленка Ха = fa(Wa) —образ многообразия Wo в М — обладали разумными свойствами минимальности, в частности чтобы volAХо =? уо1„ X, где X — f(W) —любая пленка из указанного, выше класса, a volA — либо риманов объем, либо мера Хаусдорфа. Под разумными свойствами минимальности образа X0 — fo(Wo) в М в дополнении к неравенству volft Х„ ^ volft X можно, напри- например, понимать следующее: существует нигде не плотное в пленке Хо подмножество Z особых (сингулярных) точек такое, что каж- каждая точка х е X0\Z обладает окрестностью U в М, для которой U П (X0\Z) состоит из гладких подмногообразий Va размерностей, не превосходящих к, причем Va — минимальные подмногообразия, т. е. # = 0. Задача Б. Пусть (F, g) — пара, где V = Vk — компактное ори- ориентируемое замкнутое ^-мерное многообразие, g: V-*¦ М — его не- непрерывное (или кусочно гладкое) отображение в Мп, X = g(V) — образ V в М. Мы скажем, что пара (V, g') является бордизм- вариацией пары (V, g), если существует компактное многообра- многообразие Z с краем dZ = VU(—V) и непрерывное отображение F: Z-*- -*- М такое, что F\v — g, F\vt — g'. Можно ли среди всех пар
ДОПОЛНЕНИЕ 2 725 (V, g) указанного вида найти пару (Fo, g0) такую, чтобы образ Х<> = g<,(V0) обладал разумными свойствами минимальности, в ча- частности volt Х„ s? vol,, X, где X = g (V) — любая пленка из указан- указанного класса? Итак, мы имеем задачу нахождения абсолютного минимума в классе всех бордизм-вариаций заданной пары (V, g). Задача А'. Можно ли среди всех пар вида (W, /), где ТУ —не- —некоторое фиксированное многообразие с краем А, а /: W'-> М — всевозможные непрерывные (или кусочно гладкие) отображения, гомотопные некоторому фиксированному отображению /' и тожде- тождественные на крае А (т. е. совпадающие с фиксированным гомео- гомеоморфизмом А на себя), найти такую пару (W, /0), чтобы отобра- отображение /0 или пленка Хо = fo(W) —образ W в М — обладали свой- свойствами минимальности, т. е. \o\kX0^\olkX, где X = f(W)— лю- любая пленка из данного гомотопического класса? Итак, мы имеем задачу о нахождении относительных миниму- минимумов, т. е.— в каждом гомотопическом классе, в отличие от задачи нахождения абсолютного минимума,— по всем гомотопическим классам. Задача Б'. Можно ли среди отображений g: Vh -> М" (где V — фиксированное замкнутое многообразие), гомотопных некоторому исходному отображению /: V -> М, найти такое отображение g0, которое обладало бы свойством минимальности, т. е. vo]ft(F) О о Мы начнем с задачи о нахождении абсолютного минимума. Задачи А и А' назовем задачами заклейки контура, а Б и Б' — задачами реализации. Минимальные поверхности такого типа (если они су- существуют) назовем глобально мини- минимальными. 2.2. Появление неустранимых стра- тов малых размерностей при минимиза- минимизации многомерного функционала объе- объема. Укажем эффект, не влияющий на минимизацию функционала vol2, но иг- играющий существенную роль в больших размерностях. На рис. 3 изображен контур А и пленка Xt = ft(W), стре- стремящаяся занять в R3 положение, отве- отвечающее наименьшей площади. Ясно, что в некоторый момент происходит «схлопыванпе» пленки, склейка, в ре- результате чего вместо тонкой трубки появляется отрезок. В двумерном случае от него легко избавиться (без потери параметризации пленки), непрерывно отобразив отрезок в двумерный диск, заклеивающий контур. При к > 2 возникновение аналогичной ситуации резко ус- усложняет задачу минимизации. По мере того как А;-мерный объем Рис. 3
726 А. Т. ФОМЕНКО деформирующейся пленки Xt = ft(W) стремится к минимуму, в пленке начинаются склейки, т. е. отображение /t: W-+M, го- гомотопное исходному отображению /, может понижать размерность некоторых открытых в W подмножеств. Это приводит к появлению в образе Xi = fi(W) кусков Р (стратов) размерностей s, где s=5 < к — 1. В отличие от двумерного случая, такие страты Р нельзя, вообще говоря, ни отбросить, ни непрерывно отобразить в «мас- «массивную» ^-мерную часть Хк пленки X, поскольку при этих опера- операциях может быть утрачено основное свойство пленки — быть не- непрерывным образом некоторого гладкого многообразия W с краем А. Так как наша цель — найти минимум в классе пленок: X = — f (W7)» т- е. допускающих непрерывную параметризацию с по- помощью многообразий W, то при любом варианте устранения мало- маломерных стратов Р мы должны были бы гарантировать, чтобы плен- пленка X, получившаяся в результате перестройки, по-прежнему допускала такую параметризацию (быть может, с помощью дру- другого многообразия). Как показывают простые примеры, ни отбра- отбрасывание маломерных стратов, ни попытка отобразить их в мас- массивную часть X" пленки X (с помощью непрерывного отображе- отображения, определенного на всей пленке) не сохраняют в общем случае свойство пленки допускать непрерывную параметризацию. Можно было бы в целях упрощения задачи временно игнорировать мало- маломерные страты Р, ограничившись пока рассмотрением только функционала volft, с точки зрения которого страты Р несуществен- несущественны (их fc-мерный объем равен нулю). Однако, как ока- оказывается, даже в этом случае нахождение минимума требует изучения поведения стратов Р, гарантирующих параметризацию пленки. 2.3. Задача Плато на языке обычных гомологии. Вследствие указанных трудностей возникла необходимость в разработке но- нового языка, который позволил бы устранить влияние стратов ма- малых размерностей. Необходимые шаги были предприняты в серии работ [12] — [22], [3]. Пусть Hh-l(A, G)—группа спектральных (к — 1)-мерных гомологии (с коэффициентами в группе G) замкну- замкнутого (к — 1)-мерного многообразия— «контура» А в римановом многообразии. Пусть А с: X, где X — произвольная й;-мерная «по- «поверхность» в М, в качестве которой можно брать, например, под- подкомплексы или измеримые компакты. Пусть {X) — класс всех та- таких поверхностей X, для которых гомоморфизм г*: Hk-i {A) -> -*-Hk-x(X), индуцированный вложением i: А -*¦ X, аннулирует всю группу Нъ-ЛА). Положим ^ = inf volftZ, где чо\кХ обо- значает А;-мерную меру Хаусдорфа или риманов объем (если он определен). Тогда оказывается, что всегда существует минималь- минимальная поверхность (в указанном смысле), т. е. существует ^-мерный компакт Хо е {X} такой, что \о1кХ0 = кк. В рамках описанного подхода выделилось два направления: более геометрическое [12] —
ДОПОЛНЕНИЕ 2 727 [14], C] и более функциональное [15] — [23]. В рамках каждого из них были доказаны замечательные теоремы существования аб- абсолютного минимума в классе гомологии, а также — почти всюду регулярность минимальных решений. При этом существенно ис- использовалось то, что если X =э Y, где dimXXY < к, тоНк(X) = Hh(Y) и vol hX = vol/, У, т. е. не возникает проблемы неустранимых стра- тов Р малых размерностей — они несущественны как с топологи- топологической, так и с метрической точек зрения. Однако это использо- использование обычных гомологии для определения понятий границы и заклейки контура удалило нас от постановки в п. 2.1, по- поскольку, если А — это (к — 1)-мерное подмногообразие в М и Хо — минимальная поверхность, гомологически затягивающая А, то, во- вообще говоря, не существует такого многообразия W с краем Л, чтобы Хо = f(W), т. е. Хо может не допускать непрерывной па- параметризации многообразием (см. [34], [35]). 2.4. Язык теории бордизмов в вариационных задачах. Вернем- Вернемся к пониманию задачи Плато в классе пленок, параметризован- параметризованных многообразиями. Мы изучим поведение таких пленок во всех размерностях, а не только в максимальной. Для реализации этой программы нужен язык более гибкий, чем язык обычных гомоло- гомологии. Напомним некоторые определения. Пусть У => Z — пара топо- топологических компактных пространств. Определение 2. Ориентированным сингулярным многообразием пары (У, Z) назовем пару (F, /), где V"~l — компактное ориен- ориентированное многообразие с краем dV, а / — непрерывное отобра- отображение (F, dV)-+(Y, Z), т. е. f{V)<=Y, f(dV)<=Z. Если Z = 0, то полагаем dF = 0. Сингулярное многообразие (F, /) называется бордантным нулю (эквивалентным нулю), если существуют ком- компактное ориентированное многообразие Wk и непрерывное отобра- отображение F: W -*- У такие, что: а) многообразие V — регулярное под- подмногообразие края д\?; б) ориентация V совпадает с ориента- ориентацией, индуцированной на нем ориентацией W, при этом F\v = f, F{dW\V)Z ) Операция несвязного объединения многообразий индуцирует операцию несвязного объединения сингулярных многообразий. Два сингулярных многообразия (F,, /,) и (V2, /2) называются бордантными, если их несвязное объединение (F4 U F2, /t U /2) бордантно нулю. Множество классов бордизмов сингулярных ориентированных многообразий пары (У, Z) образует абелеву группу Й4_4(У, Z). При отказе от условия ориентируемости аналогичная конструк- конструкция приводит к группам Nh-i(Y, Z) неориентированных бордиз- бордизмов. Задачи А и Б можно теперь переформулировать так: пусть АК~1 — компактное замкнутое ориентированное подмногообразие в М, i: А -*¦ X — вложение, где X — компакт в М. Задача А. Можно ли среди компактов X, содержащих А и та- таких, что сингулярный бордизм (A, i) эквивалентен нулю в X,
728 А. Т. ФОМЕНКО найти такой компакт Хо, который обладал бы свойствами мини- минимальности? Тождественное отображение е: А -> А определяет некоторый элемент oeflw^). Ясно, что введенный нами класс пленок-ком- пленок-компактов X характеризуется тем, что ?* (о) = 0 , где ?#: Qh-i (-4) "*" —*-Qh_i(X)—гомоморфизм, индуцированный вложением г: А -> X. Задача Б. Можно ли среди всех сингулярных многообразий (F, g) g: V-+M, бордантных (эквивалентных) данному сингуляр- сингулярному многообразию (V, g'), g': V -*¦ М, найти такое сингулярное многообразие (Vo, g0), чтобы поверхность X0=g0(V0) обладала свойствами минимальности? Наряду с группами Qft-i и Nh-{ мы будем использовать группы Qfe-i сингулярных бордизмов по модулю р. 2.5. Экстраординарные гомологии и когомологии, граница и кограница поверхности, вариационные классы поверхностей. Груп- Группы Q* (X, A), N% (X, A), Q* (X, А) удовлетворяют лишь ше- шести (из семи) аксиомам теории гомологии [41], т. е. являются экстраординарными (обобщенными) теориями гомологии. В отли- отличие от обычной теории гомологии, группы экстраординарных гомо- гомологии точки (одноточечного пространства), вообще говоря, нетри- нетривиальны в положительных размерностях. Кроме теорий бордиз- бордизмов, существует много других функторов, удовлетворяющих шести аксиомам теории гомологии, за исключением «аксиомы точки». Их описание на клеточных комплексах см., например, в [42], [43]. Будем обозначать группы гомологии й* = @qhq, группы когомо- когомологии h* = ©qfe9. Так как минимальные поверхности обладают, вообще говоря, особенностями (часто весьма сложными), то для использования экстраординарных теорий (ко) гомологии в вариа- вариационных задачах потребовалось расширить область определения этих теорий и охватить класс поверхностей с особенностями, т. е. класс измеримых компактов в многообразии М. Это распростра- распространение функторов h*, h* с клеточных комплексов на компакты было выполнено с помощью спектрального процесса, т. е. взятия прямого или обратного пределов по нервам измельчающихся по- покрытий, см. [32] — [35], для следующих основных случаев: а) группы гомологии hq(X, А) являются конечномерными вектор- векторными пространствами над полем F (для клеточных комплексов); б) группы hq(X, A) —топологические компактные абелевы груп- группы (для клеточных комплексов); в) группы когомологии h"(X, A) являются .ff-модулями над кольцом В. Оказывается, что возника- возникающие в результате расширения теории спектральных • (ко) гомо- гомологии являются точными и непрерывными [32] — [35]. Обозначим эти спектральные (ко) гомологии тем же символом h* или про- просто h. Через Ъ обозначим приведенные группы (ко) гомологии по модулю точки. Мы введем понятие границы и кограницы пары топологических пространств для случая произвольной непрерывной
ДОПОЛНЕНИЕ 2 729 относительно инвариантной спектральной экстраординарной теории h (см. C2] — [35]). Определение 3. Пусть (X, А) — пара компактов и х <= А — фик- фиксированная точка. Кограницей V*(^i А) пары (X, А) в размер- размерности к (по отношению к точке х) назовем множество всех эле- элементов а ей*-1 (А) таких, что a^ImT*, где i: A -*¦ X — вложе- вложение, а гомоморфизм ?*: Т?'1 (X)-+%к-1 (А) индуцирован этим вло- вложением. Положим V (X, А) = U Vfe (Xx А). Такое понятие кограницы соответствует интуитивному пред- представлению о геометрической границе. Например, если X = С А яв- является конусом над А, то V (СА, А) = U ft*"^) \0t т. е. ко- ft нус С А полностью заклеивает А. Определение 4. Пусть (X, А)—пара компактов я х^А. Гра- Границей &k(X, А) пары (X, А) в размерности^ к ^назовем подгруппу Кегг* П ^ь-г(^)>где i: А -*¦ X — вложение, t*: hh-\ {A) ->- hh^1 (X); A(X,A)=\JAk(X,A). Пусть А <=¦ М — компакт и h — экстраординарная теория (ко) го- гомологии, i: A-+X, /: Х-+М — вложения. Рассмотрим сначала случай гомологии. Пусть L = {Lp} — фиксированный набор под- подгрупп LP<=%V(A), где peZ, a L'= {Lq} —фиксированный набор подгрупп Lq(^hq(M). Определение 5. Через F, = fe# (A, L, U) обозначим класс всех таких поверхностей X, где А <=¦ X <= М, что: 1) Lcz Ker i%; 2) L'almU. В случае когомологий L — это фиксированный набор подмно- подмножеств Lp<=7ip(A)\Q, a ?.' — набор подмножеств L'qc hq(M)\0. Определение 6. Через F* = h*(A, L, L') обозначим класс всех таких поверхностей X, А<=Х<=М, что: 1) /><=%*(Л)Mm?*; 2) L'czh*(M)\KeTJ*. Интересны два предельных случая вариационных классов, а именно: класс h(x, О, L') и класс h(A, L, 0). В первом случае класс F состоит из поверхностей (компактов), реализующих «дыр- «дырки» — циклы в объемлющем многообразии М. Во втором случае класс F состоит из поверхностей, затягивающих «дырки» — циклы в контуре А. 2.6. Теорема существования глобально минимальных поверх- поверхностей, реализующих абсолютный минимум функционала объема в классе всех поверхностей нетривиального топологического типа. Здесь мы введем важное понятие стратифицированного функцио- функционала объема, определенного на классе стратифицированных по- поверхностей, и приведем основной результат, указанный в названии пункта. Пусть М — компактное гладкое замкнутое риманово мно- многообразие, h — экстраординарная теория (ко) гомологии (непре- 47 г. Федерер
730 А. Т. ФОМЕНКО рывная и относительно инвариантная на классе компактов)', А — фиксированный компакт в М. Тогда в каждом вариационном клас- классе F = h(A, L, L') возникает задача нахождения минимальной поверхности. Для каждой поверхности X^F построим ее страти- стратификацию X = A U Рь U P"'1 U ..., где Р*— максимальное подмноже- подмножество в Х\А, имеющее в каждой своей точке размерность к, затем Р*~* — максимальное подмножество в Х\А\Рк, имеющее в каждой своей точке размерность к — 1, и т. д. Подмножества Р* назовем стратами. Если они измеримы, то определен стратифицированный объем SV(X) = (\6[hPh, voU-iP*"', ...), изображаемый вектором с к координатами. Каждая координата (компонента) стратифициро- стратифицированного объема равна объему соответствующего страта. Варьируя поверхность X в классе допустимых вариаций, т. е. оставаясь все время в классе поверхностей F, мы изменяем вектор объема SV(X). Проблема заключается в нахождении поверхности с наи- наименьшим стратифицированным объемом. При этом наименьший вектор SV~(dk, dk-i, ...) мы будем понимать в следующем смыс- смысле. Фиксируем в множестве всех векторов лексикографическое упорядочение, т. е. будем считать, что (К, ¦•¦, Xi)<(nft, ..., HiJ тогда и только тогда, когда К{ < \if и К} = ц} при / > i. Стратифи- Стратифицированный объем назовем наименьшим, если он минимален в смысле этого упорядочения. Процесс минимизации будет заклю- заключаться в следующем. Сначала минимизируем первую координату вектора SV(X)', т. е. ищем в классе F поверхность Хк, для которой volftP = = vo\kXk\A = dk—inivolkY\A. Другими словами, ее старший объем минимален по сравнению со старшими объемами других поверхностей из этого же класса. Если такие поверхности Хк су- существуют, то приступим к минимизации следующей координаты вектора SV(X), а именно: будем искать в классе поверхностей Хк с уже минимальной старшей координатой (т. е. таких, что volk Xh\A = dh) поверхность Xk-i такую, для которой выполнено равенство dfe-i = vo\k-1Xh-1\A\Ph — inf vol^ Xk\A\Pk. И так далее. Каждый раз мы минимизируем следующую координату стратифицированного объема при условии, что все предыдущие координаты уже минимизированы и фиксированы. Если этот про- процесс корректно определен (а именно это и утверждается теоремой существования, см. ниже), то он завершится на поверхности, стратифицированный объем которой глобально минимален в клас- классе всех стратифицированных поверхностей из данного вариацион- вариационного класса F. Числа ds = ds (F) зависят от F. Основным моментом этой постановки и решения задачи Плато является введение ав- автором понятия стратифицированного объема, разработка методов его минимизации во всех размерностях и доказательство существо- существования глобально минимальной поверхности в каждом классе F,
ДОПОЛНЕНИЕ 2 731 в частности в каждом классе спектральных бордизмов. Развитие этой идеи позволило доказать (см. [44]) существование минималь- минимальных поверхностей в каждом гомотопическом классе (Дао Чонг Тхи). При таком подходе каждая теория (ко) гомологии h определя- определяет (при фиксированной границе А) свой тип краевых условий и тем самым свой набор вариационных классов. Одним из таких классов является класс, основанный на спектральных бордизмах (задача Плато, п. 2.4). Приведем также пример «контравариантной вариационной задачи», определяемой Я-функтором, т. е. группами стабильных векторных расслоений. Пусть на М задано стабильно нетривиальное векторное расслоение |. Рассмотрим класс всех по- поверхностей Xcf таких, что ограничение расслоения 1 на X по- прежнему стабильно нетривиально. Вопрос: можно ли среди таких поверхностей найти глобально минимальную (в смысле стратифи- стратифицированного объема) поверхность? Теорему существования глобально минимальных поверхностей в указанных вариационных классах мы сформулируем в первую очередь для теории спектральных бордизмов, совпадающей на клас- классе конечных клеточных комплексов с обычными бордизмами. В то же время теорема существования верна и для любой другой эк- экстраординарной теории гомологии, непрерывной и относительно инвариантной на классе компактов. Дадим сначала самую общую формулировку (А. Т. Фоменко). Теорема 1 (см. [32] — [35]). Пусть Мп — компактное замкнутое риманово многообразие и nt(M)=n2(M) = 0, где п((М) — гомото- гомотопические группы U. Пусть А<=М — фиксированный компакт и Ъ — непрерывная и относительно инвариантная теория (ко)гомо- логий. Тогда в каждом вариационном классе F = h(A, L, L') всег- всегда существует глобально минимальная поверхность Хо, минимизи- минимизирующая стратифицированный функционал объема. Эта поверхность имеет однозначно определенную стратификацию Хо = A U Ph I) U jP"-1 U ..., где каждое подмножество Рг является (за исключени- исключением, быть может, множества меры нуль, состоящего из особых то- точек поверхности) гладким минимальным подмногообразием в М. Опишем теперь более подробно процесс минимизации. Пусть к — наименьшее из целых чисел s, s < n, для которых ds = ds (F) < < оо, 3 sg к < п. Тогда выполняются следующие утверждения: A) Если {X)k — класс всех поверхностей (компактов) X, Ас: <=Х<=М таких, что X^F и volft X\A = dh = inf volt Y\A, Y^F, то мы утверждаем, что класс {X}k не пуст, dh < «^ а в том случае, когда dh > 0, каждая поверхность X из класса F содержит одно- однозначно определенное fc-мерное (т. е. имеющее размерность к в каждой своей точке) подмножество Ph с Х\А такое, что A U Рк — компакт, Рк содержит подмножество Zh (возможно пустое) меры нуль, т. е. volt Zft = 0 и Ph\Zk — топологическое ^-мерное подмного- подмногообразие в М, без края и всюду плотное в Рк (т. е. множество Zk есть множество всех А-мерных сингулярных точек поверхности X), 47*
732 А. Т. ФОМЕНКО причем vo\hPk = xo\hX\A = dh>0. Если же dh = 0, то положим B) Далее, если {Х)к-г есть класс таких поверхностей X, А с <=Х<=М, что Xe{I}tci? и \о1к-гХ\А\Рк = dft-i = inf vol*-. У\Л\ \Р\ У «= {X}ft, то мы утверждаем, что класс {X)ft_, не пуст, ds_, < < оо, а в том случае, когда dk_4 > 0, каждая поверхность X е е {Х}А_, содержит однозначно определенное (й —1)-мерное (т. е. имеющее размерность к — 1 в каждой своей точке) подмножество рь-i,- х\А\Р" такое, что A U Рк U .Р* — компакт, Рк~1 содержит подмножество 24_! (возможно пустое) меры нуль, т. е. volfe_i Zh-t — = 0 и P^'XZ^, — топологическое (к — 1)-мерное подмногообразие в М, без края и всюду плотное в P*~i (т. е. множество Zk-i есть множество всех (А; —1)-мерных сингулярных точек поверхности X); причем volft_, J0* = volA_d X\A = dA_t > 0. Если же dt_i = 0, то положим Pk~i = 0. И так далее, вниз по размерностям. Поверхности X, составля- составляющие последний класс {Х}1; являются уже глобально минималь- минимальными поверхностями, имеющими нетривиальный топологический тип. Более того, их страты — это (почти всюду) минимальные по- поверхности. Каждое множество Ki = Pi\Zi с Ic {X}t является ми- минимальным подмногообразием в объемлющем многообразии М. Ес- Если многообразие М — гладкое (или аналитическое), то подмного- подмногообразия К* также являются гладкими (соответственно аналитиче- аналитическими) г-мерными минимальными подмногообразиями в М, т. е. их средняя кривизна равна нулю. Следствие 1 (см. [32] — [35]). В каждом вариационном классе F в предположениях теоремы 1 всегда существует глобально ми- минимальная поверхность Хе, стратифицированный объем которой SV(X<,) = (dh, с4_„ ...) является наименьшим сразу во всех раз- размерностях. Эта поверхность имеет однозначно определенную стра- стратификацию Хо = А 0 Pk U Рк~* U ..., где каждое подмножество Р* является (за исключением, быть может, множества меры нуль) минимальным подмногообразием в М. При этом d( = vohP\ В том случае, когда F = h(A, L, 0), т. е. в случае задачи заклейки кон- контура, компактность М можно не предполагать. Если в качестве гомологии взять спектральные бордизмы, то получаем решение задачи Плато в классе поверхностей, парамет- параметризованных спектром гладких многообразий с одним и тем же краем. Так как группы N* и QJ компактны, то их рас- распространение на класс компактов препятствий не встречает (см. [33] — [35]). При распространении теории й* нужно поступить так: рассмотреть группы Q* ®z Qp = рй„., где QP — группа целых р-адических чисел. Так как Qp — плоский модуль, то группы РЯ« образуют точную теорию гомологии. Итак, пусть .Д* — замкнутое подмногообразие в Мп, аи*— одна из теорий PQ*, iV#, Q». Мно- Многообразие А определяет элемент о = {А, e)^hh-l(A), где е:
ДОПОЛНЕНИЕ 2 733 А -»• А — тождественное отображение. Пусть L — подгруппа в hk-1(A), порожденная элементом а. Следствие 2 ([32] —[35]). Предположим, что класс h(A, L, 0) не пуст и iti(М) — п2 {М) = 0. Тогда всегда существует глобально минимальная поверхность Хо, аннулирующая элемент о. Эта по- поверхность (быть может, с особенностями) является решением проб- проблемы Плато в классе всех поверхностей X, затягивающих контур А и допускающих непрерывную спектральную параметризацию с помощью спектра многообразий с краем. Следовательно, на по- поверхности Хо функционал объема достигает абсолютного минимума в классе всех поверхностей с краем А, аннулирующих спектраль- спектральный бордизм [А]. Если Хв имеет сложные особенности, то в общем случае по- поверхность Хо параметризуется спектром многообразий {Wo) с гра- границей А. Если же Хо является конечным клеточным комплексом, то все Wa гомеоморфны одному многообразию Wo, параметризу- параметризующему поверхность Хо в классическом смысле, X0 = f0(W0), dW0 = = А. Если рассмотреть второй предельный случай, т. е. класс h (x, О, L'), то получаем существование минимальной поверхности в классе поверхностей, реализующих данный элемент {as = V с: <=%t(M). Если в качестве й* взять обычную теорию гомологии Н* то получаем теоремы, доказанные в [3], [12] — [14] (Райфенберг, Морри, Адаме). 2.7. Теорема существования глобально минимальной поверхно- поверхности в каждом гомотопическом классе. Введение нового понятия стратифицированного объема и разработанная в [32] — [35] мето- методика его минимизации позволили затем решить задачу Плато в каждом гомотопическом классе, т. е. доказать существование ми- минимума в классе варифолдов, получающихся гомотопией какого- то одного фиксированного отображения /: V -*¦ М. Этот важный результат доказан в [44], где понятия стратифицированной поверх- поверхности и стратифицированного объема были успешно реализованы на функциональном языке варифолдов, в терминах которого и по- получена теорема существования. Пусть Мп — риманово многообра- многообразие, ТМп — его касательное расслоение. Обозначим через ТкМп стандартное расслоение с базой Мп, слоем которого над точкой х е Мп является грассманово многообразие fc-мерных подпро- подпространств в касательном пространстве ТхМп, а через GhMn — не- несвязное объединение Г,М", 0 «Si i < к. Определение 7 (см. [44]). Мультиварифолдом порядка к на М" называется всякая мера Радона с компактным носителем на GhMn. Векторное пространство мультиварифолдов порядка к на М" обозначим через VhMn. Пусть р: GhM" -»- Мп — проекция расслое- расслоения GhMn. Каждый мультиварифолд V е= VkMn можно единствен- единственным образом представить в виде суммы V = V + ... + Vk, где но- носитель меры V целиком содержится в ТгМп. Слагаемое V* @ ^ i sg к) назовем однородной компонентой степени i мультива-
734 А. Т. ФОМЕНКО рифолда V. Образ носителя меры V при проекции р назовем но- носителем мультиварифолда V и обозначим через spt* V. Далее обозначим индуцированную меру p^V на Мп через ИVII. Мультимассой мультиварифолда V <= VhMn называется набор (M0(V), ..., Mk(V)), где Mi{V) —это норма меры IIVII и называ- называется i-массой V; ft-масса V называется также его старшей массой. Укажем, как реализовать в виде мультиварифолда поверхность в многообразии. Пусть Sh — компактная fc-мерная поверхность в М". Отображение Sh: S*-*-GJlfn, Sk(z) —А-мерное касательное про- пространство к Sk в точке z является //^-измеримым. Тогда [S ] = = 5+(Я* П Sk)x где Я* П S" — ограничение меры Я* на S\ явля- является мультиварифолдом порядка к на И". Если же S = U S% — стратифицированная поверхность, то [S] = 2 [^1] — мультива- 0<i<h рифолд порядка к с однородными компонентами [S*]. Ясно, что spt* [S] = S и Mt ([S]) = vol, S\ 0 =? i < к. Лемма 1. Пусть V<^VhMn. Тогда для почти всех х^Мп (в смысле III Fill) существует, причем единственный, мультиварифолд Vx такой, что spt* F* = Ы, MO(\VX\)+ ... + Mk(WJ)= 1 и равен- равенство V(j) = §Vx(f)d\\\V\l(x) имеет место для произвольной непрерывной функции f на GhMn. Ясно, что F* обобщает понятие касательного пространства по- поверхности, поэтому мы назовем его касательным распределением мультиварифолда V в точке х. Пусть /: Мп -*¦ Nm — непрерывно дифференцируемое отображе- отображение римановых многообразий Мп и Nm. Дифференциал df индуци- индуцирует непрерывное отображение Gf: GhM" -*¦ GhNm, сопоставляющее яеСД" образ л при отображении df. Если rankd/U = i, то вы- выберем ортонормированный базис {еи ..., eh) в я так, чтобы iei+i, ..., ek} образовывали базис Kerd/L, и положим т/(я) = \d()df{)\ Легко убедиться в том, что т/ — бэровская функция на GhMn. Теперь индуцированное отображение Т (/): GkM" -*¦ GkNm опреде- определим формулой: Т(/) V = G (/)+(V П т/), V е VhMn. \ Отметим важное обстоятельство: T(f), в отличие от индуциро- ] ванного отображения /# в теории потоков (и варифолдов), не ан- аннулирует вырожденную часть мультиварифолда V, а переводит ее в компоненты низших степеней. Определение 8. Параметризацией порядка к класса Ст, 1<г< < » на If* называется всякая пара (W, /), где W <= VhNm — муль- мультиварифолд на некотором римановом многообразии Nm, a /: Nm-*¦ -*¦ М" — отображение класса Сг. Параметризации (Wu /,) и (Wz, U) будем называть Т-эквивалентными, если T{fi)Wl = T(f)W
ДОПОЛНЕНИЕ 2 735 Пусть W — фиксированный мультиварифолд на Nm. Обозначим через Рт(Мп, W) множество всех параметризаций класса Сг вида (W, /) на Мп. Ясно, что множество Tr(Mn, W)= {T(f)W; (W, /)s ei"(F, W)} можно отождествить с фактор-множеством Pr(M", W) по отношению эквивалентности, описанному выше. От- Отношение гомотопности в разных подмножествах в Pr(Mn, W) и Tr(Mn, W) естественно индуцируется обычным отношением гомо- гомотопности в соответствующих множествах отображений и разбива- разбивает эти подмножества на гомотопические классы. Процесс непрерывной деформации рассматриваемой как муль- мультиварифолд пленки с понижением ее размерности в некоторых зонах в слабой топологии VhMn оказывается разрывным. В связи с этим мы введем в Рт(Мп, W) и Tr(Mn, W) так называемую параметрическую топологию, уже согласованную с геометрией пле- пленок. Пусть Nm, Мп — римановы многообразия, a JT (N, М) — рас- расслоение г-струй из N в М. На Jr(N, M) можно задать риманову метрику с расстоянием dr. Обозначим г-струйное расширение ото- отображения /: N -»- М класса С" через Jf. Пусть V( = (W, /{)<= e=Pr(M, W), i = l, 2, a S— компакт в N. Положим d?(Vlt F2) = - savdrirUix), Jrh(x)). XSS Пусть {5J — фиксированная последовательность компактов в N о о таких, что SiCiSi+i nN= (J <S{ (St+l — внутренность Si+l). Тогда в Pr(M, W) можно ввести параметрическую метрику pr(^u V2) = •Si i + dsi(vv) Топологию Tr(M, W) определим как фактор-топологию Pr(M, W) по отношению Г-эквивалентности. Теорема 2 (см. [44]). Пусть Мп — полное, связное риманово многообразие, К — компакт в многообразии, х0 ^ Nm — некоторая точка. Тогда подмножество Pr(M, WH{(W, /): /(я,)еЯ, Lip ^/<x», 0 г^е xfe, 0<А;<г+1 — положительные числа, а также его фак- фактор-пространство по отношению Т-эквивалентности являются ком- компактными при ЛЮбоМ Г A<Гг?°°). Интеграндом над VkMn называется всякий функционал /, зада- задаваемый формулой / (У) = Vk {I) = j Vhx {I) d 1 j Vk 11 (*), где I - некоторая непрерывная функция на GhMn, которую назовем лаг- лагранжианом интегранда /; Fe VhM".
736 А. Т. ФОМЕНКО Наряду с интеграндами будем рассматривать и обобщенные ин- тегранды — верхние огибающие различных семейств интеграндов. В частности, обобщенным интеграндом является старшая масса Mh. Лемма 2 (см. [44]). Всякий обобщенный интегранд над VhMn полунепрерывен на Tr(M, W) с параметрической топологией. Теорема 2 и лемма 2 позволяют вывести, следуя классическому принципу Вейерштрасса, теорему существования решений боль- больших серий многомерных вариационных задач с классами парамет- параметризаций и параметризованных мультиварифолдов. В частности, имеет место следующее утверждение (Дао Чонг Тхи). Следствие 3 (см. [44]). Пусть Мп — полное, связное риманово многообразие, Кс=Мп — окрестностный ретракт {класса Cr), W е е VhMn — мулътиварифолд на римановом многообразии Nm, G <= с spt* W — компакт, причем существует деформация класса Ст многообразия N™ в некоторый компакт, оставляющая компакт G неподвижным. Тогда всякий обобщенный интегранд J достигает абсолютного минимума на каждом гомотопическом классе вида Г{М\ W)(\{T(f)W: f(Nm)c:K, f\c = g, Lip/'/^**, 0=?*<r+l}, где g: G -> Mn — некоторое заданное отображение, к( — положи- положительные числа. Более того, множество всех абсолютных миниму- минимумов J замкнуто в Tr(Mn, W) с параметрической топологией. При естественных предположениях следствие 3 остается спра- справедливым и тогда, когда некоторые из чисел хг- бесконечны. Да- Далее, в случае V = [S], где S — стратифицированная поверхность, понятие индуцированного отображения T(f), а также все изло- изложенные выше конструкции и результаты можно распространить на локально липшицевы отображения (Дао Чонг Тхи). Мы изложили здесь метод минимизации лишь обобщенных ин- интеграндов максимального порядка к. По аналогичной схеме можно определить стратифицированные обобщенные интегранды (важный пример — мультимасса) и осуществить их минимизацию во всех размерностях. Это отвечало бы задачам минимизации стратифици- стратифицированных функционалов типа объема. Пусть теперь W — компакт- компактное ^-мерное многообразие, рассматриваемое как мультиварифолд на самом W, причем край dW = G является некоторым фиксиро- фиксированным (к— 1)-мерным подмногообразием в Мп. Пусть далее g: G -*¦ G — тождественное отображение, и рассмотрим интегранд / = Мк. Тогда следствие 3 дает решение многомерной задачи Пла- • то в каждом гомотопическом классе поверхностей (или отображе- отображений) . Отметим также, что здесь G = dW может быть пустым под- '- множеством. Приведем теперь некоторые примеры функционалов типа объ-? ема, для которых выше была сформулирована теорема существо-; вания минимальной стратифицированной поверхности в каждом5 гомотопическом классе. Оказывается, класс функционалов «типа'1 объема» включает в себя достаточно интересные конкретные функ- 1 ционалы. Рассмотрим риманово многообразие Мп. Обозначим через i
ДОПОЛНЕНИЕ 2 " 737 ThM" грассманово расслоение с базой Мп, слоем которого над точ- точкой х е Мп является грассманово многообразие fe-мерных подпро- подпространств в касательном пространстве к Мп в точке х. Пусть 1: rhMn->-R1— произвольная непрерывная функция. Для каж- дой й-мерной поверхности S определим J {S) = j l(Sx)da{x)r s где Sx обозначает касательное пространство к S в точке ж, a da — элемент fc-мерного объема на S. Определенный нами функционал / назовем функционалом типа fc-мерного объема, задаваемым лаг- лагранжианом I. В частности, если I = 1, мы получаем классический функционал ^-мерного объема volv Приведем примеры других функционалов типа объема, играющих важную роль в геометрии, механике и физике. Пусть Мп = R3, (еи е2, е3) — стандартный ба- базис, S — двумерная поверхность в R3 с единичной внешней нор- -» малью га. Пример 1. Пусть Р = Р(х) — векторное поле на R3. Потоком векторного поля Р через поверхность S называется интеграл / (S) = J (P, n) da. Ясно, что / — функционал типа объема. Заме- s тим, что классический интеграл Гаусса, выражающий .меру телес- телесного угла,- под которым поверхность S видна из точки О, равен потоку векторного поля Р (х) = ——j- через поверхность S. Да- Далее, в среде, подчиняющейся закону теплопроводности Фурье, ко- количество тепла, протекшего через поверхность S за единицу вре- времени, равно потоку градиентного поля Я, • grad V через S. Здесь к = % (х) — коэффициент теплопроводности, U= U (х) — температу- температура. В гидростатике компоненты силы давления покоящейся жид- кости на поверхность S равны потокам векторных полей р-(п, е{)е{, где р = р(х) —давление жидкости (i = l, 2, 3). В гидродинамике имеем: количество жидкости при стационарном течении, протек- протекшей через поверхность S за единицу времени, равно потоку век- векторного поля ру через S, где р = р (ж) — плотность жидкости, a v = v(x) — скорость течения. Полный поток энергии идеальной жидкости совпадает с потоком векторного mumf-ili—1-со)ри, где \ 2 / ю = ю (х) — тепловая функция данной жидкости. Кинетическая энергия идеальной несжимаемой жидкости в ограниченном поверх- поверхностью S объеме при потенциальном течении равна потоку век- векторного nonH-|-<p'grad ф, где <р = ф(ж) — потенциал скоростей. В тео- теории электромагнитного поля полный заряд в ограниченном поверх- поверхностью S объеме, умноженный на 4я, равен потоку электрического
738 А. Т. ФОМЕНКО поля Е через поверхность S, а поток энергии поля совпадает с потоком векторного поля Пойнтинга-^г- [Ех Н\. Пример 2. Для течения идеальной жидкости количество ?-й компоненты импульса, протекшего в единицу времени через по- поверхность S, выражается интегралом Л (S) = J [ 2 (PSik + pVivh) (щ ?h)] do (t = 1, 2г 3), где р и р — давление и плотность жидкости соответственно, a vit Щ, v3 — компоненты скорости жидкости. Ясно, что Р(, i — l, 2, 3 являются функционалами типа объема. Пример 3. В теории упругости компоненты силы напряжений деформируемого тела, действующей на ограниченный поверхностью S объем, вычисляются по формуле F{(iS)= \ jj ^(и, efe) da, 8 U=l J i = 1,2,3,где о1к — тензор напряжений. Ясно, что F,-, ? = 1, 2, 3, являются функционалами типа объема. § 3. Методы конструктивного построения глобально минимальных поверхностей Конструктивное построение конкретных экстремалей за- затруднено тем, что нужно гарантировать минимальность поверхно- поверхности относительно любых, в том числе и «больших» вариаций. Ока- Оказывается, можно ввести новое понятие /^-дефекта многообразия, с помощью которого можно дать точную нижнюю оценку на объем топологически нетривиальных минимальных поверхностей. Эта оценка базируется на замечательном свойстве минимальных по- поверхностей — монотонности функции нормированного объема i|>//j (см. ниже теорему 3, а также [37], [39]). 3.1. Бордизмы и функции исчерпания. Пусть Мп — гладкое компактное ориентируемое связное многообразие с краем дМ = ~ Мt U М2, где М{ — связные ориентируемые многообразия. Будем рассматривать также и такие пленки М, где Ж, = 0. Пусть /: М-> ->-R— функция Морса, критические точки которой не лежат на крае дМ. Пусть /(Л/,) = 0, /(Л/2)=1, СК/*?1. Будем считать, что среди критических точек функции нет локальных минимумов и максимумов, если М^Ф^, МгФ0. Если Mt = 0, то будем счи- считать, что поверхность уровня (/ = 0) состоит из одной точки, являющейся невырожденным минимумом. Пусть fr = (f=r) — ги- гиперповерхность уровня. Рассмотрим подмножества Вт =(/<г). При изменении г от 0 до 1 области Вг расширяются, постепенно заполняя все М, «исчерпывая» его. Назовем / функцией исчерпа- исчерпания. Пусть на М задано гладкое векторное поле v, все особые точ-
ДОПОЛНЕНИЕ 2 739 ки которого невырожденны и не лежат на дМ. Предположим, что: а) у(/):>0 на дополнении к особым точкам поля v; б) любая кри- критическая точка функции / является особой точкой поля v; в) ин- индексы всех особых точек поля v (т. е. размерность сепаратрисного диска, заполненного входящими в особую точку интегральными траекториями) отличны от нуля и от га. Такое поле назовем /-монотонным. Пример: v = grad /. 3.2. Постановка задачи об оценке снизу объема поверхности. Пусть Хк <=¦ Мп — произвольная ^-мерная поверхность, пусть д^Х = = ХПМи дгХ = Х(]М2, дХ = д,Х\]дгХ. Пусть А <= М — фиксиро- фиксированный (к — 1)-мерный «контур», Я*** (А) — группы (ко)гомоло- гий, La/Tfc-Ti (А), Ьф§— фиксированная подгруппа (подмно- (подмножество). Рассмотрим класс F(L) всех компактов XciM таких, что: 1) dimX = k, Wh(x)**l для любой точки х^Х\дХ, где через Wk обозначена обычная функция сферической плотности подмножества vol.X(]D(s) X в многообразии М, т. е. Нш , . =?fe(z), где х*^Х, Е-»0 «ft W D(e) —га-мерный шар в М с центром в точке х и геодезического радиуса е, а 1(ь(е) — А;-мерный объем стандартного евклидова ша- шара радиуса е размерности к. Если х — регулярная точка X, то Ч\(ж)=1. 2) дг(Х)<=А. 3) При вложении i: A ->- д2Х -» XIдД име- имеем: i*L = 0, где i*: Яй_х (А)-^Нк_1(Х/д1Х), или L <= Im i*, где i*: Я»-1 (X/^XJ-^J?*-1^). Пусть F(L)=^0. Если^(/>) = = inf volfeX, то существует глобально минимальная поверх- XeF(L) ность (будем для краткости говорить о ГМ-поверхностях) Xos ^F(L) такая, что yo\kX0 = dk(L). Хотя все нижеследующие ре- результаты верны для любой экстраординарной теории h, мы огра- ограничимся обычной теорией Н. Из теоремы 1 следует, что на ГМ- поверхности выполняется неравенство Wh(x)^l. Пусть поверх- поверхность Хо/дДо проходит через особую точку * = пМ± в фактор-про- фактор-пространстве М/Ми где я: М -*¦ MIMi — факторизация. Построим функцию объема поверхности, положив if (X, f, r) = volfe X П Вг. Ясно, что ф — неубывающая по г функция. Общая задача: дать точную оценку снизу на функцию ф в терминах метрики много- многообразия М независимо от топологического типа ГМ-поверхности. Решение этой задачи позволит нам в явном виде предъявить мно- многие ГМ-поверхности (А. Т. Фоменко). 3.3. Определение и свойства коэффициента деформации поля. Пусть дано /-монотонное поле v. Обозначим через f интегральные траектории поля v на М. В силу /-монотонности почти все тра- траектории, начинающиеся на Ми достигают М2. Рассмотрим поле —v, из каждой точки x^Fr выпустим траекторию 4A). Возмож- Возможны два варианта: а) Т((т), начинаясь в х, заканчивается на Л/,; б) if(T)» начинаясь в х, заканчивается в особой точке поля. Мера траекторий типа б) равна нулю. Пусть Нх — (п—¦ 1) -мерная каса- касательная к М гиперплоскость, ортогональная вектору v в точке х.
740 А. Т. ФОМЕНКО ГЦ — произвольная (ft —1)-мерная плоскость в Нх. Рассмотрим экспоненциальное отображение (вдоль геодезических) ехрж: TJA-*¦ —- М. Пусть Sc = expxDk~i(e), где Д*-1(е) — шар малого радиуса е в плоскости П* с центром в точке О, ж = ехрв0. Тогда SB — (к — 1)-мерный шар радиуса е с центром в точке х. Из каждой точки y<=Ss выпустим траекторию f(x) поля —у и продолжим ее до конца. Совокупность всех этих траекторий образует трубку CSt, являющуюся почти всюду гладким й-мерным подмногообра- подмногообразием с краем (рис. 4). Положим Kft (х,Пх) = lim—р—^-.Пусть е-»о volft-l°e supxfe(o?,Пж) = кк(х). Функцию %к{х) назовем /е-мерным коэф- пж фициентом деформации поля v. Во многих случаях этот коэффи- коэффициент легко вычисляется (см. [37], [39]). Пример: пусть М — шар радиуса Л в Rn, /(х) = |х|, же Rn, t>"="grad/, xfe (х) = |х\Ik. 3.4. Основная теорема об оценке снизу объема ГМ-поверх- ностей. Теорема 3 (см. [37], [39]). Пусть f — функция Морса на М и v — f-монотонное поле, индексы особых точек которого не пре- превосходят числа к —2, где к<п. Пусть Хк с: Мп — глобально мини- минимальная поверхность X^F(L), dlX?'0, L?=0. Тогда всегда вы- выполняется неравенство: ^(Х, /, r)> I • q(r), где постоянная 1 = = lim if (X, /, a)lq (а) не зависит от г и определяется только ГМ- а-*о поверхностью; функция q(r) имеет вид: q (г) = ехр ] (max grad }\\ dr. Таким образом, поведение функции г|) определяется ее поведе- поведением лишь в начальный момент времени и геометрией объемлющего многообразия. В частности, vol» X* &* ^l-q(i). Эта оценка точна в том смысле, что существуют достаточно богатые серии четверок (М, X, /, v), для КОГОРЫХ неравенство превращает- превращается в равенство. В этих случаях мы по- получаем явные формулы для объема ГМ-поверхностей, что в свою очередь позволяет явно предъявлять сами Г М-поверхности. Эта теорема следует из более об- Рис. 4 щего утверждения (см. [37], [39]). Рассмотрим, например, задачу вычис- вычисления наименьшего объема ГМ-поверхностей, проходящих через центр шара в R". Предложение 4 (см. [39]). Пусть Xk czDnd'Rn—ГМ-поверх- ность, проходящая через точку О — центр шара Dn радиуса г.
ДОПОЛНЕНИЕ 2 741 Тогда г|э(Х, r)= voUXfl D" ^ 4^@) ^г*> Y*r*l=s volkZr, где Y*— к-мерный объем стандартного шара радиуса 1, 4^@)^1— илот- кость поверхности X в точке О, причем Wk(O)—i тогда и только тогда, когда точка О регулярна. Итак, объем любой минимальной поверхности любой коразмерности, проходящей через центр шара и имеющей границу на границе шара не меньше, чем объем стан- стандартного центрального плоского сечения шара (той же размер- размерности) . Этот результат обобщает известные оценки для аналитических поверхностей (см. обзор в {45]). Сформулируем гипотезу. Пусть X* a R" —произвольная ГМ-поверхность без границы, проходящая через точку О, являющуюся центром симметричной выпуклой об- области В. Тогда volfeX П Я > min volft Rft П В = volftR? П В, где минимум берется по всем /с-мерным плоским сечениям области В плоскостями Rb, проходящими через ее центр. Здесь R^ Л В минимальное плоское сечение области. Для куба в С2 и для комп- комплексно-аналитических поверхностей коразмерности 1 гипотеза вер- верна (см. [46], [47]). Случай X2 в R3 см. в [60] (Ле Хонг Ван). 3.5. F-дефект римановых вгаогообразий. Пусть Мп — замкнутое связное компактное риманово многообразие, х0 ^ М. Известно, что М представляется в виде клеточного комплекса, содержащего толь- только одну re-мерную клетку, гомеоморфную диску D", граница кото- которого приклеена к подкомплексу С, dimC^re—1. Тогда M\(CUx0) гомеоморфно открытому диску Dn с выброшенной точкой х0. Рас- Рассмотрим на М функцию /, гладкую на М\(С U х0), имеющую ровно один минимум в точке ха, f(xo) = 0, принимающую максимальное значение, равное 1 на С и не имеющую критических точек на М\(С U х0). Множество всех таких функций обозначим Q(x0). По- Положим y = grad/. Рассматривая тройку (Dn\a;0, /, v), определим г функцию qx (г) = exp | (max и», I grad/l Yldrr зависящую от х0, /. Определение 9. Функцией к-мерного F-дефекта многообразия М назовем функцию Щж0, /) = yhqx{\)\imahlqx(a), где qx A) = =lim<fco(r). В каждой точке хо^М рассмотрим число ?ik(x0) = =¦ sup Q(x0, /). Назовем k-мерным F-дефектом многообразия М число йь = inf Qft (x0). Это число зависит от М и к; ясно, что Qk > 0. Определим те- теперь геодезический F-дефект многообразия. Пусть exp,^: TXqM->-M— экспоненциальное отображение вдоль геодезических, исходящих из х0. Рассмотрим все значения параметра t, при которых ехрЖ()
742 А. Т. ФОМВВКО задает диффеоморфизм между шаром Dn @, t) а Тх М и его об- образом Вп(х0, t) в М, и пусть R(xo)= sup(?). Итак, R(x0) — это максимальный радиус открытого геодезического шара Вп(х0, t) с центром в х0, вписанного в М. Его радиусами будем считать гео- геодезические, исходящие из х0. Введем на геодезических радиусах диска В0—В(х0, R(x0)) натуральный параметр г, изменяющийся от 0 до R(x0), и рассмотрим на В0\х0 гладкую функцию f(x) = r, где x = f(r), т. е. значение функции в точке х равно расстоянию этой точки до х0, измеренному вдоль единственного радиуса, сое- соединяющего х0 с х. Положим v = grad / и рассмотрим тройку (В0\х0, f,v). Определение 10. Функцией k-мерного геодезического F-дефекта Я°(а:0) назовем функцию ykqXQ (R (x0)) lim ak/qX(j (а), где ^о(г) = т — exp J (тп&ххЛ'1 dr. Ясно, что ®к(хо) = УкЯх (В(х0)). Назовем к-мерным геодезическим F-дефектом многообразия М число &а = = Ымп°ь(х0). 3.6. Теорема о связи F-дефекта с абсолютными минимумами функционала объема. Пусть F(L') —H(x, 0, U) — вариационный класс, введенный нами выше. Его элементы — это поверхности, реализующие нетривиальные (ко) циклы в многообразии. Теорема 4 (см. [39]). Пусть X%cz Мп—ГМ-поверхностъ, реали- реализующая подгруппу (подмножество) (ко)циклов Ь'?=0, т. е. Хо е . Тогда volft Xo>/ sup 4k (,ro)\.Qfe> Qfe>0. Тем са- мым число Qk оказывается универсальной постоянной, оцениваю- оценивающей снизу к-мерный объем любой замкнутой минимальной по- поверхности, реализующей нетривиальный (ко)цикл в многообразии М. Во многих случаях эта оценка достигается на конкретных по- поверхностях. Аналогичное неравенство имеет место и для геодези- геодезического F-дефекта ОЦ, а именно: voIftX0^Q°>0. Ясно, что Qfe^Qfc. Если для некоторой поверхности Хо^ F(L') имеет место равенство \o\hX0 = Qk (или volA X0 = Ql), то эта поверхность яв- является гладким замкнутым подмногообразием в М. Эта теорема позволяет предъявлять богатые серии конкретных примеров ГМ-поверхностей. Введенные нами F-дефекты (функцио- (функциональные дефекты) многообразия часто вычисляются явно через метрические характеристики М. Если затем удается обнаружить в М подмногообразия нетривиального топологического типа, реа- реализующие (ко)циклы и имеющие объем, в точности равный F-де- фекту М, то в силу указанных теорем эти подмногообразия авто- автоматически являются ГМ-поверхностями, на которых функционал объема достигает абсолютного минимума.
ДОПОЛНЕНИЕ 2 .743 3.7. Серии примеров топологически нетривиальных глобально минимальных поверхностей. Теорема 5 (см. [34], [35]). 1) Пусть М2п = СРп — комплексное проективное пространство, п> 1,ипустьСРи= Xlk, KKn-1- стандартно вложенные комплексные проективные подпростран- подпространства, каждое из которых реализует образующую в 2к-мерной группе когомологий кольца когомологийН*(М', Z) = Z[x2]/{x™ )„ где dimx« = a. 2) Пусть М4" = QP™ — кватернионное проектив- проективное пространство, п>1, и пусть QP = XJ , l^k^n — 1,— стандартно вложенные кватернионные проективные подпростран- подпространства, каждое из которых реализует образующую в Ак-мерной груп- группе когомологий кольца Н* (М, Z) = Z [хА]/(х2+1). 3) Пусть Мп = = RP" — вещественное проективное пространство, п > 2, и пусть RPft = Х%, i<:k^n — 1,— стандартно вложенные подпростран- подпространства, каждое из которых реализует образующую в k-мерной груп- группе колъцаН*(М, Z2) = Z2 [*1]/(a#+1). 4) Пусть М16 = F4/Spin9- симметрическое пространство, содержащее стандартно вложенную сферу Sa = Xl, реализующую образующую в восьмимерной груп- группе когомологий кольца Н*(М, Z) = Z[x8]/(xl). Тогда каждое из перечисленных выше подмногообразий Х% является не только вполне геодезическим в М, но и глобально минимальной поверх- поверхностью, причем выполняется точное равенство vol Х„ = йр (М). На этих поверхностях функционал объема достигает абсолютного минимума, т. е. их объем наименьший среди всех поверхностей, реализующих нетривиальные (ко)циклы. Более того, любая ГМ-по- верхностъ Xg cz M, реализующая какой-либо нетривиальный (ко)цикл в размерности р, совпадает (с точностью до изометрии М) с указанным выше подмногообразием Xvu, реализующим обра- образующую группы когомологий в этой размерности. В частности, в каждой размерности р в многообразии М указанных типов мо- может быть только одна ГМ-поверхностъ. Список многообразий М (см. выше) исчерпывает собой все симметрические неприводимые пространства ранга один. Теорема 6 (см. i[34], [35]). 1) Пусть M = Gp+,,g,; l^q^p,— комплексное грассманово многообразие q-мерных плоскостей в (p + q)-мерном пространстве и СР1,...,СРР — набор стандарт- стандартно вложенных вполне геодезических подмногообразий, каждое из которых диффеоморфно комплексному проективному пространству и реализует элемент х\ кольца Н* (М, Z), которое до размерно- размерности 2р изоморфно кольцу полиномов Z[x2t xif ..., x2q]. Тогда все эти подмногообразия являются ГМ-поверхностями в М, и, кроме того, они реализуют абсолютный минимум функционала объема, т. е. volbX0 = Q' (М). Более того, эти значения размерности: 2,
744 А. Т. ФОЫЕВКО 4, 6, ..., 2р являются единственными, в которых существует мини- минимальная поверхность Хо такая, что volftXo = Qjj(ilf), т. е. для любой поверхности X0^F(L'), Ь'ФО имеем: volftХо>й? (М) при кФB, 4, 6, ..., 2р). 2) Пусть M = G^+q>q, l^q<p, тернионное грассманово многообразие, и пусть QjP1, ..., набор стандартно вложенных вполне геодезических подмногообра- подмногообразий, каждое из которых диффеоморфно кватернионному проек- проективному пространству и реализует элемент х\ кольца когомологий И* (М, Z), которое до размерности Ар+ 2 изоморфно кольцу по- линомов Z[x4, #8, ..., xip]. Тогда все эти подмногообразия явля- являются ГМ-поверхностями в М и, кроме того, они реализуют абсо- абсолютный минимум функционала объема, т. е. vol^ QPS = Q.°ia (M). Более того, эти значения к = А, 8, 12, ..., Ар являются единствен- единственными размерностями, в которых существует ГМ-поверхностъ та- такая, что volft Хо — Йй (М). Теорема 7 (см. [48], [49]). Перечисленные ниже вполне геоде- геодезические подмногообразия Хо в компактных симметрических про- пространствах М являются ГМ-поверхностями реализующего типа в своем классе (ко)гомологии; 1) М = UJUmXUn-m, n>2, lsg/rasg «S [п/2], Хо = Up/Uq X Up-q, p<n, q<m, где Up, U4, Up-q — стан- стандартно вложенные подгруппы в соответствующие группы Ли: Un, Um, Un-m. 2) M = SOJSO2XSOn-2, n>3, X0 = SOP/SO2XSOP-i, З^р^п, где SOP и SOp-2 стандартно вложены соответственно в SOn и SOn~z. 3) М = Sp2JUn, п>2, Хо = Sp2t/Ug, 2<g<n; вло- вложения Sp2q с Sp2n и Uq <=¦ Un стандартны. А) М = SO2JUn, n > 2, Хо = SO2q/Uq, 2 =s; q < re; вложения SO2q <= SO2n, Uq <=. Un стандарт- стандартны. 5) Пусть Хо — произвольное замкнутое кватернионное под- подмногообразие вещественной размерности четыре в кэлеровом ква- тернионном симметрическом связном компактном пространстве М. Тогда Хо является ГМ-поверхностъю в своем классе (ко) гомологии. Теорема 7 следует из результата, полученного в [48] — [51]. Новые результаты см. в [61], [62] (Ле Хонг Ван). § 4. Топологические свойства гармонических отображений как экстремалей функционала Дирихле 4.1. Случай отсутствия локальных минимумов функциона- функционала Дирихле в классе отображений однородных пространств в про- произвольное риманово многообразие. Пусть Мт и Nn — гладкие ри- мановы многообразия без края, причем М компактно, замкнуто и ориентируемо. Пусть gv и ga» — римановы метрики на М п N со- соответственно. С каждым гладким отображением f:M-^-N связан его дифференциал df, отображающий касательное пространство ТМ в THx)N. Пусть хх, ..., хт — локальные координаты на М, ; а Ун • • •• Уп — локальные координаты на N. Тогда отображение / j
ДОПОЛНЕНИЕ 2 745 записывается так: уа = уа(х1, ..., хт), l^a^n. Пусть gij — эле- элементы матрицы, обратной к матрице (gu), пусть dmx — стандарт- стандартная /re-мерная внешняя форма риманова объема на М. Определим функционал Дирихле равенством D [/] = \ ?gti -^- —х— Этот функционал определен на бесконечномерном пространстве гладких (кусочно гладких) отображений М в N. Гармонические отображения — это экстремали функционала Дирихле. Через 6,/)[/] будем обозначать первую вариацию функционала D в точ- точке / по направлению векторного поля т), являющегося векторным полем на многообразии N и определенном в окрестности образа f{M). Обычно рассматриваются поля определенного класса, на- например Н\. Пусть /о — критическая точка (экетремаль) функцио- функционала Дирихле, т. е. 6„О[/0] = 0 для любого возмущения i\. Пусть 62D — вторая вариация функционала Дирихле в точке /0. Удобно представлять ее как билинейную форму на линейном пространстве всех векторных полей, определенных в малой окрестности образа f(M). Рассмотрим максимальное подпространство векторных по- полей, на котором форма 82D отрицательно определена. Размерность этого подпространства называется индексом критической точки /о, т. е. индексом гармонического отображения /0- Обозначим его че- через ind /о. Если индекс равен нулю, то отображение является ло- локальным минимумом для функционала Дирихле. Если индекс положителен, то экстремаль /0 является седловой точкой, т. е. существуют направления возмущения, вдоль которых функционал уменьшается. Известно, что индекс гармонического отображения всегда конечен. Чтобы доказать, что функционал Дирихле не име- имеет локальных минимумов в классе отображений /: М -*¦ N, доста- достаточно показать, что индексы всех гармонических отображений из этого класса строго положительны. Как мы видели, функционал объема и функционал Дирихле теснейшим образом связаны. Тем не менее в отличие от функционала объема существует много при- примеров многообразий М и N таких, что функционал Дирихле не имеет никаких локальных минимумов в классе отображений /: М -*¦ N, отличных от тривиальных, т. е. от отображений в точку. Определение 11. Компактным неприводимым однородным про- пространством (многообразием) М называется однородное простран- пространство G/H, полученное факторизацией компактной группы Ли G по компактной подгруппе Н, причем линейное представление Н на касательном пространстве к М в точке х0 = еН неприводимо. Например, неприводимым компактным однородным простран- пространством является сфера Sn~\ допускающая представление SOJSOn-i. Пусть М — N и /: М -*¦ N — тождественное отображение. Легко ви- видеть, что оно — гармоническое. Следовательно, определен индекс тождественного отображения М на себя. Сформулируем здесь не- некоторые результаты, полученные А. И. Плужниковым. 48 г. Федерер
746 А. Т. ФОМЕНКО Теорема 8 (см. [53], [55]). Пусть М — компактное неприводи- неприводимое однородное риманово пространство и /: М -*¦ N — непостоян- непостоянное (т. е. отличное от отображения в точку) гармоническое ото- отображение М в любое гладкое риманово многообразие N. Предпо- Предположим, что индекс тождественного отображения многообразия М на себя положителен. Тогда индекс отображения f:M-+N также положителен. Другими словами, среди гармонических непостоян- непостоянных отображений М в N нет локальных минимумов функционала Дирихле. Результаты такого рода указывают на глубокие различия меж- между функционалом Дирихле и функционалом объема. Выше мы говорили о замкнутых многообразиях. Если же рассматривать мно- многообразия с краем, то известны случаи, когда функционал Дирих- Дирихле достигает абсолютного минимума в классе гомотопически не- нетривиальных отображений (см., например, [9]). Укажем теперь примеры многообразий, удовлетворяющих условиям теоремы 8. Предложение 5 (см. [53], [55]). Никакое непостоянное гармо- гармоническое отображение следующих компактных замкнутых рима- новых многообразий М в любое риманово многообразие N не яв- является локальным минимумом функционала Дирихле: 1) стандарт- стандартные сферы Sm при пг^З; 2) кватернионные грассмановы много- многообразия Spp+q/Spp X Spq; 3) многообразия SUZp/Spp при р > 1. Все эти многообразия являются компактными неприводимыми однородными пространствами, для которых индекс тождественно- тождественного отображения положителен (см. [52]). Если многообразие М яв- является сферой, то утверждение предложения 5 можно усилить. Предложение 6 (см. [53], [54]). Пусть /: Sm -»- N — непостоян- непостоянное гармоническое отображение стандартной сферы, где m > 3, в произвольное гладкое риманово многообразие N. Тогда выпол- выполнено неравенство ind / ^ m + 1. Эта оценка в общем случае неулучшаема, так как в E2] до- доказано, что в частном случае тождественного отображения сферы на себя (при пг>3) его индекс в точности равен пг + 1. Можно указать глобальные аналоги этих результатов о недо- недостижимости минимумов функционала Дирихле в нетривиальных гомотопических классах. Определение 12. Гладкое отображение /: М-*¦ N двух много- многообразий называется 2-стягиваемым, если гомотопически тривиаль- тривиально ограничение /1[М]2 отображения / на 2-мерный остов некото- некоторого (и, следовательно, любого) клеточного разбиения многооб- многообразия М. Теорема 9. Рассмотрим отображение /sC°°(Af, N) гладких ри- мановых многообразий и предположим, что М замкнуто. Тогда ми- минимум функционала Дирихле в гомотопическом классе отображе- отображения / inf/) = O тогда и только тогда, когда отображение f ^-стя- ^-стягиваемо.
ДОПОЛНЕНИЕ 2 747 Заметим, что М двухсвязно тогда и только тогда, когда тож- тождественное отображение idM 2-стягиваемо. Следствие 4 (см. [55]). Пусть М — замкнутое гладкое римано- во многообразие. Тогда inf D = 0 тогда и только тогда, когда [М] каждая компонента связности многообразия М двухсвязна, т. е. ее первая и вторая гомотопические группы тривиальны. Следующие два утверждения являются основными технически- техническими результатами, используемыми в доказательстве теоремы 9. Лемма 3. Существует диффеотопия ср( @^f<l) многообра- многообразия М такая, что ф0 = id^, и если отображение / 2-стягиваемо, то D\j ° ф(] -»- 0 при t -*¦ 1. Лемма 4. Рассмотрим произвольные отображения N' -*• М ->¦ -+N-+N" гладких римановых многообразий (N' компактно). Пусть inf D — 0. Тогда inf D = 0 в гомотопических классах {/¦>/'] f у и [Г-if. Д Гif Доказательство леммы 3 проводится явным построением диф- феотопии ф(. На многообразии М выбирается произвольная функ- функция Морса ц. Диффеотопия ф, моделирует деформацию М вдоль траекторий поля grad(—\х) и строится индукцией по ручкам в виде композиций «локальных» диффеотопий, каждая из которых сосредоточена на одной из ручек. Результирующее семейство ф4 тождественно на некотором стратифицированном подмногообразии коразмерности >3 в М (объединении левых сепаратрисных ди- дисков функции —\l) и «перетягивает» в малую окрестность 2-мер- 2-мерного остова дополнение к этому подмногообразию. Следствие 4 можно обобщить на функционалы более общего вида Ш Обычный функционал Дирихле получается при р = 2. Сформули- Сформулируем результат А. В. Тырина. Предложение 7 (см. [63]). Пусть М — связное замкнутое ри- маново многообразие, р > 1. Тогда inf Dp = 0 тогда и только тог- [1а] [] да, когда М является [р]-связным, т. е. niM = ... = я[Р]М = 0 (здесь [р] — наибольшее целое число, не превосходящее р). Позднее аналогичные результаты были анонсированы в [57]. 4.2. Случаи отсутствия локальных минимумов функционала Дирихле в классе отображений произвольного риманова многооб- многообразия в однородное пространство. Оказывается, существуют фак- факты, в некотором смысле двойственные результатам предыдущего пункта об отсутствии локальных минимумов. Рассмотрим гладкие отображения произвольного гладкого риманова многообразия М в 48»
748 А. Т. ФОМЕНКО компактное неприводимое однородное пространство N. Другими словами, поменяем ролями многообразия М и N из предыдущего пункта, сохранив, впрочем, прежние обозначения для образа и прообраза. Приведем здесь некоторые из результатов, полученных А. В. Тыриным. Теорема 10 (см. [56]). Пусть М —связное компактное ориен- ориентируемое замкнутое гладкое риманово многообразие, а N — ком- компактное неприводимое однородное пространство, снабженное есте- естественной инвариантной римановой метрикой. Предположим, что индекс тождественного отображения многообразия N на себя по- положителен. Тогда любое гармоническое отображение f: M -> N, не являющееся постоянным, также имеет положительный индекс, т. е. не является точкой локального минимума для функционала Дирихле. Таким образом, как и п. 4.1 вопрос о положительности индек- индекса тождественного отображения неприводимого однородного про- пространства на себя является центральным при решении задачи о существовании локальных минимумов функционала Дирихле на пространствах отображений /: М -> N. Предложение 8 (см. [52], [56]). Пусть N — компактное непри- неприводимое симметрическое пространство с инвариантной метрикой. Тогда индекс тождественного отображения N на себя всегда равен нулю, за исключением следующих случаев; Sn, п > 3; SUirJSpm, m>l; SpP+q/SpPXSpq; F4/Spin9; EJFk- SUm, m>l; Spm. Комбинируя этот результат с теоремой 10, получаем Предложение 9 (см. [56]). Из всех компактных неприводимых симметрических пространств N для пространств Sn, n>3; SU2m/Spm, то>1; Spp+q/SppXSpq; F4/Spin9; EJFk\ SUm; m>l; Spm и только для них выполнено следующее свойство: никакое гладкое непосто- непостоянное отображение f:M-+N любого связного компактного ориен- ориентируемого риманова многообразия М в многообразие N не является точкой локального минимума для функционала Дирихле. В частно- частности, в этих случаях не достигается и абсолютный минимум функ- функционала. Для всех перечисленных многообразий N можно указать тот класс деформаций, среди которых для любого гармонического ото- отображения f: M-*¦ N заведомо найдется деформация, уменьшающая значение функционала Дирихле на этом отображении. Для каж- каждого гармонического отображения / существует, вообще говоря, своя сокращающая деформация из этого класса. Рассмотрим частный случай, когда N = S", п > 3. В этом слу- случае можно явно предъявить класс деформаций, содержащий со- сокращающую деформацию, т. е. уменьшающую значение функцио- функционала Дирихле для гармонического отображения f:M-*-Sn и да- дающую ненулевой вклад в индекс критической точки /. Для этого достаточно рассмотреть ограничения на сферу Sn, стандартно вло- вложенную в Rn+1>. координатных линейных функций, порожденных
ДОПОЛНЕНИЕ 2 749 декартовыми координатами в Rn+1. Другими словами, рассмотрим на сфере Sn функции h(x) = x{, где lsgjsg/i+l, xt — i-я коорди- координата точки х. Наконец, возьмем градиенты этих функций. В ре- результате получим набор из п +1 векторных полей на сфере. Эти поля и задают класс деформаций, содержащих деформацию, умень- уменьшающую значение функционала Дирихле в критической точке, яв- являющейся тождественным отображением. Для двумерной сферы утверждения теорем 8 и 10 неверны, Поскольку, как хорошо известно, любое голоморфное отображение кэлеровых многообразий (в частности, тождественное отображение сферы на себя) реализует минимум функционала Дирихле в своем гомотопическом классе. Перечисленные результаты касаются однородных пространств, снабженных естественными инвариантными метриками. Возникает вопрос об устойчивости этих результатов относительно малых воз- возмущений римановых инвариантных метрик. Оказывается, в неко- некоторых случаях устойчивость имеется. Пусть Nn — компактное за- замкнутое гладкое подмногообразие в сфере Sp, причем N не лежит ни в каком экваторе Sp~l, получающемся сечением сферы Sp ги- гиперплоскостью, проходящей через центр сферы. Пусть В — вторая фундаментальная форма вложения подмногообразия N с: Sp. Фор- Форма В(Х, Y) определена на парах векторов X, Y, касательных к подмногообразию N. Пусть еи ..., еп — ортонормированный базис в касательной плоскости к N. Тогда норму ШН формы В можно п определить так: |5|2= 2 \}В (еь ei) I2» где \В(Х, Y)\ обозначает t,j=i длину вектора В(Х, Y). Напомним, что форма В принимает зна- значения в множестве векторов, ортогональных к N. Теорема 11 (см. [56]). Пусть Nn — компактное гладкое замкну- замкнутое подмногообразие в стандартной сфере Sp, и пусть В — вторая фундаментальная форма вложения N в Sp. Предположим, что вло- вложение N <=. Sp удовлетворяет условию A + тах{1, Уп — 1/2})Ш12< < п — 2, где п = dim N > 3. Тогда для любого гладкого непостоян- непостоянного гармонического отображения f произвольного гладкого связ- связного ориентируемого компактного замкнутого многообразия М в многообразие N индекс этого отображения положителен. В частно- частности, никакое непостоянное гармоническое отображение f:M->-N не является точкой локального минимума для функционала Ди- Дирихле, и он, вообще, не достигает абсолютного минимума на лю- любом нетривиальном гомотопическом классе отображений /: М-*- N. Итак, предложение 9, справедливое для стандартной сферы Sn, п > 3, остается справедливым и для всех римановых метрик на ней, получающихся малым возмущением стандартной метрики. Ус- Условие теоремы 11 означает, что подмногообразие N «не очень силь- сильно искривлено» в сфере Sp. Если N — плоское сечение сферы, то форма В равна нулю, и условие теоремы 11 выполнено. Многооб-
750 А. Т. ФОМЕНКО разие, удовлетворяющее условию теоремы 11, обязательно явля- является гомотопической сферой и, следовательно, при га ^ 4 гомео- морфно стандартной сфере. В качестве приложения результатов этого пункта рассмотрим вопрос о регулярности отображений римановых многообразий, ло- локально минимизирующих функционал Дирихле. Будем считать, что N изометрически вложено в евклидово пространство, N cz R . Рас- Рассмотрим пространство Соболева W\ {M, R ) (классов эквивалент- эквивалентных) вектор-функций на М, ?2-интегрируемых вместе со своими обобщенными производными. Положим W\ (M, N) - {/е= W\ (M, Rft): vol (М\ГХ {N)) = 0]. Распространим определение функционала Дирихле D по прежней формуле на W\(M, N). Р. Шен и К. Уленбек установили [58] следующий критерий регулярности (гладкости) отображений из W2(M, N), которые минимизируют D. Пусть известно, что любое гладкое однород- однородное отображение F: R9\{0}->iV, определяемое гладким гармони- гармоническим отображением /: S4'1 ->- N по формуле F(x) = j{x/\x\) и устойчивое на компактных подмножествах R9\{0}, постоянно при 3 «S q < I. Тогда при т «S I любое отображение / е W\ {M, N), ко- которое минимизирует D, является гладким (хорошо известно, что при dimM = l, 2 любое минимизирующее отображение явля- является гладким). Отсюда следует, что для доказательства регулярности достаточ- достаточно проверять неустойчивость гармонических отображений R9\{0}-v^специального вида. В '[59] показано, что минимизирующие отображения в сферы со стандартными метриками Мт -*¦ Sn являются гладкими при т «S ^d(n), d(n) = min{[n/2] + I, 6), п > 3; dB) = 2 (напомним, что [г] — наибольшее целое, не превосходящее г). Результаты о неустойчивости, приведенные выше, позволяют получать новые теоремы о регулярности, например для отображе- отображений в сферы с метриками, близкими к стандартным. Сформули- Сформулируем еще несколько результатов А. В. Тырина. Пусть iVn cr R" х — полная ориентируемая гиперповерхность, пусть \i обозначает поточечный максимум главных кривизн на N, к (к')—поточечный максимум (минимум) двумерных секционных кривизн на N. Предложение 10. Если при некотором I > 3 выполняется не- неравенство то для любого Мт отображения из W\ (M, N), минимизирующие функционал Дирихле, являются гладкими при m ^ min {I, 5}.
ДОПОЛНЕНИЕ 2 __751 Иными словами, при небольших изменениях метрики на 5П, порожденных малыми деформациями стандартного вложения Sn с Rn+1, свойство регулярности минимизирующих отображений в большинстве случаев сохраняется. Оказывается, что это же вер- верно и для произвольных малых изменений стандартной метрики на Sn. Теорема 12 (см. [64]). Существует такая Сг-окрестность стан- стандартной метрики на сфере 5", что для любой метрики h из этой окрестности любое минимизирующее отображение Мт -*¦ (Sn, h) яв- является гладким при m sg min {(n + 1)/2,5>. СПИСОК ЛИТЕРАТУРЫ [1] Дубровин Б. А., Новиков СП., Фоменко А. Т. Современная геометрия.— М.: Наука, 1979.— 759 с. '[2] Курант Р. Принцип Дирихле, конформные отображения и минималь- минимальные поверхности.— М.: ИЛ, 1953.— 311 с. [3] Моггеу Ch. В. Multiple integrals In the calculus of variations.—Ber- variations.—Berlin: Springer, 1966. [4] Douglas J. Minimal surfaces of higher topological structure /Ann. of Math.— 1939.— V. 40.— P. 205—298. [5] Моггеу Ch. B. The problem of Plateau on a Riemannian manifold/'Ann. of Math.— 1948.— V. 49. No. 4.— P. 807—851. '[6] Оссерман Р. Минимальные поверхности/УМН.—1967.— Т. 22, вып. 4.^ С. 55—136. [7] Osserman R. Global properties of minimal surfaces in E3 and E"/Ann. of Math.— 1964.— V. 80, No. 2.— P. 340—364. [8] Nitsche J. С. С. On new results in the theory of minimal surfaces/Bull. Am. Math. Soc— 1965.— V. 71 — P. 195—270. [9] Фоменко А. Т. Вариационные методы в топологии.— М.: Наука, 1982.— 343 с. [10] Simons J. Minimal varieties in Riemannian manifolds/Ann. of Math.— 1968 — V. 88.- P. 62—105. [11] Federer H. Some theorems on integral currents/Trans. Am. Math. Soc— 1965.— V. 117.— P. 43-67. [12] Reinfenberg E. R. Solution of the Plateau Problem for m-dimensio- nal surfaces of varying topological type/Acta Mathematica.—1960.— V. 104.— P. 1—92. [13] Reifenberg E. R. An epiperimetric inequality related to the analyti- city of minimal surfaces/Ann. of Math.— 1964.— V. 80.— P. 1—14. [14] Reifenberg E. R. On the analyticity of minimal surfaces/Ann. of Math.— 1964.- V. 80 — P. 1—21. [15] Federer H., Fleming W. H. Normal and integral currents/Ann. of Math.—1960.— V. 72.— P. 458—520. [16] Federer H. Hausdorff measure and Lebesgue area/Proc. Nat. Ac. Sci. U. S. A.— 1951.— V. 37- P. 90-94. [17] Federer H. Measure and area/Bull. Am. Math. Soc—1952.—V. 58.— P. 306—378. [18] A1 m g г e n F. J., Jr. Existence and regularity almost everywhere of solu- solutions to elliptic variational problems among surfaces of varying topological type and singularity structure/Ann. of Math.—1968.—V. 87.—P. 321—391. [19] Almgren F. J., Jr. Plateau's Problem.—New York: W. A. Benjamin, 1966. [20] Almgren F. J. Jr. Some interior regularity theorems for minimal surfa- surfaces and an extension of Bernstein's theorem/Ann. of Math.— 1966.—V. 84.— P. 277—292.
752 А. Т. ФОМЕНКО [21] Fleming W. H. On the oriented Plateau problem/Rend. Circ. Mat. Pa- Palermo. Ser. 2.— 1962.- V. 11, № 1.— P. 1—22. [22] Bombieri E., De Georgi E., Giusti E. Minimal cones and the Bern- Bernstein problem/ Invent. Math.—1969.—V. 7, No. 3.—P. 243—523. [23] Allard W. K. On boundary regularity for Plateau's problem/Bull. Amer. Math. Soc— 1969.— V. 75. No. 3.— P. 522—523. [24] Фоменко А. Т. Существование и почти всюду регулярность минималь- минимальных компактов с заданными гомологическими свойствами/' ДАН СССР.— 1969.— Т. 187, вып. 4.— С. 747—749. V [25] Фоменко А. Т. Некоторые случаи реализации элементов гомотопиче- гомотопических групп однородных пространств вполне геодезическими сферами/ДАН . СССР.- 1970.- Т. 190, вып. 4.— С. 792-795. [26] Фоменко А. Т. Многомерная задача Плато и особые точки минималь- минимальных компактов/ДАН СССР.— 1970.— Т. 192, вып. 2.— С. 293—296. [27] Фоменко А. Т. Гомологические свойства минимальных компактов в многомерной задаче Плато/ДАН СССР.—1970.—Т. 192.—С. 38—41. v' [28] Фоменко А. Т. Реализация циклов в компактных симметрических пространствах вполне геодезическими подмногообразиями/ДАН СССР.— 1970.— Т. 195, вып. 4.— С. 789—792. ' [29] Фоменко А. Т. Вполне геодезические модели циклов/Труды семинара по вект. и тенз. анализу.— М.: Изд-во МГУ, 1972.— Вып. 16.— С. 14—98. [30] Фоменко А. Т. Многомерная задача Плато в экстраординарных тео- теориях гомологии и когомологий/ДАН СССР.—1971.—Т. 200, вып. 4.— С. 797—800. [31] Фоменко А. Т. Периодичность Ботта с точки зрения многомерного функционала Дирихле/Изв. АН СССР.— 1971.— Т. 35, вып. 3.— С. 667—681. [32] Фоменко А. Т. Минимальные компакты в римановых многообразиях и гипотеза Райфенберга/Йзв. АН СССР.— 1972.— Т. 36, вып. 5.— С. 1049— 1080. [33] Фоменко А. Т. Многомерная задача Плато в римановых многообрази- многообразиях/Мат, сб.— 1972.— Т. 89 A31), вып. 3.— С. 475—520. [34] Фоменко А. Т. Многомерные задачи Плато на римановых многообра- многообразиях и экстраординарные теории гомологии и когомологий. Часть 1/Тру- 1/Труды семинара по вект. и тенз. анализу.— М.: Изд-во МГУ, 1974.— Вып. 17.— С. 3—176. [35] Фоменко А. Т. Многомерные задачи Плато на римановых многообра- многообразиях и экстраординарные теории гомологии и когомологий. Часть 2/Тру- 2/Труды семинара по вект. и тенз. анализу.— М.: Изд-во МГУ, 1978.— Вып. 18.— С. 4—93. [36] Фоменко А. Т. Геометрические вариационные задачи. Современные проблемы математики/Итоги науки и техники. Т. 1.— М.: Наука, 1973.— С. 39-59. [37] Фоменко А. Т. Универсальная оценка снизу на скорость роста глобаль- глобально минимальных решений/ДАН СССР.— 1980.— Т. 251, вып. 2.— С. 295— 299. [38] Fomenko A. T. Multidimensional Plateau problem on Riemannian mani- manifolds. On the problem of the algorihmical recongnizability of the standard three-dimensional sphere/Proc. of the Intern. Congress of Math. Vancou- Vancouver.— 1974— V. 1.— P. 515—525. [39] Фоменко А. Т. О минимальных объемах топологических глобально минимальных поверхностей в кобордизмах/Изв. АН СССР.— 1981.— Т. 45, вып. 1.— С. 187—212. [40] Фоменко А. Т. Многомерные вариационные методы в топологии экст- ремалей/УМН.- 1981.-Т. 36, вып. 6- С. 105-135. [41] Стинрод Н., Эйленберг С. Основания алгебраической топологии.— М., Физматгиз, 1958.— 408 с. [42] Whitehead G. W. Generalized homology theory/Trans. Amer. Math. Soc- 1962.- V. 102.- P. 227-283.
ДОПОЛНЕНИЕ 2 753 [43] Edgar H., Brown J. Cohomology theories/Ann. of Math.—1962.— V. 75. No. 1.- P. 467—484 [44] Дао Чонг Тхи. Мультиварифолды и классические многомерные зада- задачи Плато/Изв. АН СССР.—1980.—Т. 44, вып. 5.—С. 1031—1065. [45] Гриффите Ф., Кинг Дж. Теория Неванлинны и голоморфные ото- отображения алгебраических многообразий.— М.: Мир, 1975,— 96 с. [46] Кацнельсон Б. Э., Ронкин Л. И. О минимальном объеме анали- аналитического множества/Сиб. мат. журн.— 1974.— Т. 15, вып. 3.— С. 516—528. [47] Ронкин Л. И. О дискретных множествах единственности для целых функций экспоненциального типа многих переменных/Сиб. мат. журн.— 1978.— Т. 19, вып. 1.— С. 142—152. [48] Дао Чонг Тхи. Многомерная вариационная задача в симметрических пространствах/Функц. анализ.—1978.— Т. 12, вып. 1.— С. 72—73. [49] Дао Чонг Тхи. О минимальных потоках и поверхностях в римано- вых многообразиях/ДАН СССР.— 1977.— Т. 233, вып. 1.— С. 21—22. [50] Дао Чонг Тхи. Алгебраические вопросы реализации циклов в сим- симметрических пространствах/Вести. МГУ.— 1976.— № 2.—С. 62—66. [51] Дао Чонг Тхи. Вещественные минимальные потоки в компактных группах Ли/Труды семинара по вект. и тенз. анализу.— М.: Изд-во МГУ.— 1978.- Вып. 19.— С. 112-129. [52] Smith R. Т. The second variation formula for harmonic mappings/Proc. Amer. Math. Soc— 1975.- V. 47, No. 1 — P. 229-236. [53] Плужников А. И. Некоторые геометрические свойства гармонических отображений/Труды семинара по вект. и тенз. анализу.— М.: Изд-во МГУ,— 1985.— Вып. 22.- С, 132—147. [54] Плужников А. И. Некоторые свойства гармонических отображений в случае сфер и групп Ли/ДАН СССР.— 1983.— Т. 268, вып. 6.— С. 1300— 1302. [55] Плужников А. И. Задача минимизации функционала энергии.— М., 1984, 40 с— Деп. в ВИНИТИ 01.08.84, № 5584—84. [56] Тырин А. В. Критические точки многомерного функционала Дирихле/ Мат. сборник.— 1984.— Т. 124, вып. 1.— С. 146—158. [57] White В. Homotopy classes in Sobolev spaces and energy minimizing maps/Bull. Amer. Math. Soc—1985.—V. 13. No. 2.—P. 166—168. [58] Schoen R, Uhlenbeck K. A regularity theory for harmonic maps/ J. Diff. Geom.— 1982.— V. 17, No. 2.— P. 307—335. .[59] Schoen R., Uhlenbeck К Regularity of minimizing harmonic maps into the sphere/Invent. Math.—1984.—V. 78, No. 1.—P. 89-101. [60] Ле Хонг Ван. Рост двумерной минимальной поверхности/УМН.— 1985.—Т. 40, вып. 3.—С. 209—210. [61] Ле Хонг Ван. Минимальные поверхности и формы калибровки в симметрических пространствах/Труды семинара по векторному и тензор- тензорному анализу.—М.: МГУ, 1985.—Вып. 22.—С. 107—118. [62] Ле Хонг Ван. Новые примеры /^-поверхностей.— В кн.: Геометрия, дифференциальные уравнения и механика.—М.: МГУ, 1986.—С. 102—105. [63] Тырин А. В. Задачи минимизации функционалов типа Дирихле.— В кн.: Геометрия, дифференциальные уравнения и механика.— М.: МГУ, 1986 —С. 146—150. [64] Тырин А. В. Регулярность гармонических отображений в сферы.— В кн.: Современные вопросы механики и технологии машиностроения.— М.: ВИНИТИ, 1986.—С. 61. [65] Иванов А. О. Глобально минимальные симметрические поверхности э евклидовом пространстве.—В кн.: Геометрия, дифференциальные урав- уравнения и механика.— М.: МГУ, 1986.— С. 69—71. [66] Тужилин А. А. О бифуркации некоторых двумерных минимальных поверхностей при двухпараметрической вариации контура.— В кн.: Геометрия, дифференциальные уравнения и механика.— М.: МГУ, 1986.—¦ С. 140—145.
СЛОВАРЬ НЕКОТОРЫХ СТАНДАРТНЫХ ОБОЗНАЧЕНИИ (применяемых, но не определяемых в тексте) Принадлежит: е Включение: сг Пустое множество: 0 Описание: {ж: } — класс всех тех ж, для которых Классы с перечисленными элементами: {а}, {а, 6}, {а, 6, с}, ... Объединение, пересечение, разность множеств А ж В: А\}В, А[\В, А\В Объединение семейства F: [) F = [} А = {х: х е4 для некоторого A&F) Пересечение семейства F: Л F = Л А = {х: х е А для всех А е F) ASF Упорядоченная пара: (ж, у) Последовательность: s = (»i, «2, «з, • ¦ ¦) Область определения, множество значений функции /: dmn/, im/ Отображение, обратное /: /-' = inv/ = {{у, х): (х, у) е /} Композиция: gof= {(ж, г): (х, у) е/ и (у, г)е{ для некоторого у} Отображение: / отображает X в У (/: Х-»-У) тогда и только тогда, когда / — функция, dmn/ = Хиип/сгУ <ж, /> = /(ж) — единственное у такое, что (ж, у)е/ <.-, !/> = /(•)=/ Тождественное отображение множества А: 1л Сужение: f\A =/П{(ж, у): же 4} Декартово произведение: ХХУ={A, у)' х^Х я цеУ) Если /: А-+В и *: C-»-D, то fXg: AXC-+BXD (/Хв)(«, с) = •=(/(«), g(c)) для (а, с)е4ХС re-кратное декартово произведение множества X: Хп Класс всех функций, отображающих X в У: Yx Кардинальное число множества S: card 5 т-е бесконечное кардинальное число Xm-i Внутренность, замыкание, граница множества Т: Int T, Clos T, Bdry T Изоморфизм: ~ Совокупность классов эквивалентности: G/H Ядро гомоморфизма /: ker / Прямые суммы: Few, ©У, Кольца целых, целых по модулю v: Z, Zv == Z/(vZ) Поля рациональных, вещественных, комплексных чисел: Q, R, С Корень квадратный из —1: i = @, 1) е С = R X R Размерность векторного пространства У над R, над С: dim У, dimc У Класс всех R линейных функций, отображающих У в W: Нот (У, W)
СПИСОК ОСНОВНЫХ ОБОЗНАЧЕНИЙ, ОПРЕДЕЛЯЕМЫХ В ТЕКСТЕ (в порядке их появления) 1.1.1. ® 1.2.3. ®* ®т 1.3.1. Я Л* Лт Л 1.3.2. ек Л(ге, т) 1.3.3. Sh. (p, q) index (о) 1.3.4. det (/) 1.4.1. Л Нот7" Л^ <5, /> 1.4.2. Л 1.4.3. ах 1.4.5. Г(/) tr 1.5.1. J L 1.5.2. Dp DP 1.6.2. G(n, m) G0(re, m) 1.6.6. Лс Л2 1.7.1. ж.» |ж| 1.7.2. О {п, т) 1.7.4. /• O*(n, in) р* 1.7.5. |.Т1 \%\ Ф.ф |ф| 17.6. 11/11 1.7.8. * 1.7.10. discr tr 1.8.1. ||ф|| !!||| 1.9.1. 9 ©» ©m © 1.9.2. еа Е(ге, т) 1.Р.З. ta va a! 1.10.1. ©m <|,/> Нот™ ©* 1.10.2. О ша 1.10.3. J L 1.10.5. |Ф| ||| Цф|| ЩИ ПРИ UOA^t», m) 2.1.1. R inf sup f { sign /+ /~ 2 2.1.2. 2Z <p L У /+ 2.2.1. spt<p 2.2.3. Xo 2.2.6. 3>, JV 2.2.7. Lip (/) 2.3.8. A(<p, Y) |/|, 2.4.2. j*/<f<p j 9.I/WI </. <P> 2.4.10. f* f f f J J* J J A A A a 2.4.12. <p(p)(/) Ьр(Ф, Г), J/*p У» 2.5.1. Z+ 2.5.5. ji+ ц- 2.5.6. 1*х[/(ж)] 2.5.13. spt/ 2.5.14. 3?(Л:) sptft 2.5.16. V? ь ь 2.5.17. J/d^ J/(*)«!„.*(*) i?s 2.5.19. Z* Cx °b+ 2.6.1. аХР 2.6.5. S7" 2.7.1. A* Ag G* Bg 2.7.8. Дс 2.7.16. sl(V, W) хг GL(re, R) SL(», R) а(п) в„,т K,m Уп,т P( («•») 23.1. В (а, г) U (a, r) 2.8.4. S 2.8.8. diam 2.8.16. (C) lim sup f (C) lim sup /E) X B-»X 2.9.1. ij), D(iJ), ф, F, x) 2.9.12. (<p, V) ap lim / (<p, V) ap lim / (*) x z-*x 2.9.19. g'(x) 2.10.2. 5^m ^"» 2.10.3. Tm 2.10.4. ^m ® 2.Ю.5. згу ay
756 СПИСОК ОСНОВНЫХ ОБОЗНАЧЕНИЙ 2.10.9. NU, У) 4131 f<P U 2.10.19. 6*т (р. а) в* (Ц, а) вт (ц, а) *ЛМ' J ф ^V 3.1.1. Dfgiadf Dif 41.34. [а, И 3.1.2. apD/ ap#</ 421 <Г u r+> <Г и 3.1.11. &/' /(« Z>v/ Z>«/ 42 2 /1' Я (f g) ' ' 3.1.21. Tan (S, a) Tan (S) ' T+u uKh Ю Nor (S, a) Nor (S) 4.2.5. Z" W'(f) W" (z) 3.1.22. Df 4.2.8. це iflVsri) з!2Лб! Tan"» (ф, а) В (а, г, е) sptv (Т)к (T)V К, .„„ Шг^Сф, а) (ф, m)aP7?/ 3.2.20. ap /m/ агт,к Vk ^т м 3.2.22. ар .У (r)^L4 Nv <(T)V, н, г 3.2.28. SO(w) ,n . m, ^j. y/I1 - ч 0.6.01. c№. cM. M. / Ч 9П <! П T O.O.I. Л(п, Г, ?, S) ,-,. <a- да tt Я 3.4.5. (У* ia ideal Ta var 441- ^m ^m Hm a 3.4.8. depth dim 4.4.4. ^к, в 3.4.12. Ol idealc y»S U(n) dimc 4.4.5. Нт(Л, ?; Z) «.I., v\ r sPt V; ^ ff ®* *> *>' T L p 27), TZ?» D-21 Dar Г ф) 4.5.5. n(k, Ь) Ф Т Х 4.5.10. ess У» 4.1.2. ФЕ" Te * 41.5. 115Ц ... (" ф ~ * гч 4.1.6. Л J L <1,Ф> ||ф|| ЩИ 5.1.1. ]Ф <Ф,Г> л (DX)^ ex DJ-ф «| »ф 5.1.2. Фя ф div I f* 5.1.7. б(') (Г, Ф, ft) 41.7. #» &m Z>™ 3>m „ J ' . т l ф г л g дт еп 5л-9- ф фо p q фй ф|  М N N Nloc N / 5.1.11. 1>(ф Dm+j<p фA>я фA. ,; 4.1.8. 5X Г [в, г] G,' 1I г \}\ь. г Щ1) 4.1.9. ht Ц 5.2.7. * 4.1.11. 5 +Т [ио, ..., вт] 5.2.10. Lap г с(т) 41.12. FK Fm K Fm F^° 5.3.1. Exc E, Ь, г) Exc* E, Ь, г) 41.14 /+ ' 5.41. б(') (Г, ft) 41.19. F 5.4.11. exp (Г) ii 1т'Кл тТРт 5.412. * (В, И0 SU К * m мт хт ^ т ^ К Lap V| grad ф
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Абсолютно непрерывная функция 2.9.20 A82), 2.9.22 A85), 2.10.13 A94) адекватное семейство 2.8.1 A58) аналитическая функция 3.1.24 B58) — цепь 4.2.28 D59) аналитический блок 3.4.5 C42) ориентированный 4.2.28 D59) аналитическое отображение 3.1.24 B56) — подмногообразие 3.1.24 B59) — подмножество 3.4.5 C40) эмулятор 1.6.3 C5) антикоммутативное умножение 1.2.1 B1) аппроксимативно непрерывная функция 2.9.12 A76) аппроксимативный предел 2.9.12 A75) ассоциированное векторное подпростран- подпространство 1.6.1 C4) аффинная деформация 5.1.7 E57) аффинное подпространство 2.7.16 A49) Банахово пространство 2.3.8 (90) рефлексивное 2.4.12 A01) Бернштейна теорема 5.4.18 F88) борелевская функция 2.2.14 (81) борелевски отделимые множества 2.2.10 G8) борелевское множество 2.2.1 G1) — разбиение 2.2.1 G1) — семейство 2.2.1 G1) Брунна — Минковского теорема 3.2.41 B97) бэровская форма 4.1.6 C73) — функция 2.2.15 (82) бэровский класс 2.2.15 (82) Вариационная мера 2.5.6 A11), 2.5.12 A18) вариационный интеграл 2.5.6 A11), 2.5.12 A18) вариация, ассоциированная с изотопиче- изотопической деформацией 5.1.7 E56) Вейерштрасса подготовительная теорема 3.4.6 C42) — полином 3.4.6 C43) Вейля условие 2.7.11 A44) верхняя функция 2.4.2 (93) Виртингера неравенство 1.8.2 E1) Витали покрытие 2.8.16 A68) внешняя алгебра 1.3.1 B3) — нормаль 4.5.5 E05) внутреннее умножение 1.5.1 C2), 1.10.3 E6) вторая квадратичная форма 5.4.12 F76) Гармоническая функция 5 2.5 E71) Гаусса —Грина теорема 4.1.31 D15), 4.5.6 E05), 4.5.11 ?536) Гаусса уравнение 5.4.12 F76) Гельдера неравенство 2.4.14 A02) — условие 4.3.10 D74), 4.5.15 E41), 5.2.1 E65) гильбертово пространство 1.7.13 D8) глубина идеала 3.4.8 C47) голоморфная функция 3.4.12 C60) — цепь 4.2.29 D60) положительная 4.2.29 D61) голоморфный блок 4.2.29 D61) гомотопия 4.1.9 C86) — аффинная 4.1.9 C86) Гординга неравенство 5.2.3 E67) градиент 3.1.1 B28), 5.4.12 F77) градуированная алгебра 1.2.1 B1) градуированное тензорное произведение 1.2.2 B1) граница потока 4.1.7 C78) грассманово многообразие 1.6.2 C4), 3.2.28 B84) грассмановы координаты 1.4.3 B9) Гросса мера 2.10.3 A89) группа аффинная 2.7.16 A50) — гомологии 4.4.1 D92), 4.4.6 E00) — линейная 2.7.16 A50) — ортогональная 1.7.2 C9), 2.7.16 A55), 3.2.28 B84) — унимодулярная 2.7.12 A45) — унитарная 3.4.12 C60) — целочисленных гомологии 4.4.1 D91) Даниеля интеграл 2.5.6 A11) монотонный 2.5.6 A11) порожденный функцией конечной длины 2.5.17 A26) двойственный базис 1.1.4 B1) декартово произведение потоков 4.1.8 C82) деформационная цепь 4.1.9 C86), 4.2.2 D22) сглаживающая 4.1.18 C98) Джиллеспи мера 2.10.5 A90) Джона формула 5.2.10 E80) диагональное отображение внешней ал- алгебры 1.3.3 B5) симметрической алгебры 1.9.4 E4) диаметрическая регулярность 2.8.8 A62) дивергенция (внутренняя производная) 4.1.6 C76) дискриминант 1.7.10 D7) диффеоморфизм 3.1.18 B47) дифференциал аппроксимативный 3.1.2 B31), 3.2.16 B74) — относительно подмножества 3.1.22 B55) — отображения 3.1.1 B27) — fe-й 3.1.11 B37) дифференциальная форма 4.1.6 C73) фундаментальная 5.4.19 F90) дифференцирование интеграла по пара- параметру 2.9.25 A86) длина функции 2.5.16 A23) допустимая функция 4.2.2 D21) достижимое кардинальное число 2.1.6 G0)
758 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ Егорова теорема 2.3.7 (90) Замкнутая кривая 4.2.25 D46) Идеал ростка множества 3.4.5 C40) Иенсена неравенство 2.4.19 A04) измеримая функция 2.3.2 (85) измеримое множество 2.1.2 F5) изометрии евклидового пространства 2.7.16 A56) изопериметрическое неравенство 3.2.43 B99), 4.2.10 D33), 4.4.2 D93), 4.4.3 D97), 4.5.2 E03), 4.5.3 E04), 4.5.4 E04), 4.5.9 E11, 514), 4.5.14 E40), 4.5.15 E41), 5.3.2 F01), 5.3.3 F01) изотопическая деформация 5.1.7 E55) непараметрическая 5.1.9 E59) изотропная подгруппа 2.7.1 A37) индекс перестановки 1.3.3 B5) интеграл 2.4.2 (94), 2.4.12 A00), 5.1.1 E46) — верхний 2.4.2 (94) — инвариантный 2.7.1 A38) — левосогласованный 2.7.2 A38) — нижний 2.4.2 (94) — правосогласованный 2.7.2 A38) — сингулярный 5.2.8 E75) интегрально геометрические меры 2.10.5 A90) интегранд площади 5.1.1 E46), 5.1.8 E57), 5.1.9 E60) интегрирование по частям 2.5.18 A27), 2.6.7 A36), 2.9.24 A86) интегрируемая функция 2.4.2 (94) Канторова функция 2.10.28 B12) Канторово множество 2.10.28 B12) Каратеодори конструкция 2.10.1 A87) — критерий 2.3.2 (88) — мера 2.10.4 A89) Картана репер 5.4.12 F71) касательное векторное поле 5.4.12 F72) касательный вектор 3.1.21 B52) аппроксимативный 3.2.16 B73) — конус 3.1.21 B52) Кирсбрауна теорема 2.10.43 B19) класс ft относительно подмножества 3.1.22 B55) — целочисленных гомологии 4.4.1 D91) ковариантное дифференцирование 5.4.12 F73) Кодапци уравнение 5.4.12 F76) комасса т-ковектора 1.8.1 D9) — дифференциальной формы 4.1.7 C80) константа эллиптичности интегранда 5.1.2 E47) формы 5.2.3 E66) координатная система 3.1.19 B50) коплощадь отображения 3.2.1 B61) кососимметрическая алгебра 1.4.2 B8) — форма 1.4.1 B7) Коши формула 3.2.36 B93) кратность отображения 2.10.9 A93) кронекеровский индекс 4.3.20 D91) Лапласа оператор 5.2.10 E79), 5.4.12 F75) Лебега интеграл 2.4.2 (94) — мера 2.5.17 A26), 2.6.5 A35), 2.7.16 A50) — пространство 2.4.12 A00) — теорема о мажорируемой сходимости 2.4.9 (98) о монотонной сходимости 2.4.7 (97) лебегово множество 2.9.9 A73) Лежандра условие 5.1.3 E49), 5.1.10 E61, 562) непараметрическое 5.1.10 E61) параметрическое 5.1.3 E49) Лейбница формула 3.1.11 B40) Ли скобки 4.1.34 D19), 5.4.12 F74) Липшица константа 2.2.7 G5) липшицевский окрестностный ретракт 4.1.29 D10) локально 4.1.29 D10) липщицевское отображение 2.2.7 G5) локально 2.2.7 G5) локально липшицевская категория 4.4.1 D91) Лузина теорема 2.3.5 (89) Масса потока 4.1.7 C80) — то-вектора 1.8.1 D9) мера 2.1.2 F5) — абсолютно непрерывная 2.9.2 A70) — борелевски регулярная 2.2.3 G3) — инвариантная 2.7.1 A38) — левосогласованная 2.7.2 A38) — приближающая порядка б 2.10.1 A87)' — правосогласованная 2.7.2 A38) — радонова 2.2.5 G4) — регулярная 2.1.5 F7), 2.5.3 A08) — согласованная 2.7.2 A38) — считающая 2.1.2 F5) метрика ограниченная по направлениям 2.8.9 A62) минимальной поверхности уравнение 5.4.18 F87) Минковского неравенство 2.4.15 A02) — объем 3.2.37 B94) многообразие 3.1.19 B49) множество вполне неспрямляемое 3.2.14 B72) — спрямляемое 3.2.14 B72) — счетно спрямляемое 3.2.14 B72) — т-обусловленное 2.8.9 A63) модулярная функция 2.7.8 A42) Непараметрический интегранд 5.1.9 E59) неприводимая компонента множества 3.4.5 C41) неравенство изодиаметрическое 2.10.33 B15) нижняя функция 2.4.2 (93) норма 2.4.12 (99) — двойственная 2.5.12 A17) — индуцированная скалярным произ- произведением 1.7.1 C9) — линейного отображения 1.7.6 D5) нормальное векторное поле 5.4.12 F72) нормальный вектор 3.1.21 B53) аппроксимативный 3.2.16 B73) — конус 3.1.21 B53) аппроксимативный 3.2.16 B73) нормы на симметрических алгебрах 1.10.5 E8) носитель интеграла Даниеля 2.5.14 A23) — меры 2.2.1 G1) — непрерывной функции 2.5.13 A21) — распределения 4.1.1 C65) Оболочка 2.1.4 F7) оператор римановой кривизны 5.4.12 F75) — суммирования 2.1.1 F3) определитель 1.3.4 B6) ориентированная выпуклая клетка 4.1.32 D18) — простая кривая 4.2.25 D46) — симплециальная призма 4.1.11 C89)
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ 759 ориентированное векторное подпростран- подпространство 1.6.2 C5), 4.1.31 D15) ориентированный касательный конус 4.3.16 D83) — конус 4.3.14 D79) аналитический 4..3.18 D85) голоморфный 4.3.19 D87) — симплекс 4.1.11 C88) — цилиндр 4.3.15 D82) — — аналитический 4.3.18 D85) ориентируемое многообразие 4.1.31 D13) ориентирующее m-векторное поле 4.1.31 ортогональная инъекция 1.7.2 C9) — проекция 1.7.4 D2) ортонормированная последовательность 1.7.1 C9) отражение 2.10.30 B13) отображение аффинное 2.7.16 A49) — дифференцируемое 3.1.1 B27) аппроксимативно 3.1.2 B30), 3.2.16 , относительно подмножества 3.1.22 B54) ft-раз 3.1.11 B37) — класса 0 и 1 3.1.1 B28) k и <*> 3.1.11 B38) — проективное 4.1.32 D17) Параметризация длиной дуги 2.5.16 A24) параметрический интегранд 5.1.1 E46) положительный 5.1.1 E46) полуэллиптический 5.1.2 E48) эллиптический 5.1.2 E47) пересечения плоских цепей 4.3.20 D87) перестановка типа (р, д) 1.3.3 B5) й>A), .... р(т)) 1.4.2 B9) периметр 4.5.1 E02) плоская граница вещественная 4.4.6 E00) по модулю v 4.4.6 E00) целочисленная 4.4.1 D91) — коцепь 4.1.19 D00) — норма коцепи 4.1.19 D00) — полунорма 4.1.12 C90) — цепь 4.1.12 C91) локально целочисленная 4.1.24 D05) по модулю v 4.2.26 D50) целочисленная 4.1.24 D05) плоский цикл вещественный 4.4.6 E00) по модулю v 4.4.6 E00) целочисленный 4.4.1 D91) плотность меры 2.10.19 A99) — множества в точке 2.10.12 A75) площадь отображения 3.2.1 B60) подмногообразие 3.1.19 B49) — аналитическое 3.1.24 B59) — комплексное голоморфное 3.4.12 C60) покрывает почти полностью 2.8.1 A59) покрытие 2.8.16 A68) — сгущающееся 2.8.1 A58) в точке 2.8.16 A68) полиномиальная функция 1.10.4 E7) однородная 1.10.4 E7) полиэдральная цепь 4.1.22 D03) целочисленная 4.1.22 D03) полная вариация функции 2.5.16 A23) полунорма 2.4.12 (99) полярное отображение 1.7.1 C8), 1.7.5 D2), 1.10.5 E8) поток 4.1.7 C77) — допустимый 4.2.2 D22) — локально минимизирующий 5.1.6 нормальный 4.1.7 C80) поток локально плоский 4.1Л2 C91) спрямляемый 4.1.24 D05) целочисленный 4.1.24 D05) — минимизирующий 5.1.6 E52>, 5.4.1 F19) абсолютно 5.1.6 E52) гомологично 5.1.6 E52) — — площадь 5.4.1 F57) — нормальный 4.1.7 C80) — положительный 4.2.29 D60) — постоянный 5.1.7 E57) — представительный по модулю v 4.2.26 D56) — спрямляемый 4.1.24 D04) — целочисленный 4.1.24 D05) . — ¦— неразложимый 4.2.25 D45) потчи 2.3.1 (84) — однородная функция 5.2.7 E74) представимое интегрированием распре- распределение 4.1.5 C72) принцип максимума 5.2.19 E94) проекция с центром 4.2.4 D26) произведение антикоммутативное 1.2.2 B2) — коммутативное 1.2.2 B2) — тензорное 1.1.1 A9) производная 2.9.1 A69), 2.9.19 A80), 2.9.22- A83), 3.1.1 B27) — внешняя 4.1.6 C74) — внутренняя (дивергенция) 4.1.6 C76) — ft-я ll.ll B39) пространство однородное 2.7.1 A37) прямое произведение мер 2.6.1 A30) прямоугольный параллелепипед 2.7.16 <152) ориентированный 4.1.8 C85) Равномерное действие группы 2.7.3 A39) Радемахера теорема 3.1.6 B34) Радона — Никодима теорема 2.5.8 A14) разбиение единицы 3.1.13 B43) разложение интегралов Даниеля 2.5.20 A29) размерность аналитического мвожества 3.4.10 C58) — ростка множества 3.4.8 C47) распределение 4.1.1 C66) — представимое интегрированием 4.1.5 C72) расслоение касательное 3.1.21 B53) — нормальное 3.1.21 B53) расширение 2.8.4 A61) расширенная система действительных чисел 2.1.1 F2) расщепление по модулю v 4.2.26 D54) регуляризация (сглаживание) 4.1.2 C68) регулярная точка множества BptS\spt9S 5.3.Г7 F50) — часть аналитического множества 3.4.10 C58) ретрагирование 3.1.19 B50) решетка функций 2.5.1 A05) Римана — Стилтьеса интеграл 2.5.17 A25) риманово многообразие 2.8.9 A63), 3.2.46 C01) Рисса теорема о представлении 2.5.13 A21) росток 3.4.5 C39, 340) — аналитического подмножества 3.4.5 C40, 341) — множества неприводимый 3.4.5 C41) Свертка 4.1.2 C68), 5.2.7 E74), 5.2.Н E82) сглаживание (регуляризация) 4.1.2 C68)
760 ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ семейство непересекающихся множеств 2.1.6 F9) сильно эллиптическая форма 5.2.3 E66) символ элемента из 08Hom(Rm, Rn~m) 5.2.И E80) симметрическая билинейная функция 1.7.1 C8) — m-линейная форма 1.10.1 E5) симметрические алгебры 1.9.1 E2), 1.10.2 E6) сингулярная точка множества sptS\spt9S 5.3.17 F50) скалярное произведение 1.7.1 C8), 1.7.5 D3), 1.7.9 D6), 1.10.5 E8), 1.10.6 F0) слабая топология 2.5.12 A17), 2.5.19 A28), 4.1.1 C65, 366) слабое решение 5.2.3 E68, 569) след 1.4.5 C1), 1.7.10 D7) •— потока Г во множестве f~l (у) 4.3.1 D61) согласованный интеграл 2.7.1 A37) соединение потоков 4.1.11 C87) соприкасающийся репер Картана 5.4.12 F72) сопряженное линейное отображение f.7.4 D1) специальное семейство 2.10.28 B10) среднее арифметическое 2.4.13 A01) — геометрическое 2.4.13 A01) стандартные двойственные кубические разбиения 4.2.5 D27) Степанова теорема 3.1.9 B36) степень отображения 4.1.26 D07) струя отображения 3.1.11 B40) ступенчатая функция 2.4.1 (93) суммируемая функция 2.4.2 (94) суслинское множество 2.2.10 G6) существенная вариация 4.5.10 E35) — внутренность 4.5.12 E38) — граница 4.5.12 E38) сферическая мера 2.10.2 A89) сходимость по мере 2.3.8 (91) счетно измеримая функция 2.3.4 (89) — измеримое множество 2.3.4 (88) Тейлора формула 1.10.4 E7), 3.1.11 B39) тензорная алгебра 1.2.3 B2) теорема аппроксимации 4.2.20 D42) — замкнутости 4.2.16 D38) — компактности 4.2.17 D40) — о деформации 4.2.9 D31) — о константе 4.1.4 C70), 4.1.7 C79) теория гомологии 4.4.1 D92), 4.4 6 E00) типичная точка 3.1.18 B48) транзитивное действие 2.7.1 A37) Уитни теорема о продолжении 3.1.14 B44) Улама число 2.1.6 F9) Фату лемма 2.4.6 (97) формула гомотопии для потоков 4.1.9 C86) Формула гомотопии для дифференци альных форм 4.1.9 C86) — поляризации 1.9.3 E4) — сглаживающей гомотопии для поток. 4.1.18 C98) Фубини теорема 2.6.2 A30) функционально-аналитическое подмного- подмногообразие 3.4.5 C42) функция класса k 3.1.22 B55) — распределения 2.5.18 A27) — п-линейная 1.1.1 A8) Хаара интеграл 2.7.2 A38) — мера 2.7.2 A38) — отношение 2.7.4 A39) Хана — Банаха теорема 2.4.12 (99) характеристическая функция 2.2.14 (82) характеристический многочлен 1.4.5 C1) хаусдорфова мера 2.10.2 A88) — площадь 3.2.1 B60) хаусдорфово расстояние 2.10.21 B01) Целочисленные плоские цепи, конгру- конгруэнтные по модулю v 4.2.26 E00) Частная производная 3.1.1 B29) аппроксимативная 3.1.2 B31) fe-ro порядка 3.1.11 B41) числовая сумма 2.1.1 F3) Шар 2.8.1 A58) Штейнера симметризация 2.10.30 B13) — формула 3.2.36 B93) Эндоморфизм кососимметрический 1.7.3 D0) — симметрический 1.7.3 D0) Эйленберга и Стинрода аксиомы 4.4.1 D92) Эйлера — Лагранжа формула 5.1.11 E63)' Эйлера Г-функция 3.2.13 B70) эксцесс 5.3.1 F00) элементарное решение 5.2.11 E82) ормитово произведение 1.8.2 E0) Юнга теорема 2.10.41 B18) Якобиан 3.2.1 B60) — аппроксимативный 3.2.20 B77), 3.2.22 B78) т-вектор 1.3.1 B3) — простой 1.6.1 C4) комплексный 1.6.6 C8) положительный 1.6.6 C8) — разложимый 1.6.1 C4) m-векторное поле 4.1.6 C73) т-ковектор 1.4.1 B7) — простой 1.6.3 C5) — разложимый 1.6.3 C5)
Замеченные опечатки Стра- Страница 130 190 500 557 568 584 585 635 688 740 Строка 1 снизу 18 снизу 16, 17 сверху 11 снизу 11 сверху 15 сверху 5 сверху 8 снизу 14 снизу 21 снизу Напечатано Ump(*5) = pfnA oo ,. , откуда |-| Sjt=F. 3=1 .У m X #* >т-измеримо. . .. называются веществен- вещественными плоскими циклами и вещественными плоскими границами, и положив '< = ? <;а© а, А{х)Ус\о\2 <(l+3m~1/2)/a> < Z)F|<... а е= ©2(Rm X Rn~™, Rm) (Р = 9Я+([0, 1] ХС). g(r) = = exp I /maxgrad/|\ di. J \XSfr j Следует читать / oo \ oo откуда П Sj e F. j=i ^""Х^* т-измеримо. ... называются плоскими циклами по модулю v и плоскими границами по модулю v, и полагая fit = ? <а © а, А(х)У^ с\а\2 s^ A + 3(m~1)/2) \ Ю | < . . 1 DF К ... ct gs 0) ^R X R , R / e = d#+([o, i]x<?), = exp 1 /max % | grad / | \ dr Федерер Г. Геометрическая теория меры.