A. T. Фоменко
Дифференциальная геометрия
и топология
Дополнительные главы
Редакция журнала
«Регулярная и хаотическая динамика»
Издательский дом
«Удмуртский университет»
1999
УДК 513.73+513.83(076)
ББК 22.15
Библиотека «Математика»
Том 3
Фоменко А. Т.
Дифференциальная геометрия и топология. Дополнительные
главы. — Ижевск: Ижевская республиканская типография.
1999. — 252 с.
Книга написана на основе курсов по дифференциальной геомет-
рии, топологии и смежным вопросам, читаемых на механико-матема-
тическом факультете МГУ. Книга содержит материал, ставший фак-
тически учебным и в то же время широко использующийся в совре-
менной научной литературе. Основное внимание уделено элементам
гомотопической топологии, теории критических точек гладких функ-
ций на многообразиях, описанию наиболее важных типов гладких
многообразий, часто использующихся в приложениях, изучению гео-
метрии и топологии групп Ли, а также изложению элементов теории
интегрирования гамильтоновых систем на симплектических много-
образиях.
ББК 22.15
Оригинал-макет подготовлен в редакции журнала
«Регулярная и хаотическая динамика»
http://www.red.com.ru
© А. Т. Фоменко, 1999
© Редакция журнала «Регулярная
и хаотическая динамика», 1999
Содержание
Предисловие ............................................. 6
Глава 1. Клеточные комплексы, гомологии ................. 8
§ 1. Клеточные комплексы и их простейшие свойства....	8
1. Первые определения (8). 2. Примеры клеточных комплек-
сов (9).
§ 2. Группы сингулярных гомологий..................... 12
1. Сингулярные симплексы, граничный оператор, группы гомо-
логий (12). 2. Цепные комплексы, цепная гомотопия, гомотопи-
ческая инвариантность групп гомологий (15).
Глава 2. Критические точки гладких функций на многооб-
разиях ................................................ 19
§ 3. Критические точки и геометрия поверхностей уровня . .	19
1. Определение критических точек (19). 2. Каноническое пред-
ставление функции в окрестности невырожденной критической
точки (21). 3. Топологическая структура поверхностей уровня
функции в окрестности критических точек (24). 4. Представ-
ление многообразия в виде клеточного комплекса, связанное с
функцией Морса (27). 5. Операция приклейки ручек и разложе-
ние компактного многообразия в сумму ручек (29).
§ 4.	Точки бифуркации и их связь с гомологиями ............. 33
1.	Определение точек бифуркации (33). 2. Теорема, связывающая
полиномы Пуанкаре функции и многообразия (36). 3. Некоторые
следствия (38). 4. Критические точки функций на двумерных
многообразиях (42).
§ 5.	Критические точки функций и категория многообразия .	48
1.	Определение категории (48). 2. Топологические свойства ка-
тегории (49). 3. Формулировка теоремы о нижней границе числа
точек бифуркации (52). 4. Доказательство теоремы (54). 5. При-
меры вычисления категории (57).
4
Содержание
§6.	Правильные функции Морса и бордизмы.................. 62
1.	Бордизмы (62). 2. Разложение бордизма в композицию элемен-
тарных бордизмов (63). 3. Градиентно-подобные поля и сепарат-
рисные диски (66). 4. Перестройки поверхностей уровня гладкой
функции (67). 5. Построение правильных функций Морса (70).
6. Двойственность Пуанкаре (77).
Глава 3. Топология трехмерных многообразий.................. 83
§ 7.	Каноническое представление трехмерных многообразий .	83
1.	Правильные функции Морса и диаграммы Хегора (83). 2. При-
меры диаграмм Хегора (85). 3. Кодирование трехмерных много-
образий при помощи сетей (88). 4. Сети и сепаратрисные диа-
граммы (92).
§ 8.	Задача распознавания трехмерной сферы................ 94
1.	Гомологические сферы (94). 2. Гомотопические сферы (100).
§9.	Об алгоритмической классификации многообразий .... 103
1.	Фундаментальные группы трехмерных многообразий (103).
2.	Фундаментальные группы четырехмерных многообразий (104).
3.	О невозможности классификации гладких многообразий в раз-
мерностях, больших, чем три (106).
Глава 4. Симметрические пространства ......................110
§ 10.	Основные свойства симметрических пространств, их модели
и группы изометрии.......................................110
1.	Определение симметрических пространств (110). 2. Группы
Ли как симметрические пространства (110). 3. Свойства тензора
кривизны (112). 4. Инволютивные автоморфизмы и связанные с
ними симметрические пространства (113). 5. Картановская мо-
дель симметрического пространства (115). 6. Геометрия карта-
новских моделей (118). 7. Некоторые важные примеры симмет-
рических пространств (121).
§11. Геометрия групп Ли..................................126
1. Полупростые группы и алгебры Ли (126). 2. Картановские под-
алгебры (128). 3. Корни полупростой алгебры Ли и ее корневое
разложение (130). 4. Некоторые свойства системы корней (133).
5. Системы корней простых алгебр Ли (139).
§ 12. Компактные группы..................................143
1. Вещественные формы (143). 2. Компактная форма (145).
§ 13. Орбиты присоединенного представления...............153
1. Орбиты общего положения и сингулярные орбиты (153). 2. Ор-
биты в группах Ли (157). 3. Доказательство теоремы сопря-
Содержание
5
женности максимальных торов в компактной группе Ли (159).
4. Группа Вейля и ее связь с орбитами (168).
Глава 5. Симплектичеекая геометрия...................172
§ 14. Симплектические многообразия.................172
1. Симплектичеекая структура и ее каноническое представле-
ние. Кососимметрический градиент (172). 2. Гамильтоновы век-
торные поля (176). 3. Скобка Пуассона и интегралы гамильтоно-
вых полей (178). 4. Теорема Лиувилля (коммутативное интегри-
рование гамильтоновых систем) (182).
§ 15. Некоммутативное интегрирование гамильтоновых систем 188
1. Некоммутативные алгебры Ли интегралов (188). 2. Теорема о
некоммутативном интегрировании (190). 3. Редукция гамильто-
новых систем с некоммутативными симметриями (193). 4. Ор-
биты (ко)присоединенного представления как симплектические
многообразия. (202).
Глава 6. Геометрия и механика.............................204
§ 16. Вложение гамильтоновых систем в алгебры Ли .......204
1. Постановка задачи и полные коммутативные наборы функ-
ций (204). 2. Уравнения движения многомерного твердого тела с
закрепленной точкой и их аналоги на полупростых алгебрах Ли.
Комплексная полупростая серия (208). 3. Гамильтоновы системы
компактной и нормальной серий (213). 4. Секционные операторы
и соответствующие им динамические системы на орбитах (217).
5. Уравнения движения многомерного твердого тела по инерции
в идеальной жидкости (221).
§ 17. Полная интегрируемость некоторых гамильтоновых систем
на алгебрах Ли...........................................228
1. Метод сдвига аргумента и построение коммутативных алгебр
интегралов на орбитах в алгебрах Ли (228). 2. Примеры для ал-
гебр Ли воз и SO4. (234). 3. Случаи полной интегрируемости урав-
нений движения многомерного твердого тела с закрепленной точ-
кой в отсутствие силы тяжести и полная интегрируемость их
аналогов на полупростых алгебрах Ли (238). 4. Случаи полной
интегрируемости уравнений движения многомерного твердого
тела по инерции в идеальной жидкости (242). 5. Конечномерные
аппроксимации уравнений магнитной гидродинамики и случаи
их полной интегрируемости (245).
Литература..................................................247
Предисловие
Дифференциальная геометрия и топология — это одна из самых мо-
лодых и в то же время одна из самых развитых областей современной
математики. Возникшая на стыке нескольких научных направлений,
среди которых следует в первую очередь выделить классический ана-
лиз, алгебру, геометрию, механику и теоретическую физику, эта новая
отрасль математических знаний быстро разрослась в ветвистое дере-
во, плоды которого оказались чрезвычайно полезными не только для
внутренних целей математики, но и для многочисленных приложений,
некоторые из которых будут затронуты на страницах настоящей кни-
ги. Имея стольких «родителей», современная дифференциальная гео-
метрия и топология, естественно, унаследовала многие их черты, но,
являясь в то же время новым математическим организмом, она наде-
лена яркой индивидуальностью, важнейшим качеством которой можно,
по-видимому, назвать универсализм и синтетичность используемых
методов и идей. Здесь переплетаются геометрические идеи и нагляд-
ность, алгебраический язык, функциональные и дифференциальные ме-
тоды и т. д. Эта синтетичность в постановке и методах решения задач
в какой-то мере перекликается с универсализмом естественных наук
эпохи Возрождения, когда математика, механика и астрономия воспри-
нимались как единая система знаний о законах окружающего мира. Не
претендуя на такую широту, современная геометрия позволяет тем не
менее решать многие прикладные задачи фундаментального значения.
Цель настоящей книги — дать краткое изложение некоторых гео-
метрических и дифференциальных методов, широко используемых как
в теоретических исследованиях, так и в многочисленных приложениях.
Имея в виду эту цель, мы начинаем книгу с описания важного клас-
са математических объектов — так называемых клеточных комплек-
сов, естественно возникающих во многих конкретных задачах, напри-
мер при изучении поверхностей уровня гладких функций на многооб-
разиях. В рамках круга вопросов, связанных с изучением комплексов,
приходится часто решать задачу: «одинаковы» два комплекса или нет.
Это приводит к необходимости нахождения инвариантов, одинаковых
для гомотопически эквивалентных комплексов.
Предисловие
7
Одним из таких инвариантов являются группы гомологий и кого-
мологий, использующиеся в гл. 2, 3.
В настоящей книге предпочтение отдается изложению практичес-
кой стороны применения тех или иных методов, вопросы же их фор-
мального теоретического распространения на «максимально общий слу-
чай» (являющиеся часто технически довольно громоздкими) излагают-
ся более сжато, и в некоторых таких ситуациях мы отсылаем читателя
к более специальной литературе. Так, например, при изложении теории
корней полупростых алгебр Ли мы демонстрируем все основные эф-
фекты этой теории на модельном примере группы Ли невырожденных
матриц с определителем, равным единице, и на примерах классических
компактных матричных групп и алгебр Ли, не углубляясь в некоторые
нетривиальные вопросы распространения всех доказательств на общий
случай.
То обстоятельство, что рассматриваемые нами вопросы находятся
на стыке нескольких математических дисциплин, обусловило и синте-
тичность архитектуры книги. В изложении материала переплетают-
ся следующие темы: комплексы, гомологии, теория критических точек
гладких функций на многообразиях, бордизмы, топология трехмерных
многообразий, группы и алгебры Ли, теория корней полупростых ал-
гебр Ли, симплектическая геометрия, гамильтоновы системы, пробле-
мы интегрирования механических систем (например, уравнений дви-
жения многомерного твердого тела с неподвижной точкой).
Подбор и расположение материала соответствуют специальному
курсу, читавшемуся автором для студентов механико-математического
факультета Московского государственного университета (математи-
ков и механиков), и сложившейся практике чтения обязательно-
го курса дифференциальной геометрии и топологии для студентов-
математиков. Настоящая книга является естественным продолжением
книги Б. А. Дубровина, С. П. Новикова, А. Т. Фоменко «Современная гео-
метрия» [1] и учебника А. С. Мищенко, А. Т. Фоменко «Курс дифферен-
циальной геометрии и топологии» [2], поэтому мы опираемся на некото-
рые факты, изложенные в этих книгах. Тем не менее практически все
разделы настоящей книги могут читаться самостоятельно, без опоры
на другую литературу.
Книга предназначена для студентов и аспирантов математиков и
механиков, а также для специалистов смежных дисциплин, интересу-
ющихся приложениями современной геометрии.
Глава 1
Клеточные комплексы, гомологии
§ 1. Клеточные комплексы и их простейшие
свойства
1. Первые определения
Многие задачи механики, теоретической физики приводят к необ-
ходимости изучать свойства гладких многообразий; эти объекты час-
то появляются уже на первых стадиях анализа той или иной конкрет-
ной прикладной задачи. Наряду с многообразиями довольно часто уже
на первых этапах исследования возникают объекты иного рода — так
называемые клеточные комплексы, организованные локально не столь
жестко, как гладкие многообразия (поэтому не обладающие многими их
свойствами), но являющиеся иногда более гибким аппаратом, позволя-
ющим обнаружить те или иные инварианты изучаемой задачи. Прос-
тейшим примером являются поверхности уровня гладкой функции, за-
данной на многообразии, например, поверхности уровня потенциальной
функции или полной энергии. Эти поверхности возникают в физике как
«уровни», по которым движутся траектории механических систем с по-
стоянной энергией (с важными примерами мы познакомимся ниже),
однако эти «уровни» могут иметь особые точки, т. е. не являются мно-
гообразиями. Тем не менее они являются клеточными комплексами,
которые тем самым дают некоторое естественное расширение класса
многообразий (как мы увидим, любое многообразие является клеточ-
ным комплексом).
Сначала дадим неформальное описание клеточных комплексов. Как
и многообразия, они «склеены» из открытых шаров, но в случае много-
образия эти шары склеиваются при помощи гомеоморфизмов (на общей
части), а в случае клеточных комплексов каждый следующий шар при-
клеивается по своей границе к уже построенной части комплекса при
помощи непрерывного отображения границы шара, причем отображе-
ние это не обязано быть гомеоморфизмом границы с ее образом, т. е.
§1. Клеточные комплексы и их простейшие свойства
9
на границе допускаются склейки разной степени сложности. Это ослаб-
ление требования склейки «элементарных кирпичей» — шаров — резко
расширяет запас конструируемых объектов. В то же время получаю-
щийся класс содержателен, не всеобъемлющ и потому обладает богаты-
ми свойствами. Дадим теперь точное определение.
Определение 1.1. Топологическое пространство X мы назовем кле-
точным комплексом, если оно представлено в виде объединения непере-
секающихся множеств <т|, называемых клетками, где к — размерность
клетки, i — ее номер, т. е. X = (J |J <т^, 1к — множества индексов;
к=0 iEIk
при этом для каждой клетки зафиксировано непрерывное отобра-
жение Xi : Dk —> X замкнутого fc-мерного шара Dk в пространство X,
называемое характеристическим и обладающее свойствами: 1) ограни-
чение отображения Xi на открытый шар IntZ** (замыканием которого
является шар Dk) является гомеоморфизмом этого открытого шара на
клетку ак: 2) граница каждой клетки, т. е. множество дсгк = ак \ сгк
(где через <гк обозначено замыкание <гк в X) содержится в объединении
конечного числа клеток меньших размерностей; 3) множество Y С X
замкнуто тогда и только тогда, когда для всех клеток <гк
образ (Xi )-1(Х) С Dk замкнут в шаре Dk.
Мы будем рассматривать в основном конечные
клеточные комплексы, т. е. состоящие из конечного
числа клеток. Иногда клеточные комплексы называ-
ют CW-комплексами. Подмножество Y С X естествен-
но назвать подкомплексом, если Y замкнут в X, являет-
ся CW-комплексом, причем все его клетки и характерис-
тические отображения являются в то же время клетка-
ми и характеристическими отображениями в X. Среди
множества различных подкомплексов в X естественно
выделяются n-мерные остовы X, которые мы будем обо-
значать через Хп, т. е. подкомплексы, состоящие из объединения всех
клеток размерностей, не превосходящих п. Приведем простейшие при-
меры клеточных комплексов.
2. Примеры клеточных комплексов
Пример 1. Стандартная n-мерная сфера Sn может быть представлена
в виде объединения двух клеток: нульмерной и n-мерной: Sn = о-0и<т”,
причем характеристическое отображение £n: Dn —> Sn переводит всю
полный про-
Рис. 1
10
Глава 1
границу шара в одну точку — в нульмерную клетку (рис. 1). Конечно,
представление сферы в виде клеточного комплекса неоднозначно; мы
привели простейшее разбиение.
Пример 2. Пусть М2 — двумерное гладкое компактное связное замк-
нутое (т. е. не имеющее края) многообразие. Тогда, как известно из тео-
ремы классификации двумерных поверхностей (см., например, [2, §5]),
М‘~ можно представить в виде склейки фундаментального двумерного
многоугольника W по некоторому отождествлению его границы. На-
пример, если М2 ориентируемо, то W можно условно записать в ви-
де W = aibiaf 1... agbga^bg1 (рис. 2). Чтобы восстановить М2,
нужно отождествить одинаковые буквы, присутствующие в слове W,
учитывая ориентацию на соответствующих сторонах многоугольни-
ка. Оказывается, это представление М2 позволяет рассматривать М2
как клеточный комплекс, состоящий из одной нульмерной клетки, од-
ной двумерной и 2g одномерных, где g — род поверхности, т. е. чис-
ло ручек (приклейкой которых к сфере и получается ориентируемая
поверхность). В самом деле, поскольку по теореме классификации по-
верхностей все вершины фундаментального многоугольника склеены в
одну точку, то ее естественно взять в качестве единственной нульмер-
ной клетки <т°. Граница многоугольника W превращается после тре-
буемых отождествлений (см. рис. 2) в набор 2g окружностей, склеен-
ных в одной точке, а именно в <т°. Двумерная клетка является внут-
ренностью двумерного замкнутого многоугольника W, приклеенного
к набору одномерных клеток по характеристическому отображению,
заданному в явном виде указанной выше формулой отождествления
сторон W. Этот процесс показан на рис. 3 для тора, т. е. при g = 1.
Поскольку тор гомеоморфен сфере с ручкой, то мы фактически описа-
ли процесс приклейки W к набору одномерных клеток для любого g.
/ 2 А'	\
Итак, М2 = <т° U ( (J <тИ U <т2. Аналогичное разбиение имеется и в
4=1	'
неориентируемом случае (докажите!), когда W = с2с%...с2, где р —
число «пленок Мебиуса», вклейкой которых в сферу и получается про-
извольное неориентируемое многообразие; тогда
M!=a»u(l>()u<A
к=1
§ 1. Клеточные комплексы и их простейшие свойства
11
Рис. 2
Рис. 3
Пример 3. Пусть X — вещественное проективное про-
п +1
странство RP” = {(Aa:i, ... , Ажи+1); А 0 и S
i=l
0}, тогда RP" = <т° Uст1 U.. .U<r", где ап~к = {(0, ... , 0,
Аж/.+1, ... , Аж„+1)} = RP"-* \ RP”-*-1. Для RP2 это
разбиение условно изображено на рис. 4. Замыкание <78
каждой клетки <т8 гомеоморфно проективному простран-
ству RP8. Аналогичным образом разбивается в объеди-
нение клеток комплексное проективное пространство:
СР” = (7° и ст2 и ст4 и ... и <72”.
Хотя мы определили клеточные комплексы конструктивно, не ис-
пользуя какую-либо их конкретную реализацию, однако отметим сле-
дующий полезный (хотя и не используемый нами в дальнейшем) факт:
любой конечный клеточный комплекс можно вложить в некоторое ко-
нечномерное евклидово пространство (докажите!). Это утверждение
аналогично соответствующей теореме вложения гладких многообразий
12
Глава 1
в евклидово пространство и доказывается по аналогичной схеме. В даль-
нейшем, если не оговорено противное, под термином «комплекс» будем
понимать «конечный комплекс».
Мы будем часто иметь дело с непрерывными де-
формациями топологических пространств и непрерыв-
ных отображений. Поэтому напомним важное понятие
гомотопии.
Пример 4. Пусть f,g:X —> Y — два непрерыв-
ных отображения топологических пространств X, Y.
Эти отображения называются гомотопными (будем пи-
сать f к g), если существует непрерывное отобра-
жение F: X х I —> Y прямого произведения X х I
(где I = [0,1] — отрезок) в Y такое, что F|xxo =
Г|Хх1 = g (рис. 5).
Другими словами, f и g гомотопны, если сущест-
вует семейство отображений <pt: X —> Y, непрерывных
по совокупности переменных t G I, х G X таких, что g>o(x) = /(ж),
</?1(ж) = £(ж).
Пространства X и Y называются гомотопически эквивалентными,
если существуют отображения /: X —> У, g: Y —> X такие, что gf к,
~ lx, fg~ 1у, где 1х — тождественное отображение пространства X
на себя.
§ 2. Группы сингулярных гомологий
1. Сингулярные симплексы, граничный оператор, группы
гомологий
Во многих математических и прикладных задачах часто возникает
вопрос: «одинаковы» ли два клеточных комплекса, например являются
ли они гомеоморфными или гомотопически эквивалентными. Вопрос
этот сложен, однако иногда для ответа на него достаточно вычислить
некоторые алгебраические характеристики, естественно связанные с
комплексами и сохраняющиеся при гомотопической эквивалентности,
т. е. если эти характеристики различны, то комплексы заведомо не яв-
ляются гомотопически эквивалентными (и тем более гомеоморфными).
Совпадение алгебраических характеристик еще не означает, что комп-
лексы «одинаковы». К числу таких характеристик относятся группы
§ 2. Группы сингулярных гомологий
13
гомологий и когомологий. Сначала мы опишем так называемые сингу-
лярные (ко)гомологии.
Стандартным симплексом Д* размерности к называется множест-
во точек х = (жц, • • • , Xk) Е К*+1, задаваемых так: хц 0, ... , ж/.	0;
Жо + Ж1 + ... + хк = 1.
Определение 2.1. Сингулярным симплексом fk размерности к комп-
лекса X мы будем называть непрерывное отображение стандартного
симплекса Хк в пространство X. Далее, целочисленной к-мерной сингу-
лярной цепью с комплекса X (или просто цепью) мы будем называть
формальную линейную комбинацию сингулярных симплексов fk комп-
лекса X с целыми коэффициентами, лишь конечное число которых от-
лично от нуля. Будем использовать обозначение с =
(О
Множество всех fc-мерных цепей комплекса X очевидным образом
превращается в абелеву группу по сложению. Это свободная абелева
группа, которую обозначим Ck(X'). Оказывается, эти группы служат
хорошим материалом для изготовления тех алгебраических инвариан-
тов, которые позволяли бы иногда различать комплексы между собой.
Для построения этих инвариантов следует определить некоторый ес-
тественный гомоморфизм, называемый обычно граничным гомомор-
физмом (граничным оператором или оператором взятия границы). Он
будет действовать так: дк- Ск(Х) —> Ск-1(Х}. Поскольку все груп-
пы Ск(Х) свободны, то для определения дк достаточно задать его на
каждом сингулярном симплексе fk, соответствующем одной образую-
щей свободной группы.
Определение 2.2. Граничным оператором дк называется следующее
/г •	I
отображение: dk(fk) = 52 (~l)*/*-1, гДе = fk д1-1 — ограниче-
но	' ’
ние непрерывного отображения fk на г-ю грань стандартного симплек-
са Хк.
Напомним, что каждая грань Д*-1 fc-мерного симплекса сама яв-
ляется (fc — 1)-мерным симплексом, причем Д*-1 = (жщ... ,ж^_1,
Жг+1,... , ж/.) С Хк. Из определения д/. следует, что д/. ° дк+1 = 0, что
означает следующее: Her <4 D 1тп<9/,.+ |. где через Кег и Im обозначе-
ны ядро и образ гомоморфизма д. Именно это простое обстоятельство
и позволяет определить группы гомологий, играющие такую большую
роль в геометрии и топологии.
14
Глава 1
Определение 2.3. Группой сингулярных гомологий Hk(X) размернос-
ти к пространства X называется фактор-группаНk(X) = Kerdk/Imdk+i-
Элементы подгруппы Bj.(X') = Ti n <9/,.+ | в группе цепей Ck(X) мы будем
называть fc-мерными границами, а группу В/,.(Х) — группой границ
в размерности к. Элементы подгруппы Zk(X) = Кег/Д. в группе це-
пей Cf,(X) назовем fc-мерными циклами, а группу Z*(X) — группой
циклов в размерности к.
В этих терминах группу гомологии иногда
определяют как фактор-группу группы циклов по
подгруппе границ: Hj, = ZiJBi... Определение гра-
ничного оператора, цикла и границы формализует
интуитивное представление о «замкнутой поверх-
ности» и границе, которые связаны с гладкими ком-
пактными многообразиями. В частности, замкну-
тое компактное гладкое ориентируемое подмного-
образие Z в многообразии X можно рассматривать
как «цикл», а край В многообразия с краем — как
«границу» (рис. 6). Иногда говорят, что цикл zj, го-
мологичен нулю в X (обозначение: zj. ~ 0), ес-
ли Zk G В/.(Х), т. е. если существует (к + ^-мер-
ная цепь Ck+i такая, что dkCk+i = Zk- Два цикла zj.
и z'k называются гомологичными в X (обозначе-
ние: Zk ~ z'k}, если цикл zk—z'h гомологичен нулю
в X. Полезно представлять себе, какой вид имеют
группы гомологий Hk(X) в том случае, когда они имеют конечное чис-
ло образующих. Согласно определению, все группы Нк(Х) — абеле-
вы. Всякая конечно-порожденная абелева группа допускает следующее
представление: Z ф ... Z ф ZP1 ф ... ф ZPN, где Z — свободная абелева
группа, a — конечные циклические группы; число pi обозначает по-
рядок группы. Количество бесконечных слагаемых в разложении груп-
пы Нк(Х) (для абелевых групп это число определено однозначно) назы-
вается fc-мерным числом Бетти, или рангом группы Нк(Х). Если конеч-
ных циклических групп в разложении Hk(X) нет (т. е. Hk(X) — свобод-
ная абелева группа), то говорят, что группа Нк(Х) не имеет кручения.
Например, если пространство X состоит из одной точки ж, то легко под-
считать, что Hq(x) = Z, Hk(x) = 0 при к 0. В самом деле, в каждой
размерности к имеется только один сингулярный симплекс fh : Д* —> х,
§ 2. Группы сингулярных гомологий
15
т. е. Ck(x) = Z, и, следовательно, dfk = (j2(—1)*)/* х, т.е. dfk = 0
х i 7
при к = 0 и к нечетном: dfk = dfk~r при четном к. Итак, Zj. = В/,: при
нечетном к и Zj. = /?/,. = 0 при четном к, что и завершает подсчет Н^.
Для любого пространства X имеем, согласно определению,
Hk(X) = 0 при к < 0. Если X — линейно связное пространство, то
Я0(Х) = Z (проверьте!). Если же пространство X не является линейно
связным, то Hq(X) = ф Z, где I — множество компонент линейной
iei
связности пространства X.
2. Цепные комплексы, цепная гомотопия, гомотопическая
инвариантность групп гомологий
Совокупность групп {С'а.(.Х’)} и связывающих их гомоморфиз-
мов {«9*} естественно организуется в следующую последовательность:
х <	'Г, st	X <	^1. Z'77	. п
. . . —> С/.  > С/.-1	> Со —>	> и,
где dk ° dk+i = 0 и гомоморфизм е — эпиморфизм (см. ниже). Эта
последовательность иногда называется цепным комплексом, а груп-
пы Ker dk/ Im dk+i называются fc-мерными группами гомологий цепно-
го комплекса. Гомоморфизм е определяется так: e(J2<ii/P) = ^2 ач G Z.
Если X — линейно связное пространство, то Kers = Imc)i. Цепные
комплексы удобны при исследовании свойств групп гомологий. Пусть
даны два пространства X, Y и непрерывное отображение g: X —> Y. Из
определений 2.1, 2.2 следует, что это отображение индуцирует совокуп-
ность отображений gk : Ck(X) —> (7/. (У), являющихся гомоморфизмами
соответствующих групп. Удобно изобразить эту систему гомоморфиз-
мов в виде таблицы (диаграммы), где е: Z —> Z — тождественное ото-
бражение.
... —Ci(X) —<70(Х) -----------> Z ----> 0
l^1 к Iе
... —(71 (У) —(70(У) ---------> Z ----> 0
Важным ее свойством является то, что для всех к выполнены
соотношения: gk-idk = d’kgk, ее = e’go (что следует из определения
граничного оператора), т.е. диаграмма коммутативна. В этом случае
отображение а = {gj.}: С —> С цепных комплексов С = {(7/.(Х)}
16
Глава 1
и С = {^(У)} назовем цепным отображением. Отсюда следует, что
гомоморфизмы gk индуцируют гомоморфизмы gk* : Ker дк/ Im dk+i —>
—> Kerc^/Imc%+1, т. e. гомоморфизмы групп гомологий gk*: Hk(X) —>
Hk(Y).
Лемма 2.1. Гомоморфизмы g* = {дъ} обладают свойствами: 1) ес-
ли g: X —> У, h: Y —> Z — непрерывные отображения, то (hog)* =
= h* о g*; 2) если I %: X —> X — тождественное отображение X на
себя, то (1%)*: Нк(Х) —> Нк(Х) — тождественное отображение для
любого к.
Доказательство следует из определения соответствующих гомо-
морфизмов.
Следствие 2.1. Группы сингулярных гомологий топологически инва-
риантны, т. е. если два пространства X uY гомеоморфны, то их груп-
пы сингулярных гомологий изоморфны.
Доказательство.
Если g: X —> У — гомеоморфизм, то g-1: У —> X также гомео-
морфизм; осталось применить лемму 2.1.
Оказывается, имеет место более сильное утверждение: группы го-
мологий гомотопически эквивалентных пространств изоморфны (гомо-
топическая инвариантность гомологий). Для доказательств нам потре-
буется понятие «цепной гомотопии» цепных комплексов. Пусть С и С —
цепные комплексы и <р = {<pk: С —> С'}, ф = { //’/,, }: С —> С — два цеп-
ных отображения С —> С.	
Определение 2.4. Будем говорить, что задана цепная гомотопия D
комплекса С в комплекс С, если задана совокупность D = {Л/.} го-
моморфизмов Dk: Ck —> С’к+1, таких, что для каждого к выполнено
соотношение о дк + д'к+1 о Dk = <рк — фк. Получаем следующую
диаграмму:
X,	+ 1	/7	. Z7
>	> С/. --------> С/.-1
> ...
Dk Vk-Фу^l)k-t
> ...
Естественно назвать два цепных отображения (риф, связанные
цепной гомотопией, гомотопными (или цепно-гомотопными). Из опре-
§ 2. Группы сингулярных гомологий
17
деления групп гомологий следует, что гомотопные цепные отображения
индуцируют одинаковые отображения для групп гомологий. В самом
деле, если z G Ск является циклом, т. е. с)кг = 0, то из определения
цепной гомотопии получаем
Pk(z) - Фк^) = 1)к_Д)к(х) + d'k+1Dk(z) = dk+1(Dk(z)),
т. e. образы этого цикла при отображениях <рк и фк отличаются лишь
на цепь-границу, что и требовалось.
Теорема 2.1. Пусть f,g:X —> Y — гомотопные друг другу непре-
рывные отображения пространств X и Y. Тогда индуцированные гомо-
морфизмы f*, gt: Нк(Х) —> Hk(Y) совпадают для всех к. В частности,
гомотопически эквивалентные пространства имеют изоморфные груп-
пы гомологий.
Доказательство.
Поскольку f и g гомотопны, то существует непрерывное отображе-
ние цилиндра F: X х I —> Y, I = [0,1] такое, что F\ххо = .Л F\хх 1 =
= g. Рассмотрим над каждым fc-мерным симплексом Д* (/.• + ^-мер-
ный цилиндр Д* х I (прямое произведение симплекса на отрезок)
и разобьем его в объединение к + 1-мерных симплексов в количест-
к
ве fc-f-1: Хк х I = (J Д*+1. Симплекс Д*+1 задается в пространстве пе-
-<=о
ременных (xq, ... , хк, t) так: Д*+1 = {(^о, • • • , хк, t): Xq +... + Xf-i
t жо + - • .+®г}. На рис. 7, 8 изображено соответствующее разбиение
цилиндров Д1 х I и Д2 х I (т.е. при к = 1,2). Пусть ф: Хк —> X —
произвольный сингулярный симплекс пространства X. Определим ото-
бражение ipxlk:^k х I —> X х I цилиндра Хк х I в X х I. По-
скольку на X х I определено отображение F, то имеет смысл ком-
позиция F(ip х 1/): Хк х I —> Y. Ограничения этого отображения
на (fc + 1)-мерные симплексы Д*+1 определяют к + 1 сингулярных
симплексов пространства Y. Сумму этих симплексов обозначим че-
рез Dk{tp). Мы сопоставили каждому симплексу <р симплекс Dk(<p),
что определяет гомоморфизм Dk: Ск(Х} —> Ск+к (Y). Остается заме-
тить, что совокупность гомоморфизмов {Dk} определяет цепную гомо-
топию, связывающую два цепных отображения <р = {Д} и ф = {gj,},
индуцированных отображениями f и g. В самом деле, с геометричес-
кой точки зрения соотношение d'k+1Dk = —Dk-kdk + fk ~ gk означает
18
Глава 1
Рис. 7
только то, что полная граница сингулярной «призмы» Д* х I слага-
ется из трех компонент: боковой границы —Dk-idk и двух «основа-
ний»: fj. и — gk (см. рис. 8). Таким образом, гомотопные отображения f
и g индуцируют цепногомотопные отображения {/*} и {g/,.} и, следо-
вательно, одинаковые отображения групп гомологий. Если простран-
ства X и Y гомотопически эквивалентны, то существуют отображе-
ния р: X —> Y, h: Y —> X такие, что ph ~ 1у и hp ~ 1у. откуда (и из
леммы 2.1) получаем второе утверждение теоремы.	
Именно гомотопическая инвариантность групп гомологий объяс-
няет ту значительную роль, которую они играют в геометрии и то-
пологии. В частности, эти группы выступают в качестве инвариан-
тов пространств (относительно гомотопической эквивалентности). Ес-
ли группы гомологий двух пространств различны, то эти пространства
не могут быть гомотопически эквивалентными.
Группы сингулярных гомологий плохо поддаются вычислению, по-
этому в дальнейшем мы будем иногда пользоваться клеточными гомо-
логиями, вычисление которых значительно проще. Для конечных кле-
точных комплексов группы сингулярных гомологий и клеточных изо-
морфны. Определение и свойства клеточных гомологий см., например,
В [3, 4].
Глава 2
Критические точки гладких функций на
многообразиях
§ 3.	Критические точки и геометрия поверхностей
уровня
1.	Определение критических точек
В первой части курса дифференциальной геометрии и топологии [2]
доказана теорема классификации двумерных связных замкнутых мно-
гообразий. При этом обнаружилось, что они сводятся к двум бесконеч-
ным сериям: сферы с ручками и сферы с пленками Мёбиуса (см. [2,
гл. 4, § 5]). Интересным вопросом является классификация трехмерных
замкнутых многообразий. В отличие от двумерного случая аналогичная
классификация пока отсутствует. Тем не менее множество всех трех-
мерных многообразий допускает довольно простое и полезное во многих
приложениях описание. Оказывается, можно предъявить те «элементар-
ные кирпичи», из которых конструируется (склеивается) любое такое
многообразие. В дальнейшем мы докажем эту теорему, но для этого
нам потребуется развить некоторый геометрический аппарат, важный
и сам по себе, поскольку он имеет приложения, далеко выходящие за
рамки вопроса описания трехмерных многообразий. Поэтому мы со-
средоточим сейчас основное внимание на изучении связи между гео-
метрией многообразий и свойствами гладких функций, заданных на
этих многообразиях. Пусть f — гладкая вещественнозначная функция
на гладком многообразии М размерности п. Рассмотрим ковекторное
поле grad f.
Определение 3.1. Точка хо Е М называется критической, или ста-
ционарной для функции f, если grad/(a?o) = 0. Значение /(жо) называ-
ется критическим значением функции f.
20
Глава 2
изводных /, т. е. матрица гессиана /, а именно d2f =
В критической точке хд определена матрица вторых частных про-
д2/(ж0)
dxidxj
Определение 3.2. Критическая точка Хд для функции f называется
невырожденной, если матрица d2f невырождена в точке Хд.
Это определение не зависит от вы-
Рис. 9
бора локальной системы координат. В
самом деле, если нам задана регулярная
замена координат Xi = Xi(yi,... , уп),
1 i п, то матрица d2f преобразует-
ся так:	по"
скольку fXi(xo) =0 (точка хд — кри-
тическая). Из невырожденности
следует невырожденность	Мат-
рица d2f, очевидно, симметрична и,
следовательно, определяет симметрич-
ную билинейную форму на касательной
плоскости ТХоМ к многообразию М в
точке жо- Эту форму обозначим тем же
символом cP f.
Определение 3.3. Индексом ind/ Хд
критической точки Хд называется мак-
симальная размерность линейного подпространства в плоскости ТХоМ.
на котором форма (Р f отрицательно определена. Степенью вырожде-
ния критической точки хд называется размерность нулевого подпро-
странства в ТХоМ, т. е. состоящего из всех таких векторов а, для кото-
рых d2f(a,b) — 0 для любого вектора b G ТХоМ.
Другими словами, степень вырождения совпадает с числом нуле-
вых собственных чисел формы <Р f, а индекс — это число отрицатель-
ных собственных чисел. Ясно, что точка хд является невырожденной
в том и только в том случае, когда степень вырождения равна нулю
(рис. 9). В основном все дальнейшие события будут развиваться во-
круг невырожденных критических точек.
Определение 3.4. Гладкая функция f на М называется функцией
Морса, если все ее критические точки невырождены.
§3. Критические точки и геометрия поверхностей уровня
21
В [1, с. 488] доказано
Предложение 3.1. На любом гладком компактном многообразии су-
ществуют функции Морса. Функции Морса всюду плотны в простран-
стве всех гладких функций на многообразии. Каждая функция Морса
имеет на компактном многообразии лишь конечное число критических
точек, в частности все они изолированы. В множестве всех функций
Морса существует всюду плотное подмножество, состоящее из таких
функций f, что каждому критическому значению такой функции отве-
чает одна и только одна критическая точка на многообразии (значения
функции в разных критических точках различны).
2.	Каноническое представление функции в окрестности
невырожденной критической точки
В этом пункте мы докажем техническую, но чрезвычайно полез-
ную теорему, позволяющую изучать поведение функции в окрестности
невырожденной критической точки.
Предложение 3.2. Пусть f — гладкая функция на М и Хд — невы-
рожденная критическая точка. Тогда в некоторой открытой окрест-
ности точки хо существуют такие локальные регулярные координа-
ты yi, ... , уп, что в этих координатах функция f запишется в ви-
де f{y) = ~У1 ~	~ Ух + Ух+i + ... + , где А — индекс критической
точки.
Замечание. Содержательность этого утверждения заключается в том, что,
в отличие от разложения функции в ряд Тейлора в окрестности точки хо,
в записи функции f, утверждаемой теоремой, нет членов порядков, превос-
ходящих два. Оказывается, все эти члены высоких порядков можно убрать
подходящей заменой координат.
Доказательство.
Поскольку нас интересует малая окрестность точки я?о, то можно
сразу считать, что функция /(я?) = /(я?х, ... , хп) задана в диске (ша-
ре) De(O) радиуса е, f(O) = 0, где О— критическая точка функции /.
Тогда мы утверждаем, что существуют гладкие функции gi, ... , gn
такие,
имеет
место следующее очевидное
что /(я?) = Xigi + ... xngn и gi(O) =	. В самом деле,
о
22
Глава 2
= f(l  х) — f(Q)  х = f(x). Отсюда, делая замену параметра, получаем
1 1
— Xi dt =
f df(tx)
> , Xi / dx. dt= > , xigi(x),
г	i
/(ж) - E / dx
1
где£г(ж)= / —-—- dt. Очевидно, что gi(О) = 0, так как grad f(O) = 0.
J
0
Применяя затем это утверждение к функциям gj, получаем, что сущест-
вуют гладкие функции hij такие, что gi = ^Xjhij. Таким образом,
J
мы представили функцию f в виде f = ^XiXjhij, где можно считать,
1,3
что hij = hji. Далее, мы утверждаем, что h(O) = (^(О)) = (/ж;ж3(О))-
Это вытекает из того, что
_ f [ л- л. ^2f(tTX) _ I,
~^Xj J J dTdt dxidxj
•'(IO	I
Отсюда hij(O) = fXiX (О). Далее будем двигаться по индукции. Пред-
положим, что нам удалось найти координаты у±, ... , уп, в которых
функция f имеет вид
f(y) =	± • • • ± y2k-i + Е
i,j^k
где функции Pij(y) образуют симметричную и невырожденную в точ-
ке О матрицу. Начало индукции (при k = 1) у нас уже имеется, так как
при k = 1 достаточно взять в качестве матрицы (Pij) матрицу (hij).
§3. Критические точки и геометрия поверхностей уровня
23
Итак, переходим к следующему шагу индукции. Перепишем функцию f
в таком виде:
/ = ±у? ± • • • ± ?/Li + pkky2k + 52 ytyjpi^
i,j^k
где (i,j) (fc, fc). Квадратная матрица размера (пхп) показана на
рис. 10. Так как эта матрица симметрична и невырождена, то сущест-
вует линейная замена координат у/.. .. , уп такая, что в одной точке
(а именно в начале координат) матрица приведется к диагональному
виду.
Рис. 10
111 0 0 •11	0
0	|111 0 : оЧ
Рис. 11
Можно сразу считать, что координаты у/., ... , уп были выбраны
именно таким образом, тогда отсюда следует, что Pkk(O) 0. Рассмот-
рим функцию q(y) = -у/|-Р/г/г(2/)| и сделаем замену переменных (у) —> (z)
по формулам:
Zi = yi при	— 1; fc + 1 г /г;
pkk'
Найдем якобиан этой замены в точке О (рис. 11). Ясно, что
dzk
дук
= q(O) = V\pkk(O)\, т. е. det (0.
о	\дУ) дУь
По теореме о неявных функциях функции z^ ... , zn могут быть взяты
в качестве локальных регулярных координат в некоторой достаточно
24
Глава 2
малой окрестности точки О. Итак, получаем
Ж) = £	।	।
?	i>k кк
+ Ркк(^у^2 +2(^-^у^}^у^к +
\>k kkJ V i>k kkJ i>k
+ 12 У1УэРП = ±Z1 ± • ±Zk + 12 ZiZiPij-
i,k^k+l	i,j^k+l
Мы завершили следующий шаг индукции, что и доказывает теорему.

Таким образом, всегда можно выбрать такие координаты, что
функция запишется в виде квадратичной функции, приведенной к диа-
гональному виду в целой окрестности (а не только в самой невырож-
денной критической точке).
3.	Топологическая структура поверхностей уровня функ-
ции в окрестности критических точек
Пусть f — гладкая функция на М. Введем обозначения: fa =
= J-1 (а) — поверхность уровня функции ./'. отвечающая значению а,
fa = {x£ М, /(ж) = а}-, Ма = {х £ М, f(x) < а}, т.е. Ма состоит из
всех точек М, в которых значения f не превосходят а. Границей (кра-
ем) Ма является fa. В том случае, когда а — регулярное (т.е. не кри-
тическое) значение функции /, то в силу теоремы о неявных функциях
поверхность fa является гладким подмногообразием в М размернос-
ти п — 1, а Ма является гладким /г-мерным многообразием с краем fa
(рис. 12).
Лемма 3.1. Пусть f — гладкая функция на компактном замкнутом
многообразии М, и пусть отрезок [а, 6] (где а < Ь) не содержит кри-
тических значений функции f, т.е. в множестве f~1(a,b), лежащем
в многообразии М, нет критических точек функции f. Тогда многооб-
разия fa и фь диффеоморфны и, кроме того, диффеоморфны многообра-
зия Ма и Мь (два последних многообразия имеют края).
Доказательство.
Поскольку М компактно, то существует достаточно малое чис-
ло е > 0 такое, что отрезок [а —е,& + е] также не содержит критических
значений функции /. Как известно из курса геометрии и топологии,
§3. Критические точки и геометрия поверхностей уровня
25
любое компактное многообразие можно вложить в конечномерное ев-
клидово пространство, а потому на М можно задать некоторую ри-
манову метрику (например, индуцированную евклидовой). Фиксируем
эту положительно определенную метрику и рассмотрим на М вектор-
ное поле v(x) = — grad/(ж). На многообразии /-1[а — е, b + е] это поле
не имеет особенностей (нулей) и поле v ортогонально к гиперповерх-
ностям уровня /-1(£),а t Ь. Рассмотрим интегральные траектории
поля v, начинающиеся на подмногообразии /ь и кончающиеся на fa
(рис. 13). В силу компактности М можно определить гладкую дефор-
мацию поверхности /{, вдоль этих траекторий на поверхность fa. От-
сюда следует диффеоморфность fa и /ь, так как обратная деформация
строится очевидным образом. Точно так же проверяется диффеоморф-
ность Ма и Мъ, так как полный прообраз /-1[а, Ъ] диффеоморфен fa xi,
где I — отрезок. Для того чтобы продолжить этот диффеоморфизм, за-
данный пока что в слое а f Ь, достаточно отступить на е «вниз»
от поверхности fa и затормозить движение точек вдоль интегральных
траекторий на интервале от fa до fa-e- Слой fa, опускаясь вниз, бу-
дет постепенно замедлять свое скольжение, и, наконец, в момент а — е
он останавливается. Это торможение можно осуществить с помощью
гладкой замены времени, задаваемой гладким графиком, показанным
на рис. 14. Лемма доказана.	
Изучим структуру поверхностей уровня около критических точек
26
Глава 2
Рис. 14
Рис. 15
функции /. Пусть я?о — невырожденная критическая точка, /(я?о) = 0.
В силу предложения 3.2 в достаточно малой окрестности U точки я?о
можно ввести криволинейные координаты х±, ... , хп такие, что f =
= —— ••• — х2х + я?д+1 + ••• + х2. Будем считать, что центр О
окрестности U совмещен с Жо и f(Q) = 0. Рассмотрим три гипер-
поверхности: ,/'_£. /о, f+e где £ > 0 — достаточно малое число. По-
верхности задаются квадратичными уравнениями в координатах об-
ласти U: — х2 — • • • — хх + х2+1 + ••• + х2 = {—£, 0, +е}. Здесь А —
индекс критической точки. Поверхность /о является конусом с вер-
шиной в О, а поверхности f±e — гиперболоидами. На рис. 15 показан
случай п = 2, А = 1, на рис. 16 — случай п = 3, А = 1.
Лемма 3.2. Пусть в слое	+е] = М+е \ М_е имеется только
одна критическая точка индекса А. Тогда многообразие М+е, гомотопи-
чески эквивалентно конечному клеточному комплексу, получающемуся
§3. Критические точки и геометрия поверхностей уровня
27
из М_е путем приклейки к М_е одной клетки <тх размерности А к гра-
нице f_e = дМ_Е.
Иногда говорят, что М+Е имеет гомотопический тип клеточного
комплекса М-е U <тА.
Доказательство.
Мы построим непрерывную деформацию ipt: М+е —> А7+,. где 9?0 =
= 1	_ и : М+е —> М-Е U <тА, такую, что деформация ipt тож-
дественна на М-Е. Из определения гомотопически эквивалентных про-
странств (см. § 1) следует, что существование такой деформации дока-
зывает лемму. Действуя по индукции по значениям функции /, начнем
с критических точек индекса А = 0 (точки минимумов). Для точек
минимума утверждение леммы очевидно. Снова построим векторное
поле v = —grad/ и построим деформацию, связанную с интеграль-
ными траекториями этого поля. Вне окрестности U заставим точки
слоя М+е\М-е скользить вдоль траектории поля v (рис. 17). В окрест-
ности U деформация устроена по-иному и также показана на рис. 17.
Отрезок АВ условно изображает диск ЛА(я?1, ... , хд), граница которо-
го (т.е. сфера SA-1) гладко вложена в край области М-е. На рис. 17
граница диска Dx изображена в виде пары точек А и В. Результат де-
формации показан на рис. 18. Лемма доказана.	
4.	Представление многообразия в виде клеточного комп-
лекса, связанное с функцией Морса
Оказывается, задание на М функции Морса определяет естествен-
ное представление М в виде клеточного комплекса. Разные функции
Морса определяют, вообще говоря, различные такие представления.
28
Глава 2
m_s
ДО-
Рис. 18
Рис. 19
Теорема 3.1. Пусть f — функция
Морса на гладком компактном связ-
ном замкнутом многообразии М. Тог-
да М гомотопически эквивалентно
конечному клеточному комплексу, в
котором каждой критической точке
индекса А соответствует одна клет-
ка размерности А.
Другими словами, в этом клеточном комплексе столько клеток,
сколько имеется критических точек у функции, причем размерность
каждой клетки равна индексу соответствующей ей критической точ-
ки. Так как на любом компактном гладком связном многообразии есть
функция Морса (см. предложение 3.1), то любое такое многообразие
допускает описанное в теореме 3.1 представление.
Доказательство.
Поскольку М компактно, то число кри-
тических точек функции / конечно. Если
на каждом критическом уровне функции
находится только одна критическая точ-
ка, то утверждение сразу следует из лем-
мы 3.2. Если же на одном критическом
уровне находится несколько критических
точек, то, как видно из доказательства лем-
мы 3.2, вследствие изолированности этих
точек, можно считать, что к многообра-
зию М-е одновременно приклеивается несколько клеток. Другой спо-
соб: можно рассмотреть малое возмущение функции в окрестности кри-
тических точек, находящихся на одном критическом уровне [1, с. 490].
Из предложения 3.1 можно установить (см. доказательство в §6), что
это возмущение переведет f в новую функцию f с таким же числом
критических точек тех же индексов, но расположенных уже на разных
критических уровнях (рис. 19). Теорема доказана.
Важно представлять себе, что теорема 3.1 позволяет восстановить
гомотопический тип многообразия по функции далеко не однозначно.
Мы можем вычислить, в общем случае, лишь число клеток и их размер-
ности, но, вообще говоря, ничего не можем сказать о способе приклейки
этих клеток друг к другу, что и показывает нам тот произвол, с кото-
рым реконструируется клеточная структура многообразия.
§3. Критические точки и геометрия поверхностей уровня
29
5.	Операция приклейки ручек и разложение компактного
многообразия в сумму ручек
Рассмотрим более подробно операцию приклейки клетки <тА к гра-
нице многообразия М-Е. Как мы видели, именно эта операция меняет
гомотопический тип многообразия М-Е после «перехода» через крити-
ческий уровень. В предыдущем пункте мы намеренно огрубили изуче-
ние процесса перестройки поверхности уровня, чтобы сразу выявить
«гомотопическую часть» этой перестройки. Теперь изучим изменение
многообразия М-е с более тонкой дифференциальной точки зрения.
Для этого нам потребуется ввести операцию «приклейки ручек».
Определение 3.5. Ручкой размерности п и индекса А называется
прямое произведение двух дисков //д = Dx х Dn~x. Диск Dx размер-
ности А иногда называют осью ручки.
Рис. 20
Рис. 21
Ручка является гладким многообразием с краем
дН^ = d(Dx х Dn~x) = (dDx х Dn~x) U (Dx x dDn~x) =
= (SA-1 x Dn~x) U (Dx x
(рис. 20). Пусть Kp C Vq — гладко вложенное компактное подмногооб-
разие в римановом многообразии Vq. В каждой точке х £ К рассмот-
рим нормальный диск радиуса е с центром в точке х (состоящий из
30
Глава 2
Рис. 22
отрезков длины е, ортогональных в V и К). Объединение всех таких
дисков назовем трубчатой окрестностью NeK. Тогда существует такое
достаточно малое е > 0, что труб-
чатая окрестность NEK является
гладким g-мерным подмногообрази-
ем в Vq с краем (JN,:K. являющим-
ся гладким (</ — 1)-мерным подмно-
гообразием многообразия Vq. В част-
ности, dNeK расслаивается на сфе-
ры Sq~p~x радиуса е, центры кото-
рых расположены на Кр [1, с. 498].
Определим операцию приклейки руч-
ки к многообразию Wn с кра-
ем V"-1 = dWn. Пусть SA-1 С
С у п-1 — гладко вложенная сфера
такая, что ее достаточно малая трубчатая окрестность Лгг,5'А~| радиу-
са е > 0 представляется в виде прямого произведения SA-1 х Dn~x,
где Dn~x нормальный диск размерности п — А радиуса е (рис. 21).
Если в границе V"-1 многообразия Wn лежит такая сфера SA-1, то
можно построить новое гладкое многообразие Wn, с краем V"-1 =
= dWn, рассмотрев склейку многообразия Wn с ручкой по ото-
бражению g: SA-1 х Dn~x —> 7VeSa-1 = SA-1 x Dn~x, являющемуся
диффеоморфизмом между трубчатой окрестностью Лу,5'А~1 и частью
границы SA-1 х Dn~x С дН^. Эта операция показана на рис. 22 для
ручки Hf, на рис. 23 для ручки и на рис. 24 для ручки Н:>. Сглажи-
вая затем «углы», возникшие в точках х G dNESx~1 = SA-1 х S"-A-1,
мы и получаем новое гладкое многообразие Wn с гладким краем V"-1.
На рис. 22, например, эта операция «сглаживания углов» показана пунк-
тиром.
Оказывается, эта довольно простая операция приклейки ручек яв-
ляется той элементарной процедурой, итерирование которой позволяет
построить любое компактное многообразие, начиная с конечного набо-
ра точек. При этом «элементарные кирпичи» — это ручки.
Теорема 3.2. Любое гладкое компактное связное замкнутое мно-
гообразие Мп диффеоморфно объединению некоторого конечного числа
ручек {Н^} соответствующих критическим точкам функции Морса
на Мп. При этом каждой критической точке индекса А отвечает в
точности одна ручка Н^.
§3. Критические точки и геометрия поверхностей уровня
31
Доказательство.
Рассмотрим на М произвольную функцию Морса, на каждом кри-
тическом уровне которой находится ровно одна критическая точка
(см. предложение 3.1). Так как в силу леммы 3.1 Ма диффеоморфно Мь
при а < b и при условии, что на отрезке [а, Ъ] нет критических зна-
чений функции, то достаточно изучить изменение М-е при переходе
через критическую точку индекса А. Для этого мы воспользуемся уже
построенной выше операцией стягивания многообразия М+е вдоль ин-
тегральных траекторий поля v (см. доказательство теоремы 3.1), но, в
отличие от п. 4, выполним это стягивание не до конца, остановившись
незадолго перед завершением этой операции. Геометрическая процеду-
ра показана на рис. 25. Результат деформации показан на рис. 26. По-
скольку деформация является диффеоморфизмом, то М+е = M_fU Н£,
что и требовалось.	
Отметим что «осью ручки» //д является A-мерный диск D\ со-
стоящий из интегральных траекторий поля v = — grad/, выходящих
из особой точки я?о поля v (критической точки). В некотором смысле
справедливо и обратное утверждение, а именно: если, напротив, задано
некоторое разложение компактного многообразия М в сумму ручек,
то можно восстановить некоторую функцию Морса f на М такую, что
32
Глава 2
ассоциированное с ней разложение М в сумму ручек совпадет с за-
данным исходным разбиением М в объединение ручек. Доказательство
проводится индукцией по числу ручек и по их индексу. В самом де-
ле, ручки {Н^} можно отождествить с дисками {£>"}, центры которых
можно по определению считать точками минимума конструируемой
функции f (т. е. точками индекса 0) (рис. 27). Искомую функцию бу-
дем строить, предъявляя ее гладкие поверхности уровня в М (при этом,
конечно, функция f будет определена неоднозначно). Итак, в качест-
ве гиперповерхностей fa в дисках Dn = Hq возьмем концентрические
сферы с центрами в локальных минимумах функции /. Предположим
теперь, что искомая функция построена на гладком многообразии, за-
даваемом неравенством f ас краем V71-1 = {/ = а}, и пусть следую-
щая по счету ручка приклеена к краю V71-1. Требуется продолжить
функцию на эту ручку. Продолжение показано на рис. 28 путем предъ-
§4. Точки бифуркации и их связь с гомологиями
33
явления гиперповерхностей уровня. При этом потребовалось немного
изменить прежнюю функцию в окрестности края Vй-1, и образовав-
шиеся «выбросы» поверхностей уровня продолжить внутрь ручки. При
этом в ручке появилась одна критическая точка индекса А, что и за-
вершает доказательство, поскольку полученная при этом функция сно-
ва оказалась постоянной на крае нового многообразия, а это позволяет
продолжить процесс на следующие ручки.
§ 4.	Точки бифуркации и их связь с гомологиями
1.	Определение точек бифуркации
То обстоятельство, что задание функции Морса на М позволяет
представить М в виде клеточного комплекса, клетки которого соот-
ветствуют критическим точкам функции, указывает на возможное су-
ществование связи между числом и индексами критических точек и
гомологическими характеристиками многообразия, поскольку послед-
ние определяются разбиением М в объединение клеток. Такая связь
действительно существует, причем она имеется не только для глад-
ких функций на многообразиях, но и для непрерывных функций на
произвольном клеточном комплексе. В этом пункте мы будем рассмат-
ривать непрерывные функции на конечном клеточном комплексе X.
Будем также считать (для простоты), что X является метрическим
пространством.
Определение 4.1. Точка х £ X называется правильной для функ-
ции f на X, если существует открытая окрестность U этой точки та-
кая, что U гомеоморфна произведению /-1(а) х I (где I — единичный
отрезок, а = /(ж)), причем следующая диаграмма коммутативна:
В этой диаграмме р — гомеоморфизм, р — проекция на сомножи-
тель, отображение /: /-1(а) —> В1 переводит /-1(а) в одну точку а,
отображение а, существование которого постулируется, должно быть
непрерывно, f = ар.
34
Глава 2
Рис. 29
Рис. 30
Требование коммутативности диаграммы фактически означает,
что гомеоморфизм (р является «послойным», т. е. поверхности (/-1 (a), t)
(при представлении окрестности U в виде прямого произведения) долж-
ны совпадать с поверхностями уровня /-1(а +1) (рис. 29).
Определение 4.2. Точка х G X называется точкой бифуркации (би-
фуркационной точкой) для данной функции /, если х не является пра-
вильной точкой для этой функции.
Рассмотрим простейшие примеры. Если X = М — гладкое много-
образие и f — гладкая функция на М, то любая точка, правильная для /
в смысле теории гладких отображений (см. [2]), является правильной и
в смысле определения 4.1. Если х £ М — невырожденная критическая
точка для гладкой функции /, то очевидно, что х — точка бифуркации
(рис. 30). В то же время, если х £ М — вырожденная критическая
точка функции /, то она не обязана быть бифуркационной. В самом
деле, рассмотрим М = В:1 и в качестве / возьмем функцию /(ж) = я?3.
Тогда х = 0 является вырожденной критической точкой, однако это
правильная точка в смысле определения 4.1 (рис. 31).
Поскольку все наши дальнейшие приложения связаны с функция-
ми на многообразиях, то для простоты предположим, что X = М —
гладкое многообразие и f — гладкая функция на М. На рис. 32 услов-
но показано взаимоотношение между вырожденными критическими
точками, точками бифуркации и невырожденными критическими точ-
ками. Предположим, что f имеет на М лишь конечное число точек
бифуркации (в частности, все они изолированы). Рассмотрим группы
гомологий НЛМ. А), где А — некоторое поле коэффициентов (напри-
§4. Точки бифуркации и их связь с гомологиями
35
Рис. 31
Вырожденные
критические точки
Невырожденные
критические точки
Рис. 32
мер, В или Zp). В дальнейшем обозначение А будем опускать и просто
писать Н*(М). Через (3k = dim///,.(Л7) обозначим размерность груп-
пы Нь(М) (над полем), называемую иногда fc-мерным числом Бетти.
Определение 4.3. Полиномом Пуанкаре пространства М называется
полином вида Р(М, i) = £	, где п = dimM.
k=0
Определение 4.4. Значение с для функции f называется бифуркаци-
онным, если поверхность уровня /-1(c) содержит хотя бы одну точку
бифуркации.
Если f — функция Морса, то бифур-
кационные и критические значения сов-
падают. Пусть Ci, ... , сдг (где N < оо)
— бифуркационные значения для f
на М. Так как бифуркационных точек
конечное число (см. выше), то все они
изолированы. Пусть {х}а — множество
бифуркационных точек на поверхности
уровня /_1(с„). Рассмотрим МСа = {х £
£М: /(я?) са}. Относительные груп-
пы гомологий Нк(МСа, МСа \ {ж}„) яв-
ляются, как мы сейчас обнаружим, важ-
Рис. 33
ными инвариантами точек бифуркации функции /. При этом под груп-
пой Hk(MCa, МСа \ {я?}а) мы будем понимать, в силу изолированности
точек {ж}„, группу Hk(MCa, МСа \ и{х}а), где и{х}а — набор доста-
точно малых открытых окрестностей точек {х}а (рис. 33). Рассмотрим
36
Глава 2
целые числа Дк(МСа, МСа \{ж}а), где (ik(X,Y) = dimHk(X,Y) (над по-
лем).
Определение 4.5. Полиномом Пуанкаре функции / на М назовем по-
лином
N	п
Q(M, = Е^(МСа, МСа \ {x}a)tk.
а=1 {ж}а k=0
2.	Теорема, связывающая полиномы Пуанкаре функции и
многообразия
Теорема 4.1. Пусть Q(M, f, t) и Р(М, t) — полиномы Пуанкаре
функции и многообразия. Тогда разность полиномов Q — Р делится
на 1 + t, и отношение (О — Р)/(1 + t) является полиномом с неот-
рицательными целыми коэффициентами.
Доказательство.
Шаг 1. Рассмотрим числа а < b из
области значений функции f на М та-
кие, что на отрезке [а, &] нет бифуркаци-
онных значении /. Тогда Мк стягивает-
ся на Ма, и Н>(Мь,Ма) = 0. В самом
деле, если f — функция Морса, то это
утверждение было доказано нами в § 3.
Если же f — не функция Морса, то нуж-
но сослаться на определение правильных точек 4.1. Поскольку все точ-
ки из «слоя»	правильные, то /-1[а, Ь] можно покрыть конечным
набором открытых окрестностей U, в каждой из которых выделено сло-
ение траекториями — прообразами отрезка при гомеоморфизме (р. Эти
траектории с успехом могут играть роль интегральных траекторий по-
ля v = — grad/, использовавшегося в §3 для построения стягивающей
деформации. Из определения 4.1 следует, что эти траектории из разных
окрестностей можно согласовать на пересечении окрестностей.
Шаг 2. Для некоторого достаточно малого е > 0 имеет место изо-
морфизм
Hk(MCa, МСа \ {ж}а) = Нк(МСа+е, МСа_е).
Это следует из предыдущего утверждения и определения груп-
пы Нк(МСа, МСа \ {х}„) (рис. 34).
§4. Точки бифуркации и их связь с гомологиями
37
Шаг 3. Рассмотрим следующие три типа полиномов Пуанкаре:
а) Р(Ма) = ^Pk{Ma)tk, б) Р(МЬ, Ма) = Y^Mb, Ma)th,
к	к
где а < Ь, т.е. Ма С Мь; в) P(hnd) = ^(dimlmc^-i-i)^,
k
где оператор дк+±: Hk+i(Mb, Ма) —> Нк(Ма) является граничным опе-
ратором в точной гомологической последовательности пары (Мь, Ма);
1тдк+1 С Нк(Ма).
Шаг. 4. Мы утверждаем, что Р(МЬ, Ма) — (Р(МЬ~) — Р(Ма)) =
= (1 + £)Р(1тЭ). Для доказательства рассмотрим точную гомологи-
ческую последовательность пары (Мь, Ма), а именно:
Нк+1(мь,ма) Нк(ма) 4 нк(мь,ма)
А Нк(Мь,Ма) -4 pfe_i(Ma).
Из точности этой последовательности получаем следующую систему
соотношений:
(Зк(Мк, Ма) = dim Im j + dim Im Э/.;
dim Im J = (3k(Mb) — dim Im г =
= (Зк(Мь) - (J3k(Ma) - dimlm^+i) =
= (Зк(Мь) - (Зк(Ма) +dimIm3/!+i;
(3k(Mb,Ma) - dimlmj = (Зк(Мь,Ма) - (J3k(Mb) - (Зк(Ма)) -
— dimImtI/.-1-i = Rk — dimImc^.-1-i = dimlmc^.;
Rk = 0k(Mb,Ma) - (j3k(Mb) - fik{May).
Таким образом, tkRk = ifc-dimIm<I/!+i-|-i(7/!_1-dimIm<!/.), т.е. =
к
= (1 + t)P(Imd), что и требовалось.	
Я,,	“1 aN aN+l
""° *	° c v ° "gT
Рис. 35
Шаг 5. Рассмотрим все бифуркационные значения сх,...,сдг
функции / и числа а0, ai, ... , адг, «,v+i такие, что а0 < ci; ai < С{ <
38
Глава 2
< at+i; cjy < адг+1, т.e. бифуркационные значения {е,:} разделяются
значениями {с^}, бифуркационными уже не являющимися (рис. 35). Из
утверждения шага 4 мы можем записать для каждого i следующее со-
отношение:
F(Mas+1, MJ - (P(Mai+1) -P(Maj)) = (1 + f)P(Imc?)j,
где полином F(Im<J, имеет неотрицательные целые коэффициенты.
Суммируя эти равенства по всем i от 0 до N + 1, получаем
£р(ма,+1,мЛ) - P(MaN+1) +Р(мао) = (1 + t)K(t),
i
где полином K(t) имеет неотрицательные целые коэффициенты. Напом-
ним, что
P(Mai+1,Mai) = P(MCi,MCi\{x}i)
в силу утверждения шага 2. Осталось заметить, что P(MaN+1) = Р(М),
так как число «jy+i можно считать настолько большим, что «jv+i >
> тах/(х), а потому MaN, = М. Затем Р(Ма } = 0, так как число ад
можно выбрать так, чтобы ад < min /(ж), т. е. Мао = 0, а в определении
полинома Пуанкаре суммирование по индексу к начиналось с к = 0.
Следовательно, полученное выше равенство превращается в Q(M,f) —
—Р(М) = (1 + t)K(f), что и завершает доказательство теоремы. 
3.	Некоторые следствия
Доказанная нами теорема имеет несколько содержательных след-
ствий, некоторые из которых мы перечислим, в частности мы выведем
классические неравенства Морса. Возьмем в качестве коэффициентов
поле В, пусть f — гладкая функция на М, тогда Р(М, t) — ^(3ktk-
к
Полином Q(M, f, i) запишем в «приведенном виде», т. е. соберем вмес-
те члены, содержащие одну и ту же степень t. Получим Q = ^2pktk-
к
Числа (ik назовем числами Морса гладкой функции f на М. Эти чис-
ла получают наглядную интерпретацию, если f — функция Морса на
многообразии.
Предложение 4.1. Если f — функция Морса на М, то равно числу
критических точек индекса к.
§4. Точки бифуркации и их связь с гомологиями
39
Рис. 36	Рис. 37
Доказательство.
Пусть я?о — единственная критическая точка индекса к на по-
верхности /-1(с) = /с. Подсчитаем полином ^2dimHj(Mc, Мс \ я?о)Г.
Из доказательства теоремы 4.1 следует, что Hf(Mc, Мс \ я?о) =
= Hi(Mc+e, Мс_е). Но для функции Морса нам хорошо известны топо-
логическая структура множества Мс+е и его связь с множеством Мс_е.
В самом деле, Мс+е получается из Мс-е приклейкой ручки Н(( индек-
са к, а с гомотопической точки зрения Мс+е имеет вид Mc-S U <тк,
где <тк — клетка размерности к (рис. 36). Следовательно,
НДМС, Мс \ х0) = НДМс+е, Мс_е) = НДМс_е U <тк, Мс_е) =
= НДМс_е U ак/Мс_е) = НДак/дак) = Н{(Бк)
при i > 0 (рис. 37). Отсюда dim Л,(Л7,.. Мс\я?о)£1 = ^2 AimHi(Sk)tl =
i	i
= tk. Здесь мы воспользовались тем, что H0(X,Y) = 0. Таким обра-
зом, в коэффициент при tk в полиноме Q каждая критическая точка
индекса к дает вклад, равный единице, следовательно, коэффициент //./,.
при tk указывает количество таких точек. Утверждение доказано. 
Предложение 4.2. Для функции Морса f на М имеют место не-
равенства p,k (Зк для любого к. Другими словами, числа Бетти (Зк
многообразия М оценивают снизу числа Морса рк.
40
Глава 2
Доказательство.
Из теоремы 4.1 и предложения 4.1 следует, что
Q(M, f) - Р(М) =	- (3k)tk = (1 +
k
где полином, стоящий справа, имеет неотрицательные коэффициенты.
Предложение доказано.	
Топологический смысл этого утверждения ясен: независимых за-
мкнутых циклов в размерности к не больше, чем полное число клеток
размерности к. Предложение 4.2 следует уже из того, что каждой клет-
ке отвечает одна критическая точка функции Морса.
Рассмотрим следующее равенство, вытекающее из теоремы 4.1:
52	= 52 @ktk + (1 + t)K(t). При t = — 1 получаем
к	к
£(-i)^ = £(-im,
к	к
где справа стоит величина, называемая эйлеровой характеристикой
многообразия (альтернированная сумма чисел Бетти). Можно доказать,
что эйлерова характеристика — гомотопический инвариант многооб-
разия М. Отсюда следует, что альтернированная сумма чисел Морса
для произвольной гладкой функции (с изолированными особенностя-
ми) уже не зависит от функции и является инвариантом многообразия.
Разложим далее (1 + I)-1 в ряд по t, получим 52(—1)г^г- Отсю-
г=0
да следует, что ряд (52(/z* — 0k)tk) ' 52(—1)*^’ имеет (после приве-
дения подобных членов) неотрицательные коэффициенты. Фиксировав
какое-либо к, получаем отсюда систему неравенств: (/io — А))(— 1)* +
+ (кЧ - (31)(-1)к~1 + (/12 - (32)(-1)к~2 + ... + (/1* - (Зк) 0. Отсю-
да Гк - (J-k-l + /1й—2 - • • • ± /10 > 0k - 0k-l + (3k-2 ~ • • • ± А)- ПоЛеЗ-
но представлять себе, как устроены полиномы Q(M, f) в тех случа-
ях, когда бифуркационные точки не являются невырожденными кри-
тическими точками. Пусть, например, я?о — вырожденная точка для
функции /. В качестве частного случая рассмотрим f(x,y) = Re(zn),
где z = х + iy. На рис. 38 показано поведение линии уровня fc. Ясно,
что Мс+Е/Мс-е = S1 У ... V S1 (11 — 1 раз). Отсюда получаем, что по-
лином Q в точке я?о имеет вид t + ... + t = (n — 1)1. Как мы видим,
§4. Точки бифуркации и их связь с гомологиями
41
полином отличается от тех, которые появляются для невырожденных
особенностей. Появление коэффициента п — 1 при переменной t находит
объяснение в следующем геометрическом факте.
Рис. 38
Рис. 39
Известно, что вырожденные критические точки можно путем ма-
лых возмущений исходной функции превращать в объединение невы-
рожденных критических точек (распад вырожденных особенностей).
В нашем примере малое возмущение функции Re(^") можно выбрать
так: Re(z — ai)... (z — ап), где числа a, / aj при i ф j, at £ Ж. На
рис. 39 изображена качественная картина возмущения линий уровня
функции. Ясно, что Мс+е/Мс-е = S1 V ... V S1 (п — 1 раз), и вырож-
денная особенность порядка п распадается в объединение невырожден-
ных (квадратичных) особенностей в количестве п — 1. Так как значение
полинома Q в невырожденной критической точке индекса 1 равно i, то
число put = (n — l)t = t+...+t(n — l раз) и указывает нам, сколько не-
вырожденных особенностей появится при распаде одной вырожденной
особой точки функции Tle(zn).
В действительности, здесь мы столкнулись с некоторым общим
свойством полинома Q(M. f), а именно: он не меняется при достаточ-
но малом возмущении функции /. Дело в том, что этот полином вы-
ражен в терминах относительных групп гомологий Н*(Мс+е, Мс_е),
которые, очевидно, не меняются при малых возмущениях ./'. посколь-
ку неособая поверхность уровня остается неособой, если возмущение
достаточно мало. Следовательно, полный полином Q(M. f) указывает,
42
Глава 2
сколько невырожденных критических точек каждого индекса появляет-
ся при распаде вырожденных особенностей функции (при ее достаточно
малом возмущении). Отметим, что полином Q в вырожденной крити-
ческой точке не обязан быть однородным полиномом, как это было в
предыдущем примере. В самом деле, пусть /(х, у, z) = х3 — З.х(г/2 + z2).
Найдем Н*(Мс+е, Мс-е). Топологическая схема поверхностей уровня
показана на рис. 40. Ясно, что Мс+е/Мс-Е к S3- \/ S2, т.е. Q в точке xq
имеет вид t + t2.
Рис. 40
Рис. 41
4.	Критические точки функций на двумерных многообр-
азиях
Пусть f — гладкая функция на двумерном гладком замкнутом
связном ориентируемом многообразии. Поскольку каждое такое мно-
гообразие М2 (сфера с g ручками) может быть вложено в К3, то сре-
ди функций Морса выделяется класс «функций высоты», определяемых
как проекция многообразия М2 на какую-либо фиксированную пря-
мую в!3 в [1, с. 493-494] показано, что среди таких «функций высоты»
всегда можно обнаружить функцию Морса. На рис. 41 показан последо-
§4. Точки бифуркации и их связь с гомологиями
43
вательный процесс восстановления тора Т2 = M2=g при стандартном
его вложении в R3 таком, что z = f(P), Р € Т2 (функция высоты)
является функцией Морса с четырьмя невырожденными критически-
ми точками: я?х (минимум), я?2, я?з (седла индекса 1), Х| (максимум).
Для рода g > 1 аналогичная функция высоты на М2 имеет 2g + 2 не-
вырожденных критических точек: Х| (минимум), ж2, ••• , x2g+i (седла
индекса 1), x2g+2 (максимум) (рис. 42).
Однако, как мы видели, связь между бифуркацион-
ными точками функции и гомологиями ее области опре- £ ,, /Лл
деления (многообразия) имеется и в том случае, когда
особенности функции вырождены. Как мы видели, невы-	V Л
рожденные особенности могут сливаться, образуя одну	/А Л
вырожденную особую точку. Следовательно, число вы-	" i I
рожденных особенностей, например на Л4|, может быть
меньше чем 2g + 2. При этом, конечно, структура вы- \лЛ
рожденных точек более сложна, чем у невырожденных
(см. выше). На любом М2 можно построить гладкую
функцию высоты / в!3 с четырьмя критическими точ- Рис. 42
ками: минимум, максимум и два седла, которые будут
вырождены при g > 1. Искомое вложение М2 —> В:3 показано на рис. 43.
Для этого нужно склеить две показанные на рисунке конструкции, вос-
произведя при этом трубчатую окрестность g + 1 меридианов, соеди-
няющих северный и южный полюсы сферы (рис. 44). Два седла ar2, хз
вырождены при g > 1 и функция высоты в окрестности этих точек
устроена локально как функция Re(^g+1) (рис. 45).
Рис. 43
Рис. 44
44
Глава 2
Можно показать, что наименьшее число критических точек функ-
ции высоты на (где g > 1) равно четырем (и мы предъявили
такую функцию высоты). Однако если мы откажемся от требования,
чтобы f была функцией высоты, то тогда число критических точек
можно еще уменьшить на единицу, а именно на любом двумерном
гладком компактном связном замкнутом многообразии (ориентируе-
мом Mg, g > 1 или неориентируемом Mfy всегда существует гладкая
функция только с тремя критическими точками: минимум, максимум
и вырожденное седло. Мы предъявим эту функцию /, задав систему
линий уровня f на многообразии. Для этого воспользуемся теоремой
классификации двумерных поверхностей [2] и представим Mg (или М?
в неориентируемом случае, где g — число пленок Мебиуса, вклеен-
ных в сферу) в виде склейки фундаментального многоугольника W,
Рис. 45
для которого возьмем симметричную каноническую форму, а имен-
но ТУ = ai...	1...	[2, с. 268], где «+1» отвечает неориен-
тируемому случаю, а « —1» — ориентируемому (рис. 46). Разделив этот
многоугольник пополам, зададим f ее линиями уровня
(задание это неоднозначно). При этом слева от отрез-
ка АВ (делящего пополам ТУ) поместим точку макси-
мума, справа — точку минимума. При этом третья
критическая точка — вырожденное седло — окажет-
ся в вершинах фундаментального многоугольника (на-
помним, что все эти наши вершины отождествлены в
одну точку на поверхности) (см. рис. 46). Ясно, что
построенная нами функция f имеет в малой окрест-
ности этого вырожденного седла вид Re(^“) (найдите
число а как функцию от g или от g). Видно, в каком месте мы ис-
пользовали симметричность кода W: разбив W пополам отрезком АВ,
мы гарантировали, что в каждой внутренней точке любой стороны а.;
функция f имеет ненулевой градиент: она либо продолжает расти, пе-
реходя через ai, либо продолжает убывать. Если бы по одну сторону от-
резка АВ оказалась бы пара сторон, занумерованных одной буквой, то
эта сторона была бы целиком заполнена вырожденными особенностями
функции. При малом возмущении построенной нами гладкой функции
единственное вырожденное седло распадается в объединение невырож-
денных седел, как это показано на рис. 47.
§4. Точки бифуркации и их связь с гомологиями
45
Рис. 46	Рис. 47
Задача. Докажите, что построенная выше функция не может быть ре-
ализована как некоторая функция высоты при гладком вложении дву-
мерной поверхности R3.
С другой стороны, число точек бифуркаций гладкой функции f
на (или на М?>0) не может быть меньше трех, т. е. в двумерном
случае мы предъявили функцию с наименьшим возможным числом осо-
бенностей (равным трем). В самом деле, имеет место
Предложение 4.3. Пусть на компактном связном гладком замкну-
том многообразии Мп существует гладкая функция f, имеющая ровно
две критические точки (быть может, вырожденные). Тогда многообра-
зие гомеоморфно сфере Sn.
Доказательство.
Мы докажем это утверждение в том случае, когда обе точки не-
вырождены. Рассмотрение вырожденного случая более нетривиально,
и мы его здесь опустим. Итак, в силу компактности М одна из этих
точек я?о должна быть минимумом, вторая х± — максимумом функции.
Пусть /(я?о) = 0, /(я?1) = 1. В силу предложения 3.2 и теоремы 3.2 для
достаточно малого е > 0 множества М+е и М \	= /-1[1 — е, 1]
диффеоморфны дискам размерности п. Рассмотрим векторное поле v =
= —grad/ и, применяя лемму 3.1, получим, что Мп гомеоморфно
склейке двух дисков по их общей границе, т. е. гомеоморфно сфере.
Утверждение доказано.	
46
Глава 2
В частности, при п = 2 мы сразу получаем, что на многообрази-
ях Mg>± и М9>0 не может быть гладкой функции с двумя особеннос-
тями, так как эти многообразия не гомеоморфны сфере (см. теорему
классификации и вычисление групп гомологий этих поверхностей).
Отметим, что при п 7 многообразие Мп, на котором есть функ-
ция с двумя особенностями (пусть даже невырожденными), отнюдь не
обязано быть диффеоморфным стандартной сфере S", хотя Мп и го-
меоморфно сфере S”. Это связано с тем, что существуют, например,
семимерные гладкие замкнутые многообразия, гомеоморфные, но не
диффеоморфные стандартной сфере 5”. В то же время на таких много-
образиях существуют функции Морса с двумя невырожденными кри-
тическими точками. При п = 2 или 3 таких интуитивно необъясни-
мых явлений нет, т. е. наличие гомеоморфизма влечет за собой наличие
диффеоморфизма. Не следует думать, что эти странные «многомерные
эффекты» связаны с какой-то «патологией многообразий». Так, напри-
мер, в размерности семь существует 28 гладких многообразий, которые
все гомеоморфны стандартной сфере S7, но попарно не диффеоморф-
ны; причем эти многообразия могут быть заданы внешне достаточно
простыми полиномиальными уравнениями в комплексном пространст-
ве С5(zi, Z2, Z3, Z4, Z5). Для этого достаточно рассмотреть сферу S9,
заданную в С5 = R10 уравнением |^i |2 + ... + |zs|2 = 1, и рассмотреть
восьмимерную алгебраическую поверхность, задаваемую в С5 одним
комплексным уравнением z®*-1+ ^2+^3+^4+^5 = 0, где целое число к
может принимать любое из следующих значений: к = 1, 2, ... , 28. Пе-
ресечение этой поверхности со сферой S9 дает некоторое семимерное
многообразие. Меняя число к, мы получим 28 семимерных многообра-
зий, которые гомеоморфны сфере S7, но попарно не диффеоморфны.
Интересующийся подробностями читатель может обратиться, напри-
мер, к [5]. Можно показать далее, что указанные выше полиномиальные
уравнения, задающие эти «нестандартные сферы», являются в некото-
ром смысле простейшими из возможных, в частности определяемые
ими римановы метрики на этих многообразиях, индуцированные объ-
емлющей евклидовой метрикой из С5, являются метриками с наиболь-
шей возможной (для этих многообразии) группой изометрий. Другими
словами, указанные вложения являются наиболее «симметричными»,
обладающими наибольшей группой движений. Одно из перечисленных
выше многообразий диффеоморфно стандартной сфере.
Как было уже показано выше, критические точки могут иногда
§4. Точки бифуркации и их связь с гомологиями
47
диска
Рис. 48
Рис. 49
сливаться в одну, порождая более сложную вырожденную особенность
функции. Впрочем, при таком слиянии может происходить и процесс
взаимного уничтожения особенностей. Продемонстрируем это на прос-
том примере. Рассмотрим на сфере функцию Жуковского z + 1/z и
положим /(х, у) = Re(z+l/z) (в конечной части плоскости). Тогда ин-
тегральные траектории поля grad / имеют вид, показанный на рис. 48.
При этом имеются три особые точки: два седла (в точках ±1) и вы-
рожденная особенность (полюс первого порядка) в точке 0. Устраивая
деформацию функции следующего вида ptf = Re(z + t/z), получаем,
что сепаратрисная диаграмма потока grad <ptf (т. е. совокупность ин-
тегральных траекторий, соединяющих особые точки) деформируется
по плоскости и, наконец, сжимается в одну точку, в которой все три
особенности, взаимодействуя, уничтожают друг друга. В результате
(при t = 0) мы получаем гладкую функцию Re(z) = х, вообще не име-
ющую никаких особых точек в конечной части плоскости (и имеющую
полюс первого порядка в бесконечно удаленной точке, т. е. в северном
полюсе сферы) (рис. 49). Таким образом, рассматривая непрерывные
деформации функции в пространстве всех гладких функций (с особен-
ностями) на М, мы можем существенно менять картину распределения
ее критических (бифуркационных) точек. В то же время, как было до-
казано выше, для гладких функций есть четкая связь (типа неравенств)
между критическими точками f на М и топологией Л/, а именно связь
с группами гомологий. Интересно также выяснить, какое наименьшее
число особенностей (быть может, вырожденных) может иметь гладкая
функция на заданном многообразии. Ответу на этот вопрос посвящен
следующий параграф.
48
Глава 2
§ 5.	Критические точки функций и категория
многообразия
1.	Определение категории
Как было доказано выше, если f — функция Морса на М, то чис-
ло ее критических точек индекса А всегда не менее числа (Зх, где (Зх =
= dimHx(M, Л). Здесь группа коэффициентов А — одна из следующих
групп: R, Z2, где р ф 2 и р — простое. Например, если М = М%,
то любая функция Морса имеет на М не менее 2g + 2 особенностей.
Однако как только мы переходим к рассмотрению точек бифуркации,
в частности позволяем невырожденным особенностям сливаться в вы-
рожденные и начинаем рассматривать всевозможные гладкие дефор-
мации исходной функции в пространстве всех гладких функций, так
сразу же ситуация резко усложняется, поскольку взаимодействия осо-
бенностей при их слиянии и распаде устроены достаточно сложно. При
этом «сложность» точек бифуркации может как увеличиваться, так и
уменьшаться при этих процессах. Для точек бифуркации неравенства
типа 52 =Ь/*А	52 по-прежнему выполнены и в том случае, ког-
А	А
да f — не функция Морса, но теперь числа рх не имеют того простого
смысла, какой они приобретали в случае функций Морса (для функций
Морса рх равно числу критических точек индекса А). В общем случае
числа рх описывают «степень сложности» точек бифуркации, которая
вычисляется через группы гомологий поверхностей уровня, близких к
бифуркационной поверхности (т.е. содержащей точки бифуркации). В
то же время рх уже не дают прямой информации о числе точек би-
фуркации. Кроме того, не каждая вырожденная особенность является
бифуркационной (см. выше). Таким образом, ввиду нетривиальности
подсчета чисел рх и ввиду того, что во многих приложениях интерес
представляет лишь вопрос, сколько у функции f имеется точек бифур-
кации, мы сосредоточим внимание только на том, каково наименьшее
число особенностей у функции f на заданном многообразии. Оказы-
вается, этот вопрос решается в терминах некоторого нового топологи-
ческого инварианта — категории Люстерника-Шнирельмана — связы-
ваемого с произвольным комплексом (пространством). Интересно, что
этот инвариант оказывается полезным и при анализе некоторых «бес-
конечномерных» вариационных задач, например при отыскании числа
замкнутых геодезических на многообразиях.
§5. Критические точки функций и категория многообразия
49
Определение 5.1. Пусть X — топологическое хаусдорфово про-
странство, А С X — произвольное замкнутое подмножество в X. Ка-
тегорией catx А замкнутого подмножества А относительно простран-
ства X называется минимальное число k, для которого существуют
замкнутые подмножества Ai, ... , А* в X такие, что А является их
k
объединением А = (J Aj, и каждое из этих подмножеств стягивается
1=1
по пространству X в точку. Связность подмножеств Aj не предполага-
ется.
Для простоты будем в дальнейшем считать, что X связно. Ес-
ли А = X, то будем считать (по определению), что catx X = catX.
Таким образом, catx А является положительным целым числом. Ниже
мы докажем некоторые основные свойства этого числа.
2.	Топологические свойства категории
Лемма 5.1. Если А С В С X — замкнутые подмножества в X, то
calx А calx В.
Доказательство.
Пусть q = calx В, т. е. существуют замкнутые подмножества
Bi, Вг, ... , Вд такие, что В = (J В,, и каждое множество I); стя-
1=1
гивается по X в точку. Рассмотрим новые замкнутые подмножест-
ч
ва Aj = А П Bi, 1 i q. Ясно, что А = (J Aj и каждое мно-
i=l
жество Aj стягивается по X в точку (вслед за Bj) (рис. 50). Отсюда
cal x А q = calx В, что и требовалось.	
Лемма 5.2. Пусть А и В — два произвольных замкнутых подмножес-
тва в X. Тогда cal x A U В catx А + calx В.
50
Глава 2
Доказательство.
к	р
Пусть catx А = к, calx В = р, А = ил, В = U ВГ тогда
i=l	j=l
Р+к
Ли В = [J Cq, где Cq = Aq при 1 g и = Bq_k при к + 1 <
д=1
q к + р. Так как {>Л} и {Bj} стягивались по X в точку, то Cq стяги-
ваются в точку и catx С к + р = calx А + catx В, что и требовалось
(рис. 51).	
Лемма 5.3. Пусть А С В — замкнутые подмножества в X. Тогда
catx В \ А catx ~ catx Л, где В\А замыкание множества В\А в X.
Доказательство.
Так как В = A U (В \ Л), то в силу леммы 5.2 получаем catx В
catx А + catx В \ А, что и требовалось.	
Лемма 5.4. Пусть А С В С X — замкнутые подмножества в X и
пусть множество В непрерывно деформируется по X в подмножест-
во А, т. е. существует гомотопия <pt вложения г: В —> X в такое ото-
бражение : В —> X, при котором tp^B С А. Тогда catx А catx В.
Отметим, что множество р \ I) может быть не гомеоморфно В.
Доказательство.
k
Пусть catx Л = к; рассмотрим покрытие А = (J Л.,, где все мно-
2 = 1
жества At стягиваются по X в точку. Так как piB С А, то можно рас-
смотреть Hj = (<p1B)nAj, 1 Л j к. В силу условий леммы существует
непрерывное отображение h: гВ —> tpiB, где подмножество iBk гомео-
k
морфно В. Положим Bj = h~rHj, 1 j к. Ясно, что В = (J Bj.
3=1
Далее, применив к Bj гомотопию (pt, мы деформируем Bj no X в под-
множество tpiBj = Hj С Aj, т.е. Hj, стягивается по X в точку; тем
самым каждое Bj стягивается по X в точку. Отсюда catx В к, что и
требовалось (рис. 52).	
Лемма 5.5. Пусть А — замкнутое подмножество в многообразии X.
Тогда существует число в > 0 (зависящее, вообще говоря, от Л) такое,
что catx UeA = catx А, где UeA — замкнутая е-окрестность подмно-
жества А С X.
§5. Критические точки функций и категория многообразия
51
Рис. 52
Рис. 53
Доказательство.
Поскольку А С USA, то в силу леммы 5.1 имеем calx А catx USA.
Осталось проверить обратное неравенство. Пусть cal А" Л = к и А =
k
= U Л, где каждое множество At стягивается в точку. Так как X —
4=1
многообразие, то существует число е > 0 такое, что окрестность [ДА,
стягивается в точку по X вслед за множеством А^. Так как USA =
k
= (J UeAi, то cal x UeA к = calx А, что и требовалось.	
i=l
Если X — не многообразие, то утверждение леммы 5.5 не имеет
места. Пример показан на рис. 53.
Если X — метрическое пространство с метрикой р, то можно опре-
делить расстояние между любыми двумя замкнутыми подмножества-
ми А и В в X, положив
р(А,В) = sup inf р(х,у) + sup inf р(х,у),
хЕАу^В	у£В хЕА
где р(х, у) — расстояние в X между точками х и у.
Лемма 5.6. Пусть А, Вп (где п = 1, 2, ... ,) — замкнутые под-
множества в многообразии X, снабженном метрикой р, причем А =
= Ит Вп, т. е. р(А, Вп) —> 0 при п —> сю. Если cal x Вп к при
всех п, то тогда и calx А = cat(limBn) к.
Доказательство.
Из леммы 5.5 следует существование е > 0 такого, что calx USA =
= calx А. Так как р(А, Вп) 0, то существует номер N такой,
52
Глава 2
что Вп С UeA для всех п > N. Отсюда к < cat % Вп calx UeA =
= catx А, что и требовалось.	
3.	Формулировка теоремы о нижней границе числа точек
бифуркации
Теорема 5.1. Пусть Мп — гладкое компактное связное замкнутое
многообразие и f — гладкая функция на М. Тогда выполнено неравенст-
во к cat М, где к — число различных точек бифуркации функции f.
Аналогично р catM, где р — число различных критических точек
(быть может, вырожденных) функции f.
Для простоты мы будем доказывать эту теорему для случая кри-
тических точек, поскольку для точек бифуркации рассуждения повто-
ряются практически дословно с заменой интегральных траекторий век-
торного поля grad/ на слоение окрестностей U траекториями — про-
образами сомножителя I при гомеоморфизме U = fa х I (см. §4).
Доказательство этой теоремы в значительной степени следует од-
ной простой аналогии, имеющейся между поведением собственных чи-
сел билинейной формы в Ж" и поведением некоторых чисел, связан-
ных с множествами фиксированной категории. Мы вкратце опишем
эту аналогию, поскольку она позволяет легко следить за цепочкой даль-
нейших рассуждений. Пусть S"-1 С Ж” — стандартная сфера радиу-
са 1 и В(х,у) — симметричная билинейная вещественнозначная форма
в Ж”. Эта форма определяет на сфере гладкую функцию /(я?) = В(х,х).
Найдем критические точки этой функции. Пусть В: Ж” —> Ж" — сим-
метричный линейный оператор такой, что В(х,х) = (Вх,х), где (, ) —
евклидово скалярное произведение в Ж”.
Лемма 5.7. Точка xq Е Sn~1 является критической тогда и только
тогда, когда Вх$ = Ая?о, где А € Ж, т. е. хо — собственный вектор
формы.
Доказательство.
Пусть a g TXgSn~1 — произвольный касательный вектор и x(t) —
гладкая кривая в сфере, проходящая через точку Xq = х(0) и такая,
что я?(0) = а. Запишем функцию f в виде (Вх,х). Тогда
da
Хо
(B(x(t)),x(t)) |/=0 = 2 (Вх,х) |i=o = 2 (Вх0,а).
§5. Критические точки функций и категория многообразия
53
Ясно, что -р =0 тогда и только тогда, когда хп — критическая
аа
Хо
точка для /, т. е. когда grad/(я?о). С другой стороны, это эквивалентно
тому, что (Вя?о,а) = 0 для любого касательного вектора а, т. е. Вхо ±
± TXgSn~1. Таким образом, что Вхо пропорционален вектору я?о- 
Известно, что среди собственных векторов формы В можно вы-
брать ортобазис во, ex, ... , e„-i. Выбор чисел 0, 1, ... , п — 1 в качестве
номеров будет ниже обоснован. Пусть А, — собственное число, отвеча-
ющее 6j. Упорядочим все числа X; (и векторы е,) так, что Aq Р Ai
... <( A„-i. Рассмотрим в сфере Sn~1 множество Е{ всех ее г-мерных
«экваторов» S’, т. е. сечений сферы плоскостями размерности г + 1, про-
ходящими через начало координат. Из теории квадратичных форм из-
вестно, что число Aj можно представить в виде
Aj = inf (max/(ж)), 0 г п — 1,
s^Ei xesi
т. е. оно равно наименьшему максимуму, который функция f достигает
на экваторах S’. Из определения выражения, стоящего в правой части
равенства, ясно, что Aq + Ai р ... An_i. Все экваторы S’ класса Ei
получаются из какого-то одного экватора Sq путем подходящего орто-
гонального преобразования g g SOn. Другими словами, ортогональная
группа SOn транзитивно действует на множестве Е{. Так как функ-
ция f = (Вх,х) инвариантна относительно отражения х —> —х, то f яв-
ляется фактически функцией на вещественном проективном простран-
стве RP”-1. Эту функцию мы обозначим той же буквой /.
Лемма 5.8. Пусть f — функция на RP”-1, определенная выше. Тогда
число различных критических точек функции f на RP”-1 не меньше
числа классов Ei} т. е. не меньше п.
Доказательство.
Если все собственные числа формы В различны, то критическими
точками функции f на сфере являются точки ±е», 0 i п — 1, что
и дает п точек на IRP"-1. Если же для некоторых г, j имеем Aj = А;.
то форма В имеет линейное подпространство собственных векторов,
отвечающих А;: следовательно, сфера S-7-’ целиком состоит из вырож-
денных критических точек функции. Поскольку этих точек бесконечно
много, то лемма доказана.	
54
Глава 2
Переходя теперь к изучению критических точек функций на про-
извольном многообразии, мы сделаем в изложенной выше конструк-
ции следующие замены: 1) сферу Sn~1 заменим на многообразие М,
2) форму В(х,х) на сфере заменим на гладкую функцию f на много-
образии, 3) вместо ортогональных преобразований, сохранявших каж-
дый класс Ei мы рассмотрим непрерывные деформации замкнутых под-
множеств в М, 4) классы Ei заменим на классы Mi составленные из
подмножеств, категория которых не меньше г, 5) вместо собственных
чисел Xi, рассмотрим некоторые их аналоги, определяемые формулой,
аналогичной минимаксной формуле, приведенной выше для Aj.
Тогда оказывается, что эти замены позволяют сформулировать и
доказать аналог леммы 5.8, который и будет искомой теоремой 5.1.
4.	Доказательство теоремы
Обозначим через М, класс всех замкнутых подмножеств X С Мп
таких, что catw X г. Ясно, что Mi D Mj+i. Пусть в — простран-
ство всех замкнутых подмножеств в М. Тогда в сабжается естест-
венной структурой метрического пространства путем введения мет-
рики р(Х, У), определение которой см. в п. 2. Будем говорить, что У =
= lim Xq, если p(Xq, У) —> 0, g —> сю.
q—>ос
Лемма 5.9. Каждый класс Mi является подмножеством в в, замкну-
тым относительно двух операций: а) предельного перехода, т.е. У €
G Mi если lim Х„, Х„ g Mi; Ь) непрерывной деформации подмножеств
q—KX>
по многообразию М, т. е. Т g Mi если У = (piX, где ipt: X М —
гомотопия исходного вложения.
Доказательство.
Пусть Xq g Mi, q = 1,2, ... ;Y = lim Xq, Xq £ Mi. Требуется
доказать, что У £ Mt. Но это сразу вытекает из леммы 5.6. Далее,
пусть У = tpiX, где X —> М. Так как cat,u А" Г то из леммы 5.4
получаем, что cat jU У J> i, что и требовалось доказать.	
Фиксируем класс М,, и пусть X £ Mi. Построим число А =
= inf (max/(я?)). Ясно, что это определение скопировано с определе-
ния собственных чисел А,, формы В (см. п. 3). Пусть N — категория М,
т. е. N = catjvf^f- В условиях теоремы 5.1 имеем N < сю. Получаем
цепочку вложений: в = Mq = М\ Г) М2 D ... D Мм- Здесь можно счи-
тать, что 0 = Мо = {X g 0, cat /v/-А" 0}; ясно, что са!м X 0 для
§5. Критические точки функций и категория многообразия
55
любого X £ в. Класс MN содержит само многообразие М. Ясно также,
что Мдг — последний класс в указанной цепочке, так как подмножеств
категории, большей, чем N, не существует.
Функция f на М индуцирует функции fo, ... , fx, определенные
соответственно на классах Mq, ... , Мм, а именно fi(X) = max/(X),
X
где X £ М^. Тогда А, = inf fi(X). Так как Mi D M{+i, то с ростом i
X £Mi
числа А не убывают, т.е. Ац ^ ... ^ Ад:. Так как классы Mi замкнуты
в в относительно операции предельного перехода (см. лемму 5.9), то в
каждом классе М, существует элемент Xf (замкнутое подмножество
в М) такой, что /»(Х°) = Aj. Иными словами, Xf — это такое подмно-
жество в М, на котором Aj = max f(x).
Лемма 5.10. На поверхности уровня fxi имеется по крайней мере
одна критическая точка функции f.
Доказательство.
Допустим противное, пусть на fxt нет критических точек функ-
ции /. Рассмотрим класс Mi, и пусть Xf g Mi — такое замкнутое
подмножество в М, для которого max = Aj, т. е. fi(Xf) = Aj. Посколь-
хех°
ку Xf замкнуто в М, то существует точка ж° € Xf такая, что xf G
т. е. /(ж°) = Aj. Так как, по предположению, grad/(ж) / 0 для любо-
го ж € то в силу компактности М существует достаточно малая
деформация поверхности /д; вдоль интегральных траекторий вектор-
ного поля — grad/ в область меньших, чем Aj, значений функции f
(рис. 54). Так как М — компактное многообразие, то в силу леммы 3.1
существует гладкая гомотопия ipt: М М такая, что каждое отобра-
жение ipt — диффеоморфизм М, причем ipt является тождественным
отображением вне слоя Xi~h Aj + g, где Xi~h < Aj — е и Aj < Xi + q
и переводит поверхность fxi в поверхность fxt-e (рис. 55).
Обозначим через Xf образ Xf при деформации (р^. Посколь-
ку Xf получено из Xf гомотопией по М, то в силу леммы 5.4 име-
ем catjwA’P catjw Xf. Итак, catj^A’P i, т. е. Xf g Mi. Но это озна-
чает, что sup /(ж) Aj — е < Aj, т. е.
ж 6*?
inf (sup /(ж)) < sup /(ж) < Xi - е < Xi,
хем' хех
что невозможно в силу определения числа Aj. Лемма доказана. 
56
Глава 2
Рис. 55
Лемма 5.11. Предположим, что в последовательности Aq ^ ... ^ Адг
есть совпадающие числа; пусть Xt = Xt+q, где q > 0. Пусть К — мно-
жество всех критических точек функции f на поверхности . Тог-
да catjvr К q + 1.
Доказательство.
Напомним, что в рамках указанной
в п. 3 аналогии настоящая лемма вос-
производит алгебраическое утвержде-
ние о появлении целого подпространст-
ва собственных векторов, отвечающих
кратному собственному значению фор-
мы В. Так как К, очевидно, замкну-
то в М, то существует е > О такое,
что catw К = catw UeK в силу лем-
мы 5.5. Допустим противное: cat,u К q. Рассмотрим последователь-
ность классов Mf D Mj+i D ... D Mf+q. Пусть X?+g £ Mi+g — замкну-
тое подмножество такое, что А, = Aj+g = sup f(x). Построим новое
замкнутое множество Y = X?+g \ (Xf+ П К) (рис. 56). Имеем
catw Y catw Xf+q - catw X°+g П UeK catw X°+g -
— catjvf UeK = catjvf X°+q — catjw К i + q — q = i.
§5. Критические точки функций и категория многообразия
57
Итак, catw Y г, т.е. У g Mi. Далее
Xi = Xi+q = sup /(я?) > sup f(x)Xi = Xi+q = SUp f (x).
xEXf+q	xEY	ж6Хо+д
Отсюда следует, что sup f(x) = А,, а потому множество У может
играть роль компакта Х° в классе М(. В то же время У ПК = 0, что
противоречит лемме 5.10, в силу которой в У должна быть по крайней
мере одна критическая точка функции ./'. поскольку УП/д; / 0. Лемма
доказана.	
Теперь мы уже можем перейти к доказательству теоремы 5.1.
Рассмотрим последовательность классов Мо = М\ D М2 D ... D
D Л/дг. Предположим сначала, что Aq = Ai < Аг < ... < Адг (т.е. что
совпадающих чисел нет при г 1). Тогда из леммы 5.10 следует, что
на каждой поверхности есть хотя бы одна критическая точка функ-
ции, а потому число различных критических точек не меньше, чем чис-
ло различных критических поверхностей уровня, которое, очевидно, не
меньше N = cat М. Итак, в случае «общего положения» теорема дока-
зана. Предположим теперь, что среди чисел Aj есть совпадающие, на-
пример Xi = Xi+q. Сколько различных критических точек можно тогда
выбрать на поверхности Из леммы 5.11 получаем, что catw К i,
где К — множество критических точек на поверхности fxi. Но это озна-
чает, что в К можно выбрать по крайней мере q + 1 различных точек.
«+1
В самом деле, К = (J Kj, где каждое Kj стягивается по М в точку,
1=1
по этому достаточно указать по одной точке в каждом Kj. Итак, «одно-
кратное» значение А,, т. е. такое, что Xi-1 < А, < Aj+i, дает вклад в виде
по крайней мере одной критической точки, а каждое « (q+ 1)-кратное»
значение Aj т.е. такое, что Xi-1 < А, = ... = Ag < Aj+g+i, дает вклад
в виде по крайней мере q + 1 различных критических точек. Двигаясь
вверх в порядке возрастания А,, мы и получаем утверждение теоремы.
5.	Примеры вычисления категории
Мы получили оценку снизу на число критических (бифуркацион-
ных) точек гладкой функции на М. Эта оценка выражена в терминах
некоторого топологического инварианта многообразия М (очевидно,
что гомеоморфные пространства имеют одинаковую категорию). Яв-
ляется ли эта оценка наилучшей в общем случае, т. е. существуют ли
58
Глава 2
примеры таких функций на М, для которых эта оценка достигалась
бы? Такие примеры существуют.
Утверждение 5.1. Категория, сферы Sn равна двум. Категория дву-
мерного гладкого замкнутого компактного многообразия, отличного от
сферы, равна трем. Наименьшее число критических точек гладкой
функции на сфере Sn равно двум (и равно категории сферы). Наимень-
шее число критических точек гладкой функции на М2>г или рав-
но трем (и равно категории этого двумерного многообразия).
max
mm
Рис. 57
Доказательство.
Для сферы Sn утверждение очевидно,
поскольку Sn = S” U S2, где SJ — две
замкнутые полусферы, а в качестве функ-
ции f можно взять стандартную функ-
цию высоты (рис. 57). С другой сторо-
S* ны, catS” / 1, так как S” не стягива-
ется по себе в точку (этому препятству-
ют нетривиальные гомологии сферы). В
случае Л72 > 0 и М2 > 0 мы доказали в
п. 4, что на этих многообразиях сущест-
вует гладкая функция с тремя критичес-
кими точками. Осталось проверить, что в этом случае cat М2 = 3.
Индексы g > 0 и р > 0 мы опустим для сокращения записи. Ясно,
что cat М2 > 2, в противном случае многообразие было бы гомеоморф-
но сфере. Предъявим теперь разбиение М2 в объединение трех замк-
нутых стягиваемых подмножеств. Для этого достаточно рассмотреть
уже известное нам простейшее клеточное разбиение М2. В самом де-
(Г	\	г
U сг| I U о-2, т. е. к букету окружностей V Sj приклее-
г=1 /	г-1
на одна двумерная клетка а2, моделирующая фундаментальный много-
угольник W. Пусть Ue — достаточно малая Е-окрестность одномерного
остова (букета) У Sj в многообразии М2 и пусть D2 = М2 \US — за-
2 = 1
мкнутый диск (рис. 58). Тогда М2 представляется в виде Ai U Аг U Аз,
где Ai = D2 (стягивается по себе в точку), а множества Аг и Аз пока-
заны на рис. 59. Здесь Аг = UsDRa, где Ra — диск радиуса а с центром
в точке ст0 (число а достаточно мало), Д3 = Ue \ Аг, Ue = Аг U A3. При
этом Аг стягивается по себе в точку, а Д.3 стягивается по себе к набору
§5. Критические точки функций и категория многообразия
59
из г точек, а потому (в силу связности М2) стягивается в точку по М2.
Утверждение доказано.	
Рис. 58	Рис. 59
В то же время следует отметить, что категория — трудно вычис-
лимый инвариант многообразия, какие-либо достаточно эффективные
алгебраические способы его вычисления (наподобие спектральной по-
следовательности для (ко)гомологий) отсутствуют. Получить оценку
сверху на категорию многообразия обычно не представляет труда в
каждой конкретной задаче: для этого достаточно предъявить какое-
то одно покрытие М стягиваемыми множествами. В качестве зада-
чи сформулируем следующую теорему: категория n-мерного гладкого
многообразия Мп всегда не превышает п+ 1.
Значительно труднее получить оценку снизу. Мы ограничимся
здесь описанием только одного способа, основанного на понятии ко-
гомологической длины многообразия.
Определение 5.2. Пусть Н*(М, Л) — кольцо когомологий многооб-
разия М, где А = Z или R, если М ориентируемо, и А = Z2, если М
неориентируемо. Рассмотрим все такие целые числа р, для которых
в кольце Н*(М, Л) существуют элементы ai, ... , ар, dimaj > 0; 1
г р, произведение которых в смысле умножения в кольце когомо-
логий ai •... • ар отлично от нуля в Н*(М, Л). Когомологической длиной
многообразия называется максимальное из таких чисел р.
60
Глава 2
Теорема 5.2. Если к — когомологическая длина многообразия М,
то cat М к + 1.
Доказательство будет дано ниже после того, как мы познакомим-
ся с двойственностью Пуанкаре. Рассмотрим здесь лишь следствия из
этой теоремы, позволяющие вычислять категорию конкретных про-
странств.
Предложение 5.1. Имеет место равенство catIRF” = п + 1.
Доказательство.
Сначала докажем оценку сверху: catIRF" п + 1. Выше мы предъ-
явили стандартное представление IRF" в виде клеточного комплекса.
п+1
Отсюда получаем разбиение IRF1 = |J F”, где D"' — открытые п-мер-
i=l
ные диски, определяемые так: D'1 = {A(a?i, ... , xn+i), А / 0, Xt / 0},
где Xt — однородные координаты на IRF" (в [2] см. явные формулы,
задающие гомеоморфизм между F” и стандартным открытым дис-
ком F"). Так как {F”} — конечное открытое покрытие, то в каждое
множество F” можно вписать меньший замкнутый диск В", объеди-
нение которых по всем i будет по-прежнему покрывать IRF". Так как
каждый диск В" стягивается по себе в точку, то мы доказали искомую
оценку сверху. Обратно докажем, что catIRF" п + 1. В силу теоре-
мы 5.2 достаточно доказать, что когомологическая длина IRF" (с коэф-
фициентами в йг, чтобы сразу охватить и ориентируемый и неориен-
тируемый случаи) равна п. Известно, что Н*(ДМ~т, Z2) = ^[е]/(е"+1),
где deg(e) = 1. Таким образом, произведение е" = е • ... • е (п раз) от-
лично от нуля, что и требовалось доказать.	
Лемма 5.12. Если catX + к, то catX V Sn = catX, где X V Sn —
букет пространства X и сферы Sn, п > 0.
Рис. 60
Рис. 61
§5. Критические точки функций и категория многообразия
61
Доказательство.	k
Пусть catX = к и X = (J Xi, где каждое множество Xi, стягивает-
i=l
ся по X в точку. Пусть х G X — точка, в которой произведена склей-
ка X V Sn. Представим сферу в виде объединения двух полусфер 5"
и 52, где S" иж^ S" (рис. 60). Пусть Xj — такое подмножество,
что х G Xj. Положим У) = Xj где i Д j и i Д г, а г 7^ j. Наконец,
положим Yj = Xj U 82; Yr = Xr U S" (рис. 61). В частности, Yr может
k
оказаться несвязным. Итак, X V Sn = (J Ys, где каждое множество Ys
8=1
стягивается по X V Sn в точку. Тем самым catX V Sn = catX, что и
требовалось.	
Совершенно аналогично доказывается следующее утверждение:
catX V Y = max(catX, cat У) для любых пространств.
Предложение 5.2. Если Тп — тор, то catT" = п + 1.
Доказательство.
Поскольку тор Тп является прямым произведением окружностей,
то Н*(Тп, Z) = Л(я?1, ... , хп) (внешняя алгебра от одномерных обра-
зующих я?1, ... , хп). Следовательно, произведение я?1 • ... • хп отлич-
но от нуля, и catT" п + 1. Докажем, что catT" Sj п + 1. Так
как Тп = S1 х Т11-1, то Тп представляется в виде (S1 V Т"-1) и <т"
(n-мерный аналог рис. 58), следовательно, catT" = cat(S1 VT"-1)U<r"
cat(Sx VT"-1) +1. Так как catТ"-1 VS1 = catT"-1 и так как catТ2 = 3
(см. выше случай двумерных многообразии), то catT"-1 п + 1.	
Предложение 5.3. Пусть р: Е А В
— локально тривиальное расслоение. Тогда
cat В cat# F • cat В, где F С Е — слой
расслоения.
Доказательство.
Верно даже более общее утверждение:
если X С В — замкнутое подмножество
в базе и /Г' X С Е — его полный прооб-
раз, то cat£?p-1X cat^F • cat^X. По-
ложив X = В, мы и получим искомое
утверждение. Рассмотрим сначала частный
случай: cat^X = 1. Мы должны проверить,
Рис. 62
62
Глава 2
следовательно, неравенство cat£?p-1X cat^F. Стягивая X по базе В
в точку и накрывая эту деформацию непрерывной деформацией прооб-
раза р~хХ по пространству Е в слой F (существование такой накры-
вающей гомотопии см., например, в [1, гл. 5]), получаем из леммы 5.4,
что cat£?p-1X cat^F, что и требовалось (рис. 62).
Перейдем к общему случаю, применяя индукцию. Пусть cat^X = к,
к
т. е. X = (J Xi, где каждое Xi стягивается по В в точку. Поло-
i=i
к-1
жим Y = (J Xi, Z = Xj., тогда X = FUZ, где cats Y Sj к — 1, cats Z = 1.
Z = 1
Требуется доказать, что cat £? F cat в У UZ са^р-1(У U Z). Име-
ем cat£?p-1(y U Z) = cat£?p-1y Up-1Z <: са^р-1У + cat£?p-1Z. Ис-
комое неравенство получится из неравенства са^р-1У + cat£?p-1Z <:
< cat е F  cat в Y U Z = к • cat е F. Так как cat е Р-1 Z < cat е F (Z стяги-
вается по В в точку), то достаточно доказать неравенство са^р-1У +
cat/; F к • cat/; F, т. е. cat/; р-1У (к — 1) cat# F. Но это неравенство
следует из более сильного утверждения: catEP~1Y cat^F • cats У,
так как cats У к — 1. Последнее же утверждение имеет место в силу
предположения индукции, ведущейся по cats X. Напомним, что первый
шаг индукции: cats X был уже разобран выше. Утверждение полностью
доказано.	
Полученная нами оценка на категорию пространства расслоения
является в некотором смысле точной, т. е. существуют такие рас-
слоения, для которых это неравенство превращается в равенство,
т. е. cat В = cat^F • cat В. При этом среди таких расслоений есть не-
тривиальные. Например, пусть р: S3 S2 — расслоение Хопфа. Тогда
имеем catS3 = cat S2 = 2, cat^s S1 = 1 (так как слой S1 стягивается
по сфере S3 в точку), т. е. 2 = 1 • 2.
§ 6. Правильные функции Морса и бордизмы
1. Бордизмы
Настоящий параграф содержит результаты, играющие исключи-
тельно важную роль в изучении топологии многообразий. В частнос-
ти, здесь мы докажем существование на любом компактном много-
образии так называемых «правильных функций Морса» f, т. е. таких,
что /(я?)	f(y), где хи у — критические точки и ind(x) ind(y). Из
§6. Правильные функции Морса и бордизмы
63
существования таких функций мы выведем затем некоторые важные
топологические следствия. Основным объектом изучения в этом пара-
графе будут ориентируемые гладкие компактные многообразия Wn с
краем dWn, являющимся несвязным объединением двух ориентируе-
мых замкнутых, т.е. не имеющих края (но не обязательно связных)
многообразий Vo”-1 и Vj”-1. При этом мы будем считать, что с уче-
том индуцированной ориентации dW = Vq U (—Vi), где знак «—» ука-
зывает ориентацию, противоположную
фиксированной (рис. 63). Многообразия Vq
и Vi называются иногда в таком случае
бордантными, а многообразие W — бор-
дизмом, или просто пленкой. Иногда бу-
дем использовать обозначение (И7, Vq, Vi).
Так, например, любое двумерное замкну-
тое ориентируемое многообразие бор-
дантно двумерной сфере, а потому все та-
Рис. 63
кие многообразия бордантны друг другу.
Для доказательства достаточно рассмотреть стандартное вложение
в К3, рассмотреть затем трехмерное многообразие, ограниченное
в К3 (т. е. заполнение М) и выбросить из него маленький шар.
Особый интерес для нас будут представлять функции Морса на W.
При этом мы будем считать, что функция f удовлетворяет следующим
требованиям (см. рис. 63): /|у0 = 0, ф\уг = 1, 0	1 на W. Такие
функции Морса всегда существуют (см., например, [6]).
Определение 6.1. Будем говорить, что f является функцией Морса
на W, 0 Sj f 1, если /|у0 = 0, f\yr = 1, и на крае dW нет критических
точек функции f. т. е. они расположены внутри пленки.
Как и в случае замкнутых многообразий имеет место теорема:
множество функций Морса всюду плотно в пространстве всех гладких
функции g на W таких, что 0 < g < 1, g|y0 = 0,	= 1.
2.	Разложение бордизма в композицию элементарных бор-
дизмов
Поскольку мы рассматриваем пары (W, f), то естественно поста-
вить вопрос: какова простейшая структура такой пары?
Определение 6.2. Бордизм (IV, /) назовем элементарным, если
функция Морса f на W имеет только одну критическую точку.
64
Глава 2
Рис. 64
Рис. 66
Пусть даны два бордизма (И7, Vo, Ух) и (ТУ, Ух, Уг); тогда можно
образовать новый бордизм W о W = (W иТУ, Vo, Ух), склеив край Ух на
пленке W с краем Vl на пленке W (рис. 64). Для склейки можно восполь-
зоваться любым фиксированным диффеоморфизмом между Vl С dW
и Ух С dW. Конечно, при этом нужно проследить за тем, чтобы в мес-
те склейки не возникли «углы», однако их появления можно избежать,
выполняя операции «сглаживания» наподобие того, как сглаживаются
«углы» многообразия, возникающие
Ух при приклейке к нему ручки (см. вы-
ше). Будем говорить, что бордизм
Wо W получен композицией бордиз-
мов W и W. Ясно также, что если /
и f — функции Морса на ТУ и ТУ со-
ответственно, то склейка ТУ о ТУ позво-
ляет определить новую функцию Мор-
са на пленке ТУ о ТУ, получающуюся
склейкой этих функций (рис. 65).
Предложение 6.1. Пусть (ТУ, /) — произвольный бордизм с функцией
Морса на нем. Тогда он допускает представление в виде композиции
элементарных бордизмов ТУ = ТУх °.. .оТУ/v, причем (ТУ, /) = (ТУх, gx) 0
о ... о (ТУ„, gN}- где g, — ограничения на Wi функции Морса g, заданной
на всем ТУ, и функция g может быть выбрана сколь угодно близкой к
исходной функции f.
§6. Правильные функции Морса и бордизмы
65
Доказательство сразу вытекает из следующей леммы.
Лемма 6.1. Пусть (ТУ, /) — бордизм с функцией Морса. Пусть
я?1, ... , ждг — критические точки f. Тогда функцию Морса f можно
сколь угодно близко аппроксимировать функцией Морса g с теми же
критическими точками и такой, что g(xi) g(xj) при i j.
h
U
Рис. 67
Доказательство леммы.
Фиксируем точку xt и окружим ее двумя открытыми окрестнос-
тями U и Н такими, что я?х G U С U С Н и хj Н при j Д 1. В силу
изолированности критических точек такие окрестности существуют
(рис. 66). Построим затем на W гладкую функцию h такую, что h = 1
в окрестности U и h = 0 вне окрестности Н (рис. 67). После этого рас-
смотрим новую функцию /о = f + £ih, где число Si > 0 выбрано так,
чтобы 0 <: /о 1 на W и чтобы fo(xi)
fo(xj) ПРИ j 1- Рассмотрим «кольцо»
Н \ U = К и будем считать, что на W за-
дана некоторая риманова метрика (сущест-
вующая ввиду компактности ТУ). Ясно, что
на замыкании К модуль градиента f отде-
лен снизу от нуля, т. е. существует посто-
янная с такая, что 0 < с | grad f\, при-
чем можно также считать, что на К име-
ем | gradУ| с' < сю. Рассмотрим е такое, что 0 < г < min(ei, с/с')-
Окончательно в качестве g возьмем функцию g = f + eh (рис. 68).
Мы утверждаем, что g — функция Морса с теми же критическими
точками, что и f. В самом деле, если gradg(a/) = 0, где х' Е К,
то grad/(я?') + egradTi(x') = 0, откуда с |grad/(x')| = e| grad/i(x')| <
< с. Полученное противоречие доказывает лемму.	
Таким образом, если дан бордизм W с функцией Морса /, то малым
66
Глава 2
возмущением функции / можно добиться того, что все ее критические
точки будут расположены на разных критических уровнях (рис. 69).
3.	Градиентно-подобные поля и еепаратриеные диски
Пусть £ — векторное поле на W и f — гладкая функция. Через £(/)
будем обозначать производную функции f вдоль поля £.
Определение 6.3. Гладкое векторное поле £ на W называется
градиентно-подобным для функции f, если: 1) £(/) > 0 на множес-
тве W \ (yt U ... U i/n), где yi, ... , Un — критические точки функ-
ции /, 2) для любой критической точки yi существует открытая окрест-
ность Ui такая, что в любой системе координат, в которой
Л	п
/(ж)|сг4 = f(yt) + 52
j=l	r=X+l
поле £ имеет вид £(ж) = (—Жх, ... , —жд, жд-ц, • • • , жи).
Для любой функции Морса f на W такие поля, конечно, существу-
ют. Достаточно, например, в качестве £ взять поле grad/. Отметим, что
если на пленке W существует функция Морса f без критических то-
чек, то многообразие W диффеоморфно прямому произведению Vo х I,
в частности, Vo и V. гомеоморфны. Такие бордизмы иногда называют-
ся тривиальными (цилиндр). Для доказательства достаточно рассмот-
реть слоение W интегральными траекториями градиентно-подобного
для функции / поля £. Пусть теперь жо G W — критическая точка
индекса А для f на W и £ — градиентно-подобное поле для f.
Определение 6.4. Сепаратрисной диаграммой критической точ-
ки жо G W называется совокупность всех интегральных траекторий
поля £, входящих в точку Жо или выходящих из нее.
Условная схема этой диаграммы показана на рис. 70. Входящие
интегральные траектории заполняют A-мерный диск Dx, соответству-
ющий локальным координатам жх, ... , жд, а исходящие траектории
заполняют диск Dn~x соответствующий остальным координатам и
трансверсальный диску Dx в точке их пересечения жо- Отметим, что
точка жо — единственная точка пересечения этих дисков. Если мо-
делировать векторное поле £ как поле скоростей жидкости, текущей
по пленке W, то вдоль диска Dx жидкость стекает в точку Жо, а
вдоль Dn~x жидкость вытекает из жо- Рассмотрим теперь две сфе-
ры, получающиеся, если мы пересечем еепаратриеные диски с дву-
§6. Правильные функции Морса и бордизмы
67
Рис. 70
мя поверхностями уровня функции — выше и ниже критической точ-
ки. Диск Dx, расположенный в области меньших значений функции /
(т.е. в области /(я?)	/(^о)), иногда называется левосторонним, а
диск Dn~x, расположенный в области больших значений, — правосто-
ронним. Пусть /(я?о) = а. Рассмотрим теперь две сферы
8х-1 = Dx П /а_Е и S^-1 = Dn~x П fa+e,
где г > 0 — достаточно малое число. Можно считать, что в окрестнос-
ти С/(я?о) имеем S'A-1 = dDx, Sn~x~1 =	(рис. 71). Рассмотрим
продолжения интегральных траекторий поля за пределы слоя а — е Sj
С f а + Это порождает движение левосторонней и правосторонней
сфер, которые начинают двигаться по пленке W; при этом диски Dx
и Dn~x расширяются и движутся вдоль интегральных траекторий. Два
правосторонних (или два левосторонних) диска могут пересечься при
таком продолжении только в некоторой критической точке функции f
(вне критических точек интегральные траектории не пересекаются).
Итак, мы инвариантно связали с каждой критической точкой пару дис-
ков Dx и Dn~x. Оказывается, взаимодействие этих дисков, исходящих
из разных критических точек, в значительной степени определяет то-
пологию пленки W.
4.	Перестройки поверхностей уровня гладкой функции
Пусть Vn~1 — гладкое компактное многообразие и Sx~r С Vn~1 —
некоторое гладкое вложение сферы S'A-1 в V"-1 такое, что неко-
торая достаточно малая трубчатая окрестность	этой сферы
68
Глава 2
в Vn~1 диффеоморфна прямому произведению Sx~1 х Dn~x. Ясно,
что d(Sx~1 х Dn~x) = Sx~1 х Sn~x_1 (см. рис. 21). Рассмотрим мно-
гообразие Dx х .S'"~А~1 с краем d(Dx х sn~x~1) = Sx~x х
Построим новое многообразие V”-1 = (V”-1 \ (SA_1 х Р”-А)) U
U(S'”-A-1 xDA), т. е. выбросим из V”-1 трубчатую окрестность NgS^1
и вклеим вместо нее Sn~x~1 х Dx. Другими словами, мы меняем мес-
тами сферу и диск в прямом произведении: многообразие S'A-1 х Dn~x
заменяется на Dx х S'"-A-1. При этом мы использовали то, что оба эти
многообразия имеют гомеоморфные края. Будем говорить, что V”-1
получено из V”-1 перестройкой Морса индекса Л. Рассмотрим прос-
тейшие примеры. Пусть п = 3, Л = 1, тогда А — 1 = 1 (рис. 72).
Здесь UgS^1 = D2\JD2 = S°xD2, O(UESX-') = S'xS". DxxSn~x~1 =
= D1 x S1, дД)1 x S1) = S° x S1. В результате этой перестройки индек-
са 1 к исходному двумерному многообразию V2 приклеивается «ручка»
в смысле теории двумерных поверхностей, например из сферы получа-
ется тор.
Задача. Произвести перестройку индекса 2 для двумерного многооб-
разия.
Рис. 72
Эта операция перестройки Морса
индекса А нам уже фактически извест-
на: мы столкнулись с ней при изуче-
нии перестройки поверхностей уровня
гладкой функции при переходе через
критическую точку индекса А.
Предложение 6.2. Пусть f — функ-
ция Морса на W и я?о — единствен-
ная критическая точка индекса А в
слое —е / С +£• Тогда поверхность
уровня f+e получается из поверхности
уровня f-E перестройкой Морса индек-
са А.
Доказательство.
Рассмотрим левосторонний сепаратрисный диск Dx, выходящий
из точки я?о (рис. 73). Этот диск пересекается по своей границе Sx~r
с поверхностью /_е. Ясно, что достаточно малая трубчатая окрест-
ность UgS^1 этой сферы в поверхности = Vn~1 диффеоморфна
прямому произведению Sx~r х Dn~x. Тем самым мы попадаем в ситу-
§6. Правильные функции Морса и бордизмы
69
ацию, когда можно выполнить перестройку Морса индекса Л. На рис. 73
отчетливо видно, что поверхность /+е, гладко деформируется посред-
ством диффеоморфизма на перестроенное (по Морсу) новое многооб-
разие V”-1. Эту деформацию можно выполнить вдоль интегральных
траекторий поля — grad/. Утверждение доказано.	
Верно и обратное: если много-
образие V"-1 получено из V"-1 пе-
рестройкой Морса индекса А, то су-
ществуют пленка Wn с краями Vn~1
и Vn~1 и функция Морса f на Wn
с единственной критической точкой
индекса А такие, что /_Е = V"-1
и f+e = V"-1. В самом деле, доста-
точно сослаться на доказанную на-
ми теорему о построении функции
Морса по заданному разбиению мно-
гообразия в сумму ручек (см. §3).
Таким образом, операция перестрой-
ки Морса индекса А может моде-
лироваться так: нужно рассмотреть
исходное многообразие V"-1, умно-
жить его на отрезок, затем по вло-
жению сферы S'A-1 в Vn~1 х 1 с
трубчатой окрестностью, являющей-
ся прямым произведением, прикле-
ить к Wn = Vn 1 х 1 ручку Д" ин-
декса А (см. §3). При этом мы получим новое многообразие Wn, край
которого состоит из двух компонент: исходного многообразия Vn~1 и
нового V"-1, получающегося из V"-1 перестройкой Морса индекса А.
Следствие 6.1. Пусть (W, Vq, Vi) — бордизм с функцией Морса f,
имеющей только одну критическую точку индекса А. Тогда W стяги-
вается на комплекс Vo U Dx, получающийся из V приклейкой клетки
размерности А. В частности, W гомотопически эквивалентно VqU<7A.
Доказательство.
Достаточно рассмотреть левосторонний сепаратрисный диск, исхо-
дящий из критической точки, и продолжить его до пересечения с Vq.
Требуемое утверждение вытекает из предложения 6.2 (рис. 74).
70
Глава 2
5.	Построение правильных
функций Морса
Замечательным геометрическим
фактом является существование на ком-
пактных многообразиях таких функ-
ций Морса, критические значения кото-
рых равны индексу критической точки,
т.е. /(я?) = ind(x) для любой критичес-
кой точки. Это означает, в частности, что критические точки упорядо-
чены по мере возрастания их индекса, т.е. уровень /(ж) критической
точки х является возрастающей функцией индекса этой точки. Сначала
докажем вспомогательное
Предложение 6.3. Пусть функция Морса f имеет только две кри-
тические точки Xq и уо на бордизме (ТУ, Vq, Vi); пусть а = /(жо) <
< /(Уо) < Ь. Предположим, что для некоторого градиентно-подобного
векторного поля ( для функции f выполняется условие: сепаратрисные
диаграммы критических точек Xq и уо не пересекаются, т. е. (Da(xq)U
и£>”-А(я?о)) А(Ра/(2/o)U£)”-a (2/o)) = 0- где А и А' —индексы х0 и у0 со-
ответственно. Тогда на f существует новая функция Морса g такая,
что: 1) поле £ остается градиентно-подобным и для g, 2) функция g
имеет те же критические точки, что и f, 3) g(xo) > g(yo), т. в. кри-
тические уровни «меняются местами», 4) функция g совпадает с f в
окрестности края dW = Vo U Vl и равна f + const в некоторой окрест-
ности точки Xq и в некоторой окрестности точки у$.
Доказательство.
На рис. 75 показано основное условие теоремы: сепаратрисные
диаграммы двух критических точек не пересекаются. Для сокра-
щения записи введем обозначения: X = РА(жо) U Р”-А(жо), Y =
= Dx (я?о) U Dn~x (уо). Очевидно, что дополнение в W к X U Y яв-
ляется прямым произведением некоторого многообразия на отрезок, а
именно W \ (XU Y) = (Vo\(Von(XUY)) х I = (Vi \ (Vi A (XU У)) х I. По-
скольку каждый сепаратрисный диск выходит на границу Vo (или Vl)
и пересекается с ней по своей сепаратрисной сфере, то указанное выше
прямое произведение можно переписать еще и так:
W \ (X U У) = (Vo \ (S'A-1(x0) U Sx'~1(y0)) х1 =
= (Vi \ (5"-А-1(ж0) и Sn~x'~1(yo))) X I.
§6. Правильные функции Морса и бордизмы
71
В частности, многообразия
Vo \ (SA-1 U SA'-1) и Vi \ U
диффеоморфны, и этот диффеомор-
физм устанавливается вдоль интег-
ральных траекторий поля прохо-
дящих мимо критических точек Xq
и уо. Рассмотрим на нижнем (ле-
вом) основании Vo гладкую функ-
цию а такую, что а(ж) = 0 в доста-
точно малой окрестности множес-
тва Vo А X и а(х) = 1 в доста-
точно малой окрестности множес-
тва Vq A Y. Поскольку X A Y = 0,
то такая функция существует. Про-
должим затем функцию а с осно-
вания Vo до гладкой функции а
на всей пленке W. Для этого про-
должим а, заданную на Vo, посто-
янными значениями вдоль интег-
ральных траекторий поля £. Оче-
видно, это определение корректно,
так как интегральные траектории
поля £ вне множества X U Y не пе-
ресекаются. В результате мы получим функцию а на W, равную нулю
в некоторой окрестности X и равную единице в некоторой окрестнос-
ти Y. Рассмотрим теперь гладкую функцию z = h{s, г), задаваемую
графиком на рис. 76. На рис. 77 показана эволюция линий пересечения
этого графика z = h(s, г) плоскостью г = t = const при изменении t
от 0 до 1. Функцию h возьмем такую, чтобы выполнялись следующие
условия:
or
— > 0 при всех (з, г) и h(s, г) возрастает от 0 до 1, когда s
возрастает от 0 до 1;
2)	h(a, 0) = b, h(b, 1) = а;
dh(s, 0)	dh(s, 1)
3)	------- = 1 для всех s в окрестности а. ----- = 1 для всех s
Os	Os
в окрестности b (рис. 78).
Рис. 75
72
Глава 2
Рис. 77
Рис. 78
Определим теперь искомую функцию g(x) = Д(/(х), а(ж)). Тог-
да имеем g(a?o) = Д(/(я?о), а(ж0)) = h(a, 0) = b > а = h(b, 1) =
= h(f(y0), a(y0)) = g(y0). Итак, g(x0) > g(y0). Из условий 1-3, на-
ложенных на функцию h, следует, что функция g удовлетворяет всем
требованиям теоремы. Доказательство закончено.	
§6. Правильные функции Морса и бордизмы
73
Теперь мы можем сформулировать и доказать основную теорему.
Теорема 6.1 (Теорема о перегруппировке критических точек).
Пусть функция Морса f имеет только две критические точки xq, уо на
бордизме (W, Vo, Vi); пусть а = /(жо) < /(уо) = Ь. Предположим, что
индекс точки хо не меньше, чем индекс точки уо- Тогда существует
новая функция Морса g такая, что g имеет те же критические точ-
ки, что и f, g(xo) > g(.yo) и функция g удовлетворяет всем условиям,
перечисленным в предложении 6.3.
Доказательство.
В том случае, когда X А У = 0, где X, У — еепаратриеные диа-
граммы хо и уо, утверждение сразу следует из предложения 6.3. Рас-
смотрим теперь общий случай, когда X А У 0. Оказывается, эта
ситуация может быть редуцирована к случаю X А У = 0. Для этого
фиксируем поверхность = V, пусть Л — индекс Жо, А' — индекс уо,
тогда А А'. Так как X А У 0, то правосторонняя и левосторонняя
еепаратриеные сферы точек Хо и уо пересекаются на поверхности V,
т.е. Sn~x~1(xo) A Sx -1(уо)	0 (рис. 79). В самом деле, если бы эти
сферы не пересекались, то не пересекались бы и продолженные сепарат-
рисные диски, что означало бы, что ХАК = 0. Так как значение 1/2 не
является критическим для f, то поверхность V — гладкое (п — ^-мер-
ное подмногообразие в W, а сферы 5n~A-1 и Sx -1 — гладкие под-
многообразия в V. Таким образом, мы получаем в V два подмного-
образия, сумма размерностей которых строго меньше размерности V,
равной п — 1. В самом деле,
dimS'”-A-1 + dimS,A-1 = n- A- l + A'-l =
= п — 2 — (А — А') < п — 1,
так как А—А' 0. Из теорем «общего положения», а именно из теоремы о
трансверсальной регулярности [2, с. 483] следует, что существует сколь
угодно малая гладкая деформация ipt исходного вложения Sx -1 —> V в
новое близкое вложение, которое уже будет иметь пустое пересечение
со сферой Sn~x~1, причем все отображения ipt также будут вложения-
ми. Эту деформацию можно продолжить в малую окрестность поверх-
ности V так, чтобы вне этой окрестности все ipt были тождественными
отображениями. Подвергнув затем этой деформации (определенной уже
на всем ТУ) исходное поле £, мы получим новое поле £', для которого се-
74
Глава 2
паратрисные диаграммы .т() и уо уже не пересекаются. Следовательно,
мы свели задачу к ситуации XC\Y = 0 (рис. 80). Теорема доказана. 
Теорема 6.2 (Теорема о существовании правильной функции
Морса). Пусть (W, Vo, И) — произвольный бордизм.
Рис. 81
Тогда на нем существует функ-
ция Морса f такая, что f\y0 = —1/2,
f\V1 = п + 1/2, где п = dim ТУ, и зна-
чение f в каждой критической точке
равно индексу этой точки. В частнос-
ти, все критические точки одного ин-
декса Л расположены на одной поверх-
ности уровня f\. Таким образом, ис-
ходный бордизм представляется в ви-
де композиции элементарных бордиз-
мов W = Wq о ... о Wn, на каждом из
которых функция f имеет ровно од-
но критическое значение, равное Л для
бордизма Wx (рис. 81).
Таким образом, у правильной
функции критические точки большого индекса расположены выше (пра-
вее при горизонтальном изображении бордизма), чем точки меньшего
§6. Правильные функции Морса и бордизмы
75
индекса. Отметим, что такие функции уже не образуют плотного под-
множества в пространстве всех гладких функций на W.
Доказательство сразу следует из теоремы 6.1. Если две критичес-
кие точки имеют разные индексы, то мы «разводим» их на разные по-
верхности уровня, опуская точку меньшего индекса «ниже». Если же
индексы этих точек совпадают, то мы останавливаем процесс пере-
группировки этих точек в тот момент, когда они (см. доказательство
теоремы 6.1) оказываются на одной поверхности уровня.
Теорема 6.3. Пусть Мп — гладкое компактное связное замкну-
тое многообразие. Тогда на М существует правильная функция Мор-
са f, 0 f Sj п, т. е. такая, что она имеет только один минимум
(точка индекса 0), только один максимум (точка индекса п), и каждая
критическая точка индекса Л расположена на поверхности fx (рис. 82).
Рис. 83
Доказательство.
Пусть число локальных минимумов функции f больше единицы.
Возьмем две точки минимума и соединим их кратчайшей геодезичес-
кой 7. Пусть Ue — достаточно малая трубчатая окрестность 7. Гео-
дезическая содержит «точку перевала», т. е. критическую точку поло-
жительного индекса. Деформируем функцию f в окрестности Ue так,
как показано на рис. 83. При этом указанные особенности функции
сливаются в один локальный минимум, причем новых минимумов при
этом не появляется. Повторяя эту операцию, мы и получаем функцию
с одним минимумом. Аналогичное рассуждение повторяется затем для
76
Глава 2
точек максимумов. Пусть х и х' — единственные точки минимума и
максимума. Вырезая их малые окрестности, получаем бордизм с функ-
цией Морса, у которой нет точек индекса 0 и п. После этого применяем
теорему 6.2, перестраивая эту функцию, что и завершает доказатель-
ство.	
В частности, на любом компактном многообразии существует
функция Морса f такая, что у нее только один минимум, один мак-
симум, на каждом критическом уровне расположена только одна кри-
тическая точка, причем /(ж) > /(ж'), если т<1(ж) > ind(x'). Рассмотрим
некоторые простые следствия.
Возьмем на двумерном гладком компактном замкнутом много-
образии правильную функцию Морса /, пусть жо — точка миниму-
ма, жх, ... , хг — точки индекса 1, жг+1 — точка максимума, при-
чем /(ж,) < /(ж,+1), 0 < i < г. Пусть 0 < f < г + 1 и /(ж,) = г.
Множество 0 f е при малых е диффеоморфно двумерному дис-
ку, т. е. ручке Нц. При переходе через критическую точку х\ к этому
диску приклеивается ручка индекса 1 (рис. 84). При этом в двумер-
ном случае есть только два способа приклейки этой ручки, показанные
на рис. 85. С гомотопической точки зрения результат получается один
и тот же (приклеивается отрезок), однако с дифференциальной точки
зрения получаются разные многообразия с краем: в первом случае —
цилиндр S1 х D1, во втором случае — лист Мебиуса, т. е. ориентируе-
мая и неориентируемая поверхности. В частности, они не гомеоморф-
ны. Продолжая этот процесс восстановления многообразия по правиль-
ной функции Морса и переходя через точки жг, ... , хг, мы на каж-
§6. Правильные функции Морса и бордизмы
77
дом шаге приклеиваем ручку. После перехода через последнюю точку
индекса 1 получаем с гомотопической точки зрения букет окружнос-
ти \Jri=1Sl, где каждая окружность соответствует критической точке
индекса 1. Последний шаг — переход через точку максимума жг+1 —
состоит в том, что мы приклеиваем ручку индекса 2, т. е. двумерный
диск. Итак, М диффеоморфно U Н2 U ... U Н2 Uflf. Приклейка по-
следней ручки (клетки) к полученному на (г + 1)-м шаге многообра-
зию с краем S1 осуществляется уже однозначно: по тождественному
отображению границы диска. Этот диск можно отождествить с фунда-
ментальным многоугольником W задающим код М2 [2], а букет \/ Sj
i=l
отождествляется с границей этого многоугольника, на которой верши-
ны уже отождествлены в одну точку. Итак, мы получили новое доказа-
тельство теоремы классификации двумерных поверхностей, основанное
на теореме существования правильной функции Морса.
6. Двойственность Пуанкаре
В геометрии значительную роль играет наличие двойственности
между гомологиями и когомологиями, называемой двойственностью
Пуанкаре. Простейший вариант этого утверждения состоит в том, что
для замкнутого ориентируемого связного компактного гладкого много-
образия Мп имеет место изоморфизм: Нк(Мп, К) = Нп~к(Мп, К) =
= Hn-k(Mn, К). Если Мп — неориентируемо, то Нк(Мп, Z2) =
= Нп~к(Мп,%2) = Нп_к(Мп, Z2). Для определенности мы остановимся
на изучении ориентируемого случая, так как анализ неориентируемого
случая проводится по той же схеме.
Теорема 6.4. Если Мп — ориентируемое замкнутое компактное
гладкое связное многообразие, то Hk(Mn, Z) = Hn~k(Мп, Z). В част-
ности, Нк(Мп, К) = Нп~к(Мп, К) = Нп_к(Мп, К).
Доказательство.
Существует много разных доказательств этого факта. Мы при-
ведем здесь рассуждение, основанное на существовании правильных
функций Морса, поскольку в этом случае особенно наглядна, по наше-
му мнению, геометрическая картина двойственности Пуанкаре. Оказы-
вается, на ориентируемых многообразиях существуют два клеточных
разбиения, которые двойственны друг другу в том смысле, что каждой
клетке одного разбиения взаимно-однозначно отвечает клетка дополни-
78
Глава 2
тельной размерности из второго разбиения, причем это соответствие
сохраняет (с точностью до знака) коэффициенты инцидентности кле-
ток.
Рис. 86
Для доказательства теоремы
мы должны построить такое соот-
ветствие в геометрических терми-
нах. Пусть f — правильная функ-
ция Морса на М, имеющая только
один минимум и только один мак-
симум. Рассмотрим также функ-
цию —/. Ясно, что если х — крити-
ческая точка индекса А для функ-
ции f, то эта же точка является
критической и для —/, но индекс
у нее будет равен п — А. В си-
лу п.4 §3 функция f определяет
клеточное разбиение К многообра-
зия в сумму клеток (ручек). Функ-
ция —/ также определяет клеточ-
ное разбиение К этого же много-
образия. Между этими клеточными
разбиениями можно установить простое геометрическое соответствие.
Для этого фиксируем какую-либо критическую точку х функции f и
рассмотрим малую окрестность U этой точки. Эта окрестность допус-
кает два разложения (в смысле §3): при помощи функции / и при
помощи функции —/ (рис. 86). Разложения эти различны и опреде-
ляют искомые разбиения К и К. Клетки, составляющие, например,
разбиение К, реализуются в М в виде левосторонних сепаратрисных
дисков Dx, отвечающих полю grad/. Клетки, составляющие К, реали-
зуются в виде левосторонних сепаратрисных дисков, отвечающих по-
лю grad(—/), т.е. в виде правосторонних дисков Dn~x для поля grad/
(см. рис. 86). Теперь мы можем построить оператор двойственнос-
ти Пуанкаре Р: К —> К. По определению положим F(<ta) = <тп~х
(рис. 87). Для того чтобы проследить за действием этого оператора на
(ко)гомологиях, нужно выяснить связь между коэффициентами инци-
дентности [<тА: <тА-1] и [<т"-А+1: <т"-А]. При этом мы пользуемся кле-
точными гомологиями комплексов.
Рассмотрим клетку <тА (где i — номер клетки) и клетку <тА-1.
§6. Правильные функции Морса и бордизмы
79
Рис. 87
Рис. 88
Коэффициент [<тА: <тА х] является степенью отображения : S* 1 —>
-> 5А-1, где = dffi (граница клетки <тА, а отображение qXj,
есть композиция характеристического отображения д<тх —> КА-1,
ограниченного с клетки <тА на ее границу д<тх, и последующей
проекции фактор-комплекса Кх-1 / Кх~2 = \ZSj~1 на j-e слагае-
мое этого букета, т. е. на сферу Sj-1 (рис. 88). Полученное чис-
ло совпадает с индексом пересечения сферы S^1 = д<тх с клет-
кой <т"-А+1. Напомним определение индекса пересечения. Пусть Nm
и Q4 — гладкие ориентируемые подмногообразия в ориентируемом
многообразии Мп, размерность которого равна сумме
размерностей N и Q, т. е. п = т + q. Предположим,
что N и Q находятся «в общем положении», т. е. что
их пересечение состоит из конечного числа точек, и
в этих точках касательные плоскости TXN и TXQ по-
рождают (в сумме) все касательное пространство ТХМ
(т. е. N и Q пересекаются трансверсально) (рис. 89).
Фиксируем ориентацию на М, N, Q. Тогда в каждой
точке х пересечения N и Q возникает число +1 или —1,
показывающее, совпадает или нет фиксированная ори-
ентация М с той ориентацией, которая индуцируется
на этом же многообразии М касательным репером в
Рис. 89
точке х Е N П Q, составленным из двух реперов е±, ... , ет Е TxNm
и ai, ... , aq Е TxQq, каждый из которых положительно ориентирован
с точки зрения N и Q соответственно (рис. 90). Складывая эти чис-
ла ±1 по всем точкам пересечения, получаем целое число, называемое
индексом пересечения N и Q.
Индекс пересечения сферы S^1 с клеткой <т”-А-1 можно рассмат-
80
Глава 2
ривать как коэффициент а зацепления [1, с. 528] сферы Sx 1 с грани-
цей этой клетки, т. е. со сферой S”-A (рис. 91). С другой стороны, по
аналогичным соображениям, этот же коэффициент инцидентности ±а
может быть представлен как индекс пересечения сферы S™~x с клет-
кой ах. Следовательно [<тА : ах-1] = ±[<т”-А: <т”-<7+1]. Но это и означает,
что оператор Р сохраняет с точностью до знака, зависящего только от
размерности, коэффициенты инцидентности, т. е. клеточные комплек-
сы К и К двойственны. Итак, двойственные друг другу клетки <тА
и <т”-А = P(o'j) пересекаются только в одной внутренней точке (пере-
сечение это трансверсально).
Как мы знаем, клетки разбиения можно взять в качестве базиса
групп целочисленных цепей, следовательно, оператор Р устанавливает
взаимно-однозначное соответствие между базисами групп цепей С'х(К')
и Сп-х(К). При этом важно то, что между группами цепей мы получи-
ли невырожденное билинейное скалярное произведение, порожденное
индексом пересечения. Выбирая в каждой размерности знак подходя-
щим образом, можно считать, что для
а =	п'^ еСх(К)иЬ=^ b^~x G Сп_х(К)
i	j
мы имеем
(a,&) = 52	где(^,^-А)
— индекс пересечения клеток (см. выше). В частности, (<тА,Р<тА) = 6ij,
т. е. {<тА} и {Р<тА} образуют двойственные (дуальные) базисы в груп-
пах цепей. В неориентируемом случае все эти конструкции следует
§6. Правильные функции Морса и бордизмы
81
выполнять «по модулю два», т.е. с коэффициентами в Zj. В терми-
нах этого скалярного произведения доказанное нами свойство опера-
тора Р можно записать так: (да,Ь) = (а,Э&), где а 6 С\(К), Ь 6
€ Cn-x-i(K), так как оператор д определяется коэффициентами ин-
цидентности и [ст^: Cj-1] = [P^i-	Здесь д — оператор взятия
границы. Итак, комплекс (К, д) сопряжен комплексу (К, д), следова-
тельно, Нк(Мп, К) = Нп-ь(Мп, К). Поскольку оба клеточных комп-
лекса К и К гомотопически эквивалентны одному и тому же много-
образию М, то отсюда следует Hk(Mn, Z) = Hn~k(Mn, Z). Теорема
доказана.	
Важным следствием является наличие между гомологиями и кого-
мологиями дополнительных размерностей Нк, Нп~к и между гомологи-
ями Нк, Нп~к невырожденного билинейного скалярного произведения,
порождаемого индексом пересечения циклов (см. выше). Если п = 2к,
то п — к = 2, и мы получаем на группе Нк(М2к, Z) невырожденную
билинейную форму (a,b) = (—l)fc(&,а). Инварианты этой формы (на-
пример, сигнатура) играют важную роль в топологии многообразий.
Для любого ориентируемого связного замкнутого многообразия мы
получаем Но = Нп = Z. В качестве полезного упражнения предостав-
ляем читателю доказать следующие равенства.
а)	Пусть X D Y, где X и Y — конечные клеточные комплек-
сы и X \ Y — открытое гладкое ориентируемое многообразие. Тог-
да Щ(Х, Y, = Hi(X/Y, Z) = Нп~{(Х \Y,Z),i > 0;Н*(Х, Y, Z) =
= Hi(X/Y, Z) = Hn_i(X \ Y, Z), i > 0.
б)	Пусть Xm C Sn — конечный подкомплекс в сфере Sn, т <
< п. Тогда Hi(X, Z) = Hn~i~1{Sn \ X, Z), i > 0;Н\Х, Z) = Hn-i(Sn \
\Х, Z), i > 0.
в)	Пусть М — компактное замкнутое ориентируемое многообразие
и пусть Нк (М, Z) = Rk ~/Тк — разложение групп Нк в прямую сумму
свободных абелевых групп Rk и абелевых групп Тк конечного порядка.
Тогда Rk — Rn-k, Рк — Рп—к — 1'
г)	Для любого конечного клеточного комплекса имеют место ра-
венства: Rk = Rk,Tk = тк+\ где Нк = Rk ®Тк.
д)	Эйлеровой характеристикой многообразия называется чис-
ло х(Мп) = 52 (—1)г/?й где (3i = Aim.Hi{Mn, F), где F —поле. Из двой-
?'=()
ственности Пуанкаре (где F = К. или Z2 в ориентируемом и F = Z2 в
82
Глава 2
неориентируемом случаях) следует = [3n-i. В частности, для нечет-
номерных многообразий М2к+1 имеем х(М2к+1) = 0.
В качестве одного из приложений двойственности Пуанкаре дока-
жем теорему 5.2 об оценке категории через когомологическую длину
многообразия.
Доказательство теоремы 5.2.
Пусть D: Нк(М, Z) —>	Z) — построенный нами изомор-
физм двойственности Пуанкаре. Рассмотрим в кольце Н*(М, Z) эле-
менты fli, ... , aj. такие, что а±-.. .-аь 0, и пусть 71, ... , уь — циклы,
соответствующие этим коциклам при двойственности. Тогда из постро-
ения оператора D легко следует, что D(ai • • • • • flfe) = 71 А ... A Xk = 7-
где 71 А ... A 7fe — пересечение всех циклов 7», которые можно реали-
зовать в М в виде подкомплексов. Так как а± • ... • аь 0, то 7 не
гомологичен нулю. Предположим теперь, что catM = s к. Это озна-
чает, что в М существуют такие замкнутые подмножества Ai, ... , Ав,
8
что М = U и каждое Ai стягивается по М в точку. Без ограничения
i=l
к
общности можно считать, что s = к и М = |J Aj, где все At стягива-
i=l
ются в точку. Достаточно к набору {А,}, если s < к, добавить к — s
точек. Сопоставим каждому циклу 7j подмножество Aj. Так как А, стя-
гивается в точку по М, то Hj(M) = Hj(M, Aj), j > 0. Отсюда следует,
что каждый цикл 7, гомологичен циклу 7i С М\А,, т. е. цикл 7j, можно
«снять» с подмножества Aj. Но тогда
к	к	к
7 = 71 П ... А 7а, ~ Q Xi С р|(М \ Aj) = М \ (J Aj = 0,
г=1	г=1	г=1
т. е. 7 гомологичен нулю. Полученное противоречие доказывает теоре-
му.	
Глава 3
Топология трехмерных многообразий
§ 7. Каноническое представление трехмерных
многообразий
Рис. 92
1. Правильные функции Морса и диаграммы Хегора
В курсе дифференциальной геометрии и топологии [2] доказыва-
ется теорема классификации двумерных замкнутых многообразий М2.
Эта классификация имеет простой вид: любое М2 задается (неодно-
значно) фундаментальным многоугольником, граница которого отож-
дествлена специальным образом. Множество таких многоугольников
задает множество кодов двумерных многообразий, причем существует
простой алгоритм, отвечающий на во-
прос, задают ли два таких кода одно и nt
то же многообразие или они определи- Л
ют разные (не гомеоморфные) много-
образин. Для этого достаточно привес-
ти коды (т. е. многоугольники) к кано-
ническому виду. При переходе к изучению трехмерных многообразий
задача их классификации резко усложняется и до настоящего времени
пока не решена. Эта задача интересна не только сама по себе, но и тем,
что с ней, как выяснилось, связано много важных вопросов из алгебры,
анализа, геометрии. В этой главе мы вкратце коснемся некоторых из
этих вопросов.
Рассмотрим два экземпляра двумерной сферы с g ручками, стан-
дартно вложенные в К3 (рис. 92). Каждое из этих двумерных мно-
гообразий М2 ограничивает в К3 трехмерное многообразие, которое
можно рассматривать как «заполнение» М2 в К3. Обозначим эти два
трехмерных многообразия через Щ и Щ. Ясно, что дП{ = Mf, где че-
рез Mi и М2 обозначены для краткости два экземпляра М2. Каждое
из Пг гомотопически эквивалентно букету из g окружностей (рис. 93).
Пусть а:	> М2 — произвольный диффеоморфизм Mi на М2. Тогда
84
Глава 3
можно построить трехмерное многообразие без края (т. е. замкнутое),
склеив П1 и Пг по этому отображению их границ. Полученное много-
образие обозначим через М3(а).
Теорема 7.1 (Теорема о каноническом представлении трех-
мерных многообразий). Любое трехмерное гладкое компактное
связное замкнутое многообразие может быть (неоднозначно) представ-
лено для некоторого целого g 0 в виде М3(а), т. е. в виде склейки двух
трехмерных многообразий Щ и Пг по некоторому диффеоморфизму (го-
меоморфизму) их границ и М2. Каждое из Щ и Пг гомеоморфно
трехмерному шару с g ручками.
f
Рис. 93	Рис. 94
Доказательство.
Рассмотрим на трехмерном многообразии М3 правильную функ-
цию Морса (см. §6, п. 5), имеющую один минимум, один максимум и
точки Ж1, ... , xg индекса 1 и у^, ... , уг индекса 2. Будем считать, что
критические точки упорядочены, т. е. О ^ / ^ 1, /о = min, /1 = max,
все критические точки индекса 1 расположены на поверхности уров-
ня /1/з, а все точки индекса 2 — на поверхности /2/3. Из двойствен-
ности Пуанкаре следует, что g = г, т. е. число критических точек ин-
дексов 1 и 2 одинаково (напомним, что эйлерова характеристика М3
равна нулю, а потому 0 = 1 — g + г — 1, т. е. g = г). Рассмотрим
поверхность /i/г- Поскольку на ней нет критических точек функции,
§ 7. Каноническое представление трехмерных многообразий
85
то У1/2 гомеоморфна двумерному компактному гладкому связному ори-
ентируемому многообразию М2, т.е. М2 гомеоморфно сфере с некото-
рым числом ручек (рис. 94). Ясно, что М3 = (f <: 1/2) U (/ ^ 1/2),
где многообразия (/ <: 1/2) и 1/2) имеют край М2. Каждое
из них при этом гомеоморфно трехмерному шару с g ручками. Де-
ло в том, что каждое из этих многообразий получено из трехмерной
ручки индекса 0 приклейкой g ручек индекса 1. Итак, можно поло-
жить П1 = (/	1/2), П2 = (/	1/2). Теорема доказана.	
Представление многообразия М3 в виде М3(а) иногда называют
диаграммой Хегора. Таким образом, эта диаграмма определяется зада-
нием некоторого диффеоморфизма а: Mt —> М2.
Лемма 7.1. Если два диффеоморфизма а, [3:	> М2 гомотоп-
ны в классе диффеоморфизмов, то соответствующие им многообра-
зия М3(а) и M3(J3) диффеоморфны. Если М3 = М3(а) — представле-
ние многообразия, отвечающее некоторой диаграмме Хегора, то на М3
существует правильная функция Морса, определяющая разбиение М3 в
объединение Пх и П2, совпадающее с исходной диаграммой Хегора.
Доказательство.
Первая часть леммы очевид-
на, так как гладкую гомотопию
в классе диффеоморфизмов мож-
но продолжить в некоторую малую
трубчатую окрестность поверхнос-
ти М2 в М3. Второе утверждение
следует из того, что на Пх и П2
определены стандартные функции
Морса /1 и /2 с критическими точ-
ками индекса 1 для Пх и индек-
са 2 для П2, построенные нами вы-
ше в §3 (рис. 95). Напомним, что эти функции постоянны на кра-
ях Я11 и ЭП2, что и позволяет организовать общую функцию Морса /
на всем М3. Лемма доказана.	
2. Примеры диаграмм Хегора
Число g, равное числу ручек у М2 = /х/2 = ЭП^, называется иногда
родом диаграммы Хегора. Рассмотрим простейшие примеры, позволя-
ющие наглядно представить себе построение диаграмм М3(а). Единст-
венное многообразие М3, допускающее диаграмму Хегора рода g = О,
86
Глава 3
это трехмерная сфера. В самом деле, так как g = 0, то Щ и П2 гомео-
морфны трехмерному шару. Следовательно, нужное утверждение выте-
кает из того, что соответствующая функция Морса, построенная в лем-
ме 7.1, имеет только две критические точки (минимум и максимум),
а потому в силу предложения 4.3 М3 гомеоморфно стандартной сфере.
Многообразий М3, допускающих диаграммы Хегора рода 1, уже значи-
тельно больше. Здесь Щ rj П2 = S1 х D2. Во-первых, такую диаграмму
допускает сфера S3. Эта диаграмма Хегора рода 1 реализуется так: вло-
жим S3 в С2(.г, w), тогда Щ = S3 П {|.г|	|w|}, П2 = S3 П {|.г| < |w|}.
Ортогональное преобразование (z, w) —> (w, z) переводит П1 в П2 (и на-
оборот), при этом граница полнотория переходит в себя, и получаю-
щееся отображение есть искомый склеивающий диффеоморфизм а в
диаграмме S3 = М3(а).
Следующий пример — многообразие S1 х S2, допускающее диа-
грамму Хегора рода 1. Достаточно взять в качестве а: Т2 —> Т2 тож-
дественное отображение тора на себя. Ясно, что склейка двух пол-
ноторий S1 х D2 по такому отображению их границ дает S1 х S2.
Чтобы представить этот процесс нагляднее, полезно рассмотреть его
аналог в двумерном случае (рис. 96). Склеивая два кольца S1 х D1
и S1 х D1 по тождественному отображению их границ, получаем, оче-
видно, тор, т. е. S1 х S1. То же самое происходит и в трехмерном случае
(рис. 97). Пусть D2 — произвольный диск — слой в прямом произведе-
нии Пх = S1 х D2. Этот диск, склеиваясь со вторым таким же диском
в П2 по тождественному отображению их границ — окружностей, дает
двумерную сферу.
Таким образом, ясен некоторый общий принцип построения
многообразий М3, допускающих диаграмму Хегора рода 1. Диф-
§ 7. Каноническое представление трехмерных многообразий 87
феоморфизм а: Г2 —> Т2 определяет индуцированное отображе-
ние а,: Л1(Т2, Z) —> Л1(Т2, Z), т.е. а,: ZffiZ —> ZffiZ. Следовательно,
гомоморфизм а*, являющийся автоморфизмом ZffiZ, задается целочис-
ленной матрицей (“	, ad—bc = ±1 ( +1, если а сохраняет ориентацию
тора, и —1, если а меняет ориентацию). Так, например, в разобранных
выше примерах мы имеем: а) в случае сферы а* = (_?х J), б) в слу-
чае S1 х S2 имеем а, = (J °). Докажите, что диффеоморфизмы, зада-
ющие матрицу (дх), по-прежнему определяют многообразие S1 х S2.
Также предоставляем читателю доказать.
Предложение 7.1. Любое трехмерное гладкое компактное замкну-
тое связное многообразие, допускающее диаграмму Хегора рода 1, гомео-
морфно (и диффеоморфна) одному из следующих многообразий: 1) стан-
дартная сфера S3, 2) S1 х S2, 3) так называемые линзовые простран-
ства, получающиеся факторизацией стандартной сферы S3 по гладкому
действию на ней группы Zp, задаваемому формулой (z, w) —> (e27ri/₽ • z,
е2тггк/р . gge z, w — комплексные координаты в C2(z, w), S3 =
= {\z\2 + lw|2 = !}• частности, линза S3/Z2 (при p = 2) диффео-
морфна проективному пространству ®LP3.
Рис. 98
Рис. 99
Таким образом, имеется полное описание всех многообразий М3,
допускающих диаграмму Хегора рода 1. Однако при переходе к слу-
чаю g > 1 картина резко усложняется, и аналогичные теоремы клас-
сификационного характера пока отсутствуют. Приведем простейший
пример диаграммы Хегора рода g > 1. Пусть «г и bi, где 1 i g —
стандартные параллели и меридианы на поверхности М2 (рис. 98). Рас-
смотрим диффеоморфизм а: Мх —> М2, меняющий местами параллели
и меридианы, т. е. a(aj) = bi, a(bi) = —щ, 1 Sj i Sj g. Этот диффеомор-
88
Глава 3
физм можно построить так. Представим в виде сферы с g ручками
(рис. 99). При этом можно считать, что к сфере S2 с g дырками при-
клеено g экземпляров тора Т2 с дыркой. Диффеоморфизм а на сфере с
дырками определим как тождественное отображение. На каждом торе
с дыркой рассмотрим диффеоморфизм, меняющий местами параллель
и меридиан (рис. 100). Можно считать, что дырка переходит в себя. По-
скольку ai —> bi и bi —> — ai, то, как видно из рис. 100, граница дырки
(окружность) переходит в себя тождественно. Следовательно, стыкуя
построенные нами диффеоморфизмы на ручках и на сфере с дырка-
ми, мы и получаем диффеоморфизм а. Склеивая Щ и Щ по этому
диффеоморфизму, получаем стандартную сферу S3. Это утверждение
доказывается точно так же, как и аналогичный факт для g = 1. В са-
мом деле, рассмотрим в S3 = ®L3Uoo стандартно вложенное трехмерное
многообразие Щ с краем М2. Тогда дополнение к нему в 53 = R3U оо,
очевидно, гомеоморфно второму экземпляру Щ, причем роль паралле-
лей исполняют теперь меридианы и наоборот (рис. 101).
Рис. 100
Рис. 101
3. Кодирование трехмерных многообразий при помощи
сетей
Диаграммы Хегора могут быть заданы эквивалентным, но более
наглядным образом. Рассмотрим поверхность рода g, т. е. М2, и за-
§ 7. Каноническое представление трехмерных многообразий
89
дадим на ней две системы гладких несамопересекающихся окружнос-
тей Si, ... , Sg и Si, ... , которые назовем окружностями индекса 1
и индекса 2 соответственно. Предпо-
ложим далее, что: 1) окружности од-
ного индекса не пересекаются, 2) ес-
ли разрезать поверхность по всем
окружностям индекса 1 или по всем
окружностям индекса 2, то в резуль-
тате в обоих случаях получится сфе-
ра S2 с 2g дырками. Пример такой сис-
темы окружностей нам уже известен
(см. рис. 98). Ясно, что, разрезая М2 по
всем ai, ... , ag или по всем bi, ... , bg,
мы получаем двумерную сферу с 2g дыр-
ками (рис. 102). Систему окружностей,
удовлетворяющих перечисленным выше
условиям, обозначим через («1, а2).
Определение 7.1. Две системы (од, а2),
(а'х, а'2) окружностей, описанных выше,
назовем эквивалентными, если сущест-
вует диффеоморфизм а: М2 —> М2 та-
кой, что он переводит одну систему в
другую. Сетью [ад, а2] назовем на М2
тем («1, а2). Число g назовем родом сети.
Рис. 102
класс эквивалентных сис-
Лемма 7.2. Каждая сеть [од, а2] определяет некоторое трехмерное
гладкое компактное связное замкнутое многообразие, которое мы обо-
значим через M3[ai, а2]. Обратно, любое трехмерное замкнутое ком-
пактное связное гладкое многообразие может быть представлено в ви-
де M3[«i, а2] для некоторого целого g.
Доказательство.
Построим по сети трехмерное мно-
гообразие. Для этого рассмотрим прямое
произведение поверхности М2 на отре-
зок I. В верхнем крае этого прямого про-
изведения выделим систему окружностей
индекса 2, т. е. Si, ... , Sg. Поскольку М2
ориентируемо, то достаточно малая труб-
Рис. 103
90
Глава 3
чатая окрестность каждой из окружностей Si гомеоморфна прямому
произведению Si на отрезок. Следовательно, поступая по схеме п. 5 § 3,
мы можем приклеить g ручек индекса 2, т. е. произвести перестрой-
ку верхнего края многообразия х /, используя систему окружнос-
тей 51, ... , Sg. При этом получится некоторое новое трехмерное mho-
s'
гообразие (М| х	верхний край которого есть результат
перестройки многообразия (нижнего края) (рис. 103). Мы утверж-
даем, что этот верхний край гомеоморфен сфере S2. В самом деле, из
определения сети следует, что М| \ Г IJ Si\ гомеоморфно сфере с 2g
'«=1 '
дырками.
Фиксируем какую-нибудь окруж-
ность Si, порождающую (после
разрезания) две дырки Di и D^.
Перестройка индекса 2 была нами
уже изучена ранее (см. рис. 24).
Ясно, что она эквивалентна при-
клейке двух дисков к грани-
цам дырок, образовавшихся пос-
ле разрезания поверхности по S,.
Поскольку это выполняется для
каждой окружности Si, то мы
заклеиваем в результате пере-
стройки все дырки в сфере и
получаем сферу S2. При g=l
и g = 2 эта операция показана на
рис. 104, 105.
Теперь рассмотрим другую
систему окружностей Si, ... , Sg
индекса 1 на М2 и, взяв пря-
Рис. 104	мое произведение М2 х I, повто-
рим описанную выше операцию
для системы Si, ...,Sg. Склеивая вместе два перестроенных пря-
мых произведения по общему краю М2, получаем трехмерное мно-
гообразие, край которого состоит из двух двумерных сфер. Одна из
них получена перестройкой по окружностям индекса 2, а вторая —
по окружностям индекса 1 (на рис. 106) эти две сферы условно из-
§ 7. Каноническое представление трехмерных многообразий
91
обряжены жирными черными кривыми. Последний шаг: приклеиваем
к этим сферам трехмерные диски, в результате чего получаем трех-
мерное многообразие М3[ах, «2]- Обратно, пусть М3 — произвольное
многообразие типа, указанного в условии теоремы. Представим его в
виде M3[«i, «2]- Рассмотрим на М3 правильную функцию Морса /
такую, что у нее одна точка минимума (/ = 0), одна точка мак-
симума (/ = 1), критические точки Xi, ... ,xg индекса 1, располо-
женные на /1/з, а точки у^, ... , yg индекса 2 — на поверхности /2/з
(см. рис. 94). Тогда М3 = Пх U,,, Щ, где Щ, Щ — «заполнения» поверх-
ностей М2 в К3 (см. выше). Рассмотрим левосторонние сепаратрисные
диски D2(yi), ... , D2(yg) для точек yi, ... , yg и правосторонние се-
паратрисные диски D2(я?1), ... , D2(xg). Эти диски пересекаются с по-
верхностью /х/2 = М2 по двум системам окружностей, которые, оче-
видно, являются правосторонними окружностями S*1(^x), ... , 51(ж^)
и левосторонними окружностями S^y-i), ... , S1(yff). Ясно, что окруж-
ности Sr(x,i) отождествляются с окружностями Si индекса 1, а окруж-
ности S\yi) — с окружностями Si индекса 2. В частности, теперь ста-
новится понятным название «окружности индексов 1 и 2», принятое
нами в определении 7.1. Из определения сепаратрисных дисков сразу
следует, что эти две системы окружностей на поверхности М2 опреде-
ляют сеть в смысле определения 7.1. Лемма доказана.	
Таким образом, род сети — это число критических точек у соответ-
ствующей правильной функции Морса на трехмерном многообразии.
Из доказательства леммы 7.2 видно, что задание сети [ах, аг] опреде-
ляет некоторый диффеоморфизм а: М2 —> М2, и, обратно, каждый
92
Глава 3
такой диффеоморфизм определяет некоторую сеть. Поэтому в даль-
нейшем мы будем обозначать сеть [од, «2] тем же символом а, что
и соответствующий этой сети диффеоморфизм (более точно — класс
диффеоморфизмов). Теперь мы можем дать еще одну интерпретацию
систем окружностей «i = {Sj} и «2 = {S,}. Из леммы 7.2 следует,
что если а — диффеоморфизм, отвечающий данной сети [ад, «2], то
в качестве окружностей Si, можно взять образы окружностей Si при
этом диффеоморфизме (равно, как и наоборот). Таким образом, задание
диаграммы Хегора эквивалентно заданию сети (и наоборот).
Рис. 107
4. Сети и сепаратрисные диаграммы
Стараясь найти все более простые способы кодирования трех-
мерных многообразий, мы предъявим сейчас особенно простой спо-
соб задания М3. Рассмотрим произвольную сеть а = [«i, «2], и
пусть («1, «2) — какой-либо ее представитель, т. е. две системы окруж-
ностей. Фиксируем, например, систему {Sj} и разрежем М3 по всем
окружностям {S;}. Получим сферу с 2 g дырками. При этом окружнос-
ти Sj также разрежутся и превратятся на сфере S2 в набор отрезков,
соединяющих дырки. Считая каждую дырку за точку на сфере (т.е.
выкалывая точку, вместо того чтобы выбрасывать диск), мы получаем
на сфере S2 плоский граф, который обозначим через ТУ (а), где а —
сеть. Точно так же возникает второй граф ТУ (а), получающийся, ес-
ли мы поменяем ролями {Si} и {Si}. Итак, каждая сеть однозначно
определяется двумя графами ТУ (а) и ТУ (а), которые при желании мож-
§ 7. Каноническое представление трехмерных многообразий
93
но рассматривать как плоские графы, удалив из сферы какую-нибудь
точку (отличную от вершин графа). На рис. 107 показаны эти графы
для простейшей сети, задающей сферу S3 — сети параллелей и мери-
дианов на М|. Оказывается, оба эти графа однозначно определяются
сепаратрисной диаграммой функции / на М3, еепаратриеные окруж-
ности которой совпадают с {£,} и {Sj}.
В самом деле, рассмотрим точки х±, ... , xg и выходящие из них
сепаратрисы. Правосторонний диск D2(xi) двумерен, левосторонний
диск Dr(xi) одномерен. На рис. 108 условно показано взаимодейст-
вие этих дисков. Стрелками показано направление векторного по-
ля — grad/. Две сепаратрисы, образующие одномерный диск
выходят из Xi, и, спускаясь вниз, достигают поверхности уровня f+e
гомеоморфной сфере S2 малого радиуса, окружающей точку минимума
функции. Встречаясь с этой сферой, диск D1(xj) высекает на ней две
точки — нульмерную сферу 5°(а^). Рассмотрим теперь какую-либо
окружность Sj — границу левостороннего диска D2<yj). Эта окруж-
ность, расположенная на М2 = /х/2, также увлекается интегральными
траекториями поля — grad/ вниз по направлению к сфере S2 = /1/2-
При этом окружность Sj разрывается, натыкаясь, на еепаратриеные
94
Глава 3
Рис. 110
диски {D2(xj)}. Происходящие при этом события показаны на рис. 109.
Окружность Sj, встречаясь с диском D2(xi), разрезается этим диском
пополам, и точки разреза начинают скользить вниз, спускаясь по од-
номерным сепаратрисам вплоть до сферы S2 = J'+E. На рис. 110 пока-
заны интегральные траектории поля — grad/ в окрестности сепарат-
рисной диаграммы. Этот поток и увлекает вниз разрезанные на куски
окружности {Sj}. Таким образом, на сфере S2 возникает граф, верши-
ны которого — сепаратрисные нульмерные сферы (двоеточия) {5°(а^)},
а ребра — это отрезки окружностей {Sj}. Точно таким же образом
граф ТУ (а) возникает на верхней сфере S2 = fi-e при рассмотре-
нии {S0(yj)} и отрезков окружностей {Sx(xj)}. В этом случае куски
окружностей S1^) увлекаются вверх потоком grad/.
§ 8.	Задача распознавания трехмерной сферы
1.	Гомологические сферы
Выше мы предъявили «список всех трехмерных многообразий» (но
не их классификацию), т. е. указали счетное множество кодов, напри-
мер графов ТУ (а), ТУ (а), каждый из которых определяет некоторое
трехмерное многообразие. Кроме того, любое трехмерное многообра-
зие обязательно представлено в этом списке (бесконечным количест-
вом кодов). Однако наличие такого списка отнюдь не означает, что на-
ми получена классификация трехмерных многообразий в том смысле,
в каком она имеется для двумерных многообразий. Дело в том, что
каждое многообразие М3 представлено в этом списке не одним кано-
ническим кодом, а бесконечным множеством кодов. Возникает зада-
ча классификации: существует ли такой алгоритм, который, действуя
§8. Задача распознавания трехмерной сферы
95
по «единообразной программе», давал бы ответ на следующий вопрос:
определяют ли два кода одно многообразие М3 или разные, т. е. не диф-
феоморфные, многообразия? При этом требуется, чтобы алгоритм этот
определялся последовательностью операций (программой), определение
которых не зависело бы от пары кодов, поданных на «вход» алгоритма.
Дело в том, что, имея дело с какими-нибудь двумя конкретными кода-
ми, можно иногда получить ответ на вопрос за счет каких-то весьма
специфических соображений, применимых лишь в случае этих кодов и
не действующих в других случаях. Мы не будем углубляться здесь в
точную алгоритмическую постановку задачи, ограничившись интуи-
тивным представлением об алгоритме как о «машине», действующей по
заданной программе и перерабатывающей поданные на ее «вход» сигна-
лы. В данном случае это — пары кодов многообразий.
Простейшим вопросом в этом направлении является вопрос о рас-
познавании среди множества всех кодов всех трехмерных многообра-
зий — кодов простейшего многообразия — стандартной сферы. Дру-
гими словами, как распознать диаграммы Хегора, отвечающие S3?
Чем эти диаграммы отличаются от диаграмм других многообразий, не
диффеоморфных S3? Этот вопрос иногда называют алгоритмической
проблемой Пуанкаре распознавания сферы. Есть несколько естествен-
ных кандидатов на звание «характеристического свойства стандартной
сферы». Простейшая гипотеза: если одномерные гомологии многообра-
зия М3 тривиальны, то это многообразие диффеоморфно сфере. Эта
гипотеза кажется на первый взгляд правдоподобной вследствие нали-
чия следующего простого утверждения.
Предложение 8.1. Пусть М3 — трехмерное замкнутое ориентиру-
емое связное многообразие, и НДМ3, Z) = 0. Тогда М3 имеет те же
целочисленные гомологии, что и сфера, т.е. Н*(М3, Z) = H*(S3, Z).
Такие многообразия называются иногда гомологическими сфера-
ми.
Доказательство.
Так как НДДП, Z) = 0, то в силу двойственности Пуанка-
ре Н2(М, Z) = 0. Поскольку Ях = Я1 и Tq = Т1, то ЯХ(М, Z) = 0. Так
как Н3(М, Z) = Z, то Т2 = Т3 = 0 и Я2 = Я2 = 0, т.е. Я2(М, Z) = 0.
Утверждение доказано.	
Однако, сформулированная гипотеза неверна.
Предложение 8.2. Существуют трехмерные гомологические сферы,
96
Глава 3
Рис. 112
гомотопически не эквивалентные (и тем более не диффеоморфные)
стандартной трехмерной сфере.
Мы докажем это утверждение, предъявив трехмерное многообра-
зие, являющееся гомологической сферой, но имеющее ненулевую фун-
даментальную группу и, следовательно, гомотопически не эквивалент-
ное сфере. Для этого укажем диаграмму Хегора рода 2, т. е. зададим на
поверхности М$ (на кренделе) сеть [ад, аг]- Эта сеть должна состоять
из двух семейств окружностей Si, 5г и Si, S2 (см. определение 7.1).
Эта сеть показана на рис. 111. Здесь окружности Si и S2 (индекса 1)
являются стандартными меридианами, окружность индекса 2 — Si из-
ображена сплошной гладкой траекторией на кренделе, а окружность ин-
декса 2 — S2 изображена волнистой траекторией. Предоставляем чита-
телю убедиться в том, что это действительно, сеть, т. е. что, разрезав
крендель по Si и S2, мы получим сферу с четырьмя дырками. При раз-
резании вдоль Si и S2 это утверждение очевидно. На рис. 112 эта же
сеть показана в другой эквивалентной модели: в виде графа ТУ (а) на
сфере S2 с четырьмя выколотыми точками. Впрочем, мы изобразили
эти выколотые точки как выброшенные диски, чтобы полностью сохра-
нить всю информацию об отождествлении Si = S^USf и S2 = S^US^-
§8. Задача распознавания трехмерной сферы
97
Другими словами, граф на рис. 112 получается из схемы на рис. 111 при
разрезании кренделя вдоль окружностей Si и 5г- Итак, мы предъяви-
ли некоторое трехмерное многообразие. Мы утверждаем, что фунда-
ментальная группа этого многообразия отлична от нуля. Для доказа-
тельства нам потребуется более общее утверждение о структуре фун-
даментальной группы трехмерного многообразия М3(а), отвечающего
сети а. Рассмотрим сеть а = (Si, ... , S„: Si, ... , Sg). Фиксируем на
всех окружностях, образующих сеть, ориентацию. Рассмотрим затем
произвольную окружность индекса 2 — Sj, и, двигаясь по ней в на-
правлении ее ориентации, будем последовательно отмечать все точки
ее пересечения с окружностями индекса 1. При этом в точке пересече-
ния с окружностью Si индекса 1 будем ставить символ S*1, если индекс
пересечения в этой точке окружностей Sj и S, положителен, и будем
ставить S^1 в противном случае. Тем самым, совершая полный обход
по окружности Sj, мы выписываем некоторое слово Wj = S^S^1 ...,
однозначно определяющее, с какими окружностями индекса 1 пересе-
кается окружность Sj. Тем самым мы однозначно определяем набор
из g слов: Wi, ... , Wg.
Теорема 8.1. Пусть М3 = М3(а), где а — некоторая сеть. Рас-
смотрим свободную группу Fg с образующими Si, ... , Sg и набор эле-
ментов {VP} = (Wi, ... , Wff), построенный описанной выше проце-
дурой. Пусть Af{lT} — наименьший нормальный делитель в груп-
пе Fg) содержащий элементы Wi, ... , Wg, т.е. порожденный элемен-
тами Wi, ...Wg и всевозможными их сопряжениями на произвольные
элементы группы Fg. Тогда фундаментальная группа tti(M3) изоморф-
на фактор-группе Fg/N{W}.
Доказательство.
Напомним общий рецепт вычисления фундаментальной группы
клеточного комплекса К с одной вершиной (нульмерной клеткой) [2, 3].
Пусть ci, ... , <jg — одномерные клетки комплекса, a ei, ... , eg —
его двумерные клетки. Тогда характеристические отображения дву-
мерных клеток, будучи ограничены на границы клеток, определяют
с точностью до сопряженности элементы Wi, ... , Wr свободной груп-
пы Fg(ai, ... , ag). Тогда фундаментальная группа комплекса изоморф-
на фактор-группе свободной группы по наименьшему нормальному де-
лителю, содержащему Wi, ... , Wr. Этот нормальный делитель порож-
ден элементами вида	где Т) — произвольные элементы труп-
98
Глава 3
пы Fg. Применим эту теорему в нашей ситуации. Из теоремы 7.1 следу-
ет, что М3 получается склейкой Щ и Ik Комплекс Щ гомотопически
g
эквивалентен букету окружностей \/ D*, каждая из которых является
«=1
«осью ручки» индекса 1 и получается из левостороннего диска, исходя-
щего из точки индекса 1. Каждая такая ручка (см. рис. 108) получается
прямым умножением «оси» — окружности — на правосторонний сепа-
ратрисный диск, границей которого и является окружность Si индек-
са 1, лежащая на поверхности Д/г- Левосторонние двумерные диски,
исходящие из точек индекса 2, опускаются на поверхность /х/2 и опре-
деляют на ней окружности Sj индекса 2. Ясно, что каждое пересечение
окружности Sj с какой-то окружностью Si означает, что граница дву-
мерной клетки (т.е. Sj) прошла по ручке, соответствующей окружнос-
ти Si. Следовательно, элементы-слова Wi, ... , Wg, построенные нами
выше по окружностям индекса 2, задают характеристические отобра-
жения границ двумерных клеток (индекса 2), переводящих эти окруж-
ности Sj в одномерный остов комплекса Щ. Теорема доказана. 
mm
Рис. 113
Рис. 114
На рис. 113 показан комплекс Щ, окружности, участвующие в до-
g
казательстве теоремы, и стягивание Пх на букет \/ D*. На рис. 114 по-
_ i=1
казан пример Пх рода 2 и окружность Sj, образующая слово Wj = StS-2
при своих пересечениях с окружностями Sx и ,S'2. На рис. 114 показана
также деформация окружности Sj на букет двух окружностей VDJ.
§8. Задача распознавания трехмерной сферы
99
При этой деформации Sj реализует, очевидно, элемент свободной груп-
пы F(Si, S2), равный Si • S2, т. е. совпадающий со словом Wj = Si • 5г-
Применим теперь теорему 8.1 к изучению конкретной сети, предъяв-
ленной нами выше. В этом случае род Щ равен двум, поэтому мы по-
лучаем два слова-элемента Wi и W2 в свободной группе ^(Si, £2).
Для простоты обозначим образующие Si и S2 через а, Ь. Тогда окруж-
ности Si и S2 индекса 2 определяют следующие элементы в груп-
пе ^(а, Ь) (см. рис. Ill): aba~1ba = W±, b~1ab4a = W2. Следователь-
но, Тг(а, b)/N(Wi, W2) = лд(М3). Докажем, что эта группа не является
единичной (запись группы мультипликативна). Для этого преобразу-
ем соотношения Wi, W2 в группе F2 к более простому виду. Пользу-
ясь тем, что соотношения эти определены с точностью до сопряжения
на произвольные элементы группы F2, получаем цепочку эквивалент-
ных соотношений: Wi = aba~1ba ~ ba~1ba2 ~ а-2&-1а&-1 ~ а-2сас,
где с = &-1, далее W2 = b~1ab4a ~ b4ab~1a ~= с-4аса. Эти соотноше-
ния можно переписать еще и так: а2 = сас, с4 = аса. Итак, tti(M3) =
= F2(a,c)/N(a? = сас, с4 = аса). Отсюда следует, что в группе tti(M3)
между образующими а, с имеется соотношение с5 = а3. В самом де-
ле, с5 = саса = (са)2, а3 = саса = (са)2 = с5. Но эта группа известна
в теории групп симметрий правильных многогранников. Полученные
нами соотношения выполняются в группе икосаэдра, если в качестве
элемента с взять вращение вокруг какой-нибудь вершины икосаэдра
на угол 2тг/5, а в качестве а взять вращение в том же направлении на
угол 2тг/3 вокруг центра прилегающего к этой вершине треугольника.
Отсюда следует, что группа tti(M3) заведомо нетривиальна, поскольку
группа икосаэдра отлична от единичной.
Задача. Докажите, что 7Г1(М3) есть группа 120-го порядка.
Итак, мы доказали, что многообразие М3 гомотопически не экви-
валентно сфере. С другой стороны, оказывается, что	,Z) = 0.
В самом деле, известно (см., например, [1]), что для любого клеточ-
ного комплекса Щ = яд / [яд, яд ], где через [яд,яд] обозначен комму-
тант группы 7Г1- В нашем примере, следовательно, для подсчета груп-
пы Ifi(M3,Z) нужно считать образующие а, b коммутирующими (что
эквивалентно факторизации группы по ее коммутанту), после чего, пе-
реходя для удобства к аддитивной записи группы и ее соотношений, мы
получаем W* = a + b — a + b + a= a + 2b, W£ = —b+a + 4:b + a= 2а + 3b.
Следовательно, элементы Wf, И7 определяют следующее целочислен-
100
Глава 3
ное преобразование абелевой группы ZffiZ : (2 3)- Поскольку определи-
тель этого преобразования равен —1, то элементы Wf, порождают
всю группу ZffiZ, что и требовалось доказать. Таким образом, tti(M3)
является простой группой, совпадает со своим коммутантом, и М3 яв-
ляется гомологической сферой. Теорема полностью доказана. 
Рис. 115
Предъявленное нами в терминах
сетей многообразие М3 оказывает-
ся диффеоморфным так называемой
«сфере Пуанкаре», определение кото-
рой обычно дается в других терми-
нах. Это многообразие получается из
додекаэдра при отождествлении про-
тивоположных его граней — пяти-
угольников, повернутых друг относи-
тельно друга на угол тг/5. На рис. 115
показан граф додекаэдра с требу-
емыми отождествлениями его гра-
ней. Оставляем читателю в качест-
ве полезного упражнения сопоставле-
ние этого многообразия с тем, кото-
рое было изучено нами выше.
2.	Гомотопические сферы
Итак, равенства нулю одномерной группы гомологий Н недоста-
точно для того, чтобы многообразие М3 было диффеоморфно стандарт-
ной сфере. Поэтому следующей естественной гипотезой является даль-
нейшее усиление требований на топологию многообразия.
Гипотеза Пуанкаре. Любое трехмерное гладкое замкнутое ком-
пактное связное и односвязное (!) многообразие диффеоморфно стан-
дартной сфере.
Теперь мы предполагаем равенство нулю группы tti(M3), что явля-
ется, очевидно, усилением первоначального требования. Так как тгх = 0,
то такое многообразие автоматически ориентируемо, в противном слу-
чае группа 7Г1 содержала бы подгруппу индекса 2. Поскольку равенство
нулю группы 7Г1 влечет за собой равенство нулю группы Hi, то любое
такое многообразие является гомологической сферой (см. 8.1). Имеет
место и более сильное
Предложение 8.3. Любое трехмерное гладкое замкнутое компакт-
§8. Задача распознавания трехмерной сферы
101
ное связное и односвязное многообразие гомотопически эквивалентно
стандартной сфере.
Доказательство.
Поскольку //| = Hi = 0 и М односвязно, то в силу теоремы Гу-
ревича (см., например, [3, с. 153]) мы имеем тгх = тгг = 0, тгз(М3) =
= Нз(М3, Z) = Z. Рассмотрим М3 как клеточный комплекс и построим
непрерывное отображение /: М3 —> S3, стянув в точку двумерный ос-
тов М3. Отображение f индуцирует изоморфизм гомотопических групп
и является гомотопической эквивалентностью.
Рис. 116
До сих пор неизвестно, является ли любая трехмерная гомотопи-
ческая сфера (т. е. многообразие, гомотопически эквивалентное трех-
мерной сфере) стандартной сферой. (Известно, что гомотопические сфе-
ры размерностей п 4 гомеоморфны стандартным сферам.) Возвраща-
ясь к вопросу об алгоритмическом распознавании кодов (сетей, диа-
грамм Хегора) стандартной сферы в множестве всех кодов всех трех-
мерных многообразий, сделаем одно дополнительное замечание. Дело в
том, что множество всех диаграмм Хегора сферы S3 можно все-таки
описать, правда, недостаточно конструктивно (что и препятствует рас-
познаванию). Для этого рассмотрим элементарные операции над сетя-
ми а. Пусть а = [01,02] и S,, Sg — две окружности индекса 1. Вы-
берем на них по точке и соединим эти точки гладким отрезком 7, не
пересекающимся с другими окружностями индекса 1 (рис. 116). Пос-
ле этого заменим пару Si, Sq новой парой Si, S'q, где Si = Si, а но-
вая окружность S'q получается так, как это показано на рис. 117. Эту
операцию (Si,Sq) —> (jSi,S'q) назовем элементарной операцией индек-
са 1. Точно так же определяются операции индекса 2. Оказывается,
в результате этих операций снова получаются сети, т. е. диаграммы
102
Глава 3
Хегора, задающие то же многообразие, которое задавалось исходной
сетью а. Оказывается, что любой код (сеть, диаграмма Хегора) стан-
дартной трехмерной сферы может быть получен из простейшей сети
сферы S3 (для некоторого рода g), показанной на рис. 107, некоторой
последовательностью операций индекса 1 и индекса 2.
Внешняя простота этих операций тем не менее обманчива. Уже
простые примеры показывают, насколько сильно запутываются сети
сферы S3 после применения описанных операций. Решение алгоритми-
ческой проблемы Пуанкаре зависит от того, удастся или нет найти та-
кое «распознаваемое» свойство сетей сферы, которое сохранялось бы при
любых последовательностях операций индекса 1 и 2. Оказывается, для
сетей рода 2, задающих стандартную сферу, такое легко распознаваемое
свойство существует. Володиным и Фоменко в [26] была сформулиро-
вана гипотеза: если сеть сферы отлична от стандартной минимальной
сети, то хотя бы один из графов ТУ (а) и ТУ (а) содержит разбивающую
вершину, т. е. такую вершину, выбрасывание которой разбивает граф
в объединение по крайней мере двух компонент связности. Именно в
этом смысле разбивающая вершина «разбивает» граф по крайней мере
на два связных куска. Если эта гипотеза верна для сетей какого-то фик-
сированного рода g, то тогда мы получаем очень простой и красивый
алгоритм распознавания сетей стандартной сферы. Берем исследуемую
сеть и смотрим, есть ли в графах ТУ (а) и ТУ (а) хотя бы одна разбива-
ющая вершина. Если таковой нет, то мы сразу же получаем, что мно-
гообразие, соответствующее этой сети, не гомеоморфно стандартной
сфере. Если же разбивающая вершина есть, то, применяя к сети неко-
торую упрощающую операцию (существенно использующую наличие
разбивающей вершины), мы упрощаем исходную сеть, переходя к но-
вой сети, соответствующей тому же многообразию, но имеющей мень-
шее число ребер (в терминах ассоциированных с сетью графов) (детали
см. в [26, 27]). Таким образом, повторяя эту процедуру нужное коли-
чество раз, мы либо остановимся на простейшей минимальной сети,
описывающей стандартную сферу (и тогда исходная сеть определяла
сферу, поскольку операции упрощения не меняют исходное многообра-
зие), либо остановимся на некоторой сети, которая не имеет ни одной
разбивающей вершины (на обоих графах) и отлична от минимальной
сети сферы. В этом последнем случае многообразие не гомеоморфно
сфере. Для сетей рода 3 и выше сформулированная гипотеза оказалась
неверной [28], [30].
§9. Об алгоритмической классификации многообразий
103
Для сетей рода 2 был проведен обширный вычислительный экспе-
римент на ЭВМ, в результате которого было обнаружено, что все 107
сетей рода два, построенных ЭВМ и отвечающих стандартной сфере,
действительно имеют разбивающую (хотя бы на одном из графов). Ра-
нее ЭВМ была применена в [26] для 106 сетей (без ограничения на род).
Наконец, в [29] существование разбивающей вершины для сетей рода 2
было доказано в полном объеме. Таким образом, для сетей рода 2 ука-
занный алгоритм эффективно действует.
§ 9.	Об алгоритмической классификации
многообразий
1.	Фундаментальные группы трехмерных многообразий
Фундаментальные группы двумерных многообразий были факти-
чески уже описаны нами ранее. Оказалось, что этих групп «достаточно
мало», все они задаются в явном виде простым набором образующих
и соотношений. В трехмерном случае, как мы уже видели, появляются
принципиально новые группы, являющиеся группами tti(M3) (см. §8).
Тем не менее по-прежнему есть такие конечно-порожденные группы,
которые не могут быть фундаментальными группами трехмерных мно-
гообразий.
Предложение 9.1. Группа Z4 = ZffiZffiZffiZHe может быть фун-
даментальной группой замкнутого связного компактного трехмерного
многообразия.
Доказательство.
Допустим противное, пусть существует М3 такое, что tti(M3) = Z4.
Фундаментальная группа тгх задается набором образующих ах,... ,ар и
соотношений Wi, ... , Wq, геометрический смысл которых был выяс-
нен в § 8. Образующие а±, ... , ар задаются левосторонними сепарат-
рисными дисками точек индекса 1, а соотношения Wi, ... , Wq — ле-
восторонними двумерными дисками точек индекса 2. Так как согласно
теореме 7.1 на М3 существует функция Морса, имеющая только один
минимум, один максимум и равное число критических точек индекса 1
и индекса 2, то существует такое задание группы тгх(М3), в котором
число образующих равно числу соотношений. Итак, пусть тгх(М3) =
= Fg(ai, ... , ag)/N(Wi, ... , Wg), где g — род поверхности /х/2- Вло-
жим М3 в клеточный комплекс Jf(Z4,l) [3], т. е. в такой комплекс,
104
Глава 3
что 7Г | (A'fZ4,1)) = Z4, 7Tj(lf(Z4,1)) = 0 при i > 1. Для этого доста-
точно «заклеить» все группы 7Г,(М) при i 2 путем приклейки клеток
размерностей, не меньших, чем три. В частности, одномерный и дву-
мерный остовы М не меняются. Поскольку любые два пространства
типа К(тг, 1) при одной группе тг слабо гомотопически эквивалентны [3],
то можно считать, что Jf(Z4, 1) гомотопически эквивалентно тору Т4.
Итак, для тора Т4 мы обнаружили такое клеточное разбиение с одной
вершиной, что алгебраический комплекс (над R) цепей этого разбие-
ния имеет вид ... -% Р2 -%	-% 0, где dimRPi = g (роду /1/2).
Рассмотрим Pi(T4, R) = В:4. Так как = КегЭо/1тЭх = Pi/Imtli,
то codim Im Д = 4. Так как Im Эх = Р2/ КегЭх, то оператор Д отличен
от нуля Hag-4 линейно независимых векторах в группе Р2, следо-
вательно, dimKer^x = 4. Следовательно, dim/f2 В 4, так как Н2 =
= КегЭх/1тЭ2. Но, с другой стороны, Н2(Т4, R) = R6. Полученное
противоречие доказывает утверждение.	
Задача. Найдите все абелевы группы, которые являются фундамен-
тальными группами трехмерных замкнутых компактных связных мно-
гообразий (Z, ZffiZffiZ, Zp, Z ф Z2).
Рассмотрим класс Н всех конечно-порожденных групп, т. е. задаю-
щихся конечным набором образующих и соотношений. Обозначим че-
рез Q подкласс тех групп, которые имеют вид tti(M3) для некоторого
многообразия М3. Как мы видели, Q Н, так как, например, Z4 Q.
Оказывается, подкласс Q С Н алгоритмически нераспознаваем в клас-
се Н, т. е. не существует такого алгоритма, который, действуя по еди-
ной программе, сообщал бы, задает ли поданный на его «вход» набор
образующих и соотношений группу из класса Q или нет. Теорема эта
нетривиальна и ее доказательство мы опускаем.
2.	Фундаментальные группы четырехмерных многообра-
зий
Теорема 9.1. Любая конечно-порожденная группа может быть пред-
ставлена в виде фундаментальной группы некоторого четырехмерного
гладкого компактного связного замкнутого многообразия.
Доказательство.
Пусть группа G задается образующими щ, ... , ап и соотношения-
ми W-L, ... , Wk, где п, к < 00, т.е. G = Fn(ax, ... , an)/W(ITi, ... , Wk).
Рассмотрим сферу S4 и приклеим к ней п ручек индекса 1, т.е. выпол-
§9. Об алгоритмической классификации многообразий
105
ним п перестроек индекса 1 (см. §3, 6). Получим многообразие М4.
Ясно, что Fn(ai, , ап) = 7Г1(М4), где образующие а±, ... , ап гео-
метрически реализованы в М4 при помощи окружностей Si, порож-
денных «осями» ручек индекса 1 (рис. 118). Следуя схеме п. 1 §8, ре-
ализуем каждый элемент (слово) Wj гладко вложенной в М4 окруж-
ностью Sj так, чтобы при последователь-
ном обходе по этой окружности пересече-
ния с ручками образовывали бы слово Wj.
При этом можно считать, что окружнос-
ти, реализующие слова Wi, ... , Wk, не пе-
ресекаются. Рассмотрим окружность Sj, и
пусть U — ее достаточно малая трубчатая
окрестность. Мы утверждаем, что U яв-
ляется прямым произведением Sj х D3. В
самом деле, поскольку U является рассло-
ением над окружностью со слоем D3, то
оно может быть только: а) прямым произведением, б) неориентируе-
мым многообразием с краем. Но случай б) не реализуется, поскольку
многообразие М4 очевидно, ориентируемо. Поэтому мы можем про-
извести по окружности Sj, перестройку индекса 2 (см. §6). Други-
ми словами, рассмотрим многообразие S2 х D2 и, выбросив окрест-
ность U = SjX D3, вклеим вместо нее S2 х D2 по отождествлению кра-
ев: d(S2 х D2) = S2 х S1 = dU = d(Sj х D3). Выполнив эту перестройку
по всем окружностям Si, ... , Sk, мы получаем новое многообразие Q4,
фундаментальная группа которого равна группе G, поскольку, прикле-
ив ручки индекса 2 по всем окружностям {Sj}, мы заклеиваем в груп-
пе Fn(ai, ... , ап) элементы Wi, ... , Wk, приравняв их нулю (единице),
что и приводит нас к группе G. Теорема доказана.	
Отметим, что это рассуждение не проходит в размерности три, по-
скольку здесь мы должны были бы, производя, перестройку индекса 2,
вклеивать вместо окрестности U = Sj х D2 окружности Sj многооб-
разие (ручку) S1 х D2 по отождествлению границ: dU = Sj х S1 =
= d(jSr х D2) = T2 (тор). Ясно, что, уничтожая элемент Wj, реализо-
ванный окружностью Sj, мы вместо него добавляем новый, вообще го-
воря, нетривиальный элемент, реализованный другой окружностью —
образующей на торе, т. е. вводим новые образующие, не предусмотрен-
ные представлением группы G. И действительно, как мы уже видели,
некоторые группы G не являются фундаментальными группами трех-
106
Глава 3
мерных многообразий. Ясно, что любая конечно-порожденная группа G
реализуется при любом п 4 как фундаментальная группа некоторого
многообразия Мп.
3.	О невозможности классификации гладких многообра-
зий в размерностях, больших, чем три
Каждое гладкое компактное многообразие допускает триангуля-
цию, т. е. представление в виде симплициального комплекса. Следова-
тельно, составив таблицу, в которой перечислены все эти симплексы,
все их грани и коэффициенты инцидентностей, мы можем задать мно-
гообразие этой таблицей, рассматривая ее как код многообразия. Воз-
никает задача алгоритмической классификации многообразий данной
размерности: существует ли алгоритм, действующий по единой про-
грамме и отвечающий на вопрос, определяют ли два произвольных кода
диффеоморфные (гомеоморфные) многообразия или нет [23, 24].
Теорема 9.2 ([23]). Не существует алгоритма, определенного на
множестве кодов всех четырехмерных многообразий (заданных, напри-
мер, своими симплициальными разбиениями) и отвечающего на вопрос,
определяют ли два любые кода, поданные на его «вход», диффеоморфные
многообразия или нет.
Доказательство.
Мы сошлемся здесь на некоторые чисто алгебраические результа-
ты, доказательство которых выходит далеко за рамки настоящей книги.
Если группа задана в виде таблицы, перечисляющей образующие и соот-
ношения, то будем говорить, что задано копредставление группы. Пред-
варительно конструируется конечно-порожденная группа Со, заданная
образующими и набором соотношений, в которой алгоритмически не-
разрешима проблема тождества слов, т. е. не существует алгоритма,
отвечающего на вопрос: определяют ли два слова, поданные на «вход»
алгоритма, один и тот же элемент в группе Go? Дело в том, что по-
скольку элементы группы Go заданы в виде классов смежности по нор-
мальному делителю, порожденному словами-соотношениями, то один
и тот же элемент записывается бесконечным множеством способов, в
связи с чем и возникает проблема «тождества слов». Копредставление
этой интересной группы имеет 10 образующих ai, и 29 соотношений Rj.
В записи Gq мы сначала перечислим образующие, а потом укажем все
соотношения. Go = {образующие : si, s?, S3, S4, «5, с, d, е, k, t; соотно-
шения: dwS{ = Sid', esi = Sie10, sic = csp, i = 1, 2, ... , 5; ds^ssec =
§9. Об алгоритмической классификации многообразий
107
= cdsasie; d2siS4e2c = cd2S4Sie2; d3S2S3e3c = cd3ssS2e3; diS2S4e4c =
= cdiS4S2e4; d5s^S3Sie5c = cd5S3S^e5', d6 s^S4S2e3c = cd6S4Sse6;
d? S3S4S3Sie7c = cd7 S3s4.s3.s1.s5e7; d3S3S3e3c = cd3s\e3-, d9S4S3e9c =
= cd9s3e9; ct = tc; dt = td; ck = kc; ek = ke; s^ts^k = fcsf3tsi} =
— {a^,
Из указанного копредставления этой группы конструируется счет-
ная последовательность копредставлений групп, в которой алгорит-
мически неразрешима проблема тривиальности группы. Пусть Go =
= {ai, Rj} — описанная выше группа. Лексикографически упорядочим
слова в алфавите
(ai,а-41,аг,а2 1, ••• , «ю- «и)1)-
т. е. составим список
G-l,	, • • • , О10 , ZZxZZ^ , ZZxZZ2, • • • , tZx ^ХО э ^1	' *
Обозначим через ш/. k-е слово в этом списке. Обозначим далее через G/.,
где к 1, группу, заданную образующими ai, аг, • • • , «ю, «и, t, с, s, b, d, и
и соотношениями:
Ri = 0, R2, ... , -R29 = 0;
и =	t2u = wi; c2t = tc;
s2u = ws; b2 s = sb',
а^сЬ~{ = dicd~i; i = 1, 2, ... , 11;
b12cbc~1b~12 = d-12cdc-1d12.
В этом копредставлений группы Gk мы имеем 17 образующих
и 46 соотношений. Имеет место важное утверждение: не существует
алгоритма, определенного на этом счетном множестве копредставле-
ний групп и отвечающего на вопрос, задает ли копредставление груп-
пы, поданное на его «вход», тривиальную (единичную) группу или нет.
Другими словами, мы не можем алгоритмически распознать в последо-
вательности групп Gk единичные группы.
Возвратимся к задаче классификации многообразий. Опираясь на
теорему 9.1, построим последовательность четырехмерных многообра-
зий М^, для которых 7Г1(М^) = Gk- Обозначим через р число образу-
ющих, а через q число соотношений в группе Gk- В действительнос-
ти, р = 17, q = 46. Числа р и q не зависят от номера к. Напомним,
108
Глава 3
что каждое многообразие имеет вид S4 + (р, 1) + (q, 2), где симво-
лом (р, 1) мы обозначили р перестроек индекса 1, а символом (д, 2) —
q перестроек индекса 2. Построим новые четырехмерные многообра-
зия = S4 + (p, l) + (g, 2) + (р, 2) = М^+(р, 2) т.е. приклеим к руч-
ки индекса 2 в количестве р, при этом не будем задевать приклеенных
ранее ручек. Последнее условие означает, в частности, что мы не меня-
ем фундаментальной группы многообразия т.е. 7Г1(1У*) = tti(M^) = G^.
Лемма 9.1. Если Gk — тривиальная группа, то многообразие диф-
феоморфно стандартному гладкому односвязному многообразию Mq =
= S4 + (g,2), т. е. четырехмерной сфере S4, к которой стандартным
образом приклеено q ручек индекса 2.
Доказательство.
Пусть 7Ti(lVfc) = 0. Построенные нами многообразия N%, как и М^,
обладают важным свойством: они являются краями некоторых пяти-
мерных гладких многообразий. Это сразу вытекает из п. 4 § 6, где бы-
ло доказано, что операция перестройки Морса индекса А реализуется
как операция взятия края у многообразия на единицу большей размер-
ности, заключенного между двумя поверхностями уровня функции ./'.
имеющей в этом слое одну критическую точку индекса А. Используя
тривиальность фундаментальной группы, мы можем заклеить все ее р
образующих двумерными дисками.
Рис. 119
Опуская подробности, отметим,
что, используя так называемую ста-
билизацию функции Морса и тот
факт, что образующие группы tti ре-
ализованы в виде «осей» ручек индек-
са 1, сдвигая с места ручки (р, 2) и на-
ползая ими на эти образующие, мож-
но заклеить (уничтожить) все обра-
зующие группы 7Г1. При этом мы ис-
пользуем тот факт, что ручки индексов 1 и 2 могут взаимно уничто-
жать друг друга, если подошва ручки индекса 2 приклеена к оси ручки
индекса 1 (а это можно сделать, используя тривиальность группы tti).
Это взаимное уничтожение двух ручек показано на рис. 119. Лемма до-
казана.
Возвращаясь к доказательству теоремы 9.2, допустим противное:
пусть существует классификационный алгоритм, позволяющий срав-
§9. Об алгоритмической классификации многообразий
109
нивать между собой различные коды четырехмерных многообразий и
отвечающий на вопрос, диффеоморфны ли соответствующие многооб-
разия или нет. Ограничим этот алгоритм на бесконечную серию по-
строенных выше многообразий Мд = S4 + (q,2), N4,N^,N^, ... Взяв
произвольную группу Gk из предъявленной выше серии, мы можем за-
тем с помощью алгоритма распознавания сравнить соответствующее
ей многообразие с многообразием Мд. Если они окажутся диффео-
морфными, то группа G/., тривиальна, так как 7Г1(Мд) = 0. Если же ал-
горитм сообщит, что и Мд не диффеоморфны, то в силу леммы 9.1
группа G/. =	нетривиальна, в противном случае мы получи-
ли бы диффеоморфизм:	= Мд. Следовательно, опираясь на тополо-
гический алгоритм распознавания (классификации), мы получили бы
алгоритм, позволяющий распознавать в серии групп {Gj,} (точнее, их
копредставлений) тривиальную группу, что невозможно в силу постро-
ения этих копредставлений. Теорема 9.2 доказана.
В трехмерном случае эта теорема не имеет пока своего аналога,
так как неясна возможность реализации серии групп типа Gk в ви-
де фундаментальных групп трехмерных многообразий. Отметим так-
же следующее обстоятельство. Предположим, что имеет место утверж-
дение: серия групп Gk (или какая-либо аналогичная ей по свойствам
серия) реализуется в виде фундаментальных групп трехмерных мно-
гообразий, т.е. Gk =	Какое утверждение соответствует тогда
доказанной выше лемме 9.1? Так как любое трехмерное компактное
замкнутое связное и односвязное многообразие гомотопически эквива-
лентно стандартной сфере (см. § 8), то трехмерным аналогом леммы 9.1
могла бы быть следующая лемма: если Gk — тривиальная группа, то
многообразие диффеоморфно стандартной трехмерной сфере.
Глава 4
Симметрические пространства
§ 10.	Основные свойства симметрических
пространств, их модели и группы изометрии
1.	Определение симметрических пространств
Определение 10.1. Связное риманово многообразие V называется
римановым симметрическим пространством, если для каждой точ-
ки р Е V существует изометрия sp: V —> V, оставляющая точку р
на месте и переворачивающая проходящие через точку р геодезичес-
кие. Это означает, что если 7 — геодезическая такая, что 7(0) = р,
то spy(t) =
Симметрическое пространство можно определить еще и так: для
каждой точки р Е V существует инволютивная изометрия sp (т. е.
квадрат которой — тождественное преобразование), отличная от тож-
дественной, для которой точка р является изолированной неподвижной
точкой.
2.	Группы Ли как симметрические пространства
В качестве первого примера возьмем группы Ли. Мы будем рас-
сматривать в основном компактные группы Ли ®; алгебру Ли бу-
дем обозначать G. Будем считать, что компактная группа ® явля-
ется замкнутой подгруппой в ортогональной группе SOn или в спе-
циальной унитарной группе SUn для некоторого достаточно большо-
го N < оо. Это облегчит многие построения и не ограничит общ-
ности, так как любая компактная группа допускает такое представ-
ление (мы не будем доказывать этот факт). Фиксируем на компакт-
ной группе Ли ® двусторонне инвариантную (биинвариантную) ри-
манову метрику. Доказательство существования такой метрики см.,
например, в [1]. Напомним также явные формулы, задающие такую
метрику. Пусть группа ® вложена в SOn- Биинвариантная метрика
на ® вводится как ограничение биинвариантной метрики группы SOn
§ 10. Основные свойства симметрических пространств
111
на подгруппу ®. Рассмотрим стандартное представление SOn в ви-
де (N х AQ-матриц А таких, что А-1 = АТ. Рассмотрим линейное про-
странство IR. всех вещественных N х ^матриц и введем в нем ска-
лярное произведение по формуле {А, В) = Sp(A-BT), где А, В 6 PJV —
две произвольные матрицы, Вт — транспонированная матрица. Яс-
но, что если А = (Afj), В = (Bij), то (А, В) = ^AijBij являет-
ся евклидовым скалярным произведением. Очевидное свойство этого
произведения — его инвариантность относительно
1	2
преобразований вида X —> СХС~ , где X Е IR ,
С G SON, Sp(CXC-1CYTC-1) = SpXYT. Пре-
образование X —> СХС-1 иногда обозначает-
ся Adc- Группа SOn реализована как замкнутое
компактное подмногообразие в IR. . Так как для
любого g Е SOn выполнено тождество ggT = Е
(единичная матрица), то |g|2 = (g, g) = N =
= SpggT, т.е. подмногообразие SOn вложено в
сферу SN -1 радиуса s/N с центром в О. Зададим
на SOn метрику путем ограничения объемлющей
евклидовой метрики на подмногообразие SOn (рис. 120).
Лемма 10.1. Полученная риманова метрика на пространстве мат-
риц инвариантна как при левых, так и при правых сдвигах из груп-
пы SON-
Доказательство.
Пусть X = gA, Y = gB. Тогда (X, Y) = (gA,gB) = Sp gABTgT =
= Sp ABT, так как gT = g-1. Лемма доказана.	
Биинвариантность полученной метрики на подгруппах ® С SOn
эквивалентна инвариантности скалярного произведения (, ) в едини-
це Е С ® относительно внутренних автоморфизмов X —> gXg~\ X Е
EG = ТЕ&, g Е ®.
Утверждение 10.1. Пусть ® — компактная группа Ли с биинвари-
антной метрикой. Тогда ® — симметрическое пространство. Инволю-
ция sg: ®	® задается формулой sg(x) = gx~rg, при этом sg(g) = g.
Доказательство.
Рассмотрим гладкое отображение v. ®	> ®, v(x) = я?-1, тог-
да dv: Те<& —> ТЕ<& переворачивает касательные векторы к ® в точ-
112
Глава 4
ке Е, в частности dv — изометрия пространства G. Так как v =
= Rg-ivLg-i, где через Rg и Lg обозначены правые и левые сдвиги
соответственно, то (dv)x: Тх& —> Tx-i& также изометрия. Так как
sg = RgSsRg1, то sg — изометрия, переворачивающая геодезические
в точке g. Утверждение доказано.	
Легко проверить, что однопараметрическими подгруппами в ® яв-
ляются геодезические, проходящие через единицу Е, и только они. В са-
мом деле, если 7 — геодезическая в ®, Е = 7(0), q = 7(c), то sqSE^(t) =
= y(t + 2с) (рис. 121). Так как sg(x) = gx-1g, то sqSE(x) = у(с)ху(с) =
= qxq-, отсюда
7(c)7(i)7(c) = ?(t + 2с),
где х = 7(f). Полагая t = 0, получаем 7(22 • с) = 7(c)” для любого
целого п. Если отношение сх/с2 рационально, т.е. ci = n±c, с2 = тг2с
при некотором с и nx,n2 G Z, то
Т(сх + с2) = 7((пх + п2)с) = 7(с)П1+п2 = 7(d) • 7(с2).
Используя соображения непрерывности,
получаем, что 7(d) • 7(d) = 7(d + с2) уже
при произвольных сх и с2, т.е. 7 — гомо-
морфизм, а потому однопараметрическая
подгруппа. Поскольку как геодезическая,
Рис.121	так и однопараметрическая подгруппа од-
нозначно задается касательным вектором в
единице, то утверждение доказано. 
3.	Свойства тензора кривизны
Наличие на симметрических пространствах геодезических сим-
метрий накладывает жесткие ограничения на дифференциально-гео-
метрическую структуру пространства. Поясним это на примере групп
Ли.
Предложение 10.1. Пусть ® — компактная группа Ли с биинва-
риантной метрикой (через (, ) обозначим соответствующее скалярное
произведение)-, пусть X, Y, Z, W — левоинвариантные векторные поля
на группе. Тогда выполнены тождества (где через R обозначен тензор
римановой кривизны):
1)	([X, Y],Z) = (X,[Y,Z]),
2)	R(X,Y)Z = 1/4[[X,Y],Z],
3)	(R(X,Y)Z,W) = 1/4{[X,Y],[Z,W]).
§ 10. Основные свойства симметрических пространств
113
Доказательство.
Рассмотрим на ® риманову симметричную связность V, порож-
денную биинвариантной метрикой. Через VxY обозначим ковариант-
ную производную векторного поля Y по направлению векторного по-
ля X [2]. Тогда для любого левоинвариантного поля X на группе вы-
полнено тождество X хХ = 0. В самом деле, интегральные траекто-
рии левоинвариантного поля являются левыми сдвигами однопарамет-
рических подгрупп, а потому — геодезическими, т. е. X хХ = 0. Сле-
довательно, 0 = Vx+y(X + У) = XхХ + VyF +	+ XyX. Отсю-
да V%y + VyX = 0. С другой стороны, из определения ковариантной
производной легко следует, что Va-У — VyX = [X,У]. Сопоставляя
последние два равенства, получаем 2Х%У = [X,У]. Из свойств ко-
вариантной производной имеем У(Х, Z) = Vy(X, Z) = (XyX,Z) +
+ (Х, XyZ). Так как поля X и Z левоинвариантны, то (X, Z) =
= const на ®, т. е. У(X, Z) = 0. Отсюда ([У, X],Z) + (X, [У, Z]) =
= 0, т. е. (X, [У, ZJ) = ([X, Y],Z). Соотношение 1) доказано. Соглас-
но определению R(X,Y)Z имеем R(X,Y)Z = —XxXyZ + XyXxZ +
+X[x,y]Z. Так как XxY = 1/2[Х,У], то Я(Х,У)У = -1/4[Х, [У, Z]] +
+1/4[У, [X, Z]] + 1/2[[Х, У], Z], Далее, используя тождество Якоби, по-
лучаем Я(Х, Y)Z = 1/4[[Х, У], Z], Предложение доказано.	
Напомним, что если Мп — риманово многообразие, то кри-
визной по двумерному направлению X, У называется выражение
(R(X, У)Х, У). Если Мп = ® — группа Ли, то из доказанно-
го предложения следует, что {R(X, У)Х, У) = 1/4([Х, У], [X, У]) =
= 1/4||[Х, У]||2	0. Итак, для компактных групп Ли кривизна по
любому двумерному направлению всегда неотрицательна и равна ну-
лю тогда и только тогда, когда это направление «коммутативно», т. е.
[X, У] = 0.
4.	Инволютивные автоморфизмы и связанные с ними сим-
метрические пространства
Группы Ли не исчерпывают собой список симметрических про-
странств. Так, например, стандартная сфера Sn С IRn+1 является
симметрическим пространством, хотя сфера Sn и не является груп-
пой при п 1, 3. Пусть ® — связная односвязная компактная груп-
па Ли и а: ®	® — инволютивный автоморфизм группы. Обозна-
чим через Sj множество неподвижных точек автоморфизма а в груп-
пе. Ясно, что Sj — замкнутая компактная подгруппа в группе ®.
114
Глава 4
Алгебра Ли G распадается в прямую сумму двух плоскостей: G =
= Н + В, где Н = {X G G\da(X) = X}, В = {X G G\da(X) =
= —X}. Так как (da)2 = 1g (тождественное отображение алгебры Ли в
себя), то все собственные числа da равны ±1. Так как а — автоморфизм
группы, то da — автоморфизм алгебры Ли, т. е. da[X, У] = [daX, daY].
Из определения Н следует, что Н — подалгебра в G и что она является
алгеброй Ли подгруппы Y).
Можно доказать, что подгруппа S) (множество неподвижных точек
инволюции на односвязной связной компактной группе) связна. Более
того, множество неподвижных точек произвольного автоморфизма од-
носвязной связной компактной группы связно. В общем виде мы эти
утверждения не доказываем, так как во всех дальнейших примерах
связность S) будет очевидна. Отметим здесь полезное следствие, выте-
кающее из связности Sy. однородное пространство односвязно. Это
следует из точной гомотопической последовательности расслоения:
> 7Г1(®/Й) -----> ТГо£.
О
Если на группе ® задана биинвариантная
метрика, то на любом однородном простран-
стве вида ®/5j, где S) — замкнутая подгруп-
па в ®, автоматически возникает риманова
метрика, инвариантная относительно дейст-
вия группы ® на Для задания этой мет-
рики достаточно определить ее на плоскос-
тях, ортогональных к классам смежности по
подгруппе S) в ® (рис. 122). Поскольку собы-
тия происходят в группе ®, то в качестве та-
кой метрики достаточно взять ограничение
биинвариантной метрики группы на указанные плоскости. Ясно, что
получающаяся на метрика инвариантна относительно левого дей-
ствия группы ® на (5/5j: плоскость, ортогональная к одному из клас-
сов смежности, после левого сдвига перейдет в плоскость также ор-
тогональную к новому классу смежности. Итак, группа ® действует
на как подгруппа в группе изометрий введенной нами метрики.
В дальнейшем будем всегда считать, что на однородном пространст-
§ 10. Основные свойства симметрических пространств
115
ве введена именно такая метрика, порожденная биинвариантной
метрикой группы ®.
Предложение 10.2. Пусть ® — связная компактная группа Ли
и а: ® ® — произвольный инволютивный автоморфизм группы. Тог-
да однородное пространство с римановой метрикой, порожденной
биинвариантной метрикой группы ®, является симметрическим.
Доказательство.
Так как на ®/5Е) введена метрика, порожденная биинвариантной
метрикой группы, то действие этой группы на является изомет-
ричным. Нужно построить для каждой точки v Е (5/У) геодезическую
симметрию в этой точке, переворачивающую геодезические. Так как ®
действует транзитивно на V = ©/£), то достаточно построить такую
симметрию только в одной точке гц G V. Возьмем, например, в качест-
ве такой точки класс смежности, совпадающий с 55- Тогда инволюция
в группе ®, оставляющая на месте Sj, очевидно, вводит геодезическую
инволюцию и на фактор-пространстве V = (5/5j. Предложение доказа-
но.	
5.	Картановская модель симметрического пространства
Рассмотрим разложение алгебры Ли G = Н + В. Так как Н —
подалгебра неподвижных точек автоморфизма 0 = (</<г)_е, а плос-
кость В — инвариантная плоскость, отвечающая собственному чис-
лу —1 автоморфизма 0, то коммутирование элементов из плоскостей Н
и В происходит так: [JET, JET] С Н, [В, If] С В, [В, В] С Н. В част-
ности, тройной коммутатор [[В,В],В] (т.е. совокупность всех элемен-
тов вида [[X,y],Z], где X. Y, Z Е В) содержится в В. Оказывается,
разложение алгебры Ли порождает некоторое
«разложение» соответствующей группы Ли. В
группе ® расположена подгруппа Sj — стационар-
ная подгруппа пространства V. Можно ли вло-
жить в группу ® и само симметрическое про-
странство V? Если бы V являлось просто одно-
родным пространством без наличия на нем сим-
метрий, то тогда его вложение в группу было бы
в общем случае невозможно (такие примеры лег-
ко построить). Однако для симметрического про-
Рис. 123
странства ситуация более благоприятная. Оказывается, в этом случае
116
Глава 4
его можно реализовать в виде некоторой «однородной поверхности» в
односвязной группе ®.
Рассмотрим в группе ® связную компоненту 14 подмножества тех
элементов g, для которых <r(g) = g-1. Рассмотрим также в ® подмно-
жество 14, заметаемое всеми геодезическими 7 группы ®, проходя-
щими через единицу группы и такими, что 7(0) Е В, 7(0) = Е. Так
как группа ® реализована как подгруппа в группе ортогональных мат-
риц, то 14 является множеством всех матриц вида ехрХ, где X G В,
т.е. 14 = ехрВ. Наконец, рассмотрим в группе ® подмножество 14,
являющееся образом группы ® при ее отображении в себя при помощи
следующего отображения р: g —> g- <r(g-1) (рис. 123).
Теорема 10.1. Подмножества 14, 14, Уз е группе ® совпадают. Это
подмножество является гладким подмногообразием в группе ®. диф-
феоморфным симметрическому пространству V = Кроме того,
это подмногообразие является вполне геодезическим, т. е. любая гео-
дезическая группы касающаяся подмногообразия V, целиком лежит
в этом подмногообразии. Непрерывное отображение р определяет ло-
кально тривиальное расслоение (так называемое главное расслоенное
пространство} р: ® V со слоем Sj.
Доказательство.
Докажем совпадение 14 и 14- Так как автоморфизм <т является
геодезической симметрией в точке Е, то совпадение 14 и 14 следу-
ет из тождества (ехрХ)-1 = ехр(—X). Докажем совпадение 14 и 14.
Пусть v Е 14, т.е существует g такой, что v = g<r(g-1). Тогда <r(v) =
= <r(g)g-1 = (<r(g-1))“ 1g“1 = г-1, t.e. v E 14 = 14- Обратно, пусть
v E 14, т.е <t(v) = г-1, или (см. выше) v = expX, где X E В. Рас-
смотрим в ® элемент v± = exp тогда p(vi) =	= expX = v,
т.е. v E Imp, что и требовалось. Мы воспользовались тем, что
также принадлежит 14- Докажем, что проекция р определяет главное
расслоенное пространство со слоем 55- Рассмотрим в ® классы смеж-
ности gSj по подгруппе Sj. Если элементы gi и g2 принадлежат одно-
му классу смежности, то p(gi) = p(g2)- Обратно, если p(gi) = p(g2),
то g1a(g^1} = g2o-(g21) или a(k~1} = кГ1, где k = g2' g\- т.е. k E Sj
и gi = g2h, так как множество неподвижных точек инволюции связ-
но. Отсюда следует, что подмногообразие V в группе ® диффеоморф-
но симметрическому пространству (5/5j. Осталось доказать, что это
§ 10. Основные свойства симметрических пространств
117
подмногообразие вполне геодезическое, т.е. что любая геодезическая
подмногообразия V является в то же время и геодезической во всей
группе ®. Рассмотрим тензор кривизны Я® на группе ® и тензор кри-
визны Ry на подмногообразии V. Мы утверждаем, что тензор Ry по-
лучается из тензора Я® ограничением тензора Я® на подмногообра-
зие У С ®. Выше мы в явном виде вычислили тензор Я®. Оказалось,
что R&(X,Y)Z = l/4[[X,y],Z], Пусть X, Y, Z G Т*У, где У = ехрВ.
Тройной коммутатор плоскости В попадает снова в В, следователь-
но, Я®(Х, У): В —> В, если X. У ЕВ. Это и означает, что Ry по-
лучается из Я® ограничением на подмногообразие У. Пусть 7 С У —
геодезическая в индуцированной римановой метрике. Тогда уравнение,
которому удовлетворяет эта геодезическая, имеет вид [2] V77 = 0, и
произвольное якобиево поле I вдоль 7 (на У) удовлетворяет уравне-
нию (V^)2! + Я(7,1)7 = 0. Следовательно, любая геодезическая вари-
ация на подмногообразии У является таковой и с точки зрения груп-
пы ®. Так как У = ехрВ, то У покрывается пучком однопараметри-
ческих подгрупп. Теорема доказана.	
Построенное вложение У —> ® называется моделью Картана для
симметрического пространства ®/55- Не следует думать, что это вло-
жение является сечением расслоения р: ® —> У. Изучим подробнее,
как пересекаются классы смежности по подгруппе S] с подмногообра-
зием У С 0.
Предложение 10.3. Каждый класс смежности gfy имеет с подмно-
гообразием V непустое пересечение.
Доказательство.
Допустим противное: пусть существует класс такой, что (gblj)ri
ПУ = 0. Рассмотрим на У точку mo = p(go£))5 и пусть т' = д/то
есть обозначение такой точки из У, что (m')2 = то- Если таких то-
чек несколько, то возьмем любую из них. Если v Е У, то v = g<r(g-1)
для некоторого g Е ®, а потому а(у) = (g<r(g_1))_1, т.е. <т(ц) = г-1,
причем выбор элемента g несуществен. Отображение р отображает ®
на У. Можно рассмотреть сквозное отображение рг: У —> У, i: У —>
—> ®, pi(v) = г<т(г-1), т.е. pi(v) = v2 и отображение pi действует на У
как «возведение в квадрат». Так как то = (т')2, то то = рг(т'). Рас-
смотрим класс т'$з, тогда т' Е т'$з ПУ и mo = p(m'5j), т.е. полный
прообраз точки то при проекции р содержит точки двух классов смеж-
ности: т'$з и go$j. Так как р определяет главное расслоенное простран-
118
Глава 4
ство, то m'S) = gof), т. е. goS) А V 0 и содержит по крайней мере
точку т'. Полученное противоречие доказывает предложение. 
Итак, произвольный класс gSj можно представить в виде mSj,
где т G V. Если g 6 ®, то через ^fg обозначим такой элемент g?.
что (g1)2 = g, а через {^/g} — множество всех таких элементов.
Предложение 10.4. Пусть mSj — произвольный класс смежности
(где т Е V). Тогда выполнено соотношение mS) А V = (Vm2} А V
(рис. 124).
Рис. 124
Доказательство.
Докажем, что (Vm2} А V С mSj А V. Пусть mi, m2 G V и т2 = т^-
Тогда /Mirrf/Mf1) =	xm) = E, т. e. fc<r(fc-1) = E,
где k = т-1т1. Так как p(k) = E, то k G Sj, и т< = mh, где h G Sj.
Покажем, что выполнено обратное включение. Пусть v G mSj, v G V,
тогда v = mh, h G Sj и v2 = r<r(r-1) = m2, t.e. v G (Vm2}, что и
требовалось доказать.	
«Нулевой класс смежности» — подгруппа Sj — пересекается с под-
многообразием V по множеству таких v, что v2 = Е.
Действие группы ® на многообразии V можно описать так: g(a) =
= gao'(g~1), где g G ®, a G V. Если, в частности, g G V, то g(a) =
= gag; если g G Sj, то g(a) = gag-1, т. e. Sj действует на V вращениями,
a V действует на самом себе сдвигами. Действие проекции р: ® > V
схематически показано на рис. 125.
6.	Геометрия картановских моделей
Рассмотрим простейший пример реализации симметрического про-
странства в виде подмногообразия в группе ®.
§ 10. Основные свойства симметрических пространств
119
Пусть ® = SU2 =	где х, у G С, |ж|2 + |у|2 = 1. В качестве
инволюции <т рассмотрим гомоморфизм <r(g) = ~g (комплексное сопря-
жение в группе матриц). Тогда Sj = SO2 = {g G Sltyg = g}; подгруппа
вещественных унитарных матриц совпадает с группой SO2. Рассмот-
рим разложение G = Н + В. Тогда
(0	,,	. /а	& \
„ I , В = г I ,	) ; a, b Е R.
—<р 0 у уо —а у
Симметрическое пространство V = SU2ISO2 гомеоморфно сфере.
Предъявим картановскую модель сферы S2 в группе SU2. Поло-
жим i (I Д) = Q, а2 + b2 = 1, тогда
exp(iQ) = Е (1 - || + • • •) +Q(t~	+ • • • ) = -Е cos 1 + Q sin 1.
Так как матрица Q пробегает окружность, то матрицы exp(iQ) запол-
няют двумерную сферу S2 С S3, причем сфера S2 вложена как экватор
в сферу S3 (рис. 126). Нулевой класс смежности S] пересекает сферу S2
в двух точках: Е и — Е.
Как было доказано ранее, группы Ли являются симметрическими
пространствами. Пусть V — группа Ли, положим ® = V х V и рассмот-
рим инволюцию <т: ®	® такую, что <т(г>1,1>2) = (^2,^1)- Множество
неподвижных точек автоморфизма <т — это подгруппа Sj = (v,v), т.е.
диагональ в прямом произведении V х V. Пусть G и К — алгебры Ли
групп ® и V соответственно, тогда G = К © К. С другой стороны, G
120
Глава 4
распадается в прямую сумму двух инвариантных подпространств авто-
морфизма 0, где @(Х, Y) = (У, X), (X, У) G К © К, G = В + Н, QH =
= Н. Ясно, что Н = (Х,Х), В = (X, — X). Так как <т(г,г-1) =
= (г,г-1)-1, то пространство V вложено в группу ® как вполне геоде-
зическое подмногообразие, составленное из точек вида (г, г-1). Отобра-
жение р: ® > V имеет вид p(g) =	, vzv^1) Е iV, где g=
отсюда pi(g) = g2 и отображение p является диффеоморфизмом меж-
ду У и (У х У)/£.
Рассмотрим вопрос о римановых метриках на симметрических
пространствах &/Sj, инвариантных относительно действия на них груп-
пы ®.
Предложение 10.5. Рассмотрим картановскую модель У С 6 сим-
метрического пространства &/$), и пусть (,) — биинвариантная
метрика на ®. Рассмотрим на V риманову метрику (,)v, индуцирован-
ную вложением i: V —> ®. Тогда эта метрика является инвариантной
относительно действия группы ® на V.
Доказательство.
Напомним, что мы реализовали группу ® как гладкое подмногооб-
разие в сфере Sn2~x в пространстве всех матриц размера N х N,
тогда если X, У EG, то (X, У) = 8рХУг, где X, У Е . Впол-
не геодезическое подмногообразие У С 0 расположено, следователь-
но, в евклидовом пространстве, и метрика (, )у индуцирована на У
именно этим вложением. Если g Е &, v Е У, то g(v) = gvo'(g~1).
Пусть X, У Е В, тогда при действии ® плоскость В отображается на
плоскость Tg(E)V, где g(E) = ga(g~1). Отображение g*: В -> Т^(в)У
имеет вид X —> gX<r(g-1). Осталось проверить выполнение равенства
{g*X,g*Y)V\g^E') = (Х,У)у|£;,
т. е.
SpgXo-(g-1)(gyo-(g-1))T = sPxyT.
Выше было доказано, что каждый класс смежности goS) по подгруп-
пе S) имеет непустое пересечение с подмногообразием У, следовательно,
любой элемент g Е ® представляется в виде произведения (это пред-
ставление неоднозначно) g = v'h, где v' Е V, h Е Sj. Подставляя это
разложение в последнюю формулу, получаем
Spv'hXh-1v'vlTh-1TYThTv'T = 8рХУт,
§ 10. Основные свойства симметрических пространств
121
так как матрицы v', h ортогональны (Ф С 5Од;). Предложение доказа-
но.	
Это предложение полезно при многих конкретных вычислениях на
симметрических пространствах. В самом деле, мы в явном виде опи-
сали инвариантную риманову метрику на симметрическом простран-
стве при его реализации в евклидовом пространстве, причем эта мет-
рика оказывается индуцированной объемлющей евклидовой метрикой
(рис. 127). Итак, если нам нужно решать какую-либо задачу, связан-
ную с инвариантной метрикой на симметрическом пространстве, то
полезно реализовать его в виде картановской модели в группе, вложен-
ной в стандартную сферу. Ниже мы перечислим основные конкретные
матричные реализации симметрических пространств.
7.	Некоторые важные примеры симметрических про-
странств
1.	Пространство SUn/SOn. Группой изометрий Ф пространства V
является группа SUn- Инволютивный автоморфизм 0 в алгебре Ли
G = sun имеет вид 0(Х) = X, где черта означает комплексное сопряже-
ние матриц, автоморфизм 0: G —> G продолжается до инволютивного
автоморфизма a: SUn —> SUH. <r{g) = g. Рассмотрим в алгебре G плос-
кость В, на которой 0 равен —Е; эта плоскость состоит из всех симмет-
рических чисто мнимых матриц порядка п со следом 0. Плоскость Н,
на которой 0 равен +Е, состоит из вещественных кососимметрических
матриц (алгебра Ли группы SO„). Плоскость В является касательным
пространством к картановской модели V = {gw(g-1)} = {ggT}, и так
как vT = v, v £ V, то модель симметрического пространства состоит
из всех унитарных симметрических матриц и только из них.
2.	Пространство SUim/Spm. Группой изометрий пространства V
является группа SU2m. Инволютивный автоморфизм 0 в алгебре su2m
имеет вид 0(Х) = JXJ-1, где J = (_°в^); черта означает
комплексное сопряжение. Автоморфизм 0 продолжается до инволю-
ции a: SU2m SU2m, a(g) = JgJ-1 • Множество неподвижных то-
чек автоморфизма а совпадает с подгруппой Spm, gJ = J~g. В са-
мом деле, унитарные операторы g, удовлетворяющие этому дополни-
тельному соотношению, сохраняют кососимметрическую форму в С2т
т
вида ^2 Zk A эта форма и задается кососимметрической мат-
к=1
рицей J. Вполне геодезическое подмногообразие V (модель симмет-
122
Глава 4
рического пространства) образовано всеми элементами вида gcr(g-1),
т.е. gJgTj-*-, где g пробегает всю группу SU2m. Для более удобно-
го описания подмногообразия V рассмотрим его изометричный сдвиг
на элемент J £ SU2m. Получим модель V = V • J = {gJgT}. Ес-
ли v' = gJgT, то v' = —v', и ясно, что модель V (изометричная V)
содержится в множестве всех кососимметрических унитарных мат-
риц в группе SU2m. Касательное пространство В имеет вид -5г)’
где Zi £ sum, Z2 £ so(m, С).
3.	Пространство SO2n/Un. Группой изометрий пространства явля-
ется группа SO2n. Инволютивный автоморфизм 0 в алгебре Ли so2n
имеет вид 0(Х) = JXJ-1, где J = (J)). Автоморфизм 0 продол-
жается до инволюции cr(g) = JgJ-1. Множество неподвижных точек
автоморфизма а — это подгруппа Г) = {g £ SO2n, Jg = gJ}- Так
как оператор J задает комплексную структуру в К2", отождествляя
его с С”, то Г) изоморфна группе Un. Вложение Un —> SO2n задается
стандартной формулой С + iD —> (_fj, £)). Вполне геодезическое под-
многообразие V (картановская модель) образовано в SO2n всеми эле-
ментами вида gcr(g-1), т.е. gJg-1J-1, где g пробегает группу SO2n-
Для более удобного описания подмногообразия V рассмотрим его изо-
метричный сдвиг на элемент J. Получим модель V' = V • J = {gJgT}.
Если v1 = gJgT, то (v’)T = —v', т.е. модель V содержится в мно-
жестве кососимметрических ортогональных матриц в группе SO2n (но
не совпадает с ним). Касательное пространство В имеет вид	),
где Zi, Z2 £ son.
4.	Пространство Spn/Un. Группой изометрий пространства V яв-
ляется группа Spn. Мы считаем, что Spn реализована стандартным
образом в виде подгруппы в SU2n. Инволюция 0 в алгебре Ли spn
имеет вид 0(Х) = X (комплексное сопряжение на su2n), т. е. совпа-
дает с автоморфизмом 0(Х) = JXJ-1, где J =	Напомним,
что элемент g из SU2n принадлежит Spn тогда и только тогда, ког-
да g = JgJ-1, т.е. ~gj = Jg. Автоморфизм 0 продолжается до инво-
люции cr(g) = g. Множество неподвижных точек автоморфизма а —
это подгруппа {g £ Spn, g = g}, т.е. Spn П SO2n. т.е. совпадает с под-
группой Un С SO2n при ее стандартном вложении: С + iD —> (Sp с).
Вполне геодезическое подмногообразие V (картановская модель) обра-
зовано в Spn матрицами вида gcr(g-1) = gg1. Касательное пространст-
во В имеет вид (^	), где Z, £ ип — чисто мнимая матрица, a Z2 —
чисто мнимая симметрическая матрица.
§ 10. Основные свойства симметрических пространств
123
5.	Пространство SUp+q/S(UP х Uq) — комплексное грассмано-
во многообразие. Группой изометрий пространства является груп-
па SUP+q. Инволюция 0 в алгебре Ли sup+q имеет вид 0(Х) =
= Jp,qXJp,q, где .//(.д = ( о” > Еа — единичная матрица раз-
мерности а. Автоморфизм 0 продолжается до инволюции cr(g) =
= Jp.q  g  Jp.q- Множество неподвижных точек для а — это подгруп-
па {g £ SUp+q, Jp,q  g = g- Jp,q}, t. e. S(UP x Uq). Алгебра H имеет
вид 3)’ где C	8р(С + D) = 0. Вполне геодезическое
подмногообразие V (картановская модель) образовано в SUp+q матри-
цами gjp^g-1 JPjq. Касательное пространство В имеет вид
где Z — комплексная матрица с р строками и q столбцами. При р = 1
пространство V является комплексным проективным пространством.
6.	Пространство SOP+q/SOP х SOq — вещественное грассмано-
во многообразие. Группой изометрий является группа SOP+q. Инво-
люция 0 имеет вид 0(Х) = Jp,qXJp,q. Она продолжается до инволю-
ции cr(g) = Jp>g • g  Jp.q- Множество неподвижных точек — это под-
группа {g £ SOp+q, Jp,q  g = g - Jp,q}, т.е. SOP x SOq. Подалгебра H
имеет вид (^ £>), где С £ sop, D £ soq. Картановская модель образо-
вана в SOP+q матрицами gjp,qg~r Jp,q. Рассмотрим сдвиг V = V • Jp,q,
тогда v = gjp^g-1, vT = v, т.е. V содержится в множестве симметри-
ческих ортогональных матриц. Условие qT = q эквивалентно равенст-
ву Q2 = Е. Подмножество {g2 = Е} в SOP+q отождествляется с объеди-
нением грассмановых многообразий: Р = (JSOP+q/S(Oa х OP+q-a), и
модель V является одной из компонент связности этого множества Р.
Каждый элемент gJPAg~r £ V можно интерпретировать как р-мерную
плоскость в сопоставив оператору gJP;gg-1 его инвариантную
плоскость, отвечающую собственному числу —1. Итак, инвариантная
метрика на грассмановом многообразии V индуцируется евклидовой
метрикой пространства ]R'V (где N = р + q) при вложении V как од-
ной из компонент связности множества {q2 = E}nSOP+q. Аналогичная
картина имеет место и для комплексного грассманова многообразия.
Касательное пространство В имеет вид ( g ), где Z — вещест-
венная матрица с р строками и q столбцами. При р = 1 пространство V
совпадает со сферой Sq.
7.	Пространство Spp+q/Spp х Spq — кватернионное грассманово
124
Глава 4
многообразие. Здесь Ф = SpP+q, 0(Х) = Kp!qXKPtq, где
Kp,q —	(~ЕР 0 0 1 0	0	0 Eq 0 0 -Et 0	0	0 0 0 eJ
Подпространство В имеет вид /0 С		0	d\
—Т -С 0		DT	0
0	—D	0	с ’
	-т 0	-Ст	в)
где С, D — произвольные комплексные матрицы с р строками и q столб-
цами.
Мы перечислили все компактные симметрические пространства,
не распадающиеся в прямые произведения других симметрических
пространств и такие, что группа Ф не является «особой» группой Ли
(об «особых» группах Ли см. ниже).
Связная конечномерная компактная некоммутативная группа Ли
называется простой, если она не содержит нетривиальных связных под-
групп, являющихся нормальными делителями (имеющими положитель-
ную размерность) и отличных от Ф. В терминах алгебры Ли G груп-
пы Ф это означает, что в G нет ненулевых идеалов, отличных от G.
Оказывается, простые группы Ли являются теми «элементарными кир-
пичами», из которых конструируется любая компактная группа Ли.
Имеет место нетривиальная теорема (доказательство которой мы опус-
каем): любая связная компактная односвязная группа Ли распадается
в прямое произведение (как многообразие и как группа) простых групп
Ли. Полный список простых групп можно полностью описать. В пер-
вую очередь это так называемые классические серии: 1) ортогональные
группы SOn, 2) специальные унитарные группы SUn, 3) симплектичес-
кие группы Spn. Кроме того, имеется еще пять особых групп, обозна-
чаемых обычно G?, F4, Eq, Ет, Eq. Эти группы не включаются в бес-
конечные серии, в отличие от классических, и «стоят особняком». Само
существование этих особых групп основано на весьма специфических
алгебраических закономерностях.
§ 10. Основные свойства симметрических пространств
125
Дадим здесь описание трех из пяти особых групп, а имен-
но G2, F4, Eq (описания Е7 и Eg достаточно
щены).
а)	Описание группы 6'2. Пусть К — ал-
гебра октав (чисел Кэли), т.е. К — вось-
мимерная вещественная алгебра с едини-
цей над полем К, умножение в которой
можно задать, например, так. Фиксируем
в К8 ортобазис, векторы которого обозна-
чим 1, ег, ез, ... , eg, 1 — единица: 1 • х =
= х-1 = х, х Е К, а умножение на остальных
образующих антикоммутативно: е^е^ + е^е^ =
= —2Sij. Таблица умножения задается схе-
мой рис. 128. Например, 6263 = 65, 6462 =
сложны и поэтому опу-
Рис. 128
= —ев и т. д., направление стрелок на рис. 128 указывает знак про-
изведения. При этом каждый отрезок треугольника рассматривается
как замкнутая окружность, ориентированная в направлении стрелки.
Рассмотрим группу линейных преобразований К8, являющихся авто-
морфизмами алгебры октав К. По определению эта группа и назы-
вается группой Gz- Поскольку автоморфизмы сохраняют единицу, то
группа G? является подгруппой в группе SO7. В самом деле, в ал-
гебре К можно задать скалярное произведение (а, Ь) = а • Ь, где Ь =
= bi • 1 — 6262 — ... — bseg (сопряжение). Ясно, что это скалярное про-
8
изведение совпадает с евклидовым: (а, Ь) = а^г- Группа Сг являет-
i=l
ся 14-мерным гладким многообразием.
б)	Описание группы F4. Рассмотрим линейное пространство L, об-
(ai ж3 жЛ
Жз <12 Xi I, где Xi G К (ал-
Х2 Xi аз)
гебре октав), aj — комплексные (вещественные) числа, 1 г 3, xj —
операция сопряжения в К. Сложение матриц и умножение их на эле-
менты поля С (или К) определены обычным образом, что превращает L
в 27-мерное линейное пространство. Структура алгебры в L вводится
следующей операцией: XоY = 1/2(ХУ + УХ), где XY и УХ суть обыч-
ные произведения матриц. Операция X о Y превращает L в неассоциа-
тивную алгебру, причем 1) XoY = У оХ, 2) (X2 о У) оХ = X2 о (У оХ).
Группа Ли Е\ может быть описана как группа автоморфизмов этой ал-
гебры L.
126
Глава 4
в)	Описание группы Eq. Пусть А £ L — произвольный элемент.
Через Яд: L -> L обозначим правый сдвиг Яд(Х) = X о А. Рассмот-
рим теперь алгебру Ли /4 группы Е4. Эта алгебра Ли является алгеброй
дифференцирований алгебры L (см. выше). Расширим алгебру /4, вло-
жив ее в некоторую большую алгебру Ли, которая и будет изоморфна
алгебре Ли eg группы Eq. Обозначим через eg линейное пространство
всех линейных преобразований алгебры Л. имеющих вид Н = Яд + D,
где А £ L, Sp А = О, D £ /4. Операцию коммутирования в пространст-
ве eg введем так:	= UiU2 — Л2Л1, где через HiHj обозначена
композиция преобразований II, и Hj. Легко убедиться в том, что эта
операция превращает пространство eg в алгебру Ли. По определению
группа Ли, алгебра Ли которой совпадает с eg, и называется группой Eq.
Из определения следует, что Eq С SU27-
§ 11. Геометрия групп Ли
1.	Полупростые группы и алгебры Ли
В настоящем параграфе мы дадим краткое описание алгебраичес-
кой структуры полупростых алгебр Ли. Для этого нам потребуется
ввести так называемые корни алгебр Ли. Теория корней, несмотря на
свою геометрическую прозрачность, с технической точки зрения до-
статочно нетривиальна, что не позволяет нам излагать ее здесь в пол-
ном объеме и в максимальной общности. С другой стороны, знакомство
с корнями совершенно необходимо для того, чтобы эффективно исполь-
зовать аппарат групп и алгебр Ли во многих задачах прикладного ха-
рактера (примеры таких приложений будут даны ниже). Поэтому мы
решили построить свое изложение следующим образом. Мы сформули-
руем в полном виде все основные необходимые для нас результаты и
определения, связанные с теорией корней, однако доказательства будем
проводить в основном для одной простой алгебры, а именно для sl(n, С).
Эта алгебра выбрана нами в качестве модельного примера по следую-
щим соображениям. Во-первых, все основные эффекты, связанные со
структурой корней полупростых алгебр Ли, могут быть в полном объ-
еме проиллюстрированы на примере алгебры s/(n,C). Во-вторых, из-
учив структуру этой алгебры, заинтересованный читатель сможет уже
без особого труда овладеть более тонкими деталями теории, руковод-
ствуясь, например, [7].
§11. Геометрия групп Ли
127
Пусть Ф — группа Ли и G — ее алгебра Ли, т.е. касательное
пространство в единице группы. Поскольку мы рассматриваем толь-
ко матричные группы, т. е. реализованные в виде подгрупп в груп-
пе GL\r. то операция коммутирования в алгебре Ли G может быть
задана так: [X, У] = XY — YX, где XY и YX — произведения мат-
риц X. Y £ G. Группа Ф естественным образом действует на своей
алгебре Ли G как группа линейных преобразований, обозначаемых че-
рез Adg: G —> G и определяемых так: AdgX = gXg-1, где X £ G,
g £ Ф, gXg-1- — произведение матриц. Дифференциал преобразова-
ния Adg в точке Е £ Ф имеет вид ady: G —> G, где ady Y =
= [А?, У] = XY — YX (проверьте!). Соответствие g —> Adg называется
присоединенным представлением группы Ф, а соответствие X adg —
присоединенным представлением алгебры Ли G. В качестве поля коэф-
фициентов рассмотрим С (и К). На протяжении настоящего параграфа
особое внимание будет уделено алгебре s/(n, С) (и s/(n, К)).
Определение 11.1. Билинейная комплекснозначная форма (X, У) =
= Spady -ady называется формой Каллинга. Здесь adх и ady являют-
ся линейными преобразованиями алгебры Ли G. Эта форма определяет
вещественнозначное скалярное произведение Re(X, У) = (X. У). Иног-
да будем называть его произведением Киллинга. В нашем модельном
примере G = sl(n, С) эта форма может быть записана так (с точностью
до постоянного множителя): (X, У) = 8рХУ.
Лемма 11.1. Комплекснозначная форма (, ) на алгебре Ли sl(n, С) не-
вырождена и удовлетворяет следующим свойствам: 1) (X, У) = (У, X),
2) ([Х,У],7) = (Х,[У,7]).
Доказательство сразу вытекает из формулы Sp[X, У] = 0 и яв-
ной формулы для (, ). Свойство 2) означает, что имеет место равен-
ство (ady У, Z) = — (У,ady Z), т.е. линейные операторы ad у задаются
кососимметрическими матрицами (т.е. ad у кососимметричны относи-
тельно скалярного произведения (, )).
Определение 11.2. Алгебра Ли G (и соответствующая ей группа
Ли Ф) называется полупростой, если форма Киллинга невырождена
на G.
Имеет место важный алгебраический факт: любая полупростая ал-
гебра Ли распадается в прямую сумму (как алгебра Ли) своих под-
алгебр, каждая из которых является простой алгеброй Ли (в смысле
128
Глава
п. 7 § 10). В частности, как следует из леммы 11.1, алгебра Ли sl(n, С)
является простой.
Лемма 11.2. Форма Киллинга инвариантна относительно преобразо-
ваний Adg, т. е. (AdgX, AdgF) = (X, Y), g £ ®, X, Y 6 G.
Для sl(n, С) доказательство вытекает из явной формулы для (,).
Мы уже видели, что форма Spady-ady. определенная первона-
чально в инвариантных терминах, а именно в терминах операто-
ров ady. ady (не предполагающих для своего определения конкретно-
го матричного представления алгебры Ли), может быть тем не менее
записана более простым образом, если использовать конкретное мат-
ричное представление алгебры sl(n, С), а именно (АГ, У) = Sp XY. Это
обстоятельство является отражением более общего факта: для простых
алгебр Ли G (над С) форма (, ) определена однозначно с точностью
до скалярного множителя в том смысле, что если G — простая алгеб-
ра, то для каждого ее линейного представления р выполнено тождест-
во (АГ, Y) = ар  Sp рХ  pY, где числовой коэффициент ар не зависит
от элементов АГ, Y, а определяется только представлением р. Здесь че-
рез рХ • pY обозначено обычное матричное произведение матриц рХ
и pY.
2.	Картановские подалгебры
Пусть G — полупростая конечномерная алгебра Ли над полем
комплексных чисел (например, sl(n, С)) и X — произвольный ее эле-
мент. Через Ann АГ обозначим линейное подпространство в G, состоя-
щее из всех тех элементов Y, для которых ady АГ = 0, т. е. [У, АГ] = 0.
Таким образом, Ann АГ состоит из всех элементов алгебры, коммути-
рующих с элементом АГ.
Лемма 11.3. Подпространство АппАГ является подалгеброй в G.
Доказательство.
Пусть Z, У £ АппАГ, тогда [У, АГ] = [У, АГ] = 0. Отсюда [[Z, У],АГ] =
= — [[АГ, Z], У] — [[У, АГ], Z] = 0, т. е. [Z, У] £ АппАГ. Здесь мы воспользо-
вались тем, что в алгебре Ли выполняется тождество Якоби [[АГ, Y],Z] +
+[[у,х],у] + [[у,ад = о.	
Подалгебра АппАГ иногда называется аннулятором элемента X.
Определение 11.3. Полупростой элемент АГ £ G называется регу-
лярным, если размерность его аннулятора наименьшая из возможных.
§11. Геометрия групп Ли
129
Остальные элементы алгебры называются сингулярными. Аннулятор ре-
гулярного элемента X называется картановской подалгеброй в G. Для
нас будет особенно интересен случай, когда алгебра Ли компактна.
Ясно, что X £ АннХ. Регулярные элементы образуют в алгебре
открытое всюду плотное множество RegG. сингулярные элементы за-
полняют в алгебре замкнутое множество меры нуль. Это следует из то-
го, что условие сингулярности элемента записывается в виде системы
алгебраических уравнений на элементы матрицы X, следовательно, при
малом возмущении общего типа сингулярность может быть разруше-
на. В этом смысле регулярные элементы являются элементами «общего
положения».
Предложение 11.1. Если G — комплексная полупростая алгебра Ли,
то любая ее картановская подалгебра коммутативна. Любые две кар-
тановские подалгебры 1\ и Т2 сопряжены в G, т. е. существует такой
элемент g £ что = Т\. Кроме того, картановская подалгебра
является максимальной коммутативной подалгеброй в алгебре G.
Доказательство см., например, в [7]. Рассмотрим пример sl(n, С).
Эта алгебра Ли состоит из всех матриц X размера (п х п) с комплекс-
ными коэффициентами, причем SpA" = 0. В качестве картановской
подалгебры можно взять, например, семейство диагональных матриц
(ai 0 \
, {а^} — собственные числа оператора (матри-
О &п J
цы) h, Sp h = ^2 ai = 0. Отсюда, очевидно, следует, что элемент h £ Т
регулярен тогда и только тогда, когда все собственные числа операто-
ра h различны, т.е. А, Xj, при г j. Таким образом, регулярные
элементы в Т - это действительно элементы «общего положения», т. е.
«типичные элементы» алгебры sl(n, С).
Найдем аннулятор регулярного элемента h £ Т. По определению
это — совокупность матриц, коммутирующих с h. Но так как все соб-
ственные числа Xi различны, то любая такая матрица, коммутирующая
с h, сама обязана быть диагональной (проверьте!). Таким образом, мы
доказали, что аннулятором регулярного элемента является подалгеб-
ра диагональных матриц. Очевидно, что эта подалгебра коммутативна.
Кроме того, она является максимальной коммутативной подалгеброй.
В силу предложения 11.1 можно теперь говорить о какой-то одной
фиксированной картановской подалгебре, поскольку все другие получа-
130
Глава 4
ются из нее автоморфизмами алгебры. Например, для алгебры sl(n, С)
мы фиксируем картановскую подалгебру Т, составленную из диаго-
нальных матриц. В этом примере сингулярные элементы характери-
зуются тем, что среди собственных чисел представляющих их матриц
есть совпадающие. Ясно, что это означает увеличение размерности ан-
нулятора такого элемента — появляются новые матрицы, коммутиру-
ющие с данной. Отметим, что алгебра Ли gl(n, С), содержащая sl(n, С)
в качестве подалгебры, полупростой не является. В самом деле, алгеб-
ра gl(n, С) содержит ненулевой идеал ХЕ, где А 0, Е — единичная
матрица. Этот идеал является центром, и, следовательно, форма Кил-
линга не является невырожденной на gl(n, С).
3.	Корни полупростой алгебры Ли и ее корневое разложе-
ние
Пусть G — полупростая алгебра Ли над С и Т — некоторая фик-
сированная подалгебра Картана. Оказывается, эта подалгебра опреде-
ляет некоторый набор линейных функций, которые могут быть изоб-
ражены затем векторами в алгебре и называются корнями алгебры.
Геометрический смысл корней очень прост. Дадим сначала неформаль-
ное объяснение. Пусть задано некоторое точное линейное конечномер-
ное представление алгебры G, т. е. задан мономорфизм алгебры G в
алгебру линейных преобразований некоторого линейного пространст-
ва V, dimV = N < тс. Следовательно, все элементы алгебры G изоб-
ражаются линейными операторами, действующими в V. В частности,
это относится и к элементам картановской подалгебры Т. Совокупность
матриц размера N х N, изображающих элементы Т, обладает важным
свойством: это коммутативное семейство матриц. Предположим, что в
пространстве V можно выбрать такой базис, в котором все матрицы
семейства Т изобразятся (одновременно) диагональными операторами,
т. е. базис составлен из векторов, являющихся собственными сразу для
всех операторов из семейства Т. Из факта одновременной диагонали-
зуемости всех элементов из Т в этом базисе следует, что собственные
числа Xi(h) преобразования h G Т, стоящие на диагонали матрицы, ока-
зываются линейными функциями на подалгебре Т, так как сложение
двух диагональных матриц означает суммирование собственных чисел,
стоящих на одинаковых местах. Таким образом, каждое собственное
число из набора Ai (h), ... , А,у(/г) можно рассматривать как линейную
функцию на подалгебре Т в G. Эти линейные функции называются ве-
§11. Геометрия групп Ли
131
сами данного представления. Оказывается, свойства представления в
значительной степени определяются свойствами этого набора линей-
ных функционалов на Т. Ясно также, что для другого представления
алгебры G этот набор линейных функций (собственных чисел) будет,
вообще говоря, другим. Среди множества всех линейных представле-
ний алгебры G выделено одно замечательное представление, с которым
мы уже знакомы, — это присоединенное представление. Оно задается
отображением X adx, где adxY = [X, У], adx' G —> G. Здесь ли-
нейное пространство V совпадает с пространством самой алгебры G, в
частности dim У = N = dimG. Каждый элемент X £ G изображается
матрицей размера N х N. Веса этого представления и называются кор-
нями алгебры G. Оказывается, эти корни полностью определяют струк-
туру полупростых алгебр Ли, в частности классификация всех таких
алгебр Ли может быть дана в терминах корней. Эти корни являются
линейными функциями, определенными на картановской подалгебре Т.
Дадим теперь формальное определение.
Определение 11.4. Линейная функция a(h) на картановской подал-
гебре Т в полупростой алгебре Ли G называется корнем, если сущест-
вует такой элемент Еа £ G, Еа 0, что = a(h)  Еа для любого
h G Т. Другими словами, должен существовать вектор Еа £ G. явля-
ющийся собственным для всех операторов вида ad/,,: G —> G, ad/,, Еа =
= [h, Еа]. При этом корень а является собственным числом a(h), опре-
деленным на множестве векторов h £ Т.
Теорема 11.1 (Теорема о корневом разложении полупростой
алгебры). Пусть G — полупростая алгебра Ли, Т С G — картанов-
ская подалгебра и Д = {а} — набор корней алгебры G; пусть Ga —
собственное подпространство, отвечающее корню (собственному чис-
лу) а. Тогда алгебра G распадается в прямую сумму линейных подпро-
странств Т и {G„}. т. е. G = Т ф ^2 Ga. Все подпространства Ga,
а^О
отвечающие а £ Д, являются одномерными над полем С. Подпростран-
ства Ga называются корневыми.
Доказательство.
Как и раньше, мы дадим доказательство только для случая sl(n, С)
(модельный пример). Алгебра sl(n, С) представлена в виде алгебры
комплекснозначных матриц (п х п). Через Tjj обозначим элементар-
ную матрицу п х п, в которой отличен от нуля только один эле-
132
Глава
Рис. 129
мент на месте равный единице; i — номер строки, j — номер
столбца. Картановская подалгебра Т состоит из диагональных мат-
/а1 0 \
риц h = I •_ I, где aj £ С, ^2 aj = 0. Векторы Еа, являющиеся
\ 0 а„ /	®=1
собственными для всех преобразований ad/,,: G —> G, имеют вид Т^, ес-
ли i < j, и —Tij, если i > j (рис. 129). В самом деле, вычисляя ad/,, Тгу.
получаем [h, T{j] = at — aj, т.е. a{h) = ai — aj. Таким образом, корни a
алгебры sl(n, С) нумеруются парой индексов г, мы будем писать те-
перь а =	= ai — aj (рис. 130). Так как (—aij)(h) = aj — ai =
= aji(h), то —a{j = a.ji (рис. 131). Итак, алгебра sl(n, С) представляет-
ся в виде Тф52 ^Tij. Таким образом, в качестве корневого разложения
алгебры можно взять ее стандартное разложение в прямую сумму од-
номерных подпространств <СТу и плоскости Т. Теорема доказана. 
Рис. 131
Рис. 132
Отметим, что картановскую подалгебру Т можно при желании рас-
сматривать как собственное подпространство преобразований ad-ц, от-
вечающее собственному значению нуль. Кратность нулевого собствен-
ного значения равна г т. е. рангу алгебры G, размерности картановской
подалгебры (рис. 132).
§11. Геометрия групп Ли
133
4.	Некоторые свойства системы корней
Рассмотрим форму Киллинга на алгебре G. Для дальнейшего важно
знать свойства базиса {Е^.} в плоскости, дополнительной к Т в G.
Предложение 11.2. Пусть Ga — одномерное подпространство,
натянутое на вектор Еа, где а 0. Тогда [GQ,Gjg] С Ga+p,
т. е. [Еа,Е^] = NapEa+p, где Nap — некоторое число. Если а + (3	0,
то соответствующие векторы Еа и Ер ортогональны относительно
формы Киллинга. Напротив, векторы Еа и Е_а, где а 0 не яв-
ляются ортогональными. Если а, (3, а + (3 являются корнями алгеб-
ры G, не равными нулю, то имеет место соотношение [Ga,G^] =
= Ga+/3 т. е. Nap 7^ 0. Единственными корнями, пропорциональными
корню а 0, являются корни 0, ±а.
Доказательство.
Пусть G = sl(n, С). Так как Еа = T,j то, коммутируя мат-
рицы Еа = Tij и Ер = Tpq, мы, очевидно, и получаем утверж-
дение [Tij,Tpq] = NapEa+p, так как Nap = 0, если все индек-
сы г, j, р, q различны и \Tij,Tjg\ = T,q. Ясно, что Nap = N_a_p,
так как если Еа = T,j, то Е_а = —Tj(. Явный вид формы Кил-
линга на sl(n, С) таков: (X, У) = Sp X • Y. Поэтому если а + (3	0,
т. е. это означает, что соответствующие собственные векторы Еа
и Ер изображаются матрицами Tjj и Tpq,
ненулевые элементы в которых занимают
разные места, а именно (J, г) 7^ (р, q), сле-
довательно, (Еа,Ер) = SpTij  Tpq = 0. Та-
ким образом, Еа и Ер ортогональны
при а + (3	0. Если же а + (3 = 0, то векто-
ры Еа = Tjj и Е-а = —Tji не ортогональны,
так как (Еа,Е-а) = SpTij(-Tji) = —1. На-
конец, равенство [Ga,G^] = Ga+p, где, на-
пример, а = aij, г < j, (3 = apq, р < q, может иметь место в том
и только в том случае, когда среди четырех индексов i, j, р, q есть
два совпадающих: либо j = р, либо г = q. Это эквивалентно усло-
вию, что сумма корней а + (3 также является корнем. В самом де-
ле, aij(h) + apq(h) = (а + (3)h = at — aj + ap — aq равняется a, — ag,
если j = p, и равняется ap — aj, если i = q. Этот механизм показан на
рис. 133, где корень aij(h) = a, — aj, при г < j изображен стрелкой,
показывающей, что из aj вычитается aj. Утверждение доказано. 
134
Глава 4
Из явного вида формы Киллинга следует, что ограничение этой
формы на подалгебру Картана невырождено. Следовательно, это огра-
ничение определяет каноническое отождествление пространства Т с
дуальным (двойственным) к нему пространством Т*, совпадающим с
пространством линейных функций на Т. Таким образом, каждый ко-
рень а, являющийся линейной функцией на Т, может быть однозначно
представлен в виде некоторого вектора из Т, т. е. существует единст-
венный вектор Н'а. такой, что для всех h G Т имеет место тождест-
во a(h) = (h,H’a). Этот вектор Н’а, соответствующий корню а, бу-
дем также называть корнем. Тогда если а 0, то выполнено тождест-
во [£/а,Х] = (Еа,Х)На, где X £ G-a и (а, а) 0. Для случая s/(n, С)
эти утверждения проверяются непосредственным вычислением (про-
верьте!).
НДг<])
Рис. 134
Лемма 11.4. Линейная оболочка всех корней {Н'а}, а £ Д, а 0,
совпадает с картановской подалгеброй Т.
Доказательство.
Доказательство для sl(n, С) следует из определения Н'а. В этом
случае корень Н'а, где а = a-ij, i < j, изображается матрицей, по-
казанной на рис. 134. Если а = a,j, г > j, то Н'а см. на рис. 135.
Итак, Н'а=а.. = Тц — Tjj. Отсюда следует, что линейная оболочка мат-
п
риц {Тц — Tjj} совпадает с подалгеброй Т = ^2 СТц. Лемма доказана.
i=i

В то же время видно, что число корней больше, чем размерность Т.
Другими словами, корни образуют избыточный базис в Т. Рассмотрим
в Т подпространство То, порожденное всеми векторами Н'а над полем
вещественных чисел, т.е. То — линейная оболочка {Н'а} с веществен-
ными коэффициентами.
§11. Геометрия групп Ли
135
Лемма 11.5. Ограничение формы Киллинга на подпространство Tq
невырождено. Более того, это ограничение является положительно
определенной формой на Tq, принимающей вещественные значения. Кро-
ме того, diniR Tq = dime Т = 1/2 dim® Т, т.е. Tq — «вещественная
часть» картановской подалгебры Т. Картановская подалгебра Т пред-
ставляется в виде прямой суммы Т = ТоФгТо, где i — мнимая единица,
т. е. Т является комплексификацией подалгебры Tq С Т.
Доказательство.
(ai О \
j , Y =
О /
/Ь1 °\
= I •_ I имеем (X, У) = ^2 aibi- Лемма доказана (для G =
\ о ’ ь„ /	i=1
= sl(n, С)).	
В частности, все значения ctij(h) = а,- — aj вещественны на Tq С Т.
Оказывается, в множестве всех корней возникает естественное упоря-
дочивание, полезное при многих вычислениях. Выше мы обозначили че-
рез Д множество всех ненулевых корней алгебры G. Пусть Hi, ... , Нг
какой-нибудь фиксированный базис в подалгебре Tq С Г, г = ранг G.
Если А и /1 — две линейные функции на То, то говорят, что А > р,
если X(Hi) = p(Hi) при i = 1, 2, ... , к и A(TZ/e_)_i) > p(Hk+i)- Напом-
ним, что если А и р — корни алгебры, то их значения A(7i) и p(h)
являются вещественными числами для любого h G То, а поэтому нера-
венство А(Л/г+1) >	) имеет смысл. Таким образом, в множестве
всех корней Д возникает линейное упорядочивание (при фиксирован-
ном базисе).
Определение 11.5. Корень а £ Д называется положительным, ес-
ли a > О, т. е. если a(Hi) = 0 при i = 1, 2, ... , к и a(Hk+i) > 0. Други-
ми словами, положительность корня а эквивалентна тому, что первая
его ненулевая координата (относительно базиса {Hj}) положительна.
Понятно, что описанное упорядочивание зависит от выбора бази-
са Hi, ... , Нг в Tq; с изменением этого базиса изменится и упорядочи-
вание. Для того чтобы устранить эту неоднозначность, будем считать,
что базис Hi, ... , Нг в То выбран и фиксирован. Таким образом, в
системе корней Д выделяются две подсистемы: положительные корни,
образующие множество Д+ С Д, и отрицательные корни, образующие
множество Д“ С Д. Очевидно, что Д = Д+ U Д- и Д+ П Д- = 0.
136
Глава 4
Далее, существует взаимнооднозначное соответствие между множес-
твами Д+ и Д“, устанавливаемое следующей инволюцией: а —> —а.
Ясно, что если а £ Д+, то —а £ Д-.
Определение 11.6. Положительный корень а £ Д+ называется прос-
тым, если его нельзя представить в виде суммы двух других положи-
тельных корней.
Предложение 11.3. Если G — полупростая алгебра Ли над полем
комплексных чисел, то в подпространстве То всегда существует базис
из простых корней ai, ... , аг, где г = рангС. Эти же векторы образу-
ют базис подалгебры Т над полем С. Кроме того, каждый корень а £ Д
представим в виде суммы miai, г^е mi — целые числа одного знака
i=l
(или нули); при этом mi 0, если а £ Д+, и mi Sj 0, если а £ Д-.
Система простых корней обычно обозначается через П.
Доказательство.
Пусть G = sl(n, С), тогда в качестве простых корней можно взять
корни «12, «23, • • • , ап-1,в, Т. е. aiji+i(7i) = at - ai+i, где 1 < i < п - 1.
При помощи формы Киллинга эти функционалы изображаются следую-
щими векторами в подалгебре То («вещественной части» алгебры Карта-
ва): «1 = Тц —Т22, «2 = Т22 — Т33, ... , an_i = ТП_1;П_1 — Тпп, здесь г =
= п — 1 (рис. 136). Ясно, что это корни положительные и простые.
Очевидно, далее, что любой корень a(h) = ai — aj раз-
лагается по этому базису с целыми коэффициентами
одного знака. При этом положительные корни а £ Д+
имеют вид aij, i < j и изображаются в подалгеб-
ре То векторами Тц — Tjj, i < j, отрицательные кор-
ни а £ Д“ изображаются векторами Тц — Tjj, г > j.
Утверждение доказано.	
Таким образом, в качестве первоначального бази-
са Hi, ... , Нг, относительно которого было выше определено упоря-
дочивание корней в Д, можно взять теперь базис Н’а1, ... , Н'аг, со-
ставленный из простых корней. В дальнейшем мы будем предполагать,
что в подалгебре То (над R) и в алгебре Г (над С) фиксирован имен-
но этот базис простых корней. Отметим, что этот базис не является
ортонормированным. Именно это обстоятельство лежит в основе клас-
сификации простых алгебр Ли. Так, например, углы между простыми
корнями и длины корней являются важной характеристикой алгебры
§11. Геометрия групп Ли
137
3) [Еа,Ер\ —
Ли. Фиксируем для дальнейших целей следующий замечательный базис
в алгебре G.
Предложение 11.4. В полупростой алгебре Ли G существует базис,
составленный из векторов Н’а1, ... , Н'аг, являющихся простыми кор-
нями алгебры и задающих базис в картановской подалгебре Т (над С),
и из корневых векторов {£)*}, где Еа £ Ga, а 0, а £ Д. При этом
векторы Еа можно выбрать так, что будут выполняться следующие
условия:
1) ad^-Ea = [Е, £у = a(h) -Еа, где h GT и a(h) £ К, если h £ То С
С Т;
2) [Еа,Е-а\ = —Н'а £ Г;
Na/3 • Еа+/з, если а + (3 0, корень
О, если а + (3 0, не корень
4) (h,H'a) = a(h), hGT.
При этом можно считать, что Na/3 = 0, если а + (3 О не ко-
рень. Если а + (3 О корень, то Na/3 0. Векторы Еа £ Ga мож-
но выбрать так, что Nap =	Постоянные числа Nap можно
считать вещественными. Этот базис {Еа;Н'а1, ... , Н' } называет-
ся базисом Вейля. Структура алгебры G полностью определяется тем
самым заданием чисел Na/3, т. е. геометрией корней {Н’а}, реализован-
ных векторами в Т.
Доказательство этого предложения для случая sl(n, С) нами фак-
тически получено ранее. Корневое разложение алгебры G можно те-
перь записать в следующем виде: G = Т ф V+ ф V~, где V+ =
= ^2 СУ = S В случае sl(n, С) подпространство V+, оче-
а>0	а<0
видно, отождествляется с подпространством всех верхнетреугольных
матриц с нулями на главной диагонали, подпространство V~ — с под-
пространством всех нижнетреугольных матриц с нулями на диагона-
ли. Это разложение показано на рис. 137. Отметим, что скалярное про-
изведение векторов базиса (порожденное формой Киллинга) устроено
так: (Еа,Е_а) = 1, (Еа,Еа) = 0. Отсюда видно, в частности, что век-
торы Еа являются изотропными относительно невырожденной формы
Киллинга. Это связано с тем, что форма Киллинга является индефинит-
ной на комплексной алгебре G. В частности, ограничение этой формы
на плоскости V+ и V~ тождественно равно нулю, что следует из явного
вида формы.
138
Глава
Рис. 137	Рис. 138
Лемма 11.6. Подпространства V+ и V являются подалгебрами в
алгебре Ли G. Эти подалгебры нильпотентные.
Доказательство.
Пусть Еа, Ер е V+, тогда в силу предложения 11.4 мы име-
ем [Еа,Ер] = NapEa+p, и так как а > О, (3 > О, тоа + /3^0иа + /3>0,
т.е. Еа+р е V+, что и требовалось. В случае V рассуждение анало-
гично. Нильпотентность обеих подалгебр сразу следует из явного вида
составляющих их матриц.	
Лемма 11.7. Подпространства V+ ®Т и V~ ОТ являются подалгеб-
рами в G. Эти подалгебры разрешимые.
Доказательство также сразу следует из предложения 11.4. Отли-
чие от леммы 11.6 состоит лишь в том, что добавляются коммутаторы
вида [Н'а,Ер], которые совпадают с [3(Н'а)Ер (рис. 138).
Задача 1. Докажите, что форма Киллинга тождественно равна нулю
на алгебрах V+ ф Т и V~ ф Т. Следует отметить, что эта форма не
совпадает с ограничением формы Киллинга, заданной на объемлющей
полупростой алгебре G на плоскости Tz± ф Т.
Задача 2. Докажите, что если форма Киллинга некоторой алгебры Ли
тождественно равна нулю, то алгебра разрешимая.
§11. Геометрия групп Ли
139
Мы остановились столь подробно на описании корней полупростой
алгебры Ли в связи с тем, что имеет место следующая важная теорема
(доказательство которой выходит за рамки нашего курса и приведено,
например, в [7]).
Теорема 11.2. Простая алгебра Ли G над полем С определяется с
точностью до изоморфизма заданием системы корней в картановской
подалгебре.
Оказывается, все такие системы корней могут быть в явном виде
перечислены, что и дает классификацию всех простых алгебр Ли.
5. Системы корней простых алгебр Ли
Из предыдущего пункта следует, что для задания простой алгебры
достаточно задать ее систему корней Д. Более того, поскольку в си-
лу предложения 11.3 вся система Д восстанавливается по подсистеме
простых корней, то достаточно задать систему П. Эта система век-
торов Н'п , ... , Н'п , где г = ранг G = dimT, определяется длинами
векторов и углами, которые эти векторы образуют друг с другом. Мы
приведем здесь основной результат классификации, предъявив в явном
виде системы простых корней всех простых алгебр Ли. Пусть ]R"+1 —
евклидово пространство, {е^} — ортобазис. Каждую систему П мы
изобразим в виде следующей удобной схемы-графа. Каждый вектор
из П изобразим точкой на двумерной плоскости, ря-
дом с которой укажем квадрат длины этого вектора
(корня) в метрике Киллинга на подалгебре Т. Так как	j
простые корни образуют базис в Т, то их число равно ОтдЗ ОяО
рангу алгебры G. Теперь нужно указать углы, образуе- 3	2
мые этими векторами друг с другом. Оказывается, эти рис 13g
углы не могут быть произвольными, более того, име-
ется мало вариантов, а именно тг/6, тг/4, тг/З, тг/2. Примем следующее
удобное соглашение, позволяющее наглядно изобразить всю эту инфор-
мацию графически. Если два вектора образуют друг с другом угол тг/6,
то соединим соответствующие им точки тремя параллельными отрез-
ками (рис. 139). Если угол между векторами равен тг/4, то соединим
точки двумя отрезками, если угол равен тг/З, то изобразим лишь один
отрезок, и, наконец, если векторы ортогональны, то соответствующие
им точки соединять отрезками не будем. Получившийся граф будем
называть диаграммой корней (схемой корней). Ясно, что этот плоский
граф позволяет полностью восстановить систему простых корней.
140
Глава 4
Теорема 11.3. Пусть е±, ... , еи+1 — ортобазис в ]R”+1. Пусть G —
простая, алгебра Ли над полем комплексных чисел. Тогда система П
простых корней этой алгебры совпадает с одной из перечисленных ниже
систем векторов в К", где п = рангС:
1)	П(ЛП) = (ех - е2, ... , еп - en+i), n > 1;
2)	П(5П)   (б1 62, • • • , ^п — 1	2j
3)	П(С*П) = (е4 е2, . •. , ^п—1 еп, 2ега), п 3;
4)	П(-Ип) — (^1	^2? • • • 5 &П — 1	&п—1 “Ь &п.')ч	4,
5)	Щв2) = (е4 — е2, 2е2 — е4 — вз);
6)	П(Г4) = (ех - е2, е2 - е3, е3, 1/2(е4 - е4 - е2 - е3));
7), 8), 9) П(£^и) = (е4 — е2, ... ,	4 — еп, —(е4 + е2 + е3) +
+ еи+1(9/п - I)1/2), п = 6, 7, 8,
___	-1 п	__
где ei = ei — — ek* т.е. вектор е« является ортогональной проекцией
к=1
вектора на гиперплоскость ]Rn-1 в ]Rn = ]Rn(ei, ... , еп), ортогональ-
п
ную вектору ^2 ei-
i=l
Рис. 140
Векторы каждой из перечисленных систем линейно независимы, и
их линейная оболочка имеет размерность п, совпадающую с рангом ал-
гебры Ли. Обратно, каждая из этих систем определяет простую алгебру
Ли (над С), причем разные системы определяют неизоморфные алгебры
§11. Геометрия групп Ли
141
Ли. При этом система П(АП) определяет алгебру Ли sl(n+ 1, С), систе-
ма П(ВП) — алгебру so(2n + 1, С), система П(С„) — алгебру sp(n, С),
система П(ИП) — алгебру so(2n, С). Это — алгебры Ли классических
серий. Остальные системы корней определяют особые алгебры Ли: сис-
тема П(С2) — алгебру g2(C) группы G2(C), система П(Р4) — алгеб-
ру /4(C) группы F4(C), система П(£„), где п = 6, 7, 8, — алгебры
Ли е6(С), 67(C), eg(C) групп 2?6(С), Е?(С), Eg(C) соответственно. Диа-
граммы корней всех этих систем показаны на рис. 140.
Мы укажем также системы всех корней перечисленных выше прос-
тых алгебр Ли. Дело в том, что во многих прикладных вопросах кроме
знания простых корней нужно знать систему всех корней алгебры. Хо-
тя задания простой системы достаточно для восстановления всей систе-
мы корней, но эта процедура восстановления сопряжена с некоторыми
техническими тонкостями, поэтому мы приведем здесь окончательный
результат.
1)	Серия Ап. Как мы уже видели при изучении модельного приме-
ра, все корни алгебры Ап нумеруются двумя индексами где 1
С Г j С п+ 1, ij', обозначим эти корни через а^. Тогда	— ej.
Простыми корнями являются векторы а^+1 = гг — ej+i, 1 i'	п, п =
= рангАп. Любой положительный корень Е Д+, где i < j, однознач-
но представляется в виде следующей суммы (разложение по простым
корням):
aij ~ ai,i+l + aj-1-1,8-1-2 + . . . +	—
=	+ е^_|-1 — ej+2 + ... — Cj = ei — ej.
2)	Серия Bn. Простыми корнями являются векторы а{ = Cj —
—1 i n — 1, и an = en. Система всех корней задается
так: ±6j, ±6j ± ej, где i j. При этом система положительных корней
восстанавливается в следующем виде: ej — ej =	= а^ + .. .+ а^_4, 1
< i < j < п; далее btj = at + ... + otj-i + 2aj + ... + 2an_x + 2an, 1 <
< i < j < n; и Ci =	+ ... + a„_i + a„.
3)	Серия Cn. В качестве простых корней можно взять векторы at =
= ei — ej-i-i, 1 г n — 1, an = 2en, тогда положительные корни в
их разложении по простым корням а±, ... , ara-i, ап имеют вид ац =
= at + ... + aj-!, 1 < i < j < n, i j, далее bij = ai + ... +	+ 2aj +
+ ... + 2a„_i + an. При этом корень bin = ai + ... + an-i + an можно
формально включить в первую серию {а^}, положив bin = aiin+i.
142
Глава 4
4)	Серия Dn. Простыми корнями являются: а^ = е^ — ej+i, 1
i' п — 1, ап = era_i + еп. Положительные корни в их разложении по
простым корням ах, ... , an-i, ап имеют вид a,ij = оц +... + otj-i, 1
i j i 3?bij —	+ • • • И--Ь-Ь...-Ь2 а,,—г-Ьап_4 4-ап, 1
С i; < 3 С п. Ясно, что bjj можно записать так: bjj =	+ е.;- = (е^ —
вп—1) + (ej en) + (en—i -Ь еп). При j — п имеем Ь;п — а^ 4-... 4- оп—2 4~
4-ап —	+ еп-
5)	Особая алгебра g^. Простые корни: а±, аг- Положительные кор-
ни: Qi, аг, ад 4- аг, а4 4- Заг, 2а4 4- Заг, а4 4- 2аг.
6)	Особая алгебра /4. Корнями этой алгебры являются линейные
функции:
±Wi ± Wj, (г < j) = 1, 2, 3, 4; ±cuj, ±Aj, ±Mg
Aj = l/2(cui + сиг 4- сиз 4- CU4) — си^; Mi = l/2(cu4 4- сиг + сиз + CU4);
М2 = 1/2 (cui + сиг — CU3 — CU4);
Л7з = l/2(cui — сиг 4- CU3 — CU4); M4 = l/2(cui — сиг — CU3 -|- CU4).
Простыми корнями являются:
a4 = l/2cui — 1/2сиг — 1/2сиз — 1/2cu4; аг = CU4;
аз = CU3 — CU4; 014 = сиг — CU3.
7)	Особая алгебра eg. Корнями этой алгебры являются следующие
линейные функции:
±Wi ± cuj, (г < j) = 1, 2, 3, 4; ±(щ, ± l/2(cu6 - си5)),
±(Ai ± 1/2(cu7 - cu5)), ±{Mi ± 1/2(cu7 - u;6)),
где функции Л^, Mi определены выше для алгебры /4. Простые корни:
a4 = —cui + 1/2(cug — CU5), а.2 = cui — сиг, = сиг — сиз,
О4 = CU3 4" ^4, а5 = —Ml + 1/2(cU7 — CUg), Oq = CU3 — CU4.
8)	Особая алгебра eg. Простыми корнями являются ai, аг, ... , ag.
§12. Компактные группы
143
Рассмотрим множество следующих векторов:
Ai = 3(ai 4“ (12 4“ ^3 4“	4“	4“ 2oi6 4“ Q7 4“ (1'8*
А2 = 3(q2 И- d3 4“	4~ (15) 4~ 2^6 4- Q7 4- ds?
A3 = 3(d3 + d] 4~ Q5) 4~ 2с^б 4~ d7 4~ dg,
А4 = 3(сц + Q5) 4~ 2с^б + Q7 + Q'g.
А5 = Заз 4- 2d6 + <17 + as?
Аб = 2а6 + (I7 + as,
А7 = — а б 4- d7 4- d8?
А8 — —(1б — 2(17 4~ d'8.
Тогда система всех корней алгебры е$ задается так:
Ai — Aj, 4=(Аг 4- Aj + А/г), 4=(Аг 4~ Aj 4- А& 4- А/ + Хт + Ап),
4z(2Aj 4~ Aj + Xfc 4- Xi + Ат 4“ Т Т Ад),
где все индексы различны и берутся из множества (1, 2, ... , 8).
9)	Особая алгебра еу. Простые корни а->- аз, ... , а% получаются
из корней алгебры eg вычеркиванием символа ах. Далее, система всех
корней алгебры еч получается из корней алгебры eg выбрасыванием
всех сумм, перечисленных в предыдущем пункте и содержащих Ai.
Возвращаясь к формулировке теоремы 11.3, отметим, что ограни-
чения на ранг п (например, п 4 для серии Dn) наложены для то-
го, чтобы исключить из приведенного списка изоморфные алгебры Ли
малых размерностей. Так, например, нам уже известно, что алгебры
Ли зоз и SU2 изоморфны. Оставляем читателю в качестве полезного
упражнения доказательство следующих изоморфизмов:	= С±,
В2 = С2, А3 = D3, D2 = Ai ф Ai. Устранив из теоремы 11.3 эти ал-
гебры, мы добились того, что все остальные перечисленные в теореме
алгебры Ли попарно неизоморфны.
§ 12. Компактные группы
1.	Вещественные формы
144
Глава 4
До сих пор мы изучали комплексные полупростые алгебры Ли. Од-
нако большую роль играют также различные вещественные подалгеб-
ры, содержащиеся в этих алгебрах. Одна из них особенно замечательна,
так как соответствующая ей группа Ли является компактной группой.
Определение 12.1. Пусть G — полупростая алгебра Ли над полем
комплексных чисел. Вещественная подалгебра Go алгебры G (рассмат-
риваемая как алгебра над полем R) называется вещественной фор-
мой алгебры G, если каноническое отображение комплексного расши-
рения Gg = Go С алгебры Go в алгебру G является изоморфизмом.
В этом случае мы имеем <1ш1ц Go = dime G.
Это означает, что комплексифицируя вещественную алгебру Go,
т. е. рассматривая линейные комбинации ее элементов с комплексными
коэффициентами, мы получаем всю объемлющую алгебру G.
Пусть Go — какая-либо вещественная форма комплексной полупро-
стой алгебры Ли G. Тогда всякий элемент из G однозначно представля-
ется в виде X+iY, где X, Y G Go- Это разложение алгебры G порождает
естественную инволюцию а, отображающую алгебру G в себя, а имен-
но <г(Х + iY) = X — iY. Эта инволюция зависит от подалгебры Go и
обладает следующими очевидными свойствами: а2 = 1q, <тХ = X, ес-
ли X G Go; <г(А + В) = а А + аВ, А, В G G; <т(ХА) = Ха A, а[А,В] =
= [а А, а В].
Лемма 12.1. Пусть на алгебре G задана инволюция а, обладающая
перечисленными выше свойствами. Тогда эта инволюция определяет
некоторую подалгебру Go в G, являющуюся вещественной формой.
Доказательство.
Обозначим через Go множество неподвижных точек инволюции а
на G. Из свойств а следует, что Go — вещественная подалгебра в G.
С другой стороны, любой элемент А из алгебры G представляется в
виде X + iY, где X, Y G Go. В самом деле, А = ^(А+о'А) + г 2 °^) ’
где X = 1/2(А + аА) G Go, Y = ^(А — аА) G Go, так как аХ =
= о~ f' +	= X, о'У = а [	| = Y. Лемма доказана.	
\	2	/	\ 2г /
Рассмотрим в алгебре G форму Киллинга (, )<?. Эту форму можно
ограничить на вещественную подалгебру Go; обозначим это ограниче-
ние так: (, )'Go. С другой стороны, на подалгебре Go определена своя
§ 12. Компактные группы
145
форма Киллинга (, )g0. Естествен вопрос: совпадают ли эти две формы
(с точностью до скалярного множителя)? Выше мы видели (см. §11),
что, вообще говоря, ограничение формы Киллинга объемлющей алгеб-
ры на произвольную подалгебру не совпадает с формой Киллинга этой
подалгебры. Однако в случае вещественных форм ситуация более бла-
гоприятная.
Лемма 12.2. Если Go — вещественная форма полупростой алгебры
Ли G, то (, )g = (, )g0 (с точностью до постоянного множителя).
Доказательство.
Согласно определению, форма Киллинга имеет вид Sp adx ady. Так
как Go — «вещественная часть» алгебры G, то при X, Y Е Go эндомор-
физм adjf ady сохраняет подпространство Go, поэтому след его ограни-
чения на Go совпадает с формой Киллинга на Gq. В частности, форма
Киллинга принимает вещественные значения на Gq. Лемма доказана.

2.	Компактная форма
Определение 12.2. Вещественная алгебра Ли называется компакт-
ной, если ее форма Киллинга отрицательно определена, т.е. квадратич-
ная форма удовлетворяет неравенству {X, X) < 0, если X 0.
Определение 12.3. Вещественная форма Go комплексной алгебры
Ли G называется компактной вещественной формой алгебры G, ес-
ли Go — компактная вещественная алгебра.
Название «компактная алгебра» обусловлено тем, что, как оказыва-
ется, группа Ли, имеющая компактную алгебру Ли, сама является ком-
пактной как топологическое пространство (см. примеры ниже). Ком-
пактность вещественной формы Go может быть установлена, исходя
из свойств формы Киллинга (, )<? на алгебре G.
Лемма 12.3. Для того чтобы вещественная форма Gq алгебры G
была компактной, необходимо и достаточно, чтобы эрмитова фор-
ма (А, а А) на алгебре G была отрицательно определена.
Доказательство.
Пусть Gq — компактна и А = X + iY G G, тогда
(А, а А) = {X + iY, X - iY) = {X, X) + (У, Y) < 0.
Обратно, если форма (А, аВ) отрицательно определена, то при A G Go,
А 0 имеем а А = А и (А, А) < 0. Лемма доказана.	
146
Глава 4
В дальнейшем компактную форму будем обозначать через Gu. Во-
прос о классификации всех вещественных форм алгебры G сводится к
описанию всех неэквивалентных инволюций полупростых алгебр. Ком-
пактная форма, как оказывается, определяется одной специальной ин-
волюцией, существующей на любой полупростой алгебре Ли.
Сначала рассмотрим модельный пример sl(n, С). Рассмотрим на G
инволюцию а А = А, т. е. операцию комплексного сопряжения матри-
цы А. Множество неподвижных точек этой инволюции совпадает, оче-
видно, с подалгеброй вещественных матриц, которая является алгеброй
Ли sl(n, R). Ясно, что форма Киллинга на алгебре sl(n, R) является ве-
щественной формой, записывающейся в виде {X, X) = SpX2 = ^x^Xj.
i,3
Эта форма, очевидно, не является отрицательно определенной (она ин-
дефинитна), поэтому sl(n, R) вещественная, но не компактная форма
алгебры sl(n, С). Компактная форма Gu строится в данном примере
—т
так. Рассмотрим инволюцию т: G —> G, тА = — А , где Т — операция
транспонирования. Неподвижными точками этой инволюции являются
—т
матрицы А такие, что А = —А, т. е. множество неподвижных точек
совпадает с пространством всех косоэрмитовых матриц. Как мы уже
знаем, это пространство является алгеброй Ли группы SUn, которая
компактна. И в самом деле, вычисляя на этой вещественной форме Gg
___________________________________________________J1
форму Киллинга, получаем (X,Y) = SpXY = — SpXK , т.е.
{X, X) = — Sp XXT = — x& < 0, если X 0.
i,3
В данном случае форма Киллинга совпала (с точностью до умножения
на —1) со стандартным эрмитовым скалярным произведением. Таким
образом, алгебра Ли sun группы SUn является компактной и в смысле
определения 12.2.
Оказывается, рассмотрев случай алгебры sl(n, С), мы смоделиро-
вали ситуацию, общую для всех комплексных простых алгебр Ли.
Теорема 12.1. Каждая полупростпая комплексная алгебра Ли G обла-
дает компактной вещественной формой Gu.
Доказательство.
Мы просто предъявим в явном виде вложение компактной подал-
гебры Gu в алгебру G. Само это вложение будет использоваться на-
§ 12. Компактные группы
147
ми в дальнейшем, поскольку оно связано с многими геометрически-
ми свойствами групп Ли. Рассмотрим базис Вейля в алгебре G (см.
предложение 11.4). Рассмотрим на алгебре G инволюцию а, задавае-
мую на базисе Вейля так: аЕа = Е_а, если а 0, ah = — h для
любого вектора h Е То, где То С Т — «вещественная часть» подал-
гебры Картана Т. При этом будем считать, что а(ХХ) = ХаХ. Таким
образом, отображение а действует так, как это показано на рис. 141,
т.е. a: V+ —> V~, a: V~ —> V+, а: То —> —То, a: iTo —> iT0. Из свойств
базиса Вейля (см. предложение 11.4) сразу следует, что а — автомор-
физм алгебры G. Так, например, если а > 0, /3 > 0, то
Ер] — а(Х,,рЕ,х+р) — NaflE—a—fl — N—a,—pE—a—p —
= [E-a,E_p\ = [aEa,aEp\.
Рис. 141
Аналогичным образом проверяется сохранение и других коммута-
ционных соотношений. Найдем теперь вещественную форму, отвечаю-
щую этой инволюции. Из явного вида а следует, что в качестве базиса
(над Ж) в подалгебре неподвижных точек инволюции а можно взять
векторы {Еа + Е_а; г(Еа — IX,,): гН'а}. Мы утверждаем, что это есть
компактная подалгебра в алгебре G. В самом деле, так как (Еа, Еа) = О
и {Еа,Е-а} = —1, то достаточно вычислить следующие скалярные про-
изведения:
{Еа + Е-а,Еа + Е-а) — —2, (i(Ea — Е-а), i(Ea — Е-а)) —
= 2(Еа, Е-а) = —2, (Еа + Е-а, i(Ea — Е-а)) = О,
(ш'а,ш'а) = -ат<о,
148
Глава 4
так как а(Н'а) > 0 и вектор Н'а является двойственным к линейной
форме а. Следовательно, форма Киллинга отрицательно определена на
всей подалгебре неподвижных точек, что и доказывает компактность
этой подалгебры. Теорема доказана.	
Рассмотрим теперь более подробно вложение компактной фор-
мы Gu в G. В алгебре G можно выбрать, очевидно, следующий базис
над К:
{Еа + Е_а, i(Ea — Е_а), Еа — Е_а, i(Ea + Е-а), Н'а, гН'а].
Это означает, что наряду с корневым разложением алгебры G = V+ ф
фУ“ ф Т (над С) имеется еще одно естественное разложение (над R):
G = W+ ф W ф То Ф г'Тд, гдеТУ+ = )Еа + Е—а, i(Ea — Е—а)},
W~ = {Еа - Е_а, i(Ea + £_„)}, То = {Н’а}, iT0 =
В фигурных скобках указаны векторы, образующие базис в соответ-
ствующей плоскости (рис. 142). Ясно, что а = +1 на плоскости ТУ+фгТ0
и ст = —1 на плоскости W~ ф Tq. Следовательно, плоскость W+ ф гТо
является подалгеброй (в отличие от плоскости W~ ф То), и эта под-
алгебра неподвижных точек совпадает с компактной подалгеброй Gu в
алгебре G, т.е. Gu = W+ Q)iTo. Итак, установлено, что компактная ал-
гебра Ли Gu в комплексной алгебре G натянута на векторы следующего
вида:
Gu = {Еа + Е-а, i(Ea — Е-а), iH'a} = ТУ+ ф г'Т0.
Рассмотрим присоединенное действие алгебры Ли Gu на себе, т. е. из-
учим действие преобразований вида ad/,: Gu —> Gu, где h G iT0.
Так как элемент h лежит в картановской подалгебре, то преобразо-
вание ad/j переводит в себя плоскость ТУ+, ортогональную к плоскос-
ти г'То- При этом мы пользуемся тем, что операторы adj, кососиммет-
ричны относительно формы Киллинга, а потому сохраняют ортогональ-
ное дополнение, переводя его в себя. Пусть h = iq, где q G То- Ясно,
что adh(Ea + Е_а) = iadq(Ea ф Е_а) = iot(q)(Ea - Е_а), где а(д) —
вещественное число (см. определение плоскости То — «веществен-
ной части» подалгебры Картана). Следовательно, ad/,(T„ + Е-а) =
= a{q){i{Ea—E_a)). Аналогично, adft(«(Ea + E_a)) = -a(g)(Ta + T_a).
Следовательно, оператор ad/, переводит в себя двумерную веществен-
ную плоскость, натянутую на векторы Еа + Е-а, i(Ea — Е-а), и на этой
§ 12. Компактные группы
149
плоскости задается следующей кососимметрической матрицей разме-
„ч ,	/ О a(q)\	,	. Т1
ра (2x2): ad/j = I	), где п = tq. Итак, мы видим отли-
чие действия оператора ad/j на компактной алгебре от аналогичного
действия на комплексной алгебре Ли. Если в комплексном случае этот
оператор приводился к диагональному виду в базисе, составленном из
корневых векторов, то в вещественном случае этот оператор не име-
ет вещественных собственных векторов в ортогональном дополнении
к картановской подалгебре iTg, а приводится к блочно-диагональному
виду, т. е. может быть записан в виде матрицы, по диагонали кото-
рой стоят блоки размера 2x2. Каждый из этих блоков соответствует
одному корню (собственному числу над полем С) и записывается ука-
занной выше матрицей. В нашем модельном примере компактная ал-
гебра Gu = sun, где Gu С G = sl(n, С), разлагается в прямую сумму
следующих подпространств: W+ ф iTo, где
(pi — вещественные числа, W+ = RelF+ ф!тТУ+, где
Re ТУ+ — {/'Л, + Е_а] —
1\
О/
[ /о
1тТУ+ = {г(Еа-£_„)}= J
I V
Двумерное инвариантное подпространство, натянутое на пару векто-
ров Еа + Е_а, i(Ea — Е_а), имеет в данном случае вид
/ О
а + ib
а + ib'
О
где a, b G R.
150
Глава 4
Роль построенного нами канонического вложения компактной под-
алгебры Gu в комплексную полупростую алгебру Ли G особенно возрас-
тает ввиду наличия следующего факта: компактная форма единственна
в G с точностью до автоморфизма алгебры G.
Предложение 12.1. Пусть Gu и G'u — любые две компактные ве-
щественные формы полупростой алгебры Ли G над полем С. Тогда су-
ществует такой автоморфизм ф алгебры G, что фСи = G'u, при-
чем этот автоморфизм включается в некоторую однопараметрическую
подгруппу автоморфизмов ф>1, где ф = ф±, ф0 = Iq, 0 t 1.
Хотя этот факт полезен для понимания общей картины, он не будет
нами использоваться, поэтому мы опускаем его доказательство.
Теперь рассмотрим наш модельный
пример sl(n, С). Выше мы полностью
проанализировали структуру корневого
разложения этой алгебры, поэтому сей-
час для нас не составляет никакого тру-
да в явном виде выписать канонические
вложение компактной формы Gu в алгеб-
ру sl(n, С). В самом деле, корневые векторы Еа совпадают с элементар-
ными матрицами Tpq, р < q, если а > 0, и с матрицами — Tpq, р > q, ес-
ли а < 0. Следовательно, Еа + Е-а = Tpq — Tqp, i(Ea — Е-а) = iTpq + iTqp
и, наконец, iH'a = i(Tpp — Tqq), если a(h) = ар — aq, р < q (рис. 143).
Следовательно, подпространство iTg совпадает с подпространством всех
диагональных чисто мнимых матриц со следом нуль:
Еа+Е.а г(Еа-Е-а) 1Н'а
Рис. 143
<йр1	0 \
г’То =	‘ . I ,	+ ... + <рп =0, (pi G К
\ 0 йрп)
подпространство {Еа + Е-а} совпадает с подпространством всех ве-
щественных кососимметрических матриц, подпространство {i(Ea —
— Е_а)} совпадает с подпространством всех симметрических чисто
мнимых матриц с нулями по диагонали. Окончательно подалгебра Gu =
= W+ фгТо совпадает с подпространством всех косоэрмитовых матриц
со следом нуль, т.е. с алгеброй Ли группы sun. Итак, нами доказана
Лемма 12.4. Стандартное вложение подалгебры sun в алгебру sl(n, С)
совпадает с каноническим вложением компактной формы Gu в G.
§ 12. Компактные группы
151
Наряду с канонической компактной формой каждая полупростая
комплексная алгебра Ли обладает канонической некомпактной формой,
называемой иногда нормальной некомпактной формой. Рассмотрим
снова базис Вейля в G и построим следующую инволюцию т: G —> G,
где тЕа = Еа, тН'а = Н'а, т.е. отображение т тождественно на ве-
щественной части плоскостей V+ и V~, а также на вещественной час-
ти То картановской подалгебры Т. Но эта инволюция отнюдь не яв-
ляется тождественной на всей алгебре, так как т(АА') = ХтХ. Сле-
довательно, т(г'То) = — iT0, т(гЕа) = —гЕа. Множество неподвижных
точек инволюции т совпадает с плоскостью ReV+ ф Re У- ф То, т.е. с
линейной оболочкой (над полем R) векторов: {Еа, Е-а, Н'а}. Из пред-
ложения 11.4 следует, что это — подалгебра.
Определение 12.4. Вещественная подалгебра {Еа, Е-а, Н'а} назы-
вается нормальной некомпактной формой алгебры G.
В нашем модельном примере
эта подалгебра совпадает, очевидно,
с подалгеброй вещественных мат-
риц со следом нуль, т. е. с sl(n, С), а
инволюция т совпадает с инволюци-
ей тА = А, где черта означает комп-
лексное сопряжение. Как и компакт-
ная форма, некомпактная нормаль-
ная форма определена однозначно с
точностью до автоморфизма объем-
лющей комплексной алгебры Ли. Мы не будем здесь доказывать этот
факт, поскольку в дальнейшем он нам не потребуется. Таким образом,
каждой комплексной полупростой алгебре Ли G однозначно (с точнос-
тью до автоморфизма алгебры) сопоставляются две ее подалгебры —
компактная и некомпактная (нормальная) формы. Взаимное расположе-
ние компактной и некомпактной форм в объемлющей алгебре G услов-
но показано на рис. 144. Более подробная схема показана на рис. 145.
Это разложение показано над полем Ж, в связи с чем отдельно изобра-
жены как «вещественные», так и «мнимые» плоскости. Отметим, что
компактная вещественная форма Gu допускает еще одну инвариант-
ную характеристику, а именно эта подалгебра является максимальной
компактной подалгеброй в комплексной алгебре Ли G. Приведем теперь
полный список простых алгебр Ли G над С и их компактных вещест-
152
Глава 4
венных форм Gu:
Серия	G	Gu	dim Gu
Ап, п > 1	sl(n + 1, C)	SUn+1	n(n + 2)
71	2	so(2n + 1, C)	S02n+l	n(2n + 1)
Спч 71 > 3	sp(n, C)	SPn	n(2n + 1)
Г„, п > 4	so(2n, C)	S02n	n(2n — 1)
с2	&(C)	g2	14
	A(C)	A	52
Eq	e6 (C)	ee	78
е7	e7(C)	67	133
Eq	e8(C)	68	248
Рис. 145
Укажем здесь еще одну час-
то появляющуюся в конкретных
задачах компактную подалгебру
в комплексной полупростой ал-
гебре G. Для этого рассмотрим
две введенные нами выше инво-
люции: а (определяющую компакт-
ную форму) и т (определяющую
некомпактную нормальную фор-
му). Рассмотрим множество Gn
точек, неподвижных относительно
обеих инволюций. Так как а = 1
на W+ ф г'Т0, а т = 1 на {7Га} Ф
ф{В_а} ф То, то Gn натянуто на
векторы {Еа + Е_а}, так как они
и только они остаются на месте
при действии обеих инволюций од-
новременно. Следовательно,Gn яв-
ляется компактной подалгеброй. Она совпадает с пересечением в ал-
гебре G двух ее вещественных форм: компактной Gu и некомпакт-
ной нормальной. Отметим, что подалгебра Gn отнюдь не является ве-
щественной формой алгебры G (!), так как ее комплексификация от-
нюдь не совпадает с G. Подалгебра Gn иногда называется нормальной
компактной подалгеброй (но не формой!). В нашем модельном приме-
ре sl(n, С) получаем Gn = Gu П (нормальная некомпактная форма) =
§ 13. Орбиты присоединенного представления
153
= Gn = sun A sl(n, R) = son, так как косоэрмитовы вещественные
матрицы являются кососимметрическими.
§ 13.	Орбиты присоединенного представления
1.	Орбиты общего положения и сингулярные орбиты
Оказывается, с каждой полупростой алгеброй Ли естественно свя-
зан набор некоторых гладких многообразий, являющихся однородными
пространствами и играющими, как выяснилось особенно в последние
годы, значительную роль в различных задачах классической механики
и их современных обобщениях и аналогах. Эти многообразия называ-
ются орбитами, они естественным образом вложены в алгебру Ли G и
«расслаивают» ее в том смысле, что алгебра Ли является объединением
этих непересекающихся орбит. Кроме того, орбиты тесно связаны с ал-
гебраической структурой в G и несут на себе прочный отпечаток тех
соотношений, которые выделяют данную алгебру из множества всех
алгебр Ли. В предыдущем параграфе, изучая картановскую подалгеб-
ру Т, мы были вынуждены представить ее в виде прямой суммы под-
алгебр Т = То Ф iTo, где iT0 — «мнимая часть» алгебры Т — является
картановской подалгеброй в компактной форме Gu С G. В настоящем
параграфе мы будем иметь дело именно с подалгеброй «То, поэтому
для упрощения обозначений переобозначим ее через Н. Итак, Н = iT0
в Gu. Алгебру Gu будем обозначать через G. В этом параграфе мы бу-
дем рассматривать в основном только компактные алгебры Ли и соот-
ветствующие им группы Ли. Если раньше мы иллюстрировали все ос-
новные понятия, связанные с комплексными полупростыми алгебрами
Ли на модельном примере алгебры sl(n, С), то теперь будем моделиро-
вать все наши построения на примере компактной формы этой алгебры
Ли, т.е. на примере алгебры Ли специальной унитарной группы SUn.
Пусть G — компактная алгебра и Ad© : G —> G — присоединенное пред-
ставление группы ® в виде линейных преобразований ее алгебры Ли.
Пусть X G G. Так как мы рассматриваем матричные алгебры Ли, то
действие Ad„ записывается так: Ad„ X = gXg-1. Множество элементов
вида gXg~'. где g пробегает всю группу ®, называется орбитой О(Х)
элемента X (при присоединенном представлении группы). Ясно, что
орбита является однородным пространством, т.е. представима в ви-
де ®/С(Х), где С(Х} — централизатор элемента X, т.е. множество
154
Глава 4
всех тех элементов g группы ®, для которых gX = Xg. Централиза-
тор является подгруппой, и поэтому орбита О(Х) отождествляется с
множеством классов смежности по подгруппе С(Х).
Лемма 13.1. Элемент X Е G является регулярным элементом
компактной полупростой алгебры Ли G тогда и только тогда, ког-
да dimC(X) = dim/f, где Н — картановская подалгебра в G. В этом
случае связная компонента единицы в группе С(Х) совпадает со связ-
ной подгруппой Т, соответствующей подалгебре Н и являющейся мак-
симальной связной коммутативной подгруппой в группе С(Х).
Доказательство.
В компактной алгебре Ли G любой элемент может быть включен
в некоторую картановскую подалгебру. В случае sun это утверждение
сразу следует из представления элемента X в виде g~rhg, где h — диа-
гональная матрица. Тогда в качестве картановской подалгебры, содер-
жащей X, можно взять подалгебру g~rHg, где Н — подалгебра диа-
гональных матриц. Следовательно, С(Х) является группой Ли, соот-
ветствующей аннулятору регулярного элемента X. Но этот аннулятор
совпадает с картановской подалгеброй g~lHg, что и завершает доказа-
тельство.	
Следствие 13.1. Пусть Н — фиксированная картановская подалгеб-
ра в компактной алгебре Ли G. Тогда каждая орбита О(Х) обязательно
пересекается с подалгеброй Н. Это означает, что алгебра G представ-
ляется в виде объединения орбит, «вырастающих» из точек подалгеб-
ры Н (рис. 146).
Рис. 146
Доказательство (для случая sun) не-
медленно следует из того, что любой эле-
мент X приводится к диагональному ВИ-
ДУ-
Отметим, что если X — регуляр-
ный элемент, то и вся его орбита состоит
из регулярных элементов. Следователь-
но, сингулярные орбиты состоят, только
из сингулярных элементов. Будем назы-
вать орбиты, состоящие из регулярных элементов алгебры, орбита-
ми общего положения («типичными орбитами»). Ясно, что объедине-
ние всех орбит общего положения является открытым всюду плотным
§ 13. Орбиты присоединенного представления
155
множеством в G. Напротив, сингулярные орбиты образуют множество
нулевой меры.
Определение 13.1. Размерность г картановской подалгебры Н в по-
лупростой алгебре G называется рангом G.
Из леммы 13.1 следует, что размерность орбиты общего поло-
жения в G равна N — г, где N — размерность G. Другими слова-
ми, codimО(Х) = г. Если орбита сингулярна, то ее размерность строго
меньше, чем размерность орбиты общего положения.
Лемма 13.2. Пусть X — произвольная точка на орбите О(Х) (ор-
бита может быть и сингулярной). Пусть ТхО(Х) — касательное про-
странство к многообразию О(Х) в точке X. Тогда плоскость ТхО(Х)
состоит из векторов вида [X, У], где элемент Y пробегает всю алгебру
Ли G.
Доказательство.
Так как О(Х) С G, то и плоскость ТхО(Х) содержится в G. По
определению орбиты она составлена из точек вида gXg-1, где g про-
бегает группу ®. Следовательно, любой касательный вектор а к орби-
те О(Х) допускает представление в виде а = X(t)|t=0, где X(t) G О(Х),
X(t) = g(t)Xg-1(t), g(t) — гладкая кривая в группе ®, проходящая че-
рез ее единицу, т.е. g(0) = Е (рис. 147). Следовательно, касательное
пространство ТхО(Х) получается из вектора X применением к нему
всех преобразований вида ady, так как ady является дифференциалом
преобразования А<1„ в единице группы Е G ®. Так как ady X = [У,Х],
то лемма доказана.	
Рис. 148
Следствие 13.2. Пусть АппХ — аннулятор элемента X в компакт-
ной алгебре G (X может быть сингулярным элементом). Тогда орби-
156
Глава 4
та 0(Х) этого элемента ортогональна плоскости АппХ в точке X.
В частности, плоскости АппХ и ТхО(Х) (касательная плоскость к
орбите) порождают в сумме всю алгебру Ли G (рис. 148).
Доказательство.
Последнее утверждение вытекает из леммы 13.2. Осталось дока-
зать ортогональность плоскостей АппХ и ТхО(Х). В силу леммы 11.1
операторы ady являются кососимметричными относительно формы
Киллинга, следовательно, преобразования Adff: G —> G являются ор-
тогональными относительно этой же формы. Таким образом, вся ор-
бита О(Х) целиком содержится в сфере радиус которой равен
длине вектора X, где N = dimG. Пусть АппХ 0 и X Е АппХ. Тогда
алгебра G распадается в прямую сумму своих двух подпространств G =
= АппХ ф V, где V — плоскость, ортогональная АппХ относительно
формы Киллинга. В силу леммы 13.2 плос-
кость ТхО(Х) состоит из векторов ви-
да [X, У], где Y Е G (рис. 149). Ясно, что до-
статочно брать векторы Y из плоскости V,
поскольку векторы Y, взятые из АппХ, пе-
реходят в нуль при коммутировании с X
и не дают, следовательно, никакого вкла-
да в построение плоскости ТхО(Х). Таким
образом, ТхО(Х) = [X, У] = {[X,У], У Е У}. Каждый вектор ви-
да [X, У] = v, У Е У записывается так: v = adjf У. Поскольку опе-
ратор adjf кососимметричен относительно формы Киллинга (см. лем-
му 11.1), то он переводит в себя ортогональное дополнение к АппХ,
следовательно, плоскость У инвариантна относительно оператора ad^.
Но это означает, что вектор ad д' У = [X, У] ортогонален к Ann X, ес-
ли У Е У. Утверждение доказано.	
Доказанные утверждения позволяют построить простую геомет-
рическую картину поведения орбит в компактной алгебре G. Фикси-
руем картановскую подалгебру Н и выпустим из каждой ее точки
орбиту О присоединенного действия группы ®. Эта орбита, являясь
гладким многообразием, «вырастает» из точки h ортогонально к Н.
Для любой орбиты общего положения размерность касательной плос-
кости к О в точке h равна dimG — dimН. Если орбита сингулярна,
то dimT/jO < dimG — dimH. Не следует думать, что орбита 0(h), на-
чавшись в точке h Е Н, никогда больше не вернется на Н. Дело в том,
§ 13. Орбиты присоединенного представления
157
что пересечение орбиты 0(h) с картановской подалгеброй Н состоит в
общем случае из нескольких точек (см. рис. 148).
В группе ® могут быть элементы go Т (где через Т обозначена
связная коммутативная подгруппа, касательная плоскость к которой
совпадает с Н) такие, что gghgg1 Е Н и g^hg^1 h. Это и означает,
что орбита 0(h), «вырастая» из элемента h, через некоторое время снова
возвращается на плоскость Н, пересекая ее в точке gghgg1 отличной от
точки h.
Проиллюстрируем этот эффект на простей-
шем примере. Возьмем в качестве группы ® ком-
пактную группу SO3, тогда алгебра Ли S03 состо-
ит из кососимметрических вещественных мат-
риц, ясно, что dimsos = 3. Присоединенное дейст-
вие X —> gXg-1 совпадает в этом случае со стан-
дартным действием ортогональной группы SO3
на евклидовом пространстве Ж3. При этом фор-
ма Киллинга совпадает здесь с обычным евкли-
довым скалярным произведением (проверьте!). Следовательно, орбиты
присоединенного действия группы SO3 являются двумерными сфера-
ми, имеющими центр в точке 0 (если орбита общего положения), и точ-
ка 0 является единственной сингулярной орбитой (неподвижной точкой
в данном примере). Картановская подалгебра Н здесь одномерна и мо-
жет быть отождествлена с прямой, проходящей через точку 0. Следова-
тельно, каждая орбита общего положения пересекается с картановской
подалгеброй ровно в двух точках (рис. 150). Орбиты общего положения
в компактной алгебре G диффеоморфны однородному пространству —
гладкому многообразию ®/Т, в частности все они диффеоморфны меж-
ду собой. Это сразу следует из леммы 13.1.
2.	Орбиты в группах Ли
До сих пор мы изучали структуру орбит в компактной алгебре Ли.
Однако для приложений часто полезно знать поведение орбит в соответ-
ствующей этой алгебре связной компактной группе Ли. Присоединен-
ное действие Ad© группы ® на алгебре G порождено присоединенным
действием группы ® на себе g —> gogg^1, g, go E ®. Таким образом,
каждому элементу g группы ® соответствует диффеоморфизм груп-
пы на себя. Как и в случае алгебры Ли, это гладкое действие груп-
пы ® определяет разбиение группы в объединение непересекающихся
158
Глава 4
орбит, т.е. гладких подмногообразий O(g0) = {ggog~\ g 6 ®}- Ясно,
что O(go) = ®/C'(go), гДе C'(gb) — замкнутая (и, следовательно, ком-
пактная) подгруппа в группе ®, состоящая из элементов, оставляющих
точку go на месте. Подгруппа (7(go) называется иногда стационарной
подгруппой точки go G ®.
Лемма 13.3. Пусть go и Д, — пара точек, принадлежащих одной
орбите О С ®. Тогда стационарные подгруппы C{go) и С(^о) этих
точек сопряжены друг другу в группе ®, т.е. существует такой эле-
мент s Е ®, что sC(go)s-1 = С(^).
Доказательство сразу вытекает из определения орбиты. Пусть Т —
подгруппа в группе ®, соответствующая картановской подалгебре Н,
т.е. (напомним, что мы рассматриваем только матричные группы и ал-
гебры Ли) Т = ехр Л, где отображение exp: G —> ® является операцией
взятия экспоненты от матрицы, т.е. ехрХ =	(подробности
п=0 п-
см. в [1]). Наша ближайшая цель — изучить геометрические свойства
разбиения компактной группы Ли в объединение орбит.
Лемма 13.4. Подгруппа Т = expH, где Н — картпановская подалгебра
в компактной алгебре G, диффеоморфна тору Тг, где г — ранг G, и Т
является максимальной связной коммутативной подгруппой в ®.
Доказательство.
Рассмотрим подгруппу R, являющуюся замыканием подгруп-
пы ехр Л в группе ®. Ясно, что R — замкнутая связная коммутативная
подгруппа в ®, поэтому ее алгебра Ли TeR содержит в себе подалгеб-
ру If. Если R expH, то	> dim Л. что противоречит свойству
максимальности подалгебры Н среди всех коммутативных подалгебр в
алгебре G. Поэтому R = exp Н = Т. Лемма доказана.	
Эта подгруппа называется иногда максимальным тором в груп-
пе ®.
Следующая теорема является одной из основных в теории компакт-
ных групп Ли. Как и раньше, мы могли бы проиллюстрировать ее спра-
ведливость только для модельного примера компактной группы SUn —
компактной формы группы SL(n, С), однако ввиду важности теоремы
мы (в следующем п. 3) докажем ее для произвольной компактной груп-
пы.
Теорема 13.1. Пусть Т — максимальный тор связной компактной
§ 13. Орбиты присоединенного представления
159
группы Ли ®. Тогда для любого элемента g G ® найдется такой эле-
мент go G что goggg1 G Т, т. е. каждая орбита О группы ® обяза-
тельно ^ересекается по крайней мере в одной точке с максимальным
тором Т.
Следствие 13.3. Всякий элемент g связной компактной группы Ли ®
принадлежит некоторой однопараметрической подгруппе, в частности,
имеет вид ехрХ для некоторого элемента X Е G.
Доказательство.
В силу теоремы 13.1 существует элемент go G ® такой, что
gogg^1 G Т. Для элементов максимального тора утверждение очевидно,
т.е. goggo-1 = exp У, Y Е Н т.е. g = exp(g^’1lzgo), что и требовалось
доказать.	
Следствие 13.4. Всякая связная коммутативная подгруппа К в ком-
пактной группе Ли ® содержится в максимальном торе, сопряженном
тору Т.
Доказательство.
Рассмотрим замыкание К подгруппы К в ®. Так как К комму-
тативна, то К также коммутативна, т. е. является тором некоторой
размерности. Из алгебры известно, что во всяком торе существует эле-
мент, степени которого образуют всюду плотное подмножество в торе.
Обозначим этот элемент через t. Но в силу теоремы 13.1 существует
элемент g Е ® такой, что t Е gTg~A. Ясно, что тогда tn Е gTg~A при
всяком целом п, откуда и следует, что К = {tra} С ^Tg~r, что и требо-
валось доказать.	
Следствие 13.5. Любые два максимальных тора (т. е. две связные
максимальные коммутативные подгруппы) в компактной группе сопря-
жены.
Доказательство.
Пусть К = К — максимальный тор. В силу следствия 13.4 сущест-
вует элемент g G ® такой, что К = gTg-1, что и требовалось. Обратно,
из следствия 13.5 вытекает теорема 13.1.	
3.	Доказательство теоремы сопряженности максималь-
ных торов в компактной группе Ли
Пусть f: Мп —> Мп — гладкое отображение компактного за-
мкнутого гладкого многообразия М в себя. Тогда этому отображе-
160
Глава 4
нию можно сопоставить некоторое целое число, называемое числом
Лефшеца 1(f). Одно из его возможных определений связано с гомо-
логиями многообразия М. Отображение f индуцирует гомоморфиз-
мы fq: Hq(M, А) —> Hq(M, А), где А — группа коэффициентов. Для
простоты рассмотрим в качестве А поле вещественных чисел. Тогда
гомоморфизм fq задается матрицей размера ((3q х (3q) с вещественными
коэффициентами, где /3q = dimTgiHq(Mn, R). Напомним, что (3q назы-
вается числом Бетти, и оно совпадает с рангом группы Hq(M, Z). Рас-
смотрим след Sp fq матрицы fq и построим следующее вещественное
п
число 1(f) = 52 (—1)® Sp fq. Это число и называется числом Лефшеца
9=0
данного отображения f. Число 1(f) обладает следующими свойствами
(их доказательства мы предоставляем читателю в качестве полезного
упражнения; см., например, [4]):
1) 1(f) — целое число; 2) если отображения f и g гомотопны,
то 1(f) = /(g), 3) если 1(f) 0, то отображение f:M^M имеет
по крайней мере одну неподвижную точку; 4) если все неподвижные
точки отображения f изолированы, то каждой неподвижной точке ж.
можно сопоставить число А,, называемое ее индексом, таким образом,
что имеет место равенство 1(f) = 52 где сумма берется по всем
i
неподвижным точкам; 5) если х0 — изолированная неподвижная точ-
ка, и дифференциал df отображения f в этой точке не имеет собст-
венных значений, равных единице, то индекс А(жо) неподвижной точ-
ки х0 равен знаку числа detfrZ/' — Е), где Е — тождественное отобра-
жение. При этом df рассматривается как линейное отображение ка-
сательного пространства ТХоМ в себя, задаваемое матрицей I——),
\ OXj /
где yi = fi(xi, ... , хп), {жг} — локальные регулярные координаты в
окрестности неподвижной точки.
Пусть многообразие М, для простоты, ориентируемо. Число Леф-
шеца допускает еще одну более геометрическую интерпретацию. Для
этого рассмотрим прямое произведение многообразия М на себя и из-
образим гладкое отображение f: М —> М в виде «графика» в этом пря-
мом произведении, т. е. рассмотрим в М х М подмножество точек ви-
да (ж, /(ж)), где ж G М (рис. 151). Это подмножество и называется
графиком отображения f. Например, если f — тождественное отобра-
жение, то его график совпадает с диагональю Д прямого произведения,
§ 13. Орбиты присоединенного представления
161
т.е. с подмножеством точек вида (ж, ж). Таким образом, мы получаем
в прямом произведении М х М размерности 2п два компактных глад-
ких ориентируемых замкнутых подмногообразия: Г и Д, каждое из
которых имеет размерность п. Так как сумма их размерностей равна
размерности объемлющего многообразия, то в слу-
чае «общего положения» определен индекс пересе-
чения этих подмногообразий, который мы уже рас-
сматривали выше в § 6. Для этого нужно фиксиро-
вать в каждой точке пересечения два n-репера, ка-
сательных к Г и Д, и сравнить ориентацию 2п-ре-
пера, определяемого ими, с ориентацией объемлю-
щего многообразия М х М (при этом предполага-
ется, что n-реперы задают положительные ориен-
тации на двух подмногообразиях). В зависимости
от того, совпадают ли эти ориентации или нет, ста-
вим +1 или —1 в точке пересечения. Сумма этих
чисел по всем точкам пересечения и есть индекс пересечения Г и Д
в М х М. Оказывается, этот индекс равен числу Лефшеца.
Предложение 13.1. Пусть Г — график гладкого отображения f;
М —> М, а Д — диагональ (т. е. график тождественного отображе-
ния М —> М). Тогда в случае «общего положения» (т.е. когда Г и Д
пересекаются трансверсально в М х М) число Лефшеца 1(f) равно ин-
дексу пересечения Г и Д.
Рис. 153
Доказательство.
Мы воспользуемся свойствами числа 1(f), перечисленными выше.
Поскольку мы предположили трансверсальность пересечения подмно-
162
Глава 4
гообразий Г и Д в многообразии М х М, то число точек пересечения
конечно, и все они изолированы (в силу компактности многообразия).
В каждой точке пересечения s = (хд,х0) касательные плоскости ГЖоГ
и ГЖоД пересекаются только в одной точке, и их сумма дает всю каса-
тельную плоскость TS(M х М) (рис. 152). Мы утверждаем, что условие
трансверсальности пересечения Г и Д в точке s = (жо,Жц) в точности
эквивалентно тому, что дифференциал df в точке xq не имеет собст-
венных значений, равных единице. В самом деле, если a G ТХ0М —
собственный вектор линейного отображения df с собственным числом
единица, то этот вектор а определяет неподвижное направление в ТХ0М
и, следовательно, при рассмотрении графика Г в М хМ определяет век-
тор (а,а), лежащий в пересечении касательных плоскостей Г8Г и Г8Д,
т. е. подмногообразия Г и Д не удовлетворяют условию трансверсаль-
ности в точке s (рис. 153). Полученное противоречие доказывает отсут-
ствие собственных чисел 1 у преобразования df. Осталось доказать, что
знак определителя det (<//'—Е) совпадает со знаком, определяемым в точ-
ке пересечения Г и Д двумя n-реперами, объединенными в один 2п-ре-
пер (см. выше). Пусть жх, ... , хп — локальные регулярные координаты
в малой окрестности неподвижной точки ж(|. Тогда они определяют ли-
нейные невырожденные координаты (которые мы обозначим для прос-
тоты теми же буквами) Жх, ... , хп на касательной плоскости ТХоМ. В
касательной плоскости TS(M х М), распадающейся в прямую сумму
двух плоскостей ТвГ фТ8Д, возникают, следовательно, невырожденные
координаты Жх, ... , хп в плоскости Г8Д и ух, • • • , Уп в плоскости Г8Г
(изоморфной плоскости Т8Д). Таким образом, отображение /, будучи
разложено в ряд Тейлора в окрестности неподвижной точки жц, опреде-
ляет линейное отображение df: ТвА —> Т8Г, являющееся линеаризацией
отображения f. Действие этого отображения показано на рис. 154.
При этом для удобства мы установили каноническое соответствие
между координатами Жх, ... , хп на Г8Д с координатами у^, ... , уп на
плоскости Г8Г с помощью тождественного отображения Е, являющего-
ся, очевидно, дифференциалом тождественного отображения М —> М,
задающего диагональ Д. Таким образом, вектор df(b) — b является раз-
ностью между df(&) и Е(Ь) в плокости Т8Г, т.е. он показывает откло-
нение линейного отображения df от тождественного отображения. Тем
самым мы добились того, что изобразили отображение df: ТвА —> Г8Г
при помощи эндоморфизма плоскости Т8Г, отождествив ее по отобра-
жению Е с исходной плоскостью Т8Д. Теперь очевидно, что ориента-
§ 13. Орбиты присоединенного представления
163
ция 2п-репера определяется знаком определителя det(d/ — Е). Мы полу-
чили определение индекса неподвижной точки, сформулированное нами
выше в свойстве 5. Утверждение доказано.	
Рис. 154
Отметим интересный частный случай. Пусть гладкое отображе-
ние / близко к тождественному отображению М —> М, т. е. определяет
гладкое векторное поле на М (рис. 155). Тогда график этого отображе-
ния (векторного поля) задается поверхностью, близкой к диагонали Д.
Неподвижные точки отображения /, т. е. точки пересечения графика с
диагональю, это, очевидно, нули векторного поля. Следовательно, ин-
декс особой точки в смысле свойства 5 совпадает с индексом особой
точки векторного поля. Трансверсальность пересечения графика с диа-
гональю в этом случае означает, что особая точка векторного поля не-
вырождена (проверьте!). Таким образом, из предложения 13.1 следует,
что число Лефшеца такого отображения равно индексу векторного по-
ля, т. е. эйлеровой характеристике исходного многообразия М. Если же
отображение / не является «малым сдвигом», то, конечно, эта интер-
претация числа Лефшеца разрушается, хотя сохраняется факт, обнару-
женный нами ранее при изучении индекса векторного поля: если этот
индекс (соответственно число Лефшеца) не нуль, то отображение / име-
ет неподвижную точку.
Возвращаемся теперь к изучению орбит в компактной группе (ал-
гебре) Ли. Переходим непосредственно к доказательству теоремы о со-
пряженности максимальных торов в компактной группе.
В качестве многообразия М, фигурировавшего выше, возьмем од-
нородное пространство ®/Т, диффеоморфное орбите общего положения
164
Глава 4
в группе ® (см. выше), так как стационарная подгруппа регулярно-
го элемента совпадает с максимальным тором. Элементом пространст-
ва М являются классы смежности а = аТ по подгруппе Т. В качестве
отображения М —> М возьмем отображение Д-, порождаемое левым
сдвигом на элементы g G ®, т.е. fg(a) = ga = gaT (здесь черту не
следует путать со знаком сопряжения). Таким образом, для каждого
элемента g 6 ® мы получаем свое отображение fg. Пусть аЦ G М —
неподвижная точка отображения fg. Это означает, что выполняется ра-
венство fg(ao) = ао, т.е. gaT = а0Т, т.е. g G адТа^1. Поэтому для
доказательства теоремы 13.1 нам достаточно доказать, что каждое ото-
бражение fg (т. е. при каждом g G ®) имеет по крайней мере одну не-
подвижную точку на многообразии ®/Г. Как мы уже знаем, этот факт
можно извлечь, например, из того, что число Лефшеца l(Jg) отображе-
ния fg отлично от нуля (см. свойство 3 числа l(fg). Поскольку груп-
па ® предполагается линейно связной, то любые две ее точки gi и g?
соединяются непрерывным путем по группе, и, следовательно, любые
два отображения fgl и fg2 гомотопны как отображения М —> М. Сле-
довательно, в силу свойства 2 их числа Лефшеца совпадают. Поэтому
достаточно подсчитать число Лефшеца для какого-то одного элемен-
та у Е ®, который мы, конечно, выберем теперь наиболее подходящим
для нас образом. Удобнее всего взять в качестве такого элемента точку
на торе Т, которая порождает этот тор своими степенями, т. е. явля-
ется в этом смысле «образующей тора Г». При доказательстве следст-
вия 13.4 мы уже использовали существование такого элемента у Е Т,
что элементы уп, п = 1, 2, ... , образуют всюду плотное подмножество
в торе Т.
Изучим теперь неподвижные точки отображения fg. Если oq —
неподвижная точка, т.е. fy(ao) = oq, то у Е адТад-1, и, следователь-
но, Т = адГао-1, т.е. точка ао содержится в нормализаторе N тора Т
в группе ®. Нормализатором подгруппы называется множество эле-
ментов q объемлющей группы, переводящих эту подгруппу в себя при
сопряжении х —> qxq-1. Элементы нормализатора N представляются,
очевидно, автоморфизмами группы Т, т.е. мы можем сопоставить каж-
дому элементу п Е N автоморфизм р(п) тора Т в себя: <p(n)h = n/in-1.
Таким образом, мы получаем гомоморфизм р группы N в группу ав-
томорфизмов тора Т. Хорошо известно что группа автоморфизмов тора
изоморфна группе обратимых целочисленных матриц и, следовательно,
§ 13. Орбиты присоединенного представления
165
является дискретной группой. Отсюда вытекает, что построенный на-
ми гомоморфизм ср группы N в группу автоморфизмов тора постоянен
на связной компоненте No единицы в группе N. Так как нормализа-
тор является замкнутой подгруппой в компактной группе Ли, то N —
группа Ли. Здесь нам потребуется следующая простая
Лемма 13.5. Пусть Ко — связная компонента единицы в группе
Ли К. Тогда Ко — нормальный делитель в К.
Доказательство.
Пусть g G К — произвольный элемент. Надо доказать, что gsg-1 G
€ Ко для любого s Е Kq. Соединим точку s с единицей Е Е Ко не-
прерывным путем 7(i), где 7(0) = Е, 7(1) = s. Тогда g7(0)g-1 =
= gEg-1 = Е. Рассмотрим образ пути 7 при непрерывном отобра-
жении х —> gxg~\ где g фиксирован. Тогда 7 переходит в новый
путь g7g-1 С Ко, по-прежнему начинающийся в единице группы и
идущий в точку g7(l)g-1, совпадающую, очевидно, с точкой gsg-1. Сле-
довательно, gsg-1 Е Ко, что и требовалось.	
Итак, Nq — нормальный делитель в нормализаторе N.
Лемма 13.6. Группа No совпадает с максимальным тором Т.
Доказательство.
Ясно, что все элементы группы No действуют на торе Т как тож-
дественное преобразование. Но это означает, что nhn~r = h, т. е. все
элементы подгруппы Nq коммутируют со всеми элементами макси-
мального тора и наоборот. Далее, Т содержится в No (что очевидно).
Если бы тор Т не совпадал с No, то алгебра Ли группы No была бы
больше алгебры Ли тора Т, а потому можно было бы найти по крайней
мере одну однопараметрическую подгруппу в Т, порождающую вместе
с тором Т новую коммутативную подгруппу, большую, чем тор Т. Но
это невозможно в силу максимальности тора Т. Следовательно, имеет
место равенство No = Т, что и требовалось.	
Лемма 13.7. Фактор-группа N/Т конечна.
Доказательство сразу вытекает из двух предыдущих лемм, так как
группа N компактна, а Г — нормальный делитель в N.
Лемма 13.8. Имеется взаимно-однозначное соответствие между не-
подвижными точками отображения fy: &/Т —> ®/Т, где у — образую-
щая тора Т, и элементами группы N/Т. В частности, все неподвижные
точки отображения fy изолированы, и их имеется конечное число.
166
Глава
Доказательство.
Выше мы видели, что если fy(ao) = ао, то «о G N. Обратно, каж-
дый элемент п G N определяет некоторую неподвижную точку ото-
бражения fy, причем ясно, что изменение элемента п в его компоненте
связности не меняет соответствующую неподвижную точку. Лемма до-
казана.	
Рис. 156
Nr
где Н — картановская
Для подсчета числа Лефшеца осталось
найти индексы неподвижных точек отображе-
ния fy. Если п Е N, то для того, чтобы п бы-
ла неподвижной точкой отображения fy, т.е.
чтобы fy(n) = п, необходимо и достаточно,
чтобы пГп-1 = Т. Это означает, что Т — ста-
ционарная подгруппа точки п в однородном
пространстве ®/Т. Касательное пространст-
во к орбите ®/Т, проходящей через точку п
(т.е. касательное пространство к многооб-
разию ®/Т в точке п), естественно отож-
дествляется с фактор-пространством G/H,
подалгебра в G, т.е. касательная плоскость к
тору Т (рис. 156). Ранее при анализе вложения компактной формы в
комплексную алгебру Ли мы установили, что компактная алгебра Ли
распадается в сумму подпространств ТУ+ФгТо, гДе «То = Н (в наших но-
вых обозначениях). Следовательно, касательная плоскость к группе G
в точке п G N также распадается в сумму плоскостей, получающихся
из W+ и II при левом сдвиге единицы в точку п (см. рис. 156). Поэтому
картину действия преобразования dfy на касательной плоскости к одно-
родному пространству G/Т в точке п можно изучать по действию пре-
образования, индуцированного преобразованием dfy на плоскости W+
в точке Е.
Осталось выяснить, какое именно линейное преобразование инду-
цирует преобразование dfy на плоскости W+, ортогональной к карта-
новской подалгебре Н в точке Е. Выше мы установили, что Т реали-
зуется как стационарная подгруппа точки п в многообразии ®/Г. Сле-
довательно, образующая у тора Т представлена на касательной плос-
кости к ®/Т в точке п преобразованием dfy, а с другой стороны,
представлена на алгебре Ли G посредством линейного преобразова-
ния Ady: X —> уХу-1, где X Е G, у Е Т. Это преобразование Ad,z
сохраняет форму Киллинга и оставляет на месте подалгебру Н, так
§ 13. Орбиты присоединенного представления
167
как у Е Т. Следовательно, Ad,z переводит в себя ортогональное допол-
нение W+ к подалгебре Н в G.
Осталось изучить действие Ad,z на плоскости W+. Представим эле-
мент у в виде ехр(Д), где h — некоторый элемент картановской под-
алгебры. Тогда дифференциал преобразования Ad,z совпадает с преоб-
разованием adft. Действие же преобразования ad/, нами изучено в § 12.
В частности, ad/, представляется кососимметрической матрицей, при-
водящейся к блочно-диагональному виду, причем блоки имеют раз-
мер (2 х 2). Плоскость W+ распадается в прямую сумму двумерных
плоскостей Wa, каждая из которых натянута на векторы Еа + Е-а,
г(Еа ~ Е_а) (см. §12). В каждой плоскости Wa преобразование Ady,
следовательно, является ортогональным преобразованием (поворотом
двумерной плоскости). Мы утверждаем, что это преобразование не
является тождественным ни на какой плоскости Wa. В самом де-
ле, если бы существовал элемент X Е W+ такой, что AdyX = X,
то поскольку элемент у порождает весь
максимальный^ тор, то для любого эле-	^-<^7
мента q Е Т мы имели бы равенство
AdgX = X, т.е. элемент X коммутировал	р[^гТ0___
бы со всеми элементами тора и, следова- р
тельно, со всеми элементами картановской	га
подалгебры //. что противоречит макси-
мальности картановской подалгебры в ал-
гебре G. Следовательно, оператор Ad,z име-
ет на плоскости W+ только следующие соб-	Рис‘ ^7
ственные числа: —1 (с некоторой кратностью) и пары сопряженных
(комплексных) собственных значений <ра, г<ра, где <ра вещественно.
В терминах ортогонального поворота плоскости Wa это означает, что
могут реализовываться только повороты на тг и на углы, отличные от О
и 2тг (рис. 157). Если преобразование Ad,z записать в виде матрицы, то
она имеет вид
cos^i sini^i
— sin^?i cos^i
cos ipe sin ipe
— sin ipe cos ipe
168
Глава
Переходя к подсчету определителя det(d/y — Е), получаем
<let (<//',, — Е) = (—1)™, где т — некоторое целое число. При этом по-
скольку у — образующая максимального тора, то число т не зависит
от неподвижной точки п, в которой производится подсчет определи-
теля. Следовательно, число Лефшеца отображения fy отлично от нуля
и равно (—1)™ • d, где d — число неподвижных точек отображения fy.
Отсюда вытекает, что число Лефшеца равно (по модулю) порядку груп-
пы N/Т (см. лемму 13.8) и, в частности, всегда отлично от нуля. Тео-
рема доказана.
4.	Группа Вейля и ее связь с орбитами
Пусть Т — максимальный тор в компактной группе Ли ®, a N —
его нормализатор. Тогда, как было доказано в предыдущем пункте,
определена конечная группа Ф = N/Т. Если ® — компактная полупрос-
тая группа Ли, то группа Ф называется группой Вейля. Число элементов
в группе Вейля равно числу точек пересечения орбиты общего положе-
ния с максимальным тором (см. рис. 148). Это вытекает из следующего
утверждения.
Утверждение 13.1. Пусть t G Т — регулярный элемент группы ®.
Тогда его орбита O(t) пересекается с максимальным тором Т в конеч-
ном числе точек, и это множество точек пересечения является в свою
очередь орбитой элемента t при действии группы Вейля Ф на торе Т.
Число точек в орбите Ф(1) равно порядку группы Ф.
Доказательство.
Ясно, что орбита элемента t при действии группы Вейля лежит в
пересечении орбиты 0(1) с тором Т. Нужно доказать обратное включе-
ние: 0(1) П Т С {</?(£), где G Ф}. Это вытекает из следующей леммы.
Лемма 13.9. Если два элемента максимального тора сопряжены, то
они преобразуются друг в друга преобразованиями из группы Вейля.
Доказательство.
В действительности мы докажем несколько более общее утверж-
дение, имеющее и другие полезные следствия, кроме указанного выше.
Пусть ® — связная компактная группа и Р — некоторое подмножес-
тво в максимальном торе Т такое, что для некоторого элемента g Е ®
выполняется соотношение gPg~r С Т (рис. 158). Тогда существует
элемент нормализатора п G N такой, что прпГ1 = gpg-1 для всяко-
го р G Р. Это означает, что сопряжение, переводящее часть тора снова
§ 13. Орбиты присоединенного представления
169
в тор, может быть реализовано за счет нормализатора (и в конечном
итоге за счет группы Вейля). Пусть R — подгруппа в ®, составленная
из всех элементов, коммутирующих с элементами из подмножества Р.
Через Rq обозначим связную компоненту единицы в группе R. Ясно,
что Rq является связной компактной группой Ли, содержащей макси-
мальный тор. Рассмотрим сопряжение этого тора при помощи элемен-
та g G ®, упомянутого в формулировке нашего утверждения. Посколь-
ку множество gPg~r остается в торе Т, то все элементы из gPg~r
коммутируют с тором Т. Это эквивалентно тому, что все точки мно-
жества коммутируют со всеми точками «повернутого тора», т. е. с точ-
ками из g~rTg (см. рис. 158). В самом деле, если р Е Р, то (gpg-1)t =
= i(gpg-1), t Е Т, откуда p(g-1ig) = (g-1ig)p, что и требовалось до-
казать. Следовательно, «повернутый тор» g~rTg коммутирует со всеми
элементами множества Р, т.е. он содержится в подгруппе Ro. Итак,
группа Rq содержит две коммутативные подгруппы: исходный тор Т и
«повернутый тор» g~rTg. Но обе эти подгруппы являются максималь-
ными торами в объемлющей группе ® и тем более являются макси-
мальными коммутативными подгруппами в меньшей группе Rq. Следо-
вательно, в силу теоремы 13.1 они сопряжены в группе Rq, т.е. сущест-
вует такой элемент г Е Rq, что rg~1Tgr~1 = Т, т.е. п = gr-1 Е N. От-
сюда следует, что прпГ1 = gmg-1, так как npnP1 = gr-1prg-1 = gpg-1,
поскольку г Е Ro, т. е. гр = рг. Лемма доказана, что и завершает дока-
зательство утверждения 13.1.
Предоставляем читателю в качестве упраж-
нения доказать следующие полезные факты.
1)	Пусть S — какая-нибудь связная замк-
нутая коммутативная подгруппа (т. е. тор) в
связной компактной группе Ли ® и пусть g Е
Е ® — элемент, коммутирующий со всеми эле-
ментами тора S. Тогда в группе ® существу-
ет максимальный тор, содержащий как подгруп-
пу S, так и точку g.
2)	Всякий элемент компактной связной груп-
пы, коммутирующий со всеми элементами мак-
симального тора, принадлежит этому тору.
3)	Центр компактной связной группы содержится в каждом мак-
симальном торе группы, т.е. лежит в пересечении всех максимальных
170
Глава
торов. Отметим, что центр компактной связной полупростой группы
дискретен (даже конечен).
4)	Группа Вейля действует на максимальном торе эффективно, т. е.
если какой-то ее элемент оставляет на месте все точки тора, то этот
элемент является единицей в группе Вейля.
5)	Всякий максимальный тор в связной компактной группе явля-
ется в то же время максимальной коммутативной подгруппой. Это вы-
текает из утверждения 2).
6)	Пусть ® — односвязная компактная связная простая группа
Ли, т.е. одна из групп, перечисленных нами выше (см. классификацию
простых алгебр и групп Ли и их компактных форм). Тогда центр Z(0)
является абелевой группой, причем
Z(-^n) —	Z(Вп) = Z2, Z(Сп) = Z2, Z(T?2n) = Z<2 Ф Z2,
Z(D2n+i) = Z4, Z(C?2) = 0, Z{Fi) = 0, Z(E§) = 0,
Z(Ei) = Z2, Z(Ea) = 0.
Отметим, что если D С Z(&) — какая-либо подгруппа центра, то
фактор-группа ®/Л также является группой Ли, причем алгебры Ли
групп ® и ®/Л, очевидно, изоморфны, так как перечисленные выше
центры являются дискретными (даже конечными) подгруппами в ®.
Такие группы Ли называются локально-изоморфными. Если D — не-
тривиальная подгруппа, то группы ® и (5/D не гомеоморфны (как груп-
пы Ли), но имеют одинаковые алгебры Ли. Компактные простые груп-
пы Ли серий G2, F4, Eg вообще не имеют других локально-изоморфных
групп, отличных от односвязной, так как их центры равны нулю. В се-
рии локально-изоморфных компактных групп Ли естественно выделе-
ны две группы: односвязная группа © — «максимально развернутая»
группа и фактор-группа ®/Z(0) — «максимально свернутая» группа.
Как известно [1, с. 551-554], фундаментальная группа базы регулярно-
го накрытия изоморфна группе монодромии, т.е. слою накрытия. В на-
шем случае отображение естественной проекции тг: (5 —> ®/Z(0) яв-
ляется регулярным накрытием, слоем которого является центр Z(&).
Следовательно, фундаментальная группа базы, т.е. группы Ли &/Z (&)
изоморфна центру Z(&).
В заключение рассмотрим пример: группа Вейля унитарной груп-
пы Un, т.е. группы унитарных матриц размера (п х п). Как мы вы-
яснили ранее, максимальной коммутативной подгруппой (максималь-
§ 13. Орбиты присоединенного представления
171
ным тором) Т в группе Un является подгруппа диагональных мат-
(e^i О \
I. Пусть N — нормализатор этого максимального
О	eiVn /	~
тора в Un. Каждая матрица t G Т изображается унитарным линейным
преобразованием в комплексном пространстве С", снабженном эрмито-
вым базисом ei, ... , е„, инвариантным относительно преобразования t.
Каждый вектор es является собственным, отвечающим собственному
значению Всякая матрица q из нормализатора N переводит любую
прямую I, инвариантную относительно Т, в прямую I' = q(T), облада-
ющую тем же свойством. В самом деле, i(Z') = q(q-1£q)(O = q(l) = I'
при t G T, поскольку q~rtq G T. Единственными прямыми, инвариант-
ными относительно всех преобразований из тора, являются координат-
ные оси, порожденные {е^}. Таким образом, всякое преобразование q из
нормализатора N задается так: гг —> А^е^), где Xi — некоторые числа,
а <т — перестановка п элементов (1,2,..., п). Тем самым мы в явном
виде находим группу Вейля, поскольку, факторизуя N по тору Т, мы
получаем группу перестановок гг —> e^j).
Глава 5
Симплектическая геометрия
§ 14.	Симплектические многообразия
1.	Симплектическая структура и ее каноническое пред-
ставление. Кососимметрический градиент
Начиная с этого параграфа, мы переходим к изучению важно-
го класса гладких многообразий — так называемых симплектических
многообразий. Они появляются во многих прикладных вопросах, напри-
мер в задачах классической механики, и поэтому их изучение совер-
шенно необходимо для решения многих конкретных проблем. Мы уже
подробно ознакомились с римановыми многообразиями [2], т. е. с много-
образиями, снабженными симметричным скалярным невырожденным
произведением в касательных плоскостях (обычно мы рассматривали
положительно определенные римановы метрики). Другим способом вве-
дения на гладком многообразии дополнительной содержательной струк-
туры является задание кососимметрического скалярного произведения,
гладко зависящего от точки. Это и приводит нас к симплектическим
многообразиям, геометрия которых существенно отличается от геомет-
рии римановых пространств. Поскольку кососимметричное скалярное
произведение (в касательных плоскостях) определяется кососимметри-
ческим тензором второго ранга, то для его задания достаточно задать
внешнюю дифференциальную форму второй степени.
Определение 14.1. Гладкое четномерное многообразие М2п называ-
ется симплектическим, если на нем задана внешняя дифференциаль-
ная форма а> = 52 u>ij dxi Л dxj степени два такая, что: 1) эта форма
i<j
невырождена, т.е. матрица ее коэффициентов (а>у(х)) невырождена в
каждой точке, 2) эта форма замкнута, т. е. da> = 0, где d — операция
внешнего дифференцирования [2, гл. 6]. Такая форма иногда называ-
ется симплектической структурой на многообразии.
§ 14. Симплектические многообразия
173
Ясно, что форма со определяет в касательном пространстве ТхМ2п
невырожденное кососимметричное скалярное произведение
w(a,b) = ^^cOijUibj, где а = (a,-), b = (bj), a,b Е ТХМ.
1,з
Если точка Хд фиксирована, то, как известно из курса алгебры,
существует такая замена координат в касательном пространстве ТХМ.
порожденная локальной регулярной заменой координат xi, ... , х?,, в
окрестности точки х0, что матрица (щ^(жо)) приведется к каноничес-
кому виду:
Это скалярное произведение определяет, очевидно, каноничес-
кое отождествление касательного пространства ТХМ и кокасательно-
го Т*М (об этой операции см. подробнее в [2, гл. 5]). Напомним, что
дуальное пространство Т*М состоит из ковекторов — линейных форм
на касательном пространстве. Наличие канонического отождествления
касательного и кокасательного пространств, порожденного формой со,
позволяет определить важную операцию, являющуюся аналогом опе-
рации построения градиента grad/ — векторного поля на многообра-
зии, если на М задано симметричное скалярное произведение (римано-
ва метрика).
Определение 14.2. Пусть / — гладкая функция на М, и со —
симплектическая структура, кососимметрическим градиентом sgrad/
функции / («косым градиентом») называется гладкое векторное поле
на М, однозначно определяемое соотношением co(v, sgrad/) = г>(/),
где v пробегает множество всех гладких векторных полей на М,
а г>(/) — значение дифференциального оператора v (векторного поля)
на функции /.
( df
Другими словами, следует сначала рассмотреть ковектор —,...
\ (7X1
df \
... , — I Е ТХМ, а затем, опираясь на каноническое отождествле-
(УХп /
174
Глава 5
ние Т* и Тх при помощи формы ш (см. выше), построить соответ-
ствующее этому ковекторному полю векторное поле, которое и явля-
ется кососимметрическим градиентом. Если бы мы использовали для
такого отождествления риманову метрику, то получили бы вектор-
ное поле grad/. Однозначность построения sgrad/ вытекает из невы-
рожденности а>. Обычно локальные координаты на симплектическом
многообразии обозначают pi, ... , рп, qi, ... , qn, причем эти коорди-
наты могут быть выбраны таким образом, что в фиксированной точ-
ке хо матрица (щ^(ж0)) записывается так: (_% ^), где Е — единичная
матрица размера п х п. Если же координаты занумеровать в поряд-
ке: pi, Qi, р2, q2, ••• , Pnt Qn, то матрица (сн^(жо)) может быть записа-
на в блочно-диагональном виде, указанном выше. При таком специаль-
ном выборе локальных координат pi, ... , ри, qi, ... , qn векторное по-
ле sgrad / в точке Xq записывается особенно просто. В самом деле, так
как
df
dpi
Е ТХаМ,
ТО
В координатах pi, Qi, ... , рп- Qn имеем
. f, (_0f_ df _df_ df_\
sgrad/^o) dqi, dpi, ••• , gq^dpn)-
Как мы знаем, риманова метрика также может быть приведена в
одной точке к каноническому (диагональному) виду выбором подходя-
щих локальных координат. В этом смысле обе структуры — риманова и
симплектическая — похожи. Однако между ними есть и серьезное раз-
личие, проявляющееся в тот момент, когда мы переходим к рассмотре-
нию целой окрестности точки ж0- Как мы знаем [2], риманова метрика в
общем случае не может быть путем замены координат приведена к еди-
ничному, евклидову виду в целой окрестности, поскольку этому может
воспрепятствовать ненулевой тензор римановой кривизны. Симплекти-
ческая структура, напротив, всегда приводится к каноническому виду
путем замены координат сразу в достаточно малой окрестности точки
(размеры окрестности определяются свойствами формы).
§ 14. Симплектические многообразия
175
Предложение 14.1. Пусть ш — симплектичеекая структура на М2п.
Тогда для любой точки xq G М существует открытая окрестность с
локальными координатами р±, ... , рп, q±, ... , qn такими, что в этих
координатах форма ш записывается простейшим каноническим обра-
п
зом: и = 52 dpi Л dqi.
i=l
Рис. 159
Доказательство см., например, в [8]. Это предложение оказыва-
ется полезным во многих вычислениях, связанных с симплектичес-
кими структурами. Локальные координаты, существование которых
утверждается в теореме и приводящие форму а> к каноническому ви-
ду, называются иногда симплектическими координатами. Ясно, что
покрывая многообразие М открытыми окрестностями указанного в
предложении 14.1 вида, мы получим атлас (см. определение атласа
в [2, гл. 3]), который также иногда называется симплектическим. Прос-
тейший пример симплектического многообразия — евклидово про-
п
странство IR2”(pi, ... , Qi), снабженное формой ш = 52 dpi Л dqi. Вто-
i=l
рой пример — гладкие двумерные ориентируемые замкнутые римано-
вы многообразия, т.е. сферы с ручками. Здесь в качестве симплекти-
ческой структуры можно взять стандартную форму двумерного ри-
манова объема, являющуюся замкнутой невырожденной внешней 2-
формой [2]. Как мы уже знаем, в окрестности любой точки можно
выбрать такие локальные координаты р, q, в которых эта форма за-
пишется в виде y/gdp Л dq, где g = det(gjj), gij — метрический тен-
зор. Приведем важный пример симплектического многообразия. Пусть
Мп — гладкое многообразие и Т*М — его кокасательное расслоение,
176
Глава 5
т.е. точкой Т*М является пара (ж, £), где х Е М, £ G Т*М, т. е. £ —
ковектор в точке х. Легко проверить, что Т*М является гладким 2п-
мерным многообразием. Естественная проекция р: Т*М —> М опре-
деляется так: р(ж,£) = х. Ясно, что Т*М превращается в расслоен-
ное пространство, где базой является исходное многообразие М, а сло-
ем р-1(ж) над точкой х — кокасательное пространство Т*М. Определим
на многообразии Т*М симплектическую структуру. Для этого снача-
ла построим на Т*М гладкую 1-форму оА1). Пусть а Е Ту(Т*М) —
вектор, касательный к кокасательному расслоению Т*М в точке у Е
Е Т*М С Т*М (рис. 159, а). Дифференциал отображения р: Т*М —> М
переводит этот вектор а в вектор р*а, касательный к многообразию М
в точке х = р(у) = р(х,£) Определим теперь дифференциальную 1-фор-
му и/1) на пространстве Т*М следующим образом: о/1)(а) = (£,р*а),
т.е. значение формы равно значению ковектора £ на векторер*а. Окон-
чательно в качестве искомой 2-формы ш мы возьмем внешний диффе-
ренциал от формы и/1), т.е.	. Читателю предоставляется в
качестве полезного упражнения проверить, что эта 2-форма замкнута
и невырождена, т.е. Т*М превращается в симплектическое многообра-
зие.
2.	Гамильтоновы векторные поля
Определение 14.3. Гладкое векторное поле v на симплектическом
многообразии М2п с формой ш называется гамильтоновым, если оно
имеет вид v = sgradF, где F — некоторая гладкая функция на М,
называемая гамильтонианом.
В специальных симплектических координатах Pi,qi гамильтоново
/ пр ж\
векторное поле записывается так:! — ——, —— ) (см. п. 1). Гамильтоно-
\ dqt dptj
вы векторные поля (иногда их называют гамильтоновыми потоками)
допускают другое важное описание на языке порожденных ими одно-
параметрических групп диффеоморфизмов многообразия М. Пусть v —
гамильтоново поле и — одномерная группа диффеоморфизмов М,
представленная сдвигами вдоль интегральных траекторий поля v. Это
означает, что группа состоит из преобразований gt, действующих
на М так: gt(x) = у, где х = 7(0), у = 7(£), 7 — интегральная тра-
ектория поля v, проходящая через точку х в момент времени t = 0
(см. рис. 159,6). Другими словами, диффеоморфизм gt сдвигает каж-
§ 14. Симплектические многообразия
177
дую точку х на время t вдоль траектории 7. Поскольку форма а> опре-
делена на М, то диффеоморфизм gt переводит эту форму в новую фор-
му: (gfw)(x) = w(gt(x)). Следовательно, определена производная фор-
мы w вдоль векторного поля и, т.е.
Определение 14.4. Векторное поле v на симплектическом многооб-
разии М называется локально-гамильтоновым, если это поле сохраняет
симплектическую структуру ш на М, т. е. производная формы по
направлению векторного поля равна нулю: ^(gfw) = 0.
Другими словами, форма инвариантна относительно всех преоб-
разований вида gt, порожденных полем v, т.е. инвариантна относитель-
но действия однопараметрической группы &*. Термин «локально-га-
мильтоново поле» обязан своим происхождением следующему обстоя-
тельству.
Предложение 14.2. Гладкое векторное поле v на симплектическом
многообразии М является локально-гамильтоновым тогда и только
тогда, когда для любой точки х Е М существует такая окрест-
ность U(x) этой точки и такая гладкая функция Ни, определенная
на этой окрестности, что v = sgradJ/cr, т. е. поле v является гамиль-
тоновым в окрестности U с гамильтонианом II и.
Доказательство см., например, в [2, с. 432-433]. Ясно, что любое
гамильтоново поле на М является локально-гамильтоновым. Обратное
неверно, т.е. поле, допускающее представление в виде sgradНц на каж-
дой окрестности U, может не допускать глобального представления в
виде sgrad F, где F — некоторая гладкая функция, определенная уже на
всем многообразии. Другими словами, локальные гамильтонианы Ни,
определенные на отдельных окрестностях U, могут не «сшиваться» в од-
ну гладкую функцию F, определенную на всем М. Впрочем, в дальней-
шем мы будем в основном изучать гамильтоновы поля, определенные
на всем многообразии и имеющие вид sgrad F, где F — гамильтониан,
определенный на всем М.
Задача. Докажите, что векторное поле на двумерном римановом мно-
гообразии является локально-гамильтоновым тогда и только тогда, ког-
да дивергенция этого поля равна нулю, т.е. это поле изображает поток
несжимаемой жидкости на двумерной поверхности.
178
Глава 5
3.	Скобка Пуассона и интегралы гамильтоновых полей
Определение 14.5. Скобкой Пуассона двух гладких функций / и g на
симплектическом многообразии М называется гладкая функция {/, g},
определяемая формулой
{f,g} = щ (sgrad/, sgrad g) = ^w0(sgrad/)i(sgradg)>.
i,3
Другими словами, нужно вычислить кососимметрическое скаляр-
ное произведение «косых градиентов» функций / и g. В явном виде че-
рез частные производные функций f и g скобка Пуассона записывается
так:
{/>«} = 52
dxidxf
что (sgrad/); = £
j
где Xi — локальные координаты, а сц1-7 — коэффициенты матрицы,
обратной к матрице (wij). Здесь мы использовали то обстоятельство,
.. df
xl:i ——. Исходя из определения, легко доказывается
дхз
следующее утверждение (см., например, [8, 2]).
Предложение 14.3. Операция взятия скобки Пуассона f,g—> {/, g}
удовлетворяет соотношениям: 1) операция {/,g} билинейна, 2) опе-
рация {/,g} кососимметрична, т.е. {/,g} = — {g,f}, 3) имеет мес-
то тождество Якоби: {h, {/, g}} + {g, {h, /}} + {/, {g, h}} = 0 для лю-
бых f,g,h.
Итак, линейное бесконечномерное пространство F(M) гладких
функций F на гладком симплектическом многообразии М естествен-
ным образом превращается в бесконечномерную алгебру Ли над по-
лем R. Отметим, что появление этой алгебры целиком обязано нали-
чию операции «косого градиента», поскольку операция взятия обычно-
го градиента алгебры Ли не порождает. В этом еще одно отличие ко-
сосимметрических скалярных произведений (симплектических струк-
тур) от симметрических (римановых метрик). В дальнейшем нас часто
будут интересовать различные конечномерные подалгебры в алгебре
Ли F(M). Построим естественное отображение а алгебры Ли F(M) в
алгебру Ли V(M) всех гладких векторных полей на многообразии М.
Это отображение определим так: a(J) = sgrad/.
§ 14. Симплектические многообразия
179
Лемма 14.1. Отображение a: F(M) —> V(M) является гомоморфиз-
мом алгебр Ли, т. е. a{/,g} = [«(/), a(g)]. Это означает, что операция
взятия скобки Пуассона переходит при отображении а в операцию взя-
тия обычного коммутатора двух векторных полей a(J), a(g).
Доказательство следует из предложения 14.3 и определения опера-
ции sgrad (проверьте!).
Образом алгебры Ли F(M) в алгебре Ли V(M) является подал-
гебра, которую мы обозначим через Н(М). Элементами ее являются
векторные поля на М, представимые в виде sgrad/, т.е. (в нашей пре-
дыдущей терминологии) гамильтоновы поля. Таким образом, Н(М) —
подалгебра, состоящая из гамильтоновых полей на М. Это означает, в
частности, что обычный коммутатор двух гамильтоновых полей сно-
ва является гамильтоновым полем. При этом гамильтониан получает-
ся как скобка Пуассона двух исходных гамильтонианов коммутиру-
емых полей. Отметим, что отображение a: F(M) —> Н(М) являет-
ся эпиморфизмом, но не мономорфизмом, поскольку а имеет нену-
левое ядро. Если многообразие связно, то это ядро состоит из функ-
ций, постоянных на многообразии. Следовательно, Кег(а) одномерно
и Н(М) = F(M)/Ker(a) = FIM)/^1. Конечно, подалгебра Н{М) в ал-
гебре V(M) зависит от выбора симплектической структуры на М. Так,
если мы изменим форму со, то изменится и подалгебра Н(М), поэтому
для строгости нужно было бы написать Н^(М). но мы будем опускать
индекс со, подразумевая его. Скобка Пуассона функций / и g имеет сле-
дующую простую интерпретацию: {/,g} = (sgradf)g, т.е. совпадает
с производной функции g вдоль векторного по-
ля sgrad/. Это вытекает из определения:
u(v, sgradg) = v(g) = 52
г
Это простое наблюдение чрезвычайно полезно при из- /Д~~ ~	~/Л
учении интегралов гамильтоновых полей.
Определение 14.6. Гладкая функция / на много- ----------
образии М называется интегралом векторного по-
ля v, если эта функция постоянна вдоль всех интег- рис jgg
ральных траекторий поля v. Другими словами, про-
изводная функции / по направлению поля v должна
быть равна нулю (рис. 160).
180
Глава 5
Предложение 14.4. Пусть v = sgradF — гамильтоново поле на М
и f — гладкая функция, коммутирующая (в смысле скобки Пуассона)
с гамильтонианом этого поля, т.е. {f,H} = 0. Тогда функция f явля-
ется интегралом поля v.
Доказательство.
Вычисляя производную от / вдоль поля v, имеем v(f) =
= cj(i>,sgrad/) = w(sgradF, sgrad/) = {F,f} = 0. Предложение дока-
зано.	
В частности, функция F — гамильтониан — всегда интеграл по-
ля v, так как {F. F] = 0 в силу косой симметрии скобки Пуассона.
Итак, у любого гамильтонова поля всегда есть по крайней мере один
интеграл — это гамильтониан. Отсюда мы получаем следующее свой-
ство гамильтоновых полей: интегральная траектория поля не может
быть всюду плотна на многообразии, поскольку она всегда остается на
гиперповерхности, определяемой уравнением F = const. Поэтому ес-
ли у поля есть интегральная траектория, всюду плотная в некоторой
открытой области, то это поле не может быть гамильтоновым. Таким
образом, гамильтоново поле сохраняет слоение многообразия на гипер-
поверхности F = const.
Предложение 14.5. Если fug — два интеграла гамильтонова век-
торного поля v = sgradF, то их скобка Пуассона {/, g} также является
интегралом этого поля.
Доказательство.
Из тождества Якоби получаем {F, {/, g}} = — {g, {F, /}} —
— {f, {g, F}} = 0.	
Это предложение позволяет в принципе конструировать новые ин-
тегралы гамильтонова поля, если известны два таких интеграла. Впро-
чем, этот путь построения интегралов далеко не всегда приводит к
успеху, так как функция {/, g} может оказаться функционально зави-
симой от исходных функций f и g (т. е. ничего нового мы не полу-
чим). Здесь мы вплотную подошли к задаче нахождения как можно
большего числа интегралов гамильтонова поля. Дело в том, что каж-
дое такое поле определяет систему обыкновенных дифференциальных
уравнений порядка 2п на многообразии М, так как в локальных ко-
ординатах Ж1, ... , Х2П поле v записывается так: it = V{(xi, ... , х?,,).
где Vi — компоненты поля v, а х^ — производные по времени t. Интег-
ральные траектории поля v — это решения соответствующей системы.
§ 14. Симплектические многообразия
181
Итак, если поле v имеет интеграл /, то мы понижаем порядок систе-
мы на единицу, ограничивая поле на гиперповерхности / = const, по
которым и «течет поток» v. Предположим теперь, что поле v имеет два
интеграла / и g, причем / и g функционально независимы на многооб-
разии. Условие независимости удобно формулировать на языке гради-
ентов этих функций. В самом деле, имеет место простое утверждение:
если два поля grad/ и gradg линейно независимы в каждой точке от-
крытого всюду плотного подмножества U С М, то / и g функционально
независимы на многообразии. При этом в дальнейшем мы будем иметь
дело с полиномиальными функциями на алгебраических многообрази-
ях, поэтому мы и потребовали, чтобы множество U было открыто и
плотно в М. При работе с гладкими функциями следует иметь в виду,
что в этом случае пара функций может быть функционально независи-
ма на одной области в М и, напротив, зависима на другой области в М
(рис. 161). Для полиномов такие ситуации, конечно, невозможны.
Рис. 161
Если / и g — два функционально независимых интеграла, то они
определяют два различных слоения многообразия М на гиперповерх-
ности: / = const и g = const, причем в случае «общего положения»
эти гиперповерхности пересекаются трансверсально по подмногообр-
азиям Q размерности 2п — 2. Так как поле v сохраняет / и g, то поле v
касается поверхностей Q2n~2 (рис. 162). Следовательно, поле v может
быть ограничено на семейство инвариантных поверхностей размернос-
ти 2п — 2, и мы понизили порядок системы на две единицы. В общем
случае, если мы обнаружили г функционально независимых интегралов
поля, то мы понижаем порядок исходной системы на г единиц и редуци-
руем задачу нахождения решений системы к задаче на инвариантных
(относительно поля) поверхностях размерности 2п — г. В «идеальном
случае» для нахождения решений системы следовало бы найти 2п — 1
182
Глава 5
функционально независимых интегралов. В этом случае совместные по-
верхности уровня набора функций Д, ... , Дп-i являлись бы одномер-
ными траекториями, совпадающими с интегральными траекториями
исходной системы. Формально нужен еще один параметр, чтобы задать
движение точек по этим траекториям. Другими словами, мы полнос-
тью проинтегрировали бы систему в том смысле, что представили бы
все ее решения в виде совместных линий уровня известных нам функ-
ций fi, ... , Дп-i- Однако такая ситуация для реальных механических
систем встречается настолько редко, что рассчитывать на существова-
ние такого набора независимых функций на практике не приходится.
В связи с этим иногда приходится удовлетворяться «частичной
интегрируемостью», которая в разных задачах может принимать раз-
ные формы. Понятно, что нужно требовать от такой «частичной ин-
тегрируемости» системы. Желательно найти такой набор независимых
функций fi, ... , fr на многообразии, чтобы их совместные поверхнос-
ти уровня (по которым «течет» поток v) были бы устроены достаточно
просто, например чтобы все они (или почти все) были бы диффеоморф-
ны какому-нибудь одному хорошо изученному многообразию. При этом
задача описания решений системы разбивается на два шага: 1) снача-
ла мы предъявляем г интегралов, что позволяет описать их совмест-
ную поверхность уровня Q2n~r, 2) затем мы пытаемся описать движе-
ние системы (т.е. движение точек вдоль интегральных траекторий) на
этих поверхностях уровня. Замечательным обстоятельством является
существование для многих конкретных систем таких наборов интегра-
лов, которые позволяют реализовать описанную выше теоретическую
программу. Один из самых известных результатов такого рода — тео-
рема Лиувилля.
4.	Теорема Лиувилля (коммутативное интегрирование га-
мильтоновых систем)
Определение 14.7. Говорят, что две гладкие функции f и g на сим-
плектическом многообразии находятся в инволюции, если их скобка Пу-
ассона равна нулю.
Как мы видели, для полного интегрирования системы нужно
знать 2п — 1 интегралов системы. Оказывается, что для гамильтоновых
систем достаточно знать лишь п функционально независимых интегра-
лов (2п — размерность М), находящихся в инволюции. В этом случае
каждый интеграл «засчитывается за два интеграла», т. е. это позволя-
§ 14. Симплектические многообразия
183
ет понижать порядок системы каждый раз не на одну, а сразу на две
единицы. Более того, в этом случае исходная система интегрируется «в
квадратурах».
Теорема 14.1. Пусть на симплектическом многообразии М2п за-
дан набор из п гладких функций f±, ... , fn, находящихся в инволюции,
т. е. {fi, fj} = 0 при 1 < г, j п. Пусть — совместная поверхность
уровня функций (fi), т. е. !\'Ь = {х G М: fi(x) = £,, 1 г и}- Пред-
положим, что на этой поверхности уровня все п функций fi, ... , fn
функционально независимы (т.е. градиенты gradfi, 1 i п, линей-
но независимы во всех точках поверхности М$). Тогда выполняются
следующие утверждения:
1)	поверхность является гладким п-мерным подмногообразием,
инвариантным относительно каждого векторного поля Vi = grad/г, га-
мильтониан которого — функция fi;
2)	если многообразие !\'Ь связно и компактно, то оно диффеоморф-
но п-мерному тору Тп. В общем случае, если поля V{ — полные вектор-
ные поля, то связное неособое многообразие (уже не обязательно
компактное) является фактор-группой евклидова пространства по
некоторой решетке ранга не превосходящего п;
3)	если поверхность уровня компактна и связна (т. е. являет-
ся тором), то в некоторой ее открытой окрестности можно ввести
такие регулярные криволинейные координаты (называемые «действие-
угол») Si, ... , sn, ipi, ... , ipn, где 0 (fi 2тт, что;
а)	симплектическая структура а> в этих координатах записыва-
п
ется простейшим образом, т.е. ш dsi Л dipt, что эквивалентно
г=1
тому, что функции Si, ... , sn, </?i, ... , ipn удовлетворяют следующим
соотношениям: {sj, .sy } =	= 0, {sj, ipj} =
б)	функции si,...,sn являются координатами в направлении,
трансверсальном тору Тп, и функционально выражаются через интег-
ралы fi, ... , fn, т. е. Si — ^i(fi, * • * , fn), 1 п,
в)	функции <pi, ... , ipn являются координатами на торе Тп = S1 х
х ... х S1, где tpi — угловая координата окружности S1 с номером г,
О Sj ifi 2тг;
г)	каждое векторное поле v = gradF, где F — любая из функ-
ций fi, ... , fn, будучи записано в координатах </?i, ... , <рп на торе Тп,
приобретает вид = Qi(^i, ... , £.п), т.е. компоненты этого по-
ля постоянны на торе, и интегральные траектории поля определя-
184
Глава 5
ют условно-периодическое движение системы v, т. е. задают «прямо-
линейную обмотку» тора Тп. Здесь функции q-t, 1 i п, определе-
ны в некоторой окрестности тора, и на близких поверхностях уровня
мы также имеем <pi = Qi(si, ... , sn). Таким образом, исходная сис-
тема v = sgradF записывается в окрестности тора Тп в координа-
тах si, ... , ipn в виде Si = 0,	= Qi(si, ... , sn), 1 i п (рис. 163).
Рис. 163
Мы видим, что если функ-
ции /1, ... , fn независимы на М,
то все неособые поверхности уров-
ня (т. е. такие, на которых гра-
диенты функций независимы, в част-
ности, отличны от нуля) диффео-
морфны одному и тому же прос-
тому многообразию — п-мерному
тору. Конечно, вложение этого то-
ра в объемлющее многообразие мо-
жет быть достаточно сложным (см.
рис. 163), однако эта «сложность» мо-
жет быть изучена исходя из инфор-
мации о функциях fi, ... , fn, кото-
рые нам известны. Далее, на самом
торе векторное поле sgradF устро-
ено максимально простым образом,
поскольку относительно угловых ко-
ординат (pi, ... , ipn это поле стано-
вится полем с постоянными компо-
нентами, т. е. оно полностью определяется заданием вектора скорости
в одной точке тора. В случае «общего положения» каждая траектория
поля определяет всюду плотную обмотку тора.
Важность этой теоремы обосновывается тем фактом, что, как бу-
дет показано ниже, многие интересные механические системы и их ана-
логи допускают такое «интегрирование по Лиувиллю». Если нам задана
конкретная система v = sgradF, где F — некоторая функция на М, то
мы будем говорить, что эта система «вполне интегрируема (по Лиувил-
лю) в коммутативном смысле», или «допускает полное коммутативное
интегрирование», если существует набор функций Д = F, f->- ... ,
удовлетворяющих условиям теоремы 14.1. В этом случае система v
определяет условно-периодическое движение по торам половинной раз-
§ 14. Симплектические многообразия
185
мерности. Ниже мы познакомимся и с так называемым «некоммута-
тивным интегрированием». Таким образом, если фиксирован гамиль-
тониан F, то первой задачей является нахождение еще п — 1 функций,
образующих совместно с F функционально независимый набор, комму-
тативный относительно скобки Пуассона. Это эквивалентно включению
функции F, рассматриваемой здесь как элемент алгебры Ли F(M) (см.
выше), в коммутативную подалгебру размерности п, аддитивный базис
которой состоял бы из функционально независимых функций.
С похожей задачей мы уже столкнулись ранее при изучении конеч-
номерных алгебр Ли и коммутативных подалгебр в них. Однако сейчас
ситуация значительно сложнее, поскольку здесь мы имеем дело с бес-
конечномерной алгеброй Ли, и какие-либо аналоги «конечномерных те-
орем» о поведении аналогов подалгебр Картана отсутствуют. Поэтому
нахождение полного коммутативного набора функций, интегрирующих
систему в каждом конкретном случае, является нетривиальной зада-
чей, определяемой спецификой рассматриваемой системы.
Доказательство теоремы 14.1.
Пусть £ = (£i, ... , £„) — набор фиксированных значений функ-
ций /1, ... , fn. Так как набор grad,/), 1 i п независим в каждой
точке на поверхности уровня М$, то в силу теоремы о неявных функ-
циях эта поверхность является гладким n-мерным подмногообразием
в М. Рассмотрим гладкие векторные поля a(/J = sgrad/,. Каждое из
них касается поверхности уровня (см. выше), поэтому мы получаем на-
бор п касательных полей на М$. Мы утверждаем, что эти поля попарно
коммутируют и линейно независимы в каждой точке. В самом деле,
симплектическая структура со определяет каноническое отождествле-
ние г касательного и ко касательного пространств, в результате которо-
го grad/, переходит в sgrad fi (см. п. 3). Поскольку г — изоморфизм Тх
и Т*, то линейная независимость ковекторов (grad /г) эквивалентна ли-
нейной независимости векторов (sgrad/,). Далее из леммы 14.1 следует,
что	= [afi,afj] = 0, так как функции fi,fj находятся в ин-
волюции. Следовательно, поля (sgrad/г) попарно коммутируют, что и
требовалось доказать.
Таким образом, поля (sgrad /г) образуют базис в каждой плоскости
касательной к М$. Отсюда, в частности, следует, что ограничение фор-
мы ш на касательные плоскости ТХМ^ равно нулю. Рассмотрим абелеву
группу Ж", образующие которой обозначим через ei, ... , еп. Каждая
образующая с, порождает одномерную подгруппу R), которую мы пред-
186
Глава 5
Рис. 164
Рис. 165
ставим в виде однопараметрической группы диффеоморфизмов, по-
рожденной векторным полем Vi = sgrad/,; на М^. Тем самым мы пред-
ставили все образующие ei, ... , еп группы при помощи диффеомор-
физмов, сохраняющих симплектическую структуру в окрестности М^.
Теперь мы определим гладкое действие всей группы на и в
окрестности М^. Для этого фиксируем на точку х и сопоставим эле-
менту г = tiei + .. -+tnen гладкое преобразование а(г):	М$, явля-
ющееся композицией: а(г)(х) = о ... о	(рис. 164). Поскольку
векторные поля Vi коммутируют на AQ, то это определение коррект-
но определяет гладкое действие коммутативной группы на поверхнос-
ти !\'Г в случае полноты поверхности. Ясно также, что эта же кон-
струкция позволяет определить это действие и в некоторой окрестнос-
ти неособой поверхности М^. Поскольку поля Vi = sgrad/j независимы
в каждой точке на поверхности М$, то группа
действует локально транзитивно на М%, следователь-
но, отображение а: 1ЙЛГ ЛГ является отображени-
ем «на». Из определения а следует также, что яв-
ляется орбитой группы Жга, «вырастающей» из точ-
ки я?о G М^. Таким образом, на задано п неза-
висимых коммутирующих векторных полей.
Рассмотрим в стационарную подгруппу Г точ-
ки я?о, т.е. множество всех элементов г G таких,
что они оставляют эту точку на месте. Из предыду-
щего следует, что Г — дискретная подгруппа. Дока-
жем, что существуют к (где 0 к п) независимых
векторов ei, ... , еь G таких, что Г совпадает с
множеством всех их целочисленных линейных ком-
Рис. 166
§ 14. Симплектические многообразия
187
е
Рис. 167	Рис. 168
бинаций, т. е. Г = Z(ei, ... , ед,) =	. Будем считать, что а(0) = я?о,
где О G Rra. Если подгруппа Г нетривиальна, то можно рассмотреть
прямую Reo, где eg G Г, во 0. Через ei 0 обозначим элемент груп-
пы Г, лежащий на прямой Reo и ближайший к точке 0, т.е. |ei| |во|,
где |ei| — длина вектора в Rra (рис. 165). Такой элемент гд сущест-
вует, поскольку в шаре радиуса |во| с центром в точке 0 содержится
лишь конечное число элементов группы Г. При этом ei может совпасть
с ед. Все элементы группы Г, лежащие на прямой Reo, обязательно име-
ют вид тех, где т G Z, т.е. являются целыми кратными вектора ei-
В самом деле, если бы внутри какого-либо интервала (mei, (т + l)ei)
оказалась бы еще какая-нибудь точка b из подгруппы Г, то, сдвигая ее
на элемент — те±, принадлежащий Г, мы получили бы на прямой Reo
новую точку b — mei, расположенную ближе к точке 0, чем точка ei
(рис. 166). Полученное противоречие доказывает утверждение. Далее,
если вне прямой Rei нет точек группы Г, то утверждение доказано.
Если же такие точки е £ Г есть, то существует точка ег G Г, бли-
жайшая к прямой Rei, но сама на этой прямой не лежащая. В самом
деле, ортогональная проекция точки е на прямую Rei лежит в неко-
тором отрезке I = (mei, (m + l)ei). Рассмотрим прямой круговой ци-
линдр с осью I и радиусом, равным расстоянию от отрезка I до точ-
ки е (рис. 167). В этом цилиндре содержится конечное число элементов
группы Г. В качестве ег возьмем элемент, ближайший в этом цилинд-
ре к оси I. Ясно, что эта точка будет ближайшей к оси Rei не только
среди точек Г, попавших в цилиндр, но и среди всех точек Г, посколь-
ку, сдвигая цилиндр на целые кратные элемента ei вдоль оси Rei, мы
можем «загнать» любой элемент группы Г, попавший в эту цилиндри-
ческую полосу с осью Rei, в цилиндр с осью I (см. рис. 167). Цело-
188
Глава 5
численные линейные комбинации вида ае± + be? образуют решетку в
плоскости Жех фКег- Продолжая это построение, мы в конце концов по-
лучаем решетку = Z(ei, ... , е*) ранга к, где к <: п (рис. 168). Лем-
ма доказана. Тем самым поверхность уровня М%, являясь однородным
Рис. 169
пространством группы диффеоморфна фак-
тор-пространству Ж"/Г. Если поверхность Мс
компактна, то ранг Г равен п, и тогда
является n-мерным тором. Если же поверх-
ность уровня некомпактна, то она диффео-
морфна «цилиндру» R"/T, где ранг Г мень-
ше п. Одновременно с доказательством это-
го утверждения мы построили на поверхнос-
ти Мс «угловые координаты» y>i, ... , <рп, в
качестве которых можно взять координаты,
определяемые координатными линиями — об-
разами прямых Rei, ... , Re„ G R” при проек-
ции a: В:"' —> Мс = Жп/Г. Ясно далее, что интег-
ральные траектории полей Vi = sgrad fi задают
в координатах , ... , <рп прямолинейные об-
мотки тора Тп. Осталось доказать существование координат si, ... , sn,
«дополнительных» к координатам y>i, ... , tpn, т.е. параметризующих
трубчатую окрестность тора в направлениях, ортогональных этому то-
ру (рис. 169). Поскольку идеи, лежащие в основе этого доказательства,
в дальнейшем не будут нами использоваться, то мы опускаем здесь это
рассуждение, отсылая читателя, например, к [8].
§ 15.	Некоммутативное интегрирование
гамильтоновых систем
1.	Некоммутативные алгебры Ли интегралов
В доказанной выше теореме Лиувилля основную роль играет ком-
мутативность набора функций Д, ... , fn. Другими словами, линейное
пространство G функций, натянутое на функции Д, ... , Д, являет-
ся коммутативной алгеброй Ли размерности п. При этом гамильтони-
ан интегрируемой системы включен в эту алгебру Ли как один из ее
элементов: F = Д. Однако во многих конкретных ситуациях гамиль-
тоновы системы обладают набором интегралов Д, ... , Д, которые не
§15. Некоммутативное интегрирование гамильтоновых систем 189
образуют коммутативной алгебры Ли, т.е. не находятся в инволюции.
Поэтому было бы весьма полезно располагать методом, позволяющим
интегрировать такие системы.
Предположим, что Д, ... , Д — гладкие функции на симплекти-
ческом многообразии М2п с формой а>, функционально независимые на
открытом всюду плотном подмножестве в М. Рассмотрим линейную
оболочку G (над Ж) функций (Д), тогда diniR G = к. Предположим,
что линейное пространство G замкнуто относительно скобки Пуассо-
на, т.е. попарные скобки	разлагаются вновь по базисным функ-
циям Д, ... , Д с постоянными (!) коэффициентами, т.е. {Д,Д} =
к
= ^2 гДе cii £ К- Это означает, что линейное пространство G яв-
д=1
ляется конечномерной вещественной алгеброй Ли относительно скобки
Пуассона. Важным частным случаем является тот, когда G — комму-
тативная алгебра Ли размерности п. Тогда мы попадаем в ситуацию
«коммутативной» теоремы Лиувилля. Отметим, что алгебра Ли G не
обязана быть компактной. Даже в теореме Лиувилля предполагается,
что эта алгебра коммутативна. Тем не менее оказывается, при нало-
жении еще одного простого условия на алгебру интегралов G систе-
ма v = sgradF, где F = Д допускает полное интегрирование, позволя-
ющее описывать траектории системы столь же просто, как это имеет
место в случае теоремы Лиувилля. Будем называть построенную выше
алгебру G алгеброй интегралов. Через Ф обозначим односвязную груп-
пу Ли, соответствующую G. Тогда Ф = exp G. Каждый элемент алгеб-
ры G представляется в виде гамильтонова поля на М. Для этого нуж-
но рассмотреть отображение a: f —> sgrad/. Следовательно, группа Ф
представляется как группа диффеоморфизмов многообразия, сохраняю-
щих форму со. Такие преобразования назовем симплектическими. Итак,
задание алгебры Ли интегралов G определяет гладкое симплектическое
действие конечномерной группы Ф на М.
Так как в этом параграфе мы встретимся с задачами, в кото-
рых появляются некомпактные алгебры Ли, то введем некоторые по-
лезные определения. Пусть G* — пространство, дуальное к алгеб-
ре G, т. е. пространство ковекторов — линейных форм на G. Про-
странство G* иногда называют коалгеброй. Группа Ф представляет-
ся как группа линейных преобразований пространства G*, а именно,
g Ad*: G* -4- G*, где Ad* — преобразование, сопряженное к преоб-
разованию Adg: G —> G. Если £ G G*, X G G, то через (£, X) будем обо-
190
Глава 5
значать значение ковектора (линейного функционала) £ на векторе X.
Тогда (Ad*£,X) = (£, Adg-.X’). Хотя мы используем здесь символ (, ),
использовавшийся нами ранее для скалярного произведения, но пута-
ницы не возникнет, так как если алгебра G компактна, то значение ко-
вектора на векторе можно рассматривать как скалярное произведение
двух векторов, один из которых изображает ковектор при отождеств-
лении G и G*. Определим также преобразование ady: G* -4- G*, сопря-
женное к преобразованию ady : G —> G. Здесь (ady £, X) = (£, ady X) =
= {£,, [У, X]). Представление g —> Ad* называется коприсоединенным
представлением группы соответственно X —> а<Гд- — коприсоеди-
ненным представлением алгебры G. Группа действуя на G*, рас-
слаивает G* на орбиты О* = ®(С) коприсоединенного представления.
Если £ Е О*, то касательная плоскость Т^О* к орбите О* состоит из ко-
векторов вида ady £, где X пробегает G. Это доказывается аналогично
лемме 13.2.
Пусть ( £ G* — некоторый ковектор. Рассмотрим в алгебре G
подпространство = Апп£, состоящее из всех векторов X таких,
что ady £ = 0. Подпространство /Г называется аннулятором ковекто-
ра £. Ясно, что /Г — подалгебра, так как
(adfXiyj e,z) = <е, [[%, у], z]> = -озд,у]> -
- (£, [[У, Z], X]) = (ady £, [z, X]) + (adl [У, Z]} = 0.
Если G — компактная алгебра, то, отождествляя G и G* при помощи
формы Киллинга, получаем уже знакомое нам определение аннулято-
ра вектора. Будем говорить, что ( £ G* является ковектором общего
положения, если размерность его аннулятора наименьшая. Рангом ал-
гебры G назовем размерность аннулятора ковектора общего положения.
Если G — полупростая алгебра, то это определение совпадает с введен-
ным ранее рангом алгебры G (проверьте!).
2.	Теорема о некоммутативном интегрировании
Здесь мы сформулируем теорему, естественно обобщающую тео-
рему Лиувилля и доказанную в [10].
Теорема 15.1. Пусть на симплектическом многообразии М2п задан
набор из к гладких функций fi, ... , Д, линейная оболочка которых яв-
ляется алгеброй Ли G относительно скобки Пуассона, т.е.	=
к
= ^2 cijfq7 где — постоянные. Пусть — совместная поверх-
q=l
§15. Некоммутативное интегрирование гамильтоновых систем 191
ностъ уровня общего положения функций (fi), т.е. = {хЕМ:
fi(x) = См 1	Предположим, что на этой поверхности уров-
ня все к функций fi, ... , fk функционально независимы. Предположим,
что алгебра Ли G удовлетворяет условию dimG+ранг G = dimM, т. е.
к + ранг G = 2п. Тогда поверхность является гладким г-мерным
подмногообразием (где г = рангС), инвариантным относительно каж-
дого векторного поля v = sgrad h, где h Е Н^. Пусть далее v — од-
но из следующих гамильтоновых полей на М: а) либо v = sgrad h, где
гамильтониан h является элементом алгебры интегралов G и лежит
в аннуляторе ковектора определяющего поверхность уровня М^,
б) либо v = sgradF — гамильтоново поле на М, для которого все функ-
ции алгебры G являются интегралами, т. е. {F,f} = 0 для всех f Е G.
Тогда, как и в случае «коммутативной теоремы» Лиувилля, если мно-
гообразие бТ связно и компактно, то оно диффеоморфна г-мерному то-
ру Тг, и на этом торе можно ввести такие криволинейные координа-
ты tpi, ... , <рг, что векторное поле v, будучи записано в этих коорди-
натах, на торе приобретает вид <pi = qtji, ... , £*), т.е. компонен-
ты этого поля постоянны на торе, и интегральные траектории поля
определяют условно-периодическое движение системы v, т. е. задают
«прямолинейную обмотку» тора Тг.
Доказательство будет дано в следующем параграфе. В частном слу-
чае, если алгебра Ли интегралов G коммутативна, то условие dim С +
+ ранг G = dimG превращается в условие к + к = 2п, поскольку здесь
ранг G = dimG = к. Итак, к = п, и мы получаем классическую
«коммутативную теорему» Лиувилля, доказанную в предыдущем па-
раграфе. Во многих конкретных примерах алгебра Ли интегралов ока-
зывается компактной и некоммутативной. Как видно из теоремы 15.1,
движение системы происходит по торам Тг, размерность которых г
равна рангу алгебры G. В полупростом случае, как следует из ма-
териала гл. 4, ранг г алгебры G меньше ее размерности, причем во
всех основных случаях можно считать, что г х s/к, где к — размер-
ность G. Так, например, в случае серии An-i, когда G = зип, име-
ем г = п — 1, к = dimG = п2 — 1, т.е. ранг G RJ х/dimG. Это означает,
что г < к, и так как г + к = 2п, то г < п = 1/2 dimM. Другими словами,
движение системы v = sgrad F происходит по торам, размерность кото-
рых меньше (и существенно меньше) половины размерности многообра-
зия. Это показывает, что гамильтоновы системы с некоммутативными
симметриями, т. е. обладающие некоммутативной алгеброй интегралов
192
Глава 5
в описанном выше смысле, «сильно вырождены», т. е. их интегральные
траектории (в случае общего положения) всюду плотно наматывают-
ся на торы малой размерности г. Именно это отличает такие системы
от тех, которые удовлетворяют условиям «коммутативной теоремы»
Лиувилля и движение которых происходит по торам половинной раз-
мерности, т. е. г = п = l/2dimM. Таким образом, «некоммутативная
теорема» 15.1 позволяет интегрировать системы с сильным вырожде-
нием, которое тем сильнее, чем меньше ранг алгебры интегралов этой
системы. Системы такого типа, являясь системами «с вырождением» на
исходном многообразии, могут оказаться системами «типа Лиувилля»
на некотором подмногообразии К в М.
Более того, существует интересная связь между коммутативным
интегрированием и некоммутативным. Так, например, если гамильто-
нова система обладает некоммутативной алгеброй интегралов (с усло-
вием dimG + рангС = dimM), то во многих случаях она обладает
и коммутативной алгеброй интегралов половинной размерности. Более
того, верно следующее утверждение [12].
Теорема 15.2. Пусть v = sgradF — гамильтонова система на ком-
пактном симплектическом многообразии М, полностью интегрируемая
в некоммутативном смысле, т. е. обладающая алгеброй Ли интегра-
лов G такой, что dimG + рангС = dimМ. Тогда эта же система
вполне интегрируема и в обычном коммутативном смысле по Лиувил-
лю, т. е. она обладает и другой, уже коммутативной алгеброй Ли ин-
тегралов G', для которой dimG' = 1/2dimМ.
При этом, конечно, предполагается, что аддитив-
•Т" ные образующие обеих алгебр G и G' функционально
\ независимы почти всюду на М. Ясно, что эти алгеб-
)п ры не изоморфны, если G некоммутативна. Таким
' образом, на компактном многообразии интегрируе-
мая гамильтонова система «с вырождением» обладает
1 1	и второй коммутативной алгеброй интегралов «обще-
Рис. 170	го типа». С геометрической точки зрения структура
таких систем чрезвычайно проста. Пусть {Тг} — се-
мейство r-мерных торов, где г < п, по которым движутся траектории
системы, образуя в случае общего положения всюду плотные обмотки
на этих торах. Тогда (см. теорему 15.2) эти торы малой размерности г
могут быть организованы в большие торы размерности п, т.е. поло-
§15. Некоммутативное интегрирование гамильтоновых систем 193
винной размерности, по которым движутся траектории системы. Эти
большие торы Тп являются поверхностями уровня второй, уже ком-
мутативной алгебры интегралов G' (рис. 170). Отметим, что траекто-
рии такой системы не могут быть всюду плотны на большом торе Тп,
так как расслоение этого тора на торы Тг малой размерности устроено
локально как прямое произведение тора Тг на некоторое дополнитель-
ное подмногообразие размерности п — г (см. рис. 170). Доказательство
теоремы 15.2 достаточно нетривиально, поэтому здесь оно опущено.
Для некомпактных многообразий аналогичный результат пока не дока-
зан [12].
Гипотеза. Любая гамильтонова система на любом симплектическом
многообразии, полностью интегрируемая в некоммутативном смысле,
является вполне интегрируемой и в коммутативном смысле по Лиу-
виллю.
Распространение теоремы 15.2 на некомпактные многообразия
представляет интерес в связи с тем, что многие конкретные гамиль-
тоновы системы реализуются в виде потоков именно на некомпактных
многообразиях.
3.	Редукция гамильтоновых систем с некоммутативными
симметриями
Мы опишем простую и красивую конструкцию, позволяющую пре-
вращать гамильтонову систему, обладающую группой симметрий, в га-
мильтонову систему на симплектическом многообразии меньшей раз-
мерности. Эта процедура называется редукцией гамильтоновой систе-
мы. В качестве одного из приложений мы докажем теорему 15.1.
Пусть на симплектическом многообразии (М~".сУ) задана гамиль-
тонова система v = sgrad F с алгеброй интегралов G, аддитивными об-
разующими которой являются к независимых (почти всюду) гладких
функций /1, ... , fk- Пусть Ф — соответствующая односвязная группа,
действующая на М симплектическими диффеоморфизмами (т. е. сохра-
няющими со). Для дальнейшего удобно рассмотреть следующее отобра-
жение р. Каждой точке х G М сопоставим линейный функционал (ко-
вектор) рх на алгебре G. Положим px(f) = f(x), где f G G. Итак, рх —
элемент дуальной алгебры G*. Следовательно, мы определили гладкое
отображение р: М G*.
Лемма 15.1. Пусть £, G G* — произвольный ковектор. Тогда его пол-
ный прообраз при отображении р является совместной поверхнос-
тью уровня интегралов fi, ... , fk — образующих алгебры G.
194
Глава 5
Доказательство.
По определению <g-1£ = {х Е М: /(ж) = Д/)}, где f Е G. Так
к
как — аддитивный базис в G, то f = aifr т.е. /(ж) = £(/) =
г=1
к
= Е а*Д/Д- Если {(ft) = Д, 1 < i < k, то /Дж) = у?ж(/Д = Д/Д = Д
г=1
для ж Е М(.. Итак, АД =	= {ж Е М: /Дж) = &}, £ = (Д, ... , &).
Лемма доказана.	
Отображение <р: М -4 G* не обязательно является отображением
«на». Например, если М компактно, то образ рМ не покрывает всю ко-
алгебру G*. Введем удобное обозначение. Если £ Е G*, / Е G, то adj £
обозначим через а(Д/). Тогда (£, [g,/]> = (ad*£,/) = (a(£,g),/). Име-
ем С G, /Г = {g Е G: a(£,g) = 0}, т.е. = АппД
Предложение 15.1. Пусть элемент / (функция) алгебры G лежит
в аннуляторе и х Е М$, где !\'П — неособая поверхность. Тог-
да sgrad/(ж) Е ТХМ^. Это означает, что косые градиенты функций
из аннулятора ковектора £ лежат в касательной плоскости к поверх-
ности уровня М$, определяемой этим ковектором.
Доказательство.
Рассмотрим аддитивные образующие /х, ... , Д в G и градиен-
ты grad/i, ... , grad Д. Так как АД — неособая поверхность, то все эти
градиенты независимы во всех точках поверхности, поэтому они транс-
версальны АД, т.е. fc-мерная плоскость V, натянутая на (grad/Д, пере-
секается с TxMg только по нулю и V(STXM^ (рис. 171). Удобно считать,
что на М задана риманова метрика, тогда векторы (grad/Д ортогональ-
ны поверхности АД. Чтобы доказать соотношение sgrad/^) Е TxMg
достаточно проверить, что (sgrad/)g = 0 для любой функции g Е G,
т.е. что производная вдоль sgrad/ любой функции g из G, постоян-
ной на М$, равна нулю. В самом деле, (sgradf)g = (sgrad/, grad g),
где (, ) — риманова метрика на М. Из равенства нулю скалярных
произведений sgrad/ на все векторы (grad/Д вытекает ортогональ-
ность sgrad/ к плоскости V, т.е. sgrad/ Е ТХМ^. Итак, (sgrad/)g =
= {f,g}- Далее, {f,g}(x) = (£, {/,g}> = (a(£,/),g) = 0, так как а(Д/) =
= 0, / Е Апп£, что и требовалось доказать.	
Итак, все поля sgrad/, порожденные элементами / из аннулятора £,
касаются соответствующей поверхности уровня Мс.
§15. Некоммутативное интегрирование гамильтоновых систем 195
Предложение 15.2. Имеет место равенство (ТХМ^) П (sgrad/;
f G G) = Hx = (sgradh-, h 6 Ih) (рис. 172).
Доказательство.
Выше мы доказали, что (sgrad/i; h 6 НД С ТХМД'\(sgrad/; / 6 G).
Докажем обратное включение. Пусть X 6 ТХМ^ и X = sgrad/, где / 6 С.
Надо доказать, что / 6 Н^. В силу того, что Mg Е G {/,g}(x) = О,
имеем (a(£,/),g) = (£,{/,g}) = 0 для каждого g Е G. Последнее ра-
венство вытекает из того, что {/,g}(x) = (sgrad/)g|a, = X(g) = 0, так
как X Е ТХМ^, а все g Е G постоянны на поверхности уровня М^.
Итак, (a(£,/),g) = 0 при любом g Е G. Это означает, что а(£,/) = О,
т.е. f Е Апп£ = /И. Утверждение доказано (рис. 173).	
Рис. 173
Рассмотрим группу с алгеброй ffe. т. е. ИД = ехрН^ С ®.
Следствие 15.1. Поверхность уровня инвариантна относительно
действия группы на многообразии М.
Рассмотрим форму а> на М, и пусть 2 =	— ограничение ее
на поверхность М$. Действие подгруппы на порождает в каждой
точке х Е плоскость Нх С ТхМг_. образованную векторами sgrad/,
196
Глава 5
где / G lh (см. рис. 172). Другими словами, плоскость Нх порождена
подалгеброй lh.
Предложение 15.3. Ядро формы со (ограничения формы со на М%) сов-
падает с плоскостью Нх С ТХМ^.
Доказательство.
Докажем, что Ker2 D Нх. Пусть X = sgrad Л,, где h G lh. X G
G Нх С ТХМ^. Требуется доказать, что X лежит в ядре формы со, т.е.
что со(Х, У) = 0 для любого вектора У из плоскости ТХМ^. В самом
деле, со(Х, У) = со(sgrad h, У) = Y(h) = 0, так как вектор У касает-
ся поверхности уровня, а функция h, являясь элементом алгебры ин-
тегралов G, постоянна на поверхности уровня. Докажем обратное, т. е.
что Kerw С Нх. Пусть со(Х, У) = 0 для любого вектора У Е ТхМг_.
Требуется представить вектор X в виде X = sgrad Л, для некоторой
функции h Е Рассмотрим форму со как кососимметричное ска-
лярное произведение на касательной плоскости ТХМ и обозначим че-
рез	ортогональное дополнение относительно формы со к плос-
кости ТХМ^ в ТХМ. Так как форма со невырождена, то имеет место
равенство dim(Ta,M^)-L = dimM — dimTxM^ = dim У = k. Напомним,
что в случае кососимметричного скалярного произведения простран-
ство ТХМ не обязано разлагаться в прямую сумму ТХМ^ и (ТХМ$У-,
так как эти плоскости могут иметь ненулевое пересечение. Ясно,
что Кегй = ТХМ^ n(Ta.AQ)-L. Докажем, что (sgrad/; / Е G) = (ТХМ^.
В самом деле, пусть У Е ТХМ^, тогда ш(sgrad/,У) = У(/) = О,
так как / = const на М^. Итак, (sgrad/; / Е G) С (ТхМ^'Д. Да-
лее, dim(sgrad/; / Е G) = k = dim С. Это равенство вытекает из
того, что линейная оболочка градиентов (grad/; / Е G) имеет размер-
ность к (см. определение G), а кососимметрическое скалярное произ-
ведение невырождено, и линейная оболочка косых градиентов также
имеет размерность к. Наконец, было доказано, что dim(Ta,M^)± = к,
поэтому (sgrad/; / Е G) = (ТЖМ^)-*- (см. рис. 173). Утверждение дока-
зано.	
Соберем вместе все эти факты и изучим геометрическую картину
взаимодействия описанных подмногообразий. Основными объектами
являются: а) поверхность уровня М$, dim = 2п — к; б) орбита ®(х)
точки х, dim®(я?) = к, в) орбита Sj^(x) точки х при действии подгруп-
пы = ехр //^. Ясно, что Тж®(х) = (sgrad/; / Е G), TxSj^(x) = Нх =
= (sgrad/i; h Е Отсюда следует, что ®(яг) А Mr = f)$(x) (рис. 174).
§15. Некоммутативное интегрирование гамильтоновых систем 197
Отметим, что размерность орбиты равна размерности и рав-
на г.
Рассмотрим действие группы ® на М и предположим, что в малой
окрестности поверхности это действие имеет один тип стационар-
ных подгрупп, т.е. что все орбиты группы ®, близкие к орбите ®(х),
ей диффеоморфны. Рассмотрим проекцию р: М М/& многообра-
зия М на пространство орбит М/& = N. Это пространство может
не быть гладким многообразием и иметь особен-
ности. Для нас важно то, что в малой окрестности &k(x)S\ ^г(ж)
точки р®(х) 6 М/® пространство М/® — глад- J \/
кое многообразие размерности 2п — к. В действи-	в
тельности, если ®, например, компактная группа, / у/ \ f
гладко действующая на М, то объединение мно-
жества орбит общего положения, диффеоморфных ’ |
друг другу, является открытым всюду плотным	47
подмножеством в М, поэтому пространство N яв- рис
ляется (2п — &)-мерным многообразием всюду, за
исключением подмножества меры нуль. Отметим, что пространство
(многообразие) N не обязано быть симплектическим, так как, напри-
мер, оно может быть нечетномерно. Проекция р, будучи ограничена на
поверхность М$, проектирует ее на пространство	Поэто-
му пространство N расслоено на поверхности Qt (рис. 175). Здесь мы
опираемся на предложение 15.2.
Рис. 175
Рис. 176
198
Глава 5
Предложение 15.4. Многообразия ()^. т.е. фактор-многообразия по-
верхностей уровня !\'Е по действию подгруппы являются симплек-
тическими многообразиями с невырожденной замкнутой формой р, яв-
ляющейся проекцией формы на ЛЕ при отображении р: ЛЕ Qc.
При этом р*р =	•
Доказательство вытекает из предложения 15.3, так как ядро фор-
мы на ТХМ^ совпадает с плоскостью Нх С ТХЛЕ. Вернемся теперь
к изучению гамильтоновых систем на М. Пусть v = sgrad F — сис-
тема с алгеброй интегралов G, т. е. {F, G} = 0. Так как гамильто-
ниан F коммутирует (в смысле скобки Пуассона) со всеми элемен-
тами из G, то F инвариантна относительно группы В самом де-
ле, (sgrad f)F = {f,F} = 0, f G G. В частности, подгруппа fy, действуя
на М, также переводит функцию F в себя. Итак, определена естествен-
ная проекция векторного поля sgrad F на пространство N = М/Ф. При
этом векторное поле sgrad F касается поверхности и также проек-
тируется в некоторое поле E(F) на факторе (fy, так как поле sgradF
инвариантно относительно fy. Итак, пространство N расслоено на сим-
плектические многообразия и на N определено векторное поле Е(Е),
касающееся всех поверхностей (fy (рис. 176). Окончательно мы сопоста-
вили тройке (М2", sgrad F, ш) новую тройку ((fy, E(F), р).
Предложение 15.5. Векторное поле E(F) является гамильтоновым
относительно симплектической формы р на многообразии (fy для функ-
ции Гамильтона F, равной проекции функции F|m£ на многообразие (fy,
т. е. E(F) = sgradp(p*F|M£)-
Доказательство следует из предложения 15.4 и инвариантности
гамильтониана F при действии группы. Построенное выше соответ-
ствие (М, sgrad F, ш) —> ((fy, E(F), р) и называется редукцией исход-
ной гамильтоновой системы sgrad F. При этой редукции мы получили
новую гамильтонову систему на многообразии (fy, размерность которо-
го равна 2п — к — г, что меньше размерности исходного многообразия,
равной 2п. причем dimQ^ < dimAQ = 2п — к. Может оказаться, что
редуцированная система на (fy оказывается более простой, чем исход-
ная система на М. Предположим, что редуцированную систему удалось
проинтегрировать. Тогда это позволяет увеличить число интегралов у
исходной системы sgrad F на М, «подняв» эти интегралы с многообра-
зия N обратно на многообразие М.
§15. Некоммутативное интегрирование гамильтоновых систем 199
Предложение 15.6. Пусть G — конечномерная алгебра интегра-
лов sgrad F на М, удовлетворяющая всем перечисленным условиям, и
пусть E(F) — редуцированная система на многообразии N = (J яв~
4
ляющаяся гамильтоновой на каждом подмногообразии Q^. Пусть G' —
линейное пространство функций на многообразии N таких, что их
ограничения на подмногообразия Q.e образуют конечномерную алгеб-
ру интегралов потока E(F). Тогда пространство функций G ф G",
где G" = p*G', т.е. G" = {gp, g Е G'}, р: М N, является алгеб-
рой Ли интегралов системы sgradF, причем [G,G"} = 0.
Доказательство.
Пусть g — некоторая функция на пространстве N, тогда ее прооб-
раз gp при отображении р: М N является функцией на М, очевид-
но, инвариантной относительно действия Ф на М. Но это означает, что
функция gp находится в инволюции со всей исходной алгеброй функ-
ций (интегралов) G. Итак, всякая новая функция g, являющаяся интег-
ралом для редуцированного потока E(F) на N, дает дополнительный
интеграл gp исходного гамильтонова потока sgrad F на М. То, что эти
дополнительные интегралы независимы от функций алгебры G, следует
из того, что их градиенты отличны от нуля по направлению подмного-
образий Q.e. лежащих (локально) в поверхности уровня М%, в то время
как градиенты функций из G ортогональны М$. Предложение доказа-
но.	
Доказательство теоремы 15.1.
Пусть v — одна из систем, указанных в формулировке теоремы,
т.е. либо v = sgrad F, {F, С} = 0, либо v = sgrad h, где h Е Ann( = Н^.
Рассмотрим описанную выше редукцию. Поскольку теперь выполнено
дополнительное условие: dim G+ранг G = dim М, т.е. k+r = 2п, то раз-
мерность поверхности ЛП равна г. Размерность орбиты содер-
жащейся в М$, также равна г (по определению) (см. рис. 175). Отсюда
сразу следует, что	т.е. в условиях теоремы 15.1 поверх-
ность уровня является орбитой точки х при действии алгебра Ли
которой является аннулятором ковектора £, определяющего данную по-
верхность уровня. В частности, dimQ^ = 2п — к — г = 0. Поэтому в дан-
ном случае структура редуцированной системы особенно проста. Так
как является точкой, то поток E(F) — нулевой (рис. 177). Здесь про-
странство N имеет размерность п. Так как — поверхность уровня
200
Глава 5
интегралов G для потока v, то этот поток касается А'П в обоих случаях
а) и б) (см. формулировку теоремы), т.е. !\'Ь — r-мерное подмногооб-
разие, инвариантное относительно всех полей вида sgrad h, h G Ann(
и sgradF, {F, G} = 0. Осталось доказать, что поверхность уровня явля-
ется r-мерным тором в том случае, когда компактна и связна. Для
этого нам потребуется вспомогательное
Предложение 15.7. Пусть £, G G* — ковектор общего положения.
Тогда его аннулятор Ann £ коммутативен, в частности, подгруппа А£
коммутативна.
Рис. 177
Доказательство.
Рассмотрим коприсоединенное действие группы Ф = expG на ко-
алгебре G*. Через О*(£) обозначим орбиту, проходящую через точ-
ку £ 6 G*. Так как dim= г и dimG* = к, то dimO*(£) = к — г.
Так как ковектор £ общего положения, то орбиты, близкие к О*(£), ей
диффеоморфны, и можно считать, что достаточно малая окрестность U
точки £ расслоена на гомеоморфные слои (рис. 178). Через Xq обозна-
чим локальное сечение расслоения U на орбиты действия Мы поль-
зуемся тем, что U представимо в виде прямого произведения базы Xq
на слой — часть орбиты (см. рис. 178). Пусть /1(77) — гладкая функ-
ция на U, постоянная на орбитах. Мы утверждаем, что а(£, d/i(£)) = 0,
где dh (дифференциал h) интерпретируется как элемент дуального про-
странства (G*)*, т.е. dh(£) 6 G. Другими словами, мы утверждаем,
что dh(£) 6 Ann£. Мы должны убедиться в том, что а(Д, dh(^))(g) = 0
для любого g G G. Имеем
a(£,d/i(£))(g) = (a(£,d/i(£)),g) = (£, \dh(£),g]) = -<a(£,g), dh(g)} =0,
§15. Некоммутативное интегрирование гамильтоновых систем 201
так как ковектор a^,g) = ad* лежит в касательной плоскости Т(О*
к орбите О* в точке £, а функция h постоянна на орбитах, в част-
ности, постоянна и на орбите О* (см. рис. 178). Рассмотрим на сече-
нии Xq, являющемся гладкой поверхностью размерности г, трансвер-
сально пересекающей орбиты, близкие к орбите О*(^), набор из г не-
зависимых функций hi, ... , hr и продолжим их до гладких функций
на всей окрестности U, продолжив их с сечения А"о значениями, по-
стоянными вдоль орбит О*. Мы получаем а(£, dhi(£)) = 0, 1 г г.
Таким образом, dhi(£) G А1ш(. 1 i г. Так как функции (hi) бы-
ли выбраны независимыми, то все дифференцалы (dhi(^)) независи-
мы в Апп£, и число их равно г, т.е. в точности совпадает с размер-
ностью Апп^. Итак, дифференциалы dhi(£) образуют базис в Апп^,
и для доказательства коммутативности аннулятора достаточно дока-
зать, что попарные коммутаторы этих дифференциалов равны нулю,
т. е. [dhi(^), dhj(£)] = 0. Так как а(£, dh(^)) = 0, то выполняется равенст-
во b(£) = a^dhi^tdhjt^)) = 0. Отсюда Ь(£) = (а(£,	=
= {£, [dhi(^), dhj (£)]) = 0. Рассмотрим произвольное направление т в
окрестности U и продифференцируем вдоль этого направления функ-
цию Ь(£) = 0:
о = ^ь(е) = ^(иадмме)]) =
= (т, (dhit^dh^)]) + (&
j-dh^),dh^)) +
+ <е,
dh^-^dh^)
) = (г, [dhi^),dhj^)]) -
- (а(£, dhj ((,)), ^-dh^)) ~ (a^dhi^)), j^h^)) =
= (r, \dhi(£),dhj(g)\) = 0,
так как a(£, dhj(£)) = a(£, dhi(£)) = 0. Так как т G U C G* произвольно,
то из равенства (г, [dhi(^), dhj(^)]) = 0 вытекает, что [dhi(^),dhj(^)] = 0.
Утверждение доказано.	
Возвращаемся к доказательству теоремы 15.1. Мы доказали, что
поверхность AG — орбита группы 5^. и так как dim AQ = dim5j^, то AG
есть фактор-группа 5^ по дискретной решетке Г. Так как группа Гц =
= ехрАпп^ коммутативна, то AQ в случае компактности и связности
202
Глава 5
является r-мерным тором. Остальные утверждения доказываются так
же, как и при доказательстве теоремы Лиувилля.
Итак, один из способов применения «некоммутативной теоре-
мы» 15.1 такой: если v = sgrad/ — гамильтонова система на М2п,
то нужно искать такую некоммутативную алгебру G, что гамильто-
ниан f включается в аннулятор ковектора £ G G* общего положения.
Если такая алгебра G нашлась, то при условии dimG + ранг G = 2п по-
ток v движется по r-мерному тору Тг, совпадающему с поверхностью
уровня М$, где г = рангС.
4.	Орбиты (ко)присоединенного представления как сим-
плектические многообразия.
Пусть G — конечномерная алгебра, G* — коалгебра и Adj,:
G* G* — коприсоединенное представление ® = ехрС на G*. Тог-
да G* расслаивается на орбиты О*. Каждая из них — гладкое под-
многообразие, вложенное в линейное пространство G*. Оказывается, на
каждой орбите естественно определяется симплектическая структура,
замкнутая и невырожденная, что и превращает орбиты в симплекти-
ческие многообразия. Эта структура (форма Кириллова) определяется
так. Пусть х G G* — произвольная точка, £i, £2 G ТХО* — два произ-
вольных касательных вектора к орбите. Мы должны определить значе-
ние формы щ(£1,£г). Напомним, что каждый вектор £, касательный к
орбите, представим в виде adjx = a(x,g), так как ТХО* — adj. ж. Поэ-
тому существуют такие элементы gi, g2 G G, что G = a(x,gj, i = 1, 2.
Это представление неоднозначно, но это не влияет на дальнейшую кон-
струкцию. Определим значение формы Щж(£1,£2) в точке х G О* на
касательных векторах £1, £2 к орбите О* так: с^>ж(£1,£2) = (ж, [gi,g2]),
где х G G*; gi, g2 G G.
Предложение 15.8. Определенная выше форма ы обладает свойства-
ми: 1) форма билинейна и ее значение не зависит от произвола в выборе
представителей gi, gi, 2) форма кососимметрична и определяет внеш-
нюю 2-форму на орбите, 3) форма невырождена на орбите, 4) форма
замкнута на орбите.
Если алгебра G компактна, то ее можно канонически отождест-
вить, используя форму Киллинга, с G*, и тогда форма ш на орби-
тах О присоединенного представления определяется так:	^2) =
= (ж, [gi,g2]), где (, ) — форма Киллинга, и х, gi G G. Отметим, что
§15. Некоммутативное интегрирование гамильтоновых систем 203
в общем случае форма со может быть записана так:
= (a(a?,gi),g2) =
Доказательство предложения 15.8. Применим разработанную вы-
ше технику редукции. Рассмотрим кокасательное расслоение М = Г*®
к группе ® в виде прямого произведения М = Т*& = 1д®х ® = G* х ®.
При этом зададим действие ® на этом прямом произведении так, что ®
действует на втором сомножителе ® левыми сдвигами и не меняет ко-
ординаты по первому сомножителю G*. Рассмотрим алгебру интегра-
лов V, соответствующих левому действию группы ® на фазовом про-
странстве Т*®. Ясно, что эта алгебра интегралов изоморфна G. Всякая
функция f G V является правоинвариантной и принимает значения по
формуле /(£,g) = (Ad*-i(£),/), f G V = G, £ G G*, g G ®. Таким
образом, поверхность M%, соответствующая £ G V*, состоит из всех
пар (т, g) таких, что f(r,g) = т.е. Ad*-i(r) = £, или т = Ad*£.
Поскольку (£,Е) G М$, то ЛЕ = {(Ad*£,g); g G ®}. Отсюда полу-
чаем, что поверхность — расслоение с базой О*(£) и слоем
где О* — орбиты ® на G*, a — максимальный тор, соответству-
ющий подалгебре Картана Н^, оставляющей ковектор £ на месте. Мы
представили орбиту общего положения коприсоединенного представле-
ния в виде фактор-многообразия	где /И — аннулятор £. Из
предложения 15.4 следует, что О* — симплектическое многообразие.
Прямое вычисление показывает, что возникающая на О* симплекти-
ческая форма совпадает с канонической формой, описанной выше.
Глава 6
Геометрия и механика
§ 16.	Вложение гамильтоновых систем в алгебры Ли
1.	Постановка задачи и полные коммутативные наборы
функций
Переходим к изучению некоторых конкретных механических сис-
тем, для которых удается доказать их полную интегрируемость
(в смысле Лиувилля). Особый интерес представляют системы, описыва-
ющие: а) движение многомерного твердого тела с закрепленной точкой
(в отсутствие силы тяжести) и движение «свободного твердого тела»,
б) движение многомерного твердого тела по инерции в идеальной жид-
кости. Под интегрированием этих (и аналогичных им) систем будем по-
нимать полную интегрируемость по Лиувиллю, т. е. при таком подходе
основной задачей является нахождение достаточного числа коммути-
рующих интегралов системы. Обычно механические системы указанно-
го типа записываются как системы обыкновенных дифференциальных
уравнении на каком-либо евклидовом пространстве. Например, класси-
ческие уравнения, описывающие движение трехмерного твердого тела
с закрепленной точкой (в отсутствие силы тяжести), записываются в
трехмерном евклидовом пространстве ES3 (ж, у, z) так:
У =
Аз — Ai
Аз + Ai
XZ,
Аг — Аз
Аг + Аз
%У,
Z =
где Ai, Аг, Аз — вещественные числа. Оказывается, некоторые га-
мильтоновы системы, записанные на R”, имеют скрытую алгебраи-
ческую структуру, обнаружение которой позволяет проинтегрировать
такие системы. Примеров имеется довольно много, однако мы вы-
делим среди них структуру, связанную с алгебрами Ли. В простей-
шей форме это означает, что изучаемая система сохраняет орбиты
(ко)присоединенного представления некоторой группы Ли, алгебра Ли
которой отождествляется с евклидовым пространством, на котором за-
дана система.
§ 16. Вложение гамильтоновых систем в алгебры Ли
205
Определение 16.1. Мы будем говорить, что гамильтонова система v
на R” допускает вложение в алгебру Ли G, если R" можно отождест-
вить с коалгеброй Ли G* некоторой группы Ли ® таким образом, что:
1) векторное поле v касается (после этого отождествления) орбит О*
(ко)присоединенного представления группы ® на G* = Ж”, т.е. все ор-
биты О* инвариантны относительно v, 2) векторное поле v на G* = Ж”
оказывается гамильтоновым на орбитах О* относительно каноничес-
кой симплектической формы со, описанной в §15, и имеет вид v sgrad/,
где f — функция на О*.
Класс таких систем содержит важные механические примеры. Ко-
нечно, далеко не всякая система v допускает вложение в алгебру Ли, по-
скольку условия 1 и 2 (определение 16.1) накладывают довольно жест-
кие ограничения на структуру поля. В то же время ясно, что сущест-
вование такого вложения позволяет применить для поиска интегралов
системы развитый аппарат теории алгебр Ли. Если система v на Ж"
задана, то одним из путей ее интегрирования является поиск ее вло-
жения в подходящую алгебру Ли. Следует отметить неоднозначность в
реализации этой программы. Во-первых, Ж" может быть отождествле-
но с алгебрами различных групп Ли, в связи с чем следует перебрать
все алгебры Ли данной размерности п. Число таких алгебр возрастает
с ростом п. Во-вторых, в некоторых случаях оказывается достаточным
представить систему v как гамильтонову на какой-то одной орбите О*,
а не на всех орбитах. Поскольку в данной алгебре Ли имеются и орбиты
общего положения, и сингулярные орбиты, это открывает возможности
для варьирования при поиске вложения данной системы в алгебру Ли.
В приведенном выше простом примере системы Ж" искомое вло-
жение системы в алгебру Ли существует и устроено просто. Для этого
достаточно отождествить Ж” = G* = G с трехмерной алгеброй Ли
ортогональной группы SOs, т.е. с пространством SO3 кососимметри-
ческих вещественных матриц 3x3. При этом х = Х12, у = адз, z = хгз,
/ 0
т. е. (х, у, z) I —х
\~У
х У\
0 z I G S03. Как мы уже знаем, орбитами
-z 0/
присоединенного представления группы 80% на S03 являются стандарт-
ные двумерные сферы с центром в начале координат. Векторное по-
ле v = (vx, vy, vz), описывающее движение твердого тела с закреплен-
ной точкой, имеет следующие два интеграла: Рф = (Ai + Аг)х2 + (Ai +
+^з)у2 + (А2 + Аз);?2 и Q-ф = (Ai + Аг)2х2 + (Ai + Аз)2у2 + (А2 + A3)2;?2.
206
Глава 6
Легко проверяется, что производная этих функций по направлению по-
ля v равна нулю. Чтобы вскрыть алгебраическую структуру как систе-
мы, так и ее интегралов, удобно сделать замену координат в R”: х —>
—> ж/(Л1 + Л2), у —> y/(Ai + A3), z z/(X2 + A3). Тогда оба интеграла
преобразуются в функции: Pv = х2/(Ai + А2) + у2 / (Ai + A3) + z2/(A2 +
+А3); QP = х2 +у2 +z2. После этой замены поле v оказывается касатель-
ным к двумерным сферам, следовательно, система допускает вложение
в трехмерную алгебру Ли, так как каноническая 2-форма на орбитах S2
в зоз совпадает с 2-формой инвариантного риманова объема. Евклидово
скалярное произведение совпадает здесь с формой Киллинга.
Конечно, одна и та же система может иметь несколько вложений
в разные алгебры Ли. Чем выгодно с точки зрения поиска интегралов
существование вложения v в алгебру? Рассмотрим сначала следующую
общую задачу.
Как видно из предыдущего материала, естественной постановкой
является следующая: как найти на симплектическом аналитическом
или алгебраическом многообразии М2п коммутативный набор незави-
симых функций в количестве, равном п. Другими словами, как най-
ти на М2п коммутативную (относительно скобки Пуассона) алгебру
функций размерности п, аддитивный базис которой состоял бы из ана-
литических или алгебраических функций, функционально независимых
почти всюду на М. Такие наборы функций Н(М) для сокращения на-
зовем полными коммутативными наборами. Мы не интересуемся по-
ка интегрированием каких-либо гамильтоновых систем. Если полный
коммутативный набор на М обнаружен, то мы автоматически полу-
чаем серию вполне интегрируемых аналитических гамильтоновых сис-
тем на М: достаточно рассмотреть поля sgrad/, где f — функции из
набора Н(М). Тогда n-мерное пространство функций Н(М) является
набором интегралов для системы с гамильтонианом f. При таком под-
ходе к задачам гамильтоновой механики основной проблемой становит-
ся построение на симплектических многообразиях как можно больше-
го числа разных полных коммутативных наборов. На любом гладком
многообразии всегда существует полный коммутативный набор глад-
ких функции, почти всюду независимых. Чем больше такой запас, тем
больше мы получаем примеров полностью интегрируемых (в коммута-
тивном смысле) систем.
Как мы увидим, существуют важные примеры многообразий, на
которых полные аналитические коммутативные наборы можно предъ-
§ 16. Вложение гамильтоновых систем в алгебры Ли
207
явить в явном виде. В то же время не ясно, на любом ли гладком сим-
плектическом аналитическом многообразии существует полный ком-
мутативный набор аналитических функций. Можно уточнить постав-
ленный вопрос следующим образом: на любом ли алгебраическом сим-
плектическом многообразии существует полный коммутативный на-
бор, состоящий из алгебраических (рациональных) функций? Вероят-
но, есть топологические препятствия, не позволяющие построить такой
набор на произвольном алгебраическом симплектическом многообра-
зии. Если такие многообразия (т.е. не допускающие полного набора)
действительно существуют, то никакая алгебраическая гамильтонова
система на таком многообразии не является полностью интегрируемой
по Лиувиллю.
Особый интерес представляет алгебраический вариант задачи, так
как в конкретных примерах уже проинтегрированных систем централь-
ную роль играют полиномиальные интегралы (или рациональные, ал-
гебраические интегралы). Наиболее естественным классом функций,
среди которых следует искать полные коммутативные наборы на ал-
гебраических многообразиях, является класс полиномов или рациональ-
ных, алгебраических функций.
К настоящему времени обнаружены полные коммутативные набо-
ры на симплектических многообразиях важного класса — на орбитах
(ко)присоединенных представлений многих групп Ли. В [10, 12] сфор-
мулирована гипотеза А: пусть G — произвольная конечномерная ал-
гебра Ли, тогда на коалгебре G* существует линейное пространство
гладких аналитических функций, ограничения которых на орбиты об-
щего положения (ко)присоединенного представления группы ® = ехрС
на коалгебре G* образуют полный коммутативный набор Н(О*) на
этих орбитах О*, т.е. любая пара функций f, g G Н(О*) находит-
ся в инволюции на орбитах О* относительно канонической формы щ,
аддитивный базис /1,	в Н(О*) состоит из функций, функцио-
нально независимых почти всюду на О*, и размерность простран-
ства Н(О*) равна половине размерности орбиты общего положения,
т.е. к = l/2dim(9* = l/2(dimG' — рангС?).
Эта гипотеза доказана для всех полупростых и редуктивных ал-
гебр Ли [15, 12], а также для многих классов некомпактных веществен-
ных алгебр (см., например, [22, 21]). Оказалось, что обнаруженные при
этом полные коммутативные наборы содержат гамильтонианы важных
механических систем, что позволяет полностью их проинтегрировать.
208
Глава 6
Подробнее мы остановимся на этом ниже. Значение гипотезы А не огра-
ничивается возможностью предъявлять примеры интегрируемых сис-
тем. Из ее справедливости вытекала бы справедливость теоремы 15.2 не
только для компактных, но и для некомпактных симплектических мно-
гообразий, т. е. в этом случае любая аналитическая гамильтонова систе-
ма, интегрируемая в некоммутативном смысле, была бы автоматически
интегрируемой и в коммутативном смысле. Более точно, имеет место
следующее утверждение (см. [10]). Пусть на симплектическом много-
образии М задана алгебра Ли G функционально независимых функций,
где dimG + рангС = dimM (см. теорему 15.1); тогда если для алгеб-
ры G выполнена гипотеза А, то найдется другая, уже коммутативная
алгебра независимых функций G' такая, что dimG' = 1/2 dimG. Воз-
вращаемся теперь к системам v, для которых существует вложение в
конечномерную алгебру Ли G (см. определение 16.1). Если для алгеб-
ры G справедлива гипотеза А, то на орбитах общего положения О* С G*
есть полный коммутативный набор функций Н(О*) (см. выше). Если,
кроме того, гамильтониан /, где v = sgrad/, принадлежит семейст-
ву Н(О*), то мы получаем полный коммутативный набор интегралов
для v. Знание полных коммутативных наборов на орбитах в G* поз-
воляет в принципе интегрировать гамильтоновы системы, вложимые
в G*.
Итак, одним из путей интегрирования систем на Ж" является сле-
дующий: а) пытаемся представить систему как гамильтонову на орби-
тах в G* при подходящем выборе алгебры G; б) если такое вложение
системы существует, пытаемся найти на О* С G* полный коммутатив-
ный набор функций, содержащий гамильтониан системы.
Имеется несколько приемов, позволяющих строить полные ком-
мутативные наборы на орбитах. Весьма эффективным оказался способ,
основанный на идее сдвига инвариантов (ко)присоединенного представ-
ления на ковектор общего положения (см. описание ниже) [18, 15].
2.	Уравнения движения многомерного твердого тела с за-
крепленной точкой и их аналоги на полупростых алгебрах Ли.
Комплексная полупростая серия
Пусть G — полупростая алгебра Ли, (, ) — форма Киллинга, f —
гладкая функция на G. С каждой такой функцией свяжем гамильто-
нову систему на кокасательном расслоении Т*® к группе ® = expG,
продолжив f до левоинвариантной функции F, заданной на всем про-
§ 16. Вложение гамильтоновых систем в алгебры Ли
209
странстве Т*®. Так как Т*® — симплектическое многообразие, то,
взяв F в качестве гамильтониана, получаем на Т*® гамильтонову сис-
тему. Эта система левоинвариантна и распадается на две системы, одна
из которых задается на кокасательном пространстве в единице группы,
изоморфном алгебре Ли G, и называется обычно системой уравнений
Эйлера. Эти уравнения допускают простое описание. Пусть grad/ —
поле на G, двойственное к дифференциалу df, т.е. (grad/,£) = £(/).
Тогда уравнения Эйлера записываются в коммутаторном виде: X =
= [.-V. grad/(X)]. Особый интерес представляют случаи геодезических
потоков для левоинвариантных метрик на ®. Здесь / является невы-
рожденной квадратичной формой на алгебре G, a grad/(X) задает-
ся самосопряженным линейным оператором в G, т.е. grad/(X) имеет
вид (рХ, где оператор р: G G самосопряжен. Теперь укажем уравне-
ния, описывающие движение многомерного твердого тела с закреплен-
ной точкой (в отсутствие сил тяжести).
Пусть G = son — алгебра Ли ортогональной группы, I — диаго-
(А1 о \
), где А, 7^ Xj при i j.
о Ап /
Рассмотрим на son оператор wX = IX + XI. Тогда уравнения wX =
= [.-V. wX] называются уравнениями движения n-мерного твердого
тела. Запишем их в явном виде, используя стандартные координа-
ты в son. Представим son как алгебру кососимметрических вещест-
венных матриц X = (xij), тогда ifX = ((Aj + Xj)xij). Ясно, что
(д. _ д. п	\
~г--г~ S xiqxqj ) (проверьте!). При п = 3 получаем
Aj + Aj д=1 J
Аг	— Ai	.	A3	— Ai	.	Аз	— Аг
Ж12 — Т--—7—Ж13Х32,	Х13 —	т-—7— Ж12Ж23,	^23 —	“7-~7“Ж21Ж13-
Аг	+ А1	Аз	+ А1	Аз	+ А2
Отождествляя S03 с R3, получаем, что эти уравнения совпадают с
классическими уравнениями динамики трехмерного тела (см. выше).
На этом основании уравнения фХ = [X, фХ] для произвольного п и на-
зываются уравнениями движения многомерного твердого тела. Пусть I
выбрана так, что Aj + Xj / 0 при всех г, j. Тогда оператор ф обратим
на son, и обратный оператор имеет вид (jpX)tj = -——r-Xij.
Выполним в son замену координат Y = фХ, тогда уравнение дви-
жения твердого тела преобразуется к форме: Y = [^-1У,У]. Умно-
210
Глава 6
жая его на —1 и переобозначая Y через X, получаем уравнение Эй-
лера X = [X, <£>Х], где <р; son son — линейный самосопряженный
оператор. В дальнейшем будем изучать именно эту форму уравнений.
В координатной записи имеем
_ / , _ \ \	_______xiqxqj_____ _
'ij~{ '	^(A. +Ws + Ai) “
При n = 3 получаем
Ж12
Ж13
Ж23
1
Аг + Аз
1
Аз + Аг
1
Аз + Ai
Ж13Ж32,
жггжгз,
Ж21Ж13,
т. е.
______Аз — Аг_____
(Аз + А1)(А1 + Аг)
Прямое вычисление показывает, что следующие два полинома яв-
ляются функционально независимыми интегралами этой системы в R3:
о	2	о
х2 + у2 + z2, х + У +	.
Ai + Аг Ai + Аз Аг + Аз
Очевидно, что эти функции совпадают с полиномами Qv и Pv, получен-
ными нами выше из двух интегралов и Рф потока ц:Х = [Д'. фХ]
при замене У = ц:Х. которая переводит Рф Pv, (}ф Qv, а по-
ток преобразуется к виду X = [X, у>Х]. Интегралы определены неод-
нозначно. Для дальнейшего полезно отметить, что их можно выбрать
§ 16. Вложение гамильтоновых систем в алгебры Ли
211
так: я?2 + у2 + z2 и х2(Л2 + А2) + у2(А2 + А2) + z2(Aj + A3). Проверьте,
что эти функции — интегралы потока X = [X, у>Х].
Итак, при п = 3 мы указали вложение этой системы в алгебру S03.
Оказывается, аналогичное вложение существует при любом п.
Предложение 16.1. Векторное поле X = [X,рХ], где <р = ф~Т,
фХ = IX + XI, касается всех орбит присоединенного представления
группы SOn на ее алгебре Ли son. Это поле гамильтоново на орбитах.
Доказательство.
Пусть О — орбита, проходящая через точку X G son = so*. Тог-
да ТхО = {[Х,Г], Y G son}, поэтому [X, у>Х] 6 1x0. Далее, X =
= sgradF, где F(X) = (X, <рХ), что и требовалось.	
Определим аналоги уравнений движения твердого тела на произ-
вольной полупростой алгебре Ли. Мы предъявим многопараметричес-
кие семейств операторов р: G G не только для комплексных полу-
простых алгебр, но и для их вещественных компактных и нормальных
форм. Оказывается, все системы X = [X, у>Х] являются вполне интег-
рируемыми на орбитах общего положения, и, следовательно, их интег-
ралы задают полные коммутативные наборы функций на полупростых
алгебрах Ли и некоторых их вещественных формах.
Пусть G — комплексная полупростая алгебра и G = ТфУ+фУ“ —
ее корневое разложение. Пусть a, b G Т, а Д Ь — два произвольных
регулярных элемента картановской подалгебры. Рассмотрим опера-
тор ada: G G. Ясно, что ada |т = 0, ada: V+ V+, ada: V~ V~,
т. e. оператор ada сохраняет корневое разложение G над С. В самом
деле, ada Еа = а(о)Еа для любого a 6 Д; считаем, что а и Ь «в об-
щем положении», т.е. a(a) 7^ 0, а(Ь) Д 0. Тогда операторы ada и ad&
обратимы на Т/+ ф V~ = V; а именно ad”1 Еа = Еа/а(а). Линейный
оператор <pa,b,D'- G G определим так: <£>o,6,z>X = <ра,ьХ' + D(t) =
= ad”1 ad^1 X' + U(i), где X = X' + t — однозначное разложение X
по V и Т. а /): Т Т — произвольный линейный оператор, сим-
метричный на Т относительно формы Киллинга. Оператор ра^ь,п па-
раметризован a, b, D. Ясно, что <ра ь dE„ = а^.Еа. В базисе Вей-
’ ’	а(а)
212
Глава б
ля (Еа, Е_а, Н'а) оператор <р задается матрицей:
Еа
Е-а
Л1 О
О ' Xq
О
Л1 о
О ’’ Хд
и ра,ь- V V. где Ха — a(b)/a(d), q — diml^ = (число корней а > 0).
Предложение 16.2. Оператор (fa,b,D симметричен относительно
формы Киллинга при любых a, b, D, удовлетворяющих указанным огра-
ничениям.
Доказательство.
Обозначим базис Вейля в V через (е^). Достаточно проверить,
что (<pei,ej) = (ei,<pej) для любых i, j. Можно считать, что г 7^ j. На-
помним, что плоскость Т ортогональна плоскости V = Т/+ ф V~. Так
как <р переводит в себя V и Т, и D симметричен на Т. то достаточно
проверить симметрию ра,ъ на V. Поскольку Еа (где а 0) — собст-
венные векторы р, то (Еа, ЕД = (£?„, ^Д^-ЕД = 0 при а + (3 Д 0,
а(а)	Р\а)
_	па «(Ь)	(“а)(Ь) тт
так как (Еа,ЕД. Вели а + р = 0, то —— =  -----——. Предложение до-
а(а)	(—а)(а)
казано.	
Оператор р на V имеет в случае «общего положения» q различ-
ных собственных чисел кратности два. Оператор р: V —> V является
изоморфизмом V на себя. Напомним, что V+ — нильпотентная подал-
гебра, например, в нашем модельном примере это — подалгебра верх-
нетреугольных матриц с нулями по главной диагонали. Так как V+
порождено векторами Еа, а > 0, то </’|v+ симметричен относительно
формы Киллинга. Собственные числа этого оператора в случае общего
положения различны: Ai, ... , Ag. Эту серию назовем нормальной ниль-
потентной серией. По построению, каждой комплексной серии отвечает
одна нормальная нильпотентная серия. Оператор р: G -Р- G переводит
также в себя подалгебру Т/+ ф Т. причем v’lv+eT — изоморфизм про-
странства Т/+ фТ на себя. В нашем модельном примере Т/+ фТ — подал-
гебра верхнетреугольных матриц. Как и выше, все собственные числа
§ 16. Вложение гамильтоновых систем в алгебры Ли
213
оператора	различны, и оператор симметричен. Итак, каждой
комплексной серии отвечает нормальная разрешимая серия. В базисе
Вейля операторы <£>|у+ и	изображаются матрицами:
Итак, на каждой полупростой алгебре мы построили гамильтоно-
вы системы X = [X, ч>а,ъ,оХ], которые являются аналогами уравнений
движения твердого тела и допускают полное интегрирование (см. ни-
же). В частном случае мы получаем уравнения на алгебре son.
3.	Гамильтоновы системы компактной и нормальной се-
рий
Здесь мы построим аналогичное семейство гамильтоновых систем
на произвольной простой компактной вещественной алгебре Ли, ис-
пользовав для этого компактные вещественные формы комплексных
простых алгебр (см. § 12 и теорему 12.1). Каждая полупростая комп-
лексная алгебра Ли G обладает компактной формой Gu. Мы постро-
или каноническое вложение этой компактной подалгебры в комплекс-
ную алгебру G. Напомним, что Gu = {Еа + Е-а, i(Ea — Е-а), гН'а} =
= VT+ ф гТЬ- Как и в предыдущем пункте, мы зададим симметрич-
ный оператор <р: Gu —> Gu, определяющий гамильтонову систему X =
= [X, на Gu, сохраняющую слоение Gu на орбиты присоединен-
ного представления. Пусть a, b G гТЬ — элементы общего положе-
ния. Так как а<1„/'Л, = [а,Еа] = i[a',Ea], где а = ia', a' G То,
то ada Еа = ia(a')Ea, где а(а') вещественно. Следовательно,
а<1а(Ба +£_„) = a(a')(i(Ea - Е_а)),
a.da(i(Ea - Е-а)) = -а(а')(Еа + Е-а).
Итак, оператор ada: ТТ+ —> ТТ+ поворачивает вектор Еа + Е-а в
вектор, пропорциональный i(Ea — Е_а), и наоборот. Аналогично дей-
ствует и ad(>, причем в силу выбора a G iTg оператор ada обратим
на ТТ+. Тогда оператор <раь = ad~1adft: ТТ+ —> W+ имеет все векто-
ры Еа +Е-а, i(Ea — Е-а) своими собственными векторами с собствен-
ными числами а(Ь)/а(а) = а(Ь')/а(а'), где а = ia', b = ib', a',b' G То.
Аналогичные события происходят и на подпространстве W~. Опера-
тор ipa,b,D- Gu -> Gu определим так: у>Х = (р(Х' + t) = <раЬХ' + D(t) =
214
Глава б
= ad^adftX' + D(t), где X = X' + t — однозначное разложение X
в Gu = ТУ-1- ф iT0, X1 G W+, t G iT0, D: iT0 iT0 — произвольный
линейный оператор, симметричный на iT0. В базисе (Еа + IX,,. /(II,, —
— 1Х„). Ш'а) оператор /р задается матрицей:
Еа + Е-а
г(Еа - Е_а)
iH'a
Ai . О
О Ч
О
О
— 4>a,b,D,
D
где числа Ха = а(Ь)/а(а) вещественны, q = dimJT+.
Предложение 16.3. Оператор р: Gu —> Gu симметричен при лю-
бых a, b, D, удовлетворяющих указанным ограничениям.
Доказательство.
Рассуждения аналогичны доказательству предложения 16.2. Един-
ственное, что следует проверить, — это ортогональность выбранно-
го нами базиса в ТТ+. Напомним, что гТЬ ортогонально ТТ+. Да-
лее, (Еа + Е-а, i(Ea — Е-а)} = 0, ортогональность остальных векторов
доказана выше.	
Оператор раь : ТТ+ ТТ+ имеет в случае общего положения q раз-
личных собственных чисел кратности два.
Теперь построим аналогичное семейство гамильтоновых систем на
некоторых простых компактных вещественных алгебрах Ли, отвеча-
ющих классическим нормальным компактным подалгебрам. В § 12 мы
предъявили в каждой компактной форме Gu подалгебру Gn, натянутую
на векторы Еа +Е_а, a 6 Д. Так как все эти векторы — собственные
для операторов р компактной серии, то при ограничении их на подал-
гебру Gn получаем нормальную серию. Эти операторы просто совпа-
дают с раь: Gn Gn, рХ = ad“1adfcX, X G Gn-,a, b G iT0, a(a) 0,
a(b) 0. В базисе (Ea + E-a) операторы <p задаются матрицами:
/Ai	0\
<Pab= I	, q = dimVT+.
\0	Xj
Отметим, что здесь a, b Gn, т.е. операторы нормальной серии
требуют для своего определения элементов некоторой большей алгебры.
§ 16. Вложение гамильтоновых систем в алгебры Ли
215
Это отличает нормальную серию от комплексной и компактной серий,
для которых элементы а и Ь принадлежали самой изучаемой алгебре.
Не любую компактную полупростую алгебру можно представить в ви-
де Gn в некоторой компактной вещественной форме Gu С G. Ниже
приводится полный список всех таких простых алгебр Ли. Как было
показано, алгебра Gn совпадает с неподвижными точками автоморфиз-
ма т: G G, тХ = X после его ограничения на Gu. Пусть Р С Gu —
подпространство, ортогональное к Gn в Gu, на котором т = —1. Тог-
да очевидны коммутационные соотношения: [Gn,Gn] С Gn, [Р, Р] С
С Gn, [G„,P] С Р. Как мы знаем, это определяет симметрическое про-
странство ®и/®и. Тогда плоскость Р отождествляется с касательной
плоскостью к пространству	которое канонически вкладывает-
ся в как картановская модель. Перечислим все нормальные формы,
сохранив стандартные обозначения для соответствующих симметри-
ческих пространств.
Тип AI. G = sl(n, С), Gu = sun, Gn = son, nX = X, n > 1. Алгеб-
ра Gn реализована в Gu как подалгебра вещественных кососимметри-
ческих матриц.
Тип BDI. G = so(p + q, С), so(p, q) — алгебра Ли компоненты
единицы группы SO(p, q). Алгебра so(p, q) реализована в sl(p + q, R)
(Д^"1 -^2 i	v v
vT v Ь где Bce -%-i вещественны, Ai, X3 — кососим-
X2 X3J
метрические порядов p и q, X2 — произвольна. Далее, Gu = soP+q D
D sop ф soq, p > 1, q > 1, p + q 4. Нормальным формам соответ-
ствуют следующие значения: р = q и р = q + 1, т. е. Gn = sop ф sop
и Gn = soq ф sog+i.
Тип CI. G = spin, C), n 1, через sp(n, R) обозначена ал-
-^2 1	v
v vT ) , Xf — вещественны порядка n, X2 и X3 симмет-
Аз — Ax J
ричны. Далее, Gu = spn, Gn = un, вложение Gn -X Gu и задается
/ A B\
так: A + iB —> I	I, где A + iB G un, А и В вещественны.
Приведенным списком исчерпываются все нормальные формы
Gn С Gu, для которых Gu — классическая простая алгебра Ли, т.е.
типа Ап, Вп, Сп, Dn. Кроме этих форм существует несколько нормаль-
ных форм, порожденных особыми алгебрами Ли, описание которых мы
здесь опускаем.
В заключение мы покажем, что среди гамильтоновых систем нор-
216
Глава б
мальной серии содержатся классические уравнения движения много-
мерного твердого тела с неподвижной точкой (см. п. 2). Рассмотрим
алгебру son и представим ее в виде нормальной формы в алгебре sun
(см. выше). Вложим sun стандартным образом в ип и рассмотрим два
регулярных элемента а, b из картановской подалгебры гТ0 в ип (а не
/ ia± 0 \	/ ibi 0 \
в sw„!). Пусть а = I	, b = I	I, где а,, 6; 6 К
и ai ±оу, b{ ±bj, при i j. Тогда оператор сраь- Gn Gn дейст-
вует так: <раь(Еа + Е_а) =
—7~^~{Еа + Е-а). Так как каждый корень а
а(а)
задается парой индексов (г, j), т.е. а = сщ (см. выше), то каждый
собственный вектор Еа -\-Е_а, отвечающий паре (г, J), умножается на
Л	\	bj т,
собственное число	Итак, базисные кососимметрические
Qi Qj
матрицы Eij = Tij — Tji = I ’• 1 I умножаются при действии ср на
\ -1 ' •/
числа Поэтому гамильтонова система X = [.-V. имеет вид
Пусть теперь а = —ib2, т.е. ар = Ь2. Отсюда
Итак, при а = —ib2 мы получаем уже знакомую нам систему (см. п. 2)
уравнений динамики твердого тела с неподвижной точкой. Более того,
среди операторов (раь нормальной серии содержится классический опе-
ратор wX = IX + XI, где I — вещественная диагональная матрица. В
самом деле, положим b = —ia2, тогда
TabEij — .Eij — (а, + aj)Eij,
(X^ (X J
t. e.
'Ф —	t-PabX — IX + А/,
§ 16. Вложение гамильтоновых систем в алгебры Ли
217
где I = —ia. Таким образом, мы включили классическую гамильтонову
систему уравнений движения твердого тела с неподвижной точкой (без
потенциала) в многопараметрическое семейство аналогичных гамиль-
тоновых систем, естественно определенных на простых компактных
алгебрах Ли.
4.	Секционные операторы и соответствующие им динами-
ческие системы на орбитах
Предыдущие примеры систем были связаны с компактными и по-
лупростыми группами. Однако некоторые гамильтоновы системы, за-
данные на Ж”, в принципе не допускают вложения в компактные ал-
гебры, поэтому для полного интегрирования таких систем необходи-
мо рассматривать некомпактные алгебры Ли. Такая ситуация воз-
никает, например, при изучении уравнений движения твердого тела
по инерции в идеальной жидкости. Итак, мы приходим к необходи-
мости найти «некомпактные аналоги» описанных выше гамильтоно-
вых систем вида X = [Х,<раьрХ]. Поскольку эти системы полностью
определяются заданием оператора сраъп, т.е. заданием гамильтониана
F = (X, tpaboX), где X = sgradF, то для обнаружения аналогов этих
систем в некомпактном случае следует предъявить «некомпактные га-
мильтонианы», задаваемые «некомпактными операторами» ср. Задача
эта требует нового, более широкого подхода, так как уже описанные
нами операторы ср существенно использовали структуру полупростых
алгебр, в частности, важнейшей компонентой этих операторов было ото-
бражение ad”1 adj,, корректно определенное только в полупростом слу-
чае, когда имеется корневое разложение и когда оператор ada обратим
на плоскости	Если алгебра Ли некомпактна, то какие-либо ес-
тественные аналоги корневого разложения отсутствуют, а потому нуж-
ны новые соображения, позволяющие охватить случай некомпактных
алгебр. Оказывается, аналоги «твердотельных операторов» сраьо сущест-
вуют и в некомпактном случае (см. [9, 14]). Перейдем к их описанию.
Пусть Н — алгебра Ли, А — соответствующая группа, р: Н
EndV — представление Н в линейном пространстве V, а: & —>
—> Aut V — соответствующее представление группы; О(Х) — орбиты
действия группы А на V, X G V. Если задать линейный оператор, кото-
рый назовем секционным, Q: V —> Н, то на орбитах возникает естес-
твенное векторное поле Xq = p(QX)X. Задание такого оператора поз-
воляет также иногда определить симплектическую структуру на орби-
218
Глава б
тах. Для приложений важную роль играет специальный класс секцион-
ных операторов, образующих многопараметрическое семейство, основ-
ными параметрами которого являются два элемента: a G V, b G КегФа,
где ФаН = (ph)a. Например, в частном случае Н = son, р = ad по-
ле Xq совпадает с уравнениями движения многомерного твердого тела
с неподвижной точкой (в отсутствие силы тяжести).
Рис. 179
Итак, пусть а — произвольная точка общего положения, т. е. прохо-
дящая через нее орбита имеет максимальную размерность. Пусть К С
С Н — аннулятор элемента а, К = КегФа, где Фа определено вы-
ше. Если а — общего положения, то размерность К наименьшая.
Пусть b G К — произвольный элемент. Рассмотрим действие pb на V;
через М обозначим Кег(рЬ) С V. Пусть К' — произвольное алгебраи-
ческое дополнение к К в Н, т. е. Н = К + К', К А К' = 0. Выбор К'
неоднозначен, возможность варьирования этого дополнения и вызыва-
ет появление семейства параметров в конструкции. Ясно, что a G М.
В силу определения К' отображение Фа: Н —> У мономорфно перево-
дит К' в некоторую плоскость ФаК' С V. Так как ФаК' = ФаН, то
плоскость Фа-/Г' не зависит от выбора К' и однозначно определяется
выбором элемента а и представлением р. Предположим, что существу-
ет элемент Ъ такой, что V разлагается в сумму двух подпространств: М
и Im(pb), т.е. У = М ф1пг(рЬ). Например, в качестве b можно брать по-
лупростые элементы К. Плоскость Фа_/У пересекается с М и Im(pb) по
§ 16. Вложение гамильтоновых систем в алгебры Ли
219
плоскостям, которые обозначим соответственно В и R'. Получаем раз-
ложение ФаК' в прямую сумму трех плоскостей B+R' -\-Р, где В и R'
определены однозначно, а дополнительная плоскость Р выбирается не-
однозначно и вносит свой набор параметров. Рассмотрим действие pb
на Im(pb), тогда pb изоморфно отображает Im(pb) на себя (рис. 179),
в частности, pb обратим на Im(pb). Пусть (рЬ)-1 — оператор, обрат-
ный к pb на Im(pb). Положим R = (рЬ)-1Я', тогда pb: R —> R'. Плос-
кость R определена однозначно. Рассмотрим в Im(pb) плоскость Z —
алгебраическое дополнение к /?в Im(pb), тогда Im(pb) = Z + R1, R ~ R'.
Пусть Т — дополнение к В в М. Мы построили разложение простран-
ства в V в прямую сумму четырех плоскостей V = T + B + R + Z.
При этом R, В, М, Im(pb) определены однозначно, a Z, Т — неод-
нозначно и вносят свой набор параметров. Если в V задано скаляр-
ное произведение, то Z, Т однозначно определяются как ортогональ-
ные дополнения. Так как К1 изоморфно ФаК', то К' = В + R + Р,
где В = Ф~ГВ, R = Ф“rR, Р = Ф~ГР. Итак, определено многопара-
метрическое разложение алгебры Н в прямую сумму четырех подпро-
странств: К + В + R + Р.
Определив секционный оператор Q: V —> Н, Q: Т + В + R + Z
-^K + B+ R + P, положив
/DO	0	0	\
п_	о ф-1	О	О
4	О О	Ф^рЬ	0	’
\ 0	0	0	D')
где D:T К — произвольный линейный оператор, Ф”1: В —> В —
оператор, обратный к Фа на плоскости В,
Ф”1 pb-.R-.IL pb-.R^R', ф-ЧЯ'^Д, D'-.Z^P
(см. рис. 179).
Итак, оператор Q имеет вид Q(a, b, D, D'). Теперь строим динами-
ческую систему Xq = p(QX)X, X G V. Выбор в качестве а точки об-
щего положения в V обусловлен тем, что в этом случае размерность К'
максимальна, т.е. операторы Ф^рЬ и Ф”1 имеют наибольшую область
определения. Отметим важные частные случаи описанной конструк-
ции.
Если V = Н*, р = ad*: Н End Н*, то Ф~1 pb = Ф”1 ad£. Взяв, на-
пример, в качестве Н некомпактную алгебру Ли sonffil", т.е. алгебру
220
Глава б
Ли группы движений евклидова пространства, мы получим (см. ниже),
что система Xq = X превращается в уравнения движения твер-
дого тела по инерции в идеальной жидкости. Здесь мы имеем К = К*
при естественном отождествлении Н и Н*, Z = Z = 0, R = R.
Пусть ®/5э — компактное симметрическое пространство, тогда
алгебра Ли G разлагается в сумму плоскостей Н + V, где Н — ста-
ционарная подалгебра, V — касательное пространство, подалгебра Н
присоединенным образом действует на V. Тогда разложение V = Т +
+В + R + Z, определяющее секционный оператор, имеет вид: Т —
максимальное коммутативное подпространство в V, а Е Т, R = R',
Z = 0, b Е К, ФаК' + Т = V = Т + В + R. Если С: V Н — секци-
онный оператор, то на орбитах О(Х) С V возникает внешняя 2-фор-
ма FC(X, £, 77) = {СХ, [£,77]), где £, 77 Е ТХО.
Существуют богатые серии симметрических пространств и секци-
онных операторов, для которых эта форма определяет (почти всюду на
орбите) симплектическую структуру, неинвариантную при действии
группы. Снова вернемся к общему случаю.
Пусть £, г] Е ТхО — касательные векторы, тогда существуют и од-
нозначно определены векторы rf Е К'{Х) такие, что р^' = £, ру' = 77.
Пусть задан секционный оператор С: V —> Н. Определим билинейную
форму Fc = {СХ, [£', 77']), где [^',77'] Е Н, СХ Е Н. Эта форма определе-
на на орбитах и кососимметрична. Наряду с ней на орбитах определен
поток Xq.
Вопрос А: при каких операторах С форма Fc замкнута на орбитах
и невырождена?
Вопрос В: при каких С и Q поток Xq гамильтонов относительно
формы FC1
Оказывается, для симметрических пространств на эти вопросы мо-
гут быть даны достаточно полные ответы. Например, рассмотрим сим-
метрическое пространство SU^/SO3, тогда уравнения Xq на плоскос-
ти В совпадают с уравнениями Эйлера движения трехмерного твердого
тела с закрепленной точкой и с произвольным тензором инерции. От-
метим, что среди построенных нами систем Xq = ad^ X содержатся
гамильтоновы уравнения движения твердого тела с неподвижной точ-
кой (для любого тг, а не только при п = 3). Чтобы убедиться в этом,
достаточно взять в качестве симметрического пространства полупрос-
тую группу 5э,тогда она представляется в виде х где инволю-
ция <т:5эх5э—>5эх5э задается так: &{х,у) = {у,х). Соответствующее
§ 16. Вложение гамильтоновых систем в алгебры Ли
221
разложение в алгебре Ли G = Н + Н имеет вид V = (X, —X), X G Н,
Н = (X,X), X G Н (здесь одной буквой обозначена Н и ее реализация
в G), aV = —V, сгН = Н. Легко проверяется, что построенная выше
форма Fc превращается здесь в каноническую симплектическую струк-
туру на орбитах присоединенного представления, а поле Xq при D' = О
превращается в искомые «твердотельные уравнения». Таким образом,
мы обнаружили «многомерную» серию динамических систем, содержа-
щую изученные нами ранее уравнения и интересные тем, что они опре-
делены также и на некомпактных алгебрах Ли, являясь в то же время
естественными аналогами систем типа «твердого тела».
5.	Уравнения движения многомерного твердого тела по
инерции в идеальной жидкости
Здесь мы в явном виде предъявим вложение указанной в заголов-
ке системы уравнений в некомпактную алгебру Ли группы движений
евклидова пространства. При этом система окажется гамильтоновой на
орбитах общего положения и в некоторых случаях полностью интегри-
руемой [11].
Пусть Е(п) — группа Ли собственных движений R”. Извест-
но, что Е(п) — полупрямое произведение группы SO,
тативной
мальным
странству
и комму-
подгруппы R параллельных переносов, являющейся нор-
делителем в группе Е(п), изоморфным евклидову про-
размерности п. Матричная реализация группы Е(п) имеет
Ж1 \
вид
SO
Ж1
, где (жх, ... , хп) G R. Действие группы SO
\ 0 ... О 1 /
на нормальном делителе R совпадает со стандартным представлени-
ем SOn в R". Следовательно, алгебра Ли е(п) группы Е(п} является
полупрямой суммой son Ж”, где у>: son End Ж” — дифферен-
циал стандартного представления SOn в Ж”, причем Ж” рассматрива-
ется как коммутативная алгебра. Матричное представление е(п) име-
/	2/1 \
son
ет вид
. Операция коммутирования в алгебре е(п)
О
У1
0 /
устроена так: [х + £,у + Т)] = [ж, у] + x(rj) ~ у(£), где ж(т?) и у(£) —
результат действия матриц х и у на векторы г) и £ соответствен-
222
Глава б
но при стандартном действии son на Ж". Пространство е(п)*, дуаль-
ное к е(п), мы канонически отождествим с е(п), для этого опреде-
лим невырожденное скалярное произведение в е(п) (неинвариантное).
Имеем e(n) = son + Ж” как линейные пространства, пусть (, ) —
форма Киллинга, (, )е — евклидово произведение на Ж"; тогда поло-
жим ((ж1,?/1), (ж2,2/2)) = (Ж1,ж2) + (2/i,2/2)e; ж2 G so„; ?д, у2 G Ж”.
Теперь все подпространства в е(п)* будем изображать как плоскости
в е(п), используя каноническое отождествление, указанное выше.
Вычислим в явном виде, во что переходит операция ad* при изо-
морфизме е(п)* = е(п). Напомним, что мы обозначаем ad| X, ( G G,
х Е G* через а(ж,^).
Предложение 16.4. Пусть £ Е son, х Е Ж”, S Е so* = son, М Е
Е (Ж”)* = Ж", £ + х Е son Ж” = e(n), S + М Е e(n)* = (so„ © Ж")* =
= son ф Ж”. Тогда
a(S + M,£ + x)\SOn = [S,£] + l/2(MxT — хМТ),
a(S + Af, £ + х) |jjn = £Af
(здесь М, a G Ж” записаны как столбцы координат, Т — транспониро-
вание).
Доказательство вытекает из определения операции а(, ). Пусть G —
произвольная алгебра Ли. Уравнениями Эйлера на G* назовем систему
дифференциальных уравнений х = а(х, С(х)) на G*, где С: G* G —
самосопряженный линейный оператор, а а(ж,£) — описанный выше ли-
нейный функционал. Тогда (см. выше) поток х = а(х,С(ж)) течет по
орбитам коприсоединенного представления Ad* группы ®. На этих ор-
битах уравнения Эйлера являются гамильтоновыми относительно ка-
нонической симплектической структуры [15].
Применим конструкцию п. 4 для построения секционного операто-
ра для коприсоединенного представления алгебры е(п). Получим мно-
гопараметрическое семейство секционных операторов Q: е(п)* —> е(п),
для которых уравнения Эйлера оказываются вполне интегрируемыми
гамильтоновыми системами на орбитах коприсоединенного представ-
ления группы Ли Е(п). Рассмотрим в е(п)*, а следовательно, и в е(п)
следующее подпространство
[=±1]-2
К =	K(E2fc+i,2fc+2) ® С е(п),
к=0
§ 16. Вложение гамильтоновых систем в алгебры Ли
223
где Eij — элементарные кососимметрические матрицы, a ei — стан-
дартный ортобазис в Ж". Соответствующее подпространство в е(п)*
обозначим К*.
Предложение 16.5. Подпространства К и К' допускают инвари-
антное описание: К = Апп(жх) = {£ G С, а(я?х,^) = 0}, где G = е(п)
и К* = {£' G G*, а(^',я?2) = 0}, где я?х G G* — элемент общего положе-
ния и х2 Е К CG — также элемент общего положения.
Доказательство вытекает из предложения 16.4.
Ортогональное дополнение к подпространству W в е(п) или в е(п)*
относительно скалярного произведения (,) + (, )е обозначим И7-1-.
Лемма 16.1. Пусть a G К*, рассмотрим отображение Фа: е(п) —>
е(п)*, х	а(а, ж) Е е(п)*. Тогда С К*1, где К1- — ортого-
нальное дополнение к К, в К*1 — дополнение к К*.
Доказательство очевидно. Если а — общего положения, то К =
= КегФа и Фа: К1- —> К*1 — изоморфизм, поэтому определено об-
ратное отображение Ф”1: К*1- К\ Имеем разложение в прямую
сумму линейных пространств е(п) = К1- ф К и е(п)* = К*1 ф К*. По
общей методике, описанной в п. 4, пусть а Е К*, b Е К, причем а —
общего положения, тогда если z = х + у Е е(п)*, х Е К*1, у Е К*,
то Q(a, b, D)z = Ф”1 ad£ х + D(y), где D: К* К произволен.
Теперь мы можем записать основные уравнения Xq = adgX X
на G* = (son ф Ж")* = son ф Ж", где Q(a, b, D) — секционный опе-
ратор, построенный нами в п. 4 и являющийся некомпактным анало-
гом операторов <pabD, описывающих движение твердого тела. В нашем
случае Q(a, b, D): е(п)* —> е(п), поэтому Xq определен на пространст-
ве G*. Уравнения Xq = ad^y X записываются в явном виде так:
S = [S,^] + l/2(MxT-xMT),
М = -£М,
где £ Е son, х Е Ж” являются функциями от элементов S, М, при-
чем зависимость эта определяется оператором Q(a, Ь, D), т.е. £ + х =
= Q(a, b, D)(S + М). Здесь S + М Е e(n)*, £ + х Е е(п). Поскольку опе-
ратор Q(a, b, D) задан нами явно, то не составляет труда вычислить и
явную зависимость £ и х от S, М, a, b, D.
Предложение 16.6. Система дифференциальных уравнений X =
= &dQ(a,b,D)x X на коалгебре е(п)* (записывающаяся в явном виде как
224
Глава б
система (Г)) является гамильтоновой на орбитах общего положения.
Кроме того, при п = 3 эта система является аналогом уравнений дви-
жений твердого тела по инерции в идеальной жидкости. Тем самым
эта система допускает вложение в некомпактную алгебру Ли е(п) в
смысле определения 16.1.
На этом основании мы и будем говорить, что уравнения (Г) для
произвольного п описывают движение многомерного аналога твердого
тела по инерции в идеальной жидкости. Прежде чем доказывать пред-
ложение 16.6, напомним классические уравнения движения трехмерно-
го твердого тела по инерции в идеальной жидкости (подробности см.,
например, в [16]). Свяжем систему координат с движущимся телом,
пусть щ — компоненты скорости поступательного движения начала
координат, a Wi — компоненты угловой скорости вращения твердого
тела. Тогда кинетическая энергия системы жидкость — твердое тело
имеет вид Т = 1 / *2)AijWiWj 4- BijUiUj) 4- CijWiUj, где .1/у, Bij, Cij по-
стоянные, зависящие от формы тела и от плотностей тела и жидкости;
по дважды повторяющемуся индексу производится суммирование от 1
до 3. Пусть N = (У1, у2, Уз), где у{ = дТ/дщ, К = (on, х2, ж3), где xt =
= dT/dui, тогда движение твердого тела по инерции в идеальной жид-
кости описывается уравнениями:
dN/dt = N xw + K xU,
dK/dt = К x w,
где U = (wi, u2, из), w = (wi, w2, щ3).
Кинетическая энергия твердого тела является произвольной по-
ложительно определенной однородной квадратичной формой от шести
переменных щ, шр, она определяется, следовательно, 21 коэффициен-
том Ajj, Bjj, Cij. Уравнения (*) в общем случае имеют три классичес-
ких интеграла Кирхгофа, поэтому для полной интегрируемости урав-
нений (*) нужно иметь еще один дополнительный функционально не-
зависимый от них интеграл. Так как орбиты общего положения имеют
размерность 4, то четырех независимых интегралов, два из которых
определяют орбиту, а два уже не являются постоянными на орбитах,
достаточно для полной интегрируемости системы. Напомним три клас-
сических случая, когда имеется этот четвертый дополнительный ин-
теграл (полный обзор см., например, в [17]).
Первое общее решение уравнений движения твердого тела в жид-
кости было дано Кирхгофом для тела вращения. В 1871 г. Клебш ука-
§ 16. Вложение гамильтоновых систем в алгебры Ли
225
зал два новых вида функции Т (кинетической энергии), при которых
можно найти к трем интегралам Кирхгофа четвертый и привести, сле-
довательно, задачу к квадратурам. Решение задачи для первого случая
Клебша, когда четвертый интеграл есть, вообще говоря, линейная одно-
родная функция от переменных xt, yj, предложено Хальфеном. В 1878 г.
Вебер исследовал второй случай Клебша, когда четвертый интеграл вы-
ражается однородной квадратичной функцией от ж/, yj, при некотором
частном предположении относительно произвольных постоянных. Об-
щее решение последней задачи было дано Кёттером. Третий вид кине-
тической энергии, для которого уравнения (*) интегрируются в явном
виде, был открыт В. А. Стекловым.
1.	Первый случай Клебша. Кинетическая энергия в перемен-
ных Xi, yi имеет вид
Т = 1/2Ьц(х1 + х%) + I/2&33X3 + 614(ж1?/1 + х-2у-2) +
+ ЪзвХзуз + 1/2644(7/1 + Уг) + 1/2ЬббУз,
и уравнения движения (*) в этом случае допускают четвертый линей-
ный интеграл от переменных ж/, yj. Тело с указанной энергией обладает
свойством не менять своего вида при повороте вокруг оси z на угол тг/2.
При 614 = &36 = 0 получается тело вращения.
2.	Второй случай Клебша. Уравнения движения с кинетической
энергией
Т = buxj + 622Ж2 + ьззЖз + 644//? + Ь55у1 + Ь66у%,
между коэффициентами которой существуют соотношения вида (622 —
-Ьзз)/&44 + (&зз - Ьц)/655 + (Ь11 - &2г)/ьбб = 0, допускают четвертый
интеграл — однородную квадратичную форму. Рассматриваемое твер-
дое тело симметрично относительно трех взаимно перпендикулярных
плоскостей.
3.	Случай Стеклова. Уравнения (*) задаются кинетической энерги-
ей вида 2Т = 526цХ1 + 2<т52 б55666Х1?/1 + £6443/1, гДе определяют-
ся соотношениями: 6ц = а2Ъ^(Ъ2ъ + 6|6), 622 = о’2655(6|6 + 644), 633 =
= <т2Ьбб(Ь44 + Уравнения допускают кроме трех классических ин-
тегралов целый однородный второй степени относительно Х{, yj, чет-
вертый интеграл. Здесь <т — произвольная постоянная, знак £ обо-
значает суммирование трех выражений, получающихся из написанного
под этим знаком круговой перестановкой групп индексов 1, 2, 3; 4, 5, 6.
226
Глава б
Теперь мы докажем предложение 16.6.
Лемма 16.2. Рассмотрим отображение ф: зоз Ж3, которое эле-
мент X = хЕ^2 + уЕ1з + ZE23 переводит в точку (z, —у, х), тог-
да ф[Х,У] = —фХ х фУ, где фХ х фУ — векторное произведение
в Ж3. Далее, ф(МхТ — хМт) = М х х, М, х 6 Ж3 и = —ф(Д) х М,
где Е S03.
Доказательство.
Если z = £ + х Е е(3), Z = S + М Е е(3)*, то, как показано в
предложении 16.4, a(Z,z) = (у, X), где у = [S', £;] + 1/2(МхТ — хМт) Е
Е SO3; X = — £М, векторы М и х записаны в виде столбцов, алгеб-
ра Ли зоз реализована кососимметрическими матрицами. Утверждение
доказано.	
Выпишем операторы Q(a, b, D), построенные нами выше, в прос-
тейшем трехмерном случае для е(3) = зоз ф Ж3, когда некоторые мно-
гомерные эффекты пропадают, что облегчает явную запись. В этом
случае
/ 0	«1 к	= К*	=	-ах	0 \ 0	0 /0	0 Jf-L =	К*1-	=	0	0 \-я?2 -я?з Пусть / о	0	fc\ f =	0	0	/3	ф \-/2	-fc	0 / тогда /о	0 ad* f =	0	0 \aifc ~ l/2uia2 ~fcai ~ r/2u2ai	D\ /0\ 0 1 Ф 1 0 1 , 0/	\«2/ ж2\	/«А Хз 1 Ф 1 U2 . 0/ \°/ /«А «2 е к*\ \°/ —ai fc + Уг71!	/— aifa + Уг^гаг ® 1 fliMi 1 0	7 \ 0 7
§ 16. Вложение гамильтоновых систем в алгебры Ли
227
Пусть
/О	61 0\	/0\
b = I -bi о о I © ( о I ,
\ О	0 0/	\Ь2/
/о о
X = О О
\-х2 -х3
ж2\	/ г/Л
ж3 Ф I ?/2 ,
о/ \0 /
тогда
\ж3&1 - У2М1
О	biX3 - Уг&гУ!
О	~biX2 - У2Ъ2у2
-x2b-i - rl2b2y2	0	/
поэтому
Z Z °	О
ad:	О	О
\Д-/2 ~/з
/Л	/«Л \
/з I ф I «2 I I =
0/	\0//
О
О
/О	О
О	О
— «1
~Г---"2
02
«1
02
„ai „	— b2a2 — 2bidi
z' = V’+t“—ц—
ai , b2a2 + 2biai
+ = -27-/2 + U2---
62	6?
Окончательно
// 0 /1
Q(a, b, D) = -А О
\\-/2 -/з
а/i + (Зи3 ~т~и2 \
02
А	— ^1
0	—И1
&2
7-Ы2 о
02	/
/ „ai , b2a2 + 2biai \
21“/з - И1-----77----
»2	Ъ22
„И’.	6202+26101
-2^/2 -«2
Ь2
7/1 +
где а, /3, 7, J — постоянные, определяющие оператор D: К* К.
228
Глава 6
Кинетическая энергия имеет вид {X, Q(A, b, D)X). Матрица этой квад-
ратичной формы выглядит так:
	' -2а 0 0	0 0 0	0 0 0	0 0 «1	0 2в1 “ТГ «1	7 2 0 0	
А =					&2		
	0	0	ai	Ь2 2( —&2<l2 + 261В1)	0	0	
	0	2о,1 &2	«1	0	Ь2 2(—&2<12 + 261Я1)	0	
		0	0	0	0	5	
Ясно,	ЧТО			Л о (/7	\2 А		
		det А		=	Щ - /5	J + 25а 1 ,		
т.е. знак det, Л можно сделать произвольным, варьируя, например, опе-
ратор D. Обозначая А = Ь72(^2й2 + 2bifli), получаем, что форма Т при-
водится к следующему диагональному виду:
(2qi)2 (f _ h_\2 , 2qi(^2 ~ 1) ,2
b2X V2 2bJ + &зА
откуда видно, что форма знаконеопределенная.
В размерностях, больших, чем три, явные формулы резко услож-
няются, и поэтому мы не будем здесь их далее анализировать.
§ 17.	Полная интегрируемость некоторых
гамильтоновых систем на алгебрах Ли
1.	Метод сдвига аргумента и построение коммутативных
алгебр интегралов на орбитах в алгебрах Ли
Перечисленные выше гамильтоновы системы не только допускают
вложение в алгебры Ли, но и являются вполне интегрируемыми по Ли-
§ 17. Полная интегрируемость некоторых гамильтоновых систем 229
увиллю (в коммутативном смысле) [11, 12, 15]. В частности, мы полу-
чаем в этих случаях положительное решение гипотезы А (см. § 16), по-
скольку предъявляем полные коммутативные наборы алгебраических
функций на орбитах общего положения в полупростых и компактных
алгебрах Ли. Интегралы этих гамильтоновых систем устроены чрезвы-
чайно просто, для их построения достаточно знать инварианты алгеб-
ры Ли, т.е. множество функций, постоянных на орбитах общего поло-
жения. В грубых чертах процесс построения интегралов заключается
в следующем. Пусть / — какой-либо инвариант алгебры, являющий-
ся функцией на G* (или на G в компактном и полупростом случае).
Пусть а Е G* — (ко)вектор общего положения. Сдвинем аргумент функ-
ции /(X), т.е. рассмотрим функцию /(X + Ха), A G С или IR. Так как
во всех интересующих нас случаях функции / являются полиномами,
то мы можем разложить функцию /(X + Ха) по степеням формальной
переменной А, что дает нам разложение вида /(Х + Аа) = ^2Р/.(Х, а)Хк;
k
замечательным фактом является то, что получающиеся при этом поли-
номы F/.(X, а) (или, что то же самое, функции /(X + Ха)) и образуют
полные коммутативные наборы функций (интегралов) во всех перечис-
ленных выше случаях [11, 12, 15]. Этот прием построения интегралов
мы назовем методом сдвига аргумента. Эта схема является развитием
идеи, предложенной в [18] для случая алгебры son.
Метод сдвига аргумента дает положительные результаты и для
многих некомпактных алгебр Ли. Полные коммутативные наборы
функций на орбитах общего положения можно получать, применяя ме-
тод сдвига аргумента не только к инвариантам алгебры (которых иног-
да не хватает для получения таких наборов интегралов), но и к так
называемым полуинвариантам, т.е. к функциям, умножающимся при
(ко)присоединенном действии группы на орбите на характеры этого
представления. Инварианты являются, конечно, частными случаями
полуинвариантов, так как при (ко)присоединенном действии инвари-
анты являются неподвижными точками этого действия в пространстве
функций. Существуют и другие общие методы построения полных ком-
мутативных наборов интегралов, останавливаться на которых мы здесь
не имеем возможности (см., например, [22, 21]).
Перейдем теперь к построению коммутативных наборов интегра-
лов на орбитах общего положения. Доказательство полноты этих на-
боров будет дано в следующих пунктах. Мы ограничимся в основном
230
Глава 6
рассмотрением комплексной полупростой алгебры Ли и уравнений Эй-
лера вида X = [Х,<рХ], где операторы <раьп определяют гамильтонианы
комплексной серии (см. §16, п. 2). Рассмотрим присоединенное дейст-
вие комплексной полупростой группы ® на ее алгебре Ли G (здесь мож-
но считать, что G = G*). Группа ® расслаивает алгебру G на орбиты.
Будем считать, что AdgX = gX g~A, g Е ®.
Лемма 17.1. Любая гладкая функция f(X), X Е G, инвариант-
ная относительно присоединенного действия группы, т. е. постоян-
ная на орбитах, является интегралом уравнения Эйлера X = [Х,<рХ],
где g>: G G — произвольный самосопряженный оператор.
Доказательство, очевидно, вытекает из того, что ТхО = {[X, у]},
где вектор у пробегает всю алгебру.
Отметим, что в комплексном случае существуют элементы, не ле-
жащие ни в какой орбите, порождаемой каким-либо элементом из фик-
сированной картановской подалгебры Н.
Рассмотрим множество всех комплексных векторов grad/(X),
где / Е IG, где через IG мы обозначаем кольцо инвариантных по-
линомов на алгебре G. Пусть Н(Х} — подпространство в G, состоящее
из всех элементов, коммутирующих с X. Если X Е RegG, то Н(Х) яв-
ляется некоторой картановской подалгеброй, причем в полупростой ал-
гебре любые две картановские подалгебры сопряжены. В частности, ес-
ли X Е RegG, то Н(Х') = g0H(a, tyg^1 для некоторого g0 Е ®, Н(а, Ь) —
картановская подалгебра, содержащая а, Ь. Ясно, что Н(Х) содержится
в подпространстве, порожденном grad/(X), / Е IG, и, если X Е RegG,
то Н(Х} = {grad/(X), / Е IG}. Это следует из того, что форма Кил-
линга невырождена, и плоскость Н(Х} ортогональна касательной плос-
кости к орбите.
Лемма 17.2. Гладкая функция f постоянна на орбитах алгебры тог-
да и только тогда, когда выполнено тождество [X,grad/(X)] = 0 для
любого X Е G (через grad/(X) мы обозначаем значение поля grad/ в
точке X).
Доказательство.
Напомним, что ТхО = {[X, £]}, где £ пробегает алгебру G. Отсю-
да (grad/(X), [X, £]) = 0 для любого £, так как [X, £]/(Х) = 0. Так как
оператор adx кососимметричен, то ([grad/(X), X], £) = 0, что в силу
невырожденности формы Киллинга означает, что [grad/(X),X] = 0.
Аналогично проверяется обратное утверждение.	
§ 17. Полная интегрируемость некоторых гамильтоновых систем 231
Предложение 17.1. Пусть f Е IG, т.е. функция является инва-
риантом, постоянна на орбитах алгебры. Тогда комплексные функ-
ции hx(X) = f(X + Ха) являются (при любом А) интегралами уравне-
ния X = [X,<раьоХ}, где ср — оператор комплексной серии (см. выше).
Интегралом является и функция F(X) = (X, <рХ).
Доказательство.
Проверим тождество 0 = -j-hx(X), где т — параметр вдоль траек-
ат
торий потока X. Это эквивалентно проверке равенства (grad hx (X), X) =
= 0. Имеем
(grad/iA(X),X) = (grad/(X + Ха), [Х,у>Х]) =
= (grad/(X + Ха), [X + Аа,у>Х]) — A(grad/(X + Ха), [а,у>Х]) =
= ([grad/(X + Ха),Х + Аа],у>Х) — A(grad/(X + Ха), [a, ad”1 ad^X' +
+D(t)]) = ([gradf(X + Xa),X + Xa],pX)—X(gYa,df(X + Xa),[b,X']) -
-A(grad/(X + Xa),[a,D(t)]).
Мы использовали определение <р из § 16, здесь t Е H(a,b), X' Е V.
Первое слагаемое в полученной сумме равно нулю в силу леммы 17.2,
примененной в точке X + Ха. Третье слагаемое равно нулю, посколь-
ку D(t) Е (а,Ь). Второе слагаемое преобразуем так:
A(grad/(X + Aa),[6,X']) = A(grad/(X + Ха), [b,X' + t + Ла]) =
= A(grad/(X + Аа),[Ь,Х + Ла]) = -A(grad/(X + Ха),Х + Ха],Ь) =0
в силу леммы 17.2 и ввиду тождества [b,t + Ла]. Итак, ^hx(X) = 0
вдоль X. Далее, ^F(X) = (Х,<рХ) + (Х,<рХ) = 2([Х,<рХ},<рХ) = 0 в
силу симметричности и в силу косой симметрии оператора ad.
Рассмотрим модельный пример sl(n, С). Ясно, что стандартные
симметрические полиномы от собственных чисел матрицы X являются
интегралами, постоянными на орбитах алгебры. Преобразуем уравне-
ние, записав его в виде (X + Ха)' = [X + Ха,<рХ + ЛЬ]. Действительно,
раскрывая коммутатор и выполняя очевидные преобразования, получа-
ем исходное уравнение X = [X,<рХ]. Мы использовали то, что [а,6] = 0
и [X, &] + [а,<рХ] = 0 в силу определения <раьо- Итак, уравнение не
232
Глава б
изменилось, но мы усматриваем новую серию интегралов: симмет-
рические полиномы от собственных чисел матрицы X + Ха. Эти ин-
тегралы можно изобразить двумя способами: 1) рассмотреть разложе-
ние полинома det(X + аХ — рЕ) = РпвХ'/Р по степеням А и //,
а,/3
при этом все полиномы Рар(Х, а) будут интегралами уравнения; 2)
рассмотреть функции Sk = Sp(X + Ха)к и их разложения по степе-
ням A: Sk = 52 а)Ха. Связь полиномов Ньютона с симметри-
ческими полиномами <тг и определяет связь с Рар-
Перейдем теперь к построению интегралов компактной серии.
Пусть Gu — компактия форма алгебры G. Пусть X G G„. a,b Е Ни,
X + Ха Е Gu, если А вещественно. Рассмотрим действие на G„.
В отличие от комплексного случая объединение орбит, вырастающих
из картановской подалгебры Ни = Ни(а,Ь), совпадает с Gu. Пусть
tp: Gu —> Gu — оператор компактной серии.
Лемма 17.3. Любая гладкая функция f, инвариантная относительно
присоединенного действия (т.е. постоянная на орбитах), является
интегралом уравнения Эйлера X = [Х,/рХ], где tp: Gu Gu — произ-
вольный самосопряженный оператор.
Доказательство очевидно. Пусть IGU — кольцо инвариантных по-
линомов на Gu. Предъявим в явном виде мультипликативные образую-
щие кольца IGU. Пусть N — нормализатор Ни в Gu, тогда N/Г)п. = Ф —
группа Вейля (см. выше). Пусть t Е Ни, тогда орбита O(t) ортогональ-
на алгебре Ни, и эта орбита возвращается снова на Ни, протыкая Ни
в конечном числе точек, являющихся образами элемента t при дей-
ствии группы Вейля. Кольцо IGU отождествляется с кольцом полино-
мов на Ни, инвариантных относительно действия группы Вейля. Это
кольцо допускает простое описание: если связна, то кольцо IGU —
свбодная алгебра от г образующих, где г = рангСи, в качестве кото-
рых можно выбрать однородные алгебраически независимые полино-
мы Р^, ... , Pkr, где ki = degP/.^ Для простых алгебр Ли числа к{,
степени полиномов, имеют следующий вид:
Ап: 2, 3, 4, ... , п, п + 1;
Вп: 2, 4, 6, ... , 2п:
Сп: 2, 4, 6, ... , 2п:
Dn: 2, 4, 6, ... , 2п — 2, п;
§ 17. Полная интегрируемость некоторых гамильтоновых систем 233
G2: 2, 6;
F4: 2, 6, 8, 12;
Е6: 2, 5, 6, 8, 9, 12;
Ет. 2, 6, 8, 10, 14, 18;
Е8: 2, 8, 12, 14, 18, 20, 24, 30.
Полиномы Pki можно указать явно. Рассмотрим линейное пред-
ставление алгебры Gu минимальной размерности матрицами разме-
ра (т х т). Пусть Лх, ... , Лт — веса представления, т.е. линейные
функционалы на Ни, отвечающие собственным векторам операторов
из Ни в пространстве представления. Координаты Лх, ... , Лт на Ни
могут быть линейно зависимы. Полиномы Pki имеют вид
п+1
An'-
3=1
п
Вп. £Л^;
з=1
п
Сп-.
3 = 1
п
Вп-. £л^;
1=1
ki = 2, 4, 6, ... , 2п - 2; Р( = Лх • Л2 •... • Лп.
т
Если Gu — особая простая алгебра, то Ph =	. Ясно, что все
1=1
кольца IGU являются подкольцами кольца симметрических полино-
мов 5(ЛХ, ... , Лт). Все указанные функции имеют вид SpA-*4 =
т
=	за исключением серии Dn, в которой добавляется еще один
1=1
полином д/detX.
Предложение 17.2. Пусть f Е IGU) т.е. функция f постоянна на
орбитах алгебры Gu. Тогда функции h\(X) = f(X + Ха) являются (при
любом А) интегралами уравнения X = [Х,<рХ], где <р — оператор ком-
пактной серии X + Ха Е Gu, А Е Ж. Интегралом является и функ-
ция F(X) = {Х,<рХ).
234
Глава 6
Доказательство проводится по схеме доказательства предложе-
ния 17.1. Подробности см. в [12].
Рассмотрим теперь интегралы нормальной серии. Рассмотрим вло-
жение Gn в G„. Операторы <раь: Gn Gn порождаются вектора-
ми a, b G Ни, в частности a, b Gn, а потому X + Ха G„, ес-
ли X G Gn, A G К.
Предложение 17.3. Пусть f Е IGU, т. е. функция f постоянна на ор-
битах алгебры Gu. Рассмотрим функции qx(X), где А Е Ж, X Е Gn С Gu,
являющиеся ограничениями функций h\(X) = flX + Ха) на Gn С Gu.
Тогда функции qx являются интегралами уравнения X = [Х,<раьХ],
где <р>аь — оператор нормальной серии. Интегралом также является
и функция F(X) = (X. срХ).
2.	Примеры для алгебр Ли so-:> и S04.
Рассмотрим в качестве наглядной иллюстрации несколько приме-
ров построенных выше серий интегралов для простейших алгебр Ли.
В частности, мы обнаружим, что среди этих интегралов содержатся
известные классические интегралы. Пусть Gu = S03, запишем зоз в ви-
де 3^2, воспользовавшись известным изоморфизмом. Алгебру SU2 вло-
жим как компактную вещественную форму G„ в алгебру G = sl(2, С);
—т
тогда SU2 совпадает с неподвижными точками инволюции аХ = —X .
Ясно, что G„ распадается в сумму трех одномерных подпространств,
порожденных векторами следующего вида:
Е+ — Еа + Е-а, Е- — i(Ea — Е-а), Eq, где Eq Е Ни — iHq,
Оператор компактной серии ср: SU2 —> SU2 действует так:
alb)	a(b)
срЕ+ = —Е-Е+, срЕ_ = —-4-Е-, срЕ0 = Х0Е0,
а(а)	а(а)
где Ао 0 — произвольное вещественное число,
а(Ь)
о = Х+а, А+ ф 0, ala) ф 0, т.е. А+ = ——.
а[Ь)
Окончательно, срЕ+ = Х+Е+, срЕ_ = Х+Е_, ср Eq = Ао£щ, и отлич-
ны от нуля. Для ср общего положения А+ Aq. В случае Gu = SU2
§ 17. Полная интегрируемость некоторых гамильтоновых систем 235
операторы <р компактной серии образуют 2-параметрическое семейст-
во (Л+, Ао). Если
то <рХ =
iz
—х + iy
х + iy
—iz
G su2,
iXoZ
X+(-x + iy)
А+(ж + гу)
—iXoZ
Ясно, что {X, X) = 0, т.е. вектор скорости X касается орбит при-
соединенного действия SU2 на su2. Орбиты — двумерные сферы с цент-
ром в точке О и сама точка О. Все орбиты, кроме точки О, являются
орбитами общего положения. Фиксируем произвольную орбиту общего
положения, тогда интегральные траектории потока X на сфере совпа-
дают с траекториями точек сферы при ее вращении вокруг оси До-
Интегралами потока должны быть функции Sp(X + Xa)k. Имеем
i(z + qX) х + iy \
—х + iy —i(z + qX)J ’
где a = qE0, q / 0. Отсюда Si = 0, S2 = — 2(ж2 + у2 + z2 + <LzqX + g2A2).
Интегралами являются коэффициенты перед степенями А : Qi(X, а) =
= х2 + у2 + z2, Q2(X,a) = zq, Qs(X,a) = q2, т.е. в действитель-
ности функции z = const, х2 + у2 = const. Интегральные траекто-
рии — это пересечения сфер с плоскостями z = const. Получен один
из простейших классических случаев движения твердого тела: интег-
рал Qi(X,a) = Qi(X) является интегралом кинетического момента,
интеграл z = const эквивалентен интегралу энергии в том частном
случае, когда инварианты Д, I2, I3 связаны соотношением Д = 12 (эл-
липсоид вращения).
Снова рассмотрим алгебру зоз и реализуем ее теперь в виде нор-
мальной формы, т.е. изучим интегралы нормальной серии для S03.
Пусть G = sZ(3,С), Gu = su3, Gn = S03, <rX = — ХТ, тХ = X,Gn —
множество неподвижных точек инволюций <т и т. Подалгебра Gn = S03
порождена тремя векторами: E(j = Еа + Е_а,
Д12
0 1	0\	/ 0 0	1\	/ООО
-1 0	0 ] , Е1з = |	0 0	0 J , Е2з =	0 0	1
0 0	0/	\-1 0	о/	\0 -1 0
236
Глава 6
Пусть а, b являются элементами множества Ни чисто мнимых матриц
3 х 3 со следом нуль. Тогда операторы (раъ' Gn Gn приобретают вид
77 _ Ъ-у —	_ bl — Ъз
rGi — ~п—n|2t	— -—умз-
«1 —02	О1 — Оз
77	_ ^2 — Ъз
-----~^23-
(12 — 0,3
Множество {</9оь} для нормальной серии образует 3-параметричес-
кое семейство, в отличие от 2-параметрического для компактной серии.
Ни один компактный оператор не является нормальным (проверьте!).
Положим
bi — bj	
П =	„ .1 Т0ГДа X = Т/?(А1з — АгзН'иа + 'пААзз — Л12)1?1з +
(.Li	CL j
+ а/3(Л12 - А13), где X = аЕ12 + /ЗЕ13 + уЕгз-
Ясно, что (Х,Х) = 0, т.е. векторы X касаются сфер с центром
в точке О. Напомним, что для S03 = SU2 форма Киллинга совпадает с
евклидовым скалярным произведением. Имеем
(i А«|
—а
а
i\o2
-у
7
«Лаз у
Интегралы задаются функциями Sp(X + Ха)к, 1 Sj k 3. Вычисление
дает Р(Х) = а2 + (З2 + 72, Q(X, а) = а2(ах + а2) + /?2(«I + а3) + 72(а2 +
+аз). Эти интегралы совпадают с классическими: Р = М2 — интеграл
кинетического момента, Q = Е — энергия.
Уравнения Эйлера полностью интегрируемы при любых a, b G Ни.
Поток X компактной серии получается предельным переходом из по-
тока нормальной серии (проверьте!).
В качестве следующего примера разберем потоки нормальной се-
рии для Gn = S04 С Gu = SU4 С G = s/(4,С). Алгебра S04 реали-
зуется в G в виде кососимметрических матриц и натянута на век-
торы Eij = Еа + Е_а стандартного вида. Запишем X G ,904 в ви-
де X = аЕ12+(ЗЕ1з+'уЕ14+6Е2з+рЕ24+еЕз4, где все коэффициенты ве-
щественны. Напомним, что ранг S04 = 2, и орбитами общего положения
§ 17. Полная интегрируемость некоторых гамильтоновых систем 237
являются четырехмерные многообразия S2 xS2. Пусть a, b Е Ни С SU4,
тогда
61 — 62
сраЬХ = а---------—
«1 — 0,2
bi — Ьз	61 — 64
---------Ьхз + 7-----------
«1 — 0,3	О1 — «4
^2	^3 р .	Ь‘2	64 р । Ьз 64 р
-----------'"23 + Р----------------'"21 + Е---------------'".31-
а2 - аз °	' «2 - «4	«з - «4
Для каждой пары а, 6 общего положения получаем поток X на S2 х
xS2. Интегралами будут функции Sp(X + Xa)k, 1 <: к 4, где
X + Ха =
(Aai а
—а Ха2
-/3 -8
\-7 -Р
0	7 \
5 р
Хаз £
—е Ао,4 )
Вычисления дают четыре интеграла: hi = SpX2, 62 = SpX4, 63 =
= SpX2a, 6,4 = 2Sp А'2п2 + SpXaXa. Интегралы hi и 62 постоянны на
орбитах и имеют вид
hi = а2 + /З2 + 72 + З2 + р2 + г2,
Ьз = h2+ 4(J33yp — аЗу£ + ар[3е) — 2(а2£2 + (З2 р2 + 72<32).
В действительности, 62 является квадратом интеграла q степени 2
(после вычитания из /12 функции Л,2), где q = ае — /Зр + уЗ. Таким
образом, два квадратичных интеграла hi и q являются образующи-
ми кольца Isoi, т.е. любой полином, постоянный на орбитах, разла-
гается по hi и q. Легко проверяется, что hi и q независимы. Урав-
нения hi = р, q = t где р, t постоянные, определяют орбиты общего
положения. Эти интегралы, в частности q, рассматривались в [19]. Ин-
тегралы Ьз и /14 уже не постоянны на орбитах и имеют вид Ьз = a2(fli +
+02) +/32(fli + 03) + 72(ai + «4] + 82(й2 + а3)+ р2(02 + 04) +е2(а3 + сц), /14 =
= а2(а2 + aia2 + а%) + /32(а2 + aia3 + а2) + 72(а2 + aia^ + а2) + 82(а2 +
+«2^3 + а2) + Р2(а2 + 0,204 + а2) + е2(а2 + а3й4 + а2)- Легко проверить,
что интегралы hi, q, /13, /14 функционально независимы, а интегралы /13
и 6,4 находятся в инволюции на орбитах.
238
Глава 6
3.	Случаи полной интегрируемости уравнений движения
многомерного твердого тела с закрепленной точкой в отсут-
ствие силы тяжести и полная интегрируемость их аналогов
на полупростых алгебрах Ли
Здесь мы дадим краткую схему доказательства, отсылая за техни-
ческими подробностями к [12, 15].
Доказательство.
1)	Пусть G — комплексная полупростая алгебра Ли, X =
= [X, <РаЬпХ] — уравнения Эйлера с оператором комплексной серии.
Тогда эта система вполне интегрируема (по Лиувиллю) на орбитах об-
щего положения. Пусть / — любая инвариантная функция на алгеб-
ре. Тогда все функции h\(X. а) являются интегралами потока X для
любых А. Любые два интеграла h\(X, а) и рм(Х, а), построенные по
функциям f,gE IG, находятся в инволюции на орбитах. Гамильтони-
ан F = (X, <рХ) потока X также коммутирует со всеми интегралами
вида h\{X, а). Из множества этих интегралов можно выбрать функ-
ционально независимые на орбитах общего положения интегралы в ко-
личестве, равном половине размерности орбиты. Интеграл F функцио-
нально выражается через интегралы вида Дд(Х,а).
2)	Пусть Gu — компактная вещественная форма полупростой ал-
гебры Ли и X = [Х,у>Х] — гамильтонова система, определяемая опера-
тором <р компактной серии. Тогда множество функций вида /(X + Ха),
где f Е IGU, образует полный коммутативный набор на орбитах общего
положения в алгебре Ли Gu.
3)	Пусть Gn — нормальная компактная подалгебра в компактной
алгебре G„ и X = [X, <рХ] — гамильтонова система нормальной серии.
Тогда множество функций вида /(X + Ха), где / Е IGn, образует пол-
ный коммутативный набор функций на орбитах общего положения. 
Докажем сначала инволютивность интегралов комплексной серии.
Предварительно вычислим в явном виде sgrad/ для любой гладкой
функции / на G, выразив sgrad/ через grad/.
Лемма 17.4. Для любой гладкой функции / на G выполнено тождест-
во sgrad/(X) = [grad/(X),X].
Доказательство.
Пусть £ — вектор из ТхО, тогда
w(sgrad/,£) = £f(X) = (grad/,
§ 17. Полная интегрируемость некоторых гамильтоновых систем 239
по определению формы ш получаем cu(sgrad/,£) = (sgrad/,?/), где £ =
= \Х,у\, отсюда (grad/, [X,у]) = (sgrad/,у} т.е. ([grad/,X],у) =
= (sgrad/,у). Так как это тождество верно при любом у, то sgrad / =
= [grad/, X].	
Если F = (Х,у>Х), то ipX = grad/(X), откуда —X = [у>Х,Х],
что и доказывает гамильтоновость X. Итак, если / и g — две функ-
ции на G, то {f,g} = ([X,grad/],gradg). Окончательно, {f,g} =
= (X, [grad/, grad g]). Нами доказана
Лемма 17.5. Для любых гладких функций / и g на G выполнено тож-
дество {f,g} = {X, [grad/,gradg]).
Лемма 17.6. Пусть fug — гладкие функции на G, постоянные на
орбитах. Тогда [grad /, gradg] = 0.
Доказательство.
Пусть сначала X G RegG. Так как / и g постоянны на орбитах,
то их градиенты ортогональны к орбите, т.е. оба они лежат в Н(Х)
и, следовательно, коммутируют. Так как регулярные элементы всюду
плотны, то лемма доказана.	
Предложение 17.4. Пусть F uG — гладкие функции на G, постоян-
ные на орбитах. Рассмотрим функции h\(X,A) = /(Х + Аа), dM(X, а) =
= g(X + ga), где а Е Н(а,Ь). Тогда интегралы h\ и коммутируют.
Кроме того, {F,h\} = 0 для любой / Е IG.
Доказательство.
Напомним, что функции h\ и <7,, в силу предложения 17.1 являются
интегралами потока X = [X,<рХ]. В силу леммы 17.5 достаточно дока-
зать, что (X, [grad hx, grad dM]) = 0, т.е. (X, [grad/(X + Xa), gradg(X +
+ ga)]) = 0. Положим Y = X + Ха, тогда X = Y — Ха, X + ga = Y + va,
где v = g — А. Предположим сначала, что v 0,
Z = (У — Xa, [grad f(Y), gradg(Y + i/a)]) =
= ([y,grad/(K)],gradg(y + va)) -
- ([Aa,gradg(X + Aa),grad/(F)]).
Так как / E IG, то [У, grad/(X)] = 0 в силу леммы 17.2. Так как
g Е IG, то, в силу этой же леммы, [У + va, gr;idg(K + на)] = 0. Отку-
240
Глава б
да [У, gradg(y + pa)] = —р[а,gradg(FH-i'a)]. Подставляя в Z, получаем:
Z = - ^([F,gradg(y + i/a)], grad/(У)) =
= ^(gradg(y + иа), [У, grad/(У)]) = 0,
так как / G IG. Утверждение доказано при А g. Если А = //,
то 0 = (X, [grad/(X + Aa),gradg(X + Аа)]) в силу леммы 17.6. Осталось
доказать, что {F,h\} = 0, т.е. вычислить L = (X, [<^Х,grad/(Х +Аа)]),
так как gradF(X) = <рХ. Положим У = X + Ха, тогда
L = ([У — Ха, tpY — Ау>а], grad/(У)) =
= (PS9^],grad/(У)) - А([У, 9?а], grad/(y)) -
- A([a,<£>y],grad/(y)) + A2([a,<^a],grad/(y)) = 0,
так как в первом слагаемом [У, grad/(У)] = 0, во втором — анало-
гично, в четвертом — <ра = Da G Н(а,Ъ), т.е. [а,ра] = 0, в треть-
ем — [а,у>У] = adb У = [Ь, У] и снова [У, grad/(У)] = 0. Аналогично
доказывается инволютивность интегралов компактной серии. 
Предложение 17.5. Пусть f, g Е IGU, положим hx(X,a) = /(X +
+Аа), d;,(X. а) = g(X + ga), где a, b Е Hu(a,b). Тогда интегралы h\
и gtl коммутируют, и {F,h\} = 0 для любой f Е IGU.
Та же схема рассуждений лежит в основе доказательства инволю-
тивности интегралов нормальной серии. Переходим к доказательству
полноты предъявленного коммутативного набора функций. Эта послед-
няя часть доказательства является технически более тонкой, поэтому
мы ограничимся изложением только схемы конструкций.
Пусть G — комплексная полупростая алгебра, X Е RegG.
Пусть Д, ... , fr Е IG — полный набор инвариантов алгебры. В точ-
ке X возникает набор комплексных векторов grad/iA,*, где Л^/ДХ, а) =
= Д(Х + Ха). Пусть У(Х, а) — подпространство в G, порожденное
векторами grad Л^/ДХ, а). Наша цель — оценить снизу dim У (X, а).
Qfe + 1
Рассмотрим разложения hx,k =	где 4k + 1 = deg//.. Пусть
i=0
полиномы Д упорядочены по возрастанию степени. Пусть N + 1 =
= qr + 1 = deg/,. — наибольшая степень среди образующих Д. Все
полиномы hxy. можно рассматривать как полиномы степени N + 1, у
§ 17. Полная интегрируемость некоторых гамильтоновых систем 241
которых некоторые коэффициенты при больших степенях А равны ну-
лю.
Qfe
Имеем grad/iA,fe = £ Ц£А*, где U£(X, а) = gradP£(X,a) — по-
?'=()
липомы степени г по X и а. Ясно, что Ukk(a) не зависит от X, так
как Ркк линеен по X. Все векторы Ukk порождают картановскую под-
алгебру Н(а), не зависящую от выбора X. Ясно, что V(X, а) порождено
всеми векторами Е7£.
Лемма 17.7. Для каждого к выполняются рекуррентные соотноше-
ния для векторов Uk:
\U°k,X]=Q,
[Uk,X] + [Uk,a\ = О,
[Ul,X] + [Ui~1,a] = 0,
[U^X] + [U^~1,a] = 0,
[U*,a]=0
= 0, откуда и следует утверждение.
Доказательство.
В силу леммы 17.2 [X, grad/)fc(X)] = 0. Применяя это тож-
дество к функциям /iA,fe5 получаем [X + Аа, grad//>./,. (А'. а)] = 0,
N
т.е. Х + Аа, UlkX
i=0
Так как Н(Х) — подалгебра Картана, то можно построить корне-
вое разложение G относительно Т7(Х) и выбрать базис Вейля.
Лемма 17.8. Если a G Н(Х) ф V+(X), то grad/ia,А (АС, а) G Н(Х) ф
ФУ+(Х), т. е. U[ Е Н(Х) ф V+(X).
Для дальнейшего считаем, что a G Н(Х) ф V+(X). Рассмотрим
простые корни «1, ... , аг, тогда каждый положительный корень а
Г
можно представить в виде а = 52 miai< гДе mi 0, причем т,; це-
i=l
лые. Порядком или высотой корня а называется целое число k = fc(a) =
= 52 mi- Через Vk+(X) обозначим подпространство в V+(X), порожден-
i=l
ное векторами Ха, для которых к(а) = к. Тогда, очевидно, V+(X) =
242
Глава б
= Ух+ ф ... ф У,+ . причем Ух+ порождено Ха1, ... , Хаг, т. е. простыми
корнями. Уточним выбор a G Н(Х) ф V+(X). Пусть a G Ух+ и а =
= 52^Ха;, где все р, 0, 1 i г. Тогда [Vfe+,a] С УДХ,
i=l
[Н(Х),а\ С Ух+.
Лемма 17.9. Пусть X, а выбраны, как показано выше. Тогда Ух+ =
= [Я(Х),а], и ada: Н(Х) Ух+ — изоморфизм.
Лемма 17.10. Пусть X, а — векторы, указанные выше. Тогда [Vfe+, a] =
= УДХ, т. е. ada: Vfe+ —> УДХ — эпиморфизм.
Лемма 17.11. Имеют место соотношения: и£ е н(х), игк е я(х)ф
ФУХ+ Ф ... Ф уУ для любого 1 к г.
Лемма 17.12. Векторы Uk, j i, порождают все подпространст-
во Н(Х) ф у+ ф ... ф У/.
Лемма 17.13. Пусть а — элемент общего положения. Тогда
dime У(X, а) dimH(X) ф У+(Х) = l/2(dimG + ранг G), где V(X) —
комплексное подпространство, порожденное всеми векторами вида
gradh^j. для всех точек X EG из открытого всюду плотного подмно-
жества в алгебре G.
Для завершения доказательства теоремы достаточно заметить, что
элементы X и а входят симметрично во все предыдущие утверждения,
так как /(X + Аа) = А9/	+ а)’ где /	— полином степени q.
Доказательство полноты построенных выше коммутативных набо-
ров в случае компактной и нормальной серий получается из приведен-
ной схемы после учета инволюций, определяющих эти две серии.
4. Случаи полной интегрируемости уравнений движения
многомерного твердого тела по инерции в идеальной жидкости
Рассмотрим вложение указанной в заголовке системы в некомпакт-
ную алгебру Ли группы движений евклидова пространства. Оказыва-
ется, что и в этом случае метод сдвига аргумента позволяет построить
полный коммутативный набор интегралов на орбитах общего положе-
ния [11].
Лемма 17.14. Пусть f — инвариант коприсоединенного представ-
ления группы движений евклидова пространства К. Тогда функции
§ 17. Полная интегрируемость некоторых гамильтоновых систем 243
f(X + Ла) при любом вещественном Л являются интегралами уравне-
ний Эйлера X = adqX X, где Q(a, b, D) — построенные выше секцион-
ные операторы Q; е(п)*	е(п).
Доказательство.
Достаточно проверить равенство (a(X,QX), df(X + Ла)) = О,
где {X, £) — значение функционала X на векторе Д Очевидно, имеем
А = (а(Х, QX),df(X + Ла)) = -{QX, а(Х + Ла, df(X + Ла))) -
-X(a(QX,a),df(X + Ха)).
Так как f инвариант, то первое слагаемое равно нулю. Из определения
секционного оператора Q(a, b, D) получаем
— jA = (а(Ф“1 adj Х±, a), df(X + Ла)) +
+ (a(DX2,a),df(X + Ха)) где	G К*.
Второе слагаемое равно нулю, так как DX2 Е К, а Е К*. Первое
слагаемое равно
(а(Хх + Х2 + Ла, b), df(X + Ла)).
Так как Х2, b Е Апп(а), то
(а(Хх + Х2 + Ла, b), df(X + Ла)) = (а(Х + Ла, df(X + Ла)), 6) = О,
так как f — инвариант. Лемма доказана.	
Теорема 17.1.
1) Система дифференциальных уравнений X = adqX X, где Q =
= Q(a, b, D) на е(п)*, вполне интегрируема на орбитах общего положе-
ния.
2) Пусть f — инвариантная функция на е(п)*. Тогда функ-
ции hx(X) = f(X + Ха) являются интегралами движения при лю-
бых числах X. Любые два интеграла hx и glt находятся в инволюции
на всех орбитах представления Ad* группы Ли Е(п), причем число
независимых интегралов указанного вида равно половине размерности
орбиты общего положения. При этом если О — орбита максималь-
ной размерности (общего положения) присоединенного представления,
то codim О = “Ч .
244
Глава б
Доказательство.
То, что указанные функции являются интегралами, проверено
в лемме 17.14. Их инволютивность доказывается как в п. 3. Оста-
лось проверить, что сдвиги инвариантов f(X + Аа) образуют полный
коммутативный набор на орбитах общего положения. Утверждение,
что codim О =	, проверяется стандартными методами. Приве-
дем полный набор инвариантов алгебры. Для этого запишем е(п)* в
матричном виде:
°
____________0_
У1 ~ уп \ о J
Минор матрицы X, стоящий на пересечении строк с номерами «1, ... , is
и столбцов с номерами Ji, ... , js, обозначим через	где 1	/'i <
< ... < гв п, 1 Ji < ... < js п. Тогда функции
Ш) =	£
являются инвариантами алгебры. Функции с четными номерами тож-
дественно равны нулю, а функции с нечетными номерами дают полный
набор инвариантов, что проверяется непосредственным вычислением.
Пусть (/j) — полный набор полиномиальных инвариантов, тогда
Ni
fi(X + Ха) = ^рДХ.а)Х. dfi Е е(п)** = е(п).
«=о
Ni
Положим dfi(X + Аа) = Uis(X,a)Xs, где Uts = е(п).
8 = 0
Лемма 17.15. Имеет место система рекуррентных соотноше-
ний: a(X,Ui0) = 0, а(Х, U{1) + a(a,Ui0) = 0, ... , а(Х, Ui>Ni) +
+ а(а, Ui^-r) = 0, а(а, UijNi) = 0.
Пусть п = 2s + 1. Рассмотрим комплексификацию Се(п). Алгебра
Ли so^/z, С.) является простои, пусть so(rz, С.) — 77 CD S ®
§ 17. Полная интегрируемость некоторых гамильтоновых систем 245
где подпространства G± натянуты на корневые векторы еа, для ко-
[п/2]-1
торых высота корня а равна ±г, и Н = ф Ci?2fe+i,2fe+2- В про-
к=0
странстве е(п) рассмотрим градуированное подпространство е(п)+ =
= (Я ф Се„) ф (G+ ф Bi) ф ... ф (G+ Ф Вв) Ф £ G+ = ф
fe^s+1	С>()
где Bs+i-j = C(e2j--i + ze2j) С С", j = 1,	, s. Подпространст-
во е(п)+ с указанной градуировкой можно считать лежащим в е(п).
Выберем X, a G Се(п)* так: X G К* общего положения, a G G+ ф Bi
такой, что все компоненты в разложении по корневому базису в G* и
координата относительно базисного вектора еи_2 +ie„-i G С" отличны
от нуля.
Лемма 17.16. Пусть a G G^ ®Bi С е(п)* элемент, указанный выше.
Тогда для Hi С е(п) имеем а(а, II,) С II,+ \ С e(n)*, i 0.
Лемма 17.17. Пусть X, a G е(п)* выбраны так, как это указано
выше, тогда отображение Hi Н,+\ С е(п)*, определенное равенст-
вом у —> а(а, у), у G Hi Q е(п), является эпиморфизмом.
Лемма 17.18. Имеют место соотношения: a) Ujo G Hq, б) Ujk G Hj.
для любого j.
Лемма 17.19. Векторы Ujk порождают все подпространство Hk-
Окончательно получаем, что размерность подпространства, порож-
денного df(X + Xa), не меньше, чем размерность dime(n)+ = s2 + 2s+1.
Для полной интегрируемости надо иметь
codim О + l/2(dime(n)* — codim О) = s2 + 2s + 1
функционально независимых интегралов на G*. Следовательно, теорема
доказана нами для случая п = 2s + 1. Случай п = 2s рассматривается
по аналогичной схеме.	
5. Конечномерные аппроксимации уравнений магнитной
гидродинамики и случаи их полной интегрируемости
Пусть G — произвольная алгебра Ли, тогда можно достроить но-
вую алгебру Ли QG, которую определим так. Рассмотрим полупрямую
сумму двух экземпляров алгебры G, т. е. рассмотрим алгебру G фр G,
где G действует на втором слагаемом G с помощью присоединенно-
го представления р = ad, и второе слагаемое рассматривается при этом
246
Глава 6
как абелева алгебра Ли. Эту полупрямую сумму и обозначим через QG.
Особый интерес представляют следующие алгебры QG. ИС?И,
где G — комплексная полупростая алгебра Ли, a Gu и Gn — ее ком-
пактная форма и нормальная компактная подалгебра соответственно.
Пусть ПС*, HG*,. ОС?* — соответствующие им коалгебры. Все эти ал-
гебры некомпактны. Оказывается (В. В. Трофимов), что на каждой из
этих алгебр существуют полные коммутативные наборы функций (ин-
тегралов) на орбитах общего положения, причем эти наборы являются
аналогами «твердотельных» гамильтоновых систем, построенных нами
выше при помощи секционных операторов. Гамильтоновы системы ви-
да Xq, построенные по секционным операторам типа Q(a, b, D), яв-
ляются, как можно проверить, аналогами магнитогидродинамических
систем на произвольных полупростых алгебрах Ли. Если в качестве G
взять ортогональную алгебру Ли son, то эти уравнения превращаются в
конечномерные аппроксимации уравнений магнитной гидродинамики,
изученные в [20]. Таким образом, эти уравнения допускают вложение в
алгебру Ли в смысле определения 16.1. Так, например, в случае G = son
эти уравнения имеют вид: М = [Q, М] — [Н, J], Н = [Q, Н], где Q =
(Rg-i)g — правый сдвиг в единицу группы вектора скорости g Е
Е TgSOn, J = Ad*-i j, где j — плотность тока в теле, Н = Adg-Ti, h —
напряженность магнитного поля в теле, т — кинетический момент в
пространстве.
Оказывается, как и в предыдущих примерах п. 3,4, эти многомер-
ные аналоги уравнений магнитной гидродинамики для произвольной
полупростой алгебры Ли и компактных нормальных подалгебр явля-
ются вполне интегрируемыми гамильтоновыми системами для много-
параметрической серии секционных операторов Q(a, b, D). В том числе
полный набор коммутирующих интегралов имеется и в случае алгеб-
ры son.
Литература
[1]	Дубровин Б. А., Новиков С.П., Фоменко А. Т. Современная геомет-
рия. — М.: Наука, 1979.
[2]	Мищенко А. С., Фоменко А. Т. Курс дифференциальной геометрии и
топологии. — М.: Изд-во Моск, ун-та, 1980.
[3]	Фукс Д. Б., Фоменко А. Т., Гутенмахер В. Л. Гомотопическая то-
пология. — М.: Изд-во Моск, ун-та, 1969.
[4]	Борисович Ю. Г., Близняков Н. М., Израилевич Я. А., Фоменко Т. Н.
Введение в топологию. — М.: Высшая школа, 1980.
[5]	Милнор Дж. Особые точки комплексных гиперповерхностей. — М.:
Мир, 1971.
[6]	Милнор Дж. Теорема об h-кобордизме. — М.: Мир, 1980.
[7]	Семинар «Софус Ли». Теория алгебр Ли. Топология групп Ли. — М.:
ИЛ, 1962.
[8]	Арнольд В. И. Математические методы классической механики. —
М.: Наука, 1974.
[9]	Фоменко А. Т. Групповые симплектические структуры на однород-
ных пространствах. — ДАН, 1980, т. 253, №5, с. 1062-1067.
[10]	Мищенко А. С., Фоменко А. Т. Обобщенный метод Лиувилля интег-
рирования гамильтоновых систем. — «Функц. анализ», 1978, т. 12,
вып. 2, с. 46-56.
[11]	Трофимов В. В., Фоменко Л. Т. Методика построения гамильто-
новых потоков на симметрических пространствах и интегриру-
емость гидродинамических систем. — ДАН, 1980, т. 254, №6,
с. 1349-1353.
248
Литература
[12]	Мищенко А. С., Фоменко А. Т. Интегрирование гамильтоновых сис-
тем с некоммутативными симметриями. — В кн.: Труды семина-
ра по векторному и тензорному анализу, вып. 20. М.: Изд-во Моск,
ун-та, 1980, с. 5-54.
[13]	Хелгасон С. Дифференциальная геометрия и симметрические про-
странства. — М.: Мир, 1964.
[14]	Фоменко А. Т. О симплектических структурах и интегрируемых
системах на симметрических пространствах. — «Матем. сб.»,
1981, т. 115, №2, с. 263-280.
[15]	Мищенко А. С., Фоменко А. Т. Уравнения Эйлера на конечномерных
группах Ли. — «Изв. АН СССР», 1978, т. 42, №2, с. 396-415.
[16]	Кочин Н. Е., Кибель И. А., Розе Н. В. Теоретическая гидромеханика,
ч. 1. — М.: Физматгиз, 1963.
[17]	Горр Г. В., Кудряшова Л. В., Степанова Л. А. Классические задачи
динамики твердого тела. Развитие и современное состояние. —
Киев: Наукова думка, 1978.
[18]	Манаков С. В. Замечание об интегрировании уравнений Эйлера ди-
намики п-мерного твердого тела. — «Функц. анализ», 1976, т. 10,
№4.
[19]	Langlois М. Contribution a I’etude du mouvement du corps rigide a N
dimensions autor d’un point fixe. — In: These presentee a la faculte
des sciences de 1’universite de Besancon. Besancon, 1971.
[20]	Вишик С. В., Должанский Ф. В. Аналоги уравнений Эйле-
ра-Пуассона и магнитной гидродинамики, связанные с группами
Ли. — ДАН, 1978, т. 238, №5, с. 1032-1035.
[21]	Трофимов В. В. Уравнения Эйлера на борелевских подалгебрах полу-
простых алгебр Ли. — «Изв. АН СССР», 1979, т. 43, №3, с. 714-732.
[22]	Трофимов В. В. Конечномерные представления алгебр Ли и вполне
интегрируемые системы. — «Матем. сборник», 1980, т. 111, №4,
с. 610-621.
Литература
249
[23]	Марков А. А. Неразрешимость проблемы гомеоморфии. — ДАН,
1958, т. 121, №2, с. 218-220.
[24]	Адян С. И. Неразрешимость некоторых алгоритмических проблем
теории групп. — «Труды Моск, матем. о-ва», 1957, т. 6, с. 231-298.
[25]	Дубровин Б. А., Матвеев В. Б., Новиков С. П. Нелинейные уравнения
типа Кортевега-де Фриза, конечнозонные линейные операторы и
абелевы многообразия. — УМН, 1976, т. 26, вып. 1.
[26]	Володин И. А., Кузнецов В. Е., Фоменко А. Т. О проблеме алгорит-
мического распознавания стандартной трехмерной сферы. — УМН,
1974, т. 24, вып. 5, с. 71-168.
[27]	Fomenko А. Т. Multidimensional Plateau problem on Riemannian
manifolds. On the problem of the Algorithmical Recognizability of the
standart tree-dimensional Sphere. — In Proc, of the Intern. Congress
of Math., vol. 1, p. 515-525. Vancouver, 1974.
[28]	Виро О.Я., Кобельский В. Л. Гипотеза Володина-Кузнецова-Фо-
менко о диаграмме Хегора S3 не верна. — УМН, 1977, т. 32, вып. 5.
[29]	Homma Т., Ochiai М., Takahashi М. An algorithm for recognizing S3
in 3-manifolds with Heegaard splittings of genus two. — «Osaka
J. Math.», 1980, vol. 17, p. 625-648.
[30]	Ochiai M. A counterexample to conjecture of Whitehead and Volo-
din-Kuznetzov-Fomenko. — «J. Math. Soc. Japan», 1979, v. 31,
p. 687-691.
Анатолий Тимофеевич Фоменко
Дифференциальная геометрия и топология
Дополнительные главы
Дизайнер М. В. Ботя
Компьютерная подготовка А. В. Широбоков,
В. А. Скорняков
Рисунки А. Т. Фоменко
Корректор Т. Н. Артемьева
Лицензия ЛУ №056 от 06.01.98. Подписано к печати 19.10.99.
Формат 60 х 84У16. Усл.печ.л. 14,65. Уч. изд. л. 15,2.
Печать офсетная. Гарнитура Computer Modern Roman.
Заказ №К160. Тираж 1000 экз.
Ижевская республиканская типография
426057, г. Ижевск, ул. Пастухова, 13.