Геометрия дискретных групп - Бердон А.

Author: Бердон А.
Tags: топология геометрия математика дискретная математика естественные науки точные науки
Year: 1986
Similar
Группы петель
Порождающие элементы и определяющие соотношения дискретных групп
Геометрия Лобачевского
Геометрия классических групп
Text
                    A. БЕРДОН
ГЕОМЕТРИЯ
ДИСКРЕТНЫХ
ГРУПП
Перевод с английского Л.С. Солодовникова
^
МОСКВА "НАУКА"
ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
1986

ББК 22.15
Б 48
УДК 515.1
Alan F. Berdon
The Geometry
of Discrete Groups
Springer -Verlag
New York-Heidelberg-Berlin
1983
Бердон A. Геометрия дискретных групп/Пер. с англ. - М.: Наука.
Гл. ред. физ.-мат. лит., 1986. -- 304 с.
Посвящается главным образом фуксовым группам - разрывным группам
движений на плоскости Лобачевского. Этот раздел математики тесно связан со
многими математическими теориями. В книге излагаются результаты - от
ставших классическими до сравнительно новых - по геометрии действия
фуксовых групп. На русском языке почти отсутствует литература по этим
вопросам.
Для математиков различных специальностей (ТФКП, геометрия, топология,
дифференциальные уравнения), аспирантов и студентов университетов и
пединститутов.
Ил. 93. Библиогр. 114 назв.
^ 1702040000-032 , ^^
05 3@2)-86
© i983bySpringer-Verlag
New York Inc.
© Перевод на русский язык.
Издательство "Наука".
Главная редакция
физико-математической литературы,
1986

ПРЕДИСЛОВИЕ ПЕРЕВОДЧИКА
Как известно, мёбиусова группа GM(R"), т.е. группа преобразований
евклидова пространства R", порожденная отражениями относительно сфер
и гиперплоскостей, является источником большого числа математических
понятий и фактов. Ее подгруппами являются, в частности, группы
движений пространств постоянной кривизны ~ пространства Лобачевского,
евклидова' пространства и сферы.
Дискретные подгруппы группы GM (R^), действующей на комплексной
плоскости (т.е. в R ) посредством дробно-линейных преобразований в
комбинации с комплексным сопряжением, изучались еще в классических
работах Ф. Клейна - главным образом в связи с проблемой классификации
"пространственных форм" геометрии Лобачевского. Затем А. Пуанкаре с
успехом прицепил их к комплексному анализу - для изучения свойств
авто морфных функций.
За истекшие сто с лишним лет накопилась огромная литература по клей-
новым группам (дискретным подгруппам в GM (R^)) и их важнейшей
разновидности — фуксовым группам (клейновым группам, переводящим в
себя некоторый круг и сохраняющим ориентацию). Исследования касались
как геометрии действия этих групп, так и приложений - к теории функций
комплексного переменного, топологии, дифференциальным уравнениям,
теории чисел.
В отечественной литературе приложениям клейновых групп посвящено
значительное количество книг — оригинальных и переводных. В
противоположность этому вопросы геометрии действия клейновых групп отражены в
ней намного беднее; в частности, совершенно отсутствуют книги,
рассчитанные на первое знакомство с предметом. Восполнить этот пробел и призван
предлагаемый читателю переШ)д книги английского математика А. Бердона.
Основное содержание книги составляют главы, посвященные теории
действия фуксовых групп. Наряду с математической классикой читатель
найдет здесь и сравнительно новые результаты: например,теорему о
дискретности чисто гиперболических групп (гл. 8), разного рода условия,
налагаемые на пару мёбиусовых преобразований, гарантирующие дискретность
порожденной ими группы (гл. И), неравенство Йоргенсена (гл. 5) и т.д.
Заслуживает также внимания занимающая особое положение глава 7,
которая содержит превосходно написанное изложение двумерной геометрии
Лобачевского (заметим, что, называя эту геометрию гиперболической,
автор незаслуженно обходит молчанием имя ее главного творца Н.И.
Лобачевского) .
^ Что касается приведенного в конце книги довольно обширного списка
литературы, то мы не сочли нужным его расширять. Дополнительные сведе-

ния по литературе до 1978 г. можно найти в обзоре Э.Б. Винберга и
О.В. Шварцмана "Римановы поверхности" в сборнике "Итоги науки и
техники", 1978, т. 16. После указанного срока вышли в свет две книги
новосибирских математиков (рассчитанные опять-таки на подготовленного
читателя): С Л. Крушкаль, Б Л. Ананасов, Н.А. Гусевский "Клейновы
группы и униформизация в примерах и задачах", 1981, и Б.Н. Апанасов
"Дискретные группы преобразований и структуры многообразий", 1983. В этих
книгах содержатся также и дальнейшие указания по литературе.
Можно не сомневаться, что богатая геометрическими идеями и
написанная с большим мастерством книга А. Бердона привлечет интерес советского
читателя.
Л.С Солодовников

ПРЕДИСЛОВИЕ
Настоящая книга предназначена служить введением в геометрию
действия дискретных групп мебиусовых преобразований. Эта тема изучалась,
с различной степенью значимости, свыше ста лет, более новые ее аспекты
связаны с теорией 3-многообразий;см., например, статьи Пуанкаре [77] и
Тёрстона [101].
Около 1940 г. появилась хорошо известная теперь, но фактически
недоступная рукопись Фенчела-Нильсена. К сожалению, эта рукопись так и
не была опубликована; настоящий, более скромный труд преследует
цель — показать хотя бы некоторые из прекрасных геометрических идей,
нашедших отражение в указанной рукописи, а также некоторые более
поздние результаты.
Книга написана с убеждением, что геометрическая аргументащш
существенна для полного понимания материала; и хотя доказательства с помощью
матриц могут показаться достаточно простыми, геометрические
доказательства определенно более полезны. Затем везде, где это возможно, мы
устанавливаем результаты в форме, инвариантной относительно сопряжения,
выявляя тем самым их внутреннюю сущность. Несмотря на то, что
рассматриваемые вопросы относятся к группам изометрий гиперболической
геометрии, многие публикации основываются на евклидовой геометрии.
Между тем, недавние исследования снова подчеркивают необходимость
использования гиперболической геометрии, и я включил разъяснительную
главу, посвященную аналитической (но не аксиоматической)
гиперболической геометрии. Можно надеяться, что эта глава будет выполнять роль
"словаря" по двумерной гиперболической геометрии и в качестве
такового будет интересна и полезна сама по себе. Вследствие этого указанная
глава отличается по объему от других глав; в ней имеется большое число
коротких параграфов, каждый из которых посвящен отдельному результату
или отдельной теме.
Книга носит вводный характер, и меня не смущает детальность, а иногда
и элементарность, доказательств. В литературе часто приходится встречать
геометрические ошибки, и это происходит в известной степени из-за
игнорирования деталей. Затем, я стараюсь сводить предпосылки к минимуму;
и, наконец, там, где. это кажется целесообразным, я рассматриваю один и
тот же вопрос с разных точек зрения. Отчасти это сделано в осознании того
факта, что читатель не всегда читает текст последовательно, страницу за
страницей. Список ссылок не является исчерпывающим, и я не всегда ука-
5

зываю первоначальный источник. Для облегчения ссылок теоремы,
определения и тд. в пределах каждого параграфа нумеруются подряд B.4.1,
2.4.2,...).
Я многим обязан коллегам и друзьям, с которыми обсуждал предмет
в течение ряда лет. Особо хотел бы отметить П.И. Николлза и П. Ватерма-
на, которые ознакомились с первоначальным вариантом рукописи,
профессора Ф.В. Геринга, который поддерживал меня в написании книги и провел
ряд семинаров по различным разделам рукописи, а также Л.В. Альфорса
за его замечания и лекции. Ошибки в тексте признаю своими,
Кембридж, 1982 Алан Ф, Бердон

ГЛАВА 1
ПРЕДВАРИТЕЛЬНЫЕ СВЕДЕНИЯ
§ 1.1. Обозначения
Мы используем следующие обозначения. Прежде всего, Z, Q, R и С
обозначают множества целых, рациональных, действительных и
комплексных чисел соответственно; Н обозначает множество всех кватернионов
(§2.4).
Как обычно, R" обозначает и-мерное евклидово пространство,
состоящее из точек JC = (JCi,..., д:„), причем
\х\ = (xl + ...+xS)^/^
Здесь у^^^, где у > О, обозначает положительный квадратный корень из у.
Стандартный базис R*^ состоит из е^ ..., е„, где, например,^i =A,0,... ,0).
Некоторые подмножества в R" заслуживают специального обозначения,
а именно:
В^ ={xGR"|UI<i.},
Я" ={xGR" \Хп >0)
и
5""-^=lxGR" 11x1 = 1}.
В случае множества С (отождествляемого с R^) мы используем
символы Д и ЭА для обозначения единичного круга и единичной окружности
соответственно.
Запись X ^ х^, например, обозначает функцию, отображающую х в х^\
область определения будет ясна из контекста. Функции (отображения
или преобразования) действуют слева; для краткости вместо f{x) мы
пишем часто fx (опуская скобки). Композиция функций
записывается fg; это - отображение д: ^f(g (х)).
Два множества А и В называются пересекающимися, если А П В Ф ф.
Наконец, мы говорим, что свойство Р(п) имеет место дJlя почти всех п
(или для достаточно больших п), если оно не выполняется лишь для
конечного множества значений п.
§ 1.2. Неравенства
Все нужные нам неравенства выводятся из неравенства Йенсена;
доказательство последнего см. в [90, гл. 3].
Неравенство Йенсена. Пусть yt - некоторая
положительная мера на множестве X, причем д (X) = 1. Пусть, далее, функция /:
X -> (а, Ь) ц-интегрируема, а функция tp: (а, Ь) -^R выпукла. Тогда
^iffdti)<f(^ndn. A.2.1)
X X
7

Частным случаем неравенства Йенсена является, неравенство Гельдера
XXX
дискретная форма последнего —
I 2а, 6,1 <(L\ai\^)'l\i:\bi\^L^
есть неравенство Коши — Шварца*) для действительных Д/ и Z>,.
Комплексный случай получается из действительного элементарным путем.
Полагая ЛГ ={xi, . . . , Xn)vi\p{x) = е^, находим из A.2.1) известное
неравенство между средним арифметическим и средним геометрическим:
у^' '^'УЯ'' < tJ^iyi +...+^пУп,
где м представлена массами М/, сосредоточенными в х/, и д'/ = ^f(Xf).
Для применения A.2.1) нужно иметь выпуклую функцию. Достаточное
условие выпуклости (^ есть ^р" > О на (а, Ъ). Например, функции ctg, tg,
ctg^ выпуклы на (О, я/2). Отсюда следует, скажем, что если ^i, . . . , в„
лежат в (О, я/2), то
( вг'^... + в„ \ ctgei+...+ctge„
ctg I I < . A.2.2)
\ n ^ n
в качестве другого применения докажем, что если хиу лежат в (О, я/2),
причемх+у< 7f/2,то
<"¥-)■
tgjctg>^ < tg^l _~ j. A.2.3)
Полагая w = (х+j)/2, будем иметь
tg^f+ ЧУ , ^ 2tgw
= tg(x+>') = г—.
l--tgxtg>' 1-tg^w
Так как tg - выпуклая функция, из A.2.1) следует
tg^f + ЧУ > 2tgw,
и требуемое неравенство получается теперь непосредственно (следует
учесть, что tg^ W < 1, поэтому оба знаменателя положительны)'.
§ 1.3. Алгебра
Будем предполагать, что читатель знаком с основными понятиями,
касающимися групп и (в меньшей степени) векторных пространств.
Например, мы будем использовать элементарные факты ю теории групп 5„
перестановок; в частности, тот факт, что Sn поро)едается транспозициями.
Другим примером может служить следующий факт: если в: G -^ Н -
гомоморфизм группы G на группу Н, то ядро К этого гомоморфизма есть
нормальный делитель группы G и факюргруппа G/K изоморфна К
''')По справедливости его следует называть неравенством Коши - Буняковско-
го. - Примеч, пер.
8

Пусть g - элемент группы G, Сопряженными с g назьюаются элементы
hgh"*(И S G). Сопряженные классы{hgh"^Ih ^ G)образуют разбиение G.
Отметим, между прочим, что отображения д: н> xgx'^ и х ^gxg'^
(группы G в себя) играют важную роль в последующем тексте. Коммутатором
элементов g и h называется элемент
[g,h] ^ghg''h'\
который можно рассматривать как композицию g с элементом,
сопряженным с ^~^.
Пусть Of (где / пробегает некоторое индексирующее множество) —
семейство подгрупп группы G. Предположим, что объединение всех G/
порождает G и что различные G/ имеют только один общий элемент —
единицу группы. В этом случае G есть свободное произведение всех G/,
если каждый элемент g ^ G единственным образом представляется в виде
^1 • • • ^л, где никакие два соседних gi не принадлежат одному и тому
же Gf. Примеры свободных произведений будут встречаться в
дальнейшем.
§ 1.4. Топология
Мы будем предполагать известными основные понятия топологии,
в частности: хаусдорфово пространство, компактность, связность,
топологическое произведение и гомеоморфизм. Из числа известных фактов
отметим, например, следующий: если f - взаимно однозначное
непрерывное отображение компактного пространства X на хаусдорфово простран-
во Y, то f - гомеоморфизм. Частными случаями топологий
являются дискретная топология (в которой каждое подмножество
открыто) и топология, порожденная метрикой р на множестве X. Изометрия /
метрического пространства (X, р) на другое метрическое пространство
(У, а) удовлетворяет условию
o(fx,fy) = р(х,у)
и является, следовательно, гомеоморфизмом.
Укажем кратко конструкцию фактортопологии, индуцированной с
помощью заданной функции. Пусть X - топологическое пространство,
Y — непустое множество и /: ЛГ -> У - некоторая функция. Условимся
считать подмножество V С У открытым, если /"ЧЮ есть открытое
подмножество в X. Класс открытых подмножеств в Y определяет топологию
^/ на У, называемую фактортопологией, индуцированной с помощью /.
В этой топологии функция / автоматически непрерывна. Нам будут
полезны следующие два результата о фактортопологии.
Предложение 1.4.1. Пусть X - топологическое пространство и
f отображает X на Y, Пусть ST - топология на У, а SFf- фактортополо-
гия на Y, индуцированная с помощью /.
A) Если /: X-^iX, ST) непрерывно, то SF С S'f.
{2) Если /: X-^Iy,^) непрерывно и открыто, ю SF^ S^f,
Доказательство. Пусть/: X -^ (У,<^) непрерывно. Если V
принадлежит топологии Sf, то /~ЧЮ открыто в X, следовательно, V
принадлежит <^/. Если, кроме того, f: X -^ (У, Sf) открыто, то из К G oTf
следует, что /"ЧЮ открыто в А^, а значит,/(Г"^ V) принадлежит SF, Так
как/сюръективно,то/(/"^ К) = F, следовательно SffC <^. П
9

Предложение 1.4.2. Пусть f отображает X в Y, где X и У- два
топологических пространства, причем У снабжено фактортопологией ^f.
Для каждого отображения g: У -^ Z определим gi\ X -^ Z посредством
gi =^/- Тогда g и gi непрерывны или нет одновременно.
Доказательство. Так как / непрерывно, то непрерывность g
влечет за собой непрерывность ^i. Допустим теперь, что ^i непрерывно.
Для любого открытого подмножества V в Z (мы предполагаем, конечно,
что Z есть топологическое пространство) имеем
Поскольку левая часть открыта в X, то, согласно определению фактор-
топологии,^"^ (К) открыто в У, и, значит,^ непрерывно. D
Другой подход к фактортопологии дают отношения эквивалентности.
Если на X задано отношение эквивалентности R с классами
эквивалентности [х], то в X/R (пространстве классов эквивалентности) возникает
фактортопология, индуцированная отображением х^ [х]. Вместо
отношения эквивалентности можно рассмотреть сюръективную функцию/: Х-^У;
последняя индуцирует отношение эквивалентности R нг X с помощью
соглашения: xRy тогда и только тогда, когда/(д:) - f(y). В этом случае У
можно отождествить с X/R. Пример: пусть на топологическом
пространстве X действует группа G гомеоморфизмов и / отображает каждую точку
X ^ X в Сюрбиту [х] G X/G. Если рассмотреть X/G с индуцированной
фактортопологиец, то f: X -^X/G будет непрерывно. В этом случае
отображение / будет также и открытым: если V - открытое подмножество в X,
то открытым будет и
/"ЧЛО = U g(V),
gE:G
Заметим, наконец, что для чтения данной книги читателю будет
полезно знакомство с накрывающими пространствами и римановыми
поверхностями, хотя большая часть материала книги обходится и без них. Кое-
что в этом направлении будет рассмотрено в главе 6; для дальнейшей
информации отсылаем читателя, например, к [4,6,28,50,63,100].
§ 1.5. Топологические группы
Топологическая группа G есть одновременно группа и топологическое
пространство, причем требуется, чтобы каждое из двух отображений д: ^х~^
(отображение G на G) и (лс, у) ь> ху (отображение G X G на G) бьшо
непрерывным (G X G берется с топологией прямого произведения). Две
топологические группы изоморфны, если существует биекция одной на
другую, являющаяся одновременно групповым изоморфизмом и
гомеоморфизмом; такая биекция, естественно, задает отождествление
топологических групп.
Для каждого у G G пространство GXly) имеет естественную
топологию с открытыми множествами вида А Х{у}, где А - любое
открытое множество в G. Отображение х и» (х, у) является гомеоморфизмом G
на G Х{у), а отображение (х, у) ^ ху ~ непрерывным отображением
G Х{у}нг G. Отсюда следует, что х*^ху есть непрерывное отображение G
10

на себя с непрерывным же обратным отображением д: ^ ху~^. Таким
образом, имеем следующий, хотя и элементарный, но полезный результат.
Предложение 1.5.1. Для каждого y^G отображение х ^-^ху есть
гомеоморфизм G на себя; то же самое верно и для отображения х ^ух.
Топологическая группа G называется дискретной, если топология в G
является дискретной. Из предложения 1.5.1 вытекает
Следствие 1.5.2. Пусть G - топологическая группа такая, что для
некоторого g ^ G множество {g} открыто. Тогда каждое множество {у}
(у EG) открыто и G дискретна.
Для любой топологической группы G можно определить два
отображения:
(^(дс) = хах'^ и Ф(х) =" хах^^а'^ = [х,а],
где а — некоторый элемент из G, Нас будут интересовать степени ^р^ и
ф^ этих отображений; имея в виду это обстоятельство, заметим, что if
обладает ровно одной неподвижной точкой, именно а. Указанные степени
связаны соотношением
/Чх) = ф"{х)а,
поскольку (по индукции)
^"^i(jc) - [Ф''(х)а]а[ф''(х)аГ' = ФЧх)а[Ф''(х)У' = ф''''\х)а.
При некоторых условиях степени i//" коммутатора сходятся к
тождественному отображению; или, что эквивалентно, последовательность
итераций <^"(дс) сходится к неподвижной точке д отображения <р. В частности,
если рассматриваемая нами группа G дискретна, мы должны иметь ^'^(х) =
= д для некоторого71. Примеры см. в [106] (с. 111,лемма3.2.5) ив главе 5
настоящей книги.
Наконец, допустим, что G - топологическая группа, 2i Н - ее
нормальный делитель. Тогда G/H соединяет обычную структуру факторгруппы
с фактортопологией.
Теорема 1.5.3. Еспи Н ~ нормальный делитель топологической
группы G, то G/H с обычной структурой есть топологическая группа.
Доказательство, а также дальнейшую информацию см. в [20, 23, 39,
67,69,94].
§ 1.6. Анализ
Мы предполагаем знакомство с простейшими сведениями о
комплексных аналитических функциях одной переменной, в частности с тем,
что аналитическая функция отображает открытые множества снова в
открытые. В качестве примеров сошлемся на мёбиусовы
преобразования, а также на гиперболические функции (и те и другие играют
важнейшую роль в данной книге).
Отображение / открытого подмножества пространства R" снова в R"
называется дифференцируемым в точке х, если
Пу) =Пх)'^(у-х)А'^\у-х{ е(у),
где А есть матрица п Хп и €{у) -* О при у -^х. Мы говорим, что
дифференцируемое / конформно в X, если А есть произведение положительного
11

скалярного множителя ii(x) на ортогональную матрицу В, Более полно:
/ называется собственно или несобственно конформным в зависимости
от того, является ли В собственно или несобственно ортогональной
матрицей. Если / есть аналитическое отображение между плоскими областями,
то, как показывают уравнения Коши - Римана, / собственно конформно
всюду, за исключением точек z, где f (z) = 0.
Если D есть подобласть в R", а X — плотность (т.е. положительная
непрерывная функция) на/), то можно определить функцию
р(х.у) = inf/ХG@I7@1Л,
7
где нижняя грань берется по всем (гладким) кривым у, соединяющим д:
и у в D а обозначает производную). Легко видеть, что р есть метрика
в D. Действительно, р симметрична, неотрицательна и удовлетворяет
неравенству треугольника. Поскольку р(х, х) = О, то остается лишь
показать, что р(лс, у) > О, если х и у различны. Выбрав достаточно малый
открытый шар Nc центром х и радиусом г, мы можем считать (ввиду
непрерывности), что X имеет положительную нижнюю границу Хо на-/V и что
у ф N. Тогда X > Хо на участке длины > г кривой 7» откуда следует
Р(х.у)>0.
Более общий способ введения метрики заключается в следующем.
Пусть 7 = Gi, • • • , 7fi) - дифференцируемая кривая в D, Предположим,
что
qit) = 2 a,/G0fi @7/@
положительно (исключая случай 7 = 0)- Тогда можно определить метрику
указанным выше способом, беря интеграл от [^@]^^^- Топология,
определяемая этой метрикой, совпадает с евклидовой.
Если / есть конформная биекция D на область А, то
, \Пу)-Пх)\
hm ; •— = tx(x)
у-^х \У-Х\
И Di наследует плотность а,
а(Д) = МхIц(х),
а с нею и метриук pi; / будет в этом случае изометрией (Z), р) на (Pi, Pi).
Если при этом А =/) и
MfxMx) = Х(х),
то / будет изометрией (Д р) на себя; в терминах дифференциалов это
можно записать в виде равенства
Х(>')\dy\ ^ Х(х)Idx I (где у = f(x)).
Пример. Пусть D = H^, X(z) = 1/Im[z] и
cz -^d
где числа a, b, с, d действительные ^ad - bc> 0. Тогда / отображает Н^
12

на себя и, поскольку
Im[/z] = Im[z]|/'B)l,
/будет изометрией (Я^, р) на себя. Это — случай гиперболической
метрики наН^ г
В дальнейшем нам потребуется ядро Пуассона для единичного круга А
и верхней полуплоскости Н^, Для z G А, f G ЭА ядро Пуассона есть
Очевидно, Рд положительно на А и равно нулю на ЭА, исключая z = f.
Поскольку
p^iz,o = Re; ■ '^
U-
мы видим непосредственно, что Рд есть (при каждом f) гармоническая
функция от Z с полюсом f.
Отображение
переводит А в {z | д: > 0}, а точку f в «>, причем
Re [/BI =РдB,0.
Легко видеть, что кривые уровня для РдB, f) (при фиксированном f)
суть образы относительно /"^ вертикальных прямых в Я^ и что эти кривые
представляют собой окружности в А, касающиеся ЭА в точке f.
Наиболее общее мёбиусово преобразование, сохраняющее А, имеет вид
az -^с^
g(z) = ^, i^l' - Icl^ = 1.
cz -^а
Вычисление показывает, что
1-1^BI' = \g\z)ni-\zn
Так как g есть мёбиусово преобразование, то имеем также
\g{z)-g(,i:)\' = \z-n'\g'(z)\ \g'a)\,
откуда следует соотношение
PAigz,gOlg'iO\ = Pa{z,0-
Ядро Пуассона для полуплоскости Н^ имеет вид
(У при f=<x»,
Piz. f) =
[y/\z-i\^ при f^too.
Читателю предлагается выяснить свойства этого ядра.

ГЛАВА 2
МАТРИЦЫ
§ 2.1. НевыроIщенные матрицы
Матрица 2X2
^ =Г !). BЛЛ)
где ad ~ ЬсФ О, определяет мёбиусово преобразование
az -^Ь
g(z) = ——
CZ -^d
расширенной комплексной плоскости на себя. Так как эти
преобразования являются главным объектом нашего внимания, имеет смысл изучить
более подробно класс матриц 2X2.
Для матрицы i4 вида B.1.1) определителем служит число
det (А) = ad- be;
матрица Л назьюается «евьфох^еняой, если det (Л) ^^ 0. В случае, когда
А - невырожденная, существует обратная ей матрица
1 / Хс/ -\Ь\
также являющаяся невырожденной.
Для любых матриц А и В
det (АВ) = det (А) det (В) = det (ВА) B.1.2)
и, следовательно,
det (ВАВ-^) = det (АВ''В) = det (Л). B.1.3)
Совокупность невырожденных матриц 2 X 2 с комплексными
элементами является группой относительно обычного умножения матриц; она
называется общей линейной группой и обозначается GLB, С). Мы будем
иметь дело преимущественно с подгруппой SLB, С) - специальной
линейной группой, которая состоит из всех матриц Л с det (А) - {, Мы
обозначаем единичную матрицу (любого размера) через /, хотя в некоторых
случаях для большей отчетливости обозначаем /„ единичную матрицу
пХп,
Большая часть материала этой главы может быгь отнесена к
комплексным матрицам п X п. Определители таких матриц можно ввести индукцией
по п; при этом матрица А будет невырожденной (с обратной
матрицей А'^) тогда и только тогда, когда det (Л) ф О, Тождества B.1.2)
и B.1.3) остаются в силе.
14

Действительная матрица А размеров п X п называется ортогональной,
если
•UI = JJG4I
для любого X ^ R"; это эквивалентно условию А~^ - А\т]хеА^
обозначает транспонированную матрицу для А, Заметим, что если Л ортогональна,
то (вследствие det(^) = det(i4^))det(^) равен 1 или -1. Совокупность
всех ортогональных матриц пХп обозначается О (и).
Для 2 = B1,...,2„) G С" полагаем
|2|= [|2j^+ . . . + |2j^]^/^ .
Комплексная матрица пХп называется унитарной, если
|2| = \ZA\
для любого 2 6 с"; это эквивалентно условию Л "^ -А\ тле А
получается из А заменой каждого элемента на комплексно сопряженный.
С геометрической точки зрения представляет интерес следующий
результат.
Лемма Сельберга. Пусть G - конечно порожденная группа
комплексных матриц п X п. Тогда G содержит нормальный делитель
конечного индекса, который в свою очередь содержит нетривиальный элемент
конечного порядка.
Этот результат мы используем в дальнейшем только один раз. Его
доказательство мы опускаем; оно имеется в [92, 17, 18]; см. также [16,
27, 31, 35, 85, 104], где указанный результат рассматривается в контексте
дискретных групп.
Упражнение 2.1
1. Покажите, что мат^мцы
С ;)• с -;)
сопряжены в SLB, С), но не в SL B, R) (подгруппе всех действительных матриц
из5ЬB.С)).
2. Покажите, что отображение А -^det С4) есть гомеоморфизм SL B, С) на
мультипликативную группу неравных нулю комплексных чисел; укажите ядро.
3. Центром группы называется множество элементов, коммутирующих с каждым
элементом группы. Покажите» что центры GL B, С) и SL B, С) суть
Я «(г/|г#0},
соответственно. Докажите, что группы
GLB, О/Я, SLB, OIK
изоморфны
4. Найдите центры Я, и К^ групп GL B, R) и SL B, R) соответственно. Будут
ли группы
СЦ2,К)/Я,, SLB, К)/А:,
изоморфны?
15

§ 2.2. Метрическая структура
Следом и(А) матрицы А вида B.1.1) называется
и{А) = a-^d.
Простое вычисление показывает, что
и(АВ) = и(ВА),
откуда следует
и(ВАВ'^) = и(АВ-^В) = и(Л),
т.е. след инвариантен относительно сопряжения. Другие очевидные свойства
следа:
tr(X^) = Xtr(^} (X G С)
и
tr(^0 = tr(^),
где Л^ обозначает транспонированную матрицу для Л.
Следовая функция позволяет образовать важный инвариант пары
матриц. Прежде всего, напомним, что совокупность всех матриц 2X2 есть
векторное пространство над полем комплексных чисел, а также что эр-
миюво сопряженной матрицей для А называется
Л-.аУ-(^11). B.2.,)
Если теперь даны две матрицы
"-{::)■ -с:)
то определяем [А, В] посредством
[Л, В] = и(АВ*) = да + Z>^ + С7 + d'd .
Функция [А, В] есть скалярное произведение на векторном пространстве
матриц 2X2. Действительно:
(i) [А,А]> О, причем равенство имеет место только при Л = 0;
(И) [\,А, ^\2А2.В] = \г[Аг,В] +Х2[Л2,5];
(ш) [ДЛ] = [А^В].
Любое скалярное произведение [д:, у] индуцирует норму [х, х]^^^,
а тем самым и метрику [х - у, х - уу1^,В нашем случае норма || Л ||
записывается в явном виде следующим образом:
ИЛИ = [amV^^ = d^i' +iZ)|2 + ki^ + \d\^).
Ддя полноты покажем, что || Л || удовлетворяет определяющим условиям
нормы, а именно:
(iv) IIЛ II > О, причем равенство имеет место только при Л = 0;
(V) 11ХЛ11 = I XI • ИЛИ (X G С);
(vi) ИЛ+5И < ИЛИ + И^И.
Очевидно,(iv) и (v) тривиальны; (vi) будет доказано ниже.
16

в дополнение к сказанному имеем еще соотношения:
(vii) |det(/l)| • |M"MI = lUII;
(viii) |[<4,В]| < IMII • II5II;
(ix) \\AB\\ < IMII-II5II;
(X) 2|det(^)| < IMII^
Первое из них проверяется непосредственно. Чтобы доказать зторое,
положим
С = \А -цВ,
где X = [В, А] и 1л= \\ А\\^. Согласно (iv), || С|| > О, что после
упрощений дает (viii). Так как
IU+5f = Mll^ + [А, В] + [В, А] + WBf,
то (vi) следует прямо из (viii) и (iii).
Чтобы доказать (ix), заметим, что если
АВ
(::)•
то, например,
(применили неравенство Коши - Шварца). Подобные же неравенства
имеют место для q,r,s\ это дает (ix).
Наконец, (х) следует из того, что
IM||^-2|det(^)| > |flP + |Z)|^ + kl^ + |J|^-2(|flJ| + |Z)c|) =
= (kl-l d\f^{\b\-\c\f>0.
Далее, норма || А \\ индуцирует метрику \\А - В ||, поскольку:
IIЛ - j9 II = О тогда и только тогда, когда Л =5;
11^&-Л||=||(-1)(Л-5)|| = 1и-^||
и
\\А-В\\^\\{А-С)^(С-В)\\<\\А-С\\^\\С-В\1
Указанная метрика задается явным выражением
||Л-5|| = [к-а|^+... + |с/-Л;М'^',
откуда видно, что в этой метрике
1апЬп\^1аЬ\
\сп dn ) ^\с d I
в том и только в том случае, когда а„ -^ а, Ь„ -► Ь, с„ -^ с, J„ -► d. Заметим,
что это есть метрика на векторном пространстве всех матриц 2X2.
Следует отметить, что все три функции—норма, определитель и след ~
непрерывны. Отображение А'-^А'^ также непрерывно (на СЦ2,С)),
причем, если An-^ А и Вп-* В, то А„Вп -^ АВ. Эти факты показьюают, что
GLB, С) есть топологическая группа относительно метрики || Л - -51|.
2. А. Бердон 17

Упражнение 2.2
1. Покажите, что если А п В принадлежат SLB, С), то:
(i) ti(AB) + U(A''B)^ti(A)ti(B);
(ii) tx(BAB) + trU) = tt(B)ii(AB);
(iii) tr» (A) + tr* (B) + ti' (AB) = tr04)ti(i?)trWi?) + 2 + XxiABA'B-').
Замените в (i)j? на A^B и получите ЩА'^В) как функцию от 1г(Л), \jiB),ti{AB)Hn.
2. Найдите подгруппы G, и Gj в GLB, С) и отображение G^ на G, так, чтобы
оно было изоморфизмом, но не гомеоморфизмом.
3. Пусть V - метрическое пространство комплексных матриц 2 X 2 с метрикой
11Л - В\\. Докажите следующие утверждения относителы1о подмножеств в V:
(О GLB, С) открыто, но не замкнуто;
(ii) SL(Z, С) замкнуто, но не открыто;
(ill) GLB, R) несвязно;
(iv) GLB, С) связно;
(v) ( Л 1 tr(>l) = 1} замкнуто, но не компактно.
(В связи с (iv) покажите, что каждая матрица из GLB, С) сопряжена с верхней тре-
уголы10й матрицей Т и что Т можно соединить с / кривой, лежащей в GLB, С).)
4. Для комплексной матрицы А = (аф размеров пХ п определим
1гС4) = д, 1 + .. .+в«„.
Докажите, что
Хт{ВАВ-')=-Хт{А)
и что Хт(АВ*) есть метрика на пространстве всех таких матриц.
§ 2.3.11искретные группы
В этом параграфе мы ограничим свое внимание подгруппами
топологической группы СЦ2, С). Напомним, что подгруппа G С СЦ2, С)
называется дискретной, если индуцированная топология на G есть дискретная
топология. Отсюда следует, что если G дискретна и матрицы А!', Ль ^2, ♦ • •
из G таковы, что Л„ -^Х, то Л„ =А!'для всех достаточно больших м.
Здесь даже нет необходимости предполагать, что XEG; нужно лишь,
чтобы X Е СЦ2, С). Действительно, в этом случае
AniAn^iY'-^XX-'^^I,
и, следовательно, для почти всех п имеем Л„ =у4„ + 1, а значит, An =Х
Чтобы установить дискретность G, достаточно доказать изолированность
одной точки в G, например точки /; т.е. достаточно доказать, что
in{{\\X~ I\\\XGG, ХФП >0
(см. следствие 1.5.2). В терминах последовательностей G дискретна тогда
и только тогда, когда из Л„ -►/ и Л„ GG следует А„ = I для почти
всех п.
Мы будем иметь дело главным образом с SLB, С); в этом случае можно
дать условие дискретности непосредственно в терминах нормы. Подгруппа
G С 8Ц2,С) дискретна тогда и только тогда, когда для каждого
положительного к множество
{А е G\ \\А\\<к) B.3.1)
конечно. Действительно, если это множество конечно при каждом ^, то G
18

не может иметь предельных точек (норма есть функщ1я непрерывная)
и, следовательно, дискретна. С другой стороны, если указанное множество
бесконечно при некотором к, то существует последовательность отличных
друг от друга элементов A^^G такая, что ||у4„ || < А:, м = 1, 2,. . . Если
^п* ^п* ^п* с/„ - элементы Л„, то кя1<А:, и из последовательности j„
можно выбрать сходящуюся подпоследовательность. То же самое верно в
отношении остальных трех элементов; используя обычный "диагональный
процесс", можно найти подпоследовательность матриц, для которой
сходится каждый из четырех элементов. Для этой подпоследовательности
имеем An -^В, тле В - некоторая матрица. Так как определитель
матрицы есть непрерывная функция, то BE 8Ц2, С) и, значит, G не дискретна.
Критерий B.3.1) показывает, что дискретная подгруппа G С SL B, С)
всегда счетна*). Действительно,
G= и G„,
где On есть конечное множество таких А в О, для которых М || < п.
Любая подгруппа дискретной группы снова дискретна - это очевидно.
Наконец, если О дискретна, то дискретна и любая сопряженная ей подгруппа
ВОВГ^ у поскольку Х^ВХВГ^ есть гомеоморфизм СЦ2, С) на себя.
Имеются и другие, более тонкие следствия критерия дискретности,
но их лучше рассмотреть в связи с преобразованиями Мёбиуса (которые
будут изучаться в дальнейшем). По поводу более сильного варианта
дискретности см. [11]. Мы заключаем параграф важным примером.
Пример 2.3.1. Модулярная группа есть подгруппа в 8Ц2, R),
состоящая иэ всех матриц А с действительными целыми элементами а, Ь, с, d.
Эта группа, очевидно, дискретна. Более широкая группа Пикара состоит из
всех матриц А G 8Ц2, С) с целыми гауссовыми а, Ь, с, d (числа вида
т + W, где т vi п — целые). Эта группа тоже дискретна.
Упражнение 2.Э
1. Покажите, что { 2"/1 w е Z } есть дискретная подгруппа группы GLB, С) и что в
этом случае множество B.3.1) бесконечно.
2. Найдите дискретные подгруппы группы GLB, С), содержащие только
диагональные матрицы.
3» Докажите, что дискретная подгруппа в GLB, С) всегда счетна.
4. Пусть подгруппе G с GLB, R) содержит дискретную подгруппу конечного
индекса. Покажите, что G также дискретна.
§ 2.4. Кватернионы
Кватернион есть комплексная матрица 2X2 вида
(- -)
B.4.1)
Множество всех кватернионов обозначается Н (по Гамильтону).
Сложение и умножение кватернионов понимаются в смысле сложения и
умножения матриц. Следующие факты легко проверяются:
*) Точнее, конечна или счетна. - Примеч. пер.
2* 19

(i) Н есть абелева группа относительно сложения;
(й) ненулевые кватернионы образуют неабелеву группу относительно
умножения;
(ш) Н есть четырехмерное действительное векторное пространство с
базисом
HI ■)• "(о -<)•
Так как умножение матриц дистрибутивно, умножение кватернионов
вполне определяется парными произведениями элементов I, i, j, к. Эти
элементы порождают мультипликативную группу порядка 8 со следующими
произведениями :
P=f =к^= -1;
ij = k, jk = i, ki=j;
ji= -Jc, kj = -i, ik = -j.
Множество кватернионов содержит копию С, поскольку отображение
С в Н сохраняет как сложение, так и умножение. Возвращаясь к B.4.1)
и полагая д: + /у = z, м + /у = w, получим
(jf = (х1 + yi) + (wj + vk) = (xl + 7i) + (w 1 + vi)l B.4.2)
Учитывая это, удобно изменить наши обозначения и переписать B.4.2)
в виде
(jf = 2 + ну,
где произведение даух таких выражений определяется посредством
(Zi +Wi/)B2 +W2/)=(ZiZ2 - WiW2) + (ZiW2 +W1Z2)/.
В частности, если z и w принадлежат С, то
/Z = Z/
и
(z+w/)(z -w/)= |z|2 +|w|^
Последнее равенство позволяет найти обратный квартернион, а именно:
(z+w/)-^=(z -w/)/(|z|^+|w|^),
где, разумеется,
det(z + w/)=|z|^ +|w|^
Упражнение 2.4
1. Покажите, что ненулевые кватернионы образуют мультипликативную группу с
центром { Г/ U е R, ГФО),
2. Покажите, что SLB, С) некомпактна, в то время как
{<7eH|det(<7)=l}
компактно.
20

3. Пусть S - множество кватернионов вида z +tf, где t - действительное.
Покажите, что S инвариантно относительно отображения q^iqj'^. Идентифицируя z -^tj с
(X, >^, z) е R*, даЛте геометрическое описание этого отображения.
4. Обобщая упражнение 3, покажите, что отображение дм-кдк'^ также оставляет S
инвариантным, и дайте геометрическое описание этого отображения.
§ 2.5. Унитарные матрицы
Матрица А называется унитарной, если
где А* задается с помощью B.2.1). Любая унитарная матрица
удовлетворяет соотношениям
1 = detU)detU*) = |det(^)i^
Сосредоточим свое внимание на множестве SLB,C) унитарных матриц с
определителем 1.
Теорема 2.5Л. Пусть А Е SUB, С). Следующие утверждения
{характеризующие элементы из SUB, С)) эквивалентны:
(О А унитарна;
(И) М1|^=2;
(ш) А есть кватернион.
В частности,
SUB,C) = SLB,C)nH.
Доказательство. Пусть
\ас -^ bd kP + IJlV
Имеем
АЛ
и
к-Л^+|Ь+с|^ =11Л 11^-2. B.5.2)
Прежде всего, B.5.1) показьюает, что если А унитарна, то ||Л||^ = 2.
Далее, если IIЛ ||^ =2, то из B.5.2) следует, что д = J и Ь -_-с1 так что Л
есть кватернион. Наконец, если А есть кватернион, то a-d, Ъ = — с"; учи-
тьюая, что ad -Ьс-\, из B.5.1) находим, что А унитарна. П
Простое вычисление показьюает, что любая матрица А из SUB, С)
сохраняет квадратичную форму | z | ^ + I w Р, а именно, если
(z,w)j4 = (z', w'),
то
|z'|^+|w'P = |z|^ +|w|^
Аналогичный результат имеет место для столбцевых векторов, так что для
любой матрицы X имеем
1МЛГ|| = ||ЛГЛ II = 11X11.
21

Это показывает, что
\\AXA-' -AYA-'\\^\\A(X- Y)A-'\ = \\X - Y\U
и, следовательно, справедлива
Теорема 2.5.2. Если А G SUB, С), то отображение Х^-^ АХА'^ есть
изометрия пространства матриц на себя.
Замечание. Теоремы 2.5.1 и 2.5.2 будут впоследствии облечены в
геометрическую форму.
Упражнение 2.5
1. Покажите, что SUB, С) компактна и выведите отсюда, что любая дискретная
подгруппа в SUB, С) конечна.
2. Связна ли группа SUB, С) ?
3. Группа действительных ортогоналы1ых матриц А (АА^ = /) из SLB, R)
обозначается S0B). Покажите, что существует отображение S0B) на единичную
окружность в комплексной плоскости, которое является одновременно изоморфизмом и
гомеоморфизмом.
4. Покажите, чго любая матрица из SDB, С) представима в виде
j е'^ О \ / cos^ -simp \/^^ О \
\0 е-^^)\ sin^ cos^ До г-^'^ '*
sin^ cos^
где е, if, ф - действительные.

ГЛАВА 3
МЁБИУСОВЫ ПРЕОБРАЗОВАНИЯ В R''
§ 3.1. Мёбиуоова группа в R''
Сфера S(a, г) в R" есть множество
5(a,r)={jcGR" I |jc-a|=r},
гдeflGR" и г>0. Отражение (или инверсия) относительно S(a, г) есть
функция <р, определенная формулой
^(x) = fl + (—^,) (х-а), C.1.1)
\\x-a I/
В частном случае сферы 5 @,1) ( = 5""*) функция ^р принимает вид
для этого случая удобна запись
х^х*, где JC* =jc/|jc|^.
Общий случай (ЗЛ.1) может быть переписан так:
(^(jc) = fl + r^(jc-flr)*.
Отражение относительно S(a, г) не определено, когда х = а; зто
преодолевается присоединением к R" еще одной точки. Мы добавляем к R" (для
каждого п) новую точку, обозначаемую «>, и образуем объединение
R"=R"U {оо} .
Поскольку I ^(х) I -> «5 при JC -^ fl, то естественно принять ^р(а) = «>; мы
полагаем также «^(«>)=fl. Отражение <р теперь определено на R", причем, как
легко проверить, »^^(;с) = х для всех xER", Очевидно, ^р есть взаимно
однозначное отображение R" на себя; далее, «^ (дг) = х в том и только в том
случае, когда д: G S(a, г)^
Плоскостью Р(а, t) в R" мы будем назьгоать множество вида
P(fl,0 = (^eR"l (xfl) = /}U {ос),
где fl€R", аФО, (х-а) обозначает обычное скалярное произведение
X XjOf и t — действительное число. Отметим, что, согласно определению,
точка «> принадлежит любой плоскости. Отражение ^ относительно P(j, г)
(или, как мы будем еще говорить, относительно (д: • а) =г) определяется
обычным путем, т.е.
»^(д:) = д: + X А,
где значение действительного параметра X выбирается так. Чтобы точка
23

— (x-^ipCx)) принадлежалаР(д, t). Явная формула для ^р имеет вид
2
ip(x)^x-2l(xa)-t]a\ C.1.2)
л
где jcGR"h, разумеется, »^(<») = «>.Опять-таки, <р определено на всем R ,
причем (^^(jc) = д: для всех xERP, Как и ранее, ^р есть взаимно однозначное
отображение R" на себя, причем ^р(х) - х в том и только в том случае,
когдаJcGP(fl, г).
Ясно, что любое отражение <р (относительно сферы или плоскости)
непрерывно в R , исключая точки «» и»^ (<»), где непрерьюность еще не
л
определена. Мы построим сейчас новую метрику в R ц покажем, что
л
относительно этой метрики (^ непрерьюно на всем R".
Для этого сначала вложим R" в R" "^ ^ естественным образом, превратив
точки (ДС1,..., дс„) в (jci,... уХп, 0). Точнее, пусть д: »-► jc есть отображение,
определенное равенствами
д: =(д:1,... ,х„,0), x-{xiy,,,,Xn)9
а также, разумеется, «> = ©о. Таким образом, д:^-> ic есть взаимно однозначное
отображение R" на плоскость д:„ +1 = О в R" "^ ^. В свою очередь плоскость
д:„ + 1 = О в R" "^ ^ можно отобразить взаимно однозначно на сферу
5"={>;GR"^i I |>^| = 1},
проектируя X из точьси е„ +1 на 5" и получая единственную точку 7гCс),
отличную от е„ + 1. Это отображение известно как стереографическая
проекция R" на 5".
Легко записать тг аналитически. Если д: Е R", то
7г(х')=х +f(e„ + i -х),
где t выбрано так,что \п(х) | = 1. Условие 17г(х) |^ = 1 приводит к
квадратному уравнению для t, которое имеет два решения: ^ = 1 и (поскольку
lie | = UI)
Ul' + l *
Отсюда мы заключаем, что
к этому добавляется, по определению, я(«>) = е„+j. ^
Так как х*-^тг(х) есть взаимно однозначное отображение R" на S ", мы
можем перенести евклидову метрику со сферы 5 " на R". Получаемую
таким путем метрику d на R":
d(x,y)^\ir(x)-n(y)l x,yER\
24

будем называть хордовой мегрмАсой. Утомительный (хотя и элементарный)
подсчет дает следующее явное выражение для d:
( 2\х-у\
а{х.у)-\
A + |хру/2A + |д;рI/2
i(i + upy/'
при Х,уфоо^
C.1.3)
при 7 = °°-
Краткое доказательство этих формул будет дано в § 3.4.
Написанные формулы показьшают, что метрика J, ограниченная на R",
индуцирует ту же самую топологию, что и евклидова метрика;
следовательно, функция, заданная на подмножестве в К'^и принимающая значения
в R", непрерьюна или нет относительно обеих метрик одновременно. Теперь
легко видеть, что каждое отражение <р есть гомеоморфизм (по отношению
к J) R" на себя. В действительности, поскольку »^ = «^"^, необходимо лишь
л
показать, что ^р непрерьюно в каждой точке д: G R". Но это и в самом деле
так: если «^ есть отражение относительно S(a, г), то
при х-^ а, т.е. ^р непрерьюно в точке j; подобное же рассуждение
показывает, что «^ непрерьюно и в точке <». Если же ф есть отражение относительно
плоскости Р(а, t), то, как легко видеть,
|i//(^)P = UP+0((jc|)
при IJC I ->«>, так что 11//(дс) I -><». Это показьюает, что i//непрерьюно в точке
оо и,следовательно, фесть снова гомеоморфизм R" на себя. ^
Определение 3.1.1. Мебиусово преобразование, действующее в R",
есть произведение конедаого числа отражений (относительно сфер и
плоскостей) .
Ясно, что каждое мебиусово преобразование является гомеоморфизмом
R" на себя. Композиция двух мёбиусовых преобразовании снова есть
м'ёбиусово преобразование. Преобразование, обратное к мёбиусову, снова
является мёбиусовым: если ^-^i,, ,^щ (где каждое <pj есть отражение),
то (^"^ = 'Р;^ ... «^1. Наконец, для любого отражения \р имеем ^р^{х) =jc, так что
тождественное отображение также является мёбиусовым преобразованием.
Опре дел е ние 3.1.2. Гр)шпа всех мёбиусовых преобразований,
деистаующих в R", назьгоается общей мёбиусовой группой и обозначается
GM(R").
Рассмотрим теперь примеры мёбиусовых преобразований. Во-первых,
параллельный перенос jc»-^jc +д, а G R", является мёбиусовым
преобразованием, поскольку он может быть получен как композиция отражений
относительно (х • д) = О и (д: • j) = — I fl Р *). Далее, растяжение х*^кх,к>0.
♦) Сначала производится отражение относительно {х • а) =0, затем - относительно
(д: • д) = — I д j*. - Примеч. пер,
25

является мёбиусовым преобразованием, поскольку его можно получить
как композицию отражений относительно 5 @,1) и 5@, y/lc).
Пусть ^р и <р* обозначают отражения относительно S(a,r) и 5@,1)
соответственно, и пусть i//(jc) = rjc + д, тогда, как показывает вычисление,
^ = 1//^*,//-^. (ЗЛА)
Поскольку ф является мёбиусовым преобразованием, мы видим отс19да,
что любые два отражения относительно сфер сопряжены в группе GM (R").
Дальнейшими примерами мёбиусовых преобразований являются все
евклидовы изометрии. Заметим, что каждая изометрия «^ в R"
рассматривается как действующая в R" (полагаем (/?(«>) = <»).
Теорема ЗЛ.З. Любая евклидова изометрия в R" есть композиция
не более чем м + 1 отражений в плоскостях, В частности, любая изометрия
является мёбиусовым преобразованием.
Доказательство. Так как каждое отражение относительно
плоскости есть изометрия, достаточно рассмотреть изометрии <р, для которых
<р @) = 0. Такие изометрии сохраняют длины векторов, поскольку
|^(jc)| = |^(jc)-^@)| = |jc-0| = |jc|,
а также сохраняют х:калярные произведения, поскольку
2Ых)'^{у))^\^{х)\^ ^\^{у) \^-\^{х)-^{у) ? =
^\х?^\у\^ -\х-у\^^2{х'у).
Это означает, что векторы «^(^i),... ,»^ (е„) попарно ортогональны, а
значит, и линейно независимы. Так как их число равно Пу они образуют
базис векторного пространства R". Следовательно, для любого х G R"
имеем
п
^(х)= 2 М/^(^/)»
где /iy — некоторые числа. Отсюда, поскольку «^(еу) попарно ортогональны,
М/ = ЫХ) • ^i^f)) = (Х ' еу) = Xf.
Таким образом,
п п
^( 2 ^/еу)= S Xf^f)]
/ = 1 / - 1
это показывает, что ip есть линейное преобразование R" в себя. Поскольку
изометрия является взаимно однозначным отображением, ядро ^ имеет
размерность О и, значит, »^(R") = R".
Если А есть матрица преобразования (/? относительно базиса ei, . . . , е„,
то ^р(х) -хАи А имеет строки »^(ei),... ,(/?@- Отсюда следует, что
элемент матрицы АА^, расположенный на (/,/)-м месте, равен
(<^(е/) м^(еу)), а значит, (е,. е,); при /=/этот элемент равен единице,
при остальных /,/— нулю. Это означает, что матрица А ортогональная.
Покажем теперь, что ^р есть композиция отражений не более чем в п
плоскостях. Прежде всего, положим
Ji ^^(ei)-ei,
26

Если fli ФО, то возьмем в качестве ^i отражение в плоскости P(ji, 0);
тогда непосредственное вычисление с использованием C.1.2) покажет,
что i//i отображает ^piei) в ei. Если же Ji = О, то возьмем в качестве i//i
тождественное преобразование. Во всех случаях фх отображает ^(ei)
в ei. Теперь положим ipi = i//n^; тогда j^i — изометрия, фиксирующая О и ei.
Вообще, предположим, что <Pk есть изометрия, фиксирующая О, ei, . . .
..., е;,; пусть
Беря, как и ранее, в качестве ф^^ + i тождественное преобразование (если
^/с + 1 ~ 0) или отражение в Р(Д/^ + i» 0) (если а^ + i ФО), получим, что
Фк ^ \^к фиксирует о и e;t + 1- Кроме того, если 1 </ < к, имеем
(^/ • Л/: + l) = (^/ • ^ki^k + l)) - (^/ • ^/с + l) =
= i^Pki^i) ' ^ki^k + i)) - О = (еу e;t + l) = О
и, значит, согласно C.1.2),
Поскольку ifff тоже фиксирует О, ei,..., е;^, находим, что Фк + i^k
фиксирует О, ^1,..., e;t + 1 • Продолжая это рассуждение, построим отображения
ф^,]' = 1,...,м (каждое из которых есть отображение в плоскости или
тождество), такие, что изометрия Фп - -- ^ц^фимсирует каждую из точек
О, ^1,..., е„. По сделанному ранее замечанию это отображение обязательно
линейное и, значит, является тождественным, т.е. ^ = Фп • - -Фх* Этим
завершается доказательство теоремы 3.1.3, поскольку, как было показано,
каждая изометрия в композиции с некоторым отражением есть изометрия
типа»^.П
Отметим и такой полезный факт.
Тео р ем а 3.1.4. Функция (/? является евклидовой изометрией в том
и только в том случае, если она представима в виде
где А - ортогональная матрица и jcq ^ R".
Доказательство. Так как ортогональное преобразование
сохраняет длины, то ясно,что каждое <р указанного вида есть изометрия. Обратно,
если ^ — изометрия, то ^{х) —^{0) есть изометрия, сохраняющая начало
и, следовательно, задаваемая ортогональной матрицей (как в
доказательстве теоремы 3.1.3). D
Можно указать и более детальную информацию о евклидовых изомет-
риях. Например, имеет место
Т е о р е м а 3.1.5. Для любой вещественной ортогональной матрицы А
существует вещественная ортогональная матрица Q, такая, что
^Ai О
QAQ-' =1 А,
Is
-It
27

где r,s,t- неотрицательные целые и
' cos Ojc — sinSf^X
-<
Каждая евклидова изометрия, оставляющая неподвижным начало,
может быть представлена (при подхохщщем выборе ортоцормированного
базиса) матрицей такого рода. Это дает явное указание всех возможных
типов изометрий.
Вернемся, однако, снова к рассмотрению отражений (р общего вида.
Представляется ясным, что «^ не сохраняет ориентации. Докажем, что
это так.
Т ео р е м аЗ.1.6. Лю5ое отражение меняет ориентацию и сохраняет
углы (т.е. является конформным).
Доказательство. Пусть ip — отражение относительно Р(а, t).
Из C.1.2) непосредственно следует, что (^ дифференцируемой что ^\х)
есть постоянная симметрическая матрица (»^/;), где
(б/у есть символ Кронекера, равный единице при i« / и нулю в остальных
случаях). Запишем это в виде
^'(д:)= l-2Qa,
где матрица Qa имеет элементы д,Ду/1 j Р. Очевидно, Qa симметрична и
Qa'^Qay следовательно,
^'(x)/(x)^ = (l-2Q,)^=/.
Отсюда видно, что ^р\х) есть ортогональная матрица; этим доказана
конформность ip.
Положим Z) = det«^'(jc). Так как ^р'(х) ортогональна, то D ФО (на
самом деле Z) = ± 1). В то же время D есть непрерьшная функция вектора
flGR"\{0}, т.е. Z) задает непрерьюное отображение R" \{0}в R^ \{0} .
Поскольку R" \{О} связно (мы предполагаем, что п > 2),Z) или
положительно, или отрицательно одновременно для всех а ^ 0. Но при а -Ci имеем
»^(X,,...,X„) = (-Xi +2Г,Х2,...,Х„),
т.е. в этом случае Z) = — 1. Отсюда мы заключаем, чтоD<Q для всех л ^ О,
т.е. каждое отражение относительно плоскости изменяет ориентацию.
Аналогичное рассуждение применимо и в случае отражения относительно
сферы. Пусть сначала ^р есть отражение относительно 5@, 1). Тогда при
X ^ О элементы матрицы ^р'(х) суть
17? " 17F'
откуда
^'(x)=Ur4l-2QJ.
Это показывает, как и ранее, что ^р конформно в любой точке д: ^ 0.
28

Положим снова D(x) = ip'ix). Так как ^(}р(х)) = дс, то
Di^ix))D(x)=h
откуда в точности так же, как выше, следует,что/)или положительно,или
отрицательно сразу на всем R" \ 10} . При х -ei простое вычисление дает
^(^i) = — 1; следовательно,/)(:с)<0 длявсех JC^O.
Доказательство в случае произвольного отражения теперь получается
простым применением C.1.4); детали предоставим читателю. П
Из теоремы 3.1.6 следует, что произведение четного числа отражений
сохраняет ориентацию, а произведение нечетного числа отражений меняет
ориентацию на противоположную. ^ ^
Определение 3.1.7. Мёбиусова группа MCR"), действующая в R'',
состоит из всех сохраняющих ориентацию мёбиусовых преобразований из
GM(R").
В заключение укажем одну простую, но полезную формулу. Если а есть
отражение относительно евклидовой сферы S(a, г), то
\ о(у) ~ о(х) \^г^ \(у - аУ -(х -^ аУ \^
2(х-а)(у-а) ^ 1
1/2 Г^\у-Х\
Это показьшает, что
а(х + А) - а(х) г^
|x-ep|7-aP \х-а\Ч \x-a\-\y-a\'
C.1.5)
lim
h-^o \h\ \х-а\^
Полученное число служит мерой локального растяжения (для о) в точке х.
Упражнение 3.1
1. Покажите, что отражения в плоскостях х - а =0 и х * Ь = О коммутируют тогда и
только тогда, когда а н b ортогональны.
2. Покажите, что если <р есть отражение в х- а -t, то
\^{х)\* = |х|' +0W
при IX I -► «>.
3. Пусть^ - отражение в S{a, г). Докажите аналитически, что:
(i) ^(х) = X, если и только если л е 5(а, г);
(ii) ^W = x;
(Ш)|х-д| .|<^W-fl !='•'.
То же самое (с соответствующей модификацией (ш)) докажите для отражения в
4. Докажите (аналитически и геометрически), что для всех отличных от нуля х
и д^вК"
\Х\'\У''Х* \-^\у\-\Х''У* I.
5. Пусть iff означает отражение в S{ta, t \а \), Покажите, что тогда
X *^*р(х)= lim ifitM
f —► оо
будет отражением в плоскосга х • д = 0.
6. Проверьте справедливость формул C.1.3).
29

7. Пусть я - стереографическая проекция плоскости x„ + i = О на 5". Покажите, что
если y^S^^To
1
^-'{у) = (>',.....>'«, 0).
A -Уп + О
8. Пусть ^ обозначает отражение в 5(е„ +1, \/Т). Покажите, что <^ = тг на плоскости
^п + 1 " О» и найдите ^(Я" "*" ^).
9. Покажите, что отображение z «^ 1 +F в С есть композиция трех (но не менее)
отражений). Таким образом, число и +1 в теореме 3.1.3 не может быть в общем случае
уменьшено.)
10. Используйте теорему 3.1.5 и определение 3.1.7, чтобы показать, что если п
нечетно и «^ е M(R") , то ^ обладает осью (прямой, состоящей из неподвижных точек).
§ Э.2. Свойства мёбнусовых преобразований
Будет показано, что мёбиусово преобразование отображает каждую
сферу и каждую плоскость в некоторую сферу или плоскость. Вследствие
этого полезно несколько изменить терминологию. Впредь мы будем
использовать термин ''сфера*'для обозначения сферы вида S(a, г) или же
плоскости. При этом сферу S(a, г) будем называть евклидовой сферой или просто
сферой вида S{a, г).
ТеоремаЗ.2.1. Пусть ^ - мёбиусово преобразование иЪ- произволь-
пая сфера. Тогда ^рA) есть снова сфера.
Доказательство. Легко видеть, что (/?B) есть сфера, когда (^
является евклидовой изометрией, в частности, когда <р есть отражение в
плоскости. Легко видеть также, что <^B) есть сфера в случае, когда»^(jc ) =
^кх,к>0.
Каждая сфера представляет собой множество точек в R", определяемое
некоторым уравнением вида
где е и Г - действительные числа, л G R''; при этом мы соглашаемся
считать, что о© удовлетворяет этому уравнению тогда и только тогда, когда
€ =0.
Если JC G S, то, полагая у==х*, будем иметь
но это есть снова уравнение некоторой сферы 2i. Таким образом, если ^*
есть отображение дсн^ jc*, то »^*B) С 2j. Аналогичные соображения
показывают, что (/?*(Si) С 2 и, следовательно, <р*B)= 2i.
Используя C.1.4) и утштывая предыдущие замечания, мы видим, что
^(Z) есть сфера всякий раз, когда ^ есть отражение относительно
евклидовой сферы. Так как любое мёбиусово преобразование есть произведение
отражений, то из сказанного следует требуемый результат.D
Детальное рассмотрение геометрии мёбиусовых преобразований
существенно опирается на теорему 3.2.1 и тот факт, что мёбиусовы
преобразования являются конформными. Полезной заменой конформности является
изящное понятие инверсного произведения (S, S') сфер 2 и S . Это -
некоторое явно заданное выражение, зависящее только от 2и 2 и
инвариантное по отношению ко всем мёбиусовым преобразованиям. В случае,
30

когда S и S'пересекаются, B, S') есть функция их угла пересечения;
когда S и S' не имеют общих точек, (S, S') есть функция
гиперболического расстояния между ними (объяснения будут даны позднее).
Инвариантность и явное выражение для (S, S') делают его в высшей степени
полезным орудием.
Уравнение, определяющее сферу S, скажем 5(д, г) или Р(а, t), есть
Up -2(х'а) + \а\^ -г^=0
или
-2(xfl) + 2r = 0;
обе возможности могут быть записаны в одном уравнении
floUP -2(>:-fl) + fl„ + i =0,
где йг = (fli,..., йг„). Коэффициентный вектор сферы 2, а именно (до, ^i»• • •
...,£?„,£?„ + i), определяется сферой S не однозначно, но с точностью до
вещественного множителя, не равного нулю. При этом, если {ао,..., йг„ +1)
есть коэффициентный вектор для S, то (как легко проверить в каждом
из двух случаев)
\а Р >floflfi + i.
Определение Я.2.2, Пусть S и S' имеют коэффициентные
векторы (йго,..., йг„ + i) и (Ьо,. . •, ^fi + i) соответственно. Инверсным
произведением B, S') называется число
ГУ у'ч - \2(a'b)-aobn^i -On^ibo I
^'''''^(|.|^-.o...i)^/4lbl^~^ob..i)^/^ * '
Заметим, что это число однозначно определяется сферами S и S';
каждое из выражений в знаменателе, заключенных в скобки, положительно и
имеет положительный квадратный корень. Если мы определим билинейную
форму G на R" "'■ ^ с помощью формулы
Я(х,у) = 2(х^у1 + . .. + ХпУп) - {хоУп + 1 +^« + i7o),
то инверсное произведение за1шшется в более сжатом виде:
\я{аУ)\
(S,2') =
\q{a\a')\'l^\q{b\b')\'l^
где fl' = (flo,^i,... ,flfi. flfi + i) и ^' = (^0,^^!,. . • ,^fi,^fi + i)-
Полезно записать выражение для B, S') отдельно для каждого из трех
случаев:
Случай I. S=5(fl, г) и 2:' = 5(Ь, О; тогда
B, S') = . C.2.2)
1 Irt »
Случай П. S = 5(fl,r)H X' = P(b,t); тогда
,,,z',=i<i:ibli. C.2.3)
Г \b I
31

Случай III. 2:=P(d,r) и 2:'=P(Z>, Г); тогда
B,2') = f—f-. C.2.4)
\a\\b\
Указанные формулы легко проверяются. Отметим, что во всех случаях,
если 2 и 2'пересекаются, то (S, S') = cos^, где в — угол пересечения.
В частности, (S, S') = О тогда и только тогда, когда Z и S' ортогональны.
Отметим также, что в случае II
B, 2')= 6/г,
где 6 есть расстояние от центра сферы S{a, г) до плоскости Р{Ь, t);
следовательно, (S, S ')= О в том и только в том случае, когда а GР{Ь t).
Установим теперь инвариантность B,2').'
Теорема 3.2.3. Для любого мебиусова преобразования <р и люых
сфер Sw S'
(^(S),^(S')) = (S,S').
Доказательство. Мебиусово преобразование отображает сферы
на сферы и тем самым индуцирует отображение
(flo,fli,... ,flfi,flfi + i)^(flo, Ль ...,««»«« + i)
между коэффициентными векторами сфер (рассматриваемыми с точностью
до численного множителя). Например, ортогонапьное преобразование
X ^хА-уь^ (сюда включаются все отражения в плоскостях,
проходящих через начало) удовлетворяет
UI' = I>'|', {ха)^{хАаА)^{у'аА)
и, таким образом, отображает сферу
До Up-2(x-fl) + fl„ + i =0
на сферу
ао \у?-2{уаА)'^агг^х =0.
Индуцированное отображение между коэффициентными векторами в этом
случае есть
ао^ао, а^аА, an + i ^ a^ + iy
откуда очевидным образом следует инвариантность C.2.1), когда оба
коэффициентных вектора подвергаются такому преобразованию. Этим
доказана инвариантность (S, S') при преобразовании д: ^хА,
Подобным же образом отображения (i) х ^kx(k> 0); (ii) д: м- д:*;
(iii) JC ^ JC + м индуцируют отображения
(i) (flo, fli,... ,fl„,fl„ + i) ^ (flo. kai,.,, Мю k^On + i);
(ii) (ac^i,.. . ,fl„,fl„ + i) H^(fl„ + i,fli,. .. ,art,ao);
(iii) (ло,Ль. . . . fl„,fl„ + i) ^(flc^i +floWi,.. у On +Ло"«,л« + 1 +
+ 2(fl-w) + flolw|^). ^
Легко проверить, что C.2.1) остается инвариантным при каждом из этих
32

преобразований. Поскольку соответствующие мёбиусовы преобразования
порождают всю мёбиусову группу, доказательство теоремы закончено.
С алгебраической точки зрения инвариантность B,S') связана с тем,
что мёбиусово преобразование индуцирует над коэффициентными
векторами линейное преобразование с некоторой матрицей А, причем А оставляет
квадратичную формул? инвариантной.D
Доказательство следующего результата иллюстрирует одно из
применений инверсного произведения.
Т е о р е м а 3.2.4. Пусть S - некоторая сфера, о - отражение
относительно 1^ и I - тождественное отображение. Если мёбиусово преобразование ^р
оставляет неподвижной каждую точку хЕХ.то либо <р=1, либо ^- о.
Доказательство. Рассмотрим сначала случай, когда S есть
плоскость д:„ = Ов R". Пусть 2' =5(j, г), где а G 2 и г> 0. Поскольку «> G S
и ^р оставляет «> на месте, то ^р отображает S' на евклидову сферу, скажем,
S" = S(b, О.Так какА е S,имеем B, 2') = 0. По теореме 3.2.3 (S, 2") = О,
т.е. Z> G 2; таким образом, д„ = Z>y, = 0. Каждая точка из 2 П 2' неподвижна
относительно (/?, следовательно, из
следует
и обратно. Отсюда заключаем, что а = b и / = г; тем самым <р отображает
2' на себя.
Далее, выберем точку х, не лежащую в 2, и пусть y^^ix). Выберем
также точку л G 2, и пусть г = \х - а\, т.е. xGS(a,r), Так как ^ сохраняет
S(a, г), то у G S(a, г) и, значит,
заметим, что это верно для всех л в 2. Полагая л = О находим, что | jc | = |;; |.
Как следствие этого находим, что для всех л из 2
Беря в качестве а последовательно ei,..., e„_i,найдем, что Xj = j/,
/ = 1,.. ., w - 1.Итаккак Ul = \у\,тоу^ = ±Хп,т,е.^(х) (^у) есть либо
X, либо о(х). Поскольку отображение а оставляет 2 инвариантной, оно
оставляет инвариантными или переставляет связные компоненты R"\2,
значит,
^р = / или (/? = а.
Теперь нетрудно разобрать общий случай. Прежде всего, если дана сфера 2,
то существует мёбиусово преобразование ф, которое переводит 2 в
плоскость Хп =0 (детали опускаем). Пусть о - отражение относительно 2 и т? -
отражение относительно плоскости jc„ == 0. Преобразование фоф'^ оставляет
неподвижной каждую точку плоскости jc„ = О, но не является
тождественным; в силу первой части доказательства имеем тогда фаф"^ = »?.
Если теперь ^р есть мёбиусово преобразование, которое оставляет на
месте каждую точку из 2, то ф^рф"' есть либо /, либо т?; отсюда ^р есть либо
/, либо а. П
3. А. Бердон 33

Доказательство теоремы показывает также, что каждое отражение а
согфяжено данному ({«ксированному отражению т?. Тем самым мы
получаем следующее обобщение C.1.4). ^
Следствие. Любые два отражения сопряжены в GM(R'').
Существует другая формулировка теоремы 3.2.4 - в терминах
инверсных точек. Пусть о обозначает отражение относительно сферы 2; точки д:
и у назьюаются инверсными относительно S, если у = о(х) (а значит, и
х^а{у)).
Пусть теперь х и у - инверсные точки относительно 2, <^ - некоторое
преобразование Мёбиуса и ai - отражение относительно сферы <p(L),
Согласно теореме 3.2.4 имеем ф^^оцр-Оу или, что эквивалентно, Oiif-
= <ра. Это же самое можно сказать и так: для всякого х отображение Oi
переводит ip (jc) в ^(у)^ Значит, точки (/?(jc) Hip (у) инверсны относительно
<^B). Мы установили следующий результат - другую формулировку
теоремы 3.2.4.
Теорема 3.2.5, Пустьх и у - инверсные точки относительно сферы 2
и <р - некоторое мёбиусово преобразование. Тогда <р{х) и <р{у) инверсны
относительно сферы »^B).
Теорема 3.2.6. Точки х и у инверсны относительно сферы 2 в том
и только в том случае, когда любая сфера, проходящая через дс. ортого-
HOjWHay.
Доказательство. Утверждение теоремы очевидно, если 2 есть
плоскость. В общем случае оно тоже верно ввиду инвариантности
отношения инверсности (для точек) и ортогональности (для сфер). D
Мы заканчиваем настоящий параграф кратким обсуждением двойного
отношения. Если даны четыре различные точки х, у, и, v в R", то их
двойным отношением называется число
c/(jc, u)d(y, v)
[x.y.Kvl- ; ч C.2.5)
d(x,y)d(u,v)
Применяя C.1.3) (выражение для хордового расстояния с/), можем также
записать
\х - и\ '\у - v\
[X. у. к V] = —^ , C.2.6)
\x~y\'\u-v\
с соответствующими замечаниями (которые вытекают из C.2.5)) в случае,
когда одна из точек есть оо. л л
Теорема 3.2.7. Отображение ip: R" -^R^ является мёбиусовым
тогда и только тогда, когда оно сохраняет двойное отношение.
Доказательство. Покажем сначала, что двойное отношение есть
инвариант мёбиусовых преобразований. Так как любое мёбиусово
преобразование, которое умножает евклидовы расстояния на постоянное число,
сохраняет двойное отношение C.2.6), то достаточно рассмотреть
отображение х^х*. По (см, C.1.5))
\х-у\
\х*~у*\^ J LL.
\х\'\у\
и, следовательно, двойное отношение инвариантно относительно д: ^д:*.
34

Предположим теперь, что *р: R" -► R" сохраняет двойное отношение.
Беря композицию ур с подходящим мёбиусовым преобразованием, мы
можем ограничиться случаем »^(«») = «». Пусть д:, у,и,\) - четыре различные
точки в R". Так как
есть инвариант относительно »^, получаем
1^(^)-^0I _ I ^ju) - ф) I
\х-у\ \u-v\
предположение, что { д:. ^ ) ^ { ". у} = ф, не является здесь необходимым
(сравните выражения слева и справа с подобным же выражением для двух
точек йг и ^, выбранных отличными от х, у, и, и). Это доказывает, что (/?
есть евклидово подобие и, следовательно, преобразование Мебиуса. D
Упражнение 3.2
1. Проверьте C.2.2) - C.2.4).
2. Восполните детали доказательства теоремы 3.2.3.
3. Пусть d - хордовая метрика в R . Покажите, что
dix*,y*)-^dix.y).
i 3.3; Продолжение Пуанкаре
Пуанкаре заметил, что каждое преобразование Мебиуса <р, действующее
В R , естественным образом продолжается до мёбиусова преобразования </?,
действующего b^R""^* , и что таким путем группа GM(R") становится
подгруппой в GM(R" "^^). Это продолжение определяется вложением
xH>x = (xi,...,x„,0), ^=(^ь...,х„),
R" в R"^^
Для каждого отражения (/?, действующего в R", мы определяем
отражение (?, действующее в R""*"^, следующим образом. Если <р есть отражение
относительно 5(д, г ), а G R", то (^ есть отражение в S(a,r); если (/? есть
отражение в Р(а, г), то <? есть отражение в Р(а, t). ПустьxER^ иу -^fix),
тогда из C.1.1) и C.1.2) следует^ что
?(хь...,Д^«,0) = (уь...,7«,0) = ^7^). C.3.1)
Если идентифицировать R""^^ с R" X R\ то C.3.1) можно записать в виде
?(д:,0) = (^(д:),0).
Заметим, что (р оставляет инвариантной плоскость x„+i =0 (которая
есть R"), а также каждое из полупространств Xn+i > О и дс„+1 < 0; эти
утвер5кдения непосредственно следуют из C.1.1) и C.1.2). ^
Так как любое мёбиусово преобразование «/>, действующее в R", есть
конечное произведение отражений ip^ скажем ^ =^i ... */?^, то существует
по крайней мере одно мёбиусово пре9бразование (р, а именно <?i ... *?^,
которое продолжает действие ^р на R""*"^ в смысле C.3.1) и которое
3* 35

сохраняет
Я"^^={(х» :^„+i)U„ + i>0}.
На самом деле таких продолжений для \р не может быть больше одного,
ибо если Фх "лфг - два продолжения, то Ф1^ фг оставляет на месте каждую
точку плоскости д:„ + 1 = О и сохраняет Я""*"^; но в таком случае по
теореме 3.2.4 Фг = Фг- ^
Определение 33 Л. Продолжением Пуанкаре для <р G GM(R")
называется преобразование ^р G GM(R" "^^), определенное выше.
Заметим, что если ^р и ф принадлежат GM(R"), скажем ip = ^i ... »^^ и
i// = i//i ... i//fc, то продолжение Пуанкаре для ^ф будет
(^ФГ=(^1 "'fm'l^i -'-ФкУ =!^1 "-^m^l .,.ф^^^:рф\
^ л
таким образом, ^ *^ tp есть инъективный гомоморфизм GM(R") в
GM(R" "^^). Это замечание тривиально, но в то же время важно.
Сосредоточим теперь наше внимание на действии продолжения Пуанкаре
(р в Я""^^. Прежде всего, если ^ есть отражение относительно сферы
5(fl, г), йг G R", то в силу C.1.5)
\^(У)-Нх)\
\у-х\ \х-^а \'\у-а \
Обозначим временно/-ю компоненту ^(х) через [^^(дс)],. Так как
:р(х)^а -^г^х-аУ,
то ^2^
[?(^)]..i=0+-f-^^. C.3.2)
\х-а Г
Это показывает, что
\У-х\^
Уп+1^п +1
C.3.3)
есть инвариант относительно ^р.
Если (? есть отражение в плоскости РE, t), а Е R", то оно является
евклидовой изометрией, причем
[^(х)]п+1 -Хп + 1\
в этом случае C.3.3) также инвариантно относительно »?. Таким образом,
величина C.3.3) инвариантна относительно всех продолжений Пуанкаре,
Непосредственным следствием этой инвариантности является то, что
продолжение Пуанкаре для любого ^ Е GM(R") является изометрией
пространства Я""^^ снабженного римановой метрикой р, порождаемой
дифференциалом
\dx\
ds = .
^п +1
Пространство Я""^^ представляет собой нашу первую модель
гиперболического пространства, а р есть гиперболическая метрика в Я" "^^ Глубокая
36

структура гиперболической геометрии (Я" """^, р) будет служить нам теперь
важным орудием для изучения подгрупп группы GM(R"); образовав для
каждого ^ из такой подгруппы G продолжение Пуанкаре, мы можем
изучать G как группу изометрий в Н^^^.
Геометрия гиперболической плоскости будет весьма детально изучаться
в главе 7, некоторые из сообщаемых там результатов (и доказательств)
без труда распространяются на Я""^^. Ода1н из таких результатов состоит
в том, что если x-se^+i H>' = fe„+i, то
p(x,;0 = lln(s/OI
и тем самым
ch р(х, 7) = 1 + г^ . C.3.4)
2^fi +1 ^fi +1
Так как обе части равенства C.3.4) инвариантны относительно всех фу мы
видим, что это равенство справедливо на самом деле для всех д: и
у из Я"^^
В частности, гиперболическая сфера
с гиперболическим центром (Уь •. •» ^fi+i) и гиперболическим радиусом
г есть в точности евклидова сфера
(a:i~Ji)^+... + (a:„^7J'+ C.3.5)
+ (^« + 1 -Д'^+хсЬг)? =G„ + lSh/•)^
В дополнение к сказанному отметим следующий факт: если даны две
различные точки в Я""^\ то существует единственная соединяющая их
кривая 7, доставляющая минимум интеграла
^ \dx\
У Хп+1
Эта кривая представляет собой дугу геодезической; геодезические же
суть евклидовы полуокружности, ортогональные R", а также вертиклаьные
евклидовы прямые
*) в Я"^^
Упражнение 3.3
1. Покажите, что если х и у принадлежат Я"^^, то
2. Покажите, что если дс € Я " '*"\ то
chp(x, U|e„+i) = Ui/x„+i,
и истолкуйте это геометрически.
3. Пусть S - гиперболическая сфера в Я" ^ с гаперболическим центром у и
гиперболическим радиусом г. Пусть у обозначает отражение у в плоскости x„+i = 0.
*) То есть прямые ху = cy(const), / = 1,..., и, Хп+\>0,- Примеч. пер,
37

Покажите, что
Н'Ш-Ш
4. Предположим, что ^ е GM(R ) и ^ оставляет инвариантным Я" *.
Докажите, что ^ есть продолжение Пуанкаре некоторого Ф из GM(R").
§ 3.4. Отображения на себя еденичного шара
л
Как мы уже видели, элементы группы GM(R") действуют как
гиперболические изометрии в Н"^^, Мы можем использовать эту ситуацию, чтобы
получить другие модели гиперболического пространства. Для этой цели
отобразим Я"^^ нг В"^^ и таким путем получим другой (изоморфный)
экземпляр группы GM(R"), элементы которого оставляют В^^^
инвариантным. Эта новая людель обладает большей симметрией — отсутствует
особая роль точки «>.
Пусть (/?о обозначает отражение относительно 5(e„+i, \/2), так что
пи X G R ", то
^^ ^ ^ (Л 1»• • •»-^fi»""
го(^) ^-„.1' j^,^|.
/ 2х, 2х„
\l+|x|^ "■■' 1+|JC|^ '
1)_
UI
\х\
'^У
но это есть в точности формула стереографической проекции я: R" -►5" С
CR""^\ рассмотренная в § 3.1.
Реализация стереографической проекции в виде отражения позволяет
весьма просто доказать формулы C.1.3) для хордового расстояния. Если
xGR", то
u-e„+ll^=l + Ul^
что вместе с C.1.5) дает
dix,y) = \n(x)-n(y)\ = \Мх)-^о(у)\ =
2\х-у\
A+1x1^)^/41+1;^!')'/'
Вернемся снова к отражению (^о, определенному выше. Если хЕ
GR^^^To
4 4(е„ + 1 '[х-вп + х])
\Мх)\' =1 + ^ ГГ +
U-^„+il U-e„+il
2
= 1 , ^^--^ ^^ ; C.4.1)
38

это показывает, что ^q отображает нижнее полупространство д:„+1 < О
на 5"^^
Положим ifi - ^оо, где о есть отражение в плоскости jc„ +i = 0. Очевидно,
(/? отображает плоскость х^+х = О на 5 " и полупространство Я" "*■* на i5" ''"^.
Используя C.1.5), находим
\^(у)-ф)\ ^. \Мо(у))--Мо{х))\
lim = lim
у-^ X \У -Х\ У-* X \У -Х\
= lim
у-^х \о(у)-о(х)\ \о{х)-еп+1Г
Формула C.4.1) с заменой д: на а{х) дает
^^п +1
1-\^(х)\'-\-\Мо(х))\' =
,a(x)-e„+il^
откуда следует
1^(у)-^(дс)| i-ifwii
л'-^х l7-^l 2д:„ + 1
Теперь на основании § 1.6 заключаем, что гиперболическая метрика р в
Я""^^ посредством (/? преобразуется в метрику
2|c/jc|
1-Ul'
в i9" "^\ а иэометрии i// метрики р по формуле ^y-^^ylf^p"^ переходят в изо-
метрии В^^^^ с указанной метрикой. Это показьюает, что GM(R")
сопряжена в GM(R""*"^) подгруппе, состоящей из всех элементов, которые
оставляют инвариантым В^""^,
Перейдем теперь к изучению тех мёбиусовых преобразований, которые
оставляют инвариантным единичный шар. Заменим в предыдущих
рассуждениях м + 1 на м; итак, мы будем изучать элементы ^ G GM(R") такие,
что (/?E")=5".
Прежде чем двигаться дальше, отметим, что можно получить для 5"
формулу, аналогичную C.3.4); см. главу 7. На самом деле нам
потребуется лишь следующее: если хЕВ^, то
/ 1+UI\
детальный разбор предоставляем читателю.
Теорема 3.4.1. Пусть i^ - мёбиусово преобразование такое, что
(/?@) = О W ^(В^) = j9". Тогда ip(x) =" хА, где А - некоторая
ортогональная матрица.
Доказательство. По теореме 3.2.5 (/? оставляет на месте «> и, как
при доказательстве теоремы 3.2.7, (/? есть евклидово подобие. Поскольку
(/? оставляет неподвижным начало и переводит в себя 5"~\ то на самом
деле (/? является евклидовой изометрией. Теперь результат следует из
теоремы 3.1.4. D
39

Легко видеть, что отражение в плоскости Р(а, t) тогда и только тогда
оставляет В^ инвариантным, когда г = 0. Иначе говоря, отражение
оставляет В^ инвариантным в том и только в том случае, когда Р{а, t)
ортогонально 5 " ~ ^ В такой форме утверждение справедливо для всех
отражений.
Теорема 3.4.2. Пусть ^ - отражение относительно S(a, г).
Следующие утверждения эквивалентны:
(i) S{a, г) и 5" "^ ортогональны;
(ii) (р(а*) = 0 (или, что эквивалентно, ^@)-а*);
(ш) ^{В'')-В\
Доказательство. Так как
^@)=д-г2д*=(|а|' -г^)а\
то ясно, что (i) эквивалентно (ii). Тот факт, что (iii) влечет (ii), есть
следствие инверсности точек л и л * относительно S^~^ (см. теорему 3.2.5).
Наконец, (i) и (ii) вместе с C.1.5) дают
г^ \х -а* I \а I -и-йг* I
и, следовательно,
,^„,„,.-<L:^, ,3.4..,
\х-а Г
что доказывает (iii).D
В качестве другого применения C.4.2) отметем тот факт, что если ^
сохраняет В^, то
l^(^)-^0)i' \х-у\^
(i-i^(x)i')(i-i^Cv)r) A~1^г)A-1;^г)
C.4.3)
это следует непосредственно из C.1.5) и C.4.2). Добавим к этому, что
C.4.3) имеет место и тогда, когда ^ есть отражение относительноР(д, 0);
тем самым C.4.3) справедливо для всех мебиусовых ^, сохраняющих 5".
Из инвариантности выражения C.4.3) следует также, что
lim = ■—-^— ,
У-^ X \У -Х\ 1 - U 1^
И это подтверждает еще раз инвариантность гиперболической метрики в В .
В двумерном случае удобно использовать комплексное сопряжение и
вместо X* -х1\х 1^ писать
Z* -1/?.
Часто встречающееся выражение | 1 - z w | (где z и w - комплексные
числа) может быть переписано в виде
II -zwi = Izl-lz* -vvl,
и это наводит на мысль ввесте обозначение
[i/,i;] =|i/|-|w* ~У| (I/, yeR").
40

Заметим, что
[и.и]'=|м|Ми1'+2(и-и) + 1 =|и-и|^ +(|u|^ -1)(|и|^ -1),
C.4.4)
откуда сразу же видно, что
[u,v] = [и, и].
Тождество C.4.4) показьшает также, что если | д | > 1, то
\х-а*\ _^
[х,а*]
В том и только в том случае, когда I х | = 1. Следовательно,
5"-^ =ЬсекЧ-^ =1
1 1 [х.а*]
Это - и-мерный BapiaHT уравнения
Z - W I
—I— =1
I — ZW \
единичного круга на комплексной плоскости.
В заключение отметим, что C.4.4) вместе с инвариантностью выражения
C.4.3) дают еще одну инвариантность:
A-1^(^I')A-1^0I') A-1х1')A--1>^1')
Упражнение 3.4
1. Покажите, что для всех xG В
C.4.5)
/1+UI\
Выведите отсюда, что если хну- любые две точки в В", то
(Используйте C.4.3).)
2. Пусть if и ф - отражения относительно сфер S{a, г) и 8ф, t) соответственно.
Покажите, что эти сферы ортогональны тоща и только тогда, когда <р(Ь) = ф{а).
3. Используйте упражнения 1 и 2 для установления следующего факта: если S{a, г)
ортогональна 5 @,1) и «^ обозначает отражение относительно 5(а, г), то
sh ~Р@»«^0)=1/г,
а также для всех х
\ip(x)-a \'\х-а\ =l/sh* ур@,(^0).
§ 3.5. Общий вид мёбиусова преобразования
Мы установим следующий результат о структуре мёбиусова
преобразования.
Теорема 3.5.1. Пусть ^ - мёбиусово преобразование.
A)Если ^{В'')^В'',то
41

где а есть отражение относительно некоторой сферы, ортогональной 5"~^
uA- ортогональная матрица.
(ii) Если v?( <») = **. то
где г>0, jcq^R" и А - ортогональная матрица.
(iii) Если <р(<»)^« го
^{х)-г{ах)А +JCo
Aipw некоторых r,XQ,A и некотором отражении о.
Замечание. Запись а{х)А означает а, произведенное вслед за .4;
матрица А цеиствует справа, так как мы используем строчечные векторы.
Доказательство. Пусть ip сохраняет В", а о обозначает отражение
относительно сферы 5(а, /•), где а = ^p'^i^^) и|л|^=1+г^.По
теореме 3.4.2 о (а значит, и (^а) сохраняет Д'' и а@) =л*, откуда следует
v?(a@)) = v?(j*) = 0
(поскольку ^p сохраняет инверсность точек). Таким образом, <f{ax) = хА,
Заменив лс на аде, получим A).
Если ip сохраняет «>, то при подходящем выборе преобразования ф вида
ф: х^(х-Хо)/г
отображение ф^p сохраняет «> и^'', следовательно, сохраняет начало. Теперь
(ii) следует из теоремы 3.4.1. Наконец, (iii) получается применением (ii)
к <ра при подходящем выборе отражения а, переводящего «> в ^^'Ч*^)- D
Случай (iii) приводит к понятию изометрической сферы. Предположим,
что ip(°^) Ф <», так что
^{х)-г(рх)А +дсо,
где а есть отражение относительно некоторой сферы 5(д, Г) и д = ^^'Ч"*)-
Согласно C.1.5)
п'^\х-у\
\ф)-^{у)\^г\о{х)-о{у)\^ — -,
\х-а\ Лу-а\
откуда видно, что \р действует как евклидова изометрия на сфере с
уравнением \х - а\=Хх, где fj = г yjrl При этом
\^{у)-^(х)\
lim
больше, равен или меньше 1 в зависимости от того, лежит ли д: внутри
сферы S{a, f 1), на самой сфере или вне ее. По этой причине 5(йг, г i) назьюается
изометрической сферой для ^.
Заметим, что если о обозначает отражение относительно изометрической
сферы для V?, то ^о фиксирует «> и тоже действует на изометрической
сфере как евклидова изометрия. В этом случае в теореме 3.5.1 (ii) должно
быть г = 1, т.е.
^о{^^-хА +л:о.
42

Таким образом, мы видим, что
ф) = фа(х),
где о есть- отражение относительно изометрической сферы, а i// — некоторая
евклидова изометрия.
В специальном случае, когда ^р сохраняет i5", отражение о в теореме 3.5.1
(О должно быть отражением относительно изометрической сферы для »^,
поскольку а и А действуют на этой сфере как евклидовы изометрии. Мы
видим, что в этом случае изометрическая сфера ортогональна 5"*"" ^.
Упражнение 3^
1. Покажите, что если ^ сохранит В", то евклидов радиус изометрической сферы
для ^ равен l/sh-~-р@,^0).
2. Покажите, что если S есть изометрическая сфера для ^, то ^(Г) есть
изометрическая сфера для if"^.
§ 3.6. Теоремы искажения
Здесь мы докажем две тонкие теоремы искажения ддя мёбиусовых
преобразований.
Теорема 3,6Л. Пусть ^ - мебиусово преобразование, действующее
в R", W р - гиперболическая метрика в Я"'*^^ Тогда
d(^x, ^у)
^^*Р. ~Гг Г—= expp(e„ + i,(pe„+i).
Замечание. Этот результат показывает, что ^ удовлевторяет
условию Липшица в R'' относительно хордовой метрики d; при этом
указывается наилучшая константа Липшица - в терминах действия ip в
гиперболическом пространстве (Я " ^ *, р).
Вторая теорема имеет своим следствием такой ф^кт: если семейство
мёбиусовых преобразований не принимает в области D некоторых двух
значений ^ и t) то это семейство равностепенно непрерьюно на компактных
подмножествах в D. Это позволяет, например, развивать теорию
нормальных семейств ддя GM(R'^). ^
Теорема 3.6.2. Пусть D есть область в R" д J и f - две различные
точки в R^ Если if € GM(R'') не принимает в D значений ^ w f, го для
всех хиуизО
ЪсЦх,у)
'^^"' ^^^ ^ diU)dix.bDyi^diy,bDfl- •
При этом константа 8 ~ наилучшая из возможных.
Доказательство теоремы 3.6.1. Применив композициюот-
ражения в плоскости x^^i = О и стереографической проекции, мы можем
считать, что ^ сохраняет 5" ^*; в этом случае нужно доказать, что
\<fx - ^ру \
sup „ — — = ехрр@,(рО).
43

По теореме 3.5.1 (i) евклидово искажение для ур такое же, как в случае
отражения а в изометрической сфере 5(д, г) для ^, Последнее же мак<31-
мально (как предельное значение) в точке сферы 5 ", ближайшей к центру
а сферы S(a,r). Отсюда в силу C.1.5) имеем
\^x-ipy\ г^ \а\л-\
sup = =
x.^G5" |JC->;| {\a\-\f \a\-\ -
(учтено, что 5 (д, г) ортогонально 5 " ; см. § 3.5). Далее, имеем
\а\ = |^-Ч«^I = 1/I^0)U
так что указанный supremum равен
1 + 1^Р"Ч0I
— = ехр р@, ^-^ 0) = ехр р{ф, 0). D
1 -к'ЧО)!
Доказательство теоремы 3.6.2. Предположим, что xyiy —
две различные точки в £>, а а и /3 — две различные точки, не лежащие в D.
По теореме 3.2.7 произведение
(^, а, У. /3] • {х, ft у, а]
двойных отношений инвариантно отнооттельно ^, Отсюда
\d{^x^^y^V ^ \ djocj) V Г 16 1 ^
1 d(x,y) \ " L ^(^,^/3) J L d(x, a)d(x, P)d(y, a)d(y, /3) J
[ d(^a,^)\ [ d{x. a) d(x. U) J [dO'.a) d(y. /J) J
64
d{^a,ip&fd{x. dD)d(y, dD)
Требуемое неравенство вытекает отсюда, если положить а = i^"'(?)> Д ~
Чтобы показать, что константа 8 не может быть уменьшена, рассмотрим
ip(z) = ^+ 2т, а в качестве/) возьмем область/) =С\ {«>,т). Очевидно, (р
не принимает значений <» и w в /), и если д: = - 2т, то
d{^x, ^у) 8
у-^х d{x, у) d(^, т) d{x, ЪО)
при W -^ «> *). D
Укажем вкратце применение теоремы 3.6.2 к понятию нормального
семейства. Семейство ^ функций из метрического пространства (ЛС d) в
метрическое пространство {Х\ d*) назьшается равностепенно
непрерывным на ЛГ, если для любого положительного б существует положительное 5
такое, что для всех f из f
d\fxjy)<e, если d{x,y)<b.
*) Последнее соотношение проверяется непосредственным подсчетом выражения
dupx, ^v)
с использованием C.1.3). -Примеч. пер.
dix,y)
44

Каждая функция из равностепенно непрерывного семейства сама
равномерно непрерывна на Х\ но равномерность имеет место и по отношению
к /, а также по отношению к паре (дс, у).
Семейство ^ называется нормальным в X, если из любой последова-
дельности fi, /2, . .., принадлежащей ^ , можно выбрать
подпоследовательность, равномерно сходящуюся на любом компактном подмножестве
в X, Имеет место общий результат (теорема Арцела - Асколи), который
связывает понятия равностепенной непрерывности и нормального
семейства. В интересующем нас контексте будет достаточно рассмотреть
следующий частный случай. ^
Предложение 3.6.3. Семейство ^ мёбиусовых преобразований в
(R", d) нормально в области DCR", если оно равностепенно непрерывно
на каждом компактном подмножестве в D.
Набросок доказательства. Интересующийся читатель может
найта доказательство теоремы Арцела — Асколи в учебной литературе.
Выберем последовательность Xi,X2,..., плотную в D. Если теперь
^\, ^2, - - - — последовательность из .f, то можно (ввиду компактности
R") найти подпоследовательность, сходящуюся в точке Xi, затем выбрать
из нее подпоследовательность, сходящуюся в Х2, и т.д. Далее
обычным путем строим подпоследовательность, принадлежащую всем
указанным выше; эта подпоследовательность сходится в каждой из
точек Xj .
Рассмотрим теперь компактное К CD и зададим е > 0. Мы можем
покрыть К конечным числом открытых шаров (относительно метрики d)
радиуса 5, где 5 отвечает е согласно определению равностепенной непрерьш-
ности. Выберем в каждом из шаров свою точку дсу; пустьXi, ^2,... , х^ -
выбранные точки (после перенумерации). Если^ Е К, то d(y, xj)< 5 для
некоторого / и, следовательно,
< le-^di^nXj^^rnXj).
При т, п> некоторого щ последний член не превосходит е (для всех
Xi,...,Xs); отсюда flf((p„v, ^niV) ^Зе длявсех v Е/С. п
Комбинируя теорему 3.6.2 с предложением 3.6.3, можно получить
следующий результат.
Теорема 3.6.4. Пусть D - область в R" w S^ - семейство
мёбиусовых преобразований. Допустим, что для каждого <р из ^существует пара
точек Oi^p,P^p в R", не являющихся значениями ^ в D, а также что
infd(a^J^) > 0.
Тогда f нормально в D.
Замечание. Неравенство теоремы 3.6.4 можно записать иначе:
л
inf [ хордовых диаметров (/?(R"\D)] > 0.
Доказательство теоремы 3.6.4. Применив теорему 3.6.2
с ? = ос^, f = j3^, находим, что f равностепенно непрерывно (действитель-
45

но, ^ удовлетворяет равномерному условию Липшица) на каждом
компактном подмножестве в D. П
В заключение сформулируем следующий результат, вытекающий из
теоремы 3.6.4.
Теорема 3.6.5. Пусть ^и^рг, - - мебиусовы преобразования, и
пусть для некоторых троек точек Xi, Х2, х^ и Vi, у2, Уз имеет место
<^fi(^/) **У/ (/ ~ 1» 2, 3). Тогда v?i, ^fii, ••• содержит
подпоследовательность, которая равномерно сходится на R" к мёбиусову преобразованию.
Доказательство. Удалив из последовательности <^i, <^2» •••
конечное число членов, можно считать, что для всех м, /, / (/ =^/)
di^n^i.^nXf) > -j^iyi.yj) > 0.
Отсюда по теореме 3.6.4 следует, что семейство {(^i, ^2^ ♦.) нормально
в каждом из множеств R" \{х/; ху >, а значит, и в их объединении R"*.
Таким образом, существует подпоследовательность из ^pj, сходящаяся
равномерно к некоторому <^ в R". По теореме 3.2.7 ^ также будет
мёбиусовым. П
Упражнение 3.6
1. Покажите, чю семейство ^ мёбиусовых преобразований нормально в R''тогда и
только тогда, когда
sup р(е„+1, (^e„+i) < 00,
гдее„+1 = @.0,.... I) еЯ""^*,
2. Докажите, что если два мёбиусовых преобразования совпадают на открытом
подмножестве D в R''. то они совпадают и на всем К'\ Вывех1ите отсюда, vro если
мебиусовы преобразования «^^ сходятся равномерно к I на некотором открытом
подмножестве в R'', то они сходятся равномерно к 1 на всем R^.
§ 3.7. Структура топологической группы
л
Существуют различные способы введения в GMCR") структуры
топологической группы. Простейший способ основан на том, что элементы
GM(R") являются отображениями компактного пространства R'' на себя и,
следовательно, равенство
D(^, I//) = sup{ J(^x, \{/Jc) U G R"}
л л
(где d есть хордовая метрика в R") задает метрику в GM(R"). Очевидно,
в этой метрике ^п '^ ^ тогда и только тогда, когда <^« -* <р
равномерно на R".
л
Теорема 3.7.1. GM(R") есть топологическая группа по отношению
к топологии, индуцированной метрикой D.
Доказательство. Из теоремы 3.6.1 следует, что для каждого ^
л
из GM(R'') существует положительная константа с{^) такая, что для
всех х^у
di^x,^y) < c(^)dix,y).
46

Очевидно также, что для всех ^\,^2 и i//
И, следовательно,
Это показывает, что отображение (<р,Ф) *^<рф непрерывно в (^иФх).
Отображение ф >-* ф'^ тоже непрерывно, поскольку
П(^-\ф-')=П{^''ф^)<ф''H(ф,^1П
л
Ту же самую топологию можно строить и другим путем. Группа GM(R")
сопряжена в GM(R"'*"^) группе GM(B"^^) всех мёбиусовых
преобразований, сохраняющих В^'^^ .Еспи^р G GM(R^) соответствует^рi € GM(B^^^)y
то (по определению хордовой метрики)
0(^,ф)^$ир{\^1Х-ф^х\ UG5").
л
Таким образом, мы можем вместо GM(R'') рассматривать GM(B^^^)
с метрикой (которую продолжаем обозначать D) равномерной сходимости
в смысле евклидовых расстояний между точками 5"; упомянутое
выше сопряжение является в этом случае изометрией между GM(R") и
GM(iJ''^*).
Для любого а Ф Ов В"^^ пусть а^ обозначает отражение относительно
сферы с центром а *, ортогональной 5"; таким образом, Oq сохраняет
В"^^ и Од (а) = 0. Далее, пусть Гд - отражение в плоскости (х-а) = 0.
Тогда, обозначая Т^ композицию Тд а^, найдем, что изометрия Т^ m2L'
p2i В'^^^ оставляет инвариантным евклидов диаметр, проходящий через д, и
^а (^ ) ~ 0. Назовем построенную таким путем изометрию Гд чистым
переносом; при а = О определяем Т^ как тождественное преобразование.
Лемма 3.7.2. (i ) Отображение ^^^р{0) группы GM(i5"+i) ^^
В"^^ непрерывно.
(ii ) Отображение а ^ Т^ есть гомеоморфизм В'^^^ на множество
чистых переносов.
Доказательство. Чтобы доказать (i ), допустим сначала, что для
некоторой последовательности </?i, <Р2, -. имеет место 0(^ртт /) < е.
Любой евклидов диаметр Lj шара В"^^ отображается посредством ^пг на
круговую дугу <рт (Lj) В В"^^ (ортогонапьную 5"), концы которой
отстоят от соответствующих концов Lj на расстоянии, не большем е. Отсюда
следует, что евклидов цилиндр Су с осью Lj и радиусом поперечного
сечения € содержит ifm (Lj). Тем самым
^n@)^r^^^(Lj)cnCj^{xeB''^^ I иКе).
/ /
Это показывает, что если ^^ -^ I равномерно на 5", то ^^^ @) -►0; более
того,
1^„@)| <D(^nJl
47

Предположим теперь, что ^т "^^ (поскольку GM(i5''^^) и В'^^^ -
метрические пространства, то достаточно рассмотреть сходимость для
последовательностей) . Тогда из теоремы 3.7.1 следует ^р'^^Рт "^^- Значит, по
доказанному выше, ^'^^т @) ** О, и тем самым ^Рт @) "^ *^@). Мы
доказали (i ).
Чтобы доказать (ii), заметим сначала, что отображение Т^ *^ Та^
непрерывно (теорема 3.7.1). Согласно (i) составное отображение
Та ь> Та' ^ г;40),
т.е. Та ^ д, тоже непрерывно.
Остается проверить, что непрерывно и отображение д и- Гд; иначе
говоря, если Ь-^ а, то Т^ -^Та равномерно на 5". Еали написать явные
формулы для \ра и Тд , то требуемая непрерывность будет получаться прямой,
хотя и скучной, оценкой; детали опускаем. D
Из теоремы 3.5.1 мы знаем, что любой элемент ^ из GME"^^)
однозначно представляется в виде
^{х)^{ОаХ)Л,
где д = ip-^ @) и Л есть ортогональная матрица {А действует после Оа и
пишется справа, поскольку мы используем строчные векторы).
Следовательно, мы можем записать представление (однозначное)
^{х)^{ТаХ)А^,
где A^p {z именно, Тд, выполненное вслед за Л) есть также ортогональная
матрица. Это представление устанавливает естественную биекцию между
0М(^"'^^) и 0(^+1) Xi5"^^:
Группа 0(/1 + 1) ортогональных матриц сама является метрическим
пространством. Во-первых, имеется естественная метрика
во-вторых, существует метрика D, индуцированная вложением 0(п -^ 1)
в GM(^"^^). В действительности эти метрики порождают одну и ту же
топологию, поскольку, если Л = (а^ ) ,В = (Ьц),С=' А - В и хЕ 5", то
п
D(A,B)^= sup \хА~хВ\^= sup S (^^it'i/+...+x„c„,)^ <
1x1=1 U I = i / = i
< sup S ( S xj)( S cl)=\A-B\^
I jr I = 1 7=1 1=1 1=1
и
|Л-Я|2 = S ( S c?.)= 1 )eiA-eiB\''<nD(A,B)\
1 = 1 7=1 1 = 1
Пространство 0(« + 1) X B'^'^^ теперь наследует естественную топологию
произведения, и мы имеем следующий результат.
48

Теорема 3.7.3. Биекция ^ «^ (Л^, а) есть гомеоморфизм GM(jB""^^)
наО(п^ 1) Х^"''^
Доказательство. Применяем теорему 3.7.1 и лемму 3.7.2.
Прежде всего, отображение а ^ Та непрерывно, следовательно, непрерывно и
отображение (Л^, а) »-> (Л^, Та). Далее, непрерывно отображение
(Л^, Та) *^ Л^Та = ^. В итоге отображение {А^, а) ^ ^ непрерывно.
Обратно, отображение ^ *-^ а (=<р~^@)) непрерывно, так же как и
а ^ Та, а *^ Т'а^ \ следовательно, непрерывно и отображение <^ ^^ Ту^
Отсюда следует, что композиция
^^ (^.Та')-^ ^Т-а' = А^
непрерывна; вслед за ней непрерывно и^^ {А^, а).П
Замечание. Теорема 3.7:3 означает просто, что топология на
GM(i5""^^), индуцированная с помощью биекции из 0(« + 1) X ^"^^
совпадает с топологией, индуцированной метрикой /). Так как GM(R")
изометрически тожд,ественно GM{B*^^^), то этот результат доставляет но-
л
вую конструкцию топологии, индуцированной в GM(R") метрикой D.
Для третьей и заключительной конструкции топологии нам потребуется
еще одна модель гиперболического пространства.
Определение 3.7.4. Гиперболическая модель Q есть
e={(xo,Xi,...,x„)GR"^» \q(x,x)=\,xo>0},
где
д(х,у)=ХоУо -(xivi +...+x„v„).
Заметим, что Q представляет собой одну из двух полостей гиперболоида
а именно ту, для которой Xq> \.
Пусть 7 ~ ( 7о, •, In) - гладкая кривая в Q. Таким образом, для всех t
7o@'=7i@'+-+7„@'+l,
что после дифференцирования дает
7о@7о@ = 71 @71 (О + ••• + 7„@7«@
(более кратко: из <7G,7) ~ 1 следует ^G,7) - 0)• Отсюда
,. .- /7171 •'•■■• + 7п7«У ,.2^ ^.2.^
< (S7/)(£7/)/7S -B7/) = -B7?)/75<0,
где суммирование распространяется на у = 1, ..., п. Заметим, что строгое
неравенство имеет место во всех случаях, кроме 7i ~ ••• "= .7w = 0; в этом
особом случае 7о также равно 0. Отсюда следует, что можно построить
метрику на Q с помощью линейного элемента
ds^'^dxl +...+Jx^ -dxl, C.7.1)
4. А. Бердон ^^

определяя расстояние между двумя точками в Q как минимум интеграла
по всем кривым, соединяющим эти точки. Индуцированная этой метрикой
топология совпадает с евклидовой топологией в Q. Мы будем теперь
сравнивать множество Q, снабженное указанной метрикой, и В"^^ с метрикой
Теорема 3.7.5. Отображение
<^'-ТГ-Т-^- C-7.2)
1 +JCo 1 +Хо /
есть изометрия Q с метрикой C.7.1) на В" с метрикой C.7.2).
Доказательство. Для краткости пишем
(-^^1 >'")"(тТ^'-'ТГ^)
\ 1+д:о l+ACo/
и обозначаем векторы, как обычно, д: и у. Если xG Q, то с помощью
вычисления находим
1>^1'=--^—7, C.7.3)
Хо + 1
поэтому о <|д^ I < 1 и F отображает Q в В^\
Непосредственный подсчет показывает, что отображение
\ 1-~\уг I ~\уг 1 -\уг I
является обратным для Ь\ и, таким образом, F есть биекция Q на i5".
Для того чтобы проверить, что F есть изометрия, заметим сначала, что
<^УГ\.. ...„42-
dXj ' Xfdxo
1 +Ло A +Хо)^
Используя эти равенства, а также C.7.3), находим
4dy\
A
-I;'!')' "''/ = ,11+^0 (i+xo)V
n
2{
n
2( S Xfdxi)dXo
= S dx?+ dxJ ; = Б dxj-dxl.a
50

Итак, мы вправе утверждать, что группа G(Q) изометрий в Q и группа
GM(B") изометрий в Z?" изоморфны, причем
Теперь наша цель будет заключаться в том, чтобы получить другую
характеристику группы G{Q),B,значит, и GM(B").
Теорема 3.7.6. Изометрий в Q -этов точности{пл-Х) X (/?+ 1)-л<дг-
рицы, которые сохраняют квадратичную форму q(x, х),а также
полупространство Xq > 0.
Доказательство. Пусть сначала А - матрица с указанными
свойствами. Так как сохраняется полупространство Xq > О и так как
qixA,xA)-q{x,x)- 1,
если хЕ Q^To А сохраняет Q. Далее, пусть 7 - произвольная кривая в Q.
Положим Г = 7^• Тогда Г - уА,следовательно,
^(Г,Г) = GG,7);
это означает, что у н уА имеют одну и ту же длину. Таким образом,
каждое такое А есть изометрия Q на себя.
Остается показать, что любое ^р из GM(B*^) представимо в виде
F(>1)F~\ где Л - ортогональная матрица. Для этой цели подсчитаем, как
действует F{A)F'^ на iff". Пусть Л = (д,7),где /,/ = О, 1,..., л/. В
очевидных обозначениях имеем
F-* А F
в частности,
(i;o,...,Uw) = {«'o "лМ.
т.е.
Используя C.7.4), из последнего равенства находим
A - 1>^ \^)vi = A + IJ 1^ Vo/ + 2{у,а,у + .. . ^Упап(У
Таким образом,
w ^/ _ i}'\y\'')vi
"^^ i+uo"*(i-I>'I') + (i-I-pI'k'
(i ^ 1;^ ?)aoj -^ 2iyxa\j -t- ... '^ v^g^/)
\y 1^(^00 - 1) + 2(.ViJio + ... ^Упапо) + Ко + 1)
Это дает явное выражение для F (Л ) F ~ ^.
Если Aq есть ортогональная п X л-матрица, то
/10... 0\
о
C.7.5)
А =
\
51

сохраняет q и условие Xq > 0. В этом случае C.7.5) сводится к w = .v/l о и,
таким образом, любая изометрия ъ В", сохраняющая начало, представима
в виде F{A)F''^,
Теперь остается лишь показать, что любое отражение относительно сферы
^{^f г), ортогональной 5"" *, имеет вид F(/l )F~^ Так как
ортогональные преобразования, по доказанному, имеют такой вид, то можно
ограничиться случаем f = E,0,..., 0). Более удобно вместо s ввести другой
положительный параметр t, rjxe-n
f = (c(r),0, ...,0), c(r) = ch//shr
и
г = 1 /shr,
условие ортогональности IП ^ = 1 + г ^, очевидно, выполняется.
Рассмотрим матрицу
sh2/ О ...
-chit О ...
О
^«-1
О О
очевидно, det Р = -1 и Р сохраняет квадратичную форму q(x, х), а также
полупространство Xq > 0. Действие у i-> w отображения F(A)F''^ на iff"
дается формулой C.7.5); знаменатель в правой части этой формулы
допускает следующее упрощение:
\У Р(лоо - l) + 2(jiflio +-.+;^nflno) + (^oo +1)=/
==2\y\hh4~2y,shBt)-^2ch4=2\y-^\^sh4=2 \у-П^/г^^
Теперь при / = 2,..., /i формула C.7.5) дает
а при / = 1
(l+|>4')shB0-2>^ichBr)
Wt = г г =
_sh{2t)[\y - Г I' + 1 - I n' + 2(>^ ■ ГI- 2.vi[2ch^f - 1]
2\y-r\^sh^t
\y -t\
Это доказывает, что F(y4)F"'есть
иначе говоря, отражение в 5(f, r)^0
52

Теорема 3.7.6 заставляет нас обратиться к группе 0A, п) всех матриц,
сохраняющих квадратичную форму q(x, х). Если Л G 0A, «), то
Q{x,x) = q(xA,xA),
C.7.6)
-In
В частности, det(y4)^ = 1.
Множество всех матриц А из О A, «), для которых Лоо > О, также
образует подгруппу. Обозначим это множество О * A,«) и положим
S04l,^ = S0(l,f7)n04l,^,
где S0A, п) есть подгруппа всех матриц из 0A, /7) с определителем 1.
Если матрицы АиВ таковы,что Лоо > 0^ ^оо > 0^ 2lC-AB, то
Ввиду C.7.6) имеем
(ЛОО» -^0 1,..., -ЙГо„) -(ЛОО» ^0 1» -t^Ofi) "= 1>
поэтому
Транспонируя обе части C.7.6) и заменяя А h2l В, получим
Таким образом, Соо > 0.
Наконец, обратная матрица для А(= (aij )) есть (JAJ) ^ поскольку
Л(Уу4У)^=у47у47 = У2=/.
Это показывает, что отображение А ^^ А'^ сохраняет условие Лоо > 0.
Итак, 0*A, п) действительно является группой. Заметим, что элементы
А Е 0A, п) оставляют инвариантным двуполостный гиперболоид
{х\ q(x, х) = 1); компонента Q инвариантна относительно А тогда и
только тогда, когда лоо > 0.
Мы показали выше, что изометрии в Q суть в точности элементы из
0*A, «) и что при изоморфизме А *^ F(A)F''^ группы 0*A, п) на
53

GM(iff") подгруппе S0*A, n) соответствуют в точности собственные*)
изометрии из GM(B^) (в доказательстве теоремы 3.7.6 каждому
отражению соответствует матрица с определителем -1). Мы можем теперь ввести
топологию в GM(i?") путем перенесения естественной топологии из
О* A,п) в GM(iff"). Нетрудно видеть, что сходимость матрицвО* {\,п)
в точности соответствует тогда равномерной сходимости на 5 """ *; таким
образом, указанная топология в СМ (В") совпадает с построенной ранее.
Возвращаясь к GM(R"), получаем следующий результат.
Теорема 3.7.7. Группа GM(R") с топологией равномерной сходи-
мости в хордовой метрике изоморфна, как топологическая группа, группе
0^1,/1+1).
В частности, если отождествить R^ с расширенной комплексной
плоскостью, то M(R^), как мы уже знаем, будет множество всех комплексных
мёбиусовых преобразований
JZ +Z>
Z ^ , ad ~ be Ф 0.
CZ -^d
Теперь мы видим, что оно изоморфно лоренцевой группе матриц,
сохраняющих квадратичную форму x^i-^x^-^x] — f ^, а также условие г > 0.
Упражнение 3.7
1. Покажите, что если мёбиусовы преобразования ^^ сохраняют i?""*** и если
fm "* ^ равномерно на некотором открытом подмножестве в S", то ^щ-»"/
равномерно иа Я"''"^ а также на S^. (Отождествите 5"с R" и рассмотрите сначала сходимость
на R".)
2. Пусть W = 2, так что Улежит в R^(cm. определение 3.7.4). Покажите, что
геодезические в В^, проходящие через начало, соответствуют при F и F"* линиям
пересечения Q с плоскостями, проходящими через начало в R'.
§ 3.8. Замечания
По поводу рассмотренных выше подходов к мебиусовым
преобразованиям в R'' см. [5, 101, ПО]; из более кратких работ см. [3, 33, 108].
Алгебраический подход, основанный на квадратичных формах, см. в A9).
Теорема 3.1.5 носит классический характер: см., например, [36, с. 133].
Инверсное произведение (§ 3.2) рассматривается в [7,21,22,110); его
можно извлечь из метрической теории гиперболической модели; см. [110].
Известно, что все (гладкие) конформные отображения в R" (или
в части R")**) являются мёбиусовыми преобразованиями; этот факт был
установлен впервые Лиувиллем и с тех пор подвергался обобщениям (в
сторону снижения гладкости). Дальнейшую информацию см. в [105, с. 15
и 43] и ссылках, указанных там; см. также [88].
*) То есть сохраняющие ориентацию. - Примеч. пер,
* ♦) В случае части R" это верно лишь при п > 2. -Примеч. пер.
54

ГЛАВА 4
КОМПЛЕКСНЫЕ МЁБИУСОВЫ ПРЕОБРАЗОВАНИЯ
§ 4.1. Представление с помощью кватернионов
В этой главе мы будем изучать действие мёбиусовых преобразований в
R^ и их продолжений в R^. Мы отождествляем R^ с комплексной
плоскостью С; алгебраическая структура С дает возможность выразить
действие мёбиусовых преобразований на алгебраическом языке.
Условимся идентифицировать точку (x,yyt)GR^ с кватернионом
x^yi^tj D.1.1)
(§ 2.4); это позволит нам записать продолжение Пуанкаре мёбйусова
преобразования с помощью кватернионов. Расширенную комплексную
л А
плоскость С = С U(«>) отождествляем с R . Тогда в терминах
кватернионов имеем
Я^ = {2 + г/I zGC, />0),
причем граница Я^ в R есть С.
Мёбиусовы преобразования обычно вводятся при первом знакомстве
как преобразования вида
az -^Ь
^(^)= -. DЛ.2)
CZ -^d
где а, b,c,d - комплексные числа, такие, что ad - be Ф 0. Последнее
условие гарантирует то, что g не есть константа; оно также гарантирует то, что с
nd не равны одновременно нулю. Таким образом, g определено на всем С,
если с = О, и на С\ l~d/c ), если сФО, Положим g(oo) = оо при с = О и
gi-dic) = «>, ^(оо) = а/с,
если сФО. После таких соглашений g становится взаимно однозначным
отображением С на себя. Добавим к этому, что g ~ есть отображение
подобного же вида.
Любое конечное произведение gi • • • g„ отображений указанного вида
можно подсчитать с помощью алгебраических действий; результирующее
отображение, скажем g, снова имеет такой же вид. Заметим, что эти
алгебраические действия относятся не ко всему множеству С, а лишь к
дополнению некоторого конечного множества iF, иначе говоря,^=^i • • • g„
определено на С\Е. Однако если действие каждого отображения вида D.1.2)
расширить, как было указано выше, то это отображение станет
непрерывным на всем С (имеется в виду непрерывность по отношению к xopJJOвoй
метрике); значит, g -gi - • • gn будет определено и непрерывно на С. Эти
факты (которые предоставляется проверить читателю) показывает, что
множество Ж отображений вида D.1.2) является группой по отношению
55

к обычной j^oMno3Hmffl функций. Теперь мы хотим показать, что^ «^
совпадает с M(R^), т.е. с совокупностью мёбиусовых преобразований С в себя,
сохраняющих ориентацию.
В случае раамерности 2 каждое из отражений C.1.1) и C.1.2) может
быть представлено в виде
az-^b
Z ^ , ad-ЬсФО.
cf-^d
Произведение любых двух таких отображений принадлежит -^ (снова
используем алгебру и ссылку на непрерывность), следовательно, M(R^ )СМ.
Предположим теперь, что gG Jt задано формулой D.1.2). Если с = 0,
то g есть или параллельный перенос (если a = d), или композиция переноса
с вращением и растяжением; а именно,
g(z) = а + (ald)(z - а)
при некотором а. В обоих случаях g есть композиция четного числа отра-
жений, и, значит, g EU (R^).
Пусть теперь сФО. Изометрическая окружность Qg для g есть(см. § 3.5)
смысл Qg состоит в том, что если z и н^принадлежат Qg, то
(ad- bc)(z-w)
\g(z)-g(w)\=^
= 12 - Wl.
(cz+6f)(cw+J)
Заметим, что этим же свойством обладает и отражение о относительно
Qg, а значит, и^ =ga.
Имеем
-d \ad-bc\(z-^dlc)
oiz)^' + :; —-
И, следовательно.
^(z)^ga(z)
aa{z)-^b ^ a[co(z)-^d] -(ad-bc)
ca(z)-^d c[co(z)-^d]
^(a/c)-(ulc\u \)(cz-^dX D.1.3)
где w = ЙГ J - be. Ho любое отображение вида
2 »^ a 2*+ j3, I a I = 1,
есть композиция нечетного числа отражений; таким образом, снова имеем
g G M(R^). Это показывает, что J^ = M(R^).
В дальнейшем из двух обозначений Jt и M(R^) предпочтение
отдается ^/^ . Кроме того, во многих рассуждениях, где, строго говоря,
алгебраические вычисления должны дополняться соображениями
непрерывности, мы будем такие соображения опускать.
Следующий результат хорошо известен. ^
Теорема 4.1.1. Пусть 21,22,23 - три различные точки в С w Wi, W2,
^3 - другие три различные точки. Тогда существует единственное мёбиусо-
56

во преобразование, которое переводит z 1,22,23 соответственно в Wj,
W2 , W3 .
Обратимся теперь к представлению преобразования g, задаваемого
D.1.2), в терминах кватернионов. Кватернион D.1.1) есть z -^ tj\ где z =
-x+iy. Покажем, что продолжение Пуанкаре для g дается формулой
(az + b)(cz -^d) + a'ct^ +\ad- be \ tj
Icz +cf r + Ic Ir
Заметим, что эта совпадает с D.1.2), если г = 0. Мы проверим
справедливость D.1.4) для случая с Ф 0; случай с = О проще, и для него
доказательство опускаем.
Продолжение Пуанкаре для о есть отражение относительно сферы в R^,
имеющей тот же центр и радиус*), что и Qg\ таким образом, действие а в
R^ задается формулой
-d \ad-bc\{z-^{dlc)'^tj)
o(z + ti) = — + г =
^ ^^ с |^|2 |z + (J/c) + r/P
-d \u I
= + {cz^d^ctj\
с cv
где
и-ad- be, и = Icz + J I^ + c^r^.
Удобно записать
a(z + r/) = zi +^/,
где, таким образом,
\u
\u\t
cz.^d^ -^ (cz^dl /1= — . D.1.5)
Продолжение Пуанкаре для g может быть найдено как композиция
продолжений для ^ и о. Продолжение для о указано выше, а продолжение
для (/? (как и для всякой евклидовой изометрии) задается формулой
^(w + 5/) = (/?(w) + sj\
Таким образом,
g(z + r/) = ^p(a(z+//)) = (^(zi +ri/)=«p(zi) + /i/.
Отсюда, используя D.1.3) и D.1.5), простейшим путем получаем D.1.4).
Если ad- bc>0, то действие ^ в R^ легко описать в терминах
алгебры кватернионов. В самом деле,
[aiz + tj) + b] • [c(z + tj) + J] "^ = {{az + b) + лГ/] • [{cz + cf) + ctj] "^ =
[{az + ^) + ati]'[{cz +d)- tcj] ^{az + b){cz + cf) + act'^ + {nd - bc)tj
HO полученное выражение есть в точности g (z + tj), если ad — be > 0.
*) Напомним, что само а есть отражение относительно Qg в R^ .-Примеч. пер.
57

Любое преобразование из GM(R^) тоже можно записать в терминах
кватернионов. Например, функция
/(W) = (W -f)iw +/ pj\ w = z + Г/, DЛ.6)
дает композицию отражений относительно дсз = О и 5(ез,\^л(где ез =/)•
Действительно, /отображает Я^ на Я^, а ограничение / на С есть просто
стереографическая проекция, рассмотренная в §3.1. Вообще же
/(z+r/) = (z + [r-l]/)B + [r + ll/) V= IzP+it-^lf '
что более просто записывается в виде
л
При г = о это дает формулу для стереографической проекции в С; отсюда
же видно, что /0) = 0.
Упражнение 4.1
1. Пустьg задано формулой D.1.2), где с =?ь 0. Докажите, что:
(i) с?1 (gz, а/с) -^ О, если d^ (г, ») -^ 0;
(ii) d^(gz,oo)-^0, если flfi(z, ~flf/c)-^0,
л
где d^ есть хордовая метрика в С.
2. Пусть g задано D.1.2) и D.1.4), причемла( - г>с = I. Покажите, что^ (/) =/
тогда и только тогда, когда
b ^
eSUB,C).
с:)'
3. Покажите, что продолжение Пуанкаре евклидовой изометрии g задается
формулой
j^(z+r/')=g(z) + rA
Опишите действие на Н^ евклидовой изометрии в С, оставляющей неподвижной
точку/ еЯ'.
4. Покажите, что отражение относительно 5(а,г), ае*^, может быть записано в
терминах кватернионов следующим образом:
W »-»• (aw -i- b){cw +d)'^,
где w = 2 + г/, w = z - tj.
5. Пусть g задано формулой D.1.2), где сФ^. Покажите, что для кватернионов
W и W 'вида x-^iy-^ tj имеет место равенство
^(н;) -g{w') = {ad- ^с)(н»с + с?)"Чн'- w ' ){cw' +с?)"*.
Выведите отсюда, что если ad - be - \у то g действует как евклидова изометрия на
сфере5(-с?/с,1/1с| ) в R^
§ 4.2. Представление с помощью матриц
Каждая 2Х2-матрица А из группы GLB,C) индуцирует отображение
gA ^ ^ по формуле
az -^Ь
cz-^d
az -^b I а b \
^л(г)=—г. где А=\^^ ^ j.
58

Мы обозначаем отображение А *^gj^ группы GLB, С) на Ji через Фи
говорим, что А представляет g^.
Элементарное вычисление показывает, что
gA(gB(z)) = gAB(zl zee,
где АВ есть матричное произведение. Таким образом, Фявляется
гомоморфизмом. Ядро К этого гомоморфизма состоит из таких А, для которых
az-^b
7 ~^
CZ +d
л
при любом zGC. Если AG К, то, полагая последовательно z =0, 1, «>,
найдем, что
\0 а/
Очевидно, всякая матрица такого вида принадлежит К; таким образом.
)ИДНО, ВСЯК]
Итак, J? изоморфна GLB, С)/К; выражаясь менее формально, ^^
определяет матрицу А с точностью до множителя, не равного нулю.
Нас будет в основном интересовать ограничение Ф на SLB, С). Ядро
этого ограничения есть
Ко =/:nSLB,C) ={/,-/};
каждое g из *^ представляется, таким образом, при помощи двух матриц
А и-А из SLB, С). Итак, JC изоморфна SLB, С)/{/, -/}.
Каждая из двух функций
Хт\А) II А f
det(y4) |det(>l)t
инвариантна относительно преобразования А *-^ \А, \ Ф О, Тем самым
возникают две индуцированные функции на *>^, а именно,
trace^(^) = —^ D.11)
и
\\А\\
\g\\ =
I det(y4)
|W2
где А есть любая из матриц, представляющих g. Мы будем часто сокращать
запись trace^ (g) до tr (^), а также писать | trace (g)| для обозначения
положительного квадратного корня из | tr^ (g) \. Эти функции имеют
важный геометрический смысл. Одну из них, а именно llg II, мы
рассмотрим сейчас, адругую, tr^(g), в § 4.3. Пока же заметим, что trace^(^)
инвариантна относительно сопряжения g и-Л^Л*^.
Теорема 4.2.1. Для любого g GM справедливо равенство
\\g\\^ = 2chp(A^/).
59

Доказательство. Запишем:
az -^b
g(z) = i ad - be = 1,
cz -^d
откуда в силу D.1.4) при z = О и г = 1
(bd + дс")+/
gU) =
2 . I ^ |2
|сГ+1^1
Согласно C.3.4),еслиfi =Zi +Г1/ и ^2=^2 +^2/, то
Ui-Z2l^'H(ri-r2)^ ^ ^ U .^ ^ ч
+ I = chp(fi,f2).
zrir2
Требуемый результат получается отсюда при Zi = О, fi = 1 (т.е. fi =/),
f 2 =^ (/), если использовать тождество
\bd -^ас 1^ +1 = |М+дс |2 + |д^^^с|^ =
= (\a\U\b\^)(\c\U\d\'). П
Ранее было показано (с помощью D.1.7)), что отображение
/(w) = (w - /) (w +/)"V; w = z + r/, D.2.2)
л
есть отражение относительно С, произведенное вслед за отражением
относительно 5(/, \/2), а также что это отображение преобразует
гиперболическую метрику в Я^ в метрику
2\dx\
ds =
1-UI^
в ^^. В качестве еще одной иллюстращ1и применения кватернионов
рассмотрим другое доказательство теоремы 4.2.1, в котором будет
участвовать 5^.
Другое доказательство. Пусть w = g (/) и f = /(w), так
что f € ^^. Учитьюая, что для кватернионов а и j3
\оф\ = \ос\ ' 1/31, |а"М = \ot\~\
будем иметь
|(a/ + Z))(c/ + d)"^-/||/|
in =
|(a/ + Z))(c/ + d)"' +/I
|(a/ + Z))-/(c/+d)| ' l(c/ + cf)"M l(Z>+c)+(a-?)/|
|(a/ + Z))+/(c/+J)| • l(c/ + cO'M l(*-c)+(a+J)/|
Следовательно,
_ 2 _ (Ь + с)(^+с) + (д-^)(д -cO
1 !
60
> 1 -
ll^ll'
II ^11'
(b-c
+ ibc-
+ (ad-
lib
-ad)-
-be)-
-c) +
Kbc-
¥(аТ-
(a + d
'^~ad)
=lc)
)(e+cO
_ II ^11'
II ^11'
-2
+ 2
D.2.3)

Обозначая обе инвариантные метрики - в Н^ и В^ - через р, можем
записать равенства
р(аШ)= р(/(/). ПяО))) = р(о,Г) = In 7Г]7[-
Условившись вместо p(j\g(j')) писать просто р, отсюда получим
2A + I f 1^)
2chp = ^^+^-^ = --^—:ттт^ = ii^ii'- п
1 -in'
Мы можем теперь еще раз рассмотреть теоремы 2.5.1 и 2.5.2 в свете
геометрического действия мёбиусовых преобразований. Пусть
I а b \ az -^Ъ
А=\ . , giz) =
CZ -^d
где Л G SLB, С), а / задано формулой D.2.2)
Теорема 4.2.2. Следующие утверждения эквивалентны:
(i)^GSUB,C);
(И) gU) = /;
(iii) II ^11' = 2;
(iv) fgf^ есть линейное ортогональное преобразование;
л
(v) g есть изометрия хордового метрического пространства (C,d),
Доказательство. Эквивалентность (ii) и (iii) есть прямое
следствие теоремы 4.2.1. Так как А G SLB, С), имеем М ||^ = || ^ Р,
и эквивалентность (i) и (iii) есть прямое следствие теоремы 2.5.1.
Далее, (ii) эквивалентно
fgf-\0) = о,
а это в силу теоремы 3.4.1 эквивалентно (iv).
Наконец, эквивалентность (i) и (v) устанавливается следующим
образом. Для того чтобы g являлось изометрией, необходимо и достаточно,
чтобы для всех z
1^4^I ^ _1
1 + U(r)l' l + jzj^ •
Следовательно, (v) имеет место тогда и только тогда, когда для всех z
l + U |'=Uz+bj^ + kz+d|'
или, что эквивалентно,
1 + к l' = (kl' + k|^)|z|^ + (|b|' + |J|') + 2Re(a^+cJJ.
Но это в свою очередь эквивалентно
UI^ + kl^ = kl^ + UI^ = l
и _ _
аЬ -^cd = 0.
Эти условия в свою очередь эквивалентны Л ^Л = /, т.е. (i). П
6i

Теорема 4.2.2, в частности, показывает, что классические группы
симметрии правильных многогранников (вписанных в В^) соответствуют
конечным подгруппам группы SUB, С). Действительно, каждое
вращение В^ представляется мёбиусовым преобразованием g, отвечающим
матрице из SUB, С), и, значит, группы симметрии реализуются как
конечные мёбиусовы группы.
Упражнение 4.2
1. Покажите, что если gif) -w + sf, то
11^11* *(| wl* +s' +\)ls.
2. Пусть подгруппа Г группы SL B, С) представляет по дгру ппу G группы .i^.
Покажите, что если Г дискретна, то для каждого компактного подмножества К ъ Н^
соотношение g ij) е К имеет место лишь для конечного числа элементов g из G.
3. Покажите, что если матрица Л из SL B, С) имеет порядок 2, то Л = / или А =
= -/. Вьгаедите отсюда, что если В есть матрица из SL B, С), представляющая мёбиусо-
во преобразование порядка 2, то В имеет порядок 4.
4. Покажите, что ^: z »-♦ -г не представляется никакой матрицей из SLB, R).
Проверьте, что матрицы из SL B, R) представляют лишь такие мёбиусовы
преобразования, которые сохраняют расширенную действительную ось и верхнюю
полуплоскость в С.
5. Покажите, что преобразования
3z - 1 22-1
Z ♦->
72-2 72 - 3 '
22-1 2 32-1
32 - 2 ' 52 - 1 ' 82
образуют группу. Покажите, что в Я^ существует единственная точка w ■»■ tj\
оставляемая на месте каждым элементом этой группы, и опишите соответствующую группу
вращений в R*.
§ 4.3. Неподвижные точки и сопряженные классы
Мы начинаем с рассмотрения отношений между некоторыми
алгебраическими понятиями и геометрическими идеями, касающимися
неподвижных точек. Вначале обсуждение будет носить совершенно общий характер,
так как нет смысла ограничивать его областью мёбиусовых
преобразований (наоборот, такое ограничение могло бы даже отвлечь читателя от
восприятия центральных идей).
Пусть X - некоторое непустое множество. Перестановка множества X
есть взаимно однозначное отображение X на себя; например, отражение
А
относительно сферы есть перестановка R , Неподвижные точки
перестановки ^ — это такие точки х Е X, которые удовлетворяют условию g (х) = х.
Если X — любая из этих точек, то мы говорим, что g оставляет
неподвижной (ти фиксирует) точку х.
Пусть G - некоторая группа перестановок в X. Стабилизатором точки
X Е X {в G) называется подгруппа G^ группы G, определяемая равенством
G^ ={gEG\g(x) = х}.
Наконец, орбитой (или G-орбитой) точки х называется подмножество
G (х) в X, определяемое следующим образом:
G{x)^{g(x)e XlgEG}.
62

Отметим, что существует естественное взаимно однозначное
соответствие между множеством G/Gx смежных классов*) и орбитой G(x). Если
g и h - элементы из G, то h(x) -g(x) тогда и только тогда, когда hGx =
= gGx\ это показывает, что fiGx ^h(x) есть взаимно однозначное
отображение GfGx на G{x). Из сказанного также следует, что смежный класс
hGx представляет собой совокупность всех элементов g Е: G, которые
отображают хвИ(х).
Две пЬдгруппы Go и Gi называются сопряженными, если для
некоторого А из G имеем Go = hGih'^. Так как g фиксирует х в том и только
в том случае, когда hgh '^ фиксирует h(x), мы видим, что
Gh(x) = hGxh" .
Таким образом, если х и у имеют одну и ту же орбиту, то Gx и Gy
сопряжены.
Сопряженные подгруппы, конечно, изоморфны; такие подгруппы с
геометрической точки зрения как бы одинаковы. Последнее
обстоятельство верно, однако не для всяких изоморфных подгрупп. Например, группа,
порожденная z •-> z + 1, и группа, порожденная z *-► 3z, изоморфны, но
характер их геометрического действия различен**). Нас будет
интересовать прежде всего геометрическое действие подгруппы из*^; вообще,
мы будем стремиться устанавливать результаты в форме, инвариантной
относительно сопряжения.
Пусть теперь Fg будет множество всех неподвижных точек для g. Если
gh = hg, то
giFn) = F^, h{Fg) = Fg. D.3.1)
Действительно, если x E F/,, то
h{g{x))^gQi{x))^g{x).
т.е. g{x) G Fy^\ значит, g{Fh) С F/,. Заменяя^ на^""\ получимg(F,,) =
= Fh. Подобное же рассуждение дает h{Fg) = Fg. Позже мы увидим
(теорема 4.3.6), что в случае, когда G есть группа мёбиусовых
преобразований, справедливо и обратное утверждение.
Вернемся теперь к изучению преобразований из *;^. В своем действии
в С мебиусово преобразование g имеет либо одну неподвижную точку,
либо две, либо является тождественным. Это дает некоторую
классификацию преобразований из Ji(; мы можем, однако, получить более подроб-
л ^
ную классификацию, основываясь на неподвижных точках в R***)l Эта
новая классификация инвариантна относительно сопряжения; таким
образом, имеется еще более подробная классификация, а именно,
классификация по сопряженным классам. Один из наших главных результатов
состоит в том, что функция tr^, определенная посредством D.2.1),
параметризует сопряженные классы.
*)Имеются в вицу левые смежные классы hGx. ~ Примеч. пер.
**) Это видно из того, что для первой группы имеется лишь одиа неподвимсная
точка (а именно, «»), для второй - две (О и <»). - Примеч. пер
***) Имеются в виду неподвижные точки преобразования, являющегося
продолжением Пуанкаре для g; см., например, D.1.4). - Примеч. пер.
63

Удобно ввести некоторые нормализованные мёбиусовы
преобразования. Для любого к Ф О из С мы определяем т^^ с помощью формул
mjciz) = kz (если кФ I)
и
mi(z) = Z+ 1.
Эти преобразования будем называть стандартными формами. Для
использования в будущем заметим, что при всех к (включая А: = 1)
tr\m^) = А: +—+ 2. D.3.2)
к
л
Если ^(=5^ /) - мебиусово преобразование*), то либо g имеет в С ровно
две неподвижные точки а и jS, либо одну ос; в последнем случае мы
выбираем некоторую точку jS, отличную от а. Пусть теперь h будет
мебиусово преобразование, для которого
h(a) = - Иф) = О, h(gm = 1, если g(P) Ф р.
Тогда
[О, если g(p) = 13,
hgh'\o6) = ОС, hgh-'{0) =
ll, если g(fi) Ф p.
Если g фиксирует а и jS, то hgh'^ фиксирует О и «»; следовательно,
hgh'^ = m^ для некоторого к Ф \. Если ^ фиксирует только а, то Л^Л"^
фиксирует только «>, причем hgh~^@) = 1; значит, Л^Л~^ = Wi. Это
показывает, что каждое мебиусово преобразование g(c^ Г) сопряжено одной
из стандартных форм т^. Это обстоятельство позволяет дать простое
доказательство следующего результата.
Теорема 4.3.1. Пусть fug — мёбиусовы преобразования, отличные
от тождественного. Тогда fug сопряжены в том и только в том случае,
когда tr^ (/) = tr^ {g).
Для обозначения сопряженности ъМ мы используем дальше символ '^.
Доказательство. Ранее уже отмечалось (см. § 4.2), что если
/-^, ioXr\f)^tx\g).
Предположим теперь, что tr^ (/) = tr^ {g). Мы знаем, что/и^
сопряжены каждое в отдельности одной из стандартных форм; скажем, f ^ гпр
lAg ^ тд.В этом случае
и\тр) = tr\f) = U^(g) = tr^(m^),
В силу D.3.2) это означает, что р = q или р - \lq. Теперь заметим, что
^р^'^х/р'у это тривиально прир= 1,если жер=7^ 1,то
hniph'^ = mi/p, где h(z) = -l/z.
Итак, f '^ mp,g -^ гпд и (так какp-q илир^" Uq) гпр'^тд. Поскольку
сопряжение есть отношение эквивалентности, отсюда следует f '^ g.
Доказательство окончено. П
*) Здесь и в дальнейшем под мёбиусовым преобразованием понимается
преобразование из чЖ, т.е. сохраняющее ориентацию мебиусово преобразование в R' (или,
что то же самое, преобразование вида D.1.2) в С). - Примеч. пер.
64

' Теперь мы будем классифицировать мёбиусовы преобразования в
терминах их неподвижных точек в R^. Естественно начать с изучения
неподвижных точек в случае стандартных форм. Действие т^: в R^ в силу
DЛ .4) есть
rrikiz i-tf) = kzi-lkl tj (кФ 1);
mi(z-\-tj) = z + 1 +r/;
это позволяет найти неподвижные точки для каждого т^ .^Очевидно:
(i) тпх фиксирует «'j но не фиксирует других точек в R^;
(ii) m^, где I А: I Ф 1, фиксирует О и оо, но не фиксирует других точек
bR^
(iii) в случае т^, где I А: | -\,кФ 1, множество неподвижных точек есть
{r/UGR}U{oo}.
Определение 4.3.2. Пусть g(^I) - м'ёбиусово преобразование.
Говорим, что:
(i) g является параболическим, если g имеет лишь одну
неподвижную точку в С (или, что эквивалентно,^ ^ ^i);
(ii) g является локсодромическим, если g имеет ровно две
неподвижные точки в R^ (или, что эквивалентно,^ ^ т^с для некоторого к,\к\ Ф\);
(iii) g является эллиптическим, если g имеет бесконечное множество
неподвижных точек в R (или, что эквивалентно, g ^ т^ для
некоторого А:, | А: | = 1,/:^ 1)*).
Класс всех локсодромических преобразований удобно разбить на два
подкласса по признаку существования или отсутствия инвариантного
круга.
Определение 4.3.3. Пусть g - локсодромическое
преобразование. Мы скажем, что ^ является гиперболическим, если^(/>) =Z) для не-
л
которого открытого круга (или полуплоскости) /> в С; в противном
случае будем называть g строго локсодромическим.
Заметим, что эта терминология не является универсальной; некоторые
авторы употребляют термин "локсодромическое" в смысле нашего
"строго локсодромического".
Данная выше классификация мёбиусовых преобразований инвариантна
относительно сопряжения. Учитывая теорему 4.3.1, мы должны научиться
соотносить эту классификацию со значением tr^ {g). В этом и состоит
наш следуюшрий результат.
Теорема 4.3.4. Пусть g(^I) - мёбиусово преобразование.
(i) g является параболическим тогда и только тогда, когда tr^ (g) = 4;
(ii) g является эллиптическим тогда и только тогда, когда tr^ (g) G
€ [0.4);
*) Поскольку каждое g действует в Н^ как гиперболическая изометрия, то имеет
смысл указать содержание введенных терминов с точки зрения трехмерной
гиперболической геометрии (для читателя, знакомого с этой геометрией). Параболич-
ность g означает, что g есть ори сферический сдвиг, эллиптичность -^ что g есть
вращение вокруг некоторой прямой, локсодромичность - что ^ есть винтовое
вращение вокруг прямой. Этими видами изометрий исчерпываются все собственные (т.е.
сохраняющие ориентацию) гиперболические изометрий. - Примеч. пер.
5. А. Бердон ^5

(iii) g является гиперболическим тогда и только тогда, когда tr^ (jg) €
еD,-);
(iv) g является строго локсодромическим тогда и только тогда, когда
tr'(^)^@,oo).
Доказательство. Докажем (i), (ii) и (iii); отсюда
автоматически будет следовать (iv).
Пусть g сопряжено со стандартной формой гпр, тогда, согласно D.3.2),
1
tr^(s) = Р + — + 2. D.3.3)
Р
Напомним, что в этом случае g сопряжено с mj/р и не сопряжено с
остальными Шд .
Если g - параболическое, то g сопряжено с mi; тогда р = 1 и tr^ (g^) = 4.
Обратно, если tr^ (^) = 4, то р = 1 и^ - параболическое. Этим доказано (i).
Если g - эллиптическое, то р = е^^, где в - действительное и cos ^ =?^ 1.
Тогда
U^(g) = 2 + 2cos(9, D.3.4)
откуда следует tr^ (g) G [О, 4). Обратно, если tr^ (g) € [О, 4), то, записав
tr^ (g) в виде D.3.4), где cos 9 =^ 1, мы найдем, что D.3.3) имеет решения
р = е'^, е"'^. Следовательно, |р|=1,р=^1и^- эллиптическое. Этим
доказано (ii).
Наконец, докажем (iii). Предположим сначала, что tr^ (g) Е D, «>).
Тогда D.3.3)" имеет решения р - к. Ilk, где ^ > 0. Так как оба решения
положительны, Шр обязательно сохраняет верхнюю полуплоскость и,
следовательно, является гиперболическим. Это означает, что и g является
гиперболическим. Обратно, допустим, что g, а значит, и Шр -
гиперболическое, и пусть D - круг, инвариантный относительно Шр. Каждое z из D
при действии степеней Шр остается в Z), т.е.
{p"z|/2€Z} С D.
Поскольку I р I =?^ 1, отсюда следует, что О и «» принадлежат замыканию D.
То же самое соображение, но примененное кz, лежащему вне/), позволяет
заключить, что О и «» принадлежат границе D. Следовательно, D есть
полуплоскость. Но в таком случае из инвариантности D относительно Шр
следует р > О, а значит, и tr^ (g) > 4. П
Установим теперь три полезных результата, относящихся к
неподвижным точкам. Предварительно напомним, что коммутатор элементов g и
h в произвольной группе есть элемент
[g.h] =ghg-'h-' -g(hg^'h'').
В частности, если А и В - две матрицы из SLB, С), представляющие мёби-
усовы преобразования^ и h, то можно найти число
tr[^, h] = U(ABA^'B^'),
которое определено однозначно, несмотря на то, что сами матрицы А и В
определяются с точностью до множителя —1.
Теорема 4.3.5. (i) Два мёбиусовых преобразования g и h тогда
и только тогда имеют общую неподвижную точку в С, когда tr[g, /г] = 2.
66

(ii) Если g и h (отличные от /) имеют в С общую неподвижную точку,
то или
(а) [gy'h] =/, так что gh=hg и Fg =F|„ или
(б) [g, h] - параболическое, ghi^hg и Fg^F^.
Доказательство. Утверждение (i) носит инвариантный
(относительно сопряжения) характер, поэтому мы можем предположить, в
терминах матриц из SLB, С), что
\ О dr ^ \ 7 S /
g
Вычисление дает
U[g. Л] = 2 + Ь^'у^ + Ь(а - d)y(a ^д)-(а- dfyfi.
Если g и h имеют общую неподвижную точку, то, полагая последнюю
равной о®, будем иметь 7 = О и tr [g, Л] = 2.
Обратно, допустим, что tr[g, Л] =2. Если g параболично, то можно
считать а - d = 1,Ь - 0; тогда 7 = О и, значит, g и h фиксируют «>. Если g
не параболично, мы можем добиться, чтобы было ^ = О, тогдаad-l, причем
а Ф d\ ь этом случае yfi = О, следовательно, h фиксирует одну из точек О
иди «>. Этим доказано (i).
Чтобы доказать (ii), предположим, что g и h выбраны как выше с
7 = 0. В этом случае [g, Л] = / тогда и только тогда, когда р(а - d) =
= Ь(а~д); но это условие эквивалентно Fg = Ffj (рассмотрите случаи
a = d, ai=d).
Для получения второй возможности в (ii) предположим, что общая
неподвижная точка для g и h есть <», так что g и h имеют вид z^az i- b.
Отображение g ^ а является гомоморфюмом группы {g, h) в группу*)
С\{0}. Так как последняя группа абелева, то любой коммутатор
принадлежит ядру гомоморфизма и, значит, представляет собой параллельный
перенос (или 7). П
Доказанная теорема относится, в частности, ко всем евклидовым
подобиям, т.е. к отображениям х и- г^р(х) + дсо, где ^ есть евклидова изо-
метрия. В действительности теорема 4.3.5 и есть как раз теорема о
евклидовых подобиях, но установленная в форме, инвариантной относительно
сопряжения.
Теорема 4.3.6. Пусть g и h - мебиусовы преобразования,
отличные от 1. Следующие утверждения эквивалентны:
A) hg=gh\
(n)h(Fg)^Fg',g(F,)=F^;
(iii) или Fg = F^, или g и h имеют общую неподвижную точку в Н^,
причем g^ =/г^ =(ghf =/ и FgOFfj Фф,
Доказательство. Прежде всего, D.3.1) показывает, что (i)
влечет (ii). Доказательство того, что (iii) влечет (i), очевидно. Если
^^ = ^л, то ^ и /г имеют общую неподвижную точку, и тогда по теореме
D.3.5) [g^] =/, т.е. gh-hg. Другая альтернатива, предлагаемая в (iii),
также дает gh = hg, ибо
^g = hgighgh) = gh:
таким образом, (iii) влечет (i).
*^<g,h) обозначает подгруппу, порожденную элементами g и И. - Примеч. пер.
5* 67

Остается показать, что (ii) влечет (iii). Предположим, что имеет место
(ii), но Fg ^Ffj. Это означает, что существует точка w, принадлежащая
только одному из множеств Fg,F^\ пусть w € Fg\Fy^^ так что ^(w) = w
и Н{м;)Фм;. Согласно (ii) Fg содержит w, /i(w), ^^(w), и так как эти три
точки не могут быть различными (в противном случае ^ = У), мы должны
иметь /2^(w) = W. Это показывает, что Fg содержит ровно две точки, и эти
точки переводятся одна в другую посредством h. Отсюда также следует,
что FgnFfJ=ф.
Воспользовавшись сопряжением, можно принять Fg ={0, «>};
следовательно,
g(z) = az, h(z) = b/z
при некоторых а и b. Отсюда h^ = (ghf == /. Кроме того, так как g(Fh) = F^,
мы должны иметь g{\fb) = - sfb, откуда д = ~1 w g^ =/. Наконец, g и
h имеют общую неподвижную точку в Н^у г. именно, \Ь l^^^f; это
непосредственно следует из D.1.4). П
Теорема 4.3.5 относилась к двум преобразованиям с общей
неподвижной точкой в С; следующий результат касается неподвижной точки в Н^.
Теорема 4.3.7. Подгруппа G группы Ж тогда и только тогда состоит
из одних лишь эллиптических элементов (и Г), когда все элементы из G
имеют общую неподвижную,точку в Н^.
Из определения 4,3.2 следует, что если элемент ^ (т^ 7) имеет конечный
порядок, то g обязательно эллиптический. Так как каждый элемент
конечной группы имеет конечный порядок, из теоремы 4.3.7 вытекает
Следствие. Элементы конечной подгруппы группы Ж всегда имеют
общую неподвижную точку в Н^.
Чтобы понять геометрический смысл доказательства теоремы, удобно
ввести понятие оси эллиптического элемента^. Если а и jS - неподвижные
л
точки элемента ^ в С, то (как легко показать, используя сопряжение с
нормальной формой) неподвижные точки ^ в R^ - это точки, лежащие
на окружности Г, ортогональной С и проходящей через а и /?. Ось Ag
элемента g есть евклидова полуокружность Г П Я^ (геодезическая в
гиперболической геометрии Я^). Условие, что два эллиптических элемента g
и h имеют общую неподвижную точку в Я^, есть просто условие
пересечения или совпадения осей Ag и А^ в Я^. Заметим, что необходимым
и достаточным условием этого является принадлежность двух пар
неподвижных точек - для g и для h — одной прямой или окружности и раз-
деленность этих пар *).
Доказательство теоремы 4.3.7 будет носить алгебраический характер
(геометрия присутствует на втором плане), но в любом случае мы будем
подчеркивать геометрические аспекты. Сначала установим некоторый
предварительный результат.
Лемма 4.3.8. Пусть элементы g, h и gh эллиптические. Тогда
неподвижные точки g и h в С лежат на одной прямой или окружности. Если,
кроме того, [g, h] тоже является эллиптически^ или /, то оси Ag и Aft
пересекаются или совпадают в Н^.
*) Или совпадение этих пар. - Примеч. пер.
68

Доказательство. Если g nh имеют общую неподвижную точку
в С, то F^ и F^, содержит самое большее три точки; эти точки лежат,
конечно, на одной прямой или окружности. Если, кроме того, [g,h]
является эллиптическим или /, то по теореме 4.3.5 Fg = F^ и, следовательно,
Ag = Aft', таким образом, g и h имеют бесконечное множество общих
неподвижных точек в Н^.
Предположим теперь, что g и h не имеют общих неподвижных точек
в С. Применив сопряжение, можно считать
az -^ b
giz) = a^z, h(z) = —— ,
cz -i-d
где a^ T^ 1, I a I = 1, и ad ~bc-\. Имеем
u\h) = {a +fi?)^ Xx''{gh) = (OLa-^OLdf\
no теореме 4.3.4 числа
\ = a^d, IX = aa^Oid
должны находиться в интервале^ (-2, 2). Разрешив последние равенства
относительно and, получим a-d\ итак,
J = W +/i;, d - и +/l>.
Неподвижные точки для h суть
Тс
(используем ad — be ^ \)\ подставляя и + iv вместо а и и - iv вместо
d, зага1шем эти точки:
Так как \а -^ d \ < 2, то w^ < 1; отсюда видно, что точки ^ к f лежат на
прямой L, проходящей через начало. Тем самым неподвижные точки для
g иН лежат на одной прямой.
Полагая а - е^^ и производя необходимые вычисления (при этом
следует учесть ad-bc-l), найдем
tr'U,/i] = 4[l+(|(z|2 -l)sin'9f.
При дополнительном предположении об эллиптичности \g, h\ (а также
в случае \g,h] =7) будем иметь | а | < 1, поскольку в этом случае
0< t^\[g.h]) < 4.
Если U I = 1, то w^ + 1>^ = 1 и одна из точек 5, f есть 0. Этот случай
исключается, так как мы предположили, что ^ и Л не имеют общих неподвижных
точек. Следовательно, | а | < 1 и
A_м2I/2 у ^
(имеется в виду положительное значение левой части). Это означает, что
^ = /5/с, f = it 1с,
где 5 и Г - действительные н st < 0. Таким образом, начало (неподвижная
69

точка для g) лежит между { и f и, следовательно, оси Ag иА^ пересекают-
cявЯ^D
Мы используем теперь лемму 4.3.8, чтобы получить информацию о
подгруппе группы-^вида (g, h) в случае, когда она состоит только
из эллиптических элементов и /. Прежде всего,по лемме 4.3.8 g ик имеют
в Н^ общую неподвижн)ао точку, скажем f. Каждый элемент из {g, h),
разумеется, фиксирует точку f. Перейдя к сопряженной группе, мы
можем предположить, что^ и Л сохраняют5^ и что f = 0.
Лемма 4.3.9. Пусть g uh~ мебиусовы преобразования {ФI),
сохраняющие В^ и оставляющие неподвижным начало. Тогда:
(i) все элементы из {g, h > имеют одну и ту же ось и одни и те же
неподвижные ючки или
(и) существует такой элемент f из {g, h >, что три оси Ag, А^» Af не
комп^тнарны.
Приняв на время справедливость леммы 4.3.9, закончим доказательство
теоремы 4.3.7.
Доказательство теоремы 4.3.7. Заключение теоремы,
очевидно, справедливо, если все эллиптические' элементы из G имеют одну и ту
же ось. Поэтому предположим, что G содержит элементы ^ и Л с
различными осями. По лемме 4.3.8 g иН имеют в Я^ общую неподвижную точку.
Перейдя к сопряженной группе, мы можем считать, что G действует ъВ^
и, таким образом, применима лемма 4.3.9. По предположению, (i) не
выполняется; значит, имеет место случай (ii) леммы 4.3.9.
Каждый элемент из <^, h) фиксирует начало, так что оси Ag, Ау^, Af
суть евклидовы диаметры В^\ при этом, согласно (ii), эти оси не
компланарны. Рассмотрим какой-либо элемент q ^ G, q Ф I. Мы постараемся
доказать, что q{0) = О, и этим завершим доказательство. По лемме 4.3.8
неподвижные точки для q и g лежат на одной прямой или окружности в
ЪВ^, а значит, лежат в некоторрй евклидовой плоскости П^. Так как П^
содержит конщ>1 диаметра Л^, то О G П^; тем самым и Л^ Е П^. Подобные
же рассуждения можно применить и к П^,, П^; получим
О G П^ П Пл П П/-
и
Ag С Wg П Пуг Г\ Щ. D.3.5)
Плоскости П^, П^,, Щ не могут все совпадать (в противном случае Ag,
Afj, Af оказались бы компланарны), поэтому пересечение
П^ П Пл П П^
есть или {О}, или диаметр ВвВ^ .Из D.3.5) видно, что имеет место второй
случай и Ад =D.B частности, О G Л^, следовательно, q @) = 0. П
Доказательство леммы 4.3.9. Каждый элемент из <^, Л >
фиксирует начало и, значит, является эллиптическим (или /). Для каждого
такого эллиптического элемента / пусть Af обозначает его ось (множество
неподвижных точек) в В^. Заметим, что по условию теоремы Л^ иАц -
евклидовы диаметры в В^.
Предположим, что (i) не выполняется, так что Л^ и >1|, - различные
диаметры. Тогда они определяют евклидову плоскость П. Обозначим
70

через D диаметр Л^ перпендикулярный П. Если h{Ag) не лежит в П, то,
взяв / = hgh'^, будем иметь (li), так как в этом случае Af = h{Ag).
Подобное же построение / возможно, если g{Ay^) не лежит в П. Попытки
построить / будут безуспешны лишь в том случае, если g vi h
сохраняют П. В этом случае g и h - вращения порядка 2. Каждое из них меняет
местами концы диаметра />, и, следовательно, (ii) будет выполняться,
если взять/=^Л. П
Мы закончим этот параграф рассмотрением степеней мёбиусова
преобразования.
Если^ парабодично, то при некотором h
hgh'^ ^ zi-t (t Ф 0),
следовательно,
hg^h^'(z) = z^nt
и
g"(z) = h-'ihzi-nt).
Заметим, что hg"h'\z) -> » при п->оо ддя каждого z G С; таким образом,
в случае произвольного параболического g
g4z) -^ ос,
где а - некоторая точка, неподвижная относительно^.
Если g не параболично, то g имеет две неподвижные точки, скажем а
и ]3; при некотором h
hgh'\z) ^ tz {t Ф 0,1),
следовательно,
hg"h^\z) = r"z.
Отсюда видно, что если g локсодромично {\t\Ф\)lл если z отлично от а
и 13, то образы g^{z) все различны и сходятся к а или 13. Если, скажем,
^"(z) -^ 01 при п ->+«», то 0L называется притягивающей неподвижной точкой
для g, в то время как 13 называется отталкивающей неподвижной точкой.
В этом случае^"(z) -^ol при/2~>'+» для всех z, отличных от 13*).
Если g эллиптично (|Г| = 1), то ^ имеет инвариантные окружности; на
самом деле любая окружность, относительно которой точки а и 13
являются инверсными, является ^-инвариантной окружностью, и каждая орбита,
построенная для степеней g, должна лежать на одной из таких
окружностей. Соберем воедино эти факты для использования в будущем.
Теорема 4.3.10. (i) Пустьg - параболическое с неподвижной точкой
а. Тогда g^{z) -^otnpu /2->» ^yj^^ Qcex z из С, причем сходимость
равномерна на любом компактном подмножестве в С \ {а}.
(ii) Пусть g — локсодромическое. Тогда какая-то одна из неподвижных
точек аир для g, скажем а, обладает свойством:g^{z) -> а при п^°^ для
всех Z Ф р; при этом сходимость равномерна на любом компактном
подмножестве в C\{l3}.
*) И ^" (z) -►/З при п -~*-оо для всех z, отличных от а. - Примеч. пер.
71

(iii) Пусть g - эллиптическое с неподвижными точками оси &. Тогда g
оставляет инвариантной каждую окружность, по отношению к которой
точки оси ^являются инверсными.
Если некоторое мёбиусово преобразование g имеет конечный порядок
к (так что g^ = 1,но g"^ Ф1 для положительных т, меньших k),iog
обязательно является эллиптическим. В этом случае при некотором h имеем
hgh-\z)-^e'^z,
где 9 = 2пт/к и к взаимно просто с т. Отсюда
tr^ (g) = 4cos2 @/2) = 2 [ 1 + cos Bттт/к)].
В зависимости от т и к здесь могут получаться различные значения tr^.
Например, если g. - эллиптическое порядка 2, то А: = 2, и поэтому
обязательно tr^ (g) = 0; обратное также верно. Заметим, что среди всех^,
имеющих порядок к, наибольшее значение tr^ (g) имеют те ^, для которых т =
= 1 или т=к — 1, тогда
tr2(^) = 4cos^Gr/A:)
и Q =±27г/к. Эти факты нам пригодятся впоследствии.
Теорема 4.3.11. Пусть g - эллиптическое преобразование порядка к.
Тогда
tT^(g)<4cos^(n/k),
причем равенство имеет место в том и только в том случае, когда g есть
вращение на угол ±2я/А:.
Упражнение 4.3
1. Найдите мёбиусовы преобразованияg иИ такие, что:
(i) tr [^, Л] = -2, а также ^
(ii) g иИ имеют общую неподвижную точку в С.
2. Пусть g ~ мёбиусово преобразование, не фиксирующее точку «». Покажите, что
S - gig2^3 у где Si И ^3 ~ параболические элементы, фиксирующие », а^^ имеет
порядок 2.
3. Корень П'й степени из мебиусова преобразования g есть мёбиусово
преобразование Л, удовлетворяющее условию h^ =g. Докажите, что:
(i) если g = /, то существует бесконечно много корней п-й степени из g;
(ii) если g параболично, то существует лишь один корень;
(iii) во всех остальных случаях имеется ровно п корней.
4. Покажите, что если А иВ принадлежат SLB, С), то
del {А -D = 2-ti(A)
и
dQt{AB-BA) = 2 -tr И, ^1,
где [А, В] есть коммутатор А и В. Вьшедите отсюда, что если Л и В, рассматриваемые
как мёбиусовы преобразования, не имеют общих неподвижных точек в С, то матрица
АВ - ВА является невырожденной и представляет мёбиусово преобразование порядка 2.
5. Пусть g(z) = zlicz + 1). Проверьте, что
Z
g"(z)-
ncz + 1
используя (i) индукцию по « и (ii) подходящий выбор hgh"^. Найдите/", где/ (z)
= 6z/(z + 3), и проверьте результат при помощи индукции.
72

§ 4.4. Двойное отношение
Пусть 21,Г2,Гз,Г4 - четыре различные точки в С. Мы определяем
двойное отношение этих точек как
, (Zj -Гз)(Г2 -24)
[Zu ^2, ^3, ^4] = — -
(^1 -^2)B3 -24)
(сравните это с C.2.5)). Определение распространяется на случай, когда
одна из точек Zj есть «»; например,
^1 - ^ъ
[Г1,Г2,Гз,«>]= .
Zi ~Z2
Заметим, что, в частности,
[О, l,z, oo]=z. D.4.1)
Если
jz +Ь
g{z) = 7 {ad-ЬсФО)^
cz i-d
то
/ ч {z-w){ad- be)
{cz + d) (cw + d)
и непосредственный подсчет показывает, что двойное отношение есть
инвариант мёбиусовых преобразований, т.е. что
[g(Zi),^(Z2),^(Z3),^(Z4)]=[Zi,Z2,Z3,Z4]. D.4.2)
Это — весьма полезное свойство, которое во многих случаях позволяет
упростить рассуждения. Более того, справедливо обратное: если
[Wi, W2, W3, W4] = [Zb Z2, Z3, Z4], D.4.3)
то существует мёбиусово преобразование g такое, что g (zf) = Wj. Чтобы
это показать, рассмотрим мёбиусовы преобразования/и Л, где/переводит
Zi, Z2, Z4 в О, 1, «>, а /2 переводит Wi, W2, W4 в О, 1, «> соответственно;
в силу теоремы 4.1.1 такие преобразования существуют. На основании
D.4.1), D.4.2) и D.4.3) можем записать
/(Гз) = [О, 1,/(Z3). -] = [rBi),/(Z2),/(Z3),/(Z4)] = [Zi, Z2, Z3, Z4 ] =
= [Wb W2, VV3, W4] = [h(Wil ^^2), /2(^3), /2(W4)] =
= [0, 1,^(W3),«>] = /2(W3).
Отсюда ясно, что ^(zy) = wj, где ^ = Л"^^ / П
Перейдем теперь к рассмотрению того, как изменяется двойное
отношение
Х= [zi,r2,Z3,Z4] D.4.4)
при перестановке Zy. Группу всех перестановок множества {1, 2,... ,/2 }
обозначим 5„. Заметим при этом, что перестановка (как и любая функщш)
рассматривается как действующая слева; например, A2) A3)
отображает 3 в 2.
П

Любая перестановка а € 5*4 индуцирует изменение значения двойного
отношения по формуле
при ЭТОМ нужно отчетливо понимать, что результирующее значение
зависит от а и Х,«о не от конкретных значений Zj. Действительно, если
[Zi, Z2, Гз, Г4] = [Wi, W2, W3, W4],
то существует такое^, что ^(zy) = w,- и, следовательно,
Uab^a2»^a3,^a4] = k(^al),^(^a2),^(^a3),^Ba4)l =
= [H'abV^'al» Wa3, Wa4]-
Учитывая этот факт, мы можем ввести функцию f^ {o^S^Y
/aW=[^ab^a2,^a3,^a4],
где X задано D.4.4). Поскольку
/я(/а(^))~ U7ral»^7ra2» ^7гаЗ>^7га4] ~ fnoQO^
имеем важное соотношение
fnfa-frra^ D.4.5)
Предположим теперь, что о есть транспозиция A,2), а ^ — мёбиусово
преобразование, отображающее Zi, Z2, Z4 соответственно в 0,1,«». Тогда
Х= bb^2,^3,Z4] = [0,1,^(Z3),«>] =g(Z3)
и, следовательно,
/а(Х) = [^2, Гь Гз, Z4] = [1,0, Х,оо] = 1 _ X.
Аналогичное рассмотрение можно провести, и для других транспозиций
из 54. В итоге находим, что:
(О если а = A,2) иди C, 4), то /^(Х) = 1 - X;
(И) если а =A,3) или B,4), то /а(Х) = Х/A - X);
(ш) ec/2W а = A,4) ил1/ B,3), го /а(Х) = 1/Х.
Эта информация позволяет найти все fg: так как 54 порождается
транспозициями, то (i), (ii), (iii) вместе с D.4.5) достаточны для
определения всех fa. Заметим, что для каждой транспозиции о функция/^
фактически представляет собой мёбиусово преобразование, которое
отображает множество {о, 1,°®} в себя. Поэтому, если подгруппу группы М ,
отображающую {О, 1, «>} в себя, обозначим -^о, то из D.4.5) будет
следовать, что отображение
В: o^fa
есть гомоморфизм 54 bJCq (т.е. в 5з). Добавим к этому следующий
факт, легко вытекающий из (i), (ii), (iii) и D.4.5) : подгруппа
/: = {/, A,2) C,4), A,3) B,4), A,4) B,3)}
группы 54 содержится внутри ядра ^. Более полное описание ситуации
дает
Теорема 4.4.1. Отображение в: S^-^Mq есть гомоморфизм S^ в
Жо с ядром К.
74

Доказательство. Из теоремы 4.1 Л следует, что Ж^ имеет ровно
шесть элементов:
X. 1 - X, Х/A - X), 1/Х, 1/A - X), (X - 1)/Х
(функций от X). в то же время существует шесть перестановок а в 5*4
таких, что аD)=4; непосредственный подсчет показывает, что
соответствующие им а - это в точности шесть элементов из ^о- Таким образом,
Q отображает 54 h^JCq. Отсюда следует, что ядро в должно содержать
ровно шесть элементов, т.е. должно совпадать с Л!^. П
Четыре различные точки Zi, Z2, 23,^4 в С будем называть
концикличными, если они лежат на одной окружности *). Пусть ^ - мёбиусово
преобразование, которое отображает Zi, Z2, Z4 соответственно в О, 1,««.
Точки zj кониикличны в том и только в том случае, когда концикличны
g{Zj), т.е. когда g(z3) - действительное число. Но
^(Z3)=[0, 1,^(Z3),«>] =[ZbZ2,Z3,Z4]
и, следовательно, Zi, Z2, Z3, Z4 концикличны в том и только в том случае,
когда число [zi, Z2, Z3, Z4] действительное.
Если Zi,Z2,Z3,Z4 лежат на окружности Q и следуют на ней
в,указанном порядке, то ^(Z3)> 1, следовательно,
Х= [Zi,Z2,Z3,Z4]>l.
Упражнение 4.4
1. Покажите, что единственное мёбиусово преобразование^, отображающее ^^, г j,
Z4 в 1, О, «> соответственно есть
giz)= [^i.Zj.z, zJ.
2. Проверьте, чго fo(^) = V(^ - D, если a = B,4).
3. Пусть Zj, Zj, Zj, Z4 - различные точки в С. Покажите, что окружность,
проходящая через Zj,Zj,z,, тогда и только тогда ортогональна окружности, проходящей
через z^, z^, z^y когда
Re[Zj,Z3,z,,zJ =0.
Обобщите это на случай, когда окружности пересекаются под углом в (замешм,
что Zf концикличны в том и только в том случае, когда в = 0).
4. Пусть g - мёбиусово преобразование. Покажите, что если g не фиксирует гочк>
Z, то [z, gz, g^Zy g^z] не зависит от z, и выразите указанное двойное отношение в
терминах tr'(g^).
§ 4.5. Топология в Jt
Как показано в § 4.2, существует гомоморфизм
Ф: SLB,C)->Jf,
который связьгаает с каждым g ^ Л ровно две матрицы Л и -Л из
SLB, С). Группа SLB, С) является топологической относительно метрики
IIЛ - i5 II; отображение Ф индуцирует на Ж фактортопологию SF -
наиболее сильную из всех топологий на-^ , относительно которых Ф непрерьа-
""^ Или на одной прямой. - Примеч, пер,
75

но. Заметим, что в Ж имеется еще топология <^*, а именно, топология
равномерной сходимости в хордовой метрике на С (см. § 3.7); весьма
важно, что эта топология совпадает с 3^. Один из способов изучения топологии
в М состоит в сравнении действия группы SLB, С) с действием ^% ъ Н^
(или в ^ ^) посредством матриц из группы СГ( 1, 3). Однако не лишен
интереса и более прямой подход.
Теорема 4.5.1. Топология Sf , индуцированная на М с помощью Ф,
совпадает с топологией Sf* равномерной сходимости в С.
Достаточно показать, что отображение
Ф: SLB,C)-^(J?,<5"*) D.5.1)
открыто и непрерьюно (см. предложение 1.4.1).
Предположим, что это доказано; тогда, если X€ SLB, С), то
\\Х-(^Х)\\ =2\\Х\\ > 2у/Т
(см. (х) в § 2.2). Это приводит к следующему результату.
Следствие 4.5.2. Ограничение Ф на открытый ^тр радиуса \fTв
SLB, С) является гомеоморфизмом] таким образом, SLB, С) дважды
накрывает Ж.
Итак, осталось доказать, что отображение D.5.1) открыто и непрерывно.
Положим
o(f. g) = su^ c?(/z, gz),
zee
где d обозначает расстояние в хордовой метрике; таким образом,
топология S' * индуцирована метрикой о. Непрерьшность Ф будет следовать из
такого предложения.
Предложение 4.5.3. Если А G SLB, С) представляет g, то
oigJ)<y/^\\A-I\\.
Действительно, если принять это предложение и взять матрицу В,
представляющую /, то
o(gJ)=^o(gf'\l)< s^WAB^' -/II < ^/^\\A-B\\'\\B\\,
откуда следует непрерывность Ф в произвольной точке В G SLB, С).
Доказательство предложения 4.5.3. Существует
унитарная матрица В, представляющая мёбиусово преобразование h такое, что
hgh'^^ фиксирует <» (h соответствует вращению сферы, переводящему
заданную неподвижную точку ^ в ««). В силу теоремы 2.5.2 имеем
IM-/II = \\BAB'' -/II,
а в силу теоремы 4.2.2
oihgh'', /) = o(gh'' ,h-') = o(g, I).
Эти замечания показывают, что можно, не ограничивая общности, считать,
что g фиксирует <». Кроме того, если g — локсодромическое, мы можем
считать, что «> есть отталкивающая неподвижная точка для g (для этого
просто выбираем h подходящим образом).
76

Итак, пусть
>1 = ( °' . I, aS = 1;
С :)•
условие на неподвижную точку в локсодромическом случае означает, что
во всех случаях
|а| < 1 < 161.
Теперь имеем
:ir|4l-(a/5)|
<
A + |z 1^)^/2A + 1 ^^/5 l^y/2
1\2\Ла-Ъ\
16 I-122 1^/2 12^^/51^/2
+ 2I/3/6K
+ 21^1;
последнее неравенство записано на основании неравенства между средним
арифметическим и средним геометрическим. Полученная оценка путем
упрощений приводится к оценке, не зависящей от г. Действительно,
используя а6 = 1, находим
aU/)<|a-6|+2|^<|a-l| + |l-6|+2||3|<
<(к-1|'+ 11-61^ + i^|^y/2(l + l+4)^/2 < v^lU-ZII. D
Наконец, мы должны показать, что отображение D.5.1) открыто; это
будет следовать из такого предложения.
Предложение 4.5.4. Пусть gi, ^2» • •. - мёбиусовы
преобразования, причем ^„(w)->w для w = 0,1,«>. Тогда:
(i) существуют матрицы An, представляющие gn и такие, что An -^/;
далее,
(ii) gn-^I равномерно в С.
Доказательство. Рассмотрим матрицы
из SLB, С), представляющие ^„, где е„ есть +1 или -1; выбор значений
для €п будет произведен ниже. В последующем рассуждении будем
считать gni"^) т^ °®; изменения, которые следует внести в противном случае,
тривиальны.
Так как
^2. ^ 1
ТО можно выбрать е„ так, чтобы €„c?„ -► 1. Тогда
i^n^n)(endn) = 'andn =
gnM-gn@)
77

и, следовательно, €^tf„ также -►I. Учитьюая, что
Сп ^ап1^п{'^\ Ьп =d„gn@),
мы видим, что Сп и Ьп стремятся к нулю; следовательно^ Лп"^!. Этим
доказано (i). Что касается (ii), то это следует из (i) и предложения 4.5.3. П
Теперь мы в состоянии закончить доказательство теоремы.4.5.1. Пусть
^ - открытое подмножество в SLB, С). Допустим, что Ф( S3) не^является
открытым подмножеством в Л (в метрической топологии 3'*). Тогда
существует такое gSФ{33) и такие ^i,^2,-.., не принадлежащие
Ф(да),что
Так как
oign,g)='o(g„g'\l),
то из предложения 4.5.4 вытекает существование матриц Л„, 1'1редставляю-
щих gni'^ и таких, что Л„ -> /. Если матрица В из ^> представляет^, то
АпВ -^В, так что АпВ Е 9S для всех достаточно больших п. Отсюда следует,
что для этих п преобразование ^„ (= Ф(Л„5)) принадлежит ФE3), что
противоречит выбору ^„.П
Подгруппа G группы Л дискретна в том и только в том случае, когда -
топология, указанная в теореме 4.5.1, индуцирует дискретную топологию
на G. Из следствия 4.5.2 очевидно, что если G дискретна, то Ф'^СС) есть
дискретная подгруппа группы SLB, С). Обратно, если Г - дискретная
подгруппа в SLB, С), то Ф(Г) есть дискретная подгруппа в Л .
Разумеется, если G - дискретная подгруппа ъ Ж ,toG счетна (см. § 2.3),
скажем, G={^i,^2, • •.), причем
WgnW-^"^
при /2 ->««. в свете этих фактов представляет интерес
Теорема 4.5.5. Пусть К - компактное подмножество области D в
С. Пусть, далее, g есть мёбиусово преобразование, не принимающее в D
значений О м «>. Тогда для некоторого положительного т, зависящего только
от D и К,
md{z, w)
для всех Z и W в К,
Доказательство. Определим т^ посредством
2mi =inf (c/(z, w)|zG/i:, w^^D),
и пусть
az-^ b
g{z) = , ad -be = I.
cz-^-d
Так как g'^{^)^D, то для всех z^K
2\cz^d\
2mi <.d{z,g-^^)<
i\^\z\^fl\\c\'^\d\^fl^
78

Подобное же неравенство справедливо для g~^ @), откуда следует
Утверждение теоремы теперь вытекает из неравенства
d{gz,gw) ^ I 1-ь|г|' \} /2 / 1-Цуу|^ у /2
d(z,w) "^\ |flz + bi^ +icz+c?|2 j yiawi-bl^ i-lcwi-dl^ )
Следствием доказанной теоремы является тот факт, что если G
дискретна и условия теоремы 4.5.5 применимы ко всем^„, то хордовые диаметры
множеств gn(^ стремятся к нулю.
Упражнение 4.5
1. Докажите, что если Д£? - Ьс = 1, то для всех z
{\а \^ + \c\^){\az + b\^ +\cz + d\^)>\,
причем равенство имеет место, лишь если z = - (db +'cd)l{\ а 1^ + I с |'). Покажите,
что если giz) = (az + b) (cz + с?)'*, то для всех z
1 \az + b \^ + \cz+d\^
\g\\^ 1 + lzl'
< \\gV.
2. Пусть G - группа мёбиусовых преобразований, сохраняющих Я^ Покажите,
что каждое g из G единственным образом представляется в виде g = /"Л, где f(z) =
= flz + Ь (л > О, Ь е R) и Л(/) = /. Выведите отсюда, что О гомеоморфно R* X 5*.
3. Покажите, что последовательность g^ локсодромических преобразований может
сходиться к эллиптическому элементу; однако если это имеет место, то g^ строго
локсодромичны для почти всех п. Покажите, что последовательность эллиптических
элементов не может сходиться к локсодромическому элементу.
§ 4.6. Замечания
О связи между кватернионами и мёбиусовыми преобразованиями см.
[1, 5, 26]. Проблема построения подгруппы в SLB, С), изоморфной
заданной подгруппе в Л , рассматривается в [2, 74]. Общие сведения о
мёбиусовых преобразованиях см. в [30 (особенно об изометрических
окружностях) , 51,52]. В связи с теоремами 4.2.2 и 4.3.7 см. [53].

ГЛАВА 5
РАЗРЫВНЫЕ ГРУППЫ
§ 5.1. Элементарные группы
В этом параграфе мы определим и изучим класс подгрупп в М ,
имеющих особенно простую структуру. Этот класс содержит все конечные
подгруппы в Ж , все абелевы подгруппы, а также стабилизатор любой
точки в R ^.
Определение 5.1.1. Подгруппа G группы Ж называется
элементарной, если существует конечная G-орбита в R ^.
Разумеется, главное здесь заключено в слове конечная. Заметим также,
что это определение безотносительно к дискретности. Группа Ж действует
как группа собственных изометрий в Я ^ и является элементарной в том и
только в том случае, когда существует конечная 6?юрбита в замыкании
гиперболического пространства.
Очевидно, если существует 6?-инвариантная точка, то G элементарна.
Если О абелева, то либо G содержит лишь эллиптические элементы (а
также /), либо О содержит некоторый параболический или локсодромический
элемент g. В первом случае (независимо от того, G абелева или нет) О
элементарна в силу теоремы 4.3.7; во втором случае G элементарна по
теореме 4.3.6 (iii). Таким образом, каждая абелева подгруппа в Jt
элементарна.
Замечание. Элементарные группы иногда определяют условием, что
для любых двух элементов g nh бесконечного порядка, принадлежащих 6?,
имеет место trace [g, h] = 2; последнее эквивалентно тому, что g nh имеют
общую неподвижную точку в С (теорема 4.3.5). Однако при таком
определении стабилизатор точки в Н^ не обязательно элементарен.
Пусть G - элементарная группа; будем исследовать все возможные
случаи. Предположим, что {jci, ... , x„} — конечная орбита. Если^ G G, то для
любого / точки g^(Xj), где m = О, 1, ..., не могут быть все различными;
существует, следовательно, такое целое rrij, что g ^ фиксирует х^. Взяв
в качестве т произведение всех mj, получим, что g ^^ фиксирует каждую
из точек Xj. Имея это в виду, мы можем теперь разбить элементарные
группы на три типа. ^
Тип 1: п> 3 или же {хь .. . , Хп) не лежит в С.
А
Если точки Xj не лежат в С, то, учитьюая, что некоторая степень g
фиксирует JCy, находим, что g^, д. значит, и само g являются эллиптическими
(или /). Если п > 3 и Xj лежат в С, то g'" имеет по меньшей мере три
неподвижные точки, следовательно, g"^ =/; отсюда снова находим, что
любой элемент из G является эллиптическим (или/). Таким образом,
любая элементарная группа типа 1 содержит только эллиптические эле-
80

менты и /. По теореме 4.3.7 существует точка хЕЯ^, которая
неподвижна относительно каждого элемента из О. Отображая Я^ на Л ^ и точку
X в О, видим, что G сопряжена в GM(R^) с подгруппой спещ1альной
ортогональной группы S0C) (см. теорему 3.4.1).
Тип 2: /1 =1 и xi ЕС.
В этом случае G сопряжена в J^ с подгруппой, все элементы которой
фиксируют оо^ т.е. имеют вид z^-^az -^ b. Другими словами, G сопряжена с
подгруппой евклидовых подобий в С.
Тип 3: /1 = 2 и xi е С, Xj е С.
В этом случае G сопряжена в J( с. подгруппой, все элементы которой
оставляют инвариантным {О,«»}, т.е. имеют вид
zb^az\ аФО, 5^ = 1.
Заметим, что тогда G сопряжена с группой изометрий пространства С\ {0}
с метрикой, порожденной элементом длины \dz \l\z |.
Перейдем теперь к описанию дискретных элементарных групп. Если G -
дискретная элементарная группа типа 1, то можно считать, что все элементы
из G фиксируют точку / G Я^. Тогда по теореме 4.2.1 имеем II ^ II ^ =2 для
каждого ^ G G, и (поскольку G дискретна) G обязательно конечна. Таким
образом, G сопряжена с конечной подгруппой группы S0C), а значит,
с одной из групп симметрии правильных многогранников.
Используя конечность G, можно получить возможные структуры для G
и без ссылок на правильные многогранники. Мы скажем, что и Е С есть
вершина, если v фиксируется некоторым g (Ф I) из G; множество всех
вершин обозначим К. Подсчитаем теперь число |£| элементов конечного
множества
b'^{(g,v)\geG, gФI, vev,g(v) = v}.
Так как каждое g ^ G (кроме /) является эллиптическим, то^ имеет
ровно две вершины, следовательно,
|£j = 2(|G|-l).
Обозначая, как и ранее, стабилизатор вершины v через G^, мы можем
также записать
1^1 = 2 (IGJ-1).
ие V
Множество V разбивается с помощью G на непересекающиеся орбиты
Fi, ..., Vs; так как стабилизатор каждой вершины v в Vj состоит из
одного итого же числа элементов, скажем Л/, то
!£'|= 2 2 (jGJ-l)= Z |К;|(/1у-1).
/ = 1 у € К/ / = 1
Наконец, каждая орбита G(v) находится во взаимно однозначном
соответствии с фактормножеством G/Gy, поэтому
' I с J /1,-
6. А. Бердон
81

Исключая \ Vj \, находим
2 Л-—-\= S (l ] . E.1.1)
\ \G\) / = i\ n,J
Будем считать, что G не является тривиальной группой, тогда \0\ > 2 и
К 2A 1<2.
\ \G\I
По определению /i/ имеем rij > 2, следовательно,
2 / = 1\ rij)
Полученные неравенства вместе с E.1.1) показывают, что 5 = 2 или 5=3.
Случай 1: 5=2.
В этом случае E.1.1) дает
IGI \G\
2 = + ,
откуда следует (если учесть «/< I G |)
IG I = «1 =/22,
iKil = |K2| = 1.
Таким образом, имеются только две вершины, и каждая из них
фиксируется всеми элементами из G. Применяя сопряжение, можно считать
вершинами О и «»; тогда G будет конечной циклической группой вращений в С.
Случай 2: 5=3.
В этом случае из E.1.1) получаем
1 1 1 _^ 2
Пг П2 ris \G\
f
Будем считать пх <П2 <лз. Предположение/21 > 3 ведет к противоречию;
следовательно, /21 = 2 и
1 1 _^ 1 2
пг /2з ' 2 [gT '
Если допустить, что /21 > П2> 4, то снова получим противоречие; поэтому
/22 равно 2 или 3. Случай /22=2 приводит к
(IGI, Пи П2. Пг) = B/2, 2, 2,/2) (/^>2),
что дает группу G, изоморфную группе собственных симметрии
правильного плоского/2-угольника (группе Dn диэдра).
Остальные случаи характеризуются значениями s = 3, /21 = 2, /22 = 3 и
соотношением
1 1 2
— = — + , лз>3.
/2з 6 IGI
82

Соответствующие целые решения суть:
(О (|G|,/ib/i2,'i3) = A2,2,3,3);
(и) (I С? I,/11.^22,^23) = B4, 2, 3,4);
(iii)(|C?l,/ib'22,/i3) = F0,2,3,5).
Эти группы изоморфны соответственно А^, S^ и As - группам симметрии
правильных тетраэдра, октаэдра и икосаэдра. Детали см. в литературе,
указашюйв § 5.5.
Продолжим наше рассмотрение дискретных элементарных групп.
Следующий результат, по существу, позволяет провести различие между
группами типов 2 и 3.
Теорема 5.1.2. Пусть g - локсодромический элемент, и п}ч:ть fug
имеют ровно одну общую неподвижную точку. Тогда группа if, g) не
является дискретной.
Доказательство. Так как дискретность сохраняется при
сопряжении, мы можем предположить, что общая неподвижная точка есть «*, т.е.
g{z)-OLZ, f(z)-az +6,
причем I а I > 1 (если необходимо, меняем g на g"^). Тогда
Гак как f и g имеют только одну общую неподвижную точку, то b ^ 0.
Учитывая, что | а | > 1; получим, что последовательность
lirV^^'lL /2 = 1,2,...,
состоит из отличных друг от друга чисел и является сходящейся;
следовательно, </, ^) не дискретна. Для большей прозрачности доказательства
читателю рекомендуется нарисовать последовательно (для большого п)
точки z,g''z,fg''z,g-''fg''z. а
Предположим теперь, что G элементарна, дискретна, но не относится к
типу 1. Тогда G обязательно содержит параболические или
локсодромические элементы. Если О содержит параболический элемент g, оставляющий
неподвижной, скажем, точку «», то каждый элемент из G фиксирует «»
(поскольку все другие орбиты бесконечны) и по теореме 5.1.2 G не
содержит локсодромических элементов. Такая группа G принадлежит типу 2.
В случае, если G содержит локсодромический элемент g, фиксирующий,
скажем, О и «», каждый элемент из G должен оставлять множество {О, «»}
инвариантным. Отсюда вытекает, что G не содержит параболических
элементов и, следовательно, является группой типа 2 или 3.
Попытаемся теперь выяснить строение дискретной группы типа 2 с
параболическими элементами. Итак, G содержит лишь /, параболические
элементы и, возможно, некоторые эллиптические элементы.
Применив, если нужно, сопряжение, можно считать, что каждый элемент
из G фиксирует «», т.е. имеет вид z i->a2 + j3. Поскольку все элементы —
эллиптические или параболические, то |а| =1; следовательно, G
сопряжена группе евклидовых изометрий в С.
Назовем а коэффициентом отображения z •->• az + j3; будем обозначать
коэффициент отображения g через otg. Заметим, что Og = 1 тогда и только
тогда, когда g параболично или совпадает с /. Легко видеть, что множество
S коэффициентов для всех g ^ G является (мультипликативной) подгруп-
6* 83

пой группы {U I = 1} и что отображение в: G -^S, определенное
равенством B{g) = OLg, есть гомоморфизм G на 5". Утверждение, что а^ = 1 в том
и только в том случае, когда g - параболическое или /, равнозначно
следующему: ядро Т гомоморфизма В есть подгруппа всех переносов из G.
Так как О/Т изоморфно 5 (= ^ (G) ), мы можем получить описание для G,
дав явные описания для 5 и Г.
Прежде всего покажем, что S есть конечная циклическая группа. По
предположению, G содержит перенос, скажем /(z) = z + X; если g{z) =
= az + j3 - произвольный элемент из G, то
gfg'^{z) = z +аХ.
Таким образом, G содержит z ^ z + sX для каждого s из S\ и так как G
дискретна, S не может иметь предельных точек в С. Значит, S является
конечной, а потому и циклической подгруппой группы {| z | = 1} .
Можно получить еще большую информацию об S. Сохраняя смысл /
и g, запишем
f-'{gfg-')(z)^z^{0L-\)\.
Если I а - 1 I < 1, то в G существует перенос z ^z + Xi такой, что
IXil = |(а-~1)Х|'< 1X1.
Повторение этой конструкции дает переносы z ^z + Х„ из G, для которых
|Х„| = |а-1|"|ХН0
при /1 -*<»; но это противоречит дискретности G. Следовательно, для
каждого а из 5 имеем \ol- \\ > \. Так как S есть циклическая группа, скажем
S={l,(л;,(л;^...,(л;^-^Ч,
где
cj = expB7r//G),
мы видим, что G ^ 6. На самом деле G = 5. Действительно,
/^/ГЧ2) = 2+(а + 1)Х,
и тоадо такое же рассуждение, как выше, приводит к | а + 1 | > 1. Отсюда
следует, что q Ф5,ъ противном случае мы имели бы | cj^ + 11 < 1.
Остающиеся пять возможностей, а именно, (? = 1, 2, 3, 4 и 6, все могут реализоваться.
Мы должны теперь дать описание Г. Пусть Л есть множество всех Xi,
для которых z fr> Z + Xi принадлежит G, и пусть Л* = Л\ {0}. Так как G
дискретна, Л не имеет предельных точек в С, поэтому Л* содержит элемент
X с наименьшим (положительным) модулем. Если A = {/iX|/iGZ),to
r={z/->z+MX|/zGZ}. E.1.2)
Если At^{/iX|/iEZ},to сушествует элемент ц с наименьшим
(положительным) модулем в А*\{пХ\п Е Z}; заметим, что | д | > \\\. Все
переносы вида
z^z -^-nX-^mii (/i,mEZ) E.1.3)
принадлежат G. Докажем, что Т состоит в точности из этих переносов.
84

Ясно, что ц не является вещественным кратным X (в противном случае
мы могли бы записать ц = (^ + 6) X, где /:GZ,0<5< 1,и рассмотреть 5 X).
Следовательно, X и д порождают все векторное пространство С (над R^).
Если z^z+7 принадлежит G, то, записав
7 = («1 +x)X + (mi +7)М,
где«1, mi GZ,aXb7i ^ . — L будем иметь G-'2iX-mi/i)GA и
L 2 2 J
l7-«iX-/Wi/L(| = |xX+>'/L(| < \ц\
(строгое неравенство объясняется линейной независимостью X и д).
Отсюда вытекает
у - ni\- miiiG{nX\nGZ},
так что Тесть в точности множество переносов вида E.1.3).
Теперь мы в состоянии описать G. Выбираем g EG с коэффищ1ентом cj,
порождающим 5*. Тогда g, g^, • • •, g^~^ имеют соответственно
коэффициенты CJ, со^, ..., (jj^~^ (cj^ = ly q < 6),и G допускает разложение на
смежные классы:
Это показывает, что каждый элемент из G имеет вид
где *) к,т,п - целые, 0<k<q и G^6, q^S.
Перейдем к рассмотрению дискретных элементарных групп с
локсодромическими элементами. Прежде всего, предположим, что каждый элемент
из G фиксирует О иоо, следовательно, имеет вид
g{z) = az, аФ 0.
Отображение в: G -►{х G R^x > 0}, определенное равенством Q{g) =
= \otg\ у является гомоморфизмом G в мультипликативную группу
положительных чисел; ядро Е этого отображения состоит из / и всех
эллиптических элементов из G, Поскольку G, а значит, и Е дискретны, мы видим,
что Е есть конечная циклическая группа, порожденная . z b^cjz, где со^ = 1.
Образ 0(G) есть множество {\otg\ \gEG}\ это множество не может
иметь предельной точки 1, так как в противном случае существовала
бы последовательность из различных элементов gn Е G, для которой
11^Л'= \ссп\'^ .-Ц--^2 (gn(z)^alzl
что противоречит дискретности G. Отсюда легко следует, что группа
в (G) имеет вид
^(G)= {Х'' \neZl
*) Преобразование g имеет вид z м- cjz + Ь, где, вообще говоря, b Ф 0. Однако с
помощью сопряжения можно перевести его в z >^ ljz . Это и приводит к указанному
только что описанию G. - Примеч. пер.
85

где X - некоторое положительное число. Беря g^G, g(z) = az, где I а| = X,
получим разложение на смежные классы
G= и £^",
п G 1
т.е. каждый элемент из g имеет вид
zH>cj*a, E.1.4)
где /1 G Z, к Е Z и 0<к < q. Если | а| =1, то в(С) есть тривиальная
группа и, следовательно, G - конечная циклическая типа 1. В противном
случае G бесконечна и содержит локсодромические элементы, но, так или
иначе, G не содержит параболических элементов.
Наконец, рассмотрим произвольную дискретную элементарную группу
с локсодромическими элементами. Мы можем предположить, что {О, «>)
является G-инвариантным. Обозначим через Go подгруппу из элементов,
фиксирующих каждую из точек О, «>. По доказанному Gq состоит из
элементов вида E.1.4). Если G© - собственная подгруппа группы G, то G
необходимо содержит элемент И такой, что
/г@) = оо, /г(оо) = 0.
Применив, если нужно, сопряжение (оставляющее на месте О и <»), можно
считать/2A) = 1, т.е./2B) = l/z. Если/G G переставляет О и «>, то//2 G Gq,
следовательно, Gq имеет индекс 2 в группе G. Это показывает, что каждый
элемент из G имеет вид E.1.4) или же вид
На этом мы заканчиванием рассмотрение элементарных дискретных
групп. В дальнейшем нас будут интересовать главным образом
неэлементарные подгруппы в Ж . Приведем два результата, дающие необходимые
признаки таких подгрупп; эти результаты безотносительны к дискретности.
Первый результат дает некоторое представление о сложности строения
таких групп.
Теорема 5.1.3. Любая неэлементарная подгруппа G группы Ж
содержит бесконечно много локсодромических элементов, никакие два из
которых не имеют общей неподвижной точки.
Доказательство. Покажем сначала, что G содержит
локсодромические элементы. Предположим противное, т.е. что G не имеет
локсодромических элементов. Если G содержит только эллиптические элементы и /,
то G элементарна. Отсюда следует, что G содержит параболический
элемент; запишем последний в виде
/B) =2+1.
Беря произвольный элемент g EG^ скажем,
^ az i- b
g(z) = 7", ad-be ^ I,
cz i-d
находим, что
{a-^nc)z ^ib i-nd)
rg{z)-'
cz -^d
86

и
Так как f^g не является локсодромическим, то при любом целом п имеем
0<(a-^d^rncf <4,
откуда следует с = 0. Это означает, что каждый элемент из G фиксирует оо,
и тем самым группа G элементарна, вопреки условию. Этим доказано, что
неэлементарная группа обязательно содержит локсодромические элементы.
Рассмотрим теперь некоторую неэлементарную группу G, и пусть g -
локсодромический элемент в G, фиксирующий, скажем, точки а и jS. Так
как G не элементарна, существует элемент f Е G, не оставляющий
инвариантным { О, «^}. Возможны два случая:
О) {а,в) и {fa, fp) не пересекаются;
(ii) (а, 0 } и {fay f^) имеют ровно одну общую точку.
В случае (i) элементы^ и ^i -fgf^ оба локсодромичны и не имеют
общих неподвижных точек. Легко видеть, что {g^gxg'^ \n^Z)содержит
требуемые локсодромические элементы; действительно, неподвижные
точки для^ "^1^ "" суть^ "/а, g "/j3, они различны и сходятся соответственно
к а и 13 (см. теорему 4.3.10).
В случае (ii) элементы ^ и ^i имеют ровно одну общую неподвижную
точку, скажем а. Отсюда по теореме 4.3.5 следует, чго р = \g,g\] парабо-
лично; ясно также, что р фиксирует ос. Поскольку (а} не может быть
G-инвариантным, то найдется Л G G, не фиксирующее а\ тогда q = hph"^
параболично и не фиксирует а. Следовательно, q vig (или G ^g\) не имеют
общих неподвижных точек. Тогда при достаточно большом п элементы g
и q^gq^^y оба являющиеся локсодромическими, не имеют общих
неподвижных точек, что возвращает нас к случаю (i). П
Теорема 5.1.4. Пусть мёбиусово преобразование f {ФI) не имеет
порядка 2, и пусть отображение в : ^^ -^ Jt определено посредством
равенства B{g) - gfg"^. Если при некотором п имеет место 0"(g) =/, то группа
<fg) элементарна и 9^(g)=f
Доказательство. Положимте =^ и ^„ = ^"(g), так что при m > О
^т+1 "^SmfiSmY^'
Допустим сначала, что / - параболическое; не ограничивая общности,
можно считать/(z) = z + 1. Так как элементы gi, . . . ,^« сопряжены с /,
то каждый из них тоже является параболическим и, следовательно, имеет
единственную неподвижную точку. Очевидно, для ^,.+i (где г > 0)
неподвижной точкой является gr{^)- Следовательно, если gr+\
фиксирует «>, то gr также фиксирует «>. Но по условию gn (= f) фиксирует «>;
значит, каждое gj (включая ^о) тоже фиксирует <». Это показывает, что
группа (f, g) элементарна (оба элемента f и g фиксируют «»). Итак, ^i
параболично и фиксирует «>, а значит, коммутирует с/; тем самым^2 =/•
Предположим теперь, что / имеет ровно две неподвижные точки; можно
считать /(z) = kz. Каждое из преобразований ^i, .. ., ^„ также имеет две
неподвижные точки. Допустим теперь, что gr +1 фиксирует О и ^ (как это
делает ^„); тогда
{0,00} ={gr@\grM}.
87

Но^,. (г > 1) не может переставлять О и «>: в противном случае ^,.(z) =
= l/z и (gry = /, т.е. gr, а вслед за ним / (ведь / сопряжено с ^^ ) имеют
порядок 2. Итак, если gr +i фиксирует О и «>, то этим же свойством
обладает и gr (г > \). Отсюда следует, что каждое из преобразований ^i, .. .
... у gn фиксирует О и «». Таким образом, оба преобразования f ng
оставляют инвариантным множество {О, «»), а потому группа </,^>
элементарна. Снова ^1 коммутируете / и тем самым g2=f. О
Читатель, возможно, пожелает соотнести этот результат с обсуждением
в § 1.5.
Упражнение 5.1
1. Пусть G - элементарная группа, в которой содержится параболический элемент,
фиксирующий «. Покажите, что если все такие элементы в G образуют циклическую
подгруппу, то некоторый эллиптический элемент в G имеет порядок 2.
2. Покажите, что группа G элементарна тогда и только тогда, когда элементарна
любая ее подгруппа {f,g),mQfS G,g G G.
3. Покажите, что если g и h ~ элементы порядка 2, то < ^, Л> элементарна. Обязя-
тельно ли < ^, Л > дискретна?
4. Покажите, что
Z !-► (z/\Z |,lnz)
есть изометрическое отображение С\ (О) с метрикой \dz\ /|zl на цилиндр S^ X R* с
евклидовой метрикой. Покажите, что элементарная группа, оставляющая
инвариантным (О, оо} , изоморфна группе изометрий цилиндра. Найдите евклидову изометрию,
отвечающую z *-*а zP, где р = 1 или -1.
5. Пусть
^^^^ = -^' ^^^^^l-Oz.d-O'
где г = 1/\/Т. Покажите, что g является параболическим с неподвижной точкой w^ 0.
Покажите, что fgf'^ тоже является параболическим с неподвижной точкой ~w (Ф w),
вследствие чего группа <f\g) не элементарна. Покажите, однако, что в^ (g) = f (в
обозначениях теоремы 5.1.4). (Тем самым в теореме 5.1.4 предположение, что / не
имеет порядка 2, является существенным.)
§ 5.2. Группы с инвариантным кругом
В дальнейшем мы будем интересоваться подгруппами группы
Ж,имеющими инвариантный круг; здесь мы дадим некоторую характеристику
таких подгрупп.
Теорема 5.2.1. Пусть G - неэлементарная подгруппа группы Ж Тогда
для существования G-инвариантного круга необходимо и достаточно, чтобы
G не имела строго локсодромических элементов. Если Весть G-инвариант-
ный открытый круг, то других G-uneapuanTHbix кругов, кроме Du его
внешности, не существует.
Заметим, что здесь не требуется, чтобы подгруппа G была дискретной.
Условие же неэлементарности существенно: если, например,
р (z) =2 + 1, q (z) =z +/,
то { p, q) не имеет локсодромических элементов, но не имеет и
инвариантного круга, а < р> имеет бесконечно много инвариантных кругов.
Доказательство. Из определения 4.3.3 непосредственно следует,
что если существует G-инвариантный круг, то G не имеет строго
локсодромических элементов.
88

Чтобы доказать обратное, предположим, что G не элементарна и не
содержит строго локсодромических элементов. По теореме 5.1.3 мы можем
найти в G локсодромические, следовательно, гиперболические элементы
g и h без общих неподвижных точек. Применив сопряжение, можно
считать, что^ фиксирует О и оо.
Возьмем теперь какое-либо / из G. В терминах матриц можем записать
J и О \ /а М
^"■\0 1/и)' ^"[у 5/'
где обе матрицы принадлежат SL B, С). Так как g является
гиперболическим, то число и должно быть действительным. Далее, имеем
ti = trace (/) = а + 5
и
Г2 = trace (gf) = wa + 6/w.
Поскольку f и gf не являются строго локсодромическими, числа ti и ti
действительные. Отсюда следует, что а и б — тоже действительные. Это
показывает, что для каждого элемента из G числа, стоящие на диагонали,
действительны.
Пусть теперь
< :)■
ad - Ьс= \,
где and, как уже сказано, действительные. Тогда (д + с?)^ > 4, поскольку
h является гиперболическим. Неподвижные точки для h ~ это
(a-d)±[{a^df -4]'^^
VVi, W2
2с
и так как с Ф О, отношение Wi/w2 — действительное число. Отсюда следует,
что неподвижные точки для g иН коллинеарны. В инвариантных терминах:
отсутствие строго локсодромических элементов влечет за собой концик-
личность неподвижных точек для каждой пары g и h гиперболических
элементов из О. Дальше можно рассуждать геометрически, но
алгебраическое доказательство представляется проще.
Можно считать, что неподвижные точки для^ и/г лежат на
действительной оси. Тогда g и И оставляют инвариантнымЯ^, и все элементы матрицы
h действительные. Имеем
аа +Cс
fh
yb-^bd
причем указанные диагональные элементы должны быть действительными.
Поскольку а, Ь, с, d, а, Ь действительны и ^с =5^ О, то отсюда находим, что
13 и 7 действительны, так что / G SLB, R). Это показывает, что каждый
элемент из О сохраняет Н^.
Наконец, пусть D - какой-нибудь инвариантный круг. Для любого
гиперболического И из О точки h^(z) сходятся к неподвижной точке для
h (теорема 4.3.10). Беря z в Ои затем во внешности Д мы видим, что все
89
(ад + (Зс * \
* yb-^bdf

неподвижные точки для гиперболических h должны лежать на границе D.
Отсюда следует, что существуют в точности два G-инвариантных круга,
общая граница которых содержит все упомянутые выше неподвижные
точки (см. теорему 5.1.3) .О
Соображения, приведенные в последней части этого доказательства,
показывают, что если g является параболическим или гиперболическим, а D-
инвариантный круг для g, то неподвижные относительно g точки лежат на
до. Если g — эллиптическое с инвариантным кругом Д то неподвижные
точки не могут лежать на дО (рассмотрите /(г) =е'^2). Если w -
неподвижная точк-а для g, то инверсная ей относительно Э/) точка также
неподвижна относительно g (поскольку bD сохраняется при g). Таким образом,
в случае, если g — эллиптическое с инвариантным кругом Д неподвижные
точки инверсны относительно bD и не лежат в ЭД
Упражнение 5.2
1. Проверьте справедливость утверждений, высказанных относительно
неподвижных точек и инвариантного круга, приняв за D полуплоскость Я' и рассмотрев g как
матрицу из SL B, R).
§ 5.3. Разрывные группы
Начнем с общего определения.
Определение 5.3.1. Пусть X — топологическое пространство, а О
некоторая группа его гомеоморфизмов. Мы скажем, что G действует
разрывно в X, если для любого компактного подмножества КъХ
g(K)nK=0,
исключая конечное число ^ из G.
В рассматриваемых нами приложениях Л" будет всегда подмножеством
в R^ с обычной топологией. Однако некоторые полезные результаты можно
получить и в общем случае, исходя из данного выше определения. Пусть
G действует разрьшно в X, тогда справедливы следующие утверждения.
Каждая подгруппа в G действует разрывно в X. E^3.1)
Если if есть гомеоморфизм X на Y, то ifGif"^ действует разрывно в Y.
E.3.2)
Если Y есть G-uneapuaHTHoe множество в X, то G действует
разрывное Y. E.3.3)
Если X ^ X и giy g2» ... - какие-либо различные элементы из G, то
последовательность gi(x),g2ix),. .. не сходится ни к какому у^Х. E.3.4)
Если хЕХ,то стабилизатор G^ точки х конечен. E.3.5)
Если {например) X CR^, то Gсчетна. E.3.6)
Доказательства.Справедливость E.3.1) и E.3.2) очевидна.
Если Y С X, то любое компактное подмножество в Y является также
компактным подмножеством в X, откуда следует E.3.3).
Чтобы доказать E.3.4), заметим, что если указанная последовательность
сходится к>^, то множество
^= {>',^, <^i(^),^2(^), ... }
является компактным. Так как ^;,(^0 ^ К Фф (/2=1,2,...) и все^„
различны, то G не может действовать разрывно в Х\ это доказывает E.3.4).

Для всякого X из X множество {х} компактно, поэтому E.3.5^ есть
прямое следствие определения 5.3.1.
Наконец, мы уже видели (§ 4.3), что существует взаимно одоГозначное
соответствие между G/Gx и орбитой G(x)\ отсюда и из E.3.5) вытекает,
что G счетна в том и только в том случае, когда счетна G (х). Поскольку
любое несчетное множество в R^ содержит сходящуюся последовательность,
то из E.3.4) следует счетность G (х). Этим доказано E.3.6). П
Наша ближайшая цель состоит в том, чтобы изучить соотношение между
дискретностью и разрывностью применительно к подгруппам группы Jt.
Прежде всего рассмотрим действие группы G вН^.
Теорема 5.3.2. Подгруппа G группы Л дискретна тогда и только тогда,
когда она действует разрывно в Н^.
Доказательство. Предположим сначала, что G дискретна. Так как G
есть гомоморфный образ дискретной (и, следовательно, счетной)
подгруппы в SL B, С), то G счетна:
G= (^1,^2,... J.
Ввиду дискретности G имеем II ^„||^ -^ <»; отсюда,используя теорему 4.2.1,
находим, что
рО'.ЯпО'))''^- E.3.7)
Из E.3.5) ясно, что компактное подмножество К в Н^ содержится в
некотором гиперболическом шаре
В={хеН^ \p(x,f)<k}.
Если g(K) ПК ^ ф, тоg{B)n В ^ф, так что
p{U{j))<2k.
В силу E.3.7) это может выполняться лишь для конечного числа
элементов g^G. Следовательно, G действует разрывно в Н^.
Допустим теперь, что G действует разрывно в Н^ (или в некоторой
подобласти в С). Если G не дискретна, то найдутся отличные друг от друга
матриць1>11, >l2, • • • в SLB, С), проектирующиеся на^1,^2, •• • в G, при-
чемЛд, ->/ при п -><».Используя D.1.4),находим,что^„(х) -^х (при/2 -><»)
для любого л: из R^. Это противоречит E.3.4), и потому G обязательно
дискретна. П
Обратимся теперь снова к расширенной комплексной плоскости, чтобы
выяснить соотношение между дискретностью и разрывностью в открытом
подмножестве в С. Доказательство теоремы 5.3.2 показывает, что если G
действует разрывно в некотором непустом открытом подмножестве в С,
то G дискретна. Обратное неверно: возможны случаи, когда G дискретна,
но не действует разрывно ни в каком открытом подмножестве в С.
Чтобы привести простой пример такой группы, мы установим критерий,
исключающий возможность дискретного действия.
Лемма 5.3.3. Пусть G есть некоторая подгруппа в Ж, и пусть D-
открытое подмножество в С, содержащее неподвижную точку v некоторого
параболического или локсодромического элемента g из G. Тогда G не
действует в D разрывно.
91

Доказательство. Утверждение леммы тривиально, поскольку
стабилизатор Gy содержит все степени элемента g. Если g - параболический
или локсодромический, то Gy бесконечна, что противоречит E.3.5). П
Пример 5.3.4. Пусть G - группа Пикара, состоящая из всех
преобразований вида
аг-^Ь
^B) = ——» E.3.8)
CZ -^^ а
где а, Ь, с, d ~ целые гауссовы числа (т.е.числа вида w+ /i/, где w, п G Z) и
ad -be- 1. Очевидно, G дискретна.
Учитывая лемму 5.3.3, достаточно показать, что неподвижные точки па-
л
раболических элементов из G плотны в С. Пусть w = (р ^iq)lr, где p,q,r -
целые; очевидно, множество таких w плотно в С. Теперь нетрудно
проверить, что
A ~Wr'^)Z'irr'^w'^
h (z) = —; ; 5—
-r^2+(l+Wr^)
есть параболический элемент из G, который фиксирует w.D
Наша задача теперь - выяснить условия, при которых дискретная группа
л
действует разрывно на некотором открытом подмножестве в С. Положение
будет яснее, если мы сосредоточим свое внимание на неэлементарных
группах; случай элементарных групп достаточно прост и оставляется читателю.
Заметим, однако, что на этот раз мы не начинаем сразу с предположения
о дискретности.
Рассмотрение будет основываться на неподвижных точках
локсодромических элементов из G. Установим вначале вспомогательный результат,
который позволяет уточнить положение этих точек. _
Лемма 5.3.5 Пусть g E:Jt ы Ъ- открытый круг, такой, 4T0g (S) CS.
Тогда g является локсодромическим и имеет неподвижную точку в Б.
Доказательств о. Можно считать, что ^ («») =«».ВэтомслучаеЭБ есть
евклидова окружность (а не прямая линия), поскольку очевидно, что ни
одна неподвижная точка для g не лежит на границе Б. Если элемент g
эллиптический или параболический, то (поскольку^ фиксирует ^) g
является евклидовой изометрией, что несовместимо eg (Б) С Б.
Следовательно, ^ — локсодромический. Для любой точки w, не фиксируемой g,
последовательность g^(w) ,/2 = 1,2,..., сходится к точке и, неподвижной
относительно g. Если взять W G Б, то эта последовательность будет принадлежать
g (Б) и, значит, и е ^ (Б). П
Приступим теперь к изучению разрывности на подмножествах в С.
Определение 5.3.6. Пусть G - неэлементарная подгруппа группы Ж
(G не обязательно дискретна) и Ло - множество точек, каждая из которых
неподвижна относительно некоторого локсодромического элемента^в G.
Предельным множеством A(G) для G называется замыкание Ло в С.
Дополнение к A(G) в С будем называть множеством обыкновенных точек и
обозначать П (G).
Как правило, мы будем писать Ли П вместо A(G) и П (G). Заметим, что
если GCGi,TO
Л (G) С Л (Gi), 12 (G) Э П (Gi) .
92

в первую очередь мы изучим Л и лишь затем П.
Теорема 5.3.7. Для любой неэлементарной-группы G предельное
множество Л ^сть наименьшее непустое G-инвариантное замкнутое
подмножество в С. Кроме того, множество Л - совершенное и вследствие этого -
несчетное.
Доказательство. Так как Ло инвариантно относительно G, то этим
же свойством обладает и Л. Согласно определению Л замкнуто, а по
теореме 5.1.3 Л =5^ 0. Пусть теперь Е — какое-нибудь непустое замкнутое
G-инвариантное подмножество в С. Поскольку О не элементарна, то каждая
Сюрбита бесконечна, следовательно, и Е бесконечно. Возьмем теперь ка-
ку^р-либо точку V, неподвижную относительно локсодромического
элемента^ из G. Существует некоторая точка w G £, не являющаяся
неподвижной точкой для g; множество {g^(w) \nEZ) имеет две предельные точки,
из которых одна есты> (второй являетсядругаянеподвижнаяточкадля^).Так
как Е замкнуто, то у ^ Е. Это показывает, что Ло СЕ; тем самым и ЛС^.
Наше рассуждение показывает также, что Ло не имеет изолированных
точек (выбираем точку w G Ло, не неподвижную относительно g); значит,
и Л не имеет изолированных точек. Множество является совершенным,
если оно замкнуто и не имеет изолированных точек; хорошо известно,
что все непустые совершенные множества несчетны. Таким образом, Л
совершенно и несчетно. П
Теорема 5.3.7 показывает, что счетное множество Ло плотно в несчетном
множестве Л. Но можно сказать и больше.
Теорема 5.3.8. Пусть О - неэлементарная подгруппа вМ, и пусть
Oi и О2 - непересекающиеся открытые множества, каждое из которых
имеет общие точки с Л. Тогда существует локсодромический элемент g Е G,
имеющий неподвижную точку в Oi и неподвижную точку в О^,
Доказательство. Напомним, что если/ есть локсодромический
элемент с притягивающей неподвижной точкой а и отталкивающей
неподвижной точкой /3; то при /2 -> «> имеем /" -^ а равномерно на каждом
компактном подмножестве в С \ {i3 } , а также/"" -^jJ равномерно на каждом ком-
л
пактном подмножестве в С \ {а} ( теорема 4.3.10). Отталкивающая
неподвижная точка для/ является притягивающей точкой для/"\
Пусть G, 0\ }\ 0-1 такие, как указано в теореме. Тогда существуют (см.
определение 5.3.6) локсодромический элемент рс притягивающей точкой
в Oi и локсодромический элемент q с притягивающей точкой в Ог. По
теореме 5.1.3 существует локсодромический элемент / с притягивающей
точкой а и отталкивающей точкой jS, ни одна из которых не является
неподвижной для р. Выберем (и затем зафиксируем) достаточно большое w,
такое, что
g ^ p^fp-^
имеет притягивающую точку oli (= р^ а) и отталкивающую точку
jSj (= p'^jS) в Oi. После этого выберем (и зафиксируем) достаточно
большое значение г так, чтобы
отображало а 1 внутрьОг*, положим «2 =^(o^i) (рис.5.3.1).
93

Далее, построим открытые круги Е и К со свойствами
Так как ^i ^ ^,то ^''■^ai равномерно на К при п^оо. Так как //"^ (А')
есть открытая окрестность ai, то при достаточно большом п
и, следовательно,
hg^{K) С К. E.3.9)
Поскольку h{(Xi) ^E.Toai ^h'^(E) и, следовательно, ^""'^-^-jSi
равномерно на /г~^ (Е) при п^оо. Таким образом, при достаточно большом п
g-'^h'H^) С Е. E.3.10)
Выберем теперь такое значение п, чтобы были справедливы и E.3.9), и
Рис. 5.3.1
E.3.10). По лемме 5.3.5 элемент hg'^ будет локсодромическим с
неподвижной точкой в А", а элемент g'^^h"^ (т.е. (hg^)'^) будет иметь
неподвижную точку в Е. Следовательно, hg^^ имеет по одной неподвижной
точке в А и £. П
В теоремах 5.3.7 и 5.3.8 дискретность G не предполагалась. Если
добавить условие дискретности, то можно описать Л в терминах одной орбиты.
Для любого Z G С обозначим A(z) множество точек w, для каждой из
которых существуют отличные друг от друга g„ Е G такие, что gn(^) '^^
(точки gni^) не обязаны быть различными).
Теорема 5.3.9. Если G - неэлементарная дискретная подгруппа
в Ж ,то для любого z GC имеем А = A(z).
Замечание. Пример группы, порожденной z »-> 2z , показывает, что
заключение теоремы может оказаться неверным, если О только лишь
дискретна. Другой пример - группа всех мёбиусовых преобразований,
сохраняющих единичный круг, - показывает, что недостаточно и одной
неэлементарности.
Доказательство теоремы 5.3.9. Любое A(z) замкнуто,
непусто и G-инвариантно, поэтому в силу теоремы 5.3.7 имеем
Л С A(z).
94

Если z G Л, то GB) С Л и, значит,
A(z) С G(z) С Л;
в этом случае, следовательно, мы имеем Л = A(z).
Предположим теперь, что z лежит в ^, и выберем некоторое н' в A(z);
мы должны показать, что w G Л. Допустим, что это не так; тогда wG ^,
следовательно, существует открытый круг Q с центром w, замыкание
которого Q лежит в 12. Мы можем считать, что О и оо содержатся в Л. Тогда,
беря /С = Q и {z}, находим с помощью теоремы 4.5.6, что для всех g vaG
и всех z'h3 А^
Jigz, gz')<m/\\g\\\
Так как w Е A(z), существуют отличные друг от друга'^„ такие, что
gfi(z) -^ W. Поскольку II^„11^ "^«^j то из написанного выше неравенства
следует, что ^„ -^ w равномерно на Q. Это означает, в частности, что при
больших п
gniQ) с б;
отсюда по лемме 5.3.5 имеем QC) АФ ф, что противоречит Q С П. П
Обратимся теперь к рассмотрению открытого множества П.
Теорема 5.3.10. Пусть G - дискретная неэлементарная подгруппа
группы JC. Тогда П есть максимальная область разрывности G в Q. Более
точно:
(i ) G действуют разрывно в О. и
(ii ) если G действует разрывно в открытом подмножестве D С С,
то DC п.
Замечание. Традищюнно называют дискретную группу G группой
Клейна, если П =5^ 0. В более поздней терминологии клейновость означает
дискретность.
Доказательство теоремы 5.3.10. Если G не является
разрывной в П, то существует компактное множество К С Пи отличные друг
от друга gx, g2, ...в G такие, что gni^^) ^ К Ф ф. Следовательно,
существуют точки Zi, Z2, ... в К такие, что ^„(z„) G К. Взяв
подпоследовательность, можно считать, что gni^n) "^и', где wG А" и, следовательно, wG П.
Рассуждая, как при доказательстве теоремы 5.3.9, найдем, что gn ->w
равномерно на А и тем самым wG Л. Полученное противоречие доказывает (i ).
Доказательство (ii ) совсем просто. По лемме 5.3.3 Z) П Ло = ф. Так
как D открыто, то отсюда следует Z) П Л = 0 и тем caMi^iM Z) С П. П
Теорема 5.3.10 имеет интересное
Следствие. Пусть G дискретна и неэлементарна. Тогда О.Ф ф в том
и только в том случае, когда для некоторого z орбита G(z) не всюду
плотна в С.
Доказательство. По теореме 5.3.9 ^Фф тогда и только тогда,
когда Л(г) (= Л) не совпадает с С; но в этом и состоит утверждение
теоремы. П
Как следует из леммы 5.3.3, неподвижные точки параболических и
локсодромических элементов из G лежат в Л и, значит, не лежат в П. Что ка-
95

сается неподаижных точек эллиптических элементов из G, то, как нетрудно
показать, возможны случаи, когда некоторые из них лежат в Л, а
некоторые ~в П. Однако, если неподвижная точка эллиптического элемента лежит
в 12, то ее стабилизатор должен быть циклическим.
Теорема 5.3.11. Пусть G не элементарна и О.Ф ф. Если z Е 0.,то
стабилизатор G^ - конечная циклическая группа.
Доказательство. По лемме 5.3.3, если z Е 12, то каждый элемент
стабилизатора G^ эллиптичен или совпадает с /. В таком случае по
теореме 4.3.7 существует точка f Е Я'^, неподвижная относительно всех g из
Gz. Пусть А есть (однозначно определенная) полуокружность в Я^, имею-
л
щая один из концов z, проходящая через i и ортогональная С. Каждый
эллиптический элемент из G^ фиксирует z и f и потому имеет ось А. Это
означает, что каждый э;^емент из G^ фиксирует оба конца А. Рассмотрение
дискретных элементарных групп, проведенное в § 5.1, показывает тогда,
что Gz есть обязательно конечная циклическая группа. П
Возможно и другое доказательство. Пусть g и h фиксируют z Е О,.
Поскольку g и h -^ эллиптические, то каждый из них имеет еще одну
неподвижную точку. Если эти другие неподвижные точки различны, то по
теореме 4.3.5 [g, h] является параболическим; при этом [g,h] тоже
фиксирует Z , что противоречит лемме 5.3.3.
Мы можем использовать теорему 5.3.11 для получения результата,
относящегося к локальному поведению дискретной группы G вблизи точки,
лежащей в П или в Я^.
Теорема 5.3.12. Пусть G - дискретная неэлементарная подгруппа
группыJ/. Тогда:
(i ) каждая точка хЕ Н^ является центром открытого
гиперболического шара iV, такого, что g{N) = N, если g(x) = х, и g(N) П УУ=0, если
g (х) Фх (предполагается g GG);
(ii ) если ^ Ф ф, то каждая точка z Е Q имеет открытую окрестность
N в О., такую, что g (N) = Л^, если g(x) - х,и g (N) П Л^= ф, если g (х) Ф х
{снова предполагается g Е G).
Доказательство. Утверждение (i ) прямо следует из того факта,
что G есть группа изометрий, действующая разрывно в Я^.
Чтобы доказать (ii ), будем считать, что z = О и что каждое g Е Gz
фиксирует оо (используем теорему 5.3.11). Выберем круг
N = {z\ \z\< г),
замыкание которого содержится в 12. Так как G действует разрывно в 12,
то g(N) (Л МФ ф лишь для конечного множества элементов ^ Е G. По
соображениям непрерывности, при достаточно малом г (зависящем от
указанного конечного множества) g (N) nN= ф, если только g @) ^ 0; в
противном случае ^ (Л^) = .V. П
Если группа G дискретна, то можем записать G "= {gi, gi,...), и тогда
II ^„ II -> оо при П -> оо.
Покажем, что эта сходимость не может быть слишком медленной.
Теорема 5.3.13. Пусть G - дискретная подгруппа группы Л -Тогда-.
(i ) число n{t) элементов g Е G, для которых \\g\\ < t,есть О (/ "*);
96

(ii ) для любого s >4ряд Z||^|p* сходится;
(ill ) если ^Ф ф, то ряд I>\\g\\ '^ сходится.
Доказательство. Стабилизатор Gj точки / Е Н^ конечен; пусть
он состоит из к элементов. Пусть Л^ - гиперболический шар в Я^ с
центром у и столь малым радиусом г, что g (N) С\ N -ф для g Е G\ Gj.
Будем обозначать V(R) объем гиперболического шара радиуса R.
Условие llg II < г эквивалентно
2chp(/,g/) < /'
(теорема D.2.1)) ; следовательно, если ||^ || < г, то
g(N)C{xeH
р(х,/)<г+ ch
■(i'=)l-
Складывая объемы непересекающихся образов g (N) шара N для всех
gf lUII < ^ и принимая во внимание порядок к стабилизатора точки /,
получим
V(r)n{t)lk < vir ^ch''и гЧ\, E.3.11)
Но (см. [5], с. 61)
V(R) = 7i[shi2R) ~ 2R] < тге^^Ц,
а также
ch-4v) = ln(v+[v'-l]^'') < lnBv).
Следовательно,
n(t)<kGi/2)exp[2r^2\nir^)]/V{r) = ikne^'l2)t'^/yir).
Чтобы доказать (i i ) , заметим, что пA) =0, поэтому
tdn(x) П(Г) t n{x)dx /С.1.Ч
2 lUII '=/—T-^-TT' + ^/T^n-' (^•^•^2)
теперь из (i ) следует (ii). Отметим попутно, что из наших рассуждений
следует оценка
S II gV^ = O(lnr),
lU II < г
а также оценка частичной суммы E.3.12) при любом положительном s.
Для доказательства (iii) можно использовать такие же рассуждения,
но в П и относительно хордовой метрики. Существует открытый круг N
в П, такой, что g (N) П N = ф для всех g Е G, g Ф L Тогда сумма
площадей всех g (N) , измеренных в хордовой метрике, сходится к числу, не
превосходящему 47Г (хордовой площади для С). Оценим площадь круга g(N).
Пусть
g(z) = , ad - be = \.
cz -^ d
7, A. Бердон 97

Тогда хордовая площадь g (N) будет
я
4clxdv
■41
\g\z)\''dxdy
4dxdv
-If
'i (Uz+b|2+kz+^|2)
> II ^ H • (хордовая площадь N );
последнее неравенство написано на основании неравенства Коши - Шварца,
а именно:
kz + ы^ + lcz+c?i^ <
<(UI^+|b|^)(l+|z|2) + (kl^+ic^|^)(l+|z|^).n
В заключение приведем два результата для случая ^ Фф,
Теорема 5.3.14. Пусть О - дискретная неэлементарная подгруппа
группы Ж.
(i) Если непустое открытое G-инвариантное множество Dke совпадает
с С, то О действует разрывно в D.
(ii ) Если непустое открытое множество D таково, что g(D) Г\ D- ф
для всех g ^ G, кроме /, то О действует разрывно в U g{D).
л
Доказательство. В случае (i ) множество Е =.С \ D непусто,
замкнуто и G-инвариантно; по теореме 5.3.7 Л С ^. Следовательно, G
действует разрывно в D (теорема 5.3.10). ^
В случае (ii ) множество Ug (D) несвязно и, значит, не совпадает с С;
применяем (i ) к Ug (D). П
Имея в виду только что доказанную теорему, условимся называть
область Z) (в С) С'заполняющейу если g(D) С\ D= ф для всех g ^G, g Ф1,
Теорема 5.3.15. Пусть Gi, G2, ... — подгруппы вЖ, объединение
которых порождает группу G. Пусть область Di (/ = 1, 2, ...) является
л
Gj-заполняющей, причем D^ U Dy = С при i Ф j. Предположим также, что
D* = П Dj непусто. Тогда G является свободным произведением всех Gj,
а D*является G-заполняющей, причем G действует разрывно на Ug(D*).
я
Доказательство.
Рассмотрим некоторые элементыg\,g2yygn
из G, где gk е Gij^, gk^l и /^ Ф
Фг к + 1 для всех к. Прежде всего,
поскольку/)/^ является G/^
-заполняющей, имеем
-^1(/)*)с^,(д.^)сс\А,.
На самом деле верно даже большее, а
именно,
ЧТО доказывается с помощью индук-*
Рис. 5.3.2
98

ции: если принять указанное включение, то
Итак,
gm-'gi(D*) CC\D,^CC\D\
откуда следует, что D* является G-заполняющей. Так как D* Ф ф, мы
должны иметь g^ .., gi Ф /, откуда следует, что G есть свободное
произведение всех Gf. Последнее утверждение теоремы следует из теоре-
МЫ5.3.14 (ii).n
В качестве примера на применение теоремы 5.3.15 рассмотрим Gj = <^ >,
^2 = < Л >, где
^z) = z+6, /2(z) = z/(z + l).
Пусть
Z)i ={х+/>| \х\ < 3)
и
/J={Г| |Z + 1 I > 1} П {Z| U- II > 1)
(рис. 5.3.2). Очевидно, Di является Gi-заполняющей. Так как h
отображает область IZ + 11 > 1 на круг | z - 11 < 1, то ZJ является G2
-заполняющей. Очевидно, D* Ф ф и Di ^ D2 - С\ следовательно, теорема 5.3.15
применима.
Упражнение 5.3
1. Проверьте в деталях справедливость замечания после теоремы 5.3.9.
2. Пусть g и 1. такие, как в лемме 5.3.5. Покажите, что для некоторого w
л = 1
и что W есть единственная неподвижная точка для g ь 1>.
3. Пусть (г дискретна и не элементарна. Покажите, что П есть наибольшая область
в С, в которой G является нормальным семейством.
4. Пусть 6 не элементарна и содержит параболические элементы. Покажите,
что Л есть также замыкание множества неподаижных точек параболических
элементов из G.
5. Пусть Gj, Dj и ^*такие, как в примере к теореме 5,3.15,и пусть G = {g^ И >.
Докажите, что Л с R* и {с*}, так что G действует разрывно в верхней и в нижней
полуплоскостях. Проверьте, чю П связно.
Пусть D - множество, получаемое удалением начала из замыкания /)*. Докажите,
что D с п и
и f{D) = п.
/GG
6. Пусть Qi, С-1# ^2» Q~2 - четыре внешних одна относительно другой
окружности в С. Для / = I, 2 пусть gj отображает внешность Q^j на внутренность С/ •
Докажите, что группа G = < ^1, g^ > действует разрывно в
U Я(Ь),
gGG
где D есть область, внешняя по отношению ко всем четырем окружностям. Указанная
группа G называется группой Шоттки с двумя образующими.
7* 99

§ 5,4. Неравенство Йоргенсена
Мы заканчиваем общее обсуждение дискретности и разрывности
доказательством неравенства Йоргенсена. Позднее мы рассмотрим геометрические
приложения для частного случая изометрий гиперболической плоскости.
Пусть А и В - матрицы из SL B, С), представляющие ме'биусовы
преобразования f и g соответственно. Так как А иВ определяются заданием
f и g с точностью до множителя -1, то коммутатор АВА'^В"^ определен
преобразованиями fug однозначно. Таким образом, имеет однозначный
смысл величина
tTifgf^'g-')-tr(ABA-'B-'),
Теорема 5.4.1 (неравенство Йоргенсена). Предположим, что
Мёбиусов ы преобразования fug порождают дискретную неэлементарную
группу. Тогда
|tr4/)-4| + |tr(/^/-^^-^)-2| > 1. E.4.1)
Указанная нижняя граница является наилучшей.
Неравенство E.4.1) может быть интерпретировано в терминах метрики
на SL B, С): если {f,g) дискретна и неэлементарна, то
\1т\А)-4\^\и(АВА-^В-^)-2\> 1. E.4.2)
Таким образом, А и В не могут быть слишком близки к /. Можно сказать,
что E.4.1) количественно выражает изолированность / в дискретной
группе.
Легко получить явную числовую оценку такой изолированности. Записав
Л =/ + Х А-^ ^Jf-^X*,
мы замечаем, что
11^11 = IU*II,
Х-^Х* ^ХХ* =0;
такие же соотношения имеют место для В = / + У. Из неравенства Коши -
Шварца следует
|tr(Z)| < v^ll^ll.
Подсчет показывает, что [А, В] - I приводится к сумме шести членов,
каждый из которых есть произведение не менее чем даух из матриц X, X*,
У, У*. Если IU II < 6, II У II < 6, то из E.4.2) следует
1 < >/ТбD+ >/Тб) + б€^ =4^/T6 + 8 6^
откуда 6 > 0,146. Таким образом, мы получаем (предположительно)
следующую грубую, но явную оценку.
Следствие. Если А и В порождают неэлементарную дискретную
группу, то
тах{||Л-/||, \\В-1\\) > 0,146.
100

Чтобы показать, что нижняя граница в E.4.1) является наилучшей,
рассмотрим группу, порожденную преобразованиями
/(z) = z + l, g(z) = -\lz.
в этом случае G есть модулярная группа, отвечающая SLB, Z); она не
элементарна и реализует равенство в E.4.1) .
Доказательство теоремы 5.4.1. Идея доказательства
содержится в § 1.5 и теореме 5.1.4. По условию группа {f,g) дискретна и не-
элементарна. Очевидно, E.4.1) выполняется, если / имеет порядок 2 (ибо
тогда tr^(/) = 0); поэтому в дальнейшем можно считать, что / не есть
элемент порядка 2. Выберем матрищ>1 А и В в SLB, С), отвечающие / и
g соответственно, и положим
Во^В, Bn^i =ВпАВ'п\ E.4.3)
Очевидно, В^ представляет элемент gn, фигурирующий в доказательстве
теоремы 5.1.4, причем, согласно той же теореме, В^ ^ А для любого п.
Поэтому достаточно показать, что если E.4.2) не выполняется, то при
некотором п
В, = А. E.4.4)
Рассмотрим два случая.
Случай 1:/- параболический элемент.
Так как след инвариантен относительно сопряжения, мы можем
предположить, что
\0 1/ \с dl
гд.е с Ф О (в противном случае группа {А, В ) элементарна). Допустим,
что E.4.2) не выполняется; это равнозначно
)с\ < 1.
Соотношение E.4.3) дает
1^п + 1 bn + i \
Vn + l ^л + 1 /
/ 1 -апСп
\-с1
Отсюда с помощью индукщ1и получается
Сп =-(-0'"
2
1 -^^пСп
(что равно -с^ , исключая случай п= 0) , и так как \с\ < 1, мы видим, что
Сп -^ 0.
Поскольку к„ I < 1, по индукщш имеем
I J„ I < А1 + I До I ,♦
откуда следует д „с„ -^ О и
an -^ I.
101

Таким образом,
что в силу дискретности дает E.4.4) при достаточно большом п.
Случай 2:/- локсодромический или эллиптический элемент.
Без ограничения общности можно считать
^ 1о 1/J ' ^^ (. J '
Ни
где be Ф О (ъ противном случае группа (А, В ) элементарна).
Предположим, что E.4.2) не выполняется, т.е.
ц = I и\А) -41+1 И(АВА-^В'^ ) - 2 I =
= A ^\Ьс\)\и- I 1и\^ < 1.
Соотношение E.4.3) дает
/^«+1 ^« + 1 \ I a^dnU-bnCn/u a„bn(llu~u)\
\Cn-^i dn + i ) \Cndn(u-l lu) andnlu-bnCnu) '
откуда следует
По индукции находим
|Ь„с„|<м" \Ъс\<\Ъс\,
следовательно,
и
Таким образом,
Далее,
I Ь„ ^ 1 /г>„ I = Ifl„(l/w^- W) I -> I w(l/w - W) K/i^/2 I W I,
откуда
|^« + i I /l+a^/2'
w« + M \ 2 /|w" I
для достаточно больших п. Тем самым
и аналогично с„ и" ->• 0. Это дает
А-"В2„А =[ \-*А.
102

Так как группа (А,В) дискретна, при достаточно больших п мы
должны иметь
т.е. (при тех же п) ^2„=>1, что есть снова E.4.4).П
Мы заканчиваем эту главу некоторыми приложениями неравенства
Йоргенсена.
Теорема 5.4.2. Неэлементарная группа G мёбиусовых
преобразований дискретна в том и только в том случае, когда для любых fug из G
группа { fg ) дискретна.
Доказательство. Если О дискретна, то и любая подгруппа в G
дискретна. Пусть теперь каждая подгр)аша вида {f,g ) дискретна;
предположим, что сама группа G не дискретна, и постараемся получить
противоречие.
Ввиду недискретности G можно найти отличные друг от друга (и от / )
элементы /ьЛ,... в G и представляющие их матрицы Ль Л 2,...
в SLB, С) так, что Л„ ->/. Из соображений следа можно считать, что ни
один из элементов /„ не имеет порядок 2.
Для любого gEG с матрицей В имеем
\гт\Аг,)-4\^\1т[Агг,В] -21 ->0,
следовательно, по теореме 5.4.1 для всех п >n(g) группа </„, g >
элементарна.
Далее, группа G обязательно содержит два локсодромических элемента^
и h без общих неподвижных точек (теорема 5.1.3). Для любого п,
большего /i (g^) и /2 (А), обе группы
элементарны и дискретны, а потому, согласно изложенным в § 5.1 фактам
о таких группах,/„ должен оставлять пары неподвижных точек для^ и для
h инвариантными. Так как /„ не является эллиптическим элементом
порядка 2, он не может переставлять пары точек, следовательно, /„ Должен
фиксировать отдельно каждую из неподвижных точек для g и для h.
Отсюда следует, что ^ и А имеют общую неподвижную точку,а это противоречит
выбору ^ и А. П
Укажем теперь другую формулировку неравенства E.4.1) для частного
случая, когда / параболично (р обозначает гиперболическую метрику в Я^).
Теорема 5.4.3. Пусть f параболично, а группа ( fg ) дискретна и
неэлементарна. Тогда:
(О ll/-/Mlg-/ll>l,
причем эта оценка наилучшая;
(ii) если g также параболично, то для всех хЕ Н^ имеем
1 1 .1
sh — Р{х, fx)sh- р(х,gx)>-- ,
2 2 4
и эта оценка наилучшая.
Замечание. В утверждении (i) под II/-/II понимается II Л - / II
для того или другого выбора матрицы Л, представляющей /; аналогично
для g,
103

Доказательство. Существует мёбиусово преобразование /г,
представляемое унитарной матрицей Un такое, что Л/Л'-^ фиксирует оо. Если А
представляет /, то
WUAU"^ -/11= 11Л-/11;
аналогично для g. Таким образом, мы можем считать, что / фиксирует «>.
Тогда
■^"(о')' *-(!!) ^''-'■'-»-
где€^ = \ иВ представляет g. Неравенство Йоргенсена E.4.2) дает
кХ|>1,
ожуда следует (i), поскольку
IU-/II> 1X1,
\\В-1\\>\с\.
Чтобы доказать (ii), выберем матрицы/! и Л, отвечающие /и
^.соответственно так, чтобы
tr(>l) = tr(^) = 2.
Применив затем теорему 4.2.1, получим
|U-/IP= \\А lP + 2-2Re[tr(>l)] = \\А |Р _ 2 = 4sh^ —р(/,^-),
где / = (О, О, 1) ЕЯ^. Это доказывает (ii) при х =/.
Общий случай в (ii) получается теперь очевидным образом. Если х G Я^,
выбираем мёбиусово h, отображающее х в у . Далее применяем (ii), где /
и g заменены на hfh'^ и hgh"^, а х на / . Наконец, пример с/: z *-> z + 1 и
g: z^z/(z + 1) показывает, что обе указанные в теореме оценки
наилучшие.П
Теорема 5.4.3 имеет интересную геометрическую интерпретацию^
Назовем оришаром S в Я^ открытый евклидов шар в Я^, касающийся С. Если
W— точка касания, то скажем, что 2 опорен в vu Граница ЭЕоришара Z
(в R^) есть орисфера. Оришар, опорный в «», есть множество вида
{(хьХ2,Хз)еЯ^ |хз>А:},
где к>0. Таким образом, в этом случае, а значит и вообще, оришар есть
поверхность в Я^, которая ортогональна ко всем гиперболическим
плоскостям, содержащим точку w бесконечно удаленной сферы (каковой
л
является С). Это описание характеризует оришар и орисферу
исключительно в терминах геометрии в Я^.
Если g есть параболический элеменг в М , фиксирующий w, то для всех
положительных к множество
2:^Д]={хея^
1
sh. — P{x,gx)<k
есть оришар, опорный в «». Действительно, в частном случае, когдаg(z) =
104

= ^ + 1, используя C.3.4), ползд1аем
1
sh —р(х,^)= 1/2хз,
откуда следует
4g^k] ={хея^ |JC3>1/2A:};
общий случай сводится к указанному частному, поскольку для любого
мёбиусова h
Определим теперь для каждого параболического g оришар
Zg=lxeH^ sh—р(х,^х)<— . E.4.5)
Очевидно, для любого мёбиусова Л
йB;^) = 2й^й-. E.4.6)
Из теоремы 5.4.3 (ii) следует, что если S^ пересекается с S^^, то группа
<^, h >не может быть одновременно дискретной и неэлеменгарной. В
частности, если известно, что g и h принадлежат дискретной группе, то ^ и Л
должны иметь общую неподвижную точку. Мы получили следующий
результат.
Те о ре м а5.4.4. Яусгб G - дискретная неэлементарная подгруппа
группы Ж , содержащая параболические элементы. Дая каждого
параболического g из G определим оришар S^ посредством E.4.5). Тогда
семейство
{Zg Ig - параболический из О)
под действием G преобразуется по формуле E.4.6) w Z^ П Z^, = 0, если g
и h не имеют общей неподвижной точки.
Наше последнее применение неравенства Йоргенсена дополняет теорему
5.4.3 (ii) в отношении непараболических элементов.
Теорема 5.4.5. Пусть {g, h )дискретна и неэлементарна.
(i) Если элементg параболический, то для всех х из Н^
1 1 ^1
sh-~p(x,^x)sh— p(x,hgh'^x)>— .
2 2 4
(ii) Если g - гиперболический, то для всех х из Н^
%\i— p{x,gx)^\\-'p{x,hgh'^x)>— .
2 2 8
(iii) Если g - эллиптический или строго локсодромический и
Xx^ig) - 4 <—, го для всех х из Н^
I 4
f 1 1 , ] 1
max sh — р(х, gx), sh — p(x, hgh x)\> — .
I 2 - 2 ) 4
105

Если
p{x,gx)<€, p(x,to)<6,
то
p(x, hgh'^x) = pQf^x, gK^x) <
< pQf^x, x) + p(x, gx) + p(^, <^Л"^х) < Зб,
поэтому имеем такое следствие из теоремы 5.4.5:
Следствие 5.4.6. Пусть N есть открытая окрестность I в М ,
определенная неравенством \ tr^(/) - 4 | < 1/4. Если g принадлежит Nu группа
(g, h > дискретна и неэлементарна, то для всех х из Н^
max {p(x,gx),p(x, hx)} >0,38. ..
Доказательство теоремы 5.4.5 требует знания некоторых геометрических
деталей действия локсодромических и эллиптических элементов.
Предположим сначала, что
\0 Ми)'
,'в
и=|м|е"', E.4.7)
- локсодромический (и тем самым гиперболический) или эллиптический
элемент. Заметим, что
I U - 1/м Р = (м - 11и)(й - 1/«) = Aи|-1/|м|)^+4 sin^0. E.4.8)
. Для любых X и у из Н^ соотношение C.3.4) дает
,1 и-д-Р
4sh^- р{х,у) = .
2 хзУз
Преобразование g действует в R^( = С X R') по формуле
g: (z,t)^iuh,\u\4),
поэтому, полагая х = (z, t), будем иметь
4sb-,(x,gx) = ^^^^^^ =
Напомним, что ось А преобразования g есть по определению геодезическая,
соединяющая неподвижные точки этого преобразования. Для частного
случая E.4.7) ось задается уравнением z =О.Из E.4.9) ясно, что смещение
Tg=^pix.gx)
не зависит от выбора точки х в А; назовем Tgвеличиной сдвига Щlяg.
Соотношение E.4.9) показывает, что
ii'h'"
4 5Ъ.Ц — Г, )=( I « I - 1/1 м I )^; E.4.10)
106

в частности, Tg =0, если элементу эллиптический. Заметим, что в E.4.8)
два члена, содержащие w, инвариантны относительно сопряжения (их можно
записать через trace(g') и Tg), следовательно, то же самое относится и к
srn^e, В частности,sin ^ = О, если элемент g гиперболический.
Следующая задача - выразить геометрически \z\11. Забегая вперед
(§ 7.9), укажем, что
|г|/Г = 5Ьр(х,Л), x-^{z,t).
Используя это, из E.4.8) - E.4.10) получим
sh^ — р(х, gx) = sh4-~ 7> Wp(x, А) + shV(^, A)sm^e, E.4.11)
Таким образом, смещение, вызываемое преобразованием^, имеет вклад.
Рис. 5.4.1
обусловленный сдвигом Г^ вдоль оси, и вклад, обусловленный
вращательным эффектом В , причем каждый из этих вкладов регулируется в
зависимости от расстояния от х до оси.
Доказательство теоремы 5.4.5. Необходимо доказать лишь
(ii) и (iii). Использовав сопряжение, можно считать, что g имеет вид
E.4.7). Применим неравенство Йоргенсена Kg и h, где
-(::)•
ad - be = 1,
получим
(\^\bc\)\u-\lu\^>l (SAM)
(см. доказательство теоремы 5.4.1, случай 2).
Чтобы интерпретировать член | Ьс |, мы ищем мёбиусово преобразование
/, переводящее О,«», ЛО, h^=>^ соответственно в 1,- l,w, -w. Такое
преобразование существует в том и только в том случае, если равны двойные
отношения, а именно,
[l,-l,w,-w] =[0,oo,b/d,a/c],
или, что эквивалентно,
Ьс = A -w)V4w.' E.4.13)
107

Ось А преобразования g есть геодезическая с конечными точками О и «>;
геодезическая hA имеет конечные точки Л О и Л <». Так как группа (g, И >
не элементарна, геодезические А и hA не могут иметь обпдих конечных
точек, следовательно, ЬсФ 0. Отсюда вытекает, что существуют два
различных решения w уравнения E.4.13), причем эти решения взаимно обратны.
Пусть W - одно из таких решений; мы можем считать, что | w | > 1
(взаимное положение геодезических f(A) и f(hA) показано на рис. 5.4.1).
Имеем
p{A,hA)^p(fAJhA) = inf{pix.y)\xefA, yefhA),
Правая часть последнего равенства на основании C.3.4) приводится к
р(^з,1н' |ез) = 1п|нЧ;
действительно, если (х,у, t) Е f(A) и (и, v,s) Efh(A), то
(х - иУ i- (у - v)^ i- (t - s)^ ^ 1 + I w 1^ - 2(хы i-yv + St)
ts ts *
после чего применяем неравенство Коши—Шварца.
Положим
w = exp2(Q: +/|3),
тогда будем иметь
p(A,hA) = 2а,
а также
be = sh^ (а + ip).
Отсюда
4\bc\^ =\ch2(ai'iP)- 1 1^ =
= (ch2acos2^- 1)^+(sh2asm2^)^ =
= (ch 2a - cos 2^J < A + ch 2 a)^ = Bch2 a)^.
Таким образом, для всех хЕН^
I be I <ch2a=ch^— р(Л, hA) <
<ch^—[р(^,х) + р(х,Ы)].
Теперь заметим, что (по элементарным соображениям)
ch^I |< ch р ch G (PfQ- действительные),
следовательно,
I г>с I <ch р(х, А) ch р(х, hA). E.4.14)
Наконец, примем во внимание, что сопряженные элементы g и hgh'^
108
имеют одно и то же значение trace^ и одну и ту же величину сдвига, следо-

вательно, одно и то же значение sin^^. Учитывая этот факт и комбинируя
E.4.12), E.4.14), E.4.8), E.4.10), E.4.11), получим
I sh^-- p(jc,^) + sin^^j(sh^— p(jc, hgh'^x) ■^sm^e]>
> [ch p(x, A)chp(x, hA)\u- 1/ii 1^ /4] ^.
Ho ввиду E.4.12) и E.4.14) имеем
2chp(x,A)chp(x,hA) \u - \lu\^> 1,
поэтому
( sh^— p(x, gx) + sin^ ^ )(sh^ —р(х, hgh'^ x) + sin^ ^ j> — .
Если элемент g гиперболический, то sin^ = О, и мы получаем (ii). В
остальных случаях, полагая
m=max{sh—p(x,gx), sh—pix.hgh'^x)] ,
12 2 i
будем иметь
m^ + sin2(9 > 1/8.
Ho из допущений, сделанных в (iii), а также из E.4.8) следует
sm^i9<l/16.
В итоге т > 1/4.
§ 5.5. Замечания
В связи с обсуждением элементарных групп, содержащимся в § 5.1, см.,
например, [30, 5, 107]. Дискретные группы евклидовых движений в R'^
рассматриваются в [91,111].
Из статей, имеющих отношение к вопросам геометрического действия
дискретных групп в плоских областях или в Я^, отметим [8, 9,13, 14,15,
65, 108, 109]. Теорему 5.3.15 и ее обобщения можно найти в [30, 51, 54,
60, 61]. Из более обширных источников укажем [5,25,30,35,50,51,52,
57, 114]. ^
Неравенство Йоргенсена (теорема 5.4.1) имеется в [41]; связанные с
ним вопросы см. в [14, 40,44, 45, 89].

ГЛАВА 6
РИМАНОВЫ ПОВЕРХНОСТИ
§ 6.1. Римановы поверхности
Коротко говоря, риманова поверхность есть топологическое
пространство, которое локально совпадает с комплексной плоскостью. Формальное
определение римановой поверхности таково, что позволяет без труда
переносить на нее понятие комплексной аналитической функции и комплексный
анализ. Теория комплексных аналитических функций не будет предметом
нашего внимания, мы ограничимся только рассмотрением связей между
римановыми поверхностями и факторизацией по действию разрывной
группы. Причем эти вопросы будут интересовать нас лишь в той мере,
в какой они необходимы для интерпретации в терминах римановых
поверхностей результатов, относящихся к разрывным группам.
Хаусдорфово связное топологическое пространство X называется
римановой поверхностью, если существует семейство
{(^,.,ф|/е/},
назьшаемое атласом (сами («ру, 6^) называются картами), такое, что:
(О {^/ I i^J) есть открытое покрытие Х\
(ii) каждое ^j есть гомеоморфизм Uj на открытое подмножество
комплексной плбскости;
(iii) если 17= Uj О и^Фф, то
есть аналитическое отображение между комплексными множествами ^PjiU)
Условие (i), очевидно, означает, что X покрыто набором ''выделенных"
открытых множеств, каждое из которых, согласно (ii), гомеоморфно
открытому подмножеству в С. Два выделенных множества могут
пересекаться, но тогда, согласно (iii), соответствующий гомеоморфизм является
комплексно аналитическим.
Для римановых поверхностей можно ввести понятие аналитической
функции. Если X wY — две римановы поверхности с атласами {Qpj, Uj) \ / G
G/)и {(\//^, F^) I А: Е А')соответственно, то непрерывное • отображение
f\ X-^Y называется аналитическим, если каждое из отображений
^;t/(^/)"': ^i^r\r\V^))-^Q F.1.1)
является аналитическим. Область определения этого отображения есть
подмножество в С, и предположенная непрерывность / гарантирует нам,
что это множество открыто. Разумеется, в силу (iii) достаточно потребо-
110

вать, чтобы отображение F.1.1) было аналитическим для каких-либо
податласов, обеспечивающих (все еще)открытые покрытия X иУ.
Можно также говорить об угле между (гладкими) кривыми 7 и а в Л",
пересекающими друг друга в некоторой точке х. Если х G Uf, мы можем
измерить угол в между кривыми </?уG), <^у(а), пересекающимися в точке
</?.(х) на комплексной плоскости. Если также х G Uj, то ^i(y) и «/?Да) будут
пересекаться под тем же самым углом в , поскольку отображение ^/(^^У^,
будучи аналитическим гомеоморфизмом, конформно. Таким образом,
угол в определен независимо от выбора / , и мы можем принять его за
угол между 7 и а в точке х.
Простейший из отличных от С примеров римановых поверхностей есть
X = С и (оо} с атласом, для которого /={1,2} и
V?i(z) = z, ^1=С,
^2(Z)=1/Z, и2^{^}^{2еС\2Ф0};
очевидно, <р2(^1У^ аналитично на ^i(^i П (/2).
Мы говорим, что две римановы поверхности-/?! и/?2 конформно
эквивалентны, если существует аналитическая биекция / поверхности /?i на R2
(тогда/""^ тоже аналитична). Таким путем получаем отношение
эквивалентности на множестве всех римановых поверхностей; естественно, мы не
делаем различия между конформно эквивалентными поверхностями.
Упражнение 6.1
1. Докажите, что риманова поверхность линейно связаа.
2. Покажкге, что если риманова поверхность R содержит точки Wy, то /?\ {Wj, . . .
... , w„ }есть также риманова поверхность.
3. Пусть /: R-*S - отличное от постоянного аналитическое отображение между
римановыми поверхностями R hS . Докажите, что / отображает открытые
подмножества в /? на открытые подмножества в S. Вьшедите отсюда, что если R компактно,
то / сюръективно, и тогда S тоже компактно.
§ 6.2. Факторпространства
Один из методов построения римановых поверхностей состоит в
образовании факторпространства относительно действия разрывной группы.
Известно, что на самом деле любая риманова поверхность может быть
получена таким путем. ^
Теорема 6.2.1. Пусть D - область в С, и пусть G ~ группа мёбиусо-
выхпреобразований, оставляющая D инвариантной идействующая разрывно
в D. Тогда D/G есть риманова поверхность.
Доказательство. Мы знаем, что D/G есть топологическое
пространство с фактортопологией и что отображение проектирования п: D -^
->D/G непрерывно. Так как D связна и п непрерьшно, то D/G связно
(и даже линейно связно). Ясно также, что тг есть открытое отображение:
если Л CD, 10
7г''GгА)= и g(A)
И, следовательно, в случае открытого Л (а значит, и^ (А)) будет открытым
и п(А),
111

Покажем теперь, что D/G — хаусдорфово. Сначала возьмем различные z i
HZ2 в D и выберем положительное г так, чтобы круги
/:, ={z| |z-zi Кг}, K2=^lz\ \z-Z2\<r}
лежали в D. Положим (для п>\)
^„={z| |z-zi К Г//1}, ^„={zMz-Z2 К r//i}.
Если для каждого п
то существуют такие w„ ЕЛ„ и g^ ^G, что gn(^n)^^n- Отсюда следует,
что
gniк:)nкФф,
где K=Ki UK2 (компактное). Ввиду условия дискретности множество
{^ь ^2,...) должно быть конечным. Тогда для некоторой
подпоследовательности будем иметь ^„ -g и
^(zi) = Hmg„(w„)=Z2.
п
Чтобы теперь доказать хаусдорфовость пространства D/G, рассмотрим в
нем две различные точки, скажем, 7r(zi) и 7r(z2) ; таким образом, Zi и Z2
лежат в Z) и не эквивалентны относительно G. По доказанному найдется
такое п, что множества я(^„) и п(Вп) не пересекаются. Если учесть, что
эти множества открытые (ибо отображение тг открытое), то получим, что
точки n(zi) H7r(z2) МОЖНО отделить непересекающимися открытыми
множествами.
Наша последняя задача - построить атлас для D/G, Для каждого z G D
выбираем открытый круг TV^ (замыкание которого лежит в D) со
свойствами
g(N^)=Nz, если g{z)rz\
g{N2)(^N2 = ^, если giz)^z
(см. теоремы 5.3.11 и 5.3.12). Заметим,чтоiV^\ (z) не содержит
неподвижных точек группы G. Действительно, если к(Ф I) фиксирует точку в N^,
то по самому определению TV^ h фиксирует и z. Инверсная точка для z
относительно N^ также неподвижна при h. Следовательно, неподвижных
точек для h bTV^^ (z) не существует. Напомним, что если h фиксирует z,
Toh - эллиптическое преобразование.
Пусть W - произвольная точка в Z) и пусть а - мёбиусово
преобразование, отображающее w в О и A^vv в единичный круг А. Стабилизатор w в G
имеет некоторый порядок п и порождается эллиптическим элементом g, где
ogo'^ (z) = z ехрB7г///2), z Е Д.
Положим q{z)-z^\ это отображение переводит Дв себя и обладает тем
свойством, что для всех к и всех z Е 7V^
qo^iz)^ [a^^a-^az)]" = [a(z)expB7r/A:/«)]" = a(z)". F.2.1)
Подчеркнем, что такое равенство имеет место независимо от к.
112

n^<Ny)
n^iNy)
Рис. 6.2.1
Рис. 6.2.2
В качестве карт на D/G мы будем брать пары
где ^w есть ограничение я на Ny^ (рис. 6.2.1).
Каждая точка из -n^iN^) посредством (я^^)"^ отображается в п точек
g^{z) из A^vv, где А: = О, 1,.. ., л - 1. Согласно F.2.1) эти п точек
отображаются посредствомqo ъ одну и ту же точку из А, следовательно,
^w=^^(^w)"^
есть биекция ^w,(A^vv) на А. Так как отображения q, о ии^^ являются
открытыми и непрерывными, мы видим, что кр^ есть гомеоморфизм.
Для проверки того, что отображения перехода я>^(^иУ^ (где и Ф v)
являются аналитическими, мы должны рассмотреть сначала отображения
(О'^тг^, иФь. F.2.2)
Пусть f«^A^«, fu^A^u и
^(fJ = ^au) = f;
тогда для некоторого g ^G имеем
fv =^(f«)-
Предположим теперь, что f«, а значит, и f у не являются эллиптическими
неподвижными точками. Тогда отображение тгу взаимно однозначно в
некоторой окрестности точки fy, и, следовательно, существует локальное
обратное отображение (тгу) "^, переводящее ? в fy. Два отображения
совпадают с я, а значит, и друг с другом в некоторой окрестности точки
f м и принимают значения в тгу (Л^у). Следовательно, вблизи f^ имеем
^=(^и)"^^«-
Мы видим, что отображение F.2.2) аналитично вблизи любой точки, не
являющейся эллиптической неподвижной точкой для G.
Покажем теперь, что отображения перехода
^и(^«)'^ (u^v)
8. А. Бердон ^^^

аналитичны (всюду, где они определены); напомним, что
и аналогично для w.Ситуация иллюстрируется рис.6.2.2. В точках,не
являющихся неподвижными для каких-либо элементов из G, мы можем найти
^vi^u)'^y выбирая определенную ветвь для qu\ тогда ^^{^и)'^ будет
композицией аналитических отображений. В эллиптических же
неподвижных точках гомеоморфизм ^v(}Pu)'^ аналитичен в проколотой
окрестности, согласно предыдущему замечанию, и потому имеет в этих точках
устранимую особенность. D
Существует обращение теоремы 6.2.1 (которое мы не будем здесь
доказывать) .
Для произвольной римановой поверхности R можно построить односвяз-
ную риманову поверхность R и отображение тг: R-^R со следующими
свойствами:
(i) каждая точка z ER имеет окрестность7Vтакую, что ограничение тг на
Л^является гомеоморфизмом на открытое подмножество в R;
(и) для любой кривой 7: [0,1] ->Л и любой точки z Е Й такой, что тг(Г) =
= 7@), существует единственная кривая 7- [0> П "^^ такая, что тг7 = 7 и
7@) = ? (мы говорим тогда, что 7 проектируется в у или что 7 получается
в результате подъема 7).
Эти свойства можно выразить коротко следующим образом: (Л, тг)
неограниченно накрывает R. По известной теореме Римана (для римановых
поверхностей) R конформно эквивалентна одной из трех стандартных
римановых поверхностей:
А= {г llzKU , С, си {оо)
(с тривиальными атласами). Таким образом, без ограничения общности
мы можем считать, что R есть одна из этих трех поверхностей.
Можно показать, что существует группа G мёбиусовых преобразований,
сохраняющая R и такая, что данная поверхность R конформно
эквивалентна R/G. Обозначая накрывающее отображение через тг, будем иметь ng ^п
для всех g из G. Далее, можно показать, что G действует разрывно в R и
не имеет эллиптических элементов.
Если i? = С и {оо } , то из указанных ограничений на G следует G ={ / }
(тривиальная группа), так что фактически Л = С U{oo }, Если ^ = С, то
имеются лишь следующие возможности для G: (i) тривиальная группа; (ii)
циклическая группа, порожденная некоторым z^zi-X; (iii) группа,
порожденная двумя переносами z^z i-X, z »->z + ju, где X и w линейно
независимы над полем действительных чисел. Эти возможности показывают,
что R есть или С, или С * ={z G С I z ^ 0}, или тор. Во всех остальных
случаях R имеет вид A/G, где G действует в А разрывно и не имеет
эллиптических элементов. Если поверхность R компактна, скажем, рода g, то:
Л = С, если ^ = 0;
^=С, если^ = 1;
Л=А, tcnHg> 2.
114

в свете этих замечаний можно понять важность рассмотрения групп,
действующих разрывно в А (или в некотором конформном образе А).
Определение 6.2.2. Группа G мёбиусовых преобразований
называется фуксовой группой, если существует G-инвариантный круг, в
котором О действует разрывно.
Риманова поверхность R вида A/G, где G действует в А, называется
поверхностью гиперболического типа. В этом случае дифференциал
2\dz\
ds^ -.
l-lz|2
можно отнести и к Л. Каждую кривую в R можно разбить на малые
сегменты и длины этих сегментов подсчитывать в А (инвариантным образом).
В этом смысле можно говорить о гиперболической метрике в R м
подсчитывать длины и площади в R.
Если соединить точки z и g (z) с помощью кривой в А и затем
спроектировать эту кривую в R(=AIG), то получим замкнутую кривую в Л,
поскольку 7rg(z) =n{z). Обратно, если взять замкнутую кривую 7' [ОЛ ] "^
-^R и точку Z в А такие, что n{z) =7@), то найдется единственная кривая
7: [О, 1 ] -^ А такая, что Tr-f = 7 и 7@) = z. При этом
7Г7A)=7A) = 7@) =7r(z),
следовательно, для некоторого И GG будем иметь 7@ ^h(z)\ таким
образом, 7 соединяет z с /г (z). Если у гомотопна в R точке z, то по теореме
о монодромии 7 будет замкнутой кривой в А и./г =/(напомним, что G
не содержит эллиптических элементов).
Можно было бы рассмотреть и случай м-мерных многообразий; тогда
в определении римановой поверхности следовало бы в условии (ii)
заменить С на R", а также опустить условие (iii) (или заменить требование
аналитичности каким-либо другим условием гладкости). Если G есть
дискретная мёбиусова группа, то G действует разрывно в Я^, поэтому
можно изучать H^jG\ такой подход привлекает много внимания в
последние годы.
Упражнение 6.2
1. Пусть G - группа, порожденная g: z ^z + I. Докажите, что Н^/G конформно
эквивалентно A*=(zlO<lzl<l}. (Рассмотрите отображение zt-^expBniz).)
Покажите, как метрика I dz I /Im[z ] в Я ^ преобразуется в метрику // (w) \ dw\ ь
Д ♦. Найдите ц (w) и покажите, что в этой метрике площадь области{z I .0< I z I <
< 1/2 } конечна.
§ 6.3. Устойчивые множества
А
Допустим, что область D (подмножество в С) G-инвариантна и что G
разрывно действует в D. Представляет интерес рассмотреть следующий
специальный тип инвариантности.
Определение 6.3.1. Подмножество Dq в D называется устойчивым
по отношению к G, если для каждого g ^ G
g(Do) =Do или g{DQ) П По^ф,
Множество всехg таких, что g(Do) = Dq, назовем стабилизатором Dq.
8* 115

Примеры устойчивых множеств см. в конце § 5.3.
Пусть Do - устойчивое множество и G© - его стабилизатор.
Представляется естественным ввести пространство DoIGq; как правило, это
облегчает рассмотрение множества n(Do) в D/G. Вообще говоря, два прост*
ранства
DolGo, 7r(Do)
не обязаны быть гомеоморфными, как показывает
Пример 6.3.2. Пусть Z)=C, группа G порождается ^(z) =z + 1 и
Do ={x+z> I 0<х<1}. Очевидно, DolGo(=Do) односвязно, в то время
как7г(£)о) (=7г(С)) -нет.
^о^^о ё "''^^о>
Рис. 6.3.1
Существуют важные случаи, когда Dq/Go и 7r(Do) гомеоморфны.
Укажем в явном виде условия, гарантирующие, что это будет так.
Теорема 6.3.3. Пусть G разрывно действует в Du Dq - устойчивое
подмножество со стабилизатором Gq. Если:
(i) Do открыто в Dunu
(ii:) DoIGo компактно,
то пространство Dq/Gq (с фактортопологией) гомеоморфно 7r(Do) (с
топологией, заимствованной из D/G).
Доказательство. Оба отображения
я: D-^DIG, ^:Do-^DolGo
непрерывны и открыты, так как соответствующие группы являются
группами гомеоморфизмов соответствующих пространств. Ограничение тго
отображения тг на Dq также непрерывно; значит, непрерывна и естественная
биекция
е = т1о^-^\ DolGo^7i{Do)
(рис. 6.3.1), являющаяся отображением
Go(x)^G(x)
(G (х) обозначает G-орбиту точки х\ аналогичный смысл имеет Go (х) ).
Если имеет место (i), то тго есть открытое отображение (поскольку
тг открыто) и В~^ непрерывно. В случае (ii) в есть непрерывная биекция
компактного пространства на хаусдорфово пространство и,
следовательно, гомеоморфизм (см. § 1.4).П ^
Замечание. Если D есть подобласть в С, то </? и я аналитичны, и тогда
Do/Gq ияA)о) конформно эквивалентны.
В заключение этого параграфа приведем примеры, иллюстрирующие
случаи (i) и (ii) теоремы 6.3.3.
Пример 6.3.4. Пусть G сохраняет верхнюю полуплоскость Я^ в С
и действует в ней разрывно. Пусть g - гиперболический элемент из G.
116

Мы можем предположить, что g фиксирует О и «>, так что положительная
полуось L мнимой оси инвариантна относительно g.
Допустим теперь, что для каждого h ^G выполняется h(L) =L или
h(L) ПЬ'=ф, а также что G не содержит эллиптических элементов порядт
ка 2 (которые могли бы оставлять Z инвариантным и переставлять концы
L; такая ситуация будет подробно обсуждаться в книге позднее). Тогда
h(L) =L лишь в случае, когда h принадлежит циклической подгруппе
группы G, порожденной гиперболическим элементом, фиксирующим О и
^ (можно считать таким элементом^). Имеем g(z) =kz, где, скажем,
/: > 1, и Ll< g > компактно* на самом деле это просто замкнутая кривая.
По теореме 6.3.3 проекция L ъН^ jG также является замкнутой кривой.
Пример 6.3.5. Предположим, что группа G действует разрывно в
подобласти Z)CC и что некоторый открытый круг Q устойчив относительно G,
причем стабилизатор Q есть <g>, где g — параболический элемент. Так
как Q открыт, из теоремы 6.3.3 следует, что проекция Q в DjG конформно
эквивалентна Qji g).
Применив сопряжение, можно считать^(z) =z + 1, так что
B= {x-^iy l7>7o>
при некотором >^о- Ясно, что факторпространство QH g) конформно
эквивалентно образу Q при отображении z »->expB7r/z); следовательно,
проекция Q в D/G конформно эквивалентна проколотому кругу
(zee I о< \z \<i}.
Присоединим теперь к /> точку ^ (неподвижную точку для g) и все ее
G-образы; получим некоторое большее пространство D*, Топологию в
D* введем с помощью открытых подмножеств из Д а также множеств
вида{<» }yj {xi-iy^ y>t} них Сюбразов. Факторпространство D* /G также
является римановой поверхностью; присоединение ^ к D соответствует
добавлению начала к указанному выше проколотому кругу. Заметим,
однако, что последовательность n-^iy,n> 1, не сходится в топологии /)*,
так что ^ не имеет ъ D* компактной окрестности. Разумеется, мы можем
присоединять к D различные орбиты параболических неподвижных точек
только в том случае, если для каждой из них соответствующий круг Q
существует. Подробности, а также обратный результат см. в [50], гл. 2.
Упражнение 6.3
1. Пусть Gпорождаетсяg\ z ^z + I nh: z*->-z + 1,и пусть
D = {jc + />'I0<>^<1} .
Покажите, что D устойчиво относительно < ^). Пусть тг - естественная проекция
С на C/G. Покажите, что 7r(D) компактно, в то время как D/< g > некомпактно.

ГЛАВА 7
ГИПЕРБОЛИЧЕСКАЯ ГЕ0МЕ1РИЯ
ОСНОВНЫЕ ПОНЯТИЯ
§ 7.1. Гиперболическая плоскость
Мы принимаем за исходное евклидову геометрию. Вопросы
аксиоматического обоснования геометрии нас здесь интересовать не будзпг. Прежде
всего нужно решить вопрос о подходящем истолковании гиперболической
геометрии. Мы не предполагаем, что читатель знаком с нею в той же
степени, как с евклидовой геометрией. Между тем для использования в
дальнейшем нам необходимы многие основополагающие и элементарные
результаты гиперболической геометрии.
Мы будем описывать гиперболическую геометрию в тер\ганах
евклидовой геометрии, отводя ей, таким образом, как бы подчиненную роль.
Точки, прямые и другие фигуры будут определяться как подмножества
евклидовой гоюскости, что позволит избежать рассмотрения аксиом
гиперболической геометрии. Разумеется, соответствующие Системы аксиом
существуют, и, проверив однажды, что эти аксиомы выполняются в нашей
модели, мы имели бы право использовать в дальнейшем теоремы, вытекающие
из этих аксиом. Однако мы не станем следовать по такому пути, а будем
вести рассмотрения в рамках евклидовой геометрии, по возможности
строго и полно.
В § 3.3 мы видели, что можно использовать верхнюю полуплоскость
Я^ =1х+/> I >^> 0)
в качестве модели гиперболической плоскости, положив в основу метрики
р дифференциал
\dz\
ds^ . G.1.1)
Im [z]
Мы видели также, что отражения относительно окружностей вида I г -
-Хо\ =г (хо ~ действительное, г >0) и отражения относительно
"вертикальных" прямых вида х= xi (Xi — действительное) с)ггь изометрии для
(Н^ ,р). Мы вернемся к этим фактам в следующих параграфах.
Существует параллельная конструкция гиперболической плоскости в
виде единичного круга
Д={гЕС1 \z \<\} .
Как следует из результатов § 3.4, метрика р в Я^ преобразуется в
метрику на А, порождаемую дифференциалом
2 \dz\
На протяжении остальной части книги мы используем обозначение р как
ОЛЯ метрики в Я^ так и для метрики в А. Это не должно смущать читате-
118

ля, которому необходимо привыкнуть к частой смене одной модели-
другой, поскольку каждая из них имеет свои важные специфические
особенности.
Одно .из основных преимуществ рассмотрения гиперболической
геометрии в евклидовых терминах состоит в том, что мы можем ввести
окружность из бесконечно удаленных точек: под этой окружностью мы
понимаем R^ U{«»} в случае Н^ и {г* I I z I = 1} в случае А. Эти точки не
принадлежат гиперболической плоскости, однако они играют важнейшую
роль при изучении гиперболической геометрии и фуксовых групп.
Объединение гиперболической плоскости с бесконечно удаленной окружностью
называют замкнутой гиперболической плоскостью.
Мы будем ссылаться на две указанные выше модели гиперболической
геометрии как на модели Пуанкаре. Существуют и другие полезные
модели (см. § 3.7); одну из них, а именно, модель Клейна, мы также будем
обсуждать (хотя и кратко). Заметим, однако, что, за исключением
одного результата (в § 7.5), а также сделанных по случаю
замечаний или отдельных примеров, модель Клейна использоваться не
будет.
В § 3.4 мы видели, что отражение относительно плоскости Хз = О,
выполненное вслед за стереографической проекцией, отображает Н ^
изометрически на -5^, причем метрики аналогичны заданным G.1.1) и G.1.2). Это
составное отображение обозначим s. Тогда верхняя полусфера
G={(xi, Х2,хз) I х1+х1+д:1 = 1, хз>0}
(которая является моделью гиперболической плоскости, вложенной в
гиперболическое пространство Н^) отображается посредством s
изометрически на А (= ^^), вложенное ъВ^. Заметим, что поскольку отображение s
является конформным, дуги окружностей в Q, ортогональных ЪН^,
отображаются в дуги окружностей в А, ортогональных ЪВ^,
Можно также отобразить б на А посредством вертикальной проекции,
а именно:
и: {Хх,Х2,Х2)^Хх +/Х2.
Тогда при отображении F(= vs "^) круга А снова на А дуги окружностей в
А, ортогональных Э А (геодезические в А), переходят в евклидовы отрезки
с теми же концами на ЭА. Смысл этого в
том, что F есть гомеоморфизм замкнутого
единичного круга А в себя, который
отображает каждую геодезическую L на модели
Пуанкаре на евклидов отрезок L* в А с
теми же концами, что и L (рис. 7.1.1).
Действие F можно легко записать
аналитически, причем сразу для случая п
измерений. Еслих€5", то
F(x) = u5~4^) ^V7r''\x) = vn(x\
где 7г — стереографическая проекция (или,
если угодно, отражение относительно сферы
S (е„+1, х/?)). Формула для тг, данная в § 3.1, Рис. 7.1.1
119

теперь дает явное выражение для F, а именно:
2х
Если S{a,r) есть сфера, ортогональная ЪВ^^ то | а 1^ = 1 +/-^
(вследствие ортогональности) и S имеет уравнение
|х|^ +1 =2(x.j).
Таким образом, F отображает S {а, г) в евклидову гиперплоскость
S*^{y\{y'a)^\) ,
которая пересекает Э^'' по тому же множеству точек, что и5(д,г).
Клейнова модель гиперболической геометрии (т.е. модель Д с
геодезическими в виде евклидовых отрезков L*) является удобной моделью для
установления свойств инцидентности и выпуклости в гиперболической
геометрии, поскольку она преобразует их в соответствующие свойства
евклидовой геометрии.
§ 7.2. Гиперболическая метрика
Наша первая задача состоит в том, чтобы дать аккуратное описание
конструкции метрики р, исходя из дифференциала G.1.1). Каждой кусочно
непрерывно дифференцируемой кривой в Я^, скажем 7- [^» ^] '^Н^, мы
сопоставляем ''длину'' II 7 II с помощью формулы
II 7 II = / 1—гг- dt.
а Im[7(r)]
После этого функция р определяется как
p.{z, w) = inf II7 II B, w ЕЯ^),
где inf берется по всем 7, соединяющим z с wb Я^. Легко видеть, что р
неотрицательна, симметрична и удовлетворяет неравенству треугольника
рB1,2з> < рB1,22)+рB2,2з),
иначе говоря, р есть метрика в Я^ (см. § 1.6).
Пусть теперь
az ^Ь
^(г) = , G.2.1)
где д, b,c,d - действительные nad — Ьс> 0; таким образом, g отображает
Я ^ на себя. Элементарный подсчет показывает, что
\g(z)\ ^ 1
Im[^(z)] Im[z]
и, таким образом,
и „ ?lg'WO)l- 1У@1 .. „ „
а Im[gG(f))]
Как следствие этой инвариантности мы непосредственно получаем ин-
120

вариантность р, а именно:
p(gz.gw) = p(z, w).
G.2.2)
Это показывает, что каждое из указанных g есть изометрия (Я \ р). Мы
используем сейчас этот факт для получения явного выражения для p(z, w).
Теорема 7.2.1. Для указанной выше метрики р и любых z, w
изН^ справедливы равенства:
(О p{z, w) = In
|z - w I н- |z -
Iz-vv I ~ \z
w
w
{ii) ch p(z, w) = 1 +
(iii) sh — p(z,w)
(iv) ch ~ p{z,w)
(v) th -- p{z, w)
\z-w\'
2Im[z]Im[w]
\z -w\
"" 2(Im[z]ImM)^/2 '
|z- vv I ^
"" 2(Im[z]Im[w])^/2 '
z — vv
z -w
Доказательство. Легко видеть, что все написанные равенства
эквивалентны друг другу. Докажем (ii).
Согласно G.2.2) левая часть (ii) инвариантна относительно g.
Непосредственное вычисление показывает, что
\g{z)-g{w)\
iz - vv I
Im[g(z)]Im[^(w)] Im[z]Im[w]
следовательно, правая часть (ii) также инвариантна относительно g. В
действительности это не более как инвариантность C.3.3), установленная
в § 3.3.
Выберем теперь различные z и vv в Я^, и пусть L будет (единственная)
евклидова окружность или прямая, содержащая z и w и ортогональная
действительной оси. Одну из точек пересечения L с действительной осью
обозначим а и положим g{z) = -(z - а)"^ + jS; взяв jS подходящим
образом, можно считать, что g в G.2.1) отображает L в мнимую ось. Таким
образом, достаточно проверить (ii) для случая; когда z и w лежат на
мнимой оси.
Пусть Z = ф, W = iq, причем О < р < q (следует учесть, что обе части
(ii) симметричны относительно z и vv). Если
7(Г) = х@ + г>@, О < Г < 1,
~ некоторая кривая, соединяющая z и w в Я^, то
1 U'@ + rv'(Oi ^ ^ / y'jt) ,
II 7 II = / — dt > S ——-dt = In {qlp)
0 y(t) 0 y{t)
(поскольку y{\) = q, д'(О) = p). Так как равенство имеет место, напри-
121

мер, в случае
7@ = i[p-^Kq-p)],
то находим
р(/р, iq) = In (q/p) (О < р < q).
Этим, очевидно, доказано (ii) для z = ф, w = iq. П
Замечание. Мы доказали несколько больше, чем утверждается
в теореме 7.2.1. Во-первых, мы получили, что
II 7 II = P(ip.iQ)
(тем самым II у II минимально) в том и только в том случае, когда х(г) = О
и У (г) > О для всех t Е [О, 1 ]. К этому факту мы еще вернемся в
следующем параграфе. Далее, отметим для будущего формулу
Piipjq) = \\nip/q)\, G.2.3)
в которой уже не обязательно считать р< q.
Рассмотрим теперь модель А. Отображение
Z - i
т =——
есть взаимно однозначное отображение Н^ на А, следовательно, формула
P*{z, w) = P{r^z,r^w) (z, wG A)
дает метрику p* на A. Так как, однако,
2|Г(г)| ' 1
1~1/(г)|' Im[z]
BЕЯ^),
то мы можем ,идентифищ1ровать р* с метрикой, порожденной
дифференциалом G.1.2). Как уже отмечалось, мы предпочитаем писать в обоих
случаях р; при таком соглашении / есть изометрия {Н^, р) на (А, р).
Можно вывести формулы и для модели А - путем простой
переформулировки теоремы 7.2.1 с помощью /. Более эффективно, однако,
работать прямо с А; к примеру, соответственно G.2.3) находим, что если
0<г< 1,то
^ Idt 1 + г
Рф.г) - i --—- \п .
о 1 - Г 1 ~ г
Если Z и W — различные точки в А, то существует изометрия g круга А
на себя такая, что g{z) = О и g(w) = г, г > 0. Инвариантность,
выраженная C.4.3), дает
G.2.4)
\z-w\^
r'
(l-lzPXl-lH-P) 1-r^
= sh4-^ p@,r)
= shAj piz, w)^.
Тождество C.4.4)
11 -zw\^ = |z-»vp+(l-|z|^)(l -
122
■i»vp)

совместно с G.2.4) дает
,21 - . i Il-zw|^
ch'"
|-ур(г.и.)]
(l-|zp)(l-|w(^) '
что есть фактически C.4.5). Наконец, получаем
Г 1 1 Z-W
^[yP(z.w)J = —
th
■ zw
( 1 -zw ( + 1 z - w I
p(z. w) = In — ; . G.2.5)
ll-zw|~|z-w|
в качестве простых и полезных примеров на применение этих ид^й
вычислим длину окружности и площадь круга на гиперболической
плоскости (ср. C.3.5)). Разумеется, обе величины инвариантны относительно
изометрий.
Если область Е содержится в А, то гиперболическая площадь£выра-
Г 2 У
жается в виде h -площадь (£) = // ■ dx dy\
в случае же, когда Е принадлежит Н^, подынтегральная функщш
заменяется на 1/1 д' I ^. Для кривой С в А гиперболическая длина есть
, 2\dz\
/|-длина (О = / -—-—т,
с 1 -|z Г
а в случае, когда С лежит в Я^, подынтегральная функщ1Я должна быть
Теорема 7.2.2. (i) Площадь гиперболического круга радиуса г
равна 47Г sh'
(тО-
(ii) Длина гиперболической окружности радиуса г равна In sh г.
Доказательств о. Используем модель А. Пусть С и D будут
соответственно окружность и круг с центром О и гиперболическим радиусом/*.
Из G.2.4) следует, что
С ={z I izl = /?}, D ={zi izl < R),
где
sh
\2 / (l-R'yf^
или, что эквивалентно,
th
(тО--
Утверждения теоремы получаются теперь непосредственным
интегрированием. D
123

g(w*)=<^ Если мы привлечем к
рассмотрению бесконечно удаленную
окружность, то можем получить выражение
для p(z, w) в терминах двойного
отношения. Напомним, что, согласно
§ 4.4, двойное отношение
определяется как
(Zi -Z3)(Z2 -24)
[21,22,23,24] =
g(w)=iv
giz) = iy
g(z^)=0
w
Z* tW~^ Bi -22X23 -24)
Рис. 7.2.1 Пусть / и w - различные точки в
Я^, и пусть g Yi L означают то же, что
и в доказательстве теоремы 7.2.1. Далее, пусть L пересекает
действительную ось в точках 2* и w*; можно принять, что z*,z,w,w*
расположены на L именно в этом порядке (рис. 7.2.1). Поскольку^ (Z.) есть мнимая
ось, ^B*) = О или ^B*) =«». Если^B*) = «>, МЫ можем применить отобра-
жение 2 »-*• -1/2; таким образом, можно считать^ выбранным так, чтобы
g{z*) = О, g{z) = г>, g{w) = iv, g{w*) = 00^
где у < V. Поскольку двойное отношение есть инвариант мёбиусовых
преобразований, из G.2.3) получаем
p{z, w) = p{gz,gw) = 1п(и/у) = ln[0,/>, /и,«>] = ln[2*, 2, w, w*]. G.2.6)
Разумеется, этот же результат верен и в Д, поскольку мы можем
отобразить Н^ на Д изометрически с сохранением двойного отношения.
Закончим этот параграф несколькими замечаниями относительно
метрической топологии гиперболической плоскости. Во-первых, евклидова и
гиперболическая метрика в Н^ (а также в Д) индуцируют одну и ту же
топологию. В частности, замкнутая гиперболическая плоскость компактна
в евклидовой топологии, и индуцированная топология является
гиперболической топологией. Далее, удобно ввести специальные обозначения
для замыканий относительно гиперболической плоскости, а также
относительно замкнутой гиперболической плоскости.
Определение 7.2.3. Пусть Е — подмножество гиперболической
плоскости. Тогда
(i) Е обозначает замыкание Е относительно гиперболической
плоскости; _
(ii) Е обозначает замыкание Е относительно замкнутой
гиперболической плоскости. д
Разумеется,£ есть также замыкание £' в С.
Упражнение 7.2.
1. Пусть L есть множество точек х + iy в Н^, для которых х = у. Найдите, при
каком Z для данного wBH^ достигается
inf {рB, w)|zGl}^
и опишите эту точку в геометрических терминах.
2. Пусть Xj < Х2 < Х2 < х^. Пусть полуокружность в Я^ с диаметром [ху, х^ ]
пересекает прямую дс = х^ в точке Zg, а полуокружность с диаметром [xi, х^ ]
пересекает ту же прямую в Z4. Докажите, что
124

3. Покажите, что если а есть метрика на множестве X, то th а также является
метрикой на X. Выведите отсюда, что
12- УУ|
PoU, w) = =~
. \z - W \
есть метрика в Н^. Покажите, что
Pq(u,v) = РоШ, w)+Po(w. и)
тогда и только тогда, когда w - и или w ^^v.
4. Покажите, что Ш^, р) - полное, но не компактное.
§ 7.3. Геодезические
Мы начинаем с определения гиперболической прямой или, более
коротко И-прямой как пересечения гиперболической плоскости с
евклидовой окружностью или прямой, которые ортогональны бесконечно
удаленной окружности. При таком определении следующие факты являются
очевидными:
A) Существует единственная И-прямая, проходящая через две данные
различные точки гиперболической плоскости.
B) Две различные И-прямые пересекаются самое большее в одной
точке гиперболической плоскости.
C) Отражение относительно И-прямой является р-изометрией (см.
§3.3).
D) Для любых двух И'прямыхLi и L2 существуетр-изометрияg такая,
4T0g(Li) =/.2 (см. доказательство теоремы 7.2.1).
Очевидно, для всякого wEH^ множество
{Z ЕЯ^| \z\ = \w\}
есть однозначно определенная Л-прямая, которая содержит w и
ортогональна положительной полуоси мнимой оси (последняя тоже является Л-пря-
мой). Поскольку изометрия в D) может быть выбрана как
преобразование Мёбиуса, получаем
E) Для данной И-прямой L и данной точки w существует единственная
И'прямая, проходящая через w и ортогональная L.
Не входя в детали, отметим, что существенной чертой аксиоматики
геометрии является отношение "лежать между" для точек на прямой.
В нашем случае это отношение может быть описано в терминах
метрики.
Если Z и W - две различные точки /i-прямой L, то множествоL\{z, w}
состоит из трех связных компонент, одна из них имеет компактное
замыкание (относительно гиперболической плоскости). Эта компонента
представляет собой открытый отрезок (z, w), и мы считаем точку f лежащей
между Z и W, если f Е {z,w). Замкнутый отрезок [z, w] и отрезки [z, w),
{z ,w\ определяются очевидным образом.
Обсуждение, предшествовавшее G.2.3), показывает, что кривая 7,
соединяющая ip и iq, удовлетворяет
II 7 II = Р(Ф, iq)
тогда и только тогда, когда 7 есть параметризащ1я [ip, iq] как простой
кривой. В инвариантной форме этот факт может быть высказан следующим
образом.
125

Параллельные Расходящиеся Пересекающиеся
Рис. 7.3.1
Теорема 7.3.1. Пусть z им; - две точки на гиперболической
плоскости. Кривая у, соединяющая z и w, тогда и только тогда удовлетворяет
II 7 II = РB, >v),
когда у есть отрезок [z, w], параметризованный как простая кривая.
По этой причине мы называем в дальнейшем /i-прямые геодезическими
(кривыми наименьшей длины).
Рассмотрим теперь три точки z, w^ f. Из специального случая G.2.3)
ясно, что если f лежит между z и w, то
p(z, w) = p(z, f) + P(f, vv).
Точно так же ясно, что если f не лежит между z и w, то кривая у,
состоящая из отрезков [z,f] и [f,w], удовлетворяет, (по теореме 7.3.1)
II 7 II > P(z,w),
Таким образом, нами получен следующий результат.
Теорема 7.3.2. Пусть z и w - две различные точки на
гиперболической плоскости. Тогда
Piz,w) = p(z, f)+P(f, >^)
в том и только в том случае, когда ^ G [z, w].
В заключение этого параграфа введем еще несколько терминов. Во-
первых, точки Zi, Z2, . . . назовем коллинеарными, если они лежат на
одной геодезической. Далее, всякая геодезическая имеет две концевые
точки, лежащие на бесконечно удаленной окружности. Естественно
распространить способ обозначения отрезка так, чтобы он охватывал и всю
геодезическую; таким образом, (а, j3) будет обозначать геодезический
отрезок с концевыми точками а и j3, даже если последние являются
бесконечно удаленными. Луч из точки z есть отрезок [z, а), где а. —
бесконечно удаленная точка; геодезическая (а, 13) любой из своих точек z
разбивается на два луча, а именно, [z,a) и [z,i3).
Определение 7.3.3. Пусть Li и L2 - различные геодезические.
Скажем, что Li и L2 параллельны, если они имеют ровно одну общую
концевую точку. Когда Li и L2 не имеют общих концевых точек, они
называются пересекающимися, если L2 (^ 12'^Ф, ^ расходящимися*), если
Li П L2 =0.
Введенные термины иллюстрируются на модели Д с помощью рис. 7.3.1.
♦)В оригинале "disjoint" (разъединенные). - Примеч. пер.
126

Упражнение 7.Э
1. Пусть W = м + /и, w' = /и и Z = п' - точки в Н^. Докажите, что
если и только если w = w'. Докажите теорему 7.3.2.
§ 7.4. Изометрии
В этом параграфе нашей целью является характеризация всех изометрии
гиперболической плоскости. Пусть z, w, ^ - три различные точки в Я^,
причем f лежит между z и w. Как следует непосредственно из
теоремы 7.3.2, для каждой изометрии ^ точка ^{^) лежит между ^(z) и v?@-
Таким образом, ^ отображает отрезок [z,w\ в отрезок [<^(z), <^(w)];
отсюда следует, что ^ отображает Л-прямые в /i-прямые.
Если дана изометрия ^, то существует изометрия
az-^b
g{z) = {ad -bc>0)
cz -^d
такая, что g^p оставляет инвариантным положительный луч мнимой оси
(g выбирается так, чтобы <р (L) отображалось в L). Применив, если нужно,
изометрии Z ^-^ kz (/: > 0) и z f-> - 1/z, мы можем считать, что g<p
оставляет на месте точку /, а также оставляет инвариантным каждый из лучей
(/, «>) и (О, /). Как следует теперь непосредственно из G.2.3),^(^
оставляет на месте каждую точку из L.
Выберем далее некоторое z Е Я^ и положим
Z = л: + /у, g^(z) = W + iv.
Для всех положительных t
p(z, it) = p(g^l g^{it)) = p(M +/i;, it)
И, таким образом, по теореме 7.2.1 (iii)
[jc^ ^{y-tf]v = [u^ ^{v-tf]y.
Так как это верно для всех положительных Г, имеем у =^v vix^ = w^;
следовательно,
g^z) = z или -Г.
По непосредственным соображениям непрерывности (изометрии суть
непрерывные отображения) один из этих случаев имеет место сразу для
всех Z на Я^ (например, множество всех z из открытой первой четверти,
для которых g^(z) = Z, одновременно и открыто, и замкнуто б этой
четверти). Этим доказан следующий результат.
Теорема 7.4.1. Группа всех изометрии в (Н^, р) есть в точности
группа отображений вида
az-^b fif(-z)+Z?
z h> , 2i-> ,
cz-^d c(-z)-^d
где a, b, c, d- действительные и ad - be > 0. Далее, группа изометрии
порождается отражениями относительно h-прямых.
127

Подобные же рассуждения применимы и к модели А; здесь изометрии
имеют вид
Д2 + с" Д2 + с"
ZV^ —, 2У^—:_ З' ,
CZ + Д G2 + Д
гдек|2-к|2 = 1.
Заметим, что если
A2 -^'с
то из G.2.4) получаем полезные равенства
1
к1 = sh^ р@,^0), G.4.1)
1
|а| = ch— р@,^0) G.4.2)
и таким образом (см. § 4.2) находим снова, что
\\gf = 2chp@,^0).
Разумеется, если h есть изометрия в (Я^ > р), то
||Л||2 = 2ch p(i,hi)
— доказательство получается элементарным вычислением с
использованием 7.2.1 (ii) (или теоремы 4.2.1).
Упражнение 7.4
1. Пусть Гу, Wj (/ = 1, 2, 3) - точки в Я^. Покажите, что изометрия g, для
которой g (Zy) = wy (/ = 1,2,3), существует тогда и только тогда, когда
§ 7.5. Выпуклые множества
Подмножество Е гиперболической плоскости называется выпуклым,
если для любых z и w из £ имеем [z, w] С Е. Следующие свойства
выпуклых множеств проверяются очевидным образом:
A) ЕсЛи Е выпукло, то и g(E) выпукло для любой изометрии g.
B) Если Е выпукло, то и Е^ (внутренность Е), а также Ё выпуклы.
C) Если El, Е2, . . . выпуклы, причем Ех С Е2 С . . . , то и U Е„
выпукло.
D) Если каждое Eq^ выпукло, то выпукло и Г) Е^^.
а
Как следует из определения, любая геодезическая является выпуклой.
Отображение iy^]n у есть гомеоморфизм гиперболической геодезической
Uy \у > 0}на. евклидову геодезическую {х -^ iy \ у = 0), который
сохраняет отношение "лежать между". Мы выводим теперь, что только отрезки
являются выпуклыми множествами на гиперболической геодезической.
Открытая полуплоскость есть связная компонента дополнения к
геодезической. Любая открытая полуплоскость выпукла. Этот факт можно
128

получить, например, с помощью модели
Клейна. Пусть F: 1^-^й.- отображение, описанное
в § 7.1. Оно отображает геодезические
модели Пуанкаре (А, р) на евклидовы
отрезки в А, и, следовательно, подмножество Е
в А выпукло на модели Пуанкаре тогда и
только тогда, когда F(£) выпукло в
евклидовом смысле. В частности, полуплоскость
в модели Пуанкаре отображается в
пересечение Ас евклидовой полуплоскостью;
последнее же выпукло в евклидовом смысле.
Таким путемклейновамодельпозволяет сводить Рис. 7.5.1
гиперболическую выпуклость к более
привычному понятию евклидовой выпуклости.
Согласно B) замкнутая полуплоскость выпукла. Если теперь Е^^
(pL ^ А) есть семейство полуплоскостей (открытых или замкнутых), то
дополнение к U Е^ есть пересечение полуплоскостей и, следовательно,
выпукло. Например, гиперболический круг D является выпуклым,
поскольку он может рассматриваться как дополнение к объединению
(опорных) полуплоскостей на рис. 7.5.1.
Существуют два других примера подобного же рода, которые мы
будем использовать в дальнейшем. Орициклическая область есть
внутренность евклидова круга, касательного к бесконечно удаленной
окружности. Беря в качестве модели Я^ и принимая оо за точку касания, мы можем
считать, что ориш1клическая область есть {х -^ iy \у > t}. Эта область
выпукла как дополнение к объединению полуплоскостей вида {z Е
G Я^ I I Z - JCo I < f}, где Хо пробегает всю действительную ось. Граница
орищ1Клической области есть орицикл.
Гиперциклическая полоса есть область, которая изометрически
конгруэнтна области вида
{zeH'\ I arg(z) - 7Г/2 I < в)
для некоторого в G (О, 7г/2). Смысл этого определения будет объяснен
позднее, пока же заметим, что такая полоса выпукла как дополнение к
объединению полуплоскостей вида
(z € Я^ I I Z - дго I < д:о cos ^ } (jco - действительное).
Граница гиперциклической полосы называется гиперциклом *).
Мы заканчиваем этот параграф характеризацией замкнутых выпуклых
множеств. Множество Е называется локально выпуклым, если для каждой
точки Z ^ Е существует открытая окрестность N, такая, ^о Е Г) N
выпукло. Понятия выпуклости и локальной выпуклости имеют
одинаковый смысл в евклидовом и гиперболическом пространствах и
очевидным путем распространяются на замкнутую гиперболическую
плоскость.
♦^Подробнее об этом см. в § 7.30. Связные компоненты гиперцикла обычно
называют эквидистантами. - Примеч. пер.
9. А. Бердон 129

Рис. 7.5.2
Теорема 7.5.1. Пусть Р -
евклидова плоскость или замкнутая
гиперболическая плоскость. Замкнутое
подмножество в Р выпукло тогда и только тогда,
если оно связно и локально выпукло.
Доказательство. Если утверждение
теоремы будет доказано для случая
евклидовой плоскостидо из связи между
моделями Пуанкаре и Клейна будет следовать, что
оно справедливо и в случае
замкнутой гиперболической плоскости. Таким
образом, достаточно показать, что
если Е ~ замкнутое связное локально выпуклое подмножество в R^,
то Е выпукло (обратная импликация тривиальна).
Назовем две точки в Е ломаносвязанными, если их можно соединить
ломаной, лежащей в Е. Это отношение является отношением
эквивалентности, а локальная выпуклость Е означает, что классы эквивалентности
относительно открыты в Е. Так как Е связно, существует только один
класс эквивалентности, т.е. любые две точки в Е можно соединить
ломаной линией, лежащей в Е. Вследствие этого достаточно показать, что
если евклидовы отрезки [и, v] и [v, w] лежат в Е, то это же верно и для
отрезка [и, w]. В случае, когда и, и, w коллинеарны, это очевидно;
поэтому предположим, что w, и, w не коллинеарны.
Для любой тройки точек а, Ь, с обозначим Г(д, Ь, с) замкнутый
треугольник с вершинами а, Ь, с (т.е. выпуклую оболочку точек а, Ь, с).
Пусть К - множество всех х из [и, и] таких, что при некотором у из
(и, w) имеем Г(и, х, у) СЕ. Так как Е локально выпукло в и, то А"
содержит некоторый интервал положительной длины. Ясно тогда, что К
само есть интервал вида [v,Xo) или [и,Хо], гдеХо ^и; покажем, что
К= [v,u].
Выберем окрестность N точки xq такую, что Е П N выпукло, а затем
выберемXi B[v,Xo)nN и Xj в [хо,и] ПЛ'(рис. 7.5.2).
Так как Xi Е А', то существует Уг ^ (и, vv) такое, что
Пи, хг.Ух) СЕ.
Выберем Z в МП {xi,yi)\ так какE^N выпукло, то
T(z,XuX2)CE.
Беря>'2 как указано на рис. 7.5.2, получим
T(v, Х2.У2)С Tip, ХиУх)^ Т(хи хг. z) С Е,
так что Х2 Е К. Это показывает, что Xq Е К и Хо - и, т.е. К = [и, и].
Заметим, что так как и ^ К, существует у Е (и, w) такое, что Г(и, и, у) СЕ.
Теперь рассмотрим множество Ki, состоящее из всех таких у в [и, w],
что T(v, и, у) С Е Как и выше, Ki есть некоторый отрезок [и, Уо) или
[и, Уо], Так как Е замкнуто, то Ki = [и, Уо]- Предьщущее рассуждение
(в котором и, и, W следует заменить на и, уо, w) показывает, что Уо = w,
так что W € Ai и
T(v,u,w)CE. П
130

Упражнение 7^
1. Пстьг, z', w, w' - точки в Н^. Докажите, что если w G [z, z'J, то
p(w, w'.)< max{p(w, z),p(w',z)}.
Выведите (аналитически), что гиперболический круг является выпуклым.
2. Постройте подмножество Е в Н^, которое связно и локально выпукло, но
не вьшукло (см. теорему 7.51).
3. Покажите, что в точности одно из множеств
{x + iy^H^\a <х <b, у <с},
{x-^iy^H^ \а <х <Ь, у>с]
является выпуклым.
§7.6. Углы
Наше отношение к понятию угла в гиперболической плоскости
согласуется с основной установкой § 7.1, а именно, мы определяем углы в
гиперболической геометрии в терминах евклидовой геометрии. В
гиперболической геометрии угол с вершиной z есть неупорядоченная пара лучей
{L, L*) с началом в z. Пусть {L, L*) -,угол с вершиной z; допустим на
время, что L и L' не принадлежат одной геодезической. Луч L определяет
геодезическую, скажем L*\ открытый луч Z.'\{z}He пересекается с L*.
Отсюда следует, что L\{z) лежит в одной из двух открытых
полуплоскостей, скажем Z', составляющих дополнение к L*. Точно так же L\{z)
лежит в одной из двух полуплоскостей, скажем Z, дополнительных к
(/.')*. Мы определяем теперь внутренность угла (L,L*) как Z П S'. Легко
видеть, что внутренность (Ь,1') есть одна из компонент связности
дополнения к L и/.'; другая компонента называется внешностью угла (L, L').
Если L и L' принадлежат одной геодезической, то либо L U L' есть
геодезическая (тогда не существует канонического выбора для
внутренности или внешности), либо L = ь; в последнем случае мы считаем
внутренность пустым множеством, а внешность определяем как
дополнение к L.
Если дан угол (L, L') с вершиной z, причем L vi L* определяют
различные геодезические, то внутренность (L, L*) есть выпуклое множество,
поскольку она является пересечением полуплоскостей. В
противоположность этому внешность не может быть выпуклой', в противном случае,
отрезок, соединяющий точки из Z.\{z}h L\{z}, должен был бы
принадлежать одновременно внутренности и внешности (L, Z.'). Разумеемся,
мы можем измерять внутренние и внешние углы с вершиной z обычным
путем, и соответствующие меры лежат в [О, тг) и (тг, 2п] соответственно.
ГИПЕРБОЛИЧЕСКАЯ ТРИГОНОМЕТРИЯ
§ 7.7. Треугольники
Пусть Z1, Z2, Z3 - три неколлинеарных точки в гиперболической
плоскости и Z.2, Z/3 — лучи, выходящие из Zi и проходящие через Z2 и zs
соответственно. Тогда (Li, Ьз) есть угол с вершиной Zj; обозначим его
внутренность Ai, Аналогично определим Аг и А^ как внутренности углов с
вершинами Z2 и Z3. Эти обозначения понятны с одного взгляда на рис. 7.7.1.
Заметим,что (z2,Z3) CAi в силу выпуклости Л1 (см. § 7.6).
9* 131

Определение 1Л Л.Треугольник T{zi,Z2yZz) ecTb^i ПЛ2 ПЛ3.
Точки Zj суть вершины, отрезки [z/, Zj] - стороны vl Ai - углы
треугольника T{zi, 22, 23). Каждый из углов треугольника является
внутренним углом и меньше, чем тт. Для краткости вместо T{z 1,22,23) мы пишем
просто Г. Заметим, что так как каждое Лу выпукло, то выпуклым
является и Т. Более того, -4/ служат также углами Г в том смысле, что для до-
w
Рис. 7.7.1
Рис. 7.7.2
статочно малого открытого круга Z) с центром, скажем, в zi
опт = DDAi,
Чтобы это увидеть, обозначим Яу полуплоскость, содержащую 2/, для
которой остальные два 2/ являются граничными точками, тогда (если
DCHi)
DDAi = (DnHi)n(H2 ПНз) =
= /)П(Я2 ПЯз)П(Яз nHi)n(Hi ПЯ2) = DOT,
Далее, определим 9Г посредством
ЭГ= [2х,22]и[22,2з]и[2з,2,];
это множество может быть параметризовано как^ жорданова кривая с
внутренней областью, скажем Го- Так как дТ С Hi, то Го С Hi. То же
самое верно и в отношении Я2 и Яз, так что
ГоСЯ, ПЯ2 ПЯз = Г.
Так как множество Т связно (на самом деле выпукло) и не
пересекается с ЭГ, то оно лежит внутри или снаружи ЭГ. Однако Г и Го
пересекаются, так что ГС Го и, следовательно, Г= Го.
В аксиоматической схеме оказывается весьма существенным принять
за аксиому тот факт, что луч L, исходящий из 2i и проходящий через
точку W G ГB1, 22, zs), обязательно пересекает сторону B2, ^з). В
нашем случае заметим, что (связное) множество i \ {21) пересекает
внутренность ЭГ (в точке w) и не может пересечь сторон [zi, 22] и [21,23].
А так как L\{zi) не ограничено, то его замыкание пересекает бесконечно
удаленную окружность и тем самым должно пересечь ЭГ.
Следующий результат удобно использовать при выводе
тригонометрических формул (и, значит, он должен быть доказан независимо от этих
формул).
Теорема 7.7.2. Пусть L - геодезическая, содержащая длиннейшую
сторону, скажем [22, 2з], треугольника Г. Тогда геодезическая Li, про-
132

ходящая через Zi и ортогональная L, пересекает L в точке w,
принадлежащей [22, ^з].
Доказательство. Мы можем считать, что L есть положительный
луч мнимой оси, так что w = / | z j | (рис. 7.7.2).
Легко видеть, что
РBь22) > P(W,22)
И аналогично
p(Zi,Z3) > P(W. 2з)
(см. § 7.20, где не используется тригонометрия). Так как [z2, 2з] ~
наибольшая сторона, то
max {p(Z2, w), p(z3, w)} < p(z2, Z3).
Ho точки Z2, Z3, w коллинеарны, и одна из них должна лежать между
двумя другими. Используя теорему 7.3.2, мы видим, что w лежит между
Z 2 и Z 3 (или совпадает с одной из них). П
Большая часть материала этого параграфа без труда допускает
распространение на случай, когда некоторые (или все) вершины лежат на
бесконечно удаленной окружности. Существенным исключением из этого
является теорема 7.7.2 (рассмотрите случай, когда Z2 или 2з, но не обе точки
вместе, лежат на бесконечности).
Упражнение 7.7
I.- Покажите, что в гиперболической геометрии вершины треугольника могут
не лежать на одной окрух скости.
2. Докажите, что диаметр треугольника Г, а именно
sup{p(z, w)\z, we Г},
совпадает с длиной наибольшей из сторон (см. упражнение 7.5.1).
§ 7.8. Обозначения
В следующих шести параграфах мы будем иметь дело с
гиперболическими треугольниками, поэтому имеет смысл ввести некоторые
стандартные обозначения; они позволят нам в удобной форме записать
тригонометрические соотношения. Вершины треугольника Т будем
обозначать Уд, Vf,, Vc, длины сторон, противолежащих этих вершинам, - а, Ь, с
b
Рис. 7.8.1
соответственно и внутренние углы при вершинах - а, /3, 7- Эти
обозначения показаны на рис. 7.8.1. Так как изометрии сохраняют длины и углы,
то тригонометрические формулы остаются при изометриях инвариантными.
133

Мы не будем исключать и такие случаи, когда некоторые (или даже все)
вершины треугольника лежат на бесконечно удаленной окружности. Если,
например, и^ находится на бесконечности, то
а = О, b = с = ^.
Если две веришны находятся на бесконечности, то все три стороны имеют
бесконечную длину.
Упражнение 7.8
, 1. Пусть Т^ и Ti - два треугольника, в каждом из которых все три стороны имеют
бесконечные длины. Покажите, что существует изометрия, отображающая Г^ на Г,.
§ 7.9. Угол параллельности
Угол параллельности есть классическое понятие, выражающее
тригонометрическое соотношение для треугольника с углами а, О, 7г/2; в этом
случае имеются лишь два параметра, именно, а и ^.
х-^гу
Рис. 7.9.1
Теорема 7.9.1. Пусть Т - треугольник с углами а, О, 7г/2 (аФ 0),
Тогда:
0) sh ^ tg а = 1;
(ii) ch ^ sin а = 1;
(iii) th Ь sec а = 1.
Доказательство. Мы работаем с Я^ и предполагаем, что
Vc = i. Уь = *»»
Va = х-^ iy,
где л:^ +;^^ = 1 (рис. 7.9.1). Так как>^ = sin а, теорема 7.2.1 (ii) дает (ii).
Остальные формулы эквивалентны (ii). D
§ 7.10. Треугольники с вершиной в бесконечности
Рассмотрим треугольник с углами а, /3, О, где а и /3 отличны от нуля;
тогда
j = b = «', 0<с<«'.
Установим соотношения между а, j3 и <?.
134

Теорема 7.10.1. Дпя любого треугольника с углами а, jS, О
справедливы формулы:
1 + cos а cos j3
(i) chr =
(ii) she =
sin a sin ]3
cos a + cos 13
sin ot sin P
Доказательство. Мы работаем с Н^, считая и^ = "^^ Можно
предположить, что Va и Vi, лежат на окружности I z | = 1, скажем
Va = ехр 0'^), Vb = ехр 0V),
где О < в < if < п. Тогда а = ^, j3 = тг — v? и A) следует из теоремы 7.2.1,
поскольку
Проверку (ii) легко осуществит сам читатель. П
§ 7.11. Прямоугольные тре]угольникн
Рассмотрим теперь треугольник с углами ot, Р, 7г/2. Применив
подходящую изометрию, можно считать
гдеА:>1,а5иГ положительны, причемs^ +Г^ =1 (рис. 7.11.1)..
Начнем с соотношения между тремя сторонами; это соотношение
представляет собой гипербс^лическую форму теоремы Пифагора.
Теорема 7.11.1. Длл любого треугольника с углами а, 13, 7г/2
справедлива формула
chc = cha chb.
Доказательство. Используя теорему 7.2.1 (ii), имеем
chc = (l ■^k^)l2kt\
chZ) = l/r;
cha = (l+A:^)/2A:.D
' Заметим, что мы получили также
Далее, мы ищем соотношения между двумя сторонами и одним углом.
Т е о р е м а 7.11.2. Длялюбого
треугольника с углами ос, ft п/2 справедливы
формулы :
0) th^? = shatgl3;
(ii) shb = shc sinl3;
(iii) tha = thccos/3.
G.11.1)
G.11.2)
G.11.3)
/%= i
Доказательство. Пусть
геодезическая, проходящая через и^ и и^,, имеет
евклидов центр Xq. Приравнивая расстояния
^-Л L
s^it = VQ
Рис. 7.11.1
135

от Va И Vh ДО Хо, получим
к^ = 1 -2xoS.
Это показывает, что Xq < 0. Евклидов треугольник с вершинами дсо, О и
ki имеет угол /3 при вершине дсо. Следовательно,
tgP^k/\xo\^2skl{k^ ^1),
что дает (i) с учетом G.11.2) и G.11.3).
Исключение а из (i) и G.11.1) приводит к (ii); исключение b из (i) и
(ii) дает (iii). П
Мы заканчиваем параграф соотношением между стороной и двумя
углами.
Теорема 7.11.3. Для любого треугольника с углами а, 13, ullcnpaeed-
ливы формулы:
(О сЬд sin/3 = cosa;
(ii) ch с = ctg а ctg /3.
Доказательство. В силу теоремы 7.11.2 (i)
shatg0 = th^?,
shb tga = tha;
исключая отсюда 6, получаем (i).
Чтобы доказать (ii), нужно просто исключить cha и ch^ из G.11.1),
воспользовавшись для этого теоремой 7.11.3 (i). П
§ 7.12. Правила синусов и косинусов
Рассмотрим теперь произвольный гиперболический треугольник со
сторонами а, Ь, с и лежащими против них углами а, /3, 7. Будем предполагать,
что а, ^, 7 положительна! (тем самым а, Ь, с конечны). Докажем следующие
результаты:
Правило синусов:
sha shb she
sin а sin ^ sin 7
Правило косинусов I:
ch с = ch Д ch Ь — sh Д sh ^ cos 7.
Правило косинусов П:
cos a. cos /3 + cos 7
ch с = .
sin a sin ^
Отметим особо существование второго правила косинусов. Этот факт
не имеет аналогии в евклидовой геометрии; в гиперболической геометрии
из него следует, в частности, что если два треугольника имеют
соответственно равные углы, то существует изометрия, отображающая один
треугольник на другой.
Доказательство правила косинусов I. Мы используем
модель Д, считая и^ = О и u^ > О (рис. 7.12.1).
136

Замечаем, что
Va ^г\- р@,Va)^thl-bj G.12.1)
и аналогично / v
Vb='e^'Yth\-ay G.12.2)
Из G.2.4) имеем
chc = 2sh4ip(u„ J + l= Ih^ILUbl ^^
Евклидово правило косинусов позволяет записать lu^ - и^,|^ через |ид |,
Рис. 7.12.1
\Vfj\ и cosy; используя затем G.12.1) и G.12.2), непосредственным
вычислением получаем требуемый результат. П
Доказательство правила синусов. Используя правило
косинусов I, находим
sh^c
/she Y
\sin7^
1
I chachb -chc V
\ shash^ /
Чтобы установить правило синусов, остается проверить, что полученное
выражение симметрично относительно а, Ь, с; или, что то же, симметрично
выражение
(shashb)^ -(chдchЬ-chc)^
Выражая sh^ через ch^, находим, что это действительно так. П
Доказательство правила косинусов II. Для краткости
будем писать А вместо cha и аналогично В и С, Правило косинусов I дает
(АВ-С)
cos у ~ ■■ ■
(Л^-1)^/2 E^-1)^/2
и, следовательно,
• 2 ^
{А^~\){В^^1)'
137

где
Z)=l -^lABC-iA^ +^2 +C2)
симметрично относительно Л, Д С. Выражение для sin^T показывает,
4ToD> 0.
Теперь заметим, что если умножить числитель и знаменатель дроби
cos а cos j3 + C0S7
sin а sih j3
на положительное значение
(А^ -ly^^C^^ -iy^^(C^ -1),
то получим
COS а COS /3 + cos у [(ВС - А) (СА
B)'\-iAB-QiC^ -1)]
sin а sin j3
D
= СП
Упражнение 7.12
1. Докажите для произвольного треугольника, что а <Ь <с в том и только в том
случае, когда а < /? < 7« (Используйте правило синусов и следствие из теоремы 7.13.1.)
2. Покажите, что треугольник является равносторонним в том и только в том
случае, когда а = /3 = 7, и что тогда
2ch(i«jsin(^<.j=l.
3. Покажите, что в произвольном треугольнике биссектриса угла при вершине Vq
проходит через середину стороны [и^,, и^] тогда и только тогда, когда Ь = с
(равнобедренный треугольник).
4. Докажите, что изометрическое отображение треугольника Т^ наГ^ существует
тогда и только тогда, когда Т^ и Т^ имеют соответственно равные углы (или
соответственно равные стороны).
§ 7.13. Площадь треугольника
Теорема 7.13.1. Для треугольника Т с углами а, jS, у справедлива
формула
Ьгплощадь (Г) = тг ~ (а +13 + 7).
Следствие. Сумма углов гиперболического треугольника меньше тт.
Доказательство теоремы 7.13.1. Пусть сначала 7 = 0. Мы
можем считать, что и^ ~ "^ и что и^ и и^ лежат на |z | = 1. В соответствии с
рис. 7.13.1 имеем
/|-площадь (Г) =
COS/J
/
со8(я — а)
7 ^1
cfx = 7г - (а + /3),
Рис. 7.13.1
что дает требуемый результат при 7 = 0. В
общем же случае треугольник может
рассматриваться как разность двух треугольников
рассмотренного выше вида (продолжаем луч от и^
к Vc JXO W на бесконечности и рассматриваем
T^iPtt » ^ь> ^))» откуда легко следует
утверждение теоремы для произвольного треугольника. D
138

§ 7.14. Вписашшя окружность
Это — последний из параграфов, посвященных гиперболической
тригонометрии, и мы оставляем доказательство ряда деталей читателю.
Теорема 7.14.1. Три биссектрисы треугольника Т пересекаются в
одной точке f Е Г.
Доказательство. Пусть у есть меньший из углов, так что у< n/l.
Построим биссектрисы из и^ и и л,; они должны пересечься в некоторой
точке fG Г (см. § 7.7). Далее, определим 7i и 72, как показано на
рис. 7.14.1. Так как каждый из углов а/2,13/2, 7i, 72 меньше 7г/2, мы
можем построить точки Wa,Wfy, Wc, как указано на рис. 7.14.1 (и эти точки
должны принадлежать открытым сторонам треугольника Г).
Правило синусов, примененное к двум треугольникам с общей
стороной [t, и л,], дает
Р (f, Wc) = Р (f. >^fl) .
То же самое имеет место при замене w^ на w^,, так что точки у^а^^ь^ ^с
лежат на окружности с центром f. Больше того, элементарная тригонометрия
показывает, что 7i = 72 • D
Окружность с центром f, проходящая через w^, w^,, w^, называется
вписанной в треугольник Т,
Теорема 7.14.2. Радиус R окружности, вписанной в Г,
определяется формулой
cos^a + cos^6 + cos^7 + 2cos а cos j3 cos 7 — 1
th^R = 1 i 1 1 .
2A+ cos ot) A + cos P) A + cos 7)
До казательство.Положим x = p (v^, w^), у "= p (w^, v^).
Тогда
cosacosj3 + COS7
—- = chx chj^ + shx shj;
sin a sin ]3
и, следовательно,
[(cos a cos j3 + cos 7) - ( sin a sh x) (sin j3 shy)] ^ =
= [A - cos^a) + sin^a sh^jc] [A - cos^/3) + sin^/3 sh V] •
Тождество
sin(9 = (l +cos^)tg(^/2)
139

вместе с соотношением
th/? = shjctg(a/2)
дает
sinashjc = (l +cosa)th/?.
Подобное же равенство имеет место для P,y,R. Подставляя выражение для
sina shA: и sinjS sh>' в nonj^ieHHoe выше соотношение, придем после
некоторых упрощений к требуемой формуле. П
Рассмотрим следующий интересный
Пример 7.14.3. Для каждого а в интервале (О, тг) можно построить
треугольник с углами а, О, 0. В этом случае
4th^^ = — A + cos а) = cos^ (а/2) = sin^ — А-площадь (Г) .
В евклидовой геометрии треугольник может иметь сколь угодно
большую площадь и одновременно как угодно малую вписанную окружность.
Приводимый ниже результат показывает, что ситуация в гиперболической
плоскости совершенно отличная; доказательство см. в [10].
Теорема 7.14.4. Радиус R окружности, вписанной в Г, удовлетворяет
неравенству

1
thR> — sin
Н-площадь (Г)
2 L2
причем эта оценка является лучшей из возможных для любого значения
Н'Площади (Г).
Что указанная оценка действительно является наилучшей, показывает
пример 7.14.3.
МНОГОУГОЛЬНИКИ
§ 7.15. Площадь многоугольника
Многоугольник Р есть внутренность замкнутой жордановой кривой
[Zi,^2]^[^2,^3]U...U[z„ _ i,Z„]U[z„,Zi].
Внутренний угол 0у многоугольника при вершине Zj есть угол,
определенный с помощью DO Р, где D — достаточно малый круг с центромZy.
Заметим, что DC\P вовсе не обязательно есть внутренность угла,
определяемого сторонами Р, выходящими из z^; совпадение имеет место лишь в случае
О < 0у < я. Мы допускаем возможность, когда вершина принадлежит
бесконечно удаленной окружности: если Zj есть вершина такого рода, то
0/=О.
Теорема 7.15.1. Если многоугольник Р имеет внутренние углы ^ь ...
к'площадь (Р) = (л - 2) тг - @i + . .. + 0„).
Доказательство. Утверждение теоремы уже доказано для « = 3
(см. § 7.13). Отсюда следует его справедливость для любого выпуклого
многоугольника Р, поскольку последний можно разбить на л - 2 тре-
140

угольника (детали очевидны). Ценность теоремы состоит, однако, в том,
что она применима ко всем многоугольникам - как выпуклым, так и
невыпуклым.
Доказательство для невыпуклых многоугольников также получается
с помощью разбиения на треугольники; разбиение теперь не столь
обозримо, но это можно компенсировать использованием формулы Эйлера.
Мы начинаем с продолжения каждой стороны Р до полной геодезической.
Это приводит к разбиению всей гиперболической плоскости на конечное
число попарно неперекрывающихся выпуклых многоугольников
(выпуклых, поскольку каждый из них есть пересечение нескольких
полуплоскостей) .
Рассмотрим теперь лишь те многоугольники /у разбиения, которые
принадлежат первоначальному' многоугольнику Р. В силу выпуклости
каждый Pj может быть разбит на треугольники. Мы получаем таким
образом разбиение Р на неперекрывающиеся треугольники Tj та^ое, что
каждая вершина Р есть вершина некоторого Tj и каждая сторона Г/ или
совпадает со стороной другого Г/, или является частью стороны Р.
Пусть полученная триангуляция Р имеет Л^треугольников,-£* ребер, V
вершин, и пусть Ео - число ребер, лежащих на сторонах Р. Формула Эйлера
для сферы дает
GV+l)-£+K=2.
Поскольку каждый из N треугольников имеет три стороны, мы можем
двумя способами подсчитать число сторон и получить
37V = J5'o+2(£'-£'o).
Исключая Е, приходим к равенству
7V-2F + £o=-2. G.15.1)
Теперь подсчитаем площади. Из V вершин разбиения ровно п являются
вершинами Р, а Fq-'^ являются внутренними точками сторон Р и V - Е^^
лежат внутри Р. Следовательно,
N
площадь (Р)= Б площадь (Ту) = iV7r-(ei+.. . + в„)-(£'о-«Oг-
/=1
-(К-£оJ7Г = («~2Oг-(в1+... + в„),
что и требовалось доказать. D
Замечание. Для евклидова многоугольника, как известно, имеем
(А7-2OГ = в1 +...+в„.
§ 7.16. Выпуклые многоугольники
Мы установим здесь два результата, касающиеся выпуклых
многоугольников. Первый дает необходимое и достаточное условие выпуклости;
второй устанавливает существование выпуклого многоугольника с заранее
предписанными углами.
Теорема 7.16.1. Многоугольник Р с внутренними углами в i,..., в„
является выпуклым тогда и только тогда, когда каждое Oj удовлетворяет
условию 0<ву<7Г.
141

Это — непосредственное следствие теоремы
7.5.1. Заметим, что теорема 7.15.1 показывает, что
необходимым условием существования
многоугольника с внутренними углами в ]
^1 +... + в„<(Аг-2OГ.
е.
является
В действительности для выпуклых
многоугольников (и, возможно, для всех многоугольников)
это условие является также и достаточным.
Теорема 7.16.2. Пусть вх,. ..
,6^-упорядоченный набор из п чисел,удовлетворяющих условиям
О < ^У< 7г, / = I, . . . , п. Для существования
многоугольника Р с внутренними углами ^i, . . . ,вм,
следующими именно в этом порядке вдоль ЭР,
необходимо и достаточно выполнение условия
е, +... + ^„<С«-2Oг. G.16.1)
Фактически мы построим многоугольник Р с указанными углами вместе
с вписанной окружностью, касающейся всех сторон Р.
Доказательство. Пусть даны ^i,..., 0„, удовлетворяющие AЛ6Л)
и заключенные в [О, тг). Построим вспомогательные четырехугольники
Qi, • • •, Bя , каждый из которых имеет в качестве одной из вершин начало
в Д (рис. 7.16.1). Длина d может быть каким угодно положительным
числом (значение для d будет указано позже); заметим, что Qj полностью
определяется числами d и Of. Очевидно, что искомый многоугольник Р
мы можем построить как объединение неперекрывающихся Qj, если только
G.16.2)
Имеем (см. теорему 7.11.3)
С0${в:12)
sin а/ =
^ chd
таким образом, нам остается исследовать функцию
G.16.3)
П
2
/ = 1
sin
.J / C0s(e;/2) \
\ Cht }'
где t>0 и sin"^ принимает значения в [0,7г/2].
Очевидно, функция g непрерывная, убывающая и ^@
При этом
О при t
g@)
" I Tj -в,\ 1
вследствие G.16.1). По теореме о промежуточном значении должно
существовать такое положительное d, что g{d) = тг; определив тогда каждое «у ю
G.16.3), получим,что G.16.2) выполняется. D
В качестве приложения теоремы 7.16.2 укажем, что многоугольник с п
сторонами и внутренними углами, равными тг/2, существует тогда и только
тогда, когда п > 5.
142

§ 7.17. Четырехугольники
Из теоремы 7.16.2 непосредственнЪ следует, что четырехугольник с
углами 7г/2,7г/2, 7г/2, V? существует тогда и только тогда, когда О <ip < n/l;
четырехугольник такого рода приведен на рис. 7.17.1. Такие
четырехугольники называют четырехугольниками Ламберта (И.Г. Ламберт, 1728-1777).
Если отразить такой четырехугольник относительно стороны, к которой
примыкают углы 7г/2,7г/2, получим четырехугольник с углами 7г/2,7г/2,(/?,^?;
такие четырехугольники (рис. 7.17.2) использовал И. Саккери A667-1733)
Рис. 7.17.1
Рис. 7.17.2
В своих исследованиях постулата о параллельных - они известны как
четырехугольники Саккери.
Следующая теорема относится к рис. 7.17.1.
Теорема 7.17.1. (i) shai shflj =cos(/);
(ii) chai -chbi sin <p.
Доказательство основано на двух леммах.
Лемма 1.п.2. Пусть L - гиперболическая геодезическая в Д с
евклидовым центром ? и радиусом г, и пусть w - точка на L, ближайшая к
началу. Тогда
shp@,w)=l/r, chp@,w) = |^|/r.
Доказательство. Очевидно, | ? | = | w | + г и (вследствие
ортогональности) Ul^ = 1 + г^. Используя G.2.4), находим sh—р@, w) и
затем
shp@,w) =
2\w
1
1 -\w\
отсюда непосредственно получается и значение для ch. П
Лемма 7.17.3. Пусть L и L' ~ две геодезические в гиперболической
плоскости. Тогда инверсное произведение (L, L') равно
ch p(L, L'), 1, coS(/?
в зависимости от того, L и L' расходятся, параллельны или пересекаются
под углом vp, где 0<<^<7г/2.
Доказательство. Нетрудно показать, что для двух расходящихся
геодезических всегда существует ортогональная к ним обеим геодезическая
143

Рис. 7.17.3
(см. § 7.22) и что p{L,L') есть длина отрезка
этой геодезической между L и Z.'. С помощью
обычных соображений инвариантности мы
сводим дело к рассмотрению трех случаев:
(i) L, Z'лежат в Я^ и имеют уравнения
lz|=r,|z|=/^;
(ii) L, /.'лежат в Я^ и имеют уравнения
л- =0,х =Xi',
(iii) L, L* — евклидовы диаметры в Д.
В каждом из этих случаев формула для
{L, L') дана в § 3.2; из нее и следует
требуемый результат. П
Доказательство теоремы 7.17.1. Будем предполагать, что
четырехугольник на рис. 7.17.1 имеет стороны fli и Дг, лежащие
соответственно на положительных полуосях действительной и мнимой осей*).
Далее, положим, что стороны, обозначенные Ьх и />2, лежат соответственно
на окружностях
IZ - /и I = /^, IZ - м I = г, -
где и, V, г viR- действительные и положительные. По лемме 7.17.2
shfli shfl2 = l/'*/^.
Из леммы 7.17.3 следует, что
(Z/, Z.') = cos V?
и из § 3.2
ИЛ'У
Г2 +/?2 _|j^_;-y|3
2rR
к^+Л^-м^
2rR
• = llrR,
.2 =
поскольку м* = 1 +r^, и^ = 1 +Л^.
Чтобы доказать (ii), располагаем четырехугольник так, что вершина с
углом V? совмещается с началом, а сторона, обозначенная bj, идет по
положительной действительной оси (рис. 7.17.3). Далее отражаем
четырехугольник относительно действительной оси; пусть L — геодезическая,
содержащая сторону 02, и L — ее отражение относительно действительной
оси. По лемме 7.17.3
(Д1') = сЬBа,). G.17.1)
Если L, рассматриваемая как евклидова окружность, имеет центр de ''^ и
радиус г , то /.' имеет центр de"^*^ и радиус г , причем, очевидно,
\de''^-de-'^\>2r
Следовательно,
(/^,i:')^
2r^
Id^sin^^-r""
Ich^bism^ifi'- 1
(использована лемма 7.17.2). Вместе с G.17.1) это дает (ii). П
*) Рассуждение проводится на модели Д. - Примеч. пер.
144

Упражнение 7.17
1. Выведите лемму 7.17.2 непосредственно из теоремы 7.9.1 (лемма 7.17.2 есть
просто дрзтой вид формулы для угла параллельности).
§ 7.18. Пятиугольники
Здесь мы выведем метрические соотношения, которые имеют место для
пятиугольника, изображенного на рис. 7.18.1, где О < v? < тт.
Рис. 7.18.1
Теорема 7.18.1. (i) ch а ch с + cos v? = sh д ch Ь sh с.
(ii) Если ^f = nl2, то
thach6thc=l, G.18.1)
shashb^chd. G.18.2)
Доказательство. Легко показать, что существует проходящая
через вершину угла ^ геодезическая, которая пересекает сторону b и
ортогональна ей. Пусть bi и Ь2 будут длины, указанные на рисунке, и v?i, v?2 ~
части V?; ipi лежит с той же стороны от названной выше геодезической, что
и ^1. По теореме 7.17.1
cha-chh sin v?i, ch с = ch /i sin ^2»
sh J sh ^1 = cos v?i, sh с sh ^2 = cos <^2 •
Отсюда следует, что
(chache -siatpi sin v?2)^ = (chachс - sin ipi sin v?2)^ -
- (ch Д sin <^2 — ch с sin <pi )^ = (ch^a - sin^(/?i) (ch^c - sin^v^2) =
= (sh^a + cos^(/?i) (sh^c + cos^v^2) = (sh^j dv^bi) (sh^c ch^^j),
и далее, если взять положительные значения квадратных корней,
ch J ch с - sin v?i sin (/?2 = sh a sh с ch ^1 ch ^2.
Это приводит непосредственно к (i), так как
ch J ch с + cos </? = ch Д ch с - sin ^Pl sin ^P2 + cos ifi cos iP2 =
= sh jshc(ch^i chb2 +shbi shb2) = shfl she chb.
Полагая ^p = n/lb (i), мы получаем G.18.1). Чтобы доказать G.18.2),
применяем G.18.1) к тройке Ь, с, d и исключаем с из получившегося
выражения и из G.18.1). П
10. А. Бердон
145

§ 7.19. Шестиугольники
Мы рассмотрим лишь прямоугольный шестиугольник, изображенный
на рис. 7.19.1. Если соединить концы сторон, обозначенных ах и bi, то
образуется четырехугольник Q\ ясно, что каждый внутренний угол в Q
меньше 7г/2. Отсюда следует, что стороны fli и bi должны иметь общий
перпендикуляр*), скажем t.
shfli shfl2 sh^a
Теорема 7.19.1 = = .
sh^i shZ?2 sh^a
Доказательство. По теореме 7.18.1 находим
sh ^2 sh дз - ch г = sh Д2 sh ^3,
откуда требуемый результат вытекает очевидным образом по
соображениям симметрии. П
Теорема 7.19.2. ch ^1 sh ^2 sh дз = ch ai + ch 02 ch a^.
Доказательство. Из теоремы 7.18.1 получаем соотношения
sh X sh Д2 = ch W, sh>' sh ^3 = ch u,
sh w sh r = ch Д2, sh и sh r = ch ^3,
из которых следует, в частности,
(ch^fl2 + sh^M) (ch^a3 + sh^u) = (ch 02 ch a^ + sh м sh u)^.
Отсюда имеем
ch^i shflj sh J3 =(chx ch>^ + shx sh>^)sh Д2 shfl3 =
= chjc ch;^ shfl2 sh Д3 + chw ch u = (chjc sha2)(ch;^ sha3) + chM chu =
= (sh2fl2 +ch2M)^/2(sh2a3 +ch2uy/2^chwchu =
= (ch2fl2 + sh^)^^^{ch^a3 + sh^u)^ ^^ + ch w ch и =
= ch az ch аз + sh w sh и + ch м ch и. D
*) Легко доказывается, что в гиперболической геометрии противоположные
стороны четырехугольника, все углы которого меньше 7г/2, суть расходящиеся прямые. -
Примеч. пер,
146

Замечание. Теорема 7.19.2 показывает, что длины всех сторон
шестиугольника однозначно определяются длинами Ji, Дз» ^з.
ГЕОМЕТРИЯ ГЕОДЕЗИЧЕСКИХ
§ 7.20. Рассто51ние от точки до прямой
Для каждой точки z и каждой геодезической L полагаем
p(z, I) = inf{p(z, w)| wGI).
Существует однозначно определенная геодезическая L \, проходящая
через Z и ортогональная L\ тогда p{z, L) есть расстояние от z до L,
измеренное вдоль L1.
Мы работаем в Н^ и предполагаем, что L есть положительная полуось
мнимой оси. Тогда
и мы утверждаем, что
p(z,L) = p(z, /|z|).
Каждая точка из L имеет вид it (f > 0) и по теореме 7.2.1
G.20.1)
chp(zjt)-
x^+j^^+z^ \z
I + — > (z^x-^iy).
\ t \z\l у
2yt 2y \ t I z I / у
Равенство имеет здесь место в том и только в том случае, когда г = | z | ;
это доказывает G.20.1).
Определив в, как указано на рис. 7.20.1, и используя G,20.1), получаем
chp(z, 1)= l/cos^, shp(z, L)-ige, thp(z, L) = sin ^.
В качестве применения этих формул укажем, что область
{z^H^ \p{z,L)<k) (к>0)
G.20.3)
есть в точности гиперциклическая полоса, описанная в § 7.5.
Мы можем также получить формулу для р(г, L) в случае, когда L есть
евклидова полуокружность {w\ |уу1=г}вЯ^ (рис. 7.20.2).
10'
147

Допустим сначала, что \z\ < г . Пусть в обозначает угол, указанный на
рис. 7.20.2. Евклидова окружность, проходящая через z, г, -г, имеет
aeHTp-frtg^ и радиус г/cos в. Таким образом,
|z+/rtg^ 1^ =r^lcos^e
и, следовательно,
tgd = —
2yr
Аналогичная формула имеет место для z i в случае | z 11 > г с заменой
г^ -|z|^ на |zil^-r^. Таким образом, если L есть | w | = г, из G.20.3)
получаем
Izl^-r^ I
G.20.4)
sh p(z,jL) =
2jHr
Нам понадобится также формула для модели А в случае, когда L есть
действительный диаметр (—1, 1). Покажем, что в этом случае для
всех w G А
sh p(iv, L) = -——7- . G.20.5)
2|Im(iv)|
l~|w|^
Во-первых, существует однозначно определенная геодезическая i',
проходящая через W и ортогональная L. Пусть f - точка пересечения L hl;
тогда существует изометрия ^ модели А, которая оставляет на месте - 1 и
1, отображает f в О поставляет/, инвариантной.Очевидно,^ отображает!'
на отрезок (— i, i) и, значит, g(w) = it для некоторого действительного Г.
Соотношение между w и г легче всего найти, исходя из того, что^
сохраняет каждый из двух дифференциалов \dzl/y и 21 (iz |/A - | z |^). Имеем *)
t Im(w)
С другой стороны,
p(iv, /.) = p(w, о = р(|Г, 0) = 1п(^ ГЙТТ/ '
Сравнение с предыдущим равенством дает G.20.5).
Упражнение 7.20
lycTb L - геодезическая («~
ZSA.
1.ПустьL - геодезическая (е ,е ) в А. Найдете явное выражение для p(z,L)t
*) Вслед за указанными дифференциалами g сохраняет и их отношение, т.е.
у 1A - \z 1'). Сохранение обоих дифференциалов следует из того, что g есть
изометрия не только в А, но и в Я ^ (ибо g сохраняет действительную ось). -
Примеч. пер.
148

§ 7.21. Биссектор отрезка
Пусть Zi,Z2 - две различные точки и w - середина отрезка [ZbZa].
Докажем, что
{z|p(Z,Zi) = p(Z,Z2))
есть геодезическая, проходящая через w и ортогональная [zi,Z2] -
биссектор отрезка [zi,Z2].
Мы оперируем вЯ^.Положим Zi =i и Zj -r^i, где г>1;
следовательно, w = ri. По теореме 7.2.1 равенство
ch p(z, Zi) = chp(z, Z2)
равнозначно
|Z-Zi|^ IZ-Z2I'
последнее же сводится к | z | = г.
Обратимся теперь к модели А. Собственные изометрии в А имеют вид
cz-^a
Используя G.2.4), находим, что z лежит на биссекторе отрезка [0,^0]
в том и только в том случае, если
(l~|z|^)(l~|0|^) (l-|z|^)(l-|^0|2)
или, что эквивалентно,
|az-c 1^ = \z\\
Так как
\az - с 1^- |cz-fl|^= |z|^-l,
мы вщщм, что биссектор отрезка [0,^0] есть изометрическая
окружность для ^"Ч
Упражнение 7.21
I. Покажите, что биссектор двух точек ^/ = «^/ + '>/ (/ = 1,2) в Я ' есть
Z,={z| >',U~z,|»*>'aU-2, I»}.
Покажите также, что для всякого z^ и всякого компактного подмножества К в
R^ пересечение LnK будет пустым, если \z^\ достаточно велико.
§ 7.22. Общий перпендикуляр
к расходящимся геодезическим
Есаи L\ и Li - две расходящиеся геодезические, то существует
единственная геодезическая, которая ортогональна Ly и Ьг.
Поскольку утверждение инвариантно относительно изометрии, мы
можем предположить, что 11 и L2 заданы в Я^ уравнениями
149

соответственно, где а>г > 0. Геодезические, ортогональные L i, задаются
уравнениями \z \ = Г; среди них ортогональна Li лишь одна — та, для
которой а'^ =г^ +г^. Поскольку л >г , существует единственное
положительное Г, удовлетворяющее этому условию.
Упражнение 7.22
Ь Докажите, ^гго если две различные геодезические имеют общий перпендикуляр,
то они расходятся.
§ 7.23. Расстояние между расходящимися геодезическими
В случае расходящихся геодезических Lx и 12 положим
p(Ii,l2) = inf{p(z, w)|zGLi, wGZ,2}.
Расстояние p(Li, L2) между Li и Li есть расстояние, измеренное вдоль
их общего перпендикуляра.
Мы снова работаем в Н^ и предполагаем, что общий перпендикуляр есть
положительный луч мнимой оси. Тогда Li и Ьг имеют уравнения \z \ = г ,
IZ I = Л, и результат следует из G.20.4) (см. также § 5.4).
Существуют и другие удобные выражения для рA1, Z.2), например то,
которое дается леммой 7.17.2. Можно также выразить p(Ii, L2) через
двойное отношение: если Li имеет концыZj и Z2, а L2 — конЩI Wj и W2,
причем эти точки следуют на бесконечно удаленной окружности в порядке
2и Wi, W2,Z2,TO
" 1
[Zl, Wi,W2,Z2,] -th^
■~-p(IbZ,2)
= 1. G.23.1)
Упражнение 7.23
1. Проверьте справедливость G.23.1) на модели Я^, полагая z, =0, Wj = 1
и Zj = «>.
§ 7.24. Угол между пересекающимися геодезическими
Угол ^, О < ^ < 7Г, между пересекающимися геодезическими может быть
выражен в терминах их инверсного произведения (лемма 7.17.2) и
двойного отношения. Если Li = (zj, Z2) и Z.2 = (v^i, ^2), причем порядок этих
концов на бесконечно удаленной окружности есть Zj, wj, Z2, W2, то
[zi, Wi,Z2, W2]sin^(^/2)= 1.
Для доказательства используем А, полагая Zi = (— 1,1),Z.2 = (^ , ^~' )•
§ 7.25. Биссектор двух геодезических
Пусть Z. 1 и Z. 2 — две различные геодезические. Их биссектор есть
L={z (p(z, Z,i) = p(z, 12)}.
Покажем, что L представляет собой одну или две геодезические.
Случай I: Li и L2 параллельны.
• Пусть Z.1 и Z.2 задаются в Я^ соответственно уравнениямих = д их = -а.
Тогда из G.20.3) можно видеть, что z G Z в том и только в том случае,
когда \х -а\ = |х+а|, что эквивалентно х = 0.
150

Случай 2: Li и L2 расходятся.
Возьмем Li и L2 соответственно в виде |z|=lH|z|=r^(B Я^).
Согласно G.20.4) zEL тогда и только тогда,.когда
что эквивалентно \z | = г.
Случай 3: Li и Li пересекаются.
Обратимся к А и положим
где О < в < 7г/2. Пусть Z' = (-1, 1); тогда z Е L в том и только в том
случае, если
p(e'4z^') = pB,I,) = p(z,Z,2) = p(e-^4r).
Используя G.20.5) и беря z =ге^\ получим
[sш((9+r)]2 = [sш(в-0]^
что дает в качестве L объединение двух геодезических (—1, 1) и (—/, О-
§ 7.26. Трансверсали
Пусть Li и L2 - две расходящиеся геодезические. Геодезическая L
называется в'Трансверсалью (О < в < п/2) для Li и Li, если L образует с
каждой из геодезических /. i и L 2 угол в. Пример ^-трансверсали легко
построить в Я ^ при помощи изометрии g(z) - kz (/: > 0) и геодезической L,
определяемой уравнением л: = 0. Если L i — некоторая геодезическая,
пересекающая L,7o L будет трансверсалью дляLi iig(L 1). Исследуем
метрические соотношения, которые имеют место для ^-трансверсалей.
Общий перпендикуляр к Li и L2 является единственной
(тг/2)-трансверсалью для Li и L 2. Х[ля-всякого другого значения в существуют ровно
четыре в-трансверсали. Пусть Lq есть общий перпендикуляр к Li и L2,
и пусть L* - биссектор для Li и L2. Будем работать в А и
предположим, что
1о=(-1,1), !*=(-/, 0;
эта ситуация изображена на рис. 7.26.1, где показаны четыре трансверсали,
по две в каждом из случаев (i) и (ii). Мы опускаем доказательство (оно
нетрудно) того, что любое в из интервала @,7г/2) может выступать в такой
роли и что не существует других ^-трансверсалей.
С очевидной ссылкой на евклидову геометрию мы называем
в-трансверсали в случае (i) накрестлежащими трансеерсалями, а в случае (ii) -
односторонними *) трансверсалями. Пусть tQ обозначает длину отрезка
в-трансверсали, который лежит между Li и L2. Для накрестлежащих
трансверсалей по теореме 7.11.2 имеем
, = sh(lr,):
sh —p(Z.bZ.2) = shl —te )sme;
*) В оригинале "complementary" (дополнительные). - Примеч. пер.
151

Cnyuaudi)
СлуцайаЬ)
Рис. 7.26.1
для односторонних же трансверсалей теорема 7.17.1 дает
1
ch—p{Z,i,Z2)
= ch( — t^ jsin^.
Упражнение 7.26
1. Для какой из 0-трансверсалей - накрестлежащей или односторонней - отрезок
между L J и 12 короче при данном 0 ?
2. Пусть две накрестлежащие д-трансверсали пересекают L^ в точкахZj иг,, а две
односторонние - в точках Wj и w,. Какое из расстояний p(z j, z,), р{у^^, wj) больше?
ПУЧКИ ГЕОДЕЗИЧЕСКИХ
§ 7.27. Общая теория пучков
Многие факты гиперболической геометрии, необходимые для детального
исследования фуксовых групп, наилучшим образом описываются в
терминах пучков геодезических. Например, такой подход позволяет
рассматривать окружности, орициклы и гиперциклы как простые вариации одной
и той же идеи. Мы увидим также, что классификация пучков естественным
путем приводит к классификации изометрий, которая является более
прозрачной, чем данная в § 4.3. В настоящем параграфе мы введем лишь
общее понятие пучка и укажем его главные свойства; детали будут даны
в следующих трех параграфах.
Любая пара геодезических L и Ь' принадлежит вполне определенному
однопараметрическому семейству ^ геодезических, которое называется
пучком, определенным с помощью L vlL'.C каждым таким п)Д1ком Sf^
ассоциируется семейство f ортогональных пучку кривых. Эти кривые, вообще
говоря, не являются геодезическими. Семейство fF называется
дополнительным к 3^. Сосредоточим интерес на следующих совместных
свойствах 5^ и ^.
Р1. Каждая точка гиперболической плоскости принадлежит ровно одной
кривой из F.
Р2. Каждая точка плоскости, за единственным возможным исключением,
принадлежит ровно одной геодезической из ^,
?Ъ, Любая геодезическая из ^ ортогональна любой кривой из 3^ .
152

P4. Любая кривая из f инвариантна при отражении относительно любой
геодезической из 3^.
Р5. Любые две кривые Ci, Сг из F эквидистантны. Это означает, что
для каждой точки Z\ ECi существует такая точка zi ЕС2, что
p(^i,^2) = p(Ci,C2).
При этом Z1 W Z 2 лежат на одной и той же геодезической из 9^.
Р6. Две точки Z UW лежат на одной и той же кривой из f в том и только
в том случае, когда биссектор отрезка [z,w] принадлежит 3^.
Р7. Семейство ^ есть в точности множество геодезических вида
{z \astip(z,L) = b shp(z, l')},
где a и b - положительные константы *).
Пучок, определенный геодезическими L и ь\ называется:
(i) параболическим, если L и ь' параллельны;
(ii) эллиптическим, если L и L^ пересекаются-,
(Ш) гиперболическим, если L и ь' расходятся.
Детальному рассмотрению этих трех видов пучков посвящены
следующие три параграфа.
§ 7.28. Параболические пучки
Пусть L иЬ' — параллельные геодезические с общим концом w.
Определим 0^ как семейство всех геодезических с концом w, а ^ как семейство
всех орициклов, касающихся бесконечно удаленной окружности в w (см.
§ 7.5). Используя в качестве модели Я^, будем считать w = «>; в этом
случае геодезические из ^ суть линии х = const, а крирые из f суть;^ =
= const. Свойства Р1-Р4 выполняются очевидным образом.
Рассмотрим два орицикла из f , скажем у - к иу = K.Uo теореме 7.2.1
находим
(х — s^^ "^ к^ "^К^
ch р(х + *, 5 + Ж) = 1 + > ch р(х + /А:, х + iK\
7, к К
что доказывает справедливость Р5.
Биссектор отрезка [z^, Z2] (где zy = дгу + iy^) задается уравнением
\Z-Z,\^ ^ \Z^Z2\^
У\ У 2
и представляет собой геодезическую. Последняя имеет своим концом «>
тогда и только тогда, когда Ух =У2; этим доказано Р6.
Упражнение 7.28
1. Проверьте выполнение Р7, Для этого покажите, что если L и L' суть х - а и
X =fl', то
sh р (ц 4- /и, L)
sh р(м +iv,L')
v-a'
*) Свои для каждой геодезической из ^. - Примеч. пер.
153

§ 7.29. Эллиптические пучки
Пусть L и L - две геодезические, пересекающиеся в точке w на
гиперболической плоскости. Определим 5^ как семейство всех геодезических,
проходящих через w, а 5^ как семейство окружностей
Cr={z\p(z,w) = r}.
Используя в качестве модели А, положим w = 0; тогда геодезические из
3^ будут представлять собой диаметры круга А, а окружности из ^ будут
евклидовыми окружностями с центром в начале. Очевидно, Р1-Р4
выполняются, причем исключительная точка в Р2 есть w.
Чтобы доказать справедливость Р5, предположим, что z Е. Cf и z' G Q.
Используя G.2.4), видим, что минимум p{z, z') достигается в точности
тогда, когда \z — z'| минимально; отсюда следует Р5, Доказательство
Р6 тривиально, поскольку равенство
p(z,w) = p(z\w)
выражает как то, что z и z' лежат на одной и той же окружности Сг, так
и то, что W принадлежит биссектору отрезка [z, z'].
Упражнение 7.29
1. Проверьте Р7 (ср. § 7.25, случай 3).
§ 7.30. Гиперболические пучки
Пусть L и L' - расходящиеся геодезические с общим перпендикуляром
Lq. Определим 3^ как семейство всех геодезических, ортогональных Lq,
а 3^ как семейство всех гиперциклов (определение см. в § 7.5), имеющих
те же концы, что и Lq.B качестве стандартной модели этой ситуации
рассмотрим полуплоскость Н^ с положительной мнимой осью в роли Lq,
Тогда 3^ будет состоять из всех геодезических |z | = const, а J из всех
линий, определяемых уравнениями arg(z) = const. Выполнение Р1-Р4
проверяется непосредственно.
Чтобы доказать Р5, рассмотрим две кривые
С, =(z|arg(z) = e}, C2={z|arg(z) = v?)
из 5^. По теореме 7.2.1 находим
Г 1 ... 1 \te^^ -re'^l^
sh4 ~p(re'^r^'^)
1
4 sin в sin V?
4tr sin 0 sin V?
t r
^ + —-2cos(^ - V?)
^r t
и это выражение минимально в точности тогда, когда t = г. Отсюда
следует Р5.
Далее, рассмотрим две точки wy = uy + ivj. Биссектор отрезка [w j, w 2 ]
имеет уравнение
\Z - Wi 1^ ^ I Z - W2 1 ^
154

или, что эквивалентно,
(l>2 -Vi)\Z 1^ -2x(UiV2 - W2l'l) = const.
Полученная линия есть геодезическая из 5^ тогда и только тогда, когда
Wii>2 = "г^'!; это условие означает в точности, что wj и W2 лежат на одной
и той же кривой из с^ . Отсюда следует Р6.
Упражнение 7.30
1. Проверьте Р7.
2. Пусть ^ - пучок (не обязательно гиперболический). Покажите, что никакие
три различные точки, лежащие на одной и той же кривой из ^ , не коллинеарны.
3. Докажите, что три биссектора сторон гиперболического треугольника
принадлежат одному пучку.
ГЕОМЕТРИЯ ИЗОМЕТРИИ
§ 7.31. Классификация изометрии
Если мы вспомним классификацию м'ёбиусовых преобразований,
данную в определении 4.3.2, и примем во внимание теорему 5.2.1, то увидим,
что каждая собственная изометрия гиперболической плоскости
является или параболической, или эллиптической, или гиперболической. Эти
случаи различаются по положению неподвижных точек или с помощью
функции trace ^. Кроме того, каждая такая изометрия может быть
представлена как произведение двух инволюций, и геометрическое действие
изометрии теснейшим образом связано с теорией пучков. Мы обсудим
эту идею в следующих трех параграфах.
§ 7.32. Параболические изометрии
Изомбтрия g является Параболической тогда и только тогда, когда
она может быть представлена в виде g = О2О1, где Oj есть отражение
относительно геодезической Lj (/ = 1, 2), причем L\ и L 2 определяют
параболический пучок (т.е. параллельны). Это очевидно в отношении
изометрии g(z) =z + 1, действующей в Я^, и вследствие инвариантности это
верно и для общего случая.
Если g - параболическая изометрия, то ассоциированным с ней
параболическим пучком называется пучок, содержащий все геодезические,
имеющие одним из концов неподвижную точку изометрии g. Важно
отметить, что в качестве Li можно выбрать любую геодезическую этого
пучка; тогда Li будет биссектор для Li и g(Li).
Упражнение 7.32
1. Пусть g -параболическая изометрия с фиксированной точкой w и Z -
геодезическая, оканчивающаяся в w. Для любого z пусть z' обозначает точку на L
такую, что [г, z'l ортогонален L. Докажите, что
P{z,gz)> p{z',gz').
2. Пусть g - параболическая изометрия, действующая в Н^. Покажите, что
существует собственная изометрия h в Н^ такая, что hgh"^ есть z <-^z -^ t для некоторого
действительного и отличного от нуля Г. Пусть Tg будет множество всех Г, получающих-
155

ся таким путем (т.е. варьированием h при фиксированном g). Докажите, что Tg есть
или (- «, 0), или (О, + «); соответственно этому назовем^ отрицательной или
положительной. Найдите необходимое и достаточное условие положительности изометрии
CZ +d
в терминах а, Ь, с, d.
§ 7.33. Эллиптические изометрии
Изометрия g является эллиптической тогда и только тогда, когда ее
можно представить в виде g = 020\, где Oj есть отражение относительно
Lj (/ = 1, 2), причем Ii и Z.2 принадлежат эллиптическому пучку. Это
очевидно для изометрии g{z) = e'^z, и вследствие инвариантности это
верно и для общего случая.
Если g - эллиптическая изометрия, то ассоциированный с ней
эллиптический пучок состоит из всех геодезических, проходящих через
неподвижную точку V изометрии g в гиперболической плоскости. Отметим, что в
качестве L i можно выбрать любую геодезическую этого пучка; тогда L 2
определится однозначно по Z. i иg.
Эллиптическая изометрия g полностью определяется своим центром v в
гиперболической плоскости и действительным числом в из [0,2ir). В
действительности g оставляет неподвижной еще одну точку v\ (результат
отражения V относительно бесконечно удаленной окружности), и мы можем
записать
g(z) - V
\Z-Vi I
gi2)-Vx
ЭТО показывает, что gXv) = е^^. Мы называем в углом поворота мзолсег-
puug.TdiKKdiKg сопряжена {ъ Ж) изометрии z^e^^z, то
trace^(^) = 4cos^(^/2).
Упражнение 7.33
1. Покажите, что эллиптические элементы ^ и Л с углами поворотов б и «^ в (О, lit)
сопряжены в группе собственных гиперболических изометрии тогда и только тогда,
когда в = «^.
§ 7.34. Гиперболические изометрии
Изометрия g является гиперболической тогда и только тогда, когда ее
можно представить в виде g = О2ОХ, где Oj есть отражение относительно
1/, причем Li и /.2 принадлежат гиперболическому пучку. Осью изометрии
g называется ось пучка; это - однозначно определенная геодезическая,
которая ортогональна всем линиям пу^чка и имеет своими концами
неподвижные точки g. Разумеется, ось изометрии g есть единственная
^-инвариантная геодезическая. Мы можем выбрать L\ (или12) произвольно,
и тогда другая Lj определяется однозначно по g. Эти факты легко
проверяются для g{z) - kz, А: > О, а в силу инвариантности они верны и для
общего случая.
156

Заметим, что если g(z) = kz, то по теореме 7.2.1
sh ~- р (Z, ^ ) = — ,
причем это выражение достигает своего минимума (по всем z в Я^) для
любого Z, лежащего на оси изометрий g, т.е. на прямой jc = О (и только в
этом случае). Так как inf p(z,^z) остается инвариантным при переходе
от ^ к любому сопряженному элементу, мы можем определить в случае
произвольного гиперболического g величину сдвига (translation length)
r=infp(z,gz).
г
Очевидно, Т положительно и (снова в силу инвариантности)
/1 \ A-А:J
ch^ ( — Г J= 1 + \^/ = trace2(^)/4,
Ак
так что
1
I trace (g) I = ch
{-Л
Существует и другое выражение g через две инволюции. Изометрия g
является гиперболической в том и только в том случае, если ^ = 6261, где
6/ есть вращение порядка 2 относительно некоторой точки U/ (/ = 1, 2),
лежащей, на оси g. Здесь Ui (или \){) может быть выбрана произвольно, и
тогда другая uy определится однозначно по g. Доказательство достаточно
дать для частного случая ^(z) = kz\ оно проводится непосредственно.
Заметим, что
r=2p(u,,U2),
и что 62(ui) - g{jO\) (таким образом, луч, выходящий из Ui и проходящий
через U2, оканчивается в притягивающей неподвижной точке изометрий^).
. § 7.35. Функция смещения
Пусть g - изометрия гиперболической плоскости. Легко видеть, что
функция смещения
z^p(z,gz) = p(z,g'^ z)
однозначно определяется парой {gy g"^). Эта функция является важным
средством изучения изометрий; однако по техническим соображениям
предпочтительнее иметь дело с функцией
1
zb^sh — p(z,gz),
2
Мы будем изучать эту функцию в чисто геометрических терминах.
Теорема 7.35.1. (i) Если g - гиперболическая изометрия с осью А
и величиной сдвига Г, то
sh^p(z,^) = chp(z,^)sh(--r j.
157

(ii) Если g - эллиптическая изометрия с центром v и углом
поворота в, то
1
sh — p(z, gz) = sh p(z, и) I sin {ВЦ) \,
2
где в берется в промежутке [- я, я].
(iii) Если g - параболическая изометрия с неподвижной точкой v, то
величина
1
F(z. u)sh — p(z,gz)
2
постоянна (но зависит, разумеется, от g), гдеP(z,v) есть ядро Пуассона
для гиперболической плоскости.
Замечание. Ядро Пуассона рассматривалось в § 1.6.
Доказательство. В случае (i) будем считать, что^ действует в
Н^ и что g(z) -kz, /: > 1. По теореме 7.2Л
1 \z-kz\
^ — piz^gz)'
2 2y^/]г
2 V Jpl у \2 I
\z
' У 2 \ ' v^/ у
поскольку p(z,gz ) = г, когда |z | = v (т.е. когда x = 0); см. § 7.3.
Наконец, так как А есть положительная полуось мнимой оси, мы можем
использовать § 7.20 и получить
chp(z,^) = |z|/v.
Чтобы доказать (i i ), будем считать, что g действует в Д и что g(z) =
= е' ^z . Поскольку
p(z,e^^z) = piz,e^''^-^^z)
и
I sin (^/2I = I sin (я-^/2I,
мы можем предположить О < в < п (случаи в = О и в = тт тривиальны).
Теперь построим треугольник с вершинами 0,z,gz и углами 0,^,^
соответственно. Проведя биссектрису угла при вершине О, получим
прямоугольный треугольник с углами в/2, ^, Tijl и противолежащими им
сторонами -zp{z,gz), S, p(z, 0).Из § 7.11 находим .
sh -- p{z, gz) = sh p{z, 0) sin F> / 2).
Чтобы доказать (iii), можно ограничиться случаем изометрии g(z) =
= z + 1, действующей в Я^; обш^ий случай получается отсюда с помощью
обычных соображений инвариантности и свойств ядра Пуассона,
обсужденных в главе 1. Роль ядра Пуассона здесь заключается в том, что его линии
158

уровня совпадают с линиями уровня функции смещения; по существу,
в этом и состоит (i i i ).
Если ^(z)=Z + l,TOl>=ooH
П
В заключение отметим, что во всех случаях линми уровня функции
смещения суть в точности кривые семейства 3-, ортогонального пучку ёР'у
ассоциированному с g.
Упражнение 7.35
1. Для данной изометрии g пусть т есть минимум p{z,gz.). Покажите, что g
является гиперболической тогда и только тогда, когда m > 0. Если m = О, покажите,
vn-o g является эллиптической, если т достигается, и параболической, если т не
достигается.
Пусть W - точка, для которой p{w,gw) > т. Покажите, что значение p{w^gw)
вместе с множеством [z | p{z,gz) =т} полностью определяют пару {gtg"^) .
§ 7.36. Изометрические окружности
Напомним, что, согласно § 4,1,изометрическая окружность для мёбиусо-
ва преобразования g есть множество 7^, на котором g действует как
евклидова изометрия.
Если g - изометрия гиперболической плоскости А, то (см. § 7.21)
y^ = {z|p(z,0)=p(z,^-^0)}.
Будет поучительно рассмотреть другое доказательство этого факта.
Доказательство. Согласно § 731 - 7.34 можем записать
е = a^cji, где Oj есть отражение относительно I/. Выберем
геодезическую />2 проходящей через начало; тогда 02 будет евклидовой изометрией.
Требуемое представление для J^ означает, что z G 7^, в том и только в том
случае, когда искажение евклидовых расстояний в точке z равно 1;
следовательно, Jg- Li,Учитывая это, имеем
а,@) = а,а2@)=^-Ч0),
откуда вытекает, что /^ ( = Z. i) есть биссектор точек О и ^ "* @). П
Указанное выше геометрическое доказательство вскрывает истинную
природу изометрической окружности с точки зрения гиперболической
геометрии. Пусть W - точка в гиперболической плоскости или на бесконечно
удаленной окружности; мы предположим, что <^(w) Ф w. Запишем
g - О2О1, где ^2 выбрана проходящей через w. Назовем L i
w-изометрической окружностью для g и обозначим ее/^ (w). Существует полезное
свойство инвариантности, именно:
и, разумеется, обычная изометрическая окружность соответствует случаю
VV = О, Теперь заметим, что g действует симметрично относительно ЭД,
поэтому мы можем в качестве w взять, при желании, точку, лежащую
в расширенной плоскости; тогда
^/^нО =7^A/w).
159

в частности,
7,@) = 7,@0).
Другие детали см. в § 9.5.
Упражнение 7.36
1. Докажите, что изометрия g является эллиптической, параболической или
гиперболической соответственно тому, как расположены друг относителыю друга Jg
и Jg'i: пересекаются, параллельны или расходятся.
§ 7.37. Канонические области
С каждой собственной изометрией g гиперболической плоскости
ассоциируется ''каноническая*' область Zg , которая теснейшим образом
связана с геометрическим действием g и которая однозначно определяется
парой {g, g"^).
Определение 7.37.1. Пусть g - собственная изометрия, не
являющаяся тождеством, а также эллиптической изометрией порядка 2.
Канонической областью Ig для g называется множество
Z^=lz sh у p(z,^z) < - trace (^) 11
Если g есть изометрия порядка 2 с фиксированной точкой и, то I,g
определяем как { и ) .
Свойства канонических областей описываются следующей теоремой.
Теорема 7.37.2. (i ) 2дг инвариантна относительно сопряжения,
точнее,
^HgH'^ -hCLg)' .
(ii ) 'Zg определяется парой [g^g"^} \ точнее, S^ = S^ тогда и только
тогда, когда h= g или h = g'^.
Прежде чем доказывать теорему, дадим геометрическую конструк-
ищо S^.
Геометрическая конструкция 2^. Если g не имеет
порядка 2, то S^ может быть построена следующим образом. Для каждого z ,
принадлежащего бесконечно удаленной окружности, обозначим L ^
геодезическую, соединяющую z ^^gz , Тогда
z
где Р обозначает гиперболическую плоскость.
Предположим сначала, что изометрия g параболическая; достаточно
рассмотреть случай, когда g действует в Н^ как z ^ z + 1. В этом случае
P\UL, ={;c+/.v|v > 1/2}.
г
С другой стороны,
I trace (g) I = 2.
160

Рис. 7.37.2
Таким образом, по теореме 7.2.1 2 G Б^, тогда и только тогда, когда
1 > sh-xp(z,gz) = 1/2.V.
Допустим теперь, что g - эллиптическая. Можно считать, что g действует
в Д как z»~>'e'^z,0<|^|<7r.B этом случае семейство линий L ^ состоит
из геодезических, которые стягивают углы В с вершиной в начале
(рис. 7.37.1).
Из § 7.9 находим
shp@,w)tg(^/2) = 1,
следовательно,
Р \ UZ,={z|shp(z,0)tg(^/2) < 1).
Z
Однако по теореме 7.35.1
sh|p(z,^z) = shp(z,0)|sin(^/2)| =
= sh p(z
,0)|tg(^/2)|(^|trace(^)|),
что и дает требуемый результат.
Наконец, рассмотрим случай, когда g - гиперболическая; без
ограничения общности можно считать g{z) - kz, /:>1,вЯ^. В этом случае
Р \ UL 2 есть гиперциклическая область, показанная на рис. 7.37.2. Однако,
Z
как следует из § 7.20, z принадлежит этой области в том и только в том
случае, если
chp(z, Л)<1/со8^
(к
{к-\I2 е^-\ 3h
Используя теорему 7.35,1, мы видим, что 2^^ и в самом деле есть указанная
область.
11. А. Бердон
161

Доказательство теоремы 7.37.2. Прежде всего, (i ) есть
тривиальный факт. Далее, из геометрической конструкции 2^ следует,
что 2^ определяет неподвижные точки изометрии g, а также пары {z,gz}
на бесконечно удаленной окружности. Отсюда следует, что 1,^ определяет
пару(^,^"^}.П
Заметим, что 2^ может быть построена, если известны неподвижные
точки изометрии g и одна пара {z, gz) на бесконечно удаленной окружности.
А также: граница Ig состоит из одной или двух кривых семейства ^,
ортогонального пучку 5^, ассоциированному с g.
§ 7.38. Геометрия произведения изометрии
Мы знаем, что любая собственная изометрия гиперболической плоскости
может быть представлена в виде произзедения f - OiOi отражений Oj
относительно геодезических Lj. Взаимное геометрическое расположение Li
и £ 2 определяет природу /; например, если L i и L 2 пересекаются, то / -
эллиптическая. Взаимное метрическое расположение Ly и Z. 2 определяет
геометрические параметры / (например, угол поворота в случае, когда /
есть вращение) следующим спеплфическим образом.
Теорема 7.38.1. Пусть Li и L2 - две различные геодезические,
Oj- обозначает отражение относительно Lj и f- Oi 02. Тогда для инверсного
произведения (Li, L2) справедлива формула
(Lb/.2) = т1 trace (/)|.
Доказательство. Если i i и L 2 расходятся, то их общий
перпендикуляр L инвариантен относительно Oi и а2. Отсюда следует, что
изометрия / гиперболическая, L - ее ось, а величина сдвига Т удовлетворяет
соотношению
-^Г= p(LuL2l
Как мы уже знаем, в этом случае инверсное произведение (Li, L2)
задается равенством
(Li,L2)'^chp(Li,L2)
(лемма 7.17.3), а также справедливо соотношение (см. § 7.34)
trace (/)| = 2ch
(i4
Если L1 и 12 параллельны, то их инверсное произведение равно 1, а так
как изометрия /параболическая, | trace (/) | = 2.
Наконец, допустим, что L i и L 2 пересекаются под углом ^, О < ^ <7г/2,
тогда
(Li, L2) = cos^.
С другой стороны, / есть поворот на угол 2в относительно точки
пересечения L1 и i 2, значит,
I trace (/)| =2cos^.n
162

Пусть даны две собственные изо метрик ^ и Л.
Запишем:
g = О1О2. h = 0ъ0^ ,
где Oj суть отражения относительно
геодезических Lj, принадлежащих некоторым пучкам S^i и
5^2- Предположим, что 5^i и 5^2 имеют общую
геодезическую L; тогда можно принять L 2 - L = /> з,
откуда 02 = аз и
Таким образом, мы получили простое пред-
ставление для ^/i, из которого можно опреде- ^* ' *
лить характер геометрического действия gh, В частности имеем
I trace (^/г)| = 2A,, ^4),
гем самым геометрия взаимного положения Li и L^ позволяет
предсказывать характер gh. Результаты, излагаемые в настоящем параграфе,
представляют собой как раз примеры этой техники. Имеются и другие
результаты; выбор материала, излагаемого здесь, диктуется соображениями
дальнейшего использования.
Теорема 7.38.2. Пусть g и h - эллиптические изометрии, g есть
поворот на угол 2в относительно и и h ~ поворот на угол 2^
относительно V. Предположим у что g и h вращают в одну и ту же сторону, причем
иФю и в,^ находятся в промежутке (О, я). Тогда
у I tr^ce(^/2) I =chp(w, у) sin в sinv? - cos в cosv?.
Доказательст в-о. Будем считать, что g vih действуют в Я^,
причем uviv лежат на положительной полуоси L мнимой оси, а также
h
g = 0i02.
030^,
где Z.2 = Z'=/'З (рис. 7.38.1).
С помощью теоремы 7.38.1 все сводится к подсчету (Z. i, L^). Пусть L i
имеет евклидово уравнение
х^ +v^ -2х \и Ictg^-iw 1^ =0,
а L 4 - уравнение
х^ +v^ +2jc li;lctgv?-~kl^ =0.
По определению инверсного произведения
l/|i^l Iw|\
(L1, Z.4) = :г I + I sin e sin (/? - cos в cos^p.
2\ |w| \v\ J -
Это дает требуемый результат, так как
ch р(и, i;) = ch In = - + .П
V \и\) 2\\ui \v\/
U* 163

Рис. 7.38.3
Замечание. Как на особый пример к теореме 7.38.2 обратим
внимание на следующий факт: в условиях теоремы изометрия gh является
параболической в том и только в том случае, когда
1 + cos ^ cos V?
chp(w, v) = —. д . .
^ sin ^ sin ifi
Разумеется, gh является параболической тогда и только тогда, когда Li
и 14 параллельны, и указанная формула полностью согласуется с той,
которая была дана в § 7.10.
Обратимся теперь к произведению gh в случае, когда g и h -
гиперболические.
Теорема 7.38.3. Пусть g и h - гиперболические с величинами
сдвигов! g, Т^ и расходящимися осями Ag, А^. Тогда
2" i trace (^/7) | = ch р(Ag, А^) sh
+ 6ch
(lr,)ch(ir.)
(■ir,)sh(-ir|
где 6 = + 1 или -1 в зависимости от сонаправленности или противонаправ-
ленности g и h (рис, 7.38.2).
Следствие 7.38.4. Если g и h направлены так, что е = +1, го
изометрия gh гиперболическая.
Доказательство теоремы 7.38.3. На рис. 7.38.3 изображен
случай (для которого е = -1), когда общим перпендикуляром осей Ag
yiAfj служит положительная полуось Z.2 мнимой оси. В этом случае
gh=@302)@20i)^030i *)
и, следовательно,
^1 trace (^/1I = (Ls.L,).
*) Обозначения несколько расходятся с теми, которые применялись в предыдущей
теореме, где было g "= о^о^, h - а^а^. Теперь считаем^ = а^а^, h - о^Оу^ н а^^о^, -
Примеч. пер.
164

Чтобы найти (Z.3, Li), предположим, что A^j есть |z | = t. Тогда Li
имеет уравнение
sin^
или, что эквивалентно,
(jc^+.v^)sin^-2xr + r^sin^ = 0.
Из § 7.9
sin^ = th
{\n).
так что Li имеет коэффициентный вектор (с точностью до численного
множителя)
(th(i7',),r,0,-lr^th(lr,)).
Такие же рассуждения применимы и к оси Ag, определяемой
уравнением IZ I = 5. Тогда
chpiAg.Ah)
i(f*f)
и требуемый результат для случая е = -1 теперь получается прямым
подсчетом инверсного произведения. Чтобы установить результат в случае
6 = +1, мы просто гядоизменяем рис. 7.38.3 так, чтобы Li и L^ были
с разных сторон от /. 2. П
Следствие 7.38.5. Пусть g и h - гиперболические с
расходящимися осями и одной и той же величиной сдвига Т. Если gh и gh'^ не
являются эллиптическими, то
(i^)
Доказательство. Из сделанных предположений следует
- 1 trace (^/i)! > 1,
и то же самое для gh"^. Меняя, если нужно, ролями h и /г"\ в
теореме 7.38.3 мы можем считать е = -1, и тогда требуемый результат
следует из .
Рассмотрим, наконец, случай, когда оси Ag nAh пересекаются.
165

Теорема 7.38.6. Пусть g и h - гиперболические, причем оси А^^
и Aft пересекаются в точке и 2 ^^^^ углом в, 0<в < п, который является
углом между лучами, выходящими из V2 в сторону притягивающих
неподвижных точек для g и h. Тогда gh - гиперболическая и
trace (^;i)| = chUr^jch^r^)+sh^-^^
Доказательство. Используем' представление гиперболической
изометрии в виде произведения двух вращений порядка 2 (см. § 7,34).
Рис. 7^8.4
В соответствии с рис. 7.38.4 имеем
откуда непосредственно видно, что gh является гиперболической с осью L
и величиной сдвига 2p(v 1,^3)- Таким образом,
-\ trace (gh)\ = chp(ui,U3),
и требуемый результат следует из правила косинусов ( § 7.12). П
Упражнение 7.38
1. Выведите следствие 7.38.5 из рассмотрения следующих геодезических в Д. За
общий перпендикуляр L к Af^ и Л^, примите отрезок (-1, 1) действительной оси;
начало координат примите за середину отрезка линии L между Ag и Л^,. Перейдя,
если нужно, от^ к^"^ и от Л кЛ"\ можем записать g - а^а, Л = оо^, где а есть
отражение относительно L, л oj - отражение относительно Lj (Lj лежит в нижней
половине Д); кроме того,
piL,L,) = p{L,L,) = jr.
Теперь примените результаты § 7.18 и 7Л9к многоугольнику, стороны которого ле-
жат на -Lj f Lj jy ^29 я h *
§ 7.39. Геометрия коммутаторов
Напомним, что коммутатор [g, h ] есть ghg'^h"^. Наша цель -
исследовать геометрию [g, h]; для этой цели мы будем рассматривать [g, h ] как
произведение g и сопряженного к ^"^ элемента hg'^h'^, перебирая
различные возможности для g. Заметим, что если, скажем,^ есть вращение на
угол В, то hg'^h'^ есть тоже вращение на угол ^, но в противоположном
166

направлении. Мы можем ограничить свое внимание возможностями для g
(а не для h), поскольку
[h.g] = [g,h]-'. G.39.1)
Кроме того, от ^ и Л можно переходить к сопряженным элементам,
так как
[fgf-' ,fhf-'] = f[g.h]f-'.
Теорема 7.39.1. Пусть изометрия g - параболическая, причем g
и h не имеют общей неподвижной точки. Тогда [g,h] - гиперболическая.
Рис. 7.39,1
Доказательство. Матричное доказательство (с ^ (z ) = z + 1)
достаточно просто, но геометрическое более поучительно. Пусть ^ оставляет
на месте точку и, и пусть L2 — геодезическая, соединяющая v с h(v).
Выбрав подходящие Li и Z. 3, можем записать
g^0i02, hg-^h'^ = 0203, [g.h] = О1О3,
где Li vi Ьз имеют конщ>1 в точках v и /г (и) соответственно. Так как g
и hg'^h'^ действуют в противоположных направлениях, то ясно, что Li
и L3 лежат по разные стороны от L2 и являются расходящимися.
Следовательно, Oi 03 - гиперболическая с величиной сдвига 2p(L 1, L3). □
Теорема 7.39.2 Пусть g - эллиптическая изометрия с неподвижной
точкой V и углом поворота 2в,0<в <п. Пусть изометрия h не оставляет
точку V на месте. Тогда [g, h] - гиперболическая с величиной сдвига Г,
где
sh(r/4) = sh-ip(u, Ли)8Ш^.
Доказательство. Запишем^ = а1а2,где Z.2 соединяет v и h(v).
Далее, построим /.з, как указано на рис. 7.39.1, тогда hg'^h"^ = а2аз
и [g>h] = О1О3.
Так как Li и I3 образуют равные углы с Z.2, то они расходятся,
и [gf h] - гиперболическая с величиной сдвига
^= 2р{1,ЛзУ
167

На основании § 7.26 можем записать:
sh -г р (L1, /.з) = sh — р (и, /lu) sin ^. П
Наконец, рассмотрим [g, h] в случае, когда g является
гиперболической. Если h — эллиптическая или параболическая, то имеем уже
разобранные случаи (по G.39.1)). Поэтому можем предположить, что g н h обе
являются гиперболическими. Заметим, что hg'^h'^
га Tg и ось h {Ag).
имеет величину сдви-
Рис. 7.39.2
Теорема 7.39.3. Пусть g и h являются гиперболическими, пусть
также h(Afj) пересекает Ag под углом в {между положительными
направлениями g и hg'^h"^). Тогда [g,h] является гиперболической с
величиной сдвига Г, где
ch
i^Tj = l^lslv'l-^TgjcosHe 12).
Доказательство. Применим теорему 7.38.6, заменив в ней h
на /i^ " ^ /i" ^. Тогда получим
chUrUch^f^rJ + sh^Q
Можно было бы рассмотреть и много других ситуаций с
гиперболическими g нИ и на основании этого построить "мультипликационный фильм"
о поведении [g, h] в зависимости от трех параметров Tg, Т^ н (Ag,Aij)
(инверсного произведения). Сделать это было бы в высшей степени
поучительно; однако для читателя будет полезнее, если он проделает эту работу
самостоятельно. Мы ограничимся тем, что укажем три "кадра" такого
фильма на рис, 7.39.2, где [g, h ] (= о^Оу) является соответственно
эллиптической, параболической и гиперболической.
В заключение докажем два результата, относящихся к случаю
пересекающихся осей.
Теорема 7.39.4. Пусть g и h - гиперболические, причем их оси Ag
и Aft пересекаются под углом в, О < в < п. Если [g,h] не является
эллиптической у то
sh(-|rJshQrJsin^
> 1.
Доказательство. Ситуация описывается одной из двух последних
диаграмм на рис. 7.39.2. Мы мож^м воспользоваться теоремой 7.38.3, заме-
168

нив в ней h на hg'^h и взяв е = -1. Тогда получим
1 < ^ I trace [^, й ] I = I chp{Ag,hAg) sh^(-i T^j - ch^U jgj | =
= bsh^f-irjsh^^p {Ag,hAg)-\ I
И, следовательно,
^\\'^g)^^\HAg.hAg) > 1.
Вместе с тем на основании § 7.26 имеем
s\i^p{Ag,hAg) =sh(~r^jsin(9.n
Следствие 7.39.5. Пусть g\, ...,gn- сопряженные между собой
гиперболические элементы в группе С,не содержащей эллиптических
элементов *), Г -величина сдвига каждого gj. Пусть также оси Aj всех gj
проходят через общую точку. Тогда
М^)
shH~TjsmGT/n) > 1.
Доказательство. Некоторые две оси А^ и Aj должны
пересекаться под углом в, где в < тт/п; далее применяем теорему 7.32.4. П
Упражнение 7.39
1. Выведите теорему 7.39.4 из последних двух диаграмм рис. 7.39.2, применив
результаты § 7.18 и 7.19 к многоугольнику, стороны которого лежат на Л^, Л/,, Ij,
/.2 и /,3-
2. Пусть L есть положительная полуось мнимой оси в Я ^, и пусть
az -*■ b
h{z) = {ad-be ••-- 1)
cz -^ d
сохраняет Я^. Покажите, что инверсное произведение (L,hL) и двойное отношение
(О, оо, ЛО, Л оо ] могут быть выражены одно через другое, а также через
коэффициенты а, Ь,.с, d, например {L,hL) = lad -1. Покажите также, что L и hL
пересекаются тогда и только тогда, когда ad ^ (О, 1). Эти соображения оказываются полезными,
когда L есть ось некоторого g , а, значит, Л L - ось hgh'^
§ 7.40. Замечания
По поводу общего введения в гиперболическую геометрию мы отсылаем
к [21, 32, 66, 68, 112]; о гиперболических изометриях см., например,
[55, 56, 57, 98]. Выпуклость обсуждается в [102]; выпуклые
гиперболические многоугольники рассматриваются в [10]. Метрические соотношения
для многоугольников (§7.17-7.19) используются в [29] при
рассмотрении плоской геометрии (и римановых поверхностей), а также в недавнем
исследовании [101] по теории 3-многообразий.
*) Здесь G - некоторая подгруппа группы всех изометрий. - Примеч. пер.
169

ГЛАВА 8
ФУКСОВЫ ГРУППЫ
§ 8.1. Фуксовы группы
Напомним определение 6.2.2: фуксова группа G есть дискретная
подгруппа группы JI , оставляющая инвариантным некоторый круг/) и
действующая разрьюно в D, Мы можем предположить, что D есть единичный
круг Д (или полуплоскость Я^) и, таким образом, рассматривать G как
дискретную группу изометрий гиперболической плоскости. Это, как будет
показано в главе 9, индущ1рует "замощение" плоскости гиперболическими
многоугольниками. Такое замощение, характеризующее с геометрической
стороны действие группы G, и будет главным объектом нашего внимания.
Если G - неэлементарная группа, то (см. теорему 5.3.7) предельное
множество Л группы G лежит на единичной окружности 9 А (это же верно и
для элементарных фуксовых групп). Весьма важно установить различие
между случаями, когда Л есть вся окружность 9 А или только ее часть.
Определение 8.1.1. Пусть G - фуксова группа с инвариантным
кругомD, Мы скажем, что группа G -первого рода, если \^ЪО, и второго
рода, если Л есть собственное подмножество в 9 Д
Элементарные дискретные группы описаны в § 5.1; имеет смысл дать
описание всех элементарных фуксовых групп. Заметим, что все такие
группы - второго рода.
Вначале рассмотрим фуксову группу G , содержащую только
эллиптические элементы и /. По теореме 4.3.7 все элементы из G имеют общую
неподвижную точку f вЯ^. Мы можем считать, чтоG-инвариантной
областью является Я^ и что, таким образом, каждый эллиптический элемент
л
g^G имеет в С неподвижные точки w\iw (см. § 5.2). Так как ось
преобразования g есть геодезическая в Я ^, проходящая через f и
оканчивающаяся в VV и w, мы видим, что W не зависит от выбора g. Итак, элементы
группы G имеют в С одни и те же неподвижные точки. Теперь легко видеть,
что G есть конечная Щ1клическая группа.
Можно дать и алгебраическое (хотя и менее прозрачное)
доказательство. Будем считать, что G-инвариантная область есть А и что
-(::-)• -(:;)• '"-•
—эллиптические элементы из G. Из равенства
trace к,/i] =2+4lcl4lmM)^
вытекает с = 0 или Im [и] = О (в противном случае элемент \g,h] будет
гиперболическим). Поскольку I м I = 1 и w^ =?^ 1, мы видим, что с = 0,
следовательно, h фиксирует О и <».
170

Чтобы найти все элементарные фуксовы группы, рассмотрим сначала
произвольную фуксову группу G, которая оставляет инвариантным Д и
фиксирует некоторую точку w. Мы знаем, что непохщижные точки
эллиптических элементов из G не могут принадлежать ЭД; напротив, неподвижные
точки параболических и гиперболических элементов должны лежать в ЭД.
Более того, по теореме 5.1.2 параболический и гиперболический элементы
из G не могут иметь общей неподвижной точки. Отсюда можно сделать
вывод, что G содержит элементы только одного типа. Учитывая
дискретность G, получаем следующий результат.
Теорема 8.1.2. Если О - фуксова группа, то для любой точки w
стабилизатор
Gw= {g^G\g{w)-^w}
есть циклическая группа.
Вообще, легко видеть, что любая элементарная фуксова группа или
является циклической, или сопряжена с { g,h), где g{z)-kz {к> \) и
h{z) -^-Hz.
Определение 8.1.3. Параболический или гиперболический элемент
g фуксовой группы О называется примитивным, если он порождает
стабилизатор любой из своих неподвижных точек. Если^ эллиптичен, то он
называется примитивным, если он порождает стабилизатор и имеет угол
вращения вида In/п.
Замечание 8.1.4. Пусть Go - стабилизатор каждой из неподвижных
точек элемента g. Тогда g будет примитивным в том и только в том
случае, когда S^ D S|, для всех И из Go, где 2^ обозначает каноническую
область, ассощшрованную с g (см. § 7.37). В некоторых случаях
примитивность можно выразить в терминах следовой функщ1и.
Наконец, введем разделение всех гиперболических элементов фуксовой
группы G на простые и непростые гиперболические. Это разделение зависит
от положения гиперболических элементов в самой группе G и не является
в этом смысле "абсолютным".
Определение 8.1.5. Пусть h - гиперболический элемент фуксовой
группы G, и пусть А - ось h. Мы скажем, что h есть простой элемент
группы G, если для любого ^ из G имеет место g {А) = Л или g {А) С\А-ф.Ъ
противном случае будем называть g непростым.
Подобная ситуация уже рассматривалась в § 6.3; с точки зрения
введенной там терминологии h является простым, если ось А этого элемента
G-устойчива.
Предположим, что G действует на Д без эллиптических элементов. Если
h - простой, то 7г(Л) - проекция А в i^lG - совпадает с АЦ g) ,гце g -
порождающий элемент циклического стабилизатора для А. Следовательно,
7г(/4) есть простая замкнутая кривая в А/О. Если h - непростой, то
некоторый образ f(A) пересекается с А, скажем, в точке w. Так как G не имеет
эллиптических элементов, проектирование тг является вблизи w
гомеоморфизмом и, значит, тт(А) есть замкнутая кривая, пересекающая себя
в точке W.
171

Упражнение 8.1
1. Пусть G - фуксова группа, действующая в Я ^. Пусть G содержит элемент ^: z *^
h^kz (^ > 1). Покажите, что элемент является простым в том и только в том случае,
когда для всех Л G G вида
az -^ b
h{z) = Т {ad-bc = l)
имеем abcd> ОI или, что эквивалентно, М7с/ - --- | > ~ 1.
§ 8.2. Чисто гиперболические группы
В этом параграфе мы рассматриваем группы, которые содержат только
гиперболические элементы и /; в § 8.3 будут допускаться и
параболические (но не эллиптические) элементы. Этот класс групп важен с точки
зрения римановых поверхностей (см. гл. 6); в частности, таким группам
отвечают компактные римановы поверхности рода > 2,
Группа G мёбиусовых преобразований называется чисто
гиперболической, если каждый нетривиальный элемент 'из G гиперболичен. По теореме
5.2.1 неэлементарная чисто гиперболическая группа всегда имеет
инвариантный круг; на самом деле такая группа обязательно дискретна и, значит,
является фуксовой группой. Мы дадим два доказательства этого
предложения, из которых одно будет алгебраическим (и укажем для последнего
геометрическую интерпретацию); однако более сильный количественный
результат будет установлен исключительно геометрическими средствами.
Стоит заметить, что хотя этот более сильный результат (теорема 8.2.1)
содержит значительно больше ^шформации, однако его доказательство
не требует существенного усложнения рассуждений.
Теорема 8.2.1. Пусть G - чисто гиперболическая группа и А- ее
инвариантный круг. Тогда G или дискретна, или элементарна. Далее, если f,
gEG и группа { g,h) не элементарна, то для всех z Е А
1 1
sh- рB, gz) sh - p{z, hz)> I, (8.2.1)
2 2
Указанная оценка является наилучшей.
Отметим сразу же три следствия.
Следствие 8.2.2. Если ( g,h ) - неэлементарная или чисто
гиперболическая, то для всех Z
m3x{p(z.gz),piz,hz)} >2sh-4l)>l,76,
причем указанная оценка наилучшая.
Что данная оценка является наилучшей, показывает пример 8.2.5
(см. ниже).
Так как G сохраняет Д, то из G.2.4) находим
1 .. .. 1^@I'
sh^7P@'^0) =
2 ^'"'""^ 1-1^@)Р
Для случая 2=0 неравенство в теореме 8.2.1 дает
1^@I^ • 1^0) Р >A - 1^0) Р)A - 1^0) Р);
172

последнее эквивалентно следующему неравенству (которое является
евклидовым вариантом теоремы 8.2.1).
Следствие 8.2.3. Если группа ( g,h) неэлементарная и чисто
гиперболическая, то
1я@)|' +1К0I^>1.
Другое неравенство (имеющее более близкое отношение к понятию
дискретности в SLB, С)) можно получить, заметив, что если
g
то
-С: )•
^1^-|с|^ = 1,
Il^-/I|2>2lc|2=2sh2-P@,^0).
Таким образом, имеем
Следствие 8.2.4. Пусть ( g^h) есть чисто гиперболическая
неэлементарная группа, сохраняющая А, Если матрицы А и В из SLB,С)
представляют g и h соответственно, то
\\А-1\\'\\В-1\\>2,
Теорема 8.2.1 и ее следствия по своему характеру подобны неравенству
Йоргенсена (см. теорему 5.4.1): в обоих случаях утверждается, что g и
h не могут быть слишком близки к 1. Однако неравенство Йоргенсена, а
именно,
I trace^(g^) -41+1 trace \g,h] -2\>\,
не дает никакой информащ1и, если величина trace^ (g').He заключена между
3 и 5, в то время как теорема 8.2.1 (содержащая вместо суммы
произведение) и ее следствия дают полезную информацию во всех случаях.
Пусть R - риманова поверхность вида A/G, где G есть неэлементарная и
чисто гиперболическая группа. Через некоторую точку в R проведем две
замкнутые кривые £i и £2, имеющие длины /i и /г соответственно. По
теореме 8.2.1 (см. также §6.2)
sh(~ /,|sh( ^М>Ь
'(т'-Мг'-)
если только соответствующая группа ( g,h), получаемая поднятием
jCi и «Сг в А, не является элементарной (последнее возможно лишь тогда,
когда «Ci и ^2 гомотопны исходной точке или когда £i и «Ci гомотопны
каждая некоторой степени одной и той же замкнутой кривой, — тогда
группа < ^, /г > будет щ1клической).
Следующий пример показывает, что оценка, указанная в теореме 8.2.1,
является наилучшей.
Пример 8.2.5. Построим четыре геодезических L^ в А, как указано
на рис. 8.2.1. Пусть ^ — гиперболический элемент, фиксирующий -1 и 1 и
отображающий Li в Z. 2; аналогично пусть h - гиперболический элемент,
фиксирующий —f и i и отображающий Ls в L4. Пусть, далее, G = < g,h >.
Очевидно, G не элементарна.
Используя следствие 5.3,15 (с Gj = < ^ > ,G2 = < /г > и областью Д
ограниченной всеми Lj), находим, что G разрывно действует в А. Как выяс-
173

нится позже (в гл. 9), группа G является чисто гиперболической {D
является фундаментальной областью для G и в D нет эллиптических или
параболических неподвижных точек), так что условия теоремы 8.2.1 вьшол-
няются.
В данном примере начало принадлежит осям обоих элементов g 1лН\ по
теореме 7.18.1
sh ^ р@,^0) sh у p@,;iO) = sh(-^ ^T4I ^V"
= sh(^i)sh((i2) = chp(Z.2, L^).
Сблизив Lj между собой, можно добиться, чтобы число p{L2,La) стало
как угодно малым; это и доказывает точность оценки в теореме
8,2.1.
Доказательство теоремы 8.2.1. Покажем сначала, что если
группа { g,h) неэлементарная и чисто гиперболическая, то выполняется
(8.2.1). Мы не предполагаем, что ( g,h) дискретна; наоборот,
дискретность будет следовать из (8.2.1).
Пусть Ag и А^ - оси для g и h. Так как i g,h) не элементарна, эти
оси или пересекают друг друга, или расходятся. Вспоминая определение
8.1.5, мы теперь видим, что возможны три случая:
Случай l:Ag uAfj пересекаются.
Случай 2: оба элемента g uh непростые.
Случай 3:Ag и А^ расходятся и элемент g простой.
В случае 2 мы можем применить следствие 7.39.5 (при « = 2) и получить
(так как образы Ag пересекают Ag)
shI— rj>l.
{i4
Такое же неравенство имеет место и для /i, откуда следует
Заметим, что по теореме 7.39.4 то же самое неравенство справедливо и в
Рис. 8.2.1
Рис. 8,2.2
174

случае 1. Применяя теорему 7.35.1, находим, что в любом из случаев 1 и 2
1 1
sh — p{z, gz)ui — p{z, hz) =
2 2
= chp(zM^)chp(z,^^)sh^Y wHt ^V^^'
что и есть как раз (8.2.1).
Доказательство (8.2.1) в случае 3 более трудно. Так как g - простой
элемент, а группа ( g,h ) не элементарна, геодезические Ag и h{Ag)
расходятся. Таким образом, геодезические Ag, Л^, h(Ag) попарно
расходящиеся; после применения подходящей изометрии ситуащпо можно
представить с помощью рис. 8.2.2 (строим сначала/.о, затем/, так, чтобы h был
композицией отражений относительно L vlLq).
Применив теорему 7.19.2, получим
chT^±^piAg,Ah)^ch^p(Ag,Ah)'^chp(Ag,hAg).
Следовательно,
ch'^p(Ag,A^)[chT^-\]>2sh^ — piAg, hAg) = 2sh^p(Ag, L),
что дает
{т ^»)
chp(^^,^^)shl - T^j>shp(Ag,L). (8.2.2)
Построим теперь геодезическую /.„(«> 2), ортогональную Ag, так, что
если Oj "обозначает отражение в Lj, то а„ао =g" (или^"*"); следовательно,
p(Lo,Ln) =«Г^/2. Линия/.„не может пересечь/., так как
(а обозначает отражение в L, так что а© а есть h или h~^) ив случае
пересечения /.„ с /. их общая точка была бы эллиптической неподвижной
точкой. Отсюда следует, что при некотором значении т линии L^ и Ь^-^г
будут расположены, как показано на рис. 8.2.3. Чтобы сфокусировать
внимание на нужных деталях, изобразим ситуацию еще раз (после
применения изометрии) на рис. 8.2.4.
Без ограничения общности можно считать di <(i2, так что
'•^li^'"')'!^-
применяя теорему 7.18.1, получаем
sh(Tgl4)shpiAg, L) > sh((ii)shp(y4^, /.) = chp(/.^ + i, /.)> 1.
Отсюда
sh( - rJshp(^^,/.) = 2sh(r^/4)ch(r^/4)shp(y4^, /.)> 2,
что совместно с (8.2.2) дает
ch p{Ag^ At,) sh( у r^jsh^ ~ t)j> 2, (8.2.3)
175

Теперь заметим, что
2chp(z, Ag) chp(z, Аи)> oh[p(z, Ag) -^p(z, Ah)] >chp(Ag,Ah),
откуда с помощью (8.2.3) находим
chp(zM^)sh(~ r^jchp(z,^^)sh(^r^j>l.
Это неравенство совпадает с (8.2.1), если принять во внимание
теорему 7.35.1.
Чтобы закончить доказательствство теоремы 8.2.1, нам осталось
показать, что каждая чисто гиперболическая группа или дискретна, или
элементарна. Предположим, что G есть чисто гиперболическая, но не дискретная
группа. Тогда существует состоящая из различных гиперболических
элементов последовательность gn такая, что gn ~^1- Отсюда следует
р@,^„0)-^0;
отбросив некоторые «, мы можем считать, что для всех п
1
sh-p@,^„0)<l.
Из первой части доказательства теперь следует, что для всех m и « группа
i gmyin'> элементарна. Так как G не содержит параболических элементов,
то gn ligm не могут иметь только одну общую неподвижную точку
(теорема 4.3.5); следовательно, существуют две различные точки м и и,
неподвижные относительно всех^„.
Наконец, для каждого h EG(h ФТ)
1 1
sh-~p@,;iO)sh— p@,g„0)
2 2
^0
и, следовательно, при достаточно большом п группа { gn^h) элементарна.
Отсюда вытекает (как выше), что h фиксирует м и и; и так как h есть
произвольный элемент из G, то G элементарна. D
Алгебраическое доказательство теоремы 8.2.1.Мыдо-
кажем лишь то, что G дискретна или элементарна; более полное
исследование показало бы, что имеет место (8.2.1).
176

Предположим, что G не элементарна и действует в Я^. Тогда по
теореме 5.1.3 G содержит гиперболический элемент. Запишем последний в виде
\0 Ни Г
м>0.
Чтобы доказать дискретность G, мы должны проверить, что любая
сходящаяся к / последовательность
элементов из G обладает тем свойством, что gn "^ I для всех достаточно
больших п. С помощью вычислений находим, что
trace[/i,^„] =2-Ь„с„(м j ->2,
поскольку Ь„->Оис„-^0 (ибо^„->/). Так как группа О не содержит
эллиптических элементов, то след любого элемента из G должен находиться
вне интервала (-2,2), поэтому для достаточно больших п должно быть
Ь„с„<0.
Запишем теперь, что
причем AnD„-B„C„ = 1. Поскольку /„ ->/ (ибо gn -^Г), те же соображения,
что и выше, показывают, что для достаточно больших п
ВпСп<0.
Однако вычисления дают
trace [h, /J = 2 -В„С„ (ti --j = 2 + Ь„с„A + b„c„)\u - - ) ,
поэтому для достаточно больших п
Ь„с„>0,
Таким образом, для всех достаточно больших п
Ь„Сп = 0.
Это означает, что для указанных значений п гиперболический элемент h
имеет с каждым gn общую неподвижную точку. Но по теореме 5.1.3 G
содержит три гиперболических элемента /ii, /^2» ^з» никакие два из которых
не имеют общих неподвижных точек. Отсюда следует, что при достаточно
большом п каждый из элементов gn должен иметь три неподвижные точки
(по одной общей для gnnhj), т.е. ^„ = /. D
Геометрический смысл. Оси Angn (Л) элементов h и gn^gn^
(соответственно) близки (поскольку ^„->/) и не могут быть
расходящимися - в противном случае по следствию 7.38.5 один из элементов^,i%„ -Л
или gnhgn^ -h'^ был бы эллиптическим. Отсюда вытекает ^7„с„<0:
действительно, если, скажем, А есть положительная полуось мнимой оси, то
gn{A) есть геодезическая с конечными точками bjdn и ajcn, тогда ин-
П.А.Бердон 177

версное црои^ведение л и^„(Л) есть
(Л ГАЛЛ ^(^пЮ^(ап/Сп)\12 .^_^ ,
\ФпЮ-{а„/Сп)\12
и если \bnCn I мало, то ЬпСп^^ О-в противном случае А и gn(A)
расходятся.
Итак, оси А и gn(A) пересекаются или параллельны, а также ^„с„ ^0.
Пересечение осей невозможно, так как в противном случае элемент
fn = [h.gn] = h'g^h'^g-^
(близкий к /) имел бы ось, пересекающую А (см. теорему 7.38.6 и ее
доказательство), откуда следовало бы, что А и /„(А) расходятся, а это,
как мы уже видели вначале, исключается. Следовательно, Л и gn(A)
параллельны, откуда следует ^„с„ = 0. П
Следует подчеркнуть, что алгебраическое доказательство теоремы 8.2Л
устанавливает дискретность G фактически при одном лишь
предположении, что в G нет эллиптических элементов. Сформулируем это как наш
следующий результат; его геометрическое доказательство будет дано
в ближайшем параграфе.
Теорема 8.2.6. Пусть группа G изометрий гиперболической
плоскости не является элементарной. Тогда, если О не. имеет эллиптических
элементов, то G дискретна.
Упражнение 8.2
1. Проверьте в деталях правильность геометрической интерпретации доказатель-
сгва теоремы 8.2.1.
2, Покажите, что если G есть группа изометрий, действующая в Я^ без
эллиптических элементов и содержащая ^: z »-► z + 1, то для всех элементов из G, имеющих
вид
az -i- b
h(z) = iad-bc^-l),
cz -i-d
либо с =0, либо I с I > 4. (Рассмотрите следы матрицы, представляющих g"h).
§ 8.3. Группы без эллиптических элементов
В этом параграфе мы обобщим теорему 8.2.1 на случай, когда
допускаются и параболические (но не эллиптические) элементы. Заключение
останется таким же, как в теореме 8.2.1; останутся справедливыми и
заключения следствий 8.2.2 - 8.2.4. При этом окажется весьма
существенным, что читатель уже знаком с доказательством теоремы 8.2.1.
Более общие результаты (когда допускаются и эллиптические
элементы) будут рассмотрены в § 8.4 и главе 11.
Теорема 8.3.1. Пусть О - группа изометрий гиперболической
плоскости, не содержащая эллиптических элементов. Тогда G или элементарна,
или дискретна. Далее, если g, h ^ G и группа (g, h) не элементарна, то
для всех Z Е А
sh — pB,^2)sh — p(z,hz) > 1, (8.3.1)
причем указанная оценка является наилучшей,
178

Доказательство. Пример 8.2.5
показывает, что указанная нижняя
граница является наилучшей. Более того,
поскольку Теперь допускаются
параболические элементы, мы можем построить
четверку геодезических в этом примере так,
чтобы каждые две последовательные гео-
дезичес1сие имели общую концевую
точку; тогда нижняя граница в (8.3.1)
будет фактически достигаться.
Пусть G - неэлементарная группа без
эллиптических элементов. Теорема 8.2.6 Рис. 8.3.1
утверждает, что G дискретна; но мы
предпочтем заново получить этот факт, придерживаясь духа геометрического
доказательства теоремы 8.2,1. Если G не содержит параболических
элементов, требуемый результат содержится в теореме 8.2.1; поэтому
предположим, что в G имеются параболические элементы.
Пусть G действует в Н^. Примем, что <» есть неподвижная точка для
некоторого параболического элемента в G, скажем h(z) = z + 1. Если G
содержит гиперболический элемент /, фиксирующий «>, мы можем
считать, что / сохраняет и начало, т.е./(z) = kz; тогда G содержит переносы
вида Z *-^ Z -^ t для как угодно малых t (рис. 8.3.1). Следовательно,
множество Т всех / таких, что z «-^^ z + Г принадлежит G, всюду плотно в R.
Так как G не элементарна, она содержит гиперболический элемент g,
не фиксирующий ©о. Следовательно, существуют геодезическая/.о
(оканчивающаяся в <») и /. (изометрическая окружность для g) такие, что
g = OqO, где о обозначает отражение в L. Так как Т плотно в R,
существует вертикальная геодезическая L* (которой отвечает отражение а*),
пересекающая L и такая, что о*0о есть евклидов перенос из G^
Следовательно, а*аесть эллиптиягеский элемент из G, что противоречит условию.
Таким образом, параболические неподвижные точки не фиксируются
никакими гиперболическими элементами из G (ср. с теоремой 5.1.2, в
которой предполагается дискретность).
Это же самое рассуждение показывает, что стабилизатор любой
параболической неподвижной точки для G является дискретной {следовательно,
циклической) подгруппой в G, состоящей из параболических элементов.
Рассмотрим теперь элементы g и h из G такие, что группа'<^, /i > не
элементарна. Если оба эти элемента - гиперболические, то они не могут
иметь одну общую неподвижную точку (в противном случае элемент
[g, И] будет параболическим, что по доказанному выше исключается).
Но в таком случае доказательство (8.2.1), данное в предыдущем
параграфе, сохраняет силу (с незначительными изменениями). Нам остается,
следовательно, рассмотреть еще один случай:
Случай 4: h - параболический, g - параболический шги
гиперболический.
Мы можем считать, что /2(z) = z + 1 и что h порождает стабилизатор
точки <», поскольку для всех отличных от нуля целых п
1 1
sh — p(z, hz) < sh — p(z,h"z).
12* 179

Пусть
az -^b
g{z) = , ad-bc ^ \,
cz -^d
причем g(^) ^ °° (т.е. с ^ 0). Выберем Lq как выше; пусть L„ будет
вертикальная геодезическая L о + w/2 (в очевидных обозначениях); таким
образом, а„ао = Л". Приведенное выше рассуждение показывает, что ни
одна из линий /.„не пересекает изометрической окружности элемента g;
следовательно, 2/| с I < 1/2 или
к| > 4.
Пусть теперь и и v - неподвижные точки для g (обе точки отличны
от оо^ допускается w = и). Поскольку w и и — действительные, имеем
\z-g(z)\ • Icz-^dl = \z(cz-^d)-(az-^b)\ =
= kl • U-wl • \z-v\ > \c\y^ > 4y\
Используя теорему 7.2.1, можем записать:'
1 1 \z-giz)\ 1
sh -- p(z, gz) sh ~- p(z, hz) = • —- =
2 2 2iylm[gz]yf^ 2y
= \z~g(z)\ • k2+6?|/4/ > 1,
что и завершает доказательство в случае 4.
Дискретность G доказывается как в теореме 8.2.1. D
§ 8.4. Критерий дискретности
Кульминацией ряда полученных ранее результатов является
Теорема 8.4.1. Пусть G - неэлементарная группа изометрий
гиперболической плоскости. Следующие утверждения эквивалентны:
A) О дискретна-,
B) G разрывно действует в Д;
C) множество неподвижных точек эллиптических элементов из G не
имеет предельных точек в А;
D) / не является предельным элементом для эллиптических элементов
U3G;
E) любой эллиптический элемент из G имеет конечный порядок;
F) любая циклическая подгруппа в G дискретна.
Структура доказательства иллюстрируется рис. 8.4.1: каждая
сплошная стрелка (А -* В означает ''А влечет В'') обозначает импликацию,
которая тривиальна или уже известна, штриховая стрелка — импликацию,
которая доказывается ниже.
Замечание. Если G не имеет эллиптических элементов, то каждое
из шести утверждений теоремы или тривиально, или доказано ранее;
поэтому мы можем считать, что G содержит эллиптические элементы.
Итак, докажем ряд импликаций:
B) влечет C). Пусть z Е: А и N - компактная окрестность точки z.
Согласно B) g (N) пересекает Л^ лишь для конечного числа элементов
g ^ G, следовательно, лишь конечное число неподвижных точек лежит
вТУ.П
180

C) влечет E). Пусть E) не выполняется. Тогда G содержит
эллиптический элемент g бесконечного порядка. Если v — неподвижная точка
для g, то последовательность ^"(z), п G Z, плотна на гиперболической
окружности с центром v и радиусом p{z, v). Так как G не элементарна,
существует f ^ G, f(v) Ф и; тогда последовательность g"f(v), состоящая
из эллиптических неподвижных точек, имеет в А предельные точки. П
A)
Рис. 8.4.1
D) влечет E). Пусть снова E) не выполняется. В этом случае мы
можем считать, что G содержит элемент вида ^(z) = expB^/^)z, где в
иррационально. Числа е\р{2п7т16), и G Z, расположены на единичной
окружности всюду плотно, поэтому для подходящей подпоследовательности
имеем ^"->/.П
E) влечет A). Будем рассматривать G как группу матриц. Пусть Go —
какая-либо конечно порожденная подгруппа в G. По лемме Сельберга
(см. § 2.2) Go содержит подгруппу Gi конечного индекса, в которой нет
эллиптических элементов конечного порядка.
Поскольку мы предполагаем выполненным E), то Gi не должна
содержать эллиптических элементов. Отсюда по теореме 8.3.1 следует, что
Gi дискретна. Так как Gi имеет конечный индекс в Go, то, как легко
видеть. Go тоже дискретна. В силу теоремы 5.4.2 дискретна и сама
группа G. П
§ 8.5. Область Нильсена
Пусть G - фуксова группа, действующая в гиперболической
плоскости А. Нас будут сейчас интересовать непустые G-инвариантные выпуклые
множества.
Допустим сначала, что группа G второго рода. Тогда ЭА есть
дизъюнктное объединение предельного множества Л и счетного числа попарно
непересекающихся открытых дуг Oj. Пусть Lj — геодезическая, имеющая те же
концы, что и ау, и пусть Яу - открытая полуплоскость, ограниченная Lj и
лежащая с ау по разные стороны от Lj. Так как набор { Oj) G-инвариантен,
то это же самое верно и для набора {Яу}, следовательно,
TV = nHj (8.5.1)
У
есть G-инвариантная выпуклая область в А. Если G не элементарна, то
множество Л бесконечно и, следовательно, Л^ непусто. В этом случае
существует бесконечно много дуг ау, так что при / ^ «> евклидовы длины
О) стремятся к нулю. Это означает, что каждый открытый Kpyr{|z | <
< г}, г < 1, лежит во всех, кроме конечного числа, Hj; отсюда вытекает,
181

что Л" открыто. Итак, Л^есть непустое G-инвариантное открытое выпуклое
подмножество в А.
Определение 8.5.1. Пусть G — неэлементарная фуксова группа,
действующая в А. Пусть, далее, N есть подмножество в А, определенное
с помощью (8.5.1), если группа G второго рода, и Л^= А, если группа G
первого рода. Тогда Л^ называется областью Нильсена (Nielsen region)
для G.
Следующий результат показывает, что N может быть определено
безотносительно к бесконечно удаленной окружности.
Теорема 8.5.2. N есть наименьшее непустое С-инвариантное откры-
юе выпуклое подмножество в А.
Доказательство. Так как Л^ обладает всеми указанными
свойствами, за исключением, возможно, минимальности, то нам достаточно
показать, что каждое непустое G-инвариантное открытое выпуклое
множество Е содержит Л^. Так как Е непусто и G-инвариантно, то оно содержит
некоторую G-орбиту. Множество предельных точек этой орбиты содержит
все Л. Отсюда следует ЕрМ, Так как для любого открытого выпуклого
множества >1 мы имеем {А)^ -А*) ,тоЕЭ М,П
Упражнение 8.5
1. Докажите аккуратно, что для каждого z имеет место C{z) D N, где C(z) есть
выпуклая оболочка G-орбиты точки z.
§ 8.6. Замечания
По поводу общей теории фуксовых групп мы отсылаем читателя к
[30, 52, 57, 103, 114]. Геометрические идеи, развитые в этой главе, имеют
своим источником работу Фенчела и Нильсена (см., например, [29, 99]).
Алгебраическое доказательство теоремы 8.2.1 дано в [95]; теорема 8.3.1,
насколько мне известно, является новой. Идеи § 8.4 берут начало в [42].
*)С4)° обозначает множество внутренних точек для А. - Примеч. пер.

ГЛАВА 9
ФУНДАМЕНТАЛЬНЫЕ ОБЛАСТИ
§ 9.1. Фундаментальные области
Пусть G ~ фуксова группа, действующая в гиперболической
плоскости А (или в Я^). Фундаментальным множеством для G называется
подмножество F в А, содержащее ровно по одной точке из каждой орбиты
в А. Таким образом, никакие две различные точки в F не являются G-эк-
вивалентными и
и /(/О = А.
/ее
Аксиома выбора гарантирует нам существование (чего, разумеется, еще
недостаточно) фундаментального множества для G.
Фундаментальная область - это область, которая вместе с частью своей
границы образует фундаментальное множество для G.
Определение 9.1.1. Подмножество/)гиперболической плоскости
называется фундаментальной областью для фуксовой группы G, если:
A) Z) есть область;
B) существует фундаментальное множеств9 F такое, что D С F С D;
C) /i-площадь (9D) = 0.
Существование фундаментальной области будет установлено в § 9.4.
Если D есть фундаментальная область, то для всех g изС(^ Ф1)
g(D)nD = 0, и f(D) = А;
/ее
применяя несколько грубую терминологию, мы говорим, что Z) и ее
образы замощают А.
Замечание 9.1.2. Было бы недостаточно заменить B)
требованием, чтобы каждая точка из ЪП являлась образом какой-то другой точки
из 9Z). Например, группа, порожденная z ►-► 2z, разрывно действует в Я^,
однако множество {х + i> I;/ > О, 1 < х < 2}, обладающее указанным
свойством, не является фундаментальной.областью для G.
Из свойств B) и C) определения 9.1.1 следует, что F измеримо и
Л-площадь (Z)) =/2-площадь (F).
На самом деле, как показывает следующий ниже результат, Л-площадь (Z))
зависит только от G и не зависит от выбора Z). Позже (в § 10.4) мы
увидим, что во всех случаях
Л-площадь (Z)) > я/21.
Теорема 9.1.3. Пусть Fi и Fi - два измеримых фундаментальных
множества для б. Тогда
Н'Площадь (Fi) = Н-площадь (Fa).
183

Если Fq - измеримое фундаментальное множество для подгруппы Gq
индекса к в Сто
Н'Площадь (Fq) = к- Н-площадь (Fi),
Доказательство. Будем обозначать Л-площадь через д. Так
как д инвариантна относительно всех изометрий, имеем
M(Fi) = ixiF, n [ и g{F^)]) = 2 iLt(Fi ngF2) =
g g
= 2 M(F2ng-^FO = M(F2).
g
Далее, запишем G как объединение непересекающихся смежных
классов, скажем
G = и Gogn,
п
и пусть
F* = Ug„(F,).
п
Если W Е Д, то g(w) Е Fi для некоторого g ^ G ng'^ = Л~^^„ для
некоторого h Е Gq. Тогда /2(w) Е ^„(Fi), так что F* содержит по крайней
мере одну точку из каждой Go-орбиты.
Предположим теперь, что z и f(z) лежат в F*, где f Е Gq, причем z
не является неподвижной ни для какого нетривиального элемента из G.
Для некоторых тип точки gn^{z) и gm(fz) лежат в Fi, и, значит,
gnEmf фиксирует Z. Отсюда вытекает, что
gngm = / ^ Go\
следовательно, G^gm = Gog„, и тем самым п = т. Это показывает, что/
фиксирует Z, т.е. / = /.
Из сказанного следует, что F* включает ровно по одной точке из
каждой Go-орбиты, не содержащей неподвижные точки, и по крайней мере
по одной точке из каждой Go-орбиты неподвижной точки. Если теперь
мы удалим из F* подаодящее (счетное) множество неподвижных точек,
то оставшееся множество будет фундаментальным для Go и, в силу
первой части теоремы,
M(F*) = iu(Fo).
Очевидно, Fi пересекает свои образы по не более чем счетному множеству
(неподвижных точек), так что
M(F*) = 2;iu(^„F0 = A:M(Fi).n
п
Теорема 9.1.3 может быть уточнена^ в терминах факторпространства.
Как уже отмечалось в § 6.2, дифференщ1ал ds гиперболической метрики
проектируется в метрику на поверхности *A/G;^ теорема 9.1.3
констатирует не что иное, как тот факт, что для любого измеримого
фундаментального множества F
Л-площадь (F) = Л-площадь (A/G).
184

Упражнение 9.1
1. Пусть D - фундаментальная область для G. Покажите, чгго если w е D, то
Z)\{w}ecTb снова фундаментальная область (таким образом, фундаментальная
область не обязана быть односвязной). Пусть, далее, Е = (Л)° (внутренность
замыкания D относительно А). Покажите, чгго Е есть односвязная фундаментальная область,
содержащая D,
2. Пусть D - фундаментальная область для G, и пусть D^ и Dj - открытые
подмножества в Df такие, что
(Я, и Ъ^У =£).
При каких условиях
(^(Д)иЯ,)°
будет фундаментальной областью для G?
§ 9.2. Локально конечные фундаментальные области
Существует еще одно условие, которое нужно потребовать, если мы
хотим развить достаточно разумную теорию фундаментальных областей.
Необходимость такого условия мы поясним примером. То обстоятельство,
что в этом примере группа не является фуксовой, не столь существенно;
мы просто выбрали простейший пример для иллюстрации нужного
условия.
Пример 9.2.1. Пусть С* — множество всех отличных от нуля
комплексных чисел и G — циклическая группа, порожденная g\ z ^2z, Фактор-
пространство C*IG является тором. Пусть 7 обозначает кривую,
показанную на рис. 9.2.1: в открытом первом квадрайте 7 есть>'=е~^, в остальных
квадрантах 7 задается уравнением \z \ = 1. Множество D, расположенное
между 7 и gG), есть фундаментальная область для G в том смысле, что
каждая точка из С* эквивалентна по крайней мере одной точке из 5 и
не более чем одной точке из D, Тем не менее, если отождествить
эквивалентные точки на Э£), то окажется, jito факторпространство DjG не
является компактными,следовательно,5/Gне гомеоморфно C*/G.
Такая же ситуация возможна и для фуксовой группы, даже если D
есть выпуклый многоугольник с конечным числом сторон (пример 9.2.5).
Мы хотим в связи с этим ввести условие, которое предотвращало бы
такую неприятную возможность.
Пусть G - фуксова группа, действующая в А, и/)- фундаментальная
область для G. Группа G индуцирует естественное проектирование (не-
Рис. 9.2.1
185

прерывное и открытое) тг: Д ->• A/G, Мы можем также использовать О
для введения отношения эквивалентности на D, при котором
отождествляются эквивалентные точки (лежащие обязательно на Э£)). Таким путем
возникает гространство D/G, наследующее фактортопологию и
проектирование ^: D^ DIG (снова непрерывное). Точки в Д/G суть орбиты G(z);
точки в DjG суть множества 5 П G(z) и
7r(z) = G{z\ Щг) = DnG{z),
Пусть, далее, т: D ^ А обозначает^отображение вложения
(тождественное отображение, ограниченное на D), Мы можем построить
отображение в: D/G^A/G, задаваемое посредством
в: DnG(z) ^ G(z).
Очевидно, в определено корректно: действительно, для каждого z имеем
DC)G(z) ^ 0 и, разумеется,
вп = 7ТТ (9.2.1)
(рис. 9.2.2).
Нас будет теперь интересовать соотношение между D/G и А/С
Предложение 9.2.2. (i) вит инъективны;
(п)п,пы в сюръективны;
(Ш) я, ?, в и т непрерывны;
(iv) оюбражение п открытое.
Доказательство. Не полностью тривиальным является лишь
утверждение о непрерывности в. Если А есть открытое подмножество в
A/G, то, применив (9.2.1), получим
п'\в-^А) = бПп'^Л);
это множество открыто в Д поскольку хг непрерывно. Для любого В
Г
п ^ й
B/G
множество 5?"*^ (В) открыто в D тогда и^ только тогда, когда В открыто в
DIG\ следовательно, ^^) открыто в D\G и в непрерывно (по существу,
это есть предложение 1.4.2). D
Мы можем теперь указать свойство, выполнение которого
гарантирует, что в есть гомеоморфизм и, следовательно, что A/G и D\G
топологически эквивалентны.
Определение 9.2.3. Фундаментальная область D для группы G
назьюается локально конечной, если любое компактное подмножество
в А пересекает лишь конечное число G-образов для D,
Чтобы ощутить значение определения 9.2.3, предположим, что D
локально конечна. Каждая точка z в А имеет компактную окрестность N;
186

последняя пересекает лишь конечное число G-образов для D, скажем
gj(D), где/ = 1,... , А1. Уменьшив, если нужно,7V, мы можем предположить,
что все эти образы содержат z. Наконец, если h(P) пересекает N, то h(P)
пересекает объединение всех gf(D) и, следовательно h = gf для
некоторого / (поскольку bD имеет меру нуль).
Подводя итог, мы можем сказать, что если D локально конечна, то
для каждой точки z существуют компактная окрестность N и конечный
наборах,... ,^„ из G такие, что
(\)zeg,(D)n . . . П^„(Л);
B) NCg,(D)U . . . Ug^0);
C) Л(£))ПЛ^ = ф,если h отлично от всех gi,... ,^„.
Мы будем использовать эти факты много раз в процессе дальнейших
рассуждений.
Теорема 9.2.4. D локально конечна тогда и только тогда, когда
в есть гомеоморфизм D/G на A/G,
До к азательство. Предположим сначала, что в есть
гомеоморфизм, но D не локально конечна; приведем такое предположение к
противоречию. Поскольку D не локально конечна, существуют точка w G А,
точки Zi,Z2,... в D и отличные друг от друга ^i, ^2» • • • в G
такие, что
^n(Zn)^ ^ при п^оо^ (9.2.2)
Положим
К =lzi,Z2,...}.
Прежде всего, К С D, Далее, каждая окрестность точки w пересекает
бесконечное множество различных образов gn(fi)^ следовательно, w^ h{p)
ни для какого Л Е G. Отсюда, в частности, следует
^(w) ^ я(Л:).
Мы получим противоречие, если докажем, что
^(w)E7r(^). (9.2.3)
Поскольку. G дискретна, последовательность gn^ (w) не может иметь
предельной точки в Д. Ввиду (9.2.2) последовательность z„ также не
имеет предельных точек в А. Следовательно, К замкнутое/). Так как
KCD,To
п'^пК) = К,
и определете фактортопологии на D/G позволяет заключить, что п(К)
замкнуто в D/G. Согласно (9.2.1)
п(К) = 7гт(К) = e(ifK),
и так как в есть гомеоморфизм, левая часть замкнута в AjG, Отсюда
следует
n(w) = \\mn(gnZn) = lim7r(z„) G п(К),
т.е. (9.2.3).
187

Чтобы закончить доказательство, мы должны показать, что если D
локально конечна, то в есть гомеоморфизм. Учитывая предложение 9.2.1,
остается лишь показать, что в отображает открытые множества снова
в открытые.
Пусть А - открытое непустое подмножество в DjG, Так как 5? сюръек-
тивно и непрерывно, существует открытое множество В в А, такое, что
п-^(А) = Л П Д пф П В) -^ А.
Положим
F = и g(D П В),
Тогда
7г(К) = пф П В) = тттф П В) = впф П В) = в(А).
Нам нужно доказать, что в (А) открыто; но так как тг есть открытое
отображение, достаточно показать, что V есть of крытое подмножество в А. Это
не имеет отаошения к факторпространствам и связано только с
предположением о локальной конечности Z).
Пусть Z ^ V; мы должны показать, что V содержит открытое
множество Л^, содержащее z. Поскольку V является G-инвариантным
множеством, мы можем считать, что
Z е D П В,
В силу локальной конечности D существует открытый гиперболический
круг Л^ с центром z, который пересекает лишь конечное число образов
goФ\glф),,,.,gmФ),
где ^0 = ^' Можно считать, что каждый из этих образов содержит z. Тогда
/ = о, 1,... ,m,
откуда следует, что п определено на g~^ (z). Очевидно, п отображает эту
точку на 7r(z) G Л, следовательно,
gf\z) е Г'(А) = DO В
Мы видим, что Z G gj(B); уменьшив, если нужно, радиус круга Л^, можем
предположить, что
Л^С^о^П . . . ng^(B).
Теперь ясно, что NC F. В самом^деле, если w Е Л^, то при некотором /
точка W будет принадлежать как gj (D), так и gf (В); значит,
W. ^ gfф П В) С F.
Доказательство закончено. П
Приведем теперь пример, показывающий, что выпуклость еще не
.гарантирует локальную конечность.
Пример 9.2.5. Построим выпуклый четырехугольник, который
будет являться фундаментальной областью фуксовой группы G, но не
будет локально конечным. Группа G действует в Я^ и порождается
188

элементами
/(z) = 2z, g(z) =
3z + 4
2z + 3
Наша первая цель - показать, что G дискретна, и указать
фундаментальную область для G. Чтобы это сделать, рассмотрим рис. 9.2.3.
Вычисление показывает, что /(тО = 72 и ^(аО = аг.
Непосредственное применение теоремы 5.3.15 (с Gi = </> и областью D, заключенной
между 7i и 72, аналогично для g) позволяет заключить, что G дискретна
Hh(D) П D = 0 для всех he С,НФ I (D есть область, ограниченная 7i, 72,
В действительности D есть (локально конечная) фундаментальная
область для G. Чтобы это увидеть, возьмем любую точку zGЯ^ и среди ее
образов выберем ближайший к i \/1 (это можно сделать, так как G
дискретна) . Будем считать, что сама z обладает этим свойством. Как легко
видеть,
p(z,/4/3) < p(z,f(iV^)) = p(r'zJ^f^)
тогда и только тогда, когда I z | < 2. Аналогично, z ближе к / >/2, чем
/"^ (/\/2), тогда и только тогда, когда |z | > 1. С помощью несложного
вычисления (основываясь на теореме 7.2.1) или геометрическим путем
найдем, что z лежит снаружи от Oi и а^, поскольку
p(z, /чД) < p(gz, iy/l) = p{z,g-\isjl))
и аналогично для g'^, Отсюда видно, что z G D. Этим доказано, что D
есть фундаментальная область для G,
Рис. 9.2.3
Рис. 9.2.4
Рис. 9.2.5
189

Будем хмодифицировать D с целью получить новую фундаментальную
область 2. Сущность этой модификации будет заключаться в замене
некоторых частей D образами этих частей, причем замена будет
производиться так, что модифицированная область будет оставаться фундаментальной.
Сначала заменим
Z)i = Dniz |Re[z]< 0)
на g (Di) (рис. 9.2.4) ; эта область снова является фундаментальной для G.
Далее построим вертикальные геодезические х = 1 и jc = 2, и пусть w,
f, f выбраны так, как указано на рис. 9.2.5. Заменим замкнутый
треугольник Г(н', 1, 2w) с вершинами w, 1, 2w треугольником rBw, 2, Aw)
(= f{T)), Каждый евклидов отрезок [f, 2f], где f лежит на окружности
I Z I = 1 и находится строго между w и /, заменим эквивалентным отрезком
[f', 2^']. Шкоп^м, удалим отрезок [/, 2/]; заметим, однако, что этот
отрезок эквивалентен гиперболическому отрезку [^@,^B0] на границе
g[Pi)y и так как последний мы оставляем, то новая область 2
по-прежнему содержит в своем замыкании по крайней мере по одной точке от
каждой орбиты.
Описанная выше конструкция заменяет четырехугольник D
пятиугольником 2 с вершинами 1,^@» ^B/), 2, «>. По своему построению S есть
фундаментальная область для G, а по теореме 7.6.1 S выпукла. Заметим,
что точки граничного отрезка [^@» ^B0] не имеют эквивалентных
точек в ЭХ; это обстоятельство оставляет образам S лишь возможность
накапливаться (снизу) к отрезку [g{i), ^B/)], Для более явного
доказательства того, что I не локально конечна, можно заметить, что точки
z„=l.+ 2"/, rt= 1,2,.. . ,лежатв S и
/~"(Z„) = / + 2-" ^ / при и Н. оо.
Итак, 2 - выпуклая, но не локально конечная фундаментальная область.
Поскольку исходная область D локально конечна, факторпространство
Н^jG гомеоморфно DjG\ последнее же есть^тор с одной исключенной
точкой. Читатель может теперь рассмотреть Z/G, а также проекцию Z
наЯ^/а. П
В свете теоремы 9,2.4 и примера 9.2.5 представляет интерес следующий
критерий локальной конечности.
Теорема 9.2.6. Пусть D- фундаментальная область фуксовой
группы G. Если для любого z из ЪВвыполняются условия-.
A) существует элемент g ^G,g Ф1, такой, что g(z) G Э£);
B) Z можно соединить с некоторой точкой из D посредством кривой,
целиком лежащей в DU{z},
то D локально конечна.
Доказательство. Ни одно из условий A) и B) в отдельности
не обеспечивает локальной конечности D. Мы ограничимся здесь кратким
наброском доказательства для наиболее интересного случая, когда D
выпукла (выпуклость есть более сильное условие, чем B)).
Удобно ввести следующие термины: точка z Е. А регулярна, если
существует Jaкaя ее окрестность, которая пересекает лишь конечное число
образов D\ в противном случае точка z называется исключительной. В
190

этих терминах локальная конечность означает отсутствие
исключительных точек. Покажем, что при условиях теоремы таких точек
действительно нет. Для этой цели докажем, что:
(а) множество исключительных точек счетно;
(б) если существует хотя бы одна исключительная точка, то существует
и несчетное множество таких точек.
В силу J1) каждая исключительная z принадлежит множеству вида
g(D) П h(D) ,T]XQ g Ф h. Ввиду выпуклости внутренние точки пересечения
o{g. h) = g{D) n h{D)
(которое, опять-таки ввиду выпуклости, есть гиперболический отрезок)
регулярны; следовательно, существуют самое большее две
исключительные точки в o(g,h). Отсюда и из счетности G следует (а).
Чтобы доказать (б), предположим, что w есть исключительная точка,
так что существуют точки 2i,Z2,...bZ)h отличные друг от друга
элементы ^1, ^2, . . . в G такие, что gni^n) '^ ^- Мы можем считать, что D
неограничена в гиперболической метрике (очевидно, если D компактна,
то D локально конечна) и, таким образом, существует f ^ D, I f I = 1-
Пусть Ln обозначает луч [z„, f)- Тогда некоторая подпоследовательность
из gn{Ln) сходится к предельному лучу [w, f *), I f * I ~ 1, все точки
которого по построению будут исключительными. П
Как видно из теоремы 9.2.4, понятие локальной конечности является
важным. В заключение этого параграфа рассмотрим некоторые свойства,
присущие всем локально конечным фундаментальным областям;
подчеркнем, что эти свойства вытекают только из локальной конечности, без
использования каких-либо дополнительных предположений относительно D.
Теорема 9.2.7. Пусть D - локально конечная фундаментальная
область для фуксовой группы G. Тогда множество
Go ={g ^ G\g(D) П Зф ф)
порождает G.
Доказательство. Обозначим G* группу, порожденную Gq. Для
каждого Z ^ А существует элемент g ^ G такой, что g(z) ED. Допустим,
что также h(z) Е D. Тогда h(z) принадлежит одновременно би hg'^(p),
откуда следует, что hg~^ Е Go, и тем самым
G*h = G*g,
т.е. hng принадлежат одному смежному классу по G*.
Из сказанного ясно, что существует однозначно определенное
отображение
V?: А ^ G*\G,
задаваемое посредством
<^(г) = G'g,
где g(z) Е D. Дальнейшая часть доказательства основана на свойствах
этого отображения.
Рассмотрим любую точку z Е^ А. Так как D локально конечна,
существует конечное число образов
^1(Л),...,^„(Л),
191

каждый из которых содержит z и объединение которых покрывает
открытую окрестность Л^ точки z. Если w ^ N, то w G gj(P) для некоторого /,
причем
Мы видим, что каждая точка z имеет открытую окрестность Л^, на которой
^P ПОСТОЯННО.
Легко видеть, что любая функция <^ с таким свойством постоянна во
всем А (рассматриваем <^(А) с дискретной топологией — ^р непрерывно
и <^(А) связно, следовательно, <^(А) состоит из единственной точки).
Это показывает, что
для всех Z и W в А. Беря какие-либо g Е G, z Е D, w Е ^"^ (D) и
учитывая, что «р постоянно, получаем
G* = ф) = ^(w) = G*g.
Это означает, что g Е G*. Таким образом,
GC G*, а значит, и G = G*.
Этим доказано, что Go порождает G. П
Следующий результат устанавливает связь между локальной
конечностью и инвариантными областями на гиперболической плоскости;
определения орициклической и гиперциклической областей см. в § 7.5.
Теорема 9.2.8. Пусть D - локально конечная фундаментальная
область для фуксовой группы G.
(i) Если g - эллиптический элемент в G и К - компактный круг, такой,
что g (К) - К, то D пересекает положительное, но лишь конечное число
различных образов К.
(и) Если g - параболический^ элемент в G и К - орициклическая
область, такая, что g{K) - К, ю D пересекает положительное, но лишь
конечное число различных образов К, .
(iii) Есаи g - гиперболический элемент в G и К - гиперциклическая
область, такая, что g (К) -К, то Ъ пересекает положительное, но лишь
конечное число различных образов К,
Доказательство. Во в^ех трех случаях выбираем w Е А". Для
некоторого h из G имеем A(w) Е^, так что D пересекает обр^з К, Теперь
видно, что (i) тривиально: если D пересекает А^(А'), то А~^ (£>)
пересекает А", и так как h~^ ф) компактно (вслед за D), то это возможно лишь
для конечного числа А.
Чтобы доказать (ii), удобно считать, что G действует в Я^ и что g(z) »
= Z + 1. Тогда К имеет вид
К = {х +г> \у > к).
Положим
Ко = {x + iy \у > ко)
и
Ki = (х+г>|А: <>' < ко).
192

где ко выбирается так, чтобы
и f{Ko) ФН\
Из последнего условия вытекает, что Ко не должно содержать (целиком)
ни одного образа D, и, следовательно, если f(D) пересекает К, то f(D)
обязательно пересекает и Ki, Заметим, что такой выбор Ко возможен
в силу неравенства Йоргенсена*). А именно, если
az + b
CZ -^а
есть элемент группы G, не фиксирующий «>, то | с | > 1; отсюда следует
1т[/2]<1/л
и при ко > 1 множество Ко не пересекается с орбитой G(i).
Допустим теперь, что Л пересекает h(K). Тогда h~^(D) пересекает К,
а значит, и Ki. Если
E-^{x+iy\0<x<\, к<у<ко},
то
и^"(£) = ^ь
п
следовательно, при некотором п g^h~^(D) пересекает Е. Поскольку Е
компактно, а D локально конечно, лишь конечное число образов Д скажем
gi0l,,,.gn(D),
пересекают£'. Это означает, что^"Л~^ = gj для некоторого / , следовательно,
h{K)=g:4K).
Доказательство (iii) аналогично. Снова считаем, что G действует в Я^.
Пусть g(z) -kz, к> I, Гиперциклическая область К имеет вид
К = {ге'^ \г>0,\в -пЦ |<е}.
Положим
£={zGA:|1<|z|<A:};
очевидно, Ug"(£) =А'. Лишь конечное число образов Z)пересекает
компактное множество £; пусть ими будутgi(D),... ,^5(£>). Допустим теперь, что
h{K) пересекает D; тогда для некоторого п g^h~^(D) пересекает Е и,
следовательно, для некоторого / имеем h(K) -gj^(K) .П
Укажем одно следствие из теоремы 9.2.8.
Следствие 9.2.9. Пусть G - фуксова группа, D - локально конечная
фундаментальная область для G и\ - неподвижная точка для некоторого
параболического элемента из G. Тогда при некотором gGGточка g(f)
лежит в евклидовом замыкании D,
*) Чтобы оправдать применение неравенства Йоргенсена, напомним читателю,
что фуксова группа, содержащая параболический элемент и не являющаяся
циклической, всегда неэлементарна; см. § 8.1. -Примеч. пер.
13. А. Бердон 193

Доказател ь с г в о. Будем считать, что G действует в Я^ и f = «>,
а стабилизатор точки f порождается р: z »z +1.
Пусть К — орициклическая область, инвариантная относительно р.
Выберем в К такую последовательность Zj, Z2,... , что Im[z„] -> «>.
Существуют элементы Ль Лг,... в G, для которых h„(z„) Е Д тем самым D
пересекает каждый из образов h„(K), Применяя теорему 9.2.8, будем
иметь (после перехода к подпоследовательности, а также после
соответствующей перенумерации)
h,(K)^h2(K)= ...
Отсюда вытекает существование целых чисел Гг» ^з, ••., таких, что
^п = hii/fi. Следовательно,Лi(w„) G Д где w„ -p^n(zn). Так как
ImK] =Im[z^]^oo,
мы видим, что Wn -> оо, И, значит, Ai(«>) принадлежит евклидову
замыканию ДП
Упражнение 92
1. Модифицируйте определение 9.2.3 применительно к примеру 9.2.1 и покажите,
что D не является локально конечной.
2. Постройте фукоову группу G = {^j ,^2,... },. щействующую в Я*, а также
локально конечную фундаментальную область D для G так, чтобы при каждом п
евклидов диаметр gn0) = **.
3. Пусть G - фуксова группа, действующая в А, с фундаментальной областью А
Покажите, что D тогда и только тогда ограничена (в гиперболической метрике),
когда A ) A/G компактно и (ii) D локально конечна.
4. Пусть G порождается ^: z^z + lnh: z^t + i. Невзирая на то, что C/G
компактно, постройте фундаментальную область D для G, которая не является локально
конечной в С.
5. Покажите, что выпуклая фундаментальная область Sb примере 9.2.2 содержит
на своей (евклидовой) границе гиперболические неподвижные точки. Покажите, что,
напротив, неподвижная точка гиперболического ^ из G не может лежать на евклидовой
границе выпуклой локально конечной фундаментальной области.
§ 9.3. Выпуклые фундамеиггалы1ые многоугольники
Особого внимания заслуживают фундаментальные области, являющиеся
многоугольниками. Невьшуклые многоугольники используются для этой
цели редко, хотя, с другой стороны, выпуклость сама по себе еще не
гарантирует хороших результатов (пример 9.2.5). Сделав эти предварительные
замечания, мы переходим к рассмотрению выпуклых локально конечных
фундаментальных многоугольников. Несколько неожиданным
представляется тот факт, что выпуклость и локальная конечность фундаментальной
области влекут за собой многоугольное строение области; поэтому мы
начинаем с довольно общего определения, в котором нет явного указания
на многоугольное строение.
Определение 9.3.1. Пусть G - фуксова группа. Выпуклым
фундаментальным многоугольником для G называется любая выпуклая локально
конечная фундаментальная область Р для группы G,
Подчеркнем, что здесь дается определение термина "выпуклый
фундаментальный многоугольник", не предполагающее заранее какой-либо
информации о строении граншхы Р, Мы добавим сейчас немного живой
194

ткани к этому определению - скелету; и хотя, как можно догадаться,
рассуждения будут элементарными, все же важно получить результаты
в возможно более общей форме.
Во всем дальнейшем изложении Р означает выпуклый фундаментальный
многоугольник для G. Как мы увидим дальше, Р действительно является
гиперболическим многоугольником, но, возможно, в более общем смысле,
чем принято считать обычно. Например, Р может иметь вершины на
бесконечно удаленной окружности (и даже в бесконечном количестве); или
граница Р может даже содержать целые дуги бесконечно удаленной
окружности. Мы убедимся, что
где Я/ - открытые полуплоскости (в конечном или счетном числе),
причем любое компактное подмножество гиперболической плоскости
содержится во всех Я/, за исключением конечного числа.
Так как Р локально конечен, для любого z^ L существуют открытый
гиперболический круг N с центром z и отличные друг от друга элементы
^1,..., ^^ из G, такие, что
zG^i(P)n...n^Xn NCg,{P)KJ,., Ug,(P),
причем, если^(Р) пересекает Л^, то обязательно g = ^/. для некоторого /.
Один из gf (скажем, gi) есть /. Если z G ЭР, то обязательно Г > 2, - в
противном случаеz^N,NСР, Это дрказ1ьшает,что:
A) для каждого z^bP существует элемент g^G, g^I, такой, что
giz)ebP.
На самом деле это свойство вместе с выпуклостью эквивалентно
локальной конечности (см. теорему 9.2.6).
Рассмотрим теперь какой-либо элемент^(т^ /) в С Очевидно, Р П g(P)
выпукло. Более того, PC^g^P) не может содержать три неколлинеарные
точки, в противном случае это множество содержало бы невырожденный
треугольник, а тогда (поскольку ЭР имеет нулевую площадь) пересечение
РС^ЦР) было бы непустым. Следовательно, Р C\g{P) есть геодезический
отрезок, возможно пустой. Теперь мы можем ввести определения стороны
и вершины области Р.
Определение9.3.2. Стороной области Р называется отрезок вида
Р C\g{P) положительной щгины. Вершиной области Р называется точка вида
PC)g{P) Г)Н(Р), Tjieg, Ли/ попарно различны. .
Предостережение. Сторона области Р не обязательно является
стороной в общепринятом смысле. Если мы назовем максимальный
геодезический отрезок в ЪРребром Р, то может оказаться, что ребро содержит
бесконечно много сторон Р. Отклоняясь от привычной точки зрения, мы
допускаем для внутренних углов при вершинах Р возможность быть
равными тт.
По условию группа G счетна /, и лишь конечное число образов Р может
пересекать произвольное компактное подмножество в А. Следовательно:
B) Р имеет лишь счетное число сторон и вершин;
*) Точнее, конечна или счетна. -Примеч. пер.
13* 195

C) лишь конечное число сторон и вершин могут пересекать данное
компактное подмножество в Д.
Очевидно, стороны и вершиныР лежат в ЭР. В действительности,
D) ЭР есть объединение сторон Р,
Заметим, что это очевидное, в общем, утверждение (при данном выше
определении сторон) неверно для областей, не являющихся локально
конечными (см. пример 9.2.5).
Чтобы доказать D), возьмем какую-либо точку w Е ЭР Каждая
достаточно малая окружность с центром wдолжна содержать как точки из Р,
так и точки, не лежащие в Р; поэтому существует последовательность
w„ (Фм^) в ЭР, сходящаяся к w. Поскольку компактная окрестность точки
W пересекает лишь конечное число образов Р, то должен найтись^элемент
gE G и бесконечное множество номеров п таких, что w^^P С) g(P).
Следовательно, РП^(Р) есть сторона, содержащая w.
Из D) следует, что каждая вершина Р лежит на одной из сторон Р. Более
точно:
E) каждая вершина принадлежит ровно двум сторонам и является
концом каждой из этих сторон.
Чтобы доказать E), рассмотрим какую-либо внутреннюю точку стороны
Р П g(P) = 5. Выбрав Z GP^ образуем треугольник с вершиной z и
противолежащей стороной s\ внутренность этого треугольника лежит в Р. Подобная
же конструкщ1Я дает в g(P) открытый треугольник со стороной s. Это
показывает, что вершина не может быть внутренней точкой стороны, а также
что если две стороны пересекаются, то только в вершине.
Далее, в силу C), D) и предыдущих замечаний каждая вершина v
принадлежит положительному, притом конечному числу сторон и является
их общим концом. Тривиальные соображения выпуклости типа
приведенных выше показывают, что это число не может равняться 1, а также не
может превосходить 2. Этим доказано E), а также
F) если две стороны пересекаются, то только в вершине; последняя
является их общим концом.
Заметим, что из E) и F) вытекает, что пересечение трех сторон всегда
пусто.
Другое полезное свойство фундаментального многоугольника D состоит
ВТОМ, что если G = {gi,g2,...} действует в А, то
G) евклидов диаметр g„(D)->0 при п^°^.
Действительно, если бы это не бьшо так, то нашлись бы z„ и w„ b^„(D)
со свойствами
Zn^z, w„^w, z^w, |z| = |w| = l.
Отсюда следовало бы, 4to^„(D) накапливаются к геодезической [z, w], что
противоречит локальной конечности Д
Сосредоточим теперь свое внимание на ^'спаривании'* сторон
многоугольника Р посредством некоторых элементов из G. Пусть G* - множество всех
g^G, для которых PC)g(P) есть сторона Р, а S - множество всех
сторон Р.
Очевидно, каждому g^G* отвечает однозначно определенная сторона
S GS, а именно, s =РП^(Р), и каждая сторона получается таким путем.
196

Следовательно, имеем сюръективное отображение
Ф: G*^5,
задаваемое посредством
Ф(g)^Png(P).
На самом деле Ф есть биекция, ибо если Ф(^) = Ф(Л), то
Png(P)=P Г>Л(Р),
откуда в силу F) следует g = h.
Существование Ф~^: S^G* означает,что с каждой стороной s
ассоциируется однозначно определенный элемент g^ ^ G*, такой, что
s=PngiP),
Положим
g'\s) = Png',\P)^s';
так как 5' имеет положительную длину, то снова является стороной.
Заметим, что если S' = {gsY^ E), то
Мы можем теперь определить отображение s^s* множества S на себя.
Оно называется спаривающим стороны Р, поскольку
(j'y = (f.'r4s')=^,(s') = s.
в результате множество S сторон многоугольника Р разбивается на пары
{ 5, S'} ; при этом не исключается возможность того, что s = s'.
Следующий результат представляет собой усиленный вариант
теоремы 9.2.7; существование такого результата обусловлено многоугольным
строением Р.
Теорема 9.3.3. Множество G* элементов, спаривающих стороны Р,
порождает G.
Доказательство. Принимая во внимание теорему 9.2.7, остается
только показать, что еспиРС)к(Р)Фф, то h принадлежит группе,
порожденной всеми gs. Рассмотрим какую-либо точку w из Р nh{P). Прежде
всего, существуют открытый круг N с центром wn элементы /2о(=/),
Ль ^2,... ,Лг в G такие,что Л =/iy для некоторого / и
^еЛо(Р)П...ПЛ^(Р), NCho(P)U.,,Uht(P),
Можно считать (для этого, быть может, придется уменьшить радиус ЛО»
что Л^не содержит вершин ни одного из многоугольников Лу(Р), за
исключением, возможно, W, а также не пересекает сторон этих многоугольников,
за исключением тех, что содержат w (см. C)). Согласно D) граница РвЛ^
состоит либо из одной стороны, либо из двух различных сторон,
выходящих из W. То же самое относится и к другим Лу(Р), следовательно, мы
имеем одну из ситуаций, изображенных на рис. 9.3.1 (после
соответствующей перенумерации /zi,.. ., Л J.
В соответствии с этим рисунком мы выбираем нумерацию для
hi, , . , ^ hf таким образом, чтобы каждые два последовательные
197

Рис. 9.3.1
многоугольника в цепочке
ho(P) = P. h,(Pl.,.,h,(Pl P^hoiP)
имели общую сторону. Отсюда следует, что
pnh-j'hj^dP)
есть геодезический отрезок положительной длины и, значит, — сторона.
Таким образом,
Л/+1 ^^hjis
для некоторого спаривающего стороны элемента gg, и мы видим, что h
принадлежит группе, порожденной gs. □
Мы переходим теперь к детальному рассмотрению того, как образы Р
замощают окрестность произвольной точки в А. Очевидно, мы можем
сосредоточить внимание на точках, принадлежащих ЬР; ситуация вблизи
таких точек полностью описана в предьщущем доказательстве. Сейчас мы
подведем некоторый итог.
Пусть wG ЭР; тогда wGPn/i(P) для некоторого Л Е G. Рассмотрим
^ь • • • >^г> указанные в доказательстве теоремы 9.3.3; если g(w) Е. ЭР,
то W Gg"^ (Р), откуда следует, что А = Лу для некоторого / . Введем
следующую терминологию.
Определение 9.3.4. (i) Циклом С в Рназывается пересечение Сор-
биты с Р. Цикл есть обязательно конечное множество{г.1,..., z„ } ; число п
называется длиной \ С \ цикла С.
(ii) Если C={zi,...,z„} есть цикл точек в А, то стабилизаторы Gf для
zj сопряжены между собой и являются конечными циклическими
группами. Порядком цикла С называется порядок любой из этих групп. Порядок
цикла С обозначаем ord (С).
(iii) Пусть С — цикл и в^ — угол многоугольника Рпри вершине Zy.
Угловой суммой в (С) цикла С будем называть число ^1+... + ^п-
Следующий результат имеет фундаментальное значение.
Теорема 9.3.5. Для любой фуксовой группы G, любого выпуклого
фундаментального многоугольника Р и любого цикла С
в(С) = 27г/огA(С).
Доказательство. В данном случае наиболее естественным
является доказательство, использующее смежные классы. Пусть C = {zi,...,z„),
198

так что для некоторых ^i ( = /), ^2,... , gn имеем gj{Zj) = z i. Это означает,
что многоугольник gj{P) имеет в Zi вершину, и угол при этой вершине
есть Of.
Далее, Zi ^h(F) в том и только в том случае, когда/i"*^(zi) есть
некоторое Zy, а это в свою очередь означает, что при некотором/ Л(^у)"*^
фиксирует Zi. Пусть теперь Gi есть стабилизатор z i; тогда Zi Sh(F) в том и только
в том случае, когда при некотором / h^Gigj. Соотнося это рассуждение
с рис. 9.3.1, можно записать:
где в левой части указаны в точности все элементы h такие, что Л(Р)
содержит Zi. Так как Gi состоит^з вращений вокруг Zi, ка)КДое/из Gigj
обладает тем свойством, что f{P) имеет в вершине z i угол Bj;
следовательно,
27Г = [ord(G,)]@i +...+^л) ]=[ord(C)]^@.n
Рассмотрим более детально случаи, возможные в теореме 9.3.5.
Предположим сначала, что z не является неподвижной точкой ни для одного
эллиптического элемента из G; цикл С, содержащий z, назьшается в этом
случае простым циклом*). Такие циклы характеризуются условием
ord (С) = 1, откуда следует
^@ = ^1 +...+^^ = 27Г (и = |С|).
Если А1 = 1, то ^1 = 27Г и Z G Р. Еслим = 2,то ^1 =02 =^ (по теореме 7.16.1
каждое 0/ удовлетворяет О < 0,- < тг), и в этом случае z есть внутренняя
точка стороны. Верно и обратное положение; поэтому, если z есть простая
вершина, т.е. вершина, принадлежащая простому циклу С, то I С i > 3.
Наконец, допустим, что z есть неподвижная точка для некоторого
эллиптического элемента из G и что стабилизатор z имеет порядок q (ord(C) =
= q). Тогда
е{С) = ^1 +. . .+0„ = 27г/^.
Особо интересен случай, когда I С | = 1 (т.е. когда z не эквивалентна
никакой другой точке в ЭР); тогда в i = 2я/^. Если | С | = 1 и ^ = 2, то
Q{C) = 61 = тт.
Легко видеть, что в этом случае стабилизатор точки z есть {/,^}, где^^ =/,
и Z есть внутренняя точка стороны
s=Pn^(P).
Заметим, что в этом случае
s' = g'^s) = s,
поскольку g = g'^. Обратно, если s = 5', то, как легко видеть, gs имеет
порядок 2 и неподвижную точку на s (рассмотрите действие ^j на
геодезические, содержащие 5, и примите во внимание, что PC)gs (Р) = Ф) .
*) В оригинале ^'accidentalcycle". - Примеч. пер,
199

Поскольку эллиптические неподвижные точки требуют особого
внимания, часто бывает удобно рассматривать все эллиптические неподвижные
точки как вершины. Такая точка зрения несколько расходится с принятым
ранее определением вершины - последнее не включает эллиптических
неподвижных точек порядка 2. Таким образом, речь идет сейчас о
дополнительном соглашении-считать или не считать вершинами Р эллиптические
неподвижные точки порядка 2 (или, что то же, считать или не считать
S Ф S ). Следующий тривиальный пример позволяет яснее представить
ситуацию.
Пример 9.3.6. Пусть g (z) = -z и G = {/, g}. Мы можем в
качестве Р взять верхнюю половину круга А. В зависимости от того, какое из
двух соглашений мы примем, будем иметь одну из двух возможностей:
A) Р имеет одну сторону, а именно, (—1, 1), и не имеет вершин; или
^ B) Р имеет две стороны, а именно (-1,0) и (О, 1), и одну вершину,
а именно, {о}. П
Используем теперь (насколько это возможно) часть евклидовой
границы Ру лежащую на окружности {| z I =1}; ^обозначим эту часть Е,
Множество Е может иметь несчетное число компонент, но среди них не более
чем счетное число компонент имеют положительные (евклидовы) длины;
назовем такие компоненты свободными сторонами Р. Последние суть
замкнутые невырожденные отрезки в {| z I = 1}.
Заметим, что если w G Е, то существует последовательность z„ в Л
сходящаяся к w. Для любого z ^ Р отрезок [z, !„] лежит в Р и, значит,
[z, w) СР. То же самое справедливо для точек, достаточно близких к z,
и так какР выпукло, то [z, w) СР.
Точка W S Е не обязана лежать на стороне или свободной стороне
многоугольника Р; например, может существовать бесконечная
последовательность сторон л не содержащих w, но сходящихся к w. О таких случаях
мы можем сказать лишь очень немногое, поэтому ограничимся
рассмотрением точек, являющихся концами двух сторон.
Определение 9.3.7. Точка v G Е называется собственной
вершиной Р (в бесконечности), если v является общим концом двух сторон Р,
и несобственной вершиной, если она является общим концом стороны и
свободной стороны Р. В обоих случаях мы говорим, что V есть вершина Р
в бесконечности.
Это определение иллюстрируется рис. 9.3.2.
В случае, когда z G Е, цикл точки z есть, как и ранее, G(z) П Е. Если
Z — обыкновенная точка *), то ее цикл должен быть конечным (в
противном случае бесконечно много образов Р пересекают любую окрестность
точки Z и, согласно G), z будет их предельной точкой). Кроме того, z
должна быть собственной или несобственной вершиной в бесконечности.
Определение 9.3.4 очевидным образом обобщаете^ на эту ситуацию, и
если С есть цикл точки z, то
ord(C) =1, ^1 + ... +в„ = я
- аналог теоремы 9.3.5. То же самое имеет место, если z есть внутренняя
точка свободной стороны; тогда \С\ = 1, ^i = тт. Заметим, что если z есть
*) То есть точка, принадлежащая множеству П; см. § 5.3. - Примеч. пер.
200

V V
Несобственная вершина Собственная вершина
Рис. 9.3.2
общий конец двух сторон, то Bj могут принимать только два значения,
О и 7г/2. В частности, если \С\ = 2, то обязательно ^i - О2- ^/2, и z есть
общий конец двух свободных сторон, одна из которых относится к Р,
а другая - к некоторому ^ (Р). Мы еще вернемся к этому случаю в
следующем параграфе.
Что касается тех случаев, когда точка z € £ не является
обыкновенной, то из них можно выделить один, допускающий ясное описание.
Теорема 9.3.8. Пусть точка v S Е является неподвижной для
некоторого нетривиального элемента из G. Тогда этот элемент параболический.
Цикл С точки V является конечным, и каждая точка цикла есть
собственная вершина Р.
До^казательство. Прежде всего ясно, что v не может быть
неподвижной точкой эллиптического элемента из G (поскольку \v \ = 1).
Предположим, что v — неподвижная точка гиперболического элемента
Л € G, и пусть А — ось этого элемента. Рассмотрим луч [z, у) в Р. Выберем
на нем последовательность z^, Zn^v. Тогда на оси Л можно найти
последовательность точек д„ такую, что
Р(^п, агг) ^ 0.
Для каждого «существует элемент, являющийся степенью Л, - обозначим
его Л„ — такой, что hnia^) принадлежит компактной дуге оси Л.
Следовательно, точки hn(Zn) принадлежат компактному подмножеству А" в А;
и так как все Л„ можно считать различными, мы приходим к
противоречию с локальной конечностью Р. Таким образом, v не может являться
неподвижной точкой гиперболического элемента. Остается лишь одно:
элемент, фиксирующий у, параболический.
Очевидно, весь цикл точки v состоит из параболических неподвижных
точек. Если бы этот цикл был бесконечным, скажем у, ^i, Уг, . . • , то
существовали бы отличные друг от друга ^„, такие, что ^„(и) = у„. Если
К — орициклическая область, опорная в точке и, то gnW - также ори-
циклическая область, опорная в у„. Так как gn(^ пересекает Р, то К
пересекает (g„)"^(P). Мы приходим к противоречию с теоремой 9.2.8
(li). Таким образом, цикл, определяемый точкой v (вообще, любой
параболической неподвижной точкой), конечен.
Наконец, мы должны показать, что v есть собственная вершина Р; то
же самое будет верно тогда и для остальных точек цикла,
определяемого V.
201

Выберем орициклическую область К, опорную в точке и. В силу
теоремы 9.2.8 (ii) Р пересекает лишь конечное число образов К, Пусть эти
образы
опорны соответственно в точках у, Ui, . . . , у^ (uy =^/(u)). Если Vj ф Е,
то Р не пересекается с подходящим образом выбранной окрестностью
точки U/, поэтому Р С\ gj (К) есть компактное подмножество в А. Уменьшив,
если нужно, размеры К, можно, следовательно, считать, что для каждого /
точка Vf лежит в Е, т.е. что {и, Ui,..., и^} есть Щ1кл точки v.
Не ограничивая общности, можно предположить, что G действует в
Я^, причем у = оо и стабилизатор точки v порождаетсяр: z^z -^ 1.
Разумеется, в этом случае К есть {х -^ iy \у > к); можно считать ^ > 1. Полагая
а = inf{Re[z] IzGP}, b = sup{Re[2] U GP},
будем иметь д < ^ < д + 1 (в случае b - а> I многоугольник Р должен
содержать треугольник с шириной,^ превышающей 1, откуда следует, что
^ ^ g(P) ^ Ф)- Пересечение К с h(P) возможно в том и только в том
случае, когда h~^ (К) есть К или некоторое gj(K), а это в свою очередь
означает, что для некоторых /ил
h-' -gjp'' (go =/).
Отсюда следует, что о© принадлежит границе h{P) (поскольку A(u/) = <»).
Как и выше, h(P) лежит в вертикальной полосе ширины 1 и,_значит,^у-
ществуют самое большее три значениям, для которыхр"""^/"' (?) (=^Л(?))
пересекает Р. Отсюда заключаем,^что лишь конечное число образов Р
пересекают Р Г\ К. Это означает, что Р С\ К пересекается лишь с конечным
числом сторон Р, и, следовательно, в достаточно малой
орищ1Клическойобласти *) К граница Р состоит лишь из двух вертикальных геодезических. D
3 амечание. Закончим этот параграф замечанием, касающимся
эллиптических и . параболических сопряженных классов в G. Пусть g -
параболический элемент группы G с неподвижной точкой v. Как
показывает следствие 9.2.9, при некотором А G G точка h (и) лежит в Е\
разумеется, эта точка является неподвижной для элемента hgh'^, сопряженного g.
По теореме 9.3.8 существуют две стороны Р, оканчивающиеся в h{v),
Таким образом, каждый параболический элемент в G сопряжен
некоторому параболическому элементу, оставляющему неподвижной
собственную вершину Р; в этом смысле фундаментальный многоугольник Р
содержит представителей от всех сопряженных классов параболических
элементов. То же самое верно и в отношении эллиптических элементов
(доказательство опускаем, так как оно тривиально).
Упражнение 9.3
1. Пусть
D ={zeA |p(z,0)<r}
и Л1, ...» Ля - попарно непересекающиеся, выпуклые, открытые подмножества
*) То есть при достаточно большом к, - Примеч. пер.
202

в D, удовлетворяющие условиям:
(i) D = A^ UA^ и ... и An,
(ii) ОвА^ пА^п...пАп.
Докажите, что при подходящем выборе чисел dj (причем e^ = ^п + i)
Aj = {zGD\ej < arg(z) < e^ + i).
2. Пусть s,, s_i, Sj, s_j, ... - попарно непересекающиеся замкнутые дуги на
{I Z I = 1}, каждая из которых стягивает угол при центре, меньший п. Пусть Lf -
геодезическая, имеющая те же концы, что и Sj, следовательно, A\Ly есть
объединение двух полуплоскостей: Яу (содержащей начало) иЯ^ (страницей!/ us/).
Пусть, далее,^, ,^j,... - собственные изометрии в Д, такие, что
giLj) « L^f, g{Hj) = Я'_/.
Положим
G = <^1,^а,...>, D = пН^.
/
Покажите, что:
(i) каждый из элементов gj является гиперболическим;
(ii) если gGG,g^I,то g(D)nD = ф.
Наконец, предположим, что существует такое положительное б, что для всех /
{zGHj\piz,Lf)<s) с а
Покажите, что
1гед|р(г,5) <б)с и g(D),
gGG
а также что
и g{D) = Д
g^G
(таким образом, D есть выпуклая фундаментальная область для G). Покажите, что
D локально конечна.
3. Используя упражнение 2, покажите, что если D есть выпуклый
фундаментальный многоугольник для фуксовой группы, то евклидово замыкание D на{|г I = l)
может иметь несчетное множество компонент (дуги Sj играют роль удаляемых
интервалов при построении канторова совершенного множества).
4. В обозначениях упражнения 2 пусть s, и s_j задаются неравенствами | arg (z) -
- 7г I < 7г/4 и I arg (г)! < 7г/4 соответственно. Построив дуги s/, s_y,
скапливающиеся к концам S J (но не s_j), покажите, что несобственная вершина выпуклого
фундаментального многоугольника для G может быть предельной точкой G.
§ 9.4. Многоугольник Дирихле
В этом параграфе мы дадим описание специальной конструкции
выпуклого фундаментального многоугольника и этим докажем
существование таких многоугольников для любой фуксовой группы. Пусть G — фук-
сова группа, действующая в А, и w — точка в*А, не являющаяся
неподвижной ни для какого эллиптического элемента из О. Для каждого g ^ G
положим
Lg{w) = {z Е А I p(z, w) = p(z, gw)}
и
Hgiw) = { z € A I p(z, w) < p(z, ^)}= {z € A I p(z, w) < pC^-^z, w)) .
Заметим, что Lg (w) есть геодезическая (не содержащая w) и что Hg (w)
203

есть полуплоскость, которая содержит w и ограничена Lg (w). Ясно также,
что Lg (w) есть общая границаЯ^ (w) иЯ^-i (gw) (рис. 9.4.1).
Определение 9.4.1. Многоугольник Дирихле В{м/) для G с
центром W есть
D{w) = П Я^(н;).
Иногда D(w) называют многоугольником Пуанкаре (или нормальным
Рис. 9.4.1
многоугольником) для G, Дирихле использовал указанную выше
конструкцию в 1850 г. для евклидовых пространств, а позднее ее применил
Пуанкаре к гиперболическим пространствам.
Сообразно двум толкованиям Hg мы можем описать D(w) или как
множество точек z, расположенных к поближе, чем к другим образам w, или
же как множество точек 2, каждая из которых ближе к w, чем все
остальные ее образы. Заметим, что поскольку
Z Е Hg{w) тогда и только тогда, когда w ЕЯ^-i (z),
то имеем симметричное отношение
Z €iD(w) тогда и только югда, когда wED{z),
Если h — какая-либо изометрия гиперболической плоскости, то
h(Hg(w)) =^g^-^ihw),
и следовательно (записывая Dq (w) вместо D(w) ),
h(DG(w)) = D^Gh-^hw).
В частности, если Л G G, то
h(Diw)) = Dihw).
Теорема 9.4.2. Многоугольник Дирихле есть выпуклый
фундаментальный многоугольник для G,
Доказательство. Так как каждая полуплоскость Hg (w)
выпукла и содержит W, то D{w) также выпукла и непуСта.
Дальнейшая часть доказательства основана на том, что лишь конечное
число линий Lg (w) может пересекаться с данным компактным
подмножеством в А; это прямо следует из того, что если G =(^1,^2, . . Л, то
1
P(W,I^^(W)).= у P(w,g„(w)) -> оо
прип->«>.
204

Выберем какую-либо точку z в замыкании D(w). Из сказанного
следует, что существует компактный круг К с центром z, такой, что для всех g
имеем или К С Hg (w), или z G Lg (w); при этом вторая возможность
имеет место лишь для конечного множества элементов g. Разумеется,
если Z Е D(w), то вторая возможность неосуществима, следовательно,
К С D(w); это доказывает, что D(w) открыто. Граница D(w)
содержится в объединении всех Lg (w), следовательно,
Л-площадь CD(w)) = 0.
Докажем теперь существование фундаментального множества F, такого,
что
D(w)CFCD(w).
Из каждой орбиты G(z) мы выбираем ровно одну точку z*, для которой
p(w,z*)<p(w,gz)
при всех g Е G; такой выбор возможен, поскольку G(z) не имеет
предельных точек внутри А.
Множество, состоящее из выбранных точек, обозначим F. Очевидно, F
содержит D(w), так как если z € D(w), то мы не имеем другого выбора,
кроме z* = z.
Чтобы доказать, что F С D(w), возьмем какую-либо точку z € F и
рассмотрим отрезок [w, z). Так как w Е D(w), ни одна из линий Lg (w)
не проходит через w. Если Lg (н) пересекает отрезок (w, z), то
p(z, w) > p(z,gw) = p(g~^z, w),
вопреки тому, что z G F, Следовательно, ни одна из линий Lg (w) не
пересекает (w, z), и (w, z) CD(w). Отсюда z E D(w); это доказьшает, что
Fc5(w).
Теперь, чгобы убедиться, что D(w) есть выпуклая фундаментальная
область для G, нам остается лишь показать, что D{w) локально конечна.
Пусть К — компактный круг с центром w и радиусом г. Допустим, что
g(D(w)) пересекает К, следовательно, существует точка z Е D(w) такая,
что p{gz, w) <r. Поскольку z Е D{w), имеем
p(w, gw) < p(w, ^z) + p(gz, gw) <
< r + p(z, w) < r + p(gz, w) < 2r,
что возможно лишь для конечного числа элементов^. D
Благодаря теореме 9.4.2 все результаты, установленные в § 9.1 — 9.3,
оказываются справедливыми для многоугольников Дирихле, Например,
факторпространство
D(w)IG
не зависит (в топологическом смысле) от выбора w, разумеется, в
предположении, что W не является эллиптической неподвижной точкой для G
(этот исключительный случай обсуждается в § 9.6).
Для фундаментального многоугольника D(w) можно указать
.некоторую информацию о строении границы. Например, имеет место
следующий важный, хотя и элементарный, факт.
205

Теорема 9.4.3. Пусть {zi, . . . , z„}~ некоторый цикл граничных
точек многоугольника Дирихле dIw) . Тогда
Pizu w) = РB2, w) = ... = рB„, w).
До казательство. Пусть, например, Z2 = h{z i). Так как [w, z i) С
С D(w), мы можем записать
[hw, 22) = ^[w, zi) С /z(Z)(w)) = D(hw).
Отсюда следует, что Z2 отстоит на равных расстояниях от w и /rw и, таким
образом,
Р(Н',22) = P(hw,Z2) = p(W,^"^Z2) = p(W,2i). П
Каждая сторона многоугольника Z)(w) есть множество вида
S = D{w)ng(D(w)) = Дн;)ПД^)
и потому содержится в Lg (w). Таким образом, стороны D(w) являются
отрезками биссекюров Lg (w). Из подобных же соображений следует,
что вершины суть граничные точки D{w), в которых встречаются два
или более биссектора Lg (w).
Проиллюстрируем некоторые из этих положений на специальном
примере.
Пример 9.4.4. Пусть G — модулярная группа, действующая в Я^.
Покажем, что открытый многоугольник Р, изображенный на рис. 9.4.2,
является многоугольником Дирихле с центром /у, где v — любое >1.
Положим W = /и, где и > 1; для краткости мы пишем дальше D вместо
D(w) nLg.Hg вместо Lg (w),Hg (w).
Прежде всего, заметим, что изометрии
/(z)=z + l, g(z) = -1/z
принадлежат G и (как легко проверит читатель) три геодезические
стороны Р суть Lf, Lfr\, Lg. Это показывает, что D С Р.
Если бы D Ф Р, то некоторая сторона D пересекала бы Р, и,
следовательно, нашлась бы точка z G D такая, что h(z) Е h(D) ПР. Это
означало бы,что z,hz S Р; покажем,что такое невозможно. Пусть
az -^Ь I а Ъ \
ЛB) = —— , ]gSLB,Z).
CZ ^d \с d I
x = -V2\
х-1/2
у
/
/
/
/
/
/
1
-7
1
0
Рис. 9.4.2
\
\
\
\
\
\
1
1
x=Xq-^i
206

Тогда
\cz-^d\^ = с^\ z |^+2Re[2]c^+(f^ > c^ -^d^ - \cd \ -^
= (kl - \d\)^^\cd\,
поскольку 12 I > 1 и I Re [z] I < 1/2. Полученная нижняя граница
является целым числом; это число неотрицательно и равно нулю лишь в случае,
когда с -d = О, однако последнее исключено условием ad — Ьс-\, Таким
образом, \cz +df| > 1, и, следовательно,
Im[2]
\m{hz] = ;—4ТГ < I"^I^1-
\cz ^d г
Те же самые соображения с заменой z,h ndihz.h'^ дают Im[z] < Im[/iz].
Полученное противоречие доказывает, что D =Р. D
Так как D есть выпуклый фундаментальный многоугольник, то к нему
применимы предложения, доказанные в § 9.3. Мы можем либо считать/)
имеющим три стороны,
«1 = [f.^'), S2 = [-f,^'), S3 = [-f,fL
со спариванием/(s 2) =^1,^E3) =^3, либо стать на другую точку зрения,
причисляя к вершинам неподвижные точки эллиптаческих элементов
порядка 2. В последнем случае 5з следует заменить двумя сторонами
со спариванием ^(s4) =55,^E5) =^4; при этом точка/ будет вершинойD.
Так как Р есть фундаментальный многоугольник для G^ то
фундаментальным будет и многоугольник Pi, изображенный на рис. 9.4.3 (мы
просто заменили часть многоугольника Р — вертикальную полоску - ее
/образом). Заметам, что Л имеет, в зависимоста от принимаемого нами
соглашения, пять или шесть сторон (но никак не четыре). Укажем эта
стороны, считая, что их шесть:
Si = [-W, <«), S2 =/(si) = [1-iv, 00),
S3 = [-W, /], S4 = g(S3) = [/, W],
S5 = KfL Sb = fg{ss) = [f, 1 -w].
Циклы вершин многоугольника P суть множества
{«>}, {/}, {f}, {-w, w, 1 -w}.
Заметим, что последний цикл является простым, и угол многоугольника
^1 в вершине w равен тг (безотносительно к принимаемому соглашению).
Возвращаясь от примера к общей ситуации, теперь следует ожидать,
что некоторые свойства dIw) могут зависеть от выбора w; и если это так,
то должны существовать оптамадьные выборы w. Следующий
заключительный результат настоящего параграфа дает описание некоторых из
этах оптамальных выборов.
Теорема 9.4.5. Пусть G - фуксова группа и D(w) - многоугольник
Дирихле с центром w. Тогда при почти любом выборе w:
A) каждый эллиптический цикл в bD(w) имеет длину 1;
B) каждый простой цикл в 3D(w) имеет длину 3;
207

C) каждая несобственная вершина, являющаяся обыкновенной точкой,
имеет цикл длины 2;
D) каждая собственная вершина имеет цикл длины 1 и является
параболической неподвижной точкой;
E) каждый параболический цикл имеет длину 1 и является собственной
вершиной.
Доказательство. Доказательство каждого из утверждений A)-
E) следует одной и той же схеме: если (к) не выполняется, то w должно
принадлежать некоторому исключительному множеству Ef^, имеющему
нулевую площадь. Поэтому, если w лежит вне множества U JSy,площадь
которого равна О, то выполняются все пять условий. Ниже мы снова
пишем D вместо D(w).
Доказательство A) весьма просто. Пусть Ei есть объединение
геодезических, каждая из которых равноотстоит от двух (различных)
эллиптических неподвижных точек. Очевидно, Ei имеет нулевую площадь. Если
и и V - две (различные) эллиптические,неподвижные точки, входящие
в один Щ!кл, то p(w, w) = р(у, w) (теорема 9.4.3), следовательно, wE Е^.
Для доказательства остапьных утверждений нам потребуется
Лемма 9.4.6. Пусть R(z) - некоторая непостоянная рациональная
функция от Z. Тогда множество
Е ={z \R{z) действительное)
имеет площадь 0.
Доказательство. В каждой точке расширенной плоскости,
исключая конечное множество точек {zj, . . . , z„}, функция R осуществляетло-
капьный гомеоморфизм, удовлетворяющий некоторому условию
Липшица. Следовательно, каждая точка z, отличная от всех Z/, обладает
окрестностью 7V такой, что Е П Л^ имеет площадь 0; счетное число таких
Л^покрывает плоскость с выколотыми точками Z1,..., z„. П
Вернемся к доказательству теоремы 9.4.3. Для любых/,^, h из G,
отличных друг от друга и от /, определим
{z-fz){gz-hz)
(для сокращения записи мы обозначаем написанное выражение просто
А (z), не указывая в явном виде зависимость от /, ^, Л). Заметим, что R
может быть константой (например, если/, g и А фиксируют О и «>). Пусть
Ег = U{z IR (z) действительное), где объединение берется по всем тройкам
(Л ^, А), для которых R не является константой. По лемме 9.4.6 Ег имеет
площадь 0; теперь мы хотим показать, что если B) не выполняется, то
wG £'2.
Предположим, что B) не выполняется. Тогда существуют четыре точки
"* / и* g~ 1л, h'^u, принадлежащие одному простому циклу в ЭД Из
теоремы 9.4.3 следует, что
p(w, w) = p(fw,u) = p(gw,u) = p(hw, и),
откуда видно, что четыре различные точки w, /w, gw, hw лежат на одной
гиперболической окружности с центром и. Но тогда двойное отношение
R(w) есть число действительное, а значит w Е Е2, если, разумеется, R не
является константой.
208

Покажем теперь, что R не может быть константой. Если /?= const,
скажем /? = X, то, выбирая любую точку z, не являющуюся неподвижной
для g, /, f^h, g'^h, найдем, что \ Ф О, ^, Пусть теперь z приближается
к неподвижной точке v для g. Тогда числитель в R стремится к нулю,
следовательно, знаменатель тоже должен стремиться к нулю, т.е. v должна
быть неподвижной точкой для / или h. Допустим, что fv = v, т.е. g и f
имеют общую неподвижную точку v (аналогичное рассуждение можно
провести для g и h). Так как g и f принадлежат фуксовой группе G, мы
видим, что {g,f) есть щ!клическая группа; обозначим через р ее
порождающий элемент. Очевидно, р гиперболичен, параболичен или эллиптичен
в зависимости от того, лежит ли орбита произвольной точки относительно
{g, f) на гиперщ1кле, орищ1кле или окружности (гиперболической);
разумеется, эти три возможности взаимно исключают друг друга. Из
нашего предположения теперь следует, что р эллиптичен и оставляет на месте
центр гиперболической окружности, проходящей через w, ^w, hw.
Поскольку такая окружность единственна, то fu - gu - и, в противоречие
с тем, что и принадлежит простому Щ1клу. Этим доказано B).
Аналогичные рассуждения позволяют доказать*C), D) и E). Допустим
сначала, что v есть собственная вершина D и, значит, существуют две
стороны
Si = D П g0\ S2 ^ D Г\ Нф),
оканчивающиеся в v. Так как s j содержится в биссекторе отрезка [w,^w],
а 52 — в биссекторе отрезка [w, /zw], то (см. § 7.28) и, w,gw, hw лежат
на одном орицикле,опорном в у.
Рассмотрим теперь функцию
игл г ил (^ -'^^) (^ - ^^)
/?i(z) = [v,z,gz,hz] = —-.
(v -z)(gz - hz)
Так как орицикл является евклидовой окружностью, toRi (w) есть
действительное число. Отсюда следует, что либо Ri Ф const, и тогда w
принадлежит соответствующему исключительному множеству площади О, либо
Ri = const. Мы должны, следовательно, показать, что в последнем случае
каждое из условий C), D), E) выполняется.
Допустим, что /?i = const, скажем Ri = X, где (как и ранее), X =?^ О, «>.
Беря в качестве z точку, стремящуюся к и, находим, что g или h
фиксируют у; пусть (для определенности) gv - v.llo теореме 9.38 g параболичен.
Отсюда следует, что сторонаg~^ (Si) многоугольника D также кончается
в и, а потому эта сторона совпадает с 52. Это означает, что h -g~^ ^AV есть
параболическая неподвижная точка с циклом длины 1. Тем самым
доказаны D) и E), поскольку каждая параболическая неподвижная точка в
bD есть собственная вершина (теорема 9.3.8).
Наконец, любая несобственная вершина у, являющаяся обыкновенной
точкой, принадлежит конечному циклу Ui (= и), ^2, • • • , t>„, и D имеет
в этих точках углы ^i,..., ^и» каждый из которых равен О или 7г/2, причем
l^Bj = тт. В силу D) ни один из углов Oj не может равнятъся нулю;
следовательно, « = 2, т .е. верно C). П
14. А. Бердон 209

Упражнение 9.4
1. Попытайтесь развить теорию многоугольников (или, лучше сказать,
многогранников) Дирихле для дискретных подгрупп группы SL B, С), действующих в Н^.
§ 9.5. Обобщенные многоугольники Дирихле
Пусть G - группа мёбиусовых преобразований, разрывно действующая
на некотором G-инвариантном открытом подмножестве 2 расширенной
комплексной плоскости. Предположим, что <» G Z и что ни один из
элементов G (кроме /) не оставляет «> на месте. Эти предположения
гарантируют существование для каждого нетривиального элемента g ^ G
изометрической окружности Jg, Пусть Hg обозначает внешность Jg\ тогда можно
показать, что множество
Fg- (^ Hg
gGCg Ф I
является по существу фундаментальной областью для G (необязательно
связной; может также оказаться, что Fq содержит часть своей гранищ>1).
Она называется фундаментальной областью Форда (Ford fmidamental
region) и носит скорее евклидов, чем гиперболический характер.
Рассмотрим теперь фуксову группу G, действующую в А. Предположим,
что <», а значит, и начало, не являются неподвижной точкой ни для какого
нетривиального элемента g ^ G. Наряду с Fq мы можем построить
многоугольник Дирихле Dq @) с центром 0; как мы вскоре увидим,
А П Fg =Z)g@). (9.5.1)
Заметим, что здесь идет речь о совпадении двух множеств, из которых
одно по своему характеру евклидово и не инвариантно в смысле
сопряжения, в то время как другое носит явно гиперболический характер и
инвариантно относительно сопряжения. Объяснение этого факта лежит в
инверсной геометрии расширенной комплексной плоскости; в этой
геометрии ^две существенно различные конструкции могут выступать как
различные случаи одной конструкции, к описанию которой мы переходим.
Пусть Р есть модель (А или Я^) гиперболической плоскости в виде
открытого круга на расширенной комплексной плоскости, а ЭР —
бесконечно удаленная окружность. Возьмем какую-либо точку f в расширенной
комплексной плоскости. Каждая собственная изометрия g модели Р может
быть записана как
g = О2О1,
где oj: Р -^Р есть отражение относительно геодезической Lj, Продолжим
каждую Lj до полной окружности и потребуем, чтобы окружность L2
проходила через f. Если g не фиксирует f (будем это предполагать), то
данным выше описанием четверка Oi, Ог, Li, L2 будет определена
однозначно; условимся записывать эту четверку так:
Og.Og yLg,Lg.
По условию ^ Е Lg, Тогда ^ ф Lg - в противном случае а^ и а|, а
значит, и g фиксируют f. Рассмотрим гиперболическую полуплоскость Hg,
ограниченную Lg и содержащую f; другая полуплоскость, ограничен-
210

пая Lg, пусть будет Kg (см. рис. 9.5.1, где
эти полуплоскости показаны ддя случая
параболического g).
Определение 9.5.1. Пусть G - фук-
сова группа, действующая в Р, Пусть,
далее, точка f в расширенной комплексной
плоскости не является неподвижной ни для
одного нетривиального элемента из G.
Тогда множество
Пс(П = П /^
8^0,гФ1 Рис. 9.5.1
называется обобщенным многоугольником
Дирихле с центром f.
Обозначим т отражение относительно ЭР. Поскольку Lg ортогональна
ЭР, то f Е L^ в том и только в том случае, когда т (f) Е L*. Отсюда имеем
следующее условие инвариантности:
Пс(П = Пс(гГ). (9.5.2)
В частности, если Р = А, то
Пс(~) = Пс;@). (9.5.3)
Теорема 9.5.2. В добавление к предположениям, содержащимся
в определении 9.5.1, допустим, что f есть обыкновенная точка для G, Тогда
Пс (П ^<^^ фундаментальная область для О в Р.
Если ^ Е Р, то Uq (f) есть многоугольник Дирихле Dq (f). Если f = <»,
то Wq (f) есть область, внешняя по отношению к изометрическим
окружностям всех цементов из G, Наконец, для всех h имеем
А(П^Ш) = П^сл-'(ЛО. (9.5.4)
3 амечание. Мы умышленно обозначаем выбранную модель
гиперболической плоскости через Р, не уточняя, что имеется в виду — А или Я^,
чтобы распоряжаться по своему усмотрению точкой <». Например, если
Р = Я^ то ОС G ЭР, если Р = А, то оо ^ ЭР.
Доказательство теоремы. Если о обозначает отражение от-
носительно окружности L в С, то ЛаЛ" будет отражение в h{L). Из
этого факта непосредственно следует (9.5.4); мы воспользуемся им также
для упрощения дальнейшей части доказательства.
Пусть f Е Р. Положим, Р = А. Вследствие (9.5.4) мы можем считать
f = 0; таким образом, ОЕ Lg. Для любого z ^ Lg
p(z,g-^0)=^p(z,OgOlO)=^p(OgZ,olO)=^ р(г,0).
Это показывает, что Lg есть гиперболический биссектор отрезка
[О, g'^O], а значит, 0^E*) есть соответствующий многоугольник
Дирихле.
Если f *= оо, то Z^ есть евклидова прямая. Следовательно,g действует
на Lg как евклидова изометрия; другими словами, Lg есть изометриче-
14* 211

екая окружность для g. Так как ©о G Я^ , мы видим, что П(^E*) есть
область, внешняя по отношению ко всем изометрическим окружностям.
Остается доказать, что Ug(^) есть фундаментальная область для G в Р.
Это верно в случае f ^ i*, поскольку, как мы уже показали, Uq(^) в этом
случае совпадает с многоугольником Дирихле. Это же верно и в случае
f ^ Р и ЭР (в силу (9.5.2)). Остается рассмотреть случай f Е ЭР.
Пусть f G ЭР. Воспользуемся (9.5.4), для чего положим Р = Я^ и
f = оо. Запишем
где выражение в скобках означает отражение относительно o*(Lg ). Отсюда
(ввиду единственности разложения g'^)
Это означает, что g {Hg ) vig {Kg ) разделяются посредством L -1. Так как
точка
лежит в Kg, находим, что f G ^ (А^^); таким образом,
И, значит.
Очевидно, отсюда следует, что образы 1Ис(^) Д"я различных ^ и Л не
пересекаются.
Пусть теперь z — произвольная точка в Я^. Так как <» есть
обыкновенная точка для G, орбита точки z лежит целиком в некотором
(компактном) круге на евклидовой плоскости. Следовательно, на этой орбите
имеется такая точка Z ' , что
Im[z'] > lm[gz]
для всех g Е О, Поскольку действие g на точки из Kg лишь уменьшает
мнимую часть, мы видим, что z лежит вне каждого Lg. Отсюда в свою
очередь следует, что луч (z', оо) лежит вне каждого Lg, т.е. лежит в Uq{^).
Таким образом, любая точка z эквивалентна некоторой точке, лежащей
в замыкании 0^@-0
Замечание. Доказательство того, что Пс(оо) есть фундаментальная
область, может быть записано в евклидовых терминах с привлечением
производной, например:
Hg ={zi \g\z)\ < 1}.
Тем не менее представляются предпочтительными методы, использованные
выше, ввиду их внутренней ценности.
В заключение заметим, что если Р = А и f = О, то из (9.5.3) и
теоремы 9.5.2 следует
Dg@) = Пс;(оо) = Д П Fcj,
т.е. (9.5.1).
212

Упражнение 9^
1. Пусть a'g обозначает отражение относительно Lg ='g (Lg). Докажите, что
2. Докажите, что элемент g эллиптический, параболический или гиперболический,
смотря по тому, Lg и Lg пересекаются, параллельны или расходятся. Покажите, что:
(i) если g - эллиптический, то он оставляет неподвижной точку
пересечения Lg и L*;
(ii) если g - параболический, то он оставляет неподвижной точку соприкоснове-
НИЯ JLJo и jl^cr i
(iii) если g - гиперболический, то его неподвижные точки инверсны друг другу
относительно Lg, Lg и L . i.
3. Пусть g - параболический элемент, не фиксирующий <», и пусть г„ - радиус
изометрической окружности для g ". Докажите, что г^^г J\n\.
4. Пусть У и У - изометрические окружности для g и g'\ где g -
гиперболический элемент, не фиксирующий оо. Покажите, что giJ ) - /'. Сравните образы J
и J * относительно g" с изометрическими окружностями для g^ и ^~".
§ 9.6. Фундаментальные обласга
в случае разложения на смежные классы
Пусть G - фуксова группа, действующая в А, и Я — ее подгрупца.
Часто бывает удобно строить фундаментальную область для G, имеющую
специальное отношение к Я. Пусть разложение G на смежные классы по
подгруппе Я есть
G = и^„Я • (9.6.1)
п
Суть рассматриваемой конструкции заключается в нахождении такого
Я-инвариантного множества 2, что gn{^) замощают А; если затем взять
множество D такое, что его Я-образы замощают 2), то D и будет
фундаментальной областью для G в А.
Предположим теперь, что множество 2 устойчиво относительно
действия Я, т.е. ^B) = 2 для ^ЕЯи^B)П2=ф в остальных случаях.
Каждый из смежных классов g^H однозначно определяет соответствующее
множество ^пB) (последнее не зависит от выбора представителя gn из
смежного класса),причем, если тФп, то
gn(^)^gm{^)- Ф (9.6.2)
(поскольку (gm)''^gn^^) ' СдвПасм еще одно допущение, а именно,
^gn(^) = А.
п
Два последних соотношения напоминают определение фундаментальной
области; однако здесь фундаментальность имеет место лишь по отношению
к действию представителей g^ смежных классов, а не по отношению к
действию всех элементов из G.
Теорема 9.6.1. Пусть G - фуксова группа, действующая в А, Я -
ее подгруппа и (9.6.1) — разложение на смежные классы. Предположим,
что выпуклый открытый многоугольник 2 С А удовлетворяет условиям:
213

A) X устойчив относительно действия Н;
{T)yjg„(i) = д.
п
Тогда, если П - любой выпуклый фундаментальный многоугольник
для Я, го П П 2 есть фундаментальная область для G в А.
Доказательство. Прежде всего, множество П П 2 открыто и
выпукло, а его граница имеет площадь 0. Мы должны показать, что
и ^(П П S) = Д, (9.6.3)
и если f и g - различные элементы из G, то
gin Ш) П /(П П Е) = ф. (9.6.4)
Пусть Z G Д. Согласно B) существует такое п, что g;;^ (z) G Z, и затем
такое hn^ Н, что
h„g-4z)eu.
Имеем
A^-4z)eA„(S) = S,
и, следовательно, /г„^„' (z ) Е П П 2. Этим доказано (9.6.3).
Чтобы доказать (9.6.4), допустим, что
/(П П 2) П g{n О 7:)Ф ф.
Исходя из (9.6.1), запишем
f ^ gnhn. g'^gmhm (Л/ ^ Я),
так что
gn{^) П^^B)=/B) (^g(Ъ)Ф ф.
Отсюда и из (9.6.2) следует gn~ gm и
/1„(П)ПЛ^(П)Э^-Ч/(ПП2)П^(ПП2)):?^ф.
Так как П есть фундаментальная область для Я, то должно быть Л„ = Л^ ,
а значит, и / = g. П
Рассмотрим три примера: в них Я будет соответственно параболической,
эллиптической и гиперболической циклической подгруппой группы G.
Пример 9.6.2. Пусть Я = < Л >, где элемент h параболический.
Будем считать, что G действует в Я^. Перейдя, если нужно, от Я к
сопряженной подгруппе, можно предположить, что Л (z) = z + 1. Для каждого
элемента из G\H существует изометрическая окружность *); пусть 2
обозначает множество точек, для каждой из которых существует окрестность,
не пересекающая ни одной изометрической окружности. Легко видеть, что
все условия теоремы 9.6.1 выполнены (как ориентир см. § 9.5 или, для бо-
*) Здесь предполагается, что h примитивен, т.е. что все элементы, сохраняющие оо,
5ШЛЯЮТСЯ степенями Л. Аналогичное замечание относится к примерам 9.6.3 и 9.6.4. -
Примеч. пер.
214

лее полной картины, [52], с. 58), и, следовательно, фундаментальная
область для G есть, например, множество точек z, лежащих вне всех изо*
метрических окружностей и расположенных в одной из полос {дс+/> | у>0,
Пример 9.6.3. Пусть Я = < Л >, где элемент h эллиптический. Будем
считать, что G действует в А и что Л (z) = e^^'^"z. Снова возьмем в
качестве 2 множество точек из Д, лежащих вне любой изометрической
окружности; или, что эквивалентно, воспользуемся конструкцией
многоугольника Дирихле и определим 2 как пересечение полуплоскостей
{zGA|p(z,0)<p(z,gO))
для всех g таких, что ^0 т^ 0. Ф)шдаментальная область для Я есть сектор
вида
n = {z|^<argz<0 -^In/n)
в А, а фундаментальная область для G есть П П 2.
Пример 9.6.4. Пусть Н = {h >, где элемент h гиперболический.
Предположим также, что h — простой гиперболический элемент, т.е. что его
ось А устойчива относительно Я. Еслиg^H,то А не пересекается с g{A)
и множество
Kg^{z\p{zM)<P{z.gA)}
есть полуплоскость. Легко видеть, что множество
2 = Г\ Kg
удовлетворяет условиям теоремы 9.6.1; поэтому, взяв подходящую
область П (например, ограниченную парами геодезических L и gL,
ортогональными Л), а затем Т1 П 2, мы получим фундаментальную область
для G.
Упражнение 9.6
1. Продумайте детали примеров 9.6.2-9,6.4.
2. Покажите, что любой цикл на границе фундаментальной области D, построенной
в примере 9.6.2, обязательно лежит в некотором орицикле, опорном в <».
§ 9.7. Преобразования, спаривающие стороны
Пусть G — фуксова группа и Р — выпуклый фундаментальный
многоугольник для G. Мы уже видели, что элементы, спаривающие стороны Р,
порождают G (теорема 9.3.3). Настоящий краткий параграф посвящен
характеристике тех примитивных элементов группы G, которые могут
выступать в качестве спаривающих стороны элементов при некотором
выборе Р.
Каждый примитивный эллиптический элемент, а также каждый
примитивный параболический элемент в G спаривают стороны некоторой
фундаментальной области (например, некоторого многоугольника Дирихле);
это следует из примеров 9.6.2 и 9.6.3 или из теоремы 9.4.5 и следст-
215

ВИЯ 9.2.9. Возникает задача - характеризовать примитивные спаривающие
стороны гиперболические элементы из G.
Теорема 9.7.1. Пусть g - примитивный гиперболический элемент
фуксовой группы G и А - его ось. Элемент g тогда и только тогда спари- ^
вает стороны некоторого выпуклого фундаментального многоугольника Р,
когда для любого h из G либо h{A) = Л ,либо h{A) Г\А = ф .
Доказательство. Предположим сначала, что для любого hG G
имеет место h(A) = А или h(A) П Л = ф.. Определим подгруппу Я
посредством
H-^{heG\h(A) = А}.
Очевидно, Я содержит все степени g; кроме них, Я может содержать лишь
эллиптические элементы порядка 2, которые фиксируют точку на Л. В
точности так, как в примере 9.6.4, мы можем построить множество Z,
удовлетворяющее условиям теоремы 9.6.1. Будем считать, что G действует
в Я^ и что g{z) = kz . Если подгруппа Я циклическая, то она
порождается ^, и мы можем взять
П = {z Е ЯМ l<\z\<k}.
Если Я не щ^клическая, то она порождается g и некоторым эллиптическим
элементом порядка 2; можно считать, что последний фиксирует i>/T.
В этом случае полагаем
П={2еЯ^ \K\zKK Re[z] > 0}.
В обоих случаях g спаривает стороны П П S, содержащие дуги
окружностей |z I = 1 и |z I = fc соответственно.
Предположим теперь, что g спаривает две стороны s и s
некоторого Р. Выберем внутри стороны s точку w, не являющуюся неподвижной
ни для какого нетривиального элемента из G. Пусть у - [ w, ^vv]. Тогда у
лежит в Р, исключая конЩI w и gw. Множество
Г = Ug-(y)
п
является простой ^-инвариантной кривой в Д, которая ввиду
компактности у имеет своими концами неподвижные точки и и v элемента g.
Заметим, что теми же свойствами обладает и ось А элемента g.
Допустим теперь, что h(A) ПА Ф ф, т.е. существует такой
элемент h G G, что геодезические А и h(A) пересекаются или совпадают
(параллельными они не могут быть в силу теоремы 5.1.2). Если А
пересекает h(A), то это же самое верно и в отношении кривых Г и Л (Г).
Обозначив точку пересечения Г и Л(Г) через f, для некоторых Zi,Z2 ^ у
и некоторых т, п будем иметь
f =g"Zi=^^'^Z2,
откуда
Но так как единственная пара ^-эквивалентных точек в у есть w,gw, то
или Z 1 = Z 2 , или Z 1 = ^Z 2 , ИЛИ Z 2 = ^Z j .
216

Во всех случаях некоторый элемент вида g^hgf фиксирует некоторую
точку из 7. Однако по построению ни одна точка из у не является
неподвижной ни для какого нетривиального элемента *из С Следовательно,
h есть некоторая степень g и h{A) - А.П
Принимая во внимание определение 8.1.5, можно теперь сказать, что
спаривающими стороны элементами являются примитивные эллиптические,
параболические и простые гиперболические элементы G.
§ 9.8. Теорема Пуанкаре
Перечислим некоторые известные нам факты. Фуксова группа G,
действующая в единичном круге А, имеет выпуклый фундаментальный
многоугольник Р, Действие G порождает замощение А образами Р. Существует
набор спаривающих стороны Р отображений gs> который порождает G.
Сумма внутренних углов многоугольника Р при вершинах, образующих
Щ1КЛ, есть 2п/д,тце q — целое (теорема 9.3.5).
Теорема Пуанкаре обращает эту совокупность утверждений, и таким
путем возникает метод построения фуксовых групп. Мы начинаем с
многоугольника Р и набора спаривающих стороны отображений. С помощью
этих отображений порождаем группу G. Далее, мы формулируем понятие
Щ1кла (на этой стадии мы еще не знаем, является ли цикл пересечением Р
с Gч)pбитoй) и вводим соответствующее угловое условие на каждый цикл.
Наша цель тогда - доказать, что G дискретна, а Р ~ фундаментальная
область для G.
Поскольку такого рода идеи возникают в различных геометриях и в
различных размерностях, представляется естественным действовать предельно
общим образом..Мы будем вводить в действие гипоте:^ы по мере их
необходимости и лишь на последнем этапе дадим окончательную формулировку
результата.
Ход рассуждений можно суммировать следующим образом: сначала мы
строим пространство X*, которое замощается действием группы, затем
проводим отождествление ячеек этого замощения с Сюбразами
многоугольника Р в исходном пространстве.
Начинаем с построения замощенного пространства. Пусть X — некоторое
непустое множество. Предположим, что
(А1) Р есть абстрактный многоугольник в X,
Под этим мы понимаем, что Р есть непустое подмножество в X, с которым
ассоциируется непустой набор непустых подмножеств s^ С X, называемых
сторонами Р, Объединение всех сторон обозначаем ЭР; предполагается,
что Р и ЭР не пересекаются. В дальнейшем мы пишем
Р = Р и ЭР
Далее, предположим, что
(А2) Задано спаривание Ф сторон многоугольника Р.
Это означает, что существует инволютивное (совпадающее со своим
обратным) отображение s *^ s' множества сторон Р на себя, и с каждой парой
(s, S ' ) ассоциирована биекция gs множества X на себя, причем
gs{s) = s'h g^, = {g^y.
217

Пусть G - группа, порожденная всеми g^. Составим декартово
произведение G X Р, Полезно представлять G X Р как набор непересекающихся
дубликатов
(gJ) = {{g.x)\xeP}
для Р, индексированных с помощью G (они подобны частям, из которых
собирается составная картинка), а пару (g, х) мыслить как точку g(x),
рассматриваемую как точку из g{P). Соединим теперь эти дубликаты
вдоль общих ребер так, как предписывает группа G. Заметим сначала, что
отображение hg^h"^ можно рассматривать как отображение стороны h{s)
многоугольника Л (Р) на:
A) сторону Л (^^s) многоугольника Л (Р) или
(ii) сторону/ig^(s) многоугольника {hg^) (Р).
Положим g = hgs\ мы хотим, следовательно, отождествить {g,s) с
K^>gs^)- Этого отождествления можно достичь, введя отношение '--
на G X Р посредством
{g.x) -^ (Л,у),
если
(i) ^ = Л, X = v или
(ii) X G S, V = gs{x), g = hgs.
Это отношение симметрично и рефлексивно (но не обязательно транзи-
тивно). ^
Расширим его до отношения эквивалентности * на GXPc помощью
соглашения:
{g.x) * (Л,.у),
если существуют такие {gjyXj), что
{g.x) = {guXi) - {g2.X2) '-...'- (^„,Х„) = (Л, V).
Класс эквивалентности, содержащий пару (g, х), обозначим <g, х>,
а факторпространство (совокупность классов эквивалентности)
обозначим X*, Заметим, что если
<^,х> = {Ку),
то
^(х) = h{y) (9.8.1)
и
ifg.x) = </Л,у>, (9.8,2)
Кроме того, если х G Р, то
g = Л, X = .V. (9.8.3)
Все эти факты имеют место для '^ , а значит, и для *.
218

Каждый элемент f ^ G индуцирует отображение / : Jf * ->• ЛГ* по
правилу
в силу (9.8.2) отображение /* определено корректно. Ясно, что
и
так что группа G всех / * есть группа биекций X на себя и f^ f* есть
гомоморфизм G на G *. На самом деле это изоморфизм, так как если
/ * = Л *, то, взяв какое-либо х Е Р, будем иметь
</,x> =/*</, х> = Л* </,х> = <Л,х>,
откуда в силу (9.8.3) следует / = Л.
Если теперь мы положим
<Р> = {<Дх>|хЕР}
'^ *
(и аналогично для <Р > ), то получим, что действие G на <Р > дает
замощение X* в том смысле, что
и gUP) = Х\ (9.8.4)
и если ^*=^Л*, то
g*<P) Г) h*{P) = ф (9.8.5)
(доказательство тривиально).
Связь этого замощения с первоначальной задачей легко объяснима.
В силу (9.8.1) существует естественное отображение а: А'*-> А', задаваемое
посредством
otig.x) = ^(х).
Теперь можем сформулировать следующий результат.
Предложение 9.8.1. (i) Если а сюръективно, то
и g{P) - X,
(ii ) Если а инъективно, то для различных g и h в О
giP) П h(P) = ф.
Доказательство, которое использует лишь (9.8.4) и (9.8.5), тривиально,
и мы его опускаем. Заметим, что все сказанное до сих пор не имело связи
с топологией.
Введем теперь в расчет топологию. А именно, сделаем следующие
допущения:
(A3) X есть метрическое пространство ^метрикой d\
219

(A4) каждое gg есть изометрЬя X на себя;
(А5) Р открыто и связно.
Чтобы изучить отображение а и на этой основе использовать
предложение (9.8.1), введем два естественных отображения:
/3: GXP^ Х\ у: GXP ^ X,
определив их посредством
P(g*x) = <g,x>, yig.x) = g(x).
Заметим, что
У = а/З; (9.8.6)
таким образом, следующая диаграмма является коммутативной:
G^P ^Х*
\
X
Рис. 9.8.1
Далее, снабдим группу G дискретной топологией, множество G X Р —
топологией произведения и X*-фактортопологией. Отображение у тоже
непрерьюно: если А открыто в X, то
y-\A)^U{g}X{g-\A)np),
а это множество открыто в GX Р. Наконец, коль скоро у непрерывно, то
и а тоже, поскольку oT^J^A) открыто в X тогда и только тогда, когда
РГ^а^ (А) открыто в G X Р.
Каждое f va Gиндуцирует отображение f: GX Р^ GX Р по закону
?: (g,x)i^(fg,x).
Очевидно, / есть гомеоморфизм GXP на себя; группа всех / изо-,
морфна G и
так что
аГ/3 = 7/ = /г (9.8.7)
Кроме того, если А есть открытое подмножество в ЛГ*, то
НО это подмножество открыто в GXP, Отсюда следует, что {f*y^ (А)
открыто в X*, т.е. /* непрерьюно. Так как (/*)~^ =(/"^)*,мы видим,что
/* есть гомеоморфизм Л!'* на себя.
Наши заключительные допущения имеют целью* заменить интуитивно
понятное угловое условие формальным Сбритом безотносительным к
размерности) условием, которое позволило бы нам строго изложить
дальнейшие доказательства. Мы введем условие, которое гарантирует, что для
каждой точки х G ЭР существует (локальное) замощение некоторой
окрестности X. Это условие должно выражать тот факт, что геометрия локального
замощения согласуется с отношением эквивалентности ♦, и не может быть
заменено ничем меньшим.
220

Чтобы выразить это условие короче, предположим на время, что
</,Х>= {(guXi) (gnfXn)} .
Одна из пар (gf, Xj) есть (/, х) и
^i(xi)=...=g„(x„) = /(x) = x.
Пусть
Nj^iyeP I d{y,Xi)<e)
— шар вР с центром xj и радиусом € . Множества gj{Nj) имеют общую
точку X ( = gjipcj)). Так как gj суть изометрии, то
gj{Nj)C{yeX\d{y,x)<e}^B{x,eY
мы хотим сформулировать условие, которое означало бы, что при
достаточно малом € множества g/(iVy) замощаюг jff (х, е). Для этой цели вводим
такое допущение:
(А6) для каждой точки х Е Р класс </, х > эквивалентности конечен:
</,X>={(gbXi) U„,X„)} .
Кроме того, при достаточно малом е
,.Pi gi^)-B{x^e\
и для каждого w Ei5(x, е) множество всех точек из U gj{Nj),
отображающихся в W посредством % есть класс эквивалентности.
Заметим, что нужный нам результат можно выразить в форме
утверждения, что множество точек bG X Р, отображающихся посредством у в
произвольную точку W Е Х, представляет собой некоторый класс
эквивалентности (т.е. что о: — биекция). Таким образом, условие (А6) играет роль
локального варианта для нужного нам глобального результата. Заметим
также, что поскольку </, х > есть образ </, х > при /*, то каждый класс
эквивалентности конечен.
Положим
/
Из условия (А6) следует, что y{W) -В{х, б), а также что И^есть
объединение классов эквивалентности. Другими словами, имеем
откуда следует, что V открыто в X*
Для отработки деталей доказательства нам потребуется следующий
результат.
Предложение 9.8.2. Множества f*{V) образуют базу
топологии в X*.
Доказательство. Мы уже знаем, что множества /*(F) открыты.
Пусть Л есть произвольное открытое множество вХ*и</, х>ЕЛ. Записав
класс </, X > как в условии (А6), найдем, что
</,x>={(/gi,Xi),...,(/^,„x„)) .
22\

Поскольку K непрерывно, можем записать:
ГЧ^)= U (КЛи),
hGG
где каждое л^ открыто в Р. Так как {fgj.Xj)^ /^~Ч^)> мы видим, что
Xj^Afj, когда h =/gy, поэтому для таких h мы имеем Л^ т^ ф. Выберем
теперь столь малое €, чтобы выполнялось (А6), а также чтобы Лу С Л^
для h -fgf (это возможно, поскольку / принимает лишь конечное число
значений 1 ai и соответствующие Л ^ открыты и непусты в?).
Очевидно, это означает, что
И тем самым
/*(К) = /*/5(И/) = /57(И/)СЛ.
Так как (Л х)Е W, то (/, х ) (которое есть ]3 /(/, х)) лежит в f*fi{W),т.е. в
Продолжим теперь общий ход рассуждений. Прежде всего, согласно
(9.8.7),
ar{V)^ar&{Wy ^fy(W)=Bific, е).
Следовательно, о: отображает каждое f*(V) на открытое множество, а,
значит, а: X* ^Х есть открытое отображение.
Далее, пусть и, v E/*(F) и а(и) = а (у). Выберем точки и' ни' в f(W)
такие, что j3(w') = w и K(и') = у. Тогда
7A/') = аЯ"') = аЯу') = 7(у'),
и, согласно (А6) (после отнесения назад к [V), ti'и у'лежат в одном
классе эквивалентности; отсюда
w = «t/')=^y') = y.
Мы доказали, таким образом, что о: есть биекция, а значит, и гомеоморфизм
каждого f*(V) Hafy{W).
Убедимся теперь, что пространство ЛГ * хаусдорфово. Чтобы это показать,
возьмем вХ* две различные точки:
</,^>={(/i,^i),...,(/«,л:„)} ,
<^,>'> = {(^l,>'l) (gm^ym)) ;
будучи различными точками в Z*, они являются также и
непересекающимися подмножествами в GX Р, Рассмотрим теперь набор множеств TV},
отвечающий </,х>в силу условия (А6); пусть Л/у будут соответствующие
множества для U,y), Всегда можно выбрать Л/ и Mf так, чтобы множества
U(/;-,iVO, и(^у,Л/у) (9.8.8)
i /
не пересекались В GX Р (если/}T^gy, ТО (//,TV/) не пересекается с (gpMf)
автоматически, если же// = gy, то х, Фу^, и тогда можно обеспечить
непересечение 7V/с Л/у). Поскольку каждое из двух непересекающихся множеств
(9.8.8) представляет собой объединение некоторых классов эквивалент-
222

ности, то /Зюбразы этих множеств также не пересекаются (и открыты).
Следовательно, X* хаусдорфово.
Наконец, X* связно. Действительно, так как Р связно, то это же верно
и для множества (g, P),2i также для его ^юбраза (gfP). Заметим, что если
jcEs', то
<g,x)^{ggs, (gsT^x)
и, значит,
(gJ)n{gg,,P)^0.
Отсюда следует, что множество
(gJ)^<ggs,P>
связно; то же самое верно и для X*, поскольку каждое g есть произведение
некоторых gs. Следующий результат подводит итог всему сказанному.
Предложение 9.8.3. Пространство X* хаусдорфово и связно.
Кроме того, для каждой точки х* GX* существует открытая окрестность
TV*, такая, что ограничение а на N* есть гомеоморфизм N* на открытое
подмножество в X.
Перейдем теперь к случаю, представляющему для нас наибольший
интерес. Пусть (X, d) есть гиперболическая плоскость с гиперболической
метрикой (рассуждение будет в равной степени относиться и к евклидовой
плоскости, а также к сфере 5^), а Р - гиперболический многоугольник
(возможно, с вершинами и свободными сторонами на бесконечно
удаленной окружности; эти объекты не относятся к X) vi Ф- некоторое
спаривание его сторон (т.е. некоторое множество изометрий, спаривающих
стороны Р). Наша конечная цель - вывести, что группа G дискретна, а Р есть
фундаментальный многоугольник для G. Заметим, что (А1) - (А5)
выполняются и что нет необходимости в проверке (А6) в точках х,
принадлежащих бесконечно удаленной окружности.
Условие (А6) очевидным образом приводится к более простому виду.
Пусть X G Р. Выберем € так, чтобы открытый круг радиуса € с центром х
лежал в Р. Для каждого у G TV класс эквивалентности {1,у) состоит только
из (/, у), поэтому для X Е Р условие (А6) выполняется очевидным образом.
Допустим теперь, что х лежит внутри стороны s. Тогда х принадлежит
единственной стороне Р, и отсюда непосредственно следует, что класс
</,х> состоит в точности из (/, х) и (fsfSsX)', ясно, что и в этом случае
(А6) выполняется (причем Избудет объединением двух полукругов), если
только gi{Ni)Ug2{N2) есть полная окрестность точки х (что мы будем
безусловно предполагать).
Теперь мы видим, что условие (А6) \южет быть переформулировано
исключительно в терминах вершин Р. А именно, (А6) эквивалентно такому
условию:
(А6) ' для каждой вершины х многоугольника Р существуют вершины
Хо(-х), Xi,... ,Хп того же многоугольника и элементы fo(= /), /i, . . .
... ,fnU3 G такие, что множества fj{Nj) не перекрываются *)^а их объеди-
*) То есть не имеют общих внутренних точек. - Примеч. пер.
223

нение есть В(х, ё); при этом каждое fj + j имеет вид fjgg для некоторого
s{j^\,...,n\ /„ + 1 =/).
Мы будем также предполагать, что ^
(А7) число € в (А6) может быть выбрано одним и тем же для всех хв Р,
Последнее предположение обеспечивает нам следующее: каждая кривая
в X может быть поднята в X* (каждую точку можно перевести в Р и затем
поднять вместе с близкими точками, отстоящими от нее на расстоянии,
не большем е). Таким образом, (X* ,а) есть универсальная накрывающая
Рис. 9.8.2
поверхность для X, sl а. есть отображение X* на все X. ПосколькуЛС одно-
связано, из теоремы монодромии теперь следует, что о: есть гомеоморфизм,
и требуемый результат вытекает из предложения 9.8.1. Мы доказали
следующую теорему.
Теорема 9.8.4 (теорема Пуанкаре). Если многоугольник Р вместе
со спариванием Ф его сторон удовлетворяют (А6)' и (А7), то группа G
дискретна*), а Ресть фундаментальный многоугольник для G.
Замечание. Если Р не имеет вершин в X, то (А6)'выполняется
автоматически. Однако (А7) может и не выполняться.
Пример 9.8.5 Пусть Р — многоугольник с г сторонами и углами
-njnj при вершинах v^b X (/ = 1 г). Для каждой стороны s пусть g^
будет отражение в s\ обозначим эти отраженияgi,... ,g,.. Тогда (А6)'
выполняется (рис. 9.8.2) и (А.7) тоже (посколькуЯ^компактно).
Следовательно,/^ есть фундаментальный многоугольник для G.
Позднее нам понадобится следующий результат, имеющий тесное
отношение к теореме Пуанкаре. Пусть Р — открытый гиперболический
многоугольник в АиФ— некоторое спаривание его сторон. Мы будем всегда
предполагать, что если х есть внутренняя точка стороны s, 2i у г gs(x) —
соответствующая ей точка, то при любом выборе окрестностей N^ и Ny
относительно Р множество
N,^{gsr{Ny)
есть окрестность точки х (следовательно, jV^ и {g^)'^ NyJifM^iT вблизи х
по разные стороны от 5).
Наконец, для каждого z и каждого g положим
*) Если при этом каждая из спаривающих изометрий яовляется собственной
(сохраняет ориентацию), то G будет фуксов ой группой. - Примеч. пер.
224

где Sgiz) есть угол, стягиваемый g (Р) в точке z. Если z Eg(Р), то Bgiz) =
= 27г; если z^giP), то вg(z) =0.
Теорема 9.8.6. Пусть Р - гиперболический многоугольник,
замыкание которого в А компактно, а Ф - некоторое спаривание его сторон,
удовлетворяющее указанному выше условию. Если группа G,
порожденная спаривающими элементами, дискретна, то функция Biz) постоянна
на всем А и равна 2пк где к - целое; при этом
кчглощадь (Р) -к- h-площадь (A/G).
Доказательство. Обозначим V множество образов всех вершин
Р; в силу дискретности G множество V содержит только изолированные
точки в Д. Пусть В будет объединение образов ЭР; опять-таки в силу
дискретности G множество В замкнуто в А , Очевидно, VCB,
Множество A\jff открыто и, значит, представляет собой объединение
непересекающихся областей, скажем Ау. По определению каждое А/, либо
лежит внутри g(P)> либо не пересекается cg(P), поэтому ^^ на всем Ау
есть либо 27Г, либо 0. Отсюда следует, что в(г) есть постоянная на каждом
Ау и равна 2nkf, где kf — целое.
Пусть теперь wEB\V. Из условий спаривания вытекает существование
конечного числа пар различных элементов (gj, ^J )(/ = 1,..., ai), таких,
что належит внутри общей стороны gf (Р) и gJ{P); для всех же остальных
элементов g ^^(z) постоянно (равно О или 2it) в некоторой окрестности w.
В силу дискретности можно выбрать эту окрестность Nne зависящей от g.
Каждая из сумм
Ogjizy-^e^jiz)
постоянна (равна 2п) вблизи w; следовательно, ^(z) постоянно вблизи ж
Итак, функция в/In непрерьшна и целозначна на A\F. Поскольку V состоит
из одних лишь изолированных точек, в постоянна навеем A\F.
Аналогичное рассуждение можно провести для wEV,
Пусть, наконец, Q есть какой-либо открытый фундаментальный
многоугольник для G. Условимся обозначать х^ характеристическую функцию
множества^; тогда для почти всех z в А будем иметь
2Х^(е)(^)=1-
g
С другой стороны, для почти всех z в А
fc = 2:e^(z)/27r = 2: Xy(p)(z).
g g
Отсюда, обозначая м гиперболическую площадь и беря все интегралы по А,
получаем
fJi(P) = /Xpiz)[^ X^(g)(z)] dn(z) = Z/Xp(z)XgiQ)(z) dix{z) =
g g
= 2:/ Xg-\p) (w)Xq(w) dix{w) = Z ^ / x^-1 (p)(w)x^(w) dix{w) =
= /X^(w)[2:x^(P)(w)] dfx(w)^k^(Q). a
h
15.A. Бердон 225

На самом деле теорема 9.8.6 утверждает, что, отождествив нужным
образом стороны Р, мы получаем разветвленное накрытие компактного
пространства A/G; это накрытие является ^-кратным для некоторого к.
Упражнение 9^
1. Доказательство теоремы Пуанкаре остается верным, если заменить условие (А7)
условием (А7)': существует е > О такое, чю для каждого х е Римеется однозначная
ветвьоГ^ в В (х, е).
Покажите, что теорема применима к примеру 9.8.5 также и в том случае, когда
некоторые вершины ty лежат на бесконечно удаленной окружности - в этом случае
каждая такая вершина Vj должна быть неподвижной точкой параболического
элемента из G, причем орихшклический круг для vj должен замощаться образами Р.
2. Обобщите упражнение 1 на произвольный многоугольник, часть вершин
которого лежит на бесконечно удаленной окружности, причем эти вершины являются
неподвижными точками параболических элементов из G (ср. упражнение 3).
3. Условие на параболические элементы, указанное в упражнении 1, существенно.
Покажите, например, что g: z^lz спаривает стороны многоугольника
P^{zGH* I l<Re[z] <2},
однако/*не является фундаментальной областью для G(-(g» в Я*.
Покажите, что теорема Пуанкаре все же применима к этим РиС, если
рассматривать G как группу, действующую в первом квадранте с метрикой ds = {\ z \ /ху) \dz \,
4. ПустьХ = С\ {0} , а метрика порождается ds^\dz \l\z \. Положим
P^{zG X\l<\z\<3, 0<argB)<d},
где в - некоторое число из (О, 2я).
Разобьем ЬР очевидным образом на четыре стороны и рассмотрим группу G,
порожденную спариваюпщми стороны изометриями
^(z) = 3z, ЛB)=Л.
Разберите случай в = 2тгp/q, где (р, </) = 1, с точки зрения накрывающей поверхности
X* (которая существует, даже если Хне является односвязным). Можно говорить в
этом случае о кратном замощении X
§ 9.9. Замечания
Имеются и другие конструкции фундаментальных многоугольников,
в частности многоугольники, связанные со специального вида
определяющим соотношением (произведение ком]мутаторов) для группы с
компактным факторпространством. Дальнейшую информацию см., например, в
[46, 47, 52, 70, 85, 86, 114]. Дополнительные сведения о выпуклых
фундаментальных многоугольниках см. в [71 — 73, 83]. По поводу приведенной
здесь трактовки теоремы Пуанкаре (§ 9.8) см. [24,48, 62].Теорема9.8.6
встречается в [48].

ГЛАВА 10
КОНЕЧНО ПОРОЖДЕННЫЕ ГРУППЫ
§ 10.1. фундаментальные многоугольники
с конечным числом сторон
Напомним, что сторона s выпуклого фундаментального многоугольника
Р есть отрезок видаР П^(Р), если не считать того, что указанное множество
может рассматриваться иногда как пара сторон (в случае, когда g есть
эллиптический элемент порядка 2). Иоц ребром многоугольника Р
понимается максимальный геодез11ческий отрезок в ЭР. Следует аккуратно
проводить различие между сторонами и ребрами; чтобы убедить читателя в
необходимости этого, мы начинаем с примера, в котором одно из ребер
содержит бесконечно много сторон.
Пример 10.1.1. Мы работаем в Я ^. Пусть С„ (ai = О, 1, 2,.. .)
обозначает геодезическую с конечными точками 1 + 4ai и 3 + 4ai, а С^ есть
отражение С„ относительно мнимой оси. Пусть, далее,g„ обозначает
гиперболический элемент, который сохраняет Я ^ и отображает внешность С„ на
внутренность С^, а G есть группа, порожденная всемиg„. Согласно теореме
Пуанкаре (§ 9.8) область, внешняя по отношению ко всем С„иС;^, является
фундаментальной областью для G,
Пусть D — область во втором квадранте, внешняя по отношению ко всем
с;,а
Dn^{x'^iy\x>0, >'>0, 4л<|2|<4(г1 + 1), | z - Dai + 2) | > 1}
(рис. 10.1.1). Ясно, что мйожество
P-DU( и gADn^Cr,])
л = о
является выпуклым фундаментальным многоугольником для G, причем
положительная полуось е мнимой оси является ребром Р. В то же время
при каждом п
^-ЧР)ПР=[4ш,4/(а1 + 1)],
откуда видно, что ребро е содержит бесконечно много сторон
многоугольника Р.
Так как мы собираемся обсуждать условия, касающиеся числа сторон
многоугольника, то весьма важно (особенно в свете предыдущего примера)
проводить различие между сторонами и ребрами.
Теорема 10.1.2. Пусть G - неэлементарная фуксова группа с
областью Нильсена N. Следующие утверждения эквивалентны:
A) G - конечно порожденная группа;
B) каков бы ни был выпуклый фундаментальный многоугольник Рдля
Сгу Н'площадь (Р П N) < <»;
15* 227

C) существует выпуклый фундаментальный многоугольник для G с
конечным числом сторон;
D) каждый выпуклый фундаментальный многоугольник для G имеет
конечное число сторон.
Доказательство. Очевидно, из D) следует C). Предположим
теперь, что имеет место C), и пусть Р — выпуклый фундаментальный
многоугольник с конечным числом сторон. Каждая замкнутая свободная
Рис. 10.1.1
сторона X/ (/= 1 т) многоугольника Р лежит внутри интервала
разрывности а/, который определяет полуплоскость Я/, содержащую N
(см. § 8.5). Множество
Pi =PnHi Г),..ПН,
т
представляет собой многоугольник с конечным числом сторон, среди
которых отсутствуют свободные стороны; Л-площадь такого
многоугольника конечна.
Так как Pi содержит PHN, то выполняется B). Если теперь учесть, что
множество N С-иквариантно, а значит, Л-площадь (PON) не зависит от
выбора Р, то получим, что условие B) выполняется не только для
выбранного нами Р, но и для любого выпуклого фундаментального
многоугольника Р.
Докажем теперь, что B) влечет A). Положим Q^^*^-^- Очевидно, N
пересекает ЭР; и так как iV является G-инвариантным, то Q содержит либо
сразу все, либо ни одной точки из каждого цикла на ЭР. Допустим, что bQ
содержит (возможно, как собственное подмножество) циклы Ci, . , . , Q
вершин в А П ЭР, а также точки Wi w„ в ЭА, и пусть Qo обозначает
многоугольник, вершины которого составляют множество
CiU.,.UQU{wi,...,w„}
(Qo является выпуклой оболочкой конечного множества точек, лежащих
на границе выпуклого множества). В силу выпуклости имеем Qo ^ Q, так
что сумма внутренних углов многоугольника Qo при его вершинах не
больше, чем сумма внутренних углов многоугольника Q в тех же точках.
Пусть цикл Cf имеет длину /у и порядок Qj (/ = 1,..., m). На основании
§ 7.15 имеем
Л-площадь @>Л-Ш1ощадь (Qo)^^['^'*'^i + • • -^^г-2]-
-iJ—+... +—I =7г(А1-2) + 7г2:(/у У
228

Нам будет удобно сейчас считать, что эллиптические неподвижные точки
порядка 2 и циклы длины 1 не являются вершинами. При таком
соглашении каждый цикл Cf или простой (и /у > 3, ^у = 1), или эллиптический
(и IfQf >'3). В обоих случаях
2 /; 1
'^/33
Отсюда следует, что лшш» конечное число сторон Р (при любом из двух
соглашений) пересекает Q,
Пусть теперь gs будут те из спаривающих стороны Р отображений, для
которых соответствующие стороны пересекают Q; таких gs имеется лишь
конечное число, и нам достаточно показать, что они порождают G. Возьмем
любой элемент gGG. В силу выпуклости и инвариантности TV можно
соединить две точки, одну из б и другую из g (Q), отрезком а, целиком
принадлежащим N, Можно также предположить, что о не проходит ни через
одну из точек, являющихся образами вершин Р В этом случае о пересекает
последовательно ряд образов
P>gi(P) gn(Pl
гдеg-gn- Так как множество
gj^iih П gf{P) ON
есть отрезок геодезической, то это же самое верно и для
Pr^(gf^iy'gf(P)n!V
(посколькуTV С-инвариантно),откудавидно,что (g/+i) "'^/ есть некоторое
gj. Мы доказали, таким образом, что из B) следует A).
Докажем теперь, что из A) следует C); доказательство того, что из C)
следует D), будет дано в следующем параграфе (где и будет, таким
образом, закончено доказательство теоремы 10.1.2). Итак, допустим, что имеет
место A). Пусть D есть многоугольник Дирихле с центром в начале (можно
считать, что начало не является эллиптической неподвижной точкой для G).
Идея этой части доказательства состоит прежде всего в том, чтобы показать,
что часть евклидовой границы Д лежащая на Э Д, имеет лишь конечное
число компонент (и, таким образом, поверхность A/G имеет лишь
конечное число "концов"). Это позволит нам представить D в виде
где К есть компактное подмножество в А, а каждое Df есть подобласть в
А, граница которой на Э А связна. В этом случае останется лишь показать,
что не более чем конечное число сторон D пересекают каждое Dj (для
компактного множества К это очевидно). Фактически для доказательства не
имеет значения, что граница Df на ЭА связна, но доказательство этого
факта просто и может лишь облегчить общее понимание довольно сложного
хода рассуждений.
Поскольку элементы, спаривающие стороны Д порождают всю группу G,
каждый из элементов конечного множества, порождающего G (и
существующего в силу A)), записывается в виде слова конечной длины,
составленного из спаривающих элементов. Отсюда следует, что некоторое конеч-
229

ное число спаривающих элементов порождает G; пусть эти элементы будут
Выберем число г Е (О, 1) так, чтобы круг {I z |< г} содержал дуги
(положительной длины) каждой из сторон многоугольника Р,
спариваемых с помощью ^1, * • - ygf Пусть
^=ЯП{2 I \z\<r)
(более удобно иметь дело с таким К, чем с его компактным замыканием) и
G(^)= и g(K).
Заметим, что для каждого / множество К U gj(K) связно (следует учесть
выпуклость К); значит, связным является и каждое из множеств
f:ugf^(K)ugf^gf^(K)u...u(gf^gf^..'gj^)(Ky
Поскольку элементы gi порождают G, отсюда следует, что иО{К) связно.
Число г Е (О, 1) можно выбрать так, чтобы окружность II z I = г}не
проходила ни через одну из вершин £) и не касалась ни одной из сторон D.
Тогда будем иметь
Dn{z\ \z l = r) = ai U...Ua„
где Of суть попарно непересекающиеся замкнутые дуги на {I z I =г) ,
лежащие целиком, за исключением их конечных точек, в D. Заметим, что в
силу теоремы 9.4.3 совокупность конечных точек всех о/ также спаривается
при спаривающих стороны отображениях. Это означает, что каждая из
конечных точек для Oj есть конечная точка некоторого А (о^) (для
единственного h и единственного а/). То же самое верно для второй конечной точки
h((Ji) и вообще для каждого последовательного образа о^. Отсюда видно,
что каждая Of принадлежит простой дуге Гу, состоящей из образов дуг о^.
Поскольку имеется лишь конечное множество о^, дуга Гу должна содержать
образы одной и той же а/; тогда из однозначной определенности
конструкции Гу следует, что Гу инвариантна относительно некоторого
нетривиального элемента Лу Е G. Заметим, что Гу состоит из образов компактной
дуги относительно степеней Лу. Если элемент Лу эллиптический (и,
следовательно, конечного порядка), то Гу есть жорданова кривая в Д. Если Лу —
гиперболический, то Гу есть сечение Д, конечные точки которого совпадают
с неподвижными точками Лу. Если Лу — параболический, то Гу есть
замкнутая жорданова кривая в Д, если не считать того, что ее начало и конец
находятся в неподвижной точке Ау. Заметим, что ни одна точка из К не
может быть эквивалентна точке, принадлежащей какой-либо из дуг Oj-;
поэтому G (А") не пересекается с Гу.
Обозначим Df объединение Oj (сечения D) с компонентой D\Of, не
содержащей начала (рис. 10. L2). Заметим, что Гу разделает Z)y и G(IC) в Д.
Легко видеть, что Dy П Э Д связно. Действительно, если и и v — две
различные точки из этого множества, то можно построить сначала кривую,
соединяющую и с ги по радиусу (где ruS Of), затем ги с rv вдоль су и,
наконец, ги с и по радиусу. Эта кривая, которую мы обозначим гу, лежит
в D и не пересекается с G{K), Если h GG (h ФГ), то h(D) не пересекает
Tf и потому лежит с той же стороны от Tj , что и G (К). Отсюда следует,
230

\Z\ = 1
Рис. 10.1.2
что область 2^, показанная на рис. 10.1.3, не пересекается с A(D)(A=?^/),
а, значит, лежит в D, Это означает, в частности, что ^ П Э А связно.
Вернемся теперь к рассмотрению элемента Лу, переводящего Гу в себя.
Если Л/ — эллиптический, то Гу *есть жорданова кривая в Л, и одна из
компонент множества А\ Гу имеет компактное замыкание в А. Есци эта
компонента есть Ц, то лишь конечное число сторон D пересекает Ьу. Если же
эта компонента не есть D/, то она содержит G{K), и тогда G конечна; в
этом случае многоугольник Дирихле для G очевидным образом имеет
конечное число сторон.
Предположим теперь, что hj — гиперболический элемент. Тогда Гу есть
сечение А. Одна из компонент А\Гу содержит G{K) (а значит, и орбиту
начала); отсюда следует, что каждая предельная точка дая G лежит в
замыкании этой компоненты. Другая компонента А\Гу содержит/)у, йот-
крытая дуга на Э А, ограничивающая эту компоненту, не содержит
предельных точек G. Но Dj содержится в Dn, следовательно, заключена между
геодезическим биссектором отрезка [0,АуО] и геодезическим биссектором
отрезка [О, (Ау) "' 0]; последние отделяют Dj от неподвижных точек Ау.
Мы видим, таким образом, что евклидово замыкание Dj принадлежит
множеству обыкновенных точек для G. Так как евклидовы диаметры
образов 1)стемятся к нулю (§ 9^), мы убеждаемся, что Dy может пересекать
лишь конечное число образов Д а значит, лишь конечное число, сторон Д
Допустим, наконец, что Ау — параболический. В этом случае 5у П Э А
состоит из единственной точки, а именно, неподвижной точки Ау. Но, как
мы знаем, в параболической неподвижной точке сходятся две стороны D
(теорема 9.3.8Х. так что и в этом случае лишь конечное число
сторон/)пересекается с Dy. Таким образом, за искючением импликации C) ^ D)
(которая будет доказана в § 10.2), теорема 10.1.2 доказана. П
§ 10.2. Точки аппроксимации
Рассмотрим фуксову группу G^ действующую в А. Пусть f есть
предельная точка для G; следовательно, существует последовательность отличных
друг от друга элементов gn ^ G, таких, что ^я(О) сходится к f. Насколько
быстрой (в евклидовом смысле) является эта сходимость? Очевидно,
\i-gn{0)\>\-\gn{0)\,
231

где равенство имеет место, например, в случае, когда gn есть л-я степень
некоторого гиперболического элемента^, осью которого служит евклидов
диаметр [- f, f] круга А. Можно считать, таким образом, что быстрейший
темп сходимости характеризуется соотношением
lf-^«@) 1 = 0A-1^„@I)
при А1 -^<». Так как выражения
II^„ IP, 2chp@,^„0), 2/A-I^„@I)
асимптотически равны друг другу при л->«>, то этот быстрейший темп
можно описать как в гиперболических терминах:
lf-g„@)l = O(l/chp@,g„0)),
так и в терминах матриц:
1Г - ^„@I=0A1 ^„ |Г').
Легко видеть, что в последних двух соотношениях начало можно
заменить любой точкой z Е Д. Это обстоятельство учтено в следующем
результате, который дает другую интерпретацию быстрейшего темпа
сходимости.
Теорема 102ЛЛусть G - фуксова группа, действующая в 1^.Пусть,
далее, f - предельная точка для G w ^j, ^2» — • - отличные друг от друга
элементы G, Следующие утверждения эквивалентны:
A) для любого wG А
lf-^«(w)l = 0(ll^„l|-^);
B) для любого w G А w любого геодезического луча L,
оканчивающегося в f,
р(^„(н'),^) = 0A);
C) для любого геодезического луча L, оканчивающегося в f,
существует компактное подмножество К С А, такое, что для всех п
Доказательство. Очевидно, p(gw,L) <т тогда и только тогда,
когда^"^ (L) пересекает компактный Kpyr{z I p(z,w) <т) .
Следовательно, B) и C) эквивалентны, а также при данном L B) истинно или ложно
независимо от выбора w. Далее, если ij и L2 — Два геодезических луча,
оканчивающихся в f, то при некотором т i
L2 C{z\p(z,Li)<:mi) ,
откуда следует, что B) истинно или ложно независимо от выбора L, Во
всем дальнейшем доказательстве пусть L обозначает евклидов радиус
[О, f), а I' - евклидов диаметр (- f, О. Заметим, что если z близка к f, то
p(z,L)^p(z,L').
Предположим сначала, что выполняется A). Полагая w=0, будем
иметь
1Г-^„@) 1 = 0A-1^„@I).
Отсюда следует, что ^«@) -> f; таким образом, для достаточно больших«
232

Если z е А, то (см. § 7.20)
2Im[rz] 21^2-11 2iz-f
sh pB,Z') =
l-\fz\^ l-lfzl^ l-lzl *
Полагая z -gniO) при достаточно большом л, получим B) для случая w= 0.
Посколькуу как уже отмечалось, истинность B) не зависит от выбора w,
мы видим, что из A) следует B).
Пусть теперь точка z G Д ближе к f, чем к - f, и пусть v — основание
евклидова перпендикуляра, опущенного из z на Z'. Тогда f есть ближайшая
к V точка на Э Д, откуда следует
Iz-fKlz-ul +b-n<lz-i;l+li;-(z/lz 1)]<
<:2\z-v l+lz-(z/lz 1I = 2 Iz-и 1 +(l-lzl).
Так как
lz-i;l=IIm[fz]|,
имеем
l2-fl
-< 2shp(z,LVl<2sh p(z,L) + l.
l-lzl
Полагая z =g„@) и используя B), находим, что из B) вытекает
справедливость A) для W =0.
Пусть, наконец, w G Д и
az +с ^
g(z)^ Г-, kl'-|c[2=L
cz +д
Непосредственным подсчетом получаем
2 4
|g(w)-^@)| < = г, A0.2.1)
(l-|w|)chp@,gO) (l-lwl)llgp'
поскольку
1 1
k|=ch —p@,gO), kl=sh—р@,^0).
Однако, как мы уже видели, из B) следует A) для w = 0. Отсюда и из
A0.2.1) следует справедливость A) при любом w.D
Учитывая возможность по-разному характеризовать быстрейший темп
сходимости, удобно принять некоторую подходящую терминологию.
Определение 10.2.2. Предельная точка f фуксовой группы G
называется точкой аппроксимации для: G, если для любого w Е Д существует
йоследовательность отличных друг от друга элементов gn ^ ^ такая, что
\^-gn(.w)\ = o(\\g„r').
Теорема 10.2.3. Точка аппроксимации фуксовой группы G не может
принадлежать границе выпуклого фундаментального многоугольника
для G.
Доказательство. Допустим, что точка аппроксимации f лежит
на границе выпуклого фундаментального многоугольника Р. В силу вы-
233

пуклости можно построить луч L, лежащий в Р и оканчивающийся в f.
По теореме 10.2.1C) образы (gn)'^{P) пересекают компактное
множество, а это противоречит локальной конечности Р (см. определение
9.3.1).П
Пример 10.2.4. Любая параболическая неподвижная точка группы G
лежит на границе некоторой области Дирихле; следовательно,
параболическая неподвижная точка не может быть точкой аппроксимации G,
В случае конечно порожденной группы теорема 10.2.3 и пример 10.2.4
дают полное описание предельных точек G.
Теорема 10.2.5. Фуксова группа G тогда и только тогда является
конечно порожденной, когда любая ее предельная точка является
параболической неподвижной точкой или точкой аппроксимации для G.
Замечание. Говорят, что предельное Множество Л является
расщепленным, если оно содержит только параболические неподвижные
точки или точки аппроксимации для G, В случае, когда G — конечно
порожденная группа, существует фундаментальный многоугольник с конечным
числом сторон (по доказанному в теореме 10.1.2 из A) следует C)).
Мы покажем, что из существования такого многоугольника в свою очередь
вытекает, что множество Л расщеплено. Далее, мы докажем, что если Л
расщеплено, то любой выпуклый фундаментальный многоугольник для G
имеет конечное число сторон, и, значит, G является конечно порожденной
группой (по доказанному в теореме 10.1.2 из D) следует A)). Заметим,
что таким образом будет доказано, что условие C) теоремы 10.1.2 влечет
за собой расщепленность Л, а значит, и справедливость условия D) той же
теоремы. Таким образом, мы докажем теорему 10.2.5 и одновременно
закончим доказательство теоремы 10.1.2.
Доказательство теоремы 10.2.5. Предположим сначала, что
Л расщеплено. Пусть Р — любой выпуклый фундаментальный
многоугольник для С Если Р имеет бесконечное число сторон, то его стороны должны
скапливаться к некоторой точке f G Э Д. Так как евклидовы диаметры
образов Р стремятся к нулю, точка f должна быть предельной точкой для G,
лежащей на ЪР, По теореме 10.2.3 f не может быть точкой аппроксимации
для G, а по теореме 9.3.8 f не может быть параболической неподвижной
точкой для G (в противном сл)П!ае две стороны Р оканчиваются в f). Это
противоречит расщепленности Л, и, таким образом, Р может иметь лишь
конечное число сторон.
Допустим теперь, что существует вьшуклый фундаментальный
многоугольник Р с конечным числом сторон. Можно считать, что Р есть
многоугольник Дирихле (как показывает доказательство теоремы 10.1.2, группа
G в этом случае конечно порождена, а тогда любой многоугольник Дирихле
имеет конечное число сторон); будем также считать (для простоты)
выполненными условия, сформулированные в теореме 9.4.5. Наконец, будем
предполагать, используя возможность сопряжения, что центром Р является
начало. ^
Если две стороны Р, скажем s и s , имеют общий конец и е Э А, то и есть
параболическая неподвижная точка для G (теорема 9.4.5), причем
стабилизатор точки и порождается параболическим элементом р ^ G,
отображающим S на s'. Построим открытую орициклическую область, опорную в и;
234

пусть Q будет ее граничный орицикл. Заметим, что существует компактная
дуга qCQ, такая, что Q есть объединение образов р^ iq), л Е Z.
Аналогичное построение возможно для открьпых сторон Р. Любая из
конечных* точек открытой стороны есть конечная точка некоторого образа
некоторой свободной стороны. Интервал разрьшности а, в котором лежит
данная свободная сторона, есть счетное объединение образов конечного
числа сторон Р; эти образы не перекрьшаются и сходятся лишь к
концам а. Отсюда следует, что некоторый элемент h ^ G переводит образ
свободной стороны, лежащей в а, в другой такой же образ, снова в а; но
тогда Н{о) = о (поскольку интервалы разрьшности переставляются
элементами G). Значит, элемент h оставляет на месте оба конца а, т.е. является
гиперболическим элементом. Его осью служит геодезическая L,
соединяющая концы а; можно считать, что h порождает весь стабилизатор L,
Заметим, что существует компактная дуга I S L, такая, что L есть
объединение образов /г" (/), wEZ.
Геодезических L и орициклов Q имеется лишь конечное число; они
отделяют граничные точки Р на Э А от компактного подмножества Pq СР,
Обозначим К компактное множество, являющееся объединением Pq с
конечным числом дуг q и 1.
Пусть теперь f есть предельная точка для G, не являющаяся
параболической неподвижной точкой, а Zo — геодезический луч с концом f. Начало
Lq можно отобразить в точку, лежащую в Р; соответствующий образ Lq
не может лежать целиком в одной из орициклических или пшерцикличес-
ких областей, построенных выше, — в противном случае он должен был бы
оканчиваться в параболической неподвижной точке или обьпсновенной
точке для G соответственно. Отсюда следует, что или Lq пересекает Pq,
или, в противном случае, Lq пересекает одну из указанных областей;
в последнем случае некоторый образ Lq пересекает одну из дуг q или /.
В обоих случаях образ Lq пересекает К, поэтому существуют Zq S Lq и
go^G такие, что ^о(^о)^^.
Пусть луч Ln получается из Z^o удалением начального отрезка длины п.
Заменяя в предьщущем рассуждении Lq на Z.„, найдем, что существуют
такие z„ Е Z„ и ^„ Е G, для которых gn(zn) Е К, Очевидно, 2„ -^-f и
множество {^1, ^2, ... } бесконечно; отсюда по теореме 10.2.1 f является
точкой аппроксимации и множество Л — расщепленное.
Упражнение 10 J2
1. Рассмотрите пример 10.2.4 на модели Я*, взяв «» в качестве параболической
неподвижной точки (используйте теорему 10.2.1 B)).
§ 10.3. Сопряженные классы
Каждая группа распадается на сопряженные классы. Классификация
собственно конформных мёбиусовых преобразований инвариантна
относительно сопряжения, поэтому можно недвусмысленно говорить об
эллиптических, параболических и гиперболических сопряженных классах. С
точки зрения группы всех мёбиусовых преобразований сопряженные классы
параметризуются общим значением trace^ всех элементов, однако, как мы
сейчас увидим, это же самое неверно в группе собственных конформных
мёбиусовых преобразований.
235

Теорема 10.3 Л. В группе всех изометрий гиперболической
плоскости две нетривиальные собственные изометрий сопряжены тогда и только
тогда, когда они имеют общее значение trace^. В группе собственных
изометрий значение trace^ определяет два параболических или
эллиптических сопряженных класса или один гиперболический сопряженный
класс.
Доказательство. Мы разберем детально только параболический
случай. Используя модель Я^, легко проверить, что любые две
параболические изометрий сопряжены (в группе всех изометрий); в качестве
примера можно взять z^^z+p и z^z -^ q, тце р и q — действительные и
не равные нулю. В группе собственных изометрий эти преобразования
сопряжены в том и только в том случае, когда для некоторых
действительных а, Ь, с, d, где ad - be-I, имеем
j(z+p) + b az-^b
— — - + ^
c(z + р) + df cz -^d
Полагая z = - d/c, найдем cp = 0; отсюда с = 0 и ap-dq. Так как ad-I,
имеем a^p = q, откуда следует, что р vi q имеют одинаковый знак. Это
показывает, что в группе собственных изометрий значение trace^ определяет
два сопряженных класса параболических элементов. В полной же группе
изометрий переносы z^-^z + lnz^^z — 1 сопряжены; действительно, если
о: и ]3 обозначают отражения в л: = 0 и л: = 1/2 соответственно, то
)За = о:(о:]3)а,
откуда видно, что ojS сопряжено ]3а.
Эллиптический сяуш^ разбирается аналогично с использованием
модели А и двух вращений вокруг начала. Гиперболический случай удобнее
рассмотреть в Я^, беря гиперболические элементы, фиксирующие О и «>.
В этом случае каждый элемент сопряжен своему обратному, поскольку
существует собственная изометрия (а именно, z и-- i/z
),переставляющая О и «>. П
Мы переходим к детальному рассмотрению сопряженных классов в фук-
совой группе.
Теорема 10.3.2. Пусть G - фуксова группа w у i, ^2». • • -
параболические и эллиптические неподвижные точки на границе некоторого
выпуклого фундаментального многоугольника Р для G. Предположим далее, что
стабилизатор U/ порождается gj. Тогда любой эллиптический или
параболический элемент из О сопряжен степени некоторого gj.
Доказательство. Если^ - эллиптический или параболический с
неподвижной точкой у, то некоторый элемент Л Е G отображает v в точку,
лежащую на ЭР (см. конец § 9.3). Следовательно, h{v) = У/ для
некоторого /. Тем самым hgh'^ G(^y). П
Следствие 10.3.3. Если фуксова группа G конечно порожденная, то
она имеет конечное число максимальных ^циклических подгрупп <gi>, ...
• • •, ^^п). таких, что каждый эллиптический или параболический элемент
из О сопряжен одному и только одному элементу одной и только одной из
этих подгрупп.
236

Мы должны лишь заметить, что если элемент g эллиптический или
параболический и если две степени g сопряжены:
hg'^h-' =^'",
то h имеет те же неподвижные точки, что и ^; следовательно, h сам
является степенью g, г потому и = т.
Позднее нам понадобится информация о числе сопряженных классов
максимальных циклических подгрупп в подгруппе Gi С G, Следующий
простой результат будет достаточен для наших целей. •
Теорема 10.3.4. Пусть G - фуксова группа, aGi -ее подгруппа
индекса к, Предполооким, что О и Gi имеют соответственно t и ti
сопряженных классов максимальных параболических циклических подгрупп. Тогда
ti < kt То же самое верно и для эллиптических элементов.
Доказательство. Пусть D — многоугольник Дирихле для G, в
котором кахсдая параболическая и эллиптическая неподвижные точки на
ЪВ имеют цикл длины 1.
Таким образом, ровно t параболи'1еских неподвижных точек лежат
на ЭА Разобьем G на смежные классы:
G=^iGiU ... Ugj^G,.
Тогда множество
D*-(g,y'(D)U ... и (gj,r\D)
содержит по крайней мере по одной точке из каждой Gi юрбиты. Так как
на границе D* имеется самое большее kt параболических неподвижных
точек, то Г1 <:kt. Такое же доказательство справедливо и для
эллиптических элементов. □
Обратимся теперь к сопряженным классам гиперболических элементов
в фуксовой группе.
Теорема 10.3.5. Неэлементарная фуксова группа содержит
бесконечно много сопряженных классов максимальных гиперболических
циклических подгрупп.
Доказательство. Допустим противное, тогда существуют
гиперболические элементы hi, ,,,, hf в G, такие, что каждый гиперболический
элемент из G сопряжен степени некоторого Лу.
Пусть и ии — две различные предельные точки для G, По теореме 5.3.8
существуют гиперболические элементы Л, /г,... с отличными друг от
друга осями Ai,A2,,,, и такие, что Л„ имеет концы w„ и i;„, где и^^и
и Vn -^ V,
Поскольку каждый /„ сопряжен степени одного из конечного числа Лу,
мы можем (после перенумерации и перехода к подпоследовательности)
считать hj = hi для всех п. Тогда
fn -gnihiY^ignY'
и, следовательно, элементы
Qn ^gnhiign)'^
имеют отличные друг от друга оси Л „и ту же величину сдвига Г, что и hi.
Так как An сходятся к геодезической (w, v), то это противоречит дискрет-
237

ности G; а именно, если zE(w, и), то
sti — p(z,q„z)-- sh ("Г^) chp(zM«)-^sh( —rj (при «->«>),
в то время как все Qn различны. П
Пусть С], Сг,... - все сопряженные классы гиперболических элементов
в фуксовой группе G. Элементы из С„ имеют одну и ту же величину сдвига,
скажем Г„.
Теорема 10.3.6. Если группа G конечно порожденная, то Г„ -*-«>
при п ->«>.
Доказательство. Теорема 10.2.5 и ее доказательство показывают,
что каждая гиперболическая неподвижная точка для G является точкой
аппроксимации; при этом существует компактное подмножество К С А,
такое, что каждая гиперболическая ось имеет образ, пересекающий К. Это
означает, что каждый гиперболический сопряженный класс С„ содержит
элемент gn, ось которого An пересекает К, Для некоторого d имеем
KC{zeA\p@,z)<d),
На основании § 7.4 и 7.35 получаем
||^J|2=2chp@,^„0) = 2 + 4sh2yp@,^„0) =
= 2 + 4sh2(yrJch2p@,^)<2+4ch2(J)sh2/Yr„ V
откуда следует Г„->«> при л-*-«>. П
Замечание. Используя известные нам сведения о сходимости рядов,
например теорему 5.3.13, можно получить более точную информацию
относительно быстроты сходимости Г„ к «>.
Существуют два типа гиперболических элементов в фуксовой группе,
которые заслуживают особого внимания. Во-первых, существуют простые
гиперболические элементы (определение 8.1.5). Но, кроме того, могут
существовать и граничные гиперболические элементы Л,
характеризующиеся тем, что они оставляют инвариантным некоторый интервал разрьшности
на бесконечно удаленной окружности; разумеется, такие элементы
существуют только в фуксовых группах второго рода.
Теорема 10.3.7. Конечно порожденная фуксова группа имеет лишь
конечное число сопряженных классов максимальных граничных
гиперболических циклических подгрупп, но может иметь бесконечное множество
сопряженных классов примитивных простых гиперболических элементов.
Доказательство. Конечно порожденная группа G имеет
выпуклый фундаментальный многоугольник Р с конечным числом свободных
сторон, скажем, Si, ..., s„. Каждая свободная сторона Sf лежит в
интервале разрывности Of, стабилизатор которого порождается граничным
гиперболическим элементом, скажем Лу.
Если h — какой-нибудь граничный гиперболический элемент, то'Л
оставляет инвариантным некоторый интервал разрьшности а. Рассмотрим луч Z.,
оканчивающийся в некоторой внутренней точке а и лежащий целиком в
238

Рис. 10.3.1
Рис. 10.3.2
некотором образе f{F) (такой луч существует, поскольку образы Р не
могут скапливаться к внутренней точке а). Так как f'^(L) лежит в Р
и оканчивается в обыкновенной точке для G, то его конец должен
принадлежать некоторой стороне Sy. Следовательно,/(а) = а^, а потому/Л/"
оставляет Of инвариантным. Это доказьшает, что h сопряжен некоторой
степени Л/.
Наконец, мы должны указать пример конечно порожденной фуксовой
группы, содержащей бесконечное! множество несопряженных примитивных
гиперболических элементов.
Построим четырехугольник Р в А с вершинамиUi,U2,U3,U4,лежащими
на бесконечно удаленной окружности. Пусть / и g — гиперболические
элементы, спаривающие стороны Р, как указано на рис. 10.3.1. По теореме
Пуанкаре (см. упражнение 9.8.2) группа G, порожденная f ng, дискретна,
а Р есть фундаментальный многоугольник для G. Поскольку элементы / и
g спаривают стороны вьшукдого фундаментального многоугольника, они
являются простыми гиперболическими элементами группы G
(теорема 9.7.1). Из геометрии действия f ng ясно, что оси этих элементов
пересекают/^, откуда следует, что fug — примитивны.
Положим Us ="/A^1); тогда четырехугольник с вершинами и 1, и3,1^4, У5
тоже является выпуклым фундаментальным многоугольником для G,
причем его стороны спариваются с помощью f и fg (рис. 10.3.2). Как и
выше, f VI fg — простые примитивные гиперболические элементы.
Повторяя эту перестройку, получим последовательность g, fg.f^g,...
примитивных простых гиперболических элементов из G. Используя
сопряжение, можно считать, что G действует в Я^ и
^=(о 1/J' ^=(с ^)'
где W > 1. Тривиальный подсчет показьшает, что trace^(/"^) -*-«> при п -*-«>,
поэтому последовательность f^g содержит бесконечно много
несопряженных элементов (заметим, что д т^ О — в противном случае ^ и / имели бы
общую неподвижную^точку). П
239

Упражнение 10.3
1. Постройте бесконечно порожденную фуксову группу G, содержащую
бесконечное множество сопряженных классов простых примитивных гиперболических
элементов с одной и той же величиной сдвига (см. теоремы 10.3.6 и 10.3.7).
2. Проверьте в деталях часть доказательства теоремы 10.3.2, относящуюся к
рис. 10.3.1 и 10.3.2 (используйте упражнение 9.8.2). Укажите другую конструкщ1ю,
в которой вершины иу заменяются свободными сторонами.
§ 10.4. Сигнатура фуксовой группы
Пусть G— конечно порожденная и неэлементарная фуксова группа.
Любой многоугольник Дирихле D в этом случае имеет конечное число
сторон, а D/G топологически есть компактная поверхность S некоторого
рода g с определенным числом дыр. Так как A/G и D/G гомеоморфны
(теорема 9.2.4), род g не зависит от выбора D.
Рассмотрим теперь область Нильсена N для G и соответствующее фак-
торпространство N/G. Соображения, изложенные в § 10.3, показывают,
что граница TV в А состоит из всех осей граничных гиперболических
элементов G. Пусть А — одна из таких осей, Я - компонента А\ А, не
содержащая N. Пусть, далее, h — порождающий элемент стабилизатора
для А. Очевидно, Н устойчива относительно G, а значит, проекщ1Я Я в
A/G топологически есть щшиндр Я/< h > (теорема 6.3.3). Один край этого
щшиндра есть простой контур A/ih); в самом деле, образ А не может
пересекать А (открытая дуга в ЭА, ограничивающая Я, состоит только
из обыкновенных точек для G) и не существует эллиптических
элементов второго порядка, оставляющих А на месте (в противном случае G
имела бы только две предельные точки).
Если обозначим п естественную проекщ1ю А на A/G, то можно видеть,
что 7г(А) есть объединение следующих попарно непересекающихся
множеств: n(N), простых контуров вида п(А) и цилиндров вида 7г(Я).
Цилиндры 7г(Я) соединяются с 7г(Л0 вдоль общих граничных контуров п{А);
и тех и других имеется одинаковое число, скажем t ~ столько же,
сколько сопряженных классов максимальных граничных
гиперболических циклических подгрупп. Ясно теперь, что три пространства A/G,
D/G, N/G гомеоморфны друг другу.
В дополнение к сказанному G содержит конечное число, скажем s,
сопряженных классов максимальных параболических циклических
подгрупп; каждой .из них отвечает прокол на поверхности S (рассмотрите
фактормножество цдя орициклической области, устойчивой
относительно циклической параболической подгруппы). Наконец, G содержит
конечное число, скажем г, сопряженных классов максимальных
эллиптических циклических подгрупп; пусть Wi, ..., т,. ~ соответственно пдрядки
этих подгрупп. Суммируя сказанное, введем следующую терминологию.
Определение 10.4.1. Символ
felmb...,m/,s;0 A0.4.1)
называется сигнатурой G; каждый из параметров является целым
неотрицательным числом, причем w,- > 2.
Если В" G нет эллиптических элементов, мы пишем просто (g I 0; s; г).
240

Можно сформулировать условие, характеризующее возможные
сигнатуры.
Теорема 10.4.2. Неэлементарная конечно порожденная фуксова
группа с сигнатурой A0.4.1) существует тогда и только тогда, когда
т,- > 2 и
Ig^l^s^t^ 2;(l^-l\>0. A0.4.2)
/ = i \ wy /
Необходимость условия A0.4.2) вытекает из следующей теоремы.
Теорема 10.4.3. Пусть G - неэлементарная конечно порожденная
фуксова группа с сигнатурой A0.4.1) и областью Нильсена N. Тогда
й-плом(ааьGУ/а) = 27г!2^-2+5 + Г+ 2^ (^"^Т"))*
Если, кроме того, группа G первого рода, то7У=АиГ=0; в этом случае
мы получаем следующую формулу для площади любого фундаментального
многоугольника группы G.
Следствие 10.4.4. Пусть О - конечно порожденная фуксова группа
первого рода с сигнатурой О? I mi, .. ., т,. ; s; 0),а Р- любой выпуклый
фундаментальный многоугольник для G. Тогда
И'площадь (Р) = 27Г 2g - 2 + S + 2 ( 1 j .
Доказательство теоремы 10.4.3. Возьмем многоугольник
Дирихле D с центром w, тогда
h -площадь (DnN) = h-площадь (N/G).
Выбрав W подходящим образом, мы можем предположить, что каждый
эллиптический и параболический цикл на Э£) имеет длину 1, а также (если
W не принадлежит некоторому счетному множеству геодезических) что
никакой цикл вершин D не лежит на осях гиперболических граничных
элементов.
Очевидно, лишь конечное множество различных образов
гиперболической оси может пересекать замыкание какой-либо локально конечной
фундаментальной области. Так как А^ ограничена гиперболическими осями
(ибо G конечно порождена), то отсюда следует, что лишь конечное число
сторон N пересекают D и, таким образом, D П N есть многоугольник с
конечным числом сторон. Граница DON состоит, скажем, из 2п попарно
спариваемых сторон (дуг спариваемых сторон D) и к сторон, не
подлежащих спариванию (а именно, дуг граничных осей N, лежащих в D). Вершины
D П N включают г эллиптических циклов длины 1, s параболических
циклов длины 1, некоторые простые циклы вершин D (в количестве, скажем,
а) и, наконец, к циклов длины 2, отвечаюищх конечным точкам к неспари-
ваемых сторон DHN,
Применяя формулу Эйлера (после "заполнения" дыр), получим
2 ^ 2g = A + г) - (« + ^) + (г + д + ^ + s),
откуда следует
«-j=2^-l+r + s + /.
16.А. Бердон 241

Соединим теперь w с каждой вершиной DHN, это дает разбиение D П Л/^
на 2а1 + А^ треугольников. Складывая площади этих треугольников, получим
'• 27Г
к'Площадь (ППМ) = Bп + к)п -2п-2па -пк- 2 =
/ = 1 ту
= 27Г
1
- £ — =27г| 2^-2+s + r+ 2 /i^_)
/ = 1 Wy J [ / = 1 \ m,. / J
П
Из характера формулы, составляющей содержание теоремы 10.4.3, ясно,
что Л-площадь (N/G) имеет положительную нижнюю границу,
справедливую для всех групп G. Положим, для сокращения записей,
А = A/27г) h-площадь (N/G).
При нахождении нижней границы мы можем предположить, что А < 1/6.
Число 1/6 достаточно удобно для последующего анализа: вскоре мы
увидим, что группы, для которых А < 1/6, действительно существуют.
Если г = О или если ту = 2 для всех /, то Л « n/l при некотором целом п.
Так как А > О, мы находим в этом случае А > 1/2. Предположим теперь,
что г >0 или некоторое ту не меньше 3. Тогда
1>вА>в
2g - 2 + S + г +
г-1 2]
что дает
4^ + 2s + 2r+r<4.
Поскольку
2<^+2<2^ + s + r + r<4g + 25+2r+r<4,
находим
2;^ + s + r+r = 3=4^ + 25 + 2r + r,
откуда следует
^ = s = r=0, г = 3.
Мы можем теперь утверждать, что
= 1-( —+ —+ —)>0.
\ mi т2 гпз '
Если каждое rrij не меньше 3, то хотя бы одно из nij не меньше 4, и тогда
А> 1/12. Если же, например, гпз = 2, то
1/1 1 \
^ = ^_ (_ + _ >0.
2 \ mi тпг I
Если при этом каждое из чисел т^ и тг не меньше 4, то хотя бы одно из
них не меньше 5, и тогда А > 1/20. В противном случае, если, скажем,
т2 = 3, то А> 1/42, причем равенство имеет место при сигнатуре
(О I 2, 3, 7; 0; 0). Для будущих применений сформулируем это в виде
следующего результата.
242

p(z,0)^d
z^-h^iz^)
Zj=7?^ (Zp) z^ = b^(z^) = b^iz-^
Рис. 10.4.1
/Лч ^^^>^^-^
Рис. 10.4.2
Теорема 10.4.5. Д>1л любой неэлементарной фуксовой группы G с
областью Нильсена N
к'площадь (A//G)> 7г/21.
Равенство имеет место только в случае группы G сигнатуры >
(О I 2, 3, 7; 0; 0), в этом случае N= Д.
Доказательство теоремы 10.4.2. Достаточность. Дан
символ A0.4.1), удовлетворяющий A0.4.2); требуется построить фуксову
группу G, имеющую A0.4.1) своей сигнатурой.
Построим окружность p(z, 0) = d, где d - какое-нибудь положительное
число, и на этой окружности 4^ + г -^ s -^ t точек zy, делящих окружность
на равные части (/ = 1,2,... в порядке обхода). Каждая из дуг zyZy + i
стягивает угол 2в с вершиной в начале, где
27Г
в = - .
8^+2г + 25 + 2г
Для первых четырех из этих дуг мы берем отображения Лу, указанные на
рис. 10.4.1. Заметим, что точки Zi,..., Zs все являются образами друг друга.
Эта конструкщш повторяется затем ^ - 1 раз, начиная с Zs; таким путем
проходятся 4^ дуг Zj-Zj + i с общим углом Sgd при начале, и строятся
отображения hi h2g.
Используя следующие г дуг Zj-z^ + i, строим конфигуращ1ю с
отображениями Ci, указанными на рис. 10.4.2 (напомним, что т,- берутся из A0.4.1)*
и ш/ > 2); необходимо, чтобы е,- был эллиптическим элементом порядка
mi, фиксирующим *) w,-. Эта часть конструкщ1и соответствует углу 2гв с
вершиной в начале. Далее мы повторяем подобную конструкщ1ю еще s раз
с той лишь разницей, что теперь w/ берутся на {I z | = 1}; углы при w,-
теперь равны нулю, а соответствующие р/ (аналог е,-) - параболические.
Остаются еще t дуг, каждая из которых заключает угол 26, Для каждой
из этих дуг строим конфигуращ1ю и гиперболическое отображение fey, изо-
*) На рис. 10.4.2 следовало бы вместо еу, wy, wy, /Зу написать е,-, w/, w/, /3,-, где
i =j _ 4^; действительно, нумерация дуг ZfZf +i, к которым относится этот рисунок,
начинается с / = 1 + 4^, в то время как нумерация чисел т/ начинается с i = 1. -
Примеч. пер.
16* 243

браженные на рис. 10.4.3, полагая при этом
/ 1+6/ \
\\^2d)
В результате указанных построений получаем многоугольник с
вершинами 2у, W/, и,-, Wi и спаривающими стороны отображениямиЛ^,в/,р^,Ь/.
О
Группа G, порожденная этими отображениями, может быть или Ке быть
дискретной, но в любом случае точки Zi, Z2,... принадлежат одной G-орби-
те. При этом угловая сумма, отвечающая этим вершинам 2у, есть
^F/) = 8^a + 2(/3i +...+/3,+, + ,).
Каждый из углов о: и ]3у непрерывно зависит от параметра d. Покажем, что
при некотором значении d будет ^(d) - 2п, Из теоремы Пуанкаре (см.
упражнение 9.8.2) в этом случае будет следовать, что G дискретна, а
построенный многоугольник является фундаментальной областью для G. После
этого останется лишь проверить, что G действительно имеет сигнат)фу A0.4.1).
С помощью элементарной тригонометрии (используя по очереди
рис. 10.4.1, 10.4.2 и 10.4.3) находим
(i) chd/ = ctg в ctga;
cos ^ cos /Зу + cos (п/тЛ
(ii)chc? = — ,
sin в sin j3y
где / = 1, ..., r, и такое же соотношение с заменой cos (я/ту) на 1, когда
/=г+ 1,.. . ,r + s;
C0S^lC0Sj3y + 1
sin в 1 sin j3y
где/=г+х + 1,...,г+х + г. Заметим, что при с? -^-О будет а^(п12) - в.
Из (ii) следует
(iii) ch d ■
cos(^ + /Зу) = cos Gг I + sin в sin/3y(chd- I),
откуда видно, что при d ^0
/3 ->я-— -е,
244

включая случай my = «> (когда г < / <г + s). При том же условии из (iii)
имеем
ву +/3;->7Г
ИЛИ -
/3/->7Г-^.
Таким образом,
ШЛ-^гтЛ Ig-
при J->0
-2+s+r+
/=1 \ my /J
+ 2я > 2я.
С другой стороны, когда J ->«>, углы а и jSy стермятся к нулю (^i -^djl),
так что в этом случае ^{d) ->0. Следовательно, при некотором значении d
будет ^{d) = 27Г, а, значит, группа G будет дискретной.
Ясно, что G имеет эллиптические элементы порядков ^i, ..., т^ , а
также S параболических и г граничных элементов и что эти элементы
представляют разные сопряженные классы (следует учесть, что они спаривают
соседние стороны фундаментального многоугольника). Если A/G имеет
род g*, то по формуле Эйлера, примененной к многоугольнику со
спаренными сторонами,
2-2g* -S- Г = 1 -B^+r+s + r) + (l +г),
откуда (как и следовало ожидать) g* -g. □
Упражнение 10.4
1. Пусть G - неэлементарная фуксова группа. Предположим, что параболический
элемент g Е: G порождает стабилизатор своей неподвижной точки и. Рассмотрев
подходящим образом выбранную орициклическую область Я, опорную в и, покажите, что
я (Я) конформно эквивалентно проколотому кругу в д/G.
2. Покажите, что существует положительная константа 5, такая, что если Р есть
выпуклый фундаментальный многоугольник для некоторой неэлементарной фуксовой
группы G,TO Р с\ N содержит круг радиуса по меньшей мере б. Получите явную
оценку для б.
3. Пусть Р - гиперболический четырехугольник в Я^ с вершинами -1, О, 1, «.
Покажите, что Р есть фундаментальная область для группы G, порожденной
посредством
^(z)=z + 2, /2(z) = z/B7 + l).
Найдите сигнатуру G и проверьте справедливость формулы для площади H^/G (для
данного случая). Найдите индекс G как подгруппы модулярной группы (данный
пример есть частный случай леммы Сельберга).
§ 10.5. Число сторон
фундаментального многоугольника
В настоящем параграфе мы ограничимся рассмотрением конечно
порожденных групп G первого рода. В этом случае последний параметр в
сигнатуре A0.4.1) можно опустить; условимся также рассматривать
параболические элементы как эллиптические порядка rrij = «>. Таким образом,
запись сигнатуры можно сократить до (^ I ^i, ..., ^п ) или, если G не имеет
эллиптических и параболических элементов, до (^ | 0) .
245

Теорема 10.5.1. Пусть G - конечно порожденная фуксова группа
первого рода и Р ~ выпуклый фундаментальный многоугольник для G,
Пусть N - число сторон многоугольника Р {причем ни одна из сторон не
спаривается сама с собой). Тогда:
(i) Если G имеет сигнатуру (gl^i, ..., т^) {допускается случай
п-0) ,то
7V<12^ + 4«-6.
Указанная верхняя граница достигается на области Дирихле с центром w
при почти всех w.
(ii) Если О имеет сигнатуру (^ I 0), то N> 4g, причем равенство
достигается для некоторого Р.
(iii) Если G имеет сигнатуру (g I mi,... , m„), да > О, то
N>Ag + 2n-l,
причем равенство достигается для некоторого Р.
Доказательство. Допустим, что Р имеет эллиптические или
параболические циклы Ci, ..., С„ и простые циклы С„ +1,..., С„ +^; те или
другие (но не одновременно) могут отсутствовать. Как и ранее, через
I СI будем обозначать число точек в цикле С.
Имеем
IC/I > 1, если
\Cf\> 3, если
и
п+А
N= 2 iqi.
l<j<n;
п <j<n л-А,
/ = 1
Таким образом,
0<Л<(Л^-Д2)/3.
Формула Эййера дает
2 - 2g = 1 - GV/2) + Д2 + Л, A0.5.1)
после чего неравенства (i) и (iii) получаются исключением Л. Неравенство
(ii) получается из A0.5.1), если положить да = О и учесть, что при да = О
имеем А> \.
Многоугольник Р имеет N сторон, а значит, и N вершин. Для области
Дирихле с центром w при почти всех w имеем \Cj-\ =1 для 1 </ <Д2 и
I Су I =3 для / > п. Отсюда
3A^N-n,
что дает неравенство (i). Доказательство теоремы 10.4.2 (достаточность)
показывает, что нижняя граница 4g в (ii) достижима. Наконец, с помощью
рассуждений, сходных с теми, что использованы в том же доказательстве,
можно показать, что нижняя граница в (iii) также достижима: строится
указанным способом многоугольник с сигнатурой (^ I ^i, ..., m„_i) и
Затем находится такое значение J, при котором ^(d) = 27г/ди„. П
246

в следующем параграфе мы будем изучать группы треугольника. Это —
группы с сигнатурами вида (О | р, q, г), где обязательно
1 1 1
- + — + — <1.
р q г
ч
Заметим, что в этом случае многоугольник Дирихле с центром w имеет при
почти любом W шесть сторон. Некоторые особым образом выбранные
фундаментальные многоугольники для таких групп являются
четырехугольниками; но это, в определенном смысле, - исключительные случаи.
§ 10.6. Группы треугольника
Этот параграф посвящен важному классу фуксовых групп, известному
как класс групп треугольника. Вообще говоря, существуют дискретные
группы с более тесной упаковкой орбит и меньшими фундаментальными
областями. Мы начинаем с геометрического определения,
безотносительного к дискретности.
Определение 10.6.1. Группа G изометрий гиперболической
плоскости назьгоается группой типа (а, j3, 7), если G порождается
отражениями относительно сторон некоторого треугольника с углами а, /3,7.
Разумеется, такие группы существуют только в случае, когда а, /3, 7
неотрицательны и
0<а + /3 + 7<7г.
Любые две такие группы одного и того же типа сопряжены в группе всех
изометрий (поскольку два треугольника с одними и теми же углами
конгруэнтны), причем порядок чисел а, /3, 7 в тройке (а, /3, 7) не имеет
значения.
Следующий пример показьгоает, что одна и та же группа может иметь
более чем один тип.
Пример 10.6.2. Пуст! Ti иТг - два треугольника, изображенные на
рис. 10.6.1. Соответствующие группы суть
Gi « <ai,a2,T?>
- типа @,7г/2,7г/3) и
^2 =< ^1,^2,7)
- типа (О, О, 27г/3), где т?, ai, г - отражения относительно прямых дс = О,
X = 1/2, X = 1 соответственно и 02 - отражение в \z \ =1.
Очевидно,
VOi =air,
так что Г] Е G2, а г Е Gi; следовательно,
Gi = G2. На самом деле подгруппа
собственных изометрий в Gi есть модулярная
группа, поэтому Gi дискретна.
Заметим, что
h-площадь (Тг)-! ' h-площадь (Ji),
Рис. 10.6.1
2А7

откуда видно, что 7*2 не является фундаментальным многоугольником
для Сг. □
Любая группа G типа (а, /3, i) имеет подгруппу Gq индекса 2, а именно,
подгруппу всех собственных изометрий из G; мы называем Go собственной
группой типа (а, /3,7). Если Ох.Ог, Оъ обозначают отражения, порождающие
G, то элементы Gq будут словами четной длины, составленными из а/,
и Go порождается, скажем, 0\02 и аз0^2, поскольку
OiOj^{OjOiy\ ОхОъ ^{охОгМргОгУ^
Пусть 7 - угол треугольника при вершине из, которая противолежит
стороне, неподвижной относительно аз. Тогда aia2 фиксирует и3 и
является параболическим элементом, если 7 = О и эллиптическим с углом
поворота 27, если 7 > 0. Таким образом, Gq порождается паройyjg собственных
изометрий, каждая из которых параболическая или эллиптическая. Удобно
рассматривать параболические элементы как эллиптические бесконечного
порядка; мы будем часто пользоваться таким соглашением в дальнейшем.
Если группа G типа (а, /3, 7) (или соответствующая собственная
группа Go) дискретна, то каждый эллиптический элемент в Go имеет конечный
порядок. Следовательно, если а, /3 и 7 положительны, то каждое из этих
чисел обязательно имеет вид
кф. (^,Р) = 1, A0-6.1)
с взаимно простыми целыми /: и р. Это - необходимое условие
дискретности; однако оно не является достаточным. В самом деле, легко видеть,
что если а, /3 и 7 положительны, то образы треугольника Г относительно G
покрывают гиперболическую плоскость. Поэтому, если G дискретна, то две
симметричные копии Т должны составлять фундаментальную область
для Go, а, значит, согласно теореме 10.4.5,
Н'площадь {Т)>TilM.
Отсюда следует, что если а, /3 и 7 — числа вида A0.6.1), но с условием
7Г - (а + /3 + 7) < 7Г/42
(а такие углы, очевидно, существуют), то Go не дискретна.
Достаточное условие дискретности состоит в том, что а, ^ и 7 суть числа
вида
тг/р, 2<р<оо, A0.6.2)
при некоторых целых р. Действительно, в этом случае непосредственное
применение теоремы Пуанкаре показывает, что G дискретна. Однако
указанное достаточное условие не является необходимым: например,
группа G2 типа (О, 0,27г/3) из примера 10.6.2 дискретна.
Бросающееся в глаза расхождение между A0.6.1) и A0.6.2) легко
объяснимо. Группа типа (а, /3, 7) дискретна в том и только в том случае,
если она же имеет некоторый, возможно, отличный от (а,/3,7) тип
(тг/р, -njq, п/г) (например, группа G2 из примера 10.6.2 имеет также тип
(О, я/2,7г/3)). Этот результат будет доказан позднее в настоящем параграфе.
Мы сосредоточим внимание на дискретных собственных группах.
Примем следующую стандартную терминологию.
248

Определение 10.6.3. Группа G есть группа (р, qj )-треугольника,
если соответствующая собственная группа Go имеет тип (тг/р, -nlq, тг/г)]
группа G есть группа треугольника, если она является группой (/?, tjf,
г)-треугольника при некоторых целых р, q, г.
Учитывая замечания, относившиеся к A0.6.2), можно утверждать, что
группа треугольника всегда дискретна. Докажем теперь два результата
относительно групп треугольника.
Теорема 10.6.4. Группа G тогда и только тогда есть группа
(Р* Я, гУтреугольника, когда она дискретна, первого рода и имеет
сигнатуру @\p,q,r).
Теорема 10.6.5. Пусть О - дискретная группа собственных изомет-
рий гиперболической плоскости. Если О содержит группу Gq треугольника
в качестве подгруппы, то G сама является группой треугольника.
Доказательство теоремы 10.6.4. Предположим сначала,
что G есть группа (р, q, г)-треугольника. Тогда G есть подгруппа
(индекса 2) всех собственных изометрий дискретной группы G*, порожденной
отражениями Oi, аа, Оз относительно сторон треугольника Г* с углами
^/Р» ^/^> W'"- Из теоремы Пуанкаре следует, что Т* есть фундаментальная
область для G * и тем самым
T^T*Uoi(T*)
есть фундаментальная область для G. Очевидно, что группа G первого рода.
Изометрий
^ = 0102, h = 0i03,
порождают G и
(рис. 10.6.2). Образы окрестности из в Г под действием степеней^ замощают
окрестность из в плоскости и, значит (поскольку Т есть фундаментальная
область), ни одна из точек иi и Ьг не является образом из- Это показывает,
что g не сопряжен ни с какой степенью h или h'^g. По соображениям
симметрии G имеет тогда три эллиптических или параболических сопряженных
класса — ими являются классы, представленные подгруппами <g), (Л),
(h-'g).
Рис. 10.6.2
Рис. 10.6.3
249

Род к поверхности Л/G находится из формулы Эйлера, а именно, 2-2к-
= (число граней) - (число ребер) + (число вершин) = 1-2 + 3; таким
образом, G имеет сигнатуру (О|р, q, г). Другой способ показать, что А: = О,
состоит в применении формулы для площади Т.
Допустим теперь, что G - дискретная группа собственных изометрий
с сигнатурой @|р, q,r). Пусть D — выпуклый фундаментальный
многоугольник для G, а TVp, Nq,Nf, - длины циклов, отвечающих сопряженным
классам, ассоциированным с р, q, г. Предположим также, что имеются
t простых циклов с длинами, скажем Mj, ..., Л/^, где Л// > 3. Заметим,
что так как группа G первого рода, Z) не имеет свободных сторон.
Выберем любую точку w G D и соединим ее с каждой вершиной Д
Суммируя площади, получим
27Г
= Л-площадь (Д) =
\р q rl\
= [Np ^Nq +7V^+^/x +...+Л/^]7Г-27Г-2 7ГГ- 27Г - + - + ~),
\p q r I
откуда имеем
l=(^p-l) + (A^cz-l) + (A^r-l)+ 2;(Л/у-2).
/= 1
Так как каждый из Г + 3 членов правой части является целым
неотрицательным числом, возможны только два случая, а именно:
Случай l:7Vp=7V^=7V^=l;r= 1,Л/1 =3.
Случай 2: Np.Ng^Nr суть (в некотором порядке) 1, 1, 2 и не
существует простых циклов.
В случае 2 многоугольник D имеет четыре вершины, т.е. является
четырехугольником. Полагая Ng - Nj, = \, находим, что Z)имеет вид,
изображенный на рис. 10.6.3.
Цикл^ соответствующий Nq(= 1), есть ( Ui) , следовательно, две
стороны, оканчивающиеся в у i, спариваются; отсюда
Р (Ul, 1^4) = Р A^1,1^2)
и, значит, ^1 = ^2. Аналогично, ai = «2. Следовательно,
ai +pi =«2 +fe = - («1 +0^2 +^1 +^2)=7г/р.
Из свойств равнобедренных треугольников можно заключить, что отрезок
[vi, из] является осью симметрии четырехугольника D, так что в этом
случае О есть собственная группа треугольника, ассоциированная с
группой, порожденной отражениями относительно сторон треугольника с
вершинами и 1,^2, t^a.
В случае 1 многоугольник D является шестиугольником с
эллиптическими (или параболическими) вершинами Ui, 1^2, ^з и единственным
простым циклом { ^ь ^2» ^3 } • Спаривание должно быть таким, как указано на
рис. 10.6.4. На том же рисунке мы видим разбиение Дна части Q, Тх и Г2.
Так как
h (a2) = gf(a2).
250

то ясно, что h - gf (следует учесть, что а^ не является ни эллиптической,
ни параболической неподвижной точкой). Теперь легко видеть, что
Q Uh (Ti) 'Jg (Т2) есть фундаментальный четырехугольник с вершинами
vi,V2yViyh (V2) (=g (U2)), благодаря чему случай 1 сводится к
случаю 2.П
Заметим, что приведенное доказательство показывает, что выпуклый
фундаментальный многоугольник для группы треугольника есть
обязательно четырехугольник или шестиугольник\ читатель может теперь убедиться
в справедливости замечания, сделанного в конце § 10.5.
Доказательство теоремы 10.6.5. Учитывая теорему 10.6.4,
мы можем теперь работать исключительно с сигнатурами G и Gq. Так как
О <Л-площадь (A/G) < Л-площадь (A/Gq) < 27г,
то Go имеет некоторый конечный индекс к в G (теорема 9.1.3). Случай
к = 1 тривиален, поэтому можем считать к> 2.В этом случае
Л-площадь (A/Go) =" ^ * Л-площадь (A/G) > 2 • Л-площадь (A/G). A0.6.3)
.Согласно теореме 10.6.4 Go имеет некоторую сигнатуру (ОГр, q, г).
Пусть G имеет сигнатуру fe Ui, - - • Jrd\ тогда по формуле для площади
(следствие 10.4.4)
'-(?%*г)-4^-^%?.('4)]-
Левая часть не превосходит 1, поэтому ^ = О или 1. Если ^ = 1, то да > 1 (в
противном случае площадь равна нулю) и, поскольку Г/ > 2 и /: > 2, имеем
пк п / 1 \ /11 1 \
К —<А: 2 1 <1-~+- + - <1.
2 /=1\ Гу/ \р q г/
Отсюда видно, что все написанные неравенства являются на самом деле
Рис. 10.6.4
Рис. 10.6.5
251

равенствами, а поэтому р = ^ = г = «э, т.е. Gq содержит параболические
элементы; между тем в G таких элементов нет (ибо Г i =...= г„ = 2).
Таким образом, случай g = 1 невозможен.
Остается принять ^ = О и (ввиду положительности площади) п > 3.
Это дает
{г-Н^ИИ-МгИ)
<1.
Так как к> 2, получаем да < 5. Если п = 5,ток = 2и снова имеем сквозное
равенство; этот случай исключается как прежде. Таким образом, да = 3
или 4. Если Д2 = 3, то G имеет сигнатуру (OUi, Гг, Гз) и, значит, является
группой треугольника. Остается, следовательно, исключить случай g = О,
Д2=4.
Допустим, что ^ = О и Д2 = 4. Мы можем считать, что г <^ <р и р < Г4
(поскольку Go содержит элемент порядка р, то это же самое верно и для
G). Тогда
>
>1.
2 \ р/ i р
Это может быть лишь в случае /?=«»; тогда равенство снова получается
сквозным, откуда следует, что /: = 2 и сигнатуры GqhG суть
@1 00,00,00), (Ot2,2,2,oo)
соответственно. Это противоречит теореме 10.3.4. П
Обратимся, наконец, к собственным группам произвольного типа (а,
^, 7). Мы отмечали ранее, что эти группы порождаются эллиптическими или
параболическими элементами g и h, спаривающими стороны
четырехугольника с осью симметрии (рис. 10.6.5). Обратно, если дан такой
четырехугольник, то ясно, что {g,h) есть собственная группа типа (а, /3, 7).
Заметим, что отражение относительно (uj, 1^3) переставляет V2 и 1^4, так что
A^2,1^4) отрогонально ipi^v-i).
Теорема 10.6.6. Собственная группа некоторого типа (а, /3, 7)
дискретна в том и только в том случае, когда она является группой
треугольника.
Доказательство. По определению группа треугольника есть
дискретная собственная группа некоторого типа (а, ^, 7) • Допустим теперь, что
G есть дискретная собственная группа некоторого типа (а, /3, 7); согласно
теореме 10.6.5 достаточно построить группу треугольника, являющуюся
подгруппой группы G. Соотносясь с рис. 10.6.5, рассмотрим три
возможных случая.
Случай 1: Оба элемента g и h - эллиптические.
Так как G дискретна, элемент g имеет конечный порядок р, а элемент
h - конечный порядок q. Следовательно, существует вращение^! Gig) с
углом поворота 27г/р и вращение hi Е < /2) с углом поворота 2nlq. Выберем
теперь в G элементы g2 и /22, сопряженные gi nhi и такие, что их непод-
вижйые точки м (для ^2) и и (для Л г) различны, но отстоят друг от друга
252

на возможно меньшем расстоянии; это можно сделать, поскольку образы
из не могут как угодно близко подходить к Ui.
Теперь построим четырехугольник, изображенный на рис. 10.6.6,
проведя геодезические под углами тг/р и тт/д к [и, v]. Эти геодезические должны
пересечься в некоторых точках х иу (возможно, на бесконечно удаленной
X
Рис. 10.6.6
окружности), так как в противном случае (согласно § 7.10)
1 + cos (тг/р) cos (тг/^)
ch р (м, и) >
sin {7Г/Р) sin {^ir/q)
os'v cos б + cos ft cos *>
= chp(i;i,U3),
sin (tt/p) sin (tt/q)
1 +cosacos'7 cos/3 +cos a cos 7
sin a sin 7 sin a sin у
что противоречит выбору и и v. Как уже отмечалось (Хуу) и (w, и)
ортогональны.
Воспользуемся далее тем, что элемент
/=(Я2)-^Л2,
фиксирующий точку X, есть отражение а^^, v (относительно [jc, и] ),
выполненное вслед за а^^, и'> или, что то же,
Если X принадлежит бесконечно удаленной окружности, то элемейт /
параболический, а (^2, ^г) есть группа (р, q, «»)-треугольника. Если же jc -
конечная точка, то / — эллиптический элемент конечного порядка,
следовательно, угол при вершине х имеет величину кп/г, где (к, г) = 1 (и/есть
вращение на Ink/г). В этом случае существует принадлежащее G вращение
/2 вокруг X на угол In/r против часовой стрелки. Если к > 3, то точка
f2(v) -более близкая к и (чем сама и), но отличная от м, вопреки нашему
выбору и и V. Следовательно, к - I или /: = 2. Если к = 1, то угол прих
равен TTJr ,2L{g2ih2) есть группа (р, ^,г)-треугольника. Если /: = 2, то
И, значит, </22>/2) есть группа B, ^, г)-треугольника с вершинами jc, и, w.
Этим исчерпывается доказательство в случае 1.
253

Рис. 10.6.7
Рис. 10.6.8
Случай 2: g - эллиптический, ah - параболический.
Будем действовать в f/^ и предположим, что h фиксирует «>. Прямая,
соединяющая фиксированные точки для g и h, есть обязательно ось
симметрии четырехугольника, так что ситуация выглядит, как изображенная на
рис. 10.6.7.
Орбита точки 1^1 содержит точки с максимальной высотой (это вытекает
из неравенства Йоргенсена для случая, когда h — Параболический элемент,
фиксирующий «>). Симметричная конструкция, подобная той, что
изображена на рис. 10.6.7, может быть построена с заменой точки Vi ее образом
максимальной высоты и вращения g вращением на угол In/p вокруг этого
образа (р - порядок g). Поскольку первоначальный угол при i^i не меньше
27г//7, новая конструкция дает четырехугольник (в точности так же, как
на рис. 10.6.7); однако теперь можем считать, что Vi имеет максимальную
высоту (среди точек своей орбиты) и что угол при и i равен In/p.
Если в = О, то ( g, /2> есть группа (р, <», <»)-треугольника. Если ^> О,
то в' = kirlr для некоторых взаимно простыхкиг . Если при этом/:> 2, то
существует вращение f G G вокруг и 4 на угол 2я/г против часовой
стрелки. Но тогда/(и i) имеет большую мнимую часть, чем Vi . Поскольку это
невозможно, то /: = 1, и тогда { g, h) есть группа (р, г, <»)-треугольника,
лежащая в G.
Случай 3:g uh - параболические.
Действуя в Я^, можем считать, что g фиксирует О, а Л фиксирует <»;
ситуация изображена на рис. 10.6.8. Если ^ = О, то( g,h) есть группа
(оо^ оо^ оо)-треугольника. Если ^ > О, мы строим группу ( f,h), где
элемент/ = hg' ^ эллиптический; этим случай 3 сводится к случаю 2. П
Упражнение 10.6
1. Покажите, что если G есть фуксова группа, действующая в Д, причем h -площадь
(A/G) < irl3, то G является группой треугольника. Покажите, что граница я/3 не
может быть улучшена.
2. Покажите, что если О есть собственная дискретная группа некоторого типа
(ск, /?, 7), то она есть группа в точности одного типа (п/р, n/q, я/г).
3. Постройте фундаментальный четырехугольник для группы ГеккеЯ^ (q = 3, 4,...)
сигнатуры (О I 2, ^, «>^ и покажите, что Hq порождается параболическим g и
эллиптическим h порядка 2.
254

4. Пусть V ^, V ^,v ^,v ^ - четыре различные точки, следующие в указанном
порядке на
{1^1 = 1}.
Пусть ^ и.Л - параболические элементы, такие, что
. ^(yi)=Wi, giv2) = v^, Л(из) = иэ» Л(у^) = и2-
Покажите, что элемент g^ ^h является параболическим тогда и только тогда, когда
двойное отношение [v^, Уз» *^э» ^л] принимает некоторое специфическое значение.
Будет ли G = < g, h ) дискретной? В любом случае, четырехугольник не является
фундаментальной областью, если^" *Л - не параболический.
§ 10.7. Замечания
По поводу фундаментальных многоугольников с конечным числом
сторон см. [9, 10, 34, 35, 38, 46, 58, Л6]. Точки аппроксимации изучались
Хедландом (см. [51], с. 181); см. также [8, 109]. Результаты, относящиеся
к сопряженным классам и подгруппам, можно найти в [49, 97]. По поводу
групп треугольника см. [48 (об углах вида тта/Ь), 65].

ГЛАВА И
ОБЩИЕ ОГРАНИЧЕНИЯ НА ФУКСОВЫ ГРУППЫ
§11.1 Равномерность дискретности
В этой главе обсуждаются вопросы, касающиеся равномерного характера
дискретности фуксовых групп. Поскольку равномерность явно не присуща
элементарным группам, последние должны рассматриваться как
исключительные. Группы треугольника тоже являются, в определенных
отношениях, исключительными. Как правило, точное количественное выражение
равномерности принимает особый вид, зависящий от сигнатуры, для
группы треугольника и другой, единый вид, не зависящий от сигнатуры, для всех
неэлементарных и не являющихся группами треугольника дискретных
групп. Таким образом, рассматривая равномерность как нечто заложенное
в природе дискретности, мы должны отнестись к группам треугольника как
к исключительному случаю.
Мы будем обсуждать следующие аспекты равномерности.
A) Распределение циклов вершин фундаментального многоугольника.
Каковы геометрические ограничения для циклов вершин? Можно ли
сказать что-то интересное о простых циклах?
B) Ограничения геометрического характера на выбор изометрий.
Например, как близко могут находиться друг от друга неподвижные точки
двух эллиптических элементов в дискретной группе? Какие
ограничения имеют место для величин сдвига гиперболических
элементов?
C) Расположение канонических областей. Канонические области были
определены в § 7.37. Определение не зависело от дискретности. Что можно
сказать при наличии дискретности и что значат эти области для фактор-
пространства?
D) Функция смещения p(z, gz). Вопрос о ней обсуждался ранее (см.,
например, теорему 8.3.1); что можно сказать при наличии эллиптических
элементов?
E) Ограничения на соответствующие матричные группы. Типичным
примером служит неравенство Йоргенсена.
Представленные ниже результаты не исчерпывают вопроса о
равномерности дискретности. Однако они указывают, какого типа результатов -
с геометрической точки зрения ~ можно ожидать, а также устанавливают
связь с более ранними результатами этого типа.
В общих чертах наша установка заключается в применении простых
геометрических идей к получению универсальных ограничений; эти методы
могут не иметь успеха для некоторых, как правило, относительно немногих
групп треугольника. Для этих последних читателю предлагается
восполнить пробел с помощью вычислений применительно к данным
группам.
256

§ 11.2. Универсальные ограничения на циклы вершин
Мы установим некоторые универсальные ограничения, которым должны
подчиняться циклы эллиптических или даже простых вершин на границе
фундаментального многоугольника фуксовой группы.
Рассмотрим сначала фуксову группу G, действующую в ¥^ и
содержащую отображение g(z) = z + 1, причем будем считать, что это
отображение порождает стабилизатор для «>. В этом случае можно построить
фундаментальную область как в § 9.6; последняя будет представлять собой
множество, лежащее вне всех изометрических окружностей, а также
внутри полосы ширины 1. Заметим, что в этом случае любой цикл вершин
лежит на некотором орицикле Im [z] = const.
Выбрав вертикальную полосу Хо < х < дго + 1 подходящим образом,
можно считать, что цикл вершин состоит из точек wj (j = 1, ...,«+ 1),
где wy = му+fu и
Хо =Wi <U2<. , .<Un + I =Xo +1.
Теперь построим треугольники 7} с углами Of как указано на рис. 11.2.1.
Замечая, что все Ту лежат в фундаментальной области (ввиду
выпуклости последней) и рассматривая угловую сумму для цикла (wy), будем иметь
2 Of<n/q, A1.2.1)
где q - порядок цикла (wf) (в случае простого цикла ^ = 1). Из
рассмотрения евклидовой проекции Tf на ось х, очевидно, имеем
2 yctg^y=l/2.
/
Используя A1.2.1), затем неравенство Йенсена (точнее, A.2.2)), получаем
ctg(n/qn)<ctg(n-^ I,ef)<Xn'^ ctg Of ==\l2vn.
/ /
Это дает следующий результат.
Теорема 11.2.1. Пустьg: z ^z + 1 порождает стабилизатор оо в
фуксовой группе G, действующей в Н'^, и пусть Wi, . . . , w^ - те из вершин в
цикле порядка q, которые лежат в некоторой полосе Хо < х < Хо + 1.
Тогда
Im [wf] < \/2п tgin/qn).
В случае простого цикла q = I и п> 3;
для этого случая получаем следующий
результат.
Следствие 11.2.2. Если (wy) в
теореме 11.2.1 есть простой цикл, то
Im [wf] < — tgGr/3) = 1/2у/Т
6
или, в инвариантной форме^
1 _
sh— P(wf,gwf)>\/J.
2
17. А. Бердон

Следствие 11.2.3. Если (wy ) в теореме 11.2.1 есть эллиптический
цикл порядка q(q> 3), то
1
Im [wf] <— tg(n/q)
или, что эквивалентно,
Sh p(Wj, gWj) > 1/tgGr/^).
2
В § 11.3 мы увидим, что граница, указанная в следствии 11.2.3,
является лучшей из возможных.
Можно также получить неравенства для простых вершин на границе
многоугольника Дирихле.
Теорема 11.2.4. Пусть G - неэлементарная фуксова группа и Uj, ...
..., Vn - простой цикл на границе многоугольника Дирихле с центром w.
(i) Если n>S,TO ch p(w,' Vj) > 1 /tg^(^да) > 1,89 .. .
(ii) Если n-4, TO chp(w, Vf) не меньше, чем некоторая абсолютная
постоянная д ( > 1).
(in) Не существует универсальной нижней границы в случае п = 3.
В случае, когда G не содержит эллиптических элементов, существует
универсальная нижняя граница, не зависящая от п.
Теорема 11.2.5. Пусть G - неэлементарная фуксова группа без
эллиптических элементов. Если (Vf) есть простой цикл вершин на границе
многоугольника Дирихле с центром w, то
chp (w, Vj) > \fT.
Доказательство теоремы 11.2.5. Цикл (u/) лежит на
Некоторой окружности С, скажем { z | р (z, w) = г }, с центром w и содержит по
крайней мере три вершины:
Пусть Go- группа, порожденная g и h. Если Gq - элементарная, то она
является циклической с параболической или гиперболической
образующей /. В том и другом случаях точки у i, у 2 > ^ з не могут лежать на одной
окружности; следовательно. Go не элементарна. По теореме 8.3.1
sh-p(vi,gvi)sh-p(vi,hvi) > 1.
Примем теперь во внимание, что
P(vi. gvi) = p(vi ,V2)< p(vi, w)+p(w, U2) = 2r;
аналогично для h. Отсюда вытекает shr > 1, что и требовалось получить. П
Доказательство теоремы 11.2.4. Можно считать, что G
действует в А и что W = О (учитывая инвариантность относительно
сопряжения) . Тогда точки Vj лежат на некоторой окружности p(z ,0) = г ; будем
считать нумерацию Vf циклической. Дуги (i^/,i^/+i) (не содержащие
концов) стягивают углы 2 а/ с вершиной в начале и
/
258

Так как цикл имеет длину > 3, существует не более одного /, для
которого 2 а/ > 7г. Для остальных а,- имеем 2а; < я; в этом случае
треугольник 7} с вершинами О, u/, u/ +i и углами 2а; , В^, ^/ лежит в
многоугольнике Дирихле, и так как угловая сумма Щ1кла равна 27г, имеем
S^/ < 7Г.
/
На основании § 7.12 (рассматриваем половину 7))
chrtg^/tgay = 1
(рис. 11.2.2).
Возможны два случая: или каждое ау меньше я/2, и тогда
/I
S (^/+ау) < 2я,
/ = 1
или ровно одно а/, скажем а„, больше или равно я/2, и тогда
/I - 1
S (^/+а/) < 2я-а„ < Зя/2.
/= 1
В обоих случаях некоторое В и. + ol^^ не превосходит среднего значения,
которое (ввиду п> 5) не превосходит 2тт/п. Для этого /: имеем
tgof/fe tg^/t < tg
(^).
Этим доказано (i); заметим, что наше рассуждение не дает информации
в случаях п- 3 и п= 4.
Случай л - 4 более сложен, и доказательство (ii) мы отложим
до § 11.6.
Чтобы доказать (iii), построим многоугольник Р, изображенный на
рис. 11.2.3. Многоугольн^1к имеет четыре пары сторон со спаривающими
элементами g, h (каждый порядка 2), hg (гиперболический) и
/(параболический). По теореме Пуанкаре Р есть фундаментальная область для
неэлементарной фуксовой группы, порожденной f,g и h.
Указанное построение возможно лишь в случае В < я/6, и тогда
ch t sin (я/3) = cos ^, 2r = p(ui, 1^2);
p{z,0)^r
Рис. 11.2.3
17*
259

при / -> + 0 имеем в -> я/6 снизу. Заметим, что все и, отстоят на
одинаковом расстоянии от W и что
chp(w, l^l)tg(я/3)tg(9 = 1.
Следовательно, при в -^я/6 имеем p(w, Vi) ->0.
Остается проверить, что Р есть в точности многоугольник Дирихле D(w)
с центром W для (f, g, h ). Стороны, спариваемые с помощью /,
перпендикулярны биссекторам отрезков [w,/w] и [w,/"^w]; аналогичное
утверждение справедливо для hg. Далее, две стороны, образующие ребро
[у 1, U 2 ], лежат на биссекторе отрезка [ w, ^ w ]; аналогичное утверждение
верно для [и 1, Уз]- Таким образом,Р содержит многоугольник Дирихле
£)( w) ; а поскольку Р есть фундаментальная область, отсюда следует, что Р
совпадает с /)( w). П
Пример 11.2.6. Задавшись любым целым к, к> 2, мы можем
построить фуксову группу G, действующую в А, которая имеет в качестве
фундаментальной области правильный многоугольник с 4/: сторонами,
причем все вершины образуют!один простой цикл (см. § 10.4) .Согласуясь
с доказательством теоремы 11.2.4 (i), находим теперь ау = Sj = я/4/:; так
что в этом случае в (i) достигается равенство. Мы видим, что по крайней
мере для п вида 4к оценка, даваемая в (i), является лучшей из возможных.
Наконец, рассмотрим неограниченный фундаментальный многоугольник
(хотя идея следующего доказательства очевидным образом
распространяется и на другие ситуации).
Теорема 11.2.7. Пусть фундаментальный многоугольник D фуксо-
вой группы G содержит две точки Wi и W2 на бесконечно удаленной
окружности. Пусть, далее, L - геодезическая, соединяющая Wi w W2. Если v
есть эллиптическая неподвижная точка порядка п, лежащая на
границе D, то
chp(y, L) > llsm{n/n) > 2/>/Т.
Доказательство. Треугольник с вершинами Wi, W2 nv лежит
в £), и, следовательно, внутренний угол этого треугольника при вершине v
не может превышать 2п/п, Это означает, что точка v не может быть
слишком близкой к L ; числовые детали предоставляются читателю. П
Из доказанной теоремы следует, что ни одна эллиптическая неподвижная
точка из ЪП не лежит в полосе между двумя гиперци^стами, образующими
угол я/6 с L .
Упражнение 11.2
1. Выведите неравенство, подобное (i) в теореме 11.2.4, которое было бы
справедливо для эллиптического цикла порядка q на границе многоугольника Дирихле,
2. Является ли граница в следствии 11.2.2 наилучшей из возможных?
3. Пусть D - выпуклый фундаментальный многоугольник для фуксовой группы G.
Покажите, что если существует такая точка w, что стороны D лежат на биссекторах
{z I p(z, w) = p(z,gw)}, g E: G то D есть многоугольник Дирихле с центром w.
4. Пусть D - выпуклый фундаментальный многоугольник для фуксовой
группы G, действующей в Д. Предположим, что D содержит геодезическую L . Докажите,
что если {и 1,...» U„}есть простой цикл на ЭД то
ch p(uj, L) + ... + ch р(и„, L) > n/sin (n/n) > n^/it.
260

Найдите сюответствующее неравенство, когда vj образуют эллиптический цикл
порядка q.
5. В условиях рис. 11.2.3 покажите, чю f'^hg есть эллиптический элемент
(запишите / = а/3, hg = а 7, где а, j3, 7 суть отражения).
§ 11.3. Группы Гекке
В этом параграфе мы изучим класс групп Гекке, играющий
исключительную роль в дальнейших рассмотрениях.
Определение 11.3.1. Группой Гекке называется группа
треугольника, имеющая сигнатуру @ 12,^, ©о) при некотором целом ^,
удовлетворяющем условию 3 < tjf < оо.
Пусть
g{z) = — 1 /z, h{z) = z + 2 cos (n/q).
Группа { g,h) имеет сигнатуру @1 2, tjf, «>), a фундаментальная область
для {g,h) показана на рис. 11.3.1. Так как любые две группы
треугольника с одинаковыми сигнатурами сопряжены, мы видим, что любая группа
Гекке с сигнатурой (О | 2, ^, ©о) сопряжена с {g,h). Заметим, что hg есть
эллиптический элемент порядка q, оставляющий, неподаижной одну из
вершин треугольника.
Удобно ввести нормализацию параболической образующей h, превратив
ее в Z *-> Z + 1. Тогда g заменится
j(z) = ~l/4z cos^(^/tjf)
- эллиптическим элементом порядка 2, фиксирующим точку //2 cos{TT/q),
Заметим, что при такой нормализации неподвижная точка w порядка q
будет удовлетворять условию
\m[w] = -tg(TT/q)\
это показывает, что нижняя граница, указанная в следствии 11.2.3, является
наилучшей.
Следующие два результата помогают идентифицировать группы Гекке.
Предложение 11.3.2. Если фуксова группа G, содержащая
параболический элемент, имеет фундаментальную область с И-площадью,
меньшей я, то G имеет одну из сигнатур
@12, ^, «»), где 3 < q < оо^ или
(О I 3, q, ьо), где ^=3,4, или 5,
Доказательство. Так как
фундаментальная область имеет по
условию конечную Ш10щадь,тоС имеет
сигнатуру вида (/:|mi,.. .,т„, «) (включение «»
объясняется наличием в G параболических
элементов). На основании § 10.4 можем
записать
2я[2А:-2+ S (l~~)+4<^
- zmn/q)
A1.3.1)
Рис. 11.3.1
со$GГ/д)
261

и, следовательно (поскольку nij > 2),
4А: + Д2 < 3.
Отсюда А: = О и (ввиду положительности площади) п - 2. С учетом этой
информации из A1.3.1) следует
1_
Пх
1 .. 1
• + > -X
Шг 2
и, значит, т\п{тх, т^} <3. Это и дает требуемый результат. П
Теорема И.3.3. Если фуксова группа О содержит группу Гекке Gq,
то G = Go.
Доказательство. Будем считать, что G действует в Я^. Если Go
имеет индекс Л: в G, то
А:/2-Ш1ощадь(Я7С)=72-ш10щадь (H^/Gq) . A1.3.2)
По условию Go имеет сигнатуру вида (О | 2, /?, «>), а значит, G имеет одну
из сигнатур, указанных в предложении 11.3.2.
Если к>2,то
/2-ГО10щадь (H^/G) < я/2,
следовательно, G есть тоже группа Гекке с сигнатурой @| 2, р, с») (см.
доказательство предложения 11.3.2). Это противоречит A1.3.2). Таким
образом, к- 1 и G = Go.
Можно рассуждать и по-другому. Вспомним, что эллиптические
неподвижные точки порядка q в вершинах треугольника на рис. 11.3.1 имеют
наибольшую возможную мнимую часть для всех групп, содержащих Go.
В частности, образы этих точек под действием элементов из G не могут
иметь большей мнимой части; следовательно, эти неподвижные точки
должны лежать на границе соответствующей фундаментальной области D
для G (построенной как в § 9.6). Из выпуклости следует тогда, что D
содержит,указанный выше треугольник; и так как G Э Go, то Z) должна
совпадать с этим треугольником. Таким образом, G = Go. □
Упражнение 11.3
1. Для ситуации, указанной на рис. 11.3.1, покажите, что hg есть композиция
отражений в двух сторонах с общей вершиной w и, следовательно, вращение вокруг w
на угол lir/q.
2. Покажите, что если группа G содержит параболические элементы и
Л-площадь (H^/G) < 2ir/3,To G есть группа Гекке.
§ 11.4. Неравенства для следа
Наша цель - получить алгебраические неравенства, которым должны
удовлетворять два элемента для того, чтобы они порождали
неэлементарную дискретную группу.
Теорема 11.4.1. Пусть два параболических элемента g и h
порождают неэлементарную фуксову группу G. Тогда имеются лишь следующие
возможности:
A) trace [^, Л] > 18;
262

B) trace [^, Л] = 2-^ \ 6 cos^ (rr/г) и G имеет сигнатуру (О \2, г, oo)\
C) trace[^,/2] = 2 + 16 со8'*(я/2г) w G имеет сигнатуру (О\r, 00^00),
Доказательство. Используя возможность сопряжения, можно
считать, что G действует в Я^ и
h(z) = 2 + 1, ^(z) = z/(cz + l).
Перейдя, если нужно, от ^ к ^"\ можно считать с > 0. Так как
trace [^,/2] = trace [ Л, ^] = 2+с^, A1.4.1)
то указанные три возможности эквивалентны следующим:
A) с > 4;
B) с = 2 +2со5Bя/г);
C) с = 2+2со5(я/г)
соответственно. В силу неравенства Йоргенсена имеем с > 1. Если
предположить, что A) не выполняется, то получим 1 < с < 4. Построим тогда
четырехугольник, ограниченный изометрическими окружностями для g
и g'^, а также линиями дс = 1/2 и д: = — 1/2 (рис. 11.4.1); заметим, что
в силу условия 1 <с < 4 точка w существует.
Рассмотрев отражения относительно д: = О, д: = 1/2 и | cz - 11 = 1,
найдем, что hg"^ есть вращение на угол 2в вокруг w. Следовательно, для
некоторых к и г (которые мы можем считать взаимно простыми) имеем
в = ктт/г, с = 2+ 2C0S (/:я/г).
Если к- I или г = оо, то, применив теорему Пуанкаре, получим, что
указанный на рис. 11.4.1 четырехугольник является фундаментальной областью
для G, и, таким образом, G имеет сигнатуру (О | г, <»,«>). Это дает
случай C).
Если к> 2 и г конечно, то существует f ^ G, являющееся вращением
вокруг W на угол 2я/г. Построим четырехугольник, указанный на
рис. 11.4.2. Заметим, что поскольку /с > 2, то -nlr = ^//: <^/2, и из
соображений элементарной тригонометрии ^ > я/2.
Образы под действием {h, f) (т.е. под действием G)
четырехугольника с углами О, <^, <^, 2я/г покрывают всю гиперболическую плоскость,
Рис. 11.4.2
263

поскольку любая кривая, выходящая из w, покрывается образами
четырехугольника на малом, но фиксированном расстоянии по дуге;
следовательно, G имеет фундаментальную область с площадью, не превосходящей
я - Bя/г ) . Из предложения 11.3.2 в этом случае следует, что О есть
группа треугольника с сигнатурой вида (О | ri,s, «»), где г делит rj. Отсюда
2;r^l-_-_-j< 2;г-2^-— < Я-- < я - —.
Это показывает, что s = 2; значит, имеем сквозное равенство, а тогда
^р = я/2. Отсюда в свою очередь следует в = 2я/г . Итак, к=2,г = г i, и мы
имеем случай B). П
Теорема 11.4.2. Пусть параболический элемент h вместе с
некоторым g порождают неэлементарную фуксову группу. Тогда:
A) trace [g.h]> 3',
B) если 3 <tT2Lce[g,h] <6,го G имеет сигнатуру @\2,q, ©о) и
trace [g^h] = 4 + 2 cos (Irr/q);
C) если trace [g,h]<\S,TO G содержит эллиптические элементы.
Доказательство. Будем считать, что G действует в Я ^ и
az -^ b
h(z) = z + 1, g(z) =——-,
cz +a
где fl(i - Z?c = 1 и с > 0. Принимая во внимание A1.4.1), мы видим, что A)
есть просто неравенство Йоргенсена. Чтобы доказать B), предположим,
что trace [g,h] < 6 или, что то же самое, с < 2. Мы знаем, что G имеет
фундаментальную область, лежащую вне изометрической окружности для g
и внутри вертикальной полосы ширины 1 (рис. 11.4.3). Поскольку
указанная окружность имеет евклидов диаметр, больший 1, мы видим, что H^/G
имеет площадь, меньшую я, откуда следует, что G имеет одну из сигнатур,
даваемых предложением 11.3.2.
Запишем теперь, что g = О2О1, где Oi есть отражение относительно
окружности Li, определяемой уравнением kz + (i| = 1, а аг есть отражение
относительно вертикальной прямой L 2. Для любого целого п обозначим L з
прямую, получаемую из /.2 переносом на (евклидово) расстояние n/l.
(-d/c)-j
264
(-d/O-hj
Рис. 11.4.3
Рис. 11.4.4

Тогда
h'^g = @302)i020i) = O3O1 ,
откуда видно, что О3О1 G G.
Пусть, далее, L есть вертикальная геодезическая, ортогональная L i
(рис. 11.4.4). Выбрав такое п, при котором евклидово расстояние между
L и 1з минимально, мы видим, что Ьз пересекает Li в некоторой
точке W под некоторым углом ^. Следовательно, /г''^ фиксирует w и является
вращением вокруг w на угол 2^р. Если t есть евклидово расстояние между
L и 1з, то г < 1/4 и
cos<^ = сг < 1/2,
откуда ^р > я/3. Кроме того, ясно, что (^ < 7г/2.
Пусть р - порядок неподвижной точки w. Тогда (^ = ^^/р, где
(к, р) = 1; при этом
1/3 < к/р < 1/2. A1.4.2)
Согласно следствию 11.2.3 имеем
1в(я//7)>1т[н;] = 2A/сM11И^>'5ш(я/3)=>/Т/2, A1.4.3)
откуда следует, что /? = 2, 3 или 4. Но тогда из A1.4.2) следует р = 2, а,
значит, ^р = я/2, W = f и G содержит эллиптический элемент / порядка 2,
фиксирующий f.
Если G имеет сигнатуру (О | 3, q, 00), где tjf = 3, 4 или 5, то ^ = 4
(поскольку / G G). В этом случае w есть неподвижная точка порядка 4,
следовательно,
2Im[w] < 1в(я/4) = 1,
что противоречит первому равенству в A1.4.3). Таким образом, G должна
быть группой Гекке с сигнатурой вида (О | 2, ^, оо). Элементы И и /
порождают G и спаривают стороны треугольника, изображенного на
рис. 11.4.3 (причем / переставляет стороны [f, z 1] и [f, Z2]). Из
рассмотрения площадей имеем
я - 2я/^ < я - 2в,
так что в < тт/q, С другой стороны, минимальный угол поворота для
элементов из G есть 2я/^/, так что 26 > 27г/д, Это дает в = n/q и
с = 2со5(я/^/),
что эквивалентно B).
Если G не содержит эллиптических элементов, то с > 4 (см.
доказательство теоремы 8.3.1), откуда следует C) . П
Результаты, подобные доказанным выше, имеют место и для
эллиптических элементов (взамен параболических).
Теорема 11.4.3. Пусть g есть вращение на угол 27г/п {п> 3)
относительно некоторой точки в гиперболической плоскости, и пусть f и g
порождают неэлементарную фуксову группу. Тогда, не считая некоторых
265

групп треугольника (они перечисляются в доказательстве) :
A) trace [/,^] > 2+4cos2Gr/M) > 3;
B) Itrace^(^) - 4| + |trace[/,^] - 2 | > 4.
Замечание. Если f ng принадлежат дискретной группе, не
являющейся группой треугольника, то либо (/, g) элементарна, либо
выполняются A) и B); см. теорему 10.6.5.
ta=t
Рис. 11.4.5
Доказательство. Будем считать, что f и g действуют в А, причем
/ е^""^" О \ f а . F\
^ [ О е-'-/^' ^"[с а)'
где I а I ^ — I с 1^ = 1. В этом случае группа if, g) имеет фундаментальную
область, лежащую внутри области D, указанной на рис. 11.4.5; здесь D есть
область, лежащая вне изометрической окружности для ^ "^ и внутри
сектора с углом 2я/д2, симметрично расположенного по отношению к
изометрической окружности.
Упомянутые в теореме исключительные группы суть те, для которых
область D ограничена. В этом случае сигнатура (/:| ^i, ..., m^)
удовлетворяет условию
2л
2А:-2+ S A-A/т/))|<7г-2я/д2<я-2я/т^, A1.4.4)
/ = 1
где п (можно так считать) делит т^. Отсюда /: = О и 5 = 3. Более детальный
анализ A1.4.4) дает следующие исключительные случаи:
^1 =2 или (mi, ^2) = C,3), C,4), C,5).
Допустим теперь, что {f,g) отлична от этих исключительных групп.
Тогда область D неограничена; замечая, что изометрическая окружность
для /"^ является биссектором отрезка [О, /0], мы можем использовать
формулу угла параллельности и получить
сЬ~р@,/0Mт(я/д2) > 1,
или, что эквивалентно,
5Ш^(я/д2MЬ^*^р@,/0) > С05^(я/Д2).
266

Так как
Id = sh~p@,/0) > С1в(я/п),
то с помощью вычислений получаем A), а затем B). П
Упражнение 11.4
1. В связи с доказательством теоремы 11.4.1 проверьте, что предположение с > О
обеспечивает то направление дейстэия g, которое показано на рис. 11.4.1.
2. Пусть G порождается
A(z) = r*l, ^r(z) = -^.
Причем с > 4. Покажите, что G дискретна, и найдите ее сигнатуру.
Докажите, используя аналитические и геометрические соображения, что gh^^ есть
гиперболический элемент с величиной сдвига Г, где Г/2 есть гиперболическое
расстояние между д: = 1/2 и изометрической окружностью для g.
3. Пусть G - фуксова группа, действующая в Я^ и содержащая
/2B) = z + l, giz)^- (с =jfeO, дс/ - be = 1).
cz -^d
Докажите, что Л-площадь {H^lG) > п/3.
Покажите, что треугольник, ограниченный изометрической окружностью для g и
двумя вертикальными прямыми
X = i-d/c) - -, X = i-d/c) + -,
содержит фундаментальную область для G, и вью едите, что | с | > 1 (т.е. неравенство
Йоргенсена).
4. Предположим, как при доказательстве теоремы 11.4.2, что с < 2. Покажите,
что G содержит элемент порядка 2, следуя такой схеме рассуждения:
(i) Пусть
Д2 + Л
/(Z) = (ad-brt^l)
CZ -^d
- элемент из G с наименьшим (положительным) значением \с \. Рассмотрев матрицу
для р, покажите, что или / имеет порядок 2, или | trace (/) | > 1.
(ii > Покажите, что I trace (Л"/) I < 1 при подходящем «, а, значит, //^/ имеет
порядок 2.
§ 11.5. Три эллиптических элемента
второго порядка
Пусть f,g,h - эллиптические элементы порядка 2, оставляющие
неподвижными точки и, V, W соответственно. Если м, v, w коллинеарны, то
группа G, порожденная f,g,h, элементарна, так как она оставляет
инвариантной геодезическую, содержащую точки u,v,w. Поэтому будем
предполагать, что м, v, w не коллинеарны. Пусть а, /3, 7 - углы и а, Ь,с -
длины сторон треугольника с вершинами и, v, w (рис. 11.5.1).
Три вершины треугольника определяют положительное число X
посредством
X = sha shZ? sm7= shb shr sin a = she sha sm/3; A1.5.1)
равенство трех написанных выражений обеспечивается правилом синусов.
• 267

р{ЩУ)
fi(u,v)
Рис. 11.5.1
Рис. 11.5.2
Если мы примем сторону [м, и] за основание треугольника, а геодезичес-
Kjoo, на которой лежит эта сторона, обозначим Lyv, то высота треугольника
будетp(w,Ivv), где
sh p(w, Z/vv) = sh fl sin ^.
Таким образом, можем записать (в понятном смысле)
X = sh (основания) X sh (высоты)
независимо от того, какая из сторон принята за основание.
Величина X имеет следующее отношение к эллиптическим элементам
Теорема W.S.X.A бсолютная величина следа любой из изометрий
fghy hfg.ghf, hgf, fhg.gfh
равна 2X.
Доказательство. Прежде всего заметим, что число I trace {fgh ) I
инвариантно относительно любой циклической перестановки f,g,h,
например
I trace (fgh) I = I trace h(fgh)h =1 trace(Л/^) I.
Далее,
I ti2ice(fgh) I = I trace(/^^ )"M = I tT2Lce(hgf)l
Таким образом, I trace(/*^/2) I инвариантно относительно любой
перестановки/,^, Л.
Пусть L — геодезическая, проходящая через unv. Построим
(i) геодезическую L i, проходящую через w и ортогональную L;
(ii) геодезическую L 2, проходящую через w и ортогональную L i;
(iii) геодезическиеL з иZ. 4, ортогональные L и такие, что
рA1,1з) = Р(", t;) = p(Li,L4)
(рис. 11.5.2).
Обозначая отражение относительно Lj через ау, будем иметь
0201 =Л, 0103 =/^(или^/),
так как fg есть гиперболический элемент с осью L и величиной сдвига
268

2p(w, v). Из теоремы 7.38.1 следует, что
— I trace(^/^) 1= — 11гасе(а2аз) 1 = (/^2» ^з)-
Но инверсное произведение A2>^з) равно сЬрA2,1з), если L2 и L^
расходятся, и cos<^, если L2 и L3 пересекаются под углом ^ (возможно,
равным нулю). Во всех случаях (см. теорему 7.17.1, лемму 7.17.3 и
теорему 7.18.1 (iii)) имеем
(Ij, Ls)=shp(L,L2)shp(Li,Ls)-shp(w,L)shp(u, i;) = X. П
Нас будет теперь интересовать следующий вопрос: как влияет значение
X на характер группы, порожденной /, g, Л ?
Рис. 11.5.3
Теорема 11.5.2. Пусть f,g,h - эллиптические элементы порядка 2,
порождающие неэлементарную группу G,a Хзадается посредством A1.5.1).
A) Если X > 1, го G дискретна и имеет сигнатуру @1 2, 2, 2; 0; 1).
B) Если X = 1, го G дискретна и имеет сигнатуру @1 2, 2, 2; 1; 0).
C) Если X < 1, го G дискретна только в случаях
Х = со5(я/^), q>3', X = cosB7r/^), q>5\ X = cosC7r/^), q>l;
при этом возможные сигнатуры для G суть
@12,2,2,^;0;0), @1 2, 3,^;0;0), @12,4,^;0;0).
Конструкщ1я фундаментальной области для каждой дискретной G будет
устанавливаться в процессе доказательства, а также будет выясняться,
что каждому значению X, указанному в теореме 11.5.2, соответствует
дискретная группа. Таким образом, мы можем констатировать следующий
факт.
Следствие 11.5.3. Если три эллиптических элемента f,g,h
порядка 2 порождают неэлементарную дискретную группу, то
I tt2ice(fgh) I > 2 cosC я/7),
причем эта оценка является наилучшей.
Доказательство теоремы 11.5.2. Предположим сначала, что
Х>1. Тогда мы можем построить многоугольник, изображенный на
рис. 11.5.3, где м' и и ' - образы м и и соответственно под действием неко-
269

торых степеней гиперболического элемента fg с осью L. Заметим, что
рAзД4)=2р(м, V),
Пусть элементы, фиксирующие м' и и ', - это соответственно
(fgrfifg)-"', (fg)"iifgr"-
Отображения, спаривающие стороны многоугольника на рис. 1 L5.3,
порождают G; по теореме Пуанкаре этот многоугольник является
фундаментальной областью для G. В этом случае G имеет сигнатуру @12, 2, 2; 0; 1).
Таким образом, мы доказали A). Очевидная модификация дает B) (когда
X = 1); в этом случае L2 касается Z.3 и £4 в точках на бесконечно
удаленной окружности.
Случай Х< 1 более труден; здесь/.2 пеересекает L^ и La под некоторым
углом ^, и мы получаем многоугольник, изображенный на рис. 11.5.4.
Заметим, что, как отмечалось ранее, X = cos^.
Допустим (при Х< 1), что G дискретна. Изометрия hgf (или hfg)
представима в виде
hgf'=@20i)(OxOs)'='0203
и является вращением на угол 2в вокруг f. Пусть q - порядок
эллиптического элемента hgf\ имеем в = Tipjq для некоторого целого р, ip^q) = 1.
Если р = 1, получаем фундаментальный многоугольник для G, и в этом
случае G имеет сигнатуру @|2, 2, 2, q\ 0; 0), причем \ = cos{n/q), где
q>3.
Начиная отсюда, мы можем считать р> 2. Образы компактного
четырехугольника под действием G покрывают гиперболическую плоскость
(существует положительное г, такое, что каждая точка четырехугольника
лежит в круге радиуса г, покрытом G-образами), поэтому из рассмотрения
площадей имеем
2л
2к
2 + S(l-(l/m,)) <7г-27ф/^,
7=1
Рис. 11.5.4
Рис. 11.5.5
270

где {к 1^1,,..., rrig) - сигнатура G. Это дает
4А:-4+5<1.
Ввиду положительности площади можем также записать
0<2А:-2+5.
Это оставляет лишь следующие возможности: /: = О и 5 = 3 или 4.
На самом деле s = 3. Чтобы в этом убедиться, допустим, что 5=4. Так
как G содержит элемент порядка q, мы можем счиатать, что q делит т4.
Поскольку р> 2,mj > IviqKm^, имеем
Г 1 1 1 Г ^11 2р 4
2 <22- 2 — <1 <1 .
L 2 т^ \ L f^i rrif i q m^
Отсюда следует, что ^4 =<»; следовательно, G содержит параболический
элемент. Однако это невозможно, так как компактный четырехугольник
должен содержать точки из каждой орбиты. Поэтому 5 = 3, и G есть группа
треугольника.
Запишем теперь сигнатуру G в виде (О I /, т, да), где q делит да. По
теореме 9.8,6 существует такое целое положительное N, что четырехугольник
содержит N точек из почти каждой ^орбиты. Из рассмотрения площадей
имеем
Ч'Чт'^^г)]--
l-np
Так как В -np/q и точки f,f'принадлежат одной орбите, находим, что
N> р (рассмотрите точки, близкие к f). Следовательно,
2р 2р
1 L <1-_
п
A1.5.2)
Сравнение начального и конечного выражений дает (поскольку р> 2)
1 1 2р - 1 3
— + — > -^ > — .
1т 2р 4
Это приводит к следующим решениям:
(/,/п,р) = B,3,2), B,3,3), B,4,2).
Если A,гп,р) = B,4, 2), то в A1.5.2) имеем сквозное равенство,
поэтому ^ = да; в этом случае G имеет сигнатуру (О | 2, 4, q), где ^ > 5 и X =
= cos (IttIq).
Если (/,^,р) = B,3,3), то снова имеем сквозное равенство, поэтому
^ = Д2, группа G имеет сигнатуру (О | 2, 3, ^) , где ^ > 7 и X = cos (Зя/^).
Для оставшегося случая, а именно, A,т,р) = B, 3, 2), требуется
несколько другое рассуждение. Во-первых, эллиптические неподвижные
точки м',и',w,f,f'принадлежат самое большее двум орбитам (ни одна не
271

может лежать в орбите порядка 3). Это означает, что*) N> 3; используя
второе неравенство в A1.5.2), находим тогда, что
\ 6 п 1 q
откуда следует q = n (поскольку nlq - целое). Фактически этим
завершается доказательство теоремы 11.5.2 в том виде, как она сформулирована
(без уточнения того, какие сигнатуры соответствуют каким значениям X ).
Более детальный анализ дает все возможности. Например, из второго
неравенства в A1.5.2) следует
6
7V=3+ ,
п-в
что дает
(Д2,7У) = G,9),(8,6),(9,5),A2,4).
Но при этом N должно быть кратно 3 (рассмотрите неподвижные точки
порядка 3 в четырехугольнике). П
Как иллюстрацию имеющихся возможностей рассмотрим
четырехугольник, приведенный на рис. 11.5.5, где р{и ,w) =p(u\v ). Пусть а, ^,7 -
отражения, указанные на рисунке. Три вращения порядка 2 (фиксирующие
W,м', и' соответственно) суть а/3, (осу) , а(а/3O; они порождают ту же
группу, что а/3, ^7, 7^^, а именно, группу треугольника с сигнатурой
@12,4,^).
Упражнение 11.5
1. Пусть f,g,h - эллиптические элементы порядка 2 с. коллинеарными
неподвижными точками W, и, w соответственно. Найдите необходимое и достаточное условие
дискретности < /, ^, Л > в терминах p(w, и) и р(и, w).
2. Проведите доказательство теоремы 11.5.1, используя матрицы (примите, что
fygyh фиксируют соответственно 1^т(,и + iv в Н^).
§ 11.6. Универсальные оценки для функции смещения
Наша цель - получить нижние границы для функций
[ 1 1
M(g, h) = inf max {sh — p(z, g z), sh — p(z, hz)
2 I 2 2
1 1
^(^, ^) = inf sh - p(z,^z)sh— p{z,hz)
2 2 2
при различных выборах g nh, когда группа { g,h) дискретна и неэлемец-
тарна. Заметим, что
M{g.hf>P(g.hy
Очевидно, нижняя граница для P{g,h) более предпочтительна, например
*) Из предыдущего утверждения следует, что или точки м', и', w, или точки i,^*\x ,
где xg{w',u', w } , принадлежат одной орбите. В обоих случаях как угодно близко от
этих точек найдутся (внутри четырехугольника) три точки, принадлежащие одной
орбите, что и означает Л^> 3. - Примеч. пер.
272

она показывает, что если один из сомножителей мал, тогда другой
соответствующим образом велик; это нельзя получить из нижней гранищ>1 для
M(jg,h). Если g или h ~ эллиптический элемент, то P(g,h) =0; в этом
случае следует использовать M(g, h).
Неравенство
M(g, h)>m
означает, что для любого z один из элементов g или h смещает z по крайней
мере на расстояние 2sh"^ (m). Известно, что всегда
Mfe^)>0,13l846...;
' существование нижней гранищ>1 было установлено Марденом. Нижняя
граница, являющаяся наилучшей из возможных, была получена Ямадой; эта
граница указана в теореме 11.6.14.
Оценка наилучших нижнихграниц для M(g,h) и P(gih) теснейшим
образом связана с геометрическими свойствами g и h; и сами границы,
и соответствующие ограничения на ^ и Л даются в этом параграфе.
Напомним сейчас теоргму 8.3.1: если группа ( g,h) дискретна, неэлементарна
и не содержит эллиптических элементов, то P{g,h) > \, причем указанная
нижняя граница является лучшей из возможных.
Мы будем получать различные нижние границы в зависимости от
классификации g и h. Предположим сначала, что один из этих элементов
является параболическим.
Теорема 11.6.L Пусть g и h - две изометрии такие, что группа
Cg, h) дискретна и неэлементарна.
{\)Ecлuguh - параболические, то P{g,h) > 1/4. Если, кроме того,-
( g,h) не является группой треугольника, ToP(g,h)> 1/2.
B) Если g - параболическая, ah- гиперболическая, то P{g, А) > 1/4.
Если, кроме того, ( g,h) не является группой треугольника, то
P(g>h)>\l2.
Все четыре указанные границы являются наилучшими.
Доказательство. Пусть ^ - параболическая, а А -
параболическая или гиперболическая. Будем считать, что ^ и А действуют в Н^ и
^(z) = z + l, A(z) = -• ,
cz +d
ad-bc-\.
Так как группа ( gyh) не элементарна, то с =5^0. В этом случае h имеет
две действительные, конечные, возможно совпадающие, неподвижные
точки W и и, причем
lz-A(z)l-lcz+dl=lc I- Iz-tt I- Iz-u \>\с I/.
На основвнии теоремы 7.2.1 получаем
1 1
sh — p(z,^z)sh~-p(z,Az)= \z-h{z)\' \cz+d\l^y^ >\с \/4. A1.6.1)
^ /i
Неравенство Йоргенсена дает I с I > 1, так что в обоих случаях имеем
P(g.h)> 1/4.
18. А. Бердон 273

Предположим теперь, что { gyh) не является группой треугольника.
Если h - параболическая, из теоремы 11.4.1 следует \ с\ > 4, и, значит,
^ fe,^) ^ 1- Если h - гиперболическая, из теоремы 11.4.2 следует \ с \ >
> 2, откуда P{gyh) > 1/2. Этим доказаны A) и B); приводимые ниже
примеры показывают, что нижние границы в A) и B) являются
наилучшими.
Пример 11.6.2. Изометрии^, h и/, задаваемые формулами
^(z) = z + l, h{z)
т
Z + 1
2z+3
z+2
и являющиеся соответственно параболической, параболической и
гиперболической, порождают дискретную группу (подгруппу модулярной группы).
Подсчет, использующий A1.6.1) cz =?>,дает
1 1 1
sh — p(z,^z) sh— p(z,/2z) = —
2 2 4
и
1 1 13^
sh— p(z,^z)sh-- p{zjz)=^— + -^y^.
Полагая y-^'^y мы убеждаемся, что нижняя граница 1/4 является
наилучшей. П
Пример 11,6.3. Пусть ^(z)=z + l,a/i есть отражение относительно
I Z +г I =г, произведенное вслед за отражением относительно x=0, где
0< Г < 1/4. Таким образом, h есть параболическая изометрия,
фиксирующая начало; на самом деле
'"''-^^ ■
Используя A1.6.1), находим, что при z = гу
1 1
sh •— f){z, gz) sh — p(z, hz) = l/4r.
2 2
Очевидно, {gyh) есть неэлементарная фуксова группа второго рода.
Полагая Г->1/4, найдем, что нижняя граница 1 в теореме 11.6.1 A)
является наилучшей. П
Пример 11.6.4. Пусть g{z) =z + l, а /2 - эллиптический элемент
порядка 2, фиксирующий точку /и, где 0< и < 1/2. Тогда { gyh)
дискретна и неэлементарна. Область
{zGЯ^| lRe[z] К 1/2, \z \>v)
является фундаментальной для { g.h). Положим f = gh; тогда / есть
гиперболический элемент, а именно, отражение относительно \ z \ -v,
произведенное вслед за отражением относительно х = 1/2. Имеем
(z/v) -V
(z/u)
274

откуда
1 1 \z-fz\-\zlv\ Iz^-z+u^l
S\i — p{z,gz)ui-r P(ZJZ)= — = J— .
2 2 4y^ 4vy^
При y-^oo и^ скажем, x=0 это выражение стремится к 1/4и. Так как v
может быть взято как угодно близким к 1/2 и так как ( g,h) =< ^, /> ,
мы убеждаемся, что нижняя граница 1/2 в теореме 11.6.1 B) является
наилучшей. П
Рассмотрим теперь случай, когда одна образующая является
эллиптической, а другая - параболической; в этом случае мы должны
использовать Л/(^, Л).
Теорема 41.6.5. Пусть g - параболический элемент, ah-
эллиптический порядка q, причем группа { g, h ) дискретна и неэлементарна.
A) Если q> ЗуТО
M(g,h)> ^--Ц; Г7Т- >1/>Д
B)Ecлuq = 2,тoMig,h) > l|^/g.
C) Если, кроме того, { g,h ) не является группой треугольника, то
для q> 2
1 + С08(я/^) 1 1/2 .
M(g,h)>
>l/v^.
L 3 - cosirrlq)
Все указанные оценки - наилучшие.
Доказательство. Положим
( 1 1
m(z) = max jsh —p(z,gz), sh— p(z,hz)
Можно считать, что g ah действуют в Я ^, причем^ (z) = z + 1 и Л есть
вращение на угол 26 (где О < 2^ < я) вокруг точки w вида /у.
Пусть Zj - произвольная точка, а Zj - точка, в которой
горизонтальная прямая (орицикл с центром «»), проходящая через Zj, пересекает
геодезическую L, идущую из «5 через w. Обозначим через z^ точку на луче
[w, оо), отстоящую на том же расстоянии от w, что и Z2 (если Im[zi] >
> Im [w], то, очевидно, z2 = z 3 ). Тогда
Im[zi] =Im[z2] <Im[z3],
p(zi, w) > p(z2, w) = p(z3, w),
следовательно (см. § 7.35),
m(zi)>m(z3).
Так как
M(g, /2) = inf m (z),
z
TO При нахождении M(g,h) мы можем теперь ограничиться сравнением
ni(z) для всех Z вида iy, где y>v. Когда у возрастает от и до «>,
величина p(z,gz) убывает, стремясь к О, а p(z,hz) возрастает от О до «>;
18* 275

поэтому существует единственное z, скажем z = /f, для которого
, 1 1
sh -- f>{i, ^z) = sh — f)(z, hi\
И это общее значение есть, очевидно,Л/(^, А).
Теперь заметим (см. снова § 7.35), что при z = it.
1
sh~p(z,^z)=l/2r
и
1 \ It \) \
sh —' f){z, hz) = I sin ^ I sh p(it, iv) = — I sin ^|i J.
2 2 \v t /
Отсюда
2 2 ^
I sin 01
Так как Л имеет порядок ^ (причем Л =5^7), то I sin^ I > sin (nlq).
Согласно следствию 11.2.3 приq> 3 имеем
1
v<- tg{TT/q)
и, таким образом,
2
4r^<tg2Gr/^)+-
С08(я/^)
Учитывая, что
М(^,А)=1/2Г,
нижнюю границу в A), включающую q, можно считать установленной. По
элементарным соображениям эта функция от cosin/q) - возрастающая;
нижняя граница l/v7получается при ^ = 3. Ясно, что указанная нижняя
граница (зависящая от q) является наилучшей при каждому;
действительно, последние неравенства обращаются в равенства в случае групп Гекке,
рассмотренных в § 11.3.
Приведенное выше рассуждение теряет силу, если q - 2. Однако в этом
случае и < 1 (неподвижная точка должна лежать на изометрической
окружности, а в силу неравенства Йоргенсена | с | > 1) и ^ =7г/2, так что t^ < 2;
это доказывает B). В этом случае граница тоже является наилучшей:
например, можно взять g(z) = г + 1, A(z) = - 1/z и z = i л/?.
Допустим теперь, что ig, А ) не является группой треугольника. Так как
А имеет порядок q, некоторая степень А, скажем А", есть вращение на
угол 2n/q вокруг / и и <g. А" ) (= {g, А)) не является группой треугольника.
Точно так же, как выше, имеем
t^<v^ +—' . A1.6.2)
sinGr/^)
Рассмотрим четырехугольник со сторонами, лежащими на прямых х = 1/2,
дс= - 1/2 и изометрических окруIШОстях для А" и А""". В силу теоремы 10.6.5
276

Рис. 11.6.1
Рис. 11.6.2
этот четырехугольник должен иметь свободные стороны (рис. 11.6.1),
A1.6.3)
следовательно,
—7Т7 [l+cosGr/^)] <— .
sm(n/q) 2
Используя A1.6.2) и A1.6.3), получим
4t^<
3 — cos(n/q)
<3,
3 + cos(n/q)
чта и дает нижние границы в C). Эти границы являются наилучшими из
возможных, так Ka^t мы можем всегда построить группу, исходя из
четырехугольника, указанного на рис. 11.6.1 (детали опускаем). П
Рассмотрим теперь случай двух эллиптических образующих.
ТеоремаП .6.6. Пусть g и h - эллиптические элементы порядков р
и q соответственно, причем группа { g, h) дискретна и неэлементарна. Тогда
Г4со82Gг/7)-3 11/2
M{g,h)>\ ^-^ =0,1318...
^ ^ L8cosGr/7) + 7 J
Если, кроме того у {g,h ) не является группой треугольника, то
M{g.h)>\'—'——
\4 - [cosGr//
C0SGr/^)]^ \l/2 1
Vl?*
n/p) - cos{n/q)y J
Обе границы являются наилучшими.
Для доказательства нам потребуется следующий геометрический
результат.
Теорема 11.6.7. Пусть g - эллиптический элемент порядка р,
фиксирующий точку и, а h - эллиптический элемент порядка q, фиксирующий
точку V. Предположим, далее, что группа ig, h ) дискретна и неэлементарна,
но не является группой треугольника. Тогда
^^ 1 + С08GГ/Р)С05(Я/<У)
smGr/p)smGr/^)
Доказательство теоремы 11.6.7. Некоторый элемент gi из
<g) имеет угол поворота 27г/р, некоторый элемент Л i из (Л ) - угол
поворота 27г/^, причем {g,h)^{gx,hx ). Будем считать, что уже сами ^ и А имеют
277

углы поворота 2я//7, 27г/^. Далее, примем, что ^ иН действуют в А, причем
W = О и L> > 0. Построим теперь изометрические окружности для h vih'^ и
лучи L и L', выходящие из начала и образующие углы я/р с (О, 1)
(рис. 11.6.2). Очевидно, L иЬ' спариваются с помощью g, г Li и L'l —
с помощью h . Если L и Li пересекаются, то <^, Л > есть группа
треугольника (теорема 10.6.6). В противном случае (теорема 7.10.1) ch p(w, и)
ограничено снизу выражением, указанным в теореме. П
Доказательство теоремы 11.6.6. Положим
m(z) = max sh— p(z, gz), sh —p(z, hz)
12 2 )
Очевидно, если^ и h заменяются вращениями вокруг тех же самых центров
на меньшие углы, соответствующее m(z) уменьшается; поэтому мы можем
считать, что g и h имеют углы поворота lir/p и 2тт/д соответственно.
Примем, как и раньше, что g }ih действуют в А, причем g сохраняет начало, а
h - точку и, где и > 0. В точности так же, как при доказательстве
теоремы 11.6.5, минимальное значение fn(z) достигается в некоторой точке х
отрезка [О, и], где
1 1
sh— p(jc, gx) = sh— р(дс, hx),
и общее значение этих выражений есть Л/(^, К).
Положим
р(дс,0) = л p(u,0) = J,
так что р(х, v)-d - t. Далее положим
Sp = sinGr/p), Ср = со$(ф);
аналогично введем Sq, с^. Тогда
SpSht =SqSti{d - t)
(обе части суть M(g, h) ), откуда следует
thr= ^ .
Sp +Sg chd
Теперь имеем
Л/(,,ИУ = is,y ±^t=\^ - ,',:'^_\,. A1.6.4)
По элементарным соображениям полученная функция от chd является
возрастающей. Если {g, h ) не является группой треугольника, то, согласно
теореме 11.6.7,
SpSq chd> 1 +СрС^;
подстановка в A1.6.4) дает
M(g.h)>
4-(Ср~с,У
-р ^q)
ЧТО И является требуемой нижней границей. Эта граница представляет собой
278

возрастающую симметричную функцию от СрПСд в области допустимых
значений, поэтому,беря,скажем,р = 3 и^ = 2 (приp-q-2 группа( gy h )
элементарна), мы получаем нижнюю границу mяM(g,h)^, равную 1/15.
Из приведенного доказательства ясно, что можно построить группы,
показывающие, что эти границы являются наилучшими.
Остается лишь установить первую (и меньшую) нижнюю границу в
теореме 11.6.6 для случая, когда G есть группа треугольника. Пусть G - группа
треугольника с сигнатурой (О | т, п, г). Будем считать, что g и h
принадлежат циклическим подгруппам порядков тип соответственно (хотя сами g
nh не обязаны иметь порядки/n и да). Оценка для Л/(^, Л) может
измениться, но она не может быть меньше сценки, выведенной в предположении,
что ^ и Л имеют углы поворота Irr/m и 2я/л; поэтому можно считать m =р
ип=д. В этом случае неподвижные точки иии (для g иН соответственно)
должно отделять расстояние, по меньшей мере равное длине стороны
треугольника с углами я/р, n/q и тт/г (в противном случае мы могли бы
построить фундаментальную область с площадью меньшей, чем известное
нам значение); следовательно, по правилу синусов
SpSq
Поскольку равенство A1.6.4) остается справедливым, то
п.г , ч2 ^ ^^Р^Я + ^г)^ - {SpS^y Cl^cl^cl^ 2CpCqC, - 1
Migy n) ^ ■: :; = :; .
{Spf + E, ^' + 2 [CpCq + C,] 2 + 2Cr - {Cp - Cqf
Мы должны найти минимум полученного выражения для всех /?, q, г,
удовлетворяющих
1 1 1
-+—+-< 1.
р q г
На самом деле минимум достигается при г = 7,р=2,^=3 (или р = 3, (? = 2) ;
в этом случае нижняя граница есть
4cos4^/7)-3
^^— =0,0173...
8со8(я/7) + 7
При любых Ру qy г имеем
2+2с,-(Ср-с^)'<4,
поэтому
M{gy hf >-[cl^cl+ с? + ICpCqC, - 1] .
Допустим на время, что одно из чисел р, q, г не меньше 8; так как другое
не меньше 3, то тогда имеем
M(g. hf > — [со8^(я/8) + со82(я/3) - 1] = 0,025 . . .
4
Таким образом, в наших поисках нижней границы для M{gy h) мы можем
279

предполагать, что каждое из чисел р, ^, г не больше 7. Это сводит задачу
к конечному числу вариантов; однако и среди них некоторые можно сразу
отбросить.
Если ни одно из чисел р, q, г не равно 2, тогда два из них не ниже 3,
а третье не ниже 4; в этом случае имеем
4
+ cos^Gr/4) + 2cos4^/3)cosGr/4) - 1] = 0,088 ...
Следовательно, мы можем считать, что одно из р, q, г есть 2. Если остальные
отличны от 3, то одно из них не ниже 4, другое не ниже 5, и мы имеем
M{g, hf > [cos^Gr/4) + cos2Gr/5) - 1] /4 > 0,038.
Таким образом, мы приходим к случаю, когда одно YQp,q,r есть 2, другое
3, а третье не больше, но также и не меньше (ввиду положительности
площади) чем 7. Нижняя граница симметрична относительно р и ^, а
числитель симметричен относительно р, q, г. Таким образом, нам остается лишь
узнать минимум
2-^2Cr-iCp-c^f
для следующих возможных случаев:
(р,^, г) = B, 3,7), B, 7,3), C,7,2).
Дальнейшие детали опускаем. П
Обратимся теперь к рассмотрению гиперболических образующих.
Прежде всего мы установим геометрические условия, которым должна удовлет-
,ворять любая пара гиперболических элементов в дискретной группе.
Поводом для следующих двух результатов является различие между простыми
и непростыми гиперболическими элементами (см. определение 8.1.5);
однако эти результаты имеют более широкое применение - они связаны
с тем, пересекаются или нет проекщ1и двух осей в факторпространстве.
Теорема 11.6.8. Пусть g и h - гиперболические элементы с осями
Ag,A^ и величинами сдвигов Т и Т^ соответственно. Пусть, далее, группа
(g, h) дискретна и неэлементарна, а оси Ag и А^ пересекаются под
углом в. Тогда
лом деле
A) shI - Tghh{-Th )sin в > cosC7r/7) = 0,2225 ...
На самом деле
B)sh(-rjsh^7 Тп]%тв>^,
за возможным исключением групп с сигнатурами (О | 2, 3, q), (О | 2, 4, q),
(О I Ъ,Ъ,Л),атакже
{l^^Wr^")
sh — Г„ sh -Tft sin0>l.
280

если (g, кУне содержит эллиптических элементов или имеет
неограниченную фундаментальную область.
В частности, если g есть непростой гиперболический элемент в ( g, h >,
то
sh(- Tg\> [cosC7r/7)]^/2(= 0,47 ...)•
Доказательство. Пусть и — точка пересечения Ag и Л;,. Постро-
1 ^ 1
им точки vEiAg viwEiAh такие, что p(w, i^) = — Tg, p(w, w) = — Г/,, и
треугольник с вершинами м, и; w имеет угол в при вершине м. Пусть
fu*fv^fw - эллиптические элементы порядка 2, фиксирующие точки и, и, w
соответственно. Заменяя, если необходимо, элементы ^и(или) А их
обратными, можем записать
w
Мы видим, что любое произведение четного числа множителей/„, /у, Л
принадлежит ig, h). Следовательно, {g,h) есть подгруппа индекса 1 или 2
в </„,/y,/w >, и тем самым последняя группа дискретна.
Вспомич|1я результаты § 11.5, можем записать
sh^- TgjJ^-THJsm в = X = у f 1гасе(Л/Х) |,
после чего теорема 11.6.8 непосредственно следует из теоремы 11.5.2 и ее
доказательства. Во-первых, A) есть следствие 11.5.3. Если Ig, Л > не
содержит эллиптических элементов, то C) следует из теоремы 7.39.4; если
{g, h > имеет неограниченную фундаментальную область, то C) следует из
A) и B) теоремы 11.5.2.
Остается проверить B). Согласно теореме 11.5.2 C) нижняя граница 1/2
в B) имеет место, за возможным исключением случаев, когда X есть число
вида cosB7r/q[) илисо8C7г/^). Поэтому необходимо просмотреть еще раз
доказательство теоремы 11.5.2, чтобы увидеть, когда это возможно. Для
краткости обозначим </m,/u>/w > через G*, а <g, Л > через G.
Обращаясь к доказательству теоремы 11.5.2, мы должны рассмотреть
лишь случаи р = 2 и р = 3. Однако G* содержит произведение трех
эллиптических элементов порядка 2, которое является вращением на угол liiplq.
Поэтому, если р = 2, то существует вращение г на угол I'njq такое, что г^
есть произведение трех вращений порядка 2. Так как г€ G*, имеем г Е^ G\
отсюда G содержит вращение порядка 2. В этом случае G = G*, так'чтоС
имеет одну из сигнатур (О | 2,3, ^) или (О | 2, 4, q).
Остается случай р = 3; здесь G* имеет одну из сигнатур (О }2, 3, q),
тце q =п=^1 или 8 (см. доказательство теоремы 11.5.2). Скучное
арифметическое упражнение с площадями показывает, что если G имеет индекс 2 в
G*, то единственно возможная сигнатура для G есть (О | 3,3,4).
Последнее утверждение теоремы, касающееся непростых
гиперболических элементов, есть применение A), когда за h принимается элемент,
сопряженный g.D
Теорема 11.6.9. Пусть g и h - гиперболические элементы с осями
Ag, Ah и величинами сдвигов Tg, Г/, соответственно. Пусть также группа
{g, h ) дискретна и неэлементарна, причем образы осей Ag и А^ не пересе-
281

каются. Тогда
Если {g, h )не содержит эллиптических элементов, то в правой части
написанного неравенства можно заменить -1/2 «а +1 (а нижнюю границу
заменить на 2).
Если^ - простой гиперболический элемент в (g, h >, то можно применить
этот результат к случаю, когда элемент h сопряжен^ (т.е. имеет вид fgf'^).
В этом случае с помощью элементарных манипуляций получаем следуюидий
результат.
С л е д с т в и е 11.6.10. Если g и h - гиперболические элементы,
порождающие дискретную неэлементарную группу, причем g есть простой
гиперболический элемент в этой группе, то для всех f из (g, h ) имеем или f(Ag) =
-Aff, или
л^НА,..и,)>~.
Указанная граница является наилучшей.
Следующий пример показывает, что нижняя граница 1/2 является
наилучшей.
П р и м е р 11.6.11. Построим многоугольник D как на рис. 11.6.3, где /
(эллиптический элемент порядка 2) и ^ (гиперболический) спаривают
стороны D, По теореме Пуанкаре D есть фундаментальный многоугольник
для </, ^>; так как g спаривает стороны Д то g должен быть простым
гиперболическим элементом. Наконец,
*(ir,)shi
p(AgJAg) = sh- p(Z,L') sh p(OMg) = со8(я/3).П
Доказательство теоремы 11.6.9. Рассмотрим рис. 11.6.4. Так
как g (или g~^) есть o^Oi, а Л (или Л"^) есть 02 аз, то 02 Oi Е G, Если G не
содержит эллиптических элементов, то Li и/.2 не могут пересекаться
(этот случай не изображен на рисунке) и тогда из теоремы 7.19.2 получаем
sh(- rJsh(-r;,jchp(^^M/i) = chf- rJch(^y r^j+chp(Ii,I:
).
Это дзет второе неравенство.
Рис. 11.6.3
Рис. 11.6.4
282

Если Li иЬ2 пересекаются под некоторым углом в , то в -2np/q ддя
некоторых взаимно простых целыхр ид. Если в > 27г/^, мы можем
повернуть Aij вокруг вершины угла б, тогда полученный образ Ai^ будет ближе
к Ag (но; ПО предположению, не будет пересекать Ag), Таким образом,
заменив h сопряженным элементом/Л/~^, ось которого f(A^) близка,
насколько возможно, к Ag (но отлична от Ag), мы будем иметь
p(Ag,A^)>p(Ag,fA^),
а соответствующий угол в будет удовлетворять условию в <27r/q < 2я/3
(так как, очевидно, б <я). Отсюда с помощью теоремы 7.18.1 получаем
первое неравенство, а именно,
Sh(^ Tgjshl^^ r,)chp(^^,^;,)>Ch(~ 7>)ch(^ Г;,)+С05BЯ/3).П
Теоремы И.6.8 и 11.6.9 дают следующую границу для P(g, h).
Теорема 11.6.12. Пусть g и h - гиперболические элементы,
порождающие дискретную и неэлементарную группу. Тогда P(g, h) > с05(Зя/7).
Доказательство. Если оси элементов sg и h пересекаются в
некоторой точке w,to очевидным образом (используя обозначения теорем
11.6.8 и 11.6.9) имеем
P{g, ^) = sh-p(w,^.w)sh~ p(w, ^w) = sh(- 7>)sh(-- Г;, j> cosCя/7).
Это же самое неравенство имеет место и тогда, когда пересекаются
некоторые образы Ag^iA^. В случае же непересечения применяем
теорему 11.6.9 и получаем
sh— p(z,gz)sh- p(z, hz) = sh\ — Tgjshi—Tijjchp^z, Ag)chp(z,A^)>
> \ sh(^ r^)sh(~ r,)ch [p(z^ Ag) + p(z^ A,)] >
^T 4l ^'У{^ Г,)сКр(Л^,Л,)>^[ск(~ 7>)ch(^ Г,)-~] >
1
>—> С05Cя/7).а
4
Наконец, рассмотрим M(g, h) ддя одного эллиптического и одного
гиперболического элементов.
Теорема 11.6.13. Пусть элемент g - гиперболический, ah-
эллиптический порядка q (q >2). Если группа ig.h) дискретна и неэлементарна,
ToM(g,h)>llyJE.
Доказательство. Если g — непростой гиперболический элемент
Big, h), то,согласно теореме 11.6.8,
M(g, h) > sh(- ТЛ> [со5(Зя/7)] ^/^ > I/VS'.
283

Пусть теперь g — простой гиперболический элемент. В этом случае
неподвижная точка у эллиптического элемента h не может лежать на Ag, и
поворот оси Ag вокруг V на угол ln/q должен переводить Ag в
расходящийся (с Ag) образ, который можно рассматривать как h{Ag) (рис. 11.6.5).
На основании § 7.17 имеем
1 1
ch р(Ч Ag)%m{'nlq) = ch7" p{Ag, hAg) > sh- f){Ag, hAg),
a из следствия 11.6.10 (примененного к (g,hghr^ >)
Отсюда
chp(v,Ag)sm(n/q)±\^- Tgj>— .
Полученное неравенство задает геометрическое условие на параметры
Рис. 11.6.5
Tg, In/q и удаленность g от А, измеренную посредством p(v, Ag). Полагая
W = maxIsh - p(z,gz), sh у p(z, hz) j,
будем иметь
- < sinGr/(?)sh(~ rJch[p(i;,z) + piz, Ag)] =
= sinGr/^)sh(— Tg\{chp(v, z)chp(z, Ag) + shp(y, z)shp(z, Ag)] <
< m ^1п(Ф) [1 + sh^p(i^, z)] ^/^ +m^<
< m [sixi\n/q) + m^] ^/^ + w' < w(l + т^у/^ + w^
откуда следует m > 1/\/8!П
Собирая воедино все результаты, установленные в этом параграфе, мы
получаем универсальную нижнюю границу для M{g, А).
284

ТеоремаИ.б.И. Если g и h порождают неэлементарную
дискретную группу, ToM{g, А) > 0,1318 ..., W эгд нижняя граница достигается для
двух эллиптических образующих группы треугольника с сигнатурой
@12,3,7).
В заключение этого параграфа, восполним пробел в доказательстве
теоремы 11.2.4.
Доказательство теоремы 11.2.4 B). Рассмотрим простой
цикл, состоящий из четырех вершин, скажем
Vu /(yi)=-i^2, g(vi) = V3, h(vi)=^V4
на границе многоугольника Дирихле с центром w. Таким образом, точки v у
лежат на одной окружности с центром w и некоторым радиусом г. Если
группа if, g > не элементарна, то, как мы уже видели,
M(g, А) > 0,1318...
и для некоторого / ( = 2 или 3)
1 1
0,1318 .. .<sh — p(ui,uy)<sh — [p(ui,w) + p(w, vM <shr.
2 2
To же самое будет верно, если не элементарна (g, h >или <Л, / >; таким
образом, достаточно рассмотреть случай, когда все три группы (g, h\
{h,f) и </,g> элементарны.
Итак, предположим, что указанные три группы элементарны. Так как
1^1, 1^2, 1^3 лежат на одной окружности, то или группа (f,g) является
циклической с эллиптической образующей, или же она порождается двумя
эллиптическими образующими порядка 2*). Первый случай невозможен (в
противном случае эллиптическая образующая должна оставлять на месте w);
во втором случае один из элементов / ng, скажемg, должен быть
эллиптическим порядка 2. Такое же рассуждение применимо и к остальным двум
группам, так что мы можем считать, без ограничения общности, что
элементы g и А эллиптические порядка 2.
Если при этом / — гиперболический элемент, то из того факта, что
группы (f,g) и </, А > элементарны, следует, что ось элемента / содержит
неподвижные точки для g и А, а тогда группа </, g, А > элементарна. Если / -
эллиптический порядка 2, то или три неподвижные точки Wf, Wn-, w^ (для
/, g, А соответственно) коллинеарны, и тогда снова группа </, g, А >
элементарна, или Wy, Wg, Wfi не коллинеарны, и в этом случае (/, g, А > не
элементарна.
Если </, g, А > не элементарна, то на основании § 11.5 имеем
shp(wy., Wg)slip(Wf, Wh) >\> cosC7r/7).
Но ^ ^
P(w/,y^g) <pCw/, vi) + P{vi, Wy) = -- p{vi, У2) + — p{vi, из) <
< Г [P(^i»H') + p(w, U2) + p(yi,w) +p(w, 1;з)]=2г,
*) Это видно, например, из характеристики всех элементарных групп, данной на
с. 171. ~ Примеч, пер.
285

так что в этом случае получается
sh\2r)>cosCnll).
Остаются случаи, когда(f,g,h)
элементарна; покажем, что это невозможно.
Будем считать, что действие происходит в
Я и что (/, g, Л)оставляет
инвариантным положительный луч мнимой оси.
Орбита любой точки, не лежащей на этом
луче, имеет вид
U{...,w_i,Wo,Wi,...);
расположение точек изображено на рис. 11.6.6, причем
для всех 7 .
Теперь вспомним следующее: для того чтобы точка, взятая из орбиты,
лежала внутри или на границе многоугольника Дирихле с центром w,
необходимо, чтобы эта точка была в своей орбите ближайшей к w.
Следовательно, точки Ui, ^2, ^'з > "^4 ближайшие к w (и равноудаленные от W) среди точек
своей орбиты. Элементарные метрические и геометричечкие соображения
показывают, что это может быть лишь в случае, если центр w лежит на
положительном луче мнимой оси, причем (после перенумерации) | Zq I =
= I Wo I и
bl,t^2,t^3,t^4) ={^0,^1,^0,^1}
(рассмотрите биссектор отрезка [u/, ly] - он должен проходить через w).
Допустим, что 1^1 =Zo и V2 =^1 (аналогично просматриваются другие
возможности). Тогда w есть середина отрезка [1^1,1^2], и элемент /, отобра-
жающй Ui. Bi;2, должен быть эллиптическим порядка 2; отсюда следует,
что/ должен фиксировать w, что невозможно. D
Упражнение 11.6
1.В случае теоремы 11.6.1 A) мыимеемЛ/E^,/г) > 1/2. Используя пример 11.6.2,
покажите, что эта граница наилучшая.
2. Пусть группа </, ^ > элементарна. Докажите, что если и, fvygv - три различные
точки на окружности с центром н; то или
(i) / и g - эллиптические элементы, фиксирующие \ц или
(И) один из этих элементов является эллиптическим порядка 2.
3. Рассмотрите рис. 11.6.3. Используя отражения относительно L, а также
действительного и мнимого диаметров Д, покажите, что /~*^есть эллиптический элемент
порядка 3, оставляющий неподвижной одну вершину D,
4. Пусть G есть группа (р, q, г) треугольника. Предположим, далее, что G содержит
элемент g порядка р, фиксирующий точку и, и элемент/ порядка^, фиксирующий и.
Докажите, что
cos(n/p)cos(n/q) + cos (п/г)
ch р {и, V) >
smin/p)sm(n/q)
(это используется в доказательстве теоремы 11.6.6). Указание. Постройте четы-
286

рехугольник с углами 2 тг/р (при вершине и), ln/q (при и), в, в, который содержит
фундаментальную область для G.
5. Пусть G - модулярная группа h^gG - гиперболический элемент с осью^ и
величиной сдвига Tg. Пусть Л'^ есть число образов оси /4, которые пересекают
фиксированный отрезок длины Г^на Л. Покажите, что средняя величина интервала между
образами, а именно ^g/Tg, может быть как угодно малой: более точно, докажите, что
inf Ng/Tg = 0.
g
6. Пусть g - непростой гиперболический элемент в фуксов ой группе, не
содержащей эллиптических элементов. Покажите, что если Т есть величина сдвига для ^» то
sh( — Г 1 >1.
■(г)
§ 11.7. Канонические области и фа1^торповерхности
Рекомендуем читателю вспомнить геометрическое описание
канонической области>Б^ для изометрии^ (см. § 7.37). Аналитически
[ . 1 1
S^ = IZ I sh - p(z, gz)<—\ trace(^)
Если g - параболическая, то
S^=|z|sh ~p(z,^z)<l}. A1.7.1)
если g - гиперболическая с осью A и величиной сдвига Г, то
XgA z|shp(z,yl)sh(~ Tj<l\, A1.7.2)
поскольку в этом случае Zg задается условием
sh - p(z,gz) = sh(~ Tjch f){z. A) < ch( - т\ A1.7.3)
Почти всякая риманова поверхность R конформно эквивалентна Д/G,
где G - некоторая фук сова группа без эллиптических элементов.
Гиперболическая метрика в А проектируется на A/G и тем самым переносится на R,
Следующий результат дает количественную информацию о метрической
(в указанном смысле) структуре/^.
Теорема 11.7.1. Пусть G - фуксова группа без эллиптических
элементов и g,h - два элемента из G.
A) Если g и h - параболические с разными неподвижными точками, то
Zg и Z/, не пересекаются.
B) Если g - параболический, ah- простой гиперболический элемент
в G, то l>g и Х^ не пересекаются.
C) Если g и h - простые гиперболические элементы в G, оси которых
не пересекаются, то 2^ и Z;j не пересекаются.
По существу это означает, что каждый прокол на R лежит в открытом
круге*) и каждый простой замкнутый геодезический контур на R лежит
*) Название "круг" здесь следует понимать не в буквальном смысле, поскольку
радиус этого "круга" равен «». _ Примеч. пер.
287

Рис. 11.7.1
Рис. 11.7.2
В открытом "кольце"; круги не пересекаются между собой, а также с
кольцами; два кольца не пересекаются, если соответствующие контуры не
пересекаются; можно указать размеры кругов и колец (исходя из
размеров канонических областей); каждый круг есть фактор орициклической,
а каждое кольцо — фактор гиперциклической области по циклической
подгруппе группы G. Заметим, что теорема 11.7.1 применима к граничным
гиперболическим элементам.
Доказательство теоремы П.7.1. В случае фуксовой группы
без эллиптических элементов имеем (см. теорему 8.3.1)
1 1
sh — p(z,gz)sh — p(z, hz)>l,
2 2
если <g,/1>не элементарна. С учетом A1.7.1) это доказывает A). Чтобы -
получить геометрическое доказательство A), можно взять
Изометрические окружности для h и h'^ должны лежать в полосе I х | < —
(в противном случае G содержит эллиптические элементы;; отсюда следует,
что 2у и 2;,, построенные с помощью геометрической конструкции, не
пересекаются.
Дадим геометрическое доказательство B) ; аналитическое
доказательство сложнее и использует неравенство
sh
y^T^sh^p(Ah,gA^)>l
(см. доказательство теоремы 8.2.1) — предоставляем читателю восполнить
детали.
Пусть g(z) =z + 1. Рассмотрим ось А элемента А, а также геодезические
Li,L2,LsfL4, построенные на рис. 11.7.1.
Очевидно, каждое из отображений OiV^ и О2О4 есть h или Й"*. Далее,
1 1
Li не может пересечь прямую х = Хо + — , а I2 - прямую х =Хо - —, так
как в противном случае G содержала бы эллиптические элементы.
288

Геодезическая Af^ также не может пересечь прямые x'^Xq - —,х=Хо +
+ — , так как в противном случае А^ будет иметь радиус, больший 1/2,
2
а тогда Л/, будет пересекать ^(>4/,) (вопреки тому,что h - простой элемент).
Следовательно, евклидов отрезок [wi, W2] лежит строго внутри -^о - -г-,
Хо + — I. Каноническая область для h ограничена гиперциклом, который
касается1з и имеет те же конечные точки,что нА^ (поскольку Л (I2) = ^i) ;
каноническая же область для g расположена выше геодезической с
конечными точками дсо - — , ^0 + — , так что S^ П S^ = ф. Этим доказано B).
Чтобы доказать C), обратимся к рис. 11.7.2 с изображенными на нем
г еодезическими £, £ i, £ 2. 3 аметим, что
g'\Af,)^Oro(Af,)^o,(A^),
Так как h есть простой гиперболический элемент, мы видим, что Ii не
может пересечь Л/, (в противном случае геодезическая ai(A^) была бы
образом Afj^, пересекающимся с>1/,). Аналогичным образом L2 не
пересекает Ag, Мы знаем также, что Ii и^г не пересекаются друг с другом
(так как 020^01 G G). Отсюда следует, что существует геодезическая L *, по
одну сторону от котсГрой лежат 11 и g (Z1), а по другую -12 и Л A2). Из
геометрических соображений теперь непосредственно видно,что Е^ П 2^ ~^.
Для аналитического доказательства C) заметим, что поскольку 11 и L 2
не пересекаются, имеем (см. теорему 7.19.2)
dipiA,, ^,)sh(i T.yi^j Т.У 1 + ch(y r,)ch(^ п).
Если I>gC^l,^Фф, то для некоторого z, принадлежащего пересечению,
будет верно A1.7.2) и A1.7.3) - как по отношению к g так и по
отношению кЛ; таким образом:
sh(-ir^)sh(ir;,jehp(^^
< sh^J ^^)sh(~ njchlpiz, Ag) + p(z, A^)] =
- sh^Y ^^rf h(J 7'Ai)[chp(z, Ag) chp(z, Л;,) +
• sh p (z, Ag) sh p (z, Л;,)] < ch^~ r^jch[ jn)^h
вопреки упомянутому выше неравенству, основанному на теореме 7.19.2. П
Можно установить некоторые результаты, касающиеся канонических
областей, даже и в случае фуксовых групп с эллиптическими элементами.
Например, справедлив следующий результат.
19.А.Бердон 2^9

Т e о p e м a 11.7.2. Я>^сгь G - неэлементарная фуксова группа, не
являющаяся группой треугольника. Если g и h - эллиптические или
параболические элементы в G, то либо ig, h )есть циклическая группа, либо
канонические области Z^ и 1^ не пересекаются.
Доказательство. Будем считать g и h примитивными - это
может лишь увеличить размеры S^ и S;,. Построим геодезическую L,
проходящую через неподвижную точку и цдя g (или оканчивающуюся
в ней) и через неподвижную точку v для h . Построим, далее, геодезические
лучи Li и^г, выходящие из w и расположенные симметрично относительно
L, притом так, что g(Li) = L2] аналогичное построение дает лучи Ls и L4,
выходящие из v. Пусть Lf перенумерованы так, что Li и/^з лежат с одной
и той же стороны от L. Если Li пересекает L^,io{g,h) есть группа
треугольника и, значит, совпадает с О (теорема 10.6.6). Поскольку это
противоречит условию, Li и 1з расходятся. Геометрическое описание
канонических областей показывает тогда, что 2^ и Z/, не имеют общих точек. П
Упражнение 11.7
1. (i) Пусть g - параболический элемент с канонической областью L^. Покажите,
что Л-площадь (L^/< ^)) = 2.
(ii) Пусть ^ - гиперболический элемент с величиной сдвига Т, Покажите, что "Eg/ ig)
имеет площадь 2 Г/sh
(г)
(iii) Пусть g - эллиптический элемент с углом поворота 2ir/q. Покажите, что I>gl < g >
viMeer площадь
2tr
1
- 1
sin{n/q)
и это выражение стремнггся к 2 при q -^ °о,
2. Пусть G - неэлементарная фуксова группа. Для каждой параболической
неподвижной точки неопределим множество
1 ^ М
'H^=\z \ sh- p(z,gz)<—l
где g порождает стабилизатор для н». Покажите, что для любых параболических
неподвижных точек и и и
Нц = Hyj или НцГ\Н^= 0.
Докажите, что для всех f^G
§ 11.8. Замечания
Некоторые из результатов § 11.6 имеются в [59, ИЗ]; более полное
алгебраическое исследование см. в [78, 79,96]. В связи с § 11.7 см. [12, 37,
43, 64, 87]; отдельные геометрические результаты о фуксовых группах
см. в [10,75,80-82,84,89].
290

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Бесконечно удаленная точка 119
Биссектор двух геодезических 150
- отрезка 149
Величина сдвига 157
Вершина 132
~ выпуклого фундаментального многоугольника 195
- на бесконечности 200
Внешность угла 131
Внутренность угла 131
Вписавшая окружность 139
Выпуклое множество 128
Выпуклый фундаментальный многоугольник 194
Гиперболическая метрика 13, 36
- модель 49
- окружность 123
- плоскость 118
- прямая 125
Гиперболический круг 123
- пучок 154
Гиперболическое преобразование 65
- пространство 36
Гиперцикл 129
Гиперциклическая область 129
Граничный гиперболический элемент 238
Группа Гекке 261
-Пикара 19,92
- треугольника 247
Двойное отаошение 34, 73
Дискретная группа 11,18
Дополнительное семейство 152
Замкнутая гиперболическая плоскость 119
Замощение 183
G-заполняюший 98
Изометрическая окружность 56,159
- сфера 42
Изометрия 127
Инвариантный круг 88
Инверсия 23
Инверсное произведение 30, 31, 143
Инверсные точки 34
Каноническая область 160, 287
Кватернион 19, 55
Клейнов а группа 95
Коллинеарность 126
19*

Коммутатор 9
Конечная точка геодезической 126
Конформный 11
Коэффициент преобразования 83
Локально выпуклое множество 129
- конечная фундаментальная область 186
Локсодромическое преобразование 65
Луч из Z 126
Мёбиусова группа 25, 29
Мёбиусово преобразование 25
Многоугольник 140
- Дирихле 204
Множество обыкновенных точек 92
Модель Клейна 120
Модулярная группа 19, 206
Накр естл ежащие трансверсали 151
Несобственная вершина 200
Непростой элемент 171
Неравенство Йенсена 7
-йоргенсена 100
Неэлементарная подгруппа 86
Норма матрицы 16
- преобразования 59
Нормальное семейство 45
Область Нильсена 182, 227
Обобщенный многоугольник Дирихле 210
Общий перпендикуляр 149
Односторонние трансверсали 151
Орбита 62
Орисфера 104
Орицикл 129
Орйциклическая область 129
Ори шар 104
Ортогональная матрица 15
Ось 156
Отражение 23
Параболический пучок 153
Параболическое преобразование 65
Параллельные геодезические 126
Пересекающиеся геодезические 126
Площадь треугольника 138
Порядок цикла 198
Правило косинусов 136
- синусов 136
Правильный многогранник 62
Предельное множество 92
Примитивный элемент 171
Продолжение Пуанкаре 36, 57
Простой цикл 199
- элемент 171
Пучки 152
Пятиугольник 145
Равномерно непрерывный 44
Разложение на смежные классы 213
292

Разрывное действие 90
Расходящиеся геодезические 126
Расщепленное множество 234
Ребро выпуклого фундаментального многоугольника 195
Риманова поверхность 110
Свободная сторона 200
Свободное произведение 9
Сигнатура 240
След матрицы 16
- преобразования 59
Собственная вершина 200
Сопряженные классы 9, 235
Сопряженный 9
Спаривание 196, 215
Стабилизатор 62
Стереографическая проекция 24
Сторона выпуклого фундаментального многоугольника 195
Строго локсодромическое преобразование 65
Сфера 30
Теорема Пифагора 135
Теорема Пуанкаре 224
Топологическая группа 10, 46
Точка аппроксимации 233
Трансверсаль 151
Треугольник 132
Угловая сумма цикла 198
Угловой биссектор 139
Угол 131
- вращения 156
- параллельности 134
Унитарная матрица 15, 21
Устойчивое подмножество 115
Фактортопология И
Фуксова группа 115, 170
Фуксовы группы второго рода 170
первого рода 170
Фундаментальная область 183
Форда 210
Фундаментальное множество 183
Функция смещения 157, 272
Хордовая метрика 25
Центр 204
Цикл 198
Четырехугольник 143
- Ламберта 143
- Саккери 143
Чисто гиперболическая группа 172
Шестиугольник 146
Элементарная подгруппа 80
Эллиптическое преобразование 65
Эллиптический пучок 154
Ядро Пуассона 13

список ЛИТЕРАТУРЫ
[ 1 ] А b i к о f f W. The bounded model for hyperbolic 3-space and a uniformization
theorem. - Preprint, 1981.
[2] A b i к о f f W., A p p e 1 K., S h u p p P. Lifting surface groups to SL B, C). -
Proceedings ofOaxtepec Conference, 1981.
[3] A h 1 f о r s L.V. Hyperbolic motions. - Nagoya Math. J., 1967, v. 29, p. 163-166.
[4] A h 1 f о r s L.V. Conformal invariants. - N.Y.: Mc Graw-HiU. 1973.
[5) A h 1 f о r s L.V. Mbbius transformations in several dimensions. - Minnesota, 1981. -
Univ. of Minnesota Lecture Notes.
[6] A h 1 f о г s L.V., S a r i о L. Riemann surfaces. - Princeton: Princeton Univ. Press,
1960.
[7] Alexander H.W. Vectorial inversive and non-Eucliean geometry. - Amer. Math.
Monthly, 1967, V. 74, p. 128-140.
[8]Beardon A.F., M a s к i t B. Limit points of Kleinian groups and finite-sided
fundamental polyhedra. - Acta Math., 1974, v. 132, p. 1-12.
[9] Beardon A.F., Jorgensen T. Fundamental domains for finitely generated
Kleinian groups. - Math. Scand., 1975, v. 36, p. 21-26.
lOjBeardon A.F. Hyperbolic polygons and Fuchsian groups. - J. London Math.
Soc, 1979,v. 20, p. 247-254.
111 В e a r d о n A.F., Waterman P. Strongly discrete subgroups of SL B, C). -
J. London Math. Soc, 1981, v. 24, p. 325-328.
12] Beardon A.F. Lie products, closed geodesies and Fuchsian groups. - Proc, Amer.
Math. Soc, 1982, v. 85, p. 87-90.
13] В e s t L.A. On torsion free discrete subgroups of PSLB, C) with compact orbit
space. - Can. J. Math., 1971, v. 23, p. 451-460.
14] Brooks R.,Matelski J.P.Thedynamicsof2-generator subgroups of PSL B, C).-
Prjnceton: Princeton Univ. Press, 1980. - (Annals of Math. Studies, 97).
15] Brooks R.,Matelski J.PCollars in Kleinian groups. - Duke Math. J. (to appear).
16] Bungaard S., Nielsen J. On normal subgroups with finite index in F-groups. -
Matematisk Tid. В., 1951, p. 56-68.
17] С a s s e 1 s J.W.S. An embedding theorem for fields.- Bull. Aust. Math, Sdc, 1976,
V. 14, p. 193-198.
18] С a s s e 1 s J.W.S. An embedding theorem for fields: Addendum. - Bull. Aust. Math,
Soc, 1976, V. 14, p. 479-480.
19] С h e n S.S., Greenberg L. Hyperbolic spaces. - In: Contributions to Analysis
(edited by L.V. Ahlfors, I. Kra, B. Maskit, L. Nirenberg). - N.Y.: Academic Press, 1974.
20] С h e v'a 1 1 e у С. Theory of Lie groups. - Princeton: Princeton Univ. Press, 1946.
[Русский перевод: Шевалле К. Теория групп Ли. Т^ 1. - М.: ИЛ,
1948.1
21] Coxeter №.S.M. The inversive plane and hyperbolic space. - Abh. Math. Sem.,
Univ.Hambrug, 1966, V. 29,p. 217-242.
22] С о xe ter H.S.M. Inversive distance. - Ann. Mat. Рига Appl., 1966, v. 71, p. 73-83.
23] Curtis M.L. Matrix groups. - N.Y.: Universitext, Springer-Verlag, 1979.
24] D e R h a m G. Sur les,polygones generateurs des groups Fuchsiens. - TEnseigne-
ment Math., 1971, Bd. 17, S. 49-62.
25] D о 1 d A., E с к m a n n B. (editors). A crash course in Kleinian groups. - N.Y.:
Springer-Verlag, 1974. - (Lecture Notes in Mathematics, 400).
26] D u V a 1 P. Homographies, Quaternions and Rotations. - Oxford": Clarendon Press,
1964.
294

Edmonds A.L., E w i n g J.H., К u I к a г n i R.S. Torsion free subgroups of
Fuchsian groups and tesselations of surfaces. - Invent. Math, (to appear).
F a г к a s H.M., Krai. Riemann Surfaces. - N.Y.: Springer-Veriag, 1980. -
(Graduate Texts in Mathematics, 71).
Fenchel W.,Nielsen J. On discontinuous groups of isometric transformations
of the non-Euclidean plane. - N.Y.: Interscience, 1948. - (Studies and Essays Presented
to R.Courant).
Ford L.R. Automorphic Functions. - 2nd ed. - N.Y.: Chelsea,1951. [Русский
перевод первого издания: Форд Л.Р. Автоморфные функции. - М.; Л.: ОНТИ,
1936.]
Fox R.H. On Fenchel's conjecture about F-gioups. - Matematisk Tid. В., 1952,
p. 61-65.
G a n s D. An Introduction to Non-Euclidean geometry,-N.Y.: Academic Press,l 973.
Greenberg L. Discrete subgroups of the Lorentz group. - Math. Scand., 1962,
V. 10, p. 85-107.
Greenberg L, Fundamental polygons for Fuchsian groups. - J. d'Analyse Math.,
1967,v. 18,p. 99-105.
Greenberg L. Finitenegs theoreme for Fuchsian and Kleinian groups. - In:
Discrete Groups and Automorphic Functions/ Ed W.J. Harvey. - Lnd.: Academic
Press, 1977.
Gruenberg K.W., Weir A.J. Linear Geometry. - Princeton: Van-Nostrand,
1967.
Halpern N. A proof of the Collar Lemma. - Bull. London Math. Soc, 1981,
V. 13 p. 141-144.
H e i n s M. Fumdamental polygons of Fuchsian and Fuchsoid groups. - Ann. Acad.
Sci. Fenn., 1964, p. 1-30.
H i g g i n s P.J. An introduction to topological groups. - Cambridge: Cambridge Univ.
Press, 1974. - (London Mathematical Society Lecture Note Series, 15).
Jorgensen Т., KiikkaM. Some extreme discrete groups. - Ann Acad. Sci.
Fenn., Ser. A, 1975, v. 1, p. 245-248.
Jorgensen T. On descrete groups of Mobius transformations. - Amer. J. Math.,
1976,v. 98, p. 739-749/-
Jorgensen T. A note on subgroups of SL B,C). - Quart. J. Math. Oxford Ser.
II, 1977, V. 28, p. 209-212.
Jorgensen T. Closed geodesies on Riemann surfaces. - Proc. Amer. Math. Soc,
1978, V. 72, p. 140-142.
Jorgensen T. Comments on a discreteness condition for subgroups of SL B,
C). - Can. J. Math., 1979, v. 31, p. 87-92.
Jorgensen T. Commutators in SL B, C); Riemann surfaces and related topics. -
Princeton: Princeton Univ. Press, 1980. - (Ann. of Math. Studies, 97).
Keen L. Canonical polygons for finitely generated Fuchsian groups. - Acta Math.,
1966,V. 115,p. 1-16.
Keen L. On infinitely generated Fuchsian groups. - J. Indian Math. Soc, 1971,
V. 35, p. 67-85.
К n a p p A.W. Doubly generated Fuchsian groups. - Michigan Math. J., 1968, v. 15,
p. 289-304.
К n о p p M.I., Newman M. Congruence subgroups of positive genus of the
Modular group. - 111. J. Math., 1965, v. 9, p. 577-583.
Krai. Automorphic From and Kleinian groups. - Benjamin, Reading, Mass., 1972.
[Русский перевод: К p a И. Автоморфные формы и клейновы группы. - М.:
Мир, 1975.)
L е h п е г J. Discontinuous groups and automorphic functions. - Providence: Amer.
Math. Soc, 1964. - (Mathematical Surveys, Number VIII).
Lehner J. A Short Course in Automorphic Functions. - N.Y.: Holt, Rinehart and
Winston, 1966.
Lyndon R.C, и 11 m a n J.L. Groups of elliptic linear fractional transformations. -
Proc Amer. Math. Soc, 1967, v. 18, p. 1119-1124.
M a с b e a t h A.M. Packings, free products and residually finite groups. - Proc
Cambridge Phil. Soc, 1963, v. 59, p. 555-558.
295

Mackbeath A.M. The classification of non-Euclidean plane crystallographic
groups. - Can. J. Math., 1967, v. 19, p. 1192-1205.
Mackbeath A.M., H о a r e A.H.M. Groups of hyperbolic cristallography. - Math.
Proc. Cambridge Phil. Soc, 1976, v. 79, p. 235-249.
Magnus J.W. Non-Euclidean Tasselation and Their Groups. - N.Y.: Academic
Press, 1974.
M a r d e n A. On finitely generated Fuchsian groups. - Comment. Math. Helvitici,
1967, V. 42, p. 81-85.
M a r d e n A. Universal properties of Fuchsian groups in the Poincare metric;
Discontinuous groups and Riemann surfaces. - Princeton: Princeton Univ. Press, 1974. -
(Annals of Math. Studies, 79).
M a s к i t B. On Klein's combination theorem. - Trans. Amer. Math. Soc, 1965,
V. 120, p. 499-509.
M a s к i t B. On Klein's combination theorem II. - Trans. Amer. Math. Soc, 1968,
V. 131, p. 32-39.
M a s к i t B. On Poincare*s theorem for fundamental polygons. - Adv. in Math.,
1971,v. 7,p. 219-230.
M a s s e у W.S. Algebraic Topology: An Introduction. - N.Y.: Springer-Verlag,
1967. - (Graduate Texts in Mathematics, 56).
M a t e 1 s к i J.P. A compactness theorem for Fuchsian groups of the second kind. -
Duke Math. J., 1976, v. 43, p. 829-840.
M a t e I s к i J.P. The-classification of discrete 2-generator subgroups of PSL B, C). -
Israel J. Math, (to appear).
Meschkowski H. Noneuclidean Geometry. - N.Y.: Academic Press, 1964.
M 111 m a n R.S. Kleinian transformation geometry. - Amer. Math. Monthly, 1977,
V. 84 p. 338-349.
M i 1 n о r J. Hyperbolic geometry: the first 150 years. - Bull. Amer. Math. Soc,
1982,v. 6,p. 9-24.
Montgomery D., Zippin L. Topological Transformation Groups. - N.Y.:
Interscience, 1955.
Натанзон CM. Инвариантные прямые фуксовых групп. - УМН, 1972, т. 27,
№4, с 161-177.
N i с h о 1 1 s PJ., Z а г г о W R. Convex fundamental regions for Fuchsian groups. -
Math. Proc Cambridge Phil. Soc, 1978, v. 84, p. 507-518.
N i с h о 11 s P.J., Z a r r о w R. Convex fundamental regions for Fuchsian groups II. -
Math. Proc. Cambridge Phil. Soc, 1979, v. 86, p. 295-300.
N i с h о 11 s P.J. Garnett points for Fuchsian groups. - Bull. London Math. Soc,
1980, v. 12, p. 216-218.
Patterson S.J. On the cohomology of Fuchsian groups. ~ Glasgow Math. J.,
1975, v. 16, p. 123-140.
Patterson S.J. Diophantine approximation in Fuchsian groups. - Phil. Trans. Roy,
Soc. London, 1976, v. 282, p. 527-563.
Peczynski N., Rosenberger G., Zieschang H. Uber Erzeugende
ebener deskontinuierlicher Gruppen. - Invent. Math., 1975, Bd. 29, S. 161-180.
Poincare H. Theorie desgroupes Fuchsiens. - Acta Math., 1882, Bd. 1, S. 1-62.
Pommerenke Ch., P u r z i t s к у N. On the geometry of Fuchsian groups. -
Preprint, 1981.
Pommerenke Ch., Purzitsky N. On some universal bounds for Fuchsian
groups. - Preprint, 1981.
Purzitsky N. Two generator Fuchsian groups of genus one. - Math. Zeit., 1972,
V. 128, p. 245-251.
Purzitsky N. Two generator descrete free products. - Math. Zeit., 1972, v. 126,
p. 209-223.
Purzitsky N. Correction to: two generator Fuchsian groups of genus one. - Math.
Zeit., 1973, V. 132, p. 261-262.
Purzitsky N. Canonical generators of Fuchsian groups. - 111. J. Math., 1974^
V. 18, p. 484-490.
Purzitsky N. All two generator Fuchsian groups. - Math. Zeit., 1976, v. 147,
p. 87-92.
296

Purzitsky N. A cutting and pasting of non-compact polygons with applications to
Fuchsian groups. - Acta Math., 1979, v. 143, p. 233-250.
Purzitsky N. Quasi Fricke polygons and the Nielsen convex region. - Math.
Zeit., 1980, V. 172, p. 239-244.
R a n d о 1 В. Cylinders in Riemann surfaces. - Comment. Math. Helvitici, 1979,
V. 54, p. 1-5.
R e a d e M.O. On certain conformal maps in space. - Michigan Math., J., 1957, v. 4,
p. 65-66.
Rosenberger G. Eine Bemerkung zu einer Arbeit von T. Jorgensen.,- Math.
Zeit., 1979, Bd. 165, S. 261-265.
R u d i n W. Real and Complex Analysis. - N.Y.:McGraw-Hill, 1966.
Schwarzenberger R.L.E. A^-dimensional crystallography. - Lnd.: Pitman,
1980. - (Research Notes on Mathematics, 41).
S e 1 b e r g A. On discontinuous groups in higher-demensional spaces. - In: Conri-
butions to function theory, Tata Institute, Bombey, 1960.
Shinnar M., Sturm J. The maximal inscribed ball of a Fuchsian group;
Discontinuous groups and Riemann surfaces. - Princeton: Princeton Univ. Press, 1974. -
(Ann. of Math. Studies, 79).
S i e g e 1 C.L. Discontinuous groups. - Ann. of Math., 1943, v. 44, p. 674-689.
Si eg el C.L. Bemerkung zu einem Satze von Jacob Nielsen; - Mat. Tidsskrift B,
1950, S. 66-70.
S i e g e 1 C.L. Uber einige Ungleichungen bei Bewegungsgruppen in der nichteukli-
dischen Ebene. - Math. Ann., 1957, Bd. 133, S. 127-138.
Singerman D. Subgroups of Fuchsian groups and finite permutation groups. -
BuU. London Math. Soc, 1970, v. 2, p. 319-323.
Singerman D. On the structure of non-Euclidean crystallographic groups. -
Proc. Cambridge Phil. Soc, 1974, v. 76, p. 233-240.
S о r V a 1 i T. On discontinuity of Mbbius groups without elliptic elements. - Univ.
Joensuu, Ser. B, 1974, v. 9, p. 1-4.
Springer G. Introduction to Riemann Surfaces. - Addison-Wesley, Reding, Mass,
1957. [Русский перевод: Спрингер Г. Введениев теорию римановых
поверхностей. - М.: ИЛ, 1960.]
Thurston W. The geometry and topology of 3-manifolds: Lecture notes. -
Princeton, 1980^
T i e t z e H. Uber Konvexheit in kleinen und im grossen und uber gewisse den Punkten
einer Menge zugeordnete Dimensionalzahlen. - Math. Zeit., 1928, Bd. 28, S. 697-707.
T s u j i M. Potential Theory in Modern Function Theory. - Tokyo: Maruzen, 1959.
T u к i a P. On torsionless subgroups of infinitely generated Fuchsian groups. - Ann.
Acad. Sci. Fenn., Ser. A, 1978-79, v. 4, p. 203-205. ,
V a i s a 1 a J. Lectures on я-dimensional quasiconformal mappings. - N.Y.: Sprmger-
Verlag, 1971. - (Lecture Notes in Mathematics, 229).
Wang H. Discrete nilpotent subgroups of Lie groups. - J. Diff. Geometry, 1969,
V.3, p. 481-492.
Weil H. Symmetry. - Princeton: Princeton Univ. Press, 1952.
Wielenberg N.J. Discrete Mobius groups, fundamental polyhedra and
convergence. - Amer. J. Math., 1977, v. 99, p. 861- 877.
Wielenberg N.J. On the limit set of discrete Mobius groups with finite sided
polyhedra. - Preprint, 1976.
W i 1 к e r J.B. Inversive geometry. - In: The Geometric Vein/Ed. С Davis, B. Grun-
baum, F.A. Scherk. - N.Y.: Springer-Verlag, 1981.
Wolf J. Spaces of Constant Curvature. - N.Y.: McGraw-Hill,!967. [Русский
перевод: Вольф Дж. Пространстда постоянной кривизны. - М.: Наука, 1982.]
W у 1 i е C.R. Foundations of Geometry. - N.Y.: McGraw-Hill, 1964.
Y a m a d a A. On Marden*s universal constant of Fuchsian groups. - Kodai Math. J.,
1981,v.4,p. 266-277.
[114)Zieschang H., Vogt E., ColdeweyH. Surfaces and planar discontinuous
groups. - N.Y.: Springer-Verlag, 1980. - (Lecture Notes in Mathematics, 835).
297

ОГЛАВЛЕНИЕ
Предисловие переводчика ,3
Предисловие 5
Глава 1. Предварительные сведения 7
§ 1.1. Обозначения 7
§ 1.2. Неравенства 7
§ 1.3. Алгебра 8
§ 1.4. Топология 9
§ 1.5. Топологические группы ^ 10
§ 1.6. Анализ И
Глава 2. Матрицы 14
§ 2.1. Невырожденные матрицы 14
§ 2.2. Метрическая структура 16
§ 2.3. Дискретные группы 18
§ 2.4. Кватернионы 19
§ 2.5. Унитарные матрицы 21
Глава 3. Мёбиусовы преобразования в R'l 23
§ 3.1. М'ёбиусова группа в R . \ 23
§ 3.2. Свойства мёбиусовых преобразований 30
§ 3.3. Продолжение Пуанкаре t 35
§ 3.^. Отображения на себя единичного шара 38
§ 3.5. Общий вид мёбиусова преобразования 41
§ 3.6. Теоремы искажения 43
§ 3.7. Структура топологической группы 46
§ 3.8. Замечания 54
Глава 4. Комплексные мёбиусовы преобразования 55
§ 4.1. Представление с помощыо кватернионов 55
§ 4.2. Представление с помощью матриц 58
§ 4.3. Неподвижные точки и сопряженные классы 62
§ 4.4. Двойное отношение 73
§ 4.5. Топология ъМ 75
§ 4.6. Замечания 79
Глава 5. Разрывные группы 80
§ 5.1. Элементарные группы , 80
§ 5.2. Группы с инвариантным кругом 88
§ 5.3. Разрывные группы 90
§ 5.4. Неравенство Йоргенсена 100
§ 5.5. Замечания 109
298

Глава 6. Римановы по1|ерхности 110
§ 6.1. Римановы поверхности НО
§ 6.2. Факторпространства 111
§ 6.3. Устойчивые множества 115
Глава 7. Гиперболическая геометрия 118
Основные понятия 118
§ 7.1. Гиперболическая плоскость 118
§ 7.2. Гиперболическая метрика 120
§ 7.3. Геодезические 125
§ 7.4. Изометрии 127
§ 7.5. Выпуклые множества 128
§ 7.6. Углы 131
Гиперболическая тригонометрия 131
§ 7.7. ТреугОлы1ики 131
§ 7.8. Обозначения 133
§ 7.9. Угол параллелыюсти 134
§ 7.10. Треуголы1ики с вершиной в бесконечности 134
§ 7.11. Прямоуголы1ые треуголы1ики 135
§ 7.12. Правила синусов и косинусов 136
§ 7.13. Площада треугольника 138
§ 7.14. Вписанная окружность 139
Многоугольники 140
§ 7.15. Площадь многоугольника 140
§ 7.16. Выпуклые многоугольники 141
§ 7.17. Четырехугольники 143
§ 7.18. Пятиугольники . ^ 145
§ 7.19. Шестиугольники 146
Геометрия геодезических 147
§ 7.20. Расстояние от точки до прямой 147
§ 7.21, Биссектор отрезка 149
§ 7.22. Общий перпендикуляр к расходящимся геодезическим 149
§ 7.23. Расстояние между расходящимися геодезическими 15*0
§ 7.24. Угол между пересекающимися геодезическими 150
§ 7.25. Биссектор двух геодезических 150
§ 7.26. Трансверсали 151
Пучки геодезических 152
§ 7.27. Общая теория пучков 152
§ 7.28. Параболические пучки 153
§ 7.29. Эллиптические пучки 154
§ 7.30. Гиперболические пучки 154
Геометрия изометрии 155
§ 7.31. Классификация изометрии 155
§ 7.32. Параболические изометрии 155
§ 7.33. Эллиптические изометрии 156
§ 7.34. Гиперболические изометрии 156
§ 7.35. Функщш смещения 157
§ 7.36. Изометрические окружности 159
§ 7.37. Канонические области 160
§ 7.38. Геометрия произведения изометрии 162
§ 7.39. Геометрия коммутаторов 166
§ 7.40. Замечания 169
299

Глава 8. Фуксовы группы ; 170
§ 8Л. Фуксовы группы 170
§ 8.2. Чисто гиперболические группы 172
§ 8.3. Группы без эллиптических элементов 178
§ 8.4. Критерий дискретности 180
§ 8.5. Область Нильсена 181
§ 8.6. Замечания 182
Глава 9. Фундаментальные области 183
§ 9.1. Фундаментальные области 183
§ 9.2. Локально конечные фундаментальные области 185
§ 9.3. Выпуклые фундаментальные многоугольники 194
§ 9.4. Многоугольник Дирихле 203
§ 9.5. Обобщенные многоугольники Дирихле 210
§ 9.6. Фундаментальные области в случае разложения на смежные классы. . 213
§ 9.7. Преобразования, спаривающие стороны 215
§ 9.8. Теорема Пуанкаре 217
§ 9.9. Замечания 226
Глава 10. Конечно порожденные группы 227
§ 10.1. Фундаментальные многоугольники с конечным числом сторон . , , . 227
I 10,2. Точки аппроксимации 231
§ 10.3. Сопряженные классы 235
§ ^0.4. Сигнатура фуксов ой группы 240
§ 10.5. Число сторон фундаментального многоугольника 245
§ 10.6. Группы треугольника 247
§ 10.7. Замечания 255
Глава 11. Общие ограничения на фуксовы группы 256
§ 11.1. Равномерность дискретности 256
§ 11.2. Универсальные ограничения на циклы вершин 257
§ 11.3. Группы Гекке 261
§ 11.4. Неравенства для следа 262
§ 11.5. Три эллиптических элемента второго порядка 267
§ П.б.Универсальныеоценки для функции смещения 272
§ 11.7, Канонические области и факторповерхности 287
§ 11.8. Замечания 290
Предметный указатель 291
Список литературы 294

Алан Бердон
ГЕОМЕТРИЯ ДИСКРЕТНЫХ ГРУПП
Редактор Т.А. Панькова
Художественный редактор Т.Н. Кольченко
Технические редакторы О.Б. Черняк, СВ. Геворкян
Корректор Т.В. Обод
Набор осуществлен в издательстве
на наборно-пвчатающих автоматах
ИБ№ 12685
Сдано в набор 05.10.85. Подписано к печати 02.01.86
Формат 60 X 90 1/16. Бумага тип 2
Гарнитура Пресс-Роман. Печать офсетная. Усл.печл. 19*0
Усл.кр.ютт. 19,0. Уч.-издл. 18,89. Тираж 5100 экз,
Тип.зак. 980 . Цена 2 р. 90 к.
Ордена Трудового Красного Знамени
издательство **Наука**
Главная редакция физико-математической литературы
117071 Москва В-71, Ленинский проспект, 15
4-я типография издательства "Наука**
630077 г. Новосибирск-77, ул. Станиславского, 25