Н.Я.Виленкин
СПЕЦИАЛЬНЫЕ ФУНКЦИИ И ТЕОРИЯ ПРЕДСТАВЛЕНИЙ ГРУПП
Решение очень многих важных задач математической физики и техники не
может быть выражено с помощью обычных, элементарных функций, и тогда
приходят на помощь специальные функции (функции Лежандра, функции
Бесселя, гипергеометрическая функция и т. д.). Теория специальных функций
очень детально разработана и включает в себя необозримое множество формул и
соотношений, выводимых самыми разнообразными методами, что затрудняет ее
изучение.
Целью данной книги является изложение теории специальных функций с
единой точки зрения при помощи теории представлений групп. Этот подход
позволяет единым образом получать всевозможные соотношения между
специальными функциями, как ранее известные, так и новые.
Книга предназначена для математиков, физиков (как теоретиков, так и
экспериментаторов), научных работников в областн техники, а также может быть
использована аспирантами и студентами старших курсов университетов.
Содержание
Предисловие 13
Введение 17
ГЛАВА I
ПРЕДСТАВЛЕНИЯ ГРУПП
§ 1. Основные понятия теории представлений 22
1. Определение 22
2. Матричная запись представлений 24
3. Эквивалентные представления 26
4. Сопряженные представления 27
5. Эрмитово-сопряженные представления. Унитарные представления 28
6. Инвариантные подпространства. Неприводимые представления 29
7. Разложение представления в прямую сумму 30
8. Полная приводимость унитарных представлений 32
9. Кронекеровское умножение представлений 33
10. Характеры представлений 34
11. Инфинитезимальные операторы представления 35
§ 2. Группы преобразований и их представления 38
1. Группы преобразований 38
2. Транзитивные группы преобразований 38
3. Инвариантные меры 40
4. Представления групп операторами сдвига 41
5. Представления класса 1. Сферические функции 44
6. Индуцированные представления 45
7. Представления групп с операторным множителем 46
8. Некоторые примеры 48
§ 3. Инвариантные операторы и теория представлений 49

1. Операторы, перестановочные с представлениями 49
2. Лемма Шура 51
3. Следствия из леммы Шура 52
4. Инвариантные операторы 54
§ 4. Представления компактных групп 55
1. Матричные группы. Компактные и локально компактные группы 55
2. Полная приводимость представлений компактных групп 57
3. Ряды Фурье на компактных группах 58
4. Гармонический анализ функций на компактных группах 63
5. Разложение функций на однородных пространствах 65
6. Свертка функций на группе 68
7. Разложение центральных функций 69
Дополнение к главе I. Некоторые сведения о линейных пространствах 72
1. Кронекеровское или тензорное произведение линейных пространств и 72
операторов
2. Операторы типа Гильберта — Шмидта 74
3. Тензорное произведение гильбертовых пространств 75
4. Счетно-гильбертовы пространства. Ядерные пространства 77
5. Ортогональная прямая сумма гильбертовых пространств 78
6. Непрерывная прямая сумма гильбертовых пространств 79
7. Разложение операторов в непрерывную прямую сумму операторов 80
ГЛАВА II
АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ И
ПОКАЗАТЕЛЬНАЯ ФУНКЦИЯ. РЯДЫ И ИНТЕГРАЛЫ ФУРЬЕ
§ 1. Показательная и тригонометрические функции 81
1. Неприводимые унитарные представления группы R 81
2. Группа вращений плоскости и тригонометрические функции 82
3. Группа гиперболических вращений плоскости и гиперболические 84
функции
4. Комплексная форма группы SOB) 86
§ 2. Ряды Фурье 87
1. Инвариантное интегрирование на группе SOB) 87
2. Тригонометрическая система функций. Ряды Фурье 87
3. Разложение регулярного представления группы SOB) 88
4. Разложение бесконечно дифференцируемых функций 89
§ 3. Интеграл Фурье 90
1. Регулярное представление группы R 90
2. Преобразование Фурье и его свойства 91
3. Формула обращения 93
4. Формула Планшереля 96
5. Преобразование функций с интегрируемым квадратом 97
6. Интеграл Фурье для функций нескольких переменных 98
§ 4. Преобразование Фурье в комплексной области 99

1. Определение
2. Преобразование функций с интегрируемым квадратом
3. Преобразование Меллина
ГЛАВА III
ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА И
МНОГОЧЛЕНЫ ЛЕЖАНДРА И ЯКОБИ
§ 1. Группа SUB)
1. Параметризация
2. Углы Эйлера произведения двух матриц
3. Алгебра Ли
4. Комплексификация
5. Связь с группой вращений
6. Углы Эйлера вращений
7. Сфера, как однородное пространство
§ 2. Неприводимые унитарные представления 7}(г/)
1. Представления в пространствах однородных многочленов
2. Инфинитезимальные операторы представления 7}(г/)
3. Неприводимость
4. Инвариантное скалярное произведение
5. Полнота системы представлений 7}(г/)
§ 3. Матричные элементы представлений 7}(g). Многочлены Лежандра и
Якоби
1. Вычисление матричных элементов
2. Различные выражения матричных элементов
3. Выражение через углы Эйлера
4. Различные выражения функций $тп(?)
5. Частные значения Plmn(z~)
6. Соотношения симметрии
7. Матрицы Т0)
8. Соотношения обхода
9. Связь с классическими ортогональными многочленами
10. Многочлены Лежандра как зональные сферические функции
§ 4. Функциональные соотношения для функций Plmn(z)
1 Теорема сложения
2. Теорема сложения для многочленов Лежандра
3. Формула умножения
4. Рекуррентные формулы
5. Дифференциальное уравнение
6. Инфинитезимальные операторы регулярного представления
7. Инфинитезимальные операторы и рекуррентные формулы
8. Оператор Лапласа
9. Дальнейшие рекуррентные соотношения

§ 5. Производящие функции для Plmn(z~)
1. Случай фиксированных / и п
2. Рекуррентные формулы при различных значениях /
3. Случай фиксированных тип
4. Интегральные представления Дирихле — Мерфи
5. Рекуррентные формулы для многочленов Лежандра
§ 6. Разложение функций на группе SUB)
1. Инвариантная мера
2. Соотношения ортогональности для функций $тп(?)
3. Разложения в ряды по функциям Р1тп(х)
4. Некоторые подпространства функций
5. Разложение функций на сфере
6. Разложение полей величин на сфере
§ 7. Характеры представлений Г/(ы)
1. Вычисление характеров
2. Ортогональность характеров
3. Разложение центральных функций
§ 8. Коэффициенты Клебша — Гордана
1. Кронекеровское произведение представлений Г/(ы)
2. Базисы в пространстве Щ ®^
3. Вычисление коэффициентов Клебша — Гордана
4. Соотношения симетрни
5. Некоторые частные значения
6. Разложение произведений функций Plmn(z)
7. Связь с многочленами Якоби
8. Рекуррентные формулы
9. Производящая функция
ГЛАВА IV
ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ И ФУНКЦИИ
БЕССЕЛЯ
§ 1.ГруппаМB)
1. Определение
2. Параметризации
3. Алгебра Ли
4. Комплексификация
§ 2. Неприводимые унитарные представления группы МB)
1. Описание представлений
2. Инфинитезимальные операторы
3. Неприводимость представлений
4. Представления скрещенных произведений
§ 3. Матричные элементы представлений TR(g) и функции Бесселя
1. Вычисление матричных элементов

2. Связь функций Бесселя с противоположными индексами
3. Разложение функций Бесселя в степенные ряды
§ 4. Функциональные соотношения для функций Бессепя
1. Теорема сложения
2. Формула умножения
3. Рекуррентные формулы
4. Дифференциальное уравнение
5. Производящая функция
6. Рекуррентные соотношения
§ 5. Разложения представлений группыМB) и преобразование Фурье —
Бесселя
1. Квазирегулярное представление
2. Преобразование Фурье — Бесселя
3. Разложение квазирегулярного представления
4. Инфинитезимальные операторы
5. Разложение регулярного представления
§ 6. Произведение представлений
1. Кронекеровское произведение представлений TR(g)
2. Кронекеровское произведение и формула умножения
§ 7. Функции Бесселя и функции Р1тп(х)
1. Группа движений плоскости и группа вращений сферы
2. Функции Бесселя и многочлены Якоби
3. Асимптотическая формула для коэффициентов Клебша— Гордана
ГЛАВА V
ПРЕДСТАВЛЕНИЕ ГРУППЫ ДВИЖЕНИЙ ПСЕВДОЕВКЛИДОВОЙ
ПЛОСКОСТИ И ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА
§ 1. Представления группы линейных преобразований прямой линии и Г-
функция
1. Группа линейных преобразований прямой линии
2. Неприводимые представления группы G
3. Приведение операторов R^(g@, а)) к диагональному виду
4. Выражение ядра K(w, z; g) через Г-функцию
5. Свойства Г-функции
6. Теорема сложения для Г-функции и ее следствия
7. Бета-функция и формула удвоения для Т(х)
8. Преобразование Фурье функций х"и/
9. Представления группы линейных преобразований прямой,
индуцированные одномерными представлениями подгруппы^!
§ 2. ГруппаЛЖB) движений псевдоевклидовой плоскости
1. Псевдоевклидова плоскость
2. ГруппаМЯB)
3. Параметризации группы AfflB)

4. Алгебра Ли группы МН(Т)
§ 3. Представления группы МН(Т)
1. Неприводимые представления
2. Другая реализация представлений TR(g) группыМН(Т)
3. Унитарный случай
4. Функции Макдональда и Ганкеля
5. Выражение ядер представления Q%(g) через функцию Макдональда
6. Инфинитезимальные операторы представлений TR(g) и Q%(g)
7. Неприводимость представлений TR(g)
§ 4. Рекуррентные формулы и дифференциальное уравнение для функций
Макдональда и Ганкеля
1. Соотношения между нифинитезимальными операторами и операторами
представления
2. Рекуррентные формулы
3. Дифференциальные уравнения для функций Макдональда и Ганкеля
4. Связь между функциями Ганкеля и функциями Бесселя
§ 5. Функциональные соотношения для функций Ганкеля и Макдональда
1. Вводные замечания
2. Интегральное представление
3. Разложение в степенные ряды
4. Преобразования Меллина
5. Преобразования Меллина (продолжение)
6. Теоремы сложения
7. Теоремы умножения
8. Взаимно обратные интегральные преобразования
§ 6. Разложение квазирегулярного представления группыМНB~)
1. Квазирегулярное представление группы МНB~)
2. Интегральные преобразования
ГЛАВА VI
ПРЕДСТАВЛЕНИЯ ГРУППЫ QUB) УНИМОДУЛЯРНЫХ
КВАЗИУНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА И ФУНКЦИИ
ЛЕЖАНДРА И ЯКОБИ
§ 1. Группа QUB)
1. Описание
2. Подгруппы группы SZB, R)
3. Параметризации группы QUB)
4. Инвариантное интегрирование
5. Алгебра Ли
§ 2. Неприводимые представления группы QUB)
1. Пространство В„(
2. Представления Т (g)
3. Инфинитезимальные операторы

4. Неприводимость
5. Целочисленные представления
6. Условия эквивалентности
7. Условия унитарности
8. Унитарно-сопряженные представления
§ 3. Матричные элементы представлений Т (g)
1. Вычисление матричных элементов
2. Выражение через углы Эйлера
3. Различные выражения функций P™(z)
4. Зональные сферические функции представлений T^(g) и функции
Лежандра
5. Присоединенные функции Лежандра
6. Соотношения симметрии для функции \i'mi! (clvc)
7. Функции P™(z) в целочисленном случае
§ 4. Функциональные соотношения для Р^(с1гт)
1. Теорема сложения
2. Целочисленный случай
3. Теоремы сложения для функций Лежандра
4. Формула умножения
5. Рекуррентные формулы
6. Производящая функция
7. Континуальная производящая Функция
§ 5. Разложение регулярного представления группы QUB)
1. Регулярное представление группы QUB)
2. Рекуррентные соотношения и нифинитезимальные операторы
3. Разложение функций на группе QUB)
4. Разложение регулярного представления группы QUB) на неприводимые
5. Разложение индуцированных представлений группы QUB)
6. Соотношения ортогональности для функций Р'т„(-*)
ГЛАВА VII
ПРЕДСТАВЛЕНИЯ ГРУППЫ ВЕЩЕСТВЕННЫХ УНИМОДУЛЯРНЫХ
МАТРИЦ И ГИПЕРГЕОМЕТРИЧЕСКАЯ ФУНКЦИЯ
§ 1. Гипергеометрическая функция 345
1. Определение 345
2. Некоторые соотношения 347
3. Некоторые интегралы, выражающиеся через гипергеометрическую 348
функцию
4. Выражение функций и многочленов Якоби через гипергеометрическую 349
функцию
§ 2. Группа SLB, R) вещественных унимодулярных матриц второго порядка 350
1. Вводные замечания 350

2. Параметризация
3. Алгебра Ли
§ 3. Неприводимые представления группы SLB, R)
1. Описание
2. Другая реализация представлений Т (g)
3. Операторы второй реализации представлений Т (g)
4. Инфинитезимальные операторы
§ 4. Вычисление ядер представления RSg)
1. Вычисление K(A,(j.;%;h) и К(А,ц;%;и)
2. Случай треугольных матриц
3. Общий случай
4. Некоторые интегральные преобразования, связанные с
гипергеометрической функцией
§ 5. Рекуррентные формулы для гипергеометрической функции.
Гипергеометрическое уравнение
1. Соотношения между нифинитезимальными операторами и операторами
представления
2. Рекуррентные формулы
3. Гипергеометрическое уравнение
§ 6. Интегральные представления и формула сложения для
гипергеометрической функции
1. Вводные замечания
2. Интегральные представления
3. Преобразование Меллина
4. Теоремы сложения
§ 7. Представления группы вещественных матриц второго порядка и
функции Ганкеля
1. Новая реализация представлений Ty(g)
2. Вычисление ядра оператора Qz(s)
ГЛАВА VIII
ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ ТРЕТЬЕГО
ПОРЯДКА И ФУНКЦИИ УИТТЕКЕРА
§ 1. Функции Уиттекера и вырожденная гипергеометрическая функция
1. Определение
2. Вырожденная гипергеометрическая функция
§ 2. Группа треугольных матриц третьего порядка и ее представления
1. Алгебра Ли
2. Разложение по однопараметрическим подгруппам
3. Неприводимые представления группы G1
4. Другая реализация представлений Т (g)
5. Инфинитезимальные операторы представлений Ryig)
6. Вычисление ядер представлений

§ 3. Функциональные соотношения для функций Уиттекера
1. Соотношения между нифинитезимальными операторами и операторами
представления
2. Рекуррентные соотношения
3. Дифференциальное уравнение Унттекера
4. Соотношения симметрии для функций Уиттекера
§ 4. Интегралы, связанные с функциями Уиттекера
1. Представление Меллина — Бернса
2. Преобразование Меллина по параметрам
3. Континуальные теоремы сложения
4. Двойственные формулы
5. Вырожденные случаи теорем сложения
§ 5. Многочлены Лагерра и представления группы комплексных
треугольных матриц третьего порядка
1. Определение многочленов Лагерра
2. Группа комплексных треугольных матриц третьего порядка и
многочлены Лагерра
ГЛАВА IX
ГРУППА ВРАЩЕНИЙ «-МЕРНОГО ЕВКЛИДОВА ПРОСТРАНСТВА И
ФУНКЦИИ ГЕГЕНБАУЭРА
§ 1. Группа SO(ti)
1. Сферические координаты
2. Описание группы SO(ti)
3. Углы Эйлера
4. Инвариантное интегрирование
§ 2. Представления класса 1 группы SO(ti) и гармонические многочлены
1. Квазирегулярное представление
2. Представления в пространствах однородных многочленов
3. Гармонические многочлены
4. Инвариантность подпространства §"'
5. Гармоническая проекция многочлена. Представление в пространстве
гармонических многочленов
6. Каноническое разложение однородных многочленов
7. Разложение квазирегулярного представления
8. Разложение сужения представления P^(g) на подгруппу SO(rt-l)
9. Инфинитезимальные операторы представления P^(g)
10. Неприводимость представлени
11. Полнота системы представлени
§ 3. Зональные сферические функции представлений P^(g) и многочлены
Гегенбауэра
1. Описание зональных сферических функций.
2. Дифференциальное уравнение и рекуррентные соотношения для
многочленов Гегенбауэра
3. Частные случаи и частные значения многочленов Гегенбауэра

4. Соотношения ортогональности для многочленов Гегенбауэра
5. Разложение пространства гармонических многочленов
6. Построение канонического базиса
7. Разложение функций на «-мерной сфере
§ 4. Матричные элементы нулевого столбца
1. Элементы «нулевого столбца» канонической матрицы
2. Теорема сложения для многочленов Гегенбауэра
3. Формула умножения для многочленов Гегенбауэра
4. Реализация представлений Т(?) в пространстве функций от п — 1
переменного
5. Разложение пространстваGUPi
6. Инвариантное скалярное произведение в пространстве GUPi
7. Интегральное представление многочленов Гегенбауэра
8. Связь между многочленами Гегенбауэра и присоединенными функциями
Лежандра
9. Некоторые разложения по многочленам Гегенбауэра
10. Другие интегральные представления многочленов Гегенбауэра
11. Некоторые интегралы, содержащие многочлены Гегенбауэра
12. Производящая функция для многочленов Гегенбауэра
§ 5. Сферические функции и оператор Лапласа. Полнсферические функции
1. Оператор Лапласа на сфере
2. Полнсферические координаты
3. Дифференциал длины дуги и оператор Лапласа в полнсферических
координатах
4. Собственные функции оператора Лапласа в полнсферических
координатах
ГЛАВА X
ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ 77-
МЕРНОГО ПРОСТРАНСТВА И ФУНКЦИИ ЛЕЖАНДРА
§ 1. Псевдоевклидово пространство и гиперболические вращения.
1. Псевдоевклидово пространство.
2. Группа Sff(ti)
3. Пространство Лобачевского
4. Углы Эйлера в группе SH(ri)
§ 2. Представления класса 1 группы SH(ri)
1. Описание представлений 7"o(g)
2. Сопряженные представления
3. Неприводимость представлений 7Ilo(g)npH нецелых а
4. Приводимость представления 7Ilo(g)npH целых значениях а
5. Условия унитарности представления 7"o(g)
6. Эквивалентность представлений J^^ig)
§ 3. Зональные и присоединенные сферические функции представлений
класса 1 группы SH(ri)

1. Построение базиса в пространстве ?D
2. Интегральное представление зональных и присоединенных; сферических
функций
3. Выражение зональной функции через гипергеометрическую функцию
4. Вычисление присоединенных сферических функций
5. Теорема сложения для функций Лежандра
6. Теорема умножения для функций Лежандра
7. Производящая функция для присоединенных функций Лежандра
§ 4. Разложения представлений группы SH(ri) и преобразование Фока —
Мелера
1. Вводные замечания
2. Инвариантное интегрирование в пространстве Лобачевского и на
орисферах
3. Интегральное преобразование Гельфанда — Граева
4. Квазирегулярное представление группы SH(ri)
5. Интегральные преобразования функций на гиперболоиде
§ 5. Оператор Лапласа на гиперболоиде. Полисферические и
орисферические функции на гиперболоиде
1. Оператор Лапласа на гиперболоиде
2. Полисферические координаты на гиперболоиде [х, х] = 1.
3. Орисферические координаты на гиперболоиде
4. Разделение переменных в орисферических координатах
ГЛАВА XI
ГРУППА ДВИЖЕНИЯ «-МЕРНОГО ЕВКЛИДОВА ПРОСТРАНСТВА И
ФУНКЦИИ БЕССЕЛЯ
§ 1. Группа M(ti)
§ 2. Непрнаодимые представления класса 1 группыM(ti)
1. Описание представлений TR(g)
2. Неприводимость представлений TF(g)
§ 3. Зональные и присоединенные сферические функции представлений
класса 1 группы M(ti)
1. Базис в пространстве ^(S5^1)
2. Вычисление зональных сферических функций
3. Присоединенные сферические функции
4. Теорема сложения для функций Бесселя
5. Теорема умножения для функций Бесселя
6. Производящая функция для функций Бесселя
7. Некоторые интегралы, содержащие функции Бесселя
§ 4. Предельный переход по размерности пространства. Многочлены
Эрмнта
1. Многочлены Эрмнта, как предел многочленов Гегенбауэра
2. Некоторые свойства многочленов Эрмита
3. Соотношения ортогональности для многочленов Эрмнта

4. Преобразование Фурье функций е 2 Яп(х)
5. Предельный переход по размерности для группы M(ti)
Литература
Примечания и литературные указания
Указатель важнейших обозначений
Предметный указатель
Предметный указатель
561
563
576
580
582
Абсолют пространства Лобачевского
502
Алгебра Ли матричная 37
Антипериодическая функция 93
Базис 19
— биортогональный 27
— канонический 122
Базисы в пространстве Щ ®Sj 183
Бесконечно дифференцируемая
функция 89, 90
Бесселя функции 211, 270
, дифференциальное уравнение
216
, интегральное представление
272
, производящая функция 217,
553
, разложение в ряд 212, 272
, рекуррентные соотношения
216,218
с противоположными
индексами 212
, связь с многочленами Якоби и
Лежандра 233
, — с функциями Ганкеля 269,
270
, теорема сложения 213, 214,
551
, формулы умножения 213, 215,
231,551
Бета-функция 247
—, выражение через гамма-функцию
247
Быстро убывающая функция 92
Вектор инвариантный относительно
подгруппы 44
Вершина дерева 489
Вес представления 122
Вигнера символ 189
Вращение гиперболическое 84, 254,
259, 289, 500
— евклидова пространства 432
— орисферическое 540
— трехмерного пространства 112
Гамма-функция 241, 242
—, свойства 242 — 244
—, формула дополнения 246
—, — сложения 245
—, — удвоения 248
Ганкеля функции 262, 269
, интегральное представление
272
интегральные преобразования
281,285 — 287
первого и второго рода 262
разложение в ряд 273
рекуррентные формулы 268
связь с функциями Бесселя 269
270
теоремы сложения 278
умножения 281
Гармоническая проекция
однородного многочлена 440,
441
Гармонический, анализ функций на
компактных группах 63
— многочлен 437, 452
Гегенбаузра многочлены 452
, дифференциальное уравнение
455

, интегральные представления
477-478, 482
, производящая функция 487
, рекуррентные соотношения
454,455
, связь с присоединенными
функциями Лежандра 478
, соотношения ортогональности
456
, теорема сложения 466, 467
, формулы сложения и
умножения 467 — 470
, частные случаи 455
Гельфанда—Граева интегральное
преобразование 528, 529
Гиперболический косинус, синус 85
Гипергеометрическая функция 345,
346, 347, 379
вырожденная 398
Гипергеометрическая функция,
интегральные представления
380, 382
, — преобразования 369
, преобразование Меллина 384
, разложение в ряд 346
, рекуррентные соотношения
374 — 378
, теоремы сложения 389
Гипергеометрическнй ряд 398
вырожденный 398
Гипергеометрическое
дифференциальное уравнение
378
~ вырожденное 399
Группа вещественных
унимодулярных матриц второго
порядка 345
чнсел адднтнвная (группа R) 81
— Ли линейная 37
— линейных преобразований прямой
235
— матричная 37, 55
компактная 56
локально компактная 56
— непрерывная 23
— преобразований 38
транзитивная 38
эффективная 38
— треугольных матриц третьего
порядка 397, 399
~, алгебра Ли 399
— МB) 201, 206, 232
, алгебра Ли 204, 205
, комплексифнкация 205
, параметризации 202, 203
— МB, С) 206
— М{п) 543
, параметризация 544
— МНB) 253
, алгебра Ли 255
, параметризация 255
, подгруппа гиперболических
вращений 254
— g ?7B) 288, 289, 339
, алгебра Ли 294
, инвариантное интегрирование
294
1 оператор Лапласа 333
, отображение в группу SHC~)
290
, параметризации 292
, разложение функции 335
— R вещественных чнсел 81
— Я" 98
— SffB) 84, 86
— SHC) 289
— ?№/0 498,501
, углы Эйлера 503
Группа SZB, С) 111
— ^B,^J89,291
— SLB, R), алгебра Ли 353
, параметризация 351
, подгруппы SOB), SH{2\ Z 291
— 50B)82,83,86
, интегрирование 87
, комплексифнкация 86
— SOB, С) 86
— SOC) 112,232

— SO(ti) 430, 432
, инвариантная мера 434
, инвариантное интегрирование
434
I углы Эйлера 433
— ??/BI06, 107, 111, 112
, алгебра Ли 110
, комплексифнкация 111
, оператор Лапласа 150
, характер представления Г/(ы)
177—179
Групповое кольцо группы 69
Группы локально изоморфные 113
Движение евклидовой плоскости 201
— псевдоевклидовой плоскости 252,
253
— «-мерного евклидова пространства
543
Дерево 489
Дирихле—Мерфи интегральные
представления 164
Зональные сферические функции 45,
315,452,516,547
~, выражение через функции Бесселя
и гипергеометрические 519, 548
~, интегральное представление 518
~ представления T"l(g) 452
Инвариантная мера на группе SU(T)
166
Интеграл по мере, свойство
инвариантности 41
— Фурье функций нескольких
переменных 98
Интегральное преобразование
Гельфанда—Граева 528, 529
Интегрирование на группе SO(T) 87
Каноническое разложение
многочлена 441
Класс транзнтнвности 39
Клебша—Гордана коэффициенты,
см. коэффициенты Клебша—
Гордана
ряд 192
Коммутатор 37
Конуса функции 316
Координата существенно
предшествующая, последующая
490
Координаты бисферические 483
— гиперболические 500
— орисферические на гиперболоиде
540
— подчиненные 490
— полисферические 489, 491
, дифференциал дуги 492
на гиперболоиде 538
, связь с декартовыми 492
— сферические 431, 489, 492
Коэффициенты Клебша—Гордана
184
, асимптотическая формула
234
, вычисление 186, 187
, представление в виде
суммы 187, 188
, производящая функция 199
, рекуррентные соотношения
196
, связь с функциями fimn(?)
194
, соотношения симметрии
188—190
, частные значения 190
— Лежандра 162
— Фурье свертки 68
функцииДф) 88 Кронекера
символ 25
Кронекеровское произведение
линейных пространств 72
операторов 73
представлений 33
, разложение на
неприводимые представления
182
rff(g) 229
Лагерра многочлены 426

, соотношение ортогональности
427
, теорема сложения 429
Лапласа оператор, см. оператор
Лапласа
Лежандра коэффициенты 162
— многочлены 133—135,316
, выражение через
гипергеометрическую функцию
349
, дифференциальное уравнение
146
, интегральные представления
162,164
Лежандра многочлены как зональные
сферические функции 136
ортогональность 169
производящая функция 162
разложение в ряд Фурье 135
рекуррентные формулы 164,165
связь с функциями Бесселя 233
теорема сложения 140
— присоединенные функции 133,
316,317
9 выражение через
гипергеометрическую 349, 350
, дифференциальное
уравнение 328
, производящая-функция 525
, рекуррентные соотношения
328
, связь с многочленами
Гегенбауэра 478
, соотношения симметрии
318
, теоремы сложения и
умножения 325, 326
— функции 315
, дифференциальное уравнение
328
, производящая функция
континуальная 331
, рекуррентные соотношения
328
, теоремы сложения и
умножения 325, 326, 523, 524
Лемма Шура 51
, следствия 52
Ли линейная группа 37
— матричная алгебра 37
Лобачевского пространство 501, 502
Макдональда функции 262
, взаимно обратные
интегральные преобразования
281
, дифференциальное уравнение
269
, интегральное представление
271
, интегральные преобразования
285 — 287
, преобразования Меллина 273,
276
, разложение в ряд 273
, рекуррентные формулы 268
, теоремы сложения 277
, — умножения 280, 281
Матрица каноническая 463
, матричные элементы 463, 465
— касательная 37
— квазнунитарная унимодулярная
второго порядка 288
— унитарная и (ср, 0, ф) 107, 108
Матричная группа, см. группа
матричная
Мелера— Фока преобразование 537
Меллина преобразование 104, 240
Мера инвариантная 41, 294
слева, справа 41
Многочлен, см. соответствующее
название
Неймана функция 270
, разложение в ряд 273
Однородная функция 49
Однородный многочлен,
каноническое разложение 441
Оператор антилинейный 75
— волновой 537

— инвариантный относительно
преобразований группы 54
— нифинитезимальный 35
— Лапласа 437, 438
в полисферических
координатах 493
в сферических координатах 453
на гиперболоиде 538
на единичной сфере 152, 488
на сфере 487
— перестановочный с
представлениями 49
—, разложение в непрерывную
прямую сумму операторов 80
— типа Гильберта—Шмидта 74, 75
— эрмитово-сопряженный 28
— А1т 149, 150
Орисферические функции 542
Ортогональное дополнение
подпространства 32
Парсеваля равенство 59
для центральных функций 71
Планшереля формула 96
Подгруппа массивная 44
— однопараметрическая 35
— стационарная точки 39
Подпространство дополнительное 30
— инвариантное 29
— тривиальное 29
—3j 182
Показательная функция 22
Поле величины на сфере 176
Полисферические функции 497
Полная система попарно
неэквнв алентных
неприводимых унитарных
представлений группы 59
Полугруппа 255
Предел в среднем 97
Представление группы 23
бесконечномерное 25
вполне приводимое 32
единичное 23
индуцированное 46, 342
класса 1 относительно
подгруппы 44
конечномерное 24
, матричная запись 24, 34
неприводимое 29
«-мерное 24
приводимое 29
операторно неприводимое 51
оператором сдвига 42
, разложение в прямую сумму
30
регулярное левое, правое 42
скрещенных произведений 209
сопряженное 27
точное 23
тривиальное 23
унитарное 28
, полная приводимость 32
эрмитово-сопряженное 28
Представления группы линейных
преобразований прямой 236,
237,249
с операторным множителем 46
треугольных матриц третьего
порядка неприводимые 401,
404,405
, эквивалентные между собой 26
МB) квазирегулярные 219, 221,
224
неприводимые 200—201
МB) неприводимые 544
МЯBJ53
квазирегулярные 282
неприводимые 257, 258
QUB) индуцированные 342
, нифинитезимальные
операторы 298
квазирегулярные 343
неприводимые 295, 299, 307,
308
, приводимость 300
регулярные 332, 340
унитарно сопряженные 306

унитарные основной и
дополнительной серий 303—
305
частично эквивалентные 302
Л 81
Rn регулярные 98
SH(T) 85
SH(n) 504, 505
квазирегулярные 529
, неприводимость 508
Представления группы SH(ri),
приводимость 510
серий дискретной,
дополнительной, основной 514
, сопряженность 506
, унитарность 511,514
, эквивалентность 515
SLB,C)U8
SLB, R) 354, 356, 362, 393
50B)83,86,88
SO(ri) в пространствах
гармонических и однородных
многочленов 436, 438
, нифинитезимальные
операторы 446
квазирегулярные 435, 443
неприводимые 437, 443, 447
SUB), инвариантное скалярное
произведение 121
, нифинитезимальные
операторы 118
неприводимые 123— 127,
132
регулярные 146, 148, 228
— компактных групп, полная
приводимость 57
Преобразование интегральное
функций на гиперболоиде 534
— Мелера—Фока 537
— Меллина 104
, аналог формулы Планшереля
104
, формула обращения 104
функции Rx(g)(p(x) 240
— множества 38
— функций с интегрируемым
квадратом 101
— Фурье 91, 93, 96
в комплексной области 99
, формула обращения 93 — 95
функций нескольких
переменных 98
с интегрируемым квадратом
98
л? и х"+ 249
— Фурье-Бесселя 222, 224
, аналог формулы
Планшереля 222
, формула обращения 222
Присоедниенные сферические
функции 45, 137, 175,516,549
, вычисление 520, 522
, интегральное представление
517
— функции Лежандра 133, 134, 135
9 дифференциальное
уравнение 145
Присоедниенные функции Лежандра,
ортогональность 168
, производящая функция 162
, рекуррентные соотношения
144
Произведение гильбертовых
пространств тензорное 75
— групп скрещенное (полупрямое)
203
— линейных пространств
кронекеровское (тензорное) 72
— операторов кронекеровское
(тензорное) 73, 76
— представлений кронекеровское
(тензорное) 33
Производящая функция 154
Пространство гильбертово 77
— инвариантное относительно
движений 41

— линейное «-мерное 98
унитарное 74
— Лобачевского 501, 502
, инвариантное интегрирование
по орисфере 527, 528
— однородное 39
— однородных гармонических
многочленов 437, 438, 460
многочленов 117, 436, 439, 443
— полное 77
— представления 24
— псевдоевклидово 498
— сопряженное 27, 72
— счетно-гильбертово 77
— ядерное 77
— р"° 504
— 33% 295, 296
— S^OS, 182
— Р"', канонический базис 460, 462
— ?2(,9i-i) 435
— S^229
Прямая сумма гильбертовых
пространств непрерывная 79
~ ортогональная 78
Псевдоевклидова плоскость 251
, аналог полярной системы
координат 252
, расстояние между точками 252
Псевдосфера 499
—, расстояние между точками 501
Разложение по многочленам
Гегенбауэра 481
— по функциям Р1тп(х) 170, 172
Разложение по функциям Якоби 336
— полей на сфере 176
— произведений функций Plmn(z~) 192
— функций на группе SUB) 166, 172,
174
на однородных пространствах
65
на сфере 175
Ряд Клебша Гордана 192
— Фурье 8
на компактных группах 58
Свертка функций 68
Символ Вигнера 189
Символическая степень 194
Система функций
ортонормированиая 169
След матрицы 34
Специальные функции
математической физики 13
Сужение представления 29
Сумма подпространств прямая 30
— представлений прямая 30
~ ортогональная 31
Сфера 40
— единичная S2 116
Сферические зональные функции, см.
зональные сферические
функции
— координаты 431, 489, 492
—присоединенные функции, см.
присоединенные сферические
функции
— функции 44
Сходимость в среднем 97
— матриц 56
Тригонометрические функции 83
Углы Эйлера 107
вращений 113, 114,434
гиперболического вращения
504
комплексные 112
произведения двух матриц 108
Унттекера дифференциальное
уравнение 411,412
— функции 397, 398
, двойственные формулы 424
, дифференциальное уравнение
411
, континуальные теоремы
сложения 421, 425
, представления Меллина—
Бернса 416
, преобразования Меллина по
параметрам 418

Уиттекера функции, разложение в
ряд 398
, рекуррентные соотношения
409 — 411
, соотношения симметрии 413
Условно периодическая функция 93
Фактор-пространство 29
Финитная функции 99
Формула, см. соответствующее
название
Фундаментальная
последовательность элементов
Функции, см. соответствующее
название
— на окружности четная, нечетная
296
— Plmn(z) 128,145
, дифференциальное уравнение
145,150
, интегральные представления
129,161
, производящие функции 155,
162
, разложение в ряды по
170 172
, — их произведений 192
, — по присоединенным
функциям Лежандра 193
, рекуррентные соотношения
143, 148, 153, 156—159, 194
, связь с коэффициентами
Клебша—Гордана 194
, с многочленами Якоби 133
, соотношения обхода 132
, — ортогональности 168
, — симметрии 130
, теорема сложения 138
, формула умножения 140
, частные значения 129
— х"'1 и У; 249
Фурье коэффициенты 88
— преобразование 91, 93, 96
Фурье—Бесселя преобразование 222
Хансена формула 214
Характер представления 34
Целая аналитическая функция
экспоненциального типа 100
Центральная функция 69, 181
, разложение в ряд 70, 71, 181
Цилиндрические функции 268
, дифференциальное уравнение
269
Чебьппева многочлен первого рода
141
Шура лемма 51, 52
Эйлера углы, см. углы Эйлера
— формулы 83
Эквивалентность представлений 26
Эрмита многочлены 555
, дифференциальное уравнение
556
как предел многочленов
Гегенбауэра555
, производящая функция 557
, рекуррентные соотношения
556
, соотношения ортогональности
559
, формулы сложения и
умножения 557, 558
Якоби многочлены 133
Якоби многочлены, выражение через
гипергеометрическую функцию
349
, ортогональность 169
, связь с функциями Бесселя 233
— функции 310
, выражение через
гипергеометрическую 350
, дифференциальное уравнение
328, 334
, интегральные представления
310,311—314
, производящая функция 329
, континуальная 331

, рекуррентные соотношения , — симметрии 317
327, 334 , теоремы сложения и
, соотношения ортогональностн умножения 322 — 324, 325
344

Посвящается
Израалю Моисеевичу
Гелъфанду
ПРЕДИСЛОВИЕ
В этой книге теория специальных функций излагается с теоре-
теоретико-групповой точки зрения. С первого взгляда теория специ-
специальных функций представляется хаотическим набором формул: помимо
того, что существует необозримое множество самих специальных функ-
функций, для каждой из них в настоящее время найдено много всевозможных
дифференциальных уравнений, интегральных представлений, рекуррент-
рекуррентных формул, теорем сложения и т. д. Установить какой-либо порядок
в этом хаосе формул кажется совершенно безнадежной задачей.
Однако развитие теории представлений групп дало в настоящее
время возможность охватить теорию наиболее важных классов специ-
специальных функций с единой точки зрения. Отметим, что оценка важности
отдельных классов специальных функций сильно изменилась за послед-
последнее столетие. В середине и второй половине XIX века наиболее инте-
интересными считались эллиптические и связанные с ними функции. Однако,
как отметил в одном своем выступлении Ф. Клейн (см. [77]), существует
другой класс специальных функций, по меньшей мере столь же важный
ввиду их многочисленных приложений к астрономии и математической
физике — это гипергеометрические функции. Развитие математики за
истекшее время подтверждает мнение Клейна — гипергеометрическая
функция и ее различные частные и вырожденные случаи — функции
Бесселя, Лежандра, ортогональные многочлены Якоби, Чебышева, Лагер-
ра, Эрмита и т. д. — играют все большую роль в самых разных отделах
математики и ее приложений. Этот класс специальных функций часто
называют специальными функциями математической физики. Он-то
и поддается теоретико-групповой трактовке.
Связь между специальными функциями и представлениями групп
была впервые открыта Э. Картаном (см. [244]). (Впрочем, еще ранее
были установлены связи теории специальных функций с теорией

14 ПРЕДИСЛОВИЕ
инвариантов, являющейся одним из аспектов теории представлений групп.)
Значительную роль в исследовании этих связей сыграло применение
теории представлений в квантовой механике.
Дальнейшие работы в этой области стимулировались исследовани-
исследованиями И. М. Гельфанда, М. А. Наймарка и их учеников и сотрудников
в области бесконечномерных представлений групп. В ходе этих иссле-
исследований была установлена связь теории представлений групп с авто-
морфными функциями, построена теория специальных функций над ко-
конечными полями, специальных функций в однородных областях и т. д.
Целью данной книги является систематическое изложение теории
специальных функций с групповой точки зрения. При этом мы огра-
ограничились изучением классических специальных функций и тем самым
простейших групп.
Книга состоит из одиннадцати глав. В первой главе изложены
основные понятия и факты теории групп преобразований и представ-
представлений групп.
Во второй главе разобраны два модельных примера — аддитивная
группа вещественных чисел и группа вращений окружности. Эти группы
приводят соответственно к показательной и тригонометрическим функ-
функциям. В этой главе, кроме того, изложены некоторые факты класси-
классического гармонического анализа — теория рядов и интегралов Фурье в
вещественной и комплексной областях.
Третья глава посвящена представлениям группы вращений трехмер-
трехмерного евклидова пространства и локально изоморфной ей группы SUB)
унитарных унимодулярных матриц второго порядка. Матричные эле-
элементы неприводимых унитарных представлений этих групп выража-
выражаются через многочлены Лежандра и Якоби. Поэтому рз общих свойств
матричных элементов вытекают различные соотношения для этих много-
многочленов (соотношения ортогональности и полноты, рекуррентные фор-
формулы, теорема сложения и т. д.). В конце главы рассмотрен дискретный
аналог многочленов Якоби — коэффициенты Клебша—Гордана.
В четвертой главе изучены представления группы движений евкли-
евклидовой плоскости. Матричные элементы представлений этой группы
выражаются через функции Бесселя, что позволяет вывести ряд
свойств функций Бесселя из теоретико-групповых соображений. Даль-
Дальнейшие свойства функций Бесселя и тесно связанных с ними функций
Ганкеля и Макдональда изучены в главе V, посвященной представле-

ПРЕДИСЛОВИЕ 15
ниям группы движений псевдоевклидовой плоскости. В этой главе выве-
выведен ряд интегралов по индексу для цилиндрических функций. В начале
главы рассмотрены группа линейных преобразований прямой линии и
теория Г-функции.
В шестой и седьмой главах рассмотрены представления группы
вещественных унимодулярных матриц второго порядка. Представления
этой группы связаны с несколькими классами специальных функций.
В шестой главе изучены функции конуса Р i (ch 6). В седьмой
главе рассмотрена реализация представлений в виде интегральных опе-
операторов, ядром которых служит гипергеометрическая функция. Отсюда
выводится ряд свойств гипергеометрической функции, как хорошо
известных (интегральное представление Меллина — Бернса), так и но-
новых. В главе VIII аналогичным образом изучена вырожденная гипер-
гипергеометрическая функция, точнее говоря, тесно связанные с ней функ-
функции Уиттекера. Показано, что теория функций Уиттекера основана на
изучении представлений группы треугольных матриц третьего порядка.
Исходя из этого, выведены различные свойства функций Уиттекера —
интегральные представления, рекуррентные формулы, континуальные
теоремы сложения. В этой же главе рассмотрены многочлены Лагерра
и выведена для них формула сложения.
Все группы, рассмотренные в главах II — VIII, имеют весьма прос-
простую структуру. Более сложные группы рассмотрены в главах IX — XI,
а именно, группы движений л-мерной сферы, л-мерного пространства
Лобачевского и л-мерного евклидова пространства. Однако при этом мы
рассматриваем не все неприводимые представления этих групп, а лишь
так называемые представления класса 1, и не все матричные элементы
представлений, а лишь матричные элементы «нулевого столбца». Этого
оказывается уже достаточно, чтобы построить теорию многочленов
Гегенбауэра и гармонических многочленов, а также получить разло-
разложение функций на л-мерной сфере и гиперболоиде. В главе XI выве-
выведены дальнейшие свойства функций Бесселя.
К сожалению, объем книги не позволил остановиться на неко-
некоторых вопросах, связанных с теорией представлений и специальными
функциями. Так, не была рассмотрена группа движений л-мерного
псевдоевклидова пространства. Остались почти не освещенными асим-
асимптотические свойства специальных функций. Впрочем, изложенные в

16 ПРЕДИСЛОВИЕ
книге интегральные представления этих функций позволяют получить
их асимптотические разложения обычными методами (см. [6], [62]).
Автор приносит глубокую благодарность И. М. Гельфанду, сове-
советами и указаниями которого он пользовался в течение всей работы
над книгой, и роль которого в создании книги трудно переоценить.
Автор благодарит также М. А. Наймарка, М. И. Граева, И. И. Пятец-
кого-Шапиро, Ф. А. Березина, Ф. И. Карпелевича, С. Г. Гиндикина,
Д. П. Желобенко, с которыми часто обсуждал вопросы теории пред-
представлений групп и теории специальных функций. Многочисленные со-
советы М. И. Граева повлияли на трактовку некоторых вопросов и
окончательное расположение материала.
Весьма полезными для автора были беседы с Я. А. Смородинским
и его учениками о применениях теории представлений групп и интег-
интегральных преобразований в физике.
В. В. Цукерман взял на себя нелегкий труд по проверке формул.
Большое внимание уделил рукописи на всех этапах ее прохождения
А. 3. Рыбкин. С. А. Виленкина перепечатывала многочисленные ва-
варианты рукописи. Выражаю им благодарность за большую помощь,
значительно облегчившую подготовку рукописи к печати.
Н. Виленкин

ВВЕДЕНИЕ
Специальные функции математической физики появляются чаще
всего при решении уравнений в частных производных методом раз-
разделения переменных или при отыскании собственных функций диф-
дифференциальных операторов в некоторых криволинейных системах
координат. Но. дифференциальные операторы математической физики
обычно обладают определенными свойствами инвариантности. Так,
оператор Лапласа
дх2 ' ду'г "¦ дг2
инвариантен относительно движений евклидова пространства, волновой
оператор
П—^- I —4- д~ *-
LJ дха I fys "Г $гч fas
инвариантен относительно преобразований группы Лоренца и т. д.
Это облегчает разыскание собственных функций операторов. Теория
представлений групп и позволяет учитывать инвариантность операторов
математической физики.
Именно, пусть линейный оператор А инвариантен относительно
некоторой группы преобразований О, Можно показать, что тогда
эти преобразования переводят собственные функции оператора в соб-
собственные функции, отвечающие тому же собственному значению. Тем
самым элементам группы О ставится в соответствие линейное пре-
преобразование 7 (g) в пространстве собственных функций, причем вы-
выполняется равенство
T(gdT(gd=T(g1fy). A)
Операторные функции на группах, обладающие свойством A), назы-
называют представлениями групп. Таким образом, собственные функции
инвариантных операторов связаны с представлениями группы, отно-
относительно которой инвариантен этот оператор. Знание этих пред-
представлений облегчает разыскание собственных функций и позволяет
выяснить их поведение при преобразованиях данной группы.
Операторы представления T(g) можно задать в матричной форме,
выбрав некоторый базис в пространстве представления. При этом

18 ВВЕДЕНИЕ
появляются числовые функции на группе — матричные элементы
представления. Но элементы групп, существенных для математической
физики, задаются обычно числовыми параметрами. Например, элементы
группы движений евклидовой плоскости задаются координатами (а, Ь)
образа точки О@, 0) и углом поворота <р; элементы группы враще-
вращений трехмерного евклидова пространства—-углами Эйлера <f, б, ф
и т. д. Таким образом, изучая представления групп, мы приходим
к числовым функциям от нескольких переменных.
Разумеется, желательно выразить эти функции через функции
от возможно меньшего числа переменных и лучше всего через
функции одного переменного. Оказалось, что такое выражение суще-
существует для некоторых групп (группы вращений трехмерного про-
пространства, группы движений евклидовой плоскости и т. д.). Для
этих групп можно так выбрать базис в пространстве представления,
что элементы некоторой подгруппы Н задаются диагональными
матрицами, на главной диагонали которых стоят показательные функ-
функции. Остальные же элементы групп можно представить в виде h^bh^,
где hi, й-2 (^ Н, а б (t) пробегает некоторое однопараметрическое
многообразие.
Используя это обстоятельство, удается выразить матричные эле-
элементы представлений таких групп через показательную функцию
и функции от одного параметра t. Оказалось, что эти функции
совпадают с классическими специальными функциями математической
физики. Так, представления группы движений евклидовой плоскости
оказались связанными с функциями Бесселя Jn(t), группы вращений
трехмерного евклидова пространства — с функциями Лежандра и
Якоби и т. д. Отметим, что появление показательной функции также
не является случайным: функции вида eint, где п — целое число,
задают представления группы вращений евклидовой плоскости.
При изучении более сложных групп (группы вращений л-мерного
евклидова пространства, группы всех движений этого пространства,
группы Лоренца и т. д.) оказалось, что не все матричные элементы
представлений этих групп выражаются через уже известные специаль-
специальные функции. Лишь для части матричных элементов удалось получить
такие выражения, а для остальных понадобились функции, ранее не
встречавшиеся в математическом анализе. Эти новые функции обла-
обладают столь же разнообразными свойствами, как и классические
специальные функции (см. [121]).
Таким образом, существует связь между специальными функциями
и матричными элементами представлений групп. Необходимо отметить,
что эта связь зависит и от выбора подгруппы Н, элементы которой
в данной реализации изображаются диагональными (или, в общем
случае, клеточно-диагональными) матрицами. Поэтому с одной и той
же группой могут оказаться связанными различные специальные
функции в зависимости от того, для какой подгруппы Н «диагона-

ВВЕДЕНИЕ 19
лизируются» операторы T(h). Например, если О—группа веще-
вещественных унимодулярных матриц второго порядка, а Н— подгруппа
/cos б —sin 6\
матриц вида I, то возникают функции конуса. Если же
выбрать в качестве Н подгруппу диагональных матриц, то возникает
гипергеометрическая функция. Наконец, если Н—подгруппа тре-
/1 0\
угольных матриц вида I, то получаем функции Ганкеля.
Установление связи между матричными элементами представлений
и специальными функциями указало общие пути вывода свойств
этих функций. Например, из равенства A) вытекает, что матричные
элементы представлений удовлетворяют соотношению
S B)
Но матричные элементы выражаются через специальные функции.
Поэтому формула B) приводит к формулам для специальных функций.
Так получаются, в частности, теоремы сложения для функций Бес-
Бесселя, Лежандра, Гегенбауэра и др. Если считать один из элементов
в равенстве B) «бесконечно близким к единице группы», то формула
B) превращается в рекуррентное соотношение для соответствующих
специальных функций.
Теоретико-групповой подход приводит к естественной трактовке
интегральных представлений специальных функций. Если в простран-
пространстве представления T(g) выбран ортонормированныи базис {еА}, то
матричные элементы задаются формулой
tu(g) = (T(g)ej, e,). C)
Но пространство представления чаще всего реализуется в виде неко-
некоторого функционального пространства (например, пространства соб-
собственных функций инвариантного оператора), а скалярное произ-
произведение в этом пространстве — в виде интеграла. Поэтому правая
часть формулы C) выражается в виде интеграла, а левая сводится
к специальным функциям. Это дает интегральное представление для
специальных функций.
Не всегда можно выбрать базис в пространстве представления
так, чтобы элементы заданной подгруппы изображались диагональ-
диагональными (или хотя бы клеточно-диагональными) матрицами. Иногда при-
приходится выбирать реализацию представления, при которой элементы
из Н изображаются операторами умножения на функцию (контину-
(континуальный аналог диагональной матрицы). В этих случаях операторы
представления T(g) принимают вид интегральных операторов, ядра
которых выражаются через специальные функции. Это приводит
к различным интегральным соотношениям между специальными функ-
функциями, в частности, к континуальным аналогам теорем сложения.

20 ВВЕДЕНИЕ
Теоретико-групповой подход к специальным функциям тесно свя-
связан с гармоническим анализом функций. Рассмотрим в качестве типич-
типичного примера представление
группы вращений окружности (/(ср) — функция на окружности, зави-
зависящая от угла ср, a ga— вращение на угол а). Разложим функцию
/(tp) в ряд Фурье:
со
/(?)= 2 Vя-
п = — со
Одномерные пространства функций вида cnelllf остаются инвари-
инвариантными при преобразованиях Т(gj:
T(g) е'"9 = ein 1<p+k) = elnaein'e.
Говорят, что пространство функций /(^) на окружности разложено
на одномерные инвариантные подпространства, а представление T(g)
на представления Tn(gJ — ema.
Аналогичная задача возникает во многих иных случаях. Пусть
группа G действует на некотором множестве Щ и пусть V—про-
V—пространство функций на этом множестве. Требуется разложить это
пространство на минимальные подпространства, инвариантные отно-
относительно группы О (т. е. содержащие вместе с каждой функцией
f{x) все ее сдвиги f(gx)). По аналогии с рассмотренным выше при-
примером эту задачу называют задачей о гармоническом анализе про-
пространства 0-
В зависимости от свойств группы О возникают различные случаи.
Если группа О коммутативна и компактна (к числу таких групп
относится группа вращений окружности), получается разложение I'
в прямую сумму одномерных инвариантных подпространств. Если же
группа О коммутативна, но не компактна, то возникает разложение
в «непрерывную прямую сумму» одномерных пространств. Типичным
примером является разложение функции на прямой в интеграл Фурье;
со
/(х)= \ F{l)eiudl.
— оо
Функции elXx, по которым здесь ведется разложение, задают одно-
одномерные представления аддитивной группы вещественных чисел
е«Х (х+у) __ е1\хеЩ
а параметр X, задающий представление, пробегает всю прямую.
Для некоммутативных компактных групп (например, группы уни-
унитарных матриц) получается разложение на счетное множество конеч-
конечномерных инвариантных подпространств. Наиболее сложен гармони-

ВВЕДЕНИЕ 21
ческий анализ для некоммутативных некомпактных грунт (например,
группы Лоренца). Здесь обычно возникают разложения в непрерывную
прямую сумму бесконечномерных подпространств.
Гармонический анализ на группах связан с разложением функций
на группах и однородных пространствах по матричным элементам
представлений. Поскольку эти матричные элементы выражаются через
специальные функции, то получаются разложения в ряды и интегралы
по специальным функциям. Это приводит к теоретико-групповой
трактовке некоторых интегральных преобразоианий, встречающихся
в математической физике (преобразовании Мелера — Фока, Ганкеля,
Конторовича — Лебедева, Олевского и др.), а также разложений
в ряды по специальным функциям. Теоретико-групповая точка зрения
позволяет естественным образом перенести на такие разложения
обычный гармонический анализ — теорию положительно определенных
функций, формулу Планшереля и т. д. При конкретном гармониче-
гармоническом анализе на группах оказывается полезным метод орисфер,
развитый И. М. Гельфандом и М. И. Граевым [134]. 1141], [142].
Другие интегральные преобразования, связанные с теорией пред-
представлений, возникают при записи самих оператороз представлений,
как интегральных операторов. Ядра этих операторов выражаются
через специальные функции. В этом случае формулы обращения
связаны с тем, что операторы T(g) и Г^) взаимно обратны.
Теоретико-групповое истолкование специальных функций позволяет
находить их естественные обобщения. Например, рассматривая вместо
вещественных матриц второго порядка матрицы с элементами из
дискретно нормированного поля, И. М. Гельфанд и М. И. Граев
получили специальные функции на таких полях [143]. На этом пути
возникают и специальные функции матричного аргумента (другой
подход к этим функциям связан с изучением однородных конусов;
см. [158]). Возникающие таким путем специальные функции обладают
многими свойствами специальных функций числового аргумента.
С их помощью можно строить гармонический анализ на группах
матриц с ^-адическими элементами и во многих иных случаях, не
охватываемых классическим анализом.
Наконец, как уже говорилось, в теории представлений возникают
новые специальные функции, изучение которых приводит к новым
соотношениям и для обычных функций. В частности, здесь, по-види-
по-видимому, появляются ортогональные вектор-функции с многочленными
элементами.

ГЛАВА I
ПРЕДСТАВЛЕНИЯ ГРУПП
Эта глава носит вводный характер. Она содержит основные
понятия и результаты теории представлений групп, которые будут
использованы в этой книге. Кроме того, в ней показано, как строятся
представления групп преобразований, а также рассмотрена связь между
собственными функциями инвариантных операторов и теорией пред-
представлений групп. Наконец, в конце главы изучены матричные эле-
элементы неприводимых унитарных представлений компактных групп.
Там показано, что эти элементы образуют полную ортогональную
систему функций на группе относительно инвариантной меры. Этим
устанавливается связь между теорией представлений групп и орто-
ортогональными разложениями.
§ 1. Основные понятия теории представлений
1. Определение. Понятие представления группы является далеко
идущим обобщением понятия показательной функции. Показатель-
Показательную функцию еах можно определить как непрерывное решение функ-
функционального уравнения
0)
удовлетворяющее начальному условию
Обобщая это уравнение на любую группу О, приходим к рассмо-
рассмотрению скалярных функций на группе О, удовлетворяющих уравнению
/(йй)=/Ы/Ы- B)
Однако для некоммутативных групп таких функций слишком мало,
так как из равенства B) следует, что для них должно выполняться
соотношение
/tea)=/<й)/Ы=/Ы/Ы =/<йй)-
Поэтому скалярных функций, удовлетворяющих уравнению B), недо-
недостаточно, чтобы по ним можно было разложить произвольную функ-
функцию F(g) на группе G.

§ 1] ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ПРЕДСТАВЛЕНИЙ 23
Чтобы получить достаточно богатый запас решений уравнения B),
надо перейти от скалярных функций к функциям, значениями которых
являются матрицы или линейные преобразования. Поскольку умно-
умножение матриц некоммутативно, запас решений такого вида достаточно
велик. Таким путем приходим к рассмотрению решений функцио-
функционального уравнения
где gi и gq — элементы данной группы Q, a T(g) — функция на
этой группе, принимающая значения в множестве линейных преобра-
преобразований некоторого линейного пространства 8. Эти решения и назы-
называют представлениями группы О. Мы будем в дальнейшем рас-
рассматривать представления непрерывных групп, т. е. групп, в которых
тем или иным образом определено понятие сходимости последова-
последовательности элементов. В этом случае потребуем, чтобы операторы
T(g) непрерывно зависели от g, т. е. чтобы из lim gn = g вытекало
л-»оэ
lim T(?Г„) = T (g). Разумеется, требование непрерывности представ-
п—>со
ления зависит от того, как определена сходимость операторов T(g)
(например, можно говорить о слабо непрерывных, сильно непрерывных
представлениях и т. д.). Мы будем требовать, кроме того, чтобы все
операторы T(g) были непрерывными в 8, т. е. чтобы из lim хп = х
л-* со
вытекало lim T(g)xn~T(g)x. Точный смысл этого требования
л-»оо
также зависит от выбора сходимости в 2.
Далее, ограничимся рассмотрением невырожденных представлений,
т. е. потребуем, чтобы операторы T(g) имели непрерывные обратные
операторы.
Итак, назовем представлением группы Q непрерывную функцию
T(g) на этой группе, принимающую значения в группе невырож-
невырожденных непрерывных линейных преобразований линейного пространства
8 и удовлетворяющую функциональному уравнению
T(g1gd=T(g1)T(g^. C)
Из этого уравнения легко следует, что Т^1)— 7" (g) и Т(е) = Е,
где е ¦— единичный элемент группы О, а Е — тождественный опе-
оператор в 8.
Равенства Т (g^) = Т(g{) T(g-2) и Т (g'1) — T~l (g) показывают,
что T(g) является гомоморфным отображением группы Q в группу
невырожденных непрерывных линейных преобразований простран-
пространства 8.
Представление T(g) называют точным, если лишь для единичного
элемента е из О имеем Т(е) = Е, и тривиальным (или единичным),
если T(g) = E для всех элементов g из группы Q.

24 ПРЕДСТАВЛЕНИЯ ГРУПП (ГЛ. I
Линейное пространство ?, в котором действуют операторы T(g),
называют пространством представления T(g). Если это простран-
пространство конечномерно, то и представление T(g) называют конечно-
конечномерным.
В бесконечномерном случае мы, как правило, будем рассмат-
рассматривать представления операторами в гильбертовых пространствах.
Лишь изредка придется иметь дело с представлениями в предгиль-
предгильбертовых пространствах, превращающихся в гильбертовы после
пополнения по норме вида || х | = ]/~(х, х), -где (х, у) — скалярное
произведение в ?.
2. Матричная запись представлений. Представление T(g) группы
G определено как операторная функция на этой группе, удовлетво-
удовлетворяющая функциональному уравнению
Т (gigd =T(gd Т <й). A)
Для аналитика более естественно иметь дело с функциями, прини-
принимающими числовые значения. Чтобы перейти от абстрактных функций
к функциям, принимающим числовые значения, используем матричную
запись операторов.
Рассмотрим сначала случай, когда пространство представления
T(g) конечномерно. Выберем в этом пространстве базис elt ..., е„.
Оператор T[g) переводит элемент базиса еу- в T(g)ej. Разлагая
T(g)&j по элементам базиса, получим
п
T(g)eJ=^tiJ(g)ei. B)
i=i
Тем самым каждому оператору представления Т(^поставлена в соот-
соответствие матрица
{T(g)) = (tu(g)), К ij^n, C)
или, что то же самое, совокупность я2 числовых функций ttj (g) на
группе. Из непрерывности представления T(g) вытекает, что функции
tij(g) непрерывны.
Так как при умножении операторов перемножаются соответст-
соответствующие им матрицы, то из функционального уравнения A) вытекает
система и2 равенств
t-u (gift) = 2 '»(й) ги («Л l < l> J ^ я D)
fc = i
для функций ttj(g).
Таким образом, можно определить я-мерное представление группы
Q как совокупность л2 непрерывных числовых функций ty (g), g^Q,
удовлетворяющих системе функциональных уравнений D), и таких,
что

§ I] ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ПРЕДСТАВЛЕНИЙ 25
Разумеется, матричная запись зависит от выбора базиса {е(-}
в пространстве представления. Если Л — невырожденный оператор,
отображающий пространство 2 на себя, и f (- = Лег, то в базисе {f;}
матрица представления T(g) имеет вид
(Л-'Н^ЖЛ). E)
Здесь через (Л) обозначена матрица оператора А в базисе {еА},
т. е. такай матрица, что
п
Таким образом, при переходе к другому базису в пространстве 4?
матрица (T(g)) заменяется эквивалентной ей матрицей.
Ясно, что если (t,j(g)) — матрица представления T(g), той (t;j(g))
является матрицей некоторого представления T(g). Следует иметь
в виду, что T(g) зависит не только от T(g), но и от выбора базиса
в пространстве ?'.
Если пространство представления T(g) евклидово, то обычно
выбирают в нем ортогональный нормированный базис:
(е„ ey) = 8iy, G)
где 8,-у — символ Кронекера'). В этом случае матричные элементы
вычисляются по формуле
e,). (8)
Чтобы получить эту формулу, достаточно скалярно умножить обе
части равенства B) на е,-.
Рассмотрим теперь бесконечномерное представление T(g). Как
уже говорилось, в этом случае будем считать пространство пред-
представления гильбертовым. Выберем в гильбертовом пространстве
ортонормированныи базис {е,}, /=1, 2, ... , я, ... В этом базисе
имеем
со
T(g)eJ=^il!J(g)ei. (9)
Умножив обе части равенства (9) скалярно на е,-, получим
hi fe) = (T(g) ey, e,), 1 < I, j < сю. A0)
Итак, каждому оператору T(g) поставлена в соответствие беско-
бесконечная матрица {T(g)) с элементами ttj{g). Легко показать, что при
умножении операторов матрицы умножаются по обычному правилу,
0 при
1 при / =_/.

26 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
т. е. что
tit (йй) = S t№ (go tkJ fe). (и)
A = l
В самом деле, по формуле A0) имеем
h} toft) = (Т (g&) efi ед = (Т to) Т (gs) ej, e,-) = (Т fe) efi T to)* e,). A2)
Скалярное произведение векторов Т (gs) e;- и 7" (g,)* e,- выражается следу-
следующим образом:
Ц ft, е-Л = ? tik(gl)tkj (g2). A3)
Из формул A2) и A3) вытекает равенство (И).
3. Эквивалентные представления. Пусть T(g) — представление
группы Q в пространстве 8Х и Л — линейное отображение простран-
простран8 8
ства 8i в пространство 82> имеющее непрерывное обратное отобра-
отображение Л. Тогда равенство
A)
определяет представление группы О в пространстве С2- В самом деле,
имеем „
Ясно, что указанным образом можно, исходя из данного пред-
представления T(g), построить сколько угодно «новых» представлений
той же группы. Эти представления считают эквивалентными T(g).
Итак, представления T(g) и Q(g) группы Q в пространствах d
и 1'2 эквивалентны, если существует линейный оператор А, отобра-
отображающий Pj в ?2, имеющий обратный линейный оператор АЛ, и
такой, что
Понятие эквивалентности представлений рефлексивно, симметрично
и транзитивно: каждое представление эквивалентно самому себе; если
представление T(g) эквивалентно представлению Q(g), то представ-
представление Q(g) эквивалентно представлению Т(g); если представление T(g)
эквивалентно представлению Q(g), а представление Q(g) эквивалентно
представлению R(g), то T(g) эквивалентно R(g). Поэтому множе-
множество всех представлений группы О разбивается на классы экви-
эквивалентных между собой представлений. В дальнейшем мы не будем
различать эквивалентные представления, т. е. будем изучать свойства
классов эквивалентных между собой представлений.

§ I] ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ПРЕДСТАВЛЕНИЙ 27
Если представления T(g) и Q(g) эквивалентны, то при соот-
соответствующем выборе базисов они задаются одинаковыми матри-
матрицами. Именно, если в пространстве 2\ представления T(g) выбрать
базис {ek}, то в пространстве 82 представления Q(g) надо выбрать
базис {Лел}. Мы имеем
Поэтому, если
то
Q (g) Aek = А 2 tJk (g) е,- =
Таким образом, представление T(g) к базисе {efc} имеет ту же мат-
матрицу, что и представление Q(g) в базисе {ЛеА}.
4. Сопряженные представления. Пусть T(g) — представление
группы Q в пространстве ?. Обозначим через 8' пространство, со-
сопряженное с ?, т. е. пространство линейных функционалов в 2.
Равенство
r'(g)i(x)^i(T(g1)x), f? g', x? 8 A)
определяет представление группы Q. В самом деле,
1) х) = Г (йй) f (х),
и потому
Представление 7"'(g) называют сопряженным представлению T(g).
Выберем в пространстве С представления T(g) базис {е,} и обо-
обозначим через fft такой линейный функционал, что fk (e?) = 8йг. Линей-
Линейные функционалы \f,} образуют базис в пространстве С, называемый
биортсгональным базису {е,-}. Мы докажем сейчас следующее утвер-
утверждение.
Если матрица представления T(g) в базисе {ег} равна (^y(g)),
то матрица сопряженного с нам представления в биортогональ-
ном базисе имеет вид {tjt (g"))- Иными словами, она получается из
матрицы {tfj (g)) транспонированием и заменой g на g~*.
В самом деле, в силу биортогональности базисов имеем
Т' (g) fy (eA) = ij (Г (Г1) eft) = fy (Д] fJft (Г1) е») =
)=*jk or1)=S'/«fe^1)f *
( i
и потому
i
Этим наше утверждение доказано.

28 ПРЕДСТАВЛЕНИЯ ГРУПП (ГЛ. I
Если в пространстве V представления T(g) задана невырожденная би-
билинейная форма В (х, у), то каждому элементу у из i1 соответствует линей-
линейный функционал у (х), определяемый равенством
у(х) = Д(х,у). B)
В силу невырожденности формы В (х, у) равенство B) устанавливает вложе-
вложение пространства С в X'.
Сужая представление V (g) на образ 1', получаем представление группы
G в V. Его также называют сопряженным к Т (g) (относительно билиней-
билинейной формы В(х, у)).
5. Эрмитово-сопряженные представления. Унитарные пред-
представления. Пусть в пространстве Jq задано невырожденное скалярное
произведение (х, у) (линейное по х и антилинейное по у). Оператор
А* называют эрмитово-сопряженным оператору А относительно
этого скалярного произведения, если для любых двух векторов х
и у из &) имеем
(Ах, у) = (х,Л*у).
Покажем, что если T(g)~- представление группы О в простран-
пространстве $, то 7"* (g1) также является представлением этой группы.
В самом деле, так как (АВ)* = В*А*, то
т*огт1) ?"*(ft 1)=\T{gi1) T(gl1)} * = г*fe,-'g-г1)^ т* tog,) M-
Представление 7'*(g'~1) называют эрмптово-сопряженным представ-
представлению T(g) и обозначают T(g).
Выберем в пространстве 1q базис {е,}, ортонормированный отно-
относительно скалярного произведения (х, у), т. е. такой, что (е,-, в/) = btJ:
Покажем, что в этом базисе матрица представления T(g) получается
из матрицы представления T(g) путем перехода к эрмитово-сопряжен-
ной матрице (т. е. путем транспонирования и замены всех элементов
комплексно-сопряженными) и замены g на g~*. Иными словами, пока-
покажем, что
В самом деле, из формулы (8) п. 2 имеем
?u (g) = (f (М) е/. е,) = (Г*^)еу, е,) = (еу, Т(g l) е,) =
Представление T(g) группы G в пространстве ^ называют уни-
унитарным относительно скалярного произведения (х, у), если опера-
операторы T(g) оставляют скалярное произведение инвариантным, т. е. если
для всех векторов х и у из ф и всех элементов g из Q выполняется
равенство
(T(g)x, Г(#У) = (Х, у). A)
В этом случае имеем Т* (g)T(g) = E, и потому Т* (g) = T~l (g) =
1

§ I] ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ПРЕДСТАВЛЕНИЙ 29
Это равенство можно записать в виде T(g)=f(g). Таким обра-
образом, представление T(g) унитарно, если оно совпадает с эрмито-
во-сопряженным представлением.
Принимая во внимание вид матрицы эрмитово-сопряженного пред-
представления в ортонормировэнном базисе, получаем следующее утверж-
утверждение:
В ортонормированием базисе матрица унитарного представ-
представления унитарна, т. е. такова, что
B)
Отсюда легко получить, что для этой матрицы выполняются равенства
S tij (g) tkj(g)=? hi (g) tJk(g)=hk- C)
У i
Ясно, что если представление T(g) унитарно и базис {е,г} ортонор-
мирован, то и T(g) (см. стр. 25) унитарно.
Унитарные представления играют весьма важную роль в теории
представлений групп. Ниже будет показано, например, что любое
конечномерное представление компактной группы унитарно относи-
относительно некоторого скалярного произведения.
6. Инвариантные подпространства. Неприводимые представле-
представления. Подпространство i*i пространства представления T(g) называют
инвариантным, если из х С 8i следует, что для всех g ? О имеем
r(g-)x?8i- Иными словами, все операторы представления Т (g) пере-
переводят векторы подпространства fj в векторы того же подпростран-
подпространства. Для бесконечномерных представлений мы будем рассматривать
лишь замкнутые инвариантные подпространства.
Для каждого представления T(g) есть по крайней мере два инва-
инвариантных подпространства — нулевое подпространство и все простран-
пространство 2 этого представления. Эти инвариантные подпространства на-
называют тривиальными. Если представление T(g) обладает лишь
тривиальными инвариантными подпространствами, его называют не-
неприводимым. Представление, имеющее нетривиальные инвариантные
подпространства, приводимо.
С каждым приводимым представлением T(g) группы Q связаны
два новых представления той же группы. Первое из них получается,
если рассматривать операторы представления T(g) лишь на подпро-
подпространстве Sj. Мы будем называть это представление сужением T(g)
на инвариантное подпространство 2\- Второе представление строится
в фактор-пространстве i'/Si, т. е. линейном пространстве, элемен-
элементами которого являются смежные классы x-f-?i- Из инвариантно-
инвариантности gj следует, что оператор T(g) переводит смежный класс jC

30 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
в смежный класс T(g)x-\-2i. Этим определяется представление
группы О в фактор-пространстве 8/d-
Покажем, что если представление T(g) приводимо, то в соответ-
соответственно выбранном базисе матрица этого представления имеет вид
(Tdg) A(g)
Именно, если инвариантное подпространство 2у имеет конечную
размерность k, то базис {е,-} в 8 надо выбрать так, чтобы векторы
{ег}, 1 <:I =sSkзадавали базис подпространства 8j. Тогда при l^js^k
векторы T(g)ej принадлежат подпространству \Jj и, следовательно,
раскладываются по векторам базиса {е,}, 1^1^к, этого подпро-
подпространства:
Отсюда вытекает, что при i^>k, I =<;у sc; k матричные элементы ttj(g)
равны нулю и, следовательно, матрица представления имеет вид A).
Если инвариантное подпространство бесконечномерно, то зану-
занумеруем векторы базиса индексами I, — оо<^/<^оо и выберем базис {е,}
так, чтобы векторы {е,}, —co<^i<^0 образовали базис в I'j. Тогда
матрица представления T(g) в этом базисе будет иметь вид A).
7. Разложение представления в прямую сумму. Вообще говоря,
невозможно выбрать базис в пространстве приводимого представле-
представления так, чтобы матрица A(g) в A) п. 6 обратилась в нуль. Однако
если инвариантное подпространство S?i имеет инвариантное дополни-
дополнительное подпространство ?2> то такой выбор возможен. Подпростран-
Подпространство $?з называют дополнительным к $ь если любой вектор х из
I* единственным образом представим в виде x = Xi-]-X2, где х,? 2i,
х2С ?з (иными словами, если ?j и ?2 порождают все пространство ?
и имеют нулевое пересечение). Пространство ? называют в этом
случае прямой суммой подпространств ?, и С2 и пишут
? « + &
+
Итак, пусть пространство I' представления T(g) является прямой
суммой инвариантных подпространств ?t и 22. Обозначим через 7\ (g)
сужение представления T(g) на S?t и через T^(g) сужение Т (g) на
1'2 (ясно, что Tv(g) эквивалентно представлению в фактор-простран-
фактор-пространстве C/Ci). Для любого вектора х из ? имеем
где Xj? t'i, x2? C2. Это равенство показывает, что T(g) однозначно
определено заданием представлений Ti(g) и T2(g). Говорят, что T(g)
является прямой суммой представлений 7\ (g) и Га fe;) и пишут

§ I] ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ПРЕДСТАВЛЕНИЙ 31
Таким образом, если пространство 8 представления T(g) является пря-
прямой суммой инвариантных подпространств 8j и ?2, то T(g) есть
прямая сумма своих сужений Т\ (g) и Г2 (g) на эти подпространства.
Пусть пространство С представления T(g) разложено в прямую
сумму инвариантных подпространств S?i и IV Выберем базис {е,-}
в 8 так, чтобы векторы е?, принадлежащие инвариантным подпро-
подпространствам d и ?2, задавали в них базис. При таком выборе мат-
матрица представления T(g) примет вид
\{g) 0 \
О T,(g))-
Определение прямой суммы представлений естественным образом
обобщается на случай нескольких слагаемых. В этом случае при соот-
соответствующем выборе базиса матрица представления имеет вид
,fe) о ... о
О T,(g) ... О
о о ... Tn(g)
Введем теперь понятие прямой ортогональной суммы представле-
представлений. Пусть в гильбертовом пространстве .f) представления T(g) есть
такие попарно ортогональные инвариантные подпространства Jg>k,
что каждый элемент х из ^ разлагается в сходящийся
ряд х= 2] ха> гДе х*€ 4?*- В этом случае пишут
и говорят, что ^ является прямой ортогональной суммой инвари-
инвариантных подпространств ^А.
Обозначим сужение представления T(g) на подпространство $k
оо
через Tk(g). Ясно, что если х= У] хА, где xfeg ?А, го
причем Tk(g)xk? JQk. Поэтому представление T(g) однозначно опре-
определяется заданием представлений Tk(g). Говорят, что T(g) является
ортогональной прямой суммой представлений Tk (g) и пишут

32 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ.
Если нет опасности недоразумения, то пишут просто
k л
8. Полная приводимость унитарных представлений. Представ-
Представление T(g) называется вполне приводимым, если оно является прямой
суммой неприводимых представлений. Для вполне приводимых пред-
представлений можно так выбрать базис, что матрица представления в этом
базисе клеточно-диагональна:
(Ti{E) 0 ... О
О ra(g) ... О
О 0 ... Tn{g)l
причем на главной диагонали стоят матрицы неприводимых представ-
представлений Tk(g) группы Q (в бесконечномерном случае на главной диа-
диагонали может быть бесконечно много матриц Tk (g)).
Мы покажем сейчас, что все конечномерные унитарные пред--
ставленая вполне приводимы. Для этого нам понадобится следующая
Лемма. Пусть представление T(g) унитарно относительно
скалярного произведения (х, у) и I', — инвариантное подпростран-
подпространство в пространстве 2 этого представления. Тогда ортогональ-
ортогональное дополнениеJ) 8S подпространства J?t также инвариантно.
Чтобы доказать лемму, выберем любой вектор х из 1'2. Тогда
для любого вектора у из ?j имеем в силу унитарности T(g)
(T(g)x, y) = (x, TO?1) у).
Но в силу инвариантности ^ вектор T(gЛ)у принадлежит 2lt и
потому (х, Т(g^1) у) = 0, а следовательно, и (T(g)x, y) = 0. Этим
доказано, что T(g) х ? ?а, т. е. что 1\ — инвариантное подпростран-
подпространство. Лемма доказана.
Заметим теперь, что пространство ? является прямой суммой под-
подпространства l'i и его ортогонального дополнения ?2. Поэтому, если
подпространство Ci инвариантно, то С является прямой суммой
инвариантных подпространств Cj и Cs.
При этом сужения представления T(g) на подпространства 8j и
i's также унитарны. Продолжая далее описанный процесс, мы через
l) Ортогональным дополнением подпространства 1\ называют совокуп-
совокупность всех векторов х ? i!, таких, что (х, у) = 0 для всех векторов у из V,.

§ 1] ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ПРЕДСТАВЛЕНИЙ 33
конечное число шагов придем к неприводимым инвариантным под-
подпространствам и получим разложение представления T(g) в прямую
сумму неприводимых представлений.
Для бесконечномерных представлений дело обстоит сложнее, поскольку
в бесконечномерных пространствах могут существовать бесконечные убы-
убывающие цепочки инвариантных подпространств. Поэтому не все бесконечно-
бесконечномерные унитарные представления вполне приводимы. Однако во всех слу-
случаях, которые нам встретятся, бесконечномерные унитарные представления
разлагаются в непрерывную прямую сумму неприводимых представлений
(относительно понятия непрерывной прямой суммы представлений см. Допол-
Дополнение к главе I). Если мера, по которой строится непрерывная пря-
прямая сумма, сосредоточена в счетном множестве точек, получается разло-
разложение представления в ортогональную прямую сумму неприводимых пред-
представлений.
9. Кронекеровское умножение представлений. Определим кроне-
керовское умножение представлений. Пусть T(g) и Q(g)— представ-
представления группы О, действующие соответственно в линейных простран-
пространствах О и 9Л- Каждому элементу g группы О поставим в соответ-
соответствие оператор R(g) = T(gH Q(g) — кронекеровское произведение
операторов T(g) и Q(g) (относительно определения кронекеровского
произведения операторов и свойств этого произведения см. Дополне-
Дополнение к главе I). Покажем, что R (g) является представлением группы G.
Для этого воспользуемся равенством
(АВ) (X) (CD) = (А (х) С) (В ® D).
Из этого равенства следует, что
=т tea) <8> Q tea)=(т fe) т Ы) ® (Q Ы Q Ы)=
=(Т Ы (8) Q (а)) G"Ы ® Q Ы)=R(gdR Ы-
Итак, R(gigd = R(gi)R(gi)> т- е. R (^ — представление группы О.
Его называют кронекеровским или тензорным произведением пред-
представлений T(g) и Q(g).
Кронекеровское произведение классов эквивалентных представле-
представлений обладает свойствами коммутативности и ассоциативности. Кроме
того, это произведение дистрибутивно относительно сложения пред-
представлений
T(g) ® (Qt (g) + Q, (g)) = T(g) ® Qt (g) + Г (g) (g) Q2 (g).
Выясним, какой вид имеет матрица кронекеровского произведе-
произведения двух представлений. Пусть представление T(g) реализуется в
пространстве ?, представление Q(g) — в пространстве Ш и {ej,
{fy} — базисы в этих пространствах. В Дополнении к главе I показано,
что в этом случае в качестве базиса в пространстве 8®9Л можно
выбрать в; (х) fy. Матричными элементами оператора T(g) (x) Q (g) в
этом базисе являются произведения матричньДх элементов операторов

34 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
и Q(.g)- Таким образом, элементы матрицы оператора R(g) =
— 7"fe)(8) Qfe) нумеруются двумя парами чисел (lj), (km) и имеют
вид
10. Характеры представлений. Недостатком матричной записи
представлений является то, что она зависит не только от представ-
представления, но и от выбора базиса в пространстве представления. При пе-
переходе к другому базису матрица представления заменяется эквива-
эквивалентной ей матрицей. Естественно поэтому изучать функции от мат-
матричных элементов, остающиеся инвариантными при переходе от данной
матрицы к эквивалентной. Простейшей из таких функций является
след матрицы, т. е. сумма диагональных элементов этой матрицы
ТгА = 2вк- О)
i
След матрицы представления называют характером этого пред-
представления и обозначают xT(g). Таким образом, если t())
то
Из свойств следа матрицы вытекает, что характер представления не
зависит от выбора базиса в пространстве представления. Поскольку
путем выбора базиса можно сделать матрицы эквивалентных пред-
представлений тождественными, то характер представления зависит
только от класса эквивалентных между собой представлений.
При фиксированном Т характер %т(ё) является функцией на груп-
группе О. Так как
T(g1lgg1)=T4gi)T(g)T(gl),
то
и потому
Таким образом, характер представления T(g) является функ-
функцией на О, постоянной на классах сопряженных элементов.
Действиям над представлениями отвечают соответствующие дей-
действия над их характерами. Именно, характер суммы двух представ-
представлений равен сумме их характеров, а характер кронекеровского
произведения двух представлений равен произведению их харак-
характеров:
Хт ® q (ё) = Хт (g) Xq (g)- -(б)

§ I] ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ПРЕДСТАВЛЕНИЙ 35
В самом деле, если матрицы представлений T(g) и Q(g) соот-
соответственно равны (tij(g)) и (qijig)), то
Xt+q ig) = 2 *" (S) + 2 4jJ № = У-т (ё) + Xq fe)
= S r'V' У («) = S
11. Инфинитезимальные операторы представления J). Пусть каж-
каждому вещественному числу t поставлен в соответствие элемент g(t)
группы О. Если для любых t и s выполняется равенство
s), A)
то g(t) называют однопараметрияеской подгруппой группы О. Из
равенства A) вытекает, что ^@) = е и g(—t) = g x(t) (в дальней-
дальнейшем будем исключать случай, когда g (t) = e).
Примерами однопараметрических подгрупп могут служить под-
подгруппа вращений вокруг фиксированной оси в группе вращений ев-
евклидова пространства, подгруппа параллельных переносов по фикси-
фиксированному направлению в группе движений евклидова пространства
и т. д.
Пусть g(t) — однопараметрическая подгруппа группы О и T(g) —
представление этой группы. Если существует предел
B)
/-Го * ~ dt
то оператор А называют инфинитезимальным оператором представ-
представления T(g), соответствующим однопараметрической подгруппе g(t).
Если G—матричная группа (т. е. если ее элементами являются невы-
невырожденные матрицы и-го порядка, а групповой операцией — умножение мат-
матриц) и если представление T(g) конечномерно, то инфинитезимальные опе-
операторы определены на всем пространстве представления. Для бесконечно-
бесконечномерных представлений дело обстоит сложнее, поскольку, вообще говоря,
инфинитезимальные операторы бесконечномерных представлений неограни-
чены (например, операторы представления действуют в пространстве функ-
функций с интегрируемым квадратом модуля на некотором многообразии, а ин-
инфинитезимальные операторы являются дифференциальными). Используя
теорию обобщенных функций, можно и в бесконечномерном случае рас-
распространить инфинитезимальные операторы на все пространство представ-
представления. Мы не будем, однако, на этом останавливаться.
*) Мы лишь кратко указываем основные факты, относящиеся к инфини-
инфинитезимальным операторам представлений. Более подробное изложение можно
найти, например, в книге [39].

36 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
Пусть А — инфинитезимальный оператор представления Т (g), соот-
соответствующий однопараметрической подгруппе g(t). Обозначим через ?t
(вообще говоря, незамкнутое) подпространство, на котором определены
операторы
Из равенства C) следует, что (etA)' = AetA и потому
Ф =А D)
dt < = o v '
Используя теорему единственности решения для дифференциальных
уравнений, выводим из равенств B) и D), что в конечномерном случае
= е". E)
Таким образом, в конечномерном случае представление T(g)
определяется для элементов однопараметрической подгруппы g(t)
заданием инфинитезималъного оператора А этой подгруппы. В бес-
бесконечномерном случае дело обстоит несколько сложнее, однако для
всех случаев, с которыми мы встретимся в этой книге, утверждение
остается справедливым.
Группы, которые нам встретятся в дальнейшем, имеют «доста-
«достаточно много» однопараметрических подгрупп. Именно, через каждый
элемент g этих групп проходит однопараметрическая подгруппа. По-
Поэтому представления T(g) для таких групп определяются заданием
своих инфинитезимальных операторов. При этом пространство инфи-
нитезимальных операторов оказывается конечномерным, и его размер-
размерность равна размерности группы, т. е. числу параметров, задающих
элементы группы. Например, для группы движений евклидовой пло-
плоскости пространство инфинитезимальных операторов любого представ-
представления трехмерно, поскольку любое движение плоскости задается тремя
параметрами — углом поворота и координатами точки, в которую
переходит начало координат.
Таким образом, при переходе к инфинитезимальным операторам
мы заменяем бесконечное множество операторов представления T(g)
конечным множеством — базисом пространства инфинитезимальных
операторов. Это приводит к существенному упрощению задач теории
представлений. Например, всякое подпространство, инвариантное от-
относительно представления T(g), инвариантно и относительно его ин-
инфинитезимальных операторов. Поэтому для доказательства неприво-
неприводимости T(g) достаточно показать, что в пространстве ? этого пред-
представления нет нетривиального подпространства, инвариантного отно-
относительно базисных инфинитезимальных операторов.
В дальнейшем как правило, будут рассматриваться лишь матричные
группы. Для них можно говорить об инфинитезимальных операторах

§ 1] ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ПРЕДСТАВЛЕНИЙ 37
(точнее, матрицах) самих однопараметрических подгрупп
at t = o
Будем называть а касательной матрицей однопараметрической под-
подгруппы.
Матричную группу называют линейной группой Ли, если сущест-
существует окрестность единичной матрицы в этой группе, гомеоморфная
единичному шару. Для линейных групп Ли совокупность касательных
матриц к однопараметрическим подгруппам образует линейное про-
пространство, такое, что вместе с любыми двумя матрицами а и Ъ ему
принадлежит их коммутатор [а, Ь\ = аЬ — Ъа. Такие линейные про-
пространства матриц называют матричными алгебрами Ли. Таким об-
образом, с каждой линейной группой Ли Q связана матричная алгебра
Ли ©. Можно показать, что эта алгебра Ли определяет группу О с
точностью до локального изоморфизма. Иными словами, пусть две
группы Ли О и Н имеют одну и ту же алгебру Ли. Тогда в них
можно выделить окрестности единицы U и V соответственно и уста-
установить взаимно однозначное отображение v = да(гг) U на V так, что
Пусть g(t) — однопараметрическая подгруппа группы Ли О, T(g) —
представление этой группы и Л — инфинитезимальный оператор пред-
представления T(g), соответствующий подгруппе g(f). Сопоставим каса-
тельной матрице а подгруппы g(t) оператор Л=
dT(g(t))
. Мож-
dt
но показать, что это соответствие является линейным отображением
алгебры Ли группы G на пространство инфинитезимальных операто-
операторов представления T(g), при котором коммутатор матриц переходит
в коммутатор операторов: если а ->- А и Ъ -*¦ В, то [а, Ь] -*¦ [А, В],
(где [А, В] — АВ— В А). Иными словами, представление T(g) группы
О задает инфинитезимальное представление а-*-А ее алгебры
Ли. В случае конечномерных представлений инфинитезимальное пред-
представление однозначно определяет представление T(g). Именно, пусть
матрицы ах, ..., ап образуют базис алгебры Ли группы G и
g= exp [t^ -f • • • -f tnan],
где tx, ..., tn — вещественные числа. Обозначим через Ak, l^k^n
инфинитезимальные операторы представления T(g), соответствующие
однопараметрическим подгруппам eiaK Можно показать, что тогда
имеет место равенство
В бесконечномерном случае дело обстоит несколько сложнее, поскольку
в этом случае инфинитезимальные операторы, вообще говоря, нео-
граничены, и потому определены не на всем пространстве представления.

38 ПРЕДСТАВЛЕНИЯ ГРУПП 1ГЛ. I
§ 2. Группы преобразований и их представления
В этом параграфе описаны некоторые конструкции представлений
для групп преобразований. В частности, рассмотрены регулярные
представления групп и представления групп, индуцированные пред-
представлениями подгрупп.
1. Группы преобразований. Преобразованием множества ЭЛ на-
называют взаимно однозначное отображение этого множества на себя.
Образ элемента х из WI при отображении g будем обозначать че-
через gx. Пусть О—некоторая группа. Говорят, что G является груп-
группой преобразовании множества "Ш, если каждому элементу g этой
группы поставлено в соответствие преобразование х-*-gx в ЭЭТ, при-
причем выполнены следующие условия:
1) Единичному элементу е из О поставлено в соответствие тож-
тождественное преобразование множества Щ: ех = х.
2) Для любых двух элементов gt и g% из О выполнено равенство
(gigd-x = g1(g*x). A)
Примерами групп преобразований являются группа всех переста-
перестановок из п элементов, группа невырожденных линейных преобразо-
преобразований л-мерного линейного пространства, группа ортогональных пре-
преобразований евклидова пространства, группа параллельных переносов
л-мерного евклидова пространства и т. д.
Группу преобразований G множества ЗЛ называют эффективной,
если для любого элемента g ф е этой группы найдется такая точка х
из Ш, что gx ф х. В дальнейшем будем рассматривать лишь эффек-
эффективные группы преобразований.
Заметим, что каждую группу О можно рассматривать как группу
преобразований множества -3)?, состоящего из элементов этой же
группы. Именно, поставим в соответствие каждому элементу g0 из О
левый сдвиг группы, переводящий каждый элемент g в элемент gog.
Другая реализация группы О как группы преобразований получится,
если каждому элементу g0 поставить в соответствие правый сдвиг,
переводящий g в ggo1.
2. Транзитивные группы преобразований. Пусть О — (эффектив-
(эффективная) группа преобразований множества Ш. Если для любых двух
элементов х и у множества fffl найдется такой элемент g из О, что
gx=y, то О называют транзитивной группой преобразований мно-
множества 5Ш. Множество Ш, в котором действует транзитивная группа
преобразований О, называют однородным пространством с группой
преобразований О. Например, группа вращений евклидова простран-
пространства не является транзитивной, поскольку точки, находящиеся на

§ 2] ГРУППЫ ПРЕОБРАЗОВАНИЙ И ИХ ПРЕДСТАВЛЕНИЯ 39
разных расстояниях от начала координат, не могут быть переведены
друг в друга вращением (вокруг начала координат). В то же время
эта группа является транзитивной группой преобразований единичной
сферы в себя. Таким образом, сфера является однородным простран-
пространством относительно группы вращений евклидова пространства, а само
евклидово пространство однородным пространством относительно этой
группы не является.
Если группа О не является транзитивной, то множество 3I рас-
распадается на непересекающиеся классы элементов, такие, что два эле-
элемента одного и того же класса можно перевести друг в друга пре-
преобразованием из группы G, а элементы различных классов не перево-
переводятся друг в друга такими преобразованиями. Эти классы элементов
называют классами транзитивности. Например, сферы различных
радиусов с центрами в начале координат являются классами транзи-
транзитивности для группы вращений евклидова пространства.
Пусть О—транзитивная группа преобразований множества SR, и
а — некоторая фиксированная точка этого множества. Рассмотрим все
элементы h группы О, оставляющие на месте точку а, т. е. ha = a.
Так как из hxa = а и 1ца = а вытекает, что Н{1а = а и {hxh^ a = a,
то множество таких элементов образует подгруппу Н группы О. Ее
называют стационарной подгруппой точки а.
Если преобразование g переводит точку а в другую точку х,
то все остальные преобразования gv переводящие а в х, имеют
вид g1=gh, где h^H. Иными словами, множество таких пре-
преобразований является левым смежным классом gH no подгруппе Н.
Поскольку группа О транзитивна, этим устанавливается взаимно од-
однозначное соответствие между точками х множества Ш и левы-
левыми смежными классами по И. Преобразования x^>-gx при этом
соответствии переходят в умножение слева на g: если точке х со-
соответствует смежный класс g\H, то точке gx соответствует смежный
класс ggtH.
Заметим, что стационарная подгруппа не определяется однозначно
заданием однородного пространства 9Л, а зависит еще и от выбора
точки а. Выясним, как связаны друг с другом стационарные под-
подгруппы различных точек. Пусть//—стационарная подгруппа точки а,
и пусть преобразование g переводит точку а в точку Ъ. Тогда пре-
преобразования вида ghg~l, ft ? Н, и только такие преобразования
оставляют на месте точку Ъ. Таким образом, стационарной подгруп-
подгруппой точки Ъ является подгруппа gHg~~l, сопряженная стационарной
подгруппе И точки а. Поскольку группа О транзитивно действует
на fffl, все стационарные подгруппы точек множества ЭД сопряжены
между собой.
Итак, мы доказали, что каждому однородному пространству ЭЛ
для группы G соответствует класс сопряженных подгрупп
6 О— стационарных подгрупп точек множества Ш. Обратно#

40 ПРЕДСТАВЛЕНИЯ ГРУПП 1ГЛ. !
каждому классу сопряженных подгрупп соответствует некоторое
однородное пространство. Чтобы построить это пространство, возь-
возьмем одну из сопряженных между собой подгрупп Н и обозначим
через WI пространство левых смежных классов по Н. Каждому эле-
элементу g из О поставим в соответствие преобразование в Ш, переводя-
переводящее смежный класс gtH в смежный класс gg\H. Группа О превра-
превращается при этом в транзитивную группу преобразований множества Ш,
а подгруппа Н—в стационарную подгруппу смежного класса е//=
= //. Мы будем писать в этом случае
Другая реализация группы О как группы движений однородного про-
пространства 9Jt получается, если отождествить элементы Ш с правыми
смежными классами по Н, а движения определить равенством Hgt —»-
~> Hg\g~l. Переход от одной реализации к другой осуществляется с
помощью преобразования g—*-g~l-
Введем еще понятие сферы в однородном пространстве. Возьмем
любую точку у из Ш и применим к ней все движения h из стацио-
стационарной подгруппы точки а. Получим множество Hg, которое будем
называть сферой с центром в точке а, проходящей через точку у.
Ясно, что при реализации Ш в виде пространства левых классов
смежности по Н сфера реализуется как двусторонний класс смеж-
смежности, т. е. как множество элементов вида HgH, где g—фикси-
g—фиксировано.
Проиллюстрируем введенные понятия на примере группы движе-
движений евклидова пространства. Стационарной подгруппой любой точки а
являются вращения пространства вокруг этой точки. Если у — дру-
другая точка, то при сращениях, оставляющих точку а на месте, точка у
описывает евклидову сферу с центром в точке а, проходящую через
точку у.
Рассмотрим еще следующий пример. Пусть G=SO(ri) — группа
вращений я-мерного евклидова пространства вокруг начала коорди-
координат. Ясно, что единичная сфера 5" с центром в начале координат
является однородным пространством с группой движений SO(n).
Возьмем на сфере точку N@, ..., 0, 1) (северный полюс сферы).
Стационарной подгруппой для этой точки является группа SO(n—1)
евклидовых вращений (я—1)-мерного подпространства хп = 0. По-
Поэтому
^lin— 1).
3. Инвариантные меры. Пусть на множестве fffi с группой пре-
преобразований G задана счетно-аддитивная мера jj.. Говорят, что эта
мера инвариантна относительно группы О, если для любого измери-
измеримого подмножества А из 9л* и любого элемента g из О выполняется

§ 2] ГРУППЫ ПРЕОБРАЗОВАНИЙ И ИХ ПРЕДСТАВЛЕНИЯ 41
равенство
(через gA обозначен образ множества А при преобразовании g). На-
Например, лебегова мера в я-мерном евклидовом пространстве инвари-
инвариантна относительно группы движений этого пространства (и даже от-
относительно группы неоднородных линейных преобразований с опре-
определителем 1), лебегова мера на сфере инвариантна относительно группы
вращений сферы вокруг центра и т. д.
В частности, мера |х на группе О называется инвариантной слева,
если для любого измеримого подмножества Acz Q и любого элемента
g из О имеем
(здесь gA — совокупность элементов вида ga, a ^ А). Если же выпол-
выполняется равенство
то мера v на группе О называется инвариантной справа. Ясно, что
если мера р. (А) на группе инвариантна слева, то мера v (A) = jj. (A) *)
инвариантна справа.
Если мера р. на множестве Ш инвариантна относительно группы
О, то интеграл \f(x)dp(x) по этой мере обладает следующим свой-
свойством инвариантности
В частности, если jj. — инвариантная слева мера на группе О, то ин-
интеграл по этой мере обладает следующим свойством инвариантности
при левых сдвигах:
Аналогично, для правоинвариантной меры v имеем
4. Представления групп операторами сдвига. Рассмотрим пред-
представления групп операторами сдвига на однородных пространствах.
Пусть О — группа преобразований множества Ш, а 8 — линейное
пространство, состоящее из функций f (х), х ^ Ш., со значениями в
линейном пространстве Щ. Назовем пространство ? инвариантным
относительно движений из О, если вместе с любой функцией f(x)
оно содержит все функции f (gx), ^
*) Л — множество всех элементов вида в, где

42 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
С каждым инвариантным подпространством ? связано представле-
представление группы О операторами сдвига
,t?t A)
Чтобы доказать, что равенство A) определяет представление группы О,
достаточно заметить, что для любых двух элементов gi и g9 из О
имеем
*) =
= * (а' ft ' ¦*) = f «ййГ * ¦*) =
Если в пространстве 50? есть мера [а, инвариантная относительно
группы G, то в качестве С можно взять пространство скалярных
функций f(x), имеющих интегрируемый квадрат по этой мере. В этом
случае представление T(g) унитарно относительно скалярного произ-
произведения
(А, А) = $ Л С*)Л Тх) dp (х).
ш
В самом деле,
(T(g)fb T(g)f*) = I T(g)ft
ш
Сделаем в этом интеграле подстановку g~1x=y и воспользуемся ин-
инвариантностью меры |х. Мы получим
ш
Тем самым унитарность T(g) доказана.
Описанная конструкция применима, в частности, к пространствам
функций на самой группе О, рассматриваемой как группа сдвигов.
Если взять левые сдвиги g—*g^, то операторы представления имеют
вид
Если же взять правые сдвиги, то они имеют вид
В случае, когда на группе О есть инвариантная слева мера, за 2
принимают обычно пространство функций с интегрируемым квадра-
квадратом по этой мере. В этом случае представление L (g) называют левым
регулярным представлением группы О. Аналогично, если $? — про-
пространство функций с интегрируемым квадратом по инвариантной
справа мере, то R(g) называют правым регулярным представле-
представлением О.

§ 2] ГРУППЫ ПРЕОБРАЗОВАНИЙ И ИХ ПРЕДСТАВЛЕНИЯ 43
Докажем, что любое неприводимое представление T(g) группы Q
эквивалентно представлению операторами сдвига в некотором
пространстве скалярных функций на этой группе. Для этого выбе-
выберем любой вектор а в пространстве С представления T(g) и каждому
вектору f из S поставим в соответствие скалярную функцию/(g) на
группе G:
f(g)=(T(g)t, aI). D)
Равенство
показывает, что при замене f на T(go)f функция f(g) переходит в
Чтобы доказать, что представление Q(g) эквивалентно представ-
представлению T(g), надо доказать, что ядро отображения f—f(g) равно
нулю. Но если /(g) = 0, то для всех ^0 имеем f(ggo) = O- Поэтому
если вектор f принадлежит ядру О, отображения f —>f(g) (т. е. пере-
переходит при этом отображении в нуль), то и вектор T(g6)i принадле-
принадлежит этому ядру. Но тогда 2t является инвариантным подпростран-
подпространством в ?. Оно не может совпадать со всем пространством ?, по-
поскольку а (е) = (а, а) ^> 0. Следовательно, в силу неприводимости T(g)
подпространство Sj является нулевым. Тем самым доказана эквива-
эквивалентность представлений T(g) и Q(g).
Если функции /(§¦)? ?а (О), т. е. если они имеют интегрируе-
интегрируемый квадрат относительно инвариантной справа меры, а отображе-
отображение f—*f(g) взаимно непрерывно относительно сходимости в 2 и
С2 (О), то представление T(g) эквивалентно неприводимой части ре-
регулярного представления группы О. Для многих групп (в частности,
для всех компактных групп; см. § 4) все неприводимые представления
получаются при разложении регулярного представления на неприво-
неприводимые компоненты.
Обозначим образ пространства С при отображении f—^/(g)
через f?fl. В качестве базиса в Ш естественно выбрать образы базис-
базисных векторов {ег} из I'. Будем считать, что базис {е,-} выбран так,
что инвариантный вектор а является одним из базисных векторов,
скажем, а = е^ В этом случае базисные векторы е,- переходят в мат-
матричные элементы первой строки представления 7"(^). В самом деле,
откуда и следует наше утверждение. Из
Q Ш tij (g)=hj (gg0)=2 tkJ (go) tlk (g)
l) (t, a) — некоторое скалярное произведение в пространстве пред-
представления.

44 Представления групп 1Гл.
видно, что в базисе {ttj (g)} представление Q (g) задается той же
матрицей, что и представление T(g) в базисе {}
о. Представления класса 1. Сферические функции. Пусть
T(g) — неприводимое представление группы О в пространстве 8, а
Н— подгруппа этой группы. Вектор а в пространстве С называют
инвариантным относительно подгруппы Н, если для всех h ? Н
имеем T(k)a = a. Представление T(g) называют представлением
класса 1 относительно подгруппы Н, если в его пространстве есть
ненулевые векторы, инвариантные относительно Н, причем сужение
представления T(g) на подгруппу Н унитарно:
(Г(А) х, T{h) у) = (х, у), h ? Н. A)
Если в пространстве 8 любого представления класса 1 относитель-
относительно Н есть лишь один нормированный инвариантный вектор а, назо-
назовем подгруппу Н массивной.
Пусть T(g) — представление группы О класса 1 относительно
массивной подгруппы Н и а — нормированный инвариантный вектор
в пространстве С этого представления. Применим к вектору а кон-
конструкцию из п. 4, т. е. каждому вектору f из С поставим в соот-
соответствие функцию
b a) B)
на группе О. Эти функции называют сферическими функциями пред-
представления T(g) относительно подгруппы Н. Как было показано
в п. 4, представление T(g) эквивалентно представлению
Q(go)f(g)=f(ggo) C)
в пространстве сферических функций.
Сферические функции можно рассматривать как функции на одно-
однородном многообразии Ш с группой движений О и стационарной под-
подгруппой Н. В самом деле, из того, что сужение T(g) на подгруппу И
унитарно, следует равенство
= (T(h)T(g)f, a) =
)a) = (T(g)i, a)=f(g), h?H.
Таким образом, сферические функции представления T(g) посто-
постоянны на правых классах смежности Hg no подгруппе Н. Но мно-
множество правых классов смежности по подгруппе Н образует одно-
однородное пространство с группой движений G и стационарной подгруп-
подгруппой Н:
Hg-* Hgg?.
Поэтому f(g) можно рассматривать как функцию на Ш = Q/H.

§ 2) ГРУППЫ ПРЕОБРАЗОВАНИЙ И ИХ ПРЕДСТАВЛЕНИЯ 45
Среди сферических функций представления T(g) класса 1 наиболее
интересной является зональная сферическая функция, соответствую-
соответствующая инвариантному вектору а:
a, a). D)
Эта функция постоянна на двусторонних классах смежности HgH по
подгруппе Н.
В самом деле, по уже доказанному, a{hlgh^ = a{gh^), где
hi, h%(^H. Но 7(йа)а = а и потому
= (T(g)T(h,)a, a) = (T(g)a, a) = a(g).
Таким образом,
= a(g). E)
Как было отмечено в п. 2 § 2, двусторонние классы смежности
по Н соответствуют сферам в однородном пространстве. Следова-
Следовательно, зональные сферические функции постоянны на сферах.
Если в пространстве ? выбрать базис так, чтобы a = elt то зо-
зональная сферическая функция является не чем иным, как матричным
элементом tu (g). Остальные матричные элементы ty (g) первой строки
называют обычно присоединенными сферическими функциями. Они,
как мы говорили, постоянны на правых классах смежности по Н.
Иногда называют присоединенными сферическими функциями и
матричные элементы первого столбца:
е.). F)
Эти функции постоянны на левых классах смежности по Н:
tn(g)- G)
Можно показать, что если О—группа вращений трехмерного ев-
евклидова пространства, а И—подгруппа вращений плоскости, то сфе-
сферическими функциями неприводимых унитарных представлений группы G
являются классические сферические функции УГ(ср, Щ- При этом зо-
зональными сферическими функциями являются многочлены Лежандра
Pf(cos6). Если же G—группа вращений л-мерного евклидова про-
пространства, а Н—подгруппа вращений (л—1)-мерного евклидова про-
пространства, то сферические функции выражаются через многочлены
Гегенбауэра 1).
6. Индуцированные представления. Регулярное представление
является частным случаем индуцированных представлений. Они строятся
следующим образом. Возьмем некоторую подгруппу Н группы О и ее
представление Q (h) в гильбертовом пространстве .?). Обозначим через 8
>) См. главу IX.

46 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
множество вектор-функций f (g), заданных на группе О, принимающих
значения в ,?) и обладающих следующими свойствами:
1) Для любого элемента а из|> скалярная функция <f (g) = (f (g), a)
на группе О измерима относительно инвариантной слева меры dg на G,
равно как и (f(g), f(g)), причем
oo. A)
2) Для любого элемента h из подгруппы Н выполняется равенство
' Hgh) = Q(h)f(g). B)
Покажем, что это пространство инвариантно относительно опера-
операторов левого сдвига
7"Ы*(?) = *(^)- C)
Выполнение условия 1) для fig^g) очевидно, условие же 2) выпол-
выполняется, поскольку
Т (go) f (jgh) = f (g?gh) = Q(h)t (g?g) = Q (й) Г (g0) f (g).
Из инвариантности if следует, что T(g) является представлением
группы О. Его называют представлением, индуцированным пред-
представлением Q(h) подгруппы Н.
Рассмотренное выше регулярное представление группы О индуци-
индуцировано тривиальным представлением единичной подгруппы { е }. Далее,
тривиальное представление любой подгруппы Н: Q (h) = Е индуцирует
представление
в пространстве функций на однородном пространстве 9)? = 0/Н.
7. Представления групп с операторным множителем. Рассмотрим
теперь более общую конструкцию представлений для групп преобразований,
в которой сдвиги комбинируются с умножениями на операторную функ-
функцию А (х, g), зависящую от точки х ? Ш и элемента g из группы преобра-
преобразований G множества WI.
Предположим, что ? — линейное пространство функций, заданных на
множестве SR и принимающих значения в линейном пространстве 91. Пусть
каждому элементу л: из ЭК и каждому элементу g из G поставлен в соот-
соответствие невырожденный оператор А (х, g) в пространстве 9f, причем для
каждой функции f (x) из $ функция
T(g)t(x) = A(x,g)t(g-ix) A)
принадлежит ? (очевидно, что при фиксированном g функция Т (g) f (x)
задана на Ш и принимает значения в Щ.
Выясним, какой должна быть функция А {х, g), чтобы Т (g) было пред-
представлением группы G, т. е. чтобы выполнялось равенство
T(g,)T(g.) = T(g?j. B)
Из формулы A) видно, что
= A (х, glg2) i ((g.g^x) = А (х,
Г fe) f (x) = T (gj A (x, g2) t fe-1 x) = A (x, gl) A {g^x, gs) I (g^gl ix).

§ 2] ГРУППЫ ПРЕОБРАЗОВАНИЙ И ИХ ПРЕДСТАВЛЕНИЯ 47
Поэтому, для того чтобы равенство A) задавало представление группы G>
функция А (х, g) должна удовлетворять функциональному уравнению
А (х, gtg2) = А (х, gt) A (g{*x, gs). C)
Справедливо и обратное утверждение: если операторная функция А (х, g)
удовлетворяет условию C), то равенство (I) определяет представление
группы G.
Отметим некоторые свойства функции А (х, g), вытекающие из равен-
равенства C). Полагая g, = e, gs = g, получаем
A(x,g)=A(x, e)A(x, g).
Поэтому А (х, е) — единичный оператор. Далее, полагая g1 = gl ga=g~l, по-
получаем
EA()
A-1(x,g) = A(g-lx,g-1). D)
Так как множество Ш однородно относительно группы преобразова-
преобразований G, то А (х, g) можно выразить через функцию вида В (g). Выберем не-
некоторую точку а в SK. В силу однородности ЯЯ для любой другой точки х
найдется такое gx, что g^}a = x. Положив в равенстве C) gi=gx, gs=g,
получим
А (х, g) = A (g-ifl, g) = Л (о, gx) A (a, gxg).
Полагая A (a, g) = B (g), имеем
A(x,g) = B~4gx)B(gxg), E)
где, напомним, gx^a = x.
Из равенства C) следует, что если h — элемент стационарной подгруп-
подгруппы Н элемента а, то
A (a, hg) = A (a, h) A (Jrla, g) = A (a, h) A {a, g).
Это означает, что
B(hg) = B(h)B(g). F)
В частности, если ht и й2 принадлежат Н, то
В(А1А1) = В(А1)В(А1). G)
Таким образом, В {И) является представлением подгруппы Н.
Мы доказали следующее утверждение.
Пусть ЯП — однородное пространство с группой преобразований G.
Пусть 8 — линейное пространство вектор-функций на Ш, инвариантное
относительно операторов вида
T(g)i(x) = A(x,g)i(g-ix). (8)
Для того чтобы T(g) было представлением группы G, необходимо и до-
достаточно, чтобы А (х, g) имело вид
(9)
где gxla = x и В (g) — операторная функция на G, удовлетворяющая функ-
функциональному уравнению
B{hg) = B(h)B(g), h?H, g?G A0)
(Н—стационарная подгруппа точки в).

48 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
Отметим, что представления (8), соответствующие различным выборам
точки а, эквивалентны друг другу. Далее, пусть С(х)— операторная функ-
функция на 9И, такая, что для всех х существует С (х) и С (а) = Е. Положим
Ясно, что если й ? Н, т. е. если h~1a = а, то
В, (Ag) = B(hg)C (g-4r4i) = B{h)B (g) С (g-Ъ) = В (ft) В, (g). A2)
В частности, Bl(h) — B(h)Bl (e) = B(h). Поэтому равенство A2) можно пе-
переписать в виде
BW B(h)B(g). A2')
Отсюда вытекает, что Bt (g) определяет представление группы G,
где
Это представление эквивалентно представлению (8). Эквивалентность уста-
устанавливается путем замены в (8) f(jc) на С~1 (х) I (х).
8. Некоторые примеры. В дальнейшем нам встретятся многочис-
многочисленные примеры представлений групп преобразований — фактически
этим представлениям и их матричным элементам посвящена вся книга.
Приведем некоторые типичные примеры (опуская доказательства, ко-
которые будут проведены в соответствующих главах).
Начнем с одной из простейших групп преобразований — группы
вращений окружности. Регулярное представление этой группы строится
в пространстве функций
F(<p)=/(cos<p, sin 9)
на единичной окружности и задается формулой
7'(&)/7(«Р)=/7(«Р + «) A)
(§„ — вращение окружности на угол а).
Возьмем теперь л-мерный аналог рассмотренной группы — груп-
группу SO(ri) вращений л-мерного евклидова пространства Еп. Преобра-
Преобразования этой группы переводят в себя единичную сферу б"*. Поэтому
естественно строить представления группы SO(n) в пространстве
функций /(|) на этой сфере. Операторы представления задаются при
этом формулой
T(g)f(S)=f(r1^- B)
В главе IX будет показано, что это представление приводимо. Чтобы
получить неприводимые представления, надо взять на б"* простран-
пространства функций /(|) таких, что rkf(x/r) (Iя =^х\-{-...-\-х%) — одно-
однородный гармонический многочлен степени k. Представление T(g) раз-
разлагается в прямую ортогональную сумму представлений в этих про-
пространствах. Таким образом, теория представлений группы 50 (я)
оказывается связанной с теорией гармонических многочленов от я
переменных.

§ 3] ИНВАРИАНТНЫЕ ОПЕРАТОРЫ И ТЕОРИЯ ПРЕДСТАВЛЕНИЙ 49
Рассмотрим теперь группу SL (n, R) линейных преобразований
л-мерного линейного пространства Еп, определитель которых равен 1.
Обозначим через С пространство всех функций /(х) в?„с интегри-
интегрируемым квадратом модуля и положим
T(g)f(x)=f(g~1x). C)
Мы получим представление группы SL (л, R). Это представление при-
приводимо. Чтобы получить неприводимые представления, рассмотрим
однородные функции. Функцию /(х) в Еп называют однородной со
степенью однородности % = (ш, е), если для любого вещественного
числа а выполняется равенство
/(ax) = |a|0)sign6a/(x).
Здесь ш — любое комплексное число, а е принимает значения 0 и 1;
sign a — знак числа а.
Легко видеть, что пространство однородных функций инвариантно
относительно сдвигов; если функция /(х) однородна, то и /(g^'x)
является однородной функцией той же степени. Поэтому формула
T(g)f(x)=f(g-1x) D)
определяет представление группы SL(n, R) в пространстве однород-
однородных функций заданной степени. Если ш — целое положительное число,
то представление D) приводимо. Инвариантным подпространством
в нем является пространство однородных многочленов степени иотя
переменных.
§ 3. Инвариантные операторы и теория представлений
1. Операторы, перестановочные с представлениями. Пусть T(g)
и Q(g)—два представления группы О в линейных пространствах d
и 02 соответственно. Линейный оператор А, отображающий $?j в 82,
называют перестановочным с этими представлениями, если для любого
элемента g из О имеем
AT(g)=Q(g)A. A)
В частности, если А — линейный оператор в пространстве 2 пред-
представления T(g), такой, что
AT(g)=T(g)A, B)
то А называют перестановочным с представлением T(g).
Пусть оператор А в пространстве 8 перестановочен с пред-
представлением T(g) группы Q в 2, и пусть х — собственный вектор
этого оператора, соответствующий собственному значению X.
Тогда все векторы T(g)x являются собственными векторами
для А, соответствующими тому же собственному значению X.

50 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
В самом деле, по условию, имеем
AT(g)x=T(g)Ax.
Но Лх = Хх и потому
Тем самым наше утверждение доказано.
Из него непосредственно вытекает, что собственные функции
оператора А, перестановочного с представлением T(g), соответ-
соответствующие данному собственному значению X, образуют инвари-
инвариантное подпространство в пространстве представления.
Отсюда следует, что оператор А, перестановочный с неприводи-
неприводимым представлением Т (g), может иметь не более одного собственного
значения, в противном случае подпространство собственных векто-
векторов, отвечающих некоторому собственному значению, было бы нетри-
нетривиальным инвариантным подпространством.
Докажем более сильное утверждение:
Любой ограниченный оператор А „ в пространстве |? неприводи-
неприводимого представления T(g), перестановочный со всеми операто-
операторами T(g), кратен единичному оператору Е, А = \Е.
Рассмотрим сначала случай, когда оператор А самосопряжен *).
В этом случае он имеет спектральное разложение
А= $ idPQl C)
— со
причем, как известно (см. [40]), все операторы Р(К) перестановочны
с операторами представления T(g). Но операторы Р(\) — проекцион-
проекционные и потому, в силу неприводимости T(g), равенство
может иметь место либо если Р(Х) = 0, либо если Р(К) = Е. Так
как (Р(Х)х, х) — неубывающая функция, то существует такое значе-
значение Хо, что Р(\) = 6 при Х<^Х0 и РA) = ? при Х^Х0. Из равен-
равенства B) следует, что в этом случае А = Хо?.
Таким образом, в случае неприводимости представления T(g)
любой ограниченный самосопряженный оператор А, перестановочный
с операторами представления, кратен единичному оператору. Но тогда
и любой ограниченный оператор В, перестановочный с операторами T(g),
кратен единичному. Чтобы убедиться в этом, достаточно записать
В в виде В = Вх -\- lBit, где Bt и 52 —¦ самосопряженные операторы.
Введем следующее определение.
•) Напомним, что 2 — либо конечномерное либо гильбертово простран-
пространство. Поэтому мы можем считать, что в нем есть скалярное произведение
(х, у) (вообще говоря, неинвариантное относительно T(g)).

§3] ИНВАРИАНТНЫЕ ОПЕРАТОРЫ И ТЕОРИЯ ПРЕДСТАВЛЕНИЙ 51
Представление T(g) операторно неприводимо, если любой пере-
перестановочный с ним ограниченный оператор кратен единичному.
Итак, мы доказали, что любое неприводимое представление
в гильбертовом пространстве операторно неприводимо.
Обратное утверждение, вообще говоря, неверно даже для конеч-
конечномерных представлений. Однако если представление T(g) в гильбер-
гильбертовом пространстве .§ унитарно, то из его операторной неприводимо-
неприводимости вытекает обычная неприводимость. В самом деле, пусть унитарное
представление T(g) операторно неприводимо и .?), — его инвариантное
подпространство. Обозначим через Р оператор ортогонального проек-
проектирования на ,?>!. Поскольку ортогональное дополнение подпространства
.?)! также инвариантно (см. § 1, п. 8), имеет место равенство
PT(g)=T(g)P.
Из этого равенства, в силу операторной неприводимости T(g), сле-
следует, что либо Р=0, либо Р=Е, а потому инвариантное подпрост-
подпространство JQx тривиально.
Мы доказали, таким образом, что для унитарных представле-
представлений понятия операторной и обычной неприводимости совпадают.
2. Лемма Шура. Во многих вопросах теории представлений ока-
оказывается полезным следующее утверждение об операторах, переста-
перестановочных с не приводимыми конечномерными представлениями.
Лемма Шура. Пусть Т (g) it Q(g)- - конечномерные неприво-
неприводимые представления группы Q в пространствах 2t и ?2 соот-
соответственно, и пусть оператор А, отображающий ^ в 02, пере-
перестановочен с этими представлениями. Тогда либо А является
нулевым оператором, либо он имеет обратный оператор (и, сле-
следовательно, представления T(g) и Q(g) эквивалентны). Во втором
случае оператор А однозначно определен (с точностью до умно-
умножения на скаляр).
Для доказательства леммы рассмотрим два линейных подпрост-
подпространства, связанных с оператором А: подпространство ЭД, в %ь со-
состоящее из таких векторов х ^ 1гь что Ах = 0, и подпространство
й)?2 в ?2, состоящее из векторов у ? С2, имеющих вид у = А\, х ? d
(т. е. рассмотрим ядро Л @) отображения А и образ A Bt) простран-
пространства 2i при этом отображении).
Из перестановочности оператора А с представлениями T(g) и Q(g)
легко следует, что эти подпространства инвариантны. В самом деле,
если х^Я)?!, то Лх = 0. Но тогда
и потому 7"(g)x?j5)?i. Точно так же, если у ? 9Л2, то у имеет вид
v — Ах, х ^ &ь а тогда

52 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
Поскольку T(g)x?%i, то Q (g) у ? ЗЭТя- Тем самым доказано, что
подпространство fSfli инвариантно относительно T(g), a 50^— относи-
относительно Q(g).
Но представления T(g) и Q(g) неприводимы, а потому подпростран-
подпространства Я)?! и ЭОЪг либо являются нулевыми, либо совпадают соответ-
соответственно с d и ?2. При этом возможны следующие случаи:
а) Если 3Jlj=:O, то все пространство d переходит при отобра-
отображении А в нулевой элемент и потому А = 0.
б) Если 9)?! = 0 и 9Дг = ?2, то образом пространства d является
все пространство d> причем лишь нулевой элемент переходит в нулевой
элемент пространства €2- В этом случае оператор А имеет обратный
оператор Л и, следовательно, представления T(g) и Q(g) эквивалентны.
в) Наконец, случай SDti = d и ЯЛ2 = 8а может иметь место, лишь
если оба пространства d и 82 состоят только из нулевого элемента.
В этом случае А = 0.
Нам осталось показать, что в случае б) оператор А однозначно
определен (с точностью до постоянного множителя). Предположим,
что оператор В также перестановочен с T(g) и Q(g):
BT(g) = Q(g)B.
Тогда все операторы вида А — Х??, где X — число, также переста-
перестановочны с T(g) и Q(g).
Выберем X так, чтобы оператор А — ХВ был вырожденным, т. е., чтобы
Det(A — Щ = 0.
Тогда оператор А — ХВ, перестановочный с T(g) и Q (g), не имеет
обратного. Поэтому в силу доказанного выше он является нулевым
оператором, А — XJ3 = 0. Но тогда Л = ХВ. Лемма доказана.
3. Следствия из леммы Шура. Пользуясь леммой Шура, можно
доказать ряд важных утверждений о представлениях групп. В част-
частности, операторная неприводимость конечномерных неприводимых пред-
представлений является непосредственным следствием леммы Шура. В самом
деле, пусть представление T(g) неприводимо и АТ(g)= T(g) А. Так
как по лемме Шура оператор, коммутирующий с неприводимым пред-
представлением, определен однозначно с точностью до скалярного мно-
множителя, то А = ХЕ.
Другим важным следствием леммы Шура является то, что непри-
неприводимые конечномерные представления Т (g) коммутативных групп
одномерны. В самом деле, если группа О коммутативна, то для любых
двух ее элементов g и h имеем gh = hg, а потому
T(g)T(h)=T(h)T(g).
При фиксированном h оператор Т(ft) перестановочен со всеми
операторами T(g) и в силу неприводимости Т(g) имеем T(h) = \(h)E.

§ 3] ИНВАРИАНТНЫЕ ОПЕРАТОРЫ И ТЕОРИЯ ПРЕДСТАВЛЕНИЙ 53
Но представление такого вида может быть неприводимым лишь в
случае, когда оно одномерно.
Из леммы Шура вытекает также следующая теорема, которой мы
будем пользоваться в дальнейшем.
Теорема. Пусть представление T(g) группы О в гильберто-
гильбертовом пространстве ф является ортогональной прямой суммой
попарно неэквивалентных неприводимых представлений Tt (g) в под-
подпространствах ф,-, и пусть Я — такое инвариантное подпростран-
подпространство в ф, что сужение T(g) на g вполне приводимо. Тогда $
является ортогональной прямой суммой некоторых из подпро-
подпространств $)i.
Сначала докажем следующую лемму:
Лемма. Пусть представление T(g) группы О является орто-
ортогональной прямой суммой попарно неэквивалентных неприводимых
представлений Tt (g) этой группы. Тогда любое минимальное инва-
инвариантное подпространство $ пространства ф представления T(g)
совпадает с одним из пространств ф;.
В самом деле, обозначим через Pt оператор ортогонального проек-
проектирования подпространства % на подпространство ф? представления
Tt (g). Из попарной ортогональности подпространств ф; вытекает, что
где Q(g)—сужение представления T(g) на Щ. Так как представления
Ti ie) и Q (ё) неприводимы, то по лемме Шура получаем: если Tt (g)
и Q(g) неэквивалентны, то Pi = 0. Поскольку представления Tt(g)
попарно неэквивалентны, то лишь один из операторов />,- может быть
отличен от нуля, например, Pj^fcQ, а Р{ = 0 при I^j, Но тогда %
должно лежать в фу и быть инвариантным подпространством в фу.
В силу неприводимости Tj(g) подпространство Щ совпадает с фу.
Для доказательства теоремы достаточно разложить подпростран-
подпространство % па минимальные инвариантные подпространства и применить
к каждому из них лемму.
Наконец, пользуясь леммой Шура, легко доказать следующее утвер-
утверждение:
Пусть T(g) — неприводимое унитарное представление группы
О в гильбертовом пространстве ф и {х, у} — ограниченная эрми-
эрмитова форма в ф, инвариантная относительно T(g):
{Г6г)х, T(g)y} = {x, у}. A)
Тогда {х, у} отличается от скалярного произведения (х, у) в ф
лишь скалярным множителем:
{х, у} = Х(х, у).

54 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
В самом деле, форму {х, у} можно представить в виде
{х, у} = (Ах, у),
где А — ограниченный оператор в ,?). Из равенства A) и унитар-
унитарности, T(g) вытекает, что
(AT(g)x, T(g)y) = (Ax, y) = (T(g)Ax, T(g)y),
и потому
AT(g)=T(g)A.
Таким образом, оператор А перестановочен с T(g) и поэтому в силу
неприводимости T(g) кратен единичному оператору: Л = Х?. Следова-
Следовательно,
{х, у} = (Лх, у) = Х(х, у).
4. Инвариантные операторы. Решение многих задач математиче-
математической физики облегчается благодаря тому, что они обладают инва-
инвариантностью относительно тех или иных преобразований. Например,
уравнения, описывающие движение тела в кулоновском поле, инва-
инвариантны при вращениях вокруг заряженней точки, оператор Лапласа Д
инвариантен относительно движений евклидова пространства, волновой
оператор Ц — относительно преобразований группы Лоренца и т. д.
Инвариантны и многие интегральные операторы математической
физики. Например, интегральный оператор с ядром
К(х, у)= '
инвариантен относительно группы движений евклидова пространства:
при одновременном сдвиге точек х и у ядро оператора не меняется.
Введем общее определение оператора, инвариантного относи-
относительно преобразований некоторой группы. Пусть G—группа пре-
преобразований множества Ш и 2 — инвариантное линейное простран-
пространство вектор-функций на 9Л со значениями в линейном пространстве Ш-
Оператор А в 2 называют инвариантным относительно группы О,
если он перестановочен с операторами сдвига
т. е., если для любого элемента g из О имеем
AT(g)= T(g)A. A)
Например, если К(х, у) — ядро, зависящее от точек х и у мно-
множества 3>Я, и инвариантное относительно группы О:
АГ(?*, gy) = K(x, у),
{а — инвариантная мера на множестве 24, и f(x) — скалярная функ-
функция, то интегральный оператор
Af(x) = jK(x, y)f(y)d^y) B,

§ 4] ПРЕДСТАВЛЕНИЯ КОМПАКТНЫХ ГРУПП 55
инвариантен. В самом деле, AT(g)f(x) = ^K(x, y)f(g~1y)d\>.(y). Де-
Делая подстановку g~yy = z, получаем в силу инвариантности К(х,у)и р, что
AT{& f{x) = $ K(g lx, z)f(z)dp(z) = (Af)(g-'x) = T{g) Afix).
Из результатов п. 1 вытекает следующее утверждение:
Пространство собственных функций инвариантного опера-
оператора А, соответствующих собственному значению X, инвари-
инвариантно относительно операторов сдвига. Каждому собственному
значению X инвариантного оператора А соответствует пред-
представление 7\(g) группы О. Оно строится в пространстве ?х соб-
собственных функций оператора А, соответствующих собствен-
собственному значению X, и задается формулой
ПШ(х)=№х)- C)
В случае, когда множество ?01, на котором действует группа G,
однородно, связь между собственными функциями инвариантных опе-
операторов и представлениями группы G становится особенно тесной.
В этом случае элементы пространства 8Х являются линейными ком-
комбинациями матричных элементов представления 7\(g). В самом деле,
выберем в пространстве 2% базис fiix),..., tpm(лг),... и зафиксируем
точку а ? SO?. Тогда имеем
(«) = Tm (g-'a) = ? tkmig) Tft (а).
Но в силу однородности множества Ш любая его точка может быть
записана в виде x = gx1a и потому
?т (х) = ?т ig^a) ^^?k (a) tkm igx). D)
k
Тем самым наше утверждение доказано.
Если представление 7\(g) приводимо, то точно так же доказы-
доказывается, что собственные функции, принадлежащие инвариантному под-
подпространству 8', являются линейными комбинациями матричных эле-
элементов сужения представления 7\ (g) на €'. В частности, если пред-
представление Tiig) вполне приводимо, то любой элемент из 2Х
является линейной комбинацией матричных элементов неприво-
неприводимых представлений группы О.
§ 4. Представления компактных групп
1. Матричные группы. Компактные и локально компактные
группы. Мы будем рассматривать в этой книге лишь матричные
группы, т. е. группы, элементами которых являются невырожденные
матрицы одного и того же порядка, а групповой операцией служит
умножение матриц.

56 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. 1
Для матриц определено понятие сходимости: последовательность
матриц glt..., gn,..., gn — idi?) сходится к матрице g=(g{j), если
для любых / и j имеем lim gtj gilm Поэтому в матричных груп-
п —* со
пах можно говорить о сходимости последовательности элементов. Оче-
Очевидно, что если
\imgn = g и lim hn = h,
л—>-оо /z—>co
ТО
lim gnhn~gh и
K-s-CO
Таким образом, групповая операция в матричных группах непрерывна
относительно выбранной топологии.
Поскольку в матричных группах определен предельный переход,
естественным образом определяются понятия предела функции f(g),
заданной на такой группе, непрерывности функции и т. д.
Назовем матричную группу О компактной, если из любой после-
последовательности {gn\ ее элементов можно извлечь сходящуюся подпо-
подпоследовательность. Для того чтобы матричная группа G была компакт-
компактной, необходимо и достаточно, чтрбы
1) матричные элементы всех матриц, входящих в группу G, были
ограничены в совокупности,
2) множество матриц {g}, входящих в группу О, было замкнутым
в множестве всех матриц данного порядка.
Примером компактной группы является группа SO(ri) ортогональ-
ортогональных матриц к-ro порядка с вещественными элементами. Из ортого-
ортогональности матрицы g=(gij) вытекает, что
и потому все элементы ортогональной матрицы не'больше по мо-
модулю, чем 1. Далее, матрица g принадлежит SO(n) тогда и только
тогда, когда gg' = e х). Пусть lim gk = g и gk^SO{n). Пере-
k —>¦ со
ходя к пределу в равенстве gkg'kz=e, получим gg' = e, а потому
()
Следовательно, SO (я) образует замкнутое подмножество в множестве
всех матриц. Компактна и группа SU(n) унитарных унимодулярных
матриц я-го порядка.
Матричная группа О называется локально компактной, если мно-
множество ее элементов g= (gij), удовлетворяющих условию | gtj — btj | =^1,
где btj — символ Кронекера, компактно. Примером локально компакт-
компактной группы является группа всех невырожденных матриц «-го порядка.
g' — транспонированная матрица g.

§ 4] ПРЕДСТАВЛЕНИЯ КОМПАКТНЫХ ГРУПП 57
Эта группа не компактна, поскольку, например, из последователь-
последовательности матриц {те} (е — единичная матрица) нельзя выбрать сходящей-
сходящейся подпоследовательности.
Одним из важных свойств локально компактных групп является
наличие в них инвариантной (слева) меры. Точнее говоря, в любой
локально компактной группе О есть инвариантная слева мера,
принимающая конечные ненулевые значения на открытых под-
подмножествах в О, имеющих компактное замыкание. С помощью
этой меры определяем инвариантный слева интеграл на локально
компактной группе G:
Можно показать, что на компактных группах мера, инвариантная
слева, инвариантна и справа:
При этом мера всей компактной группы О конечна. Мы не будем
приводить доказательства этих утверждений, поскольку в конкретных
случаях инвариантная мера строится в явном виде.
Если подгруппа Н локально компактной группы О компактна, то,
исходя из инвариантной слева меры dg в G, определим меру dx на
однородном пространстве Wl=OjH, положив
Ж
Здесь ф (g)— отображение g~^gH группы G на 9Л. Можно показать,
что мера dx инвариантна и принимает конечные ненулевые значения
на открытых множествах и дУ1, имеющих компактное замыкание.
2. Полная приводимость представлении компактных групп.
Перейдем к рассмотрению представлений компактных групп ограни-
ограниченными операторами в гильбертовом пространстве (в частности, ли-
линейными преобразованиями в конечномерном пространстве, поскольку
в таком пространстве всегда можно ввести скалярное произведение).
Покажем, что эти представления сводятся к унитарным. Точнее го-
говоря, имеет место
Теорема 1. Пусть T(g) — представление компактной группы О
ограниченными операторами в гильбертовом пространстве .?>.
Тогда в этом пространстве можно ввести скалярное произведе-
произведение (х, у)и инвариантное относительно всех операторов T(g),
т. е. такое, что
(T(gu)x, ГЫУ), = (Х,УI О)
для всех векторов хну из .?) и всех элементов g0 в О.

58 ПРЕДСТАВЛЕНИЯ ГРУПП 1ГЛ. I
Для доказательства этой теоремы положим
(х, у), = 5(Г(их, T(g)y)dg, B)
где dg— инвариантная мера на группе О и (х, у) — скалярное про-
произведение в ,?). Интеграл B) сходится в силу ограниченности опера-
операторов T(g) и конечности меры dg. Из инвариантности этой меры
вытекает, что имеет место равенство A).
Доказанная теорема может быть сформулирована следующим
образом:
Теорема 1'. Любое представление T(g) компактной группы G
ограниченными операторами в гильбертовом пространстве уни-
унитарно относительно некоторого скалярного произведения в про-
пространстве представления.
В силу результатов п. 8 § 1 из доказанной теоремы вытекает
полная приводимость всех конечномерных представлений компактных
групп. Соответствующая теорема верна и для бесконечномерных уни-
унитарных представлений компактных групп: пространство такого
представления разлагается в прямую сумму конечномерных
инвариантных подпространств, в которых индуцируются непри-
неприводимые представления группы О (см. [264]).
Применим полученные результаты к представлениям компактных
коммутативных групп. Так как все неприводимые представления ком-
коммутативных групп одномерны, а представления компактных групп
вполне приводимы, получаем следующее утверждение:
Любое представление компактной коммутативной группы О
ограниченными операторами в гильбертовом пространстве
является прямой суммой одномерных представлений.
Заметим, что теорема Г неверна, вообще говоря, для некомпактных
групп. Например, если G—аддитивная группа вещественных чисел, то одно-
одномерное представление х-~ех не является унитарным относительно какого-
либо скалярного произведения. Доказательство, проведенное нами для ком-
компактных групп, теряет силу для некомпактных групп, так как инвариантная
мера всей некомпактной группы бесконечна, и интеграл
$, T(g)y)dg
расходится.
3. Ряды Фурье на компактных группах. Мы будем изучать
в этой книге ортогональные системы функций, возникающие из не-
неприводимых представлений компактных групп. Эти системы функций
связаны с матричными элементами таких представлений.
Разобьем множество всех неприводимых унитарных представлений
компактной группы G на классы эквивалентных представлений и вы-
выберем из каждого класса по одному представлению. Получающаяся
система представлений {Ta(g)} называется полной системаЦ попарно

§ 4] ПРЕДСТАВЛЕНИЯ КОМПАКТНЫХ ГРУПП 59
неэквивалентных неприводимых унитарных представленийгруппы О.
Множество индексов обозначим А.
Имеет место следующая основная
Теорема 1. Пусть {Ta(g)}y a^A, — полная система попарно
неэквивалентных неприводимых унитарных представлений ком-
компактной группы О, и пусть размерность представления Та (g)
равна da, а его матричные элементы — ^(g), I ^t,j^da. Тогда
функции
V^Jb(g), \^i,j^da,a?A A)
образуют полную ортонор миро ванную систему на группе О от-
относительно нормированной инвариантной меры dg на этой группе.
Таким образом,
\itJJbO, B)
если (a, I, f) не равно ф, т, п) и
<te=-^- C)
Из полноты системы Щ. (g)} следует, что любая функция f(g) на
группе G, такая, что
разлагается в сходящийся в среднем ряд Фурье по функциям
Коэффициенты Фурье этого ряда вычисляют по формуле
E)
При этом выполняется равенство Парсеваля
В случае, когда G—группа вращений окружности, ее неприводи-
неприводимые унитарные представления имеют вид einv (см. главу II, п. 2 § 1).
Сформулированная теорема означает для этого частного случая орто-
нормированность и полноту системы функций [etnf\ на окружности
относительно меры ~2~df.
Перейдем к доказательству теоремы. Чтобы доказать ортого-
ортогональность матричных элементов, соответствующих неэквивалентным

60 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
представлениям Та (g) и Тц (g), рассмотрим матрицу
Ац = \Тл(?ВиТ^-*)й& G)
где все элементы матрицы By равны нулю, кроме элемента by, рав-
равного 1. Из инвариантности меры dg легко следует, что матрица Ац
коммутирует с представлениями Ta(g) и Т (g):
TAgo)Aij = AijT&(go), go?G. (8)
По лемме Шура отсюда вытекает, что матрица A,-j равна нулю. Но
элементами этой матрицы являются интегралы вида J ??. (g) Щ {g~y) dg.
В силу унитарности представления Т„(?) имеем 0. (g~l) = $. (g), и
потому матрица Ац состоит из интегралов вида
Поэтому из равенства нулю матрицы А^ вытекает, что
\i0. a^ji (9)
Аналогично доказывается, что при (k, i) ф (/•, j)
\tlt(g)i^jdg^=U. (9')
Для вычисления интеграла C) рассмотрим матрицу
^TAg^dg, A0)
где Вц имеет указанный выше смысл. Легко проверить, что эта мат-
матрица коммутирует с матрицами представления Ta(g) и потому, по
лемме Шура, является скалярной матрицей. Отсюда вытекает, что
где X не зависит от k. Чтобы найти X, заметим, что след матрицы Ап
равен daX. С другой стороны, он равен следу матрицы Вн, т. е. 1.
Поэтому X — l/da.
Мы доказали, таким образом, ортогональность системы функций
{#.(§)} и условие нормировки C). Перейдем к самой трудной части
теоремы — доказательству полноты этой системы (полнота системы
матричных элементов неприводимых унитарных представлений ком-
компактной группы доказана Ф. Петером и Г. Вейлем [284]).
Итак, нам надо доказать, что любая функция f(g) на компакт-
компактной группе О, имеющая интегрируемый квадрат и ортогональная
всем функциям системы {ta. (g)}, равна нулю.
Сначала рассмотрим случай, когда функция f(g) непрерывна и
обладает эрмитовой симметрией f(g~1)=f(g). Поставим в соответ-
соответствие этой функции ядро
К (ft h) =/ (gh-*), h,g?G. A1)

§ 4] ПРЕДСТАВЛЕНИЯ КОМПАКТНЫХ ГРУПП 61
Оно обладает эрмитовой симметрией
=f(hg-i)^=K(h, g).
При этом в силу непрерывности функции f(g) и конечности инва-
инвариантной меры компактной группы G интегральный оператор с ядром
K(g, Щ вполне непрерывен.
Поэтому, если функция f(g) не равна тождественно нулю, суще-
существует отличное от нуля собственное значение X интегрального опе-
оператора
\)?(h)dh A2)
с конечномерным собственным подпространством 8Х'). Покажем, что
существование такого подпространства несовместимо с предположе-
предположением об ортогональности функции f(g) всем функциям
Для этого докажем сначала, что из равенств
A3)
вытекает ортогональность всех функций w (g) из Cj, функциям
системы {t\j (g)}.
В самом деле, так как X ф 0 и
то при А<? (g) = Х;р (g) имеем:
T (g) tij (g) dg= i- j A? (g) fij (g) dg=
T
k
Из равенства A3) вытекает, что все члены последней суммы равны
нулю. Тем самым доказано равенство
0. A5)
Заметим теперь, что ядро K(g, fy^figff1) оператора А инва-
инвариантно относительно правых сдвигов:
=f{ghrl) = K{g, h).
') См. [34] или [1], где соответствующая теорема доказана для любого
вполне непрерывного самосопряженного оператора.

62 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
Следовательно, инвариантен и сам оператор А. Но тогда в силу
результатов п. 4 § 3 подпространство $?х инвариантно относительно
сдвигов и формула
задает представление группы G в $?х.
Представление 7\(g) вполне приводимо, как конечномерное пред-
представление компактной группы G. Следовательно, как было показано
в п. 4 § 3, любая функция <р (g) из ?л является линейной комби-
комбинацией матричных элементов неприводимых представлений группы G.
Выберем в ?х отличную от нуля функцию <?(g). Мы показали,
что она является линейной комбинацией матричных элементов непри-
неприводимых представлений группы G. Но каждое неприводимое пред-
представление группы G эквивалентно одному из представлений Ta(g) и,
следовательно, его матричные элементы являются линейными комби-
комбинациями функций {tij(g)}, 1 ^i,j^da. Следовательно, и tp(g-)
является линейной комбинацией функций {t%(g)}- С другой стороны,
мы показали, что <p(g) ортогональна всем функциям системы {t1j(g)}.
В силу ортогональности этой системы отсюда вытекает, что tp (g) = О,
нопреки условию.
Полученное противоречие показывает, что не существует отличной
от нуля непрерывной эрыитово-симметричной функции, ортогональной
всем матричным элементам неприводимых унитарных представлений
этой группы.
Общий случай легко сводится к рассмотренному выше. Именно,
если F (g) -— отличная от нуля функция с интегрируемым квадратом,
ортогональная всем функциям {fy (g)}, то построим сначала функцию
Она также ортогональна всем функциям {tij (g) \. В самом деле,
= \ \ F (gh) FWJ^g) dgdh =
-1) dgdh =
h (g) dg \ F (A) tij (ft) dh = 0,
так как
Простая проверка показывает, что функция ф (g) непрерывна. При этом
«I>(e) = J|F(A)|»rfA>0.
Далее, построим эрмитово-симметричную функцию

§ 4] ПРЕДСТАВЛЕНИЯ КОМПАКТНЫХ ГРУПП 63
Так как f(e) = 2ф (е) ^> 0, то эта функция отлична от нуля, и
как легко видеть, ортогональна всем функциям {?у (g)}. Но мы
доказали выше, что такой функции не существует. Следовательно,
всякая функция с интегрируемым квадратом, ортогональная всем
функциям системы {t?} (g)}, равна нулю. Полнота системы {<у (g) }
доказана.
4. Гармонический анализ функций на компактных группах.
Результаты предыдущего пункта позволяют решить задачу о разло-
разложении на неприводимые компоненты регулярного представления
компактной группы О. Напомним, что правое регулярное представ-
представление строится в пространстве ?2 (G) функций f(g) на группе О,
имеющих интегрируемый квадрат по инвариантной мере, и задается
формулой
0)
Если О — группа вращений окружности, то ее регулярное пред-
представление имеет вид
У (&)/(?) =/(? + *)
(см. п. 8 § 2), а разложение регулярного представления на непри-
неприводимые сводится к разложению в ряд Фурье
по матричным элементам е'9 неприводимых унитарных представлений
этой группы (в этом частном случае такие представления одномерны).
Разложение регулярного представления любой компактной группы
также связано с разложением функций f(g) в ряд Фурье. По ана-
аналогии с разложением функций на окружности, его называют гармо-
гармоническим анализом функций на группе Q.
Обозначим через Щ подпространство функций f(g), являющихся
линейными комбинациями функций
B)
Так как для любого j имеем
R Ы § (g) = tii fegb) = 2 И, Ш 4 (g) € &, C)
то это пространство инвариантно относительно R (g).
Выберем в качестве базиса в пространстве ф" функции t^.(g). Из
формулы C) непосредственно вытекает, что сужение представления
R(g) на ,?>" задается в этом базисе матрицей (&(§)). Следовательно,
оно эквивалентно представлению Ta(g) и потому неприводимо.
Мы построили, таким образом, подпространства .?)? в С2 (О), инва-
инвариантные относительно операторов правого сдвига, такие, что сужение

64 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
R"(g) представления R(g) на ^ эквивалентно неприводимому уни-
унитарному представлению Ta(g).
Осталось показать, что пространство С2 (G) является прямой суммой
подпространств .?)?:
т. е., что любая функция f(g) из пространства 82 (G) имеет одно-
однозначно определенное разложение на функции ff (g) из подпространств
,?)?. Для этого заметим, что по формуле D) п. 3
f(g)= S Е <#&<& D)
а ? Л f, /= 1 '
Сгруппируем члены этого ряда, принадлежащие подпространству
JQa.. Мы получим
где
д F)
/¦ = •
Тем самым построено разложение функции/(g) на функции f^(g) из
^. Это разложение однозначно в силу взаимной ортогональности
подпространств $а.. Заметим в заключение, что представления R^ig),
1 =SS i ^ da эквивалентны Та (g) и, следовательно, друг другу. Таким
образом, представление Ta(g) входит в разложение представления
R(g) с кратностью йф равной степени этого представления:
R(g) = y?idJa(g), G)
a
Итак, нами доказана
Теорема 1. Регулярное представление компактной группы О
разлагается в прямую сумму неприводимых унитарных пред-
представлений этой группы. Каждое неприводимое унитарное пред-
представление группы О входит в разложение регулярного представ-
представления с кратностью, равной степени этого представления.
Инваргтнтные подпространства, в которых реализуются непри-
неприводимые слагаемые правого регулярного представления, состоят
из функций вида
d

§4] ПРЕДСТАВЛЕНИЯ КОМПАКТНЫХ ГРУПП 65
Аналогичные утверждения имеют место для левого регулярного
представления, причем в этом случае минимальные инвариантные
подпространства состоят из функций вида
Заметим еще, что всякое неприводимое представление T(g)
компактной группы О входит в разложение регулярного пред-
представления этой группы.
Для доказательства этого утверждения построим согласно п. 4
§ 2 отображение
t, a) A0)
пространства 8 представления T(g) в пространство функций на
группе G(a^0 — любой вектор из 2). В силу непрерывности представ-
представления T(g) функции f(g) непрерывны на группе О. Поэтому в силу
конечности инвариантной меры функции f(g) имеют интегрируемый
квадрат,/(g-)GS2(G)-
Мы построили отображение A0) пространства 0 в ?2(G). Как
было показано в п. 4 § 2, при этом отображении в нуль переходит
лишь нулевой элемент из 2, а операторам представления T(g) соот-
соответствуют правые сдвиги.
Таким образом, представление T(g) эквивалентно сужению регу-
регулярного представления на инвариантное подпространство ?а — образ
пространства ? при отображении A0). В силу полной приводимости
регулярного представления компактной группы О представление
T(g) входит в разложение регулярного представления на неприво-
неприводимые.
5. Разложение функций на однородных пространствах. В при-
приложениях приходится разлагать не только функции, заданные на
компактной группе, но и функции на однородных пространствах
с компактной группой движений (например, не функции на группе
вращений сферы, а функции на сфере). Мы видели в п. 2 § 2, что
однородное пространство Ш с группой движений G можно реали-
реализовать как пространство левых классов смежности по стационарной
подгруппе И некоторой точки а ? дЛ. При этом движения задаются
формулой g0H-^> ggoH. Ясно, что разложение функций на однородном
пространстве Ш сводится к разложению функций на группе, посто-
постоянных на левых классах смежности по подгруппе Н, т. е. таких, что
f (?/
Ограничимся рассмотрением наиболее важного случая, когда под-
подгруппа Н массивна (см. п. 5 § 2). Выберем из системы попарно
неэквивалентных неприводимых унитарных представлений \Ta(g)}

66 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
группы О представления класса 1 относительно подгруппы Н и
обозначим множество этих представлений через Ао. В пространст-
пространствах 8а представлений Та (g), а ^ Ао выберем ортонормированные ба-
базисы { е°} так, чтобы векторы ej были инвариантны относительно опе-
операторов Та (ft), ft ? Н. Ясно, что при таком выборе базиса имеем
Рассмотрим матричные элементы tan (g) представлений Ta(g), a ?j Ай.
Они постоянны на левых классах смежности по подгруппе Н.
В самом деле,
Естественно ожидать, что именно по этим матричным элементам
разлагаются функции на группе О, постоянные на левых классах
смежности по Н. Мы докажем сейчас справедливость этого пред-
предположения.
Итак, пусть/(g) — функция на компактной группе О, постоянная
на левых классах смежности по массивной подгруппе. Ц и имеющая
интегрируемый квадрат.
В силу результатов п. 3 имеем
/fe)=2 2 c<ifii(g)' B)
где
C)
Надо показать, что разложение B) содержит лишь слагаемые, для
которых а. ? Ав и у = 1.
Так как, по условию, для любого h^-Н имеем f(g)=f(gh~1),то
Проинтегрируем это равенство по подгруппе Н:
tfj (g) dgdh=
Рассмотрим интеграл \^y(ft)rf/2. Если а^Л0, то в пространстве
представления Ta(g) нет вектора, инвариантного относительно опера-
операторов Та (ft), h(^H. Поэтому разложение представления Та (ft) под-
подгруппы Н на неприводимые не содержит единичного представления.

§ 4] ПРЕДСТАВЛЕНИЯ КОМПАКТНЫХ ГРУПП 67
Но тогда все матричные элементы fjy (ft) этого представления являются
линейными комбинациями неприводимых представлений, отличных от
единичного, и, значит ортогональны функции t (ft) = 1. Это показы-
показывает, что если а ? Ао, то ^ t" (ft) dh = 0.
Пусть теперь а ? Ло. В силу выбора базиса мы имеем ^, (К) = 1
и потому tij(h) = tJ\(h) = O при / Ф 1, h (^ //. Поскольку в про-
пространстве Са есть лишь один нормированный вектор, инвариантный
относительно Ta(h), ft ^ Н, то все остальные матричные элементы
ikj(h), A^>1, у^> 1 являются линейными комбинациями матричных
элементов неприводимых унитарных представлений, отличных от
единичного. Поэтому, если а^ Ло, но k ф 1 или j ф 1, то
Из доказанного следует, что если о-^Л0 или /Ф 1, то с^-=
Поэтому
При этом
Разумеется, в силу того, что функция /(g) и матричный элемент tati (g)
постоянны на левых классах смежности по Н, интеграл C) можно
переписать в виде интеграла по однородному пространству SSt=^OjH.
Наше утверждение доказано: функции на компактных группах,
постоянные на левых классах смежности по массивным под-
подгруппам, разлагаются в ряды вида B), где Ло — множество по-
попарно неэквивалентных неприводимых унитарных представлений
класса 1, a t\{g) — матричные элементы столбцов, соответ-
соответствующих базисным векторам е.\, таким, что Та (/2) ej = ej, h(^H.
Рассмотрим представление
) D)
в пространстве функций на однородном пространстве дЛ=О/Н с
компактной группой движений О и массивной стационарной подгруп-
подгруппой Н. Из разложения B) легко следует, что это представление раз-
разлагается в прямую сумму представлений класса 1 относительно под-
подгруппы Н, причем каждое представление класса 1 входит в разло-
разложение только один раз (поскольку в разложении B) участвуют
матричные элементы лишь одной строки матрицы {^-(g)}, а^Л0).
Совершенно так же строится разложение функций, постоянных
на правых классах смежности по массивной подгруппе //.

68 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
Объединяя полученные результаты, приходим к следующему утвер-
утверждению:
Пусть Н— массивная подгруппа компактной группы О. Тогда
любая функция f(g), постоянная на двусторонних классах смеж-
смежности HgH no подгруппе И, разлагается по зональным сфериче-
сферическим функциям t^ (g), а. (^ Ай унитарных неприводимых представ-
представлений класса 1:
Коэффициенты разложения задаются формулами
E)
Интегрирование в формуле (о) сводится к интегрированию по
множеству сфер в однородном пространстве Ш = О/Н.
6. Свертка функций на группе. Сверткой двух функций /| (g)
и A(g), заданных на компактной группе О, называют функцию
Операция свертывания ассоциативна, но некоммутативна, т. е.
имеет место равенство
(/, *Л) •/¦ (g) =А * (Л */з Ш B)
но, вообще говоря, fi*A(g)^A*fi(g)-
Если функции /i (g) и /2 (g) непрерывны, го и их свертка являет-
является непрерывной функцией.
Найдем, как выражаются коэффициенты Фурье свертки f(g) двух
функций /i(g) и fv(g) через коэффициенты Фурье а\. и Щ. сверты-
свертываемых функций. Подставим в равенство
С3)
вместо функции f(g) выражение A). Меняя порядок интегрирования,
получаем
ctj=S $Л (Sg^f*(й)%(gTdgdgl = 5 5/i fe)/>(ЙL
Но
Отсюда вытекает, что
tfy= S S/i
ft
Итак, нами доказана

§ 4] ПРЕДСТАВЛЕНИЯ КОМПАКТНЫХ ГРУПП 69
Теорема 1. Пусть функция f(g) является сверткой функ-
функций f\ (g) и /2 (g), заданных на группе О, и пусть коэффициенты
фурье функции fi(g) равны ау, а коэффициенты Фурье функции
А (ё) равны b\r Тогда коэффициенты Фурье функции f(g) равны
<Ь=2а*% E)
k
Этой теореме можно дать более наглядную форму. Расположим
коэффициенты Фурье функции f(g), соответствующие одному и тому
же неприводимому представлению Та (g), в виде матрицы (Са). Тогда
функции f(g) соответствует бесконечная совокупность матриц (С).
Теорема 1 означает, что если функции /i (g) соответствует сово-
совокупность матриц (Аа), а функции /a(g) — совокупность матриц (В"),
то их свертке f(g)=fi(g)*f%(g) соответствует совокупность матриц
Иными словами, свертке функции соответствует умножение
матриц, составленных из коэффициентов Фурье свертываемых
функций.
Совокупность непрерывных функций, заданных на группе О, образует
кольцо, если понимать сложение функций (и умножение функции на скаляр)
обычным образом, а в качестве умножения взять свертку функций. Это
кольцо называют групповым кольцом группы G. Поставив в соответствие
каждой функции f(g) из группового кольца некоторую матрицу (С) ее
коэффициентов Фурье, получаем гомоморфное отображение группового
кольца в кольцо матриц. Эти отображения стоят во взаимно однозначном
соответствии с классами неприводимых унитарных представлений группы G.
7. Разложение центральных функций. Функцию f(g) на груп-
группе О называют центральной, если для любых двух элементов g и gi
этой группы выполняется равенство
f(ggi)=f(gig) A)
или, что то же самое, равенство
f(gi1ggi)=f(g)- (О
Таким образом, центральные функции постоянны на классах сопря-
сопряженных элементов группы О. Примерами центральных функций
являются характеры x(g) представлений T(g) группы О, так как они
Удовлетворяют функциональному уравнению
B)
(см. п. 9 § I).
Если f(g) — центральная функция на группе О, то для любой
непрерывной финитной функции 9 (g) на этой группе выполняется

70 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
равенство ,. , . ,, .
f*f(g) = <?*f(g)- C)
В самом деле, так как f(g)— центральная функция, то f(ggT1) =
. и потому
/* 9 (g) = $ figgT1) 9 (gi) dgi = S figT'g) <? (gi) dgi =
i = <p *f(g).
Равенство (З) показывает, что центральные функции принадлежат
центру группового кольца группы О, т. е. перестановочны со всеми
элементами кольца.
Выясним теперь, какой вид имеет разложение центральной функ-
функции f(g) по матричным элементам неприводимых унитарных представ-
представлений. Пусть
"а
f(g)= 2 SW& <4>
а ? А '-.; = »
Обозначим через (Q) матрицу, состоящую из коэффициентов с" функ-
функции /(#). Так как f*ty(g) — t"j*f(g), то имеет место равенство
E)
где (Л)"—матрица коэффициентов Фурье функции ti.(g) (см. п. 6).
Но очевидно, что все элементы этой матрицы равны нулю, за исклю-
исключением элемента а"., равного 1. Поскольку равенство E) справедливо
для всех I и j, то Са—скалярная матрица, т. е. с^.= 0 при г^/ и
И '" * dd a'
Из полученных значений для коэффициентов с*, следует, что раз-
разложение центральной функции f(g) в ряд Фурье имеет вид
Итак, мы доказали, что всякая центральная функция f(g) с инте-
интегрируемым квадратом может быть разложена в ряд по характерам
неприводимых унитарных представлений группы С:
2c^(g-)- F)
<z? A
Коэффициенты са выражаются по формуле
Суммируя эти равенства по I от 1 до *4 и деля на da, получаем
G)

§ 4] ПРЕДСТАВЛЕНИЯ КОМПАКТНЫХ ГРУПП 71
Отметим, что характеры Ха(ё) полной системы попарно не эквива-
эквивалентных неприводимых унитарных представлений компактной груп-
группы О образуют ортогональную нормированную систему функций.
В самом деле, из соотношений ортогональности для матричных
элементов неприводимых унитарных представлений имеем при а. ф р
\ Х«feOtfe)dg= S 2j S ft fe)$j(g)dg= 0. (8)
Если же а=р, то
=2 S S ft
Слагаемые, для которых 1ф), равны нулю, а слагаемые, для кото-
которых l=j, равны ljda. Поэтому
51Х.(в)Р^=1. (9)
Формулы F)—(9) показывают, что каждая центральная функция
с интегрируемым квадратом разлагается в сходящийся в среднем ряд
Фурье по ортогональной системе {xa(g)}. Иными словами, система
функций {Ха(ё)\ образует ортогональный нормированный базис в
гильбертовом пространстве центральных функций с интегрируе-
интегрируемым квадратом модуля. Отсюда вытекает, что для центральных
функций справедливо следующее равенство Парсеваля:
Разложение по системе функций {Xa(g)} позволяет находить крат-
кратность, с которой данное неприводимое унитарное представление Ta(g)
компактной группы О входит в разложение приводимого представ-
представления T(g). Если характер представления T(g) равен x(s)> т0 со"
гласно результатам п. 10 § 1
xfe)=
где аа — кратность, с которой Ta(g) входит в разложение представ-
представления T(g). По формуле G) коэффициент Фурье аа выражается ра-
равенством
l A2)
Отметим частный случай. Пусть Ta(g) и ТAg) — неприводимые
унитарные представления группы Q. Тогда характер их тензорного
произведения Ta(g)(g)T (g) равен х*(g)Xp(§")• Отсюда вытекает, что

Представления групп [Гл. 1
представление T^(g) входит в разложение тензорного произведения
T()®T^(g) с кратностью
%т = S X» (g) Xp (g) Ъ(ё) dS- (I3)
Обозначим через T(g) представление группы О, комплексно-сопря-
комплексно-сопряженное с представлением T(g) (т. е. имеющее матричные элементы
)- Очевидно, что
Из равенства A3) вытекает следующее соотношение симметрии.
Пусть Ta(g), TE(g), 7"T(g) — неприводимые унитарные представ-
представления компактной группы О. Тогда представление T^(g) входит
в разложение представления Ta(g)(g) T?(g) с той же кратностью,
с которой представление Та (g) входит в разложение Гр (g) (g) T^(g)
или представление Тц (g) в разложение Та (g) ® Т^ (g).
ДОПОЛНЕНИЕ К ГЛАВЕ I
Некоторые сведения о линейных пространствах
Мы предполагаем, что читатель владеет теорией линейных пространств
в объеме книги И. М. Г е л ь ф а н д а «Лекции по линейной алгебре» и эле-
элементами теории гильбертовых пространств.
1. Кронекеровское или тензорное произведение линейных про-
пространств и операторов. Пусть V, и Vs — конечномерные линейные про-
пространства. Обозначим через 2[ и Ы'а сопряженные с ними пространства
(т. е. пространства, элементами которых являются линейные функционалы
в i\ и »s).
Кронекеровским или тензорным произведением пространств i', и S,
называется линейное пространство 36B'2, ?,), элементами которого являются
линейные отображения пространства 2'2 в St. Мы будем обозначать тензор-
тензорное произведение пространств V, и 23 через Ях ® V2.
Каждому линейному отображению А пространства 2а в V, соответствует
сопряженное с ним отображение А' пространства i!,' в %а. В силу конечно-
конечномерности пространств 8, и ifs соответствие Д—> Л' определяет изоморфное
отображение JS B'а, i',) на X'(!',', 2а). Таким образом, если рассматривать ли-
линейные пространства с точностью до изоморфизма, то тензорное произведе-
произведение обладает свойством коммутативности
Кроме того, это произведение ассоциативно:
(8i®8s)<2>*!8 = Si®0-'s®8s)- B)
Каждой паре (х, у), х ? $и у ? 1'2 поставим в соответствие оператор
х ® У. определяемый равенством
, C)

ДОПОЛНЕНИЕ К ГЛАВЕ I 73
где i ? i's- Так как f (у) — число, то этот оператор отображает пространство
i>'s в i'j. Таким образом,
Имеют место очевидные соотношения
D)
E)
Легко показать, что любой линейный оператор X, отображающий про-
пространство if2 в $?„ может быть представлен в виде линейной комбинации опе-
операторов вида х®у. Поэтому, если {е,}, lsgisgn— базис в пространстве V,,
a {gj}, l^j-^tn — базис в пространстве if2, то элементы hy = e,-®g/-,
п
образуют базис в i!t ® if2. При этом, если х= У
1=1
n m
х ® У = 2 I] «iP/ (e< ® вА F)
iyi
и у = 2'Р'?'> то
/=
Определим теперь кронекеровское (или тензорное) произведение опера-
операторов А и В, действующих соответственно в пространствах i.^ и Vs. Пусть X—
линейный оператор, отображающий i!'2 в i'j. Очевидно, что оператор АХВ'
отображает пространство %'s в 1'ь т. е. также принадлежит %{V.'s, St). При
этом отображение Х^ АХВ' является линейным оператором в c5?(i'2, ^i).
Мы назовем этот оператор кронекеровским произведением операторов А и
В и обозначим его через А®В. Итак,
\ (А®В)Х=АХВ', G)
где Х?Х(Ц, И,).
Из равенства G) вытекают следующие свойства кронекеровского произ-
произведения операторов:
Л ® («В, + №*) = «^ ® В, + РЛ (8) Ба, (8)
(9)
(Ю)
Чтобы доказать, например, равенство A0), достаточно заметить, что
) х= а и2хв2в; = л, <л2хв;) в;=и i
Если оператор А" из X (i!2, I'j) имеет вид Х= х (g) у, х ? J^, у ^ S2 (т. е.
если Xf = f (у) х, f ^ i!2), то легко проверить, что
A1)
В частности,
(А
Отсюда вытекает, что если матрица оператора А в базисе {е,-} равна (ву),
а матрица оператора В в базисе {gr} равна (brs), то матрицей оператора
Л®Вв базисе h ir = ef (g) gr является
- A2)

74 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. 1
Элементами этой матрицы являются, таким образом, всевозможные попар-
попарные произведения элементов матриц {аф и (brS).
Отметим еще, что если St и ?!2 — унитарные линейные пространства (т. е.
комплексные линейные пространства, в которых определено скалярное про-
произведение с обычными свойствами), то их кронекеровское произведение
-1 ® -а также является унитарным пространством. Скалярное произведение
в ?, (g) ?2 определяется равенством
(х, ® у„ х2 ® ys) = (х„ х2), (у„ у2)а, A3)
где (Xl х2)! и (у„ у2)а— скалярные произведения в пространствах St и S2.
При этом ортогональным нормированным базисом в Sl ® 1'2 является hy =
= ег® gy> где {ej—ортогональный нормированный базис в пространстве С,
и {g,} — ортогональный нормированный базис в S2.
2. Операторы типа Гильберта — Шмидта. Перейдем теперь к рассмо-
рассмотрению бесконечномерных пространств. Оператор А, отображающий гиль-
гильбертово пространство $t в гильбертово пространство -&2, называется опера-
оператором типа Гильберта—Шмидта, если для любой ортогональной норми-
нормированной системы векторов { е„ } в ¦&, сходится ряд
оэ
2 \\Аеп\?. A)
л = 1
Нетрудно показать, что для того, чтобы А был оператором типа Гиль-
Гильберта— Шмидта, достаточно выполнения условия A) хотя бы для одного
ортонормированного базиса в J^.
Пусть i'J — пространство функций./(х) на множестве X, имеющих инте-
интегрируемый квадрат модуля относительно меры о, a SjJ — пространство функ-
функций F(y) на множестве Y, имеющих интегрируемый квадрат модуля относи-
относительно меры р. Если функция К{х, у) такова, что')
И I К(х, у) Is dc (х) d9 (у)< + сх>,
то интегральный оператор
есть оператор типа Гильберта — Шмидта.
Если А и В — операторы типа Гильберта — Шмидта, то а А -\- (Ш, где
а, р — комплексные числа, тоже является оператором типа Гильберта —
Шмидта. Таким образом, операторы типа Гильберта — Шмидта образуют
линейное пространство. Мы будем обозначать его через q%&i, 4?s)-
Введем в пространство q%" (•?>!, Фа) скалярное произведение. Именно,
если А и В — операторы типа Гильберта — Шмидта, отображающие про-
пространство •&! в ¦&.,, то положим
(А, В) = 2 (Ле«- Ве») = Тг
где {е„} — некоторый ортогональный нормированный базис в пространстве .&,.
Ряд B) сходится, поскольку
л=1
*) Если интегрирование распространено на всю область изменения пере-
переменных, мы будем обычно опускать указание области.

ЛОПОЛНЕНИЕ К ГЛАВЕ I 75
Нетрудно проверить, что (А, В) не зависит от выбора базиса {еп}, обладает
всеми свойствами скалярного произведения и что ^Г D?,, 4?2) с указанным
скалярным произведением является гильбертовым пространством.
Отметим еще следующие свойства операторов типа Гильберта — Шмидта:
1) Оператор А*, сопряженный с оператором типа Гильберта —
Шмидта, является оператором того же типа.
2) Если один из операторов А и В является оператором типа Гиль-
Гильберта— Шмидта, а другой ограничен, то их произведение АВ является
оператором типа Гильберта — Шмидта.
3. Тензорное произведение гильбертовых^ пространств. Пусть •?>!
и 4?а— гильбертовы пространства. Их тензорным произведением назовем
гильбертово пространство <?%ГD?s, $i)> состоящее из антилинейных операто-
операторов ') типа Гильберта — Шмидта, отображающих пространство 4?2 в "&i- Мы
будем обозначать ©%"'(-&2> ^i) также и через -i?i ® •ё'г- Мы уже видели, что
•&1 ® -&2 является гильбертовым пространством.
Как показывает рассмотренный в п. 2 пример, тензорным произведением
пространств S| и Sjj является пространство Sj; *» , состоящее из функций
К{х, у), для которых
\\ . A)
Каждой паре векторов (х, у), х ? •?>,, у ? 4?s соответствует элемент х ® у
пространства •?>! ® "&ai отображающий вектор z ? Ф2 в вектор
(x®y)z = (y, z)^ B)
пространства ф,. Скалярное произведение двух элементов х, ® у! и х2 (х) у2
дается формулой
(JCi (g) у„ Х2 ® yg) = (Хи Х2)! (у1} у2J. C)
В самом деле, если {fn}—ортонормированный базис в пространстве ^ia, то
= (х„ x,), 2 (у„ fn)s(y2, fn)j,=(x11xj,(y1,y,),.
«= 1
Из равенства C) вытекает, что если {еп} — ортонормированный базис
в пространстве 4?» а {\п} — ортонормированный базис в пространстве 4?2, то
элементы e,-®fy образуют ортонормированный базис в пространстве 4?t ®-ба-
Определим теперь кронекеровское произведение ограниченных опера-
операторов. Пусть А (соответственно В) — ограниченный оператор в простран-
пространстве 4Jj (соответственно 4?2), а X—элемент пространства •&i®-&2, т. е. анти-
антилинейный оператор типа Гильберта-—Шмидта, отображающий -§2 в •§,. Тогда
оператор АХВ* также отображает $s в •§! и является оператором типа
*) Оператор А, отображающий пространство 4?2 в 4?i, называется анти-
антилинейным, если для любых двух векторов х, у из |, и любых комплексных
чисел а, р имеем

76 ПРЕДСТАВЛЕНИЯ ГРУПП \Гп. I
Гильберта — Шмидта. Следовательно, отображение Х—-АХВ* является (ли-
(линейным) оператором в пространстве .?>, ® ?2. Мы будем обозначать его
через А® В и называть кронекеровским произведением операторов А и В.
Если х ? $и у ? fe, то
D)
В самом деле, для любого элемента z из Jj2 имеем в силу равенства B)
, z) Лх = (Лх <g) By) z.
Тем самым равенство D) доказано.
Тензорное произведение операторов в гильбертовых пространствах обла-
обладает свойствами, аналогичными свойствам тензорного произведения операто-
операторов в конечномерных пространствах. Именно,
E)
А ® («В, + [Ш2) = ее (А ® В,) + р (Л ® В2), F)
И, <8) в,) (Л ® вs)=л,л2 <8) BtB2. G)
Эти свойства доказываются точно так же, как и в конечномерном случае.
Найдем теперь матричные элементы оператора A (g) В. Пусть { е,-} —
ортонормированный базис в пространстве ¦?>!, { \т } — ортонормированный
базис в пространстве $а. Тогда, как отмечалось выше, {е,-®^} является
ортонормированным базисом в пространстве ¦?>! ® ф2. Матричные элементы
оператора С = А®В выражаются в этом базисе формулой
(e,® !„))..
Но ио равенствам C) и D) имеем
; j
Таким образом,
cim,in — aifimn- Щ
Мы показали, что матричные элементьГоператора Л®5 в базисе {e,-®fm}
являются произведениями матричных элементов операторов А к В в бази-
базисах { е,- } и { fm } соответственно.
Наконец, покажем, что кронекеровское произведение двух унитарных
операторов является унитарным оператором. Поскольку операторы е,-® in
образуют ортонормированный базис в пространстве ¦§! ® -&2> нам достаточно
показать, что если операторы U и V в пространствах •&! и ф2 соответственно
унитарны, то
. (9)
Но по равенствам C) и D) имеем
{(U® V) (е,- ® fm), (t/® V) (e,- ® tn)) = (IMi ® Vtm, Uej ® Vfn) =
= (Ue,, UefriVfm, Vfn)s.
В силу унитарности операторов U и V
С другой стороны,
(e,-®fm, ey®in) = (e,-, е,)^, fnJ.
Тем самым равенство (9), а с ним и унитарность оператора ?7® V, доказаны.

ДОПОЛНЕНИЕ К ГЛАВЕ I 77
4. Счетно-гильбертовы пространства. Ядерные пространства. Пусть
в линейном пространстве Ф задана счетная система скалярных произведений
(ср, if)fc, l^k<.co, такая, что для любого элемента ц> из Ф имеем
(q>, q>)i=s(q>, ч>)з*? ••• *?(ч>. ф)**? ••• О)
Положим для любого к, что |]«р||| = (ч>, «p)fr- Назовем последовательность
элементов q>,, ... , (р„, ... из Ф фундаментальной, если для любого k имеем
lim || «Pm ~ «Pn lift = 0. Пространство Ф называется полным, если для лю-
т, л-»со
бой фундаментальной последовательности фь ... , фп, ... найдется такой эле-
элемент ср? Ф, что при всех й lim ]| ф— ф„||А = 0. Линейное пространство Ф,
п —*¦ со
в котором задана система скалярных произведений с указанными свойствами,
называется счетно-гильбертовым, если оно полно.
Пополняя счетно-гильбертово пространство Ф по норме | ф Цд, мы полу-
получим гильбертово пространство Фк. При этом из неравенства || ср \\т =si|| ф j^,
m < п вытекает, что при п>т существует непрерывное линейное отобра-
отображение Т^ пространства Фга в пространство Фт, оставляющее на месте эле-
элементы из Ф.
Назовем счетно-гильбертово пространство Ф ядерным, если для любого т
найдется такое и, что отображение 7"^ является оператором типа Гиль-
Гильберта — Шмидта. Примером ядерного счетно-гильбертова пространства яв-
является пространство I((a, b) всех бесконечно дифференцируемых функций
ф(х) на отрезке [в, Ь]. Скалярные произведения (ф, ty)n определяются в этом
пространстве формулами
п ь
(Ф. Ч>)«= Ц $ <P<ftl № V" (х) их. B)
Нам понадобится в дальнейшем одно свойство ядерных пространств,
связанное с реализацией этих пространств как пространств функций. Изве-
Известно, что гильбертово пространство может быть реализовано в виде про-
пространства функций. Эти реализации строятся следующим образом. Выберем
положительную меру о в некотором множестве X (например, на веществен-
вещественной прямой) и обозначим через 1!| пространство всех функций <с (х), для ко-
которых сходится интеграл
Введя в пространстве $% скалярное произведение по формуле
(«Р. *)=$<Р(*Ж*)<И*),
мы получим гильбертово пространство. Точнее говоря, элементами простран-
пространства 1'| являются не отдельные функции 9 (x), а классы функций, отличаю-
отличающихся друг от друга лишь на множестве нулевой о-меры.
Недостатком указанной реализации является то, что, сопоставляя с функ-
функцией <р (х) из ?'| ее значение в некоторой точке х0, мы не получаем, вообще
говоря, непрерывного линейного функционала в этом пространстве (исклю-
(исключение составляют те точки, в которых сосредоточена ненулевая мера). Более
того, поскольку функции <р(лг) из пространства С^ определены лишь с точ-
точностью до их значений на множестве нулевой о-меры, мы лишены возмож-
возможности говорить об их значениях в фиксированной точке х0. Однако во мно-
многих вопросах, связанных с разложением представлений групп, представляется
желательным рассматривать значение функции в точке как линейный функ-
функционал. Рассмотренный выше пример ядерного пространства бесконечно

78 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
дифференцируемых функций на отрезке подсказывает, как это сделать — для
пространства бесконечно дифференцируемых функций значение в точке яв-
является непрерывным линейным функционалом.
В общем случае рассмотрим ядерное пространство Ф. Пусть в этом
пространстве задано еще одно скалярное произведение (q>, if), и для неко-
некоторого п (ср, ч))=^((р, q>)n при всех ip? Ф. Пополним пространство Ф по
норме ||q4P = («p, q>). Мы получим гильбертово пространство •§. При этом
существует непрерывное отображение пространства Ф в •§>. Если простран-
пространство •§> реализовано в виде пространства функций, то тем самым задается
и реализация пространства Ф в виде пространства функций. В этом случае
имеет место (см. [14])
Теорема 1. Пусть ср — <f (х) —реализация ядерного пространства Ф
в виде пространства функций, индуцированная соответствующей реализа-
реализацией гильбертова пространства ¦?>, •& гэ Ф в виде пространства 2%. Тогда
каждому значению х можно поставить в соответствие линейный функ-
функционал \ж в пространстве Ф так, чтобы для любого элемента из этого
пространства равенство \хц> = <((х) выполнялось почти при всех значе-
значениях х (относительно меры о).
5. Ортогональная прямая сумма гильбертовых пространств. Пусть
даны гильбертовы пространства •?>!, ...,4?„,... Ортогональной прямой суммой
этих пространств называется гильбертово пространство
2
элементами которого являются последовательности
1 = 04 hn,...), hn ? 4?n.
При этом берутся лишь такие последовательности §, что сходится ряд
со
2 11Мп< + °°, где || h||n — норма в Нп.
л= 1
Линейные операции в пространстве определяются покоординатно; если
I = (h1,...,hn,...),ri = (g1,..., gn,...), то | + 4 = (h1+g,,..., hn + gn,...) и
af = (ah1,..., ahn,...). Скалярное произведение в ф определяется равенством
со
A. Ч)= 2 (hn> 8n)n,
п = \
где (h, g)n — скалярное произведение в ¦&„.
Если Ап, и = 1, 2,..., — операторы в пространствах •?>„, причем нормы
этих операторов ограничены в совокупности, то им соответствует оператор А
в •&, определяемый формулой Л| = (А^,..., Anhn,..X
Пусть ? — гильбертово пространство и $и ...,$„,... его подпростран-
подпространства, такие, что
1) подпространства 4?п попарно ортогональны,
2) наименьшее замкнутое подпространство в •&, содержащее все под-
подпространства •&„, совпадает с •?.
Тогда говорят, что ¦& является ортогональной прямой суммой своих
подпространств •?„ и пишут
Очевидна связь между введенными двумя понятиями ортогональной прямой
суммы.

ДОПОЛНЕНИЕ К ГЛАВЕ 1 79
6. Непрерывная прямая сумма гильбертовых пространств. Понятие
ортогональной прямой суммы гильбертовых пространств можно несколько
обобщить, рассматривая прямые суммы гильбертовых пространств •&„-..
..., ?„,..., взятых с положительными весами fit,..., (х„,.... В этом случае
скалярное произведение определяется формулой
со
A.4)= 2 V-n{K> gn)n- A)
n= 1
Это равенство можно записать в виде
, B)
где через X обозначено множество, состоящее из точек 1, 2 п,..., а
через [а(х) — мера на этом множестве, равная (х„ в точке п. В соответствии
с этим ортогональную прямую сумму гильбертовых пространств 4?i,...
• ••» -&П1---1 взятых с весами щ,..., [*¦„ можно записать в виде
%=\@%{x)dV.(x). C)
х
Обобщим теперь понятие ортогональной прямой суммы гильбертовых
пространств, взятых с заданными весами, отказавшись от требования счетно-
сти числа слагаемых. Иными словами, рассмотрим некоторое множество X,
на котором задана положительная мера [а. Пусть каждой точке этого мно-
множества поставлено в соответствие гильбертово пространство 4? (х). Мы будем
считать все эти пространства имеющими одну и ту же размерность.
В этом случае все пространства $(х) можно отождествить с одним и тем
же гильбертовым пространством 4? той же размерности.
Обозначим через е!%™ пространство, элементами которого являются
вектор-функции § = h (x) на множестве X, принимающие значения в про-
пространстве 4?, такие, что
1) для любого элемента h из 4? числовая функция (h (x), h) измерима по
мере (а;
2) числовая функция || h (x) || имеет интегрируемый квадрат модуля по
мере [а:
$о. D)
Определим в пространстве (?%" линейные операции, положив для вектор-
функций | = h (х), т) = g (x),
\ E)
и введем скалярное произведение, положив
(|, т)) = ^ h (x) g (х) ф. (х). F)
Из условий A) и B) легко вытекает, что это произведение определено для
любых двух элементов % и т) из &%"• Легко проверить, далее, что простран-
пространство р5?Г удовлетворяет всем аксиомам гильбертова пространства. В частно-
частности, оно полно. Мы будем называть пространство ?>%" непрерывной прямой
суммой пространств Ф(х) относительно меры jj. и писать
ejf = f 0 4? (х) ф (х). G)
Ограничение, что все пространства Ф(х) имеют одну и ту же размер-
размерность, несущественно. Достаточно предположить, что размерность п (х)
пространства 4? (х) является измеримой функцией. В этом случае множество

80 ПРЕДСТАВЛЕНИЯ ГРУПП [ГЛ. I
X разбивается на измеримые множества Хоэ, Хи..., Хп,-.., такие, что на
Хп имеем n(x)=zn(n может принимать и значение со). Полагая
) = У \
(8)
получим определение непрерывной прямой суммы гильбертовых пространств
и в этом случае.
Пусть Ф — ядерное счетно-гильбертово пространство и (ср, if) — скаляр-
скалярное произведение в нем, такое, что для всех элементов ср из Ф (ср, «р) <
<¦ ("Pi 4>)а Для некоторого п. Обозначим через 4? пополнение пространства Ф
по норме ||«р||2 = (<р, <р). Имеет место следующая теорема, обобщающая
теорему 1 из п. 4.
Теорема 1. Пусть Ф, Фс^ — ядерное пространство и
h-6 = h(*)-
изометрическое вложение пространства >б в пространство
Тогда для любого х существует такой ядерный оператор Тх, отображаю-
отображающий пространство Ф в о%^, что для ср ? Ф функции <р (х) и Г* (ср) отли-
отличаются лишь на множестве меры нуль.
Доказательство этой теоремы читатель также найдет в книге [14] (на
стр. 151—153).
Рассмотрим некоторые примеры непрерывных прямых сумм гильберто-
гильбертовых пространств. Если множество X дискретно, то непрерывная прямая
сумма превращается в ортогональную прямую сумму гильбертовых про-
пространств с заданными весами. Если же все пространства •?> (х) одномерны, то
§©-&(х)Ф(х) есть не что иное, как пространство ?? функций на множе-
множестве X, имеющих интегрируемый квадрат модуля относительно меры [а.
7. Разложение операторов в непрерывную прямую 'сумму опера-
операторов. Пусть гильбертово пространство oJ/T является непрерывной прямой
суммой пространств $(х),
s5T = $ ©?(л:)ф(х) A)
х
и пусть ср—<-ср(х) — вложение ядерного пространства Ф в О5^"- По теореме 1
п. 6 для всех х?Х существует такой оператор Тх, что Для любого ср?Ф
почти при всех х имеем «р (х) = Tx(q>).
Пусть А — оператор в пространстве ^, оставляющий инвариантным Ф.
Мы будем говорить, что пространства ? (х) инвариантны относительно этого
оператора, если почти при всех х имеем
АТХ=ТХА. B)
Обозначим АТХ через Ах. Тогда для любого элемента ср?Ф имеем
. C)
Мы будем говорить в этом случае, что оператор А разлагается в непрерыв-
непрерывную прямую сумму операторов А (х).
Если все операторы представления A (g) разлагаются в непрерывную
прямую сумму операторов Ax(g) в соответствии с разложением A), то го-
говорят, что представление A (g) разложено в непрерывную прямую сумму
представлений Ax(g).

ГЛАВА II
АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ
И ПОКАЗАТЕЛЬНАЯ ФУНКЦИЯ. РЯДЫ И ИНТЕГРАЛЫ
ФУРЬЕ
Мы начнем изучение связи между теорией представлений и спе-
специальными функциями с разбора двух модельных примеров: аддитив-
аддитивной группы вещественных чисел FZ и группы SO B) вращений плоскости.
Представления первой из них связаны с показательной функцией,
а второй — с тригонометрическими функциями.
§ 1. Показательная и тригонометрические функции
1. Неприводимые унитарные представления группы R. Обозна-
Обозначим через R группу, элементами которой являются вещественные
числа, а групповой операцией — сложение чисел. Найдем неприводимые
унитарные представления этой группы. При этом, разумеется, мы
ограничиваемся непрерывными представлениями.
В п. 3 § 3 главы I было показано, что все неприводимые унитар-
унитарные представления коммутативной группы одномерны. Поэтому надо
найти непрерывные функции вещественного переменного, удовлетво-
удовлетворяющие функциональному уравнению
/Ш{у)=П*+у) О)
и условию унитарности
1. B)
Хорошо известно, что все непрерывные решения уравнения A)
имеют вид
Приведем для полноты доказательство этого утверждения. Сначала пока-
покажем, что любое непрерывное решение функционального уравнения A)
дифференцируемо. Для этого возьмем такую бесконечно дифференцируе-
00
мую финитную функцию <р(х), что § f(xL (x) йхф§ (такая функция
— со
существует, если /(х)фО). Умножим обе части равенства A) на у (у) и

82 АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ [ГЛ. II
проинтегрируем по у от —со до со:
(интеграл сходится в силу финитности <р (у)). В силу бесконечной дифферен-
цируемости функции <р(х) правая часть этого равенства бесконечно диффе-
дифференцируема по х. Следовательно, бесконечно дифференцируема и левая часть
этого равенства, т. е. функция f(x).
Продифференцируем обе части равенства A) по у и положим у = 0.
Получим дифференциальное уравнение
f@)f(x)=f(x). C)
Далее, из равенства A) имеем/@)=1. Но решения уравнения C), такие,
что /@) = 1, имеют вид
где а=/"@). Тем самым наше утверждение доказано.
Итак, все одномерные непрерывные представления группы R имеют
вид f(x) — eax, где а — некоторое, вообще говоря, комплексное число.
Найдем, при каких значениях а эти представления унитарны, т. е.
когда \еах\=\. Продифференцируем равенство еахеах= I по х и
положим х==0. Мы получим а-\-а = О, т. е. а — чисто мнимое число.
Итак, представление еах группы R унитарно тогда и только тогда,
когда а — чисто мнимое число, а = Ы.
Заметим, что степенная функция
y = ta, *>0 D)
связана с представлениями группы R+ положительных чисел, где групповой
операцией является умножение чисел. Отображение t = ex устанавливает
изоморфизм между группами R и R+. При этом отображении представле-
представлениям еах группы R соответствуют представления ta группы R+. При чисто
мнимом а эти представления унитарны.
2. Группа вращений плоскости и тригонометрические функции.
Перейдем к рассмотрению неприводимых унитарных представлений
группы SOB) вращении евклидовой плоскости вокруг начала координат,
т. е. группы однородных линейных преобразований двух переменных,
сохраняющих квадратичную форму х^-\~у^ и имеющих положитель-
положительный определитель.
Хорошо известно, что вращение плоскости задается вещественным
числом <р — углом поворота, причем матрица соответствующего линей-
линейного преобразования имеет вид
•s? T| ^
sin ф cos ф/

§ 11 ПОКАЗАТЕЛЬНАЯ И ТРИГОНОМЕТРИЧЕСКИЕ ФУНКЦИИ 83
Функции sin 9 и cos 9 — тригонометрические функции, связанные
с показательной функцией формулами Эйлера
е± *р — cos 9 ± I sin <p, B)
, C)
2/
При умножении вращений углы поворота складываются, и потому
to)ty ( + ty E)
, р фре,
(cos 9 — sin tp\ /cos ф — sin ф\ /c
sin <p cos tp/ \sin ф cos ф/ \s
или, в матричной форме,
/cos (9 + ф) — sin (tp -(- ф)\
\sin (tp -(- ф) cos (tp -f- ф)/'
Выполняя умножение матриц, и сравнивая матричные элементы слева
и справа, получаем формулы сложения для тригонометрических функций:
cos (ср —|— ф) = cos tp cos ф — sin tp sin ф, F)
sin (tp -j- ф) = sin tp cos ф -j- cos tp sin ф. G)
Позже таким же путем будут выведены формулы сложения для
неэлементарных функций.
Найдем теперь неприводимые унитарные представления группы SO{2).
Для этого заметим, что в силу равенства E) отображение tp—»g(tp)
является гомоморфным отображением аддитивной группы R веществен-
вещественных чисел на группу SO B). Ядро этого отображения состоит из
чисел вида tp = 2it?, где k — целое число; этим и только этим числам
соответствуют тождественные вращения плоскости. Таким образом,
группа SO B) является фактор-группой группы R по подгруппе Z2n
чисел вида 2izk:
Это замечание позволяет свести разыскание неприводимых унитар-
унитарных представлений группы SO B) к той же задаче для группы R.
Именно, если /(tp) — неприводимое унитарное представление группы
SO B), то равенство
F(tp + 2^)=/(9), 0^S9<2* (8)
определяет неприводимое унитарное представление группы R. При
этом, однако, получаются не любые представления группы R, а лишь
такие, что /7Bя)=/@)= 1.
Таким образом, в силу результатов п. 1 все неприводимые уни-
унитарные представления группы SO B) должны иметь вид f(<p) — eai<e.
Нам осталось выяснить, при каких значениях а будет выполняться

84 АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ 1ГЛ. II
условие
В силу формул Эйлера имеем
е2ам __ cos 2atz -\-1 sin 2aiz.
Поэтому должны выполняться равенства
cos 2git= I,
sin 2шг = 0.
Отсюда следует, что а — целое число.
Итак, мы доказали, что неприводимые унитарные представления
группы SOB) имеют вид е1"9, где п — целое число.
Заметим, что группа SO B) компактна, и потому в силу п. 2 § 4
главы I любое ее конечномерное представление унитарно. Поэтому
доказанное выше утверждение можно сформулировать следующим
образом:
Любое конечномерное неприводимое представление группы SO B)
унитарно, одномерно и имеет вид
/(ср) = е-*, (9)
где п — целое число.
Выше мы рассмотрели двумерное представление
)
\siny cos <f /
группы SO B). Чтобы разложить его на неприводимые, заменим нредставле-
. . ... 1/1 — А
ние g(<?) эквивалентным представлением a g(<f)a, где а =—=( ).
Простой подсчет показывает, что
/cos <р-{-1 sin у 0 \
аг»?(т)в = ( Y^n Y ... A0)
\ 0 cos у — t sin у/
Применяя формулу Эйлера, можно равенство A0) записать в следующем
виде:
/е«"? 0
(
Итак, представление g-(y) является прямой суммой одномерных пред-
представлений el<f и е~1<*.
3. Группа гиперболических вращений плоскости и гиперболи-
гиперболические функции. Гиперболическим вращением плоскости называют
однородное линейное преобразование плоскости, оставляющее инва-
инвариантной форму лг2 — у* и переводящее в себя квадранты — лг s^y =^ x
и —ysS^x^y. Совокупность всех гиперболических вращений обра-
образует группу, которую будем обозначать SHB).

§ 11 ПОКАЗАТЕЛЬНАЯ И ТРИГОНОМЕТРИЧЕСКИЕ ФУНКЦИИ 85
При повороте осей координат на — тс/4 форма х2 —у* переходит
в — 2ху, и мы получаем линейные преобразования, сохраняющие
форму ху и переводящие в себя квадранты лг^>0, у^>0 и ^0
^0. Ясно, что такие преобразования имеют вид
* = -,]
A)
у' = ау, J
гда а^>0.
Положим а = е'. При изменении а от 0 до -|- сю параметр t изме-
изменяется от — оо до со. Матрица преобразования
имеет вид
Так как
то группа SH{2) изоморфна аддитивной группе вещественных чисел R.
В исходной системе координат гиперболический поворот задается
матрицей вида h(t) = s~1g(t)s, где
it nil лГо т/
sin-, cos .-/ \' " ' " i
4 4/ \ 2 2 '
Мы имеем
+ <
о \
C)
Введем обозначения
^2— ==chf, !l=i^ = sh^ D)
и назовем ch ? гиперболическим косинусом t, a sht — гиперболическим
синусом t. Формула C) имеет вид
/ch t sh A
h(f) = [ . E)
Из равенства (З) видно, что h{t) является двумерным представле-
представлением группы SHB), эквивалентным g(t). Поэтому
А («А (« = *(*, + «• F)

86 АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ [ГЛ. И
Подставим в равенство F) вместо h(tx), h(t$) и h(tt_-\-t? их
выражения E), перемножим матрицы в левой части равенства F) и
сравним соответствующие матричные элементы слева и справа. Мы
получим формулы сложения для гиперболических функций
ch [fi -f- ^a) = ch t\ ch U -J- sh tx sh t%,
sh (tt -f-1%) = sh tt ch t% -j- ch tt sh t%.
Впрочем, эти формулы можно получить и из формул сложения для
тригонометрических функций, если заметить, что в силу формул
Эйлера имеем
ch t = cos tt,
sh t = — sin it.
4. Комплексная форма группы SO B). Различие между группами SO B)
и SH B) состоит лишь в том, что первая из них состоит из преобразований,
сохраняющих форму xs-\-ys, а вторая — форму х2—-_у2. Ясно, что при пере-
переходе от вещественного линейного пространства к комплексному это различие
стирается. Говорят, что группы SO B) и SH B) являются двумя веществен-
вещественными формами одной и той же комплексной группы.
Эта комплексная группа SO B, С) состоит из матриц вида
cos z — sin z
sin z cos z
где z пробегает комплексную плоскость. Иными словами, она получается из
группы SO B) заменой вещественного параметра <р комплексным числом г.
Группа SO B) является подгруппой группы SO B, С), соответствующей
вещественным значениям г. Поэтому ее и называют вещественной формой
группы SO B, С), а группу SO B, С) — комплексной формой группы SO B)
или, иначе, комплексификацией группы SO B).
Группа SH B) является другой вещественной формой группы SO B, С).
Она получается при чисто мнимых значениях z (т. е. при вещественных зна-
значениях параметра w = iz). Именно, если z = ti, то
/ch t — i sh t\
«•(«)=[ • B)
\l shf chf/
Заменим каждую матрицу B) матрицей a^g (ti) а, где а = ( ). При этом
получатся матрицы вида
/ch t sh t\
lsh< zbtj' ()
т. е. матрицы из группы SH B).
Остановимся на связи между представлениями групп SO B) и SO B, С).
Неприводимые унитарные представления группы SO B) имеют, как мы видели
выше, вид е'™?. Но einf — аналитические функции от у, и потому их можно
рассматривать и при комплексных значениях <р. Таким образом, получаем
представления einz группы SO B, С), являющиеся «аналитическими продол-
продолжениями» представлений eint с подгруппы SO B) на всю группу SO B, С).
Поскольку эти представлевия одномерны, они неприводимы. Однако они не
являются унитарными, так как, вообще говоря, | егпг | ф. 1.

§ 2] РЯДЫ ФУРЬЕ 87
§ 2. Ряды Фурье
1. Инвариантное интегрирование на группе SO B). Мы будем
изучать функции на группе SO B). Каждый элемент g этой группы
задается вещественным числом <р (углом поворота), определенным
с точностью до кратного 2тс. Поэтому функции на группе SO B)
можно отождествить с функциями на вещественной оси, имеющими
период 2чг (или, что то же, с функциями на окружности).
Определим интегрирование на группе SO B) формулой
\^ A)
о
Множитель к- поставлен здесь для того, чтобы мера всей группы
50B) была нормирована, т. е. равнялась единице. Интеграл (^обла-
(^обладает следующим свойством инвариантности:
\f(gg*)dg=\f{g)dg.
В самом деле, элемент ggu группы SO B) задается числом ср —{— <р0.
Поэтому
2л <р„ + 2г.
$/(<P + 4>»)d<P=^ $
О <Ро
В силу периодичности /(<р) отсюда вытекает, что
2п
= ^ J /Op) rf? = J /fe) 4e
2. Тригонометрическая система функций. Ряды Фурье. Мы
доказали выше, что функции
{**"}. О)
где 0=^;<р<^2тс, и л пробегает все целые числа, образуют полную
систему попарно неэквивалентных унитарных представлений группы
SO B). Поэтому в силу результатов п. 3 § 4 главы I эти функции
образуют полную ортогональную нормированную систему функций на
группе SOB) (относительно инвариантной нормированной меры y-
Иными словами,
2*
о
где Ьтп — символ Кронекера.

88 АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ [ГЛ. II
Кроме того, любая функция /(tp) с интегрируемым квадратом на
группе 50B) разлагается в сходящийся в среднем ряд
коэффициенты которого выражаются через /(tp) по формулам
с»=гН Л?) *"
(см. формулы D) и E) п. 3 § 4 главы I). Ряд C) называют рядом
Фурье функции /(tp), а числа сп — коэффициентами Фурье этой
функции.
Обозначим через .?> пространство всех функций /(у) на группе
SO B), имеющих интегрируемый квадрат.
Из полноты системы { е'"? } вытекает, что для каждой функции /(tp)
из •?> имеет место равенство Парсеваля
Таким образом, пространство .?> является прямой суммой одно-
одномерных пространств фя, состоящих из функций вида {anein<e}.
3. Разложение регулярного представления группы SO B). Рас-
Рассмотрим теперь регулярное представление группы SO B). Согласно
п. 4 § 2 главы I, это представление строится в пространстве ф
функций /(tp), 0 s~; 9 ^Si 2ir, с интегрируемым квадратом модуля, и
задается формулой
> A)
Как было показано выше, пространство .?> является прямой сум-
суммой одномерных пространств .?)„, состоящих из функций вида { anein<l}.
Легко видеть, что эти пространства инвариантны относительно опе-
операторов R(g). В самом деле,
R (g («)) е1щ = еЫ <<е+а) = einaeim?. B)
Кроме того, из равенства B) следует, что оператор R(g) индуцирует
в каждом из пространств .?>„ оператор е1Па унитарного неприводи-
неприводимого представления группы SO B). Тем самым нами доказана
Теорема 1. Регулярное представление R(g) группы SOB)
является прямой суммой неприводимых унитарных представ-
представлений Tn(g) = etna этой группы, причем каждое из этих пред-
представлений входит в разложение регулярного представления по

§ 2] ряды фурье 89
одному разу:
= f; Tn(g). C)
4. Разложение бесконечно дифференцируемых функций. Во
многих случаях недостаточно знать, что ряд Фурье функции /(ср) схо-
сходится к ней в среднем, а надо иметь более сильные утверждения
(например, об абсолютной и равномерной сходимости этого ряда).
Такие утверждения справедливы, например, если функция /(ср) беско-
бесконечно дифференцируема. Мы называем функцию /((р) на группе SO B)
бесконечно дифференцируемой, если бесконечно дифференцируема
соответствующая ей периодическая функция на вещественной оси.
В частности, для таких функций при любом k должно выполняться
равенство
/*>@)=/<*>B*). A)
Лемма 1. Если функция /(ср) на группе SO B) бесконечно
дифференцируема, то ее коэффициенты, Фурье быстро убывают,
т. е. для всех k выполняется соотношение
\\т п"сп = 0. B)
| л |-»оо
В самом деле, интегрируя А-j-l раз по частям формулу
2г.
получаем
(проинтегрированные • члены обращаются в нуль в силу того, что
pJ) @) =/(У) Bтс). Из бесконечной дифференцируемое™ функции /(ср)
вытекает существование интеграла в правой части этого равенства.
Поэтому
lim nkcn = 0.
|л|->оо
Из доказанной леммы следует
Теорема 1. Если функция /(ср) на группе SO B) бесконечно
дифференцируема, то ряд Фурье этой функции абсолютно и
равномерно сходится к /(ср).
Для доказательства достаточно заметить, что для любого k имеем
с„=:о1-6). Поэтому ряд Фурье функции /(ср) равномерно и абсо-
абсолютно сходится. Так как он сходится в среднем к /(<р), то его сум-
сумма равна /(ср).

90 АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ [ГЛ. II
Существует много весьма тонких теорем о сходимости рядов
Фурье. Нам, однако, понадобятся только теорема о сходимости в
среднем и теорема о сходимости разложения бесконечно дифферен-
дифференцируемой функции.
Разумеется, если функция /(ср) бесконечно дифференцируема, то
абсолютно и равномерно сходятся и ряды Фурье всех ее производ-
производных. При этом коэффициенты Фурье функции /(ftJ (ср) равны (irif сп,
где сп — коэффициенты Фурье для /(ср).
Мы доказали, что коэффициенты Фурье бесконечно дифферен-
дифференцируемых функций быстро убывают. Справедливо и обратное утвер-
утверждение.
Если коэффициенты Фурье сп функции /(ср) бистро убывают,
то функция /(ф) бесконечно дифференцируема.
В самом деле, из быстрого убывания коэффициентов Фурье выте-
вытекает, что ряд
f
абсолютно и равномерно сходится для всех k. Поэтому разложение
со
Фурье /(ср)= ^ спе1П<е можно почленно дифференцировать любое
/1 = — СО
число раз.
§ 3. Интеграл Фурье
1. Регулярное представление группы R. Вернемся к изучению
представлений группы R — аддитивной группы вещественных чисел.
В § 1 мы рассмотрели одномерные представления этой группы. Эти
представления задавались комплексным параметром а и имели вид
Та (g) = Та (лг) = еах. При чисто мнимом a, xl = 1\ представление
Та(х) унитарно. Здесь будет рассмотрено регулярное представление
группы R и дано разложение этого представления на неприводимые
унитарные представления Т^(х).
Напомним, что согласно п. 4 § 2 главы I регулярное представ-
представление группы R строится в пространстве .?> функций /(лг), заданных
на группе R (т. е. на вещественной оси —оо<^лг<^оо), и таких,
что
SV(*)Pd*< + oo. О)
— 00
Каждому элементу группы R, т. е. вещественному числу лг0> соответ-
соответствует оператор /?(лг0), переводящий функцию /(х) в
B)

§ 3] ИНТЕГРАЛ ФУРЬЕ 91
Как говорилось в главе I, R (лг) является регулярным представлением
группы R.
Из-за того, что группа R некомпактна, разложение представле-
представления R(x) на неприводимые сложнее, чем в случае группы SO B).
Именно, получим не разложение пространства .?> в ортогональную
прямую сумму инвариантных подпространств, а лишь разложение .?)
в непрерывную прямую сумму. Иными словами, мы покажем, что
каждая функция f(x) из пространства &> может быть представлена
в виде «непрерывной линейной комбинации» функций е'*х:
оо
f(x) = $ F(l)eilxdl, — оо<х<оо. C)
— 00
Сравнивая эту запись с разложением в ряд Фурье
f(x)= ? ',/"*. 0^*<2* D)
видим, что F(X) аналогично коэффициенту Фурье сп.
Из равенства C) видно, что разложение функции R(x^)f(x) =
—f(x-\-xn) имеет вид
оо оо
R(x,)f(x) = I F(k)e^x+X°)d\= I eax°F(X) eiXxdk. E)
— со —^оо
Таким образом, при сдвиге /(х)-^/(х-\-х<,) каждый «коэффициент
Фурье» FQ.) умножается на епх<>. Иными словами, при фиксирован-
фиксированном X оператору R (хй) соответствует оператор умножения на eiix»,
т. е. оператор неприводимого унитарного представления группы R.
Таким образом, разложение C) дает разложение регулярного пред-
представления в непрерывную прямую сумму неприводимых унитарных
представлений
«(*)=$" Ta(x)dh F)
— оо
2. Преобразование Фурье и его свойства. В этом и следую-
следующих пунктах мы докажем возможность разложения функций /(лг)
из пространства .?>, задаваемого формулой C) п. 1. Пусть F(k) — не-
непрерывная абсолютно интегрируемая функция. Назовем ее преобра-
преобразованием Фурье функцию
f(x)=\F(K)eiXxdX. A)
— со
Интеграл A) абсолютно сходится в силу абсолютной интегрируемости
функции F(X).

92 АДДИТИВНАЯ- ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ [ГЛ. II
Вообще говоря, преобразованием Фурье непрерывной абсолютно
интегрируемой функции может оказаться неинтегрируемая функция. Для
того чтобы получить симметричную теорию, надо ограничить класс
изучаемых функций.
Назовем функцию F(X) быстро убывающей при | X | —-оо, если
для любого п выполняется условие
lira |Х|ИР(Х) = О. B)
1Х
Обозначим через © пространство всех бесконечно дифференци-
дифференцируемых функций на прямой, производные всех порядков которых
быстро убывают при | X | —- оо. Примером функции из пространства @
является е-~>^.
Мы докажем сейчас, что преобразованием Фурье функции из
пространства © является функция того же пространства. Для этого
докажем следующие две леммы.
Лемма 1. Если функция F(k) быстро убывает, то ее пре-
преобразование Фурье бесконечно дифференцируемо.
В самом деле, пусть
\ UdX. C)
— оо
Так как функция Р(Х) быстро убывает, то при любом k интеграл
оэ
\ \kF(X)dX
— со
абсолютно сходится. Поэтому в правой части равенства C) можно
дифференцировать по х под знаком интеграла:
/*>(*) = \ (i\)kFQ,)eiUd\. D)
— со
Тем самым доказана бесконечная дифференцируемость функции f(x).
Лемма 2. Если функция F(X) бесконечно дифференцируема,
причем все производные этой функции абсолютно интегрируемы
и стремятся к нулю при [ X | —- оо, то преобразование Фурье f(x)
функции F(X) быстро убывает при \x\~-оо.
В самом деле, интегрируя по частям п -j-1 раз равенство C),
получаем
со
/(*) = К { /*"+1)W^X E)
Л ч]
— ОО
(проинтегрированные члены обращаются в нуль, поскольку, по усло-
со
вию, lim /7t*)(X) = 0). По условию теоремы интеграл \ F{n+l) (X)eiXxdX

§ 3] ИНТЕГРАЛ ФУРЬЕ 93
абсолютно сходится, следовательно,
lim |лг|"/(аг)=.О.
|д:|-*оо
Поэтому функция f(x) быстро убывает при \х\—-оо.
Из лемм 1 и 2 непосредственно вытекает
Теорема 1. Преобразование Фурье f{x) функции F(k) из
пространства <? является функцией того же пространства.
3. Формула обращения. Нашей целью является теперь вывод
формулы, позволяющей восстановить функцию F(K) по ее преобра-
преобразованию Фурье f(x). Сведем этот вопрос к аналогичному вопросу
для рядов Фурье.
Функцию ср (X), заданную на вещественной оси, назовем условно
периодической (с параметром t), если
7 A)
При ? = 0 условно периодические функции переходят в обыкновен-
обыкновенные периодические функции (cp(X-j- 1) = ср(Х)); при t = Tz эти функ-
функции можно назвать антипериодическими (ср(Х-)-1) =— ф(Х)).
Пусть F(k)— функция пространства <3 (т. е. пусть функция F(X)
быстро убывает вместе с производными всех порядков). Положим
со
Ft&)= ? F(\ + n)eM. B)
п= —со
Из быстрого убывания функции F(X) вытекает, что ряд B) абсолютно
и равномерно сходится на отрезке [0, 1]. При этом
СО
2 /?(X + n)eftrf = e-«F/(X). C)
2
я = — со
Поэтому функция FtQ.) является условно периодической (с пара-
параметром f). Далее очевидно, что ряды, полученные из ряда B) почлен-
почленным дифференцированием по t и по X, также сходятся равномерно и
абсолютно:
| + «)e"rf, D)
E)
Основную роль в выводе формулы обращения играет тот факт,
что каждая функция F(k) из пространства @ может быть разложена

94 АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ [ГЛ. II
по условно периодическим функциям, т. е. представлена в виде
F)
где Ft (X) — бесконечно дифференцируемые по X и t условно периоди-
периодические функции с периодом 1:
Ft(X-\- 1) = e~ltFt (X). G)
В самом деле, определим функции Ft(k) в соотношении F) фор-
формулой B). Тогда
2ti со 2ti
О п=—со О
Таким образом, формулу B) можно рассматривать как «формулу
обращения» для даваемого формулой F) разложения функции F(k)
из пространства @ по условно периодическим функциям.
Воспользуемся теперь тем, что функции Ft(X)e'a являются беско-
бесконечно дифференцируемыми по X периодическими функциями (с перио-
периодом 1). В силу теоремы 1 п. 4 § 2 их можно разложить в ряд Фурье
со
л = — со
причем этот ряд равномерно и абсолютно сходится к e'aFt(k). Отсюда
следует, что
со
"• (9)
п — — со
Коэффициенты an(f) ряда (9) вычисляются по формулам Фурье
1
an(t) = '\FtQ.)eaV+*nn)d),. A0)
о
Покажем, что ап (t) =/(^ -j- 2nri), где f(x) — преобразование
Фурье функции F(X). Для этого подставим в равенство A0) вместо
/^(Х) ряд B) и изменим порядок интегрирования и суммирования
(что возможно в силу быстрого убывания функции F(\)). Получим
со 1
an(t)= 2 $/7(Х + «г)ег(Х+т)('+5!7Ш)<А A1)
т=—соО
(ради симметрии под знак интеграла введен множитель е**шт, рав-
равный 1). Если в равенстве A1) положить \-\-т = \>., то оно примет

§ 3] ИНТЕГРАЛ ФУРЬЕ 95
вид
со т + 1
т=—со т
= \ F(p)ei*-lt**midp=f(t-\-2wn). A2)
Мы можем теперь доказать формулу обращения для преобразо-
преобразования Фурье, т. е. получить выражение функции F(X) через ее пре-
преобразование #Фурье f(x). Подставим выражение (9) для условно
периодических функций в интеграл F). Учитывая формулу A2), получим
2ж со
п=—со
2ж со
п==—оо О
оо 2ic(n+l) со
п =—со 2жп —со
(возможность изменения порядка интегрирования и суммирования
со
вытекает из абсолютной сходимости интеграла j f(x)dx). Тем самым
—со
вывод формулы обращения для преобразования Фурье окончен.
Отметим, что формула обращения
{x)<r**dx A3)
— со
лишь несущественно отличается от формулы самого преобразования
Фурье:
со
f(x)= ^ F(X)eaxdk. A4)
— оо
Отсюда сразу вытекает, что образом пространства © при отобра-
отображении F(k)—f(x) является все пространство @. Именно, если
f(x) — функция из пространства @, она является преобразованием
Фурье функции 2дар(—к), где <р(Х) — преобразование Фурье функ-
функции f(x).

96 АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ [ГЛ. II
4. Формула Планшереля. Докажем, что преобразование Фурье
является (с точностью до постоянного множителя 2тг) изометрическим
отображением пространства <В на себя относительно нормы
Иными словами, покажем, что если f[x)~ -преобразование Фурье
функции F(X)t то
со со
= l J \f(x)\*dx. A)
— со —со
Для этого заметим, что в силу равенства Парсеваля имеет место
соотношение
1 со
\\Ft(\)\4\= 2 К (OP- B)
О и = —со
Проинтегрируем это равенство по t от 0 до 2тг (что возможно, так
как сходящиеся к непрерывной функции ряды, состоящие из поло-
положительных функций, равномерно сходятся). Мы получим
2п I со 2тс оо 2п
О 0 п— оо О п—— со О
оо 2ic(n-f-I) со
= 2 J |/(AT)|SdJf= ^ \f(x)\*dx. C)
rt = — со 2тсл — со
Нам осталось показать, что интеграл в левой части этого равенства
оо
совпадает (с точностью до множителя 2тг) с \ |.F(X)|edX, т. е. что
— со
для разложения F) из п. 3 справедлива «формула Планшереля»:
со 2гс I
(•
D)
В самом деле, по формуле B) п. 3 функции F(\-}-ri) суть коэф-
коэффициенты Фурье для Ft(X) (как функции от t) и, следовательно,
в силу равенства Парсеваля,
271

§ 3] ИНТЕГРАЛ ФУРЬЕ 97
Проинтегрируем это равенство по X от 0 до 1. Мы получим
1 2л со I
J J J
0 0 и = — со 0
со n-f-
= S 5
п • — ее п
Тем самым равенство D) доказано.
Из равенств C) и D) вытекает, что
E)
— со — со
т. е. наше утверждение доказано.
5. Преобразование функций с интегрируемым квадратом. Мы
можем теперь определить преобразование Фурье для функций F(X)
с интегрируемым квадратом модуля. Для этого заметим сначала, что
функции пространства <В всюду плотны в пространстве ф функций
с интегрируемым квадратом. В самом деле, пусть ер (X) — бесконечно
дифференцируемая неотрицательная финитная функция, такая, что
со
ер @) =1 и \ ер (X) dk = 1. Положим
Рп(Х)= пч[\) J F(k - г)ш(т)tfr. A)
Нетрудно показать, что псе функции Fn(k) бесконечно дифферен-
дифференцируемы, финитны, и что последовательность функций Fn (X) сходится
в среднем к функции F(K).
Итак, мы доказали, что функции пространства @ всюду плотны
в ф. Но преобразование Фурье является изометрическим (с точ-
точностью до множителя - - ] отображением пространства @ на себя.
Отсюда следует, что это преобразование можно продолжить по не-
непрерывности на все пространство Jr>.
Таким образом, каждой функции F(k) из пространства ^ соот-
соответствует функция f(x) из того же пространства — преобразование
Фурье функции FQ.). Эту функцию можно найти следующим образом:
пусть Fn (X) — последовательность функций из пространства @, схо-
сходящаяся в среднем к функции F(k),
1. i. m. — предел в среднем.

98 АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ [ГЛ. II
Обозначим через fn(x) преобразование Фурье функции Fn(X). Тогда
последовательность функций /„ (х) сходится в среднем. Ее пределом
и является f(x).
Нетрудно доказать, что
п
f(x) = l.i.m. $ F(k)eaxdX B)
l.i.m. $ f{x)eilxdx. C)
— П
Кроме того, для любой функции F(k) из ф имеет место равенство
Планшереля,
f(x)\*dx, D)
где оба интеграла понимаются в смысле сходимости в среднем.
6. Интеграл Фурье для функций нескольких переменных. Рассмот-
Рассмотрим и-мерное линейное пространство Rn. Это пространство является прямой
суммой и экземпляров группы R. Его неприводимые представления это
кронекеровские произведения неприводимых представлений еХх группы R
Иными словами, любое неприводимое представление группы R" задается п
комплексными числами % = (к1г ... , Х„) и имеет вид
Тк (х) = Л*' ... Л*« = е(к- х», A)
где
(%, х) = Х1л-1 + ... +Х„л„. B)
Если все числа Хй чисто мнимые, то представление Т% унитарно.
Регулярное представление группы R" разлагается на неприводимые
точно так же, как в одномерном случае. Это разложение связано с инте-
интегралом Фурье для функций от п переменных.
Если F(%)~-функция из пространства @ (т. е. бесконечно дифферен-
дифференцируемая функция на R", производные любого порядка которой быстро
убывают), то интеграл
$ ()
(Х„ ... , Х„ —вещественны) сходится для всех х. Функция /(х) называется
преобразованием Фурье для F(%) и также принадлежит пространству @.
Формула обращения для преобразования C) имеет вид
D)
При этом выполняется равенство Планшереля:
x)|*rfx. E)
С помощью этого равенства легко распространить преобразование Фурье
на все функции F(%), имеющие интегрируемый квадрат модуля.

§ 4] ПРЕОБРАЗОВАНИЕ ФУРЬЕ В КОМПЛЕКСНОЙ ОБЛАСТИ 99
§ 4. Преобразование Фурье в комплексной области
1. Определение. Если функция F(k) принадлежит пространству
©, то ее преобразование Фурье
оо
/(*) = $ F(k)eil*dl A)
— со
определено, вообще говоря, лишь для вещественных значений z.
Однако, если функция F(k) экспоненциально убывает на бесконеч-
бесконечности, интеграл A) имеет смысл и для некоторых комплексных
значений г.
В самом деле, пусть при X -*¦ -f- со имеем F (X) = О 0~аХ), где
а — некоторое фиксированное число. Тогда интеграл A) сходится
в полосе — а <^ Im z s^. 0. Именно, если z = х -\- iy, где — а <^у г=с 0,
то найдется такое е]>0, что \еаг\<^е{агП, а тогда при —^0
^0 имеем
Следовательно, интеграл A) сходится на положительной полуоси-
Сходимость же на отрицательной полуоси вытекает из того, что
при F(X) ^ <В, X<]0, Im^^O функция F(X)eaz быстро убывает.
Точно так же, если при X -> — оо имеем Z7 (X) = О (еьх), то
интеграл A) сходится для значений z, принадлежащих полосе
0 ==g Im z <^ b. Итак, мы доказали, что если F (X) ? @ и
то интеграл A) определен в полосе — а <^ Im z <^ b. В этом случае
говорят, что преобразование Фурье f(z) функции F(k) определено
в указанной полосе. Ясно, что оно является в этой полосе аналити-
аналитической функцией от z.
Если бесконечно дифференцируемая функция F(k) финитна, т. е.
равна нулю при \\\^>а, интеграл A) сходится во всей комплексной
плоскости, а потому функция f(z) является целой аналитической
функцией. Для любого Ь^>а выполняется при этом неравенство
C)
В самом деле, так как при | X | ^> а имеем F (к) — 0, то
Так как Ь^>а^\к\, то е~ь\У I ~x-v^ 1, и потому
4*

100 АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ [ГЛ. II
Целые аналитические функции, удовлетворяющие при некотором
Ь~^>0 неравенству вида C), называются целыми аналитическими
функциями экспоненциального типа.
Мы доказали, таким образом, что преобразование Фурье бесконеч-
бесконечно дифференцируемой финитной функции является целой анали-
аналитической функцией экспоненциального типа. При этом, поскольку
f(l)^S, функция f(z), рассматриваемая на вещественной осп,
принадлежит пространству <В (см. п. 3 § 3).
Можно доказать справедливость обратного утверждения:
Если f(z) — целая аналитическая функция экспоненциального
типа, причем функция f(x), —оо <^ _v <^ со, принадлежит про-
пространству <3, то f(z) является преобразованием Фурье бесконечно
дифференцируемой финитной функции (см. [18]).
Покажем теперь, что если функция F(\) удовлетворяет условиям
B), то контур интегрирования в формуле обращения Фурье
f(z)e'iXzdz
можно заменить любым параллельным ему контуром, лежащим в по-
полосе — а <^ lm z <^ b, т. е. имеет место формула
оо -\- ci
2~ J f{z)ea4z, D)
— оо + а
где — a<^^
В самом деле, из условия B) вытекает, что при — ^^
функция e~XcF(k) принадлежит пространству 3. Преобразование
Фурье этой функции имеет вид
fc(z)= f F(k)e-x*a'dk=
ОЭ
В силу формулы обращения Фурье имеем
е-* F (X) = JL J f(z
— со
Сделав в этом интеграле подстановку w = z-\-ic, мы получим дока-
доказываемое равенство D).
Для финитных функций Ф(Х) мы будем часто писать преобразо-
преобразование Фурье в виде
+ оо
г(И. E)

§ 4] ПРЕОБРАЗОВАНИЕ ФУРЬЕ В КОМПЛЕКСНОЙ ОБЛАСТИ 101
В этом случае формула обращения пишется так:
a -f- ?со
\ ^{z)e~^dz. F)
2. Преобразование функций с интегрируемым квадратом. Как и в слу-
случае вещественных переменных, преобразование Фурье в комплексной области
можно распространить на класс функции с интегрируемым квадратом.
Именно, справедливо следующее утверждение:
Теорема 1. Пусть FQ.)— измеримая функция, имеющая сумми-
суммируемый квадрат на каждом конечном отрезке, и такая, что
Тогда интеграл
со
f(z)= S, FQ,)easdl B)
— оо
абсолютно и равномерно сходится в каждой полосе аЛ-е.<у<Ь— е>
z = x-\-iy, е > 0.
Функция /(г) аналитически зависит от г в полосе —в<_у<&,
причем в каждой полосе —с + е<_у<6 — е интеграл
\ |/(-v- + 0')|V/.v C)
— со
ограничен.
Абсолютная и равномерная сходимость интеграла B) и, следовательно,
аналитичность функции /(г) непосредственно вытекают из оценок A). Чтобы
доказать ограниченность интеграла C) в полосе —а -]-е <су <cb — е, при-
применим формулу Планшереля к функции F(l)e~lv. Преобразование Фурье
/(-*¦> У) этой функции имеет вид
— оэ — со
Поэтому при —а-{-г <_у< b — г имеем в силу оценок A)
со ее
\ I /(* + О') Is их = \ | f{x, у) Р dx =
— 00
CO
J 1
— CO
\F(k)e^
1 2 dk _<
CO
Cx \ e --Ч
b
0
$
— CO
k < С.
Теорема обращения в рассматриваемом случае формулируется следующим
образом:
Теорема 2. Пусть функция /(г) аполитична в полосе —asCy^b
и на ее границе, где а>0, 6>0, и пусть
^ D)

102 АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ [ГЛ. II
Тогда функция /(г) ограничена в каждой внутренней полосе — a -f- с г?
¦^у^Ь — е и существует такая функция F(k), что
оо
— СО
При этом на отрезке —а^у^Ь имеем
со
J *"*&dk, E)
где интеграл понимается в смысле сходимости в среднем. Функция F(K)
выражается через f(z) no формуле
где интеграл также понимается в смысле сходимости в среднем.
Доказательство этой теоремы лишь немногим сложнее доказательства
теоремы 1.
Исследуем теперь преобразования Фурье функций, заданных на полу-
полупрямой О^;Х-<с». Из равенства
f \f(x + iy)\adx = 2K I \F(l)er*f\»dk G)
— со — со
вытекает, что функция f(x-\-iy) аналитична в верхней полуплоскости и
имеет интегрируемый квадрат модуля для всех у^зО тогда и только тогда,
когда для всех _у^эО сходится интеграл
оо
При этом интеграл ^ \f(x-\-iy)\2dx ограничен по у тогда и только тогда,
— со
когда интеграл
со
\ \F(k)e-hv\*dl (8)
— со
ограничен Fia полупрямой O^iy <Z-\- оо.
Но интеграл G) ограничен на полупрямой Ог^_у < -j"°° тогДа ч только
со
тогда, когда F(l) = 0 при 1<0и| I F (X) Ja dl < -f- со. В самом деле, если
о
эти условия выполнены, то
со оо
$ | F(k) е-^У |2 ОК *? [ | F(k) | 2 dl.
— со О
С другой стороны, если F (X) не равно нулю на множестве положитель-
положительной меры, лежащем на полупрямой — сю < X =<: 0, то найдется отрезок

§ 4] ПРЕОБРАЗОВАНИЕ ФУРЬЕ В КОМПЛЕКСНОЙ ОБЛАСТИ 103
[— а, — b], b>0, такой, что
-6
В этом случае
оо — 6
с а
-а
¦>е-ь--' ij | /=• (А> I я rfX = «2&>p / — со ири Ъ -сю,
— с
что противоречит ограниченности интеграла (8). Чтобы доказать сходимость
\ F(k)\2 dk, достаточно положить в равенстве G)_у = 0,
Мы доказали, таким образом, следующую теорему:
Теорема 3. Класс функций f(x-\-iy), аналитических при у > 0
и таких, что
J \f(x + iy)\»dx<:C, y>0, (9)
— оэ
совпадает с классом функций, представимых в виде
f *dk, A0)
6
где интеграл сходится в среднем и
со
\\F(k)\*dk<co. A1)
При этом
1. i. m.f(x + ty)= \ F(K)e"«dk, A2)
у-* + о о
где интеграл понимается в смысле сходимости в среднем.
При дополнительных условиях гладкости и быстрого убывания, накла-
накладываемых на функцию F(K), предел в среднем в равенствах A0) и A2) может
быть заменен обычным пределом.
3. Преобразование Меллина. Сопоставим с каждой функцией
Х на оси —оо<^Х<^оо функцию Ф(^) = ЯAп^), заданную на
полуоси 0<^<^оо. Выясним, что соответствует при таком отобра-
отображении преобразованию Фурье. Для этого сделаем в формуле
f a*dl A)
— OD
подстановку X = ln?. Мы получим
f(z)= I Ф@^»Л. B)

104 АДДИТИВНАЯ ГРУППА ВЕЩЕСТВЕННЫХ ЧИСЕЛ (ГЛ. II
Формула обращения примет при этом вид
оэ
= ^ J f(x)rl*dx. C)
Если функция F(k) такова, что ее преобразование Фурье можно про-
продолжить в комплексную область, то и преобразование B) можно про-
продолжить в комплексную область и формула обращения принимает вид
оо -j~ ci
Ф(г) = ~ \ f(z)t udz. D)
- оэ'+ а
Предположим теперь, что функция Ф (f) бесконечно дифференци-
дифференцируема на полуоси 0 <^ t <^ со, причем функции ^i - 'Ф (О и t~с* — 'Ф (t),
С!^>0, с\^>0, суммируемы. Тогда функция f(z), z = x-\-ly, опреде-
определена в полосе —с\ <^у<^ с%. Обозначим iz через w, w = u-\-iv, и
положим /(—iw) = >s(rv). Тогда преобразование B) примет следую-
следующий вид:
\dt. E)
о
Формула же обращения запишется в виде
wdv. F)
При этом вместо мнимой оси можно интегрировать по любой прямой,
параллельной этой оси и проходящей в полосе—•>2<^h<V1. Иными
слонами,
С + 1ОО
1 [ %(w)t~wdv, — r9<c<c,. G)
Формулу E) называют преобразованием Меллина, а F) — форму-
формулой обращения для этого преобразования. Это преобразование свя-
связано с представлениями группы R+ положительных чисел, в которой
групповой операцией является умножение чисел.
Из теоремы Планшереля для преобразования Фурье без труда
вытекает следующее равенство для преобразования Меллина:
Мы будем называть его аналогом формулы Планшереля для этого
преобразования.

§ 4] ПРЕОБРАЗОВАНИЕ ФУРЬЕ В КОМПЛЕКСНОЙ ОБЛАСТИ 105
Формула (8) позволяет распространить преобразование Меллина
на все функции Ф(?)> Для которых сходится интеграл
у. (9)
При этом интегралы в формулах (о), F) надо понимать в смысле
сходимости в среднем.
С преобразованием Меллина связано следующее интегральное преобра-
преобразование. Предположим, что в формулах Меллина функция Ф (t) аналитична
в точке ( = 0 и в области, содержащей положительную вещественную полу-
полуось. Рассмотрим интеграл
jj Ф (г) (— z)w ¦» dz, A0)
f
где (—z)w ' определено как e{w~'''In (~г), причем In ( -z) принимает веще-
вещественные значения на отрицательно!") вещественной полуоси, а Г—контур,
идущий из бесконечности параллельно положительной вещественной оси,
обходящий точку 2 = 0 в положительном направлении и затем снова воз-
возвращающийся в бесконечность параллельно положительной вещественной
полуоси. Будем стягивать Г к вещественной оси. Часть контура Г, лежащая
над вещественной осью, даст
оэ
$ Ф (О е(«- -') On < - «*) at = e~ium $ Ф @ tw -[ dt,
— со U
а часть, лежащая под вещественной осью, даст
\ Ф (t) e(w - '>(ln' + Ы) dt = — eiwv \ Ф (t) tw~l dt.
о 6
Поэтому
\ Ф B) (— z)™-1 dz = — 1i sin wtz% (w). A1)
г
Полагая
яХ (оу) = 9 (да) sin яоу,
мы получаем двойственные формулы:
1 Г*
X (и») = — 2~. \ Ф (г) (— гI" /fe, A2)
c+ico
ФB)=„— \ ^ . — //гг». A3)
х ' 2i J sin Tiw y '

ГЛАВА 111
ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА
И МНОГОЧЛЕНЫ ЛЕЖАНДРА И ЯКОБИ
В этой г лапе будут рассмотрены представления группы SU B) уни-
унитарных унимодулярных матриц второго порядка, тесно связанной
с группой вращений трехмерного евклидова пространства. Мы увидим,
что при соответствующем выборе базиса в пространстве представле-
представления матричные элементы представлений этой группы выражаются через
многочлены Якоби. При этом зональные сферические функции (см. п. 5
§ 2 главы I) выражаются через многочлены Лежандра, а присоеди-
присоединенные сферические функции — через присоединенные многочлены
Лежандра. Исходя из связи между матричными элементами представ-
представлений группы SC/B) и ортогональными многочленами Якоби и Ле-
Лежандра, будет выведен ряд свойств этих многочленов.
§ 1. Группа SUB)
1. Параметризация. Обозначим через SU B) множество унитар-
унитарных унимодулярных матриц второго порядка. Иными словами, SCJ B)
/а р\
состоит из таких матриц и=[ „), что и* = и * и DetM=l (через
и* обозначена матрица, эрмитово сопряженная с матрицей и). Если
ih(zS/JB) и и2 (= S?/B), то
(thUi)* = и|я* = Щ Чl = (WiWg)-1
и
Det(w,w8)=l.
Поэтому uflz^SUiZ). Легко показать, что и u\1^SUB). Отсюда
следует, что множество матриц S(J B) является группой.
(а р\
Пусть матрица и = I . I принадлежит группе S(J B). Поскольку
Га Т\ / 8 — Р\
и* = I _ _ I и и * = I I, то равенство и* = 1Г1 равносильно

§11 ГРУППА SUB) 107
соотношениям 8 = а и у^—Р- Таким образом, любая матрица и из
SUB) имеет вид
/ а В\
(О
Так как Detr/=1, то |а|2~|-| р |2= 1. Обратно, если гг — матрица
вида A), причем |а|2-|-| рр= 1, то и принадлежит группе SUB).
Итак, каждый элемент и группы SU B) однозначно опреде-
определяется парой комплексных чисел (а, В), таких, что | а |3 -|-1 В |2 = 1.
Если положить а = а, -f- »а2, р == ря —|— ip2, то из равенства | а \2 -)- | р р = 1
следует | at \2 + j а212 -f | pj p -f-1 р212 = 1. Отсюда получаем, что группа SU{2),
как топологическое пространство, гомеоморфна сфере в четырехмерном
вещественном пространстве.
Комплексные числа (а, В), такие, что |a|*-(-|B|s= 1, задаются
тремя параметрами. В качестве этих параметров можно взять, напри-
например, | а |, arg а и arg p. Если ар ф 0, то вместо этих параметров удоб-
удобнее взять другие, называемые углами Эйлера. Параметры <р, 0, 4 свя-
связаны с | а |, arg а, arg В следующими соотношениями:
Значения параметров <р, 6, ф не определены однозначно равенства-
равенствами B). Мы потребуем дополнительно, чтобы эти параметры принад-
принадлежали области
0«2<р<2тт, 0<6<7т, — 2тг s=S <]> ¦<2тг. C)
Легко проверить, что каждым двум комплексным числам (а, Р), таким,
что ар ^Ь 0, | а |2-[-| р|2= 1, соответствует одна и только одна точка
(<р, 6, ф) этой области, для которой выполняются равенства B).
Углы Эйлера <р, 0, ф аналогичны географическим координатам на сфере
трехмерного евклидова пространства. Подобно тому как на этой сфере гео-
географические координаты неоднозначно определены в северном и южном
полюсах, параметры у, 6, ф неоднозначно определены, если а = 0 или р = 0.
Однако множество матриц, для которых введенная параметризация неодно-
неоднозначна, имеет меньшую размерность, чем вся группа SUB).
Из формул B) вытекает, что | В | = sin у, и что матрица и =
= и (у, б, ф) с заданными углами Эйлера имеет следующий вид:
/sin-
z i
____ ( D)
l I sin -^- e 2 cos -^r e

108 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
Из соотношений A) и D) непосредственно следует, что
cos 6= 2|а|2— 1, E)
К
.? | е в ::
V \
В дальнейшем важную роль будет играть следующее разложение
унитарных матриц, непосредственно вытекающее из равенства D):
/ G . О
\о е~^} VsinT cosy/ \о с /
= и(<р, 0, 0)и@, б, 0)и@, 0, фI). F)
($ о \
Диагональные матрицы . ¦ образуют однопараметрическую
\0 е~~2'I
подгруппу в группе SU B). Таким образом, каждая матрица и из Si/B)
лежит в двустороннем классе смежности по этой подгруппе, содер-
содержащем матрицу вида
/ cos ^ i sin ,j \
... о о • ^7^
\isitivj- cos .;-
Заметим, что матрицы вида G) также образуют однопараметрическую
подгруппу в Si/B).
2. Углы Эйлера произведения двух матриц. Пусть и = щщ —
произведение двух матриц щ и иа из SLJB). Обозначим углы Эйлера
матрицы и через ср, б, <]>, матрицы Hj через cplf 6„ <]>!, и матрицы гг2
через ср2, 63, 42. Выразим углы Эйлера матрицы и через углы Эйлера
сомножителей.
Рассмотрим сначала случай, когда cpt = <j)j = ф2 = 0. В этом случае
имеем
Заметим, что « (ф, 0, 0) = и@, 0, ф).

§ II ГРУППА SU{-2) 109
Перемножив матрицы в правой части равенства и применив формулы
E) и E') п. 1, получим
cos б = cos б[ cos 02 — sin ^i sin б2 cos ср2, B)
ly sin 6j cos 62 -\- cos 6t sin 62 cos cp2 -\- i sin 62 sin cp2
e sine '
»(? + ф) ens-±- cos ,:- e 2 - - sin -i sin -J- e 2
« ^ "=—? ^V ^ 2- . B")
Из равенств B') и B") после несложных преобразований, вытекает, что
sin 62 sin 9«
' cos 6j sin 62 cos cp2 -|- sin 6j cos 62 ' ^ '
sin 6t sin y2
' sin 6t cos 62 cos <f2 ~\~cos Bi sin H2 " ^ '
Однако равенства (Зг) и C") не определяют. однозначно о и ф в области
О 2 2 ф 2
Итак, поставленная задача решена в частном случае, когда cpt =
= ф, = ф2 = 0. Переход к общему случаю не составляет труда. В са-
самом деле, в силу равенства F) из п. 1 имеем
и(?1. et. <]>i)a(Ta. 62. W =
= и (<р„ 0, 0) и @, в„ 0) а @, 0, ф,) а (ср.2, 0, 0) и @, 6а> 0) и @, 0, ф2). D)
Но очевидно, что
и@, 0, ф,)и(<?4, 0, 0) = «(Т2 + ф., 0, 0). E)
Кроме того, при умножении матрицы и (ср, 6, <]>) слева на матрицу
гг (ср1; 0, 0) угол Эйлера ср увеличивается на ср1; а остальные углы
Эйлера остаются неизменными. Аналогично, при умножении матрицы
«(<р, 6, ф) на н@, 0, i|i2) справа увеличивается на ф2 угол Эйлера ф.
Отсюда вытекает, что в общем случае формулы для углов Эйлера
имеют тот же вид, что и формулы B)—B") с той лишь разницей,
что угол ср8 надо заменить на сра -(- <]>i, а углы ср и Ф на ср — <pi и
(]> — (J)g. Предоставляем читателю выписать окончательные формулы.
3. Алгебра Ли. Поскольку каждый элемент группы SUB) за-
задается тремя параметрами ср, б, <]>, эта группа является трехмерным
многообразием в линейном пространстве всех матриц второго по-
[а р\
рядка . Построим касательное пространство к S(JB) в точке
\Т 8/
/1 0\
е = I . Для этого проведем через точку е три кривые и найдем
\0 1 / ч
касательные векторы к этим кривым. Если кривые выбраны так, что

110
ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА
[ГЛ. III
касательные векторы к ним линейно независимы, то эти касательные
векторы и дадут базис касательного пространства к S(JB) в точке е.
В качестве кривых, проходящих через точку е, удобнее всего
выбрать однопараметрические подгруппы, т. е. выбрать такие кри-
кривые g(t), что
— OO<f,S<OO. A)
Возьмем следующие три однопараметрическпе подгруппы: совокуп-
совокупность Й( матриц вида
(П
совокупность Q2 матриц вида
/ COS ¦7Г
«ea(O = i
\
sin у
cos
и совокупность Q3 диагональных матриц
I-
le2 О
C)
0 е
Простой подсчет показывает, что касательные матрицы at, a2,
этих подгрупп имеют следующий вид:
Л», (t)
dt
f/o>2 (t)
dt
**. W
dt
t-o
t-o
<_«
i
2
1
2
I
2
Г
ll
/°
\1
M
о/
Л
-1 •
D)
E)
F)
Матрицы ait a2, а3 линейно независимы и, следовательно, образуют
базис алгебры Ли группы SUB). Алгебра Ли этой группы состоит,
таким образом, из матриц ххах -\- jc2a2 -f- хаа3, где xit xi7 x3 — веще-
вещественные числа.
Соотношения коммутации для матриц аь аъ а3 имеют следую-
следующий вид:
[а1г a2] = a3, G)
К (h\ = alt (T)
[а3, а1] = а2. G")

§ II ГРУППА SUB) HI
Соотношения G), GГ), G") допускают простое геометрическое истолкова-
истолкование: они совпадают с формулами для векторного произведения координатных
ортов трехмерного евклидова пространства. Отсюда следует, что если
две матрицы из алгебры Ли группы SUB), то
где вектор (zlt z2, zs) — векторное произведение векторов (хи х«, хя) и
(Уи Уг, Уя)-
4. Комплексификация. Рассмотрим теперь комплексификацию алгебры
Ли группы SUB), т. е. комплексное линейное пространство, натянутое на
матрицы а,, а2, а3. Поскольку следы матриц а,, а2, в, равны нулю, то все
матрицы из этого линейного пространства также имеют нулевые следы. С
другой стороны, очевидно, что любая матрица второго порядка с нулевым
следом является линейной комбинацией (с комплексными коэффициентами;
матриц flj, a2, as. Таким образом, комплексификацией алгебры Ли группы
SUB) является пространство комплексных матриц второго порядка, след
которых равен нулю. Но след произведения двух матриц не меняется при
перестановке сомножителей, а потому след коммутатора любых двух матриц
равен нулю. Отсюда вытекает, что комплексные матрицы, след которых ра-
равен нулю, образуют вещественную алгебру Ли. Базисом этой алгебры яв-
являются матрицы аи а2, а3, iau ias, iag.
Покажем, что построенная алгебра является касательным пространством
/1 0\
в точке е = ( )к группе Si B, С) всех унимодулярных комплексных мат-
матриц второго порядка. В самом деле, пусть
(a (t) р (t)\
однопараметрическая подгруппа группы SL B, С). Тогда для всех t имеем
Продифференцируем это тождество по t и положим t = 0. Так как g-@) = e
и потому о@) = В@) = 1, р@)=7(°) = °. то а'@) + В'@) = 0. Таким обра-
образом, касательные матрицы к однопараметрическим подгруппам группы
Si B, С) имеют нулевой след.
Чтобы завершить доказательство нашего утверждения, осталось пока-
показать, что размерность алгебры Ли группы SL B, С) совпадает с размерностью
пространства матриц с нулевым следом. Но матрицы с нулевым следом яв-
являются линейными комбинациями матриц аи а2, as и потому комплексная
размерность пространства таких матриц равна 3. С другой стороны, в силу
соотношения аЪ — фу = 1 каждый элемент группы Si B, С) определяется
тремя комплексными параметрами (например, при 79^0 параметрами о, -j, В),
а потому комплексная размерность алгебры Ли этой группы также рав-
равна 3. Тем самым наше утверждение полностью доказано: алгеброй Ли груп-
группы SL B, С) является пространство всех комплексных матриц второго
порядка, след которых равен нулю.
Группа SL B, С) называется комплексификацией группы SUB), а груп-
группа SUB) — одной из вещественных форм группы SL B, С). Укажем непо-
непосредственный переход от группы SUB) к группе Si B, С). Как было пока-
показано выше, каждый элемент и группы Sf/B) определяется тремя вещест-
вещественными параметрами <р, в, ф — углами Эйлера. При этом матрица с углами

112 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
Эйлера ср, О, ф имеет вид D) из п. 1. Придадим углам Эйлера ср, 6, ф комп-
комплексные значения. Нетрудно показать, что тогда матрицы вида D) из п. 1
будут унимодулярными комплексными матрицами второго порядка. При этом
любая матрица из Si B, С) может быть представлена в таком виде. Это
представление однозначно почти для всех элементов группы Si B, С), если
ограничиться значениями параметров ср, 6, ф, принадлежащими области
О < Re 6-й я, %
О *5 Re т < 2тс, I A)
— 2тс sg Re ф J
Иными словами, когда ср, 6, ф меняются в этой области, матрица g(<(, 6, ф)
пробегает всю группу SL B, С), причем почти все (т. е. все с точностью
до множества меньшей размерности) матрицы g из Si B, С) встречаются
только один раз.
Мы будем называть числа ср, 6, ф комплексными углами Эйлера мат-
матрицы g. Разумеется, выведенные в п. 2 формулы для вычисления углов Эй-
Эйлера произведения двух матриц сохраняют силу и после комплексификации
группы SUB).
5. Связь с группой вращений. Вращением g трехмерного евк-
евклидова пространства называют линейное преобразование этого про-
пространства, сохраняющее расстояние между точками пространства и
началом координат и не меняющее ориентацию этого пространства.
Множество SOC) всех вращений является группой. Очевидно, что
группа SO C) изоморфна группе вещественных ортогональных матриц
третьего порядка, определитель которых равен 1.
Установим связь между группами SUB) и 50C). С этой целью
поставим в соответствие каждому вектору х (xt, х.ъ хъ) трехмерного
евклидова пространства комплексную матрицу второго порядка вида
A)
— Хя )
Пространство матриц вида A) состоит из всех эрмитовых матриц g,
след которых равен нулю.
Далее, поставим в соответствие каждой матрице и из группы SU{2)
преобразование Т(и), переводящее матрицу hK вида A) в матрицу
Г(й)А1 = «М*. B)
Поскольку для унитарных матриц ц* = и1, то следы матриц hx и
T(u)hx = tihxu~1 совпадают, а потому след матрицы T(ti)h% равен
нулю. Кроме того,
(T(tt)hx)* = (tihxu*)* = nhiu* = uhKu*= T(u)h*, C)
и потому матрица Т(и) /гх эрмитова. Следовательно, эта матрица имеет вид
\ ) = hy, D)
где yQ>i, у$, Уз) — вектор из трехмерного евклидова пространства.

§ 1] ГРУППА SU& 113
Из равенства B) видно, что координаты вектора у являются ли-
линейными комбинациями координат вектора х, а потому Т(и) можно
рассматривать как линейное преобразование в трехмерном евклидо-
евклидовом пространстве. Покажем, что это преобразование является враще-
вращением евклидова пространства. Для этого заметим, что Det hx =
= — х\ — х\ — х\, и потому — Det hK равен расстоянию точки
х(х1; лгв, х3) от начала координат. Но гг* = гг], и потому
Det T (a) hK — Det (uhx и*) = Det hK. E)
Отсюда вытекает, что преобразование Т(п) не меняет Dethx и, сле-
следовательно, оставляет неизменным расстояние точек евклидова прост-
пространства от начала координат. Наконец, нетрудно проверить, что оп-
определитель преобразования Т(и) в евклидовом пространстве равен 1,
и потому это преобразование не меняет ориентации.
Итак, каждой унитарной унимодулярнои матрице и мы поставили
в соответствие вращение Т(а) в трехмерном евклидовом простран-
пространстве. Легко показать, что Т(и) является гомоморфным отображением
группы SUB) на всю группу ?0C), причем ядро гомоморфизма со-
состоит из двух матриц ей — е.
Поскольку отображение Т(и) взаимно однозначно на достаточно
малой окрестности единицы группы SCfB), говорят, что группы SUB)
и 50C) локально изоморфны.
Установленная выше связь групп SUB) и SO C) допускает простое гео-
геометрическое истолкование. Именно, рассмотрим в трехмерном евклидовом
пространстве сферу
ж!+ jcf+ *! = !. F)
Каждой точке этой сферы поставим в соответствие ее образ М [xlt xs, ^г
при стереографической проекции сферы на плоскость xs = —^- из точки
0, 0, -„-) или, что то же, комплексное число w = x1-\- ixz. Можно показать,
что дробно-линейному преобразованию
^ -|« + |Р|» = 1 G)
плоскости г = соответствует при этом вращение g сферы, причем
6. Углы Эйлера вращений. Из установленного выше локального
изоморфизма групп SUB) и 50C) вытекает, что вращения трехмер-
трехмерного евклидова пространства можно задавать тремя углами Эйлера
<Р> б, ф. При этом, в отличие от группы 6УУB), угол Эйлера ф

114 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА (ГЛ. III
меняется в пределах от 0 до 2-к (а не от —2-к до 2-к). Это связано
с тем, что матрицам к и — к соответствует одно и то же вращение
трехмерного пространства.
Выясним геометрический смысл углов Эйлера для вращений трех-
трехмерного пространства. Легко проверить, что матрицам вида
/' cos у I sin y\
«>i(9=; t t > A)
\l sin у cos у/
соответствуют вращения трехмерного евклидова пространства на угол t
вокруг оси Ох1г матрицам
\ . t t
\ sin у
B)
\ sin ~ cos ~ /
— вращения на угол t вокруг оси Ох% и, наконец, матрицам
- \
2 ° \
О е 2 '
— вращения на угол t вокруг оси Oxs.
Но в п. 1 было показано, что матрица и из S(JB), соответст-
соответствующая углам Эйлера <р, 6, ф, имеет вид
и(ъ в, ф) = н(?, 0, 0)н@, 6, 0)и(ф, 0, 0),
где и (<р, 0, 0) и и (ф, 0, 0) — матрицы вида C), и и @, 6, 0) — мат-
матрица вида A). Отсюда вытекает, что вращение g трехмерного евкли-
евклидова пространства ?8, задаваемое углами Эйлера ср, 6, ty, является
произведением вращения на угол ф вокруг оси Охъ, вращения
на угол 6 вокруг оси Oxlt и второго вращения на угол <р вокруг
оси Ох3. Отсюда вытекает, что матрица вращения g(rp, 6, ф) имеет вид
g(<?, 6, ty) = g(<p, 0, 0)g@, 6, 0)^(ф, 0, 0) =
/cos v — sin <р 0\ / I 0 0 W cos ф — sin ф 0\
= I sin ч> cos if Oil 0 cos 6 —sin 0 I sin ф cos ф 01 =
\ 0 0 V \0 sin 8 cos8/\ 0 0 0'
I cos <f cos ф — sin f sin ф cos 8 — cos у sin ф — sin <p cos ф cos 8 sin <p sin 8\
= I sin ip cos ф Ц- tos <p sin ф cos 8 — sin <p sin ф 4-co3 ? cos Ф cos ® — c°s f sin в I .
\ sin ф sin 8 cos ф sin в cos в/
Остановимся еще на геометрической интерпретации касательных
матриц для однопараметрических подгрупп группы SOC). Геометри-

§ 1] ГРУППА 5f/B) 115
чески очевидно, что любая однопараметрическая подгруппа g(t) груп-
группы 50C) является подгруппой вращений вокруг фиксированной оси
1 в Е3, причем t пропорционально углу поворота. Поэтому естест-
естественно задавать однопараметрическую подгруппу g(t) вектором х =
= x^i -\- х%ег -f- х3е3, направленным по оси вращения, длина кото-
которого равна угловой скорости вращения. При таком соответствии од-
нопараметрическим подгруппам ш1 (f), ш.2 (f), ю3 (t) (см. п. 3) соответ-
соответствуют орты ei, е.г, е3 координатных осей.
Нетрудно показать, что если однопараметрической подгруппе g(t)
соответствует вектор x=xlel-^-xiei-\-x-ie3, то касательная матрица
а этой подгруппы имеет вид а = xlal -j- jcaa2 -j- х3а3, где ai, ait a3 —
касательные матрицы подгрупп Wj (t), щ (t), w3 (t). Мы опускаем это
доказательство.
Пользуясь геометрической интерпретацией касательных матриц
однопараметрических подгрупп, легко выразить касательную матрицу
подгруппы g (t)=gog(t)g^l через касательную матрицу подгруппы g(t).
Для этого заметим, что если вращения g(t) оставляют неподвижной
ось 1, то вращения gBg(t)gol оставляют неподвижной ось gol (полу-
(получающуюся из 1 вращением g0). В самом деле, из g"(?)l=l следует:
gog(t)gi 'fei)=ai.
Скорости же вращений g(t) и gogifygo1 одинаковы.
Отсюда получаем следующий вывод: если однопараметрическая
подгруппа g(f) имеет касательную матрицу
а = x^t -f- дг2а2 -\- х3а3,
то касательная матрица подгруппы gog"(Ogf' имеет вид
Ъ —ухах -f- _у2а2 -j- y3a3,
где
' У=ё'оХ, х = (хи х* Х3), y=(Vi, Уъ Уз)-
7. Сфера как однородное пространство. Группа 50C) вращений
трехмерного евклидова пространства является транзитивной группой
преобразований единичной сферы 5а в этом пространстве. При этом
стационарной подгруппой некоторой точки сферы является подгруппа
вращений вокруг оси, проходящей через эту точку. Стационарной под-
подгруппой точки М@, О, 1) является подгруппа вращений вокруг оси Oz.
Мы видели в предыдущем пункте, что этим вращениям соответствуют
диагональные матрицы из группы SUB), т. е. матрицы вида
—
¦ 2 0
П /> 2

116 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
Отсюда вытекает, что единичная сфера 52 является однородным
пространством с группой движений SUB) и стационарной подгруп-
подгруппой Q, состоящей из матриц вида A). В силу п. 3 § 1 главы I это
означает, что сферу S2 можно отождествить с пространством левых
классов смежности группы SU('2) по подгруппе 2. Таким образом,
функции /(|), заданные на сфере S2, можно рассматривать как функ-
функции f(u) на группе SUB), постоянные на легых смежгых классах
по подгруппе й, т. е. такие, что
f{iih)=f(u), A?Q.
Легко проверить, что если углы Эйлера матрицы и равны ср, 6, 6,
то ей соответствует точка М сферы с декартовыми координатами
М (sin 6 sin у, — sin 6 cos <p, cos 6).
Очевидно, что сферические координаты точки М равны ^"Ь?
и 6.
§ 2. Неприводимые унитарные представления Ti(u)
В этом параграфе будут описаны неприводимые унитарные пред-
представления группы SUB). Поскольку группа SUB) компактна, эти
представления конечномерны. Чтобы построить их, рассмотрим сна-
сначала один класс представлений группы SL B, С) унимодулярных комп-
комплексных матриц второго порядка. Сужая эти представления па под-
подгруппу SUB), получим ее неприводимые унитарные представления.
1. Представления в пространствах однородных многочленов.
Каждой унимодулярной комплексной матрице второго порядка g=
/а. В\
I соответствует линейное преобразование
«4 = a? + 7*eJ
двумерного линейного комплексного пространства. Этому преобразо-
преобразованию отвечает оператор
T(g)f(zl, za)=/(aA + 7~*> Р^ + ЗгО B)
в пространстве функций от двух комплексных переменных.
Очевидно, что Т (gigO = Т (й) Т (gg). и потому T(g) является
представлением группы SL B, С). Это представление приводимо, по-
поскольку в пространстве функций от двух комплексных переменных
есть подпространства, инвариантные относительно преобразований
T(g). Например, любой однородный многочлен от двух переменных
переходит при преобразовании T{g) в однородный многочлен той же
степени.

§ 2] НЕПРИВОДИМЫЕ УНИТАРНЫЕ ПРЕДСТАВЛЕНИЯ ;уя) 117
Пусть / — целое или полуцелое число. Обозначим через ф4 про-
пространство всех однородных многочленов
/fo, **) = ? anz[-"zl + " C)
п = — I
степени 2/ и через Гг(§) — сужение представления 7"(g) на прост-
пространство ф,. Мы увидим ниже, что 1\ (g) является неприводимым пред-
представлением группы SL B, С). Более того, это представление остается
неприводимым, если сузить его на подгруппу 57/B) группы SLB,C)
(см. п. 3).
В дальнейшем будет удобно пользоваться другими реализациями
представлений 1\ (g). Чтобы получить эти реализации, заметим, что
однородный многочлен f(zu г2) однозначно определяется своими зна-
значениями на любом «контуре» Г, пересекающем любую комплексную
прямую «1*1 -|" aizi = 0 в одной точке. Поэтому $, можно задавать
не как пространство однородных многочленов двух комплексных пе-
переменных, а как пространство функций на контуре Г.
Рассмотрим комплексную прямую г., = 1 в двумерном комплекс-
комплексном пространстве. Эта прямая пересекает каждую прямую, проходя-
проходящую через начало координат (кроме прямой ,г4 = 0) в одной и только
одной точке. Поэтому каждый многочлен /(г1; zt) однозначно опре-
определяется своими значениями на прямой :г=1. Поставим в соответ-
соответствие каждому многочлену f(~t, г2) из &}ц многочлен степени 2/ от
одного переменного:
?(-.)=/Сч, 0= 2 ««-'г"- D)
п -¦ — I
Очевидно, что многочлен f{zb г.,) определяется по ? (г,) следующим
образом:
/(^г2) = гГ?!^;. (б/
Будем обозначать пространство многочленов степени 2/ от од-
одного переменного той же буквой .?jr Найдем операторы в этом про-
пространстве, соответствующие операторам представления Tt(g). Для
этого заметим, что многочлену <р (z) соответствует однородный мно-
многочлен f(zlt za) от двух переменных, задаваемый формулой E). Опе-
Оператор Tt(g) переводит этот многочлен в многочлен
/*(*i. ^=/(<^i + 7^. Р^ + 8гО. F)
В силу однородности многочлена f(zv га) имеем
tg (zlt Z%) (p?! -|- hZo) J „ , , 1

118 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА (ГЛ. III
Поэтому многочлен yg(z)=fg{z, 1), соответствующий ff(zlt Zq), вы-
выражается через многочлен <?(z) по формуле
Итак, если реализовать ^1 как пространство многочленов степени
2/ от одного переменного, то оператор представления 7", (g) задается
в этой реализации формулой
(^). (8)
Укажем еще реализацию представления Tt (g) в пространстве три-
тригонометрических многочленов порядка /. Для этого каждому много-
многочлену F (z) степени 2/ поставим в соответствие тригонометрический
многочлен
Ф (<?'*) = е-"* Ffc'"*). (9)
Иными словами, положим
Рассуждая точно так же, как и выше, получаем, что при реали-
реализации пространства ^г как пространства тригонометрических много-
многочленов порядка / операторы 7*, (g) реализуются следующим образом:
Ь (g) Ф {е1*) = е-11* (ш* + if фе** + 8/ Ф (g^-) • (Ю)
Итак, мы построили представление Tt(g) группы SLB, С) и ука-
указали различные реализации этого представления. Сузим теперь это
представление на подгруппу SUB) группы SLB, С). Это означает,
что в формулах ?8) и A0) надо положить 8 = а, 7 = — Р- При этом
получается представление группы SUB). Мы будем обозначать его
так же, как и представление группы SLB, С), т. е. писать Tt{it),
и ?= SU{2):
2. Инфинитезимальные операторы представления Tt(u). В сле-
следующем пункте будет доказано, что построенное выше представление
Ti(u) группы SUB) неприводимо. Для этого нам понадобится выра-
выражение инфинитезимальных операторов представления Тг (и). Восполь-
Воспользуемся реализацией этого представления в пространстве многочленов
степени 2/ от одного переменного.

§2] НЕПРИВОДИМЫЕ УНИТАРНЫЕ ПРЕДСТАВЛЕНИЯ Гг(и) 119
Матрице
/ cos-§- /sin-А
у/sin у cos у/
из подгруппы Q, (см. п. 3 § 1) соответствует оператор 7", [«>(?)], пе-
переводящий многочлен ср (jc) в
/
«л: sin =- -|- cos~g"
Продифференцируем это равенство по t и положим ? = 0. Мы полу-
получим, что подгруппе fit соответствует инфинитезимальный оператор
»)^. B)
Точно так же доказывается, что однопараметрическим подгруппам
и й3 соответствуют инфинитезимальные операторы
C)
Применим инфинитезимальные операторы Аи Л2, Л3 к базисным
одночленам xl~n, — / sg я sg /:
^ = у (/ — л) *'-" -1 + у (/ + я) *'-"«, E)
» = у (/ - я) х'-" — у (/ + я) У-я+1, F)
= — /яхг"п. G)
Таким образом, инфинитезимальные операторы Ах и Л2 переводят
базисные одночлены хг " в линейные комбинации «соседних» одно-
одночленов х'"" и jc'~"+1. Нетрудно написать операторы И+ и Н_, пере-
переводящие х'~" в одночлены, пропорциональные х^~п'1 и д^". Именно,
положим Н+ = lAi — Ач и Н_ = 1АХ ~\~ Л2. Иными словами, положим
H (8)
dx- (9)
Кроме того, введем оператор //3, положив

120 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
Из формул E) — G) непосредственно вытекает:
\ A1)
' п+\ A2)
Н-У-п = пхг-п. A3)
Из этих формул видно, что xl~n является собственной функцией
оператора Н9, соответствующей собственному значению п. Оператор И+
переводит эту функцию в собственную функцию оператора И9, соответ-
соответствующую собственному значению п -\- 1. Оператор же Л/_ переводит
х1^" в собственную функцию, соотлетствующую собственному значению
п — 1. При этом оператор Нт обращает и нуль функцию 1, соответствую-
соответствующую наибольшему собственному значению I, а оператор Н_ — функ-
функцию л', соответствующую наименьшему собственному значению — /.
3. Неприводимость. Докажем, что представления Тс (и) группы
SUB) неприводимы. Для этого достаточно показать, что в простран-
пространстве Sji нет нетривиального подпространства, инвариантного относи-
относительно операторов Alt Л2, Ая (см. гл. I, § 1, п. 10). Поскольку опе-
операторы Ai, Ai, A3 являются линейными комбинациями операторов
Н+, Н_, Нъ то достаточно показать отсутствие нетривиального под-
подпространства, инвариантного относительно операторов //+, Н_, Нг.
Обозначим через S^ln подпространство в ф^ состоящее из одно-
одночленов апх1~п. Из формулы A3) п. 2 следует, что это подпростран-
подпространство инвариантно относительно оператора Нъ, причем различным
значениям п соответствуют различные собственные значения опера-
оператора Н3 в ф,„.
Предположим, что подпространство '1 в §, инвариантно относи-
относительно операторов Н±, Н_, Н3. В силу п. 3 § 3 главы I из инвари-
инвариантности подпространства X относительно Н3, следует, что оно является '
прямой суммой некоторых из подпространств $1п, т. е.
* = &»»+•¦• + &»,• A)
Поэтому, если ? ф- 0, то оно содержит один из одночленов xl~n.
Воспользуемся теперь инвариантностью подпространства % отно-
относительно операторов Н+ и Н_. Из этой инвариантности вытекает, что
Л содержит все функции вида Щх1 п и Hsxl~n. Если Osgssc:/—п,
то в силу формулы A1) из п. 2 имеем
Щх1 n = axl " s, B)
где а 9^0. Аналогично, если O«Ts^/-| n, то имеем
№_**-" = №-"*', C)
где р ^ 0. Отсюда вытекает, что % содержит все одночлены х1~т>
и потому совпадает с фг. Тем самым неприводимость

§ 2] НЕПРИВОДИМЫЕ УНИТАРНЫЕ ПРЕДСТАВЛЕНИЯ Т^и) 121
представления Т1{и) группы SUB) доказана. Тем более неприводимо
представление Tt (g) группы SL B, С).
Отметим," что построенные нами неприводимые представления Tt (и)
группы SUB) попарно неэквивалентны. В самом деле, представления
с различными значениями / имеют различную размерность.
4. Инвариантное скалярное произведение. Поскольку группа SUB)
компактна, в пространстве .0/ ее конечномерного представления 7'г(н)
существует инвариантное скалярное произведение (см. гл. 1, § 4, п. 2).
Чтобы получить его явное выражение, достаточно вычислить скаляр-
скалярные произведения (x'~ft, х1"), где —l^k^zl, —/<и</.
Покажем сначала, что при k ^ m имеем (х1к, xl~m) = 0. Для этого
воспользуемся инвариантностью скалярного произведения относительно
операторов Tt (h), где
/ JL \
е2 0 '
h = - _« •
V 0 е V
Легко видеть, что оператор Tt (h) переводит xl~k в е^мх1^к. Поэтому
(xlk, xl'm) = {Tl{h)xlk, Т1(И)х1-т) = е-цктI(х1к, х1').
Из этого соотношения вытекает, что если k ф гп, то (х'~к, х1") = 0.
Нам осталось, таким образом, вычислить (х1 к, х111), —/s^k^L
Для этого воспользуемся равенством
(х1 к, х' кп) = (Tt (и) х1'~к, 1\ (и) х1 к"), A)
где
COS
sin
У
t

— sin
cos
2
t
Продифференцируем обе части этого равенства по t и положим t = О
(т. е. перейдем к инфинитезимальным операторам). Мы получим
В силу формулы F) п. 2 отсюда имеем
О = — G -f k) (x1 fcTl, xl fc+1) -f (/ — k + 1) (xl-ft, x1'11). B)
Инвариантное скалярное произведение определено с точностью до посто-
постоянного множителя. Выберем этот множитель так, чтобы имело место
равенство A, 1) = 2Л Тогда из рекуррентного соотношения B) получаем
(X1 к X1 к) = A k)\(l—I— k)\ /=ёСА=?^/. C)
Тем самым найдено инвариантное скалярное произведение. Из фор-
формулы C) следует, что система функций
xi-k

122 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
образует ортогональный нормированный ' & «- 1ространстве ^t-
Этот базис состоит из собственных фуь •' >' > ^ров Т1 (К), где
h—! °
Кроме того, имеем
\0
•(<р, х1 -*) = (/ -?)!(/ + ?)!• E)
где
В заключение заметим, что из формул п. 2 Bi •• ¦ i равенства
//+ф„(х) = -
nj*n (¦*) = —
5. Полнота системы представлений Tt(u). Мы построили си-
систему Гг (гг) попарно неэквивалентных унитарных неприводимых пред-
представлений группы SUB). Оказывается, что этими представлениями
исчерпываются все (с точностью до эквивалентности) неприводимые
унитарные представления группы SUB). Иными словами, имеет место
Теорема 1. Каждое неприводимое унитарное представление
Т(и) группы SUB) эквивалентно одному из представлений Tt (и),
Мы опускаем доказательство этой теоремы, отсылая читателя
к книге [16], где в п. 3 § 2 главы I эта теорема доказана для груп-
группы 50C). Доказательство без изменений переносится на группу SUB).
Число / называют весом представления Т{и).
Пусть Т(и) — неприводимое унитарное представление веса /
группы SUB) в пространстве ,?).
Из теоремы 1 вытекает, что в пространстве ,?) существует такой
ортогональный нормированный базис f v..., it, что операторы Т(и)
задаются в этом базисе теми же матрицами, что и операторы Tt(u)
в базисе {фй (х)}. Этот базис в Jq будем называть каноническим.
Легко видеть, что канонический базис однозначно определен с точ-
точностью до общего скалярного множителя X, такого, что | X | = 1. Именно,
канонический базис состоит из нормированных собственных векторов
операторов Т (h), где
/ « \
, е2 О
\0 е \

* ? МНОГОЧЛЕНЫ ЛЕЖАНДРА И ЯКОБИ 123
§ 3. Матричные элементы представлений Tt(g).
Многочлены Лежандра и Якоби
В этом параграфе будут вычислены матричные элементы неприво-
неприводимых унитарных представлений Т^и) группы SUB). Сначала мы
вычислим матричные элементы для представлений Tt (g) группы SL B, С),
получающейся при комплексификации группы SUB), а потом, перейдя
к вещественным значениям параметров, получим матричные элементы
представлений Tt(u). Будет показано, что эти матричные элементы
выражаются через показательную функцию и через многочлены
Plmn(z% тесно связанные с классическими многочленами Якоби и Ле-
Лежандра. На основе этой связи будут установлены многие свойства
многочленов Якоби и Лежандра.
1. Вычисление матричных элементов. В § 2 были построены
представления Tt (g) группы SL B, С). Они задаются формулой
Г, (g) f (х) = ®х + 8)« <р (|?±3), A)
где <f(x) — многочлен степени 21 от х, g=\ *)• Выберем в про-
пространстве ^z таких многочленов базис, состоящий из одночленов
xl'n —l^n^l. B)
В п. 4 § 2 было показано, что этот базис ортогонален и нормирован
относительно скалярного произведения в -Ьь инвариантного при действии
операторов Г/ (и), u?SUB). Отсюда следует, что операторам Г/ (и) неприво-
неприводимых унитарных представлений группы SUB) соответствуют в этом базисе
унитарные матрицы.
Для вычисления матричных элементов воспользуемся формулой
au = (AeJt e,), C)
где {е,-} — ортонормированный базис. В нашем случае эта формула
принимает вид
Но
Tt fe) *?-"=(«jf+ifn (P*+s/+n- E)
Поэтому из формулы D) вытекает, что
ti , ) = ((«
Раскроем скобки в полученном выражении и примем во внимание,
что (х'-\ xl~m) = 0 при k^mu(xl-m, х1~т) = A— т)\A + т)\. Мы

124 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
получим
i= м
' _ m)! (/ _f- m)\ (/ — л)! (/ -\- n)\ аГ^ пЬ1+п X
1 IhM G)
где УИ —max@, n—m), N=min(I—т, !,-\-п).
Итак, мы нашли выражение матричных элементов представления
Tt(g) через матричные элементы матрицы g. Отметим, что это выра-
выражение фактически не зависит от р, так как в силу унимодулярности
матрицы g имеем jif = <х8 — 1.
2. Различные выражения матричных элементов. Выведем дру-
другие выражения для матричных элементов tlmn(g) представлений Tt(g).
Первое из них связано с разложением матриц в произведение верх-
верхней и нижней треугольных матриц. Именно, если ?"=( s I и 8 г? О,
1J и ^=^/ ^.
то g=kz, где k=-.^Q J ^/ ^
Из равенства g= kz следует, что Tt (g) = Tt (k) Tl (z). Поскольку
умножению операторов соответствует умножение их матриц, то
Полученное равенство сводит задачу вычисления матричных эле-
элементов tlmn(g) к вычислению этих элементов для треугольных мат-
матриц k и z. Но для матрицы k имеем -\ = 0. Поэтому из равенства G)
предыдущего пункта вытекает, что при т^>п tlmn(k) обращается
в нуль, а при ms^n остается лишь слагаемое, для которого j = n — от:
и /м _ 1 Г(Г~т)\ (I + иI р»-™уя+я
ьтпУк' \ (/_|_т)!(/_„)! "(и —/и)! ' *¦ ;
Точно гак же при т<^п имеем ^(г) = 0, а при
и)Г
(т — и)
Подставив в формулу A) выражения матричных элементов
и tln(z), вытекающие из равенств B) и C), получим
у
ш)! (/-t-n)! pmf" ^ С— УI(У — m)l(y —и)!
/=шах (т, га)
D)

§ 3] МНОГОЧЛЕНЫ ЛЕЖАНДРА И ЯКОБИ 125
Выведенная формула годится для матричных элементов tlmn(g),
g=i^ g), таких, что 8^0. При 8 = 0, т. е. g=^a Ч, матрич-
матричные элементы tlmn(g) непосредственно вычисляются по формуле G)
п. 1. Мы получаем
0 при т-\-п^>0,
E)
I/ /тп—(гттп—(г/ —,, т+п при те + п^ 0.
Г (/ + т)\ (I + иI (¦— т — иI ат+п * [
Если а^о^О, то по формуле G) из п. 1 получаем, что tl (g)=0
при т -\- п ф 0 и
^, _„(«)=(-1У""т4>я- F)
В частности, если g=(. п), то ^(g) = 0 при /и-[~ит^^>
Еще одно выражение для матричных элементов оператора Tt (g)
получается следующим образом. Из определения матричных элементов
следует, что
i
Tite)$n(*)= 2 ^Лй"Ж(л'), G)
т = — I
где, напомним,
<ь„ (х) = — . (8)
у (I — и)!(/ + иI
Так как
то tlmn (g) равно коэффициенту при х1 т в разложении выражения (9)
по степеням х, умноженному на ]/(/—т)\{1-\-т)\. По формуле
Тейлора имеем
A0)
Чтобы упростить это выражение, сделаем в нем подстановку
у = а ($х -j- 8). Из равенства а8 — Ру = 1 вытекает, что ax-\~i =t-,
и потому
— \f

126 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ш
Заменяя здесь у на z -J- 1 и принимая во внимание, что а8 — 1 = p*f,
получаем
Выведем, наконец, интегральное представление матричных элемен-
элементов tlmn(g). Для этого удобно воспользоваться реализацией представ-
представления в пространстве тригонометрических многочленов порядка 21.
В силу формулы A0) п. 1 § 2 имеем
Ti (g) е~1щ = (а<?"р + т)'~" №е"Р + ЪI+пе~п<е. A2)
Поэтому
> 4- 8)"-"е-»У, c-iwy)
— m)! (/ + m)\ (t — n)! (/ + n)!
Чтобы представить это выражение в виде интеграла, заметим, что
при k ф m
2п
6
а при k-=tn
e
6
2*
(е-""*, е-1"") = (/ — m)\ (I-f от)! ==(/ ~ w)^ + w)'
6
Поэтому для любого тригонометрического многочлена Ф(е'9) из
выполняется равенство
о
Применив эту формулу к соотношению A3), получим
' i («*+tf-*№*+ 8y+V<->^. A4)
d
Интеграл A4) с помощью подстановки el<e = z можно записать
в виде контурного интеграла:
^—_Li/~
~!(! 5'
где Г — единичная окружность, пробегаемая против часовой стрелки.
Заметим, что, вычисляя интеграл A5) с помощью вычетов, мы снова
придем к формуле A0).

§3] МНОГОЧЛЕНЫ ЛЕЖАНДРА И ЯКОБИ 127
3. Выражение через углы Эйлера. В этом пункте мы получим
выражение матричных элементов tlmn(g) через углы Эйлера <р, 6, ф
матрицы g. По формуле F) п. 1 § 1
g(9, В, W=g(f, 0, 0)*@, 6, 0)^@, 0, ф). A)
Поэтому
е, ф)] = т, [g(b о, о)] т{ \g(o, e, o)i rz \g(o, о, до. B) ¦
Таким образом, разыскание матрицы оператора 7z(g) в общем
случае сводится к разысканию этой матрицы для операторов Tj[g(y, 0, 0)],
> "> 0)] и 7"z[g@, 0, ф)]. Но g(y, 0, 0) — диагональная матрица
, 0, 0)-=j t)
\0 е 2У
Для таких матриц по формуле A) п. 1
°. °I xl~n = e-in<*xl~n. B0
Поэтому матрица оператора 7"z f^(tp, 0, 0)] является диагональной
матрицей, на главной диагонали которой стоят выражения e~in<t,
— Is^tis^l. Аналогичный вид имеет матрица оператора 7"z [g@, 0, ф)].
Обозначим матричные элементы оператора 7*z [g@, 0, 0)] через
^\пп №• Тогда в силу диагональное™ матриц операторов 7"z [g(<f, 0, 0)]
, 0, ф)] имеет место формула
. 0, 0I^F)^^@, 0, ф)] = е-(-^^лF). C)
Нам осталось получить явное выражение для tlmn(Gi). Матрица
, 6, 0) имеет вид
/cos^- /si
g@, 6, 0)= \ I
\l sin g- cos у
Поэтому для вычисления tl (В) надо подставить в формулу D) из
п. 2 a=^8 = cos-^-, p = Y = Z sin-й-. Мы получим
;-
j = max (т. п)
Как отмечалось в п. 4 § 1, параметр 6 изменяется в области
R6<^TC. Но в этой области различным значениям 0 отвечают

128 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
различные значения z = cos 6. Поэтому t1 (б) можно рассматривать
как функцию от cos 0. В соответствии с этим мы положим
С F) = Ртп (cos 6)> 0 < Re 6 <« E)
и запишем формулу C) в следующем виде:
Cfe)=e''(ffl<p+n^pL(cose)- (в)
4. Различные выражения функций Plmn(z). Мы ввели в пре-
предыдущем пункте функции P'mn(z), через которые выражаются матрич-
матричные элементы неприводимых представлений 7} (g) группы SL B, С).
Изучим свойства этих функций. Получим сначала гвное выражение
функции Plmn{z). Из равенств D) и E) п. 3 вытекает, что
j = max (m, ri)
m-\-n
Входящее в эту формулу выражение ( _] 2 двузначно (напом-
(напомним, что тип либо одновременно являются целыми числами, либо
полуцелыми). Чтобы однозначно определить Plmn(z)> вспомним, что
параметр 0 изменяется в области 0 sg Re G<^ г.. Отображение z = cos 6
переводит эту область в плоскость z, разрезанную вдоль вещественной
оси по лучам (—сю, —1) и A, сю). Но в разрезанной таким образом
плоскости функция ( j 2 однозначна.
Выберем ветвь этой функции, принимающую положительные зна-
значения на отрезке (— 1, 1) вещественной оси.
Используя доказанные в пп. 1 и 2 формулы для tlmn{g)> легко
получить другие выражения для Р1тп (г). Применив, например, фор-
формулу G) из п. 1 к матрице
/ 0 . . 0N
COS -у I Sin -=-
sin у cos -g-
получим
— m)l (l-\-m)\ (/—я)!(/-|-я)п-г—г—J 2 I T~ -j X
j\ (I — m —./)! (/ + n—;)! (m — и + ;)! A + г) '
где Ж = тах@, я —от), A/=min(/-(-«, /—m).

§ 3] МНОГОЧЛЕНЫ ЛЕЖАНДРА И ЯКОБИ 129
Далее применим к матрице gF) формулу A1) п. 2. Заменяя z на
z—7:—, получаем после простых преобразований
21 У (l — n)\(l + n)\(l — m)\
~~m~" "-~ m /tl-m
? [A - гI"» A + г/«]. C)
Наконец, из формул интегральных представлении A4) и A5) п. 2
1 /77=
2те У (I —
X t (cos у
б
T sin 1 е~^)П [l sin ? ^ + cos T ~?
6 . . . в \'—«
О82+'яп2-) х
X (tt sin I + cos T)I+" Г-1*, D)
где z= cos S, |f| = l.
5. Частные значения Plmn (г). Вычислим значение Plmn(z) при z—\
(т. е. при 0^0). Если 6 = 0, то g@) — единичная матрица. Поэтому
и матрица оператора Tt(g(b)) при 6 = 0 является единичной. Поскольку
где Ътп — символ Кронекера.
Далее, пусть z = —1, т. е. S = it. В этом случае матрица g(B)
принимает вид
/0
Как было показано в п. 2, для этой матрицы tlmn(g) = O при т-\- п Ф 0
и tl (g) = pl. Таким образом, Р1 (—1) = 0 при т-Л-пфО и
/*».-„(-1)=Л
Теперь рассмотрим функцию /^„(г) при т = 1. В этом случае
сумма в формуле A) п. 4 содержит лишь одно слагаемое, соответ-
соответствующее значению / = /, и потому

1 30 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА |ГЛ. III
В частности,
Z
Формулы B) — E), можно записать гак:
— il~n 1
nz~" — cos г+" —
n 2 cos 2,
4 G)
*,,_/(COS 6) = *" SinU-|-, (8)
(9)
Мы не будем вычислять значений Р1Ш (?) и т. д., гак как в сле-
следующем пункте будет показано, что функция Plmn (z) симметрична
относительно индексов тип.
6. Соотношения симметрии. Функции Plmn(z) зависят не только
от аргумента z, но и от индексов /, т, п. Рассмотрим свойства
симметрии /^„(г) относительно индексов тип. Покажем сначала,
что функция Plmn(z) не меняется при изменении знаков обоих индек-
индексов тип. Для этого воспользуемся равенством
где для краткости положено
F . . 6\
cos -й- i sin -=-1
I S1I1 -=- COS
Из этого равенства вытекает, что
Г|(«)Г/(в)=Г|(вO'|(«> A)
Но матричные элементы оператора Tt (S) равны P^n (cos 0). Матрич-
Матричные же элементы для Tt (ir) были нами найдены в предыдущем
пункте. Там было показано, что tf-m (it) = 0 при т -}- п ф 0 и
Заменив в равенстве A) операторы Tt (ir) и 7^ (8) соответствующими
матрицами, перемножив их и сравнив соответствующие элементы,

§ 3] МНОГОЧЛЕНЫ ЛЕЖАНДРА И ЯКОБИ 1 31
получим
Но отсюда непосредственно вытекает соотношение
Докажем теперь, что функции Р1 (z) не меняются при переста-
перестановке индексов тип. Для этого воспользуемся формулой A) п. 4,
дающей явное выражение для Plmn (z). Поскольку эта формула сим-
симметрична относительно тип, имеем
Plmn{z) = Plnm{z). C)
Равенства B) и C) показывают, что функции Plmn (z) зависят факти-
фактически не от т и п, а от | т -j- п | и \т —¦ п \.
Соотношение C) можно получить также из формулы B) п. 4, используя
следующие соображения. Обратной к матрице
/ 6 . .
COS -^ I Sin
является матрица
.. о
w sin 2 cos -jj
/ о . . e\
' COS у — I Sin у \
г(-в) = ! _ в в
у—¦ г sin -у cos у
углы Эйлера для которой равны те, в, —те. Отсюда следует, что матричные
элементы оператора Т1тп (— 6) имеют вид
D)
Но при вещественных значениях 6 матрица gF) унитарна. Поскольку
унита
UB),
р р g() ур у
Ti (u) является унитарным представлением группы SUB), то имеет место
равенство Tt (— в) = Т\ (в). Отсюда следует, что tlmn (— 6) = tlnm F) и, в силу
равенства D), что
Но P^m(cos6) = (—I)" mP^m(cos6), так как P^m(cos6) содержит множи-
множитель in~m. Отсюда и вытекает справедливость равенства
P^(cos6) = p?m(cos6) E)
при вещественных значениях в или, что то же самое, справедливость равен-
ства Pmn(x) = Plnm(x) ПРИ —1<*<1. Поскольку функция Plmn(z) анали-
аналитически зависит от г в плоскости, разрезанной вдоль лучей —оо<лг<—1
и 1 ¦< х <с с», равенство E) справедливо во всей этой плоскости.
к»

132 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА
Наконец, отметим соотношение
[ГЛ. III
непосредственно вытекающее из формулы C) п. 4.
7. Матрицы 7^@). Пользуясь формулой D) п. 4, находим, что
1 3
матрицы Г7@) при /=0, -~-, 1, -к- имеют следующий вид:
7-„(в)=1,
/ в . .
/ COS -у t Sin -
sin
COS 2
0 i sin 6
0 \
2\
Г,(в) =
J cos
2
. о 6 I sin 0
Т C0S
Г, (в) =
B)
ft
— «sin3 ^ —
^sin
A fl
iyJsin-K-cos2 у
cos3 —
C)
8. Соотношения обхода. Функции Pmn(z) определены в комп-
комплексной плоскости, разрезанной вдоль лучей (— оо, — 1) и A, оо).
На берегах разрезов эти функции принимают различные значения.
Из формулы C) п. 4 вытекает, что если л:^>1, то
Plmn(x-\~i0) = (~ 1)I"-"PL (* — «)). A)
Аналогично, если л:<^—1, то
Рт„ (X + Ю) — (- 1Г +" Pin (X - /0). B)
9. Связь с классическими ортогональными многочленами. Мы
ввели функции Plmn(z) и получили для них различные представления.
Установим теперь связь функций Plnn(z) с некоторыми классическими
ортогональными многочленами — многочленами Якоби, присоединен-

§ 3] МНОГОЧЛЕНЫ ЛЕЖАНДРА И ЯКОБИ 133
ными многочленами Лежандра и многочленами Лежандра. Эта связь
позволяет из каждого свойства функций Pmn{z) получать соответ-
соответствующие свойства многочленов Якоби и Лежандра.
Многочлены Якоби определяются формулой
Сравнив эту формулу с формулой C) п. 4, получим
Р(", Р) (?\ от-.п~т 1/ (I п)\A + п)\ п 2-\Т~~ (Л I z\ 2 pi BЛ
B)
где
i=k + a±l, m = a-p, „=P-=s. C)
Из формул C) видно, что а = /и — и и р = /и -[- я являются целыми
числами. Таким образом, функции Ртп (г) приводят к частному слу-
случаю многочленов Якоби, для которых аир — целые числа.
Остановимся теперь на важных частных случаях многочленов
Якоби — многочленах Лежандра и присоединенных функциях Лежанд-
Лежандра. Многочлены Лежандра определяют равенством
Иными словами, P[(z) = Pf-0) (z). Сравнивая формулу D) с форму-
формулой C) п. 4, получаем
Аналогично присоединенные функции Лежандра Pf(z), m^O
определяют формулой (/, т — целые)
р (г) ! _ г.у F)
т. е.
' l \ > — l\ \ > l-\-m v/
Сравнение с формулой C) п. 4 приводит к равенству
—z^,PLm nD \р)
Мы видели в п. 6, что Pl_m O(z) — Plm 0(z). Поэтому равенство
(8) можно переписать в следующей форме:
(9)

134 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА (ГЛ. Ш
При /и<^0 определим Pf(z) той же формулой (9). Тогда
Из формул (I)—D) п. 4 вытекают следующие представления
функций Pf(z):
У = max (m, 0)
m
Я» B) = (- 1)* Л (/+ /и)! ({^)? (Ц^У X
м
где М = шах @, — /и), Af = rain (/, / — т);
2гс
f (cos 6) = 'т(/2+/п)! ? (cos 6 -f i sin 6 cos <p)'
* - 2lz ctg 6 + 1У ,— ^; A3)
Полагая m = 0, получаем соответствующие формулы для много-
многочленов Лежандра:
(УЖУ) V 2
2it
((cos 6) =7— \ (cos 6 —I— г sin 6 cos wI dy =
271 }
г
Сравнивая формулы D) и F), получаем при т ^ О
A7)

§ 3] МНОГОЧЛЕНЫ ЛЕЖАНДРА И ЯКОБИ 135
Укажем еще некоторые представления функций Pf (г) и Pt(z).
Разложим в формуле A3) (cos 6-|—i sin 6 cos cp)' no биному Ньютона.
Так как при целых k и т,
1 J cos*
U
О, если k и т имеют различную четность, или k<^m,
)\ , , „ ^„ A8)
то при т^О
Р? И = (— 1)- (/+ т)\ (%?)т cos' 6 X
В частности,
Ш
2
Далее заметим, что
B1)
где суммирование ведется по целым значениям k, таким, что 0 ^ k ===:
г=с/ и 2k^.l-\-m (соответственно 2k^l—т). Для доказательства
этого равенства достаточно разложить в формуле A4) A—22)' по
биному Ньютона и почленно продифференцировать полученное выра-
выражение.
В частности, из формулы B1) вытекает, что
к=1
k\{l — k)\{2k — i
В заключение получим разложение многочлена Лежандра Pt (cos 6)
в ряд Фурье. Для этого перепишем формулу A6) в виде
2л
P,(cos6) = i^ (Vе cos2 \-

1 36 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ш
Разложим \е'ь cos2-|--{-e~iesin3-|-1 no формуле бинома Ньютона и
примем во внимание, что при 0
г(*+т)г(/-*+т)
cos2fc -? sin2'-2* A d<f = —* ^Цг^ ^ B3)
(см. п. 7 § 1 главы V). Мы получим равенство
Pt (cos 6) = V 2 Г11 ?*
¦ Так как
е№ = cos 6 -f / sin 6 = z
то равенство B4) дает разложение Pt (z) по степеням z -\- ~\f z% — 1 •
10. Многочлены Лежандра как зональные сферические функ-
функции. Мы определили многочлены Лежандра с помощью равенства
P/(cos8) = /3lo.(cose) = ^(^ g=g(O,B,O), A)
где /—целое число. Но базисная функция
Ы) \
инвариантна относительно всех операторов вида 'I'i(h), где
it
Согласно п. 6 § 2 главы I матричный элемент tlB0{g) в этом случае
называется зональной сферической функцией представления Tt (g)
относительно подгруппы матриц вида B). Таким образом, Pt (cos 6)
является зональной сферической функцией представления Tt(g).
Из свойств зональных сферических функций следует, что при g=
=g(b в, ф)
foo(g) = Pi(cosB).
Рассмотрим теперь присоединенные сферические функции tlk^(g)
(см. п. 5 § 2 главы I). Из формулы F) п. 3 следует, что
¦<'«,(«) = '-'*'**» (cos в)
или, в силу равенства (9) п. 9

§4! ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯР^п(г) 137
^п(
В п. 5 § 2 главы I было отмечено, что присоединенные сфери-
сферические функции можно рассматривать как функции на однородном
пространстве Wl=G/H. В нашем случае это однородное простран-
пространство можно отождествить со сферой S2 (см. п. 7 § 1). Поэтому
tlk0 (g) — функции на сфере 52.
Принято обозначать функции tlk0(g), рассматриваемые как функ-
функции на сфере, через
В этом случае » и 6 являются не чем иным, как географическими
координатами на сфере, причем широта отсчитывается не от экватора,
а от полюса.
Ниже будет показано, что присоединенные сферические функции
Yik(<p, 6), 1=0, 1,..., —Is^k^l, образуют полную ортогональную
систему функций на сфере S2.
§4. Функциональные соотношения для функций Plmn(z)
1. Теорема сложения. Многие важные свойства функций Plmn(z)
связаны с теоремой сложения для этих функций. Чтобы вывести ее,
воспользуемся соотношением
О)
Из этого соотношения вытекает, что
i
&»<&&)= 2 4иы4ы. B)
*=—i
Применим равенство B) к матрицам gt и g%, углы Эйлера кото-
которых равны соответственно 0, 6t, 0 и <р2, 62, 0. Для этих матриц
4 4 C)
(cos 62) D)
(см. формулу F) п. 3 § 3).
Матричный же элемент tlmn(gigi) имеет вид
С (йй) = е-* <""+»« Ртп (cos 6), E)
где <р, G, ф — углы Эйлера матрицы gxg^. Согласно п. 2 § 1 эти углы
Эйлера выражаются через углы Эйлера 6^ <р2, 6? сомножителей по

1 38 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
формулам
cos 6 = cos 6t cos 62 — sin &! sin 62 cos cp3, F)
,-y sin 6j cos 62 -j- cos 6j sin 62 cos cp2 -(- t sin 62 sin <ps ,„,..
6 — ш ' ( }
n fi iv2 fi fi tv*
«ftp + Ф) cos -if cos -^ ^ 2 — sm-i sm -^ e 2
e~^~ = 1 g-? ? , F")
C0SY
где, напомним,
0==?Re6<>,
Re ф < 2тг.
Подставим значения 4п(йй)> 4s fei) и tlkn (gj) в равенство B).
Мы получим тогда, что функции Plmn{z) удовлетворяют следующей
теореме сложения:
i
*-*(**+»«<>/з?„, (cos 6)= Л *-f**/?*(cose1)/i1(cose0, G)
а = — i
где углы <р, ф, 6, Sl ср2, 62 связаны соотношениями F) — F").
Рассмотрим некоторые частные случаи теоремы сложения. Пусть
<рв = 0. Тогда, если ReFj-j-62)<^«, имеем B=^bt-^Bb ср==ф=:О, и
поэтому формула G) принимает следующий вид:
i
]=: 2 /4*(cos воя*» (cos в,). (8)
Если же Re Ft -j- 62) ^> тс, то 6 = 2тг — 6t — 62, <p = « и iji = «. По-
Поэтому формула G) принимает вид
L ^iO. (9)
Пусть теперь <р2 = «. Если Re B1 :>= Re б2, то 6 = 6j — б2, ср = О,
«|> = тс, и поэтому получаем
г
^L [COS Ft — 62)] = 2 (~i)nkPlmk(COSd1)Plkn(COS%). A0)
В частности, при 61 = 62 = 6 имеем
i
При вещественных значениях в имеет место равенство
^L(cos6) = (- 1)«-Я' я (cos 6)

§4] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ Р1тп (г) 139
(см. п. 6 § 3). Поэтому при вещественных 6t и 62 формулу A0)
можно переписать следующим образом:
i
/DL[cosF1 — 62)] = V Pink (cos bt)Plnk (cos %), A0')
где 6t ^ 62. При 6j = 62 получаем
г
2 ^mk (cos ^i) -^"ft (cosSj) = Pmn A) = 8mn. (] 1')
Равенство AГ) имеет простой групповой смысл. При вещественных 6
матрица g@, 6, 0) принадлежит подгруппе S?/B). Но Г; (и) является уни-
унитарным представлением этой подгруппы и, следовательно, матрица с эле-
элементами Р^п(со8б) унитарна.
Нам понадобится в дальнейшем еще случай, когда ср2=^-
В этом случае формулы F) — F") принимают следующий вид:
cos 6 = cos 6г cos 62, A2)
ip sin 6, cos 62 -f- i sin 62
6 ~~ slnl '
i (V + ») V~
2 t<C°S 2 -* • A2")
Вместо формул A2') — A2") удобнее взять формулы
непосредственно вытекающие из формул C'), C") п. 2 § 1. Таким об-
образом,
i
== ^ Г*Р*тк(cos 6,)/4(cos ад, A4)
где ср, ф, 6, б1; 62 связаны соотношениями A2) — A2").
2. Теорема сложения для многочленов Лежандра. Из доказан-
доказанной теоремы сложения для функций Plmn(z) вытекают, как частные
случаи, теоремы сложения для многочленов Лежандра и присоединенных

140 группа унитарных матриц второго порядка [гл. m
функций Лежандра. Мы определили эти многочлены формулами
РЛг) = 1*М О)
(см. п. 9 § 3).
Положив в формуле G) п. 1 п = 0 и воспользовавшись соотно-
соотношениями A) и B), получаем
2lk
ff 2lk YWw e~lkf*pLk (cos 6i) й (cos ч
где числа <р, 6, cp2, 6,, 62 связаны соотношениями F) — F") п. 1.
Если же положить /я = 0, я = 0, то имеем
Pt (cos 6, cos 62 — sin 6t sin 62 cos <p2) =
i
Это равенство можно упростить следующим образом. В силу соот-
соотношения симметрии Р1^(z) = Pl_m 0(z) и формулы B) имеем
Р~ т (z\ = (— 11m ^~ тУ' Рт (z\
Поэтому из равенства D) следует, что многочлены Лежандра Pt{z)
удовлетворяют следующей теореме сложения:
Pt (cos 6t cos б2 — sin 6j sin 62 cos <p2) =
i
'*). E)
3. Формула умножения. Пусть в формуле сложения G) п. 1 угол
Эйлера ср2 вещественный. Тогда равенство G) п. 1 можно рассмат-
рассматривать как разложение в ряд Фурье функции e~'imie + n^ Plmn(cosd)
(где <р, «|» и 6 зависят от ср2 по равенствам F) — F") п. 1). Поэтому
Р\пъ (cos 80 P'kn (cos вв) = ± J в* ^i -mtp - »*> Р'т„ (cos
1С
Мы будем называть это равенство формулой умножения для функ-

§4] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ Р1тп (г) 141
Отметим частный случай формулы A). Положим в ней т — п = 0.
В силу соотношения B) из п. 2 имеем
те
V е^ pt (cos 6j cos 62 — sin \ sin 62 cos cp2) rf<p2 =
Так как Я, (cos 6, cos 62 — sin Bt sin 62 cos cp2) — четная функция от
то это равенство можно переписать в следующем виде:
— \ Pt (cos 6t cos 62 — sin 6t sin 62 cos <p2) cos
0
= Pi (cos 6,) ЯГ ft (cos 62). B')
Если положить и & = 0, то получим
-iy- \Pi (cos 0! cos 62 — sin 6j sin 62 cos cp2) t?cp2 =
=pt (cos e,) pt (cos e2). C)
Геометрический смысл формулы B) состоит в следующем. Выберем на
единичной сфере точку Л такую, что ^AN=6, (N—северный полюс сферы),
и проведем на сфере окружность с центром в точке А и сферическим ра-
радиусом 62. Обозначим через 6 полярное расстояние точки В этой окруж-
окружности, такой, что дуга АВ большого круга образует угол (р2 с меридиа-
меридианом AN. Формула B) означает, что Pf (cos 6,) Р^~* (cos62) является сред-
средним значением P;(cos6)e* ?2 по этой окружности. В частности, Рг (cos 61) X
X Pi (cos 62) — среднее значение для Рг (cos 6).
Преобразуем формулу B'). Будем считать 6„ 62, ср2 вещественными
числами, такими, что 0 ^ 6t <^ тг, 0^62<^т:, 0 =^ 6j —(— 63 <^те *), и
сделаем замену переменной
cos 6 = cos 0! cos 62 — sin 6j sin 62 cos cp2. D)
Обозначим через Тп (х) функцию cos (n arc cos x). Она называется
многочленом Чебышева первого рода. Из равенства D) вытекает,
что
, ~ /cos 6, cos 6, — cos6\ /к,
cos кЪ = Tk [—^ ф^ ¦). E)
Кроме того, из равенства D) следует, что
j —sin6d6 ,„ч
dtp2 = , . F)
Y [cos e—cos F-, + е2)] [cos F, — е2)—cos e]
Так как при изменении (^ от 6 до it переменная 6 меняется от Bt -j- 62
до 16j — 621, то указанная выше замена переменной преобразует
*) Если последнее условие не выполнено, то надо заменить 6, и 62 на
6 6

142 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
интеграл B') к следующему виду:
г. / с\ т I cos eicos 6a — cos в \ ч
Pl <COS 6> Т* ( sin 6, sin 6f—J X
X
J_ f г, , ЙЧ т I C0S fll C0S 62 — C0S fl
I е, — ео I
sin 6 rf6
у' [cos fi — cos F, + 62)] [cos F, — в2) — cos В]
Выражение, стоящее в знаменателе этой формулы, имеет простой
геометрический смысл: оно равно площади сферического треуголь-
треугольника со сторонами 6,, 62, 6, деленной на 4т:2.
4. Рекуррентные формулы. Мы выведем сейчас формулы, связы-
связывающие функции Plmn(z), нижние индексы которых отличаются друг
от друга на 1. Эти формулы, называемые рекуррентными форму-
формулами для функций Plmn(z), могут рассматриваться как инфинитези-
мальная форма теоремы сложения. Они получаются из теоремы сло-
сложения при бесконечно малом 62. Чтобы получить их, надо продиф-
продифференцировать обе части формулы G) из п. 1 по 02 и положить 62 = 0.
Нам будет удобнее вместо общей формулы G) п. 1 использовать ее
частные случаи, соответствующие значениям <р2 = 0 и <р^:=^- (см.
формулы (8) и A4) из п. 1).
Предварительно найдем значения :jo [^„ (cos 6)] при 6 = 0. Для
этого продифференцируем по 6 обе части формулы D), п. 4 § 3 и
положим 6 = 0. Мы получим
i -ш f(l~m)
X \ [(/— n)e-''(n + 1)ip+(/+/z)<?-'"(" i> ч>] <>*«*> tfcp. A)
о
Очевидно, что правая часть этого равенства равна нулю, если т от-
отлично от п-\- 1 или п—1. Если же m = n-f-l, то из формулы A)
вытекает, что
+ 1) • B)
Точно так же получаем
¦4т [Р , (cos 6)] — -1 /(/-+-«)(/— и + 1). B')
Перейдем теперь к выводу рекуррентных соотношений. Продиф-
Продифференцируем обе части равенства (8) из п. 1 по %, положим 62 = 0
и используем соотношения B) и B'). Заменяя cos 6t на z, получим

§ 4] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ Р^„ (Z) 143
искомое рекуррентное соотношение
(/-л + 1) Pim n_,(г)]. C)
Чтобы вывести второе рекуррентное соотношение, используем част-
частный случай теоремы сложения, соответствующий о>2 = -р-. Продиф-
Продифференцируем обе части формулы A4) п. 1 по б2, положим 98 = 0 и
используем соотношения A2) — A2") п. 1. Получим после простых
преобразований
4-пЩ Pl (cos 6.)
P (cos 6.)
у -«+1) PL, „_ 1 (cos 60 -
- /(/_я)(/4-п+1) Р^, „ +., (cos во], D)
где 6, «р» ф выражаются через 6j и 62 по формулам A2) — A2") п. 1.
Нам осталось найти значения производных -^-, ~ , - Г при б2= 0.
UlJn ^*"a ^*^2
Для этого продифференцируем равенство A2) из п. 1 по б2 и поло-
положим 62 = О. Так как при 62 = 0 имеем 6 = 6i, ф = 0, A = (p2=ii;/2,
то получаем -j=- =0. Точно так же из формул A2') и A2")
п. 1 выводится, что
Ж
= _!_
г=о sine,
Подставляя найденные значения производных в формулу D) и за-
заменяя cos 0i на z, получаем
Г m-nz •] , ,
.... .i(*)J- E)
Из рекуррентных формул C) и E) легко вытекают рекуррентные
формулы
dp1 (г) nz- m i
Vl ~ z* —цг~- + yr=W Pmn {z) =
п,п + Л*) F)
nz — m рг ,._
„_,(*). G)

144 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ш
В силу соотношений симметрии из формул F) и G) следует, что
^P'mn(z)=
) (/-m+i) P'm _ , „ (г). (9)
Вычитая из формулы F) формулу G), получаем рекуррентное
соотношение, связывающее три функции /^„С?) со смежными ин-
индексами:
nz — m i
, „ -
Складывая же равенства F) и G), получаем
1 -с ,
dz
+ /'(/+ л) (/- «+ 1)/*„.„_, (г)]. (И)
Положим в рекуррентных соотношениях F) и G) т = 0 и вос-
воспользуемся равенством
Мы получим, что присоединенные функции Лежандра PJ™ (г) удов-
летЕоряют рекуррентным соотношениям
б. Дифференциальное уравнение. Из формулы F) п. 4 вытекает,
что дифференциальный оператор

§4) ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ Р1 (г) 145
переводит P'mn{z) в — /|/"(/— п)A-\-п-\-1) Plm „ + i0)- Из фор-
формулы же G) п. 4 следует, что оператор
B)
V I Z"
-1)(/—и) Р^„(г). Отсюда (
дует, что дифференциальный оператор
dz y\~z2
переводит Plm „ + f (z) в — / ]/(/ -f- н -f-1) (/ — ri) Plmn (z). Отсюда еле-
dz
C)
переводит Р^я (г) в функцию — (/ — п) (/+ п-\- 1) Р^л (г). Иными сло-
словами, мы доказали, что функция Ргтп(^) удовлетворяет дифферен-
дифференциальному уравнению
г — т \(,/TZ^s d L rez"m
LW. D)
Раскроем в этом уравнении скобки и упростим его. Мы получим
тогда уравнение
(l z > Ж- z* dz Г=? Ят"( } —
= -/(/+1)/^,(г). E)
Итак, функции Plmn(z) являются собственными функциями
дифференциального оператора второго порядка,
v ' dz2 dz 1 — г2
соответствующими собственному значению —1{1-\-\). Эти
функции принимают в точках z = ±\ конечные значения.
Можно показать, что этими условиями функции Plmn(z) опреде-
определяются однозначно, с точностью до постоянного множителя. Иными
словами, любая собственная функция оператора F), соответствующая
собственному значению —/(/4^1) и принимающая конечные значения
в точках z = ±\, пропорциональна Plmn(z).
Можно доказать, что если тип одновременно целые или полу-
полуцелые числа, то собственные функции оператора F), конечные при
2 = ± 1, существуют лишь для собственных чисел вида Х = —1{1-\-1)-
Здесь / является целым или полуцелым числом одновременно с т и п.
Из дифференциального уравнения E) в качестве частного случая
при я = 0 получаем дифференциальное уравнение для присоединенных
функций Лежандра:

146 • ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ш
Если же положить не только п = 0, но и т = 0, то получим диффе-
дифференциальное уравнение для многочленов Лежандра:
6. Инфинитезимальные операторы регулярного представления.
Рекуррентные соотношения для функций Plmn (z) связаны с инфините-
зимальными операторами регулярного представления.
Пусть ш(?) — однопараметрическая подгруппа группы SU B). Опе-
Операторы правого регулярного представления, соответствующие элемен-
элементам этой подгруппы, переводят функции /(н) в R(w{t))f(ii)=f(uw(t)).
Поэтому инфинитезимальный оператор представления R (//), соответ-
соответствующий однопараметрической подгруппе w(^), переводит функцию
г, . , df(ii<u(t)) , „ „
/(и) в значение функции . при г = 0. Этот оператор опреде-
определен, во всяком случае, в пространстве бесконечно дифференцируемых
функций на группе StJB).
Обозначим через <р (t), В (t), ф (f) углы Эйлера элемента нш (t). Тогда
имеет место равенство
Итак, инфинитезимальный оператор Aw, соответствующий подгруппе
ш(^), имеет вид
| ^ 0)|. B)
Поэтому вычисление оператора Аш сводится к вычислению производ-
производных <f'(t), d'(t), f @ при t = 0.
Вычислим инфинитезимальные операторы Аь Аъ Ая, соответствую-
соответствующие однопараметрическим подгруппам Qlt Q2, Q3 (см. п. 3, | 1). На-
Напомним, что подгруппа S3 состоит из матриц вида
и_
ё* О
V 0
it ¦
¦a I
Пусть и = и (<р, б, ф) — матрица с углами Эйлера <р, 6, ф. Тогда углы
Эйлера матрицы uu>3(t) равны <р, б, ф-(~^ Отсюда вытекает, что
«р'(О)=о, е'(О)=о, f@)=i.
Итак, мы доказали, что инфинитезимальный оператор А3, соответ-
соответствующий подгруппе Q3, имеет вид
А C)

§41 ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯР^л(г) 147
Перейдем к вычислению инфинитезимального оператора Аь соот-
соответствующего подгруппе Qt. Эта подгруппа состоит из матриц вида
/cos у
MQ[
cos у у
углы Эйлера которых равны 0, t, 0. Применяя формулы, B)—-B") из
п. 2 § 1, получаем, что углы Эйлера y{t), B(t), ф(?) матрицы um(t)
связаны с углами Эйлера <р, б, ф матрицы и соотношениями
cos 6 (t) = cos 6 cos / — sin 6 sin t cos ф, D)
i4(t) ,-? sin 8 cos t-4- cos 8 sin t cos ф -\- i sin t sin ^ , .,ч
6 ~e ШЩ ' D)
8 t § . 8 , -?
2 i ^
cos 2
Для вычисления производных <f'(t), 6'@> ф'@ ПРИ ^^0 продиф-
продифференцируем no t обе части каждого из равенств D)—D") и положим
t = 0. Так как
то
Отсюда вытекает, что инфинитезимальный оператор Ль соответствую-
соответствующий подгруппе Qt, имеет вид
^^+d^m^ E)
Оператор Л2, соответствующий подгруппе Qa матриц
/cos -g- — sin-g-\
\ sin у cos у у
вычисляется точно так же. В результате получаем
* . , д , cos ф д , о , д ,«,
Ло = — Sin ф -55 + ,г 3 Ctg D COS Ш зТ . (Ь1
1 т йе ' sin e df & т <?Ф
Вместо операторов А\, Аъ А3 удобно брать их линейные комби-
комбинации

148 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА 1ГЛ. Ш
Из формул C), E) и F) вытекает, что эти операторы задаются ра-
равенствами:
1
7. Инфинитезимальные операторы и рекуррентные формулы.
Мы дадим сейчас другой вывод рекуррентных соотношений для функ-
функций F^mn(z), основанный на реализации представлений Тг(и) в про-
пространстве функций на группе SUB). В п. 5 § 2 главы I было пока-
показано, что если T(g) — представление группы О в пространстве ,?) и
а — вектор из ij, то равенство
R(gb)f(g)=f(ggo).
где
= (T(g)t a), f?fr g?O,
задает представление группы G, эквивалентное T(g). При этом ма-
матрица представления T(g) в базисе {е„} совпадает с матрицей пред-
представления R(g) в базисе
fnig) = (T(g)en, a).
Применим эти результаты к группе SUB) и ее неприводимым
представлениям 7} (и). В качестве базиса в .?>, выберем базис
а в качестве вектора а — базисную функцию tym (x). При отображе-
отображении f—-f(u) выбранному базису соответствует базис, состоящий из
функций G^(н)ф„, фт), т. е. из элементов tlmn(u) /я-й строки матрицы
представления Tt (и) в базисе {ф„ (х)}. Обозначим представление
группы SU{2) в пространстве ?>1т функций f(u) через Rlm (и). В силу
сказанного выше матрица представления Rim(.u) в базисе
{tmn(u)}, —l^n^l совпадает с матрицей представления Тг(и)
в базисе {$п{х)\, —l^n^l.
Но если совпадают матрицы представления, то совпадают и ма-
матрицы инфинитезимальных операторов, поскольку они однозначно
определяются операторами представления. Обозначим инфинитезималь-
инфинитезималь™
ные операторы представления Rim(u) через A™, l=s:?=g;3. При-
Принимая во внимание формулы F) п. 3 § 2 и сделанное замечание о

% i\ ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ Р^л (г) 149
совпадении матриц, получаем
Hftlmn (и)=- У(Г^ЩГРгГ+Т) 4, п+1 {и), A)
//%„ (и) = - V(!+n)(l-n+\) 4. » - 1 (и), B)
/#"&»(«)== . («0. C)
где Н1™ = 1А\т — A'2m, Hl™ = М'/» + Лг3т, /^т = М'3т.
Чтобы получить искомые рекуррентные соотношения, нам осталось
вычислить инфинитезимальные операторы А1™ и подставить их выра-
выражения, равно как и выражения для tlmn{v), в формулы A)—C). Для
вычисления инфинитезимальных операторов заметим, что представле-
представление Rlm (и) является сужением на подпространство §,т правого регу-
регулярного представления
R(uo)f(u)=f(uuo).
Поэтому операторы Н1™, ЮГ1 и Hff" задаются теми же формулами,
что и операторы //+, Н__, Н3 (см. формулы G)—(9) п. 6). Подставим
выражения для Н1^1 и Hltn и выражение F) п. 3 § 3 для tlmn(u)
в формулы A)—C). После простых преобразований получим рекур-
рекуррентные формулы для Plmn(z):
1/1 -jjdplmn(z)
v l ~
— nz
dz
m — nz
= — //(/+«)(/—я+1)/^,«_1 (г)
8. Оператор Лапласа. Найденные выражения операторов А™
А=1, 2, 3 позволяют дать новый вывод дифференциального уравне-
уравнения для функций Plmn(z). С этой целью рассмотрим оператор
Дгт = (А?? + (А^У + (Л'3™ J.
Так как операторы А1™ задаются теми же матрицами, что и опера-
операторы Ak, k = \, 2, 3, то матрица оператора Д//п совпадает с матри-
матрицей оператора А\ -\- А\ -(- А%. Но из формул E)—G) п. 2 § 2 нахо-
находим после несложных преобразований, что
Следовательно, и
Д/т = — 1{1-\-\)Е (в пространстве §/т). A)

150 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ш
Чтобы получить явное выражение оператора А.[т через углы
Эйлера, воспользуемся выражениями C), E) и F) п. 6. Мы получим
Поскольку матричные элементы t'mn (и), — 1=^п^1 принадлежат
пространству fQlm, для них выполняется равенство
Подставляя в это равенство вместо Д/т выражение B), а вместо &тп (и)
выражение F) п. 3 § 3, получаем после несложных преобразований
дифференциальное уравнение для функций Plmn(z):
dz
2=^ 4D C)
Заметим, что операторы А™п являются сужением на подпростран-
подпространство fQlm инфинитезимальных операторов Ak, k=\, 2, 3 правого
регулярного представления R(g). Поэтому и оператор Д/т— сужение
на lQm оператора
А М А D)
Этот оператор называется оператором Лапласа на группе SUB) и
выражается через углы Эйлера той же формулой, что и А.1т (см. B)):
дй + ^тп! ;гт — 2 cos e ггтгг + лп •
Замечательным свойством оператора Лапласа Д является его пере-
перестановочность с операторами правого сдвига:
ДК(н)=Я(и)Д, F)
где
Я (и«)/(и) =/(««„>
Это утверждение можно доказать, например, разложив правое регу-
регулярное представление R (g) на неприводимые, и заметив, что сужение Д
на подпространства JQlm кратно единичному оператору (см. фор-
формулу A)). Следовательно, оператор Д перестановочен со всеми непри-
неприводимыми компонентами Rttn(g), а тогда он перестановочен и с опе-
операторами R(g).
Другой путь доказательства, не использующий формулу A), заклю-
заключается в следующем. Покажем сначала, что оператор Д перестано-
перестановочен с инфинитезимальными операторами А1г А%, А3. Как было отме-
отмечено в п. 10 § 1 главы I, инфинитезимальные операторы представления
удовлетворяют тем же соотношениям коммутации, что и соответствую-

§ 4] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ Р1 (г) 151
щие элементы алгебры Ли данной группы. Но в п. 3 § 1 было пока-
показано, что касательные матрицы аъ а2, а3 к однопараметрическим под-
подгруппам Qj, Q2, Q3 удовлетворяют соотношениям коммутации
[аь a$] = a3,
[аь а3] = аь
[а3, а1} = аг.
Поэтому имеют место равенства:
[А, Л3] = Аь
[A» A1] = Ai.
Пользуясь этими равенствами, находим
[Al, At}=Д,/42,4, — ЛЛЛ=A^A^At — A^AtA^ — A3A% =
Аналогично доказывается, что
Наконец, [Al, At] = 0. Из полученных равенств вытекает, что
[д, лМ=и1+л1+л1, Л,] = о.
Точно так же доказывается, что [Д, Л2] =0 и [Д, А3] = 0.
Согласно п. 10 § 1 главы I операторы представления R(u) выра-
выражаются через инфинитезимальные операторы Ak, k = \, 2, 3 по фор-
формулам
R (и) = ехр (Mi + Л М
где
и = ехр {tlai -(-
Поэтому из равенств [Д, Ak] = 0 следует, что операторы R(u) пере-
перестановочны с оператором Лапласа Д.
Можно показать, что оператор Лапласа Д на группе SUB) пере-
перестановочен не только с правыми, но и с левыми сдвигами:
где
Сузим оператор Д на подпространство ^0 функции /(и), постоян-
постоянных на правых классах смежности по подгруппе &, состоящей из
[Ь 0 \
матриц ! и i, или, что то же, на пространство функций, за-
данных на единичной сфере S2. Ясно, что функции /(и) из ^0 не
зависят от угла Эйлера <р и потому оператор Лапласа на единичной

152 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА 1ГЛ. Ш
сфере S* имеет вид
Через <р, 6 здесь обозначены географические координаты на сфере.
Оператор До — это угловая часть оператора Лапласа в трехмерном
евклидовом пространстве.
9. Дальнейшие рекуррентные соотношения. Рекуррентные соот-
соотношения иного типа можно получить, если воспользоваться доказан-
доказанным в п. 6 § 1 свойством касательных матриц однопараметрических
подгрупп. Именно, мы доказали, что если а = ххах -(- x2a2 -\- x3a3 —
касательная матрица подгруппы g(f), то касательная матрица под-
подгруппы gvg(f)gQ\ g0^SOC) имеет вид t=y1a1-\-y^ai-\~y3a3, где
y=g-ox. Отсюда вытекает, что для любого представления T(g) имеет
место равенство
где Ах — инфинитезимальный оператор, соответствующий однопара-
метрической подгруппе g(t) и Ау, y = gox — инфинитезимальный опе-
оператор, соответствующий подгруппе gog(OSol- Таким образом,
A)
Положим в равенстве A) х = A, 0, 0). Компоненты вектора
будут элементами первого столбца матрицы вращения •§•„ с углами
Эйлера ср, 6, (р (см. п. 6 § 1). Из равенства A) получаем, таким об-
образом, при х = A, 0, 0)
T(g0) .4, = (cos 'f cos <J> — sin tp sin ф cos 6) At T(g0) -j-
-[-(sincp cos ф-(- cos <psinф cos 6) AtT(go)-{-sintysinBA3T(g0).
Перейдем от матриц Аъ Л2, Л3 к Н+, Н_, Н3 по формулам
Н3~1А3.
Сделав это и собрав коэффициенты при И+ и Н_ в правой части,
получим соотношение
Ю = е-*9 (cos ф — i sin^ cos 6) H+T(g0) +
+ eilf (cos ty-j-/sinip cos 6) Я_Г(g-Q) + 2sinip sin QH3T(g0),
где gb = p p
Применим преобразования, стоящие в обеих частях равенства,
к вектору fn канонического базиса и сравним коэффициенты при fm в

§ Ц ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ Р1 yz) 153
полученных выражениях. Мы имеем
m
Учитывая эти соотношения, а также выражение матричных элементов
tmn(ge) через углы Эйлера <р, 0, ф, получаем
1/{1-п)(!+п+\)е-*Г*т-п+, (cos 6) +
и)(/-и+1) в'*P'mn_l (cos 6) ==
= \f(l—m-\-l)(l-\-m) (cos ф — / sin ф cos 6)Ргт_ i, „(cos 6)-f-
+ |/(/+/W-j-l)(/—/Я) (COS ф + / Sin ф COS 6) P'm + ,_ „ (COS 6) —
— 2tn sin ф sin 6Р^„ (cos 6).
Это рагенстЕО имеет место при всех значениях ф. Положим в нем
cos ф = т> и sin ф = - ту.— и приравняем коэффициенты при
е1* и е~'^ в левых и правых частях. Мы получим искомые рекуррент-
рекуррентные формулы
/(/+„)(/_„+-!) /4. п-1 (cos 6) = -1 |/G^^+l)(/+i«)X
X A - cos 6) /4_ ,, „(cos 6) + -1 /(/+«+!)(/ — «)" X
X A 4- cos 6) /^ +, „(cos 6) 4- ml sin №mn (cos 6) B)
и 4-1) /4.»+1 (cos 6)=i-|/(T=r^_i)(/+/w) x
X A + cos ЩР1т-1,п(cos 6L- .j lА(/+/и + 1)G=^Г) X
X A — cos 6) Plm +,, „ (cos 6) — mi sin 6Р^„ (cos 6). C)
Эти формулы связывают три соседних элемента и-го столбца с эле-
элементами (и—1)-го или (я-|-1)-го столбца. Воспользовавшись соотно-
соотношениями симметрии для функций Plmn(z), получаем аналогичные фор-
формулы, связывающие три соседних элемента строки с элементом выше
или ниже расположенной строки. Предоставляем читателю выписать
эти формулы.
Если в равенстве A) взять х=@, 1, 0), то получатся те же
самые рекуррентные формулы. При х = @, 0, 1) получаем формулы
из п. 4.

154 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ill
§ 5. Производящие функции для Р1тп (г)
В этом параграфе будет указан новый способ вывода рекуррент-
рекуррентных формул, основанный на использовании производящих функций.
Функция/(г, К) называется производящей для функций <pk(z), если
ее разложение по степеням h имеет вид
/(*, А)= 2 49k(z)h*.
Мы рассмотрим два вида производящих функций для Plmn (z). Один
из них дает функции Plmn(z) с фиксированными значениями / и п, а
второй — с фиксированными значениями тип.
1. Случай фиксированных I к п. Чтобы получить производя-
производящую функцию для Plmn (z) при фиксированных значениях / и и, пере-
перепишем равенство D) п. 4 § 3 в виде
о
е i . . . о -^у~п
6 Ч _t,l4-n
X (/sin Те2 -f cos |-e 2y еш*d<?. A)
Эта формула означает, что функции тп являются коэф-
коэффициентами Фурье для
8 | , . . е -?у-« чх
cos tj- ег -\-i sin -^е * ) X
|А (/ — п)\ (I + п.)!
^/\^ I ? ь1П -^- С j COS ~л~ с 1
Таким образом,
1
cos -^ е2 -4-1 sm т>- <? 2 X
я)! V 2 ~ 2 j ^
w Л . е % , е -f \i+n
X U sin ^^2+cos Ye j =
±'_lV(l-m)\(l+m)\
. B)

.§5] ПРОИЗВОДЯЩИЕ ФУНКЦИИ ДЛЯ Р1тп (г) 155
Умножив обе части этого равенства на е11<е и заменив ei<f на w, по-
получим
Итак, F (w) является производящей функцией для Р1тп (cos 6).
Из равенства C) можно вывести некоторые любопытные тожде-
тождества для функций P^n(cos6). Например, полагая w=\, получаем
Полагая же г» = —1, получаем
^ (-1Г^(со8б)
V (l — n)\ (l + n)\ -
Наконец, полагая и = 0 и ш) = ±/, имеем
V '±трто(со^) ^co
Принимая во внимание равенство (9) из п. 9 § 3, можно переписать
формулу E) в следующем виде:
2 -
il)mPf(cos0) COS?0
(I + in)! — ~lY ¦ (Ь)
m — — I
Покажем теперь, как вывести из разложения C) рекуррентные
формулы для функций Р1 (cos 6). Продифференцировав обе части
этого разложения по 6, получим
2 Yil — п—
/ е , . . е\i-n-i
—— W COS тг -+-1 Sin -д- X
яI \ 2 Г 2/
X U^ SHI-=--4-COS-гг) Н ,Х
V 2П 2j ~2/(/ —«)!(/ + »1)!
-л+i/. . е
uws
X
ffl)!

1 56 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА ]ГЛ. Ill
Левая часть этого равенства является линейной комбинацией выра-
выражений того же типа, что и левая часть равенства C), с той лишь
разницей, что в одном слагаемом п заменено на и-f-l, а в другом —
на п—1. Применяя к этим выражениям разложение C) и сравнивая
коэффициенты при wl~m, получаем
/е [Р^„(cos в)] = 1- [/(/-и)(/ + и+1)/1 „ +, (cos6) +
+ /(/+в)(/—я+1)/4 „ _ 1 (cos 6)]. G)
Иными словами,
^T~r^dPh!fL = -4 t^(^^О^ЙНЙ) ft.п + 1 (г) +
+ |/(Z + n)(/-n+l)/4.n-i(z)]. G0
Мы снова вывели, таким образом, формулу A1) из п. 4 § 4.
Для того чтобы вывести формулу A0) из п. 4 § 4, умножим обе
части разложения C) на соотгетствующие части тождества-
о / 6 ... о \ . . о ,. . о . о \
cos 2 Ы> cos 2" i~г sin -g") —' sin у (И0 sin ^ ~|- cos -у) = те'
и продифференцируем по w. Мы получим
I г- /fl А\/ет
-л К^Ч—«cos 6)(да cos ir~\-i sin ^-) X
s,f. . e , e\/+n . j(/ + n)sine/ e . . . ey-«+'
X [^ sin у 4- cos -yj + ^2; ^«p cos у -|~ i sin -2-j X
x, i. . e . еу+л-i i(Z—n)sine/ e . . . ey«i .
X ^«PSllly-l-COSyj ^ ^ ^COSy-f i Sin yj X
J
i
Выражение в квадратных скобках является линейной комбинацией
выражений, аналогичных левой части разложения C) с той лишь раз-
разницей, что в некоторых слагаемых и заменено на и—1 или и —|— 1.
Разлагая эти выражения по формуле C) и сравнивая коэффициенты
при wl~m, приходим к равенству
i(m ~n cos 6) Plmn (cos 6) =
= %* [ /(/+«)(/—И+1) Р1т, п + 1 (COS 6) -
+ 1) PL.n + i (cos 6)]. (8)
Заменяя здесь cos 6 на z, получаем формулу A0) из п. 4 § 4.
2. Рекуррентные формулы при различных значениях /. С по-
помощью производящей функции, выведенной в предыдущем пункте.

§51 ПРОИЗВОДЯЩИЕ ФУНКЦИИ ДЛЯ Р1тп (г) 157
легко получить рекуррентные формулы, связывающие функции Plmn (z)
с различными значениями /. Например, продифференцировав обе части
разложения C) из п. 1 по w, получим
-> 1A — и) cos -=- [w cos -^ 4-1 sin -s- X
X (^ sin у~|- cos -jj n-\-1A-\- ri) sin -^ (w cos у -f / sin —^ " X
^. A)
Применим к обоим слагаемым в левой части этого равенства разло-
разложение C) п. 1 [с заменой I на I ^-1 и сравним коэффициенты при
одинаковых степенях w.
л/ I — п cos -к- Л s (cos 6) -L-
2 m + l/s. 'И '/а
-j - * VT+n sin J-P''-0 (cos в) =//=да'р'тя (cos в). B)
/n-(-Vs. я —'/г
Затем, умножив обе части равенства C) из п. 1 на выражение
6 . . . 6
w cos -у -[- г sin -=-, получим
"' COS -к- -| I Sin -s- UtiPSin -S--J-COS-S-) =
я)!
Левая часть этого равенства имеет тот же вид, что и левая часть
равенства C) с заменой / на/-[--=- и и на п =-. Сравнивая коэф-
коэффициенты при wl~m+l, находим
Sin y^m-l,n(cos6). C)
Аналогично, умножая обе части равенства C) из п. 1 на выражение
iw sin у ~\- cos -=-, получаем
:i „+1/2 (cos 6)=
== I //-и + 1 sin 4Р1^(cos 6) + //+^ cos -1Р^ _ ,,„ (cos 6).
D)

158 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. 111
Из равенств C) и D) непосредственно следует, что
sin —Р i (cos 8) —I—
((cos 6) = /Т-[- т 4- 1 Ртп (cos 6).
E)
/l-n±l cos 1 P^rf_ 1/2(cos 6)-
_ ? /7+^И sin 4/?*1.»+v.<cos 6) =
= //—OT-pf PL (COS 6). F)
Связь между функциями Plmn (cos 6), верхние индексы которых
отличаются на 1, выводится точно так же. Например, умножим обе
части равенства C) из п. 1 на соответствующие части тождества
/ 6,..6w. . в , 6\ i(w!!+ 1) . о , с
\w zos-k--\-i sin 2"! \iws,m -у-\- cos -^-j = ——~—- sin о-[-да cos 6.
После простых преобразований находим
l(cos 6) =
= /(/—и+ l)(/+i»+l)" cos 6/4„(cos 6) +
8) +
-1. »(cos 6)], G)
Другие соотношения получаются путем двукратного применения
соотношения C) или D):
' (cos в) =
= l/ (/ — /и) (/ — /и 4-1) cos2 -2- /4+1, п + 1 (cos 6) 4-
cos6) (8)
1 (cos 6) =
= — /(/— «)(/ — да+i) sin2у/4+1.«-1 (cos6L-
4-//(/—«"If. i)(/_j_OT 4-1) sin е/4,„_, (cos в) +
4 /(/+«)(/+и+1) cos2 -i P»m_,.„_, (cos 6). (9)

§ 51 ПРОИЗВОДЯЩИЕ ФУНКЦИИ ДЛЯ Р1тп(г) 159
Дальнейшие соотношения, связывающие функции Pl (z) с разными
значениями /, получаем, рассмотрев два разложения:
] X
(w cos -„--{-I sin —
— я)!(/ + п)! \ 2 ' 2
У [IWSin -jr -4- COS -^ >
0 \s—r N
s»nJ X
Перемножая эти равенства, получаем
l / е
[701
[701 СПЧ — -Ll Sin —-) У
\ 2* 21 ^
У (i — n)l(l + n)Hs — r)l(s + r)l
X (tosin -к--
PL(cOSe)p^(cose) i m_g
где L = max ( — /, q — s), M = min (/, s -j- 9). Применяя к левой части
этого равенства разложение C) п. 1 и сравнивая коэффициенты при
одинаковых степенях w, находим
м
Pl+ns+r(cosB)=Alnsr 2 JB^/3L(cos6)^_m,r(cos6), A0)
где L и М имеют указанный выше смысл, и
AS
Для получения дальнейших формул воспользуемся доказанным
в п. 1 § 4 равенством
Умножим обе части равенства A0) на ( — 1)*~"^М?г и просуммируем

160 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ill
получающиеся при этом соотношения по и от — /до /. Мы по-
получим, что при L ^ k ^ М
"г
а при остальных k эта сумма равна нулю.
Укажем в заключение еще одно выражание для /^(cos 0), где / —
целое число. Имеет место тождество
(w cos — ~|- / sin -Л [iw sin у -\- cos yj = wl (cos6-\-l ^^— sin б] .
Применив к обеим частям этого тождества соотношение C) п. 1, по-
получим
Л^ (со* 6) ra),_m
= \
/
nS.
Раскроем далее скобки в (—^—j и примем но внимание выраже-
ние F) из п. 5 § 3 для Р2 i (cos 26). Сравнивая коэффициенты при
одинаковых степенях w, получим
Отсюда в силу формулы (9) п. 9 § 4 имеем
L i
= V
L i ii
2 -tr + s + m -^—s "o~+s
V i^(/ + )!cos2 esin2

§51 ПРОИЗВОДЯЩИЕ ФУНКЦИИ ДЛЯ Рт„ (г) 161
3. Случай фиксированных тип. Чтобы вывести произво-
производящую функцию для Pmn(cos6) при фиксированных значениях тип,
нам понадобится новое интегральное представление для этих функций.
Оно получается из интегрального представления D) п. 4 § 3 путем
замены переменной интегрирования. Именно, запишем это интеграль-
интегральное представление в виде
, X
~\1—п
j
(* Г * ~\1—п г Л fl \2«
X §> [cose-f-i-sine^ + rOj (И sin у + cos у) tmn~4t
и предположим, что т^пSsO*). В силу теоремы Коши мы можем
заменить путь интегрирования контуром Г': |^|=а, где а^>1. Сде-
Сделаем теперь замену переменной
a>=cos G-j-y
Когда t пробегает контур Г', переменная w пробегает контур Г",
охватывающий отрезок [е~л, ел], против часовой стрелки. Перемен-
Переменная t однозначно определяется переменной w, если разрезать плос-
плоскость w вдоль отрезка [<?"'е, ел].
Именно, мы имеем
, w — cos6
TiEe
где знак корня выбирается из условия |^
Не теряя общности, можно считать, что контур Г" — это окруж-
окружность | w | = Ъ, где Ъ ^> 1.
После замены переменной получаем
X
X & -d-ntm~n (cos I + it sin J-Г , dw , B)
где f задается формулой A), а знак корня выбран так, что
') Это ограничение несущественно, поскольку в силу соотношений
симметрии (см. п. 6 § 3),
Р'тп (cos в) = Plnm (cos 6) = PL m> _ „ (cos в) = PL n> _ m (cos в)
p' / z\ № — 2m — 2прг r v

162 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА |ГЛ. Ill
В частности, если /га = л = 0, то получаем интегральное пред-
представление многочленов Лежандра:
2ш
P|(cos6)= ' & . wldw . B')
2ш Д Vws 2wcosd\l K
Чтобы получить производящую функцию для Pmn(cosB), сделаем
в интеграле B) подстановку w=ljh и используем формулы Коши
для коэффициентов р;'да Тейлора (см. [35]):
tm~n j it sin — -f cos -7Г-
где
, 1 — h cos 6 + V 1 — 2h cos 6 + h- ,.,
ihsinb ' W
и знак корня выбран так, что |^|^>1.
Если п — целое отрицательное число, т^\п\, то получаем
сходную формулу:
О ... 6rs"
УЗта^И9)^^-
E)
где ^ имеет то же самое значение.
Формулы C) и E) сохраняют силу и в случае, когда / — полу-
полуцелое число, с той лишь разницей, что суммирование надо вести не
по целым, а по полуцелым значениям /.
Особенно простой вид принимает формула C) при т = п = 0.
В этом случае получаем производящую функцию для многочленов
Лежандра:
оо
2P;(C0s6)ft' = - ' F)
lJ(j V\ — 2hcosb+h!! "
Эта формула часто принимается за определение многочленов Лежандра.
Последние называют поэтому также коэффициентами Лежандра.
При я = 0 получаем, используя равенство
производящую функцию для присоединенных функций Лежандра:
где t задается формулой D).

§ 5] ПРОИЗВОДЯЩИЕ ФУНКЦИИ ДЛЯ Plmn(z) 163
4. Интегральные представления Дирихле—Мерфи. В предыдущем
пункте было доказано, что
zldz
^ / 1— 2zcos6 + z2 ¦ v '
где Г"—окружность радиуса а^>1 с центром в начале координат и
| cos 6 — z + /1 — 2zcos6+2* I > sin 6- B)
Функция j/l—2г cos 6 -\- zl имеет две точки ветвления a = e~'G
и J3 —е'6, лежащие внутри окружности Г" (напомним, что мы рас-
рассматриваем сейчас значения 6, лежащие на отрезке [0, и]). Стянем
окружность к линии ветвления — отрезку, соединяющему точки а и р.
Интегралы по бесконечно малым окружностям, окружающим точки а
и р, дают нулевой вклад, а вклады от отрезков [а -\~ 0, C -\~ 0] и
[J3 — 0, а — 0] одинаковы, так как j' 1—2z cos 6 -j- z1 имеет противо-
противоположные знаки в соответствующих друг другу точках этих отрезков.
Отсюда вытекает, что
Р -\-0 а — 0
A (cos 6)=—, С -г t^~~=- — --.- \ z'dz =. C)
л« J Vl— 2zcos64-22 л* J lAl—22cos6 4-z2
a + 0 Г ' p —0r
Из формулы B) вытекает, что в первом интеграле вещественная
часть корня положительна, а во втором — отрицательна.
Деформируем теперь отрезки [<х-|-0, Р + 0] и [а—0,C — 0]
в дуги единичной окружности, соединяющие точки а и р. Из равен-
равенства C) вытекает, что
0 о
1 i cos [I 4- -к- <f rf<f
Pi(coso) = — I — -^- = — I ,,-ftt к D)
l% ' ъ J \T \ 2e'f cos 6 4- e2'? л J V & (cos ? — cos ")
— e ' ¦ о
2я—е
P,(cos6) = -i I ^ _^,T W = fj У^Ш^Ш*-1Ъ
В самом деле, в силу неравенства B) при —6<^<р<^6 имеем
/1 _ 2е'"* cos 6 -|- е2'» = е 2 /2 (cos <p — cos 6),
а при 6<^<р<^2и — 6 имеем
У\ _ 2е'* cos 6 -\- е2'* = /е 2 /2 (cos 6 — cos <p),
где корни в правых частях понимаются в смысле арифметического
значения.

164 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ill
Итак, мы доказали, что
6 т.
р (cosS)=l f cos(/+y)?rf?__2 Г *"j/+!¦)?«*?
,(cos ) ^J ^2(cos<f —cos6) * J V(cos6 — cos?)'
0 6
где корни понимаются в арифметическом смысле. Эти формулы были
установлены Дирихле и Мерфи,
5. Рекуррентные формулы для многочленов Лежандра. Вы-
Выведем рекуррентные формулы, связывающие многочлены Лежандра
Pt(z) с различными индексами /. Продифференцируем обе части
равенства
__L °°
(\-2hz + h*) 2 =2]Р|(*)й| A)
по h и умножим получившееся равенство на 1 — 2hz -f- А2. Мы по-
получим
1 со
[г_h)A — 2hz + Аа)~^ =(l~2hz-\-А2) ? /Р?(г)Л', B)
т. е.
(* - А) |] Я, (г) Лг = A - 2hz + й2) 2 /Р? (г) А'"». C)
/=о г=1
Сравним коэффициенты при А'. После простых преобразований
получим
/Р, (г) - B/ - 1) гРг_! (г) + (/ - 1) P,_*z) = 0. D)
Пользуясь формулой D), легко вычислить многочлены Pt(z), от-
отправляясь от Ро (z) = 1 и Pt B) = г.
Равенство D) показывает, что многочлены Лежандра обладают теми же
свойствами, что и многочлены Штурма. Никакие два следующие друг за
другом многочлена Лежандра не обращаются одновременно в нуль. Если
один из многочленов Лежандра равен нулю при некотором г, то при этом
значении z соседние с ним многочлены имеют различные знаки. С помощью
тех же соображений, что и в теореме Штурма, мы получаем, что между
двумя соседними корнями многочлена Pj+i (z) лежит один и только один
корень многочлена Pt (г). Отсюда вытекает, что все корни многочлена Р/ (z)
вещественны. Нетрудно показать, что они лежат между —1 и 1. Для этого
достаточно воспользоваться выражением D) п. 9 § 3 для многочленов Ле-
Лежандра и использовать теорему Ролля.
Продифференцируем теперь обе части равенства A) по z и
сравним получаемое равенство

§ 51 ПРОИЗВОДЯЩИЕ ФУНКЦИИ ДЛЯ Р„л(г) 165
с равенством
_ 3 оо
(Z _ h) (I — 2hz + h*f "a = 2 /А'^Р, (г)
(см. формулу B)). Мы получим
со оо
(* - Л) j *" ^ = 2 /Л'"Р<(г)- {6)
Сравнивая коэффициенты при hl~x, получаем рекуррентную формулу
?^W. G)
Далее воспользуемся тождеством
_1 _?
A — 2hz -f ft2) 2=A— 2/гг + /г2) 2A—/гг) —
— /г (z — /г) A — 2hz -\- Л2)~ 2.
Применяя соотношения A), B) и E), получаем
со со со
2 Р, <*) й» = A - Лг) 2 Л' ^ - 2 //г'Р' ^ <8)
г=о i=i i=i
Сравнивая коэффициенты при hl, получаем
*) = Щ^--г-^Р- (9)
Складывая формулы G) и (9), получаем
B/ + 1) Pt (z) = ^ [Р1+1 (г) - Рг_! (г)]. A0)
Исключая же Pt (z) из соотношений G) и (9), находим
%?>. (id
Отметим еще равенство
/)-Р;+1(г)], A2)
вытекающее из равенств G) и (9), и уравнения Лежандра
(см. п. 5 § 4, формула (8)).

166 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ill
§ 6. Разложение функций на группе SUB)
В этом параграфе будут изучены разложения функций /(и) на
группе SUB) в ряды по матричным элементам tmn (и). Как частный
случай этих результатов," будут получены разложения функций и
векторных полей на сфере трехмерного евклидова пространства.
1. Инвариантная мера. Так как группа SUB) компактна, то на
ней существует инвариантная мера du. Иными словами, существует
такая мера dn, что
h)du = \f(ii l)du A)
для всех непрерывных функций /(и) и всех элементов щ из SUB).
Найдем выражение этой меры через параметры группы SUB).
Рассмотрим сначала группу О, состоящую из невырожденных матриц
/ а 6\
вида I — —) • Ее элементы задаются любыми парами (а, 6)
V— Р я/
комплексных чисел. При умножении справа элемента группы О на
Ро\
I из SU{2) параметры а, В претерпевают ли-
нейное преобразование
<х' = ао<х— РоР. I
P' = P«P + «oP,j
определитель которого равен единице. Отсюда следует, что мера
dg=da.dad$d$i) на группе G инвариантна относительно умножения
справа на элементы из SUB).
Введем вместо параметров а = а!-[-гя2> P = Pi-Wps параметры
г, <р, 6, ф, связанные сайр равенствами
е
а = г cos -у е 2
P = Ir sin ye 2
Из равенства D) п. 1 § 1 следует, что при г= 1 матрица
C)
а р\
Р 4
принадлежит подгруппе SUB), причем <р> ^ Ф -~ углы Эйлера этой
матрицы. Простой подсчет показывает, что
D)
1 При a = aj-(-ta8 мы полагаем dada = — 2ida1da3.

§6] РАЗЛОЖЕНИЕ ФУНКЦИЙ НА ГРУППЕ 5С/B) 167
Но элементы группы SUB) характеризуются условием г^1.
Поэтому инвариантный интеграл на группе S(JB) задается в углах
Эйлера формулой
2lU 27U 7U
§ § С/Op, 6, ф) sin 6 йб cfcp йф E)
SUB) —2jc О О
(множитель 1('1б7г2 выбран так, что мера всей группы SUB) равна 1).
Отметим, что в силу компактности группы SUB) интеграл E) инва-
инвариантен не только справа, но и слева:
5/(ii) du = \f{mh) du = 5/(иои) dn = 5/И dn. F)
Выражение
-j^j- sin 6 rf6 d<f dty G)
для инвариантной меры на группе SUB) имеет простой геометрический
смысл. Оно лишь множителем-=- отличается от произведения нормирован-
нормированной евклидовой меры -2 sin fi d% dy на двумерной сфере и нормированной
евклидовой меры =- dii на окружности.
2. Соотношения ортогональности для функций Plmn(z)- В этом
пункте мы применим к группе SU{2) теоремы ортогональности и
полноты системы матричных элементов попарно неэквивалентных
неприводимых унитарных представлений компактной группы (см. п. 3
§ 4 главы I). Поскольку размерность представления Tt{ii) группы
SUB) равна 2/-J-1. то из этих теорем вытекает, что функции
]/' 2/-)- 1 tmn (и) образуют полную ортогональную нормированную
систему функций относительно инвариантной меры du на
этой группе. При этом индекс / пробегает всевозможные целые и
полуцелые неотрицательные значения, а индексы тип пробегают
значения — /, —/-J-1, ... , /—1, /•
Иными словами, функции tmn (u) удовлетворяют соотношениям
[ tlmnD)tpg(u)du = w~blsbmpbng. A)
5GB)
Подставим в формулу A) выражение
4„ (<р, 6, ф) = е~* ^^Plmn (cos 6) B)
для матричных элементов, и вспомним, что инвариантная мера du на
группе SU{2) задается формулой
du = ~^nbd^dbd^. C)

i 68 Группа унитарных Матриц второго порядка [Гл. Ш
Мы получим, что если / Ф s, или тфр, или пф q, то
f f \ Ртп (cos 6) 1?рд (cos 6) sin 6ё <"-ffl> V <*-»>¦dbd<? Ц = 0. D)
— 2it 0 0
В случаях, когда рФ ш или q ф п, из соотношения D) нельзя
сделать каких-либо выводов о функциях Р^тп, поскольку обращение
в нуль имеет место за счет показательных функций. Пусть теперь
р = т и 9 = п. Тогда из равенства D) следует, что при [фэ
$ Р'тп (COS 6) PSmn (COS 6) Sin 6 d6 = 0. E)
0
Аналогично, из равенства A) следует, что
11 Plmn (cos 6) f sin 6 dB = ^j-f. F)
Полагая в полученных равенствах cos 6 = х, получаем соотноше-
соотношения ортогональности для функций Ртп (х):
§ = ^rihls. G)
Из выведенных формул вытекает следующий результат: при фикси-
фиксированных значениях I и и, /^я^ЭгО, последовательность функций
... (8)
ортогональна и нормирована на отрезке [— 1, 1] относительно
меры dx.
Рассмотрим некоторые частные случаи. При /z = 0 получаем, что
последовательность функций
ортогональна и нормирована. Но
где /^* (дг) — присоединенная функция Лежандра. Отсюда вытекает,
что последовательность функций
ортогональна и нормирована на отрезке [—1, 1].

§ 6] РАЗЛОЖЕНИЕ ФУНКЦИЙ НА ГРУППЕ SU B) 1 69
В частности, при /=0 получаем, что последовательность много-
многочленов Лежандра
| / /ft-f-J р , , . п ^ (ЛОЛ
ортогональна и нормирована на отрезке [— 1, 1].
В заключение рассмотрим вопрос об ортогональности многочленов
Якоби Р(йа'й(дг). Как было показано в п. 9 § 4, эти многочлены
связаны с функциями Ртп(х) соотношением
где а, р, А — целые числа.
Но, как было показано выше, функции
+
2 ' 2
образуют ортонормированную систему на отрезке [— 1, 1]. Отсюда
вытекает, что многочлены
1 V
fc W> ( ]
k = 0, I, 2, ...
образуют ортонормированную систему на отрезке [—1, 1] относи-
относительно веса A— x)a(l-\~xf l).
Применим полученные результаты для вычисления в конечном
виде одной суммы, содержащей присоединенные функции Лежандра.
Из ортогональности многочленов Лежандра и формулы F) п. 3 § 4
вытекает, что —ф—Pi (cos e^PjT^cos 62) является коэффициентом
при разложении функции
/(б; е1; ад=
я " V sin 6X sin 6а
X {[cos 6 — cos Ft-f-6a)] [cos Ft — 6j) — cos 6]} ",
если j 8, — 62 J ^ 6 ^ Sj -j— 6a,
О, если 6 — точка отрезка [0, тс], не принадлежащая отрезку
II 6i — 6а |,
») Система функций Л (лг), ... , fn{x), ... называется ортоиормироваинои
относительно веса р (х) на отрезке [а, Ь], если
в
$ fm (х) fn (х) р (х) dx = Ьта.
а

1 70 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА 1ГЛ. Ш
по многочленам Лежандра Рг (cos 6). Отсюда вытекает, что
со
21^jr Pki (cos 60 РТк (cos в,) Pt (cos 6) =/F; 61( 60- A5)
В частности,
Щ1 Pi (cos 6t) Pt (cos во P, (cos 6) =
1 = 0
± {[cos б — cos Ft -f- вО] [cos FX — 60 — cos в]}~ a",
если | Bl — 621 === 6 === 6t -j- 64,
0, если б — точка на [0, тс], не принадлежащая отрезку
3. Разложения в ряды по функциям P^nix). Пусть f(u) — лю-
любая функция на группе SUB), для которой сходится интеграл
^\/(и)\Ыи. Мы доказали выше, что функции \/2l-\-1 tlmn{ii) обра-
образуют полную ортонормированную систему относительно инвариант-
инвариантной меры dn. Отсюда следует, что функцию /(?/) можно разложить
в ряд Фурье по функциям tmn (и), причем этот ряд сходится в среднем.
Ррд Фурье функции f(u) имеет вид
A)
где /^0, -=-, 1, ... и коэффициенты Фурье а.тп задаются форму-
формулами
°L = B/ + 1) If (и) TJU) da. B)
Перейдем к параметрам Эйлера. Пользуясь соотношениями B) и C)
из п. 2, получаем следующий результат:
Любая функция f(<p,Q,<]>), 0^у<^2ъ, 0г?;6<^7г, —27г<^ф<^27с,
принадлежащая пространству ?2, т. е. такая, что
2lU 27U 7U
S $ \ |/(ф, 6, ф) |2 sin 6 db d<p йф <-f oo, C)
— 2jc 0 0
разлагается в сходящийся в среднем ряд
i i
), D)

§6] РАЗЛОЖЕНИЕ ФУНКЦИЙ НА ГРУППЕ $U B)
где1)
I _(-])"-" B/+1) Ny
2ти 2ти л
X \ \\fte, е> Ф) е' <m<r+n4Vmn (cos 6) sin 6 db d<? Ц. E)
— 2ir 0 0
Из равенства Парсеваля вытекает, что при этом
II 2ir 2ir те
2 2 i^r^^i1 S ^l/{<p'6><jj)r'sin6rf6^^- F)
/ m = — /n=— / — 2ти О О
4. Некоторые подпространства функций. Обозначим через ??
подпространство в ?3, состоящее из таких функций /(к), что для всех
диагональных матриц
/- ^
/е2 0 \
* = \ и) A)
из SUB) выполняется равенство
M B)
Если углы Эйлера матрицы g равны <р> ^> Ф> то
/е2 0 \
= ^(<р, б, 0)g-@, 0, ф), где ^-@, 0, ф) = ; .ф ,—диагональная
Vo e^2",
матрица. Поэтому для функций f(g) из f^ имеем
'р,е> о). C)
Обратно, если функция f(g) на группе SUB) имеет вид C), она
принадлежит 1^.
В частности, подпространству ?? принадлежат все матричные
элементы tlmn (g) при заданном и:
(cos 6), D)
1=\п\, |я| + 1, ... , |л
Напомним, что P^n (cos 6) = (— \)т-пР1тп (cos 6).

172 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ill
Покажем, что эти функции образуют ортогональный базис про-
пространства $?Ц. Иными словами, будет показано, что любая функция
/(и) из подпространства 2% разлагается в ряд Фурье вида
со г со i
I=| п I тп~—/ Z=[ л | ш^ — I
где коэффициенты Фурье задаются формулами
__(-1Г""B/+1J11 *
Для доказательства достаточно показать, что при k ^ n имеем
Л2 О
Сделаем в этом интеграле подстановку H = tift, где h=l ,.
\0 г''
В силу инвариантности меры du получим
Но в силу принадлежности f(u) подпространству 2%
а в силу формулы D)
Поэтому
m m'
Так как при k^n e''fc~"''=?l, то отсюда и следует равенство
а^ = 0. Тем самым наше утверждение доказано.
В частности, функции f(u) на группе SUB), не зависящие от
/е2 0
угла Эйлера ф (т. е. такие, что /(нА)=/(и) при /г^1
\0 в"
разлагаются в ряды вида
1=0 т=—I
где
2it it
(8)

16) Разложение функций на группе su B) 173
Принимая во внимание равенство (9) из п- 9 § 3, получаем, что та-
такие функции разлагаются в ряд вида
/(и)=|; S ffe-^PT (cos 6), (9)
где PJ" (cos 6) — присоединенные функции Лежандра. Коэффициенты
Фурье равны
1% %
/(ср> е> °)e'"m9p'm(cosе>sin
Совершенно так же решается вопрос о разложении функций,
е* О \
удовлетворяющих при Л= и I функциональному уравнению
\0 e~V
f{hu) = e~imtf{u). A1)
Мы обозначим подпространство таких функций через тС'2. Как и выше,
доказываем, что любая функция f(u) из тС'2 разлагается в ряд вида
2 2 A2)
/=[m| n=—l
где
J . A3)
J J
В частности, функции /(н), не зависящие от угла Эйлера ср, раскла-
раскладываются в ряд вида
со I
/(и) = 2 D P/V^/tfCcose), A4)
г=оя=—г
где
2it it
р? =^+i |=|} ^ J /@, 6, ф) е»-*/? (coS 6) sin 6 rf6 ^. A5)
о 6
Обозначим через тСД пересечение подпространств ?Д и тСа. Это
подпространство состоит из таких функций /(и), что
A6)

174
для
любых
ГРУППА УНИТАРНЫХ
двух матриц
/е2 0
V0 е~Х-
МАТРИЦ ВТОРОГО ПОРЯДКА
0 ^
е-'*}
[ГЛ. III
В силу полученных выше результатов имеем:
Любая функция /(и) из подпространства т?„ разлагается
в ряд Фурье вида
) У) a,PL(cos6), A7)
/ = max(i /n|, | я|)
где коэффициенты Фурье задаются формулами
71
ч=_(-i)M^B/ + i), J /@> е> 0)^mn (cos е)sin еrfe< A8)
о
В частности, отсюда вытекает, что любая функция /(и) на груп-
группе 5/7B), не зависящая от углов Эйлера э и ф, разлагается в ряд
вида
/(и)= S^o (cos 6), A9)
где
ъ=2-Ly1 [ f(.°> в> °) ^оо (cos e) sin e т. B0)
о
Поскольку />?0(cos 6) = P[ (cos 0), то этот ряд можно переписать так:
/(»)=Sa^(cos6X B1)
где Pt (х) — многочлены Лежандра, а
¦к
at = ?^fc-L С /F) р, (cos 6)sine dB. B2)
oJ
5. Разложение функций на сфере. Мы построили в предыдущем
пункте разложение функций /(и) на группе SUB) постоянных на
левых смежных классах по подгруппе *Q диагональных матриц. Но
в п. 7 § 1 было показано, что пространство таких смежных классов
можно отождествить с единичной сферой 53 в трехмерном евклидо-
евклидовом пространстве. При этом смежному классу uQ, где и = и (ср, 8, ф),
соответствует точка | сферы со сферическими координатами

§6] РАЗЛОЖЕНИЕ ФУНКЦИЙ НА ГРУППЕ SU B) 175
Применим полученное в п. 4 разложение к функциям на сфере.
Мы получим следующий результат:
Пусть /(|) — функция на единичной сфере S*, такая, что
|<с» A)
(через d% здесь обозначена нормированная евклидова мера на 5,
d\ = ~ sin 6 dB dfj. Тогда»)
/(!)=/(?, 0)= S 2 №е-Ш?Р?(сю0), B)
где
о 6
/7/яг этом
fa
Полученное разложение показывает, что функции
llen*.
У ^Чгш1^ р'(cos e) e"''ft9 -/ft
/==0, 1, ...;
образуют ортогональный нормированный базис на сфере (относи-
(относительно нормированной евклидовой меры).
Разложение функций на сфере по базису E) удобно, поскольку
присоединенные сферические функции весьма просто преобразуются
при вращениях сферы (напомним, что они лишь несущественно отли-
отличаются от матричных элементов неприводимых унитарных представле-
представлений этой группы).
6. Разложение полей величин на сфере. В прикладных задачах
возникает необходимость раскладывать не только скалярные функции
на сфере, но и такие объекты, как векторные, тензорные и иные
поля. При этом, разумеется, требуется, чтобы компоненты, на которые
разлагаются эти поля, достаточно просто преобразовывались при вра-
вращениях сферы. Мы покажем сейчас, как выполняются такие разло-
разложения.
Введем сначала понятие поля величины на сфере. Пусть Tt (и) —¦
неприводимое унитарное представление группы SUB) и g — простран-
') Здесь <j> и б — сферические координаты точки §(?,, ?2,
?j = sin ij> sin 6, ?s = cos 9 sin 6, ?3 = cos 6.

176 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
ство вектор-функций f (§) на сфере «S2, принимающих значения в про-
пространстве $i представления Т[(и). Каждому элементу и из SUB)
поставим в соответствие оператор
%) A)
(напомним, что сфера S* является однородным пространством с груп-
группой движений SUB) и стационарной подгруппой Q, состоящей из
диагональных матриц h ='
\о
Легко проверить, что V(u) является представлением группы. Про-
Пространство % с заданным в нем представлением V(u) группы SUB)
назовем полем величин на сфере, преобразующихся по неприводи-
неприводимому унитарному представлению Т1{и) (например, при 1=1 полу-
получаем векторное поле на сфере).
Чтобы разложить представление V(u) на неприводимые, перейдем
от функции f (|) на сфере к функциям «р (и) на группе SUB) по
формулам
B)
(через |0 здесь обозначена точка сферы |0@, 0, 1)).
Легко показать, что функции ф (и) удовлетворяют уравнению
= Г, (ft-»)(p (н), ft ? Q. C)
При этом операторам 1/(и0) соответствуют операторы
? ф(и^и). D)
Пространство функций <р(и) мы будем также обозначать через %.
Разложим пространство % в прямую сумму одномерных подпро-
подпространств %k, —/fi^Asg/, инвариантных относительно операторов
<р (и) — ф (uh), h?Q. Для этого функции ф (и) из Щ поставим в соот-
соответствие функции ф6 (и), -— Is^ksszl, определяемые формулой
2it
Ч>* (и) =g;$q> [«ft (<)]*-'*<& E)
о
где
F)
\o C"V
Ясно, что
G)

§7) ХАРАКТЕРЫ ПРЕДСТАВЛЕНИЙ Г, (?/) 177
и потому пространство $k функций вида E) инвариантно при преоб-
преобразованиях <р (и) — <р (и/г), h(^Q. При этом выполняется равенство
i
Ф(и)= 2 Ф*(«) (8>
= «Pft(«o1«)- (9)
Эти равенства показывают, что представление V(ii) является прямой
суммой представлений Vk(u) группы SUB), индуцированных пред-
представлениями /г (/)—>?'*' подгруппы Q. Представления такого вида мы
уже умеем разлагать на неприводимые (см. п. 4). Тем самым решена
и задача о разложении представления V(u).
§ 7. Характеры представлений Tt (и)
1. Вычисление характеров. Перейдем к рассмотрению характеров
представлений Тг (и). Согласно п. 9 § 1 главы I характером представ-
представления Гг(н) группы SUB) называют след матрицы этого представ-
представления. Таким образом, характер у, (и) представления Тг (и) задается
формулой
XI («) = 2 Cm («) О)
m = — l
или, в углах Эйлера, формулой
Х,(ср, 6, ф)= 2 е-'^/4m (COS 6). B)
m = — I
Эта формула неудобна, поскольку в ней характер выражен как
функция трех переменных ср, ф, 6. Фактически же, как сейчас будет
показано, характер у, (и) является функцией лишь одного переменного.
В самом деле, согласно п. 9 § 1 главы I характер представления
является функцией на группе, постоянной на классах сопряженных
элементов. В нашем случае это означает, что для любых двух эле-
элементов и, и к группы SUB) выполняется равенство
у, (гпннг1) = *,(«)• C)
Для того чтобы показать, что Xt (и) является функцией одного пере-
переменного, достаточно доказать, что классы сопряженных элементов
в SUB) задаются одним параметром. Но из линейной алгебры из-
известно, что любая унитарная унимодулярная матрица и может быть
записана в виде и = щЬщ1, где щ (^ SUB), a 8 — диагональная

178 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ill
матрица вида
» = и ¦ Ю
\0 е V
Ч i -Ч
Числа Х = е2 и -^- = е 2 являются собственными числами матри-
матрицы и. При этом среди матриц, эквивалентных и, есть лишь еще одна
диагональная матрица, а именно, матрица 8', получающаяся из 8 пере-
перестановкой диагональных элементов.
Отсюда следует, что каждый класс сопряженных элементов
в SUB) задается одним параметром t, меняющимся в пределах
— 2тт ==с t sg 27г, причем параметры t и —t задают один и тот же
класс. Поэтому мы можем считать, что характеры ул (и) являются
функциями одного переменного t, меняющегося от 0 до 27г.
Параметр t имеет простой геометрический смысл — он равен углу вра-
вращения, которое соответствует матрице и. Таким образом, класс сопряженных
элементов в SUB) состоит из матриц, которым соответствуют вращения на
один и тот же угол в трехмерном евклидовом пространстве.
Выведем теперь явное выражение для ул (н) как функции t. Для
этого заметим, что при представлении Tt (и) диагональной матрице 8
соответствует диагональная матрица Тг (8) порядка 21-\- 1, на главной
диагонали которой стоят числа e~lkt, —l^k^l.
Пусть н = н18н11. Так как характеры постоянны на классах со-
сопряженных элементов, то
E)
Суммируя геометрическую прогрессию, получаем
Г
stay
lJL -'A
где, напомним, е2 и e 2 —собственные числа матрицы и.
Как известно, собственные числа матрицы являются корнями ее
характеристического уравнения. Для матрицы
в=
характеристическое уравнение имеет вид
а —X
=0'

§ 71 Характеры представлений rt (t/> 179
т. е.
Х2 — 2Х Re а4-1 = 0.
Корни этого уравнения выражаются формулой
X12 = e~2=Rea:f:iVrl — (ReaK.
Отсюда
cos |- = Re a. F)
Если углы Эйлера матрицы и равны ср, 6, ф, то
a = cos ^е 2
и потому
Re a = cos 2 = cos -^ cos Y~2~Y . G)
Поэтому
sin( /+ ^-J <
/; I'O — 1 . (?)
siriy
где cos y выражается через углы Эйлера по формуле G). Выше мы
получили другое выражение для yt (и) через углы Эйлера (см. фор-
формулу B)). Сравнивая два полученных выражения, получаем равенство
X *-•••»<*+*>/4m (cos 6) =
т=-/
где cos у = cos -у cos 4f~^ В частности, при ср = ф = О имеем
У Ртт (COS 6)=-^ f^-. (Ю)
sin
2. Ортогональность характеров. Как было показано в п. 7 § 4
главы I, характеры неприводимых унитарных представлений компакт-
компактной группы образуют ортонормированную систему функций. Поэтому
для группы 56^B) имеем
du = bmn. A)

180 группа унитарны* Матриц второго порядка [Гл. Ш
В п. 1 было показано, что
sin(m + -9
Xm(")= V t
sin
где e 2 — собственное значение матрицы и. Чтобы получить из фор-
формулы A) соотношение ортогональности для функций sin \m -J- у) t,
надо выразить инвариантную меру du в новых параметрах, одним из
которых является t
I а р\
Сначала запишем интеграл в параметрах а, р, где м= g ")•
\— Р а ¦
Из формулы E) п. 1 § 6 легко следует, что
1 2« 2«
C/(K)dH = 3ij f J С /(г, т, a)dadxdr, C)
обо
где г=|а|'2, T = arga, o = argp. Перейдем в этом интеграле от пере-
переменных г, т к переменным а„ а2, где a=a!-[-ioi2. Мы получим
D)
. - - j
Так как at = cos -^ , то эту формулу можно представить в следую-
следующем виде:
2* sin4 2*
f(u)du=:^s С sin-^-dt С daAf(u)da. E)
о .to
— sin 2"
Мы выразили инвариантный интеграл по группе SUB) в парамет-
параметрах /, а2, о.
Если функция /(и) постоянна на классах сопряженных элементов,
т. е. зависит только от параметра t, f(u) = F(t), то из формулы E)
вытекает
2я
J f (и) du = ± J F(t) sin2 i-Л. F)
3. Разложение центральных функций. Согласно п. 7 § 4
главы I функция 9 (и) на группе SUB) называется центральной, если

§8) КОЭФФИЦИЕНТЫ КЛЁБША - ГО?ДАНА Igl
она постоянна на классах сопряженных элементов в SUB). Мы пока-
показали в п. 1, что классы сопряженных элементов в SUB) определяются
одним параметром t. Поэтому центральные функции являются функ-
функциями одного переменного t:
<?(u)=F(t). A)
В п. 7 § 4 главы I было показано, что характеры неприводимых
унитарных представлений компактной группы образуют полную орто-
нормированную систему в пространстве центральных функций на этой
группе.
Применяя это утверждение к группе SUB) и к функции f(t)—
= F(t) sin -у, получаем следующий результат.
Пусть f(t) — функция на отрезке [О, 27г], такая, что
o. B)
Тогда эта функция разлагается в сходящийся в среднем ряд
1 3
где п пробегает значения 0, у, 1» у, ... , а
D)
Отсюда легко следует, что система функций {sin&*;}, k=l, 2,...
полна на отрезке [0, тс].
§ 8. Коэффициенты Клебша — Гордана
1. Кронекеровское произведение представлений Tt(u). Пусть
Ttl (и) — неприводимое унитарное представление веса /t группы SUB),
a Tts (и) — неприводимое унитарное представление веса 1г той же
группы. Рассмотрим их кронекеровское произведение
T(u)=Th(u)<g)Th(u). A)
Наша цель — разложить это представление на неприводимые.
В первую очередь выясним, какие представления входят в разло-
разложение представления Т(и) и с какой кратностью они входят. В силу
п. 7 § 4 главы I для этого надо разложить произведение характеров
представлений Ти (и) и 7i2 (н) в сумму характеров неприводимых
представлений.

182 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ill
iL -il
Пусть е2 и е 2 —собственные числа матрицы и. Как было пока-
показано в п. 1 § 7,
3d, С) = S е~'*' и *.С) = Й '-""'¦
ft = - h " m = ~l->
ПОЭТОМУ При li^sli
где для краткости положено е *' = е. Таким образом,
Е — 1
[ei + + f _ _|_e/,-/2 + i _еь-/, __ _e-/i-/aj. C)
Скомбинировав попарно положительные и отрицательные слагаемые,
сумма показателей которых равна единице, получим
h + h ... ,
При l^^li суммирование ведется от /=/s — /j. Итак, доказано, что
'i + 'з
\(«)^.(и)= Ц ^('0- D)
/ = I /t - z21
Это равенство означает, что в разложение представления
Ti\ (n) ® Tia (и) входят все представления Т/ (и), для которых
\li—4| =^;/^; /, -}-/2, и I является целым или полуцелым числом
одновременно с 1Х -\- 4, причем каждое по одному разу.
Иными словами,
7i,(")<gOi,(tf)= *S" r'(")- E)
/ = I /ж — /я I
Будем в дальнейшем обозначать через ^, и ф2 пространства пред-
представлений Ttl (и), 7}3 (гг), а через 5г — инвариантные подпространства
в JQV (х) ф2, в которых реализуются представления 1\ {и), \lt — /21 ==с
==^ / ==s Л -f- 4- Ясно, что
/ = I *Ж — *2 I
Формула A3) п. 7 § 4 главы I дает выражение кратности, с кото-
которой представление Tt (и) входит в Th (и) (§) Ti% (и), через характеры

§8] КОЭФФИЦИЕНТЫ КЛЕБША - ГОРДАНА 183
этих представлений. Подставляя в эту формулу выражение E) из п. 1
§ 7 для ул (и) и выражение C) из п. 2 § 6 для du, приходим к следую-
следующему выводу: интеграл
4 | V 2> dt,
\С I 1\ / 1\
¦ifstn /, + 4-fsln /а + |
о'
где 1Ь /а, /—целые или полуцелые числа, равен единице в случае,
когда 2 D —}— /а —}— /) — четное число, причем существует треуголь-
треугольник со сторонами 2Д, 2/а, 21, и равен нулю в противном случае.
2. Базисы в пространстве .?>! (х) ^а. В пространстве ^?i (х) ?ц
представления Т^ (и) (х) 7i2 (и) есть два интересующих нас базиса.
Первый из них образован попарными произведениями
*/®Ь*, —/,</</!, — /2=sc?<S/2 A)
векторов канонических базисов пространств jQt и .?j2 (f,-, —4^/5S'i —
канонический базис в 4qu a hft, —/asc;^sg;4 — канонический базис в J5a)-
Согласно Дополнению к главе I этот базис ортонормирован в ^ (х) ^2-
Базис ij ® hft в ^i ® <5а удобен тем, что матричные элементы
оператора Ttl (н) (х) 7}3 (и) в этом базисе являются произведениями
матричных элементов операторов 7^ (гг) и Г;2 (н) в базисах f,- и hft
соответственно. Мы будем обозначать эти матричные элементы через
3.jk), (j'k') (")¦ Таким образом,
а- ¦« , ,w, (?0 = ^'д, (и) tl* (и). B)
Второй ортонормированный базис в .?), (х) ^2 состоит из векторов
канонических базисов неприводимых подпространств §;> на которые
разлагается ^l (x) .f)^ (см. формулу F) п. 1). Будем обозначать эти
векторы через
a'm, |/, —/яК/^/, + 4, —/^1»</. C)
Этот базис удобен тем, что в нем матрица оператора 7^ (и) (х) Ti2 (и)
клеточно-диагональна, причем на главной диагонали стоят матрицы
неприводимых унитарных представлений Tt (и), \lt — 4 | *?; /^ 1\ -\- 4
группы SUB). Обозначим элементы матрицы оператора Ttl (и) 0 7}2 (гг)
в базисе alm через р„ „,т, (г/). Из клеточной диагональности этой
матрицы вытекает, что (В(гт), ^,^ = 0, если 1ф1'. Если же /=/', то
ИМеем P(lm). (!'»') =''mm'(">• Т™ Образом,
Поскольку базисы f. h , а' канонические, матричные элементы fix (и),
%'(н). tlmm'(u) B формулах B) и D) выражаются через углы Эйлера

184 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА (ГЛ. III
по формуле F) п. 3 § 3:
# (<Р> е> Ф) = е~i(Jf +™Pfr (cos в), E)
и т.д. Так как f.(x)h и а'т являются ортонормированными базисами
в одном и том же пространстве «^ (х) «§2, существует унитарная
матрица С, переводящая базис а1т в базис f.(x)h . Строки этой мат-
матрицы обозначаются парой индексов (/, т), а столбцы — парой индек-
индексов (/, k) (эти индексы меняются в различных пределах: ¦— 4 eg;/ eg; 4,
— 4sc:ksg4 и 14 — 41 ^SI^14 -f-41» — l^tns^l). Таким образом,
/ = \h - 'a I m = - /
Из унитарности матрицы С вытекает, что
"i,-
<= 2 S СA»,.(/*,'у®Ь». G)
У г, * = —
Во многих случаях бывает полезно явно отметить зависимость
матрицы С от параметров lt и 4- Поэтому вместо С(/т) (у>) пишут
С (А. 4. ? У» *» от) или, короче, C(l, j), где ! = (/„ 4> О, j = (/. ^>w).
C(l, j) = C(/1; 4, ? У, A, «)=C(lm). фу (8)
Числа C(/i, 4. hj> ky т) называются коэффициентами Клебша — Гор-
дана (в работах по физике их часто неправильно называют коэффи-
коэффициентами Клебша — Жордана).
Коэффициенты Клебша — Гордана определены неоднозначно. Дело
в том, что векторы канонического базиса определены лишь с точностью
до общего множителя, равного по модулю единице (после умножения
на такой множитель базис остается ортонормированным и каноническим).
Поэтому коэффициенты C(lv /а, /; j, k, m) разложения F) определены
с точностью до множителя а, такого, что 10^1 = 1. Воспользовавшись
этой неопределенностью, можно добиться, чтобы выполнялось соот-
соотношение
С (А, 4. h A, — 4. 4 — 4K*0. (9)
Ниже будет показано, что из выполнения этого соотношения вытекает
вещественность всех коэффициентов C(l, j).
3. Вычисление коэффициентов Клебша — Гордана. Из того, что
базисы f.(x)h и а'т связаны соотношениями F) и G) п. 2, вытекает,
что матрицы оператора 7^ (и) (х) 7}2 (и) в этих базисах связаны соот-
соотношением
(*W). (/*') («)) = С* (hm), (I'm') (U)) С. A)
Отсюда следует, что
2 С("«), Uk)hm). (l'm')(u) C«'m'\ </'*')• B)
I, V, т, т'

§8] КОЭФФИЦИЕНТЫ КЛЕБША — ЙОРДАНА 1§5
Суммирование в этой формуле распространено на такие значения /, /',
т, т, что \li-~4|^/, /'===/,4-4; —l^m^l; —Г^т'^Г.
Принимая во внимание формулы B) и D) п. 2, перепишем это
равенство в следующем виде:
fy (">*&(«)= И с0. ПС0~ЙС.(в), C)
г, т. т'
где l = (/i, 4, /)> J = 0*> ^> "О- J' —(/'> А'> "О- Суммирование в равен-
равенстве C) распространено на значения /, т, т', такие, что \lt — /21 =?S
Умножим обе части равенства C) на tlmm. (и) и проинтегрируем по
всей группе SUB)- В силу ортонормированности системы функций
-\f2l-\-1 tlmmi{ii) (см. § 6, п. 2), получаем
СA, Л С(П) = B/+ 1) 5fy(н)*fc,{u)V~Mdu. D)
Принимая во внимание выражение E) п. 2 для матричных эле-
элементов th, (и) и т. д., а также выражение
du = тр-у sin б </6 йср йф E)
для инвариантной меры, получаем, что интеграл D) отличен от нуля
лишь, если j-j-k = m, / -f- k' = т' (в противном случае интегриро-
интегрирование по ср или «|> даст нуль). Поэтому коэффициенты Клебша — Гор-
дана C(/i, /2, /; j, k, m) отличны от нуля, лишь если j-\-k — m *).
В дальнейшем будем считать, что в равенстве D) имеем j -\- k = т,
/ -(- k'=m'. Подставляя в это равенство явные выражения матричных
элементов и меры du, делая подстановку cos б = х и выполняя интег-
интегрирование по ср и ф, получаем
1
где 1 = (/„ 4. О, J = (/. A. / + *), f = (/'. А'. /+^)-
Положим в этом равенстве / = (t и Н = — /а. По формулам F)
п. 5 § 3 и F) п. 6 § 3 имеем
х) Этот результат можно получить также, применив к обеим частям
равенства F) п. 2 оператор Tt (к) ® 7V (к), где к = и (у, 0, 0). При этом
левая часть равенства умножится на е ' , а члены, содержащие ат, на
е-«"ту pj3 линейной независимости базисов мы и получим, что в равен-
равенство F) п. 2 входят лишь члены, для которых m=j-\-k.

186 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
Кроме того, по формуле C) п. 4 § 3
2 X
X^Si [(i -xy-'i+h(i + *y+'i-b]. (9)
Подставив эти выражения в формулу F), получим
/2, /; /„ -4 /, —/а)С(/„ 4 /; /, А, / + *) =
1 /" B/
X I/ п ; h\\ /i л. I. — /\\ II — /. 4. /„I! X
X
( __ у _
X ( A — x)'i-/(l + Jey*-*^^Bf(l—*y^i-H* (l+jey-Hi^lrfx. (Ю)
Чтобы найти из этого равенства С(/ь /2, I; 1Ъ —4> А — 4). поло-
положим в нем j = 1\, k = — /2:
4 4. ? А- — 4 А — 4) I2 = 2*+*i+/*+i(/_/ 4-/2)! X
1
X \ A + xfl* f_f ~u [A — xI-
*' C/JC ' "
I
Проинтегрируем по частям / — А ~Ь 4 Раз- Поскольку при под-
подстановке пределов интегрирования проинтегрированные члены обра-
обращаются в нуль,
I fi г 1 у 1.1 1 1 / "v |2
I L. \l\, /j, I, l\, Ifr l\ 1%) |
_ 2/+ 1
С Л I v-12/j /-1 __ у-у - li + h dX —
/,+ /,-/)! Д
B/+l)B/)!B/)!
(ср. ниже формулы A) и C)) п. 7 § l главы V).
Поскольку коэффициенты Клебша — Гордана нормированы так,
чтобы выполнялось неравенство С (А, 4 1\ А. — 4 А — 4) === 0, то из
формулы A1) следует, что
1 Ы 11 1\—
, /2, /, /ь —4 Ь — Ь)—

§ 81 КОЭФФИЦИЕНТЫ КЛЕБША — ГОРДАНА 187
Подставив выражение A2) в формулу A0), получим
С D, /а, /; у, к, у -|- k) = .,,./,, X
X
A3)
Из этого выражения видно, что при выбранной нами нормировке
все коэффициенты Клебша — Гордана вещественны.
Другое выражение для С(/,, /ъ I; у, k, j~\-k) можно получить,
заметив, что Pt,,k t _,. (x) = Pl[ _, ._^k (x), и подставив в формулу F)
соответствующее выражение. В результате получаем
, г.2) I, J, к, j -f- к) г,/4-/|+Ь4-1 А
X J
Jl+
J l *УA + *У "k dxi-h+C, К1 - x)'"y"* 0 + ¦*)'
A3-)
Из полученных выражений для коэффициентов Клебша — Гордана
легко вывести выражение этих коэффициентов в виде сумм. Для
этого достаточно применить к подынтегральной функции формулу
Лейбница и почленно проинтегрировать полученное выражение. В резуль-
результате преобразований получим
С(/„ /2, /; у, k, ; + *) = (—1)-'+'1+*Х
V (-»)*(* + *»—У-
/—у —ft
где Ж = тах@, 4 — Л—j — Щ, Л/=тах(/ — у — |
Другое представление C(l, j) в виде суммы получается, если про-
проинтегрировать в формуле A3) /—j — k раз по частям и принять во
внимание, что все проинтегрированные члены обращаются в нуль.

188 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ill
Применяя формулу Лейбница и почленно интегрируя, находим
С (к, 4, /; J, к, у + *) = (— l)'i -i X
(l)s(h + j+sy(l+ljs)\ ,
где M, = max @, l~ 4 — ;'), ./V=min(/ —у — ft, 4 — /).
Еще одно представление C(l, j) в виде суммы получается, если
положить в формуле F) j' = l\, k'— 1г, подставить разложение
P/+k, ii-h(z) по 0) п. 4 § 3 и выполнить почленное интегрирование:
„ 4, /;У, k,j+k)=
V (/i-y)«
Если /t — 4 — целое число, то суммирование в этой формуле ве-
ведется по целым значениям s, а если 1г — 4 — полуцелое число, то
суммирование ведется по полуцелым значениям &
4. Соотношения симметрии. Как и функции Р1тп (х), коэффициенты
Клебша—Гордана обладают рядом соотношений симметрии. Покажем
сначала, что
С(/„ 4, l\j, k,j+k) =
= (_ ^i-i,-i,C(/i> 4> h _Jt _k> _y_A). (i)
Для этого достаточно заменить в формуле A3') п. 3 / на —/ и k
на —k, сделать подстановку х=—-у и принять во внимание, что
k -f- 4 — целое число.
Аналогично доказывается, что
С(/„ 4, /; У, К /¦ + *) = (—iy-'!-'¦ СDь /„ /; k, j, j-\-k). B)
Для этого надо воспользоваться формулой A3) п. 3, поменять в ней
местами (/1; у) и (Z2, k) и сделать замену переменной х——у.
Чтобы получить следующее соотношение симметрии, сделаем в
формуле A3) п. 3 замену параметров:

§ 8] КОЭФФИЦИЕНТЫ КЛЕБША — ГОРДАНА 189
Сравнивая результат с формулой A3') п. 3, получим
CV 2 ' 2 ' ' 2 ' 2 ' 'i-'*J =
= С(/Ь l2, I: ]. ft. J+k). D)
Далее, проинтегрируем в формуле A3) п. 3 / — /" — k раз по
частям и сделаем подстановку
, ._ l + i; — k , _ I + ll + V .
i\— 2 > '2"—' 2 ' — 2
Сравнивая результат с формулой A3') п. 3, получим следующее соот-
соотношение симметрии:
г ( l+h-k l + h + k . h-l + k h-l-k
= (- Ф - i УЧг^Т с <'ь '«• '= 1- "¦¦>' +ft>- F)
Комбинируя соотношения D) и F), получаем
С (А, 4, /; j, k,j+k)=(-\)h ~JYS^T\ C^>l' k J, —j—k, ~k). G)
Далее, комбинируя равенство G) с соотношениями A) и B), по-
получаем
4 hi, k,
^+!)» СD, /, к, k, -j-k, -j) =
C(/,/,, 4; -j-k,j,-k)=
Выведенные соотношения симметрии для коэффициентов Клебша —
Гордана удобно представить с помощью введенного Вигнером сим-
\
[к к к \
вола , где
\
у
[к к к \
\тх т* тъ)
с {к. к, 1; J, ь

190 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
Соотношения симметрии для символа Вигнера формулируются сле-
следующим образом: поставим в соответствие этому символу матрицу
третьего порядка
t • i -\ / j i \ j-a \ jл j i jv | j a Jl I /2 УЗ \
' " -" / — m. ¦ /. — яг. i (9)
Уа + «а Уз + ms J
При четной перестановке строк или столбцов этой матрицы или при
транспонировании символ Вигнера не меняется, а при нечетной пере-
перестановке строк или столбцов он меняет знак.
5. Некоторые частные значения. Укажем некоторые случаи,
когда коэффициенты Клебша — Гордана состоят из одного слагае-
слагаемого. Пусть li=j. Тогда в формуле A4') п. 3 остается лишь сла-
слагаемое, для которого s = 0, и мы получаем
с (А, 4, I; 1ъ k.
B/ + 1) (/ + h + k)l (/, - k)\ B/Jl
Используя соотношения симметрии п. 4, получаем одночленные вы-
выражения в случаях:
а)/ = ±/„ б) А==±/» B)y + A = =L/.
Например,
С (А, 4 /;у, /—у, Q = (—lyi-^x
v ЛГ B/ + 1)! AЛ + /, — /)! (/t + У)! (/, + / -/)!
Л У С - /i + «I (/i + /, + /+ 1)! (/i —7I (/, - / +/I (/ + Л — «I " l '
Далее рассмотрим случай, когда / = /|-|-4. В этом случае в фор-
формуле A4') п. 3 остается лишь слагаемое, для которого s = lt—у. Мы
получаем
С (А, 4, А+ 4; У. А, / + *)=
! B/2)!
_ Т/"(/. + /. + j + fe)! (/,
"~ У Ci —У)' ('2 - k)\ (A
2A + 2/2)! • (S)
С помощью соотношений симметрии п. 4 отсюда получаем одно-
одночленные выражения в случаях /=^/2 — А и 1 = 1\ — 4-
Например, при А ^ 4 имеем
с (А, 4, А - к, у, А, у + k) — (— гУ2 +к X
v ЛГ B/. — 2/2 + 1)! B/,I (/, —уI (/, + у)! .4>
Одночленное выражение для коэффициентов Клебша — Гордана

§ 8| КОЭФФИЦИЕНТЫ КЛЕБША — ГОРДАНА 191
получается еще в случае, когда j = k = O. Из формулы A3') п. 3
следует, что
/2, I; 0. 0, O) = fe^7'
Ясно, что этот интеграл равен нулю, если 1-\-1\ -|~4 нечетное число
(в этом случае подынтегральная функция нечетна). Пусть теперь 1-\-
-f~ Л + 4 — 2g", где g—целое число. Легко показать, что
J{p. S, q)= СA_
s\(p — s)l(g — s)!Bp + 2g — 2s+1)! •
В самом деле, при s = 0 значение интеграла E) дается равенством
в соответствии с формулой E). Так как
^_(l_JC»)9=_r_ \2qBq-2)(l -x*)
то
•^(Р, s, q) = 2qBq~2)J(p, s—\, q — 2) — 2qBq — l)J(p, s—1, 9—1). G)
Рекуррентное соотношение G) с начальным условием F) имеет, оче-
очевидно, единственное решение. Подстановка показывает, что этим решением
является выражение E).
Из равенства E) следует, что
С(/„ 4, /; 0, 0, 0)=
— ( i\g-n/ B/+
где 2#=

192 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА (ГЛ. lit
В силу соотношения симметрии D) п. 4 получаем отсюда, что если
2g-= / -j- 2/t — четное число, то
С (ib ix, h j, J, У)=
Если же 2g—нечетное число, то C(llt lx, I; j, j, 2/) = 0.
6. Разложение произведений функций Р1тп(г).В п. 3 было по-
показано, что
(напомним, что коэффициенты Клебша — Гордана в выбранной нами
нормировке вещественны).
Подставим в это равенство выражения функций tl.\, (и), tlgk, (и),
tl:+k у , k,(ii) через углы Эйлера (см. формулы F) п. 3 § 3). После
сокращения на с-'К/+*)? + (/ + *')<И получаем равенство
h + h
2 С(/„ I* I; j, k, j + k) C(lb h, 1; f, k', f + k') X
Эта формула позволяет разложить произведение двух функций рх, (г)
и P%k,(z) по функциям Pj+k ;,k,(z)- B разложение входят функ-
функции Pj + k jt + k.(z), для которых \lt — 41=^/^А+ 4 и 2/ имеет
ту же четность, что и 21Х ~\- 24- Разложение B) называется рядом
Клебшй — Гордана.
Положим в формуле B) j = k=f — k' = O. Так как Р^0(г) =
~Pt(z), а значения С Aи /2) /; 0, 0, 0) даются формулой F) п. 5, то
- 01 (/ - /х
+
= V
f D + 4 + +)[fe1)fe4)(g0iF
где gp=-i—^ и суммирование распространяется на значения
имеющие ту же четность, что и lx -j-4-

§ 8] ' КОЭФФИЦИЕНТЫ КЛЕБША - ГОРДАНА 193
Формула C) позволяет вывести разложение функций Plx, (z) по
присоединенным функциям Лежандра. Пусть у"^|/|. Положив в фор-
формуле A) 4=У> k = —j, k'=j, получим
h+J
= ? С(Л. У. /;У, —У,О)С(/1,у,/;/,у,/+у)Р' ,,.(^)- D)
'=1'»-Л
Так как
С(h, j, I; j, —у, 0)=
_ЛГ B/ + 1) (/ + /. —УI 2/1 (/,+¦/)!
~ Г Л—УI(/—/i
(Л
и
„ у, /; /, у,
B/ +1) (/+У+/)' (h —/)
то
1— г
I Л Г (li+JV(li— У')' ч/
г (*i—УI(Л+У')'~
B/+ !)(/ + /!—УI
Если положить в равенстве B) 4=У» ^=^—У> ^f==—/• то
точно так же получим разложение Pix. (г) по Pt(z):
Ph{z) =2JtJ'~J ]/"(/~/^ + /)'(l -^ A +^)~^" X
X S' С(/„ у, /; у, -у, 0)С(/„ у, /; /, -/, 0)P,(z). F)
' = /»-/
Однако в этом случае второй коэффициент Клебша — Гордана не
сводится к одному слагаемому.
Формула B) приводит также к многочисленным рекуррентным
соотношениям для функций Р^„(^)- Чтобы получить их, надо при-
придать /2 в формуле B) значения 4 = 7* или 1.
7 н. я.

194 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА 1ГЛ. III
Положим 4 = V» k^k' = lli и примем во внимание, что
Р\'^ 1/а (cos S) = cos 6/2, и что по формуле A4') п. 3
il ! / 1 • i l ; | М— Л,Г ll~j
У1' 2 ' 1 2 ' ¦'• 2 ' У ' 2 J ~ |/ 2/, + 1 '
Поэтому мы имеем рекуррентное соотношение
cos 4 /». (cos »)=
Точно так же, полагая /а = & = 1/2) fe' = — ^'а. получаем
( sin |р;, (cos в) = К"'^';+/1 РД-.Й, _ .„
При /2 ^ 1 получаем девять рекуррентных соотношений. Выпи-
Выпишем лишь одно из них, получающееся при f = k' = 0:
V(lt + k + 1) (/, - k + 1) (/, + j + 1) (Г, —у +1Г p!, 4
B/,+ !)(/, + ») *
л к±_р (со-: 6) I У Vi + kHh-bHh+Mh-Л pi,-i
= COS 6 Pji (COS 6).
7. Связь с многочленами Якоби. В этом пункте будет показано,
что коэффициенты Клебша — Гордана являются конечно-разностным
аналогом многочленов Якоби. Для этого понадобится конечно-разно-
конечно-разностный аналог степени, так называемая символическая степень. Пусть
п — целое число и а — любое комплексное число. Назовем символи-
символической п-й степенью числа а и обозначим через а^ выражение
(„)=_ Г(а+1) _ ,п
п Г(й — п+1) • ( }
Далее, введем конечно-разностный аналог производной — оператор
Легко проверить, что
— па , (о)
_ 1 )* - s __^! /(а _|_ s). D)
* = о

8] КОЭФФИЦИЕНТЫ КЛЕБША-ГОРДАНА 195
С помощью формулы D) и равенства A4') п. 3 получаем
к, /; J, k, У + *) =
v
X
Эта формула является конечно-разностным аналогом формулы C)
п. 4 § 3 для функций P^i?)-
Итак, мы доказали, что коэффициенты Клебша •— Гордана являются
конечно-разностным аналогом функций Plmn(z)— матричных эле-
элементов неприводимых унитарных представлений группы SUB).
Указанная аналогия делает естественным предположение, что коэф-
коэффициенты Клебша — Гордана обладают свойствами, аналогичными соот-
соответствующим свойствам функций Р1тп {%)¦ Ниже указан ряд таких свойств.
8. Рекуррентные формулы. Установим рекуррентные формулы
для коэффициентов Клебша — Гордана. Для этого воспользуемся ра-
равенством
h+h
fy®h*= ? С(/„ 4. /;/,*,/ + *) a',+ft, A)
I = \h - h I
где, напомним, {f;-} и {hfr} — канонические базисы в пространствах
•§i и -?>2> а {&1т} — канонические базисы в пространствах $, на ко-
которые разлагается ^i®^. Применим к обеим частям этого равен-
равенства инфинитезимальный оператор Н+. Так как
H+(tj®hk) = H+fj®hk + fj<3H+hk, B)
a {fy} и {h/J — канонические базисы, то
У) D
V 1 C)
(см. формулу F) п. 4 § 2). Точно так же имеем
Подставим полученные результаты в формулу B) и разложим
f/ + i®nft> */®nft + i по формуле, аналогичной равенству A). Срав-
Сравнивая коэффициенты при ajj^k + u получим
V ih —Л D +7Т1У с (к, 4, ^ У +1,
- *) D + * + О с D, 4, ^ Л ft +
) с D. 4. 4 У. *. У + *Х D)

196 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. III
Точно так же, применяя к обеим частям разложения оператор //_,
находим
, 4, I; У- h k, j+k- i)+
+ /D + А)D — A + 1)С(/t, /2, /; j, k—l, j-\-k~l) =
= V (l+j + k)(l — У—A+l) С(/„ 4 /; у, А, у + А). E)
Применение оператора //_//+ приводит к разностному уравнению
для коэффициентов Клебша — Гордана
[D -Л D +У + О + D - А) D + * +1) -
— (/—У — ^(Z+y + A+^lCft. 4 /; J, k; j-\- k) +
) X
4, 4, /;У
+ Vih +У)Й -У +1) D - А) D + А +1) X
X С(/„ 4, /; У- 1, А+ 1, У +А) = 0. F)
Это уравнение является аналогом дифференциального уравнения
второго порядка для функций Plmn(z) (см. п. 5 § 4).
Выведем теперь рекуррентные соотношения для коэффициентов
Клебша — Гордана, связывающие коэффициенты с различными значе-
значениями 1Ъ 4 и /. Для этого воспользуемся тождеством
Применим это тождество к равенству A3) п. 3. После простых
преобразований получаем
!, 4» I; У, k, j-\~k)=
X |V(/-'i+Wi+y+i)C (/, + у,4, /-4; У+у, А, у + А + 4)-
Точно так же из формулы A3') п. 3 получаем
, 4 /; У, А,
4-, 4./-|; У+у
-y-fl) С (л + i-, 4, /—j; У-у, А, У+А-у)]. (8,)

§8] КОЭФФИЦИЕНТЫ КЛЕБША — ГОРДАНА 197
9. Производящая функция. Ряд новых свойств коэффициентов
Клебша — Гордана вытекает из тождества
А = (и,г/2 —
2/+1
где положено
„I — m
m)!
A)
Это тождество доказывается следующим образом.
Реализуем представление Tit(g) в пространстве «?)г, однородных
многочленов степени 2lt от двух переменных'). Одночлены U1,1 обра-
образуют канонический базис в этом пространстве. Точно так же одно-
одночлены Vft2 образуют канонический базис в пространстве ф/2 представ-
представления Ti2(g). Отсюда вытекает, что одночлены il'/vt, —А^/^А.
— 4 sg: k s^ 4 образуют ортогональный нормированный базис в про-
пространстве «?)/! (X) «?)/., представления Th (g) ® Th(g). Представление
Th(g)® Th{g) группы ??/B) в пространстве фа®Ф/2 связано с
преобразованиями переменных
|на, | ^
f 2 P^ + аг/ I
Введем переменные xt и х2, преобразующиеся по формулам
(т. е. контрагредиентные переменным их и и2), и рассмотрим тожде-
тождество
2 ^m^L' D)
m=—I
») См. формулы D) п. 4 | 2 и E) п. 1 f 2.

198 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА (ГЛ. III
где
Ui=-
s V (/ + «)!(/ —s)!
Левая часть этого выражения инвариантна относительно преобразова-
преобразований B') и C). Поэтому при указанных преобразованиях величины Ulm
преобразуются контрагредиентно величинам Х1т.
С другой стороны, выражение А также инвариантно относительно
преобразований B'), B) и C). Поэтому если представить А в виде
то коэффициенты Wlm (зависящие от щ, щ, vx, v$) при преобразова-
преобразованиях B'), B") преобразуются контрагредиентно с Х1т. Но тогда они
преобразуются так же, как и ?/„> т- е- по представлению T,(g).
Это означает, что коэффициенты Wlm в разложении E) преобра-
преобразуются по представлению Tt (g). Поэтому многочлены Wlm могут отли-
отличаться от элементов канонического базиса в неприводимом инвариант-
инвариантном подпространстве фг пространства Sj^ (х)ф/2 лишь общим ска-
скалярным множителем.
Принимая во внимание равенство G) п. 2, выводим отсюда, что')
W*m = P('* 4, I) Ё S С(/„ k, I; j, k, m)Uy Vj«,
и потому
A = (и&ъ ~ ЩЩУ1+h ~l («i*i
; У, k, j + k)uy V'k*Xi F)
Раскрывая скобки в левой части этого равенства, получаем после
несложных преобразований
Р(А, к,
Q
(—1) V(lj + j)\ (h —7I (l2 + fe)l(/8 — k)\ (I -\-j -f fe)l (/ —j — k)\
S'==' T
где
7"=max@, k-\~lt — /, /2 — /—j), Q^min(/i—/i44~^»44~4 — 0*
*) Напомним, что в выбранной нами нормировке коэффициенты Клебша—
Гордана, действительны, а также, что ртличнц от нуля лишь коэффициенты,
для которых т =j -j- Ц,

§8] КОЭФФИЦИЕНТЫ КЛЕБША - ГОСДАЙА
Чтобы найти нормирующий множитель р (/,, /2, /), положим в равен-
равенстве G) j=llt k = — 4 и используем формулу A2) п. 3. При вы-
выбранных значениях j и k в сумме G) остается лишь слагаемое, для
которого s = 0, и мы получаем равенство
Отсюда имеем
г
Следовательно, из формулы F) получаем
—-HawO'i'+'a-' («tJCg-f-HaJfi
_ -¦ A</t + /i - О' (/ + Л — 4)! (/ — Л + /,)l (Л + /, + / + 1)!
X S 2 С(/„4/;^,/+*)№^, (9)
где t/'.1, V^2 и X' fe задаются формулами A).
Тем самым наше утверждение доказано. Попутно мы получили
новое разложение для коэффициентов Клебша—Гордана:
С(/„ 4 /; Л A, j + k) =
(—\)SV
/B/+i;
Ci +У)! (
) (Л + 4 — ?
Ci +
4 —У)! D +
>!(/. — /.¦
4 + /+
ft)! (/2 —,
-f /)! (/ -f- /2 — /,
1)!
fe)l(/+y + ft)l(/
- X
; b\\
x У (-DVGT+7)I (Л —У)! (/i + *)l № — fe)' (/ +У + *)l (/ —J =ГЖ nm
Тождество (9) и дает производящую функцию для коэффициентов
Клебша—Гордана. Как и производящую функцию для Р1тп(х)> ее
можно использовать, чтобы получить ряд новых свойств указанных
коэффициентов.
Пусть lx = /j -f- I'i к = /а + С /=Z' + /"• Тогда имеет место тож-
тождество
X [(«л
A1)
Применим к обеим частям полученного равенства разложение
(9), подставим выражения A) для U1,1 и т. д., после чего сравним

200 ГРУППА УНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА [ГЛ. Ш
коэффициенты слева и справа. Мы получим
«С(/„ 4 l;j, *,/ + *) =
Е «V'Ctf, /; /'; /, k\ f + k') C{&, II I"; f, k", j" + k").
k'+k"=k
A2)
Здесь для краткости положено
а — К (
*)'(* +Л — 4I (/-/, + 4)! (/! + /, + /+1I
B/ + 1) (/, +;)! (/, —j)\ (/, + k)\ (I, — ft)! (/ +j + ft)! (/—У - ft)!
и аналогичный смысл имеют а' и а" (с заменой /1( 4 А У> А на l'v
il i', f, и или ii i;, r, г, к").
Положим в тождестве A2) l\ =y, l\ = ~n, t' = 0. В этом слу-
случае у" и k" могут принимать лишь значения /'^ —, k" = =- или
j"=~~t tf' = — . Из формул A) п. 5 и A) п. 4 следует, что
2
и потому получаем
i i
X
X [/(/i+/X^-A)c(/,-y, 4-у, /; У -у, * +Т'
- /(А -У)D + А) С (/, - у, к ~ 4 , 4 У + у, *-у.
A3)
Аналогично, полагая 11 = —, 4 = 0, /"=к-, получаем
СD, /2, /; у, А, У + А)= У
X [У (А+/)(/+А"+Л^ (/, - у, 4 / - у; У - у, k, k+j~ 1) +
b-f) С [к - у > 4 /—у; У-+4 - *>

ГЛАВА IV
ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ
И ФУНКЦИИ БЕССЕЛЯ
В этой главе будут изучены функции Бесселя. Подобно тому как
изучение многочленов Лежандра и Якоби оказалось связано с пред-
представлениями группы вращений трехмерного евклидова пространства,
изучение функций Бесселя связано с представлениями группы М{2)
движений евклидовой плоскости. При этом возникают осложнения,
вызванные некомпактностью группы движений плоскости.
§ 1. Группа Ж B)
1. Определение. Движениями евклидовой плоскости называются
преобразования этой плоскости в себя, сохраняющие расстояния
между точками и не меняющие ориентации плоскости. Примерами
движений являются параллельные переносы плоскости и вращения
плоскости вокруг некоторой точки. Множество всех движений пло-
плоскости образует группу. Мы будем обозначать ее через МB).
Выберем на плоскости систему декартовых координат. Из анали-
аналитической геометрии известно, что каждое движение плоскости задается
в этой системе координат следующим образом: движение g переводит
точку Р(х, у) в точку Р'(хг, у'), где
х' — х cos а —у sin a. -{- а, \
у' = х sin o.-\-y cos a-j-fc. J
Очевидно, что числа а, Ъ, а однозначно определяют движение g и
однозначно определяются этим движением (параметр a — с точностью
до слагаемого, кратного 2ir). Поэтому каждый элемент g группы М B)
задается тремя параметрами, а, Ь, а, где
— оо <^ а <^ оо,
— со <; Ь < со,.
О ^
B)

202 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ [ГЛ. IV
Будем обозначать элемент g группы МB), задаваемый параметрами
а, Ъ, а, через g(a, Ь, а).
Укажем некоторые другие реализации группы М B). Каждому дви-
движению g(a, b, а.) поставим в соответствие матрицу
/cos а — sin а а ^
T(g)=[ sin а cos а Ъ ';. C)
\ 0 0 1/
Простой подсчет показывает, что
Поэтому T(g) является представлением группы М{2). Это представ-
представление точно, т. е. T{gi)^T{g^, если gi^g^. Таким образом,
группа М{2) реализуется как группа вещественных матриц третьего
порядка, имеющих вид C).
Группу М B) можно реализовать и с помощью комплексных мат-
матриц второго порядка. Именно, движению g(a, b, а.) поставим в соот-
соответствие матрицу
(la
-: :)¦
где z = a-\-bl. Легко проверить, что Q(gi) Q(ga) =
Q(g\) Ф Q(gd> если ^j ф g-2.
2. Параметризации. Одну из параметризаций группы МB) мы
уже указали выше. Именно, было показано, что каждый элемент g
этой группы задается тремя числами, а, Ь, а. Найдем, как выражаются
параметры произведения двух элементов группы через параметры
сомножителей. Пусть gi = glau bb o^). и g4 = g(<h, fc2, «а)- Перемно-
Перемножая матрицы 7"(gi) и T(g%), получаем
^cos (aj -j- «а) — sin (ai + аз) ai + «2 cos at — b% sin аД
= ! sin(o!-|-aa) совСа,-}-^) bt -f- a% sin a, -(- fc2 cos at j. A)
V о о l /
Отсюда следует, что параметры а, Ь, а элемента g=gigz выра-
выражаются следующими формулами:
osa.1 — b2 sin ah B)
= h -(- (Ц sin ai + ^2 cos alF B')
B")
Полученные формулы можно записать в следующем виде. Обозна-
Обозначим вектор (аь b\) через х, а вектор (аа, Ь%) через у. Далее, обозна-

§ Ч ГРУППА М B) 203
чим через уа вектор, получающийся из вектора у вращением на угол а.
В этих обозначениях равенства B) — B") принимают вид
C)
Из формулы C) следует, что если g=g(x, а), то
g~1 = g(~x_a,2K~cC). D)
Группа МB) является примером широкого класса групп—скрещенных
произведений коммутативных групп и их групп автоморфизмов. Именно,
пусть В— некоторая коммутативная группа и А—группа, элементами ко-
которой являются автоморфизмы группы В. Рассмотрим пары вида (Ь, а), где
b € В, а ? А, и определим умножение этих пар формулой
(*i, «i) (h, «s) = (h + «A, flie2)
(atbs — элемент, в который переходит элемент bs группы В при автомор-
автоморфизме flj). Легко проверить, что множество О пар (Ь, а), а ? А, Ъ ? В обра-
образует группу относительно этого умножения. Элементы вида ф, е), где е —
тождественный автоморфизм, образуют нормальный делитель в G, изоморф-
изоморфный группе В, а элементы вида @, а) — подгруппу, изоморфную группе А.
Группу О называют скрещенным (или полупрямым) произведением групп В
и А и обозначают G = B*A. Группа МB) евклидовых движений плоскости
является скрещенным произведением двумерного вещественного линейного
пространства и группы евклидовых вращений этого пространства:
М B) = ?2 if SO B). E)
Народу с параметрами а, Ъ, а. в группе МB) удобно применять
другие параметры, аналогичные углам Эйлера для группы вращений
трехмерного евклидова пространства. Эти параметры определяют сле-
следующим образом. Зададим вектор х^(а, Ь) полярными координа-
координатами, т. е. положим a = r cos <?, b^r sin ср. В качестве параметров,
определяющих движение g(a, b, а), примем числа г, <р, а. Мы будем
писать g(a, b, <x) = g(r, <p, а), и надеемся, что это не приведет к не-
недоразумениям. Очевидно, что параметры г, <р, а изменяются в следую-
следующих пределах:
F)
Аналогом разложения .F) из п. 1 § 1 главы III является для
группы МB) разложение вида
g(r, <p, a) = g@, 0, <?)g(r, 0, 0)^@, 0, а —<р). G)
Движения g-@, 0, <р) и g@, 0, а — ер) являются вращениями вокруг
начала координат, а g(r, 0, 0) — параллельным переносом на ^> 0
вдоль оси Ох.

204
ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ
[ГЛ. IV
Если g1 = g(r1, 0, а,) и
легко вытекает, что
= g(h, 0, 0), то из формул B) —B")
<р, а), где
(8)
cos а„
а =04.
(8')
(8")
Геометрический смысл этих формул ясен из рис. 1.
Общий случай легко сводится к рассмотренному. Именно, чтобы
найти параметры произведения glgi движений gl = g(rl, <p1; oij) и
gt (Гъ> Ъ> аа)> ШД° в формулах (8) — (8") заменить at на оц -\- <р2 — <pi,
<р на <р — <р| и а на а — о^. В самом
деле, из разложения G) и равенства
У
ос.
вытекает, что
i = g@, 0,
, 0, <р2) =
0,
, 0, 0)Х
Рис. 1.
A0)
. 0, 0)
\ 0,
* 0, 0)^@, 0, а2 —
Параметры движения g'.= g(rt, 0, 0)^@, 0, а, -|-
могут быть вычислены по формулам (8) — (8") (с заменой осх на
ai ~\~ Тз — Ti)- Но при умножении движения g на ^(О, 0, <ft) слева и
на g@, 0, а2 — <р2) справа параметр <р увеличивается на <pi, а пара-
параметр а — на а2 -j- <pt — <р2.' Отсюда легко вытекает наше утверждение.
3. Алгебра Ли. Вычислим теперь алгебру Ли группы М B). Рас-
Рассмотрим в группе МB) три однопараметрические подгруппы: под-
подгруппу Qlt состоящую из матриц вида
г\ О t\
0 0
подгруппу
состоящую из матриц вида
/1 0 0\
ш,@= 0 1 t
\0 0 1
и подгруппу Q3, состоящую из матриц вида
/ cos t — sin t
oK (t) = sin t cos t
\ 0 0
0)
d')
A")

§ Ч ГРУППА М B) 205
Очевидно, что касательная матрица at= "Ч, для подгруп-
подгруппы Qj имеет вид
/0 0 1\
а,= 0 0 0. B)
\о о о/
Точно так же касательная матрица для подгруппы 22 имеет вид
/0 О О\
B')
а для подгруппы 23 — вид
/О -1 0\
1 0 Oj. B")
\о о о/
Поскольку группа МB) задается тремя параметрами, а матрицы а1;
а2, а3 линейно независимы, то они образуют базис в алгебре Ли
группы МB).
Соотношения коммутации для матриц at, а.г, аъ имеют следую-
следующий вид:
К 0,1 = 0, C)
\а%, а3] = аь C')
[а3, а,] = а2, C")
где, напомним, [а, Щ^аЪ — Ъа.
Мы видим, что эти соотношения напоминают приведенные в п. 3
§ 1 главы III соотношения коммутации для алгебры Ли группы
SUB) (или, что то же, для алгебры Ли группы 50C), локально
изоморфной SUB)). Различие состоит лишь в том, что в первом из
этих соотношений аъ заменено нулем. Алгебра Ли группы М B) может
быть получена путем предельного перехода из алгебры Ли группы
S0{2>). Для этого надо заменить в алгебре Ли группы S0B>) at на
Rat и а2 на Rait а после этого устремить R к бесконечности. В п. 1
§ 7 будет показано, что и сама группа МB) получается путем ана-
аналогичного предельного перехода из группы 50C).
4. Комплексификация. Построим комплексную группу Ли, одной из
вещественных форм которой является группа М B). Для этого будем
считать в группе Ж B) параметры а, Ь, а комплексными числами. Очевидно,
что параметр а определен при этом с точностью до кратного 2л. Поэтому
указанные параметры изменяются в следующих областях: а к b пробегают
всю комплексную плоскость, а о — полосу 0 ^ Re о < 2л.

206 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ [ГЛ. IV
Очевидно, что параметрические уравнения B) —B') из п. 2 сохраняют
свой вид и при переходе к комплексным значениям параметров. Обозначим по-
построенную группу через М B, С). Группа МB) является подгруппой груп-
группы Ж B, С), соответствующей вещественным значениям параметров с, Ь, а.
Наряду с параметрами а, Ь, а в группе МB, С) можно использовать
параметры г, <р, а, связанные с а, Ь, а равенствами a = rcostp, b = r sin ср.
Эти параметры изменяются в следующей области:
Re г > 0, 0 s? Re ср < 2я, 0 s? Re a < 2я;
для них сохраняют силу параметрические уравнения (8) — (8") из п. 2.
Заметим еще, что алгебра Ли группы МB, С) состоит из линейных
комбинаций матриц о1? а2, ва (см. п. 3) с комплексными коэффициентами.
§ 2. Неприводимые унитарные представления группы Ж B)
1. Описание представлений. Дадим описание неприводимых
представлений группы М B). Обозначим через 3D пространство беско-
бесконечно дифференцируемых функций /(х) на окружности х\ -\- х\ = 1.
Зафиксируем комплексное число R и поставим в соответствие каждому
элементу g(a, а) группы ЖB) оператор TR(g), переводящий функцию
/(х) в функцию
^fe)/(x) = ^'a-x)/(x_a). A)
Здесь х„а — вектор, в который переходит х при вращении на угол — а,
и (a, x) = a,x,-f а%Хъ-
Покажем, что TR(g) является представлением группы ЖB). Пусть
gi=g(a, «) и gi = g(b, P). Тогда
Так как (b, x_a) = (btt, х), то
TR (ft) TR fe)/(x) = е«(а + "-¦ х>/(х_„
С другой стороны, по формуле C) п. 2 § 1 имеем
и потому
Поэтому TR(g1gi)=TR(g1)TR(gss). Тем самым доказано, что 7^(§)
является представлением группы Ж B).
Параметрические уравнения окружности jef -f- -v| = 1 имеют сле-
следующий вид:
ф<21с. \
J
cos ф, \
У 0<ф<2 \ B).

§ 2] НЕПРИВОДИМЫЕ УНИТАРНЫЕ ПРЕДСТАВЛЕНИЯ 207
Поэтому мы можем считать функции /(х) из пространства 3) функ-
функциями от <]j:
/)
Операторы TR(g) записываются при этом так:
TR fe)/(t) = eRr cos (ф ~'>/(ф - a), C)
где a = (rcoscp, r sin <p), g=g(a, a).
Введем в пространство 3) скалярное произведение, положив
ел. Л)=i j л (ф)лщ^. D)
Пополнив 2) по этому скалярному произведению, получим гильбер-
гильбертово пространство .?). Ясно, что представление TR(g) унитарно отно-
относительно скалярного произведения D) тогда и только тогда, когда
R = гр — чисто мнимое число.
2. Инфинитезимальные операторы. Вычислим инфинитезимальные
операторы представлений TR(g). Оператор 7"R(u^(?)), где
/1 0 А
«0,@=1 о 10, (О
\0 0 1/
переводит функцию /(ф) в
Отсюда вытекает, что
р ГГ)<! ,1, (<?\
К LOS> tj), (Z)
т. е. Л, — оператор умножения на jR cos <]).
Точно так же доказывается, что инфинитезимальный оператор А%,
соответствующий подгруппе 22 матриц вида
/1 0 0\
«0,@== 0 It), C)
\0 0 1/
задается формулой
A2 = #sin<}>. D)
Оператор же А3, соответствующий подгруппе Q3 матриц вида
'cos t ~ sin t 0\
= [ sin t cost Oj, E)
0 0 1/

208 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ [ГЛ. IV
задается формулой
3. Неприводимость представлений. Докажем, что при ЯфО пред-
представления TR(g) неприводимы. Заметим сначала, что сужение пред-
представления TR(g) задает представление
г*К(«))/(ф)=/(ф-«) A)
подгруппы Q3 вращений плоскости. Но это представление является
не чем иным, как регулярным представлением группы вращений
плоскости. В п. 3 § 2 главы II было показано, что инвариантными
подпространствами в 1q относительно представления A) являются
одномерные подпространства .?)„, состоящие из функций вида апе1П^.
При этом сужения представления 7"л(ю3(а)) на различные подпро-
подпространства .?)„ не эквивалентны между собой.
Пусть %¦—ненулевое подпространство в .?), инвариантное отно-
относительно всех операторов TR(g). Тогда, в частности, X инвариантно
и относительно всех операторов 7"^ (со3 (а)). Следовательно, в силу
п. 3 § 3 главы I оно должно быть ортогональной прямой суммой
некоторых из пространств .?)„:
?• B)
Поэтому % содержит по крайней мере одну из функций е1'"*.
Нам осталось показать, что если инвариантное подпространство
% содержит одну из функций е*, то оно содержит и остальные
функции е1**, — оо <^ к <^ оо. Но если пространство % инвариантно
относительно всех операторов TR(g), то оно инвариантно и относи-
относительно инфинитезимальных операторов Аь Аь Ая. Выясним, как дей-
действуют эти операторы на базисные функции е""^. Из формул B),
D) и F) п. 2 вытекает, что
R cos фе***, C)
Rsin^e^, C')
A3eik*= — ike'**. C")
Введем линейные комбинации Н+ = Л, -f- /Л8, Н_ = А1 — iAa опера-
операторов Л, и Л2. Подпространство % инвариантно относительно этих
операторов. Но оператор Н+ переводит функцию е1** в функцию
//+в?** = /?в"*+1>*. D)
Оператор же Н_ переводит е'к* в
Я_в*** = /?в"*-1)*. D')
Отсюда^следует, что если инвариантное подпространство X содержит
одну из функций ein*, то оно содержит и все функции е***,"

S 2] НЕПРИВОДИМЫЕ*УНИТАРНЫЕ ПРЕДСТАВЛЕНИЯ 209
— со <^ k <^ со, т. е. совпадает с ^. Тем самым доказано, что любое
ненулевое инвариантное подпространство в «?> совпадает с .?>, т. е.
доказана неприводимость представления TR (g) при R^O.
Если R = 0, то представление TR(g) принимает вид
/ «). g=(x, <*)• E)
Это представление, как уже отмечалось выше, приводимо. Оно рас-
распадается в прямую сумму одномерных представлений
Ton(g) = ein*. F).
Можно доказать, что представлениями TR (g), R ф 0 и Тю (g),
— со<^л<^со исчерпываются все неприводимые представления группы
Ж B) (см. [297]).
4. Представления скрещенных произведений. Описанная выше кон-
конструкция представлений T-(g) группы - МB) является частным случаем
общей конструкции представлений скрещенных произведений. Пусть
G—B*A — скрещенное произведение коммутативной группы В и группы
ее автоморфизмов А. Обозначим через X группу, элементами которой
являются одномерные представления группы В, т. е. такие скалярные
функции У.(Ь), Ь^В, что
A)
Каждому автоморфизму а группы В соответствует автоморфизм й группы
X, определяемый формулой
X(e-ift), B)
причем atus = (OjO2).A Поэтому группа А изоморфна группе автоморфизмов А
для X.
Разложим группу X на классы транзитивности относительно преобразо-
преобразований А. Пусть Ф —один из этих классов, и /(ср) — функция, заданная на Ф.
Каждому элементу g = (b, а) группы Q поставим в соответствие оператор
T(g), определяемый формулой
Так как при g-1 = (*1) a,), g2 = (bs, c2)
и
(bu fli) (*2, e2) = (*i + ajs, atas),
то T(g) является представлением группы Q в пространстве функций на Ф.
Выберем в качестве группы В двумерное вещественное линейное про-
пространство, а в качестве А — группу евклидовых вращений. Одномерные
представления группы В имеют вид
где Xt и Х2 — любые комплексные числа и Ь = (Ьи bs). Поэтому X является
') Напомним, что <р ? Ф аХ, и потому является функцией иа В.

210 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ [ГЛ. IV
двумерным комплексным линейным пространством. Классы транзитивности
относительно группы А состоят из пар комплексных чисел вида (R cos a,
R sin о) (R — комплексное число). Легко проверить, что формула C) приведет
в этом случае к рассмотренным выше представлениям Т (g) группы М B).
§ 3. Матричные элементы представлений TR(g)
и функции Бесселя
1. Вычисление матричных элементов. В этом параграфе мы
вычислим матричные элементы tmnig) неприводимых представлений
Tftig) группы ЖB) движений евклидовой плоскости. Согласно § 2
эти представления строятся в пространстве ф функций /(<]j), заданных
на окружности, и таких, что
. A)
Представления TR(g) задаются формулой
а), B)
где g=g(r, <p, а) и ЯфО.
Очевидно, что операторы Tli(g) унитарны в ф тогда и только
тогда, когда R — чисто мнимое число, /? = гр.
Выберем в пространстве ^ ортонормированный базис, состоящий
из функций { е"*} — собственных функций операторов TR (со), со ^ 23,
где 23 — подгруппа вращений плоскости. Матричные элементы t^n (g)
задаются в этом базисе формулой
tUd = (TK(?e"*, eim*). C)
Принимая во внимание выражение D) п. 1 § 2 для скалярного про-
произведения в .?) и равенство B), получаем
2я
$ «*cos <ф" V{п - га) Ч D)
Пусть г = <р = 0, т. е. движение g является вращением на угол а
вокруг начала координат. В силу ортогональности функций егп^
в этом случае
tun(g) = t«n(a.) = e-{nabmn. E)
Таким образом, вращению на угол а вокруг начала координат соот-
соответствует диагональная матрица TR(a), на главной диагонали которой
стоят функции е~'""", —оо <^ п <^ оо.

МАТРИЧНЫЕ ЭЛЕМЕНТЫ ПРЕДСТАВЛЕНИЙ Тц(е) 211
Пусть теперь cp = a=O. В этом случае g является сдвигом на
0 вдоль оси Ох и формула D) принимает вид
±. J ea-M>*d1f. F)
о
Подстановка ф= — — б приводит равенство F) к следующей форме:
Введем обозначение
J ° Щ ^ (8)
б
J
б
где п — целое число, и назовем Jn (х) п-й функцией Бесселя от х.
Пользуясь этим обозначением, можно переписать формулу G) сле-
следующим образом:
tL{r) = in-~mJn_m{-iRr). (9)
Итак, матричный элемент tmn (r) матрицы TR (r), соответствующей
сдвигу на г^>0 вдоль оси Ох, зависит от Rr и разности индексов
п — т, и лишь несущественным множителем in~m отличается от
(п — т)-й функции Бесселя аргумента — IRr.
Чтобы получить теперь выражение для Щп(ё) в общем случае,
g=zg(r, <p, а), достаточно сделать в интеграле D) подстановку
ф — <р = -= 8. Мы получим
tUg) = ln'me^n^{m-n)v]Jn^m(r~lRr). . A0)
Впрочем, формула A0) непосредственно следует также из разложе-
разложения G) п. 2 § 1. В силу этого разложения
Tr (g) — TR (Т) 7> (Г) TR (а - i). A1)
Поскольку матрицы 7"^(<р) и Тц(а- — <р) диагональны, и на их глав-
главных диагоналях стоят функции e~~inv и e^in^~'f), a tmn(r) —
= in~mJn-m(—irR), мы приходим к формуле A0).
Как отмечалось выше, при чисто мнимых значениях R, R^ip
представления T%(g) унитарны. Матричные элементы этих представ-
представлений выражаются через функции Бесселя вещественного аргумента
/«Р („\ .-я-я -i[ruL + [m-n)<p) г , х
lmn (g) ' е Jn-m К?')-
Если g—тождественное преобразование, g-=g-@, 0, 0), то опера-
оператор Tj^(g) единичен и ему соответствует единичная матрица. Отсюда
следует, что Jn_m@) = 8mn, J0@)=l и Jn@) = 0 при и^0.

212 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ [ГЛ. IV
2. Связь функций Бесселя с противоположными индексами.
Докажем, что имеет место формула
Jn(z) = (-l)nJ-n(z). A)
Для этого введем в пространстве |) функций /(ф) на окружности
оператор Q1), определяемый формулой
ОТ)=/(-*)¦ B)
Этот оператор коммутирует с оператором TR (g) = TR (г), где g=
= g"(r, 0, 0) — сдвиг вдоль оси Ох. В самом деле,
QTr (г)/(ф) = QeRrzos */(ф) = **r cos «7(— ф)
?>(г) ОТ) = 7«(г)/(- ф) = е*"»*/(- ф),
а поэтому
. C)
Оператор Q переводит базисный элемент е'"Ф в е"'"*, а потому
матрица оператора Q имеет вид (^„J, где 9m,_m = l и qmn = 0, если.
/и -|- я ^ 0- Но тогда из равенства C) получаем
dm,n(r)=^,-BW- D)
Принимая во внимание формулу (9) п. 1, получаем отсюда
Положим в полученном равенстве т = 0, —lRr=z. Мы имеем
тогда
Равенство A) доказано.
3. Разложение функций Бесселя в степенные ряды. Выведем
теперь разложение функций Бесселя в ряды по степеням х. Для это-
этого воспользуемся интегральным представлением этих функций (см.
формулу (8) п. 1). Разлагая в этом представлении е'ХБт^ по степе-
степеням lx sin ф и почленно интегрируя, получаем
fe=0
где
J ** sin ф)*лр. A)
') Группа МB) является подгруппой в группе движений и отражений
плоскости. Оператор Q является оператором в представлении этой более,
широкой группы, соответствующим отражению в оси Ох.

§ 4] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ ФУНКЦИЙ БЕССЕЛЯ 213
Но по формуле Эйлера
k
Подставим это выражение в формулу A). Мы получим, что ад.
отлично от нуля лишь, если k — п — четное неотрицательное число,
k — п = 2т, т^О. Если k = п-j- 2т, то
_ (- \)т _ {-\)т
h 2km\ (k — m)! 2n+2mm\(n + m)\"
Поэтому
CO
I X\n VI ( 1 )m Xsm
Jn (x) = [-jj 2, 2*»1я1(я + 1я)Г • C)
m=0
Разложение (З), очевидно, сходится для всех комплексных значе-
значений z. Функции Бесселя являются целыми функциями от z. Из фор-
формулы C) видно, что при вещественных значениях х функция Jn(x)
принимает вещественные значения.
§ 4. Функциональные соотношения для функций Бесселя
1. Теорема сложения. Теорема сложения для функций Бесселя
выводится аналогично тому, как это было сделано в п. 1 § 4 гла-
главы III для функции Plmn (cos 6). Мы будем исходить из равенства
TR (йй) = TR (g{) TR (gz). Это равенство записывается через матрич-
матричные элементы следующим образом:
2
2 uuigodg,). A)
Положим в этом соотношении gi = g(rl, 0, 0) и g<i = g(r^, <pe> 0).
Тогда параметры г, <р> а> определяющие движение g=gig<z, выра-
выражаются через параметры r1; r2, q>e по следующим формулам:
о5ср2, B)
^ , ()
а = 0 B")
(см. § 1 п. 2).
Подставим в равенство A) выражение матричных элементов, да-
даваемое формулой A0) п. 1 § 3, и положим т = 0, R = i. После
простых преобразований получим
= f]

214
ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ
(ГЛ. IV
где г, г1г г2, <р, <р2 связаны соотношениями B) — B"). Графически
связь величин г, гь г2, <р, <р2 Дана на рис. 2. Формула C) называется
формулой сложения для функций Бесселя. В частности, при я = 0
получаем из нее
0 rt
Рис. 2.
Далее, при ср2 = тг,
D)
Отметим еще следующие частные
случаи формулы C). При ср2 = 0 име-
имеем г = Г\ -\- г2, ср = 0, и потому
со
Jn (П + r2) = ^ J^fe (rt) Л (г2). E)
й=—оо
имеем г = Г! — г2, ср = 0. Поэтому при
со
~~ F)
Наконец, если ср2 = ^-( то из формулы C) вытекает, что
fc= — со
Положим в равенстве F) rx=r^ = r. Мы получим, принимая во
внимание формулу A) п. 2 § 3,
(формула Хансена). Формулу Хансена можно вывести также из
того, что матрица (С* С)) унитарна, а потому (tlmn(r))(tlmn(r))* = e,
где е — единичная матрица.
2. Формула умножения. Умножим обе части формулы сложения
C) из п. 1 на е-'т<?2/2п и проинтегрируем по ср2 от 0 до 2тг. В силу
ортогональности функций е1"** все слагаемые обратятся в нуль, за
исключением слагаемого, для которого k = m. Отсюда вытекает, что
2тс
=^ (л) Jm
A)

§ 4J ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ ФУНКЦИЙ БЕССЕЛЯ 215
где <f, rv г2, г связаны соотношениями B) — B") п. 1. Будем назы-
называть равенство A) формулой умножения для функции Бесселя.
Отметим геометрический смысл формулы A). При фиксированных rt и
rs точка с полярными координатами (г, <р) описывает при изменении <р2 от О
до 2я окружность, центр которой находится в точке А (ги 0), а радиус ра-
равен rs. Таким образом, выражение в правой части формулы A) есть не что
иное, как среднее значение функции е'("9—m9a'/n(r) по этой окружности.
Укажем частный случай формулы A). При ri~rs = R имеем
г — ЧЯсоъЦ-, ?—"?г> и поэтому
(Ю Jm (R) = "И el^m^Jn BR COS <р) d<f. B)
Сделаем в формуле A) замену переменной, приняв за переменную
интегрирования г. При изменении ср2 от 0 до тс переменная г меняется
от rt -\- г2 до | г\ — г21, а при изменении ср2 от -к до 2тг меняется от
I ri — r2 j до г4 -}- г2. Кроме того,
йг __^?fr|^-(ra — rf — r|p
rf«f2~-f- 2r
где при 0 ==?; cpa ==?; тс берем знак —, а при тг ==g <ра ^ 2тс знак -)-•
Поэтому имеем
е _^_^____,, (А)
где ср и ср2 связаны с г формулами B)—B") п. 1.
Особенно простой вид принимает равенство C) при т^п = 0.
Именно, мы имеем
|ГДГ1| ^4г.Т8-(г'-rj-r»«
Выражение в знаменателе подынтегральной функции равно учетверен-
учетверенной площади треугольника со сторонами гь г2, г.
3. Рекуррентные формулы. Как и для функций Pmn(cosB), рекур-
рекуррентные формулы для функций Бесселя вытекают из формулы сло-
сложения. Именно, если считать в этой формуле г2 бесконечно малой
величиной, то формула сложения приведет к рекуррентным соотно-
соотношениям.
Сначала найдем значения производных функций Бесселя при х = 0.
Продифференцировав формулу (8) из п. 1 § 3 по X и положив х — 0,

216 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ [ГЛ. IV
получим
1т. 2*
Jn(p) = L{ е~ы sin 6 с№ = ^ { [е(п1)я — е-<п+1)*] dB. A)
Этот интеграл отличен от нуля лишь при л = ±1. При этом
/1@) = -/_1@)=1.
Продифференцируем теперь обе части равенства E) п. 1 по г2
и положим г2 = 0. Используя найденные значения J'n @) и заменяя
rt на х, получаем рекуррентную формулу
27; (х) = 7„_! (х) ~ Jn+1 (х). B)
Точно так же, дифференцируя обе части формулы G) из п. 1 по
г2 и полагая г2 =0, rt = x, получаем
^ 1(x). C)
Складывая и вычитая формулы B) и C), находим
Лм (х) =^Jn (х) + J'n (x), D)
J^(x)=^Jn(x)-fa(x). E)
Эти формулы можно записать также в виде
или же в виде
F)
), G)
(8;
(9)
4. Дифференциальное уравнение. Из рекуррентных формул (8)
и (9) п. 3 сразу вытекает дифференциальное уравнение для функций
Бесселя. Применим к обеим частям равенства (8) п. 3 дифферен-
дифференциальный оператор —-=-. В силу равенства (9) п. 3 получим
тогда
или же

§ 4] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ ФУНКЦИЙ БЕССЕЛЯ 217
Уравнение A')» которому удовлетворяет функция Jn(x), называют
дифференциальным уравнением Бесселя. Ниже мы дадим еще один
вывод этого уравнения и рекуррентных формул.
Мы доказали, таким образом, что Jn(x) является собственной
функцией дифференциального оператора
2 l x. u I v.2 ГОЛ
соответствующей собственному значению я2 при граничных условиях:
Jn(x) конечна при х = 0. Можно доказать, что этим исчерпываются
все (с точностью до постоянного множителя) собственные функции
оператора B), конечные при х = 0.
5. Производящая функция. Другой путь вывода рекуррентных
соотношений для функций Бесселя основан на применении произво-
производящей функции. Чтобы получить эту функцию, воспользуемся интег-
интегральным представлением
О)
этих функций. Формула A) означает, что Jn(x) является и-м коэф-
коэффициентом Фурье функции fF) = eixsinB. Поэтому имеет место равен-
равенство
со
«=-—оо
Таким образом, eixsinB является производящей функцией для Jn(x)t
Из равенства B) вытекает ряд соотношений для функций Бесселя.
Положив в этом равенстве 6 = -~-, получим
C)
Точно так же, полагая 6 = — находим
2 lr*Ja(x) = e-**. C4)
п = — со
Наконец, полагая 6 = 0, получаем
оо
S Jnix) = \. E)
л = — оо
6. Рекуррентные соотношения. Воспользуемся производящей
функцией, выведенной в п. 5, чтобы получить новый вывод рекур-

218 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ [ГЛ. IV
рентных соотношений для функций Бесселя. Продифференцируем ра-
равенство B) п. 5 по х. В силу формулы Эйлера находим
Мх)ем. A)
Применим к выражению в левой части разложение B) п. 5 и сравним
коэффициенты при е'п6 слева и справа:
J'n (х) = -1 G„_! (х) - У„+1 (*)). B)
Далее продифференцируем обе части разложения B) п. 5 по 6 и при-
применим формулу Эйлера:
оо
^ 4W^- C)
Разложив выражение в левой части по формуле B) п. 5 и сравнив
коэффициенты при еш0, получаем рекуррентную формулу:
М=|лD D)
Мы получили, таким образом, новый вывод формул B) и C) п. 3.
§ 5. Разложения представлений группы М B)
и преобразование Фурье — Бесселя
Подобно тому как функции на сфере разлагаются в ряды по сфе-
сферическим функциям, можно разлагать функции на евклидовой пло-
плоскости в ряды и интегралы по функциям Бесселя. Это связано с раз-
разложением некоторых представлений группы УИB) на неприводимые и
разложением пространств неприводимых представлений на подпро-
подпространства, инвариантные относительно операторов 7"(о>), ш ?¦ Q3 (fi3 —
подгруппа вращений плоскости).
1. Квазирегулярное представление. Так как элементами груп-
группы УИB) являются движения плоскости, естественно строить пред-
представления этой группы в пространстве функций f(x,y)^f(x), задан-
заданных на плоскости. Обозначим через С2 пространство функций двух
переменных f(x, у), —oo<^x<^oo, —со<^у<^со, таких, что
\ \ \f{x,y)?dxdy< + cx>. A)
— со — со
Каждому элементу g группы М B) поставим в соответствие опе-
оператор L(g), переводящий функцию /(х) в функцию
). B)

§5] ПРЕОБРАЗОВАНИЕ ФУРЬЕ — БЕССЕЛЯ 219
Здесь, как обычно, через gx обозначена точка, в которую переходит
точка плоскости х при движении g.
Равенство B) можно записать также в следующем виде:
?fe>/00=/[(*-a)_J, B')
где g=g(a, a).
Так как
L Ы/(х) = L Ы/(й'х) =
й1 х) =/ [(шГ1 х] = L (gig,)/ to,
то L(g) является представлением группы М B). Это представление
унитарно в силу инвариантности евклидовой меры dx^dxdy при
сдвигах плоскости
S i/fe-1») i2 rfx=S i/to i2 ^ c^x)=s i /to i2 dx-
Назовем представление L(g) квазирегулярным представлением
группы Ж B).
Нам нужно разложить это представление на неприводимые. Вос-
Воспользуемся для этого преобразованием Фурье. Каждой функции /(х)
из ?2 поставим в соответствие ее преобразование Фурье
где (х, y) = y\$
Найдем, как преобразуются при переходе от /(х) к F(y) опера-
операторы L(g) квазирегулярного представления. Преобразованием Фурье
функции L(g)f(x)=f(;g~1x) является
C)
Из инвариантности меры dx относительно сдвигов вытекает
Fe{y) = \f(x)e^,y)dx. C0
Если g=g(b, а) (см. § 1 п. 1), то движение g переводит век-
вектор х в вектор ха -\- Ь, где ха — вектор, в который переходит х при
вращении на угол а. Поэтому
Fg (у) = $ /(х) е' К + ь- У dx =
= е1 <"¦ У \ f(x) е1 (»¦ у_„) dx = е1 <ь. Л F (y_J. D)
Итак, мы доказали, что при преобразовании Фурье оператор L (g)
переходит в оператор L (g):
L(g)F(y) = e4by>F(y_J, E)
где g=g(h, a).
Представление L (g) группы М B) эквивалентно представлению L(g),
так как L(g) = QL(g)Q~1, где Q — оператор преобразования Фурье,

220 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ (ГЛ. IV
Поэтому задача о разложении квазирегулярного представления равно-
равносильна задаче о разложении представления L (g). Перейдем к реше-
решению этой задачи.
Функции F(y), являющиеся преобразованиями Фурье функций/(х)
из С2, образуют гильбертово пространство 82, состоящее из функций,
для которых.
\- F)
Мы разложим сейчас это гильбертово пространство в непрерывную
прямую сумму гильбертовых пространств ^, таких, что операто-
операторам L (g) соответствуют в ^>R операторы неприводимых унитарных
представлений группы М B).
Обозначим через ^ гильбертово пространство функций Ф(ф),
заданных на окружности |y|=R, и таких, что
^«. . G)
о*
Положим FR (ф) = F (R cos ф, i?sin<jj). Равенство
со 2ж со
^ (8)
показывает, что пространство 22 является непрерывной прямой сум-
суммой пространств ^>R:
со
(9)
Поскольку функции F(y) из пространства V2 могут, вообще говоря, не иметь
значений в отдельных точках, следует уточнить Eiauie утверждение. Сначала
рассмотрим пространство ® бесконечно дифференцируемых функций F(y),
быстро убывающих вместе со всеми производными при | у | — со. Для ка-
каждой такой функции ЗЕмченис FR(ty) = F(Rcosty, /?sin^) определено. Этим
определяется разложение предгильбертова пространства ® в непрерывную
прямую сумму пространств <BR, состоящих из бесконечно дифференцируе-
дифференцируемых функций на окружностях. Пополняя потом эти пространства по соот-
соответствующим нормам, мы и получим разложение (9).
Выясним теперь, как разлагаются операторы представления L (g).
Для этого достаточно заметить, что операторы L(g) сводятся к вра-
вращениям вокруг начала координат и умножению на функцию
ty-ip^ Поэтому они оставляют инвариантными пространства 1q'r

§5] ПРЕОБРАЗОВАНИЕ ФУРЬЕ — БЕССЕЛЯ 221
функций, заданных на окружностях радиуса R. Отсюда сразу следует,
что оператору L(g) соответствуют операторы LR(g) в простран-
пространствах Jqr, имеющие вид
"9> FR (Ф - °0> A0)
где
g=g(a, a), a = (rcoscp, rsincp).
При этом из равенства E) следует, что
g). A1)
Таким образом, L (g) является непрерывной прямой суммой представ-
представлений LR(g):
со
i(g) = ^\LR(g)RdR. A2)
о
Представления LR(g), определяемые формулой A0), совпадают
с построенными в п. 1 § 2 неприводимыми унитарными представле-
представлениями TiR(g) группы МB). Поэтому равенство A2) дает разложение'
представления L (g) в непрерывную прямую сумму неприводимых уни-
унитарных представлений. Поскольку представления L (g) и L (g) эквива-
эквивалентны, то это равенство дает и разложение квазирегулярного пред-
представления. Ниже мы уточним это утверждение.
2. Преобразование Фурье — Бесселя. Рассмотрим в простран-
пространстве С2 функций f(x, у) с интегрируемым квадратом подпростран-
подпространства 2%, состоящие из функций вида
/(г cos a, rsirio) = «p(r)e'"", A)
где
Выясним, какой вид принимает преобразование Фурье для функций
из пространства 8Я- . .
Подставим в формулу B) п. 1 вместо/(х) выражение <p(r)etna
и положим F(y) = F(R cos ф, /? sin ф). Переходя к полярным коорди-
координатам, получаем
F(Rcosty, Rsin<]>)= j ^y(r)ellRrcos(a-W + nalrdrda =
о о
со 2к
^ dr.

222 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ (ГЛ. IV
Так как по формуле (8) п. 1 § 3
2тс
о
то это равенство можно записать в виде
со
F (/? cos <J>, R sin <JO = 2ninein* $ f(r) Jn (Rr) r dr. B)
о
Итак, преобразованием Фурье функции
/(x) = cp(r)e'"a, x = (rcosa, r sin a)
является функция
где
\ C)
Преобразование C) называют преобразованием Фурье — Бесселя.
Мы доказали, таким образом, что при преобразовании Фурье на пло-
плоскости над «радиальной частью» <р(г) функций из подпростран-
подпространства 2% выполняется преобразование Фурье — Бесселя.
Применяя обратное преобразование Фурье на плоскости, получаем
формулу обращения для преобразования Фурье — Бесселя:
D)
о
Нетрудно показать, используя формулу Планшереля для преобразо-
преобразования Фурье, что функции <р(г) и <&(R) связаны равенством
со со
\\<?(r)\*rdr=\\<Z(R)\*RdR. E)
о о
Его называют аналогом формулы Планшереля для преобразования
Фурье — Бесселя.
Равенство E) показывает, что преобразование Фурье — Бесселя
является изометрическим отображением функций из пространства %%
на функции пространства 1'^, т. е. на функции вида eini*?Q{R), где
со
l\$>(R)?Rdr<:+со.
о
3. Разложение квазирегулярного представления. Мы получили
р п. 1 разложение квазирегулярного представления группы Ж B) на'

§ 5] ПРЕОБРАЗОВАНИЕ ФУРЬЕ - БЕССЕЛЯ 223
неприводимые. Однако это разложение было слишком сложным, так
как мы дважды использовали преобразование Фурье. Найдем непо-
непосредственное разложение квазирегулярного представления.
Пространство ?а является ортогональной прямой суммой подпро-
подпространств $?„:
со
?2 __ -у 21.
п~ — со
В самом деле, любую функцию /(г cos a, rsina) из С3 можно записать
в виде ряда Фурье по а:
со
/(г cos a, rsina)= ^ <р„ (г) е1па, A)
п = — со
где
?« {r)=Ki\f{r cos a, r sin a) e~-inada.. B)
1 J
Применим к слагаемым разложения A) формулу D) п. 2 — пре-
преобразование Фурье — Бесселя. Мы получим
/(г cos a, r sin a) = f] e'"a f Ф„ (R) Jn (Rr) R dR, ' C)
n = —со О
где в силу формул C) п. 2 и B)
¦со 2ic
= ^ J J / (Р cos 6, р sin 6) e'in6Jn (RP) p rf6 rfp. D)
о о
Подставим в формулу C) выражение D) для Ф„(/?) и изменим поря-
порядок суммирования и интегрирования. Принимая во внимание теорему
сложения для функций Бесселя J0(R) (см. формулу D) п. 1 § 4),
получаем
со
/(г cos a, rsina) = ^- f RdRX
2k
X i/(pcos6, psin6)y0 (RY r*-fp3— 2rpcos(a — G))pdGdp. E)
d
Полученное равенство можно переписать в виде
со
F)

224 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ 1ГЛ. IV
где
г cos a, r sin а) =
2тс
G)
Нетрудно показать, что пространство jqk функций fR(x), выра-
выражаемых формулой G), инвариантно относительно сдвигов плоскости.
Эти сдвиги задают представление LR(g) группы МB):
При этом
[L (?>/«]« = LR (g)fR (x) =fR (g-*x). (9)
Поэтому равенство F) определяет разложение квазирегулярного пред-
представления в непрерывную прямую сумму неприводимых унитарных
представлений LR(g):
L(g) = lLR(g)RdR. A0)
о
Это разложение дает явную форму для преобразования Фурье раз-
разложения A2) п. 1.
Приведем пример использования преобразования Фурье — Бесселя.
Применим формулы C) и D) п. 2 к равенству C) п. 2 § 4, записав
его в виде
где
os<pa A1)
г
В силу формул C) и D) п. 2 отсюда следует:
*n{Rr)RdR =
2 el'"9
(r?rl)
если |r, — /-|<r<r + r (
О в противном случае.
Здесь <f2 и <р связаны с rlt r2, r формулами A1).

§ 5]
ПРЕОБРАЗОВАНИЕ ФУРЬЕ - БЕССЕЛЯ
225
4. Инфинитезимальные операторы. Вычислим теперь инфините-
инфинитезимальные операторы квазирегулярного представления L (g) группы
МB). Начнем с вычисления инфинитезимального оператора, соответ-
соответствующего однопараметрической подгруппе Qlt состоящей из элемен-
элементов вида
/1 0 t\
i 0 10'
\о о \ I
A)
Движение g~l переводит вектор х (х, у) в вектор g'1 х = (х — t, у).
Поэтому оператор L (шг (t)) переводит функцию f(x, у) в
L (ш, {t))f (х, у) =f(x -1, у). B)
Значит,
/-0
дх-
Точно так же доказывается, что
Наконец, оператор L(ma(t)), где
(cos t — sin t 0 \
sin t cos/ 0 \
0 0 \j
переводит функцию f(x, у) в
L (oK (t) f(x, y)) =f(x cos t -j-у sin t, — xsin t -j-у cos t).
Поэтому
В полярных координатах операторы А\, Л2, А3 записываются сле-
следующим образом:
. д . sin а д
A casa\
. . д cosct д .
2~~ sin a^p — ~Г~да~у
да ¦
F)
Разумеется, точно такой же вид имеют инфинитезимальные операторы
и для представления LR(g) в пространстве ф^ поскольку оно полу-
получается путем сужения квазирегулярного представления. Из формул F)

226 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ (ГЛ. IV
вытекает, что
Н+— Ах-\-1Аъ= е х \-^;-\ ;г7ГгЬ
G)
С помощью формул G) можно дать новый вывод рекуррентных
соотношений для функций Бесселя. Для этого заметим, что канони-
канонический базис в пространстве .^ состоит из функций
{-i)nJn{Rr)ein\
В самом деле, в пространстве 1qr канонический базис состоит из
функций е1"*. Но при обратном преобразовании Фурье функции
е<«П(|у|—/?) переходят в
о
(см. п. 1 § 3). Отсюда и следует наше утверждение.
Но, как было показано в формулах D) и D') п. 3 § 2, для век-
векторов fn = e'nilJ канонического базиса выполняются соотношения
H+in=iRin+1, (8')
HJn = lWn-x (8")
(в формулах D) и D') п. 3 § 2 мы заменили R на iR, поскольку
Lr (g) ^ Tix(g); см. стр. 221). Те же соотношения должны выпол-
выполняться и для иекторов (—i)ne'naJn (Rn) канонического базиса в <?>/?.
Таким образом, мы получаем из (8')
- **" И+у i) [(~ оп*'"ал т]=R(- w^{м ] я jn+l (Rr).
Раскрывая скобки и полагая R — 1, получаем
rJn+1{r) = nJn(r)~rfn(r). (9)
Точно так же из (8") получаем
rJn л {г) = nJn (г) -f г/п (г).
Из формул (8') — (8") вытекает, что для кекторов канонического
базиса выполняется равенство
HMin = -R4n. A0)
Подставим в это равенство вместо операторов Н+ и Н_ выражения G),
а вместо \п — функции (— г)" elna Jn (Rr). Мы получим, что функции

§ 5] ПРЕОБРАЗОВАНИЕ ФУРЬЕ — БЕССЕЛЯ 227
Бесселя удовлетворяют дифференциальному уравнению
*
Преобразуя его и полагая R=^\, получим уравнение Бесселя
для функций Jn(r).
Отметим в заключение, что оператор И,И_ совпадает с операто-
<32 д2
ром Лапласа А = -^ъ-^--^ , записанным в полярных координатах.
Поэтому из равенства A0) вытекает, что функции einajn (Rr) являются
собственными функциями оператора Лапласа, соответствующими соб-
собственном}' значению — R*;
5. Разложение регулярного представления. Перейдем, наконец,
к разложению регулярного представления
7-fe«)/fe)=/fe«1g) A)
группы УИB). Здесь/(g)— функция на Ж B), такая, что
cv. B)
Обозначим пространство таких функций через .?). Покажем, что регу-
регулярное представление является прямой суммой счетного множества
представлений, эквивалентных квазирегулярному представлению.
Согласно п. 2 § 1 элементы g группы М B) можно задавать векто-
вектором х параллельного переноса и углом ср поворота вокруг начала коор-
координат, g=g(x, ср). Разложим функции /(х, да) из ,fj в ряд Фурье по ср:
со
. C)
n =— оэ
Из этого разложения следует, что ¦?) является прямой ортогональной
суммой пространств Sjn, состоящих из функций вида fn(x)ein<e, где
При этом
2it
E)
Покажем, что подпространства &>п инвариантны относительно опе-
операторов T(g). В самом деле, оператор Т (go), go = g(b, а) переводит
Функцию /(х, ф) в /[(х —Ь)^, <р —<*] (см- Формулу C) п. 2 § 1).
8»

228 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ [ГЛ. IV
Ее коэффициенты Фурье имеют вид
2тс
2тс
о
Следовательно, оператор T(g0) переводит ,§„ в себя и задает в ^„
представление
т„ ЫЛ 00=*"*•"/„ [(х - ьи). F)
Таким образом, имеем
оо
Ф= И >&«> G)
п = —оо
причем
со
= S У» (Й- (8)
Л =— ОО
Покажем, что представление Tn(g) эквивалентно квазирегулярному
представлению. Если сделать преобразование Фурье функции /п(х),
то представление Tn(g0) перейдет в
К Ы Fn (у) = е-""а ё №. у) Fn (y_a).
Определим оператор Q формулой
1"де 9 — полярный угол точки у. Простой подсчет показывает, что
где L (g) — образ квазирегулярного представления при преобразова-
преобразовании Фурье. Тем самым доказана эквивалентность представления Ln (g)
квазирегулярному представлению.
Итак, равенство (8) дает разложение регулярного представления
группы ЖB) на представления Tn(g), эквивалентные квазирегуляр-
квазирегулярному представлению той же группы. Поскольку мы уже умеем раз-
разлагать квазирегулярное представление на неприводимые, задача о раз-
разложении регулярного представления решена.
§ 6. Произведение представлений
1. Кронекеровское произведение представлений T^ig). Пусть
- а) A)
а) B)

§ 6] ПРОИЗВЕДЕНИЕ ПРЕДСТАВЛЕНИЙ 229
— неприводимые унитарные представления группы М B). Построим
кронекеровское произведение Т (g) этих представлений. Согласно До-
Добавлению к главе I, такое произведение строится в пространстве ,?>
функций двух переменных/(^1, ф2), 0^ф1<^2тс, 0=^ф2<^2тс, таких,
что
=i J J 1/ОЬ
J
о
Представление T(g) задается формулой
Т(g)f №, Ь) = eirlR^s^-^+R^s^^f(b — о, ф, — а). C)
Разложим это представление в непрерывную прямую сумму не-
неприводимых представлений. Заметим сначала, что формулу C) можно
переписать в виде
Ь ф -а,«р.-а), C')
где
cos (ф, — ф,) D)
D')
Здесь как R, так и р зависят от Rt, R^ и ф2 — ф(.
Разложим теперь гильбертово пространство .§ в непрерывную
прямую сумму гильбертовых пространств, инвариантных относительно
операторов T(g). Для этого рассмотрим в ^ подпространство <В, со-
состоящее из бесконечно дифференцируемых функций /(ty, ф2). Каждой
функции /(фи ф2) из @ и каждому числу [х, 0sS[J.<^2tc поставим
в соответствие функцию
и обозначим множество всех функций Д (ф), соответствующих при
фиксированном [х функциям из @, через (S^.
Пространства ©^ являются предгильбертовыми пространствами
относительно нормы

230 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ |ГЛ. IV
Для любой функции /(<l>i, tyi) из ^ имеем
о б
2ти 2тс
о о
2тс 2тс 2*
0 0 О
Поэтому пространство .fj является непрерывной прямой суммой про-
пространств ^ •— пополнений C^:
2"
Далее,
где /? и р определяются формулами D) и D') при ф2 — ф, = jx. Это
равенство можно переписать так:
где при g=g(r, ф, а) имеем
Т, fe)/, (ф) - e'^«-«'-f+ИД (ф _ а) (8)
(/? и р зависят от jx по формулам D) и D') при ф2 — "h = f1)- Отсюда
следует, что T(g) является непрерывной прямой суммой представле-
представлений T^ig);
2т.
(9)
Формула (8) показывает, что представление 7'ц (g) эквивалентно
представлению fm(g) группы М B) и потому унитарно и неприво-
димо. Таким образом, мы разложили представление T(g) в непрерыв-
непрерывную прямую сумму унитарных неприводимых представлений.
2. Кронекеровское произведение и формула умножения. Пока-
Покажем, что из полученного разложения кронекеровского произведения ¦
вытекает новый вывод формулы умножения для функций Бесселя.

§6] ПРОИЗВЕДЕНИЕ ПРЕДСТАВЛЕНИИ 231
В самом деле, из формул G) и (9) п. 1 вытекает, что
о
2it
2it
U С
Применим эту формулу к функциям
Для этих функций имеем
Поэтому по формуле A)
о о
2я 2it
g-un+rm? f" __ Цти.— («+m)S1 < С i[Rr
== ;r~s \ e и-Р- \ е
4n- J J
0 , О
2it
2л
0
где, напомним,
?[j ^1 + ^2 t'11
Ho G"(g)/i, /2) является матричным элементом fnm ^ (g) представ-
представления Г (g). Матричные элементы кронекеровского произведения равны
произведениям матричных элементов сомножителей и потому

232 ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ [ГЛ. IV
Подставляя значения матричных элементов ^о1 (g) и t'mo (g) (см. фор-
формулу A0) п. 1 § 3), получаем после несложных преобразований
где р и R выражаются через Ru R4, ф по формулам D) — D") п. 1.
Это равенство лишь обозначениями отличается от формулы умноже-
умножения для бесселевых функций (см. п. 2 § 4).
§ 7. Функции Бесселя и функции Р1тп (х)
1. Группа движений плоскости и группа вращений сферы.
Евклидову плоскость можно в известном смысле слова рассматривать
как сферу бесконечного радиуса: если увеличивать радиус сферы и
соответственно смещать ее центр в бесконечность, сфера перейдет
в пределе в плоскость. В соответствии с этим и группу М B) дви-
движений плоскости можно рассматривать как предел группы SO C) вра-
вращений сферы.
Точнее это означает следующее. Умножение элементов в группе
SO C) определяется формулами B) п. 2 § 1 главы III. Заменим в этих
формулах углы о, 6, ф, б^ 62, ф2 соответственно на Ф, тт. а> ~н< т1.
Gij и возьмем главные члены при R —*¦ со. Несложная выкладка пока-
показывает, что при этом получим формулы (8) п. 2 § 1, задающие
умножение элементов в группе 7ИB).
Итак, группу М B) можно рассматривать как вырожденную груп-
группу 50C) при стремлении R к со. В том же самом можно убедиться,
рассматривая алгебры Ли этих групп. Для группы 50C) соотноше-
соотношения коммутации в алгебре Ли имеют следующий вид:
[аь а2] = а3.
[а2, 03] = ^,
[а3, о1] = а2.
Если заменить параметр t в однопараметрических подгруппах Sj и
Q2 на t/R, и устремить R к бесконечности, то получим в пределе
соотношения коммутации
[а„ а2] = 0,
[а2, а3]=аи
[а3, ai] = o2,
определяющие алгебру Ли группы МB).
2. Функции Бесселя и многочлены Якоби. Связь между груп-
группами 50C) и МB), установленная в предыдущем пункте, делает

§ 7] ФУНКЦИИ БЕССЕЛЯ И ФУНКЦИИ Р1тп \х) 233
естественным наличие связи между матричными элементами неприво-
неприводимых унитарных представлений этих групп. Таким образом, функции
Бесселя — матричные элементы представлений Tip (g) группы М B),
должны возникать путем предельного перехода из функций Plmn (cos 6)—-
матричных элементов представлений Г, (g) группы 5*0 C). Оказывается,
при этом предельном переходе не только R, но и/ должно стре-
стремиться к бесконечности.
Чтобы получить соответствующие формулы, заметим, что функции
/5^jn(cos6) определяются с помощью интегрального представления
|/ (/_п)|(/ + пI X
X \ (cos 1 «?*/* + / sin I e-'
X (/ sin |e!f'2 -f cos -|-e-'V
Положим здесь 6—-J- и перейдем к пределу при /->оо. Мы по-
получим
|2я
Но в силу интегрального представления функций Бесселя (см. фор-
формулу (8) п. 1 § 3) полученное равенство можно переписать следующим
образом:
lim /Wcosf)=/m nJm^n(r\ A)
l-
Отметим частный случай выведенной формулы. При т-=^п—\
имеем
lim
Таким образом, Jo (r) получается путем предельного перехода из мно-
многочленов Лежандра.
Заметим еще, что оператор Лапласа на группе Ж B) получается
из оператора Лапласа на группе SUB) путем аналогичного предель-
предельного перехода. Мы опускаем детали этой выкладки.

234
ПРЕДСТАВЛЕНИЯ ГРУППЫ ДВИЖЕНИЙ ПЛОСКОСТИ
[ГЛ. IV
3. Асимптотическая формула для коэффициентов Клебша —
Гордана. Установленная связь между функциями РтлО?) и функциями
Бесселя позволяет установить асимптотическую формулу для коэффи-
коэффициентов Клебша—Гордана в случае больших значений 1Ъ 4, /. Вос-
Воспользуемся для этого формулой F) п. 3 § 8 главы III. Полагая в этой
формуле /=/, k' = k и учитывая, что коэффициенты Клебша—Гор-
Клебша—Гордана действительны, получаем при натуральном N
[С(Щ, М2, М; у; k; /±k)]* =
_ 2Л7 + 1 С
~ 2 }
— 1
х
dx.
Сделаем подстановку x=cos ^ и перейдем к пределу при N-*- со.
В силу формул A) п. 2 и A2) п. 3 § 5 мы получим
lira N[C(Nlb Me, Nl; j, k, j-\-k)f =
N--co
= 1\JO (y/,) Jo (V4) Jo (vQy dy =
2/
71 УЩ11 — (I2 —- /? — l%f
если |/, — 4 !</</,
О в противном случае.
Полученное выражение не зависит от j и k. Ясно, что знак
С (Mi, M2, Nl; j, k, j-\-k) совпадает при больших значениях 7V со
знаком С(Л//„ Ms, М; 0, 0, 0), т. е. со знаком (— 1)"(?-'), где
/ -\-1\ -\- /а = 1g. Отсюда вытекает, что
C(Nlx, М2, М;/, k, j + k)~
2/
7V]/4/f/l —(/2 —/f —/IJ
если |/,-/,!</<
0 в противном случае.

ГЛАВА V
ПРЕДСТАВЛЕНИЕ ГРУППЫ ДВИЖЕНИЙ ПСЕВДОЕВКЛИДОВОЙ
ПЛОСКОСТИ И ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА
В предыдущей глаге было показано, что многие сеойстеэ функ-
функций Бесселя с целым индексом связаны с представлениями группы
движений евклидовой плоскости. Чтобы перейти к функциям Бесселя
с произвольным индексом, нам придется заменить евклидову пло-
плоскость псевдоевклидовой, для которой подгруппа вращений не являет-
является компактной. Покажем, что представления группы движений псевдо-
евклидоиой плоскости задаются интегральными операторами, ядра
которых выражаются через функции Ганкеля и Макдональда, тесно
связанные с функциями Бесселя с произвольным индексом. Отсюда
будет выведен ряд свойств этих функций. В начале главы будут рас-
рассмотрены представления группы линейных преобразований прямой
линии — одномерного аналога группы движений псевдоевклидовой
плоскости.
§ 1. Представления группы линейных преобразований
прямой линии и Г-функция
1. Группа линейных преобразований прямой линии. Изучим
представления группы G линейных преобразований прямой линии,
сохраняющих ориентацию, т. е. преобразований вида у =ах -\-Ь, где
а^>0. Каждый элемент g группы О определяется двумя -веществен-
-вещественными числами, а^>0 и Ъ. Элементы группы О будем обозначать
через g(a, b).
Если у = аъх ~\-Ь% и z = щу -\- Ъх, то
z = аха^х -)- а А
Поэтому групповая операция в группе О задается формулой
g{K ai)g(?2, a2) = g(b1 + аА, ata2). A)
Из формулы A) видно, что элементы вида g(b, 1) образуют в груп-
группе О подгруппу, изоморфную аддитивной группе R вещественных

236 функции ганкеля и макДональда [Гл. v
чисел:
Элементы же вида g@, а) образуют подгруппу А в Q, изоморфную
мультипликативной группе R+ положительных чисел:
Группа G изоморфна группе матриц вида ( „ ). Это непосред-
непосредственно вытекает из равенства
(а1 ЬЛ /а2 Ь2\ (ala2 аф2 -j- Ьг
о 1 До i)-[o l
Группа G является скрещенным произведением аддитивной группы R
вещественных чисел и группы Я+ ее автоморфизмов х — ах, а > 0.
2. Неприводимые представления группы G. Построим неприво-
неприводимые представления группы О. С этой целью рассмотрим представ-
представления группы G, индуцированные одномерными представлениями е1ь
подгруппы В элементов вида g(b, 1). Согласно п. 6 § 2 главы I
индуцированные представления строятся в пространстве 3\ функций
f{g) на группе G, таких, что
f(g(b* Vg(b, a)) = e^of(g(b, a)). A)
Если положить f(g)=f(b, а), то равенство A) записывается так:
f(b-\-bu,a)=:e™«f{b,a). B)
Поэтому функции f(b, а) из пространства 2)х имеют вид
f(b, а) = е»/@, а) = е» <р (а), C)
где ср(а)^/(О, а) — функция на подгруппе А (или, что то же, на
луче 0<^а<^оо).
Операторы индуцированного представления выражаются формулой
Выясним, как записываются эти операторы при переходе от функций
f(g) к функциям ср (а). Так как
g@, a)g(b6, ao) — g(abo, aoa),
то
fix Ы «р (а) = / (ab0, аоа) = е^о <р (поа).
Итак, представление Rx(g) группы О, индуцированное представ-
представлением еи подгруппы В, строится в пространстве функций на
полуоси 0<^х<^оо и задается формулой
RAg)?(x) = eMx9(ax) E)
(мы заменили а на х и а0, Ьо на а, Ь).

§ \) ПРЕДСТАВЛЕНИЯ ГРУППЫ ЛИНЕЙНЫХ ПРЕОБРАЗОВАНИЙ
Очевидно, что операторы Rx(g) оставляют инвариантным прост-
пространство 2) бесконечно дифференцируемых финитных функций на
полуоси, обращающихся в нуль в некоторой окрестности точки х = 0.
В дальнейшем будем рассматривать операторы /?x(g) в этом прост-
пространстве.
Найдем инфинитезимальные операторы представления Ri(g), соот-
соответствующие однопараметрическим подгруппам А к В. Элементам
g@, e') подгруппы А соответствуют операторы
Kxfe@,eO)<P С*) = ?(*'¦*). F)
Продифференцируем обе части этого равенства по t и положим ^ = 0.
Мы получим, что инфинитезимальный оператор ак имеет вид
atf(x) = x<f'(x). G)
Иными словами,
а,=х4~. G')
л dx K '
Точно так же из равенства
Kxfeftl» ?(¦*) = *"*?(¦*)
вытекает, что инфинитезимальный оператор представления Rx(g), соот-
соответствующий подгруппе В, имеет вид
b^(x) = lxv(x). (8)
Поэтому
Ьх = 1х. (8')
Операторы а-^ и Ьу_ определены во всем пространстве 2). Соотно-
Соотношение коммутации для операторов ах и Ьх имеет вид
Покажем, что при X ф 0 представления Rx (g) группы О опера-
торно неприводимы, т. е. что любой оператор Q, перестановочный
с операторами Ri(g), кратен единичному. Из перестановочности опе-
оператора Q с операторами представления Rx вытекает его перестано-
перестановочность с инфинитезимальными операторами ах и Ьх. Но оператор
Ьх лишь постоянным! множителем отличается от оператора умножения
на х. Отсюда вытекает, что оператор Q, перестановочный со всеми
операторами Rx(g), должен быть перестановочен и со всеми операто-
операторами умножения на многочлены, а потому и со всеми операторами
умножения на функцию (напомним, что операторы действуют в про-
пространстве финитных функций).
Известно, что единственными операторами в пространстве беско-
бесконечно дифференцируемых финитных функций, перестановочными со все-
всеми операторами умножения на функцию, являются операторы умножения

238 ФУНКЦИИ ГАНКЁЛЯ И МАКДОНАЛЬДА [ГЛ. V
на функцию. Поэтому оператор Q имеет вид
Q? (¦*)=? (¦*)?(•*)• (Ю)
Чтобы вычислить функцию q (х), используем перестановочность опе-
оператора Q с операторами
Я* (g@, а)) <р (х) = <р (ах). A1)
Равенство QRi(g@, a)) — Ry_(g@, a))Q означает, что
q (х) ср (ах) = q (ax) <р (ах)
и потому q(x) = q(ax). Следовательно, q(x) — постоянная. Тем са-
самым доказано, что любой оператор Q, перестановочный со всеми
операторами R^(g), кратен единичному оператору, а следовательно,
представление R^(g) операторно неприводимо.
При Х = 0 представление R^(g) принимает вид
(V2)
Это представление является не чем иным, как регулярным предстаи-
лением подгруппы А, и потому приводимо. Неприводимыми компо-
компонентами представления Ra(g) являются унитарные одномерные пред-
представления
g(b,a)^a^ A3)
группы О.
Мы построили, таким образом, серию Rx(g) неприводимых пред-
представлений группы G.. Покажем теперь, что если X = fy,, где ^^>0 —
положительное число, то представления R^(g) и R(L(g) эквивалентны.
В самом деле, обозначим через S оператор
= <p(tx) A4)
в пространстве 3). Легко проверить, что
S 1Rxfe)S = RI1fe) A5)
и, следовательно, представления Ry_(g) и R^(g) эквивалентны.
До сих пор мы рассматривали представления R^(g) в простран-
пространстве 2) бесконечно дифференцируемых финитных функций на полу-
полуоси 0<^х<^оо, обращающихся в нуль в некоторой окрестности
точки х = 0. Введем теперь в это пространство скалярное произве-
произведение, положив
¦dx
Op, <!>)=\<рС*Ж-*)т A6)
(мера — инвариантна относительно преобразований подобия х—-ах
„ d(ax) dx\ ., „ ,
на прямой:—^—'-=— . Найдем, при каких значениях X представле-

§ 1] ПРЕДСТАВЛЕНИЯ ГРУППЫ ЛИНЕЙНЫХ ПРЕОБРАЗОВАНИЙ 239
ние R\(g) унитарно относительно этого скалярного произведения.
Имеем
ax) — =\
о
Ясно, что для выполнения равенства
х)~.
X
при всех ср, <р ? ?¦ и g(^G необходимо и достаточно, чтобы X -|- Х=
= 0, т. е. чтобы X было чисто мнимым числом. Поэтому при чисто
мнимых значениях X представления R^ (g) продолжаются до уни-
унитарных представлений в гильбертовом пространстве ,?>. Легко
видеть, что при остальных значениях X операторы Rx(g) неограни-
чены в ,?) и потому представление R\(g) не продолжается до пред-
представления в .?>. Однако если Re X <^ 0, то представление E) можно
продолжить до представления в ф полугруппы g(a, b), b^>0. При
ReX^>0 продолжается представление полугруппы g(a, b), b<^0.
Поскольку при t^>0 представления R^(g) и Ra(g) эквивалентны,
неприводимые унитарные представления Rpi(g) группы О экЕивалент-
ны одному из двух представлений:
Можно показать, что этими представлениями и одномерными пред-
представлениями g(a, b)—> а'р исчерпываются все, с точностью до эквива-
эквивалентности, унитарные неприводимые представления группы О (см. [145]).
3. Приведение операторов Rt.(g(O, а)) к диагональному виду.
В построенной выше реализации представлений R^(g) (см. формулу
E) п. 2) элементам g(b, 1) подгруппы В соответствуют операторы
умножения на е1Ьх. Если рассматривать значения функции в точке
как «координаты» этой функции, то.- оператор умножения на функ-
функцию является аналогом диагональной матрицы (каждая «координата»
умножается на некоторое число). Поэтому можно сказать, что при
выбранной реализации представлений R\(g) операторы Ri(g(b, 1))
приведены к диагональному виду.
Построим теперь другую реализацию представлений R^ (g), при
которой диагональный вид имеют операторы, соответствующие эле-
элементам g(Q, а) подгруппы А. Для этого перейдем от функций ср (лг)
к их преобразованиям Меллина
со
w Ых. A)

240 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
Нетрудно показать (ср. п. 1 § 4), что функциям <р(-*г) из простран-
пространства 2I) соответствуют при этом преобразовании целые аналитиче-
аналитические функции от w = n-\-iv, быстро убывающие на мнимой оси:
lim | v |" $ (iv) = 0, B)
¦У—УСО
и такие, что при некотором с ^> 0 выполняется неравенство
max | g (и -f iv) | ==с | и \с max | g (iv) |. C)
Найдем, как преобразуются при переходе от <р(х) к %(w) опера-
операторы Ri(g). Обозначим через %g(w) преобразование Меллина функ-
функции Ri(g)<?(x):
со со Ibx
gg (w) = I eUx<? (ax) xwx dx = aTw \ e~"\ (x) xw 1 dx. D)
о о
При b = Q эта формула принимает вид
со
%g (w) = a w ^ ср (х) х«»- Ых = а w% (w). E)
о
Таким образом, элементам g(Q, а) подгруппы А соответствует
оператор умножения на aTw:
Выясним теперь, какой вид имеют операторы R\(g), соответствую-
соответствующие g(a, b) при Ъ ф 0. По формуле обращения для преобразования
Меллина имеем
c-[-ioo
] С
T(x) = ^r \ x~z%(z)dz, G)
с — ico
где с ¦— любое вещественное число. Поэтому
со c-f-ico \uv
с — ico
Пусть b^>0. Тогда при ReX<^0, Rew^>c, интеграл (8) абсо-
абсолютно сходится, и поэтому можно изменить порядок интегрирования.
Мы получим
c + ico
gg (w) = Rx (g) g (w) — \ К (w, z; g) g (z) dz, (9)
с — ico
где
Ibx
К (w, z;g) = ^-I\ e~^xw-*-* dx. A0)
*) То есть бесконечно дифференцируемым финитным функциям, равным
нулю в некоторой окрестности точки х = 0.

§ 1| ПРЕДСТАВЛЕНИЯ ГРУППЫ ЛИНЕЙНЫХ ПРЕОБРАЗОВАНИЙ 241
Пользуясь формулами F) и A0), легко найти инфинитезимальные
операторы представления Rx(g). Пусть g=g{0, е1). Тогда из равен-
равенства F) следует, что
Дифференцируя это равенство по t и полагая ? = 0, получаем
(И)
dt
Точно так же из равенства
со
Rx (g (t, 0)) 8 (w) = $ <?"*<p (x) x™'1 dx
0
получаем
lJ\=-
dt
(=0
i = X"\ <p (x)xwdx=\$(w-\- 1).
о
Поэтому инфинитезимальный оператор, соответствующий подгруппе Bt
имеет вид
). A2)
4. Выражение ядра K{w,z;g) через Г-функцию. Мы получили
выражение операторов представления R^(g) в виде интегральных
операторов с ядром K(w, z; g). Это ядро может быть выражено через
степенную функцию и специальную функцию Г (г), называемую гам-
гамма-функцией.
Определим сначала Г (z) лишь при Re z ^> 0 формулой
оо
T(z) = \e^xxzldx. A)
о
Пусть в интеграле A0) п. 3 Х<^0 и Ь~^>0. Сделаем в этом интег-
интеграле подстановку = — t:
Итак, доказано, что при Х<^0, b^>Q,Rew^>Rez, ядро K(w, z;g)
выражается формулой
T(w — z)cr
z;
Распространим теперь формулу B) на комплексные значения X и Ъ.
Для этого заметим, что согласно формуле A) ядро K(w, z; g) является

242 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
аналитической функцией от —• ХЬ в комплексной плоскости, разре-
разрезанной вдоль отрицательной полуоси. С другой стороны, из формулы
D) п. 3 видно, что $g(w) также является аналитической функцией
от — ХЬ. Так как при 0 <^ — Х# <^ оо имеет место доказанное нами
равенство
с -{- i оэ
ЯхШ(«0=? j T(w-z)[-^fW%(z)dz, C)
с — i со
то оно справедливо для всех значений X и Ъ, таких, что — \Ь не
лежит на отрицательной полуоси.
В частности, имеют место формулы
с -{- ico
R+m{w) = ^~ J Г(Ш-г)(-|рй(г)йг D)
с — i со
c-\-icz>
=^ J Г(«,-г)(-?рй(.г)<*г. D')
с — i оэ
5. Свойства Г-функции. Функция Т(г) определена формулой A)
п. 4 лишь при Re2^>0. Очевидно, что в этой области она аналити-
аналитически зависит от г. Определим ее при Rez<^0 с помощью аналити-
аналитического продолжения. Покажем, что это продолжение однозначно
определено. Для этого установим функциональное уравнение, кото-
которому удовлетворяет Г-функция.
Из формул A2) п. 3 и B) п. 4 вытекает, что оператор b^Ri(t, 1)
является интегральным оператором с ядром
T(w — z4-l),
2м (~
С другой стороны, из равенства
ds
вытекает, что ядро этого оператора равно
dK(w,z; < + s, 1)
s = 0
ds
Сравнивая формулы A) и B), получаем
T(w — г + !) = («> — z)T(w — г).

I 1) ПРЕДСТАВЛЕНИЯ ГРУППЫ ЛИНЕЙНЫХ ПРЕОБРАЗОВАНИЙ 243
Заменяя в этом равенстве w — z на г и учитывая, что Re (w — z) ^> 0,
получаем следующий результат:
В полуплоскости Re2^>0 функция Г (z) удовлетворяет функ-
функциональному уравнению
Г(г+1) = гГ(г). C)
Так как
со
ГA)= ^e'dt=\,
о
то из равенства C) вытекает, что при целых значениях я имеем.
Г (я + 1) = я(и— 1)... 1=я!.
Иными словами, Г(,г-|-1) является обобщением факториала на не-
нецелые значения z. Ясно, что, полагая
мы получаем аналитическое продолжение функции T(z) в полу-
полуплоскость Re2^>-—1 (из которой исключена точка z=0). Точно
так же равенство
задает аналитическое продолжение функции Г (z) к полуплоскость
(^> — я—1 с исключенными точками 2 = 0, —¦ 1, ... , —я.
Покажем, что в точке z = — я функция T(z) имеет простой
полюс с вычетом
Ь|)!. F)
г = — п
В самом деле, по формуле E)
Но Г A) = 1 и потому
Выч Г(г)= Jim (z -\- ri)T(z) = -—~—.
z = — п z -> — и
Укажем другой способ аналитического продолжения функции
Г (г). Разобьем интеграл A) п. 4 на интегралы по отрезкам [0, 1] и
[1, оо):
I оо
T(z)=\exxz
о

244 «ЬУЙКЦЙЙ ГАНКЁЛЯ Й МАКДОЙАЛЬДА [ГЛ. V
Отсюда получаем
оо In
Г(г)= \ е~*х*-Ых± J лГ*[е-*~ J
'l 0 к = О
л 1
г = 0
Очевидно, что интегралы в правой части равенства (8) сходятся при
Rez^> — п — 1 и потому формула (8) задает аналитическое про-
продолжение Г (z) в полуплоскость Re^^> — п—1. Аналитическое про-
продолжение Г (z) на всю плоскость задается формулой
(9)
Итак, мы доказали, что Г (z) — аналитическая функция во всей
комплексной плоскости, за исключением точек z = 0, —1, ...
..., — п, ... , где она имеет простые полюсы с вычетами:
Выч Г B) = '
г — — я
Покажем теперь, что если с^>0, то функция Y(c-\-it) быстро
убывает при |/|->сю, т. е. что для любого я^0
lim |*|яГ(с4-#) = 0. A0)
I'!-»«>
Для этого в интеграле A) п. 4 положим z = c-\-it и x = es. Мы
получим
оо
Г (с-{-#)= $ e-eS+cseitsds. A1)
— оо
Таким образом, T(c-\-it) является преобразованием Фурье функции
е— е* + cs. Но эта функция бесконечно дифференцируема и при | s | ->- оо
быстро убывает вместе со всеми производными. Иными словами,
е — е +cs — функция из пространства © (см. п. 2 § 4). Но тогда,
согласно п. 3 § 4, и преобразование Фурье T(c-\-it) этой функции
принадлежит пространству © и, значит, быстро убывает при 11 \ ->- оо.

§ I) представления Группы линейных преобразований 245
6. Теорема сложения для Г-функции и ее следствия. Выведем
теперь теорему сложения для Г-функции. Для этого используем
равенство
g(b, l)g(l, l)=g(b+l, 1). A)
Из равенства A) вытекает, что
1) B)
и потому для любой функции %(z) из <В имеем (при X = 1)
с -J- i со
— С T(w — u)b"wdu С Г(н
I i
с± — I оо с — i со
С + 1ОО
= I T(w — z){b^-\y~w%{z)dz, C)
с — ico
где Re w ^> ct ~^> с. В силу доказанного выше быстрого убывания
Г (с — z -\- it) и Г (w — с — it) при 111 ->- сю, можно изменить порядок
интегрирования и получить
c + ioo
с — ico
с -\- i со ci + i oo
= 25" i ^B)d2 i* Г(г» —и)Г(и —г)*»-</и. D)
с — loo c\ — ?оо
Поскольку равенство D) имеет место для всех функций %(z),
то из него следует, что
с\-\- i со
r(w-z)(^f~™ = ± J T(w-u)T(u-z)b"-*du, E)
ci — i oo
где Re w ^> ct ~^> Re 2. Заменив ^ на t, и — z на и и да — 2 на w,
получим
Cl -J- i 00
^i J Г(да-и)Г(и)^и, E')
Ci — ico
где Re щ> ^> ct ^> 0. Назовем это равенство формулой сложения для
Т-функции. При t = 1 получаем частный случай формулы сложения
Cl + I ОО
2-~Г(да) = 2^ J Г(« —и)Г(в)</и. F)
Cl — ICO
Заменив в формуле E') и на — и, убедимся в том, что функция
1 является, обратным преобразованием Меллина для

246 ФУНКЦИИ ГАНКЁЛЯ И МАКДОНАЛЬДА [ГЛ. V
функции Г (w -\- и) Г (—и). Поэтому в силу двойственного преобра-
преобразования Меллина имеем
dt'
где Re?*<;o, Re(w + )>
Положим в формуле G) w=l. Так как ГA) = 1, то получим
оо
Г A 4- к) Г (— и) = J Р A + ОТ1 dt, (8)
о
где — l<^ReM<[0. Вычислим интеграл в правой части равенства (8).
Для этого сделаем в нем подстановку t = xi; получим
со
.-2И+1
Заменим интегрирование по полуоси 0<^х<^сю интегрированием
по всей вещественной оси — оо <^ х <^ оо, причем точку х = 0 будем
обходить в верхней полуплоскости. Тогда на отрицательной полуоси
имеем д;2«+1 = |д;|2«+1еB«+1)" и потому
Следовательно,
где, напомним, —l<^ReH<[0, и точка х = О обходится в верхней
полуплоскости.
Дополним вещественную ось полуокружностью в верхней полу-
полуплоскости бесконечно большого радиуса. Интеграл по этой полу-
полуокружности дает нулевой вклад, поскольку Re?*<^0. Контур же,
состоящий из этой полуокружности и вещественной оси, охватывает
единственную особую точку х = е 2 подынтегральной функции.
Поэтому, применяя формулы Коши и Эйлера, получаем
Г A -f и) Г (— и) = , "" sukJ = г
Иными словами,
Г(дг)ГA— х)=-^—. A0)

§ 1| ПРЕДСТАВЛЕНИЯ ГРУППЫ ЛИНЕЙНЫХ ПРЕОБРАЗОВАНИЙ 247
Формула A0) называется формулой дополнения для гамма-функции.
Полагая в формуле A0) x = 1/i, находим, что Г2A/2)^=тг и потому
Далее, полагая в формуле A0) x = lj^-\-it, получаем
sin
7. Бета-функция и формула удвоения для F(jc). С функцией
Г (х) тесно связана функция В (х, у), называемая бета-функцией.
Она определяется равенством
I Re*>0,
| (i)
Чтобы установить связь между Г (х) и В (х, у), сделаем в интеграле
G) п. 6 подстановку . = s. Мы получим
i
о
sni о-
о
Сравнивая формулы A) и B), убеждаемся, что
(—ы)
или, иными словами,
Чтобы вывести формулу удвоения для Г (х), положим в формуле
C) х=у. Мы получим

248
ФУНКЦИИ ГАНКБЛЯ.И МАКДОНАЛЬДА
[ГЛ. V
Сделаем подстановку 4и2 = ?. Мы получим
, 1)=
Так как Г
l~\ = ]Лс,
то из этого равенства следует, что
ГB*)=-
D)
8. Преобразование Фурье функций х^ и х*. Мы определили
функцию Г (м) при Re гг^>0 формулой
оо
T(a) = \e-Jcxuldx, A)
из которой непосредственно вытекает, что если
, то
B)
Докажем, что эта формула остается справедливой и при комплексных
t, таких, что Re?^>0. Для этого сделаем в интеграле B) подста-
подстановку tx = z. Если arg? = a, то
получим
оое *а
\ ezzu
о
Подынтегральная функция не имеет
особенностей в секторе, ограничен-
\ х ном осью Ох и лучом @, оо е~т).
*——»- Поэтому
Рис. 3. Jc л ""- — "•
где через L обозначен контур, изображенный на рис. 3. Легко
проверить, что если —-^-<^а<^, то при е->-0 интеграл по дуге
АВ стремится к нулю, а при R —*¦ оо стремится к нулю интеграл по

§ И ПРЕДСТАВЛЕНИЯ ГРУППЫ ЛИНЕЙНЫХ ПРЕОБРАЗОВАНИЙ 249
дуге CD. Отсюда вытекает, что при —^•<Са<С^г
\ $ = Г (и),
о о
и потому при —-^-
eixx11
о
Тем самым доказана справедливость формулы B) при условии
Формула B) остается справедливой и при arg? = ±-K-; если
0<Re?z<l, то
$ е-иххи-Чх = Г (и) t-"e~ ~*~ C)
J eitxxJt-4x = Г (в) t"e 2 . C')
о
Формулы (З) и C') можно рассматривать как формулы для пре-
преобразования Фурье функций хЧ~1 и лг^, определяемых равенствами
О при х^>0,
х I" при
ч
х"'1 при
0 при
9. Представления группы линейных преобразований прямой, инду-
индуцированные одномерными представлениями подгруппы А. Мы рассмот-
рассмотрели в п. 2 неприводимые представления группы G, индуцированные одно-
одномерными представлениями подгруппы В элементов вида g(b, I). Рассмотрим
теперь неприводимые представления этой группы, индуцированные одномер-
одномерными представлениями подгруппы А элементов вида g@, а). Эти одномер-
одномерные представления имеют вид g@, e)-*ec. Поэтому индуцированные ими
представления реализуются в пространствах -&с функций f(g) на группе О,
таких, что
fig@, ao)g(b, a)) = a°J(g ф, а)). (I)
Оператор представления задается формулой

250 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
Так как g@, ao)g(b, a) — g(a()b, аоа), то из равенства A) вытекает, что
функции f(g) пространства •?><* имеют вид
f (S (Ь, «)) =f(g(С a) g (?, .)) = а*? (|-) , C)
где a (x)^f(g(x, 1))—функция на вещественной прямой. Выясним, как
преобразуются функции о(х) при сдвигах g^gg0. Пусть <i(x)—f(g(x, 1)).
Обозначим через <pgo (x) функцию, соответствующую f(gg,,). Так как
g(x, l)g(bt, ae)—g(x"-\-b0, ал), то
Таким образом, операторы R"(g) реализуются в пространстве •*? функций ш(л)
а виде
Разложим представление R° (g) на неприводимые. Для этого сделаем
преобразование Фурье
со
F (>•)=$ ? (a-) eilxdx. E)
—00
Обозначим через Fg(K) преобразование Фурье функции R" (g) ® (х). Из фор-
формулы D) вытекает, что
С I х А- Ь\
Fg(k) = a* V У ( д 1 e'"x-vtfx = a»+ie-'"X
Таким образом, операторы /?° (g) при преобразовании Фурье переходят
в операторы
Я° (g) /=¦ (^) = а°+1е-Мр (а\). F)
Если положить /•'(X) = Х3+1Ф (X), то представление F) запишется следующим
образом:
R° (g) Ф (X) = е~аьФ (оХ). G)
Представление G) приводимо. Именно, операторы G) оставляют инва-
инвариантными подпространства §+ и §_, состоящие из функций Ф (X), обращаю-
обращающихся в нуль соответственно при Х>0 и Х<0. На подпространстве ¦&+
представление G) совпадает с построенным в п. 2 неприводимым унитарным
представлением R+ig), а на подпространстве •&_—с неприводимым уни-
унитарным представлением R_(g).
Итак, мы доказали, что представления группы G, индуцированные одно-
одномерными представлениями подгруппы А, распадаются в прямую сумму
неприводимых унитарных представлений (и, следовательно, все эти пред-
представления эквивалентны друг другу).

§ 2] ГРУППА ЛШ B) ДВИЖЕНИЙ ПСЕВДОЕВКЛИДОВОЙ ПЛОСКОСТИ 251
Пользуясь полученными результатами, легко разложить регулярное пред-
представление группы О. Именно, пусть f(b, a)=f(g) — функция на группе С?.
Обозначим через f (g) функцию
оэ
(8)
Покажем, что эта функция принадлежит пространству •&", т. с, что
f(g@, «о) gib, e» = *;/"<#• (9)
В самом деле, g@, ao)g(b, a) = g{aob, aoa) и потому
оэ оэ
P(g<P. ao)g(b, а)) = \ /(to,», taua)t-°~4t = aA f(tb,
6 о
Оператору
регулярного представления соответствует оператор
I?(go)f°(g)=f°(ggo) (И)
в пространстве функций fig).
Мы видели выше, что представление R* (g) распадается в прямую сумму
двух неприводимых унитарных представлений, эквивалентных представле-
представлениям /?+ (g) и /?_ ig). Чтобы закончить разложение регулярного представле-
представления, нам осталось выразить функцию fig) через ее компоненты f ig). Де-
Делается это с помощью формулы обращения для преобразования Меллина.
Именно, из равенства (8) вытекает, что
c-\-ico
f ф, a) t° da.
c — i со
Полагая здесь t=\, находим
c + ico
f ib, a) = 2^. С f Ф, a) dz. A2)
с — ico
Итак, мы доказали, что регулярное представление группы G линейных
преобразований прямой распадается в непрерывную прямую сумму пред-
представлений R° ig), каждое из которых является прямой суммой двух
неприводимых унитарных представлений группы G.
§ 2. Группа МНB) движений псевдоевклидовой плоскости
1. Псевдоевклидова плоскость. Назовем псевдоевклидовой
плоскостью двумерное вещественное линейное пространство, в кото-
котором задана неопределенная билинейная форма
| Aj yj —— Л|У| —- *^'2У2> ¦**¦ \"^1» **2/» У vVl* УЧ.)' \ )
Расстояние г между точками M(xlt x%) и N(у\,уъ) псевдоевклидовой

252 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА 1ГЛ. V
плоскости определяется формулой
г2 = (х, -ytf - (х* -ytf == [х - у, х - у 1. B)
Эта формула определяет расстояние лишь с точностью до знака.
В отличие от случая евклидовой плоскости, на псевдоевклидовой
плоскости расстояние между двумя точками может быть не только
вещественным, но и чисто мнимым. В частности, расстояние между
двумя различными точками М (xt, х^) и N(yv у?) псевдоевклидовой
плоскости может равняться нулю. Это будет, если
Введем на псевдоевклидовой плоскости аналог полярной системы
координат. Прямые x1 = xi и л;2 = — х& точки которых отстоят от
начала координат на нулевое расстояние, разбивают плоскость на
четыре квадранта. В первом из них имеем —-*;i<C-*r2<C-*;i> и потому
г2 = х\ — х\ ^> 0, хх ^> 0. Мы будем считать, что в этом квадранте
^. Так как г* = х\ — х\, то мы можем положить
Когда г изменяется от 0 до сю, а б — от — сю до сю, точка (j^, jc2)
пробегает весь квадрант. Точно так же во втором квадранте — х2 <^
и г2 = х\ — х\ <^ 0. Поэтому в нем можно положить
xt = — ir sh (
где r = /|r]— чисто мнимое число. Аналогично, в третьем квадранте
ху<^Хъ<^ — ху имеем г* = х\ — х\^>0, л^^О, и мы полагаем
х1 = ~гсъе,)
*2 = -rsh6,) <3">
а в четвертом, х% <^ ху <^ — д;2; имеем г2 == х\ — х\ <^ 0, jc2 <^ 0:
xt = — ir sh б,
Хо = ir \
sh6, |
ch6. j
Ясно, что задание вещественного или чисто мнимого числа г и ве-
вещественного числа б однозначно определяет точку псевдоевклидовой
плоскости.
2. Группа МН{2). Назовем движением псевдоевклидовой пло-
плоскости неоднородное линейное преобразование двух переменных, не
меняющее ориентации, сохраняющее расстояние между точками этой
плоскости и переводящее точки одного из квадрантов в точки того же

$ 2] ГРУППА МН B) ДВИЖЕНИЙ ПСЕВДОЕВКЛИДОВОЙ ПЛОСКОСТИ 253
квадранта. Очевидно, что движения псевдоевклидовой плоскости обра-
образуют группу. Мы будем обозначать ее через МНB). Как и для евкли-
евклидовой плоскости, устанавливается, что такие преобразования задаются
формулами
где
— OO <^ Щ <^ OO, j
| B)
Таким образом, каждое движение g псевдоевклидовой плоскости
задается тремя вещественными числами аь я2> <р- Мы будем обозначать
его через g—giOi, щ, tp).
Из формулы A) непосредственно вытекает, что
§"(«!. «г. i)g(pb Ьг, ty^gipi, с%, 6), C)
где
с, = bx ch <p -f- ?2 sh <p -f- Oj, D)
с2 = ^! sh <p -f- й2 ch <p -f- Oj, D')
D")
Эти формулы можно истолковать так: обозначим через а вектор
(аь а2) и через а9 вектор, в который переходит а при гиперболи-
гиперболическом вращении на «угол» tp:
а? = (й! ch <р -(- Й2 sh <p, й! sh <p -|- a2 ch tp).
Тогда
§"(а, т) g(b, ф) = g-(a + Ь,, <р + ф). E)
Легко видеть, что параметры G1 = G2 = tp;^0 задают тождест-
тождественное движение и что движением, обратным g(a, tp), является
g-(—а^, — ср).
Группу МНB) можно реализовать как группу матриц третьего
порядка. Для этого каждому движению вида A) поставим в соот-
соответствие матрицу
/ch <p sh tp сД
^fe)= sh<P chtp а% . F)
V 0 0 1 У
Непосредственная проверка показывает, что это соответствие является
представлением группы МН{2), т. е., что
G)
Представление A(g) приводимо, но не вполне приводимо.

254 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
Отметим две подгруппы группы МНB). Первая из них состоит
из движений псевдоевклидовой плоскости, оставляющих неподвижной
точку @, 0). Эти движения называются гиперболическими вращениями.
Они задаются формулами
дг; = ^,сЬ9+^28119. ,
х'3 — xt sh <р -[- лг2 ch ср.
Иными словами, для гиперболических вращений имеем g=g@, 0, ср)
При гиперболических вращениях каждая точка псевдоевклидовой
плоскости движется по линии г'2 = const, т. е. по гиперболе xst—х\ =
=г2. Если г2^>0, то точки гиперболы имеют координаты Jt1 = rch6,
x% — rshe. Из формулы (8) видно, что гиперболическое вращение
переводит точку М(х1, лг2) в точку N(x[, x'2), где
Отсюда следует, что мера db на гиперболе инвариантна относительно
гиперболических вращений. Будем обозначать подгруппу гиперболи-
гиперболических вращений через Q.
Вторая подгруппа состоит из параллельных переносов:
;
Для параллельных переносов g=g(a1, o2, 0).
Элементы подгруппы Л параллельных переносов находятся во взаимно
однозначном соответствии с точками нсевдоевклидовой плоскости. Поэтому
элементы подгруппы Q гиперболических вращений можно рассматривать
как автоморфизмы подгруппы А. Равенство
g(a, <?)g(b, ty) = g(a + bv, » + <}')
показывает, что группа МН B) является скрещенным произведением под-
подгруппы В и группы ее автоморфизмов Q.
3. Параметризация группы МН{2). Каждый элемент g группы
МНB) может быть задан тремя вещественными числами ср, аь о2,
изменяющимися от — оо до со. Во многих случаях удобнее другая
параметризация этой группы, основанная на следующем предложении:
Каждый элемент g-— g{ax, аг, <р) группы МНB) может быть
представлен в виде
0, ф)/^@, 0, <р-ф), A)

§2] ГРУППА МН B) ДВИЖЕНИЙ ПСЕВДОЕВКЛИДОВОЙ ПЛОСКОСТИ 255
где h — параллельный перенос одного из следующих видов:
=*(±г, 0, 0), г>0,\
=g@, ±r, 0), г>0, J
али
=(±l, ±1, 0) C)
(в последнем случае возможны все четыре комбинации знаков).
В самом деле, пусть, например, — а1 <^ сц <^ ау Положим
at = r ch ф,
о2 = г sh (Jj,
где г2 = Gj — g^, r ^> 0. Тогда
g-@, 0, ф)^(г, 0, O) = g-(rch<b,
и потому
, 0, ф)?(г, 0, 0)^@, 0, т--<!)) =
Аналогично проводится доказательство в остальных случаях. В част-
частности, при г^>0.
g(±r, ±r, ?) = ff@, 0, <!¦)?(+1, ±1. 0)^@,0, Т —ф), D)
где е*^г.
Построенная параметризация группы МНB) аналогична парамет-
параметризации группы Ж B), рассмотренной в п. 2 § 1 главы IV.
Движения вида
g@, 0, tyg(r, 0, 0)^@, 0, <р —ф), г>0, E)
переводят точки квадранта —Xi <^ лг2 <^ ^ в точки того же квадранта.
Следовательно, эти движения образуют полугруппу в группе МНB) 1).
Аналогичное утверждение справедливо для движений вида
§¦@, 0, <!»)#(-г, 0, 0)g-@, 0, 9 —Ф) F)
и т. д.
Каждая из этих подгрупп состоит из движений, переводящих
точки некоторого квадранта в точки того же квадранта.
4. Алгебра Ли группы МНB). Построим алгебру Ли группы МНB).
В качестве базиса этой алгебры выберем касательные матрицы к одно-
1) Множество элементов группы образует полугруппу, если вместе
с любыми двумя элементами ему принадлежит их произведение.

256 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
параметрическим подгруппам Qlt B$, Q3, состоящим из матриц вида
/1 0 t,
%@= о 1 о , О)
\0 0 1/
/10 0.
(»,@ = | 0 1 t\ B)
\0 0 1/
и
/ch t sht 0\
w3(t) = [sht cht 0 1. C)
О 0 \j
Мы имеем
10 ° 1\
,-о= ° ° °]- D)
\о о о/
Точно так же находим
/О 0 0\
оа = {0 О 1) E)
О О
/О 1 0\
fl3 = j 1 0 о|. F)
\о о о/
Соотношения коммутации для матриц аи аа, а3 имеют следующий вид.
[alt g2] =^ 0, G)
[а2, а3] = — oj, G')
[g3, g^^o.2. G")
Во многих случаях вместо матриц ах и а2 удобнее использовать
их линейные комбинации:
/0 0 1
h+ = ax~ а2 = |0 0 —1) (8)
\0 0 0 )
и
/О 0 1\
А_ = at -\- щ = ( О О II. (8')
\0 О О/

§ 31 ПРЕДСТАВЛЕНИЯ ГРУППЫ МН B) 257
Они являются касательными матрицами к одыопараметрическим под-
подгруппам Н+ и Е_, состоящим соответственно из матриц
/1 О
6+(f)= 0 1 -t) (9)
\0 0 1
и
1 О
5_@= 0 1*
\0 0 1
Соотношения коммутации для матриц /г+, fe_, я3 имеют следующий вид:
[А+, Л_]=0, A0)
[/г,., й3] = /г+, A0')
[ft_, ag] = /i. A0")
§ 3. Представления группы МНB)
1. Неприводимые представления. Неприводимые представления
группы МНB) аналогичны представлениям группы УИB) движений
евклидовой плоскости, которые были описаны в п. 1 § 2 главы IV.
Каждое такое представление задается комплексным числом R, отлич-
отличным от нуля. Представление TK(g) группы МНB) строится в про-
пространстве бесконечно дифференцируемых финитных функций /(х) на
гиперболе х\ — х\ = 1. Пусть g—gfa, аг, <р) — элемент группы МНB).
Обозначим через h (— <р) гиперболическое вращение
% = — лг, sh <p -j- лг2 ch <p /
и через а — вектор (а1у о2). Оператор представления TR (g) зададим
формулой
TR (g) /(х) = e-R [а' xl f(h (- T) x) B)
(напомним, что гиперболическое вращение /г (— tp) переводит точки
гиперболы в точки той же гиперболы).
Не составляет труда проверить, что
C)
и потому TjR(g) является представлением группы МНB). Точки
гиперболы х\ — лг|=1 можно записать в виде x1 = ch6, Ar2 = sh6.
Каждой функции /(х) на гиперболе поставим в соответствие функцию
/F)=/(ch6, sh6) D)

258 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА (ГЛ. V
вещественного переменного 6. В пространстве этих функций пред-
представление TR(g) задается следующим образом:
TR (g)f(B) = е«(- "'ch ' +  sh В) /F - Т). E)
Введем в пространстве функции /F) скалярное произведение,
положив
(ЛЛ)= $ ШШ<®. F)
— со
Очевидно, что представление TR(g) унитарно относительно этого ска-
скалярного произведения тогда и только тогда, когда FZ — чисто мни-
мнимое число.
2. Другая реализация представлений TR(g) группы М//B).
Опишем другую реализацию представлений TR(g) группы ЛШB).
При этой реализации гиперболическим вращениям будут соответство-
соответствовать операторы умножения на функцию. Она строится следующим
образом.
Каждой функции
/F)=/(ch6, Sh6) A)
из пространства представления поставим в соответствие ее преобра-
преобразование Фурье F(X):
F(k)= f /F)Л6. B)
— оэ
Интеграл B) сходится при всех комплексных значениях X, поскольку
функции /F) по условию финитны и бесконечно дифференцируемы.
При этом функция F(k) аналитична во всей комплексной области,
удовлетворяет неравенству вида
i C)
и быстро убывает на каждой прямой, параллельной мнимой оси (ср.
п. 1 § 4 главы II).
Как было показано в п. 1 § 4 главы II, формула обращения
имеет вид
а-}-«оэ
/F)=i J Fto^dv* D)
а—joo
Обозначим через QR(g) оператор в пространстве функций F(k),
соответствующий оператору TR(g) в пространстве функций/F). Опе-
Операторы QR(g) задают другую реализацию представления TR(g)
группы МНB).

§ 31 ПРЕДСТАВЛЕНИЯ ГРУППЫ МНB) 259
Найдем вид оператора QR(g) для элементов вида g@, 0, <}>)• По
формуле E) п. 1 оператор TK(g@, 0, <р)) переводит /F) в/@ — <р).
Поэтому при ?=g-@, 0, <р)
QK(g)F(k) = \ /F-<p)^6tf6 = ^ I f(B)e™de=:e^F(X). E)
— оэ — со
Итак, гиперболическим вращениям соответствуют операторы
умножения на е^.
По формуле A) п. 3 § 1 любой элемент группы ЛШB) может
быть представлен в виде произведения гиперболических вращений и
параллельного переноса на векторы вида (zb г, 0), @, ± г) или
(-1- 1, ч^ 1). Поскольку операторы, соответствующие гиперболическим
вращениям, нами, уже найдены, осталось найти операторы, соответ-
соответствующие параллельным переносам указанного вида.
Пусть g=g(r, 0, 0), г^>0. Тогда по формуле E) п. 1
и потому
— со
В силу формулы обращения D) имеем
а + «со
Л 1 Л
а — ico
и потому
со a -J- «со
— со а — «со
Если Re R ^> 0, то интеграл (8) абсолютно сходится при всех X. Поэтому
мы можем изменить порядок интегрирования. Следовательно,
a -f- «'со
а — «'со
где положено
со
A (A, fj,, к, rj = 2^r I e do. AU)
— со
Тем самым доказано, что при g=g(r, 0, 0), r^>0, ReR^>0 опе-
оператор Qff(g) является интегральным преобразованием с ядром

260 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
К (К щ R; г). Ниже это ядро будет выражено через так называемые
функции Макдональда, тесно связанные с функциями Бесселя.
Аналогичный вид имеет QR(g)F(k) и в случае, когда ReR<^0 и
g=g(—г, 0, 0), г^>0. В этом случае в формуле A0) надо заме-
заменить г на — г.
Пользуясь полученными формулами, легко получить выражение
оператора QR(g) для любого элемента g=g(ai, а%, tp), такого, что
— щ-^a^K^ai (как было отмечено в п. 3 § 1, такие элементы обра-
образуют полугруппу в группе МНB)). Если —al<^a<i<^al, то элемент
g—g(ab аг, ср) можно представить в виде
g=g@, 0, tyg(r, 0, 0)g@, 0, <р —ф), A1)
где г^>0 (см. п. 3 § 1). Элементу g(r, 0, 0) соответствует интеграль-
интегральный оператор с ядром К (к, f».; R; г), а элементам с-@, 0, <р— ф) и
g@, 0, ф) — операторы умножения на е^^^ и е^ соответственно.
Поэтому
а-\- «со
а — «'со
где
Аналогично записываются при Re/?<^0 операторы QR(g(au аг, <р))
в случае Oi<^a.2<^ — ах.
Однако для элементов вида g@, ±r, 0) при Re/? 9^0 выражение
в виде интегрального оператора не получается, поскольку в этом
случае мы приходим к интегралу
|OdB, A4)
— со
который расходится при Re R ф 0 для всех значений X и fj,. Случай
Re R = 0 будет изучен ниже.
Особенно простой вид принимают ядра операторов QR(g), если g
является параллельным переносом в направлении прямых Art = ^ х%.
Если Re/?^>0, то интегралы для элементов gz=^g(r, —г, 0) и
g=zg(r, г, 0), г^>0 сходятся. Именно, при g-=g-(r, —г, 0)
со
Подстановка e® = t преобразует этот интеграл к виду
V-"-1*». A5)
со

§ 31 ПРЕДСТАВЛЕНИЯ ГРУППЫ МП B) 261
Как было показано в п. 4§ 1, этот интеграл сходится при Re (А—
и равен 2м (НГТ~*- Поэтому при g=g(r, — г, 0), г>0,
Re#>0,
Точно так же доказывается, что если g=g(r, r, 0), то
Re/?>0, Refr—X)>0,
если g=g(—r, r, 0), то
A7)
Re/?<0, Re(X
и если g—g(—r, —r, 0), то
К к R; g^^^-i
— X)>0.
3. Унитарный случай. Нам осталось рассмотреть случай, когда
R — чисто мнимое число, т. е. когда представление QR (g) унитарно
(см. п. 1). Пусть R = pi, р]>0. Тогда элементу g=g{r, 0, 0) соот-
сетствует оператор
а -\- «оо
§ A)
Интеграл A) не является абсолютно сходящимся, но можно доказать,
что при —l<^Re(X — ^)<^1 перестановка порядка интегрирования
допустима, и потому
QP«-fe)/7W= $ к 0* к р'; я)/7^)^. B)
а — «оэ
где
К К Pi; §¦)= 2^

262 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
Аналогичный вид имеет оператор Qpl(g) при g~g@, ±r, 0). В
этом случае ядро задается интегралом
pi; e) = -^a Je±f' + i*-•>)•<#. D)
4. Функции Макдональда и Ганкеля. Введем новую специальную
функцию K?(z), положив при любом комплексном значении v и
R>
dt. A)
Очевидно, что Kv{z) является аналитической функцией от v и z,
если z изменяется в указанной полуплоскости. При Re^sgO опре-
определим K,(z) с помощью аналитического продолжения по z. Тем са-
самым K,(z) однозначно определено в комплексной плоскости, разре-
разрезанной вдоль луча —oo<^z<^0. Функция Kw(z) называется функ-
функцией Макдональда от z с индексом v. Из равенства A) следует,
что
#,(*) = #-,(*)• B)
Функции Макдональда тесно связаны с так называемыми функ-
функциями Ганкеля первого и второго рода. Эти функции при ^
— 1 <^ Re v <^ 1 определяются формулами
?(х) =*-—;- \ eixcbt~4tdt C)
.~2~
'(х) — — e-^j- i e-ixcht-vtdt C')
(нетрудно показать, что при указанных условиях эти интегралы схо-
сходятся). Сравнивая формулы C) и C') с формулой A), убеждаемся,
что
та!
(х) = - 2^~Кч (Дх). D')

§ 31 ПРЕДСТАВЛЕНИЯ ГРУППЫ ЛШB) 263
*
Иными словами, функции Ганкеля Hlv (х) и Hi?' (х) с точностью
до числового множителя совпадают со значениями функции Макдо-
нальда на отрицательной и положительной мнимой полуосях.
Пользуясь формулами D) и D'), можно продолжить функции Ган-
Ганкеля на всю комплексную плоскость. При этом для функции Hi,1' (z)
плоскость надо разрезать вдоль луча — оо <^ Im z <^ 0, а для функции
Hi,2' (z) — вдоль луча 0 <^ Im z <^ со.
Нам понадобится в дальнейшем еще интеграл
оо
\ eixsbl-«dt, где х>0, —l<Rev<l. E)
Для вычисления указанного интеграла сделаем замену переменной
t = u-\-^-t. Так как s1i(h-j-^- zj —/ch«, то получаем
. СО 5~
71V1 2
С eixsht - vtrft — e 2 f- e-xcbu-"udu.
Сдвинем контур интегрирования на ^i и используем формулу
Мы гюлучим при
^ F)
— со
Точно так же доказывается, что при л:^>0
^ е- ix sbt-
— со
Из формул D) и D^) вытекает, что
Н* (х) = — е™1 Hi," (е™ х). (8)
В силу аналитичности функций Ганкеля эта формула верна во всей
плоскости, разрезанной вдоль луча 0 <^ Im z <^ схэ.
Из равенства /Cv(^) = /CvB) и формул D) и D') следует, что
//f B) = — H±\(e™z) = e™ H±\(z). (9)
Аналогично,
Hi," B) = — /?!\ (е~ ™ z) = е~v™ H!l\ (z). (91
Б. Выражение ядер представления Q#(g) через функцию Мак-
Дональда. Из формул (9), A0) п. 2 и A) п. 4 вытекает, что при
S=g(r, 0, 0), Re/?^>0 оператор Q^(g) является интегральным one-

264 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА (ГЛ. V
ратором, ядро которого выражается следующим образом через функ-
функцию Макдональда:
К (К |ч R; r) = ^rKy,^(Rr). A)
В п, 3 было показано, что при ReR = 0 все операторы QK(g)
являются интегральными операторами. В этом случае удобно выра-
выражать ядра операторов через функции Ганкеля. Пусть /^ = /р, ^
Тогда по формуле G) п. 4 для элемента g=g(r, 0, 0) имеем
(X — ц) ii
где — l<Re(X-
Аналогично, для элемента g—g(—г, 0, 0) получаем
(у- - *) т
К (X, (х; /р; g) = e—^— H'JL х (гр), B')
для элемента g=g@, r, 0)
К ^р; ^ = ^ Щ- х (/гр)-^ 2 /^ х (гР) B")
и для элемента g=g-@, —г, 0)
^ ^^^iB'")
Для элементов вида g—g(~hr, ±r, 0) справедливы формулы
A6) — A9) п. 2, в которых надо заменить R на г'р.
6. Инфинитезимальные операторы представлений T#(g) и
(g% Вычислим инфинитезимальные операторы представлений TK(g)
и QK(g). Сначала найдем оператор, соответствующий однопараметри-
ческой подгруппе Е+:
/1 0 t\
\.О 0 1/
Оператор ^(?+@) переводит функцию /F) в функцию
TV? 0+ @)/(в)=с- л лв/(в). B)
Продифференцировав это равенство *го ^ и положив ^ = 0, получим
C)

§ 3) ПРЕДСТАВЛЕНИЯ ГРУППЫ МН B) 265
Точно так же доказывается, что подгруппе Е_:
/1 0 t\
U*)=.O It' D)
\.О 0 l/
соответствует при представлении TK(g) инфинитезимальный оператор
Aj$) = -Re*h% E)
а подгруппе 23 гиперболических вращений — оператор
Выясним, во что переходят эти операторы при замене /F) на F(k).
Для этого надо найти преобразования Фурье функций Л+/F), Л_/(б),
Мы имеем
— оэ — со
Точно так же доказывается, что
Н FQ.) = — RF(k—l). (8)
Наконец, интегрируя по частям, получаем
со А оэ
С ете^е=х t /F)^erfe^XF(X). (9)
«у
7. Неприводимость представлений T/t(g). Пользуясь получен-
полученными выражениями для инфинитезимальных операторов представле-
представлений 7'^ (g), легко доказать, что при R -ф 0 эти представления непри-
водимы. Мы ограничимся доказательством операторной неприводи-
неприводимости этих представлений. Итак, пусть 51 — оператор, перестановочный
со всеми операторами представления TR(g). Тогда он должен быть
перестановочным и с операторами А+, А_, А.
Оператор Н+ является оператором умножения на — Reb в прост-
пространстве К бесконечно дифференцируемых финитных функций на пря-
прямой. Пусть оператор 51 перестановочен с А+. Тогда он перестаново-
перестановочен и со всеми операторами А1= — Rnenb. Но на любом конечном
отрезке линейными комбинациями функций еш можно равномер-
равномерно аппроксимировать любую непрерывную функцию. Поэтому 51

266 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
перестановочен со всеми операторами умножения на непрерывные функ-
функции и, следовательно, является оператором умножения на бесконечно
дифференцируемую функцию
5/F) = * F) /(б). A)
Из перестановочности S с А3 = — -те получаем s' (б) = 0 и потому
s F) = const.
Итак, мы доказали, что любой оператор, перестановочный со всеми
операторами T^(g), является оператором умножения на постоянное
число, и потому представление TR (g) операторно неприводимо. Можно
доказать, что эти представления и пространственно неприводимы.
В случае R = 0 представление T^(g) имеет вид
УоОг)/(е)=/(е-<Р)> B)
т. е. сводится к регулярному представлению аддитивной группы ве-
вещественных чисел. Преобразование Фурье по 6 задает разложение
этого представления в непрерывную прямую сумму одномерных пред-
представлений.
§ 4. Рекуррентные формулы и дифференциальное уравнение
для функций Макдональда и Ганкеля
1. Соотношения между инфинитезимальными операторами и
операторами представления. Положим для определенности, что
/?=1. Рассмотрим элемент
g=g(r, 0, O)g(t, t, O) = g(r^-t, t, 0), A)
r^>0, ?^>0, группы МНB). Как было показано в п. 3 § 1, этот
элемент можно представить в виде
g=g@, 0, фШр, 0, 0)?@, 0, — <JO, B)
где
р ch ф = 1
и потому
Отсюда вытекает, что ')
Q(r, 0, O)Q(t, t, 0) = Q@, 0, <!0Q(P, 0, 0) Q@, 0, -ф). E)
•) Для краткости мы пишем Q (а, Ь, у) вместо Q (g (с, Ь, <()).

§ 4j рекуррентные Формулы й дифференциальное уравнение 26f
Продифференцируем обе части равенства E) по t и положим t—0.
Из формул D) при ^ = 0 имеем p = r, i)i = 0 и
dp
dt
dф | 1
F)
Далее, Q @, 0, 0) — единичный оператор и
dQ(t,t,O)
dt
Поэтому в результате дифференцирования равенства E) получим
Q (г, 0, 0) Н_ = rfQy 0) + у (//3Q (г, 0, 0) — Q (г, 0, 0) Н3). (9)
Точно так же доказывается равенство
r^' 0)
Q(r, 0, 0)Н+= dQ{r^' 0) — y(H3Q(r, 0, 0)—Q(r, 0, 0)Я3). A0)
2. Рекуррентные формулы. Чтобы получить рекуррентные фор-
формулы для функций Макдональда, надо сравнить ядра операторов в
правой и левой частях в формулах (9) и A0) п. 1.
При R=l оператор //_ переводит функцию FQx) в —F([j.— 1).
Оператор же Q(r, 0, 0), г^>0 при /?='1 является интегральным
оператором с ядром —К^^^(г). Поэтому Q(r, 0, 0)//_ переводит
F({x) в
a — «со
Заменяя ;x — 1 на [х, убеждаемся, что Q (r, 0, 0) H_ является ин-
интегральным оператором с ядром
Точно так же доказывается, что ядро оператора в правой части фор-
формулы (9) п. 1 имеет вид
Отсюда вытекает равенство
^^Л~К^{т). C)

268 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА 1ГЛ. V
Заменяя X — ц на v, получим
К,.г(г) = -^—уКЛг). D)
Из аналитичности K^(z) в разрезанной плоскости вытекает, что это
соотношение справедливо при всех z, не принадлежащих отрица-
отрицательной полуоси
Точно так же из формулы A0) получаем
*,+1<*)=-^+^-л;(г). F)
Из формул E) и F) следует, что
^У^ ^ 1(г)] G)
Т К, (г) = \ [К, +, (г) - ^v _, (г)]. |(8)
Пользуясь формулами D) и D') п. 4 § 3, получаем рекуррентные
соотношения для функции Ганкеля:
dm- 2> («) 1
J
^ H'1- 21 B) = 1 [H?L*[ B) + Я^+2,' (г)]. (9')
Ясно, что эти формулы верны и для любой линейной комбинации
функций Hlv (z) и //J2) (г). Будем в дальнейшем обозначать такие ли-
линейные комбинации через Zv(z) и называть их цилиндрическими
функциями от г с индексом v. Таким образом,
A0)
(юо
3. Дифференциальные уравнения для функций Макдональда
и Ганкеля. В п. 2 было показано, что
B)

§4] РЕКУРРЕНТНЫЕ ФОРМУЛЫ И ДИФФЕРЕНЦИАЛЬНОЕ УРАВНЕНИЕ 269
Отсюда вытекает, что
Раскрывая скобки, получим следующее дифференциальное уравнение
второго порядка для функций Макдональда:
В силу инвариантности уравнения D) относительно замены г на — z,
функция /fv(—2) также является решением уравнения D).
Из соотношений A0) и A0') п. 2 аналогичным путем получаем
дифференциальное уравнение второго порядка для цилиндрических
функций
rf%(z) ¦ 1 dZ^jz) z*- +
ГГ~& 1 i^-ZvB) —U. E)
Частными решениями этого уравнения являются функции Ганкеля
W(z) и H?'(z), а также функции ffil'(—z) и Hts'(—z).
4. Связь между функциями Ганкеля и функциями Бесселя.
В п. 4 § 4 главы IV было показано, что функции Бесселя Jn(z)
удовлетворяют дифференциальному уравнению
у'+тУ+ -**-*=° A)
и, следовательно, являются цилиндрическими функциями от z с индек-
индексом п. Поэтому они являются линейными комбинациями функций
Н„'(г) и Н„'(z). Покажем, что имеет место равенство
{ 0]. B)
Сначала покажем, что
Л (х)=\ № (х) + цг (*)]. C)
В п. 4 § 1 главы IV было отмечено, что уравнение Бесселя A) имеет
единственное, с точностью до постоянного множителя, решение, огра-
ограниченное при х = 0. Поэтому для доказательства равенства C) до-
достаточно показать, что
¦1 Нт [Я!11 (х) + ЯГ (х)] = Л @) = 1. D)
z х — 0

'2iO ФУНКЦИЙ ГАНКЁЛЯ И МАКДОЙАЛЬДА [ГЛ. V
Но по формулам D) и D') п. 4 § 3 имеем
со
E)
Так как ^ ^^-' dy = ~, то из равенства E) вытекает равенство D).
о
Тем самым доказано соотношение C).
Так как функции Jn(x) и -к- [//А1'С*}~ЬН'п'(-*0] удовлетворяют
одинаковым рекуррентным соотношениям (см. формулы (9) и (9') п. 2
и формулы B) и C) п. 3 § 4 главы IV), то из равенства C) выте-
вытекает, что
Л (х) = y№) W + Н"' <*М ^
при всех целых значениях п.
Исходя из формулы F), определим функцию Бесселя J^(z) при
всех значениях v формулой
Эта функция является одним из частных решений уравнения E) п. 3.
Отметим еще одно частное решение этого уравнения, называемое
функцией Неймана. Оно определяется равенством
Wv (г) = 1 [Н'» (г) - Н?1 (г)]. (8)
Таким образом, имеют место формулы
Hl"W = Uz) + tN,(z) (9)
и
H^(z) = J,(z)-iNv(z). (9')
§ 5. Функциональные соотношения для функций Ганкеля
и Макдональда
1. Вводные замечания. В основе дальнейших рассмотрений лежит
следующее замечание. Если Q^fe-), i=l, 2, являются интегральными
операторами с ядрами К(\ Щ R, ?,), то в силу
= Q* fe) Qfi Ы A)

§ 5] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ 271
имеет место равенство
Ь — «со
Ь + ico о + «со
= $ W ^Я;а)л S A"(v, w/?;ft)F(|i.)d|». B)
fe — « оэ о — «со
Поэтому, при условии абсолютной сходимости интегралов, входящих
в равенство B), имеем
0 4"'°°
К (К к R; gift) = $ К (К v; R; gdK(v, [Ц R; gj)dv. C)
о —«оэ
При различном выборе элементов gt и ^2 группы МНB) мы
получим из равенства C) различные соотношения для функций Мак-
дональда и Ганкеля.
2. Интегральное представление. Имеет место следующее ра-
равенство:
g(r, —r, O)g(r, r, 0) = gBr, 0, 0). A)
В силу формулы C) п. 1 из этого равенства при
К (К к R; gBr, 0, 0)) =
= $ KQ., v; R; g(r, — г, 0)) К (у, |Ч R; g(r, r, 0)) dv. B)
о — ioo
Подставив в формулу B) выражения для ядер, полученные в п. 5 § 3,
получим
а +«" оэ
] r(x)r()(^Jv""!ld C)
о — «со
где Re z = Re 2Rr ^> 0. При этом из условий сходимости интегралов,
выражающих ядра операторов QR(g(r, —г, 0)) и QK(g(r, r, 0))
(см. п. 2 § 2) имеем ReX^>a, Re[x^>a.
Заменяя в равенстве C) X — ;х на X и X — v на v, получаем
о + «со
J r()r(vX)(|)Vd C')
а — «со
где R> >

272 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА 1ГЛ. V
Чтобы получить интегральные представления функций Н{"(г) и
MS)B)> используем соотношения D) и D') п. 4 § 3:
ы
11W = -52^i- J" r(v)r(v-X)[?-r?]"ai'dv, D)
где 1шг^>0, а^О, a^>ReX, и
Хтг» .
"V"
П*) = ^ J r(v)r(v-X)[e^] dv, D')
J
о — «оэ
где 1шг<;0, а> ^
Формулы D) и D') сохраняют силу при lmz = 0, z ф 0. Поэтому
при л:^>0 имеем
Л (X) = J [W(X) + /#' (X)) =
¦a+Jm
a — too
r(v)r(v —X)sin(v — X)irr|-^Vdv =
a — iod
где
3. Разложение в степенные ряды. Дополним в формуле E) п. 2
контур интегрирования полуокружностью бесконечно большого ра-
радиуса, лежащей в левой полуплоскости. Простая оценка показывает,
что интеграл по этой полуокружности равен нулю.
Вычислим полученный интеграл с помощью вычетов. Согласно п. 5
§ 1 функция Г (х) имеет полюсы в точках х = 0, — 1, — 2,..., — п, ...,
причем
Выч r(*) = LW
X = — П
Поэтому получаем
n= 0

§ 5] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ 273
Точно так же из формул C'), D) и D') п. 2 получаема)
й! U/ ^Z k\ \2
Й
Из равенства B) следует, что
и '(j) +1 -4г-(т)
ft=0
i
Формулы A)—D) показывают, что единственной особой точкой для
цилиндрических функций является точка ветвления z = 0.
Разложения B)—D) верны лишь при нецелых значениях X. Если
\ — п — целое число, то подынтегральная функция в интегралах
C')—E) п. 2 имеет полюсы второго порядка.
4. Преобразования Меллина. В формуле C') п. 2 заменим z на 2z
и 2v на v, сравним ее с формулой обратного преобразования Меллина
(см. п. 2 § 4 главы II). Мы получим, что функция -jTlyir у —X)
является преобразованием Меллина для х~хК\ Bх), и потому
со
\х А\(Х)ах — г \2)'-\2 )• у >
Аналогично, из формулы E) п. 2 вытекает, что
B)
2) В формуле B) верхний знак относится к Щ> (г), а нижний — к

274 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
Более общие формулы получаются следующим образом. Рассмотрим
равенство
g(rb rb 0)g(r2, 0, O)=g(r1-\-ri, г„ 0).
Если ri^>0, Г2^>О, то
g(rt + rb rb 0) = g@, 0, B)g(r, 0, 0)g@, 0, -6),
где
Г2 = г| + 2г,г2 C')
(см. п. 2, § 2).
Поскольку гиперболическому вращению на угол б соответствует
оператор умножения на ехе, то при Re.R^>0 получаем
е^°К(К к R; g(r, 0, 0)) =
= J K(k v; R; g(rb n, O))/T(v, K Я; ^(r* 0, 0))dv, D)
a —«oo
где a^>ReX. Подставим в эту формулу значения ядер, вычисленные
в п. 5 § 3, и заменим X — [х на X, v — р на v, Rrx на г, и /?г2 на г8.
Мы получим
a + ioo
j E)
a — ioo
где a>ReX, Rez!>0, Re^2>0 и
F')
(эти условия определяют z и б однозначно).
В частности, при zt = zs получаем
J G)
a — «со
Формула E) сохраняет силу при чисто мнимых значениях zt и г2.
Поэтому, полагая zx = ± iJCi, г2 = + /Jca, находим
а+ «оо
e»»Mbl'(*) = i J rCv-X)^-^1""^»)^ (8)
о — «со
где
(9)
, a>ReX, — 1<а<1, —l<ReX<l.

§ &1 ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ 2f В
Формулу (8) можно вывести также, рассматривая движение
g(rlt rb 0)g(r2, О, 0), г,>0, га>0,
при чисто мнимом значении R = ±ip и используя формулы п. 5 § 3.
Аналогичные формулы возникают при рассмотрении движения
rb г„ 0)g(—h, 0, O) = g(rl — г2, г у, 0),
где Г!^>0, г2^>0. При r2<^2rj имеем
?(г,-г2, г„ 0)=#@, 0, 6)^@, г, 0)^@, 0, -6),
где th6 = ^J—^-, ^^2^2—г|. Полагая R = tp и используя фор-
мулы п. 5 § 3, легко получаем отсюда
J ^ A0)
а — ioo
где xlt лг2, лг, 6 связаны формулами
th 6 = ?iZl?? ( Х2 = 2^lJC2 _ xl (И)
¦Vi>0, 0<лг2<2лг,; лг>0, а> —ReX, — 1<а<1.
Если же дг2 ^> 2дг, ^> 0, то получаем равенство
J1 = e^x\H<A\(x), A2)
где
^A3)
th6 = , дг =
Xi Х2
, а а^>~-ReX.
Наконец, при jc2 = 2jci получаем
Л = ^>**\ A4)
где ReX<0, a> —ReX.
Рассмотрим теперь движение
g(rlt Ту, 0)^@, — r2, 0)=^(ri, ri — г2, 0).
При 0<^лг2<^2дг1 и а> —ReX, — 1<^а<^1, — 1<ReX<^1 нахо-
находим аналогично
а-\- ica
а — «оо
где
A6)

276 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА • [ГЛ. V
При 0<^2х1<^Хъ а> —ReX, — 1<а<1, — 1 <^ReX<^ 1 имеем
где
xl xs
Наконец, при х% = '2х, получаем
— Г(—Х)е ш 2Х ^-.пч
где ReX<0, а> —ReX, — 1<а<Ч.
5. Преобразования Меллина (продолжение). Сравним форму-
формулу E) п. 4 с формулой обращения для преобразования Меллина
(см. п. 2 § 4 главы II). Мы видим, что T(v—X)Kv(x*) является пре-
преобразованием Меллина для х^ XexefCx (x) (как функции от х{), т. е.
о
где Ху, jc2, В и х связаны соотношениями F)—F') п. 4 и Re v ^> Re X.
Точно так же доказывается, исходя из формул A0) и A2), что
1
—Xfl X4-v — 1 r,(i| , ч 1 . 2
B)
где
*>0. C)
х>о, (зо
и Rev> — ReX, —l<Rev<l, —l<ReX<l.
Из формул же A5) и A7) вытекает, что
D)

§ 5] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ 277
где
6 ^1* + х>0, E)
лг>0 E')
и Rev> -ReX, — l<ReX<l, — l<Rev<l.
Далее, дополним в формуле E) п. 4 контур интегрирования полу-
полуокружностью бесконечно большого радиуса, лежащей в левой полу-
полуплоскости. Вычисляя интеграл с помощью вычетов, получаем равенство
где Re^1^>0, Rez2^>0, a zu z%, 6, z связаны формулами F) и
F') п. 4.
Аналогично, из формулы A0) и A2) п. 4 получаем
¦у (_ 1)п
п =0
если
G)
е~™Н{1\ (х), если 0<2дг1<д:2.
Значения 0, х, б, д: даются формулами C) и C').
Наконец,
если 0 < х* < 2х„
2i+ (8)
„=о " | е-Х(в "^(дг), если 0<2д:1<л-2.
6. Теоремы сложения. Выведем теперь формулы, аналогичные
формуле сложения для функций Бесселя (см. п. 1 § 4 главы IV).
С этой целью рассмотрим движение
g = g(rv 0, 0)g@, 0, 6)?(г2) 0, 0),
где ri^>0, г2^>0. Это движение можно представить в виде
g=g@, 0, 9)g(r, 0, 0)^@, 0, 6 — ср),
где
Так как гиперболическому вращению на угол 6 соответствует опера-
оператор умножения на ехе, то
а + ico
J /Г(Х, v; R; g(rb 0, 0)) К(у, к R; gfa @, 0)) е(*^ъdv =
a — lea
^* R; g(r, 0, 0)). A)

<ЬуЙкцйи ганкеля и макдонАльдА [t\n. V
Подставим в эту формулу значения ядер. Тогда при R
Re 22 ^> О будет выполняться равенство
ch 6 -|- z«, Re г > 0. C')
где
При чисто мнимых значениях Z\ и г2, 2i = it/Jti, г2 = ±г'д:4,
¦х*^>0, получаем
a-\-ico
J H{1L*(x1)mi-2>(Xv)e^dv = ±2e>jrH{ll2>(x), D)
а — ico
где—1<а<1, —l<ReX<l, о—1 <Re(X —v)<a + l,
,, х2 sh 6 ,кч
ch 6 + xl х > 0, E')
причем верхний знак относится к функции М" (-*0> а нижний —
к H{s>(x).
Рассматривая другие комбинации движений (например,
g(— г„ 0, 0)^@, 0, е)е(г» 0, 0), g(rlt 0, 0)g@, 0, 6)g@, г„ 0) и т. д.),
получим ряд новых формул, аналогичных установленным. Опуская их
подробный вывод, укажем окончательные результаты.
При *,>*,>() и ?»<у?
1
5 (*sl)^ = —2^"//^(*), F)
a—ioo
где —l<Re[x<l, —1<а<1, — а— 1 <Re[x< 1 — а, и
х2sh 6
=
X Xj —J— Лд ZJfjXg СП О, Л ^> U. V /
При JC!^>JC2^>0 и е6^>— -
X), (8)
где — 1<а<^1, — a—l<IRe{A<Cl — а и
г4-. (9)
xl лг>0. (9')

§ 5] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ 279
При e9<:—, —1<а<1, — a— l<Re|x<l — a,
xi
J1 = ~eil{f"ci)Kl>.(x) A0)
со значениями ср и х, даваемыми формулами (9) и (9').
При <?е = ^, —1<а<1, — а~ l<Refx<l — a,
При ев = ^, —1<а<1, —а—l<Re[x<l —а,
Далее, при х^х^О и тг
a — tco
где х и ср задаются формулами G) и G').
При хи
При дг,>*а>0, e"<g, — 1 <Refx<
где лг и <р задаются формулами (9) и (9').
При ее = |,
При ее=^, Reix>0
При л-,>0,л-2>0 и e><g. a—l<Re{A<fl+l
o+ioo

280 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
где
*'+*»'h6, A9)
х ch 6 ' v '
sh6 — х\, дг>0. A9')
При jf,>0, *2>0, ee>g, a—l<Refx<a+l, _ l<Refx<l
(x), B0)
где
,, х, ch е
th
— x\, x
При eb = XJ, a— l<Re[x<a-f 1,
B1')
При лг,^>0, Лг2>0, eG> ', a —
a-\-ix>
где
х* = xl -f- 2^^ shB — *f, дг > 0. B4')
При jc,>0, д:2>0, ее<^, a—l<Reix<a+l, -_l<Re,x<l
y1 = irfew/ijf1(*). B5)
где
x^h6—, B6)
x, ' v '
7. Теоремы умножения. Применим к равенству B) п. 6 формулу
обращения Фурье. Мы получим
2
(О
— оо
где ср, z, 6, zlt zs связаны формулами C) и C^ п. 6,

§ 5] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ 281
В частности, при Х^О получаем равенство
со
е-*»Ко (V z\ + 2z,z, ch 6 -f zl) db = К, (zt) tfv (zj. B)
Напомним, что в этих формулах Rezi^>0,
где z = Vz\ + 2г,г2 ch 6 +.4
Аналогично, из формулы D) п. 6 получаем
со
I ^vV!1W^tf^WW'aD C)
где ф, х, 6, хх, дг2 связаны формулами E) и E) п. 6, ^ ^
дг^>0. Верхний знак в этом равенстве относится к HV1'(х), а ниж-
нижний— к Д,2 (лг).
8. Взаимно обратные интегральные преобразования. Так как
Q^ig) QR(g1) = E, то интегральные преобразования
Ф(Х)=°5 к (К к R; g)P(v-)d^ A)
a ico
И
«4-*°°
F(X)= \ К (К щ R; gl)<b(y.)dp B)
a —ico
взаимно обратны. Но операторы QR(g) и Q^ig1) одновременно
являются интегральными лишь в унитарном случае (см. п. 3 § 3), т. е.
при R = pi. Используя результаты п. 3 § 3, получаем следующие
утверждения.
Интегральные преобразования
jj e 2 /^2LX(^)F(^)^ C)
а— /со
1
T J е 2 Ч-х(х)ФAх)^, D)
а—«со
где —l<^Re(X — jj,)<^1, взаимно обратны при всех

282 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
Интегральные преобразования
a —too
+ (Х-ц)Я|
= ^ \ е 2 K^(x)F(^)d? E)
X)nt
2 ^д^)ф(^)Ф • F)
а — /со
где —l<^Re(X— |х)<^1, взаимно обратны при всех ^
Из формул A7) и A9) п. 2 § 3 вытекает, наконец, что взаимно
обратны интегральные преобразования
а+«оо
2^Г \ Т(р.-Х)фс)^Р(р)^ G)
а — кх)
где ^> ^
б-}-'00
i ^ Н (8)
Ь-»оо
где fe^>ReX, лг^>0. Эти преобразования устанавливают связь между
функциями Р(Х) и Ф(Х) в полуплоскости ReX<^a.
Точно так же из формул A6) — A8) п. 2 § 3 следует, что взаимно
обратны интегральные преобразования
2^ § )фсГхР(й<Ь (9)
a — ico
где a<^ReX, дг^>0, и
b+ioo
РЮ = Ы S Г(Х_,х)(-/^^Aх)ф) A0)
Ь —«со
где fc>ReX, дг>0.
§ 6. Разложение квазирегулярного представления
группы МНB)
1. Квазирегулярное представление группы Л1//B). Обозначим
через €2 пространство функций f(x) на псевдоевклидовой плоскости,
для которых
||/||2 = $1/(Х)|2<*Х<+00' A)
где rfx = dx dy при х = (х, у). Полагая
x), B)

§ 6] РАЗЛОЖЕНИЕ КВАЗИРЕГУЛЯРНОГО ПРЕДСТАВЛЕНИЯ ЛШB) 283
гДе ?f? МН{2), мы получаем квазирегулярное представление груп-
группы МНB). Это представление унитарно относительно нормы A).
Чтобы разложить представление L(g) на неприводимые, сделаем
преобразование Фурье функции /(х), записав его в виде
ilx-y]dx. C)
Легко показать, что при этом операторы квазирегулярного представ-
представления L(g) переходят в операторы вида
L(g)F(y)=enb^F(y^)y D)
где g—g(b, а) и у_„ — точка, в которую переходит точка у при
гиперболическом вращении:
у[ =yl ch <х — у2 sh a,
у'г = —ух sh а -j-уъ ch а.
Представление L(g) разлагается на неприводимые точно так же,
как это было сделано в § 5 главы IV для группы евклидовых дви-
движений. Только вместо пространств функций на окружностях с цент-
центром в начале координат мы рассмотрим пространства функций на
гиперболах [у, у] = С. Именно, обозначим через ф^1 пространство
функций
таких, что
а через ф^' обозначим пространство функций вида
F*'($) = F(Rshty, Rchty), — co<R<c», R ф 0. E)
Легко видеть, что все эти пространства инвариантны относительно
операторов D). В соответствии с этим мы получаем разложение
представления L(g) на неприводимые представления вида
L% (g) F» (ф) = <.«(»!•*¦-»«*«/?» (ф _ а), F)
Ц (g)^' (Ф) - emblS^-b^h^F^ (ф - а), G)
где R пробегает лучи @, со) и (—-со, 0) и
V=g(k, a) = g(bl, Ьь а).
Мы имеем
=\ L%(g)RdR+ f V$(g)RdR. (8)

284 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
В самом деле,
со со
= \ RdR $
— со — со .
со со
+ $ RdR $ |F(Rstnl., Rch<j>)|'</<1>. (9)
— со — со
Если строить представление L (g) не в пространстве функций с интегри-
интегрируемым квадратом, а в пространстве обобщенных функций, то помимо ком-
компонент F) и G) в разложение войдут еще компоненты, соответствующие
пространствам функций на лучах (у, у), (у, —у), (— у, у), (—у, —у) и
в точке Л'(О, 0). Эти компоненты являются приводимыми представлениями.
Разложение их на неприводимые осуществляется с помощью преобразования
Меллина.
2. Интегральные преобразования. Пусть/(х)— бесконечно диф-
дифференцируемая финитная функция и F(y)—• ее преобразование Фурье:
\eil*-*]dx. A)
Положим
А (г, ф)=/(rchcp, "hep),
A(r, cp)=/(rsh<p, rchcp),
fain cp) ==/(—r ch cp, — rshcp),
Air. ?)=/( —rshcp, —rchcp),
где 0 <^ r <^ со, — oo <^ cp <^ со.
Аналогичными формулами определяются функции Fk (R, ф), 1 ^
^k^.4. Таким образом, функции fj (r, cp) совпадают с f(v) в одном
из квадрантов и равны нулю вне его. Аналогичный смысл имеют
функции Fj(R, ф).
Из формулы A) вытекает, что
Fj(R, ф)= S \rdr \ fh(r, чи«"Чь®-*йъ B)
fc=10 —со
где
«и («) = — «is («) = — «22 (а) = «24 («) =
— — ам (а) = а33 (а) = р.ш (а) — — а44 (а) = ch а
и
— «|2 (») = «н(«) = «?i (а) = — «23 («) = «32 («) =
= — ац (а) = — % (а) = а43 (а) = sh а.

§ 6] РАЗЛОЖЕНИЕ КВАЗИРЕГУЛЯРНОГО ПРЕДСТАВЛЕНИЯ ЛШ B) 285
Точно так же из формулы обращения для преобразования Фурье
/(х)=-^^Ы^'1х'у1^у C)
следует, что
4 со со
/*('•?) = 0^2 \rdr ^Fj(R,^e~iKraJ^-^d^. D)
;= 1 0 — со
Мы видели в п. 1 § 3, что каждому значению R и индексу j
соответствует неприводимое представление группы МНB), реализу-
реализуемое в пространстве функций Fj(R, ф) (при заданном R). При этом,
чтобы получить операторы представления в виде интегральных опера-
операторов, надо перейти от функций Fj(R, ф) к их преобразованиям
Фурье по ф.
со
E)
Выразим функции Фу(/?, X) непосредственно через функцию f(x).
Для этого подставим в формулу E) выражение B) для Fj(R, ф) и
изменим порядок интегрирования. Мы получим, используя результаты
п. 4 § 3,
4 со со
Фу (К. *)= 2 $»"<*' S /*(^. T)^^y*(Rr, Х)с/Т, F)
ft= 1 0 —оэ
где
НЧ'а(р), G')
ATI
Л14(р, \) = Ап(р, Х) = Л32(Р, Х) = Л43(Р, Х) = 2е""аХЛ(р), G"')
Выражение fk (г, ср) через Ф^, (R, X) получается точно так же с по-
помощью формулы обращения C) и формулы обращения
Fj(R, ф)=-^- J фУ^' Ъе'**4к (8)

286 ФУНКЦИИ ГАНКЕЛЯ И МАКДОНАЛЬДА [ГЛ. V
для преобразования Фурье E). В результате получим
4 оо со
fk(r, 9)= щг ^ \ RW^ <W> Ve-**AkJ(Rr, X)«ft, (9)
/=10 — ю
где AkJ(p, I) задаются формулами G') — GlIV>).
Мы получили, таким образом, взаимно обратные интегральные
преобразования F) и (9), связывающие функции fk (г, ср), 1 ^ k ^ 4
с функциями Фу (R, К), 1 =^/ ^ 4. Из этих преобразований легко
получить преобразования для функций одного переменного. Именно,
введем функцию
оо
Pk(r, *) = $ fk(r, 9)eP*df A0)
— t»
— преобразование Фурье для fk (г, ср) по ср. Из формулы F) выте-
вытекает
4 со
Ф,- (R, X) = ^ $ <4;fe (Rr, X) Pfc (r, X) г с/г, A1)
С другой стороны, если рассматривать формулу (9) как формулу
обратного преобразования Фурье, по X, то
4 оо
Pk {г, Ц = B^
1 ==? k <? 4.
Мы доказали, таким образом, что если
4 оо
где — сю<^к<^со, \^J^% то
4 со
&kj(Rr, i)Qj(R)RdR, A4)
где 1 ==?:k^4. При Т5!(г) = Р2(О = ^з(r) = Pi(') = Р{г) получаем
Ф, (R) = Ф2 (R) = Ф3 (R) = Ф4 (R) = Ф (R).
В этом случае из формул A3) и A4) вытекает, что если
со
Ф (#) = 5 A (Rr, X) Р (г) dr, A5)
о

§ 6] РАЗЛОЖЕНИЕ КВАЗИРЕГУЛЯРНОГО ПРЕДСТАВЛЕНИЯ МН B) 287
ТО
р (г>=ш? SА (Rr> х>ф w R dR' <16>
где
А (р, X) = тг/е 2 [Щ, (р) - ЫГ (р)] + 4ch | К а (р). A7)
Используя результаты п. 4 § 3, легко показать, что ядро А (р, X)
можно представить в следующем виде:
А (р, X) = -^ [Ja (р) + Л Уи (/р) - У_/х (р) - е"^"У д (/р)] =
h
п (Р) - •'-.-х (Р) - [-п (Р)].
Другой частный случай преобразований A3) и A4) получается,
если взять Рг(г, l) = Ps(r, Х) = Р(г, X), Р2 (г) = Р4 (г) = 0. Мы по-
получаем при этом, что если
Хл со
Ф, (R, X) = nfe» $ [/??'» (Rr) — Н8! (Rr)] P (r, l)rdr, A8)
о
оэ
Ф, (R, X) = 4 ch ~ ^ KiX (Rr) P (г, X) rdr, A9)
то
Хл со
P(r, \) = izte~2\ [НЧ
+ 4ch ^- § /Gx (Rr) Ф2 (R, X) R dR, B0)
о
причем
CO
0 = 4ch ~ J /Ta (Rr) Ф, (R,
Xic oo
Л" J [/?i'lx (/?r) — /fljt1 (Rr)] Ф2 (R, X) R dR. B1)

ГЛАВА VI
ПРЕДСТАВЛЕНИЯ ГРУППЫ QU{2) УНИМОДУЛЯРНЫХ
КВАЗИУНИТАРНЫХ МАТРИЦ ВТОРОГО ПОРЯДКА
И ФУНКЦИИ ЛЕЖАНДРА И ЯКОБИ
В этой главе будут рассмотрены представления группы Qf/B)
унимодулярных квазиунитарных матриц, во многом сходной с группой
SUB). Однако, в отличие от группы SUB), группа квазиунитарных
матриц некомпактна. Из-за этого она обладает непрерывной серией
унитарных представлений. Специальные функции, к которым приводит
рассмотрение этой группы, родственны изученным в главе III много-
многочленам Лежандра и Якоби. Мы будем называть их функциями Ле-
жандра и функциями Якоби.
§ I. Группа QUB)
1. Описание. Назовем квазиунитарными у нимодулярными мат-
la р\
рицами второго порядка матрицы вида I- -I, где [<х|2—|р|2=1.
\р о./
Легко видеть, что эти матрицы образуют группу. Обозначим ее
через QUB). Очевидно, что если матрица g принадлежит группе Q?/B),
/1 0\ , /а р\
то gsg* = s, где s = Ь a S — I - I — эрмитово-сопряженная
\0 — 1/ ф о./
с g матрица. Обратно, если gsg*= s и Detg-==1, то g-принадлежит
группе Qf/B). Таким образом, Qf/B) можно определить как группу
матриц g, таких, что gsg* = s и Detg=l.
Покажем, что группа Q(JB) изоморфна группе SL B, /?) вещест-
вещественных унимодулярных матриц второго порядка. В самом деле, каж-
каждой матрице g— I I из группы SL B, /?) поставим в соответствие
\Т 8/

§ I] ГРУППА Qf/Bt 289
/1 Л
матрицу h — t xgt, где ? = [ 1 Тогда
где
1-7I, B)
Поэтому матрица А принадлежит группе QUB).
Тем самым установлено отображение группы .SX B, R) в группу
QUB). Простой подсчет показывает, что это отображение является
изоморфизмом. Однако при и]>2 группы SL(n,R) и QU(n) уже не
являются изоморфными.
Укажем еще одну реализацию группы QUB) (точнее, ее фактор-
факторгруппы по центру).
Рассмотрим в трехмерном линейном пространстве Е3 неопределен-
неопределенную квадратичную форму
[х, х]=^-^-< C)
Уравнение [х, х] = 0 определяет конус в пространстве Е3 с верши-
вершиной в начале координат. Он разбивает пространство Е3 на три об-
области: внутренность верхней полы конуса, внутренность нижней полы
конуса и внешнюю область конуса.
Обозначим через SHC) группу линейных преобразований прост-
пространства Es, переводящих каждую из этих областей в себя. Такие пре-
преобразования являются аналогами вращений трехмерного пространства
с той лишь разницей, что они транзитивно действуют не на сферах,
а на гиперболоидах и конусах [х, х] = 0. Поэтому такие преобразова-
преобразования называют гиперболическими вращениями.
Связь между группами Q?/B) и SHC) такая же, как и между
группами SUB) и 50C). Именно, каждой точке x(xv xz, xs) прост-
пространства Es поставим в соответствие квазиунитарную матрицу
h = ( Xl *«+*^ D)
\x ix х j
/у
ixs
левый верхний элемент которой веществен.
Если g—любая матрица из группы QUB), то ghg* — квазиуни-
квазиунитарная матрица, левый верхний элемент которой — вещественное число.
Поэтому матрица ghg* имеет вид
. ) E)
— 1Уз Ул. I

290 ПРЕДСТАВЛЕНИЯ ГРУППЫ QUB) [ГЛ. VI
и ей соответствует точка у (yv у2, у3) пространства Es. Преобра-
Преобразование gx — y является линейным, поскольку элементы матрицы
ghg* линейно выражаются через элементы матрицы h.
Итак, каждой матрице g из QUB) поставлено в соответствие
линейное преобразование в пространстве Es. Так как матрица g уни-
модулярна, то
Det ghg* = Det h. '
Но если h = \ г 2 ' 3|, то Det h = [x, х]. Таким образом,
линейное преобразование сохраняет квадратичную форму [х, х]. Легко
проверить, что если хг^>0, то иуг^>0, а потому верхняя пола конуса
. [х, х] = 0 переходит в верхнюю полу. Следовательно, линейное пре-
преобразование y=gx, соответствующее матрице g из Qf/B), принад-
принадлежит группе ?//C).
Мы установили отображение группы QUB) в группу 57/C). Это
отображение гомоморфно, причем ядром гомоморфизма является центр
/1 0\ 1-Х 0
группы QUB), состоящий из матриц е= I I и ¦—^ = 1
Отметим еще реализацию групп QUB) и SLB, R) в виде групп
дробно-линейных преобразований комплексной плоскости. Каждой
/а р\
U 8/
/а р
матрице второго порядка ^=| поставим в соответствие дробно-
U 8/
линейное преобразование
Простой подсчет показывает, что
и потому группа дробно-линейных преобразований является гомоморф-
гомоморфным образом группы SLB, С) комплексных унимодулярных матриц
второго порядка. Ядро этого гомоморфизма состоит из матриц
/I 0\ /-1 0\
~1 и —е =
¦ При этом гомоморфизме матрицам вида I - - I, | а |2 — | р21 = 1, т. е.
элементам группы QUB), соответствуют дробно-линейные преобразова-
преобразования, переводящие в себя единичный круг и его дополнение. Матрицам же
из подгруппы SL( 2, R) соответствуют дробно-линейные преобразова-
преобразования, переводящие в себя верхнюю и нижнюю полуплоскости. Изомор-
Изоморфизм между QUB) и SLB, R) связан с существованием дробно-

§ 1] ГРУППА QU{2) 291
линейного преобразования w— , ., отображающего верхнюю полупло-
полуплоскость на единичный круг.
2. Подгруппы группы SLB, R). Рассмотренные в предыдущих
главах представления групп SUB), М{2) и МН{2) обладали следую-
следующим важным свойством: операторы представлений, соответствующие
элементам некоторых подгрупп, задавались в выбранных реализациях
диагональными матрицами. В группе SUB) такой подгруппой была
(еиП О \
подгруппа матриц вида в группе М{2)— подгруппа вра-
\0 e"itl2 )'
щений вокруг начала координат, и в группе МНB) — подгруппа
гиперболических вращений. Именно благодаря такому выбору реали-
реализации удалось выразить матричные элементы представлений в виде
произведения трех функций, каждая из которых зависела лишь от
одного переменного.
В группе б1! B, R) есть три однопараметрические подгруппы, такие,
что любая другая однопараметрическая подгруппа сопряжена с одной
из них. Этими подгруппами являются подгруппа SO B) ортогональных
t .
-g —sin
t \
вещественных матриц I подгруппа SHB) диагональ-
у sin у cos у/
ных матриц </21 и подгруппа Z треугольных матриц вида I I.
\0 е ) V V
Каждой из этих подгрупп соответствует реализация представлений
группы SL B, R), при которой элементы этой подгруппы изображаются
диагональными матрицами (или операторами умножения на функцию —
«континуальными диагональными матрицами»).
В этой главе рассмотрим реализацию, при которой диагональными
матрицами изображаются элементы компактной подгруппы 50B).
Для изучения этой реализации удобнее саму группу рассматривать
как группу QUB) матриц вида [_ _), [а2|—|BS|= КПриустановлен-
VP <*/
ном выше изоморфизме групп SLB, R) и QUB) подгруппе 50B) соот-
(it/2 \
е О 1
—it/2 '
Гаким образом, мы будем изучать в этой главе представления группы
Q(JB), при которых элементы диагональной подгруппы изображаются
диагональными матрицами. При такой реализации матричные элементы
выражаются через функции, близкие к изученным в главе III функциям
Якоби и Лежандра.

292 ПРЕДСТАВЛЕНИЯ ГРУППЫ QJ7B) [ГЛ. VI
/<хр\
3. Параметризации группы QUB). Каждую матрицу ?=(- -I
группы QUB) можно задавать двумя комплексными числами аир, та-
такими, что | <х |2— | р |8 = 1. Во многих случаях удобнее заменить эти пара-
параметры углами Эйлера. Напомним, что согласно п. 4 § 1 главы III
каждая комплексная унимодулярная матрица g= I задается тремя
комплексными числами (р, G, ф — углами Эйлера этой матрицы. Мат-
Матрица с углами Эйлера (р, G, ф имеет вид
I (9 + Ф) I (У ~ Ф) \
2 / sin 4" е 2 \
1 О)
2 О 2 " /
2
Выясним, какие ограничения на углы Эйлера налагает принадлеж-
принадлежность матрицы g—l ] подгруппе Q?/B). Для этого должны выпол-
выполняться равенства 8 = а и f = C, т. е.
_ _ I (9+Ф)
B)
C)
B')
и
Перепишем
и
?
6
«(Ф
sin у е
эти равенства
G
. е
Sin-к
(9 + Ф)
2 _
-9)
2 _
в виде
-=COS
-= —
«(9+Ф)
е 2
= cos у е
«(Ф-9)
. 0 2
= — sin -=- е
. « (9 — 9 + Ф — Ф)
6 2
2
? (ф ip -|~ Ф V)
. е ¦ 2
sin -у-е
C0
Но -^-(ср — cp-j-ф — ф) и у(ф — Ф~1~Т — ?) — вещественные числа. По-
Поэтому, если матрица g=g(y, В, ф) принадлежит подгруппе QU{2),
е .в „
то cos -^ —вещественное число, a sin -^ чисто мнимое число. Сле-
Следовательно, угол Эйлера G является чисто мнимым, а потому т = 6/ —
вещественное число.
Из равенств B) и C) следует далее, что <р-f-ф и <р — ф — вещест-
вещественные числа, а потому углы Эйлера (риф вещественны. Таким обра-
/<х р\
зом, углы Эйлера матрицы g= I - - аз подгруппы Qf/B) имеют
\Р а/

§ 1] ГРУППА Qt/B) 293
вид ср, — zl, ф, где <f, i, ф — вещественные числа. Принимая во вни-
внимание ограничения на углы Эйлера матриц группы SLB, С), полу-
получаем, что параметры ср, т, ф изменяются в следующих пределах:
О ==: ср ss 2тг,
0<х<оо, D)
Легко показать, что различным точкам области, задаваемой неравен-
неравенствами D), соответствуют различные матрицы g группы QUB). При
этом матрица, соответствующая значениям параметров да, т, ф, имеет
следующий вид:
. x 2 , x
ch -у e shyc
. x 2 , x 2
у sh -g- e ch -к- e
Таким образом, группа QUB) также является одной из веществен-
вых форм группы SLB, С).
В дальнейшем удобнее использовать в группе QUB) вместо углов
Эйлера ср, 6, ф соответствующие вещественные параметры ср, х, ф. В этой
главе под углами Эйлера будем понимать вещественные числа ср, х, ф.
Найдем закон преобразования этих параметров при умножении эле-
элементов группы QUB). Пусть gt = @, х1; 0), g% = (ср2, х2,0) и й#а=(ч>, % ф)-
Используя формулы B) — B") из п. 2 § 1 главы III, получаем
ch х = ch xx ch x2 -j- sh xx sh x2 coscp2, F)
if sh Xj ch x2 -\- ch xx sh t2 cos tp2 -|- i sh x2 sin у2 ,„,,
sh x ' \ J
I <p2 i 92
Из этих формул следует
ch тх sh
shTi
te ф = sh z* sin Уi G)
6 T ch тх sh x2 cos tp2 -f- sh xx ch x2' v '
6T shTjchxj cos!p2-)-
Общий случай без труда сводится к разобранному (ср. п. 2 § 1
главы III).
Простая проверка показывает, что элемент g(cp, т, ф) обратен эле-
элементу g(n — ф, т, — тс —ср).

294 ПРЕДСТАВЛЕНИЯ ГРУППЫ QU B) [ГЛ. VI
4. Инвариантное интегрирование. Поскольку группа
локально компактна, на ней существует инвариантная мера dg, т. е.
такая мера, что для любой финитной непрерывной функции f(g) имеем
Дословно повторяя рассуждения из п. 1 § 6 главы III, убеждаемся,
что выражение меры dg в параметрах Эйлера имеет вид
dg = s!k dz d<? dty. A)
Легко проверить, что она инвариантна не только при преобразованиях
g—*gg0, но и при преобразованиях g—^gog и g—> g'1. Таким образом,
инвариантное интегрирование на группе Qf/B) задается следующим
образом:
со 2и 2тс
[f(g) dg= $ I I /(?, x, ф) sh x tf<|> d? dz. B)
0 0 —2vc
Иначе можно представить формулу B) в виде
\f(g)dg=\f(a, P)8([al2 — |P|2—l^axdajjrf^dPa, B')
где a = (
5. Алгебра Ли. Найдем алгебру Ли группы QLJB). Рассмотрим
три однопараметрические подгруппы этой группы. Подгруппа fix со-
состоит из матриц вида
sh- chi-J' A)
подгруппа fi2 — из матриц вида
/ ch|- ish~\
«".@= , # I (O
и подгруппа fi3 — из матриц вида
0
A")

§ 2] НЕПРИВОДИМЫЕ ПРЕДСТАВЛЕНИЯ 295
Касательные матрицы к этим подгруппам имеют следующий вид:
Поскольку эти матрицы линейно независимы, они образуют базис
алгебры Ли группы QUB).
Коммутационные соотношения для матриц ах, аг, а3 таковы:
[ах> аа] = — а3. C)
[а2, a3] = av C')
[а3, а1] = а2. C")
Они отличаются от коммутационных соотношений для группы SUB)
лишь знаком при а3 в формуле C) (см. п. 3 § 1 главы III).
§ 2. Неприводимые представления группы QUB)
В этом параграфе мы построим серию представления Тх (g) группы
QUB). Эти представления задаются комплексным числом / и числом
s, принимающим значения 0 и 1/2, и строятся в пространствах одно-
однородных функций f(z) заданной четности. Будет показано, что пред-
представления Ту (g) приводимы тогда и только тогда, когда 11 и 2s —
целые числа одинаковой четности, и будут указаны условия эквива-
эквивалентности и унитарности этих представлений.
1. Пространство 3)у. Обозначим через / совокупность / = (/, е)
комплексного числа / и числа е, принимающего значения 0 Иу.
Каждой такой совокупности поставим в соответствие пространство !1)х
функций f(z) комплексного переменного z = x-\-iy, таких, что:
1) функции y>(z) бесконечно дифференцируемы по х и у во всех
точках z = x-\-iy, кроме точки z = 0;
2) для любого положительного числа а выполняется равенство
?(az) = a*l?(z); A)
3) функции ср (z) имеют заданную четность: при е = 0 они четны,
а при s = х/2 нечетны:
f(-z) = (~ir<?(z). B)

296 ПРЕДСТАВЛЕНИЯ ГРУППЫ QUB) [ГЛ. VI
Если Г — некоторая кривая на комплексной плоскости, пересекаю-
пересекающая в одной и только одной точке любую прямую, проходящую
через точку z = 0, то функция ц>(г) из пространства Т>х однозначно
определяется своими значениями на этой кривой. Именно, если z —
точка комплексной плоскости и z0 ¦— точка пересечения прямой, сое-
соединяющей эту точку с началом координат и кривой Г, то
z
'О
9(-'о)- C)
Поэтому пространство \Г>Х можно рассматривать как пространство функ-
функций на кривой Г.
Если кривая Г пересекает прямые, выходящие из начала коорди-
координат, в нескольких точках, то <&х реализуется как пространство функ-
функций, заданных на кривой Г и удовлетворяющих некоторым добавоч-
добавочным условиям, вытекающим из однородности и четности функции ц> (.г).
Например, если Г — единичная окружность, то при е = 0 прост-
пространство 3)х реализуется как пространство бесконечно дифференцируе-
дифференцируемых четных функций на окружности, а при е = */«— как пространство
бесконечно дифференцируемых нечетных функций на окружностих).
Нам будет удобно иным образом реализовать пространство !D на
окружности. Именно, при е = 0 каждой функции <?(z) поставим в
соответствие функцию /(е'е), определяемую равенством
f(e*) = ?(e2)- D)
В силу четности функции <p(z) функция f(e'B) однозначно определена.
Если же е —-2-, то положим
f(e№) = e\(e2y E)
Эта функция однозначно определена в силу нечетности да (г). Таким
образом, при любом % = (/, е) пространство !DX можно реализовать
как пространство 2) бесконечно дифференцируемых функций на
окружности.
2. Представления T%(g). Каждому элементу #—(б ^) группы
Q{7B) поставим в соответствие оператор Tx(g) в пространстве 1)х,
определяемый формулой
f. -(I)
1) Мы называем функцию, заданную на окружности, четной, если она
принимает в диаметрально противоположных точках одинаковые значения,
а'нечетной, если ее значения в диаметрально противоположных точках
отличаются только знаком.

§ 2]
НЕПРИВОДИМЫЕ ПРЕДСТАВЛЕНИЯ
297
Очевидно, что функция Тх (g) ц> (z) имеет ту же степень однородности
2/ и четность 2s, что и функция <р (z), а потому оператор 7^ (g) пере-
переводит функции пространства Фх в функции того же пространства.
Далее, простой подсчет показывает, что
fei)
= тг
B)
а потому 7"x(g) является представлением группы Q{7B).
Найдем выражение для операторов представления Гх(§)при реализа-
реализации !DX в виде пространства 3) бесконечно дифференцируемых функций
на окружности. При е = 0 мы положили /(е'°) = ср (е2). Поэтому
7,
Обозначим =г-
<ф
через
Тогда
2 \
Так как, кроме того,
то
Итак, мы доказали, что я/w У = (/, 0) представление 7V (g) /
лизуется в пространстве ф бесконечно дифференцируемых функ-
функций на окружности и задается формулой
C)

298 ПРЕДСТАВЛЕНИЯ ГРУППЫ QUB) [ГЛ. VI
Точно так же доказывается, что при / = (I, уа) операторы Тх (g)
задаются формулой
^±|| D)
Формулы C) и D) можно заменить единой формулой:
/+Е &г» + а/- /(^±|\. E)
3. Инфинитезимальные операторы. Вычислим инфинитезимальный
оператор Ах представления Tx(g), соответствующий однопараметриче-
ской подгруппе fit матриц вида
О)
Этим матрицам соответствуют операторы
ТхК (t))f(e№) = (sh|- е;е + ch|j'+e(sh.^в-и + chI)'" X
х/1~т-^ г}- B)
Поэтому
Точно так же подгруппе fia матриц вида
(chy I sh -Л
t t) W
~ishY chTj/
соответствует инфинитезимальный оператор
E)

§ 2| НЕПРИВОДИМЫЕ ПРЕДСТАВЛЕНИЯ 299
Подгруппе же 23 диагональных матриц
«8 @ = 1 it I F)
соответствует инфинитезимальный оператор
Вместо операторов ^4Х, Az, As удобнее пользоваться их линейными
комбинациями И+, Н_, Hs:
H+ = ~A1-iA2, (8)
Н_=—А1-\-1Аъ (8')
ff, = tA9. (8")
Из формул C), E) и G) вытекает, что
\е», (9')
<9">
В пространстве 35 существует базис {^~'ftfi}, состоящий из собст-
собственных функций оператора Hs:
Н3 е~т == (е + к) е~т. A0)
Выясним, как действуют на функции этого базиса операторы И+ и
Н_. В силу (9) и (9') имеем
A1)
~1 {k'l) e. A2)
Таким образом, оператор Н+ переводит функцию е~'*6, соответст-
соответствующую собственному значению e-f-A оператора Н3, в функцию, для
которой собственное значение на единицу больше. Точно так же при-
применение оператора Н_ уменьшает на единицу собственное значение.
4. Неприводимость. Докажем, что построенные в п. 2 представ-
представления Tx(g), X —(^> s) группы Qt/B), вообще говоря, неприводимы.
Исключение составляют значения % == (/, е), для которых 21 — целое

300 ПРЕДСТАВЛЕНИЯ ГРУППЫ QU E) [ГЛ. VI
число, имеющее ту же четность, что и 2е. В этом случае /-[-ей/— е —
целые числа. Такие значения у мы будем называть целочисленными.
Итак, покажем, что при нецелочисленных значениях j( представле-
представление Tx(g) неприводимо.
Сузим сначала представление Tx(g) на подгруппу 23, состоящую
О
из диагональных матриц вида | и |. Мы получим представление
x A)
подгруппы S3. Это представление эквивалентно регулярному пред-
представлению группы «SO B), изоморфной подгруппе Q3, Поэтому оно
разлагается в прямую сумму одномерных представлений, которые реа-
реализуются в подпространствах Jr>k функций вида cke~M.
Поэтому (см. п. 3, § 3 гл. Г) любое инвариантное подпространство
% в 25 распадается в прямую сумму некоторых из подпространств 4pft
и, следовательно, либо является нулевым, либо содержит одну из
функций е~1кв. Но в силу инвариантности X оно содержит вместе
с любой функцией е~1кЬ и все функции Н™ё~м, Н™е~м. Формулы A1)
и A2) п. 3 показывают, что
Ш UW B)
C)
где для краткости положено
Очевидно, что если у==A, е) не является целочисленным, то a.km и
Pftm не обращаются в нуль. Поэтому % содержит все функции е~'пв
и, следовательно, совпадает с 3). Тем самым неприводимость 7'7{g)
доказана.
5. Целочисленные представления. Рассмотрим теперь случай;<
когда / = (/, е) целочисленно, т. е. случай, когда 1~\-е и I — „е —
целые числа. Покажем, что в этом случае представление Tx(g) при-
приводимо.
Если 1-\-г и /—s — целые числа, то функции е'(г+ЕN и е-'('-?'е
однозначно определены. Обозначим через ВД подпространство в ф,

§ 2] НЕПРИВОДИМЫЕ ПРЕДСТАВЛЕНИЯ 301
состоящее из функций вида е' A~е)Ьf(el\ где/(г) аналитична внутри
единичного круга. Через 3)Г обозначим пространство функций вида
<?' (/+s)e/(<?'e), где f(z) аналитична вне единичного круга (и в беско-
бесконечно удаленной точке). Функции из пространства 2)? разлагаются
в ряды
/(*") = *-•<*-•>• ? апе-<»\ A)
л— — со
а функции из пространства 2>Г — в ряды
оо
f{e№) = ei(l^^ane-in*. B)
Покажем, что подпространства 2)}" и 2O" в 3) инвариантны относи-
относительно операторов Tx(g), / = (/, е). В самом деле,
Тг (g) [е-1 «-'>е/(^)] = е* <^(Р*« + SF/ (g^±|). C)
Так как 2/ — целое число и | а I ^> | [41, то (fte -)- аJг — аналитиче-
аналитическая функция внутри единичного круга. Кроме того, так как преоб-
ог + Р *
разование w=——~ переводит внутренность единичного круга в себя,
рг + а
a f(z) аналитична внутри этого круга, то и функция / I '_ 1 ана-
\^г -\-а/
литична внутри этого круга. Поэтому функция фг -}- аJг / I ^—ЬЁ )
\рг -\-п1
аналитична внутри единичного круга и, следовательно,
принадлежит подпространству ф+. Тем самым инвариантность этого
подпространства доказана. Точно так же доказывается инвариантность
подпространства !D7-
Если / — s <^ 0, то подпространства Фг" и 3)/" имеют нулевое пере-
пересечение. В этом случае инвариантными подпространствами в 3) явля-
являются 1)Т, ?>/" и 2)Г + 2)?- Мы будем обозначать через 77(g), Гх"(#)
и T?(g) представления, индуцированные представлением в подпрост-
подпространствах 2)? и T>t и фактор-пространстве ®? = 1)/A)Т -f- !D7)-
Если же / — е^О, то подпространства 5)/" и 2)jr имеют ненулевое
пересечение 2)? = 2O П ®^- В этом случае мы будем обозначать через
Tx(g), T?(g) и 7^(g) представления, индуцированные представлением
iTz (§) в фактор-пространствах 2)Г/Ф/ и 2)/"/2)J и подпространстве 2)/.
Таким образом, вообще говоря, в целочисленном случае представ-
представлению Tx(g) соответствуют три представления, Tf(g), Tf(g) и T?(g).

302 ПРЕДСТАВЛЕНИЯ ГРУППЫ QUB) [ГЛ. VI
Исключением является случай /=—1/2, е^1/^ где мы имеем лишь два
представления, поскольку в этом случае 3) = 3O -\- 3)t и потому
Т\ (§) — единичное представление.
Точно так же как и в нецелочисленном случае, доказывается, что
представления Tf (g), Tf (g), Tf (g) неприводимы.
6. Условия эквивалентности. В этом пункте будут сформулированы
условия, при которых представления Ту (g) и Тх (g) группы Q(JB)
эквивалентны. Мы дадим лишь эскиз доказательства. Подробный вы-
вывод этих условий, равно как и результатов следующего пункта,
читатель найдет в книге [15] (п. 5, § 4 главы VII).
Назовем представление Т (g) частично эквивалентным представ-
лению Тх (g), если в пространстве 3) есть такой ненулевой оператор Q,
что
QTXi(g)=TyJg)Q. A)
Если оператор Q имеет непрерывный обратный оператор Q~\ то
частично эквивалентные представления эквивалентны.
Из равенства A) вытекает, что для инфинитезимальных операто-
операторов А7/,1 и Aif выполняется равенство
k= 1,2,3. B)
Положим ft ;=3 и заметим, что в базисе {е~'} матрица оператора
,4* диагональна, причем в нецелочисленном случае все диагональные
элементы различны между собой. Отсюда легко следует, что матри-
матрица оператора Q тоже диагональна. Кроме того, получаем, что для
существования оператора Q должно выполняться равенство е,=е2,
где Xi = (/i> s0> X2 = (Z2. Ч)-
Из выполнения условия B) при k=\, 2 следует, что
Используя вид операторов И+ и Н_ (см. формулы (9) и (9') п. 3), полу-
получаем, что диагональные элементы qnn оператора Q должны удовлет-
удовлетворять условиям
(я — А+е)?«+1,„+1 = (я — 4 + е)?п„ C)
и
(— п — 4 - - s — 1) qn+l „+1 = (— п — 1г — е — 1) qnn. • D)
Сравнение равенств C) и D) приводит к выводу, что если дпп ф 0,
то либо 4 = /2, либо /j = — 4 —¦ 1 •
Итак, если представления TXi(g), Xi = (li, ч) и TXi(g), X2 = D. Ч)
частично эквивалентны, то е1 = еа, и либо 1Х = 1%, либо lt =

§ 2] НЕПРИВОДИМЫЕ ПРЕДСТАВЛЕНИЯ 303
В первом случае представления Тг (g) и 7Х (g) совпадают. Во вто-
втором случае из соотношения C) получаем
Чпп Х(—П~1~~ ?) ¦
Таким образом, в случае, когда 1Х = — 1.г — 1 = /, матрица опера-
оператора Q в базисе \е тН диагональна, причем на главной диагонали
Г(/ — и— е+1)
этой матрицы стоят числа ~~ —!—^.
Ясно, что в нецелочисленном случае оператор Q 1 существует и не-
непрерывен (его матрицей является диагональная матрица, на главной
диагонали которой стоят числа Г ( — п — /—е)/Г (I— п — s —|— 1)).
Таким образом, если ~/х = —у$ и представление Тх (g) не является
целочисленным, то Тг (g) и 7'Zo (g) эквивалентны.
Сложнее обстоит дело в целочисленном случае. Пусть ^[ = (/, s) —
целочисленно, причем /—s<^0. В этом случае представление Tx(g)
приводимо. Оно индуцирует неприводимые представления Tf(g), 77" (g)
и Tj{g) в пространствах Ф/, 3)Г и ф° ^ 'Х1/C)/' -(- 3)Г) соответственно.
Так как /з = ( —'—1> Е). то и представление TX2(g) приводимо.
Оно индуцирует неприводимые представления T—i—\(g), 7^L/ i(g) и
7'1г _ i(g-) в пространствах
2>t,_,/TH-i-i, ф-,-!/!^,., и ф?.|_,=ф1,_1П2>1|-1.
Точно так же как и в нецелочисленном случае, доказывается, что
представления 7t(g), Tf(g) и ^(g") соответственно эквивалентны пред-
представлениям 7±/_i(g), TZ.i-i(g) и 7l/_i(g-).
Можно показать, что других эквивалентностей, кроме указанных
здесь, между представлениями не существует.
7. Условия унитарности. Прежде чем выяснить, при каких ^=
= (/, б) представление Tx(g) унитарно, установим, когда в простран-
пространстве 3) есть эрмитова форма H(fi, /2), инвариантная относительно
Tx{g), т. е. такая, что
i, Л)=ЩТг Шъ тг (g)A). A)
Из равенства A) следует, что для любого инфинитезимального опера-
оператора Ах представления Tx(g) имеем
(АУ„Л) + (Л,АхЛ) = 0. B)
Чтобы убедиться в этом, достаточно представить в A) g=g(t), про-
продифференцировать по t и положить ^=0.
Дальнейший ход рассуждения напоминает проведенный в преды-
предыдущем пункте. Мы приходим при этом к следующему результату:

304 ПРЕДСТАВЛЕНИЯ ГРУППЫ QUB) (ГЛ. VI
Представление Т% (g), у = (I, в) обладает инвариантной эрми-
эрмитовой формой H(fi, /2), если либо 1 = 1, либо 1= — 7—1. В пер-
первом случае I—вещественное число, а во втором оно имеет вид
1=—2"Ч~Ф> г&е Р—вещественное число.
При этом эрмитова форма, инвариантная относительно представ-
представления Tx(g), х=( 2"~Ь'Р' е)> имеет ВИД
СЛ,Л)= ? ОпЬп- C)
П = —СО
СО СО
ЗдесьЛ^^ ^ane'inl), /2(e'"e)= ^ bne Шй- Эту форму можно
я=— оо п = —со
записать в интегральном виде
2я
(Л. /0=^5 Л (еге)Л(?е) rfe. D)
Точно так же при вещественном / эрмитова форма, инвариантная
относительно Ту (g), x = (А е)> имеет вид
со
Г(/ — П — е4- 1) 7 /сч
,А)= 2 г(-я-/
или, в интегральной форме
2-х 2ic
ф ,„ -з/-а
I X
sin ^ Х
о о
X [sign Sin ^Ур Л (С1Ф)Л (е<9) йф d% F)
где
2
sr(—2/—1)
Теперь уже легко установить, при каких значениях 5С = (/, б) ин-
инвариантная эрмитова форма H(fu /4) положительно определена, т. е.
когда представление 7*x(g) унитарно.
Очевидно, что для любой функции /(е'°) из 3) имеем
(/,/)= |] |а„|^0.
п=—со
Поэтому все представления T%(g), Х = [—"о—Ь'Р'е) унитарны. Мы
будем называть их унитарными представлениями основной серии.

§ 2] НЕПРИВОДИМЫЕ ПРЕДСТАВЛЕНИЯ 305
При этом 7x(g)> Х^( о"~~Ь^Р> 0) называются унитарными пред-
представлениями первой основной серии, a T%(g), х==[—Т
унитарными представлениями второй основной серии.
Рассмотрим теперь случай, когда у = (/, б), где / -— вещественное
число. Для положительной определенности инвариантной эрмитовой
формы необходимо и достаточно, чтобы при всех п выполнялось
неравенство
Г(/-Я —е+1)
Г(—и —/ —с) -^ ¦
Так как
Г(/ —и—? + 1) A — п — е)ТA — п е)
Г(— п — / — с) (— п — I — е— 1)Г(—и — / —е—II
то при всех п должно выполняться неравенство
/"!г~е ,>о. G)
—и— / — е—1 ^ v '
В частности, при п = —1 получаем ' —<С^- Так как е = 0 или
¦у, то /-(- 1 — s^Z-(-e. Поэтому из неравенства G) вытекает, что
/-(-1— ?>0, / + Е<С°- Отсюда получаем е = 0 и —^^
Итак, если х = 0> е)> ГДе I — вещественное число, то представление
Tx(g) унитарно тогда и только тогда, когда б = 0и —1<^/<^0.
Соответствующие представления 7'х (g) называются унитарными пред-
представлениями дополнительной серии.
Наконец, унитарные представления группы QUB) возникают в
целочисленном случае, т. е. в случае, когда /-f е и /—е — целые
числа. Пусть /—е<^0. В этом случае в пространстве 2) есть два
непересекающиеся инвариантные подпространства 2)f и 2)Г (см. п. 5).
Инвариантная эрмитова форма в пространстве З)/' имеет вид
1-е
+ 1) и
— и — / — е)~
а н пространстве 3)Г — вид
п=—/ —е
Эти формы положительно определены. Отсюда вытекает, что при
Целочисленном % = (/, е), / — в <^ 0, представления 7? (g) и 77 (g) уни-
унитарны. Унитарны и эквивалентные им представления 7"i;_( и 7!l;_j,

306 ПРЕДСТАВЛЕНИЯ ГРУППЫ QUB) [ГЛ. VI
действующие соответственно в фактор-пространствах 2)i/_i/2)!!_;_i
и фИг^/З)!,-!, где ф?-/_1 = ф1/_1П2)-/-1. Для этих представ-
представлений инвариантные скалярные произведения задаются равенствами
ц±,-1(/ъ л)=" "'
-^*У^-Л С»)
1
Формы (8) и (9) также можно предстапить к интегральном виде.
Именно:
Л) = „r(_^_ir ^ JO-klV'-яИ"""/.(г)ЛЙЛсйу, A2)
где z = x-\-ly. Аналогично выражается форма (9).
Заметим еще, что группа QU{2) не имеет конечномерных уни-
унитарных неприводимых представлений (за исключением единичного
представления). Если у_^A, е) — целочисленно и /—е<^0, то инва-
инвариантная эрмитова форма для конечномерного представления T?(g)
задается равенством
1
(+
Очевидно, что эта форма не является положительно определенной.
8. Унитарно-сопряженные представления. Назовем представле-
представления T(g) и Q(g) унитарно-сопряженными относительно некоторой
эрмитовой формы H(fi, /2), если
Мы покажем сейчас, что представления Tx(g), ^ = (/, е) и T-(g),
— % =(—7—1, б) унитарно-сопряжены относительно эрмитовой
формы
С4Л)= S ая*„. . B)
п^—оо
В самом деле, имеет место равенство
где

3] МАТРИЧНЫЕ ЭЛЕМЕНТЫ ПРЕДСТАВЛЕНИЙ Г х (#) 307
Но в п. 5 было показано, что
(тг(g)/i, Л) = <Л, т_г
где —X —(—I—1> е)- Поэтому
Тем самым доказано, что представления Т (g) и 7_-(g) унитарно
сопряжены относительно эрмитовой формы (/,, /4). В частности, если
Х=(—g—Г"гР> s)» то —X —X' и мы получаем ранее доказанное
утверждение об инвариантности формы (flt /2) относительно пред-
стаи лений 7' (g), / = (— — -f /p, e):
(Тг (g) U Тг (g)/2) = (/„ 7Z (g "I) Гх (g)/,) = (/1; /,).
§ 3. Матричные элементы представлений Ty(g)
1. Вычисление матричных элементов. В этом параграфе мы
вычислим матричные элементы представлений T%(g) группы QLJB).
Выберем в пространстве 2) представления 7'x(g) базис, состоящий из
функций {е шЬ]. Так как
Тг (g)f(e№) = фе + а)'- &Г« + аУ- / (^±1) A)
(см. формулу E) п. 2 § 2), то
Гх (g) е '"е = (ре;е -+- а)'+П4-е (|е^" -| а)'-" ге~ш. B)
Матричные элементы 4» (g) представления 7"х (g) в базисе {е~1пЬ\
являются коэффициентами Фурье в разложении функции 7"х (g) ё1пЬ
по системе {е""}:
Tx(g)e-™= |] ^„fe)^''me- C)
m= —oo
Из формулы для коэффициентов Фурье получаем
N D)
Мы получили интегральное представление для матричных элемен-
элементов. С помощью подстановки е =z получаем представление trmn(g)
в виде интеграла по окружности Г: | z | = 1
fX (rr) _*_ ,
г

308 ПРЕДСТАВЛЕНИЯ ГРУППЫ QJ7B) [ГЛ. VI
Подынтегральная функция в этой формуле имеет внутри контура Г
две точки ветвления, 2 = 0 и z = —, с показателями т—1-\-г—1
и /—п — е соответственно. Так как сумма этих показателей равна
целому числу т — п—1, то подынтегральная функция однозначно
определена на контуре Г.
Разложим матричные элементы но степеням а, р, а, р. Так как
|а|>|р|, то
Аналогично,
-И — К — t
Перемножая эти разложения и подставляя полученный ряд в интег-
интеграл D), получаем
tin (g) = Г (/+ п + е + 1) Г (/ - п - е + 1) а'— а1™^"" X
Г (S + 1) Г (/—и—-S—е+1) Г (и- m+S+1) Г (f-f m—s+e-f-1)"
.?=max@, m—n)
F)
2. Выражение через углы Эйлера. Выбранный нами базис {е imB\
в пространстве 3) удобен тем, что в нем весьма простой вид имеют
матрицы операторов Ту (/г), где
0)
О е Ь
— диагональные матрицы. Из формулы A) п. 2 видно, что оператор
T%(h) имеет вид
B)
и, следовательно,
Гх (/г) в ш = е~п т+? V ш. C)
Поэтому матрица оператора T%{h) в базисе {е~'те} является беско-
бесконечной диагональной матрицей, на главной диагонали которой стоят
числа e-ilm**y.

§ 3] МАТРИЧНЫЕ ЭЛЕМЕНТЫ ПРЕДСТАВЛЕНИЙ Г х (g) 309
В п. 2 § 1 было показано, что любой элемент g- группы QUB)
может быть представлен в виде
chT Sh^\/e-2 0 \
\о e"^/VshT chT/\o e"W
где <f, -с, ф — углы Эйлера матрицы g. Поскольку матрица представ-
представления Тг (g) для диагональных матриц уже найдена, осталось найти
матрицу оператора T%(gT), соответствующего элементу
т Т
\sh2" ch17
группы QilB).
Подставив в формулу D) п. 1
получим
] Г""е
=к ] (chт+sh 1 '")"*" (chт +sh те" "Г""е е''(т")е л E)
о
Введем функцию фт„ (ch t), положив
(-J- + sh L ^)'+" (ch^- + sh i. .H»)-,'•(-«>» eft F)
где 0 =g: t <^ oo, / — любое комплексное число, a m, n — либо одновре-
одновременно целые числа, либо одновременно полуцелые числа. Сравнивая
формулы E) и F), получаем выражение t^nn(gz) через ^^(ch-c):
&»(&) = Ф»'„'(сЬт), Х = (/,е), G)
где m' — m-\-e, n' = n-\-e.
Теперь уже легко выразить ^„(g) через углы Эйлера матрицы g.
Из разложения D) вытекает, что
Tx(g)=Tr(hv)T7(gx)T7(h), (8)

310 ПРЕДСТАВЛЕНИЯ ГРУППЫ Qt/B) [ГЛ. VI
где через hah. обозначены диагональные матрицы, a g—матрица
. Мы видели, что 7'х(/г9) и 7'х(/г ) — диагональные
матрицы, на главных диагоналях которых стоят соответственно эле-
элементы е~'?<m+s> = e~'m'? и е-'<И"+Е) = е-'«'<!'. Элементы же матрицы
7'z (gr) равны ^т'п' (ch t). Поэтому элементы матрицы 7'х (g) имеют
следующий вид:
' (9)
где % = A, s), тя' = »г-}-е, п' = л-(-е. Тем самым получено выраже-
выражение $,и (<f, -с, ф) через углы Эйлера.
3. Различные выражения функций ^lmn(z). Мы доказали в пре-
предыдущем пункте, что матричные элементы представлений Тх (g)
выражаются через показательную функцию и функции ^1тп(г). Перей-
Перейдем к изучению функций $тп(г). Поскольку эти функции играют
для группы Qt/B) ту же роль, что функции Р1тп(г) для группы
SilB), назовем $^B) функцией Якоба от г.
Из полученных в п. 1 выражений для матричных элементов trmn(g)
вытекают соответствующие выражения для функций фтя(сЬт). Именно,
полагая в формуле E) п. 1 а = ch -^-, р = sh ~, имеем
ch^ + sh^) zmlldz, A)
где Г — окружность | z \ = 1.
Точно так же, полагая в формуле F) п. 1 a = ch-^-, p=sh-^-,
находим
ф/яи,(сЬт) = Г(/+и+1)Г(/-я+1)(сЬ-^) (th-1-) X
У
X Aj Г (п — т + s + 1)Г (/ + т — s + l)T(s + 1)Г(/-^п — s + 1)"'
.?=тах@, т—п)
B)
Из формулы B) вытекает, что $K$„иA) = 8тя. где 8т„ — символ Кро-
некера. Это легко получить непосредственно: при т = 0 матрица gz
явля'ется единичной и поэтому Т% (gT) — единичный оператор.

§ 3] МАТРИЧНЫЕ ЭЛЕМЕНТЫ ПРЕДСТАВЛЕНИЙ Тx(g) 311
Выведем дальнейшие интегральные представления для *р„„ (ch -с).
Перепишем формулу A) в виде
=ы § (ch т+*?sh т)' "(ch т+* sh тГ*1"
При этом в силу теоремы Коши мы можем считать, что Г — окруж-
окружность | г | = а, где 1<^ а <^ cth ~.
Сделав в интеграле C) подстановку
w = спт-(-z p sh -с,
получим
^^К |) ^.IJ^^^ D)
Здесь
2m> ch т + 1 /ел
, E)
причем знак корня выбирается так, чтобы выполнялись неравенства
-|-. Через Г (рис. 4)
w
(& п, ч&
обозначен контур, охватывающий
отрезок \е~\ е*] против часовой
стрелки и пересекающий веществен-
вещественную ось в промежутках @, е *) и
(е*, со). На этом контуре подын-
подынтегральная функция однозначно
_, Риг 4
определена, если выбрать знак корня гии- ^¦
в формуле E) как указано выше,
а под wl~n понимать выражение ехр [(/—n)\nw], где In w — главное
значение логарифма.
Подстановка w = e преобразует полученное выражение в
ЧС (ch t) =

312
ПРЕДСТАВЛЕНИЯ ГРУППЫ QU('2)
[ГЛ. VI
Здесь Г* (рис. 5) — контур, лежащий в полосе —
и охватывающий отрезок [— х, т] против часовой стрелки. Значение
г получается из E) заменой w^e.
В формуле C) в качестве Г можно взять и окружность радиуса а,
где th -к- <^ а <^ 1. В этом случае мы
получим выражение вида D), по
контур V пробегается по часовой
стрелке, а знак корня в E) выби-
* рается так, что
727
Г"
-Jtl
Рис. 5.
th~
Стягивая в полученных форму-
формулах контуры интегрирования к охва-
охватываемым ими отрезкам, получаем выражения для
обычных интегралов. Например, мы получаем
(ch -с) в виде
х
[
Здесь
G)
е' — сЬт ± le 2 l/(ch x~
= =-
sh
(8)
Полученное выражение упрощается, если п = т или п = 0. При
п = т получаем после простых преобразований
ch
(' -+i
J v
t cos 2na
(9)
где
ch-
cos a=-
ch-
A0)

§ S) МАТРИЧНЫЕ ЭЛЕМЕНТЫ ПРЕДСТАВЛЕНИЙ Г х (g) 313
Эту формулу можно записать в виде
A1)
где 7'„(л) многочлен Чебышева:
Тп (х) = cos (л arc cos х).
Если же п = 0, то получаем
= JL С ^+')(«? + «?) М. A2)
J^ — ch/)
Это выражение можно переписать в следующем виде:
В частности, при т = 0 получаем
di(i+±)tdt
A3)
Аналогичные формулы получаются, если выбрать в C) контур Г,
z2-4- 1
изображенный на рис. 6. При преобразовании w = chz-\ g—shx
он переходит в контур Г', изображенный на рис. 7. Если обозначить
радиус окружности с центром в точке О на рис. 7 через р, то при
р -> 0 подынтегральная функция в формуле D) есть О (pm /+1), а радиус
большой окружности есть О(р-1). Поэтому при Re /<^ m интеграл по
большой окружности стремится к нулю, когда р —>- 0. Точно так же
устанавливаем, что интеграл по малой окружности стремится к нулю,
когда Re/>«— 1.

314 ПРЕДСТАВЛЕНИЯ ГРУППЫ QUB)
Итак, если п—l<^Re/<^
У1тп (ch -с) = JL- § г»1-» (ch-1 + г sh |
[ГЛ. VI
то мы получаем
sn zm~ndw
— 2wchx
где контур Г' охватывает отрицательную полуось по часовой стрелке.
Знак корня выбран так, чтобы зна-
значение z, определяемое формулой
E), удовлетворяло неравенствам
-thj
Рис. 6. Рис. 7.
Стянем контур к отрицательной полуоси; получим
w
J \ 2
где
^ — w — ch т -f- УъгJ -\- 2w ch
sh т
При и = 0 получаем
В частности,
,/ . sin /я
o(ch)
Sill /л
wldw
wlzmdw
w* + 2w ch т -j- 1
V2 sin li
rch[l+T)t
A5)
A6)
A7)
A8)

§ 3] МАТРИЧНЫЕ ЭЛЕМЕНТЫ ПРЕДСТАВЛЕНИЙ Гх (^ 315
4. Зональные сферические функции представлений Tx(g) и
функции Лежандра. Пусть е = 0, т. е. / = (? 0). Тогда в про-
пространстве 3) есть функция, инвариантная относительно всех опера-
операторов 7"х (/г), где h — диагональная матрица из группы QC/B):
« \
0 е
Именно, такой функцией является базисный элемент 1. Матричный
элемент t*B (g), соответствующий такому элементу базиса, мы на-
назвали ранее (глава I, п. 5, § 2) зональной сферической функцией
представления Ту (g) относительно подгруппы й диагональных матриц.
Итак, при е = 0 представление Tx(g) имеет зональную сфери-
сферическую функцию, удовлетворяющую функциональному уравнению
(см. п. 5 § 2 главы I)
tUhM^tKg), A)
где ft], /г2 ^ Q. Отсюда непосредственно вытекает, что t*0 (g) зависит
только от угла Эйлера х матрицы g. Впрочем, это ясно и из фор-
формулы (9) п. 2. Полагая в этой формуле е = /я = « —0, получаем
^.(й) = Ф1..(сЬт). B)
Назовем функцию ЭД0(спт) функцией Лежандра с индексом I и
обозначим ее фг (ch т). Таким образом,
ф|(сЬт) = ^0@, % 0) = %(chx), C)
где х = (/, 0). Полагая в формуле F) п. 2 и формулах A) и B)
п. 3 m — п = 0, находим следующие выражения для функций Лежандра:
d6, D)
\ + 2 sh -1) (г ch | + sh Л-
s = 0

316 ПРЕДСТАВЛЕНИЯ ГРУППЫ QUB) [ГЛ. VI
Из формулы D) видно, что если /—целое число, то функция
Лежандра *рг (z) совпадает с многочленом Лежандра Pt (z):
%(z) = Pi(*)- (8)
Функции Лежандра ^ i (ch т), соответствующие о сновной
- у4 «Р
серии неприводимых унитарных представлений группы Q(JB), назы-
называют функциями конуса.
5. Присоединенные функции Лежандра. Рассмотрим теперь при-
присоединенные сферические функции представления Ty(g), y = (/, 0),
т. е. матричные элементы tmo(g), находящиеся в одном столбце с зо-
зональной сферической функцией ?*, (g). По формуле E) п. 2 эти
элементы имеют вид
. A)
Из формулы A) видно, что они не зависят от угла Эйлера ф> т. е.
постоянны на левых классах смежности по подгруппе Q диагональных
матриц
ft & Q. B)
Определим присоединенные функции Лежандра 5|1/" (z) (/ — ком-
комплексное число, т — целое число) формулой
cos
Эта формула однозначно определяет фГ {%) в комплексной плоскости,
разрезанной вдоль отрезка [— 1,1]. Поскольку отображение z = ch т пе-
переводит полосу 0<^1тт<^тс в плоскость, разрезанную вдоль отрез-
отрезка [—1, 1], функция *pj"(chi) однозначно определена в этой полосе.
По формуле F) п. 2 имеем
?lmo (ch т) = J- [ (с/г т + sh т cos B)leimSd6. D)
Сравнивая формулы C) и D), получаем
E)
и потому прг. §"=§"(<{>, т, ф) имеем
do (g) = Г(^+^+1) е~ to? фГ (ch т). F)
Из "формул A) и B) п. 3 вытекают следующие выражения для

§ 3] МАТРИЧНЫЕ ЭЛЕМЕНТЫ ПРЕДСТАВЛЕНИЙ T^lg) 317
присоединенных функций Лежандра:
spf (ch т) =
1 Г(/4-т4-1) f / . т
= i ТГ i (ch
со
X >. 2 (8)
i-J r(s —т+1)Г(/+т —s+l)T(s + 1)Г(/— s-f-1)"
5 = max @, m)
Если /—целое неотрицательное число и \m\^.l, то из формул
A3) п. 9 § 4 главы III и формулы G) получаем
фГ(г) = ЯГ(г). (9)
6. Соотношения симметрии для функций ^/„„(cht). Как и
многочлены Якоби P^n(cos6), функции Якоби ^sJnn(chT) удовлетво-
удовлетворяют некоторым соотношениям симметрии относительно индексов /,
т, п. Покажем сначала, что эти функции не меняются при изменении
знаков индексов т и п, т. е. что
Щ1тп (ch т) = 5$L m —n (ch т). A)
Рассмотрим оператор 5, переводящий /(е'е) в ев"в/(е~'е). Непосред-
Непосредственный подсчет показывает, что оператор 51 перестановочен с опе-
операторами Tx(gJ, где
^sh ~ ch y
т. е.
В этом можно убедиться также из следующих теоретико-групповых сооб-
соображений. Представления Ту (g) можно распространить на группу квазиуни-
квазиунитарных матриц, определитель которых равен ± 1, не изменяя формул, за-
задающих представления. При этом S=Ty(s), где s = ( ). Но
Л \1 0/
х
chT

318 ПРЕДСТАВЛЕНИЯ ГРУППЫ QCV2) [ГЛ. VI
и потому
Тг(8)Тг<ш1=Тг<ш0Тг(8),
Матричные элементы smn оператора 51 в базисе {e~'m8} равны
нулю, если т~\-пф—2е, и равны единице, если т~\-п =—2е.
Перемножая матрицы в равенстве B) и сравнивая соответствующие
элементы слева и справа, находим
*- 2s - т. п Ш = <&. _ S. - » (&>•
Так как Ц^ (&) = ф'от,п, (ch т), где т' = т-\-г, Н = п-\-г, то
$Lm_..n + i(cM = $'ffl+ii_f,_i(ch'O.
Ввиду произвольности т, п, е, /, получаем
для всех комплексных значений / и всех целых или полуцелых зна-
значений т и и.
Из соотношения симметрии A) и формулы E) п. 5 вытекает сле-
следующее соотношение симметрии для присоединенных функции Ле-
жандра
4f^f ^(ch T)j (П
где т — целое число.
Чтобы получить следующее соотношение симметрии, заметим, что
выражение B) п. 3 при замене т на — п, а п на — т умножается
Г 1)Г(/
Г.(/ + т+1)Г(/ — т + 1) _
на Г(/ + п+1)Г(/-п+1) • ОтСЮДа вытекаеТ' ЧТ0
33' (ch'c)=
или, в силу соотношения A), что
W /¦chT)z=-r(/+m+1)r(/~m+1)
Перейдем теперь к соотношениям, связывающим функции Якоби
с различными значениями /. Мы доказали в п. 5 § 2, что если / не
целочисленно, то представления l\(g), ^ = (/, е) и T_x(g), —х==
^(—/—1, е) эквивалентны. Именно, они связаны соотношением
QTx(g)=T^(g)Q, _ D)
где Q — оператор, матрица которого в базисе {е"'п6} диагональна,
причем на главной диагонали стоят элементы
r(f_n_.+ 1)
Чпп— Г(/„е) • «• >

§ 3] МАТРИЧНЫЕ ЭЛЕМЕНТЫ ПРЕДСТАВЛЕНИЙ Г * {g) 319
Применяя соотношение D) к элементу
chi shf\
группы Q?/B) и принимая во внимание, что
получим равенство
Г (— / — т — е)
— Г(—/_и —е) +^т + а, „ + ^С ^ W
Заменяя т-\-в на те и и -|- е на л, и используя соотношение
Г(л)ГA—х) = —г-^—г, перепишем равенство F) в виде
В силу равенства C') отсюда следует, что
Положив в формуле G) и —0 и применив соотношение E) п. 5,
получим
^(cht) = <!«'»_|_1(chT). (8)
В частности,
5Pl(chT) = sp_l_1(chx). (9)
Следующее соотношение для функций 1*отл(сЬт) вытекает из уни-
унитарной сопряженности представлений Tx(g) и Т ~(g), —/ =
= (— J— 1, s) (см. п. 8, § 2):
— x
Иными словами,
p. (g) = t-~<
Положим в доказанном равенстве

320 ПРЕДСТАВЛЕНИЯ ГРУППЫ Q?/B) [ГЛ. VI
Так как углы Эйлера матрицы g~' равны тс, т, — тс, то
или, иначе,
ф' n(chi) = (— i)"-^—?— i(ch х) = ф^п(сЬ т). A0)
Итак, мы доказали, что
Отсюда, в частности, вытекает, что Ф^л (cli т), 0=^т<^оо с ве-
вещественным значком / принимает вещественные значения. Покажем
что тем же свойством обладают функции
В самом деле, из формул A0) и C') следует
И Я)- A1)
\2 /\2 /
Так как
= (—1)т-«,
то из A1) вытекает, что /(т)=/(т). Тем самым вещественность /(т)
доказана. Отсюда вытекает, что функции $яд2 (chx) принимают
лишь вещественные значения при 0г^:т<Ъо и, в частности, что
1$ 1 (ch т) — вещественная функция.
+ iP
7. Функции Wmn(z) B целочисленном случае. Пусть х = (/, е)
целочисленно, т. е. пусть 1-\-е и /—е—целые числа. Как было по-
показано в п. 5 § 2, в этом случае представление Тх (g) приводимо.
Если / — е^О, то при п^ — /—е функция Tx(g)e~ini принад-
принадлежит ФГ и потому разлагается по функциям е~ ""e, m ^ — / — е. По-
Поэтому при / — е<0ии^ — / — е, m<^ — / — е имеем %lmn(z) = 0.

3] МАТРИЧНЫЕ ЭЛЕМЕНТЫ ПРЕДСТАВЛЕНИЙ Гx(g) 321
Точно так же доказывается, что при /—
имеем ^ (*) = ().
Аналогично, если / — е ^ О, то %lmn (г) = 0, при п ^ — / — е,
т <^ — / — е или при п^1 — е, т^>1 — е.
В целочисленном случае функции ^,п(спт) являются многочле-
многочленами от th -=- и sh = . Рассмотрим, например, случай, когда /, т и
п одновременно являются целыми или полуцелыми числами, причем
т, л^>/^>0. Тогда подынтегральная функция в формуле A) п. 3
§ 3 имеет внутри контура интегрирования лишь одну особую точку
z = —th-o". Поэтому в силу теоремы о вычетах
где после дифференцирования следует сделать подстановку z —
= ~ th |-. Применяя теорему Лейбница, имеем
N
X
sir(/ + n —s+ 1)Г(и —/ —s)r(m--n + s + 1) '
где M = max(O, n — m), N=mm(n — /—1, п-\-Г).
Формулы для ^lmn{cht) в остальных случаях, когда )( — ('> s) це~
лочисленно, легко получаются с помощью соотношений симметрии п. 6.
Отметим, что в целочисленном случае при I—е<^0 функции
|е~'"е}, ^—оо<^лй^/ — е образуют ортогональный, но не нормиро-
нормированный базис относительно инвариантного скалярного произведения
в !3)z+ (см. п. 5 § 2). Ортонормированный базис состоит из функций
1
Г(—я —/ —в) Т2~ ,яЯ
J
' oo<^n^i в.
Поэтому матричные элементы унитарной матрицы представления
Tf() имеют вид
i
lm (Я—[ ГA '+1)Г(/ ') J +m''lCt1^
f
1)Г( —1~и') ]
)Г(-/_ m') J
где /w'=/w-j-e, л' = л-)-е, —оо<^/и, п^1 — е. Заметим, что

322 ПРЕДСТАВЛЕНИЯ ГРУППЫ QUB) [ГЛ. VI
Аналогично, матричные элементы унитарной матрицы представ-
представления Tr(g) имеют вид
i
lmn У® — \X (— I — ri) Г (I — m' + 1 )J в 45™'»' КСП h
где — / — esgl/w, n<^oo.
§ 4. Функциональные соотношения для S$lmn (ch t)
1. Теорема сложения. Теорема сложения для функций ^n(cht)
напоминает теорему сложения для функций Plmn(cosQ), доказанную в
п. 1 § 4 главы III. Для вывода теоремы сложения воспользуемся
соотношением
xxi О)
из которого вытекает, что
со
= 2 »(&)'№) B)
2
= — oo
Применим равенство B) к матрицам gi^g(O, "Ч, 0) и й^
= g-(<Pe. -Ч» 0). Для этих матриц ^ (й) = ^,fe, (ch tj) и ^m(gj) =
_ е- №'?2 ф^л> (ch т2), где Л>' = А -|- е, /и'=/и-|-е' л' = л + е (см. п. 2
§ 3). Матричный же элемент ^(gigs) имеет вид
где <р> т. Ф — параметры матрицы g^. Согласно п. 2 § 1 эти пара-
параметры выражаются через параметры zlt cp3, т2 по формулам
ch т ^ ch т, ch т2 -|- sh Tj sh т2 cos <pa. D)
г? sh Tt ch x2 -|- ch xt sh т2 cos<p2 + « sh т2 sin <f2 (л'\
6 iT^ ^ >
e 2 = ? f _^ f > D")
где
oo,
E)

§4] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ ф^„ (ch т) 323
Подставляя значения #,ft(ft), Цп(ёъ) и ^„(йёГз) в равенство B)
и заменяя т', К, п' на т, k, n, получаем
ф|в 2 ^^J F)
fc = — со
где параметры т1; tpa> Т2> <р> т> <]> связаны соотношениями D) — D").
При этом, если т и и — целые, k пробегает целые значения, а если
т и и — полуцелые, & пробегает полуцелые значения. Это и есть
теорема сложения для функций s#lmn (ch т).
Как и для функций Plmn (cos 6), устанавливаются следующие част-
частные случаи формулы F):
Если tp.2 = 0, то т = Tt-|-та. ср = ф = О и потому
I; Ф^ОЛ^^ь-ч). G)
= —со
При <ps = те, xt Э= т-2 имеем т ^ xt — т2, ср = 0, ф ^ тс и потому
со
-^))= 2 С— 1Г ~ * 5PU (ch тО ф'^ (ch -ч). (8)
2
k = — со
В частности, при xt = tg имеем
со
(9)
Ислользуя формулу (Т') п. 6 § 3, можно переписать равенство (8)
в виде
со
$L(ch(Ti-^))= 2 Ф^ь-ОЧ-Ъ'-ЧсЬ'ч).
ft = — со
Если /= =--|-/р, то —/— 1 =1, и, по формуле A0) п. 6 § 3 по-
получаем
_J_ со 1 1_ , .
2 P(ch(x)) S C7 (h)$2 (chx). (И)
В частности, при xt = та = т имеем
со I_ __L+
2 Ф«»а P(ch^)^fc2 Р(сЬт) = 5шя. A2)
ft = ~co
Это равенство выражает унитарность представлений основной серии.

324 ПРЕДСТАВЛЕНИЯ ГРУППЫ QU B) [ГЛ. VI
Отметим частный случай теоремы сложения при tp.2 = ^-. В этом
случае мы получаем
«-""* + "« $?„(сМ = f] е~'тфтк(сЬ'с1)Щя(сЬъ), A3)
k = — со
где
ch х = ch Tt ch т2, A4)
jv sh Tt ch t3 -+- f sh та
6 ~ shx '
~
A4")
2. Целочисленный случай. Теорема сложения для функций
*-Ршгс(спт) принимает несколько более простой вид, если х —(^ е)>
т. е. 2/ имеет ту же четность, что и 2е. Тогда, как было показано
в п. 7 § 4, 9$lmn(z) = 0 в следующих случаях:
а) / — е^О и я :>= — / — е, т<^ — / — е или я=^/ — е, т^>1 — е;
б) / — е^=0 и n^Ssl — е, т<^ — / — е или п=^ — / — е, т^>1 — е.
Поэтому, если / — esgO, то при т, п^ — /—е суммирование
в формуле F) п. 1 ведется от —/—s до оо, при т^ — / — е,
/ — е ==с:иsg/-]-е от /—е до со, при /—esgm, «sg/-|-e от 1-е
до /-f-e, при т^с/—е, / — е <с п -=g I + е — от —со до —/—е и
при т, п^1—е — от —со до /—е.
Если же /—е.75=0, то при т, п~^1—е суммирование в форму-
формуле F) п. 1 ведется от / — е до со; при — / — e^m^l — е,
п^1—е — от —/—е до со; при —/—ss^/и, я</—? — от
— /—е до /—е; при — / — esgrn^/ — е, и< — /—е от со до
/ — ей при т, п^ — / — е — от — со до — / — е.
3. Теоремы сложения для функций Лежандра. Мы определили
функции Лежандра и присоединенные функции Лежандра формулами
5ft(chT) = $0(cM --О)
и
^(chT) B)

§ 41 ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ $тп (ch т) 325
(см. п. 4 и 5 § 3). Положим в формуле F) п. 1 т = п = 0 и вос-
воспользуемся выражениями A) и B). Мы получаем
где
ch т = ch т, ch г2 (- sh il sh та cos cps- D)
Используя формулу B) п. 6 § 3, перепишем это равенство в виде
?,(сЬт)= |] ^"^(ch^f *(<**,)• E)
k = — со
Формула сложения для присоединенных функций Лежандра полу-
получается, если положить в равенстве F) п. 1 я —0. Мы получаем
^? F)
h --- — со
где числа ф, -с, ф.,, tt. ^ связаны соотношениями D)—D") п. 1.
4. Формула умножения. Умножим обе части формулы F) п. 1
на elk{f^ и проинтегрируем по <ва от 0 до 2те. Мы получим
«**»**+) ^ A)
В этой формуле параметры ф, <]>, <р2> х^ х8, х связаны соотноше-
соотношениями D)—D") п. 1.
При т = п = 0 из формулы A) получаем, используя соотноше-
соотношение B) п. 6 § 3,
$* (ch xt) $pf * (ch t,) = ™ J e**f 1ф, (ch x, ch x2 -f sh -c, sh -c, cos cp2) rf-f 2. B)
о
В частности,
It.
% (ch xO $, (ch x.2)= 1 J фг (ch xt ch ч + sh X! sh x, cos cp2) rf?2. C)
Полученные формулы имеют простой геометрический смысл, аналогич-
аналогичный геометрическому смыслу формул B1)—C) п. 3 § 4 главы Ш. В самом
Деле рассмотрим верхнюю полу двуполостного гиперболоида
= I, ДГа>0.

326 ПРЕДСТАВЛЕНИЯ ГРУППЫ QUB) [Til. VI
Введем на этой поле метрику, приняв за расстояние между точками
M{xlt x2, х,) и N(ylt y2, уь) число т, где
ch х = — xly1 — х2у2 -\- х2уг. D)
Наконец, введем на гиперболоиде параметры т, <р, положив
xt = sh x sin <f,
x2 — sh x cos <p,
Функции Ч?* (ch т) можно рассматривать как функции на гиперболоиде.
Рассмотрим окружность с центром в точке М (zlt 0) и радиусом т2.
Точки N этой окружности задаются числом <fs — углом между геодезиче-
геодезическими линиями, соединяющими М с N и с точкой О@, 0, 1). Нетрудно
показать, что для точки N, соответствующей значению параметра ер2, коор-
координата т такова, что ch т = ch ¦zl ch т2 -|- sh tl sh т2 cos <p2. Поэтому формула C)
означает, что Щ{ (ch Tj) tyt (ch т2) является средним значением функции фг (ch т)
на указанной окружности. Аналогичный смысл имеет и формула B), дающая
значение коэффициентов Фурье для tyt (ch т), рассматриваемого как функ-
функция от а>2.
Перепишем, далее, формулу B) ^в виде
= — \ ^г (cn Ti ch T-2 + sl1 Ti sh T2 cos ср-г) cos ^cp2 rftp-2 E)
о
и сделаем замену переменной
ch T! ch та -(- sh Tt sh т2 cos cps = ch т. F)
Мы получим
ch т — ch Tj ch х„Т
с it s
sh Tl sh т2 J
tl+
[ch (т, + т2) - ch t] [ch т - ch (t, — т2)]
Здесь в соответствии с п. 3 § 7 главы III положено
Tk (х) = cos (k arc cos x).
В частности, при k = 0 получаем
[t.-^i : — ch(x,— т2)]" Ч
Выражение в знаменателе формул G) и (8) является нормированной пло-
площадью треугольника на гиперболоиде —х\ — х| + х|^1 со сторонами tlt
т2, х-(в указанной выше метрике).

s 4i функциональные соотношения для ш' (ch т) 327
б. Рекуррентные формулы. Рекуррентные формулы для функ-
функций $тп (-г) выводятся из теоремы сложения точно так же, как и
рекуррентные формулы для функций Р1тп (г) (см. п. 4 § 7 главы III).
Поэтому мы опускаем вывод, указав лишь окончательные результаты.
Имеют место равенства
Эти равенства получаются дифференцированием по t2 формул G) и
A3) п. 1, с последующей подстановкой т2 = 0. Из них вытекает, что
I D)
Пользуясь соотношениями симметрии C') п. 6 § 3, получаем
отсюда
4-1,™D F)
Вычитая из формулы C) формулу D), получаем рекуррентное
соотношение, связывающее три функции |„„(г) со смежными знач-
значками:
(/ - я) ф».»+1W -(/+«) Ф1».»-1 (г) = 2 ^^т«pL (г). G)
Точно так же из формул E) и F) вытекает, что
(8)
Далее, дифференциальное уравнение, которому удовлетворяют
функции *\$lmn(z), выводится точно так же, как и для функций Plmn(z)

328 ПРЕДСТАВЛЕНИЯ ГРУППЫ Ql/B) [ГЛ. VI
(см. п. 5 § 7 главы III). Оно имеет вид
(9)
или, в развернутой форме,
^„(г). (9')
Отметим, что это уравнение совпадает с уравнением E) для функ-
функций Pmn.(z) в п. 5 § 7 главы III.
Из полученных соотношений, как частный случай, получаются
соотношения для присоединенных функций Лежандра. Положим в ра-
равенстве C) я^О. Принимая во внимание формулу E) п. 5 § 3,
получаем
1 Лл 1d^ (г) _"g_
dz ~\f z%
Точно так же из D) получаем
(И)
Из уравнения (9') получаем дифференциальное уравнение для при-
присоединенных функций Лежандра
-^|!r(Z) = /(/+l)|rD A2)
Для функций Лежандра имеет место дифференциальное уравнение
6. Производящая функция. Другой вывод рекуррентных соот-
соотношений связан с производящей функцией для Щ1тп (ch т). Именно
в силу формулы F) п. 2 § 3 имеет место равенство
(Ch ^+ Sh^ r*y+"(ch ^+ 8h-J^»p^- =
= ? ф'тлСсЬ^е-'"*. A)

§ i] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ tylmn (<* т) 329
Заменив в этом равенстве е''" на z, получим
Ф(г, t) = (^chy-l-sh~j n{zsh~-\- ch-~j * =
со
m==— со
Полученное равенство показывает, что Ф (z, т) является производящей
функцией для Щ1тп(сЪх).
Полагая в формуле B) ,г=1, получаем
У, 5pL(cht) = e/t. C)
m= — со
Полагая же -e:^=e™, получаем
со
т —— со
Наконец, полагая п = 0 и z = e2 , имеем
со
m =г— со
Равенство E) можно переписать так:
со
т = — оо
Рекуррентные формулы для функций фтп(сЬт:) выводятся из раз-
разложения B) точно так же, как и для функций Ртп (cos б). Поэтому
мы не будем выводить уже полученные выше формулы, а укажем
лишь еще некоторые соотношения, связывающие функции 5j3mra(chT)
с различными значениями /.
Продифференцируем обе части разложения B) по z, применим
к обоим слагаемым в левой части разложение B) (с заменой / на
на / и и на nzfz~\ и сравним коэффициенты при одинаковых
степенях z. Мы получим
F)

330 ПРЕДСТАВЛЕНИЯ ГРУППЫ QC/B) [ГЛ. VI
Далее, умножая обе части равенств B) на z ch к- -f- sh к- и выпол-
выполняя разложение левой части, получим
1
sl>'+Ti i (ch *) = ch -о $т" (ch т) + sh 'у ^-4 +1, « (ch t). G)
Аналогично, путем умножения на zsh-^-j-ch-^-, получаем
' + , (ch т) = sh А ф^ (ch *) + ch - 5|& +,. „ (ch т). (8)
Из равенств G) и (8) непосредственно следует, что
L A^+ sh-lsp'4; ,(сЬт) (9)
^+^, ,(сЬт). A0)
Укажем еще формулу
(Ch t) = ^ [«).t __ ,. „ (ch T) -f ф'т +,, n (Ch T)] + Ch T$™(chT), A1)
которая получается путем умножения обеих частей равенства B) на
соответствующие части равенства
|sh Ц2 sh[d^\ z J sh
(z
—Ц2 sh~-[-d^~\ =
Формулу A1) можно также получить, применяя соотношения G) и (8).
Аналогично,
A2)
Наконец, рассмотрим два разложения
= Е
mi = — со
=
оэ

->i РАЗЛОЖЕНИЕ РЕГУЛЯРНОГО ПРЕДСТАВЛЕНИЯ 331
Перемножим эти разложения почленно и применим к левой части
разложение B). Сравнивая коэффициенты при одинаковых степенях z,
находим
оэ
№ **)= ? $mini(chTH^_mi>ni(chT). A3)
7. Континуальная производящая функция. Применим к фор-
формуле A5) п. 3 § 3 формулу обращения для преобразования Меллина.
Мы получим
* ' ~~~
2
a— tea
где
— w — ch х -|- У w2 -f- 2а) ch т -J- 1
_ __ _
— 1<^а<^/и — и.
Это равенство показывает, что функцию F(w, t) можно рассмат-
рассматривать как производящую функцию для ф^п (t) при фиксирован-
фиксированных тип. Однако в правой части равенства вместо суммы появляется
интеграл по /. Поэтому будем называть функцию F(w, t) конти-
континуальной производящей функцией для 9$lmn(t) при фиксирован-
фиксированных тип.
Особенно простой вид принимает формула A) при т — п = 0:
7
Vw + 2wchz + l J
' ' ' a — ico
C)
где — l<a<0.
§ 5. Разложение регулярного представления группы QUB)
В этом параграфе будет изучено разложение пространства ^ функ-
функций f(g), g(^ QUB), имеющих интегрируемый квадрат, на минималь-
минимальные подпространства, инвариантные относительно левых (или правых)
сдвигов.

332 ПРЕДСТАвЛЕНИЯ" ГРУППЫ QU B) (ГЛ. V!
1. Регулярное представление группы QUB). Рекуррентные фор-
формулы для функций tylmn (ch т) были выведены из теоремы сложения
для этих функций. Как и в случае группы S(JB), другой путь вывода
этих формул связан с рассмотрением инфинитезимальных операторов
регулярного представления группы Q?/B).
Согласно общему определению (см. п. 4 § 2 главы I) левое регу-
регулярное представление группы QUB) строится в пространстве Sj функ-
функций f(g) на этой группе, таких, что
Операторы левого регулярного представления задаются формулой
)- A)
Аналогично операторы правого регулярного представления задаются
формулой
R(gO)f(g)=f(ggo)- B)
Инфинитезимальные операторы регулярного представления L(g)
для группы Q(JB) ищутся точно так же, как и для группы 5GB)
(см. п. 6 § 4 главы III). Поэтому, не проводя детальных выкладок,
приведем окончательный результат.
Подгруппе Qt матриц
соответствует инфинитезимальный оператор Аг левого регулярного
представления, имеющий в параметрах Эйлера следующий вид:
Подгруппе Q8 матриц
соответствует инфинитезимальный оператор
fH. D)

§ 5] РАЗЛОЖЕНИЕ РЕГУЛЯРНОГО ПРЕДСТАВЛЕНИЯ 333
Наконец, подгруппе 23 диагональных матриц
О
соответствует инфинитезимальный оператор
Аналогично, инфинитезимальные операторы правого регулярного
представления, соответствующие тем же подгруппам, имеют в пара-
параметрах Эйлера следующий вид:
?, sin ф д , , д ,. , д ,пл
B1=-r1^r-\-cosu>li cthxsind)^-, F)
В* = -г—L^ sin ф -^ cm т cos ф -jr. G)
sh t ду г дъ ' дф' v y
Как указывалось выше, вместо инфинитезимальных операторов Ли А%,
л Л Л Л
Аа удобнее использовать их линейные комбинации Н+, Н_, Н3
(см. стр. 299), которые в параметрах <р, т, ф имеют следующее
выражение:
(.0)
Ня = 1Ая=-1±. (И)
Аналогично для операторов Д, Б2, Д имеем
^ ^] A2)
A3)
KM = tB. = i^. A4)
На группе QUB) существует аналог оператора Лапласа — диф-
дифференциальный оператор второго порядка Д, перестановочный с левыми
и правыми сдвигами. Он выражается через инфинитезимальные опера-
операторы формулой
A5)

334 ПРЕДСТАВЛЕНИЯ ГРУППЫ QU B) [ГЛ. VI
Будем называть Д оператором Лапласа на группе QUB). В пара-
параметрах Эйлера он выражается следующей формулой:
sh т (к <к sh2 т [<fys d<f dty ' дф2 J
2. Рекуррентные соотношения и инфинитезимальные операторы.
Рекуррентные соотношения для функций ^Р^Дспт:) выводятся с помощью
инфинитезимальных операторов точно так же, как и для функ-
функций ^„(cos6) (см. гл. III, § 4, п. 7). Каждой функции f(elb) из про-
пространства 3D поставим в соответствие функцию
на группе QUB). Из формулы A) непосредственно вытекает, что
функции Tx(g0)f(elB) соответствует функция F(gg0), т. е. операторы
представления Тх (g) реализуются операторами правого сдвига на
группе Qf/B).
Обозначим пространство функций вида A) через ,?Jxm. Ясно, что
матричные элементы
= ( Т
г & > )< < <
~tnS
образуют базис в пространстве «?)zm, соответствующий базису {e~tnS}
в пространстве 3D. Поэтому для этих матричных элементов справед-
справедливы соотношения A1), A2) п. 3 § 2, в которых e~mS надо заменить
на tniS)' а яр "- на ^н К-
^-<Lfe)=-(«'+0^.B_1fe)- C)
Подставим в формулы B) и C) вместо матричных элементов Ц^ (g)
их выражение (9) из п. 2 § 3 через параметры Эйлера и заменим j( ,
К_ их выражениями A2) и A3) из п. 1. После несложных преобра-
преобразований получим рекуррентные формулы C) и D) из п. 5 § 4. Ана-
Аналогичные рекуррентные соотношения получаются путем реализации
операторов Tx(g) в виде операторов левого сдвига на группе Qf/B).
Перейдем к выводу дифференциального уравнения для функ-
функций tylmn (ch -с). Покажем, что применение оператора Лапласа
к матричному элементу t^n(g) сводится к умножению на /(/—J— 1).
Уже отмечалось, что матричные элементы t^n(g),—оо<^я<^оо обра-
образуют .канонический базис в пространстве ^ . Поэтому М^п (g)

§ 5] РАЗЛОЖЕНИЕ РЕГУЛЯРНОГО ПРЕДСТАВЛЕНИЯ 335
является образом функции (—А\ — ^-\-А^е 1иВ при отображении A)
(y4i, Л2, Аа — инфинитезимальные операторы представления Т% (g)).
Используя формулы C), E) и G) из п. 3 § 2, убеждаемся, что
при всех п имеет место равенство
) е 1яВ
Отсюда вытекает, что при всех п имеем
Подставим в это равенство вместо ^„Cg) его выражение через
параметры Эйлера, а вместо Д—выражение A6) из п. 1. После
простых преобразований получим искомое дифференциальное уравне-
уравнение для функций ф^ (ch т) (см. уравнение (9) из п. 5 § 4).
3. Разложение функций на группе QUB). В п. 4 § 4 главы I
была выяснена связь между разложением регулярного представления
на неприводимые и разложением функций на группе по матричным
элементам неприводимых представлений. В этом пункте будет построено
разложение функций f(g) на группе Qf/B), имеющих интегрируемый
квадрат, по матричным элементам представлений T%(g). При этом
оказывается, что в разложение входят лишь унитарные представления
первой и второй основных серий и представления дискретной серии.
Итак, пусть /(g)=/(<p, т, ф)—функция из пространства .?), т. е.
функция на группе QUB), имеющая интегрируемый квадрат. Из фор-
формулы E) п. 3 § 1 следует, что для /(<р, т, ф) выполняются равенства
ffr, -с, ф) =/(,>-|_ 4гс, т, ф)=/(<р, т, ф + 4«)=/(?-|-2«, т, ф + 2тг). A)
Поэтому функцию /(<р, т, ф) можно разложить в двойной ряд Фурье
по <р и ф вида
fib S Ф)= S «„.We-1'^'. B)
m, и ^ — со
где суммирование распространено на все пары (т, и), такие, что т и
п — одновременно целые или полуцелые числа. Коэффициенты Фтп (т)
выражаются формулой
2я 2я
— 2я О
При этом выполняется аналог формулы Планшереля
2л 2л оо со оо
si J И|/(т> % ф) '*sh тл ^^ = 2 J i ф-«(т> I2 shт ^- D>
—2яО 0 т, и=—со 6

336 ПРЕДСТАВЛЕНИЯ-ГРУППЫ QU&) [ГЛ. VI
В п. 2 § 3 было показано, что матричные элементы представле-
представлений Tx(g), содержащие множитель е—«(""Р+чФ), имеют вид е~'Cnv+пф) у<^
X Ф^и (с т)- Поэтому задача о разложении функций на группе QU{2)
по матричным элементам представлений Tx(g) сводится к следующей:
Даны числа т и п, одновременно целые или полуцелые, и функ-
функция F(x), такая, что
Разложить функцию F(x) по функциям $тп(х), где I—пара-
I—параметр, по которому ведется разложение, и 1 ===; х <^ оо.
Эта задача сводится к задаче о разложении по собственным функ-
функциям самосопряженного дифференциального оператора. В самом деле,
функции %1тп (х) удовлетворяют самосопряженному дифференциальному
уравнению
dxK ' dx x2 — 1
где Х = /(/-}-1) (ср. уравнение (9') п. 5 § 4). При этом они непре-
непрерывны в точке л;=1 (соответствующей т = 0). Иными словами,
функции Щ1тп(х) являются собственными функциями самосопряжен-
самосопряженного оператора
непрерывными в точке х=1.
Применяя обычную технику разложения по собственным функциям
самосопряженных операторов (см., например, [32], [38], [51]), полу-
получаем следующий результат.
Если тип — целые числа, то любая функция F (х), такая,
что \ IF^x)] dx<^-]-oo, имеет разложение
со I
Р (*) = 4^ \
м
2 ('
где
mm (\т\, \п\) при тп ^ О,
( m
[ 0
[ 0 при

§ 5] РАЗЛОЖЕНИЕ РЕГУЛЯРНОГО ПРЕДСТАВЛЕНИЯ 337
Суммирование ведется по целочисленным значениям I. Коэффи-
Коэффициенты а (р) и b(t) в этом разложении выражаются следующими
формулами:
) = \ F (x) CT~'P И dx~ \ F (x) $ -2+'p (jc)rfx G)
и1)
Имеет место следующий аналог равенства Планшереля:
Аналогично, если тип — полу целые числа, то
= ^ 5 а (р) ^ти2 + 'Р И р ct
о
+ 1
„« , «D ПРИ *
О при /ли <__().
Суммирование ведется по полуцелым значениям I. Коэффициенты
а(р) и Ь{1) выражаются теми же формулами, что и в случае
целых т и п. Формула Планшереля имеет в рассматриваемом
1) Два Г-множителя обращаются в бесконечность и должны быть пре-
преобразованы по формуле Г (л:) Г A — х) = —. .
sin fix

338 ПРЕДСТАВЛЕНИЯ ГРУППЫ Qt/B) [ГЛ. VI
случае следующий вид:
со со
\Чх = ±Л |a(p)|apcth«p<*p +
¦ м
(-1)*-" у / П Г(/ + п+1)Г(/-п+1) 9
Отметим, что
cth тер —th тг (р -\- ~\.
Поэтому интегральные члены в формулах F) и (9) — A1) можно за-
записать единообразно, заменив th тгр и cth тер на th тс (р -J- el), где е = О
в целом случае ие=-г-в полуцелом случае.
Применим полученные результаты к коэффициентам Фти (т) раз-
разложения B). Мы получим следующее утверждение:
Любая функция f (g) на группе Qf/B), такая, что
разлагается по матричным элементам
1 = {1, е), т'=т-\-г, т( = п-\-е.
неприводимых представлений этой группы. Разложение имеет вид
со
+ 2 ('-т)*!
где s, т, Щ I имеют тот же смысл, что и выше.
Значения коэффициентов автп (р) и Ь*тп (I) выражаются форму-
формулами
(+i9 °\ A3)
l — n— E+1) }
A4)
где, напомним, в параметрах Эйлера
dg= sh т dt dy dty.

§ 5] РАЗЛОЖЕНИЕ РЕГУЛЯРНОГО ПРЕДСТАВЛЕНИЯ 339
Наконец, имеет место аналог формулы Планшереля
m, n, e 0
M
_ 1)И-Я у T(l + n + t+l)T(l-n-e+l) lj _ \\ be ^ ,-j
A5)
Выведенные формулы упрощаются, если вместо матричных элемен-
элементов №?> (g) ввести матричные элементы соответствующих унитарных
представлений дискретной серии, которые будем обозначать V^?- ±> (g).
Именно, мы получим
т,п,е О
м
+ 2 ('-т
где знак -[-выбирается, если т и я^>0, и знак —, если т и
При этом выражение для о.етп(р) остается прежним, а коэффициенты
имеют вид
Формула же A5) принимает вид
+ 2 ('-4
m, и, е
Мы видим, таким образом, что в разложение функций f(g) на
группе Qf/B), имеющих интегрируемый квадрат, входят лишь мат-
матричные элементы неприводимых унитарных представлений этой
группы. При этом входят лишь представления первой и второй основ-
основных серий, а также представления дискретных серий. Представления
же дополнительной серии в разложении не участвуют. Этим группа
Qf/B) отличается от всех ранее рассмотренных групп, для которых
в разложение функций с интегрируемым квадратом входили матрич-
матричные элементы всех неприводимых унитарных представлений.

340 * ПРЕДСТАВЛЕНИЯ ГРУППЫ QUB) 1ГЛ. VI
Пример. В формуле G) п. 4 § 4 положим /= g- -\- ф. Мы
получим
?¦" i .(cnTi)?~1 - (СПТ2) =
_Lл »л ^ ^ i —c^i—^j г)
'-' 2 1 sh т rf-c, A9)
— ch (ti — xs)]
=¦ "Г ^ь
где Tk(x) — многочлен Чебышева. Применяя формулы F) и G), вы-
выводим
№_ JL + if (ch T> *- i. + it (ch Tl) ^~l + *P (ch Тз) р th ^P rfp =
cht — ch t, ch т
J
+ т2) — ch tJ [ch т — ch Cv^ ts)]
при hi —^|<C':<C'ci + T2.
О в противном случае.
4. Разложение регулярного представления группы QUB) на
неприводимые. Полученное разложение функций f(g) из простран-
пространства ф имеет простой теоретико-групповой смысл — оно связано с
разложением регулярного представления группы Qf/B) на неприво-
неприводимые. Именно, каждому х = (/, е) и каждому т поставим в соответ-
соответствие пространство функций ?>™ на группе Qf/B), имеющих вид
где
Пространство таких функций инвариантно относительно правых сдви-
сдвигов, причем сужение регулярного представления R(g) на 1дт эквива-
эквивалентно представлению Тх (g). Нетрудно показать, что функции fx (g)
из йт можно запмсать в виде

§ 5] РАЗЛОЖЕНИЕ РЕГУЛЯРНОГО ПРЕДСТАВЛЕНИЯ 341
Пользуясь этим, выводим из разложения A2) и формулы План-
шереля A5) п. 3, что
оо со
_l_m = — coO
~T
причем
1
= —оо 0 2 ' •¦"'
2
Здесь суммирование распространено на целые значения т, причем,
через Т(т\ i . (g) обозначены представления, эквивалентные Tx(g)
Х=( о~~Ь'Р> е)- Аналогично 7"Jm> _,_(§) — это представления, экви-
эквивалентные представлениям T~(g), / = (/, е) дискретной серии.
Разложение B) можно записать иначе, изменив порядок суммиро-
суммирования и интегрирования. Положим
оо
\Г 1 . /„Л 'У уО») / \ C)
т = • со 2
т
И
т
Тогда имеет место равенство
(
/= I — е
Оно дает разложение /? (g) на представления, кратные неприводимым.

342 ПРЕДСТАВЛЕНИЯ ГРУППЫ Q[/B) 1ГЛ. VI
5. Разложение индуцированных представлений группы QUB).
Обозначим через «gjm пространство функций f(g) на группе QUB),.
таких, 4To5l/(g)|2^<+cx) и f(hg) = e-imtf(g), где h =
/Л \
(е* О \
= ! ! • Это пространство инвариантно относительно операто-
ров правого сдвига, и формула
Rm(gO)f(g)=f(ggo)
определяет представление группы QUB) (сужение правого регуляр-
регулярного представления на 1дт). Согласно п. 6 § 2 главы I его назы-
называют представлением, индуцированным представлением e~imi под-
подгруппы Q диагональных матриц.
Из определения пространства §т ясно, что оно состоит из функ-
функций вида
где
2iuco
\
о
\
о о
Поэтому разложение пространства § в прямую сумму подпространств
Sgm сводится к разложению функций f(y, т, ф) в ряд Фурье по <р:
где т пробегает целые и полуцелые значения, а
2и
Применяя разложение F) п. 4, легко получаем разложение инду-
индуцированных представлений на неприводимые. Именно, если т целое
число, то
\т\
2

§ 5] РАЗЛОЖЕНИЕ РЕГУЛЯРНОГО ПРЕДСТАВЛЕНИЯ 343
Если же т — полуцелое число, то
'•2 *• 2
Таким образом, в разложение индуцированных представлений каждое
неприводимое представление входит не более одного раза.
В частности, рассмотрим представление Ro(g)- Будем называть это
представление квазирегулярным. Из разложения A) видно, что
C)
—5- + .Р. о
Таким образом, квазирегулярное представление группы Q?/B) яв-
является непрерывной прямой суммой неприводимых унитарных
представлений первой основной серии.
Используя описанный в п. 1 § 1 локальный изоморфизм групп
QUB) и 5//C), легко получить из разложения C) разложение пред-
представления
группы SHC). Мы не будем останавливаться на этом, поскольку в
главе X соответствующее исследование будет проведено для всех
групп SH(n).
Рассмотрим еще связь между разложениями индуцированных пред-
представлений при разных значениях т. Из формулы A2) п. 3 вытекает,
что разложение функций f(g) из Sgm имеет вид
м
+ 2 ('-U^www]. D)
1 -s
Но легко видеть, что левый инфинитезимальный оператор Н+ пере-
переводит функции из ^jm в функции из 4?m+i> а Н_ переводит функции
из $т в функции из $CT_i (см. п. 1). Поэтому, применяя к обеим
частям равенства D) оператор Н+, получим разложение функции
ff+f(g), принадлежащей 4?т-ц. Однако, вообще говоря, таким путем

344 ПРЕДСТАВЛЕНИЯ ГРУППЫ Ql/02) 1ГЛ. VI
л
получаются не все функции из 4?m + i> поскольку оператор Н+ не яв-
является взаимно однозначным. Мы оставляем в стороне детальное
рассмотрение этого вопроса.
6. Соотношения ортогональности для функций ^1тп(х). Из ре-
результатов п. 3 легко получаются соотношения ортогональности для
функций ф; (х). В целочисленном случае получаем
если /, /1; т, п — одновременно целые или полуцелые числа, причем
? I]. Далее, если 1—е^/^Ж, где
'min(| т |, \п\) при тп:э= О,
то
О при
Точно так же устанавливается, что
~ ' +,Р _ • + ,, ,
\ фшп (-v) Фшп (Jf) ^-v = 4^ Р th тс (р -f- si) 8 (т — р). C)

ГЛАВА VII
ПРЕДСТАВЛЕНИЯ ГРУППЫ ВЕЩЕСТВЕННЫХ
УНИМОДУЛЯРНЫХ МАТРИЦ И ГИПЕРГЕОМЕТРИЧЕСКАЯ
ФУНКЦИЯ
В этой главе будут рассмотрены представления группы вещест-
вещественных унимодулярных матриц второго порядка, при которых диаго-
диагональным матрицам соответствует оператор умножения на функцию.
(cht shA /cost— sin A
При этих представлениях матрицам вида и I
\sht cht/ \sin t cos t/
соответствуют интегральные операторы, ядра которых выражаются
через гипергеометрическую функцию. На основе этой связи будет
получен ряд свойств гипергеометрической функции.
§ 1. Гипергеометрическая функция
1. Определение. Определим гипергеометрическую функцию
F(a, P; f; z) при помощи интегрального представления. Разрежем
комплексную плоскость вдоль луча 1^г<^оо вещественной оси.
При любом t, Q^t^l, функция A—tz)~" однозначно определена
в разрезанной плоскости. Выберем ветвь этой функции, принимающую
значение 1 в точке z = 0. Далее, выберем ветви функций fi'1 и
A—ty®1, принимающие значение 1 соответственно при f=l и
? = 0. Тогда функция ^-1A—?O^р~!A—tzy однозначно опреде-
определена в разрезанной плоскости.
Положим
T, z)= Г№)г^_Р) $ ^1 -О^Р-Ч! -tzX'dt. A)
При сделанных выше предположениях этот интеграл сходится в об-
области Ref^>Rep^>0 и определяет функцию F(a, P; у, z), аналити-
аналитически зависящую от а, р, f. Мы назовем ее гипергеометрической
функцией.

346
ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМО'ДУЛЯРНЫХ МАТРИЦ
[I л. VII
Для значений 8, у, не принадлежащих указанной области, определим
гипергеометрическую функцию с помощью аналитического продолжения.
Для значений z, не лежащих на луче 1^г<^оо, выражение
1—tz не обращается в нуль при 0^?=ё11. Поэтому функция
F(a, P; f; z), задаваемая интегралом A), аналитически зависит от z
в комплексной плоскости, разрезанной вдоль луча 1 ^г<^оо. Бу-
Будем полагать, что в этой плоскости имеем |arg(l—z)\<^k.
При | z | <^ 1 гипергеометрическая функция разлагается в степен-
степенной ряд. В самом деле, при |г|<^1 и 0 ^ ? sg: 1 имеем по формуле
бинома
<•-<¦»--
Подставим это разложение в интеграл A) и почленно проинтегри-
проинтегрируем. Так как по формуле B) п. 7 § 1 главы V
то
Разложение B) определяет F(a, p; у, z) при | z | < 1 для всех значений а,
P, 7, за исключением случая, когда 7 = 0, —1, —2, ... , — п, ... Если7 = — п
и ни а, ни (В не равны —т, где т<.п и т = 0, 1, 2, ... , то функция
F(ai ft f', z) имеет полюс первого порядка. Найдем вычет F(a, fi; 7, z) при
f = ¦— п. Для этого заметим, что
( 0 при
.
при
Поэтому из формулы B) вытекает, что
lim F(* Р: т: Z) '
Г(Т)
-
Так как
то
Выч
Выч Г (Т) = ?
C)

§ I] ГИПЕРГЕОМЕТРИЧЕСКАЯ ФУНКЦИЯ 347
Отметим еще, что
^ ^ Л— ГG-а)Г(Т-р) • <4>
2. Некоторые соотношения. Отметим некоторые соотношения
для гипергеометрической функции, непосредственно вытекающие из
ее определения.
Из разложения B) п. 1 следует, что параметры а и р симмет-
симметрично входят в гипергеометрическую функцию:
; Т; *) = /?(& a; V z). A)
При |г|^>1 справедливость равенства A) следует из аналитичности
F(a, P; f5 z) no z.
Далее, дифференцируя почленно разложение B) п. 1 и заменяя k
на А —J— 1, получаем
со
dF{a, Р; г, г) Г(т)
dz — Г(а)Гф)
Отсюда следует равенство
Чтобы получить следующее соотношение, сделаем в интеграле A)
п. 1 подстановку t = 1 — s. Мы получим
i
, Р; Т; z) =
_ Г(Т)
Г" fa
T) ds-
В силу равенства A) п. 1 интеграл в правой части этого равен-
равенства выражается через гипергеометрическую функцию. Отсюда выте-
вытекает, что
F(a, Р; Т; z) = {\ -г)-"f[o, T-P; Т, ^). C)
Используя симметричность F (a, P; f; z) относительно аир, получаем
F(a, Р; -л z) = (l -zT*f{j-*, P; T, ^). D)
Из соотношений C) и D) вытекает
-a, T-P; T; z). E)

348 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ. VII
3. Некоторые интегралы, выражающиеся через гипергеометри-
гипергеометрическую функцию. Через гипергеометрическую функцию выражаются
некоторые часто встречающиеся интегралы. Сделаем в равенстве A)
п. 1 подстановку t = l/s. Мы получим
F(a, р; Т; *)=_Z(lL_^ s« T(e_i)T-P i(s-z)-*ds. A)
Заменяя в этом интеграле s на s~\~l и 1—z иа и, находим
F{o., p; T; l-^^-p^L J ^-Р-»A+*)"(*+иГа^. B)
о
К интегралам вида A) п. 1, A) и B) сводятся многие другие
интегралы. Например, подстановка г = t приводит интеграл
h
J= \ (s af1 (b — sf p »(z — s) a ds
a
к виду A) п. 1. Мы получаем
{ ^) C)
Заменим в равенстве B) [3 на f — X. Тогда
^(«, Т-Х; Т;
явится преобразованием Меллина для /(s) = (l -}-s)K 7 (s-\-u) a. В
силу формулы обращения для преобразования Меллина получаем
отсюда
1 °fVx Г - X F о - Х- 1 - и s Чк —
a— ico
т (* + «)-", D)
где 0 <^ а <^ Re 7-
Точно так же из формулы A) п. 1, определяющей F (a, P; f; z),
вытекает, что
а+'"со
я 1
а —«'со
где

§ 1] ГИНЕРГЕОМЕТРИЧЕСКАЯ ФУНКЦИЯ 349
4. Выражение функций и многочленов Якоби через гипергео-
гипергеометрическую функцию. Покажем, что введенные в главах III и VI
функции Pmn(z) и $mn(z) выражаются через гипергеометрическую
функцию. Для этого воспользуемся разложениями этих функций в
ряды.
Пусть гп^п. Заменив в формуле A) п. 4 § 4 главы III индекс
суммирования j на т -j- s, получим
mWn)l
l—m
\/ у 1.— Ч \1 -у m-r »)'¦ ; ' —
'ч jU s\(m — n + s)\(l— m — s)\\ 2
5 = 0
Сравнивая эту формулу с формулой B) п. 1, убеждаемся, что
тп( )~2т(т — и)!
т+п т~п
2 A—г) з /7(/+'и + 1,«-/; т -я f-1; ^—). B)
Аналогичная формула имеет место при п
2"(n —m)! К (/—«)!(/ + m)!
т-\-п п—т
^~ lf). B')
Точно так же из формулы B) п. 4 § 4 главы III следует, что при
F\m~l, _Я-/; и-я + l; f^j). C)
В частности, полагая и=0, получаем
Полагая же m = n = 0, находим
(l±?y(/; -/; 1;^). E)

350 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ. VII
Далее, из формулы B) п. 3 § 3 главы VI следует, что при ms^n
f~~
++). F)
В частности, при т — 0 получаем
Г(/— я+1) и! U+l/ rT^J> ''"i^1- 2 j- '¦'¦'
Полученные выражения показывают, что изученные нами функции
Pmn(z) и ф/лпО?) сводятся к гипергеометрической функции. При этом
получаются гипергеометрические функции с некоторыми условиями
целочисленности на параметры, а, р, f. Например, для функции Pmn (z)
получаем, что а. = 1-\- т-\- 1, р = /га — /, ^ = т-—л —j— 1 и потому
о, р, f — целые числа.
Чтобы получить теоретико-групповое истолкование гипергеометриче-
гипергеометрической функции в общем случае, надо рассмотреть представления груп-
группы SL B, R) вещественных унимодулярных матриц второго порядка,
при которых диагональным матрицам соответствуют операторы умно-
умножения на функцию.
§ 2. Группа SL B, R) вещественных унимодулярных
х матриц второго порядка
1. Вводные замечания. Мы рассмотрели в предыдущей главе
представления группы QUB), при которых диагональные матрицы
изображаются (бесконечными) диагональными же матрицами. Как уже
указывалось в п. 2 § 1 главы VI, эти представления соответствуют
представлениям группы SL B, R) вещественных унимодулярных матриц
второго порядка, при которых элементы подгруппы SOB) матриц
(cost —sin A „
вида 1_-п/ -os Л из°бражаются диагональными матрицами (на-
(напомним, что группы QUB) и SL B, R) изоморфны).
В этой главе будет рассмотрена реализация представлений груп-
группы SL B, R), при которой особенно просто изображаются диагональ-

§21 ГРУППА SL B, 7?) 351
ные матрицы ( „ Л. Именно, этим матрицам будут соответствовать
операторы умножения на функцию. В то же время элементам под-
подгруппы 50B), а также элементам вида (С. , s. ,) при такой реа-
реализации соответствуют интегральные преобразования, ядро которых
выражается через гипергеометрическую функцию. Для треугольных
матриц гипергеометрическая функция вырождается в степенную. Исходя
из этой связи представлений группы SL B, R) и гипергеометрической
функции будут установлены различные свойства последней. В част-
частности, будут получены континуальные аналоги теоремы сложения для
гипергеометрической функции, а также — путем рассмотрения инфи-
нитезимальных операторов — рекуррентные соотношения для нее.
В конце главы рассмотрим еще одну реализацию представлений
группы SL B, R), а именно, реализацию, при которой операторы
/1 0\
умножения на функцию соответствуют треугольным матрицам I , . 1.
Мы увидим, что при этой реализации возникают интегральные пре-
преобразования, ядра которых выражаются через функции Ганкеля.
Поэтому рассмотрение таких представлений дает новый подход к
теоретико-групповой трактовке функций Ганкеля.
2. Параметризация. В качестве параметров в группе SL B, R)
можно выбрать три вещественных числа a, f, Ь. Значение р опреде-
определяется при т =? 0 из равенства а8—. р^=1. В точках, где f = 0,
можно взять другие три элемента матрицы g (все четыре элемента
а, р, -у, 8 не могут обратиться в нуль, поскольку аЬ — р^=1).
Во многих случаях удобна другая параметризация группы SL B, R),
аналогичная параметризации группы 6>?/B) с помощью углов Эйлера.
Она основана на следующем утверждении.
Теорема 1. Любая матрица g из группы SLB, R), все эле-
элементы которой отличны от нуля, может быть представлена
в виде
g=di(—eYl*tpd* С1)
где Sj, s2 = О, 1, dy и d% — диагональные матрицы с положитель-
положительными элементами
= (о е*)' ~е^\ 0 -l]1 S = (-l о]'
==[0 &
— матрица одного из следующих двух типов:
/cos 6 — sin 6
[sme cose
o, B)
/' -т<е<т- C)

352
ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ
[ГЛ. VU
6\
б/
оо
оо,
...
D)
Докажем сначала следующую лемму:
Лемма. Пусть g= \t) — матрица из группы SL B, R), та-
такая, что |а| = |8|, |р | = | f |, |а|;з=|Р| и а^>0. Тогда она являет-
является либо матрицей вида
/спб sh6\
s \sh 0 cli б/
либо матрицей вида
cos 0 sin 0
sin 0 cosOj* тТ
Доказательство. Так как ао — p-j- = 1 и | а81 ^ | p-j-1, то
а8^>0. Поэтому а = 8^>0. Пусть о = 8^ 1. Так как аЬ— 1 =р-у, то
Ру^>0 и, поскольку IP | = |If |> то p = f. Полагая р^= sh6, получаем
a = ch6, следовательно, матрица g имеет вид D).
Пусть теперь а = 8<^1. Тогда из равенства аЬ—1=р-^ полу-
получаем Pf <^ 0 и потому f = — р. При a = cos 6, р = — sin 6 матрица
g имеет вид E). Здесь — -^- <^ 6 <^ -?-, поскольку а ^> 0, | а | ^> | р |.
Перейдем теперь к доказательству теоремы. Положим
и обозначим через
матрицу gi = d11gdil, где
-9 0\ , _/е"* О
0 efl. й2— 0
Положим gi = ( ' » )• В силу выбора да и Л выполняются равен-
\Ti °i/
ства [ (Xj | == j 8л J и | рх | = |-ft |. Далее, обозначим через р матрицу
р = в~е* ^— e)-'igi, р=(а* g), где
а) е, = е2 = 0, если | а, | :>= | р, |, at ^> О,
б) е, = 1, se = 0, если KISs IPi |, «i<0,
в) ?j = 0, ?2=1, если | а, | <^ | рх |, f, ^> О,
Г) ?, =: ?з =: 1, вСЛИ | «, |<[ | Pi |, f l <^ 0.
Тогда имеют место неравенства | с^ | = | % | ^> | р21 = | ^2 |, с^ ^> 0. Сле-
Следовательно, матрица р имеет либо вид B), либо вид C). Но тогда
Из доказанной теоремы вытекает, что каждая матрица g из груп-
группы SL B, R) задается числами у, в, ф и числами еь е2, принимающими
значения 0 и 1. Кроме того, должно быть указано, какой вид имеет

§ 2] ГРУППА SL B, /?) 353
матрица р: B) или C). Мы получаем, таким образом, восемь областей
в группе SL B, R), характеризующихся значениями ej, e2 и типом
матрицы р. В каждой из этих областей матрица g однозначно опре-
определяется значениями <р, 6, ф. При этом, если g имеет вид B), то 6
изменяется от — оо до оо, а если g имеет тип C), то б изменяется
тс тс
ОТ • ДО
Построенная параметризация группы SL B, R) тесно связана с парамет-
параметризацией группы SL B, С) при помощи углов Эйлера, однако несколько
отличается от нее (из-за наличия множителей вида se). Параметризация при
помощи углов Эйлера неудобна тем, что в некоторых случаях при этой
параметризации приходится разлагать вещественные матрицы в произведе-
произведение матриц с комплексными элементами.
Рассмотрим теперь в группе SL B, R) матрицы, для которых один
из матричных элементов равен нулю. Как и в теореме 1, убеждаемся,
что любая матрица такого вида может быть записана в виде
g= d (— efi^ps^, F)
где d=(ea Л, е,, е2 и е3 принимают значения 0 и 1, —е =
/—1 о \ s_i о i\ _мат ица ви а _/i о\
—[ 0 —1/' s~{— 1 0) И р матРица вида Р— \х \J-
/о в\ ^
Например, если ?¦==( С). tS>v, то
g=dps,
где
3. Алгебра Ли. Выберем в алгебре Ли группы SL B, R) базис,
состоящий из касательных матриц к однопараметрическим подгруппам
мо=(; j). о)
о")
Эти касательные матрицы имеют соответственно вид
О 1\ /0 0\ /—1 0
О 0 ' а-= 1 0 ' аз= 0 1

354 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ. VII
Они удовлетворяют следующим коммутационным соотношениям:
[а+, aj\ = —as, C)
[a+,as] = 2a^ (У)
[c_,ej = -2c_ C")
Вместо матриц о+ и а можно взять их линейные комбинации
D)
о1)- D')
Они являются касательными матрицами к подгруппам
(cht shA ,_.
/cos ^ — sin А ,к,ч
( J E)
соответственно.
Коммутационные соотношения для матриц alt (ц, сц имеют следую-
следующий вид:
[о„ аа] — — 2щ, F)
К aj = —2а,, F')
К 0,1 = 202. F")
§ 3. Неприводимые представления группы SLB, R)
1. Описание. Поскольку группа SL B, R) изоморфна группе Q6rB),
то ее цеприводимые представления непосредственно получаются из
описанных в п. 2 § 2 главы VI неприводимых представлений груп-
группы QUB). Напомним, что эти представления строятся в простран-
пространстве Х>х, Х = С> е) Функций Ф(г), имеющих степень однородности 11
и четность 2е, и задаются формулой
Ф(а2+^), A)
/а р\
Поэтому, если ?¦—' —матрица из группы SL B, /?), то соот-
соответствующий ей оператор представления задается формулой A), где

НЕПРИВОДИМЫЕ ПРЕДСТАВЛЕНИЯ ГРУППЫ SL B, R) 355
h = t 1gt, t = —x- . (см. п. 1 § 1 главы VI). В параметрах а,
Y, 8 представление записывается в виде
(см. п. 1 § 1 главы VI, формулы B), B')).
Более удобная запись представления получится, если перейти от
комплексного числа z = x~\-iy к паре вещественных чисел и = х —у,
v = x-\-y, или, иначе,
Простой подсчет показывает, что оператору B) соответствует опе-
оператор
Ph + 8d) C)
в пространстве функций
9 (я, г>) = ФB). D)
При этом функции <р(и, т;) бесконечно дифференцируемы, имеют сте-
степень однородности 2/ и четность 2е.
Таким образом, мы получили следующую реализацию представле-
представлений группы SL B, R). Пусть / = (/, е), где / — комплексное число,
и е = 0, —. Обозначим через ?l пространство бесконечно дифферен-
дифференцируемых функций (р (х, у) двух вещественных переменных х и у,
таких, что для любого вещественного числа а выполняется равенство
<р(ах, ау)—\а|2'(signaJ>(х, у). E)
Операторы Тг (g) представления группы SL B, R) определим формулой
F)
где <р(х, у) (= ф и g=[a J^SLB, R).
Перейдем от описанной реализации представлений к реализации
в пространстве функций /(х), заданных на вещественной оси. Каждой
функции <р(х, у) из пространства Х>х поставим в соответствие функ-
функцию одного переменного
= <р(х, 1). G)
В силу соотношения однородности E) функция <р (х, у) выражается
через /(х) по формуле
( ) () (8)

356 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ. VII
Очевидно, что функция /(х) бесконечно дифференцируема. Кроме
того, полагая в формуле (8) х=\ и учитывая бесконечную диффе-
ренцируемость функции <рA, у) по у, получаем, что функция
(9)
бесконечно дифференцируема. Легко показать, что любой бесконечно
дифференцируемой функции /(х), такой, что функция / (х) также
бесконечно дифференцируема, соответствует по формуле (8) функ-
функция <р(х, у) из пространства Х>г
Пользуясь соотношениями F) и (8), легко получить, что опера-
операторы представления Тх (g) при переходе от ср (х, у) к /(х) принимают
следующий вид:
(^±) A0)
2. Другая реализация представлений T%(g). Перейдем к дру-
другой реализации представлений Tx(g). Для этого каждой функции/(х)
из Х>х поставим в соответствие пару функций (F+(X), /v(X)), опреде-
определяемых формулами
со со
A)
\\ x*-xf(x)dx. B)
0 —со
Иными словами, эти функции являются преобразованиями Меллина
функций /(х) и /(—х), рассматриваемых на полуоси 0==gx<^co.
Выясним, при каких значениях X интегралы A) и B) сходятся.
Пусть /(х)^2)г Из равенства A) вытекает, что при | х \ — оо имеем
1/(*)[~|/@)||хр<. C)
Поэтому интегралы A) и B) абсолютно сходятся на бесконечности,
если Re (X -)- 21) ^> 0. В нуле эти интегралы сходятся при ReX^>0.
Итак, интегралы A) и B) абсолютно сходятся в полосе 0<^ReX<^
<^ — 2Re/. В этой полосе они определяют F+(X) и /^(Х) как аналити-
аналитические функции от X.
Далее, из результатов п. 2 § 5 главы II легко следует, что если
/(х)^5)у и 0<а<— 2Re/, то функции F+(a-\-ip) и /L(а +/^)
быстро убывают при | \>. | — оо.
Вне полосы 0<^ReX<^—2 Re/ функции F+(X) и /^(Х) опреде-
определяются, путем аналитического продолжения по X.

§ 31 НЕПРИВОДИМЫЕ ПРЕДСТАВЛЕНИЯ ГРУППЫ SL B, R) 357
Как было показано в п. 3 § 4 главы II, функция f(x) выражается
через функции F+Q.) и F_Q.) по следующей формуле обращения:
D)
x<0.
где а — любая точка промежутка 0 <^ а <^ — 2 Re /. При этом имеет
место равенство Планшереля
оо
a—l со
При X = -=- ~\- ip эти формулы принимают симметричный вид:
-J-4-
Ф+(р)= ^ /(x)x±2+'Prfx, F)
-co
CO
C
= ^ J |®+(p)pdp + l J
где для краткости положено <$>:i1(p) = F± (-^--j-'p). Мы можем по-
поэтому распространить соответствие /—>(/7+I F_) до соответствия
/—> (Ф+, Ф ), где /, Ф+, Ф_ ¦— функции с интегрируемым квадратом
модуля.
Найдем теперь, как выражаются операторы представления Tx(g)
в пространстве пар F = (F+) F_). Обозначим пару, соответствующую
функции ТгШ{х\ через Rx(g)F = (/?z(g)F+, Rt(g)FJ.

358 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ 1ГЛ. VII
le-f 0 \
Пусть d = (n 9 )—диагональная матрица. В пространстве функ-
ций /(х) ей соответствует оператор
x (8)
Поэтому
со
Rx (d) F+ (X) = е*"? $/(«"** х) x1'l dx =
о
со
l*i) J А (Ш) X). (9)
Аналогично,
Rx (d) F^ (X) = е**(Ш> F^ (X) A0)
и, следовательно,
Rx(d)F(l) = e^{Ul>B(l). A1)
le* 0 \
Таким образом, оператору Tx(d), rf = l ?) соответствует
в пространстве пар F = (/74, F_) оператор умножения на функцию
а9(х+/)
)_ Иными словами, при переходе к пространству пар операторы,
соответствующие матрицам d, приняли диагональную форму.
I ° Г\
Совершенно аналогично доказывается, что матрице s = l n!
соответствует оператор, переводящий пару F (X) =: (F+(X), F_(k)) в пару
Rx (s) F (X) = (F_ (- X - 2/), (- 1J?F+ (- X - 4tj). A2)
/— 1 0\
Матрице же — e = I I соответствует оператор, перево-
переводящий пару F —(Fp F_) в пару
(_ i)«'F = ((- 1FF+, (- \f>FJ. A3)
/1 0\
Наконец, матрице ^= I соответствует оператор, переводя-
переводящий F = (F+, FJ в
Rx @ F = ((- 1F/L, (- lJ6^). A4)
3. Операторы второй реализации представлений Tr(g). Рас-
/а р\
смотрим теперь матрицу ?¦=( .1, все элементы которой отличны
\Т 8/

§ 31 НЕПРИВОДИМЫЕ ПРЕДСТАВЛЕНИЯ ГРУППЫ SL B, R) 359
от нуля, и найдем соответствующий ей оператор в пространстве пар.
Так как
rx(g-)/W = |^ + Srsign24^+S)/(j-J±|), A)
то
И
со
Rt (g) F- Q) = J a* - 4 px + 8 p< sign26 (px + S)/(^T) dx. C)
Сделаем в формуле B) подстановку "л , J^=_y. Мы получаем
Используя формулу обращения E) п. 2, можно переписать этот инте-
интеграл в следующем виде:
а — «
a-\- i со
a — ico
где 0<а<— 2 Re/.
Покажем, что при выполнении условий
0<ReA< — 2Re/,
— 1—2Re/<Retx<l
интегралы в формуле E) абсолютно сходятся. Так как функции F+ (^)
и F_ ((j.)j р = а -\- h быстро убывают при | v | — оо, то достаточно
показать сходимость интегралов по переменной у. Если все элементы

360 Представления группы уНимодуля'рных матриц [гл. vii
матрицы g=\ sj отличны от нуля, то особыми точками подынте-
-г
гральной функции являются точки _у = 0, к-, -г и со. Порядки функ-
функции в этих точках равны соответственно
_^ — X — 2/ — 1, X—1 и — {х — 2/ — 2.
Отсюда и вытекает абсолютная сходимость интегралов в области F).
Случай, когда один из элементов матрицы g обращается в нуль, будет
рассмотрен ниже.
Будем считать, что условия F) выполнены. Тогда можно изменить
порядок интегрирования. Мы получим
Rx (g) F+ (X) = $ К„ (X, к Х; g) F+ fo) ф +
a — i oo
a — ? со
где ядра К++(К [>¦; x; g) и ^+-(^> W X! g) задаются формулами
^++(x> к х; ^)=
К+ЛК Щ X; ^ = iJ
o'
(8')
(в интегралах, выражающих ядра, сделана подстановка у = °* ; Л.
Аналогично доказывается, что
а + ioo
к х;
+ ^ ^-(x> w х; ^)^(^)Ф. (9)
где
К~+(К К XI g) =
со

3] НЕПРИВОДИМЫЕ ПРЕДСТАВЛЕНИЯ ГРУППЫ SL B, R) 361
Итак, мы доказали следующее утверждение:
Если 0<ReX< — 2 Re/, — 1 — 2 Re/<Re{*<l, и если все
Л*
элементы матрицы g—[ Й1 отличны от нуля, то после пере-
перехода к пространству пар F = (F+, /?_) операторы представления
Tx(g) переходят в операторы
а + «со
^ К Ъ g)F^)dv.. A1)
Здесь через К(Х, [>¦; X! §) обозначена матрица
элементы которой даются формулами (8), (8'), A0), AС).
Матрицу К будем в дальнейшем называть ядром оператора Rx (g).
Это ядро определено в области
0<ReX<— 2 Re/,
— 1— 2Re/<Reix<l.
В случае, когда один из элементов матрицы g равен нулю, соот-
соответствующий оператор Rx(g) также задается формулой вида A1).
Однако в этом случае область сходимости интегралов (8), (8') A0) и
AС) меняется. Именно, при а = 0 эти интегралы сходятся в области
0<ReX; Re(X + |i.)<—2Re/<Refi+l, A3)
при р = 0 — в области
0 <: Re X << Re {х << 1, A3')
при -у = 0 — в области
— 2Re/--l<Refj.<ReX<— 2Re/ A3")
и при 8 = 0 — в области
ReX<— 2 Re/< Re (X+ IA); Re|i<l. A3'")
4. Инфинитезимальные операторы. Вычислим инфинитезимальные
операторы построенных выше представлений группы 67.B, R). Опе-
Операторы представления JTz(g), соответствующие элементам
A)
однопараметрической подгруппы Й+, имеют вид
B)

362 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ 1ГЛ. VII
Продифференцировав обе части этого равенства по t и положив t = О,
получим
dx' \ '
Точно так же инфинитезимальный оператор А_ этого представле-
/1 0\
ния, соответствующий подгруппе 2_ матриц вида I I, задается
формулой
d
Подгруппе же 23 матриц ш3 (t) = I А соответствует оператор
Л О / О у" ^й^
Так как касательная матрица к подгруппе
/cht shA
имеет вид a, = a+-j-a_, то подгруппе Q, соответствует инфинитези-
инфинитезимальный оператор
х).
Точно так же доказывается, что подгруппе
(cos t — sin t \
sin t cos t)
соответствует инфинитезимальный оператор
Д = -2/* + A+х2)^. G)
Вычислим теперь инфинитезимальные операторы для представле-
представления Rx(g). Чтобы найти оператор, соответствующий подгруппе S+,
надо найти преобразования Меллина функций A+f(x), x^>0 и
(Л+/)(— х), х<^0. Преобразование Меллина для A+f(x) имеет вид
со
= \ xXl [2lxf(x) — xjr (x)] dx=
о

§ 4] ВЫЧИСЛЕНИЕ ЯДЕР ПРЕДСТАВЛЕНИЯ R (g) 363
Интегрируя по частям и учитывая, что
получаем
со
$ xxM+/(x)tfx = B/+X + 1)F+(X+ 1).
о
Аналогично выводится, что
о
Таким образом, инфинитезимальный оператор представления Rx(g)>
соответствующий подгруппе й+, имеет вид
B+(F+(X), F (Х)) =
=(B/ + X+l)F+(X+l), -B/ + X+l)^(A + l)). (8)
Совершенно так же доказывается, что подгруппе Q_ соответствует
инфинитезимальный оператор
В_ (F+ (X), F (X)) = (- (X - 1) F+ (к - 1), (X - 1) /?. (X - 1)), (9)
а подгруппе Q8 — оператор
А.(/ЧМ. ^(X)) = (B/ + 2X)F+(X), B/+2X)F_(X))l A0)
Инфинитезимальные операторы, соответствующие подгруппам 2,
и Qa, являются линейными комбинациями операторов В+ и В_.
В, (F+ (X), F_ (X)) = (B/+ X + 1)F+ (X + 1) - (X - 1)F+ (X- 1),
X+l) + (X-l)F_(X-l)X (И)
-1)F_(X-1)). A2)
§ 4. Вычисление ядер представления Rx (g)
1. Вычисление K(^; ft; x; h) и K(^; ft; x; и). В п. 2 § 2 было
показано, что любая матрица g из группы SL B, R) может быть представ-
/ 0 1\
лена в виде произведения диагональных матриц, матрицы s= I * „I
и матрицы, имеющей либо вид
ch6 sh6\ ^fi/-
j —<e<- О)
(she
либо вид
/c
ft=(s
cose — sme
U

364 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНЙМОДУЛЯРНЫХ МАТРИЦ (ГЛ. \'П
Для диагональных матриц, а также матрицы s, мы уже нашли вид
оператора представления. Поэтому достаточно вычислить ядра для
операторов Rx(h) и Rx(u), где h и и — матрицы, имеющие соответст-
соответственно вид A) и B). Начнем с матриц вида
she1
she
при б^>0. Из формулы (8) п. 3 § 3 вытекает, что
ул $Ж |х sh e+ch e i2/ sign2! (x sh e+ch е) **•
Но при е>0, х>0 мы имеем xche-f-she>O и xshe-[-che> О,
потому
к++ (К к х; h\=-Yri\ *л 1 (х ch е+sh еХ * (
о
Сделаем в этом интеграле подстановку x=yth6 и воспользуемся фор-
формулой B) п. 3 § 1. После простых преобразований получим при 6^
^++(х. к х; л)=
~2w Г(—2/)
или, по формуле E) п. 2 § 1,
к++(К к х"; *)=
1
~2м Г (—2/)
Заметим, что интеграл C) абсолютно сходится в области
<-2Re/.
Остальные элементы матрицы К(^, р; X? 'О вычисляются точно
так же. Приведем результаты вычисления:
K+-Q, к х; *)=о, E)
—X+1; —sh*e)], F)

§ 4] ВЫЧИСЛЕНИЕ ЯДЪР ПРЕДСТАВЛЕНИЯ R (g) 365
где 0<ReX<—2Re/, — 1 — 2Re/<Reji.<l,
к а М' ГA
Г B/+ 2) Х
; 2/+2; ~~), G)
где — 1— 2Re/<Rejx<l.
Из формул D) — G) и соотношения E) п. 2 § 1 для гипергеомет-
гипергеометрической функции вытекает, что
К++(К к X; h) = K++(~~l~2l, -ix-2/; Ъ К) (8)
К_ (К К И й) = К_ ( - X - 2/, -1* - 21; Х; h), (9)
а также, что
*¦-+(*, К X; А) = ( - ]JЕ ^ + ( - X - 24 -1* - 2/; Х; Л). A0)
/ ch6 — sh6\
Вычислим теперь ядро оператора Rx(hl), hl = 1 I,
. Для этого заметим, что
/г1 = .9/is ( — е),
где
/ 0 1\ /—1 0\ , /ch6 sh
s=(-iof^l o-i) H"=U
Поэтому
Rx (A"*) = i?x (я) Rx (ft) #x (я) Rx (- e).
Операторы Rx(s) и Rx( — e) были вычислены в п. 3 § 3. Пользуясь
данным там описанием и принимая во внимание соотношения (8) — A0),
без труда устанавливаем, что матрица К(К [>•; X! ^ ') получается из
матрицы К (К [>¦', X! ^) путем изменения обоих знаков-индексов.
Иными словами,
К++(К к х; h 1)=/C_(X, w x; ft), 1 (п)
k_+& к х; *^)=о J
и т. д.
Перейдем теперь к оператору Rx(u), где
6 — sin
e cose
)' °<e<4-.

366 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИЙОДУЛЯРНЫХ МАТРИЦ (ГЛ. VII
Совершенно так же, как и для матрицы h, получаем
К * + n + 2/+i; -ctg*6), -A3)
где 0<ReX и — 1 — 2Re/<Rejx;
К+ (К |4 /:, и) =
— 2м Г(|х — Х+1) Л
XF(-X —2/, ix; i* —X+l; — tg*8), A4)
где Re X< —2 Re/ и — 1 — 2 Re/<Reix;
X sinЛA6 cos|J- x+2/ 6F (X, _ [х — 2/; X — ;х -f 1; — tg2 6), A5)
где 0<ReX,
X sinx+|J-^6cos-x-^a/6F(l— X, 1 —p.; 1 — X — jj. — 2/; — ctga 0),'A6)
где ReX<—2Re/ и Re^l.
И в этом случае при замене и на и i меняются оба знака-индекса:
к++(К |ч х; и 1)=а-_(Х, w x; «). 07)
к+-<Ъ к х; и-1)=А'_(х, к х; «). A7*)
и т. д. Здесь
(co
-si
cos 6 sin 6\ п
sine cose/' °<e<T-
2. Случай треугольных матриц. В случае, когда матрица g-—
треугольная, выражение ядра оператора Rx (g) упрощается — гипер-
гипергеометр ичёские функции вырождаются в степенные- Пусть, например,
/1 0\
2 = 1 I, 7^>0- В этом случае по формуле (8) п. 3 § 3 мы имеем
со
к++ (К к х; г) = з^ 5 -к* (*+тГ11 ^- A)
Этот интеграл сходится в области 0<^ReX<^Re;x. Используя фор'мулу
G) п. 6 § 1 главы V, находим

§ 4] ВЫЧИСЛЕНИЕ ЯДЕР ПРЕДСТАВЛЕНИЯ R (g) 367
Точно так же получаем
*+-(*. к х; *)=о, C)
где 0<ReX и Rejx<l,
К (X ir у ,~)- '
Л—1А> ^ X' ^— 2я,-
Г A-
где RA<R<l
И здесь при замене -у на — -у надо изменить оба знака-индекса:
/с+дх, w х; >)=*¦_(*, к х; г), F)
и т. д.
Для других треугольных матриц ядра операторов легко полу-
получаются из ядра оператора Ry (г). Например, пусть С = I I. Тогда
\0 1/
имеет место равенство
С = sirls ( — <?),
где ^=(_i J) и ^'=(_J i)- ПоэтомУ
Rx @ = Rx (я) /?х (г^) i?x (я) #х ( - е). G)
Используя найденные выше выражения для операторов Rx (s) и Rx ( — <?),
а также найденное ядро оператора Rx(z), получаем при р^>0
к а „. v. ?ч_ » Г(*-ч*)Г(-х-2/)в^х я.
Л++(Л> V-, X. У—2^7 Г(—[л—20 Р ' (^
где Reix<ReX<— 2Re/;
К^(К |Ч Х-' 0 = 0; (9)
л-+(х, I*. х. Q — -2^ го*—
где ReX<— 2Re/, - 1 —2Re/<Re;x;
^ а „. v. rt_ ft B nn
Л. (*• ft X. 4 —215" Г(Х+2/ + 1) P ' ^H>
где — 1 — 2Re/<Refi<ReX.
И в этом случае при переходе от матрицы С к матрице С1 = ( )
надо изменить знаки-индексы:
к++&, к х; с 1)=/с_(х, к х; с), о?)
и т. д.

368 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ. VII
/ а 1\ / 0 1\
Для матриц вида I I и I .1 ядра вычисляются точно
\ — 10/ \ — 16/
так же. Мы предоставляем провести это вычисление читателю.
3. Общий случай. Полученных выше результатов достаточно,
чтобы вычислить ядро оператора Ry (g) для любого элемента g группы
SLB, R). Если все матричные элементы матрицы g—[ П отличны
\7 о/
от нуля, то, как было показано в п. 2 § 2, эту матрицу можно
записать в виде
где s = I I, — е = I I, с?1 и fif4 — диагональные мат-
матрицы, ар — матрица одного из следующих двух видов:
i6 sh(
che)' -oo<e<oo) B)
(cos e — sin e\ п ж
sine cose)' -T<e<T- ' <3>
Поскольку для всех матриц указанного вида ядра операторов вычис-
вычислены, мы легко найдем ядро оператора Rx(g).
В случае, когда один из элементов матрицы g равен нулю, надо
использовать разложение F) п. 2 § 2. Наконец, в случае, когда два
элемента матрицы g равны нулю, следует воспользоваться результа-
результатами п. 2 § 3.
4. Некоторые интегральные преобразования, связанные с гипер-
гипергеометрической функцией. Операторы Tx(g) и ^(g) взаимно
обратны: если F = Тх (g) f, то f = Т% (g1) F. Поэтому из
a + ico
F(X)= $ К(Х, к х; g)i<y)'dp, A)
a — ico
где f = (/+, /L) и F = (F+, FJ, следует, что
f(X) = ' fK(K K x; g-^Mdfr B)
a —ico
где a удовлетворяет указанным в п. 3 § 3 ограничениям. Выбирая раз-
различные элементы g группы 5LB, R), получаем пары взаимно обрат-
обратных интегральных преобразований, связанных с гипергеометрической
функцией.

§ 4] ВЫЧИСЛЕНИЕ ЯДЕР ПРЕДСТАВЛЕНИЯ R (g) 369
„ /ch6 Sh6\
Если положить g=l j, 6^>0, то получаем следующую
пару интегральных преобразований, связывающих F и f. Пусть
F+ <Х>=ST Г(Х)Г(A2/72/)(sh 6)"Х(ch6)Л+9/ X
X J (cth6fF(x, K -2/; -^)/+(!х)^, C)
а —«аэ
=ш г (Х) (sh 8)X (ch 8)Л+2'х
a-\-ico
X J j^
а —«со
-X, —X — 2/i |а — X-f-l; —
a — ico
2/+2; -^)/_0*)^ D)
где — 1 — 2 Re /< а < 1. Тогда
O-J-IOO
; 2/+2;
в —«CO
X F(K* + 2/+ 1; X —1*+ 1; —
' - 2w
a -i<x>
И
X \ (cth6f f(\, [x; —2l;—-^jF^(l,)dV, F)
e — loo
где — 1—2Re/<a<l.

370 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ. VII
я /cos 6 —sin 6\ n
Аналогично, случай ?= . „ „I, 0<C^ <Z~r, приводит
\ SID о COS V/ ^- ^ 4
к следующим преобразованиям. Пусть
a+ico
a —tea
1; -c
а —«с»
X(tg6f F(~X-2t, щ ix-X+l; -tg»6)/_0*)^ G)
и
а + ioo
a —too
, -ix-2/; X-ix+1; - tg» 6)/+
a— <oo
X/7A_X, 1 —jx; 1—X~ix —2/; — ctg2 6)/_ (?) d{x, (8)
где — 1— 2Re/<a<l. Тогда
—X, 1—|4 1—X —ix-2
e + ico
i
i (
, -{x-2/; X-ix+1; -tg«6)F_0»)dp (9)
j
a — ioo
где —1 —2Re/<a<l.

§6] ГИПЕРГЕОМЕТРИЧЕСКОЕ УРАВНЕНИЕ 371
)
Наконец, пусть g=(, ,), t~^>0. Тогда получаем следующую
пару преобразований. Пусть
1
а —<оо
a-\-ico
A1)
a —«oo
где 0<ReX<a<l. Тогда
X) j
e —fco
e + joo
i
a+ico
a —«oo
где 0<ReX<a<l.
§ 5. Рекуррентные формулы для гипергеометрической функции.
Гипергеометрическое уравнение
1. Соотношения между инфинитезимальными операторами и
операторами представления. Чтобы вывести рекуррентные формулы
для гипергеометрической функции, установим сначала соотношения
между операторами представления R (g) и инфинитезимальными опе-
операторами этого представления.
Рассмотрим матрицу g-=ft(<p)t(^), где
sh<p\
Эта матрица имеет следующий вид:
/chT *chT + shT\
/ v ;

372
ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ
[ГЛ. VII
При f^>0, <p~^>0 все элементы матрицы g положительны и потому
в силу п. 2 § 2 ее можно представить в виде
g=h(<?)H(t) = d(t1)h(G)d(t,). B)
Здесь d(tt) и d(t%)— диагональные матрицы:
* °\ wm /ch6
Параметры tt, 0, fa связаны с параметрами <р и t формулами
C)
C')
C0
непосредственно вытекающими из равенств A) и B).
Из разложения B) вытекает, что
Rx Ф (?)) Rx (С @) = i?x (d (tj) Rx (h F)) R%
Продифференцируем обе части этого равенства по t и положим
^^=0; так как tu 0 и ?, зависят от t, то мы получим
D)
Но из формул C) — C") следует, что при t = 0 имеем t, = t$ = 0,
6 = ср, а "потому операторы Rx(d(tt)) и R,(d(^)) являются единичными.
Кроме того, дифференцируя равенства C) — C') по t и полагая ^=0,
находим
rffi
/=о
1
Л»
/=о
ch2?
2 sh 2? • dt
Наконец, по определению инфинитезимальных операторов (см. § 3 п. 5
имеем
J Г\ /У /J.W _» 7~» f J /J.W
„ = ?«• G)
dt
dt
Подставляя полученные выражения в формулу E), находим
(8)
где
\sh у ch <?/

5) ГИГ1ЕРГЕ6МЕт?ИЧЁСКОЕ УРАВНЕНИЕ 373
Совершенно аналогично устанавливается равенство
l Y-^--Y/?xW^cth2?. (9)
Вычитая из равенства (9) равенство (8), получаем
Rv (h) (В — В.) — -A- Ry (h) — RyB, cth 2ф
или
P (ft)B, = -A- Ry (h) - Ry (Л) 53 cth 2cp. A0)
x (h)B, = ^RX Ф) Rx
Аналогично, рассматривая матрицы
/cos<p — sin(p\/l A /cos<p — sin <p\/l 0\
\sin <p cos<p/\0 1/ \sin <p cosy/\t 1/
получаем
С 1 /ID tn\ 1
(H)
(cos <p — sin ф\
. Отсюда следует, что
sin 9 cos 9/
A3)
где
\sin 9 cos 9
В
2. Рекуррентные формулы. Выведем теперь из формул преды-
предыдущего пункта рекуррентные соотношения для гипергеометрической
функции, т. е. соотношения, связывающие F(a, C; j, x) с функциями
F(a±l, P±l; Т±1; лг). Для этого заменим операторы Rx(h),Rx(u)
и Z?+, В_, В3, входящие в эти формулы, их явными выражениями, и
сравним ядра получающихся операторов слева и справа.
Найдем ядро оператора Ry(h)В+. Как было показано в ц. 5 § 3,
оператор В+ переводит пару F (р.) = (F+ (p.), F_(p.)) в пару
О)
Оператор же Rx(h) является интегральным оператором с ядром

374 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ . (ГЛ. VII
(для краткости мы опустили справа аргументы j( и И). Поэтому
P B)
где
f+W=" J /Г++(Х, (А)B/ + ^+1),Р+(,А+1)ф, C)
а — ica
S - D)
а — too
Заменяя |х на \j.— 1, убеждаемся, что ядро оператора Ry(h)B+
имеет вид
0 \
/С_(Х,|1-1);"
Чтобы найти ядро оператора в правой части равенства (8) п. 1,
достаточно заметить, что оператор В3 сводится к умножению обеих
компонент пары (F+ (X), F (X)) на 2 (X -}- /). Поэтому указанное ядро
имеет вид
к х;
где
Из формул E) и F) следует, что
—(X + Q , , 1
Подставим в это равенство выражение К++(К К X! 'О» даваемое
формулой D) п. 1 § 4. После простых преобразований, заме-
заменив r-j— на г, X на а, р. на р и — 2/ на -у» получим следующее
соотношение для гипергеометрической функции:
1; т; ^Ч-Ст-Р-^)/7^ Р; т; ^) +
b* * *•> = <>. (8)

§ 5] ГИПЕРГЕОМЕТРИЧЕСКОЕ УРАВНЕНИЕ 375
Используя формулу B) п. 2 § 1, можно переписать равенство (8)
в следующем виде:
; т; *)-HT-p-a*)F(a, P; г; *)+
+ ? *) = 0. (9)
В силу симметричности гипергеометрической функции относительно
параметров аир, отсюда следует, что
—T)F(a—1, Р; т; г) + (т —a —pz)F(a, Р; Т;
-f ^z(l_z)F(a-|-l; р+1; т+1; г) = 0. A0)
Другая рекуррентная формула получается из равенства A0) п. 1.
Аналогично предыдущему устанавливаем, что ядро оператора Rx (ft) Z?2
имеет вид
0
- B/+ [х) /С+ (X, р.— 1> ~ B/-f [х) #__(*, I* -
Подставляя это выражение в формулу A0) п. 1 и заменяя затем
К++(Ь, (J. — I), /ц.+ (Х, \х), /Г++(Х, ^4"!) согласно формуле D') п. 1
§ 4, получаем рекуррентную формулу
1; T; z) = 0. A2)
Меняя местами аир, получаем отсюда
(рг_а2 + 2а— T)F(o, p; -p 2)-f (T —a)F(a—I, p; Т; г) +
, P; Т; г) = 0. A3)
Аналогичные формулы получаются путем сравнения элементов
А'+ в ядрах. После простых преобразований получаем следующие
рекуррентные соотношения для гипергеометрической функции:
р; Т; г) +(т~^""-}F(а, р;
1;г) = 0 A4)
p;T-l;z) = u A5)

376 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ: VII
Совершенно аналогично выводятся рекуррентные соотношения из
формулы (9) п. 1. Сравнивая элементы К++ слева и справа, получаем
F(a, P; у, z) — F(a, p+1; т; г) +
+ — F(a+1, p+1; T+1; z) = 0 A6)
и, по симметрии относительно аир,
F(a, Р; т; -г) —F(a+1, P; т;
F(+l, p+l;T+l;z) = 0. A7)
Далее, сравнивая элементы АГ_+, получаем
F(a, p; Т; z)-F(a, р; т-1; г) +
+ 7^=ту^(«+1. Р + 1; т + 1; ^)=о. A8)
Используя формулу A2) п. 1 и сравнивая элементы /С++> получим
т^(«. Р; г. ^)-(T-a)F(a, p + i; т+1; z)~
-a(l-2)F(a+l, p+1; T-f-l; z) = 0. A9)
В силу симметрии по а и р отсюда следует
TF(a, р; Т; z)_(T_p)F(a+l, ft T+1! ^)~
_p(l_z)F(a + l, p+1; т+l; z) = 0. B0)
Аналогично, из формулы A1) п. 1 получаем, сравнивая /С++
fs обеих частях равенства,
(T-l)F(a, р-1; т-1; z) + (our-T+l)F(a, ft T; *)-
—|-z(l_z)F(a+l, p + 1; T+l; z) = Q. B1)
По симметрии относительно аир отсюда следует
(T_l)F(a_l, ft T_l; 2) + (p2-T+l)F(a, p; T; z)-
^ ; z) = 0. B2)
Наконец, из формулы A3) п. 1, сравнивая значения /Г++> полу-
получаем рекуррентную формулу
T(T_l)F(o, р-1; т-1; ^) + T[(a-p)z—r+lJF(a, ft -fi +
+ p ++1;г) = 0, B3)
и по симметрии относительно аир

§ 61 ГИПЕРГЕОМЁТРИЧЕСКОЕ УРАВНЕНИЕ 377
Полученные 15 рекуррентных формул являются основными. Из них
можно вывести ряд новых формул. Например, вычитая из равенства
A0) равенство (9), получим
(a-T)F(<z-l, р; T; *) + (Т - Р) f7 («> р-1; T; z) +
- «) A - z) F (а, ft Т; г) = 0. B5)
Далее, умножим равенство (9) на a — -у- равенство A0) на
у ¦-Р и равенство A4) на (Р а)г. Складывая полученные соотно-
соотношения, найдем
- 1; Т; z)-F(a- 1, [5; Т; г) +
?± ; г) = 0. B6)
Исключим из равенств A9) и B0) ,F(a+l, p-(-l; тЧ! ¦г)-
Мы получим
Р; т; -г)-«(т-Р)^(«+1> Р; Т+1; ^)+
1; ^)=o. B7)
Исключая же ,F(a, p; j, z) и заменяя а, р, ^ на a—1, р-—1, ^—1,
получим
(a-p)(l-z)F(a, р; Т; г) + (Р-Т)Р(о, Р~1; у, -) +
-|-(Т — о)F(o — 1, р; Т; z) = 0. B8)
Аналогично, из равенств A6) и A7) находим
(p-a)F(a, p; T; z) + «F(a+l, p; Т; г)-
-pF(a, р+1; Т; г) = 0. B9)
Из равенств B1) и B2) следует, что
T(a-p)F(a, p; T; z)- a(T- p)F(a+ 1, р; Т+1; г) +
-f р(Т —o)F(a, р + 1; T+l; z) = 0 C0)
и
(a-p)(l -z)F(a, p; T; z) + (p_T)F(a, р- 1; Т; г) +
+ (T_a)F(a~l, P; T; z) = 0. C1)
Из равенств (9) и B1) получаем
TF(a, р; Т; z)-pF(a, р+1; T+l; z) +
+ (P_T)F(a, р; Т+1; 2) = 0> C2)
и по симметрии относительно аир,
TF(a, p; T; z)^«F(a+l, p; T+1! ^) +
(a-T)F(a, p; T+l; z) = 0. C3)

378 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ. VII
Из равенств B3) и B1) получаем
р; -л
*) = °. C4)
и, по симметрии относительно аир,
(т -- От^С»- 1. Р: Т-»; «)--F(o, р; Т; *)] +
+ р (Т - а) *F(o, Р + 1; т + *5 ?) = °- C5>
Укажем еще равенства:
тГа-Сг-Р)*]/7^ Р; т; ^-T(i-z)/•-(«. Р+1; т; ^) +
+ (т-«)(т-Р)*'?(«. Р; Т + 1
и
T[P-(T-«)^]F(o, р; Т; z)-T(l -z)F(a+ I, p; -p
+ (T-a)(T-P)zF(a,p;T+l;z) = O, C7)
вытекающие из соотношений A4) — A6).
3. Гипергеометрическое уравнение. Выведем теперь дифферен-
дифференциальное уравнение второго порядка, которому удовлетворяет гипер-
гипергеометрическая функция. Для этого заметим, что по формуле (8) п. 2
оператор
переводит F(a, P; у, z) в (т—p)F(a, р—1; j, z). Используя фор-
формулы A6) п. 2 и B) п. 2 § 1, можно точно так же доказать, что
оператор -г^+Р переводит F(a, Р; ^, -г) в р/?(а, Р~)-1; т? ¦г)-
Отсюда вытекает, что
+(t-p-«)]f(o, Р; т; ^)=
=(P-i)(t-P)^(^ P; т; г>- О)
Раскрывая скобки, получаем
;|-ap]F(a, Р; Г. ^) = 0- B)
Итак, гипергеометрическая функция является частным решением
уравнения
*O-*)S + [T-(«+P + iJ]f-«By = o. C)
Это уравнение называют гипергеометрическим дифференциальным
уравнением.

§ 6] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 379
Чтобы найти второе частное решение, сделаем в уравнении C)
подстановку у = z1 ~T w. Мы получим уравнение
= 0- D)
Одним из решений уравнения D) является
w = F(o—т+1, р — T+l; 2 — r,z).
Поэтому второе частное решение уравнения C) имеет вид
v = zi^w = z1-'lF(a—f-{-\, р — т —j— I; 2 — j,z). E)
Если y не является целым числом, это решение линейно незави-
независимо от F (a, P; f> z). Случай, когда -у — целое число, сводится к ра-
разобранному путем предельного перехода.
§ 6. Интегральные представления и формула сложения
для гипергеометрической функции
1. Вводные замечания. В основе результатов этого параграфа
лежит следующее простое замечание. Так как Rx(g) является пред-
представлением группы SL B, Fi), то имеет место равенство
Kx(fift) = Kxfei)Kx(ft)- A)
Запишем это равенство с помощью ядер операторов /?x(ft), /?xfe)>
Rx(gigv). Мы получим, что для любой пары F — (F^ F_) из прост-
пространства 1)х выполняется соотношение
Ь + ico
\ К (к, |а; у; §1ЫрЫФ =
Ь — ico
a -j- ico Ь -f- ico
= \ К(Х, v; зу й) S K(v, K yj^F^dfxdv. B)
а — ico b — ?оо
Поэтому, если допустимо изменение порядка интегрирования, ядра
КО-, ^; X' ё) должны удовлетворять соотношению
а + ico
КО, ^; х; gigs)— 5 К(Х, v; x; gi)K(v; w у.; g2)rfv C)
а — ico
— континуальному аналогу теоремы сложения. Значение а должно
быть таким, чтобы рассматриваемые интегралы абсолютно сходились
при v = a-{-it.
Выбирая специальным образом матрицы gx и git получим разно-
разнообразные соотношения для гипергеометрической функции. Сначала
будут получены интегральные представления для этой функции.

380 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ (ГЛ. VII
2. Интегральные представления. Чтобы получить интегральные
представления гипергеометрической функции, воспользуемся следую-
следующим тождеством:
где положено
chG sh6\ /1 thGU^g О
\sh6 ch6/ \O 1 /\ 0 ch6/\the 1
D* о \
Поскольку при 0">О диагональной матрице clie соответст-
\ о che/
вует оператор умножения на (ch6J(' + X) (см. § 3 п. 3), то из равен-
равенства A) вытекает, что
а + юэ
К(Х, 1ч у; h)= $ к(х- v; ? O(cheJ(v+"K(v, (ч у; z)dv, B)
/1 ше\ /l o\
;= ,2-= . Значения параметров X,
\0 1 / Vth6 V
р., / и й в формуле B) должны быть такими, чтобы соответствую-
соответствующие интегралы абсолютно сходились.
Согласно п. 2 § 4 имеем
к+ (х> v; у; О=л+_К к у; г)=о. C)
Поэтому, сравнивая матричные элементы слева и справа в форму-
формуле B), находим
a-{-ico
а — ?со
D)
Но в п. 1 и 2 § 4 мы вычислили АГ+ + (Х, \х; у; h), /C+ + (X, v; у; ?) и
A^ + tv, p.; у; г). Подставляя найденные там значения этих функций
и сокращая на общие множители, получаем
т(\\ «м'+х+^н 1
a~ «со
Применяя в левой части формулу E) п. 2 § 1 и заменяя —, 8
Sil и
на х, 21 на — ш, после несложных преобразований получаем ра-
равенство
\— Г(<й) a+tC°
¦fti) 3
О —«00

§6] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 381
Уточним теперь, какие ограничения налагаются на параметры^., р,, / и а
требованием абсолютной сходимости соответствующих интегралов.
Как отмечено в п. 4 § 3, интеграл, определяющий К+ + (X, (i.; x; h),
сходится при 0<^ReX<^Reio (мы заменили 2/на —ш). Инте-
Интегралы же, определяющие К+ + (X, v; у; С) и К+ + (v, p; у; г), сходятся
соответственно при Rev<^ReA<^Reio и 0 <^ Re v <^ Re p.. Так как
Rev^=a, то мы получаем следующие условия справедливости
равенства F):
ш и ^R
Легко доказать, что при выполнении этих условий абсолютно схо-
сходится и интеграл B) п. 1.
Фактически ограничение Re X < Re ь> является излишним. Условия же
О < a <с Re X, а < Re ц означают, что путь интегрирования отделяет полюсы
функции Г (\) or полюсов функций Г (А—v) и Г(ц — v). Это замечание по-
позволяет расширить область применимости равенства F). Именно, подынте-
подынтегральная функция в этом равенстве аналитически зависит от ч во всей
комплексной плоскости, за исключением полюсов функций Г (v), Г (X—v),
Г ((х — v). Поэтому путь интегрирования можно деформировать любым обра-
образом так, чтобы при этом не менялись начальная и конечная точки пути, и
путь не пересекал упомянутых полюсов. После этого можно изменить зна-
значения X, (х и (л. В результате мы убеждаемся в том, что формула F) спра-
справедлива для всех значений X, [л, ш, а при том лишь условии, что путь ин-
интегрирования отделяет полюсы функции Г (\) от полюсов функций Г(Х—v)
и Г ((* —-у).
Аналогичным образом можно расширить область применения других
формул этой главы. Мы не будем оговаривать это явным образом в каждом
отдельном случае.
Формулы, выражающие К_ + (\ ^; у; h) и ДГ__(Х, р.; у; И) не дают
новых интегральных представлений для гипергеометрической функции,
а вновь приводят к формуле F). К той же формуле приводят и ра-
равенства для К (X, |v, у; /г'1). Чтобы получить другие интегральные пред-
представления гипергеометрической функции, рассмотрим разложение
Из этого разложения следует, что
К(Х, щ у; и) = \ К(Х, v; X; t) cos2 (» + |) 0K(v, щ у.; z)dv, (8)
a — lea
/1. — tg6\ /1 0\
где С = [ , z = \ \. Согласно п. 2 § 4 при 6~>0 имеем
\о 1 / Vtg0 v

382 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ. VII
Поэтому из равенства (8) вытекает, что
/с _ (х, к х; «) = J /с _ (х. v; х; 0 cos2 <v+'> адг_ _ (v, K х;*) *». (9)
в — «оо
Подставим в эту формулу значения /С_(Х, К У_; и)> А1_(Х, v; x; О
и /C_(v, 14 /; •?)> Даваемые формулой A6) п. 1 § 4 и формулами
A1) и E) п. 2 § 4. После простых преобразований получаем
V"V
-2/; 1-Х —^ —
я + ioo
С Г(Х-.I>-у) {
Sln
+
— 2x1 }
— к)ГA— v)
где a<ReX<— 2Re/, a<Re(x<l.
Для упрощения этой формулы применим к левой части равенство
E) п. 2 § 1 и положимХ=1 — A', n = j*' —co'4-U 2/ = А' —ц'«—1,
v = (*' —j— v' — ш'-j-l, sin20=1—х. Мы получим после простых
преобразований
Ш i р/" / ~?Г;")Г(~ Ч\A-хГ^ A0)
Г(<а—А—ч)Г(<о — (х — v) > \ /
я — ico
где a<0<Re(io — ц), a<Re(io — X —fi,)<Re(w —X) и 0<х<1.
При х<^0 интеграл в правой части этого равенства обращается
в нуль. В этом проще всего убедиться, вычислив его с помощью вы-
вычетов.
Далее, вычисляя К+ + (X, |а; у; и) и заменяя X -j- fj, -j-11 -j- 1 на ш'
и sin2 » на х, получим
Г (X) Г ((*) г (ю — X) Г (<д — (*)
я -(-««>
-««) X
в —too
где
0<a<Refj,, Re(X + ^ —io)<a<ReX и 0<><1. A2)

§ 6] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 383
Складывая и вычитая формулы, соответствующие значениям е = 0 и
е=-2~, находим, что при выполнении неравенств A2)
ы
«оо
ч)Т(ш~ X
a — ioo
Чтобы вычислить интеграл A3) при х~^> 1, заменим в формуле A3)
х на —г, ц на ш — ц,' и v на X — ¦/. Мы получим
х
а -\- «со
где
0<a<Re(x, RetX-f^ —o))<a<ReX и лг>1.
Наконец, вычисляя К+~(К ^; Ъ и)> приходим к формуле
а 4- ico
J_ f Г
2ni J Г (и -
где
Re^— l<0<a<ReX<Reo) и 0<jc<1. A6)
Из этой формулы получаем, как и в случае формулы A3), что при
*>1
a-{-ioo
_L С Г(Х-у)Г(у) y-»rfv —
где Re^ —l<0<;a<;ReX<Reo).

384 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ (ГЛ. VII
3. Преобразование Меллина. Ряд формул, имеющих вид преоб-
преобразования Меллина для F(<x, P; ff x), рассматриваемой как функция
параметров а, р и у, возникает из изучения произведений вида g=
— hyz, где
/eh? sha>\ /1 0\ ^,
[ Y Ч z = \ , — oo<z<oo, A)
следовательно,
= /ch 9 -f- ^ sh ep sh 'Л
~ \sh 'f - -f- z ch <p ch<pj* (
Рассмотрим сначала случай ер ^> 0, z ^> 0. В этом случае все эле-
элементы матрицы g положительны. Поэтому, используя результаты
п. 2 § 2, можно записать g в виде g^djidv, где
/е
-(
*-( 0 -.)• * = ( 0
Легко вычислить, что параметры tb 6, t% связаны с z и со соотноше-
соотношениями
ch 26 = ch 2<p -j- г sh 2ep, '
:^P-f~i cth ер,
г shai -|- ch ер т
1
: l+22 + 2«cth2f' ,
C)
Так как диагональной матрице d ==[ ) соответствует опе-
\0 е1)
ратор умножения на ^(x + Oj T0 имеет место равенство
К (х, w x; ft) == J К (A, v; x;
а — гсо
D)
Но при <р]>0, г~^>0 имеем
К+ (X, |ч /; z) = K^XK К /J Ai) =
и потому
*.(!'+О Д-+ + (Х, ^ /; ft) =

§ 6] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 385
Подставим в эту формулу выражения для К++, даваемые равенст-
равенствами D), D') п. 1 § 4 и A) п. 2 § 4. После простых преобразований
получим
J z' Г(v)Г0*- v)cthx+>f(x, г, 21; - -^_) dv =
а — /оо
, F)
где переменные z, ep, fj, ^, 6 связаны соотношениями C) и
0<ReX<Re2/, 0<a<Re(j,.
Положим в равенстве F) z = — и сравним полученную формулу с
формулой обращения для преобразования Меллина' (см. п. 2 § 5
главы II). Мы видим, что полученная формула дает обратное преоб-
преобразование Меллина для функции
(, г, 21;
Отсюда вытекает, что
со
v) Г ((х - v) cthx +' <?F {к, v; 2/; -^-) , G)
где переменные z, ер, ^, ^а, б связаны соотношениями C).
Еще одна формула получается из равенства F) следующим пу-
путем. Пусть 0<^2<^th<p. Можно показать, что тогда при Rev—>--)-со
подынтегральная функция в равенстве F) стремится к нулю. Поэтому
можно дополнить контур интегрирования бесконечно большой полу-
полуокружностью, расположенной справа от контура. Полюсами, лежа-
лежащими внутри получающегося контура, являются полюсы функции
Г((х — v), т. е. значения v = (i-|~?, k = 0, I, 2,... При этом
Выч bi^
Вычисляя интеграл F) по формуле вычетов, получаем при
; 2,; - J-) =
где переменные z, <р, t\, h, 6 связаны соотношениями C).

386 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ
Точно так же доказывается, что при z ^> th <p
Cth 4
1ГЛ. VII
fe = O
K 2/; -
(9)
Формулы F) — (9) получились из рассмотрения матричного эле-
элемента К++(К \Ч X! §)• Рассмотрение других элементов матрицы
К(Х, |х; /; g) не приводит к новым формулам.
Изучим теперь случай, когда ер ^> 0, z = — zx <^ 0. В этом случае
мы получаем три различных ответа, в зависимости от значений zt
и ер. Пусть 0 <^ Zj <^ th <p. Тогда все элементы матрицы B) положи-
положительны. Поэтому g:=:d1hds, где dlt d^ и h имеют тот же смысл,
что и выше. При этом
6>0, ^
Zi ch cp — sh(
cth cp,
T
e2 .
1 +z'i— 2г, cth'2?*
Кроме того, в рассматриваемом случае имеем
A0)
Вычисляя ЛГ++(Х, ц; %; g), получаем
... ю
s
а — /со
1
где
/ц._(Х, (х; х;
^ и 0<^ReX<^ — 2 Re/. Точно так же, вычисляя
' убеждаемся, что
sr
a-\-ico
где Re(x<0<ReX<— 2Re/, a>0.

б] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 387
Далее, вычисляя К + (Х, р; jy g)> мы получаем
а-\- i со
+1) sn
f
J ( ) |г(А —v+1
а — i оо
X —
) hy
. / C^L\21
+ 2/
A3)
где 0<ReX<-2Re/<a4<1+Refi<2-
Положим в этом равенстве е = 0, е = •/а и возьмем полусумму
и полуразность возникающих формул. Мы получим
а -\- i со
6) A4)
a j оо
X —
а.-(- «со
1 С Г (^ - у) Г (у + 2/ + 1)
й — Г ОО
A5)
Точно так же, вычисляя /С (X, (х; ^; ^), получаем:
а ¦-)- ( со
a— ioo
XF(X,
(^У)Г(у + 2/+1)
ь
—11.)Г B1 + 2)
1 ch
1; 2/-f 2; --^), A6)

388 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ. VII
где 0<a<Re(x<l и 0<ReX< — 2Re/< I -fa<2,
а-[- «со
r(v-X+l)r(v-fi+l)
= 0 A7)
при тех же ограничениях на параметры.
Мы предоставляем читателю разбор случаев <?^>0, z = — zt
th tp <^ ^i <^ cth ср и ер ^> 0, z = — zt <^ О, zt ^> cth ер. В этих слу-
случаях левая часть формул A1)-—A7) остается той же самой,
правая же меняется, так как матрица g имеет другой канонический
вид. Например, при th ер <^ zx <^ cth ер имеем g=d\ud%, где dt и
rf2 — диагональнйе матрицы,
-h 0 \ /е-'* 0
cos 6 — sin B
ne cos
При этом
cos 26 = ch 2<p ~ zi sh 2ер, 6<0,
chip — ZiShtp T
2(p— 1— zf'
A8)
Если же Zj ]> cth ер, то g= d^h (—s) cf2> где dt и rf2 имеют тот же
/G sh6\ /0 \
смысл, ,что и выше, п = \ и s =
'sh6 ch 6
>б = Zj sh 2<p — ch 2<p,
t z.chs»—sha>
1
1 О
. При этом
A9)
Укажем, наконец, что аналогичные формулы возникают из рас-
/cos е — sin е\ /1 о\
смотрения матриц вида g=uz, где н = | ,z= I I.
Здесь также приходится рассматривать различные случаи, в зависи-
зависимости от значений 6 и z. Относительно формул такого типа см.
[122], п. 6.

§ б] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 389
4. Теоремы сложения. Применим теперь равенство C) п. I
к матрицам
sh6,\ /ch62 sh
j И ^
Мы имеем
Поэтому
К (К К х; 6, + 62) = ^ K(X, v; X; 6,)K(v, K /; 64)rfv, A)
a— < оэ
где значение а выбрано соответствующим образом.
Сравним в равенстве A) матричные элементы слева и спраьа.
Пусть 6i>0, 62>0. Тогда
tf+._(X, v; Х; 6O==/C+_(v, |Ч x; 62) = ^, (X, i*; /¦ 6t-f 80 = 0.
Поэтому из равенства A) вытекает, что
а-\- ico
к++а> к /; е,+ад= ] /с++(х, v; х; вок++(\ w x; "ол. B)
a — «оэ
Подставим в это равенство выражение для /f++(X, р; /; /г),
даваемое формулой D) п. 1 § 4. После простых преобразований
получим
о -\ i со
^ J r(v)r(o)~v)(cth6lCthe2)vX
a — ico
X F (x'"' ш> ~ ш$ F ^ к
= Г (ш) Ш^мёТТад U(e + e)j F
,..,„. 1 \
^ U)' - 7h»(e1+ejj -
где 0 <^ Re X <^ Re со, 0<^a<^Reo). Рассмотрение других элементов
матрицы К (X, |х; jy h) не приводит к новым соотношениям для гипер-
гипергеометрической функции.
Рассмотрим теперь случай, когда 61^>0 и 62 = — б3 <^ 0,
С " С 0 ^ этом слУч?е 6t -(- 62 ^> 0 и потому
х; e,)=/c+(v, к х; -8,)=^+_(Xf к у- 6,-90=0.

390 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ. VII
Поэтому равенство B) остается справедливым и в этом случае. Теперь
подстановка значений К++ приводит к соотношению
о -f- i со
. 1 f /th 63\v „л 1
ch(e1 —es)j ьп °зА
) D)
где 0<^ReX<^Reш<^Re|x-(-1 <C2- Точно так же, вычисляя значение
К+_(К |х; /; 6j — 63), мы получаем равенства:
а-\- ico
,, If T(v) /th 0S \v „/,
a — j oo ,
2 = 0, E)
, v; о; - -^-) Ffa {x - co+ 1; |x- v+ 1; - sh2e3) rfv = 0, F)
в которых 0<^ReX<^Reo)<^Re|j.-)-l<^2, 0<^a<^Reo) (при вычи-
вычислении интегралов мы берем полусумму и полуразность формул,
соответствующих значениям е = 0 и е^1/^).
Точно так же получаем, вычисляя К + (X, (х; /; 6, — б3),
a-— i oo
Г B —») cthx6lCt№68 / ch6,
Ct№e8 / che, ч
e1 — e,) Uhesch(e1-e3)j
(Х, ш — |х, X — р+1; th2Fi — 63)). G)
fl -f- / СО
f
a — /с
X/^v, «o-X;
_ г B—а) №-^F,-6,,) / ch et \
~ГA— ^)Г({л — х + 1) th*e,t№e8 iche.cMe, — e8)j
X Fftt, ш - X, (x - X+ 1; th8 F, — 68)), (8)
где 0<Re"X<Reo)ii<'RelJi,+ l<2f 0<a<Retu<a-|-

6] ИНТЕГРАЛЬНЫЕ ПРЕДСТАВЛЕНИЯ 391
Наконец, вычисляя К (X, р.; Х5 "i — "8), получаем:
"У"
J ^ (
a — /со
XF(X, ш-v; X —v+1; th*e,)F(v, ш — к v —[J-+1; th363)
"I r(v — Х+1)Г(ц — v+1) СШ °1ГП °
ГA(х)Г(рм+1)Г
e.) / ch e3 у
Г(Х — fi+1) th^! cth^63 \ch 6,^F! — 68)У л
X F (X, ,o — к X — ц -f 1; the Fi - 63)), (9)
—v; X —v + 1; th^)/7^. «o — v; p — v+1; th263
+1) th 6'th 6зХ
оТУ7 + )(,+)
XF(v, ш —X; v — X + l; th\)F(v, ш — |х; v— (x+1; th263)]rfv =
th ^ b:0(chFi_es)j X
-^-Hi; th2(e,-e3)),
где 0<ReX<Re<o<Re|j.+ l<2, 0<a<Re<o<a+<
Случай Si^>0, 62^>O, |б2|^>6| не приводит к новым формулам
для гипергеометрической функции.
Новые формулы того же типа получаются из равенства
/cos б, — sin 6Л /cos 62 — sin 62\ _/cos Fj + 6в) — sin F, + 6j)\
\sin et cos 6,' \sin 62 cos 6gI ~\sin Ft + 62) cos (б, + 6а)/ '
)
Из него следует, что
К (к К Т, a (ei + 02)) = $ К (X, v; Х; и F,)) К (у, щ Х5 и (ОД) Л. A2)
а — /со

392 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ. VII
Рассмотрим случай, когда 0<^б,<^^-, О<^6.2<^- и 0<^6i —j— б2<С[]-5-.
Подставим вместо матриц К (X, v; y^ и Ft)) и т. д. их выражения, полу-
полученные в п. 1 § 4 и сравним соответствующие матричные элементы в
левой и правой частях равенства. Мы получим следующие соотношения:
) L(*+v|«+l)r(n+v + »+I) X
а - 1 со
)
tg>-61
(
Г (A +[* + » + 1) tg*^ ^ + Ba) V cos6lCose2
X^CX, (»; X + ^ + 0,+ 1; -ctg2F, + б2)), A3)
a -[¦ j'oj
Г'— ' С Г(,)Г(у + м+1) ft-fltgflVV
У» — 2^«r J 1>-Х+1)Г(*--,1+1)(*В»*ВИ») Х
Й — /CO
XF(-\ -co, v; v-X + 1; - tg2 6,) X
X/7(—(» — «», v; v —{i + 1; -tg2e,)rfv = 0, A4)
где 0<ReX<; — Rew<^Reja-f- 1 <2, я>0, a>— 1 — Re<o, и
a \ - i со
(Ctg6l)V+m(dg62)VX
i
' Г
(-o)-v, X; X-v + 1;
7^ к v+li + to+l; -ctg262) +
г (~ ^ ~ M)
Г(Х)Г( -X—ю — м+I)
_х_w, _v_«o; _х —«о —v + i; —ctg2e,)X
X F (— Iх — (°, v; v —
_ l / cos (et + e2)v° (ctg et)x (tg ea)f-_
' г(X — (л +1)i sin et cose2 j (tg (б! + Og)^ -^
X F<X, - p - ш; X - (i + 1; — tg2 F, + 6,)), A5)
где 0<ReX<—Reco<Re(j.+ l<2 и <<
Вычисление остальных элементов матрицы К (X, щ /; и F, -|- бв)
не дает новых формул для гипергеометрической функции.
Предоставляем читателю разобрать случай 0 <^ 6i <^ ^/2, 0 <^ 6а <С
<^7г/2, 6j -|- б2 ]> 7г/2, а также случай, когда один из углов б, или 6а
меньше нуля.

§ 7] ФУНКЦИИ ГАНКЕЛЯ 393
§ 7. Представления групп вещественных матриц
второго порядка и функции Ганкеля
Мы рассматривали в этой главе реализации представлений груп-
группы SL B, П), при которых диагональным матрицам соответствовали
операторы умножения на функцию. Здесь будет рассмотрена еще одна
реализация представлений этой группы, а именно, реализация, при
которой операторы умножения на функцию соответствуют треуголь-
/1 0\
ным матрицам ^ = 1, . )• Мы увидим, что при этом матрице s =
О 1\
соответствует интегральный оператор, ядро которого вы-
{—I О
ражается через функцию Ганкеля.
1. Новая реализация представлений Tx{g). Напомним, что пред-
представления Tx(g) реализуются в пространстве 3)^ функций на прямой
и задаются формулой
A)
/a fS\
где х(х) = | х |'2 sign28х, ??=[ Л- Чтобы перейти к повой реали-
реализации, при которой матрицам t соответствуют операторы умножения
на функцию, сделаем преобразование Фурье по х (а не преобразова-
преобразование Меллина, как мы делали в предыдущих параграфах). Итак, перей-
перейдем от f(x) к
F(l)= J f(x)eaxdx. B)
— со
Так как \f(x)\>^\x^1 при |л;|—*со, то интеграл B) абсолютно схо-
сходится, если X — вещественное число и Re/<^ —1/2.
Полученная реализация обладает искомым свойством — треуголь-
треугольным матрицам t в ней соответствуют операторы умножения на функ-
функцию. В самом деле, в силу A) имеем
Но
Это равенство показывает, что в новой реализации матрице t соот-
соответствует оператор умножения на е~м:
C)

394 ПРЕДСТАВЛЕНИЯ ГРУППЫ УНИМОДУЛЯРНЫХ МАТРИЦ [ГЛ. VII
Выясним теперь, во что переходят операторы Тх (g), соответствую-
соответствующие другим матрицам из группы SLB, R). Сначала заметим, что
любая матрица g из SL B, R) может быть представлена в одном из
следующих двух видов:
g=tb D)
или
E)
Здесь tx и t^ — треугольные матрицы с единицами на главной диаго-
/1 0\ /1 0\ (е1 0 \
нали: tl = \ , I, ^2 = L i)'^==ln <) — диагональная матрица и
/ 0 1\ /а °\ A °\/а °\
s=[~-1 oj- в самом деле> еслиg= U i- J' т0 g== \J- l) \о — J
/о р\
и, следовательно, ^f имеет вид D). Пусть теперь g=l -.1» где
0. Рассмотрим матрицу
___ ак _ и (8 __ р,г) з _
Поскольку р т^ 0, то можно положить ^2 = а/р и tx = 8/р. При таком
выборе имеем
Поэтому g^=tlbsti.
Из доказанного утверждения вытекает, что достаточно найти опе-
операторы, соответствующие диагональным матрицам 8 и матрице s. Мы
имеем
Поэтому диагональной матрице 8 соответствует оператор вида
Ql(^F(k) = ^»^F(^k),b = [ent j)- F)

§ 7] ФУНКЦИИ ГАНКЕЛЯ 395
2. Вычисление ядра оператора Qx(s). Нам осталось найти опе-
операторы, соответствующие матрице s. Но
Тг ШМ = 1*1" sig^ ¦*/ (— • j) •
Поэтому
со
Qx(s)F(l)=
oo
= \ \y\*1* sign0- (-y)f(y) e-a* dy.
— oo
В силу формулы обращения для преобразования Фурье получаем
1 ?
Qx(s)F(l) = ± \ \y^sign"(-y)e-aff $ F^e^dv-dy.
-oo -«>
Если —l<^Re/<^0, то в этом равенстве можно изменить порядок
интегрирования и получить
со оо
Qx(s)F(l)=l J F(i>.) ij \y\^sign**(-y)e~i^y-i)dydV.. A)
— CO — CO
Итак, мы доказали, что оператор Qx (s) является интегральным
оператором с ядром
Ks (К К X) = i $ IJ' l"""^ sige (~J') ^l(ftnXjrl) dy. B)
— CQ
Это ядро легко выражается через функцию Ганкеля. Ответ зависит
при этом от знаков X и [а.
Пусть Х^>0 и [а^>0. Положим \f}^. = R, 1/ у- = ей и у = е'
при у ^> 0, _у = — <?' при _у <^ 0. Тогда
— 00
B/?) - (- 1) «•<Г<"«>"'/«/$)+1 B/?)] =
C)
Аналогично, при Х<^0, [а<^0 получаем

ПРЕДСТАВЛЕНИЯ ГРУППЫ УНЙМОДУЛЯРНЫХ МАТРИЦ [ГЛ. Vlt
Если л^>0, [а<^0, то
X [(- 1JеЯ<1
если же Х<^0, [а^О, то
=?)]• F)
Итак, ядро оператора Qz(«), Х = (^> е) вычислено при — ^^
В частности, формулы C) — F) справедливы для представлений основ-
основной серии, поскольку для них /= — */а —j— /p.
Можно показать, что для представлений дискретной серии опера-
оператор Qx (s) выражается через функции Бесселя с целым индексом Jn (x).
Пользуясь полученными выше формулами, можно находить различные
свойства функций Ганкеля, аналогично тому, как это было сделано
в главе V.

ГЛАВА VH1
ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ
ТРЕТЬЕГО ПОРЯДКА И ФУНКЦИИ УИТТЕКЕРА
В этой главе будут изучены свойства функций Уиттекера Жх ^ (z)
и Wx>(X(z). Будет показано, что эти функции связаны с представле-
представлениями группы треугольных матриц третьего порядка точно так же,
как гипергеометрическая функция связана с представлениями группы
вещественных унимодулярных матриц второго порядка. Именно, будет
построена реализация неприводимых представлений этой группы, при
которой диагональным матрицам соответствуют операторы умножения
на функцию. При этой реализации другим элементам группы соответ-
соответствуют интегральные операторы, ядра которых выражаются через
функции Уиттекера. Пользуясь этим, мы получим рекуррентные соот-
соотношения, дифференциальные уравнения, континуальные аналоги теоремы
сложения и другие соотношения для функций Уиттекера. Кроме того,
будут рассмотрены тесно связанные с функциями Уиттекера много-
многочлены Лагерра.
§ 1. Функции Уиттекера и вырожденная
гипергеометрическая функция
1. Определение. Определим функции Уиттекера М-^^{г),
W^ ^(z) следующими интегральными представлениями:
A)
B)

398 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [ГЛ. VIII
Первый из этих интегралов сходится при Re((j. — X-\--^-) ^> 0,
Re^4-X+i-)>0, а второй —при Re(fA — X -\-у)>°> Re^>0.
Интегралы, входящие в равенства A) и B), являются в области
сходимости аналитическими функциями от г. Легко доказать, что
функции Мх p. (z) и Wx ^(z) можно аналитически продолжить на всю
комплексную плоскость, разрезанную вдоль отрицательной полуоси
(разрез делается для выделения однозначной ветви множителя 2|Х+1/->).
Заметим еще, что Жх „. (z), рассматриваемая как функция от пара-
1,3
метров, аналитична всюду, кроме точек [л =—^-, —1, ^, ... ,
в которых множитель ГB[а~}-1) имеет простые полюсы. Функция же
Wx ^(z) определена при всех значениях X и [х.
Исходя из интегрального представления A), получим разложение
функции М^ ^(z) в ряд. Для этого разложим еги в степенной ряд и
почленно проинтегрируем получившееся разложение. Используя инте-
интеграл B) из п. 7 § 1 главы V, получим
2. Вырожденная гипергеометрическая функция. Введем выро-
вырожденный гипергеометрический ряд
Этот ряд получается из обычного гипергеометрического ряда
«Р z . а(а+1)Р(Р+1) z8 .
заменой г на z/k, р на /е и предельным переходом А—>со (нетрудно
обосновать законность почленного предельного перехода). Ясно, что
ряд A) сходится при всех значениях z. Обозначим его сумму через
Ф (a; f; z) и назовем ее вырожденной гипергеометрической функцией.
Из равенств C) п. 1 и A) вытекает, что
у ) B)
Если в дифференциальном уравнении
которому удовлетворяет гипергеометрическая функция ^(а, C; -j; z)
(см. п. 3 § 5 главы VII), сделаем замену z на г/А, р на А и выполним

§ 2| ГРУППА ТРЕУГОЛЬНЫХ МАТРИЦ ТРЕТЬЕГО ПОРЯДКА 399
предельный переход k—>оо, то получим уравнение
S ^)?-aM = O, C)
называемое вырожденным гипергеометрическим уравнением. Есте-
Естественно ожидать, что одним из его решений является вырожденная
гипергеометрическая функция Ф(а; f> z), которая получается из
^Ча> Р; X' z) тем же предельным переходом:
Ф(а; т, z)= Hm f(o, k; T; --). D)
В этом легко убедиться непосредственной проверкой.
Из уравнения C) легко вывести уравнение
IO
которому удовлетворяет функция My ^(z) (см. § 3).
§ 2. Группа треугольных матриц третьего порядка
и ее представления
1. Алгебра Ли. Изучим представления группы О треугольных
матриц третьего порядка, имеющих вид
I а Ъ\
O с d\.
0 0 l/
Здесь а, Ъ, с, d — вещественные числа, с ^> 0.
Вычислим алгебру Ли этой группы. Так как элементы группы
зависят от четырех параметров, нам надо выбрать четыре однопара-
метрические подгруппы в G. В качестве этих подгрупп удобно вы-
выбрать следующие:
О)
B)
C)
D)

400 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [ГЛ. VI11
Касательные матрицы к этим подгруппам имеют вид
/0 1 0\
а+= 0 0 0.,
\0 О О/
/О 0 1\
?¦ = (' О О О),
\о о о/
Непосредственный подсчет показывает, что
\а , а ] = с, [а+, Ъ | = а+, [а , й] ^ — а ,
Отметим, что однопараметрическая подгруппа z(t) является цент-
центром группы О, т. е. ее элементы перестановочны со всеми элементами
группы G:
Наряду с подгруппами g+(t) и g_(t) будем рассматривать однопа-
раметрические подгруппы в О:
'1 t ^
F)
)= 0
0
0
1
0
-t
1
0
t
1
—
/
ts
2
t
1
Им соответствуют касательные матрицы:
/О , 0^
0 0 0
о
Коммутационные соотношения для а, и а% следуют из формул E).

§ 2] ГРУППА ТРЕУГОЛЬНЫХ МАТРИЦ ТРЕТЬЕГО ПОРЯДКА 401
2. Разложение по однопараметрическим подгруппам. Пусть
/1 а Ь\
g(a, b, d, т)=!0 <?' d ]
^00 1 /
— элемент группы G. Если d = 0, то, как показывает простая про-
проверка, имеет место равенство
g(a, b, 0, x) = e(z)g+(a)z(b). A)
Точно так же, если а = 0, то
g((), b, d, т) = е (т) g (de~x) z (b). B)
Рассмотрим теперь случай, когда а ^? о и b ^Ь 0. Тогда при ad^>0
справедливо равенство
где
г- = ade T, sign Г = sign cf, \
^~"г V а6 ' )
Если же ас?<^0, то
g(o, й, fif, т) = e^Jgg (г) е(т — t:i)z(?), E)
где
Г2:^ — adez, sign r=sign d,
/6)
Таким образом, в любом случае элемент g из О может быть пред-
представлен в виде
g (a, b, d, т) = в (т,) /г (г) в (т — т.) z (b), G)
где' h (г) — элемент одного из следующих четырех видов: g+(r), g_-(r),
gi(r), ёч(г). В первых двух случаях т1 = т.
3. Неприводимые представления группы Gt. Неприводимые
представления группы Ot строятся в пространстве 2) финитных бе-
бесконечно дифференцируемых функций на вещественной прямой. Каждое
представление задается парой j^^(o, w) комплексных чисел. Именно,
каждому элементу g=(a, b, d, -с) группы О ставится в соответствие
оператор
Тг Ш(*)= ^+о(^+Ь)/(е^ + а) A)
в пространстве 2).

402 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [ГЛ. VIII
Если Re о ф 0, то это представление нельзя распространить на
пространство функций с интегрируемым квадратом (из-за экспонен-
экспоненциального роста множителя ea{dx+b').
Легко показать, что при о ф 0 представление Тх (g) неприводимо.
Мы не будем проводить соответствующего рассуждения.
Вычислим инфинитезимальные операторы представления Tx(g),
соответствующие подгруппам g+(t), gi@> ^@. е@- Из формулы A)
следует, что
Поэтому подгруппе g+(t) соответствует инфинитезимальный оператор
AJ(x)=f'(x). B)
Точно так же доказывается, что подгруппе g_(t) соответствует инфи-
инфинитезимальный оператор
AJ{x) = oxf{x), C)
а подгруппе z (f) — оператор '
Zf(x) = af(x). D)
Наконец, подгруппе е@ соответствует инфинитезимальный оператор
Так как gi(t) = g_(t)g+(t)z f-^-j, то подгруппе gt(t) соответствует
инфинитезимальный оператор
AJ (х) = (А+ + A_)f(x) = oxf(x) + f (х). F)
Точно так же подгруппе gq(t) соответствует оператор
A,f(x) = (A_-A+)f(x) = axf(x)-f(x). G)
Предоставляем читателю проверить соотношения коммутации для
этих операторов.
4. Другая реализация представлений T%(g). Как и в случае
группы SL B, R), перейдем теперь к другой реализации представле-
представлений Tx(g). Именно, выберем реализацию, при которой диагональным
матрицам е(т) соответствовали бы операторы умножения на функцию.
С этой целью, как и в главе VII, каждой функции f(x) из 2)
поставим в соответствие пару функций F+(K) и F^Q.):
F(k)=
О)

§ 2|
ГРУППА ТРЕУГОЛЬНЫХ МАТРИЦ ТРЕТЬЕГО ПОРЯДКА
403
Эти функции заданы в полуплоскости ReX^>0. Как отмечалось в
главе VII, имеет место формула обращения
p + jco
f(x) = \
р—«оэ
p + ICO
B)
р — ico
Выясним, в какие операторы переходят операторы представления Tx(g)
при этом преобразовании. Для этого найдем пару F g = (F^\ F^)
соответствующую функции
Мы имеем
Подстановка е*х -\~ а —у преобразует это равенство к виду
р^ (X) = ехр [((о — X) т -|- о Ф — a de~T)] X
X S
C)
Чтобы получить искомые операторы, нам осталось в равенстве C)
функцию f{y) заменить по формуле обращения B). Мы получим
х
=iехр [(w —х) т+° &
со р -f'"со
Х[$ I exp[cde~y]y
0
[ I
0 р—«со
со р -f «со
5 \ exp[-ode-*y]y-+(-y~ti]fc-lF_<p.)dV.dy\. D)
0 р—«со
Формально меняя порядок интегрирования, получаем из формулы D)
р -|- /со
I
p — «оэ
p — «'со
E)
5
p — /со
5
p — «со

404 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [ГЛ. VIII
Здесь
= ± ехр [(со — X) т + a (b — a de~*)] $ ехр [cde^y]y^ (у — d%r Чу, G)
о
к+. (х, f, х; §)=^ ехр [<ш - х>т + °(й ~ ade">]х
оо
X ^ ехр [— о rfe *_у]j, •* (—у — aft- »rfy. (8)
о
^Г_+ получается из К++ заменой (у — а)^~1 на (у — а)?:, а К\^
получается из К"+- заменой (—у — а)^1 на (—у — а)*—1.
Однако, в отличие от случая гипергеометрической функции, изу-
изученного в главе VH, здесь при Re о ф 0 невозможно указать общую
область, в которой имеют смысл все написанные формулы. Например,
если a^>0, d^>0 и Rec<^0, то интегралы, выражающие К++, /Г+_
и К^+, сходятся при Re(i.<^l, ReX^>0. Интеграл же, выражающий
К , расходится. Поэтому в рассматриваемом случае вместо форму-
формулы F) надо писать
p+ioo
/*rt (X) = I *С+ (X, w у- g) F+ (p) dp + M .F (X), (S)
р —IOO
где М уже не является интегральным оператором.
В случае, когда Rec = 0, существует общая область сходимости
всех интегралов для К++, К+ , К^+, К „. Именно, эти интегралы схо-
сходятся в области Re(j,<^l, ReX^>0, Rejj.^>ReX.
Если g-=e(x), то удобнее непосредственно вычислить /^'(Х) и
) Мы имеем
ПоэтСму
оо
F^> (X) = е™ \f (ezx) x^r{dx=
— со
Итак, диагональным матрицам е(т) соответствует оператор
умножения на функцию e(-°'~^z.
Точно так же доказывается, что матрице вида z (b) соответ-
соответЬ
ствует оператор умножения на еаЬ
у у
В дальнейшем операторы представления Tr(g) после перехода к
реализации в пространстве пар F (X) = (F+ (X), F_ (X)) будем обозна-
обозначать через Rx(g). Иными словами, полагаем
(^ (П)

§ 2) ГРУППА ТРЕУГОЛЬНЫХ МАТРИЦ ТРЕТЬЕГО ПОРЯДКА 405
5. Инфинитезимальные операторы представления Rx (g). Вычис-
Вычислим теперь инфинитезимальные операторы Л^ А_, Z и Ё для пред-
представления Rx(g). Чтобы найти оператор, соответствующий подгруппе
g+(t), надо найти преобразования Меллина функций A+f(x)=f'(x)
и A+f(—x)—f'(—х). Преобразование Меллина для A+f(x) имеет
вид
оо со
A+F+ (X) = $ AJ (х) x^dx^^f (x) x*ldx =
о о
со
= — (l~l)\f(x)x^dx = ~(\~l)F+{\~l).
о
Аналогично доказывается равенство
Итак, инфинитезимальный оператор представления Rx(g), соответ-
соответствующий подгруппе g+(t), имеет вид
Л+ (F+ (X), F_ (X)) = (X - 1) (- F+ (X - 1), Р_ (X - 1)). A)
Точно так же доказывается, что подгруппам g_(f), z{t), e(t) соответ-
соответствуют инфинитезимальные операторы
А_ (F+ (X), F^ (X)) = с (F+ (X + 1), - F. (X + 1)), B)
Z(F+D Р-М) = °(Г+М> F-№ C)
Ё (F+ (X), F^ (X)) = (Ш - X) (F+ (X), /L (X)). D)
Инфинитезимальные операторы, соответствующие подгруппам gi (t) и
g%(t), имеют вид
-(X- 1)F+(X- 1), — oF_(X + 1) + (X— l)FJk— 1)),
E)
= (cF+ (X + 1) + (X - 1) F+ (X - 1), - cF_(k + 1) - (X _ l)F_(k - 1))
F)
6. Вычисление ядер представлений. В п. 2 было доказано, что
любая матрица g из группы О может быть записана в виде
#= е (Tt) h (г) е (х — x^ 2 (&),
где г(й) и е(й) задаются равенствами C) и D) п. 1, a h(r) является
матрицей, принадлежащей одной из подгрупп g+ (t), g_ (f), gt (f), g2 (t).
Матрице z (b) соответствует в представлении Ry,(g) оператор умно-
умножения на функцию еаЬ, а матрице е (т) — оператор умножения на

406 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ (ГЛ. VIII
е(ш-х)т ?см> п 4). Поэтому достаточно вычислить ядра для элементов
подгрупп g+(f), g_(t), gi(t), gv(t).
Начнем с подгруппы g+(t). Для элементов этой подгруппы Ь =
= d = x = 0, и потому
Кн. Q* 14 х: g+ (9) = 2b
о
Если f^>0, то имеем
—Х)Г(Х)
к х:
1С
Этот интеграл сходится при Re \i ^> Re X ^> 0.
Точно так же доказывается, что при ^
B)
a u- v i, «« — г(Х)ГA-|х) д_„ •
(.A, fi, X, #+ WJ "~Г(Х— (Л+ 1) ' ^ '
где Reii<l, ReX>0, и
где ReX<Refj.<l.
Теперь рассмотрим операторы, соответствующие элементам под-
подгруппы gi(f). Здесь получаем
K+t(x,mx;e'-(9)=-si
Этот интеграл сходится, если Re at <^ 0 и равен
Будем, как и выше, считать, что Rec<^0. Тогда формула E) имеет
место при Г> 0. Точно так же доказывается, что при Re о <^ 0, t ^> 0
*+-(*, ю я *-(9)=о F)
и
/сь(х,|чх;г-(9)=о. G)
Ядро же ЛГ__ (X, {J.; x; g- (f)) при Reo<^0, ?^>0 выражается расходя-
расходящимся интегралом.

§ 2] ГРУППА ТРЕУГОЛЬНЫХ МАТРИЦ ТРЕТЬЕГО ПОРЯДКА 407
Рассмотренные до сих пор ядра приводили лишь к степенной
функции. Элементам же подгрупп gi (t) и gj (t) соответствуют ядра,
выражаемые через функции Уиттекера. Для определенности будем
считать далее, что с = —1.
Из формулы G) п. 4 следует, что
^V Ку ~ tf » dy.
Делая подстановку у— t = tx и используя равенство B) п. 1 § 1,
выводим, что при ^
где ReX>0.
Совершенно аналогично доказывается, что при с = —1,
(9)
где ReX^>0, Re ^ <^ 1. Наконец, /Г_ (*¦¦ Щ ^ gi @) выражается расхо-
расходящимся интегралом.
Точно так же устанавливаем, что при о^—1,
где Re{j.<]l. Далее,
где ReX>0 и Reli<l,
^+(^МХ;й@) = 0. A3)
Наконец, интеграл, выражающий K—(Kwxigt(fj), при а==—1,
t~^>0 расходится.
Во всех рассмотренных случаях переход от t к —t сводится к
замене знаков-индексов на обратные:
*++ (х> к х; ?+ (— 0)=т_ (К к х; g+ @),
и т. л.

408 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [ГЛ. VIII
§ 3. Функциональные соотношения для функций Уиттекера
1. Соотношения между инфинитезимальными операторами и
операторами представления. Вывод рекуррентных соотношений для
функций Уиттекера основан на некоторых соотношениях между опе-
операторами представления Rx(g) и инфинитезимальными операторами
этого представления.
Рассмотрим матрицу
Легко проверить, что
g+ @ в (*) = е (х) й (г) е (- т) z (b), A)
где
Из равенств B) следует, что при ^^0 имеем г^х, -г = Ь = О'и
dr 1 di I 1 db _ x ,„
~Ж t=o Y' "rfT|/=o 2x' It /=o T- ^
Так как Rx (g) — представление группы G, то
Продифференцируем это соотношение по t и положим ? = 0. В силу
равенств C) и формул A) — D) п. 5 § 2 получаем
x to (•*)) =
=^ (я* to (¦*))?-
Подставляя выражения для операторов Е и Z, выводим, что при
о = —1
^+/?zfeW) = {f-?-+xfeW) + y^|^. E)"
Точно так же из рассмотрения произведения g_ (t) gt (x) выводим

§ 31 ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ ФУНКЦИЙ УИТТЕКЕРА 409
Из рассмотрения произведения g+(t)g$(x) следует, что
)
а из рассмотрения произведения g_ (f) g% (x), что
2. Рекуррентные соотношения. Выведем теперь из формул пре-
предыдущего пункта рекуррентные соотношения, связывающие функции
Wx, ц (X) и МХ. ц (ЛГ) С фуНКЦИЯМИ Wx+lU. (,±1/2 (X) И Жх±1/2. р.+1/2 (Х).
Для этого заменим операторы Л+, Л^, /?х(gt(x)), Rx(g<i(x)), входя-
входящие в эти формулы, их явными выражениями, а затем сравним ядра
получающихся операторов слева и справа.
Оператор Rx (gt (х)) переводит пару F (X) = (F+ (X), F_ (X)) в пару
)X ) »)X где
p + fco
= J ^++(Х, к х;
р —«оо
и Fted (X) имеет аналогичное выражение. Оператор же Л+ переводит
Яр>(Х) в — (X—1)/^->(Х—1) (см. п. 5 § 2). Следовательно,
Р+/СО
л+^.)(Х)=A~Х) J /Ch.(X-i, K Х; ftW)f+W^
р —ioo
Точно так же устанавливается, что соответствующий оператор в пра-
правой части формулы E) п. 1 имеет вид
\ [^ ) н; х;
р —«оо
Следовательно,
Подставляя в это равенство выражение (8) п. 6 § 2 для
выводим рекуррентное соотношение для функции Wx ^(x):
=-^ *+"• -*w-feJ -iy,.w о)
(мы заменили =—^на X, „ ^ на ji и f на

410 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [ГЛ. VIII
Точно так же из рассмотрения элемента К1+ выводим рекуррент-
рекуррентное соотношение для функции М^ у.{х):
). B)
Аналогично, равенство F) п. 1 приводит к следующим двум ре-
рекуррентным соотношениям:
x_u—L
dWh „, (х) _____2_ iw / / 2М- + 1 1\ш
и
2 -Afx-v,.
Из равенства G) п. 1 получаем соотношения
, , 1_
а из равенства (8) п. 1 соотношения
Из полученных формул легко вытекают соотношения, не содер-
содержащие оператора дифференцирования. Так, из A) и C) находим
2.
-\~ v^^rWx+i/a, [,. _ i/2 (лг) = 0; (9)
из C) и G) находим
^Г^-х+4-}
"=0, (Ю)

§ 3] ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ ФУНКЦИЙ УИТТЕКЕРА 411
из A) и E) получаем
] = (). (И)
Аналогично, из B) и D) имеем
(х
^x + J-
Жх-1/2' 14-«/.(*) = О, A2)
из D) и (8) находим
из B) и F) имеем
^O. A4)
3. Дифференциальное уравнение Уиттекера. Выведем теперь
дифференциальное уравнение, которому удовлетворяют функции Уит-
Уиттекера М^ ц (х) и U^x, [ц (Jf). Для этого заметим, что в силу формулы
A) п. 2 имеем
Из формулы же C) п. 2 получаем
Отсюда следует, что
2Vx~ 2
Раскрывая скобки и приводя подобные члены, получаем отсюда, что
удовлетворяет дифференциальному уравнению
J а
I i X , 4 М

412 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [ГЛ. VIII
Это уравнение называют дифференциальным уравнением Уит-
текера.
Это же дифференциальное уравнение следует из равенств E)
и G) п. 2.
Точно так же из формул B) и D) п. 2 следует, что и Мх,^{х)
является решением уравнения A). К тому же выводу можно прийти,
пользуясь формулами F) и (8).
Комбинируя иным образом полученные в п. 2 рекуррентные соот-
соотношения, получаем соотношения, связывающие М\шР.(х) и WXll(x)
с функциями Afx±i, ц(х), MKll±i(x), W\±i, ^(х), WK ^±{(х). Напри-
Например, из соотношений A) и E) п. 2 следует, что
/Уг d
х
Раскрывая скобки и вычитая из получившегося соотношения равенство
(см. формулу A)), получаем
x^_1{x). B)
Совершенно так же из A) и G) п. 2 получаем
W(*). C)
из C) и E) находим -ч.
из C) и G) имеем
E)

§ 31 ФУНКЦИОНАЛЬНЫЕ СООТНОШЕНИЯ ДЛЯ ФУНКЦИЙ УИТТЕКЕРА 413
Аналогичные соотношения для M^iVL{x) имеют следующий вид:
Bц- 1)^f^-Л-[(\х 1)S - >]m^(x)=2v.Bv— 1)Жх.м(*), F)
м.^х), G)
_(*-¦?) Ж,. й С*) = (р - * + !) Afw. й (*), (8)
• 4. Соотношения симметрии для функций Уиттекера. Мы доказали
в предыдущем пункте, что функции Уиттекера MyiiL(x) и ^^(х)
являются решениями линейного дифференциального уравнения второго
порядка:
Это уравнение не меняется при замене [л на — [л, а также при одно-
одновременной замене х на —х и X на —X.
Отсюда следует, что наряду с функциями Мх.^(х) и №\, ,,,(-?)
функции
Afx.-nC*), Af_Xi ,,(—*), Af_x._^(— л;),
также являются решениями уравнения Уиттекера. Поэтому все эти
функции должны линейно выражаться через два линейно независимых
решения уравнения A). Выберем в качестве таких решений М^ ^(х)
и М^ у. {х) (их линейная независимость без труда доказывается путем
вычисления определителя Вронского).
Выражение для М_х#11(—х) через М^ ^(х) сразу получается из
интегрального представления A) п. 1 § 1. Заменив в этой формуле X
на — X, z на — х и сделав подстановку и = 1 — v, получаем
ли и (-¦*)=
Сравнивая эту формулу с формулой A) п. 1 § 1, находим
(_ *)-ц -1/2 д,^ ц (_ *) = д^^ - i/a Afx. й (х). B)
Аналогично М_^^(—х) выражается через М^_

414 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [ГЛ. VIII
Теперь найдем соотношение, связывающее №х_ й (х) и Л4Х, ^ (х),
М^^(х). Будем искать его в виде
Заменяя в этом равенстве функции Уиттекера их интегральными пред-
представлениями A) и B) из п. 1 § 1, получаем после простых преобра-
преобразований соотношение
1
С
J Аг. C)
о
Входящие в это соотношение интегралы сходятся при z = 0 в области
Положим в равенстве C) z = 0 и воспользуемся интегралами G) п. 6
и B) п. 7 § 1 главы V. Так как при Re[A<^0 выражение z'iy- обра-
обращается в нуль в точке z = 0, мы получим после простых преобразований
Чтобы найти значение В, сделаем в интеграле в левой части
равенства C) подстановку zu = v и умножим обе части равенства
на г211. Мы получим соотношение
— А
f иЦ-»-1/3A
\ ir
0J

§ 4] ИНТЕГРАЛЫ, СВЯЗАННЫЕ С ФУНКЦИЯМИ УИТТЕКЕРА 415
При z = 0 интегралы, входящие в это равенство, сходятся в области
Полагая z = 0, получаем после простых преобразований
Итак, мы доказали, что
rW YrM^iz). D)
}
Отметим, что ограничения, налагавшиеся на X и ц при вычислении
коэффициентов А и В, снимаются путем аналитического продолжения
по X и [л. Поэтому формула D) верна при всех значениях X и [л.
Выражение C) не меняется при замене [л на — [л. Поэтому имеем
соотношение симметрии
Предоставляем читателю вывести формулу для W_^^{—z).
Мы выразили, таким образом, функции М_Х-[1(—z), W\iV.(z) и т. д.
через MliV_(z) и Mx^(z).
§ 4. Интегралы, связанные с функциями Уиттекера
1. Представление Меллина — Бернса. Как и в случае гипергео-
гипергеометрической функции, интегралы, связанные с функциями Уиттекера,
выводятся из соотношения
К(Х, [л; х; gi&)= $ К(Х, v; x; gi)K(v, [а; х;
р—«оо
выражающего тот факт, что
B)
Однако при этом надо иметь в виду, что в матрице К(Х, [л; X! ё)
некоторые элементы не определены.
Выбирая различным образом элементы g-, и gj и сравнивая соот-
соответствующие элементы матриц слева и справа, мы и приходим к интег-
интегральным соотношениям для функций Уиттекера. Так, чтобы получить

416 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [ГЛ.-V1I1
интегральные представления типа Меллина — Бернса, будем исходить
из следующего очевидного равенства:
?-(<)&.(<) = ft С) *(-?). C>
Для определенности будем считать, что Rec<^0. Как отмечалось
в § 2, в этом случае определено значение /C++ (gi @)- Поскольку
#+-Gf-(O) = #- + (?¦-@) = 0, то из равенства C) вытекает
р — loo
Подставив в эту формулу значения K++(g+(t)), /C++(?"_(<))>
даваемые равенствами A), E) и (8) п. 6 § 2, и положив
,о 1 А (X ., X (Д. ,
— oP = z, g—- = )>' —2"С=:[А>
v = v' —X',
получим
(¦\-ico
Г
^ГТТЦ^Й|. D)
р— i<x>
Из условий сходимости интегралов, выражающих ядра K++(g+(t)) и
т. д., вытекают следующие ограничения на параметры X, jj,, v:
Re([x + i-]>Rev и Re (-1— [x)>Rev >ReX.
Другое выражение для WXill(z) получается из равенства
-(9 =
Из него следует, что
at'2 р + ICO
/С++(Х, [>; х; й@)еТ= S /С+ + (Х, v; X;
р —«оэ
Подставляя значения ядер, получаем после несложных преобразований
p — /oo
где
Re(l— X)>Re(-i- — |*)>Rev, Re (-i-+ ц) > Re v.

§4] ИНТЕГРАЛЫ, СВЯЗАННЫЕ С ФУНКЦИЯМИ УИТТЕКЕРА 417
Если сравнить выражения для А1+, то получим
cts p + lco
*-+(*, К X; й(9)«Т = S *-+(Х, v; Х; a.@)/T++(v, [.; Х; ?.(<)) *>.
р —»оо
Подставляя сюда выражения для ядер, находим интегральное пред-
представление для функции Уиттекера MXiV_{z):
r+lc° l 1 \
Г^ + Т + G)
где
2. Преобразование Меллина по параметрам. Из равенства A)
п. 1 можно получить целый ряд других интегральных соотношений
для функций Уиттекера. Чтобы вывести формулы преобразований
Меллина функций Уиттекера по параметрам, рассмотрим матрицу
— ReX<Rev<Re([A + ^-) и Re(ц — X-J-i.)>о.
и применим к ней разложения C) и E) п. 2 § 2.
Если t^>0, jc^>0, то это разложение имеет следующий вид:
ft.(*)й @ = е Wй W в(-т)г(|), A)
где ^+(л:), е(т), gi (<) задаются формулами A), D) и F) п. 1 § 2.
При этом
-' " — t + x-
Поскольку матрице е(т) соответствует оператор умножения на
е(ш~хI:, матрице z(t) — оператор умножения на е°', то из формулы A)
вытекает, что
р + .-со •
$ К(Х, v; х; g+(
р—«СО

418 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [Гл. Vllf
Положим здесь с = —1 и сравним элементы К++ слева и справа. Мы
получим
$ (*, к х;
р — (СО
Подставляя выражения для К++(К v; у; ^+(л:)) и т. д., приходим
к равенству
р — «со
где
Rev>O>Re(X —[a —i-) и *>0, jc>0.
Полученную формулу можно рассматривать как формулу обрат-
обратного преобразования Меллина функции
Поэтому в силу формулы обращения преобразования Меллина (см. п. 2
§ 4 главы II) имеем при ^^>0
4/2^ + 4l%(?\. C)
Положим теперь в формуле A) х = —.У^О, ^^>0- Тогда, срав-
сравнивая элементы АГ_+, получаем аналогичным путем при
p + fco
Т. — 1 С -^(v) ,,-»Л/1.
р— lea
W — 1/2
^x.u.^ — ^V). D)
где
1^
при >»^^^>0 имеем ^ = 0, где X, \х, v удовлетворяют тем же нера-
неравенствам.

§4] ИНТЕГРАЛЫ, СВЯЗАННЫЕ С ФУНКЦИЯМИ УИТТЕКЕРА 419
В силу формулы обращения для преобразования Меллина имеем
Рассматривая произведение g+ (¦*•) ёа @> приходим аналогичным
путем к следующим соотношениям.
Если 0<^x<^t, то
p + ico
-7
где
Rev>0>Re(~i- —X —[x) и Re^ — X — -y)<0. G)
Если же x^>t^>Q, то
Ш 1"!/
f-f - 1Y1"!/V_x. ^(^ - O, (8)
где X, [л, v удовлетворяют тем же неравенствам G).
Далее, при Q<^x<^t имеем
p — /оэ
где X, (х, v удовлетворяют тем же неравенствам G). Если же
~ и X, |а, v удовлетворяют неравенствам G), то JS = Q.
Наконец, при Q<^t<^x имеем
| J ^ „
где
|)>0, Re(х-ц —i)< 0.

420 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [ГЛ. VIII
Если же x~^>t^>0, то
-ЛГ//2 х wI/2
) n A1)
где X, jj,, v удовлетворяют неравенствам G).
Применяя формулу обращения для преобразования Меллина, выво-
выводим из равенства (9) и из того факта, что /3 —0 при
соотношение
t |
1 С „_, „„, Л —Y~^MXii(fi — tx)dx =
T(v
Из формул F) и (8) аналогично выводится, что
__
= r(l-v)
Отметим еще соотношение
2nt
р —«GO
где
и Re(X — [a)<C--
Оно вытекает из рассмотрения g+(—x)gi(t) при
В силу формулы обращения Меллина имеем
Г A-Х-ц) J ( +^, l( + ^
(iO,+v/2,1,+v/2(^). A5)
3. Континуальные теоремы сложения. Чтобы получить конти-
континуальные теоремы сложения для функций Уиттекера, рассмотрим
матрицы вида
0)

§4] ИНТЕГРАЛЫ. СВЯЗАННЫЕ С ФУНКЦИЯМИ УИТТЕКЕРА 421
где t a j равны 1 или 2, а матрицы е(т), gi(t), gj(O задаются фор-
формулами D), F) и G) п. 1 § 2. Как было доказано в п. 2 § 2,
матрицу A) можно представить в виде
ft Ci) e (*) gj ft) = е Ы gk (r) e (* — 1.) 2 (?), B)
где z (b) определяется формулой C) п. 1 § 2, a gk (г) является матри-
матрицей одного из четырех типов:
gi(r), ®(r), g+(r) или gi.(r).
Мы знаем, что матрице z(b) соответствует оператор умножения
на еаЬ, а матрице е (т) — оператор умножения на ет (Ш~Х). Поэтому
из равенства B) вытекает, что
\ К(Х, у; ? ft(f,)K(v, к X;
р — «оэ
Соотношение C) и является общей записью теорем сложения для
функций Уиттекера. Чтобы получить из него конкретные формулы,
надо рассмотреть различные выборы индексов /, j и значений tlt i, t^.
Рассмотрим детально случай, когда /=_/=1. Если ^=
^^s^>0, то
g\ @ е (х) Si (s) = е (^О gi if) e (^ —
где
Используя эти формулы, и вычисляя в C) значение К++, прихо-
приходим к равенству
р -too 2 ' 2 2 ' 2
где
е^Р [(> +1*)' 2^ fe sh т] и^.„. (г2), D)
— [x)<4 и Rev> —1.
1
Теперь рассмотрим случай, когда ^=^^>0 и t$ = — s<^0, при-
причем t~^>s. Тогда при е1 <^sjt имеем
gi @ е (t) gi (— s) = е (tj) gj (r) e (t — т,) 2 (fc),
где

422 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [ГЛ. VIII
Аналогичным путем приходим к формуле
/Г
—= ' I
— 2*i J
J
р—«оэ
2 ' 2
где
l) ( l) ( i) F)
Если ez^>s/t, то имеем /6 = 0, причем X, ja, v удовлетворяют
неравенствам F).
В случае s^>t~^>Q точно так же доказываются следующие соот-
соотношения.
Если e^K^t/s, то У6 выражается формулой E), а если e^^s/t,
то /6 = 0. В случае же — <С еТ <С V имеем
где
При этом
! ^exp [(X+^т -2рт1+'s sh т]
где X, (J-, v удовлетворяют неравенствам F).
Случай, когда i^j, приводит к ряду новых формул того же
типа, что и рассмотренные выше. Рассмотрим сначала произведение
ЕСЛИ ti^t ~^> 0, ?g = s ^> О И ? <^ Sjt, ТО
gi ft) е 0е) ga («) = е Оч) gj (r) e (т — it) z (b),
где
t, r2 ^ s2 — <а — 2ts sh t. eTi = -i^

§ 4] ИНТЕГРАЛЫ, СВЯЗАННЫЕ С ФУНКЦИЯМИ УЙТТЁКЕРА 423
Точно так же получаем
-+-.
^ Wr_Xifl(ra), (8)
где
RefX —|jl-—-|А<0, Re (x -f- jj. -f- y)> 0. (9)
Далее,
p —»co
X M.-x-n
2 " 2
7 exP ^ + ^ T - 2^ ~fs ch TJ М-
где
и, наконец,
р4-?оэ
l)>0, Rev>—,\- A1)
9 '
р — loo ¦«
где
Re(X —n —1)<0, Re(x + jA+i-)>0, Rev<i-. A3)
Если же ex^>sjt, то
и
^| exp [(X + ji) т - 2рт1 - ts ch т] ^x, (rs), A4)
A5)
T exp № + ti*~ 2^i - fs ch t] Л1х. ^ Cs). A6)

424 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ [ГЛ. VIII
В работе [125] указаны еще некоторые формулы, получающиеся
при рассмотрении произведения вида
4. Двойственные формулы. Формулы обращения Фурье в ком-
комплексной форме можно записать следующим образом:
где
p — i оо
(ср. п. 1 § 4 главы II). Пользуясь ими, получаем из формул преды-
предыдущего пункта ряд новых соотношений.
Так, из формулы D) п. 3 получаем
оо
\ ехр [(к -f- {а -}- v) т — 2|АТ| — ts sh т] rl W\ ^ (r2) dt =
2-2 2'2
где
Точно так же из формулы E) п. 3 и равенства Js = 0 при е1
получаем при ^^
г
Г B^+1) \ 6ХР ^^ + iA + v) т ~" 2!АТ) + ^s sh т] г Ш^- v- (r*) dx ~
bi'^s
l)l==i. b
где

4) ИНТЕГРАЛЫ, СВЯЗАННЫЕ С ФУНКЦИЯМИ УИТТЕКЕРА 425
Далее, из формул (8) и A1) п. 3 вытекает, что
*7
1 к ехр[(Х + ц-4- v)x — 2цт! — ^сЬт]гМ_х,|1(г2)Л =
C)
где
r^^s* — t* — 2tsshx, e^ = t+fs ,
а из формул (9) и A2) получаем
оо
ГB[Л'+ 1} J ехр [(X + (i + v), - 2рт1 - /S ch т] Мк „ (г2) йт =
'-7
vr ^ ; 2*2 2 ' 2
где
5. Вырожденные случаи теорем сложения. При некоторых соот-
соотношениях между числами tlt т, t^ матрица gifa), e(x), gj(t^ выра-
выражается не через gi (r) или g% (r), а через ^+ (г) или g_ (r). В этих
случаях соответствующие интегралы выражаются не через функции
Уиттекера, а через степенную функцию. Укажем соответствующие
формулы.
Если г =у = 1, t^>s^>0 и er = s/t, то
Й @ е СО й (— *) = е (т) ^ (г) г (ft),
где
Так как /С+_ [g_ (г)] = 0, то интеграл Jt из п. 3 обращается при
e* = s/t, t^>s^>0 в нуль.
Если s^>t^>0, то при e* = t/s
й @ е (т) а (- 5) = в (т) g+ (- г) г (ft),

426 ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ (ГЛ. VIII
где
ss — t* , sa — ta
r——г~' b—~г~-
Отсюда выводим, что при s^>t^>0, el = tjs интеграл JS из п. 3
принимает значение
Аналогично доказывается, что если s^>t^>0 и ez — sjt, то .
Укажем еще следующие соотношения того же типа. Если
0, ec = sjt, то интеграл J6 из п. 3 принимает значение
X s^+t E2 + ^Г11 ехр [_
Интегралы же J, и J8 из п. 3 обращаются при ?^>0, s^>0, ex = s/t
в нуль.
§ 5. Многочлены Лагерра и представления группы
комплексных треугольных матриц третьего порядка
1. Определение многочленов Лагерра. Если в вырожденной гй-
пергеометрической функции Ф(<х; т; х) параметр а является целым
отрицательным числом или нулем, то ряд обрывается. Таким образом,
Ф (— щ ft х) является многочленом. Рассмотрим многочлены
называемые многочленами Лагерра.
Многие свойства многочленов Лагерра непосредственно вытекают
из соответствующих свойств вырожденной гипергеометрической функ-
функции. Так, из разложения A) п. 2 § 1 вытекает, что
' \\т . \ ~т~ ~г~ 1 / хт (СХ\
(н — /я)! Г (ct -|- iti -|- 1)
т=0
Далее, многочлены Лагерра являются решениями линейного дифферен-
дифференциального уравнения второго порядка
непосредственно вытекающего из уравнения C) п. 2 § 1.

§ Ь] МНОГОЧЛЕНЫ ЛАГЕРРА 427
Из формулы B) легко следует, что
D)
Для доказательства достаточно использовать формулу Лейбница. Мы
приведем сейчас другое доказательство равенства D). Для этого заме-
заметим, что в силу формулы A) п. 1 § 1 и B) п. 2 § 1 имеет место
следующее интегральное представление вырожденной гипергеометри-
гипергеометрической функции Ф(<х; f; x):
1
Ф(<х; 7; лг) = т
При а = — п оно теряет смысл. Но в теории обобщенных функций:
доказывается, что
а -+—п
Поэтому, переходя в равенстве E) к пределу при а. —> — п, получаем
Ф (— п; г, х)==r/T)g* — (»- «¦*н1-«-^
н-1
Принимая во внимание соотношение A), имеем
г ОС s . \ * V" г .—»/V ir^rr_
и!
н-1
Подстановка r?jc=_y преобразует это соотношение к виду D).
Установим в заключение соотношение ортогональности для много-
многочленов Лагерра. Оно имеет следующий вид:
со г 0, если тфп,
\ xae~xLam (x) Lan(x)dx = \ г (а + п + 1) F)
о I - п| > если т = п. v >
Справедливость равенства F) при т<^п легко доказывается путем
подстановки вместо Lm(x) и L%(x) из выражения D) и (т-\- 1)-крат-
ного интегрирования по частям. Так как L*m (х) — многочлен те-й сте-
степени, то он при этом обращается в нуль.
В случае /я = « доказательство проводится точно так же. После
л-кратного интегрирования по частям получаем
-^ С е~*у!»*Ах.
») См. [18], глава 1, § 3, п. 5.

428 ^ПРЕДСТАВЛЕНИЯ ГРУППЫ ТРЕУГОЛЬНЫХ МАТРИЦ (ГЛ. VIII
Применение равенства A) п. 4 § 1 главы V приводит к требуемому
результату.
В заключение отметим, что при | z | <^ 1 имеет место равенство
е-*гA+г)«=2 Lrn(x)z", G)
я = 0
непосредственно доказываемое разложением функций в левой части
по степеням z и умножением получающихся рядов.
2. Группа комплексных треугольных матриц третьего порядка
и многочлены Лагерра. Чтобы вывести теорему сложения для мно-
многочленов Лагерра, установим связь между этими многочленами и пред- *
ставлениями группы О{ матриц вида
/1 а Ь\
О с d ,
\0 0 1/
где а, Ь, с, d — комплексные числа, с ф 0. Среди представлений этой
группы есть представления, являющиеся «аналитическим продолже-
продолжением» представления Т% (g) группы О из п. 3 § 2. Они задаются фор-
формулой
Тх (g)f(z) = cV"*»*> f(cz + а),
причем операторы Tx(g) действуют в пространстве целых аналитиче-
аналитических функций экспоненциального типа.
Естественным базисом в пространстве целых функций является
набор одночленов {zk}, 0s^^<^oo. Вычислим матричные элементы
представления Т (g) в этом базисе. Мы имеем
Тг (g) (zn) = cae°{dz+b) (cz + af.
Отсюда, используя равенство G) п. 1, получаем
оо
Tt (g)(г») = 2 ^ю+Wb Lnk~k{~°f) z\
Следовательно, искомые матричные элементы выражаются следующим
образом:
{^). A)
Используя теперь равенство

§ 5] МНОГОЧЛЕНЫ ЛАГЕРРА 429
легко вывести формулу сложения для многочленов Лагерра. Именно,
полагая о = — 1,
(\ «1 *Л /1 «2 К
gl= о ct йЛг й== о с2
V0 0 1 / \0 0 1 /
и вводи числа а, Ъ, х, у соотношениями
а —«,, b = f-, x — -1, y = dv,
получаем
Lab[(a-\-bHx-\-y)] = (a + brt<v |) emft»-mI?(aJe)Ieft+«(fty), B)
т = — k
где | а | <^ | b | (мы заменили а на a -|- k и т на m-\-k). В частности,
полагая
где гх ^> 0, г2 ^> 0, — 2тс <^ т <^ 2ic, получаем соотношение
^•S (rf -f- rl + 2ггг» ch т) =
(^) C)
= — fc
где | rteT | <^ r2. При т = el<f соотношение (З) принимает следующий
вид:
2г1Гз cos <p) =
rs) ^r'r2COSUcos (r,r2sin <р] + /sin(r,r2sin cp)] X
CO
X 2 [~)m^(rr)Ll+^)e1^, D)
m == — fc
где ^ 0<; <

ГЛАВА IX
ГРУППА ВРАЩЕНИЙ л-МЕРНОГО ЕВКЛИДОВА ПРОСТРАНСТВА
И ФУНКЦИИ ГЕГЕНБАУЭРА
Рассмотренные до сих пор классы специальных функций (функ-
(функции и многочлены Лежандра, функции Бесселя, функции Ганкеля,
Макдональда, Уиттекера) были связаны с представлениями простей-
простейших групп, состоящих из матриц второго или третьего порядка.
Мы переходим сейчас к изучению специальных функций, связанных
с представлениями более сложных групп. Начнем с группы SO(n)
вращений «-мерного евклидова пространства. С этой группой связаны
специальные функции, называемые многочленами Гегенбауэра.
§ 1. Группа SO(n)
1. Сферические координаты. Будем обозначать векторы «-мер-
«-мерного вещественного евклидова пространства Еп через х = (хъ ..., хп),
а их длину будем обозначать через || х || или г. Совокупность векто-
векторов вида (JC|,..., xk, 0,..., 0) будем обозначать через Ek, единичную
сферу в Еп — через 5". Очевидно, что Snl можно отождествить
с совокупностью векторов единичной длины. Как правило, единичные
векторы будем обозначать через |, ij.
Введем теперь в пространстве Еп сферические координаты г, Bv...
..., 6П„1. Они связаны с декартовыми координатами хи ..., хп форму-
формулами
xt = r sin ВпЛ ... sin 62 sin б|,
хг = г sin ВпЛ ... sin 62 cos 8Ь
' О)
Хп t= Г Sin е„_!
xn = r cos 6„_1
При этом числа г, Bv ..., 6nJ меняются в следующих пределах:
кф\.
B)

§ I] ГРУППА SO (я) 431
Очевидно, что для любой точки х(xlt..., хп) из Еп найдется система
параметров г, Ви..., вп_ъ связанная с ней формулами A) и лежащая
в области B). При этом почти для всех точек х *) такая система
параметров однозначно определена.
Параметры г, 6|,..., Gn_t выражаются через декартовы координаты
по формулам
fe . C)
sine, = -?*-, D)
r = rn, E)
где положено
rl = JCj + ... + JC|. F)
При фиксированном г точка х (г, 6а,..., 0„_|) пробегает сферу
радиуса г. Поэтому числа 6^ ..., 6п„а можно рассматривать как коор-
координаты на единичной сфере Sn~\ Мы будем называть их сфериче-
сферическими координатами.
Найдем выражение для меры на сфере Snl, инвариантной при
вращениях сферы вокруг начала координат. Заметим, что мера dx =
— dxx ... dxn в евклидовом пространстве инвариантна относительно
этих вращений, равно как и обобщенная функция 8 (г — 1). Поэтому,
полагая для любой непрерывной функции /(?) на S"'1
G)
где А — любое положительное число, мы и получим инвариантную
меру на 5" (через /(х) в этом равенстве обозначена любая непре-
непрерывная функция в евклидовом пространстве, совпадающая на S"'1
с функцией /(!)).
В декартовых координатах формула G) принимает вид
j% A dxl... dxn_l ,„,.
dS — ¦ гп-j • (8)
Перейдем от декартовых координат к сферическим координатам
0i. • • • f 6n-i- Элементарный подсчет показывает, что
^L^tL = sin«^ в ... sin
I хп I
Поэтому
dl A i" ^6... sin
J) Мы говорим, что некоторое утверждение справедливо почти для всех
точек многообразия ЯП, если точки, где оно неверно, образуют многообра-
многообразие меньшей размерности.

432 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Подберем постоянную А так, чтобы мера всей сферы равнялась еди-
единице. Так как
$ sin*-1
. Г (п/2) „
то /4=—^лГ" • Поэтому
(А) у*
г(-)
= ~Jr sin" 2 e«-i • • •sin
2. Описание группы SO(n). Вращениями евклидова простран-
пространства Еп называют линейные преобразования g этого пространства,
не меняющие его ориентации и оставляющие инвариантным расстоя-
расстояние точек от начала координат:
Вращения я-мерного евклидова пространства Еп образуют группу^
которую мы будем обозначать через SO(n).
Выберем в пространстве Еп ортонормированный базис |i,..., |„.
Обозначим через SO(k) подгруппу группы SO(n), состоящую из
вращений, оставляющих инвариантными векторы %k+\,..., |„ этого
базиса. Сферу Sn l можно отождествить с пространством левых клас-
классов смежности группы SO(ri) по подгруппе SO(n—1). В самом де-
деле, вращения из подгруппы SO(n—1) (и только они) оставляют
инвариантным вектор |„. Иными словами, эта подгруппа является ста-
стационарной подгруппой точки |„@, 0,..., 1) единичной сферы. Так
как SO(n) является транзитивной группой преобразований сферы S^1,
то сферу S"'1 можно отождествить с SO(n)/SO(n—1). При этом
отождествлении левому смежному классу, состоящему из элементов
вида {gh\, h^SO(n— 1), ставится в соответствие вектор g%n. В даль-
дальнейшем вектор g%n будем часто обозначать через %g.
Каждому элементу g0 из группы SO(n) соответствует преобразо-
преобразование
Ш-* {gogh}, h?SO(n-\), ¦ A)
в фактор-пространстве SO(ri)/SO(n—1). Легко проверить, что при
этом имеет место равенство
Это равенство означает, что преобразованиям A) в фактор-простран-
фактор-пространстве соответствуют вращения сферы.

§ 1] ГРУППА SO (л) 433
3. Углы Эйлера. Мы видели в п. 6 § 1 главы III, что весьма
удобными параметрами на группе 50C) вращений трехмерного евкли-
евклидова пространства являются углы Эйлера <р, 6, «р. Обобщим эту пара-
параметризацию на группу SO(n) при любом п.
Обозначим через g]k (а) вращение на угол а в плоскости (х}-, xk),
ориентированной так, что положительным считается вращение от век-
вектора %] к вектору ^д.. Для краткости вращение gk+i_k(a) будем обо-
обозначать через gk (а). Покажем, что любое вращение g из группы SO (и)
можно представить в виде произведения вращений gk (а).
Теорема 1. Любое вращение g из группы SO(n) может быть
представлено в виде
g=g(n^...g(i\ A)
где
w .gk(Bk). B)
Доказательство. Теорема очевидна при п = 2, так как в
этом случае g является вращением в плоскости (хь х.2), g"=giF).
Предположим, что она доказана для группы SO (п — 1), и докажем
ее для SO(n). Пусть g—элемент группы 50 (и). Обозначим через
6^-',..., б?—J сферические координаты вектора g^n и рассмотрим
вращение
^) C)
^gl()gll_1Bzi)
Подсчитаем, в какой вектор переходит вектор Ъ,п при вращении g~
Вращение g'n_1F^IlI1) записывается следующим образом:
x'n-i=xn-izos 6"z{-|-xnsine^z{, \
хп = — xn-i sin #=! + *« cos ИИ}. J
Поэтому вектор |„@, 0,..., 1) переходит при этом вращении в век-
вектор g-n_iFj|Zi)gn с координатами
(О, 0, ....sinftz!, cosG^zJ).
Повторяя это рассуждение и принимая во внимание формулу C),
убеждаемся, что g(n'л '|„ = g%n. Поэтому [f?n~^Yl gt>n = %n и> следо-
следовательно, вращение [g4'1] g принадлежит подгруппе 50 (п—1). По
предположению индукции, имеем
где g*ft) — вращение вида B). Поэтому
Теорема доказана.

434 ГРУППА ВРАЩЕНИЙ л-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Легко показать, что почти для всех элементов g группы SO(n)
запись A) единственна (исключение представляют случаи, когда один
из углов 6*, 2 ^ k sg n — 1, обращается в нуль или п). Назовем числа
б? 1^А<я—1, К/^А, E)
углами Эйлера вращения g. Эти числа однозначно определяют g.
При этом из проведенного построения видно, что углы Эйлера изме-
изменяются в следующих границах:
Из проведенного построения ясен геометрический смысл углов
Эйлера: углы б*,..., 6* являются сферическими координатами вектора
где вращения g^J) определяются формулами D).
Отметим, что вращение g можно записать не только в виде A),
но и в виде
где
*)• (9)
Это следует из того, что вращения gy(a) и gk($) перестановочны при
4. Инвариантное интегрирование. Из геометрического смысла
углов Эйлера легко получить выражение для инвариантной меры на
группе SO(n). Именно, это выражение имеет вид
dg=Annf[l[sin>-le№, A)
где
Действительно, вращение g однозначно определяется векторами
лежащими-на сферах Sk, I ^k^n—1. Легко видеть, что при за-
замене вращения g на вращение gg0 векторы щ заменяются векторами
^о*)т1*> гДе Soft) — некоторое вращение сферы Sk (зависящее, вообще
говоря, не только от g0, но и от g).

§ 2] ПРЕДСТАВЛЕНИЯ КЛАССА 1 ГРУППЫ SO (л) 435
Так как при вращениях g<*> евклидовы меры dr\k+l на сферах S"
остаются инвариантными, то мера
dg=dt\i...di\n
на группе SO(n) инвариантна при замене g на gg0.
Но углы Эйлера 6t,..., 6]^ являются сферическими координатами
вектора i]fc+1. Учитывая выражение евклидовой меры на сфере Sk в
сферических координатах (см. формулу (9) п. 1), мы приходим к вы-
выражению A) для инвариантной меры dg на группе SO(n).
Из равенства A) п. 3 вытекает, что каждый элемент g группы
SO(n) задается элементом
подгруппы SO(n—1) и точкой к) на сфере S" со сферическими
координатами 6"~ , ...,6^Zj. Из формулы A) вытекает, что
dg=dhdr\. C)
§ 2. Представления класса 1 группы SO (и)
и гармонические многочлены
1. Квазирегулярное представление. Изучение представлений
группы SO(n) начнем с рассмотрения ее квазирегулярного представ-
представления. Группа SO(n) является транзитивной группой преобразований
и-мерной единичной сферы S". Обозначим через ^(Snl) простран-
пространство функций /(§) на сфере S'1 1, для которых сходится интеграл
il/ll2= \ \f(l)fdl A)
sn-i
{d% — нормированная евклидова мера на S" *). Каждому элементу g груп-
группы SO(n) соответствует оператор L(g) в пространстве 8a(S"~1), пере-
переводящий функцию /(|) в функцию
Очевидно, что L (g\g%) = L (g,) L (gj) и потому L(g) является представ-
представлением группы SO(n).
Так как евклидова мера с?| на Sn ' инвариантна относительно
вращений, то имеет место равенство
\\L(g)f\\*= \ |/fcrWd6= J l/(S)le<*6 = ll/T- С3)
sn~s s"
Таким образом, представление L(g) унитарно относительно скалярного
произведения
(Л.Л)= 5 /1©/7®л. D)
sn-i
Это унитарное представление группы SO(ri) будем называть квазире-
квазирегулярным представлением.

436 ГРУППА ВРАЩЕНИЙ п-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
2. Представления в пространствах однородных многочленов.
Квазирегулярное представление группы SO(n) приводимо. Ниже будут
построены неприводимые представления этой группы, на которые
разлагается представление L (g). Обозначим через Шп1 пространство
однородных многочленов степени / от п переменных. Каждый много-
многочлен /(х) из пространства Щ'и однозначно определяется своими зна-
значениями на сфере S" ]:
f{rQ = rlf(l). A)
Поэтому можно рассматривать Щ как подпространство в C2(Snl).
Очевидно, что при преобразовании
L(g)f(x)=f(g-1x) B).
однородные многочлены переходят в однородные же многочлены, а
потому подпространство Ш инвариантно в ^(S). Представление
L (g) задает, таким образом, представление Lnl (g) в инвариантном
подпространстве 3inl:
Lnl fe)/(x) =/fe^x), f (x) G W11. C)
Однако и представления Lnl (g) являются приводимыми. В самом
деле, при вращениях g из SO(n) расстояние 1л = х\~\-...-\-Хп точ-
точки х из Еп от начала координат остается неизменным. Поэтому под-
подпространство г2Ш"'г~~2 многочленов вида г2/(х), где /(х) (^ Шп-1~2,
инвариантно относительно операторов Lnl (g).
Обозначим через Tnl (g) представление, заданное представлением
Lnl (g) в фактор-пространстве W11 = Шп11г^Щп-1 - 2. Мы докажем ниже,
что это представление является неприводимым унитарным представ-
представлением группы SO(n) и что квазирегулярное представление этой
группы является прямой суммой представлений Tnl (g):
Ш=2>Га(& D)
Таким образом, представления Tnl (g) могут быть охарактеризованы
как неприводимые компоненты квазирегулярного представления груп-
группы SO(n).
Мы докажем далее, что эти представления допускают другую
характеристику. Именно, представлениями Tnl (g) исчерпываются не-
неприводимые представления T(g) группы SO(n), в пространствах кото-
которых есть вектор f0, инвариантный относительно всех операторов T(h),
h?SO(n—l):
Т (h) f0 = fo, h ? SO (n — 1), E)
т. е. представления класса 1 относительно подгруппы SO (n—1).
Итак, ниже будет доказано, что представления Tnl (g) являются

§ 2] ПРЕДСТАВЛЕНИЯ КЛАССА 1 ГРУППЫ $0 (п) 437
неприводимыми представлениями класса 1 группы SO(n), причем
каждое неприводимое представление класса 1 этой группы экви-
эквивалентно одному из представлений Vй (g).
3. Гармонические многочлены. Чтобы доказать утверждения,
сформулированные в конце предыдущего пункта, построим другую
реализацию представления Tnl (g), а именно, реализацию в простран-
пространстве frf11 однородных многочленов степени / от п переменных.
Многочлен /(х) называется гармоническим, если Д/=0, где
— оператор Лапласа. Нам понадобятся в дальнейшем некоторые
соотношения, связанные с оператором Лапласа.
Покажем сначала, что если /t(x) (^ Шп> г~2, то
В самом деле, непосредственное вычисление показывает, что
п
fc=l
Но так как /t (х) — однородный многочлен степени / — 2, то по фор-
формуле Эйлера имеем
п
dft _ t
k=i к
откуда и вытекает равенство B).
Повторно применяя формулу B), легко показать, что если
Д (г2*/,) = 2k (п + 21 - 2k — 2) ra^fk + r2ft ДД. D)
Из равенства B) вытекает следующее утверждение:
Если h (х) — однородный гармонический многочлен степени I, то
7о~ г ~л7. 0)
является однородным гармоническим многочленом степени /-(- 1.
В самом деле, Д/г = О, поэтому
Д[*уА(х)] = *уДА + 2^=2^. F)
С другой стороны, так как ^— (^$ftn-l~l, то по формуле B) имеем

438 ГРУППА ВРАЩЕНИЙ л-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Сравнивая равенства F) и G), получаем
Д [XJ h (x) - -^р^Г г- -Hj] = 0. (8)
Наконец, заметим, что если h (x) — гармонический многочлен, то
для любого j многочлен dh/dxj также является гармоническим.
В самом деле,
д /_ал \ = а (ал)
\дХ] j dxj '
Поэтому, если Д/г = О, то и Д (^—) —0.
4. Инвариантность подпространства ф"г. Пространство фя/ од-
однородных гармонических многочленов степени / от п переменных
является подпространством пространства $Rnl всех однородных мно-
многочленов степени I от п переменных. Покажем, что это подпрост-
подпространство инвариантно относительно операторов представления Lnl (g).
Для этого воспользуемся следующим важным свойством оператора
Лапласа.
Оператор Лапласа перестановочен с операторами движения
в евклидовом пространстве: если g—движение, то
Равенство A) проще всего доказать, заметив, что
Г 1-Я | /, (а) -/(а)]
где /, (а) — среднее значение функции /(х) на сфере S"'1 (а, г) ра-
радиуса г с центром в точке а. Равенство B) выводится путем разло-
разложения функции /(х) в ряд Тейлора в окрестности точки а и почлен-
почленного интегрирования этого ряда по сфере S" (а, г). Поскольку опе-
оператор в правой части равенства B) перестановочен с движениями
евклидова пространства, оператор Лапласа тоже перестановочен с
этими движениями.
Из равенства B) вытекает, что подпространство $fl инвариантно
относительно операторов представления
Lnl (g)/(x) =fQT1 x), /(x) G ЗН C)
В самом деле, если Д/(х) = 0, то в силу формулы B) мы имеем
Д [/(g х)] = 0. Поэтому из /(х) ? фя/ вытекает, что
5. Гармоническая проекция многочлена. Представление в про-
пространстве гармонических многочленов. Докажем теперь, что ин-
инвариантное подпространство 4?"' является дополнением в Ш11 инва-

2) ПРЕДСТАВЛЕНИЯ КЛАССА 1 ГРУППЫ SO (л) 439
риантного подпространства r29t"> l~\ Иными словами, докажем следую-
следующее утверждение:
Пространство 91"' однородных многочленов степени I от п
переменных является прямой суммой подпространства ф"' од-
однородных гармонических многочленов степени I от п переменных
и подпространства г291"л ~2 многочленов вида r2/i(x), ft (x) (^
?8Г'~2:
тп[=$п'-}-г*тп-1-*. A)
Сначала докажем, что
$п1Г)г*тп-1-* = 0, B)
т. е. что если /t(x) ? 91"'г и ЛСх^О, то Д(г2Л)^0. В самом
деле, если /(х) ? г2 9t"' '~2, то/(х) можно представить в виде/(х) =
= г«*Д (х), где /ft (х) ? 9Г /-2ft, 0 < k ^ [//2], /ft (x) не делится на г\
Предположим, что Д/=0. Тогда по формуле D) п. 3 имеем
2k(n-\-2l—2k — 2) г2*~2Л + г2* ДЛ = 0. C)
Так как k 5г 1 и l^ 2k, то k (n -f 2/— 2/fe — 2) ^> 0. Сокращая на л2*'2,
убеждаемся, что fk делится на г2 вопреки предположению. Тем са-
самым доказано равенство jrf1 f\ r28fl"' г~2 = 0.
Теперь докажем, что подпространства $nl и г23^"'г порождают
псе пространство Щп1. Для этого вычислим размерности указанных
подпространств. Обозначим размерность пространства 91"' через г (л, I).
Располагая однородные многочлены по степеням xi, убеждаемся, что
г (я, [) = r(n— I, /)-f-r(n— 1, /— 1) + ...+ г(я— 1, 0). D)
Кроме того, ясно, что
гA, /) = /. E)
Отсюда получаем по индукции
(и + /—1)! /Сч
= F)
Так как размерность пространства г*Щ"' '~2 равна размерности
пространства 91"' '~2, а ф"г (~) г291""'~2==0, то для размерности
h (и, /) пространства ^)"г выполняется неравенство
h (n, l)^r(n, I) — r{n, 1—2). G)
С другой стороны, многочлен Д/, / ? 91"', принадлежит прост-
пространству 91"' г~2. Поэтому условие Д/=0 налагает не более, чем
г(я, /—2) линейных соотношений на коэффициенты многочлена/(х).
Отсюда вытекает, что размерность пространства фп1 не меньше, чем
г (я, /)— г (я, / — 2):
А (Я, t)^r(n, l) — r(n, 1—2). (8)

440 ГРУППА ВРАЩЕНИЙ л-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Из неравенств G) и (8) следует
h (л, 0 = г (я, [) — г (я, / — 2), (9)
или, что то же,
dim ?"' = dim Ж11 — dim 9Г'-2 = dim mnl — dim r2 Шп-1~*. A0)
Из соотношений B) и A0) вытекает, что подпространства •?)"' и
r23ft"'г~2 порождают все пространство 94"' и потому равенство A)
доказано.
Равенство A) показывает, что представление Tnl (g) группы SO(n)
в фактор-пространстве Щп1/г'2Шп' г~2 эквивалентно сужению пред-
представления L (g) на инвариантное подпространство ,?>"'. Будем
обозначать это представление тем же символом Tnl(g). Однако в тех
случаях, когда надо будет различать указанные реализации, будем
обозначать реализацию в ф"' через //"'(g).
Отметим, что при выводе формулы A) мы попутно получили вы-
выражение для размерности /г (и, /) пространства $)nl однородных гар-
гармонических многочленов степени I от п переменных
h(n, 0 = r(B, /)-г(д. /-2)=
Из равенства A) следует, что любой однородный многочлен /(х)
степени / может быть представлен в виде
2/,(x), A2)
где /t (х) ^ 91я"' 2 и йг(х)^^"г — гармонический многочлен степе-
степени /. Будем в дальнейшем многочлен /гДх) называть гармонической
проекцией однородного многочлена /(х). Гармоническую проекцию
многочлена /(х) будем обозначать через Nf(x).
Найдем явную формулу для гармонической проекции. Будем искать
гармоническую проекцию многочлена /(х) в виде
Hf(x)= 2 ссйг**Д*/(х), A3)
ft = 0
где ао=1. Применим к обеим частям этого равенства оператор Лап-
Лапласа Д и примем во внимание соотношение
Д {f'k Akf) = 2k (и-f 2/— 2k — 2) г2* Д*/+
(см. формулу D) п. 3). Мы получим
U/2]

§ 2] ПРЕДСТАВЛЕНИЯ КЛАССА 1 ГРУППЫ SO (я) 441
Равенство A4) показывает, что для того, чтобы многочлен, зада-
задаваемый формулой A3), был гармоническим, необходимо и достаточно,
чтобы коэффициенты ak удовлетворяли рекуррентному соотношению
Принимая во внимание, что ао=1, получаем
(-1 )»;•»*А*/(х)
2**1 (и+ 2/ — 4)(и+ 2/ — 6)...(и + 2/ — 2* — 2) '
Формула A5) и задает гармоническую проекцию многочлена/(х
6. Каноническое разложение однородных многочленов. В пре-
предыдущем пункте доказано, что
№" = $'"+ №«•'-*. A)
Применяя к 91"'г~9 аналогичное разложение и продолжая далее этот
процесс, получим
[//21
где r2ft $Sn' 1~"*к—подпространство в ffi, состоящее из многочленов
вида r^,_9ft(x), hl_ik(x)e^n't-ik.
Итак, доказано, что каждый однородный многочлен степени I
от п переменных однозначно разлагается в сумму многочленов
вида r^ht_,k (x), где /*,_„ (х) ? ?»•'-«*:
[г/21
f(x)= ? ^А^кСх). C)
Это разложение назовем каноническим разложением многочлена
/(х).
Из равенства C) вытекает, что на единичной сфере
['/21
Иными словами, значение любого однородного многочлена /(х) с/яе-
иеяи / ни единичной сфере совпадает со значением на этой сфере
[*/2]
гармонического (неоднородного) многочлена h(x)= ^ ht_ik(x).
fc=O
Поэтому при рассмотрении многочленов на единичной сфере доста-
достаточно ограничиться гармоническими многочленами.

442 группа вращений п-мерного пространства [Гл. ix
Поскольку г2 = xf -\- • • - ~Ь хп не меняется при вращениях g из
SO(n), то из разложения C) следует, что
L"l(g)f(x)=f(g-ix)= 2 rikhl зд.^х). E)
Так как при /гг„ад(х) ? .fj '~2fc имеем
aft (x) = ft,_2fc (Г1 х), F)
то из равенства E) следует, что
К/2]
7. Разложение квазирегулярного представления. Мы построили
выше унитарные представления класса 1 Т (g) группы 50 (и). По-
Покажем, что квазирегулярное представление
?(?>/(?)=/ОТ1!) 0)
этой группы является прямой суммой представлений Tnl (g):
Представление L(g) строится в пространстве 2^(S"~1) функций
на единичной сфере, имеющих интегрируемый квадрат модуля. Рас-
Рассмотрим в этом пространстве подпространства, состоящие из значе-
значений на сфере S"~1 функций h(x) из (г/11. Будем обозначать эти под-
подпространства также через фп/. Очевидно, что они инвариантны отно-
относительно операторов квазирегулярного представления.
Сужение квазирегулярного представления на Jqh1 есть представ-
представление Tnl (g), а при 1ф m представления Tnl (g) и Tnm (g) неэквива-
неэквивалентны. Поэтому подпространства ф"г и fQ>nm, 1ф m, ортогональны
друг другу. Иными словами, если ht (§) (^ Jq и Ав(!)?Е$"т, ТО
^i(l)Ml)^l = o. C)
Поэтому для доказательства разложения
оэ
2*(Sn~1)=2l $nt D)
достаточно показать, что любая функция /(§) из №(Sn~1) может
быть приближена в среднем с любой степенью точности суммами
функций из пространств &>nl, 1=0, 1, ...
По теореме Вейерштрасса любая непрерывная функция /(?) на
сфере S"'1 может быть с любой степенью точности равномерно

§ 2] ПРЕДСТАВЛЕНИЯ КЛАССА 1 ГРУППЫ 50 (л) 443
приближена функцией вида <р (|), где <р (х) — многочлен. Так как
каждый многочлен можно представить в виде суммы однородных мно-
многочленов, то мы получаем следующий вывод.
Для любой непрерывной функции /(|) на единичной сфере Sn~l
и любого sJ>0 найдутся такие многочлены <fy(x) из пространств
fRnl, 1=1, 2, ..., т, что для всех точек %^Sn~i имеем
т
1/A)- ? ?«(&)!< <*.
г = 1
Но в п. 6 было показано, что если <рг (х) ? Шп1, то срг (|) может
быть представлено в виде
где A/_8ft(?;)?<&ni '~~2ft. Отсюда вытекает, что любая непрерывная
функция /(|) на Sn~1 может быть с любой степенью точности рав-
равномерно приближена суммой функций, принадлежащих пространствам
?)"'. Следовательно, подпространства ?)"' порождают все простран-
пространство 88E"~1). Тем самым доказано разложение D).
Из разложения D) следует, что представление L (g) является
прямой суммой представлений Tnl (g), причем каждое из пред-
представлений Vй (g) входит в разложение L (g) только один раз.
Тем самым доказано равенство B).
Поскольку мы воспользовались реализацией представлений Tnl(g)
в пространствах ф"', формулу B) точнее писать в виде
со
L{g)= 2^"'fe). B')
г = о
Осталось показать, что представления Tnl (g) неприводимы. Дока-
Докажем это с помощью индукции по п. Сначала рассмотрим сужение
представления Tnl (g) на подгруппу SO (п—1).
8. Разложение сужения представления Tnt(g) на подгруппу
SO(n—1). Сузим представление Tnl(g) группы SO(n) на подгруппу
SO(n—1). Мы получим представление Tnl (h) этой подгруппы. По-
Покажем, что Tnl (h), h(^SO(n—1), является прямой суммой представ-
представлений Tn~bk(h), Os^k^l:
i
bk ~l). A)
Построим сначала подпространства Wlk в 9Г"/г!81"' 1~\ в кото-
которых реализуются представления Т11'h(h). Обозначим через
хп~k4?" Ь k пРостРансгво многочленов вида xln~khk(х'), где h^(x'

444 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
g T e является однородным гармоническим многочленом сте-
степени k от п—1 переменного. Очевидно, что х1п~к ^>п~1ш к?Щп1,
О =sg; A =sg;/.-Так как хп не изменяется при вращениях h из подгруппы
SO(n— 1), то при /(х) ?xln-k?"-'• к имеем
V* (А)/(х) =/(А-» х) = 4~ » Л* (Г' х'). B)
Поскольку пространство ф" — '• к инвариантно относительно опера-
операторов вращения из SO(п—1) (см. п. 4), то hk(h J x')? ?)"-'•* и,
следовательно,
lk^n~l'k- C)
Мы доказали, таким образом, что операторы Lnl(h), h(^SO(n— 1)
оставляют инвариантными подпространства xln~kAjn~ '¦к. При этом
представление
T(h) [tfa- » hk (x')] = ^я- к hk (h~ * x') D)
является сужением представления Lnl (К) на подпространство
xi — k jyi -1, k и эквивалентно, согласно п. 5, представлению V1 — '•к (/г),
(n— 1).
Обозначим через ?("'* образ подпространства xln~к JQn ~~ '•к при
отображении 8R"' на Щп1/г* 3t">' ~2. Очевидно, что 3("№ инвариантно
относительно операторов представления Tnl(h), h(^SO(n—1), ин-
индуцированного в Ж/^ Щп-1 -2 представлением Lnl (h). Покажем,
что пространство Щп1/г^ Шп<l ~ 2 является прямой суммой подпрост-
подпространств %п1к:
i
причём сужение представления Tnl(h), h(^SO(n—1) на подпрост-
подпространство Шп1к эквивалентно Тп~1'к(к). Очевидно, что эти утвержде-
утверждения будут доказаны, если мы покажем, что пространство 31"' есть
прямая сумма подпространства г2 9tn>' ~ 2 и подпространств х1" к 1оп~ь к:
i
m"'=r29fj". '-2+ ^ ^-*Фя-'-*. F)
Иными словами, надо доказать, что любой многочлен f(x) из 1"'
однозначно представим в виде
f(x) = г»/, (х) +24"* К (х')> G)
гдеЛ(х) — однородный многочлен степени /—2 от п переменных, а
hk 00 — однородный гармонический многочлен степени k от п — 1
переменного.

§ 2] ПРЕДСТАВЛЕНИЯ КЛАССА I ГРУППЫ SO (л) 445
Чтобы доказать равенство G), покажем сначала, что
г(п, 1) = г(п, /—2)+ ? Л(я— 1, Щ, (8)
k = 0
где, напомним, г (л, /) — размерность пространства Жп1, a h(n— 1, k) —
размерность пространства ?j" — '¦ *. По формуле (9) п. 4 имеем
А(я — 1, k) = r(n— 1, А) — г(л — 1, А —2).
Поэтому
У) й(и—1, k)= 2 [г(и—1, А) —г(л—1, ft— 2)] =
= г(л—1, /) + г(я—1, /—1), (9)
где положено г(п—1, — 1)=г(п — 2, —2) = 0. Применяя фор-
формулу A1) п. 4, получаем
i
г(п, / — 2)+ У) /i(n—I, k) = r(n, l—2)-\-r(n — \, 0 +
,.,„ , , П__ (я+ / — 3I , (я+ /-2I . (и + /_3I _
-\-г(п - 1, <- U—(п„1)!(/__2)! I ~
(п„1)!(/__2)! I (я —2I/! ~г (я —2)!(/ —1)! ""
=-(-|Йу^='(»¦ о. с»)
Тем самым соотношение (8) доказано.
Теперь покажем, что подпространства r*?Rn-l~2 и л^~* <5"~ '•*.
O^k^l порождают все пространство ЭГ'. Пусть /(х) ^ ЗГ'. Тогда
многочлен /(х) можно представить в виде
/(х) = r*F (х) + хп ?1 (х') + ?2 (х')> A1)
где
Г* = XSi-{-...-\-Х%, Х' = (ХЬ ..., Xn_i),
Применив к многочленам cpi (х') и Та (х') каноническое разложение
(см. п. 6), получим
J [1/2]
где г„ _ i = х\ +¦... +¦ Хп _ 1 и hs i
Заменим в формуле A2) r^_i на г2 — х\, раскроем скобки и
отнесем все члены, содержащие г2, к первому слагаемому. Мы по-
получим
fc = O

446 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
где fx (х) ? 9t"-1~2, hh (х') ^ $п — '• * (/гй (х') лишь знаком отличается
от ftfe(x') в разложении A2)).
Мы доказали, таким образом, что подпространства ra9tn>'~~2 и
xi-kt^n — 1, kf o^k^l порождают все пространство 91"'. Поскольку
раньше было показано, что размерность 31"' равна сумме размер-
размерностей указанных подпространств, то разложение
i
щч = /-2Э1". ' ~ 2 + 2 -*>Г*?" ~ '¦ *
доказано.
Выше отмечалось, что из этого разложения вытекают следующие
утверждения:
1) Пространство 9t"'/r89t"-' ~~2 является прямой суммой под-
подпространств Шп1к (образа xln~k^n~1-k при отображении Шп1 на
2) Сужение представления Tnl(h), h(^SO(n—1) на подпро-
подпространство %nlk эквивалентно T"~l-k(h), O^k^.1.
9. Инфинитезимальные операторы представления Tnl (g).
В следующем пункте докажем неприводимость представлений Tnl (g)
группы SO(ri). Нам будет удобно иметь при этом дело не с самими
операторами Vй (g), а с инфинитезимальными операторами.
Обозначим через Ajk инфинитезимальный оператор представления
Tnl (g), соответствующий подгруппе Qjk вращений в плоскости (xj, xk).
Будем считать, что представление Tnl(g) реализовано в пространстве
,?)"'' однородных гармонических многочленов. В этом случае оно
задается той же формулой
Tnl(g)f(x)=f(g-1x), A)
что и представление L(g) в пространстве ^(S" *). Поэтому инфини-
инфинитезимальные операторы этих представлений также задаются одними
и теми же формулами.
Обозначим через gjk (<р) вращение на угол <р в плоскости (x-j, xk).
Оператор L[gJk(f)] переводит функцию f(x)=f(xl, ... , хп) в
L \gJk(«p)]/(x)=/fey» (- Т) х] =
=/(jfi,..., jcycoscp + ^ft sin ?,•••, — xjsin <p + xk cos <p,..., xn). B)
Поэтому инфинитезимальный оператор представления L (g) имеет вид
= о " ox,- ] dxk v '

§ 2) представления Класса i группы so (л) 447
Тот же вид имеют инфинитезимальные операторы представлений
Lnl (g) (в пространстве 3t"') и Vй (g) (в- пространстве ,?>"')•
Из равенства C) вытекает, что Ajk = — AkJ-. Далее, из той же
формулы следует, что если f<^k, p<^q, то
[Ajk. Apg\ = ikpAJr D)
где [AJk, Apq] = AjkApq — ApqAjk — коммутатор операторов Ajk и
Ард, а Ъкр — символ Кронекера.
10. Неприводимость представлений Tnt (g). Теперь мы уже
можем перейти к доказательству неприводимости представлений Tnl (g)
группы SO (я) при л^З.
Заметим, что при я = 2 представление Tnl (g) приводимо — оно
является прямой суммой двух одномерных представлений. В самом
деле, из формулы A1) п. 5 следует, что ft B, /) = 2, т. е. что
Т*1 (ё) — двумерное представление. Так как группа SO B) коммута-
коммутативна, то ее неприводимые представления одномерны (см. п. 3 § 3
главы I). Следовательно, 7/(g) является прямой суммой двух не-
неприводимых представлений.
Чтобы получить разложение Г2/ (g) в явном виде, заметим, что
многочлены (д^ + i^i/ и (лг2 — 1х^I принадлежат пространству ?j2Z.
При этом простой подсчет показывает, что если g—-вращение на
угол <р в плоскости (хи х^), то
Тп (g) C*r2 + txtf = eil* (Xi + lx{f A)
и
Tn (g) (xt - Ixtf = e-u* (дг, - ixj. A0
Таким образом, пространство ?jw является прямой суммой двух
инвариантных подпространств, одно из которых натянуто на функцию
(хъ ~\~ ixif> а второе — на функцию (х% —¦ ix^I. Соответствующие
представления группы 50B) будем обозначать 7^(g) и T™(g).
Проведем теперь доказательство неприводимости представлений
Tnt(g) при л^З. Доказательство проведем с помощью индукции
по п. Случай л=3 был рассмотрен в главе Ш. Там были построены
неприводимые представления Tt(g), 0^/<^oo, группы 50C). Не-
Нетрудно показать, что эти представления лишь формой записи отли-
отличаются от представлений Til(g) и, следовательно, представления
Т31 (g) группы SO C) неприводимы.
Пусть уже доказано, что представления Tn~l<k{h) группы
SO(n—1), п ^4 неприводимы. Докажем, что тогда неприводимы и
представления Tnt(g) группы SO(ri). В самом деле, рассмотрим
сужение представления Tnl(g) на подгруппу SO {п—1). Мы доказали
в п. 7, что это сужение распадается в прямую сумму представлений
Tn—1'k(h), O^k^.1, h?SO(n—1), которые, по предположению

448 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
индукции, неприводимы. Но представления Тп '• к (h) и Tn~l- m (h)
при кф m неэквивалентны (хотя бы потому, что размерности
h (п—1, k) и h (п—1, т) пространств этих представлений различны).
Так как эти представления неприводимы, то любое инвариантное
подпространство % в dlnl/r*3in- l ~2 должно быть прямой суммой
подпространств Sl"'fe, в которых реализуются представления Г"—'• к(Й).
(Напомним, что Шп1к является образом подпространства .v' *•?*" '' к
при отображении Шп! на Щп1/г'1Шп- 1 ~~2).
Итак,
% = 51™'*1 -|- -1- §J™№s B)
Поэтому, если % непусто, то оно содержит хотя бы одно из под-
подпространств W11.
Нам осталось показать, что если инвариантное подпространство
% содержит %п1т, то оно содержит и все Шшк, O^k^I. Заметим,
что инвариантное подпространство X должно быть инвариантным
относительно инфинитезимальных операторов Ajk. Согласно п. 9
оператор Ajk переводит смежный класс по r28ftn-' ~2, содержащий
функцию /(х), в смежный класс, содержащий функцию
Но пространство %п1т состоит из смежных классов, содержащих
функции вида xln~mhm(x'), где ''„М^^"''", т. е. является
гармоническим многочленом степени т от п — 1 переменного. Опера-
Оператор Ajn переводит функцию xln~mhm(x') в
Докажем, что выражение в правой части этого равенства можно
представить в виде линейной комбинации функций из подпространств
j^-m+lRi.-l,m-l xl-m-la.n-l. т + l и r<ifftnl_
и & п &
В самом деле, как было показано в п. 3, многочлен dhm/dXj
является гармоническим и потому dhm/dxj ^ .?>" - '• т — '. Далее, в п. 3
было показано, что
hm+1 (x^^M-^rL, ^ E)
является гармоническим многочленом. Поскольку степень этого
многочлена равна т-{-1, то /гт+1 (х') ? ?j" - '• т + '. Но Гп-\ =
= г4 — х%, и потому

§ 2] ПРЕДСТАВЛЕНИЯ КЛАССА 1 ГРУППЫ SO (л) 449
В силу формул D) — F) имеем
xn дх,
t — m *
n дх,
+ —3 j
ПОСКОЛЬКУ |? ??""'¦ m~". Йт + I OO ??""'¦ m + I И
Xn dXj ^ Л
разложение G) и является искомым изображением А,-п [xln~mhm(xf)]
в виде линейной комбинации функций из подпространств
j^-m + Wyj-l, m-\ xl-m-\ftn-\, m + \ и ^^«,/-2^
п & л с
Если hm (х') Ф 0, то при тфО, тф1 хотя бы для одного J,
1 sgy г?С п, первые два слагаемых в разложении G) отличны от нуля.
Для первого слагаемого это вытекает из того, что при т ф О
функция hm (x') не является постоянной, и потому хотя бы одна ее
частная производная отлична от нуля. Для второго же слагаемого —
из того, что Xjhm(xr) не делится на га' (см. стр. 439), и потому
hm+1 (х*) ф 0, множитель же / — т при т ф I отличен от нуля.
В случае т==0 имеем Ът+1ф0, а при т = 1 имеем dh^dXj-фО.
Итак, мы доказали, что существует /, 1 =^/ ^ и, для которого
~ т+М?" - '• т ~' +
причем компоненты в подпространствах xl~ т + 1^"— '• т~' и
xln~ т ~~ х$&п ~~~ '• т + ' отличны от нуля (кроме указанных выше случаев
т:=0,т = 1). Отсюда вытекает, что образ многочлена А.п[xlr^mhm(xr)]
при отображении 31"' на 31"'/г231"'' ~2 лежит в сумме подпространств
tyni.m-i и щга,т + \ faK как этот образ принадлежит инвариантному
подпространству %, то в силу разложения B) подпространство S?
должно содержать как 2Ж т - ', так и SI"'- т + ' (при т = 0 лишь
<$гй, т. +1; а при т = 1 лишь 31"'-т —'). Отсюда вытекает, что %
содержит все подпространства %п1к и, следовательно, совпадает
с 9t"'//-38ft"-' —2. Неприводимость представления Tnl (g) доказана.
Итак, мы доказали, что Tnl (g) — неприводимые представления
группы SO(ri), п^З. Покажем, что Tnl(g) — представления класса 1,
т. е. что в пространствах этих представлений есть векторы, инвари-
инвариантные относительно всех операторов Tnl (h), h^SO(n—1). Для
этого удобнее воспользоваться реализацией представления Т11 (g)
в фактор-пространстве Шп1/г^Шп-1 —2. Возьмем смежный класс

450 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА 1ГЛ. IX
xln-\-г*Шп-1~2. Если h?SO(n—1), то при вращении h не меняется
координата хп, и потому
¦pa (h) [xln + г3Ш". ' - 2] = х1п + гЧЯ* ' - 2. (9)
Нетрудно показать, что любой элемент в Шп1/г*Шп- 1~2, инвари-
инвариантный относительно операторов Tnl (h), h(^SO(n—1), пропорцио-
пропорционален
'-2
Отметим, наконец, что представление Tnl (g) при реализации
?"' ения
00)
в пространстве ,?>"' унитарно относительно скалярного произведения
В самом деле, из инвариантности евклидовой меры rf| на сфере Sni
вытекает, что
(Tnl(g)hb 5
5"-'
5 ШФЬ ы). (и)
11. Полнота системы представлений Tnl(g). Мы построили
систему представлений Vй (g), О^К^со, группы SO(n). Покажем
теперь, что эта система полна в множестве представлений класса 1
(относительно подгруппы ДО (я—1)). Иными словами, покажем, что
любое представление T(g) класса 1 относительно подгруппы SO(n— 1)
эквивалентно одному из представлений Tnl(g).
Пусть ei — нормированный инвариантный вектор в пространстве
3[ представления T(g). Каждому вектору f из §1 поставим п соответ-
соответствие функцию на группе SO(ri), определяемую формулой
r1)t e.) О)
((f, e) — инвариантное скалярное произведение в пространстве 31).
Из результатов п. 6 § 2 главы I следует, что функция f(g) постоянна
на левых смежных классах по подгруппе SO (п—¦ 1). Поэтому f(g)
можно рассматривать как функцию на однородном многообразии
SO(n)/SO(n — 1), т. е. на сфере Sn '. Именно, если %=gln, то
полагаем
?(!)=/(?>•
При переходе от векторов f к соответствующим функциям f(g)
представление T(g) задается операторами сдвига
В силу непрерывности представления T(g) функции <р(|) непре-
непрерывны и, следовательно, имеют интегрируемый квадрат. Но тогда

§3] ЗОНАЛЬНЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 451
представление Q(g) является неприводимой компонентой квазирегу-
квазирегулярного представления L (g). Поскольку представление L (g) разла-
разлагается в прямую сумму попарно неэквивалентных неприводимых
представлений ffl(g), то в силу п. 3 § 3 главы I представление
T(g) эквивалентно одному из представлений Hnl(g), или, что то же,
одному из представлений Tnl(g).
Тем самым доказано, что каждое неприводимое унитарное пред-
представление класса 1 T(g) группы SO (п) эквивалентно одному из
представлений Т11 (g). Более того, построена реализация представ-
представления T(g) операторами сдвига в пространстве JQnl гармонических
многочленов степени I от п переменных.
Отсюда вытекает следующее утверждение.
Пусть T(g) — неприводимое унитарное представление класса
1 группы. SO(n) u et — нормированный вектор из пространства 91
этого представления, инвариантный относительно всех операто-
операторов T(ti), h?SO(n—1). Каждому вектору f из 91 поставим
в соответствие функцию <р(|) на сфере S^1:
, C)
где g§n = |. Тогда функция
'(?) D)
является гармоническим многочленом степени I от переменных
Х\, ..., хп. Любой гармонический многочлен степени I от
хъ ... , хп может быть представлен в виде D).
Отметим еще, что из доказанного выше утверждения вытекает
массивность подгруппы SO(п—1) в SO(ri). В самом деле, любое не-
неприводимое унитарное представление класса 1 эквивалентно одному
из представлений Tnl(g), а в пространстве 91"' = Шп1/гЩп' 1~^ этого
представления есть лишь один нормированный вектор, инвариантный
относительно всех операторов Tnl{h), h? SO(n—I).
§ 3. Зональные сферические функции представлений Tnl{g)
и многочлены Гегенбауэра
1. Описание зональных сферических функций. Как указыва-
указывалось в п. 6 § 2 главы I, зональной сферической функцией представ-
представления T(g) (относительно подгруппы Н) называют функцию
где ех — вектор в пространстве представления T(g), инвариантный отно-
относительно всех операторов T(h), h? H.

Применим это определение к подгруппе SO (п— 1) группы SO (я)
l
452 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Применим это определение к подгруппе SO
и представлению Tnl(g). Мы получим функцию
Ей соответствует функция
на сфере S"^1, инвариантная относительно всех преобразований
? СО ?(?)=? (и!).
где h?SO(n—1) (т. е. относительно вращений вокруг оси Охп).
Следовательно, гармонический многочлен
соответствующий функции <р„г(|), должен обладать той же инвариант-
инвариантностью.
Как было показано в п. 5 § 2, каждому гармоническому многочле-
многочлену из пространства fr>nl взаимно однозначно соответствует смежный
класс пространства Шп1 по подпространству г28Г>М!. Но легко видеть,
что единственным таким смежным классом, инвариантным относитель-
относительно вращений вокруг оси Охп, является (с точностью до постоянного
множителя) смежный класс xln -J- г^Ш1' 1~^. Поэтому гармонический
многочлен, соответствующий зональной сферической функции <р„г(|),
является (с точностью до постоянного множителя) гармонической
проекцией функции х1п. Вычислив эту проекцию по формуле A5) п.
5 § 2, получим
, Jig (-1)*/(/-1)-(/-2й+1)г»У-а*
Шп — Zi ~2*fcf(ra + 2/ —4)(n + 2/ —6)...(ra + 2/ —2ft —2) ' ^ >
" Итак, мы доказали, что зональная сферическая функция пред-
представления Tnl(g) (с точностью до постоянного множителя) является
значением на сфере 5"* гармонического многочлена 1
— 2fe— 2)
Полученное выше выражение для Нх1п можно записать короче
с помощью многочленов специального вида, называемых многочленами
Гегенбауэра. Эти многочлены определяются формулой
гр «ч _2тТ(р + т) Г,ш т(т — 1) ^^ ,
т(т— l)(m— 2)(m — 3) тд
12(р + т— \)(р + т — 2)г

§ 3] ЗОНАЛЬНЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 453
Сравнивая формулы B) и C), получаем
D)
n-2
Равенство D) показывает, что г1Сг 2 (—^) является гармониче-
гармоническим многочленом, принадлежащим пространству Jr>nl.
Из формул B') и C) следует
ы(Ю=*„А2?г(ея)- E)
Чтобы найти значение коэффициента bnl, положим в равенстве
E) 1=:1п = Ф> 0, ..., О, 1). Из формулы A) следует, что <?«/(?«) =
= (ei, e!)=l. Поэтому имеем
Таким образом, мы доказали, что
п—2
F)
Q 2 A)
2. Дифференциальное уравнение и рекуррентные соотношения
для многочленов Гегенбауэра. Чтобы вывести дифференциальное урав-
п —2
нение для многочленов Гегенбауэра, заметим, что rlCt 2 I—-j являет-
является гармоническим многочленом, т. е.
0. A)
Перейдем в этом равенстве к сферическим координатам г, 6, ..., 6„
Оператор Лапласа в сферических координатах имеет вид
где точками обозначены члены, содержащие производные по перемен-
переменным Bk, l^k^n — 2. Поскольку ^ = cos6n^> равенство A) прини-
принимает вид
л2 " — 2 , я — 2
^— Q 2 (cos6n 0 + (и — 2) ctg 6t -^— С 2 (cosen_!
-2)С *

454 ГРУППА ВРАЩЕНИЙ я-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Делая в этом уравнении подстановку cos 6„_j = t, n — 2 = 2р,
получим дифференциальное уравнение для многочленов Гегенбауэра:
Q~V-&-C$(f)-Bp+l)t-!lrC$(f) + H2p + l)Cf(f) = 0. C)
Из уравнения C) получается рекуррентная формула для многочле-
многочленов Гегенбауэра. Продифференцируем обе части равенства C) п. 1.
Сравнивая полученную формулу с аналогичным разложением для СЙ\ @>
получаем
f \(t). D)
Из равенств C) и D) вытекает, что
Ар(р_|_ 1)A __ *»)СР+1 @ - 2рBр-|- l)tCP±\ @ +
= Q. E)
Отметим еще, что из формулы D) вытекает соотношение
F)
Другую рекуррентную формулу для многочленов Гегенбауэра вы-
выведем, исходя из равенства D) п. 1. Перепишем это равенство в виде
где /i(x)? SR"-'-2, и умножим обе части равенства G) на хп. Так
п-2
как rlCj 2 (—1 — гармонический многочлен степени /, то, согласно
п. 3 § 2, многочлен
п-2 ч , д\ИС, 2 (^
Г 1 n + 2/ —2
является гармоническим. Следовательно,

§ 3] ЗОНАЛЬНЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 455
Но г2 = х\ -\-... -J- х„, и потому -х—= ——. Принимая во внимание фор-
OXfi Г
мулу D), получаем после простых преобразований
_ (п - 2) гм (г2 - xl) Cf-x (^jJ. (8)
С другой стороны, по формуле D) п. 1
Сравнивая формулы (8) и (9) и положив в них xn = t, r=\,
п — 2 = 2/?, получим
Заменим в этом равенстве /? на jc —|— 1, / на /— 1 и исключим из ра-
равенств E) и A0) член, содержащий A —?2) C^J2@- МЫ получим сле-
следующее рекуррентное соотношение
Bр -\-l)Cf @ = 2/7 [С? +' (t) — tCf+l (t)]. A1)
3. Частные случаи и частные значения многочленов Геген-
Гегенбауэра. Из равенства C) п. 1, определяющего многочлены Гегенбауэра,
видно, что
q>@=i. A)
Приведем значения многочленов Гегенбауэра для /я = 1, 2, 3:
Cf@ = 2/rf, B)
С?@ = 2р(р + 1)[^ - 2^72"], C)
Далее, из равенства C) п. 1 следует, что в многочлен Гегенбауэра
Ct>m (t) входят лишь степени t, показатели которых имеют ту же чет-
четность, что и т. Поэтому имеем
SO E)
(в)

4S6 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Значение CfmCO) получаем из формулы C) п. 2:
ср ,п)_(-1
Нам понадобится в дальнейшем значение Cf A). Чтобы найти его,
воспользуемся формулой A0) п. 3. Из этой формулы вытекает, что
/-1Cf_1A) (8)
и, следовательно,
/!ГBр) *
Подставив это выражение в формулу F) п. 2, получим
?ш E) - т[
4. Соотношения ортогональности для многочленов Гегенбауэра.
Из установленной связи между многочленами Гегенбауэра и зональ-
зональными сферическими функциями вытекают соотношения ортогональности
для многочленов Гегенбауэра. В самом деле, по формуле A) п. 1
имеем при %—gln
?m(l) = (Tnl(g)el, e,). A)
Таким образом,
где !=#?„ и t1[(g) — матричный элемент представления Tnl(g) (соот-
(соответствующий базисному вектору et). Из соотношений ортогональности
для матричных элементов неприводимых унитарных представлений
компактных групп (см. п. 3, § 4 главы 1) следует, что
где Ьш — символ Кронекера, а
h(n A_
размерность представления Tnl (g) (см. формулу A1) п. 5 § 2).
Из формул A) этого пункта и A0) п. 3 видно, что функции ^[(g
зависят только от координаты %п вектора | = g%n, или, что то же,
от сферической координаты в,^ этого вектора. Координата 6„_! есть
не что иное, как угол Эйлера f%z\ вращения g (см. п. 3, § 1). Пе-
Переходя в равенстве B) к углам Эйлера и используя формулу A0) п. 3,
получаем при 1фш
¦в.
\С?(cos6) Cpm (cosS) sinЩ db — 0,

§ 3] ЗОНАЛЬНЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 457
^ о
где для краткости положено р = —^—. Иными словами,
D)
В случае же 1—т из формул A), B) и C) вытекает, что
I rosfM2 sin ^6 dO яГ Bр + О
cosojj sin о аи — 2^р~ч\A+р)Т2
(мы использовали формулу удвоения для Г-функции). Иначе,
P
Из равенств D) и E) следует, что многочлены
образуют ортогональную нормированную систему на отрезке
[—1, 1] относительно веса о(лг)^A—лг2) 2 •
Обозначим через ?| пространство функций ср(лг), таких, что
\ | ср (х) |2 A — jc2)P~'*~dx < -j- со.
— 1
Система функций F) полна в этом пространстве. В самом деле, из
результатов п. 5 § 4 главы 1 следует, что любая функция f(g) на
группе SO(ri), имеющая интегрируемый квадрат модуля и такая, что
Нъ 1ц ? SO(n-~l), G)
разлагается в сходящийся в среднем ряд Фурье по зональным сфери-
сферическим функциям представлений Tnl(g):
E (8)
Здесь
.,- (9)
Из функционального уравнения G) вытекает, что функция f(g)
зависит лишь от угла Эйлера GjjZi элемента g, /(g) = <pi
При этом из того, что

458 ГРУППА ВРАЩЕНИЙ п-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
следует
\ | ср (х) |s A - х*)"~ *"<?*<+ оо, A0)
—I
т. е. функция ср(лг) принадлежит пространству 81.
Заменяя в разложении (8) f(g) на у(х), а зональные сферические
функции их выражениями через многочлены Гегенбауэра, получаем
после простых преобразований
1 = 0
где
Hi-*f-Tdx. A2)
Ряд A1) сходится в среднем относительно веса о(лг) = A — лг2) 2
и для него выполняется равенство Парсеваля:
5
— 1
5. Разложение пространства гармонических многочленов
В этом пункте мы разложим пространство Iq в прямую сумму под-
подпространств JQnls, инвариантных относительно операторов 7""'(ft), где
h?SO(n—1). В п. 5 § 2 было показано, что пространство Jq
изоморфно фактор-пространству пространства 91"' однородных много-
многочленов степени / по подпространству г35Я"* 1~~2 многочленов вида
г% (х), где г* = х\ +... + х% /, (х) ? 91". ^:
3ft»' = ?"'-f ^"•'~2- A)
С другой стороны, мы показали в п. 8 § 2, что Ып1 является
прямой суммой подпространства г*Шп-1~2 и подпространств х1—8^"—1-s,
состоящих из многочленов вида х1п"shs(x'), где х' = (дг1) ... , хп {),
9ft»' = 2 х1я-'$я-'• * + r29t"-l. B)
Из равенств A) и B) вытекает, что любой однородный гармониче-
гармонический многочлен /г(х) степени / может быть единственным образом
представлен в виде
h (х) = 2 х*- % (х') + г% (х), C)

§ 3] ЗОНАЛЬНЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 459
где hs(x') ? <?J"~If s и /i(x) ? 8ftn> l~2. Применяя к обеим частям
этого равенства операцию гармонического проектирования, мы убеж-
убеждаемся, что
й(х)=2^D~Ч(х'))- D)
5=0
Многочлены H(xlnshs{x')) при фиксированном s образуют под-
подпространство в ф"г. Обозначим это подпространство через JQnls:
?"» = Л(д?-.ф»-1..). E)
Из того, что каждый многочлен h(x), принадлежащий ф"г, может
быть единственным образом записан в виде C), вытекает, что ф"г
является прямой суммой подпространств Sqs, O^ssg/,
5 = 0
Мы знаем, что подпространства x^—sJq"—1- * инвариантны относи-
относительно операторов L (h)f{x)=f(frlx), h?SO(n—l) (см. п. 8 § 2).
Отсюда без труда вытекает, что подпространства tQnls (т. е. гармо-
гармонические проекции пространств xln~s^n~l-s) инвариантны относи-
относительно операторов Tnl(h), h?SO(n—1).
Подпространства JQnls можно определить непосредственно, не при-
прибегая в явной форме к гармоническому проектированию. Вычислим
для этого гармоническую проекцию многочлена xln~shs{xr). Применяя
формулу A5) п. 5 § 2, получаем
^ '
2kk\(n+2l — 4)(n + 2/ — 6)...(n + 2/ — 2k — 2)'
fc=0
Так как hs (x') — гармонический многочлен, то при р ^ 1 имеем
ГхО = 0, где
d2
— оператор Лапласа в (п—1)-мерном пространстве. Но Д = Д'-}-л—2,
Я
поэтому
Л Г V И /"v^l ¦ -— A ^__ О^ A —— С

460 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Мы доказали, таким образом, что
(-
_2k 2) " ' v
Принимая во внимание равенство C) п. 1, можно переписать формулу
(8) в следующем виде:
2
^) (9)
Итак, мы доказали, что пространство ф"/я является простран-
пространством функций вида
6. Построение канонического базиса. Перейдем теперь к основ-
основной цели этого параграфа — построению базиса в пространстве .?)*'
однородных гармонических многочленов степени I от п переменных.
Из результатов предыдущего пункта вытекает, что любой многочлен
h (x) из ф"г единственным образом представляется в виде
1 "-2.
А(х) = 2 '"C
где АЛОбФ
Так как функции hs(xr) принадлежат пространствам §"""'• *, они
допускают аналогичное разложение. Продолжим этот процесс и при-
примем во внимание, что любой гармонический многочлен степени s от
двух переменных jq и лг2 является линейной комбинацией многочле-
многочленов (лг2-)-/jq) и (лг2 — ixi)s. Получаем следующий результат.
Любой многочлен из пространства фп/ единственным образом
представляется в виде линейной комбинации функций вида
n
где rn-j = X\-{-...-\-X%— j VL I = ke^ ki^i . . .^>? kn^^ 0. СИМВОЛОМ
К здесь обозначена последовательность целых чисел (klt ... , ± &n_a).

§ з) Зональные сферические функции 461
Нормирующий множитель Alk выберем так, чтобы выполнялось
условие
$ №„<?)? <* = 1, C)
sn-i
где d\ — нормированная евклидова мера на единичной сфере Sn~l.
Чтобы вычислить этот коэффициент в явном виде, запишем функции
Е' (|) в сферических координатах. Так как ^^=cos 6n_y-_i и ¦п~]~1=
r"-j r"-j
= sinf)nJ_u то
Е? (х) = A'/ll С^+к^ (cos f)n_^) sin
Подставив это выражение в интеграл C) и принимая во внимание,
что
_,... sin
получим
рП J ^
Принимая во внимание соотношения нормировки для многочленов
Гегенбауэра (см. формулу E) п. 4), получаем после простых пре-
преобразований
В частности, если О = @, ... , 0), то
V(n + l — 2)(n — 2)
и потому
—2)Bг + я—2) гГ^-
+ / —2)(л —2) ГС'

462 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Покажем, наконец, что базис Е?(х) в пространстве Jr>nl ортогонален
относительно скалярного произведения
(йь йо= $ *iE)Mi><*5 (8)
sn-i
в этом пространстве. Иными словами, если последовательности К=
= {ki, ... , ±kn 9) и М = (тх, ... , ±тпо) не совпадают, то
О- (9)
s
В самом деле, подставим в интеграл (9) вместо функций Е^.(х) и
В^(х) их выражения по формуле D) и примем во внимание выраже-
выражение для инвариантной меры на сфере S"'1. Тогда интеграл (9) является
(с точностью до постоянного множителя) произведением интегралов
вида
^ eii±kn^mn^d6 A0)
о
и
я и-/-2 n-j—2
S S-
0 ^
(cos 6) Cm *m }'+1 (cos 8) sin kM+mM+n~J" 2 6 d% I
fe ( ) mlm
Если Ау-+1 = ffij+b но Ay 9& nij, то в силу соотношений ортогональ-
ортогональности для многочленов Гегенбауэра интеграл A1) равен нулю. Поэ-
Поэтому, если последовательности K—(ki, ... , ±/г„_2) и M = (mv ...
..., ± tnnj) различны, то хотя бы один множитель в выражении
для (Е^, S^j) равен нулю (при ± /г„_2 Ф~^-П1пЛ в нуль обращается
множитель вида A0)).
Мы построили, таким образом, ортогональный нормированный
базис Е^ (х) в пространстве 1г> однородных гармонических много-
многочленов степени I от п переменных. Этот базис будем называть кано-
каноническим базисом в 1дп\ Иногда удобно считать, что этот базис
упорядочен. Именно, будем считать, что Е^.(х), K=(k0, ... , ±kn^)
предшествует Е^(х), М(/п0, ... , ±тп_%), если найдется такое /,
что /г; = /и;, Osgisgy и kj+l <^/иу-+1 (или ±knJi<^±mn %).
Из построения базиса Е^.(х) ясно, что при /г, = s функция Е^(х)
принадлежит подпространству ф"Ч
7. Разложение функций на «-мерной сфере. Функции Е^.(|),
/C=(Aj, ... , +?„_а) ПРИ фиксированном / образуют ортогональный
нормированный базис в пространстве fenl. Но в п. 9 § 2 было пока-

§ 4] МАТРИЧНЫЕ ЭЛЕМЕНТЫ НУЛЕВОГО СТОЛБЦА 463
зано, что пространство 82 (S") функций на сфере S".'1, имеющих
интегрируемый квадрат модуля, является прямой суммой подпространств
$nl, 1=0, 1, ...
оо
Отсюда вытекает, что функции Е^.(|), где К пробегает всевозмож-
всевозможные последовательности целых чисел K=(k\, ... , ±^„_2). такие,
что /^>^iSs=.. .^Э=^„_2 =s=0, образуют ортогональный нормированный
базис в пространстве С2 (Sn г).
Итак, мы доказали, что любую функцию /(|) из пространства
?2 (S") можно разложить в сходящийся в среднем ряд вида
где
(d% — нормированная евклидова мера на сфере S"л). Как видно из
результатов п. 6, это разложение связано с разложением квазирегу-
квазирегулярного представления группы SO(ri) на неприводимые представления.
Именно, члены разложения C), для которых / имеет фиксированное
значение, принадлежат подпространству $$п1 и, следовательно, эта
группа членов преобразуется по неприводимому представлению Tnl (g)
группы SO(ri).
§ 4. Матричные элементы нулевого столбца
Мы построили в предыдущем параграфе канонический базис в про-
пространстве tg>nl однородных гармонических многочленов степени / от
п переменных. Назовем канонической матрицей представления
матрицу этого представления в каноническом базисе. В этом пара-
параграфе мы рассмотрим элементы «нулевого столбца» канонической
матрицы, соответствующего базисному элементу
Е^(х), О = @, ... , 0)
и выразим их через многочлены Гегенбауэра. Отсюда будут получены
новые свойства этих многочленов.
1. Элементы «нулевого столбца» канонической матрицы. Будем
нумеровать строки и столбцы канонической матрицы представления
Tnl(g) символами К, М, K=(ku ... , ± А„_8), М

464 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Таким образом, элементы канонической матрицы оператора Г"' (g>
обозначаются T"lM(g). Эти матричные элементы являются коэффициен-
коэффициентами в разложении функции Tnt (g) Ем (х) по функциям Ед-(х).
Обозначим через О последовательность @, ... , 0). Покажем, что
матричные элементы t^o(g) и t^jK{g) весьма просто выражаются через
многочлены Гегенбауэра.
Так как t"(g) являются матричными элементами оператора 7"z(g)
в каноническом базисе Е?.(х), то для любого g выполняется равенство
^(g^)=Tnl(g)E'M(x) = J]t"JM(g)^K(x). A)
к
Положим в этом равенстве x = gn@, 0, ... , 0, 1). Значения
легко вычисляются по формуле D) п. 6 § 3. Очевидно, что при
в правую часть этой формулы входят сомножители, равные нулю,
а потому при КФО имеем Е^(|„) = 0. Если же К=О, то по фор-
формуле G) п. 6. § 3 получаем
= A[fl' A). B)
По формуле (9) п. 3 § 3 имеем
г-2) '
а по формуле F) п. 6 § 3
&1 _-|/~Л1Г(я —2)B/ +я=2)"
АО У Г(п +/ —2)(я —2) "
Подставляя эти значения в формулу B), получаем
Подставляя полученные значения Нд-Aп) в формулу A) при x = |n,
находим
Sn-1— У
л г (и— 1) 1
Так как представление Tnl (g) унитарно, то ^5и fe) =
из формулы C) вытекает, что

§ 4] МАТРИЧНЫЕ ЭЛЕМЕНТЫ НУЛЕВОГО СТОЛБЦА 465
Значение коэффициента в формуле C) может быть получено иным путем
из теоретико-групповых соображений. Так как Tnl (g) — неприводимое пред-
представление группы SO{n), то имеет место равенство
3 мо (g) l dg~ ЛГ(я-1) E)
(см. п. 3 § 4 главы I и формулу A1) п. 4 § 2 этой главы). С другой стороны,
из равенства C) п. 6 § 3 легко следует, что
$\Zlm(gln)\2dg=l F)
(по формуле C) п. 4 § 1 интегрирование по группе SO (я) сводится к интег-
интегрированию по подгруппе SO (я — 1) и по сфере S"; поскольку при Л?
? SO (я — 1) имеем Л|„ = |„, а на сфере S"~' функции Е^ (|) нормированы,
получаем равенство F)). Сравнивая равенства E) и F), получаем значение
коэффициента в формуле D).
Из формулы D) легко вывести выражение матричных элементов
#А0(g) через углы Эйлера вращения g. Именно, в п. 3 § 1 было пока-
показано, что углы Эйлера 6"~ , ... , 6"z{ равны сферическим координа-
координатам точки g\n сферы Sn'1. Выражение же Е^(|) через сферические
координаты точки | дается формулой D) п. 6 § 3. Подставляя соот-
соответствующие значения, получаем, что если углы Эйлера вращения g
равны 6^ то
-п-2)B/+я-2)"л~
и-з я-/-а ¦ m . я_,
X О Ст -т. У+' (C0S е»^}-1^ S»11"-'-4 6"Zy_l e±"""-2 1 , G)
где А1М выражается формулой E) п. 6 § 3 и М =
Отметим некоторые частные случаи полученной формулы. Если
М = О — @, ..., 0), то все сомножители в формуле G), для которых
у^>0, равны 1 (C;P(cos6)=l и sin0 6=1). Поэтому
Мы видим, таким образом, что матричный элемент tr^Q{g) канони-
канонической матрицы представления Tnl (g) зависит лишь от угла Эйлера Gjj-J.
Вычислим еще значение %o(g) для слУчая> когда g=gn(<?) — вра-
вращение на угол <р в плоскости (хп, хп_{). В. этом случае все углы
Эйлера вращения g равны нулю, за исключением угла 6?z{> равного <р.
Поэтому из формулы G) следует, что если хотя бы одно

466 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
отлично от нуля, то ^о и?я(<р)]=О. Если же М имеет вид М=(т, 0,..., 0),
то по формуле G) получаем, учитывая формулы E) п. 6 и (9) п. 3 § 3,
1 (/ — т)\ Г (я — 2) Г (n -f- т — 3) (я -f- 2m — 3) v
т\ТA + т + п~~ 2)Г(/ + я — 2) •*
я-2
2. Теорема сложения для многочленов Гегенбауэра. Из опре-
определения матричных элементов вытекает, что для любого элемента g
группы SO(ri) выполняется равенство
м
Обозначим через фе) п.ю декартову координату вектора g 11. При-
Принимая во внимание формулу G) п. 6 § 3, мы можем переписать
равенство A) в следующем виде:
'! Г (я — 2) B14- я — 2) лл
м
"ж IS.»-
Поскольку ^jjo(g) и Е^(|) выражаются через многочлены Гегенбауэра,
равенство B) можно рассматривать как общий вид теоремы сложе-
сложения для этих многочленов. Однако формула B) мало удобна для при-
применения, поскольку выражения #jjjo(g) и S'^d) через многочлены
Гегенбауэра довольно сложны.
Чтобы получить более простую формулу, рассмотрим частный
случай равенства B), выбрав в качестве | вектор со сферическими
координатами 0, 0, ..., б„_2, 6„.л. а в качестве g—вращение на угол <р
в плоскости (хп, xn_i), g—gn(c?).
Вычисляя по формуле D) п. 6 § 3 значение Е1М (|) для вектора
| = |@, ..., 0, 6„_2, е„^), получаем
если шьф0, k^2, и
+m
=лм sin enJ c7i;+m(cos е„_,) c

§ 4] МАТРИЧНЫЕ ЭЛЕМЕНТЫ НУЛЕВОГО СТОЛБЦА 467
если М = (т, 0, ..., 0). При этом
— »имг (п-3\Г(Чи1 Л-т\Л /С — т)\т\(п + 2/—2)(и + 2т -3)
~ М 2 У I "T-WJK
яГ(/+т+я-2)Г(т+я-3)(я-2)-
Значение же ^о [gn (?)] дается формулой D) п. 1.
Нам осталось вычислить ^\ Заметим для этого, что декартовы
координаты точки | @, ..., 6И 2, 0n_i) имеют вид
л- 2,
Поэтому вращение gn{f)~л переводит точку | в точку |г, я-я коор-
координата которой имеет вид
kn= cos ф cos ВпЛ -f- sin 9 sin 6^! cos en_2.
Подставим полученные выражения для Щ, Е^(|) и ^о[й»(9)]
в формулу B) и заменим 6иЛ на 6, 6„_2 на ф и —^—на Р- ^ы получим
Cf (cos G cos 9 -f- sin 6 sin <? cos ф) —
2smГ» Qo + m) (/ — m)l Bw
X Cf ±™ (cos 9) sinm cp qj;^ (cos 6) sin m 6 C^ 2 (cos ф). C)
Формулу (З) называют обычно формулой сложения для многочленов
Гегенбауэра.
Отметим некоторые частные случаи формулы C). Если положить
в ней (]) = () и принять во внимание, что
то получим равенство
Cf [cos (в —?)] =
^ — 1)Bт + 2р—
т
X Cf±™ (cos <p) sin m 9 Cf+™ (cos 6) sin т В. D)
Аналогично, положив ф = у и принимая во внимание, что Cgm+1(O)=O и
Т(р)т\

468 ГРУППА ВРАЩЕНИЙ «-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
(см. п. 3 § 3), получим
Cf (COS 6 COS <J>) =
[г/2]
ГBр—1) VI (-iy»2*«r»(p + 2m)(f —2тIГ(р+т—'/,)Dm + 2p+l) v
Z + 2р)Г(/»—у,)»!
X C?+22™ (cos ?) sin ш <р q>+|« (cos 6) sin *m 0. E)
Если же положить в равенстве C) <р = 0 = т>- и /—m = 2k, то
1
получим выражение Cf (cos ф) через функции Ck 2 (cos ф):
[Z/2]
) У BйIB/-4* + 2р-1)
Х
X
3. Формула умножения для многочленов Гегенбауэра. Умножим
обе части формулы сложения C) п. 2 на выражение Ck 2 (cos ф) sin2/)~^
и проинтегрируем по ф от 0 до тс. В силу соотношений ортогональ-
ортогональности для многочленов Гегенбауэра (п. 4 § 3) получим
я _ I
J Cf (cos 6 cos <p -|- sin 6 sin <j> cos ф) (fh 2 (cos if) sin ip"x ф dty =
yfcwp-i [Г Qo + fe)]2 (/ — fe)l Г B/> + ft — 1) v
Л1ГBр—1)Г(/ + й-|-2р) -^
X Cf+* (cos 9) sin * 9 Cf+* (cos 6) sin * 6. A)
Эту формулу называют формулой умножения для многочленов
Гегенбауэра. В частности, при k = 0 получаем равенство
п
5 Cf (cos 6 cos <j> -f- sin 6 sin 9 cos ф) sin2p ф </ф =
о
Равенство B) имеет простой геометрический смысл. Чтобы выяснить его>
заметим, что зональные сферические функции t^0 (g) можно рассматривать
как функции на сфере, зависящие только от полярного угла в (см. п. 2).
В соответствии с этим будем писать
<оо Се) = <&(«» в).

§ 4] МАТРИЧНЫЕ ЭЛЕМЕНТЫ НУЛЕВОГО СТОЛБЦА 469
По формуле (8) п. 1 имеем (при п = 2р-\-2)
Поэтому формулу B) можно переписать так:
= #0 (cos
у-Т(р) J
где cos f = cos 6 cos о -\- sin 6 sin <p cos ф.
Легко проверить, что выражение в левой части равенства C) является
не чем иным, как средним значением функции <qq(cosy) по (я — 2)-мерной
сфере Sn~s (P, <р) со сферическим радиусом <р и с центром в точке Р, поляр-
полярное расстояние которой равно 6 (т. е. множеству таких точек М сферы Sn~l,
что дуга МР равна о).
Итак, мы доказали, что среднее значение функции f^0 (cos 7) по сфере
gn-a (p^ уу указанного выше вида равно t^o (cos 6) tfjo (cos о).
Рассмотрим теперь некоторые формулы, получающиеся путем пре-
преобразования формулы умножения B). Сделаем в формуле B) подстановку
cos 0 cos <j> -f- sin 0 sin 9 cos ф = cos '(.
Так как
sin ф = [С05(е —У) —c°sTl2 [cosT —cos
' sin 6 sin <p
sin ю'
a 7 меняется от 10 — <p | до 6-j- 9, когда ф изменяется от 0 до -к, то
мы получаем
X[cosT-cos(B+T)F »smTrfT= йГ(^-1)Г(/ + й + 2р) " X
X Cf+* (cos 9) sin2p+ft-19 Cf+* (cos 0) sin2^6. D)
В частности, при ? = 0 имеем
Cf (cos т) [cos @ — 9) — cos T]P * Icos T — cos F + ?)]P * sln T^T=

470 ГРУППА ВРАЩЕНИЙ л-МЕРНОГО ПРОСТРАНСТВА |ГЛ. IX
Применяя равенство A3) п. 2 § 3, получаем при 16 — <р I ^ Т
2отшо1«+*+2р) с<(cosт)Cf±l(cos9)ед(cos6)=
v
A
— 22fc+sp [г (р) Г (р + fc)J- Г B/> + ft - !) 'ч
sin i-C-i sin ' ij3-5- sm |-~л-!:- sin -i-i L
' _ ~ J
'—j/cos 7 — cos в cos о
' \ sin 0 sin <p
а при остальных значениях f на отрезке [0, 2тс] эта сум.ма равна
нулю. В частности, при ? = 0 и [6 — ф|-^^-j- =^6 —J— ф, получаем
21 TtTS^TF ^ (-cos t^ C^ (-cos ^ C^ (-cos 9) ==
яГ Bp — 1) sin % sin „ ' sin ' 9 s'n — к
L ^pri *—, G)
а при остальных значениях f на отрезке [0, 2тг] сумма этого вида
равна нулю.
4. Реализация представлений Tnt(g) в пространстве функций
от л — 1 переменного. В следующем пункте мы выведем интеграль-
интегральное представление для многочленов Гегенбауэра. Чтобы получить это
представление в достаточно простой форме, нам понадобится еще одна
реализация представления Trl(g).
Мы реализовали в п. 2 § 2 представление Tnl (g) группы SO(n)
в фактор-пространстве д\п1/г^Шп' 1~\ где, напомним, Шп1 — пространство
однородных многочленов степени / от п переменных. Было показано
также, что этот фактор-пространство можно отождествить с про-
пространством ф"г однородных гармонических многочленов степени /.
Определим теперь еще одну реализацию представления Ttl(g).
Сделаем в каждом многочлене /(х) из Шпг подстановку хп = 1гпЛ,
где r%—\=xl-{-...-\-Хп—1. Очевидно, что при этой подстановке
многочлен г* = х\-\-...-\-х2п-\-\-Хп переходит в нуль, а следова-
следовательно, и все подпространство r23ft"- '~2 переходит в нуль. В то же
время ни один из многочленов, не принадлежащих г*Ып' 1~~г, не обра-
обращается в нуль при преобразовании
Qf(xlt ..., хпЛ, Хя)=/(дг1, .... хпЛ, ir^i). A)

%Ц МАТРИЧНЫЕ ЭЛЕМЕНТЫ НУЛЕВОГО СТОЛБЦА 471
В этом проще всего убедиться, записав многочлен /(х) в виде
f(x) = (xl +.. - + *«)/i (х) + *nPi (x') + P8 (x'), B)
где
h (x) G ^'!> l~2> pi (x') G э^"- '"'> p«(x') G SR"-'•
Ясно, что если хотя бы один из многочленов Pj (x') или Р2 (хг) отличен
от нуля, то Qf(x)^0.
Итак, мы доказали, что оператор Q устанавливает взаимно одно-
однозначное соответствие между фактор-пространством \Яп1/г*\Яп- г~2 и
пространством Шп1 функций вида f(xu ..., хпЛ, lrnS>- Выясним, из
каких функций состоит пространство W1- Для этого положим в равен-
равенстве B) хп = 1гп \. Мы получим
О/Чх) = *г„.1Р1(х') + Ра(х'), C)
где Рх (х') (= 5R"-1- l~\ Pg(x') ^ 5R"-1-'.
Обратно, любая функция вида C), где Р, (х') ^ 91я" '¦1л и
Р2 (х') ^ Шп1-1, принадлежит пространству W11; она является образом
многочлена х„Р4 (х') -\- Р2 (х').
Итак, пространство W1' состоит из функций вида
*>B.,Pi(x')-r-P,(x'), где P.CxOGW-1. P^xOG^"-'-
Поскольку пространство W1 естественным образом изоморфно
фактор-пространству SR^Jr^tR"- ', в Щп1 можно реализовать представ-
представление Т (g). Именно, положим
ЯГ1 (g) F (х') = QTnl (g) Q+F (x'), D)
где F (x') ^ 51"', оператор Q имеет указанный выше смысл, a Q —
оператор, переводящий функцию /7(х') пространства W11 в соответ-
соответствующий ей смежный класс фактор-пространства Шп1/г^Шп- '~а (т. е.
в смежный класс, содержащий, например, многочлен хпР^ (х') -\- Р2 (х')).
Простой подсчет, провести который мы предоставляем читателю,
показывает, что операторы представления Rnl (g) имеют следующий
вид: если h(^SO(n—1), то
Rnl (h) F (x') = F (h V). E)
Если же g=gn(<?) — вращение на угол <р в плоскости (хп, хпЛ), то
Rnl Ып (?)] F(Xi, ..., хп^) = F(xlt ..., хп^, хп_х cos 9 — lrn^ sin <j>)=
= (xn_! sin <j> -f- lrn t cos <j>) Pt (дг!,..., x^, x^i cos 9 — irn_x sin 9) +
+ P2 (x1( ..., j;^_8, j;n_! cos 9 — trnj sin cp), F)
где F (x') = ir^P, (x') + Pa (x').

472 ГРУППА ВРАЩЕНИЙ я-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
5. Разложение пространства 91"'. В п. 8 § 2 было доказано, что
При отображении Q подпространство г'ЭГ-' а переходит в нуль, а
подпространства х^-^"-т — в подпространства (/г„_1)/"тф"~'1' от. От-
Отсюда вытекает, что §("' является прямой суммой подпространств
Z!"> m, состоящих из функций вида (irn^1 mhm (x'), где
1"
Так как подпространства х'""^"-1- в 91"' инвариантны отно-
относительно операторов Tnl(h), h^SOQi—1) (см. п. 8 § 2), то под-
подпространства (//¦n_i)'~'?B~1' m B ^"' инвариантны относительно опера-
операторов Rnl (h), h (^ 50 (и — 1). В этом нетрудно убедиться и непо-
непосредственно, заметив, что
Rnl СО ШгпЛ mhm (х')] = {irnj'mhm (ft »x').
Таким образом, мы разложили пространство Ш в прямую сумму
подпространств (irn_i)l~mlQn~~1-m, инвариантных относительно опера-
операторов Rnl (И), h?SO(n—1). Легко видеть, что сужение представле-
представления R"l(h) подгруппы 50 (п—1) на подпространство Aгп_хI~т1д>п~1-т
изоморфно неприводимому представлению 7"'1-т(/г) этой подгруппы.
6. Инвариантное скалярное произведение в пространстве 21"'.
Построим теперь в пространстве W11 скалярное произведение, инва-
инвариантное относительно представления /?"' (g), g ^ 50 (п). Представле-
Представление Rnl (g) эквивалентно представлению
ffl(g)f0O^f(g^) A)
группы SO(ri) в пространстве $ однородных гармонических много-
многочленов. Пусть Fi(\) и /^(х') — функции из пространства W1. Возьмем
многочлены /i(x) и Д(х) из пространства 5R"Z, такие, что Qfj(x) =
= Fj(x'), j= 1, 2. Тогда инвариантное скалярное произведение в про-
пространстве W11 определяется формулой
\ Н/Л1)ЩШ<11 B)
sn-i
(Hf(x) — гармоническая проекция многочлена/(х)).

# 4]
МАТРИЧНЫЕ ЭЛЕМЕНТЫ НУЛЕВОГО СТОЛБЦА
473
Нашей целью, однако, является получение иной записи для ска-
скалярного произведения (Ff, F$). Именно, в силу равенства B) п. 5
любая функция ^(х') на Шп1 может быть представлена в виде
F&) = S (irn^lmhm(x'), C)
m=0
где hm (x') ? ?>"" *¦т. Мы хотим выразить (Fu Fs) через функции
h'm (х') и fi'm (x'), входящие в разложение C) функций Ft (xr) и F9 (х)-
Сначала рассмотрим сужение представления Rnl(g) на подгруп-
подгруппу SO (п—1). Это сужение задает в каждом из подпространств
(*r#i-i)'~"M?"~1'm представление, эквивалентное неприводимому пред-
представлению Tnl-m(h) группы SO(n—1). Но инвариантное скалярное
произведение для представления Тпл'т{К) имеет вид
?!, «рО= \
(см. п. 7 § 2). Отсюда без труда получается, что искомое инвариант-
инвариантное скалярное произведение в пространстве §1"' имеет вид
(Fu /7»)= S «m J Л^'(Г)^Ч10^|' E)
т = 0 5"~2
(см. п. 3 § 3 главы I).
Нам осталось найти коэффициенты ат. Возьмем некоторую функ-
функцию F(xr) = (lrnl)lmhm(x), где ftm(х*) 6 Ф'"• Мы имеем
(F, F) = am ^ |Лт(SOILS'- F)
Но по формуле A) п. 4 F(x') = Q[xtn~mhm(x')], а гармоническая
проекция многочлена xln~~ mhm (х') вычисляется по формуле (9) п. 5 § 3:
й^(х'). G)
Используя формулу G), получаем следующее равенство:
л— 2
"I — m
(8)
где х' = (х17 ...
— 1.

474 ГРУППА ВРАЩЕНИЙ я-МЕРНОГО nPOCTPAHCtBA [ГЛ. IX
Нормируя вектор х, получим вектор
X'
?'__
В силу однородности многочлена hm(x') имеем
(Г). (9)
Наконец, примем во внимание, что нормированная инвариантная мера
rf| на сфере Snl выражается через координату \п и нормированную
инвариантную меру d\' на Sn~2 по формуле
г
Отсюда вытекает, что интеграл в правой части равенства (8)
может быть записан в виде
X S 1 й„ F01st dg'- (H)
В силу соотношений нормировки для многочленов Гегеибауэра (фор-
(формула E) п. 4 § 3) получаем из формул (8) и A1)
Г [~)У K(i — mMn + l+m — 3)!
S Г- (I2)
• Отсюда вытекает следующее выражение для инвариантного хжа-
лярного произведения в пространстве W11:
х i; (/—1я)!(я+/н-1и—з)] ^ ^'(Г)^1чг)^г. (is)
m = 0 5П
где
(мы применили здесь формулу удвоения для Г-функции).

§ 4] МАТРИЧНЫЕ ЭЛЕМЕНТЫ НУЛЕВОГО СТОЛБЦА 475
Из формулы A3) вытекает, в частности, что
hm (x')> = 7/ / j^-i X
X (/ - «)!(/+ п + 1Я-3)! J ^(iOMIOrfi'. A5)
Для доказательства достаточно принять во внимание формулу A3)
и попарную ортогональность подпространств Aг„_%I' "Чг)"'1-т.
Наконец, построим в пространстве W11 ортогональный нормиро-
нормированный базис относительно скалярного произведения A3). Из равен-
равенства B) вытекает, что в качестве такого базиса можно выбрать функ-
функции вида
Ед!(х')=ОЕд!(х), A6)
где Ё.М (х) — построенный в п. 6 § 3 ортогональный нормированный
базис в пространстве ф"'.
Функции Ejh(x') легко записать в явном виде. Для этого вспом-
вспомним, что по формуле (8) п. 5 § 3 функции
-m)irfc-2 +
JC
[г \пт
лежат в одном и том же смежном классе по г^ЗГ- '""*. Поэтому опе-
оператор Q переводит их в одну и ту же функцию. Следовательно,
(П)

476 ГРУППА ВРАЩЕНИЙ л-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Применяя равенство A7) к формуле A6), получаем при М =
= (т, тг, ..., db /га„_2) (см. формулу D) п. 6 § 3)
1 — 2
X
" —3 _ л — ]— 2
>=1 У' М
B/+я —2)Г(я
l
2
где х' = (х!, ..., xnJ) и Mt^Cwa, ..., ±тп_ъ).
Очевидно, что ElM (x') (= (^„j)'-^"-1-m, и потому
Г
х
7. Интегральное представление многочленов Гегенбауэра. Мы
можем теперь вывести интегральное представление для многочленов
Гегенбауэра. Воспользуемся для этого равенством F) п. 1 § 3, записав
его в виде
cf <cos ?)=Ч *°°
где я = 2/7-]- 2 и g—gn (<p) — вращение на угол <р в плоскости
(хп, xn_j). Но в силу унитарности представления Tnl (g) имеем
, Slo). B)
Из равенства B) п. 6 вытекает, что формулу B) можно переписать
в виде
Чо \Еп (?)] = (Rnl lin (?)] % Е^>. C)
Так как О = @, ..., 0), то 5^A0=1-
Применяя формулу A9) п. 6, получаем
tm г„ Ш [«Г (Sjp + 1) Г 7
х

§ 4] МАТРИЧНЫЕ ЭЛЕМЕНТЫ НУЛЕВОГО СТОЛБЦА 477
Из формулы A8) п. 6 следует, что
"О l*' — Т(р+1) | Г (l + 2p)l\
и потому
I?,;„ t
J С*»-!sin<р + irB_, cos <р).
Подставим это выражение в формулу D) и перейдем к сферическим
координатам. На сфере Sn~* имеем гп^ = 1 и jcn^i = cos 0П^2, а
• • • sin
Поэтому, учитывая равенства A) и D), получаем
1С
С! (cos <р) = 2^+/^, J (cos «p -1 sin? cos 0/ sin2"'4 d%. F)
б
Полученное интегральное представление многочленов Гегенбауэра
является частным случаем более общей интегральной формулы. Чтобы
вывести ее, воспользуемся равенством
Ко \ЕпШ = (fnt [gn (?)] %, Е'м). G)
Как было показано в п. 1, если М=(т1, ..., ±тп_$) и /щфО,
т0 Ко Г^я (?)] == 0- Поэтому мы можем считать, что М = (т, 0,..., 0).
-В этом случае по формуле (9) п. 1 имеем
sT). (8)
Сравнивая равенства G) и (8) и используя для вычисления ска-
скалярного произведения в формуле G) равенство A5) п. 6, получаем
+ ^(COS<p)= ~ — X
»»\ T 2/n+i Y т. Г (р -f- т) /ГГ Bp -\- m—1)
X I (cos <p — i sin <f cos б)' C^~  (cos 0) sin2^1© d6. (9)

478 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Совершенно аналогично из соотношения
выводится, что
sinm <?Cf+? (cos ш) == ——i ±1 X
X I (cos ? + / cos 6sin<tfcf~? ( cos6 с°7 +;|sin f) sin^edO. A0)
0
Сделаем в интеграле A0) подстановку
Мы получим
cos 6 cos ф -f- i sin ф
! ! L_ ;== COS T
costp-|-*cos6 sin© ''
(cos 9) = ——^ 1± X
2m+l У -кТ (p + m) (I — m)\T Bp + m — 1)
it ji^
X ] (cos <p — г cos ysin«p)"' *PCJ^ (COs y) sin^ 'y d-(. A1)
и
При /и = 0 получаем отсюда
С? (cos <р) = 2?%^7Г J ^cos V ~'' cos ? sln"P^^ sin2P ' Т rfT- (l2)
Отметим еще частный случай формулы (9). При <р = -=-, принимая
во внимание формулу G) п. 3 § 3, получаем
5'С^~Т (COS 6)
L 4- i-\ Г ( p + m + k +
8. Связь между многочленами Гегенбауэра и присоединенными
функциями Лежандра. Полученное в п. 7 интегральное представле-
представление многочленов Гегенбауэра позволяет установить связь между этими
многочленами и присоединенными функциями Лежандра. Положив
в формуле (9) п. 7 р==-^, получим
I
Ci (cos <p) = ~ f (cos <p — i sin <f cos 6)' dB. A)
= ~ f

§ 4] МАТРИЧНЫЕ ЭЛЕМЕНТЫ НУЛЕВОГО СТОЛБЦА 479
Сравнивая это равенство с формулой A6) п. 9 § 4 главы III, убе-
убеждаемся, что
C2(cos<p) = P,(cos<p). B)
Таким образом, многочлены Лежандра являются частным случаем много-
многочленов Гегенбауэра, соответствующим значению р=~.
Применим теперь рекуррентную формулу F) п. 3 § 3. Мы полу-
получим для любого натурального р
\_
dtP '
Так как по формуле D) п. 9 § 4 главы III имеем
' 1уч — 1Ч\ dtl
то
d(P+l
или, иначе,
где q — полуцелое, а / — целое число, q^-^, / ^ 0.
По формуле A3) п. 9 § 4 главы III имеем
Сравнивая это равенство с формулой D), получаем
или, иначе,
*¦ '

480 ГРУППА ВРАЩЕНИЙ п-МЕРНОГО ПРОСТРАНСТВА (ГЛ. IX
Согласно формуле E) это равенство можно переписать так:
-а . G)
Из полученного выражения для Cf (t) сразу следует, что
— 1
Для доказательства достаточно подставить вместо С/ (Q выраже-
выражение G) и / раз проинтегрировать по частям. Проинтегрированные
члены обращаются в нуль при подстановке пределов интегрирования.
Рассмотрим теперь случай, когда р — целое число. Положим в
равенстве (9) п. 7 р~ 1 и сделаем подстановку cos <р -— / sin <p cos 6 = г.
Мы получим
=l±L \ гЫг = ^Ш^. (9)
2i sin «в J sin ф к '
1
sin ф
Применяя рекуррентную формулу F) п. 3 § 3, находим
sin?
Равенство A0) можно переписать так:
Здесь р и / — целые неотрицательные числа.
При р = 0 многочлены Гегенбауэра обращаются в нуль. Вычислим
теперь lim Г(р) С? (cos <p). Для этого умножим на Г(р) обе части ре-
куррентной формулы
/С? (cos (р) = 2^ [cos <f Cf±1 (cos f) — C?±2 (cos <p)]

§ 4] МАТРИЧНЫЕ ЭЛЕМЕНТЫ НУЛЕВОГО СТОЛБЦА 481
(см. п. 3 § 3) и перейдем к пределу при р—> (). Принимая во вни-
внимание выражение (9), получаем равенство
^-, A1)
которое также можно переписать в следующем виде:
= ()
р-»о р I
9. Некоторые разложения по многочленам Гегенбауэра. Фор-
Формулу (9) п. 7 можно истолковать как выражение коэффициентов
Фурье при разложении функции (cos <р — i sin <p cos 0/ по многочле-
многочленам Cm 2 (cos 6). Принимая во внимание формулы A1) и A2) п. 5
§ 3, получаем
(cos <р — I sin <f cos 6/ =
Л у (-2Q"Bm + ijp-l)r(p+m) я rf+m . , v
2," ГBр + / + т) sin <PU_m(coscp)X
XCrV2(cos6). A)
Отметим некоторые частные случаи полученной формулы. Пола-
Полагая в ней tp = ~, получаем
г1/,
Далее, полагая 6 = 0 или и, находим
X Г Bр + «г - 1) sin <fCf+% (cos <p). C)
Наконец, перемножим разложения A) при /=/t и /=/2 и приме-
применим к левой части получившегося равенства это же разложение при
/=/i-j-4- Умножив обе части равенства на sin2^6 и проинтегриро-
проинтегрировав по 6 от 0 до я, получаем, в силу соотношений ортогональности

482 ГРУППА ВРАЩЕНИЙ л-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
для многочленов Гегенбауэра, следующее соотношение:
Cph+h (cos <р)=-УА
X ^o (р + 1
X Cf,tftfc (cos <p) Cf;Lfcft (cos T). D)
10. Другие интегральные представления многочленов Геген-
Гегенбауэра. Мы использовали для вывода интегрального представления
многочленов Гегенбауэра реализацию представлений Vй (g) в про-
пространстве W1'. Другие интегральные представления возникают, если
реализовать эти представления в пространстве ф"'. При такой реа-
реализации мы имеем
$ [>&?- (О
sn-i
Но по формуле G) п. 6 § 3
я —2)B/+п—2)
п-2
а оператор Tnl [gn (<р)] переводит функцию Q (cos 6„ л) в
—2
Tnl [§•„(?)] Q2 (cos6n .,) =
Л— 2
= Q 2 (cos 6П_, cos <f -f- sin 6„_, sin ip cos en_g).
Поэтому
Г(и + /— 2) (и — 2) Л
n-2 я^2
X J Ci 2 (cos 6n_, cos <p + sin bn_t sin ? cos 6„ _2) Q 2 (cos en_0 d\. B)

§4]
МАТРИЧНЫЕ ЭЛЕМЕНТЫ НУЛЕВОГО СТОЛБЦА
483
Перейдем к сферическим координатам и подставим вместо tOo [gn(.f)]
выражение A) п. 7. Заменяя и —2 на 1р, Bn_t на 6 и 6„ 2 на ф, по-
получаем
Cf (cos <p) =
^t? V С
Cf(cos б cos <f + sin 6 sin <p cos ty) X
X Cf (cos 6) sinзр б sin3-3-* ф <ffl rff C)
В справедливости формулы C) можно убедиться также, разлагая
Cf (cos б cos cp -j- sin 6 sin cp cos <}>) по теореме сложения и почленно
интегрируя полученное выражение.
Точно так же, как и C), выводится формула
Cf(cos 6 cos <p —|— sin б sin cp cos <}>) X
X Ci'lm (cos 6) sin p+ б Cm (cos <{)) sin'
Предоставляем читателю получить ее из равенства
. D)
11. Некоторые интегралы, содержащие многочлены Гегенбауэра.
Интересные интегралы, содержащие многочлены Гегенбауэра, полу-
получаются, если вычислять зональную сферическую функцию <oo(g) не
в сферических, а в бисферических координатах. Последние опреде-
определяются равенствами:
Xi = sin a sin 8m t... sin ди
jf2 = sin a sin 6m л ... cos 6t,
: sin a cos 6m i,
: cos a sin % m
sin
0)
где
B)

484 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Легко проверить, что нормированная инвариантная мера на сфере
iS*1 выражается в бисферических координатах следующим образом:
d\ =—-=^ sinm~xa cos n~m~1 a sinmi6m^ ... sin
X sin "" "-* % m^ ... sin ^ da de,... dbm , d<J», ... d%^. C)
Вычислим в бисферических координатах интеграл D) из п. 7. Так
как на сфере S"^ имеем г„_] = 1 и xn_i = cos a cos tyn^.m з, то, учи-
учитывая формулы A), D) и E) из п. 7 и равенство C), получаем
2
Cf (cos T) =
 л
Х^ J(cosif> — / sin cp cosacos^)' sinm ^acos2" masmxom~'l^d^da D)
о о
(мы выполнили здесь интегрирование по координатам Bt,..., 8тЛ и
Проинтегрируем теперь по <[>. Для этого вынесем сначала за
скобки (cos3 cp^f- sin3 cp cos3 a)'''2 и положим
m = 2p—2g, cosy — cos p,
у cos2 <f -\- sin2 <f cos2 a
sin <p COS a . o
— Y . = sin p.
V cos2 <f -)- sin2 <f cos2 a
Применяя формулу F) из п. 7, получаем
X V С? A/Г-1 ^°Sy2-==) (cos2 cp + sin3 cp cos3 ay X
J \У cos8 if + sm2i? cos2 a/
X (sin аK^г » cos3? a da. E)
Отметим частный случай формулы E). Так как lim Г (<?¦) Су (cos ср)=
0
= —7~~^~» т0 ПРИ 9==:® формула E) принимает такой вид:
С/ (COS <fj_ Г2(/,)Г(/+1) 3 УМ, cos2<f+ sin2 if cos2a )
X (cos2 <f + sin3 cp cos3 a)T cos3^1 a do.. E')

§ 4] МАТРИЧНЫЕ ЭЛЕМЕНТЫ НУЛЕВОГО СТОЛБЦА 485
Здесь Т[ (х) — многочлен Чебышева:
Tt (х) = cos (/ arc cos х).
Отметим следующий интеграл, обобщающий интеграл E) из п. 5
§ 8 главы III. Если l-{~m-\- n = 2g, где g—целое число, и если
существует целочисленный треугольник со сторонами /, т, п, то
D(I, т,п,р)= \Cfi (х) Срт(х)Срп(х)A -
В противном случае интеграл F) равен нулю.
Обращение в нуль интеграла F) в случае, когда 1-\-т-\-п не
является четным числом, вытекает из того, что функция С%(х) имеет
1
ту же четность, что и л, а интеграл ^<p(x)dx равен нулю, если
функция ср (х) нечетна. Если не существует треугольника со сторо-
сторонами /, т, п, то интеграл F) равен нулю в силу соотношений орто-
ортогональности для многочленов Гегенбауэра.
Рассмотрим теперь случай, когда /-)- m-\-n = 2g, где g—целое
число, причем существует треугольник со сторонами /, т, п. Прове-
Проведем в этом случае доказательство формулы F) с помощью индук-
индукции по /. При /=0 имеем m = n — g, а потому формула F) прини-
принимает вид
rwr, ч frW/ мв/, \P-~9 j
D{0,n,n,p)= \[(*{х)\Ч\-х) *dx=
Справедливость формулы (б) в этом случае следует из равенства E)
п. 5 § 3.
Предположим теперь, что формула F) справедлива для всех нату-
натуральных чисел, меньших /. Применим к интегралу F) рекуррентную
формулу A0) из п. 3 § 3:
сначала для замены Cf(x), а потом для замены хС%(х). Мы получим
/, m, n,p)= (P + ll^p1l%+l)D(l- 1, т, п+ 1,
2 D у__2> т> п>р)

486 ГРУППА ВРАЩЕНИЙ л-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Подставим в правую часть вместо D(l—\, т, п~\-\,р) и т. д.
их выражения по формуле F) (что можно сделать по предположению
индукции). После простых преобразований получим выражение F) и
для D (I, т, п, р).
Несомненно, формула F) связана с кронекеровским умножением предт
ставлений группы SO(n) и дает выражение одного из коэффициентов Клеб-
ша-Гордана для этого произведения. Было бы весьма интересно построить
общую теорию кронекеровских произведений для представлений группы
50 (и).
В силу соотношений ортогональности для функций Гегенбауэра
получаем из формулы F) следующее разложение:
1+т
[Ш g + p)(n + 2р)
п=\1-т\
где l~\- m-\-n = 2g, а сумма распространена на значения п, имеющие
ту же четность, что и 1-\-т.
12. Производящая функция для многочленов Гегенбауэра.
Мы доказали в п. 8, что
2PTlP+4r\ dtP
Пользуясь этим равенством, легко найти производящую функцию для
многочленов Гегенбауэра. Именно, в п. 4 § 8 главы III было пока-
показано, что
A — 2th 4- /г4)- 1/2 = 2] Рп (t) hn.
Продифференцируем это равенство р раз по t и применим формулу
A). Мы получим
1 • 3.. .{2р— 1)A — 2th + Л9)~Р ~ 1/2 =
ОО / t . СО
п=р л=0
Но в силу формулы удвоения для Г-функций
'2PT{p+i)
— Щ

§ 5] СФЕРИЧЕСКИЕ ФУНКЦИИ И ОПЕРАТОР ЛАПЛАСА 487
и потому мы имеем при натуральных р
со
A __ 2th -j- /г3)- р -1', = 2 Срп +1/2 @ /г'. B)
п = 0
Равенство B) служит для определения многочленов Гегенбауэра
с любым индексом X. Именно, полагают, по определению,
A _ Ш + й3) х = ? С« (О Л"- C)
п = 0
Можно показать, что выведенные выше рекуррентные соотношение,
дифференциальное уравнение, интегральное представление и т. д.
сохраняют силу для многочленов Гегенбауэра с любым индексом X.
Из разложения C) вытекает
с?+*(*) = |] cl{t)cl-n(t). D)
п = 0
Чтобы убедиться в справедливости этого равенства, достаточно пере-
перемножить разложения C) и
* = ? С (О А™
т = 0
после чего сравнить коэффициенты при одинаковых степенях h.
§ 5. Сферические функции и оператор Лапласа.
Полисферические функции
В нашем изложении сферические функции возникли при выборе
базиса в пространствах неприводимых представлений класса 1 группы
SO (ri). Здесь будет изложен другой подход к сферическим функциям,
связанный с разделением переменных для оператора Лапласа в сфе-
сферических координатах. Кроме того, будут построены другие системы
координат на сфере, в которых оператор Лапласа допускает разде-
разделение переменных. Это приводит к иному выбору базиса, связанному
с полисферическими функциями.
1. Оператор Лапласа на сфере. Выразим оператор Лапласа
дх\ ~т~ •"" ~т~ ^s
в сферических координатах. Известно, что ¦ если в ортогональной
системе криволинейных координат в Еп дифференциал длины дуги
имеет вид
ds* = ^piA}(iil, ..., un)du% A)
i

488 Группа вращений «-мерного пространства (Гл. ix
то оператор Лапласа в этой системе координат выражается формулой
д_± \ JLA-JL B)
где
A =f{ А;. C)
1 = 1
При этом инвариантная мера в системе координат щ, ... , ап имеет
вид
dx = Adut ... dun.
Применим это утверждение к сферической системе координат
в евклидовом пространстве Еп. Из формул A) п. 1 § 1 легко следует,
что в этой системе
ds2 = df- -\- f- йб„ _ 1 -f- r2 sin2Gn _ \d%. _ 2 -(-••• ~\~
-\- г3 sin36n 1... sin302d6f. D)
Поэтому оператор Лапласа в сферических координатах имеет сле-
следующий вид:
""' ~г r2sin26n_, ... sin2"^ ~Щ" ^
Если функция /(х) в ?¦„ зависит лишь от угловых переменных,
то оператор Лапласа от /(х) на единичной сфере выражается фор-
формулой Д/(х) = Д0/(|), где
Оператор До называют угловой частью оператора Лапласа Д или,
иначе, оператором Лапласа на единичной сфере S" 1.
Можно показать, что оператор До перестановочен с операторами
квазирегулярного представления
(это вытекает из более общего утверждения о перестановочности
оператора Лапласа Д с движениями я-мерного евклидова пространства).

§ 5] СФЕРИЧЕСКИЕ ФУНКЦИИ И ОПЕРАТОР ЛАПЛАСА 489
Так как оператор До перестановочен с операторами представления
L (g), то сужение До на пространство HQnl неприводимой компоненты
Tnl (g) представления ? (g) кратно единичному оператору:
* («. о/а), /(I) е &"¦ со
Чтобы вычислить коэффициент Х(л, /), выберем в подпространстве
,?)"' функцию Sii(|), где М = {1, I, ..., I). В силу формулы D) п. 7
§ 3 функция Ejvi(!) имеет в этом случае вид
n_, ... sinV-
Подставляя это выражение в формулу G) вместо /(|) и используя
выражение F) для До, получаем Х(п, [) = — 1A-\-п—2).
Итак, мы доказали, что все функции /(|) из подпространства ,?>"'
(т. е. значения на сфере Sni однородных гармонических многочленов
степени /) являются собственными функциями оператора Лапласа Д„,
соответствующими собственному значению Х = — 1A-\-п — 2).
К этому же выводу можно прийти иначе.
Если /(|) ^ ?)"', то rlf(x/r) является однородным гармоническим
многочленом степени /. Таким образом,
Переходя к сферическим координатам и используя формулу
(см. формулы E) и F)), получаем искомый результат.
2. Полисферические координаты. Было показано, что все
функции из пространства .?>"' являются собственными функциями
оператора Лапласа До- Выбор базиса Е^(!) в .?>"' связан с тем, что
он состоит из произведений функций, каждая из которых зависит
лишь от одного переменного. Однако этот выбор не является един-
единственным — на сфере есть и другие координаты, в которых оператор
Лапласа До допускает разделение переменных. Опишем один класс
таких координат — полисферические координаты, частным случаем
которых являются сферические координаты.
Рассмотрим некоторое дерево с п вершинами. Назовем корень
дерева вершиной нулевого ранга; вершины, непосредственно соеди-
соединенные с корнем, — вершинами первого ранга и т. д. Каждой вершине
дерева поставим в соответствие декартову координату xk и пере-
перенумеруем эти координаты следующим образом. Координату нулевого
ранга (т. е. соответствующую корню дерева) обозначим лг0, коорди-
координаты первого ранга — через х01, ..., xos, координаты второго ранга,

490
ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА
1ГЛ. IX
для которых соответствующие вершины соединены с координатой
х„к, — через Xoki, xOki, ... , xokm, и т. д.
Упорядочим координаты, считая, что координаты большего ранга
предшествуют координатам меньшего ранга, а координаты одина-
одинакового ранга упорядочены лексикографи-
лексикографически. Например, для дерева, изображен-
изображенного на рис. 8, координаты упорядочи-
упорядочиваются так:
..л
fTX
Ко-
Назовем координаты видал"о< ..л »
подчиненными координате xOi ... t
a /s
дующей за
В этом случае
...у -
ординату xOj ... у назовем существенно
предшествующей координате х01 ... i ,
если m^s и jk = ik при 1<^<s—1,
xoi ... i называют существенно после-
послеВведем еще следующие обозначения. Число вершин, существенно
предшествующих jc0» ... г . обозначим через pt .. ,- , а число вершин,
1 т I'm
подчиненных вершине Xoi ... г , — через qi ...-, .
Пусть xoi ... «• — одна из вершин ненулевого ранга. Поставим ей
в соответствие вращение
на угол <р = (
в плоскости
Xi = Xi COS cp — Xj Sin cp,
x'j = x-t sin cp -j- jcycos cp,
где для краткости положено л;,- = Хы t и х,- = дго/ i •
1 * т~\ J 1 " ' т
Обозначим через х0 точку на сфере, соответствующую коорди-
координатной оси OXq и положим
где произведение распространено на все вращения ^(ср« ... j ), соот-
соответствующие вершинам дерева, причем эти вращения расположены
в порядке следования координат. Например, для рис. 8 имеем
х = g (fn) g (fie) g Ы) g(?i)g (f e) g (f з) x0.
Выражение координаты
... j
через углы <fг ... / имеет сле-
следующий вид. Обозначим через Рд ... у множество координат, под-
подчиненных координате xoj ... j , через Rj ... j — множество коор-
координат, существенно последующих за ней, а через Sj ... j mho-

§ S] СФЕРИЧЕСКИЕ ФУНКЦИЙ И ОПЕРАТОР ЛАПЛАСА 491
жество координат, которым подчинена Xoj ... j ¦ Тогда имеет место
равенство
= II cos9l ,m ]I sln<p* *, B)
-'i ¦ Js h Js h • Js h >s
без труда выводимое из формулы A).
Итак, каждому набору углов {ср,- ... i } соответствует точка х
единичной сферы. Обратно, легко показать, что для любой точки х
сферы Snl найдется набор углов {<р{ ... ,• }, для которого спра-
справедлива формула A).
Разумеется, углы {<рг ...» } неоднозначно определяются точкой х.
Но если наложить на них указанные ниже условия, то почти каждой
точке х сферы S"^1 будут взаимно однозначно соответствовать углы
{?« ... i }¦ Эти углы мы и будем называть полисферическими коор-
координатами точки х (они зависят от выбора дерева и соответствия
между точками дерева и декартовыми координатами).
Сформулируем теперь условия, налагаемые на углы {<р; ... ,- }.
а) Если pi ... ,- = 0 и qi . _ _ ,• = 0, т. е., если у вершины
xoi ... i нет ни подчиненных, ни существенно предшествующих, то
C)
б) Если pti ... im = 0, a qit... im фО, то
0«Pi1...«m<«- C')
в) Если pti ... im Ф 0, a ^ij ... im = 0, то
г) Наконец, если р,- . ; iO и о,- / ф0, то
7 \ щ I'm
Читатель легко проверит, что почти каждой точке сферы (т. е.
за исключением точек, заполняющих множество меньшей размерности)
соответствует один и только один набор чисел { уi± ... ijn }, лежащих
в указанных границах.

492 Группа вращений л-мерноГо пространства [Гл. tx
Из определения полисферических координат легко вывести их
связь с декартовыми координатами. Например, для дерева, изобра-
изображенного на рис. 8, имеем:
х„ = cos <рз cos f.2 cos <pi,
xm — sin <p3,
xm = cos <pз sin <pa cos <p2I,
JC01 = COS cp3 COS <p4 Sin cpi COS cpIS COS cpj,,
¦^021 = cos <p3 sin <p2 sin cp21,
¦^012 = cos cp3 cos <pe sin cp, sin <ри,
xm = cos <p3 cos cp2 sin T| cos <рн sin <pu.
Обычные сферические координаты являются частным случаем поли-
полисферических. Они соответствуют дереву
3. Дифференциал длины дуги и оператор Лапласа в поли-
полисферических координатах. Пользуясь выражением B) п. 2, связы-
связывающим декартовы и полисферические координаты, легко получить
вид дифференциала длины дуги в полисферических координатах.
Он имеет следующий вид. Каждой координате xoi ... г поставим
в соответствие выражение
!„
(¦)¦
Если существует координата дт0,- ... ,- , то надо подставить это
выражение в скобку для координаты xoi ... г , имеющую коэффи-
коэффициент cos3ср,- .../ . Если же такой координаты нет, то выражение
A) подставляется в скобку для координаты хы ...,• , имеющую
коэффициент sin3cp,- ...,• . После того как все подстановки выпол-
выполнены, оставшиеся пустыми скобки приравниваются нулю.
Например, для дерева, изображенного на рис. 8, имеем
= d<?l + cos3cp3 { dfl + sin 3
-f cos\.2 [df\ + sin3?! (d<p}a + cos4 <p,4d<ffi)] }•
Поскольку выражение, получающееся после раскрытия скобок
в rfs3, не содержит членов с произведениями координат, полисфери-
полисферическая система координат ортогональна:

§ 6) Сферические функции и оператор лапласа 493
Значение коэффициентов Л,- ... tm определяется при этом фор-
формулой *)
Из выражения B) вытекает, что инвариантная мера на сфере S" '
выражается в полисферических координатах формулой
где произведение распространено на все вершины дерева, имеющие
ненулевой ранг. Это выражение может быть записано в следующем
виде:
Л = Исо8Р|'-*-9|1...|/11йпв|1-1»911.. .v/%, ...v E)
где произведение распространено на все углы, соответствующие дан-
данному дереву (относительно обозначений pi .i и qi ...,- см.
стр. 490).
Например, для дерева на рис. 8 имеем
dx = cosscp3 cos392 sin cp2 sin2 ^ cos <ри (/фи й?фJ (/921 ^?i ^фа ^фз-
Исходя из выражения для ds*, легко получить формулу для опе-
оператора Лапласа До на Snl (см. формулу B) п. 1).
Например, для дерева на рис. 8 получаем:
. 1д«д, 1 д о . д ,
Дп^ i ч— COS"©q-^ 5 5 : 3— COS©» Sin фо-s h-
0 cos5 <p3 a<f3 Y3 й<р8 ' cos2 <f3 cos3 <f2 sin <f2 a^>2 Y2 ri d?a ^
cos2 <f3 sin2 <f2 ^ "T~ cos2 % cos2 <p2 sin2
iд 2 _a_ ,
™12 й<?j2 c
_ __ ^_
~l~ cos2 <p8 cos2 <f2 sin2 <p, cos <pts dyis ™12 й<?j2 cos2 <f3 cos2 <p2 sin2 «pj cos2 <f 12 ^f,
4. Собственные функции оператора Лапласа в полисфериче-
полисферических координатах. Перейдем к вычислению собственных функций
оператора Лапласа на сфере в полисферических координатах. Эта
задача приводит к решению дифференциального уравнения
1 d „ . п du
г- cosp ш sirr ш
<f Y Y d<f
Сделаем в уравнении A) подстановку H = tg*<p cos'<pti, а затем по-
•) Относительно обозначений R, ,- и S- , см. стр. 490.
1 ''' т 1 ' '' т

494 ГРУППА ВРАЩЕНИЙ л-МЕРНОГО ПРОСТРАНСТВА (ГЛ. IX
ложим —tga cp :=_V- Тогда уравнение A) приводится к гипергеомет-
гипергеометрическому ураЕнению, одним из решений которого является функция
8 + ±±
Поэтому одно из частных решений уравнения A) имеет вид
.t s + *+±. _tg«9).
C)
Как было отмечено в п. 3 § 5 главы VII, гипергеометрическое
уравнение имеет, кроме функции F(a, Р; у, х), второе частное ре-
и.ение:
IT p_T+l; 2-Т, X).
Пользуясь этим, получаем второе частное решение уравнения A):
-s-3^; -tg«<p). D)
Перейдем теперь к разделению переменных в уравнении До?/-|-
-f-Xt/=O. Подставим в это уравнение выражение для оператора
Лапласа До в полисферических координатах и представим искомую
функцию в виде произведения функций, каждая из которых зависит
только от одного угла <р,- ... i . Используя формулу C) п. 3, полу-
получаем следующий результат (мы опускаем детали несложного, но кро-
кропотливого вывода).
Функция, зависящая от угла <р; ... ,• , удовлетворяет диффе-
дифференциальному уравнению A), в котором надо положить
где /т+1 имеет наибольшее из возможных значений (иными сло-
словами, в дереве нет вершины хы ... г _j- 0- Если у вершины
¦Хы ...» нет существенно предшествующих (т. е. р = 0), то г = 0,
а если нет подчиненных, то s = 0. Числа {/,- ...г } — параметры
разделения переменных.
Выясним, при каких условиях на параметры разделения {/,• ... ,• }
уравнение A) имеет решение, непрерывное на всей сфере «S- Сна-
Сначала рассмотрим случай, когда

§ 5] СФЕРИЧЕСКИЕ ФУНКЦИИ И ОПЕРАТОР ЛАПЛАСА 495
В этом случае уравнение A) сводится к
dsu
и его решениями являются функции
и = е"* и и
Так как в этом случае 0гс:ф<^2тг (см. стр. 491), то параметр
l=li ...,• принимает любые целые значения, причем каждому целому
значению / соответствует одно решение уравнения A).
Если р = 0 (и потому г — 0), a q ф 0, то решения C) и D) прини-
принимают вид
,о i rfs — / s — /4-1 i<7 + l j. о \ ,П\
»1 = tg*«p cos* «p /? ^-g—, —2^—; « + ^r-; —tg*?) F)
и
и2 = ctg9 + * ~! 9 cos' <p X
Из условия однозначности и непрерывности решения «t в точке
ср = 0 получаем, что s — целое неотрицательное число. Для непре-
непрерывности «1 в точке ф = тг/2 нужно, чтобы и / — s было целым не-
неотрицательным числом, l~^s. Если эти условия выполнены, то функ-
функция щ непрерывна в точке тс/2. В самом деле, при l^s одно из
s__/ s —/+1
чисел —?—, ^— является целым неположительным, поэтому ги-
гипергеометрическая функция в равенстве F) вырождается в многочлен
от tg <р, степень которого не превосходит /•—s. Поскольку cos 9 вхо-
входит в функцию F) в степени / — s, эта функция непрерывна при
9 = 7г/2.
Рассмотрим теперь второе решение G). Чтобы оно было непре-
непрерывно в точке ф = 0, нужно, чтобы s =g: I — q. Поскольку по усло-
условию <7^>0, a s=\li^...i |;э=0, то <7=1 и s = 0. Но в этом слу-
случае решение F) совпадает с G).
Итак, если р —0, q-фЪ, то решениями уравнения A), непрерыв-
непрерывными при <р = 0, 9:=те/2, являются функции
± ) (8)
где l=s, s-{-l, ..., s-\-k, ...

496 ГРУППА ВРАЩЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. IX
Теперь рассмотрим случай, когда рфО, но q = 0, и потому
s = 0. В этом случае решения C) и D) принимают вид
^; ' tg'«p) (9)
Г; |; -tg«<p). A0)
Эти решения непрерывны и однозначны при <р = 0- При ф = ^- Для
любого целого I, такого, что /^=г, непрерывно только одно из двух
решений (9) и A0) — при четном значении /—г — первое, а при не-
нечетном — второе. Если / — г = Ik, то непрерывное решение имеет
вид
*. -*-f-; |; -tg«<p), (И)
а если I—r = 2k-\-\, то вид
А, Ц^ —А—г; |; — tgs<p). A2)
Наконец, если рФ§, д Ф 0, то непрерывные и однозначные ре-
решения существуют тогда и только тогда, когда /^s-|-r, причем
/—s — г — четное число: / — s— г = 2&. Они имеют в этом случае
вид
— ? — г; s + Ц^; — t
<p).A3)
Мы доказали, таким образом, что система чисел А = {/г ,¦ }
тогда и только тогда является системой параметров разделе-
разделения для уравнения A), когда все числа {li ...г } являются целыми,
причем:
а) h ...» =Э=0, за исключением случая, когда p-t . .,- =
=*,-?=°-
б) Имеет место неравенство
Выясним, наконец, какой вид имеют собственные функции оператора
До, соответствующие данному набору Л = {/,- ...«- } параметров раз-
разделения. Обозначим через ?/«- ...«- (<р) непрерывное и однозначное
решение уравнения A) при значениях параметров р, q, r, I, s, давае-
даваемых равенством E). Собственной функцией оператора До, соответст-
соответствующей набору {I; ... i \, является

§ 51 СФЕРИЧЕСКИЕ ФУНКЦИИ И ОПЕРАТОР ЛАПЛАСА 497
где произведение распространено на все вершины ненулевого ранга.
Функции Кд (|), соответствующие всем допустимым наборам {/,- ...,- },
назовем полисферическими функциями, соответствующими данному
дереву. В случае, когда дерево имеет вид, изображенный на рис. 8,
полисферические функции совпадают с обычными сферическими функ-
функциями на 5"™-
Нетрудно показать, что система полисферических функций, соот-
соответствующих данному дереву, ортогональна на сфере S '. В этом
можно убедиться, используя соотношения ортогональности для мно-
многочленов Якоби и выражения для решений уравнения A).

ГЛАВА X
ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ
л-МЕРНОГО ПРОСТРАНСТВА И ФУНКЦИИ ЛЕЖАНДРА
Связь теории функций Лежандра с теорией представлений групп
была уже нами рассмотрена в главах III и VI. В главе III было по-
показано, что свойства присоединенных функций Лежандра Pf (х) с
целым и полуцелым индексом I могут быть выведены из рассмотре-
рассмотрения представлений группы SUB) унитарных унимодулярных матриц
второго порядка (или, что то же, представлений группы SOC) вра-
вращений трехмерного евклидова пространства). В главе VI было пока-
показано, что многие свойства функций tyf(x) с любым индексом / и це-
целым т выводятся из теории представлений группы Qf/B) квазиуни-
квазиунитарных матриц. Эта группа локально изоморфна группе 57/B) дви-
движений плоскости Лобачевского.
Дальнейшие свойства функций ^(х) можно вывести, изучая
представления группы SH(n) движений л-мерного пространства Ло-
Лобачевского, что и будет сделано в данной главе.
§ 1. Псевдоевклидово пространство и гиперболические
вращения
1. Псевдоевклидово пространство. Псевдоевклидовым прост-
пространством сигнатуры (л—1, 1) называется л-мерное вещественное
линейное пространство Еп_х 1, в котором задана билинейная форма
[х, у] = — х&! —... — хп_!yn_i + хпуп.
Эта форма является аналогом скалярного произведения в евкли-
евклидовом пространстве. С помощью билинейной формы [х, у] в прост-
пространстве En_i ! можно определить расстояние между точками, положив
г2(х, у) = [х —у, х —у].
В отличие от случая евклидова пространства, в псевдоевклидовом
пространстве расстояние между точками может быть как положи-
положительным, так и нулевым и даже чисто мнимым.

§ i)
псёвдоевклйдово пространство
499
Точки, лежащие внутри конуса [х, х] = 0, находятся на положи-
положительном расстоянии от начала координат О, а точки, лежащие вне
этого конуса —• на чисто мнимом расстоянии. Точки же самого ко-
конуса находятся на нулевом расстоянии от начала координат. Точки,
лежащие на положительном расстоянии от начала координат, распа-
распадаются на два несвязных множества — точки, лежащие внутри верх-
верхней полы конуса (т. е. такие, что -к„^>0), и точки, лежащие внутри
нижней полы конуса (т. е. такие, что хп<^0). В настоящей главе
нас будут в основном интересовать точки пространства Еп_1ш i, нахо-
находящиеся внутри верхней полы конуса. Для таких точек выполняются
неравенства [х, х]^>0, хп^>0. Будем обозначать эту область че-
через Й„.
Введем в области Qn координаты, аналогичные сферическим коор-
координатам в евклидовом пространстве. По аналогии с п. 1 § 1 главы IX
определим эти координаты формулами
sin
t = г sh 6„ ,| sin 6„ л .
д, = г sh 6„ , sin 6„ 2 • • • sin
sin
cos б„
хп 1 = rsh6n_lcosQn<i,
О)
где г2 = [х, х].
С точностью до множеств меньшей размерности, формулы A)
устанавливают взаимно однозначное соответствие между областью й„
и областью Q'n:
B)
„ ,<сю
изменения переменных г, 6„ ... , GnJ. Иными словами, из областей
Qn и Q'n можно удалить множества, размерность которых меньше, чем п,
так, чтобы равенства A) устанавливали взаимно однозначное соот-
соответствие между оставшимися множествами.
Определим теперь в псевдоевклидовом пространстве аналог евк-
евклидовой сферы (с центром в начале координат). Именно, назовем
псевдосферой радиуса R множество точек псевдоевклидова прост-
пространства, для которых [х, х] = /Л При этом следует различать псев-
псевдосферы положительного, нулевого и чисто мнимого радиусов. Псев-
Псевдосферы положительного радиуса лежат внутри конуса [х, х] = 0,
чисто мнимого радиуса — вне этого конуса, а псевдосферы нулевого

500 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
радиуса совпадают с конусом. В соответствии со сказанным выше
будем рассматривать лишь части псевдосфер положительного радиуса,
лежащие в верхней поле конуса. С точки зрения евклидовой геомет-
геометрии они являются верхними полами двуполостных гиперболоидов:
[х, х] = Я», *„>0.
На псевдосфере положительного радиуса координата г постоянна.
Остальные координаты б,, ..., б„ 1 задают систему координат на
псевдосфере, которую будем называть системой гиперболических
координат.
2. Группа Sff(ri). Назовем гиперболическими вращениями псев-
псевдоевклидова пространства (вокруг начала координат) линейные пре-
преобразования, не меняющие расстояния точек от начала координат,
сохраняющие ориентацию пространства и переводящие в себя обе
полы конуса [х, х]^>0. Таким образом, при гиперболических вра-
вращениях сохраняется билинейная форма [х, у]. Очевидно, что произ-
произведение двух гиперболических вращений снова является гиперболи-
гиперболическим вращением, равно как и преобразование, обратное гиперболи-
гиперболическому вращению. Отсюда вытекает, что гиперболические вращения
пространства Еп Л, ! образуют группу. Будем называть ее группой
гиперболических вращений пространства fni,i и обозначать SH(n).
Из сохранения билинейной формы [х, у] легко следует, что мат-
матрица гиперболического поворота унимодулярна. Отсюда следует также,
что гиперболические повороты оставляют инвариантной евклидову
меру dx = dxl ... dxn в Еп^Л.
Рассмотрим в группе SH(ji) подгруппу, состоящую из гиперболи-
гиперболических вращений, не изменяющих координаты хп. Так как при ги-
гиперболических вращениях не меняется выражение [х, х] = — х\ —
—... — Хп__\-\-Хп, то эти вращения оставляют неизменным х\~\-...
..^~\-Хп \. Иными словами, гиперболическим вращениям, не изменяю-
изменяющим координаты хп, соответствуют евклидовы вращения в подпрост-
подпространстве En_i'.хп = 0. Поэтому будем обозначать подгруппу гипербо-
гиперболических вращений, не изменяющих координаты хт через SO (п — 1).
Аналогично подгруппу гиперболических вращений, не изменяющих
координат х„_3+1, ..., хп, будем обозначать SO (п — s).
Покажем теперь, что группа SH(n) транзитивно действует на
верхней поле гиперболоида [х, х]=1. Для этого достаточно пока-
показать, что любую точку | (|1, ..., ln) этого гиперболоида можно пе-
перевести гиперболическим вращением в точку |„ @, ..., 0, 1). Оче-
Очевидно, что с помощью евклидова вращения из подгруппы SO(n—1)
точку | можно перевести в точку г\ @, ..., 0, sh a, ch а), где ch а = ?„.
А теперь сделаем гиперболический поворот
х'п_! = xn__i ch а — хп sh а,
х'п = — ^

§ t] ПСЕВДОЕВКЛИДОЬО ПРОСТРАНСТВО 501
в плоскости хп_ „ хп. При этом повороте точка г\ перейдет в |„.
Транзитивность группы SH(ri) доказана.
Подгруппа SO (я—1) евклидовых вращений оставляет неподвижной
точку |„ = @, ..., 0, 1) и, как легко видеть, является стационарной
подгруппой этой точки. Отсюда вытекает, что верхняя пола гипербо-
гиперболоида [х, х]=1, -*г„^>0 является пространством левых классов смеж-
смежности группы SH(n) по подгруппе SO(n—1). Именно, каждому ле-
левому классу смежности {gh}, h^SO(n—1) соответствует точка |g.
псевдосферы, в которую переходит точка §„ при гиперболических
вращениях gh из этого класса. При этом преобразованию
в фактор-пространстве SH(n)jSO(n—1) соответствует гиперболи-
гиперболический поворот 1^ —>-1^ g псевдосферы.
3. Пространство Лобачевского. Пусть § и г\ — две точки псев-
псевдосферы [х, х]=1, хп~^>0. Тогда имеет место неравенство
[1, Ч]^1, О)
причем [§, ?\\ = 1 тогда и только тогда, когда % = Ц-
В самом деле, из того, что [|, |] = [г), т)]=1, следует
Поэтому, по неравенству Буняковского — Шварца,
следовательно, ^ '
[I. rl] = — 2iiji — ••¦—?n_i ''Jn-i + 2nY]n=3 1-
Равенство в (Г) достигается лишь, если ?i = i»)i, ... , ?n-i= "Чп-i- Но тогда
$„ = ¦»)„, и потому 1 = 1].
Из неравенства A) следует существование единственного числа
г^=0, такого, что
ch?r=[l, ц] B)
(k — фиксированное положительное число). Назовем г расстоянием
между точками | в i) псевдосферы.
Легко показать, что при этом псевдосфера превращается в рима-
ново пространство постоянной отрицательной кривизны. Это прост-
пространство называют (п—Х)-мерным пространством Лобачевского и
обозначают Anl(R), где R — ~b-
Группа SH(ri) состоит из преобразований пространства Лобачев-
Лобачевского, сохраняющих метрику и ориентацию, т. е. является группой

8fj2 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИИ [ГЛ. ?
движений (и—1)-мерного пространства Лобачевского Л™ ' (подобно
тому как группа SO(n) является группой вращений я-мерного евкли-
евклидова пространства Еп и в то же время группой движений (я — 1)-
мерной сферы Sn~l).
Наряду с описанной моделью пространства Лобачевского иногда
бывают полезны другие модели этого пространства. Рассмотрим в
пространстве Еп л, t совокупность прямых, проходящих через начало
координат и лежащих внутри конуса [х, х] = 0. Определим расстоя-
расстояние г между такими прямыми формулой
МЖ C)
/[х, х] [у, у]
где х и у — точки, лежащие на этих прямых. Легко видеть, что
расстояние г между прямыми не зависит от выбора точек х и у на
них. Но если выбрать на прямых точки их пересечения с гипербо-
гиперболоидом [х, х] = 1, то равенство C) примет вид ch&r = [x, у], т. е.
совпадет с формулой B). Отсюда вытекает, что множество прямых,
лежащих внутри конуса [х, х] = 0 с метрикой, задаваемой форму-
формулой C), является другой моделью пространства Лобачевского.
Другие модели пространства Лобачевского получаются следующим об-
образом. Проведем внутри верхней полы конуса [х, х] = 0 какую-либо поверх-
поверхность, пересекающую каждый луч, выходящий из начала координат, в од-
одной и только одной точке. Каждой прямой, лежащей внутри конуса [х, х] =
= 0, поставим в соответствие точку ее пересечения с этой поверхностью.
Мы получим тогда модель пространства Лобачевского в виде множества
точек поверхности. Исходная модель пространства Лобачевского получается,
если выбрать в качестве этой поверхности верхнюю полу гиперболоида
[х, х] = 0.
Отметим еще одну модель пространства Лобачевского. Проведем пло-
плоскость хп=\. Очевидно, что эта плоскость пересекается с конусом [х, х] =
= 0 по сфере радиуса 1. Тем самым пространство Лобачевского интерпре-
интерпретируется как внутренность (и — 1)-мерного шара радиуса 1. Расстояние
ме-жду точками этого шара определяется формулой
chkr~ . '-zfejQ -, D)
Kl-(x', x') Kl-(y.y')
где положено \' = (х1У ... , х„^), у' = (уи ... , уп^), (хг, у') == xiyl -\-... -\-
Введем понятие абсолюта пространства Лобачевского. Возьмем две
прямые, проходящие через начало координат, и будем приближать
одну из них к конусу [х, х] = 0. Из формулы C) видно, что при
этом расстояние между прямыми будет стремиться к бесконечности.
Таким образом, прямые, лежащие на конусе [х, х] = 0, являются
бесконечно удаленными точками пространства Лобачевского. Множе-
Множество всех бесконечно удаленных точек и называется абсолютом.
Таким образом, при реализации пространства Лобачевского как про-
пространства прямых, абсолютом является множество прямолинейных

§ 1] ПСЕВДОЕВКЛИДОВО ПРОСТРАНСТВО 503
образующих конуса [х, х] = 0. При реализации же пространства
Лобачевского внутри единичного шара абсолют изображается единич-
единичной сферой.
4. Углы Эйлера в группе SH(n). Введем параметры в группе
SH(n), аналогичные углам Эйлера в группе SO(n) вращений евкли-
евклидова пространства. Сначала докажем, что любой элемент g груп-
группы SH(ri) можно записать в виде
где h^SO(n—1), gfc(a) при k<^n—1 обозначает вращение на
угол а в плоскости (xk+l, хь), а gn_, (a) — гиперболическое вращение
на «угол» а в плоскости (хп, хп л):
х'п = хп ! sh a -j- xn ch a. )
В самом деле, пусть g— элемент группы SH(ri). Обозначим через
б" — 1, ... , ®п — \ гиперболические координаты точки g-|n, где
gn = @, ..., 0, 1). Простой подсчет показывает, что g|n = g'("~I)ln,
где
Поэтому iV'] 'gin = 1л и> следовательно, гиперболическое 1зраще-
ние [ginl'>Yig=zh принадлежит подгруппе SO(n—1). Так как
g=g(l-I)ft=ft(e?-1) ... gn tiftzbh,
то наше утверждение доказано.
Как было показано в п. 3 § 1 главы IX, вращение h из подгруп-
подгруппы SO(n—1) можно представить в виде
где
=g^1) ¦¦¦g.M), C)
и gs (a) — вращение на угол а в плоскости (xs+1, xs). Отсюда выте-
вытекает следующее утверждение.
Любое гиперболическое вращение g из SH(n) можно предста-
представить в виде
где g^ft) имеет вид C) и guip) при k<^n—1 является вращением
на угол а в плоскости (xk+i, xk), a gn_t (a) — гиперболическим вра-
вращением на «.угол» а. в плоскости {хп, хп_{).

504 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
Будем называть числа б*, 1 ==?;?==?; я—1, I s^J s^k углами Эй-
Эйлера гиперболического вращения g. Эти числа изменяются в следую-
следующих пределах:
E)
0 sg; 6^ <^ я в остальных случаях.
Легко показать по аналогии с группой SO(n), что инвариантная
мера dg на группе SH(n) выражается через углы Эйлера по формуле
dg =shn4ZZ{ sin" ъЬпп~\ ... sin^-'X
nnnn
§ 2. Представления класса 1 группы SH(n)
Представление T(g) группы SH(n) назовем представлением
класса 1, если в пространстве % этого представления есть вектор ffl,
инвариантный относительно всех преобразований Т (К), где h — эле-
элемент подгруппы SO(n—1). В этом параграфе мы дадим описание
этих представлений и изучим их свойства.
1. Описание представлений T"ff(g). Обозначим через 33"" про-
пространство функций, заданных на верхней поле конуса [х, х] = 0,
хп~^>0, и таких, что
1) функции /(х) бесконечно дифференцируемы в каждой точке
верхней полы конуса,
2) функции /(х) имеют степень однородности о:
/(ах) = о7(х), а>0. A)
Очевидно, что если функция /(х) принадлежит пространству 33"°,
то и функция /(g^x), где g^SH(n), также принадлежит этому про-
пространству. Поэтому равенство
n) B)
определяет оператор в пространстве 33"". Так как
то Sna(g) является представлением группы SH(ri).
Представление Sna(g) можно реализовать как представление груп-
группы SH(n) в пространстве бесконечно дифференцируемых функций на

§ 2] ПРЕДСТАВЛЕНИЯ КЛАССА 1 ГРУППЫ SH (п) 505
сфере. Каждой функции /(х) из пространства 33"° поставим в соот-
соответствие функцию
на сфере Sn 2 — пересечении конуса [х, х] = 0 и плоскости хп=1.
Очевидно, что функция /(х) однозначно определяется функцией F(?').
Именно, в силу однородности /(х)
f(x)=f(xl, ..., xn_i, хп) =
va flxi xn-i i\ va pixi xn~\\ (o\
\лп лп 1 \лп лп I
Отсюда вытекает, что операторы представления Sna (g) соответствуют
операторам представления
T»№ = QSn°(g)Qr1 D)
в пространстве 3) бесконечно дифференцируемых функций на сфере 5'.
Если g принадлежит подгруппе SO(n—1), то оператор Tna(g)
нетрудно выписать в явном виде. Поскольку вращение h из SO(n— 1)
переводит в себя плоскость х„=1, а тем самым и сферу S", то
Tn°(h)F(l') = F (й Ч'). E)
Таким образом, представление Тпа (h) группы SO(n—1) совпадает
с рассмотренным в п. 1 § 2 главы IX квазирегулярным представле-
представлением этой группы ').
Найдем теперь вид оператора Tn<J(gn_i(a)), где gn_t(a) — гипербо-
гиперболическое вращение на угол а в плоскости (хп, хп1). Мы имеем
—f(%i, .... Sn_i ch a — sh a, — ?„_л sh a -f- ch a).
В силу однородности функции /(I) и соотношения C) это равенство
можно переписать в следующем виде:
Tm [gn-i («)] F F„ ..., 6„.,) = (ch a - 6^., sh a)' X
V- /7 I §1 Sn-s Sn-iCha — sha
л \ cha —Sn_iSha ' ••• ' ch«-En4sh«' cha—5n_isha
Оператор Тпа[gn_i(a)] удобнее записывать в сферических коорди-
координатах <j>|, ..., <р„_2 на сфере 5я"%. Согласно п. 1 § 1 главы IX эти
2) В п. 1 § 2 главы IX квазирегулярное представление строилось в по-
пополнении пространства © по норме

506 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ (ГЛ. X
координаты связаны с декартовыми координатами ?„ ..., ?„_, фор-
формулами
где r% = x\ -f- ... -|- x%. Отсюда вытекает, что при одновременном
делении координат ?,, ..., Чпл на chx— |nlsha величины углов
<р„ ...,'¦?„ 3 1;е изменяются. Угол же юя 2 преобразуется по формуле
COS оп о ch а — sh а
COS юя _ о = . ' j— .
СП а — COS <в„__2 sh а
Следовательно, равенство F) можно переписать так:
Тп° [gn , (a)] F, (cos 9l, ..., cos ^,2) =
= (ch a — cos <ря._2 sh a)° X
- s r ( COS <?„ с ch a — sh a \ ,_.
X^l COS mj, ... , COS m 3, . Y"~' r— I. G)
хч J\ T1 '""•) cha — COS ?„_,, sh a У v '
Представление Tna (g) является представлением класса 1, т. е.
в пространстве этого представления есть функция Fo (!')• инвариантная
относительно всех операторов Тпа (h), h ? SO (n— 1). Такой функцией
явлг.егся
FoG')=l- (8)
2. Сопряженные представления. Рассмотрим представление Tns (g)',
сопряженное представлению Тпа (g). По определению сопряженного
представления, Tna(gY строится в пространстве ЗУ функционалов для
пространства 2) и определяется формулой
(Tn°(g)'®> /0 = (Ф. Vig-^F). A)
где Ф ^ ф', F (= 3).
Докажем, что представление Тпа (g)' является продолжением в про-
пространство ЗУ представления Г"- n"+2(g). С этой целью каждой функ-
функции Ф(|') из 3) поставим в соответствие функционал
(Ф, F)= \ Ф(ЮР?')с11' B)
в пространстве 2), и покажем, что
Поскольку каждый элемент g группы SH(n) может быть пред-
представлен в виде g=^hlgn^i{a)ha, где ft,, /i2G^("—1)> т0 доказа-
доказательство достаточно провести для случаев, когда g?SO(n — 1) и

§ 2] ПРЕДСТАВЛЕНИЯ КЛАССА I ГРУППЫ SH (л) 507
когда g=gn i(a). В первом случае наше утгерждение очевидно, по-
поскольку при g(^SO(n— 1)
(ТП, ~П a+2 (g) ф> П== \ Тп, ¦ »- -« (g) ф (
= \ Ф (Г) 7™ (Г') F (Г) d|' = (Ф, Тп° (g >) F).
Пусть теперь g=gn i(a)- В этом случае имеем по формуле G)
п. 1
f /_j. „ t „t, „\-n- s+2 Л) f У
—Sha
rha -^.lSha
Так как SJ-|- ... -J-Sn-i= Ь то в качестве независимых перемен-
переменных в этом интеграле можно выбрать ?,, ..., ?„ 4. В этих переменных
инвариантная мера d|' на сфере 5" 2 выражается формулой
Сделаем в интеграле D) подстановку
E)
ch a — ?„_, sh a
Легко показать, что
?„_, ch a — sh a
"hi— cha~in_lSha
И
d|' — (ch a + т]„ л sh a) n+2 dij'.
После подстановки интеграл D) принимает следующий вид:
^ (ch a + тш ^hafOft,, .... ^J X
^, Cha + Sha\ . ,__
_iSha' ••• ' ch a + >)„., sh a ' ch a +1)„_, sh a
')^. F)

508 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ (ГЛ. X
Из равенств D) и F) следует
(ТП. -«г*» [gn л (а)] ф> F) = (ф> Т„в [gni (_ а)] ру
Таким образом, соотношение C) доказано и при g= gn л (а). Но тогда
оно верно для всех элементов g ^ SH(n).
Совершенно так же доказывается, что представление Tna(g) эрми-
эрмитово сопряжено с Тп- ~~п"а 2 (g). Надо лишь функции Ф(?') поставить
в соответствие антилинейный функционал
8
в пространстве 2).
3. Неприводимость представлений Tno(g) при нецелых о. Дока-
Докажем, что если о не является целым числом, то представление Тп°(g)
неприводимо.
Рассмотрим сначала сужение представления Tna(g) на подгруппу
SO (я—1). Мы уже говорили, что это представление совпадает с ква-
квазирегулярным представлением группы SO(n—1). Из результатов п. 7
§ 2 главы IX следует, что Т11"(h), h^SO(n—1) является прямой
суммой неприводимых унитарных представлений Тп л-кAг) группы
(n~ 1):
Тп°(И) = 2 Тпх-к(h\ h?SO(n—l). A)
Представления Тп '• * (К) реализуются в подпространствах .?>я~1> *
состоящих из значений на сфере Sn"% однородных гармонических мно-
многочленов степени k от п— 1 переменного. При этом для различных k
представления Tn~l-k(h) неэквивалентны.
Обозначим через ?2 E"*~2) пространство функций F (|г) на сфере &"
для которых
|]F|f= ^ \Р<Ю?<%<+<*>• B)
Предположим, что % — инвариантное подпространство в простран-
пространстве li2 (S" 2). Из разложения A) и попарной неэквивалентности пред-
представлений Тп i-k(h) вытекает, что % является прямой суммой некото-
некоторых из подпространств 4?"-*, 0s^A<^oo, и потому содержит по
крайней мере одно из этих подпространств:
J
Нам осталось показать, что если инвариантное подпространство %
содержит одно из подпространств ,?)" '¦к и в не является целым
числом, то х содержит и все остальные подпространства ^я""|-т, а
потому совпадает с подпространством ф.

§ 2] ПРЕДСТАВЛЕНИЯ КЛАССА I ГРУППЫ SH (п) 509
Из инвариантности % относительно операторов Тпа (g) вытекает,
что X инвариантно и относительно инфинитезимальных операторов
этого представления. Вычислим инфинитезимальный оператор, соот-
соответствующий подгруппе Qn гиперболических вращений gn^(a) в пло-
плоскости (хп, хп ,). Применяя формулу F) п. 1, убеждаемся, что
. i dFt
1 da а = о Г" l Y ^COS(fn_3'
Таким образом,
C)
Предположим теперь, что инвариантное подпространство % содер-
содержит подпространство $п *•*. Согласно п. 2 § 3 главы IX одной из
п — 3
функций подпространства <?j"~1>fe является функция Cft2 (cos <ря д-
Так как подпространство % инвариантно, оно должно содержать и
функцию
п — 3
ACk2
п — 3 п — 1
= — о cos <р„_8 Cft 2 (cos ср„_2) — (и — 3)sin2ср„_«(Tktl (cos сря а)- D)
Применяя рекуррентные соотношения
для многочленов Гегенбауэра (см. п. 2 § 3 главы IX) убеждаемся,
что % содержит функцию *)
я-з (/; 4-!)(/; — о) я-з
2 <p«.2)= 2k + n~3 Cfc+i(cos?n-a) —
Но СД~, (cos ?„_,) G •&"' *+1 и С^П (cos ?„_„) ? ф»- *-'. При этом,
если о — нецелое число, то коэффициенты при многочленах Геген-
Гегенбауэра в формуле E) отличны от нуля.
п-З
*) При k = 0 мы считаем Ск _ , (cos 9n-2) = 0.

510 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
Из разложения A) вытекает, что если $" содержит сумму нену-
ненулевых функций из подпространств 1дп '• * ' и Jo- *+1, то оно содер-
содержит и эти подпространства.
Итак, мы доказали, что если о не является целым числом, то ин-
инвариантное подпространство % вместе с каждым подпространством
jgn-i,k содержит подпространства ф"'* ' и ф"'1-*1 (при k = 0 —
подпространство .?)"" '¦*и). Поэтому ? содержит все подпространства
jq"-1. и, следовательно, совпадает с l'2Ert). Неприводимость пред-
представления Тпа (g) (а значит, и Sna (g)) доказана.
4. Приводимость представления Tno(g) при целых значениях <г.
Рассмотрим теперь случай, когда ¦3 = k — целое неотрицательное
число. Покажем, что в этом случае представление Tnk(g) приводимо.
Именно, инвариантным подпространством в С2(&" 2) является про-
пространство SI" '• * многочленов степени k от переменных ?1( ..., ?„ ь
В самом деле, очевидно, что это подпространство инвариантно отно-
относительно преобразований Tnk (h) F (?') = F (h i |'), соответствующих
элементам h(^SO(n—1). Возьмем теперь гиперболическое вращение
gn_i(a) в плоскости (хп, хп t). Если F(?l? ..., 1„ ]) — многочлен сте-
степени k от ?!, ..., %п _i, то и
Г* [ft, л (a)] F F„ ... , 5„ ,) = (ch а - ?„_, si. a)ft ><
п-
Sn-з Sn-i Ch а - sh а
Ch а - sh а \
— ?„_, sh а / '
« — Zn-iSha ' ¦'¦• ' cha-E^.shc' ch а
является многочленом от %ь ..., %п х той же степени.
Инвариантное подпространство Шп~1-к является прямой суммой под-
подпространств .?>" 1>;> Os^js^k. Это вытекает из доказанного в п. 6
§ 2 главы IX разложения однородных многочленов, и из того, что
любой многочлен степени k может быть представлен в виде суммы
однородных многочленов степени /, 0 eg/ =s; k.
Представление Tnk{g) не является вполне приводимым, поскольку
у" подпространства ?(" 1- k нет инвариантного дополнения. Можно по-
показать, что сужение Tnk (g) на подпространство Sl"^1- * неприводимо.
Неприводимо и представление, индуцированное Tlk(g) в фактор-про-
фактор-пространстве ф/91" х-".
Приводимым является представление T'l!!(g) и в случае, когда
о = — п — k-\-1, где k — целое неотрицательное число. Инвариантным
подпространством в 1B(?" 2) является в этом случае ортогональное
дополнение пространства 31" '¦ *, т. е. пространство
оо
ф»-1.*= 2 bn-XJ. B)
В самом деле, пусть функция Ф(|') принадлежит Ъ"~1-к, т. е. пусть
для любого многочлена /""(Ю из 81я"-* выполняется равенство
(Ф, п=]ф<ЮЩ)<%=о. C)

§2] ПРЕДСТАВЛЕНИЯ КЛАССА 1 ГРУППЫ SH (л) 511
Как было отмечено в п. 2, операторы Тп-~п~k+2(g) и Tnk(g~l) эрми-
эрмитово сопряжены относительно эрмитова функционала (Ф, F). Поэтому
(Г«.-"-*+2(?)Ф, F) = (O,Tnk(g-i)F). D)
Но если F&')?Wl-1-k, то и T"k(g l)F&r) ? 81"- '•*, а потому
(Tn'~n~kl~2(g)(b, F) = 0. Тем самым доказано, что для всех много-
многочленов F(|') из Si" '•* иыполнгется равенство
Следовательно, р,-»-Н2(^)ф^5:''-и. Хем самым инва-
инвариантность подпространства ©ге~ '¦ft относительно представления
7«, -n-ft+2(gj доказана.
Представления, индуцированные представлением Тп--п^к+2 в под-
подпространстве ?"~1>fe и фактор-пространстве 2У'?" —l>fe, неприводимы.
Доказательство этого утверждения проводится так же, как и для неце-
нецелых о.
И в случае а = — п — k~\~2 представление Г (g) не является
вполне приводимым — у подпространства ?""'¦ к нет инвариантного
дополнения.
5. Условия унитарности представления Tno(g). Выясним теперь,
при каких значениях з представление Tna(g) группы SH(ri) унитарно,
т. е. когда в пространстве 35 есть скалярное произведение (Fiy Fz),
инвариантное относительно операторов представления 7'rta (g):
(Fb Fe) = Gwfe)F1, Tn°(g)FJ.
Сначала установим, когда в 3) есть инвариантная эрмитова форма,
а затем, при каких условиях на о эта форма положительно определе-
определена. Сузим представление Тпа (g) на подгруппу SO(n—1). Согласно
формуле A) п. 3 представление Тпа(h), h ? SO(n—1) является пря-
прямой суммой неприводимых представлений Tn — x-k(h) группы SO(n— 1),
реализующихся в подпространствах ^я~''*. При этом
Поскольку инвариантное скалярное произведение в «f)"^1-* опреде-
определяется формулой
то инвариантное скалярное произведение (Ft, F2) должно иметь вид
(Fu F0= |]aA ^ FfdO^FClOdr. A)
ft=0 Sn — 2

512 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
где Fi = Y/i)' '=1.2, /f° € $п~х-к- Из равенства (Fu Fi) = (Fa,F{)
вытекает, что коэффициенты ak вещественны.
Нам осталось вычислить коэффициенты afe. Из инвариантности ска-
скалярного произведения A) вытекает, что для любого инфинитезималь-
инфинитезимального оператора А представления Tna(g) выполняется равенство
(AFb Fd=—(Ft, AFz). B)
В частности, оно должно выполняться и для инфинитезимального опе-
оператора
А = — о coscp^a— sin2 ср„ чд ,
О COS If „. 2
соответствующего однопараметрической подгруппе гиперболических
вращений gn^ (a) (см. формулу C) п. 3).
Возьмем
в-З
л —3
Применим для вычисления /4Fi и Л/^ формулу D) п. 3 и примем во
л —3
внимание, что С 2 (cos <ря 2) принадлежит подпространству ^я~1'*.
Подставляя значения AFi и Л/^ в формулу B) и принимая во вни-
внимание равенство A), получаем
т. п — 3
n — 3
(и + k — 3) (и + fe + о — 2)
Г Г
J L
0
J L *
0
Подставляя в это равенство значения интегралов (см. п. 5 § 3
главы IX), получаем следующее рекуррентное соотношение для коэф-
коэффициентов ak:
C)
В силу вещественности ak из равенства C) вытекает, что либо
А+ = ak, либо а — вещественное число. В первом случае k — о =
= n-\-k-\-o — 2, а потому
я—2 , ,

§ 2] ПРЕДСТАВЛЕНИЯ КЛАССА I ГРУППЫ SHfn) 513
где р — вещественное число. Во втором случае о = о, и потому
n+k+c—2
a
D)
Г(и + о — 2)
Полагая для простоты а0 = ' ' , находим
— а)
Итак, мы доказали, что в пространстве S; лишь в двух случаях
существует эрмитона форма (Fu F.2), инвариантная относительно опе-
операторов Тпз (g):
1) а имеет вид о = ^—{— г р, где р-—вещественное число.
В этом случае
(/?„/7,)==Е 5 ^(Юр^ю^ E)
0
где /7/= 2 Z7/*', /4*} € Ф"' *» У = Ь 2. Принимая во внимание, что
k = o
подпространства $n~lf к попарно ортогональны, равенство E) можно
переписать к следующем виде:
\')^. E')
2) а — вещественное число. В этом случае имеем
S ^ F)
Sn—2
где Ff1 (I') имеют указанный выше смысл.
Можно показать, что равенство F) допускает следующую запись:
G)
где
и
Несложно показать, что эрмитовы формы E') и F) на самом деле
инвариантны относительно представлений TnQ (g), где о = = j-ip
для формы E') и о = 5 для формы F). Опустим детали этой выкладки.

514 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
Выясним теперь, при каких значениях о найденные инвариантные
эрмитовы формы положительно определены. Для формы E') ответ
очевиден — для любой функции F имеем (F, F)^0. Таким образом,
д О
если а = 2 Ыр> г&е Р— вещественное число, то представ-
представление Тпа унитарно. Эти унитарные представления называются пред-
представлениями основной серии группы SH(n).
В случае формы F) неравенство (F, F)^0 имеет место для всех
функций F, если для всех k выполняется неравенство
Г (ft-с) ^°- (8>
Очевидно, что это имеет место, если — п -{- 2 <^ с <^ 0. Таким образом,
представления 7""°(g) при вещественных а унитарны тогда и толь-
только тогда, когда — п-\-2<^а<^0. Эти унитарные представления назы-
называются представлениями дополнительной серии.
Кроме основной и дополнительной серий, существует еще дискрет-
дискретная серия унитарных представлений группы SH(ri). Эта серия соот-
соответствует значениям о = — п — k-\-2, где k — целое неотрицатель-
неотрицательное число. Мы показали в п. 4, что в этом случае в пространстве 2)
есть подпространство, инвариантное относительно представления Тп" (g),
а именно, со
Ф"-1-*= 2 Ф"-1''- (9)
Формула F) определяет в этом случае инвариантную эрмитову
форму в подпространстве 2)п~ '¦ *:
(Ft, F0= _S TJfE% S_/iM')WW)dl'. A0)
Эта форма положительно определена. Поэтому представление (g)
при о==—-п — А —j— 2 индуцирует в 2)п—1> * унитарное представление.
Эти унитарные представления мы и будем называть представле-
представлениями дискретной серии.
При о = k мы имеем конечномерное инвариантное подпространство
в пространстве 2). В этом подпространстве существует инвариантная
эрмитова форма вида
2++ + _

$ 8] ЗОНАЛЬНЫЕ И ПРИСОЕДИНЕННЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 515
Для доказательства достаточно воспользоваться рекуррентным соот-
соотношением C) и положить а0 = Г (k -\-1) Г (я -f- k — 2). Форма A1)
не является положительно определенной. Таким образом, группа SH(n}
не имеет унитарных конечномерных представлений (за исключением
тождественного представления).
6. Эквивалентность представлений T"a(g). При некоторых зна-
значениях сит представления Tna(g) и Тпх (g) эквивалентны. Повторяя
рассуждения, проведенные в п. 6 § 2 главы VI в случае л = 3, полу-
получаем следующий результат.
Если о не является целым числом, таким, что о ^ 0 или
osg;—п-\-2, то представления Тп°(g) и Tn-~n — "+2(g) эквива-
эквивалентны друг другу. Если a = k^0 — целое число, то эквивалент-
эквивалентны представления, индуцированные Tnh(g) в подпространстве Шп~ '•*
и fn.—n—k — 2(g) в фактор-пространстве Ф/Ф"'*. Кроме того,
эквивалентны представления, индуцированные T"*(g) в фактор-
пространстве 2>/§1я—'•* и jn, —n—k+2 ^ в подпространстве
<?,n—I, k
§ 3. Зональные и присоединенные сферические функции
представлений класса 1 группы SH(n)
В этом параграфе будут изучены матричные элементы представ-
представлений Тпа (g) группы SH(ri), стоящие в «нулевом столбце», т. е. соот-
соответствующие функции Fq (|') = 1, инвариантной относительно опера-
операторов Tm{h), h?SO(n — 1). В частности, будет изучена зональная
сферическая функция, стоящая на пересечении нулевого столбца и
нулевой строки. Мы увидим, что эти функции выражаются через
изученные в главе VI функции Лежандра и присоединенные функции
Лежандра. Полученная связь приводит к установлению многочислен-
многочисленных новых свойств функций Лежандра, оставшихся неосвещенными
в главе VI.
1. Построение базиса в пространстве &. Согласно п. 1 § 2
представления Tna(g) группы SH(n) строятся в пространстве 2) бес-
бесконечно дифференцируемых функций на сфере 5". Введем в это
пространство скалярное произведение
(F,F)= ] 1^(Г)|2<*Г A)
sn-2
и пополним его относительно нормы ||/?||2 = (F, F). Мы получим
гильбертово пространство 8а (S"~s). Будем считать, что представле-
представление Tna(g) реализовано в этом гильбертовом пространстве.

516 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
В этой главе будут изучены матричные элементы представления
Тпа (g). Они вычисляются в ортогональном нормированном базисе в
пространстве 82E" 2), состоящем из функций вида
B)
где ш!, ..., сэ„_2 — географические координаты на сфере 5
K=(h, ...,± /е„_3), /е0 Ss /«i Ss... ^ /е„^3 S= О
и
' {kj—kM)\ (в -У + 2fe;— 3) Г*
/Jo 1^Г(Ау-+Ам + п-у -3)
Этот базис был рассмотрен нами в п. 6 § 3 главы IX1). Там было
показано, что в этом базисе матрица квазирегулярного представления
группы SO(n — 1) является клеточно-диагональной, причем на главной
диагонали стоят канонические матрицы неприводимых унитарных пред-
представлений этой группы.
Одним из базисных элементов является функция Зо(?')> 0 =
= @,..., 0), тождественно равная 1. Ясно, что при всех вращениях
сферы Sn 2 этот элемент инвариантен:
Как было показано в п. 5 § 2 главы I, отсюда следует, что матрич-
матричные элементы t^o{g) удовлетворяют функциональному уравнению
% = tnKO &)' ft ? SO (n - 1), D)
а матричные элементы t^ig) — уравнению
*ок<№ = *ок№> h?SO(n~ 1). E)
В частности, матричный элемент t1^ (g), т. е. зональная сфери-
сферическая функция, удовлетворяет функциональному уравнению
*оо fe). *i-*iG S0 (n — 0- F)
') Мы несколько изменим обозначения по сравнению с главой IX, внеся
число / = й0 в символ К- Поэтому, например, базисный элемент 30(§') в гла-
главе IX обозначался бы Е* (?')=!.

§3] ЗОНАЛЬНЫЕ И ПРИСОЕДИНЕННЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 517
Поскольку любой элемент g группы SH{n) можно представить
в виде g=h1gn_1F»-\)hi, где й„ h^^SO(n~ 1) и 6j-} — угол
Эйлера элемента g; то имеем
t%>(?=t%>\gn^<!%z\)}- G)
Таким образом, матричный элемент t™o(g) зависит только от угла
Эйлера 6JJ—J элемента g.
2. Интегральное представление зональных и присоединенных
сферических функций. Чтобы вывести интегральное представление
сферических функций, воспользуемся формулой
K), A)
где (Fu F%) — скалярное произведение в пространстве 82 E"ra^2):
$ Ш^Г- B)
Через Eo(vj') здесь обозначена функция на сфере Sn~^, тождественно
равная 1. Будем обозначать тем же символом однородную функцию
степени о на конусе [g, |] = 0, равную единице при ?„=1. Иными
словами, положим Ео(|) = ?°.
Обозначим через х0 точку с координатами @, 0, ... , 1). Тогда
ЕоA) можно записать в виде
Е0F) = ?'я = [Xo.gr. C)
Оператор Tna(g) переводит функцию Ео(|) в функцию
Тп°(Ж) Eo(g) = Ео (g%) = [xo, fi-'g]'.
Но выражение [х, у] инвариантно относительно сдвигов из груп-
группы SH(n):
[х, У] = [«х, gyj,
поэтому имеем
7vt°fe)Eo(|) = [g-x0) g]e. D)
Из формул A), B) и D) вытекает, что
tKo(g)= S texo, gra^dS'. E)
где g = (Si, ... . E»_i, 1), |" = ^i, .... ?n_i).
В частности,
to6(g)= 5 tgxo, aedg. (в)
sn~s

518 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ (ГЛ. X
Поскольку зональная сферическая функция зависит только от
угла Эйлера б?~{, достаточно вычислить ее для случая, когда g
является гиперболическим вращением на угол 6 в плоскости (лг„_1, хп).
Это вращение переводит х0@, ... , 0, 1) в х@, ..., sh6, ch6).
Поэтому
Переходя к сферическим координатам, получаем отсюда
too fe_ F)] = -~~±ц I (ch 6 - cos ? sh 0Г.sin » »9rf9. G)
Тем самым мы получили интегральное представление зональной сфе-
сферической функции. Делая подстановку
, ch 6 cos 9 — sh 6
cos 4» cho — cos cp sh6 ' "
получаем
т[п-1)
too \g^ F)] = } 2n_2 (ch 6 - cos f sh B)~n o+2 sin ™9 d9. (8)
Гг() J
Этот же результат можно получить, заметив, что представления Tn3(g)
и Тп- ~~n~"+2(g) эквивалентны друг другу.
3. Выражение зональной функции через гипергеометрическую
функцию. Вынесем в формуле G) п. 2 за знак интеграла ch, раз-
разложим A —- cos ш th 6)" по формуле бинома Ньютона и почленно про-
проинтегрируем. Мы получим
'оо [«•«-. (ВД =
Так как
1С
г
cos2*? sin " 3<pd<p = -

§ 3] ЗОНАЛЬНЫЕ И ПРИСОЕДИНЕННЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 519
И
л
\ COS Ф Sin Ф fl/Ф ^~ ' Uj
о
то
<по [р-„, (б)] =
LO/2—1 \ 'л
fc=0
Ho
Г (о 4- 1) =
^Л — у) Г [ft -g-
(см. п. 6 и 7 § 1 главы V). Поэтому
^оо[^iF)]=-L2j У Л^ ^th^6. B)
2 /
В силу формулы D) п. 7 § 1 главы V и формулы B) п. 1 § 1 гла-
главы VII отсюда вытекает
too \gn-i(б)] = ch°6F(--1, - ^=-L; ^i!; th«б). C)
Таким образом, мы получили выражение too[gn-i(^)l через гипер-
гипергеометрическую функцию. Сравним это выражение с выражением ^ (z)
через гипергеометрическую функцию (см, п. 4 § 1 главы VII). Мы
получим
2 2 Г(П
П ) 3-я
^., (б)] = ^гЛ^ ? %__з (ch 6). D)
%

520 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
4. Вычисление присоединенных сферических функций. Перей-
Перейдем теперь к вычислению присоединенных сферических функций. Рас-
Рассмотрим сначала случай, когда g является гиперболическим вращением
на угол ср в плоскости (xn_t) xn). Как мы видели выше, в этом слу-
случае имеем [gx0, g] = ch6 — ?„_, sh 6. Поэтому по формуле A) п. 3
получаем
K $ 5B_lShe)eE^(f)rfr- О)
Перейдем к сферическим координатам и подставим вместо Е#(|')
выражение B) из п. 1.
Из соотношений ортогональности для многочленов Гегенбауэра
получим, что t™0 fen-i (б)) отлично от нуля лишь, если kv = &2 = • • • =
= Ап_з = 01). Если же K=(k, 0, ... , 0), то после несложных пре-
преобразований получаем
3)Г(я —2)^
3) Х
X 5 (ch 6 — cos cp sh вуСк 2 (cos cp) sin " 3<?df:
n-3
(ch 6 — cos cp sh 6)a<
о
Г '"
3)Г(я —2)
3)
л-4
X J (ch 6 — лтвИ в)сСк 2 (лг)A— лг2) 2 йдг. B)
—1
Но по формуле G) п. 8 § 4 главы IX
«=* 0=3 (
0 р) -J
Подставим это выражение в формулу B) и k раз проинтегрируем
') Это вытекает также из леммы Шура, если принять во внимание, что
Тп° Ып-i (в)] коммутирует со всеми операторами Tm (ft), h?SQ(n — 2), И
учесть вид матрицы Т*" (h).

§31 ЗОНАЛЬНЫЕ И ПРИСОЕДИНЕННЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 521
по частям. Мы получим
[gn-l (Щ = ' \\n'_2 ; — X
(n + 2k — 3) Г (я — 2)Г(я + к — 3)
х у
X \ (ch 6 — лг sh бK * A — лг9) 2 rfjc. C)
— 1
Но по формуле G) п. 2
$ (chG — ATsh6)°-ft(l— х*)к+~2~с1х —
— 1
,г-„1п — 2
и потому при K=(k, 0, ... , 0)
()(^)(+)
^Ьla,_i(б)]= ,^„2, ' , х
2ft+«r (я - 3) Г J--2-1 + *) Г (о — ft + 1)
X
Выражение же для too2k' "^Ып+ък^Ф)] через присоединенные функ-
функции Лежандра нам уже известно (см. формулу D) п. 3). Поэтому имеем
п-Ь
X
—t- 3 — п 3-я
X Y?+w'^^{nM2)T{n + k ^ Sh^e^:ft3(ch6). E)
С^~ 2
Найдем теперь выражение для матричных элементов вида ton [gn^i (б)].
В п. 2 § 2 было доказано, что представления Tnc(g) и Тп' ~n-a+2(g)
группы SH(n) эрмитово сопряжены друг другу. Отсюда вытекает
равенство
30, E3f) = ^"-+2fe-1), F)
где K=(k, klt ... , +V3)-

522 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
Из формулы B) вытекает
^—•ч-*[gni(_ем=(- i?q-n~°+2[g^(в)].
Мы доказали, что
toK{gn iF)) ==(- l)^V~^2fen-iF))- G)
Перейдем к вычислению присоединенных сферических функций
tnm(.g) для произвольного элемента g группы SH(ri). Пусть углы
Эйлера этого элемента равны в{. Из равенства D) п. 1 вытекает, что
где
Положим
h' = g,
Тогда §-' = /г'§-„_1(б^г!), и так как
Тп° (g) = Т»° (//) 7™ [#„„, (BnnZ{)],
то
tm (/) = 2 «ш (Ю йю \gn-i Фп'Ь)- (8)
At
Элементы ^ио [§"n_i F" — i)] мы вычислили выше и показали, что
они отличны от нуля, лишь если М = (/и, 0, ... , 0). Нам осталось
найти t™M(h'). Но, как было показано в п. 1 § 2, сужение представ-
представления Тпа (g) на подгруппу SO (п— 1) является квазирегулярным пред-
представлением этой подгруппы.
В базисе S^(|') матрица квазирегулярного представления группы
SO(n—1) клеточно-диагональна, причем на главной диагонали этой
матрицы стоят канонические матрицы неприводимых унитарных пред-
представлений Tn~l-k(h) группы SO(n— 1). Поэтому элементы ^ш(Ю>
где М = (т, 0, ... , 0), J(=:(k, ku ... , ±kn_a), равны нулю, если
тфк. Если же m = k, то $м(Л') = <к'"о'1" *(Ю> ™e AT=(Ai, ...
... , dfkn_3) и С/ = @, ... , 0). Подставляя это значение в формулу
A), получаем
tKo(g) = tK'O'
где М = (k, О, ... , О).
Заменим в этой формуле оба сомножителя их выражениями через
присоединенные функции Лежандра и многочлены Гегенбауэра (см.
формулу G) п. 1 § 4 главы IX и формулу E) п. 4). Мы получим
3—п 3 — п
п — 4 n-j-3 k n_,
X П С. 2 •'+1(cose«-ll._2) sin*j+i enzl_<f n~3ii ' (9)
До I **

§ 3] ЗОНАЛЬНЫЕ И ПРИСОЕДИНЕННЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 523
где ko=k и
—3
2
X (я -/+ 2*y - 3) Г (—?—+ Vi)]1/2- A0)
Б. Теорема сложения для функций Лежандра. Пользуясь уста-
установленной выше связью между функциями Лежандра и матричными
элементами нулевого столбца матрицы Tna(g), выведем новую теорему
сложения для функций Лежандра.
Рассмотрим элемент
-s ы 8ш cw A)
группы SH(n), где, по принятым нами обозначениям, gnJl Ft) и g^ F2) —
гиперболические вращения в плоскости (хп, хп__{), a s,_a(<Pi) — вра-
вращение в плоскости (xn_i, Jfn_g). Это вращение переводит точку М
с координатами @, 0, ..., 1) в точку М'(xt, ..., хп), где
хп = cos 6t cos 63 -f- sin 6t sin 62 cos <pb
Из результатов п. 4 § 1 отсюда следует, что угол 6^3} = 6 вращения g
определяется формулой
ch 6 = ch et ch б2 -f sh Gt sh 6a cos <pt. B)
Из равенства A) вытекает, что
tnoo ( I]
к, м
- I] (- 1Г ^ Га,j F0] tfa [&_2 (<?)] ^-"-o+a fe-i (ад]. C)
где М = „
Как было показано в п. 4, элементы tfo/f [g^-iCi)] и <п:г-[^п iF2)]
отличны от нуля лишь, если К= (k,0,..., 0)иЖ=Ж = (т, 0,..., 0),
а элемент ^^ [gn_% (<o)] отличен от нуля, лишь если k = m. Поэтому
равенство C) принимает вид
% (g) = S (~ !)* %• fe.-1 (81)] X
х % fe^ ы] <аг"-+а fe-t (wi. D)
где #-=(?, 0, .... 0).

524 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
Подставим в равенство D) вместо матричных элементов их выра-
выражения через присоединенные функции Лежандра и многочлены Геген-
Гегенбауэра. Так как
то
3 —п 3 —л
/г—5
— 2 2 гр^З)г(о+1)Г(—я —о + З) 2 (~~^1М±1)Х
3—л 3—л 3 — я .
ХГ(— п — о — k + 3) sh~ 0t sh~2~0а $ —2~ ~
2
3-я я—3
X ф 2 л —3 (С^ ^) Cft 2 (COS (fj), E)
где
ch 6 = ch 6t ch 6a + sh 6t sh 6a cos wv
Эта формула аналогична доказанной в п. 2 § 4 главы IX формуле
сложения для многочленов Гегенбауэра.
6. Теорема умножения для функций Лежандра. Умножим обе
части равенства E) п. 5 на функцию sin"~3<p1Cm 2 (cos ух) и проин-
проинтегрируем по <Pi|ot 0 до к. Принимая во внимание соотношения
ортогональности для функций Гегенбауэра, получим
— П О -— ft ft — «5
^ sh 2 бф 2n 3(ch6)Cm2 (cos <pi) sin n <pt rf-ft =
X
т
X sh"^ e, sh"^ о, у\Г_тз (ch e0 ФТ11Г (ch e^)' (!>
где
, sh02 cos <p. B)

§ 3] ЗОНАЛЬНЫЕ И ПРИСОЕДИНЕННЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 525
Замена переменной <pi на переменную 8 преобразует формулу A)
к следующему виду:
n-4
- ch G] [ch 6 — ch Ft — 62)] } 2 c№ =
5-n
-1)тл2 2 Г(а+1)Г(—о — я + 3)Г(я4-т — 3).
^ — X
n — 3 n — 3 3 — n 3 — n
Xsh 2 6lsh 2 вяф 2 (ChB,)^ 2 (Chfl,).
7. Производящая функция для присоединенных функций
Лежандра. Из формул B) и E) п. 4 следует, что
тс п —3
^ (ch б — cos <э sh 6)° С^1" (cos <p) sin "~3 wd<?~
n —
f l)ft2 2
3
' \ 2 j *¦
Л!Г(и —3)Г(а —
а +
3
1)Г(
— п
2 е
3
33
— п
2 п-з(
A)
В силу соотношений ортогональности для многочленов Гегенбауэра
отсюда вытекает
»=J .„__oN Lzi?
(ch6 — coscpshe)o = 2 2 r(a+l)rf^-2~^)sh 2 6X
X 2 4%-+?ъ* ^(сЫОС^Ссс» ?). B)
ft=0 a+ 2
Равенство B) можно рассматривать как производящую функцию
для присоединенных функций Лежандра. С его помощью легко уста-
установить ряд новых свойств этих функций.
Положим в равенстве B) <р = 0 или те. Мы получим
п —1
2 2 r(ai
Р*А \ z / „t, 2
е- — Г(и —3) sn
„
Х L ЙТ(о-А+1) *e4JL-3 ( Л
k = 0 ' 2

526 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ (ГЛ. X
Из формулы B) вытекает также:
Г B/0 shP 6 SpT-f T+P(ch 6) = 2Р Г (?) Г(о + 1) Г (х + 1) X
X Jo Ш^^Ш^+Т^^^П^ЧсЩ. D)
§ 4. Разложение представлений группы SH (и)
и преобразование Фока — Мелера
1. Вводные замечания. В этом параграфе мы разложим квази-
квазирегулярное представление группы SH(n). Оно аналогично квазирегу-
квазирегулярному представлению группы SO (я) вращений и-мерного евклидова
пространства и строится в пространстве функций на сфере псевдо-
псевдоевклидова пространства. Однако, поскольку в псевдоевклидовом про-
пространстве есть три типа сфер (вещественной, чисто мнимой и нулевой
кривизны), существуют три типа квазирегулярных представлений
группы SH(n). Первый из них реализуется в пространстве функций
на верхней поле гиперболоида [х, х]=1, второй — в пространстве
функций на гиперболоиде [х, х] = —1 и третий — в пространстве
функций на верхней поле конуса [|, ?] = 0.
Ограничимся представлением, связанным с двуполостным гипербо-
гиперболоидом [х, х] = 1, поскольку случай однополостного гиперболоида еще
не изучен до конца. Разложение представления, связанного с гипер-
гиперболоидом [х, х] = 1, проводится по общей схеме, найденной И. М. Гель-
фандом и М. И. Граевым. Схема состоит в следующем: сначала каждой
функции/(х) на гиперболоиде [х, х] = 1 ставится в соответствие
функция /г(|) на конусе [|, |] = 0. Функцию /г(|) разлагают на
однородные компоненты. Квазирегулярному представлению соответ-
соответствуют неприводимые представления в пространствах этих однородных
компонент.
Интегральное преобразование, переводящее функцию /(х) на гипер-
гиперболоиде [х, х] = 1 в функцию h (|) на конусе [|, |] = 0, выполняется
путем интегрирования по некоторым многообразиям на гиперболоиде,
а именно, по орисферам пространства Лобачевского. Теория этих
орисфер в нужной нам форме изложена в п. 4 § 1 главы V книги [15].
Там доказаны следующие утверждения.
Пусть пространство Лобачевского реализовано на верхней поле
гиперболоида [х, х]=1. Тогда его орисферами являются сечения
гиперболоида плоскостями вида [х, 1] = 1, где | — точка верхней
полы конуса [|, |] = 0, ?„ ^> 0. Таким образом, существует взаимно
однозначное соответствие между множеством орисфер пространства
Лобачевского и точками верхней полы конуса [|, |] = 0, Ьп ^> 0.

§ 4) РАЗЛОЖЕНИЯ ПРЕДСТАВЛЕНИЙ ГРУППЫ SH (п) Ш1
2. Инвариантное интегрирование в пространстве Лобачевского
и на орисферах. Определим интегрирование в пространстве Лоба-
Лобачевского, инвариантное относительно операторов сдвига, т. е. такое, что
lf(x)dx = lf(gx)dx. A)
Реализуем пространство Лобачевского на гиперболоиде [х, х]=1-
Элемент объема dv — dxu ..., dxn в пространстве ?n_i,i сохра-
сохраняется при всех линейных преобразованиях с определителем 1, в том
числе и при всех гиперболических поворотах. ВЕедем в области [х, х]^>0
новую систему координат xi, ..., хп^, р, где р2 = [х, х]. В этих
переменных элемент объема dv примет следующий вид:
dv =
р
Поскольку при гиперболических поворотах в пространстве Еп
сохраняются как р, так и dv, то, следовательно, сохраняется и
^х dx\ ... rixn_) dxt ... йхп_х
Формула B) и определяет инвариантную меру в пространстве Лоба-
Лобачевского. Она аналогична установленной в п. 1 § 1 главы IX формуле
для инвариантной меры на сфере.
Инвариантный интеграл по гиперболоиду [х, х] = 1 можно записать
с помощью обобщенной функции 8([х, х]—1)г). Именно, легко
показать, что
$/(х) dx = 2 $/(х) 8 ([х, х] — 1) dv. C)
Инвариантность интеграла в правой части равенства C) сразу вытекает
из инвариантности меры dv и функции [х, х] при гиперболических
поворотах пространства Е„^л t. ,
Нам понадобится еще выражение инвариантной меры для про-
пространства Лобачевского в гиперболических координатах б„ ..., 6„_!
(см. п. 1 § 1). Делая замену переменных по формуле A) п. 1 § 1,
получаем
dx = sh" 2 6„ 1 sin" 3 6„ 2 ... sin б2 effii... d6n л. D)
Совершенно так же устанавливается, что инвариантная мера d% на
конусе [|, 11 = 0 задается формулой
E)
') Относительно обобщенной функции S(P) см. [18], главу III, § 1, п. 3
и, в частности, стр. 276. Само собой разумеется, что в правой части равен-
равенства D) под /(х) понимается непрерывное продолжение функции, заданной
на гиперболоиде [х, х] = 1, на все пространство En_ltl.

528 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
Выведем теперь формулу для инвариантного интегрирования по
орисфере. В п. 1 было отмечено, что при реализации пространства
Лобачевского на верхней поле гиперболоида [х, х] = 1 уравнение
орисферы в этом пространстве принимает вид [х, |] = 1, где [|, |] = 0.
Определим интеграл функции /(х) по орисфере со: |х, Ц=1
формулой
$ /(х) </ш = $/(х) 8 ([х, 1] - 1) dx, F)
ш
где х — точка пространства Лобачевского, реализованного на гипер-
гиперболоиде [х, х]=1, а их—инвариантная мера в этом пространстве.
Так как мера dx и функция [х, |] сохраняются при одновремен-
одновременном сдвиге точек х и |, то определенная таким образом мера сохра-
сохраняется при сдвиге орисферы. Отсюда следует, что если движение g
пространства Лобачевского переводит орисферу to в орисферу gu>, то
имеет место равенство
G)
где da>g — мера на орисфере gm. В частности, если движение g пере-
переводит орисферу to в себя, то
(8)
3. Интегральное преобразование Гельфанда — Граева. Каждой
финитной функции /(х) в пространстве Лобачевского поставим
в соответствие ее интегралы по орисферам
Жо, A)
где dm — определенная выше мера на орисфере to. Тем самым каждой
финитной функции в пространстве Лобачевского ставится в соответ-
соответствие другая функция, h (to), определенная на множестве орисфер
этого пространства. Назовем преобразование, переводящее функцию/(х)
в функцию h (to), интегральным преобразованием Гельфанда — Граева.
В п. 1 было показано, что множество орисфер можно рассматри-
рассматривать как множество точек верхней полы конуса [|, Ц = 0 (каждой
точке | этой полы соответствует орисфера [х, |]= 1). Поэтому функ-
функцию h (to) можно рассматривать как функцию на верхней поле конуса
и писать й(|) вместо /г(ш). Таким образом, наше интегральное пре-
преобразование переводит пространство функций, заданных на верхней
поле гиперболоида [х, х] = 1, в пространство функций, заданных на
верхней поле конуса [?, ?] = 0.

§4] РАЗЛОЖЕНИЯ ПРЕДСТАВЛЕНИЙ ГРУППЫ SH (п) 529
Вспоминая определение интеграла по орисфере при реализации
пространства Лобачевского на верхней поле гиперболоида [х, х]=1,
можно записать функцию Л(|) в следующем виде:
= $/(*)8([*. И—!)<**. B)
где dx — инвариантная мера в пространстве Лобачевского.
Можно доказать (см. [15], стр. 388), что если /(х) — бесконечно
дифференцируемая финитная функция на верхней поле гиперболоида
[х, х] = 1, то функция h (|) на конусе, определяемая формулой B),
бесконечно дифференцируема, финитна и равна нулю в некоторой
окрестности вершины конуса.
В книге [15] (см. п. 3 § 2 главы V) выведена формула обраще-
обращения для интегрального преобразования, переводящего /(х) в h (|).
Именно, там доказано следующее утверждение.
Пусть /(х)—финитная функция в (п— \)-.иерном пространстве
Лобачевского и
\ C)
— ее интегралы по орисферам [х, |] = 1 этого пространства.
Если размерность п — 1 пространства Лобачевского нечетна,
п = 2т -f- 2, то формула обращения для интегрального преобразо-
преобразования C) имеет вид
ff \ ([a, 1]- 1)<? D)
Если же п = 2т-\-\, то формула обращения пишется следующим
образом:
f (а) = (~1(?^2т) $ h (I) ([а. а - 1У2т d%. E)
Здесь интеграл понимается в смысле регуляризованного значения,
а именно:
\ h(I)([а, I] - I)"*" dg = ^ h A)([а, |] - If d% \^_ш. F)
4. Квазирегулярное представление группы SH(n). Обозначим
через М пространство бесконечно дифференцируемых финитных функ-
функций /(х) на верхней поле гиперболоида [х, х]= 1. Каждому элементу g
группы SH(n) поставим в соответствие оператор L (g) в пространстве М,
задаваемый формулой
). A)
Ясно, что L (gi) L (^) — L (gig*) и потому L(g) является представле-
представлением группы SH(n).

530 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ (ГЛ. X
Пополним пространство М по норме
S B)
Мы получим пространство ^, состоящее из всех функций /(х) на
гиперболоиде [х, х]=1, х„^>0, таких, что
Представление Z.(g) можно продолжить на пространство ¦?>. При этом
из инвариантности меры dx вытекает, что L (g) унитарно относительно
нормы ||/1|.
Разложим представление L (g) на неприводимые. С этой целью каж-
каждой функции /(х) из пространства М поставим в соответствие функцию
A(S= I /(x)S([x,S]-l)tfx, C)
[х,х]=1
заданную на верхней поле конуса [|, |] = 0.
Найдем, во что переходит при этом преобразовании оператор L(g).
Из равенства C) видно, что функции L(g)f(x)=f(g1x) соответ-
соответствует на конусе функция
¦К (I) = \f(glx) 8 ([х, I] - I) dx =
Таким образом, квазирегулярному представлению L (g) соответ-
соответствует представление
h® h(g-lD D)
в пространстве функций на верхней поле конуса. Тем самым задача
о разложении представления L (g) свелась к задаче о разложении
представления T(g). Но эта задача оказывается значительно проще
и сводится к разложению функций на конусе по однородным ком-
компонентам.
Именно, функции h A) поставим в соответствие функцию
\Ы1 E)
о
При а^>0 имеем
Ф(ag, а) = $й(а®Г-1 dt = a"\h(t\)Г° !dt = а'Ф(|, а),
о о
и потому функция Ф A, о) является однородной функцией от § сте-
степени о. При этом функции hQf1^) соответствует функция

§ 4] РАЗЛОЖЕНИЯ ПРЕДСТАВЛЕНИЙ ГРУППЫ $н (п)
Но Тпс (g) есть не что иное, как построенное в п. 1 § а представ-
представление группы SH(n) в пространстве однородных функций на конусе.
Эти представления неприводимы (за исключением случая, когда а или
— п — а -)- 2 — целые неотрицательные числа). Поэтому представле-
представления Тпа (g) являются неприводимыми компонентами T(g) (или, что то
же, L(g)).
Выведем явное выражение компонент Фурье Ф (|, а) функции /(х).
Из формул C) и E) вытекает, что
Ф(I- °) = S*-° ldt $ /(х)8(t[x, \]-\)dx =
О [x,x!=l
О [х, х]=1
Меняя порядок интегрирования и заменяя t на t~l, получаем отсюда
[х, х]=1 О
и поэтому
ФA>з)= S /(х)[х,1]^х. G)
[X. Х] = 1
Выведем теперь выражение функции /(х) через ее компоненты
Фурье Ф (|, а). Для этого сначала выразим через Ф (|, а) функцию
h (|). Из формулы обращения преобразования Меллина (см. п. 2 § 4
главы II) следует, что
a — ica
Полагая t=l, получаем
)йс. (8)
Теперь используем формулы обращения для преобразования Гель-
фанда— Граева (см. п. 3). Мы получим при n = 2m -j-2
y S 8{ат>([к.И—1) J <5>&,c)dcd% =
11,11=0 a-ioo
= 2(^4° I d° S фA.°)8Cт)([х,1]-1)й1. (9)
^l ; a-ia, [1,Ш=0
Так как функция Ф (|, а) однородна, то она однозначно определяется
своими значениями на любом контуре, пересекающем один раз каж-
каждую образующую, конуса [|, |] = 0. Выберем в качестве такрго конту-
контура сферу S"^ — сечение конуса плоскостью ?„ = 1. Точки сферы 2

S32 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
будем, как и выше, обозначать через |'. Ясно, что Ф (??', с) = ("Ф (?', о).
Инвариантная мера d% на конусе связана с нормированной евклидо-
евклидовой мерой dg' на сфере S равенством
/г-1
tn
Отсюда следует, что при п — 2т -j- 2
/«= Ц^ х
a-\- ico со
X $ do $ f-ml \ Ф (if, a) 8(-3m) ([x, t%'\ — 1) dl'dt =
X
1
а-(-«со оэ
X S do J ФE', о)$Г»о(ат)([х,П —rO^dSV (И)
о-«оо sn-2 О
Но
со
о
(-т) ([х, |'] — t l)dt =
, Г] - о dt=
о •¦ ;
Поэтому из формулы A1) вытекает при п=2т-\-2, что
/00= Ц111^^ х
+ 4
ф (Г>
а—«со
Точно так же из формулы E) п. 3 выводится, что при п — 2т -\-1
а4-»со
f Г
о—«со
х ^a'.on*,?]—*™^, аз)
где — 2/ra-f 1<а<1.

41 РАЗЛОЖЕНИЯ ПРЕДСТАВЛЕНИЙ ГРУППЫ SH (п) 533
При выводе формулы A3) используется равенство
где интеграл понимается в смысле регуляризованного значения. Для вывода
этого равенства заметим, что
оо 1 со
^ 11 — 1 j* f+*m-s Л = J A — *)>¦ f+sm-s df 4. t (< _ l)X
0 0 1
Первый интеграл сходится при Re ~k > — 1 и имеет значение
а второй сходится при Re (К -\- а -\- 2т) <; 1 и имеет значение
Г(Х + 1)Г(— а — X — 2т + 1)
Поэтому интеграл A4) равен значению при Х = — 2т суммы
—1) , Г(-а-Х —2т+1I
^"+ Г(—о —2т+2) J-
Вычисляя это значение, мы и получим равенство A4). Условие на а связано
Г(о4-2/п~-1)
с наличием полюсов у —J—Чгг\ — ctgnc.
1 (о)
Из формул A2) и A3) легко вытекает выражение нормы
через функцию Ф (г\, о). Именно, подставим в интеграл
вместо функции /(х) ее выражение по формуле A2) (или по фор-
формуле A3), если п=;2т-\-\). Используя далее формулу G), получим
при п = 1т-\-1
h/ip= ^—г-
X ^ Ф(|',о)Ф(|',-5-2^йГ, A5)
3П-2
а при и^2/и-)- 1
A)т+1 " С°° Г
i. ()
а—«со
X 5 фF'>°)фFГ» -о-2и+1)йГ. A6)
где — 2I<<1

534 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
Особенно простой вид принимают формулы A5) и A6), если по-
ложить а = =—. Тогда о = — о — 2т (соответственно о=—о—
— 2т-\-\), и мы получаем при п = 2т-\-2
СО
Шз (— 1)т f Г(т + 'р) w
2"т я ^ Г |^/и + g-j -°°
а при п = 2т-\- 1
X
Ф (Г. - и + 4 + tp) f d|f йр- A8)
Положительность ]]/||2 вытекает из соотношения симметрии
^, A9)
которому удовлетворяют функции Ф (?', о). Мы не будем останавли-
останавливаться на выводе этого соотношения, связанного с эквивалентностью
представлений Тпп (g) и Tn--n-"+2(g) группы SH(n).
5. Интегральные преобразования функций на гиперболоиде.
Мы получили в предыдущем пункте выражение функции /(х), задан-
заданной на гиперболоиде [х, х] = 1 через функцию Ф (|г, о), заданную на
сфере S"~* — сечении конуса [g, g] = 0 плоскостью ?„ = 1. Но в п. 7
§ 3 главы IX показано, что всякая функция на сфере 51" (с интег-
интегрируемым квадратом модуля) разлагается в ряд Фурье по системе
функций Е/г(|'), гДе K=(k0, ku ..., + А„_3) (и здесь мы включаем
вес /=^о в символ К). Применив это разложение к функции Ф(|', о),
получим
ф(|'.о)=2м°)Ел«1). A)
к
где
5 °)Ё^Г)йГ- B)

§4]
РАЗЛОЖЕНИЯ ПРЕДСТАВЛЕНИЙ ГРУППЫ SH («)
535
Найдем теперь выражение коэффициентов ак(°) через функцию
(х). Из формулы G) п. 1 и равенства B) имеем
ак(о)=
[x,X]=l
= $ /00
l'dx. C)
Пусть x=g%x0, где хо = (О, ...,0, 1). Из формулы E) п. 2 § 3
вытекает, что
а*(о)= ^ /A)йо(б)й. D)
[x,xl=l
Теперь найдем выражение для функции /(х) через коэффициенты
ак(а). Для этого подставим разложение A) ¦ в формулу обращения
A2) (соответственно A3) п. 1) и используем формулу E) п. 2 § 3.
Тогда при п=2т-\-2 имеет место равенство
a-f-ico
/00 =
У \
Аналогично, при п =
/
1 имеем
m) i
К a — ioa
(
°, F)
где — 2/w-f 1<
Функции ^o~c~2m(^)i по которым ведется разложение в форму-
формулах E) и F), постоянны на левых смежных классах по подгруппе
SO(n—1) (см. п. 1 § 3) и потому являются функциями на гипербо-
гиперболоиде [х, х] = 1 — однородном пространстве SH(n)/SO(n ¦— 1). Введем
обозначение
0™(х) = ^Ы, [х,х] = 1, G)
где, напомним, gx — движение, переводящее точку хо(О,..., О, 1) в
точку х. Тогда формулы D)—F) перепишутся следующим образом:
(8)
lx.xl-1

536 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
Если п = 2т-\-2, то
гоо= t^r х
X
К a —~i со
а если п = 2т~\-\, то
5 Z^^ZllLctg то ajf@)ej-«-*» + » (х) do, A0)
К a~'i<x>
где — 2/и+1<а<1.
Особенно простой вид принимают формулы (9) и A0) в случае,
когда функция /(х) инвариантна относительно вращений h из под-
подгруппы SO(n), т. е. когда f(hx) — f(x). В этом случае в разложе-
разложениях остается лишь член, соответствующий значению /С = 0. Мы
получаем при этом следующие формулы:
При п = 2т-\-2 имеем
/00= ^ X
+ !
а при п=^2т-\-\:
(_ l)m+i
' ^ ==22mJt'"r(m)t X
x^j ct
a —ioo
где — 2m-\~ 1 <^a<^l. Коэффициенты a (о) имеют вид
«00= S f(x)too(g*)dx. A3)
Выражение для зональной сферической функции too(g) через
функции Лежандра дается формулой D) п. 3 § 3. Применяя эту фор-
формулу, мы можем переписать формулы A1) и A2) в следующем виде:

§ 5] ОПЕРАТОР ЛАПЛАСА НА ГИПЕРБОЛОИДЕ 537
Если п = Чт-\-% то
а если п = 2/и-|~1, то
а+'со
J ? (а + 2т -
Г (а)
a—«oo
где —2т~\-\ <^а<^\. При этом
от n-_l 1SZ?
a@)=C/(ch6)sh 2 61? 2n^3(ch6)dG. A6)
О Т 2
Формулы A5) и A6) при п = 3 и Reo = ^- установлены Ме-
лером и Фоком. Поэтому при п = Ъ преобразование A5) и A6) назы-
называют преобразованием Мелера — фока.
§ 5. Оператор Лапласа на гиперболоиде. Полисферические
и орисферические функции на гиперболоиде
1. Оператор Лапласа на гиперболоиде. В псевдоевклидовом про-
пространстве Еп i'i роль, аналогичную роли оператора Лапласа в евкли-
евклидовом пространстве, играет волновой оператор
П = —4-
1—1 Йг*1"-
п 1
Подобно оператору Лапласа, он коммутирует с движениями псевдо-
псевдоевклидова пространства.
Будем рассматривать оператор Ц внутри конуса [х, х] ^>0, ^
В сферических координатах (см. п. 1 § 1) он задается формулой
U — rn-i дгг дг-Г Г2 shn-, eni двп1 sn Оц-i Мп t "f
! _^L
r! sh2 en_, sin8 в„_8... sin2 e, ae2 •

538 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
Если функция /(х) не зависит от г, то на единичном гипербо-
гиперболоиде [х, х] = 1, хп^>0 имеем ?/(х) = По/A)> где (в сфериче-
сферических координатах)
ЬП °Я1 ОТ1 ОТ1
sm D« -2 йе„_2 "г ¦ • ¦
. \ iL
"" ¦ ' sh2 ew_! sin2 в„_2... sin2 в2 d6f -
Оператор Q, называют оператором Лапласа на гиперболоиде
[х, х)=1. Подобно оператору Лапласа Дп на сфере (см. п. 1, § 5
главы IX) оператор [3 перестановочен с гиперболическими враще-
вращениями: если g(^SH(ri), то
где
L(g)f <?)=
Мы видели в п. 5 § 2 главы IX, что неприводимые представле-
представления класса 1 группы SO(ri) можно строить в пространствах fQnt од-
однородных гармонических многочленов. Аналогично можно реализо-
реализовать и построенные в п. 1 § 2 представления Тт (g) группы SH(n).
Именно, обозначим через @"с пространство однородных функций /(х)
степени о, х^?„_1р1, таких, что Ц/(х) = 0. Через ^Па обозначим
пространство функций /(?) на гиперболоиде [х, х] = 1, таких, что
гс/(х/г) ^©да. Нетрудно показать, что пространство Jq"" инвариантно
относительно операторов L (g), g(^SH(ri). Поэтому мы получаем
представление Q"c(g) группы SH(ri), эквивалентное представлению
7яа (g). Переход от представления Qrea (g) к Tm (g) осуществляется
при помощи преобразования Гельфанда — Граева (см. п. 3 § 4).
2. Полисферические координаты на гиперболоиде [х, х] = 1.
Полисферические координаты на гиперболоиде [х, х] = 1 опреде-
определяются точно так же, как и на сфере (см. п. 2 § 5 главы IX). Един-
Единственное отличие состоит в следующем. Корню дерева ставится в
соответствие координата хо = хп, и вершинам первого ранга лг01, ...,
хм соответствует гиперболическое вращение в плоскости (хОт, х0)
на «угол» <рт: -
+ xOmch<pm. '
Поэтому в выражении для дифференциала длины дуги на гипербо-
гиперболоиде вершинам первого ранга ставятся в соответствие выражения
B)

§51
ОПЕРАТОР ЛАПЛАСА НА ГИПЕРБОЛОИДЕ
539
Соответственно меняются выражения для оператора Лапласа и инва-
инвариантной меры в полисферических координатах.
Параметры разделения переменных на гиперболоиде подчиняются
тем же условиям, что и на сфере, с той лишь разницей, что верши-
вершинам первого ранга могут соответствовать любые комплексные числа,
а не только целые. Поэтому для вершин первого ранга снимаются и
ограничения вида A4) п. 4, § 5 главы IX.
При разделении переменных вершине Jc<)m первого ранга соответ-
соответствует дифференциальное уравнение
du
r(r+p
Здесь
P=Pnv
1=1*.,
ч=
s
где t принимает наибольшее из возможных значений.
Решения этого уравнения имеют вид
— l + r s — I — г —р-\-1 _ , q4-
—2 , 2 ' S"T 2"
r = 0. C)
D)
E)
щ = cth9+sl f ch
' <?F I
r—l—s—q+\
l + s + g + * + r .
2 '
F)
Собственные функции оператора Лапласа на гиперболоиде выра-
выражаются формулой, аналогичной
формуле A5) п. 4 § 5 гла- ^о
вы IX. Именно,
G)
ее,
функции Ui .. j
X,
¦022
где при
имеют тот же смысл, что и в
п. 4 § 5 главы VIII, а функции
Us(<ps; А) являются решениями
уравнения C) при значениях
параметров D). В случае, когда
дерево имеет вид, изображенный на рис. 8, то функции Уд(?)
лишь постоянным множителем отличаются от функций t^K(g) из
п. 1 § 3.

540 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
3. Орисферические координаты на гиперболоиде. Укажем еще
одну систему координат на двуполостном гиперболоиде, в которой
оператор Лапласа допускает разделение переменных. Она строится
следующим образом. Рассмотрим дерево, содержащее вершину хт,
но не содержащее хоп (рис. 9). Всем вершинам, кроме вершин
лгОц, поставим в соответствие те же преобразования, что и с п. 2,
т. е. евклидовы вращения на угол <р,- . . ,• для вершин, ранг кото-
которых больше единицы, и гиперболические вращения па «угол» <pk для
вершин xOk. Вершине же лгОц поставим в соответствие бирациональ-
ное преобразование h (t), которое будем называть орисферпческим
вращением в подпространстве (х0, х01, хш) на угол t:
A)
<*
Введем параметр <рп> положив
t = ^nefi ch (fj ... ch 9ft,
где k — число вершин первого ранга, и примем числа {?,• ...,• } за
орисферические координаты на гиперболоиде [х, х] = 1. Именно,
точка с координатами \<f-t . ,• } имеет вид
¦-.*„,)ft (TiieVl chT» • • • chТ*)П'?(Т1ь 0T\g(?i) xo-
B)
Здесь ri'g((fiti2) распространено на все вершины второго ранга,
кроме хОц, а остальные произведения — на все вершины соответст-
соответствующего' ранга; х0 — точка гиперболоида, соответствующая оси Ох0.
Из определения орисферических координат следует, в частности,
что
хох = ch 9s ... ch 9fe |^sh ^ — Й1 ^
xm = e*1 ch 92 ... ch cpk <pu cos 9Ш ... cos 9,lOT,
= f91 ch 9a • •. ch 9ft <pn sin 9„ m,
где k и т имеют наибольшее значение для данного дерева.

§ 5]
ОПЕРАТОР ЛАПЛАСА НА ГИПЕРБОЛОИДЕ
541
Простой подсчет показывает, что в орисферических координатах
дифференциал длины дуги на гиперболоиде имеет вид
где коэффициенты В-, ...,- определяются следующим образом. Если
(ц, 1Л=?A, 1), то Bi ... ,• =Ai ... ,• , где A-t ,• задается форму-
лой C) п. 3 § 5 главы IX (с заменой cos <ps и sin cps на ch <ps и sh <ps,
1 ^ <ps eg k). Далее,
Z?i = ch (р2 ... ch cpA,
ZJjj = e'it ch <j>2 ... ch (pfe,
fin/ ... i == еЧ"< ch cp2 ... ch yk <рп
где Л,-
мер,
D)
.. ,• определяется формулой C) п. 3 § 5 главы IX. Напри-
Вщ = efi ch cp2 ... ch wh <pn cos <pHa ... cos <pllOT.
Из выражения для ds3 обычным образом получаются выражения
для инвариантной меры и оператора Лапласа на гиперболоиде. Мы
не будем приводить их выражения.
4. Разделение переменных в орисферических координатах. Па-
Параметры разделения для уравнения Цон —|— Хн = 0 в орисферических
координатах имеют следующий вид: всем вершинам, ранг которых
больше, чем 1 (кроме вершины хш), соответствуют целые числа, а
вершинам первого ранга и вершине хм1 — комплексные числа. При
этом параметры разделения {/,• ...,- } должны удовлетворять тем же
условиям, что и в п. 5 § 5 главы IX.
После разделения переменных для всех аргументов, кроме <j>i и
срш получаются те же уравнения, что и в п. 2. Поэтому надо вы-
Еести лишь уравнения для аргументов <j>j и <рп. Введем для краткости
следующие обозначения: cp^=cp,j, ^ = 1^, q = qu (число вершин, под-
подчиненных дг011), /=/ц, s = Aim (r#e m принимает наибольшее воз-
возможное значение), и k — lx. Используя выражения для коэффициен-
коэффициентов
получаем уравнение для <рп:
1-9
Подстановка м = <р 2 V сводит его к уравнению Бесселя. Поэтому
частные решения уравнения A) имеют вид
4 "г
B)

542 ПРЕДСТАВЛЕНИЯ ГРУППЫ ГИПЕРБОЛИЧЕСКИХ ВРАЩЕНИЙ [ГЛ. X
и
' — я
Лишь первое из них непрерывно на полуоси 0 s=; cp <^ со.
Точно так же для <pj получаем уравнение
Подстановка e~^ = t, n = t 2 v сводит его к модифицированному
уравнению Бесселя
Поэтому частные решения уравнения D) имеют вид
Пользуясь полученными результатами, легко написать выражение
для собственных функций оператора в орисферических координатах
(или, как мы кратко назовем их, орисферические функции). Предо-
Предоставляем сделать это читателю.

ГЛАВА XI
ГРУППА ДВИЖЕНИЙ и-МЕРНОГО ЕВКЛИДОВА ПРОСТРАНСТВА
И ФУНКЦИИ БЕССЕЛЯ
В главе IV многие свойства функций Бесселя были выведены из
того, что через эти функции выражаются матричные элементы непри-
неприводимых представлений группы М B) движений евклидовой плоскости.
В этой главе будут рассмотрены представления класса 1 группы М (п)
движений л-мерного евклидова пространства. Покажем, что при соот-
соответствующем выборе базиса в пространстве представления некоторые
матричные элементы представления выражаются через функции Бес-
Бесселя. Отсюда будут получены новые свойства функций Бесселя.
§ 1. Группа М(п)
Назовем движением и-мерного евклидова пространства Еп неод-
неоднородное линейное преобразование g, сохраняющее расстояние между
точками этого пространства и его ориентацию.
Известно, что любое движение g в Еп можно записать в виде
х —/гх+а, A)
где h — вращение в пространстве Еп (т. е. некоторый элемент груп-
группы SO (п)), а а — вектор из Еп. В соответствии с этим будем писать
Движения евклидова пространства образуют группу. Будем обо-
обозначать ее через М(п). Группа М(п) изоморфна группе матриц
(я-}-1)-го порядка
fh a\
j
где h — ортогональная матрица, а — столбец с и элементами, 0 —
строка с п нулевыми элементами.
Отсюда легко вытекает, что
ЧЮ- C)

544 ГРУППА ДВИЖЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. XI
В частности, имеет место равенство
g(a, h)=g(a, e)g(O, h)=g(O, h)g(h 'a, e), D)
где через е обозначено единичное вращение.
ВЕедем в группу М(п) параметризацию. Пусть g=g(a, К). Вра-
Вращение h задается углами Эйлера б{, lsg/г^/г—1, 1^/s^y. Век-
Вектор же а удобно задавать сферическими координатами г, <pi> • ¦ •» q>n i
(см. п. 1 § 1 главы IX).
Таким же образом элемент g группы М{п) задается ~^—=—~
углами Gj, п—1 углом cpft и положительным числом г. Эти числа
меняются в следующих границах:
Как было показано в п. 3 § 1 главы IX, вектор а со сфериче-
сферическими координатами г, <р1г ..., tpn j может быть записан в виде
а = gi Ы ¦ • • gn-i (<Pn -t) г, E)
где г — вектор вида @, ..., 0, г) и gk (<р) —- вращение на угол <р
в плоскости jcft+1, д;А:
Xft = xk cos <р -|- xk+1 sin <р,
JCft + I = — Xk sin ? ~Ь Xk+l cos ?
Отсюда вытекает, что элемент g(a, h) группы M(ri) может быть
записан в виде
g(a, h)=g(a, e)g(O, A>=^i(<pO ... gnA(?n-i)g(r> e)g@, h). G)
Легко проверить, что инвариантная мера в группе М(п) задается
формулой
dg= dh da, (8)
где dh — нормированная инвариантная мера в подгруппе SO(ri), a
da — евклидова мера в Еп.
§ 2. Неприводимые представления класса 1 группы М(п)
1. Описание представлений Тк (g). Неприводимые представления
класса 1 группы М(п) строятся так же, как и представления T^(g)
группы МB), с той лишь разницей, что окружность заменяется
(и — 1)-мерной сферой.

§ 2] НЕПРИВОДИМЫЕ ПРЕДСТАВЛЕНИЯ КЛАССА I ГРУППЫ М (л) 545
Обозначим через е?| нормированную инвариантную меру на сфе-
ре
Г
Пространство функций f (|) на S" а таких, что
обозначим через 82E" а). Будем строить представления группы М(п)
в этом пространстве.
Пусть R — комплексное число. Каждому элементу g=g(a, h)
группы М(п) поставим в соответствие оператор
TR(g)f(t) = e^-^f(h~1l) B)
в пространстве 82E). При gl=g(a1, ft,), g2 = g(a2, /г2) имеем
Поэтому
Ул (й) ^ Ы/A) = ^ fe^)/(l) C)
и, следовательно, 7"^(g) является представлением группы
Элементам h подгруппы SO (и — 1) соответствуют операторы
TR(h)f(l)=f(h %), D)
т. е. операторы квазирегулярного представления подгруппы SO (п— 1).
Очевидно, что функция /0 (|) = 1 инвариантна относительно всех опе-
операторов TR(h), h?SO(n—1). Таким образом, представления TR(g)
являются представлениями класса 1 относительно подгруппы SO(n— 1).
Поскольку мера d\ инвариантна при вращениях сферы S", пред-
представление TK(g) унитарно тогда и только тогда, когда R = pi —
чисто мнимое число. В самом деле,
(TR(g)fv TR(g)f,)= ^ е<«+«><•¦ */t(A fS)/e(Л-^«^
sn l
S *» Л (S) Л (I) d|.
sn-i
Отсюда видно, что равенство
(fi. A)=GV? Ш* Tr (g)A) E)
выполняется для всех fx, /8 и g, лишь если R -[-/? = 0. А это и зна-
значит, что R —• чисто мнимое число.

546 группа движений «-мерного пространства [гл. xi
2. Неприводимость представлений Тц(g). Доказательство непри-
неприводимости представлений TR(g) при R^O протекает почти так же,
как проведенное в п. 10 § 2 главы IX доказательство неприводимости
представлений Tt(g) группы SO(ri). Единственным отличием является
то, что в случае группы М(п) надо взять инфинитезимальный опера-
оператор, соответствующий подгруппе параллельных переносов вдоль
оси Охп. Пусть g, = (а, е), где а = @, ..., 0, t). Тогда
Поэтому инфинитезимальный оператор А, соответствующий подгруппе
элементов вида g(a, е), а = @ О, t), задается формулой
dTR(gt)f(\)
dt
Дальнейшее доказательство проводится дословно так же, как и в слу-
случае группы SO(ri).
Если же R — 0, то представление TR(g) сводится к квазирегуляр-
квазирегулярному представлению подгруппы SO(ti):
7efe)/(l)=/(ftl), g=g(a, Щ,
и потому приводимо.
§ 3. Зональные и присоединенные сферические функции
представлений класса 1 группы М (я)
В этом параграфе будут изучены матричные элементы представ-
представлений T.R(g), стоящие в нулевом столбце. Мы увидим, что эти эле-
элементы выражаются через функции Бесселя и функции Гегенбауэра.
Полученная связь позволит установить ряд новых свойств функций
Бесселя.
1. Базис в пространстве 82(S"~1). Как и в главе X, в качестве
базиса в пространстве fi^S") выберем функции ЕдДЕI) на сфере Snl,
описанные в п. 6 § 3 главы IX, где М = (т0, ..., ±тп 2) и / =
Этот базис удобен тем, что в нем элементам h подгруппы SO(n)
соответствуют клеточно-диагональные матрицы, на главной диагонали
которых стоят канонические матрицы неприводимых унитарных пред-
представлений T[(h) группы SO(ri).
Функция Но(?) тождественно равна единице, следовательно, инва-
инвариантна относительно операторов 7"^ (h), h ? SO (и). Будем изучать
матричные элементы tMo(g) (присоединенные сферические функции
') Нам удобно внести индекс / в символ М.

§ 31 ЗОНАЛЬНЫЕ И ПРИСОЕДИНЕННЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 547
представления T#(g)) и, в частности, матричный элемент too(g) (зо-
(зональную сферическую функцию этого представления). Из результатов
п. 5 § 2 главы I следует, что при ft,, /г2 ? SO(n—1)
Любой элемент g группы М(п) можно представить в виде
g=g(a, h) = g(a, e)g(O, h).
Поэтому
uo(g) = &o[g(a, e)\. A)
Если а = ft,an, где а„ = (О, ..., 0, г), то
^(а, e)=g(O, ft,)g(an> e)g(O, ft?)
и поэтому
§ %n, e)]. B)
Это равенство показывает, что too(g)> где g=g(a, К) зависит
/?
только от длины вектора а. Матричные же элементы Здо(ё) зависят
от переменных <р1} ..., <р„_,, г.
2. Вычисление зональных сферических функций. Как было
показано в предыдущем пункте, зональные сферические функции
too(g) достаточно вычислить для элемента gr=g(an, e), где а„ =
= @, ..., 0, г). Этому элементу соответствует оператор, переводящий
функцию Ео (?) = 1 в функцию
Поэтому
to(g) = (TR(g)E Е) = (е^ 1)= ^ е#Мя* (О
(gr) = —_ ^i^ ^r cos y sin" 2 ? rf? B)
0
Перейдем к сферическим координатам. Мы получим
г (Л) }
V 2 / 0
(нормирующий множитель перед интегралом проще всего получить
из того, что при r = 0 gr = e, а ?ооОО=1)-
Мы получили интегральное представление для зональной сфери-
сферической функции too(gr)- С помощью этого представления легко полу-
получить выражение ^oofe-) через функции Бесселя. Для этого разложим
eRr cos <e П0 степеням cos <p.

548 ГРУППА ДВИЖЕНИЙ я-МЕРНОГО ПРОСТРАНСТВА 1ГЛ. XI
Подставляя это разложение в интеграл B) и почленно интегрируя,
получим
Но
$cos2m+1<psin"
/•
б
Поэтому
С помощью формулы удвоения для Г-функции получаем отсюда
C,
Сравнивая это разложение с разложением C) п. 3 § 3 главы IV,
получима)
Тем самым установлена связь между зональными сферическими функ-
функциями представлении TR(g) группы М(п) и функциями Бесселя.
Отметим, что из формул A) и D) следует равенство
-Л
E)
(мы заменили л на /г -}- 2).
*) Мы заменили здесь для удобства R на <^?.

§3] ЗОНАЛЬНЫЕ И ПРИСОЕДИНЕННЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 549
3. Присоединенные сферические функции. Рассмотрим теперь
присоединенные сферические функции fjuo(g) представлений TRg.
Как было показано в п. 1, эти функции зависят лишь от параметров
<Pi> • • •. <Рл 1. г.
Рассмотрим сначала матричные элементы вида ^моС§>), где gr^
= g(an, е), а„ = @, ..., О, г). Они задаются формулой
t(g) (TR(gr)Eo> %м)- A)
Но, как указывалось в п. 2, оператор 7 R(gr) переводит функцию
Eq == 1 в е^п- Поэтому
Подставим в эту формулу значение 3M(|) (см. формулу B) п. 6
§ 3 главы IX) и перейдем к сферическим координатам. Из соотно-
соотношений ортогональности для многочленов Гегенбауэра вытекает, что
tfAoigr) отлично от нуля, лишь если М имеет вид М — (т, О, ...,0).
При М = (т, О, ..., 0), получаем *)
М
2 ) I,/""' Г (я -2) Bт + я -2)
п_п у Г(и + »-2)(п-2) Х
п__п
X ] eRrxCm2 (x)(l~x*) 2 dx. C)
Применив формулу (8) п. 8 § 4 главы IX, получим
)
} т,я3
\ ^"(l—х2) 2 rfjc. D)
В силу формулы E) п. 2 это равенство можно переписать следующим
образом: если М = (/«, 0, ..., 0), то
ш1Г(п—1) ^
*) См. формулу B) п. 6 § 3 главы IX. Следует иметь в виду, что
= (т, 0, ... , 0) обозначалось в главе IX через Egf (|).

550 ГРУППА ДВИЖЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. XI
где, напомним, gr — параллельный перенос на г вдоль оси Ох„. Легко
доказать, что при М = (т, 0, ..., 0) имеем
F)
Заметим еще, что из формул C) и E) вытекает равенство
я-2 я-З
~7Г^- О)
т!Г(п—-2)
4. Теорема сложения для функций Бесселя. Выведем теперь
новую теорему сложения для функции Бесселя. Рассмотрим элемент
g=gr&grt, A)
где gn и gr.2 — параллельные переносы вдоль оси Охп на отрезки
длины rt и г2 соответственно, a gv — вращение на угол ср в пло-
плоскости (х„, хп t). При этом движении начало координат О @, ..., 0)
переходит в точку М, расстояние г которой от О выражается фор-
формулой
r os?. B)
Из равенства A) следует, что
1** (g) = TiR (gri) Т1* (gtp) TiR (grs), C)
поэтому
tol (g) = Ц 4ж fo-t) tlKM (gj t% (gra). D)
к, м
Как было показано выше, элементы ?<ж(?>,) и ^лю(§>2) отличны
от нуля, лишь если К и М имеют вид
K=(k, 0, ..., 0), М = (пг, 0, ..., 0).
При этом элемент ^/^м С§"9) отличен от нуля, лишь если k = m. По-
Поэтому равенство C) принимает вид
__ ', E)
где K=(k, 0, .... 0).

§ 31 ЗОНАЛЬНЫЕ И ПРИСОЕДИНЕННЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 551
Мы уже нашли выше значения tloj((gri) и tl/§) (g>2) (см. формулы E)
и F) п. 3). Далее (см. п. 1), матрица оператора TiR(g^) клеточно-
диагональна, причем на ее главной диагонали стоят канонические
матрицы неприводимых представлений группы SO (n). Поэтому tl^K(g9),
где K=(k, 0, ..., 0), есть не что иное, как зональная сферическая
функция представления Tnk(g) группы SO(ri).
Наконец, t^ig), g'=g'(a, h) зависит лишь от длины г вектора а,
даваемой формулой B). Из указанных соображений получаем
X ^ ^2-<V (COS0, F)
где, напомним,
2r,r2cos<p.
Формула F) аналогична доказанной в п. 1 § 4 главы IV формуле
сложения для функций Бесселя.
5. Теорема умножения для функций Бесселя. Умножим обе
п — 2
части равенства F) п. 4 на Ст2 (cos <p) sin" <p и проинтегрируем
по <р от 0 до it. Принимая во внимание соотношения ортогональности
для многочленов Гегенбауэра, получим
(cos ч>) sin""8 ?^ =
(п + т — 2)
n — 4 n—2 n-2 » V.V
2 i -p / ^ — ^ \ 2 2
\ 2^ 1 Гу Га
где
B)

552 ГРУППА ДВИЖЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. XI
Замена переменной <р на переменную г преобразует формулу A)
к следующему виду:
4-2 С")
л — 2
п — 1
т!Г
г,-г,)] 2 rrfr =
я(г0- C)
Заменим в полученной формуле Г\, r2, r соответственно на Rrt
Rr%, где /?]>0, и применим преобразование Фурье — Бесселя (см. фор-
формулу C) п. 2 § 5 главы IV). Мы получим
со 4~в
f Л-а (Кг) У ~-i{RrdJ ,n-2(RrdR 2 *? =
.1 -2~ m+-2- ra+-2-
0
471Г(и + т — 2)« \г,г2г8/' ^m \, 2r,r2
если | rj — г21 <С r <C ri + г^
О в противном случае.
Через .S здесь обозначена площадь треугольника со сторонами Г\, г%, г.
6. Производящая функция для функций Бесселя. Из формул
C) и E) п. 3 следует, что
^.. A)
В силу соотношений ортогональности для многочленов Гегенбауэра
(см. главу IX п. 5 § 5) отсюда вытекает, что
_2
Равенство B) можно рассматривать как производящую функцию
для функций Бесселя. С его помощью можно установить ряд новых

§ 3] ЗОНАЛЬНЫЕ И ПРИСОЕДИНЕННЫЕ СФЕРИЧЕСКИЕ ФУНКЦИИ 553
свойств этих функций. Положим в равенстве B) х= 1. Так как
(п —2)
г/1
-— Г(п —2) Z mi
т=0
2)
2) '
, n — 2
+~2
ы
Если же положить д;=0, то получаем
1 =
2m!
m = 0
7. Некоторые интегралы, содержащие функции Бесселя. Вычис-
Вычислим зональную сферическую функцию ^оо(&)> используя бисфериче-
ские координаты (см. главу IX, § 4, п. 11). Используя формулы A)
и D) п. 2 и выражение для инвариантной меры в бисферических
координатах, получаем
r—:
(t)
у \P
it/2
x J ¦
0
n 2
где p = —=—. В силу формулы E) п. 2 это равенство можно пере-
писать в следующем виде (m =
p_9(дг cos a) cosp ?asin2(?+1a<fe = 29r(9-f l)^r- 0)
Другой интеграл получается следующим образом. Сделаем парал-
параллельный перенос на вектор а, п-я координата которого равна г1;
/я-я равна гч, а все остальные равны нулю. Этот параллельный пере-
перенос g-(a) может быть записан в виде g(a) = hrlgrh, где h — враще-
вращение, переводящее вектор г=@, ..., О, Vr\-\-r%) в вектор а. В силу
свойств зональной сферической функции имеем (при R = i)
ШП±ГП

554 ГРУППА ДВИЖЕНИЙ П-МЕРНОГО ПРОСТРАНСТВА [ГЛ. Х|
С другой стороны, вычислим too(g(ay) в бисферических координатах.
Интегрируя по 61( ..., 0m_s, ty,, ..., $п^тл, получаем
2?(p-j-_l)
я/2 к я
С f f
/.»(Ti cos a cos ф + rs sin a cos В) ч/
X sin 6 sin*"- ф cosSp~"H1 a sin""-1 a
Проинтегрируем по 9 я f, учитывая равенство E) из п. 2. Полагая
m = 2q, получаем
«/2
S •V-? (r> cos a^ ^г-1 (r« sin a^ cosP ?
= rf" V?~ !(rf + rlf ^Jp(Krf+i). B)
§ 4. Предельный переход по размерности пространства.
Многочлены Эрмита
В предыдущих главах мы изучили свойства многочленов Геген-
Гегенбауэра и функций Бесселя и изучили их связь с представлениями
групп SO (n) и М(п). Здесь будет изучено поведение этих функций
при П-—О0. Покажем, что при соответствующем предельном переходе
многочлены Гегенбауэра и функции Бесселя стремятся к многочленам
Эрмита. Отсюда будет получен ряд свойств многочленов Эрмита.
1. Многочлены Эрмита как предел многочленов Гегенбауэра.
Будем исходить из интегрального представления многочленов Геген-
Гегенбауэра
— P)p-4t A)
(см. п. 7 § 4 главы IX), где р=^-^-. Из равенств
lim A—^)р-»5=

§ 4] МНОГОЧЛЕНЫ ЭРМИТА 555
при —l^/^l, tjtO ясно, что
(
lim ;_
Отсюда вытекает
р —>со
Urn ^&Lcf(x)= J (* + / 1ГГ=^уЬф(и = х1. B)
-1
Более интересная предельная формула получается, если сделать
в интеграле A) подстановку t=—^= и заменить х на -—==. Мы по-
УР Ур
лучим
X J
При р—*со интеграл в правой части стремится к интегралу вида
со
Чтобы изучить поведение коэффициента при интеграле, когда
р—>оо, используем формулу Стирлинга
р" 2е~Р. D)
Заменяя в равенстве C) Г-функции по формуле Стирлинга, получаем
lim /Г * Cf (-?=) = -Jt- С (л; + *«)'е~«2 d«. E)
(=) =
р->со ^У V' У
— со
Введем многочлены Эрмита Н1{х), положив
F)
' —оо
Из формулы E) вытекает, что
lim Пр~~*&(-*=) = Ht(x). G)
: \Ур1

556 ГРУППА ДВИЖЕНИЙ п-МЕРНОГО ПРОСТРАНСТВА [ГЛ. XI
Таким образом, многочлены Эрмита получаются из многочленов Геген-
Гегенбауэра при стремлении размерности пространства к бесконечности.
Естественность замены t на —— в интеграле A) видна из следующих
V Р
соображений. Многочлены Гегенбауэра возникают при записи матричных
элементов представлений класса 1 группы SO(n) в виде интегралов по
(п—1)-мерной сфере (см. п. 7 § 4 главы IX). Прн этом мы нормируем меру
на сфере условием, что мера всей сферы равна единице. Иначе говоря, мы
рассматриваем сферу такого радиуса, что обычная евклидова мера этой
сферы равна единице. Несложный подсчет показывает, что этот радиус равен
Г2~)
л-2
к 2
Из формулы Стерлинга следует, что при п —»со
п
У
Иными словами, при увеличении п радиус сферы единичной меры воз-
растает примерно как у п. С этим и связана замена t на —гг=- в инте-
Vи
грале A).
2. Некоторые свойства многочленов Эрмита. Установленная
выше связь многочленов Эрмита и Гегенбауэра позволяет получить
с помощью предельного перехода различные свойства многочленов
Эрмита. При этом следует иметь в виду, что не только сами много-
многочлены Гегенбауэра стремятся к многочленам Эрмита, но и их произ-
производные стремятся к соответствующим производным многочлена Эрмита.
Выведем сначала дифференциальное уравнение для многочленов
Эрмита. Из уравнения C) п. 3 § 3 следует, что
= 0. A)
Заменим здесь х на х/У р, умножим обе части равенства на /! р/9
и перейдем к пределу при р—»оо. Мы получим дифференциальное
уравнение для многочленов Эрмита:
-2*ШШ + т(х) = 0. B)
Точно так же из рекуррентных соотношений для многочленов
Гегенбауэра вытекает, что

§ 4] МНОГОЧЛЕНЫ ЗРМИТА 557
и
.C*) = 0 D)
(ср. с формулой B)).
Далее, из формулы D) п. 8 § 4 главы IX следует с помощью
предельного перехода, что
#1 (¦*) = (-l)^*1^ (в**). E)
Аналогично из формулы B) п. 12 § 4 главы IX, дающей произ-
производящую функцию для многочленов Гегенбауэра, получаем
со
imi kl
ft=O
Рассмотрим теперь теорему сложения для многочленов Гегенбауэра:
Ср (xv -4- V 1 х* Т/~1 уН)
ГBр—1) VI 22'(/— fe)! [Г(р + fe)]8Bp + 2fe- 1)
[Г(р)]2 Zj ГBр + / + Л) А
ft = 0
А А 1
\/ (Л v*24 2/1 2\ 2 f~$ "Ь ^ / v-"i ^J^ ^Ь ^ / \ /~^ 2~ t-f\ G/
Заменим в этой формуле у на у/у р и t на tf\/ p, умножим обе
части равенства на /! /Г*/2 и перейдем к пределу при р —* оэ. В правой
части умножим и разделим коэффициенты на
_ /_- k . k
(l-k)\k\(p-\-k) ^
Используя формулы B) и G) п. I и равенства вида
получим после несложных преобразований формулу сложения для
многочленов Эрмита:
Ht (ху + Vl-хЧ) =
2
ft=0
l/
В частности, при x=J-^- имеем
i
Ь)! Я^О"* №

558 ГРУППА ДВИЖЕНИЙ n-МЕРНОГО ПРОСТРАНСТВА [ГЛ. XI
Более общая формула сложения получается путем повторного приме-
применения формулы (8):
где (а, х) = а,х,-)-...-[-апхп и (а, а) = а\- f ... -\-asn.
Укажем еще следующие формулы для многочленов Эрмита. Из
формулы умножения для многочленов Гегенбауара (см. п. 3 § 4
главы IX) следует, что при l^>k
— со
Н, {ху + VT^x^i) Hk (*) e~*dt = 2~^§ xlk(\- **ji Ht .k (у).
(И)
Если же l<^k, этот интеграл равен нулю. В частности, при & —0
получаем
\ Нг[ху-\-V\~хЧ)е~'3dt = У^кх1Н1 (у). A2)
— со
Отметим частный случай этой формулы при х = ~~~ '•
Далее из формулы F) п. 11 § 4 главы IX следует, что если 1-\-
-\- т -\- п = 2g, где g—целое неотрицательное число, и если суще-
существует треугольник со сторонами /, т, п, то
г г , \ ,1 г \ ,1 г \ —,2 j 2?у п 1\т\п\ ,. . ч
Hl(x)Hm(x)Hn(x)e ^^ = (g_f)i(^_-(-—^. A4)
В противном случае этот интеграл равен нулю.
Из формулы G) п. 3 § 4 главы IX вытекает:
A5)
Предоставляем читателю детально провести соответствующие предель-
предельные переходы. Впрочем, разложение A5) можно получить и исходя
из формулы A2), сделав подстановку jcy -j—1^1—хЧ — и и исполь-

§ Ч многочлены эрмита 559
зован соотношения ортогональности для многочленоп Эрмита (см. ниже
п. 3). Тем же путем из формулы A1) получаем
x"Hn(y)Hn+k(z)
2nn\
. 06)
3. Соотношения ортогональности для многочленов Эрмита.
Из соотношений ортогональности для многочленов Гегенбауэра выте-
вытекают следующие соотношения ортогональности для многочленов
Эрмита:
00 t 0, если т Ф п,
\ е~*2 Нп (х) Нт (х) dx = J г- A)
_^ю п\ i т\ ) \ 2пп\\/ тс, если т — п.
Из соотношений A) вытекает, что функции
е~ 2
28"
я = 0, 1, ..., образуют ортонормированную систему в пространстве
функций f(x) на оси, имеющих интегрируемый квадрат. При этом
в силу полноты системы многочленов Гегенбауэра система функций B)
полна.
Отсюда следует, что любая функция на оси, такая, что
11/11= 5 |/(*)
— со
разлагается в сходящийся в среднем ряд вида
СО X'2
=? а„е"^Нп{х), C)
где
" \ f(x)Hn(x)e~~»'dx. D)
— оэ
При этом имеет место равенство Парсеваля
со
|2 dx = 2 2"л! К^ I в» |а- E)
со

560 ГРУППА ДВИЖЕНИЙ n-МВРНОГО ПРОСТРАНСТВА [ГЛ. XI
4. Преобразование Фурье функций е 2 Нп (х). Функции
X-
е 2 Нп (х) обладают следующим замечательным свойством инвариант-
инвариантности относительно преобразования Фурье:
со х2 уз
С pixy в 2 f-7 (уЛйу Л^2тг1пр 2~ и (,,\ /14
— со
Чтобы доказать это свойство, применим формулу F) п. 1. С помощью
теоремы Коши получим
со л;2
^ е'*У e~~Hn(x)dx =
— со
~^~ OD СО
= 2«?__ ^ Г е r-^xjrityie-t4tdx =
— со — со
_ЭТ^е_ J С e—*Q-\-y — lxYiT*dtdx =
У т. J ."
— со — iy — со
3 ,1 V2
Вновь применяя формулу F) п. 1, находим
(см. формулу A4) п. 2). Тем самым равенство A) доказано.
Равенство A) дает новое доказательство формулы обращения для пре-
преобразования Фурье. Именно, из результатов п. 3 вытекает, что любую функ-
функцию f(x) с интегрируемым квадратом можно разложить в ряд вида
f(x)= ^апе 2 Ип(х).
п=0
Из этого разложения и формулы A) вытекает
оо ' со У__
F(y)= ^ **»f(x)dx^V^^ onine 2 Я„(у).
— со П = 0

§ 4] МНОГОЧЛЕНЫ ЭРМИТА 561
Второй раз применяя формулу A), убеждаемся, что
со со х-
п = О
Тем самым доказана формула обращения для преобразования Фурье. Анало-
Аналогично доказывается справедливость формулы Планшереля:
= ± J \F(v)\2dy=
n=0
Найдем теперь преобразование Фурье функции е х'2 Нп(х\ Приме-
Применяя формулу E) п. 2, убеждаемся, что
Интегрируя п раз по частям и применяя теорему Коши, получаем
/„ (х) dx = (iy)n \ e~*s +'^ dx =
— со
у2 со / „'-^N2 _zi
4 J e~4*~2V ^х=(г»"е 4
— со —со
В силу формулы обращения Фурье получаем отсюда
СО
dy = D)" V ™
)" V "
Используя же соотношения ортогональности для многочленов Эрмита,
выводим, что
со
(см. формулу F) п. 2).
5. Предельный переход по размерности для группы М (я). Рас-
Рассмотрим теперь предельный переход по размерности для группы

562 ГРУППА ДВИЖЕНИЙ л-ЛШРНОГО ПРОСТРАНСТВА [ГЛ. XI
М (и). Как было показано в п. 2 § 3, зональные сферические фун-
функции для этой группы имеют вид
где р=—=—. Сделаем в интеграле A) подстановку ?==——, заме-
._ У Р .
ним л: на х Vр и перейдем к пределу при р—*со. Мы получим
(см. формулу A) п. 4). Асимптотическое разложение левой части этого
равенства при р—* со получено в работе [128].

ЛИТЕРАТУРА
Монографии и учебные пособия
1. Ахиезер Н. И., Глазман И. М., Теория линейных операторов, Гос-
техиздат, 1950.
2. Багавантам С. и Венкатарайуду Т., Теория групп и ее приме-
применения к физическим проблемам, ИЛ, 1959.
3. Б а у е р Э., Введение в теорию групп и ее приложения к квантовой
физике, ГТТИ, 1937.
4. Б е й м а н Б. Ф., Лекции по применению теории групп в ядерной спект-
спектроскопии, Физматгиз, 1961.
5. Бохнер С, Лекции об интегралах Фурье, Физматгиз, 1962.
6. Брейн де Н. Г., Асимптотические методы в анализе, ИЛ, 1961.
7. Ван дер Верден Б. Л., Метод теории групп в квантовой механике,
ДНВТУ, Харьков, 1938.
8. Ватсон Г. Н., Теория бесселевых функций, ч. 1, ИЛ, 1947.
9. В е й л ь А., Интегрирование в топологических группах и его примене-
применения, ИЛ, 1950.
10. В е й л ь Г., Классические группы, их инварианты и представления, ИЛ,
1947.
11. Вигнер Е., Теория групп, ИЛ, 1961.
12. Винер Н., П э л и Р., Преобразование Фурье в комплексной области,
«Наука», 1964.
13. Г е л ь ф а н д И. М., Лекции по линейной алгебре, изд. 2-е, Гостехиздат,
1951.
14. Гельфанд И. М. и Виленкин Н. Я., Некоторые применения гар-
гармонического анализа. Оснащенные гильбертовы пространства (Обобщен-
(Обобщенные функции, вып. 4), Физматгиз, 1961.
15. Г е л ь ф а н д И. М., Г р а е в М. И., В и л е н к и н Н. Я-, Интегральная
геометрия и связанные с ней вопросы теории представлений (Обобщен-
(Обобщенные функции, вып. 5), Физматгиз, 1962.
16. Гельфанд И. М., М и н л о с Р. А., Шапиро 3. Я., Представления
группы вращений и группы Лоренца, Физматгиз, 1958.
17. Гельфанд И. М., Наймарк М. А., Унитарные представления клас-
классических групп, Труды Матем. ин-та им. В. А. Стеклова 36, 1950.
18. Гельфанд И. М., Шилов Г. Е., Обобщенные функции и действия
над ними (Обобщенные функции, вып. 1), изд. 2-е, Физматгиз, 1959.
19. Гобсон Е. В Теория сферических и эллипсоидальных функций ИЛ
1952. •*¦¦>.,,
20. Г р а д ш т е й н И. С, Рыжик И. М, Таблицы интегралов, сумм и про-
произведений, Физматгиз, 1962.
21. Грей Э., Мэтьюз Г. Б., Функции Бесселя и их приложения к физике
и механике, ИЛ, 1953.

ё64 Литература
22. Джексон Д., Ряды Фурье и ортогональные полиномы, ИЛ, 1648.
23. Евграфов М. А., Асимптотические оценки и целые функции, изд. 2-е,
Физмаггиз, 1962.
24. К а р т а н Э., Теория спиноров, ИЛ, 1947.
25. К а р т а н Э., Геометрия групп Ли и симметрические пространства, ИЛ,
1949.
26. К а ч м а ж С, Ш т е й н г а у з Г., Теория ортогональных рядов, Физмат-
гиз, 1958.
27. Коренев Б. Г., Некоторые задачи теории упругости и теплопровод-
теплопроводности, решаемые в бесселевых функциях, Физматгиз, 1960.
28. Кратцер А., Франц В., Трансцендентные функции, И Л, 1963.
29. Курант Р., Гильберт Д., Методы математической физики, т. 1, 1951.
30. Ландау Л. Д. и Л и ф ш и ц Е. М., Квантовая механика, ч. I, изд. 2-е,
Физматгиз, 1963.
31. Лебедев Н. Н., Специальные функции и их приложения, изд. 2-е, Физ-
Физматгиз, 1963.
32. Левитан Б. М., Разложение по собственным функциям дифференциаль-
дифференциальных уравнений второго порядка, Гостехиздат, 1950.
33. Любарский Г. Я-, Теория групп и ее применения в физике, Гостех-
Гостехиздат, 1957.
34. Люстерник Л. А., Соболев В. И., Элементы функционального
анализа, Гостехиздат, 1951.
35. М а р к у ш е в и ч А. И., Теория аналитических функций, Гостехиздат
1950.
36. Морс Ф. М., Ф е ш б а х Г., Методы теоретической физики, ИЛ, т. 1 и 2;
1958, 1960.
37. My рн а г аи Ф., Теория представлений групп, ИЛ, 1950.
38. Наймарк М. А., Линейные дифференциальные операторы, Гостехиздат,
1954.
39. Наймарк М. А., Линейные представления группы Лоренца, Физматгиз,
1958.
40. Наймарк М. А., Нормированные кольца, Гостехиздат, 1956.
41. Натансон И. П., Конструктивная теория функций, Гостехиздат, 1949.
42. Понтрягин Л. С., Непрерывные группы, Гостехиздат, 1954.
43. Пятецкий-Шапиро И. И., Геометрия классических областей и тео-
теория автоморфных функций, Физматгиз, 1961.
44. Розенфспьд Б. А., Неевклидовы геометрии, Гостехиздат, 1955.
45. Роуз М., Поля мультиполей, ИЛ, 1957.
46. Сеге Г., Ортогональные многочлены, Физматгиз, 1962.
47. Семинар -«Софус Ли» (Теория алгебр Ли. Теория групп Ли), ИЛ, 1962.
48. Снеддон И., Преобразования Фурье, ИЛ, 1955.
49. С о н и н Н. Я., Исследования о цилиндрических функциях и специаль-
специальных полиномах, Гостехиздаг, 1954.
50. Т и т ч м а р ш Е., Введение в теорию интегралов Фурье, Гостехиздат,
1948.
51. Тит ч марш Э. Ч., Разложения по собственным функциям, связанные
с дифференциальными уравнениями второго порядка, ИЛ, т. I, II, 1960,
1961.
52. Т р а н т е р К. Дж., Интегральные преобразования в математической фи-
физике, Гостехиздат, 1956.
53. Уиттекер Е. Т., Ватсон Г. Н., Курс современного анализа, Физмат-
Физматгиз, тт. 1, 2, 1963.
54. У ф л я н д Я. С, Интегральные преобразования в задачах теории упру-
упругости, Изд-во АН СССР, 1963.
55. Ф р о б е н и у с Г., Теория характеров и представлений групп Харьков,
1937.

ЛИТЕРАТУРА 565
56. X е л г а с о н С, Дифференциальная геометрия и симметрические прост-
пространства, «Мир», 1964.
57. Чеботарев Н. Г., Теория групп Ли, Гостехиздат, 1940.
58. X е й н е, В о л к е р, Теория групп в квантовой механике, ИЛ, 1963.
59. X у а Л о - к с н, Гармонический анализ функций многих комплексных пе-
переменных в классических областях, ИЛ, 1959.
60. Шевалле К., Теория групп Ли, ИЛ, т. 1, 1948; тт. 2 и 3, 1958.
61. Эйзенхарт Л. П., Непрерывные группы преобразований, ИЛ, 1947.
62. Э р д е й и А., Асимптотические разложения, Физматгиз, 1962.
63. Ю ц и с А. П., Л е в и н с о н И. В., В а н а г а с В. В., Математический ап-
аппарат теории момента количества движения, Вильнюс, 1960.
64. Я н к е Е., Э м д е Ф., Л е ш Ф., Специальные функции, «Наука», 1964.
65. А р р е 11 Р., К a m р ё d e F ё г i e t J., Fonctions hypergeometriques et
hyperspheriques. Polynomes d'Hermite, Gauthier-Villars, 1926.
66. Bailey, Generalized hypergcometric series, Cambridge, 1935.
67. В о с г п е г Н., Darstellungen von Gruppen, Springer, 1955.
68. В u с h h о 1 z H., Die konfluente hypergeometrische Funktion, Springer,
1953.
69. С a r t a n E., Oeuvrcs completes, Gauthier-Villars, partie 1, v. 1, 2, 1952.
70. Dixmier J., Les C*-algebres et leurs representations, Gauthier-Villars,
1964.
71. E r d ё 1 у i, Magnus, Oberhettinger, T r i с о m i, Tables of integral
transforms, t. 1, 2. McGraw-Hill, 1954.
72. Hammermesch M., Group Theory and Application to Physical Prob-
Problems, Addison-Wesley, 1962. (Готовится перевод на русский язык.)
73. Higher transcendental functions, t. 1, 2, 3, McGraw-Hill, 1953, 1955. Пере-
Перевод первого тома на русский язык вышел в свет в 1965 г. (серия «Спра-
«Справочная математическая библиотека», Высшие трансцендентные функции
(гипергеометрическая функция, функции Лежандра), «Наука», 1965).
Готовится к печати перевод второго тома.
74. К a h а п Т h., Theorie des groupes en physique classique et quantiquc,
t. 1, Dunod, 1960.
75. Kampe de Feriet J., La function hypergeometrique de Gauss (Mem.
Sc. Math., fasc, 85), Paris, 1937.
76. Klein F., Conferences sur les mathematiques (Recueillies par A. Ziwet,
traduites par L. Laugel), Chicago, 1893; Paris, 1898.
77. Klein F., Vorlesungen fiber die hypergeometrische Funktion, Berlin, 1933.
78. К о w a 1 e w s k i G., Einfiihrung in die Theorie der kontinuierlichen Grup-
Gruppen, Leipzig, 1931.
79. L e n s e J., Kugelfunktionen, 2 Aufl., Akad. Verlag, 1954.
80. L i 111 e w о о d D. E., The theory of group characters and matrix repre-
representations of groups, Oxford, 1950.
81. Miller W., On Lie algebras and some special functions of mathematical
physics, Mem. of the Amer. Math. Soc. 50, 1964.
82. Murnaghan F. D., The Unitary and Rotation Groups, Washington, 1962.
83. Nielsen N., Handbuch der Theorie der Cylinderfunktionen, Teubner, 1904.
84. Nielsen N., Handbuch der Theorie der Gamma-funktion, Teubner, 1906.
85. Nielsen N., Theorie des functions metaspheriques, Gauthier-Villars,
1911.
86. Oberhettinger F., Tabellen zur Fourier Transformation, Springer,
87. R а с a h G., Group theory and spectroscopy, Princeton lectures, Springer,
88. R a i n v i 11 e E. D., Special functions, New York, 1960.
89. Robin L., Fonctions spheriques de Legendre et fonctions spheroidales,
v. 1, 2, Gauthier-Villars, 1958.

566 ЛИТЕРАТУРА
90. R u d i n W., Fourier analysis on Groups, New York—London, 1962.
91. Schafke F. W., Einfiihrung in die Theorie der speziellen Funktionen
der mathematischen Physik, Springer, 1963.
92. Shochat J. В., Hi He E., Walsh J. L., A bibliography on orthogonal
polynomials, Washington, 1940.
93. Slater L, Confluent hypergeometric functions, Cambridge, Univ. press,
1960.
94. T r i с о m i F. G., Functions hypcrgeometriques, confluentes, Gauthier-Vil-
lars, 1960.
95. Truesdell C, An Essay Toward a Unified Theory of Special Functions
Based upon the Functional Equation ,- F (z, a) = F(z, a -\-1), Princeton,
1948.
96. Waerden B. L. van der, Grtippcn von linearcn Transformationen, Chel-
Chelsea, 1948.
97. Wangcrin A., Theorie des Potentials uiid der Kugelfunktionen, Bd. 1,2,
Leipzig, 1922.
98. W a n g e r i n A., Theorie der Kugelfunktionen..., Enc. der Math. Wiss.,
Vol. II, Heft I, 2, 695—759.
99. Weyl H., Gruppentheory und Quantenmechanik, Leipzig, 1928.
100. W i g n e r E. P., The application of group theory to the special functions
of mathematical physics, Princeton lectures, part I, 11, Spring, 1955.
Журнальные статьи
101. Аким Э. Л., Левин А. А., Производящая функция для коэффициен-
коэффициентов Клебша-Гордана, ДАН СССР 138, № 3, 1961, 503—505.
102. Березанский Ю. М., О некоторых нормированных кольцах, пост-
построенных по ортогональным полиномам, Укр. матем. журнал 3, № 4, 1951,
412—432.
103. Березин Ф. А., Представления комплексных полупростых групп Ли
в банаховом пространстве, ДАН СССР 110, № 6, 1956, 897—900.
104. Б е ре з и н Ф. А., Операторы Лапласа на полупростых группах Ли,
Труды Моск. матем. о-ва 6, 1957, 371—463.
105. Березин Ф. А., Гельфанд и. М., Несколько замечаний к теории
сферических функций на симметрическом римановом пространстве, Труды
Моск. матем. о-ва 5, 1956, 311—351.
106. Б е р е з и н Ф. А., Г е л ь ф а н д И. М., Г р а е в М. И., Н а й м а р к М. А.,
Представления групп, Успехи матем. наук 11: 6 G2), 1956, 13—40.
107. Березин Ф. А., К а р п с л е в и ч Ф. И., Зональные сферические функ-
функции и операторы Лапласа на некоторых симметрических пространствах,
ДАН СССР 118, № 1, 1958, 9—12.
108. Богаевский А. Н., Вычисление зональных сферических функций,
ДАН СССР 129, № 3, 1959, 484-487.
109. Богаевский А. Н., Гармонические функции на GL B), ДАН СССР
153, Ма 4, 1963, 751—753.
ПО. Брюа Б., Работы Хариш-Чандры по теории представлений веществен-
вещественных полу простых групп, Математика 6:5, 1962, 43—50.
111. Бхану Мурти Т. С, Мера Планшереля для фактор-пространства
SL (и, R)/SO (и, Д), ДАН СССР 133, № 3, 1960, 503—506.
112. Бхану Мурти Т. С, Асимптотическое поведение зональных сфери-
сферических функций на верхней полуплоскости Зигеля, ДАН СССР 135,
№ 5, 1960, 1027—1030.
113. Виленкин Н. Я-, Бесселевы функции и представления группы евк-
евклидовых движений, Успехи матем. наук 11:3 F9), 1956, 69—112.

ЛИТЕРАТУРА
114. Виленкин Н. Я., Матричные элементы неприводимых унитарных
представлений группы вещественных ортогональных матриц и группы
движения (и—1)-мерного евклидова пространства, ДАН СССР из
№ 1, 1957, 16—19.
115. Виленкин Н. Я., Вывод некоторых свойств многочленов Якоби при
помощи теории представлений групп, Ученые записки МГПИ им. В. И.
Ленина 108, 1957, 59—71.
116. В и л с н к ин Н. Я., К теории присоединенных сферических функций
на группах Ли, Матем. сб. 42:4, 1957, 485- 496.
117. В и л е н к и н Н. Я., О производящей функции для многочленов Якоби,
Успехи матем. наук 12:6 G8), 1957, 137—142.
118. Виленкин Н. Я., Континуальный аналог теоремы сложения для мно-
многочленов Якоби, Успехи матем. наук 13:2 (SO), 1958, 157—161.
119. Виленкин Н. Я-, Матричные элементы неприводимых унитарных
представлений группы движений пространства Лобачевского и обобщен-
обобщенные преобразования Фока-Мслера, ДАН СССР 118, № 2, 1958, 219—222.
120. Виленкин Н. Я., Некоторые соотношения для функций Гегенбауэра,
Успехи матем. наук 13:3 (81), 1958, 167—172.
121. Виленкин Н. Я., Специальные функции, связанные с представления-
представлениями класса 1 групп движений пространств постоянной кривизны, Труды
Моск. матем. о-ва 12, 1963, 185—257.
122. Виленкин Н. Я., Гипергеометрическая функция и представления
группы вещественных матриц второго порядка, Матем. сб. 64A06); 4,
1964, 497—520.
123. Виленкин Н. Я., Континуальные теоремы сложения для гипергеомег-
рической функции, Матем. сб. 65A07): 1, 1964, 28—46.
124. Виленкин Н. Я., Полисферические и орисферпческие функции, Ма-
Матем. сб. (печатается).
125. Виленкин Н. Я., Функции Уиттекера и представления группы тре-
треугольных матриц третьего порядка, Матем. сб. (печатается).
126. В и л е н к и н Н. Я., А к и м Э. Л., Л е в и н А. А., Матричные элемен-
элементы неприводимых унитарных представлений группы евклидовых движе-
движений трехмерного пространства и их свойства, ДАН СССР 112, № 6,
1957, 987—989.
127. Виленкин Н. Я., Смородинский Я. А., Инвариантные разложе-
разложения релятивистских амплитуд. ЖЭТФ 46, вып. 5, 1964, 1793—1808.
128. В и л е н к и н Н. Я., Ц у к е р м а н В. В., Об одной асимптотической
формуле для функций Бесселя, Ж. выч. матем. и матем. физики 4, вып.
6, 1964, 1097—1102.
129. Гельфанд И. М., Сферические функции на симметрических римано-
вых пространствах, ДАН СССР 70, вын. 1, 1950, 5—8.
130. Гельфанд И. М., Центр инфинитезимального группового кольца.
Матем. сб. 26:1, F8), 1950, 103—112.
131. Гельфанд И. М., О структуре кольца быстро убывающих функций
на группе Ли, ДАН СССР '124, № 1, 1959, 19—21.
132. Гельфанд И. М., О формуле преобразования Фурье, «Матем. прос-
просвещение» 5, 1960, 155—159. '
133. Гельфанд И. М., О некоторых проблемах функционального анализа,
Успехи матем. наук 11:6 G2), 1956,3—12.
134. Гельфанд И. М., Интегральная геометрия и ее связь с теорией пред-
представлений, Успехи матем. наук 15:2(92), I960, 155—164.
135. Гельфанд И. М., Граев И. И., Унитарные представления вещест-
вещественной унимодулярной группы (основные невырожденные серии), Извес-
Известия АН СССР," сер. матем. 17, 1953, 189—248.
136. Гельфанд И. М., Граев М. И., Аналог формулы Планшереля для
классических групп, Труды Моск. матем. о-ва 4, 1955, 375—404.

5б8 Литература
137. Гельфанд И. М., Граев М. И., Следы унитарных представлений
вещественной унимодулярной группы, ДАН СССР 100, № 6, 1955, 1037—
1040.
138. Гельфанд И. М., Граев М И., Преобразования Фурье быстро
убывающих функций на комплексных полупростых группах, ДАН СССР
131, № 3, I960, 496-499.
139. Гельфанд И. М., Граев М. И., Конструкция неприводимых пред-
представлений простых алгебраических групп над конечным полем, ДАН СССР
147, № 3, 1962, 529-532.
140. Гельфанд И. М., Граев М. И., Категории представлений групп
и задача о классификации неприводимых представлений, ДАН СССР
146, № 4, 1962, 757—760.
141. Г е л ь ф а н д И. М., Граев М. И., Геометрия однородных пространств,
представления групп в однородных пространствах и связанные с ними
вопросы интегральной геометрии, I, Труды Моск. матем. о-ва 8, 1959,
321—390.
142. Гельфанд И. М., Граев М. И., Применение метода орисфер к
спектральному анализу функций в вещественном и мнимом пространст-
пространствах Лобачевского, Труды Моск. матем. о-ва 11, 1962, 243—308.
143. Гельфанд И. М., Граев М. И., Представления группы матриц 2-го
порядка с элементами из локально-компактного поля и специальные
функции на локально-компактных полях, Успехи матем. наук 18:4 A12),
1963, 29—99.
144. Гельфанд И. М., Н а й м а р к М. А., Унитарные представления груп-
группы Лоренца, Известия АН СССР, сер. матем. 11, № 5, 1947, 411—504.
145. Г е л ь ф а н д И. М., Н а й м а р к М. А., Унитарные представления груп-
группы линейных преобразований прямой, ДАН СССР 55, № 7, 1947,571—574.
146. Гельфанд И. М., Н а й м а р к М. А., Нормированные кольца с ин-
инволюцией и их представления, Известия АН СССР, серия матем. 12,
№ 5, 1948, 445-480.
147. Гельфанд И. М., Н а й м а р к М. А., Унитарные представления уни-
унимодулярной группы, содержащие единичное представление унитарной
подгруппы, Труды Моск. матем. о-ва 1, 1952, 423—475.
148. Гельфанд И. М., Пятецкий-Шапиро И. И., Теория представ-
представлений и теория автоморфных функций, Успехи матем. наук 14:2 (86),
1959, 171—194.
149. Гельфанд И. М., Пятецкий-Шапиро И. И., Унитарные пред-
представления в однородных пространствах с дискретными стационарными
подгруппами, ДАН СССР 147, № 1, 1952, 17—20.
150. Гельфанд И. М., Пятецкий-Шапиро И. И., Унитарные пред-
представления Ь пространстве G/Г, где Q—группа вещественных матриц
и-го порядка, Г — подгруппа целочисленных матриц, ДАН СССР 147,
№ 2, 1962, 275—278.
151. Гельфанд И. М., Пятецкий-Шапиро И. И., Автоморфные
функции и теория представлений, Труды Моск. матем. о-ва 12, 1963,
389—412.
152. Гельфанд И. М., Фомин С. В., Геодезические потоки на много-
многообразиях постоянной отрицательной кривизны, Успехи матем. наук 7:1
D7), 1952, 118—137.
153. Г е л ьфанд И. М., ЦетлинМ. Л., Конечномерные представления
группы унимодулярных матриц, ДАН СССР 71, № 5, 1950, 825—828.
154. Гельфанд И. М., Ц е т л и н М. Л., Конечномерные представления
группы ортогональных матриц, ДАН СССР 71, №6, 1950, 1017—1020.
155. Гельфанд И. М., Шапиро 3. Я., Представления группы вращений
трехмерного пространства и их применения, Успехи матем. наук, 7:1 D7),
1952,3-117.

ЛИТЕРАТУРА 569
156. Гельфанд И. М., Я г л о м А. М., Общие релятивистские инвариант-
инвариантные уравнения и бесконечномерные представления группы Лоренца,
ЖЭТФ 8, 1948, 703—733.
157. Г и н д и к и н С. Г., Формула следа и дзета-функция на некоторых сим-
симметрических пространствах, Ученые записки МГПИ им. В. И. Ленина
188, 1962, 23—53.
158. Г и н д и к и н С. Г., Анализ в однородных областях, Успехи матем. наук
19:4 A18), 1964, 3—92.
159. Г и н д и к и н С. Г., К а р п е л е в и ч Ф. И., Мера Планшереля для ри-
мановых симметрических пространств неположительной кривизны, ДАН
СССР 145, № 2, 1962, 252—255.
159а. Г и и д и к и и С. Г., К а р и е л е в и ч Ф. И., Об одной задаче интегральной
геометрии, Сб. «Памяти Н. Г. Чеботарева», изд. Казанского ун-та, 1964,
30—43.
160. Г о д м а н М. (Godement R.), Обобщение интеграла, изученного Зиге-
лем, и обобщенная Г-функция, Математика 4:2 (I960), 39—50.
161. Годман P. (Godement R), Голоморфные функции с суммируемым
квадратом на полуплоскости Зигеля, Математика 4:2, 1960, 51—57.
162. Го лодец В. Я., Матричные элементы неприводимых унитарных и спи-
норных представлений собственной группы Лоренца, Весщ Академии
навук Беларускай ССР 1, 1961, 19- 28.
163. Граев М. И., Унитарные представления вещественных простых групп
Ли, Труды Моск. матем. о-ва 7, 1958, 335—389.
164. Граев М. И., О неприводимых унитарных представлениях некоторых
классов вещественных простых групп Ли, ДАН СССР 127, № 1, 1959,
13—16.^
165. Граев М. И., КарпелевичФ. И., К и р и л л о в А. А., Теория
представлений групп Ли, Труды четвертого Всесоюзного математиче-
математического съезда, т. II, 275—281.
166. Диксмье Ж. (Dixmier J.), Некоторые результаты Хариш-Чандры, Ма-
Математика 6:5,1962, 23—32.
167. Диксмье Ж. (Dixmier J.), Об унитарных представлениях нильпотент-
ных групп Ли, Математика 5:1, 1961, 53—114.
168. Диксмье Ж. (Dixmier J.), Об унитарных представлениях алгебраиче-
алгебраических групп Ли, Математика 8:6, 1964, 69—79.
169. Долгинов А. 3., Релятивистские сферические функции, ЖЭТФ 30,
вып. 4, 1956, 746—755.
170. Д о л гин о в А. 3., Т о п т ы г и н И. Н., Релятивистские сферические
функции, И, ЖЭТФ 37, выи. 5A1), 1959, 1141—1151.
171. Долгинов А. 3., Мо с к а л е в А. Н., Релятивистские сферические
функции, III, ЖЭТФ 37, вып. 6A2), 1959, 1697—1707.
172. Желобенко Д. П., Описание некоторого класса представлений груп-
группы Лоренца, ДАН СССР 121, № 4, 1958, 586—589.
173. Же л о б е н ко Д. П., Строение группового кольца группы Лоренца,
ДАН СССР 126, № 3, 1959, 482—485.
174. Желобенко Д. П., Линейные представления группы Лоренца, ДАН
СССР 126, № 5, 1959, 935-938.
175. Желобенко Д. П., Описание всех неприводимых представлений про-
произвольной связной группы Ли, ДАН СССР, 1961, 139, № 6; 1961,1291—1294.
176. Желобенко Д. П., Классические группы. Спектральный, анализ ко-
конечномерных представлений, Успехи матем. наук 17:1 A03), 1962, 27—120.
177. Желобенко Д. П., К теории линейных прецставлений комплексных
и вещественных групп Ли, Труды Моск. матем. о-ва 12, 1963, 53—98.
178. Же л об енко Д. П., О гармоническом анализе функций на полупрос-
полупростых группах Ли, I, Известия АН СССР, сер. матем. 27, вып. 6, 1963,
1343—1394.

570 ЛИТЕРАТУРА
179. Зельберг A. (Selberg А.),Гармонический анализ и дискретные груп-
группы в слабосимметрических римановых пространствах; приложения к
теории рядов Дирихле, Математика 1 :4, 1957, 3—28.
180. Карпелевич Ф. И., Геодезические линии и гармонические функции
на симметрических пространствах, ДАН СССР 124, № 6, 1959, 1199—1202.
181. Карпелевич Ф. И., Орисферические радиальные части операторов
Лапласа на симметрических пространствах, ДАН СССР 143, № 5, 1962,
1034—1037.
182 Картье П. (Cartier P.), О формуле характера Г. Вейля, Математика
6:5, 1962, 139—141.
183. Картье П. (Cartier P.), Представления групп Ли (по Хариш-Чандры),
Математика 6:5, 1962, 33—41.
184. Кац Г. I., ЛшШш представления ушмодулярно! груни, HayKOBi записки
Житомирского педагопчного шетитуту, ф1з.-матем., сер. 3, 1956, 7—61.
185. К а ц Г. И., Обобщенные функции на локально-компактной группе и раз-
разложения унитарных представлений, Труды Моск. матем. о-ва 10, 1961,
3—40.
186. Кириллов А. А., Представления группы вращений «-мерного евкли-
евклидова пространства сферическими векторными полями, ДАН СССР 116,
№ 4, 1957, 538—541.
187. Кириллов А. А., Об унитарных представлениях нильпотентных групп
Ли, ДАН СССР 130, № 5, 1960, 966—968.
188. Кириллов А. А., Унитарные представления нильпотентных групп
Ли, Успехи матем. наук, 17:4 A06), 1962, 57—110.
189. К и ри л лов А. А., О бесконечномерных представлениях полной мат-
матричной группы, ДАН СССР 144, № 1, 1962, 37—39.
190. Константинова Э. Л. и Соколик Г. А., Двумерное уравнение
Шредингера и представления группы движения плоскости, ЖЭТФ 30,
вып. 2, 1956, 430—431.
191. Костант Б. (Kostant В.), Формула для кратности веса. Математика
6:1, 1962, 133—152.
192. Крейн М. Г., Принцип двойственности для бикомпактной группы и
квадратной блок-алгебры, ДАН СССР 69, № 6, 1949, 725 -728.
193. Крейн М. Г., Эрмитово-положительные ядра на однородных прост-
пространствах, т. I, И, Укр. матем. журнал, т. 1, № 4, 1949, 64—98; т. II, № 1,
1950, 10—59.
194. Ламбина Е. Н., Матричные элементы неприводимых унитарных
представлений группы /< ортогональных матриц четырехмерного евкли-
евклидова пространства, ДАН БССР 6, № 10, 613—615.
195. Ламбина Е. Н., Матричные элементы неприводимых унитарных пред-
представлений группы 1<Сп ортогональных матриц и-мерного евклидова
пространства, ДАН БССР 9, № 2, 1965, 77 81.
196. Л ев инсон И. Б., Юцис А. П., Приведение прямого произведения
представлений собственной однородной группы Лоренца, Труды АН Ли-
Литовской ССР, Б, 4A6), 1958, 3—16.
197. М а к к е й Д. В. (Mackey G. W.), Функции на локально-компактных
группах, Успехи матем. наук 8:4 E6), 1953, 95—129.
198. Макки Г. (Mackey G. W.), Бесконечномерные представления групп,
Математика 6:6, 1962, 57—103.
199. М ан де льцв ейг В. Б., Неприводимые представления группы SUa
ЖЭТФ 47, вып. 5A1), 1964, 1836—1846.
200. Мандельцвейг В. Б., Разложение представления редуктивной ал-
алгебры Ли на представления регулярных редуктивных подалгебр макси-
максимального ранга, ДАН СССР, 162, № 6, 1965.
201. Н айм арк М. А., О неприводимых линейных представлениях собст-
собственной группы Лоренца, ДАН СССР 97, № 6, 1954, 969—972.

ЛИТЕРАТУРА 571
202. Н а й м а р к М. А., Об описании всех унитарных представлений комп-
комплексных классических групп, I, И, Матем. сб. 35G7):2, 1954, 317-—356;
37 G9): 1,1955, 121—140.
203. Наймарк М. А., Линейные представления группы Лоренца, Успехи
матем. наук, 9:4F2), 1954, 19—93.
204. Наймарк М. А., Континуальный аналог леммы Шура и его примене-
применение к формуле Планшереля для комплексных классических групп, Из-
Известия АН СССР, сер. матем. 20, № 1, 1956, 3—16.
205. Наймарк М. А., О неприводимых линейных представлениях полной
группы Лоренца, ДАН СССР 112, № 4, 1957, 583—5R6.
206. Наймарк М. А., О разложении неприводимых представлений основ-
основной серии комплексной унимодулярной группы и-го порядка по пред-
представлениям комплексной унимодулярной группы второго порядка, ДАН
СССР 121, № 4, 590—593.
207. Наймарк М. А., Разложение тензорного произведения неприводимых
представлений собственной группы Лоренца на неприводимые представ-
представления, ч. I, II, 111, Труды Моск. матем. о-ва 8, 1959, 121- 153; 9, I960
237—262; 10, 1961, 181—216.
208. Н а й м а р к М. А., О разложении на фактор-представления унитарного
представления локально-компактной группы, Сибирский матем. журнал
т. II, № 1, 1961, 89—99.
209. Н а й м а р к М. А., Фомин С. В., Непрерывные прямые суммы гиль-
гильбертовых пространств и некоторые их применения, Успехи матем. наук
10:2F4), 1955, 111—142.
210. О л е в с к и й М. Н., Решение некоторых начальных и краевых задач
для волнового уравнения, уравнения теплопроводности и уравнения
Лапласа в пространствах постоянной кривизны, ДАН СССР 33, № 4,1941
282—286.
211. Олевский М. Н., Об одном обобщении бесселевых функций, ДАН
СССР 40, № 1, 1943, 5—10.
212. Олевский М. Н., Некоторые теоремы о среднем в пространствах пос-
постоянной кривизны, ДАН СССР 45, № 3, 1944, 103—106.
213. Олевский М. Н., Решение задачи Коши для волнового уравнения в
n-мерном пространстве постоянной кривизны, ДАН СССР, 46, № 1
1945, 3—7.
214. О л е в с к и й М. Н., О представлении произвольной функции в виде
интеграла с ядром, являющимся гипергеометрической функцией, ДАН
СССР 69, № 1, 1949, 11—14.
215. Олевский М. Н., Триортогональные системы в пространствах пос-
постоянной кривизны, в которых уравнение Д2и-)-Хм = 0 допускает полное
разделение переменных. Матем. сб. 27 F9): 3,1950, 379—426.
216. Олевский М. Н., Обобщенное волновое уравнение, уравнение теп-
теплопроводности и специальные функции, Трупы МИМЭСХ 4, вьт 1
1959, 129—136.
217. П я т е цк и й - Ш а и иро И. И., Некоторые вопросы гармонического
анализа в однородных областях, ДАН СССР 116, № 2, 1957, 181—
184.
218. Попов В. С, К теории релятивистских преобразований волновых
функций и матрицы плотности частиц со спином, ЖЭТФ, 37, вып 4
A0), 1959, 1116—1126.
219. Попов В. С, Долинский Э. И., Групповые свойства комплексно-
комплексного углового момента, ЖЭТФ 46, вып. 5, 1964, 1829—1841.
220. Р о м м Б. Д., Разложение на неприводимые представления тензорного
произведения двух неприводимых представлений вещественной группы
Лоренца (случай двух дискретных серий), Известия АН СССР, сер. ма-
матем. 28, № 4, 1964, 855—866.

572 ЛИТЕРАТУРА
221. Р о м м Б. Д., Разложение на неприводимые представления сужения
представлений основной серии собственной группы Лоренца на вещест-
вещественную группу Лоренца, ДАН СССР 152, № 1, 1963, 59—62.
221а. Р о м м Б. Д., Аналог формулы Планшереля для вещественной унимо-
дулярной группы третьего порядка, ДАН СССР 160, № 6, 1965, 1269—
1270.
222. Рыбкин В. Б., Представление коэффициентов Клебша-Гордана в виде
конечноразностных аналогов полиномов Якоби, ДАН БССР 3. № 5,
1959, 183—185.
223. С е м я н и с т ы й В. И., Некоторые интегральные преобразования и ин-
интегральная геометрия в эллиптическом пространстве, Труды семинара по
вект. и тенз. анализу, вып. 12, 1963, 397—441.
224. Соколик Г. А., Представления общей группы Лоренца и классифи-
классификация релятивистских уравнений, Известия высш. учеб. зав., физика, 5,
1962, 54—59.
225. Соколик Г. А., Новый класс представлений полной группы Лоренца
ЖЭТФ 36, вып. 4, 1959, 1098—1102.
226. Шапиро И. С, Разложение волновой функции по неприводимым
представлениям группы Лоренца, ДАН СССР 106, 1956, 647.
226а. Шапиро И. С, Разложение амплитуды рассеяния по релятивистским
шаровым функциям, ЖЭТФ 43, 1962, 1727. Physics Letters I, 1962, 253.
227. Широков Ю. М., Теоретико-групповое рассмотрение основ реляти-
релятивистской квантовой механики, ч. I, II, 111, ЖЭТФ 33, вып. 4 A0); 1957,
861—872; 33, вып. 5A1); 1957, 1196—1207.
228. Э с к и н Л. Д., Вычисление сферической функции группы D2, Ученые
записки Казанского госуниверситета, 115, кн. 7, 1955, 19—24.
229. Э с к и н Л. Д., Замечания об операторах Лапласа на унимодулярной
группе, Известия высш. учеб. завед., Математика 2(9), 1957, 259—269.
230. Э с к и н Л. Д., К теории релятивистских сферических функций, Науч-
Научные докл. высш. школы 2, 1959, 95—97.
231. Э скин Л. Д., О матричных элементах неприводимых представлений
группы Лоренца, Известия высш. учеб. завед., Математика 6B5), 1961,
179—184.
232. Э с к и н Л. Д., t-функция на группе унитарных матриц, ДАН СССР
152, № 6, 1963, 1327—1328.
233. Эскин Л. Д., Уравнение теплопроводности на группах Ли, Сб. «Памя-
«Памяти Н. Г. Чеботарева, 1894—1947», Казань, ун-т, 1964, 113—132.
234. Я г л о м А. М., Некоторые классы случайных полей в и-мерном прост-
пространстве, родственные стационарным случайным процессам, Теория веро-
вероятностей и ее применения, II, вып. 3, 1957, 292—338.
235. Я г л о м'А. М., Положительно-определенные функции и однородные слу-
случайные поля на группах и однородных пространствах, ДАН СССР 135,
№ 6, 1960, 1342—1345.
236. Bargmann V., Irreducible unitary representations of the Lorentz group,
Ann. of Math. 48, 1947, 568—640.
237. BiedenharnL. C, On the representations of the semisimple Lie
groups 1., J. Math. Phys. 4, 1963, 436—445.
238. В r a u e r R., Die stetigen Darstellungen der komplexen orthogonalen
Gruppe, Sitzungsber. der preuss. Akad. der Wissensch., Berlin, 1929, 626—
638.
239. Brauer R., W e у 1 H., Spinors in «-dimension. Amer. J. of Math. 57,
1935, 425—449.
240. Bruhat F., Sur les representations induites de groupes de Lie, Bull.
Soc. Math. France 84, 1956, 97—205.
241. Bruhat F., Sur les representations des groupes classiques »-adiques, I,
II, Amer. J. Math. 83, № 2, 1961, 321—338, 343—368.

ЛИТЕРАТУРА 573
242. С а г t a n Ё., Les groupes projectifs, qui ne laissent invariante aucune
mil tiplicite, plane, Bull. Soc. Math, de France 41, 1913, 53—96.
243. С а г t a n Ё., Les groupes projectifs continus reels, qui ne laissent invari-
invariante aucune miltiplicite plane, J. Math, pures et appl. 10, 1914, 149—186.
244. Cart an Ё., Sur la determination d'un systeme orthogonal complet dans
un espace de Riemann symetrique clos, Rend. Circ. Mat. Palermo 53, 1929
217—252.
245. Dieudonne J., Note sur les fonctions spheriques, J. Math, pures, appl.
191, 41, 1962, 233—240.
246. D i г а с Р. А. М., A remarkable representation of the 3 -f- 2 de Sitter
group. J. Math. Phys. 4, 1963, 901—909.
247. Dixmier J., Representations integrables du groupe de Sitter, Bull. Soc
Math. France 89, 1961, 9—41.
248. Dixmier J., Sur les representations unitaires des groups de Lie reso-
lubles, Math. J. Okayama Univ. 11, 1962, 1—18.
249. Ehrenpreis L., Mautner F. J., Some properties of the Fourier
transform on scmisimple Lie groups, I, II, III, Ann. of Math., 61, № 3,
1955, 406—439; Trans, of Amer. Math. Soc. 84, № 1, 1957, 1—55; 90, 1959,
431—484.
250. G e 1 f a n d I. M. (Гельфанд И. М.), Automorphic functions and the the-
theory of representations, Proc. of Intern. Congress of Math., Stockholm,
1962, 74—85; Uppsala, 1963.
251. GodementR., A theory of spherical functions I, Trans. Amer. Math.
Soc. 73, 1952, 496—556.
252. Haar A.,Der Massbegriff in der Theorie der kontinuierlichen Gruppen,
Ann. of Math. 34, 1933, 147—169.
253. Harish-Chandra, On some applications of the universal enveloping
algebra of a seraisimple Lie algebra, Trans. Amer. Math. Soc. 70, 1951,
28—96.
254. Harish-Chandra, Plancherel formula for complex semisimple Lie
groups, Proc. Nat. Acad. Sci. USA 38, 1952, 337—342.
255. Harish-Chandra, Representations of semisimple Lie groups, I, II, III
Trans. Amer. Math. Soc. 75, 1953, 185—243; 76, 1954, 26—65; 234—253.
256. Harish-Chandra, Representations of semisimple Lie groups, IV, V,
VI, Amer. J. Math. 77, 1955, 743—777; 78, 1956, 1—41; 564—628.
257. Harish-Chandra, The Plancherel formula for complex semisimple
Lie groups, Trans. Amer. Math. Soc. 76, 1954, 485—528.
258. Harish-Chandra, Fourier transforms on a semisimple Lie algebra,
I, II, Amer. J. Math. 79, 1957, 193—257, 653—686.
259. Harish-Chandra, Spherical functions on a semisimple Lie group,
I, II, Amer. J. Math. 80, 1958, 241—310, 553—613.
260. D ' H e e d e n R. N., Simultaneous invariance of generalized spherical
harmonics under the operators of two rotation groups, Quart. Appl. Math.,
16, № 2, 1958, 189—192.
261. H e r z C. S., Bessel functions of matrix argument, Ann. of Math. 61, № 3,
1955, 474—523.
262. H i r a i Т., On infinitesimal operators of irreducible representations of the
Lorentz group of n-th order, Proc. Japan Acad. 38, 1962, 83—87.
263. Horvath J., Singular integral operators and spherical harmonics, Trans.
Amer. Math. Soc. 82, № if 52—63.
264. Hurevitsch А. (Гуревич A.), Unitary representation in Hilbert space
of a compact topological group, Матем. сб. 13, № \t 1943, 79—86.
265. I n о n u E., Wigner E. P., On the contraction of groups and their rep-
representations, Proc. Nat. Acad. Sci. USA. 39, № 6, 1953, 510—524.
266. 11 б S., Unitary representations of some linear groups. I, II, Nagoya Math.
J. 4, 1952, 1—13; 5, 1953, 79—96,

574 ЛИТЕРАТУРА
267. К о h a r i A., Harmonic Analysis on the Group of Linear Transformations
of the Straigth Line, Proc. Japan. Acad. 37, № 5, 1961, 250—254.
268. К о s t a n t В., Lie group representations on polynomial rings, Amer. J.
Math. 85, № з, 196З, 327—404.
269. К u n z e R. A., S t e i n E. M., Analytic continuation of the principal se-
series, Bull. Amer. Math. Soc. 67, № 6; Ю61, 593—596.
270. К u n z e R. A., S t e i n E. M., Uniformly bounded representations and
harmonic analysis of the 2x2 real unimodular group, I, II, Amer. J. Math.
82, № 1, 1960, 1—62; 83, № 4, 1961, 723—786.
271. Lehrer-Ilamed Y., On the direct calculation of the representations of
the three-dimensional pure rotation group. Proc. Cambridge Philos. Soc.
60, № 1, 1964, 61—66.
272. Lomont J. S., Decomposition of Direct Products of Representations of
the Inhomogeneous Lorentz Group, J. of Math. Phys. 1, № 2, 1960, 237—
243.
273. M a a s s H., Spherical functions and quadratic forms, J. Indian Math. Soc.
20, № 1—3, 1956, 117—162.
274. Maass H., Zetafunktionen rait GroBencharakteren und Kugelfunktionen,
Math. Ann. 134, № 1, 1957, 1—32.
275. Maass H., Zur Theorie der Kugelfunktionen einer Matrixvariablen,
Math. Ann. 135, № 5, 1958, 391—416.
276. Maass H., Zur Theorie der harmonischen Formen, Math. Ann. 137, № 2,
1959, 142—149.
277. M а с к е у G., Induced representations of locally compact groups, I, II,
Ann. of Math. 55, № 1, 1952, 101—139; 58, № 2, 1953, 193—221.
278. M a u t n e r F. I., Unitary representations of locally compact groups, I, II;
Ann. of Math., v. 51, № 1, 1950, 1—25; 52, № 3, 1950, 528—556.
279. M a u t n e r F. I., Fourier analysis and symmetric spaces, Proc. Nat. Acad.
Sci. USA 37, 1951, 529—533.
280. M a u t n e r F. I., Induced representations, Amer. J. Math., 74, № 3, 1952,
737—758.
281. Mautner F. I., Spherical functions over $-adic fields I, II, Amer. J. of
Math. 80, № 2, 1958, 441—457; 86, № 1, 1964, 171—200.
282. Miller W., Some Applications of the Representation Theory of the Euc-
Euclidean Group in Three-Space, Comm. on pure and appl. math. 17, № 4?
1964, 527—540.
283. О r i h a r a A., Bessel functions and the euclidean motion group, Tohoku
Math. J. 13, № 1, 1961, 66—74.
284. Peter F., W e у 1 H., Die Vollstandigkeit der primitiven Darstellungen
einer geschlossenen kontinuierlichen Gruppe, Math. Ann. 97, 1927, 737—
755.
285. P u к a n s z к у L., On the Kronecker products of irreducible representa-
representations of the 2x2 real unimodular group, 1, Trans. Amer. Math. Soc. 100,
№ 1, 1961, 116--152.
286. Pukanszky L., On (he Kronecker product of irreducible unitary rep-
representations of the inhomogeneous Lorents group, J. Math. Mech. 10, № 3,
1961, 475—491.
287. Pukanszky L., The Plancherel Formula for the Universal Covering
Group of SL (R, 2), Math. Ann. 156, № 2, 1964, 96—143.
288. Rubunowicz A., Uber ein Additions-theorem fur Laguerreschen Poly-
nomen, Zeeman Festschr., 1935, 143—147.
289. S a i t о М., Representations unitaires du groupe des deplacements du plan
Sp-adique. Proc. Japan Acad. 39, № 7, 1963, 407—409.
290. S с h u r I., Neue Anwendungen der Integralrechnung auf Probleme der
Invariantentheory, Sitzungsber. Preufi., Akad., iierlin, 1924, 189—208,
297-321, 346-355.

ЛИТЕРАТУРА 575
290а. S u g i u r a M, Representations of compact groups realized by spherical
functions on symmetric spaces. Proc. Japan. Acad., 38, №3, 1962, 111—
113.
291. Takahashi R., Sur les functions spheriques et la formule de Planche-
rel dans le groupe hyperbolique, Japan J. Math., 31, 1961, 55—90.
292. Takahashi L., Sur les representations unitaires des groupes de Lorentz
generalises, Bull. Soc. Math. France, 91, № 3, 289—433.
293. T а к a h a shi Т., Generalized spherical harmonics as representations,
J. Phys. Soc. Japan 7, 1952, 307—312.
294. T a m in J. (Тамм И. E.), Die verallgemeinerten Kugelfunktionen und Wel-
lenphysik, Zeitschr. fur Phys. 71, 141—150.
295. Fatsuuma N., Decomposition of representations of the three-dimensio-
three-dimensional Lorentz group. Proc. Japan Acad. 38, № 1, 1962, 12—14.
296. Tatsuuma N., Decomposition of Kronecker products of representations
of the inhomogeneous Lorentz group. Proc. Japan Acad. 38, № 4, 1962,
156—160.
297. Thoma E., Die unitaren Darstellungen der universellen Oberlagerungs-
gruppe der Bewegungsgruppe des R2, Math. Ann., 134, № 5, 1958, 428—
459.
298. Thomas L. H., On unitary representations of the group of De Sitter
space, Ann. of Math., 1941, 42, № 1, 113—126.
299. We у 1 H., Harmonics on homogeneous manifolds, Ann. of Math., 35, №3,
1934, 486—499.
300. We у I H., Theorie der Darstellung kontinuierlicher halbeinfacher Gruppen
durch lineare Transformationen, Math. Zeitschr. 23, 1925, 271—309; 24,
1925, 228—395 (частично переведено на русский язык, Успехи матем.
наук 4, 1938, 201—246).
301. Wigner E. P., On unitary representations of inhomogeneous Lorentz
group, Ann. of Math. 40, № 1, 1939, 149—204.
302. YamaguchiS., On certain zonal spherical functions, Mem. Fac. Sci.
Kyushu Univ, Ser. A 17, № 2, 1963, 131—134.
303. Yoshizawa H., Group representations and spherical functions, Sugaku
12, 1960/61, 21—37.

ПРИМЕЧАНИЯ И ЛИТЕРАТУРНЫЕ УКАЗАНИЯ
Глава I
Теория представлений групп линейными преобразованиями была созда-
создана Г. Фробениусом [55]. Бернсайц и И. Шур нашли существенно более про-
простой подход, выдвинув на первый план саму матрицу преде гавления вме-
вместо ее следа — фробениусовского характера. Инфинитезимальный подход
к теории представлений развит Э. Картаном [69]. Изложение инфинитезималь-
ной теории групп Ли дано в книгах Понтрягина [42], Хелгасона [56], Чебо-
Чеботарева [57], Шевалле [60], Эйзенхарта [61], Ковалевского [78].
Общая теория непрерывных групп была в основном создана Л. С. Пон-
трягиным [42]. Инвариантное интегрирование на группах Ли ввел А. Гур-
виц в 1897 г. для доказательства теорем об инвариантах. В 1924 г.
И. Шур [290] применил этот процесс к представлениям компактных групп, в
частности вещественной ортогональной группы. Существование инвариант-
инвариантной меры на произвольной локально компактной группе доказано А. Хаа-
ром [252].
Индуцированные представления групп использовались в серии работ
И. М. Гельфанда и М. А. Наймарка [17]. Относительно общей теории см.
Макки [277], Маутнер [280], Брюа [240].
Теория сферических функций на группах восходит к работе Э. Кар-
тана [244], см. также Г. Вейль [299]. Дальнейшее развитие теории дано
И. М. Гельфандом, М. А. Наймарком, Ф. А. Березиным [17], [105], [129],
Н. Я. Виленкиным [116], Р. Годманом [251], Хариш-Чандра [259], Маутнером
[281], Иошидзава [303] и многими другими.
Изложенные здесь результаты получены в основном И. Шуром, Ф. Пе-
Петером и Г. Вейлем. В работе Петера и Вейля [284] доказан основной ре-
результат о полноте системы неприводимых представлений компактной группы
Ли. Для бесконечномерных представлений см. А. Гуревич [264]. В дальней-
дальнейшем эти результаты были в той или иной мере перенесены на локально
компактные группы; см. Рудин [90], Д. П. Желобенко [178], Макки [197,
198], Наймарк [204], Хариш-Чандра [257, 258], Маутнер [278]. Близким вопро-
вопросам посвящены работы М. Г. Крейна [192, 193].
Дополнения к главе I. Относительно затронутых здесь вопросов
см. книги И. М. Гельфанда, М. И. Граева и автора [14, 15], статью
М. А. Наймарка и С. В. Фомина [209].
Глава II
Теория тригонометрических рядов восходит к Д. Бернулли и Л. Эй-
Эйлеру. Эти ряды систематически применялись Ж. Фурье и О. Коши в 20-х
годах XIX века для решения задач математической физики. Относительно
современной теории тригонометрических рядов см. Н. К. Бари «Триго-
«Тригонометрические ряды» и А. Зигмунд «Тригонометрические ряды», т. 1, 2.
Теория интеграла Фурье изложена в книгах Бохнера [5], Титчмарша [50].

ПРИМЕЧАНИЯ И ЛИТЕРАТУРНЫЕ УКАЗАНИЯ 577
Преобразование Фурье в комплексной области впервые было детально изу-
изучено Винером и Пэли [12]. Приведенное в книге доказательство формулы
обращения для преобразования Фурье принадлежит И. М. Гельфанду [132].
С точки зрения теории групп теория тригонометрических рядов и интег-
интегралов является частным случаем теории характеров коммутативных локально
компактных групп, построенной Л. С. Понтрягиным [42].
Глава III
Функции Рп (х) были введены почти одновременно Лежандром и Лапла-
Лапласом в связи с изучением притяжения сфероидов. Они явились первым при-
примером ортогональных многочленов. Обобщением функций Рп(х) являются
многочлены Якоби Р^' ^\х). Относительно общей теории ортогональных
многочленов см. Джексон [22], Сеге [46]. Библиографию по этим многочле-
многочленам см. [92].
Классическая теория функций Лежандра изложена в книгах Гобсона
[19], Уиттекера и Ватсона [53], Лензе [79], Робэна [89], Вангерина [97, 98].
Эти функции широко применяются в классической и квантовой физике.
Изучение оператора момента количества движения в квантовой механике
привело к выяснению связи между многочленами Лежандра и Якоби, с од-
одной стороны, и представлениями группы вращений трехмерного евклидова
пространства — с другой. Эти вопросы изложены в книгах Багавантама и
Венкатарайуду [2], Бауэра [3], Беймана [4], Ван дер Вердена [7], Вигнера [11],
Ландау и Лифшица [30], Любарского [33], Хейне, Волкера [58], Хаммермеша
[72], Кагана [74], Рака [87], Вейля [99] и др.
Систематическое построение теории многочленов Лежандра на базе
теории представлений групп дано Гельфандом и Шапиро [155]; см. также
Гельфанд, Минлос и Шапиро [16]. В этих работах введены и детально изу-
изучены функции Р1тп (х), близкие к многочленам Якоби, но несколько от-
отличающиеся от них. Результаты пп. 1 и 2 § 5 принадлежат автору [115, 117].
Коэффициенты Клебша — Гордана применяются для решения задач спек-
спектроскопии; см. Юцис, Левинсон и Ванагас [63] и упомянутые выше книги.
Данный здесь вывод свойств этих коэффициентов принадлежит в основном
автору.
Глава IV
Функция /0 (х) рассматривалась в 1738 году Даниилом Бернулли, а
функции Jn(x) с целыми значениями п — в 1764 году Эйлером. Подробно
изучены Бесселем в 1824 году. Относительно классической теории бесселе-
бесселевых функций см. Ватсон [8], Грей и Метьюз [21], справочник «Высшие
трансцендентные функции» [73], Нильсен [83]. Приложения к задачам мате-
математической физики изложены в книгах Коренева [27], Лебедева [31], Морса
и Фешбаха [36], Уфлянда [54].
Построение некоторых разделов теории бесселевых функций на основе
теории представлений группы движений евклидовой плоскости проведено
автором [113]. См. также Миллер [81], Константинова и Соколик [190],
Инону и Вигнер [265]. Представления универсальной накрывающей группы
для М B) изучены Тома [297]. Обобщение на ^-адический случай см
Саито [289].
Глава V
Представления группы линейных преобразований прямой линии изу-
изучены Гельфандом и Наймарком [145]; см. также Кохари [267]. Функции
Г (х) и В (х, у) введены Эйлером. Данное здесь изложение теории этих

578 ПРИМЕЧАНИЯ И ЛИТЕРАТУРНЫЕ УКАЗАНИЯ
функций принадлежит автору. Различные обобщения Г-функции рассматри-
рассматривались Годманом [160], Гельфандом и Граевым [143], Гиндикиным [158].
Классическая теория функций Макдональда и Ганкеля изложена в упо-
упоминавшемся трактате Ватсона [8]. Изучение этих функций на основе теории
представлений группы движений псевдоевклидовой плоскости проведено
автором. Некоторые результаты (теорема сложения) независимо от него
получены В. С. Рыко. Возможно, некоторые из приведенных здесь формул
являются новыми.
Глава VI
Группа вещественных упимодулярных матриц второго порядка (или, что
то же, группа квазиунитарных матриц второго порядка) была первой неком-
некомпактной некоммутативной группой, теория представлений которой детально
изучалась (Баргман [236]). Интерес к представлениям этой группы и тесно
связанной с ней группы унимодулярных комплексных матриц второго порядка
вызван ролью этих групп в физике (они изоморфны соответственно трехмер-
трехмерной и четырехмерной группам Лоренца). Представления группы комплексных
матриц второго порядка впервые изучены Гельфандом и Наймарком [144].
Полученные здесь результаты послужили основой изучения представлений
полупростых групп (Гельфанд и Нанмарк [17, 147], Гельфанд и Граев [135,
136, 137, 138], Березин [103, 104], Желобенко [176, 177], Эренпрайс и Маут-
нер [249], Хариш-Чандра [253—259] и др.). Многие результаты гармониче-
гармонического анализа на группах впервые были получены на группах второго
порядка, причем еще не все они перенесены на более общий случай
(Богаевский [109], Гельфанд и Фомин [152], Желобенко [172—174), Наймарк
201, 203, 207], Ромм [220, 221], Кунце и Стейн [269, 270], Пуканский
L2K5, 287]).
В этой главе изложение следует в основном Баргману. Многие вопросы
изложены по книге Гельфанда, Граева и автора [15], глава 7. Относительно
других выводов формулы Планшереля на группе SL B, R) см. Гельфанд
и Граев [136], Пуканский |287].
Глава VII
Гипергеометрическая функция была введена Гауссом. Относительно клас-
классической теории этой функции см. Кратцер и Франц [28], «Высшие трансцен-
трансцендентные функции», т. 1 [73], Клейн [77]. Данное здесь изложение теории при-
принадлежит автору [122, 123]. Многие формулы этой главы являются новыми.
Глава VUI
Относительно теории вырожденных гипергеометрических функций и тес-
тесно связанных с ними функций Уиттексра см. Кратцер и Франц [28], Уиттекер
и Ватсон [53], Бейли [66], Бухгольц [68], «Высшие трансцендентные функ-
функции», т. 1 [73], Трикоми [94]. Теория представлений группы треугольных мат-
матриц третьего порядка является частным случаем общей теории представле-
представлений разрешимых и нильпотентных групп Ли (см. Кириллов [188], Диксмье
[167, 248]).
Связь теории функций Уиттекера с теорией представлений группы тре-
треугольных матриц установлена автором [125]; см. также Миллер [81]. Многие
формулы этой 1 лавы являются новыми.
Глава IX
В работах Шура [290], Картана [242, 243], Вейля [300] и Брауера [238]
получена классификация представлений ортогональной группы и вычислены
характеры этих представлений. Относительно этих результатов см. также

ПРИМЕЧАНИЯ И ЛИТЕРАТУРНЫЕ УКАЗАНИЯ 579
Мурнаган [37] и [82], Вейль [10]. Гельфанд и Цетлин [154] вычислили матрич-
матричные элементы неприводимых инфинитезимальных представлений этой группы.
Выражение матричных элементов представлений в параметрах Эйлера полу-
получено автором [114, 121] и Ламбиной [195].
Теория сферических функций в п-мерном случае изложена в книгах
Аппеля и Кампе де Ферье [65] и Нильсена [85]. В книге «Высшие трансцен-
трансцендентные функции», т. 2 [73] эта теория по сути дела излагается на основе
теории представлений. Данная в нашей книге реализация представлений при-
принадлежит автору, равно как и теория полисферических функций. См. также
Кириллов [186].
Связь между теорией представлений групп и многочленами Гегеиба-
уэра была установлена Картаном [244]. Относительно классической теории
эшх многочленов см. Сеге [46].
Глава X
Представления группы гиперболических вращений п-мерного простран-
пространства и связанные с ними специальные функции независимо были изучены
автором [114, 119, 121] и Такахаши [292]; см. также Хираи [262].
В четырехмерном случае эти представления полностью описаны Гель-
фандом и Наймарком [144, 16, 39, 201]. В ряде работ изучались эти пред-
представления, их матричные элементы и связанные с ними интегральные пре-
преобразования (см., например, Голодец [162], Долгинов, Топтыгин, Москалев
[169—171], Желобенко [173, 174], Левинсон и Юцис [196], Попов [218], Ромм
[220, 221], Шапиро [226], [226а], Эскин [228], Такахаши [291], Тамм [294].
Метод орисфер для разложения представлений на неприводимые разра-
разработан Гельфандом и Граевым [141, 142]. Вывод интегрального преобразова-
преобразования Фока — Мелера на основе метода орисфер дан автором [119, 121]. Можно
показать, что и другие интегральные преобразования (Конторовича — Лебе-
Лебедева, Олевского [214] и др.) также получаются этим методом. Для четырех-
четырехмерного случая это сделано в работе автора и Смородинского [127]. Полис-
Полисферические и орисферические функции на гиперболоиде введены автором
[124]. В трехмерном случае различные ортогональные системы координат,
в которых оператор Лапласа допускает разделение переменных, изучены
Олевским [215].
Глава XI
Изучение свойств бесселевых функций в связи с теорией представлений
группы движений п-мерного евклидова пространства проведено автором
[114, 121] и независимо от него Орихара [283]. Ито [266] описал все непри-
неприводимые унитарные представления этой группы. В работе Герца [261] изу-
изучаются функции Бесселя матричного аргумента. Относительно теории мно-
многочленов Эрмита см. Cere [46].

УКАЗАТЕЛЬ ВАЖНЕЙШИХ ОБОЗНАЧЕНИЙ
Буквы латинские
A (g) — представление группы МИ B)
253
Л* — оператор эрмитово-сопряжен-
ный оператору Л 28
(А) — матрица оператора А 25
Аи Л2, Аа — инфинитезимальные опе-
операторы 147, 148
A (g) В — кронекеровское произведе-
произведение операторов 76
аш) — символическая степень 194
[а, Ь] — коммутатор матриц а и Ъ 37
В *Л—скрещенное (полупрямое) про-
произведение групп В и Л 203
СA, ]) = С(/„ 1„ 1; j, k, т)-коэф-
фициенты Клебша—Гордана 184
С^ (t)—-многочлены Гегенбауэра 452
Е— тождественный оператор в if 23
Es— трехмерное евклидово простран-
пространство 114
Еп — л-мерное евклидово простран-
пространство 430
е — единичный элемент группы Q 23
F(ct, р, -у; г)—гипергеометрическая
функция 345
Л *Л fe) — свертка функций /, (g) и
Afe) 68
'у ® hfc> am — базисы в пространстве
?,(><) ?2 183
g (а, Ъ, а) — элемент группы МB)
202
g {alt a2, <f) — движение псевдоевкли-
псевдоевклидовой плоскости 253
?(% ^, ф) — матрица вращения 114
gx — образ элемента х при отобра-
отображении g 38
Sjk {<*) — вращение на угол а в плос-
плоскости (xj, xk) 433
g1 — транспонированная матрица g 56
Hf(x) — гармоническая проекция од-
. нородного многочлена 440
(х) — многочлены Эрмита 555
- функции Ганкеля первого
и второго рода 262
+> Н- — линейные комбинации ин-
финитезимальных операторов 119
jlm
№т 149
"+, "_. "з
3? (•§], -§g) — тензорные произведения
гильбертовых пространств 74
Jn(x)—-и-я функция Бесселя 211
Kv (г) — функция Макдональда 262
L (§0> ^? fe) — регулярные представле-
представления групп 283, 332, 435
) — многочлены Лагерра 426
\ttiy т2 mj
-символ Вигнера 189
1. i. m — предел в среднем 97
М B) — группа движений евклидовой
плоскости 201
МB,С) — комплексификация группы
МB) 206
М (п) — группа движений п-мерного
евклидова пространства 543
МНB)—-группа движений псебдоев-
клидовой плоскости 253
мЪ,х(г)> ^Ъц(г)— Функции Уитте-
кера 397
Nv(z)—функция Неймана 270
¦P(fc P) B) — многочлены Якоби 133
Pi (г)—многочлены Лежандра 133
Р™ (г) — присоединенные функции
Лежандра 133
Qr (ё) -представление группы МН B)
258
QU<2) — группа квазиунитарных уни-
модулярных матриц второго по-
порядка 288
/? — аддитивная группа вещественных
чисел 81
R (g) — регулярное представление
группы SO B) 88

УКАЗАТЕЛЬ ВАЖНЕЙШИХ ОБОЗНАЧЕНИЙ
9?" — я-мерное линейное пространст-
пространство 98
Rim («) — представление SU B) 148
Sn 1 — единичная сфера в Еп 430
S"a — представление группы SH(n)
SH(n)-— группа гиперболических вра-
вращений п-мерного пространства 84.
289, 500
sign а — знак числа а 49
SLB, С) — комплексификация группы
SU B) 111
SO B, С)-—комплексная форма груп-
группы SO B) 86
SO (n) — группа вращений п-мерного
евклидова пространства 81. 112,
430
SU B)-—группа унитарных унимоду-
лярных матриц второго порядка
106
T(g), T[(g), Tt(u), TK(g), Tx(g),
J?i(g) — представления групп 118,
206, 227, 257, 295, 401, 404, 545
T (g) — представление сопряженное
представлению T(g) 27
7"* (g) — представление, эрмитово-соп-
эрмитово-сопряженное представлению T{g) 28
Tnl (g) ¦— неприводимые представления
SO (n) 436
Тп{х)-—многочлен Чебышева пер-
первого рода 141
T(g)®Q (g) — кронекеровское про-
произведение представлений 33
Tr A — след матрицы 34
l %
ie),
*тп(?)— матричные
элементы представлений 123, 307
t™0 (g) — присоединенная сфериче-
сферическая функция 516
tlQO(g)—зональная сферическая функ-
функция 516
к* — матрица эрмитово-сопряженная
матрице и 106
[х, у] ¦— билинейная форма в псевдо-
псевдоевклидовом пространстве 498
Yik(% в) — присоединенные сфериче-
сферические функции 137
Zv (г) ¦— цилиндрическая функция 268
Буквы готические
©—пространство бесконечно диф-
дифференцируемых функций на окру-
окружности 206
®х — пространство функций 9B) 295
S; — инвариантные подпространства,
в которых реализуются представ-
представления Tt(u) 182
•?>/ — пространство однородных мно-
многочленов степени 11 117
•?>"' — пространство однородных гар-
гармонических многочленов 437
li2(S"~1) — пространство функций на
сфере, имеющих суммируемый
квадрат 435
I" - - пространство, сопряженное с I'
27, 72
К' т^> пг~п — подпространства фун-
функций на 1Руппс SUB) 171—173
i^ + t'g — прямая сумма подпрост-
подпространств 30
V, (х) t'jj— кронекеровское (тензорное)
произведение пространств 72
G\H — однородное пространство 40
%i (ch т) — функции Лежандра 315
ф^ (г) — присоединенные функции
Лежандра 316, 317
%lmn (ch т), %1тп (г) - функции Якоби
309, 310
sfcni — пространство однородных мно-
многочленов 436
© 92
Буквы греческие
В (х, у) — бета-функция 247
Г (z) — гамма-функция 241
Д, До-—операторы Лапласа 150, 151
&1т — сужение оператора Лапласа 149
А" G?) — (я — 1)-мерное пространст-
пространство Лобачевского 501
Е' (х) — канонический базис в про-
пространстве ?"* 460, 462
Ф(а; -f> «) —вырожденная гииергео-
метрическая функция 398
<Р> в, ф-—углы Эйлера 107
Xi(u),T-T (g) — характеры 34, 177
Q ¦— подгруппа гиперболических вра-
вращений 254
Специальные знаки
или 3
ортогональная сумма представле-
представлений 31
? — волновой оператор 537
По ¦— оператор Лапласа на гипербо-
гиперболоиде 538

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Абсолют пространства Лобачевско-
Лобачевского 502
Алгебра Ли матричная 37
Антипериодическая функция 93
Базис 19
— биортогональный 27
— канонический 122
Базисы в пространстве ^± 0 4?2 183
Бесконечно дифференцируемая функ-
функция 89, 90
Бесселя функции 211,270
дифференциальное уравнение
216
272
- —, интегральное представление
производящая функция 217, 553
, разложение в ряд 212, 272
—, рекуррентные соотношения
216, 218
с противоположными индекса-
индексами 212
, связь с многочленами Якоби и
Лежандра 233
, — с функциями Ганкеля 269,
270
-, теорема сложения 213, 214, 551
, формулы умножения 213, 215,
231, 551
Бета-функция 247
—, выражение через гамма-функцию
247
Быстро убывающая функция 92
Вектор инвариантный относительно
подгруппы 44
Вершина дерева 489
Вес представления 122
Вигнера символ 189
Вращение гиперболическое 84, 254,
259, 289, 500
— евклидова пространства 432
— орисферическое 540
— трехмерного пространства 112
Гамма-функция 241, 242
-, свойства 242 — 244
—, формула дополнения 246
—, — сложения 245
—. — удвоения 248
Ганкеля функции 262, 269
, интегральное представление
272
, интегральные преобразования
281
269^
285—287
первого и второго рода 262
разложение в ряд 273
рекуррентные формулы 268
связь с функциями Бесселя
270
теоремы сложения 278
— умножения 281
Гармоническая проекция однородно-
однородного многочлена 440, 441
Гармонический, анализ функций на
компактных группах 63
— многочлен 437, 452
Гегенбауэра многочлены 452
, дифференциальное уравнение
455
-- —, интегральные представления
477-478, 482
-, производящая функция 487
, рекуррентные соотношения
454, 455
• , связь с присоединенными функ-
функциями Лежандра 478
, соотношения ортогональности
456
• , теорема сложения 466, 467
¦—• ¦—, формулы сложения и умноже-
умножения 467 — 470
, частные случаи 455
Гельфанда—Граева интегральное пре-
преобразование 528, 529
Гиперболический косинус, синус 85
Гипергеометрическая функция 345,
346, 347, 379
вырожденная 398

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
583
Гипергеометрическая функция, ин-
интегральные представления 380, 382
— ¦—, — преобразования 369
, преобразование Меллина 384
, разложение в ряд 346
, рекуррентные соотношения
374 — 378
, теоремы сложения 389
Гипергеометрический ряд 398
вырожденный 398
Гипергеометрическое дифференци-
дифференциальное уравнение 378
~ ъырожденное 399
Группа вещественных унимодуляр-
ных матриц второго порядка 345
чисел аддитивная (группа R) 81
— Ли линейная 37
— линейных преобразований прямой
235
— матричная 37, 55
— — компактная 56
локально компактная 56
— непрерывная 23
— преобразовании 38
— — транзитивная 38
эффективная 38
— треугольных матриц третьего по-
порядка 397, 399
~, алгебра Ли 399
— ЛГB) 201, 206, 232
, алгебра Ли 204, 205
, комплексификация 205
, параметризации 202, 203
— М B, С) 206
— М(п) 543
, параметризация 544
— М Н B) 253
, алгебра Ли 255
, параметризация 255
— —, подгруппа гиперболических
вращений 254
— О U B) 288, 289, 339
— —, алгебра Ли 294
, инвариантное интегрирование
294
, оператор Лапласа 333
— —, отображение в группу S//C)
2S0
, параметризации 292
, разложение функции 335
— # вещественных чисел 81
— Rn 98
— SH B) 84, 86
— SHC) 289
— SH(n) 498, 501
, углы Эйлера 503
Группа SL B, С) 111
— SL B, Я) 289, 291
— SL B, Я), алгебра Ли 353
, параметризация 351
—, подгруппы SO B), SH B), Z 291
— SO B) 82, 83, 86
, интегрирование 87
, комплексификация 86
— SO B, С) 86
— SOC) 112, 232
— SO (и) 430, 432
, инвариантная мера 434
, инвариантное интегрирование
434
, углы Эйлера 433
— Si/B) 106, 107, 111, 112
, алгебра Ли ПО
, комплексификация 111
— —, оператор Лапласа 150
, характер представления 7/ (и)
177 — 179
Групповое кольцо группы 69
Группы локально изоморфные 113
Движение евклидовой плоскости 201
псевдоевклидовой плоскости 252,
253
— и-мерного евклидова пространст-
пространства 543
Дерево 489
Дирихле—Мерфи интегральные пред-
представления 164
Зональные сферические функции 45,
315, 452, 516, 547
~, выражение через функции Бессе-
Бесселя и гипергеометрические 519, 548
~, интегральное представление 518
~ представления Tnl(g) 452
Инвариантная мера на группе SUB)
166
Интеграл по мерс, свойство инва-
инвариантности 41
— Фурье функций нескольких нере-
неременных 98
Интегральное преобразование Гель-
фанда—Граева 528, 529
Интегрирование на группе SO B) 87
Каноническое разложение многочле-
многочлена 441
Класс транзитивности 39
Клебша—Гордана коэффициенты, см.
коэффициенты Клебша—Гордана
—- — ряд 192

584
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Коммутатор 37
Конуса функции 316
Координата существенно предшест-
предшествующая, последующая 490
Координаты бисферические 483
— гиперболические 500
— орисферические на гиперболоиде
540
— подчиненные 490
— полисферические 489, 491
, дифференциал дуги 492
на гиперболоиде 538
, связь с декартовыми 492
— сферические 431, 489, 492
Коэффициенты Клебша—Гордана
184
, асимптотическая формула
234
, вычисление 186, 187
, представление в виде суммы
187, 188
_ ) производящая функция 199
, рекуррентные соотношения
196
-, связь с функциями Ргтп(г)
194
— , соотношения симметрии
188 — 190
— , частные значения 190
— Лежандра 162
— - Фурье свертки 68
функции / (<у) 88
Кронекера символ 25
Кронекеровское произведение линей-
линейных пространств 72
операторов 73
представлений 33
, разложение на неприводи-
неприводимые представления 182
TR(g) 229
Лагерра многочлены 426
, соотношение ортогональности
427
, теорема сложения 429
Лапласа оператор, см. оператор Лап-
Лапласа
Лежандра коэффициенты 162
— многочлены 133—135, 316
, выражение через гипергеомет-
гипергеометрическую функцию 349
, дифференциальное уравнение
146
, интегральные представления
162, 164
Лежандра многочлены как зональ-
зональные сферические функции 136
, ортогональность 169
, производящая функция 162
. разложение в ряд Фурье 135
, рекуррентные формулы 164,165
, связь с функциями Бесселя 233
, теорема сложения 140
— присоединенные функции 133, 316,
317
, выражение через гипергео-
гипергеометрическую 349, 350
—, дифференциальное уравне-
уравнение 328
, производящая функция 525
, рекуррентные соотношения
328
, связь с многочленами Геген-
бауэра 478
, соотношения симметрии 318
¦ , теоремы сложения и умно-
умножения 325, 326
— функции 315
, дифференциальное уравнение
328
, производящая функция конти-
континуальная 331
— —, рекуррентные соотношения 328
, теоремы сложения и умноже-
умножения 325, 326, 523, 524
Лемма Шура 51
, следствия 52
Ли линейная группа 37
— матричная алгебра 37
Лобачевского пространство 501, 502
Макдональда функции 262
, взаимно обратные интеграль-
интегральные преобразования 281
, дифференциальное уравнение
269
, интегральное представление 271
, интегральные преобразования
285 — 287
, преобразования Меллина 273,
276
, разложение в ряд 273
, рекуррентные формулы 268
, теоремы сложения 277
, — умножения 280, 281
Матрица каноническая 463
, матричные элементы 463, 465
— касательная 37
— квазиунитарная унимодулярная
второго порядка 288
— унитарная и («у, 6,40 107, 108

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
585
Матричная группа, см. группа мат-
матричная
Мелера—Фока преобразование 537
Меллина преобразование 104, 240
Мера инвариантная 41, 294
слева, справа 41
Многочлен, см. соответствующее на-
название
Неймана функция 270
, разложение в ряд 273
Однородная функция 49
Однородный многочлен, каноническое
разложение 441
Оператор антилинейный 75
— волновой 537
— инвариантный относительно преоб-
преобразований группы 54
— инфинитезимальный 35
— Лапласа 437, 438
в полисферических координатах
493
— в сферических координатах 453
на гиперболоиде 538
на единичной сфере 152, 488
на сфере 487
— перестановочный с представлени-
представлениями 49
—, разложение в непрерывную пря-
прямую сумму операторов 80
— типа Гильберта—Шмидта 74, 75
— эрмитово-сопряженный 28
— А1т 149, 150
Орисферические функции 542
Ортогональное дополнение подпрост-
подпространства 32
Парсеваля равенство 59
для центральных функций 71
Планшереля формула 96
Подгруппа массивная 44
— однопарамегрическая 35
— стационарная точки 39
Подпространство дополнительное 30
— инвариантное 29
— тривиальное 29
— %, 182
Показательная функция 22
Поле величины на сфере 176
Полисферические функции 497
Полная система попарно неэквива-
неэквивалентных неприводимых унитарных
представлений группы 59
Полугруппа 255
Предел в среднем 97
Представление группы 23
бесконечномерное 25
вполне приводимое 32
— — единичное 23
индуцированное 46, 342
— класса 1 относительно подгруп-
подгруппы 44
— — конечномерное 24
, матричная запись 24, 34
неприводимое 29
и-мерное 24
приводимое 29
¦ операторно неприводимое 51
оператором сдвига 42
, разложение в прямую сумму 30
регулярное левое, правое 42
скрещенных произведений 209
сопряженное 27
точное 23
тривиальное 23
унитарное 28
—, полная приводимость 32
эрмитово-сопряженное 28
Представления группы линейных пре-
преобразований прямой 236, 237,
249
- с операторным множителем 46
треугольных матриц третьего
порядка неприводимые 401, 404,
405
— —, эквивалентные между собой 26
М B) квазирегулярные 219, 221,
224
неприводимые 200—201
М (п) неприводимые 544
МН<2) 253
квазирегулярные 282
— неприводимые 257, 258
QUB) индуцированные 342
, инфинитезимальные опера-
операторы 298
квазирегулярные 343
неприводимые 295, 299, 307,
308
, приводимость 300
регулярные 332, 340
унитарно сопряженные 306
унитарные основной и до-
дополнительной серий 303—305
частично эквивалентные 302
R 81
Rn регулярные 98
SH{2) 85
SH(n) 504, 505
— — — квазирегулярные 529
—, неприводимость 508

586
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Представления группы SH (и), приво-
приводимость 510
серий дискретной, дополни-
дополнительной, основной 514
, сопряженность 506
, унитарность 511, 514
—, эквивалентность 515
SLB, С) 118
SL B, Ц) 354, 356, 362, 393
SO B) 83, 86, 88
SO (я) в пространствах гармо-
гармонических и однородных многочле-
многочленов 436, 438
, инфинитезимальныс опера-
операторы 446
квазирегулярные 435, 443
неприводимые 437, 443, 447
SUB), инвариантное скалярное
произведение 121
, инфинитезимальные опера-
операторы 118
неприводимые 123—127,132
регулярные 146, 148, 228
— компактных групп, полная приво-
приводимость 57
Преобразование интегральное функ-
функций на гиперболоиде 534
— Мелера—Фока 537
— Меллина 104
, аналог формулы Планшереля
104
, формула обращения 104
функции /?х (g) <у (л:) 240
— множества 38
— функций с интегрируемым квад-
квадратом 101
— Фурье 91, 93, 96
в комплексной области 99
, формула обращения 93 — 95
функций нескольких перемен-
переменных 98
с интегрируемым квадра- —
том 98
х'Аи л'{, 249
— Фурье-Бесселя 222, 224
, аналог формулы Плашцере-
ля222
, формула обращения 222
Присоединенные сферические функ-
функции 45, 137, 175, 516, 549
, вычисление 520, 522
, интегральное представле-
представление 517
— функции Лежандра 133, 134, 135
— , дифференциальное уравне-
уравнение 145
Присоединенные функции Лежандра,
ортогональность 168
, производящая функция
162
, рекуррентные соотношения
144
Произведение гильбертовых прост-
пространств тензорное 75
— групп скрещенное (полупрямое)
203
— линейных пространств кронекеров-
ское (тензорное) 72
— операторов кронекеровское (тен-
(тензорное) 73, 76
— представлений кронекеровское
(тензорное) 33
Производящая функция 154
Пространство гильбертово 77
— инвариантное относительно движе-
движений 41
— линейное и-мерное 98
— — унитарное 74
— Лобачевского 501, 502
— —, инвариантное интегрирование
по орисфере 527, 528
— однородное 39
— однородных гармонических много-
многочленов 437, 438, 460
многочленов 117, 436, 439, 443
— полное 77
— представления 24
— псевдоевклидово 498
— сопряженное 27, 72
— счетно-гильбертово 77
— ядерное 77
— Ж"° 504
— 3\ 295, 296
— *i®?s 182
— ¦&"', канонический базис 460,
462
— i'2 (S"'1) 435
% 229
Прямая сумма гильбертовых прост-
пространств непрерывная 79
~ ортогональная 78
Псевдоевклидова плоскость 251
— —, аналог полярной системы коор-
координат 252
, расстояние между точками
252
Псевдосфера 499
—, расстояние между точками 501
Разложение по многочленам Геген-
бауэра 481
— по функциям Ргтп(х) 170, 172

ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
587
Разложение по функциям Якоби
336
— полей на сфере 176
— произведений функций Plmn(z) 192
— функций на группе SUB) 166, 172,
174
на однородных пространст-
пространствах 65
на сфере 175
Ряд Клебша Горлана 192
— Фурье 88, 89
— на компактных группах 58
Свертка функций 68
Символ Вигнера 189
Символическая степень 194
Система функций ортонормирован-
ная 169
След матрицы 34
Специальные функции математичес-
математической физики 13
Сужение представления 29
Сумма подпространств прямая 30
— представлений прямая 30
~ ортогональная 31
Сфера 40
— единичная S2 116
Сферические зональные функции, см.
зональные сферические функции
— координаты 431, 489, 492
—присоединенные функции, см. при-
присоединенные сферические функции
— функции 44
Сходимость в среднем 97
— матриц 56
Тригонометрические функции 83
Углы Эйлера 107
вращений 113, 114, 434
гиперболического вращения 504
— — комплексные 112
произведения двух матриц 108
Уиттекера дифференциальное урав-
уравнение 411, 412
— функции 397, 398
, двойственные формулы 424
— —, дифференциальное уравнение
411
, континуальные теоремы сложе-
сложения 421, 425
, представления Меллина—Бернса
416
, преобразования Меллина по па-
параметрам 418
Уиттекера функции, разложение в
ряд 398
, рекуррентные
409—411
соотношения
, соотношения симметрии 413,
. Условно периодическая функция РЗ
Фактор-пространство 29
Финитная функция 99
Формула, см. соответствующее наз-
название
Фундаментальная последовательность
элементов 77
Функции, см. соответствующее наз-
название
— на окружности четная, нечетная 296
-P^iz) 128,145
, дифференциальное уравнение
145, 150
, интегральные представления
129, 161
— -, производящие функции 155, 162
— —, разложение в ряды по 170
172
, — их произведений 192
— —, — по присоединенным функ-
функциям Лежандра 193
, рекуррентные соотношения 143,
148, 153, 156 — 159, 194
, связь с коэффициентами Клеб-
Клебша—Гордана 194
, с многочленами Якоби 133
, соотношения обхода 132
, — ортогональности 168
, — симметрии 130
, теорема сложения 138
, формула умножения 140
, частные значения 129
— л-" и х"~1 249
Фурье коэффициенты 88
— преобразование 91, 93, 96
— ряд 88, 89
Фурье—Бесселя преобразование 222
Хансена формула 214
Характер представления 34
Целая аналитическая функция экспо-
экспоненциального типа 100
Центральная функция 69, 181
__ —, разложение в ряд 70, 71, 181
Цилиндрические функции 268
— —, дифференциальное уравнение
269

588
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Чебышева многочлен первого рода
141
Шура лемма 51, 52
Эйлера углы, см. углы Эйлера
— формулы 83
Эквивалентность представлений 26
Эрмита многочлены 555
, дифференциальное уравнение
5Й6
¦ как предел многочленов Геген-
бауэра 555
, производящая функция 557
1 рекуррентные соотношения 556
— —, соотношения ортогональности
559
, формулы сложения и умноже-
умножения 557, 558
Якоби многочлены 133
Якоби многочлены, выражение через
гипергеометрическую функцию 349
, ортогональность 169
, связь с функциями Бесселя
233
— функции 310
, выражение через гипергеомет-
гипергеометрическую 350
, дифференциальное уравнение
328, 334
, интегральные представления
310, 311 — 314
, производящая функция 329
, — ¦— континуальная 331
, рекуррентные соотношения
327, 334
— —, соотношения ортогональности
344
, — симметрии 317
, теоремы сложения и умноже-
умножения 322 — 324, 325