СХЕ/1ИСОН
ГРУППЫ
и
ГЕОМЕТРИЧЕСКИЙ
АНАЛЛЪ
ИНТЕГРАЛЬНАЯ ГЕОМЕТРИЯ,
ИНВАРИАНТНЫЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
И СФЕРИЧЕСКИЕ ФУНКЦИИ
Перевод с английского
П. А. КУЧМЕНТА
Москва «Мир» 1987

PURE AND APPLIED MATHEMATICS
A Series of Monographs and Textbooks
Editors: Samuel Eilenberg and Hyman Bass
Groups and
Geometric Analysis
Integral Geometry,
Invariant Differential Operators,
and Spherical Functions
Sigurdur Helgason
Department of Mathematics
Massachusetts Institute of Technology
Cambridge, Massachusetts
ACADEMIC PRESS, INC.
(Harcourt Brace Jovanovich, Publishers)
Orlando San Diego San Francisco New York London
Toronto Montreal Sydney Tokyo Sao Paulo
1984

ББК 22.15 + 22.16
ХЗб
УДК 512.81 + 517.9
Хелгасон С.
Х36 Группы и геометрический анализ: Пер. с англ.— М.:
Мир, 1987.—736 с, ил.
Монография известного американского математика, знакомого советским
читателям по переводам книг «Дифференциальная геометрия и симметрические
пространства» (М.: Мир, 1964) и «Преобразование Радона» (М.: Мир, 1983). В новой
его книге представлены свежие результаты, относящиеся к трем взаимосвязанным
разделам: интегральной геометрии, инвариантным дифференциальным операторам
и теории сферических функций. Изложение ясное и четкое, книгу можно
использовать как учебное и справочное пособие.
Для математиков и физиков разных специальностей, аспирантов и студентов
университетов.
Х >7S°oV2 22~87' -• ' ББК22.15 + 22..6
Редакция литературы по математическим наукам
© 1984, by Academic Press, Inc.
© перевод на русский язык, с
добавлениями, «Мир», 1987

ОТ ПЕРЕВОДЧИКА
Эта книга написана крупным американским математиком Си-
гурду ром Хелгасоном, известным советскому читателю по
переводам его монографий «Дифференциальная геометрия и
симметрические пространства» и «Преобразование Радона» (M.i Мир, 1964
и 1983). Предлагаемая вниманию читателя книга посвящена весьма
актуальным вопросам анализа—интегральной геометрии, теории
инвариантных дифференциальных операторов и теории сферических
функций и сферических преобразований.
Интегральная геометрия привлекает к себе всё большее
внимание в связи с ее многочисленными приложениями в
математической физике (преобразования Пенроуза в теории твисторов),
медицине и геофизике (компьютерная томография), теории
представлений.
Не менее интенсивно изучаются инвариантные дифференциальные
операторы на группах Ли и однородных пространствах. Помимо
рассматриваемых в книге вопросов для инвариантных
дифференциальных операторов исследуются также: спектральная теория
(Фаддеев [1967], Брюнинг и Хайнце [1979], Дёйстермаат и др.
[1979; 1983], Шубин [1982]), теория рассеяния (Фаддеев и Павлов
[1972]), Семёнов-Тян-Шанский [1976], Лаке и Филлипс[1979; 1980]),
условия гипэоллиптичности (Ротшильд и Стейн [1976], Фолланд
[1977], Годэн [1982]), «экспоненциальные» представления решений
инвариантных уравнений (Кучмент [1981; 1985а; 1985b] и многие
другие. В книге Хелгасона развита техника, полезная во всех
упомянутых разделах.
Естественно, что для рассмотрения данного круга вопросов
важно иметь в качестве инструмента подходящий вариант
«преобразования Фурье». Для симметрических пространств гармонический
анализ такого рода развит до уровня, сравнимого с уровнем
техники преобразования Фурье в R" (автор планирует написание еще
одной книги, посвященной более подробному изучению случая
симметрических пространств). Построение теории соответствующих
«преобразований Фурье» требует тщательного изучения так назы-

6
От переводчика
ваемых сферических и обобщенных сферических функций. Поэтому
третья тема данной книги—это теория сферических функций
(достаточно полного изложения которой на русском языке до сих
пор не было).
Отметим, что в развитие всех перечисленных разделов автор
книги внес существенный вклад.
Чтение некоторых глав требует определенного владения теорией
групп и алгебр Ли. В связи с этим автор предварил основной
текст обширным введением — фактически отдельной главой, в
котором смоделировал всю последующую теорию на двумерных
примерах сферы S2, плоскости R2 и плоскости Лобачевского Н2, где
рассмотрение можно вести без привлечения сведений о группах
и алгебрах Ли. Эти три двумерных многообразия служат
представителями изучаемых далее в полной общности классов римано-
вых симметрических пространств соответственно компактного,
евклидова и некомпактного типов. Содержание указанного введения
может составить предмет отдельного семестрового спецкурса для
студентов.
В книге изложены основные положения всех упомянутых
теорий: интегральной геометрии, теории инвариантных
дифференциальных операторов и теории сферических функций. Это делает ее
полезной и как учебник по данным разделам анализа, и как
справочник.
К достоинствам книги следует также отнести большое число
задач, многие из которых снабжены указаниями или решениями.
В создании излагаемых теорий фундаментальную роль сыграли
работы советских математиков (И. М. Гельфанда, Ф. А. Березина,
Н. Я. Виленкина, С. Г. Гиндикина, М. И. Граева, Д. П. Жело-
бенко, Ф. И. Карпелевича, А. А. Кириллова, М. Г. Крейна,
М. А. Найма рка, Д. А. Райкова, 3. Я. Шапиро и других). Хотя
автор достаточно подробно освещает их в своих литературных
примечаниях, список литературы при переводе был несколько
расширен. Так, в него были включены работы И. М. Гельфанда,
С. Г. Гиндикина и М. А. Граева, развивающие интегральную
геометрию за пределы, обозначенные в книге, и недавние работы
И. М. Гельфанда, М. И. Граева и С. И. Гельфанда о новом
подходе к теории специальных функций. Кроме того, в список
включены работы советских и зарубежных математиков, в которых
изучаются вопросы теории инвариантных дифференциальных
операторов, не освещенные в книге. В некоторых случаях авторские
ссылки в тексте дополнены ссылками на более доступную для
советского читателя литературу1}.
Х) При ссылках на работы, имеющиеся на русском языке, номера страниц
указываются по русскому тексту.

От переводчика
7
Обнаруженные при переводе неточности и опечатки были
устранены без внесения в текст дополнительных замечаний. Список
некоторого количества опечаток был любезно прислан автором,
которому переводчик выражает искреннюю признательность.
Можно надеяться, что публикуемая книга окажется полезной
математикам и физикам различных специальностей и будет
стимулировать интерес к описываемой в ней красивой, важной и
интенсивно развивающейся области математики.
П. А. Кунмент

Посвящается
Тору и Анни
ПРЕДИСЛОВИЕ
Эта книга задумана как введение в теоретико-групповые
методы анализа на пространствах, допускающих некоторые
движения и симметрии.
В элементарном классическом анализе теория групп играет
довольно-таки подчиненную роль; в стандартном векторном
анализе неявно используется группа движений пространства (R3, да
еще, в основном после того как была установлена теорема Римана
об отображениях, важными орудиями исследования стали
конформные группы сферы и единичного круга.
В противовес этому в настоящей книге на передний план
выдвигается естественная группа преобразований рассматриваемого
пространства. Мы используем эту группу в качестве ориентира
при введении основных понятий (таких как инвариантный
дифференциальный оператор), а также при постановке основных задач
анализа на данном пространстве. В качестве примеров задач,
естественно возникающих при таком подходе, обратим внимание
читателя на задачи о собственных функциях (задачи А—С из п. 1
§ 1 введения), задачи об обращении преобразования Радона и об
интегралах по орбитам (задачи А—D из § 3 гл. I), задачи об
инвариантных дифференциальных операторах (задачи А—Еиз§4
гл. II).
Книга предназначена служить учебным руководством и
справочником по трем разделам, указанным в подзаголовке. Ее объем
объясняется довольно неторопливым стилем изложения, а также
многочисленными приложениями и отступлениями, иногда в форме
упражнений (с решениями).
Во вводной главе рассматривается двумерный случай, в
котором можно обойтись элементарными методами, без привлечения
теории групп Ли. Представляя и значительный самостоятельный
интерес, этот случай служит нам для демонстрации связи
изучаемых вопросов с классическим анализом. Однако основное
назначение вводной главы состоит в том, чтобы описать методы и
результаты, которые могут быть обобщены на полупростые группы

Предисловие
9
Ли и симметрические пространства. Во введении представлены
в двумерном случае теория с-функции Хариш-Чандры (изложенная
в полной общности в гл. IV), результаты автора по гармоническому
анализу на симметрических пространствах (которые мы собираемся
изложить в полной общности в следующей книге), теоретико-
групповой анализ собственных функций оператора Лапласа
(включая классические результаты о граничных значениях
гармонических функций).
В главе I обсуждается инвариантное интегрирование на
однородных пространствах и его связь со структурной теорией
полупростых групп Ли. Мы формулируем общие аналитические задачи
интегральной геометрии (о преобразовании Радона и орбитальных
интегралах) для двойного расслоения однородного пространства
л элементарными методами получаем их решения для некоторых
простых классов однородных пространств.
В главе II изучается вопрос о том, как сказывается наличие
действия группы на данном многообразии на теории
дифференциальных операторов на этом многообразии. Это приводит к таким
понятиям, как разделение переменных в дифференциальном
операторе, проекции, трансверсальные, орбитальные и радиальные
части дифференциальных операторов. Все они полезны в задачах,
в которых выполняется то или иное условие инвариантности.
В главе III рассматриваются линейное действие группы на
векторном пространстве и соответствующие инвариантные и
гармонические многочлены. Полученные здесь результаты, вкупе
с описанием орбит, находят применение при аналитическом
изучении линейного изотропного представления симметрического
пространства.
В главе IV мы изучаем (зональные) сферические функции, т. е.
К -инвариантные собственные функции G-инвариантных
дифференциальных операторов на римановом однородном пространстве G//C.
Их теория, равно как и теория соответствующего сферического
преобразования, весьма подробно разработана для случая
симметрического пространства (и его касательного пространства).
Здесь связь с теорией представлений особенно проста и важна.
При исследовании поведения сферической функции на
бесконечности возникает замечательная с-функция Хариш-Чандры. Для
нее устанавливается явная формула
с(Х)=с0 II 2-<^«o>r«g, gd»
«62+ rflflma+l+<a, ао>))г(^{% + т2а+<й,ао>])
{обозначения объяснены в конце § 6). Показывается, что каждая
деталь в этой формуле имеет свой смысл. В частности,
расположение особенностей функции с (к) играет решающую роль при
доказательстве теоремы типа Пэли — Винера для сферического

10
Предисловие
преобразования, которая в свою очередь используется при
доказательстве соответствующей формулы обращения и формулы План-
шереля.
Глава V посвящена гармоническому анализу на компактных
однородных пространствах U/K. Ввиду тесной связи с теорией
конечномерных представлений группы и, глава начинается с
подробного изложения теории весов и характеров для U.
Поскольку книга задумана и как учебное пособие, укажем
требования, предъявляемые к подготовке читателя. Первая треть
книги имеет вводный характер и может быть при случае
использована как руководство для студентов старших курсов и
аспирантов, не знакомых с теорией групп Ли. Для чтения остальной
части книги требуется знание некоторых стандартных результатов
функционального анализа. Используемые сведения из теории групп
Ли можно найти, например, в моей книге "Differential Geometry,
Lie Groups and Symmetric Spaces*, по отношению к которой
предлагаемая книга является своего рода «аналитическим
продолжением». Нашей целью было дать полные доказательства всех
результатов, содержащихся в книге. Хотя в ходе этой
унификации и консолидации изложения некоторые доказательства
упростились, мы всюду больше заботились о ясности, чем о краткости.
Каждая глава начинается с краткого резюме и заканчивается
историческими замечаниями, где указываются соответствующие
источники; мы старались воздать должное авторам всех отдельных
результатов. В то же время мы попытались отразить в этих
замечаниях тот факт, что логический порядок следования
результатов часто коренным образом отличается от исторического.
Значительная часть материала книги излагалась мною недавно
на лекциях в Массачусетсом технологическом институте. Во
введение и в главу I частично вошли мои лекции [1980с; 1981].
Отдельные части рукописи читали М. Баум, М. Каулинг,
М. Фленстед-Йенсен, Ф. Гонсалес, А. Г. Хелминк, Г. Ф. Хелминк,
Б. Хоогенбоом, А. Кораньи, М. Мадзарелло, Дж. Орлофф,
Ф. Рихтер, X. Шлихткрулль и Дж. Травальини. Я благодарен
им за высказанные замечания. Особая моя признательность —
Т. Коорнвиндеру за многочисленные полезные предложения.
С. Хелгасон
1) См. Хелгасон [1978] в списке литературы. Поскольку эта книга не
переведена на русский язык, ссылки на нее всюду, где это возможно, заменены
ссылками на перевод ее предыдущего издания (Хелгасон С. Дифференциальная
геометрия и симметрические пространства.— М.: Мир, 1964). Для краткости мы
ссылаемся на этот перевод как на [ДС].— Прим. перев.

СОВЕТЫ ЧИТАТЕЛЮ
Эта книга предназначена для читателей с разным уровнем
подготовки, и при ее написании преследовалось несколько целей.
В связи с этим дадим некоторые указания по ее использованию.
Главной нашей целью было снабдить читателя, знакомого
с основами теории групп и алгебр Ли, замкнутым изложением
трех тем, указанных в подзаголовке книги. Однако главы книги
более или менее независимы друг от друга, и каждая из них
в отдельности может служить основой для одно- или двухсемест-
рового курса.
(i) Вводная глава настолько элементарна, что ее можно взять
за основу для спецкурса студентов младших курсов.
(и) В главе I дано замкнутое изложение теории
инвариантного интегрирования и аналитической интегральной геометрии.
Читатель, которого интересует лишь элементарное изложение
теории преобразования Радона и некоторых его естественных
обобщений, может прочитать эту главу, опустив §§ 1 и 5.
(iii) В главе II (вместе с §§ 1 и 5 гл. I) дано замкнутое
изложение теории инвариантных дифференциальных операторов.
Некоторые из наиболее естественных задач, связанных с такими
операторами, обсуждаются во вступлении к § 4 главы II.
(iv) Глава III посвящена теории инвариантов. В частности,
изучаются инварианты группы Вейля, гармонические многочлены,
а также структура орбит действия группы изотропии в
касательном пространстве к симметрическому пространству. Эта глава
почти совершенно не зависит от предыдущих.
(v) Глава IV в сочетании с §§ 1, 5 главы I и главой II дает
замкнутое и довольно полное изложение теории сферических
функций.
(vi) Глава V вместе с п. 2 § 1 главы IV доставляет
замкнутое изложение анализа на компактных однородных пространствах,
с упором на случай симметрических пространств. Она начинается
с краткого обзора основ теории представлений компактных групп Ли.

12
Советы читателю
Упражнения и некоторые дальнейшие результаты. Каждая
глава завершается упражнениями. Одни из них представляют
собой прямые приложения изложенных результатов, в других
речь идёт о дальнейшем развитии теории. Приводить результаты
последнего типа без каких-либо указаний о методе доказательства
или ссылок на литературу я считаю неплодотворным. Поэтому
в конце книги даны решения. Часто эти решения довольно
кратки, а некоторые из них (отмеченные звездочками) опираются
на результаты, не вошедшие в книгу (тогда даются ссылки на
соответствующие работы). Мне думается, упражнения последнего
типа — подходящие темы для студенческих семинаров

ПРИМЕРНОЕ СОДЕРЖАНИЕ
СЛЕДУЮЩЕЙ КНИГИ
Геометрический анализ
на симметрических пространствах
1. Двойственность симметрических пространств
Пространство орисфер. Преобразование Радона и двойственное
к нему. Сферические и конические представления. Конические
распределения и сплетающие операторы.
II. Преобразование Фурье в симметрических пространствах
Формула Планшереля. Теорема Пэли — Винера. Обобщенные
сферические функции. Случай /С-финитных функций.
III. Дифференциальные уравнения
в симметрических пространствах
Разрешимость. Собственные функции. Интегральные
представления. Теоремы о среднем. Волновые уравнения. Принцип Гюйгенса.
IV. Представления в собственных подпространствах
Некоторые общие результаты. Критерии неприводимости для
компактного типа U/К, евклидова типа, некомпактного типа G//C,
пространства орисфер G/MN и комплексного пространства G/N.

Введение
ГЕОМЕТРИЧЕСКИЙ АНАЛИЗ ФУРЬЕ
НА ПРОСТРАНСТВАХ ПОСТОЯННОЙ КРИВИЗНЫ
В этой вводной главе мы объясняем, чтб разумно понимать под,
гармоническим анализом на однородных пространствах групп Ли. Подробно
разбираются примеры плоскости IR2, сферы S? и гиперболической плоскости Н2.
Доказательства, приводимые для последнего случая, допускают обобщение на
симметрические пространства некомпактного типа. Так как в этой главе мы
ограничиваемся обсуждением указанных основных примеров, изложение здесь
элементарно и замкнуто и от читателя не требуется владение теорией групп Ли.
После общих рассмотрений § 1 мы переходим в § 2 к случаю плоскости R2,
являющейся однородным пространством своей группы движений. В этом
случае лапласиан порождает всю алгебру инвариантных дифференциальных
операторов. Мы описываем его собственные функции с помощью «целых
функционалов» и устанавливаем неприводимость соответствующих представлений.
Формулируется также некоторый вариант классической теории Пэли — Винера. Его
доказательство дается в § 3, где развивается необходимый аппарат из теории
сферических гармоник*
Основная часть этой главы (§ 4) посвящена гиперболической плоскости.
В сущности, единственным инвариантным дифференциальным оператором на
ней является неевклидов лапласиан. Мы указываем интегральное представление
его собственных функций и определяем (исключительные) собственные
значения, для которых представление в соответствующем собственном
подпространстве приводимо. Основным инструментом служит здесь некоторое
преобразование Фурье на гиперболической плоскости. С неевклидовой точки зрения,
классическая интегральная формула Пуассона для ограниченных гармонических
функций представляет собой результат из такого неевклидова анализа Фурье.
Упомянутое интегральное представление обобщает эту формулу на все собственные
функции неевклидова лапласиана.
Радиальные собственные функции называются сферическими. Их поведение
на бесконечности определяется с помощью так называемой £?-функции Хариш-
Чандры, появляющейся в спектральном разложении лапласиана. Знание
особенностей с-функции играет важную роль при доказательстве теоремы типа
Пэли — Винера для упомянутого выше преобразования Фурье. Это
доказательство занимает существенную часть данного параграфа.

§ 1. Гармонический анализ на однородных пространствах 15
§ 1. Гармонический анализ
на однородных пространствах
1. Основные задачи
Пусть X—локально-компактное отделимое пространство, на
котором транзитивно действует локально-компактная группа G.
Мы предполагаем, что G сохраняет данную положительную меру
\i на X. Обозначим через Тх (унитарное) представление G в
гильбертовом пространстве L? (X), определенное формулой (Тх (g) /)(*)=
=/(Я#л:) Д^я g£G, f£L*(X), x£X. Под гармоническим
анализом на X обычно понимается разложение представления Тх на
неприводимые представления (в виде так называемого прямого
интеграла). Соответствующее разложение произвольной функции
f£L2(X) сходно с классическим разложением в интеграл Фурье-
Основные инструменты этого анализа—мера ц и теория
операторных алгебр.
В случае когда X = G/K — однородное пространство группы Ли G>
а К—ее замкнутая подгруппа, ситуация решительно меняется,,
так как становится применимым аппарат дифференциального
исчисления. С целью использовать это обстоятельство рассмотрим
алгебру D(G/K) всех линейных дифференциальных операторов на
G//C, инвариантных относительно сдвигов x(g): xK—+gxK на
элементы группы G (см. § 4 гл. II). Функция на G/K, являющаяся
собственной для каждого оператора D£D(G/K), называется общей
собственной функцией алгебры D(G/K). Для заданного
гомоморфизма
пространство
Ex(X) = {fSC~(X): D/ = X(D)/ для всех D$D{GlK)}
называется общим собственным подпространством. Пусть Т%
обозначает естественное представление группы G на £х(Х),т. е.
(Tx(g)f)(x)=f(g'1'X). Эти представления называют
представлениями в собственном пространстве.
Под гармоническим анализом на G/K мы будем понимать
«решение» следующих задач:
A. Разложить «любую» функцию на X = G/K no общим
собственным функциям алгебры D(G/K).
B. Описать общие собственные подпространства Ех для D (G/K)~
C. Определить, для каких гомоморфизмов % представление Гж
неприводимо.
Пространство С00 (X) имеет стандартную топологию (§ 2 гл. II),
£Х(Х) снабжается индуцированной топологией. Под
неприводимостью понимается отсутствие нетривиальных замкнутых
инвариантных подпространств

16
Введение, Геометрический анализ Фурье
Может случиться, что D(G/K) не содержит нетривиальных
операторов. В этом случае предыдущие рассмотрения не
представляют интереса. Однако мы увидим, что для симметрических
пространств G/K задачи А — С осмысленны и интересны. Сейчас мы
обсудим их подробно для R2, S2 и Н2—трех односвязных
двумерных римановых многообразий постоянной кривизны.
2. Обозначения и предварительные замечания
Как обычно, R и С обозначают поля вещественных и
комплексных чисел соответственно, a Z—кольцо целых чисел. Мы
употребляем обозначения Re с и Im с соответственно для
вещественной и мнимой частей комплексного числа с. Положим
R+ = {/6R: *>0}, Z+=ZnR+.
Если X—топологическое пространство и ЛсХ, то А
обозначает внутренность Л, а Л илис1(Л) — замыкание Л. Пространство
комплекснозначных непрерывных функций (соотв. таких функций
с компактным носителем) на X обозначается через С (X) (соотв.
Пусть Rn = {x = (xi9 ...,*„): ^^R} и dt обозначает частную
производную д/дх;. Если a = (af, ..., ап)—мультииндекс, т. е.
набор целых чисел а^О, то полагаем
D* = #£...%*, *» = *?.....x5f\ |а| = а1+...+а„.
Пространство комплекснозначных функций с непрерывными
производными до порядка т включительно обозначается через
Cm(Rn). Через С°° (Rn) или £ (Rn) обозначим пространство
комплекснозначных С00-функций / на Rn. Для данного m£Z+ и
данного компакта KaRn положим
0) II Ш= 2 sup|(D«/)(*)|.
|a \ <mxeK
Пространство & (Rn) снабжается топологией с помощью полунорм
||/||£. При этом оно становится пространством Фреше.
Через 3> (Rn) или С~ (Rn) обозначим пространство Се (Rn) П
C~(R"). Иногда обозначения C(R"), <£(R") и S)(Rn) будут
использоваться также и для случая вещественных функций.
Для всякого компакта KcRn через S>^(Rn) обозначим
пространство С~-функций с носителем, лежащим в К. Это пространство
обладает топологией, задаваемой нормами ||»||^где т = 0,1,2,... .
Линейный функционал Т на £D(Rn) называется распределением,
если его сужение на каждое S>K(Rn) непрерывно. Пусть @)'(Rn)—
пространство всех распределений на R". Каждая локально-интег-

§ 2. Евклидова плоскость R*
17
рируемая функция F на Rn определяет распределение TF\ / —►
^f(x)F(x)dx на R».
Говорят, что распределение Т £ @У (Rn) равно нулю в
открытом множестве f/cR", если Т (<р) =* 0 для любой функции ф € ®(КП)
с носителем в U. Если К—объединение всех открытых подмножеств
UaczRn, на которых Т = 0, на стандартное применение разбиения
единицы показывает, что Т = 0 то V. Дополнение к V называется
носителем распределения Т и обозначается suppT.
Всякое распределение Т с компактным носителем можно
продолжить до непрерывного линейного функционала на £(Rn),
положив
T(f) = T(f0.f),f(:£(R»),
где /0—любая функция из £D(Rn), тождественно равная единице
в окрестности носителя Т. Выбор /0 несуществен. Таким способом
«сопряженное пространство &' (Rn) отождествляется с
пространством распределений с компактным носителем.
В гл. II мы определим эти понятия для произвольного
многообразия М. Здесь же они нужны нам лишь для случая, когда
М—открытое подмножество в Rn или n-мерная сфера S".
В п. 8 § 2 гл. II мы приведем обзор дальнейших понятий из
теории распределений, в частности таких, как дифференцирование,
свертка и преобразование Фурье распределений.
§ 2. Евклидова плоскость R2
1. Собственные функции и представления
в собственных подпространствах
Если мы рассматриваем R2 как однородное пространство
аддитивной группы R2, действующей на себе сдвигами, то задачи
А—С сводятся к обычному анализу Фурье. Действительно, в этом
случае инвариантные дифференциальные операторы—это
дифференциальные операторы с постоянными коэффициентами, а общие
собственные функции с точностью до постоянного множителя
совпадают с экспонентами. Представления в собственных
подпространствах одномерны и, следовательно, неприводимые
Можно, однако, рассмотреть R2 и как однородное
пространство R2 = Af B)/0B) группы Ж B) всех изометрий R2 над
ортогональной группой О B) (оставляющей точку @, 0) неподвижной).
*> Легко показать, что функция f (x), собственная для любого
дифференциального оператора с постоянными коэффициентами, имеет вид/ (*)=сехр (XiJtf
+^2*г)> где ct \xt Х2£0. При этом одномерное подпространство, натянутое на
/t инвариантно относительно сдвигов.— Прим, пер ев.

18 Введение. Геометрический анализ Фурье
Тогда, как легко видеть, D(G/K) состоит из многочленов от
лапласиана LR2 = d2/dxl + d2/dxll). Если Я^С и со—единичный
вектор, то функция х —* exp (ik (х, со)) (где ( , )—обычное скалярное
произведение) является собственной для Lr* с собственным
значением —Я2.
Запишем преобразование Фурье / функции / на R2 в
следующем виде:
A) /(Ь))= $/(*)*-'*<*• e)dc.
Формула Планшереля гласит:
$1/<*>11Лв^д? J |/>оI2МЫсо.
R* S»XR +
Формула обращения преобразования Фурье (справедливая,
например, для /€^>(R2)) может быть записана следующим образом:
Это дает явное решение задачи А. Здесь dco—стандартная мера
на S1.
Последняя формула делает естественным предположение, что
любые собственные функции должны получаться из функций
ехр (М, (х, со)) с помощью суперпозиции. Установим теперь точный
результат такого типа.
Пусть Еа% b (при заданных а, Ь^О) — пространство
голоморфных функций на С\{0}, удовлетворяющих условию
C) |/Lb = sup(|/(z)|e-W-»W-«)<oo.
г
Тогда ЕалЬ—банахово пространство с нормой ||-||л$ &. Кроме того,
Eayb<z.Ea>tbf в том и только том случае, если а^а\ b^b'\ тогда
1/L b^ll/lo'.ft'» так что вложение Еа,ь в £fl',&' непрерывно. Мы
можем снабдить объединение
Е= U Еа<ь
a, b
топологией индуктивного предела. Это означает, что
фундаментальную систему окрестностей нуля в Е образуют такие
выпуклые множества W, что для любой пары (а, Ь) пересечение W [\Еа%ь
1) Действительно, любой инвариантный оператор D имеет постоянные
коэффициенты, т. е. D = 2^a^a* При этом многочлен / = 2аа£а на R?
инвариантен относительно вращений. Отсюда следует, что / есть многочлен от
li + £2.— Прим. перев.

§ 2. Евклидова плоскость R*
19
есть окрестность нуля в £Лэ ь. Мы отождествляем элементы Е с
их сужениями на единичную окружность S1 и называем элементы
двойственного пространства Е' целыми функционалами на S1. Так
как они являются обобщениями мер, условимся писать
Тф= $/(co)d7», feE,T£E'.»
s*
Следующий результат дает решение задачи В.
Теорема 2.1. Собственные функции лапласиана в R?—это в
точности гармонические функции и функции вида
D) /(*)= $е*<*'*»<*Г(со),
где A,gC\{0} и Т—целый функционал на S1.
Заметим прежде всего, что правая часть в D) имеет смысл,
поскольку подынтегральная функция является сужением на S1
функции
z —+ ехр [у (ik) хх (г + г) + у %х2 (г— г) j
{где л: = (лгх, х2))у принадлежащей Е.
Теперь нам необходимо охарактеризовать элементы Е в
терминах их разложений в ряд Лорана.
Лемма 2.2. Пусть функция f голоморфна в С\{0} и
/(г) = 2а„2"
П
— ее ряд Лорана. Тогда
f € £<i+e, ь+е для всех 8 > О
в том и только том случае, если
при любом б > 0.
Доказательство. Рассмотрим разложение
E) f (г) = 2 а„г» + 2 а„г" = /+ (г) + /_ (г).
0 -оо
1) В литературе чаще функционалы трактуют как обобщения функций и
ваписывают Т (f) в виде \ / (ш) Т @) dco. Читателю следует это учитывать во
избежание недоразумений*— Прим. перев.

20
Введение. Геометрический анализ Фурье
Так как /+=/—/_ и функция/_ ограничена при |г|^1,
равенство E) показывает, что Eaib = Ea%0 + E0tb. В силу этого
достаточно показать, что функция
о
принадлежит £fl+e.о при всех е>0 в том и только том случае,
если
для любого б > 0. Предположим, что последнее условие
выполнено. Тогда для любого б> 0 существует такая константа Сб>0,
что
К|<Сб(а+б)«(л!)->.
Отсюда
\f(z)\<2\*n\\z\»^C6e«+**\.
о
Таким образом, f£Ea+6t0.
Обратно, пусть f£Ea+e,o для всех е > 0. Положим
v = limsup(n\an\l>/n).
п
Можно считать, что v > 0. Пусть 0 < 6 < v. Тогда для
бесконечного множества значений п имеем
laJXv-в)"*-»
(где v—б при v=oo понимается как сколь угодно большое
число). Используя оценку
|ал| = |Г@)//г!|<Bя)^ $ |*|-"-4/<*>ll<fe|.
из которой вытекает, что
КК'-" sup |/(z)|,
получаем для последовательности значений r = rn = ne/(v—б) (где
п принимает те же значения, что и в приведенном выше
неравенстве)
sup|/B)|>|ajr»>^ = exp(^-r).
Отсюда следует, что для любого е > 0

§ 2. Евклидова плоскость R*
21
так что v^.ae. При е>0 это означает, что
|а„К(ае+е)л/1'л
для достаточно больших п. По формуле Стирлинга
п\ = ппе'п BппI>'2еМ12п (О < р < 1).
Таким образом,
ая-0((а + е)«(л1)-»).
Лемма доказана.
Мы можем сформулировать этот результат следующим обра-
00
зом: функция f(z) = ^anzn принадлежит Еа+г,0 при любом е>0
а
в том и только в том случае, если ее преобразование Лапласа
00
F(z)=\f(t)e-Ztdt (Rez>a)
о
имеет ряд Лорана
F) f(z) = 2n!a„z-n
О
сходящийся при | z | > а.
С каждым целым функционалом Т^Е' свяжем ряд Фурье
G) Т~Ъапе™,
п
где, по определению,
ап=\ е-мОГф).
Предложение 2.3. Ряд ^апеш является рядом Фурье целого?
п
функционала в том и только в том случае, если
(8) £ia"i(w)<0° пРиг>°-
п
Доказательство. Пусть Т£Е' имеет ряд Фурье G). Тогда
при любых а, Ъ > 0 и любом е > 0 функционал Т имеет
непрерывные сужения на Ea+Zf 0 и E0f ь+г.
СО
Ряд ^anzn/nl сходится к e?z в топологии Ea+Z.Q. Действи-
о
тельно, если
со
N + \

22
Введение. Геометрический анализ Фурье
то |g>(z)Ke-eUI, так что при R > О
sup\gN(z)К sup \gN(z)\ + sup \gN(z)\
z \z\<R \z\>R
< sup \fN(z)\+ sup e-*\*\.
|г1<Д |2|>/?
В силу равномерной сходимости fN на компактах к нулю, из этого
неравенства вытекает, что /jv-^Ob Еа+е, о, как и утверждалось.
Следовательно,
Используя аналогичные рассуждения для Яо,&+е, убеждаемся
в сходимости ряда (8).
Обратно, пусть выполнено условие (8). Тогда можно
определить линейную форму Т на Е равенством
T(f) = ljan<x>-n>
п
если f = ^&nzn. По определению индуктивного предела, функ-
п
ционал Т непрерывен, если при любых а, 6^0 сужение T\Eaib
непрерывно. Из теоремы о замкнутом графике следует, что
отображение
(в обозначениях E)) непрерывно. Поэтому достаточно доказать
непрерывность сужения Т\Еа>0 при любом а > 0. Пусть f£Ea%0,
GO
/(г) = 2а«2" — РЯД Тейлора и F (как и в F))—преобразование
о
Лапласа функции /. Пусть последовательность (fk) € Eat 0 сходится
к нулю. Тогда
(9) \Ш\КА&\*\9
где Лй—*0. Отсюда видно, что преобразования Лапласа Fk(z)
функций fk удовлетворяют при х > а оценке
оо
A0) \Fk(x)\^Akl4-*>'dt-Ak(x-a)-*.
О
Так как правая часть (9) инвариантна относительно вращений и
так как функция z —► /(ешг) имеет преобразование Лапласа,
равное, в силу F), z—*е~ш Р(е®г), из оценки A0) вытекает, что
(И) \Fk(z)\<Ak(\z\-a)-i при \г\>а.

§ 2. Евклидова плоскость R2
23
Если а^}—коэффициенты Тейлора функции fk(z), то мы
получаем равенство
п\ a(nk) = Bш')~* J Fk (z) zn dz,
где интегрирование ведется, например, по окружности |z| = a+l.
Но тогда, в силу A1),
л1|а<*Ч<ЛЛ(а+1)»+\
так что
|<Л*2|в-»1(а+1)"+»(я1)-*.
\T<fJ\<
S«-Xft)
О
Используя предположение (8), заключаем, что T(fk)—+0. Тем
самым требуемая непрерывность доказана.
Лемма 2.4. Пусть кфО, ngZ. Решениями f уравнения LR*f =
= —А,2/, удовлетворяющими условию /(^e2) = ^n0/(z), служат
скалярные кратные функции
Фх.пМ-^^^^Х-ИЛ».
где %п(ею) = еш.
Доказательство. Понятно, что любые две такие функции
пропорциональны на единичной окружности. Отсюда, в силу
теоремы 2.7 гл. II, следует их пропорциональность на IR2. Более
прямое доказательство можно дать, заметив, что в полярных
координатах
/ — д2 1 д 1 д2
так что
£L-u±^L_ill/-— м
дг2~*~ г дг г2 I h
В силу эллиптичности LR2, собственная функция аналитична1}.
Разложив ее в степенной ряд по г, получаем из выписанного выше
дифференциального уравнения рекуррентную формулу для
коэффициентов, показывающую, что все решения пропорциональны
между собой.
Для завершения доказательства леммы остается только
заметить, что фа,,л^0. Это частный случай элементарной леммы 2.7.
*> См., например, Хёрмандер [1963, теор. 7.5.1].— Прим. перев,

24
Введение. Геометрический анализ Фурье
Предложение 2.5. Функция /, удовлетворяющая уравнению
LR2/ = —А,2/, удовлетворяет также функциональному уравнению
2л
A2) i J / (г + Л») de = / (г) ер*, о И, г, а> € С.
о
Обратно, всякая непрерывная функция /* удовлетворяющая A2),
автоматически принадлежит С" и удовлетворяет уравнению
Доказательство. Если /—собственная функция, то
таковой будет и функция
2л
Л ш-+$ /B + Л;)Лв.
о
Далее, F радиальна *\ так что в силу леммы 2.4 она равна с
точностью до множителя функции фл, о (w)- Множитель же находится
подстановкой до = 0. Отсюда следует A2).
Обратно, пусть /—непрерывная функция, удовлетворяющая
равенству A2). Умножим обе части этого равенства на функцию
h(w)££D (R2) и проинтегрируем по w. В силу инвариантности dw
относительно М B),
if Л J f(u)h(e-*(u-z))du = f(z)§ щ. о (w) h (w) dw.
0 R* R*
Это показывает, что функция /—класса С9*.
Применим теперь L = Lr8 к A2) как к функции от w. В силу
инвариантности относительно Ж B) имеем
2л
i J (L/) (г + e*w) dQ = / (г) (- M) «р*. о (ю).
о
Полагая до = 0, получаем, что L/ = —А,2/. Лемма доказана.
Теперь мы можем доказать теорему 2.1. Пусть функция /
удовлетворяет равенству Lr*/ =—А,2/, где ^£С\{0}. Разложим
функцию 0—*f(eiQz) в абсолютно сходящийся ряд Фурье
A3) /(***)=2 *«<*>**.
п
где
2я
с„ (г) = Bя)-1 J f (Л) е-'"9 £».
о
*> То есть F (г) зависит лишь от |г|.— Прим, перев.

§ 2. Евклидова плоскость R*
25
Но сп—это собственная функция лапласиана, удовлетворяющая
условию однородности из леммы 2.4, следовательно,
Cn(z) = anq>Kn(Z), ап£С.
Подставляя 6 = (л/2)—ф в определение функции фя, л, получаем
Фа,, п (г) = in Bл)~* J eiU s,n ф 0-^ф йф.
о
Это, между прочим, показывает, что
фя. -„(/•) = (—1)Лфя,Л(— г).
Рассмотрим теперь функцию Бесселя
^(*) = £ (-1)*Dг)?Л+"[£!Г(/Н-*-|-1)]-*,
определенную при всех п, z£C. (При —/z£Z+ несколько первых
коэффициентов обращаются в нуль.) Если в интеграле,
фигурирующем в формуле для фл, п, разложить ear*inv в степенной ряд
и выполнить почленное интегрирование, то мы получим
A3а) <?Kn(r) = i»Jn(%r).
С другой стороны, при n£Z+
T(n+l)^zynJn(z)^l+h(z)t
где
\h(z)\=
v(_ivazvf± г(В+1)
£/ Ч \2Z) r\ Г(я + г+1)
|Дт1г0Чт^п?=ехр((т1г0?/("+1))-1-
Отсюда следует, что
Шпя! (у*)""'.(«)=■ I-
Поэтому неравенство
2|я,Л(^)|<°°
(которое вытекает из A3) и из формул
А.» (*/•) = •/„ (-И = (-1)" У„ (Яг),

26
Введение. Геометрический анализ Фурье
следующих, в свою очередь, из A3а)) дает
2К1(',Л,/М1)<оо.
п
Таким образом, по предложению 2.3 существует такой элемент
Т£Е', что
Формула для фя, „ показывает, что
etMx.e®) =2фХ,л(л:)е-"'9.
а
Если положить х*=(хх, *2), мы получаем разложение в ряд Лорана
A4) exp^ikxiiz + z-^ + ^Kx.iz— г'^^ФиМ^.
Аналогично тому как это делалось с рядом Тейлора для еаг9
доказывается, что ряд A4) сходится в топологии пространства Е.
В силу этого мы можем почленно применить к нему функционал Г.
Это дает требуемое представление функции f\
$ *л<*.») dT (со) = 2 Фя. п (х) ап = / (jc).
Обратно, пусть Т£Е'. Рассмотрим «интеграл»
f(x)=\eiK{<x>«»dT{<s>)
и ряд Фурье
T~%aneinQ.
п
Применяя Т к разложению A4), получаем, что
A5) /(*) = 2аяФ*.я(*).
п
В силу (8) и приведенных выше оценок для Jn(kr) этот ряд
сходится равномерно на компактах, так что функция / по крайней
мере непрерывна. Все функции щгП удовлетворяют A2). Ввиду
равномерной сходимости это верно и для функции /. Таким
образом, она является собственной функцией оператора LR*, и
теорема 2.1 доказана.
Решение задачи С § 1 дается теперь следующим результатом.
Пусть для &£С через &\(№) обозначено собственное
подпространство
<£л (№) = {/€<№): LR*f=,-tff}

§ 2. Евклидова плоскость R2
27
и 7\—естественное представление ЖB) в <£a,(R2), т.е. (Tx(g)f)(x)
=f(g-x-x). Топология на <£(R2) была описана в п. 2 § 1;
подпространство <£\(R2) замкнуто.
Теорема 2.6. Указанное выше представление в собственном
подпространстве 7\ неприводимо в том и только том случае,
если %Ф0.
Докажем сначала пару лемм. Пусть f €L?(SX). Рассмотрим
функцию
A6) f(x) = gj С e^i*. «) F (со) dco.
s*
Лемма 2.7. Если % ФО, то отображение F—► /, определенное
равенством A6), взаимно однозначно.
Доказательство. Пусть р (£) = р(£ь £2)—многочлен, a D —
соответствующий дифференциальный оператор с постоянными
коэффициентами в R2, т. е.
Dx(expi(x, £)) = р(9ехр|(х, £)
при £€С2. Из предыдущего равенства вытекает, что если / = 0
в A6), то
^ p(holt Ясо2) F (со) dco == 0.
Так как многочлен р произволен и ЬфО, отсюда следует, что
F = 0.
При Я =7^= 0 обозначим через Ж\ пространство всех функций /,
представимых в виде A6). Оно гильбертово, если принять норму /
равной /Лнорме F на S1. В силу леммы 2.7 это определение
корректно.
Лемма 2.8. Пусть КфО. Тогда Ж^ плотно в <£\(R2).
Доказательство. Пусть /€tf*(R2) и /е (z) = /(A:).
Рассмотрим отображение Ф: 0—>/е окружности S1 в пространство
Фреше <$\(R2). Если использовать на $ (R2) полунормы A) из § 1,
то ясно, что следует понимать под дифференцируемым
отображением из какого-либо многообразия в <£(R2). В этом смысле Ф
дифференцируемо. Ряд A3) можно записать в виде
Фф) = %ап<рКпе™.
п
Поэтому апщ, п является коэффициентом Фурье вектор-функции Ф.
Так как ряд A3) допускает произвольное число
дифференцирований по 6, мы получаем для &-й производной Фш функции Ф
2л
апц)К п = (ш)-* Bл)-1 J Ф<*> @)e-ined0.
о

28 Введение. Геометрический анализ Фурье
Это дает оценку ||a„q>;t,n||^const-/i~* для каждой из введенных
в <£(R2) полунорм ||-||, так что в силу полноты пространства ряд
п
.абсолютно сходится в топологии $ (R2) к некоторому пределу Ф0 (Э).
Но тогда Ф и Ф0 будут иметь одинаковые коэффициенты Фурье,
так что Ф0 = Фи
N
lim 2а„ф^п = Ф@) = /
в топологии <£(R2). Тем самым лемма доказана1*.
Теперь мы можем доказать теорему 2.6. Если ^ = 0, то 7\
очевидным образом приводимо, ибо константы образуют
нетривиальное инвариантное подпространство. Предположим теперь, что X Ф 0.
Докажем сначала, что Ж B) неприводимо действует на Ж\. Пусть
V Ф 0^—замкнутое инвариантное подпространство в Ж%. Тогда
существует такая функция h£V, что Л@) = 1. Запишем ее в
следующем виде:
h (х) = ^ С ***<*• ®> Н (со) da>.
В силу леммы 2.4, ее усреднение
h*(z) = ±§h(e«z)dQ
о
имеет вид
s1
Если функция / из A6) лежит в аннуляторе V0 подпространства
V в Ж\, то функции F и Н ортогональны на S1. Так как V0
является О B)-инвариантным, это остается верным, если заменить
функцию Н на ее усреднение по S1. Иначе говоря, ф^ 0 лежит
в двойном аннуляторе (V0H, который в соответствии с теорией
гильбертовых пространств равен V. Но тогда, в силу
инвариантности V относительно сдвигов, мы получаем, что при любом t£ R*
функция
х —► \еа <*•Л> еа ('»®> da>
*> Поскольку q>it п€$%ь.— Прим, перев»

§ 2. Евклидова плоскость R*
29
принадлежит V. Поэтому из леммы 2.7 вытекает равенство V0 = {0}
и, следовательно, неприводимость представления Ж B) в SfC^.
Перейдем теперь к рассмотрению пространства <£\. Пусть
WciSk—замкнутое инвариантное подпространство. Тогда W [\fflk
является инвариантным подпространством в Ж\. Пусть (/„)—по-
следова!ельность элементов в W n &С\, сходящаяся к / € 9С\ (в
топологии SK%). Применяя A6) к каждому /я, получаем в силу
неравенства Шварца, что fn—■*/ в топологии £х. Таким образом,
f£W, т. е. W[\SK\ замкнуто в Жк. Следовательно, по
предыдущему, W f)fflx есть либо 96%.* либо {0}. В первом случае по
лемме 2.8 имеем й? = <£*,. Во втором случае рассмотрим для каждой
функции f£W разложение A5). Каждый член а„Ф^я дается
равенством
2л
адиB) = ^{ f(e*z)e-**d&.
о
Эта функция лежит в W (] &С^ поскольку левая часть лежит в &С%,Ч
а правая — в W (как предел в <£(R2) сдвигов элементов из W).
Отсюда следует, что / = 0, и тем самым неприводимость доказана.
Замечания, (i) Теорема 2.6 обобщается на любые
размерности (см. упр. А2).
(И) В исключительном случае X = 0 пространство <£0 (R2) состоит
из гармонических функций. В этом случае существует более
обширная группа, действующая на этом пространстве, а именно
конформная группа (точнее, ее алгебра Ли), для которой
неприводимость уже имеет место (см. упр. А4).
2. Одна теорема типа Пэли—Винера
Говорят, что голоморфная функция F на Сл имеет
экспоненциальный тип А > 0, если для любого N £ Z+ существует такая
константа CNi что
I^OK^O + iCD-^^n-ci, С€с».
Здесь U|2 = |Ci|a+ • •• +|Е«|Я и чеРез Im£ обозначена мнимая
часть вектора £ = (&, ..., £«)• Пусть ЖА (О)—пространство всех
голоморфных функций F, удовлетворяющих приведенному условию.
Положим
#?(С") = U #?Л(С").
А > 0
Для простоты обозначим через &)А (Rn) пространство @>ИА <о) (Rn)
всех С00-функций на Rn с носителем в шаре |#|^Л. Справедлив
следующий классический результат.

30
Введение, Геометрический анализ Фурье
Теорема 2.9 (Пэли—Винера). Преобразование Фурье—Лапласа
f-+U где
A7) J @ = $/(*) *"'(*'Dd*' / € »(R"),
является биещией £DA (Rn) на ЖА (Сп).
В соответствии с нашей точкой зрения на гармонический
анализ на однородном пространстве R2 = Ж B)/0B) (и, более
общо, на Rn = M (n)/0(n)) функциям f на Rn ставятся в
соответствие функции ф на RxS", определенные посредством
преобразования Фурье:
A8) ф (X, со) = f(Хсо) = $ / (х) еа <* »> dx.
R«
(Мы переходим от случая я = 2 к случаю произвольного пу
поскольку в доказательстве приводимого ниже результата
используется индукция по размерности.) Хотя теорема 2.9 и дает
описание голоморфных функций /(£), в рассматриваемом контексте
удобнее было бы найти внутреннее описание всех функций ф (Л, со),
даваемых формулой A8), когда / пробегает 3) (Rn). (Решение
аналогичной задачи для f£L2 не вызывает затруднений.) Мы
получим сейчас такую характеризацию. Пусть Im с—мнимая часть
комплексного числа с. Вектор a = (ait ..., ап)£Сп называется
изотропным, если а2 + ... + а\ = 0.
Теорема 2.10. Отображение f—>] переводит S)(Rn) в
множество всех функций J (Лео) = ф (Л,со) £ С00 (R x S"), обладающих
следующими свойствами:
(i) существует такая константа А > 0, что для любого со
функция Х—+у(Ху со) продолжается до голоморфной функции на С,
удовлетворяющей при любом N £Z неравенству
A9) sup|<p(X, ©)(l + |X|)"e-*l,m4|<oo;
к ©
(и) для любого k£Z+ и любого изотропного вектора а£Сп
функция
четна и голоморфна на С.
Поскольку в доказательстве этого результата используются
различные факты о сферических гармониках, мы проведем его
в следующем параграфе. По ходу дела мы заодно докажем там
и теорему 2.9.

§ 3. Сфера 8а
31
§ 3. Сфера S2
1. Сферические гармоники
В этом параграфе мы изучим задачи А—С, поставленные в § 1,
для случая сферы S2, рассматриваемой как однородное
пространство 0C)/0B). Здесь 0(п)—ортогональная группа в Rn. Если
использовать в R3 сферические координаты
хг = г cos W sin 0, х2 = г sin Y sin 0, х3 = г cos 0,
то лапласиан приобретает следующий вид:
/п > - а2 л.2 д л. х 1
где
<2) L==^L. + ctg0A + sin-?0^r.
В общем случае лапласиан LR«(n> 1) имеет вид
C) LR" = -a7T + {L:r~a7+7rL'
где L—лапласиан на S" (см. § 5 гл. II). Оператор L
порождает алгебру О (я)-инвариантных дифференциальных операторов
на S(/1)== 0(n)/0(n — 1) (см. следствие 4.11 гл. II). Пусть
(slf .*., sn)—декартовы координаты точки на S"~*.
Теорема 3.1. (i) Собственные подпространства оператора
L на S" имеют вид
Ек = span [fa, k (s) = (fl,S! + ... + ansn)k, s £ S"}.
Здесь a = (au ..., an) £ С"—изотропный вектор и k£Z+.
Соответствующее собственное значение равно —k(k + n—2).
(И) Каждое представление в собственном подпространстве
неприводимо.
00
(iii) L2(S"";L)=2 Ek (разложение гильбертова пространства
о
в ортогональную прямую сумму).
Доказательство. Пусть Pk—пространство однородных
полиномиальных функций р (xit ..., хп) степени k на Rn и HkczPk—
подпространство гармонических многочленов1). Рассмотрим били-
Г) То есть многочленов и, удовлетворяющих уравнению Лапласа Да = О, —
Прим. перев.

32
Введение. Геометрический анализ Фурье
нейную форму < , > на Р = 2 Ль задаваемую формулой
о
<Р> 4> = {p{-k' ••" ^L@)-
Простое вычисление показывает, что форма <,> является строго
положительно-определенной и что </?, <7> = <<jr, /?>. Кроме того,
если /7, q, r£P и если положить
то
</>, qr> = (d(qr)p)@) = (d(r)d(q)p)@)~<d(q)p9 r>.
Таким образом, операторы г—+qr и r—»d(q)r сопряжены. В
частности, если p£Pk_2, <7 = *i+ • • • +*л = |*К то
<qp, /*> = </?, 5(^)Л>,
т. е. Hk—ортогональное дополнение к qPk-2 B ^*- Следовательно,
D) Pk = QPk-* + Hk.
Итерируя, получаем
E) Pk~Hk + \x\*Hk_2+...+\x\**»Hk_2m, m^f-J-ft].
С другой стороны, если вектор с = (сх, ..., Об С" таков, что
(с, с) = с?+ ... +^ = 0,
то многочлен hc (х) = (cx#i + ... + cn*J* принадлежит #£. Пусть
Я?—линейная оболочка всех hc, для которых (с, с) = 0.
Предположим, что вектор h£Hk ортогонален Щ. Простое вычисление
показывает, что для p£Pk
d(p)(c1xi+...+cnxn)m
= т (m—l)-... - (m—k+ I) р (с) (см + ... + спхп)т~к.
В частности,
ft(c) = 0, если (с, с) = 0.
Иными словами, Л тождественно равно нулю на многообразии
{с£Сп\ (с, с) = 0}. По теореме Гильберта о нулях некоторая
степень hm принадлежит идеалу (х\-\- ... -\-х%)Р. Если я ^3, то,
как показывает простое вычисление, многочлен х\ + ... + х\
неприводим; соответствующий идеал прост, т. е. h делится на
*i+...+*£. Тогда, в силу D), Л = 0. Следовательно, при /г^З
F) Щ = span {(сЛ + ... + спхп)Н (с, с) = 0}.

§ 3. Сфера $'
33
Это верно также и при п = 2. Действительно, мы можем
представить вещественный гармонический многочлен и(хъ х2) как
вещественную часть голоморфной функции
f(xi + ix2) = u(x1, x2) + iv(xi9 x2).
В силу уравнений Коши—Римана, v является многочленом от
Хь х2. Следовательно, функция /, будучи голоморфной,
представляет собой многочлен от г. Поэтому и = у (/-}-/) есть линейная
комбинация степеней (хх ± ix2)k, как и утверждалось.
В силу определения и равенства F), Fk состоит из сужений
Hk\Sn~x. Из C) следует, что каждая функция h£Ek
удовлетворяет равенству Lh = — k(k + n — 2) Л. Собственные значения
— k(k + n—2) различны при различных k. Симметричность L
(предложение 2.3 гл. II) показывает, что пространства Ek попарно
ортогональны. По теореме Стоуна — Вейерштрасса алгебраическая
прямая сумма
2**1 s»-*,
о
со
которая в силу E) равна 2 £*> плотна в C(Sn~1) в равномерной
• о
норме. Отсюда следует (iii).
Рассмотрим теперь нормированную меру d! (со) = Q^1 dco на
S* (здесь Qn — площадь сферы S"). Пусть < , > —скалярное
произведение в L2 (S"), соответствующее мере d'co, Sktn A ^ т ^ d(k))—
ортонормированный базис в Ek и F—любая собственная функция
оператора L, LF = cF(c£C). Рассмотрим разложение
G) F~ 2 Ок. т Skm, акт = <F, Skm>.
D k,m
Используя симметричность L, получаем
с 2 aHmSkm ~ cF = LF ~ 2 (-*) (* + n-2)akmSkm.
k, m k, m
Отсюда следует, что с—одно из собственных значений — kQ(kQ+n—2)
и что Eko—соответствующее собственное подпространство. Тем
самым доказано утверждение (i).
Перейдем к доказательству утверждения (и). Предположим,
что Ек = Е' ®Е"—ортогональное разложение Ек на два
ненулевых инвариантных подпространства. В силу 0(я)-инвариантности
каждое из пространств Е'', Е" содержит функцию, равную 1 в
точке о = (О, ..., О, 1). Усреднением относительно О(п — 1) (группы
изотропии точки о) получаем функции ф'££", ф'^Я", которые
зависят лишь от расстояния 9 до точки о и для которых ф' (о)=*
*Ф*(о)=1. Используя теорему 2.7 гл. И, заключаем, что ф'=ф".
2 С. Хелгасон

34
Введение. Геометрический анализ Фурье
Более прямое доказательство равенства ф' = ф" можно получить,
замечая, что на функциях, определенных на S" и зависящих
только от 9, L имеет вид d2/d№ + (n—2) cig Qd/dQ (предложение
5.26 гл. II). Таким образом, обе функции ф' и ф" удовлетворяют
сингулярному дифференциальному уравнению
(8) -^ + (n-2)ctge^—А(Л + п-2)Ф.
Используя разложение Ф (9) = 2 ат Sll]m & ПРИ малых 9, получаем
о
формулы
«1 = 0,
(т + 2) (т + п— 1) ат+2 = (т(т + n—2)—k (k + п—2)) ат.
Таким образом, функция ф определена с точностью до
постоянного множителя. Отсюда следует, что ф' = ф", и теорема 3.1
доказана. Отметим, что функция ф' обязана быть вещественной.
Замечание. Собственные функции оператора L на Sn~l
называются сферическими гармониками. Название объясняется тем,
что эти функции совпадают с сужениями U (Hk | S*'1). Полезно
/?>о
отметить, что отображение сужения р—► p|Sn~l из Нп на Ек
взаимно однозначно.
В соответствии с теоремой 3.1 каждая функция f £L2(Sn~l)
может быть разложена в ряд по сферическим гармоникам. Нам
понадобятся сейчас некоторые уточнения этого разложения.
Классический подход состоит в прямом исследовании функций из Efc.
Более простой способ (который к тому же ближе по духу данной
книге) состоит в том, чтобы представлять функции из Ek в виде
матричных элементов (§ 1 гл. IV) представлений ортогональной
группы 0(п). Так, например, при этом подходе формула
p(u-o) = d(8)<p9 6(и)ф*>
из приводимого ниже предложения 3.2 заменяет классическую
формулу
Yk(S) = c J />i1/a)<"-a)((s(S'))Kft(S')do)(S')
(Хайне [1878]), где Y^EH,
с—5-Г(-5-л_.1)D-л + *-1)я-A/1)"
и р<,1/2><л-2)—ультрасферический многочлен, определяемый из
равенства
(8а) A— 2zt + z*y-W*" «= 2г*/>11/2)(л-*)@-

§ 3. Сфера $'
35
Теоретико-групповой метод к тому же вполне элементарен,
так как все, что в нем используется,—это мера Хаара на 0(п)
и соотношения ортогональности Шура (п. 2 § 1 гл. IV).
Для s£S""", и£0(п) будем обозначать образ s под действием
и через U-S. Пусть, далее, мера Хаара du на 0(п) нормирована
так, что
(9) J F(u-o)du= J F(s)d'<o(s)
О(п) 8»-*
(СМ. § 1 ГЛ. I).
Предложение 3.2. При фиксированном k£Z+ обозначим через
б естественное представление группы О (п) в Ek, а через d (8) =
= d(k)—его степень. Пусть q>k£Ek—единственный элемент,
инвариантный относительно подгруппы изотропииХ) 0(п — 1)
точки о, нормированный условием tpk (о) = 1. Тогда
(i) р("-о)<ф*, q>k> = <p, 8(u)q>k> при p^Ek;
(И) «Р*, <P*> = l/dF), Фл(//-1-о) = фл(а.о), |ф*(в)|<1.
Доказательство, (i) Пусть М = 0(п—1) и
dm—нормированная мера Хаара на этой группе. Так как функция ф = ф*
является М-инвариантной, то при т£М
) Р(s)ф(s)d'co(s) = ] p(m-s)tp(s)d'<d(s)
= j Ф (s) ( J P (m#s) dm )d'co(s)
= J фф^ф^Ксоф.
Поэтому, так как ф вещественна,
<Р, Ч>> = Р(о)<Ч>, ф>.
Заменяя p(s) на F (и) p)(s) = p(u~l-s), приходим к (i).
Применяя к (i) соотношения ортогональности Шура (п. 2
§ 1 гл. IV), получаем
<Р, Р><Ф, Ф>2 = 3~(б)<^ Р><4>9 ф>'
откуда следует равенство <ф, <p> = dF)~l. Поскольку функция
Ф* вещественна (по соображениям единственности), из (i) следует,
А> Подгруппа изотропии (иначе—стационарная подгруппа) для некоторой
точки многообразия, на котором задано действие группы, состоит из всех
преобразований этой группы, оставляющих данную точку неподвижной. — Прим,
перев.
2*

36
Введение. Геометрический анализ Фурье
что
q>k(u-o) = dF)<(pk, 6(w)q>ft>=dF)<6(«)<P*, ф*> = ф*(и~*-о).
Соотношение |срл|^1 следует из неравенства ШварцаХ).
Следствие 3.3. Для любых s0 € S*"*f p£EkuF£C (Sn~x) функция
gi s—+ \ F(u-s)p(u-s0)du, s£Sn~l
O(n)
принадлежит Ek.
Для доказательства достаточно рассмотреть случай s0 = o.
Если положить s = v-o, то интеграл примет вид
g(v-o) = d(8) J F(w>o)<p, 8 (wv~l) tpk> dw
O(n)
*=dF) J F(W'0)<6(wl)p, 6(tr*)<pa>dw==<7(trx.o),
O(n)
где
q= ) F(w-o)8(w~%) pdw.
O(n)
Понятно, что q € Ek. Представляя v как вращение в двумерной
плоскости, проходящей через точки 0, s и о, видим, что g(s) =
= £(<*•$)* где а—симметрия сферы S" относительно точки о.
Отсюда следует, что, как и утверждалось, g £ Ek.
Теорема 3.4. Пусть k£Z+ и Skm (l<m<d(&))—ортонор-
мированный базис в Ен. Пусть, далее, F££(Sn~l) и akm*=<F,
Skm>. Тогда
(i) fs= 2 akmSkm, причем ряд сходится абсолютно и равно-
k* m
мерно;
(И) отображение F—+{akm} переводит £(Sn~l) в множество
всех последовательностей akm (k£Z+, 1 ^m^d(k)), для которых
A0) sup|aftJfc«<oo
ft, m
при любом q£Z+.
Доказательство. Согласно теории гильбертовых
пространств
L> Примененного к правой части вытекающего из (i) равенства
ф* («• о) <ф*, Ф*> — <Ф*» ^ (а) Фл>.
Прим. перев.

§ 8. Сфера s»
37
Заменяя здесь F на L<*F, получаем неравенство A0). Если в
предложении 3.2 положить p*=sSkm, то, в силу неравенства Шварца,
(Н) \Skm{s)\<d(by/K
Ввиду соотношения D), правая часть A1) ограничена некоторой
фиксированной степенью числа k. Тем самым (i) доказано.
Осталось показать, что последовательность {akm\t
удовлетворяющая A0), определяет сумму
(Па) f=2^a.
k, m
являющуюся гладкой функцией на S". С этой целью введем
для любых двух функций Fi9 F2£C(Sn~x) их свёртку Fi*F2i
определяемую следующим образом!
A2) (/7i*/r2)(s)= $ Fi(u-o)F2(u-*-s)du.
О(п)
Теперь нам необходима следующая простая лемма, которая
будет использоваться и в дальнейшем.
Лемма 3.5. Если р £ Ek, то
A3) />*ф* = <*(А0~х/?, Ф**Р = /> (о) <*(£Г1 Ф*-
В обозначениях теоремы 3.4
A4) d(k)F*<pk= 2 cikmSkmi
l <m<d(k)
так что (i) можно записать в виде
A5) F^d{k)F*<fk.
о
Доказательство. Согласно предложению 3.2,
(Р*Ф*)(^о) = \ d(k)*<p, 6(и)Ф*ХФ*» 8(u-*-v)<pk>du.
О(п)
В силу соотношений ортогональности, последнее выражение равно
<Р, 6(v)<ph>-d(k)-*p(v0).
Далее, функция <рн*р является 0(п — 1)-инвариантной и,
следовательно, пропорциональна ф*. Поэтому, вычисляя ее в точке о
И используя предложение 3.2, получаем A3).
Если функция Ft ортогональна Ек, то определение A2)
показывает, что FX*% = Q. Поэтому A3) влечет A4) и A5).

38
Введение. Геометрический анализ Фурье
Наконец, для доказательства гладкости функции F,
задаваемой формулой (Па), рассмотрим при q£Z+ функции
*f(s)-2(*+0"frf(*)9*(e).
4 k
которые в силу A3) удовлетворяют равенству F=zFq*tyr Пусть
л = 3. Используя утверждение (i) теоремы 3.1 и 0(п —
^-инвариантность функции фЛ, заключаем, что <рк есть сужение на S2
многочлена
я
•К- \ (iXiCOS<p+ix2Sm<p + X3)k dtp.
-я
Следовательно,
я
Ф* (s) = — \ (cos 9 + i sin 9 cos <p)k d<p, s G S2,
о
где s3 = cos9. При произвольном п мы аналогично убеждаемся
(например, проверив выполнение равенства (8)), что
я
q>k (s) = "~* \ (cos 9 + i sin 9 cos ф)* sin"""9 ф Жр,
о
где s„ = cosO. Поэтому, если N£Z+ фиксировано, то мы можем
выбрать q таким большим, что ряд для уря можно будет W-крат-
но почленно дифференцировать. При этом функция tyq будет
иметь непрерывные производные вплоть до порядка N. Функция
Fq непрерывна (в силу A0) и A1)), так что, используя равенство
F = Fg*tyq9 мы заключаем, что функция F Af-кратно
дифференцируема. Таким образом, F£$(S"'1), и теорема 3.4 доказана.
2. Доказательство теоремы 2.10
Докажем сначала, что условия (i) и (И) выполнены для
функции /, если f££D(Rn). Отметим прежде всего, что равенство A8)
из § 2 можно записать в следующем виде:
A6) Ф(Х, cd) = /(Xcd) = 5/(cd, p)e-**dp9
R
где /(со, р)—интеграл от / по гиперплоскости (л:, со) = /?.
Свойство (i) немедленно следует из того, что функция р—>/(со, р)
принадлежит @)(R). Кроме того, из равенства A8) § 2 вытекает,
что dk]ld№ s точке ^0 является однородным многочленом &-й

§ 3. Сфера •'
39
степени от (о)х, ..., сол), который в соответствии с D) может
быть выражен через гармонические многочлены степени ^.k.
Разлагая функцию Я—*ф(Я, о)) = /(Хсо) в ряд Тейлора в
окрестности точки Я = 0, умножая на (а, со)* и интегрируя, получаем
свойство (и), ибо Ек и Е% ортогональны при k > /.
Обратно, предположим, что ф удовлетворяет (i) и (и), и
определим f€<£>(Rn) равенством
A7) f(x) = Bn)~n $ <р(Я, (o)ea^^kn^dKdxo.
R + X$«-»
Нам нужно доказать, что /(*) = () при \х\>А,—тогда из
формулы обращения преобразования Фурье будет следовать, что
/ = ф. Так как условия (i) и (и) инвариантны относительно
вращений вокруг нуля, достаточно доказать, что f(x) = 0 при # =
= гел, где ел = @, ...,0, 1) и г>А. Пусть £/==0(л), a
М(=0(п—1))—подгруппа, оставляющая вектор еп (т. е.
северный полюс) неподвижным. Мы можем применить разложение A5)
к функции F(u-o) = f (и-х). Вычисляя ее значение в точке и = е,
приходим к равенству
A8) /(*)=2 d(k)\f(u-x)(pk(u'^o)du.
о и
Используя A7), получаем
d{k) ^f(u-x)<pk(u~l-o)du
и
= d(k)Bn)-n J \\<Р(К u-(u)(pk(u-*-o)du]elbi*'<»)Xn-idXdjco.
Согласно следствию 3.3, функция в квадратных скобках
принадлежит Ек, так что
d(k)[<p(K9 u-(d)<pk(u-*.o)du= 2 Ф*«(&)£*•(<»)»
fj \<m<d(k)
где (используем равенство ф*(и~*-о) = ф*(и-о))
T*.WBd(*Mj9(l, uv-o)<pk(u-*.o)Skn(v.o)dudx>
и и
*=d(k) I 4>(K 0)(фл*5^)@)^о.
Таким образом, в силу A3),
Ф*ЛМ«5*Л(о) J Ф(^> о>)фА(©)^©.

40
Введение. Геометрический анализ Фурье
Далее,
A9) /<*)-2/*«(*). *~гея9 геК
k, m
где
B0) fkm (х) = Bя)- $ щт A) Skm (со) е*«> •> *-» <&*>.
R + XS»-1
Ввиду наших предположений относительно ф функция ф*Л(Я)Аг*
четна, голоморфна и
B1) |ф*.(*)|<С*A + |*|)-Л'«Л|,тЧ
Для того чтобы работать с формулой B0), нам понадобится
следующая классическая лемма (см. Бохнер [1955, с. 37], Эрдейи
и др. [1953, т. 2, с. 247] или Виленкин [1965, с. 554]). Ниже
мы дадим набросок ее теоретико-группового доказательства.
Лемма 3.6. Для любых p£Ek9 riGS"""* справедливо равенство
^A/2) П-
где
В соответствии с этой леммой и соотношениями A9), B0) наша
задача свелась к установлению того, что
00
B2) $ <pto (к) (X/)i-ci/i>«Л+A/2) п_г (кг) к»-* dl = 0
о
при г > А.
Предположим сначала, что функция ф(Я, ю) = ф(Я) не зависит
от 0. «Продолжим» ф до инвариантной голоморфной функции Ф
от п переменных, полагая
Ф@-Ф(Ь, ...• и-Ф<*>.
где А,2 = £?+...+ ££. Это возможно, поскольку функция
ф—чётная. Полагая
имеем
B3) ^-.v««|Ep-hlE, |*V«(£.T|)»;
следовательно,
B4) 1^|4-(|БРНчР)|+4E.ч)«
и
2|Im^p5=|ri|2~|gp + ((|Ep-|r1|^ + 4(|.Ti)^.

§ 3. Сфера S*
41
В частности, так как |(Ё-л)|^1&||т||| мы получаем
B5) |1тЛ|<|т||.
Далее, q> удовлетворяет при любом N£Z+ оценке
B6) |Ф(^)|^С^A + |Я|)^^П™М
и A7) можно переписать в следующем виде:
/(х) = Bя)-« $Ф(Ь %}*<**<&
С помощью подходящего варианта рассуждений в духе
классической теоремы Пэли — Винера мы докажем, что f€&)(Rn).
Если т)£Кл—какой-нибудь фиксированный вектор, то мы
можем по теореме Коши сдвинуть поверхность интегрирования в
комплексную область и получить
B7) / (х) = Bл)-« J Ф(Б + /т|> ё <*• ft+ftDd£.
R»
Действительно, B4) и B6) показывают, что при фиксированном
х\ функция Ф(£ + 1/т|) быстро убывает по \ равномерно по 0^
^f<jl. Таким образом, из B5) и B4) следует, что
|Ф(| + /П)|<С^A+|Х|)^^1^
<C^i4i(l + ||E|»-h|»|1/iriV.
Полагая N = п + 1, получаем
S A + 11^2-1л12|1/2)Г^<«1л1л + ^
R»
где а и b—константы. Это неравенство устанавливается путем
разбиения области интегрирования на подобласти |£|<!2|т)| и
|Ё|>2|т)|. Таким образом, из B7) вытекает неравенство
B8) | / (х) | < Bл)-" Cn+i (а \ х\ |» + Ь) еА I ч 1-<*. п>,
справедливое при л:, r| g Rn. Фиксируем теперь такой вектор xf
что |*|>Л, и положим t] = tx в B8). Так как
(а | jc |" /" Ч- &) е* ■ * ■ «Л -■ * ■> —^ 0
при /—►Ч-оо, заключаем, что
B9) f(*) = 0 при |jc|> Л.
Рассмотрим теперь произвольную функцию <р(Х, со). Напомним,
что функция укт (К) Х"к четна и голоморфна, a <pkm удовлетворяет

42
Введение. Геометрический анализ Фурье
B1). Запишем выражение в левой части B2), деленное на rk:
CD
C0) r-«i/»> "+*>+1 J (<pto (Я) Я"*) Л+A/2) я.2 (Лг) М*/»> "+* А.
о
Лемма 3.6 дает, в частности, равенство
1 в aw — мгчA/2) n+fe_i i
где г = |#| и с—константа. Следовательно, выражение C0) с
точностью до постоянного множителя есть преобразование Фурье в
fcn+2k радиальнойх) функции
Ф*. <Ь. • • •. Ь.+*) = Ъ* (I E I) 16 Г*. Б € Кл+?*.
Если теперь в качестве функции ср(Я) взять Ф*Я(Л»)Л"А то
функция Ф(£ь •••» Cn+2ft) превратится на R"+2* в Фкт. Тем самым, в
силу B9), установлено, что интеграл C0) равен нулю при г>Л,
что и требовалось доказать.
Наконец, докажем лемму 3.6. Рассмотрим функцию
C1) Фя,бМ=$еА(др':ш?л)<0, 8(u)v>du, x£Rn.
и
Здесь через v обозначен единичный вектор d(8){/2ук£Ек.
Лемма 3.7. Пусть w£Eku
x = l-ren, l£U, r£R.
Тогда
C2) J **M*. «•*><и>, 8(u)v>du = <w, &(t)v>Q>K6(ren).
и
Доказательство. Определим отображение F:Rn—+Ek
формулой
F (x) = J e~&<*• ""»> Ь(и) vdu.
и
Тогда левая часть C2) равна <до, F(x)>. Таким образом,
F(u-x)**6(u)F(x).
В частности, вектор F(ren) является М-инвариантным и,
следовательно, пропорционален v. Поэтому
F(ren)~(OK6(ren))-v,
*>То есть зависящей только от 11|. — Прим. перев.

§ 3. Сфера $*
43
так что
<w9 F(l.ren)> = <w, 6(l)F(ren)> = <wt 6(t)v><S>K6(ren),
откуда и следует утверждение леммы.
Осталось вычислить Фа,, &(х). Справедливо равенство
C3) £к*Фя,б = -ЯаФ;иб.
Используем его для разделения переменных. Учитывая М-инва-
риантность функции Фя> б, нетрудно проверить, что
Фя.б(^п) = Фя.б(/-*-*Л).
Следовательно,
фк б (rl-en) = Фя, ь (П~х-еп) = $ &* <*• ^»><», 6 (ф> dw,
и
так что
фя, б(/"/ -О = J е'Яг ("» uen) <S @ у, б (и) v> du.
и
Таким образом, при фиксированном г функция Ш —>Фя, б(г/-вп)
на S" является собственной функцией оператора L с
собственным значением —k(k + n—.2). Комбинируя этот факт с C3) и C),
получаем, что функция г|) (г) = Фа,, в (гО удовлетворяет
дифференциальному уравнению
C4) ^ + 2zJ^_ *(*+г*~2Ч = — *Ч>-
Однако функции, отличающиеся лишь постоянным множителем
от функции
Л + A/2)п-1(И/(^)(,/2),,-1>
служат гладкими решениями этого уравнения. Вместе с леммой
3.7 это дает с точностью до значения постоянного множителя
формулу из леммы 3.6. Постоянный множитель мы не будем
определять, поскольку он для наших приложений несуществен. Во
всяком случае, мы доказали, что fkm(x) = Q ПРИ 1*1 >^> так чт0»
в силу A9), /(*) = 0 при x = ren, r > А. Тем самым теорема 2.10
доказана.
Замечание. Так как включение
в теореме 2.9 очевидно, для ее доказательства достаточно
заметить, что утверждаемая сюръективность, т. е. равенство (@>А)~ ~
= «%'л, следует из теоремы 2.10. Действительно, если F^S^A9 то
функция ф(А,, a)) = F(Xo)), конечно, удовлетворяет условию A9)

44
Введение. Геометрический анализ Фурье
из § 2. Таким образом, разлагая F в степенной ряд в окрестности
нуля, мы получаем ряд
<р(А,, a>) = F(ta))= 2 ^V|(©)t
где Pj—многочлен от (щ, . .м ©„) степени I.
Ввиду E) ясно, что при / < k этот многочлен Рг ортогонален
функции со—»-(а, &)к на Sn~l, если а^С"—изотропный вектор.
Тем самым условие (и) теоремы 2.10 выполнено. Поэтому
существует такая функция /€^>л(^,1)> чт0 Ф(^> ю) = /(Хю). Однако
тогда F = ff чем теорема 2.9 и доказана. Естественно, ее можно
доказать и гораздо более непосредственным способом.
§ 4. Гиперболическая плоскость Н1
1. Неевклидов анализ Фурье. Задачи и результаты
Пусть D—открытый круг \z\ < 1 в Ra со стандартной
структурой многообразия и с римановой структурой х\ задаваемой
формулой
где и и v—произвольные касательные векторы в точкеа) z£D.
Здесь через ( , ) обозначено каноническое скалярное
произведение в Ra. Это риманово многообразие обычно называют моделью
Пуанкаре гиперболической плоскости На 8). Напомним кратко его
геометрические свойства (см. Хелгасон [1978, с. 93, 548]4)). Так
как
<к, с»з _ (и, р)а
<и, и> <у, i>> (и, и) (у, v) »
угол между векторами в этой римановой структуре совпадает
с евклидовым углом.
Длина кривой y(t)(a^t^^) в D, в соответствии с общим
определением для произвольного риманового многообразия,
вычисляется по формуле
L(y) = l<y'(t),y'(t)>l'2dtf
а
*> См., например, Дубровин и др, 1979, с* 96.— Прим. перев.
2> В дальнейшем точка (дс, y)£D отождествляется с комплексным числом
g^x+iy.— Прим. перев.
8) Гиперболическую плоскость Н2. называют также плоскостью Лобачевско*
го.— Прим. перев.
*> А также Шабат [1976, т. 1, гл. 1, § 3].— Прим, перев»

§ 4. Гиперболическая плоскость Н?
45
а расстояние между любыми двумя точками z, w£D—по формуле
d(z, w)=infL(y).
V
Здесь инфимум берется по всем кривым, соединяющим точки z
и w. Если y(t) = (x(t)f y(t)) и s(x)—длина дуги сегмента y(t)
(а^/^т), то, как следует из A),
(*)*_<.-*w.-,WT.((i)!+(§)!).
Обычно это записывается так:
B) do'- dx*+dy*
В частности, если у(а) = о (начало координат), уф) = х (точка
оси х) и через у0 обозначается отрезок от о до х, то из
неравенства
*'(тJ ^ x'W2+y'W
<1-*(*)■)■ ** (l-*(T)«-|f(T)«)a
мы получаем неравенство L(y0)^.L(y). Это доказывает, что
прямые, проходящие через начало координат, являются
геодезическими. Далее,
1
C) d(of ^) = L(Yo)=5r^d/ = |ln-j±}j|.
Рассмотрим теперь группу S£7(l, l)==lfy-M: |а|2 —16|2 = l|,
действующую на D посредством отображений
D) gi г^£±1 (z£D).
ог-\-а
Это действие транзитивно. Стационарной подгруппой точки о
является SO B). Таким образом, мы получаем следующее
отождествление!
E) D=Stf(l, 1)/S0B).
Риманова структура A) сохраняется при отображениях D).
Действительно, пусть z(t)—кривая, z@) = z, z'@) = w. Тогда
в точке g(z)
'•-{>Ч..-*&

46
Введение. Геометрический анализ Фурье
Требуемое соотношение
<g-u, g-u>g{z) = <u, и>г
получается теперь простым вычислением.
Отображения D) конформны и переводят окружности (и прямые)
в окружности и прямые. Отсюда следует, что геодезическими в D
являются дуги окружностей, перпендикулярных к границе |г|=1.
Если zit z2—точки из D, то изометрия
z—Zi
1— ZiZ
отображает Zi в о и z2 в точку (z2—Zx)/A—ztz2). После
соответствующего вращения вокруг о последняя точка переходит в \z2 —
— *i|/|l—*й|- Таким образом, из C) вытекает, что
(б) dfa, «j-iь j;-?»[+[»-*j, Zi,z^D.
2 |1— 2iZ2| — |z2 — 2x|
Записывая риманову структуру B) в общем виде (см. п. 4 § 2
гл. II),
№ = 2 8 и dxt dxj, gu = A -1 г \Т* «„,
i,J
g = \detgl/\i gi^=(gij) (обратная матрица), введем, как обычно,
риманову меру
и оператор Лапласа—Бельтрами
Тогда соответственно
G) йг = (\—х*—уг)-*<1х<1у,
(8) L = (i_**_^(|L+.|).
Согласно общей теории (см. § 2 гл. II), эти мера и оператор
инвариантны относительно всех изометрий. Для приведенных выше
изометрий D) (которые вместе cz—+z порождают все изометрий D),
это, конечно, можно проверить и непосредственно. Нетрудно
также непосредственно доказать частный случай следствия 4.11 гл. II,
утверждающий, что любой SU(l, 1)-инвариантный
дифференциальный оператор на D является многочленом от L.
После этих приготовлений рассмотрим теперь задачи А—С.
Определим некоторые собственные функции оператора Lf исходя

§ 4. Гиперболическая плоскость Н2
47
из аналогии с евклидовым случаем. Если \i£C и (u£Sn~l, то
функция
(9) х —*0*<*»> (х€КЛ)
обладает следующими свойствами:
(i) она является собственной функцией лапласиана Lr« на Rn\
(и) она является плоской волной с нормалью со, т. е. постоянна
на каждой гиперплоскости, перпендикулярной к со.
Гиперплоскость в Rn перпендикулярна семейству
параллельных прямых. Геометрическим аналогом гиперплоскости в D
является орицикл, т. е. окружность в D, касательная к границе
B — dD. Действительно, такая окружность £ ортогональна всем
геодезическим в D, входящим в точку касания Ь. Для всякой
точки г на окружности \ положим
A0) <г, 6> = расстояние от о до g (со знаком минус,
если о лежит внутри £).
«Скалярное произведение» <z, by является неевклидовым аналогом
выражения (х, со), геометрический смысл которого есть расстояние
(со знаком) от точки 0 £ Rn до гиперплоскости с нормалью со,
проходящей через х. Будем использовать обозначение l(z, b) для
введенного выше орицикла, проходящего через г и Ь.
По аналогии с (9) рассмотрим функцию
(И) е^Ы z-+e»<z*b>, z£D.
Лемма 4.1. Для лапласиана L справедливо равенство
Доказательство. Положим для t£R
Тогда, в силу C),
A2) d(o, aro) = d(o, th/) = *.
Следовательно, если b0—точка границы В на положительной
полуоси X, ТО
A3) «^(thO-*"-
Орициклами, касательными к В в точке t0t будут орбиты группы

48
Введение. Геометрический анализ Фурье
Действительно, орбита N*o является таким орициклом, а с ней
и орбита Nat-o — atN*o (at нормализует Nx)). Рассмотрим теперь
функции на Z), которые, подобно elit ь0, постоянны на каждом
таком орицикле. Оператор L, в силу его Af-инвариантности,
отображает этот класс функций в себя. Сужение оператора L на
такие функции есть некоторый дифференциальный оператор L0,
действующий по переменной t. Так как изометрия at
удовлетворяет тождеству 0rthT = th(/ + T), инвариантность L
относительно at означает, что L0 инвариантен относительно сдвигов т—*ъ+
+ t. Таким образом, L0 имеет постоянные коэффициенты, так что
е»* является его собственной функцией. В силу A3) отсюда
следует, что 2ц, ь0—собственная функция оператора L.
Соответствующее собственное значение можно найти, выразив оператор L в
координатах atns-o—+(t, s). Действительно, можно вычислить, что
Более простое вычисление собственного значения предлагается
далее (см. также упр. В2).
Переформулируя лемму, получаем равенство
Lz (*<*+ i) <* *>) = — (Я2 + 1) *'х+ х > <*•*>, Л € С.
Определим теперь преобразование Фурье на Z), отталкиваясь от
евклидова случая A) из § 2. Через dz снова будем обозначать
элемент площади G).
Определение. Для всякой комплекснозначной функции /
на D ее преобразование Фурье f определяется по формуле
A4) J(k9 6)« $/(*)*-*+»><■•*>&
при всех значениях %£ С, b£ J5, для которых этот интеграл
существует.
Для того чтобы сформулировать следующую теорему, введем
еще одно понятие. Будем называть С°°-функцию г|)(А,, Ь) на СхВ,
голоморфную по Я, голоморфной функцией равномерного
экспоненциального типа R, если для любого числа N£Z+
sup exp (— /?|Im^|)(l+|XD^|*(A,f 6)|<oo.
ЯеС, ьев
Здесь через 1тЯ обозначена мнимая часть X.
Мы можем теперь дать вполне определенные ответы на
вопросы А—С.
4) То есть для любого элемента n(£N мы имеем atnaj1^.— Прим. перев%

§ 4. Гиперболическая плоскость На
49
Теорема 4.2. (i) Для / € S> (D)
A5) /(*)~кИ^. *>*а+1><м>**ь(тг)ЛЛ'
R В
где db—угловая мерах) на В, нормированная условием ^db=l.
(ii) Отображение f—*/ является биекцией £D(D) на
пространство всех голоморфных функций г|?(Я, Ь) равномерного
экспоненциального типа, удовлетворяющих функциональному
соотношению
$е<л+1><*-*>ф(Х, b)db= $e<-a+i><**>i|>(— Я, 6)dfc.
(Ш) Отображение /-—►/ продолжается до изометрии L2 (D) на
L2(R+xB, Bn)"Uth (у яА.) <&£»)?>.
Замечания. Три утверждения этой теоремы являются
неевклидовыми аналогами соответственно формулы обращения,
теоремы Пэли—Винера и формулы Планшереля для преобразования
Фурье в Rn. Однако имеются и некоторые интересные отличия:
(a) В то время как функциональное уравнение (ii) налагает
существенное ограничение на фурье-образ г|э(Я, b)~f(kt fc),
аналогичное условие для евклидова преобразования Фурье / таково:
$ ёх <*• <•» f (Щ dco = \e~iX с*.«» / (— Ы) dco.
S* S1
Это условие, однако, совершенно тривиально и не налагает
никаких ограничений на /. Соответствующим евклидовым аналогом
служит условие (ii) из теоремы 2.10.
(b) Сравнивая формулы A4) и A5) с их евклидовыми
аналогами A), B) из § 2, мы обнаруживаем ядро е2<г*ь>, не имеющее
никакой аналогии в евклидовом случае. Если w—точка орицикла
£(г, Ь), ближайшая к о, то, как следует из C),
е2<г,Ь>== ! + М
е 1-м •
Но М можно найти с использованием теоремы косинусов для
треугольников (о, z, Ь) и (о, z, с), где с—центр орицикла (см. рис. 1).
Х) То есть мера d(p/2n, где ф — угловая координата на В, — Прим. перев.
2) Последнее пространство состоит из измеримых функций на R + xB,
интегрируемых с квадратом по мере, выписанной в скобках,—Прим. перев.

50 Введение. Геометрический анализ Фурье
Рис I
Мы получаем
cos(zob) = Т| '2|2' L.
|г|A + |ш|)
так что
A6)
Последнее выражение совпадает с классическим ядром Пуассона
,2<Z.6>_2H£J1
6 ~*-*Р
1-r?
I z—6|« "— 2rcos(q> — 6)+r3f
где z**ref*9 b = e(*.
В силу этого представление Пуассона
гармонической функции и (г) с непрерывным граничным значением F
может быть записано в виде
u{z)=\e*<*>b>F{b)db
и, следовательно у в соответствии с A5), может быть
рассматриваемо как формула неевклидова анализа Фурье.
Далее мы увидим, что это приводит к простому
доказательству теоремы Шварца о пределе:
Km и (г) = F(b)
в каждой точке непрерывности функции F (теорема 4.25), а также
к теоретико-групповому доказательству классической теоремы

§ 4. Гиперболическая плоскость Н*
51
Фату о том, что ограниченная гармоническая функция в D имеет
предельные значения вдоль почти всех радиусов (теорема 4.26).
Стоит заметить, что в силу (8) евклидовы и неевклидовы
гармонические функции совпадают. Отметим также, что, используя
равенство A6), можно дать несколько более простое
доказательство леммы 4.1.
Для описания решения задачи В нам необходимо понятие
аналитического функционала (гиперфункции) на компактном
аналитическом многообразии.
Пусть Л (В)— пространство аналитических функций на
границе В, рассматриваемой как аналитическое многообразие. Для
каждого такого многообразия В пространство Л (В) обладает
некоторой естественной топологией. В случае окружности ее можно
довольно просто описать следующим образом. Пусть U—открытое
кольцо, содержащее В, Ж(и)—пространство голоморфных в U
функций, снабженное топологией равномерной сходимости на
компактных подмножествах. Поскольку каждая аналитическая
функция на В продолжается до функции из S% (U) для
подходящим образом выбранного U, мы можем отождествить Л (В) с
объединением Uffi(U) и снабдить его топологией индуктивного
предела. Элементы двойственного пространства Л' (В) называются
аналитическими функционалами (или гиперфункциями). Поскольку
элементы Л' (В) служат обобщениями мер, удобно писать
T(f)=\f(b)dT(b), }£Л(В), Т£Л'(В).
в
Для X £ С обозначим через £%, (D) собственное подпространство
£x(D) = {f££(D): L/=*-(№+1)/}
с топологией, индуцированной из £(D).
Теорема 4.3. Собственные функции оператора Лапласа —
Бельтрами L на D, и только они, представимы в виде
f(z) = \#a+v<*>b>dT(b)%
в
где к^С и Т^Л'(В). Далее, если гКФ—1, —3, —5 ..., то
отображение Т—► / является биекцией Л' (В) на £^(D).
Мы увидим далее (см. (85)), что гиперфункция Т может быть
восстановлена по функции / с помощью надлежащего предельного
перехода (по крайней мере при Re(ik)>0). Мы также докажем
(теорема 4.24), что Т является распределением на В в том и
только том случае, если / растет не более чем экспоненциально с
ростом расстояния d(o, z).

52
Введение. Геометрический анализ Фурье
Для Я£С обозначим через 7\ представление группы SU(l, 1)
в собственном подпространстве £к(Ь). Тогда для задачи С
справедлив следующий результат.
Теорема 4.4. Указанное выше представление в собственном
подпространстве 7\ неприводимо тогда и только тогда, когда
tt+l£2Z.
В оставшейся части данного параграфа будут даны
доказательства этих теорем.
Рис. 2
Кроме подгруппы K~SOB)c:SU(l9 1)=*G мы рассматривали
подгруппы
f fcht shA I
| /1-Й* —ix\ \
*-{».-( te i-te> *€*}.
Из A2) ясно, что отображение t—+at*o является изометрией R
на геодезическую Л «о. Проверим теперь, что отображение ср: дс —*
/г^-о есть изометрия R на орицикл N- о. Для этого заметим, что
Ф(*) =
*-И

§ 4» Гиперболическая плоскость Н2
53
так что
(£. £>,„.„-.-^-/О-Ш)'-1-
Тем самым наше утверждение доказано.
Пусть Ь0—точка пересечения границы В с положительной
полуосью х. Рассмотрим орициклы it = Nat-o, 5*+д/ = #а/+д/-о и
геодезические пхА-о и /г*+д*Л-о, изображенные на рис. 2.
Заметим (это устанавливается прямым матричным вычислением), что
а1хпхах^пХе^х и чт0 at~изометрия круга D, отображающая N-о
на Nat-o. Отсюда следует, что заштрихованный на рис. 2
«прямоугольник» имеет стороны A/, e~2lAx, A/, e-2it+At)Axf так что
элемент площади dz может быть вычислен следующим образом:
J / (г) dz = J / (nxat• о) e'&dxdt.
D RXR
Элемент d<ot длины дуги орицикла lt есть
d(ot = e~^dx.
Выражение для dz можно также получить, записав
«. sht—ш~х
откуда видно, что _
£fe-4rftA!?. =e-#dxdt.
Приведенная выше интегральная формула допускает следующую
запись:
\f(z)dz=W\f(z)d<ot(z)\dt.
D R\h J
Поэтому, производя поворот на угол в, мы можем привести
преобразование Фурье A4) к виду
f(k, е®) = $ *-*«>' J f(z)da>t(z)dt;
к gcth/Л'Л
это будет полезно в дальнейшем.
2. Сферические функции и сферическое преобразование
По определению, сферическая функция на D—это радиальная1)
собственная функция оператора L. Если z£D, r = d(o, г), то,
в силу A2),
z = \z\eiQ = threiQ.
1) То есть зависящая лишь от \г\. — Прим. перев.

54
Введение. Геометрический анализ Фурье
В координатах (г, в) (геодезические полярные координаты)
оператор L имеет вид
A7) L = |l + 2cth2r!-Msh-»Br)^r.
Таким образом, сферическая функция ф удовлетворяет уравнению
A8) £ + 2cth2r£ (Я*+1)Ф.
Используя разложение в ряд по степеням sh 2r (или теорему 2.7 глЛI),
мы устанавливаем, что все решения уравнения A8)
пропорциональны между собой и, следовательно, с точностью до постоянного
множителя равны функции
A9) Фл(г) = \eS*+v<z>b>db.
в
В частности, сферические функции отличны от нуля в точке z = o.
Нормируя сферические функции ф условием ф (о) = 1, видим, что
все они определяются по формуле A9). Кроме того, фх = ф_я,
поскольку эти функции удовлетворяют уравнению A8).
Если подставить z — threw, b = em в A6), то мы получим
в силу A9), что
B0) <Mar-o) = i f (ch2/-—sh2rcos0)-<1/2)<^+1)
d6.
Пусть теперь группы G = S{/A, 1), К—SOB) снабжены мерами
Хаара dg и dk, нормированными условиями
\f{g.o)dg=\f(z)dzy $&=1, f£Cc(D)
G D К
(см. § 1 гл. I). Сферическая функция фя, удовлетворяет
функциональному уравнению
B1) $Фл(^-2)^ = ф^.о)ФяB), z£D, g£G.
к
В самом деле, левая часть (как функция от z) является
радиальной собственной функцией оператора L и, следовательно,
пропорциональна Фх(г). Константа же находится подстановкой г = о.
Определение. Для всякой радиальной функции / на D
ее сферическим преобразованием называется функция
B2) f(X) = \(z)<p„k(z)dz

§ 4. Гиперболическая плоскость Н2
55
(при условии, что интеграл существует). Через и)** (D) обозначим
пространство всех радиальных функций из S)(D).
Докажем теперь формулу обращения и формулу Планшереля для
сферического преобразования. Спектральная теория обыкновенного
ди(|х})еренциального оператора A8) (см. Вейль [1910], Коддингтон
и Левинсон [1958], Наймарк [1969, гл. VI, § 21]) дает такую
формулу обращения:
/(*> = $ Г(*> ФхЮ 4* <*).
где «спектральная мера» определяется асимптотическим поведением
Фа, на бесконечности. Конкретно это поведение описывается
с-функцией Хариш-Чандры, вводимой в следующей теореме.
Теорема 4.5. Если Re (/А,) > 0, то предел
c(h)= lim е<-а+1>гфЛ(аг.о)
Г->+00
существует и равен
r(ia)
с (X) = я- !/• *-±—'-—
ИЫ)
Доказательство. Так как Фя(я_г-о)=Фл(яг-о)==(Ф-;1(аг-о),
мы можем в интеграле B0) заменить А. и г на —А, и —г.
Используя подстановку
получаем
B3) ФХ(аг-о) = - j (^ch2r + sh2rTT7?) -^
— 00
00
-sJL^X-Df Г A+^-^2)A/2)(Д-1)A+М2)-A/2)(а+1)^#
— 00
Предполагая, что Re(/A,)>0, докажем, что последний интеграл
стремится к некоторому пределу при г—►+«>. Пусть Я«= g-f-/т],
так что Re(/A,) = — т] > 0. Выберем в @<8<у) настолько
малым, чтобы 1 + 2ег| > 0. Тогда подынтегральное выражение
оценивается сверху величиной
A _j_ e-*ги2>)-(i/2) tj- 1/2A + и»)С 1/»Ип- 1/а
<; A + е~*ги2)- <1/2) ч+8Т1 A + w2)^/2^-1/2
^A _|_W2)-(l/2)Tl + eTl(l ^_W2yi/2)Tl-l/2
«=(l + w2)-<1/2)+e^,

56
Введение. Геометрический анализ Фурье
причем последнее выражение интегрируемо. Это приводит к
формуле
lim е<-а+1)гФх(аг-о)==4 f (l + u^-iw^+vdu.
— 00
Полагая / = A Ч-и2)""*, получаем
1 с 1 г(тЛМт)
ЯК я г (■£■<*+1))
Тем самым наш результат доказан.
Замечание. Приведенная выше формула определяет с как
мероморфную функцию на С.
Используя интегральную формулу, установленную в конце
п. I, мы получаем теперь из A9) следующее выражение для
сферического преобразования B2):
B4) / (X) = J е~ш (е~* J / (nxat.о) dx) dt.
R R
Теорема 4.6. Сферическое преобразование / —>/ обращается
по формуле
B5) f (*)-Я!Р<*) «Л <*) Ic<*) Г*Л, /€ «" (О).
Кроме того,
B6) f|/B)|^ = 2^l?(*)|SH*)|-?<u-
D R
Доказательство. В гл. IV мы дадим доказательство этой
теоремы, пригодное для любого симметрического пространства.
Оно основано на детальном исследовании сферических функций,
включающем в себя теорему 4.5. Для рассматриваемого случая
G а 517A, 1) мы даем иное доказательство; помимо краткости оно
отличается еще некоторыми интересными моментами, которые мы
обсудим ниже.
Исходной точкой доказательства служит формула B4).
Функция / радиальна, так что, выбирая £, как и раньшех), получаем
/@«/(ths),
если
AП S) — fcfe «* (ch tJ + x2e-2f '
sh t — ixe't
l) To есть беря £ = nxcifO =
cht — ixe-*'

§ 4. Гиперболическая плоскость На
57
Это соотношение имеет место, если
(chs)? = (ch/)? + *a<T2'.
Определив функцию F на [1, оо) как
F(chs)*) = f(ths),
получаем
F' ((ch s)a) = /' (th s) B sh s ch* s)~B.
Так как f'(o) = 0t существует UmF'(u). Далее
ы->1
/ (Я) = J в- <*<*-' ( J f ((ch /)а + Л-И) dx\ dt
= \e-M(\F((cht)* + y*)dy\dt.
Интегральное уравнение
V(u)=*\F(u + tf)dy (а>1)
R
(эквивалентное интегральному уравнению Абеля) может быть
решено следующим образом:
\4'(u + z*)dz=\\F'(u + y* + z*)dydz
R R R
оо со
= 2n]F(u + r*) rdr = n\F'(u + fidp,
о о
так что
—nF(u)**l<p'(u + #)dz.
R
Таким образом,
f@) = F(l) = -^<p'(l + z*)dz
= — ^f(p'((chT)a)chxdT.
С другой стороны, в силу формулы обращения для евклидова
преобразования Фурье,
так как функция J (К) четна. Дифференцируя по /, получаем
—<p'((chtJJchtsht=*-^ J J(k)ksmUdX.

58
Введение, Геометрический анализ Фурье
Используя формулу
B7) !^Л-Яй(£),
— 00
которая устанавливается интегрированием функции z —*eiU/shz
по контуру Ru(R + ni)9 заключаем, что
/w-ipw-rthD)A-
R
Однако при X £ R мы в силу простых тождеств для
гамма-функции имеем
B8) \c(X)\-* = c(Xr*c(-X)-* = ^th^)9 k£R.
Таким образом, нами доказано равенство
B9) /@Н*$7(Х)|*(Х)Г*А, с = Bя2)-*.
R
Пусть g£SU(l, 1). Применим B9) к среднему
F(z)~lf(gk-z)dk9 z£D.
к
Используя функциональное уравнение B1), находим
F(b)=UU(gk-z)<v-K(z)dz\dk
*= $ f(g-*) Ф-я(г)dz= J /(г) <p-b(g-l-z)dz
D D
-$/(*)(Ь-^*'«)Л)Лвч,-^-°)^*')-
Таким образом#
*<ty-4bfe-o)f(A.).
Так как F@) = f(g'd), мы получаем требуемую формулу
C0) f(g-o) = cl](X)<Pb(g.o)\c(X)\SdX.
R
Для доказательства второго утверждения теоремы 4.6
рассмотрим свёртку функций /i, f2€&)b(D)
{fi*L)(g-o)=lh(h-o)f2(h-ig.o)dh.
G

§ 4. Гиперболическая плоскость Н2
59
В силу равенства B1) она имеет следующее сферическое
преобразование:
</i»WW—J/i(*-o)(J/,(fir-o)V_x(^er-oLff)rffc
= S h (h-o) (S /• <*•*)($ Ф-* (А*вГ-о) ЛL*)Л
Применяя равенство B9) к функции
получаем B6), чем теорема 4.6 и доказана.
Образ сферического преобразования. По аналогии
с подпространством S>^(D)<z.S>(D) введем L2^(D) — пространство
радиальных функций из L2(D). Напомним, что голоморфная
функция F на С называется целой функцией экспоненциального типа
R, если для любого натурального числа N^0
C1) sup e-«\lm*\(I + \k\)N\F(К)\ <оо.
Пусть Ж (С)—пространство всех таких функций,
ffle(C)—подпространство четныхг) функций в Ж (С). В качестве частных
случаев доказываемой в следующем пункте теоремы 4.2 мы получаем
такие утверждения об образах сферического преобразования:
C2) 3>4(Dr=$fe(C);
C3) L\(D)'=L*(R+t ^Uh(lbi)<u).
В C2) носитель функции / содержится в cl (BR (о)) в том и только
том случае, если / имеет экспоненциальный тип R. В C3)
отображение /—►/ является изометрией указанных пространств..
3. Неевклидово преобразование Фурье.
Доказательство основного результата
Докажем теперь теорему 4.2, содержащую формулу обращения,
теорему Пэли—Винера и формулу Планшереля для
преобразования Фурье A4) на гиперболической плоскости D.
*> По-английски even, отсюда индекс е,— Прим, ред»

60
Введение. Геометрический анализ Фурье
Пусть? как и ранее, dg—мера Хаара на группе G = SU(l, 1),
нормированная соотношением
$/<er-o)«te-$f(*)<fef fece(D).
G D
Расширяя введенное ранее понятие свертки *, положим для
функций /i, /2 на D
(/i*/2)B)=S/i(g.o)/2(gr-*.e)dgr,
G
когда этот интеграл существует. Приводимое ниже равенство D2)
показывает, как ведет себя преобразование Фурье по отношению
к свертке.
Лемма 4.7. Пусть f^Ce(D). Тогда
1*ух(г)^\**+»<*>ь>](%>Ь)дЬ.
в
Доказательство. Установим прежде всего геометрическое
тождество
C4) <g.z> g-b> = <z> by + Kg-o, g-b>>
верное для произвольного элемента g€5£7(l9 !)• С этой целью
рассмотрим орициклы £(g-o> g'b) и £(g-z> g*b). Как отмечалось
Рис. 3
ранее в связи о рис. 2, эти орициклы отсекают сегменты равной
длины на параллельных геодезических (о, g*b) и (g-o, g*b).
Поэтому тождество C4) ясно из рис. 3. Полагая г — g-о» заключаем
на основании этого тождества, что <£""*• о, Ь> = —<#• о, g*b>«

§ 4 Гиперболическая плоскость Н2
61
Так как
<g~l-z, Ь> = <г, g-b> + <g-l-of fc>*=<z, g-b>—<g-o, g-b>>
мы получаем для сферической функции равенство
фх (g~l*z)= [ &а+1> «*» g^>-<g-°»g-ft»db.
в
С другой стороны, якобиан конформного отображения g на
границе В равен
(84а) ilgu.pfc-i.o, ft),
где Я — ядро Пуассона. В самом деле, если
eiq> = е —а
1-5Ж
то, как показывает простое вычисление,
dtp _ 1—|fl|a
Используя неевклидову форму последнего выражения, даваемую
равенством A6), заключаем, что
db
Следовательно, заменяя переменные в формуле для ф* и полагая
г*=А-0, мы получаем симметричную формулу
C5) фх(вГ1Л,°)в $ в<-а+1><*,0«*>*а+1><Л,**>Л.
в
Умножая на f(g*0) и интегрируя, устанавливаем утверждение
леммы.
Рассмотрим теперь при фиксированном g£G радиальную
функцию
к
В силу B9),
C6) h{p)^c\jt(X)\c(%)rWK.

62
Введение. Геометрический анализ Фурье
Но
?»(*)-S($/С**'*) «»)q>-xB)<fe
= 5/(ш)ф_*,(^-*-ш)с(ау
«=$/(Л-о)«р.*&-»*•<>)<»
G
^\f(h^o)^(h'1g'0)dhi
G
так что
/(*) = (/*<P;t)te-o).
Поскольку fi(o) — f(g-o), из леммы 4.7 и равенства C6)
вытекает, что
f(z) = cW\}(X, b)^+v<*>b>db\\c(%)\-*d%.
Используя теперь формулу B8) для |с(Я)|*~?, получаем формулу
обращения A5).
Для нахождения образа преобразования Фурье /(г)—*/(А,, Ь)
(утверждения (и) и (Hi) теоремы 4.2), введем прежде всего
следующее определение.
Определение. Точка Х£С называется простой, если
отображение F—+/ из L2(B) в C°°(D), задаваемое формулой
C7) /(*)=$ *'х+1> <2'6> ^ (&) *э
в
взаимно однозначно.
Предложение 4.8. Точка X не является простой в том и только
том случае, если
X = i(l+2k)9 k£Z+.
Замечание. Смысл этого критерия состоит в том, что
непростые точки X служат полюсами знаменателя с-функции.
Докажем сначала одну лемму (см. Такахаси [1963]).
Лемма 4.9. Пусть функция F(Q) интегрируема на отрезке
0<е<я и
я
я (*н S <ch /—sh *cos е)~5 F (9) de-
о
При —s(£Z+ равенство # = 0 имеет место в том и только
том случае, если F = Q.

§ 4. Гиперболическая плоскость Ж
63
Доказательство. Индукцией по р получаем, что
н р
-%j(cht—shtcosQ)-s
р
= Х. cpg(s)(ch t—sh /cose)-*-*(sh /—ch t cos8)*,
где cg(s)—некоторые константы и
cpP(s) = (-l)Ps(s+l)...(s + p-l).
Если —s(£Z+, то eg (s) =7^0 при всех р. Поэтому если # = 0, то
из уравнения Я(/?)@) = 0 мы получаем последовательно равенства
я
$FF)cos/>ede = 0, /? = 0, 1, 2, ... .
о
Отсюда следует (по теореме Стоуна—Вейерштрасса), что /г = 0.
Лемма доказана.
Для доказательства предложения 4.8 положим z^thr)^,
Ь = ею. Тогда формула C7) принимает вид
2Л
C8) /(z) = -i-f (ch2r—8Ь2гсозе)-A/2)(^+1)/?(^(ф+0))й9.
о
Если теперь A, = t(l+2&), &£Z+, так что —у0'Я,+ 1) = ^, то
функции /7(etO) = e(/f+1)t'0 соответствует / = 0, т. е. точка Я не
проста. Обратно, пусть —-j(l +ik)(£Z+. Если /езО в C8), то,
как следует из доказательства леммы 4.9,
2Л
C9) J cos'eF(e'<<p+e>)d9=;0, /?€Z+.
о
Разлагая F в ряд Фурье
F(£i«P+e)) ^ 2 апё1пч>еш,
последовательно получаем из C9) равенства
аре<Р* + а_ре-<Р<»=*0, /7 = 0, 1, 2, ... .
Следовательно, F=;0, что и требовалось доказать.

64
Введение. Геометрический анализ Фурье
Предложение 4.10. Если точка —X простая, то следующее
пространство функций на В:
{/>, .): /€»<D)}
плотно в L2(B).
Доказательство. Если бы это было не так, то нашлась
бы функция F ф 0 из U (В), для которой
$/(*,, b)F(b)db = 0 при всех f£2>(D)9
в
а тогда мы имели бы
$в<-л+1)<г.а>/удоЛв0 (z£D),
в
в противоречие с простотой точки —К.
Перейдем к доказательству утверждения (iii) теоремы 4.2.
Из леммы 4.7 вытекает, что при вещественных К
D0) $/*Ф*(г)Ш^ = $|/(Я, b)\*db.
D В
Умножив обе части этого равенства |£(^)|~? и применив
лемму 4.7, а затем формулу обращения, получим
$|/(z)|*dz = c S \f(K Ь)\*\с(Щ-ЫХ<1Ь
D RXB
= 2о 5 \f(К b)\*\c(X)\~WXdb.
Последнее равенство следует из четности по А,, которая в свою
очередь вытекает из соотношений D0) и B8).
Предположим теперь, что функция F£L2(R+xB, \c(k)\~$x
dkdb) ортогональна образу преобразования Фурье, т. е.
D1) Г f(X,b)F(kfb)kth^jik\dkdb = 0, f€®(D).
R + XB
Для \|) € @> * (D) имеем
D2) </**)-(*, 6) «=?(*, Ь)$(Х).
Действительно,
(/•♦Г(Х, b)=JS/(^-o)i|)(g-l.e)d^-a+,)<z^>d2
= S /(£' o)(\ ty(z)*-a+i)<&'Ztb>dz)dg.
G \D

§ 4. Гиперболическая плоскость Н2
65
Записав теперь
<g-z9 &> = <z, g~l-b> + <g.o, Ь>9
получаем соотношение D2).
Функции г£>, в силу B4), обращаются в нуль на бесконечности
в R, Они образуют алгебру, замкнутую относительно
комплексного сопряжения, поскольку для X£R
№*гр2)-(Я) = ^(Х)^(^
(+Г (*) = (+<*))-.
Мы воспользовались здесь тем, что ф_я = фя- Наконец, эта
алгебра разделяет точки факторпространства R/Z2, поскольку если
ty(K) = 4>(K) ПРИ всех фб®1* (D), то фя1^фя2. Поэтому,
применяя оператор L, получаем A.J+1=^1+1. Таким образом,
алгебра @)Ъ (D) плотна в пространстве обращающихся в нуль на
бесконечности четных непрерывных функций на R. Заменяя
/(А,, Ь) в D1) на f(ky b)ty(i), мы можем поэтому заключить, что
существует множество меры нуль NfczR+ (зависящее от /), такое
что при X^Nf функция b—>F(Xt b) лежит в L2(B) и
D3) JF(X, b)f(K b)db = 0.
в
Для каждого п£2+ обозначим через <pn££D(D) сглаженную
характеристическую функцию шара Bn(o)<zD, т. е. фя(;г)=1 при
d(o, z) <n—(l/n)f фя(г) = 0 при d(o, z) > n+ l/п и 0<ф(г)< I
при всех г. Пусть 3J?—счетное множество всех функций на D вида
Фп(г)Р(*» #)> ГДе ^€Z+ и /?—многочлен с рациональными
коэффициентами Л Пусть далее
N=\jNfy
few
так что D3) имеет место при всех К (£ N и всех / £ 9К. Если теперь
f£@)(D), то мы можем выбрать такое n£Z+, что / = фп/, а затем
подходящую подпоследовательность/Л = фп/й (Л = 1, 2, ...) из 5Ш,
равномерно сходящуюся к /. Отсюда следует, что при любом
X£R, fk(X, b) равномерно на В сходится к f(X, b). Таким
образом, D3) имеет место для всех f£@)(D) и X£R+\N. Но тогда
из предложения 4.10 вытекает, что
J F(X, b)P(b)db = 0 для всех P£lS{B)
в
при X € R+\N. Следовательно, ^ F (X, b)dXdb = 0 для любого «пря-
с
3 С. Хелгасон

66
Введение. Геометрический анализ Фурье
моугольника» С в (R+\N)xB, в силу чего F==0 почти всюду
на R+xB. Тем самым утверждение (Hi) теоремы 4.2 доказано.
Наконец, докажем утверждение (и) этой теоремы,
характеризующее образ (eD(D))~. Для этого мы должны рассмотреть
некоторые обобщения сферических функций.
Предложение 4.11. Пусть m£Z. Собственные функции f
оператора L, удовлетворяющие условию однородности
D4) f(eiQz) = eimQf(z),
с точностью до постоянного множителя совпадают с функциями
®Km(z)=\e^+»<*-b>%m(b)db,
в
где ХеС и %m(ei(f>) = eimv.
Доказательство. Ввиду равенств A7) и D4) функция
F(r) = f(thr) удовлетворяет уравнению
D5) ^. + 2cthBr)^r—4m?sh-?Br)F + (№+l)F = 0
при соответствующем значении X. Разлагая F в ряд по степеням
shBr), можно убедиться, что аналитические решения уравнения D5)
пропорциональны между собой. Действительно, записав
F(r) = 2a*sh*Br),
о
получаем рекуррентное соотношение
((* + 2)?-m»)aik+t = -(l(W+l) + ft(*+l))aikl
из которого непосредственно и следует это утверждение. С другой
стороны, функции 0;tfm(thr) и Ф-я, m(thr) являются решениями
уравнения D5), причем в силу предложения 4.8 они не могут
одновременно равняться нулю. Аналитичность F автоматически
следует из уравнения D5). Тем самым предложение доказано.
{Другое доказательство получается применением теоремы 2.7 гл. II.)
Функцию Фл, т можно выразить через гипергеометрическую
функцию. Используя A6) и формулы из книги Эрдейи и др. [1953,
т. 1, с. 81] и полагая v = y(£A,+ l), приходим к тождеству
D6) Фкт(\г\)
— A —|z|»>v|z|i«i^^|±ja F(v, |m|+v; m|+l;|*p).

§ 4. Гиперболическая плоскость НЗ
67
Применяя теперь формулу преобразования
D7) F(a, Ы с\ z) = (l — zy-«~bF(c—а, с—Ь\ с; г),
получаем следующее свойство инвариантности функции Фа,, т:
Предложение 4.12. Пусть рт—многочлен
P.W = (y(*+l))(y(*+l)+l).-.D-(*+0 + |m|-l).
Тогда
Так как коэффициенты 2cthBr) и —4m?sh~2Br) в уравнении
D5) обладают разложениями
2cthBr) = — 2 + 42^nr
о
и
оо
— 4m? sh-sBr) = + 16m2— 16m2 2е~'пг9
о
естественно попытаться искать оба решения уравнения D5) с
помощью аналогичных разложений. При г—» + оо
дифференциальное уравнение D5) становится близким к уравнению
имеющему решения ^±Л"|>'. Это наводит на мысль, что следует
искать решение уравнения D5) в виде
00
D8) Фл (г) = **• " !)' 2 гя (*) е~*пг-
о
Подставляя это выражение в D5) и приравнивая коэффициенты
при exp((iX—1—2п)г), получаем рекуррентное соотношение
D9) П(п-1%)ТП{%)
2 re_rt(X)B/i-4ft-tt,+ 1 + 4m2£).
1 <*<[A/2) л]
Если положить Г0 = 1, то Гл (X) рекуррентно определяются этим
соотношением как рациональные функции на С. Заметим, что
Гп(Л) = 0 при нечетных п. Для доказательства сходимости ряда
D8) оценим рост по п коэффициентов Тп(К) с помощью
равенства D9).
3*

68
Введение. Геометрический анализ Фурье
Лемма 4.13. Пусть /X<£2Z « ft>0. Тогда существует такая
константа Кк,ь, что при всех n£Z+ справедливо неравенство
E0) ir.WKtfx.*"*.
Доказательство. Проведем индукцию по п. Прежде всего,
выберем константы Cf > 0, с2 > 0 так, чтобы при всех чётных п
выполнялись неравенства
\п(п—iX)\^Cin*9 \2п+ I + 2m2n—iX\^c2(n+ I).
Тогда, в силу D9),
k> I
где с = const. Пусть N0—такое натуральное число, что
с{\— e~**)-*<N0.
Выберем константу К = Кь,и так, чтобы при n^.N0 выполнялось
неравенство
|Гя(Х)|<*е»*
Пусть теперь N£Z+, N > N0. Если неравенство E0) справедливо
при п <N9 то
|Га,(Х)|<-£ 2 ^"-2*)А<#е"А#-*сA — *-?*)-*</(*"*.
Тем самым шаг индукции выполнен, и лемма доказана.
Так как в лемме 4.13 число ft>0 произвольно, полученная
в ней оценка показывает, что ряд для Фл(г) сходится, допускает
почленное дифференцирование и определяет решение уравнения D5).
Но тогда Ф_х—еще одно решение, причем при iX (£ 2Z эти
решения линейно независимы. Отсюда следует, что при таких X
решение Фл, т является линейной комбинацией Фя и Ф_яз
E1) Фк т = Сг (К) Фя + C_i (К) Ф.ь
Здесь С± и С_х голоморфны при M^2Z. Действительно, мы
можем вычислить члены равенства E1) в таких точках г± и г2,
в которых Фл/Ф-х принимает различные значения, а затем решить
полученную систему относительно Ci(k) и C_i(k). Для
нахождения d (k) и C_i (X) установим следующее обобщение теоремы 4.5s
Теорема 4.14. Если Re(iX)>0 и F€C(B), то
lim *-*+l>r[4*+l><ar-°'bF(b)db = c(b)F(b0)9
где точка Ь0 выбирается так, как указано на рис. 2.

§ 4, Гиперболическая плоскость На
Доказательство. Если b=*eiQ, z=*ar-o = thr, то в силу
формулы A6)
е(а+\)<г,ь> F(b)db
л
= 2S f (ch2/—sh2/-cos9)-('/2)^+DF(^)de.
— Я
Используя подстановку
a = tg(le), уЛ-A + 1*)-»Л|
и полагая g(u) = F (eiQ), приводим этот интеграл к виду
1 Г / uo to 1—и*\-A/2><Л+1) / ч d«
в 1.^+ \)р Г A + в*^2)-A/2) <А + 1) A + ^2)( 1/2) (Л- 1) g (д) ^,
— 00
Отсюда с помощью подстановки v = e?ru получаем
00
— 00
В силу оценок, проведенных при доказательстве теоремы 4.5,
вычислить предел этого выражения при г —► оо можно, перейдя
к пределу под знаком интеграла. В результате получим
00
\ (\+v*)-<1>*"iK+,>g(o)dv = nc(k)g(o).
— со
Таким образом, теорема доказана.
Теорема 4.15. При ik(fc2Z обобщенная сферическая функция
Ф^,ш допускает следующее разложения
о
ч-см^гл-^-"-1-2"",
где
С,(Л)«в(Л), СМЬ)~с(-Ь)-£$щ,
Г„ (X) sa 1 и Га (К) определяется рекуррентной формулой D9).

70
Введение. Геометрический анализ Фурье
Доказательство. Из E1) следует, что
*-л+ и f фк т (th г) = Ct (X) 2 Г„ (X) е~*"г
о
+ C_i (X) е- 2*' 2 г* (— X) *~?пг-
о
Полагая г—► <х> и используя теорему 4.14, получаем, что С* (А,)=
== с (X) при Re (iX) > 0. В силу единственности аналитического
продолжения это верно при iX^2Z. Поступая аналогично
с £(a+1)rO-;t,m(thr) и используя предложение 4.12, приходим
к равенству
С* (X) ^Ь^- =*(- X) при Re (iX) < 0.
Требуемая формула для С^(Х) устанавливается теперь
посредством аналитического продолжения.
Для доказательства утверждения (И) теоремы 4.2 рассмотрим
произвольную функцию f£@)(D). Из леммы 4.7 непосредственна
вытекает следующее функциональное соотношение:
J е«ь+ о <г, ь> J fi9 b)db=\ <?<-*+ *> <*• b> f (— X, Ь) db.
в в
Кроме того, как доказано в п. 1,
f(X, eiQ) = J e<-*+Dtf J f(z)da>t\dt9
R \|ЫЛе'в) J
где dcot—элемент дуги указанного орицикла. В силу теоремы
Пэли—Винера в R, отсюда следует, что / имеет равномерный
экспоненциальный тип.
Остается доказать, что каждая функция г|э со свойствами,
указанными в утверждении (и) теоремы 4.2, имеет вид J для
некоторой функции f£@)(D). Определим для этого функцию f£C(D)
следующим образом:
E2) /(*) = ^" f ♦ (*■ b)ei*+»<*>b>\c(X)\-*dXdb.
Ввиду соотношения A6) понятно, что производные функции
е(а+1)<г,ь> попеременной z имеют полиномиальный рост по X
(равномерно по (г, Ь) на компактах). Отсюда и из быстрого
убывания ty(X, Ь) по X следует, что f€<£(D). Нам нужно доказать
равенство /(г) = 0 при d(o, г) > /?, в предположении что я|> имеет
равномерный экспоненциальный тип /?. Фиксируем 2 и X, разло-

ft 4. Гиперболическая плоскость Н2
71
жим функции 9—yf(ei{dz)y 9—► 'ф(А,, ei9b) в сходящиеся ряды Фурье
и вычислим члены этих разложений при 9 = 0. Это дает
/(*)= 2 /.(*). *(*.**)= 2 Фв(^)^",ф-
meZ m€Z
Здесь
2Л
/-<*) = -5rJ/(e'e*)«"UBede.
о
0
Подставим в первую из двух последних формул выражение E2)
для /. Так как функция i|)(X, b) быстро убывает по Я, мы можем
поменять интегралы ^ d9 и ^ dXdb местами. Это приводит к
интегралу
2л 2л
0 0
Однако <et6z, et(p> = <z, е'(ф-0)>. В силу этого, полагая 9 = <р—£,
мы можем переписать данный интеграл в виде
$ S Ф (*. Л е«л + *> <* •'*> eiml &Ъ е'ш* *р = BяJ Фх, m (г) фв (X).
Таким образом, мы получаем равенство
E3) fm (г) = -plj_ j фя> m (г) фи (Х) | с (X) |- d%.
Так как fm(eiez) = eimefm(z), достаточно доказать, что fm(ar-o) = 0
при г > /?. Используем для этого разложение из теоремы 4.15.
Решающую роль играет следующая лемма.
Лемма 4.16. При е = ±1 справедливо равенство
J Се (К) Тп (ety^ifc. (X) | с (X) \'ЫХ=0 для r>R.
R
Доказательство. Рассмотрим сначала случай е = +1. Так
как | с (Я) |2 = с (К) с (— к) при Ji £ R, наш интеграл равен
E4) J ф. (- X) Гя (- К) с (КГ1 е-*' А.
R
Если бы функция г|)Л(—A,)rw(—Х)с(Х) была целой
экспоненциального типа R (как ярЛ(—Я)), то в силу классической теоремы

72
Введение. Геометрический анализ Фурье
Пэли — Винера данный интеграл обращался бы в нуль при г > #•
Однако обе функции Тп(—К) и с (Я) имеют полосы. К счастью,
существует полуплоскость, в которой эти функции голоморфны.
Действительно, в силу рекуррентной формулы для функции Г„ (к),
ее полюсы находятся среди точек iX£Z+. В частности, функция
%—+Гп(—X) голоморфна в нижней полуплоскости. В силу
теоремы 4.5, полюсы функции Я —► с(Я) являются полюсами для
Г (у (/Я+ 1) J, так что и эта функция тоже голоморфна в нижней
полуплоскости. Пользуясь этим, применим теорему Коши и
сдвинем контур интегрирования вниз: при г\ < О
E5) l^i-DTA-Dcar'e-^^
R
= S У* (— Е—й|) г* (— Е—"I) * (Б + ftfl-1 e^r dE.
R
Для обоснования допустимости этой операции надо еще изучить
поведение подынтегрального выражения на бесконечности. Прежде
всего, функция Тп(Х) рациональна. Что же касается функции
c(^+ir\)f то ее можно оценить с помощью известных асимптотик
для гамма-функции (см. Магнус и Оберхеттингер [1948]1}). Так,
например,
IГЫ) I
| г (г) |<** + *»Н1/а при Rez>0,
где Ki и К2—константы. С учетом теоремы 4.5 это дает оценку
E6) ^(E + itOI-^Cj + C.IE + ^I171. i€K, Л<0,
где Cf и С2 — константы. Но в силу неравенства C1) для i|)OT(—К)
быстрое убывание г|)от(—Я) компенсирует рост Гп и с на
бесконечности, так что указанный сдвиг контура является законным.
Обозначая правую часть E5) через Q(r), получаем неравенство
\Q(r)\^CeR 1ч\егч, где С—постоянная (не зависящая от т]).
Устремляя т] к оо, приходим к равенству Q(r) = 0 при r>R.
Это доказывает лемму для случая е = +1.
При е = — 1 наш интеграл имеет вид
E7) ^Ах)Га(-Х)с(ХГ11%:^)е-<ь<1Х.
Опять хотелось бы сдвинуть вниз контур интегрирования. Однако
знаменатель рт (— iX) обращается в нуль в точках X = — /, —3/, ...,
что на первый взгляд создает затруднения. К счастью, оказы-
ь Или Никифоров и Уваров [1974, с. Щ.— Прим. перев.

§ 4. Гиперболическая плоскость Н2
73
вается, что и tym(k) имеет нули в этих точках. В самом делв|
докажем, что
Для этого умножим на ty(%, b) обе части равенства
E9) *л+1><*'»>-=2<Ъ.*(г)Х —(*)
т
и проинтегрируем его. Это дает
J ф (Я, Ь) **+!><* *> db = 2 Фя, m (г) ф. (X)
т
если z — threiQ. Согласно предположению относительно функции я|>,
левая часть последнего равенства четна по X, так что
Фл. m (th r) ypa (X) = Ф.х. m (th г) ф. (- X).
Поэтому E8) следует из предложения 4.12. Но тогда, как
отмечалось, интеграл E7) сводится к E4). Тем самым лемма 4.16
доказана.
Подставим теперь разложение функции Ф*,, m (th г) в интеграл
/-№г) = 5^^Фх.ж№г)фв(Я)|с(Х)рЛ.
R
Почленно интегрируя и используя лемму 4.16, получаем
требуемый результат: fm(thr) = 0 при г > R. Допустимость почленного
интегрирования обосновывается следующей леммой-
Лемма 4.17. Коэффициенты Гя удовлетворяют неравенству
|гй(Х)|<сA + /г«), хек, nez+,
при подходящих константах Cud.
Доказательство. Рекуррентная формула D9) показывает,
что Гя(А,) = 0 при нечетных п. Положим ап(Х) = Т2п(Х), так что
п—1
2л Bл—Щ апХ = 2 «г (*) Dг—& + 1 + 4т? (л—г)).
Запишем Это равенство в виде
F0) паЛ{Ц-%аг{Ь)АГчЛ(к).

74
Введение, Геометрический анализ Фурье
Существует такое натуральное число N, что
F1) |лГ1Я(Л)|<лг, o<t<az, nez+, x^r.
Определив величины Ъп равенствами
F2) nbn = Nn%br, Ь0=1,
по индукции выводим из F0) и F1), что
F3) К(Ь)Ю* при n£Z+, Jl£R.
Далее из F2) следует, что
F4) nbn = N%br + Nbn_, =(n-l+N) bn.u
о
так что
/65^ ь - (n+N-w
(b5) b*- /il(tf-l)! '
Утверждение леммы становится теперь очевидным ввиду
неравенства F3).
Итак, мы доказали, что определенная по формуле E2)
функция / удовлетворяет условию
F6) /(z) = 0 при d(o, z)>R.
Осталось доказать равенство / = г|э. В силу формулы обращения
(утверждение (i) теоремы 4.2) мы имеем для функции q>=*~f—1|?
S ( J Ф (^ Ь)е(а+1) <2'ь> | с (К) |"? db\dksa0.
Так как внешний интеграл берется от четной функции, мы можем
заменить в нем R на —R + . Умножая полученное соотношение на
произвольную функцию F£eD(D) и интегрируя, получаем
J <p(—k,b)F(k, b)\c(b)\-*dkdb = 0.
R + xB
Однако, как мы видели, функции F образуют плотное
подмножество в L?(R+xfi). Отсюда следует, что ф^О на (—R+)xB. Но
\<Р(К b)eia+l*<z>b>db=^(p(—Xf b)&-a+l)<2>b>db,
в в
так что ф = 0 (поскольку все точки XgR—простые).
Теорема 4.2 полностью доказана.

ff 4. Гиперболическая плоскость Н2
75
4. Собственные функции и представления
в собственных подпространствах.
Доказательства теорем 4.3 и 4.4
Рассмотрим при заданном Х£С представление 7\ группы
<j = SU(l, 1) в собственном подпространстве
€х (D) = {/ € С~ (D): Ц = - (М + 1) /}.
Если g € G, то 7\ (g-) — линейное преобразование пространства Si (D),
определяемое следующим образом:
(TUg)f)(z) = f(g~l-z).
Докажем теперь теорему 4.4:
F7) 7\ неприводимо Ф* iX + 1 (fc 2Z.
Замечание. Представление 7\о неприводимо тогда и только
тогда, когда XQ не является полюсом знаменателя функции
€(Х)с(— К).
Лемма 4.18. Точка XgC проста в том и только том случае,
если функции
К
образуют плотное подпространство в L?(B).
Это непосредственная переформулировка определения простоты.
Лемма 4.19. Отображение F—+f из L2(B) в$x(D), задаваемое
равенством
F8) / (г) = $ е^+ »> <*• 6> F (b) db,
в
непрерывно.
Топология на £ (D) описана в § 1. Лемма устанавливается
простым применением неравенства Шварца.
Пусть точка X £ С проста. Обозначим через Ж я пространство
функций /, определяемых по формуле F8), когда F пробегает
D(B). Ясно, что ЖА является гильбертовым пространством, если
норму функции / принять равной L2-HopMe функции F.
Лемма 4.20. Пусть точка AgC проста. Тогда 3%х плотно
e£x{D).
Доказательство аналогично доказательству леммы 2.8, и мы
его опустим.
Пусть теперь 1К+ 1 <£2Z. Это означает, что обе точки А, и —А>
простые. Пусть {0} Ф Vcz<§x(P)— замкнутое инвариантное
подпространство. Тогда V содержит такой элемент /, что [(о)ф0.

76
Введение. Геометрический анализ Фурье
Усредняя по вращениям вокруг точки о, заключаем, что Фл€^.
В силу равенства C5), имеем
F9) 2^ФЛ^1-2) = $^Л+1)<2^>2^(^Л+1)<8л'°,6>^-
k в
Так как точка —X проста, мы можем на основании лемм 4.18
и 4.19 заключить, что замкнутое подпространство в &, (D),
порожденное всевозможными линейными комбинациями вида F9),
содержит S%\. Но тогда лемма 4.20 показывает, что V = <£A(D). Значит,
Тк неприводимо.
Обратно, пусть 7\ неприводимо. Поскольку ТА = Т_к9 условие
iX+,l(£2Z инвариантно относительно отображения X—► — X, и,
поскольку одна из точек X или —X проста, мы можем считать
точку X простой.
Пусть ЩфЕ^ЗС%—замкнутое инвариантное подпространство
гильбертова пространства ^л,. Так как ТК неприводимо,
подпространство Е плотно в &\{D). Пусть
2л
0
Тогда, в силу инвариантности и замкнутости Е в ЗСх,
G0) £*ХЛс:£.
Так как Е плотно в £%(р)% а отображение f—+f*xm непрерывно, то
G1) Е*хт плотно в &k(D)*xn.
Но ввиду предложения 4.11 это последнее пространство совпадает
с СФ4,т. Таким образом, из G0) и G1) следует, что Фд,, m £ Е при
всех /л, т. е. Е = Жк. Итак, группа G неприводимо действует
на Ж\. Поэтому функции F9) плотны в Ж%. Опираясь на
лемму 4.18, заключаем, что точка —X проста. Это завершает
доказательство теоремы 4.4.
Докажем, наконец, теорему 4.3, дающую интегральное
представление собственных функций оператора L через аналитические
функционалы. Пусть f—произвольная собственная функция
оператора L. Выберем простую точку Я^С, такую, что
Ц (Яа+1)/.
Разложим при фиксированном z£D функцию 9—->f(eiQz) в
абсолютно сходящийся ряд Фурье
G2) /<***>-2 *.«***.
п

§ 4. Гиперболическая плоскость Н2
77
где
2л
о
Тогда, в соответствии с предложением 4.11,
сп(г) = апФк n(z), я„€С.
Используя формулу преобразования для гипергеометрической
функции
F(a, Ь; с; Z)~(\—z)-*F{a9 с-Ь; с; ^)
(см. Эрдейи и др. [1953, т. 1, с. 64]1)), получаем из D6) при
v = у (Ik + 1) равенство
G3) <ь.я(г)-,1«|ЭДЛ^/>(*, 1-v; lnl + 1;^).
Здесь r = |z|. Из G2) вытекает, что
G4) 2K<IW)|<oo.
Мы хотим вывести отсюда, что
G5) 2|в»к|я|<«>. 0<г<1.
Выберем k£Z+, удовлетворяющее условию &>|v|, и положим
х = г2(г2—I). Тогда при
f(v, 1—v; /i+l; x) = pk(n, x) + pk+i(n, x).
Здесь pfe—это &-й многочлен Тейлора
/ ч 1 . V(l—V)
Pk(n,x) = \+-±jp^x
v(v+l)...(v + *-l)(l-v)...(l-v + *-l) .
"T" ••• "г (/i + l)...(n+A0*l
a pft+i—остаточный член. Используя общую формулу
Rk (х) = ± J х*+* A — s)* /<*+1) (xs) ds
х> Или Виленкин [1965, с. 347].— Прим. перев,

78
Введение. Геометрический анализ Фурье
для остаточного члена ряда Тейлора и формулу
F<a' b> с' г> = rwrt-ь) 1 {"~1 A ~t)e~"~1 A ~tz)~adt
О
(Rec>Re&>0),
выражающую гипергеометрическую функцию через эйлеров
интеграл, получаем при п+ 1 > Re(l—v) > 0 соотношение
п (п r\- n\r(k + v+l)x*+*
Pk+i Vh *) — г A _ v) г (я + v) Г (v) ife I
i i
XS \р-"+к(\ —0n+v A—s)*(l— stx)-v-b-*dsdt.
о о
Определение функций pft+i и формула G3) показывают, что
функция pfe+i(tt, х) голоморфна по v всюду, кроме точек v£ — Z+>
а эти точки исключаются в силу простоты А,. Таким образом,
последняя формула, ввиду единственности аналитического
продолжения, остается справедливой при п + Re v> 0, ибо k> |v|. Поскольку
X < 0, 0 ^ s, t ^ 1 и k > | v |, мы заключаем, что
|A—s/x)-*'-*-1^1.
а значит,
In /„ ^i^iri^i/l!'r(fe+v+1)lrB^Rev+fe)r(/l + Rev)
\Pk+iVh *Л^|*| | Г A— v)r(n + v)r(v)|*!rB+n + Jfe)
Используя асимптотическое свойство
Иш r«in.!Wei
I г | -* * l W
гамма-функции, устанавливаем равенство
r(rt + Rev) = 1
Следовательно,
G6) |pft+1(n, x) |< С» |*|*+»/»-«+»,
где Cft—константа. Положим теперь
6 eifl ] 1П*+уI f x)=Pk+i(n, х) k+1
Тогда в силу G4)
со
2VIM"» x) + i>k+i(n> *)!<«>•
о

§ 4i Гиперболическая плоскость Н2
79
Отсюда
G7) 2*Ьпг»п-*+"\и\МС рн(п, х) + е(п, х) < оо.
о
Числа v и k фиксированы. Пусть г0—произвольное число,
удовлетворяющее условию 0<л0<1. Положим jc0 = rj/(rj — 1) и
выберем такое Nro, что
1 \ь\*++*Ск Pk(n> х°)\>2 ПРИ n>N'*-
Это можно сделать, поскольку
Km рк(п, х0) = 1.
п -*- со
Но |е(л, дс)|<1, так что в силу G7)
SI &»rSn-*+« | < оо.
о
Поскольку число г0 произвольно, тем самым доказано, что 21 ап Iг" <
о
< с» при О < г < 1. Отсюда следует G5), поскольку /г входит
в G3) только в виде \п\.
Пусть теперь дана гиперфункция Т € Л' (В). Определим ее ряд
Фурье как
Т ~ 2 «/Л где а„ = \ e~inQdT(Q).
п о
Тогда справедлив следующий результат.
Лемма 4.21. Гиперфункция однозначно определяется своим
рядом Фурье. Ряд
2<v^
является рядом Фурье гиперфункции Т £ Л' (В) в том и только
том случае, если
G8) 2la»M < °° пРи всех Q<r < L
п
Доказательство. Пусть дан ряд Лорана
G9) fW = 2^
п
сходящийся в кольце, содержащем В (|z|=l). Это эквивалентно
00 СО
тому, что ряды ^bnzn и 2^-пгП имеют радиусы сходимости,
о о

80
Введение. Геометрический анализ Фурье
большие единицы, или еще тому, что
(80) lim sup | bn \^n = p < 1, lim sup | Ъ_п \^n = у < 1.
n n
При этом могут встретиться любые числа Р, у, такие что
0<рЛ<1.
По определению индуктивного предела, ряд G9) сходится в
топологии Л (В). Таким образом, если Т € Л' (В) имеет коэффициенты
Фурье (а„), мы получаем равенство Т(F) = ^bna_n. В частности,
п
Т определяется своим рядом Фурье. На основании (80) и
произвольности р и у заключаем, что
2|а„|г,л1< оо при 0<г < 1.
п
Обратно, если выполнено это соотношение, то мы можем
определить линейный функционал Т на Л (В) по формуле
П
Для того чтобы убедиться в непрерывности Т, представим Л (В)
в виде объединения
А(В) = U Ж„
где Жп—множество функций, голоморфных в кольце 1—A//г) <
< | z | < 1 + A/п). По определению топологии в пространстве Л (В),
мы должны доказать непрерывность сужения Т\Жп при
произвольном п (в топологии равномерной сходимости на компактах).
В силу G8), функции
00 QO
О I
голоморфны в единичном круге | г \ < 1. Вводя контуры
получаем
о сх
во .
£a-A=i£ '(Ол(т)у. F^»'
Отсюда ясна непрерывность Т\Жп. Лемма доказана.

§ 4. Гиперболическая плоскость Н2
81
Возвращаясь к доказательству теоремы 4.3, мы знаем теперь,
что существует гиперфункция Т с рядом Фурье
т ~ 2 an**-
п
При заданном z£D функция
fe V(c-z)(c-*-z); 2V
голоморфна в кольце U, содержащем 5, и может там быть
разложена в ряд Лорана. Сужение этого ряда на В есть ряд Фурье E9).
Поскольку ряд Лорана сходится равномерно на компактах и
вложение Жф)—+Л(В) непрерывно, мы заключаем, что ряд E9)
сходится в топологии Л (В). Поэтому можно почленно применить Т
к данному ряду и получить из G2) равенство
$ еах+1) <*, ь> dT {Ь) в 2 Фк m (z) am = / (z).
в m
Но это и есть требуемое интегральное представление для /.
Далее, мы должны проверить, что при Т^Л'(В) функция
(81) /B)«5^+1>^*>dTF)
в
является собственной для L. Непрерывность / ясна, поскольку
из zn—>z0 следует, что e{iX+1)<zn>ь>—►g('*+i><*o. ь> в топологии Л (В).
Теперь мы применим следующий результат, доказательство
которого совершенно аналогично доказательству предложения 2.5.
Пусть dk—нормированная мера Хаара на группе К = 50B).
Предложение 4.22. Любая функция /, удовлетворяющая
уравнению L/ = — (Х2+1)/, удовлетворяет также функциональному
уравнению
(82) S/te*-z)dfc = /te-o)(p,(z), g€G, z£D.
к
Обратно, любая непрерывная функция /, удовлетворяющая этому
функциональному уравнению, автоматически принадлежит С* и
удовлетворяет уравнению Ц =- — (X8 + 1) /.
Подынтегральное выражение в (81) удовлетворяет данному
функциональному уравнению (при каждом Ь). Поэтому для
доказательства того, что / также ему удовлетворяет, достаточно убедиться
в перестановочности интегралов
$ / $ всл+ixg*.!. b>dT(b)\dk — S (S *'*+*><**"• b>dk\dT ф).

82
Введение. Геометрический анализ Фурье
Но это проверяется так же, как и непрерывность / выше,— надо
просто представить интеграл по К в виде предела интегральных
сумм.
Для завершения доказательства теоремы 4.3 остается
проверить, что для простой точки К задаваемое (81) отображение
Г€Л'(В)-> /€*х(В)
взаимно однозначно. С этой целью заметим, что / и Т связаны
следующим образом:
(83) / (г) = 2 апФк п (г), Т ~ 2 апем,
п п
2я
(84) апФк п (г) = ^ J / (**г)*-**Л.
о
Ввиду простоты Я все функции Фа,, п отличны от тождественного
нуля, так что функция / определяет всю последовательность (ап)у
которая в свою очередь по лемме 4.21 определяет Т.
Доказательство тем самым закончено.
При Re (iX) > 0 гиперфункцию Т можно восстановить по /
несколько более прямым образом. Действительно, в качестве
частного случая теоремы 4.14 мы получаем
(85) lim *i -Л> 'апФк п (ёЧЫ) = с (к) апёп*.
t-> +00
Докажем теперь, при умеренных ограничениях на X, что
собственная функция /(г) в том и только том случае растет не быстрее
экспоненты с ростом расстояния d@, г), когда гиперфункция Т
является распределением. Нам понадобится следующий аналог
леммы 4.21!
Лемма 4.23. Ряд
(86) 2аи^лв
является рядом Фурье распределения Т на В тогда и только
тогда у когда для некоторых констант С и I
(87) l«J<C(l + H)', n£Z.
Доказательство. Если гиперфункция Т — распределение,
то она непрерывна на 3) (В) в топологии, задаваемой нормами
||F|ft= sup \dlFldQll k = 0, 1, 2,... .
Поэтому существуют такие константы 1^0 и С, для которых
IT^KCII/7!,. Отсюда следует (87). Обратно, если %апеш —

ff 4. Гиперболическая плоскость Н2
83
ряд, удовлетворяющий (87), то при достаточно большом k£Z+
ряд
2а„A + л2)-*^е
п
абсолютно сходится к некоторой непрерывной функции G. Тогда
отображение
2л
Г, F-^±^G(e)(l-LyF(Q)dQ
О
будет распределением с рядом Фурье ^апеш.
При заданном Х£С обозначим через £{(D) подпространство
функций f€$x(D), удовлетворяющих неравенству
(88) |/(z)|<G?"*<°»*> (z$D)
при некоторых константах С и а.
Теорема 4.24. Пусть iX^Z. Тогда отображение Г—► /, где
/B) = J^+1)<2'6>dT(b),
в
является биекцией пространства SD' (В) (распределений на В)
на пространство <S\ (D).
Доказательство. Рассмотрим разложение Фурье E9). Если
LB—лапласиан d2/d№ на В, то
(-ЬВП (*а+ 1)<г' b>) = 2Фх, „ (г) п*Рг_п(Ь).
п.
Отсюда
(89) Фк п (г) п*р = J (-LBfb (есл+1)л *>) Хи (&)Л.
в
Если 2 = thfeI(p, 6=5^'ф, то, в силу A6),
(90) e2v <2> *> = (ch B0—sh Bt) cos (<p—6))~v.
Из определения <г* &> легко усмотреть, что
|<z, b>|^d@, 2) при всех z, &.
Поэтому, применяя L% к (90), немедленно получаем неравенство
\LpB(e2v<z>b>)\Ceadi0>z).
Здесь С и а—константы, зависящие от р и v. В силу (89) отсюда
следует, что
(91) \Фъп(г)п*Р\^Се**«»*\

84
Введение. Геометрический анализ Фурье
Пусть теперь распределение Та@>'(В) имеет коэффициенты Фурье
ап. Так как ряд E9) сходится в топологии пространства £ (В),
можно почленно применить к нему Т и получить
(92) /W = 20UW^
п
Но по лемме 4.23 числа ап оцениваются сверху некоторой
степенью числа л. Учитывая также, что (91) имеет место при любом
p€Z+, заключаем, что f€&l(D).
Обратно, пусть X удовлетворяет условиям теоремы и / € £1 (D).
Пусть Т£А' (В) представляет / в том смысле, что
/B)=$^Л+1><2^МГF).
в
Поскольку точка А, простая, мы в силу ранее сделанного
замечания знаем, что Т определяется единственным образом.
Для доказательства того, что ап удовлетворяет условиям
леммы 4.23, нам нужно установить чуть модифицированный
вариант равенства (85). Для этого нам понадобится соотношение
F&* b> c; x^r^aW0T)F^ 6; a + b-c+U 1-х)
+ A-хГ*->Г%^(У(<)/У<с-а' С-Ь> c-a-b+l; 1-х)
(см. Эрдейи и др. [1953, т. 1, с. 108]Х)), справедливое при
— c(£Z+, a-\-b—c(£Z. Подставляя это соотношение в равенство
D6), после простых выкладок получаем (полагая v==y(i'A,+In
— m« ten *r(v)rA_4)r(|m|+1_v) r 4^l^v, v» ^v>cn 4
+ th«w* <chav-4r(p^!1)F(|/n|—v+lt 1—v; 2—2v; ch"?*).
Это равенство верно при 2v^Z (что эквивалентно нашим
предположениям относительно К).
Далее, если, как обычно, через iFt обозначить вырожденную
гипергеометрическую функцию, то при любом |*|<1
справедливо равенство
(93) lim F(a + m, b\ c\ xlm)^iFi(by с, х)
т->со
(см. Эрдейи и др. [1953, т. 1. с. 248]2)). Зададим теперь после-
1> Или Никифоров и Уваров [1974, с. 238\. — Прим. перев.
*> Или Никифоров и Уваров [1974, с. 250]. — Прим, перев.

§ 4. Гиперболическая плоскость На
85
довательность чисел tm—+oo равенством
(94) сЪЧт = \т\/а,
где число а > О будет определено далее. Используя равенство (93)
и соотношения
lim f(p + m)m-*=l, lim (th/J-= *-"/««,
получаем из формулы для Ф*,, m
lim (ch/J-^O^th/J-^^p
| ОТ |->» £ \v'
X[¥n^fl,v-1»F«<V' 2v' fl) + £?^JilFfA~v> 2_2v' a)]*
Поскольку
lim ^(Ь, с, х)е~ *•-« - Г (с)/Г F)
(см. там же, с. 278) и 2v ^ 1, два слагаемых в квадратных
скобках имеют различное поведение при больших а. Следовательно,
можно выбрать такое значение а, чтобы последний предел не
равнялся нулю. Тогда при подходящей константе С0ФО
(95) |O^^(th/J|>C0|mr^)(Re(A.i„.
С другой стороны, полагая z=*(thtm)eCQ в (92), получаем
(96) £|Ф^.Л(«1/Л»|а.р-^ |/(th^'°)|?d9.
л О
Поскольку мы предполагаем, что f€&x(D), последнее выражение
не превосходит С\т\ь при некоторых константах С и ft. Но тогда
из (95) и (96) вытекает неравенство
(97) | ат |2 < (С/С0) | /Л |*+< 1/2) A -Re <*».
Значит, в силу леммы 4.23, Г является распределением. Теорема
доказана.
Замечание. Хотя случай Д=1 был нами исключен,
теорема справедлива и для него. При этом доказательство даже
упрощается. Действительно, в этом случае
так что
lira 0Km(thtJ-e-w.
| ОТ |->00

86
Введение. Геометрический анализ Фурье
Поэтому (95) очевидно, а (97) выводится так же, как и раньше.
Таким образом, обычные гармонические функции
в
являющиеся интегралами Пуассона от распределений,
характеризуются следующим условием роста:
\u(z)\^Ceadi°9Z).
Интересно сравнить это утверждение с классическим описанием
интегралов Пуассона от мер как гармонических функций и,
удовлетворяющих условию
2л
sup \ | и (rei(v) | dq> < оо
{Герглотц, Эванс, Каратеодори; см. Неванлинна [1936]х).
5. Предельные теоремы
В заключение этого параграфа докажем две классические
теоремы из теории потенциала.
Теорема 4.25. Пусть F—непрерывная функция на В.
Определим гармоническую функцию и в D с помощью*интеграла Пуассона
«B)=j7i=^f(&)d6>
в
Тогда
lira u(z) = F(b0) при b0£B.
Эту классическую теорему X. А. Шварца обычно доказывают,
сводя дело к случаю F(&0) = 0; затем делят окружность В на
ДУГУ А) длины е с центром в Ь0 и ее дополнение. Тогда функция и
аналогичным образом разлагается в сумму и = и0 + (и—и0).
Первый член мал вблизи Ь0 в силу непрерывности F в точке Ь0.
Второй же мал, поскольку ядро мало при z, близких к Ь0, \Ъ—Ь0\
>е>0.
В силу формулы A6) для ядра Пуассона, эта теорема является
частным случаем теоремы 4.14 (при Д=1). Для этого случая
можно дать даже более элементарное доказательство. А именно,
*> Или Кусис [1984, с. Щ — Прим. перее.

# 4. Гиперболическая плоскость Н2
87
в силу C4а) можно записать функцию и в виде
u(g-o)=]F{g.b)db.
в
Достаточно рассмотреть случай z—+b0, b0=l.
Пусть at — рассматривавшаяся ранее однопараметрическая
группа и kt—вращение на угол Qtt где Qt—+0 при t—► + «>.
Тогда
u(ktat-\o) = u(eiet th/) = -jj- f F(ktareiQ)dQ
о
2я
2я J V thte'e+i/
о
Полагая t—*-|-oo, получаем в силу теоремы о мажорированной
сходимости
2л
lim u(ktat.o) = ±[ F (l)dQ = F(b0)t
что и требовалось доказать.
Это доказательство работает, поскольку однопараметрическая
группа at стягивает всю границу В (за исключением точки —1)
к точке Ь0.
Докажем теперь классическую теорему Фату о том, что
ограниченная гармоническая функция в D имеет радиальные
предельные значения почти всюду на В. Хотя доказательство вряд ли
проще классического, его теоретико-групповой характер создает
основу для обобщений на случай симметрических пространств.
Эта теорема обобщает теорему 4.25 в том плане, что снимается
условие непрерывности F.
Теорема 4.26 (Фату). Пусть и—ограниченная гармоническая
функция в D. Тогда при почти всех 0 существует предел
lim и (reid).
Доказательство. Как хорошо известно, и является
интегралом Пуассона от некоторой функции F £ L" (В). Рассмотрим
теперь следующую группу матриц:
ЧИ'±й 1-й) *€КЬ

$8
Введение. Геометрический анализ Фурье
Введем также отображение
*х-^*х 'l~l—2ix
группы S в В. Оно является биекцией 5 на В\{—1}. Записывая
ew = (l+2ix)(l— 2i*)-\
получаем равенство
1 + 4jcV
Таким образом,
dx
$тя-1$г<ь-1I
+ 4*Г
Зафиксируем теперь ^Ви применим это соотношение к
функции f(b) = F(lyat-b). С учетом равенства atlx• 1 = a^af1 • 1
получим
u(lyavo)=^Fayat.b)db
-ll^^^^rrra-iJ17^.-^1)-
dx
1+4лЯ •
R R
Полагая cp (r/) = F (^-1), выводим отсюда, что
(98) |ii(^ro)-F(g,.l)|<^J|V(y + «-sO-9(y)lI^.
R
Применим теперь теорему Лебега о дифференцируемое™,
утверждающую, что
н
(99) Urn -L f|<P(*/ + *)-<P(*/)|d*==0
-ft
при почти всех у. Пусть 8 > 0. Выберем с > 0 таким образом,
чтобы при разложении правой части равенства (98) в сумму
<100> 11+! I
\х\>с
последнее слагаемое было меньше е при всех у и t. В первом
слагаемом положим x1=xe~?t и /г = се~?*. Тогда это первое
слагаемое примет вид
и

§ 4. Гиперболическая плоскость На
8S
Таким образом, используя (99), мы можем заключить, что при
почти всех у существует предел
lim и (lyat-o).
t-> СО
Это означает, что и имеет предел вдоль геодезической, идущей
Рис. 4
из точки \у-о в граничную точку Ъ>уЛ (рис. 4). Используя
элементарное неравенство
|(Vw)(*)|<C//? для |z|<l-/?,
где Vu — градиент функции и> а С—некоторая константа, отсюда
легко вывести, что и имеет такой же предел вдоль радиуса
(о, ^-1). Для доказательства этого элементарного неравенства
рассмотрим формулу Пуассона для круга |z|<I/?
2Л
о
Дифференцированием получаем
2л
(Ю^^/Ы "(tf*i(p)cos(pdq>,
о
поэтому, в силу неравенства Шварца,
A01) |(V*/)(o)|<f sup |u@|.
Нужное нам неравенство получается, если применить A01) к
функции ш—>u(w + z) в круге | до |<;/?.
Когда R, убывая, стремится к нулю, две указанные выше
геодезические быстро сближаются. Поэтому, комбинируя приве-

90
Введение, Геометрический анализ Фурье
денное выше неравенство с теоремой о среднем значении
\и(г)" -и(г')\^\Чи\\г"-г'\,
мы заключаем, что и имеет одинаковые пределы по обеим
геодезическим. Тем самым доказательство закончено.
УПРАЖНЕНИЯ И НЕКОТОРЫЕ ДАЛЬНЕЙШИЕ РЕЗУЛЬТАТЫ
А. ПРОСТРАНСТВА R» И S"
А1. Пусть Н—группа, действующая на пространстве X. Пусть,
далее, /—функция на X и Л£#. Положим fh(x) = f(h'1-x)t
х£Х. Непрерывная функция / называется Н-финитной, если все
смещённые функции fh лежат в некотором конечномерном
пространстве.
(i) Докажите, что функция / на сфере Sn~1c:IR" является
0(/г)-финитной тогда и только тогда, когда она получается
сужением на S" некоторого многочлена на R". Эквивалентное
условие: / является линейной комбинацией сферических гармоник.
(и)* Рассмотрим ортогональную группу Н=0(р> q+l),
Действующую на следующей квадрике в Rp+<*+1:
^р%Я* Х1 ~Ь • • • Н~ Хр Хр+1 ••• Хр+q+l == *> Р^^> Q^V»
Предположим, что (/?, q)=£(l, 0). Докажите, что функция / на
СрчЯ будет Я-финитна тогда и только тогда, когда она
представляет собой сужение на Ср q некоторого многочлена на Rp+<*+1
<Хелгасон [1963, § 3]).
(iii) Докажите, что утверждение (ii) неверно для группы
0A, 1), действующей на гиперболе х\—д:1 = 1.
(iv)* Пусть К—компактная группа линейных преобразований
вещественного векторного пространства V, М—ее подгруппа,
оставляющая неподвижным некоторый вектор офО из V, и
i—вложение kM —■* ко множества К/М в V. Тогда /(-финитными функциями
на К/М будут в точности функции вида р о i, где р—многочлен
на V (см. там же, § 3).
(v) Аналог последнего утверждения для некомпактного случая
см. в упр. А 5 к гл. IV.
А2. Пусть Х£С, &i(Rn) —собственное подпространство:
и 7\—представление в &x,(Rn) группы Ж (я) всех изометрий
пространства Rn, задаваемое формулой
(TK(g) /) (х) = / (g->.х), g € М (п), х € R».

Упражнения
91
Используя теорему 2.7 гл. II, докажите, что при КфО все 0(/г)-фи-
нитные функции на &\(Rn) исчерпываются функциями вида
/(*)= J ea<x'mF((o)d(o,
§n-t
где F есть О (я)-финитная функция на Sn~l. Обобщая
доказательство теоремы 2.6, выведите отсюда, что
7\ неприводимо фф ХфО
(см. Хелгасон [1974, § 8]).
к
A3. Для представления Т0 из упр. 2 пространство 55ffc = 2 ^t
гармонических многочленов степени не выше k является
инвариантным подпространством. В частности, Т0 не является
неприводимым. Докажите, что соответствующее представление группы М (п)
на факторпространстве Жь1$Сь-\ неприводимо.
А4.* Хотя представление Т0группы МB)*напространстве^ (R2)
гармонических функций в R2 не является неприводимым, существует
неприводимое действие на &0 (R2) некоторой более широкой группы
(точнее, ее алгебры Ли).
А именно, пусть G = SLB, С) — группа унимодулярных
матриц, действующая на одноточечной компактификации плоскости С
посредством отображений
g: z^^±±, z€C.
s cz+d * v-
Здесь (а d j — элемент группы SLB, С). Пусть, далее, L = Lr*.
Рассмотрим оператор L*: <р—>(L(q> о g)) о g'1. Докажите, что L
обладает следующим свойством квазиинвариантности:
(L*<p)(z) = \cz-a\*(L<p)(z).
В частности,
Ф гармонична =Ф ф о g гармонична.
Докажите, что соответствующее действие алгебры Ли g группы G
на £0 (R2) скалярно-неприводимо. Это означает, что единственными
непрерывными операторами, коммутирующими с этим действием,
служат скалярные кратные тождественного оператора (см.
Хелгасон [1977а], где также приведено некоторое обобщение этого
утверждения на я-мерный случай).
А5. Пусть пространство Hk определено, как в § 3.
(i) Докажите, что

92
Введение. Геометрический анализ Фурье
(и) Покажите, что
LRn(\x\Vh) = c\x\2'-*h при h$Hki
где c = 2j Bj + 2k + n—2). Выведите отсюда, что при h£Hk
*/Л-^м.1 + (л + »-2ГЧ*Р^,
где ft*+i €#*+!•
(iii) Пусть h £ Hk. Используя теорему о среднем значении для
гармонических функций, докажите, что
J е-ш*"х \*1г(х)е-' <*> ^ dx = (— 0ЛBяУ1/а>ЛЛ(у)^-A/а)^1".
(iv) Используя тот факт, что функция | х |3~Л гармонична в R*\{0}
(п > 2), докажите, что
где
**,„ = (— 1)Л(л—2)>i(Ai + 2)...<n + 2fc—4)
(Максвелл [1892], Хобсон [1931], Койфман и Вейсс [1971]).
В. ГИПЕРБОЛИЧЕСКАЯ ПЛОСКОСТЬ
81. С помощью рис. 2 получите разложение Ивасавы G = KAN
для группы G = SU(ly 1)
82. (i) Докажите, что преобразование
г -4- i
a z—+w = — i—£p (w = u + iv)
является изометрией круга D на верхнюю полуплоскость Н\ v > О,
снабженную метрикой
du*+dv$
(ii) Докажите, что если
02 + а
1Г0 _
-i (w) = ((a + a)-fF-W»+(ft + 6)-f(fl-g
причем это равенство может быть записано в виде
^H-^,rAe(;P6)€SLB,R).

Упражнения
93
В этой модели верхней полуплоскости группа изометрий
порождается группой SLB, R) и отображением w—+l/w.
(Hi) Докажите, что окружность Sr(i) на римановом
многообразии И совпадает с окружностью S8h 2Г (ch 2r) на плоском римановом
многообразии IR2.
(iv) Докажите, что оператор Лапласа—Бельтрами на Н задается
равенством
L-qv [ ад + ай;
и что, аналогично лемме 4.1,
83. Докажите, что отображение /—►Z7/, где
является биекцией пространства S)** (D) на пространство йI5 (R)
четных С^-функций на R, имеющих компактный носитель. Кроме
того,
Ff*g = F/*Fg
<Такахаси [1963]).
84. Сферическая функция фЛ обладает следующими свойствами
<ниже 1 = 1 +ir\, E, л€К):
(О Фа (z) вещественна при всех г «ф £т] = 0;
(ii) фЛ ограничена «^ —1^т)^1.
85. Докажите предложение 4.12 путем сравнения поведения
фуНКЦИЙ ФЛ, т И Ф_я„ m ВбЛИЗИ 2 = 0.
86. Пусть / — радиальная функция из Ll(D). Докажите, что
lim f(l + it]) = 0 равномерно по |г)|^1.
87. Пусть / — функция на D и I—орицикл. Положим
?E) = $/(*)*»(*).
г
где d<o—элемент дуги на £. Запишем
Не*0, 0 = f(i(thte'V6)).
Тогда, как мы видели,
7(М")=5«("л+1)'?(«*• t)dt.
R

94
Введение. Геометрический анализ Фурье
Выведите из теоремы 4.2 и предложения 4.12 следующее
утверждение:
Отображение f—+f является биекцией пространства &) (D) на
пространство, функций я|) € ^> (S* x R), для которых функции tyn%
фигурирующие в разложении
удовлетворяют соотношению
*-@-*"'D- 0(-аг- з)...(^~2|«| + 1)фв(/)>
где <р„—четная функция из £D(R) (см. Хелгасон [1983а]).
88. Опишите орбиты группы А в D.
89. Докажите, что в обозначениях рис. 5, где г и
t—неевклидовы расстояния в D,
/ /\__chfthrt+shr
*(Г' r'~~shrth/i + chr#
Соответственно докажите, что
$/(*)<**= 5 $/(*(rf t))ch2tdtdr.
D RR
Замечание. Тот факт, что отображение (г, /)—**(*% 0 есть
диффеоморфизм, представляет собой частный случай теоремы 14.6
из гл. 1 книги Хелгасон [1978].
Рис. 5

Упражнения
95
BIO. Пусть f—»Ff—то же преобразование, что и в упр. 3.
Докажите, что если
/(z) = chd@, z)-ik-\
то
Ff(t) = nc(X)(cht)-a
(Коорнвиндер).
С. АНАЛИЗ ФУРЬЕ НА СФЕРЕ
С1. (См. Шерман [1975].) Пусть Sn—единичная сфера в Rn+1.
Зафиксируем точку а = @, ..., О, 1) и поверхность B=={sgSni
(а9 s) = 0} (а—северный полюс, а В—экватор). По аналогии с
функцией A1) из § 4 рассмотрим для k£Z+, b£B функции
еь,н(*)=*(а + 1Ь, s)*, seS»,
/».*(s) = sgn(s, a)n~4a + ib, s)-*-"+1, sgS«\S.
(i) Докажите, что еь>к и fb%k являются собственными
функциями оператора L§n, отвечающими собственному значению
— k(k + n—l).
(ii) Пусть С%—скалярное кратное ультрасферического
многочлена Я^1/2)(,1) (см. формулу (8а) § 3), удовлетворяющее условию
Cj?(l)=l. Тогда
CI ((s, а)) = \еь^ (s) db = \ fb% k (s) db (s £ B),
в в
где db—нормированная инвариантная мера на В.
(iii)* По аналогии с формулой C5) § 4:
(px(g-xh-o)=le<-a+1><e'0>b>e(a+1)<ho>b>db
в
докажите равенство
CU(s, s')) = $eb,k(s)fb,k(s')db.
В
(iv) Для всякой функции f €<£>(§"), равной нулю в некоторой
окрестности экватора В, определим ее преобразование Фурье
формулой
1(Ъ9 /0= IfWfb. *(*)&•
Тогда (по аналогии с утверждением (i) теоремы 4.2)
f(s)= У ebtk(s)f(b9 k)dvL(b>k)9
вх1 +
где d(x (bt k) = dimHk(Rn+l) db (мы используем обозначение F) из §3).

96
Введение. Геометрический анализ Фурье
ПРИМЕЧАНИЯ
Указанное в теореме 4.3 представление собственных функций оператора
Лапласа — Бельтрами на Н2 было получено автором ([1970а, гл. IV, § 1] и [1974]).
В последней из этих работ содержится также евклидов аналог этого
результата—теорема 2.1, которая была перенесена на случай высших размерностей
Моримото [1981]. Менее точный вариант этого результата для Rn был
установлен Хасидзумэ, Коватой, Минемурой и Окамото [1972]. Различные
интегральные представления для операторов с постоянными коэффициентами в R" были
даны Эренпрайсом ([1969, гл. VH]) и Паламодовым ([1967, гл. VI]). Лемма 2.2
представляет собой непосредственное обобщение классического описания целых
функций экспоненциального типа в терминах их рядов Тейлора (Боас [1954]).
В доказательство внесены некоторые упрощения, любезно сообщенные мне М. Кау-
лингом. Предложения 2.5 и 4.22 являются частными случаями теоремы о
среднем значении для однородных пространств (Хелгасон [1962а, гл. X, следствие 7.4];
для случая нулевого собственного значения доказательство было дано Годеманом
[1952а]). Неприводимость собственных подпространств (теорема 2.6 и упр. А2)
установлена в работе автора [1974]. Теорема 2.9 восходит к Пэли и Винеру
[1934] (см. также Хёрмандер [1963]). Ее модифицированный вариант,
представленный в теореме 2.10, взят из статьи Хелгасон [1976, § 11] (в этой статье
данный результат сформулирован с ошибкой: вместо «многочлен» в теореме 11.1
следует читать «гармонический многочлен»).
Разложение функции в ее «ряд Лапласа» по сферическим гармоникам
является классическим (см. книгу Хобсона [1931] и указанную там литературу1)).
Результаты о сходимости в духе теоремы 3.4 можно найти, например, у Каль-
дерона и Зигмунда [1957], Клерка [1972]. Побуждаемый работой Петера и Вей л я
[1927], Э. Картан в [1929] интерпретировал сферические гармоники в теоретико-
групповом плане и обобщил ряды Лапласа на случай компактных
симметрических пространств. Дальнейшие обобщения были сделаны Г. Вейлем [1934] (см.
§§ 3—4 гл. V настоящей книги). Другой подход, более близкий к нашему
преобразованию Фурье на Н2, был предложен Шерманом [1975; 1977] (см. упр. С1).
Указанные в § 2 классические разложения E) и F) для гармонических функций
будут существенно обобщены в гл. III.
Теорема 4.2 — частный случай результатов из работ автора [1965b; 1970a]
(см. § 5 гл. III) и [1973а § 8], в которых определено и изучено преобразование
Фурье на симметрических пространствах. Определение этого преобразования
кратко обсуждается в конце § 7 гл. IV (см. замечание 3). Теорема Пэли — Винера
для этого преобразования используется при решении задачи В в § 4 гл. II.
Интегральное представление из теоремы 4.3 и критерий неприводимости из
теоремы 4.4 (оба результата — из работы Хелгасон [1970а, гл. IV]) допускают
естественные обобщения; некоторые из них описаны в п. 1 § 4 гл. II.
Данное в § 4 доказательство формулы обращения B5) сферического
преобразования взято из работы Годемана [1957а]. К тому времени уже была
получена Хариш-Чандрой [1952] более общая теорема Планшереля для группы
G = SL B, R). Основы теории представлений для группы SL B, R) были развиты
Баргманном [1947]. Общая теория сферических функций будет предметом гл. IV,
и мы отсылаем за дальнейшими литературными ссылками к примечаниям к этой
главе.
Разложение, указанное в теореме 4.15, является частным случаем
полученного Хариш-Чандрой разложения, справедливого для всех полупростых групп
Ли (см. Уорнер [1972, т. 2, теор. 9.1.5.1]). Функциональное уравнение из
предложения 4.12 — частный случай леммы 6.2 из работы Хелгасон [1973а].
Доказательство теоремы типа Пэли —Винера (утверждение (И) теоремы 4.2 и его
обобщение) также взято из этой работы. Иное доказательство дано Торассо
[1977].
4) См. также Виленкин [1965, гл. IX]. — Прим. перев.

Примечания
97
Теорема 4.24 о собственных функциях экспоненциального роста
принадлежит Льюису [1978], равно как и ее обобщение на случай симметрических
пространств ранга один. Льюис также доказал для симметрических пространств
любого ранга обобщение включения Рл B)' (В)) С <^я (D) для преобразования
Пуассона Р\: Т —► /. Обратное включение было доказано Осимой и Секигути
[1980] (для точек А,, лежащих вне некоторых гиперплоскостей).
Теорема Шварца о пределе была обобщена Карпелевичем [1965], см. также
работы Лоуденслегера [1958] и Мура [1964] для случая ограниченных
симметрических областей. В важной работе Фурстенберга [1963]) (а также в работе
Карпелевича [1965]) дано представление ограниченных гармонических функций
на некомпактном симметрическом пространстве X в виде интеграла Пуассона.
В свое» заметке в Mathematical Reviews о статье Фурстенберга автор поставил
вопрос, можно ли обобщить теорему Фату (теорему 4.26) на случай
симметрических пространств X в следующей форме:
Пусть и—ограниченное решение уравнения Лапласа Lu = 0 на X и р —
любая точка из X. Тогда для почти всех геодезических у, выходящих из р,
существует предел
lim u(y(t)).
t -* а
Это утверждение было доказано Хелгасоном и Кораньи [1968].
Впоследствии были получены многочисленные варианты этого результата, в которых
ослабляется условие ограниченности и допускаются более общие виды
стремления к бесконечности (обзор этих результатов дан в работах Кораньи [1970;
1979]).
Часть материала этой главы была ранее опубликована в книге Хелгасон
[1981] и в сборнике под редакцией Де Микеле и Риччи [1982].
4 С. Хелгасои

Глава I
ИНТЕГРАЛЬНАЯ ГЕОМЕТРИЯ
И ПРЕОБРАЗОВАНИЯ РАДОНА
В этой главе рассматриваются различные аспекты инвариантного
интегрирования. В § 1 описано, как /г-форма на /г-мерном многообразии М определяет
меру на М* Если М — риманово многообразие (ориентируемое или нет), этот
метод приводит к некоторой канонической мере на М. Если М —группа Ли
или, более общо, однородное пространство (подчиненное определенным, не очень
сильным ограничениям), то описываемая процедура приводит в сущности к
единственной инвариантной мере. В § 5 мы доказываем различные теоремы об
интегрировании, связанные с разложениями Картана, Ивасавы и Брюа
полупростой группы Ли.
Функом [1916] и Радоном [1917] было доказано, что симметрическая
функция на S? восстанавливается по своим интегралам по большим кругам и что
функция на R* определяется своими интегралами по прямым. В § 2 мы
приводим замкнутое элементарное изложение теории преобразования Радона в R",
Акцент здесь сделан нач формуле обращения и теоремах о действии этого
преобразования в естественных функциональных пространствах. Отмечены также
приложения к дифференциальным уравнениям в частных производных и
томографии.
Теория преобразования Радона в Rn подводит к общей задаче определения
функции на многообразии по ее интегралам вдоль некоторых подмногообразий.
Разнородность известных результатов, касающихся этой задачи, наводит на
мысль, что общую теорию здесь нельзя продвинуть особенно далеко. Однако
отмеченные выше примеры S? и R? подсказывают следующую точку зрения для
обобщений.
Как множество точек сферы S2, так и множество ее больших кругов
являются однородными пространствами ортогональной группы О C). Аналогично
множество точек плоскости R2 и множество прямых в R? являются
однородными пространствами группы МB) движений этой плоскости. Этим
мотивируется наше общее определение преобразования Радона, являющееся центральным
в § 3. Пусть даны два однородных пространства G/K и G/H одной и той же
группы G. Тогда преобразование Радона f —► f каноническим образом
сопоставляет функции f на G/K функцию f на G/H. Теория этого преобразования
в некоторых случаях имеет замечательные приложения к дифференциальным
уравнениям, теории представлений, томографии и дифференциальной геометрии*
Другая общая проблема, отмеченная в § 3,—это задача об интегралах по
орбитам для однородного пространства G/H (где группа Н некомпактна).
Частные случаи этой задачи уже долгое время играют важную роль в теории
представлений. Мы приведем в § 6 решение этой задачи в простейших случаях
0A, я+1)/0A, п), 0B, я)/0A, п) и (LxL)/AL,
где L = SLB, R), a AL —диагональ в LxL.

§ 7. Интегрирование на многообразию 99
§ 1. Интегрирование на многообразиях
1. Интегрирование форм. Риманова мера
Пусть S—локально-компактное хаусдорфово пространство.
Будем обозначать через С (S) множество всех веществённозначных
непрерывных функций на S, а через CC(S) — множество всех
функций из C(S), имеющих компактный носитель. Мера на S—это,
по определению, линейное отображение ц,! Сс (S) —♦ R, обладающее
тем свойством, что для любого компакта KcS существует такая
константа Мк, что
|M/)|<Af*sup|/(x)|
для всех функций f£Cc(S) с носителем, содержащимся в К.
Напомним, что всякое линейное отображение |х: CC(S)—*R, удов*
летворяющее условию \i(f)^0 при />0, f£Ce(S), является
мерой на S. Такая мера называется положительной. Для
многообразия М полагаем
£(М)=С~(М), @>(M)=£(M)f)Ce(M).
Пусть М—ориентируемое m-мерное многообразие и (Uaf <ра)авл —
набор локальных карт, задающий его ориентацию (см. [ДС,
гл. VIII, § 2]). Пусть со — некоторая m-форма на М. Мы хотим
определить интегралу /со для любой функции f£Cc(M). Сначала
м
предположим, что / имеет компактный носитель, содержащийся в
некоторой координатной окрестности £/а. Пусть
<pa(q) = (Xi(q), ..., xm(q))9 q£Ua.
Ha Ua форма ю обладает следующим представлением (см. [ДС,
гл. I, § 2, п. 4]):
A) <0£/a = ^a(*i xm)dXiA..-Adxm.
Положим
J /©= J (/оф^Ихь ..., xm)Fa(Xi xjdxi...dxm.
М Фа ("а)
Используя формулу замены переменных в кратных интегралах,
мы получаем, что если / имеет компактный носитель, лежащий
в пересечении Ua {] Up двух координатных окрестностей, то
правая часть последнего соотношения равна
S (/офр1)(Уи • • •, Ут)F*(Уь --ч ym)dyx.. .&y^
4*

100 Гл. I. Интегральная геометрия и преобразования Радона
где FfldtjiA- • - Adym—координатное выражение для формы © в
£/р. Таким образом, выражение J /cd корректно определено. Пусть,
м
далее, /—произвольная функция из СС(М). Тогда / аннулируется
вне некоторого паракомпактного открытого подмногообразия в М.
Но тогда по теореме 1.3 из гл. I [ДС] функция / представима
в виде конечной суммы / = 2^» где кажДая из функций f( имеет
i
компактный носитель, лежащий в одной из окрестностей Ua нашего
покрытия. Полагаем
м * м
Надо проверить (Шевалле [1946, стр. 163]), что правая часть не
3aBHcnf от выбора разложения / = 2/£ функции /. Пусть
i
/==2s>—Другое такое разложение. Выберем такую функцию
ср£Сс(М), что ф=1 на объединении носителей всех f{ и gj.
Тогда Ф = 2 ^сс (число слагаемых конечно), где каждая из функций
Фа имеет носитель внутри какой-нибудь координатной
окрестности из нашего покрытия. Мы получаем, что
2//(PaaB=s2g>(Pa-
i i
Так как у каждого слагаемого здесь носитель лежит внутри
фиксированной координатной окрестности, то
2$(//Фа)С0 = 25(г/Фа)^
i /
По тем же соображениям, из формул
/< = 2/>a, g/ = 2g/Pa
a a
вытекают равенства
S ffi> = 2 S (/|Фо) <°> J ft® = 2 J (ft<P«) со,
a a
откуда и следует требуемое соотношение
2$/,<o = 2Sg/»-
» у
Итак, интеграл J /cd определен корректно, и отображение
f—5/«, /€СС(М)
является мерой на М. Очевидным способом справедлива

§ I. Интегрирование на многообразиях
101
Лемма 1.1. Если J f(o = 0 для всех f£Cc(M), то о=*0.
м
Определение. Будем называть m-форму со положительной,
если для любого индекса а£Л функция Fa из A) положительна
на фв(£/а).
Из теоремы 1.3 гл. I [ДС] немедленно следует, что если со —
положительная m-форма на М} то ^ /со ^ 0 для любой неотрица-
м
тельной функции f£Cc(M). Таким образом, всякая
положительная m-форма порождает положительную меру.
Пусть М и N—ориентированные многообразия и
Ф—диффеоморфизм М на N. Предположим, что Ф сохраняет
ориентацию. Это означает, что если набор локальных карт (£/а, фа)а6л
задает ориентацию на М, то набор (Ф((/а)» Фа0Ф""х)абЛ локальных
карт на N задает ориентацию на N. Пусть, далее,
т—размерность многообразий М и N.
Рассмотрим m-форму на N и ее обратный образ (или
поднятие) Ф*со относительно Ф (см. [ДС, с. 37]). Тогда для всех
функций f£Cc(M) справедливо равенство
B) $/Ф*со=*$(/о<1>-*)со.
М N
Действительно, достаточно проверить это равенство для функций
/ с компактным носителем, лежащим в некоторой координатной
окрестности Ua. Если мы запишем левую часть B) в
координатах фа, а правую—в координатах ФаоФ'*, то придем к одному
и тому же интегралу.
В случае когда М—ориентируемое или неориентируемое
псевдориманово многообразие, меру на М можно определить
следующим образом. Рассмотрим локальную карту (£/а, фа) на М и,
как и ранее, положим фа(<7) = (*1, •••, хя), q(zUa. Пусть g —
псевдориманова структура. Обобщая определение из ([ДС, гл. 8,
§ 2]), положим
8и = е(щ' аУ' *Н **(*„) |.
Для каждой функции f£Cc(Ua) положим
^ (/) = $ (/офа1) (*Ь ...,*.) "[/g <M*2- • -dXM.
Фа (^а)
Выражение в правой части инвариантно относительно замен
координат. Используя, как и раньше, разбиение единицы, можно
определить \i(f) для всех f^C^M). В результате получается

102 Гл. /. Интегральная геометрия и преобразования Радона
положительная мера на М, которую мы будем называть римано-
вой мерой на М. Иногда будем обозначать ее через
у^^ dxt.. .dxm.
Пример. Пусть На—гиперболическая плоскость, т. е.
единичный круг х2 + у2 < 1 с римановой структурой
dx2+dy2
ё*=(\-х2-у2J
(см. [ДС, гл. I, упр. G]x)). Риманова мера равна тогда
A— х2—y2)-2dxdy.
В геодезических полярных координатах (г, 0) (где x = thrcos6,
r/ = thrsin0) оно задается выражением
\shBr)drdQ.
Для ориентированных римановых многообразий мы дадим
сейчас несколько иное описание римановой меры.
Лемма 1.2. Пусть М—риманово многообразие,
ориентированное посредством набора (Ua9 <pa)aeA локальных карт. Пусть
Фа (Я) = (хи • • •» *т) пРи q£Ua и g определено, как прежде.
Тогда существует единственная т-форма со на М, такая что
f-»lf<*
м
является римановой мерой. На Ua форма со задается формулой
C) co^-j/^g dxtA.. • Adxm.
Доказательство. Мы можем определить m-форму на М
равенством
D) %(Хц •♦., Хт)=*1/т\,
где q£Ua> a (%д—любой ортонормированный базис в М^ в
котором матрица (aif) (такая что (d/dx/)q = ^ai/Xi\ имеет
положительный определитель. Понятно, что <oQ не зависит от выбора
(Xt). Имеем gt/ = ^аИак/9 поэтому, в силу положительности
^ Или § 4 введения, — Прим. перевч

§ 1. Интегрирование на многообразиях
103
указанного выше определителя, det (а{/) = у g. Далее
Таким образом, определенная посредством D) форма со
удовлетворяет C). Кроме того, из B) следует, что для f(zCc(Ua)
$ /©- $ (Ma1)***, .... *J|/^d*i.--d**»>
"а Фа (^а)
т. е. (о приводит к римановой мере. Единственность формы со
очевидна.
Предложение 1.3. Пусть М и N—римановы многообразия и
Ф—диффеоморфизм М на N. Для любой точки р£М обозначим
через \detdQ)p\ модуль определителя линейного изоморфизма
йФр: mp—+No{p), выраженного в каких-либо ортонормированных
базисах. Тогда для F^S>(N)
(б) \F(q)dq^F(<b(p))\detd<l>p\dp,
N М
где dp и dq—римановы меры на М и N соответственно.
Доказательство. С помощью разбиения единицы
доказательство равенства E) сводится к случаю, когда носитель F
лежит в какой-нибудь координатной окрестности. Поэтому можно
предполагать, что М и N ориентированы, а Ф сохраняет
ориентацию. Пусть, в соответствии с леммой 1.2, со и 8 суть т-формы
на М и N соответственно, определяющие римановы меры dp и
dq. Тогда, в силу B), если f==Fo<S), то
J F (q) dq = $ (/0Ф-1) Э « J (FoQ>) Ф*9.
N N M
Однако из D) вытекает, что Ф*9 = det (dO) со. Отсюда следует E).
Замечание. Предложение 1.3 показывает, в частности, что
риманова мера инвариантна относительно изометрий.
2. Инвариантные меры на факторпространствах
Пусть М— некоторое многообразие и Ф—диффеоморфизм М
на себя. Напомним, что дифференциальная форма о на М
называется инвариантной относительно Ф, если
Ф*а>«а>.

104 Гл. /. Интегральная геометрия и преобразования Радона
Пусть G—группа Ли с алгеброй Ли д. Дифференциальная
форма со на G называется левоинвариантной, если L£g) = g> для
всех элементов x£G (здесь Lx (или L(x))—левый сдвиг g—+xg
на G). Аналогично, используя Rx (или /?(*))—правый сдвиг
g—+gx на G, можно определить правоинвариантные
дифференциальные формы на G. Пусть Xcz§ и X—соответствующее левоин-
вариантное векторное поле на G. Пусть Хъ ..., Хп—базис для д.
Уравнения со/ (Xj) = 6} однозначно определяют п один-форм со' на G.
Они очевидным образом левоинвариантны, и внешнее произведение
со = (о*Л«. . Лю" является левоинвариантной /г-формой на G. Лю-
п
бую 1-форму на G можно записать в виде 2 /ic°/> ГДе /f€^(G).
t= i
Отсюда следует, что любая л-форма имеет вид /со, где /€<£(G).
Таким образом, со—единственная (с точностью до постоянного
множителя) левоинвариантная /г-форма на G. Пусть
<р: x~*(Xi(x), ..., *„(*))
— система канонических координат, связанных с базисом Xi9 ... >
Хп в д, определенная в связной открытой окрестности U единицы
e£G (см. [ДС, гл. II, § 1)]. Форма со на U допускает
представление
<Du*=F(xu ..., xn)dxi/\...f\dxn>
где F>0. Если теперь g£G, то пара (L^l/, <poLg-i) является
локальной картой в некоторой окрестности точки g. Положим
(Фо^-i)(х)-(yt(х), ..., уп(х)) (х€I//).
Так как yt (gx) ■*х, (х) (х £ £/ Г) bfI/), отображение
имеет в координатах вид
(Ли •••>Уп) = (х%> •••!*„)
[ДМ, гл. I, § 3, п. 1]. На LgU форма ю имеет вид
«>Lgu — G (уи ..., у„) dytA • • • ЛЖ/„.
так что условие инвариантности ю, = L^ngx (x$U f) LgU) может
быть записано так:
G(У1 (х), ...,у,(*))(d«/iA• • • /\dyn)x
<тG(xt(x)t ..., х„(х))(dxt/\...Adx,,)*.
Следовательно,
F(xt(x),..., «.(*))-<? (*(х), ...,*„(х))

§ 1. Интегрирование на многообразиях
105
*<*& *»(х))=рш*) y»<*»S£S:::::S:5!
при x^Uf]LgU. Это показывает, что якобиан отображения
(фо^-1)оф~х положителен. Таким образом, набор (LgU, q>oLg-i)gea
локальных карт превращает G в ориентированное многообразие, а
каждый левый сдвиг сохраняет ориентацию. Ориентация G зависит
от выбора базиса в д. Если Х[, ..., Х'п—другой базис,
полученная с его помощью ориентация G совпадает с прежней в том и
только том случае, если линейное преобразование Xt —+ Х\
(l^t^/i) имеет положительный определитель.
Форма ш является положительной левоинвариантной /г-формой
на G и с точностью до постоянного множителя однозначно
определяется этими свойствами. Будем обозначать ее через dtg.
Линейное отображение f—+)fdtg из CC(G) в R является мерой на G,
которую обозначим \it. Эта мера положительна. Кроме того, она
левоинвариантна в том смысле, что \ii(foLx)ss\il(f) ПРИ *€G,
f€Cc(G).
Аналогично можно превратить G в ориентированное
многообразие так, чтобы каждый правый сдвиг Rg (g(-G) сохранял
ориентацию. Существует правоинвариантная положительная я-форма
drg на G, единственная с точностью до постоянного множителя.
Определим правоинвариантную положительную меру \ir на G
формулой
M/)=S^> /€Cc(G).
Итак, мы ориентировали группу G двумя способами. Левоинва-
риантная ориентация инвариантна относительно всех правых
сдвигов Rx (x£G) в том и только том случае, если она
инвариантна относительно всех отображений I (x) = LxoRx-i (x£G).
Так как дифференциал dl (x)g удовлетворяет равенству
dl (x)g = dLxgx-ioAd (x)odLg-i9
для этого необходимо и достаточно, чтобы det Ad (x) > 0 при всех
x£G. Это условие всегда выполнено, если группа G связна.
Лемма 1.4. В предыдущих обозначениях справедливо равенство
drg = с det Ad (g)dtgf
где с—некоторая постоянная.
Доказательство. Пусть Q = det Ad (g) dtg и x$G. Тогда
(Rx-k)* 0 « det Ad (gx-1) (/?,-!)• dtg « det Ad (#r*) / (*)• dtg.

106 Гл. /. Интегральная геометрия и преобразования Радона
В точке g*=e имеем
(I (xr(dtg))e = detAd(x)(dlg)e'
Следовательно,
(£-|в). - det Ad (е) (dlS)e~ %.
Таким образом, форма в провоинвариантна и потому
пропорциональна drg.
Замечание. Если группа G связна, то ее можно
ориентировать таким образом, что все левые и правые сдвиги будут
сохранять ориентацию. Если drg и dtg определены посредством этой
ориентации, то константа с в лемме 1.4 положительна.
Следствие 1.5. Пусть х, y£G. Положим
dl(ygx)^(LyRx)*digt dr(xgy) = (LxRy)*drg.
Далее, положим di(g"l)=^J*(dig)9 где J—отображение g—+g~l.
Тогда
dt (gx) — det Ad (x~l) dt (g), dr (xg) = det Ad (x) drg,
dt (g'x) - (-l)dim ° det Ad (g) dlg.
Действительно, из леммы следует, что
с det Ad (g) dtg—drg — dr (gx) = с det Ad (gx) dt (gx),
dr (xg) = с det Ad (xg) dt (xg) = с det Ad (xg) dtg.
Поскольку JRx**Lx-iJ, мы получаем
(RJ dt (g-*) - (RXY J%g - (JRX)* dlg = (Lx-Jy dlg = J%g.
Таким образом, форма dt(g~l) правоинвариантна и тем самым
пропорциональна drg. Кроме того, очевидно, что
Следствие доказано.
Определение. Группа Ли G называется унимодулярной,
если левоинвариантная мера |»j является также и правоинвари-
антной.
Учитывая следствие 1.5, получаем в силу B)
F) MhRx) = \detAd(x)\iil(f).
Отсюда следует, что группа G унимодулярна в том и только том
случае, если |detAd(jt)| = l для всех x£G. Если это условие
выполнено, то меры [il и [ir совпадают с точностью до постоянного
множителя*

$ /. Интегрирование на многообразиях
107
Предложение 1.6. Следующие группы Ли унимодулярных
(i) группы Ли Gf для которых группа Ad(G) компактна;
(и) полу простые группы Ли;
(iii) связные нильпотентные группы Ли.
Доказательство. В случае (i) группа {|detAd(x)|i x£G]
является компактной подгруппой мультипликативной группы
положительных вещественных чисел. Такая подгруппа должна состоять
из одного-единственного элемента, так что группа G унимоду-
лярна. В случае (ii) каждое преобразование вида Ad(x) сохраняет?
некоторую невырожденную билинейную форму (а именно форму
Киллинга). Отсюда следует, что (det Ad (x)J = 1. Наконец, пусть
N—связная нильпотентная группа Ли с алгеброй Ли п. Если
Xgn, то оператор adX нильпотентен, так что tr(adX) = 0. Так
как для любого линейного преобразования А справедливо равенство
deteA=eXrA,
мы получаем
det Ad (exp X) = 4* <ad *> — 1.
Тем самым доказано и утверждение (iii).
Обозначения. В дальнейшем мы будем часто использовать
левоинвариантную меру \1Г Мера dtg обычно называется мерой
Хаара на группе G. Для простоты будем писать \i вместо \xt и dg
вместо dtg.
Пусть G—группа Ли с алгеброй Ли g, H—ее замкнутая
подгруппа с алгеброй Ли Ijczg. Каждый элемент x£G порождает
аналитический диффеоморфизм т(х): gH—+xgH многообразия G/H
на себя. Пусть п—естественное отображение G на G/H и о = л(е).
Если h£Ht то (dx(h)H является эндоморфизмом касательного
пространства (G/HH. Будем писать для простоты dx(h) вместо
(dx(h)H и dn вместо (dn)e.
Лемма 1.7. Справедливо равенство
Доказательство. В ([ДС, гл. II, § 4]) показано, что
дифференциал dn является линейным отображением g на (G/HH с
ядром I). Пусть m—произвольное подпространство в g, для
которого g = Ij + m (прямая сумма). Тогда dn индуцирует
изоморфизм m на (G/HH. Пусть Х^т. Тогда
AdQ(h)X = dRb-iodLh(X).
Так как яо/?л»я (при h$H) и noLg = x(g)n (при g£G), мы
получаем равенство
G) dnoAdQ (h) X = dx (h)odn(X), h £ H$ X £ m.

108 Гл. I. Интегральная геометрия и преобразования Радона
Вектор AdG (А) X представим в соответствии с разложением g=l}+m
в виде
AdQ(h)X=X(hh + X(h)m.
Эндоморфизм Ahi X—+X(h)m подпространства m удовлетворяет
равенству
dnoAh (X) = dx (h)odn (X), X £ m.
Поэтому deti4As=*det(dT(A)). С другой стороны,
exp Ad0 (Л) tT = h exp tTh~x = exp Ad„ tT
при /€R» ^€^- Следовательно, AdG(h)T = AdH(h)T, так что
det Ad0 (h) = det Ah det Ad„ (h)
и лемма доказана.
Предложение 1.8. Пусть т = dim G/H. Следующие условия
эквивалентны:
(i) на G/H существует ненулевая G-инвариантная т-форма ©;
(И) detAd0(h) = detAd^(Л) при всех h£H.
Если эти условия выполнены, то G/H обладает G-инвариантной
ориентацией у причем G-инвариантная т-форма со единственна
с точностью до постоянного множителя.
Доказательство. Пусть со Ф 0 есть G-инвариантная т-форма
на G/H. Тогда соотношение т (Л)* со = со в точке о влечет равенство
det (dx (Л)) = 1, т. е. выполняется (и). Обратно, пусть Хи ..., Хт —
базис в (G/HH и ©*, ..., сош—линейные функционалы на (G/HH>
задаваемые условием ©' (X/)=fi//1). Рассмотрим элемент со1 Л • • • Л<*>да
грассмановой алгебры касательного пространства (G/HH. Из (И)
следует, что det(dx(A))=l и элемент со1 Л- •• Л®т инвариантен
относительно линейного преобразования dx(h). Отсюда вытекает
существование единственной G-инвариантной m-формы со на G/#,
для которой юв==©1Л- • . Л®*- Если со*—другая G-инвариантная
m-форма на G/#, то о>*=*/хо, где f££(G/H). В силу
предположенной G-инвариантности, / = const.
Пусть теперь выполнено (i), и пусть <р: р —* (х* (р),..., х~ (р)) —
система координат на открытой связной окрестности и точки
o£G/H, в которых форма со имеет вид
(du~F(xu ..., xJdxi/\.../\dxM
cf>0. Пара (т (g) (/, фот (g~1)) является локальной картой в
связной окрестности точки g-o € G/H. Положим (фот (gT1)) (p)=(#i(p),...,
*> То есть образующие вместе с Х%9 • •», Хт биортогональную систему.—
Прим. перев.

§ 1. Интегрирование на многообразиях
109
•••» Ут(Р)) ПРИ Р€х(g) ^. Тогда отображение т(g): V —+i{g)U
имеет вид (уь ..., ут) = (хи ..., jcJ (см. [ДС, гл. I, § 3.1]). На
x(g)U форма со представима в виде
coT(g)i/ = G(у*, ..., yJdyiA-.-AdyM.
Поскольку со^ = т(g)*o)T(g)G, при q^U[\%{g)U получаем
% = G (Л (<7), • • •> Ут (Я)) (dyiA. •. ЛФлЛ
= G (Xi (?), ..., xm (q)) (dxx/\... AdxJq.
Следовательно,
F(xi(q)> •••, J.faW^Gtefa), ..., *„(</))
и
F(Xl(q), .... xm(q))=F(yt(q)9 ..., ye(9))-|g^i^fe^.f
откуда следует положительность якобиана отображения
(фот(^~1))оф~1. Таким образом, набор локальных карт (i(g)Ut
q)ox(g,))g€G превращает G/H в ориентированное многообразие,
причем отображения r(g) сохраняют ориентацию.
G-инвариантная форма со приводит к интегралу j /со, который
инвариантен в том смысле, что
S /<»= S tfoTfe))©, g£G.
G/Я G/Я
Однако, точно так же как при определении римановой меры можно
не требовать ориентируемости, инвариантную меру на G/H можно
построить при условии, несколько более широком, чем (ii).
Например, этому условию удовлетворяет проективное пространство
p2(R), которое условию (ii) не удовлетворяет. Напомним, что мера \i
на G/H называется инвариантной (точнее, G-инвариантной), если
H(f°*(g))eH(/) ПРИ всех g^G.
Теорема 1.9. Пусть G—группа Ли и Н—ее замкнутая
подгруппа. Для существования положительной G-инвариантной меры
на G/H необходимо и достаточно, чтобы
(8) |detAd0(Л) | = IdetAd//(Л)| при всех h$H.
Эта мера dgH единственна с точностью до постоянного
множителя, и
(9) $/<*)#= $ (\f{gh)dh)dgH, /€CC(G),
G G/H\H /
если левоинвариантные меры dg и dh нормированы подходящим
образом.

ПО Гль L Интегральная геометрия и преобразования Радона
Формула (9) иллюстрируется рис. 6, где яг
G—+G/H—каноническое отображение.
т
sh
\и
с/н
Рис. 6
Сначала докажем следующую простую лемму!
Лемма 1.10. Пусть G—группа Ли, Н—ее замкнутая
подгруппа и dh—левоинвариантная положительная мера на Н.
Положим
hgH)=\f{gh)dK f£Cc(G).
Тогда f—+f является линейным отображением пространства Сс (G)
на все пространство CC(G/H).
Доказательство. Пусть F£CC(G/H). Нам нужно доказать
существование такой функции f£Cc(G), что f = f. Пусть
С—компактное подмножество в G/Я, вне которого F равняется нулю, и
С—компакт в G, образ которого при каноническом отображении
л: G—+G/H совпадает с С, Пусть Сн—компакт в Н
положительной меры. Положим С~С'-СН. Тогда л(С) = С. Выберем
функцию ft € Сс (G) так, чтобы ft > 0 на G и ft: > 0 на С. Тогда ft > 0
на С (так как Сн имеет положительную меру). Функция
/(£) =
0
при n(g)£C,
при n(g)^C
принадлежит Сс (G) и J = F-
Переходя теперь к доказательству теоремы 1.9, предположим
сперва, что выполнено соотношение
IdetAda^lHdetAdtfCA)!, h$H.

§ 1. Интегрирование на многообразиях
!11
Пусть <p£Cc(G). Поскольку мы имеем дело с мерами, а не
дифференциальными формами, то в силу следствия 1.5
J9(e)(J/te*)*)*-J*J9(fir)/te*L8f
-ldhl<p{gh-*)f(g)\dAAdo(h)\dg
Н G
= S / (Я) dg S * ^Л) Idet AdoW I <**•
G tf
Однако равенство (8) и последнее утверждение следствия 1.5
показывают, что
$ Ф (еЛ) I det AdG (Л) | <ft = $ Ф (gh) dh9
Н И
так что
lv(g)'dglf(gh)M-lf(g)dglv(gQdh.
G H G Н
Выбирая ф таким образом, чтобы J ф(gh)dh~\ на носителе f,
заключаем, что
$/(*L? = 0, если 7=0.
G
Ввиду леммы, мы можем теперь определить отображение
(А! Сс (G/#) —-#> R формулой
М^)= $/(£)<*£ при F=J.
G
Так как для F ^ 0 также и р, (F) ^ 0, то [г является
положительной мерой на G/H. Кроме того,
I* (№х)) - S /LU) (s) <te=J / te)<te - nG),
G G
т. е. мера \i инвариантна.
Для доказательства обратного утверждения нужно
использовать теорему о том, что на группе G существует единственная
(с точностью до постоянного множителя) положительная левоин-
вариантная мера. Это утверждение о единственности меры Хаара
можно найти, например, в книге А. Вейля [1940].
Если \i—положительная инвариантная мера на G/H, то ото*
бражение /—+у,(/) является положительной левоинвариантной ме-

112 Гл. I. Интегральная геометрия и преобразования Радона
рой на G. В силу отмеченной выше единственности,
$/(erLe=ii(f)-
G
С учетом леммы это доказывает единственность \i и соотношение
(9). Чтобы доказать (8), заменим в (9) функцию f(g) на figh^.
В силу следствия 1.5 левая часть равенства при этом умножится
на | det AdG(Ai)|, а правая — на | det Ad// (Лх) |. Тем самым
доказательство теоремы 1.9 закончено.
Замечание. Если группа Н компактна, то условие (8)
выполнено, т. е. в этом случае на G/H существует G-инвариантная
мера.
В оставшейся части данного параграфа нам часто придется
вычислять, как преобразуются инвариантные меры при тех или
иных отображениях. Эти вычисления по сути дела сводятся
к следующей общей лемме.
Лемма 1.11. Пусть G и S—группы Ли, HcG и TcS—ux
замкнутые подгруппы. Предположим, что факторпространства
G/H и S/T имеют одну и ту же размерность т и что на них
существуют положительные инвариантные дифференциальные
формы dgH и dsT. Пусть о = {Н} и о' = {Г}.
Если ф—дифференцируемое отображение G/H в S/T, такое
что Ф ({#})= {7*}, то
4>*(dsT) = DdgH.
Здесь D—функция на G/H, вычисляемая следующим образом.
Пусть Х1У ..., Хт и Yu ..., Yт — произвольные фиксированные
базисы в касательных пространствах (G/HH и (S/TH>
соответственно, такие что
dgH(Xi,...,Xm) = dsT(Yi,...,Ym).
Пусть g£G и s£q>(gH). Рассмотрим линейное отображение
A (g) = dx (s) о d<pgH о di (gH
из (G/HH в (S/TH и положим
A(g)XJ^^atJ(g)Yl.
i
Тогда
D(gH) = uet(a{/(g)).
Доказательство. Пусть со1, ..., юда — линейные
функционалы на (G///H,, образующие вместе с Хи ...,Х2 биортогональ-
ную систему, а в1, ...,0да—функционалы на (S/TH,t образующие

§ 1. Интегрирование на многообразиях
113
биортогональную систему вместе с Ylf ...,Ym. Тогда
сопряженное отображение
Ч^(г)) = т(г)»оФ*отE-1)»,
действующее из пространства, сопряженного к (S/TH,t в
сопряженное к (G/#H, удовлетворяет равенству
Далее, в силу предположений о dgH и dsT
(dg„)gH = бт (g-1)* (со1 Д... Л <«>"),
(dsr),r = cx(s-1)*(91 Л...Л8*),
где с—константа. Следовательно,
(ф* №г)W = сер* о т (s-!)* (91 Л ... Л в*)
= cx(g^)*tA(g)(eiA ... Лв«)
= cdet(^/;(gr))x(gr-1)*(oIA ... Лсода)
= det(a/y^))(^)^.
Теперь посмотрим, как ведет себя мера Хаара при
разложении группы в произведение.
Предложение 1.12. Пусть U — группа Ли с алгеброй Ли ц.
Предположим, что и есть прямая сумма u = m + fy своих
подалгебр (не обязательно идеалов). Пусть М и Н—аналитические
подгруппы в U с алгебрами Ли m и ^ соответственно.
Предположим, что а: (т, h)—+mh является взаимно однозначным
отображением МхН на V.
Тогда можно так нормировать положительные левоинвариант-
ные меры dh, dm, du, что для всех f£Cc(U) будет выполняться
равенство
и мхн
Доказательство. Из леммы 5.2 гл. VI [ДС] мы знаем,
что a—диффеоморфизм, причем
А*Шч м(dLmY, dLhZ) = dLmh(Ad^h^Y + Z)
при т£М, h£H, Fgm и Z£f). Используя лемму 1.11, видим,
что
a*(dw) = D(m, h)dmdh,
где dmdh — инвариантная мера на произведении МхН и D(т, К)—
определитель линейного отображения
А(т, h)\ (У, Z)-+Adu(h-1)Y + Z

114 Гл. I. Интегральная геометрия и преобразования Радона
произведения шх| в g. (Так так мы отождествляем mxf) с g,
можно рассматривать A (т, А) как эндоморфизм алгебры Ли g и
потому можно говорить о его определителе.) Так как
Ady (A) Y + Z = Айц (/Г*) (Y + Ad„ (Л) Z),
то, очевидно,
**<* »>=!та$г
Теперь утверждение леммы вытекает из равенства B). ,
Мы закончим этот параграф одним полезным вариантом (типа
«цепного правила») теоремы 1.9.
Предложение 1.13. Пусть G—группа Ли, Н и N—ее
замкнутые подгруппы, причем HdNaG. Предположим, что на G/H
и G/N имеются положительные G-инвариантные меры dgH и dgN.
Тогда на N/H имеется N-инвариантная положительная мера
dnH, которая при подходящей нормировке удовлетворяет
соотношению
(Ю) S f(gH)dgH= J ( J f{gnH)dnH\dgN
G/H G/N \N/H /
для всех f£Cc(G/H). Далее, если для некоторой функции
f£C(G/H) интеграл в одной из частей этого равенства
абсолютно сходится, то абсолютно сходится и интеграл в другой ее
части, причем их значения совпадают.
Доказательство. В силу теоремы 1.9 наши
предположения означают, что
|detAd0(A)| = |detAd//(A)|, h$H,
|detAd0(/i)|HdetAd„(/i)|, n£N.
Следовательно, | det k&N (A) | — | det Ad^ (A) |, т. е. существует dnH.
Пусть
nH: G-+G/H и nNi G-+G/N
— естественные отображения. Предположим, что / € Сс (G/H)f g£G9
n0£N. Так как
N/H~(G/H)\*„(G\N),
подмножество N/HaG/H замкнуто, так что функция пН —► / (gnH)
на N/H имеет компактный носитель. Поэтому интеграл
J f{gnH)dnH

§ L Интегрирование на многообразиях
115
корректно определен. А так как он инвариантен относительно
преобразований g^gn09 его можно рассматривать как функцию
F на GIN:
A1) F(gN) = J f(enH)dnH.
N/H
Эта функция непрерывна. Для доказательства финитности F
рассмотрим компакт CaG/H, вне которого / равняется нулю.
Выберем такой компакт CaG, что ля(С) = С. Интеграл A1) равен
нулю при g'1 • С П N/H = 0, поэтому он равен нулю, если
СН (\gN = 0. Следовательно, функция F равна нулю вне
компакта nN(C). Но тогда можно рассмотреть выражение
'(/)= И S f(8nH)dnH)dgN.
G/H \N/H
Функционал / —* / (/) является положительной и очевидным
образом G-инвариантной мерой на G/Я. Кроме того, / (/) > 0, если
/^0 и />0 вблизи «нуля» в G/H. Таким образом, мера /(/)
отличается лишь положительным постоянным множителем от dgH,
поэтому соотношение A0) имеет место при подходящей
нормировке dnN. В соответствии со стандартной теорией меры
равенство A0) распространяется на случай, когда
/—характеристическая функция борелевского множества. Аппроксимируя
произвольную непрерывную функцию возрастающей последовательностью
линейных комбинаций характеристических функций, видим, что
равенство A0) справедливо для всех положительных функций
/ € С (G/H) (возможно, с + оо в обеих частях). Разлагая / € С (G/H)
в разность двух функций, получаем требуемое утверждение.
3. Мера Хаара в канонических координатах
Пусть G— группа Ли с алгеброй Ли д. Выберем окрестности
N0 точки 0 в g и Ne точки е в G таким образом, чтобы
экспоненциальное отображение ехр: й"~*^ порождало диффеоморфизм N0
на Л^. Зафиксируем евклидову меру dX на g. Пусть dg—такая
левоинвариантная форма на G, что (dg)e = dX.
Теорема 1.14. При указанном выборе мер dg и dX для
обратного образа меры dg относительно ехр справедливо равенство
A2) (ехр)* (dg) = det ('"^"а") dX.

116 Гл. /. Интегральная геометрия и преобразования Радона
Если функция f£C(G) имеет компактный носитель, лежащий
в канонической координатной окрестности Ne9 то
A3) j/(^)^ = j/(expX)det(i^^)dX.
о а
Доказательство. Так как мера dg левоинвариантна,
формула A2) есть прямое следствие теоремы 1.7 гл. II из [ДС]. Но
тогда A3) следует из равенства B) § 1, примененного к функции
/ о ехр.
§ 2. Преобразование Радона в Rn
1. Введение
В 1917 г. Радон доказал, что всякую дифференцируемую
функцию на R8 можно явным образом определить по значениям
ее интегралов по плоскостям в R3. Обозначим через /(со, р)
интеграл от функции / по плоскости (х, со) = р, где со —
единичный вектор, а ( , )—скалярное произведение. Тогда
/W = — -MLx(lJ{P> (®' *»лЛ.
Здесь L—лапласиан в R8, a dec— лемент площади на сфере S*
(см. теорему 2.13).
Отметим, что в приведенной формуле фигурируют два
двойственных друг другу интегрирования: первое — по множеству точек
данной плоскости, а второе—по множеству плоскостей,
проходящих через данную точку. Это наводит на мысль рассмотреть
определяемые ниже преобразования / —>/, ср—><р.
Данная формула имеет и другую интересную черту. При
фиксированном со подынтегральная функция х—+ J (со, (со, х)) является
плоской волной, т. е. постоянна на каждой плоскости,
перпендикулярной к со. Если не обращать внимания на лапласиан, то
приведенная формула дает непрерывное разложение функции / на
плоские волны. Поскольку плоская волна сводится к функции
всего лишь одной переменной (вдоль направления, нормального
к указанным плоскостям), это разложение иногда позволяет
свести задачу в R8 к аналогичной задаче в R. Это особенно
полезно в теории дифференциальных уравнений в частных
производных.
Аналог вышеприведенной формулы для интегралов по прямым
имеет важное значение в рентгенографии, цель которой состоит
в описании функции плотности с помощью интегралов по прямым^

§ 2. Преобразование Радона в Rn
117
В этом параграфе мы обсудим соотношения между функцией
на Rn и интегралами от нее по ^-мерным плоскостям в R".
Особый интерес для нас будет представлять случай k=*n—1.
В ряде мест мы используем элементарные факты, касающиеся
распределений и потенциалов Рисса. Поскольку этот материал
наверняка знаком многим читателям, мы вынесли его в
приложение к данному параграфу.
2. Преобразование Радона в пространствах @>(Rn)
и ^(R"). Теорема о носителе
Пусть f—функция на R", интегрируемая по каждой
гиперплоскости. Обозначим через ри пространство всех
гиперплоскостей в R", снабженное очевидной топологией. Преобразование
Радона функции f определяется как функция f на ри,
задаваемая формулой
?©«$/(*) <ta<*).
ё
где dm—евклидова мера на гиперплоскости £. Наряду с
преобразованием f—+J рассмотрим также двойственное преобразование
Ф •—► ф, которое сопоставляет непрерывной функции ф на рЛ
функцию ф на R" по формуле
Ф(*)- $ ф(ЭФ(Е),
где d\i—мера на компактном множестве {l£P"; *€£},
инвариантная относительно группы вращений вокруг точки х и такая, что
мера всего этого множества равна 1. С помощью преобразований
/—►£ Ф—*Ф мы установим связь между некоторыми
функциональными пространствами на R" и р". Затем мы получим явные
формулы обращения.
Всякую гиперплоскость £€рв можно записать в виде
l={x£Rn: (х, (о) = р}, где ( , )—обычное скалярное
произведение, (о = ((о1, ...,(oj—единичный вектор и p£R. Заметим, что
пары (со, р) и (—со, —р) приводят к одной и той же
гиперплоскости £. Отображение (со, /?) —-*£, S'^xR-^P" является
двулистным накрытием. Таким образом, р* обладает канонической
структурой многообразия, относительно которой это накрывающее
отображение дифференцируемо и регулярно. Таким образом, мы
отождествляем непрерывные (дифференцируемые) функции ф на рп
с непрерывными (дифференцируемыми) функциями ф на S"xR,
удовлетворяющими условию ф(со, р) = ф(—со, —р). Записывая
f К р) вместо /(£) и обозначая через ft сдвинутую функцию

118 Гл. /. Интегральная геометрия и преобразования Радона
x—+f(t + x), получаем
/*(<■>, p)« S f(x+t)dm(x)~ J f(y)dm(y),
{х, <ю)«р {g, (в)«р+(/, ю)
так что
A) М<о, Р)-А<Р + Л ©)).
Переходя к пределам, видим, что
B) (<Э,/Г(«>, P)«CDf-£(CD, /7),
где д( — д/дх(. Обозначим через L лапласиан 2$ в R*, а через
Q—оператор <р((о, р)—+(д*/др*)(р(<д, р), корректно определенный
на $ (Рп). Пусть Ж (л)—группа изометрий пространства R". По
аналогии со случаем лапласиана L (см. следствие 4.11 гл. II)
можно показать (см. упр. С2 гл. II), что □ порождает алгебру
всех М(я)-инвариантных дифференциальных операторов на Р".
Лемма 2.1. Преобразования /—*/ и <р—►ф сплетают
операторы L и □> т. е.
Доказательство. Первое соотношение доказывается
итерированием равенства B). По поводу второго просто заметим, что
C) <р(х) = с $ ф(ю, (х, (o))d(o,
где dco—обычная мера на S"", а с—некоторая константа.
Преобразование Радона тесно связано с преобразованием Фурье
f (и) — J / (х) е~* **• u)dx, и £ R».
R»
Действительно, если s^Rh со—единичный вектор, то
/(«»)«= 5 dr J / (jt)e-'s <*•<■» dm (x),
— CD (Х* u))«F
т. е.
D) ?(s<»)= S ?(<»* г) е-'" dr.
— 00
Это означает, что n-мерное преобразование Фурье есть
композиция одномерного преобразования Фурье и преобразования Радона.
Исходя из D) или прямым вычислением нетрудно показать, что

§ 2. Преобразование Радона в Rn
119
преобразование Радона свёртки
f(*)=\h(x-y)fAy)dy
есть свёртка
E) /(<©, /?)= J }± (со, p—q)f2((ot q)dq.
R
Мы будем работать с пространством <У(КП) комплекснозначных
быстро убывающих функций, хотя можно было бы рассмотреть
и несколько более общую ситуацию. Напомним, что (€<??(№)
тогда, и только тогда, когда для любого многочлена Р и любого
целого числа т^О
F) sup||*|-P(dlf ..., 0J/(*)|< оо,
х
где | jc |—норма вектора x£Rn. Сформулируем это условие в более
инвариантном виде.
Лемма 2.2. Функция f €<§(Rn) принадлежит <SP(Rn) тогда
и только тогда, когда для любой пары чисел k, /(EZ+
8up|(l + |xD*(^/)WI<oo.
Это легко доказывается применением преобразования Фурье.
По аналогии с <£f (Rn) определим of(Sn~lxR) как
пространство, состоящее из всех С°*-функций ф на S" xR, которые для
любых целых k, 1^0 и любого дифференциального оператора D
на Sn~l удовлетворяют условию
G) sup 1A + ^^-^-(ОфЖ г)|<оо.
Тогда пространство <У (Рп) определяется как множество всех
функций ф€<^Eл"*х^, таких, что ф(ю, р) = ф(— со, —р).
Лемма 2.3. Для любой функции f^^(Rn) преобразование
Радона удовлетворяет следующему условию; при каждом k£Z+
интеграл ^ / (со, p)phdp может быть записан как однородный
R
многочлен степени k от переменных щ, ..., со„.
Доказательство. Это немедленно следует из соотношения
(8) $?(©. P)pkdp=\p*dp I f(x)dm(x)=\f(x)(x,(o)*dx.

120 Гл. /. Интегральная геометрия и преобразования Радона
В соответствии с этой леммой введем пространство
<^яОРп)== (ф€<^AРп): для любого k£Z+ интеграл $ф(ю, p)pkdp
является однородным многочленом степени k от
Далее, положим &) (рп) = С" (рп) и
®н(Рп) = <?н(Рп)()в)(Рп).
Согласно Л. Шварцу ([1966, с. 249]), преобразование Фурье
/—* / отображает пространство & (Rn) на себя. Мы определим
сейчас по аналогии с этой теоремой Шварца образ пространства <SP(Rn)
под действием преобразования Радона.
Теорема 2.4. Преобразование Радона / —>/ является линейным
взаимно однозначным отображением of(Rn) на<Ун(рп),
Доказательство. Так как
п
то из D) ясно, что при каждом фиксированном ю функция
/*—►/(©, r) лежит в df(R). Для любой точки co0g S"~* в качестве
локальных координат в окрестности со0 на сфере S" можно
выбрать некоторое подмножество из набора переменных {&lf ...,©„}.
Следовательно, для того чтобы убедиться, что f€<if(Pn),
достаточно проверить справедливость неравенства G) при Ф = / на
открытом подмножестве NcS"'1, где переменная ып отделена от
нуля, а переменные <о19 ..., ©„„j являются локальными
координатами, через которые выражен оператор D. Полагая
(9) а^яоь ..., an.1 = s(on„1, a„ = s(l— w2 —...— ©i-iI'1,
имеем
Отсюда следует, что если D—произвольный дифференциальный
оператор на S" и k, /£Z+, то
(Ю) sup I A + s2*) -£- (D/) (о, s) I < oo.
Следовательно, в формуле обращения преобразования D)

§ 2. Преобразование Радона в R*
121
мы можем применить D под знаком интеграла и получить
<1 + г?*)^(АЛ/К г)))
в"ЯГ J 0 + (-^iSr) «/s)'D«><f <»)))«'"*•
Неравенство A0) показывает теперь, что /€<^(РЛ), поэтому,
согласно лемме 2.3, /€<^я(РЛ)«
Ввиду равенства D) и взаимной однозначности преобразования
Фурье, осталось доказать лишь сюръективность преобразования
Радона. Пусть ф6<^яAРЛ)- Для того чтобы доказать, что ф = / для
некоторой функции /6<У(КЛ), положим
<D(s, (o)= J ф(ю, r)e~irsdr.
— 00
Тогда 0(s, (о) = Ф(—s, —ю) и функция Ф@, <о) является
однородным многочленом степени 0 от %, ..., <оп и потому постоянна.
Следовательно, существует функция F на R", такая что
F(s(o)=^((o, r)e'irsdr.
R
Функция F, очевидно, гладка вне начала координат. Докажем,
что она гладка также и в нуле. Именно здесь играет
существенную роль условие однородности, фигурирующее в определении
пространства ^И(Рп)- Рассмотрим введенную выше координатную
окрестность N czS" и для h £ С°° (Rw\{0}) обозначим через
ft*((of, ..., (&„_!, s) функцию, полученную из h подстановкой
соотношений (9). Тогда
dh Jy? dh* д«>/ dh* ds n ^{^n\
дщ
Следовательно,
^--ю, (l<i<n-l), *-(!_«*_...-a*.^».
ал l ал» , (eh* iv аьЛ л^-.-^., i\
da, ~~ s дш/ т ш< \ ds s ftl w/ дф/ J

122 Гл. /. Интегральная геометрия и преобразования Радона
Для того чтобы воспользоваться этими соотношениями при h=*F,
запишем
00 00
F(sco)= J ф(ю, r)dr+ 5 ф(ю, r)(e~ir8— \)dr.
— 00 —00
По предположению первый интеграл не зависит от ю. Поэтому,
применяя G), получаем
где ft>0—некоторая константа. Аналогичная оценка очевидным
образом верна и для dF(s<o)/ds. Из приведенных формул вытекает,
что все производные dF/dui ограничены в проколотом шаре
О < | и\ < е, и, стало быть (поскольку п > 1), мы можем
заключить, что F равномерно непрерывна в области 0 < | и | < е, а
значит, непрерывна в точке и = 0.
Докажем по индукции более общее соотношение
где коэффициенты А имеют вид
A2) Л;. kx k( ((о, s) - а/, * Л/ (©) s/-*.
При (/=1 это фактически уже доказано. Предполагая, что A1)
выполнено для некоторого q, вычислим
duix...duiq^
используя вышеприведенные формулы для д/ди(. Если
продифференцировать A\tkx ^((о, s) no Utq+lf то получится формула,
аналогичная A2), с q, замененным на q+ 1. С другой стороны, если
в равенстве A1) продифференцировать по uiq+1 производную от h*
порядка i + jt то получится комбинация членов вида
г-*.
дю.
В обоих случаях мы получаем коэффициенты, удовлетворяющие A2)
с q, замененным на <7+1. Тем самым соотношение A1) доказано
для общего случая. Далее,
A3) f(s(o)= j" ф(ю, г) ^ Цг^г + J Ф(®. r)e,(—irs)drt

§ 2. Преобразование Радона в R*
123
где
М*)8=^Г + (<7+1)!+#" •
Из нашего предположения относительно ер следует, что первый
интеграл в A3) является многочленом от ult...f un степени
^.q—1, поэтому он аннулируется дифференциальным
оператором A1). При 0</<<7
(И) | s'-o j^ (eQ (- trs)) | -1 (- W (- irsY-' eq4 (- its) | < Kjfi
(где К/—некоторая константа), поскольку функция t—+(it)-Pep(it)
очевидным образом ограничена на R(p^O). Так как Фб<^(РЛ),
из A1), A3) и A4) следует, что любая производная от F
порядка q по переменным uit ..., ип ограничена в проколотом шаре
0<|w|<8. Тем самым мы доказали, что F£C°*(Rn). Быстрое
убывание F следует теперь из G) и A1). Наконец,
если/—функция из af(Rn) с преобразованием Фурье, равным F, то
со
f(sco) = F(sco)= J ф(со, r)e~irsdr.
— со
Следовательно, в силу D), ^ = ф. Теорема доказана.
Введем для дальнейшего несколько полезных обозначений.
Пусть Sr(x) обозначает сферу {у: \у—х\ = г} в Rn и А (г)—ее
площадь. Обозначим через Вг(х) открытый шар {у: \у—*|<г}.
Для всякой непрерывной функции / на Sr(x) обозначим через
(Mrf)(x) среднее значение
(M'f)(x) = -riA f /W*>.
где dco—евклидова мера. Пусть К—ортогональная группа О (п)
и dk—мера Хаара на ней, нормированная условием j dk= 1. Если
к
y£Rn> rHH то
A5) (M'f)(x)-lf(x + k-y)dk.
к
Действительно, при фиксированных х и у обе части представляют
собой инвариантные относительно вращений меры на Sr(x),
принимающие одинаковые значения на функции / = 1. Поскольку
группа вращений действует на Sr(x) транзитивно, равенство A5)
следует из утверждения теоремы 1.9 о единственности. Аналогии-

124 Гл. I. Интегральная геометрия и преобразования Радона
ным образом можно записать формулу C):
A6) 4>(x) = ^<p(x + k.%)dk,
к
где £о—некоторая фиксированная гиперплоскость, проходящая
через начало координат. Мы видим, что если f€<SP(Rn) и Qk —
площадь единичной сферы в R\ то
(?Г (x) = \f(x + k.t0)dk=W\f(x + k.y)dm(y))dk
со
= §(M\y\f)(x)dm(y) = Qn_i$r»-*f-±- j f(x+m)d(»\dr.
Следовательно,
A7) (fy (*)=%f I \х-у\-Ч(У)<1у.
R«
Рассмотрим теперь аналог теоремы 2.4 для преобразования
Ф —► ф. Правда, из того, что ф £ <^я 0РЛ)> не следует, что <р £ <Zf (Rn).
[Если бы это было так, то по теореме 2.4 мы могли бы положить
Ф = /, f€<if(R.n)j а тогда из формулы обращения теоремы 2.13 при
п = 3 следовало бы, что \ f(x)dx = 0. J Более
удовлетворительный результат можно получить, сузив пространство.
Обозначим через a?*(Rn) пространство всех функций f€<SP(Rn)9
ортогональных ко всем многочленам, т. е. удовлетворяющих
условию
j f(x)P(x)dx = 0 для любого многочлена Р.
Аналогично пусть пространство ^*(Р") с & (Рп) характеризуется
условием
^ф(со, г) p(r)dr = 0 для любого многочлена р.
R
Заметим, что при преобразовании Фурье пространство (SP*(Rn)
переходит в подпространство <>f0(Rn) dSf>(Rn)t состоящее из
функций, все производные которых в точке 0 равны нулю.
Следствие 2.5. Преобразования f—+f и ф—*ф являются биек-
циями <F%(Rn) на <Р*(Рп) и сУ*(Р") на <F*(Rn) соответственно.
Первое утверждение следует из (8), если принять во внимание
тот элементарный факт, что многочлены х—► (*, о»)* порождают

§ 2. Преобразование Радона в Rn
125
пространство однородных многочленов степени k (см. упр. С1).
Для доказательства того, что ф—*ф является биекцией <У*(Рп)
на c^*(Rw), применим A7), зная уже, что Ф=^ для некоторой
функции f€<5T*(Rn).
Правая часть A7) является сверткой / с распределением |*|~1
умеренного роста, преобразование Фурье которого по лемме 2.41
равно константе, умноженной на l^l1"". (Мы не рассматриваем
здесь тривиальный случай п = 1.) В соответствии с общей теорией
распределений умеренного роста (см. соотношение F9) далее), эта
свёртка является распределением умеренного роста, преобразование
Фурье которого с точностью до постоянного множителя совпадает
с \u^~nf(u). Однако последняя функция принадлежит
пространству о^о (Rn), поскольку ему принадлежит /. Теперь из A7)
следует, что ф = (/)"€ <&** (Rn) и Ф Ф 0 при <рф 0. Наконец, отображение
ф__^ф сюръективно, так как функции (G)")~(и)=const-{и]1 ~n~f (и)
пробегают всё пространство JP0(Rn)9 когда / пробегает of*(Rn).
Обратимся теперь к пространству Ш> (Rn) = С~ (Rn) и его образу
при преобразовании Радона.
Теорема 2.6 (теорема о носителе). Пусть функция f£C(Rn)
удовлетворяет следующим условиям:
(i) для любого целого k>0 функция \x\hf(x) ограничена;
(и) существует такая постоянная А > 0, что
/® = 0 при d@, Б)>Л,
где d—расстояние в Rn.
Тогда
f(x) = 0 при \х\> А.
Доказательство. Заменяя / свёрткой ф*/, где
ф—радиальная С-функция с носителем в малом шаре Вг @), видим,
что теорему достаточно доказать при /€<£(RW). Действительно,
функция ф*/ гладка, удовлетворяет условию (i) и, в силу E),
условию (ii) с Л, замененным на А + г. Если теорема доказана
в гладком случае, то эирр(ф*/) с cl (Вл+е@)). Полагая е —► (),
получаем supp (/) с cl (ВА @)).
Предположим сначала, что функция / радиальна. Тогда /(#) =
= F(\x\), где F£$(R)—четная функция. При этом / имеет вид
f(£) = £(d@, £)), где функция Р по определению преобразования
Радона задается формулой
£(/>)= $ F((P* + \y\2I/2)dm(y) (р>0).
Rn-t
В частности, так как F четна, функция Р продолжается до четной
функции из &(R). Используя полярные координаты в R", по-

126 Гл. /. Интегральная геометрия и преобразования Радона
лучаем
A8) Р (р) = Qn_, J F ((р2 + /•)!/•) /«-• Л.
о
Сделаем подстановку s = (/?a+/а)-1/а и затем положим и = р~*.
Тогда A8) примет вид
и
о
Запишем для простоты это уравнение в виде
и
A9) ft(w) = J g(s)(wa—s«)(i/i)<«-i)ib.
о
Это интегральное уравнение очень похоже на интегральное
уравнение Абеля (Уиттекер и Ватсон [1927]). Его можно решить
следующим образом. Умножая обе части на u(t2—и2)A/2^Птт^ и
интегрируя по и от 0 до t, получаем
t
\h(u){t%—u%)W*"n~Vudu
о
- J I J g(s) [(и2— s*) (t*—u*)]M*Hn-vd8\udu
= Jg(s) J J «[(/a—u2)(u2—s2)]M2"n-vdu\ds.
Подстановка (t*—s2) v = (t2 + s2)—2u2 позволяет явно вычислить
внутренний интеграл. В результате приходим к равенству
t t
J ft(a)(/i_w2)<i/iM"-8>udu = C J g(s)(t2—s2)n-*ds,
о о
где С—константа. Применим теперь к обеим частям этого
равенства /1—1 раз оператор d/d(t2) = (l/2t)(d/dt), после чего правая
часть с точностью до постоянного множителя станет равной t~1g(t).
Следовательно, мы получим (с некоторой другой константой с)
t
B0) F(rJ)r" = d(J^)nJ(/a~aayi/a)^-3>^-aF(w-l)da.
о
В силу условия (ii), Р(W1) при wl^At т.е. при ^<Л-1. Но
тогда из B0) вытекает, что F (/"*) = О при /<Л \ т.е. при

§ 2. Преобразование Радона в Rn
127
t~x^A. Тем самым теорема доказана для случая радиальной
функции /.
Рассмотрим теперь случай произвольной функции /. Фиксируем
точку x£Rn и рассмотрим функцию
к
как и в формуле A5). Тогда gx удовлетворяет условию (i), причем
B1) ft,(E)»$f (* + *•©*.
к
где через x + k-l обозначена сдвинутая на вектор х гиперплоскость
k•£. Неравенство треугольника показывает, что
d@9x + k-l)>d(Ot I) — \x\9 x£R», k£K.
Поэтому на основании условия (i) и формулы B1) мы заключаем,
что
B2) fo(E) = 0 при d@,t)>A + \x\.
Однако функция gx радиальна, и в силу первой части
доказательства из соотношения B2) следует, что
B3) \f(x + k-y)dk = 0 при \у\>А + \х\.
к
Геометрический смысл этой формулы таков: поверхностный
интеграл от / по сфере Syy\(x) равен нулю, если шар В\у\(х)
содержит шар ВА@). Поэтому наша теорема вытекает из следующей
леммы:
Лемма 2.7. Пусть функция f£C(Rn) такова, что для любого
целого числа k>0
sup И*|/(*)|<оо.
Предположим, что интеграл от f no любой сфере, содержащей
внутри себя единичный шар, равен нулю. Тогда /(*) = 0 при
Н>1.
Доказательство. Идея состоит в том, чтобы, мало
возмущая сферу S в соотношении
B4) $/(s)<to(s)-0
s
и дифференцируя по параметрам возмущения, получить некоторые
дополнительные соотношения.

128 Гл. 1. Интегральная геометрия и преобразования Радона
Заменяя, как и ранее, функцию / на подходящую свёртку
Ф*/, видим, что достаточно доказать лемму для функции /
из &(Rn). Полагая S = SR(x) и рассматривая внешность шара
Рис. 7
BR(x) как объединение сфер с центром в точке х (см. рис. 7)>
получаем, в силу нашего предположения,
S f{y)dy=\f{y)dy,
BR {x) R"
где правая часть не зависит от х. Дифференцирование по xt дает
B5) $ (dif)(x + y)dy=*0.
BR@)
Воспользуемся теперь формулой Грина для векторного поля F
на Rni
B6) J (div F) (у) dy~ $ (F, n)(s)£to(s)t
BR @) SR @)
где n—единичный вектор внешней нормали, a dco—элемент
площади сферы SR@). Так как n = R~x(Sif ..., s„), мы получаем
из B5) и B6) для векторного поля F (у) = / (х + у) (д/ду^
B7) I f(x + s)Sida>(s)^0.

§ 2. Преобразование Радона в R"
129
Но из B4) следует, что
J f(x + s)xiAu(s)^0.
SR@)
Складывая два последних соотношения, приходим к равенству
$/(s)s,dfi>(s) —0.
S
Это означает, что условия леммы выполнены для функции xtf (x).
Итерируя, получаем, что
lf(8)P(8)A»(8)*mO
S
для любого многочлена Р. Таким образом, /гзО на S. Тем самым
лемма, а с ней и теорема 2.6 доказаны.
Следствие 2.8. Пусть функция f£C(Rn) удовлетворяет уело-
вию (i) теоремы 2.6 и, кроме того, f(£) = 0 для всех
гиперплоскостей, не пересекающихся с некоторым компактным выпуклым
множеством С. Тогда
B8) f (*)-0 при х^С.
Действительно, если В—замкнутый шар, содержащий С, то
(по теореме 2.6) / (а:) = 0 при х^В. Но С совпадает с
пересечением таких шаров, откуда и следует соотношение B8).
Замечание 2.9. При доказательстве леммы 2.7
использовалось условие быстрого убывания (/) из теоремы 2.6 (а именно,
мы воспользовались тем, что \x\kf(x)^L1(Rn) при любом &>0).
Естественно возникает вопрос, нельзя ли ослабить это условие
в теореме 2.6, а может быть, и совсем опустить его в лемме 2.7.
В качестве примера, показывающего, что условие быстрого
убывания нельзя отбросить ни в одном из этих результатов,
рассмотрим при л = 2 функцию f(x,y) = (x + iy)~,i, превращенную
в гладкую функцию на R2 изменением ее значений в малом шаре
с центром в нуле. Используя теорему Коши для достаточно
большого полукруга, получаем, что $ f(x)dm(x) — 0 для любой пря-
мой /, лежащей вне единичного круга. Таким образом, выполнено
условие (и) теоремы 2.6. Следовательно, условие (i) нельзя
опустить или существенно ослабить.
Этот же пример годится в случае леммы 2.7. Действительно,
пусть S—окружность |г—z0| = r, охватывающая единичный круг.
Тогда
* С. Хелгасон

130 Гл. /. Интегральная геометрия и преобразования Радона
так что, подсчитывая вычеты, получаем
$2-5B—г0)'Чг = 0
S
(вычеты в точках z = 0 и г = г0 взаимно уничтожаются). Таким
образом, действительно,
S/(s)Ao(s)«0.
s
Напомним теперь, что по определению
@)н(Рп) = Iф£&)(РЛ) для любого k£Z+ функция $ф(о), p)phdp
\ *
является однородным многочленом степени & от
Комбинируя теоремы 2.4 и 2.6, получаем следующее описание
преобразования Радона пространства @)(Rn) = C? (Rn), которое
можно рассматривать как аналог для преобразования Радона
теоремы Пэли—Винера для преобразования Фурье.
Теорема 2.10. Преобразование Радона является биекцией @> (Rn)
на @>н(Рп).
В заключение этого пункта приведем один вариант теоремы 2.6
и следствие из нее.
Лемма 2.11. Пусть f£Cc(Rn), А > 0, со0—фиксированный
единичный вектор и N <z S"'1 — окрестность тонки со0 на единичной
сфере §n~l£Rn. Предположим, что
^ (со, р) = 0 при cog Л/, р>А.
Тогда
B9) / (х) = 0 в полупространстве (х, со0) > А.
Доказательство. Пусть В — замкнутый шар с центром
в нуле, содержащий носитель функции /. Пусть е > 0 и Нс —
объединение полупространств (л:, со) > А + е, где <о пробегает N.
Тогда, в силу нашего предположения,
C0) f(g) = 0 при |сЯв.
Выберем теперь шар Ве с центром на луче, выходящем из нуля
и проходящем через точку — со0, граничная сфера которого
содержит точку (Л + 2е)оH и радиус которого столь велик, что любая
гиперплоскость £, пересекающая В и не пересекающая Ве, лежит

§ 2. Преобразование Радона в Rn
131
в Не. Тогда, в силу C0),
?E) = 0 при Е€РЯ, ?ПВ8=0.
Следовательно, по теореме 2.6, f(x) = 0 при х(£Ве. В частности,
f(x) = 0 при (#, со0) > Л + 2е. Поскольку е > 0 произвольно, лемма
доказана.
Следствие 2.12. Пусть N—открытое подмножество единичной
сферы S"'1. Если f£Cc(Rn) и
/(ю, /?) = 0 при p£R, <u£N,
то f = 0.
Это утверждение очевидно в силу леммы 2.11, поскольку
/(—<о, —р) = /(о), /?).
3. Формулы обращения
Установим теперь явные формулы обращения для
преобразования Радона /—►/ и двойственного к нему преобразования <р—кр.
Теорема 2.13. Функция f может быть восстановлена по своему
преобразованию Радона при помощи следующей формулы обращения:
с/вД»-1)/1(GП, /€*(R»),
где
с = (-4л)<«-^Щ|.
Здесь L—лапласиан в Rn. При четном п дробная степень
£(л-1)/2 нуждается в определении, которое будет дано по ходу
доказательства.
Для начала напомним известный факт: если f£C2(Rn)—
радиальная функция, т. е. f(x) = F(r), где г = |х|, то
CD ш*>-%+*-=±£.
Это—непосредственное следствие соотношений
^ = д^_/дг_\2 д[д^
дх\~ drl\dxi) +drdxf
Лемма 2.14. (i) LMr = MrL при любом г > 0. (ii) Tlpuf^C2(Rn)
среднее значение (Mrf) (x) удовлетворяет «уравнению Дарбу»
Lx((Af7) <*)) = (§5 + п-=±|) (M'f) <*),
т. е. функция F(x, у) = (МЩ)(х) удовлетворяет уравнению
5*

132 Гл. I. Интегральная геометрия и преобразования Радона
Доказательство. Докажем эту лемму теоретико-групповым
методом, используя выражение A5) для среднего значения. Для
z£Rn, k£K обозначим через Tz сдвиг х—*x + z, а через Rk —
вращение х—►£•*. Так как оператор L инвариантен относительно
этих преобразований (см. п. 1 § 2 гл. II), то при г = |#|
(LM'f)(x) = J Lx(f(x + k.y))dk = J (Lf)(x + ky)dk = (MrLf)(x)
к к
= l[(Lf)oTxoRk] (y)dk=\[L (foTxoRk)] (y)dk = Lyn Kx+2f.y)dk)t
к к n/c /
чем лемма и доказана.
Переходя к доказательству теоремы 2.13, возьмем /€^(КЛ)-
Фиксируем некоторую гиперплоскость £0, проходящую через
начало координат, и некоторую изометрию g£M(ri). Когда k
пробегает группу О (я), gk'lo пробегает множество всех
гиперплоскостей, проходящих через точку g-О. Мы получаем, что
ф(*-0)=5ф(вг*-Ь)Л.
к
Отсюда следует, что
(fr(g-V-l(lf(gb-y)dm(y)\dk = l^
K\to J to К
= \{M\y\f){g-0)dm{y).
So
Следовательно,
00
C2) (f)" (x) = Qn_i $ (M'f) (x) r"~* dr,
0
где Q„_i—площадь единичной сферы в R""", т. е.
п 2я<я-1>/1
w*-ifBS"n \ •
r(-Jr <*-!>)
Применяя оператор L к обеим частям равенства C2) и используя
C1) и лемму 2.14, получаем
C3) L((/)) = Q„_]|^ + ^^r»-Mr.

§ 2. Преобразование Радона в R*
133
Здесь F(r) = (Mrf)(x). Интегрируя по частям и используя
равенство F@) = /(*), lim rkF{m) (г) = 0, находим
Г->00
{—®n-J(x) при n = 3,
£((/) ) = j_Qni(„_3) J F(r)r"-*dr прия>3.
Более общо,
(-(n-2)f(x) при*=1,
H{(A,r/)Wr*dr)"{-(n-l-ik)(*-l)J/'Wf»-i^npHik>l.
В случае нечетного я формула из теоремы 2.13 получается
отсюда итерацией.
Обращаясь к случаю четного п, используем определение
дробной степени Un~1)l2 в терминах потенциалов Рисса h (см. далее
формулы (81) и (82)). В силу формулы A7), имеем
C4) (?f =2"-*л<"/2>-1Г (у) /«-*/.
Применяя предложение 2.38 и определение L<"-1>/2 (см. формулу
(85) ниже), получаем требуемую формулу из теоремы 2.13;
C5) L<"-i>/*((?f ) = */.
Докажем теперь аналогичную формулу обращения для
двойственного преобразования <р —► <р на подпространстве<!f*(pn)c:(>f(jpn).
Теорема 2.15. Справедливо равенство
сф = П<"-1>/2((ф)'4) При <р€сУ*(р"),
где
0 1 зь' Г A/2) *
Здесь через □, как и ранее, обозначен оператор d2/dpt,
дробные степени которого снова определяются в терминах
потенциалов Рисса на одномерном ^-пространстве.
При нечетном п наша формула обращения следует из нечет-
номерного случая теоремы 2.13, если положить /*=Ф и принять
во внимание лемму 2.1 и следствие 2.5.
Пусть теперь п четно. Мы утверждаем, что
C6) ((— L)<"-}>/2/)~ =(—Q)(*-i>/2^ при f$<P*{Rn),

134 ' Гл. I. Интегральная геометрия и преобразования Радона
Действительно, ввиду леммы 2.37 и следствия 2.5 обе части
равенства принадлежат <У7*(рп). Выполняя над ((—Lp-!)/*/) ~
одномерное преобразование Фурье, получаем в силу D)
((— L)in-iV*f)~ (ж>)-|* !""*?(*»)•
Но это выражение совпадает с преобразованием Фурье от
(—П)("~1)/2/> так что равенство C6) доказано. Теперь
утверждение теоремы 2.15 следует из C5), если положить в равенстве C6)
Ф-if. /-tef .*€*4R").
Ввиду важности теоремы 2.13 для теории дадим еще одно
доказательство этой теоремы, представленной в несколько
измененном виде. Новое доказательство менее геометр ично и прибегает
лишь к одномерному преобразованию Фурье.
Пусть Ж—преобразование Гильберта
00
— 00
где интеграл понимается в смысле главного значения по Коши.
Определим Лф при ф6^(ря) следующим образом:
{^пФ(со,/7) при нечетнрм п,
fflpjpttVi®' Р) ПРИ четном п.
Заметим, что в обоих случаях (Лф)(—со, —р) = (Лф) (со, р), т. е.
Лф является функцией на рп.
Теорема 2.16. Пусть Л—оператор, определенный равенством
C7). Тогда
cf = (Aff при feP(Ra),
где, как и ранее,
с-К ™) г A/2)#
Доказательство. В силу формулы обращения для
преобразования Фурье и равенства D), имеем
00/00 ч
/ (х) = Bя)-« $ *»$ ( S e~ ispJ (<°> Р)dP )eis (Xt ^s"'1 ds

§ 2. Преобразование Радона в Rn
135
что можно записать также следующим образом:
f(x) = Bn)~n J F(co, x)dn
= Bя)-« J ^(F(u,x) + F(— m,x))eto
Используя равенство f(—со, —p) = f((utp)f приходим к формуле
00 СО
C8) f(x) = jBn)-n С dco C ls|»-»e*e<*'*>ds f e~tspf(a, p)dp.
Пусть п нечетно. В этом случае модуль от s можно не брать. От?
множителя sn~x можно избавиться, заменив /(со, р) на(—i)n(dn/
dpn'1)f((oip). Тогда формула обращения для преобразования
Фурье на R дает
/(ж) = 1Bя)-"Bя)+1<-0п-х Г J|^JKp)l <to,
что и требовалось доказать.
Предполагая теперь, что п четно, положим
SgnS = j 1 "Ри s>°>
V
-1 при s < 0.
При некоторой константе е0 справедливо равенство
C9) f(x) = c0 j d©^(sgns)e'»^*>£bj^lf(©, p)e-*»dp.
Главное значение по Коши
ф —Иш Г ШAх
является распределением умеренного роста, преобразование Фурье
которого равно —m'sgns (см. предложение 2.39). Следовательно,
D0) (SVF)~(s) = sgnsF(s).
Множитель sgn s в приведенном выше интеграле "можно удалить
е помощью замены
(d»-4dpn-l)f(<o, p) на Л/(со, р).
Теперь требуемый результат получается из формулы обращения
для одномерного преобразования Фурье.

136 Гл. I. Интегральная геометрия и преобразования Радона
4. Формула Планшереля
Напомним, что функции на рп отождествляются с четными
(<р(—со, — /?) = ф(о), р)) функциями <р на S"_1xR. Поэтому
функционал
D1) <р-+ J J Ф(о>, p)d(odp, ф£Сс(р")
является корректно определенной мерой на Рп, обозначаемой
далее da) dp. Группа М (п) собственных движений пространства Rn
транзитивно действует на Р". Далее, мера dadp инвариантна
относительно нее. Последнее утверждение достаточно проверить
для сдвигов Т из Ж (я), поскольку М(п) порождается сдвигами
и вращениями вокруг нуля и мера da) dp очевидным образом
инвариантна относительно этих вращений. Но
(фоГ) (со, р) = ф (со, р + q (со, Т)),
где q (со, X) € R не зависит от р. Поэтому
Jj (фо^М*0» p)d(odp= J j Ф(®» Р+ Я(®> T))dpd®
= ^(р((д, p)dpd(o,
что и доказывает утверждаемую инвариантность.
В соответствии с равенствами (81) и (82) дробная степень □*
определяется на <У(РП) следующим образом:
D2) (-П)*ФК Р)^н^=щ^Ч>(^Я)\р-ч\'2к'1AЧ.
R
Тогда одномерное преобразование Фурье от этой функции
удовлетворяет равенству
D3) ((— □)* ф)~ (со, s) = | s |2*ф (со, s).
Если теперь /€^(Rn)» то в силу D)
/(о, /?) = Bя) J f(sco)eisPds
и
D4) (—П)(л)/4Г(со,/7) = Bя)-1 J Isl**-1*/2/ (sco)^ds.
R
Теорема 2.17. Отображение / —>П(Л~1)/4? продолжается до
изометрии пространства L2(Rn) на пространство Li(Sn~lxR)
четных функций из IA(Sn~lxR), причем мера на S"xR
считается равной
\BnI'ndmdp.

§ 2. Преобразование Радона в Rn
137
Доказательство. В силу формулы Планшереля для R и
равенства D4), имеем
Bя) J |(—D)(n,/4fК р)\Ыр = J \s\"-l}(m)\*d8.
R R
Поэтому, интегрируя по S" и используя формулу Планшереля
для отображения /(*)—>/(sg>), получаем
^\f{x)\*dx = \Bnf-» J \0(n-1L(^p)\2dcodp.
R" S"-1XR
Осталось доказать сюръективность рассматриваемого отображения.
Для этого достаточно показать, что если
cp£L2(Sn~1xR)—четная функция и для всех /€<^(Rn) выполняется равенство
S $ф(ю, Р)(-ПГ/4/(со, p)d<odp = Q,
то ф = 0. Беря преобразование Фурье по /?, видим, что достаточно
доказать следующее: если функция -ф £ L2 (S*-1 x R) четна и для всех
/€*(R")
D5) J $ф(ю, s)|s|<n-1>/2/(so))dsd(o = 0,
S» R
то -ф == 0. Учитывая соотношение г|)(—со, —s) = i|)(g), s), находим,
что
о
I S ♦f®» s)[s|<1/2)<rt-1)/(so))dsd(o
00
= S 5г|)((о, /)|fp/2)("-D/(/o))^du).
Поэтому равенство D5) выполнено и при замене R на
положительную полуось R+. Но тогда функция
У(и)=ъ(щ,\и\)\"\-{п-1)/2> "екл\{0},
удовлетворяет равенству
$ W(u)f (u)du = 0
при всех /€<^(R")- Поэтому ¥ = 0 почти всюду, т. е. г|) = 0.

138 Гл. I. Интегральная геометрия и преобразования Радона
Замечание. Комбинируя теорему 2.16 с равенством D6),
получаем другой вариант формулы Планшереля:
D5') с $ f(x)g(x)dx = $ №A)ёа)с%, f,g£ ®(R%
5. Преобразование Радона распределений
В § 3 (предложение 3.6) будет в весьма общей ситуации
доказано, что для f£Cc(Rn), <p(zC(pn) выполняется равенство
D6) J /®Ф®4= J f(x)y(x)dx,
рп R»
где d£—подходящим образом выбранная Ж (л)-инвариантная мера
на р", т. е. dl=;yd(ddp, где у—константа, не зависящая от / и
ф. Имея в виду приложения к распределениям, мы докажем
тождество D6) в несколько более сильной форме. Поскольку
далее будут рассматриваться сложные функции (композиции),
удобнее иметь дело с измеримыми по Борелю функциями.
Лемма 2.18. Пусть f и ф—измеримые по Борелю функции
на R" и Рп соответственно. Равенство D6) справедливо (для
функций /«ф, определенных почти всюду) в следующих двух случаях:
(a) / £ L1 (R") равняется нулю вне некоторого компакта, Ф £ С (р");
(b) f£Cc(R.n), ф локально-интегрируема.
При этом d&^Q^dtodp.
Доказательство. Будем использовать теорему Фубини
для произведения R^xS" и для произведения R" = RxR,,~1.
Так как /^L^R"), то для любого (d^S"-* функция /(со, р)
определена при почти всех /?, причем
J f{x)dx=\ f (со, p)dp.
Rn R
Далее, так как для любого со функция J (со, р) определена при
почти всех /?, из теоремы Фубини следует, что / (со, р) существует
при почти всех (о, р) £ Sn~l x R. Рассмотрим теперь измеримую
по Борелю функцию (х, со) —► / (х) ф (со, (со, *)) на R^xS"". Имеем
j |/(*)ф(©1 (<°> x))\dtodx
= S ( J |/(*)ф(ю. К x))\dx\d(d
- S fSl/ГК Р)|ФК P)\dp)dco.
S/l-l^R J

§ 2, Преобразование Радона в Rn
139
Последнее выражение конечно в обоих рассматриваемых в лемме
случаях. Таким образом, функция /(х)ф(со, (со, х)) интегрируема
на R^xS"-1, и интеграл от нее может быть вычислен по
приведенной выше формуле, если опустить в ней знак модуля. Это
дает левую часть D6). Меняя порядок интегрирования, заключаем,
что ф(л;) существует при почти всех х и что наш двойной
интеграл приводится к правой части равенства D6).
Формула D6) указывает, как следует определить
преобразование Радона и двойственное к нему преобразование в случае
распределений. Для того чтобы сделать эти определения формально
согласованными со случаем функций, надо положить S(cp) = S((p),
Б (/) = 2 (/), если S и 2—распределения на Rn и р" соответственно.
Однако, в то время как из включения f£3)(Rn) следует
включение f£@>(Pn), аналогичная импликация для ф неверна. Нельзя
даже утверждать, что q>€<!f(R.n) при ф£й)(р"). Следовательно,
S нельзя определить по вышеприведенной формуле, даже если
S—распределение умеренного роста. Используя обозначения <§
(соотв. ib) для пространства С00-функций (соотв. С°°-функций с
компактным носителем) и ЗУ (соотв. £') для пространства
распределений (соотв. распределений с компактным носителем), введем
следующее определение:
Определение. Для всякого S £ &' (Rn) определим функционал
S равенством
$(<p) = SD>) при ф€*(Р").
Для 2 £ &' (р") определим функционал 2 равенством
S(/) = 2(f) при /€»(R").
Лемма 2.19. (i) Для любого распределения 2^®/(р'1) имеет
место включение 2 £ ®' (Rn).
(ii) Для любого распределения S£$'(Rn) имеет место
включение §€<§'(рп).
(iii) Справедливы равенства
(LS)^ = DS, (D2)^=L2.
Доказательство. Пусть Л>0. Обозначим через &>A(Rn)
множество функций f£@)(Rn) с носителем, содержащимся в
замыкании шара ВА @). Аналогично пусть ёЬА (р") обозначает
множество функций ф (Е ® (IP") с носителем в замыкании «шара»
M0) = {S€1P d@, l)< A}.
Отображение /-—*} непрерывно как отображение из S>A(Rn) в
®Л(Р") (в топологиях, описанных в § 1 введения). Сужение

140 Гл. I. Интегральная геометрия и преобразования Радона
функционала 2 на каждое подпространство £DA(Rn) непрерывно.
Отсюда следует (i). To что S является распределением, ясно из
формулы C). Что касается его носителя, то выбираем такое число
R > 0, чтобы носитель распределения S содержался в шаре
BR@). Тогда если ф(со, р) = 0 при p^Rt то <р(л:) = 0 при
|х|<#, следовательно, £(ф) = 5(ф) = 0.
Что касается утверждения (iii), то заметим, что по лемме 2.1
(LSrD>) = (LS)(y) = S(Ly) = S((n4>r)
= S(D<P) = (DS)(<P).
Второе соотношение устанавливается аналогично.
Докажем теперь аналог теоремы о носителе (теоремы 2.6) для
распределений. Пусть множество $А @) определено для А > 0,
как и раньше.
Теорема 2.20. Если распределение T£<§'(Rn) удовлетворяет
условию
suppfcclM)),
то
suppTc:cl(BA@)).
Доказательство. Для f€@>(Rn), q>€@)(pn) можно
рассмотреть смешанную свёртку
R»
где £€РЯ, а £—у—это сдвиг гиперплоскости | на вектор —у.
Тогда
(/хфГ=/*ф.
Действительно, если 5о—произвольная гиперплоскость,
проходящая через 0, то
(fX4>V(x)=>ldk $ f(y)<p(x + k.lo—y)dy
К Rn
~[dk [ f(x-yL(y + k-lb)dy
К R»
*=(/*ф)(*)-
В силу определения распределения 7\ наше предположение о его
носителе эквивалентно тому, что для всех функций ф€®(рЛ) с
носителем в рЛ\с1 фА @)) выполнено равенство
Г(ф) = 0.

§ 2. Преобразование Радона в Rn
141
Пусть в > О, /£^>(R")—четная функция с носителем вс1(£е@))
и <р£@)(рп) имеет носитель, содержащийся в Рп\с\фА+е@)).
Так как d@, £—y)^d@, Ъ) + \у\, мы заключаем, что носитель
смешанной свёртки / х ф содержится в p"\cl фА @)). Таким образом,
в силу вышеприведенных формул и четности функции /,
(/*Г)(ф) = Г(/*ф) = Г((/хф)^) = 0.
Но тогда
(/*Г)-(ф) = (/*Г)(ф)^0,
откуда следует, что носитель распределения (f*Ty содержится в
с1(Рл+е@)). Теперь из теоремы 2.6 следует, что носитель свёртки
/*Т лежит в с1(£л+е@)). Устремляя 8 к нулю, получаем
требуемое заключение: suppTc:c\(BA@)).
Замечание. Усиление этого результата дано в упр. В5.
Теперь мы можем распространить формулу обращения для
преобразования Радона на случай распределений. Заметим прежде
всего, что преобразование Гильберта Ж можно распространить
на распределения Т с компактным носителем на оси R.
Достаточно положить
SV(T)(F) = T($VF) для F£3>(R).
Действительно, так как Ж является оператором свёртки с
распределением умеренного роста, то отображение F—+&CF
непрерывно отображает 3)(Щ в <S (R) (см. п. 8 ниже). В частности,
SV{T)£®'(R).
Теорема 2.21. Обращение преобразования Радона S—+3
(S££'(Rn)) дается следующей формулой:
cS = (ASy,
где
-<-4„)<.-п,Ш§.
В случае нечетного п справедливо также равенство
Замечание. Так как S имеет компактный носитель, а
оператор Л определен с помощью преобразования Гильберта,
сделанное перед теоремой замечание показывает, что А§£@)'(Рп).
Следовательно, правая часть формулы обращения определена
корректно.

142 Гл. /. Интегральная геометрия и преобразования Радона
Доказательство. Используя теорему 2.16, получаем
(ASy (/) = (AS) (/) = S (Л/) = S ((Л/Г) = cS (/).
Вторая формула обращения следует теперь из леммы 2.19.
Пусть М—многообразие и ф—мера на нем, такая что в
каждой координатной окрестности с координатами (/1э ..., tn)
мера Лебега dtx...dtn и мера d\x взаимно абсолютно непрерывны.
Если h—локально-интегрируемая относительно ф, функция на М,
то обозначим через Th распределение ф —* } Аф d\i.
Предложение 2.22. (а) Пусть функция /gL^R") равна нулю
вне некоторого компакта. Тогда преобразование Радона
распределения Tj задается равенством
D7) 7> = 7у
(Ь) Пусть функция ф локально-интегрируема на Р". Тогда
D8) (Т*Г=Т~.
Доказательство. Существование и локальная
интегрируемость функций / и ф были установлены в ходе доказательства
леммы 2.18. Поэтому требуемые две формулы непосредственно
следуют из леммы 2.18.
Из этого предложения вытекает, что в формулах обращения
предположение о гладкости можно опустить. Мы можем
установить, в частности, следующий результат.
Следствие 2.23. Пусть п нечетно. Формула обращения
cf = L("-iV*((fy), c = (-4n)("-iV2W),
справедлива для всех функций /gL^R") с компактным
носителем, если дифференцирования понимать в смысле распределений.
Примеры. Если \i — мера (или распределение) на
подмногообразии S многообразия М, то распределение ф —+[а(ф|5) на М
также будем обозначать через \i.
(а) Пусть б0—дельта-функция /—>/@) в Rn. Тогда
К (Ф) = So (ф) = &П1 $ ФК 0)dco,
т. е.
D9) 60 = Q-1ms«-i,

§ 2. Преобразование Радона в IR* 143
где в правой части равенства стоит нормированная мера на сфере
S*", рассматриваемая как распределение на S"_1xR.
(b) Пусть £0 — гиперплоскость хп = 0 в Rn и б|0—дельта-функция
ф—>фE0) в Рп. Тогда
So
т. е.
E0) Sgo = mg0,
где справа стоит евклидова мера на £0.
(c) Пусть %в—характеристическая функция единичного шара
BcRn. Тогда в силу равенства D7)
Ы <•./»>-( 0 при |р|>1.
(d) Пусть Q —выпуклая область вК" с гладкой границей.
Получим формулу, выражающую объем этой области через
площади ее сечений гиперплоскостями. Предположим для простоты,
что п нечетно. Характеристическая функция %я является
распределением с компактным носителем, поэтому корректно определено
распределение (%о)~. Приближая %q в /Анорме
последовательностью функций (\|?„)c:iZ>(Q), заключаем на основании теоремы 2.17,
что последовательность йр1/2)(л),фп((о, р) сходится в /Лнорме на
Рп. Так как
№пA)Ч>а)Я=^п(х)Ч>(х)сЬс,
из неравенства Шварца следует, что i|>„ —*(%q)~ в смысле
распределений. Соответственно ^(i/2)(«-d^ сходится в смысле
распределений к функции ^/^""^((хо)"). Так как из /Асходимости
следует сходимость в смысле распределений, эта последняя функция
совпадает с /Апределом последовательности 5A/2)(л)^л. Таким
образом, из теоремы 2.17 и следствия 2.23 мы получаем следующий
результат;
Теорема 2.24. Пусть QcR" (где п нечетно)—выпуклая область
и V(Q)—ее объем. Пусть далее Л (со, р) обозначает (п —
1)-мерную площадь пересечения Q с гиперплоскостью (х, со) = /7. Тогда
«., v<»-im-n\e%
0A/2) (П-1)Л(@> р)
.A/2) (/1-1)
dp (ко.

144 Гл. I. Интегральная геометрия и преобразования Радона
Кроме того,
ca*{x)^L¥*nn-x)( $ ^ Л(со, (х, co))dco\ св = 2Bш)»-\
где применение оператора в правой части понимается в смысле
распределений.
6. Интегрирование по {/-мерным плоскостям.
Рентгеновские преобразования
Пусть d—фиксированное целое число из промежутка 0 < d < п.
Поскольку каждую гиперплоскость в Rn можно рассматривать
как дизъюнктное объединение параллельных d-мерных плоскостей,
параметризованных точками пространства Rw_d, из D) очевидным
образом следует, что если функция j£af(Rn) имеет нулевые
интегралы по всем d-мерным плоскостям (d-шюскостям) bR", to она
тождественно равна нулю. Аналогичным образом из теоремы 2.6
можно вывести
Следствие 2.25. Пусть функция f£C(Rn) удовлетворяет
следующим условиям:
(i) для любого целого числа т>0 функция \x\mf(x)
ограничена на Rn\
(ii) для любой d-плоскости \d, не пересекающейся с шаром
\х\<А9
\f(x)dm(x)**0,
U
где dm—евклидова мера.
Тогда f(x) = 0 при \х\>А.
Определим теперь d-мерное преобразование Радона f—+J
формулой
E2) f(l)=\f(x)dm(x)9
I
где I—произвольная d-плоскость.
В связи с приложениями к рентгенографии, отмеченными в
подпункте В п.7, одномерное преобразование Радона часто
называют рентгеновским (или лучевым) преобразованиемх).
Следствие 2.25 можно теперь переформулировать таким образом:
1} В оригинале X-ray transform. — Прим. перев.

§ 2. Преобразование Радона в Rn
145
Следствие 2.26. Пусть функции f, g£C(Rn) удовлетворяют
следующему условию быстрого убывания:
для любого т > 0 функции \х\т f (х) и \х\тg(x) ограничены
на R.
Предположим, что их d-мерные преобразования Радона
удовлетворяют условию
для любой d-плоскости £, не пересекающейся с единичным шаром.
Тогда
f(x) = g(x) при |*| > 1.
Теперь обобщим формулу обращения из теоремы 2.13. Пусть
Ф — непрерывная функция на пространстве d-плоскостей в Rnl).
Обозначим через <р функцию, определяемую по формуле
где \i—единственная инвариантная относительно вращений
вокруг точки х мера на (компактном) пространстве d-плоскостей,
проходящих через точку х, с полной мерой 1. Если
а—фиксированная d-плоскость, проходящая через начало координат, то по
аналогии с A6) имеем
E3) u(*)=$cp(* + fc.a)dft.
к
Теорема 2.27. Для d-мерного преобразования Радона в Rn имеет
место следующая формула обращения:
E4) c/ = L(i/2>d((/V) при /€<^(Rn),
где
г (л/2) ,_4 )il/2)d
Доказательство. По аналогии с C2)
((fr)(x) = \^f(x + k.y)dm(y)yk
^\dm{y)\f{x + k.y)dk = \{M\y\f)(x)dm(y).
Снабженном естественной топологией.— Прим, ред.

146 Гл. I. Интегральная геометрия и преобразования Радона
Следовательно,
00
<fr(x) = Qd\{M'f)(x)r*-*dr.
О
Применяя полярные координаты с полюсом в точке х, получаем
E5) (/Г <*>--8г f \х-У\а-п!(У)аУ-
Поэтому утверждение теоремы следует из предложения 2.38.
В качестве следствия из теоремы 2.10 получим теперь ее
обобщение, дающее описание образа пространства @>(Rn) при d-мер-
ном преобразовании Радона.
Множество 0(d, n) всех d-плоскостей Rn является
многообразием и, более того, однородным пространством группы М (п) всех
изометрий пространства Rn. Пусть Qi% n—многообразие всех d-
мерных подпространств (d-плоскостей, проходящих через начало
координат) в R". Параллельный сдвиг каждой d-плоскости в
плоскость, проходящую через начало координат, определяет
отображение я многообразия G (d, n) на Grfi n. Прообраз я (а) элемента
о € Ga, п естественным образом отождествляется с ортогональным
дополнением сМ- к d-плоскости о1]. Будем писать Ъ = (о, х"), если
о=;я(£) и х? = а±Г\& Тогда равенство E2) можно записать
в виде
E6) f(o, x")=\f{x' + x")dx'.
о
Рассмотрим для k£Z+ многочлен
E7) Pk(u)=*\f{x){xyufdx.
Если u = u"€oi-, то его можно записать в виде
J f(x)(x, u")kdx = J \f{x' + xT){x\ u")kdx'dxr,
так что многочлен
al
является сужением многочлена Рк на or-1-.
1} При этом отождествлении каждой d-плоскости ^д" (о) сопоставляется
точка gQa^c a1.— Прим. перев.

§ 2. Преобразование Радона в R"
147
По аналогии с пространством £DH(jpn) из п. 2 определим
пространство £DH(G(d, n)) как множество С°°-функций ф(£) = фст(*")
с компактным носителем на G (d, я), удовлетворяющих
следующему условию:
(Я) Для всякого числа k£Z+ существует такой однородный
многочлен Pk степени k на R", что для любого элемента
a£Gd%n многочлен
Pa, k (и") = $ Фа (хп) (хГ, и")* dx\ и" е a-L
а'
совпадает с сужением Pk\o^.
Следствие 2.28. d-мерное преобразование Радона является
биекцией пространства iD(Rn) на @>H(G{d> nj).
Доказательство. При d = n — 1 это теорема 2.10. Сведем
теперь случай произвольного d к случаю d = n— 1. В
доказательстве нуждается только утверждение о сюръективности.
Пусть q>€@>H(G(d, п)) и ogR"—единичный вектор. Выберем
d-мерное подпространство а, перпендикулярное со, и рассмотрим
(п —d— 1)-мерный интеграл
E8) Ya@), р) = $ Фа(*")^-*-1(Л, /7^К.
(СО, ЛГ") = Р
Мы утверждаем, что этот интеграл не зависит от выбора а.
Действительно,
$ ¥а (со, р) рЧр = \ р* ( $ Фа (Л d^^ (^)) dp
R R
= S Фа (*")(*", О)* d*" = Pfe ((D).
a-L
Если мы выберем другое подпространство, перпендикулярное со,
скажем alf то по доказанному функция 4^@), р)— Ч^, (о, р)
будет ортогональной ко всем многочленам от р. Поскольку эта
функция имеет компактный носитель, она обязана быть
тождественным нулем. Итак, мы имеем корректно определенную
функцию ¥(@, р) = Чга(о), р), к которой применима теорема 2.10.
(Следует заметить, что функция Т гладкая. Действительно, при
со, близких к некоторому фиксированному о>0, мы можем
заставить подпространство а гладко зависеть от о, так что функция
^(ю, р) будет гладкой.) По теореме 2.10 найдется такая
функция f€&>(Rn), что
E9) Ч>, р)= $ f(x)dm(x).
(х, со)=р

148 Гл. /. Интегральная геометрия и преобразования Радона
Остается доказать, что
F0) Фа(дОв5/(*' + дО<**'-
а
Но из E8) и E9) следует, что обе части соотношения F0) имеют
одинаковые интегралы по произвольной гиперплоскости в а-к
Теперь справедливость равенства F0) вытекает из инъективности
(п—d—1)-мерного преобразования Радона на а1. Следствие
доказано.
7. Приложения
А. Дифференциальные уравнения в частных производных
Формула обращения из теоремы 2.13 очень удобна для
приложений к дифференциальным уравнениям в частных
производных. Для того чтобы пояснить лежащий в основе этих
приложений принцип, запишем формулу обращения в виде
F1) /(*) = YL<T1)/2 S />> <*.<*))*>.
где Y = •2"BшI",,. Заметим, что функция /®(x) = f(fl>, (х, ю))
является плоской волной с нормалью со. Это означает, что она
постоянна на каждой гиперплоскости, перпендикулярной
вектору О).
Рассмотрим теперь дифференциальный оператор
с постоянными коэффициентами а^ ... *„. Предположим, мы хотим
решить дифференциальное уравнение
F2) Du = ft
где /—заданная функция из <SP(Rn). Для того чтобы облегчить
применение формулы F1), предположим, что п нечетно. Начнем
с рассмотрения уравнения
F3) Do-U
гДв /о—определенная выше плоская волна. Будем искать его
решение v также в виде плоской волны с нормалью о. Но
плоские волны с нормалью со—это в действительности просто
функции одной переменной. Далее, если v—плоская волна с
нормалью о, то этим же свойством обладает и функция Dv. Поэтому
дифференциальное уравнение F3) (где v—плоская волна) является
обыкновенным дифференциальным уравнением с постоянными коэф-

§ 2. Преобразование Радона в R*
149
фициентами. Предположим, что и = Ио>—его решение и что это
решение можно выбрать гладко зависящим от со. Тогда функция
F4) u = yDn-iV* S Иа>Жо
будет решением дифференциального уравнения F2). В самом
деле, поскольку операторы D и И*-1*/2 коммутируют, мы имеем
Du^yU»-1»* S Dw@dco=YL(/l)/2 S /»*» = /.
Для применимости этого метода требуется лишь
существование решения аш типа плоской волны у обыкновенного уравнения
Dv = f@ и возможность выбрать его гладко зависящим от вектора
со. Это, однако, не всегда можно сделать, так как D может
аннулировать все плоские волны с нормалью со. (Возьмем,
например, D = d2/(dx1dx2) и со = A, 0).) Но если сужение оператора на
плоские волны нигде не обращается в нуль, то, как следует из
одной теоремы Трева [1963], решение и& может быть выбрано
гладко зависящим от со. Таким образом, справедлив следующий
результат:
Теорема 2.29. Пусть сужение D^ оператора D на
пространство плоских волн с нормалью со не равно нулю ни при каком со.
Тогда формула F4) дает решение дифференциального уравнения
Du = f <J€*(R»)).
Метод плоских волн можно также применить для решения
задачи Коши для гиперболических уравнений с постоянными
коэффициентами. Проиллюстрируем этот прием на примере
волнового уравнения в Rn
F5) ^ЧшГ' *(*' 0)==0' #<*• °Н/М>
где f£Jf(Rn)—заданная функция.
Лемма 2.30. При любом x£Rn справедливо равенство
/аач Г I/ ч|* л 2яA/1)(л-1)Г((Л+1)/2) , lk
F6) J к©, *)|**>« v((k+nm 1*1*-
Доказательство. Гиперплоскость, перпендикулярная
вектору х и удаленная на расстояние р от начала координат,
пересекает Sn~x по (п—2)-мерной сфере радиуса A—р2I/2.
Подынтегральная функция равна на этой сфере константе (\х\р)к. Из

150 Гл. /. Интегральная геометрия и преобразования Радона
рис. 8 понятно, что
Отсюда вытекает, что
ds
^-A_Л-1Л.
1
J |(о>, x)\U^^2\Qn^(\-p^^^(p\x\)k{\-p^y^dp}
S"-1 0
откуда и следует утверждение леммы.
Рис. 8
Используя формулу F6), а также доказываемые ниже
равенства (88) и (89), мы можем при нечетном п получить тождество
F7) Lin+1)/2 U J f(y)\(*-y>«>)\d«>)dy = 4Bniy-if(x).
Предположим, что иы—плоская волна с нормалью о,
удовлетворяющая уравнению
(начальное условие игнорируем). Тогда функция
Z(x, t)= J «о, (л:, *)**>.
а также свёртка
v(x, /) = $/(*/)Z(*-t/, 0d|f/
R»
тоже будут решениями. Производная по времени от этой свёртки
удовлетворяет равенству
vt(x, 0) = J f(y)Zt{x-y,0)dy9
Rn

§ 2. Преобразование Радона в Rn
151
поэтому, учитывая тождество F7), попытаемся определить и^
таким образом, чтобы
Zt(x, 0)= J \(xf co)|d(o.
Для этого положим
М*> 0 = у((^ <*)+tJSgn((X, @)+t).
Получаем следующий результат:
Теорема 2.31. Пусть п нечетно. Тогда решение задачи Коши
F5) дается формулой
и(х> ^==8BяОл-1
xL<rt+1)/a J f(x-y) J ((</, a>) + 0asgn((*/, coJ + Odcodr/.
RH $n-i
Приведем теперь при п = 3 эту формулу к иному виду. Так
как функция И(о удовлетворяет волновому уравнению, мы можем
записать нашу формулу в виде
и (х, t) = —TWW J f(y>> I It S sSn {(*—#» <°) + 'J dcol d#-
R* L S* J
Как и в доказательстве леммы 2.30, вычислим интеграл по S2
путем интегрирования по слоям, перпендикулярным вектору х—t/.
Это дает
J sgn{(*—у, со) + /}Ло = 2л; J sgn{|*—t/1p + t}dp.
$* -l
Поскольку /^0, последний интеграл равен
of г , I 1-1лл Dя|*—у|-Ч при t<\x—y\,
Следовательно,
а<*' «--iy J f(y)\*-y\-*dy
\x-y\>t
CO
iwj^ I p-VOfXtoOf)
' 5p (x)
= ±Dnt*)t->(M*f)(x).
Тем самым доказан следующий результат Пуассона)

152 Гл. 7. Интегральная геометрия и преобразования Радона
Следствие 2.32. При п = Ъ решение задачи F5) дается
формулой
и(х, t) = t(M*f)(x).
Замечания, (i) Аналогичная формула верна для любого
п. Решение уравнения F5) дается формулой
t
" <*' 0 = („-2I №-*. I (М"П <*> Р (^-Р2)A/8) <П-8) Ф
о
(см. Тедоне [1898], Асгейрссон [1937], Джон [1955, гл, II]). Одна
формула такого типа выводится в упр. F 1 гл. II.
(и) Принцип Гюйгенса. Формула из следствия 2.32
показывает, что значение u(xt t) определяется значениями / на сфере
St(x) в R3. Это явление, называемое принципом Гюйгенса, имеет
место также и в R" (при нечетном п) в несколько более слабой
форме. Действительно, если выполнить дифференцирования
dn~2/dtn~2, то мы получаем линейную комбинацию
k
с полиномиальными коэффициентами рк. Тем самым доказано
следующее утверждение:
При нечетном п решение и(х, I) задачи Коши F5)
определяется значениями f на сколь угодно тонком сферическом слое
вокруг St(x).
При четном п интеграл не исчезает, поэтому нахождение
значения u(xf t) требует знания функции / в шаре Bt(x).
В. Рентгенография
Классическая интерпретация рентгеновского снимка—это
попытка восстановить свойства трехмерного тела по его лучевым
проекциям на плоскость.
При современной рентгеновской технологии снимку дается
более тонкая математическая интерпретация. Пусть BcR3—тело
(например, какая-либо часть человеческого тела) и f (х)—его
плотность в точке х. Пусть |—прямая в R3. Предположим, что
на В направляется тонкий пучок рентгеновских лучей вдоль £.
Обозначим через /0 и / соответственно интенсивность пучка до
вхождения в тело В и после выхода из него. Тогда из
физических соображений вытекает (см. Кормакк [1963]) формула
1п(/в//) =$/(*) dm (*),
г

§ 2. Преобразование Радона в Rrt
153
где справа стоит интеграл /(£) от функции / вдоль прямой £.
Поскольку левая часть данного равенства определяется по
рентгеновскому снимку, то задача восстановления информации по
снимку сводится к определению функции / по значениям ее
интегралов /(£) вдоль прямых. Формула обращения из теоремы 2.27
дает явное решение этой задачи.
Пусть В0аВ—выпуклое подмножество рассматриваемого тела
(например, сердце). Может представлять интерес задача
определения плотности / вне В0 с использованием лишь рентгеновских
лучей, не пересекающихся с В0. Из теоремы о носителе
(теорема 2.6 и следствия 2.8 и 2.26) следует, что значения f вне В0
определяются значениями тех интегралов ?(|), для которых £ не
пересекает В0.
8. Добавление. Распределения и потенциалы Рисса
В этом пункте собраны вместе некоторые понятия и факты
из теории распределений, а также некоторые результаты о
потенциалах Рисса, использовавшиеся в данном параграфе.
В § 1 введения мы напомнили определение распределения в
Rn и носителя распределения. Если F—локально-интегрируемая
функция в R", то распределение <p—+)F(x)y (x)dx (ф £ ^> (Rn))
обозначается через TF.
Для всякого распределения Т £ D' (R) его производная 7"
определяется как распределение
Ф-* -Г(ф'), <p€®(R).
Если F£Cl(R), то в силу формулы интегрирования по частям
распределения 7> и G»' совпадают между собой.
Линейный функционал на пространстве JP (R) называется
распределением умеренного роста, если он непрерывен в топологии,
задаваемой нормами F). Сужение распределения умеренного роста
на 3>(R) является распределением, а так как подпространство
S>(R) плотно <^(R), два распределения умеренного роста
совпадают, если они совпадают на £>(R).
Распределения с компактным носителем имеют умеренный
рост. Обозначим через #"(R) пространство всех распределений
умеренного роста.
Для всякого распределения T£&"(R) преобразование Фурье
(или фурье-образ) Т определяется как линейный функционал на
<^(R), задаваемый равенством
Т(Ф) = Г(ф), <p€^(R),

154 Гл. /. Интегральная геометрия и преобразования Радона
где
ф(ы) = ^ ф (х) e~ixa dx.
R
Так как ф—*ф—гомеоморфизм пространства <5Р (R) на себя, то
f 6<y"(R). Далее, поскольку $Fq>=$ftp (ПРИ Ф. р€<У(Ч)),
распределения (TFy и Тр совпадают между собой. В силу равенства
(ф)" (х) = 2яф (—л:) получаем 1 = 2яб. Справедливы также
следующие правила:
F8) (Г)~=2л7\ (T'y=ixT, (uTy=i(f)'9
где f—образ распределения Т при отображении х —►—х.
Так как распределения—обобщение мер, иногда удобно
записывать значение распределения Т на функции ф в виде
7» = $Ф(*)<*7».
R
Если T££'(R)t то Г, в соответствии с предыдущим
определением, есть распределение, задаваемое функцией и —► ye~ixu dT (x).
Если S и Т—два распределения, причем хотя бы одно из
них—с компактным носителем, то их свёртка определяется как
распределение, определяемое формулой
V-+H<P(x + y)dS(x)dT(y)9 Ф€»(К).
R R
Это распределение обозначается S*T. Если f£&)(R), T^S>'(R)t
то распределение Tf*T имеет вид Tgy где
g(x)=*lf(x-y)dT(y)t
поэтому для простоты мы пишем g = /*T. Отображение /—*
—* / * Т из £b (R) в £ (R) непрерывно.
Если оба распределения S и Т имеют компактный носитель,
то носитель свёртки S*T также компактен. При этом
распределения S и Т имеют вид S = Tst f = Tt, где s, i££(R)t и, KpoNe
того, (S * Ту = T5t. Последнее соотношение можно записать в виде
F9) (S*Ty=ST.
Эта формула остается справедливой, если
Se^(R), T€#"(R)

§ 2. Преобразование Радона в Rn
155
ИЛИ
S€*f(R), Т$Г'(К)\
в обоих случаях S*T имеет умеренный рост.
Определенные выше понятия (распределения, распределения
умеренного роста, производная, преобразование Фурье и свёртка)
очевидным образом обобщаются на случай многих переменных.
Таким образом, мы работаем с функциональными пространствами
и пространствами распределений, для которых имеют место
следующие канонические включения:
®(Rn)c:<F(Rn)c:<g(Rn)
п п п
£' (Rn)a#" (Rn)a®' (Rn)
Теперь подробно разберем несколько примеров.
Если комплексное число а € С удовлетворяет условию Re a >
—1, то функционал
о
является корректно определенным распределением. Отображение
а—*х% можно продолжить до голоморфной в области
Rea>— п— 1, аф— 1, —2, ..., — п,
функции со значениями в пространстве распределений при
помощи формулы
«(Ф)-ЫфЮ-Ф@)-^^
G°)
„<*-!> @)
+ J*»q> (*)«&+£р£!
/г=1
1)!(а + Л)#
Таким образом, а—>х% является мероморфной функцией в
комплексной плоскости С со значениями в пространстве
распределений, имеющей простые полюсы в точках а = —1, —2, ....
Заметим, что ее вычет в точке a = —k дается формулой
G1) Resx« = lim (a + fe)*? = {Zl)l",1^1',
где 8<Л) — производная порядка h от б-функции. Заметим, что
*5 — распределение умеренного роста.

156 Гл. I. Интегральная геометрия и преобразования Радона
Рассмотрим, далее, при Rea>—п распределение га на R",
задаваемое формулой
г«. ф_ J <p(x)\x\adxf q>G2)(Rn).
Лемма 2.33. Отображение а—+га однозначно продолжается
до мероморфного отображения комплексной плоскости С в про-
странство &' (Rn) распределений умеренного роста. Его полюсы
расположены в точках
a = —n—2h (h£Z+),
причем все они просты.
Доказательство. При Rea>—п имеем
00
G2) га (ф) = Qn J (Af *ф) @) /а+п dt.
о
Далее, заметим, что функция среднего значения t —»(Л1'ф)@)
продолжается до четной С^-функции на R и ее производные
нечетного порядка равны нулю в начале координат. Что же
касается производных четного порядка, то при подходящем выборе
функции ф ни одна из них не обращается в нуль. Так как, в
силу G2),
G3) /Л(Ф) = Оя/Гя-1(М'Ф),
то первое утверждение леммы доказано. Согласно сделанным выше
замечаниям относительно распределения л^, возможные (простые)
полосы функции ra расположены в точках а, для которых
а + п— 1 = —1, —2, .... Но если а + п— 1 = —2, —4, ..., то
ввиду равенства (Л1'ф@))(Л) = 0 (для нечетных Л) из формулы G1)
вытекает, что функция га(ф) голоморфна в точках
а = —п—1, —п—3, ....
С другой стороны, как показывает замечание относительно
четных производных функции М*ф, точки а = —п—2Л (h£Z+)
действительно являются полюсами. Заметим также, что в силу
формул G1) и G3)
G4) Res ra= lim (a + n) ra = Q„6.
as-п a-* -я
Напомним, что преобразование Фурье Г—►Т для
распределения умеренного роста Т на Rn определяется формулой
?(ф) = Г(ф) (Ф6^(К*)).

§ 2. Преобразование Радона в Rn
157
Вычислим теперь преобразования Фурье для рассмотренных выше
распределений умеренного роста г*.
Лемма 2.34. Имеют место равенства
G5) (г"Г =2"+«я"/2 ГгУаУ г~«-\ а, — а—n^2Z+,
G6) (г*)~ = Bя)я (—L)* б, Л 6 Z+.
Доказательство. Воспользуемся тем фактом, что для
ф(х) = *-<!/«> 1*1"
•ф(м) = Bя)<л/2)^-<1/2)'«1в.
В силу равенства J /g = j /g, получаем для ф € <У (R") и / > О
G7) $ф(а;)^-^1/2I^2^ = Bя)л/2/-"/2$ф(м)^-^1<1/2I«р^.
Умножим обе части этого равенства на /-d/a)a-i и
проинтегрируем по /. Используя формулу
со
О
в левой части получим выражение
Аналогично в правой части получим
Bя)«/2 Г (-^г2-) 2<"+а>/2 Г ф (и) | и \-«~пdu.
Перемена порядка интегрирования возможна, если а лежит в
полосе —п < Re а < 0, следовательно, для этих а формула G5)
доказана. Для остальных а она получается аналитическим
продолжением. Наконец, формула G6) вытекает непосредственно из
определений.
Лемма 2.35. Действие оператора Лапласа на функцию га
задается формулами
G8) Lra=a(a + /i—2)ra~2, —a—n + 2£2Z+>
G9) Lr2-* «B—л) Q А пф2.
При п = 2 последнее «уравнение Пуассона» заменяется следующим:
(80) L{\nr) = 2n8.

158 Гл. I. Интегральная геометрия и преобразования Радона
Доказательство. При достаточно больших Re а формула
G8) проверяется простым подсчетом. Для остальных а она
получается аналитическим продолжением. Для доказательства
формулы G9) воспользуемся преобразованием Фурье и тем фактом,
что (—LSy =r2S для любого распределения S умеренного роста.
Следовательно, в силу G5),
Наконец, докажем формулу (80). Если <p£S>(IR2), то, полагая
F(r) = (Mrq>)@), имеем
со
(L(lnr))(<p)= J In r (L<p)(x)dx=[\n r Bnr)(MrLq>)@) dr.
R* 0
Последнее выражение с помощью леммы 2.14 приводится к виду
00
\\nr2nr(F',(r) + r-1F'(r))drf
о
что после интегрирования по частям дает
[In r Bnr) F (г)]0°° — 2л J F' (r) dr = 2nF @)
о
(по поводу более простого доказательства см. упр. D4).
Теперь дадим определение дробных степеней оператора L.
Ориентиром нам будет служить формула
(-Lf)~(u) = \u\*f(u).
По формальной аналогии хотелось бы иметь соотношение
((-L)Pfy(u) = \u\*P~f(u).
Поскольку преобразование Фурье свёртки двух функций равно
произведению их преобразований Фурье, формула G5) (при
2р = — а—п) подсказывает следующее определение:
(81) (-L)Pf = r*P(f)f
где /v — потенциал Рисса
(82) (/v/)W==_i_ J f(y)\x-y\v-«dyt
R"
a
(83) tfn(Y) = 2W*rX^/!_

§ 2. Преобразование Радона в Rn
159
Переписывая правую часть формулы (82) в виде Нп (у)~1 (/ * г?-п) (х)
и предполагая, что /€<^(IR"), видим, что полюсы функции г^~п
компенсируются полюсами функции ГG/2). Поэтому функция
(Ff)(x) продолжается до функции, голоморфной в области Сп
= {v£C: у—az(£2Z+}. В силу соотношения G4) и формулы для
Qn имеем также
(84) I»f = \imPf = f.
Кроме того, из формулы G8) с помощью аналитического
продолжения получаем
(85) nLf-LTf — Iy-f, f£tf{R% y£Cn.
Докажем теперь важное свойство потенциалов Рисса.
Предложение 2.36. Имеет место следующее тождество:
/«(/0/) = /«+Р/ при /g^(R»), Rea> Rep>0, Re(a + P)</i.
Доказательство. Имеем
Подстановкой v = (x—z)/\x—у\ внутренний интеграл
преобразуется к виду
(86) \х—у\*+£-п J \v\a'n\w—v\£-ndv,
Rn
где w—единичный вектор (х—у)/\х—у\. Применяя вращение
вокруг начала координат, видим, что интеграл в выражении (86)
равен числу
(87) ся(<х, P)=S |о|«-»|^-»|Э-»Л,
где ^i = (l, 0, ..., 0). Предположения относительно чисел а и Р
гарантируют, что этот интеграл сходится. По теореме Фубини
можно поменять порядок интегрирования и получить
Осталось вычислить сп (a, P). Для этого воспользуемся следующей
леммой. Пусть, как и в следствии 2.5, of* (Rn) обозначает
подпространство функций в & (Rw), ортогональных ко всем многочленам.
Лемма 2.37. Пространство o?*(Rn) инвариантно
относительно любого потенциала Рисса.

160 Гл. /. Интегральная геометрия и преобразования Радона
Доказательство. По соображениям непрерывности лемму
достаточно доказать лишь для тех а, для которых а—п
удовлетворяет предположениям леммы 2.34, т. е. а—/г, —a(£2Z+.
Но тогда, поскольку (y*S)~ =cpS при ф£<У, S£<>?', имеем для
(89) (I«f)~ (и) = jj-Lq(f * г—У =](и)]и |-*.
Так как все производные функции / равны нулю в начале
координат, тем же свойством обладает и функция f(u)\u\-a. Тем
самым лемма доказана.
Теперь мы можем завершить доказательство предложения 2.36.
Взяв f0€<£?*, положим f = I$f9 в формуле (89). Тогда
(/" A%))~ = (Л70)~ (и) | и |- = J, (и) | и |-«-Э = (I«+*foy (и).
Следовательно, скалярный множитель в соотношении (88) равен
1, и предложение 2.36 доказано.
В процессе доказательства мы установили равенство
Докажем теперь некоторый вариант предложения 2.36,
используемый в теории преобразования Радона.
Предложение 2.38. Пусть 0 < k < п. Тогда
/-* (/*/) = / для всех f £&{№).
Доказательство. В силу предложения 2.36
(90) /а (/*/) = Ia+kf при 0 < Re а < п—к.
Теперь, следуя идее, предложенной Р. Сили, докажем, что
функция ф = /*/ удовлетворяет условию
(91) 8ир|ф(л;)||л;|л-*<оо.
х
Для любого числа N справедлива оценка \f(y)\^CN(l +\y\)~N9
где Cw—некоторая постоянная. Следовательно,
R"
S f(y)\*-y\k-ndy\<C J (l+\y\)-N\x-y\k-»dy
I \У\<A/2)\Х\
+ CN S (l + \y\)-N\x-yr»dy.
\y\>iU2)\x[

§ 2. Преобразование Радона в Rn
161
В первом интеграле \х—y\k~~n^ y*| ", а для оценки второго
воспользуемся неравенством
A+ЫГ"<A + М)-Л-*+"A+|у*|)*~п.
Если N достаточно велико, то оба интеграла в правой части
предыдущей формулы удовлетворяют оценке (91), и тем самым
неравенство (91) доказано.
Мы утверждаем, далее, что функция /а(ф)(*), которая в силу
соотношения (90) голоморфна при 0 < Rea < п—k, продолжается
до функции, голоморфной в полуплоскости Rea</2 — k. Это
утверждение достаточно доказать для точки х = 0. Представим
функцию ф в виде суммы ф = ср1 + ф2, где фг— гладкая функция,
тождественно равная нулю в окрестности |л:|<е начала
координат, а Фаб^ЧК")- Так как ф4 удовлетворяет условию (91), то
при Rea < п—k
\\чЛх)\х\а-п*х\
^C\j\x\k-n\x\'x-n\x\n-1d\x\ =с\\х\а+'-п-Ч\х\<оо.
8 8
Следовательно, функция /аф1 голоморфна в указанной
полуплоскости. С другой стороны, функция /аф2 голоморфна при всех
а£С„. Поэтому в соотношении (90) мы можем положить а = — &,
и наше предложение доказано.
Предложение 2.39. Пусть
S, ч, —lim С ^dx
— главное значение по Коши. Тогда S является распределением
умеренного роста, a S вычисляется по формуле
S(s) = -msgnS = i ~ш' npus>0,
4 ' & \ т при s < 0.
Доказательство. Справедливо равенство xS = 1. Поэтому*
ввиду F8),
2jt6=l=(xSr=t(S)'.
Но (sgns)' = 26, так что
S = — ш sgn s + C (С = const).
Так как S и sgns нечетны, получаем требуемое утверждение.
Сформулируем теперь для последующих ссылок один
результат об аналогах потенциала Рисса, отвечающих квадратичной
6 С. X ел га сов

162 Гл. I. Интегральная геометрия и преобразования Радона
форме
Q(X) = x\ — ...-х* (X = (xit ..., хп)) на R*.
Пусть D—конус прошлого
D = {x£R»: Q(X)>Ot xt<0}.
Рассмотрим для f€@)(Rn) интеграл
(92) Л/ = -^ §f(x)Q (ху 1/»мт-«> dX,
D
где
(93) Кп (у) = фшп-w-ir (-£) Г (У+22~П).
Следующий результат доказан у Рисса [1949, гл. III]:
Теорема 2.40. Интеграл Jyf, сходящийся при Rey^n,
продолжается до голоморфной функции у —► Jyf на всей комплексной
плоскости С. Кроме того, /°/ = /@).
Замечание. Этот результат остается справедливым и в
случае, когда функция / вместе со всеми частными производными
голоморфно зависит от у (см. там же, с. 62, лемма IV).
§ 3. Двойственность в интегральной геометрии.
Обобщенные преобразования Радона
и интегралы по орбитам
1. Двойственность в однородных пространствах
Формулы обращения из теорем 2.13, 2.15, 2.16 и 2.19
наводят на мысль поставить общую задачу нахождения функции на
многообразии по интегралам от нее вдоль некоторых
подмногообразий. Для того чтобы дать естественную постановку такой
задачи, рассмотрим преобразование Радона /->/ на R" и
двойственное к нему преобразование ер —► ер с теоретико-групповой точки
зрения. В основе этого подхода лежит тот факт, что группа изо-
метрий М(п) транзитивно действует как на самом пространстве
R", так и на пространстве его гиперплоскостей Рл. Следовательно,
A) R" = М (п)/0(п), рп = M(n)/(Zt х M(n — l)),
где О(п) — ортогональная группа, оставляющая неподвижным
начало координат OgR", a Z2xM(n—1)—подгруппа в М(п),
оставляющая на месте некоторую гиперплоскость 50, проходящую
через начало координат (Z2 состоит из тождественного
преобразования и отражения относительно этой гиперплоскости).

§ 3. Двойственность в интегральной геометрии
163
Заметим теперь, что точка giO(n) первого из
вышеприведенных факторпространств лежит в плоскости g2(Z2xM(n—1),
являющейся точкой второго из этих факторпространств, тогда и
только тогда, когда соответствующие классы смежности,
рассматриваемые как подмножества группы М(п), имеют общую точку.
Это наблюдение приводит к следующей общей постановке.
Пусть G—локально-компактная группа, X и S—два
пространства левых классов смежности группы Gi
B) X = G/HX, S = G/#S|
где Нх и НЕ— замкнутые подгруппы группы G. Удобно принять
следующие предположения:
(i) Группы G, Нх, Не и Нх{\Не унимодулярны (левоинва-
риантная мера Хаара является и правоинвариантной).
(И) Если hxHEa НЕНХ, то hx£HE. Если hs.HxciHxHEi то
(Hi) Множество HxHEaG замкнуто.
Заметим, что условие (Hi) заведомо выполнено, если хотя бы
одна из подгрупп Нх и НЕ компактна.
Для двух факторпространств в формуле A) все приведенные
условия выполнены. Проверим, например, первую часть условия
(ii). Если hxHEc:HEHx, то, действуя множествами
преобразований, стоящими в обеих частях этого соотношения, на начало
координат, получаем, что hxl0c:£0t поэтому hx£HE.
Элементы х £Х и f £ В называются инцидентными, если их
классы смежности в G пересекаются. Положим
i={g£S: х и I инцидентны},
1 = {х£Х\ х и I инцидентны}.
Используя обозначение Az = gAg~x9 где g£G, Лсб, докажем
теперь следующую лемму:
Лемма 3.1. Пусть g£G, x = gHx, t = gHE. Тогда
(a) множество х есть орбита группы (Нх)8 и
(b) множество | есть орбита группы (HE)z и
% = (HE)si(HxViHE)s.
Доказательство. По определению
x = {yHEi yHEngHx^0},
что можно переписать в виде
C) x={ghxHE: Лх6//Х}.
6*

164 Гл. I. Интегральная геометрия и преобразования Радона
Это множество классов смежности является орбитой точки gHE в
пространстве В при действии группы gHxg'x. Подгруппа,
оставляющая неподвижной точку gHE , есть (g/ZiagT1) П (g^xS'1)- Этим
доказано утверждение (а). Утверждение (Ь) доказывается
аналогично.
Пусть х0 = {Нх} и £0 = {//s}— начала координат в
пространствах X и S соответственно. Тогда, в силу C), x = g-x0, i = g-l0,
где точка обозначает действие группы G на пространствах X и В.
Лемма 3.2. Отображения х—>х и \—>\ взаимно однозначны.
Доказательство. Предположим, что х19 х2£Х и хх = х2.
Пусть элементы gu g2£G таковы, что хг = g\Hx, x2=g2Hx. Тогда, в
силу C), g1-x0 = g2-xQ. Следовательно, полагая g = gi1g2> имеем
g-x0 = x0. В частности, g-l0£x0f поэтому, учитывая, что х0 есть
орбита точки £о€Н относительно группы Нх, видим, что g-l0
==: hx'lo Для некоторого элемента hx^Hx. Следовательно, h^g
= hE£HE. Отсюда вытекает, что hЕ -х0 = х0 и, стало быть,
т. е. hEHxaHxHE. Согласно условию (П), hE£Hx, что Дае1
х1 = х2. Лемма доказана.
Ввиду этой леммы X и S являются однородными
пространствами одной и той же группы G, при ьтом каждую точку из В
можно рассматривать как подмножество в X. Мы говорим, что
X и В суть однородные пространства, двойственные друг к другу.
Эта терминология подсказана обычной двойственностью пространств
Rn и Рп в проективной геометрии.
Отображения х—>х и \—►! удобно также описывать с
помощью следующего двойного расслоения:
G/(HxnHd
,4) у \^
X = G/Hx Е = GJHE
где отображения р и я задаются формулами
P(g(Hx()HE)) = gHx, n(g(HxnH3)) = gHE.
В силу C)
E) х~=л(р-*(х)), |=р(я-»(Е».
Лемма 3.3. Множества xczE и £$Х замкнуты.

§ 3. Двойственность в интегральной геометрии
165
Доказательство. Если рЕ: G—>G/HE—естественное
отображение, то
Pi1 B\(х0)) = {g: gHs $HX.HZ}= G\HXH3.
В частности, рЕ (G\HxHE) = E\x0. Используя условие (ii) и тот
факт, что отображение рЕ открыто, заключаем, что множество х0
замкнуто. С помощью сдвигов получаем, что замкнуто и любое
множество х. Аналогично доказывается замкнутость каждого
множества вида 1.
Примеры, (i). Тонки вне гиперплоскостей. Мы уже видели,
что если в приведенном выше представлении A) рассматривать О(п)
как группу изотропии начала координат 0, a Z2xM(n — 1) как
группу изотропии некоторой гиперплоскости, проходящей через О,
то абстрактное понятие инцидентности эквивалентно наивному:
точка x£Rn инцидентна гиперплоскости |£рЛ тогда и только
тогда, когда х£ ?.
С другой стороны, группу Z2X М(п — 1) мы можем также
рассматривать и как группу изотропии некоторой гиперплоскости |б,
находящейся на расстоянии б > 0 от начала координат 0 (что
сводится к другому вложению группы Z2xM(n — 1) в группу М(п)).
Соответственно имеет место следующее обобщение предыдущего
факта:
Предложение 3.4. Точка x£Rn и гиперплоскость |£рп
инцидентны тогда и только тогда, когда d(x, |) = б.
Доказательство. Пусть х = gHx,.\ = уНЕ, где Нх = О(п)
и Hs=Z2xM(n — l). Тогда если цНх[\уН^Ф0% то ghx=yhE
для некоторых элементов hx £ Нх и hE € #s • Орбита НЕ • 0 состоит
из двух плоскостей 1'6 и Ц, параллельных плоскости £б и
находящихся от нее на расстоянии б. Соотношение g-0 = yhE-0
€Y#(£eU£e) вместе с тем фактом, что g и у—изометрии,
показывает, что точка х находится от плоскости у.£б = £ на расстоянии б.
Обратно, если d(x, 6) = 6, то g-0£Y'(£eUEe) = Y#s-0, а это
означает, что gHx n уНЕ Ф 0.
(ii) Единичные сферы. Пусть <т0—сфера единичного радиуса
в пространстве IR", проходящая через начало координат. Обозначая
через 2 множество всех единичных сфер в R", получаем
двойственные однородные пространства
F) Rn = M(n)/0(n)9 Z = M(n)/0*(n),
где 0*(п)—множество всех вращений вокруг центра сферы сг0.
В этом случае точка x = gO(n) инцидентна сфере о*=уО*(п) тогда
и только тогда, когда х£о.

166 Гл. I. Интегральная геометрия и преобразования Радона
(iii) Комплексные многообразия флагов. Рассмотрим я-мерное
комплексное пространство О и фиксированный набор целых чисел
О < di < ... <dr<n. Флаг в Сп типа (dlf ..., dr)—это набор
подпространств Ь±аЬ2с: ... сЬгсСп, где dimL{ = а{ A ^ i ^г).
Множество Frf, </г всех флагов в Сп типа (du ...,dr) наделено
естественной структурой комплексного многообразия: полная
линейная группа GL(n, С) транзитивно действует на нем с некоторой
комплексной группой изотропии.
Рассмотрим, в частности, многообразие F12 флагов типа A,2)
в пространстве С4, комплексное проективное пространство F, =Р3(С)
(пространство комплексных прямых в С4) и грассманово
многообразие F2 = Q2% 4 (С) комплексных двумерных пространств в С4. На
этих многообразиях F12, Ft и F2 транзитивно действует группа U D),
и наше двойное расслоение D) принимает вид
Fxl - 1/D)/A7A) х 17A) х 17B))
/ \
F» = 17D)/(С7A) х 17C)) F2 - 17D)/A7B) х UB))
При этом определенные выше отображения х—►i и £—► !
описываются так:
(A) Отображение х—>х каждой комплексной прямой
сопоставляет множество содержащих ее двумерных комплексных
подпространств в С4.
(B) Отображение \—>% каждому двумерному комплексному
подпространству в С4 сопоставляет множество содержащихся в нем
комплексных прямых.
Отображения А и В использовались Пенроузом. В статье Уэллса
[1979] они названы соответствиями Пенроуза. По поводу их
приложений отсылаем читателя к этой статье1*.
2. Преобразование Радона для двойного расслоения
С учетом нашего предположения об унимодулярности (i)
фиксируем инвариантные меры dg, dhXt dhE и dh на группах G, HXt
НЕ и Н = НХ()Н3 соответственно. По теореме о существовании
инвариантных мер на однородных пространствах (теорема 1.9)
существует единственная //^-инвариантная мера d\i = d(hx)H на
1} См. также статьи из сборника «Твисторы и калибровочные поля» и обзоры
Манина [1981]» Гиндикина и Хенкина [1981]. — Прим, пер ее.

§ 3. Двойственность в интегральной геометрии
167
множестве х0 = Нх/Н, удовлетворяющая условию
G) $ /(hx)dhx=U\f(hxh)dh)dix(hxH)
для любой функции f£Cc(Hx). Аналогично можно определить
Нв-инвариантную меру dm на множестве ^ = #а/#. Сейчас мы
увидим, что с помощью сдвигов отсюда получаются согласованно
определенные инвариантные меры на каждом из множеств х.
Лемма 3.5. На каждом из множеств х можно задать
ненулевую меру так, чтобы на х0 она совпадала с dp и чтобы, если
g-xt = x29 мера на х2 совпадала с мерой, перенесенной с xt
преобразованием g. Аналогичное утверждение справедливо для
множеств |.
Доказательство. Пусть x = g-x0. Преобразуем меру d\\
на х0 в меру на а: с помощью гомеоморфизма £-—+g-l. Это даст
нам (//^-инвариантную меру на множестве х. Но поскольку
такая мера определена лишь с точностью до постоянного множителя,
надо еще доказать ее независимость от выбора g. Если g' >х0 = g>x0,
то (g• х0У = (g' • х0)v. Следовательно, по лемме 3.2: g• х0 = g' • х*
и, стало быть, g€g'Hx. Так как мера ф на х0 #х-инвариантна,
лемма доказана.
Будем обозначать меры на множествах х и |, определенные
в лемме 3.5, соответственно d\i и dm. Пусть, далее, dgHv и dgH
обозначают G-инвариантные меры на пространствах X и St
нормированные условиями
(8) \P(g)dg=U \ F(ghx)dhx\dgHx,
в х\нх )
(9) $ ®(g)dg = J (I <!>(ghB)dha\dgH .
0 2 \H3 J
Положим еще для простоты записи dx = dgev и dl*=dgH .
Определим теперь преобразование Радона f —* / и двойственное
к нему преобразование ф—»»ф формулами
A0) f (S) = \f (x) dm (*), ф (х) = $ Ф © ф (S),
% *
где f£Cc(X), ф£СсB). Так как множество f замкнуто, то
ограничение /11 принадлежит пространству Сс (|). Следовательно,
интегралы в формулах A0) корректно определены. Формулы A0)

168 Гл. I. Интегральная геометрия и преобразования Радона
можно также записать в теоретико-групповых обозначениях:
/№)= S f(gbzHx)d(ha)H,
(И) - %
Ф (ёИх) = J Ф (ghxHB) d (ft *)„.
нх,н
Предложение 3.6. Пусть f£Cc(X), <p€CcC). Тогда функции
f и ф непрерывны и
S / (х) ф (дс)Лг = J f F) ф F) dS.
X 3
Доказательство. Непрерывность функций / и ф
немедленно следует из формул A1). Рассмотрим теперь двойное
расслоение D), где p(gH) = gHx> п(ёН) = ёНв- Фиксируем G-инвариант-
ную меру dgH на пространстве G/H таким образом, чтобы для всех
функций F£CC(G)
A2) lF(g)dg= I (\F{gh)dh\dgH.
G G/H \H J
С помощью «цепного правила» для инвариантного интегрирования
(см. предложение 1.13 для случая групп Ли) получаем
A3) J Q(eH)dS» = c S d§Hx S Q(ghxH)d(hx)H,
G/H G/Hx Hx/H
где Q—произвольная функция из пространства CC(G/H), a e —
постоянная, не зависящая от Q. Комбинируя формулы A2) и A3),
находим
A4) lF(g)dg = c $ dgHx \ d{hx)H\F(ghxh)dh,
G G/Hx Hx/H И
что в силу G) равно
с S d£Hx I F(ehx)dhx.
G/Hx HX
Сравнивая последнее выражение с формулой (8), заключаем, что
С*=1.
Рассмотрим теперь на пространстве G/H функцию
Р = (/о/7)(фоя).
Проинтегрируем ее по пространству G/H двумя способами,
соответствующими двум расслоениям D). Используя формулу A3) и ее

§ 3. Двойственность в интегральной геометрии
169
аналог для НЕ, получим в результате
<1б) $ P(gH)dg„= J *8нх J P(ehxH)d(hx)Ht
G/H G/Hx Hx/H
A6) S P(gH)dgH= I dgHa S P(ghzH)d{hE)H,
G/H G/Hw " H^jH
где, как и в предложении 1.13, абсолютная сходимость левой
части гарантирует абсолютную сходимость правой части, и наоборот.
Но
P(ghxH) = f(gHxL>(ghxHB)
и
S Ф (ghxHs) d (hx)H = Ф (g#x)>
так что правая часть соотношения A5) принимает вид ) f(x)tp(x) dx.
Поступая точно так же с соотношением A6), получаем наше ут-
G/HX{\H^
Рис, 9
верждение. Равенство выражений A5) и A6) проиллюстрировано
на рис. 9.
Последний результат показывает, как определить
преобразование Радона и двойственное к нему для мер и для распределений
(в случае если G—группа Ли).
Определение. Пусть s — мера с компактным носителем на
пространстве X. Ее преобразованием Радона называется функцио-

170 Гл. I. Интегральная геометрия и преобразования Радона
нал s на пространстве СС(Е), определяемый формулой
A7) 5(ф) = 5(ф).
Аналогично, если а—мера с компактным носителем на
пространстве S, то функционал а определяется формулой
A8) *(/) = *(?), /€СС(Х).
Лемма 3.7. (i) Если s—мера с компактным носителем на
пространстве X, то s—мера на пространстве S.
(п) Если s—ограниченная мера на X и множество х0 имеет
конечную меру у то функционал s, определенный формулой A7),
представляет собой ограниченную меру.
Доказательство, (i) Меру s можно записать в виде
разности s = s+—s~ двух положительных мер, каждая из которых
/\ /\
имеет компактный носитель. Тогда s = s+—s" есть разность двух
положительных функционалов на СС(Е). Так как положительный
функционал всегда является мерой, то s—мера.
(и) Имеем
sup|qp(Ar)|<sup|9(g)||x(A:0).
Следовательно, для некоторой постоянной К
|s(9)| = |s(cp)K/(sup|qpK/([i(Xo)sup|9|,
т. е. мера s ограничена.
Если G—группа Ли, то формулы A7) и A8) с / £ ® (X) и ф £ @> (S)
определяют преобразование Радона s—^и двойственное к нему
преобразование а—>о для распределений s и а с компактным
носителем. Рассмотрим пространства SD(X) и & (X) (= С°° (X)) с их
обычными топологиями (п. 2 § 2 гл. II). Тогда сопряженные к ним
пространства Si' (X), £' (X) состоят соответственно из всех
распределений на X и всех распределений на X с компактным
носителем.
Предложение 3.8. Отображения
fe®(X)-+}££(S),
ф€®(В)-*ф€*(*)
непрерывны. В частности,
*€*'(*) =»«€«>'(В).
о€<£'(В)=Фае<2>'(*).

§ 3. Двойственность в интегральной геометрии
171
Доказательство. Имеем
09) fte-b)-$№*)*n(*).
I.
Пусть g пробегает локальное сечение группы G, проходящее через
единицу, над окрестностью элемента S0 в S. Если (tiy ..., tn) —
координаты точки gy а (хи ..., хт)—координаты точки *£t0, то
формулу A9) можно переписать в виде
P(tu ..., tn)=\F(tu ..., tn\ xi9 ..., xm)dXi...dxm.
Теперь очевидно, что /€<£(S) и отображение / —+f непрерывно.
Предложение доказано.
Результаты § 2 о преобразовании Радона на пространстве Rn
мотивируют постановку следующих общих задач:
(A) Описать связь между пространствами функции на X и 3
в терминах интегральных преобразований f—+f и ф—>ф. В
частности, найти соотношения между носителями функций f и f.
(B) Установить прямую связь между функциями f и Qy на X,
а также функциями ф м (ф) «a S.
(C) Пусть G — группа Ли. Обозначим через D(X) и Z)(S)
алгебры G-инвариантных дифференциальных операторов
соответственно на X и S.
Существуют ли отображение алгебры D —*£> алгебры D(X)
в алгебру D(S) и отображение Е —+Е алгебры D(S) в алгебру
D(X), такие что
(Dfy=bl (£ФГ=£ф?
Для случая X = IRrt, S = p" ответы на эти вопросы даются
теоремами 2.4, 2.6, 2.10, 2.13, 2.15, леммой 2.1 и следствием 2.5.
Хотя указанные задачи могут быть поставлены для общего
двойного расслоения D), нельзя рассчитывать на полное решение
проблемы в такой общей постановке. Например, если /—►/ есть
преобразование Радона на сфере S2, определенное с помощью
интегрирования по геодезическим, то функция (/)" с необходимостью
является четной независимо от того, обладает или нет этим
свойством функция /. В этом примере, однако, условие (и) не
выполняется.
В следующем параграфе мы подробно рассмотрим задачи А
и В для случая, когда X—двухточечно-однородное пространство,
или, что эквивалентно, изотропное риманово многообразие.

172 Гл. I. Интегральная геометрия и преобразования'Радона
Примеры, (i) Пусть G— группа SLB, R) матриц размера
2x2 с определителем 1, а Г—модулярная группа 5LB, Z).
Обозначим через N унипотентную группу всех матриц вида (Q " J ,
где п б R, и рассмотрим однородные пространства
B0) X = G/N9 S = G/r.
При естественном действии группы G на пространстве R2 группа N
есть подгруппа изотропии вектора A, 0), следовательно, X можно
отождествить с R2\{0}. В то же время пространство Е,
разумеется, трехмерно.
В теории чисел представляет интерес вопрос о разложении
пространства L2(G/T) на G-инвариантные неприводимые
подпространства. Опишем кратко решение этой задачи в терминах
преобразований /—+f и ер—>ф. Как обычно, положим Tm = T(]N.
Преобразования A0) принимают вид
/&г)= 2 ftev), ф(^)= J <ngnT)dnT .
Поскольку N/T„—группа вращений окружности, ф (gN) совпадает
с постоянным членом в разложении в ряд Фурье функции пГ^—*
—+<p(gnT). Ядро L2d(GlT) оператора ф—>фв пространстве L2(G/T)
называется пространством каспидальных форм. Согласно
предложению 3.6, эти формы образуют ортогональное дополнение
к Сс(Х)л.
Итак, мы имеем G-инвариантное разложение
B1) U (G/Г) = L\ (G/Г) ® LI (О/Г),
где
B2) Ц(С/Г) = (СС(Х)Л)-,
черта обозначает замыкание и
B3) LHG/r) = Cc(X)A)i.
Как известно (см. Сельберг [1962], Годеман [1966J),
представление группы G в пространстве Ll(G/T) есть непрерывная
прямая сумма ее неприводимых представлений основной серии,
а представление группы G в пространстве L2d(G/T) есть
дискретная прямая сумма неприводимых представлений, причем каждое
из них встречается конечное число раз.
(И) Нахождение функции на пространстве R" по ее
интегралам по единичным сферам (Джон [1955]) можно рассматривать
как решение первой части задачи В для двойного расслоения F).

§ 3. Двойственность в интегральной геометрии
173
3. Интегралы по орбитам
Пусть, как и раньше, X = G/HX—однородное пространство
с началом о = {Нх}. Для заданного элемента х0£Х обозначим
через GXo подгруппу группы G, оставляющую х0 неподвижным,
т. е. подгруппу изотропии группы G в точке х0.
Определение. Орбита GXo-х в пространстве X какой-либо
точки х £ X под действием подгруппы изотропии какой-либо
точки х0£Х называется обобщенной сферой.
Примеры, (i) Если X = Rn, G = M (n)f то обобщенные сферы
совпадают с обычными.
(и) Пусть X есть локально-компактная группа L, a G —
прямое произведение групп LxL, действующее на L справа и слева;
элементу Aг, l2)£LxL сопоставляется автоморфизм / —► l^1
группы L. Обозначим через AL диагональ произведения LxL, так
что L = (LxL)/AL. Если /0€L, то группа изотропии элемента /0
дается формулой
(LxL)/o = (/0, e)AL(lo\ e),
а орбита элемента /—формулой
(LxL)h.l = l0(k4f.
Иначе говоря, эта орбита есть левый сдвиг на элемент /0 класса
сопряженности элемента 1^4. Таким образом, обобщенные сферы
в группе L представляют собой левые (правые) сдвиги ее классов
сопряженности.
Возвращаясь к общему случаю пространства X = G/HX=G/G0r
предположим, что группа G0, а следовательно, и каждая из
групп GXo унимодулярны. Поскольку GXo-x = GxJ(GXo)xy условие
унимодулярности (GXo)x обеспечивает существование на орбите
GXo -х инвариантной меры, определенной однозначно с точностью
до° постоянного множителя. Теперь мы можем рассмотреть
следующую общую задачу (в дополнение к задачам А — С):
(D) Задача об интегралах по орбитам. Найти функцию f
на пространстве X по ее интегралам по обобщенным сферам.
В этой задаче существенно, конечно, как нормированы
инвариантные меры на орбитах.
Замечания, (а) Если группа G0 компактна, то задача об
интегралах по орбитам довольно тривиальна. Действительно,
поскольку каждая орбита GXo-x имеет конечную инвариантную
меру, значение f (х0) равно пределу при х—+х0 средних значений
функции / по орбитам GXu-x.

174 Гл. L Интегральная геометрия и преобразования Радона
(b) Предположим, что для каждой точки х0£Х существует
открытое G ^-инвариантное множество CXoczX, содержащее в своем
замыкании точку х0 и такое, что для любой точки х £ СХо группа
изотропии (GXo)x компактна. Тогда инвариантные меры на орбитах
GXo-x (х0£ X, х£СХо) можно согласованно нормировать следующим
образом. Фиксируем какую-либо меру Хаара dg0 на группе G0.
Если x0 = g-o, то GJCo = gG0g и с помощью сопряжения z—+gzg~*
(z £ G0) мы можем преобразовать меру dg0 в меру dgX() на группе
GXo. Так как мера dg0 биинвариантна, то мера dgXn не зависит
от выбора элемента g, удовлетворяющего условию x0 = g-o, и
тоже биинвариантна. Поскольку группа (GXo)x компактна, на ней
имеется единственная мера Хаара dgXo,x с полной мерой 1. Тем
самым меры dgXo и dgXQy x канонически определяют инвариантную
меру \л на орбите GXo-x = GxJ(Gx)x (теорема 1.9). В силу
сказанного, задачу D можно сформулировать в следующем более
конкретном виде:
(D') Выразить функцию f(x0) через интегралы
J f(p)d\L(p), x£CXo.
G -х
х0
В случае когда пространство X есть лоренцево многообразие
постоянной кривизны, сделанное выше предположение выполнено
(с множеством СХо, состоящим из всех «времениподобных» лучей,
выходящих из точки а:0) и можно дать явное решение задачи D'
(см. теорему 6.17 ниже).
(c) Если в приведенном выше примере (ii) группа L есть
полупростая группа Ли, то решение задачи D является основным
шагом в доказательстве формулы Планшереля для преобразования
Фурье на группе L (см. замечания к § 6 в конце главы).
§ 4. Преобразование Радона
на двухточечно-однородных пространствах.
Рентгеновское преобразование
Пусть X—полное риманово многообразие, х—некоторая его
точка и Хх — касательное пространство к многообразию X в
точке х. Обозначим через Ехр^ отображение пространства Хх в X,
задаваемое формулой Ехрх(и)=уаA), где t—->ya(t)—
геодезическая в X с началом в точке х и касательным вектором и в этой
точке.
Связное подмногообразие S риманова многообразия X
называется вполне геодезическим, если любая геодезическая в X,
касающаяся подмногообразия S в некоторой точке, целиком лежит в S.

§ 4. Преобразование Радона на двухточечно-однородных пространствах 175
В Rn вполне геодезическими подмногообразиями являются
плоскости. Поэтому при обобщении преобразования Радона на
случай римановых многообразий естественно привлечь
интегрирование по вполне геодезическим подмногообразиям. Для того чтобы
иметь в своем распоряжении достаточный запас вполне
геодезических подмногообразий, мы будем рассматривать в этой главе
римановы многообразия Ху которые двухточечно-однородны в том
смысле, что для любых двух пар точек р, q и p'f q'
многообразия X, удовлетворяющих соотношению d(p, q) = d(p't qf) (где d —
расстояние), существует изометрия g многообразия X, такая что
g.p = p't g>q = q'. Риманово многообразие X называется
изотропным, если для любой точки р£Х и любой пары единичных
касательных к X в этой точке векторов и, v существует
изометрия многообразия X, оставляющая точку р неподвижной и
переводящая и в v. Хорошо известно, что риманово многообразие
двухточечно-однородно в том и только том случае, если оно
изотропно (см., например, Хелгасон [1978, с. 535, 585]1}). Мы начнем
с класса римановых многообразий, обладающих наиболее богатым
запасом вполне геодезических подмногообразий, а именно с
пространств постоянной кривизны.
1. Пространства постоянной кривизны
Пусть X—односвязное полное риманово многообразие
размерности п>2и постоянной секционной кривизны.
Лемма 1.4. Пусть х£Х и V—подпространство касательного
пространства Хх. Тогда Expx(V)—вполне геодезическое
подмногообразие X.
Доказательство. Выберем какое-нибудь вложение
многообразия X в пространство Rn+1 и предположим для простоты,
что кривизна равна в(=±1). Рассмотрим квадратичную форму
&г \Х) == %\ "г • • • Т^лТ 8«*7i+i
и квадрику Qe, задаваемую уравнением Ве(*) = 8. Ортогональная
группа 0(Ве) транзитивно действует на Qe. Форма Вг является
положительно-определённой на касательном пространстве Rn x {0}
к квадрике Qe в точке #° = @, ..., 0, 1). Ввиду указанной
транзитивности форма В& индуцирует положительно-определённую
квадратичную форму в любой точке Qe, тем самым превращая
Qe в риманово многообразие, на котором группа 0(Вг)
действует как транзитивная группа изометрий.
Подгруппа изотропии в точке х0 изоморфна 0(п) и
транзитивно действует на множестве двумерных подпространств каса-
и Или Вольф [1967, с. 347]. — Прим. перев.

176 Гл. I. Интегральная геометрия и преобразования Радона
тельного пространства (Qe)x°. Отсюда следует, что все кривизны
в двумерных направлениях в точке х° совпадают между собой, а
именно равны е, поэтому, в силу однородности, квадрика Q9 имеет
постоянную кривизну е. Для того чтобы иметь дело со связными
многообразиями, заменим квадрику Q_j ее пересечением Qix с
полупространством хп+1 > 0. Тогда Q+1 и Q1, становятся односвяз-
ными полными римановыми многообразиями постоянной кривизны.
Поскольку такие многообразия определяются размерностью и
кривизной (см., например, Хелгасон [1978, с. 227, 250, 564]1*),
отсюда вытекает, что можно отождествить многообразие X с
квадрикой Q+1 либо QXX.
Все точки геодезической на многообразии X, проходящей
через точку х° с касательным вектором A,0, ..., 0) в этой точке,
остаются неподвижными при действии изометрии
(х1у х2, ..., хп, хп+1) ►(#!, х2, ..., хп, хп+1).
Следовательно, эта геодезическая является пересечением
многообразия X с двумерной плоскостью х2= ... =хп = 0 в Rn+1.
Ввиду транзитивности действия группы О(п) все геодезические
многообразия X, проходящие через х0, совпадают с сечениями
этого многообразия двумерными плоскостями, проходящими через
начало координат. Ввиду транзитивности действия группы 0(Вг)
отсюда следует, что геодезические многообразия X совпадают
с непустыми пересечениями этого многообразия с двумерными
плоскостями, проходящими через начало координат.
Если V—подпространство в Ххо, то многообразие Ехр^о (V)
есть, ввиду сказанного выше, пересечение многообразия X с
подпространством Rw+1, порожденным V их0. Поэтому Ехр*о(К)
является квадрикой в пространстве V+Rx°, а его риманова
структура, индуцированная многообразием Х> совпадает со структурой,
индуцированной ограничением Ве на (V+Rx°). Следовательно,
как указано выше, геодезические на многообразии Ехр^о (У)
представляют собой сечения этого многообразия двумерными
плоскостями, лежащими в подпространстве V + Rx° и проходящими через
начало координат. Тем самым геодезические в Ехр^о (V) являются
геодезическими в X, и поэтому Exp*o(V) есть вполне
геодезическое подмногообразие в X. Ввиду однородности многообразия X
это утверждение останется верным, если мы заменим в нем точку х°
произвольной точкой х£Х. Лемма доказана.
В соответствии с подходом, развитым в § 3, рассмотрим
многообразие X как однородное пространство содержащей единицу
компоненты G группы 0(Ве). Пусть Нх—группа изотропии
группы G в точке л:° = @, ..., 0, 1). Ее можно отождествить
х> Или Вольф [1967, пп. 2.3, 2.4]. — Прим. перев.

§ 4. Преобразование Радона на двухточечно-однородных пространствах 177
со специальной ортогональной группой SO(n). Пусть, далее,
k—фиксированное целое число, l^k^n — 1, и
£0—фиксированное вполне геодезическое подмногообразие многообразия X
размерности &, проходящее через точку х°. Обозначим через Я3
подгруппу в G, оставляющую на месте £0. Тогда
A) X = G/HXl E = G/HEt
где S — множество вполне геодезических ^-мерных
подмногообразий многообразия X. Так как х°€5о» то ясно, что абстрактное
понятие инцидентности сводится к наивному, иными словами,
классы смежности x = gHx, 1 = уН3 имеют общую точку тогда
и только тогда, когда лг£|.
А. Гиперболическое пространство
Рассмотрим сначала случай пространств отрицательной
кривизны, т. е. случай, когда 8 = —1. Преобразование /—>/
задается формулой
B) Hl) = [f(x)dm{x)y
I
где |—произвольное fe-мерное вполне геодезическое
подмногообразие пространства X (l^k) с индуцированной римановой
структурой, a dm—соответствующая мера. Из нашего описания
геодезических в пространстве X ясно, что любые две точки в X
можно соединить единственной геодезической. Пусть d—функция
расстояния на X. Обозначим для простоты начало координат х°
в X через о. Введем теперь геодезические полярные координаты
на пространстве X в точке о; они задаются отображением
Ехр0У-*(г, 9Ь ..., 0^,),
где вектор Y пробегает касательное пространство X0i г = | Y \
(норма определяется римановой структурой), a (б*, ..., 0„_i)—
координаты единичного вектора Y/\ Y |. В указанных координатах
риманова структура пространства X задается формой
C) ds2 = dr2 + (shr)*do2,
где do2 — риманова структура
2 gi/Фи ..., Qn-JdQidQ,
|\ / = I
на единичной сфере в Х0. Это легко проверить, используя
описываемую ниже модель A5) для X. Тогда точка, находящаяся

178 Гл. I. Интегральная геометрия и преобразования Радона
на расстоянии г от «начала» о, представима в виде
п
*/ = thy ©|, где Хю?=1
1
(ср. с соотношением A2) § 4 введения, где кривизна равна —4).
Подставляя в A5) эти равенства, а также равенство
dx{ = у (ch у j a>tdr—th у d(o(
и используя соотношение ^i(oid(oi = 0i мы получаем C). Площадь
г
поверхности А (г) и объем V (г) = J А (/) d/ сферы радиуса г в про-
о
странстве X задаются формулами
г
D) А (г) = Q„ (sh r)«-\ V (г) = Q„ J (sh О" dt,
о
так что V (г) растет как е{п~1)г. Этим объясняется условие на рост
в следующем результате, в котором d (о, 1) обозначает расстояние
от точки о до многообразия |.
Теорема 4.2 (теорема о носителе). Предположим, что функция
f £ С (X) удовлетворяет следующим условиям:
(i) для любого целого /л>0 функция f(x)emd^ *> ограничена;
(и) существует число R > О, ma/сог что / A) = 0 при d(о, £)> Я-
Тогда f(x) = 0 при d(o> x)>R.
В пределе при /? —*0 получаем
Следствие 4.3. Преобразование Радона f—► / взаимно
однозначно на пространстве непрерывных функций на X,
удовлетворяющих условию экспоненциального убывания (i).
Доказательство теоремы 4.2. Используя
сглаживание вида
\^(g)f(g'1'X)dg
(где <p£®(G), dg—мера Хаара на G), мы можем (как и в
теореме 2.6) считать, что / € <В (X).
Рассмотрим сначала случай, когда функция / в формуле B)
является радиальной. Пусть Р—точка подмногообразия |,
находящаяся на минимальном расстоянии p = d(o, I) от точки о, a Q —
произвольная точка из |. Положим
<7 = d(o, Q), r = d(P,Q).

§ 4. Преобразование Радона на двухточечно-однородных пространствах 179
Так как подмногообразие £ вполне геодезическое, то d(Pt Q)
совпадает с расстоянием между точками Р и Q в |. Рассмотрим
теперь вполне геодезическую плоскость я, содержащую
геодезические оР и oQ, существование которой гарантируется леммой 4.1.
Так как вполне геодезическое подмногообразие содержит вместе
с любыми двумя точками соединяющую их геодезическую, то
Рис. 10
плоскость я содержит геодезическую PQ. Пользуясь тем, что угол
oPQ равен 90° (см., например, [ДС, гл. I, лемма 13.6], выводим
с помощью гиперболической тригонометрии (см. упр. С2 и рис. 10),
что
E) ch q = ch p ch r.
Так как /—радиальная функция, то из формулы E) вытекает, что
ограничение /11 постоянно на сферах подмногообразия \ с
центром в точке Р. Поскольку площадь этих сфер равна Qft(shr)*~l,
формула B) принимает вид
во
F) f(S)=QfcS/(Q)(shr)*-Mr.
о
Функция /, будучи радиальной, инвариантна относительно
подгруппы изотропии HxaG точки о. Но подгруппа Нх транзитивна
не только на каждой сфере Sr (о) с центром в о, но и (для любого
фиксированного k) на множестве ^-мерных вполне геодезических
подмногообразий, касающихся Sr(o). Следовательно, f(l) зависит
только от расстояния d(o, £). Поэтому мы можем записать
функции / и / в виде
f(Q) = F(chq)t f(t)=F(chp),

180 Гл. I. Интегральная геометрия и преобразования Радона
где F и F—некоторые функции одной переменной. В силу E)
получим
00
G) F (ch р) = Qk J F (ch p ch r) (sh r)* dr.
о
Вводя обозначения t = chp, s = chr, приведем эту формулу к виду
(8) F(/) = Qk J F (is) (s2 — 1 )(i/») * -Ms.
Подставим сюда w = (/s)_1 и затем положим и=/. Тогда
формула (8) примет вид
00
v~xF (v-x) = Qk\ {F (и'1) u~k) (v2 — u*)W*k-* du.
о
Это—интегральное уравнение вида A9) из § 2, поэтому мы
получаем следующий аналог формулы B0) из § 2:
и
(9) F(u-1)u-k=cu(I^))k^(u2—и»)»/»)*-!^-1)*;.
о
Но по условию (ii) теоремы F(chp) = 0, если p>R. Таким
образом, F(v~1) = 0, если 0 < v <C (ch/?). На основании формулы (9)
мы можем заключить, что F(w1) = 0 при ^<(сЬ/?)_1. Это
означает, что /(л;) = 0 при d@, х) > 7?. Тем самым для радиальных
функций / теорема доказана.
Рассмотрим теперь произвольную функцию fczS (X),
удовлетворяющую условиям (i), (ii). Фиксируем точку х£Х и рассмотрим
интеграл
Р*(У)= S f(gk-y)dk, y£X,
Их
где g—такой элемент группы G, что g-o = x, a dk —
нормированная мера Хаара на Нх. Согласно теореме 1.9, Fx есть среднее
значение функции / на сфере с центром в точке х, проходящей
через g-y. Функция Fx удовлетворяет условию убывания (i) и
является радиальной. Кроме того,
A0) Px(l)= S J{gk-l)dk.
Теперь нам понадобится следующая оценка:
(П) dip, gk-l)^d(o, l)-d{o, g-o).

§ 4. Преобразование Радона на двухточечно-однородных пространствах 18Г
Для ее доказательства выберем на подмногообразии £ точку х0У
ближайшую к точке k~1g~1-o. Тогда, в силу неравенства
треугольника,
d(o, gk.t) = d(k-ig-i.o, t)
^d(o, xJ—diOtk-ig-i-o)
>d(o, l)—d(o, g-o).
Поэтому из условия (ii) вытекает, что
Fx(I) = О при d(о, l)>d(o, x) + R.
Так как функция Fx радиальна, из первой части доказательства
теоремы следует, что
A2) $ f(gk-y)dk = 0,
нх
если
A3) d(o, y)>d(o,g.o) + R.
Но множество {gk-y: k£Hx} есть сфера Sd{0ty)(g-o) с центром
в точке g-o и радиусом d(o, у); далее, из неравенства A3)
вытекает включение
A4) BR(o)<zBdio,y)(g-o)
для соответствующих шаров. Обратно, рассматривая лежащую
в BR(o) часть геодезической, проходящей через точки о к g-o,
получаем, что из соотношения A4) следует неравенство A3).
Поэтому теорема 4.2 будет доказана, если мы установим
следующую лемму:
Лемма 4.4. Пусть функция f£C(X) удовлетворяет условиям
(i) для каждого целого т > 0 функция f (x)emdi0t x) ограничена;
(ii) существует такое число R > 0, что J / (s) dco (s) = 0 для
s
всякой сферы S, охватывающей шар BR(o).
Тогда f(x) = 0 при d(o, x)>R.
Доказательство. Эта лемма является точным аналогом
леммы 2.7, в доказательстве которой, однако, использовалась
структура векторного пространства на R". Тем не менее,
применяя подходящую модель гиперболического пространства, мы
сможем приспособить это доказательство и к рассматриваемой
ситуации. Как и ранее, можно предполагать, что функция / является
гладкой, т. е. f££(X).

182 Гл. /. Интегральная геометрия и преобразования Радона
Рассмотрим единичный шарчхёК'1: 2*!<м> наделенный
римановой структурой
A5) ds2 = p(xlt ..., xnJ(dxl+...+dx*),
где
P(*i, ..., xn) = 2(l-x\-...-x*)-\
Известно (см. упр. О), что это риманово многообразие имеет
постоянную кривизну — 1, поэтому его можно использовать
в качестве модели пространства X. Указанная модель удобна тем,
что сферами в X являются обычные евклидовы сферы,
заключенные внутри единичного шара. Для сфер 2 с центром в точке о
этот факт очевиден. В общем случае достаточно проверить, что
Г B) будет евклидовой сферой для любой геодезической
симметрии Т относительно некоторой точки (которую можно считать
лежащей на оси xj. Единичный круг D в плоскости #i, x2 есть
вполне геодезическое подмногообразие в X, поэтому он
инвариантен относительно Т. Так как изометрии неевклидова круга D
порождаются комплексным сопряжением
/Cj —р *Х<£ * Л j *—■"- ЬХа
и дробно-линейными преобразованиями, они переводят евклидовы
окружности снова в евклидовы окружности. В частности, Г B [\D)
= Т B) n D есть евклидова окружность. Но Т коммутирует с
вращениями вокруг оси хг. Поэтому множество Т B) инвариантно
относительно таких вращений и пересекает D по окружности,
следовательно, оно является евклидовой сферой.
Вполне геодезические гиперповерхности в X представляют
собой сферические шапочки, перпендикулярные границе.
После этих предварительных замечаний приступим к
доказательству леммы 4.4. Пусть S = Sr(y)—сфера в пространстве X,
охватывающая шар BR (о) и ограничивающая шар Вг(у).
Представляя внешность Х\Вг(у) в виде объединения сфер в
пространстве X с центром в точке у, выводим из условия (п), что
A6) J f(x)dx=\f(x)dx.
Вг (У) X
Последняя величина остается постоянной при малых изменениях
г и у. Риманова мера dx задается равенством
A7) dx=pndx0>
где йх0 = йхг ... dxn—евклидов элемент объема. Пусть г0 и у0
обозначают соответственно евклидов радиус и евклидов центр
сферы Sr(y). Тогда Sro(y0) = Sr(у), ВГо(у0) = Вг(у) (как множества)

§ 4. Преобразование Радона на двухточечно-однородных пространствах 183
и, согласно формулам A6), A7),
A8) J / (х0) р (х0)п dx0 = const
вГош
при малых значениях г0 и у0. Поэтому, дифференцируя по г0,
получим
A9) J /(so)p(So)*dcMs0) = 0,
где do—евклидов элемент площади поверхности. Введем
обозначение
/*(*) = /(*) PW".
Тогда, согласно A8),
J f*(x0)dx0 = const,
так что, дифференцируя по у0, получим
ВГо (о)
Применяя формулу Стокса B6) из § 2 к векторному полю
F(x0)=*p(y0 + Xo)dl9 определенному в окрестности ВГо (о),
преобразуем последнее уравнение к виду
Sro (о)
что в совокупности с формулой A9) дает
B0) J f*(s)Sid(o0(s) = 0.
Евклидова и неевклидова римановы структуры на Sro(y0)
отличаются множителем р2. Следовательно, d(d = p(s)n~xd(d0, и
уравнение B0) принимает следующий вид:
B1) J /(s)p(s)s,dD(s) = 0.
Sr(y)
Тем самым мы показали, что функции х—*f(x)p(x)xt
удовлетворяет условиям теоремы. Повторяя это рассуждение, получим
B2) J /(s)p(s)*sfl ... s, A>(s) = 0.
Sr(y)
В частности, это верно для у = 0 и r>R. Значит, p(s) = const,
и из B2) в силу аппроксимационной теоремы Вейерштрасса еле-

184 Гл. /. Интегральная геометрия и преобразования Радона
дует, что / = 0 вне BR(o). Тем самым лемма 4.4, а с ней и
теорема 4.2 доказаны.
Пусть теперь L обозначает оператор Лапласа — Бельтрами на
пространстве X (см. его определение в § 2 гл. II). Ввиду
формулы C) для рима новой структуры на X оператор L задается
равенством
<23) L«-^ + (n-l)cthr| + (sh r)-*Ls,
где Ls—оператор Лапласа — Бельтрами на единичной сфере в
пространстве Х0 (см. также предложение 5.26 гл. II). Далее,
рассмотрим для каждого г^О оператор среднего значения Мг,
определяемый формулой
№Ш = -щ I /(s)dco(s).
Sr(x)
Как мы видели ранее, его можно записать также в виде
<24) (М7)(£-о)= S f(gk-y)dk,
где g—произвольный элемент G, а у—точка Ху для которой
r = d(o, у). Из предложения 4.12 гл. II (которое вполне можно
было бы доказать и в этом месте) следуют соотношение
коммутативности
<25) M'L = LMr
и аналог уравнения Дарбу
B6) Lx(F(x, y)) = Ly(F(x, у))
для функции F (ху у) = (Md <0» у) f) (x).
Для всякого целого числа k (l^k^n—1) обозначим через S
многообразие всех ^-мерных вполне геодезических
подмногообразий пространства X. Если ф—непрерывная функция на S, то
обозначим через ф функцию от х£Х, задаваемую формулой
Ф(*)= J ФE)ф(£),
где \i—единственная мера на (компактном) пространстве
подмногообразий |, проходящих через точку х, инвариантная относительно
всех вращений вокруг х и имеющая полную меру 1.
Теорема 4.5 (формула обращения): Пусть k четно, обозначим
через Qk многочлен
Qk(z) = [z + (k-l)(n-k)][z+(k-3)(n-k + 2)] ... [2+1.A-2)]

§ 4. Преобразование Радона на двухточечно-однородных пространствах 185-
степени k/2. Формула обращения для k-мерного преобразования
Радона на пространстве X имеет вид
cf = Qk(L)(fy9 /€»(*),
где с—следующая константа:
<27> ^Г([Л/2)(-4л)'1/2)Д-
Эта формула сохраняет силу для функций /, быстро убывающих:
в смысле условия (i) теоремы 4.2.
Доказательство. Фиксируем подмногообразие SgS,
проходящее через начало координат о£Х. Для х g X фиксируем
элемент g£G, такой, что g-o = x. Когда h пробегает подгруппу Нх>
gh-l пробегает множество вполне геодезических подмногообразий
пространства X, проходящих через точку ху и
Ф(£.о)= J <p(gh-l)dh.
Следовательно,
<fT(g-o)= S (U^h-y)dm(y))dh=^(Mrf)(g.0)dm(y)f
где r = d(o, у). Но поскольку I—вполне геодезическое
подмногообразие в X, оно также имеет постоянную кривизну —1 и
расстояния между двумя точками подмногообразия | в его метрике
и в метрике пространства X совпадают. Таким образом,
00
B8) Q)- (х) = Q» J (А!'/) (*) (sh г)*"» dr.
О
Применяя к обеим частям этого равенства оператор L и
используя представление B3), получаем
00
B9) (L (/У) (*) = Q„ S (sh г)*"* Lr (M'f (х)) dr,
О
где Lr—«радиальная часть»
_|L + („_l)cthrJ:
лапласиана L. Положим теперь F(r) = (Mrf)(x). Справедлив еле*
дующий результат:

186 Гл. I. Интегральная геометрия и преобразования Радона
Лемма 4.6. Пусть т—целое число, 0 </и < n = dimX Тогда
ао Г «о
J (sh г)" LrF dr = (m + 1 — n) \m J (sh r)a F (r) dr
о L о
+ (m — 1) J (sh/•)»"? F(r)dr .
9»
В случае m=l члги (m—1) J (sh/^""^(rjdr нужно заменить на
/><0).
Доказательство проводится повторным интегрированием по
частям.
Из этой леммы и уравнения Дарбу B6), записанного в виде
C0) Lx(M'f{x)) = Lr(M'f(x)),
выводим, что
00
[Lx + т (п—т— 1)] J (sh r)a (Mrf) (x) dr
о
= — (п— т— \)(т—1) $(shr)e-s(Af'/)(*)dr.
о
Повторно применяя это соотношение к формуле B9), получаем
теорему 4.5.
В. Сферы и эллиптические пространства
Пусть теперь X обозначает единичную сферу S"@)clRn+1, a H —
множество всех fe-мерных вполне геодезических подмногообразий
в X. Все элементы |£S являются fe-сферами. Мы хотим найти
обращение преобразования Радона
f{l) = \f(x)dm(x)y /€ <£(*),
s
где dm—мера на сфере |, задаваемая римановой структурой на ?,
индуцированной римановой структурой пространства X. В
отличие от гиперболического пространства каждая геодезическая
пространства Х9 проходящая через точку х9 содержит также
диаметрально противоположную (антиподальную) точку Ах. Поэтому
/=5(/оЛ)", и наша формула обращения должна отражать этот
факт. Хотя наш результат формулируется для сферы, в
действительности он относится к эллиптическому пространству, т. е.
к сфере с отождествленными антиподальными точками. Функции

§ 4. Преобразование Радона на двухточечно-однородных пространствах 187
на этом пространстве допускают естественное отождествление с
четными функциями на сфере.
Пусть снова
Ф(*)= J Ф©4*©
обозначает среднее непрерывной функции на пространстве S по
множеству сфер £, проходящих через точку х.
Теорема 4.7. Пусть k—целое число, 1 ^k < я = dim Л".
(i) Ядро отображения f—+}(f€d>(X)) состоит из нечетных
функций, (т.е. функций /, для которых / + /оЛ = 0).
(и) Пусть k—четное число и Pk—многочлен
Pk(z)=[*—(k—l)(n—k)][z—(k—3)(n—k + 2)]...[z—l.(n—2)]
степени k/2. Тогда обращение k-мерного преобразования Радона
на X задается формулой
c(f + foA) = Pk(L)((f)~)t /€*(*).
где с—константа, даваемая формулой B7).
Доказательство. Докажем сначала утверждение (и) таким
же образом, как и в некомпактном случае. Риманова структура C)
заменяется теперь римановой структурой
ds2 = dr2 + sin2 rdor2;
формула B3) для оператора Лапласа — Бельтрами заменяется
формулой
C1) L=^r + (n-l)ctgr^r + (sinrr2L5,
и
tfn*) = Qj5(A*'/)(*)sta*-Vdr.
О
Для фиксированного х положим F(r) = (Mrf)(x). Аналог леммы
4.6 имеет следующий вид:
Лемма 4.8. Пусть т—целое число, 0 < т < n = dimX. Тогда
я
J s\nmrLrFdr
о
^=(л—т— 1) т $ smmrF(r)dr—(m— 1) $ sinmrF(r)dr L

188 Гл. I. Интегральная геометрия и преобразования Радона
я
При т = 1 член (т — 1) J sin"*"? rF (r) dr нужно заменить на
F@) + F(n).
Так как по-прежнему справедливо равенство C0), то из этой
леммы вытекает, что
я
[Lx—m{n—m— 1)] \ sin"r(Mrf)(x)dr
о
я
= —(п—т— 1) (т— 1) J sin"*-2 r (Mrf) (x)dr.
о
Искомая формула обращения доказывается последовательным
применением этого соотношения с учетом того факта, что F@) + F(n)
=f(*) + f(Ax).
В случае четного k утверждение (i) вытекает из (и).
Предположим теперь, что k = n—1, где п четно. Для каждой сферы £
имеются в точности две точки х и Ах, находящиеся на
максимальном расстоянии (равном я/2) от \. Положим
f(x) = f(Ax) = /(£).
Тогда
C2) f(x) = Qn(M*>f)(x).
Далее, напомним разложение
<33) L4X)=JIES
0
из § 3 введения. Здесь пространство Es состоит из ограничений
на X однородных гармонических многочленов степени s на
пространстве Rn+1. Оно является собственным подпространством для
оператора L, соответствующим собственному значению —s(s+n — 1)
(s^O). Как доказано в указанном параграфе, Es содержит
единственную функцию ф5, инвариантную относительно действия
группы К вращений вокруг вертикальной оси (оси xn+i в R.n+1)
и удовлетворяющую условию Ф5(о) = 1, где о—северный полюс.
Так как оператор среднего значения Мп/2 коммутирует с
операторами неприводимого действия группы 0(п + \) в Es, мы
заключаем на основании леммы Шура, что он совпадает на Es
с умножением на некоторый скаляр cs. Тогда из равенств
M^(ps = csq>Si <Mo)=l
следует, что
Х34)
с* = <Ь (я/2).

§ 4. Преобразование Радона на двухточечно-однородных пространствах 189
Лемма 4.9. Число ф5(я/2) равно нулю тогда и только тогда,
когда s нечетно.
Доказательство. Пусть Hs есть /(-инвариантный
однородный гармонический многочлен, ограничение которого на X
совпадает с ф5. Тогда Hs является многочленом от
(*?+...+4) и хп+1.
Поэтому, если s нечетно, каждый член этого многочлена
содержит хп+1, откуда
Ф5(я/2) = #5A, 0, ...,0, 0) = 0.
При четном s, скажем s = 2d, запишем
Hs = a0(xl+ ... +xS)d + ai*S+i {x\+ ... + x%)d^ + • • • + аахЦг.
Используя равенство Ln+J = Ln + d2/dxl+1 и формулу C1) из § 2,
получаем из соотношения Ln+1Hs = 0 рекуррентную формулу
а, Bd—20 Bd—2/ + л—2) + а/+1 B« + 2) B* + 1) = 0
@<!t<d). Следовательно, число Я5A, 0, ..., 0), равное а0,
отлично от нуля. Лемма доказана.
Далее, в силу теоремы 3.3 введения, каждая функция f££(X)
допускает разложение в равномерно сходящийся ряд
00
о
и в силу C2)
f = Qnic/is.
о
Если / = 0, то, по лемме 4.9, Л5 = 0 для четных s, поэтому / —
нечетная функция. Обратно, если / нечетна, то f=0. Тем самым
теорема 4.7 доказана в случае k = n—1 и четного п.
Если k нечетно и 0 < й < я—1, то приведенное
доказательство показывает, что из обращения в нуль функции /(£) для всех
£ £ 2 вытекает обращение в нуль интегралов от функции / по
всем (&+1)-мерным сферам радиуса 1 с центром в 0. Так как
k+l четно и k+l<n, то из утверждения (ii) следует, что
/ + /оЛе=0, и теорема доказана.
2. Компактные двухточечно-однородные пространства
Распространим теперь формулу обращения из теоремы 4.7 на
компактные двухточечно-однородные пространства X размерности
л>1. Согласно классификации Вана [1952], эти пространства

190 Гл. /. Интегральная геометрия и преобразования Радона
являются компактными симметрическими пространствами ранга
один, поэтому их геометрию можно описать вполне явным
образом. Здесь мы используем некоторые геометрические и теоретико-
групповые свойства этих пространств (свойства (а) — (g) ниже), за
доказательствами которых отсылаем к Хелгасон [1978, гл. VII, § 10].
Пусть U—группа I (X) изометрий пространства X. Фиксируем
начало о£Х и обозначим через К подгруппу изотропии U0. Пусть
! и ц—алгебры Ли групп К и U соответственно. Алгебра и
полупроста. Далее, пусть у—ортогональное дополнение к I в it
относительно формы Киллинга В на и. Подправляя функцию
расстояния в X постоянным множителем, можно считать, что дифференциал
отображения и—► «•() группы U на пространство X задает
изометрическое изображение пространства $ (с метрикой—В) на
касательное пространство Х0. Этой канонической метрикой на X мы
и будем пользоваться.
Пусть L—диаметр пространства X, т. е. максимальное
расстояние между двумя его точками. Для х£Х обозначим через Ах
множество всех точек из X, находящихся на расстоянии L от х.
Ввиду двухточечной однородности подгруппа изотропии Vх тран-
зитивно действует на Ах. Тем самым Ах является
подмногообразием в X. Его называют антиподальным многообразием точки х.
(a) Каждое многообразие Ах есть вполне геодезическое под-
многообразие пространства X, Оно является двухточечно-одно
родным пространством относительно римановой структуры,
индуцированной римановой структурой пространства X,
(b) Пусть S—множество всех антиподальных многообразий
пространства X. Так как группа U транзитивно действует
на Е у то множество S имеет естественную структуру
многообразия. Отображение /: х—>АХ является диффеоморфизмом.
Далее, х£Ау тогда и только тогда, когда у^Ау.
(c) Все геодезические в X имеют период 2L. Для х^Х
отображение Ехр^: Хх—*Х задает диффеоморфизм шара BL@) на
открытое множество Х\АХ.
Фиксируем какой-нибудь вектор Н £ у длины L (т. е. L2=— В (Н9
#)). Для любого вектора Z£$ обозначим через Tz линейное
преобразование Y—+[Z,[Z,Y]] пространства р (здесь [,] — скобка
Ли в и). Для простоты будем теперь вместо Ерх0 писать просто
Ехр. Назовем точку Y £ ji сопряженной с точкой о, если
дифференциал dExp вырождается в точке Y.
Прямая a = RH является максимальным абелевым
пространством в р. Собственные значения оператора Тн равны 0, а (Я)?
и, возможно, (а(#)/2J, где ±а (и, возможно, ±а/2)- корни
алгебры и относительно а. Пусть
C5)
и = а + ^а+Ра/«

§ 4. Преобразование Радона на двухточечно-однородных пространствах 191
— соответствующее разложение пространства р в сумму
собственных подпространств. Размерности <7 = dim(pa), p = dim(t)a/2)
называются кратностями корней а и а/2 соответственно.
(d) Предположим, что точка Н сопряжена точке о. Тогда
множество Exp(a + J)a)r наделенное римановой структурой,
индуцированной из X, есть вполне геодезическая сфера в X с
кривизной n2/L2, а точки о и Exp H этой сферы антиподальны. Далее,
^ЕхРя = Ехр(ра/2).
(e) Если точка Н не является сопряженной к точке о, то
*а/2 = 0 и ЛЕхря = Ехрра.
(f) Дифференциал отображения Ехр в точке Y задается фор-
мулой
dExpy =dT(expK)o2^
о
B*+!)!'
где т(и) при u£U есть изометрия х—+и-х.
(g) По аналогии с представлением B3) оператор Лапласа —
Бельтрами L на пространстве X задается формулой
где Lsr—оператор Лапласа—Бельтрами на сфере Sr(o), а А (г) —
ее площадь (предложение 5.26 гл. II).
Лемма 4.10. Площадь А (г) @ < г < L) равна
А (г) = QnX'P Bl)-« slnP (kr) sin* BXr)t
где р и q—введенные выше кратности, а X = \a(H)\/2L.
Доказательство. В силу (с) и (f) площадь сферы Sr(o)
задается формулой
MD- J det(f ^W<y),
где dcor—элемент площади на сфере |У|=г в р. Ввиду
двухточечной однородности подынтегральная функция зависит лишь от г%
поэтому мы можем вычислить ее при Y = Hr = (r/L) H. Так как
ненулевыми собственными значениями оператора Тн являются
a(#rJ (с кратностью q) и (а(Нг)/2J* (с кратностью /?), лемма
доказывается тривиальной выкладкой.
Вернемся вновь к задачам А—С п. 2 § 3 для однородных
пространств X и S, на которых транзитивно действует одна и та же

192 Гл. I. Интегральная геометрия и преобразования Радона
группа U. Фиксируем какое-либо подмногообразие ?0£S,
проходящее через начало о£Х. Если 10 = А0', то это подмногообразие
инвариантно относительно элемента u£U в том и только том
случае, когда он лежит в подгруппе изотропии /С'= £/<>'. Тем самым
мы получаем отождествления
X = U/K, 5 = £//*',
и элементы х£Х и |£Н инциндентны тогда и только тогда,
когда х £ £.
Выберем теперь на пространстве S риманову структуру таким
образом, чтобы диффеоморфизм /': х—+Ах из утверждения (Ь) был
изометрией. Пусть L и Л—лапласианы соответственно на X и Н.
Фиксируя множества х и Н, определенные так же, как в п. 1
§ 3, получим
Первое из этих соотношений сводится к приведенному выше
описанию инцидентности, а второе является следствием
эквивалентности х£Ау&у£Ах, отмеченной в (Ь).
На множествах х и | введем соответственно меры d\i и dm,
индуцированные римановыми структурами пространств 3 и!
Преобразование Радона и двойственное к нему преобразование
задаются при этом формулами
fa)=U(x)dm(x), Ф(*)=$ф®^(£).
£ х
Но
Ф(*)=$Ф®ад= J Ф</(У))Ф</@)= S (<P°i)(y)dm(y),
х ye Их) Их)
поэтому
C6) ф = (фо/)~о/.
Учитывая эту связь между преобразованиями /—>f и ф—^ф,
достаточно рассмотреть лишь первое из них. Пусть D(X) —
алгебра дифференциальных операторов на пространстве X,
инвариантных относительно группы U. Можно показать (см. § 4 гл. II),
что D(X) порождается лапласианом L. Аналогично алгебра D(B)
порождается лапласианом Л.
Теорема 4.11. (i) Отображение /—+} является линейным
взаимно однозначным отображением пространства £ (X) на
пространство & (В), причем (Lfy=Af.
Х) Здесь 6 в левой части трактуется как элемент из S, а в правой—как
подмногообразие в X.— Прим. перев.

§ 4. Преобразование Радона на двухточечно-однородных пространствах 193
(и) За исключением случая четномерных эллиптических
пространств X, имеет место формула
f = P(L)((f)~), /€*(*),
где Р—не зависящий от функции f многочлен, явный вид
которого для всех возможных случаев дается приводимыми ниже
формулами D4)—E0). Во всех случаях степень многочлена Р равна
половине размерности антиподального многообразия.
Доказательство. Докажем сначала утверждение (И). Пусть
dk—мера Хаара на группе /С, такая что }dk=l9 и Q*—полная
мера антиподального многообразия в пространстве X. Тогда ц, (о)
= m(A0) = Qx и для u£U
<p(wo) = Qx ) q>{uk-l0)dk.
к
Следовательно,
Ф~(u-o)~QxUl f(uk*y)dm(y)\dk~^
к \io J io
где г—расстояние d(of у) в пространстве X между точками о и
у. Если d(o9 y)< L, то в X существует единственная
геодезическая длины d(o9 у), соединяющая точки о и у, а так как
подмногообразие |0—вполне геодезическое, то d(o9 у) совпадает с
расстоянием между о и у на подмногообразии Ъо. Поэтому, переходя
в последнем интеграле к геодезическим полярным координатам
на 1о, получаем
C7) (ff (х) - Их J (M'f) (х) At (r) dr,
о
где Ai (r)—площадь сферы радиуса г в £<,. По лемме 4.10
C8) А1 (г) = Cf sin* (V) sim» BXtr)>
где Cj и ^i—константы, a pu Qi—кратности корней для
антиподального многообразия. Чтобы с помощью формулы C7)
доказать утверждение (и), нам понадобится следующий полный
список компактных симметрических пространств ранга один и
соответствующих им антиподальных многообразий*
7 С. Хелгасон

194 Гл. /. Интегральная геометрия и преобразования Радона
X
сферы
вещественные проективные пространства
комплексные проективные пространства
кватернионные проективные пространства
плоскость Кэли
P"(R)
Р»(С)
Р"(Н)
Р" (Сау)
(я = 2.
(ft=4,
(ft=8,
2, .
3, .
6, .
12,.
■•)
••)
А,
точка
P"-1(R)
Р»-?(С)
Р"~4(Н)
S8
Верхние индексы обозначают здесь вещественные размерности
соответствующих пространств. Отметим, что для низших
размерностей
PMRJ-S1, P2(C) = S2, P4(H) = S4.
Для сфер Sn утверждение (ii) тривиально, а случай
пространств X = pn(R) уже рассмотрен в теореме 4.7. В остальных
случаях как а, так и а/2 являются корнями, поэтому, согласно
(е), точка Н сопряжена точке о и, следовательно, справедливы
замечания утверждения (d). Так как всякая замкнутая
геодезическая в А0 является замкнутой геодезической в X, то
L = диаметр X
= диаметр Ах
= расстояние от точки о до ближайшей сопряженной точки
в Х0
= наименьшее число М, для которого НтЛ(г) = 0.
Кратности р и q для симметрических пространств ранга 1
были вычислены Э. Картаном [1927] (см. также Араки [1962],
Хелгасон [1978, с. 532]1}). Мы получаем следующий список:
Х = Р"(С):
р = п—2, 9=1, X = jt/2L,
А (г) = у Q„X-"+* sin<"-?> (Xr) sin BJLr),
At (r) = \ Qn-2Ar"+? sin<"-*> (Xr) sin BXr);
X = p»(H):
p = n—4, <7 = 3, X = n/2L,
A(r) = ± QnX-»+i sin("-4> (Xr) sin3 BXr),
Al (r) = i- Оя.4Х-»+8 sin <"-8> (Яг) sin3 BXr)\
*> Или Лоос [1985, гл. VII].— Прим, перев.

§ 4. Преобразование Радона на двухточечно-однородных пространствах 195
Х = Р1в(Сау)
р = 8, 9 = 7, l = n/2L,
А (г) = A/20 QUX sin8 (Xr) sin7 BXr),
A1(r) = Q8s'm'?BXr).
Во всех случаях имеем
L
C9) Qx = m(^0) = 5A(r)dr.
о
Итак, площади А (г) и Аг(г) во всех случаях выражаются через
п и L. Но L тоже можно выразить через л. Действительно,
метрика Киллинга обладает следующим свойством:
s(#,#)=2P(#J,
где суммирование ведется по всем корням р. Следовательно,
-L* = -\H\* = 2p(±a(H)y + 2q(a(H))\
Но, в силу (с), Н есть первая сопряженная точка на луче R+#,
поэтому |a(#)|=*Jt (см. [ДС, с. 280)]. Тем самым мы получаем
формулу
D0) ^ = р(д2/2) + 2?л2.
Лемма 4.12. Диаметры L проективных пространств Р"(С),
Р"(Н), Р1в(Сау) в метрике Киллинга равны соответственно
(| + 1I7Ч (| + 4I/2я, 3^2я.
Как и в случае пространств постоянной кривизны (см. B5)),
справедливо свойство коммутативности
D1) MrL = LMr,
из которого следует (см. B6)), что
D2) LM((M'f)(x)) = Lr((M'f){x))9
где, в силу утверждения (g) и леммы 4.10,
Lr = ш+х & cte ^г) + 2?cts BИ) l <° <' < «■
Применим теперь этот лапласиан к обеим частям равенства C7)
и воспользуемся формулой D2) для упрощения правой части. Для
получения окончательного результата нам понадобится
многократно использовать следующие три леммы.
7*

196 Гл. /. Интегральная геометрия и преобразования Радона
Лемма 4.13. Пусть X = prt(C), f£C~(X). Если т—четное
число, О^т^п—4^ то
ь
(Lx—X2 (п—т—2) (т + 2)) J sin* (Xr) sin BXr) (Mrf) (x) dr
о
L
e — Щп—т—2) т \ sin01"? (Kr) sin BXr) (Mrf) (x) dr.
о
В случае т = 0 правую часть следует заменить на
—2%(n—2)f(x).
Лемма 4.14. Пусть Х = ря(Н), f£C°°(X) и т—четное целое
число у О < т^.п—8. Тогда
L
(Lx—№ (п—т—4) (т + 6)) J sin* (Kr) sin3 BXr) (Mrf) (x) dr
о
L
= _ № (n — m— 4) (m + 2) J sin*-» (Xr) sin8 B%r) (Mrf) (x) dr.
о
Кроме того,
ь
(Ьх—Ш (n—4)) (Lx—4Я? (n—2)) J sin3 BXr)(Mrf) (x)dr
о
= 16X3(n—2)(n—4)/(x).
Лемма 4.15. Пусть X = p*e(Сay), / £C°° (X) и m—целое число,
m > 1. Тогда
(L*— 4Xam A1 —m)) J sin* BXr) (Mrf) (x) dr
о
L
= — 32№ (m — 1) J sinw"? BXr) cos? (%r) (Mrf) (x) dr
о
L
+ 4Я2 (m— 1) (m — 7) J sin*"? BXr) (Af'/) (jc)dr,
о
(L*—4№(m + 1)A0—m)) J sin*BXr)cos?(Xr)(M'/)(*)dr
о
= 4X? Cm—5) J sin* BЯг) (Af'/) (x) dr
о
+ № (m— 1) (m_ 15) J sin* BXr) cos? (Kr) (M'f) (x)dr.
о

§ 4. Преобразование Радона на двухточечно-однородных пространствах 197
Кроме того,
ь
<43) (Lx—72№) J sin BЯг) cos? (Яг) (Mrf) (x) dr
о
L
= — 8Я2 5 sin BЯг) (Mrf) (x) dr —28Я/ (x).
о
Эти леммы доказываются путем длинных вычислений. Так как во
всех случаях это делается сходными методами, проверим только
последнюю формулу D3). Имеем
Lr-§2+^{8^M + UcigBXr)}^.
Поэтому, положив F(r) = (Mrf)(x), по формуле D2) получим
L
Lx J sin BЯг) cos2 (Яг) (Mrf) (x) dr
о
L
= J (sin BЯг) cos2 (Яг) F'\r) + D4Я cos4 (Яг)—14Я cos2 {Xr)) F\r)) dr
о
L
= J C6Я cos4 (Яг)—8Я cos2 (Яг)) F (r) dr
0
L
=—28Я^@)—Я2 J F (r) (sin BЯг) (8—72 cos2 (Яг))) dr, .
о
что и дает формулу D3).
Теперь мы можем доказать утверждение (И) теоремы 4.11.
Рассмотрим сначала случай X = Р1в (С а у). Имеем
L
ф ~ (х) = Q8Qx J (Mrf) (x) sin7 BЯг) dr.
о
Здесь
L2 = 18яа, Qx = Q8 J sin7 BЯг) drt Я = я/2£.
о
Взяв /л = 7 в лемме 4.15, получим
<L,— 112Я2) J (iW^) (x) sin7 BЯг) dr
о
L
« — 192Я2 J (M7) (л:) sin* BЯг) cos? (Яг)dг.
о

198 Гл. I. Интегральная геометрия и преобразования Радона
Положив /л —5, найдем, что
L
(Lx— 120Я2) (Lx— 112Я2) I (Mrf) (x) sin' BЯг)dr
о
= (—192Я2) D0Я?) J (Mrf) (x) sin! BЯг^г
—4 J (M'/) (x) sin3 BЯг) cos2 (V)dr .
Снова взяв m=5, получим
(Lx— 120Я2J (Lx— 112Я2) J (Mrf) (x) sin' BЯг) dr
о
= (—192Я2) D0Я2) (—128Я2) J sin3 BЯг) cos2 (Яг) (Mrf) (x) dr
L
—32Я2 J sin3 BЯг) (Mrf) (x) dr
о
—4 (Lx— 120Я2) J (Mrf) (x) sin3 BЯг) cos2 (Яг) dr .
Положив m = 3, найдем, что последний член равен
L
—4 (L,— 112Я2—8Я2) J (Л1'/) (х) sin3 Bkr) cos2 (Яг) dr
о
L
_ —64Я? J (Af 7) (х) sin3 BЯг) dr
о
L
+384W J (Л1'/) (x) sin BXr)cos2 (Яг) dr
о
L
+32Я2 J (Л1'/) (x) sin3 BЯг) cos2 (Яг) dr.
о
Следовательно,
L
(L,— 120Я2J (Lx— 112Я2) J (M'f) (x) sin? BЯг) dr
о
= 192.40 • 96. Яв К (Mrf) (x) sin3 BЯг) cos? (Яг) dr
L L -l
+ S (^7) (*) sin3 BЯг) dr—4 J (Mrf) (x) sin BЯг) cos2 (kr)dr .
о о J

§ 4. Преобразование Радона на двухточечно-однородных пространствах 199
Применим, наконец, оператор Lx—П2№ к обеим частям
последнего равенства. Взяв т = 3 в лемме 4.15, получим
(Lx— 112Х2) J (Mrf) (x) sin3 B%r) cos2 (%r) dr
о
L
= 16X2 J (M'/) (x) sin3 BЯг) dr—96X2 J (M'/) (x) sin BXr) cos2 (Xr) dr,
о о
(Lx— 112Я2) J (M7) (x) sin3 BXr) dr = —16№ J(M'/) (*) sin3 BXr) dr
о о
L L
—64№ J (Af'/) (*) sin BXr) cos2 (Xr) dr—32X2 J (M'/) (*) sin BV) dr
о о
—4 (L^— 112X2) J (Mrf) (x) sin BXr) cos2 (Xr) dr
0
= 160X2 J (M7) (*) sin BXr) cos2 (Яг) dr
0
L
+32W J (M7) (x) sin BЯг) + 112A,/ (x).
К счастью, все члены, за исключением последнего, пропадают, и
мы получаем
<LX—112Я2J (Lx— 120Я2J J (М'/) (*) sin7 BЯг) dr
о
= 192.40.96.112. Vf (x).
Подстановка значения Х~2 = 72 дает теперь
<Lx-14/9)?(V-15/9K(/)>)
= QlBA,)-*( J sin'sds) 192-40-96.112-A,'/W
-*0
о /
Я V
sin's ds ) 28 • 3-« • 5. 7f (x) = ^Ц- f (x).
3«
Тем самым мы доказали, что для Х = р"(Сау)
f = P(L)((fY)f f£C*(X),
где
D4) P(L) = ^A-14/9L1-15/9I.

200 Гл. I. Интегральная геометрия и преобразования Радона
Для Х = Р"(С) получаем аналогичным образом с помощью леммы
4.13 формулу
f=p(L)№), fec-(X),
где (поскольку Я-2 = 2 (п + 2))
D6) с = (—8я2(л + 2))и-л/г>.
Для Х = Р"(Н) с помощью леммы 4.14 выводим формулу
f=>P(L)«fr), /€<£(*),
где (в силу того, что Я = 2 (я + 8))
D7, ,W_e(l_f^)(i_£3«)...(t_{£3)f
D8) с = у (—4я2 (/г + 8)J-<"/*>.
Вычислим, наконец, Р (L) в случае Х = рл@?). Заметим, что
теперь метрика пространства X нормируется не условием
равенства кривизны +1, как в теореме 4.7, а с помощью формы Кил-
линга группы U = I(X). Вместо функций на Pn(R) мы будем
иметь дело с четными функциями / на сфере Sn и будем
определять /(£) как интеграл от / по вполне геодезической (п—1)-
сфере £. Для того чтобы сохранить равенство C6), определим у(х)
как интеграл по (п—1)-сфере (единичных нормалей к
гиперплоскостям, проходящим через точку х).
Задаваемая формой Киллинга метрика на сфере Sn получается
умножением обычной римановой метрики (с кривизной +1) на
2п (см. решение к упр. 7 из гл. V книги Хелгасон [1978]).
Новый лапласиан равен поэтому лапласиану из теоремы 4.7,
умноженному на 1/2/г. Следовательно, по теореме 4.7 (при k = n—1 и
нечетном п)
P(L)(f)~~f,
где
да pW_«(t_t^i)(t_feia»)...(t_bj&a)
с некоторой константой с. Для нахождения с применим
полученную формулу к функции / = 1. Так как
f — ОяBл)<*/«М"-1>, A)~ =ОЛBл)*»-»,

§ 4. Преобразование Радона на двухточечно-однородных пространствах 201
то
E0) с = 1 (—4я2п)<1/2><1 -">.
Это завершает доказательство утверждения (и) теоремы 4.11.
Инъективность отображения / —► f для всех случаев, кроме
X = pn(R) при четном л, вытекает из утверждения (и), а в этом
исключительном случае инъективность следует из теоремы 4.7.
Для доказательства сюръективности воспользуемся снова тем,
что оператор среднего значения Мг коммутирует с лапласианом
(см. D1)). Имеем
E1) }(j(x)) = c(M4)(x)t
где с—константа. Поэтому, в силу формулы C6),
(/Г (*) = (/о/Г (j(x)) = cML(foj)(x)f
так что
E2) (fy = c2MLMLf.
Следовательно, если X не является четномерным вещественным
проективным пространством, то функция / с точностью до
постоянного множителя совпадает с MLP(L)MLf, что и доказывает
ввиду формулы E1) сюръективность отображения /—►/. В
случае Х = РЛ(К) с четным п воспользуемся теоремой 4.7. Если бы
отображение /—+} не было сюръективным, то по формуле E1)
существовало бы ненулевое распределение Т на X, для которого
E3) г(л^/)=о, fe£(X).
Выберем в качестве / собственную функцию оператора L. Тогда,
как уже отмечалось ранее, / будет собственной функцией
оператора ML, отвечающей, ввиду доказанной инъективности,
ненулевому собственному значению. Тогда равенство E3) приводит к
противоречию: Т = 0.
Осталось доказать, что (Lfy=Af. Воспользуемся для этого
формулами C6), D1) и E1). По определению оператора Л имеем
(ЛФ)(/(д:)) = 1(фо/)(л:), х£Х, Ф6<£B).
Следовательно,
(Af) (/ (х)) = (L flo/)) (х) = cL (МЧ) (х)
= cM^(Lf)(x) = (Lfy(i(x)).
Это завершает доказательство теоремы 4.11.
Следствие 4.16. Пусть В—открытое подмножество в К*"*,
симметричное и звёздное относительно начала О и ограниченное

202 Гл. I. Интегральная геометрия и преобразования Радона
некоторой гиперповерхностью. Предположим, что для некоторого
фиксированного k A ^ k < п)
E4) площадь (В 0/*) = const
для всех (k+ Хуплоскостей Я, проходящих через 0. Тогда В—шар.
Действительно, из теоремы 4.7 мы знаем, что четная функция
/ на сфере X = Sn, для которой f(Snf)P) не зависит от Р,
постоянна. Применим это утверждение к функции
/@)=Р(в)*+1> eeS",
где р(9)—расстояние от начала координат до любой из двух
точек пересечения границы В с прямой, соединяющей точки 0 и
6 (эта функция определена корректно, поскольку множество В
симметрично). Если 6 = (9Ь ..., Qk) пробегает &-сферу Sn(]P> то
точка х = гб @ <; г < р @)) пробегает множество В П Р и
р(в)
площадь (ВГ\Р)= $ d(o(9) $ rkdr.
Отсюда следует, что площадь (В П Р) с точностью до постоянного
множителя совпадает с f(Sn(]P), поэтому ввиду условия E4)
функция / постоянна. Тем самым следствие доказано.
Замечание. Р. Мишель в своих работах [1972, 1973]
применил теорему 4.11 для доказательства некоторых свойств инфи-
нитезимальной жесткости канонической метрики на вещественных
и комплексных пространствах.
3. Некомпактные двухточечно-однородные пространства
Для некомпактных двухточечно-однородных пространств
справедлив некоторый аналог теоремы 4.11, который мы сейчас и
опишем. В соответствии с данной Титсом классификацией [1955]
изотропных однородных пространств (римановых или нет) таковыми
пространствами являются евклидовы пространства и некомпактные
симметрические пространства X = G/K ранга 1. (Без
использования классификации это доказано у Нагано [1959] и Хелгасона
[1959].) Обозначим через d расстояние в X и через о—начало,
т. е. класс смежности {К}.
Пусть g = { + p—разложение алгебры Ли группы G в прямую
сумму алгебры Ли I группы К и ее ортогонального дополнения
$) (относительно формы Киллинга алгебры д). Фиксируем какое-
нибудь одномерное подпространство остр в р и рассмотрим раэ^
ложен ие
E5)
p = aJrpcc + Pa/2

§ 4. Преобразование Радона на двухточечно-однородных пространствах 203
пространства $ в прямую сумму собственных подпространств
оператора Тн (по аналогии с формулой C5)). Пусть %—вполне
геодезическое подмногообразие Ехр(ра/2); если ра/2 = 0, то положим
Н0 = Ехр(ра). Согласно классификации симметрических пространств
(с учетом двойственности), мы имеем следующий полный список
пространств G/K (верхний индекс обозначает вещественную
размерность соответствующих пространств):
вещественные гиперболические пространства Ня (IR) (я = 2, 3, ...) I Н"-1 (R)
комплексные гиперболические пространства Ня (С) (я = 4, 6* ...) Ня-2@)
кватернионные гиперболические пространства Ип (Н) (п = 8, 12,...) Н"-4 (Н)
гиперболическое пространство Кэли Н16(Сау) |Н8(Р)
Заметим, что в низших размерностях
№(R) = R, H2(C) = H2(R), H4(H) = H4(R).
Пусть S—множество подмногообразий в X вида g-£o* где g
пробегает группу G; множество S наделяется канонической
дифференциальной структурой однородного пространства. Каждое
подмногообразие £ € S снабжено мерой т, индуцированной римано-
вой структурой пространства X, и преобразование Радона на X
задается формулой
l(l)=\f{x)dm(x)y /eCc(X).
I
Двойственное преобразование <р —*qp определяется формулой
ф(*) = l<pa)d\i(l), Ф€С(Е),
где \х—инвариантное среднее на множестве многообразий £,
проходящих через точку х.
Пусть L обозначает оператор Лапласа—Бельтрами на
пространстве X, риманова структура на котором задается формой Кил-
линга алгебры д.
Теорема 4.17. Преобразование Радона f—+J является взаимно
однозначным отображением пространства §)(Х) в &)(Б), и для
всех пространств X, кроме X = Hn(R) с четным п, справедлива
формула обращения

204 Гл. /. Интегральная геометрия и преобразования Радона
где Q—многочлен, задаваемый следующими формулами:
X = Hn(R), n нечетно:
Х«=НЯ(С):
X = H»(H):
0(I)-v fl 1 ^-2)'4>1 (l 1 <^4)'6>1 fa i 4'(*-2Л •
«W-T^ + 2(n + 8)J \^ + 2(л + 8)У ••• \b + 2(n + 8)J*
X = H16(Cay):
Q(L) = y(L+14/9J(^+15/9)?.
Константы у получаются из констант с в формулах D4), D6),
D8) и E0) умножением на число Qx из формулы C9).
Мы опускаем доказательство, поскольку оно совершенно
аналогично доказательству теоремы 4.11. Замена констант с
константами у объясняется разницей в нормировке двойственного
преобразования Радона в компактном и некомпактном случаях-
4. Рентгеновское преобразование
на симметрическом пространстве
Пусть X — полное риманово многообразие размерности > 1,.
в котором любые две точки можно соединить единственной
геодезической. По аналогии со случаем пространства Rn мы можем
определить рентгеновское преобразование f —► f на X по
следующей формуле:
E6) ?<Y)-J/<*)*(*).
где у—произвольная полная геодезическая на X, ds—элемент
длины дуги и /—любая непрерывная функция на X, для
которой данный интеграл сходится.
По аналогии с рентгенографической задачей в Rn (подпункт В
п. 7 § 2) можно рассмотреть задачу обращения рентгеновского
преобразования /—► / на X. Обозначая через d расстояние в X
и через о некоторую фиксированную точку из X, введем
следующие два подпространства пространства С(Х):
F(X)={f£C(X): supd(o, *)*|/(*)|<oo для любого k^0}r
X
SF (X) = {/ £ С (X): sup е*« <°- *> | f (х) |< оо для любого k > 0}.

§ 4. Преобразование Радона на двухточечно-однородных пространствах 205
В силу неравенства треугольника, эти пространства не зависят
от выбора точки о. Мы можем неформально называть F(X)
пространством быстро убывающих непрерывных функций, а ¥(X) —
пространством экспоненциально убывающих непрерывных функций.
Докажем теперь аналог теорем о носителе (теорем 2.6 и 4.2) для
рентгеновского преобразования на симметрическом пространстве
некомпактного типа. Этот общий результат является, как мы
увидим, прямым следствием результатов, полученных выше для
евклидова и гиперболического случаев.
Следствие 4.18. Пусть X—симметрическое пространство не-
компактного типа, В—произвольный шар в X.
(i) Если функция f£¥(X) удовлетворяет условию
E7) f(Y) = 0 при 7ПВ-0,
то
E8) f(x) = 0 при х$В.
В частности, рентгеновское преобразование взаимно однозначно
на пространстве ¥(X).
(и) Если ранг пространства ¥(X) больше 1, то
утверждение (i) остается верным при замене пространства ¥ (X)
пространством F(X).
Доказательство. Пусть о—центр шара В, г—его радиус
и у—произвольная геодезическая в Ху проходящая через о.
Предположим сначала, что ранг X больше 1. Согласно теореме
сопряженности для симметрических пространств, геодезическая у
лежит в некотором двумерном плоском вполне геодезическом
подмногообразии пространства X. Применяя теорему 2.6 к этой
евклидовой плоскости, получим, что / (х) = 0 при х £ у с d (о, х) > г.
Так как геодезическая у произвольна, отсюда вытекает
соотношение E8).
Пусть, далее, ранг X равен 1. Отождествим р с касательным
пространством Х0 и обозначим через а касательную к
геодезической у. Мы можем тогда рассмотреть разложение E5). Если
b—прямая в ра, проходящая через начало, то
S=Exp (a + b)
есть вполне геодезическое подмногообразие пространства X. Для
доказательства этого утверждения проверим, что подпространство
а + Ьар является тройной системой Ли. Действительно, если
Н£й> Y£b — произвольные ненулевые векторы, то Y = Z—6Z,
где [Н, Z]=a(#)Z и 0—инволюция Картана алгебры g
относительно f. Отсюда следует, что
[Y, [У, Я]]са.

206 Гл. I. Интегральная геометрия и преобразования Радона
Учитывая соотношение
[Я, [Н, У]] =<*(//)■ У,
заключаем, что а + Ь является тройной системой Ли. Но тогда
из теоремы 7.2 гл. IV книги [ДС] следует, что множество
S = Exp(a + b)
является вполне геодезическим подмногообразием в X. Будучи
двумерным, неплоским и односвязным, оно обязано быть
гиперболическим пространством. Поэтому из теоремы 4.2 вытекает, что
f(x) = 0 при х£у, d@, x)>r. Отсюда ввиду произвольности
геодезической у следует соотношение E8).
Аналог преобразования E6) можно рассмотреть также и для
случая риманова многообразия, все геодезические которого
замкнуты (при этом геодезические, по которым ведется
интегрирование, имеют конечную длину). Опять можно поставить вопрос
об инъективности преобразования f —► f.
Следствие 4.19. Пусть X—компактное симметрическое
пространство ранга 1 и f—непрерывная функция на X,
удовлетворяющая условию
\f(x)ds(x) = 0
v
для любой (замкнутой) геодезической у в X, где ds—элемент
длины дуги.
(i) Если X—сфера, то функция f нечетна.
(и) Если X—не сфера, то /s=0.
Взяв свёртку / с подходящей функцией, можно считать, что
/—гладкая функция. Утверждение (i) содержится в теореме 4.7.
Для доказательства утверждения (и) воспользуемся
классификацией пространств X. В случае X = Р1в (С а у) антиподальные
многообразия являются вполне геодезическими сферами, поэтому из
утверждения (i) следует, что /==0, откуда, в силу теоремы 4.11,
/ = 0. В остальных случаях (PW(C) (n = 4, 6, ...) и Р"(Н)
(я = 8, 12, ...)) утверждение (ii) доказывается аналогичным
образом по индукции, поскольку начальные антиподальные
многообразия Р?(С) и Р4(Н) являются вполне геодезическими сферами.
§ 5. Интегральные формулы
В этом параграфе мы выведем некоторые интегральные
формулы для полупростых групп Ли. Эти формулы, в основном
полученные Хариш-Чандрой, показывают, как связаны между собой

§ 5. Интегральные формулы
207
меры Хаара групп, входящих в разложения Ивасавы, Картана
и Брюа. Иногда мы будем использовать общий аппарат,
развитый в § 1. Однако часто удобнее применять соображения
инвариантности, приспособленные к данному конкретному случаю.
1. Интегральные формулы, связанные с разложением Ивасавы
Пусть G— связная полупростая группа Ли ид—ее алгебра
Ли. Рассмотрим инволюцию Картана 0 в д, связанное с ней
разложение Картана g = f-f р, максимальное абелево подпространство
аа# и соответствующее множество 2 ограниченных корней (см.
[ДС, гл. VI, § 3]). Фиксируем какую-либо камеру Вейля а+аа,
обозначим соответствующее этой камере множество положительных
корней через 2+ и введем нильпотентную алгебру
п= 2 fla.
a€Z+
порожденную корневыми подпространствами для положительных
ограниченных корней. Пусть ma = dim(ga) и
a€S+
Если А и N— аналитические подгруппы в G с алгебрами Ли
а и п соответственно, то справедливы разложения Ивасавы
g = f + a+n.
(прямая сумма векторных пространств),
G = KAN,
т. е. отображение (k, a, п)—±kan является диффеоморфизмом
многообразия KxAxN на G. Для а£А обозначим через log a
единственный элемент #€а, для которого ехр# = а. Как обычно,
через М будет обозначаться централизатор подгруппы А в К и
через m—его алгебра Ли.
Предложение 5.1. Пусть G = К AN — разложение Ивасавы
связной полупростой группы Ли G. Пусть, далее, dky da и dn—ле-
воинвариантные меры на К, А и N соответственно. Тогда лево-
инвариантную меру dg на G можно нормировать таким образом,
чтобы
^f(g)dg= J f {kan) e*e <*<* a4k da dn (/ € Cc (G)).
G KXAXN
Доказательство. Хотя требуемое утверждение может
быть выведено из предложения 1.12, мы поступим более
непосредственным образом. Поскольку отображение (&, а, п)—>kan явля-

208 Гл. I. Интегральная геометрия и преобразования Радона
ется диффеоморфизмом, существует таиая функция D(k, а, п) на
KxAxN, что
A) S / (g) dg = S / (kan) D (k, a, n)dkda dn, f € Cc (G).
Q KXAXN
Все группы G, К* А и N унимодулярны (предложение 1.6). В част
ности, левая часть равенства A) не изменится, если мы заменим
f(g) на f(kignd (*i€#, ni^N). Отсюда следует, что
D(k^k, я, /тг1) е= D (&, a, ri),
так что D (k, а, п) является некоторой функцией 6 (а) от одного а.
Пусть, далее, af^A. Тогда
^f(g)dg=lf(gai)dg= J f(kana±)b(a)dkdadn
G G KAN
— $ / (kaai (а^пад) 6 (a) dk da dn
KAN
*= j f (ka (a^nai)) 6 (ащ1) dk da dn.
KAN
В силу формулы B) § 1 последний интеграл равен
J f(kanN(aaT1)dkda(I(ai)*(dn)).
KAN
Здесь / (#i)—автоморфизм п—^а^пат1 группы N. Он переводит
меру Хаара dn в другую меру Хаара. Эта новая мера Хаара
кратна мере dn с коэффициентом пропорциональности
B) det (dl (at)e) — det (Ad (at) \ n) e** <l0* *>.
Сравнивая это выражение с A), мы заключаем* что
6(a) = 6(aar1)^2p(logfll).
Полагая теперь я — е, получаем наше утверждение.
Следствие 5.2. Если F$Ce(AN), то при а$А
J F (па) dn =* e2<> <l°* а^ F (an) dn.
N
Это вытекает из B). Тот же результат можно получить
следующим образом; левая часть равна
J (FoR (a)) (n) dn=\ (FoR (a)) (ana~*) d (ana~*)
N N
= §(FoR (a)) (ana~l) d(g^"} dn = f F (an) e*» <lc* *> dn.

§ 5. Интегральные формулы
209
Следствие 5.3. Для /€CC(G)
j / (g) dg = j / (kna) dkdnda = J / (a/i&) da dn dk.
G KNA AN К
Первое равенство вытекает из предложения 5.1 и следствия 5.2.
Заменяя функцию / функцией /: g—+f(g~l), видим, что второе
равенство следует из первого.
Пусть а' обозначает подмножество всех регулярных элементов
в а, т. е. таких элементов //, что а(Н)фО при всех ag2.
Положим
Л' = ехра'.
Лемма 5.4. Пусть Н£а' и Л = ехрЯ. Тогда отображение
£: n—^h^nhn'1
является диффеоморфизмом группы N на себя.
Доказательство. Понятно, что £ переводит N в N.
Вычислим дифференциал dln в точке n£N. Пусть X£п. Тогда
I (п exp tX) = h~xn exp tXhn~xn exp (— iX) n~x
= h^nhn'1 exp (Ad (nh'1) tX) exp Ad (n) (— tX).
Таким образом,
C) d£n (dL (n) X) = dL (h^nhn'1) Ad (n) (Ad (ft-*) — 1) X.
Поскольку элемент Н регулярен, Ad (Л) не имеет ненулевых
неподвижных точек в п, так что отображение £ всюду регулярно.
Поэтому существуют открытые окрестности U и V точки е в N,
такие что | является диффеоморфизмом U на V. Имеем
t/=exp£/0, V = expV0,
где UQ и V0—некоторые окрестности нуля в п. Фиксируем
Я0€<х+ и положим at = exptH0 (t gR). Тогда
D) I (atnaf) = atl (n) aj1.
Поскольку разложение n= 2fl« диагонализует Ad(at) (с диаго-
a>0
нальными элементами eta{H^), очевидно, что
U Ad (at) V0 = п.
*>о
Из сюръективности отображения exp: n —► N следует, что
UatVa^^N.

210 Гл. 1. Интегральная геометрия и преобразования Радона
Но тогда, в силу D), l(N) = N. Наконец, отображение 5 взаимно
однозначно. Действительно, если 1(п1) = 1(п2), то, ввиду D),
l(atn1aj'1) = l(atn2aj1). Выбирая в качестве t отрицательное число,
настолько большое по абсолютной величине, что обе точки atnxajx
и a^aj1 лежат в /У, заключаем, что atn1ar1 = atn2af1, т. е. Пх = п2.
Следствие 5.5. Пусть Н£а' и h = expH. Тогда
\f(n)dn= П И— e-*w\m«\f(h^nhn-^dn.
В самом деле, лемма 1.11 и приведенное выше равенство C)
показывают, что
I* (dn) = det (Ad (n) (Ad (h~*) — 1)) dn,
откуда и следует требуемый результат.
Предложение 5.6. Пусть рассматривавшаяся выше группа G
имеет конечный центр (т. е. группа К компактна). Положим
при а = ехрЯ, Н£а,
Пусть, далее, элемент а£А таков, что D(а)Ф0. Тогда при
подходящей нормировке инвариантной меры dgA на G/A
\D(a)\ lf(gag-i)dgA=ef><l°e")^ f (kank'1) dk dn
G/A KXN
для всех f£Cc(G).
Доказательство. Прежде всего надо проверить, что
интеграл в левой части равенства определен. Пусть С — носитель
функции / и
CA = {gA$G/A: gag-^C}.
Если записать элемент g£G в виде g = knat, то, очевидно,
gag g С & knan^k € С => пап'1 £ kCk.
Таким образом, если gag~1£Cf то пап лежит в некотором
компактном подмножестве группы G, так что (по лемме 5.4) п лежит
в компактном подмножестве в N. Следовательно, kn содержится
в некотором компактном подмножестве группы G, т. е. С а
компактно.
В силу теоремы 1.9 и первого из равенств следствия 5.3, при
подходящей константе с имеем
E) \ F(gA)dgA=c J F(knA)dkdn, F£CC(G/A).
G/A KXN

§ 5. Интегральные формулы
211
Значит, согласно следствию 5.5,
j f (eae~l)dgA — c j f (knan~lk~l)dkdn
G/A KXN
= c П \\—e~am\~ma $ f{kank~*)dkdn9
agf+ KXN
и требуемый результат получается, если записать
1_^-а(Я)=28ЬAа(Я)^-(»/2)>(Я).
Из этого предложения вытекает одно интересное
функциональное уравнение. Пусть М' — нормализатор А в К и W = M'/M —
группа Вейля.
Теорема 5.7 (Хариш-Чандра). Сохраняя обозначения
предложения 5.6, обозначим через W = W (g, a) группу Вейля
пространства G/K и для s£W, #£ а, я — ехр Н положим as = exp s (#).
Пусть функция f € Сс (G) удовлетворяет равенству f (kgk~x)
= / (g) (&€#)• Тогда функция
F) F, (a) = *> <1ог *> J / (an) d/г, a € Л,
удовлетворяет при любом s£W функциональному уравнению
Ff(a*) = Ff(a), a£A.
Доказательство. Для g£G положим agA=gag~x.
Предположим сначала, что О(а)ф0. Тогда по предложению 5.6
G) F,(a) = \D(a)\ J f(a*A)dgA.
О/А
Нам надо показать, что правая часть этого равенства инвариантна
относительно преобразования a—+as. При этом можно считать /
произвольной функцией из Сс (G). Прежде всего, функция
| D (а) | = (D (аJI'2 инвариантна относительно преобразования
s£W, поскольку s переставляет корни. Для доказательства
инвариантности нашего интеграла выберем такой элемент и£К,
что Ad0 (и) совпадает с s на а. Тогда иАи~г = А, так что
отображение фз gA—+ugu~lA является корректно определенным
отображением многообразия G/A на себя. Положим fu(g) = f(ugu~l) и,
как в лемме 1.10,
Г(«ГЛ) — J / (дга) £fa.
А

212 Гл. I. Интегральная геометрия и преобразования Радона
Тогда отображение /—► / отображает пространство CC(G) на
Сс (G/Л), причем при подходящей нормировке меры dg
(8) $ T(gA)dgA = \f(g)dg=lf*(g)dg = J Ta(gA)dgA.
G/A G G G/A
С другой стороны,
Iй (gA) = J / (ugau-*) da = [f (ugu'xas) da = J / (ag*rJa) da,
AAA
так что /и = (/) ф. Подставляя это равенство в (8), заключаем, что
4>*(dgA) = dgA. Таким образом, с учетом равенства E) получаем
S !(№А)<Шл- I f((as)iug"~t)A)dgA
G/A G/A
= j f (ugag~xu~x)dgA= J f(uknarrlkrxu~l)dkdn.
G/A KXN.
Здесь и можно убрать, поэтому данный интеграл равен
S f(*A)dgA.
G/A
Тем самым равенство Ff(as) = Ff(a) доказано для всех
элементов а из некоторого плотного подмножества в Л. По
непрерывности оно верно и при всех а£А.
2. Интегральные формулы для разложения Картана
А. Некомпактный случай
Для симметрического пространства X = G/K того же типа, что
и выше, рассмотрим, как и в гл. IX книги [ДС], множества
А' = ехра' (где а'—совокупность всех регулярных элементов в а),
G' = KA'K и плотное открытое подмножество X' = G'-o в X,
диффеоморфное (К/М)хА + . Последний диффеоморфизм
осуществляется «отображением полярных координат»
Ф: (Ш, a)-+kaK
из (К/М)хА+ на X'. Здесь о—это «начало» {К} в X. Пусть
dx—элемент объема в X, соответствующий римановой структуре
< , >, индуцированной формой Киллинга В на g (также
обозначаемой < , >), суженной на р. Обозначим через б инволюцию
Картана алгебры д, соответствующую разложению Картана

§ 5. Интегральные формулы
213
Теорема 5.8. При подходящей константе с
[f(x)dx = c J /J f(ka.o)8(a)da\dkM, f£Cc(X),
X KIM \A+ )
где dkM—это К-инвариантная мера на К/М, нормированная
равенством J dkM = 1, и
6(ехрЯ)= П (sha(//))ma, Я£а+.
Доказательство. Пусть I—ортогональное относительно
формы В дополнение к m в I. Если отождествить I с
касательным пространством к К/М, то сужение (—В)\\ индуцирует
/(-инвариантную риманову структуру на К/М, а dkM с точностью
до постоянного множителя совпадает с соответствующим
элементом объема. В соответствии с предложением 1.3 нам просто нужно
вычислить для введенного выше отображения полярных
координат Ф величину det (йФ(Ш,а)).
Согласно § 11 гл. VII книги Хелгасон [1978], I является
прямой суммой
1= 2 fa,
где
fa = {ref: (ad Ну Т = а (Ну Т при всех Я^а}.
Далее, отображение X —► X + QX является биекцией ga на fa.
В частности, dimfa = ma. Пусть Tf ..., Т%а—какой-нибудь
ортонормированный базис в £a (а£2+) и Н±, ..., Нг —ортонор-
мированный базис в а. Как обычно, мы обозначим через тF0)
сдвиг ЬС—+Ь0ЬС на любом однородном пространстве В/С. Пусть
л: G—►G-//C—естественное отображение, так что dn является
проекцией g на касательное пространство (G/KH с ядром I.
Кривая / —► k exp (tTf)M в К/М имеет в точке / = 0
касательный вектор dx(k)Tf. Поэтому для а = ехрН (Н£а+)
Ф (k exp (tTf) М, а) = k exp (tTf) а. о = ka exp (/ Ad (a~l) Tf) - o,
<«W a> (* (*)r?> °) = * (**) ^ (Ad (*"') r?)
= dx (to) At I -i (Ad (a-») Tf—0 Ad (a-*) Г?)|
= dr(Aa) £&i iy (^"ad 1?—ead"T?)}
*dx(to)dK(—а (Я)-» [Я, T?]sha(#)).
Здесь мы использовали соотношение4 (ad Я)? Tf = a (Я)? 71?. Кроме
того,
Ф(Ш, aexp(tHj)) = kaexp(tHj).o,

214 Гл. /. Интегральная геометрия и преобразования Радона
так что
<MW «> (О, Л (a) Hj) = dx (ka) dn Щ.
Отображения
dn: 9-+(Q/KH и d%(ka)\ (G/KH-+(G/K)ka.0
являются изометриями, а векторы
Hh a (Я)-* [Я, Г?] A < / < /, a 6 2 + , 1 < I < ma)
образуют ортонормированный базис в р. Поэтому из приведенных
формул следует, что
(9) |det(d<IWa))| = П (sha(tf))
Теорема доказана.
В. Компактный случай
Аналогичными методами может быть изучен и случай
компактных симметрических пространств, хотя глобальные свойства
разложения на «полярные координаты» вносят здесь некоторые
новые, правда незначительные, усложнения.
Используя такое же разложение Картана, как и выше,
рассмотрим компактную вещественную форму комплексификации gG;
u = f + P«, где p, = ty.
Тогда a* = m является максимальным абелевым подпространством
в $т. Пусть (Uf Kt)—симметрическая пара, такая что алгебрами
Ли групп U и Kt служат и и f соответственно. Обозначим через
Mi централизатор ат в /Сх. Группа Л* = ехра* является
замкнутой подгруппой в U [ДС, гл. V, § 6] и, следовательно, компактна.
Пусть du> dk, dm и da — инвариантные меры на компактных
группах Uy Кь Mf и Аф, каждая с полной мерой 1. Обозначим через
duKt и dkMt соответствующие инвариантные меры на U/Ki и
Kt/Mi.
По аналогии с отображением полярных координат Ф
рассмотрим отображение
Vi (Ks/Ml)xAm^U/Kt9
вадаваемое формулой
W(kMif a)=kaKt.
По теореме 6.7 из гл. V книги Хелгасон [1978] это отображение
сюръективно. По аналогии с равенством (9) находим, что
A0) ideKdY )|= П |з1па(Ш)Г«,

§ 5. Интегральные формулы
215
если а = ехр Н (#£а*). Обозначим правую часть равенства A0)
через 6* (а). В силу предложения 1.3, на каждом открытом
множестве, где отображение ¥ взаимно однозначно и регулярно,
имеем при подходящей константе с
A1) W* (duKl) = c8* (a) dkMl da.
Пусть А*—множество всех точек а£А*, в которых 8*(а)=£0, и
(U/Ki)r—дополнение в U/Ki к сингулярному множеству,
определенному в § 3 гл. VII книги [ДС]Х). Множество J~Ki()Am
компактно и дискретно, а потому конечно. Пусть /—его
мощность и w—мощность группы Вейля W = W (g, 0).
Лемма 5.9. Отображение Ч? является регулярным
отображением (KjMJx А* на (U/KJr, причем для каждой точки его образа
имеется ровно wj прообразов.
Доказательство. Регулярность и сюръективность
отображения W следуют из результатов § 3 гл. VII книги [ДС].
Остается лишь доказать, что каждая точка из (U/Kx)r имеет
ровно wj прообразов. Пусть элементы alt a2£A'*f ku k2^Kx
таковы, что V(kiMl9 a1) = W (k2Mit a2). Полагая k = k2xkx, при
подходящем k'£Ki имеем kax = a2k'. Применив инволютивный
автоморфизм 0 на U, устраним k' и получим ka\k~x = al. Отсюда
следует, что Ad(k)Z1=Z2i где Z{ (t = l, 2)—централизаторы:
Z, = {*e*V. Ad(af)X = X}.
Пусть #€а», Х£$ш. Полагая
X = Х0 + 2 а* (Xa — QXa)>
где Х0 € Ха*, а € ga> aa £ *R, имеем
Ad(expH)X=*e*«HX
-^о+2 a*(("WXa-e-*weXa).
Если а! = ехрЯь X^Zit то мы получаем равенство
аа = аае2*^ (<*€2+),
так что a(Hi)£niZ при ааф0. Но тогда условие 8щ(а1) = 0
показывает, что аа = 0 для всех а£2 + , т. е. Z1 = a^.
Аналогично Z2 = a+. Этим доказано, что k лежит в нормализаторе М\
подпространству а» в /С*. В силу предыдущего
A2) a2 = (ka1k-*)k(k')-K
Х) Это сингулярное множество есть Y (/Ci/7WiX£>), где D — определяемая
далее диаграмма.— Прим. перев.

216 Гл. /. Интегральная геометрия и преобразования Радона
Пусть теперь s£Wy а£А*. Напомним (см. [ДС, гл. VII, § 2]),
что W = M'1/Mli даже если группа Ki не обязательно связана.
Поэтому, если т£М[ — произвольный элемент, такой что s и
Ad (m) совпадают на а*, мы можем записать
mam~1 = as.
Понятно также, что 6* (а5) = 6* (а). Пусть b£J. Выберем элемент
#€а* так, чтобы Ь = ехрН. Поскольку Ь2 = е, при всех а£2+
имеем a(H)€niZ, так что для всех элементов а0£Аш
справедливо равенство
8*(а0Ь) = 6.(а0).
Формула A2) показывает, что а2 = а[Ь, где t£Wt b£J. Кроме
того, k2M1 = k1kM1.
С другой стороны, когда b пробегает множество У, a
k—полное множество представителей М[то&Ми все элементы
(при фиксированных кгМ±% ах) различны. Следовательно, они
образуют полный прообраз W^lk^Ki). Лемма доказана.
Теперь мы знаем, что Л* заполняет всё Л*, за исключением
множества меры 0, a (U/Ki)r заполняет все U/Klt также за
исключением множества меры нуль. Поскольку плотность 6*, как
отмечалось, принимает одинаковые значения во всех точках ba-Jrxb
при k£M'lt b£Jt мы можем вывести из равенства A1) и леммы
5.9 следующий результат:
Теорема 5.10. Пусть (U, Kt)—риманова симметрическая пара
компактного типа и duKti dkMt, da—инвариантные меры на
UlKi, Ki/Mf и А*, нормированные условием
J duKl= J dkMt=lda = l.
U/Кг Ki/Mt А
Тогда при подходящей константе с% для всех функций f£C(U/Ki)
справедливо равенство
A3) f / (ukx)duKl =*$($/ <*«**> б, (a) da\dkM%9
u7Ki Kt/MtXA* J
где 8ф(а)—правая часть формулы A0).
В случае односвязной группы U и связной группы Ki мы
можем представить этот результат в более точном виде. Пусть, как
и в [ДС, гл. VII, § 3], D(u, 6) обозначает диаграмму
{Н£аш: <x(H)£niZ при некотором а£2+},

§ 5. Интегральные формулы
217
аг—ее дополнение a*\D(ut 0) и Q0—произвольная компонента
аг, содержащая в своем замыкании Q0 начало координат. Тогда
мы имеем следующее глобальное представление пространства
U/Kx в полярных координатах:
Теорема 5.11. В случае когда группа U односвязна, а группа
Ki связна, отображение
ф: (kMl9 H)-+k(expH)Ki
отображает {KilMx) x Q0 на всё пространство U/Кг и определяет
биекцию (Kt/MJxQo на (f///Ci)r.
Доказательство. Из результатов § 3 гл. VII книги [ДС]
следует, что
Ф (Кг/Мг X Qo) = U/Ki, У (Кг/М, X Qo) = (У/Кг)г.
Для доказательства оставшегося утверждения (об инъективности)
предположим, что элементы Hit H2£Q0, klt k2^Ku
удовлетворяют равенству
kx (ехр HJ Ki = k2 (exp H2) Kt.
В силу A2)
A4) exp H2 = exp Ad (k) Htb,
где k = k21k1£M'1 и b£J. Так как b = expH0(H0£a%), отсюда
следует, что элементы Н2 и Ht конгруэнтны относительно группы
Г*,, порожденной W (и, 6) и решеткой
aKl = {H£am: ехрН£Кг].
Но тогда, в силу результатов §8 гл. VII книги Хелгасон [1978],
Н1=Н2. Из равенства A4) в этом случае вытекает, что
A5) Я1 = 5Я1 + Я„
где Ht€axt и s—элемент группы Вейля, индуцированный Ad(&).
Так как группа Г^ просто транзитивно переставляет компоненты
аг, из A5) следует, что s = e. Таким образом, kiM1=k2M1, чем
требуемая инъективность и доказана.
Предположим теперь, что пространство U/Ku рассматриваемое
в теореме 5.11, неприводимо. Пусть (г,-, ...,(*/—простые
ограниченные корни, б—старший корень,
6 = 2^/-
1
Тогда компоненту Q0 можно представить в виде следующего
многогранника:
Qo = {#€a,: (I/O |i>>(H) > 0 (!</</)> 6A/0(Я)<я}.

218 Гл. I. Интегральная геометрия и преобразования Радона
Для этого случая мы можем сформулировать теорему 5.10 в
более точном виде:
Следствие 5Л 2. Пусть U и К± такие же, как в теореме 5.11,
пространство U/Ki неприводимо и dfi—евклидова мера на а»,
индуцированная формой Киллинга. Тогда
$ / (иКг)duKl = с0 S dkMi(\ f(k (ехр Я)Кг) б. (expЯ)dH\
U/Ki K/Mx \Q0 J
где
Сог=\ П (sina(t-lH))m"dH.
Qoa62: +
Переформулируем теперь теорему 5.11 для случая, когда
симметрическое пространство является группой.
Пусть U—компактная полупростая группа Ли и
TaU—максимальный тор. Как и в §§ 4—7 гл. VII книги [ДС], обозначим
через t0 и ц соответствующие алгебры Ли и через t, g—их комп-
лексификации.. Пусть А—множество корней алгебры Ли g
относительно t. Через D(u) обозначим диаграмму
{#£t0: a(H)£2niZ при некотором ос£Д}.
Положим tr = t0\D(u) и фиксируем некоторую компоненту
Р0 множества tr, замыкание Р0 которой содержит начало
координат. Как и в § 4 гл. VII книги [ДС], рассмотрим группу U
как симметрическое пространство Uxu/U. Тогда б* становится
функцией на множестве пар {(/, t~l): t£T}. Полагая
б (ехр 2Я) = б» (ехр Я, ехр (—Я)) (Я £ t0),
имеем (с точностью до постоянного множителя)
e@elll2sin2^| при / = ехр Я, Я^в.
|а€Д l I
Произведение берется по всему множеству Д, а не только по
положительным корням, поскольку в данном случае каждый
ограниченный корень имеет кратность 2. Пусть du—мера Хаара на £/,
нормированная условием ]du = l, и dH—евклидова мера на t„,
индуцированная формой Киллинга на и. Из теоремы 5.11 и ее
следствия вытекает следующий результат:
Теорема 5.13. Пусть И—компактная полупростая односвяз-
ная группа Ли. Отображение
•ф: (иТ, Н)—+иехрНи~1

§ 5. Интегральные формулы
219
отображает (U/T)xP0 на V и порождает биекцию (U/T)xP0
на Ur. Кроме того,
}f(u)du = c ^ duT J / (uexpHu~l)8(expH)dHf
и и/т р0
где с—некоторая константа.
Нам будет удобно включить в изложение один простой
результат о приведенных системах корней. Пусть Е—вещественное
векторное пространство, V—двойственное к нему, R— приведенная
система корней в V (см. Хелгасон [1978, гл. X, § 3]1}).
Рассмотрим базис ось ..., at в R и соответствующее множество R+
положительных корней. Обозначим через < , > форму Киллинга на V
(см. Хелгасон [1978, с. 523]) и через С—камеру Вейля,
отвечающую R+, т. е.
C = {y£V: <a, у> > 0 при a£R+}
= {Y6V: «x/, Y>>0 A </</)}.
Пусть, как и в § 3 гл. X книги Хелгасон [1978], Т (R)
обозначает подгруппу в V, порожденную векторами из R. Положим
а = 2а/<а, а> и
f (#) = {o)€V: <o), a>gZ при <*€#}.
Рассмотрим двойственный базис со1э ..., сог в У, задаваемый
равенствами <со/, ау> = 8//. Тогда
f(R)=^Z(oif T(/?)=2Za,
i i
Отсюда следует, что
A6) f (R)f]C={m1(o1+...+mlwt: mt > 0, ...,mt>Q).
Элемент р = -^ V а принадлежит Т (R) Л С В самом деле (см.
Хелгасон [1978, гл. X, лемма 3.11р>),
p = oi+... +о)г.
Рассмотрим теперь алгебру F функций на Е, порожденную
над R экспонентами е<° (со € t (/?)). Группа Вейля W (R) действует
на F следующим образом:
s(e°>) = eso>.
1) По поводу понятий, связанных с системами корней, см. Бурбаки [1972,
гл. VI].— Прим. перев.
*> Или Бурбаки [1972, гл. VI, предложение 29].— Прим. перев.

220 Гл. I. Интегральная геометрия и преобразования Радона
Элемент a$F называется инвариантным, если sa = a (s£W),
и кососимметричным, если sa = (dets)a (s£ W), где det обозначает
определитель. Альтернирование Л: F—+F, задаваемое равенством
А (£?<■>) = 2 (det«)е$(* >
sew (Я)
отображает F на множество всех кососимметричных элементов из F
<см. [ДС, гл. I, § 2, п. 3]).
Лемма 5.14. Элементы А (е®), со € f (R) П С, образуют базис
пространства кососимметричных элементов из F.
Доказательство. Поскольку группа W(R) просто транзи-
тивно переставляет камеры Вейля (см. доказательство следствия
7.4 из гл. VII книги Хелгасон [1978]), все элементы sco (s£W(R)y
<ogf (R)f]C) различны, откуда следует линейная независимость
элементов А (е<*).
Пусть теперь функция f£F кососимметрична и /=2/<^со-
Тогда если /0^=О, то элемент со регулярен. В самом деле, пусть
sco0 = co0 для некоторого элемента со0 и некоторого отражения
s^W(R). Поскольку / кососимметрична,
s/ = (dets)/ = -/, 2/^sc°= — S/^0
и, следовательно, f©0 = 0. Но любой регулярный элемент W (R)-
сопряжен некоторому элементу из С. Поэтому функция /
единственным образом представима в виде
<17) f = 2 /*..«*.
ЬеТ(Я)г\С
sew (R)
Однако при t$W(R)
(det *)/ = // = 2/»*to.
О)
значит, в силу линейной независимости функций 0х в A7),
и, следовательно,
f- S М(«*>.
Kef (R)t\Q
Предложение 5.15. (i) Справедливо тождество
<18) ер П A—*-") = 2 (dets)*sP.
(и) Элемент, задаваемый левой частью равенства A8), косо-
симметричен и является делителем каждого кососимметричного
элемента из F.

§ 5. Интегральные формулы
221
Доказательство. Левая часть равенства A8) (обозначим
ее, скажем, через D) может быть записана в виде
If (g(i/2)a £-<i/2) a)#
Если a,-—простой корень, то соответствующее отражение sa.
переставляет элементы Я+\{а/} (см. лемму 3.11 из гл. X книги
Хелгасон [1978]). Отсюда следует, что sa.D = — D = det (sa/) D и,
поскольку преобразования sa. порождают группу W (R), элемент D
кососимметричен. Таким образом, по лемме 5.14, D является
линейной комбинацией вида
D = apЛ (£?<>)+ 2 <v4 (<*>).
wef (#)ПС
С другой стороны, по определению,
A9) D = ^ + 2dV"" <d^Z),
где суммирование ведется по линейным комбинациям X корней а/
с положительными целочисленными коэффициентами. Если теперь
СафО, то, в силу A6), со—pgC (черта обозначает замыкание) и,
ввиду A9), со = р—X при некотором X. Однако отсюда следует
включение —Х£С в противоречие с утверждением (iii) леммы 2.20
из гл. VII книги Хелгасон [1978]. (Эта лемма справедлива для
абстрактных корневых систем в силу леммы 3.4 гл. X той же
книги.) Таким образом, все коэффициенты с^ равны нулю иар = 1,
чем доказано утверждение (i).
Для доказательства утверждения (и) рассмотрим регулярный
элемент со из Т (R) и корень a£R+. Тогда
<со, a>€Z\{0} и е*—sae<* = e<*—<*>-«■>.«>«,
так что
^-Sa^> = l **A-*-а)«*•«>) при <со, а>>0,
\ ^>(l_^x(-<co,a») ПрИ <о, а><0.
В первом случае е®—s^ делится на A—е~а)9 во втором—на
A—еа) = еа(е~а—1). Поэтому в обоих случаях 1—£~а является
делителем для еР—s»^0, а тем самым для любого элемента
А (е*) ( = у (А (е*)—saA (е®))). Поскольку множители A — е-*)
(а € R+) взаимно просты, а F представляет собой область с
однозначным разложением на множители, D является делителем
любого элемента вида А(е®) и, значит, по лемме 5.14, любого косо-
симметричного элемента из F.

222 Гл. J. Интегральная геометрия и преобразования Радона
Используя предложение 5.15, мы можем теперь усилить
утверждение теоремы 5.10 для случая групп:
Следствие 5.16. Пусть V — компактная полупростая группа
Ли, ТсU—максимальный тор, функция b(t) определена также,
как и выше, а меры Хаара dt и du нормированы условием \ dl =
== ^ du — 1. Тогда
§f(u)du=j±j§8(t)dt§f(utu-i)duf
и т и
где \W\—порядок группы Вейля W группы U.
Нам осталось лишь проверить равенство ^ 8(t)dt = \W\. Для
т
этого отметим, что при / = ехр//
б(/)= П (^/2— е-«/*)(Н)сощ( П (^/2—е-*'*)(Н)\.
<х> 0 \<х> 0 )
В силу предложения 5.15 это выражение равно
8(t)= 2 (det s) (det a) ese-°e (//).
s,oeW(R)
Если y—некоторая сумма корней, то мы можем определить
характер еу группы Т равенством ey(t) = ev{H) при t = expH (// gt0).
В самом деле, если ехр# = е, то y(H)£2niZ. Однако sp—ap
является суммой корней и Ф0 при s-фо. Следовательно, как и
утверждалось, J б (Т) dt = | W |.
С. Случай алгебр Ли
Теперь сформулируем и докажем инфинитезимальный аналог
теоремы 5.8, соответствующий разложению алгебры р на /(-орбиты.
Мы сохраняем обозначения, использованные при доказательстве
теоремы 5.8.
Рассмотрим отображение
B0) Ф2 (Ш, H)-+Ad(k)H, k£K, H$a9
из К/Мха на р. В [ДС, гл. VII, § 3] доказано, что его
дифференциал в точке (k0M, Н0)£К/Мха задается формулой
B1) d<pikoM.H0)(d4(k0)L9 dr(H0)H)
= dx(Ad(k0)H0)Ad(k0)([L9 H0] + H)
для Lg I, //get. Рассмотрим, как в доказательстве равенства (9),
ортонормированный базис
Ни ..., Hl9 Tf A<;<та, а€2+)

§ 5. Интегральные формулы
223
в а + 1. Если элемент //0€<* регулярен, то
Ни ..., Я„ *т-*[НШ9 Tf] <1<*<т«, a€2+)
будет ортонормированным базисом в р. Выражая dtp в
координатах, связанных с этими базисами, видим, что
B2) |det(d4W,.».))|« П |a(^„)|ma.
Я62 +
Пусть р'—множество всех регулярных элементов из р (т. е.
элементов, централизатор которых в р абелев) и dXt dH—евклидовы
меры на $ и а, отвечающие метрике, задаваемой формой Киллинга.
Теорема 5.17. Отображение <р из К/Мха на р является
диффеоморфизмом К/Мха+ на р'. Кроме того,
[f(X)dX = c $ dkM(\f(Ad(k)H) П *(Hr«dH), /€Cc(p),
KIM \q+ a€2 +
где с—некоторая константа.
Нам осталось проверить лишь инъективность нашего
отображения на К/Мха+. Предположим, что
Ad^tf^Adfo)//,, где ki9 k2£K, Hit #2€a+.
Пусть k^k^k^ так что Ad(fe)Я1 = Я2. Тогда Ad(&) отображает
централизатор элемента Ht в р на централизатор Н2 в р.
Поскольку эти централизаторы совпадают с а, то k£M'. Ввиду
простой транзитивности группы Вейля на множестве камер Вейля
заключаем, что, как и требовалось, k£M.
Докажем теперь один простой результат, еще раз
показывающий, что а+ ведет себя как многомерный радиус-вектор. Пусть
Х^р. Обозначим через а(Х) единственную точку пересечения
(К-Х)()а: _
а(Х) = (К-Х)па+
(см. Хелгасон [1978, гл. IX, § 1]). Пусть, далее, d обозначает
расстояние ври расстояния между подмножествами определяются
обычным образом.
Предложение 5.18. Пусть X, Y£p. Тогда
d(Ad(K)X9 Ad(K)Y) = d(a(X)9 a(Y)).
Доказательство. Пусть Ad (k0) Y—точка орбиты Ad (/С) Y$
минимизирующая квадрат расстояния
F(k)^<X—Ad(k)Y, X-Ad(k)Y>.

224 Гл. I. Интегральная геометрия и преобразования Радона
Соотношение
{^/Чехр/7.Ц/=о-0 (Г(Е1)
дает
<Х, [Т, Ad(*0)F]> = 0 (Г (Ef),
откуда следует равенство [X, Ad (k0) Y] = 0. Поэтому мы можем
считать, что Хи Ad(k0)Y лежат в а. Но тогда, как видно
из доказательства теоремы 2.12 гл. VII книги [ДС], X и Ad(k0)Y
лежат в одной и той же замкнутой камере Вейля, откуда следует
требуемый результат.
3. Интегральные формулы для разложения Брюа
Мы сохраняем обозначения из начала параграфа и полагаем
N = QN. Как доказано в § 1 гл. IX книги Хелгасон [1978],
отображение
B3) (л, т, а, п)—>птап
является биекцией NxMxAxN на некоторое открытое
подмногообразие
NMAN^G,
мера Хаара дополнения к которому равна нулю. Далее, если
в соответствии с разложением Ивасавы G = KAN мы положим
g = k(g)*KpH(g)n(g) (k(g)£K, H(g)<ta9 n(g)<tN),
то отображение
B4) n-+k(n)M
будет диффеоморфизмом N на некоторое открытое подмножество
в К/М9 дополнение к которому является множеством меры нуль
по отношению к инвариантной мере dkM- Вычислим якобианы
отображений B3) и B4). Как и прежде, р обозначает полусумму
положительных ограниченных корней (с учетом кратностей).
Лемма 5.19. Пусть g$G. Отображение Tgi k—->k(gk) является
диффеоморфизмом группы К на себя, и
\ F(k{g^dk = \F(k)e-*»W№»dk, F^C(K).
к к
Доказательство. Пусть x£G. В силу предложения 5.1
J / (kan) e*» <10* fl> dkdadn = \f (g) dg=\f (xg) dg.

§ 5. Интегральные формулы
225
Если g = kan, то
xg = xkan = k (xk) exp H (xk) n (xk) an
= k (xk) exp H (xk) a (cTln (xk) an) = кхахпи
так что наш интеграл равен
J / (^а±щ) е** <los fl> d£ da dn.
Но сдвиг
a —► exp H (xk) a = at
сохраняет da, а сдвиг
n —+ (a~ln (xk) a) n = nt
сохраняет dn. Поэтому последний интеграл равен
J f (k (xk) a±nt) e2P<l0s a^e~ ™ <" <**> dk dat dnt.
Выбирая функцию / вида / (kan) = F (k) Ft(a) F2(n)9 приходим к
равенству
B5) I F (k) dk = J F (k (xk)) e~*e<H t**» dk.
к к
Утверждение леммы получается теперь, если заменить F на FoTx-x.
Равенство из леммы 5.19 можно записать в виде
B6) (Tg)* (dk) =e-*eiH <«*» dk.
Теорема 5.20. Функция п—+е-2<>(/у <">> интегрируема на N,
причем, если меры dn и dkju нормированы условиями
J dkM = \e-*eiH~n»dn=*l,
KIM n
ТО
J F (kM) dkM = \F (k (n) M) e-w <"<*»dn, F g С (К/М).
k/m jv
Доказательство. В силу установленных выше свойств
отображения B4) существует такая функция ty€$(N), что
B7) J F(kM)dkM = \F(k(n)M)^(n)dn.
к/м 77
Фиксируем x$N. Ввиду леммы 5.19
J F(k(x~lk)M)dk=\F(kM)e-wW&k»dk.
к к
8 С. Хелгасон

226 Гл. I. Интегральная геометрия и преобразования Радона
Но &(*~l&(/i)) —£(*~1л), так что в силу B7) левая часть равна
\F(k(n)M)^{xn)dnt
а правая—
J F(k (п) М) е- *р <" <** («)»г|) (л) dn.
Таким образом,
i|? (хп) = е~2*> <"<** <">» г|; (л),
и мы получаем утверждение теоремы, полагая п=е.
Предложение 5.21. Пусть dn, dm, da и dn—меры Хаара на N,
М9 А и N соответственно. Тогда меру Хаара dg на G можно
нормировать так, чтобы
B8) $/ (g) dg = J / (птап) е*о 1о* *> dh dm da dn
G TJxMxAXN
при f£Cc(G).
Доказательство. В силу установленных выше свойств
отображения B3), справедлива формула B8) с е2Р<1о2а>,
замененным на некоторую неизвестную функцию D(n, m9 а, п). Эту
функцию D можно определить методом, примененным в
предложении 5.1. Заменяя f(g) на f(fiign), видим, что D не зависит от п
и п. Заменяя f(g) наJ (лад) и замечая, что в силу
компактности группы М мера dn инвариантна относительно
преобразований n—^miAzmf1, видим, что D не зависит также и от т.
Наконец, выражение для D как функции от а находится в точности
так же, как в случае предложения 5.1.
§ 6. Интегралы по орбитам
В этом параграфе мы приводим примеры решений задачи D
из п. 3 § 3, которая сводится к определению функции по ее
интегралам по обобщенным сферам.
1. Псевдоримановы многообразия постоянной кривизны
Пусть X—многообразие. Напомним, что псевдоримановой
структурой с сигнатурой (/?, q) называется гладкое отображение y—+gyy
где gy—симметричная невырожденная билинейная форма на
ХухХу сигнатуры (/?, q). Последнее означает, что в подходящем

§ 6. Интегралы по орбитам
227
базисе Yiy ..., Yp+q пространства Ху мы имеем для F = 2#/^/
gyP* У) = У1+ • • • +У2р-У2Р+1- • • • -yUr
При q = 0 мы говорим о римановой структуре, а при р=1 —
0 лоренцевой. Связные многообразия X со структурой g
указанного вида называются псевдоримановыми (соответственно рима-
новыми, лоренцевыми).
Под изометрией псевдориманова многообразия X понимается
диффеоморфизм, сохраняющий структуру g. Пусть I (X)
обозначает группу всех изометрий многообразия X. Для у£Х
обозначим через I (Х)у подгруппу в I (X), состоящую из всех
преобразований, оставляющих на месте точку у (подгруппа изотропии
в точке у), а через Ну—группу линейных преобразований
касательного пространства Хуу индуцированных действием группы
1 (Х)у. Для a£R обозначим через Ъа(у) «сферу»
Se(y) = {Z€Xy: gy(Z, Z) = a, Z=£0}.
Определение. Псевдориманово многообразие X называется
изотропным у если для любого agR и любого у£Х группа Н
транзитивно действует на сфере 2fl(#). (Заметим, что случай а = 6
не исключается.)
Изотропное псевдориманово многообразие X обязательно
однородно. Для доказательства рассмотрим произвольные две точки
уу z из X и соединим их кривой, состоящей из конечного числа
геодезических сегментов у,- Для каждого из сегментов yt
существует изометрия многообразия Ху оставляющая неподвижной
середину этого сегмента и обращающая его направление.
Произведение этих изометрий будет отображать точку у в г.
Пусть X—многообразие с псевдоримановой структурой g и
тензором кривизны R. Пусть, далее, у£Х и S—двумерное
подпространство в Хуу на котором форма gy невырожденна. Кривизна
пространства X вдоль сечения S определяется формулойх).
К1Ъ g9(K9iZ.Y)Z,Y)
Л W - gy (Z, Z) gy (К, Y) -gy (Z, Y)* *
Знаменатель в действительности не обращается в нуль, и всё
выражение не зависит от выбора векторов Y и Z (см. [ДС, с. 79]).
Построим теперь псевдоримановы многообразия с сигнатурой
(/?, q) и постоянной кривизной. Рассмотрим пространство R^+«+*
1) В которой Y и Z — какие-нибудь векторы, порождающие
подпространство 5,— Прим. перев%
8*

228 Гл. 7. Интегральная геометрия и преобразования Радона
с плоской псевдоримановой структурой
Be(Y) = yl+ ... + у1-у1„- ... -y*+Q + eyl+g+1 (e=±l).
Пусть Qe обозначает квадрику в Rp+<*+lf задаваемую
уравнением A)
A) Be(Y) = e.
Ортогональная группа 0(Be)( — 0(p9 q+\) или 0(р+ 1, q)) тран-
зитивно действует на Qe. Подгруппа изотропии в точке о =
= @, ..., О, 1) отождествляется с группой 0(р, q).
Теорема 6.1. (i) Сужение структуры Ве на касательные про-
странства к квадрике Qe задает на Qe псевдориманову
структуру ёе с сигнатурой (/?, q).
(ii) Имеет место диффеоморфизм
B) Q-i^0(/7, q+l)/0(p, q),
и псевдориманова структура g_i на Q„j обладает постоянной
кривизной —1.
(Ш) Имеет место диффеоморфизм
C) Q+i^O(p+l, q)/0(p9 q)t
и псевдориманова структура g+i на tQ+t обладает постоянной
кривизной +1.
(iv) Плоское пространство Rp+« с квадратичной формой
&W-2tf-2fу!
1 1+р
и пространства
0(р9 q+l)/0(p, q)t 0(p+l, q)/0(p9 q)
изотропны, и (с точностью до локальных изометрий и
постоянного множителя в псевдоримановой метрике g) ими исчерпывается
класс псевдоримановых многообразий постоянной кривизны и
сигнатуры (/?, q).
Доказательство. Пусть sQ—линейное преобразование
(Уи •••> Ур+q* Ур+q+l) —*(—Уи •••» —Ур+д> Ур + q + i)'
Тогда а\ g—*s0gs0 есть инволютивный автоморфизм группы
О (/?, q+l)9 дифференциал которого do имеет множеством
неподвижных точек о (р, q) (алгебру Ли группы 0(р, q)). Собственное
подпространство m дифференциала do9 отвечающее собственному
значению —1, порождается векторами
D) У>
E) Y, = E/tp+g+l—Ep+g+u/ (р+1</</? + <?),

§ 6. Интегралы по орбитам
229
где Еу обозначает квадратную матрицу, у которой на пересечении
i-й строки и /-го столбца стоит единица, а в остальных местах —
нули.
Отображение \р: gO(p, q)—+g-o имеет дифференциал di|),
биективно отображающий подпространство m на касательную
плоскость yp+q+1=l к квадрике Q__i в точке о, и d\p(X) = X«o (Xgm).
Таким образом,
*Р (Yk) = Flfe, ..., 8p+q+u ,) A < k < p + q).
Следовательно, В_г Щ> (Yk)) равно 1 при l^k^p и —1 при
р+ I ^.k^p + q, чем доказано (i). Далее, ввиду симметричности
пространства B) его тензор кривизны удовлетворяет равенству
(см. теорему 4.2 из гл. IV книги [ДС])
R0(Xt Г) (Z) = -[[*, У], Z],
где [,]—скобка Ли. Простое вычисление показывает, что
KiRYt + RYJ^-l A<й, /</> + <7),
откуда следует утверждение (ii). Утверждение (iii) доказывается
аналогичным образом. Переходя к доказательству утверждения (iv),
проверим сначала, что все перечисленные пространства изотропны.
Так как изотропное действие группы О (/?, ?+1H==0(/7, q) на
пространстве пт совпадает с обычным действием группы 0(pt q)
на пространстве R?+(i, достаточно проверить, что изотропно
пространство R?+<* с квадратичной формой g0. Но мы знаем, что
группа 0(р, q) транзитивно действует на квадриках ge= + l и
ge =— 1, поэтому остается лишь показать, что группа О (р, q)
транзитивно действует на конусе
{УфЬ ge(F) = 0}.
С помощью вращения в пространствах Rp и R* дело сводится к
случаю p = q=l, а в этом случае наше утверждение очевидно.
Утверждаемая в (iv) единственность вытекает из общего
результата, состоящего в том, что симметрическое пространство локально
определяется своей псевдоримановой структурой и тензором
кривизны в точке (см., например, [ДС, с. 206—210]). Тем самым
доказательство завершено.
Пространства B) и C) являются псевдоримановыми аналогами
пространств 0(/?, 1)/0(/?), О(р+\)/0(р) из п. 1 § 4. У других
двухточечно-однородных пространств тоже имеются псевдорима-
новы аналоги (см. Вольф [1967]).
Ниже нам понадобится одна лемма об устройстве связных
компонент групп 0(p,q). Пусть Ip% Q обозначает диагональную матри-

230 Гл. 1. Интегральная геометрия и преобразования Радона
*«-{ -1
цу (du) с
при 1^/^/?,
-1 при p+l^.i^.p + q.
Матрица g принадлежит группе 0(р, q) в том и только том
случае, когда
F) №г,д8-1Р.,.
где {g—транспонированная к g матрица. Для у £ Rp+o положим
уТ = (Уг, ..., Ур, 0 0), ys = @ О, yp+i yp+q)
и для g&0(p, q) обозначим через gT и gs матрицы
(&•)//-£// A<Ь КР),
(£s)ki = eki (P+I<k, /<p + <7).
Пусть gu ..., gp+g—векторы-столбцы матрицы g.
В терминах их скалярных произведений соотношение F)
означает, что
gf-gf—gf-gf—U l<LS.p'
gf-gf—g?-gf=—1, p+1<Kp+<i,
gl'gk=g?-gi, j¥*k.
Лемма 6.2. Для любой матрицы g£0(p, q)
|det(gT)|>l, |detfes)|>l.
Связные компоненты группы 0(р, q) задаются неравенствами
G) detgr^l, detgs^l (компонента единицы);
(8) detgT<— 1, detgs>l;
(9) detgr>l, detgs<-l;
A0) detgr<-l, detgs<-l.
Следовательно, группа 0(p, q) имеет четыре компоненты при
р~^\„ q~^s\ и две компоненты, если р или q равны нулю.
Доказательство. Рассмотрим определитель Грама
fgl-gl gl'gl
gt-gl
det
gl-gP
[gl'gl
gl'gl)

§ 6. Интегралы по орбитам
231
равный (detgrJ. Используя приведенные выше соотношения, его
можно переписать в виде определителя
(l+gf-g? gf-gl ••• gf-gf)
det
gf-gi
gf-gf
l + gf-gf)
который равен 1 плюс некоторая сумма определителей Грама
низшего порядка, каждый из которых по-прежнему положителен.
Поэтому (detgTJ^l и аналогично (detgsJ^l. Предполагая
теперь, что p^l, q^U рассмотрим разбиение группы 0(р, q)
на четыре части G) — A0). Каждая из них непуста, поскольку,
например, (8) получается из G) умножением на матрицу hlP+q^lt
и т. д. С другой стороны, так как функции g-^det (gT), g-+
—^det(gs) непрерывны на 0(р, q), то четыре указанные части
принадлежат разным связным компонентам группы 0(р, q). Однако
(см. Хелгасон [1978, гл. X, лемма 1.3]Х)) группа 0(р, q) гомео-
морфна произведению пересечения 0(р, q)(]U(p + q) и
некоторого евклидова пространства. Так как группа
0(р, q)()U(p+q)=0(p, q)f]0(p + q)
гомеоморфна 0(p)xO(q), остается только заметить, что 0(п)
имеет две компоненты.
Пусть теперь X—лоренцево многообразие постоянной кри-
тизны. В соответствии с теоремой 6.1, X локально изометрично
(g точностью до умножения лоренцевой метрики на
положительную постоянную) одному из следующих пространств:
R1+(i (плоское, сигнатура A, q)),
Q-i=0(l, q+l)/0(l,q): y\-y\-... -*/*+2 = -1,
Qi-0B, q)/0(l, q)\ y\-y\-... -#+i + #+2 = 1.
В последних двух случаях лоренцева структура индуцируется
формой
У\—У\— ••-— г/?+1ТЙ+2.
2. Интегралы по орбитам в лоренцевом случае
Определим теперь лоренцев аналог оператора сферического
усреднения Мг, введенного в п. 2 § 2 (см. также § 4). Начнем
с некоторых предварительных геометрических рассмотрений.
*> Или Шевалле [1946, с. 291].— Прим. перев

232 Гл. /. Интегральная геометрия и преобразования Радона
Для многообразий X с лоренцевой структурой g мы пользуемся
следующей общепринятой терминологией. Конус
Cy={Y£Xy: gy(Y,Y) = 0}
в точке у £ X называется нулевым (или световым) конусом в Хи
с вершиной у. Ненулевой вектор Y£Xy называется временипо-
добным, изотропным или пространственноподобным, если число
gy (Y, Y) соответственно положительно, равно нулю или
отрицательно. Аналогичные названия применяются к геодезическим в
соответствии с типом касательных к ним векторов.
Геодезические в пространстве R1+*— это просто прямые;
геодезические в пространствах Q_x и Q+1 могут быть найдены
методом, использованным в п. 1 § 4.
Предложение 6.3. Геодезические на лоренцевых квадриках Q_j
и Q+i обладают следующими свойствами:
(i) они совпадают с непустыми пересечениями указанных
квадрик с двумерными плоскостями в R2+(*, проходящими через начало
координат;
(И) на квадрике Q_i пространственноподобные геодезические
замкнуты, на квадрике Q+1 замкнуты времениподобные
геодезические;
(iii) изотропными геодезическими служат некоторые прямые
в R2+«.
Доказательство. Утверждение (i) вытекает из
соображений симметрии, изложенных в п. 1 § 4. Для доказательства
утверждения (и) рассмотрим пересечение квадрики Q_t с
двумерной плоскостью yi = y4= • • • =yq+2 = Q- Это пересечение есть
окружность #2 = cos/, у3 = sint, касательный вектор @, —sin/»
cos/, 0, ..., 0) к которой является, очевидно, пространственно-
подобным. Так как группа 0A, q+ 1) транзитивно действует на
множестве пространственноподобных геодезических, отсюда следует
первая часть утверждения (И). Для квадрики Q+1 надо
аналогичным образом рассмотреть ее пересечение с двумерной
плоскостью у2= ... =^+1 = 0. Для доказательства утверждения (iii)
заметим, что двумерная плоскость
R(l, 0, ..., О, 1) + R@, 1, ..., 0)
пересекает квадрику Q_j по паре прямых
yi^t, */2 = ±1, */з=.-=^+1 = 0, yq+2 = tt
которые, очевидно, изотропны. Из транзитивности группы 0A, ^+1)
на множестве изотропных, геодезических (теорема 6.1) следует
тогда, что все изотропные геодезические являются прямыми.
Рассуждение для квадрики Q+i аналогично.

§ 6. Интегралы по орбитам
233
Лемма 6.4. Квадрики Q__t и Q+1 (q^l) связны.
Доказательство. Пользуясь связностью ^-сферы, мы можем
непрерывно передвинуть точку (ylt ..., yq+2) по рассматриваемой
квадрике в точку
(Уи (f/i+... + #?+iI/2, 0, ..., О, yq+2)9
поэтому наше утверждение вытекает из того, что гиперболоиды
У\—yl^Fyl^^Fl связны.
Лемма 6.5. Связные компоненты единицы групп 0A, q+l)
и 0B, q) транзитивно действуют на квадриках Q_j и Q+i
соответственно, и отвечающие им подгруппы изотропии связны.
Доказательство. Первое утверждение вытекает из общего
результата (см. [ДС, гл. II, § 4]), согласно которому связная
компонента единицы сепарабельной группы Ли транзитивно
действует на связном многообразии, если это верно для самой группы.
Для доказательства второго утверждения воспользуемся описанием
G) компоненты единицы. Из него немедленно следует, что
О0A, <7+1)П0A, <7) = О0A, q),
О0B, </)пОA, <7) = О0A, q),
где индекс 0 означает, что берется компонента единицы
соответствующей группы. Таким образом,
Q-i = Oo(l,<7+l)/0o(l, q)>
Q+1 = O0B, <7)/O0(l, q),
что и доказывает лемму.
Запишем теперь наши три пространства R1+<*, Q__iy Q+1 в виде
X = G/H, где #=О0A, q), a G есть одна из следующих трех
групп:
Go_[ri+<7. O0(l, q) (полупрямое произведение, подгруппа R1+*
нормальна),
G~ = O0(l, ?+1),
G+ = O0B, q).
Пусть о обозначает класс {#} в пространстве Х9 т. е.
I (О, ..., 0), если X=R1+*,
0 I @, ..., О, 1), если X = Q_± или Q+1.
В случае когда X = Q_j или Q+i, касательное пространство Х0
совпадает с гиперплоскостью {у^ ..., yg+i, 1}czR2+*.
Времениподобные векторы в точке о заполняют «внутренность»
С0 конуса Са. Множество С0 состоит из двух компонент. Компо-

234 Гл. /. Интегральная геометрия и преобразования Радона
нента, содержащая времениподобный вектор
i>o=(-l, 0, ..., 0), (-1, 0, ..., 0, 1), (-1, 0, ..., О, 1)
в случаях G°/H, G~/H и G+/H соответственно, называется
запаздывающим конусом (или конусом прошлого) в Х0. Она обозначается
D0. Компоненту гиперболоида g0(Y, Y) = r2, лежащую в D0,
будем обозначать 5г(о).Для любой другой точки у пространства
X определяем множества Су, Dy, Sr(y)<zXy, полагая
Cy = gC0, Dy = gDoi Sr(y) = g^Sr(o)i
где элемент g£G выбран так, чтобы go = y. Это определение
корректно, поскольку из связности подгруппы Н следует, что
h-D0cz D0 для Л£#. Положим, далее,
Br(y) = {Y(tDy: 0<gy(YtY)<r>}.
Обозначим через Ехр экспоненциальное отображение
касательного пространства Ху в многообразие X, переводящее лучи,
проходящие через точку 0, в геодезические, проходящие через
точку у, и положим
Z>, = ExpDy, Cy = ExpCy,
Sr(*/) = ExpSr(*/), Br(y) = ExpBr(y).
Множества Су и Dy называются соответственно световым конусом
и запаздывающим конусом в X с вершиной у. В случае
пространства X = Q+1 мы всегда предполагаем, что г < я, чтобы
отображение Ехр было взаимно однозначным на множестве ВГ (у) в
соответствии с утверждением (и) предложения 6.3.
Лемма 6.6. Пусть g—лоренцева структура на многообразии
X = G/H. Тогда —g индуцирует на каждом множестве Sr(y)
риманову структуру постоянной отрицательной кривизны (при
Доказательство. Так как многообразие X изотропно,
группа #=0ОA, q) транзитивно действует на Sr(o). Подгруппа,
оставляющая на месте геодезическую, выходящую из точки о
с касательным вектором v0, совпадает с 00(q). Отсюда вытекает
утверждение леммы.
Лемма 6.7. Времениподобные геодезические, проходящие через
точку у, пересекают Sr (у) под прямым углом.
Доказательство. По соображениям инвариантности
достаточно рассмотреть случай точки у = о и геодезической,
имеющей в этой точке касательный вектор v0i а в этом случае наше
утверждение очевидно.

§ 6. Интегралы по орбитам
235
Пусть x(g) обозначает сдвиг хН—> gxH на пространстве G/Я,
a TY для Fgm—линейное преобразование Z—* [У, [У, Z]]
пространства m в себя. Как обычно, мы отождествляем m с
касательным пространством (G/HH.
Лемма 6.8. Дифференциал экспоненциального отображения
Ехр: тп—>G/H имеет вид
°°
о
Bл+1)!
Доказательство. Пусть я: G —► G/H—естественное
отображение. Тогда я (ехр 7) = Exp Y (см. формулу D) на стр. 202
книги [ДС]), поэтому применима теорема 4.1 из гл. IV той же
книги, откуда и следует утверждение леммы.
Лемма 6.9. Для времениподобных векторов Y определитель
линейного преобразования
задается формулами
det AY = -
А V ту
/sin(gr (У, К)I/2 V v n
I —^-1-!—ттт— ] в случае X = Q+i
V fe(K, ПI/2 /
Доказательство. Рассмотрим случай пространства Q_j.
Так как определитель det(i4K) инвариантен относительно
подгруппы Я, достаточно доказать наше утверждение для векторов
вида Y = cYt, где cgR, a Yx задается формулой D). Поскольку
<* = giy%Y) и TYx(Yj)=*Yj B</<?+1), оператор Ту имеет
собственные значения 0 и g(F, У) причем второе из них ^-кратно.
Отсюда вытекает требуемая формула для определителя. Случай
пространства Q+1 разбирается аналогично.
Из этой леммы и описания геодезических, данного в
предложении 6.3, вытекает следующее
Предложение 6.10. (i) Отображение Ехр: m—►Q-i является
диффеоморфизмом запаздывающего конуса DQ на D0.
(ii) Отображение Ехр: m—>Q+i является диффеоморфизмом
множества Вп(р) на Вп{о).
Пусть dh — биинвариантная мера на унимодулярной группе Н.
Пусть, далее, и £3) (X), у£Х и г > 0. Выберем элемент ggG

236 Гл. I. Интегральная геометрия и преобразования Радона
так, чтобы g-o = y, и возьмем x£Sr(o). Рассмотрим интеграл
J u(gh-x)dh,
н
Так как подгруппа КаН, оставляющая неподвижной точку х,
компактна, то, как легко видеть, и множество
Cg%x={h$H: gh-x£s\\w(u)}
компактно. Поэтому указанный интеграл сходится. В силу биин-
вариантности меры dh он не зависит от выбора элемента g
(удовлетворяющего равенству g-o = y) и точки x£Sr(o). Поэтому по
аналогии с римановым случаем (формула B4) § 4) мы можем
определить оператор Мг (интеграл по орбите) формулой
A1) (M'u)(y) = lu{gh.x)dh.
н
Когда элементы g н х пробегают достаточно малые компактные
окрестности, множества Cg>x содержатся в некотором
фиксированном компактном подмножестве Я, так что (Мги)(у) гладко
зависит как от г, так и от у. Из формулы A1) ясно также, что
оператор Мг инвариантен относительно действия группы G: если
т(/) обозначает отображение пН—*ЫН пространства G/H на себя,
порожденное элементом /gG, то
Мг(иотA)) = (Мги)отA).
Пусть dk—нормированная мера Хаара на подгруппе /С. Тогда
по теореме 1.9
\u(h-x)dh= \ dh } u(hk-x)dk = }u(h-x)dh>
н н/к к н/к
где dh—инвариантная относительно группы Н мера на
пространстве #//(. Обозначая через d<or риманову меру на многообразии
Sr(p) (см. лемму 6.6), заключаем ввиду единственности Я-инва-
риантной меры на пространстве Н/К « Sr @), что
A2) ^U(h-x)dh = -j^ J и(г)йщ(г)%
Н Sr (о)
где А (г)—положительное число. Так как элемент g задает изо-
метрию пространства X, из формулы A2) следует, что
(М'и)(у)=-^ J и (г) dmf (г).
Sr(y)
Теперь надо вычислить функцию А (г).

§ 6. Интегралы по орбитам
237
Лемма 6.11. При подходящей фиксированной нормировке меры
Хаара dh на группе Н
A(r) = r<?9 (shr)tf, (sin r)?
для случая пространств
Rw, 0A, q+l)/0(l, q), 0B, q)/0(l, q)
соответственно.
Доказательство. Приведенные выше соотношения
показывают, что dh = A(r)-1d(drdk. Отображение Exp: D0—+D0
сохраняет длину на геодезических, проходящих через о, и
отображает многообразие Sr(o) на Sr(o). Поэтому если z£Sr(o) и Z
есть вектор в пространстве Х0 с началом в 0 и концом в точке z,
то отношение элемента объема многообразия Sr(o) к элементу
объема многообразия Sr(o) в точке z равно det(dExpz). В силу
лемм 6.8 и 6.9 это выражение в трех рассматриваемых случаях
равно соответственно
1.(^)*. (^r)f-
Элемент объема dwr на Sr(o) равен г? da)^ Следовательно, в трех
указанных случаях мы имеем
dh = ^jpjda1dk, -j^pfd^dk, --щ-d^dk.
Но меру dh можно раз и навсегда нормировать условием dh =
dcDjd/j. При такой нормировке и справедливы наши формулы
для функции А (г).
Пусть □ обозначает волновой оператор на пространстве X = G///,
т. е. оператор Лапласа—Бельтрами для лоренцевой структуры g",
определенный в п. 4 § 2 гл. II.
Лемма 6.12. Пусть у£Х. Волновой оператор □ на
запаздывающем конусе Dy может быть записан в виде
&! 1 dA д j
и~-~дЯ~т~~АТп17дг bSrM>
где Lsr(y)—оператор Лапласа — Бельтрами на многообразии
Sr(y).
Доказательство. Можно взять у = о. Если (9Ь ..., 9^) —
координаты на «сфере» Sx (о) в плоском пространстве Х0, то
(rQu ..., г9^)—координаты на Sr(o). Лоренцева структура на
конусе D0 задается поэтому формой dr2 — r2d92, гдея!92 — риманова
структура на St(o). Так как оператор Л у из леммы 6.9 задается
диагональной матрицей с собственными значениями 1 и r~M(/-)l/?
(второе из которых — кратности q)t то по лемме 6.8 образ Sr(o) =

238 Гл. I. Интегральная геометрия и преобразования Радона
Exp (Sr (о)) многообразия Sr (о) имеет риманову структуру
r2d№, sh2rd92, sin2rd92
в случае пространств R1+vt Q_x и Q+1 соответственно. Используя
установленную в лемме 6.7 ортогональность, получаем, что лорен-
цева структура на D0 в трех указанных случаях задается
формулами
dr2 — г2 dQ\ dr*—sh2 r d92, dr2 — sin2 r d№.
Отсюда немедленно следует утверждение леммы.
Оператор Мг является, конечно, лоренцевым аналогом
оператора сферического среднего для изотропных римановых
многообразий. Мы докажем сейчас, что, как и в римановом случае,
оператор Мг коммутирует с волновым оператором □•
Теорема 6.13. Для любого из изотропных лоренцевых
пространств X — G~/H, G+/H или G°/H волновой оператор □
коммутируют с оператором интегрирования по орбитам Мг:
ПМги = МгПи при и£3){Х)
(в случае G+/H предполагается, что г < я).
Для всякой функции и на пространстве G/H определим
функцию и на группе G, полагая
u(g) = u(g-o).
Лемма 6.14. Существует дифференциальный оператор П на
группе G, инвариантный относительно всех левых и правых
сдвигов и такой у что
П" = (ПиГ при и£@)(Х).
Доказательство. Рассмотрим сначала случай
пространства X = G~/H. Билинейная форма
K(Y, Z) = ±Tv(YZ)
на алгебре Ли оA, q+l) группы G" невырожденна; в
действительности форма К невырожденна на комплексификации о (q + 2, С)
этой алгебры, состоящей из всех комплексных кососимметричных
матриц порядка q + 2. Простое вычисление показывает, что в
обозначениях D), E)
K(Ylt YJ-1, K(Y/9 ¥;) = -! B</<<7+1).
В силу симметричности и невырожденности формы /С, на группе
<J~ существует единственная левоинвариантная псевдориманова
структура /С, такая что Re = K. Более того, форма К и право-

§ 6. Интегралы по орбитам
239
инвариантна, поскольку форма К инвариантна относительно
сопряжения Y—>gYg~x алгебры оA, q+l). Пусть
П—соответствующий оператор Лапласа—Бельтрами на группе G~. Тогда
оператор П инвариантен относительно всех левых и правых
сдвигов на группе G~. Пусть и£@)(Х). Так как функция Пи
инвариантна относительно всех правых сдвигов на элементы подгруппы
Н, то существует единственная функция v£d>(X)9 такая, что
□и =t7. Отображение и—+v является дифференциальным
оператором, который в точке о должен совпадать с оператором Q, т. е.
Пи (£)= Пи (о). Поскольку, кроме того, оба оператора Пим-^о
инвариантны относительно действия группы G~, они совпадают.
Это доказывает, что Пи = (№) ~.
Случай пространства X = G+/// рассматривается аналогичным
образом. В случае плоского пространства X*=sG°/H пусть Уу =
= @, ..., 1, ..., 0) есть /-й координатный вектор в
пространстве R1+?. Тогда П = ^1 — У\—•••—Уд+1> Так как пространства
Ri + <? естественным образом вложено в алгебру Ли группы G°f
мы можем продолжить вектор Y j до левоинвариантного
векторного поля Yj на группе G0. Тогда оператор П«=У?— Y\—... —
— Y2q+\ будет лево- и правоинвариантным дифференциальным
оператором на группе G0, и мы вновь получаем, что Dtt«=(n^)~*
Этим заканчивается доказательство леммы.
Теперь мы можем доказать теорему 6.13. Для g£G обозначим
через L (g) и R (g) соответственно левый и правый сдвиги / ■—► gl
и l—*lg на группе G. Если l-o — x, x£Sr(o) (г > 0) и g*o = y>
то, согласно определению A1),
{M'u)(y) = \u(ghl)dh.
н
При изменении элементов g и I в достаточно малых компактных
окрестностях область интегрирования, как уже отмечалось ранее,
содержится внутри фиксированного компактного подмножества
подгруппы Н. Докажем теперь следующий результат (указывая
в индексе аргумент, по которому действует дифференциальный
оператор):
Лемма 6.15. Имеет место соотношение
Ui(\u(ghl)dh)^\{Uu)(ghl)dh^
> И Н ^ Н '
Доказательство. Первое равенство вытекает из левоинва-
риантности оператора П. Действительно, интеграл слева равен
l(uoL(gh))(l)dhf
н

240 Га, L Интегральная геометрия и преобразования Радона
поэтому
Di( $ и (ghl) dft) = $ (П (u о L(вгЛ))) @dh
= J «D«0 о L &ft)) @ dft = S (Пи) fcft/) dft.
H H
Второе равенство аналогичным образом следует из правой
инвариантности оператора □•
Но это второе равенство как раз и есть соотношение
коммутативности, утверждаемое в теореме 6.13.
Из леммы 6.15 вытекает также следующий аналог уравнения
Дарбу (см. лемму 2.14):
Следствие 6.16. Пусть и£@>(Х). Положим
U(y9z) = (M'u)(y) при z€Sr(o).
Тогда
U9(U(y, z))-UAV{y>*))-
Замечание. Решения уравнения Лапласа Lu = 0 в
пространстве Rn характеризуются теоремой о сферическом среднем Мги=>и
(для всех г). Эквивалентная формулировка этого факта: Мги не
зависит от г. В такой форме теорема о сферическом среднем
выполняется и для решений волнового уравнения □« = () в
изотропном лоренцевом многообразии: Если функция удовлетворяет
уравнению □# = () и достаточно мала на бесконечности, то (Мги) @)
не зависит от г. Точную формулировку и доказательство этого
утверждения см. в работе Хелгасон [1959, гл. IV]. Для случая НУ
такого рода результат был отмечен также Л. Асгейрссоном.
3. Обобщенные потенциалы Рисса
В этом пункте мы распространим часть теории потенциалов
Рисса (п. 8 § 2) на лоренцевы многообразия постоянной кривизны.
Рассмотрим сначала случай пространства
Х^C.1 = 0-/Я=О0A/п)/О0A, п-\)
размерности п. Пусть fcz@)(X) и у£Х. Для 2 = ЕхруУ (У £Dy)
положим ry2 = g(Y, YI/2 и рассмотрим интеграл
A3) (/*/) (у) = ^ J / (г) sh*-" (ry2) dz,
Dv
где dz—элемент объема на X, а
(И) /С,(Я,)^я<1/»)("-»J^1Г^)г ( к+1~"У

§ 6. Интегралы по орбитам
241
Этот интеграл сходится при ReX^n. Преобразуем интеграл A3)
в интеграл по Dy с помощью диффеоморфизма Ехр(= Ехру). Так
как
и drda)r совпадает с элементом объема dZ на Dyt получаем
№(У) = -к}щ ^(foExp)(Z)^f-1r^dZt
Dv
где r = g(Z, ZI/a. Правую часть можно записать в виде
где функция h(Zf X) вместе со всеми своими частными
производными по первому аргументу голоморфна по X. Кроме того, h имеет
компактный носитель по первому аргументу. В силу теоремы 2.40
и следующего за ней замечания, функция X—+{Ix_f)(y), которая
по определению голоморфна при Re X > п9 допускает голоморфное
продолжение на всю плоскость X, и ее значение при Х = 0 равно
й@, 0) = /(#). Обозначая голоморфное продолжение функции A3)
через (/*/) (у), заключаем, что
A6) /°./ = /.
Мы хотим продифференцировать интеграл A3) по у. Для этого
перепишем его в виде )f(z)K(y, z)dzf где F—ограниченная
F
область, строго содержащая пересечение носителя функции / с
замыканием множества Dy. Ядро К (у, z) определяется как
&№~пгуг при z£Dy и 0 в остальных случаях. При достаточно
больших значениях Re X функция К (у, z) дважды непрерывно
дифференцируема по у, и непосредственная проверка показывает,
что при таких значениях X функция /£/ принадлежит классу С? и
A7) (Q/i/) (у) = -^ J / (г) D, (sh*-»rf,) dz.
Далее, для любого заданного mgZ+ можно найти такое
значение kt что /i/gO при ReX>k (для всех /). Используя лемму
6.12 и соотношение

242 Гл. I. Интегральная геометрия и преобразования Радона
находим, что
n,(shX"B^»)-□»(**-%,)
= (я_п) (А,_ 1) sh^-" Гуг + (К-п) (Л-2) Л*-»-«гу,.
Подставляя это выражение в A7) и учитывая, что
получаем
□Я/ = (Х_п) (Я— 1) /*/ + /i-7.
Снова предполагая Re Я достаточно большим, мы можем
применить формулу Грина и представить интеграл
A8) $ (f (г) □* (sh*-Ty,)-sh*-»V (D/) (г)) dz
в виде суммы поверхностного интеграла по некоторой части
светового конуса Су (на которой функция sh*"nryz и ее производные
первого порядка обращаются в нуль) и интеграла по поверхности,
содержащейся внутри Dy (на которой функция / и ее
производные равны нулю). Следовательно, выражение A8) равно нулю,
так что нами доказаны соотношения
A9) П (/*/) = /* (D/),
B0) /* (Q/) = (Х—п) (Х-1) /*/ + Ib2f
при ReA,>&, где k—некоторое число, не зависящее от /.
Так как обе части равенства B0) голоморфны по X, это
равенство справедливо при всех Х$С. Покажем, что для любого
значения Х$С мы имеем I-f(t$(X) и справедливо равенство A9).
Повторно применяя соотношение B0), находим, что при любом
p€Z+
B1) Л/= /i+* «,(□)/).
где Qp—некоторый многочлен степени р. Выбирая р достаточно
большим, заключаем на основании замечания, сделанного после
формулы A7), что I-f£<g(X). Далее, из A9) следует, что при
ReX+2p>k
п/*+v (QP (□) /)=/*+* (QP (□) □/).
Снова используя B1), получаем, что равенство A9) верно при
всех X.
Полагая в B0) Я = 0, приходим к соотношению
B2) l~Jf = Uf-nf.
Замечание. В работе Рисса [1949, с. 190] был определен
аналог 1а потенциалов (82) из § 2 для случая произвольного ана-

§ 6. Интегралы по орбитам
243
литического лоренцева многообразия. Эти потенциалы /а
отличаются, однако, от наших /* и удовлетворяют вместо B2)
соотношению /~2/=П/-
Рассмотрим, далее, случай
X = Q+1 = G+/tf = O0B, n_i)/0o(l, Л_1).
Положим для f£&)(X)
B3) {I\f){y) = -j±^ J / (z) sin*-" (ry2) dz.
Dv
Здесь опять Кп{Ц задается формулой A4) и dz—элемент объема.
Чтобы обойти трудности, связанные с тем, что функция z —* sin r z
равна нулю на Sn(y), предположим, что носитель функции / не
пересекается с Sn(o). Тогда этот носитель не пересекается и с
Sn(y) для всех у из некоторой окрестности точки о в X. Точно
так же, как и прежде, можно показать, что при всех XgC
B4) {l\f)(y) = f(y),
B5) (ПП/)(*/) = (ПП/)(</).
B6) (/* □ /) (у) = - (l-n) (Х-1) (I\f) (у) + (/*-'/) (у).
В частности,
B7) /;2/=□/ + "/.
Рассмотрим, наконец, плоский случай
X = R* = G°/# = R".O0(l, п— 1)/О0A, л—1).
Положим
"у
Именно эти потенциалы были определены Риссом [1949, с. 31],
доказавшим для них соотношения
B8) /?/ = /, П/ол/ = /оЛП/ = /оЯ-2/.
4. Определение функции по ее интегралам
по лоренцевым сферам
Функция на римановом многообразии определяется по своим
сферическим средним с помощью простого соотношения / = lim Mrf.
r-+Q
Мы решим сейчас аналогичную задачу для четномерного
лоренцева многообразия постоянной кривизны и выразим функцию /
через ее интегралы по орбитам Mrf. Поскольку сферы Sr(y) не

244 Гл. I. Интегральная геометрия и преобразования Радона
стягиваются в точку при г—*0, соответствующая формула (см.
теорему 6.17) оказывается совершенно иной.
Для решения данной задачи воспользуемся полученным в п. 2
геометрическим описанием волнового оператора П, в частности
перестановочностью оператора □ с оператором Мг в сочетании
с результатами п. 3 об обобщённых потенциалах Рисса.
Рассмотрим сначала пространство отрицательной кривизны
X = G~/H. Пусть п = dim X четно. Для всякой функции / £ S> (X)
положим F (r) = (Mrf) (у). Поскольку элемент объема dz на D„
определяется по формуле dz = drd(dr, имеем в силу равенства A2)
и леммы 6.9
CD
B9) (/*/) (у) = -^ j sh*-' rF (r) dr.
О
Пусть Yit ..., Yn—базис в Ху9 в котором лоренцева
структура задается формой
8у(У*У) = У\-У\---.-1А* Г-2 У/Г/.
Обозначая через 6Ь ..., 8П_2 геодезические полярные
координаты на единичной сфере в К"-1, положим
Уг = — >"ch£,
y2 = rsh^cos9i,
r/„ = rsh^sin91 ... sin9n_2.
@<£<oo, 0<r<oo)
Тогда (г, £, Q*> •••> ^п-г)—координаты в запаздывающем конусе
Dy, а элемент объема на Sr(y) задается формулой
dtor = rn-lshn-2Z)did(i>n-2,
где dco"—элемент объема на единичной сфере в R". Отсюда
следует, что
d(or = sh"-V sh" £ d£ Жо"
и, следовательно,
C0) F(r) =
Jj$(/oExp)(—rch£, rshtcos6lf ..., rsh^sinGj,... sinen_2)
xsh^-^d^co"-2.
Выберем теперь такое число Л, чтобы функция / о Ехр равнялась
нулю вне сферы у\+ ... + у% = А2 в Х^. Тогда в интеграле C0)

§ 6. Интегралы по орбитам
245
область изменения переменной £ содержится в интервале (О, Q,
где г2 с\\21,0 -{- г2 sh2 £0 = А2. После подстановки / = rsh£ видим, что
интегральное выражение C0) при малых г ведет себя как интеграл
к
5ф@(т)""'(/4 + <1)-1/1л
о
с ограниченной функцией ф. Поэтому при п > 2 существует предел
C1) a = lim (sh«~2r)F(r) (n > 2).
/--►0
При я = 2, дифференцируя соотношение C0), находим
аналогичным образом, что существует предел
C2) Ъ = lim (sh r) F' (г) (п = 2).
Рассмотрим случай п > 2. Мы можем переписать формулу B9)
в виде
А
(/*/) (*/) = 7^WIshnr/7 (г) shk'n+1 rdr>
о
где /7(Л) = 0. Вычислим значения обеих частей этого равенства
при Х = п—2. Поскольку Кп(Х) имеет в точке Х = п—2 простой
полюс, интеграл в правой части имеет в этой точке не более чем
простой полюс, и соответствующий вычет равен
А
lim (Х—п + 2) \ shn~2 rF (r) shx~n+1 r dr.
Здесь мы можем считать X вещественным числом, большим п—2.
Это удобно, поскольку в силу соотношения C1) интеграл тогда
абсолютно сходится и нам не приходится иметь дело с
интегралом, заданным лишь неявно, с помощью голоморфного
продолжения. Разобьем наш интеграл на два слагаемых
А А
(Х—п + 2) \(sh"-2rF (r)--a) shK~"+l r dr + а (X—п +2) ^shx'n+1rdr.
о о
Для вычисления предела второго слагаемого воспользуемся
вытекающим из равенства G1) § 2 соотношением
A sh Л
lim \i\sh»-* г dr= lim \x \ t»-1 A + t2)-1,2dt = l.

246 Гл. I. Интегральная геометрия и преобразования Радона
Что касается первого слагаемого, то для любого е > 0 можно
найти такое б > 0, что
|sh"-8rF(r)—а\< е при 0 < г < 6.
Если A^ = max|sh'Ir/7(r)|, то при п—2 < Я< п — 1 мы имеем
оценки
А I
(к—п + 2) J (sh"-? rF (r)—a) sh*-"+1 r dr
<(Х—n + 2)(N + \a\)(A— 6)(sh6)*-«+i;
б |
(Я—л + 2) J (sh*-? г/7 (г) — a) sh*-"+* г dr
о - |
< е (Х—п + 2) J rK-n+1dr = е6*-"+*.
о
Беря X—(п—2) достаточно малым, получаем, что правые части
обеих этих оценок меньше 2е. Тем самым доказано, что
Ига (к—п + 2) \ sh*- * rF (r) dr = lira shn"? rF (r).
^«.._ о У - ^ n
Л->л-2
r->0
Принимая во внимание формулу для Кп (X), заключаем, что для
интеграла B9) справедливо равенство
C3) I1r2f = Dя)С1/»>(»-«> , х оч lim sh* rM'f.
С другой стороны, последовательно используя формулу B0), мы
получаем для и£@)(Х) равенство
In-r2(Q(n)u)=ut
где
Q (□) = (□ + (я-3J) (П + (я-5L) ... (□ + 1 (п-2)).
Сопоставляя это равенство с C3) и используя соотношение
коммутативности □ МГ = МГ □> приходим к формуле
C4) ц = Dя)<1/2><2-"> , 1 9Х lim s\\n~*rQ{U)Mru.
!LzA\ /•-> о
■(^)
В силу леммы 6.12 и следствия 6.16 мы можем здесь заменить
shr на г, a Q—на оператор
□г=та + (л—l)cthr£.
J' "" dr*

§ 6. Интегралы по орбитам
247
В случае я = 2 в силу B9) имеем
C5) (/«_/) (у) = ^щ- j sh rF (r) dr.
О
Этот интеграл, в котором интегрирование в действительности
ведется лишь от 0 до Л, абсолютно сходится, поскольку наша
оценка выражения C0) при п = 2 показывает, что F(r) = 0 (log r)
вблизи г = 0. Используя равенства B0), C5), лемму 6.12,
теорему 6.13 и следствие 6.16, получаем для и£@>(Х)
ОО
и = /2_ № = у С sh rMr П м dr
о
оо оо
=iI^(shriMrw)dr=-y^0shr
d (Mru)
dr
Это соотношение заменяет формулу C4) в случае п = 2.
Пространства G+/# и G0/// могут быть рассмотрены
аналогичным образом. Таким образом, мы доказали следующий результат,
дающий решение задачи D (или ГУ) из § 3:
Теорема 6.17. Пусть X—одно из изотропных лоренцевых
многообразий G~/#, G°/H или G+/H, и пусть К—его кривизна
(/( = — 1, 0, +1). Предположим, что n = dimX четно. Положим
Q(n) = (D-K<n-3J)(n-K-(n-5L)...(Q-K-l(n-2)).
Тогда для и£&) (X)
C6) и = Dя)(!/2) <2-"> l lim r"-2Q (Qr) (М'и) (n ^ 2),
'(т)^°
C7) ix = — 4- Hm г 4- (Mru) (n = 2).
^ г-> о "r
Здесь □ — оператор Лапласа—Бельтрами, а Пг—еео
радиальная часть:
5. Интегралы по орбитам на 5LB, (R)
В этом пункте мы решим задачу D (п. 3 § 3) для другого
частного случая. А именно, мы покажем, что для группы G = SL B, R)
функция /gS>(G) может быть явным образом восстановлена по

248 Гл. I. Интегральная геометрия и преобразования Радона
своим интегралам по классам сопряженности эллиптических
элементов (см. Хелгасон [1978, гл. IX, § 7]1)) и их сдвигам.
Рассмотрим разложение Ивасавы G = KAN, где
Л=|а = а, = (^ °_,): /€■*}, A+ = {at: t>0}9
N={n = nx=(l l): *€R}'
*-{*«*-( C0Sfi6 8,nJ): 6gK}.
I \— sin8 cos8/ J
Поскольку dtnxat1 = nxe2ty положительный корень а определяется
условием a(logat) = 2t, так что в силу равенства G = Kc\(A+)K
и теоремы 5.8 меру Хаара dg можно нормировать так, чтобы
2Л 2л ао
C8) J f{g) dg=JL J J J / (ftefl^) sh B0 de йф л.
G 0 0 0
Обозначая через dg инвариантную меру на G/K (нормированную
с помощью dg и dk = (l/Bn))dQ), рассмотрим интеграл по орбите
C9) Ф, (8) = \ f (gkQg->) dg, f € Я> (G),
G/K
— интеграл от функции / по классу сопряженности к% элемента &е-
Теорема 6.18. Интеграл C9) абсолютно сходится и
Ит^(вФ,(в))=-!/(*).
e-*oaD L
Доказательство. Имеем
D0) atW-=^exp(_e 0)^Г1 = ехр(_е^2, £ )
/ cos 8 ^'sinSN
\— e~?'sine cos8 /
Последнее выражение показывает, что класс k$ замкнут в G, так
что интеграл C9) абсолютно сходится. Далее, выражение Ф^(8)
может быть записано в виде
$/(**ввг1Lг
G
и потому равняется Ф^ (8), где
r(g)~W*))lf(begkbl)dB.
х> Или Дубровин, Новиков, Фоменко [1979, с, 566].— Прим. перев*

§ 6. Интегралы по орбитам
249
Следовательно, при доказательстве теоремы 6.18 мы можем
считать функцию / инвариантной относительно сопряжения
элементами группы К. Полагая g = kfpatKt имеем в силу C8)
dg = (l/Bn)) shB/)d/d<p,
откуда
00
ф, F) = J / (afaft1) sh B/) dt.
о
Теперь воспользуемся соотношением D0), заменим 2t на t и
введем функцию
/Ч*, У)=(/оехр)(_£ J), (х, у)£№.
Получим
бф/(е)=т£(е)>
где
со
D1) g(r)=r\F(re*, re't)(et—e-t)dtf гфО.
о
В C7) мы выразили значение и @, 0) через интеграл
00
(Мги)@, 0) = J u(— rch£, rshC)d£,
— оо
который представляет собой инвариантный интеграл от и по по-
лугиперболе х2—у2 —г2, х<0. Интеграл D1) представляет собой
интеграл от функции F(x, у)(х—у) по четвертьгиперболе ху = г2у
х^г. Утверждение теоремы 6.18 вытекает из следующего аналога
равенства C7):
Лемма 6.19. Определим для F££D(R2) функцию g равенством
D1). Тогда
lim g'(r) = — 2F@t 0).
r-> 0
Доказательство. Пусть /71 = dF/d*, F2 = dF/dy. Тогда
00
g' (r) = J (F + rJFi + re-*Fs) (re*, ге~*) (e*—e"<) dt
о
00 00 00
- $ (e*F+ re*Fi)dt— J e~tFdl + J {rFt—rFl—re-*tFt)dt.
0 0 0

250 Гл. I. Интегральная геометрия и преобразования Радона
По теореме о мажорированной сходимости
00
lim \e-*F(r<*, re-f)dt = F{0, 0),
QO
lim r\e-i*F%(rJ9 re'^dt^O.
r-+o о
Поскольку функция F имеет носитель, содержащийся в шаре
Вл@), то Р{(гех, ге""') = 0 при /> In(Лг). Следовательно,
D2) \Ft{re\ re-*)dt~0 (|lnr|),
так что остается лишь доказать равенство
00
D3) lim \ (e*F {re\ re'*) + re*F± (re\ re'*)) dt^ — F @, 0).
Но подынтегральное выражение равно
£(*?№, re-*)) + rF2(re\ re'%
поэтому D3) следует из D2).
УПРАЖНЕНИЯ И НЕКОТОРЫЕ ДАЛЬНЕЙШИЕ РЕЗУЛЬТАТЫ
А. ИНВАРИАНТНЫЕ МЕРЫ
А1. Пусть G—группа Ли и Я—ее замкнутая подгруппа.
Тогда
(i) если Я компактна, то G/H обладает инвариантной мерой;
(и) если G унимодулярна и Я—нормальная подгруппа, то Я
унимодулярна;
(Hi) если G/H имеет конечную инвариантную меру и Я
унимодулярна, то G унимодулярна.
А2. Для группы О B) элемент ^ = A 0) УД°влетв0Ряет Ра-
венству Ad(g) = — /.
A3. Пусть G—связная группа Ли с алгеброй Ли g и Я—ее
замкнутая аналитическая подгруппа с алгеброй Ли ^}€й- Рас-
смотрим такой базис Xit ..., Хп в д, что векторы Xr+i, ..., Ха
порождают I), и положим
m = RXX + ... + R*

Упражнения
251
Определим числа d\i равенствами
[X,, Ху]=2^Л-
к
(i) Группа G унимодулярна тогда и только тогда, когда
tr6 (adX) = 0 при Xgg,
или,эквивалентно,
п
2 Cik = 0 при всех t, 1<л<; п.
(ii) Пространство G/H обладает инвариантной мерой в том и
только том случае, если
tr(ad6(^) = tr(ad4(T)) при Т €$,
или, эквивалентно,
2 с?а = 0 при т + 1 ^ i ^ п
а=1
(Черн[1942]).
А4. Покажите, что группа М (п) изометрий пространства Кя
изоморфна группе всех матриц вида
£*,* =
х±
О ... О 1
где k£K~0(n) и x = (xif ..., xn)£Rn. При этом мера Хаара
dg на Ж (п) задается формулой
lf(g)dg~ S f(gktX)dkdx9 f£Cc(M(n))9
G KXR»
где d£—мера Хаара на К.
А5. Биинвариантная мера на группе G = GL(n, R)
невырожденных матриц Х = (хи) имеет вид
f-+lf(X)\i*X\-Jldxu.
a l'i

252 Гл. I. Интегральная геометрия и преобразования Радона
А6. Биинвариантная мера на унимодулярной группе G =*
= SL (л, R) имеет вид
/—$/(*)| det^l П dxif.
G' (ь/)^(Ы)
Здесь X = (jc//), Хгу—алгебраическое дополнение элемента xif\
числа х/у (исключая хц) рассматриваются в качестве независимых
переменных на множестве G' всех матриц, у которых det^^O.
А7. Пусть Г (я, R)— группа всех верхнетреугольных матриц
g£GL(n, R). Левоинвариантная мера на Т(п9 R) равна
Г(л, R) *<i
а правоинвариантная—
T(n,R) *'</
А8. Пусть G = SZ/B, R) и Г—модулярная группа 5LB, Z).
Докажите, что
^(G/ГХоо,
где (л—инвариантная мера на G/Г. [Указание. Пусть G действует
на верхней полуплоскости Hi у > 0 дробно-линейными
преобразованиями 2 —■* («2 + b)/(cz + d). Используя тот факт, что группа Г
содержит сдвиг Т\ z—>z+l и «обращение» Si z—►— 1/z,
покажите, что любая точка z g Н может быть переведена элементом
группы Г в точку множества
D = {z(tHi |z|>l, |Rez|<|}f
имеющего конечную площадь относительно G-инвариантной
меры на Н.]
А9. Пусть GPiP+Q—0(p + q)/0(p)xO(q)—грассманово
многообразие /7-плоскостей в R^+«. Рассмотрим канонические базисы
е%, ..., ер и /х, ..., fQ взаимно ортогональных подпространств
£1==R/>xO и £2 = 0xR«.
Положим
Q;tP+g = {P<tGPiP+gi P()E2={0}}.
(i) Пусть P£G'pp+q. При каждом i (l^i^p) плоскость Р
«одержит единственный вектор вида

Упражнения
253
Отображение Р —ЧР//)ю<р, к/<<? является биекцией множества
OptP+Q на пространство MPt g(R) вещественных матриц размера
pxq.
(ii) Во введенной выше параметризации инвариантная мера
на G'lt 2 имеет вид
/-*$A+Р2иГ1/4*п,
на б, з—
/ — $(l+P?i + P?2)-3/2/dPiidPi2i
а на (?2, ,—
/-*${! +(ad —bcJ + a2 + b* + c2 + d2}-*fdadbdcdd,
где a = Pu, 6 = plf2, c = p2,i, d = P22. Как можно обобщить эти
формулы?
А10. (i) Мера
d\x = (dXi. ..dxn_i)/\xn\
на сфере х\ + ... + х\ = 1 инвариантна относительно вращений,
(ii) Мера
dv = (dxt... dxp+q)/\xp+q+i\
на квадрике
*1 "Г • • • ~Г *р -*т?+1 • • • Xp+q+l == * »
рассматриваемой как однородное пространство 0(р, q+l)/0(p, q),
инвариантна (см. Хелгасон [1978, гл. V, упр. 7]).
All. Пусть U — SUB) и a—инволюция
и—(о -i)"(o -1)
на U. Покажите, что
(i) Собственные подпространства автоморфизма do алгебры Ли
ц группы U имеют вид
где
(ii) Присоединенное представление Adv группы U является
двукратным накрытием группы SUB) над группой SOC)
собственных вращений евклидова пространства
U = Ret + Re2 + Re*

264 Гл. I. Интегральная геометрия и преобразования Радона
При ЭТОМ
к&и(и)Х = иХи-\ u£U, Х£и.
(Ш) Пусть
К = lke = ехр (у^) =
е<'/ц)в о
О e-ww
,): в€к},
( // \ / C0ST *sin^
Л = ^а< = ехр(те1)= J; /^R
I VsinT C0ST/
В терминах базиса (в,, е2, е8) алгебры и имеем
/cos в —sin6 0\
Ad(£e)=( sin6 cos6 0],
\0 0 1/
/1 0 0 \
Ad(af) = 0 cost sin/ I.
\0 —sin / cost/
Таким образом, разложение Картана U=KAK (см. Хелгасон
[1978, гл. V, теор. 6.7]1}) дает для u£U равенство
и = k§atkqy
которое после применения отображения Ad^ приводит к
представлению произвольного вращения в R8 с помощью углов Эйлера,
(iv) Поскольку
a = cos-j^<e+<f)/a, p = Jsin|-e'<e-<P)''S
где
A)
положим
Тогда
г = Xi + ix2 = r cos у ef <в+ч»/«,
w = лг8 + /jc4 = i> sin -о- е»'<0-<р>/2.
dz dz dwdw = -7r r2 sin / dr dt dQ dq>
X) Или Барут, Рончка [1977, т. 1, с* 150]. — Прим. перев.

Упражнения
255
{в смысле внешнего умножения). Группа SUB) задается
равенством г = 1, т. е. представляется сферой х\ + х\ + х£ + х\ = 1.
Таким образом,
sin/d/d0dq>
является инвариантной мерой на SUB). Это подтверждает
теорему 5.10 в данном случае. Точнее, нормированная мера Хаара du
на SUB) задается формулой
л 2я 2я
\ f (и)du = jg^ \sintdt\ dQ \ f (keatk<p)dq>.
SUB) 'o 0 -2Я
В. ПРЕОБРАЗОВАНИЯ РАДОНА
Bl. Выведите теорему 2.10 данной главы из теоремы 2.10
введения.
82. (i) Образ S> (R2)" пространства £D при преобразовании
Радона на R2 состоит из всех функций г|)£й>(р2), у которых
разложение в ряд Фурье
*(**, Р)= 2 ^n(P)einQ
neZ
обладает следующим свойством: для любого /zgZ
♦»(Р)в^г»гФ»(Р)»
где функция фл € ^ (R) четна.
(ii) Обобщите утверждение (i) на случай преобразования
Радона в R».
83. Пусть f—»}—преобразование Радона в Rn и ф—*ф—
двойственное к нему. Покажите, что отображение Т—+Т взаимно
однозначно на $' (Рп).
84. Пусть <ЛГ—ядро преобразования f —*ф на <£(РЛ).
Докажите, что <ЛГ является замкнутым подпространством в <^(Р"),
порожденным пространствами
Ец®Р1> k> l£Z+> k—l>0 четно.
(Здесь Ek§Qpl—пространство всех функций ф(со, р) вида ф(со, /?) =
"ф(со)р*, где г|) принадлежит рассмотренному в § 3 введения
собственному подпространству Ek.)
В5*. Образ $'(Кп)~ пространства £' (Rn) при преобразовании
Радона состоит из всех распределений 2 €.£'(&"), обладающих

256 Гл. I. Интегральная геометрия и преобразования Радона
следующим свойством: для любого k£Z+ распределение
cpe^S*-1)— $ <р(<о)/?М2(о>, р)
является однородным многочленом от о^,' ...,©„ степени k (см.
Хелгасон [1983а]).
Этот результат можно также записать в виде равенства (см.
предыдущее упражнение)
^(КГ-Р6^(П 2(сЛГ) = 0}.
В частности, $' (Rn)~ замкнуто в £' (Fn). Отсюда в силу чисто
функционально-аналитических соображений следует (Хертле
[1984]), что отображение ф~>ф из <£(Р") в <§(Rn) сюръективно.
С. ПРОСТРАНСТВА ПОСТОЯННОЙ КРИВИЗНЫ
CI. (i) (Модель с квадрикой.) Квадрика Q_i, задаваемая
условиями
B_i(x) = x*+ ... + x2-x2n+i = — 1, хп+1>0
(x=(xit ..., xn+1))f с римановой структурой, индуцированной
формой /?_!, имеет постоянную кривизну, равную —1 (см.
Хелгасон [1978, гл. V, упр. 7]1»).
(и) (Модель с единичным шаром). Пространство
Вг@)={у:\у\<1}, y = (yt, ...,</„), М2 = 2у?,
с римановой структурой
ds* = b(\-\y\*)-*(dy\+...+dyl)
имеет постоянную кривизну, равную —1.
(iii) (Модель с полупространством). Пространство
(гь ..., zn)£R\ zn>0
с римановой структурой
do* = (dzl+...+dzl)/z2n
имеет постоянную кривизну, равную —1.
(iv) Отображение у = Ф(х) (*£Q_i), задаваемое формулой
(Уь •••> yn) = {Xn+1+i)(Xi, ..., **)
1> Или Вольф [1967, гл. 2, § 2.4]. — Прим. перев.

Упражнения
257
с обратным
является изометрией Q_i на Bi@).
(v) Отображение z = 4(x) (*€:Q-i), задаваемое формулой
(zif ..., zn) = (xn+i—xn)-*(xif ...,xn_lt 1),
с обратным
(хх хх )-z-*(z* z И2-1 \lS±l\
где |г | = Bi+...+z„I/2, является изометрией Q.j на #„.
С2. На единичной сфере S2 справедливы следующие формулы
для геодезического треугольника с углами А, В, С и длинами
сторон а> by c\
sin а sin Ь sin с
sin Л sin В sin С '
cos a = cos b cos с + sin b sin с cos A.
Двойственность между компактными и некомпактными
симметрическими пространствами (см. [ДС, гл. V, §§ 2, 3]) наводит на
мысль о справедливости аналогичных формул
/«v sh a sh b she
sin Л sin/3 sin С '
B) ch a = ch Ь ch c—sh Ь sh с cos A
в случае гиперболической плоскости с кривизной —1.
(i) Проверьте справедливость равенств A) и B).
(и) Обобщите их на случай гиперболической плоскости с
кривизной — еа.
(iii) Что происходит при е —* О?
D. НЕКОТОРЫЕ РЕЗУЛЬТАТЫ ИЗ АНАЛИЗА
D1. Пусть fe£Z+. Покажите, что многочлены х—*(х> (o)k (со
€ Sn~x) порождают пространство всех однородных многочленов
степени k.
D2. Покажите, что функция
fM f \х\-^{\п\х\Г* при Н>2,
'W"~\0 при \х\<2
9 С. X ел га сон

258 Гл. I. Интегральная геометрия и преобразования Радона
принадлежит L2(R"), но не интегрируема ни по одной плоскости
размерности ^п/2 (Солмон [1976]).
Этот пример вскрывает трудности, возникающие при попытке
определить преобразование Радона по А-плоскостям
непосредственно в LP(Rn). Определение для распределений существенно
использует компактность носителя, зато хорошо подходит для
функций с негладким поведением.
D3. Пусть F$S)(R2). Как и в лемме 6.19, определим функцию
g формулой
00
g(r)=r lF(ref9 ге-*)(е*—е-*)сН, гфО.
о
Докажите, что
00 00
lim g(r)=\F(xf 0)dx, lim g(r) = — \ F(x, 0)dx.
r-0+ 0J r-0- о
Таким образом, g может не продолжаться до непрерывной
функции в окрестности точки г = 0, хотя g' продолжается (Хариш-
Чандра [1964с]).
D4. Докажите справедливость уравнения Пуассона в R2
L(lnr) = 2n6,
используя формулу Lra = a2ra.
D5. Пусть nti, •••» тг—различные вещественные числа.
Положим
где Ci, ..., сг—комплексные числа. Применяя равенство
г
lim ^\\f(t)\^dt = y\cj\\
покажите, что
<*) Hrajup|/@|>{^|cy|^1/4.
Пусть теперь k±, ..., kr—различные комплексные числа и
Ри •••> Рг — многочлены от / с комплексными коэффициентами,
причем все Р/фО. Предположим, что
lim sup | р0 (t) + Pl (t) e1* +...+pr(t) ekr* | < a.

Примечания
259
Используя неравенство (*), докажите, что р0 является константой
и |А>К!я- Далее, покажите, что если Refy^O для каждого /,
то все многочлены pj являются константами, а все числа k{ чисто
мнимы (см. Хариш-Чандра [1958а, § 15]).
ПРИМЕЧАНИЯ
Если рассматривать дифференциальные формы как «инфинитезимальные
объемы», то понятие интегралов от дифференциальных форм (интегральных
инвариантов) становится совершенно естественным (Крофтон [1868], Пуанкаре [1887],
Картан [1896, 1922], Ли [1897]). У Шевалле [1946] дифференциальные формы
трактуются как гладкие семейства полилинейных функций на касательных
пространствах. В § 1 мы следуем его подходу к интегрированию форм. Рима-
нову меру обычно определяют, вводя излишнее условие ориентируемости.
Инвариантный интеграл на компактной группе Ли использовали Гурвиц
[1897], Шур [1924] и Г. Вейль [1925]. Мера Хаара была построена Хааром
[1933] для случая локально-компактных групп. Инвариантные меры на фактор-
пространствах встречались для различных частных случаев в классической
интегральной геометрии (Крофтон, Чубер, Дельтайль, Герглотц, Бляшке), однако
теорема 1.9 (для локально-компактных факторпространств) была впервые
доказана лишь А. Вейлем [1950] (по поводу случая rpvnn Ли, описанного в упр.
A3, см. Черн [1942]). Предложение 1.12 взято из работы Хариш-Чандры [1953];
см. также Мостов [1952]. В целом § 1 лишь немногим отличается от пп. 1, 2
§ 1 гл. X книги [ДС]«
§ 2, пп. /, 5, 4. Формулы обращения
@ / (х) = у (^О1"*1 Ц1/2) w-v С J (©, (©, х)) da> (n нечетно),
00
(И) /<*) = BЯo-^.?*,n-1, j do, j */_!%,% (»че™°>.
выражающие функцию /£<2>(RW) через ее интегралы У (со, р) по плоскостям,
восходят к Радону [1917] и Джону [1955]. Как свидетельствует Боквинкель
[1906], случай п = 3 был еще до 1906 г. рассмотрен Г. А. Лоренцем. В работе
Джона [1955] было дано доказательство этих формул, основанное на изучении
уравнения Пуассона Lu = f. Другое доказательство, использующее
распределения было получено Гельфандом и Шиловым [1958]. Определение двойственных
друг другу преобразований / —► /, ср —► ф и двойственные друг другу,
унифицированные формулы обращения
c/ = L<i/2><"-i> ((f)"), сф = ПA/2) (/г_1)((ф)")
принадлежат автору [1964]. Доказательства из работ Хелгасон [1959, гл. IV;
1965] основаны на использовании уравнения Дарбу (см. лемму 2.14) и потому
обобщаются на двухточечно-однородные пространства. Формулы A7) и E5)
были получены Фугледе [1958]. Как указывает Радон [1917], первая из этих
формул была известна еще Герглотцу. Модифицированная формула обращения
(теорема 2.16) и теорема 2.17 доказаны Людвигом [1966]. У Гельфанда, Граева
и Виленкина [1962] отмечено, что последний результат был ранее доказан
Ю. Решетняком.
9*

260 Гл. I. Интегральная геометрия и преобразования Радона
§ 2, п. 2. Приведенные в этом пункте теоремы о носителе и теоремы типа
Пэли — Винера (теоремы 2.4, 2.6 и 2.10) были впервые установлены в работах
Хелгасон [1964b; 1964a]. Пример из замечания 2.9 был независимо построен
Д. Дж. Ньюманом; см. статью Б. Вейсса [1967], который дал другое
доказательство теоремы о носителе. Локальный результат, содержащийся в следствии
2.12, восходит к Джону [1935]. Наше доказательство навеяно доказательством
аналогичной леммы у Фленстед-Йенсена [1977b, с. 81]. Другое доказательство
приведено у Людвига [1966].
Следствие 2.8 было получено Людвигом [1966] другим способом* Он
предложил новое доказательство теорем Шварца и Пэли — Винера, основанное на
разложении функции f (со, р) по сферическим гармоникам (по переменной со).
Однако в решающем месте доказательства — при проверке гладкости функции
f(Q, задаваемой формулой B.7) на стр. 57 указанной работы, в точке £ = 0,—
имеется пробел, и устранить его в рамках предложенного подхода
представляется делом весьма затруднительным. Функция f—это функция F из нашего
доказательства теоремы 2.4, где установление гладкости F в 0 является
основным моментом.
Поскольку формула обращения (теорема 2.13) при нечетных п доказывается
довольно легко, естественно попытаться доказать теорему 2.4 при нечетных я,
проверив непосредственно, что для <р£<£Рн (Rn) функция f = LA/2> <л-1> (ф)
принадлежит gf (IR") (в общем случае ф (£ J? (R71)). Такой подход принят в книге
Гельфанда, Граева и Виленкина [1962]. Однако мне кажется, что этот метод
приводит к некоторым не разрешенным до конца техническим затруднениям.
Следствие 2.5 получил Семянистый [1960]. Хертле [1984] доказал, что
преобразование /—*f не является гомеоформизмом пространства <£) (R.n) на его
образ в @)(Рп).
§ 2, пп. 5, 6. Принятый здесь подход к преобразованию Радона
распределений развит автором [1966а]. Иные методы были предложены Гельфандом,
Граевым и Виленкиным [1962], Людвигом [1966] (где также доказана формула
D6)), Эмброузом (не опубликовано), Гийемином и Стернбергом [1977].
Определение преобразования по d-плоскостям, теорема 2.27 и следствие 2.28,
характеризующее образ этого образования, взяты из работ Хелгасон [1959; 1980с].
Вариант следствия 2.28 для случая пространства 1Л был получен Солмоном
{1976, с. 77]. Иное описание указанного образа в случае d=l, n = 3 дал Джон
[1938]. По поводу дальнейших результатов в данном направлении см. Гельфанд
и Граев [1968], Гийемин и Стернберг [1979] 1>.
§ 2, п. 7. Описанные здесь приложения к дифференциальным уравнениям
основаны на работе Джона [1958]. Другие приложения преобразования Радона
к дифференциальным уравнениям в частных производных с постоянными
коэффициентами можно найти у Куранта и Лакса [1955], Гельфанда и Шапиро
{1955], Джона [1955], Боровикова [1959], Гординга [1961], Людвига [1966],
Лакса и Филлипса [1967] *К
и Постановки задач интегральной геометрии допускают различные
обобщения. Так, например, можно рассматривать и неоднородные ситуации. А именно,
имеет смысл исследовать задачу о восстановлении функции по ее интегралам
вдоль параметрического семейства многообразий. При этом важен вопрос о
существовании локальной формулы обращения. Задачи интегральной геометрии
можно ставить также для дифференциальных форм* Этим и многим другим
проблемам интегральной геометрии посвящен большой цикл работ Гельфанда
с соавторами. Обзор результатов и библиографию можно найти в статье
Гельфанда, Гиндикина и Граева [1980].— Прим. перев,
» См. также Шилов [1984].— Прим, перев.

Примечания
261
Приложениями преобразования Радона в медицине занимался Кормакк
[1963, 1964], в радиоастрономии —Брейсуэлл и Риддл [1967]. Описание
дальнейших приложений можно найти у Шеппа и Крускала [1978], Смита, Солмона
и Уэгнера [1977], Шеппа и др. [1983].
§ 2, п, 8, Полное изложение теории распределений в R" и на
многообразиях можно найти у Л. Шварца [1966] или Трева [1967] гК Краткое, но тем
не менее замкнутое изложение основ этой теории имеется у Хёрмандера [1963].
Более систематическое исследование потенциалов /V и распределений га, **
проведено у М. Рисса [1949], Л. Шварца [1966], Гельфанда и Шилова [1958].
Более общий вариант предложения 2.38 дан Ортнером [1980].
§ 3. Понятие инцидентности для пары однородных пространств восходит
к Черну [1942]. Двойственность между пространствами
@ 0/Нх и G/H
и отображения
(") *—►*, g—*i
а также преобразование Радона для двойного расслоения однородного
пространства введены в работе автора [1966а], из которой и взята большая часть
материала данного параграфа. Дальнейшие обобщения, с заменой условия
однородности на некоторые постулаты о совместимости используемых мер, были
даны Гельфандом, Граевым и Шапиро [1969].
В случае G = tfD), Hx = U(\)xUC), HE = UB)XUB) отображения (ii)
приводят к соответствиям (преобразованиям) Пенроуза (Пенроуз [1967]),
описанным в примере (iii) п. 1 2).
В работе Хелгасон [1965а] подробно, с разрешением задач А—С, разобран
пример, в котором X является множеством ^-плоскостей в R*, a S —
множеством ^-плоскостей (л = р+<7+1). Однако ввиду возникающих при этом проблем
сходимости более удовлетворительным является, вероятно, применение теоретико-
группового понятия инцидентности, как оно определено в данном параграфе*
Если х0 JL go и *оП?о Ф 0» то х и £ инцидентны в том и только том случае,
когда они пересекаются под прямым углом* Задачи В и С были для этого
случая решены Фултоном Гонсалесом.
§ 4. Функ [1916] показал, что функция f на двумерной сфере,
симметричная относительно центра, может быть определена по своим интегралам по
большим кругам. Радон [1917] обсудил эту задачу и аналогичную задачу об
определении функции на неевклидовой плоскости по ее интегралам по
геодезическим.
Преобразование Радона на гиперболических и эллиптических пространствах,
отвечающее вполне геодезическим подмногообразиям, было определено в работе
Хелгасон [1959]* Там были доказаны формулы обращения, содержащиеся в
теоремах 4.5 и 4.7* Некоторое обобщение этих результатов дал Семянистый [1961].
Другое определение, с соответствующими формулами обращения, было
предложено в книге Гельфанда, Граева и Виленкина [1962]. Теорема о носителе и
теорема типа Пэли — Винера для этого преобразования, справедливые для
симметрических пространств, были доказаны автором в [1973а, § 8] (см. также
уточнения этих результатов в [1983а; 1983b]). Некоторые локальные теоремы
о носителе и теоремы Пэли — Винера для гиперболических пространств доказали
Лаке и Филлипс [1979, 1982].
4> См* также Владимиров [1976], Хёрмандер [1936].— Прим. перевш
® См* также обзор Гиндикина и Хенкина [1981],— Прим. перев.

262 Гл. /. Интегральная геометрия и преобразования Радона
Приведенная в данном параграфе теорема о носителе (теорема 4.2) была
доказана автором [1964b, 1980b], равно как и ее следствие 4.18 [1980d]. Теория
преобразования Радона для антиподальных многообразий в компактных
двухточечно-однородных пространствах (теорема 4.11) взята из работы Хелгасон
[1965а]. Иное доказательство формулы обращения дано Гринбергом [1983].
Мишель [1972; 1973] использовал теорему 4.11 для установления некоторых
свойств инфинитезимальной жесткости канонических метрик на вещественных
и комплексных проективных пространствах. Функ в уже упоминавшейся работе
[1916] показал, что стандартную метрику на проективной плоскости нельзя
деформировать таким образом, чтобы геодезические остались замкнутыми и
сохранили прежнюю длину. Однако для сферы §2 такая деформация возможна
(Гийемин [1976]).
§ 5. Элемент объема на ортогональной группе рассматривал еще Шур [1924],
а общая формула, приведенная в следствии 5.16, была получена Г. Вейлем
[1925]. Ее обобщение, теорема 5.10, установлено Э* Картаном [1929, § 23].
Остальные интегральные формулы в основном получены Хариш-Чандрой [1953,
с. 239; 1954d, с. 507; 1956а, § 12; 1958а, с. 261, 287]. В случае комплексных
классических групп многие подобные формулы были найдены Гельфандом и
Наймарком [1950]. Приведенное доказательство леммы 5.4 (взятой из работы
Хариш-Чандры [1954d, с. 507]) принадлежит Уоллачу [1973, с. 174]. То же
относится и к предложению 5.21. Предложение 5.18 взято из работы Хелгасон
[1980а], а доказательства принадлежащих Хариш-Чандре результатов 5.8, 5.19
и 5.20 — из старых неопубликованных лекций автора. Что касается леммы
5.14 и предложения 5.15, то здесь мы близко следовали изложению, данному
в сборнике «Семинар «Софус Ли»» [1955, сообщ. 19].
§ б, п. U Приведенная конструкция пространств постоянной кривизны
(теорема 6.1) взята из работ Хелгасон [1959; 1961]. Доказательство леммы 6.2
о связности заимствовано у Бёрнера [1955]. Более подробную информацию об
этих пространствах, а также об изотропных многообразиях можно получить
из книги Вольфа [1967].
§ 6, пп. 2—4. Приведенное решение задачи об интегралах по орбитам на
лоренцевых многообразиях G/H постоянной кривизны основано на работе
Хелгасон [1959]. По поводу некоторых близких результатов для случая
произвольной сигнатуры см. Фаро [1979].
§ 6, п. 5. Формула Планшереля для преобразования Фурье на
комплексной полупростой группе Ли G была получена Гельфандом и Наймарком [1948]
(см. также [1950]) для случая G = SL(n, С) и Хариш-Чандрой [1951b, 1954d]—
для общего случая. В работе [1955] Гельфанд и Граев заметили, что формула
Планшереля для комплексной группы G следует из представления значения
функции f££D(G) в единице е через интегралы от / по всем классам
сопряженности. Как мы отмечали в п. 3 § 3, это приводит к задаче об интегралах
по орбитам для GxG/AG, которую Гельфанд и Граев решили в упомянутой
работе для случая комплексных классических групп G.
Для вещественных и полупростых групп G решение задачи об интегралах
по орбитам для GxG/kG было дано Хариш-Чандрой [1957b]. Частный случай
этого результата для G = SLB, R) представлен в теореме 6.18. В
противоположность случаю комплексной группы G здесь задача об интегралах по орбитам
является лишь одним из целого ряда шагов на пути к полной формуле
Планшереля (см. Хариш-Чандра [1970] Х)).
1} А также Хариш-Чандра [1971] и Желобенко [1979].— Прим. перев.

Примечания
263
В указанных работах рассматриваются лишь интегралы по орбитам
полупростых элементов g£G. Однако такие интегралы существуют при любых
g£G (см. Рао [1972]). Они изучались в работах Хариш-Чандры, Барбаша [1979],
Барбаша и Вогана [1980; 1982]. Эти интегралы обладают новыми и
интересными свойствами.
В плане синтеза отмеченных результатов многообещающей программой
исследований представляется развить теорию интегралов по орбитам (см. задачу D
из § 3) для аффинных симметрических пространств G/H (с полупростой группой
G), включающую в себя одновременное обобщение теорем 6.17 и 6.18. Для
пространств G/H «ранга один» это уже сделано Джерими Орлоффом.

Глава II
ИНВАРИАНТНЫЕ
ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
Хотя приложения к дифференциальным уравнениям служили мотивировкой
для теории Ли групп преобразований, теория групп и алгебр Ли развивалась
по своим внутренним законам, оказывая всё возрастающее влияние на многие
другие разделы математики. В частности, имея столь развитую теорию групп
Ли, разумно обратить первоначальную точку зрения Ли, т. е. рассматривать
группу как данный объект и исследовать дифференциальные операторы,
инвариантные относительно действия этой группы. Такие условия инвариантности
весьма естественны, и литература изобилует соответствующими примерами
(некоторые элементарные примеры см. в п. 1 § 4).
. В §1 мы приводим обзор некоторых теорем о структуре пространства
С°° (Rn) и даем бескоординатное описание дифференциальных операторов. В § 2
мы обсуждаем, в случае произвольного многообразия М, пространства @) (М)
= С?(М) и & (М) = С°° (М), их топологии, а также распределения и
дифференциальные операторы на М. Особое внимание уделено оператору Лапласа —
Бельтрами на псевдоримановом многообразии.
В § 3 обсуждаются проекции дифференциальных операторов на
подмногообразия. Когда группа действует на многообразии V, мы раскладываем
произвольный дифференциальный оператор на V в «полином» от операторов вдоль
орбит действия с трансверсальными операторами в качестве «коэффициентов».
В случае лапласиана это приводит к некоторому варианту теоремы Пифагора
(см. равенство B1) в § 3). Если для действия группы на V ■ выбрано сечение w%
то каждый дифференциальный оператор на V имеет радиальную часть на W,
В случае когда орбиты пересекают W ортогонально, радиальная часть
лапласиана имеет простое геометрическое представление, которое в п. 4 § 3
реализуется в некоторых конкретных примерах.
В §§ 4—5 мы рассматриваем инвариантные дифференциальные операторы
на однородном пространстве G/H и описываем их в терминах алгебр Ли групп
G и Н. Более детально изучается случай симметрического пространства. Мы
устанавливаем связь между такими операторами и инвариантами группы Вейля.
b случае ранга 1 мы получаем обобщения уравнения Дарбу и теоремы Асгейрс-
сона о среднем значении, а также явное решение уравнения Пуассона.
Симметрические пространства G/K с комплексной группой G обладают некоторыми
сцецифическими чертами, изучаемыми в пп. 8 — 9.
§ 1. Дифференцируемые функции в Rn
Пусть Rn обозначает n-мерное евклидово пространство и
x=(xlt ..., хп) — произвольная его точка. Положим |х| = л;?-f ...
• ••+*«I/2- Если VczRn — открытое подмножество, то обозначим

§ 1. Дифференцируемые функции в R"
265
через $ (V) пространство комплекснозначных бесконечно
дифференцируемых функций в V, а через S>(V) — пространство
функций из $(V), имеющих компактные носители в V. Хотя основной
интерес представляет пространство £ (V), часто удобнее работать
c@)(V), поскольку при UaV также &)(U)c:S)(V). Пусть dt—
частная производная д/дх;. Если a = (ai, ..., ап)—мультииндекс
(гдеа^О—целые числа), то полагаем
|a|=ai+ ... +a„, a!=a!!. ... -an\.
Если P = (Pi, ..., Pw)—другой целочисленный неотрицательный
мультииндекс и Р/^ос/ при всех /, то будем писать Р^а и
полагать
a—P = (ai—рь ..., ап—р„),
а!
(?)■
Р!(а-Р)!'
Справедливо следующее обобщение формулы Лейбница для
производной произведения функций fug:
A) D«(fg)= £ (")(Д7)№)
ji+v=a \ /
(см. Хёрмандер [1963, гл. 1]; справедливость тождества такого
типа очевидна, коэффициенты же можно получить, выбирая в
качестве fug экспоненты.)
Если SaV—произвольное подмножество и mgZ+, то положим
B) »Ш= 2 sup|(Z>*/)(*)|.
(При S = V мы часто будем опускать индекс S в этом
обозначении.) Тогда при /, g€<£(V) имеем
C) |1/ + £Ш<»Ш + №
Лемма 1.1. Пусть Cct/czVcR", где U и V—открытые, а
С—замкнутое подмножество в Rn. Тогда существует такая
функция <p££(V), что <р = 1 на С, ф==еО на V\U и 0^ср<1 всюду.
Доказательство (в случае когда V—произвольное паракомпакт-
ное многообразие) см., например, в [ДС, с. 98]1}. Используя
полунормы B), мы можем доказать более точный вариант этого
утверждения.
*> См. также Дубровин, Новиков, Фоменко [1979, с. 469].— Прим. перев.

266 Гл. II. Инвариантные дифференциальные операторы
Предложение 1.2. Пусть С с R" — произвольное замкнутое под*
множество. Тогда существует такая функция ф€<£(К"), что
C = {x£Rn: ф(х) = 0}.
Доказательство. Если Vk—это A/&)-окрестность
множества С, то С является пересечением открытых множеств Vk
(£>1). Пусть функция ФЛ€^(КЛ) такова, что ФЛ = 0 на С,
Ф^ е= 1 на R^X^, 0 ^ фЛ ^1. Рассмотрим шар Вг @) = {х: | х | < г}
и обозначим через Ц/jJ, полунормы B) при S = Br@). Выберем
числа ek > 0 таким образом, чтобы
00
и положим
00
Тогда при фиксированном & и при т'^т> г, Л получаем
<7>m q>m
Последнее выражение стремится к нулю при т—► оо. Ясно, что
предел ф=Нт чрт обладает требуемыми свойствами.
ОТ-* СО
Лемма 1.3. Пусть т>0. Предположим, что все производные
до порядка т включительно функции f£<g(Rn) аннулируются
в начале координат. Тогда для любого г > О существует функция
g€£(Rn), аннулирующаяся в окрестности начала координат,
такая что
ll£-/L<e.
Доказательство. Пусть <p€<£(Rn), ф(л;) = 0 при |л:|^^»
ф(х)=1 при \х\^1 и 0<1ф^1 всюду. Для произвольного б > О
положим
gb(x) = 4>(x/8)f(x).
Тогда g6€<^(R"), g6=:0 вблизи л: = 0 и gb(x) = f(x) при |x|>6.
Таким образом, достаточно доказать, что при |а|^/п
D) sup \D«g6(x) — Da/(x)| —*0 при 6-*0.
Однако, в силу наших предположений относительно /, при |a | ^ m
справедливо равенство (Da/)@) = 0, так что
E) ^р |(D°7)(x)| —О при 6 — 0.

§ 1. Дифференцируемые функции в Rn
267
Кроме того, в силу A) получаем
D*gb(x)= £ (^N-«vi(Dv9)(£)(D^/)(x),
U + v=a ч ' ч '
т. е. при подходящей постоянной С
F) |оъмкс 2 e-|v|ia>v)(*)i (*€»■)•
M. + ,v=a
Однако все производные до порядка (т—|/л|) функции D^f
аннулируются при х = 0. Поэтому
sup \D*if(x)\=o(&n-\»'l)t
из F) получаем
sup \D«g6(x)\ = o( 2 e^-l^i-mWo^-ial).
Отсюда и следует, если учесть E), требуемое соотношение D).
Определение. Пусть VсRn—открытое множество.
Дифференциальным оператором на V называется линейное отображение
D: iZ)(V)—^*2>(V), обладающее следующим свойством:
Для любого относительно компактного открытого подмножества
UcV, замыкание которого содержится в V, существует такой
конечный набор функций aa^(§(U) (a=(ai, ..., a„), a,-gZ+),
что для любой функции ф £ 3) (U) выполняется равенство
G) Оф=2яаДаф.
а
Понятно, что любой дифференциальный оператор D на V
обладает тем свойством, что supp (D-ф) с:supp (if) для произвольной
функции ф € 3) (V) (где через supp обозначается носитель). Отсюда
следует, что D можно продолжить до линейного оператора (также
обозначаемого через D) из & (V) в $ (V) посредством формулы
<8) (Df)(x) = (D<p)(x).
Здесь x£V и f£<§(V) произвольны, а ф — любая функция из
S>(V)y совпадающая с / в окрестности точки х. Очевидно, что от
выбора такой функции ф результат не зависит.
Теорема 1.4. Пусть D: S) (V)—+&> (V)—линейное отображение,
удовлетворяющее условию
(9) supp (Dcp) czsupp ф при q)£S)(V).
Тогда D является дифференциальным оператором на V. И обратно,

268 Гл. II. Инвариантные дифференциальные операторы
любой дифференциальный оператор на V удовлетворяет условию
(9)."
Замечание. Если потребовать непрерывность D
(относительно топологии на @)(V), введенной в п. 2 § 2), то для любой
точки х g V отображение ср —► (Dtp) (х) в силу (9) является
распределением с точечным носителем. Поэтому G) немедленно следует
из теоремы Шварца о том, что все такие распределения являются
линейными комбинациями производных от дельта-функции.
Поэтому основное утверждение теоремы 1.4 состоит в том, что
непрерывность D автоматически вытекает из ее условий.
Доказательство. Пусть оператор D: S>(V) —*■S>(V)
обладает свойством (9). Продолжим его на £ (V) по формуле (8).
Докажем, что для любой точки_ а$У существуют относительно
компактная окрестность U э a (UczV), натуральное число т и
константа С, такие что
A0) ||D(/|k<Cl«L при ud®(U\{a}).
Предположим, что для некоторой точки а это неверно. Пусть
U0czV—её открытая относительно компактная окрестность,
U°czV. Тогда существует функция ^1^й>(^/°\{а}),_для которой
|]Dw1||0>22||wi||1. Если U1={x: и1(х)ф0}9 то £/°\77г является
открытой окрестностью точки а. Поэтому, в силу нашего
предположения, существует функция u2^S>(U°\(U1[)a))i для которой
11^2|к>24||^||2.
Полагаем, далее, U2={x: и2(х)ф0}. Продолжая эту процедуру,
мы получаем последовательность открытых множеств Ul9 £/2, ...,
для которых
A1) TTkc:U*\{a}, Vk[\TJl = 0 при кф19
и функций
A2) tt»6fi(l/°\(l/iU ... U^.iU {e}))c»(V),
обладающих тем свойством, что Uk = {x: ик(х)ф0} и
A3) ||D«ft||0>2?*|Mft.
В силу условий A1) и A2) сумма
у 2-*ик
~ II"* II*
г) Аналогичным образом могут быть охарактеризованы и дифференциальные
операторы, коэффициенты которых имеют конечную гладкость (см. Петре
[1959— I960]).— Прим. перев.

§ 1. Дифференцируемые функции в R"
269
является корректно определенной функцией из @>(V),
совпадающей на Uk с функцией 2~k\\uk\\k1uk. Таким образом, из (9)
получаем
Du\Uk = 2-*\uk№(Duk)\Ukt
где вертикальная черта обозначает сужение. Используя A3), мы
заключаем, что существуют такие точки xk £ Uk, в которых
(Du) (хк) > 2*, что противоречит ограниченности Du. Тем самым
неравенство A0) доказано.
Лемма 1.5. Пусть оператор D: £D(V)—*@)(V) удовлетворяет
(9) и UaV—произвольное открытое множество. Предположим,
что существуют такие константы С>0 и m£Z+, для которых
A4) || Du I < С || и |1Ш при всех и £2) (U).
Тогда существуют такие функции aa£$(V), что
A5) (Du) (х) = 2 я*(х) (CFu)(x)9 x£U, u^m(V).
Доказательство. Для любой точки a$V положим
Q«, а (х) = (хг—а$ь ...(*„ — ап)ап.
Так как это полином от (а*, ..., ап) с коэффициентами,
являющимися полиномами от (xit ..., хп), функция Ьа: а —> (DQa, a) (а)
принадлежит <£ (V). Пусть теперь и g SD (U) и a g V. Тогда функция
|a|<m
удовлетворяет равенствам (Daf) (а) = 0 при | а | ^ т. Используя
лемму 1.3 и ее доказательство, аппроксимируем / в полунорме
\-\т функциями gv, совпадающими с / вне некоторой окрестности
Nv точки а и аннулирующимися вблизи а. Из (9) и (8) вытекает,
что Dgv аннулируется вблизи а. Используя теперь A4) для
функций uv = f—gv, заключаем, что Duv(a)—*0, т. е. (D/)(a) = 0.
Это означает, что
(Du)(a)= £ -±-(D«u)(a)(DQa,a)(a).
|a|<m
Отсюда получаем A5), если положить a!aa = ba.
Теперь мы можем доказать теорему 1.4. Пусть UaV открытое
подмножество, U компактно и UaV. Применяя A0) к каждой
точке из £/, получаем конечное покрытие U открытыми
относительно компактными множествами Ulf ..., U ГУ а также точки

270 Гл. 11. Инвариантные дифференциальные операторы
аг^ии ..., ar£Ur и константы С > 0, /n£Z+, такие что при
любом i A ^t'O)
A6) I|z>«|0<C||«l
для и£@)(У/\{fl/}). Пусть 1 = 2 Ф/—разбиение единицы,
подчиненное покрытию Uit ..., i/r, V\U области V [ДС, с. 18]1).
Рассмотрим функцию и£3>(и\{(ц9 ..., аг}). Тогда
и=2 Ф/«=2 Ф/И
i 1
и неравенство A6) справедливо для каждой из функций ф^.
Используя A), мы получаем, что A6) справедливо также и для
самой функции и (с другой константой С). Из леммы тогда
следует, что A5) имеет место при x£U, хфаи ..., аг. Но тогда,
в силу непрерывности обеих частей, равенство A5) справедливо
при всех x$U. Теорема 1.4 тем самым доказана.
§ 2. Дифференциальные операторы на многообразиях
1. Определение. Пространства @){М) и & (М)
Пусть М—многообразие. Основываясь на теореме 1.4,
определим дифференциальный оператор D на М как линейное
отображение пространства С~ (М) в себя, не увеличивающее носитель:
supp(D/)csupp(/), /€C?(Af).
Если (£/, ф)—локальная система координат на М, то отображение
A) D»: F —(D(Fo<p))o<p-»f F€Cc-(<p(l/))
удовлетворяет предположениям теоремы 1.4. Используя равенство
G) из § 1, мы для любого открытого относительно компактного
множества W (для которого WaU) получаем конечный набор
функций аа^С°° (W), таких что
B) о/=2мо«(/оф-ч)оФ, fec?(W).
а
Таким образом, приведенное выше определение дифференциального
оператора совпадает с обычным. Так же как и для открытых
множеств в Rn (см. (8) в § 1), мы можем продолжить
дифференциальный оператор на всё пространство С°° (М).
i} См. также Дубровин и др. [1979, с. 469].— Прим. перев9

§ 2. Дифференциальные операторы на многообразиях 271
Мы применяем также обозначения Шварца
S>(M) = C;(M), £(М) = С°°(М).
Если КаМ — произвольный компакт, то через £DK(M) обозначаем
множество функций из 3>(М), носитель которых содержится в/С.
Для удобства предположим, что М обладает счетной базой
открытых множеств.
Снабдим теперь пространство £ (М) топологией.
2. Топология пространств @)(М) и £(М).
Распределения
Если VcRm—открытое множество, то £ (V) снабжается
топологией посредством полунорм ||/||£ (см. B) в § 1), где С пробегает
совокупность всех компактных подмножеств в V, a k пробегает Z+.
Если (U, ф)—локальная система координат на М, то это дает
нам топологию на £(U), обладающую тем свойством, что
последовательность {/„} из £ (U) сходится к нулю в том и только том
случае, если для любого дифференциального оператора D на V
последовательность Dfn сходится к нулю равномерно на
компактах из U. В частности, топология на £ (U) не зависит от выбора
системы координат.
Теперь пространство £ (М) снабжается слабейшей из
топологий, в которых все отображения f —+f\U непрерывны. Здесь |
обозначает сужение, a (U, ф) пробегает множество всех локальных
систем координат на М. В силу предположения о счетности мы
можем ограничиться рассмотрением лишь карт из некоторого
счетного семейства (Uf, фу), /=1, 2, ... . Так как каждое из
пространств £ (Uj) является пространством Фреше, мы получаем,
что £ (М)—также пространство Фреше. Последовательность {/„}
из £ (М) стремится к нулю тогда и только тогда, когда для
любого дифференциального оператора D на М последовательность
Dfn стремится к нулю равномерно на компактах из М.
Представляя М в виде объединения возрастающей последовательности
компактов, мы видим, что @)(М) плотно в £(М). Отметим также,
что любой дифференциальный оператор на М автоматически
является непрерывным эндоморфизмом пространства £ (УИ).
Для любого компакта КаМ пространство @)К(М) снабжается
индуцированной из £ (М) топологией. Оно является замкнутым
подпространством в £ (М) и, следовательно, пространством Фреше.
Линейный функционал Г на S (М) называется распределением,
если для любого компакта КаМ сужение Т на <2)К(М)
непрерывно. Множество всех распределений на М обозначается @)' (М).

272 Гл. //. Инвариантные дифференциальные операторы
Мы часто будем использовать обозначение J / (m) dT (m) вместо
м
Т (/)D.
Снабдим теперь пространство @> (М) топологией индуктивного
предела пространств @)К(М), фундаментальную систему
окрестностей нуля в которой образуют все такие выпуклые множества
W, что для любого компакта КсМ множество W(]^>К(М)
является окрестностью нуля в @)К(М). При этом распределениями
на М являются в точности все линейные функционалы Т на
@)(М), непрерывные относительно введенной топологии.
Действительно, если г > 0, то Т (Вг @)) является выпуклым множеством,
содержащим 0, поэтому требование непрерывности Т равносильно
определению распределения. Таким образом, &)' (М) является
просто сопряженным пространством к @>(М). Аналогичное
рассуждение показывает, что любой дифференциальный оператор
определяет непрерывный эндоморфизм пространства ®(УИ).
Говорят, что распределение Т равно нулю (или аннулируется)
на открытом множестве VczM, если Т,(/) = 0для любой функции
f(t@>(V) (с@)(М)). Пусть {Ua}a€А— семейство всех открытых
множеств, на которых Т равно нулю, a U — их объединение.
Тогда Т равно нулю на с/. В самом деле, если f€@>(U), то
supp(/) можно покрыть конечным набором множеств £/а, скажем
Ulf ..., Ur. Тогда {f/i, ..., Ur, M\supp (/)} —покрытие М.
r+l г
Если 1 = 2 Ф/—соответствующее разбиение единицы, то / = 2 Ф/f»
т. е. T(f) = 0. Дополнение M\U к U называется носителем Т.
Пусть $' (М)—множество распределений на М с компактным
носителем. Мы сейчас докажем, что это множество может быть
отождествлено с сопряженным пространством к £(М).
Предложение 2.1. Сужение функционалов с $ (М) на &)(М)
является биекцией сопряженного пространства к £ (М) на <S' (M).
Доказательство. Пусть х—линейный непрерывный
функционал на $(М), а Т—его сужение на £D(M). Так как
функционал Т непрерывен на каждом из пространств @)К(М), он
является распределением. Кроме того, из тгфх2 следует, что
ТгфТ2, поскольку &)(М) плотно в £(М). Докажем теперь, что
носитель Т компактен. Рассмотрим для этого такую последова-
1} Во избежание недоразумений читателю следует обратить внимание на
•следующее обстоятельство: автор использует обозначение \ f (m) dT (m),
напоминающее о том, что распределения являются обобщениями мер, в то время как
более принята символическая запись типа \ f (m) T (m) dm, в которой
распределение трактуется как обобщение функции.— Прим. перев.

§ 2. Дифференциальные операторы на многообразиях 273
тельность /Ci<z/C2c... компактов в М, что любой компакт KczM
содержится в некотором /С/. Если бы supp(T') не был
компактным, то мы могли бы найти такие функции ф,€<£(А1), чтоф,. = 0
на К if но Т(<р{)=*1 (i=l, 2, ...)• Тогда бы ф^ —*0 в <£(Л4),что
противоречит условию непрерывности Т.
Для доказательства сюръективности отображения т—>Т
рассмотрим какое-нибудь распределение S с компактным носителем.
Фиксируем такую функцию ф£^>(Л1), что фЕ=1 в окрестности
supp(S). Отображение /—*ф/ непрерывно в & (М). Следовательно,
мы можем определить непрерывный линейный функционал а на
&(М) следующим образом:
C) *(/)«S(<p/), f£e(M).
Он не зависит от выбора ф, поскольку если щ£@)(М) и Ф1==1
в окрестности supp(S), то
5(фЛ-5(ф/)«5((Ф1-ф)/)-0.
Последнее равенстю следует из того, что
supp ((Фх—ф) /)cM\supp (S).
Аналогичное рассуждение показывает, что S совпадает с сужением
о на @)(М).
3. Действие отображений. Сопряженный оператор
Пусть Е(М)—множество всех дифференциальных операторов
на М. Если f$£(M)y D^E(M), то значение (Df)(p) функции
Df в точке р будет иногда обозначаться Dp(f(p)). Композиция
дифференциальных операторов Dt и D2 будет обычно обозначаться
через Dt о D2.
Рассмотрим многообразия М и N и дифференцируемое
отображение ф: M—+N. Дифференциал ф в точке р$М (отображающий
Мр в #ф(р)) обозначается йур. Если ф—диффеоморфизм Л1 на JV
и f£S>(N), #€<£(#), Т£Я>'(М), D£E(M), то положим
D) йГ'-ЯГоф, T*if) = T(f*-l)t DHg) = (D(^'1))\
Тогда gv^efW), T«€@>'(N), a D*—дифференциальный
оператор на N, называемый образом D относительно ф. Предположим,
что ф—диффеоморфизм М на себя. Оператор D называется
инвариантным относительно ф, если Оф = 0, т. е. если
Dg = (D(go<p))o<p-*
при всех g£$ (M).
Сопряженный D* к оператору D$E(M) определяется как
оператор на &>' (М), транспонированный к D:
E) (D*7) (/) = Т (Df), / £ S> (М), Т £ S>' (М).

274 Гл. 11. Инвариантные дифференциальные операторы
Мера |л на многообразии М называется эквивалентной мере
Лебега, если на любой координатной окрестности в
многообразии М эта мера отличается от меры Лебега нигде не
обращающимся в нуль Сомножителем. Пространство <§ (М) вкладывается
в Й)'(М) с помощью меры \i, если каждой функции g^S(M)
сопоставить распределение на М:
М
Таким образом, корректно определено сужение D*\£(M). Кроме
того, D* как оператор на ЗУ (М) не увеличивает носители, так
что если {Xi, ..., хт} — система координат в открытом множестве
U и g£@>(U), то распределение D*g определяется своим
сужением на 3) (£/). Однако если мы вычислим в этих локальных
координатах обычный сопряженный оператор D' к D в £/, то
получим
F) $ (D'g) (х) f (x) <t|i (x) = $ * (х) (Df) (x) dii(x), f 6 S> (U),
и и
так что распределение D*g совпадает в (/ с функцией D'g. Это
показывает, что D* отображает £ (М) в себя и является
дифференциальным оператором. Заметим, что, хотя определение
сопряженного оператора D* на функциях зависит от меры \i, оно не
использует ориентации многообразия М.
Если теперь Е£Е(М), Т£@)'(М), то определим ЕТ$
€^>'(УИ) так:
(ET)(f) = T(E*f) при f£S>(M).
Если распределение Т является функцией g, т. е. T(f) = ^ fgd\i,
то формула F) показывает, что ЕТ совпадает с функцией Eg.
Пусть т—диффеоморфизм М, сохраняющий меру \i. Тогда
(Е*)х = (£т)», (ЕТу = Е*Т*
при Е£Е(М) и Т£@)'(М).
4. Оператор Лапласа — Бельтрами
На каждом псевдоримановом многообразии М существует
дифференциальный оператор, предс!авляющий особый интерес —
так называемый оператор Лапласа—Бельтрами, который мы
сейчас определим. Пусть g—псевдориманова структура на М
и ф: q—t-ixxfa), ..., xm(q)) — система координат в открытом
множестве UcM. Определим,, как обычно, функции gi/9 gijt, g на U

§ 2. Дифференциальные операторы на многообразиях 275
с помощью равенств
i = |det(gr/7)|.
Вместо g мы будем часто писать <,>, продолжая эту форму по
билинейности на комплексные векторные поля.
Каждая С°°-функция / на М порождает векторное поле grad/
(градиент /), которое определяется равенством
G) <grad/, X> = Xf
для любого векторного поля X. В локальных координатах в U
получаем
(8) grad / = £ fiW^E-,
где dtf^idfdxdf.
С другой стороны, если X—векторное поле на М, то
дивергенция X—это функция на М, которая в U определяется
равенством
(9) divX = -7L-£a,(/^X/),
* & i
если Х=*2Х1(д/дх,) на U. Для того чтобы убедиться в кор-
i
ректности определения div X (т. е. в независимости от выбора
локальных координат), переформулируем его в терминах рима-
новой меры. Пусть 9 (Л) — производная Ли вдоль поля X
(определенная в [ДС, гл. I, упр. В]г)). Мы будем использовать
некоторые ее свойства, установленные в [ДС].
Лемма 2.2. Пусть U связно и (Оц—дифференциальная форма
на U, определяемая по формуле
A0) (%= у g dx1 A • • • Л dxn.
Тогда
A1) 9(X)(D£/ = (divX)o)(/.
Доказательство. Так как 9(Х) коммутирует с внешним
дифференцированием d, имеем
0 (X) dx( = dQ (X) xt = dXxt = dX( = 2 (<W dx;.
x> См. также Арнольд [1974, с. 168J или Кобаяси, Номидзу [1963, с. 36].—
Прим, перев.

276 Гл. 11. Инвариантные дифференциальные операторы
Поскольку 0(Х) является дифференцированием грассмановой
алгебры над U', получаем
ew(|/!"dxiA "'Adxm) = x(^)dXiA'^ /\dxm
+ уТ2Жл ... Л (S (дД,) Лг) д ...ЛЛг.,
где скобки в правой части стоят в /-м сомножителе. Отсюда
следует, что правая часть равна
Сравнив последнее выражение с (9), получаем утверждение леммы.
Пусть теперь {уи ..., ут}— другая система координат в U.
Положим
h = \ det (hif)\.
Тогда
P. <7
Если через У обозначить матрицу Якоби:
j = d(xl9 ...,хя)
д(уи ..., у»)'
то получим равенство
ft = |dety|2g.
С другой стороны, справедливо равенство (см. [ДС, п. 3 § 2 гл. I])
dx±f\... Adxm = detJdy1A • • • Л dym.
Следовательно, при det J > О справедливо равенство
h1/2dyiA ... Adyu^g^dx1A- .- Adxm.
Таким образом, соотношение A1) показывает, что правая часть
в формуле (9) одинакова во всех системах координат в £/, у
которых положителен якобиан det J относительно исходных
координат [хи ..., хт}. Однако правая часть (9) очевидным образом
инвариантна относительно замены координат {xit х2, ..., хт\ —*
—► {х2, хи •••» хт\- Тем самым она инвариантна относительно
произвольных замен координат. Итак, div X является корректно
определенной функцией на М (без обычного предположения об
ориентируемости).

§ 2. Дифференциальные операторы на многообразиях 277
Замечание. Другое оправдание определения div X вытекает
из леммы 2.5.
Теперь оператор Лапласа — Бельтрами L на М определяется
следующим образом:
A2) L/ = div grad/, f&£(M).
В локальных координатах получаем
A3) • L/=pW20»B>*yTaA
Таким образом, L является дифференциальным оператором на AL
Предложение 2.3. Пусть М — псевдориманово многообразие и
L—оператор Лапласа—Бельтрами на М. Тогда L симметри-
чеНу т. е.
\ u(x)(Lv)(x)dx=\ (Lu)(x)v(x)dx, u£@)(M)t v££(M),
м м
где dx—риманова мера на М.
Доказательство. Пусть X—произвольное векторное поле
на М. Тогда из определений (8) и (9) получаем
A4) div (иХ) = и div X + Хи9
A5) (grad и) v = (grad v) и = <grad и, grad v>.
Следовательно,
u-Lv—v-Lu = div (иgradv) — (grad v) и — div (vgrad u) + (gradu) v,
так что
uLv—vLu = div (u grad v—ygrad u).
Поэтому достаточно доказать, что для любого векторного поля
X на Mt аннулирующегося вне некоторого компакта,
справедливо равенство
A6) J (divX)dx = 0.
м
Хотя это может быть выведено из вышеприведенного равенства
A1) (см. также равенство B) в § 1 гл. I и Хелгасон [1978>
упр. ВЗ гл. I]), мы можем поступить более непосредственно
следующим образом. С помощью разбиения единицы сведем
рассмотрение к случаю, когда X аннулируется вне некоторой коорди-

278 Гл. II. Инвариантные дифференциальные операторы
натной окрестности U. Полагая X = J^ ^/"лтг на ^» получаем
с
J (divX)dx=№di(-/Jxi)dxi...dxm = Ot
м с
что доказывает равенство A6), а вместе с ним и наше
предложение.
В связи с равенствами A4) и A5) отметим простое тождество
< 17) L (uv) = и (Lv) + 2 <grad и, grad v> + v (Lu),
доказательство которого предоставляем читателю. Докажем,
далее, инвариантность лапласиана. Если (£/, ф)—локальная карта
на М и f€$(M), то будем часто обозначать сложную функцию
f о ф-* через /*.
Предложение 2.4. Пусть Ф—диффеоморфизм псевдориманова
многообразия М. Тогда Ф сохраняет оператор Лапласа—Бель-
трами L в том и только том случае, если Ф—изометрия.
Доказательство. Пусть р£М и (V, г|?)—локальная
карта в окрестности точки р. Тогда (Ф(У), -фоФ-1) является
локальной картой в окрестности Ф(р). Если xgV, то положим
у = Ф(х), Ъ(*) = (*и •••.*«) (^€V),
(фоФ-1)(у) = (й) .... у.) (у€ФA0).
Тогда
Для любой функции f££(M) имеем
A8)
(i9) (^-^-pO-S^fL^w/Tw^^}
' 8 W k \ i J
В силу выбора координат получаем
df* =d(fo<D)* d*f* =d*(fo®)* 1<
% a*/ ' 5y/ <fyy d*/ d*/ ' -^ » / -^ •
Если теперь Ф—изометрия, то gi/(x) = gij(y) при всех /, /'.
Таким образом, правые части A8) и A9) совпадают и, тем самым,
LP—L. С другой стороны, если A8) и A9) совпадают, то
приравниванием коэффициентов мы получаем равенства gtJ {x)=gij(yO
показывающие, что Ф является изометрией.

§ 2. Дифференциальные операторы на многообразиях 279
Оператор Лапласа — Бельтрами был определен выше в
терминах псевдоримановой структуры на М. Опишем его теперь более
непосредственно с помощью римановой связности V (см. § 9 гл. I
в [ДС]").
Лемма 2.5. Если X—векторное поле на Ми р£М, то
(div Х)р равняется следу эндоморфизма v—*\V(X) пространства
Мр.
Доказательство. Пусть {xlt ..., хт}> как и в
лемме 2.2,—система координат в окрестности точки р. Обозначая
эндоморфизм V—+ VV(X) пространства Мр через DXt мы в силу
результатов § 5 гл. I [ДС] получаем
B0) tr (Dx) = £ ГЩ + £ XfTi,\ "
если X = ^iXi (д/дх(). С другой стороны,
i
div X = 2 dJC' + 2 dj (ln-j/T) X/, ,
так что достаточно доказать равенство
Bi) ay(in/F)=2rf/.
Формула для V из Кобаяси, Номидзу [1963, с. 156] может быть
записана в виде
B2) 2 2 guTllk = д/8ш + dkgiJ-dig/k.
С другой стороны, если GtJ — алгебраическое дополнение элемента
gjt в определителе go = det(giJ)t то мы получаем
B3) Gv^g*»-
Применяя к g0 правило дифференцирования определителей, имеем
и I 1.1
Теперь из B2) следует, что
B5) d*tetf)=2<r'tts>« + iv„).
1} Или Кобаяси, Номидзу [1963, § 2 гл. IV]. — Прим. перев.
2) Здесь Т)к— символы Кристоффеля (см. Кобаяси, Номидзу [1963, §2
гл. IV]). — Прим. перев.

280 Гл. //. Инвариантные дифференциальные операторы
в силу чего правая часть B4) превращается в
Так как g = |g0|> отсюда вытекает равенство B1) и утверждение
леммы.
Предложение 2.6. В произвольной системе координат
оператор Лапласа—Бельтрами задается формулой
B6) ^-SWW-SiWY
iff \ k J
Доказательство. В силу леммы 2.5 и равенства B0)
B7) Ц = 3 [а, B ёПdtf) + 2 B g" dtf) Ц, ].
Дифференцируя тождество 2^//ё>л==^ и используя B5), мы вы-
/
водим соотношение
B8) dt {gfn = - 2 W+?№)•
Производя дифференцирование в B7) и используя B8), получаем
требуемый результат.
Рассмотрим теперь случай риманова многообразия (т. е.
положительно-определенной формы g). Тогда
<grad/, grad7> = 2g/y'W/>0.
а
Назовем риманово многообразие М просто выпуклым, если
любые две точки М соединяются единственной геодезической.
Любая точка в произвольном римановом многообразии обладает
открытой окрестностью, которая в индуцированной римановой
структуре является просто выпуклой (см. [ДС, гл. I, теор. 9.9]).
Теорема 2.7. Пусть М — аналитическое просто выпуклое
риманово многообразие и р£М. Для любого числа с£С
существует такая сфера SR(p) с центром в точке р, что если
Lw=cu при и£&(М) и и = 0 на SR(p),
то
и = 0 на М.
Замечание. Пример функции u(t) = s\nht на R,
удовлетворяющей уравнению Lu = —№и, демонстрирует, что радиус R
зависит от с. С другой стороны, приводимое ниже доказательство
показывает, что при заданном собственном значении с годятся
все достаточно малые значения R.

§ 2. Дифференциальные операторы на многообразиях 281
Доказательство. Пусть N0—нормальная окрестность
нуля в Мр [ДС, § 6 гл. I], SR@)cN0—сфера внутри N0 с
центром в точке 0 и BR@)—соответствующий открытый шар. Положим
SR = Exp, (SR @)), BR = Exp, (BR @)).
При u£<£>(BR) введем норму
||ы|| = Ы | и (x) \2dx + J <gradtt, gradu>(x) dxV 2.
lBR BR J
Рассмотрим функцию и££(М), обращающуюся в нуль на SR.
Докажем, что для любого е>0 существует функция Ф 6® (£#),.
такая что
B9) ||и_ф||<8.
Рассмотрим для этого геодезические полярные координаты
@Ь ..., 9,л) (где ®т = г) в окрестности точки р (см. Хелгасон
[1978, с. 543]1}). Пусть 6>0 мало и аб—четная функция из
& (R), удовлетворяющая следующим условиям:
1. аб=1 на [0, R — 46];
2. аб = 0 на [R — б, R];
3. К|<8-*;
4. |а5|<1.
Рассмотрим функцию a(x)=a6(d(p> х)) из &(BR), где d—
расстояние в М. Докажем, что функция ф = аи удовлетворяет
условию B9) при достаточно малом б. Так как
grad и = 2^(^H; ('-6J
и поскольку
д , ч , л. ди . да
ж((ш-и) = (а-1)-35Г + -3дГ«,
достаточно доказать, что
C0) С 1-^-ыГс(л;-+0 при б — О.
BR
Однако если g(r, Qit ..., 9e_i) = |det(gv)|, то мы получаем
R-6
^|-g-«|2^<-^- J dr $|и|»£*/»я, ... dee_t.
Яд Я - 46 @)
*>Или Кобаяси, Номидзу [1963, с. 158]. —Ярил, перев.

282 Гл. //. Инвариантные дифференциальные операторы
Теперь, используя равенство w = 0 на SRf имеем
\и(г, е, в-01'«К|> <1ар1ШаР-
Следовательно,
R
\и(г,ви ...,9Л_1I2<45 J ЦгГ* ПРИ /?-46<г</?.
Таким образом, если D = max|dw/d/?|a на BR, мы получаем
неравенство
J |-^a|2dx<16DVolB6),
где VolB6)—объем «слоя» /?—46 ^d(/?, x)^.R— б. Отсюда
следует C0), а тем самым также и B9).
Выберем теперь ортонормированный базис в касательном
пространстве Мр. Пусть {xif ..., хт] —соответствующая система
нормальных координат в окрестности точки р и ф€^(/?#) —
вещественная функция. Применяя неравенство Шварца к интегралу
Ф(*)= $ @/Ф)(*1. •••> t» •••> *J
d*
и интегрируя затем по BRf получаем неравенство Пуанкаре
C1) $ |ф(*)|2^...4хл<4#? J %{dj4>ydxt...dxm.
br '
Пусть теперь
cR=* inf g/7(*)> d/? = sup |g"(*)|.
t, xgbl
1Ф1
xeBE
eR = sup £*/»(*), fR= ini £*/«(*).
xeBL
xeBr
Тогда
*• / t 1Ф i
>«*-<«-i>«w£(U-)'.

§ 2. Дифференциальные операторы на многообразиях 283
Предположим, что R настолько мало, что cR—(п—l)dR>0»
Тогда, в силу C1), получаем1*
J M*)|2d*<e*4#3 J 2(d#)*dxt...dxM
br l
^4eRR*(cR-(n-l)dR)-* J ^giH9/9)(d/9)dxi...dxm
*R BR '
BRt.l
<4*Rf]?R*(cR-(n-l)dR)-* J ^gVidMid/tidx.
Таким образом, при малом R > 0 и любой вещественной функции
<p£@)(BR) имеем
C2) J | ф (х) |2 dx < gR4R* J <grad ф, grad ф> dx9
BR BR
где gR—константа, зависящая только от римановой структуры
на М, и ^->1 при R —*0.
Для окончания доказательства теоремы 2.7 предположим, что
Lu = cu, где eg С и и = 0 на SR. Пусть <р, ф(Е^(Я/?)- В силу
соотношения A7) имеем
L (ф-ф) = ф/д|э + 2 <grad ф, grad г|)> + 1|?/лр.
Интегрируя по В# и используя A6) и предложение 2.3,
получаем равенство
j <pLi|>dx =— J <gradq>, grad i|?> dx.
BR BR
Используя B9), мы можем с помощью аппроксимации функции и
получить соотношение
J uLtydx=— J <gradw, graded*.
BR BR
Но тогда, в силу равенства Lu = cu, справедливо соотношение
с J utydx=— ^ <gradw, gvadtyydx.
BR BR
Если теперь, в соответствии с B9), выбрать г|э—>и, то получим
C3) с J \u\2dx=— J <gradw, gradw>d*.
Отсюда следует вещественность с (иначе м = 0 на BR). Поэтому
можно считать функцию и вещественной. Еще раз применяя B9)>
*> Напомним, что dx = g1/2 dxt ... dxm. — Прим. перев.

284 Гл. II. Инвариантные дифференциальные операторы
мы можем заменить в неравенстве C2) функцию ф на и. Но если
£#D#2)(—с) < 1, то мы заключаем на основании C3), что и = 0
на В#. Поскольку оператор L имеет аналитические коэффициенты
и эллиптичен, его собственные функции аналитичны (см.,
например, Джон [1955]1}). Следовательно, w = 0 и теорема доказана.
Замечание. Из доказательства ясно, что при с = 0 можно
выбрать R произвольным образом.
§ 3. Геометрические операции
над дифференциальными операторами
1. Проекции дифференциальных операторов
Пусть V—некоторое риманово многообразие и
D—дифференциальный оператор на V. Мы определим сейчас для
произвольного подмногообразия SaV проекцию D на S.
Для каждой точки s£S рассмотрим геодезические в V,
выходящие из s перпендикулярно к S. Если мы возьмем достаточно
короткие отрезки этих геодезических, то их объединение
образует некоторое подмногообразие S^ в V. Для того, чтобы
выразить это более точно в терминах экспоненциального отображения
Ехр5 на V (см. [ДС, § 6 гл. I]), рассмотрим сферическую
нормальную окрестность V @) начала координат 0 в касательном
пространстве Vs. Пусть VS = SS®S'S—ортогональное разложение.
Положим S^- = Exp5(l/@)nSs). Зафиксируем точку s0£S. Сужая
при необходимости S$-9 мы можем предполагать, что при
изменении s в подходящей окрестности S0 точки s0 в S многообразия
S/- не пересекаются и заполняют некоторую окрестность V0
(трубчатую окрестность) точки s0 в V-
A) У0= U Sj-.
ses0
Для заданной функции F £&) (S) определим функцию F на V0,
полагая ее постоянной на каждом из многообразий SJ- и равной
F на S0. По заданному дифференциальному оператору D на V
определим оператор D' на S>(S) следующим образом:
B) (O'F)(s0) = (DF)(s0).
Так как F — из С", правая часть этого равенства имеет смысл.
Поскольку D не увеличивает носители, правая часть не зависит
от выбора S0 и V0, если только справедливо гладкое
дизъюнктное разложение A). Таким образом, D'F—корректно определен-
*> Или Трев [1984, с* 312].—Прим, перге.

§ 3. Геометрические операции над дифференциальными операторами 285
ная функция на S. Если мы слегка пошевелим точку s0, то
разложение A) останется пригодным и правая часть будет гладко
меняться с s0, т. е. D'F является С°°-функцией на S. Ясно также,
что линейное отображение F—>D'F не увеличивает носитель,
так что D' является дифференциальным оператором на Sx\ Нами
доказан следующий результат:
Предложение 3.1. Если D—дифференциальный оператор наУ,
то формулы A) и B) определяют некоторый дифференциальный
оператор D' на подмногообразии S.
Пример. Рассмотрим лапласиан L на R3. Пусть
S—единичная сфера х\ + xl + xl— 1. Если мы выразим L в сферических
координатах (г, 8, <р), то получим стандартную формулу
<3) L = o4 + TTr + 7?[W> + ciZQde + sm ?V0-
Понятно, что оператор в круглых скобках является проекцией
V оператора L [на S. Хорошо известен тот факт (обобщаемый
нами ниже), что V—это оператор Лапласа—Бельтрами на S.
Теорема 3.2. Пусть V—риманово многообразие, SaV—его
подмногообразие, Lv и Ls—соответствующие операторы
Лапласа— Бельтрами. Тогда Ls совпадает с проекцией Lv на S:
L'y = Ls.
Доказательство. Используем даваемое предложением 2.6
координатное представление оператора Lv. Пусть s0 —
произвольная точка S. Выберем в соответствии с A) локальные
координаты fa, ..., хп) в окрестности точки s0 в V так, чтобы
выполнялись следующие условия:
(i) отображение s—^(x1(s)9 ..., xr(s), 0, ...,0) является
локальной системой координат в окрестности точки s0 в S;
(ii) для любой точки s£St достаточно близкой к s0, и любых
констант ar+i, ..., ап (не все из которых равны нулю) кривая
D) / — (^(s), ...f Xr(s)t ar+itt ..., aj)
является геодезической в V, начинающейся в точке s и
перпендикулярной к S.
При выписывании равенства B) в этой системе координат
удобно выбрать следующие области изменения индексов:
1^*', /, &<>", г+1<а, р, т<п.
L) Называемым проекцией оператора D на подмногообразие Si—Прим,
перев»

286 Гл. II. Инвариантные дифференциальные операторы
Геодезическая D) удовлетворяет дифференциальным уравнениям
dbi , v Г< ^ff^fi —о
1 < pt q<n
В точке s они сводятся к уравнениям
o+2riM+o=o,
а, 3
поэтому (так как в силу равенства B2) из § 2 символы
Кристоффеля Г^р симметричны по а и р, а числа аа и ар произвольны)
мы получаем равенства
E) r^(s) = 0.
Поскольку данная геодезическая перпендикулярна к S в точке s,
справедливы равенства
F) &аE) = 0, g'a(s) = 0.
Если функции F и F связаны так, как это было сказано выше,
мы имеем
G) (LVF) (s0) = (LVF) (8.) = 2 g»< (dpdqF-^ Пя <МЧ (s0).
P. Q \ t J
По определению, F постоянна по последним п—г переменным.
В силу этого и равенств E) и F), правая часть G) приводится
к виду
(8) 2^7(М^-2г?/^)Eо).
i, j k
Однако F = F на S и ввиду B2) из § 2 символы Кристоффеля
Г£у на S являются сужениями на S соответствующих символов
на V. Поэтому выражение (8) совпадает с (LsF)(s0), так что
теорема доказана.
2. Трансверсальные части и разделение переменных
в дифференциальных операторах
Пусть V—многообразие, удовлетворяющее второй аксиоме
счетности и Н—некоторая группа Ли его преобразований. Если
v£V, то пусть Hv — подгруппа в Я, оставляющая точку v
неподвижной. Как обычно, образ точки v под действием элемента
h£H будет обозначаться через h-v. Пусть ^ — алгебра Ли
группы Н. Для вектора X £ I) обозначим через Х+ индуцированное
им векторное поле на V, т. е.
(*+Я(«) = {|/(ехр/*•»)},_0, »€V, /€tf(V).

§ 3. Геометрические операции над дифференциальными операторами 287
Функция / класса С" на открытом подмножестве V называется
локально-инвариантной, если X+f = 0 для любого Х$1).
Напомним, что подмногообразие ВаН называется локальным сечением
над открытым множеством UczH/Hv, если естественное
отображение я: H—+H/Hv при сужении на В порождает
диффеоморфизм В на U.
Лемма3.3. Пусть W—такое подмногообразие]/\ что при любом
w £ W касательные пространства в точке w удовлетворяют
следующему условию трансверсальности:
(9) VW*=(H- w)w + Ww {сумма прямая).
Зафиксируем w0£W. Тогда существуют открытая относительно
компактная окрестность W0 точки w0 в W и относительно
компактное подмногообразие В в Я, образующее локальное
сечение в точке е над открытой окрестностью U0 точки eHwo
е H/Hwo, такие что отображение
т|: F, w)—+b-w
является диффеоморфизмом BxW0 на открытую окрестность
точки w0 в V.
Доказательство. Пусть Ij0—алгебра Ли группы Hwo и
ncf)—такое подпространство, что f) = ]fH + n (сумма прямая). Если
п0—достаточно малая окрестность нуля в п, то ехр п0 является
локальным сечением в Н над окрестностью точки eHw<> в H/Hwo
(см. [ДС, лемма 4.1 в гл. II]). Таким образом, достаточно
доказать, что отображение (р: (X, w)—»expX-w из nxW в V
регулярно в точке @, w0). Так как
(Лр)е.«в>@, И^0) = ^0,
остается проверить, что
(Ю) Ар«..^(п, 0) = (Я.шв)а)о.
Отображение h—*h-w0 переводит Н на орбиту H-w0. Его
дифференциал отображает I) на касательное пространство (H-w0)Wo,
имеет ядро, равное \f и потому определяет биекцию п на (H.w0)w\
Тем самым равенство A0) и лемма доказаны.
Пусть теперь V обладает римановой структурой g,
инвариантной относительно действия группы Н. Предположим, далее, что
все орбиты Н имеют одинаковую размерность. (Даже если это
предположение не выполнено для У, оно может выполняться для
подходящего открытого подмногообразия; рассмотрите, например,
действие группы О (п) на Rn.) Пусть CL— дифференциальный
оператор на V. Мы сопоставим ему новый дифференциальный
оператор DT на V, действие которого «трансверсально к орбитам».

288 Гл. II. Инвариантные дифференциальные операторы
Пусть s0£V и S—орбита H-s0. Построим многообразия S£-
при s£S так же, как и раньше. Сужая при необходимости
многообразие SJ-, можно предполагать, что оно удовлетворяет
приведенному выше условию трансверсальности (9) для W. Положим
w0 = s0 и выберем W0cS± так же, как и в лемме. Заключение
леммы означает, что дизъюнктное объединение U Bw является
weWQ
окрестностью V0 точки s0 в V. Пусть f£<g(V). Рассмотрим
сужение этой функции на W0, которое затем продолжим до функции
fSo на V0 по правилу
(И) fSo(b-w)=f(w), ьев, w$w0.
Определим теперь оператор DT следующим образом:
A2) (DTf)(s0) = (DfSo)(s0).
Поскольку fSo—гладкая функция вблизи s0, правая часть имеет
смысл. Кроме того, поскольку Bw является окрестностью
точки w в орбите H-w (по соображениям размерности), способ
построения В несуществен. Таким образом, DTf является
корректно определенной С°*-функцией на V. Если /
аннулируется на открытом подмножестве UczV, то это же имеет
место и для DTf. Следовательно, отображение / —> DTf не
увеличивает носители, т. е. DT—дифференциальный оператор. Он
называется трансвереальной частью D. Если D = DTt то оператор D
называется трансве реальным.
Замечая теперь, что (/5оMо = /5о, мы ПРИ ф€^ 00 получаем
A2') (уЕТ)Т = <рЕТ.
Действительно,
((ф£г)г /) (s0) = (ф£г) (fSo) (s0) = Ф (s0) (ETfSo) (s0)
= Ф («о) (EfsJ (so) = Ф (So) (ETf) (S0) = (q>ETf) (s0).
Докажем теперь глобальную формулу «разделения
переменных» для произвольного дифференциального оператора Е на V.
Теорема 3.4. Пусть Н—состоящая из изометрий группа Ли
преобразований риманова многообразия V. Предполагается, что
все орбиты—одинаковой размерности. Пусть Xif ..., Xt—базис
алгебры Ли 1} группы Н и Yt = X^ A<л^/)—соответствующие
индуцированные векторные поля на V. Тогда любой
дифференциальный оператор Е на V может быть записан в виде локально-
конечной суммы
A3) Е = ЕТ + 2Е{ПУь...У1п

§ 8. Геометрические операции над дифференциальными операторами 289
где ЕТ—трансверсальная часть Е и все операторы ЕЦ) ((/)
=(/i, ..., ir)) трансверсальны.
Замечание. Здесь «локальная конечность» означает, что
у каждой точки из V имеется окрестность, в которой все члены
A3), за исключением конечного числа, тождественно равны нулю.
Пример. Пусть V = R2 и Н—группа сдвигов Tt: (х, у)
—*(*> */+0> *£К- В этом случае операторы вида
2*1 (*. У)(д/дхУ
U)
являются трансверсальными, д/ду—векторное поле,
индуцированное Я и равенство A3) редуцируется к представлению
произвольного дифференциального оператора bR?b виде
2Bа0(х,у)(д/дхУ)(д/дУу.
Доказательство. Пусть s0£V и S, S/-, В, W0f V0
определены так же, как и выше. Пусть b—*(y1(b)t ..., yr(b)) —
произвольная система координат в В, у1(е)= ... =уг(е)^0 и
w—+(zr+i(w) zn(w))—такая система координат в W09 что
геодезическим в точке s0 соответствуют прямые линии,
проходящие через 0. Определим тогда на V0 следующую систему
координат {хи ..., хп}:
{x^b-w), ..., xr(b.w)9 xr+1(b-w) ХпФ-w))
= {У i Ф) У г Ф), zr+i (w), ... , zn (w)).
Для любой точки v£V0 вектор (d/dxt)v A<л<^г) касателен
к орбите H-v и, следовательно, является линейной комбинацией
векторов (Ki)v, ..., {Уi)v- Выберем среди них г
линейно-независимых (пусть это будут (YjX, ..., (Ylr)v) и представим (dldxt)v
в виде линейной комбинации
(Н) Шг£а»т¥^
где а£/(и) = 0 при /£ {jit ..., jr}. Так как векторы (Yfk)a
(l^k^r) остаются линейно-независимыми при значениях и,
близких к vy равенство A4) продолжается до соотношения между
векторными полями
dxJ:==z2^ai/^vY/>
справедливого в некоторой относительно компактной окрестности
Nv точки v, причем ai/tV являются С-функциями и ai/fV=0 при
Ю С. Хелгасон

290 Гл. II. Инвариантные дифференциальные операторы
i£{ii> •••» /Л- Окрестности Nv образуют покрытие V0. Мы мо-
00
жем выбрать счетное локально-конечное покрытие U Nт множе-
m=I
ства V0, такое что для любого т существует такое Nv(m), для
00
которого NmdNv(m) (см. [ДС, §§ 1, 15 гл. I]). Пусть 2ф„-
т= 1
соответствующее разбиение единицы. Тогда мы получаем наЛ^(от)
и, следовательно, на всём V0 равенство
Vm^ = J£dai/,v{m)q>mYj.
/
Суммируя по т, получаем на V0 равенство
A5) Jr = i>^ V<*<r),
где bi/^^aiftViat)(pa лежит в £(V0) B силу локальной конеч-
т
НОСТИ.
По определению мы имеем
A6) (E-£r)(tW(sb) = 0,
если только функция г|) удовлетворяет равенству
A7) ^{b-w) = ty{w)y b£B, w^W^.
Однако условие A7) эквивалентно просто локальной
инвариантности г|э на V0 (dim В = размерности орбит группы Я), так что
равенство A6) справедливо не только в точке s0:
A8) (E-ET)(q)(s) = 0
при всех s£V0, достаточно близких к s0. В наших локальных
координатах условие A7) эквивалентно следующему:
Ф(*1, •••> *J = ^@> •••> 0, хг+1, ..., хп).
Так как оператор Е — ЕТ аннулирует все такие функции,
каждый член в его координатном представлении должен содержать
некоторое дифференцирование dt (\ ^i ^r). Но тогда, в силу
A5), мы имеем в окрестности N0 точки s0 равенство
A9) Е-ЕТ = ЪЕ{У{9
где все Е{ — дифференциальные операторы в N0. Мы можем опять
образовать такое локально-конечное покрытие {Уа} множества V,
что соотношение A9) выполняется для каждого элемента этого

§ 3. Геометрические операции над дифференциальными операторами 291
покрытия. Пусть 1 = 2 ф« — разбиение единицы, подчиненное
данному покрытию. Тогда, в силу A9),
Фа£-(Фа£)г = 2ВД>
1
где Ef£E(Ua). Однако из A2') следует, что (фа£)г = фа£г, так
что после суммирования по а мы получаем соотношение
B0) Е—ET£E(V)t)+.
Здесь, как и ранее, E(V)—множество всех дифференциальных
операторов на V и t}+ — множество {Х+: Х£Щ векторных полей,
индуцированных группой Я. Теперь утверждение теоремы
получается итерированием соотношения B0).
Мы установим сейчас более явный вид разложения A3) в
случае, когда Е является оператором Лапласа — Бельтрами на V.
Теорема 3.5. Пусть V—риманово многообразие, Н—группа
Ли изометрий V. Предположим, что все орбиты имеют
одинаковую размерность. Рассмотрим произвольную Н-орбиту S и
сужение f на S некоторой функции f£<§(V). Тогда операторы
Лапласа — Бельтрами Ls на S и Lv наУ удовлетворяют равенству
B1) (Lvf)-=Ls(f) + ((Lv)Tf)-.
Замечание. Эта формула обобщает разложение C)
лапласиана в R3. В этом случае V = R3\{0}, H — группа вращений
О C), оператор (д2/дг2) + B/г) (д/дг) является трансверсальной
частью LR3, а оператор
представляет собой лапласиан на сфере Sr@).
Доказательство. Пусть s0£S. Будем пользоваться
обозначениями предыдущего доказательства. Поскольку группа Н
переставляет многообразия Sj- при разных s£S,
рассматриваемая система координат обладает свойствами (i) и (И) из
доказательства теоремы 3.2. Мы уже видели ранее, что если функция
'Фб^ЧУо) удовлетворяет условию
B2) ф(*ь ..., х„) = г|)@, ..., 0, xr+it ..., *„),
то
B3) -ф = г|Mо, г|) = const.
Поэтому
B4) ((Lv)Ty)(s0) = (Lvty)(s0), (L^)(s0) = 0.
10*

292 Гл. II. Инвариантные дифференциальные операторы
С другой стороны, если для <p££(V0) справедливо равенство
B6) <р(хи ..., xn) = <p(xlt ..., хп О, ..., 0),
то ф ф • w) = ф (Ь • s0) (w € W0)» а поскольку Н переставляет
различные S^ (s£S), то в некоторой окрестности точки s0
B6) Ф = (фГ, Ф*0 = const
(операция ~ определена перед предложением 3.1). Таким
образом, из теоремы 3.2 мы получаем
B7) (Lv4>) (s0) = (Ц,ф) (s0) = A5ф) (s0), ((Ly)r<P) (s0) = 0.
Далее, в силу равенства A7) из § 2 справедливо соотношение
B8) Lv (ф-ф) = ф!уг|) + 2g (grad ф, grad ty) + г|Iуф.
Так как д/ф = 0 (l^i^r) и да<р = 0 (r+l<Ia^Ai), из условия
ортогональности F) и формулы (8) § 2 для градиента мы видим,
что средний член в B8) равен нулю в точке s0. Однако в силу
B3) и B7) последний член в точке s0 равен Ls(yty)(s0).
Аналогично, используя B4), B6) и определение оператора (LV)T, мы
получаем, что первый член справа в B8) равен (£y)r(T^)(so) в
точке s0. Следовательно, при / = фг|э имеет место равенство
(Lvf)(s0) = Ls(T)(s0) + ((Lv)Tf)(sQ).
Известен тот простой факт (см. Шварц [1966, § 3 гл. IV]), что
конечные линейные комбинации функций вида фг|э (где ф
удовлетворяет условию B5), а г|э—условию B2)) плотны в $ (V0).
Теперь утверждение теоремы в полном объеме следует из
соображений непрерывности.
Замечание. Теорема 3.5 остается справедливой (с тем же
самым доказательством) и в случае псевдориманова многообразия
V, если только псевдориманова структура g невырожденна на S.
3. Радиальные части дифференциальных операторов.
Общая теория
Пусть опять V—многообразие, удовлетворяющее второй
аксиоме счетности, Н — некоторая группа Ли преобразований V и
I)—её алгебра Ли. Как и в лемме 3.3, предположим, что WczV —
подмногообразие, удовлетворяющее следующему условию:
B9) Vw = (Я • w)w + Ww (сумма прямая)
при любом w£V.
Теорема 3.6. Предположим, что выполнено условие B9). Пусть
D—дифференциальный оператор на V. Тогда существует единст-

§ 3. Геометрические операции над дифференциальными операторами 293
венный дифференциальный оператор Д(£) на W, такой что
C0) (D/)-«A(DO
для любой локально-инвариантной функции f на открытом
подмножестве V (чертой обозначено сужение на W).
Определение. Оператор Д(£) называется радиальной
частью D. Он очевидным образом связан с ранее определенной
трансверсальной частью.
Доказательство. Пусть w0£W. Выберем W0} В, V0 и г)
так же, как и в лемме 3.3. Рассмотрим функцию q>€$(W0) и
определим функцию / на V0 равенством f(b-w) = <p(w) при b£B,
w £ W0. Так как (for\) (b, w) = <p (w), справедливо включение
/€<£(Vo). Пусть X£l). В силу соображений размерности,
касательные пространства r\(Bxw)b.w и (H-w)b.w совпадают.
Следовательно, (X+f)(b-w) = 0t т. е. функция / локально-инвариантна.
Рассмотрим теперь линейное отображение
K0,wot в: £(W0)-+£(W0),
определяемое как ср—*(D/)~. Оно не увеличивает носители и,
следовательно, является дифференциальным оператором на WQ.
В силу приведенного выше замечания, множество Bw является
открытым подмногообразием орбиты Hw (w£W0). Поэтому, если
В'—другое локальное сечение с теми же свойствами, что и В
в лемме 3.3, мы имеем
Аш0, W0, Б = Да;о, W0, В'-
В силу этого мы можем для любой точки w0 £ W и любой
относительно компактной окрестности W0 точки w0 в W, для которой
существует некоторое В с указанными в лемме 3.3 свойствами,
определить ДШо, ц?0 = ДШо, Wo, в- Понятно, что если W и W"—две
таких окрестности, то
Д*., *' = Д*§. w на <§(W'[\W").
Но тогда мы можем определить линейный функционал на <§ (W)
Дш0 :<р->(Дш0 и^0(ф)Ж),
где выбор W0 несуществен. И наконец, определим отображение
A(D) следующим образом:
(Д(О)ф)К) = Д,0(ф), w0£W.
Тогда (Д (D) <pt) (иу0) = (Д (D)cp2)(w0), если функции ср* и ф2
совпадают вблизи точки w0. Кроме того, на подпространстве
£D(Wq)ci£ (W) оператор Д(£>) совпадает с дифференциальным
оператором AWot Wo, в- Таким образом, Д(£>) является дифферен-

294 Гл. II, Инвариантные дифференциальные операторы
циальным оператором на W. Viz его построения ясно, что он
обладает сформулированными в теореме свойствами. Этот
оператор A(D) называется радиальной частью оператора D.
Приведем теперь формулу для радиальной части A(LV)
лапласиана в случае, когда группа действует изометриями, а транс-
версальное подмногообразие W выбрано подходящим образом.
Пусть V — риманово многообразие, I (V)—его группа изомет-
рий, снабженная компактно-открытой топологией. Мы будем
предполагать известным следующий результат Майерза и Стин-
рода [1939] (см. также Кобаяси и Номидзу [1963, т. 1, гл. VI]):
группа / (V) обладает аналитической структурой, совместимой с
топологией, относительно которой I (V) является группой Ли
преобразований многообразия V. (Нас в основном интересует
случай симметрического пространства V, для которого прямое
доказательство приведено в [ДС, § 3 гл. IV]).
Пусть HcI(V)—замкнутая подгруппа. В индуцированной
топологии Я является группой Ли преобразований многообразия
V ([ДС, § 3 гл. IV]). Если v£V, то орбита Н-v является
замкнутым подмногообразием в V, группа изотропии Hv компактна,
а отображение hHv—+h-v является диффеоморфизмом H/Hv на
Hv (с топологией, индуцированной из V). Доказательства см.
в [ДС, § 2 гл. IV; теорема 3.2 и упражнение СЗ гл. II].
Введем теперь некоторую функцию б на V, называемую
функцией плотности, которая в некотором смысле измеряет
относительные «размеры» орбит Я. Рассмотрим точку v£V. Орбита
Hv наследует риманову структуру из V. Соответствующая ри-
манова мера dov, конечно, инвариантна относительно Я. С
другой стороны, если мы зафиксируем левоинвариантную меру
Хаара dh на Н и обозначим через dk единственную меру Хаара
на компактной группе Hv, нормированную условием ^dk=l, то
получим Я-инвариантную меру dh на HjHv по формуле
\f(h)dh= J ( I f(hk)dk\dii, f£Cc(H)
" h/hv\hv J
(см. теорему 1.9 гл. I и следующее за ней замечание). При
отождествлении Hv = H/Hv меры dav и dh должны быть, в силу
единственности, пропорциональными. Следовательно, существует
функция б (v) на V, которую мы называем функцией плотности,
такая что
C1) dov = 8(v)dh, v£V.
Пример. Для обычного действия группы 0(п) на Rn имеем
8(х) = с\х\п'19 x£Rn,
где с—некоторая константа.

§ S. Геометрические операции над дифференциальными операторами 295
Найдем теперь радиальную часть лапласиана на V в
предположении, что орбиты группы Н пересекают трансверсальное
подмногообразие ортогонально и ровно в одной точке.
Теорема 3.7. Пусть V—риманово многообразие и
Н—замкнутая унимодулярная подгруппа группы изометрий I (V).
Предположим, что подмногообразие WaV удовлетворяет следующему
условию трансверсальности: для любого w£W
C2) (H.w)f\W = {w}9 Vw = {H.w)w®Ww
{ортогональная прямая сумма). Тогда радиальная часть
оператора Lv задается формулой
C3) Д (LY) - 6-i/*L^o6i/2—6-v*Lw (б*/*),
где через о обозначена композиция дифференциальных операторов,
а б—функция плотности.
Мы увидим, что равенство C3) может быть также записано
в виде
C3') Д (Ly) = Lw + gracV (In б),
где через grader обозначен оператор градиента на многообразии W,
а векторное поле grader (In б) рассматривается как
дифференциальный оператор на W.
Доказательство. Положим V* = H-W. Отображение я:
(h, w)—+h-w из HxW на V* обладает дифференциалом,
удовлетворяющим соотношению
dn{h, w) (Hh X Ww) = dn{h, w) (Hh x {0}) + dnih, w) ({0} x Ww)
= (H • w)h.w + (dh)9 (W9) = (dh)w ((// • w)9 + W9).
В силу C2) или B9), последнее пространство совпадает с Vh-w
Это влечет открытость V* в V (см. [ДС, предл. 3.1 гл. I]).
Докажем теперь при F£g)(V*) равенство
C4) J F(v)dv=) 8(w)( J F(h.w)dh)dw,
V* W \Hw J
где dv и dw—римановы меры на V и W соответственно.
Рассмотрим для этого точку w0£W и выберем S, W0, V0 и rj со
свойствами, указанными в лемме 3.3. Если предположить, далее,
что Ъ-^{у1{Ь)у ..., уГ{Ь))—система координат на £, для
которой */i(e)= ... —уг(£) = 0, и что отображение w—+(zr+i(w), ...
..., zn (w)) является системой координат на W0, то мы получим
систему координат т = {х1У ..., хп} на V0, если положим
C5) (x^bw), ..., xr(b-w), xr+l(b-w)t ..., xn(b-w))
■=(М&)> •••> УгФ)> гг+1И, ..., zn(w)).

296 Гл. II. Инвариантные дифференциальные операторы
Выберем снова множества значений индексов следующим образом:
1 ^/, /, k^r> r+ 1 ^а, Р, у^п. Мы имеем следующие
координатные выражения для римановых мер:
dv^g^2dxi ... dxn9 dw = yll*dxr+i ... dxnf
где
C6) £= | det (gpqI<Pf q<n |, у -1 det gaP |.
В силу условия ортогональности из C2) имеем
C7) foW = 0 при w£W0.
Возьмем b£B. Поскольку отображение w—+b-w из W0 на b-W0
в координатах выглядит как
(xr+i> •••> хп) *\хг+и •••? хп)>
мы получаем, что
« *&&-(&-• .
С другой стороны, подмногообразие в V0, получаемое
фиксированием значений ха, лежит в орбите Я. Это влечет соотношение
C9) *(l5).-2«» (£)..•
где a/ygR. В силу равенств C7) и C8) имеем
ga&(b-w)=gat(w), g{a(b-w) = 0.
Следовательно, в силу C9),
D0) g(b.w) = \det(gi/)(b.w)\y(w).
Однако риманова мера dow на орбите H-w в координатах имеет
вид
dow = \det(gif)(b.w)\l/*dXi...dxr(b.w),
поэтому мы получаем из D0) при F££Z)(V0) равенство
\F(v)dv=ly^(w)( J F(p)dow(p)\dxr+i...dxn(w).
V W \H'W J
Если теперь использовать определение C1) функции б, то
получается формула C4) для F^S>(V0). Однако тогда эта формула
верна и для F£@)(h-V0) при любом h£H. Но множества h-V9
(h£H) при до0, пробегающем W, образуют покрытие К*.
Переходя к локально-конечному измельчению и соответствующему
разбиению единицы, устанавливаем справедливость C4) в общем
случае.

§ 3. Геометрические операции над дифференциальными операторами 297
Пусть f£@)(V*) и функция f£@)(W) определена следующим
образом:
D1) ?И= S f(h-w)dh.
H-w
Отображение /—>/ сюръективно. Действительно, пусть F£3)(W)
и СсгИР—компактное подмножество, вне которого функция F
равна нулю. Пусть С — такое компактное подмножество в V*, что
(Hw)(]C=0 при w(£C и для любого w£C мера (относительно
dow) множества (H-w)[\C положительна. Можно взять,
например, С = СИ-С, где Сн—некоторая компактная окрестность
единицы е в Н. Рассмотрим такую функцию /i€®(K*), что /i^O
на V* и fi > 0 на С. Тогда /х > 0 на С и функция
/ Aл = ( ^i (<0 (f ИУ/i при и € Я • ю, w € С,
' \ 0 в противном случае
принадлежит пространству £D(V*) и удовлетворяет равенству
f = F. Тем самым доказана сюръективность:
D2) &(y*)9=&>(W).
Так как векторные поля d/dx{(l^i^r) касательны к орбитам
группы Я, мы получаем на V0i так же как и в A5),
соотношение
D3) sftS W. ьи**<У»)-
Применим теперь данное в предложении 2.6 координатное
представление оператора Lv. Комбинируя его с C7) и D3), выводим:
D4) A(Lv) = Lw-{-члены меньшего порядка.
С другой стороны, в силу симметричности оператора Лапласа —
Бельтрами (предложение 2.3), мы имеем при fl9 /а€®(^*)
D5) $ (LVU)(v)U(v)*>=lft(v)(Lvf2)(v)dv.
V* V*
Но тогда это соотношение имеет место и при всех f2€4>(y*)-
Пусть, в частности, функция /2 инвариантна относительно Н.
Тогда, в силу соотношения C4), левая часть в D5) равна
D6) J б(w)h(w)( S (Lvh)(h -w)dh)dw.
W \Hw J

298 Гл. II. Инвариантные дифференциальные операторы
Однако группа Hv компактна при любом v£V, так что
внутренний интеграл может быть записан в виде
D7) \(LYfd(h.w)dh.
н
По тем же соображениям (так как оператор Lv является Я-ин-
вариантным)
D8) (Lv^^hih^dh^liLyf^ih^dh.
В силу унимодулярности группы Н, функция v—+\f1(hv)dh
н
является Я-инвариантной, т. е. с учетом D8) выражение D7)
совпадает с (A(L7)/x) (до), а левая часть D5) приводится к виду
^(A(Lv)f1)(w)l(w)8(w)dw.
w
Теперь с использованием C4), Я-инвариантности Lvf2 и
определения &(LV) правая часть D5) преобразуется в
yf1(w)^(Lv)T2)(w)8(w)dw.
w
В соответствии с D2) функции вида Д (а также /2) заполняют
всё пространство S)(W)t поэтому совпадение последних двух
выражений означает симметричность оператора k(Lv) относительно
меры 8(w)dw. Так как оператор Lw симметричен относительно
dw (предложение 2.3), оператор 8~^2LW о б1/2 симметричен
относительно 8(w)dw (и, конечно, совпадает с Lw с точностью до
младших членов). Поэтому, в силу D4), разность
k(Lv)—8-v*Lwo8i/\
являющаяся симметричным относительно б (до) dw оператором,
имеет порядок, не превышающий единицы. Однако
дифференциальные операторы первого порядка не бывают симметричными
(см. упр. А 7), т. е. указанная разность на самом деле является
функцией. Теперь требуемая формула получается применением
операторов к функции, тождественно равной единице.
Замечание 1. С использованием равенств G) и A7) из § 2
и формулы
26-1/2 grad (fii/2) = б-i grad (б) = grad (in б)
выражение для радиальной части может быть записано в виде
D9) A {LY) = LW + gradr (In б).

§3. Геометрические операции над дифференциальными операторами 299
Здесь векторное поле gra<V(ln6) рассматривается как
дифференциальный оператор на W.
Замечание 2. Теорема 3.7 остается справедливой и в
случае псевдориманова многообразия V, если только выполнены
следующие два условия:
(i) для любой точки w£W орбита H-w замкнута и
псевдориманова структура g невырожденна на ней и на W\
(ii) для каждой точки w£W группа Hw компактна.
Действительно, в силу условия (i) орбита H-w
локально-компактна и потому гомеоморфна H/Hw (см. Хелгасон [1978, теор.
3.2 гл. I]). Из (ii) следует, что группа Hv компактна при любом
v£V*. Поэтому не требуется никаких изменений в доказательстве.
(Общая формула C3) для радиальной части доказана Хелга-
соном [1972 а, Ь]. В этих работах также содержатся другие
варианты условий (ослабляется требование компактности в (ii)).)
4. Примеры радиальных частей
Применим теперь теорему 3.7 для определения радиальной
части оператора Лапласа — Бельтрами в различных примерах.
(i) Группа О(п), действующая на евклидовом пространстве R"
Пусть V = Rn, H = 0{n) — ортогональная группа, действующая
на Rn. Тогда подмногообразие № = R+\{0} (положительная
вещественная полуось х)) удовлетворяет условию C2) теоремы.
Следовательно, мы заключаем (так как $(х) = с\х\п~1), что
E0) Д (LRn) = г-*1'2) <»-!>^ о rw* Oi-d —r-u/t)<»-D |L (/4i/D<»-i>).
Это выражение может быть преобразовано к хорошо известному
(см. D9)):
а /г \ ^2 rt—\ d
А О*») = -23 + —37-
Заметим, что только при /г = 3 исчезает последнее слагаемое в
E0) и формула принимает следующий вид:
В этом случае радиальная 2) функция / (х) = F (| х |) является
собственной функцией оператора L&n тогда и только тогда,
когда функция rF (г)—собственная для d2/dr2. Таким образом, f(x) —
элементарная функция.
1) Рассматриваемая, например, как координатная полуось. ^Прим. перев.
2> То есть сферически симметричная. -^Прим. перев.

300 Гл. II. Инвариантные дифференциальные операторы
Более общо, функция
E1) J **<*.«>cto
является радиальной собственной функцией для LRn в Rn,
соответствующей собственному значению—к2. Здесь (л:,
со)—скалярное произведение, a do — риманова мера на сфере. Если X £К,
то функция E1) отличается постоянным множителем от
где /v—функция Бесселя порядка v. Таким образом, формула
F1) дает объяснение тому классическому факту, что Jx/%
(r)—элементарная функция.
(и) Группа N, действующая на симметрическом пространстве
X = G/K
Пусть, как обычно, G = KAN—разложение Ивасавы связной
полупростой группы Ли G с конечным центром. Положим в
теореме 3.7 V = G//C и Я = Л/. Используем обозначения из § 5 гл. I.
Тогда подмногообразие A-ocV удовлетворяет условию C2) в
силу единственности разложения Ивасавы ([ДС, теор. 5.1 гл. VI])
и ортогональности N -о J_ А-о (Хелгасон [1978], упр. В 2 гл. VI]),
из которой следует ортогональность N-(a-o) J_ А-о.
Используя следствия 5.2 и 5.3 из гл. I, получаем
S / WdSK = \e-*o<■<**>(\ f (naK)dn)da.
G/K A \N J
Сравнивая с C4), заключаем, что
E2) 8(a.o)=e-2P<logfl>, а£Л,
Теперь из теоремы 3,7 получаем следующий результат.
Предложение 3.8. Если N действует на симметрическом
пространстве X = G/K, то радиальная часть лапласиана для трансвер-
сального подмногообразия А-о задается равенством
E3) Д {Lx) = e<>LA о е-*-<р, р>.
Здесь LA—лапласиан на А-о, а через еР обозначена функция
ePOoga) т Д.0л
Замечание. Можно сравнить эту формулу с радиальной
частью LRn для случая, когда группа Rn~k действует на R"
сдвигами. При этом ортогональное дополнение R* служит трансвер-
сальным подмногообразием и из C3) (или непосредственно под-

§ 3. Геометрические операции над дифференциальными операторами 301
счетом) мы получаем, что A(Lr/*) = Lr*. Это соответствует тому
случаю, когда в формуле E3) полагается р = 0.
(Hi) Группа К> действующая на X = G/K
Будем опять следовать обозначениям § 5 гл. I для
симметрического пространства X = G//C. Проверим, что многообразие А+-о
удовлетворяет двум условиям трансверсальности из C2), если
роль группы Н играет /С. Первое условие гарантируется
свойствами полярных координат (kM, a)—+kaK. Для проверки
условия ортогональности
E4) (G/K)a.o = (A + .o)a.o®(Ka.o)a.0, a£A +
выберем элемент Т$1 и рассмотрим кривую t—+exptTa-o в
орбите Ка-о. Так как
exp tTa-o = a exp Ad (a) tT-o,
касательный вектор к этой кривой при / = 0 равен dx (a) dn (Ad
(а'^Т). (Здесь х(а)—отображение сдвига gK—+agK и я:
G—+G/K—естественная проекция.) Однако при
Н£а(а—касательное пространство к А+-о) мы имеем
<(h(a)dn(Ad(а~1)Т), dx(a)Hy
= (l(Ad(a^)T-0Ad(a^)T), #)=0,
откуда и следует E4).
Предложение 3.9. Для действия группы К на X = G/K с транс-
версальным многообразием Л+«о радиальная часть оператора Lx
вычисляется по формуле
E5) b(Lx) = LA+ 2 ma(ctha)Aa.
GC62 +
Здесь вектор Аа £ а, как обычно, определяется с помощью
равенства <Ла, #> = а (//)(#£ а), а в равенстве E5) он
рассматривается как дифференциальный оператор на А+о.
Используя теорему 5.8 из гл. I, находим, что при любом
Н € а справедливо равенство
E6) ЯAпб)= S ma(ctha)cc(#).
a€S+
Если #i, ..., Ht—ортонормированный базис в а, то из D9)
и E6) получаем
A(^) = ^ + 2^(ln6)^.
i
z=z^a+ 2 та cth a2 a (Ht) Ht.
aeS+ i

302 Гл. //. Инвариантные дифференциальные операторы
Однако 2а(^/) Н/ = 2<^а> HiyHi = Aa, т. е. равенство E5) до-
i i
казано.
В случае комплексной группы G радиальная часть может
быть приведена к лучшему виду.
Предложение 3.10. Пусть G—комплексная полупростая группа
Ли. Для действия группы К на X — G/K с трансверсальным
многообразием А+-о радиальная часть оператора Lx вычисляется
по формуле
E7) Д (Lx) = 6-1/2 (La _ <Pf p>) 0 6i/2>
где
8^(а)= 2 (dets)es^oeaK
Это—непосредственное следствие теоремы 5.8 гл. I.
Достаточно вспомнить, что каждый корень ag2+ в данном случае
имеет кратность 2 и использовать формулу
П (еа—е'а)= 2 (dets)*«\
ос€2+ stW
которая следует из предложения 5.15 гл. I для системы корней
{2a: a62}.
Замечание. Рассмотрим, как в § 4 гл. I, гиперболическое
пространство Х = Нп с римановой структурой
E8) ds2 = d/-2 + (shrJda2,
где da2 — риманова структура на единичной сфере касательного
пространства Х0. Радиальная часть лапласиана относительно
действия группы изотропии точки о равна (см. B3) в § 4 гл. I)
E9) A(Lr)e^- + (/i_l)cthr-|r-
Рассматривая Нп как симметрическое пространство О0(п, 1)/О0(п)
(нижний индекс обозначает связную компоненту единицы), мы
можем снабдить его канонической римановой структурой
(задаваемой формой Киллинга), которая в силу неприводимости
отличается лишь постоянным множителем от E8). Таким образом,
равенство E9) следует из общей формулы E5). Мы можем также
записать E9) в следующем виде:
F0) A(Ly) = sh-u/,><n-1)r [ JJL о sh^n.Ur-di^a2rUr)].
По аналогии с тем, что происходило в Rn (см. (i)), случай я = 3
особенно прост. Член нулевого порядка в F0) в этом случае

§3. Геометрические операции над дифференциальными операторами 303
сводится к константе и радиальная часть приводится к виду
A(L^) = sh-*r(^1-l)oshr.
Отсюда, как и в случае R", следует, что в размерности 3
радиальные собственные функции оператора Lx являются
элементарными. В то время, как для R3 мы не имели содержательного
объяснения этому факту (см., однако, предложение 3.13 в
случае G = SLB, С), K = SUB))f предложение 3.10 дает такое
объяснение в случае Н3: если я = 3, то группа Лоренца О0(п, 1)
обладает комплексной структурой. Действительно, она локально
изоморфна группе SL B, С) (см. [ДС, § 2 гл. V]).
(iv) Группа Ки действующая на компактном симметрическом
пространстве U/Ki
Рассмотрим теперь односвязное компактное симметрическое
пространство U/Kt из теоремы 5.11 гл. I. Для действия Kt
ортогональным трансверсальным подмногообразием, к которому
применима теорема 3.7, может служить ExpQ0 = expQ0o.
(Ортогональность доказывается так же, как равенство E4).) Риманова
структура на U/Kx индуцируется формой В* = —В, где В — форма
Киллинга алгебры gG, суженная на и. Пусть С* = т+. Если
ag2—корень, то положим a, = (l//)a и 2*={a!i:: a£2}, 2J =
= {a*: ag2 + }. Для o^gS* определим элемент Хёа* так, чтобы
В* (Л*, #) = а*(#). Назовем элементы а* корнями алгебры ц
относительно а*. Корни из 2?—это корни, положительные на
камере Вейля С*. Мы можем предполагать, что многогранник Q0
выбран внутри С*. На ExpQ0 функция плотности с точностью
до постоянного множителя равна
F1) 6,(Ехр#)= П (sillMtf))-*.
a* 6 Si"
Предложение 3.11. Пусть /d действует на односвязном сим-
метрическом пространстве U/Ki с трансверсальным
многообразием ExpQ0. Тогда радиальная часть лапласиана Lu/Kt
вычисляется по формуле
F2) Л (Lu/кг) = LA^+ 2 "*a ctg а*Ла+,
где La4—лапласиан на плоском многообразии А*-о.
Доказательство полностью аналогично доказательству
равенства E5). Действительно, если #$а*, то
Н (In6,) = 2 ™а (ctg <**) а# (Я),

304 Гл. //. Инвариантные дифференциальные операторы
l
а Ла# = 2 а* Wi) Но гАе Hi> • • • у Hi — некоторый ортонормиро-
ванный относительно формы Вш базис в а».
(v) Компактная односвязная полупростая группа Ли £/,
действующая на себе сопряжениями
Эта ситуация является частным случаем рассматриваемой в
предложении 3.11, поэтому радиальная часть может быть найдена
по формуле F2). Однако проще применить теорему 5.13 из
главы I. Будем использовать обозначения, введенные перед этой
теоремой.
Пусть риманова структура на U определяется формой Вш,
отличающейся знаком от формы Киллинга на и. Положим снова
а«(#) = AД')а(//) при //gt0, а£Д. Пусть C0c:t0—камера Вейля,
содержащая Р0 и
Д+= {<*.: a,(C0)cR+}.
Положим Р* = "9- У\ а«- Пусть |р*|—норма р« в метрике 5*.
а*€А +
Тогда при / = ехр#, Н£Р0 мы имеем
6 (/)!/«= П 2 sin Ч!±Ш.
а*€Д+ г
Однако, используя предложение 5.15 гл. I, мы находим, что это
выражение приводится к виду
F3) 6 (/)!/*= 2 (dets)^*<">.
seW
Предложение 3.12. При действии группы U на себе con ряже-
ниями с трансверсальным многообразием ехр Р0 радиальная часть
лапласиана Lv вычисляется по формуле
где LT—лапласиан на Т.
Это—следствие теоремы 3.7, если только принять во
внимание равенство F3).
(vi) Присоединенное действие группы К на $
Здесь мы находимся в ситуации теоремы 5.17 гл. I для
симметрического пространства X = G/K- Камера Вейля а+ может
служить ортогональным трансверсальным многообразием.
Действительно, если #0€<х+, то в силу равенства B1) из § 5 гл. I
касательное пространство к /(-орбите К-Н0 задается равенством
[I, #0] = [f, Я0], т. е. ортогонально к а относительно формулы
Киллинга на р. Таким образом, если использовать упомянутую
теорему, мы получим следующий результат:

§ <?. Геометрические операции над дифференциальными операторами 305
Предложение 3.13. При присоединенном действии группы К
на р с трансверсальным многообразием а+ радиальная часть лап-
ласиана L$ равна
A(Lv)=La+ £ та±Аа,
(Х€2 +
где L0 — лапласиан на а.
В случае комплексной группы G эта формула может быть
также записана в виде
Д A^) = л"^Л о я,
где я = Ц а.
В самом деле, плотность в данном случае пропорциональна
JJ а(Н)тх, так что первая из приведенных формул следует из
<Х€2 +
D9). Вторая же является следствием равенств C3) и
F4) Мл) = 0.
Последнее равенство проверяется следующим образом. Если а —
простой корень, то отражение sa переставляет точки множества
2+\{а}, т. е. л5* =—л. Отсюда следует, что л является косо-
симметрическим полиномом, т. е. ns = (dets)n при s£W. Так
как оператор LQ инвариантен относительно группы Вейля,
полином La(n) также кососимметричен. Для каждого отражения sa
(agS+) из соотношения (L0n)s* = —L0n следует, что L0n
аннулируется на плоскости а = 0. Таким образом, полином L0n делится
на а. Так как положительные корни взаимно просты (как
полиномы), L0n делится на л. Отсюда следует равенство F4).
(vii) Присоединенное действие комплексной полупростой группы
Ли G на своей алгебре Ли g
Пусть I) —произвольная картановская подалгебра в g и f)'c
el)—множество регулярных элементов. Обозначим через Д
множество корней g относительно I) и рассмотрим соответствующее
разложение на корневые подпространства g = f) + 2 9a (см- [ДС,
а€А *
гл. III]). Если ^6д, то касательным пространством в точке X
к орбите GX является [д, X]. Поэтому из приведенного
разложения на корневые подпространства следует, что
подмногообразие f)'c:g удовлетворяет условию B9) трансверсальности.
Форма Киллинга < , > на g невырожденна как на д, так и
на I), поэтому мы можем с ее помощью отождествить
пространства g и | с их сопряженными д* и I)* соответственно. Пусть
р—полиномиальная функция на д (соотв. I)). Обозначим через
д(р) дифференциальный оператор с постоянными коэффициентами

306 Гл. II. Инвариантные дифференциальные операторы
на g (соотв. 1)), отвечающий р при указанном выше
отождествлении г).
Пусть /—функция на g и /—ее сужение на § (или Ij').
Положим о)(Х) = <Х, Ху при ^€g- Определим теперь радиальную
часть «комплексного лапласиана» д(со).
При а^Д обозначим через На вектор из I),
удовлетворяющий равенству <Яа, #> = а(#) при всех #£f). Тогда
пространство IJr = 2 ^^а является подмножеством в I), на котором все
(Х€Д
корни принимают вещественные значения. Зафиксируем камеру
Вейля 1)+с=^к и будем называть положительными те корни а,
для которых aft+)cR+.
Предложение 3.14. Для присоединенного действия группы G на
g с трансвереальным многообразием Ij' радиальная часть
оператора д (со) вычисляется по формуле
Д E (о)) = п~хд (со) о л,
где л—произведение положительных корней.
Доказательство. Поскольку мы имеем дело с
комплексной ситуацией и поскольку группы изотропии некомпактны,
теорема 3.7 не может быть применена непосредственно. Изберем
поэтому более прямой подход.
Выберем такие элементы Xa£ga (а^Д), что <Ха, Х_а>=1.
Тогда [Ха, Х_а] = На (см. [ДС, форм. C) § 4 гл. III]). Так как
<Xa, Xq> = 0 при а, Р^Д, а + р=^=0, мы получаем
F5) д((о) = дИ+ 2*a*-a.
<Х€Д
Пусть теперь Н gl)' и функция / аналитична и
локально-инвариантна в окрестности точки Н в g. Тогдз при а^Д и
достаточно малых s и t имеем
f(ea*(sX« + tx-«)H) = f(H).
Записывая это равенство в виде f(H + X(s> /)) = /(//), получаем
в силу формулы Тейлора
<66> L-^r^8' t)nt)(H)=f(H)-
n=0
Х) Разъясним это подробнее. С помощью отождествления q с д* мы можем
перенести полином р на g*. После этого полагаем
(д {р) f) W=-B^ I el <K x> p (X) J (X) dK
9*
где <h, х>— спаривание элементов A,gg* и х£д, а f (k) — преобразование Фурье
функции / на §.^Прим. перев.

§ 3. Геометрические операции над дифференциальными операторами 307
Соберем здесь коэффициенты при st. Так как
X(s9 t) = [sXa+tX_ay H] + -L[sXa+tX_a>[sXa + tX_atH]]+...,
ненулевой вклад вносят только члены F6) сп<2;
X(st t) дает коэффициент у[*-а> [*а, #]]+у[*а, [*-<*> Щ]\
yX(s, /J дает коэффициент [Ха, Н] [Х_а, Я].
Отсюда видно, что [(а (ЯJ ХаХ_а—а (Я) #а) /] (Я) = 0. Поэтому,
в силу F5), имеем
F7) Д(д((о)) = д((о) + 2 2 «"^а-
а > 0
С другой стороны, в силу равенств A5) и A7) § 2
(справедливых также и в псевдоримановом случае), получаем
F8) п~хд (со) (nf) = д (со) / + я (д (со) я) / + 2 (grad (In я)) (/).
Однако
grad (In я) = 2 grad (In a) = 2 а'г^а*
а > 0 а > 0
И наконец, по аналогии с F4) имеем д((о)я=0. Теперь наше
предложение следует из равенств F7) и F8).
(viii) Лапласианы на X и на р
Вернемся к вышеприведенному примеру (ш). Рассмотрим
диффеоморфизм Ехр: У —-* (ехр У) К касательного пространства рх)
на симметрическое пространство G/K. Обозначим через J
отношение соответствующих элементов объема, т. е.
J f(x)dx=lf(ExpX)J(X)dX при /€CC(G//C).
G/K »
Тогда (см. Хелгасон [1978], теор. 4.1 гл. IV]2))
F9) '<*>-«((*£*),).
где индекс обозначает сужение на р.
Теорема 3.15. Пусть Lx и L» — операторы Лапласа—Бельт-
рами на X и р соответственно. Тогда образ (Lx)Exv~l
оператора Lx относительно отображения Ехр (см. § 2) удовлетво-
1) В точке о — {еК).— Прим. перге.
?> Или Хелгасон [1984]. Данная формула может быть выведена читателем
из теоремы 4.1 гл. IV [ДС]. — Прим. перев.

308 Гл. II. Инвариантные дифференциальные операторы
ряет соотношению
G0) L|xp_1F = (L„ + grad (In J)) F
для любой К-инвариантной С°°-функции F на р. Эта формула
может быть также записана в виде
G1) L\xp~lF = {J-^L)oJii*)F—J-^Lt(J^)F.
Доказательство. Пусть б—функция плотности для
действия группы К на X, а б0—для её действия на р. Достаточно
проверить приведенное соотношение на а. При Н £а функции б
и б0 могут быть выписаны в виде
б(ЕхрЯ)= П (sha(#))*a, б0(Я)= П «(#)*«,
причем J = 6/60. Если теперь / = F о Ехр", то
{LT'lF) (Н) = (Lxf) (Exp H) = (A (Lx) f) (Exp H).
В силу теоремы 3.7 последнее выражение равно
(8'1/2LA о б*/2) f—8-v*LA (б*/*) f
в точке Exp H. С другой стороны, сужение правой части
равенства G1) на а равно
У-*/*[(бо^ о 6J'2)(Ji/2F)-(8o^L0(8l<*)) Ji/*F]
- J-1/2 [(б0-^Л О б!/2) (Jl/2) F-8olt2La (б^2) (J1/2F)].
Так как второе и четвертое слагаемые пропадают, мы получаем
G1). Теперь формула G0) следует из равенства A7) § 2.
§ 4. Инвариантные дифференциальные операторы
на группах Ли и однородных пространствах
1. Вводные замечания. Примеры. Постановка задач
Пусть М—многообразие и q>: М—*М—его диффеоморфизм
на себя. Как и ранее, полагаем
/ф^/оф-* для f££(M).
Если D—дифференциальный оператор на Му определим
оператор Оф следующим образом:
D<p: / -* (D/ф-у = (D (/ о Ф)) о ф-\ / £ё (М).
В силу определения из § 2, оператор £ф также является
дифференциальным. Оператор D называется инвариантным относи-

§ 4. Инвариантные дифференциальные операторы на группах Ли 309
тельно <р, если D^ = Dt т. е. D(f о ф) = (£/) о ф для любой
функции /. Отметим равенство (D/)(p=Dq>f4>, оправдывающее введенное
обозначение.
Пусть Т—распределение на М. Обозначим через Тф
распределение Гф(/) = Г(/ф-1), f£S>(M).
Поскольку мы хотим воспользоваться преимуществами,
даваемыми инвариантностью, обратимся теперь к дифференциальным
операторам, инвариантным относительно какой-либо транзитивной
группы диффеоморфизмов. Пусть G—группа Ли,
HclG—замкнутая подгруппа, G/H—многообразие левых классов смежности gH
(ggG) и D(G/H)—алгебра всех дифференциальных операторов
на G/H, инвариантных относительно всех преобразований G/H
вида x(g): xH—*gxH. Вместо D(G/{e}) будем писать D(G).
Алгебра D(G/H) будет играть центральную роль в оставшейся
части книги.
Напомним вкратце понятие представления. Пусть L—локально-
компактная группа, V—топологическое векторное пространство
и Aut(V)—группа линейных гомеоморфизмов пространства V на
себя. Представление л группы L в пространстве V—это такой
гомоморфизм L в Aut(K), что отображение (/, v) —+n(l)v из
LxV в V непрерывно. Представление я называется
неприводимым (или топологически неприводимым), если {0} и V являются
единственными замкнутыми подпространствами в V,
инвариантными относительно jt(L).
Перечислим теперь некоторые задачи, которые естественно
возникают в связи с инвариантными дифференциальными
операторами на G/H. Они были поставлены на Международном
конгрессе в Ницце в 1970 г. С тех пор в решении этих задач был
достигнут значительный прогресс. В частности, для
симметрических пространств G/K задачи А—D (см. ниже) решены полностью.
A. Алгебра D(G/H). Описать алгебру D(G/H) в терминах
алгебр Ли групп G и Н.
Информацию об этой задаче можно найти в предложении 4.11
и упражнениях A3, С1, С2, СЗ и С5.
B. Разрешимость. Пусть дан оператор D£D(G/H).
Является ли уравнение Du = f глобально (соотв. локально)
разрешимым при любой функции f££(G/H)? В этом случае будем
называть оператор D глобально-разрешимым (соотв.
локально-разрешимым).
C. Общие собственные функции. Описать все функции
на G/Hy являющиеся собственными для любого оператора D из
D(G/H). Аналогичную задачу можно рассмотреть и для
обобщенных собственных функций.

310 Гл. П. Инвариантные дифференциальные операторы
D. Представления в собственных подпространствах.
Пусть |л: D(G/H)—+C—некоторый гомоморфизм. Через £и
обозначим соответствующее общее собственное подпространство, т. е.
E»={f$£{GlH): Df = ix(D)f для всех D£D(G/H)}.
Пусть Тд—естественное представление группы G в этом
собственном подпространстве, т. е.
(r»(g)f)(xH) = f(g-lxH)y g, x<tG,
при / g Е^. Для каких \х это представление в собственном
подпространстве Тд неприводимо, и какие представления группы G
могут быть получены таким образом?
Замкнутое подпространство E^czS (G/H) снабжается
индуцированной топологией. Определение топологии в пространстве
S(G/H) (§ 2, п. 2) показывает, что Т^ действительно является
представлением.
E. Глобальные свойства решений. Какие геометрические
свойства (функциональные уравнения, теоремы о среднем
значении, поведение на бесконечности) имеются у решений
инвариантных дифференциальных уравнений? Естественно ожидать, что
локальный характер дифференциального оператора D^D(G/H)
вкупе с его G-инвариантностью приводит к глобальным
ограничениям на решения.
Эти задачи будут обсуждены в данной, а также следующей
нашей книге. Теперь проиллюстрируем их на простых примерах.
Мы приведем здесь некоторые результаты из других работ и
сформулируем в частных случаях теоремы, доказываемые позже.
Примеры, (i) Евклидово пространство. Рассмотрим R" как
однородное пространство относительно всех сдвигов. В этом
случае D(Rn) состоит из всех дифференциальных операторов,
имеющих в стандартной координатной системе в R" постоянные
коэффициенты. Действительно, оператор d/dxt инвариантен
относительно сдвигов, поэтому из условия инвариантности вытекает,
что все коэффициенты дифференциального оператора должны
быть инвариантными относительно сдвигов и, следовательно,
постоянными.
Задача В имеет в этом случае положительное решение:
каждый оператор D£D(Rn) отображает пространство <§(Rn) на себя
(Эренпрайс [1954], Мальгранж [1955]). Таким образом, в случае
R" мы приходим к следующему результату:
Теорема 4.1. (а) Алгебра D(Rn) состоит из
дифференциальных операторов с постоянными коэффициентами в R71.
(Ь) Каждый оператор D£D(Rn) глобально-разрешим.

g 4. Инвариантные дифференциальные операторы на группах Ли 311
(с) Общими собственными функциями являются экспоненты.
Представления в собственных подпространствах одномерны и,
следовательно, неприводимы.
По поводу пространства R2, рассматриваемого как однородное
пространство AfB)/0B) отсылаем читателя к теоремам 2.1 и
2.6 введения.
(И) Группа Пуанкаре. Рассмотрим R4 как однородное
пространство G/H, где Я—связная компонента единицы 0ОA, 3) в
группе Лоренца, a G порождена Я и всеми сдвигами (группа
Пуанкаре). Тогда алгебра D(G/H) порождена даламбертианом
П=д\-д1-д\-д1
(см. упр. A3).
Хорошо известна роль, которую даламбертиан играет при
изучении электромагнитных явлений. Однако физический смысл
группы Лоренца становится более явным в специальной теории
относительности Эйнштейна, где она получает чисто
механическую интерпретацию.
(Hi) Группа Гейзенберга N. Пусть N— группа матриц вида
1 Xi х3
О 1 х2
О 0 1
G =
*€1
с очевидной структурой группы Ли. Дифференциальный оператор
на N
инвариантен относительно всех левых сдвигов La: о—>ахз на N.^
Чтобы убедиться в этом, заметим, что при соответствии
а—*(хь х2, х8), а—>(ях, а2, а3)
мы имеем
аа —+(ai + Xi, a2 + x2f az + x3 + axx2).
Таким образом,
[Е (/ о La)] (a) = (dj) (аа) + i (dj) (аа) + iax (dj) (аа) + ixx (dj) (аа)
и
[Ef] (аа) = (dj) (аа) + i (dj) (аа) + i (a, + хг) (dj) (аа).
Это доказывает требуемую инвариантность.
Хотя оператор £, в силу левой инвариантности,
представляется естественным аналогом оператора с постоянными
коэффициентами в R", мы увидим, что он не является
локально-разрешимым ци в каком открытом подмножестве Q<zN*

312 Гл. II. Инвариантные дифференциальные операторы
Теорема 4.2. Для любого открытого подмножества QcAf
Неразрешимость Е (или, точнее, оператора di + id%—2i(Xi +
+ ix2)d8) была доказана Леви [1957]. Позднее Хёрмандер нашел
общее необходимое условие локальной разрешимости, которое
для операторов первого порядка может быть описано следующим
образом. Заменив dt в выражении дифференциального оператора
переменной £,, мы получаем полином от переменных £i, ..., £„,
называемый символом оператора. Символ оператора Е,
обозначаемый Е(х, Ъ), равен
It + Иш + ^1?з-
В соответствии с теоремой Хёрмандера ([1963, гл. VI]), в
частном случае операторов первого порядка справедливо следующее
утверждение:
Из разрешимости £tf (Q):d£>(Q), следует, что
B) [I, Е](х, Е) = 0, если только Е(х, £) = 0, x^Qt l£R3.
Здесь Е—оператор, полученный комплексным сопряжением
коэффициентов Е. Простое вычисление показывает, что [Е, Ё\ (х, £) =
=2/£3> в силу чего, полагая |х = 0, £2 = —хх, Ъ3=1, мы
получаем противоречие с соотношением B). Таким образом,
разрешимость нарушается.
Оказывается, что в задаче о разрешимости следует
рассматривать N как однородное пространство группы NxN относительно
действия
Все инвариантные относительно этого действия дифференциальные
операторы глобально-разрешимы (см. работы Раиса [1971] и Уигне-
ра [1977] соответственно о локальной и глобальной
разрешимости на любой односвязной нильпотентной группе Ли N).
Задачи А — D были обсуждены во введении для случая
пространств R2, S2 и Н2. Сейчас мы кратко опишем их решения
для случая симметрического пространства X = G/K некомпактного
типа. За подробными доказательствами отсылаем к оригинальным
статьям.
A. Алгебра D(G/K) является (коммутативным) кольцом
полиномов от I алгебраически независимых образующих Diy ..., Dl9
порядки которых dlf ..., dt канонически определяются по
группе G (теорема 5.18 гл. II и п. 1 § 3 гл. III). Здесь / = rank(G//C).
B. Любой оператор ЭфО из D(G/K) глобально-разрешим.
Этот результат доказан Хелгасоном [1973а].

§ 4. Инвариантные дифференциальные операторы на группах Ли 313
Для того чтобы описать решение задачи С, рассмотрим
разложение Ивасавы G = KAN. Для g£G положим
g = kexpH(g)n (k$K, H(g)£a, /igtf)-
Пусть а£ обозначает пространство комплекснозначных линейных
функционалов на а. Следующий результат Хариш-Чандры будет
доказан в § 4 гл. IV (теорема 4.4 и G)).
C(i) Все К-инвариантные собственные функции D(G/K)—это
с точностью до постоянного множителя функции
ФЯ(^/С)=5^-р)(//^))^, g£G.
к
Здесь А€о£,ар—то же, что и в п. 1 § 5 гл. I,
dk—нормированная мера Хаара на /С.
Пусть М—централизатор А в К и В = К/М. Если x = gK —
элемент из X = G/K и b — kM—элемент из В = К/М, то положим
A(x,b) = -H(g-*k)$a.
Это «векторнозначное скалярное произведение» обобщает
скалярное произведение <z, 6>, рассмотренное в п. 1 § 4 введения. Если
И^йс» Ь£В, то функция
является общей собственной функцией для D(G/K) (см. упр. В15
гл. IV).
Каждая общая собственная функция / алгебры D(G/K) может
быть представлена в виде /= 2/б» гДе /б является К-финитной
бек
общей собственной функцией типа б (следствие 3.4 гл. V). Мы
приходим теперь к следующему обобщению утверждения C(i) (см.
Хелгасон [1976]):
С(П) К—финитными общими собственными функциями
алгебры D(G/K) являются функции
f(x) = le»<A(*'b»F(b)db,
в
еде F—это К-финитная непрерывная функция на В и \х£й*с.
Если /—произвольная общая собственная функция для D(G/K)y
то введенное выше разложение / = 2/б вместе с C(ii) приводит
б
к формуле
f(x) = \e»<A(*-b»dT(b),

314 Гл. //. Инвариантные дифференциальные операторы
где Т—формальный ряд Фурье 2^6 на В = К/М. Как могут
бек
быть охарактеризованы функции Т? Ответ подсказывает
теорема 4.3 введения.
Пространство Л (В) аналитических функций на многообразии
В = К/М имеет естественную топологию, аналогичную описанной
в п. 1 § 4 введения для случая окружности. Элементы
двойственного пространства Л'{В) называются аналитическими
функционалами (или гиперфункциями).
Справедлив следующий результат, обобщающий теорему 4.3
введения:
С (ш) Общими собственными функциями алгебры D(G/K)
являются функции вида
f(x) = \e»<Aix'b»dT(b), x£X,
в
где fig etc и Т£Л' (В), и только они (см. Касивара и др. [1978]).
Другое, более общее доказательство, основанное на C(ii), было
предложено В. Шмидом.
Для описания решения задачи D рассмотрим введенные выше
функции фя (см. C(i)). Пусть cx(D) (D£D(G/K))
—соответствующая система собственных значений, т. е.
0фл = *Л(О)фЛ> D$D(QIK).
Для К g йс обозначим через <8х (X) общее собственное
подпространство
Л (X) = {/ € € (X): Df = cK (D) f при D £ D (G/K)}.
Каждое общее собственное подпррстранство имеет такой вид при
подходящем A,gac*. Действительно, оно содержит некоторую К-
инвариантную функцию, которая в соответствии с С (i) имеет вид
Фх (*€<£)•
Задача D имеет следующее решение (Хелгасон Г 1970а, гл. IV],
[1976]):
D. Пусть к£а*с и 7\—представление группы G в собственном
подпространстве &х(Х). Тогда 7\ неприводимо & 1/Г* (А,) ^0.
Здесь функция Тх определяется следующим образом:
Гх(*)=П r(|D^a + l+<^,a0>))r(i(ma+m2a+<a,a0>)),
где Г—обычная гамма-функция, 20 — множество неделимых
ограниченных корней G/K, тр — кратность корня Р и а0 =
а/<а, а>, а < , > — билинейная форма на etc, индуцированная
формой Киллинга алгебры Ли д. Функция Гл является знамена-

§ 4. Инвариантные дифференциальные операторы на группх Ли 315
телем функции с(к)с(—А,), где с (к)—это с-функция из
разложения Хариш-Чандры сферической функции ср^ (см. §§ 5—6 гл. IV).
Так как симметрическое пространство G/K определяется
тройкой (а, 2, т), где 2—множество ограниченных корней, am—
функция кратности (см. Хелгасон [1978, упр. F9 гл. X]), разумно
предположить, что задача D должна быть разрешима в терминах
таких данных. Это подгверждается критерием ГА- (Х^фО.
Во введенных обозначениях мы можем более точно
сформулировать решение задачи С. Пусть Г£ (X)— произведение,
аналогичное введенному выше, но содержащее только множители,
соответствующие положительным корням а из 20. Пусть также /\—
преобразование Пуассона:
{PKT){x) = \e^+^A*>b»dT{b), х$Х, Т£Л'{В).
в
Тогда имеет место следующее уточнение результата C(iii):
C(iv) Пусть A,£ctc. Тогда следующие условия эквивалентны:
(a) 1/ГЦ(к)фО;
(b) преобразование Пуассона Рк: /(В)-^^(Х) инъективно;
(c) преобразование Пуассона /\: /(В)~>^(Х) сюръективно.
Эквивалентность (а)Ф»(Ь) доказана Хелгасоном ([1970а] и
[1976]), импликация (с)=>(а) является простым следствием этой
экзивалентности и доказательства утверждения С (и).
Импликация (а) => (с) доказана Касиварой и др. [1978]. Дальнейшую
информацию см. в книге Шлихткрулля [1984b].
2. Алгебра D (G/H)
Пусть дано однородное пространство G/H. Нашей целью теперь
является описание операторов из D(G/H). Рассмотрим сначала
случай Н~{е] и обозначим через D(G) множество D(G/{e}) лево-
инвариантных дифференциальных операторов на G.
Если V—конечномерное векторное пространство над R, то
симметрическая алгебра S (V) над V определяется как алгебра комп-
лекснозначных полиномиальных функций на сопряженном
пространстве V*. Если Xlt ..., Хп—некоторый базис в V, то алгебра
S(V), может быть отождествлена с (коммутативной) алгеброй
многочленов
2Х...*^...**',.1)
(k)
Пусть g—алгебра Ли группы G (т. е. касательное
пространство к G в единице е) и exp: &—+G—экспоненциальное отобра-
х> Здесь Xi£V рассматривается как линейный функционал на У*.— Прим.
перев.

316 Гл. II. Инвариантные дифференциальные операторы
жение, переводящее любую прямую RX, проходящую через 0 в д,
в однопараметрическую подгруппу / —*ехр/Х в G. Если Х$%,
то обозначим через X следующее векторное поле на G:
C) (Xf) (g) = X(foLg) = i±t f (g exp tX)}M, / € € (G).
Здесь Lg—отображение левого сдвига # —у gx группы G на себя.
Тогда X является дифференциальным оператором на G, причем
при h$G имеем
(XLnf) (g) = (X (foLh)) (h~ig) = (Xf) (g),
т. e. %£D(G). Кроме того, скобка в g по определению
удовлетворяет равенству
[X, y]~=xy-yx, xf у eg.
Здесь умножение в правой части понимается как композиция
операторов.
Следующий результат, связывающий S(g) с D(G), показывает,
в частности, что алгебра D(G) порождена операторами X (Xgg).
Таким образом она совпадает с алгеброй, введенной с теми же
обозначениями в [ДС, п. 4 § 1 гл. II] (следует лишь отметить,
что сейчас мы допускаем также и комплексные скаляры).
Теорема 4.3. Пусть G—группа Ли с алгеброй Ли %и S(g)—
симметрическая алгебра над д. Тогда существует единственная
линейная биекция
К: S(g)->0(G),
для которой %(Хт) = Хт (Х£д, m£Z+). Если Хи ..., Хп —
какой-нибудь базис в д и PgS(g), то
D) (X (Р) f) (g) - {Р (ди ...9dn)f(g exp (/A + ... + tnXn))}tss0,
где /€*(О), dt = dldtt и / = (/<, ..., tn).
Доказательство. Зафиксируем базис Xi} ..., Хп
алгебры д. Тогда отображение
g exp (ttXi + ... + tnXn) -> (tit ...>/„)
является системой координат в окрестности точки g$G, поэтому
формула D) определяет дифференциальный оператор Х(Р) на G.
Понятно, что оператор А,(Р) левоинвариантен и, в силу C),
2l(X,)=5 jf/e Но тогда по линейности Х(Х) = Х при Xgg. Кроме

§ 4. Инвариантные дифференциальные операторы на группах Ли 317
того,
ФП (g) = X (Xf) (g) = { ^ (Xf)(gexp tX)}(=o
= {а?/(*ехр/Л)Ь-.-
n
Если положить Я" = 2*1^/» то последнее выражение запишется
1
в виде
2 х& (X (ВД f) (g) = (X (X*) /) (g).
С помощью анологичных рассуждений устанавливаем, что
E) Х(Хт) = Хт при Яgg, m€Z+.
При фиксированном mgZ+ степени Xй* (Xgg) порождают
подпространство SOT(fl)cS(f() однородных элементов степени т (см.
упр. D\ гл. 1). Таким образом, E) показывает, что, хотя
отображение к определено с помощью базиса, оно на самом деле от
выбора базиса не зависит.
Докажем, далее, взаимную однозначность X. Действительно,
пусть Х(Р)==0 при РфО. Пусть также аХ™1 ... Х™п—старший
член Р относительно некоторого лексикографического
упорядочения. Введем такую гладкую функцию / в окрестности точки е
в G, чтобы
/(ехр(/А+... +/Л) = С • • • #"
при малых значениях /. Тогда (X (Р) f) (e) Ф О, что противоречит
предположению о том, что Х(Р) = 0.
И наконец, X отображает S(g) на всю алгебру D(G). В самом
деле, если u£D(G), то существует такой полином Р, для которого
(uf) (е) = {Р (ди ..., дп) f (ехр (<Л + ... + /Л)}*--
Но тогда, в силу левой инвариантности оператора и, мы получаем
равенство и = Х(Р), т. е. отображение X сюръективно.
Определение. Введенное выше отображение X обычно
называется симметризацией.
Отображение X обладает следующим свойством. Если У1э ...,
*%€fi. то
E') X(YU ..., Yp) = — 2u Yad) ... Уо(Р)у
где f©—группа перестановок р элементов.
Это следует из применения равенства E) к {txYi-\-... + tpYр)р
с последующим приравниванием коэффициентов при tx... tp.

318 Гл. II. Инвариантные дифференциальные операторы
Напомним теперь некоторые факты, касающиеся
присоединенного представления Ad группы G (или Ad0) и присоединенного
представления ad алгебры Ли g (или adg). Если g$G, то
отображение x—+gxg~x является автоморфизмом группы G.
Соответствующий автоморфизм алгебры Ли g обозначается Ad (g). Таким
образом
F) expAd(g)X = gexpXg-i при Xgg, g£G.
При этом отображение g" —> Ad (gf) является представлением
группы G в g. В соответствии с общей теорией, оно индуцирует
представление алгебры Ли g в g (см. [ДС, § 5 гл. II]),
обозначаемое ad. Итак, по определению имеем
G) Ad(expX) = ead*, Xgg,
где для линейного преобразования А через еА обозначается
00
2О/я!) Ап- Из F) и G) можно вывести (см. там же), что
о
(8) adX(Y) = [X, Y] при X, Kgg.
Эти операции1} можно теперь распространить на
дифференциальные операторы. Вычислим (Ad (g) X)~. Вспоминая об отображениях
Lg: x—+gx, Rgi x—+xg, получаем при f€&(G):
[(Ad(g)X)-f\(x)={y (xexp /Ad(g)X)}/=o
~(Xf**) (xg) = (XfRi)«*-4x)t
т. e. (Ad(g)X)~ =XRe~\ Поэтому определим при D£D(G)
оператор Ad (g)D формулой
(9) Ad (g)D = DR&-\
Тогда Ad (g) является автоморфизмом алгебры D (G).
Заметим, далее, что (ad (X) (У)У = XY— YX. Определим ввиду
этого при D£D(G) оператор adX формулой
A0) (ad X){D) = XD—DX.
При эгом adX является дифференцированием алгебры D(GJ).
Мы можем также определить
A1) eadx(D) = £^(adX)»(D), D<EZ)(G).
О
D То есть Ad и ad.— Прим. перев.
2> То есть удовлетворяет соотношению (ad X) (D^^^ (ad X) (Dx)*D%-\-Di
• (ad X) (I>2)-— Прим. перев.

§ 4. Инвариантные дифференциальные операторы на группах Ли 319
Поскольку в силу A0) все дифференциальные операторы (ad Х)п (D)
имеют порядки, не превосходящие порядка D, все члены ряда A1)
лежат в конечномерном векторном пространстве и проблем
сходимости ряда не возникает. Используя теперь формулу Лейбница
для производных высших порядков, мы при Dly D2£D(G)
получаем
^ * (DА) ^ £ ^ М *)МД02)
о
= Eirr E 7nr(adAy(DI)(adX)/(Di),
0 0<f, /
i+j=n
т. е.
e*d х (AD2) = ead * {Dx) e** X(D2).
Таким образом, Ad(expX) и eadx являются автоморфизмами
алгебры D(G). Они совпадают на g и, следовательно, на D(G),
поскольку (по теореме 4.3) g порождает D(G). Итак,
A2) Ad(expX)(D) = ead*D при D£D(G).
Лемма 4.4. Пусть Xgg, D£D(G). Тогда XD = DX в том и
только том случае, если
DRexptx^o при t£R.
Действительно, в силу формул (9)—A2)
lim т (D;?exP(-w_jD) = XD—DX,
т. е. достаточность очевидна. С другой стороны, если XD = DX, то
в силу равенств (9) и A2) получаем D*exP<*x>=:D.
Следствие 4.5. Пусть группа G связна, Z(G)—центр алгебры
D(G) и /(g)cS(g)—множество Ad(G)-инвариантов. Тогда
A3) 4/(9)) = Z(G).
Кроме того, Z(G) состоит из правоинвариантных
дифференциальных операторов из D(G) или, иными словами, из биинва-
риантных дифференциальных операторов на G.
Последнее утверждение непосредственно следует из леммы 4.4
(так как группа G связна). Поскольку К (Ad (g) P) = Ad (g) К (Р)
при P€«S(g), мы получаем соотношение A3).
Предположим теперь, что G—связная группа Ли и HczG —
ее замкнутая подгруппа. Обозначим через gz)f) их алгебры Ли
и через m дополнительное подпространство: й==^ф^ (сумма

320 Гл. II. Инвариантные дифференциальные операторы
прямая). Используем теперь m для введения координат на G/H
(см. [ДС, § 4 гл. II]). Пусть (Хи ..., X,) и (Хг+1, ..., XJ-
базисы в т и в I) соответственно и я: G—+G/H—каноническая
проекция. Тогда при g£G отображение
A4) (xif ..., xr)-+n(gexp(x1Xi+... +xrXr))
является диффеоморфизмом окрестности нуля 0 в m на
окрестность точки n(g) в G/H. Обратное отображение к отображению
A4) будет локальной системой координат вблизи точки я(#),
превращающей G/H в многообразие.
Отображение я: G —► G/H обладает дифференциалом dn,
отображающим g на касательное пространство (G/Я), к G/H в «нуле»
о = {Н}. Ядро dn совпадает с I). Оператор сдвига x(g): хН—+gxH
удовлетворяет равенству noLg = T(g)on. Поскольку яо7?Л = я,
AdG(g)X = dRg-iodLg(X), мы получаем следующее соотношение
для дифференциалов:
djioAdG(h)X = dx(hHodn(X), Хёй-
Таким образом, при изоморфизме
A5) в/*«@/#).
линейному преобразованию Ad0 (h) на g/f) соответствует линейное
преобразование dx(hH на (G/HH.
Однородное пространство G/H называется редуктивным, если
подпространство meg может быть выбрано таким образом, чтобы
g = m®t) и Ad0(A)mcm при h£H. Если группа Н компактна
(и даже если только группа AdG(//) компактна), пространство
G/H редуктивно. В самом деле, в этом случае на g будет
существовать положительно-определённая квадратичная форма,
инвариантная относительно группы AdG (Я), т. е. мы сможем выбрать
в качестве m ортогональное (относительно этой формы)
дополнение к I) в д.
Пусть
DH{G) = {D£D(G): DRh=D при всех h^H).
Если /—произвольная функция на G/H, то положим / = /ол. Мы
можем теперь в случае редуктивного однородного пространства
дать описание алгебры D(G/H) в терминах алгебры Ли.
Теорема 4.6. Пусть пространство G/H редуктивно. Тогда
отображение |х: u—+Day где
(DJV=u] при f€£(G/H),
является гомоморфизмом DH(G) на алгебру D(G/H). Его ядро
совпадает с DH(G){\D(GI), так что имеет место изоморфизм
1>н (G)/DN (G) f\D(G)l)*£D (G/H).

§ 4. Инвариантные дифференциальные операторы на группах Ли 321
Доказательство. Пусть u£DH(G) и f£@)(G/H). Тогда
функция uf правоинвариантна относительно Я, т. е. имеет вид /*, где
^^^(G/H). Оператор Du переводит / в /х. При этом он не
увеличивает носители, т. е. является дифференциальным оператором.
Далее, он G-инвариантен, поскольку
(D* <*>/Г = ((DJtw-ywy = ((DJ4*-4)~)Lt
т. е. DXU(& = DU. Следовательно, Dtt£D(G/H). Кроме того,
отображение u—+Da является гомоморфизмом.
Докажем теперь сюръективность этого отображения. Пусть
E£D(G/H). Выразим Е в точке о в терминах координат л:*, ...,
хг. Существует такой полином Р, что
(Ef)(o)=[p[-^t ...,±)f(n(exv(x1Xi+...+x,Xr)))](o).
В силу G-инвариантности имеем
(£/)(g.o) = £/*<«-» (о)
= [p(^.--,,£-yx«-14n(exp(xiXi+...+xrXr)))](o)
Положим, в частности, g = h£H. Тогда получим
(Efl @)=[/> (^- , ..., J-) / (exp Ad (А) (*А + ... + *,Х,))]Ж/Ш§.
Отсюда мы заключаем, что полином Р является Ad (Я)-инвариант-
ным. Положим u = X(P)^D(G). Тогда
uRh'1 = Ad (h) и = Я (Ad (Л) Р) = Я (Р) = и,
т.е. u£DH(G). Кроме того,
(^(г)-(^(^/)(г)={я(^,...,^)/^ехр(хЛ
...+*гХг)}жг§-(Я/)-(в),
так что DU = E. Таким образом, исследуемое отображение сюръ-
ективно.
Остается доказать, что равенство Du — 0 эквивалентно
включению u^DH(G)f]D(G)}). Для этого нам понадобится следующая
лемма. Положим
где d>0.
11 С. Хелгасон

322 Гл. //. Инвариантные дифференциальные операторы
Лемма 4.7. Справедливо равенство
D (G) = D (G)J)®k(S (m)) (сумма прямая).
Кроме того, если оператор D£Dd (G) в соответствии с этим
разложением распадается в сумму D = Dl + D2i то Dlf D2£Dd(G).
Доказательство. Мы утверждаем, что для любого РgS(g)
существует такой элемент Q£S(m) степени, не превышающей
степени Р, что Х(Р—Q)£/)(G)f). Это очевидно, если степень Р
равна 1. Предположим, что наше утверждение верно для всех
PgS(g) степени, меньшей d. Мы должны доказать, что это верно
и для полинома Р степени d. Можно предположить, что Р=Х{*...Хепп>
где Хи ..., Хг — некоторый базис в m, a Xr+i, ..., Хп—в I).
Если ег+1+ ... +еп = 0, то можно положить Q = P. Если же
er+i + ... + еп > 0, то к (р) является линейной комбинацией
членов Ха1...ХааУ где Xa.gt| при некотором i. Тогда
Ха1 . . .Xad-Xai . ..*амХам. • •^«/€|И <°>»
так что Я(Р)—D£D(G)t) при некотором D^Dd'x(G). В силу
предположения индукции, существует полином Q€«S(tn) степени,
не превышающей d—1, для которого %(Q)—D£D(GI).
Следовательно,
MP-Q)€D(G)*.
Мы получили тем самым требуемое разложение. Остается
доказать, что это разложение—прямое. Пусть P£S(m), P фО. Тогда
существует такая функция р(х19 ..., хг), что
('№ я-»*0»-
Выберем теперь функцию f€C°°(G/H) таким образом, чтобы при
достаточно малых значениях х( имело место равенство
/ (л (exp (XfXi + ... + xrXr))) = /* (xit ..., xr).
Тогда Я (Р) (fon) (е) Ф О, т. е. к(Р)£0 (G) $.
Так как оба слагаемых в полученном разложении инвариантны
относительно AdG(#), мы получаем
Следствие 4.8. Пусть /(nt)—множество всех Ad0(Н)-инвари-
антов в S (щ). Тогда
DH (G) = (DH (G) n D (G) ft © X (/ (m)).
Мы можем теперь закончить доказательство теоремы 4.6. Пусть
оператор u£DH(G) таков, что Du = 0. Положим u = Ui + u2 в
соответствии с разложением из следствия 4.8. Тогда Dtti = 0, т.е.

§ 4. Инвариантные дифференциальные операторы на группах Ли 323
Д,я = 0. Однако и2 = Х(Р2), Р2£1 (тп). Мы утверждаем, что «2 = 0.
Если это не так, то, как мы видели, существует такая функция
f££(G/H), для которой и2]ф0, т. е. DU2=£0, что приводит к
противоречию. Таким образом, и2 = 0, т.е. u€DH(G)(]D(G)§.
Комбинируя теорему 4.6 со следствием 4.8, получаем
следующий результат:
Теорема 4.9. Пусть G/H—редуктивное однородное
пространство. Отображение Q—»£>л«?) является линейной биекцией I (т)
на D(G/H). Если Q€l(m), то оператор D^Q) явным образом
определяется по формуле
(Dw)f)(g-o) = [Q(^-, • • •, £) f teexp(XlXt + ... +xrXr))](o).
Хотя отображение Q—>DxiQ) в общем случае и не является
мультипликативным (даже для коммутативной алгебры D(G/H))9
справедливо равенство
где Q€/(m) имеет степень, меньшую degР% + degP2.
По индукции получаем
Следствие 4.10. Если /(т) имеет конечную систему образую-
щих Ри ..., Pt и D/ = D^(p/), то каждый оператор D£D(G/H)
может быть записан в виде
D=%ani..nDn1\..D?i.
(п) 1
3. Случай двухточечно-однородного пространства.
Обобщенное уравнение Дарбу
Рассмотрим теперь случай двухточечно-однородного
пространства М (см. § 4 гл. I). В этом случае оператор Лапласа—Бель-
трами может быть охарактеризован в терминах инвариантности.
Предложение 4.11. Пусть М — двухточечно-однородное
пространство, M=G//(, где G = I(M). Тогда алгебра D(G/K) состоит
из полиномов от оператора Лапласа—Бельтрами.
Доказательство. Из двухточечной однородности следует,
что группа Ad0(/C) действует транзитивно на единичной сфере
касательного пространства (G/KH. В силу этого ясно, что /(тп)
порождается полиномом Х\ + ... + Х2п где {X,}—ортонормиро-
ванный базис в тп. Отсюда немедленно следует требуемое
утверждение.
11*

324 Гл. II. Инвариантные дифференциальные операторы
Замечание. Полезно отметить, что этот результат
справедлив также для D{G'lK')> где С—подгруппа в I (M)t битранзи-
тивно действующая на M~(G'/K').
Предложение 4.12. Пусть G/K—симметрическое пространство
ранга один, L—лапласиан на нём и Мг—оператор среднего
значения
(**'/)(*) ~aW J f(s)d<*(s) {r>%
Srix)
где do—элемент площади на сфере Sr(x) и А (г)—полная
площадь этой сферы. Тогда
A6) M'L^LM',
A7) Lx(F(x9y)) = Ly(F(xfy))t
где
F(x9y)~(M«'-y>f)(x).
Замечание. Этот результат является аналогом леммы 2.14
из гл. I, а равенство A7)—обобщенным «уравнением Дарбу».
Доказательство. Пусть Q—лапласиан на полупростой
группе Ли G относительно псевдоримановой структуры,
определяемой формой Киллинга. Рассмотрим каноническую проекцию я:
G—*G//C и положим f=/ojt. Тогда оператор \x(Q) из теоремы
4.6 является G-инвариантным, а в силу предложения 4.11 (или
прямого вычисления) |л (Q) пропорционален L. Если элемент h g G
таков, что r = d(o, А-о), то
(M'n(g.o)-$f(gkh)dk.
к
В силу биинвариантности Q имеем
®g(I hgkh)dk\ = I (Qf)(gkh)dk = Qh(\ f(gkh)dk\
* К 'К, ^ /С *
Тем самым доказаны оба равенства A6) и A7).
§ 5. Инвариантные дифференциальные операторы
на симметрических пространствах
1. Действие на распределения и коммутативность
Пусть G—сепарабельная унимодулярная группа Ли,
dy—фиксированная мера Хаара на G и D-+D*—соответствующая
операция сопряжения во множестве E(G) всех дифференциальных

§ 5. Инвариантные диф. операторы на сим, пространствах 325
операторов на G. Свёртка
A) (i*g)(x)^\f(xy^)g{y)dy^\f(y)g{y'H)dy
G G
корректно определена при /, g(tC(G), если только хотя бы одна
из этих функций имеет компактный носитель. Более общо,
определим свёртку /х*/2 двух распределений на G, одно из которых
имеет компактный носитель, как распределение
B) (<!*/,)(ф)=55ч>(*у)dt*wdt*<у)> ч^т(G>-
G G
Тогда имеет место свойство ассоциативности (tx * t2) * t3=ti * (t2 * /8),
если хотя бы два из распределений t( имеют компактные
носители (см. п. 8 § 2 гл. I).
Произвольная локально-интегрируемая функция F на G может
рассматриваться как распределение <р —+}(f>F m G.C учетом этой
договоренности, для f£g(G) и t^S>' (G) получаем (если / или t
имеет компактный носитель)
C) (f • 0 (х) = J / (xy-i)rf/ (у), (/ • /)(*)-$/ (Г1*) Л («/)•
Если т—диффеоморфизм группы G, сохраняющий меру dg, то
для D£E(G) имеем
D) (D*)T = (DT)*, (DT)X = DXTX при T£@>'(G).
Отображение ": х-^х является диффеоморфизмом и при
заданном D£D(G) функционал
eD: <p — (Dq>)(e), Ф€^>(б),
является распределением с носителем {е}. При этом
E) (tx*t2y=t2#ti, Dt = /*eD,
следовательно,
F) е£>1о2 = 8о2*8£>1.
Пусть ^€fi> где g—алгебра Ли группы G и X (соотв. X)—лево-
инвариантное (соотв. правоинвариантное) векторное поле на G,
такое что Хе = Х (соотв. Хе = Х). Так как
(Xf) (xexp tX)dx = ^ f (xexp iX)dx =^ ^f(xexp tX)dx = 0,
мы получаем, что 5 %f = 0. Применяя это равенство к произве-
G

326 Гл. /7. Инвариантные дифференциальные операторы
дению fg, заключаем, что
G) (*)• = -*, (*Г=-Х.
Если Dl9 D2£E(G), то мы также имеем
(8) (ОД)* = ОД, (ОД) ~=DXDX.
Записывая оператор D$D(G) в виде полинома от %(Х£%),
выводим из E) — (8), что
(9) ея* = (е0Г.
Понятно, что если оператор D биинвариантен, т.е. D£Z(G), то
распределение eD инвариантно относительно всех внутренних
автоморфизмов g—■+xgx~1. Кроме того, в этом случае /*eD=eD*/
при любом t£<b'(G).
Пусть KaG—компактная подгруппа с мерой Хаара dk,
нормированной соотношением J d&= 1. Рассмотрим каноническое ото-
к
бражение я: G—*GlK и положим F = Fon. Через dx обозначим
меру на G//C, определяемую равенством
A0) J F (х) dx = J F (g) dg, F € Cc (G/K).
G/K G
Обозначив через f алгебру Ли группы К, введем гомоморфизм
p. DK(G)—»D(G/K), определенный в теореме 4.6 и имеющий ядро
DK(G)nD(G)l Так как (\i(E)F)~ = £(/), из формулы A0)
следует, что \i(E*) = (\i (£))*.
Распространяя операцию F —+F, определим для Т g ё/У (G/K)
распределение f на G по формуле
A1) 7(/) = Г(/), /е»@),
где
f(gK)^lf(gk)dk.
к
Тогда
t(F) = T(F) при F€®(G/K),
так что распределение Т определяется своими значениями на
пространстве S>(G/Ky> Если Тх и Г2—-два распределения на G/K,
по крайней мере одно из которых имеет компактный носитель,
то их свёртка Т^хТ2 есть распределение на G/K, определенное
формулой
A2) G\xr,)(F) = G\*f,Mf).

§ 5. Инвариантные диф. операторы на сим, пространствах 327
Тогда (TiXT^ = 7\*Т2, так что х удовлетворяет закону
ассоциативности. Если б—это дельта-распределение / —*/(о) в нуле о
пространства G//C, то мы имеем
A3) Тхб = Т, 8xr=$r*<*>d£.
к
При D$D(G/K) справедливо равенство
(Н) DiTiXTJ^TiXDTr
Чтобы в этом убедиться, выберем оператор E£DK(G) таким
образом, чтобы \i(E) = D. Тогда
A5) 0* (Е) ТУ = Е (Л при Т € Я>' (G/K),
поскольку обе части имеют одинаковые значения на любой
функции jF(FgZ)(G//C)). Комбинируя этот факт с тем, что Е
коммутирует с левой свёрткой t—+s*t на G, очевидным образом
получаем A4).
Как мы сейчас увидим, в случае симметрического
пространства G/K справедлив также аналог свойства A4) с
оператором D, действующим на первый сомножитель. Таким образом,
дополнительно к нашему предположению о том, что G—ун-имо-
дулярная группа Ли, а группа К компактна, предположим, что
(G, К) является симметрической парой, т. е. существует такой
инволютивный автоморфизм 0 группы G, что (/Се)о<=/Сс/Се- Здесь
/Се—множество неподвижных точек 0, a (KqH—его связная
компонента единицы. Обозначим через s симметрию gK —* 0 (g) К
пространства G/K.
Автоморфизмом 0 индуцируются автоморфизмы алгебр g и
D{G), которые мы также будем обозначать 0. Тогда при любом
E£D(G) имеем
£е = 0£.
В самом деле, оба отображения £—*£е и £—*0£ являются
автоморфизмами, поэтому достаточно проверить требуемое
равенство для произвольного левоинвариантного векторного поля X
на G. Но тогда
(*9/) (в) = W9) № = {Tt fe № ехР <*>}/=о
= {£/(* ехр<ех)}/шо = ((ех)Я(г).
Кроме того, при E^DK(G) справедливо равенство
у @£) = (ji (£))•,

328 Гл. II, Инвариантные дифференциальные оперторы
которое немедленно следует из соотношения
(F)° = (F*)~ для F€£(G/K).
Лемма 5.1. Пусть (G, К)—симметрическая пара, группа К
компактна и D£D(G/K). Тогда если распределение J£&)'(G/K)
является К-инвариантным иТ ££' (G//C), то справедливы равенства
D(JxT)=DJxT9
D(TxJ) = ((D*)*T)xJ.
Доказательство. Выберем оператор E$DK(G) таким
образом, чтобы \i(E) = D и положим / = /, t = f. В силу
симметрии Q(g)€Kg~lK (g£G), поэтому, полагая
fb(g) = \\f(kgk')dkdk\ /€®(G),
получаем (/е) Ч = (/) k , Так как /(/) = /(/ k), справедливо
равенство
A6) /е=/.
В частности, поскольку распределение j»t биинвариантно
относительно /С, имеем (/*/)в = (/*/)". Далее, отображение 0 инво-
лютивно и потому оставляет меру dy инвариантной, так что
(Е (/ * ОH = Е» (/ * /)° = & (/ *tV=EQ (t * /в)
= t * (Ejf = (Ej * /) ~ = (£/ * /)в.
Комбинируя это равенство с A5), получаем первое соотношение
леммы.
Поскольку / биинвариантно относительно К и еЕ инвариантно
относительно сопряжения g—^kgfr1, понятно, что /*ел
биинвариантно относительно /(. Таким образом, в силу (9) и A6) имеем
*е* I = (/в * е£*Г = (/е * ^*)е = / * (s**)e-
Однако (е£*H = е(^)е, т.е.
ел*/ = /*е(£#)е.
Свёртывая слева с t и используя E), получаем (£/)*/ = (£*)е(/*/).
Кроме того,
|i((^)e)~(l* (£•))'= @*)'.
и теперь-равенство A5) влечет второе соотношение леммы.
Пусть
£D'(G)k ={T€&>'(G): Т биинвариантно относительно К},
Определим пространства $'(G)ti, С^ (G), Z>4 (G), ...
аналогичным образом.

§ 5. Инвариантные диф. операторы на сим, пространствах 329
Следствие 5.2. Пространства $' (G) Ь и Cj* (G) являются
коммутативными алгебрами относительно свёртки.
Это утверждение следует из A6), поскольку
Следствие 5.3. Если D£D(G/K), то D* = D*.
Данное равенство получается, если в лемме 5.1 положить /=б«
Следствие 5.4. Если (G, К)—симметрическая пара и группа К
компактна, то алгебра D(G/K) коммутативна.
В самом деле, если Dif D2£D(G/K), то по следствию 5.3
имеем
DID] = (DXD2)* = (D,D2y = D\D\ = D\D\.
Теорема 5.5. Пусть (G, К)—симметрическая пара, группа К
компактна и D£D(G/K). Тогда для любых распределений S,
Т£&>'(G/K), по крайней мере одно из которых имеет компакт-
ный носитель, справедливы равенства
D(SxT) = DSxT = SxDT.
Для доказательства этой теоремы нам необходима следующая
лемма:
Лемма 5.6. Пусть @)Ъ (G/К)—пространство К-инвариантных
функций из @>(G/K). Если ф пробегает &)Ъ > a g пробегает
группу G, то линейные комбинации функций у%№ плотны
в 3> (G/K).
Доказательство. Предположим противное: существует
такое распределение ТфО на G/K, что 7,(фх<в))=0 при всех
ФейI* и всех g£G. Это быстро приводит к условию Т*\|)=?0
при всех грё^Й (G). Значит, 7 = 0, чем лемма и доказана.
Теперь мы можем доказать теорему 5.5. Если g£G, то
отображение i(g) пространства G/K, распространенное на функции,
коммутирует с D, а также и с правыми свёртками /—►/хГ
(Т €$' (G/K)). Следовательно, из первого соотношения леммы 5.1
получаем
A7) D(Ф*<s>xT) = D(ф*<*>)хТ, Т££' (G/K).
В силу леммы 5.6 и непрерывности отображения f—+fxT
пространства S>(GfK)9 из A7) следует, что
A8) D(fxT) = (Df)xT, f€®(G/K).
Однако S> (G/K) плотно в &>' (G/K) в сильной топологии* a D и
свёртка S-+SxT непрерывны в 2>\G/K)(Шварц [1966,с. 75,170]).

330 Гл. 11. Инвариантные дифференциальные операторы
Поэтому, в силу A8),
D(SxT) = DSxT при S^3>\ Т£<В'.
При S££', T £&)' доказательство аналогично, так что теорема 5.5
доказана.
Теорема 5.7. (i) Пусть (G, Н)—симметрическая пара, группа G
полупроста, а Н связна. Тогда алгебра D(G/H) коммутативна.
(и) Пусть L—связная группа Ли, L*—диагональ в LxL.
При изоморфизме (llt /2)£*—W^1 пространства (LxL)/L* на L
справедливо соотношение
D((LxL)/f) = Z(L).
Доказательство, (i) Пусть
A9) 9 = НЧ
— разложение алгебры Ли g на собственные подпространства
оператора da1*, отвечающие собственным значениям +1 и —1
соответственно. Здесь I) — алгебра Ли группы Н. Существует
инволюция Картана 6 на д, коммутирующая с а (Хелгасон [1978,
упр. В4 гл. III]). Пусть
B0) e = f + t>
— соответствующее разложение Картана. Обозначим через gC комп-
лексификацию алгебры д, а через |с и q^— подпространства в gG,
порожденные i) и д. Положим \\=l + ip. Тогда и является
компактной вещественной формой алгебры Ли gC. Так как oQ = Qaf
мы имеем
I,G==uni)c + t(Un^).
Подпространство
B1) g = un^ + /(unqC)
является вещественной формой алгебры Ли дС, а
B1)—разложением Картана в §. Пусть S—присоединенная группа Int(£).
Положим I)* = linf)G и обозначим через Н* аналитическую
подгруппу в S с алгеброй Ли I)*. Тогда группа Н* компактна и
(S, Н*) является симметрической парой. В силу следствия 5.4
алгебра D (S/H*) коммутативна, так что по теореме 4.6
B2) алгебра DH* (S)/DH* (S) П D (S) Ъ* коммутативна.
Переходя к комплексификациям, получаем отсюда, что
B3) алгебра Z^ (g^)/Z^c (gC) n V (gC) Jjc коммутативна.
** Здесь a ^симметрия G относительно Н.~—Прим. перев,

§ 5. Инвариантные диф. операторы на сим, пространствах 331
Здесь U (qP) — универсальная обёртывающая алгебра для %®
и ^<с(йс)—централизатор fyC в (/ (бс)- Но также как B2)
эквивалентно B3) (где $С_комплексификация I)*), свойство B3)
эквивалентно тому, что
B4) алгебра DH(G)lDH(G){\D(G)}) коммутативна.
В силу теоремы 4.6 это доказывает, что алгебра D(G/H)
коммутативна.
(ii) Действие (lu l2) L* —-► {gjtu g2l2) L* группы LxLm(Lx L)/L*
соответствует сдвигу l—^gxlg^1 Ha £• Эт° доказывает (ii), поскольку
Z(L) состоит из биинвариантных дифференциальных
операторов на L.
2. Связь с инвариантами группы Вейля
Пусть X = G//C — симметрическое пространство некомпактного
типа, т.е. G —связная полупростая группа Ли с конечным
центром и /С—её максимальная компактная подгруппа. Рассмотрим
соответствующее разложение Картана g = f + p. Обозначим через
а с р максимальное абелево подпространство, а через а+са—
фиксированную камеру Вейля. Пусть множество 2 корней,
множество 2+ положительных корней и группа Вейля W определены,
как в Хелгасон [1978, § 1 гл. IX]1*.
Для произвольного евклидова пространства Е обозначим через
<£ (Е) з of (Е) id 3> (E) соответственно пространства С°°-функций,
быстро убывающих С^-функций2) и С"-функций с компактными
носителями. Индексы К и W будут указывать соответственно на
/(-инвариантность и ^-инвариантность. Рассмотрим теперь
следующие подпространства /(-инвариантных и ^-инвариантных
функций:
mw (а) с &w (а) с €w (а) с £ (а).
Теорема 5.8. Сужение функции с р на а является
изоморфизмом пространства @>к(р) на S>w(a).
Достаточно доказать сюръективность этого отображения3).
Установим для этого сначала две теоремы о регулярности для
лапласиана L».
х> См. также [ДС, §§ 1, 2 гл. VII].— Прим. перев.
2) То есть С00-функций f (x), убывающих вместе со всеми производными
быстрее любой степени |*| при |дг|—► оо.— Прим. перев.
3) Действительно, /(-инвариантная функция на р однозначно определяется
своими значениями на а, т. е. отображение сужения инъективно (и очевидным
образом непрерывно) Если будет доказана его сюръективность, то останется
лишь применить теорему об открытом отображении (см. Робертсон и Робертсон
[ 1964]). — Прим перев.

332 Гл. II. Инвариантные дифференциальные операторы
Лемма 5.9. Пусть распределение Т g 3)' (р) удовлетворяет
уравнению 1„Г = 0. Тогда Те*(»I}.
Доказательство. Если срgS>(р), то ф*Т является
гармонической функцией. Из теоремы о среднем значении для
гармонических функций следует, что если а£@>(Р)—радиальная
функция, для которой ^ а = 1, то (ф * Т) * а = ф * Т. Вычисляя
обе части этого равенства в точке 0, получаем, что Т#а = Т,
т.е. Т££(р).
Замечание. Аналогичное рассуждение показывает, что
если Т £&>'($) и LT = 0 вблизи нуля, то Т—гладкая функция
вблизи нуля1*.
Пусть, как обычно, через Ск(р) обозначается пространство k раз
непрерывно дифференцируемых функций на р. Здесь С°(р)
понимается как С (р)—пространство непрерывных функций на р.
Лемма 5.10. Пусть Т —такое распределение на р, что Lj,T =
g€C*(J>). Тогда Т€С*+1(р).
Доказательство. Зафиксируем Х$р и выберем функцию
Ф€S)(р) таким образом, чтобы ф=1 в окрестности X.
Предполагая сначала, что пф2 (где /z = dimp), рассмотрим свёртку
F = q>g*S, где S—это распределение (B—^)firt)~1ra~n,
удовлетворяющее уравнению L^S = 8 a) (см. лемму 2.35 гл. 1). Тогда
LpF=ipg9 т. е., согласно замечанию после леммы 5.9, функция F—Т
бесконечно дифференцируема вблизи X. С другой стороны,
B-я) QnF (X) = J (Фв) (X-Y) | Y |— dY.
Если D^D* (|а| = &) (в обозначениях § 1), то мы имеем
B-n)QADF)(X) = \(D4,g)(X-Y)\Yr"dY
-l(D<pu(Y)\X-Yt-»dY.
Запишем это в виде
H(X)=\h{Y)\X-Yr»dY, A€CC(«.
Нам нужно доказать, что Н g C1^). Так как функция Dt(\X—Y\2~n)
(где Di^dfdxi) является, как нетрудно видеть, локально-интегри-
1) Это просто проявление того факта, что L^ — эллиптический оператор
(см., например, Хёрмандер [1963]).— Прим. перев.
*> S является фундаментальным решением для Lb,— Прим. перев.

§ 5. Инвариантные диф. операторы на сим, пространствах 333
руемой, так что функция
K{X)^\h(Y)Di(\X-Y\^)dY^\h(X—Y)Di{\Y\^n)dY
существует и непрерывна, нам остается доказать, что /С = С/Я.
Заменим для этого функцию Y —+\Y\2~n функцией
( |^ГЛ при |К|>6,
Фе(>0 = | £.e2-n + iz^e-n|F|2 при |F|<e
и положим
He(X) = lh(Y)<pe(X-Y)dY.
Функция ф8 принадлежит С1, так что
(D(He) (X) = J h (Y) (Di4>e) (X-Y)dY.
Таким образом,
H(X)-He(X) = J h(X-Y)(\Y\*-n-<pe(Y))dY9
\Y\<e
поэтому
lim He(X) = H(X) (равномерно).
Далее,
K(X)-(D(He) (X) = J h(X-Y) [D,.(| Yr»)-(Di4>e) (Y)]dY
= B-/i) J h{X-Y)[\Y\-»yi-B-»yi]dY.
\Y\<e
После введения полярных координат становится понятным, что
это выражение ограничено сверху величиной Се. Значит,
lim (DtHe) (X) = К (X) (равномерно).
Тем самым доказано, что К = DtH9 т. е. функция F и,
следовательно, Т принадлежат Ск+%.
При я = 2 можно положить S = Bn)-4nr (тогда Lj,S = 6
(см. лемму 2.35 гл. I)) и поступать так же, как и выше, заменяя
q>e(Y) иа (^-функцию
при |У|>е,
l\Y\ при |К|<е.
Теперь мы можем доказать теорему 5.8. Пусть f€@)w(a).
Так как /(-сопряженные элементы из а являются также W-co-
I 1п|У|

334 Гл. II. Инвариантные дифференциальные операторы
пряженными (см. [ДС, предл. 2.2 из § 2 гл. VII]), функцию /
можно продолжать до /(-инвариантной функции f на р. Так как
расстояния между орбитами группы К минимизируются на а
(предл. 5.18 гл. I), функция / непрерывна.
Пусть а' с: а—множество регулярных элементов и Д(^)—
радиальная часть Lj, относительно действия К с трансверсальным
многообразием а'. В соответствии с предложением 3.13 мы имеем
на а+
B5) Д A>) / = U f +1 £ таа-МJ.
Однако обе части этого равенства ^-инвариантны, т. е. равенство
B5) в действительности справедливо на всём а'. Поскольку
функция / инвариантна относительно симметрии sa, функция g = Aaf
удовлетворяет равенству ^а = — g, т.е. функция a (AJ)
продолжается через гиперплоскость а = 0 до гладкой функции на си
Таким образом, &(Lp)f продолжается с а' до элемента &)w(a),
который обозначим так же. Теперь нам нужно доказать, что
B6) 4>(fl-(А (!>)/)"
в смысле теории распределений. Если это будет доказано, то,
итерируя, мы получим равенства LJJ*(/) = (Д (Ц)mf)~. Но так
как здесь правая часть непрерывна, последовательное применение
леммы 5.10 дает f$Ck+l(p)9 fe = 0, 1,..., что и доказывает
теорему.
Поскольку обе части равенства B6) /(-инвариантны, достаточно
доказать, что они приводят к одинаковому результату, будучи
примененными к произвольной функции у€@)к($). Используя
теперь теорему 5.17 гл. I и равенство D9) из § 3, получаем
mf)D>)=lf(X)(Lvif>)(X)dX
= 5/(Я)(ДAе)ф)(Я)б(Я)^Я
0 +
- $ fU (Ф) Ш + 5 f (grad 6) (ф) d#,
0+ 0 +
где чертой обозначается сужение на а. Нам известна также
формула Стокса (см. B6) в § 2 гл. I)
J (divf) (X)dX = J <F9 n>da
D dD
для векторного поля F на Rn, где D с Rn—связное ограниченное
открытое множество с гладкой границей dD, на которой определен

§ 5. Инвариантные диф. операторы на сим, пространствах 335
единичный вектор внешней нормали л, a dX и da—евклидовы
меры. Применяя это равенство к векторному полю /г = г|? grad ^,
приходим к формуле Грина
$(♦*£+<gradtp, grad£»dX = $ 4><grad£, /*>d<x.
D dD
Полагая г|) = /б, £ = Ф, получаем
J / 6L0 (ф) d# = — J <grad (/6), grad ф> dH + J /б <grad<р, /i> da.
Здесь at—область, аппроксимирующая a+(]BR@)t где BR@)—
шар в а, содержащий зирр(ф). Так как 6 = 0 на да+ и ф = 0
в окрестности сферы S#@), интеграл по dai стремится к нулю
при е—*0, и, используя равенство grad (/6) = б grad / + / grad б,
мы получаем
h (?) (Ф) = - S <8rad /» 2rad Ф> б d//-
0 +
С другой стороны,
(Д(М/Г(Ф)= J (b(I+)f)(H)<P(HN(H)dH
о +
= $ ф!0 (/) 8dtf + J ф (grad (б)) (/) ЛЯ.
0+ Я +
Мы можем теперь повторить проведенное выше рассуждение с
применением формулы Грина, поменяв местами / и ф. Тогда снова
придем к интегралу
— J <grad ф, grad f>8dH.
0 +
Это доказывает равенство B6), а с ним и теорему.
Следствие 5.11. (i) Сужение на а индуцирует изоморфизм
пространства <£#({>) на <£>w(a).
(ii) Сужение на а индуцирует изоморфизм пространства <УK(p)
на <^V(a)-
Первое утверждение немедленно следует из теоремы 5.8. Для
доказательства второго мы напомним сначала (см. лемму 2.2 гл. I),
что F £<>f (Rn) в том и только том случае, если для всех целых
чисел k, 1*^0 выполняется неравенство
B7) sup|(l + |*|')(LV)(*)|<oo,

336 Гл. /7. Инвариантные дифференциальные операторы
где L—лапласиан. Пусть /€<^V(ct) и f€£K(p)—продолжение /,
даваемое утверждением (i) следствия. Тогда на а' имеем
а€ 2
Однако, как отмечалось выше, правая часть является некоторой
гладкой функцией /х на всём а, причем на самом деле /i€<^V(ct).
Но тогда L$f—это /(-инвариантное продолжение /х на р. Оно
очевидным образом удовлетворяет условию B7) с А = 1. Повторяя
это рассуждение с заменой / на /t, получаем B7) для всех
значений k, т.е. /€<^а-0Р)> как и утверждалось.
Следствие 5.12. Любой W-инвариантный полином Р на а
допускает единственное продолжение до К-инвариантного
полинома на р.
В самом деле, мы можем считать Р однородным. Тогда
функция Р, даваемая следствием 5.11, является однородной С°*-функ-
цией и, следовательно, многочленом.
Рассмотрим теперь биекцию к: S(q)—+D(G) из теоремы 4.3.
Она отождествляет коммутативные алгебры S(a) и D(A), а также
множество / (а) всех ^-инвариантов в S (а) со множеством Dw (A)
всех HP-инвариантных дифференциальных операторов на А-о
с постоянными коэффициентами.
Вспомним теперь о проекции D—►£' (п. 1 § 3), переводящей
дифференциальные операторы на X в дифференциальные
операторы на А-о. Мы знаем из теоремы 3.2, что L'X=LA.
Распространим этот результат на другие инвариантные дифференциальные
операторы.
Теорема 5.13. Проекция D—»Df является биекцией D(G/K)
на DW(A).
Доказательство. Пусть элемент g£G отображает
множество А>о в себя. Тогда при некотором а£А имеем g-o = a-o.
В силу этого, a~lg£K и Ad (a~%g) отображает касательное
пространство (А-оH в себя. Следовательно, a~lg£M'f где
М'—нормализатор а в К. Это показывает, что М'А является подгруппой
в G, оставляющей А-о инвариантным. Таким образом, если
D£D(GlK), то D'£DW(A). Для доказательства сюръективности
рассмотрим ортогональное дополнение q к а в р. Ясно, что
B8) gef + a + q.
Пусть

§ 5. Инвариантные диф. операторы на сим, пространствах 337
— базис в fl, совместимый с прямым разложением B8) и орто-
нормированный относительно формы—В(Х, QY). Рассмотрим
множество / (р) всех Ad<? (/С)-инвариантов в S (р). Пусть Р € / (р) —
однородный многочлен степени т. Полагая
N = (tii, ..., ng)9 |N\ = m+ ...+nl9
M = (mif ..., mq), | M | = n%i + ... + mgf
имеем
P = 2 a#, m^i1 • • • HftX™1 ... X™q
\N\ + \M |=m
= Л1 + 2 #W, M^l1 • • • HllXi * . . . XJ1*,
| M | > 0. W
где Рл €«S(a). Действуя на обе части этого равенства группой М'
и замечая, что она сохраняет а и q заключаем, что Ра является
^-инвариантом и имеет степень, равную т. Полагая Z = k(Z)
при Z(Eg, получаем
B9) К (Р) = X (Р0) + 2 aN, * Я? ... Я?'*?1 ... Я? + Q,
| М | > О, ЛГ
где порядок Q меньше т, а I ДО | +1М | = т.
В силу теоремы 1.4 из [ДС, гл. VI], мы имеем биективное
разложениеG = expa(expq)К. При Q б^СР) положим Dq=\i(X(Q)),
где \л: DK(G) —+ D (G/K) —гомоморфизм из теоремы 4.6. Если
F^€(A>o) и функция /€<£(G) определена формулой
F(a-o) = f(aexpXk) при X$q, k£K,
то мы получаем
C0) (D'PF)(a.o) = (X(P)f)(a).
Однако если a (A) =aexp (fti#i + ... + htH$)9 то
(Я?1 ... Н^гХТ1 ... *Л) (a)
ии"^(^'л?,/)(д(>)I
и
х?1 ... яу-хда ... ху^ + г,
где T£D(G) имеет порядок, меньший |Af |. Но по определению
отображения К (D) из § 4) мы имеем
(к(Х? ... *У*)/)(а(Л))-0 при |Л«|>0.
мы заключаем на основании B9)
аторе R£D(G) порядка <m выпо,
(ОД (a-о) «(Ро/7) (а-о) + (/?/) (a)
Таким образом, мы заключаем на основании B9) и C0), что при
некотором операторе R£D(G) порядка <т выполнено равенство

338 Гл. /7. Инвариантные дифференциальные операторы
для всех а£А и F$£(Ao). Если теперь дифференциальный
оператор R записать в системе координат
exp (hxHt+...+ Л,Я,) exp (X&+... +xqXq) exp (/х7\ + ... + tpTp)
то становится ясным (поскольку / в этих координатах не зависит
от (xt) и (/у)), что отображение F—► (/?/) |Л является
дифференциальным оператором на А о порядка, не превышающего
порядок R. Следовательно,
C1) порядок (Dp—P0) < т.
Пусть теперь Q принадлежит множеству / (а) всех ^-инвариантов
в S(a). Мы хотим найти такой оператор D £D(G/K), чтобы
D' = Q = MQ)- Можно при этом считать Q однородным. Пусть
m = deg(Q). В силу следствия 5.12 можно найти такой полином
Р €П#)> что ^n = Q. Но тогда, в соответствии с C1), порядок
оператора Dp—Q меньше т. Однако Dp—Q€/(ct), поэтому
требуемое утверждение устанавливается теперь индукцией по т.
Пусть, наконец, бфО—оператор из D(G/K) порядка т, для
которого D' = 0. Рассмотрим такой однородный полином Р € / (#)
степени т, что порядок D—Dp меньше т. Тогда DP = (DP—D)'
имеет порядок, меньший т, в то время как PQ имеет порядок т.
Это противоречит C1), так что теорема доказана.
Хотя проекция D —*D' является линейной биекцией между
коммутативными алгебрами D(G/K) и DW(A), она не сохраняет
умножение. Это положение дел будет сейчас исправлено
посредством замены разложения B8) на разложение Ивасавы
g = i + a+n,
которое имеет преимущество перед B8) в том плане, что п
является алгеброй, а q таковой не является. Так как разложение
G//C = expnexpao, приводящее к W-радиальной части A(D)
оператора D£D(G/K), похоже на проводившееся выше разложение
G//C = expaexpq-o, которое приводит к проекции D—+D', можно
ожидать, что справедлив аналог теоремы 5.13 для отображения
D—*A(D). с небольшими, но существенными видоизменениями
это в'самом деле верно (см. следствие 5.19). Однако
доказательство теоремы 5.13 не может быть обобщено на данный случай,
поскольку, в то время как разложение G/K = U aexpq-o сохра-
няется группой М'А, разложение G/K = U Nao сохраняется
а$А
только меньшей группой МА,

§ 5. Инвариантные диф. операторы на сим. пространствах 339
Лемма 5.14. Для любого оператора D$D(G) существует
единственный такой элемент D0£D(A), что
C2) D—DQ g nD (G) + D (G) f.
Кроме того,
C3) (Оф)-=Олф,
если y£$(G) удовлетворяет равенству ф (ngk) = <p (g) (n£N,
g€G, k£K) (черта обозначает сужение на А).
Доказательство. Для доказательства равенства C2)
выберем базис Xlf ..., Хп в д, совместимый с разложением g=n+a+f.
В силу следствия 1.10 из гл. II [ДС] каждый оператор D$D(G)
единственным образом представляется в виде
C4) D=^aer..enXe^..Xen\
Пусть Da—сумма тех членов, которые содержат лишь элементы
базиса а. Для доказательства единственности требуется
установить, что
D(A)()(\iD(G) + D(G)t)={0}.
Это, в свою очередь, следует из единственности представления
C4) в сочетании с тем фактом, что п и f являются подалгебрами.
Для доказательства равенства C3) требуется установить, что
(DT<p)(a) = (XD<p)(a) = 0
при D£D(G), 7gf, X£n и а£А. Однако Гф = 0, так что
D7\p = 0. Кроме того,
(XDq>)(a) = lim ±-[(Dq>) (aexp tX) —(Dtp) (a)].
t-+ о l
Это выражение равно нулю, поскольку элемент nt = aexptXa~l
принадлежит /V и потому
(Оф) (а ехр tX) = (Оф)^*') (а) = (Dtp) (a).
Замечание. Оператор Dft является просто радиальной
частью D относительно действия g~+ngk группы NxK на G с
трансверсальным многообразием ЛсС
Пусть ggG и A(g)£a—единственный элемент, для которого
g^NexpA(g)K.
Так как D(A) — коммутативное кольцо полиномов, каждое
линейное отображение vi a —> С единственным образом продолжается
до гомоморфизма из D (А) в С, который обозначим D —► D (v).
Обозначим, далее, через а* сопряженное пространство к а и через
а« множество есех линейных отображений из а в С.

340 Гл. II, Инвариантные дифференциальные операторы
Лемма 5.15. Для любого линейного функционала v: a—*С
функция
(p(g)=^ev{A(ke»dk
к
является собственной для любого оператора D£DK(G). А именно,
Dtp = D0 (v) ф при D€DK(G).
Доказательство. Пусть F(g) = £v Ai&\ D$DK(G). Тогда
F(ngk) = F (g), так что в силу C3)
C5) (DF) (a) = (D0F) (a) = Da (v) F (a).
Функции DF и D0 (v) F являются левоинвариантными относительно
N, правоинвариантными относительно /Сив силу равенства C5)
совпадают на А. Следовательно, DF = D0(v)F и
Dg( S F(kg)dk) = J (DF) (kg)dk = D0 (v) \F(kg)dk.
\K J К К
Тем самым лемма доказана.
Теорема 5.16. Пусть р = у V таа и
аб2 +
к
Тогда
Ф^=фг л/ш любом s£W.
Здесь, как обычно, sv(H) = v(s~lH) при Н$а.
Доказательство. Достаточно доказать для любой функции
f£Cc(G) равенство
C6) \4>sAg)f(g)dg=\q>v(g)f(g)dg.
G G
Так как обе функции ф5Л? и <pv биинвариантны относительно /С#
достаточно это равенство доказать для биинвариантных
относительно К функций /. В соответствии со следствиями 5.2 и 5.3
гл. I, для разложения g = nak справедливо соотношение
dg = e~*^x°zvdndadk.
Поэтому при f£C$ (G) имеем
О KG
^ J g(*v+p)Mu»/ (g)dg= $ da J #»-Mlo*a>l(na)dn.
G AN

§ 5. Инвариантные диф. операторы на сим. пространствах 341
Таким образом, в обозначениях теоремы 6.7 гл. I мы получаем
C7) l<Pv(g)f(g)dg=leW°*°)Ff(a)da, /fiCJI (О).
О А
Теперь требуемый результат вытекает из содержащегося в
упомянутой теореме функционального уравнения Ff(as) = F/(a).
Теорема 5.17. Отображение
у: D—^e-PDooeo
является гомоморфизмом DK (G) на Dw (А) с ядром DK (G) n D (G) f.
Доказательство. Отметим прежде всего, что при
каноническом отождествлении D(A) и S(a) автоморфизму D—>e-pDoep
алгебры D{A) соответствует автоморфизм р—*'ръ S(ct),
определяемый равенством 7/ = // + р(#). В самом деле,
er*H(*f) = {H + 9(H))f.
Для доказательства гомоморфности у рассмотрим операторы
D' и ТУ из DK(G). Тогда
D'D'-Doti'b = D[ (D"-Dl) + (Df -D0) D\
где D'—D0 и Dn—D\ принадлежат nD(G) + D(G)l. Так как при
Tgl справедливо равенство TDn — D"T, мы получаем
(D'—D'u) D" g nD (G) + D(G)l
Поскольку [n, a] en, справедливо включение
D0(D"-DD<tnD(G) + D(G)l
Таким образом, (D'D"H = D"QDi т. е. у является гомоморфизмом.
Докажем, далее, что для любого непостоянного полинома
C8) deg(Y(M/0)-/>)<deg (/>).*>
Здесь через q —>q обозначено отображение из S(p) на S(a),
задаваемое разложением S(p) = S(a)-fS(p)q. (Если S(p) и S(p*)
отождествлены с помощью формы Киллинга, то q означает
сужение q\a.) Пусть d—степень/7. При доказательстве утверждения C8)
мы можем предполагать полином р однородным. Если записывать
элементы X £ q в виде
X = Z—0Z = 2Z—(Z + 6Z),
4> Через degp обозначается степень полинома р. —Прим. перев.

342 Гл. II. Инвариантные дифференциальные операторы
где Zgn, то становится ясным, что
(здесь Se(c()—множество однородных элементов из S(g) степени е).
Теперь, Х(р) = р и
Mw2)-4<7i)M<72)€ 2 MS* (в))
при <7igSd» (я), ^2 gSd* (д). Отсюда следует, что
b(p)-p£nD(G) + D(G) t + 2 ^(S*(в)),
что в свою очередь влечет C8).
Для проверки того факта, что ядро у равно DK(G)()D(G)f,
рассмотрим оператор D £ DK (G) П D (G) t. Так как функция <р из
леммы 5.15 /(-инвариантна, мы получаем, что D(p = 0, т. е.
D0(v) = 0 при всех v и, тем самым, y(D) = 0. Пусть, с другой
стороны, оператор D£DK{G) таков, что y(D) = 0. В силу
следствия 4.8, справедливо равенство D = k(p) + D', где D'£DK(G)
f]D(G)t и /?g/(p). Таким образом, у(к(р)) = 0. После
разложения р на однородные компоненты становится ясным, что р имеет
ту же степень, что и р. Поэтому, в силу C8), р = 0, т. е.
D$DK(G)(]D(G)l.
И, наконец, докажем, что y(DH(G)) = Dw(A). Пусть D £ DK (G).
Рассмотрим функцию cpN из теоремы 5.16. Ясно, что
C8') Dcpv = D0 (iv + р) <pv = у (D) (iv) <pv,
и из теоремы 5.16 вытекает, что y(D)£l(a). Пусть
q—произвольный однородный полином из / (а) и d—его степень. Докажем
индукцией по d, что существует такой оператор D£DK(G), для
которого y(D) = q. Это очевидно при d = 0, поэтому рассмотрим
d>0. Пусть полином /?g/(p) таков, что p = q (следствие 5.12).
В силу C8) степень у(к(р))—р меньше d и, как мы уже
доказали, этот полином принадлежит / (а). По предположению
индукции, существует оператор D1^DK(G)i для которого y(D)t
= у(Х(р))—р. Но тогда оператор D = X(p)— D, принадлежит
&кФ) и удовлетворяет равенству y(D) = q.
Комбинируя отображение |li из теоремы 4.6 с отображением у,
введенным выше, мы получаем следующий результат.
Теорема 5.18. Отображение
Г-, D(G/K)-+DW(A),
определенное формулой Г(|li (D)) = у (D) при D^DK(С), является
сюръективным изоморфизмом.

§ 5. Инвариантные диф. операторы на сим- пространствах 343
Следствие 5.19. Пусть kN(D)—радиальная часть оператора
D£D(G/K) относительно действия группы N на G/K с трансвер-
сальным многообразием А-о. Тогда отображение Г задается
равенством
T(D) = e-eAN(D)oep
и является изоморфизмом алгебры D(G/K) на DW(A).
Действительно, пусть оператор E$DK(G) таков, что \i(E) = D.
При этом Ef = (Df)~ для f££(G/K). Выбирая функцию /
инвариантной относительно действия группы N, мы получаем отсюда
равенство EJ = AN(D)f, где / = /1Л о. Таким образом,
Г (D) = Г (pi (£)) = у (Е) = е~»Е0оеР = e~^N (D)o^p.
Следствие 5.20. Для лапласиана Lx на X = G/K справедливо
равенство
Г(^) = ^-<Р, Р>.
В самом деле, это немедленно следует из сопоставления
предложения 3.8 со следствием 5.19.
Лемма 5.21. Для любого оператора D$D(G/K) имеет место
равенство
Г@*) = 6Г@),
где s—это симметрия gK—>Q(g)K.
Доказательство. Пусть f£@>% (G). Рассмотрим функцию
F*(£) = e-p^<*» ]f{ng)dn
N
и такой оператор E£DK(G), что \x(E) = D. Тогда
Eg (#(А <*»7* (g)) = S (Ef) (ng) dnt
N
где нижний индекс g обозначает дифференцирование по
переменным g. Функция g —* е9 (А {g))F* (g) левоинвариантна
относительно N и правоинвариантна относительно /С. Заметим также,
что по следствию 5.2 из гл. I F*(a) = Ff(a) при любом а£А.
Применяя теперь лемму 5.14 к функции q>(g) = e()(AWF* (g),
получаем основную формулу
C9) y(E)F, = FEr

344 Гл. II. Инвариантные дифференциальные операторы
Из C7) мы выводим следующие равенства для сопряженных
операторов Е* и у(Е)* к операторам Е и у(Е) на А\
l(E*<Pv)(g)f(g)dg=\<pAg)(Ef)(g)dg
о в
= 5 еМЬв")^/ (a) da = [ e^iogo) (у (Е) F,) (а) da
А А
= jY(^)e(^v(loee))^/(a)dfl*
А
т. е.
Y(£»)(fv)SVv(gr)/(fir)^ = Y(^*(^MVv(g)/(gr)dgr.
G G
Отсюда следует, что у (Е*) = у (£)*. Однако
Y(£)* = er(D) и Y(^*) = r(ji(f)) = r(D*) = r(D*)
(следствие 5.3), так что лемма доказана.
Следствие 5.22. Пусть D£D(G/K). Тогда проекция D'
оператора D на А -о и его N-радиальная часть &N (D) имеют
одинаковые старшие члены, т. е. порядок оператора D'—AN(D)
меньше порядка D.
Мы можем предполагать, что D = DX{P) (в смысле теоремы 4.9),
где полином Р € / (р) однороден. В силу неравенств C1) и C8)
имеем
D0) порядок оператора T(D)—D' меньше порядка D.
Поэтому наше утверждение вытекает из следствия 5.19.
Утверждение следствия 5.22 весьма естественно, поскольку
при а$А касательные пространства к многообразиям Na-o и
aexpq-o в точке а• о совпадают. Если а$А+9 то это также верно
для орбиты Ка-о, так что можно ожидать наличия некоторого
аналога следствия 5.22 и для К -радиальной части A*(D). Мы
докажем такого рода утверждение в более точном виде.
Пусть аи ..., аг—система простых корней из 2+ (см. [ДС,
§ 2 гл. VII]) и Л—множество всех линейных комбинаций вида
n^i + ... +nlal (nt € Z+). Обозначим через Э1 кольцо всех функций
на Л+«о, разложимых в абсолютно сходящиеся ряды на А+-о
вида
D1) / (ехр Н. о) = 2 W* {Н\ ад € С,
с нулевым свободным членом я0 = 0. Заметим, что f является
суммой степенного ряда в переменных х/ = ^~а/(Я). Кольцо Э1
инвариантно относительно действия любого оператора D$D(A).

§ 5. Инвариантные диф. операторы на сим, пространствах 345
Предложение 5.23. Пусть D$D (G/K) —произвольный оператор
порядка q. Тогда существуют такие функции git ..., gk€9l и
операторы Eit ..., Ek£D(A) порядка, не превосходящего q—1,
что К-радиальная часть &k(D) удовлетворяет равенству
AK(D) = e^T(D)oe^ + ZgiEi.
Доказательство. По аналогии с леммой 5.14, справедливо
прямое разложение
D2) D(G) = D (А) 0 (9 (n) D (G) + D (G) f).
Если E£Dq(G) и (Х{)—базис в п, совместимый с разложением
п= 2 8а алгебры п на корневые подпространства ga, то мы
можем выбрать такие операторы Di^D<'(G)9 что
D3) Е-ЕА-% (QX{) D^D (G) I
i
Здесь ЕА—это D (Л)-компонента Е, соответствующая разложению
D2). Пусть Х^Йа, Х( = У{ + г{ (F,€ts Z,€l) и Л = ехр#—эле-
мент из А+. Тогда
Ad (/г*) Z, = \ (Ad (/г*) Xt + 0 Ad (h) Xt)
= 4 (*"a <Я) (Yi + zi) + <? Ш) (~Yi + zd)
т. e.
K, = ctha(#)Z< —(sh a (#))"* Ad (/r1)^.
Таким образом,
bXi = g*{h)Zt mod (Ad (/Г*) f),
где g,aW = 1— ctha(#), т. е. ga€«^- Подставим полученное
выражение для.0Х{ в D3) и заменим Zp{ на В{1{-\-\1{, DJ. Здесь
D^i^D^G)! и [Z„ D^^D*-1^). Повторяя этот процесс с
заменой Е на [Z(, D{] и т. д., получим индуктивно такие элементы
й€Я, Е^О«-1(А), что
D4) E-EA-2gi(h)Eie(Ad(h^)l)D(G) + D(G)l.
Мы можем, в частности, взять в качестве Е оператор из DK(G),
для которого |x@£) = D (в соответствии с теоремой 4.6).
Применяя 0 к D3) и сравнивая полученное включение с C2) и с
теоремой 5.17, видим, что Г (D) = y(QE) = e~()QEAoep. Переходя
к сопряженным операторам на Л, получаем Г (D)* = е9ЕАое~р, т. е.
U5) EA = er*Q(T(D))oeP.

346 Гл. II. Инвариантные дифференциальные операторы
С другой стороны, если
C£(Ad(h-1)t)D(G) + D(G)l
и fG&b (G/K), то
D6) (С?)(Л) = 0.
Это очевидно, если CgZ)(G)f. Кроме того, если Tgf, E0£D(G),
то
((Ad (А-*) Г) £0 f) (Л) = (Г« <">£„/) (Л) = (Г (£0/)«<"-')) (в) = 0.
Далее, ц (£) = ц F9£) = Ds, так что, в силу D4) и D6),
(A, (D*) f) (ft ■ о) = (D'/) (А • о) = (£?) (Л)
MSJ) (Л)+ 2*1 (А) <£/)(*)•
Это показывает, что
AK(D*) = EA + 2g{Ei = e-*Q (Г (D))o«p + 2 *А
Поэтому, заменяя D на Ds и используя лемму 5.21, мы
получаем доказываемое утверждение.
3. Вид лапласиана в полярных координатах
Мы приведем сейчас выражение для лапласиана Lx на X,
соответствующее полярному разложению X' =К/МхА+ -о (см.
Хелгасон [1978, ел. 1.2 гл. IX]).
Пусть I—ортогональное дополнение к m в f относительно
формы Киллинга В на g. Диагонализуя операторы (ad ЯJ (Н g a),
получаем
1= 2 *«>
ае2 +
где
fa={T€f; (adНуТ = а(ЯJТ при tfga}.
Так как отображение X —-► X + 8Х переводит корневое
подпространство ga на |а, мы видим, что
dimta«=ma,
где та—кратность корня а. Пусть Tf, ..., Т%а—базис в fa,
ортонормированный относительно формы —В. Положим о>а =
2 TfTf, где Tf рассматриваются как дифференциальные опера-
торы на G. Если f€£(X), то обозначим через / функцию /оя.

§ 5. Инвариантные диф. операторы на сим, пространствах 347
Теорема 5.24. Оператор Лапласа—Бельтрами имеет в
полярных координатах следующий вид:
(Lxf)(ka.o) = (LA+ 2 ma(ctha)Aa)a(f(ka.o))
+ 2 sh-a(a(loga))(Ad(a-1)(oa/)(b).
aeS+
Здесь k£K, a£A + , f£g(X) и LA—лапласиан на А о.
Доказательство. Из теоремы 3.5 и равенства A2) § 3
нам известно, что
D7) (Lxf) (ао) = (LKa.0 /*) (а. о) + (Л (LX)J) (а-о),
где LKa.0 — оператор Лапласа — Бельтрами на орбите Ка-о, f* —
сужение / на эту орбиту и /—сужение / на А-о. Пусть 0 = а-о
и ф: k—>k-0—естественное отображение группы Л' на орбиту
КО (которую можно отождествить с К/М).
Лемма 5.25. Положим Xf = (sh a (log a))~xTf. Тогда векторы
dtp (Xf) при 1 ^ i ^ ma, a g 2+ образуют ортонормированный
базис в касательном пространстве (К-0H.
Доказательство. Дифференциал dtp отображает I на
данное касательное пространство. Так как
Ф (exp tTf) = a exp Ad (a'1) tTf • о,
мы видим, что
dtp (Tf)=d% (a) (Ad (ОТ?),,
где х(а)—оператор сдвига gK—+agK на G/K, р отождествляется
с (G/KH, а индекс р обозначает операцию взятия компоненты
в разложении g = i + р. Однако
(Ad (a"») 7?% = | [Ad (a) Tf-Ad (a) Tf],
т. e.
D8) В (dcp (Tf), dtp (Tf)) =| В (Tf-Ad (a2) Tf, T^-Ad (a2) Tf) .
Если раскрыть это выражение и использовать равенство
Ad (a2) Tf = ch 2a (log a) Tf (mod p),
то мы получим требуемый результат из равенства D8).
Для завершения доказательства теоремы 5.24 рассмотрим на
орбите КО следующий дифференциальный оператор D:
D9) (D/) (А-О) = /2 сЭ1 а/ (Аехр B«, **f)-Ol
1.1. a J*i, a

348 Гл. II. Инвариантные дифференциальные операторы
где д(, а = д/dxt, а. Он определен корректно. В самом деле, если
k-0 = k1-0, то kx = km (m£M) и Ad (m) определяет ортогональное
преобразование на каждом из пространств fa. Кроме того,
оператор D является /(-инвариантным.
В локальных координатах
ехр B Xit aXf) 0—+Xtta
вблизи точки О на орбите К О касательные векторы (dit aH орто-
нормированы. Это следует из леммы 5.25, поскольку
(di,aH(f) = [4rf№ptXf.O)]t=<)=<Up(Xt)f.
Отсюда в свою очередь вытекает, что лапласиан L'=Lk.o
удовлетворяет соотношению
(L'f) (О) = 2 Ф1 af) (О) + члены младшего порядка.
U a
Таким образом, оператор D—V имеет порядок, меньший двух,
в точке О и, следовательно, всюду (в силу /(-инвариантности).
Предположим теперь, что Ас1к(Л4) не имеет ненулевых
неподвижных векторов Т g I. Тогда по теореме 4.9 на пространстве
К/М не существует /(-инвариантных дифференциальных
операторов порядка 1. Таким образом, по предыдущему, имеем D = LK.0.
Подставляя теперь определение Xf в определение оператора D
и полагая 0 = а-о, мы получаем
(Lxf)(a-o) = (A(Lx)n (<*•<>) + 2 sir»[a(loga)] К(/«<*-»)] (е).
ae2+
Однако
К (F« {а'1})] (е) = (©5 <«fi* <•-> (e) = (Ad (a^) coj) (a),
так что утверждение нашей теоремы при & = е получается теперь
применением предложения 3.9, дающего описание радиальной
части A(Lx). Если же заменить функцию / функцией х-+ f(k-x),
то мы получим требуемое утверждение при произвольном k.
Нам остается разобраться с возможностью существования
неподвижного вектора у Ad^ (M) в I (и это в самом деле бывает
в некоторых нетривиальных примерах пространств X). В этом
случае приведенное доказательство дает утверждение теоремы 5.24
только с точностью до некоторого /(-инвариантного векторного
поля. Применим эту формулу к оператору Казимира Q из упр. А8.
Поскольку векторные поля Za аннулируют правоинвариантные
относительно К функции на С и поскольку p(&) = Lx (упр. А4),

§ 5. Инвариантные диф. операторы на сим, пространствах 349
мы получаем
(Lxf)(ka-o) = (LA+ 2 ma(ctha)Aa) (f(ka-o))
\ оь€2+ J a
-2 2 sh"MP (log a)) [Ad {d~i)ZzZ J] (ka).
P6P+
Теперь легко видеть, что
2 _2 Zp^-P = ~ юа»
где Р—сужение Р на а. Это завершает доказательство теоремы 5.24.
4. Оператор Лапласа—Бельтрами
на симметрическом пространстве ранга один
Пусть X—евклидово пространство или риманово глобально-
симметрическое пространство ранга один. Мы выведем сейчас
полезное геометрическое выражение для оператора Лапласа —
Бельтрами Lx на X.
Обозначим, как обычно, через Sr(p) (где р£Х) сферу
радиуса г в X с центром в точке р. Если X некомпактно, то Sr (p)
является образом относительно диффеоморфизма Ехря сферы в
касательном пространстве Хр. Если X компактно, обозначим через L
его диаметр, т. е. максимальное расстояние между двумя
точками из X. При г < L по-прежнему Sr (p) является диффеоморф-
ным образом некоторой сферы в пространстве Хр (см. Хелгасон
[1978, теор. 10.3 гл. VII]). Это, конечно, неверно для SL (p)
(возьмите, например, Х = $2). Тем не менее, SL(p) является
подмногообразием в X, являющимся орбитой некоторой компактной
подгруппы группы Ли 1(Х) (Хелгасон [1978, § 3 гл. IV]).
В общем случае Sr(p) является при каждом г
подмногообразием в X и обладает римановой структурой, индуцированной
из X. Пусть А (г)—площадь Sr(p), т. е. полная мера Sr (p)
относительно римановой меры на Sr(p). (Если dimX= 1, т. е. X = RX
или X = S1, то А (г) понимается как количество точек в Sr(p).)
В силу однородности X, А (г) не зависит от выбора точки р.
Рассмотрим декартовы координаты @lf ..., 9л-1) на открытом
подмножестве единичной сферы S1 @) в Хр. Обратное к
отображению
E0) (в1? ..., ея.ь г) -* Exp, (rQu ..., /-9„_i)
называется системой геодезических полярных координат в точке
P&X. Здесь г пробегает интервалы 0 < г < оо в некомпактном
и 0 < г < L в компактном случаях. Если фиксировать г, то
система {6if ..., &n_i} может рассматриваться как система
координат на открытом подмножестве в Sr(p).

350 Гл. II. Инвариантные дифференциальные операторы
Предложение 5.26. В описанных выше геодезических полярных
координатах в точке р оператор Лапласа—Бельтрами Lx на X
имеет вид
г __д> 1 dA д г
где Ls—оператор Лапласа — Бельтрами на Sr(p). Здесь 0<г < с»,
если X некомпактно, и 0 < г < L, если X компактно.
Замечание. Сравните данный результат с теоремами 3.5
и 3.7.
Доказательство. Положим 6Л = /\ Пусть
Ei) ds2= 2 gu(Bu ..., ejd9.de,
t. /= 1
— риманова структура на X, выраженная в геодезических
полярных координатах в точке р. Пусть, как и ранее, g = det(gif) и
(gr'7) = (gr//.)-1 (имеется в виду обратная матрица к (gi/)). Как
показано в гл. I [ДС], геодезические, выходящие из точки р,
пересекают Sr(p) ортогонально. Поэтому формула E1) приводится
к виду
E2) ds* = dr*+ 2 gi/(Qi§ ..., Qn_u г)*,*»,.
i. /=1
Обозначим через / тождественное отображение из Sr(p) в X.
Тогда /*(dr2) = 0, т. е. риманова структура на Sr(p) имеет вид
E3) 2 gt/Фг e„_lf r) #,<&,.
i, /=1
Используя E2), получаем
E4)
>к:
, _ » 1 дУ8 д I "^ д (aiiV= д \
Пусть Л—это матрица (g(y)i<*, /<«, а В—матрица (gr//)i<£. /<n-i-
Тогда
*-(??)• *—(V!)- *"•-**
Следовательно, последнее слагаемое в E4) является оператором
Лапласа —Бельтрами Ls на Sr(p).
Подгруппа изотропии точки р в I (X) действует транзативно
на множестве выходящих из р геодезических. Отсюда следует,

§ 5. Инвариантные диф. операторы на сим, пространствах 351
что функция
1 д Vg
зависит только от г, т. е.
и
V g z=ea(r)eV(Qi e"-j>
при подходящих функциях а и р. Заметим, что а' (г) не зависит
от выбора координат {0U ..., 9Л-1}. То же самое верно и для
a (/•), если фиксировать, например, значение a(L/2) равенством
a(L/2) = l. Далее,
А (г) = J d(o,
Sr(P)
где do — риманова мера на Sr(p), локально определяемая как
Вспоминая, что a(/•) не зависит от выбора {0^ ..., 0Л-1},
заключаем, что
А(г)=Сс«м (С = const),
т. е.
1 dKj _ 1 с*Л
[/"J аг " л (г) dr *
Доказательство тем самым закончено.
Объем V (г) шара Вг (р) вычисляется как
Аг(Р)
где dq—риманова мера на X, имеющая в локальных координатах
вид У g drdQi-. .dQnmml. Отсюда следует равенство
г
к (г)=5 л(ол.
о
Определим теперь функцию А (г) в теоретико-групповых тер*
минах. Мы можем ограничиться случаем полупростой группы
изометрий I (X). Пусть G—её связная компонента единицы /0 (X)
и /CcG — подгруппа изотропии некоторой фиксированной точки
о$Х.

352 Гл. II. Инвариантные дифференциальные операторы
Предположим вначале, что X некомпактно, и рассмотрим
разложение Картана g = f + :p алгебры Ли g группы G. Мы
предполагаем, что риманова структура на X определяется с помощью
формы Киллинга на д. Пусть аар—максимальное абелево
подпространство (которое в рассматриваемом нами случае одномерно).
Как показано в § 4 гл. I, в качестве следствия из формулы для
дифференциала отображения Exp: $—>G/K мы имеем равенство
E5) Л(г)= j
Sr@) \ 0 /
где Sr@)—сфера |У| = г в £ и TY—сужение (ad7)a|^. Пусть
±а и, возможно, ±2а—ограниченные корни. Обозначим их
кратности так: р = та, q = m2a. Выберем такой элемент Я0^а,
что а (Я0) = 1. Тогда
В (Я0, Я0) = 2 [pa (Я0J + q Ba (Я,))»] = 2 (р + 40,
и вектор Аа£а, определенный равенством В (Я, Ла) = а(Я),
удовлетворяет соотношению
В(Аа9 Aa) = 2(pa(Aa)* + qBa(Aa))*)9
т. е.
a(Aa) = Bp + 8q)-\ Aa = Bq + 8q)-*Hv
Для вычисления подынтегрального выражения в E5) мы можем
положить Y = Hn где
Яг = г \Аа |-Мв = г Bр + 8^I/»Лв.
Так как собственные значения оператора (ас!ЯгJ|^ равны О,
а(ЯгJ (с кратностью /?) и Bа (Яг)J (с кратностью <7), мы имеем
^{^ THr \ _(sha(Hr)\Pfsh2a(Hr)y
ael^2uBFPTny""V *(Hr) J \ 2a(Hr) J '
так что при c = B/? + 8<7)-1/2 получаем
E6) А (г) = Q,+a+12-«c-'-e sh' (cr) sh« Bcr).
Аналогичным образом в компактном случае получаем равенство
E7) А (г) = Qp+q+12-*c-P-* sin p (cr) sin* Bсг)9
уже установленное ранее в гл. I (лемма 4.10 и формула D0) § 4;
заметим, что корни в § 4 обозначались иначе).

§ 5. Инвариантные диф. операторы на сим, пространствах 353
5. Обобщенное уравнение Пуассона
В лемме 2.35 гл. I мы вывели классическую формулу для
решения уравнения Пуассона Lu = f в R". Теперь, применяя
предложение 5.26, мы распространим ее на произвольные
симметрические пространства ранга 1.
Теорема 5.27. Пусть X—евклидово пространство или рима-
ново глобально-симметрическое пространство ранга 1 и f££D(X).
Решение уравнения Пуассона Lxu = f может быть найдено
следующим образом:
(\) если X некомпактно, то
E8) и(р) = \Н(р, q)f(q)dq,
X
где
d{p, q)
E9) H(ptq)= J ^dr;
(ii) если X компактно, то решение существует в том и только
том случае, когда ^ / (q) dq = 0; при выполнении этого условия
единственное решение уравнения Lxu = /, удовлетворяющее
соотношению } и (q) dq = 0, определяется формулой
и(р)=1<1(р> 4)fD)dq9
х
где
d(p, q)
G(p.q) = m ) A(r) dr-
Доказательство, (i) Для функции и, задаваемой
формулой E8), имеем
00 00
u(p) = ]dr 5 Н(р, q)f(q)d»(q) = ]*(r)A(r)[M'f\(p)dr9
О Sr(P) 1
где
г
1
a [Mrf](p)—среднее значение функции / на Sr(p). Используя
теперь лемму 2.14 гл. I и предложения 4.12, 5.26, мы получаем
00 00
[Lxu] (р) = J * (г) А (г) [LxM'f] (p) dr = $ i|> (r) A (r) Lr [M'f] (p) dr.
о о
12 с. Хелгасон

354 Гл. II. Инвариантные дифференциальные операторы
Здесь
г _ д$ 1 dA д
Ьг"~ dr? + А (г) dr дг '
Фиксируя р и полагая F(r) = [Mrf] (/?), имеем
00
[Lxu] (р) = S {* W Л (О F" (г) + * (г) Л' (г) F' (г)} dr
О
со
= Urn ft (г) Л (г) /?' (г)]Г— [ F' (r)dr-
г-+ О О
Далее, при е —* 0 также и -ф (е) Л (е) —► 0, а функция F (г) равна
нулю при достаточно больших г. Следовательно,
[L^](p) = F@) = /(p).
Выбор функции Н (/?, <7) = г|)(я((/?, (/)) в действительности
мотивируется тем, что уравнение
F0) (Lx)Q(H(pt q)) = bp
(где 8р—дельта-распределение f—+f(p)) приводит к уравнению
d2y> 1 dA dy _ 0
dr? + Л (г) dr dr "~ U*
(ii) В компактном случае для любой функции u£d>(X) имеет
место равенство \ Lxu (q) dq = 0 (предложение 2.3). Принимая во
внимание этот факт, заменим F0) уравнением
которое при подстановке G(p, q) = (p(d(p, q)) приводит к
уравнению
коэффициенты которого, вообще говоря, неограничены вблизи
точек г = 0 и r = L. Функция
ф(г)_ 1 CV(D-V(t)dt
ф^ V(L)J A(t) ai
является решением уравнения F1), неограниченным вблизи точки
г = 0 (если п>1), но ограниченным вблизи r = L. поскольку

§ 5. Инвариантные диф. операторы на сим, пространствах 355
V(t) = A(t). Полагая u(p) = }G(p, q)f(q)dq, мы получаем
L L
и(р) = $ dr $ G(p,q)f (q) dco (q) = $ cp (r) A (r) [M'f] (p) dr.
0 Sr (P) 0
Положим F(r) = [Mrf] (p) и заметим, что ф (г) А (г) —*0 при r—+L
(и при г—►О, если л> 1). Если л=1, то F'@) = 0. Теперь, как
и выше, имеем:
L
[Lxu] (р) = J {ф (г) А (г) Г (г) + <р (г) А' (г) F' (r)} dr
О
L
= [Ф (г) А (г) F (r)]t - \ ф' (г) А (г) F' (r) dr
О
о
= F@)-F(L)+[f(r)^g-]^-7i7^(r)[M7](/?)dr
О
= f(p)-F(L) + F(L) _T^.J/(<7)d<7 = f(/7).
Af
Таким образом, Lxii = f. Кроме того,
\u{p)dp=\f(q)dq\G(Pi q)dp = Ot
X XX
поскольку )G(p, q)dp не зависит от q и }f(q)dq = 0.
Для доказательства единственности предположим, что ut и
и2—два решения уравнения Lxu = f, удовлетворяющих условию
\ и (q) dq = 0. Тогда их разность v ортогональна константам на X
и подпространству Lx(<g(X)). Значит, так как существование уже
доказано, функция v ортогональна <£> (X). Следовательно, v = 0.
6. Обобщение теоремы Асгейрссона о среднем
В своей работе [1937] Асгейрссон доказал следующий
результат. Пусть функция u£C2(R2n) удовлетворяет
ультрагиперболическому уравнению
дх\ дхп ду\ дуй
Тогда при любом г>0и для любой точки (х0, у0) = (х°19 ..., х°п,
У\> •••> Уп) справедливо следующее равенство интегралов по
12*

856 Гл. II. Инвариантные дифференциальные операторы
(п—1)-мерным сферам:
F3) J u(xf y0)d(u(x)= J u(x0t у) (fa (у).
Sr (*o) Sr Ш
Эта теорема была доказана Асгейрссоном для функций и класса С*
в подходящей области в R2n.
Очевидно (если выбрать функцию и не зависящей от
переменных у) у что из F3) следует теорема Гаусса о среднем значении
решений уравнения Лапласа LRnu = 0 в Rn:
"(*o)=tW J u(x)d(d(x).
sr <*o)
Кроме того, используя равенство F3), можно вывести формулу
для решения волнового уравнения
г д*и
в Rn (см. упр. F1).
Мы сейчас сформулируем и докажем некоторое обобщение
теоремы Асгейрссона на случай симметрического пространства X
ранга один. Пусть L = LX—оператор Лапласа — Бельтрами на X.
Рассмотрим, как и в п. 3 § 4, оператор сферического среднего
F4) (М'П(х)~-^ J f(s)<fa(s) (r>0).
Sr(x)
Теорема 5,28. Пусть X—симметрическое пространство
ранга 1 (или Rn) и функция и£С2(ХхХ) удовлетворяет
дифференциальному уравнению
F5) Lx(u(x, y)) = Ly(u(x, у))
на ХхХ. Тогда для любого г>0« любой точки (х0, у0)£ХхХ
справедливо равенство
F6) J u(xy y0)d(o(x)= J u(x0, у) da (у).
Sr <*o) Sr (y0)
Доказательство. Если /г=1, то решение уравнения F5)
имеет вид
и(*> У) = 4>(х + У) + У>(х—У)
и равенство F6) сводится к очевидному соотношению
и(х0—г, Уо) + и(х0 + г, y0) = u(x0t y0—r) + u(xQ, у0 + г).
Следовательно, можно считать, что п ^2

§ 5. Инвариантные диф. операторы на сим, пространствах 357
Прежде всего, пусть функция и £ С2 (Хх X) произвольна.
Образуем функцию
F7) U (r, s) = (M[Ms2u)(x, у).
Индексы 1 и 2 здесь показывают, что рассматриваются
усреднения по первой и второй переменной соответственно. Так,
например
(М[и)(х, У) = -щ J tl(s' #)do)(s)-
Sr(x)
Пусть о£Х—«начало координат». Положим X = G/K, где G =*
= /0(Л) и /CcG—подгруппа изотропии точки о. Если gt h£G,
r = d(ot h-o) (где d—расстояние), то, в силу результатов п. 3 § 4,
F8) (Л!'/) (ё-о) = S / (Skh • о) <№ при / € С (X),
где d&—нормированная мера Хаара на /С. Меняя порядок
интегрирования, получаем
F9) U (г, s) = (М[М\и) (х, у) = (Af jM&O (я, у).
Фиксируя # и х, имеем в силу предложений 5.26 и 4.12
lr + T|7)^/(r)^==L-(MlM^(^ y))
= (M{LXM^)(*, r/) = (MtMlLlW)(x, у).
Последнее равенство следует из того, что операторы Lt и Ml
действуют по разным переменным. Аналогично, используя F9),
заключаем, что
^+TW^/(s)^==(MiMIL2W)(x> уЬ
Теперь, предполагая, что и является решением уравнения F5),
из предыдущего получаем
дг* + а (г) Л 1Г' аг ~ as2 ^ л (s) Л w as •
Полагая F(r, s) = £/(/-, s) — f/(s, г), приходим к соотношениям
<то S+TfowZ-Zr-TkA-mZ-o.
F(r, s) = -F(s, r).
гнства G0) на 2А (г)
После умножения равенства G0) на 2А (г) dF/ds и некоторых
преобразований получаем

358
Гл. 11. Инвариантные дифференциальные операторы
Рассмотри лрямую MN в плоскости rs, задаваемую уравнением
r + s = const, и проинтегрируем последнее выражение по
треугольнику OMN (см. рис. 11). Используя формулу Стокса (см. B6)
в § 2 гл. I), мы получим равенство
OMN
OMN
Здесь п—единичный вектор внешней нормали, dl—элемент длины
дуги и точкой • обозначается скалярное произведение.
Рис. и
г, s
На OMN справедливо неравенство s^r, так что при малых
А (г)
тут Л' (s) <Crw~1s-1 <Grw-? (С = const).
A(s)
Поэтому последний интеграл действительно существует (ибо у нас
/г>2). Используем теперь следующие данные:
на MN: n = B->/*, -2-»/»), F(r, r) = 0, т. е. ^+^ = 0;
на MN: n = B-i/a( 2-»/■);
на ON: Л(г) = 0.
Тогда приведенное выше выражение приводится к виду
G.) 2-, $4М(*_-)',+$$«£«(»)•**_..
MN OMN
Рассмотрим теперь отдельно компактный и некомпактный случаи.

§ 5. Инвариантные диф. операторы на сим, пространствах 359
I. X некомпактно. Мы утверждаем, что в данном случае
А'(г)^0 при всех г^О. Если X = Rn, то это очевидно. Поэтому
можно считать группу G полупростой. Но тогда данное
неравенство вытекает из равенства E6). Следовательно, оба слагаемых
в G1) аннулируются1}. В частности, U(r, 0) = £/@, г), что и
дает требуемую формулу F6).
II. X компактно. В этом случае из E7) следует, что A' (s)^0
на некотором интервале 0^s^r0. Как и выше, мы можем
заключить, что £/(r, 0) = f/@, г) при 0^г^г0. Для того чтобы
перенести этот вывод на все значения г, приблизим решение и
уравнения F5) аналитическими решениями. Пусть ф,
г|)—аналитические функции на компактной группе Ли G, снабженной мерой
Хаара dg. Рассмотрим свёртку
G2) иф. ф (х, у) = J J и (gf1 • х, g2x • у) ф (&) г|) (gt) dgt dg2.
G G
Тогда
Lx (иФ> * (х, у)) = J J (Lxw) (gf1 • х, g2 • у) ф (&) ф (g2) dgfx dg2
GG
так что
G3) $ «ф, * (х, #0) d<o (х) = J иф, ^ (х0, у) da> (у)
при 0^r^r0. Определим при f^C(XxY) функцию f на GxO
равенством
f(&. S2)=f(gi-o, g2-o).
Тогда равенство G3) можно записать как
G4) J иф, ^ (gxkht g2) dk=\ u<p, ^ (gi, #2АЖ) d&
к /с
при всех таких h$G, что d(o, h-o)^.r0. Выполняя замену
переменных в интеграле G2), приходим к выводу, что функция иф, ^
аналитична на ХхХ, так что иф, ^ аналитична на GxG.
Поскольку равенство G4) справедливо для всех h из некоторого
открытого подмножества в G, оно верно при всех /igG.
Подставляя определение G2) в G4), мы видим, что при любом h^G
функция на GxG
G5) (г, со) —^ ^ [и(г-^№> со^)—^(г^, <*-xg2kh)]dk
к
*> Ибо они неотрицательны, а их сумма равна нулю.—Прим. перев.

360 Гл. II. Инвариантные дифференциальные операторы
ортогональна ко всем функциям вида ф(г)я|)(ш), если <р и я|) ана-
литичны. По теореме Петера — Вейля (см. теор. 4.3 гл. V) это
верно также и при всех ф, i|)g<£(G). Но по теореме Стоуна —
Вейерштрасса такие функции ф (г) я|) (w) порождают плотное
подпространство в C(GxG). Отсюда следует, что функция G5)
тождественно равна нулю, т. е. равенство F6) доказано при всех г.
7. Сужение центральных операторов из D(G)
Пусть, в обозначениях п. 2 § 5, л: G —+G/K = X—
естественное отображение и, как и в § 4, ц: DK (G) —► D (G/K)—сюръектив-
ный гомоморфизм, определяемый равенством (\i(D)f)on = D(fori)
при f£<g(G/K). Мы изучим сейчас вопрос о том, отображается ли
Z(G) на всю алгебру D(G/K) при гомоморфизме \i.
Рассмотрим одновременно другое отображение v из алгебры
D(G) в алгебру Е(Х) всех дифференциальных операторов на X.
Для Y g g обозначим через Y соответствующее левоинвариантное
векторное поле на G и определим v (Y) g Е (X) формулой
G6) (v(f)/)(/7) = {|-/(exp(-/r)./7)|/=o.
В соответствии с теоремой 3.4 гл. II [ДС], отображение v
является гомоморфизмом алгебры Ли § в алгебру Ли SI (X) всех
векторных полей на X. Поэтому, в силу предложения 1.1. гл. II
[ДС], оно продолжается до гомоморфизма алгебры D(G) в E(X)f
также обозначаемого v. Если g£Gt то положим еще
v(^)/ = /x(g) (f€*(*))•
Лемма 5.29. Пусть D£D(G), g£G. Тогда
v(D)v(g) = v(g)v(D*<s>).
Доказательство. Достаточно проверить это для D=Fgg,
поскольку отображения D—*DRM и D—>v(D) являются
гомоморфизмами. Однако
(v(Y)v(g)f)(p)={±f(g->exp(-tY).p)}^o
= (v (Ad (er*) (?) f) (г* • Р) = (v (g) v (Г* W) f) (р),
что и требовалось доказать.
Лемма 5.30. Пусть D$D{G)y f^S(X). Тогда
(v (D) f) (я (g)) = ((D*)« <*> (/о л)) (g), g £ G,
где звездочкой обозначен сопряженный оператор.

§ 5. Инвариантные диф. операторы на сим, пространствах 361
Доказательство. Если У€д, £6^, то
<v(У) f) (я(g)) = {А/ (ехр(- tY)■ я{g))}t =o
= {^ ((/оя) (g ехр Ad for») (- tY)))}f m0,
откуда
<77) (v (?) f) (я (g)) = [(Ad (fir-*) (- У))" (/ол)] fc).
Пусть У^, ..., V, € Й- Докажем индукцией по г, что
<78) (v (У,... Уг) /) (я (g)) = (- 1)' [(Ad (g->) (?r... У,)) {f on)] (g).
При r = 1 это уже доказано. Предполагая утверждение
доказанным при некотором г, для У0€й имеем
<v (У,... Уг) /) (я (g)) = (v (У.) v (У\... Уг) /) (я (£))
= {A v (Ух... У,) / (я (ехр (- tY,) g))}( =o
= (—1)' {^[Ad^-1) Ad(exp (/K«))(Kr. . . У)(/оя)](ехр(-*У0)£)},=0
= (-1Г {Ad (g-*) ([?„ Уг...yj) (/«,)} (g)
+ (-1)' {Ad <*-») (- У0) Ad ^-») (У,... Yt) (fon)} (g),
где через [У0, D] обозначено единственное дифференцирование
алгебры/) (G), являющееся продолжением эндоморфизма У-+[У0, У]
алгебры Ли д. Понятно, однако, что [У0, D] = Y0D — DYt,
так что суммирование двух последних выражений дает
(_1У+1 {Ad (g-x) {Yr.. .YlY0) (fon)} (g).
Тем самым равенство G8) доказано. Поскольку группа G уни-
модулярна, Y* = — Y (см. равенство G) в § 5), т. е. лемма
доказана.
Следствие 5.31. Для любого оператора D$Z(G) имеет место
равенство ji(D*) = v(D).
Действительно, алгебра Z(G) инвариантна относительно
отображения D-+D*, т. е. (D*)*<s> = D*.
Обозначим образ алгебры Z(G) при отображении \х (или v)
через Z(G/K). Расширим, как и прежде, а до картановской
подалгебры 1) в %. Тогда комплексификация 1)С является картановской
подалгеброй в gc. Пусть W—соответствующая группа Вейля.
Обозначая звездочкой сопряженное пространство, мы
получаем следующую серию симметрических алгебр с
соответствующими действиями групп и инвариантами:

362 Гл. 7/. Инвариантные дифференциальные операторы
алгебра
5(й).
S(P),
а (л),
S№
S(r)
sm
S(a«)
. S«o.)
группа
Ad(G)
Ado (/Г)
r
W
\ инварианты
/(я).
/(*>),
/(a),
7«0)
/(8*)
/(*>*)
/(a*)
. W)
Обозначим через We подгруппу в W, сохраняющую
подпространство а. Тогда отображение сужения с f)G на а индуцирует
гомоморфизм Wq на W (Хелгасон [1978, предл. 8.10 гл. VII]) и
потому переводит /A)С*) в /(а*).
Предложение 5.32. Следующие свойства симметрического прост-
ранства G/K эквивалентны:
(i) Z(G/K) = D(G/K)\
(ii) сужение с g на р отображает /(д*) на /(р*);
(Hi) сужение с |с «a a отображает /A)С*) на /(а*).
Доказательство. Рассмотрим отображение A,: S (g) —► Z)(G)
из формулы D) § 4. Пусть Я^/(д) и элемент PgS(p) определен
так, что Р—P£S($)k. Тогда Р£1(р). Рассмотрим такой базис
Х19 ..., Хп в д, что Л\, ..., Хг является базисом р. Поскольку
k(P)€DK(G), по теореме 4.9 существует единственный элемент
P'g/(p), для которого
G9)
(\i(b(P))f)(n(g)) = [P'(dlf •••> Зг)(/оя)(вгехр(х1Х1+...+хДг))]@).
В обозначениях этой теоремы |i(A,(P)) = D;t(p'), т. е. \i(k(P)) =
= \i(k(P')). Отсюда следует, что
(80) X(P—P,) + X(P—P) = X(P—P,)^D(G)ly
поскольку ядро [i равно DK (G) n D (G) i. Предположим теперь,
что полином Р—однородный степени d > 0. Тогда то же самое
верно для Р—Р (нулевой полином однороден любой степени),
и Р' имеет степень d. Поскольку Р—Я gS(g)f, существует такой
оператор D£D(G) порядка, меньшего d, что Х(Р—Р)—Dg
€Z)(G>f. Поэтому, в силу (80),
(81) MP—P') + D€Z>(G)f.
Разлагая D в соответствии с леммой 4.7, мы можем
предполагать, что D = X(Q), где Q£S(p) имеет степень, меньшую d. Но
тогда из (81) и того, что разложение в лемме 4.7—прямое, еле-

§ 5. Инвариантные диф. операторы на сим, пространствах 363
дует, что Я—P' + Q = 0. Иными словами,
(82) степень Р — Р' меньше степени Я.
Отображение \i переводит Z(G) на всю алгебру D(G/K) тогда и
только тогда, когда отображение Р—+Р' переводит /(g) на /(р),
что, в_ силу (82), случается в том и только том случае, если
Р—+Р переводит /(g) на 1(р). При отождествлении g с д*,
индуцированном формой Киллинга, /(g) и / (#) соответствуют / (д*)
и /(р*), а отображению Р—+Р соответствует сужение элементов
Р € I (9*) на &• Тем самым доказана эквивалентность свойств (i)
и (И).'
Переходим к (iii). Пусть ц—компактная вещественная форма
f + tj) алгебры дс, т. е. дс =u + tu —разложение Картана.
Рассмотрим подпространство 1)& в I}0, на котором все корни д°
относительно tp принимают вещественные значения. В силу
следствия 5.12, /((ш)*) изоморфно /(I)r), a / (р*) изоморфно /(а*)
(изоморфизм задается сужением). Однако имеют место также
отождествления / (д*) = / ((дс)*) = / ((/и)*) (см. лемму 1.4 следующей главы).
Сужения с g на р и с 1)С на а приводят к коммутативной
диаграмме
/(я*) > !(№*)
/(Р*) > /(а*)
из которой следует эквивалентность (и) и (iii).
Замечание. Используя предложение 5.32, можно доказать
(см. упр. D3), что Z(G)=D(G/K), если G—одна из классических
групп (вещественная или комплексная), однако это свойство не
имеет места для нескольких исключительных симметрических
пространств.
8. Инвариантные дифференциальные операторы
на комплексных полупростых алгебрах Ли
Пусть G — связная комплексная полупростая группа Ли,
действующая на своей алгебре Ли g посредством присоединенного
представления. Рассмотрим картановскую подалгебру 1). Будем
использовать обозначения примера (vii) из § 3. Обозначим через
/ (д*) множество G-инвариантных полиномиальных функций на д.
Когда р пробегает /(д*), дифференциальные операторы д(р)
пробегают множество всех G-инвариантных дифференциальных
операторов на g с постоянными коэффициентами. Это
множество совпадает с алгеброй D(Gg/G), где через G-g обозначена

364 Гл. /7. Инвариантные дифференциальные операторы
группа преобразований алгебры Ли д, порожденных G и
сдвигами. Мы можем теперь обобщить утверждение предложения 3.14.
Теорема 5.33. Радиальная часть оператора д (р) (при р g / (g*))
относительно присоединенного действия G на g с трансверсаль-
ным многообразием §' вычисляется по формуле
А(д(р)) = п'1д(р)оп.
Доказательство. Доказательство основывается на чисто
алгебраическом приеме—вычислении коммутаторов с лапласианом.
Пусть, как обычно, Е(%) и Е($')—алгебры всех
дифференциальных операторов на g и J)' соответственно и J (g) (соотв. J (f)')) —
подалгебра G-инвариантных (соотв. инвариантных относительно
группы Вейля) операторов. Положим
{Dl9 D2}=DxoD2-D2oDu
где Dx и D2—дифференциальные операторы, и рассмотрим
дифференцирование алгебры Е(%)
IT. D —1{<3((о), D}
и дифференцирование алгебры E(f)')
jT: d^|{A(<3((o)), d}.
Поскольку операция Д является гомоморфизмом J (g) на J (§')f
мы имеем
(83) Д Oi (£>)) = jT(A (D)) при D € J (g).
Теперь нам потребуется одна простая лемма.
Лемма 5.34. Пусть р—однородный полином на g степени т.
Если рассматривать р как дифференциальный оператор f —■* р/, то
\im(p)=m\d(p).
Доказательство. Применим индукцию по т. При т = 1
утверждение леммы доказывается непосредственным вычислением.
Пусть р = #1 ... хт. Поскольку \i2(X;) = \i(д(*/)) = 0, из формулы
Лейбница следует, что
(84) \im(Xi ... xm^lxj^vm(xi ... хя^)охт
+ m[im"l(Xi ... xm^)oii(xm).
По предположению индукции,
Н*-1^! ••• xm_,) = (m—l)\d(Xi ... *._!>.
Таким образом, первый член справа в (84) равен нулю, откуда
и следует утверждение леммы.

§ 5. Инвариантные диф. операторы на сим, пространствах 365
Комбинируя эту лемму с равенством (83), получаем
т\ А (д (р)) = A (|i- (р)) = j> (А (р)) =Грт (Р).
Если теперь А—ассоциативная алгебра и а 6 Л, то положим
da(b) =Уг (ab—Ьа). Тогда индукцией по k устанавливаем, что
dka (b) = 2"* 2 (^ (—1У ак~гЬаг.
Если элемент с£А коммутирует с ft и имеет обратный с'1 и
если также а' =с~1асу то
(da>)*(b) = c-4ka(b)c.
Положим здесь A = E(t)'), а = д((о), Ь = р, с = я. Тогда а'=*
лГ1д((о)оя = А(д((о)). Если q—однородный многочлен на I)
степени k, то по лемме da (q) = kid (q). Следовательно, если р g / (д)
однороден степени т, то
т! А (д (р)) = jTm (р) = (da>)m (pj = я^ (р) я = mln"^ (р) я,
что и доказывает теорему.
Данная теорема может быть применена для доказательства
одной интересной интегральной формулы на компактной
полупростой группе Ли U. Пусть и—алгебра Ли U и t с и—алгебра
Ли некоторого максимального тора TaU. Обозначим через
g = Uc, l} = tc соответствующие комплексификации. Мы сохраняем
обозначения примера (vii) из § 3 и обозначаем Ad (и) X через иХ
(при u$U, Х€в)-
Теорема 5.35. Пусть du—нормированная мера Хаара на U.
Тогда при Я, Я' £ t) справедливо равенство
я (Я) я (Я') $ <?<""• «'> Ж* = or1 d (я) (я) 2 (det s) e<sH' "'>,
гдг w—порядок группы Вейля W.
Доказательство. Пусть /g<£(it) и F(X) = ^ f(u-X)du.
и_ _
Тогда при р 6 / (и*) для Я 6 $' имеем (<3(р) F) (Я) = (я~1<3 (р) (jiF)) (Я),
т. е. функция
<pf(H) = n(H)lf(u-H)du (tfgt)
удовлетворяет соотношению
(Фа (р) /) (Я) = я (Я) (d (p) F) (Я) = (д (р) Ф/) (Я).
Таким образом,
(85) Фа</»/ = д(р)ф/ при р6/(и*).

366 Гл. II. Инвариантные дифференциальные операторы
Выберем теперь Я' gl) таким образом, чтобы я (//') ^ 0, и
положим / (X) = е<х* И'>. При этом d(q)f = q (//') / для любого q g S (ц*).
Но тогда, в силу равенства (85), <5 (Р) Ф/= Р (^') Ф/ для любого
р£/(и*). Поэтому в соответствии со следствием 5.12, d(q)yf =
= q(H')<Pf для произвольного q^Ity*). Поскольку элемент Я'
регулярен, простейший частный случай теоремы 3.13 гл. III
показывает, что
(86) Ф/(#Н 2 v*"-"f>,
sew
где cs£C. С другой стороны, так как Ji(s//) = (dets)n(#),
понятно, что (p/(s//) = (dets)(p/(//). Следовательно, в силу
равенства (86),
(87) ср, (Я) = с 2 (det s) е<*н* "'>,
где с£ С. Константа с может быть определена, если применить
оператор д(р) к обеим частям равенства и подставить # = 0.
Определение ф/ показывает, что
(д (я) Ф/) @) = д (я) (я) / @) = д (я) (я),
а правая часть (87) дает вклад, равный шя(Я). Теорема тем
самым доказана при //gt, я(Я')=^0, а следовательно, и при
всех Я, Я'б1), посредством аналитического продолжения.
Мы можем теперь применить теорему 5.53 для получения
формулы для порядка w группы Вейля, совершенно отличной
от формулы, установленной в Хелгасон [1978, упр. В9 гл. X].
Следствие 5.36. Порядок w группы Вейля может быть
вычислен по формуле
ш = <Э(я)(я)/я(Яр),
где 2р—сумма положительных корней из A(g, Jj).
Положим в теореме 5.35 Н' = Нр. Тогда, в соответствии
с предложением 5.15 гл. I, правая часть примет вид
w~ld(n)(n) П {&1/2)а {Н)—е-м^аМ).
а> 0
Деля это выражение на я (Я) и устремляя Я к нулю, получаем
утверждение следствия.
Замечание. Формула из теоремы 5.35 дает интересную
интерпретацию характеров неприводимых представлений компактной
группы U. Этот вопрос обсуждается в § 1 гл. IV, где будет также
доказан некоторый аналог теоремы 5.35, обобщающий
предложение 3.12.

§ 5. Инвариантные диф. операторы на сим, пространствах 367
9. Инвариантные дифференциальные операторы на X=QIK
в случае комплексной группы О
Пусть, как и в примере (Ш) из п. 4 § 3, б—функция
плотности для группы /С, действующей на симметрическом
пространстве X = G/K. В случае когда группа G комплексна, эта функция
с точностью до множителя совпадает с
(88) 6(Ехр//)= П (sha(//))a,#€a.
Пусть Г: D(G/K)-+Dw(A)—изоморфизм из теоремы 5.18. Тогда
имеется следующее описание радиальных частей, обобщающее
предложение ЗЛО.
Теорема 5.37. Пусть группа G комплексна. Радиальные
части операторов относительно действия группы К на
пространстве X = G/K могут быть вычислены по формуле
(89) A (D) = б - 1/*Г (Я)об1/*, D gD (G//C).
Поскольку в доказательстве используются некоторые факты
из теории сферических функций, мы откладываем его до п. 2 § 5
гл. IV.
Имеется также аналог теоремы 5.37, относящийся к действию
группы К на р. Соответствующая функция плотности в этом
случае с точностью до множителя равна
(90) М#) = П (<*№, #€а,
и мы получаем следующую формулу, обобщающую
предложение 3.13 (группа G комплексна):
(91) Д(д(р)) = я-1д(р)оя, /?€/(*>*).
Здесь через р обозначается сужение р на а. Доказательство этой
формулы идентично доказательству теоремы 5.33.
Пусть, как и в примере (viii) п. 4 § 3, J—отношение элементов
объема на X и на р (связанных преобразованием Ехр).
Комбинируя изоморфизм сужения /(р*)—►/(а*) с изоморфизмом Г, мы
получаем сюръективный изоморфизм a: D(G/K)—+DK(p), где
DK (p)=Z) (K-p/K)—множество /(-инвариантных дифференциальных
операторов на р с постоянными коэффициентами. По следствию
5.20 мы имеем
a(Lx) = L» —<р, р>.
Теорема 5.38. Пусть группа G комплексна. Тогда если
D€D(G/K), то образ DExp "* оператора D относительно ото-

368 Гл. //. Инвариантные дифференциальные операторы
брожения Ехр удовлетворяет соотношению
De*p - lF = J-1** a (D) (/1/2 F)
для всех К-инвариантных С™-функций F на р.
В самом деле, достаточно доказать эту формулу на а, где она
непосредственно следует из равенств (89) и (91), поскольку
«/ = 6/л2.
УПРАЖНЕНИЯ И НЕКОТОРЫЕ ДАЛЬНЕЙШИЕ РЕЗУЛЬТАТЫ
А. ОПЕРАТОР ЛАПЛАСА—БЕЛЬТРАМИ
А1. Пусть М — риманово многообразие, р g M—некоторая
точка, {хи ..., хт] — нормальные координаты в окрестности /?,
такие что (д/дх{)р A<л<!т)—ортонормированный базис
касательного пространства Мр. Тогда оператор Лапласа—Бельтрами L
в точке р задается формулой
wxp>-Lf5o»>-
А2. Пусть М—ориентированное многообразие с римановой
структурой g. Определим оператор * на грассмановой алгебре
И(М), как в книге Хелгасон [1978, § 7 гл. II]гК Пусть
бо) = (—l)^+"+1*d*co при (o^Vip(M).
Продолжив б по линейности, положим на И(М)
Д = —(d6 + 6d).
Рассмотрим векторное полеХ^3>х (М)и 1-форму юх: Y —>g(X, Y).
Показать, что
(i) б(о)х) = — divX, o)grad/ = d/ при f££(M),
и вывести отсюда, что
(и) bf = LMf,
где LM—оператор Лапласа—Бельтрами.
A3. Пусть G/H — псевдориманово многообразие постоянной
кривизны, представимое, в соответствии с теоремой 6.1 гл. I,
в виде
0(р, q+l)/0(p,q),0(p+l,q)/0(p,q)vm №+<-0(рч q)/0(p,q).
Тогда алгебра D(G/H) инвариантных дифференциальных опера-
*> См. также Дубровин, Новиков, Фоменко [1979, с. 164].—Прим. перев.

Упражнения
369
торов состоит из полиномов от оператора Лапласа — Бельтрами L
(см. Хелгасон [1959], Фаро [1979]; последняя из этих работ содержит
детальное исследование Я-инвариантных обобщенных собственных
функций оператора L).
А4. Пусть G—связная полупростая группа Ли с алгеброй
Ли % и В—форма Киллинга на д. Рассмотрим какой-нибудь
базис Xlf ..., Хп в g и положим gj/ = B(Xif Xj) A<*\ /<л).
Через (giJ) обозначим обратную к {gif) матрицу. Доказать
следующие утверждения:
(i) Дифференциальный оператор Q = 2 8*'%! %/ не зависит от
выбора базиса (X.) и принадлежит центру Z(G) алгебры D(G).
Оператор Q называется оператором Казимира. Он совпадает
с оператором Лапласа — Бельтрами, соответствующим биинвариант-
ной псевдоримановой структуре на G, порождаемой формой В.
(и) Пусть группа G некомпактна и G/K—симметрическое
пространство, ассоциированное с G. Оператор n(Q), определяемый
в соответствии с теоремой 4.6, совпадает с оператором Лапласа —
Бельтрами на G/K.
А5. (Конформная инвариантность.) Пусть М—многообразие
с псевдоримановой структурой g. Положим я = dim M. Векторное
поле X на М называется конформным, если соответствующая
производная Ли Э(Х) обладает тем свойством, что
Q(X)g = p(X)gt где p(X)€tf (M).
(i) Показать, что если поле X конформно, то
p(X) = ldivX.
(ii) Действие
группы 5LB, С) на R2 1} конформно, т.е. o*-g = x*g, где g—
плоская риманова структура и t€<£(R2). Вывести из [ДС, упр.
ВЗ гл. I], что при любом Xg§IB, С) индуцированное векторное
поле Х+ на R2 конформно. Заметим также (см. введение, упр.
А4), что для оператора L = LR2 справедливо равенство
IF = h (a) L, где А (а) (z) = | сг—а |4,
Вывести отсюда, что
A) [L, X+]=p(X)L при X€8lBfC),
1} Здесь R? отождествляется с О. — Прим. перев.

370 Гл. //. Инвариантные дифференциальные операторы
где [ , ]—коммутатор и
р(*) = {^МехР/Х)}/=о.
(Hi)* Пусть г—тензор кривизны Риччи на М, т. е. Гух-=*
= —2 Я?/* (см. [ДС, гл. VIII]), и К—скалярная кривизна:
k
ui
Предположим, что многообразия Мг и М2 снабжены соответственно
псевдоримановыми структурами gi и g2, скалярными кривизнами
Кг и К2 и операторами Лапласа—Бельтрами Lx и La. Пусть
Т: Mi-+M2
— конформный диффеоморфизм, т. е.
T*gt = *gl9 где t€*(Af1).
Если теперь / g & (М2), сп = (п—2)/4 (п— 1), п = dim Мх = dimM2, то
(^-сМ (tn/*-4foT)) = %n/* + i((L2-cnK2) f)oT,
т. е. ядра операторов Ьх—спКг и L2—cnK2 переходят друг в друга
при отображении Т.
А6*. Пусть М—компактное риманово многообразие, g—его
риманова структура, d—соответствующая метрика на М, L —
оператор Лапласа — Бельтрами, m = dim M (m ^ 2) и
</ь /«> - $ /i W /, (х)- dx9 fu f2 € L2 (Al)f
м
где d#—элемент объема,
(i) Положим
£0(M) = !u€&(M): \u(x)dx = 0\.
Тогда отображение L: $0(M)—+$0(M) является биекцией,
обратная к которой задается интегральным оператором
(о/)м- $*(*• y)f(y)dy>
м
где функция y(x, у) = у(у, х) удовлетворяет следующим условиям:
(a) y^C00 при хфу;
(b) функция й(х,у)т~2у(х,у) ограничена. (При т = 2 это
свойство должно быть заменено условием ограниченности функций
(lnd(x, */)Гхт(*> У)-)

Упражнения
371
Доказательство можно найти у де Рама [1955, гл. V].
Теорема 5.27 дает более явный вариант этого утверждения в случае
пространств ранга 1.
(и) Обозначим при A, g С через Ек собственное подпространство
Ек={и££(М): Lu = Xu]
и через Л—спектр
Л = {Ь€С: £^0}.
Доказать следующие утверждения:
(a) Л дискретно и ^<0 для любого A,gA.
(b) dim Ex < оо при любом А,.
(c) Пусть, в соответствии с (а) и (Ь), ф0, фь q>2, ... —такая
ортонормированная система в L2(M)t что каждое
подпространство Ех порождается некоторыми ф,. Тогда для любой функции
f£L2(M) справедливо равенство
со
/ = 2</> Фп>Ф« (РЯД сходится в L*(M)).
о
(d) Если f€£(M)f то этот ряд сходится абсолютно и
равномерно.
(Доказательства результатов п.(И) можно найти, например,
в гл. 6 книги Уорнера [1970]).
А7. Пусть М—некоторое многообразие и \i—мера на М,
эквивалентная мере Лебега. Пусть, далее, X—векторное поле
на М, симметричное в том смысле, что
\ (Xf) (x)g(x)ф (х) = S / (х) (Xg) (x)dii (x)
м м
при всех f9 g£@)(M). Доказать, что тогда Х = 0.
А8. Рассмотрим полу простую алгебру Ли j с разложением
Картана g = f + p. Пусть аср—максимальное абелево
подпространство, m—централизатор а в f и I)—картановская подалгебра
в g, содержащая а. Будем обозначать комплексификацию верхним
индексом с. Пусть Я+ —множество всех корней р > 0 алгебры $°
относительно f)°, не аннулирующихся тождественно на а.
Рассмотрим базис 7*1, ..., Тт в ш, ортонормированный относительно
формы—В и базис #i, ...,Ht в а, ортонормированный
относительно В. Выберем для каждого Р€Р+ такие элементы X £ (й*K,
^-р €(fi')~3> чт° В(Х.^ Х_е)=1. В силу разложения
й0=шо+ао+ 2 (9<у+ 2 (йс)р,

372 Гл. II. Инвариантные дифференциальные операторы
оператор Казимира Q (упр. А4) может быть записан в виде
где Qm = 2 ^?> ^о = 2 Щ (здесь мы для простоты пишем Х$
вместо Хр).
Пусть а'—множество регулярных элементов из а.
Зафиксируем элемент а — ехр Н(Н £ а'). Если р £ Р+ и (— Р+), то положим
X j = Ур + Zp (Ур € J)c, Z3 g !c) и определим Л3 € а таким образом,
чтобы В (Я, ЛЭ) = Р(Я) при любом Н^а. При ggG и Xgg°
положим A* = Ad(g)X. Используя предыдущее выражение для Q,
показать, что
Q = Qm + Q„ + 2 cth(P (/У)МЭ
-2 2 sh-ЧР (Я)) [(ZpZ.pr' + ZpZ.p
(Хариш-Чандра [I960]; см. также Уорнер [1972, т. 2, предл.
9.1.2.11]).
В. РАДИАЛЬНАЯ ЧАСТЬ
В1*. Пусть Я—группа Ли преобразований многообразия V.
В этом случае всегда существует подмногообразие WczV,
удовлетворяющее условию трансверсальности B9) из § 3
82. Если /—радиальная функция на симметрическом
пространстве ранга один, то в силу предложения 5.26
Ll - дг* + Л (г) Л (Г) дг *
Вывести эту формулу из теоремы 3.7.
83. Утверждение теоремы 3.7 остается справедливым также
и в случае многообразия V, снабженного псевдоримановой
структурой gy если только выполняются следующие дополнительные
условия:
(i) для любого w£W орбита H-w замкнута и метрика g на
ней невырожденна;
(И) для любого w группа изотропии Hw компактна.
Пример. Пусть (G, Я)—симметрическая пара, отвечающая
инволютивному автоморфизму а группы G. Группа G
предполагается связной, полупростой, с конечным центром. Рассмотрим

Упражнения
373
максимальную компактную подгруппу /CcG, инвариантную
относительно а (см. Хелгасон [1978, упр. В.4 гл. III]). Тогда
/(-радиальная часть оператора Lq/h может быть вычислена с помощью
вышеупомянутого варианта теоремы 3.7 (см. Чан [1979а], Фленстед-
Йенсен [1978, § 4], Хоогенбоом [1983]).
В4. /(-радиальная часть оператора Lx на симметрическом
пространстве X = G/K (предложение 3.9) может быть также
записана в виде
ДAх) = 8-1 2 gt/HtobHj.
Здесь S—функция плотности Ц (sha)ma, Hlt ..., Нг — произ-
а> О
вольный базис в а и (gl/)— матрица, обратная к gt, = <Я/, #/>
A<*\ /</) (Хариш-Чандра [1958а]).
В5*. (Радиальные части распределений.) (i).Пусть М и N —
многообразия и я: М—>N—такое сюръективное С°°-отображение,
что дифференциал dnm: Mm-^Nm сюръективен для любой точки
т£М. Пусть, далее, dm и dn — некоторые меры на М
несоответственно, эквивалентные мере Лебега. Тогда для любой функции
а£@)(М) существует единственная функция /а€®(М),
удовлетворяющая при всех F£@>(N) равенству
^ (F о я) a dm = ^ Ffa dn.
м n
С помощью разбиения единицы доказательство этого утверждения
можно свести к случаю, когда М и N — параллелепипеды в
евклидовом пространстве, а я—проекция (xlt ..., хт) —>(х1У ..., хп)
(см. Хелгасон [1978, теорема 15.5 гл. 1]1}). Если dm |_ я* (dn) —
это «частное» форм dm и n*(dn), то можно положить
/а (л) = J a (dm L я* (dn))
я~1 (п)
(см. Хариш-Чандра [1964а], а также Штолль [1952] и Шварц
[1966]).
(ii) Пусть Н—группа Ли преобразований многообразия V
и WczV—подмногообразие, удовлетворяющее условию
трансверсальности B9) из § 3
Фиксируем левоинвариантную меру dh на Н и меры dv на V
и с(ш на W, эквивалентные мере Лебега. Обозначим через V*aV
1) Или Ленг [1962, § 2 гл. II].— Прим. перев.

374 Гл. II. Инвариантные дифференциальные операторы
открытое множество H-W. В силу результата пункта (i), мы
можем с каждой функцией a g £D (H x W) связать такую функцию
/а€^>(У), что при всех F£3)(V*)
J F(h-w)a (ft, w)dhdw = \j F (v) fa (v) dv.
HxW V
(a) Пусть мера dv и распределение Т g D' (V*) //-инвариантны.
Показать, что существует единственное распределение Т на W,
удовлетворяющее при всех a$£D(HxW) равенству
T(L) = T(Aa)9
где
A<z(w) = )a(h> w)dh.
н
(b) Доказать, что если в качестве Т взять любую
//-инвариантную непрерывную функцию f на V*, то
Г(Ла) = 5 f(w)Aa(w)dwt
w
т. е. T = Tdw, где J=f\W.
(c) Предположим, что группа Н унимодулярна, a
D—дифференциальный //-инвариантный оператор на V. Тогда
(DT)- = A(DO\
где &(D)$E(W)—радиальная часть D (см. Хелгасон [1972а,
§ 2 гл. I]).
В6*. /(-радиальные части операторов из алгебры
D(G/K) = D(SU(p, q)/S(UpxUq)) @ </><</)
могут быть описаны следующим образом. В соответствии с упр. 5
из гл. VII книги Хелгасон [1978] х\ пространство аср может
быть выбрано в виде
где //,= £л p+i + Ep+u t a), a ограниченные корни равны
±/„ ±2/, (l^i</>), ±/,±/y (KKKPh
1> См. также [ДС, с. 381].— Прим. перев.
2> Здесь Я/у—матрица (Ei, /)k% i = fyk$/i-~- НРим- персе*

Упражнения
375
Здесь fi(Ht) = ti. Положим
Li = ^ + 2[(q-p)chti + ch2ti]±r
©(#,)= П(сЬ2/,-сЬ2#у),
D^v-iStiLu . .., L,)o©,
где Sz-—это /-й элементарный симметрический многочлен. Тогда
алгебра &(D(G/K)) /С-радиальных частей порождена операторами
Dl9 ..., Dp.
(Подробности, а также выписанные в том же духе формулы
для сферических функций фа, можно найти у Березина и Карпе-
левича [1958], Такахаси [1977а] и Хоогенбоома [1982].)
С. ИНВАРИАНТНЫЕ ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ
С1. Описать явно все инвариантные дифференциальные
операторы на пространстве GL(n, R)/0(n).
С2*. Описать в явном виде алгебру
D(M(n)/M(p)xO(n—p))
всех инвариантных дифференциальных операторов на многообразии
G(p, n) = M(n)/M(p)xO(n—p)
р-мерных плоскостей в Rn (§ 2 гл. I).
Указание. Обозначим через Gp, n пространство р-мерных
плоскостей, проходящих через начало координат, и введем отображение
я: G(pf п)-+ар,я,
получаемое посредством сдвига каждой плоскости в начало
координат. Если o£GPin, то слой /7 = я~1(а) естественным образом
отождествляется с ортогональным дополнением сг1 и поэтому
обладает канонической римановой структурой. Пусть
LF—соответствующий лапласиан. Если / g <£ (G (р, м)), то через /1F
обозначим сужение / на F. Рассмотрим теперь линейное
отображение □ пространства $(G(p, n)) в себя, определяемое
равенством
(Uf)\F = LPtf\F).
(i) Оператор □ является М (п)-инвариантным
дифференциальным оператором на G(p, я).
(и) Алгебра D(M(n)/M(p)xO(n—p)) всех М
(^-инвариантных дифференциальных операторов на G (р, п) при р = п—1
порождена оператором □ (см. Хелгасон [1965а, §§ 7—8]). При

376 Гл. II. Инвариантные дифференциальные операторы
О < р < п— 1 эта алгебра имеет min(p + 1, п—р) алгебраически
независимых образующих (см. Гонсалес и Хелгасон [1986]).
Порядки образующих равны 2, 4, 6, ... .
СЗ. Дать явное описание алгебры
D(G/M)
инвариантных дифференциальных операторов на многообразии
G/Af, соответствующем гиперболическому пространству
G//C = O0(l, n)/SO(n).
(Здесь, как обычно, М—централизатор А в /С, который в
данном случае может быть отождествлен с SO(n—1).) С точки
зрения расслоения G/M —* G/K пространство G/M может
рассматриваться как расслоение единичных сфер многообразия G/K.
Используя ортогональные разложения f = m + l, j) = a-fq,
запишем
g = m + (a + l + q).
Тогда по теореме 4.9 задача состоит в описании алгебры / (а +1
+ q) всех М-инвариантных полиномов на a + 1 + q. Справедливы
соотношения dima= 1, dim I = dim q =n—1, [I, a] =q. Множество
2+ состоит из единственного корня а. Зафиксируем такой
элемент #ga, что a(#j=l. Пусть 7\, ..., Тп_г—ортогональный
базис в I, для которого —B(Th Т() = В (Я, Я) при 1<1<я— 1.
Положим Х( = [Т19 Я]. Тогда В(X,., Х{) = В(Н, Я)A<*<я — 1).
Выбрав базис Я, 7\, ..., Тп_и Хи ..., Хп_г в a + I + Ч,
положим
|Г|2 = 2П, T.X = %TrXit |X|f = 2*i-
Доказать, что
(i) Алгебра /(a + 1 + q) порождена элементами Я, |Т|2, Т-Х,
\Х\2. В силу этого операторы DH, D\T\*> DT.x, D\x\* порождают
D(G/M).
(ii) Приведенные выше образующие удовлетворяют следующим
коммутационным соотношениям:
[D„, D,A|i]=—2Dr.A,
[DH9 D,n.] = -2Dr.x,
[DH, DT.X] = — D\T\*—D\X\*-
(По поводу этих результатов и интересных геометрических
интерпретаций введенных операторов см. Райманн [1982], а также
Альфорс [1975].)

Упражнения
377
С4. Гомоморфизм y: DK(G) —+DW(A) из теоремы 5.17
определялся с помощью выбора положительных ограниченных корней.
Доказать, что тем не менее v не зависит от этого выбора.
С5. (i) Пусть N—трехмерная группа Гейзенберга (п. 1 § 4).
Алгебра Z(N) биинвариантных дифференциальных операторов
порождена оператором д/дх3.
4
(и)* Рассмотрим четырехмерную алгебру Ли и4= 2 ^*
i = 1
со скобками
Все остальные скобки полагаются равными нулю. Тогда и4 ниль-
потентна и центр Z(n4) её универсальной обёртывающей алгебры
порожден элементами Х4 и Х\— 2Х2Х4 (см. Диксмье [1958]).
С6*. Пусть G— односвязная нильпотентная группа Ли с
алгеброй Ли д. Алгебра Ли д индуцирует посредством
присоединенного представления группы G в g некоторую алгебру д+
векторных полей на д (см. теорему 3.4 гл. II [ДС]).
Пусть D£Z(G) и eD—соответствующее распределение (п. 1 §5).
Рассматривая (с помощью отображения ехр) гв как распределение
на д, мы получаем следующий дифференциальный оператор с
постоянными коэффициентами D0 на д:
D0/ = /*e£) (* — свёртка на д).
Если DexP_1—образ D относительно отображения ехр~*, та
D0-DexP-'€£(g)g+
(см. Касивара и Вернь [1978а], где имеются также более общие
утверждения). Таким образом, действие оператора D на
распределения, инвариантные относительно всех внутренних
автоморфизмов, целиком определяется оператором с постоянными
коэффициентами D0.
С7*. Симметризация A,: S(g)—*D(G) биективно отображает
/(g) на Z(G). Хотя обе алгебры /(g) и Z(G) коммутативны^
в общем случае отображение % не является на них
мультипликативным.
В случае полупростой алгебры g Хариш-Чандра (в работе
[1951а]) определил чисто алгебраически некоторый изоморфизм;
колец между /(g) и Z(G) (см. также теорему 1.9 гл. V). Для
произвольной алгебры g Дюфло [1977] построил следующий сюръ-
ективный изоморфизм колец у: I (g) —► Z (G). Пусть / (X) — якобиан-

378 Гл. II. Инвариантные дифференциальные операторы
экспоненциального отображения exp: g—*G, т. е.
(см. теорему 1.7 гл. II [ДС]). Тогда функция у1'2 аналитична
в некоторой окрестности V точки 0. Рассмотрим произвольный
элемент Р из S (g) как дифференциальный оператор с постоянными
коэффициентами д(Р) на g. Для данного PgS(g) определим
Р^ €«S(g) следующим образом:
((9(Р^)Ф)@) = (C(Р)(/1/2ф))@)
при всех y£@)(V). Тогда у(Р) = Х(рЬ) для Р€Ц%)-
Для нильпотентной группы g изоморфизм указанных колец
был построен Диксмье [1959].
С8*. Рассмотрим пространство gl(n, R) всех вещественных
/гх/г-матриц Х = (*/у). Введем дифференциальный оператор Ка-
пелли D на gl(n, R) следующей формулой:
(D/)(X) = (detX)[det(D;I<<>/<n)/]W.
Тогда D инвариантен относительно левых и правых умножений
на элементы группы GL(n, R). Тем самым он определяет
некоторый биинвариантный дифференциальный оператор на группе
G = GL+ (nt R) всех п х n-матриц с положительным определителем.
Определим при XgC оператор Dk по формуле
(ВД (X) = (det X)-*- D ((det X)*- /) (X).
Тогда
Dk = k" + En_lk"-*+...+ElX + D9
где E>€Z{G). Кроме того, Z(G)—полиномиальное кольцо:
Z(G) = С [£„_*, ..., El9 D].
При л = 2 Z(G) порождается элементами
(Раис [19771 (неопубликовано), Картер и Люстиг [19741, Диксмье
[1975]).

Упражнения
379
D. ТЕОРЕМЫ О СУЖЕНИИ
D1. В этом упражнении дается набросок принадлежащего
Хариш-Чандре доказательства теоремы Шевалле о сужении:
отображение сужения Р —> Р \ а является биекцией / (#) на / (а)
(следствие 5.12).
(a) Пусть J)c и ас — комплексификации и / (рс) (соотв. / (ас)) —
множества /(-инвариантов (соотв. ^-инвариантов) в S (рс) и S (а<0)г
Доказать, что
кольцо I (рс) целозамкнуто.
Для этого используйте тот факт, что целозамкнуто S(pc)
(лемма 3.4 дополнения) и что любой элемент *€«S(p^), лежащий
в поле частных С(/(рс)) кольца /(j)c), принадлежит /Срс).
(b) Пусть У = / (рс) | ас (сужение на аР). Тогда
кольцо S(ctc) цело над J.
Для доказательства рассмотрим X g рс, положим Тх =
(adXJ|£c и введем характеристический полином
det (М-Тх) = Я" + Pl (х) №'* +...+р,_§(х) Я«,
где Р/€^СрС)« В частности,
det (кЧ-Тн) = ^ + Pl (Я) №-* + ... + pr_t (Я) Я«,
так что каждый корень ag2 является целым над J.
(c) Если #0 € <* и элемент Нх g op удовлетворяет при всех
р g J соотношению р (Н0) = р (Ях), то Нг = sH0 при некотором s € W.
Поскольку
det^-T^ —det(W-T^),
мы получаем, что каждый корень a£2 веществен на Н19 т. е.
Ях g a. Так как любой элемент р g / (р) имеет одинаковые
значения на Я0 и Я1( из теоремы Вейерштрасса о приближении
(примененной к вещественному пространству р) следует, что Н0 и Нг
являются AdG (/С)-сопряженными. Теперь нужно применить
предложение 2.2 из гл. VII [ДС].
(d) Расширение С (S (aP))IC (J) поля С (J) нормально.
Действительно, поле частных С (S (ac)) получено добавлением к С (J)
всех корней полинома
F (X) — № + Pivr-2 + ... + д.. А',
т. е. корней ag2.
(e) Пусть a—какой-либо автоморфизм поля C(S(a^)),
оставляющий точки C(J) неподвижными. Зафиксируем точку Я0€си

380 Гл. II. Инвариантные дифференциальные операторы
Тогда существует такой элемент #i6a , что
ра(Я0) = р(Я1) при всех /?€S(ac).
В самом деле, а переставляет корни F(k) и, тем самым,
сохраняет S(aP). Таким образом, отображение р—+р°(Н0) является
гомоморфизмом S(ac) в С.
(f) В силу (с), при некотором s£W имеет место равенство
H1 = sH0. Поэтому если q£l(a®), то
<Г(Н.) = д{Нг) = д(Нш).
Таким образом, поскольку элемент Н0£а произволен, q0 = q-
Следовательно, в соответствии с теорией Галуа, имеет место
включение /(ас)сС(У). Но /(ас) является целым над У, а У
целозамкнуто (см. (а)). Таким образом, как и утверждалось,
/(ас)=У. (По поводу деталей доказательства см. [ДС, гл. X].)
D2*. Пусть U/К—симметрическое пространство компактного
типа, группа U односвязна, К—связна. Воспользуемся
обозначениями из § 8 гл. VII книги автора [1978]. Обозначим через
4>x(UlK) множество /С-инвариантных функций из <£(£///(), а через
£тъ (<т«)—множество Г2-инвариантных функций из <£(а«).
Для заданной функции F£<BK(UlK) введем функцию / g£ (a«)
с помощью равенства
f(H) = F((expH)K), Не а..
Как показано в упомянутой книге, отображение F —► / переводит
&K(U/K) в (£г2 (<*•)• Доказать, что отображение F —>/ сюръек-
тивно (Дадок [1982]).
D3*. Воспользуемся обозначениями предложения 5.32, так
что /(t|c*) — множество полиномов на 1)С, инвариантных
относительно группы Вейля # = Г(йс, f)c), а I (а*) —множество
полиномов на а, инвариантных относительно группы Вейля W = W($,Q).
(i) Если G/K—классическое симметрическое пространство (т. е.
ни G, ни К не являются исключительными), то отображение
сужения
(*) . p€/(I>c*)-*p€/(a*)
сюръективно.
(и) Для симметрических пространств EjF^ E1/E9<Tt Е8/Е,
xSUB) отображение сужения (*) не является сюръективным.
(Доказательство см. в работе Хелгасон [1964а]; связанный с
данным вопросом положительный результат содержится в
теореме 3.16 гл. III.)

Упражнения 381
D4. Используем обозначения из п. 2 § 5. Назовем функцию
на евклидовом пространстве Rn липшицевой, если для любого
R > 0 существует такая константа Сд, что
\f(X)-f(Y)\^CR\X-Y\ при X, У€К", \X\<R, \Y\<R.
Доказать, что любая инвариантная относительно группы Вейля
липшицева функция ф на а может быть продолжена до
/(-инвариантной липшицевой функции Ф на р. (Указание: используйте
предложение 5.18 из гл. I.)
Е. РАСПРЕДЕЛЕНИЯ
Е1. В обозначениях п. 1 § 5 доказать, что если f£@)(GiK),
T££'(G/K), то
(fxT)(g.o) = lf(gh-i.o)dT(h),
G
(Txf)(g-o) = \f(h-ig>o)dT(h).
G
E2*. Если распределение T^S)'(G) таково, что T*@><z.@)t
то T££'(G) (см. Эренпрайс [1956]).
ЕЗ. Воспользуемся обозначениями из п. 1 § 5. Пусть s, t££'(G)t
D£D(G). Тогда
s*(D*y t = Ds*t.
Используя это равенство при s = S, t = T, D£X(I(p))f получить
другое доказательство теоремы 5.5 (Коорнвиндер).
F. ВОЛНОВОЕ УРАВНЕНИЕ
F1. Получить решение волнового уравнения
д*и i . д2и д2и / п\ / ч / п\ i ч
используя теорему Асгейрссона о среднем значении для функции
v(xif ..., хп% уи ..., yn) = u(xi9 ..., хп9 /), yi=*t,
удовлетворяющей уравнению
(Асгейрссон [1937]).

382 Гл. II. Инвариантные дифференциальные операторы
F2*. Как и в § 4 гл. 1, рассмотрим гиперболическое
пространство Н" с римановой структурой ds2 постоянной секционной
кривизны —1. Доказать, что лоренцево многообразие H"xR
имеет постоянную скалярную кривизну /С =— п(п—1) (см.
упр. А5). Как было показано, естественным волновым уравнением
на Н" является следующее уравнение:
(L+(^i1^J)w=='S"' w(A:' °) = «oW, us{xy 0) = u1(x).
Пользуясь теоремой 5.28, найти явную формулу для решения
этого уравнения. Доказать, что при нечетном п справедлив
принцип Гюйгенса.
ПРИМЕЧАНИЯ
§§ 1—2. Содержащаяся в теореме 1.4 характеризация дифференциальных
операторов принадлежит Петре [1959; 1960] (приведенное доказательство
принадлежит Л. Карлесону). При изложении этой теоремы, равно как и при
изложении результатов 1.2 и 1.3, мы следовали Нарасимхану [1968].
Распределения на многообразиях подробно изучал Шварц [1966]. Оператор Лапласа —
Бельтрами (см. Бельтрами [1864]) в каждом из своих видов (см. A2), A3), B6)
из § 2) играет важную роль в римановой геометрии. Его связь с оператором
d6 + &J на формах объяснена у де Рама [1955, § 26]. По поводу другого
доказательства см. упр. А2 к этой главе. Предложение 2.4 и теорема 2.7 взяты
из работ Хелгасон [1959, гл. I; 1970а, гл. IV].
§ 3, пп. 1—3. Этот материал основан на работах Хелгасон [1972а, гл. I;
1965b; 1972b). Из результатов п. 4 § 3 примеры (ii), (iii) и некомпактные
варианты (v), (vii) взяты из статей Хариш-Чандры [1958а; 1956b] и [ 1957а}
соответственно. Однако доказательства в этих работах совсем другие. См.
также Березин [1957] и Карпелевич [1962]. Теорема 3.15 и доказательство
в примере (vii) заимствованы из работы Хелгасон [1972а].
§ 4. Теорема 4.3 является некоторой модификацией результатов Хариш-
Чандры и Шварца (см. Хариш-Чандра [1953, с. 192; 1956b, с. 111]). По
поводу следствия 4.5 см. также Гельфанд [1950b]. Описание алгебры D (G/H)
(теоремы 4.9—4.11) содержится в работе Хелгасон [1959]. Нередуктивый случай
был изучен Холе [1974], Коорвиндером [1981] и Якобсеном [1982].
Предложение 4.12 встречается у Понтера [1957] для гармонических пространств, у
Березина и Гельфанда [1956] и Хелгасона [1959] для симметрических пространств.
§ 5, п. 1. Результаты о свёртках распределений на G/K (в частности,
теорема 5.5) взяты из работы Хелгасон [1973а]. Коммутативность алгебры
D * (G/K) для симметрического пространства G/K (следствие 5.2) впервые была
обнаружена Гельфандом [1950а]. Следствие 5.4 в другом виде сформулировано
у Хариш-Чандры [1954с, лемма 1] и доказано у Сельберга [1956], где также
установлено следствие 5.3. Этот результат был отмечен Гельфандом [1950а],
но доказательство, приведенное у Березина и др. [1960], неполно, поскольку
оно основано на том факте, что Z (G) отображается на всю алгебру D (G/K)
при применении операторов из Z (G) к /(-инвариантным справа функциям.
Однако в общем случае такая сюръективность места не имеет (пример: £6/£4>
см. предложение 5.32 и упр. D3), хотя для всех классических групп G (ве-

Примечания
383
щественных и комплексных) это и верно. Приводимое нами доказательство
части (i) теоремы 5.7 было записано в 1960 г. после обсуждения с Хариш-
Чандрой. Лихнерович в работе [1963] доказал этот же результат при более
слабом предположении о существовании инвариантного элемента объема на G/H.
Дальнейшее (алгебраическое) обобщение было дано Дюфло [1979а].
§ 5, пп. 2—3. Следствие 5.12 —неопубликованный результат Шевалле,
использованный Хариш-Чандрой [1958а]. Набросок принадлежащего Хариш-Чан-
дре доказательства содержится в упр. D1 к настоящей главе. Данное в тексте
доказательство, приводящее также к более общей теореме 5.8, следует работе
Дадока [1982]. Теорема 5.13 —из работы автора [1977а], а теоремы 5.16,
5.17 и предложение 5.23 —из работы Хариш-Чандры [1958а]. Формула C9)
содержится в Хелгасон [1964а], где она используется для доказательства
локальной разрешимости любого оператора D из D(G/K). Теорема 5.24
представляет собой частный случай данного Хариш-Чандрой выражения для оператора
Казимира на G в терминах разложения Картана G = KAK (см. упр. А8).
§ 5, пп. 4—8. Предложение 5.26 и теорема 5.27 (о решении уравнения
Пуассона) взяты из работ Хелгасон [1959; 1962а, гл. X]. Часть (и) теоремы
5.27 содержится также в работе Алламижон [1961]. Теорема 5.28 и ее
обобщение на римановы однородные пространства —из работ Хелгасон [1957b; 1959].
Доказательство теоремы 5.28 является развитием первоначального
доказательства Асгейрссона [1937] для случая Rn. Теоремы 5.33, 5.35 и 5.37 содержатся
в работах Хариш-Чандры [1957а; 1958а, § 14]. Материал п. 7 § 5 и теорема
5.38 взяты из статьи автора [1964а].

Глава III
ИНВАРИАНТЫ
И ГАРМОНИЧЕСКИЕ ПОЛИНОМЫ
Линейное действие группы на векторном пространстве распространяется до
действия на симметрической алгебре, что приводит к инвариантным
полиномам и соответствующим гармоническим полиномам. В § 1 мы при самых общих
предположениях доказываем, что каждый полином является полиномом от
инвариантов с гармониками в качестве коэффициентов. Гармонические полиномы
описываются в терминах многообразия, определяемого инвариантами. Для
линейного действия группы изотропии в случае симметрического пространства
эти результаты справедливы в усиленном виде, обсуждаемом в § 5.
В § 2 мы доказываем один аналогичный результат для внешней алгебры.
В § 3 рассмотрен частный случай линейного действия группы Вейля. Этот
случай особенно интересен, поскольку есть глубокие связи между
возникающими при этом гармоническими полиномами, инвариантами и собственными
функциями, с одной стороны, и корневой структурой соответствующей алгебры
Ли —с другой. В § 4 мы изучаем орбиты комплексифицированного действия
группы изотропии для симметрического пространства. В этом случае имеют
место важные связи между этими орбитами и инвариантами и гармоническими
полиномами.
§ 1. Разложение симметрической алгебры.
Гармонические полиномы
Пусть Е—конечномерное векторное пространство над полем
R и G— некоторая группа линейных преобразований Е. Действие
G на Е индуцирует действие G на кольце полиномов на Е.
Неподвижные точки этого действия, G-инварианты, образуют под-
кольцо. G-гармонические полиномы h—это общие решения всех
дифференциальных уравнений вида Dh = 0, где D—произвольный
G-инвариантный дифференциальный оператор с постоянными
коэффициентами на £, аннулирующий константы. При некоторых
общих предположениях о группе G мы установим результаты
следующего рода:
1. Каждый полином на Е является суммой вида 2'V**» гДе
k
ik—инвариантный, a hk — гармонический полиномы.
2. G-гармонические полиномы бывают двух типов:

§ 1. Разложение симметрической алгебры
385
(a) тождественно равные нулю на алгебраическом
многообразии NGi определяемом G-инвариантами;
(b) степени линейных форм, определяемых точками
многообразия NG.
Любой G-гармонический полином h представим в виде h =
= ha + hbi где ha — полином типа (a), a hb—сумма гармонических
полиномов типа (Ь).
Перейдем теперь к более подробным рассмотрениям. Пусть
Е*—сопряженное пространство к £, a S(E*) и S
(Е)—соответствующие вещественные симметрические алгебры. Тогда S(E*)
состоит из полиномиальных функций на Е. Если Х$Е, то
обозначим через д(Х) дифференциальный оператор, задаваемый
формулой
(d(X)f)(Y) = (-±-f(Y+tX))t=o, f£g(E).
Отображение X —+ д(Х) продолжается до изоморфизма
симметрической алгебры S(E) (соотв. комплексной симметрической алгебры
Sc (Е) = С (g) S (Е)) на алгебру всех дифференциальных операторов
с постоянными вещественными (соотв. комплексными)
коэффициентами на Е. (В гл. II мы опускали для упрощения записи
индекс с.)
Любой элемент g из полной линейной группы OL (Е)
действует на Е. Он действует также и на Е* следующим образом:
(g-e*)(e) = e*(g~1-e). Эти действия продолжаются до
автоморфизмов алгебр S(E) и S(£*).
Пусть GaGL(E)—произвольная подгруппа, 1(E)—множество
G-инвариантов в S(E) и I+(E)aI (E)—множество G-инвариантов
без постоянного члена. Определим аналогичным образом /+(£*) <z
с/ (E*)aS(E*). Элемент h£Sc(E*) называется G-гармоническим,
если d(J)h = 0 для всех J£l+(E). Обозначим через НС(Е*)
множество всех G-гармонических полиномиальных функций и
положим H(E*) = S(E*)t)Hc(E*). Пусть Iе (Е) и Iе
(Е*)—подпространства в Sc (Е) и Sc (£*), порожденные 1(E) и I (E*)
соответственно. Каждый элемент р g Sc (E*) единственным образом
продолжается до полиномиальной функции на комплексификации
Ес. Это продолжение также будем обозначать через р.
Рассмотрим многообразие NG в Ес, определяемое следующим образом:
NG = {X£E<: i(X) = 0 для всех /€/+(£*)}.
Замечание. Название «G-гармонический» подсказано,
конечно, случаем, когда G—ортогональная группа. В этой
ситуации инвариантами являются полиномы от квадрата расстояния1},
Х)До начала координат. *=-Прим. перев.
•3 с. Хел1асон

386 Гл. III. Инварианты и гармонические полиномы
а G-гармоническими являются полиномиальные решения
уравнения Лапласа.
Пусть В — невырожденная симметрическая билинейная форма
на ЕхЕ. Обозначим также через В ее билинейное продолжение
на ЕсхЕс. Если Х$ЕС, то X* обозначает линейный функционал
У—+В(Х, Y) на Е. Отображение X—+ X* (Х^Е) единственным
образом продолжается до изоморфизма \х: Р—+р алгебры SC(E)
на SC(E*). При этом изоморфизме форма В переходит в
билинейную форму < , > на Е*хЕ*, которая в свою очередь расширяется
до билинейной формы <,> на Sc(E*)xSc(£*). Формула для
формы < , > такова:
(О <Л q> = (d(P)q)@).
Поскольку d(X)(B(Y, .)) = B(X, Y), форма <,> действительно
является продолжением формы В. Пусть, с другой стороны,
Sk(E*)—пространство однородных элементов степени k в S(E*).
Определим билинейную форму < , >' на Sk(E*)xSk(E*)
равенством: при xh yj£E*
k
B) <*i.. .хк, уг.. .%>' = 2 П <*/, Уоф>*
G۩/jt= 1
где @£—группа перестановок k элементов. Эта билинейная форма
корректно определена, поскольку правая часть равенства B)
линейна по каждому из х{ (и по каждому yj) и не зависит от их
порядка. Продолжим тогда < , >' до билинейной формы на
Sc(E*)xSc (E*). Понятно (например, в силу приводимого ниже
равенства D)), что <xk, укУ = <хк, ук>. Поэтому (так как степени
хк (х£Е*) порождают Sk(E*)y см. упр. D1 к гл. I) формы < , >
и < , >' совпадают. В частности, форма < , > симметрична, а
равенство A) показывает ее невырожденность.
Кроме того, если /?, qy r£Sc(E*)f то
<р, qr> = (d(QR)p)@) = (d(R)d(Q)p)@) = <d(Q)p, г>.
Это показывает, что умножение на q является сопряженным
оператором к d(Q).
Предположим теперь, что группа G сохраняет форму В. Тогда
форма < , > также G-инвариантна и
C) ц (/<(£)) = /<(£*).
Пусть Р — однородный элемент из SC(E*) степени k. Если ngZ,
n^ky то простым вычислением проверяется соотношение
D) д(Р)((Х*)») = п(п-1).. .(n-k+ I)р(Х)(Х*)»~к.
Если, в частности, X£NG, то (Х*)п является гармоническим
полиномом. Пусть Ht(E*) — векторное пространство над С, порож-

§ 1. Разложение симметрической алгебры
387
денное функциями (Х*)п, /г = 0, 1, 2, ..., X£NGy и #2(£*) —
множество гармонических полиномов, тождественно равных нулю
на NG.
Если AaSc(E*) — некоторое подпространство и &€Z+, то
через Аи обозначим множество однородных элементов степени k
из А. Подпространство А называется однородным, если А = 2 Ak-
Очевидно, что пространства /(£*), Н(Е*)У НХ(Е*) и идеал
/+ (£*) S (£*) однородны.
Если С и D—подпространства некоторой ассоциативной
алгебры Л, то через CD обозначим подпространство в Л,
порожденное произведениями cd (egС, d£D).
Теорема 1.1. Пусть G—компактная группа линейных
преобразований векторного пространства Е над R. Тогда
E) S (£*) = /(£*) Я (£*),
т. е. каждый полином р на Е имеет вид p = ^ikhk> где поли-
k
номы ik G-инвариантны, a hk—гармоничны.
Пример. Если G—ортогональная группа О (/г),
действующая на R", то инвариантами являются полиномы от х\ + ...
+ х%, т. е. равенство E) дает классическое разложение
произвольного полинома р:
F) р=2м+...+^)\
где все полиномы hk гармоничны, т. е. L&n(hk) = 0 (см. п. 1 § 3
введения).
Доказательство теоремы 1.1. Пусть В—некоторая
положительно определенная G-инвариантная квадратичная
форма1}. С помощью ортонормированного относительно В базиса в Е
нетрудно усмотреть из равенства B), что форма < , >
положительно-определённа на S(£*)xS(£*). Рассмотрим при заданном
k£Z+ прямое разложение
G) S*(£*) = (/+ (E*)S (£•))* ©V*f
где Vk—ортогональное относительно < , > дополнение к первому
слагаемому. Пусть /<4 и /g/+(£*)/. Так как умножение на /
и д (J) являются сопряженными операторами, из G) следует
равенство
<S*-'(£*), d(J)Vk> = 0,
х> Она может быть получена из произвольной положительно-определенной
формы М по формуле £(*)= \ М (gx) dg, где dg — мера Хаара на G. — Прим*
Q
перев.
13*

388
Гл. 111. Инварианты и гармонические полиномы
т. е. VkcHk(E*). Обратное включение устанавливается
аналогично, так что мы получаем ортогональное разложение
(8) S* (£*) = (/+ (£*) S (£•))* + Hk (£*).
Теперь равенство E) получается итерациями.
Теорема 1.2. Пусть Е—конечномерное векторное
пространство над R и G—связная полупростая подгруппа Ли в GL(E)f
сохраняющая некоторую невырожденную симметрическую били-
нейную форму В на Е. Тогда
S (£*) = /(£*)#(£*).
Доказательство. Форма В обладает единственным
продолжением (которое также обозначим В) до билинейной формы
на ЕсхЕс. Рассмотрим алгебру Ли д группы G, ее комплекси-
фикацию йс и произвольную компактную вещественную форму и
алгебры дс. Поскольку g является подалгеброй в gt(£) (алгебре
Ли группы GL(E))f gc является подалгеброй %1(ЕС)—алгебры
Ли всех линейных преобразований пространства Ес, которая
совпадает с алгеброй Ли группы GL(EC). Пусть U и Gc—связные
подгруппы Ли в GL (Ес) (рассматриваемой как вещественная
группа Ли), отвечающие алгебрам и и gc соответственно.
Элементы группы G однозначно продолжаются до линейных
преобразований пространства Ес. Благодаря этому G превращается в
подгруппу Ли в Gc, сохраняющую форму В. Отсюда следует,
что
(9) B(T-Zi9 Z2) + B(Zi9 Т.Z2) = 0, T€B. Z,6^.
Однако, поскольку (Ti + iT^-Z^TiZ + iT^ при Ти Т2£% и
Zk.Ec и поскольку форма В является комплексно билинейной,
мы получаем, что равенство (9) справедливо при всех Т*€дс.
Следовательно, форма В Сс-инвариантна, так как группа Gc
связна.
Лемма 1.3. Существует V-инвариантная вещественная форма
F пространства Ес1\ на которой В строго
положительно-определённа.
Доказательство. В силу обычной процедуры приведения
квадратичных форм к каноническому виду, пространство Е
является ортогональной прямой суммой Е = Е~ + Е+
подпространств Е~ и Е+, на которых строго положительно-определённы
формы —В и В соответственно. Рассмотрим линейное
преобразование J пространства Е, определяемое следующим образом1
JZ = iZ (Zg£-), /Z = Z (Zg£+).
to To есть Ec*=F + iF (сумма прямая).—Прим. перев*

§ 1. Разложение симметрической алгебры
389
Тогда билинейная форма В' (Zi9 Z2) = B(JZi9 JZ2) (Zi $Ee) строго
положительно-определённа на £. Рассмотрим ортогональные
группы О (В), О (B')aGL(Ec)t порожденные квадратичными
формами В и В' соответственно. Обозначим через О (Be) подгруппу
0(В')9 сохраняющую £, т. е.
0(Вв)~0(В')паЬ(Е).
Имеют место включения
UcG€c:0(B) = JO(B')J-*.
Поскольку SO(n) является максимальной компактной
подгруппой в SO(n, С), связная компонента единицы группы JO(B'E) J'1
является максимальной компактной подгруппой в связной
компоненте единицы группы JO(B')J~l. В силу элементарного
частного случая теоремы Картана о сопряженности (теорема 2.1
гл. VI [ДС]), эта последняя группа содержит такой элемент g,
что g~lUg<zJO(B'E) J~x. Тогда вещественная форма F=*gJE
пространства Ес обладает требуемыми в лемме свойствами. В
самом деле,
UF^UgJEdgJO{B'E)J^(JE)(zF.
Если X£F, то
В(Х, X) = B'(J-*Xb J~*X)~B'(J-*g-*X9 J-*g~lX)^0,
поскольку J~lg~xJ £0(B'). Таким образом, форма В9
положительно-определённа на Е. Лемма доказана.
Так как всякая полиномиальная функция полностью
определяется своим сужением на любую вещественную форму
пространства, нетрудно свести утверждение теоремы 1.2 к равенству
E) с помощью леммы 1.3. Для ясности мы сделаем это, явно
указав требуемые отображения.
Поскольку форма В невырожденна на ExE, FxF и ЕехЕе,
она индуцирует следующие сюръективные изоморфизмы!
IHi S< (£) — S< (£•), W S< (F) — 5- (F*), p S (£•) — S ((£•)•).
С помощью сужений комплекснозначных функций с Ее на Е и
F соответственно мы получаем сюръективные изоморфизмы
Xti S ((£•)•) — S'(£*)f Х2\ S ((£•)•) ->S'(F*).
Поскольку S (£*) = S (((£')•)*), то, сужая функции с (£')• на £•
и F* соответственно, мы получаем также следующие
сюръективные изоморфизмы!
At: S (£•) -* S* (£), Ла! S (£•) -+ Sc (F).

390 Гл. III. Инварианты и гармонические полиномы
При этом диаграмма
л,
S\E) « ' S(EC) *—> SC(F)
я
Ы
S%E*) <-2— S((EC)*) ——► S^*)
коммутативна. Для каждого из действий:
G на £, £/ на F, Gc на Ес
рассмотрим соответствующие пространства инвариантов
/<(£), /«(£•), /-(F), /<(/*), /(£«), /((£<)*).
Лемма 1.4. Пусть X = A^Xj, Л = Л2Л1. Тогда
Я (/«(£•)) = /« (/?•), Л (/« (£)) = /«(F).
Доказательство. Так как Gc:Gc, понятно, что
ki(I ((Ec)*))aIc(E*). С другой стороны, пусть р£1с(Е*). Если
Zgg, то обозначим через dz единственное дифференцирование
алгебры Se(E*), удовлетворяющее при всех е*£Е*, Х$Е
равенству (dz-*)(X) = e*(Z-X). Тогда
(Ю) dz.p=o.
Рассмотрим некоторый базис (Х{) в Е, двойственный к нему
базис (хг) в Е* и базис (г() в (Ес)*, двойственный к базису (Xt) в
Ес. Тогда A0) является тождеством по переменным (х{), которое
остается справедливым при подстановке (для каждого /) х{ —► zt.
Это означает, что
(И) ez.(^(rt)=of
где 8Z—дифференцирование алгебры S ((£')•), удовлетворяющее
при всех е* g (Ес)* и X g Ec равенству
(8z.e*)(X) = e*(Z-X).
Однако б2 можно с помощью этого условия определить и при
всех Zgg°, причем равенство A1) остается справедливым при
всех таких Z. Так как группа Gc связна, отсюда следует, что
К1 (Р) € / ((£*)*)• Таким образом, мы доказали равенство
&1 (/ ((£?)*)) = /' (£*). Аналогично устанавливается, что Я2 (/ ((£')*)) =
= Iе (F*). Тем самым первое утверждение леммы доказано.
Второе же утверждение следует из первого, если принять во
внимание равенство C) и приведенную выше диаграмму.
Лемма 1.6. Пусть PgS<(£), q$S'(E*). Тогда
d(AP){kq)^Hd{P)q).

§ I. Разложение симметрической алгебры
391
Доказательство. Предположим сначала, что Р = Х£Е,
gr = jXj(F) (Y£E). Тогда обе части требуемого равенства сводятся
к В(ХУ Y). Таким образом, дифференцирования q~->d(AX)Xq и
q —у % (д (X) q) алгебры Sc (E*) совпадают на Е* и тем самым на
всей алгебре SC(E*). Так как отображения Р—+д(АР) и Р—►
—>д(Р) являются изоморфизмами, утверждение леммы доказано.
Комбинируя две последние леммы, получаем следующий
результат:
Следствие 1.6. X(HC(E*)) = HC(F*).
Рассматривая действие группы U на F, из теоремы 1.1
выводим равенство
SC(F*) = IC(F*)HC(F*).
Применяя теперь изоморфизм Аг1 и используя лемму 1.4 и
следствие 1.6, получаем теорему 1.2.
Теорема 1.7. Пусть Е—конечномерное векторное
пространство над R и GczGL(E)—подгруппа, сохраняющая
невырожденную симметричную билинейную форму В на Е. Тогда
(a) если G компактна и форма В положительно-определённа,
то
A2) НС(Е*) = Н1(Е*) + Н2(Е*) (сумма прямая)]
(b) если G—связная полу простая подгруппа Ли в GL(E), то
также справедливо равенство A2).
Начнем с простой леммы.
Лемма 1.8. Пространство Н2(Е*) однородно.
Доказательство. Напомним, что элементы из Sc(£*)
считаются автоматически продолженными до полиномиальных
функций на Ес (без изменения обозначений). Пусть J = 1+ (E*)SC(E*).
Тогда NG является множеством всех совместных нулей
элементов идеала /. По теореме Гильберта о нулях (см., например,
Зарисский и Самюэль [1960, т. 2, с. 195]1}) полиномы,
тождественно равные нулю на NG, образуют радикал VJ идеала /, т. е.
множество всех элементов из Sc(E*)y некоторая степень каждого
г
из которых лежит в /. Пусть теперь p$V J и /? = 2р*—Раз"
о
ложение этого полинома на однородные компоненты. Записывая
это равенство в виде p = q+ рГУ мы видим, что (в силу
однородности J) из включения pn£J следует, что р?€/- Иными
словами, pr6j/V. В силу линейности радикала yJ, также и q$
1>См. также ван дер Варден [1976, с. 502]. — Прим. перев,

392
Гл. III. Инварианты и гармонические полиномы
g V7 и по индукции мы получаем включение pk g VJ при всех k.
Таким образом, радикал К J однороден. Так как Н2(Е*) = НС(Е*)Г\
П V J\ отсюда вытекает утверждение леммы.
Переходя к доказательству теоремы, рассмотрим сначала
случай (а). Пусть k£Z+ и М—ортогональное дополнение к
Ht(E*)k в Hc(E*)k, где индекс k обозначает пространство
однородных элементов степени k. Пусть q£Hc(E*)k и Q = ji"*(^).
Тогда
q g М & (д (Q) Л) @) = 0 при всех h € Нг (£*)*
&d(Q)(X*)k = 0 при всех X£NG.
С учетом равенства D) это показывает, что q тождественно
равняется нулю на Na. Следовательно, М=#2 (£*)*. Это доказывает
равенство A2), поскольку все входящие в него члены однородны.
Рассмотрим теперь случай (Ь). Используем обозначения,
введенные в ходе доказательства теоремы 1.2. В силу леммы 1.4
многообразия Ыц и NG совпадают. Отсюда следует, что X (Ht (£*)) =
= Я/(/7*) (/=1, 2), и случай (Ь) теперь сводится к предыдущему.
Пример. Рассмотрим опять пример группы G = 0(n),
действующей на Rn. В этом случае
A3) H2(R») = 0,»
поэтому в силу равенства A2) имеем
A4) Hc(Rn) порождено элементами множества
(аЛ+ ... + апхп)*: 2а? = 0, k^z\
Этот факт был уже доказан в п. 1 § 3 введения.
Следствие 1.9. Пусть (в обозначениях теоремы 1.7) идеал
1% (£*) Sc (£*) совпадает со своим радикалом. Тогда
Нс{Е*) = Нг(Е*).
Это очевидно, поскольку
A5) H2(E*) = H<(E*)[)J = 0.
Теорема 1.10. Пусть Е—конечномерное векторное
пространство над R и GczGL(E)—подгруппа Ли, которая либо (а)
компактна (возможно, конечна), либо (Ь) связна и полупроста. Тогда
алгебра I (£*) —конечно-порождённая ?}.
1) Доказательство этого равенства является несложным упражнением. —
Прим. перев.
2> То есть имеет конечное число образующих. ^Прим. перев.

§ /. Разложение симметрической алгебры 393
Доказательство. Рассмотрим сначала компактный случай.
Опять положим
/ = /'+(f)S<(£*).
По теореме Гильберта о базисе (см. например, Зарисский и
Самюэль [1960, т. 1]х)) идеал J имеет конечный базис. Отсюда
следует существовачие такого конечного набора однородных
инвариантов /i, ..., js g fc+ (£*), что любой однородный инвариант
/£/с (£*) может быть записан в виде
A6) i = Pih+ ...+/>,/„
где все pk£Sc(E*) однородны и degpk = degj—deg/ft. Применяя
линейное преобразование g£G и интегрируя по компактной
группе G, получаем равенство
/e'i/i+...+*,/,t
где ifc = j g-Pkdg- Применяя теперь A6) к однородным инвариан-
G
там ik, заключаем по индукции, что /€С[/ь ..., /J/что и
требовалось доказать.
Переходя к случаю (Ь), рассмотрим g, gG, u, G, Gc и U
такие же, как и в доказательстве теоремы 1.2. Рассмотрим также
изоморфизм А* из S((EC)*) на Sc (£*), который, как доказано,
удовлетворяет равенству
A7) к и (т*))=Iе т.
Полиномиальная функция на Ес является U-инвариантной в том
и только том случае, если она Сс — инвариантна. Это
непосредственно видно из условий инвариантности, записанных в
терминах алгебр Ли и и gc (см. доказательство леммы 1.4). В
соответствии со случаем (а), алгебра / ((£')*), а в силу A7) также и
Iе (Е*) являются конечно-порождёнными.
Пусть теперь S = S((EC)*), / = /((£')*) и S*—пространство
однородных элементов степени k в S. Положим Ik = I()Sk. Най-
00
дем производящую функцию 2dim(/*) tk для последовательности
о
dim(/*) в случае конечной группы G порядка /V = |G|.
Теорема 1.11. Указанная выше производящая функция
задается формулой
A8) £dim(/*) '* = -4г2 (det(/-/*))-»,
где I—тождественный оператор на Ес.
*> Или ван дер Варден 1,1976, с. 439]* — Прим. перев.

394 Гл. III. Инварианты и гармонические полиномы
Доказательство. Пусть FcaEc — подпространство,
состоящее из векторов, неподвижных для всех g£G. Оператор Р =
= Af~'1 2 ё ПРИ любом g0^G удовлетворяет равенству g0P = P-
Таким образом, PEC = FC и Р2 = Р. В частности,
A9) dim(F*)=T^£trte),
где через tr обозначен след. С другой стороны, если
g{k)—эндоморфизм Sk, индуцированный g, то, диагонализуя g, получаем
Теперь утверждение теоремы получается путем применения
равенства A9) к эндоморфизму gm v.
§ 2. Разложение внешней алгебры.
Примитивные формы
Пусть, как и в § 1, Е—конечномерное векторное
пространство над R, а Л(£) и Л(£*)—алгебры Грассмана над
пространством Е и его сопряженным соответственно. Каждый элемент
Х$Е индуцирует линейное отображение б(Х) алгебры Л(£*),
задаваемое формулой
т
в(Х)(*Л- • -Л*.) = 2 (-I)»** W(*iA. • -Л^Л. • -Ахт),
k— 1
где шляпка над xk означает, что соответствующий множитель
должен быть опущен. При этом 8(Х) является
антидифференцированием алгебры Л(£*) в том смысле, что для любого элемента
р£А(Е*) степени г справедливо равенство
4X)(pVq) = b(X)pAq + (-lYpAb(XL
(см. Хелгасон [1978, упр. В5—6 гл. 1]2)). Отображение Х—>8(Х)
единственным образом продолжается до гомоморфизма тензорной
алгебры Т(Е) над Е в алгебру всех эндоморфизмов пространства
А(Е*). Так как б(Х®Х) = 8(ХJ = 0, индуцируется также
гомоморфизм Р-+8(Р) из Л (£) в алгебру всех эндоморфизмов Л (£*).
Х) При этом в роли Ес выступает 5Л, а в роли Fc выступает /Л.— Прим.
перев.
?> Данное классическое равенство легко доказать непосредственно.— Прим,
перев.

§ 2. Разложение внешней алгебры. Примитивные формы 395
Как будет показано ниже, этот гомоморфизм в действительности
является изоморфизмом.
Предположим теперь, что В—произвольная невырожденная
симметричная билинейная форма на ЕхЕ. Отображение X—+Х*
(X*(Y) = B(X, Y)) продолжается до изоморфизма \i из Л(£) на
Л(£*). Мы получаем по формуле
A) <Р, q>=[4p-x(p))q]@)
билинейную форму < , > на Л (£*). Если xit ..., xk, у±, ..., yt g E*>
то прямое вычисление показывает, что выражение
<*iA...A**, У±/\---1\У1>
равно нулю или
B) (-l)(i/*)*(*-i>det[B(r% р-%)]
в зависимости от того, k ФI или k = /. Отсюда следует, что < , > —
симметрическая невырожденная билинейная форма. Если Q^A(E),
q = li(Q), то оператор р-+рЛЯ на А(Е*) сопряжен оператору
6(Q). Легко также видеть (с учетом A) и B)), что введенное
выше отображение Р —+8(р) (Р g Л (£)) является изоморфизмом.
Пусть теперь G— некоторая группа линейных преобразований
пространства Е. Тогда, как и ранее, группа G действует на £*,
а также действует как группа автоморфизмов алгебр Л (Е) и
Л (£*). Рассмотрим множества J (Е) и J (E*) всех G-инвариантов
в Л(£) и Л(£*) соответственно. Через J+(E) и J+(E*) обозначим
пространства, состоящие из всех инвариантов без членов
нулевого порядка. Элемент р£А(Е*) называется G-примитивным, если
S (Q) р = 0 при всех Q g J+ (Е). Пусть Р (Е*) — множество всех
G-примитивных элементов.
Теорема 2.1. Пусть В—невырожденная симметричная
билинейная форма на ЕхЕ и G—подгруппа Ли в OL(E), сохраняю-
щая форму В. Предположим, что либо (i) G компактна, а В
положительно-определённа, либо (ii) G связна и полупроста. Тогда
C) A(E*) = J(E*)P{E*).
Доказательство полностью аналогично доказательству теорем
1.1 и 1.2. В случае (i) сначала устанавливается (таким же
способом, как (8) в § 1) ортогональное разложение
D) Л (£•) = Л (£•) J+ (Е*) + Р (£•).
Тогда итерации равенства D) дают C). Некомпактный случай (ii)
сводится к компактному (i) с использованием леммы 1.3. Мы
опускаем подробности, поскольку они в основном являются
повторением доказательства теоремы 1.2.

396 Гл. 111. Инварианты а гармонические полипомы
Пример. Пусть V есть я-мерное комплексное гильбертово
пространство. Рассматривая V как 2л-мерное вещественное
пространство Е, мы превращаем группу U(n) в подгруппу G
ортогональной группы 0Bп). Пусть Zk = Xk + iYk A<&< л)—орто-
нормированный базис в У, z*, ..., zn—двойственный базис в V*.
Положим xk =s У2 (zk + zft), yk = — У21 (zk—zk) A < k < ri).
Обозначим через F комплексное векторное пространство,
состоящее из всех R-линейных отображений из V в С. Внешняя алгебра
A(F) распадается в прямую сумму
At/7)- 2 Рш.ъ*
0<а, Ь
где Fa%b—подпространство в A(F), натянутое на все
полилинейные формы вида
(Zat Л ... Л Zaa)A(Z^A - • • Л%),
K:ai<aa<...<aa<n, 1 <Pi < Р2 <.. .< Р6<Л-
Пространство /(£*) всех G-инвариантов определяется пространством /
инвариантов группы U(n)t действующей на F. Понятно, что
^ = 2^,6» гДе Ja*b=*Ji\Faib- Если теперь px-€R A<*<л), то
a,b
отображение
унитарно. Как следствие получаем, что ^at& = 0 при a ^6 и что
если /€/а,ь, т0
/ = 2Ма1 ae(*aiA • • • Лгаа)ЛBа1Л . . . Л^а)-
Далее, всегда существует унитарное преобразование
пространства V, переводящее Za. в Zt (l^i^.a). Отсюда следует, что
Аг a = ^4ai аа> т-е- / отличается лишь постоянным
множителем от( 2 za/\za J . Так как za/\za=*— 2i (хаЛУа)> понятно, что
п
/(£•)—алгебра, порожденная элементом w= 2*aA#a« Поэтому
а=1
мы получаем из теоремы 2.1 такое следствие:
Следствие 2.2. Каждый элемент q£A(E*) может быть
представление виде
<7*=2"*ЛР*>
k
п
где и= 2 хаЛУа> а каждый элемент рк примитивен, т. е.
в ДО (ft)-6.

§ 3. Инварианты группы Вейля
397
§ 3. Инварианты группы Вейля
Сейчас мы разовьем и усилим результаты §§ 1,2 для случая
конечной группы W линейных преобразований пространства £,
порожденной отражениями (или, для краткости, конечной группы
отражений1*). Под отражением мы понимаем (как в § 2 гл. VII
[ДС]) линейное преобразование порядка 2 2), неподвижные точки
которого образуют гиперплоскость. Пусть w (или \W\)—порядок
группы W. Группы Вейля, ассоциированные с полупростыми
группами Ли и симметрическими пространствами, являются
конечными группами отражений.
1. Симметрические инварианты
Для конечной группы отражений теорема 1.10 может быть
приведена к более точному виду.
Теорема 3.1. Пусть W—конечная группа отражений,
действующая на n-мерном вещественном векторном пространстве Е.
Тогда алгебра I ((Ес)*) инвариантов порождена п алгебраически
независимыми однородными элементами.
Пример. Пусть W—симметрическая группа, линейно
действующая на С": ое1 = е0щ, где е{—это i-й координатный вектор.
В этом случае алгебра инвариантов порождена элементарными
симметрическими полиномами
2jzh 2j zizJ> • • •> zi- • -zn>
а группа W порождена отражениями.
Пусть, как и прежде, S = S((£')*)> / = /((£')•)> I+al —
пространство инвариантов без постоянного члена, J — идеал /+S и
Н—пространство Н ((Ес)*) гармонических полиномов. Обозначим
через S*, Ik и Hk соответствующие подпространства, состоящие
из однородных элементов порядка k. Степень полинома будем
обозначать deg.
Лемма 3.2. Пусть элементы /lf ..., \т € / таковы, что
т т
h ^ 2 /V- Если Qi> • • •» Ят € S—однородные элементы и 2 /*<7*=0t
> 2 1
то qx^J.
х> В литературе на русском языке принят более адекватный термин
«конечная группа, порожденная отражениями». Однако мы для краткости
сохраняем используемую автором терминологию.— Прим. перев.
V То есть преобразование, квадрат которого — тождественное
преобразование.— Прим. перев.

398
Гл. 111. Инварианты и гармонические полиномы
Доказательство. Доказательство проводится индукцией
по deg^). Если deg(<7i) = 0, то <7i = 0, поскольку в противном
т
случае из соотношения 2/V7/ —О после усреднения по группе W
1
т
получили бы /i€2/V» чт0 противоречит предположению. Пусть
2
deg(<7i)^l, o£W—отражение и гиперплоскость z = 0 состоит из
неподвижных точек отражения а. Из наших предположений выте-
т
кает, что 2//(<7*—ог-^/) = 0. Но qt—aqt аннулируется на гипер-
1
плоскости z = 0, т. е. qt—aqt = zrh где rt £ S. Следовательно,
m
2/V/ = 0- Тем самым по предположению индукции г^У, т.е.
1
a-q1 = q1modJ. Поскольку отражения а порождают W, это
сравнение справедливо при всех o£W. Усредняя по а, получаем,
что <7i € J-
Докажем теперь теорему 3.1. Пусть jlf ...,
js£l+—однородные элементы, образующие минимальный базис идеала J. В ходе
доказательства теоремы 1.10 было показано, что jl9 ..., js порож-.
дают /. Покажем теперь, что они алгебраически независимы.
Предположим, что это не так. Пусть Р(yl9 ..., у s) —полином
минимальной степени > 0, для которого при всех Z^E
Р(Ш Js(Z)) = 0.
Положим d/=deg(//). Записывая Р в виде суммы мономов у*1.. .y"sy
мы можем предполагать, что Р содержит только такие мономы,
для которых степень Mi+.-.+aA полинома Z-+ h(Z)a*...i8(Z)a*
равна некоторому фиксированному числу Л. Пусть
Pi W = J£ (Л B), ...,/, (Z)) A < i <s).
Все Pt являются однородными инвариантными полиномами. Так
как degP > 0, то дР/ду(Ф0 при некотором i, т. е. (в силу
минимальности degP) соответствующий полином Р( отличен от нуля.
Переобозначим индексы таким образом, чтобы Р*, ..., Pt были
в точности теми из Ph которые ф0, чтобы ни один из
полиномов Ръ ..., Рг не содержался в идеале алгебры /, порожденном
г
остальными, и чтобы Рг+1, ..., Pt лежали в идеале 2^/- Таким
образом,

§ 3. Инварианты группы Вейля
399
где каждый из ненулевых коэффициентов vtj является
однородным полиномом степени
Л — dr+/—(Л—d,) = d,—dr+/.
Продифференцируем в декартовых координатах zit ..., гп в Ес
соотношение Р (]\, ..., js) = 0 и получим
S Г t -Г
^/' _L V ,. ^/г
-£'.*+£..
+/
,и1 v*»^'" **
Однако полином, стоящий в скобках, однороден степени dt—1. По
лемме 3.2 мы заключаем (с Ри ..., Рг в роли /\, ...,/Л), что
при любом i
t-r s
где все Вт однородны. Подсчитывая степени, получаем, что Bi = 0.
Умножим это соотношение на zk, просуммируем по k и применим
тождество Эйлера для однородных полиномов1*. Это дает
/ -Г S
diJt+ 2 vudr+ljr+l= 2 Ат1т>
где i4f = 0. Данное равенство показывает, что j{ лежит в идеале
2 jmS, что противоречит минимальности базиса /i, ..., js.
тфЬ
Таким образом, jif ..., js алгебраически независимы.
Остается доказать, что s = n. Пусть /С = С(/х, ..., js) — поле,
порожденное /,-, т. е. поле частных кольца I = C[jl9 ..., /J.
Обозначим, далее, через Q=C (z^,..., z„) поле частных для S=
=C[z1,...,*„]. Если p£S, то полином
A) Ж*)=П (Х-о-р) = Х* + дгХ~-*+...+д9
имеет коэффициенты из /. Поскольку /?(/?) = О, мы заключаем,
что р, а следовательно и любой элемент из Q, алгебраичен над/С.
Обозначая через trdeg степень трансцендентности расширения
поля, мы в силу общей теории (см. Зарисский и Самюэль [1960,
т. 1]Р) получаем
B) tr deg (Q/C) = tr deg (Q/K) + tr deg (K/C).
*> Если Q (xi, ,*i, *л)—однородный полином степени m, то ^ */ ~z—=mQ.
Прим. nepee.
*> Или ван дер Варден [1976, с* 266].— Прим, персе,

400
Гл. III. Инварианты и гармонические полиномы
Поскольку расширение QIK алгебраично, отсюда следует, что
n = trdeg(/C/C). Так как любые два базиса трансцендентности
расширения поля равномощны, заключаем, что s = n. Тем самым
теорема 3.1 доказана.
Теорема 3.3. Пусть W—конечная группа отражений,
действующая на n-мерном вещественном векторном пространстве Е.
Рассмотрим однородные образующие Д, ..., \п алгебры
W-инвариантов I ((Ес)*). Их степени обозначим через йъ ..., dn. Тогда
Ud, = w, S(d,-l)«=r,
i=1 i=l
где w—порядок группы W и г—количество отражений,
содержащихся в W. Кроме того, степени d( определены однозначно.
Доказательство. Прежде всего отметим, что в силу
равенства B) полиномы ji алгебраически независимы. Пусть j£lk,
где /* — пространство однородных инвариантов степени k. Тогда /
является линейной комбинацией мономов /"?.../£в, для которых
C) Mi+ • - +andn = k.
Из алгебраической независимости /, следует, что размерность
dim(/*) равна числу неотрицательных целочисленных решений
(аь ..., ап) уравнения C). Следовательно,
00
D) 2<Нт (/*)**в0 — &)-х...(\— t*n)-\
о
Комбинируя этот результат с теоремой 1.11, мы заключаем, что
E) w П o + f + .-.+tt-'r-S П г^-,
\<i<n otW 1</<л l—lc<*/
где са —собственные значения а, подсчитываемые с учетом
кратности. Если положить /—► 1, то в правой части даст вклад только
слагаемое с а=1, что приводит к первой формуле теоремы.
Далее, продифференцируем равенство E) по / и затем
устремим / к 1. Слагаемое в правой части, соответствующее а, даст
при этом ненулевой вклад в том и только том случае, когда а
имеет собственное значение 1 кратности п — 1. Но это случается
в точности тогда, когда а является отражением. Соответствующий
вклад равен

§ 3. Иварианты группы Вейля
401
Таким образом,
Теперь из первой формулы теоремы следует вторая.
Для доказательства единственности рассмотрим другое
множество Jlf ..., Jn однородных полиномов, порождающих / и
имеющих соответственно степени Du ..., Dn. После
перенумерации можно считать, что dx^d2^.. ,^dn и D1^:D2^... ,^.Dn.
В силу равенства D) имеем
ПA-л)«По-<°о-
Рассматривая члены наименьшей степени по /, получаем d1 — Dij
а после сокращения d2 = D2 и т.д. Тем самым единственность
доказана.
2. Гармонические полиномы
Теперь в случае конечной группы отражений мы можем
несколько усилить теорему 1.1.
Теорема 3.4. Пусть W—конечная группа отражений. Тогда
dim H = w и отображение ср: /®А—►/Л продолжается до
линейной биекции /®Я на S. Кроме того,
F) 2 (dim Я*) /*= Д A + /+...+Л-1).
(Здесь использованы прежние обозначения.)
Доказательство. Из теоремы 1.1 нам известно, что
отображение <р сюръективно. Для доказательства инъективности мы
должны установить, что если 2аг, Л^* — ^» где #Г,5€С, a {ir}
Г, S
и {hs}—однородные базисы векторных пространств / и Н
соответственно, то аГу s = 0 при всех г и s. Перепишем исходное
соотношение в виде
2Л#Bвг,Л) = °-
Положим /, = 2flr.**V Мы должны доказать, что все Is равны
г
нулю. Для этого достаточно рассмотреть случай, когда все /,
однородны и величина deg/i5 + deg/5 одинакова при всех s.
Предположим, что имеется /5^0. Запишем /5 в виде
'$—£i umt, ,,.,mn, s /1 •♦•//*

402
Гл. III. Инварианты и гармонические полиномы
с ненулевыми коэффициентами ami m„, s. Тогда
2C1ami,...,mn,shs)jT...jnn==0,
(т)\ s J
причем по крайней мере один из мономов у™1... \™п не лежит
в идеале алгебры /, порожденном остальными. Соответствующий
член
йгпх тп> s^s
в силу леммы 3.2 лежит в J. Однако тогда в силу равенства (8)
§ 1 этот член равен нулю. Из линейной независимости hs следует
теперь равенство ати ...,тп, s = 0, противоречащее исходному
предположению.
Из отождествления /(g)// = S вытекает тождество
2 (dim Ik)tk 2 (dim #')''= 2 (dimS-»)/«
Л>0 />0 m^O
для производящих функций. Поскольку правая часть равна
A — t)~n, требуемая формула для 2 (dim Я') ^ следует теперь из
D). Полагая /=1, мы получаем равенство сНтЯ = оу из
теоремы 3.3.
Следствие 3.5. Многообразие Nw равно {0}, так что, в
обозначениях теоремы 1.7,
Н = Н2, Ях = 0.
В самом деле, если бы Z Ф 0 лежало в Nw, то в силу
равенства D) из § 1 все степени (Z*)k были бы ^-гармоничны, что
противоречит конечномерности Я.
Мы можем сейчас описать гармонические полиномы более
явным образом.
Теорема 3.6. Пусть W — конечная группа отражений,
действующая на конечномерном вещественном векторном пространстве Е,
от*, ..., ог—отражения из W, ах = 0, ..., аг = 0—соответствую-
г
щие отражающие гиперплоскости и я = Ца/. Тогда справедливы
1
следующие утверждения:
(i) H = d(S)n, т.е. гармонические полиномы образуют
линейную оболочку частных производных от я.
(и) Если функция / 6 С°° (Е) удовлетворяет уравнениям д (Р) /=0
при всех Р $/+, то /6 Я. Иначе говоря, каждая W-гармоническая
функция является полиномом.
Доказательство. Докажем сначала утверждение (и).
Рассматривая полиномA) при p = xif видим, что xjf = — qi^i'1—...—qm,
2

§ 3. Инварианты группы Вейля
403
Т. е.
x?£l+(E*)S(E*) A<*<л).
Отсюда следует, что д(Р)/ = 0, если только Р — однородный
полином степени ^ nw (поскольку тогда каждый член будет содержать
некоторую степень Xat, a^w). Итак, /—многочлен степени < nw.
Для доказательства утверждения (i) установим некоторые общие
свойства полинома я. Пусть, как и прежде, Д, ..., /я —
алгебраически независимые образующие кольца /.
Лемма 3.7. Справедливо следующее тождество для якобиана:
д«* ц-ст>
д(хъ ..., хп)
где с—некоторая ненулевая константа.
Доказательство. Пусть q—левая часть доказываемого
тождества. Тогда, в силу формулы для якобиана композиции
отображений, полиномq кососимметричен,т. e.a-q=(deto)q (ag W).
В частности, q аннулируется на каждой гиперплоскости а, = 0 и
потому делится на полином а,.. Таким образом, полином я делит q.
Теперь требуемое тождество вытекает из формулы с суммой,
приведенной в теореме 3.3.
Остается доказать, что сфО. При любом /, l^i'^/г,
многочлены хь /х, ..., /„ алгебраически зависимы. Выберем полином
Qi(xb zi> • • •» zn) минимальной степени et > 0 по xh для которого
Qi(xi> iu •••» /J = 0. Дифференцируя по xk, получаем
Запишем это & виде матричного равенства АВ = СУ где
и С—диагональная матрица, задаваемая формулой
Ввиду минимальности eif detC^O, т. е. detB^O, что и
требовалось доказать.
Следствие 3.8. Полином я кососимметричен, и любой кососим-
метричный полином делится на я.
Теперь ясно, что я€#, поскольку если «/£/+, то полином
d(J)n кососимметричен и потому делится на я. Следовательно,
мы имеем также включение d(S)nc:H. Для доказательства об-

404 Гл. 111. Инварианты и гармонические полиномы
ратного включения установим следующий результат,
представляющий и самостоятельный интерес.
Лемма 3.9. Если d(Q)n=0, то Q£l+S.
Доказательство. Пусть В—положительно-определенная
lF-инвариантная билинейная форма на ЕхЕ. Рассмотрим
соответствующую биекцию Q —+q из S(EC) на S((EC)*). При
доказательстве леммы мы можем предполагать полином Q
однородным. Мы видели, что Snw c/+S, так что лемма очевидно верна при
deg q ^ nw. Предполагая ее утверждение справедливым при deg q =
=m+ 1, выведем его справедливость при deg q = m, а тем самым,
по индукции, и в общем случае. Пусть а—произвольное
отражение из W и а = 0—соответствующая гиперплоскость. Тогда из
d(q)n = 0 следует также равенство d(aq)n = 0. Но поскольку
deg, (aq)=m+ 1, мы имеем
G) «7=2^/*, Ak£S.
Применяя а и вычитая, получаем (поскольку Ak—oAk делится
на а) сравнение q =—aq (mod J). Поскольку отражение а
порождают W, это дает qs= (dets)sq(mod /) при всех s£W. Усредняя
по W, получаем q= q*(modJ)> где полином q* кососимметричен.
По следствию 3.8 имеем q* = ni, где i—однородный инвариант.
Если deg/ > 0, то q^J, как и требовалось. Если же degi =0, то
i = c (константа), т. е. 0 = d(q)n = cd(n)n9 а значит, с = 0. Лемма
доказана.
Для доказательства теоремы 3.6 остается установить, что
Had(S)n, или, эквивалентно, (d(S)n)^dH^. Здесь
ортогональное дополнение берется относительно формы < , >. Однако если
<d(S)n, /?> = 0, то <д(Р)п, S> = 0, так что д(Р)я = 0. По лемме
3.9, p€J = H±. Теорема доказана.
3. Внешние инварианты
Пусть опять W—конечная группа отражений, действующая
на £ и /х (хи ...у хп), ...,/„ (*i, ..., хп)—однородные алгебраи
чески независимые образующие алгебры инвариантов. Мы опишем
сейчас ^-инвариантные дифференциальные формы на £ с
полиномиальными коэффициентами. Как обычно, через d обозначается
внешнее дифференцирование.
Предложение 3.10. Каждая W-инвариантная р-форма на Е с
полиномиальными коэффициентами единственным образом пред-

§ 8. Инварианты группы Вейля
405
ставима в виде
(8) 2 atl ip djuA • • • Adjip, ait ip g /.
ti<...<»p
Доказательство. Поскольку o(dj) = dj при /£/, o(tW9
понятно, что все формы вида (8) инвариантны. Докажем теперь,
что ( DJ форм djitA• • • Adji линейно-независимы над полем
частных Q = R(Xi, ..., хп), так что они образуют базис над Q
пространства р-форм с полиномиальными коэффициентами. В самом
деле, предположим, что
(9) ^2^ ktl i/UA • • • Ad/lV = 0,
где kix t € Q- Зафиксируем набор е±<... <ер. Пусть ep+t,..., en—
дополнительное к нему множество индексов. Умножая (9) на
d/# +1Л • • • Adjeny получаем из леммы 3.7
К edjxA • •. Adjn = ± ket,.... ерсяdxtA... Adxn = 0.
Следовательно, ke% е = 0, что и доказывает линейную
зависимость указанных форм. Отсюда следует, что любая р-форма со е
коэффициентами из Q может быть представлена в виде
A0) ш= 2 % idjixA • • • Adji , а, , €Q.
ii<...<i y F У
Пусть теперь <о—инвариант с полиномиальными коэффициентами.
Опять умножая на dje +iA- • • Adjen> получаем
<*Adjep+1A •. • Adjen = ± caex epndXiA... Adxn,
так что a€ii ###f epn является полиномом. С другой стороны,
применяя o$W к обеим частям равенства A0) и усредняя по W,
видим, что все коэффициенты аехл ###t e W-инвариантны. Так как
aev...,e п—кососимметрический полином, мы заключаем на
основании следствия 3.8, что ае^ е g /. Предложение доказано.
4. Собственные функции операторов,
инвариантных относительно группы Вейля
Пусть g—полупростая алгебра Ли над R, В—ее форма Кил-
линга, 0—инволюция Картана и g = f + j)—соответствующее
разложение Картана. Рассмотрим максимальное абелево
подпространство ас^ и соответствующую группу Вейля W = W (д, 6), дей-

406 Гл. III. Инварианты и гармонические полиномы
ствующую на а (см. Хелгасон [1978, § 1 гл. IX]1)). Тогда группа
W порождена отражениями sa, где а пробегает множество 2
ограниченных корней. Применим предыдущие результаты данного
параграфа к случаю, когда роль пространства Е играет алгебра а.
Определим все функции / на а, являющиеся собственными для
любого оператора вида д(Р), Р£1(а). Если говорить на языке
§ 4.1 гл. II, то мы интересуемся общими собственными функциями
операторов из D(W-a/W), где Wa—группа преобразований а,
порожденная группой W и сдвигами.
Лемма 3.11. Все гомоморфизмы из /(a) в С имеют вид х^:
P—*P(\i), где \l—некоторый элемент из (ас)*. Два таких
гомоморфизма Хц и Xv совпадают тогда и только тогда, когда \i £ W • v.
Доказательство. Равенство A) показывает, что кольцо
S(ac)—целое над /(ас) в том смысле, что каждый элемент из
S(oP) удовлетворяет некоторому алгебраическому уравнению с
коэффициентами из / (ас) и старшим коэффициентом, равным
единице. Согласно теореме 3.5 дополнения, любой гомоморфизм из
/(a) в С продолжается до гомоморфизма S(a) в С и потому
состоит в вычислении значения в некоторой точке (х£(ас)*. Далее,
пусть для двух таких точек |i, v £ (ac)* при всех Р £1 (а)
справедливо равенство Р (\х) = Р (v). Если бы орбиты W \i и Wv не
пересекались, то мы могли бы (поскольку эти орбиты конечны)
найти такой полином Q, что Q > 0 на W\i и Q<0 на Wv.
Тогда сумма Q*= 2 °Q принадлежала бы /(a) и тем не менее
принимала разные значения в точках (л и v. Лемма доказана.
Следствие 3.12. Если ju ..., jt (/ = dima)—алгебраически
независимые образующие кольца /, то отображение
A1) *€а° —(Ы*), ...,/,(*))€а
индуцирует биекцию oP/W на С1.
В самом деле, если (£ь . ..,1|)€С', то отображение //—►?,•
(l^.i^.1) задает, в силу алгебраической независимости jh
гомоморфизм кольца / ((а€)*) в С, который ввиду леммы задается
вычислением значения в некоторой точке е£ас.
При'заданном fx€(ctC)* обозначим через <£V = <$V(a) общее
собственное подпространство
A2) tfn(a) = {/€tf(a): d(J)f = J(v)f при всех /€/(а)}.
1) Или [ДС, § 2 гл. IX], Гото и Гроссханс [1981, пп. 5.1, 5.2 гл. 5].—
Прим. пер ев.

§ 3. Инварианты группы Вейля
407
В соответствии с леммой 3.11, так выглядит любое общее
собственное подпространство операторов d(J), J£l(a). Пусть W^ —
подгруппа в W, оставляющая точку jx неподвижной. В
соответствии с теоремой 2.15 гл. VII [ДС], Изъявляется конечной
группой отражений, действующей на а. Пусть
/^(a)c:S(a)—множество всех И^ц-инвариантов и #ц—соответствующее множество
гармонических полиномиальных функций.
Теорема 3.13. Для любой точки fxg(ac)*
dim<£V(a) = |r|.
Более того, если s пробегает полное множество представителей
классов смежности группы W^ в W и h пробегает некоторый
базис в #s*\ то функции
A3) e—+h(e)exp [s\i(e)]
образуют базис в пространстве $ц(а).
Замечание. В частности, если точка \i регулярна (см. упр. 2),
то функции esv образуют базис в g^.
Начнем с доказательства более слабого результата
A4) dim<£V(a)<|Un.
Для этого выберем некоторый базис hu ..., hw в Н (где w = \ W\)
и рассмотрим соответствующие элементы Ни ..., Hw из S (ac)
(пользуясь порождаемым формой В отождествлением ctc с (ас)*).
Пусть /€<^ц(С1). Положим
*/(/) = @(Я/)/)М О <*<»)•
Так как S = /#, понятно, что из равенства сг(/)=... =cw(f) = 0
следует / = 0. Таким образом, отображение
является взаимно однозначным линейным отображением из 4>ц (а)
в Сш. Отсюда следует неравенство A4).
Лемма 3.14. При любых полиномах Р^1^(а) и h^H*
функция f (e) = ft(e)exp[jx(e)], e£a, удовлетворяет уравнению
A5) d(P)f = P(ii)f.
В частности, /€<$V(a).
Доказательство. Рассмотрим автоморфизм Р —>• Рц
алгебры S(a), задаваемый формулой Ри(А.) = Р(ц, + Я,). Тогда
а (Р) f = д (Р) (e^h) = е»е-»д (Р) (e^h) = е» д(Р») (Л)
= ^ (Р* @) К) Н- е» д (Р*—Р* @)) А.

408
Гл. 111. Инварианты и гармонические полиномы
Однако если Р£/и, то Р*€/д, так что д(Р»—Р (о))Л = 0. Таким
образом, как и утверждалось, d(P)f = P(\i)f.
Эта лемма показывает, что функции A3) принадлежат
пространству £ц(&)- Поскольку (по теореме 3.4) dim#su = | WSVL\
= 1^1» теорема 3.13 будет доказана, если мы учтем неравенство
A4) и установим линейную независимость функций A3). При
разных s линейные функционалы s\i различны. Следовательно,
они различны на некоторой прямой в а, проходящей через 0, на
которой базисные элементы h не обращаются тождественно в нуль.
Поэтому остается доказать следующий элементарный результат:
Лемма 3.15. Пусть с±, ...,с„ — различные комплексные числа
и ри ..., рп — полиномы на R с комплексными коэффициентами.
Предположим, что
A6) 2М0еС/' = 0 при всех /gR.
Тогда рх ==... = рп = 0.
Эта лемма следует из результата упр. D5 гл. I.
5. Свойства сужения
Пусть, в обозначениях п. 4 § 3, §—подалгебра Картана в д,
содержащая а, и fyC—ее комплексификация. Тогда в дополнение
к рассмотренной выше группе Вей л я W, действующей на ас, мы
имеем также группу Вейля W пары (gc, ip). Для групп W и W
мы можем ввести алгебры / (а*) и / (ip*) инвариантных
полиномиальных функций на ас и ip соответственно. Пусть We —
подгруппа в W', сохраняющая подалгебру а. Из предложения 8.10
гл. VII книги Хелгасона [1978] мы знаем, что сужение s—► s | a
является гомоморфизмом Wb на W. Если pgS((f)C)*), то
сужение этого полинома на ас обозначим через р. В соответствии с
предыдущим,
A7) P<tl(b°*)=>P<t'(a*)-
Хотя ,это отображение сужения и не всегда сюръективно (см. упр.
D3 гл. II), для рациональных инвариантов справедлив
следующий и положительный результат»
Теорема 3.16. Пусть J с/(a*)—образ алгебры I (tp*) при ото-
брожении сужения р—+р. Тогда поля частных C(J) и С (/(а*))
совпадают.

§ 8. Инварианты группы Вейля
409
Доказательство. Из равенства A) нам известно, что
кольцо S(J)C*) — целое над /A)с*). Сужение р—+р порождает
гомоморфизм из S(f)C*) в S(ct*), отображающий /(^*) на У.
Следовательно, кольцо S(a*) цело над У. Предположим теперь, чго С (У)
является собственным подмножеством в С (/(а*)). Тогда
существует такой элемент ag/(a*), что <х(£С(У). Но, как отмечалось,
а алгебраичен над С (У). Поскольку кольцо /(f)C*) —
конечно-порожденное, его гомоморфный образ У также имеет конечное число
образующих. Обозначим их %и ..., 1Г. Пусть
Ра(х)=х»+па)х»~*+...+!па) (п>2)
— полином наименьшей степени с коэффициентами из поля С (У)
= C(£i, . ..,£„), для которого а является корнем и у которого
старший коэффициент равен 1. Пусть /(!) — произведение
знаменателей всех /,(£) и q(l) — произведение /(£) на дискриминант
полинома f(£)Pa(x)- Тогда q(l) является не равной
тождественно нулю (в силу минимальности степени ра) полиномиальной
функцией на ас.
Рассмотрим теперь связную компактную группу Ли U с
алгеброй Ли l + ip. Положим a* = ia и введем соответствующую
аналитическую подгруппу A*aU. Выберем элемент #*€а* так,
чтобы выполнялись условия
A8) q(l)(H*) 7^=0, expR/Z* плотно в Л*.
Рассмотрим гомоморфизм к: р—+р(Н*) из У в С. Образ ра(х)
относительно Я является полиномом с дискриминантом =й 0,
который поэтому имеет п различных корней, скажем аь ..., ап g С.
Мы хотим для каждого фиксированного i (l^i^n) продолжить
X до гомоморфизма А,,: С [£1э ..., Ъ>п а] —> С, полагая Я/ (а) = а,.
Чтобы убедиться в том, что это возможно, рассмотрим полином
р(Ё, х)с коэффициентами из У = С [llf ..., |г], имеющий своим
корнем а. Тогда р (£, х) делится на ра(х), т. е. р (£, х)=ра(х) q (£, х).
Коэффициенты q (£, дс) находятся обычным делением, так что они
оказываются рациональными выражениями от |ь ..., Ъ>г со
знаменателями, делящими /(|). Так как, в силу условия A8), М/F))
=5^=0, образ р(%, х) относительно X имеет корнем х = а/. Таким
образом, отображение К( корректно определено. Поскольку
кольцо S (а*) цело над У и тем более над С Г£ь ..., £г, а], существует
некоторый гомоморфизм Л,.: S(a*)—+C, продолжающий X, (§ 3
дополнения). Тогда существует такой элемент Н(£оРу что ЛД/?)
~р(Н() при всех p£S(a*). В частности,
р{Н.) = р{Нг) = р{Н2) при р<Е/A,С*),
откуда следует (см. лемму 3.11), что //*, Ях и Н2 сопряжены
относительно группы W. Поскольку Нф£аф и множество fynf

410 Гл. III. Инварианты и гармонические полиномы
+ а*а§£, на котором все корни agA(gC, fyC) чисто мнимы, W-
инвариантно, мы получаем
Ни #2€tf)nf + a*)nac = a*.
Выберем теперь ии u2£U так, чтобы Ad (ut) //* = Hi (/ = 1,2).
Тогда
и( exp tH^wr1 = exp tHt.
Поэтому, в силу A8), иг и и2 принадлежат нормализатору а* в
U. Используя предложение 8.8 из гл. VII [ДС], описывающее
нормализатор, мы можем поэтому заключить, что Нг и Н2
W-сопряжены. Но тогда, поскольку a£/(a*), мы получаем
а, = Лх (a) = a (HJ = а (Я2) = Л2 (а) = а2,
что невозможно.
Замечание. В соответствии с упр. D3 к гл. II, для
некоторых исключительных симметрических пространств 1ф/(а*).
Поэтому, в силу предложения 5.30 гл. II, в общем случае Z(G/K)
ФОцв/К). Приведенная выше теорема показывает, что
положение исправляется при переходе к полям частных колец Z(G) и
D(G/K).
§ 4. Структура орбит пространства Р
1. Некоторые результаты общего характера
В этом параграфе мы существенно используем результаты,
доказанные в §§ 1, 2 дополнения. Пусть g—полупростая
алгебра Ли над С, g0—ее произвольная вещественная форма.
Обозначим через 0 картановскую инволюцию в д0. Мы продолжаем ее
до инволютивного автоморфизма алгебры Ли д, также
обозначаемого 9. Теперь будем варьировать д0.
Лемма 4.1. Указанным способом получаются все инволютивные
автоморфизмы г\ алгебры д.
Доказательство. Пусть gR—это алгебра Ли д,
рассматриваемая как вещественная алгебра Ли, а т]к — автоморфизм gR,
соответствующий т). В соответствии с утверждением из Хелгасон
[1978, упр. В4 гл. II], t)r коммутирует с некоторой картанов-
ской инволюцией на gR. Иными словами, ц сохраняет некоторую
компактную вещественную форму ъ в д. Пусть g = f + :p, g0 = f0
+ Ро — разложения на собственные подпространства инволюции 0.
Положим u = f0 + '"Po- Тогда t> = cpu для подходящего
автоморфизма ф алгебры Ли д. Так как инволюция ф_1т]ф сохраняет и,

§ 4. Структура орбит пространства $
411
и=иПЙ1 + 11Пй_и где д8—собственное подпространство
отображения ф-^ПФ, соответствующее собственному значению е ( = ±1).
Но тогда и П gi + /(ufl 9_i) является разложением Картана
вещественной формы %о алгебры д. Если 0'—соответствующая
инволюция Картана, то г\ является продолжением фв'ф до
инволюции в д.
Пусть G— присоединенная группа алгебры я, т. е. G=Int(gR)
с ассоциированной комплексной структурой (см. [ДС, гл. VIII]).
Обозначим через /С0 и UaG аналитические подгруппы,
отвечающие подалгебрам f0 и и соответственно. Автоморфизм группы G,
индуцированный 0, также обозначим через 9. Пусть /Се—группа
неподвижных точек отображения 9 и К — компонента связности
единицы (/СеH- Займемся теперь изучением орбит действия
группы /С (и /Се) на р.
Пусть а0ср0—максимальное абелево подпространство, аср —
его комплексификация и А (=ехр ade (a))—аналитическая подгруппа
в G с алгеброй Ли а. Положим F = {a£A: a2 = e}. Понятно, что
a£F=$>Qa = a~1 =а, т. е. Fci/(u-
Лемма 4.2. Ke = FK.
Доказательство. Пусть gg/Ce- Используя разложение
Картана g = ц + Ш (и = f0 + ip0) и соответствующее разложение
G = £/exp(/u) в G, мы получаем g = up, где u£U, р = ехрХ
(X$iu). В силу единственности ви = и, вр = р. Однако
отображение ехр взаимно однозначно на ш, так что QX = X. Таким
образом, X€iu()t = ifo, т. е. pg/O По теореме 6.7 из гл. V
книги Хелгасона [1978] имеем u = k1ak2 (kit k2£K0y agexp(/ct0)),
так что 9^ = й1а~1й2. Но тогда равенство ви = и влечет agf,
т. е. g£FK.
Определение. Элемент Х$р называется полупростым
(соотв. нильпотентным), если ad9(X) является полупростым (соотв.
нильпотеытным) эндоморфизмохМ. Элемент Х$р называется
квазирегулярным, если его орбита относительно группы /С имеет
максимальную размерность. Множество полупростых (соотв. нильпо-
тентных, квазирегулярных) элементов в р будет обозначаться
через & (соотв. сЛГ и 5$). Если X g р, то (ad Л"J отображает р в
себя. Мы полагаем (обобщая определение из § 3 гл. III [ДС])
при Xgp, A,gC
A) {)(Х, Я)={У€*к ((adXJ — X)m(Y) = 0 при некотором m}.
Элемент Х$р называется регулярным, если
dim $ (X, 0) = min dim p (К, 0).
Пусть т—множество всех регулярных элементов из р.
Позднее будет доказано, что регулярными являются те квазирегуляр-

412
Гл. 111. Инварианты и гармонические полиномы
ные элементы, которые также и полупросты, т. е.
B) t = 5in<*\
Элементы из Э1Л оЛГ будут называться главными нильпотентными.
2. Нильпотентные элементы
Начнем с установления связи между нильпотентными
элементами и /С-инвариантными полиномами на р. Далее мы изучим
нильпотентные элементы путем вложения их в подалгебры
алгебры g, изоморфные Si B, С).
Как и в § 1, мы рассматриваем симметрические алгебры S(p),
S (р*), множества / (р) и / (р*) соответствующих /(-инвариантов и
множества /+ (р), 1+ (р*) всех /(-инвариантов без постоянного члена.
Теорема 4.3. Пусть Х$р. Тогда
X£jf&f(X) = 0 при всех /€M**)S(F).
Доказательство. Предположим, что /(Л) = 0 при всех
f£l+S. Тогда, в частности, /(Х) = 0 для всех G-инвариантных
полиномиальных функций на g. Поэтому характеристический
полином detg(U — adX) сводится к A,dima, так что оператор adX
нильпотентен ([ДС, § 1 гл. III]).
Пусть, обратно, X^Jf. При доказательстве того, что f(X)=0
для всех /g/+S, можно предполагать ХфО. В силу теоремы
7.4 из гл. IX книги Хелгасон [1978], мы можем выбрать такие
элементы Я, У £ g, что
C) [Я, X] = 2Х9 [Я, У] = -27, [Ху У] - Я.
Полагая Н = Ht + Н» (Нг g f, H$ g p), имеем
2Х = [Я, Х] = [Я*,Х] = [Я»,Х].
Поскольку X g р, то [Я{, Х]=2Х. Отсюда следует, что ехр (С adHf)
xX=s(C\{0})X. Последнее множество содержит в своем
замыкании 0. По непрерывности получаем /(Х) = /:@) = 0.
Определение. §12-тройкой в g называется тройка (Я, X, У)
ненулевых элементов из g, удовлетворяющих приведенным выше
соотношениям C); §12-тройка называется нормальной, если Я(£!,
X, Y^P.
Лемма 4.4. Если (Я, X, Y) и (Я, Х9 Yf)—две 812-тройки в g,
то Y = Yl.
Доказательство. Имеем [XyY—У7] «Я—Я = 0, так что
У —y'gker(ad(X)). Кроме того,
(ad Я+ 2/) (У — У')«—2У + 2У' + 2(У —У')-0*

§ 4. Структура орбит пространства р
413
Но как отмечено в доказательстве леммы 7.6 гл. IX книги Хел-
гасон [1978], оператор Я+ 2/ иевырожден на ядре ad Л".
Следовательно, Y = Y'.
Лемма 4.5. Пусть и eg—нильпотентная подалгебра.
Предположим, что для элемента Я^д справедливо равенство ad#(n) = n.
Тогда ead <«>Я = Я + п.
Доказательство. Включение еад(п)(Я)сЯ + п очевидно.
Нужно доказать обратное: если Z£n, то Н + Z£eadin)(H). Если
определить убывающий центральный ряд ^°п = п,..., ^+1п
= [и, #*п], как в [ДС, § 2 гл. III], то достаточно доказать для
всех р^О включение
D) H + Z£**w(H)+1grn.
В самом деле, при достаточно большом р имеем #яп = 0.
Докажем включение D) по индукции. Случай /? = 0 очевиден.
Предположим, что элементы Yp£n, Zp£%P~xn9 таковы, что
E) H + Z = **Yr(H) + Zp.
Поскольку ad Я является биекцией п на п, сохраняющей ^"п,
существует элемент Z0 g ^-1rt, для которого Zp = [Z0, Я]. Но тогда
^iV«(«)Bfl + [y, + Zlf H]+±[Yp + Z0, [Yp + Z0, Я]] + ...,
^(^)(«)«tf + [y/f Я] + 1[У^ [Yp, Я]] + ... .
Оба этих разложения содержат конечное число членов. Их
разность принадлежит [Z0, Я] + ^п, поэтому, применяя E), получаем
Тем самым включение D) и лемма доказаны.
Группа К действует на множестве §12-троек (Я, Xf Y)
(нормальных или нет) по правилу
Ь(Я, *, Y) = (k-H9 k-X, ft.У).
Предложение 4.6. Каждый элемент Х£<№\Щ содержится
в некоторой нормальной 812-тройке. Любые две такие тройки
К-сопряжены. Тем самым индуцируется биекция между
множеством всех К-орбит в <Л*\{0} и множеством всех классов К-сопря-
женности нормальных §12-троек.
Доказательство. В силу теоремы 7.4 из гл. IX книги
Хелгасон [1978], примененной к gR, существует $12-тройка (Я*,
Х9 V*), содержащая X. Модифицируем эту тройку таким обра-
80м, чтобы она стала нормальной. Пусть Н*^Н+НЬ (Н £t,

414 Гл. III. Инварианты и гармонические полиномы
#»€{)). Тогда
2Х = [Я*, *] = [#, *] + [#», X],
т. е. [Я, Л]=2Х, [Я^, Х]=0. Записывая аналогичным образом
К* = Yi + г J, на основании равенства [X, Y*] = Я* заключаем,
что [X, К£]=Я. По лемме 7.6 из Хелгасон [1978, гл. IX],
соотношения [Я, Х]=2Х, H£[Xf g] влекут существование элемента
ygg, для которого справедливо соотношение C). Рассматривая
снова разложение Y = Yt -f- Y», мы получаем из C), что (Я, X, Y$)
также является 312-тройкой (поскольку Я^{, Х£р). Тогда (по
лемме 4.4) Y = Y», так что (Я, X, К) является нормальной §12-
тройкой.
Пусть (Я', X, Y')—другая нормальная £12-тройка,
содержащая X, и пусть Н0 = Н' — Я, так что [X, Я0]=0 и Я0€Л-
Централизатор gx элемента X в g инвариантен относительно ad Я.
Из результатов § 1 дополнения, примененных к СЯ + СХ + СУ,
нам известно, что оператор ad Я (а потому и (ad#)|gx)
полупрост, а также что собственные значения ad Я на дх лежат в Z+.
Пусть gxcgx— подпространство, натянутое на собственные
векторы ad Я, отвечающие строго положительным собственным
значениям. По следствию 1.5 дополнения имеем
F) в? = в*П[*,8]-
Централизатор Iх элемента X в I инвариантен относительно ad Я.
Полагая f£ = Fng+, получаем из F), что t$ = txr\[X, g]. Это
множество очевидным образом содержит HQ = [X, Y' — Y]. Теперь
в силу тождества Якоби заключаем, что g? — подалгебра.
Непосредственно видно, что она нильпотентна. Следовательно, алгебра
1$ нильпотентна, и из леммы 4.5 мы получаем равенство
F') ехрМ!х)Я = Я + 1х.
В частности, существует такой элемент k£K, что kX = X и kH=
= Я + Н0 = Н'. Тогда из леммы 4.4 следует равенство Y' = kY.
Мы доказали первые два утверждения предложения.
Последнее проверяется непосредственно, причем требуемая биекция
задается отображением К-Х—+К-(Н, Xf Y).
Лемма 4.7. Пусть (Я, X, Y) и (Я', X', Y')—dee
нормальные §12-тройки. Они К-сопряжены в том и только том случае,
если К-сопряжены элементы Я и Я'.
Доказательство. Мы можем предполагать, что Н = Н\ и
должны доказать, что нормальные £12-тройки (Я, X, Y) и (Я, X', Y')
/(-сопряжены. Пусть g°, f° и р°—централизаторы Я в g, f и р
соответственно. Поскольку QH = H, получаем g° = I0 + p°.
Обозначим через K°aG аналитическую подгруппу, соответствующую